JP5404346B2 - Imaging apparatus, electronic scope, and electronic endoscope system - Google Patents
Imaging apparatus, electronic scope, and electronic endoscope system Download PDFInfo
- Publication number
- JP5404346B2 JP5404346B2 JP2009270906A JP2009270906A JP5404346B2 JP 5404346 B2 JP5404346 B2 JP 5404346B2 JP 2009270906 A JP2009270906 A JP 2009270906A JP 2009270906 A JP2009270906 A JP 2009270906A JP 5404346 B2 JP5404346 B2 JP 5404346B2
- Authority
- JP
- Japan
- Prior art keywords
- low
- image
- imaging device
- luminance
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 67
- 238000012545 processing Methods 0.000 claims description 50
- 238000012937 correction Methods 0.000 claims description 35
- 238000003780 insertion Methods 0.000 claims description 2
- 230000037431 insertion Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 description 40
- 230000008569 process Effects 0.000 description 39
- 238000012935 Averaging Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 7
- 238000005452 bending Methods 0.000 description 6
- 238000005286 illumination Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000032683 aging Effects 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 229910001507 metal halide Inorganic materials 0.000 description 1
- 150000005309 metal halides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
この発明は、固体撮像素子の固定パターンノイズを除去する機能を有する撮像装置、該撮像装置を有する電子スコープ、及び該電子スコープを有する電子内視鏡システムに関する。 The present invention relates to an imaging device having a function of removing fixed pattern noise of a solid-state imaging device, an electronic scope having the imaging device, and an electronic endoscope system having the electronic scope.
近年、固体撮像素子を搭載した撮像装置が広く普及している。代表的な固体撮像素子として、例えば、安価かつ低消費電力で量産性に優れたCMOS(Complementary Metal
Oxide Semiconductor)イメージセンサが知られている。しかし、CMOSイメージセンサには、固定パターンノイズが大きいため、画質が劣化するという問題がある。ここでいう固定パターンノイズとは、各画素が潜在的に持つ発生不可避なノイズである。固定パターンノイズの発生原因には、例えば画素毎のトランジスタ特性のばらつきや、入射光量と無関係に発生する暗電流等が挙げられる。
In recent years, imaging devices equipped with solid-state imaging elements have become widespread. As a representative solid-state imaging device, for example, CMOS (Complementary Metal) that is inexpensive, has low power consumption, and is excellent in mass productivity.
Oxide Semiconductor) image sensors are known. However, the CMOS image sensor has a problem that the image quality deteriorates due to a large fixed pattern noise. The fixed pattern noise here is noise that is unavoidably generated by each pixel. Causes of the occurrence of fixed pattern noise include, for example, variations in transistor characteristics for each pixel, dark current generated regardless of the amount of incident light, and the like.
CMOSイメージセンサの出力電荷を処理する一般的な画像処理回路は、この種のノイズによる画質の劣化を改善するため、製造段階で評価された搭載CMOSの固定パターンノイズのデータを予め保持している。画像処理回路は、CMOSイメージセンサから出力される各画素の撮像データから、対応する固定パターンノイズのデータを減算して、画素毎に異なるノイズを除去する。以降の説明では、画像処理回路が保持する固定パターンノイズのデータを、CMOSイメージセンサが潜在的に持つ固定パターンノイズとの混同を避けるため、「ノイズ除去データ」と記す。 A general image processing circuit that processes output charges of a CMOS image sensor holds in advance fixed pattern noise data of an on-board CMOS evaluated at the manufacturing stage in order to improve image quality degradation due to this type of noise. . The image processing circuit subtracts the corresponding fixed pattern noise data from the imaging data of each pixel output from the CMOS image sensor, and removes noise that differs for each pixel. In the following description, the fixed pattern noise data held by the image processing circuit is referred to as “noise removal data” in order to avoid confusion with the fixed pattern noise potentially possessed by the CMOS image sensor.
この種の撮像装置においては、CMOSイメージセンサの後段に配置された信号増幅器のゲインに応じて、除去すべき固定パターンノイズが変化する。ノイズ除去データが固定値である場合は、変化後の固定パターンノイズを除去しきれないため、残存したノイズによる画質の劣化が避けられない。そこで、ノイズ除去データを信号増幅器のゲインに応じて補正する撮像装置が、例えば特許文献1で提案されている。
In this type of imaging apparatus, the fixed pattern noise to be removed changes according to the gain of the signal amplifier arranged at the subsequent stage of the CMOS image sensor. When the noise removal data is a fixed value, the fixed pattern noise after the change cannot be completely removed, so that the image quality deterioration due to the remaining noise is unavoidable. Therefore, for example,
ところで、信号増幅器等のアナログ的な回路構成においては、部品個体差や経時変化、使用環境(温度)等も固定パターンノイズを変化させる原因として挙げられる。この種の原因による固定パターンノイズの変化と、ゲイン調整時の固定パターンノイズの変化は、複合的に現れる。そのため、例えばゲインに応じて変化する固定パターンノイズを良好に除去するためには、ゲインの変化率をノイズ除去データに単純に反映させる(例えばゲインを2倍に設定した場合にノイズ除去データも2倍に設定する等)だけでは足りず、信号増幅器の部品個体差や経時変化、温度依存性等も考慮してノイズ除去データを補正する必要がある。しかし、これらの変化原因は、予測が難しく、補正データを予め用意しておくのは実質的に不可能である。すなわち、特許文献1に記載の撮像装置では、ノイズ除去データを適切に補正しきれないため、残存したノイズによる画質の劣化が避けられない。
By the way, in an analog circuit configuration such as a signal amplifier, individual component differences, changes with time, use environment (temperature), and the like are also cited as causes for changing fixed pattern noise. The change of the fixed pattern noise due to this kind of cause and the change of the fixed pattern noise at the time of gain adjustment appear in combination. Therefore, for example, in order to satisfactorily remove fixed pattern noise that changes in accordance with the gain, the gain change rate is simply reflected in the noise removal data (for example, when the gain is set to 2 times, the noise removal data is also 2). However, it is necessary to correct the noise removal data in consideration of individual differences in signal amplifier components, changes with time, temperature dependence, and the like. However, it is difficult to predict the cause of these changes, and it is virtually impossible to prepare correction data in advance. That is, in the imaging device described in
また、特許文献1には、部品の温度依存性を考慮したノイズ除去データの補正を行うため、撮像装置内に温度センサを実装した構成が記載されている。しかし、例えば電子スコープ等の小型撮像装置では、実装スペースの制約上、温度センサ等の部品をCMOSイメージセンサ近傍に配置するのは困難である。このように、特許文献1に記載の撮像装置には、小型化設計に不向きであるという欠点がある。
Further,
また、複合的な原因で変化する固定パターンノイズを良好に除去するためには、CMOSイメージセンサを一時的に遮光するメカニカルシャッタが必要である。しかし、メカニカルシャッタをCMOSイメージセンサ近傍に配置すると電子スコープが大型化するため、安易には採用できない。 Further, in order to satisfactorily remove fixed pattern noise that changes due to multiple causes, a mechanical shutter that temporarily shields the CMOS image sensor is required. However, if the mechanical shutter is disposed in the vicinity of the CMOS image sensor, the electronic scope becomes large and cannot be easily adopted.
本発明は上記の事情に鑑みてなされたものであり、その目的とするところは、ノイズ除去データを固定パターンノイズの変化に応じて補正するのに好適な撮像装置を提供することである。また、この撮像装置を搭載するのに好適な機器の一形態である電子スコープ、及び該電子スコープを有する電子内視鏡システムを提供することである。 The present invention has been made in view of the above circumstances, and an object of the present invention is to provide an imaging apparatus suitable for correcting noise removal data in accordance with changes in fixed pattern noise. Another object of the present invention is to provide an electronic scope that is one form of equipment suitable for mounting the imaging apparatus, and an electronic endoscope system having the electronic scope.
上記の課題を解決する本発明の一形態に係る撮像装置は、固体撮像素子と、その固定パターンノイズに対応するノイズ除去データを保持したノイズ除去データ保持手段と、固体撮像素子中の一部の画素を遮光する画素遮光手段を有する。この撮像装置は、ノイズ除去データ補正手段によって、遮光画素の撮像信号値と、ノイズ除去データで表現される該遮光画素の信号値との信号比に基づいてノイズ除去データを補正する。この信号比は、固体撮像素子の周辺回路(例えばアナログアンプ等)を介した実測値に基づく値である。そのため、補正後のノイズ除去データは、アナログアンプ等の周辺回路の部品個体差や経時変化、温度依存性等を反映している。よって、固体撮像素子が出力する撮像信号に含まれる固定パターンノイズは、例えばアナログアンプのゲインや部品個体差、経時変化、温度依存性等と無関係に、固定パターンノイズ除去手段による補正後ノイズ除去データを用いた除去処理によって良好に除去される。 An imaging apparatus according to an aspect of the present invention that solves the above problems includes a solid-state imaging device, noise removal data holding means that holds noise removal data corresponding to the fixed pattern noise, and a part of the solid-state imaging device. It has pixel light shielding means for shielding the pixels. In this imaging apparatus, the noise removal data correction unit corrects the noise removal data based on the signal ratio between the imaging signal value of the light-shielded pixel and the signal value of the light-shielded pixel expressed by the noise removal data. This signal ratio is a value based on an actual measurement value via a peripheral circuit (for example, an analog amplifier) of the solid-state imaging device. For this reason, the corrected noise removal data reflects individual differences in components of the peripheral circuit such as an analog amplifier, changes with time, temperature dependency, and the like. Therefore, the fixed pattern noise included in the imaging signal output from the solid-state imaging device is, for example, the noise removal data corrected by the fixed pattern noise removing unit regardless of the gain of the analog amplifier, individual component differences, aging, temperature dependency, etc. It is removed favorably by the removal process using.
画素遮光手段は、一部の画素を実質的な遮光画素とすべく、固体撮像素子を動作させて低輝度画像を撮像する低輝度画像撮像手段と、撮像された低輝度画像を複数の領域に分割する低輝度画像分割手段と、分割された複数の領域の中から輝度の低い所定数の低輝度領域を選択する低輝度領域選択手段と、選択された所定数の低輝度領域が所定の条件を満たすか否かを判定する条件判定手段と、所定の条件を満たすと判定された場合に、所定数の低輝度領域の画素を遮光画素とみなす遮光画素みなし手段とを有する構成としてもよい。 The pixel shading means includes a low-brightness image pick-up means that operates a solid-state imaging device to pick up a low-brightness image so that some pixels are substantially light-shielding pixels, and the picked-up low-brightness image is divided into a plurality of regions. A low-luminance image dividing means for dividing; a low-luminance area selecting means for selecting a predetermined number of low-luminance areas having a low luminance from a plurality of divided areas; and a predetermined condition for the predetermined number of low-luminance areas selected It may be configured to include a condition determination unit that determines whether or not the condition is satisfied and a light-shielding pixel considering unit that regards a predetermined number of pixels in the low luminance region as light-shielding pixels when it is determined that the predetermined condition is satisfied.
低輝度画像撮像手段による低輝度画像の撮像時は、露光量を最小に抑えるため、固体撮像素子を最高速の電子シャッタ速度で動作させてもよい。 When a low-brightness image is picked up by the low-brightness image pickup unit, the solid-state image sensor may be operated at the highest electronic shutter speed in order to minimize the exposure amount.
低輝度画像撮像手段は、低輝度画像に含まれ得るランダムノイズを良好に除去するため、低輝度画像を複数枚撮像し、複数枚の低輝度画像を平均化して一枚の低輝度画像を生成してもよい。この場合、低輝度画像分割手段は、生成された一枚の低輝度画像を複数の領域に分割することとなる。 The low-brightness image capture means captures multiple low-brightness images and generates a single low-brightness image by averaging multiple low-brightness images in order to satisfactorily remove random noise that may be included in the low-brightness image. May be. In this case, the low luminance image dividing means divides the generated low luminance image into a plurality of regions.
本発明に係る撮像装置は、選択された全ての低輝度領域の信号値が低い値で分布しているかどうかを判断するため、これら低輝度領域の信号値の標準偏差を計算する標準偏差計算手段を更に有する構成としてもよい。この場合において、所定の条件は、低輝度領域の信号値の標準偏差が所定の閾値以下であることをいう。 In order to determine whether or not the signal values of all the selected low-luminance areas are distributed at a low value, the imaging apparatus according to the present invention calculates standard deviation calculation means for calculating the standard deviation of the signal values of these low-luminance areas It is good also as a structure which further has. In this case, the predetermined condition means that the standard deviation of the signal value in the low luminance region is not more than a predetermined threshold.
別の形態によれば、本発明に係る撮像装置は、選択された全ての低輝度領域の信号値が低い値で分布しているかどうかを判断するため、これら低輝度領域の信号値の標準偏差、及び該信号値の平均値を計算する計算手段を更に有する構成であってもよい。この場合において、所定の条件は、低輝度領域の信号値の標準偏差、平均値がそれぞれ、第一、第二の閾値以下であることをいう。 According to another aspect, the imaging apparatus according to the present invention determines whether or not the signal values of all the selected low-luminance regions are distributed at a low value, so that the standard deviation of the signal values of these low-luminance regions is determined. And a calculation means for calculating an average value of the signal values. In this case, the predetermined condition means that the standard deviation and average value of the signal value in the low luminance region are equal to or less than the first and second threshold values, respectively.
画素遮光手段は、固体撮像素子中の一部の画素を被膜する遮光膜であってもよい。この遮光膜は、撮影画像中に黒点として現れないように、固体撮像素子の有効画素領域外の画素を被膜したものとしてもよい。 The pixel light shielding means may be a light shielding film that coats a part of the pixels in the solid-state imaging device. The light-shielding film may be formed by coating pixels outside the effective pixel area of the solid-state imaging device so that black dots do not appear in the captured image.
本発明に係る撮像装置で想定される固体撮像素子は、例えばCMOSイメージセンサである。 The solid-state imaging device assumed in the imaging device according to the present invention is, for example, a CMOS image sensor.
上記の課題を解決する本発明の一形態に係る電子スコープは、上記の何れかに記載の撮像装置を挿入部の先端に搭載した機器である。 An electronic scope according to an embodiment of the present invention that solves the above-described problems is a device in which the imaging device according to any one of the above is mounted at the distal end of the insertion portion.
上記の課題を解決する本発明の一形態に係る電子内視鏡システムは、上記電子スコープと、該電子スコープが出力する固定パターンノイズ除去後の撮像信号に所定の信号処理を施す信号処理装置とを有したシステムである。この信号処理装置は、低輝度画像撮像手段による低輝度画像撮像中、暗い画像が術者に唐突に提示されるのを避けるため、外部モニタへの出力を該低輝度画像を撮像する直前の画像に固定する。 An electronic endoscope system according to an aspect of the present invention that solves the above problems includes the electronic scope, and a signal processing device that performs predetermined signal processing on an imaging signal that is output from the electronic scope and after removal of fixed pattern noise. It is a system with In order to avoid a dark image being suddenly presented to the surgeon during the low-brightness image pick-up by the low-brightness image pick-up means, this signal processing device outputs the image to the external monitor immediately before picking up the low-brightness image. To fix.
本発明によれば、ノイズ除去データを固定パターンノイズの変化に応じて補正するのに好適な撮像装置が提供される。 According to the present invention, an imaging apparatus suitable for correcting noise removal data in accordance with a change in fixed pattern noise is provided.
以下、図面を参照して、本発明の実施形態の撮像装置を有する電子内視鏡システムについて説明する。 Hereinafter, an electronic endoscope system having an imaging apparatus according to an embodiment of the present invention will be described with reference to the drawings.
図1は、本実施形態の電子内視鏡システム1の外観図である。図1に示されるように、電子内視鏡システム1は、被写体を撮影するための電子スコープ100を有している。電子スコープ100は、可撓性を有するシース(外皮)11aによって外装された可撓管11を備えている。可撓管11の先端には、硬質性を有する樹脂製筐体によって外装された先端部12が連結されている。可撓管11と先端部12との連結箇所にある湾曲部14は、可撓管11の基端に連結された手元操作部13からの遠隔操作(具体的には、湾曲操作ノブ13aの回転操作)によって屈曲自在に構成されている。この屈曲機構は、一般的な電子スコープに組み込まれている周知の機構であり、湾曲操作ノブ13aの回転操作に連動した操作ワイヤの牽引によって湾曲部14を屈曲させるように構成されている。先端部12の方向が上記操作による屈曲動作に応じて変わることにより、電子スコープ100による撮影領域が移動する。
FIG. 1 is an external view of an
図1に示されるように、電子内視鏡システム1は、プロセッサ200を有している。プロセッサ200は、電子スコープ100からの信号を処理する信号処理装置と、自然光の届かない体腔内を電子スコープ100を介して照明する光源装置とを一体に備えた装置である。別の実施形態では、信号処理装置と光源装置とを別体で構成してもよい。
As shown in FIG. 1, the
プロセッサ200には、電子スコープ100の基端に設けられたコネクタ部10に対応するコネクタ部20が設けられている。コネクタ部20は、コネクタ部10に対応する連結構造を有し、電子スコープ100とプロセッサ200とを電気的にかつ光学的に接続するように構成されている。
The
図2は、電子内視鏡システム1の構成を示すブロック図である。図2に示されるように、電子内視鏡システム1は、所定のケーブルを介してプロセッサ200に接続されたモニタ300を有している。なお、図1においては、図面を簡略化するため、モニタ300を図示省略している。
FIG. 2 is a block diagram showing a configuration of the
図2に示されるように、プロセッサ200は、システムコントローラ202、タイミングコントローラ204を有している。システムコントローラ202は、電子内視鏡システム1を構成する各要素を制御する。タイミングコントローラ204は、信号の処理タイミングを調整するクロックパルスを電子内視鏡システム1内の各種回路に出力する。
As illustrated in FIG. 2, the
ランプ208は、ランプ電源イグナイタ206による始動後、白色光を放射する。ランプ208には、キセノンランプ、ハロゲンランプ、水銀ランプ、メタルハライドランプ等の高輝度ランプが適している。ランプ208から放射された照明光は、集光レンズ210によって集光されつつ絞り212を介して適正な光量に制限されて、LCB(light carrying bundle)102の入射端に入射する。
The
絞り212には、図示省略されたアームやギヤ等の伝達機構を介してモータ214が機械的に連結されている。モータ214は例えばDCモータであり、ドライバ216のドライブ制御下で駆動する。絞り212は、モニタ300に表示される映像を適正な明るさにするため、モータ214によって動作して開度が変化して、ランプ208から放射された照明光の光量を開度に応じて制限する。適正とされる映像の明るさの基準は、術者によるフロントパネル218の輝度調節操作に応じて設定変更される。なお、ドライバ216を制御して輝度調整を行う調光回路は周知の回路であり、本明細書においては省略することとする。
A
LCB102の入射端に入射した照明光は、LCB102の内部を全反射を繰り返すことによって伝播する。LCB102を伝播した照明光は、電子スコープ100の先端に配されたLCB102の射出端から射出する。LCB102の射出端から射出した照明光は、配光レンズ104を介して被写体を照明する。被写体からの反射光は、対物レンズ106を介して固体撮像素子108の受光面上で光学像を結ぶ。
Illumination light incident on the incident end of the
固体撮像素子108は、例えばベイヤ型画素配置を有する単板式カラーCMOSイメージセンサであり、受光面上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R、G、Bの各色に応じた撮像信号に変換する。変換された撮像信号は、AFE(Analog Front End)110内のアナログアンプAPによる増幅後、AD変換されて、ドライバ信号処理回路112に入力する。
The solid-
ここで、映像の明るさは、通常、光源側の調光制御で調節される。そのため、固体撮像素子108の電子シャッタ速度及びアナログアンプAPのゲインは、基本的には、固定値である。但し、例えば手ぶれ補正を行う場合や、被写体の明るさが急激に変動した場合等、特定の条件下では、電子シャッタ速度又はゲインを変更する。例として、手ぶれ補正を行う場合は、固体撮像素子108の電子シャッタ速度を上げる。このとき、絞り212又はモータ214等の機械的要素は、急激な変動に対して追従が遅れる。その結果、映像の明るさは、露光量不足によって急激に低下する。これを回避するため、絞り212が目標開度に達するまでの一時的な期間だけアナログアンプAPのゲインを増加させて、映像の明るさを適正なレベルまで増加させる。
Here, the brightness of the image is normally adjusted by dimming control on the light source side. Therefore, the electronic shutter speed of the solid-
図3は、ドライバ信号処理回路112及びその周辺回路の構成を示すブロック図である。なお、図3において、ドライバ信号処理回路112は、固体撮像素子108又はAFE110との結線が示されるが、図面を簡略化するため、それ以外の回路との結線は省略されている。
FIG. 3 is a block diagram showing the configuration of the driver
図3に示されるように、ドライバ信号処理回路112は、スコープ制御部30、画像処理エンジン32、フラッシュROM(Read Only Memory)34、SDRAM(Synchronous Dynamic Random Access Memory)36、DA変換器38を有している。
As shown in FIG. 3, the driver
スコープ制御部30は、メモリ114にアクセスして電子スコープ100の固有情報を読み出す。電子スコープ100の固有情報には、例えば固体撮像素子108の画素数や感度、対応可能なレート、型番等が含まれる。スコープ制御部30は、メモリ114から読み出された固有情報をシステムコントローラ202に出力する。
The
システムコントローラ202は、スコープ制御部30から出力された固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成された制御信号を用いて、プロセッサ200に接続中の電子スコープ(ここでは電子スコープ100)に適した処理がされるようにプロセッサ200内の各種回路の動作やタイミングを制御する。なお、システムコントローラ202は、電子スコープの型番と、この型番の電子スコープに適した制御情報とを対応付けたテーブルを有した構成としてもよい。この場合、システムコントローラ202は、対応テーブルの制御情報を参照して、プロセッサ200に接続中の電子スコープに適した処理がされるようにプロセッサ200内の各種回路の動作やタイミングを制御する。
The
タイミングコントローラ204は、システムコントローラ202によるタイミング制御に従って、スコープ制御部30にクロックパルスを供給する。
The
スコープ制御部30は、タイミングコントローラ204から供給さるクロックパルスに従って、固体撮像素子108をプロセッサ200側で処理される映像のフレームレートに同期したタイミングで駆動制御する。スコープ制御部30は、タイミングコントローラ204のクロックパルスに従って、画像処理エンジン32の動作も制御する。画像処理エンジン32は、種々の原因で変化する固体撮像素子108の固定パターンノイズを良好に除去するため、図4のフローチャートに示されるノイズ除去データ補正処理を実行して、ノイズ除去データを補正する。なお、以降の本明細書中の説明並びに図面において、処理ステップは「S」と省略して記す。
The
図4に示されるノイズ除去データ補正処理は、例えばシステム起動中、定期的に実行される。但し、リソースの節約のため、ノイズ除去データ補正処理の実行タイミングをシステム起動直後や特定のタイミング等に限定してもよい。ここでいう特定のタイミングには、例えば前述した、手ぶれ補正を行うタイミングや、被写体の明るさが急激に変動したタイミング等が想定される。 The noise removal data correction process shown in FIG. 4 is periodically executed, for example, during system startup. However, in order to save resources, the execution timing of the noise removal data correction process may be limited to immediately after the system is started or to a specific timing. As the specific timing here, for example, the above-described timing for performing camera shake correction, the timing at which the brightness of the subject rapidly changes, and the like are assumed.
画像処理エンジン32は、ノイズ除去データ補正回路32aを有している。S1の処理では、ノイズ除去データ補正回路32aは、定期的に、又はシステム起動直後に、若しくはアナログアンプAPのゲインを変更する特定のタイミングでフラッシュROM34にアクセスして、ノイズ除去データを読み出す。フラッシュROM34には、製造段階で評価された固体撮像素子108の固定パターンノイズに対応するデフォルトのノイズ除去データが予め格納されている。
The
図4のノイズ除去データ補正処理において、固定パターンノイズを良好に除去するためには、固体撮像素子108の画素を一時的に遮光する必要がある。しかし、CMOSイメージセンサは、その特性上、動作中に、画素を完全に遮光とすることが難しい。別の表現によれば、CMOSイメージセンサでは、電子シャッタによる露光時間を0時間にするのが難しい。そこで、メカニカルシャッタを搭載した構成が考えられる。メカニカルシャッタを用いた場合には、画素を完全に遮光できるようになる。但し、小型撮像装置である一般的な電子スコープには、メカニカルシャッタを搭載するスペースはない。そこで、スコープ制御部30は、図4のノイズ除去データ補正処理の実行開始と共に、固体撮像素子108を最高速の電子シャッタ速度で動作させる。固体撮像素子108の電子シャッタの最高速度は、例えば1/12000(単位:s)である。
In the noise removal data correction processing of FIG. 4, in order to remove fixed pattern noise satisfactorily, it is necessary to temporarily shield the pixels of the solid-
S2の処理では、ノイズ除去データ補正回路32aに、最高速の電子シャッタ速度で撮像された低輝度画像のデータが所定枚(例えば複数枚)数分入力する。このとき、低輝度画像は、アナログアンプAPを介するため、被写体の撮像信号と共に固定パターンノイズもゲインに応じて増加して、ノイズ除去データ補正回路32aに入力する。なお、低輝度画像取得中は、暗い画像が術者に唐突に提示されるのを避けるため、モニタ300への出力画像を図4のノイズ除去データ補正処理の実行開始直前(又は低輝度画像を撮像する直前)の画像に固定してもよい。
In the process of S2, a predetermined number (for example, a plurality) of low-luminance image data captured at the highest electronic shutter speed is input to the noise removal
S3の処理では、ノイズ除去データ補正回路32aは、取得した所定枚数の低輝度画像を平均化して一枚の低輝度画像を生成する。この平均化処理により、ランダムノイズが良好に除去される。平均化処理に用いる低輝度画像の枚数が多いほどランダムノイズを除去する効果が高い。一方、平均化処理に用いる低輝度画像の枚数が少ないほど画像処理エンジン32の処理負担が軽減する。後者の処理負担の軽減を優先させたい場合は、S2の処理で取得する低輝度画像を一枚としてもよい。なお、S3以降の処理においては、欠陥画素(その画素アドレスは例えばフラッシュROM34等に予め格納しておく。)を計算対象から除外して処理を進めてもよい。
In the process of S3, the noise removal
S4の処理では、ノイズ除去データ補正回路32aは、平均化処理後の低輝度画像(有効画素領域)の中から、実質的に遮光状態であるとみなすことができる遮光領域の候補を選択する。この処理は、例えば次の手順で実行される。
In the process of S4, the noise removal
ノイズ除去データ補正回路32aは、平均化処理後の低輝度画像を16×16の計256の領域に分割する。ノイズ除去データ補正回路32aは、全ての分割領域に対して、領域を構成する画素の撮像信号値の平均値SAVを計算する。ノイズ除去データ補正回路32aは、256の分割領域の中から平均撮像信号値SAVの低い16の分割領域を遮光領域の候補として選択する。
The noise removal
S5の処理では、ノイズ除去データ補正回路32aは、選択された16の遮光領域候補の平均撮像信号値SAVの標準偏差σと平均値AVを計算する。ノイズ除去データ補正回路32aは、計算された標準偏差σと平均値AVが共に所定の閾値(それぞれの閾値は独立した値)以下であるか否かを判定する。標準偏差σと平均値AVが共に所定の閾値以下である場合は(S5:YES)、16の遮光領域候補を遮光領域とみなし、S6の処理に進む。標準偏差σ又は平均値AVの少なくとも一方が所定の閾値を超える場合は(S5:NO)、遮光領域が存在しないと判断して、低輝度画像を破棄した上で、処理をS2に戻す。なお、遮光領域候補の平均撮像信号値SAVは、その殆どが絶対的に低い値で分布していると決め付けても差し支えない。そのため、遮光領域候補が遮光領域であるか否かを標準偏差σだけで判断してもよい。この場合、平均値AVの計算処理等が省略できるため、画像処理エンジン32の処理負担の軽減に資する。また、標準偏差σと平均値AVを用いた遮光領域の判定は、標準偏差σだけを用いた遮光領域の判定と比べて判定精度が高い。そのため、前者の判定における標準偏差σに対する閾値は、後者の判定における標準偏差σに対する閾値より大きい値としてもよい。
In the process of S5, the noise removal
S6の処理では、ノイズ除去データ補正回路32aは、全ての遮光領域の構成画素毎に、所定の信号比Rを計算する。この信号比Rは、例えば対象画素の撮像信号値を、デフォルトノイズ除去データで表現される該対象画素の信号値で除算した値と定義される。ノイズ除去データ補正回路32aは次いで、計算された信号比Rの平均値RAVを計算する。ノイズ除去データ補正回路32aは、デフォルトノイズ除去データを平均信号比RAVで乗算して、ノイズ除去データの補正を行う。なお、平均信号比RAVから所定値以上離れている信号比Rは計算対象から除外して、改めて平均信号比RAVを計算するようにしてもよい。
In the process of S6, the noise removal
S7の処理では、ノイズ除去データ補正回路32aは、補正されたノイズ除去データ(以下、「補正後ノイズ除去データ」と記す。)をSDRAM36に格納(又は上書き)して、図4のノイズ除去データ補正処理を終了させる。
In the process of S7, the noise removal
画像処理エンジン32は、固定パターンノイズ除去回路32bを有している。固定パターンノイズ除去回路32bは、SDRAM36にアクセスして、補正後ノイズ除去データを読み出す。固定パターンノイズ除去回路32bは、AFE110が出力した撮像信号値から、補正後ノイズ除去データで表現される信号値を減算する。ここで、平均信号比RAVは、アナログアンプAPを介した実測値を基に生成されている。そのため、平均信号比RAVは、アナログアンプAPの理想的なゲインでなく、アナログアンプAPの部品個体差、経時変化、温度依存性等の、種々の固定パターンノイズの変化原因を織り込んだ実測的なゲインに対応する値となっている。従って、平均信号比RAVを用いて補正された補正後ノイズ除去データにも、これらの変化原因が織り込まれている。よって、固定パターンノイズ除去回路32bによる減算処理では、デフォルトから変化した固定パターンノイズが良好に除去される。
The
画像処理エンジン32は、画像処理回路32cを有している。固定パターンノイズ除去後の撮像信号は、画像処理回路32cに入力する。画像処理回路32cは、この撮像信号に、クランプ、ニー、γ補正、補間処理、AGC(Auto Gain Control)等の所定の信号処理を施して、DA変換器38に出力する。撮像信号は、DA変換器38によるDA変換後、プロセッサ200の信号処理回路220に出力される。
The
信号処理回路220は、DA変換器38が出力した撮像信号に所定の処理を施して、図示省略されたフレームメモリにフレーム単位でバッファリングする。バッファリングされた信号は、タイミングコントローラ204によって制御されたタイミングでフレームメモリから掃き出されて、NTSC(National Television System Committee)やPAL(Phase Alternating Line)等の所定の規格に準拠した映像信号に変換される。変換された映像信号がモニタ300に順次入力することにより、モニタ300に、被写体のカラー画像が表示される。モニタ300に表示されるカラー画像は、固体撮像素子108の固定パターンノイズが画像処理エンジン32によって良好に除去されているので、画質の劣化が無い。
The
このように、本実施形態によれば、種々の原因で変化する固定パターンノイズが簡易な回路構成で良好に除去される。また、固定パターンノイズの除去のために、温度センサやメカニカルシャッタ等の部品を実装する必要がない。すなわち、本実施形態によれば、固体撮像素子108の周辺回路が複雑化せず、また、固体撮像素子108周辺の部品点数が削減できるため、撮像装置の小型化に有利である。
As described above, according to the present embodiment, fixed pattern noise that changes due to various causes is satisfactorily removed with a simple circuit configuration. Moreover, it is not necessary to mount components such as a temperature sensor and a mechanical shutter for removing fixed pattern noise. That is, according to the present embodiment, the peripheral circuit of the solid-
以上が本発明の実施形態の説明である。本発明は、上記の構成に限定されるものではなく、本発明の技術的思想の範囲において様々な変形が可能である。例えばCCD(Charge Coupled Device)にも固定パターンノイズが存在する。そのため、CCD搭載の撮像装置にも本発明を適用することができる。 The above is the description of the embodiment of the present invention. The present invention is not limited to the above-described configuration, and various modifications can be made within the scope of the technical idea of the present invention. For example, fixed pattern noise also exists in a CCD (Charge Coupled Device). Therefore, the present invention can also be applied to an image pickup apparatus equipped with a CCD.
図5は、別の実施形態において実行されるノイズ除去データ補正処理を示すフローチャートである。別の実施形態の電子内視鏡システム1は、固体撮像素子108の一部の画素(少なくとも一画素)が遮光膜(例えばアルミ遮光膜)によって完全に遮光されたオプティカルブラック画素である以外は、既述の実施形態の構成と実質的に同じである。なお、オプティカルブラック画素は、撮影画像中に黒点として現れないように、有効画素領域外に配置するのが好ましい。
FIG. 5 is a flowchart showing a noise removal data correction process executed in another embodiment. The
図5に示されるように、S11の処理では、図4のS1の処理と同様に、デフォルトノイズ除去データの読み出しが行われる。別の実施形態において、フラッシュROM34には、オプティカルブラック画素を含む固体撮像素子108の固定パターンノイズに対応するデフォルトノイズ除去データが格納されている。S12の処理では、図4のS2の処理と同様に、ノイズ除去データ補正回路32aに、所定枚数(少なくとも一枚)分の画像データが入力する。S13の処理では、図4のS3の処理と同様に、入力画像データの平均化処理が行われる。S14の処理では、図4のS6の処理と同様に、オプティカルブラック画素毎に、所定の信号比Rが計算される。この場合の信号比Rは、平均化処理後のオプティカルブラック画素の撮像信号値を、そのオプティカルブラック画素のデフォルトノイズ除去データで表現される信号値で除算した値と定義される。次いで、信号比Rの平均値RAVが計算される。ノイズ除去データ補正回路32aは、デフォルトノイズ除去データを平均信号比RAVで乗算して、ノイズ除去データの補正を行う。S15の処理では、図4のS7の処理と同様に、補正後ノイズ除去データのSDRAM36への書き込みが行われる。
As shown in FIG. 5, in the process of S11, the default noise removal data is read in the same manner as the process of S1 of FIG. In another embodiment, the
別の実施形態では、遮光領域を特定する処理の実行が不要であるから、画像処理エンジン32の処理負担面で有利である。そして、別の実施形態においても既述の実施形態と同様に、平均信号比RAVがアナログアンプAPを介した実測値を基に生成されている。よって、固定パターンノイズ除去回路32bによる減算処理では、デフォルトから変化した固定パターンノイズが良好に除去される。
In another embodiment, it is not necessary to execute a process for specifying a light shielding area, which is advantageous in terms of the processing burden of the
1 電子内視鏡システム
32 画像処理エンジン
100 電子スコープ
108 固体撮像素子
110 AFE
200 プロセッサ
AP アナログアンプ
DESCRIPTION OF
200 processor AP analog amplifier
Claims (8)
前記固体撮像素子の固定パターンノイズに対応するノイズ除去データを保持したノイズ除去データ保持手段と、
前記固体撮像素子中の一部の画素を遮光する画素遮光手段と、
前記遮光された遮光画素の撮像信号値と、前記ノイズ除去データで表現される該遮光画素の信号値との信号比に基づいて、該ノイズ除去データを補正するノイズ除去データ補正手段と、
補正後の前記ノイズ除去データを用いて、前記固体撮像素子が出力する撮像信号に含まれる固定パターンノイズを除去する固定パターンノイズ除去手段と、
を有し、
前記画素遮光手段は、
前記固体撮像素子を動作させて低輝度画像を撮像する低輝度画像撮像手段と、
撮像された前記低輝度画像を複数の領域に分割する低輝度画像分割手段と、
分割された前記複数の領域の中から輝度の低い所定数の低輝度領域を選択する低輝度領域選択手段と、
選択された前記所定数の低輝度領域が所定の条件を満たすか否かを判定する条件判定手段と、
前記所定の条件を満たすと判定された場合に、前記所定数の低輝度領域の画素を前記遮光画素とみなす遮光画素みなし手段と、
を有する、
撮像装置。 A solid-state image sensor;
Noise removal data holding means holding noise removal data corresponding to the fixed pattern noise of the solid-state imaging device;
Pixel shading means for shielding a part of the pixels in the solid-state imaging device;
Noise removal data correction means for correcting the noise removal data based on a signal ratio between the image signal value of the light-shielded light-shielded pixel and the signal value of the light-shielded pixel represented by the noise removal data;
Fixed pattern noise removing means for removing fixed pattern noise included in an imaging signal output from the solid-state imaging device, using the noise removal data after correction;
I have a,
The pixel shading means is
A low-brightness image pickup means for picking up a low-brightness image by operating the solid-state image sensor;
Low luminance image dividing means for dividing the captured low luminance image into a plurality of regions;
Low-luminance area selection means for selecting a predetermined number of low-luminance areas having low luminance from the plurality of divided areas;
Condition determination means for determining whether or not the selected predetermined number of low-luminance regions satisfy a predetermined condition;
When it is determined that the predetermined condition is satisfied, a light-shielded pixel considering unit that regards the pixels of the predetermined number of low-luminance regions as the light-shielded pixels;
To have a,
Imaging device.
前記固体撮像素子を最高速の電子シャッタ速度で動作させる、
請求項1に記載の撮像装置。 The low luminance image capturing means includes
Operating the solid-state imaging device at the highest electronic shutter speed ;
The imaging device according to claim 1 .
前記低輝度画像を複数枚撮像し、
前記複数枚の低輝度画像を平均化して一枚の低輝度画像を生成し、
前記低輝度画像分割手段は、
生成された前記一枚の低輝度画像を前記複数の領域に分割する、
請求項1又は請求項2に記載の撮像装置。 The low luminance image capturing means includes
Taking a plurality of the low brightness images,
Average the plurality of low-brightness images to generate a single low-brightness image,
The low luminance image dividing means includes
Dividing the generated single low-luminance image into the plurality of regions ;
The imaging device according to claim 1 or 2 .
を更に有し、
前記所定の条件とは、
計算された前記標準偏差が所定の閾値以下になることである、
請求項1から請求項3の何れか一項に記載の撮像装置。 A standard deviation calculating means for calculating a standard deviation of signal values of the predetermined number of low-luminance regions;
The predetermined condition is
The calculated standard deviation is less than or equal to a predetermined threshold ;
The imaging apparatus according to any one of claims 1 to 3.
を更に有し、
前記所定の条件とは、
計算された前記標準偏差、前記平均値がそれぞれ、第一、第二の閾値以下になることである、
請求項1から請求項3の何れか一項に記載の撮像装置。 A calculation means for calculating a standard deviation of signal values of the predetermined number of low-luminance regions and an average value of the signal values;
The predetermined condition is
The calculated standard deviation and the average value are equal to or less than the first and second threshold values, respectively .
The imaging apparatus according to any one of claims 1 to 3.
CMOSイメージセンサである、
請求項1から請求項5の何れか一項に記載の撮像装置。 The solid-state imaging device is
A CMOS image sensor ,
The imaging device according to any one of claims 1 to 5 .
電子スコープ。 The imaging device according to any one of claims 1 to 6 is mounted at a distal end of an insertion portion .
Electronic scope.
前記電子スコープが出力する固定パターンノイズ除去後の撮像信号に所定の信号処理を施す信号処理装置と、
を有し、
前記信号処理装置は、
前記低輝度画像撮像手段による前記低輝度画像撮像中、外部モニタへの出力を該低輝度画像を撮像する直前の画像に固定する、
電子内視鏡システム。 An electronic scope according to claim 7 ;
A signal processing device that performs predetermined signal processing on the imaging signal after removal of fixed pattern noise output by the electronic scope;
Have
The signal processing device includes:
During the low-brightness image capturing by the low-brightness image capturing means, the output to the external monitor is fixed to the image immediately before capturing the low-brightness image .
Electronic endoscope system.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009270906A JP5404346B2 (en) | 2009-11-30 | 2009-11-30 | Imaging apparatus, electronic scope, and electronic endoscope system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009270906A JP5404346B2 (en) | 2009-11-30 | 2009-11-30 | Imaging apparatus, electronic scope, and electronic endoscope system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011114733A JP2011114733A (en) | 2011-06-09 |
JP5404346B2 true JP5404346B2 (en) | 2014-01-29 |
Family
ID=44236722
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009270906A Active JP5404346B2 (en) | 2009-11-30 | 2009-11-30 | Imaging apparatus, electronic scope, and electronic endoscope system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5404346B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2708021B1 (en) | 2011-05-12 | 2019-07-10 | DePuy Synthes Products, Inc. | Image sensor with tolerance optimizing interconnects |
EP2877079B1 (en) * | 2012-07-26 | 2021-04-21 | DePuy Synthes Products, Inc. | Camera system with minimal area monolithic cmos image sensor |
US10517469B2 (en) | 2013-03-15 | 2019-12-31 | DePuy Synthes Products, Inc. | Image sensor synchronization without input clock and data transmission clock |
EP2967286B1 (en) | 2013-03-15 | 2021-06-23 | DePuy Synthes Products, Inc. | Minimize image sensor i/o and conductor counts in endoscope applications |
JP6613554B2 (en) * | 2014-09-30 | 2019-12-04 | 株式会社ニコン | Image processing apparatus and program |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3037993B2 (en) * | 1990-10-26 | 2000-05-08 | オリンパス光学工業株式会社 | Solid-state imaging device |
JP4555785B2 (en) * | 2006-02-10 | 2010-10-06 | シャープ株式会社 | Fixed pattern noise removal device, solid-state imaging device, electronic device, and fixed pattern noise removal program |
JP2009136459A (en) * | 2007-12-05 | 2009-06-25 | Hoya Corp | Noise elimination system, endoscope processor and endoscope system |
-
2009
- 2009-11-30 JP JP2009270906A patent/JP5404346B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2011114733A (en) | 2011-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5379932B1 (en) | Imaging system and imaging method | |
JP5404346B2 (en) | Imaging apparatus, electronic scope, and electronic endoscope system | |
JP2010147816A5 (en) | ||
JP2011109281A (en) | Image pickup device and control method thereof | |
CN110337260B (en) | Electronic endoscope device | |
JP5653163B2 (en) | Endoscope device | |
JP6337228B2 (en) | Endoscope | |
JP5159235B2 (en) | Imaging apparatus and control method thereof | |
JP2008160561A (en) | Imaging system and imaging apparatus | |
JP5440245B2 (en) | Imaging device | |
JP2020129753A (en) | Imaging apparatus and imaging method | |
CN107079118B (en) | Image pickup apparatus | |
JP2011176671A (en) | Imaging system | |
JP2010011073A (en) | Imaging device, its image processing method and program | |
JP2011156214A (en) | Imaging device and electronic endoscope system | |
JP5911306B2 (en) | Color tone adjusting apparatus and electronic endoscope apparatus | |
JP5235804B2 (en) | Fixed pattern noise elimination unit, imaging unit, and electronic endoscope system | |
JP4991435B2 (en) | Imaging device | |
JP5124416B2 (en) | Fixed pattern noise elimination unit, imaging unit, and electronic endoscope system | |
JP2007281759A (en) | Imaging device and imaging apparatus | |
WO2017122397A1 (en) | Gain adjustment device, gain adjustment program, endoscope, and endoscope device | |
JP5509937B2 (en) | Imaging device | |
JP5827868B2 (en) | Electronic endoscope and fixed pattern noise removal method | |
JP2009118001A (en) | Imaging apparatus | |
JP3917982B2 (en) | Endoscope device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120910 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130415 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130507 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20130510 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130702 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131003 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131029 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5404346 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |