JPWO2006101128A1 - 画像処理装置及び内視鏡装置 - Google Patents
画像処理装置及び内視鏡装置 Download PDFInfo
- Publication number
- JPWO2006101128A1 JPWO2006101128A1 JP2007509302A JP2007509302A JPWO2006101128A1 JP WO2006101128 A1 JPWO2006101128 A1 JP WO2006101128A1 JP 2007509302 A JP2007509302 A JP 2007509302A JP 2007509302 A JP2007509302 A JP 2007509302A JP WO2006101128 A1 JPWO2006101128 A1 JP WO2006101128A1
- Authority
- JP
- Japan
- Prior art keywords
- output
- filter
- filter processing
- image
- weighting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 235
- 238000003384 imaging method Methods 0.000 claims abstract description 58
- 238000000034 method Methods 0.000 claims abstract description 48
- 230000008569 process Effects 0.000 claims abstract description 35
- 238000001914 filtration Methods 0.000 claims abstract description 7
- 238000012937 correction Methods 0.000 claims description 22
- 230000009466 transformation Effects 0.000 claims description 5
- 230000001629 suppression Effects 0.000 description 115
- 238000001444 catalytic combustion detection Methods 0.000 description 86
- 238000005286 illumination Methods 0.000 description 58
- 230000005284 excitation Effects 0.000 description 38
- 230000002093 peripheral effect Effects 0.000 description 37
- 230000006870 function Effects 0.000 description 35
- 238000006243 chemical reaction Methods 0.000 description 33
- 230000000875 corresponding effect Effects 0.000 description 33
- 238000010586 diagram Methods 0.000 description 29
- 230000003321 amplification Effects 0.000 description 24
- 238000003199 nucleic acid amplification method Methods 0.000 description 24
- 230000015654 memory Effects 0.000 description 23
- 101100005986 Caenorhabditis elegans cth-2 gene Proteins 0.000 description 21
- 230000004048 modification Effects 0.000 description 19
- 238000012986 modification Methods 0.000 description 19
- 230000008859 change Effects 0.000 description 17
- 238000009825 accumulation Methods 0.000 description 16
- 210000001519 tissue Anatomy 0.000 description 16
- 230000007423 decrease Effects 0.000 description 15
- 230000008707 rearrangement Effects 0.000 description 14
- 230000003287 optical effect Effects 0.000 description 13
- 239000010410 layer Substances 0.000 description 11
- 238000000799 fluorescence microscopy Methods 0.000 description 10
- 230000035945 sensitivity Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 9
- 230000009467 reduction Effects 0.000 description 9
- 230000003595 spectral effect Effects 0.000 description 7
- 230000001360 synchronised effect Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 239000003086 colorant Substances 0.000 description 6
- 238000002073 fluorescence micrograph Methods 0.000 description 6
- 230000007547 defect Effects 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000003780 insertion Methods 0.000 description 4
- 230000037431 insertion Effects 0.000 description 4
- 238000002834 transmittance Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 210000004400 mucous membrane Anatomy 0.000 description 2
- 230000035699 permeability Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000002344 surface layer Substances 0.000 description 2
- WBRNPACSUWTMKL-UHFFFAOYSA-N C=CC1C=CCC1 Chemical compound C=CC1C=CCC1 WBRNPACSUWTMKL-UHFFFAOYSA-N 0.000 description 1
- 241001125929 Trisopterus luscus Species 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0646—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0669—Endoscope light sources at proximal end of an endoscope
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
Landscapes
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Endoscopes (AREA)
- Image Processing (AREA)
Abstract
Description
例えば、日本国特開2002−95635号公報には、特殊光観察として、狭帯域光観察像が得られる内視鏡装置が開示されている。
狭帯域光観察像を得る場合は、狭帯域化による照射光量の低下のため、撮像素子によって得られた画像情報をそのままモニタに出力すると通常光観察像よりも暗くなる場合がある。
そのため、従来例においては明るさを補う手段として、調光用の信号を生成し、この調光用の信号により光源装置の絞りの開閉量を制御して照明光量を増減することが行われる。
しかしながら、光量が不足している暗い画像では、S/Nが低い状態であるため、所定の明るさとなるようにAGC回路などで増幅するとノイズが目立ちやすくなる。
このような場合におけるノイズを抑制する方法としては、周波数空間における平滑化処理を行う方法が知られている。例えば画像データをFourier基底などにより直交変換し、低域通過型の周波数フィルター関数の適用後に、逆変換する方法が挙げられる。同様の効果を実空間の処理で実現する方法もある。また、メディアンフィルタのような局所的フィルタによるノイズ抑制方法も知られている。
本発明は、上述した点に鑑みてなされたもので、コントラスト低下を軽減しながらノイズを有効に抑制して、診断に適した画像を得ることができる画像処理装置及び内視鏡装置を提供することを目的とする。
前記画像データに対して、複数の空間フィルタによるフィルタ処理を行うフィルタ処理手段と、
前記画像データの局所領域における明るさを算出する明るさ算出手段と、
前記フィルタ処理手段の出力に対して、前記フィルタ処理手段の出力及び/又は前記明るさ算出手段の出力に応じた重み付けを行う重み付け手段と、
前記重み付け手段の出力に対して、処理画像データを生成するための逆フィルタ処理を行う逆フィルタ処理手段と、
を備えたことを特徴とする。
上記構成により、フィルタ処理手段の出力と、局所領域における明るさの出力に応じてフィルタ処理された出力に対して重み付けの係数を変更することにより、明るい画像領域におけるコントラスト低下を回避しながら、暗い画像領域におけるノイズを有効に抑制できるようにしている。
図1から図10は、本発明の実施例1に係り、図1は本発明の実施例1を備えた内視鏡装置の全体構成を示し、図2は図1の回転フィルタの構成を示し、図3は図2の回転フィルタの第1のフィルタ組の分光特性を示し、図4は図2の回転フィルタの第2のフィルタ組の分光特性を示し、図5はノイズ抑制回路の構成を示す。
また、図6はフィルタ処理結果に対する重み付け係数の特性例を示し、図7は局所領域内の画素値の平均値に対して重み付け係数の特性を決定する閾値の関数例を示し、図8及び図9は、本実施例によるノイズ抑制の作用の説明図を示し、図10は本実施例による動作内容のフローチャートを示す。
図1に示すように、本実施例を備えた内視鏡装置1は、体腔内に挿入され、体腔内組織を撮像する電子内視鏡2と、電子内視鏡2に照明光を供給する光源装置3と、電子内視鏡2に内蔵された撮像手段を駆動すると共に、撮像された撮像信号を信号処理するビデオプロセッサ4と、ビデオプロセッサ4により生成された内視鏡画像を表示する観察モニタ5と、符号化された内視鏡画像をファイリングするファイリング装置6と、から構成される。
光源装置3は、ランプ点灯回路10からの点灯電力の供給により照明光を発生するランプとしての例えばキセノンランプ11と、白色光の熱線を遮断する熱線カットフィルタ12と、熱線カットフィルタ12を介した白色光の光量を制御する絞り装置13と、照明光を面順次光に変換する回転フィルタ14と、電子内視鏡2内に配設されたライトガイド9の入射面に回転フィルタ14を介した面順次光を集光して供給する集光レンズ15と、回転フィルタ14の回転を制御する制御回路16とを備えている。
また、内側の周方向部分には図4に示すような所望の深層組織情報が抽出可能な離散的な分光特性の狭帯域な面順次光を出力するための第2のフィルタ組を構成するR2フィルタ14r2,G2フィルタ14g2,B2フィルタ14b2が配置されている。
そして、回転フィルタ14は、図1に示すように、制御回路16により回転フィルタモータ17の回転駆動の制御が行われて所定速度で回転される。また、回転フィルタ14は、回転フィルタモータ17と共に、移動モータ18により矢印Aで示すように光路と直交する方向に移動される。
第1のフィルタ組が光路上に配置された場合には、通常の面順次光となり、通常光観察像が得られる通常モードに相当する。これに対して第2のフィルタ組が光路上に配置された場合には、狭帯域の面順次光となり、狭帯域光観察像が得られる狭帯域モード(NBIモード)に相当する。なお、図2では第1のフィルタ組と第2のフィルタ組が光路上に配置された場合における光束の位置を示している。
この照明窓に隣接して設けられた観察窓には対物レンズ24が取り付けてあり、その結像位置には、撮像素子として電荷結合素子(CCDと略記)25が配置されており、このCCD25は、結像された光学像を光電変換する。
このCCD25は信号線26を介してビデオプロセッサ4内のCCDドライバ29と、プリアンプ30に接続される。なお、信号線26は、実際には、図示しないコネクタを介してビデオプロセッサ4と着脱自在に接続される。
このA/D変換回路32によりアナログ信号からデジタル信号の画像データに変換された後、ホワイトバランス回路34に入力され、ホワイトバランスの処理が行われた後、オートゲインコントロール回路(AGC回路と略記)35に入力され、所定レベルまで増幅される。
なお、AGC回路35は、光源装置3の絞り装置13による照明光量での調光動作が優先して行われ、この絞り装置13の開口が開放状態に達した後、その開放状態の情報に基づいて、AGC回路35により不足する信号レベルが増大するように増幅する動作を行う。
上記AGC回路35の出力データは、ノイズ抑制回路36に入力されると共に、切替スイッチ40を介してγ補正回路41に入力される。
切替スイッチ40は、モード切替スイッチ20の操作により、モード切替回路21を介して通常モード時には、接点aが選択され、NBIモード時には接点bが選択される。従って、本実施例においては、ノイズ抑制回路36側(ノイズ抑制回路36から面順次回路39まで)は、NBIモードが選択された場合に機能する。
ノイズ抑制回路36は、タイミングジェネレータ49からのタイミング信号が送信され、回転フィルタ14の第2のフィルタ組が光路上に配置された状態で撮像される情報を取得する。そして、ノイズ抑制回路36は、タイミング信号を用いて、第2のフィルタ組による(R2,G2,B2の照明下でそれぞれ撮像した色成分画像としての)R、G、Bの画像データ毎にノイズ抑制の処理を行う場合の各種パラメータを切替える。
この場合におけるRGBからR′G′B′に色変換する変換式は、3行3列のマトリクスKを用いて、以下の式(1)とする。
この色変換回路38の出力信号(R′、G′、B′であるが簡単化のためR、G、Bを用いて説明する)は、面順次回路39に入力される。面順次回路39は、フレームメモリにより構成され、同時に格納されたR、G、Bの画像データを色成分画像として順次読み出すことにより面順次の画像データに変換される。この面順次の画像データR,G,Bは、切替スイッチ40を経てγ補正回路41に入力され、γ補正された後、拡大回路42に入力されて拡大補間処理された後、強調回路43に入力される。
この強調回路43により、構造強調或いは輪郭強調が行われた後、セレクタ44を経て同時化回路45に入力される。この同時化回路45は、3つのメモリ45a、45b、45cにより形成されている。
観察モニタ5は、入力される映像信号に対応した内視鏡画像を表示する。また、符号化回路48により圧縮された内視鏡画像信号はファイリング装置6に入力されて、記録される。また、ビデオプロセッサ4内には、タイミングジェネレータ49が設けてあり、光源装置3の制御回路16からの回転フィルタ14の回転に同期した同期信号が入力され、この同期信号と同期した各種タイミング信号を上記各回路に出力する。
また、電子内視鏡2には、各電子内視鏡2に固有の内視鏡識別情報(スコープIDと略記)を発生するスコープID発生回路28が設けてある。本発明では、このスコープIDにおけるCCD25の情報を信号処理に利用するようにしている。
つまり、このスコープIDは、ノイズ抑制回路36に入力され、実際に使用されているCCD25の種別等に応じたノイズ抑制の処理を行うことができる。なお、CCD25の種別、AGC回路35のAGCゲイン値等によりノイズ抑制回路36の重み付け係数を変更する場合の説明は実施例2で行う。
モード切替回路21は、モード切替の指示信号に応じた制御信号を、調光制御パラメータ切替回路50及び光源装置3の移動モータ18に出力すると共に、切替スイッチ40の切替を制御する。この切替スイッチ40は、通常モードの場合には、接点aが選択され、狭帯域観察モード(NBIモードと略記)の場合には接点bが選択されるようになる。調光制御パラメータ切替回路50は、回転フィルタ14の第1のフィルタ組あるいは第2のフィルタ組に応じた調光制御パラメータを調光回路33に出力し、調光回路33はモード切替回路21からの制御信号及び調光制御パラメータ切替回路50からの調光制御パラメータに基づき光源装置3の絞り装置13を制御し適正な明るさ制御を行うようになっている。
フィルタ部51は、3×3,5×5等、奇数nとしたフィルタサイズn×nからなるp(=n×n)個のフィルタで構成され、各フィルタAx(x=1、2、…、p)は、入力画像データと畳み込み処理を行い、それぞれのフィルタ処理結果を重み付け部53及びLUT56に出力する。
フィルタ部51におけるp個のフィルタAxの係数は、R、G、B画像データ毎にタイミングジェネレータ49からのタイミング信号(より具体的には切替信号)により切り替えられ、フィルタ係数格納部54から読み出されて設定される。
この場合の固有ベクトルは、互いに直交する特性のベクトルとなり、Karhunen−Loeve変換(KL変換と略記)行列となる。また、固有ベクトルと固有値とは組となっており、固有値が大きい固有ベクトルほど、その固有ベクトルで直交変換することにより、低い周波数に相当する周波数成分が求められる。
本実施例では、p個のp次元の固有ベクトルを固有値の大きい順に、フィルタA1,A2、…、Apとして前記フィルタ係数格納部54に格納されている。この場合、フィルタA1,A2、…、Apは、低い周波数成分に相当する変換係数を与えるフィルタ係数から順次高い方に相当するフィルタ係数に並び替えた配列となる。
上記平均画素値算出部52は、フィルタ部51でフィルタ処理に用いるのと同じ入力画像データにおけるn×n画素における画素値の平均値を算出して、その算出結果をLUT56に出力する。
また、各重み付け回路53Wxは、フィルタAxから出力されるフィルタ処理結果に対して重み付けする。そして、重み付け回路53Wxにより重み付けしたp(=n×n)個の処理結果を、逆フィルタ処理を行う逆フィルタ部55に出力する。
重み付け部53の重み付け回路53Wxにより重み付けする重み付け係数Wは、LUT56に予め格納されており、平均画素値算出部52で算出された平均画素値及びフィルタAxの出力に応じた重み付け係数WがこのLUT56から読み出されて重み付け回路53Wxにセットされ、セットされた重み付け係数Wにより重み付けされる。
本実施例においては、重み付け部53は、フィルタ部51によるフィルタ処理結果の絶対値|Coef|を変数として、図6(A)或いは図6(B)に示すような特性により決定される重み付け係数Wの値がフィルタ処理結果Coefに乗算される。
図6(A)或いは図6(B)に示す重み付け関数の特性は、2つのパラメータCth1、Cth2により決定される。より具体的には、パラメータCth1は、重み付け係数Wが1になる値を決定する閾値であり、また他方のパラメータCth2は、重み付け係数Wが0になる値を決定する閾値である。
これらのパラメータCth1a、Cth2a及びCth1b、Cth2bは、図7において、平均画素値算出部52の算出値、つまりn×n画素内の画素値の平均値Pavにより決定される。
つまり、図6(A)及び図6(B)のパラメータCth1a、Cth2a及びCth1b、Cth2bは、図7における平均値Pavが小さい場合のPavaと、大きい場合のPavbとの場合にそれぞれ対応して決定される。
そして、重み付け部53は、フィルタ処理結果の出力が第1の所定値としてのパラメータCth1よりも大きい場合には、フィルタAxの出力によらず第1の所定の重み係数(具体的には1)を設定し、これに対してフィルタ処理結果の出力が第1の所定値よりも小さい場合には、フィルタAxの出力に応じて重み係数をより小さな値に変更する。更に、前記第1の所定値は、前記明るさ算出手段の出力に応じて変更している。
そして、パラメータCth2とCth1との間は、重み付け係数が0から1まで変化することになる。
このように平均画素値算出部52の出力に応じてCth1、Cth2が変化する重み付け関数に基づき、フィルタ処理結果の絶対値|Coef|に応じた重み係数がフィルタAxによるフィルタ処理結果毎に設定される。
となる。ここで、総和記号Σは、Dx及びAx,mの積Dx・Ax,mを、x=1からpまで加算することを表している。
そして、上記(2)式による積和演算による逆フィルタ処理結果を、n×n画素の小領域での中心画素に対するノイズ抑制回路36による処理結果の画素値として後段の回路(図1の同時化回路37)側に出力する。
この場合、図7に示す両関数f、gは、単調減少の特性を有する。また、関数fの傾きは、他方の関数gよりも緩やかとなっている。
このように両関数f、gが設定されているため、例えば平均画素値算出部52の平均値Pavが低い値Pavaの場合と高い値Pavbとの場合では、図6(A)と図6(B)に示す重み付け関数が異なり、重み付け部53により重み付けされる重み付け係数Wが異なることになる。
つまり、図6(A)の場合の重み付け係数Wの場合には、フィルタ処理結果Coefがかなり大きな閾値Cth1a以上になった場合に、初めて重み付け係数Wが1となり、その値より少し小さい閾値Cth2a以下であると、重み付け係数Wが0になってしまう。従って、この場合には、フィルタ処理結果Coefが重み付け係数Wにより抑圧されて出力されることになる。
本実施例におけるノイズ抑制回路36は、このように局所領域における明るさに応じて、その明るさが暗い程、同じフィルタ処理結果の値に対する重み付けを小さくすることにより、暗い画像領域におけるノイズを有効に抑制し、かつ明るさが明るい程、それに対する重み付けを大きくすることにより、明るい画像領域の画像情報のコントラストを維持するようにしている。
なお、フィルタA1のフィルタ処理結果に対する重み係数Wは、常に1.0とする。これにより、DC成分を保持する。
次に、このように構成された本実施例の内視鏡装置の作用について説明する。
図1に示すように電子内視鏡2を光源装置3やビデオプロセッサ4に接続して、電源を投入する。初期状態では、例えば通常観察状態に設定される。
通常観察時には、照明光の光路上に回転フィルタ14の第1のフィルタ組であるR1フィルタ14r1,G1フィルタ14g1,B1フィルタ14b1に位置するようにビデオプロセッサ4内のモード切替回路21が制御信号により移動モータ18を制御する。
そしてビデオプロセッサ4により、これらRGB撮像信号を同時化して信号処理することで、内視鏡画像としては所望あるいは自然な色再現の内視鏡画像を得ることが可能となる。
一方、電子内視鏡2のモード切替スイッチ20が押されると、その信号がビデオプロセッサ4のモード切替回路21に入力される。モード切替回路21は、光源装置3の移動モータ18に制御信号を出力することで、通常観察時に光路上にあった回転フィルタ14の第1のフィルタ組を移動させ、第2のフィルタ組を光路上に配置するように回転フィルタ14を移動し、NBIモードにする。
この場合、B2フィルタ14b2によるCCD25で撮像される撮像信号には、浅層での組織情報を有するバンド画像が撮像され、また、G2フィルタ14g2によるCCD25で撮像される撮像信号には中層での組織情報を有するバンド画像が撮像され、さらにR2フィルタ14r2によるCCD25で撮像される撮像信号には深層での組織情報を有するバンド画像が撮像される。
この時、図3及び図4から明らかなように、第1のフィルタ組による透過光量に対して第2のフィルタ組による透過光量は、その帯域が狭くなるため減少するため、調光制御パラメータ切替回路50は、回転フィルタ14の第2のフィルタ組に応じた調光制御パラメータを調光回路33に出力することで、調光回路33は絞り装置13を制御する。
また、絞り装置13が開放状態に設定されても、通常モード時に比較すると、照明光量が小さい状態になることがある。その場合には、照明光量が小さいことによる明るさの不足分を撮像された画像を増幅することで電気的に補正するが、単にAGC回路35による増幅率のアップ等では暗い画像部分でのノイズが目立つ画像になってしまうので、本実施例では図5に示したノイズ抑制回路36を通すことにより、以下に説明するように暗部領域におけるノイズを抑制しつつ、明部領域のコントラスト低下を軽減する。
A/D変換回路32によりデジタル信号に変換され、AGC回路35により増幅されたR、G、Bの画像データは、図5に示すようにノイズ抑制回路36を構成するフィルタ部51に入力され、フィルタ部51を構成するサイズn×nのp個のフィルタA1、A2、…、Apに入力されると共に、平均画素値算出部52に入力される。
また、平均画素値算出部52は、フィルタ部51で空間フィルタ処理に用いるのと同じ入力画像データのn×n画素の小領域(局所領域)の画素値に対して平均値Pavを算出する。その平均値Pav及びフィルタ処理結果の値に応じてLUT56を介して重み付け部53の重み付け回路W1、W2、…、Wpの重み付け係数Wを設定する。
本実施例においては、重み付け係数Wは、図7に示すように平均値Pavの値に応じてその特性を決定する2つのパラメータCth1,Cth2が設定された後、フィルタ処理結果Coefの絶対値に応じて決定される。これらのパラメータCth1,Cth2により、例えば暗い画像部分の場合には、図6(A)のように設定され、逆に明るい画像部分の場合には図6(B)のように設定される。図6(A)及び図6(B)では、暗い場合でのCth1a、Cth2aと、明るい場合でのCth1b、Cth2bとの場合で示している。
従って、この重み付け部53により重み付け処理により、平均値Pavが小さい場合には図8(A)の入力データに対して図8(B)のような処理結果となる。なお、図8は、フィルタ処理した各周波数成分で示している。
図8(A)に示すようにパラメータCth2の値をランダムノイズの程度に設定することにより、そのノイズを有効に抑制し、かつ高S/Nの画像情報に基づく周波数成分の低下を軽減した図8(B)の処理結果を得ることができる。つまり、ノイズに対しては、その抑制効果が大きく、かつ相対的に高S/Nの周波数成分が同時に低減されるのをパラメータCth1の値により回避するようにしている。従って、暗い画像領域での粘膜に基づく画像情報のコントラストの低下を軽減できることになる。
従って、重み付け部53により重み付け処理により、平均値Pavが大きい場合には図9(A)の入力データに対して図9(B)のような処理結果となる。この場合には、重み付け部53に入力される入力データが殆どそのまま出力されることになる為、明るい画像領域ではコントラスト低下を回避することができることになる。
重み付け部53の各重み付け回路Wxにより重み付け処理された処理結果の出力は、逆フィルタ部55に入力され、上記のようにフィルタ部51の各フィルタAxにおける中心のフィルタ係数Ax,mとの積和演算による逆フィルタ処理(より具体的には、逆KL変換)が行われてノイズ抑制された画素値の画像データが次段の同時化回路37に出力される。
この場合、タイミングジェネレータ49は、ノイズ抑制回路36のフィルタ係数格納部54のフィルタ係数及びLUT56の重み係数のテーブルを切り替えて、Gの画像データに対応したフィルタ係数で、同様にフィルタ処理等を行う。また、Gの画像データの1フレーム分の処理が終了すると、Bの画像データの1フレーム分の処理を開始し、その処理が終了すると、処理されたBの画像データは、同時化回路37のB用フレームメモリに格納される。この場合にも、ノイズ抑制回路36は、Bの画像データに対応したフィルタ係数で同様にフィルタ処理等を行うことになる。
面順次信号は、切替スイッチ40を経てγ補正回路41側に入力され、以後は通常モードの場合と同様の処理が行われた後、観察モニタ5にNBIモードのNBI画像が表示される。
上記ノイズ抑制回路36による全体的な処理手順は、図10に示すようになる。ノイズ抑制回路36の動作が開始すると、ステップS1において処理対象画像データの有無が判定される。
ステップS2において、処理対象画像データからn×n画素の画像データが抽出され、次のステップS3によりn×n画素の画像データにフィルタ部51のフィルタA1〜Apによりフィルタ処理が行われると共に、ステップS4に示すように平均画素値算出部52により平均値Pavが算出される。
平均値Pavが算出されると、ステップS5に示すようにその平均値Pavにより、フィルタ出力に対する重み付け関数の設定が行われる。
このステップS7において、ステップS3によるフィルタ処理のフィルタ出力毎に、重み付け関数、即ちLUT56を参照して、フィルタ処理結果の値に応じた重み付け係数Wを求め、フィルタ処理結果と乗算して重み付けを行う。
この重み付けの処理により、特に暗部領域でのノイズを有効に抑圧し、かつ明部領域でのコントラスト低下を回避して、次のステップS8に進む。
このステップS8において、各周波数成分での重み付けの処理結果に対して各フィルタAxの所定係数との積和演算を行って逆フィルタ処理を行い、n×n画素の中心画素の画素値を求めた後、ステップS1に戻る。ステップS1は再び処理対象の画素データの有無を判定し、有ればさらに次のステップS2において、上述したn×n画素の中心画素に隣接するn×n画素の画像データが抽出され、同様の処理が繰り返される。
このようにして、処理対象となる画像データ全てに対して上述した処理が繰り返され、画像データ全てに対して処理が行われると、この処理を終了する。
本実施例によれば、上述したように、画像における局所的な明るさとフィルタ処理結果Coefの値に応じて、フィルタ処理結果Coefに対する重み付けを変えることにより、暗部で特に目立つ印象を与えるノイズを有効に抑制し、かつノイズ以外の画像のコントラスト低下を軽減し、また明部でのコントラスト低下を回避できる。
なお、本実施例においては、フィルタ係数、重み付け係数WをR、G、Bの画像毎に切り替えるようにしていたが、R、G、Bの画像で切り替えることなく共通化してノイズ抑制回路36の回路規模を低減化するように変形した構成にしても良い。
また、上述の説明では、サンプルの画像データに対してKL変換基底をフィルタ係数に用いてノイズ抑制を行っていたが、他の変形例として、離散コサイン変換(DCT)基底を採用して、R,G,Bの画像に共通のフィルタ処理を行うようにしても良い。
このDCTを用いた場合、フィルタ係数に対称性を持たせられることになるので、回路規模を低減化できると共に、ノイズ抑制のために必要となる演算数も削減できるため、高速処理が可能となる。
このようにすると、重み付けの自由度があがるため、特に暗い画像情報のコントラスト低下を抑えつつ、ノイズ抑制効果を向上させることが可能となる。例えば、ランダムノイズ以外に内視鏡システムや撮像素子、ある狭帯域光によって得られる画像情報等において特異的となるようなノイズが存在する場合、その周波数成分に対応するフィルタ処理結果に対する重み付け係数を適切に設定することにより、そのノイズを有効に抑制することができる。そして、診断に適した画像が得られるようになる。
次に本発明の実施例2を図11等を参照して説明する。本実施例は、実施例1を変形した構成にしたものである。本実施例は、異なる種別の撮像手段を備えた電子内視鏡が接続されたような場合や、輪郭或いは構造強調のレベルを変更したりした場合にも、ノイズ抑制を有効に行うことができるようにすることを目的とする。
実施例1においては、ノイズ抑制回路36は、CCD25の種別等に依存しないで共通に使用していたが、本実施例では、CCD25の種別、動作状態(AGC ON)に設定された場合のAGC回路35のゲイン値、強調回路43の強調レベルに応じて、その重み付け部による重み付け係数を変更する構成にしている。その他の構成は、実施例1と同様である。
図11は本発明の実施例2におけるノイズ抑制回路36の周辺部の回路構成を示す。本実施例においても、実施例1で説明したように、AGC回路35の出力信号はノイズ抑制回路36に入力され、ノイズ抑制がされた後、図1では示している同時化回路37等を経て強調回路43に入力される。
より具体的には、図12に示すようにノイズ抑制回路36におけるLUT56′に、フィルタ部51の出力、平均画素値算出部52の出力となる平均値(出力値)、CCD25の種別、AGC回路35のAGCゲイン値、強調回路43の強調レベルの各情報が入力され、これらの情報により、(パラメータCth1、Cth2を変更し)重み付け部53の重み付け係数Wが適切に変更設定される。
具体的にはCCD25として、例えば種別が異なり、ノイズが少ない方から4種のCCD25A、25B,25C,25Dがあるとした場合、対応する重み付け係数もノイズの値に比例などさせて設定する。例えば、CCD25I(I=A〜D)の種別を検知した場合、その種別に対応した補正係数CIをパラメータCth(ここで、CthはCth1,Cth2を総称したもの)に乗算する。ここで、CA<CB<CC<CDである。
具体的には、ゲイン値が増大されると明るさの平均値Pavが見かけ上、ゲイン値に比例して大きくなるため、図7の関数f(Pav)、g(Pav)を変更する必要があり、例えば図7の横軸のPavや縦軸のCthのスケールをゲイン倍する。
図13は、例えば点線で示す特性は、ゲインが1の場合のパラメータCth1,Cth2の値により設定される重み付け係数Wに対して、ゲイン値をa倍に増大(図13ではa=2)にした場合における重み付け係数W(実線)を示す。ここで、実線で示す場合のパラメータCth1′,Cth2′の値は、
Cth1′=Cth1×a
Cth2′=Cth2×a
となっている。
ゲインの値で重み付け係数を補正する代わりに、明るさ算出手段となる平均画素値算出部52の出力部に、この平均画素値算出部52の出力をゲイン値で除算する除算器を設け、また各フィルタAxの出力部に夫々のフィルタ処理結果をゲイン値で除算する除算器を設けて、更に各重み付け回路Wxの出力部に夫々の重み付け結果をゲイン値で乗算する乗算器を設けるようにしても良く、この場合には重み付け係数を補正しなくても良い。
また、強調回路43により構造強調を行う場合には、その強調レベルにより強調量が増大するにつれ重み付け係数Wの値が小さくなるように強調レベルに対応した補正係数CjをパラメータCthに乗算する。
このようにすることにより、構造強調を増大させた場合、通常はノイズも目立つようになるが、本実施例においては暗い画像領域で、ノイズが目立つことを軽減できるようになる。
また、構造強調を行う場合、特定の周波数成分を強調する場合には、その周波数に該当するフィルタ出力結果に対する重み付け係数Wの値を小さくするようにしても良い。
このような構成による本実施例によれば、実施例1の場合と同様の効果を有すると共に、さらにCCD25の種別、AGC回路35のゲイン値、強調回路43の強調レベルが変更された場合に対しても適切にノイズ抑制ができる。
つまり、CCD25の種別等が変更された場合にも、それらに対応して、特に暗い画像部分で目立つようになるノイズを有効に抑制し、かつノイズ以外の画像部分のコントラストが低下することを軽減して、診断し易い画像を得ることができる。
本実施例の第1変形例として、例えばビデオプロセッサ4におけるフロントパネル等に、ノイズ抑制レベル(NRレベルと略記)を調整するNRレベル調整部を設け、このNRレベル調整部におけるNRレベルを可変設定する摘み(或いはスイッチ)を操作して、NRレベルを変化すると、その変化に応じて重み付け部53の重み付け係数も変更するようにしても良い。
図14に示すように、明るさの平均値Pavに対して、パラメータCthの値を大きくする。例えばNRレベルに対応する補正係数をCthの値に乗算する。
このようにすることにより、例えば小さいNRレベルから大きなNRレベルに変更した場合、その変更に伴ってフィルタ処理結果Coefに対する重み付け係数Wの値は小さく設定され、ノイズ抑制の機能が増大する。
なお、NRレベルを変化させた場合、ノイズ抑制機能が効き始める画像の明るさは変化させないようにするために、図14に示すように横軸とクロスする位置は変更しないようにする。
また、第1変形例においては、ノイズ抑制機能が開始する明るさを変更しないようにしていたが、第2変形例としてNRレベルを変化させた場合、それに連動してこの明るさも変更するようにしても良い。
この第2変形例においては、例えば小さいNRレベルから大きなNRレベルに変更した場合、その変更に伴って図15の点線の特性から実線で示す特性のようにパラメータCthを変更する。
つまり、平均値Pavに対するパラメータCthを決定する特性図において、Pav軸、Cth軸の切片の値をNRレベルに対応した補正係数で変更し、NRレベルを大きくした場合、両切片の値を同時に大きくする。
なお、図15における特性をさらに複数用意しておき、その中の値から選択できるようにしても良い。
なお、本実施例では、AGC回路35のゲイン、CCD25の種別、強調レベル、NRレベルにそれぞれ応じて重み付け係数を変更しているが、これらの内の少なくとも1つで重み付け係数を変更するようにしても良い。
また、上記AGC回路35のゲインにより重み付け係数を変更すると説明したものは、ノイズ抑制回路36に入力されるまでに増幅する増幅器のゲインに置換したものでも良い。
次に本発明の実施例3を図16から図19を参照して説明する。本実施例は、ノイズ抑制の機能を向上しつつ、回路規模を抑制することを目的とする。
本実施例は、実施例1或いは実施例2において、さらに逆フィルタ処理した出力と原画素値とに対して、明るさの出力値を用いて加重平均を行うようにしたものである。
図16は、実施例3におけるノイズ抑制回路周辺部の回路構成を示す。本実施例は、例えば実施例1におけるノイズ抑制回路36において、フィルタ部51におけるフィルタサイズを大きくしたフィルタ部51′によるノイズ抑制回路36′を採用している。
フィルタサイズを大きくすると、周波数分解能が高くなり、ノイズ抑制効果を高められるが、回路規模が大きくなってしまう。
このため、本実施例では、n×nのフィルタサイズを大きくしてノイズ抑制の機能を向上し、かつそのために回路規模が大きくなることを防止すべく、フィルタ数rをフル次元、つまり(n×n)より少ないm(m<(n×n)とした整数)にしている。この場合、固有値が大きいものに対応するフィルタ程優先して用いることで、フィルタ数を削減した影響を軽減する。
つまり、固有値の小さいフィルタ係数で求められるフィルタ処理結果(周波数成分)は、高い周波数に相当し、低S/Nの場合となることがあり、このような周波数成分は低減すべきであるが、固有値の小さいフィルタ係数のフィルタを用いない場合には、常に抑制される為、フィルタ数削減によるノイズ抑制効果への影響を軽減できる。
加重平均部61は、例えば、図17(A)に示すように平均画素値算出部52から出力される平均値Pavに応じて変化する重み付け係数sにより、下の(3)式で算出される値をフィルタマスク中心画素((n+1)/2、(n+1)/2)における画素値Poutとして出力する。つまり、
ここで、Pnr:ノイズ抑制回路36′から入力値、s:加重平均部61での重み付け係数(≦1)、Porg:フィルタマスク中心における入力画素値(原画素値)である。これにより、平均画素値が大きく明るい場合には、入力画像値を出力し、暗くなるにつれ、ノイズ抑制処理した画素値が支配的になるように出力することで、明るい領域でのボケ感を抑え、暗い領域で目立ち易くなるノイズ感を抑制する。
つまり、ステップS8において、逆フィルタ処理の後に、ステップS10に示すようにこの逆フィルタ処理の出力と注目画素値(フィルタマスク中心における入力画素値)とを明るさの平均値Pavを用いて加重平均する処理を行い、この処理の後、ステップS1の処理に移る。その他は、図10と同様の処理動作であり、その説明を省略する。なお、図18では、図10の場合と同様にステップS6において、AGCゲイン値等により重み付け部53による重み付けを補正する実施例2の内容で示している。
このようにして、本実施例は、フィルタ個数を削減したノイズ抑制回路の出力データと、注目画素の画像データとの加重平均を局所的な明るさに応じて行うことで、回路規模を低減し、ノイズ抑制の機能を向上しつつ、特に明るい領域での鮮鋭度低下を回避することができる。
なお、図17(A)では加重平均する重み付け係数sを明るさの平均値Pavが0の値からリニアに増大させているが、本実施例の変形例として、例えば図17(B)、図17(C)に示すように重み付け係数sの傾きや、横軸Pavとの切片を、内視鏡操作者が設定変更可能なノイズ抑制レベルにより変更できるようにしても良い。
なお、上述した各実施例等を部分的に組み合わせる等して他の実施例等を構成しても良い。
また、上述した各実施例において、NBIモードにおいては、光源装置3は図4に示すようにR2,G2,B2の狭帯域の波長の光で照明を行うと説明したが、例えばG2,B2の2つの狭帯域の波長の光で照明を行うようにしても良い。
この場合には、G2,B2の照明光の下で得たG,Bの画像データをノイズ抑制回路36で画像処理した後、色変換回路38において、式(1)によりG,Bの画像データからR,G,Bチャンネルの画像データを生成すれば良い。
なお上述の説明では、ノイズ抑制回路36、36′を適用する場合、NBIモードの場合に対して有効であると説明したが、以下の実施例4で説明する蛍光観察画像を得る内視鏡装置の場合にもノイズ抑制回路36、36′は有効である。
また、この場合には、予め代表的な蛍光画像及び反射光による反射画像を撮像して、標本となる画像データを作成し、その画像データに対して固有値及び固有ベクトルを求めてKL変換基底のフィルタ係数を用意しておき、このフィルタ係数を用いてフィルタ処理等のノイズ抑制処理を行う。
なお、上述の各実施例においては、面順次式の内視鏡装置1の場合で説明したが、同時式の内視鏡装置の場合においても、A/D変換したR,G,Bの画像データをメモリに一旦格納し、これらR,G,Bの画像データをR,G,Bの色成分画像として順次読み出して面順次の画像データに変換することにより、上述した場合と同様にノイズ抑制を行うことができることは明らかである。また、色分離した場合には、輝度と色差信号が得られる場合にも、マトリクス回路等によりR.G,Bの画像データに変換すれば良い。
また、上述の説明では、明るさ算出手段としての平均画素値算出部52は、フィルタ処理するn×nの画素サイズにおける平均値Pavを算出しているが、フィルタ処理する小領域と同じ局所領域で平均値Pav等の明るさを算出するものに限定されるものでなく、例えばn×nの画素サイズを含む局所領域、具体的にはaを2,4等の偶数として、(n+a)×(n+a)の画素サイズの局所領域で平均値を算出するように設定した場合も含む。
上述した実施例1から実施例3によれば、コントラスト低下を軽減しながらノイズを有効に抑制できる効果を有する。
次に図20から図22を参照して、本発明の実施例4を説明する。まず、本実施例の背景を説明する。なお、後述する実施例5も基本的には同じ背景である。
例えば日本国特開平1−181168号公報では、対象画素値と、周辺画素の平均値とを比較して、その差分が所定の閾値以上であれば、対象画素値を周辺画素の平均値で置換していた。
しかしながら、この方法では、白傷ノイズが隣接画素に存在する場合には、平均値が高くなり、ノイズ抑制効果が十分に得られないといった問題があった。
また、メディアンフィルタを応用したノイズ抑制方法も提案されている(日本国特開2004−313413号)。この場合にも、同様の欠点がある。
蛍光観察等のように、撮像素子への入射光量の少ない環境下で明るい画像を得るために、撮像素子自体に電荷増倍機構が設けられた高感度撮像素子が使用されることがあるが、画像情報のみならず、画素欠陥に起因する白傷ノイズも増幅してしまう。このため、高感度撮像素子の場合には、特に白傷ノイズによる影響を軽減できることが望ましい。
このため、本実施例は、撮像素子の画素欠陥として知られる白傷ノイズが注目する画素に隣接して存在する場合にも、白傷ノイズ抑制を適切に、若しくは白傷ノイズ軽減ができる(内視鏡用)画像処理装置或いは内視鏡装置を提供することを目的とする。
(a)撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理装置において、周辺画素を画素値の大きい順に並べる並べ替え手段と、前記並べ替え手段により設定された最大の画素値側のもの(単数或いは複数)を除いて前記平均値を算出する平均値算出手段を設けたことを特徴とする。
(b)撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理装置において、周辺画素を画素値の大きい順から単数或いは複数除外して、前記平均値を算出する平均値算出手段を設けたことを特徴とする。
(c)撮像素子を内蔵した内視鏡と、前記撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理装置とを有し、前記画像処理装置は、周辺画素を画素値の大きい順に並べる並べ替え手段と、前記並べ替え手段により設定された最大の画素値側のもの(単数或いは複数)を除いて前記平均値を算出する平均値算出手段とを有する内視鏡装置。
(d)撮像素子を内蔵した内視鏡と、前記撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理装置とを有し、前記画像処理装置は、周辺画素を画素値の大きい順から単数或いは複数除外して、前記平均値を算出する平均値算出手段を有する内視鏡装置。
本内視鏡装置101は、通常観察と蛍光観察を行うモードを備えている。このため、電子内視鏡102は、例えば図1の電子内視鏡2におけるCCD25の代わりにCCD素子内部に増幅機能(電荷増倍機能)を備えた高感度撮像素子としての高感度CCD25Eを採用している。また、この高感度CCD25Eの撮像面の前には励起光をカットする励起光カットフィルタ106が配置されており、励起光カットフィルタ106は、蛍光観察の場合に観察対象部位に照射された励起光の反射光をカットし、蛍光波長を透過する。
また、ビデオプロセッサ104は、CCDドライバ29から高感度CCD25EにCCD駆動信号を印加すると共に、制御電圧発生回路107から高感度CCD25Eの増幅率の値を決定する制御電圧を印加する。
また、高感度CCD25Eの出力信号は、プロセス回路31、A/D変換回路32を経て調光回路33と、制御電圧発生回路107と、白傷ノイズを抑制する白傷ノイズ抑制回路111に入力される。この白傷ノイズ抑制回路111の主要部は、図21に示すような構成になっている。
A/D変換回路32から出力される画像データは、白傷ノイズ抑制回路111を構成する減算器112及びセレクタ113に図示しない遅延回路を介して入力される。
また、この画像データの各画素が入力されるタイミングで、並び替え部114を起動し、この並び替え部114は、図22に示すように3×3画素のマスク115における9個の画素の画素M11〜M33における処理の対象となる対象画素M22を中央として、これを除く8個の周辺画素の画素の値を最大のものから最小のものまで並び替えの処理を行う。
減算器112は、対象画素M22から(最大画素のものを除外した)周辺画素の平均値<M>を減算した減算値を比較器117に出力する。比較器117は、この減算値と、他方の入力端に印加される閾値とを比較する。そして、比較器117による比較結果をセレクト信号としてセレクタ113の切替を制御する。
セレクタ113は、セレクト信号により、対象画素M22の値或いは平均値<M>をセレクトして、この白傷ノイズ抑制回路111の出力信号として、次段の同時化回路45側に出力する。
一方、減算器112の出力の値が閾値以上であると、対象画素M22は、白傷ノイズであると判定して、セレクタ113は平均値<M>を出力し、白傷ノイズをこの平均値<M>で置換することにより白傷ノイズを抑制する。
上記比較器117に出力される閾値は、図20に示すように閾値を格納した閾値メモリ118から出力される。
この閾値メモリ118には、異なるアドレスに対応して異なる閾値が格納されている。
そして、制御電圧発生回路107から出力される制御電圧のレベルに応じて異なるアドレス値を発生するアドレス発生回路119の出力により、制御電圧のレベル、換言すると高感度CCD25Eの増幅率に対応した閾値が比較器117に出力される。
このように高感度CCD25Eは、制御電圧のレベルに応じて異なる増幅率に設定されるため、本実施例では複数の増幅率に対応した複数の閾値を予め用意し、設定される増幅率に対応した閾値を出力できるようにアドレス発生回路119と閾値メモリ118を設けて、増幅率が変化した場合においても、適切な閾値が選択されるようにしている。
なお、白傷ノイズ抑制回路111は、蛍光観察を行う蛍光モード時に動作し、通常モード時には動作しないで、A/D変換回路32の出力信号は、セレクタ113を経て同時化回路45に入力される。
その他の構成は、実施例1において説明したものと同じ構成要素には、同じ符号を付け、その説明を省略する。
次に本実施例における蛍光モード時における白傷ノイズ抑制回路111の動作を説明する。なお、通常モード時の動作は、実施例1における拡大等の一部の機能を削除した動作と同様である。
蛍光モード時には、第3のフィルタ組が照明光路上に配置され、この場合には励起光が観察対象部位に照射される。そして、観察対象部位における励起光により励起されて発生した蛍光は、高感度CCD25Eにより受光される。この場合、観察対象部位で反射された励起光は励起光カットフィルタ106によりカットされ、高感度CCD25Eには入射されない。
また、並び替え部114は、対象画素M22の周囲画素を画素値の大きい順に並び替え、最大画素値の画素Mmaxのものを除外した残りの画素M1〜M7を平均値算出部116に出力し、平均値<M>が算出される。
そして、減算器112は、対象画素M22から平均値<M>を減算した出力値を比較器117に出力し、この比較器117は、その出力値を閾値と比較する。
つまり、本実施例によれば、対象画素の周辺に隣接して白傷ノイズがある画素が存在した場合にも、その白傷ノイズの影響を殆ど受けることなく、対象画素M22が白傷ノイズを含むか否かを判定でき、かつ白傷ノイズを含む場合にも適切な値で置換して白傷ノイズを有効に抑制することができる。
以上の動作から分かるように上記並び替え部114は、画素値を並び替えずに周辺画素における最大画素値の画素Mmaxを検出して、その最大画素値の画素Mmaxを除外して、その残りの画素からその平均値算出部116に出力するものでも良い。また、対象画素M22に隣接して例えば2つの白傷ノイズのある画素が存在する可能性がある場合には、最大画素値の画素Mmaxの他に2番目に大きな画素値のものとを除外して、その残りの画素を平均値算出部116に出力して平均値<M>を算出するものでも良い。
なお、本実施例は、通常の画素に比べて、欠損画素かこれに類似した極端に小さな画素値となる画素(以下、黒傷ノイズの画素)が存在する可能性がある場合にも同様に適用することができる。
この場合には、周辺画素における最小画素値のものを除外して平均値を算出し、平均値から対象画素の値を減算したものを閾値と比較して、黒傷ノイズの判定を行い、その判定結果に応じて対象画素を置換して出力するか否かを決めるようにしても良い。
なお、本実施例では、素子内部に増幅機能を備えた高感度撮像素子の場合で説明したが、素子内部に増幅機能を有しないCCD25等の撮像素子においても、例えばAGC回路35を設けて増幅した場合に対しても同様に適用することができる。
しかしながら、構造の境界情報や、ランダムノイズのように、RGB3色のうち、ある色のみが周辺画素よりも突出して明るければ、その色のその画素は白傷と判断されて補正されてしまう為、白傷ノイズは補正されるが、白傷ノイズ以外の画素も多数補正されてしまうこととなり、画像のボケ感が増すといった問題があった。
このため、本変形例ではRGB各色において、対象画素値と周辺画素平均値との差分を導出し、所定の閾値と比較して、閾値以上であれば対象画素値を周辺画素平均値に置換する内視鏡装置において、RGB全色の差分が閾値以上である場合のみ、白傷ノイズと判断し、その画素のみ周辺画素平均値に置換するようにする。
本変形例は、図20の構成におて、A/D変換回路32の画像データをそのまま同時化回路45に一時格納し、同時化回路45から読み出したR画像データ、G画像データ、B画像データに対して図23に示すような白傷ノイズ抑制回路121を通して、白傷ノイズを抑制する。
図23に示すように同時化回路45から白傷ノイズ抑制回路121に入力されるR画像データRi、G画像データGi、B画像データBiは、それぞれR成分用判定回路122R,G成分用判定回路122G,B成分用判定回路122Bに入力される。
また、この判定回路124の出力信号は、セレクト信号として、セレクタ123の切替を制御する。そして、セレクタ123からそれぞれR出力画像データRo、G出力画像データGo、B出力画像データBoが白傷ノイズ抑制回路121の出力信号として出力される。
R画像データRiの対象画素M22rは、R成分用判定回路122Rを構成するディレイ回路125を経て減算器126に入力されると共に、セレクタ123に入力される。
算出されたこの平均値<Mr>は、減算器126に入力されると共に、セレクタ123に入力される。減算器126は、対象画素M22rの値から平均値<Mr>を減算して、減算出力は、比較器128に入力され、この比較器128により、R成分用閾値Thrと比較される。
この比較器128の比較結果Drは、判定回路124に入力される。
G画像データGiが入力されるG成分用判定回路122G,B画像データBiが入力されるB成分用判定回路122Bは、R成分用判定回路122Rと基本的に同じ構成であり、単に閾値Thrがそれぞれ閾値Thg,Thbに変更されている。
また、B成分用判定回路122Bは、セレクタ123に対象画素M22bの出力と、平均値<Mb>とを出力し、判定回路124には比較結果Dbを出力する。
判定回路124は、比較結果Dr,Dg,Db全てが閾値Thr,Thg,Thb以上であると判定した場合のみ、セレクタ123を切り替えて平均値<Mr>,<Mg>,<Mb>を出力させ、それ以外の場合には、対象画素M22r、M22g、M22bを出力させる。
|M22r−<Mr>|≧Thr
|M22g−<Mg>|≧Thg
|M22b−<Mb>|≧Thb
を同時に満たす場合のみ、対象画素M22は、白傷ノイズの画素であると判定し、それおぞれ平均値に置換して出力させるようにする。その他の場合には、このような置換を行わない。
本変形例の効果として、全色が所定の閾値である箇所のみ抽出できることから、白傷ノイズのように全色で突出した画素値となることの検出により確実に判定でき、かつ構造の境界情報やランダムノイズのように単色で突出している画素の補正を制限し、過剰な補正による画像のボケ感を抑制することができ、結果として、白傷ノイズの検出及びその補正機能を向上することができる。
このため、白傷ノイズ補正手段として、従来例では、面順次内視鏡のRGB各色において、対象画素値と、周辺画素値とを比較して、その差分が所定の閾値以上である画素を白傷ノイズと判断し、対象画素値を周辺画素値に変換していた。しかしながら、この方式ではハレーションの境界領域も白傷ノイズとして検出して補正しまうこととなり、この補正により不要な画素を補正して画像をぼかしてしまう欠点があった。
A.対象画素の画素値により判定する。具体的には、ハレーションであるか否かを、最大画素値であるか否かにより判定する。この場合、白傷ノイズは、周囲よりも若干、その値が大きくなるものの、最大画素値ではないという特性を利用する。
B.対象画素を含む、隣接した複数の領域にわたって、最大画素値となる画素が存在する場合には、ハレーション領域と判定する。
上述した図22のように対象画素M22に対してこれを囲む周辺画素をM11〜M33(M22を除く)としたマスクを設定した場合、対象画素M22の信号は、セレクタ113に入力されると共に、比較器132に入力され、閾値Thと比較される。
また、対象画素M22の周辺画素Mij(i,jは1〜3の任意の整数で、i=j=2を除く)の信号は、(周辺画素)平均値算出部133に入力され、周辺画素Mijの平均値<M>が算出され、この平均値<M>は、セレクタ113に入力される。
このハレーション有無判定回路134による判定結果Dhは、比較器132の比較結果Dmと共に判定回路135に入力され、両比較結果に応じた判定出力がセレクト信号としてセレクタ113の切替を制御する。
ハレーション有無判定回路134は、以下のD〜Fのいずれかによる判定をする。なお、以下では各画素の画像データが8ビット(0〜255)の場合で説明する。
D.中心画素M22が最大画素値の255であれば、ハレーションと判定する。
F.中心画素M22が最大画素値の255で、周辺画素値は最大画素値の255でない場合には、ハレーションでないと判定する。
判定回路135は、ハレーション有無判定回路134による判定結果Dhがハレーションと判定すれば、比較器132の比較結果Dmに拘わらず、セレクタ113が中心画素M22を出力するためのセレクト信号をセレクタ113に出力する。ハレーション有無判定回路134よる判定結果Dhがハレーションでないと判定し、かつ比較器132の比較結果Dmが閾値以上であれば、セレクタ113は、平均値<M>を出力するためのセレクト信号をセレクタ113に出力し、また判定結果Dhがハレーションでないと判定し、かつ比較結果Dmが閾値以下であれば、セレクタ113は、中心画素M22を出力するためのセレクタ信号をセレクタ113へ出力する。
更に、高感度CCD25Eに対する増幅率に応じて判定方法を変更する構成にしても良い。つまり、増幅率が所定の閾値以下である場合、判定回路135は上記D或いはEによりハレーション画素を判定し、閾値以上である場合には上記Fにより判定する。
本変形例によれば、白傷ノイズ補正時に、ハレーション領域は除外する為、不要な画素をぼかすことが無くなり、画像を鮮明化することができる。
次に図27から図31を参照して、本発明の第5実施例を説明する。本実施例は、一組の光源装置及び画像処理装置(具体的にはビデオプロセッサ)に対して、特性の異なる複数の、蛍光観察可能な内視鏡が接続された場合でも、蛍光観察画像のS/N低下を回避しつつ、撮像素子における画素欠陥を補正することが可能な画像処理装置及び内視鏡装置を提供することを目的とする。
(e)蛍光観察に用いられる透過波長特性が異なるフィルタをそれぞれ有し、電荷を蓄積する事によって被写体像を撮像する第1及び第2の撮像素子をそれぞれ内蔵すると共に、蓄積時間に関する情報をそれぞれ記憶する第1及び第2の記憶手段を内蔵した第1及び第2の内視鏡が選択的に接続され、前記第1及び第2の撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理手段と、
周辺画素を画素値の大きい順に並べる並べ替え手段と、前記並べ替え手段により設定された最大の画素値側のもの(単数或いは複数)を除いて前記平均値を算出する平均値算出手段と、
前記記憶手段における蓄積時間に関する情報に基づき、前記画像処理に関する処理パラメータを変更する手段と、
を備えたことを特徴とする画像処理装置。
周辺画素を画素値の大きい順から単数或いは複数除外して、前記平均値を算出する平均値算出手段と、
前記記憶手段における蓄積時間に関する情報に基づき、前記画像処理に関する処理パラメータを変更する手段と、
を備えたことを特徴とする画像処理装置。
(g)蛍光観察に用いられる透過波長特性が異なるフィルタをそれぞれ有し、電荷を蓄積する事によって被写体像を撮像する第1及び第2の撮像素子をそれぞれ内蔵した第1及び第2の内視鏡と、
前記第1及び第2の内視鏡にそれぞれ設けられ、蓄積時間に関する情報をそれぞれ記憶する第1及び第2の記憶手段と、
前記第1又は第2の内視鏡を経て被写体を照明光で照明する照明手段と、
前記第1及び第2の撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理装置とを有し、
前記画像処理装置は、周辺画素を画素値の大きい順に並べる並べ替え手段と、前記並べ替え手段により設定された最大の画素値側のもの(単数或いは複数)を除いて前記平均値を算出する平均値算出手段と、前記記憶手段における蓄積時間に関する情報に基づき、前記画像処理に関する処理パラメータを変更する手段と、
を備えたことを特徴とする内視鏡装置。
前記第1及び第2の内視鏡にそれぞれ設けられ、蓄積時間に関する情報をそれぞれ記憶する第1及び第2の記憶手段と、
前記第1又は第2の内視鏡を経て被写体を照明光で照明する照明手段と、
前記第1及び第2の撮像素子により撮像された画像データにおける対象画素値と周辺画素値の平均値との差分を導出し、前記差分を所定の閾値と比較して、閾値以上であれば対象画素を周辺画素平均値に置換する画像処理装置とを有し、
前記画像処理装置は、周辺画素を画素値の大きい順から単数或いは複数除外して、前記平均値を算出する平均値算出手段と、前記記憶手段における蓄積時間に関する情報に基づき、前記画像処理に関する処理パラメータを変更する手段と、
を備えたことを特徴とする内視鏡装置。
(j)hにおいて、前記第1及び第2の記憶手段は、前記照明手段が照明する少なくとも一つの照明光を照明した際に前記第1又は第2の撮像素子が蓄積する蓄積時間をそれぞれ記憶する。
(k)hにおいて、前記第1及び第2の記憶手段は、前記照明手段が照明する、反射光像を取得するための照明光を照明した際の、前記第1及び第2の撮像素子が蓄積する蓄積時間をそれぞれ記憶する。
また、図28に示す第2の電子内視鏡102Bは、図27に示す電子内視鏡102Aにおいて、さらに通常観察用の撮像手段を備えた電子内視鏡である。
つまり、図27に示す電子内視鏡102Aは、1つのCCD25Eにより、通常観察と蛍光観察とを兼用して使用されるのに対し、図28に示す電子内視鏡102Bは、通常観察はCCD25F、蛍光観察はCCD25Eを使用する。
このCCD25Fは、通常観察用であるため、対物レンズ24Fの結像位置に、励起光カットフィルタ106が介在されない状態で配置されている。なお、対物レンズ24Fは、対物レンズ24と同じ特性のものを採用できる。
また、電子内視鏡102AのCCD25Eの撮像面の前に配置されている励起光カットフィルタ106と電子内視鏡102BのCCD25Eの撮像面の前に配置されている励起光カットフィルタ106Bとは、図29(A)及び図29(B)に示すようにその透過範囲が異なる特性に設定されている。
つまり、電子内視鏡102Bにおいては、CCD25Eは、蛍光観察専用に用いられるため、励起光カットフィルタ106Bは、図29(B)に示すように励起光Exの波長帯とは異なり、反射光像を得るために使用されるG2及びR2の波長範囲を透過する特性に設定されている。具体的には波長λ2から波長R2より長波長のλ0までの波長帯を透過する。このλ2の波長は、G2の波長帯よりも少し短波長に設定されている。
なお、図29に示す励起光Ex、照明光G2,R2は、蛍光観察モードの際に光源装置103Bから出射される面順次照明光の波長帯を示している。
なお、本実施例においては、蛍光観察を行う場合、第1の電子内視鏡102Aによる第1の蛍光像lu1は、狭帯域にしてその照明光強度を弱くしたR2及びG2の照明光のもとで撮像された第1の反射光像r1,g1とビデオプロセッサ104B内で合成されて観察モニタ5に表示される。同様に、蛍光観察を行う場合、第2の電子内視鏡102Bによる第2の蛍光像lu2は、狭帯域にしてその照明光強度を弱くしたR2及びG2の照明光のもとで撮像された第2の反射光像r2,g2とビデオプロセッサ104B内で合成されて蛍光観察画像として観察モニタ5で表示される。
また、上記励起光カットフィルタ106は、通常観察の場合には、図30(A)に示すように広帯域のB1の照明光の一部を透過するように設定されており、この広帯域のB1の照明光のもとで撮像した色信号を得られるようにしている。これに対して、上記励起光カットフィルタ106Bは、通常観察の場合には、図30(B)に示すようにB1の照明光を透過しないように設定されている。つまり、励起光カットフィルタ106は、透過する波長範囲が励起光カットフィルタ106Bよりも広帯域に設定されている。
従って、共通の光源装置103Bを用いて、同一被写体を蛍光観察モードで蛍光観察を行うと、励起光カットフィルタ106を用いたCCD25Eにより撮像される第1の蛍光像lu1の場合の方が、励起光カットフィルタ106Bを用いたCCD25Eにより撮像される第2の蛍光像lu2の場合における信号レベルより高くなる。つまり、共通の光源装置103Bを用いて蛍光観察モードで蛍光観察を行うと、電子内視鏡102Aの場合と102Bの場合とで、CCD25Eの出力レベルに差が生じる。
本内視鏡装置101Bに使用される光源装置103Bは、例えば実施例1における光源装置3において、回転フィルタ14におけるB2フィルタ14b2の代わりに図29(A)等に示した励起光Exを発生する励起光フィルタを設けた回転フィルタ14Cが採用されたものである。つまり、蛍光観察モード時には、光源装置103Bは、R2,G2,励起光Exの照明光を順次出射し、通常観察モード時にはR1,G1,B1の照明光を順次出射する。
また、本内視鏡装置101Bに使用されるビデオプロセッサ104Bは、図20に示した実施例4のビデオプロセッサ104の一部を変更した構成である。
例えば、制御部152は、例えば蛍光観察モードへの最初の切替時(この他に起動時でも良い)に、スコープID発生回路150から反射光及び蛍光の蓄積時間に関する情報を読み出し、制御部152内のメモリ152aに格納する。
図27に示すように電子内視鏡102Aが、ビデオプロセッサ104Bに接続された場合には、制御部152は、CCDドライバ29に対して、R2の照明光、G2の照明光でそれぞれ照明した場合における(反射光像を撮像するときの)各撮像時間をtr1,tg1となるように制御し、また励起光Exを照射した場合(蛍光像を撮像するとき)の撮像時間をtb1に制御する。
一方、図28に示す電子内視鏡102Bが、ビデオプロセッサ104Bに接続された場合には、制御部152は、CCDドライバ29に対してR2の照明光、G2の照明光でそれぞれ照明した場合における各撮像時間をtr2(<tr1),tg2(<tg1)となるように制御し、また励起光Exを照射した場合(蛍光像を撮像するとき)の撮像時間をtb2(=tb1)に制御する。
本実施例では、基準の被写体を撮像した場合の反射光像の信号レベル(明るさ)が蛍光像の信号レベル(明るさ)に合うように、反射光撮像時の撮像時間を、内視鏡(励起光カットフィルタ)の特性に合わせて(スコープID発生回路150に予め記録した蓄積時間に関する情報に基づき)調整することで、各像の信号レベル(明るさ)を適切にバランスさせるようにしている。
このように電子内視鏡102A、102Bの間では、蛍光撮像手段に用いられる励起光カットフィルタ106,106の特性が異なるため、同一被写体を撮像した場合に得られる蛍光像lu1、lu2の明るさが異なるが、赤色帯などの照射による反射光像r1,g1;r2,g2の明るさは同等である。このため、同じ処理状態で、蛍光像と反射光像を合成した場合の各像の明るさのバランスが異なってしまう。
なお、上記においては、スコープID発生回路150には、反射光及び蛍光の蓄積時間に関する情報が書き込まれている場合を示したが、反射光の蓄積時間に関する情報のみを書き込むようにしても良い。そして、制御部152は、この反射光の蓄積時間に関する情報をメモリ152aに格納し、蛍光の蓄積時間に関する情報は、ビデオプロセッサ104Bに接続される電子内視鏡によらず、所定の蓄積時間を予めメモリ152aに格納しておく構成にして良い。
また、図28に示す電子内視鏡102Bの場合には、比較器117に入力される上記閾値として、Thr2,Thg2,Thb2となる。この場合、例えばThb2>Thr2,Thb2>Thg2となるように制御部152は制御する。この場合も上記閾値Thb1等の場合と同様に設定される。
また、CCD25Eに白傷が有る場合には、CCD25Eの撮像時間が短いと、白傷による信号レベルがより低くなる。そこで、上述したようにtr1>tr2の設定に対応して、制御部152はThr1>Thr2に設定する。同様にtg1>tg2の設定に対応して、制御部152はThg1>Thg2に設定する。
そして、制御部152は、モード切替に対応して、光源装置103Bの制御回路16にモード切替の信号を送り、制御回路16はこの信号に対応した制御を行う。
次に本実施例の作用を説明する。まず、光源装置103B及びビデオプロセッサ104Bに第2の電子内視鏡102Bが接続されたとする。そして、電源が投入されると、この制御部152は起動時には通常観察モードで照明及び信号処理を行うように制御する。 この通常観察モード時には、光源装置103Bは、R1,G1、B1の照明光を順次出射し、この照明光の状態でCCD25Fは撮像を行う。この場合には、制御部152は、制御電圧発生回路107を動作させない。また、白傷ノイズ抑制回路111も動作させない。従って、この場合には、ビデオプロセッサ104B内のA/D変換回路32の出力信号は、白傷ノイズ抑制回路111をスルーして同時化回路45に入力される。
また、この蛍光観察モードにおいては、制御部152は、白傷ノイズ抑制回路111を動作させる。この場合、制御部152は白傷ノイズ抑制回路111内の比較器117に印加される閾値を、この比較器117の一方の入力端に入力される第2の反射光像r2,g2,蛍光像lu2に基づく減算器112の出力信号が順次入力される場合、比較器117の他方に入力端に印加される閾値をThr2,Thg2,Thb2とし、この場合Thb2>Thr2,Thb2>Thg2となるように制御部152は制御する。
この場合、上述したように第1の電子内視鏡102Aの場合と第2の電子内視鏡102Bの場合とで、tr1>tr2等に設定するようにしているので、観察モニタ5に第1の蛍光像lu1或いは第2の蛍光像lu2を表示する場合、それぞれ反射光像r1,g1或いはr2,g2とのカラーバランスを適切に保って表示することができる。
また、本実施例においては、電子内視鏡102A或いは102Bに対して設定される各像の撮像時間に応じて、白傷ノイズ抑制を行う際の閾値を適切に設定することができ、白傷ノイズを有効に抑制できる。
上述の説明においては、蛍光撮像を行う際のCCD25Eの増幅率を、反射光撮像を行う際よりも高く設定する場合で説明したが、蛍光撮像時と反射光撮像時とで同じ増幅率を設定する場合でも、各像の撮像時間に応じた閾値を用いることで、白傷ノイズ抑制を行うようにしても良い。
また、蛍光撮像を行う際のCCD25Eの増幅率が第1の電子内視鏡102Aと第2の電子内視鏡102Bとで異なる場合には、その増幅率に応じた、蛍光像に対して設定される閾値を用いて、白傷ノイズ抑制を行うようにしても良い。
図31の白傷ノイズ抑制回路121は、比較器128に印加される閾値を、スコープID発生回路150のスコープIDにより制御する点が図23の白傷ノイズ抑制回路121と異なっている。図31の場合には、第1の電子内視鏡102Aが接続された状態で示しており、この場合にはR成分用判定回路122Rにおける比較器128には閾値Thr1が印加される。
なお、明示していないがG成分用判定回路122Gにおける比較器128には閾値Thg1が印加されることになり、蛍光成分用(B成分用)判定回路122Bにおける比較器128には閾値Thb1が印加されることになる。
本変形例は、実施例5の場合とほぼ同様の効果がある。
なお、上述した各実施例等を部分的に組み合わせる等して構成される実施例等も本発明に属する。
本出願は、2005年3月22日に日本国に出願された特願2005−82544号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲、図面に引用されるものとする。
Claims (26)
- 撮像手段により撮像された画像データに対して画像処理を行う画像処理装置において、前記画像データに対して、複数の空間フィルタによるフィルタ処理を行うフィルタ処理手段と、
前記画像データの局所領域における明るさを算出する明るさ算出手段と、
前記フィルタ処理手段の出力に対して、前記フィルタ処理手段の出力及び/又は前記明るさ算出手段の出力に応じた重み付けを行う重み付け手段と、
前記重み付け手段の出力に対して、処理画像データを生成するための逆フィルタ処理を行う逆フィルタ処理手段と、
を備えたことを特徴とする画像処理装置。 - 前記重み付け手段は、前記フィルタ処理手段の出力が所定値よりも大きい場合には、前記フィルタ処理手段の出力によらず所定の重み付け係数を用い、前記フィルタ処理手段の出力が所定値よりも小さい場合には、前記フィルタ処理手段の出力に応じて重み付け係数を変更し、前記所定値は、前記明るさ算出手段の出力に応じて変更することを特徴とする請求項1に記載の画像処理装置。
- さらに前記明るさ算出手段の出力に応じて、前記画像データ及び前記逆フィルタ処理手段の出力の加重平均を算出する加重平均算出手段を有することを特徴とする請求項1に記載の画像処理装置。
- 前記フィルタ処理手段は、直交基底を用いた直交変換処理手段であり、前記逆フィルタ処理手段は、逆直交変換処理手段であることを特徴とする請求項1に記載の画像処理装置。
- 前記フィルタ処理手段は、入力される画像データの色成分毎に異なるフィルタ係数を用いてフィルタ処理することを特徴とする請求項1に記載の画像処理装置。
- 前記フィルタ処理手段は、入力される画像データの色成分が異なる場合にも共通のフィルタ係数を用いてフィルタ処理することを特徴とする請求項1に記載の画像処理装置。
- 前記重み付け手段は、前記画像データが前記明るさ算出手段に入力されるまでに増幅する増幅器のゲイン値、撮像手段の種別、鮮鋭度補正処理の補正度の少なくとも1つで重み付けする際の重み付け係数を変更することを特徴とする請求項1に記載の画像処理装置。
- 前記直交基底は、所定の画像データに対して算出したKarhunen−Loeve変換の基底であることを特徴とする請求項4に記載の画像処理装置。
- 前記直交基底は、離散コサイン変換の基底であることを特徴とする請求項4に記載の画像処理装置。
- 前記重み付け手段は、前記フィルタ処理手段の出力が所定値より小さい場合には、前記フィルタ処理手段の出力によらず0の重み付け係数を与える前記所定値を、前記明るさ算出手段の出力に応じて変更することを特徴とする請求項1に記載の画像処理装置。
- 前記重み付け手段は、前記フィルタ処理手段の出力が第1の所定値よりも大きい場合には、前記フィルタ処理手段の出力によらず1の重み付け係数とし、前記フィルタ処理手段の出力が第2の所定値よりも小さい場合には、前記フィルタ処理手段の出力によらず0の重み付け係数とし、前記フィルタ処理手段の出力が前記第1及び第2の所定値の間においては、0と1との間の重み付け係数とする特性の重み付け係数とし、前記第1の所定値及び前記第2の所定値は、前記明るさ算出手段の出力に応じて変更することを特徴とする請求項1に記載の画像処理装置。
- 前記フィルタ処理手段は、処理対象画素を中心にして奇数nとしたn×n画素の小領域の画像データに対して、n×n個よりも少ないフィルタ数rによりフィルタ処理を行うことを特徴とする請求項3に記載の画像処理装置。
- 前記フィルタ処理手段は、大きな固有値に対応するフィルタ係数のものを優先して、前記フィルタ数rを決定することを特徴とする請求項12に記載の画像処理装置。
- 撮像手段を備えた内視鏡と、
前記撮像手段により撮像された画像データに対して、複数のフィルタを適用したフィルタ処理を行うフィルタ処理手段と、
前記画像データの局所領域における明るさを算出する明るさ算出手段と、
前記フィルタ処理手段の出力に対して、前記フィルタ処理手段の出力及び/又は前記明るさ算出手段の出力値に応じた重み付けを行う重み付け手段と、
前記重み付け手段の出力に対して、処理画像データを得るための逆フィルタ処理を行う逆フィルタ処理手段と、
を備えたことを特徴とする内視鏡装置。 - 前記重み付け手段は、前記フィルタ処理手段の出力が所定値よりも大きい場合には、前記フィルタ処理手段の出力によらず所定の重み付け係数を用い、前記フィルタ処理手段の出力が所定値よりも小さい場合には、前記フィルタ処理手段の出力に応じて重み付け係数を変更し、前記所定値は、前記明るさ算出手段の出力に応じて変更することを特徴とする請求項14に記載の内視鏡装置。
- さらに前記明るさ算出手段の出力に応じて、前記画像データ及び前記逆フィルタ処理手段の出力の加重平均を算出する加重平均算出手段を有することを特徴とする請求項14に記載の内視鏡装置。
- 前記フィルタ処理手段は、直交基底を用いた直交変換処理手段であり、前記逆フィルタ処理手段は、逆直交変換処理手段であることを特徴とする請求項14に記載の内視鏡装置。
- 前記フィルタ処理手段は、入力される画像データの色成分毎に異なるフィルタ係数を用いてフィルタ処理することを特徴とする請求項14に記載の内視鏡装置。
- 前記フィルタ処理手段は、入力される画像データの色成分が異なる場合にも共通のフィルタ係数を用いてフィルタ処理することを特徴とする請求項14に記載の内視鏡装置。
- 前記重み付け手段は、前記画像データが前記明るさ算出手段に入力されるまでに増幅する増幅器のゲイン値、撮像手段の種別、鮮鋭度補正処理の補正度の少なくとも1つで重み付けする際の重み付け係数を変更することを特徴とする請求項14に記載の内視鏡装置。
- 前記直交基底は、所定の画像データに対して算出したKarhunen−Loeve変換の基底であることを特徴とする請求項17に記載の内視鏡装置。
- 前記直交基底は、離散コサイン変換の基底であることを特徴とする請求項17に記載の内視鏡装置。
- 前記重み付け手段は、前記フィルタ処理手段の出力が所定値より小さい場合には、前記フィルタ処理手段の出力によらず0の重み付け係数を与える前記所定値を、前記明るさ算出手段の出力に応じて変更することを特徴とする請求項14に記載の内視鏡装置。
- 前記重み付け手段は、前記フィルタ処理手段の出力が第1の所定値よりも大きい場合には、前記フィルタ処理手段の出力によらず1の重み付け係数とし、前記フィルタ処理手段の出力が第2の所定値よりも小さい場合には、前記フィルタ処理手段の出力によらず0の重み付け係数とし、前記フィルタ処理手段の出力が前記第1及び第2の所定値の間においては、0と1との間の重み付け係数とする特性の重み付け係数とし、前記第1の所定値及び前記第2の所定値は、前記明るさ算出手段の出力に応じて変更することを特徴とする請求項14に記載の内視鏡装置。
- 前記フィルタ処理手段は、処理対象画素を中心にして奇数nとしたn×n画素の小領域の画像データに対して、n×n個よりも少ないフィルタ数rによりフィルタ処理を行うことを特徴とする請求項16に記載の内視鏡装置。
- 前記フィルタ処理手段は、大きな固有値に対応するフィルタ係数のものを優先して、前記フィルタ数rを決定することを特徴とする請求項25に記載の内視鏡装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005082544 | 2005-03-22 | ||
JP2005082544 | 2005-03-22 | ||
PCT/JP2006/305709 WO2006101128A1 (ja) | 2005-03-22 | 2006-03-22 | 画像処理装置及び内視鏡装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2006101128A1 true JPWO2006101128A1 (ja) | 2008-09-04 |
JP4599398B2 JP4599398B2 (ja) | 2010-12-15 |
Family
ID=37023788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007509302A Expired - Fee Related JP4599398B2 (ja) | 2005-03-22 | 2006-03-22 | 画像処理装置及び内視鏡装置 |
Country Status (8)
Country | Link |
---|---|
US (1) | US8305427B2 (ja) |
EP (1) | EP1862967A4 (ja) |
JP (1) | JP4599398B2 (ja) |
KR (1) | KR100943109B1 (ja) |
CN (1) | CN101142592B (ja) |
AU (1) | AU2006225662B2 (ja) |
CA (1) | CA2602906A1 (ja) |
WO (1) | WO2006101128A1 (ja) |
Families Citing this family (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1862967A4 (en) * | 2005-03-22 | 2017-04-26 | Olympus Corporation | Image processing device and endoscope |
JP5214853B2 (ja) * | 2006-03-03 | 2013-06-19 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置 |
JP5355846B2 (ja) * | 2006-05-08 | 2013-11-27 | オリンパスメディカルシステムズ株式会社 | 内視鏡用画像処理装置 |
JP2008293425A (ja) * | 2007-05-28 | 2008-12-04 | Olympus Corp | ノイズ除去装置並びにプログラムおよび方法 |
JP2008293424A (ja) * | 2007-05-28 | 2008-12-04 | Olympus Corp | ノイズ除去装置並びにプログラムおよび方法 |
JP2009071621A (ja) * | 2007-09-13 | 2009-04-02 | Panasonic Corp | 画像処理装置及びデジタルカメラ |
WO2009081709A1 (ja) * | 2007-12-25 | 2009-07-02 | Olympus Corporation | 画像処理装置、画像処理方法、および、画像処理プログラム |
JP2009165553A (ja) * | 2008-01-11 | 2009-07-30 | Olympus Medical Systems Corp | 医療用画像処理装置及び医療用撮像システム |
JP5035029B2 (ja) * | 2008-03-03 | 2012-09-26 | ソニー株式会社 | 信号処理装置および方法、並びにプログラム |
JP5424570B2 (ja) * | 2008-04-10 | 2014-02-26 | Hoya株式会社 | 電子内視鏡用プロセッサ、ビデオスコープ及び電子内視鏡装置 |
JP2010142464A (ja) * | 2008-12-19 | 2010-07-01 | Panasonic Corp | 画像処理装置および画像入力装置 |
CN102245078B (zh) * | 2009-05-14 | 2014-03-19 | 奥林巴斯医疗株式会社 | 摄像装置 |
CN102053051A (zh) * | 2009-10-30 | 2011-05-11 | 西门子公司 | 一种体液分析系统和用于体液分析的图像处理设备、方法 |
JP5462084B2 (ja) * | 2010-06-21 | 2014-04-02 | オリンパス株式会社 | 画像処理装置及びプログラム |
US9019345B2 (en) | 2010-07-02 | 2015-04-28 | Intuitive Surgical Operations, Inc. | Imaging mode blooming suppression |
CN102970916B (zh) * | 2010-07-26 | 2015-04-22 | 奥林巴斯医疗株式会社 | 内窥镜装置和内窥镜装置的控制方法 |
CN103379848B (zh) | 2011-02-21 | 2015-11-25 | 奥林巴斯株式会社 | 荧光观察装置 |
CN103068298B (zh) * | 2011-04-11 | 2016-05-11 | 奥林巴斯株式会社 | 内窥镜装置 |
JP2013048694A (ja) * | 2011-08-30 | 2013-03-14 | Olympus Corp | 内視鏡装置 |
JP5926909B2 (ja) | 2011-09-07 | 2016-05-25 | オリンパス株式会社 | 蛍光観察装置 |
WO2013128766A1 (ja) * | 2012-03-01 | 2013-09-06 | オリンパスメディカルシステムズ株式会社 | 撮像システム |
US9014504B2 (en) * | 2012-05-31 | 2015-04-21 | Apple Inc. | Systems and methods for highlight recovery in an image signal processor |
JP2013258596A (ja) * | 2012-06-13 | 2013-12-26 | Denso Corp | 撮像装置 |
US20140142383A1 (en) * | 2012-11-22 | 2014-05-22 | Gyrus Acmi, Inc. (D.B.A. Olympus Surgical Technologies America) | Endoscope Camera Head Memory |
JP2014198144A (ja) * | 2013-03-29 | 2014-10-23 | ソニー株式会社 | 画像処理装置、画像処理方法、情報処理プログラム、蛍光観察システム、および蛍光ナビゲーション・サージェリー・システム |
JP5961149B2 (ja) | 2013-08-26 | 2016-08-02 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP6196900B2 (ja) * | 2013-12-18 | 2017-09-13 | オリンパス株式会社 | 内視鏡装置 |
CN105828693B (zh) * | 2013-12-20 | 2018-11-06 | 奥林巴斯株式会社 | 内窥镜装置 |
DE102014200833A1 (de) * | 2014-01-17 | 2015-07-23 | Olympus Winter & Ibe Gmbh | Verfahren zur Steuerung einer Videobildverarbeitung, Bildverarbeitungssteuerungssoftware sowie Video-Endoskopiesystem |
JP6272115B2 (ja) * | 2014-04-10 | 2018-01-31 | Hoya株式会社 | 内視鏡プロセッサおよび内視鏡システム |
JP6336949B2 (ja) * | 2015-01-29 | 2018-06-06 | 富士フイルム株式会社 | 画像処理装置及び画像処理方法、並びに内視鏡システム |
KR101816449B1 (ko) | 2016-10-20 | 2018-01-08 | 현대자동차주식회사 | 다시점 카메라의 통합 노출 제어 장치, 그를 포함한 시스템 및 그 방법 |
JP6706339B2 (ja) * | 2016-10-27 | 2020-06-03 | 富士フイルム株式会社 | 内視鏡システム |
JP6491736B2 (ja) * | 2017-12-28 | 2019-03-27 | Hoya株式会社 | 内視鏡プロセッサおよび内視鏡システム |
JP7272670B2 (ja) * | 2018-05-31 | 2023-05-12 | i-PRO株式会社 | カメラ装置、画像処理方法およびカメラシステム |
JP7171274B2 (ja) * | 2018-07-06 | 2022-11-15 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用画像処理装置及び医療用観察装置 |
WO2020070832A1 (ja) * | 2018-10-03 | 2020-04-09 | オリンパス株式会社 | 内視鏡及び内視鏡システム |
KR102592605B1 (ko) * | 2018-12-06 | 2023-10-24 | 삼성전자주식회사 | 이미지 신호 처리기, 이미지 신호 처리기의 동작 방법, 및 이미지 신호 처리기를 포함하는 전자 장치 |
US11250944B2 (en) * | 2019-01-02 | 2022-02-15 | Healthy.Io Ltd. | Uniquely coded color boards for analyzing images |
JP7257829B2 (ja) * | 2019-03-15 | 2023-04-14 | ソニー・オリンパスメディカルソリューションズ株式会社 | 画像処理装置、画像処理方法およびプログラム |
CN117315510A (zh) * | 2023-09-25 | 2023-12-29 | 广东省核工业地质局测绘院 | 一种基于遥感解译的生态环境测绘系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04314181A (ja) * | 1991-04-12 | 1992-11-05 | Olympus Optical Co Ltd | 内視鏡画像の処理方法 |
JPH0785247A (ja) * | 1993-09-13 | 1995-03-31 | Fuji Photo Film Co Ltd | エネルギーサブトラクション画像処理方法 |
JP2001309177A (ja) * | 2000-04-21 | 2001-11-02 | Sharp Corp | 画像処理装置、画像読取装置および画像形成装置 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1992008405A1 (en) | 1990-11-19 | 1992-05-29 | Olympus Optical Co., Ltd. | Device for processing image of endoscope and method thereof |
US5526446A (en) * | 1991-09-24 | 1996-06-11 | Massachusetts Institute Of Technology | Noise reduction system |
JPH07282247A (ja) * | 1994-04-06 | 1995-10-27 | Ge Yokogawa Medical Syst Ltd | 画像処理方法及び画像処理装置 |
US5872597A (en) * | 1994-08-26 | 1999-02-16 | Kabushiki Kaisha Toshiba | System for decoding moving picture signal multiplied and coded by DCT coefficient and additional data |
KR100200628B1 (ko) | 1996-09-30 | 1999-06-15 | 윤종용 | 화질 개선 회로 및 그 방법 |
JP3477603B2 (ja) * | 1997-04-07 | 2003-12-10 | 株式会社日立製作所 | 画像処理方法、画像処理装置および画像処理プログラムを記録した記録媒体 |
US6941323B1 (en) * | 1999-08-09 | 2005-09-06 | Almen Laboratories, Inc. | System and method for image comparison and retrieval by enhancing, defining, and parameterizing objects in images |
EP1100260A1 (en) * | 1999-11-12 | 2001-05-16 | STMicroelectronics S.r.l. | Spatio-temporal filtering method for noise reduction during pre-processing of picture sequences in video encoders |
US6807300B1 (en) * | 2000-07-20 | 2004-10-19 | Eastman Kodak Company | Noise reduction method utilizing color information, apparatus, and program for digital image processing |
JP3583731B2 (ja) | 2000-07-21 | 2004-11-04 | オリンパス株式会社 | 内視鏡装置および光源装置 |
JP2002262094A (ja) * | 2001-02-27 | 2002-09-13 | Konica Corp | 画像処理方法及び画像処理装置 |
DE10115502A1 (de) * | 2001-03-29 | 2002-10-10 | Promos Technologies Inc | Raumfilterverfahren zur Fehleruntersuchung eines Geräts |
WO2003069557A1 (fr) | 2002-02-12 | 2003-08-21 | Matsushita Electric Industrial Co., Ltd. | Dispositif et procede de traitement d'image |
JP2005006856A (ja) | 2003-06-18 | 2005-01-13 | Olympus Corp | 内視鏡装置 |
JP4752031B2 (ja) * | 2004-10-01 | 2011-08-17 | ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティ | 撮像の装置と方法 |
JP2006129236A (ja) * | 2004-10-29 | 2006-05-18 | Sanyo Electric Co Ltd | リンギング除去装置およびリンギング除去プログラムを記録したコンピュータ読み取り可能な記録媒体 |
EP1862967A4 (en) * | 2005-03-22 | 2017-04-26 | Olympus Corporation | Image processing device and endoscope |
EP2332460B1 (en) * | 2005-05-13 | 2013-06-05 | Olympus Medical Systems Corp. | Biological observation apparatus |
EP2158754A1 (en) * | 2008-01-18 | 2010-03-03 | Fotonation Vision Limited | Image processing method and apparatus |
-
2006
- 2006-03-22 EP EP06729676.4A patent/EP1862967A4/en not_active Withdrawn
- 2006-03-22 JP JP2007509302A patent/JP4599398B2/ja not_active Expired - Fee Related
- 2006-03-22 CA CA002602906A patent/CA2602906A1/en not_active Abandoned
- 2006-03-22 AU AU2006225662A patent/AU2006225662B2/en not_active Ceased
- 2006-03-22 CN CN2006800083915A patent/CN101142592B/zh not_active Expired - Fee Related
- 2006-03-22 US US11/886,830 patent/US8305427B2/en active Active
- 2006-03-22 WO PCT/JP2006/305709 patent/WO2006101128A1/ja active Application Filing
- 2006-03-22 KR KR1020077021978A patent/KR100943109B1/ko not_active IP Right Cessation
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04314181A (ja) * | 1991-04-12 | 1992-11-05 | Olympus Optical Co Ltd | 内視鏡画像の処理方法 |
JPH0785247A (ja) * | 1993-09-13 | 1995-03-31 | Fuji Photo Film Co Ltd | エネルギーサブトラクション画像処理方法 |
JP2001309177A (ja) * | 2000-04-21 | 2001-11-02 | Sharp Corp | 画像処理装置、画像読取装置および画像形成装置 |
Also Published As
Publication number | Publication date |
---|---|
EP1862967A1 (en) | 2007-12-05 |
CA2602906A1 (en) | 2006-09-28 |
US8305427B2 (en) | 2012-11-06 |
WO2006101128A1 (ja) | 2006-09-28 |
CN101142592B (zh) | 2010-07-07 |
KR20070106641A (ko) | 2007-11-02 |
AU2006225662A1 (en) | 2006-09-28 |
KR100943109B1 (ko) | 2010-02-18 |
EP1862967A4 (en) | 2017-04-26 |
CN101142592A (zh) | 2008-03-12 |
US20090021578A1 (en) | 2009-01-22 |
AU2006225662B2 (en) | 2009-08-13 |
JP4599398B2 (ja) | 2010-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4599398B2 (ja) | 画像処理装置及び内視鏡装置 | |
JP5355846B2 (ja) | 内視鏡用画像処理装置 | |
JP5864880B2 (ja) | 内視鏡装置及び内視鏡装置の作動方法 | |
US8451328B2 (en) | Image processing device, imaging device, computer-readable device, and image processing method for processing a fluorescence image | |
JP4996773B2 (ja) | 内視鏡装置 | |
JP4647346B2 (ja) | 内視鏡装置 | |
JP4009626B2 (ja) | 内視鏡用映像信号処理装置 | |
EP1527729B1 (en) | Image processing apparatus | |
WO2008020499A1 (fr) | dispositif endoscope et son procédé de traitement | |
EP2505121B1 (en) | Endoscope apparatus | |
WO2006025334A1 (ja) | 内視鏡装置 | |
JPWO2010131620A1 (ja) | 撮像装置 | |
JP5041936B2 (ja) | 生体観測装置 | |
JP2010200883A (ja) | 内視鏡画像処理装置および方法ならびにプログラム | |
JPWO2019244248A1 (ja) | 内視鏡装置、内視鏡装置の作動方法及びプログラム | |
JP2011200364A (ja) | 内視鏡装置 | |
JPH11313247A (ja) | 内視鏡装置 | |
JP5856943B2 (ja) | 撮像システム | |
JPH03121038A (ja) | 内視鏡画像記録再生装置 | |
JP2005323758A (ja) | 電子内視鏡装置 | |
WO2020026323A1 (ja) | 内視鏡装置、内視鏡装置の作動方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100914 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100927 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4599398 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131001 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313115 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |