JP5087529B2 - 識別処理装置、識別処理プログラム及び識別処理方法 - Google Patents

識別処理装置、識別処理プログラム及び識別処理方法 Download PDF

Info

Publication number
JP5087529B2
JP5087529B2 JP2008306464A JP2008306464A JP5087529B2 JP 5087529 B2 JP5087529 B2 JP 5087529B2 JP 2008306464 A JP2008306464 A JP 2008306464A JP 2008306464 A JP2008306464 A JP 2008306464A JP 5087529 B2 JP5087529 B2 JP 5087529B2
Authority
JP
Japan
Prior art keywords
unit
noise
color
signal
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008306464A
Other languages
English (en)
Other versions
JP2010130636A (ja
Inventor
建夫 鶴岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2008306464A priority Critical patent/JP5087529B2/ja
Priority to US12/628,280 priority patent/US8396289B2/en
Publication of JP2010130636A publication Critical patent/JP2010130636A/ja
Application granted granted Critical
Publication of JP5087529B2 publication Critical patent/JP5087529B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/042Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor

Description

本発明は、被写体の識別を行う識別処理装置及び識別処理方法、並びに、コンピュータにそのような識別処理装置の手順を実行させる識別処理プログラムに関する。
特許文献1には、広帯域光を観察光として用いて、信号処理にて特定の狭帯域の映像信号を算出する例が開示されている。これにより、ノイズの少ない高品位な狭帯域の映像信号が得られ、血管などの特定の分光特性を有する被写体を識別して、表示モニタに表示出力することで、その識別対象被写体の観察が容易となる。
特開2003−93336号公報
上記特許文献1に開示されている技術では、広帯域の通常光を用いるため照度が高く、ノイズの少ない高品位な映像信号が得られる。しかしながら、得られた映像信号から信号処理により狭帯域の信号を生成する過程で最小自乗法に基づく近似を行うため、負の感度特性という本来はあり得ない結果が発生するなど、信号処理に起因する誤差が生じてしまう。このため、識別対象の被写体の識別結果の信頼性が低いという課題がある。
本発明は、上記の点に鑑みてなされたもので、高い信頼性を持って識別対象の被写体を識別することを可能とする識別処理装置、識別処理プログラム及び識別処理方法を提供することを目的とする。
本発明の識別処理装置の一態様は、
識別対象となる被写体の既知の分光特性に基づき、カラー撮像系による被写体の撮像により得た映像信号を構成するN(但し、Nは2以上の自然数)種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離する分離部と、
上記分離部によって分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定するノイズ推定部と、
上記ノイズ推定部で推定した上記ノイズ量に基づき、上記分離部によって分離した上記波長域ごとにノイズ低減処理を行うノイズ低減部と、
上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う識別部と、
を有する。
また、本発明の識別処理プログラムの一態様は、
分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、N(但し、Nは2以上の自然数)種類の色信号からなる映像信号を取得するステップと、
上記取得したN種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離する分離ステップと、
上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定するステップと、
上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行うステップと、
上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行うステップと、
をコンピュータに発揮させる。
また、本発明の識別処理方法の一の態様は、
分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、N(但し、Nは2以上の自然数)種類の色信号からなる映像信号を取得し、
上記取得したN種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離し、
上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定し、
上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行い、
上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う。
これらの態様によれば、例えば、カラー撮像系により識別対象となる被写体を含む被写体を撮像して得た映像信号から上記識別対象の被写体を識別する際に、映像信号を構成するN種類の色信号を識別対象となる被写体の既知の分光特性に基づきM種類の波長域に分割し、その分割した波長域ごとにノイズ低減処理を行い、このノイズ低減処理後の波長域中の色信号に基づき識別処理を行うので、識別対象被写体を信頼性高く識別することが可能となる。
本発明によれば、高い信頼性を持って識別対象被写体を識別することを可能とする識別処理装置、識別処理プログラム及び識別処理方法を提供することができる。
以下、本発明を実施するための最良の形態を図面を参照して説明する。
[第1実施形態]
(構成)
図1は、本発明の第1実施形態に係る識別処理装置を適用した内視鏡の構成を示す図である。なお、図中、太い実線の矢印は映像信号の方向を示し、細い実線の矢印は制御信号の方向を示し、破線の矢印はその他の信号の方向を示している(他の図においても同様である)。
被検体の体内に挿入される内視鏡の先端部には、カラー撮像系としての撮像レンズ系100及びCCD101と照明レンズ系102とが配され、例えば内視鏡後端側に配された照明光源103からの照明光が光ファイバ104を経由して導かれ、上記照明レンズ系102を介して図示しない被写体に対して照射されるようになっている。こうして照明された被写体を上記CCD101により撮像し、この撮像によって得られた映像信号は、増幅部(図では、Gainと記す。)105にて増幅された後、A/D106にてデジタル信号へ変換される。
A/D106からのデジタル映像信号は、バッファ107を介してWB部108、測光評価部109、信号処理部110、分離部111へ転送される。WB部108は上記増幅部105へ、測光評価部109は上記照明光源103及び上記増幅部105へ接続されている。
分離部111は、ノイズ推定部112及びノイズ低減部113へ接続されている。ノイズ推定部112は、上記ノイズ低減部113へ接続されている。ノイズ低減部113は、補間部114、算出部115及び疑似カラー化部116を介して、液晶ディスプレイなどの第1出力部117へ接続されている。
基底ベクトルROM118及びシステム分光特性ROM119は、上記分離部111及び上記算出部115へ接続されている。
また、上記信号処理部110は、液晶ディスプレイなどの第2出力部120へ接続されている。
マイクロコンピュータなどの制御部121は、上記の増幅部105、A/D106、WB部108、測光評価部109、信号処理部110、分離部111、ノイズ推定部112、ノイズ低減部113、補間部114、算出部115、疑似カラー化部116、第1出力部117及び第2出力部120と双方向に接続されている。また、電源スイッチ、シャッタボタン、及び撮像時の各種モードの切り替えなどの設定を行うためのインターフェースを備えた外部I/F部122も、この制御部121に双方向に接続されている。
(作用)
以下、図1において、信号の流れを説明する。
外部I/F部122を介して後述する識別対象となる被写体,カラー撮像系,照明光などの撮像条件を設定した後、シャッタボタンを押すことで撮像モードに入る。
この撮像モードでは、撮像レンズ系100、CCD101を介して撮像された映像信号はアナログ信号として所定時間間隔で連続的に出力される。以後、連続的に出力される複数の映像信号を単に映像信号、1枚の映像信号をフレーム信号と表記する。また、本実施形態においては、上記所定時間間隔として1/30秒(以後は、1フレーム時間と表記する。)を想定する。
さらに、上記CCD101としては6種類のカラーフィルタを前面に配置した単板CCDを想定する。図2(A)は、この6種類のカラーフィルタを備えるフィルタ123の構成を示す図である。このフィルタ123は、2×3画素を基本単位とし、短波長から青系統(B1,B2)、緑系統(G1,G2)、赤系統(R1,R2)の6種類のカラーフィルタが1画素ずつ配置されて構成される。この場合、それら6種類のカラーフィルタの配列パターンが異なる2種類の基本単位が交互に並べて構成されている。
図2(B)は、上記6種類のカラーフィルタの分光特性を示す図である。本実施形態では、通常のカラー信号の耐ノイズ性を考慮し、R1,G1,B1は通常の、例えばBayer型の単板CCDで使用されている青,緑,赤のカラーフィルタと同等の広帯域の感度特性を想定し、後述する通常のカラー信号を生成する際に使用される。一方、R2,G2,B2は後述する基底ベクトルを用いた信号処理にR1,G1,B1と共に使用するもので、R1,G1,B1と比べて狭帯域の特性となっている。このようなフィルタ123を用いることで、CCD101からの上記アナログ信号は、6種類の色信号からなる映像信号となる。即ち、本実施形態では、複数の色信号が、カラー撮像系におけるCCD101とフィルタ123でなる撮像素子により生成される。
なお、上記6種類のカラーフィルタとしては、図2(B)に示すようなB1,G1,R1のカラーフィルタの帯域をB2,G2,R2のカラーフィルタに対して広帯域に設定する構成に限定される必要はない。例えば、図2(C)に示すように、全てのカラーフィルタを狭帯域にする構成も可能である。この場合、通常のカラー信号の耐ノイズ性は低下するが、後述するような基底ベクトルに基づく信号処理の精度を向上することが可能となる。
上記アナログ信号は、増幅部105にて所定量増幅され、A/D106にてデジタル信号へ変換されて、バッファ107へ転送される。このバッファ107は、1フレームの信号を記録可能なものであり、撮像が進むにともない古いフレーム信号から順次上書きされることになる。このバッファ107内のフレーム信号は、制御部121の制御に基づき、所定時間間隔で、間欠的にWB部108及び測光評価部109へ転送される。
WB部108では、中間レベル等、所定レベルの信号を上記フィルタ123のカラーフィルタに対応する色信号ごとに積算することで、ホワイトバランス係数を算出する。そして、その算出したホワイトバランス係数を上記増幅部105へ転送し、色信号ごとに異なるゲインを乗算させることでホワイトバランス調整を行わせる。また、測光評価部109では、適正露光となるように上記照明光源103の光量や上記増幅部105の増幅率などを制御する。
信号処理部110は、制御部121の制御に基づき、バッファ107より、該信号処理部110で使用されない色信号であるR2,G2,B2の三色信号の分光特性よりも広帯域に設定されている、R1,G1,B1の三色信号から構成される単板状態のフレーム信号を読み出す。そして、このR1,G1,B1の三色信号から構成される単板状態のフレーム信号に対して公知の補間処理、階調処理及び強調処理を行うことで通常のカラー信号を算出する。この算出した通常のカラー信号は、第2出力部120へ転送され、該第2出力部120は、この通常のカラー信号を第2の出力信号として表示する。
分離部111は、制御部121の制御に基づき、上記バッファ107に記録されたN(但し、Nは2以上の自然数)種類(本実施形態では6種類)の色信号からなる単板状態のフレーム信号から、後述する基底ベクトルを用いた信号処理に使用するM(但し、Mは1以上の自然数、M≦N)種類(本実施形態では2種類)の周波数域に対応する色信号を選択し分離する。例えば、図2(A)に示されるフィルタ123に対応する6種類の色信号からなるフレーム信号から、基底ベクトルを用いた信号処理に使用する複数の周波数域の信号として、本実施形態では短波長域の信号と長波長域の信号との2つに分離する。この場合、各波長域は、複数の色信号を含むようにする。即ち、該分離部111によって、短波長域の信号はB1,B2,G1の色信号が、長波長域の信号としてはG2,R1,R2の色信号がそれぞれ独立に分離され、ノイズ推定部112及びノイズ低減部113へ転送される。このように、分離部111は、上記複数の色信号B1,B2,G1,G2,R1,R2の分光特性における主波長に基づきそれら複数の色信号を波長方向に並べた場合に、各波長域の映像信号が波長方向に連続となる色信号から構成されるように、バッファ107に記録された複数種類の色信号からなるフレーム信号から基底ベクトルを用いた信号処理に使用する複数の周波数域の信号を分離する。
一方、基底ベクトルROM118は、複数の識別対象となる被写体それぞれの既知の分光特性に基づく専用基底ベクトルを記憶しており、システム分光特性ROM119は、複数のカラー撮像系それぞれに関する分光特性と撮像時に使用する複数の照明光それぞれに関する分光特性とを記憶している。なお、本実施形態においては、カラー撮像系に関する分光特性とは、撮像レンズ系100の分光透過率特性を加味したCCD101の分光感度特性を意味し、照明光に関する分光特性とは、転送用の光ファイバ104及び照明レンズ系102の分光透過率特性を加味した照明光源103の分光輝度特性を意味する。
ノイズ推定部112は、制御部121の制御に基づき、上記分離部111によって分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定する。ノイズ低減部113は、制御部121の制御に基づき、上記ノイズ推定部112で推定した上記ノイズ量に基づき、上記分離部111によって分離した上記波長域ごとにノイズ低減処理を行う。補間部114は、制御部121の制御に基づき、上記ノイズ低減部113からノイズ低減された波長域ごとの信号を読み込み、公知の補間処理にて6種類の色信号からなる6種類のフレーム信号を生成する。生成された6種類のフレーム信号は、順次フレーム信号単位で、算出部115へ転送される。以降の算出部115及び疑似カラー化部116は、制御部121の制御に基づき1フレーム信号単位で同期して処理がなされる。
算出部115は、上記外部I/F部122を介して設定された上記撮像条件に応じた制御部121の制御に基づき、上記基底ベクトルROM118から識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルと、上記識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルとを読み込むと共に、上記システム分光特性ROM119から上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性とそのカラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を読み込む。その後、補間部114から転送されるB1,B2,G1,G2,R1,R2の6種類の色信号から構成される6種類のフレーム信号に対して、上記読み出した専用基底ベクトル、カラー撮像系に関する分光特性及び照明光に関する分光特性を用いて、専用基底ベクトルに関する重み係数を算出する。その算出された専用基底ベクトルの重み係数は、後述するように上記識別対象の被写体の存在に比例した値をとるものであり、疑似カラー化部116及び第1出力部117でなる出力信号算出部へ転送される。
疑似カラー化部116は、まず、上記算出部115から転送されてきた重み係数を、映像信号の信号レベルと合致するよう正規化する。即ち、上記算出部115で算出される重み係数は「0」〜「1」の値をとるので、それを、例えば信号レベルが8ビットならば「0」〜「255」の値に正規化する。そして、その正規化された重み係数に関して、それぞれ異なる色を割り当てることで疑似カラー信号を生成する。本実施形態においては、例えば、短波長域であるB1,B2,G1の重み係数には赤を、長波長域であるG2,R1,R2の重み係数にはシアンを、それぞれ割り当てる。疑似カラー化部116は、このように生成した疑似カラー信号を第1出力部117へ転送し、これにより、第1出力部117には、識別対象の被写体に関して波長域ごとに独立した疑似カラー信号が表示されることになる。即ち、第1出力部117は、疑似カラー化された短波長域の重み係数と同じく疑似カラー化された長波長域の重み係数が合成された出力信号を表示するので、短波長域のみに識別対象が存在する場合は赤で、長波長域のみに識別対象が存在する場合はシアンで、短波長域と長波長域の両方に識別対象が存在する場合は赤+シアン=白で、短波長域と長波長域の両方に識別対象が存在しない場合は黒で表示が行われることになる。こうして、識別対象となる被写体の識別結果としての出力信号が出力される。なお、短波長域は対象物の表層に関する情報を、長波長域は対象物の深層に関する情報を、それぞれ意味する。また、第1出力部117及び第2出力部120は、液晶ディスプレイに限定されるものではなく、ハードディスクやメモリカードなどの記録媒体にフレーム信号を順次記録保存する形態も可能である。
以上のように、算出部115、疑似カラー化部116、第1出力部117、基底ベクトルROM118及びシステム分光特性ROM119は、上記ノイズ低減部113によってノイズ低減処理がなされた波長域中の色信号に基づき識別対象となる被写体の識別処理を行う識別部として機能する。
もちろん、前述の算出部115が読み込む「専用基底ベクトル、カラー撮像系に関する分光特性、および照明光に関する分光特性」のセットは一つに限られず、複数であってもよい。後者の場合、本実施形態に係る識別処理装置が、それぞれのセットに対してそれぞれの重み係数を独立に算出し、その算出結果をもとに独立に上述の正規化処理と出力処理とを行えばよい。このように、複数のセットが与えられた場合であっても、本発明の範囲に含まれることは当業者に理解されるところである。
図3は、上記分離部111の構成の一例を示す図である。該分離部111は、予測部201、選択部202、調整部203及び波長域分離部204からなる。上記基底ベクトルROM118及び上記システム分光特性ROM119は、予測部201へ接続している。予測部201は、選択部202へ接続している。選択部202は、調整部203へ接続している。調整部203は、波長域分離部204へ接続している。波長域分離部204は、上記ノイズ推定部112及び上記ノイズ低減部113へ接続している。上記バッファ107は、波長域分離部204へ接続している。上記制御部121は、予測部201、選択部202、調整部203、波長域分離部204と双方向に接続されている。
予測部201は、上記外部I/F部122を介して設定された上記撮像条件における識別対象となる被写体の情報を上記制御部121から受け取り、その情報に基づき上記基底ベクトルROM118から識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルを読み込む。
図4(A)は、例えば、内視鏡における診断で重要となる血管部位、例えば動脈に多く含まれるオキシヘモグロビン(HBO)の分光反射率特性と、静脈に多く含まれるデオキシヘモグロビン(HB)の分光反射率特性を示す図である。
上記基底ベクトルROM118には、識別対象の被写体の専用基底ベクトルとして、例えば、そのようなオキシヘモグロビンやデオキシヘモグロビンの分光反射率特性に基づくもの、或は、蛍光観察での主要被写体となるコラーゲンの自家蛍光の分光輝度特性に基づくもの、等が予め記憶してある。そして、識別対象の被写体が例えば動脈であれば、予測部201は、オキシヘモグロビンの分光反射率特性に基づく専用基底ベクトルを読み出す。
図4(B)は、上記基底ベクトルROM118に予め記憶してある基底ベクトルの一例を示すもので、2つの識別対象外の被写体の基底ベクトル(O1(λ),O2(λ))と1つの識別対象の被写体(この例ではオキシヘモグロビン)の専用基底ベクトル(O3(λ))とからなる。上記基底ベクトルROM118には、識別対象の被写体の専用基底ベクトルだけを記憶しても良いし、図4(B)に示すように、識別対象の被写体の専用基底ベクトルと、識別対象外被写体の基底ベクトルとを記憶しても良い。識別対象外被写体の基底ベクトルとしては、マンセル色票などの分光反射率特性を主成分分析して、寄与率の高い上位複数の基底ベクトルを選択して記憶することができる。
上記予測部201は、更に、外部I/F部122を介して設定された上記撮像条件におけるカラー撮像系,照明光の情報を制御部121から受け取り、上記情報に基づきシステム分光特性ROM119から被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を読み込む。
図5(A)は、上記被写体の撮像時に使用する照明光に関する分光特性として、光源の分光輝度特性(I(λ))を示す図である。ここでは一例としてのキセノン光源の特性を示している。また、図5(B)は、上記カラー撮像系に関する分光特性として、B1,B2,G1,G2,R1,R2の6つのカラーフィルタからなるカラー撮像系の分光感度特性(SB1(λ),SB2(λ),SG1(λ),SG2(λ),SR1(λ),SR2(λ))を示す図である。
上記予測部201は、上記基底ベクトルROM118から読み込んだ上記識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルと、上記システム分光特性ROM119から読み込んだ上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性とそのカラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性と、に基づき、各色信号の出力値を予測する。
選択部202は、制御部121の制御に基づき、上記予測部201によって予測した上記各色信号の出力値に基づき出力値が類似する色信号を選択する。これは、例えば、公知のクラスタリング技術により、信号の値が似ているもの同士、つまり所定の範囲内に入っている色信号を判断して同じグループとなるようにグループ化する。
調整部203は、制御部121の制御に基づき、上記選択部202によって選択された色信号間の数の調整を行うことで上記M種類(本実施形態では2種類)の波長域を確定する。即ち、M種類の色信号を処理するため、上記選択部202によってM+1種類以上が選択された場合には、例えば最も似ているもの同士を強制的に結合する等して、M種類以下となるように調整する。
波長域分離部204は、制御部121の制御に基づき、上記調整部203によって確定された波長域に基づいて、上記バッファ107に記録されたN種類の色信号からなる単板状態のフレーム信号からM種類の周波数域に対応する色信号を選択し、上記ノイズ推定部112及びノイズ低減部113に出力する。
例えば、図2(A)に示すようなB1,B2,G1,G2,R1,R2の6種類のカラーフィルタを備えるフィルタ123を用いた場合、図4(A)に示すような分光反射特性を持つオキシヘモグロビンやデオキシヘモグロビンが識別対象であれば、波長域分離部204は、バッファ107に記録された6種類の色信号からなる単板状態のフレーム信号から、B1,B2,G1を選択的に読み出し、またG2,R1,R2を選択的に読み出すことで、M種類(本実施形態では2種類)の周波数域に対応する色信号に分離する。
このようにして分離されたM種類(本実施形態では2種類)の周波数域に対応する色信号は、ノイズ推定部112及びノイズ低減部113に送られる。これら、ノイズ推定部112及びノイズ低減部113は、例えば本発明者による特開2006−101006号公報に開示されているようなノイズ低減処理を実行するものである。
以下、このノイズ低減処理の詳細を説明する。
図6は、上記ノイズ推定部112の構成の一例を示す図である。該ノイズ推定部112は、領域抽出部211、低周波算出部212、ゲイン算出部213、標準値付与部214、ノイズテーブル部215及び平均算出部216からなる。上記分離部111は、領域抽出部211及び平均算出部216へ接続している。領域抽出部211は、低周波算出部212へ接続している。低周波算出部212、ゲイン算出部213及び標準値付与部214は、ノイズテーブル部215へ接続している。ノイズテーブル部215は、平均算出部216へ接続している。平均算出部216は、上記ノイズ低減部113へ接続している。上記制御部121は、領域抽出部211、低周波算出部212、ゲイン算出部213、標準値付与部214、ノイズテーブル部215及び平均算出部216と双方向に接続されている。
従来のBayer型の単板CCDを用いた場合のノイズ低減処理においては、3種類の色信号からなる単板状態のフレーム信号を色信号ごとに分離し、独立に処理を行っている。この場合、単板状態のフレーム信号から各色信号の注目画素でなる注目画素群を包含する10×10画素程度の単位ブロックを順次抽出して、各色信号ごとに注目画素に対し5×5画素をサブブロックとして分離して、各サブブロックごとに平滑化を行う。
このような各色信号ごとに分離する手法を、例えば図2(A)に示すようなB1,B2,G1,G2,R1,R2の6種類のカラーフィルタを備えるフィルタ123を用いた場合にも採用すると、10×15画素を単位ブックとして抽出することとなる。この結果、各色信号における画素間隔が大きくなり、分離した5×5画素のサブブロックの均質性が損なわれ、ノイズ低減処理の性能が低下してしまう。
そこで、本実施形態では、色信号ごとに分離するのではなく、識別対象となる被写体の既知の分光特性に基づいて、N種類の色信号をM種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離するようにしている。例えば、識別対象をオキシヘモグロビンやデオキシヘモグロビンとした場合、6種類の色信号を2種類の波長域、即ちB1,B2,G1を短波長域で、G2,R1,R2を長波長域でそれぞれまとめて分離する。
そして、該ノイズ推定部112の領域抽出部211は、制御部121の制御に基づき、上記分離部111によってこのように分離した上記波長域からノイズ低減処理を行う注目画素群を包含する画素領域を抽出し、更に、該抽出した画素領域から色信号毎に、当該色信号の注目画素を包含する色画素領域を抽出する。例えば、図7(A)にそれぞれ太枠で囲って示すように、G2,R1,R2の3画素及びB1,B2,G1の3画素をそれぞれ注目画素群124とみなして、8×7画素の単位ブロックをノイズ低減の基本ブロックとする。そして、領域抽出部211は、各波長域に関して、図7(B)に示すような注目画素群124を包含する4×7画素をサブブロックとしてそれぞれ抽出する。このサブブロックがノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する所定単位面積の画素領域である。そして、更に、各画素領域に関して、G2だけ、R1だけ、…というように、各色信号ごとに領域を抽出する。この領域が上記色信号の注目画素を包含する色画素領域である。
低周波算出部212は、制御部121の制御に基づき、上記領域抽出部211によって抽出した上記色画素領域から低周波成分を算出する。
ゲイン算出部213は、制御部121から転送されるISO感度及び露光条件に関する情報に基づき、上記増幅部105における上記映像信号に対するゲイン値に関する情報を算出する。また、制御部121は、図示しない温度センサ等を用いて上記カラー撮像系に関する温度値に関する情報を取得する。従って、これらゲイン算出部213及び制御部121は、上記ゲイン値及び温度値に関する情報を収集する収集部として機能する。
標準値付与部214は、制御部121の制御に基づき、上記収集部で得られない情報に関して標準値を付与する付与部として機能する。
ノイズテーブル部215は、制御部121の制御に基づき、上記収集部または上記標準値付与部214からの情報及び上記低周波算出部212によって算出した上記色画素領域の低周波成分を入力として、上記色画素領域における色信号ごとのノイズ量N(サフィックスcは信号の種類を示す)を出力する。ノイズテーブル部215は、ゲイン,温度,信号値レベルとノイズ量間の関係を記録したルックアップテーブルであり、特開2006−101006号公報に開示されている手法により構築される。
平均算出部216は、上記ノイズテーブル部215によって算出された色信号ごとのノイズ量Nの平均値を、当該色信号ごとの上記色画素領域全体のノイズ量として算出し、その算出した平均値を、上記画素領域に包含される注目画素群124を構成する3つの注目画素、例えば、図7(A)に太枠で囲って示すようなB1,B2,G1の3画素に、同一のノイズ量N(サフィックスbは波長域の種類を示す)として割り当てる。また、上記低周波算出部212からの色信号ごとの低周波成分の平均値を、上記画素領域の画素の平均値AVとして算出する。
こうして、上記分離部111で分離した波長域ごとにノイズ量が所定単位面積の画素領域ごとに推定され、推定されたノイズ量Nが、上記画素領域の画素の平均値AVと共に、波長域ごとにノイズ低減部113に出力される。
なお、上記ノイズ量算出の過程において、温度t,ゲインgなどの情報を撮像ごとに求める必要はない。任意の情報を標準値付与部214に記録させておき、算出過程を省略する構成も可能である。これにより、高速処理や省電力化などが実現できる。
また、本実施形態においては、ノイズ低減の基本ブロックとする単位ブロックを図7(A)に示されるように注目画素群124を中心とする8×7画素領域とし、領域抽出部211は、各波長域に関して、図7(B)に示すような注目画素群124を包含する4×7画素を所定単位面積の画素領域としてそれぞれ抽出するようにしているが、これに限定される必要はない。任意のサイズ、形状を設定することが可能である。
例えば、図8(A)に示すような注目画素群124を中心とする9×6画素領域を単位ブロックとし、図8(B)に示すような注目画素群124を包含する4×6画素を画素領域としてそれぞれ抽出しても良い。
また、所定単位面積の画素領域から色信号毎の色画素領域を抽出してノイズ量を抽出するのではなく、画素領域からノイズ量を抽出するようにしても良い。この場合のノイズ推定部112においては、領域抽出部211が、上記分離部111によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群124を包含する上記所定単位面積の画素領域を抽出し、低周波算出部212は、該領域抽出部211によって抽出した上記画素領域から低周波成分を算出する。これにより、画素領域における信号レベルの平均値が算出される。そして、ノイズテーブル部215は、上記収集部としてのゲイン算出部213及び制御部121または上記付与部としての標準値付与部214からの情報及び上記低周波算出部212によって算出した上記低周波成分を入力として、ノイズ量を算出する。そして、その算出したノイズ量を、上記所定単位面積の画素領域の注目画素群124を構成する3つの注目画素に、同一のノイズ量Nとして割り当てる。このように、ノイズテーブル部215は、上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記低周波成分を入力として、上記注目画素群124のノイズ量を出力するノイズ量出力部として機能する。従って、この場合には、平均算出部216は不要となる。
図9は、上記ノイズ低減部113の構成の一例を示す図である。該ノイズ低減部113は、領域抽出部221、範囲設定部222、切り換え部223、第1スムージング部224及び第2スムージング部225からなる。上記分離部111は、領域抽出部221へ接続している。領域抽出部221は、範囲設定部222及び切り換え部223へ接続している。上記ノイズ推定部112は、範囲設定部222へ接続している。範囲設定部222は、切り換え部223、第1スムージング部224及び第2スムージング部225へ接続している。切り換え部223は、第1スムージング部224及び第2スムージング部225へ接続している。第1スムージング部224及び第2スムージング部225は、上記補間部114へ接続している。上記制御部121は、領域抽出部221、範囲設定部222、切り換え部223、第1スムージング部224及び第2スムージング部225と双方向に接続されている。
領域抽出部221は、上記ノイズ推定部112の領域抽出部211と同様に、制御部121の制御に基づき、上記分離部111によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群124を包含する所定単位面積の画素領域を抽出する。
範囲設定部222は、制御部121の制御に基づき、上記ノイズ推定部112で推定した上記ノイズ量Nに基づき上記注目画素群124に関するノイズ範囲を設定する。即ち、範囲設定部222は、制御部121の制御に基づき、上記領域抽出部211で抽出された領域の画素の平均値AV及びノイズ量Nを上記ノイズ推定部112から読み込む。その後、ノイズ量に関する許容範囲として上限Noise_Up及び下限Noise_Lowを、以下の(1)式のように設定する。
Noise_Up=AV+N/2
Noise_Low=AV−N/2 …(1)
こうして設定されたノイズ範囲、即ち上記許容範囲Noise_Up及びNoise_Lowは、切り換え部223へ転送される。更に、範囲設定部222は、上記ノイズ推定部112より読み込んだ上記画素の平均値AV及びノイズ量Nを第1スムージング部224及び第2スムージング部225へ転送する。
切り換え部223は、制御部121の制御に基づき、領域抽出部221からの注目画素群124を構成する複数の注目画素、図7の例では3つの注目画素の画素値Pを読み込み、上記許容範囲に属するか否かの判断を行う。判断は、「ノイズ範囲に属している」、「ノイズ範囲を上回っている」、「ノイズ範囲を下回っている」の三通りである。切り換え部223は、「ノイズ範囲に属している」場合は、第1スムージング部224へ、それ以外は第2スムージング部225へ、注目画素群124の画素値Pを転送する。
第1スムージング部224は、上記領域抽出部221によって抽出した上記画素領域内の画素の値を用いて上記注目画素群124の平滑化処理を行う。即ち、第1スムージング部224は、切り換え部223からの注目画素群124を構成する複数の注目画素の画素値Pそれぞれに、以下の(2)式に示される、範囲設定部222からの平均値AVを代入する平滑化処理を行う。
=AV …(2)
これに対して、上記領域抽出部221によって抽出した上記画素領域の上記注目画素群124の画素値Pが上記範囲設定部222によって設定した上記ノイズ範囲に属さない場合には、第2スムージング部225によって、補正を行う。即ち、第2スムージング部225は、切り換え部223からの注目画素群124の画素値Pに範囲設定部222からの平均値AVとノイズ量Nを用いて補正する処理を行う。
まず、「ノイズ範囲を上回っている」場合は、以下の(3)式のように補正する。
=AV−N/2 …(3)
また、「ノイズ範囲を下回っている」場合は、以下の(4)式のように補正する。
=AV+N/2 …(4)
このような第1スムージング部224または第2スムージング部225での処理結果は補間部114へ転送される。
上記のようなノイズ推定部112、ノイズ低減部113の構成により、信号レベル、撮像時の温度、ゲインなどの動的に変化する条件に対応したノイズ量の推定及び画面全体での最適なノイズ低減が可能となり、高品位な信号が得られる。上記情報が得られない場合でも標準値を用いることでノイズ量の推定を行うため安定したノイズ低減効果が得られる。さらに、一部のパラメータ算出を意図的に省略することで低コスト,省電力化を可能とする撮像システムが提供できる。また、ノイズ量の算出にルックアップテーブルを用いているため、高速なノイズ量の推定が可能となる。また、ノイズ低減処理はノイズ量から許容範囲を設定するため、原信号の保存性に優れ不連続性の発生を防止した低減処理が可能となる。
図10は、上記算出部115の構成の一例を示す図である。該算出部115は、データ選択部231、積算部232、バッファ233、逆行列算出部234、バッファ235、係数選択部236及び乗加算部237からなる。上記基底ベクトルROM118及び上記システム分光特性ROM119は、データ選択部231へ接続している。データ選択部231は、積算部232、バッファ233、逆行列算出部234及びバッファ235を介して、係数選択部236へ接続している。係数選択部236及び上記補間部114は、乗加算部237へ接続している。乗加算部237は、上記疑似カラー化部116へ接続している。上記制御部121は、データ選択部231、積算部232、逆行列算出部234、係数選択部236、乗加算部237と双方向に接続されている。
データ選択部231は、上記外部I/F部122を介して設定された上記撮像条件における識別対象となる被写体の情報を上記制御部121から受け取り、その情報に基づき上記基底ベクトルROM118から識別対象となる被写体の既知の分光特性に基づく専用基底ベクトル及び識別対象外被写体の分光特性に基づく基底ベクトルを読み込む。このように、上記基底ベクトルROM118及び該データ選択部231は、基底ベクトル取得部として機能する。
識別対象の被写体の専用基底ベクトルとしては、例えば、内視鏡における診断で重要となる血管部位、例えば動脈に多く含まれるオキシヘモグロビンの分光反射率特性に基づくものや、静脈に多く含まれるデオキシヘモグロビンの分光反射率特性に基づくもの、或は、蛍光観察での主要被写体となるコラーゲンの自家蛍光の分光輝度特性に基づくもの、等が予め上記基底ベクトルROM118に記憶してある。本実施形態では、識別対象としてオキシヘモグロビンを想定する。また、識別対象外被写体の基底ベクトルとしては、マンセル色票などの分光反射率特性を主成分分析して、寄与率の高い上位複数の基底ベクトルを選択することで予め上記基底ベクトルROM118に記憶してある。本実施形態においては、CCD101として6種類のカラーフィルタでなるフィルタ123を前面に配置した単板CCDを想定し、これを短波長域と長波長域へ各々3種類ずつ割り当てている。このため、基底ベクトルの総数は3となり、識別対象外被写体の分光特性に基づく基底ベクトルとして、寄与率の高い上位2つの基底ベクトルが読み出される。
なおこの場合、上記基底ベクトルROM118には、M種類の波長域に応じて、それぞれの基底ベクトルをM個ずつ記憶している。例えば、本実施形態では、短波長域と長波長域の2個ずつ基底ベクトルを記憶している。即ち、短波長域の基底ベクトルとして、2つの識別対象外の被写体の基底ベクトル(O1(λ),O2(λ))と1つの識別対象の被写体の専用基底ベクトル(O3(λ))とを記憶している。ここで、λは短波長域の波長を意味し、本実施形態においては、短波長域としてはλ=380〜650nmを想定する。また、長波長域の基底ベクトルとしては、2つの識別対象外の被写体の基底ベクトル(O1(λ),O2(λ))と1つの識別対象の被写体の専用基底ベクトル(O3(λ))とを記憶している。ここで、λは長波長域の波長を意味し、本実施形態においては、長波長域としてはλ=550〜780nmを想定する。
その後、上記データ選択部231は、更に、外部I/F部122を介して設定された上記撮像条件におけるカラー撮像系,照明光の情報を制御部121から受け取り、上記情報に基づきシステム分光特性ROM119から被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を読み込む。このように、上記システム分光特性ROM119及び該データ選択部231は、システム分光特性取得部としても機能する。
なおこの場合、上記システム分光特性ROM119には、M種類の波長域に応じて、それぞれの撮像システムの分光特性をM個ずつ記憶している。例えば、本実施形態では、短波長域と長波長域の2個ずつ撮像システムの分光特性を記憶している。即ち、上記被写体の撮像時に使用する照明光に関する分光特性として、短波長域の光源の分光輝度特性(I(λ))と長波長域の光源の分光輝度特性(I(λ))とを記憶している。また、上記カラー撮像系に関する分光特性として、B1,B2,G1の3つのカラーフィルタからなる短波長域のカラー撮像系の分光感度特性(SB1(λ),SB2(λ),SG1(λ))とG2,R1,R2の3つのカラーフィルタからなる長波長域のカラー撮像系の分光感度特性(SG2(λ),SR1(λ),SR2(λ))とを記憶している。
上記データ選択部231は、読み込んだ上記基底ベクトル(O1(λ),O2(λ),O3(λ)),(O1(λ),O2(λ),O3(λ))、光源の分光輝度特性(I(λ)),(I(λ))及びカラー撮像系の分光感度特性(SB1(λ),SB2(λ),SG1(λ)),(SG2(λ),SR1(λ),R2(λ))を、積算部232へ転送する。
積算部232は、制御部121の制御に基づき、3×3サイズの撮像システムに関するシステム行列を、短波長域及び長波長域ごとに独立に算出する行列算出部として機能する。即ち、以下の(5)式に示すような短波長域のシステム行列M及び以下の(6)式に示すような長波長域のシステム行列Mを算出する。
Figure 0005087529
この積算部232によって算出された上記システム行列M及びMは、バッファ233へ転送され、そこに保存される。逆行列算出部234は、制御部121の制御に基づき、このバッファ233から上記システム行列M及びMを読み込み、該システム行列M及びMの逆行列M −1及びM −1を算出する。算出された逆行列M −1及びM −1は、バッファ235へ転送され、そこに保存される。
上記システム行列の逆行列M −1及びM −1とB1,B2,G1からなる三板状態のフレーム信号及びG2,R1,R2からなる三板状態のフレーム信号とを使用することで、以下の(7)式及び(8)式により、各画素単位で基底ベクトル(O1(λ),O2(λ),O3(λ))及び(O1(λ),O2(λ),O3(λ))に関する重み係数(w1sij,w2sij,w3sij)及び(w1lij,w2lij,w3lij)を求めることができる。なお、以下の(7)式及び(8)式において、i,jはフレーム信号のx,y方向の座標を、m及びmはシステム行列の逆行列M −1及びM −1の各要素即ち、逆行列M −1及びM −1の係数を意味する。
Figure 0005087529
本実施形態では、内視鏡における診断で重要となる血管部位に多く含まれるオキシヘモグロビンを識別対象と仮定しているため、専用基底ベクトル(O3(λ))及び(O3(λ))に関係する重み係数(w3sij)及び(w3lij)を求めれば良い。このために必要となるシステム行列の逆行列M−1の係数は、要素ms31,ms32,ms33及びml31,ml32,ml33の6つとなる。
そこで、係数選択部236は、制御部121の制御に基づき、上記バッファ235から上記システム行列の逆行列M −1及びM −1の要素ms31,ms32,ms33及びml31,ml32,ml33を選択し、これを乗加算部237へ転送する。乗加算部237は、制御部121の制御に基づき、上記係数選択部236からシステム行列の逆行列M −1及びM −1の要素ms31,ms32,ms33及びml31,ml32,ml33が転送された後、補間部114からフレーム信号B1ij,B2ij,G1ij及びG2ij,R1ij,R2ijを画素単位で読み込み、以下の(9)式及び(10)式に示すような乗加算処理を行うことで、識別対象被写体の基底ベクトル(O3(λ))及び(O3(λ))に関係する重み係数(w3sij)及び(w3lij)を求める。
W3sij=ms31・B1ij+ms32・B2ij+ms33・G1ij …(9)
W3lij=ml31・G2ij+ml32・R1ij+ml33・R2ij …(10)
上記重み係数(w3sij)及び(w3lij)は識別対象被写体の専用基底ベクトル(O3(λ))及び(O3(λ))への寄与度となるため、本実施形態においてはオキシヘモグロビンの存在に比例した値をとることになる。即ち、オキシヘモグロビンが存在する場合には高い値を、存在しない場合は低い値をとる。また、短波長域に関する重み係数(w3sij)は組織表層の、長波長域に関する重み係数(w3lij)は組織深層のオキシヘモグロビンの存在に比例した値をとることになるため、この重み係数(w3sij)及び(w3lij)を映像信号化することで、表層/深層におけるオキシヘモグロビンを、つまり表層の血管と深層の血管を独立に識別することが可能となる。
そこで、上記乗加算部237によって算出された重み係数(w3sij)及び(w3lij)は、順次、疑似カラー化部116へ転送されて上述したように正規化処理が行われ、正規化処理後の重み係数に、それぞれ異なる色を割り当てることで疑似カラー化信号を得て、上記分光特性が既知の被写体の識別結果である出力信号として、例えば表示モニタである第1出力部117にて表示されることとなる。
なお、以上の説明では、識別対象を動脈に多く含まれるオキシヘモグロビンとしたが、それに限定されないことは勿論である。例えば、外部I/F部122を介して、識別対象となる被写体を必要に応じて静脈に多く含まれるデオキシヘモグロビンに切り換えても良い。
以上のように、本第1実施形態によれば、識別対象となる被写体の既知の分光特性に基づき、カラー撮像系による被写体の撮像により得た映像信号を構成するN(但し、Nは2以上の自然数)種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離し、上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定し、上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行い、上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う。このように、本第1実施形態では、例えば、カラー撮像系により識別対象となる被写体を含む被写体を撮像して得た映像信号から上記識別対象の被写体を識別する際に、映像信号を構成するN種類の色信号を識別対象となる被写体の既知の分光特性に基づきM種類の波長域に分割し、その分割した波長域ごとにノイズ低減処理を行い、このノイズ低減処理後の波長域中の色信号に基づき識別処理を行うので、識別対象被写体を信頼性高く識別することが可能となる。
なお、上記映像信号を構成するN種類の色信号は4種類以上であり、分離するM種類の波長域の数は2種類以上であることが好ましい。そのようにNが4以上、Mが2以上であると、複数の波長域に分離する場合に、各波長域が複数の色信号から構成されることが可能となり、使用する画素の間隔が密になり、ノイズ低減処理の効果を向上することができる。
また、識別対象に関する各色信号の出力値が概ね一致する色信号を選択し、その選択結果をもとに波長域を設定するため、波長域でのノイズレベルがほぼ同一となり、高精度なノイズ低減処理が可能となる。また、選択された色信号間の数の調整を行うため、同一の処理系で複数の波長域を処理することが可能となり、システムの低コスト化が可能となる。さらに、識別対象となる被写体の分光特性およびカラー撮像系に関する分光特性および撮像時に使用する照明光の分光特性に基づき波長域を算出する構成であるため、識別対象の変更やシステムの更新などに柔軟に対応することが可能となる。
さらに、ノイズ量に関係する各種情報を撮像ごとに動的に求め、求められない情報に関しては標準値を設定し、ルックアップテーブルからノイズ量を求めるので、撮像ごとに異なる条件に動的に適応し、高精度かつ安定的なノイズ量の推定が可能となる。また、ノイズ量の算出にルックアップテーブルを用いているため、高速なノイズ量の推定が可能となる。
また、推定した注目画素群のノイズ量に基づき注目画素群の画素値がノイズ範囲に属するかの判断を行い、ノイズに属する場合には平滑化処理を、ノイズに属さない場合には補正処理を行うことで、ノイズ量に基づきノイズ低減処理に関する判断を行うため、最適なノイズ低減処理が可能となる。また、ノイズ低減処理に伴う不連続性の発生を防止し、高品位な映像信号の生成を可能とする。
さらに、識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルを用いることで、上記識別対象の被写体の存在に比例した値をとる重み係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行う必要が無く、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、専用基底ベクトルに関する重み係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。
また、専用基底ベクトルおよび撮像システムの分光特性に基づくシステム行列の逆行列を算出し、この逆行列から専用基底ベクトルに関係する係数を選択し、選択された係数および映像信号に基づき専用基底ベクトルに関する重み係数を算出することで、識別対象となる被写体の分光特性および撮像システムの分光特性に基づく信号処理にて専用基底ベクトル、すなわち識別対象に関する重み係数を算出するため、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。
さらに、映像信号を構成する色信号が4種類以上であるので、複数の波長域に分離する場合に、各波長域が複数の色信号から構成されることが可能となり、使用する画素の間隔が密になり、ノイズ低減処理の効果を向上することができる。
また、通常のカラー信号を算出するに必要な色信号の分光特性を他の色信号の分光特性より広帯域に設定することで、通常のカラー信号を算出するに必要な色信号のノイズが減少するため、高品位な映像信号が得られる。なお、この通常のカラー信号の算出過程では、ノイズ低減処理を行わないので、システムのコスト増を抑えることが可能となる。
なお、動画像を処理する場合を説明したが、外部I/F部122の不図示シャッタボタンの操作に応じて静止画像を撮像し、その撮像した静止画像に対して同様の処理を行うことも可能なことは勿論である。
[変形例1]
上記第1実施形態では、第1出力部117と第2出力部120の2つの出力部を備えていたが、このような構成に限定される必要はない。
例えば、1つの出力部を適宜切り換えて使用しても構わない。
図11は、図1に示す構成から第2出力部120を省略し、切換部125を追加した形態となっている。基本構成は図1と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
上記バッファ107は、切換部125へ接続している。切換部125は、上記信号処理部110及び上記分離部111へ接続している。上記信号処理部110は、上記第1出力部117へ接続している。上記切換部125と上記制御部121とは双方向に接続している。
通常のカラー表示を行うことが外部I/F部122を介して使用者より指示された場合には、切換部125は、制御部121の制御に基づき、通常モードとなり、上記バッファ107より、R1,G1,B1の三色信号から構成される単板状態のフレーム信号を選択し、上記信号処理部110へ転送する。これにより、信号処理部110は、上記第1実施形態で説明したような動作を行って、例えば表示モニタである第1出力部117へ通常のカラー信号を転送して表示を行う。
これに対して、識別対象となる被写体の識別結果の出力を行うことが外部I/F部122を介して使用者より指示された場合には、切換部125は、制御部121の制御に基づき、識別モードとなり、上記バッファ107より、N(但し、Nは2以上の自然数)種類(例えば6種類)の色信号からなる単板状態のフレーム信号を選択し、上記分離部111へ転送する。これにより、上記分離部111、上記ノイズ推定部112、上記ノイズ低減部113、上記補間部114、上記算出部115及び上記疑似カラー化部116は、上記第1実施形態で説明したような動作を行って、識別対象の存在に関するフレーム信号を出力部117へ転送して表示を行う。即ち、上記分離部111、上記ノイズ推定部112、上記ノイズ低減部113、上記補間部114、上記算出部115及び上記疑似カラー化部116は、上記切換部125が識別モードとした場合に動作する。
[変形例2]
また、図12に示すように、図1に示す構成から信号処理部110及び第2出力部120を省略した形態としても構わない。
このように、通常のカラー信号は出力せず、識別処理の結果のみを出力するように構成しても良い。
[変形例3]
また、上記第1実施形態では、識別処理装置は、撮像レンズ系100、CCD101、照明レンズ系102、照明光源103、光ファイバ104、増幅部105、A/D106、WB部108及び測光評価部109からなる撮像部と一体化した構成になっていたが、このような構成に限定される必要はない。
例えば、別体の撮像部で撮像された映像信号を未処理のRawデータ形態で、さらに識別対象となる被写体,カラー撮像系,照明光などの撮像条件に関する付随情報をヘッダ部に記録して、ハードディスクやメモリカードなどの記録媒体に保存したものを読み出したり、無線又は有線ネットワークを介して送信されてくる映像信号を受信したりして、処理をすることも可能である。
図13は、図1に示す構成から撮像レンズ系100、CCD101、照明レンズ系102、照明光源103、光ファイバ104、増幅部105、A/D106、WB部108及び測光評価部109を省略し、入力部126及びヘッダ情報解析部127を追加した形態となっている。基本構成は図1と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
入力部126は、バッファ107及びヘッダ情報解析部127へ接続している。制御部121は、入力部126、ヘッダ情報解析部127と双方向に接続している。マウス,キーボードなどの外部I/F部122を介して再生操作を開始することで、ハードディスクやメモリカードなどの記録媒体に保存された信号及びヘッダ情報、あるいは、ネットワークを介して受信した信号及びヘッダ情報が入力部126から読み込まれる。なお、映像信号は所定の時間間隔、本変形例では1フレーム時間間隔で1枚ずつ順次読み込まれる。入力部126からの信号はバッファ107へ、ヘッダ情報はヘッダ情報解析部127へ、それぞれ転送される。ヘッダ情報解析部127は、ヘッダ情報から撮像時の情報を抽出して制御部121へ転送する。以後の処理は、図1と同等である。
なお、本変形例においても、動画像及び静止画像の何れにも適用可能なことは勿論である。
[変形例4]
さらに、上記第1実施形態では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD101からの映像信号を未処理のままのRawデータ形態として、制御部121から、識別対象となる被写体やカラー撮像系,照明光などの撮像条件、カラー撮像系に関する温度値,映像信号に対するゲイン値などの情報をヘッダ情報として出力し、それら映像信号とヘッダ情報を図示しないコンピュータに入力して、ソフトウェアにて処理する構成も可能である。
図14は、不図示コンピュータによる信号処理のソフトウェア処理に関するフローチャートを示す図である。
即ち、コンピュータはまず、映像信号と、識別対象となる被写体及びカラー撮像系,照明光などの撮像条件及び温度値やゲイン値などの情報に関するヘッダ情報を入力する(ステップS101)。なお、本変形例においては、図2(A)に示す6種類のカラーフィルタからなるフィルタ123を前面に配置した単板CCDからの映像信号を処理することを想定する。また、ヘッダ情報に温度値やゲイン値などの情報が全て又は一部、含まれていなくても構わない。
上記ステップS101に続けて、図4(B)に示すような複数の基底ベクトルを入力し(ステップS102)、また、図5(A)に示すような光源の分光輝度特性を複数、及び図5(B)に示すような複数のカラー撮像系の分光感度特性を入力する(ステップS103)。さらに、信号レベルと温度値やゲイン値などの情報とからノイズ量を求めるためのノイズ量テーブルを入力する(ステップS104)。ここで、上記複数の基底ベクトル及び複数の撮像システムの分光特性、ノイズ量テーブルは、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
そして、詳細は後述するような算出処理により、基底ベクトルに関する重み係数算出に使用されるシステム行列の逆行列M −1及びM −1の所定の係数、つまり要素ms31,ms32,ms33及びml31,ml32,ml33を算出する(ステップS105)。その後、上記入力された映像信号から順次フレーム信号を抽出する(ステップS106)。
また、通常のカラー信号を生成するための色信号を分離し、公知の補間処理にて欠落する色信号を生成することで通常のカラー信号を生成するための色信号からなるフレーム信号を生成し、公知の階調処理や強調処理といった信号処理を行って、通常のカラー信号を生成する(ステップS107)。そして、その生成した通常のカラー信号をフレーム信号単位で、当該コンピュータに接続された図示しない表示モニタ等に出力する(ステップS108)。その後、全てのフレーム信号が完了したかを判断し(ステップS109)、完了していない場合は上記ステップS106に戻り、また、完了した場合は終了する。
また、上記ステップS107の信号処理と並行して、詳細は後述するような分離処理により、上記ステップS101で入力したN(但し、Nは2以上の自然数)種類(本実施形態では6種類)の色信号からなる映像信号から、基底ベクトルを用いた信号処理に使用するM(但し、Mは1以上の自然数、M≦N)種類(本実施形態では2種類)の周波数域に対応する色信号を選択し分離する(ステップS110)。
その後、分離した波長域の一つからノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する所定単位面積の画素領域を抽出する(ステップS111)。例えば、各波長域に関して、図7(B)に示すような注目画素群124を包含する4×7画素を画素領域として抽出する。次に、詳細は後述するようなノイズ推定処理により、上記抽出した画素領域に対してノイズ量を推定し(ステップS112)、更に、詳細は後述するようなノイズ低減処理により、その推定したノイズ量に基づき、上記画素領域の注目画素群に対してノイズ低減処理を行う(ステップS113)。その後、分離した波長域における全画素領域に関するノイズ低減処理が完了したか否かを判断し(ステップS114)、完了していない場合には、上記ステップS111に戻って、注目画素群を更新して次の画素領域を抽出することとなる。
而して、上記ステップS114において全画素領域に関するノイズ低減処理が完了したと判断した場合には、更に、上記ステップS110で分離した全ての波長域に関するノイズ低減処理が完了したかを判断する(ステップS115)。そして、完了していない場合には、上記ステップS111に戻り、次の波長域からノイズ低減処理を行う注目画素群を包含する所定単位面積の画素領域を抽出することとなる。
而して、上記ステップS115において全ての波長域に関するノイズ低減処理が完了したと判断した場合には、ノイズ低減された波長域ごとの信号より、公知の補間処理にて6種類の色信号からなる6種類のフレーム信号を生成する(ステップS116)。そして、それらフレーム信号に対して上記(9)式または(10)式に示されるように専用基底ベクトルに関する重み係数を算出する乗加算処理を行う(ステップS117)。例えば、短波長域に属する色信号の三板状態のフレーム信号に対して上記(9)式に示されるように専用基底ベクトル(O3(λ))に関する重み係数(w3sij)を算出し、長波長域に属する色信号の三板状態のフレーム信号に対して上記(10)式に示されるように専用基底ベクトル(O3(λ))に関する重み係数(w3lij)を算出する。そして、それら算出した重み係数を正規化し、その正規化された重み係数に関して波長域ごとに独立した色を割り当てることで疑似カラー信号を生成する(ステップS118)。例えば、上記重み係数(w3sij)を正規化して、赤を割り当て、また、上記重み係数(w3sij)を正規化して、シアンを割り当てることで、疑似カラー信号を生成する。そして、生成した識別対象の存在に関する疑似カラー信号をフレーム信号単位で、当該コンピュータに接続された図示しない表示モニタ等に出力する(ステップS108)。その後、全てのフレーム信号が完了したかを判断し(ステップS109)、完了していない場合は上記ステップS106に戻り、また、完了した場合は終了する。
なお、上記ステップS108では、通常のカラー信号と識別結果としての疑似カラー信号との両方が出力されるが、これは表示モニタ等を当該コンピュータ複数台接続して、それぞれ個別に表示するものであっても良いし、表示モニタ等を一台のみとして別々のウィンドウで表示するものであっても良い。
また、一台の表示モニタ等に、使用者の選択に応じて切り替え表示するようにしても良い。この場合、上記ステップS107の処理と、上記ステップS110乃至ステップS118の処理との両方を並列に行う必要はなく、使用者の選択に応じて何れか一方の処理を実行するように構成すれば十分である。
図15(A)は、上記ステップS105における算出処理に関するフローチャートを示す図である。
まず、上記ステップS102で入力された複数の基底ベクトルと、上記ステップS103で入力された複数の光源の分光輝度特性及び複数のカラー撮像系の分光感度特性の中から、上記ステップS101で入力したヘッダ情報中の識別対象となる被写体やカラー撮像系,照明光などの撮像条件に基づき、当該処理に使用する基底ベクトル、光源の分光輝度特性及びカラー撮像系の分光感度特性を選択する(ステップS201)。例えば、図4(B)に示すような基底ベクトル(O1(λ),O2(λ),O3(λ))、図5(A)に示すような光源の分光輝度特性、図5(B)に示すようなカラー撮像系の分光感度特性を選択する。
その後、上記(5)式または(6)式に示されるシステム行列を算出する積算処理を行い(ステップS202)、更に、そのシステム行列の逆行列を算出する(ステップS203)。例えば、システム行列M,Mを算出し、その逆行列M −1,M −1を算出する。そして、基底ベクトルの重み係数を算出するのに要する逆行列の要素を上記所定の係数として選択し(ステップS204)、選択された逆行列の要素を出力する(ステップS205)。例えば、基底ベクトル(O3(λ))の重み係数(w3sij)を算出するに要する逆行列M −1の要素ms31,ms32,ms33及び基底ベクトル(O3(λ))の重み係数(w3lij)を算出するに要する逆行列M −1の要素ml31,ml32,ml33を選択して出力する。
図15(B)は、上記ステップS110における分離処理に関するフローチャートを示す図である。
まず、上記ステップS102で入力された複数の基底ベクトルと、上記ステップS103で入力された複数の光源の分光輝度特性及び複数のカラー撮像系の分光感度特性の中から、上記ステップS101で入力したヘッダ情報中の識別対象となる被写体やカラー撮像系,照明光などの撮像条件に基づき、当該処理に使用する基底ベクトル、光源の分光輝度特性及びカラー撮像系の分光感度特性を選択し、それらに基づいて、各色信号の出力値を予測する(ステップS211)。
その後、予測した上記各色信号の出力値に基づき、例えば、公知のクラスタリング技術により、信号の値が似ているもの同士、つまり所定の範囲内に入っている色信号を判断して同じグループとなるようにグループ化することで、出力値が類似する色信号を選択する(ステップS212)。そして、選択された色信号間の数の調整を行うことで上記M種類(本実施形態では2種類)の波長域を確定し(ステップS213)、確定された波長域に基づいて、上記ステップS101で入力されたN種類の色信号からなる単板状態のフレーム信号である映像信号を、M種類の周波数域に対応する色信号を選択分離する(ステップS214)。
図15(C)は、上記ステップS112におけるノイズ推定処理に関するフローチャートを示す図である。
まず、上記ステップS101で入力したヘッダ情報中の温度値やゲイン値などの情報を、ノイズ推定処理に使用するノイズ関連情報として設定する(ステップS211)。なお、ヘッダ情報中に温度値やゲイン値などの情報が含まれていない場合には、標準値を、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりして設定する。
その後、上記ステップS111によって抽出したノイズ低減処理を行う注目画素群を包含する画素領域から、色信号毎に、上記注目画素群を構成する当該色信号の注目画素を包含する色画素領域を抽出する(ステップS222)。例えば、各波長域に関して、図7(B)に示すような注目画素群124を包含する4×7画素でなる各画素領域に関して、G2だけ、R1だけ、…というように、各色信号ごとの領域を色画素領域として抽出する。次に、抽出した上記色画素領域から低周波成分を算出する(ステップS223)。そして、上記ステップS104で入力したノイズ量テーブルを用いて、上記ステップS221で設定したノイズ関連情報と上記ステップS223で算出した低周波成分とより、上記色画素領域における画素のノイズ量を算出する(ステップS224)。その後、当該画素領域における全ての色画素領域に関するノイズ量算出処理が完了したかを判断し(ステップS225)、完了していない場合は上記ステップS222に戻って、次の色画素領域を抽出する。
而して、上記ステップS225において当該画素領域における全ての色画素領域に関するノイズ量算出処理が完了したと判断した場合には、平均値算出を行う(ステップS226)。即ち、算出された色信号ごとのノイズ量Nの平均値を、当該色信号ごとの上記色画素領域全体のノイズ量として算出し、その算出した平均値を、上記画素領域に包含される注目画素群124を構成する3つの注目画素、例えば、図7(A)に太枠で囲って示すようなB1,B2,G1の3画素に、同一のノイズ量Nとして割り当てる。また、上記ステップS223で算出した色信号ごとの低周波成分の平均値を、上記画素領域の画素の平均値AVとして算出する。そして、こうして所定単位面積の画素領域ごとに推定したノイズ量Nと上記画素領域の画素の平均値AVとを出力する(ステップS227)。
図15(D)は、上記ステップS113におけるノイズ低減処理に関するフローチャートを示す図である。
まず、上記ステップS112のノイズ推定処理で推定した画素の平均値AV及びノイズ量Nに基づき、上記(1)式に示されるノイズ量に関する許容範囲としての上限Noise_Up及び下限Noise_Lowを設定する(ステップS231)。
その後、上記ステップS111で抽出した画素領域より注目画素群124の画素値Pを読み込み、上記許容範囲に属するか否かの判断を行う(ステップS232)。判断は、「ノイズ範囲に属している」、「ノイズ範囲を上回っている」、「ノイズ範囲を下回っている」の三通りである。
上記抽出した画素領域の注目画素群124の画素値Pが上記設定したノイズ範囲に属すると判断した場合には、上記(2)式に示される、平均値AVを上記注目画素群124の値とする第1スムージング処理を行う(ステップS233)。
これに対して、上記抽出した画素領域の注目画素群124の画素値Pが上記設定したノイズ範囲に属さないと判断した場合には、上記(3)式あるいは上記(4)式に示される、注目画素群124の画素値Pに上記ステップS112で推定した平均値AVとノイズ量Nを用いて補正する第2スムージング処理を行う(ステップS234)。
そして、このような第1スムージング処理または第2スムージング処理の処理結果をノイズ低減信号として出力する(ステップS235)。
なお、この変形例4は、所定単位面積の画素領域から色信号毎の色画素領域を抽出してノイズ量を抽出する場合を例に説明したが、画素領域からノイズ量を抽出するようにしても良いことは勿論である。
[第2実施形態]
次に、本発明の第2実施形態を説明する。
(構成)
図16は、本発明の第2実施形態に係る識別処理装置を適用した内視鏡の構成を示す図である。本実施形態は、図1に示す第1実施形態の構成に第2分離部128、第2ノイズ推定部129及び第2ノイズ低減部130が追加された構成になっている。基本構成は上記第1実施形態と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみを説明する。
バッファ107は、第2分離部128へ接続されている。第2分離部128は、第2ノイズ推定部129及び第2ノイズ低減部130へ接続されている。第2ノイズ推定部129は、上記第2ノイズ低減部130へ接続されている。第2ノイズ低減部130は、信号処理部110を介して、液晶ディスプレイなどの第2出力部120へ接続されている。制御部121は、第2分離部128、第2ノイズ推定部129及び第2ノイズ低減部130と双方向に接続されている。
(作用)
本実施形態に係る識別処理装置の作用も、基本的に上記第1実施形態と同等であり、以下、異なる部分のみを説明する。
図16において、信号の流れを説明する。
本実施形態では、CCD101としては、4種類のカラーフィルタを前面に配置した単板CCDを想定する。図17(A)は、4種類のカラーフィルタでなるフィルタ131の構成を示す図である。このフィルタ131は、2×2画素を基本単位とし、短波長側から青(B),緑(G),黄(Ye),赤(R)から構成される。図17(B)は、このフィルタ131を構成する4種類のカラーフィルタの分光特性を示す図である。このようなフィルタ131を用いることで、CCD101からのアナログ信号は、4種類の色信号からなる映像信号となる。
CCD101からの映像信号は、上記第1実施形態と同様にしてデジタル信号へ変換されて、バッファ107へ転送される。
分離部111は、制御部121の制御に基づき、上記バッファ107に記録されたN(但し、Nは2以上の自然数)種類(本実施形態では4種類)の色信号からなる単板状態のフレーム信号から、基底ベクトルを用いた信号処理に使用するM(但し、Mは1以上の自然数、M≦N)種類(本実施形態では2種類)の周波数域に対応する色信号を選択し分離する。本実施形態では、図17(A)に示されるフィルタ131に対応する4種類の色信号からなるフレーム信号から分離する。基底ベクトルを用いた信号処理に使用する複数の周波数域の信号として、本実施形態においても2種類の波長域を想定する。分離する波長域を構成する色信号は、識別対象が何であるかによって設定される。該分離部111によって分離された波長域の信号は、ノイズ推定部112及びノイズ低減部113へ転送される。
図18は、上記分離部111の構成の一例を示す図である。該分離部111は、上記第1実施形態における予測部201、選択部202及び調整部203の代わりに、波長域テーブル部205を備えている。この波長域テーブル部205は、波長域分離部204及び上記ノイズ推定部112へ接続している。波長域分離部204は、上記ノイズ推定部112及び上記ノイズ低減部113へ接続している。上記バッファ107は、波長域分離部204へ接続している。上記制御部121は、波長域テーブル部205及び波長域分離部204と双方向に接続されている。
波長域テーブル部205は、識別対象となる被写体の既知の分光特性に基づき波長域を出力する。例えば、図19は、内視鏡における診断で重要となる血管部位、例えば動脈に多く含まれるオキシヘモグロビン(HBO)の基底ベクトル(O3(λ))と、蛍光観察での主要被写体となるコラーゲンの自家蛍光の基底ベクトル(O4(λ))とを示す図である。波長域テーブル部205は、そのような識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルに対応して、それぞれM種類(本実施形態では2種類)の波長域を記憶しており、上記外部I/F部122を介して設定された上記撮像条件における識別対象となる被写体の情報が上記制御部121から入力されると、その被写体に対応するM種類の波長域を出力する。
波長域分離部204は、制御部121の制御に基づき、上記波長域テーブル部205から出力された波長域に基づいて、上記バッファ107に記録されたN種類の色信号からなる単板状態のフレーム信号からM種類の周波数域に対応する色信号を選択し、上記ノイズ推定部112及びノイズ低減部113に出力する。
例えば、図17(A)に示すようなB,G,Ye,Rの4種類のカラーフィルタを備えるフィルタ131を用いた場合、図19に示すような分光反射特性を持つオキシヘモグロビンが識別対象であれば、波長域分離部204は、バッファ107に記録された4種類の色信号からなる単板状態のフレーム信号から、B,Gを選択的に読み出し、またYe,Rを選択的に読み出すことで、M種類(本実施形態では2種類)の周波数域に対応する色信号に分離する。即ち、短波長域と長波長域との2つに分離する。また、図19に示すような分光輝度特性を持つコラーゲンが識別対象であれば、波長域分離部204は、バッファ107に記録された4種類の色信号からなる単板状態のフレーム信号から、B,Rを選択的に読み出し、またG,Yeを選択的に読み出すことで、M種類(本実施形態では2種類)の周波数域に対応する色信号に分離する。即ち、長短波長域と中波長域との2つに分離する。
ノイズ推定部112、ノイズ低減部113、補間部114、算出部115、疑似カラー化部116、第1出力部117、基底ベクトルROM118及びシステム分光特性ROM119は、上記第1実施形態と同様のものである。但し、ノイズ推定部112の領域抽出部211及びノイズ低減部113の領域抽出部221は、注目画素群を包含する所定単位面積の画素領域として、識別対象がオキシヘモグロビンの場合には、図20(A)にそれぞれ太枠で囲って示すように、Ye,Rの2画素及びB,Gの2画素をそれぞれ注目画素群124とみなして、8×6画素の単位ブロックをノイズ低減の基本ブロックとして、各波長域に関して、図20(B)に示すような注目画素群124を包含する4×6画素を抽出する。また、識別対象がコラーゲンの場合には、図20(C)に太枠の実線及び破線でそれぞれ囲って示すように、B,Rの2画素及びG,Yeの2画素をそれぞれ注目画素群124とみなして、8×6画素の単位ブロックをノイズ低減の基本ブロックとして、各波長域に関して、図20(D)に示すような注目画素群124を包含する4×6画素を所定単位面積の画素領域として抽出する。
また、算出部115は、制御部121の制御に基づき、2×2サイズの撮像システムに関するシステム行列を、分離した複数の波長域、ここでは2つの波長域ごとに独立に算出する。例えば、識別対象がオキシヘモグロビンであれば、以下の(11)式に示すような短波長域のシステム行列M及び以下の(12)式に示すような長波長域のシステム行列Mを算出する。ここで、λ,λは上記分離した波長域の波長を意味する。
Figure 0005087529
算出部115は、この後、上記システム行列の逆行列M −1及びM −1とB,G信号及びYe,R信号とを使用することで、以下の(13)式及び(14)式に示すような、各画素単位で基底ベクトル(O3(λ),O4(λ))及び(O3(λ),O4(λ))に関する重み係数(w31ij,w41ij)及び(w32ij,w42ij)を算出する。
Figure 0005087529
即ち、基底ベクトル(O3(λ),O4(λ))及び(O3(λ),O4(λ))に関する重み係数(w31ij,w41ij)及び(w32ij,w43ij)を、以下の((15)式乃至(18)式に基づいて算出する。
W31ij=m111・Bij+m112・Gij …(15)
W41ij=m121・Bij+m122・Gij …(16)
W32ij=m211・Yeij+m212・Rij …(17)
W42ij=m221・Yeij+m222・Rij …(18)
こうして算出された基底ベクトルの重み係数(w31ij,w41ij)及び(w32ij,w42ij)が、疑似カラー化部116へ転送されることとなる。
一方、第2分離部128は、制御部121の制御に基づき、上記バッファ107に記録されたN(但し、Nは2以上の自然数)種類(本実施形態では4種類)の色信号からなる単板状態のフレーム信号から、通常のカラー信号を算出するに必要な色信号を選択し分離する。例えば、図17(A)に示されるフィルタ131に対応する4種類の色信号からなるフレーム信号から、B,G,Ye,Rの四色信号をそれぞれ独立に分離して、第2ノイズ推定部129及び第2ノイズ低減部130へ転送する。
図21(A)は、上記第2分離部128の構成の一例を示す図である。該第2分離部128は、フィルタテーブル部241と色信号分離部242とからなる。フィルタテーブル部241は、色信号分離部242へ接続している。色信号分離部242は、上記第2ノイズ推定部129及び上記第2ノイズ低減部130へ接続している。上記バッファ107は、色信号分離部242へ接続している。上記制御部121は、フィルタテーブル部241及び色信号分離部242と双方向に接続されている。
フィルタテーブル部241は、CCD101のカラーフィルタの種類毎の波長域を記憶しており、上記外部I/F部122を介して設定された上記撮像条件におけるカラー撮像系の情報が上記制御部121から入力されると、そのカラー撮像系の情報に対応する波長域を出力する。
色信号分離部242は、制御部121の制御に基づき、上記フィルタテーブル部241から出力された波長域に基づいて、上記バッファ107に記録されたN種類の色信号からなる単板状態のフレーム信号からN種類の色信号をそれぞれ独立に分離して、上記第2ノイズ推定部129及び上記第2ノイズ低減部130に出力する。
第2ノイズ推定部129は、上記第2分離部128によって分離した上記色信号ごとにノイズ量を第2の所定単位面積ごとに推定する。
図21(B)は、この第2ノイズ推定部129の構成の一例を示す図である。該第2ノイズ推定部129は、領域抽出部251、低周波算出部252、ゲイン算出部253、標準値付与部254及びノイズテーブル部255からなる。上記第2分離部128は、領域抽出部251へ接続している。領域抽出部251は、低周波算出部252へ接続している。低周波算出部252、ゲイン算出部253及び標準値付与部254は、ノイズテーブル部255へ接続している。ノイズテーブル部255は、上記第2ノイズ低減部130へ接続している。上記制御部121は、領域抽出部251、低周波算出部252、ゲイン算出部253、標準値付与部254及びノイズテーブル部255と双方向に接続されている。
領域抽出部251は、制御部121の制御に基づき、上記第2分離部128によって分離した色信号からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する領域を抽出する。例えば、図22(A)にそれぞれ太枠で囲って示すように、R,G,Ye,Bの4画素をそれぞれ注目画素群124とみなして、10×10画素の単位ブロックをノイズ低減の基本ブロックとする。つまり、この場合、一つの注目画素群は一つの注目画素を含む。そして、領域抽出部251は、各色信号に関して、図22(B)に示すような注目画素群124を包含する5×5画素をサブブロックとしてそれぞれ抽出する。このサブブロックがノイズ低減処理を行う注目画素群を包含する第2の所定単位面積の領域である。
低周波算出部252は、制御部121の制御に基づき、上記領域抽出部251によって抽出した上記領域から低周波成分を算出する。
ゲイン算出部253は、制御部121から転送されるISO感度及び露光条件に関する情報に基づき、上記増幅部105における上記映像信号に対するゲイン値に関する情報を算出する。また、制御部121は、上記第1実施形態で説明したように、図示しない温度センサ等を用いて上記カラー撮像系に関する温度値に関する情報を取得する。従って、これらゲイン算出部253及び制御部121は、上記ゲイン値及び温度値に関する情報を収集する収集部として機能する。
標準値付与部254は、制御部121の制御に基づき、上記収集部で得られない情報に関して標準値を付与する付与部として機能する。
ノイズテーブル部255は、制御部121の制御に基づき、上記収集部または上記標準値付与部254からの情報及び上記低周波算出部252によって算出した上記第2の所定単位面積の領域の低周波成分を入力として、上記領域に包含される上記注目画素群124のノイズ量を出力する。即ち、ノイズ量Nを、上記領域に包含される注目画素群124に割り当て、上記第2ノイズ低減部130に出力する。また、上記低周波算出部252からの色信号ごとの低周波成分を上記領域抽出部251で抽出された領域の画素の平均値AVとして、上記第2ノイズ低減部130に出力する。
なお、上記ノイズ量算出の過程において、温度t,ゲインgなどの情報を撮像ごとに求める必要はない。任意の情報を標準値付与部254に記録させておき、算出過程を省略する構成も可能である。これにより、高速処理や省電力化などが実現できる。
第2ノイズ低減部130は、上記第2ノイズ推定部129で推定した上記ノイズ量に基づき、上記第2分離部128によって分離した色信号ごとにノイズ低減処理を行う。
図21(C)は、上記第2ノイズ低減部130の構成の一例を示す図である。該第2ノイズ低減部130は、領域抽出部261、範囲設定部262、切り換え部263、第1スムージング部264及び第2スムージング部265からなる。上記第2分離部128は、領域抽出部261へ接続している。領域抽出部261は、範囲設定部262及び切り換え部263へ接続している。上記第2ノイズ推定部129は、範囲設定部262へ接続している。範囲設定部262は、切り換え部263、第1スムージング部264及び第2スムージング部265へ接続している。切り換え部263は、第1スムージング部264及び第2スムージング部265へ接続している。第1スムージング部264及び第2スムージング部265は、上記信号処理部110へ接続している。上記制御部121は、領域抽出部261、範囲設定部262、切り換え部263、第1スムージング部264及び第2スムージング部265と双方向に接続されている。
領域抽出部261は、上記第2ノイズ推定部129の領域抽出部251と同様に、制御部121の制御に基づき、上記第2分離部128によって分離した上記色信号からノイズ低減処理を行う注目画素群124を包含する第2の所定単位面積の領域を抽出する。
範囲設定部262は、制御部121の制御に基づき、上記第2ノイズ推定部129で推定した上記ノイズ量Nに基づき上記注目画素群124に関するノイズ範囲を設定する。即ち、範囲設定部262は、制御部121の制御に基づき、上記領域抽出部261で抽出された領域の画素の平均値AVと上記ノイズ量Nとを上記第2ノイズ推定部129から読み込む。その後、ノイズ量に関する許容範囲として上限Noise_Up及び下限Noise_Lowを、以下の((19)式のように設定する。
Noise_Up=AV+N/2
Noise_Low=AV−N/2 …(19)
こうして設定されたノイズ範囲、即ち上記許容範囲Noise_Up及びNoise_Lowは、切り換え部263へ転送される。更に、範囲設定部262は、上記第2ノイズ推定部129より読み込んだ上記領域の画素の平均値AV及びノイズ量Nを第1スムージング部264及び第2スムージング部265へ転送する。
切り換え部263は、制御部121の制御に基づき、領域抽出部261からの注目画素群124の画素値Pを読み込み、上記許容範囲に属するか否かの判断を行う。判断は、「ノイズ範囲に属している」、「ノイズ範囲を上回っている」、「ノイズ範囲を下回っている」の三通りである。切り換え部263は、「ノイズ範囲に属している」場合は、第1スムージング部264へ、それ以外は第2スムージング部265へ、注目画素群124の画素値Pを転送する。
第1スムージング部264は、切り換え部263からの注目画素群124の画素値Pに、以下の(20)式に示される、範囲設定部262からの平均値AVを代入する平滑化処理を行う。
=AV …(20)
これに対して、上記領域抽出部261によって抽出した上記領域の上記注目画素124の値が上記範囲設定部262によって設定した上記ノイズ範囲に属さない場合には、第2スムージング部265によって、補正を行う。即ち、第2スムージング部265は、切り換え部263からの注目画素124の画素値Pに範囲設定部262からの平均値AVとノイズ量Nを用いて補正する処理を行う。
まず、「ノイズ範囲を上回っている」場合は、以下の(21)式のように補正する。
=AV−N/2 …(21)
また、「ノイズ範囲を下回っている」場合は、以下の(22)式のように補正する。
=AV+N/2 …(22)
このような第1スムージング部264または第2スムージング部265での処理結果は信号処理部110へ転送される。
上記のような第2ノイズ推定部129、第2ノイズ低減部130の構成により、信号レベル、撮像時の温度、ゲインなどの動的に変化する条件に対応したノイズ量の推定及び画面全体での最適なノイズ低減が可能となり、高品位な信号が得られる。上記情報が得られない場合でも標準値を用いることでノイズ量の推定を行うため安定したノイズ低減効果が得られる。さらに、一部のパラメータ算出を意図的に省略することで低コスト,省電力化を可能とする撮像システムが提供できる。また、ノイズ量の算出にルックアップテーブルを用いているため、高速なノイズ量の推定が可能となる。また、ノイズ低減処理はノイズ量から許容範囲を設定するため、原信号の保存性に優れ不連続性の発生を防止した低減処理が可能となる。
信号処理部110は、制御部121の制御に基づき、第2ノイズ低減部130から転送されるノイズ低減処理が施されたB,G,Ye,Rの四色信号から構成されるフレーム信号を通常のB,G,Rの三色信号から構成されるフレーム信号に変換し、その変換したフレーム信号に対して公知の階調処理及び強調処理を行うことで通常のカラー信号を算出する。この算出した通常のカラー信号は、第2出力部120へ転送され、該第2出力部120は、この通常のカラー信号を第2の出力信号として表示する。
以上のように、本第2実施形態によれば、通常の処理がなされたカラー信号も独立に算出されるため、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。また、映像信号から通常のカラー信号を算出するに必要な色信号ごとにノイズ量を推定し、推定されたノイズ量に基づきノイズ低減処理を行い、ノイズ低減処理後の色信号に基づき通常のカラー信号を算出することで、通常の処理がなされたカラー信号に関してもノイズ低減処理が行われるため、使用者に対する視認性を向上できる。
[変形例1]
上記第2実施形態では、ノイズ推定部112及びノイズ低減部113と第2ノイズ推定部129及び第2ノイズ低減部130との2系統のノイズ低減処理を行うための構成を備えていたが、このような構成に限定される必要はない。
例えば、第2ノイズ推定部129及び第2ノイズ低減部130の機能を、ノイズ推定部112及びノイズ低減部113が適宜切り換えて果たすようにしても構わない。
図23は、図16に示す構成から第2出力部120、第2ノイズ推定部129及び第2ノイズ低減部130を省略し、切換部125を追加した形態となっている。基本構成は図16と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
上記バッファ107は、切換部125へ接続している。切換部125は、上記分離部111及び上記第2分離部128へ接続している。上記第2分離部128は、上記ノイズ推定部112及び上記ノイズ低減部113へ接続している。ノイズ低減部113は、上記信号処理部110及び補間部114へ接続している。上記信号処理部110は、上記第1出力部117へ接続している。上記切換部125と上記制御部121とは双方向に接続している。
通常のカラー表示を行うことが外部I/F部122を介して使用者より指示された場合には、切換部125は、制御部121の制御に基づき、通常モードとなり、上記バッファ107より、R,Ye,G,Bの四色信号から構成される単板状態のフレーム信号を選択し、上記第2分離部128へ転送する。これにより、第2分離部128は上記第2実施形態で説明したように各色信号を分離して、上記ノイズ推定部112及び上記ノイズ低減部113へ出力する。上記ノイズ推定部112及び上記ノイズ低減部113は、制御部121の制御に基づき、上記第2実施形態で説明したような上記第2ノイズ推定部129及び上記第2ノイズ低減部130と同様のノイズ低減動作を行うように切り換えられ、ノイズ低減された四色信号を上記信号処理部110に出力する。信号処理部110は、上記第2実施形態で説明したような動作を行って、例えば表示モニタである第1出力部117へ通常のカラー信号を転送して表示を行う。
これに対して、識別対象となる被写体の識別結果の出力を行うことが外部I/F部122を介して使用者より指示された場合には、切換部125は、制御部121の制御に基づき、識別モードとなり、上記バッファ107より、四色信号からなる単板状態のフレーム信号を選択し、上記分離部111へ転送する。上記分離部111は、入力されたフレーム信号を、上記第2実施形態で説明したような、識別対象の被写体に応じた波長域に分離して、上記ノイズ推定部112及び上記ノイズ低減部113に出力する。上記ノイズ推定部112及び上記ノイズ低減部113は、制御部121の制御に基づき、上記第1実施形態で説明したようなノイズ低減処理動作を行うように切り換えられ、上記補間部114、上記算出部115及び上記疑似カラー化部116を介して、識別対象の存在に関するフレーム信号を出力部117へ転送して表示を行う。
[変形例2]
また、上記第1実施形態では、識別処理装置は、撮像レンズ系100、CCD101、照明レンズ系102、照明光源103、光ファイバ104、増幅部105、A/D106、WB部108及び測光評価部109からなる撮像部と一体化した構成になっていたが、このような構成に限定される必要はない。
例えば、上記第1実施形態の変形例3で説明したように、別体の撮像部で撮像された映像信号を未処理のRawデータ形態で、さらに識別対象となる被写体,カラー撮像系,照明光などの撮像条件に関する付随情報をヘッダ部に記録して、ハードディスクやメモリカードなどの記録媒体に保存したものを読み出したり、無線又は有線ネットワークを介して送信されてくる映像信号を受信したりして、処理をすることも可能である。
[変形例3]
さらに、上記第1実施形態では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD101からの映像信号を未処理のままのRawデータ形態として、制御部121から、識別対象となる被写体やカラー撮像系,照明光などの撮像条件、カラー撮像系に関する温度値,映像信号に対するゲイン値などの情報をヘッダ情報として出力し、それら映像信号とヘッダ情報を図示しないコンピュータに入力して、ソフトウェアにて処理する構成も可能である。
図24は、不図示コンピュータによる信号処理のソフトウェア処理に関するフローチャートを示す図である。本変形例3は、基本的に上記第1実施形態の変形例4と同等であり、以下、異なる部分のみを説明する。
即ち、ステップS101乃至ステップS106は、上記第1実施形態の変形例4で説明した通りである。但し、本変形例においては、図17(A)に示す4種類のカラーフィルタからなるフィルタ131を前面に配置した単板CCDからの映像信号を処理することを想定する。また、ステップS105では、基底ベクトルに関する重み係数算出に使用されるシステム行列の逆行列M −1及びM −1の所定の係数、例えば、要素m111,m112及びm211,m222を算出する。
また、上記第1実施形態の変形例4で説明したようなステップS110乃至ステップS118、ステップS108及びステップS109の処理を実行する。但し、ステップS111のノイズ推定処理においては、ステップS222、ステップS225及びステップS226は省略される。また、ステップS117の上加算処理においては、例えば、識別対象がオキシヘモグロビンであれば、上記(15)式及び上記(17)式に示されるように専用基底ベクトルに関する重み係数を算出する乗加算処理を行う。即ち、短波長域に属する色信号の四板状態のフレーム信号に対して上記(15)式に示されるように専用基底ベクトル(O3(λ))に関する重み係数(w31ij)を算出し、長波長域に属する色信号の四板状態のフレーム信号に対して上記(17)式に示されるように専用基底ベクトル(O3(λ))に関する重み係数(w32ij)を算出する。
一方、上記ステップS107において、通常カラー信号の出力が指示されていると判断した場合には、詳細は後述するような第2分離処理により、上記ステップS101で入力したN(但し、Nは2以上の自然数)種類(本実施形態では4種類)の色信号からなる映像信号から、通常のカラー信号を生成するための色信号を分離する(ステップS119)。
その後、分離した色信号の一つからノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する第2の所定単位面積の領域を抽出する(ステップS120)。次に、詳細は後述するような第2ノイズ推定処理により、上記抽出した領域に対してノイズ量を推定し(ステップS121)、更に、詳細は後述するような第2ノイズ低減処理により、その推定したノイズ量に基づき、上記領域の注目画素群に対してノイズ低減処理を行う(ステップS122)。その後、分離した色信号における全画素領域に関するノイズ低減処理が完了したか否かを判断し(ステップS123)、完了していない場合には、上記ステップS120に戻って、注目画素群を更新して次の領域を抽出することとなる。
而して、上記ステップS123において全画素領域に関するノイズ低減処理が完了したと判断した場合には、更に、上記ステップS120で分離した全ての色信号に関するノイズ低減処理が完了したかを判断する(ステップS124)。そして、完了していない場合には、上記ステップS120に戻り、次の色信号からノイズ低減処理を行う注目画素群を包含する第2の所定単位面積の領域を抽出することとなる。
而して、上記ステップS124において全ての色信号に関するノイズ低減処理が完了したと判断した場合には、ノイズ低減された四色信号からなるフレーム信号を通常のR,G,B三色信号からなるフレーム信号に変換し、公知の補間処理にて欠落する色信号を生成することで通常のカラー信号を生成するための色信号からなるフレーム信号を生成し、公知の階調処理や強調処理といった信号処理を行って、通常のカラー信号を生成する(ステップS107)。そして、その生成した通常のカラー信号をフレーム信号単位で、当該コンピュータに接続された図示しない表示モニタ等に出力する(ステップS108)。その後、全てのフレーム信号が完了したかを判断し(ステップS109)、完了していない場合は上記ステップS106に戻り、また、完了した場合は終了する。
図25(A)は、上記ステップS110における分離処理に関するフローチャートを示す図である。
まず、識別対象となる被写体の既知の分光特性に基づき波長域を出力する波長域テーブルを入力する(ステップS215)。この波長域テーブルは、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
そして、上記ステップS101で入力したヘッダ情報中の識別対象となる被写体の情報に基づいて、上記波長域テーブルにより波長域を確定し、確定された波長域に基づいて、上記ステップS101で入力されたN種類の色信号からなる単板状態のフレーム信号である映像信号を、M種類の周波数域に対応する色信号に選択分離する(ステップS216)。
図25(B)は、上記ステップS119における第2分離処理に関するフローチャートを示す図である。
まず、カラー撮像系の情報に基づき波長域を出力するフィルタテーブルを入力する(ステップS241)。このフィルタテーブルは、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
そして、上記ステップS101で入力したヘッダ情報中のカラー撮像系の情報に基づいて、上記フィルタテーブルにより波長域を確定し、確定された波長域に基づいて、上記ステップS101で入力されたN種類の色信号からなる単板状態のフレーム信号である映像信号を、M種類の周波数域に対応する色信号に選択分離する(ステップS242)。
図25(C)は、上記ステップS121における第2ノイズ推定処理に関するフローチャートを示す図である。
まず、上記ステップS101で入力したヘッダ情報中の温度値やゲイン値などの情報を、ノイズ推定処理に使用するノイズ関連情報として設定する(ステップS251)。なお、ヘッダ情報中に温度値やゲイン値などの情報が含まれていない場合には、標準値を、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりして設定する。
その後、上記ステップS111によって抽出した上記第2の所定単位面積の領域から低周波成分を算出することにより、各色信号ごとの領域における低周波成分を算出する(ステップS252)。その後、上記ステップS104で入力したノイズ量テーブルを用いて、上記ステップS251で設定したノイズ関連情報と上記ステップS252で算出した信号レベルとより、上記領域における画素のノイズ量Nを算出する(ステップS253)。そして、その算出した色信号ごとのノイズ量Nを、上記領域に包含される注目画素群124に割り当て、また、上記ステップS252で算出した色信号ごとの低周波成分を、上記領域の画素の平均値AVとして、それらノイズ量Nと平均値AVとを出力する(ステップS254)。
図25(D)は、上記ステップS122における第2ノイズ低減処理に関するフローチャートを示す図である。
まず、上記ステップS121の第2ノイズ推定処理で推定した画素の平均値AV及びノイズ量Nに基づき、上記(19)式に示されるノイズ量に関する許容範囲としての上限Noise_Up及び下限Noise_Lowを設定する(ステップS261)。
その後、上記ステップS120で抽出した領域より注目画素群124の画素値Pを読み込み、上記許容範囲に属するか否かの判断を行う(ステップS262)。判断は、「ノイズ範囲に属している」、「ノイズ範囲を上回っている」、「ノイズ範囲を下回っている」の三通りである。
上記抽出した領域の注目画素群124の画素値Pが上記設定したノイズ範囲に属すると判断した場合には、上記(20)式に示される、平均値AVを上記注目画素群124の値とする第1スムージング処理を行う(ステップS263)。
これに対して、上記抽出した領域の注目画素群124の画素値Pが上記設定したノイズ範囲に属さないと判断した場合には、上記(21)式あるいは上記(22)式に示される、注目画素群124の画素値Pに上記ステップS121で推定した平均値AVとノイズ量Nを用いて補正する第2スムージング処理を行う(ステップS264)。
そして、このような第1スムージング処理または第2スムージング処理の処理結果をノイズ低減信号として出力する(ステップS235)。
なお、上記ステップS108の通常のカラー信号と識別結果としての疑似カラー信号との両方の出力は、表示モニタ等を当該コンピュータ複数台接続して、それぞれ個別に表示するものであっても良いし、表示モニタ等を一台のみとして別々のウィンドウで表示するものであっても良い。
また、一台の表示モニタ等に、使用者の選択に応じて切り替え表示するようにしても良い。この場合、上記ステップS119乃至ステップS124及びステップS107の処理と、上記ステップS110乃至ステップS118の処理との両方を並列に行う必要はなく、使用者の選択に応じて何れか一方の処理を実行するように構成すれば十分である。
[第3実施形態]
次に、本発明の第3実施形態を説明する。
(構成)
図26は、本発明の第3実施形態に係る識別処理装置を適用した顕微鏡の構成を示す図である。本実施形態は、図1に示す第1実施形態における算出部115に代えて、相関係数算出部132及び導出係数ROM133を設けた構成になっている。つまり、相関係数算出部132、導出係数ROM133、疑似カラー化部116及び第1出力部117によって、上記ノイズ低減部113によってノイズ低減処理がなされた波長域中の色信号に基づき識別対象となる被写体の識別処理を行う識別部としての機能を果たすものである。基本構成は上記第1実施形態と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみを説明する。
本実施形態においては、顕微鏡の撮像レンズ系100,CCD101を介して撮像された映像信号は、増幅部105にて増幅され、A/D106にてデジタル信号へ変換される。顕微鏡の対物ステージには、照明レンズ系102を介して照明光源103からの照明光が導かれている。補間部114は、相関係数算出部132へ接続されている。導出係数ROM133は、相関係数算出部132へ接続されている。相関係数算出部132は、疑似カラー化部116へ接続されている。制御部121は、相関係数算出部132と双方向に接続されている。
(作用)
本実施形態に係る識別処理装置の作用も、基本的に上記第1実施形態と同等であり、異なる部分のみ説明する。
図26において、信号の流れを説明する。外部I/F部122を介して後述する識別対象となる被写体などの撮像条件を設定した後、外部I/F部122における図示しないシャッタボタンを半押しにすることでプリ撮像モードに入る。撮像レンズ系100,CCD101を介して撮像された映像信号はアナログ信号として出力される。上記アナログ信号は増幅部105にて所定量増幅され、A/D106にてデジタル信号へ変換されてバッファ107へ転送される。バッファ107内の映像信号は、制御部121の制御に基づき、WB部108及び測光評価部109へ転送される。上記第1実施形態と同様に、WB部108にてホワイトバランス処理が、測光評価部109にて露光制御が、それぞれ行われる。
次に、外部I/F部122におけるシャッタボタンを全押しにすることにより本撮像が行われ、映像信号はプリ撮像と同様にバッファ107へ転送される。バッファ107内の映像信号は、信号処理部110及び分離部111によって読み出される。
信号処理部110は、上記第1実施形態で説明したように、制御部121の制御に基づき、通常のカラー信号を算出して、第2出力部120にて表示する。
分離部111は、上記第1実施形態で説明したように、制御部121の制御に基づき、上記バッファ107に記録されたN(但し、Nは2以上の自然数)種類(本実施形態では6種類)の色信号からなる単板状態のフレーム信号から、後述する基底ベクトルを用いた信号処理に使用するM(但し、Mは1以上の自然数、M≦N)種類(本実施形態では2種類)の周波数域に対応する色信号を選択し分離する。ノイズ推定部112は、上記第1実施形態で説明したように、制御部121の制御に基づき、上記分離部111によって分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定する。ノイズ低減部113は、上記第1実施形態で説明したように、制御部121の制御に基づき、上記ノイズ推定部112で推定した上記ノイズ量に基づき、上記分離部111によって分離した上記波長域ごとにノイズ低減処理を行う。補間部114は、制御部121の制御に基づき、上記第1実施形態で説明したように、上記ノイズ低減部113からノイズ低減された波長域ごとの信号を読み込み、公知の補間処理にて6種類の色信号からなる6種類のフレーム信号を生成する。生成された6種類のフレーム信号は、順次フレーム信号単位で、相関係数算出部132へ転送される。
一方、導出係数ROM133には、識別対象となる被写体ごとに、当該被写体の既知の分光特性、被写体の撮像に供するカラー撮像系に関する分光特性と被写体の撮像時に使用する照明光に関する分光特性に基づいて、識別対象となる被写体の既知の分光特性と上記ノイズ低減部113によってノイズ低減処理がなされ上記補間部114で補間生成された波長域中の色信号との間の相関性を導出する導出係数が予め算出されて、記憶されている。
相関係数算出部132は、外部I/F部122を介して設定された上記撮像条件における識別対象となる被写体の選択に応じた制御部121の制御に基づき、上記導出係数ROM133から上記導出係数を読み込む。その後、上記補間部114から転送される各色信号に対して、上記読み込んだ導出係数を用いて、識別対象となる被写体の既知の分光特性と波長域中の信号間の相関係数を算出する。この相関係数算出部132によって算出された相関係数は、上記識別対象の被写体の存在に比例した値をとるものであり、疑似カラー化部116及び第1出力部117から構成される出力信号算出部へ転送される。
疑似カラー化部116は、まず、上記相関係数算出部132から転送されてきた相関係数を、映像信号の信号レベル映像信号の信号レベル(例えば、信号レベルが8ビットならば「0」〜「255」)と合致するよう正規化する。そして、その正規化した相関係数に関して、それぞれ異なる色を割り当てることで疑似カラー信号を生成する。本実施形態においては、例えば、短波長域であるB1,B2,G1の相関係数には赤を、長波長域であるG2,R1,R2の相関係数にはシアンを、それぞれ割り当てる。疑似カラー化部116は、このように生成した疑似カラー信号を第1出力部117へ転送し、これにより、第1出力部117には、識別対象の被写体に関して波長域ごとに独立した疑似カラー信号が表示されることになる。即ち、第1出力部117は、疑似カラー化された短波長域の相関係数と同じく疑似カラー化された長波長域の相関係数が合成された出力信号を表示するので、短波長域のみに識別対象が存在する場合は赤で、長波長域のみに識別対象が存在する場合はシアンで、短波長域と長波長域の両方に識別対象が存在する場合は赤+シアン=白で、短波長域と長波長域の両方に識別対象が存在しない場合は黒で表示が行われることになる。こうして、識別対象となる被写体の識別結果としての出力信号が出力される。なお、短波長域は対象物の表層に関する情報を、長波長域は対象物の深層に関する情報を、それぞれ意味する。
また、第1出力部117及び第2出力部120は、液晶ディスプレイに限定されるものではなく、ハードディスクやメモリカードなどの記録媒体にフレーム信号を順次記録保存する形態も可能である。
図27は、上記相関係数算出部132の構成の一例を示す図であり、該相関係数算出部132は、係数選択部271と乗加算部272とからなる。ここで、上記導出係数ROM133は、係数選択部271を介して乗加算部272へ接続している。上記補間部114は、乗加算部272へ接続している。乗加算部272は、上記疑似カラー化部116へ接続している。上記制御部121は、係数選択部271及び乗加算部272と双方向に接続されている。
係数選択部271は、上記外部I/F部122を介して設定された上記撮像条件における識別対象となる被写体の情報を制御部121から受け取り、上記情報に基づき導出係数ROM133から識別対象となる被写体の既知分光特性と各色信号との間の相関性を導出する導出係数を読み込む。このように、上記導出係数ROM133及び該係数選択部271は、導出係数取得部として機能する。導出係数ROM133には、上記(5)式や上記(6)式に示されるシステム行列の逆行列M−1の各要素が導出係数として記録されている。なお、本実施形態では、2つの波長域を想定しているため、システム行列の逆行列M−1も2つとなる。また、システム行列の逆行列のサイズは各波長域3×3となる。また、本実施形態は、顕微鏡においては、被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とが固定されている、ということを前提としている。この場合は、最終的に得られるシステム行列の逆行列M−1は固定されるため、上記(5)式や(6)式に示す算出の過程を省略することができ、逆行列M−1のみを記録しておけば良いことになる。
なお、識別対象となる被写体の既知の分光特性に基づく基底ベクトルに関しては予め想定される種類を用意し、複数のシステム行列の逆行列M−1を記録しているものとする。上記導出係数は、乗加算部272へ転送される。
乗加算部272は、制御部121の制御に基づき、係数選択部271から導出係数を、上記補間部114から波長域ごとの色信号を画素単位で読み込む。この後、上記(9)式や(10)式に示されるように重み係数を求める。上記重み係数は、識別対象となる被写体の既知の分光特性と波長域中の色信号との間の相関関係を表す相関係数となる。この相関係数は、順次、上記疑似カラー化部116へ転送される。
以上のように、本第3実施形態によれば、分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく導出係数から、上記識別対象の被写体の存在に比例した値をとる上記識別対象となる被写体の既知の分光特性と色信号との間の相関係数をノイズ低減処理がなされた波長域ごとに独立に求め、それらの相関係数に基づき上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する。このように、本第3実施形態では、識別対象となる被写体の分光特性に基づく導出係数を用いることで、上記識別対象の被写体の存在に比例した値をとる相関係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行う必要が無く、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、導出係数からの相関係数の算出は容易であり、且つ相関係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。
さらに、特定の波長域の色信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の色信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の色信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
また、本第3実施形態では、導出係数に関する相関係数を正規化することで出力信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。
さらに、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。また、通常の処理がなされた映像信号が独立に出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。
なお、上記第3実施形態の説明では、顕微鏡による静止画像処理を行う構成となっていたが、このような構成に限定される必要はない。カラー撮像系に関する分光特性及び被写体の撮像時に使用する照明光に関する分光特性が固定されるのであれば、上述した第1及び第2実施形態と同様に、面順次方式の内視鏡などの動画像処理へも適用することが可能である。また、これとは逆に、上記第1及び第2実施形態を静止画像処理に適用する構成も可能である。
さらに、別体の撮像部で撮像された映像信号を未処理のRawデータ形態で、識別対象となる被写体などの撮像条件に関する付随情報をヘッダ部に記録した記録媒体から、映像信号及び付随情報を取得して処理をすることも可能である。また、二板,三板CCDを用いて複数の色信号を得る構成にも適用可能である。
[変形例1]
また、上記第3実施形態では、通常のカラー信号が第2出力部120で、識別対象の存在に関する疑似カラー信号が第1出力部117で表示される構成となっていたが、このような構成に限定される必要はない。
例えば、図28に示すような導出係数に関する相関係数に基づき通常カラー信号を強調処理し、1つの出力信号として表示する構成も可能である。図28は、図26に示す構成から、疑似カラー化部116及び第1出力部117を省略し、強調部134が追加された形態となっている。基本構成は図26と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
信号処理部110及び相関係数算出部132は、強調部134へ接続されている。強調部134は、第2出力部120へ接続されている。制御部121は、強調部134と双方向に接続されている。強調部134へは、信号処理部110から通常のカラー信号が、相関係数算出部132から識別対象となる被写体の分光特性と波長域中の色信号との間の相関係数が、それぞれ転送される。
このような構成において、強調部134は、制御部121の制御に基づき、信号処理部110から上記通常のカラー信号を読み込むと共に、相関係数算出部132から上記相関係数を読み込む。その後、信号処理部110から転送される通常のカラー信号に対して相関係数算出部132から転送される相関係数に基づき強調処理を行う。上記強調処理としては、公知の彩度強調処理が想定され、これらの強調量は相関係数に比例する形態で実施される。強調処理後のフレーム信号は、第2出力部120へ転送される。これにより、第2出力部120には、識別対象の存在領域が波長領域ごとに強調された通常のカラー信号が表示されることになる。即ち、オキシヘモグロビンなどの識別対象の被写体の存在領域のみが強調され、認識能を向上することが可能となる。この強調処理は、波長域ごとに独立に行うことも可能であるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。また、識別対象である被写体の存在しない領域、つまり識別対象以外の被写体の存在領域に関しても、通常の処理がなされたカラー信号が出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。
図29(A)は、上記強調部134の構成の一例を示す図で、該強調部134は、輝度色差分離部281、バッファ282、強調ゲイン算出部283、強調関数ROM284、ゲイン乗算部285及び輝度色差合成部286からなる。上記信号処理部110は、輝度色差分離部281を介してバッファ282へ接続している。バッファ282は、ゲイン乗算部285及び輝度色差合成部286へ接続している。上記相関係数算出部132及び強調関数ROM284は、強調ゲイン算出部283へ接続している。強調ゲイン算出部283は、ゲイン乗算部285へ接続し、ゲイン乗算部285は、輝度色差合成部286へ接続している。輝度色差合成部286は、上記第2出力部120へ接続している。上記制御部121は、輝度色差分離部281、強調ゲイン算出部283、ゲイン乗算部285及び輝度色差合成部286と双方向に接続されている。
輝度色差分離部281は、上記制御部121の制御に基づき、上記信号処理部110から転送されるRij,Gij,Bijの通常のカラー信号に対して、以下の(23)式に基づき輝度信号Yij及び色差信号Cbij,Crijを算出する。
ij=0.29900Rij+0.58700Gij+0.11400Bij
Cbij=-0.16874Rij−0.33126Gij+0.50000Bij
Crij=0.50000Rij−0.41869Gij−0.08131Bij …(23)
これら算出された輝度信号及び色差信号は、バッファ282へ転送され、そこに記録される。
一方、強調ゲイン算出部283は、上記制御部121の制御に基づき、上記相関係数算出部132から上記相関係数を読み込む。また、強調関数ROM284から強調用のゲインを求めるためのゲインテーブルを読み込む。
図29(B)は、強調関数ROM284に記録されている強調用のゲインテーブルの一例を示す図である。上記テーブルは、相関係数を入力として強調用のゲインを出力するテーブルである。従って、強調ゲイン算出部283は、このテーブルに従って、読み込んだ相関係数に対するゲインを算出する。なお、相関係数は「0」〜「1」の値をとることを前提としている。ゲインは、短波長域(gainsij)及び長波長域(gainlij)に関して独立に算出される。
この強調ゲイン算出部283で算出されたゲインgainsij,gainlijは、ゲイン乗算部285へ転送される。ゲイン乗算部285は、上記制御部121の制御に基づき、バッファ282から上記色差信号Cbij,Crijを読み込むと共に、強調ゲイン算出部283から上記ゲインgainsij,gainlijを読み込む。その後、色差信号Cbij,Crijに関して、以下の(24)式に示される強調処理を行う。
Cb’ij=gainlij・Cbij
Cr’ij=gainsij・Crij …(24)
ここで、上記(24)式に示される強調処理は、深層の血管に関する長波長域の重み係数に基づきCb(青系)を強調し、表層の血管に関する短波長域の重み係数に基づきCr(赤系)を強調することを意味する。このため、短波長域と長波長域の識別が可能となる。強調処理がなされた色差信号Cb’ij,Cr’ijは、輝度色差合成部286へ転送される。
輝度色差合成部286は、上記制御部121の制御に基づき、バッファ282から上記輝度信号Yijを読み込むと共に、ゲイン乗算部285から上記強調処理がなされた色差信号Cb’ij,Cr’ij読み込み、以下の(25)式に示すような強調処理を行うことで、強調処理がなされた通常のカラー信号を算出する。
R’ij=Yij+1.40200Cr’ij
G’ij=Yij−0.34414Cb’ij−0.71414Cr’ij
B’ij=Yij+1.77200Cb’ij …(25)
この輝度色差合成部286で強調処理がなされた通常のカラー信号は、上記第2出力部120へ転送される。
なお、上記例では、表層を赤系で、深層を青系で強調する構成となっていたが、このような構成に限定される必要はない。色差信号Cb,Crを組み合わせることで、任意の色を強調することが可能である。
[変形例2]
また、上記第3実施形態では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD101からの映像信号を未処理のままのRawデータ形態として、制御部121から、識別対象となる被写体などの撮像条件をヘッダ情報として出力し、それら映像信号とヘッダ情報を図示しないコンピュータに入力して、ソフトウェアにて処理する構成も可能である。
図30(A)は、不図示コンピュータによる信号処理のソフトウェア処理に関するフローチャートを示す図である。なお、図14に示す上記第1実施形態における信号処理のフローチャートと同一な処理ステップに関しては、同一な参照ステップ符号を割り当てている。
即ち、コンピュータはまず、上記第1実施形態と同様に、ステップS101乃至ステップS104で、映像信号、識別対象となる被写体及びカラー撮像系,照明光などの撮像条件及び温度値やゲイン値などの情報に関するヘッダ情報、基底ベクトル、システム分光特性及びノイズ量テーブルを入力する。
そして更に、複数の導出係数を入力する(ステップS125)。ここで、上記導出係数は、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
その後、通常のカラー信号を生成するための色信号を分離し、公知の補間処理にて欠落する色信号を生成することで通常のカラー信号を生成するための色信号からなるフレーム信号を生成し、公知の階調処理や強調処理といった信号処理を行って、通常のカラー信号を生成する(ステップS107)。そして、その生成した通常のカラー信号を当該コンピュータに接続された図示しない表示モニタ等に出力して(ステップS108)、終了する。
なお、顕微鏡の場合は、動画像ではなく静止画像を扱うため、上記第1実施形態や第2実施形態のような、全てのフレーム信号が完了したかの判断は不要である。
一方、上記第1実施形態と同様に、ステップS110乃至ステップS115で、入力したN(但し、Nは2以上の自然数)種類(本実施形態では6種類)の色信号からなる映像信号をM(但し、Mは1以上の自然数、M≦N)種類(本実施形態では2種類)の波長域に分離し、分離した波長域毎にノイズ低減処理を実施する。そして、ステップS116で、ノイズ低減された波長域ごとの信号より、公知の補間処理にて6種類の色信号からなる6種類のフレーム信号を生成する。
その後、波長域毎に、その波長域に属する色信号からなる映像信号に対して詳細は後述するような相関係数算出処理により、上記ステップS125で入力した導出係数に基づき識別対象となる被写体の既知の分光特性と波長域中の色信号との間の相関係数を算出する(ステップS126)。
そして、それら算出した相関係数を正規化し、その正規化された相関係数に関して波長域ごとに独立した色を割り当てることで疑似カラー信号を生成し(ステップS118)、その生成した識別対象の存在に関する疑似カラー信号を当該コンピュータに接続された図示しない表示モニタ等に出力して(ステップS108)、終了する。
なお、上記ステップS108の通常のカラー信号と識別結果としての疑似カラー信号との両方の出力は、表示モニタ等を当該コンピュータ複数台接続して、それぞれ個別に表示するものであっても良いし、表示モニタ等を一台のみとして別々のウィンドウで表示するものであっても良い。
また、一台の表示モニタ等に、使用者の選択に応じて切り替え表示するようにしても良い。この場合、上記ステップS107の処理と、上記ステップS110乃至ステップS116、ステップS126及びステップS118の処理との両方を並列に行う必要はなく、使用者の選択に応じて何れか一方の処理を実行するように構成すれば十分である。
図30(B)は、上記ステップS126における相関係数算出処理に関するフローチャートを示す図である。
まず、上記ステップS125で入力された複数の導出係数の中から、上記ステップS101で入力したヘッダ情報中の識別対象となる被写体情報に基づき、導出係数を選択する(ステップS271)。そして、上記(9)式や(10)式に示されるように導出係数に基づき相関係数を算出して(ステップS272)、その算出された相関係数を出力する(ステップS273)。
以上、実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
(付記)
前記の具体的実施形態から、以下のような構成の発明を抽出することができる。
(1) 識別対象となる被写体の既知の分光特性に基づき、カラー撮像系による被写体の撮像により得た映像信号を構成するN(但し、Nは2以上の自然数)種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離する分離部と、
上記分離部によって分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定するノイズ推定部と、
上記ノイズ推定部で推定した上記ノイズ量に基づき、上記分離部によって分離した上記波長域ごとにノイズ低減処理を行うノイズ低減部と、
上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う識別部と、
を有することを特徴とする識別処理装置。
(対応する実施形態)
この(1)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、分離部111、基底ベクトルROM118、システム分光特性ROM119が上記分離部に、ノイズ推定部112が上記ノイズ推定部に、ノイズ低減部113が上記ノイズ低減部に、算出部115、基底ベクトルROM118、システム分光特性ROM119、疑似カラー化部116、第1出力部117、相関係数算出部132、導出係数ROM133、強調部134が上記識別部に、それぞれ対応する。
(作用効果)
この(1)に記載の識別処理装置は、分離部にて識別対象となる被写体の既知の分光特性に基づき映像信号中のN種類の色信号をM種類の波長域に分離し、ノイズ推定部にて波長域ごとにノイズ量を所定単位面積ごとに推定し、ノイズ低減部にてノイズ量に基づき波長域ごとにノイズ低減処理を行い、識別部にてノイズ低減処理がなされた波長域中の色信号に基づき識別対象となる被写体の識別処理を行う。
従って、この(1)に記載の識別処理装置によれば、識別対象となる被写体の分光特性に基づき分割した波長域ごとにノイズ量を推定し、推定されたノイズ量に基づきノイズ低減処理を行い、ノイズ低減処理後の波長域中の色信号に基づき識別対象となる被写体の識別処理を行うことで、ノイズ低減処理後の波長域中の色信号に基づき識別処理を行うため、耐ノイズ性に優れかつ信頼性の高い識別が可能となる。
(2) 上記カラー撮像系による被写体の撮像により得た上記N種類の色信号からなる上記映像信号から、通常のカラー信号を算出する信号処理部をさらに有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(2)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1及び3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、信号処理部110が上記信号処理部に対応する。
(作用効果)
この(2)に記載の識別処理装置は、信号処理部にて映像信号から通常のカラー信号を算出する。
従って、この(2)に記載の識別処理装置によれば、映像信号から通常のカラー信号を算出することで、通常の処理がなされたカラー信号も独立に算出されるため、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。
(3) 上記識別対象となる被写体を撮像する識別モードと上記通常のカラー信号を撮像する通常モードを切り換える切換部をさらに有し、
上記分離部、上記ノイズ推定部及び上記ノイズ低減部は、上記切換部が識別モードとした場合に動作することを特徴とする(2)に記載の識別処理装置。
(対応する実施形態)
この(3)に記載の識別処理装置に関する実施形態は、第1実施形態の変形例1、第2実施形態の変形例1が対応する。それらの実施形態の変形例において、切換部125が上記切換部に対応する。
(作用効果)
この(3)に記載の識別処理装置は、切換部にて識別対象となる被写体を撮像する識別モードと通常のカラー信号を撮像する通常モードとを切り換える。
従って、この(3)に記載の識別処理装置によれば、識別モードと通常モードが切り換え可能なため、システムとしての適用性が向上し、多様な用途での利用が可能となる。
(4) 上記カラー撮像系による被写体の撮像により得た上記N種類の色信号からなる上記映像信号から、通常のカラー信号を算出するに必要な色信号を分離する第2の分離部と、
上記第2の分離部によって分離した上記色信号ごとにノイズ量を第2の所定単位面積ごとに推定する第2のノイズ推定部と、
上記第2のノイズ推定部で推定した上記ノイズ量に基づき、上記第2の分離部によって分離した上記色信号ごとにノイズ低減処理を行う第2のノイズ低減部と、
上記第2のノイズ低減部によって上記ノイズ低減処理がなされた色信号に基づき通常のカラー信号を算出する信号処理部と、
をさらに有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(4)に記載の識別処理装置に関する実施形態は、第2実施形態とその変形例2が対応する。それらの実施形態及び変形例において、一例として、第2分離部128が上記第2の分離部に、第2ノイズ推定部129が上記第2のノイズ推定部に、第2ノイズ低減部130が上記第2のノイズ低減部に、信号処理部110が上記信号処理部に、それぞれ対応する。
(作用効果)
この(4)に記載の識別処理装置は、第2の分離部にて映像信号から通常のカラー信号を算出するに必要な色信号を分離し、第2のノイズ推定部にて色信号ごとにノイズ量を第2の所定単位面積ごとに推定し、第2のノイズ低減部にてノイズ量に基づき上記色信号ごとにノイズ低減処理を行い、信号処理部にてノイズ低減処理がなされた色信号に基づき通常のカラー信号を算出する。
従って、この(4)に記載の識別処理装置によれば、映像信号から通常のカラー信号を算出するに必要な色信号ごとにノイズ量を推定し、推定されたノイズ量に基づきノイズ低減処理を行い、ノイズ低減処理後の色信号に基づき通常のカラー信号を算出することで、通常の処理がなされたカラー信号も独立に算出されるため、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。また、通常の処理がなされたカラー信号に関してもノイズ低減処理が行われるため、使用者に対する視認性を向上できる。
(5) 上記分離部は、
上記識別対象となる被写体の既知の分光特性及び上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性に基づき、各色信号の出力値を予測する予測部と、
上記予測部によって予測した上記各色信号の出力値に基づき出力値が類似する色信号を選択する選択部と、
上記選択部によって選択された色信号間の数の調整を行うことで上記M種類の波長域を確定する調整部と、
を有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(5)に記載の識別処理装置に関する実施形態は第1実施形態とその変形例1乃至3、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、予測部201が上記予測部に、選択部202が上記選択部に、調整部203が上記調整部に、それぞれ対応する。
(作用効果)
この(5)に記載の識別処理装置は、予測部にて識別対象となる被写体の既知の分光特性及びカラー撮像系に関する分光特性と撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性に基づき、各色信号の出力値を予測し、選択部にて各色信号の出力値に基づき出力値が類似する色信号を選択し、調整部にて選択された色信号間の数の調整を行うことで上記M種類の波長域を確定する。
従って、この(5)に記載の識別処理装置によれば、識別対象に関する各色信号の出力値が概ね一致する色信号を選択し、その選択結果をもとに波長域を設定するため、波長域でのノイズレベルがほぼ同一となり、高精度なノイズ低減処理が可能となる。また、選択された色信号間の数の調整を行うため、同一の処理系で複数の波長域を処理することが可能となり、システムの低コスト化が可能となる。さらに、識別対象となる被写体の既知の分光特性及びカラー撮像系に関する分光特性と撮像時に使用する照明光の分光特性とを含んだ撮像システムの分光特性に基づき波長域を算出する構成であるため、識別対象の変更やシステムの更新などに柔軟に対応することが可能となる。
(6) 上記分離部は、上記識別対象となる被写体の既知の分光特性に基づき上記波長域を出力する波長域テーブル部を有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(6)に記載の識別処理装置に関する実施形態は、第2実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、波長域テーブル部205が上記波長域テーブル部に対応する。
(作用効果)
この(6)に記載の識別処理装置は、波長域テーブル部にて識別対象となる被写体の既知の分光特性に基づき波長域を出力する。
従って、この(6)に記載の識別処理装置によれば、識別対象となる被写体の既知の分光特性に基づき設計されたテーブルを用いて波長域を求めるので、識別対象に関する各色信号の出力値が概ね一致する色信号を選択することにより波長域を設定するため、波長域でのノイズレベルがほぼ同一となり、高精度なノイズ低減処理が可能となる。また、テーブルを用いて波長域を求めるため、処理を高速化することができる。
(7) 上記ノイズ推定部は、
上記分離部によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する上記所定単位面積の画素領域を抽出する領域抽出部と、
上記領域抽出部によって抽出した上記画素領域から低周波成分を算出する低周波算出部と、
上記カラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集する収集部と、
上記収集部で得られない情報に関して標準値を付与する付与部と、
上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記低周波成分を入力として、上記注目画素群のノイズ量を出力するノイズ量出力部と、
を有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(7)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、領域抽出部211が上記領域抽出部に、低周波算出部212が上記低周波算出部に、ゲイン算出部213、制御部121が上記収集部に、標準値付与部214が上記付与部に、ノイズテーブル部215が上記ノイズ量出力部に、それぞれ対応する。
(作用効果)
この(7)に記載の識別処理装置は、領域抽出部にて波長域からノイズ低減処理を行う注目画素群を包含する所定単位面積の画素領域を抽出し、低周波算出部にて画素領域から低周波成分を算出し、収集部にてカラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集し、付与部にて収集部で得られない情報に関して標準値を付与し、ノイズ量出力部にて収集部または付与部からの情報及び低周波成分に基づき注目画素群のノイズ量を求める。
従って、この(7)に記載の識別処理装置によれば、ノイズ量に関係する各種情報を撮像ごとに動的に求め、求められない情報に関しては標準値を設定して、ノイズ量を求めるので、撮像ごとに異なる条件に動的に適応し、高精度かつ安定的なノイズ量の推定が可能となる。
(8) 上記ノイズ推定部は、
上記分離部によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する上記所定単位面積の画素領域を抽出し、更に、該抽出した画素領域から色信号毎に、当該色信号の注目画素を包含する色画素領域を抽出する領域抽出部と、
上記領域抽出部によって抽出した上記色画素領域ごとに低周波成分を算出する低周波算出部と、
上記カラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集する収集部と、
上記収集部で得られない情報に関して標準値を付与する付与部と、
上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記色画素領域の低周波成分を入力として、上記色画素領域における画素のノイズ量を得るノイズテーブル部と、
上記ノイズテーブル部によって得た各色画素領域における画素のノイズ量の平均を算出し、該算出したノイズ量を、上記画素領域に包含される上記注目画素群のノイズ量として出力する平均値算出部と、
を有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(8)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、領域抽出部211が上記領域抽出部に、低周波算出部212が上記低周波算出部に、ゲイン算出部213、制御部121が上記収集部に、標準値付与部214が上記付与部に、ノイズテーブル部215が上記ノイズテーブル部に、平均算出部216が上記平均値算出部に、それぞれ対応する。
(作用効果)
この(8)に記載の識別処理装置は、領域抽出部にて波長域からノイズ低減処理を行う注目画素群を包含する所定単位面積の画素領域を抽出し、更に、該画素領域から色信号毎に、当該色信号の注目画素を包含する色画素領域を抽出し、低周波算出部にて色画素領域から低周波成分を算出し、収集部にてカラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集し、付与部にて収集部で得られない情報に関して標準値を付与し、ノイズテーブル部にて収集部または付与部からの情報及び低周波成分を入力として、上記色画素領域における画素のノイズ量を得、平均値算出部にて上記得られた各色画素領域における画素のノイズ量の平均を算出し、該算出したノイズ量を、上記画素領域に包含される上記注目画素群のノイズ量として出力する。
従って、この(8)に記載の識別処理装置によれば、ノイズ量に関係する各種情報を撮像ごとに動的に求め、求められない情報に関しては標準値を設定し、ルックアップテーブルからノイズ量を求めるので、撮像ごとに異なる条件に動的に適応し、高精度かつ安定的なノイズ量の推定が可能となる。また、ノイズ量の算出にルックアップテーブルを用いているため、高速なノイズ量の推定が可能となる。
(9) 上記ノイズ低減部は、
上上記分離部によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する領域を抽出する領域抽出部と、
上記ノイズ推定部で推定した上記ノイズ量に基づき上記注目画素群に関するノイズ範囲を設定するノイズ範囲設定部と、
上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属する場合に、上記領域抽出部によって抽出した上記領域内の画素の値を用いて上記注目画素の平滑化処理を行う第1のスムージング部と、
上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属さない場合に補正を行う第2のスムージング部と、
を有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(9)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、領域抽出部221が上記領域抽出部に、範囲設定部222が上記ノイズ範囲設定部に、第1スムージング部224が上記第1のスムージング部に、第2スムージング部225が上記第2のスムージング部に、それぞれ対応する。
(作用効果)
この(9)に記載の識別処理装置は、領域抽出部にて波長域からノイズ低減処理を行う注目画素群を包含する領域を抽出し、ノイズ範囲設定部にてノイズ量に基づき注目画素群に関するノイズ範囲を設定し、注目画素群の値がノイズ範囲に属する場合には第1のスムージング部にて上記抽出した領域内の画素の値を用いて注目画素の平滑化処理を行い、注目画素群の値がノイズ範囲に属さない場合には第2のスムージング部にて補正を行う。
従って、この(9)に記載の識別処理装置によれば、推定した注目画素群のノイズ量に基づき注目画素群の値がノイズ範囲に属するかの判断を行い、ノイズに属する場合には平滑化処理を、ノイズに属さない場合には補正処理を行うことで、ノイズ量に基づきノイズ低減処理に関する判断を行うため、最適なノイズ低減処理が可能となる。また、ノイズ低減処理に伴う不連続性の発生を防止し、高品位な映像信号の生成を可能とする。
(10) 上記第2のノイズ推定部は、
上記第2の分離部によって分離した上記色信号からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する上記第2の所定単位面積の領域を抽出する領域抽出部と、
上記領域抽出部によって抽出した上記領域から低周波成分を算出する低周波算出部と、
上記カラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集する収集部と、
上記収集部で得られない情報に関して標準値を付与する付与部と、
上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記低周波成分を入力として、上記第2の所定単位面積の領域に包含される上記注目画素群のノイズ量を出力するノイズテーブル部と、
を有することを特徴とする(4)に記載の識別処理装置。
(対応する実施形態)
この(10)に記載の識別処理装置に関する実施形態は、第2実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、領域抽出部211、251が上記領域抽出部に、低周波算出部212、252が上記低周波算出部に、ゲイン算出部213、253、制御部121が上記収集部に、標準値付与部214、254が上記付与部に、ノイズテーブル部215、255が上記ノイズテーブル部に、それぞれ対応する。
(作用効果)
この(10)に記載の識別処理装置は、領域抽出部にて色信号からノイズ低減処理を行う注目画素群を包含する第2の所定面積の領域を抽出し、低周波算出部にて該領域から低周波成分を算出し、収集部にてカラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集し、付与部にて収集部で得られない情報に関して標準値を付与し、ノイズテーブル部にて収集部または付与部からの情報及び低周波成分を入力として、上記第2の所定単位面積の領域に包含される注目画素群のノイズ量を出力する。
従って、この(10)に記載の識別処理装置によれば、ノイズ量に関係する各種情報を撮像ごとに動的に求め、求められない情報に関しては標準値を設定し、ルックアップテーブルからノイズ量を求めるので、撮像ごとに異なる条件に動的に適応し、高精度かつ安定的なノイズ量の推定が可能となる。また、ノイズ量の算出にルックアップテーブルを用いているため、高速なノイズ量の推定が可能となる。
(11) 上記第2のノイズ低減部は、
上記第2の分離部によって分離した上記色信号からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する領域を抽出する領域抽出部と、
上記第2のノイズ推定部で推定した上記ノイズ量に基づき上記注目画素群に関するノイズ範囲を設定するノイズ範囲設定部と、
上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属する場合に、上記領域抽出部によって抽出した上記領域内の画素の値を用いて上記注目画素の平滑化処理を行う第1のスムージング部と、
上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属さない場合に補正を行う第2のスムージング部と、
を有することを特徴とする(4)に記載の識別処理装置。
(対応する実施形態)
この(11)に記載の識別処理装置に関する実施形態は、第2実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、領域抽出部221、262が上記領域抽部に、範囲設定部222、261が上記ノイズ範囲設定部に、第1スムージング部224、264が上記第1のスムージング部に、第2スムージング部225、265が上記第2のスムージング部に、それぞれ対応する。
(作用効果)
この(11)に記載の識別処理装置は、領域抽出部にて色信号からノイズ低減処理を行う注目画素群を包含する領域を抽出し、ノイズ範囲設定部にてノイズ量に基づき注目画素群に関するノイズ範囲を設定し、注目画素群がノイズ範囲に属する場合には第1のスムージング部にて上記抽出した領域内の画素の値を用いて注目画素の平滑化処理を行い、注目画素群がノイズ範囲に属さない場合には第2のスムージング部にて補正を行う。
従って、この(11)に記載の識別処理装置によれば、推定した注目画素群のノイズ量に基づき注目画素群の値がノイズ範囲に属するかの判断を行い、ノイズに属する場合には平滑化処理を、ノイズに属さない場合には補正処理を行うことで、ノイズ量に基づきノイズ低減処理に関する判断を行うため、最適なノイズ低減処理が可能となる。また、ノイズ低減処理に伴う不連続性の発生を防止し、高品位な映像信号の生成を可能とする。
(12) 上記識別部は、
上記識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルを取得する基底ベクトル取得部と、
上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光の分光特性とを含んだ撮像システムの分光特性を取得するシステム分光特性取得部と、
上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号、上記基底ベクトル取得部によって取得した上記専用基底ベクトル及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記専用基底ベクトルに関する重み係数を算出する算出部と、
上記算出部で算出した上記専用基底ベクトルに関する重み係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
を有することを特徴とする(1)に記載の識別処理装置。
(対応する実施形態)
この(12)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、基底ベクトルROM118、データ選択部231が上記基底ベクトル取得部に、システム分光特性ROM119、データ選択部231が上記システム分光特性取得部に、算出部115が上記算出部に、疑似カラー化部116が上記出力信号算出部に、それぞれ対応する。
(作用効果)
この(12)に記載の識別処理装置は、基底ベクトル取得部にて識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルを取得し、システム分光特性取得部にてカラー撮像系に関する分光特性と撮像時に使用する照明光の分光特性とを含んだ撮像システムの分光特性を取得し、算出部にてノイズ低減処理がなされた波長中の色信号、専用基底ベクトル及び撮像システムの分光特性に基づき、専用基底ベクトルに関する重み係数を算出し、出力信号算出部にて専用基底ベクトルに関する重み係数に基づき出力信号を算出する。なお、取得とは、記録媒体から読み出すことやネットワークを介して読み込むことなどを意味する。
従って、この(12)に記載の識別処理装置によれば、識別対象となる既知の被写体の分光特性に基づく専用基底ベクトル及びカラー撮像系に関する分光特性と撮像時に使用する照明光の分光特性とを含んだ撮像システムの分光特性から専用基底ベクトルに関する重み係数を算出し、重み係数に基づき出力信号を算出することで、識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルを用いるため、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、専用基底ベクトルに関する重み係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。
(13) 上記算出部は、
上記基底ベクトル取得部によって取得した上記識別対象となる被写体の既知の分光特性に基づく上記専用基底ベクトル及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記撮像システムに関するシステム行列を算出する行列算出部と、
上記行列算出部で算出した上記システム行列の逆行列を算出する逆行列算出部と、
上記逆行列算出部で算出した上記システム行列の逆行列の係数から、上記識別対象となる被写体の既知の分光特性に基づく上記専用基底ベクトルに関係する係数を選択する係数選択部と、
上記係数選択部で選択された上記係数及び上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号に基づき、上記識別対象となる被写体の既知の分光特性に基づく上記専用基底ベクトルに関する重み係数を算出する乗加算部と、
を有することを特徴とする(12)に記載の識別処理装置。
(対応する実施形態)
この(13)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、データ選択部231、積算部232が上記行列算出部に、逆行列算出部234が上記逆行列算出部に、係数選択部236が上記係数選択部に、乗加算部237が上記乗加算部に、それぞれ対応する。
(作用効果)
この(13)に記載の識別処理装置は、行列算出部にて専用基底ベクトル及び撮像システムの分光特性に基づき撮像システムに関するシステム行列を算出し、逆行列算出部にてシステム行列の逆行列を算出し、係数選択部にてシステム行列の逆行列の係数から専用基底ベクトルに関係する係数を選択し、乗加算部にて選択された係数及びノイズ低減された波長域中の色信号に基づき重み係数を算出する。
従って、この(13)に記載の識別処理装置によれば、専用基底ベクトル及び撮像システムの分光特性に基づくシステム行列の逆行列を算出し、この逆行列から専用基底ベクトルに関係する係数を選択し、選択された係数及びノイズ低減された波長域中の色信号に基づき専用基底ベクトルに関する重み係数を算出することで、識別対象となる被写体の既知の分光特性及び撮像システムの分光特性に基づく信号処理にて専用基底ベクトル、すなわち識別対象に関する重み係数を算出するため、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。
(14) 上記識別部は、
上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性及び上記カラー撮像系による被写体の撮像時に使用する照明光の分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号との間の相関性を示す導出係数を取得する導出係数取得部と、
上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号及び上記導出係数取得部によって取得した上記導出係数に基づき、上記識別対象となる被写体の上記既知の分光特性と上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号との間の相関係数を算出する相関係数算出部と、
上記相関係数算出部によって算出した上記相関係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
を有する(1)に記載の識別処理装置。
(対応する実施形態)
この(14)に記載の識別処理装置に関する実施形態は、第3実施形態とその変形例1が対応する。その実施形態及び変形例において、一例として、導出係数ROM133、係数選択部271が上記導出係数取得部に、相関係数算出部132が上記相関係数算出部に、疑似カラー化部116が上記出力信号算出部に、それぞれ対応する。
(作用効果)
この(14)に記載の識別処理装置は、導出係数取得部にて識別対象となる被写体の既知の分光特性、カラー撮像系に関する分光特性及び撮像時に使用する照明光の分光特性に基づき算出された、識別対象となる被写体の既知の分光特性とノイズ低減処理がなされた波長域中の色信号との間の相関性を示す導出係数を取得し、相関係数算出部にてノイズ低減された波長域中の色信号及び導出係数に基づき識別対象となる被写体の既知の分光特性と色信号との間の相関係数を算出し、出力信号算出部にて相関係数に基づき出力信号を算出する。なお、取得とは、記録媒体から読み出すことやネットワークを介して読み込むことなどを意味する。
従って、この(14)に記載の識別処理装置によれば、識別対象となる被写体の既知の分光特性とノイズ低減処理がなされた波長域中の色信号との間の相関性を導出する導出係数から相関係数を算出し、相関係数に基づき出力信号を算出するので、識別対象となる被写体の既知の分光特性に基づく導出係数を用いるため、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、導出係数からの相関係数の算出は容易であり、かつ相関係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。
(15) 上記Nが4以上、上記Mが2以上であることを特徴とする(1)又は(2)に記載の識別処理装置。
(対応する実施形態)
この(15)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。
(作用効果)
この(15)に記載の識別処理装置は、映像信号を構成する色信号が4種類以上で構成され、分離する波長域が複数である。
従って、この(15)に記載の識別処理装置によれば、映像信号を構成する色信号が4種類以上であるので、複数の波長域に分離する場合に、各波長域が複数の色信号から構成されることが可能となり、使用する画素の間隔が密になり、ノイズ低減処理の効果を向上することができる。
(16) 上記信号処理部で使用される色信号の分光特性は、上記信号処理部で使用されない色信号の分光特性より広帯域に設定されていることを特徴とする(2)又は(4)に記載の識別処理装置。
(対応する実施形態)
この(16)に記載の識別処理装置に関する実施形態は、第1実施形態とその変形例1乃至3、第2実施形態とその変形例1及び2、第3実施形態とその変形例1が対応する。
(作用効果)
この(16)に記載の識別処理装置は、映像信号を構成する色信号が図2(B)に示されるように、信号処理部で使用される色信号の分光特性が、該信号処理部で使用されない色信号の分光特性より、広帯域に設定されている。
従って、この(16)に記載の識別処理装置によれば、通常のカラー信号を算出するに必要な色信号の分光特性を他の色信号の分光特性より広帯域に設定することで、通常のカラー信号を算出するに必要な色信号のノイズが減少するため、高品位な映像信号が得られる。また、必要に応じて通常のカラー信号を算出過程でのノイズ低減処理を省略することにより、システムの低コスト化が可能となる。
(17) 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、N(但し、Nは2以上の自然数)種類の色信号からなる映像信号を取得するステップと、
上記取得したN種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離する分離ステップと、
上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定するステップと、
上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行うステップと、
上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行うステップと、
をコンピュータに発揮させることを特徴とする識別処理プログラム。
(対応する実施形態)
この(17)に記載の識別処理プログラムに関する実施形態は、第1実施形態の変形例4、第2実施形態の変形例3、第3実施形態の変形例2が対応する。それらの変形例において、一例として、ステップS101が上記映像信号を取得するステップに、ステップS110が上記分離するステップに、ステップS112が上記ノイズ量を推定するステップに、ステップS113が上記ノイズ低減処理を行うステップに、ステップS117、ステップS118、ステップS126が上記識別処理を行うステップに、それぞれ対応する。
(作用効果)
この(17)に記載の識別処理プログラムは、コンピュータに、識別対象となる被写体の既知の分光特性に基づき映像信号中のN種類の色信号をM種類の波長域に分離させ、波長域ごとにノイズ量を所定単位面積ごとに推定させ、ノイズ量に基づき波長域ごとにノイズ低減処理を行わせ、ノイズ低減処理がなされた波長域中の色信号に基づき識別対象となる被写体の識別処理を行わせる。
従って、この(17)に記載の識別処理プログラムによれば、識別対象となる被写体の分光特性に基づき分割した波長域ごとにノイズ量を推定し、推定されたノイズ量に基づきノイズ低減処理を行い、ノイズ低減処理後の波長域中の色信号に基づき識別対象となる被写体の識別処理を行うことで、ノイズ低減処理後の波長域中の色信号に基づき識別処理を行うため、耐ノイズ性に優れかつ信頼性の高い識別が可能となる。
(18) 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、N(但し、Nは2以上の自然数)種類の色信号からなる映像信号を取得し、
上記取得したN種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離し、
上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定し、
上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行い、
上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う、
ことを特徴とする識別処理方法。
(対応する実施形態)
この(18)に記載の識別処理方法に関する実施形態は、第1実施形態とその変形例1乃至4、第2実施形態とその変形例1乃至3、第3実施形態とその変形例1及び2が対応する。
(作用効果)
この(18)に記載の識別処理方法は、識別対象となる被写体の既知の分光特性に基づき映像信号中のN種類の色信号をM種類の波長域に分離し、波長域ごとにノイズ量を所定単位面積ごとに推定し、ノイズ量に基づき波長域ごとにノイズ低減処理を行い、ノイズ低減処理がなされた波長域中の色信号に基づき識別対象となる被写体の識別処理を行う。
従って、この(18)に記載の識別処理方法によれば、識別対象となる被写体の分光特性に基づき分割した波長域ごとにノイズ量を推定し、推定されたノイズ量に基づきノイズ低減処理を行い、ノイズ低減処理後の波長域中の色信号に基づき識別対象となる被写体の識別処理を行うことで、ノイズ低減処理後の波長域中の色信号に基づき識別処理を行うため、耐ノイズ性に優れかつ信頼性の高い識別が可能となる。
図1は、本発明の第1実施形態に係る識別処理装置を適用した内視鏡の構成を示す図である。 図2(A)は、6種類のカラーフィルタを備えるフィルタの構成を示す図であり、図2(B)は、図2(A)の各カラーフィルタの分光特性の一例を示す図であり、図2(C)は、図2(A)の各カラーフィルタの分光特性の別の例を示す図である。 図3は、分離部の構成の一例を示す図である。 図4(A)は、オキシヘモグロビン及びデオキシヘモグロビンの分光反射率特性を示す図であり、図4(B)は、基底ベクトルの一例を示す図である。 図5(A)は、光源の分光輝度特性を示す図であり、図5(B)は、カラー撮像系の分光感度特性を示す図である。 図6は、ノイズ推定部の構成の一例を示す図である。 図7(A)は、ノイズ低減の基本ブロックとしての単位ブロックの一例を示す図であり、図7(B)は、注目画素群を包含する所定単位面積の画素領域の一例を示す図である。 図8(A)は、ノイズ低減の基本ブロックとしての単位ブロックの別の例を示す図であり、図8(B)は、注目画素群を包含する所定単位面積の画素領域の別の例を示す図である。 図9は、ノイズ低減部の構成の一例を示す図である。 図10は、算出部の構成の一例を示す図である。 図11は、第1実施形態の変形例1に係る識別処理装置の構成を示す図である。 図12は、第1実施形態の変形例2に係る識別処理装置の構成を示す図である。 図13は、第1実施形態の変形例3に係る識別処理装置の構成を示す図である。 図14は、第1実施形態の変形例4における信号処理のソフトウェア処理に関するフローチャートを示す図である。 図15(A)は、算出処理に関するフローチャートを示す図であり、図15(B)は、分離処理に関するフローチャートを示す図であり、図15(C)は、ノイズ推定処理に関するフローチャートを示す図であり、図15(D)は、ノイズ低減処理に関するフローチャートを示す図である。 図16は、本発明の第2実施形態に係る識別処理装置を適用した内視鏡の構成を示す図である。 図17(A)は、4種類のカラーフィルタでなるフィルタの構成を示す図であり、図17(B)は、図17(A)の各カラーフィルタの分光特性を示す図である。 図18は、分離部の構成の一例を示す図である。 図19は、基底ベクトルの一例を示す図である。 図20(A)は、識別対象がオキシヘモグロビンの場合のノイズ低減の基本ブロックとしての単位ブロックの一例を示す図であり、図20(B)は、識別対象がオキシヘモグロビンの場合の注目画素群を包含する所定単位面積の画素領域の一例を示す図であり、図20(C)は、識別対象がコラーゲンの場合のノイズ低減の基本ブロックとしての単位ブロックの一例を示す図であり、図20(D)は、識別対象がコラーゲンの場合の注目画素群を包含する所定単位面積の画素領域の一例を示す図である。 図21(A)は、第2分離部の構成の一例を示す図であり、図21(B)は、第2ノイズ推定部の構成の一例を示す図であり、図21(C)は、第2ノイズ低減部の構成の一例を示す図である。 図22(A)は、通常カラー信号のノイズ低減の基本ブロックの一例を示す図であり、図22(B)は、注目画素群を包含する第2の所定単位面積の領域の一例を示す図である。 図23は、第2実施形態の変形例1に係る識別処理装置を適用した内視鏡の構成を示す図である。 図24は、第2実施形態の変形例3における信号処理のソフトウェア処理に関するフローチャートを示す図である。 図25(A)は、分離処理に関するフローチャートを示す図であり、図25(B)は、第2分離処理に関するフローチャートを示す図であり、図25(C)は、第2ノイズ推定処理に関するフローチャートを示す図であり、図25(D)は、第2ノイズ低減処理に関するフローチャートを示す図である。 図26は、本発明の第3実施形態に係る識別処理装置を適用した顕微鏡の構成を示す図である。 図27は、相関係数算出部の構成の一例を示す図である。 図28は、第3実施形態の変形例1に係る識別処理装置を適用した顕微鏡の構成を示す図である。 図29(A)は、強調部の構成の一例を示す図であり、図29(B)は、強調関数ROMに記録されている強調用のゲインテーブルの一例を示す図である。 図30(A)は、第3実施形態の変形例2における信号処理のソフトウェア処理に関するフローチャートを示す図であり、図30(B)は、相関係数算出処理に関するフローチャートを示す図である。
符号の説明
100…撮像レンズ系、 101…CCD、 102…照明レンズ系、 103…照明光源、 104…光ファイバ、 105…増幅部、 106…A/D、 107,233,235,282…バッファ、 108…WB部、 109…測光評価部、 110…信号処理部、 111…分離部、 112…ノイズ推定部、 113…ノイズ低減部、 114…補間部、 115…算出部、 116…疑似カラー化部、 117…第1出力部、 118…基底ベクトルROM、 119…システム分光特性ROM、 120…第2出力部、 121…制御部、 122…I/F部、 123,131…フィルタ、 124…注目画素群、 125…切換部、 126…入力部、 127…ヘッダ情報解析部、 128…第2分離部、 129…第2ノイズ推定部、 130…第2ノイズ低減部、 132…相関係数算出部、 133…導出係数ROM、 134…強調部、 201…予測部、 202…選択部、 203…調整部、 204…波長域分離部、 205…波長域テーブル部、 211,221,251,261…領域抽出部、 212,252…低周波算出部、 213,253…ゲイン算出部、 214,254…標準値付与部、 215,255…ノイズテーブル部、 216…平均算出部、 222,262…範囲設定部、 223,263…切り換え部、 224,264…第1スムージング部、 225,265…第2スムージング部、 231…データ選択部、 232…積算部、 234…逆行列算出部、 236,271…係数選択部、 237,272…乗加算部、 241…フィルタテーブル部、 242…色信号分離部、 281…輝度色差分離部、 283…強調ゲイン算出部、 284…強調関数ROM、 285…ゲイン乗算部、 286…輝度色差合成部。

Claims (18)

  1. 識別対象となる被写体の既知の分光特性に基づき、カラー撮像系による被写体の撮像により得た映像信号を構成するN(但し、Nは2以上の自然数)種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離する分離部と、
    上記分離部によって分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定するノイズ推定部と、
    上記ノイズ推定部で推定した上記ノイズ量に基づき、上記分離部によって分離した上記波長域ごとにノイズ低減処理を行うノイズ低減部と、
    上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う識別部と、
    を有することを特徴とする識別処理装置。
  2. 上記カラー撮像系による被写体の撮像により得た上記N種類の色信号からなる上記映像信号から、通常のカラー信号を算出する信号処理部をさらに有することを特徴とする請求項1に記載の識別処理装置。
  3. 上記識別対象となる被写体を撮像する識別モードと上記通常のカラー信号を撮像する通常モードを切り換える切換部をさらに有し、
    上記分離部、上記ノイズ推定部及び上記ノイズ低減部は、上記切換部が識別モードとした場合に動作することを特徴とする請求項2に記載の識別処理装置。
  4. 上記カラー撮像系による被写体の撮像により得た上記N種類の色信号からなる上記映像信号から、通常のカラー信号を算出するに必要な色信号を分離する第2の分離部と、
    上記第2の分離部によって分離した上記色信号ごとにノイズ量を第2の所定単位面積ごとに推定する第2のノイズ推定部と、
    上記第2のノイズ推定部で推定した上記ノイズ量に基づき、上記第2の分離部によって分離した上記色信号ごとにノイズ低減処理を行う第2のノイズ低減部と、
    上記第2のノイズ低減部によって上記ノイズ低減処理がなされた色信号に基づき通常のカラー信号を算出する信号処理部と、
    をさらに有することを特徴とする請求項1に記載の識別処理装置。
  5. 上記分離部は、
    上記識別対象となる被写体の既知の分光特性及び上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性に基づき、各色信号の出力値を予測する予測部と、
    上記予測部によって予測した上記各色信号の出力値に基づき出力値が類似する色信号を選択する選択部と、
    上記選択部によって選択された色信号間の数の調整を行うことで上記M種類の波長域を確定する調整部と、
    を有することを特徴とする請求項1に記載の識別処理装置。
  6. 上記分離部は、上記識別対象となる被写体の既知の分光特性に基づき上記波長域を出力する波長域テーブル部を有することを特徴とする請求項1に記載の識別処理装置。
  7. 上記ノイズ推定部は、
    上記分離部によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する上記所定単位面積の画素領域を抽出する領域抽出部と、
    上記領域抽出部によって抽出した上記画素領域から低周波成分を算出する低周波算出部と、
    上記カラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集する収集部と、
    上記収集部で得られない情報に関して標準値を付与する付与部と、
    上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記低周波成分を入力として、上記注目画素群のノイズ量を出力するノイズ量出力部と、
    を有することを特徴とする請求項1に記載の識別処理装置。
  8. 上記ノイズ推定部は、
    上記分離部によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する上記所定単位面積の画素領域を抽出し、更に、該抽出した画素領域から色信号毎に、当該色信号の注目画素を包含する色画素領域を抽出する領域抽出部と、
    上記領域抽出部によって抽出した上記色画素領域ごとに低周波成分を算出する低周波算出部と、
    上記カラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集する収集部と、
    上記収集部で得られない情報に関して標準値を付与する付与部と、
    上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記色画素領域の低周波成分を入力として、上記色画素領域における画素のノイズ量を得るノイズテーブル部と、
    上記ノイズテーブル部によって得た各色画素領域における画素のノイズ量の平均を算出し、該算出したノイズ量を、上記画素領域に包含される上記注目画素群のノイズ量として出力する平均値算出部と、
    を有することを特徴とする請求項1に記載の識別処理装置。
  9. 上記ノイズ低減部は、
    上記分離部によって分離した上記波長域からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する領域を抽出する領域抽出部と、
    上記ノイズ推定部で推定した上記ノイズ量に基づき上記注目画素群に関するノイズ範囲を設定するノイズ範囲設定部と、
    上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属する場合に、上記領域抽出部によって抽出した上記領域内の画素の値を用いて上記注目画素の平滑化処理を行う第1のスムージング部と、
    上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属さない場合に補正を行う第2のスムージング部と、
    を有することを特徴とする請求項1に記載の識別処理装置。
  10. 上記第2のノイズ推定部は、
    上記第2の分離部によって分離した上記色信号からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する上記第2の所定単位面積の領域を抽出する領域抽出部と、
    上記領域抽出部によって抽出した上記領域から低周波成分を算出する低周波算出部と、
    上記カラー撮像系に関する温度値及び上記映像信号に対するゲイン値に関する情報を収集する収集部と、
    上記収集部で得られない情報に関して標準値を付与する付与部と、
    上記収集部または上記付与部からの情報及び上記低周波算出部によって算出した上記低周波成分を入力として、上記第2の所定単位面積の領域に包含される上記注目画素群のノイズ量を出力するノイズテーブル部と、
    を有することを特徴とする請求項4に記載の識別処理装置。
  11. 上記第2のノイズ低減部は、
    上記第2の分離部によって分離した上記色信号からノイズ低減処理を行う各色信号の注目画素でなる注目画素群を包含する領域を抽出する領域抽出部と、
    上記第2のノイズ推定部で推定した上記ノイズ量に基づき上記注目画素群に関するノイズ範囲を設定するノイズ範囲設定部と、
    上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属する場合に、上記領域抽出部によって抽出した上記領域内の画素の値を用いて上記注目画素の平滑化処理を行う第1のスムージング部と、
    上記領域抽出部によって抽出した上記領域の上記注目画素群の値が上記ノイズ範囲設定部によって設定した上記ノイズ範囲に属さない場合に補正を行う第2のスムージング部と、
    を有することを特徴とする請求項4に記載の識別処理装置。
  12. 上記識別部は、
    上記識別対象となる被写体の既知の分光特性に基づく専用基底ベクトルを取得する基底ベクトル取得部と、
    上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光の分光特性とを含んだ撮像システムの分光特性を取得するシステム分光特性取得部と、
    上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号、上記基底ベクトル取得部によって取得した上記専用基底ベクトル及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記専用基底ベクトルに関する重み係数を算出する算出部と、
    上記算出部で算出した上記専用基底ベクトルに関する重み係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
    を有することを特徴とする請求項1に記載の識別処理装置。
  13. 上記算出部は、
    上記基底ベクトル取得部によって取得した上記識別対象となる被写体の既知の分光特性に基づく上記専用基底ベクトル及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記撮像システムに関するシステム行列を算出する行列算出部と、
    上記行列算出部で算出した上記システム行列の逆行列を算出する逆行列算出部と、
    上記逆行列算出部で算出した上記システム行列の逆行列の係数から、上記識別対象となる被写体の既知の分光特性に基づく上記専用基底ベクトルに関係する係数を選択する係数選択部と、
    上記係数選択部で選択された上記係数及び上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号に基づき、上記識別対象となる被写体の既知の分光特性に基づく上記専用基底ベクトルに関する重み係数を算出する乗加算部と、
    を有することを特徴とする請求項12に記載の識別処理装置。
  14. 上記識別部は、
    上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性及び上記カラー撮像系による被写体の撮像時に使用する照明光の分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号との間の相関性を示す導出係数を取得する導出係数取得部と、
    上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号及び上記導出係数取得部によって取得した上記導出係数に基づき、上記識別対象となる被写体の上記既知の分光特性と上記ノイズ低減部によって上記ノイズ低減処理がなされた波長域中の色信号との間の相関係数を算出する相関係数算出部と、
    上記相関係数算出部によって算出した上記相関係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
    を有する請求項1に記載の識別処理装置。
  15. 上記Nが4以上、上記Mが2以上であることを特徴とする請求項1又は2に記載の識別処理装置。
  16. 上記信号処理部で使用される色信号の分光特性は、上記信号処理部で使用されない色信号の分光特性より広帯域に設定されていることを特徴とする請求項2又は4に記載の識別処理装置。
  17. 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、N(但し、Nは2以上の自然数)種類の色信号からなる映像信号を取得するステップと、
    上記取得したN種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離する分離ステップと、
    上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定するステップと、
    上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行うステップと、
    上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行うステップと、
    をコンピュータに発揮させることを特徴とする識別処理プログラム。
  18. 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、N(但し、Nは2以上の自然数)種類の色信号からなる映像信号を取得し、
    上記取得したN種類の色信号をM(但し、Mは1以上の自然数、M≦N)種類の波長域に分離し、かつ少なくとも1つの波長域は複数の色信号を含むように分離し、
    上記分離した上記波長域ごとにノイズ量を所定単位面積ごとに推定し、
    上記推定した上記ノイズ量に基づき、上記分離した上記波長域ごとにノイズ低減処理を行い、
    上記ノイズ低減処理がなされた波長域中の色信号に基づき上記識別対象となる被写体の識別処理を行う、
    ことを特徴とする識別処理方法。
JP2008306464A 2008-12-01 2008-12-01 識別処理装置、識別処理プログラム及び識別処理方法 Active JP5087529B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008306464A JP5087529B2 (ja) 2008-12-01 2008-12-01 識別処理装置、識別処理プログラム及び識別処理方法
US12/628,280 US8396289B2 (en) 2008-12-01 2009-12-01 Discrimination apparatus, discrimination method and program recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008306464A JP5087529B2 (ja) 2008-12-01 2008-12-01 識別処理装置、識別処理プログラム及び識別処理方法

Publications (2)

Publication Number Publication Date
JP2010130636A JP2010130636A (ja) 2010-06-10
JP5087529B2 true JP5087529B2 (ja) 2012-12-05

Family

ID=42330630

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008306464A Active JP5087529B2 (ja) 2008-12-01 2008-12-01 識別処理装置、識別処理プログラム及び識別処理方法

Country Status (2)

Country Link
US (1) US8396289B2 (ja)
JP (1) JP5087529B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2453376B1 (en) * 2010-11-15 2019-02-20 Fujifilm Corporation Medical image recording/reproducing apparatus, medical image recording/reproducing method and program
JP5485215B2 (ja) * 2011-04-01 2014-05-07 富士フイルム株式会社 内視鏡装置
JP6076970B2 (ja) * 2011-06-21 2017-02-08 フロント、ストリート、インベストメント、マネジメント、インコーポレイテッド、アズ、マネジャー、フォー、フロント、ストリート、ダイバーシファイド、インカム、クラスFront Street Investment Management Inc., As Manager For Front Street Diversified Income Class 3次元画像情報を生成する方法および装置
JP5355820B2 (ja) * 2011-09-20 2013-11-27 オリンパスメディカルシステムズ株式会社 画像処理装置及び内視鏡システム
KR101459034B1 (ko) 2013-07-11 2014-11-07 숭실대학교산학협력단 영상 처리 시스템 및 방법
JP2018108173A (ja) * 2016-12-28 2018-07-12 ソニー株式会社 医療用画像処理装置、医療用画像処理方法、プログラム
US10397551B2 (en) * 2017-07-26 2019-08-27 Symbol Technologies, Llc Temperature compensation for image acquisition and processing apparatus and methods

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2319390B1 (en) 2000-07-21 2016-04-20 Olympus Corporation Endoscope apparatus
US7172553B2 (en) 2001-05-16 2007-02-06 Olympus Corporation Endoscope system using normal light and fluorescence
JP2003093336A (ja) 2001-09-26 2003-04-02 Toshiba Corp 電子内視鏡装置
JP2003284084A (ja) * 2002-03-20 2003-10-03 Sony Corp 画像処理装置および方法、並びに画像処理装置の製造方法
US7463287B2 (en) * 2002-07-29 2008-12-09 Fujifilm Corporation Solid-state image pick-up device and image pick-up apparatus capable of distinguishing a photographing light source type
JP3934506B2 (ja) 2002-08-06 2007-06-20 オリンパス株式会社 撮像システムおよび画像処理プログラム
WO2005046248A1 (ja) * 2003-11-11 2005-05-19 Olympus Corporation マルチスペクトル画像撮影装置
JP4547223B2 (ja) * 2004-09-28 2010-09-22 オリンパス株式会社 撮像システム、ノイズ低減処理装置及び撮像処理プログラム
JP4647346B2 (ja) * 2005-03-04 2011-03-09 富士フイルム株式会社 内視鏡装置
JP2006314557A (ja) * 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
JP2006325974A (ja) * 2005-05-26 2006-12-07 Olympus Medical Systems Corp 生体観測装置
WO2006120795A1 (ja) * 2005-05-13 2006-11-16 Olympus Medical Systems Corp. 生体観測装置
JP4959237B2 (ja) * 2006-06-22 2012-06-20 オリンパス株式会社 撮像システム及び撮像プログラム
JP4930109B2 (ja) * 2007-03-06 2012-05-16 ソニー株式会社 固体撮像装置、撮像装置

Also Published As

Publication number Publication date
US8396289B2 (en) 2013-03-12
US20100195904A1 (en) 2010-08-05
JP2010130636A (ja) 2010-06-10

Similar Documents

Publication Publication Date Title
JP4427001B2 (ja) 画像処理装置、画像処理プログラム
JP5087529B2 (ja) 識別処理装置、識別処理プログラム及び識別処理方法
JP4717103B2 (ja) 信号処理システム及び信号処理プログラム
JP5389380B2 (ja) 信号処理システム及び信号処理プログラム
JP4837503B2 (ja) 画像処理システム、画像処理プログラム
JP3899118B2 (ja) 撮像システム、画像処理プログラム
JP4465002B2 (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム。
JP3934597B2 (ja) 撮像システムおよび画像処理プログラム
JP4837365B2 (ja) 画像処理システム、画像処理プログラム
JP3762725B2 (ja) 撮像システムおよび画像処理プログラム
JP5034003B2 (ja) 画像処理装置
JP4660342B2 (ja) 画像処理システム、画像処理プログラム
WO2006004151A1 (ja) 信号処理システム及び信号処理プログラム
WO2008056565A1 (fr) Système d'analyse d'image et programme de traitement d'image
JP5165300B2 (ja) 映像処理装置および映像処理プログラム
US7916187B2 (en) Image processing apparatus, image processing method, and program
JP2006101006A (ja) 撮像システム、ノイズ低減処理装置及び撮像処理プログラム
JP2009105576A (ja) 画像処理装置及び方法、及び撮像装置
JP2009297133A (ja) 内視鏡画像処理装置および方法
JP2009100207A (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120821

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120910

R151 Written notification of patent or utility model registration

Ref document number: 5087529

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250