JP2010022595A - 信号処理システム及び信号処理プログラム - Google Patents

信号処理システム及び信号処理プログラム Download PDF

Info

Publication number
JP2010022595A
JP2010022595A JP2008187692A JP2008187692A JP2010022595A JP 2010022595 A JP2010022595 A JP 2010022595A JP 2008187692 A JP2008187692 A JP 2008187692A JP 2008187692 A JP2008187692 A JP 2008187692A JP 2010022595 A JP2010022595 A JP 2010022595A
Authority
JP
Japan
Prior art keywords
unit
signal
color
subject
spectral characteristics
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008187692A
Other languages
English (en)
Other versions
JP4717103B2 (ja
Inventor
Takeo Tsuruoka
建夫 鶴岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2008187692A priority Critical patent/JP4717103B2/ja
Priority to US12/504,202 priority patent/US8532376B2/en
Priority to EP09009352.7A priority patent/EP2146320B1/en
Publication of JP2010022595A publication Critical patent/JP2010022595A/ja
Application granted granted Critical
Publication of JP4717103B2 publication Critical patent/JP4717103B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/92
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Color Television Image Signal Generators (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)

Abstract

【課題】既知の分光特性を有する被写体を映像信号から信頼性高く識別すること。
【解決手段】算出部113は、例えば基底ベクトルROM114より、分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得し、システム分光特性ROM115より、上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性とを取得し、上記カラー撮像系で得た複数の色信号からなる映像信号と、上記基底ベクトル及び上記撮像システムの分光特性とから、上記基底ベクトルに関する重み係数を所定の波長域ごとに独立に算出し、正規化部116及び疑似カラー化部117は、その重み係数に基づき上記識別対象となる被写体の識別結果としての出力信号を算出して、第1出力部118より出力する。
【選択図】 図1

Description

本発明は、被写体の識別を行う信号処理システム及びコンピュータにそのような信号処理システムの手順を実行させる信号処理プログラムに関する。
特許文献1には、広帯域光を観察光として用いて、信号処理にて特定の狭帯域の映像信号を算出する例が開示されている。これにより、ノイズの少ない高品位な狭帯域の映像信号が得られ、血管などの特定の分光特性を有する被写体を識別して、表示モニタに表示出力することで、その識別対象被写体の観察が容易となる。
特開2003−93336号公報
上記特許文献1に開示されている技術では、広帯域の通常光を用いるため照度が高く、ノイズの少ない高品位な映像信号が得られる。しかしながら、得られた映像信号から信号処理により狭帯域の信号を生成する過程で最小自乗法に基づく近似を行うため、負の感度特性という本来はあり得ない結果が発生するなど、信号処理に起因する誤差が生じてしまう。このため、識別対象の被写体の識別結果の信頼性が低いという課題がある。
本発明は、上記の点に鑑みてなされたもので、高い信頼性を持って識別対象の被写体を識別することを可能とする信号処理システム及び信号処理プログラムを提供することを目的とする。
本発明の信号処理システムの一態様は、
分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得する基底ベクトル取得部と、
上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離する分離部と、
上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を取得するシステム分光特性取得部と、
上記分離部にて分離した上記複数の波長域の映像信号、上記基底ベクトル取得部によって取得した上記基底ベクトル、及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記基底ベクトルに関する重み係数を上記波長域ごとに算出する算出部と、
上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
を有する。
また、本発明の信号処理システムの別の態様は、
分光特性が既知である識別対象となる被写体を含む被写体の撮像に供するカラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離する分離部と、
上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性、及び上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と各波長域の映像信号との間の相関性を示す導出係数を、上記波長域ごとに取得する導出係数取得部と、
上記分離部にて分離した上記複数の波長域の映像信号及び上記導出係数取得部によって取得した導出係数に基づき、上記波長域ごとに、上記識別対象となる被写体の上記既知の分光特性と当該波長域の映像信号との間の相関係数を算出する相関係数算出部と、
上記相関係数算出部によって算出した上記波長域ごとの相関係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
を有する。
また、本発明の信号処理プログラムの一態様は、
分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、複数の色信号からなる映像信号を取得するステップと、
上記識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得するステップと、
上記取得した映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離するステップと、
上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を取得するステップと、
上記分離した上記複数の波長域の映像信号、上記取得した上記基底ベクトル、及び上記取得した上記撮像システムの分光特性に基づき、上記基底ベクトルに関する重み係数を上記波長域ごとに算出するステップと、
上記算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出するステップと、
をコンピュータに発揮させる。
また、本発明の信号処理プログラムの別の態様は、
分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、複数の色信号からなる映像信号を取得するステップと、
上記取得した映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離するステップと、
上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性、及び上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と各波長域の映像信号との間の相関性を示す導出係数を、上記波長域ごとに取得するステップと、
上記分離した上記複数の波長域の映像信号及び上記取得した導出係数に基づき、上記波長域ごとに、上記識別対象となる被写体の上記既知の分光特性と当該波長域の映像信号との間の相関係数を算出するステップと、
上記算出した上記波長域ごとの相関係数に基づき、上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出するステップと、
をコンピュータに発揮させる。
これらの態様によれば、例えば、識別対象となる被写体を含む被写体を撮像して得た映像信号から上記識別対象の被写体を識別する際に、例えば、その識別対象の被写体の既知である分光特性に基づいて算出されている基底ベクトルもしくは導出係数を用いることで、上記識別対象の被写体の存在に比例した値をとる重み係数もしくは相関係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行うことなく、高い信頼性を持って識別対象被写体を識別することが可能な信号処理システム及び信号処理プログラムを提供することができる。
本発明によれば、高い信頼性を持って識別対象被写体を識別することを可能とする信号処理システム及び信号処理プログラムを提供することができる。
以下、本発明を実施するための最良の形態を図面を参照して説明する。
[第1実施形態]
(構成)
図1は、本発明の第1実施形態に係る信号処理システムを適用した内視鏡の構成を示す図である。なお、図中、太い実線の矢印は映像信号の方向を示し、細い実線の矢印は制御信号の方向を示し、破線の矢印はその他の信号の方向を示している(他の図においても同様である)。
被検体の体内に挿入される内視鏡の先端部には、カラー撮像系としての撮像レンズ系100及びCCD101と照明レンズ系102とが配され、例えば内視鏡後端側に配された照明光源103からの照明光が光ファイバ104を経由して導かれ、上記照明レンズ系102を介して図示しない被写体に対して照射されるようになっている。こうして照明された被写体を上記CCD101により撮像し、この撮像によって得られた映像信号は、増幅部(図では、Gainと記す。)105にて増幅された後、A/D106にてデジタル信号へ変換される。
A/D106からのデジタル映像信号は、バッファ107を介して補間部108へ転送される。また、バッファ107は、WB部109及び測光評価部110へも接続されている。WB部109は上記増幅部105へ、測光評価部110は上記照明光源103及び上記増幅部105へ接続されている。補間部108は、分離部111へ接続されている。分離部111は、信号処理部112と算出部113へ接続されている。
基底ベクトルROM114及びシステム分光特性ROM115は、上記算出部113へ接続されている。算出部113は、正規化部116及び疑似カラー化部117を介して液晶ディスプレイなどの第1出力部118へ接続されている。
また、上記信号処理部112は、液晶ディスプレイなどの第2出力部119へ接続されている。
マイクロコンピュータなどの制御部120は、上記の増幅部105、A/D106、補間部108、WB部109、測光評価部110、分離部111、信号処理部112、算出部113、正規化部116、疑似カラー化部117、第1出力部118及び第2出力部119と双方向に接続されている。また、電源スイッチ,シャッタボタン,及び撮像時の各種モードの切り替えなどの設定を行うためのインターフェースを備えた外部I/F部121も、この制御部120に双方向に接続されている。
(作用)
図1において、信号の流れを説明する。
外部I/F部121を介して後述する識別対象となる被写体,カラー撮像系,照明光などの撮像条件を設定した後、シャッタボタンを押すことで撮像モードに入る。
この撮像モードでは、撮像レンズ系100,CCD101を介して撮像された映像信号はアナログ信号として所定時間間隔で連続的に出力される。以後、連続的に出力される複数の映像信号を単に映像信号、1枚の映像信号をフレーム信号と表記する。また、本実施形態においては、上記所定時間間隔として1/30秒(以後は、1フレーム時間と表記する。)を想定する。
さらに、上記CCD101としては6種類のカラーフィルタを前面に配置した単板CCDを想定する。図2(A)は、この6種類のカラーフィルタを備えるフィルタ122の構成を示す図である。このフィルタ122は、2×3画素を基本単位とし、短波長から青系統(B1,B2)、緑系統(G1,G2)、赤系統(R1,R2)の6種類のカラーフィルタが1画素ずつ配置されて構成される。図2(B)は、それら6種類のカラーフィルタの分光特性を示す図である。本実施形態では、B1,G1,R1は通常の、例えばBayer型の単板CCDで使用されている青,緑,赤のカラーフィルタと同等の広帯域の感度特性を想定し、後述する通常のカラー信号を生成するさいに使用される。一方、B2,G2,R2は後述する基底ベクトルを用いた信号処理にB1,G1,R1と共に使用するもので、B1,G1,R1と比べて狭帯域の特性となっている。このようなフィルタ122を用いることで、CCD101からの上記アナログ信号は、6種類の色信号からなる映像信号となる。即ち、本実施形態では、複数の色信号が、カラー撮像系におけるCCD101とフィルタ122でなる撮像素子により生成される。
上記アナログ信号は、増幅部105にて所定量増幅され、A/D106にてデジタル信号へ変換されて、バッファ107へ転送される。このバッファ107は、1フレームの信号を記録可能なものであり、撮像が進むにともない古いフレーム信号から順次上書きされることになる。このバッファ107内のフレーム信号は、制御部120の制御に基づき、所定時間間隔で、間欠的にWB部109及び測光評価部110へ転送される。
WB部109では、中間レベル等、所定レベルの信号を上記フィルタ122のカラーフィルタに対応する色信号ごとに積算することで、ホワイトバランス係数を算出する。そして、その算出したホワイトバランス係数を上記増幅部105へ転送し、色信号ごとに異なるゲインを乗算させることでホワイトバランス調整を行わせる。また、測光評価部110では、適正露光となるように上記照明光源103の光量や上記増幅部105の増幅率などを制御する。
一方、補間部108は、制御部120の制御に基づき、上記バッファ107から単板状態のフレーム信号を読み込み、公知の補間処理にて6種類の色信号からなるフレーム信号を生成する。生成されたフレーム信号は、順次フレーム信号単位で、分離部111へ転送される。以降の分離部111、信号処理部112、算出部113、正規化部116及び疑似カラー化部117は、制御部120の制御に基づき1フレーム信号単位で同期して処理がなされる。
分離部111は、制御部120の制御に基づき、上記補間部108から転送される複数種類(6種類)の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号からなるフレーム信号を分離すると共に、後述する基底ベクトルを用いた信号処理に使用する複数の周波数域に対応する色信号からなるフレーム信号を選択し分離する。例えば、図2(A)に示されるフィルタ122に対応する6種類の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号としてB1,G1,R1からなるフレーム信号が分離され、信号処理部112へ転送される。また、基底ベクトルを用いた信号処理に使用する複数の周波数域のフレーム信号として、本実施形態では短波長域のフレーム信号と長波長域のフレーム信号との2つを想定する。該分離部111によって、短波長域のフレーム信号はB1,B2,G1が、長波長域のフレーム信号としてはG2,R1,R2の色信号がそれぞれ独立に分離され、算出部113へ転送される。このように、分離部111は、上記複数の色信号B1,B2,G1,G2,R1,R2の分光特性における主波長に基づきそれら複数の色信号を波長方向に並べた場合に、各波長域の映像信号が波長方向に連続となる色信号から構成されるように、補間部108から転送される複数種類の色信号からなるフレーム信号から基底ベクトルを用いた信号処理に使用する複数の周波数域のフレーム信号を分離する。
信号処理部112は、制御部120の制御に基づき、分離部111から転送されるB1,G1,R1の三色信号から構成されるフレーム信号に対して公知の階調処理及び強調処理を行うことで通常のカラー信号を算出し、算出した通常のカラー信号を第2出力部119へ転送する。第2出力部119は、この通常のカラー信号を第2の出力信号として表示する。
一方、基底ベクトルROM114は、複数の識別対象となる被写体それぞれの既知の分光特性に基づく基底ベクトルを記憶しており、システム分光特性ROM115は、複数のカラー撮像系それぞれに関する分光特性と撮像時に使用する複数の照明光それぞれに関する分光特性とを記憶している。なお、本実施形態においては、カラー撮像系に関する分光特性とは、撮像レンズ系100の分光透過率特性を加味したCCD101の分光感度特性を意味し、照明光に関する分光特性とは、転送用の光ファイバ104及び照明レンズ系102の分光透過率特性を加味した照明光源103の分光輝度特性を意味する。
算出部113は、上記外部I/F部121を介して設定された上記撮像条件に応じた制御部120の制御に基づき、上記基底ベクトルROM114から識別対象となる一つの被写体の既知の分光特性に基づく基底ベクトルと、上記識別対象となる一つの被写体以外の被写体の分光特性に基づく基底ベクトルとを読み込むと共に、上記システム分光特性ROM115から上記一つの識別対象となる被写体を含む被写体の撮像に供する一つのカラー撮像系に関する分光特性とそのカラー撮像系による被写体の撮像時に使用する一つの照明光に関する分光特性とを含んだ撮像システムの分光特性を読み込む。その後、分離部111から転送されるB1,B2,G1の三色信号から構成される短波長域のフレーム信号及びG2,R1,R2の三色信号から構成される長波長域のフレーム信号に対して、上記読み出した基底ベクトル、カラー撮像系に関する分光特性及び照明光に関する分光特性を用いて、基底ベクトルに関する重み係数を算出する。上記重み係数は、短波長域と長波長域で独立に算出される。その算出された基底ベクトルの重み係数は、後述するように上記識別対象の被写体の存在に比例した値をとるものであり、正規化部116、疑似カラー化部117及び第1出力部118でなる出力信号算出部へ転送される。
正規化部116は、制御部120の制御に基づき、上記算出部113から転送される重み係数に関して映像信号の信号レベルと合致するよう正規化処理を行う。即ち、上記算出部113で算出される重み係数は「0」〜「1」の値をとるので、それを、例えば信号レベルが8ビットならば「0」〜「255」の値に正規化する。そして、正規化処理後の重み係数を疑似カラー化部117へ転送する。疑似カラー化部117は、上記正規化部116にて正規化された短波長域と長波長域の重み係数に関して、それぞれ異なる色を割り当てることで疑似カラー信号を生成する。本実施形態においては、例えば、短波長域の重み係数に赤を、長波長域の重み係数にシアンを、それぞれ割り当てる。疑似カラー化部117は、このように生成した疑似カラー信号を第1出力部118へ転送し、これにより、第1出力部118には、識別対象の被写体に関して波長域ごとに独立した疑似カラー信号が表示されることになる。即ち、第1出力部118は、疑似カラー化された短波長域の重み係数と同じく疑似カラー化された長波長域の重み係数が合成された出力信号を表示するので、短波長域のみに識別対象が存在する場合は赤で、長波長域のみに識別対象が存在する場合はシアンで、短波長域と長波長域の両方に識別対象が存在する場合は赤+シアン=白で、短波長域と長波長域の両方に識別対象が存在しない場合は黒で表示が行われることになる。こうして、識別対象となる被写体の識別結果としての出力信号が出力される。なお、短波長域は対象物の表層に関する情報を、長波長域は対象物の深層に関する情報を、それぞれ意味する。また、第1出力部118及び第2出力部119は、液晶ディスプレイに限定されるものではなく、ハードディスクやメモリカードなどの記録媒体にフレーム信号を順次記録保存する形態も可能である。
図3は、上記算出部113の構成の一例を示す図であり、該算出部113は、データ選択部201、積算部202、バッファ203、逆行列算出部204、バッファ205、係数選択部206及び乗加算部207からなる。上記基底ベクトルROM114及び上記システム分光特性ROM115は、データ選択部201へ接続している。データ選択部201は、積算部202、バッファ203、逆行列算出部204及びバッファ205を介して、係数選択部206へ接続している。係数選択部206及び上記分離部111は、乗加算部207へ接続している。乗加算部207は、上記正規化部116へ接続している。上記制御部120は、データ選択部201、積算部202、逆行列算出部204、係数選択部206、乗加算部207と双方向に接続されている。
データ選択部201は、上記外部I/F部121を介して設定された上記撮像条件における識別対象となる被写体の情報を上記制御部120から受け取り、その情報に基づき上記基底ベクトルROM114から識別対象となる被写体の既知の分光特性に基づく基底ベクトル及び識別対象外被写体の分光特性に基づく基底ベクトルを読み込む。このように、上記基底ベクトルROM114及び該データ選択部201は、基底ベクトル取得部として機能する。
識別対象の被写体の基底ベクトルとしては、例えば、内視鏡における診断で重要となる血管部位、例えば動脈に多く含まれるオキシヘモグロビンの分光反射率特性に基づくものや、静脈に多く含まれるデオキシヘモグロビンの分光反射率特性に基づくもの、或は、蛍光観察での主要被写体となるコラーゲンの自家蛍光の分光輝度特性に基づくも、等が予め上記基底ベクトルROM114に記憶してある。そして、識別対象の被写体が例えば動脈であれば、オキシヘモグロビンの分光反射率特性に基づく基底ベクトルが読み出される。また、識別対象外被写体の基底ベクトルとしては、マンセル色票などの分光反射率特性を主成分分析して、寄与率の高い上位複数の基底ベクトルを選択することで予め上記基底ベクトルROM114に記憶してある。本実施形態においては、CCD101として6種類のカラーフィルタでなるフィルタ122を前面に配置した単板CCDを想定し、これを短波長域と長波長域へ各々3種類ずつ割り当てている。このため、基底ベクトルの総数は3となり、識別対象外被写体の分光特性に基づく基底ベクトルとして、寄与率の高い上位2つの基底ベクトルが読み出される。
図4(A)は、短波長域の基底ベクトルの一例を示すもので、2つの識別対象外の被写体の基底ベクトル(O1(λ),O2(λ))と1つの識別対象の被写体の基底ベクトル(O3(λ))とからなる。ここで、λは短波長域の波長を意味し、本実施形態においては、短波長域としてはλ=380〜650nmを想定する。また、図4(B)は、長波長域の基底ベクトルの一例を示すもので、2つの識別対象外の被写体の基底ベクトル(O1(λ),O2(λ))と1つの識別対象の被写体の基底ベクトル(O3(λ))とからなる。ここで、λは長波長域の波長を意味し、本実施形態においては、長波長域としてはλ=550〜780nmを想定する。
その後、上記データ選択部201は、更に、外部I/F部121を介して設定された上記撮像条件におけるカラー撮像系,照明光の情報を制御部120から受け取り、上記情報に基づきシステム分光特性ROM115から被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を読み込む。このように、上記基底ベクトルROM114及び該データ選択部201は、システム分光特性取得部としても機能する。
図5(A)は、上記被写体の撮像時に使用する照明光に関する分光特性として、短波長域の光源の分光輝度特性(I(λ))を示す図であり、図5(B)は、同じく長波長域の光源の分光輝度特性(I(λ))を示す図である。ここでは一例としてのキセノン光源の特性を示している。また、図5(C)は、上記カラー撮像系に関する分光特性として、B1,B2,G1の3つのカラーフィルタからなる短波長域のカラー撮像系の分光感度特性(SB1(λ),SB2(λ),SG1(λ))を示す図であり、図5(D)は、同じくG2,R1,R2の3つのカラーフィルタからなる長波長域のカラー撮像系の分光感度特性(SG2(λ),SR1(λ),SR2(λ))を示す図である。
上記データ選択部201は、読み込んだ上記基底ベクトル(O1(λ),O2(λ),O3(λ)),(O1(λ),O2(λ),O3(λ))、光源の分光輝度特性(I(λ)),(I(λ))及びカラー撮像系の分光感度特性(SB1(λ),SB2(λ),SG1(λ)),(SG2(λ),SR1(λ),R2(λ))を、積算部202へ転送する。
積算部202は、制御部120の制御に基づき、3×3サイズの撮像システムに関するシステム行列を、短波長域及び長波長域ごとに独立に算出する。即ち、以下の(1)式に示すような短波長域のシステム行列M及び以下の(2)式に示すような長波長域のシステム行列Mを算出する。
Figure 2010022595
この積算部202によって算出された上記システム行列M及びMは、バッファ203へ転送され、そこに保存される。逆行列算出部204は、制御部120の制御に基づき、このバッファ203から上記システム行列M及びMを読み込み、該システム行列M及びMの逆行列M −1及びM −1を算出する。算出された逆行列M −1及びM −1は、バッファ205へ転送され、そこに保存される。
上記システム行列の逆行列M −1及びM −1とB1,B2,G1からなるフレーム信号及びG2,R1,R2からなるフレーム信号とを使用することで、以下の(3)式及び(4)式により、各画素単位で基底ベクトル(O1(λ),O2(λ),O3(λ))及び(O1(λ),O2(λ),O3(λ))に関する重み係数(w1sij,w2sij,w3sij)及び(w1lij,w2lij,w3lij)を求めることができる。なお、以下の(3)式及び(4)式において、i,jはフレーム信号のx,y方向の座標を、m及びmはシステム行列の逆行列M −1及びM −1の各要素即ち、逆行列M −1及びM −1の係数を意味する。
Figure 2010022595
本実施形態では、内視鏡における診断で重要となる血管部位に多く含まれるオキシヘモグロビンを識別対象と仮定しているため、基底ベクトル(O3(λ))及び(O3(λ))に関係する重み係数(w3sij)及び(w3lij)を求めれば良い。このために必要となるシステム行列の逆行列M−1の係数は、要素ms31,ms32,ms33及びml31,ml32,ml33の6つとなる。
そこで、係数選択部206は、制御部120の制御に基づき、上記バッファ205から上記システム行列の逆行列M −1及びM −1の要素ms31,ms32,ms33及びml31,ml32,ml33を選択し、これを乗加算部207へ転送する。乗加算部207は、制御部120の制御に基づき、上記係数選択部206からシステム行列の逆行列M −1及びM −1の要素ms31,ms32,ms33及びml31,ml32,ml33が転送された後、分離部111からフレーム信号B1ij,B2ij,G1ij及びG2ij,R1ij,R2ijを画素単位で読み込み、以下の(5)式及び(6)式に示すような乗加算処理を行うことで、識別対象被写体の基底ベクトル(O3(λ))及び(O3(λ))に関係する重み係数(w3sij)及び(w3lij)を求める。
Figure 2010022595
上記重み係数(w3sij)及び(w3lij)は識別対象被写体の基底ベクトル(O3(λ))及び(O3(λ))への寄与度となるため、本実施形態においてはオキシヘモグロビンの存在に比例した値をとることになる。即ち、オキシヘモグロビンが存在する場合には高い値を、存在しない場合は低い値をとる。また、短波長域に関する重み係数(w3sij)は組織表層の、長波長域に関する重み係数(w3lij)は組織深層のオキシヘモグロビンの存在に比例した値をとることになるため、この重み係数(w3sij)及び(w3lij)を映像信号化することで、表層/深層におけるオキシヘモグロビンを、つまり表層の血管と深層の血管を独立に識別することが可能となる。
そこで、上記乗加算部207によって算出された重み係数(w3sij)及び(w3lij)は、順次、正規化部116へ転送されて上述したように正規化処理が行われ、正規化処理後の重み係数が、上記分光特性が既知の被写体の識別結果である出力信号として、例えば表示モニタである第1出力部118にて表示されることとなる。
なお、以上の説明では、識別対象を動脈に多く含まれるオキシヘモグロビンとしたが、それに限定されないことは勿論である。例えば、外部I/F部121を介して、識別対象となる被写体を必要に応じて静脈に多く含まれるデオキシヘモグロビンに切り換えても良い。
以上のように、本第1実施形態によれば、分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルと上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とから、上記識別対象の被写体の存在に比例した値をとる基底ベクトルに関する重み係数を波長域ごとに独立に算出し、これらの重み係数に基づき出力信号を算出する。このように、本第1実施形態では、識別対象となる被写体の既知の分光特性に基づく基底ベクトルを用いることで、上記識別対象の被写体の存在に比例した値をとる重み係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行う必要が無く、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。
さらに、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
また、識別対象,カラー撮像系または照明光を選択できるため、システムとしての適用性が向上し、多様な用途での利用が可能となる。
さらに、識別対象外の分光特性に基づく基底ベクトルも記録しているため、必要に応じて識別対象以外の領域に対しても基底ベクトルを用いた信号処理を適用することが可能となり、後段の出力信号を算出する処理における自由度を向上することができる。
また、基底ベクトルに関する重み係数を正規化することで出力信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。
さらに、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。また、通常の処理がなされたカラー信号も独立に算出されるため、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。各波長域の映像信号は、波長方向に連続となる複数の色信号から構成されるため、波長域ごとに基底ベクトルに関する重み係数を算出する際の基底ベクトル及び撮像システムの分光特性の切り分けが容易となり、波長方向に不連続な色信号から各波長域の映像信号を構成する場合に比して各波長域の映像信号における信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
また、単板CCDから色信号を得るため、動きのある被写体に対しても高精度な識別が可能となる。
なお、動画像を処理する場合を説明したが、外部I/F部121の不図示シャッタボタンの操作に応じて静止画像を撮像し、その撮像した静止画像に対して同様の処理を行うことも可能なことは勿論である。
[変形例1]
上記第1実施形態では、図2(B)に示すように、通常のカラー信号の耐ノイズ性を考慮し、B1,G1,R1のカラーフィルタの帯域をB2,G2,R2のカラーフィルタに対して広帯域に設定する構成を想定したが、このような構成に限定される必要はない。
例えば、図2(C)に示すように、全てのカラーフィルタを狭帯域にする構成も可能である。この場合、通常のカラー信号の耐ノイズ性は低下するが、基底ベクトルに基づく信号処理の精度を向上することが可能となる。図2(C)の場合、短波長域はλ=380〜600nm、長波長域としてはλ=600〜780nmとなり、2つの波長域における重複波長をなくすことができる。
[変形例2]
また、上記第1実施形態では、信号処理システムは、撮像レンズ系100、CCD101、照明レンズ系102、照明光源103、光ファイバ104、増幅部105、A/D106、WB部109及び測光評価部110からなる撮像部と一体化した構成になっていたが、このような構成に限定される必要はない。
例えば、別体の撮像部で撮像された映像信号を未処理のRawデータ形態で、さらに識別対象となる被写体,カラー撮像系,照明光などの撮像条件に関する付随情報をヘッダ部に記録して、ハードディスクやメモリカードなどの記録媒体に保存したものを読み出したり、無線又は有線ネットワークを介して送信されてくる映像信号を受信したりして、処理をすることも可能である。
図6は、図1に示す構成から撮像レンズ系100、CCD101、照明レンズ系102、照明光源103、光ファイバ104、増幅部105、A/D106、WB部109及び測光評価部110を省略し、入力部123及びヘッダ情報解析部124を追加した形態となっている。基本構成は図1と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
入力部123は、バッファ107及びヘッダ情報解析部124へ接続している。制御部120は、入力部123、ヘッダ情報解析部124と双方向に接続している。マウス,キーボードなどの外部I/F部121を介して再生操作を開始することで、ハードディスクやメモリカードなどの記録媒体に保存された信号及びヘッダ情報、あるいは、ネットワークを介して受信した信号及びヘッダ情報が入力部123から読み込まれる。なお、映像信号は所定の時間間隔、本変形例では1フレーム時間間隔で1枚ずつ順次読み込まれる。入力部123からの信号はバッファ107へ、ヘッダ情報はヘッダ情報解析部124へ、それぞれ転送される。ヘッダ情報解析部124は、ヘッダ情報から撮像時の情報を抽出して制御部120へ転送する。以後の処理は、図1と同等である。
なお、本変形例においても、動画像及び静止画像の何れにも適用可能なことは勿論である。
[変形例3]
さらに、上記第1実施形態では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD101からの映像信号を未処理のままのRawデータ形態として、制御部120から、識別対象となる被写体やカラー撮像系,照明光などの撮像条件をヘッダ情報として出力し、それら映像信号とヘッダ情報を図示しないコンピュータに入力して、ソフトウェアにて処理する構成も可能である。
図7(A)は、不図示コンピュータによる信号処理のソフトウェア処理に関するフローチャートを示す図である。
即ち、コンピュータはまず、映像信号と、識別対象となる被写体及びカラー撮像系,照明光などの撮像条件に関するヘッダ情報を入力する(ステップS101)。なお、本変形例においては、図2(A)に示す6種類のカラーフィルタからなるフィルタ122を前面に配置した単板CCDからの映像信号を処理することを想定する。
上記ステップS101に続けて、図4(A)及び(B)に示すような複数の基底ベクトルを入力し(ステップS102)、また、図5(A)及び(B)に示すような光源の分光輝度特性を複数、及び図5(C)及び(D)に示すような複数のカラー撮像系の分光感度特性を入力する(ステップS103)。ここで、上記複数の基底ベクトル及び複数の撮像システムの分光特性は、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
そして、詳細は後述するような算出処理により、基底ベクトルに関する重み係数算出に使用されるシステム行列の逆行列M −1及びM −1の所定の係数、つまり要素ms31,ms32,ms33及びml31,ml32,ml33を算出する(ステップS104)。その後、上記入力された映像信号から順次フレーム信号を抽出し(ステップS105)、公知の補間処理にて欠落する色信号を生成する(ステップS106)。そして、図2(B)に示すように短波長域と長波長域の2つの波長域に属する色信号からなるフレーム信号、及び通常のカラー信号を生成するための色信号からなるフレーム信号を分離する(ステップS107)。そして、その通常のカラー信号を生成するための色信号からなるフレーム信号に対して、公知の階調処理や強調処理といった信号処理を行って、通常のカラー信号を生成する(ステップS108)。
また、上記ステップS108の信号処理と並行して、波長域を一つ選択して(ステップS109)、その選択した波長域に属する色信号からなるフレーム信号に対して上記(5)式または(6)式に示されるように基底ベクトルに関する重み係数を算出する(ステップS110)。例えば、短波長域に属する色信号からなるフレーム信号に対して上記(5)式に示されるように基底ベクトル(O3(λ))に関する重み係数(w3sij)を算出する。そして、その算出した重み係数を正規化し(ステップS111)、その正規化された重み係数に関して波長域ごとに独立した色を割り当てることで疑似カラー信号を生成する(ステップS112)。例えば、上記重み係数(w3sij)を正規化して、赤を割り当てることで疑似カラー信号を生成する。
その後、全ての波長域に関する処理が完了したかを判断し(ステップS113)、完了していない場合は上記ステップS109に戻る。そして、今度は例えば長波長域を選択して(ステップS109)、その長波長域に属する色信号からなるフレーム信号に対して上記(6)式に示されるように基底ベクトル(O3(λ))に関する重み係数(w3lij)を算出し(ステップS110)、その算出した重み係数(w3sij)を正規化して(ステップS111)、シアンを割り当てることで疑似カラー信号を生成する(ステップS112)。
而して、上記ステップS113において全ての波長域に関する処理が完了したと判断した場合には、通常のカラー信号及び識別対象の存在に関する疑似カラー信号の両者をフレーム信号単位で、当該コンピュータに接続された図示しない表示モニタ等に出力する(ステップS114)。
その後、全てのフレーム信号が完了したかを判断し(ステップS115)、完了していない場合は上記ステップS105に戻り、また、完了した場合は終了する。
図7(B)は、上記ステップS104における算出処理に関するフローチャートを示す図である。
まず、波長域を一つ選択し(ステップS201)、上記ステップS102で入力された複数の基底ベクトルと、上記ステップS103で入力された複数の光源の分光輝度特性及び複数のカラー撮像系の分光感度特性の中から、上記ステップS101で入力したヘッダ情報中の映像信号と識別対象となる被写体やカラー撮像系,照明光などの撮像条件に基づき、当該波長域に対する基底ベクトル、光源の分光輝度特性及びカラー撮像系の分光感度特性を選択する(ステップS202)。例えば、短波長域を選択し、図4(A)に示すような基底ベクトル(O1(λ),O2(λ),O3(λ))、図5(A)に示すような光源の分光輝度特性、図5(C)に示すようなカラー撮像系の分光感度特性を選択する。
その後、上記(1)式または(2)式に示されるシステム行列を算出し(ステップS203)、更に、そのシステム行列の逆行列を算出する(ステップS204)。例えば、システム行列Mを算出し、その逆行列M −1を算出する。そして、基底ベクトルの重み係数を算出するのに要する逆行列の要素を上記所定の係数として選択し(ステップS205)、選択された逆行列の要素を出力する(ステップS206)。例えば、基底ベクトル(O3(λ))の重み係数(w3sij)を算出するに要する逆行列M −1の要素ms31,ms32,ms33を選択して出力する。
その後、全ての波長域に関する処理が完了したかを判断し(ステップS207)、完了していない場合は上記ステップS201に戻る。そして、今度は例えば長波長域を選択して(ステップS201)、図4(B)に示すような基底ベクトル(O1(λ),O2(λ),O3(λ))、図5(B)に示すような光源の分光輝度特性、図5(D)に示すようなカラー撮像系の分光感度特性を選択して(ステップS202)、上記(2)式に示されるシステム行列Mを算出し(ステップS203)、更に、その逆行列M −1を算出する(ステップS204)。そして、基底ベクトル(O3(λ))の重み係数(w3lij)を算出するに要する逆行列M −1の要素ml31,ml32,ml33を選択して(ステップS205)、出力する(ステップS206)。
而して、上記ステップS207において全ての波長域に関する処理が完了したと判断した場合は終了する。
[第2実施形態]
次に、本発明の第2実施形態を説明する。
(構成)
図8は、本発明の第2実施形態に係る信号処理システムを適用した内視鏡の構成を示す図である。本実施形態は、図1に示す第1実施形態の構成から正規化部116、疑似カラー化部117、第1出力部118及び第2出力部119が削除され、強調部125及び出力部126が追加された構成になっている。基本構成は上記第1実施形態と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみを説明する。
信号処理部112は、強調部125へ接続されている。強調部125は、液晶ディスプレイなどの出力部126へ接続されている。算出部113は、強調部125へ接続されている。制御部120は、強調部125及び出力部126と双方向に接続されている。
(作用)
本実施形態に係る信号処理システムの作用も、基本的に上記第1実施形態と同等であり、以下、異なる部分のみを説明する。
図8において、信号の流れを説明する。
本実施形態では、CCD101としては、4種類のカラーフィルタを前面に配置した単板CCDを想定する。図9(A)は、4種類のカラーフィルタでなるフィルタ127の構成を示す図である。このフィルタ127は、2×2画素を基本単位とし、短波長側から青(B),緑(G),黄(Ye),赤(R)から構成される。図9(B)は、このフィルタ127を構成する4種類のカラーフィルタの分光特性を示す図である。このようなフィルタ127を用いることで、CCD101からのアナログ信号は、4種類の色信号からなる映像信号となる。
CCD101からの映像信号は、上記第1実施形態と同様にしてデジタル信号へ変換されて、バッファ107へ転送される。補間部108は、制御部120の制御に基づき、上記バッファ107から単板状態のフレーム信号を読み込み、公知の補間処理にて4種類の色信号からなるフレーム信号を生成する。生成されたフレーム信号は、順次フレーム信号単位で、分離部111へ転送される。以降の分離部111、信号処理部112、算出部113及び強調部125は、制御部120の制御に基づき1フレーム信号単位で同期して処理がなされる。
分離部111は、制御部120の制御に基づき、補間部108から転送される複数種類(4種類)の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号からなるフレーム信号を分離すると共に、基底ベクトルを用いた信号処理に使用する複数の周波数域に対応する色信号からなるフレーム信号を選択し分離する。例えば、図9(A)に示されるフィルタ127に対応する4種類の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号としてB,G,Rからなるフレーム信号を分離して、信号処理部112へ転送する。また、基底ベクトルを用いた信号処理に使用する複数の周波数域のフレーム信号として、本実施形態においても短波長域のフレーム信号と長波長域のフレーム信号との2つを想定する。該分離部111によって、短波長域のフレーム信号はB,Gを、長波長域のフレーム信号としてはYe,Rの色信号がそれぞれ独立に分離され、算出部113へ転送される。
信号処理部112は、制御部120の制御に基づき、分離部111から転送されるB,G,Rの三色信号から構成されるフレーム信号に対して公知の階調処理及び強調処理を行うことで通常のカラー信号を算出し、算出した通常のカラー信号を強調部125へ転送する。
一方、算出部113は、上記外部I/F部121を介して設定された撮像条件に応じた制御部120の制御に基づき、基底ベクトルROM114から複数の基底ベクトルを読み込むと共に、システム分光特性ROM115から撮像システムの分光特性を読み込む。その後、分離部111から転送されるB,Gからなる二色信号から構成される短波長域のフレーム信号及びYe,Rからなる二色信号から構成される長波長域のフレーム信号に対して、上記読み出した基底ベクトル、カラー撮像系に関する分光特性及び照明光に関する分光特性を用いて、基底ベクトルに関する重み係数を算出する。この算出部113の構成は、図3に示した上記第1の実施形態のそれと同等である。但し、本実施形態では短波長域及び長波長域が2種類の色信号で構成されているため、基底ベクトルの総数は2となる。
図10(A)は、短波長域の基底ベクトルの一例を示すもので、2つの識別対象の基底ベクトル(O1(λ),O2(λ))からなる。本実施形態の短波長域としてはλ=380〜600nmを想定する。また、図10(B)は、長波長域の基底ベクトルの一例を示すもので、2つの識別対象の基底ベクトル(O1(λ),O2(λ))からなる。本実施形態の長波長域としてはλ=500〜780nmを想定する。上記識別対象の基底ベクトルとしては、例えば、内視鏡における診断で重要となる血管部位に多く含まれるオキシヘモグロビン及びデオキシヘモグロビンの分光反射率特性から設定される。
また、図11(A)は、上記被写体の撮像時に使用する照明光に関する分光特性として、短波長域の光源の分光輝度特性(I(λ))を示す図であり、図11(B)は、同じく長波長域の光源の分光輝度特性(I(λ))を示す図である。さらに、図11(C)は、上記カラー撮像系に関する分光特性として、B,Gの2つのカラーフィルタからなる短波長域のカラー撮像系の分光感度特性(SB(λ),SG(λ))を示す図であり、図11(D)は、同じくYe,Rの2つのカラーフィルタからなる長波長域のカラー撮像系の分光感度特性(SYe(λ),SR(λ))を示す図である。
算出部113は、制御部120の制御に基づき、2×2サイズの撮像システムに関するシステム行列を、短波長域及び長波長域ごとに独立に算出する。即ち、以下の(7)式に示すような短波長域のシステム行列M及び以下の(8)式に示すような長波長域のシステム行列Mを算出する。
Figure 2010022595
算出部113は、この後、上記システム行列の逆行列M −1及びM −1とB,Gからなるフレーム信号及びYe,Rからなるフレーム信号とを使用することで、以下の(9)式及び(10)式に示すような、各画素単位で基底ベクトル(O1(λ),O2(λ))及び(O1(λ),O2(λ))に関する重み係数(w1sij,w2sij)及び(w1lij,w2lij)を算出する。
Figure 2010022595
即ち、基底ベクトル(O1(λ),O2(λ))及び(O1(λ),O2(λ))に関する重み係数(w1sij,w2sij)及び(w1lij,w2lij)を、以下の(11)式乃至(14)式に基づいて算出する。
Figure 2010022595
こうして算出された基底ベクトルの重み係数(w1sij,w2sij)及び(w1lij,w2lij)は、強調部125へ転送される。強調部125は、制御部120の制御に基づき、信号処理部112から上記通常のカラー信号を読み込むと共に、算出部113から上記基底ベクトルに関する重み係数(w1sij,w2sij)及び(w1lij,w2lij)を読み込む。その後、信号処理部112から転送される通常のカラー信号に対して算出部113から転送される重み係数(w1sij,w2sij)及び(w1lij,w2lij)に基づき強調処理を行う。上記強調処理としては、公知の彩度強調処理が想定され、これらの強調量は重み係数に比例する形態で実施される。また、上記強調処理は、波長域ごとに独立に行うことも可能である。強調処理後のフレーム信号は、出力部126へ転送される。これにより、出力部126には、識別対象の存在領域が波長領域ごとに強調された通常のカラー信号が表示されることになる。
図12(A)は、上記強調部125の構成の一例を示す図で、該強調部125は、輝度色差分離部211、バッファ212、強調ゲイン算出部213、強調関数ROM214、ゲイン乗算部215及び輝度色差合成部216からなる。上記信号処理部112は、輝度色差分離部211を介してバッファ212へ接続している。バッファ212は、ゲイン乗算部215及び輝度色差合成部216へ接続している。上記算出部113及び強調関数ROM214は、強調ゲイン算出部213へ接続している。強調ゲイン算出部213は、ゲイン乗算部215へ接続し、ゲイン乗算部215は、輝度色差合成部216へ接続している。輝度色差合成部216は、上記出力部126へ接続している。上記制御部120は、輝度色差分離部211、強調ゲイン算出部213、ゲイン乗算部215及び輝度色差合成部216と双方向に接続されている。
輝度色差分離部211は、上記制御部120の制御に基づき、上記信号処理部112から転送されるRij,Gij,Bijの通常のカラー信号に対して、以下の(15)式に基づき輝度信号Yij及び色差信号Cbij,Crijを算出する。
Figure 2010022595
これら算出された輝度信号及び色差信号は、バッファ212へ転送され、そこに記録される。
一方、強調ゲイン算出部213は、上記制御部120の制御に基づき、上記算出部113から短波長域の基底ベクトルに関する重み係数(w1sij,w2sij)及び長波長域の基底ベクトルに関する重み係数(w1lij,w2lij)を読み込む。また、強調関数ROM214から強調用のゲインを求めるためのゲインテーブルを読み込む。
図12(B)は、強調関数ROM214に記録されている強調用のゲインテーブルの一例を示す図である。上記テーブルは、基底ベクトルに関する重み係数を入力として、強調用のゲインを出力するテーブルである。従って、強調ゲイン算出部213は、このテーブルに従って、読み込んだ基底ベクトルに関する重み係数に対するゲインを算出する。なお、基底ベクトルに関する重み係数は「0」〜「1」の値をとることを前提としている。さらに、本実施形態では、オキシヘモグロビン及びデオキシヘモグロビンに関する2つの重み係数が得られているが、ゲインの算出には両者の平均値を用いるものとする。ゲインは、短波長域(gainsij)及び長波長域(gainlij)に関して独立に算出される。
この強調ゲイン算出部213で算出されたゲインgainsij,gainlijは、ゲイン乗算部215へ転送される。ゲイン乗算部215は、上記制御部120の制御に基づき、バッファ212から上記色差信号Cbij,Crijを読み込むと共に、強調ゲイン算出部213から上記ゲインgainsij,gainlijを読み込む。その後、色差信号Cbij,Crijに関して、以下の(16)式に示される強調処理を行う。
Figure 2010022595
ここで、上記(16)式に示される強調処理は、深層の血管に関する長波長域の重み係数に基づきCb(青系)を強調し、表層の血管に関する短波長域の重み係数に基づきCr(赤系)を強調することを意味する。このため、短波長域と長波長域の識別が可能となる。強調処理がなされた色差信号Cb’ij,Cr’ijは、輝度色差合成部216へ転送される。
輝度色差合成部216は、上記制御部120の制御に基づき、バッファ212から上記輝度信号Yijを読み込むと共に、ゲイン乗算部215から上記強調処理がなされた色差信号Cb’ij,Cr’ij読み込み、以下の(17)式に示すような強調処理を行うことで、強調処理がなされた通常のカラー信号を算出する。
Figure 2010022595
この輝度色差合成部216で強調処理がなされた通常のカラー信号は、上記出力部126へ転送される。
なお、上記例では、表層を赤系で、深層を青系で強調する構成となっていたが、このような構成に限定される必要はない。色差信号Cb,Crを組み合わせることで、任意の色を強調することが可能である。
また、血管を識別対象としていたためオキシヘモグロビン及びデオキシヘモグロビンに関する重み係数の平均値を使用する構成となっていたが、このような構成に限定される必要はない。例えば、表層のオキシヘモグロビンを赤、表層のデオキシヘモグロビンを黄、深層のオキシヘモグロビンを青、深層のデオキシヘモグロビンを緑など、独立に強調することも可能である。
以上のように、本第2実施形態によれば、分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルと上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とから、上記識別対象の被写体の存在に比例した値をとる基底ベクトルに関する重み係数を波長域ごとに独立に算出し、これらの重み係数に基づき出力信号を算出する。このように、本第2実施形態においても、上記第1実施形態と同様に、識別対象となる被写体の既知の分光特性に基づく基底ベクトルを用いることで、上記識別対象の被写体の存在に比例した値をとる重み係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行う必要が無く、よって、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。
また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。
さらに、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
また、識別対象,カラー撮像系または照明光を選択できるため、システムとしての適用性が向上し、多様な用途での利用が可能となる。
さらに、識別対象外の分光特性に基づく基底ベクトルも記録しているため、必要に応じて識別対象以外の領域に対しても基底ベクトルを用いた信号処理を適用することが可能となり、後段の出力信号を算出する処理における自由度を向上することができる。
また、本第2実施形態では、基底ベクトルに関する重み係数から強調処理を行うため、識別対象の存在領域のみが強調され、認識能を向上することが可能となる。この強調処理は、波長域ごとに独立に行うことも可能であるため、各波長域、すなわち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。さらに、識別対象外の領域に関しても通常の処理がなされたカラー信号が出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。各波長域の映像信号は、波長方向に連続となる複数の色信号から構成されるため、波長域ごとに基底ベクトルに関する重み係数を算出する際の基底ベクトル及び撮像システムの分光特性の切り分けが容易となり、波長方向に不連続な色信号から各波長域の映像信号を構成する場合に比して各波長域の映像信号における信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
また、単板CCDから色信号を得るため、動きのある被写体に対しても高精度な識別が可能となる。
なお、動画像を処理する場合を説明したが、外部I/F部121の不図示シャッタボタンの操作に応じて静止画像を撮像し、その撮像した静止画像に対して同様の処理を行うことも可能なことは勿論である。
[変形例1]
上記第2実施形態では、CCD101として単板CCDを用いる構成となっていたが、このような構成に限定される必要はない。例えば、二板CCDや三板CCDを用いた構成も可能である。
図13は、図8に示す第2の実施形態の構成において、単板のCCD101を第1CCD101Aと第2CCD101Bとの二板CCDに置換した構成となっている。基本構成は図8と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
内視鏡先端部にある撮像レンズ系100からの光束は、プリズム系128により二方向に分離され、第1CCD101A及び第2CCD101Bへ導かれる。本変形例では、第1CCD101A及び第2CCD101Bは各々3種類のカラーフィルタを有することを想定する。第1CCD101Aは、図14(A)に示すような、2×2画素を基本単位として、赤(R),黄色(Ye)フィルタが1画素ずつ配置され、緑(G)フィルタが2画素配置されたフィルタ129Aを前面に配置したものとする。一方、第2CCD101Bは、図14(B)に示すような、2×2画素を基本単位として、青(B),ライトブルー(LB)フィルタが1画素ずつ配置され、Gフィルタが2画素配置されたフィルタ129Aを前面に配置したものとする。ここで、第1CCD101Aと第2CCD101BにおけるGフィルタは同一であり、2×2画素における配置は排他的に設定されている。
第1CCD101A及び第2CCD101Bを介して撮像された映像信号は、増幅部105にて増幅され、A/D106にてデジタル信号へ変換されて、バッファ107へ転送される。補間部108は、制御部120の制御に基づき、バッファ107から単板状態の2つのフレーム信号を読み込み、公知の補間処理にて5種類の色信号からなる1つのフレーム信号を生成する。生成されたフレーム信号は、順次フレーム信号単位で、分離部111へ転送される。
分離部111は、制御部120の制御に基づき、補間部108から転送されるフレーム信号から、通常のカラー信号を生成するための色信号からなるフレーム信号を分離すると共に、基底ベクトルを用いた信号処理に使用する複数の周波数域に対応する色信号からなるフレーム信号を選択し分離する。例えば、図14(C)に示されるフィルタ129A,129Bに対応する5種類の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号としてB,G,Rからなるフレーム信号を分離して、信号処理部112へ転送する。また、基底ベクトルを用いた信号処理に使用する複数の周波数域のフレーム信号として、本変形例においても短波長域のフレーム信号と長波長域のフレーム信号との2つを想定する。分離部111によって、短波長域のフレーム信号はB,BL,Gを、長波長域のフレーム信号としてはG,Ye,Rの色信号の色信号がそれぞれ独立に分離され、算出部113へ転送される。なお、Gの色信号は両波長域で共通に使用されることになる。短波長域のフレーム信号及び長波長域のフレーム信号がそれぞれ3種類の色信号で構成されている。このため、使用する基底ベクトルの総数は、上記第1実施形態と同様に3となる。
なお、上記では二板CCDで使用するカラーフィルタを5種類としていた。これは、通常のカラー信号を生成する場合に使用されるGの色信号を全画素から得られるように想定したためである。Gの色信号は、輝度信号の主要成分であり、Gの色信号を全画素から得られることにより解像度を向上することができる。
しかしながら、このような構成に限定される必要はない。例えば図15(A)及び(B)に示すようなフィルタ129C,129Dのように、F1,F2,F3,F4,F5,F6,F7,F8からなる8種類のカラーフィルタを用いる構成も可能である。この場合、図15(C)に示すように、短波長域のフレーム信号はF1,F2,F3,F4の色信号から構成され、長波長域のフレーム信号はF5,F6,F7,F8の色信号から構成されて、使用する基底ベクトルの総数は4となる。また、通常のカラー信号を生成するための色信号としてはF1,F4,F8が使用される。このような構成とした場合、通常のカラー信号に関する分解能は低下するが、基底ベクトルを用いた信号処理の精度を向上することができる。
[変形例2]
また、上記第2実施形態では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD101からの映像信号を未処理のままのRawデータ形態として、制御部120から、識別対象となる被写体やカラー撮像系,照明光などの撮像条件をヘッダ情報として出力し、それら映像信号とヘッダ情報を図示しないコンピュータに入力して、ソフトウェアにて処理する構成も可能である。
図16(A)は、不図示コンピュータによる信号処理のソフトウェア処理に関するフローチャートを示す図である。なお、図7(A)に示した上記第1実施形態における信号処理のフローチャートと同一な処理ステップに関しては、同一な参照ステップ符号を割り当てている。
即ち、コンピュータはまず、映像信号と、識別対象となる被写体及びカラー撮像系,照明光などの撮像条件に関するヘッダ情報を入力する(ステップS101)。なお、本変形例においては、図9(A)に示す4種類のカラーフィルタからなるフィルタ127を前面に配置した単板CCDからの映像信号を処理することを想定する。
上記ステップS101に続けて、図10(A)及び(B)に示すような複数の基底ベクトルを入力し(ステップS102)、また、図11(A)及び(B)に示すような光源の分光輝度特性を複数、及び図11(C)及び(D)に示すような複数のカラー撮像系の分光感度特性を入力する(ステップS103)。ここで、上記複数の基底ベクトル及び複数の撮像システムの分光特性は、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
そして、第1実施形態と同様にして、基底ベクトルに関する重み係数算出に使用されるシステム行列の逆行列M −1及びM −1の所定の係数、つまり要素ms11,ms12,ms21,ms22及びml11,ml12,ml21,ml22を算出する(ステップS104)。その後、上記入力された映像信号から順次フレーム信号を抽出し(ステップS105)、公知の補間処理にて欠落する色信号を生成する(ステップS106)。そして、図9(B)に示すように短波長域と長波長域の2つの波長域に属する色信号からなるフレーム信号、及び通常のカラー信号を生成するための色信号からなるフレーム信号を分離する(ステップS107)。そして、その通常のカラー信号を生成するための色信号からなるフレーム信号に対して、公知の階調処理や強調処理といった信号処理を行って、通常のカラー信号を生成する(ステップS108)。
また、上記ステップS108の信号処理と並行して、波長域を一つ選択して(ステップS109)、その選択した波長域に属する色信号からなるフレーム信号に対して上記(11)式及び(12)式、または上記(13)式及び(14)式に示されるように基底ベクトルに関する重み係数を算出する(ステップS110)。例えば、短波長域に属する色信号からなるフレーム信号に対して上記(11)式及び(12)式に示されるように基底ベクトル(O1(λ),O2(λ))に関する重み係数(w1sij,w2sij)を算出する。
その後、全ての波長域に関する処理が完了したかを判断し(ステップS113)、完了していない場合は上記ステップS109に戻る。そして、今度は例えば長波長域を選択して(ステップS109)、その長波長域に属する色信号からなるフレーム信号に対して上記(13)式及び(14)式に示されるように基底ベクトル(O1(λ),O2(λ))に関する重み係数(w1lij,w2lij)を算出する(ステップS110)。
而して、上記ステップS113において全ての波長域に関する処理が完了したと判断した場合には、詳細は後述するように、通常のカラー信号に対して、上記算出した基底ベクトルに関する重み係数(w1sij,w2sij,w1lij,w2lij)に基づき強調処理を行う(ステップS116)。そして、その強調処理がなされた通常のカラー信号をフレーム信号単位で、当該コンピュータに接続された図示しない表示モニタ等に出力する(ステップS114)。
その後、全てのフレーム信号が完了したかを判断し(ステップS115)、完了していない場合は上記ステップS105に戻り、また、完了した場合は終了する。
図16(B)は、上記ステップS116における強調処理に関するフローチャートを示す図である。
まず、上記(15)式に示されるように輝度信号及び色差信号を算出する(ステップS211)。その後、図12(B)に示される強調用のゲインを求めるためのゲインテーブルを入力する(ステップS212)。ここで、上記ゲインテーブルは、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。そして、この入力されたゲインテーブルを用いて、上記算出した基底ベクトル(O1(λ),O2(λ))に関する重み係数(w1sij,w2sij,w1lij,w2lij)から強調用のゲイン(gainsij,gainlij)を波長域ごとに算出する(ステップS213)。その後、上記(16)式に示されるように、色差信号に上記算出したゲイン(gainsij,gainlij)を乗算することで強調処理を行う(ステップS214)。そして、上記(17)式に示されるように、輝度信号とこの強調処理がなされた色差信号とを合成することで、強調処理がなされた通常のカラー信号を算出する(ステップS215)。
[第3実施形態]
次に、本発明の第3実施形態を説明する。
(構成)
図17は、本発明の第3実施形態に係る信号処理システムを適用した顕微鏡の構成を示す図である。本実施形態は、図1に示す第1実施形態の構成から、補間部108、算出部113、基底ベクトルROM114及びシステム分光特性ROM115を省略し、回転フィルタ130、相関係数算出部131及び導出係数ROM132が追加された構成になっている。基本構成は上記第1実施形態と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみを説明する。
本実施形態においては、顕微鏡の撮像レンズ系100,CCD101を介して撮像された映像信号は、増幅部105にて増幅され、A/D106にてデジタル信号へ変換される。なお、本実施形態ではCCD101として白黒用の単板CCDを想定する。顕微鏡の対物ステージには、照明光源103からの照明光が、回転フィルタ130に装着された複数のカラーフィルタ、本実施形態では8種類のカラーフィルタを透過した後、照明レンズ系102を介して導かれている。バッファ107は、WB部109、測光評価部110及び分離部111へ接続されている。分離部111は、信号処理部112及び相関係数算出部131へ接続されている。導出係数ROM132は、相関係数算出部131へ接続されている。相関係数算出部131は、正規化部116へ接続されている。制御部120は、回転フィルタ130及び相関係数算出部131と双方向に接続されている。
(作用)
本実施形態に係る信号処理システムの作用も、基本的に上記第1実施形態と同等であり、異なる部分のみ説明する。
図17において、信号の流れを説明する。外部I/F部121を介して後述する識別対象となる被写体などの撮像条件を設定した後、外部I/F部121における図示しないシャッタボタンを半押しにすることでプリ撮像モードに入る。撮像レンズ系100,CCD101を介して撮像された映像信号はアナログ信号として出力される。
なお、本実施形態においては、回転フィルタ130に8種類のカラーフィルタを装着していることを想定しており、1枚の映像信号は、回転フィルタ130を回転させることで8種類の照明光を生成し、8回撮像することにより得られる8種類の色信号から構成されることになる。図18は、上記回転フィルタ130におけるF1,F2,F3,F4,F5,F6,F7,F8からなる8種類のカラーフィルタの分光特性を示す図である。上記回転フィルタ130の回転は、制御部120の制御に基づきCCD101での撮像と同期して行われる。このように、本実施形態では、複数の色信号が、照明光源103及び回転フィルタ130によって発生される、カラー撮像系による被写体の撮像時に使用される照明光により生成される。
上記アナログ信号は増幅部105にて所定量増幅され、A/D106にてデジタル信号へ変換されてバッファ107へ転送される。バッファ107は、8種類の色信号からなる映像信号を記録することができる。バッファ107内の映像信号は、制御部120の制御に基づき、WB部109及び測光評価部110へ転送される。上記第1実施形態と同様に、WB部109にてホワイトバランス処理が、測光評価部110にて露光制御が、それぞれ行われる。
次に、外部I/F部121におけるシャッタボタンを全押しにすることにより本撮像が行われ、映像信号はプリ撮像と同様にバッファ107へ転送される。バッファ107内の映像信号は、分離部111へ転送される。分離部111は、制御部120の制御に基づき、バッファ107に記録された8種類の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号からなるフレーム信号を分離すると共に、基底ベクトルを用いた信号処理に使用する複数の周波数域に対応する色信号からなるフレーム信号を選択し分離する。例えば、図18に示される回転フィルタ130のカラーフィルタに対応する8種類の色信号からなるフレーム信号から、通常のカラー信号を生成するための色信号としてF1,F4,F8からなるフレーム信号が分離され、信号処理部112へ転送される。また、基底ベクトルを用いた信号処理に使用する複数の周波数域のフレーム信号として、本実施形態では短波長域のフレーム信号、中波長域のフレーム信号及び長波長域のフレーム信号の3つを想定する。該分離部111によって、短波長域のフレーム信号はF1,F2,F3が、中波長域のフレーム信号はF2,F3,F4,F5,F6が、長波長域のフレーム信号としてはF6,F7,F8の色信号が、それぞれ独立に分離され、相関係数算出部131へ転送される。
信号処理部112は、制御部120の制御に基づき、分離部111から転送されるF1,F4,F8の三色信号から構成される映像信号に対して公知の階調処理及び強調処理を行うことで通常のカラー信号を算出し、算出した通常のカラー信号を第2出力部119へ転送する。カラーフィルタF1,F4,F8の分光特性は通常のB,G,R信号に対応するため、第2出力部119は、この通常のカラー信号を第2の出力信号として表示することになる。
一方、導出係数ROM132には、識別対象となる被写体毎に、当該被写体の既知の分光特性、被写体の撮像に供するカラー撮像系に関する分光特性と被写体の撮像時に使用する照明光に関する分光特性に基づいて、識別対象となる被写体の分光特性と映像信号との間の相関性を導出する導出係数が予め算出されて、記憶されている。
相関係数算出部131は、外部I/F部121を介して設定された上記撮像条件における識別対象となる被写体の選択に応じた制御部120の制御に基づき、上記導出係数ROM132から上記導出係数を読み込む。その後、分離部111から転送されるF1,F2,F3の三色信号から構成される短波長域の映像信号、F2,F3,F4,F5,F6の五色信号から構成される中波長域の映像信号、及びF6,F7,F8の三色信号から構成される長波長域の映像信号に対して、上記読み込んだ導出係数を用いて、識別対象となる被写体の分光特性と映像信号間の相関係数を算出する。この相関係数算出部131によって算出された算出された相関係数は、上記識別対象の被写体の存在に比例した値をとるものであり、正規化部116へ転送され、映像信号の信号レベル(例えば、信号レベルが8ビットならば「0」〜「255」)と合致するよう正規化処理がなされる。正規化処理後の相関係数は、疑似カラー化部117へ転送される。
疑似カラー化部117は、上記正規化部116にて正規化された短波長域、中波長域及び長波長域の相関係数に関して、それぞれ異なる色を割り当てることで疑似カラー信号を生成する。本実施形態においては、例えば、短波長域の相関係数に赤を、中波長域の相関係数に緑を、長波長域の相関係数に青を、それぞれ割り当てる。疑似カラー化部117は、このように生成した疑似カラー信号を第1出力部118へ転送し、これにより、第1出力部118には、識別対象の被写体に関して波長域ごとに独立した疑似カラー信号が表示されることになる。なお、短波長域は対象物の表層に関する情報を、中波長域は対象物の中層に関する情報を、長波長域は対象物の深層に関する情報を、それぞれ意味する。
また、第1出力部118及び第2出力部119は、液晶ディスプレイに限定されるものではなく、ハードディスクやメモリカードなどの記録媒体にフレーム信号を順次記録保存する形態も可能である。
図19は、上記相関係数算出部131の構成の一例を示す図であり、該相関係数算出部131は、係数選択部221と乗加算部222とからなる。ここで、上記導出係数ROM132は、係数選択部221を介して乗加算部222へ接続している。上記分離部111は、乗加算部222へ接続している。乗加算部222は、上記正規化部116へ接続している。上記制御部120は、係数選択部221及び乗加算部222と双方向に接続されている。
係数選択部221は、上記外部I/F部121を介して設定された上記撮像条件における識別対象となる被写体の情報を制御部120から受け取り、上記情報に基づき導出係数ROM132から識別対象となる被写体の分光特性と映像信号との間の相関性を導出する導出係数を読み込む。このように、上記導出係数ROM132及び該係数選択部221は、導出係数取得部として機能する。導出係数ROM132には、上記(1)式や上記(2)式に示されるシステム行列の逆行列M−1の各要素が導出係数として記録されている。なお、本実施形態では、3つの波長域を想定しているため、システム行列の逆行列M−1も3つとなる。また、システム行列の逆行列のサイズは短波長域及び長波長域が3×3、中波長域が5×5となる。また、本実施形態は、顕微鏡においては、被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とが固定されている、ということを前提としている。この場合は、最終的に得られるシステム行列の逆行列M−1は固定されるため、上記(1)式や(2)式及び上記(3)式や(4)式に示す算出の過程を省略することができ、逆行列M−1のみを記録しておけば良いことになる。
なお、識別対象となる被写体の既知の分光特性に基づく基底ベクトルに関しては予め想定される種類を用意し、複数のシステム行列の逆行列M−1を記録しているものとする。上記導出係数は、乗加算部222へ転送される。
乗加算部222は、制御部120の制御に基づき、係数選択部221から導出係数を、上記分離部111から波長域ごとの映像信号を画素単位で読み込む。この後、上記(5)式や(6)式に示されるように重み係数を求める。上記重み係数は、識別対象となる被写体の分光特性と映像信号との間の相関関係を表す相関係数となる。この相関係数は、順次、上記正規化部116へ転送される。
なお、本第3実施形態においては、中波長域の精度を高めるため、中波長域のみ5種類の色信号を用い、短波長域及び長波長域は3種類の色信号を用いる構成となっている。しかしながら、このような構成に限定される必要はない。例えば、全ての波長域を3種類とする構成も可能であるし、特定の波長域を4種類,5種類と増加させた構成も可能である。これは、処理速度の高速化と信号処理の精度向上を考慮して、任意に設定することができる。
以上のように、本第3実施形態によれば、分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく導出係数から、上記識別対象の被写体の存在に比例した値をとる上記識別対象となる被写体の既知の分光特性と映像信号との間の相関係数を波長域ごとに独立に求め、それらの相関係数に基づき上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する。このように、本第3実施形態では、識別対象となる被写体の分光特性に基づく導出係数を用いることで、上記識別対象の被写体の存在に比例した値をとる相関係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行う必要が無く、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、導出係数からの相関係数の算出は容易であり、且つ相関係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。
さらに、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
また、本第3実施形態では、導出係数に関する相関係数を正規化することで出力信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。
さらに、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。また、通常の処理がなされた映像信号が独立に出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。各波長域の映像信号は、波長方向に連続となる複数の色信号から構成されるため、導出係数の波長域ごとの取得が容易となり、波長方向に不連続な色信号から各波長域の映像信号を構成する場合に比して各波長域の映像信号における信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。
また、本第3実施形態では、複数の色信号が時分割的に得られるため、撮像素子の全画素を用いて色信号を得ることができるので、解像度の優れた識別が可能となる。
なお、上記第3実施形態の説明では、顕微鏡による静止画像処理を行う構成となっていたが、このような構成に限定される必要はない。カラー撮像系に関する分光特性及び被写体の撮像時に使用する照明光に関する分光特性が固定されるのであれば、上述した第1及び第2実施形態と同様に、面順次方式の内視鏡などの動画像処理へも適用することが可能である。また、これとは逆に、上記第1及び第2実施形態を静止画像処理に適用する構成も可能である。
さらに、別体の撮像部で撮像された映像信号を未処理のRawデータ形態で、識別対象となる被写体などの撮像条件に関する付随情報をヘッダ部に記録した記録媒体から、映像信号及び付随情報を取得して処理をすることも可能である。また、上述した第1及び第2実施形態と同様に単板CCDや二板CCD、さらには三板CCDを用いて複数の色信号を得る構成にも適用可能である。
[変形例1]
また、上記第3実施形態では、通常のカラー信号が第2出力部119で、識別対象の存在に関する疑似カラー信号が第1出力部118で表示される構成となっていたが、このような構成に限定される必要はない。
例えば、図20に示すような導出係数に関する相関係数に基づき通常カラー信号を強調処理し、1つの出力信号として表示する構成も可能である。図20は、図17に示す構成から、正規化部116、疑似カラー化部117、第1出力部118及び第2出力部119を省略し、強調部125及び出力部126が追加された形態となっている。基本構成は図17と同等であり、同一の構成には同一の名称と参照符号を割り当てている。以下、異なる部分のみ説明する。
信号処理部112及び相関係数算出部131は、強調部125へ接続されている。強調部125は、出力部126へ接続されている。制御部120は、強調部125及び出力部126と双方向に接続されている。強調部125へは、信号処理部112から通常のカラー信号が、相関係数算出部131から識別対象となる被写体の分光特性と映像信号との間の相関係数が、それぞれ転送される。
このような構成において、強調部125は、制御部120の制御に基づき、信号処理部112から転送される通常のカラー信号に対して相関係数算出部131から転送される相関係数に基づき強調処理を行う。上記強調処理としては、上記第2実施形態における図12(A)に示されるような彩度強調処理が想定され、これらの強調量は相関係数に比例する形態で実施される。強調処理後の通常のカラー信号は出力部126へ転送される。
これにより、オキシヘモグロビンなどの識別対象の被写体の存在領域のみが強調され、認識能を向上することが可能となる。この強調処理は、波長域ごとに独立に行うことも可能であるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。また、識別対象である被写体の存在しない領域、つまり識別対象以外の被写体の存在領域に関しても、通常の処理がなされたカラー信号が出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。
[変形例2]
また、上記第3実施形態では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD101からの映像信号を未処理のままのRawデータ形態として、制御部120から、識別対象となる被写体などの撮像条件をヘッダ情報として出力し、それら映像信号とヘッダ情報を図示しないコンピュータに入力して、ソフトウェアにて処理する構成も可能である。
図21(A)は、不図示コンピュータによる信号処理のソフトウェア処理に関するフローチャートを示す図である。なお、図7(A)に示す上記第1実施形態における信号処理のフローチャートと同一な処理ステップに関しては、同一な参照ステップ符号を割り当てている。
即ち、コンピュータはまず、映像信号と、識別対象となる被写体などの撮像条件に関するヘッダ情報を入力すると共に(ステップS101)、複数の導出係数を入力する(ステップS117)。ここで、上記導出係数は、コンピュータが備える記録媒体や着脱自在な記録媒体から読み出したり、ネットワークを介して読み込んだりすることで入力する。
次に、図18に示すように短波長域、中波長域及び長波長域の3つの波長域に属する色信号からなる映像信号、及び通常のカラー信号を生成するための色信号からなる映像信号を分離する(ステップS107)。そして、その通常のカラー信号を生成するための色信号からなる映像信号に対して、公知の階調処理や強調処理といった信号処理を行って、通常のカラー信号を生成する(ステップS108)。
また、上記ステップS108の信号処理と並行して、波長域を一つ選択して(ステップS109)、その選択した波長域に属する色信号からなる映像信号に対して詳細は後述するような相関係数算出処理により、入力した導出係数に基づき識別対象となる被写体の既知の分光特性と映像信号との間の相関係数を算出する(ステップS118)。そして、その相関係数を正規化し(ステップS111)、その正規化された相関係数に関して波長域ごとに独立した色を割り当てることで疑似カラー信号を生成する(ステップS112)。
その後、全ての波長域に関する処理が完了したかを判断し(ステップS113)、完了していない場合は上記ステップS109に戻って、上記の処理を繰り返す。
こうして、短波長域、中波長域及び長波長域の3つの波長域に関する処理が完了したならば、上記ステップS113において全ての波長域に関する処理が完了したと判断される。その場合には、通常のカラー信号及び識別対象の存在に関する疑似カラー信号の両者を、当該コンピュータに接続された図示しない表示モニタ等に独立に出力して(ステップS114)、終了する。
なお、顕微鏡の場合は、動画像ではなく静止画像を扱うため、図7(A)や図16(A)のような、全てのフレーム信号が完了したかの判断は不要である。
図21(B)は、上記ステップS118における相関係数算出処理に関するフローチャートを示す図である。
まず、上記ステップS117で入力された複数の導出係数の中から、上記ステップS101で入力したヘッダ情報中の識別対象となる被写体情報に基づき、導出係数を選択する(ステップS221)。そして、上記(5)式や(6)式に示されるように導出係数に基づき相関係数を算出して(ステップS222)、その算出された相関係数を出力する(ステップS223)。
以上、実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
(付記)
前記の具体的実施形態から、以下のような構成の発明を抽出することができる。
(1) 分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得する基底ベクトル取得部と、
上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離する分離部と、
上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を取得するシステム分光特性取得部と、
上記分離部にて分離した上記複数の波長域の映像信号、上記基底ベクトル取得部によって取得した上記基底ベクトル、及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記基底ベクトルに関する重み係数を上記波長域ごとに算出する算出部と、
上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
を有することを特徴とする信号処理システム。
(対応する実施形態)
この(1)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、基底ベクトルROM114、データ選択部201が上記基底ベクトル取得部に、分離部111が上記分離部に、システム分光特性ROM115、データ選択部201が上記システム分光特性取得部に、算出部113が上記算出部に、正規化部116、疑似カラー化部117、第1出力部118、第2出力部119、強調部125、出力部126が上記出力信号算出部に、それぞれ対応する。
(作用効果)
この(1)に記載の信号処理システムは、例えば識別対象となる被写体を含む被写体を撮像して得た複数の色信号からなる映像信号から上記識別対象の被写体を識別する際に、その識別対象の被写体の既知である分光特性に基づいて算出されている基底ベクトルと、上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性とを取得し、それら取得した基底ベクトル及び撮像システムの分光特性から、上記識別対象の被写体の存在に比例した値をとる上記基底ベクトルに関する重み係数を所定の波長域ごとに独立に算出し、その重み係数に基づき上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出する。なお、取得とは、記録媒体から読み出すことやネットワークを介して読み込むことなどを意味する。
従って、この(1)に記載の信号処理システムによれば、識別対象となる被写体の既知である分光特性に基づく基底ベクトルを用いることで、上記識別対象の被写体の存在に比例した値をとる重み係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行うことなく、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別対象被写体の識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
(2) 複数の識別対象となる被写体の中から一つの被写体を選択する識別対象選択部をさらに有し、
上記基底ベクトル取得部は、上記識別対象選択部によって選択された一つの被写体の分光特性に基づく基底ベクトルを取得することを特徴とする(1)に記載の信号処理システム。
(対応する実施形態)
この(2)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、外部I/F部121が上記識別対象選択部が対応する。
(作用効果)
この(2)に記載の信号処理システムは、識別対象となる被写体の選択を受け付け、その選択に応じて、複数記録させておいた基底ベクトルから識別対象となる被写体の基底ベクトルの選択を行う。
従って、この(2)に記載の信号処理システムによれば、識別対象の被写体を選択できるため、システムとしての適用性が向上し、多様な用途での利用が可能となる。
(3) 複数のカラー撮像系及び複数の照明光の中から一つのカラー撮像系及び一つの照明光を選択するカラー撮像系選択部をさらに有し、
上記システム分光特性取得部は、上記カラー撮像系選択部によって選択された一つのカラー撮像系に関する分光特性と一つの照明光に関する分光特性とを上記撮像システムの分光特性として取得することを特徴とする(1)に記載の信号処理システム。
(対応する実施形態)
この(3)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、外部I/F部121が上記カラー撮像系選択部に対応する。
(作用効果)
この(3)に記載の信号処理システムは、カラー撮像系及び照明光の選択を受け付け、その選択に応じて、それぞれ複数記録させておいたカラー撮像系に関する分光特性及び照明光に関する分光特性から、使用する分光特性をそれぞれ選択する。
従って、この(3)に記載の信号処理システムによれば、カラー撮像系及び照明光を選択できるため、システムとしての適用性が向上し、多様な用途での利用が可能となる。
(4) 上記基底ベクトル取得部は、上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルに加えて、上記識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルをさらに取得することを特徴とする(1)に記載の信号処理システム。
(対応する実施形態)
この(4)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。
(作用効果)
この(4)に記載の信号処理システムは、識別対象となる被写体の既知の分光特性に基づく基底ベクトルと識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルとを用いる。
従って、この(4)に記載の信号処理システムによれば、識別対象以外の領域に対して基底ベクトルを用いた信号処理を適用することが可能となり、後段の出力信号を算出する処理における自由度が向上する。
(5) 上記算出部は、
上記基底ベクトル取得部によって取得した上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルと、上記システム分光特性取得部によって取得した上記撮像システムの分光特性とに基づき、上記撮像システムに関するシステム行列を上記波長域ごとに算出する行列算出部と、
上記行列算出部で算出した上記波長域ごとのシステム行列の逆行列を算出する逆行列算出部と、
上記波長域ごとに、上記逆行列算出部で算出した上記システム行列の逆行列と当該波長域の映像信号に含まれる色信号との間で乗加算処理を行うことで、上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルに関する重み係数を算出する乗加算部乗加算部と、
を有することを特徴とする(1)に記載の信号処理システム。
(対応する実施形態)
この(5)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、積算部202が上記行列算出部に、逆行列算出部204が上記行列算出部に、乗加算部207が上記乗加算部に、それぞれ対応する。
(作用効果)
この(5)に記載の信号処理システムは、識別対象となる被写体の基底ベクトル及び撮像システムの分光特性に基づくシステム行列の逆行列を算出し、この逆行列及び映像信号に基づき識別対象被写体の基底ベクトルに関する重み係数を算出する。
従って、この(5)に記載の信号処理システムによれば、識別対象となる被写体の既知の分光特性及び撮像システムの分光特性に基づく信号処理にて基底ベクトル、即ち識別対象に関する重み係数を算出するため、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。
(6) 上記出力信号算出部は、
上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数を正規化する正規化部と、
上記正規化部によって正規化された上記波長域ごとの基底ベクトルに関する重み係数に関して各々独立した色を割り当てる疑似カラー化部と、
上記疑似カラー化部によって疑似カラー化された上記波長域ごとの基底ベクトルに関する重み係数を合成し、その合成した重み係数を上記出力信号として出力する出力部と、
を有することを特徴とする(1)に記載の信号処理システム。
(対応する実施形態)
この(6)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、正規化部116が上記正規化部に、疑似カラー化部117が上記疑似カラー化部に、第1出力部118が上記出力部に、それぞれ対応する。
(作用効果)
この(6)に記載の信号処理システムは、識別対象となる被写体の既知の分光特性に基づく基底ベクトルに関する重み係数を正規化し、波長域ごとに独立した色からなる疑似カラー化信号を生成し、これらの疑似カラー化信号を合成することで出力信号として出力する。
従って、この(6)に記載の信号処理システムによれば、識別対象となる被写体の既知の分光特性に基づく基底ベクトルに関する重み係数を正規化することで識別対象に関する映像信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。また、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。
(7) 上記分離部は、上記カラー撮像系による被写体の撮像により得た複数の色信号からなる上記映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離し、
上記分離部にて分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出する信号処理部をさらに有することを特徴とする(1)に記載の信号処理システム。
(対応する実施形態)
この(7)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、信号処理部112が上記信号処理部に対応する。
(作用効果)
この(7)に記載の信号処理システムは、カラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号から、通常のカラー信号を算出する。
従って、この(7)に記載の信号処理システムによれば、通常の処理がなされたカラー信号も独立に算出され、そのようなカラー信号を出力すれば、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。
(8) 上記出力信号算出部は、
上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数を正規化する正規化部と、
上記正規化部によって正規化された上記波長域ごとの基底ベクトルに関する重み係数に関して各々独立した色を割り当てる疑似カラー化部と、
上記疑似カラー化部によって疑似カラー化された上記波長域ごとの基底ベクトルに関する重み係数を合成し、その合成した重み係数を上記出力信号として出力する出力部と、
上記信号処理部が算出した上記通常のカラー信号を第2の出力信号として出力する第2の出力部と、
を有することを特徴とする(7)に記載の信号処理システム。
(対応する実施形態)
この(8)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2が対応する。それらの実施形態及び変形例において、一例として、正規化部116が上記正規化部に、疑似カラー化部117が上記疑似カラー化部に、第1出力部118が上記出力部に、第2出力部119が上記第2出力部に、それぞれ対応する。
(作用効果)
この(8)に記載の信号処理システムは、識別対象となる被写体の既知の分光特性に基づく基底ベクトルに関する重み係数を正規化し、波長域ごとに独立した色からなる疑似カラー化信号を生成し、これらの疑似カラー化信号を合成することで出力信号として出力すると共に、カラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号から、通常のカラー信号を算出して第2の出力信号として出力する。
従って、この(8)に記載の信号処理システムによれば、識別対象となる被写体の既知の分光特性に基づく基底ベクトルに関する重み係数を正規化することで識別対象に関する映像信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。また、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。さらに、通常の処理がなされたカラー信号も独立に算出されて出力されるため、映像信号全体の認識をし易くなり、使用者に対する操作性が向上する。
(9) 上記出力信号算出部は、
上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記信号処理部が算出した上記通常のカラー信号の強調処理を行う強調部と、
上記強調部によって強調処理された上記通常のカラー信号を上記出力信号として出力する出力部と、
を有することを特徴とする(7)に記載の信号処理システム。
(対応する実施形態)
この(9)に記載の信号処理システムに関する実施形態は、第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、強調部125が上記強調部に、出力部126が上記出力部に、それぞれ対応する。
(作用効果)
この(9)に記載の信号処理システムは、基底ベクトルに関する重み係数に基づき通常の処理がなされたカラー信号を強調処理し、出力信号として出力する。
従って、この(9)に記載の信号処理システムによれば、識別対象となる被写体の分光特性に基づく基底ベクトルに関する重み係数から強調処理を行うため、識別対象の存在領域のみが強調され認識能を向上することが可能となる。この強調処理は、波長域ごとに独立に行うことも可能であるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。さらに、識別対象である被写体の存在しない領域、つまり識別対象外被写体の存在領域に関しても通常の処理がなされたカラー信号が出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。
(10) 分光特性が既知である識別対象となる被写体を含む被写体の撮像に供するカラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離する分離部と、
上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性、及び上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と各波長域の映像信号との間の相関性を示す導出係数を、上記波長域ごとに取得する導出係数取得部と、
上記分離部にて分離した上記複数の波長域の映像信号及び上記導出係数取得部によって取得した導出係数に基づき、上記波長域ごとに、上記識別対象となる被写体の上記既知の分光特性と当該波長域の映像信号との間の相関係数を算出する相関係数算出部と、
上記相関係数算出部によって算出した上記波長域ごとの相関係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
を有することを特徴とする信号処理システム。
(対応する実施形態)
この(10)に記載の信号処理システムに関する実施形態は、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、分離部111が上記分離部に、導出係数ROM132、係数選択部221が上記導出係数記録部に、乗加算部222が上記相関係数算出部に、正規化部116、疑似カラー化部117、第1出力部118、第2出力部119、強調部125、出力部126が上記出力信号算出部に、それぞれ対応する。
(作用効果)
この(10)に記載の信号処理システムは、例えば識別対象となる被写体を含む被写体を撮像して得た複数の色信号からなる映像信号から上記識別対象の被写体を識別する際に、その識別対象の被写体の既知である分光特性と映像信号との間の相関性を導出する導出係数から、上記識別対象の被写体の存在に比例した値をとる相関係数を波長域ごとに算出し、その相関係数に基づき上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出する。
従って、この(10)に記載の信号処理システムによれば、識別対象となる被写体の既知である分光特性に基づく導出係数を用いることで、上記識別対象の被写体の存在に比例した値をとる相関係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行うことなく、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、導出係数からの相関係数の算出は容易であり、且つ相関係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。また、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
(11) 上記出力信号算出部は、
上記相関係数算出部によって算出した上記波長域ごとの相関係数を正規化する正規化部と、
上記正規化部によって正規化された上記波長域ごとの相関係数に関して各々独立した色を割り当てる疑似カラー化部と、
上記疑似カラー化部によって疑似カラー化された上記波長域ごとの相関係数を合成し、その合成した相関係数を上記出力信号として出力する出力部と、
を有することを特徴とする(10)に記載の信号処理システム。
(対応する実施形態)
この(11)に記載の信号処理システムに関する実施形態は、第3実施形態が対応する。その実施形態において、一例として、正規化部116が上記正規化部に、疑似カラー化部117が上記疑似カラー化部に、第1出力部118が上記出力部に、それぞれ対応する。
(作用効果)
この(11)に記載の信号処理システムは、導出係数に関する相関係数を正規化し、波長域ごとに独立した色からなる疑似カラー化信号を生成し、これらの疑似カラー化信号を合成することで出力信号として出力する。
従って、この(11)に記載の信号処理システムによれば、識別対象となる被写体の既知の分光特性に基づく導出係数に関する相関係数を正規化することで出力信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。また、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し高精度な識別が可能となる。
(12) 上記分離部は、上記カラー撮像系による被写体の撮像により得た複数の色信号からなる上記映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離し、
上記分離部にて分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出する信号処理部をさらに有することを特徴とする(10)に記載の信号処理システム。
(対応する実施形態)
この(12)に記載の信号処理システムに関する実施形態は、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、信号処理部112が上記信号処理部に対応する。
(作用効果)
この(12)に記載の信号処理システムは、カラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号から、通常のカラー信号を算出する。
従って、この(12)に記載の信号処理システムによれば、通常の処理がなされたカラー信号も独立に算出され、そのようなカラー信号を出力すれば、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。
(13) 上記出力信号算出部は、
上記相関係数算出部によって算出した上記波長域ごとの相関係数を正規化する正規化部と、
上記正規化部によって正規化された上記波長域ごとの相関係数に関して各々独立した色を割り当てる疑似カラー化部と、
上記疑似カラー化部によって疑似カラー化された上記波長域ごとの相関係数を合成し、その合成した相関係数を上記出力信号として出力する出力部と、
上記信号処理部が算出した上記通常のカラー信号を第2の出力信号として出力する第2出力部と、
を有することを特徴とする(10)に記載の信号処理システム。
(対応する実施形態)
この(13)に記載の信号処理システムに関する実施形態は、第3実施形態が対応する。その実施形態において、一例として、正規化部116が上記正規化部に、疑似カラー化部117が上記疑似カラー化部に、第1出力部118が上記出力部に、第2出力部119が上記第2出力部に、それぞれ対応する。
(作用効果)
この(13)に記載の信号処理システムは、導出係数に関する相関係数を正規化し、波長域ごとに独立した色からなる疑似カラー化信号を生成し、これらの疑似カラー化信号を合成することで出力信号として出力すると共に、カラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号から、通常のカラー信号を算出して第2の出力信号として出力する。
従って、この(13)に記載の信号処理システムによれば、識別対象となる被写体の既知の分光特性に基づく導出係数に関する相関係数を正規化することで出力信号を求めるため、識別対象の存在に関して高精度な出力信号が得られる。また、波長域ごとに独立した色を割り当てるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。さらに、通常の処理がなされたカラー信号も独立に算出されて出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。
(14) 上記出力信号算出部は、
上記相関係数算出部によって算出した上記波長域ごとの相関係数に基づき、上記信号処理部が算出した上記通常のカラー信号の強調処理を行う強調部と、
上記強調部によって強調処理された上記通常のカラー信号を上記出力信号として出力する出力部と、
を有することを特徴とする(10)に記載の信号処理システム。
(対応する実施形態)
この(14)に記載の信号処理システムに関する実施形態は、第3実施形態の変形例1が対応する。その変形例において、一例として、強調部125が上記強調部に、出力部126が上記出力部に、それぞれ対応する。
(作用効果)
この(14)に記載の信号処理システムは、導出係数に関する相関係数に基づき通常の処理がなされたカラー信号を強調処理し、出力信号として出力する。
従って、この(14)に記載の信号処理システムによれば、識別対象となる被写体の分光特性に基づく導出係数に関する相関係数から強調処理を行うため、識別対象の存在領域のみが強調され認識能を向上することが可能となる。この強調処理は、波長域ごとに独立に行うことも可能であるため、各波長域、即ち各深度の情報に対する分離能が向上し、高精度な識別が可能となる。さらに、識別対象である被写体の存在しない領域、つまり識別対象外被写体の存在領域に関しても通常の処理がなされたカラー信号が出力されるため、映像信号全体の認識がし易くなり、使用者に対する操作性が向上する。
(15) 上記分離部は、上記複数の色信号の分光特性における主波長に基づき上記複数の色信号を波長方向に並べた場合に、各波長域の映像信号が波長方向に連続となる色信号から構成されるように、上記カラー撮像系からの上記映像信号を上記複数の波長域の映像信号に分離することを特徴とする(1)又は(10)に記載の信号処理システム。
(対応する実施形態)
この(15)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、第2実施形態とその変形例1、及び第3実施形態とその変形例1が対応する。
(作用効果)
この(15)に記載の信号処理システムは、各波長域の映像信号が、波長方向に連続となる色信号から構成される。
従って、この(15)に記載の信号処理システムによれば、各波長域の映像信号が波長方向に連続となる色信号から構成されるため、波長域ごとに基底ベクトルに関する重み係数を算出する際の基底ベクトル及び撮像システムの分光特性の切り分け、又は導出係数の波長域ごとの取得が容易となり、波長方向に不連続な色信号から各波長域の映像信号を構成する場合に比して各波長域の映像信号における信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
(16) 上記カラー撮像系からの上記映像信号を構成する上記色信号が4種類以上であることを特徴とする(1)又は(10)に記載の信号処理システム。
(対応する実施形態)
この(16)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、第2実施形態とその変形例1、及び第3実施形態とその変形例1が対応する。
(作用効果)
この(16)に記載の信号処理システムは、映像信号を構成する色信号が4種類以上である。
従って、この(16)に記載の信号処理システムによれば、複数の波長域の映像信号に分離する場合に、各波長域の映像信号が複数の色信号から構成されることが可能となり、各波長域の映像信号における信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。
(17) 上記カラー撮像系からの上記映像信号を構成する上記色信号が上記カラー撮像系に使用される撮像素子により生成されることを特徴とする(1)又は(10)に記載の信号処理システム。
(対応する実施形態)
この(17)に記載の信号処理システムに関する実施形態は、第1実施形態とその変形例1及び2、及び第2実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、CCD101、第1CCD101A、第2CCD101B、フィルタ122、フィルタ129A、フィルタ129B、フィルタ129C、フィルタ129Dが上記撮像素子に対応する。
(作用効果)
この(17)に記載の信号処理システムは、映像信号を構成する色信号がカラー撮像系に使用される撮像素子により生成される。
従って、この(17)に記載の信号処理システムによれば、複数の色信号が時間的に同時に得られるため、動きのある被写体に対しても高精度な識別が可能となる。
(18) 上記カラー撮像系からの上記映像信号を構成する上記色信号が上記カラー撮像系による被写体の撮像時に使用される照明光により生成されることを特徴とする(1)又は(10)に記載の信号処理システム。
(対応する実施形態)
この(18)に記載の信号処理システムに関する実施形態は、第3実施形態とその変形例1が対応する。それらの実施形態及び変形例において、一例として、照明光源103及び回転フィルタ130によって発生される照明光が上記照明光に対応する。
(作用効果)
この(18)に記載の信号処理システムは、映像信号を構成する色信号が撮像時に使用される照明光により生成される。
従って、この(18)に記載の信号処理システムによれば、複数の色信号が時分割的に得られるため、撮像素子の全画素全画素を用いて色信号を得ることができるので、解像度の優れた識別が可能となる。
(19) 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、複数の色信号からなる映像信号を取得するステップと、
上記識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得するステップと、
上記取得した映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離するステップと、
上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を取得するステップと、
上記分離した上記複数の波長域の映像信号、上記取得した上記基底ベクトル、及び上記取得した上記撮像システムの分光特性に基づき、上記基底ベクトルに関する重み係数を上記波長域ごとに算出するステップと、
上記算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出するステップと、
をコンピュータに発揮させることを特徴とする信号処理プログラム。
(対応する実施形態)
この(19)に記載の信号処理プログラムに関する実施形態は、第1実施形態の変形例3及び第2実施形態の変形例2が対応する。それらの実施形態の変形例において、一例として、ステップS101が上記映像信号を取得するステップに、ステップS102が上記基底ベクトルを取得するステップに、ステップS107が上記分離するステップに、ステップS103が上記撮像システムの分光特性を取得するステップに、ステップS104、ステップS109、ステップS110、ステップS113が上記重み係数を波長域ごとに算出するステップに、ステップS111、ステップS112、ステップS116が上記出力信号を算出するステップに、それぞれ対応する。
(作用効果)
この(19)に記載の信号処理プログラムは、コンピュータに、例えば識別対象となる被写体を含む被写体を撮像して得た複数の色信号からなる映像信号から上記識別対象の被写体を識別する際に、その識別対象の被写体の既知である分光特性に基づいて算出されている基底ベクトルと、上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性とを取得させ、それら取得した基底ベクトル及び撮像システムの分光特性から、上記識別対象の被写体の存在に比例した値をとる上記基底ベクトルに関する重み係数を所定の波長域ごとに独立に算出させ、その重み係数に基づき上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出させる。なお、取得とは、記録媒体から読み出すことやネットワークを介して読み込むことなどを意味する。
従って、この(19)に記載の信号処理プログラムによれば、識別対象となる被写体の既知である分光特性に基づく基底ベクトルを用いることで、上記識別対象の被写体の存在に比例した値をとる重み係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行うことなく、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別対象被写体の識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
(20) 上記基底ベクトルを取得するステップは、さらに、上記識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルも取得することを特徴とする(19)に記載の信号処理プログラム。
(対応する実施形態)
この(20)に記載の信号処理プログラムに関する実施形態は、第1の変形例3及び第2実施形態の変形例2が対応する。
(作用効果)
この(20)に記載の信号処理プログラムは、コンピュータに、識別対象となる被写体の既知の分光特性に基づく基底ベクトルと識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルとを用いさせる。
従って、この(20)に記載の信号処理プログラムによれば、識別対象以外の領域に対して基底ベクトルを用いた信号処理を適用することが可能となり、後段の出力信号を算出する処理における自由度が向上する。
(21) 上記基底ベクトルに関する重み係数を上記波長域ごとに算出するステップは、
上記取得した上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルと、上記取得した上記撮像システムの分光特性とに基づき、上記撮像システムに関するシステム行列を上記波長域ごとに算出するステップと、
上記算出した上記波長域ごとのシステム行列の逆行列を算出するステップと、
上記波長域ごとに、上記算出した上記システム行列の逆行列と当該波長域の映像信号に含まれる色信号との間で乗加算処理を行うことで、上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルに関する重み係数を算出するステップと、
を有することを特徴とする(19)に記載の信号処理プログラム。
(対応する実施形態)
この(21)に記載の信号処理プログラムに関する実施形態は、第1実施形態の変形例3及び第2実施形態の変形例2が対応する。それらの実施形態の変形例において、一例として、ステップS201乃至ステップS203が上記システム行列を波長域ごとに算出するステップに、ステップS204が上記逆行列を算出するステップに、ステップS109、ステップS110、ステップS113が上記重み係数を算出するステップに、それぞれ対応する。
(作用効果)
この(21)に記載の信号処理プログラムは、コンピュータに、識別対象となる被写体の基底ベクトル及び撮像システムの分光特性に基づくシステム行列の逆行列を算出させ、この逆行列及び映像信号に基づき識別対象被写体の基底ベクトルに関する重み係数を算出させる。
従って、この(21)に記載の信号処理プログラムによれば、識別対象となる被写体の既知の分光特性及び撮像システムの分光特性に基づく信号処理にて基底ベクトル、即ち識別対象に関する重み係数を算出するため、信号処理に起因する誤差の発生が少なく信頼性の高い識別が可能となる。
(22) 上記取得した映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離するステップと、
上記分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出するステップと、
をさらに有することを特徴とする(19)に記載の信号処理プログラム。
(対応する実施形態)
この(22)に記載の信号処理プログラムに関する実施形態は、第1実施形態の変形例3及び第2実施形態の変形例2が対応する。それらの実施形態の変形例において、一例として、ステップS107が上記分離するステップに、ステップS108が上記カラー信号を算出するステップに、それぞれ対応する。
(作用効果)
この(22)に記載の信号処理プログラムは、コンピュータに、カラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号から、通常のカラー信号を算出させる。
従って、この(22)に記載の信号処理プログラムによれば、通常の処理がなされたカラー信号も独立に算出され、そのようなカラー信号を出力すれば、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。
(23) 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、複数の色信号からなる映像信号を取得するステップと、
上記取得した映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離するステップと、
上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性、及び上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と各波長域の映像信号との間の相関性を示す導出係数を、上記波長域ごとに取得するステップと、
上記分離した上記複数の波長域の映像信号及び上記取得した導出係数に基づき、上記波長域ごとに、上記識別対象となる被写体の上記既知の分光特性と当該波長域の映像信号との間の相関係数を算出するステップと、
上記算出した上記波長域ごとの相関係数に基づき、上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出するステップと、
をコンピュータに発揮させることを特徴とする信号処理プログラム。
(対応する実施形態)
この(23)に記載の信号処理プログラムに関する実施形態は、第3実施形態の変形例2が対応する。その実施形態の変形例において、一例として、ステップS101が上記映像信号を取得するステップに、ステップS107が上記分離するステップに、ステップS117が上記導出係数を波長域ごとに取得するステップに、ステップS109、ステップS118、ステップS113が上記相関係数を算出するステップに、ステップS111、ステップS112が上記出力信号を算出するステップに、それぞれ対応する。
(作用効果)
この(23)に記載の信号処理プログラムは、例えば識別対象となる被写体を含む被写体を撮像して得た複数の色信号からなる映像信号から上記識別対象の被写体を識別する際に、その識別対象の被写体の既知である分光特性と映像信号との間の相関性を導出する導出係数から、上記識別対象の被写体の存在に比例した値をとる相関係数を波長域ごとに算出させ、その相関係数に基づき上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出させる。
従って、この(23)に記載の信号処理プログラムによれば、識別対象となる被写体の既知である分光特性に基づく導出係数を用いることで、上記識別対象の被写体の存在に比例した値をとる相関係数を算出することができるので、従来の最小自乗法に基づく近似のように誤差を含む信号処理を行うことなく、よって、信号処理に起因する誤差の発生が少なく、信頼性の高い識別が可能となる。また、広帯域の通常の照明光を使用するため、ノイズによる影響を抑制でき、安定性のある識別が可能となる。さらに、導出係数からの相関係数の算出は容易であり、且つ相関係数から直接出力信号を算出するため、処理の高速化と低コスト化が可能となる。また、特定の波長域の映像信号ごとに独立に信号処理を行うため、或る波長域、例えば短波長域の映像信号からは例えば表層の血管を識別でき、他の波長域、例えば長波長域の映像信号からは例えば深層の血管を識別できる、というように所望の深度の情報を得ることが可能となる。
(24) 上記取得した映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離するステップと、
上記分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出するステップと、
をさらに有することを特徴とする(23)に記載の信号処理プログラム。
(対応する実施形態)
この(24)に記載の信号処理プログラムに関する実施形態は、第3実施形態の変形例2が対応する。その実施形態の変形例において、一例として、ステップS107が上記分離するステップに、ステップS108が上記カラー信号を算出するステップに、それぞれ対応する。
(作用効果)
この(24)に記載の信号処理プログラムは、コンピュータに、カラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号から、通常のカラー信号を算出させる。
従って、この(24)に記載の信号処理プログラムによれば、通常の処理がなされたカラー信号も独立に算出され、そのようなカラー信号を出力すれば、映像信号全体の認識を行うことが可能となり、使用者に対する操作性が向上する。
図1は、本発明の第1実施形態に係る信号処理システムを適用した内視鏡の構成を示す図である。 図2(A)は、6種類のカラーフィルタを備えるフィルタの構成を示す図であり、図2(B)は、図2(A)の各カラーフィルタの分光特性を示す図であり、図2(C)は、第1実施形態の変形例1における6種類のカラーフィルタを備える別構成のフィルタの各カラーフィルタの分光特性を示す図である。 図3は、算出部の構成の一例を示す図である。 図4(A)は、短波長域の基底ベクトルの一例を示す図であり、図4(B)は、長波長域の基底ベクトルの一例を示す図である。 図5(A)は、短波長域の光源の分光輝度特性を示す図であり、図5(B)は、長波長域の光源の分光輝度特性を示す図であり、図5(C)は、短波長域のカラー撮像系の分光感度特性示す図であり、図5(D)は、長波長域のカラー撮像系の分光感度特性を示す図である。 図6は、第1実施形態の変形例2に係る信号処理システムの構成を示す図である。 図7(A)は、第1実施形態の変形例3における信号処理のソフトウェア処理に関するフローチャートを示す図であり、図7(B)は、算出処理に関するフローチャートを示す図である。 図8は、本発明の第2実施形態に係る信号処理システムを適用した内視鏡の構成を示す図である。 図9(A)は、4種類のカラーフィルタでなるフィルタの構成を示す図であり、図9(B)は、図9(A)の各カラーフィルタの分光特性を示す図である。 図10(A)は、短波長域の基底ベクトルの一例を示す図であり、図10(B)は、長波長域の基底ベクトルの一例を示す図である。 図11(A)は、短波長域の光源の分光輝度特性を示す図であり、図11(B)は、長波長域の光源の分光輝度特性を示す図であり、図11(C)は、短波長域のカラー撮像系の分光感度特性を示す図であり、図11(D)は、長波長域のカラー撮像系の分光感度特性を示す図である。 図12(A)は、強調部の構成の一例を示す図であり、図12(B)は、強調用のゲインテーブルの一例を示す図である。 図13は、第2実施形態の変形例1に係る信号処理システムを適用した内視鏡の構成を示す図である。 図14(A)は、第1CCDの前面に配される4種類のカラーフィルタを備えるフィルタの構成を示す図であり、図14(B)は、第2CCDの前面に配される4種類のカラーフィルタを備えるフィルタの構成を示す図であり、図14(C)は、図14(A)及び(B)の各カラーフィルタの分光特性を示す図である。 図15(A)は、第1CCDの前面に配される4種類のカラーフィルタを備えるフィルタの別の構成を示す図であり、図15(B)は、第2CCDの前面に配される4種類のカラーフィルタを備えるフィルタの別の構成を示す図であり、図15(C)は、図15(A)及び(B)の各カラーフィルタの分光特性を示す図である。 図16(A)は、第2実施形態の変形例2における信号処理のソフトウェア処理に関するフローチャートを示す図であり、図16(B)は、算出処理に関するフローチャートを示す図である。 図17は、本発明の第3実施形態に係る信号処理システムを適用した顕微鏡の構成を示す図である。 図18は、回転フィルタにおける各カラーフィルタの分光特性を示す図である。 図19は、相関係数算出部の構成の一例を示す図である。 図20は、第3実施形態の変形例1に係る信号処理システムを適用した顕微鏡の構成を示す図である。 図21(A)は、第3実施形態の変形例2における信号処理のソフトウェア処理に関するフローチャートを示す図であり、図21(B)は、強調処理に関するフローチャートを示す図である。
符号の説明
100…撮像レンズ系、 101…CCD、 101A…第1CCD、 101B…第2CCD、 102…照明レンズ系、 103…照明光源、 104…光ファイバ、 105…増幅部、 106…A/D、 107,203,205,212…バッファ、 108…補間部、 109…WB部、 110…測光評価部、 111…分離部、 112…信号処理部、 113…算出部、 114…基底ベクトルROM、 115…システム分光特性ROM、 116…正規化部、 117…疑似カラー化部、 118…第1出力部、 119…第2出力部、 120…制御部、 121…外部I/F部、 122,127,129A,129B,129C,129D…フィルタ、 123…入力部、 124…ヘッダ情報解析部、 125…強調部、 126…出力部、 128…プリズム系、 130…回転フィルタ、 131…相関係数算出部、 132…導出係数ROM、 201…データ選択部、 202…積算部、 204…逆行列算出部、 206,221…係数選択部、 207,222…乗加算部、 211…輝度色差分離部、 213…強調ゲイン算出部、 214…強調関数ROM、 215…ゲイン乗算部、 216…輝度色差合成部。

Claims (24)

  1. 分光特性が既知である識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得する基底ベクトル取得部と、
    上記識別対象となる被写体を含む被写体の撮像に供するカラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離する分離部と、
    上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を取得するシステム分光特性取得部と、
    上記分離部にて分離した上記複数の波長域の映像信号、上記基底ベクトル取得部によって取得した上記基底ベクトル、及び上記システム分光特性取得部によって取得した上記撮像システムの分光特性に基づき、上記基底ベクトルに関する重み係数を上記波長域ごとに算出する算出部と、
    上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
    を有することを特徴とする信号処理システム。
  2. 複数の識別対象となる被写体の中から一つの被写体を選択する識別対象選択部をさらに有し、
    上記基底ベクトル取得部は、上記識別対象選択部によって選択された一つの被写体の分光特性に基づく基底ベクトルを取得することを特徴とする請求項1に記載の信号処理システム。
  3. 複数のカラー撮像系及び複数の照明光の中から一つのカラー撮像系及び一つの照明光を選択するカラー撮像系選択部をさらに有し、
    上記システム分光特性取得部は、上記カラー撮像系選択部によって選択された一つのカラー撮像系に関する分光特性と一つの照明光に関する分光特性とを上記撮像システムの分光特性として取得することを特徴とする請求項1に記載の信号処理システム。
  4. 上記基底ベクトル取得部は、上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルに加えて、上記識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルをさらに取得することを特徴とする請求項1に記載の信号処理システム。
  5. 上記算出部は、
    上記基底ベクトル取得部によって取得した上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルと、上記システム分光特性取得部によって取得した上記撮像システムの分光特性とに基づき、上記撮像システムに関するシステム行列を上記波長域ごとに算出する行列算出部と、
    上記行列算出部で算出した上記波長域ごとのシステム行列の逆行列を算出する逆行列算出部と、
    上記波長域ごとに、上記逆行列算出部で算出した上記システム行列の逆行列と当該波長域の映像信号に含まれる色信号との間で乗加算処理を行うことで、上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルに関する重み係数を算出する乗加算部と、
    を有することを特徴とする請求項1に記載の信号処理システム。
  6. 上記出力信号算出部は、
    上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数を正規化する正規化部と、
    上記正規化部によって正規化された上記波長域ごとの基底ベクトルに関する重み係数に関して各々独立した色を割り当てる疑似カラー化部と、
    上記疑似カラー化部によって疑似カラー化された上記波長域ごとの基底ベクトルに関する重み係数を合成し、その合成した重み係数を上記出力信号として出力する出力部と、
    を有することを特徴とする請求項1に記載の信号処理システム。
  7. 上記分離部は、上記カラー撮像系による被写体の撮像により得た複数の色信号からなる上記映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離し、
    上記分離部にて分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出する信号処理部をさらに有することを特徴とする請求項1に記載の信号処理システム。
  8. 上記出力信号算出部は、
    上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数を正規化する正規化部と、
    上記正規化部によって正規化された上記波長域ごとの基底ベクトルに関する重み係数に関して各々独立した色を割り当てる疑似カラー化部と、
    上記疑似カラー化部によって疑似カラー化された上記波長域ごとの基底ベクトルに関する重み係数を合成し、その合成した重み係数を上記出力信号として出力する出力部と、
    上記信号処理部が算出した上記通常のカラー信号を第2の出力信号として出力する第2の出力部と、
    を有することを特徴とする請求項7に記載の信号処理システム。
  9. 上記出力信号算出部は、
    上記算出部で算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記信号処理部が算出した上記通常のカラー信号の強調処理を行う強調部と、
    上記強調部によって強調処理された上記通常のカラー信号を上記出力信号として出力する出力部と、
    を有することを特徴とする請求項7に記載の信号処理システム。
  10. 分光特性が既知である識別対象となる被写体を含む被写体の撮像に供するカラー撮像系による被写体の撮像により得た複数の色信号からなる映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離する分離部と、
    上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性、及び上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と各波長域の映像信号との間の相関性を示す導出係数を、上記波長域ごとに取得する導出係数取得部と、
    上記分離部にて分離した上記複数の波長域の映像信号及び上記導出係数取得部によって取得した導出係数に基づき、上記波長域ごとに、上記識別対象となる被写体の上記既知の分光特性と当該波長域の映像信号との間の相関係数を算出する相関係数算出部と、
    上記相関係数算出部によって算出した上記波長域ごとの相関係数に基づき、上記分光特性が既知である識別対象となる被写体の識別結果としての出力信号を算出する出力信号算出部と、
    を有することを特徴とする信号処理システム。
  11. 上記出力信号算出部は、
    上記相関係数算出部によって算出した上記波長域ごとの相関係数を正規化する正規化部と、
    上記正規化部によって正規化された上記波長域ごとの相関係数に関して各々独立した色を割り当てる疑似カラー化部と、
    上記疑似カラー化部によって疑似カラー化された上記波長域ごとの相関係数を合成し、その合成した相関係数を上記出力信号として出力する出力部と、
    を有することを特徴とする請求項10に記載の信号処理システム。
  12. 上記分離部は、上記カラー撮像系による被写体の撮像により得た複数の色信号からなる上記映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離し、
    上記分離部にて分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出する信号処理部をさらに有することを特徴とする請求項10に記載の信号処理システム。
  13. 上記出力信号算出部は、
    上記相関係数算出部によって算出した上記波長域ごとの相関係数を正規化する正規化部と、
    上記正規化部によって正規化された上記波長域ごとの相関係数に関して各々独立した色を割り当てる疑似カラー化部と、
    上記疑似カラー化部によって疑似カラー化された上記波長域ごとの相関係数を合成し、その合成した相関係数を上記出力信号として出力する出力部と、
    上記信号処理部が算出した上記通常のカラー信号を第2の出力信号として出力する第2出力部と、
    を有することを特徴とする請求項10に記載の信号処理システム。
  14. 上記出力信号算出部は、
    上記相関係数算出部によって算出した上記波長域ごとの相関係数に基づき、上記信号処理部が算出した上記通常のカラー信号の強調処理を行う強調部と、
    上記強調部によって強調処理された上記通常のカラー信号を上記出力信号として出力する出力部と、
    を有することを特徴とする請求項10に記載の信号処理システム。
  15. 上記分離部は、上記複数の色信号の分光特性における主波長に基づき上記複数の色信号を波長方向に並べた場合に、各波長域の映像信号が波長方向に連続となる色信号から構成されるように、上記カラー撮像系からの上記映像信号を上記複数の波長域の映像信号に分離することを特徴とする請求項1又は10に記載の撮像システム。
  16. 上記カラー撮像系からの上記映像信号を構成する上記色信号が4種類以上であることを特徴とする請求項1又は10に記載の撮像システム。
  17. 上記カラー撮像系からの上記映像信号を構成する上記色信号が上記カラー撮像系に使用される撮像素子により生成されることを特徴とする請求項1又は10に記載の撮像システム。
  18. 上記カラー撮像系からの上記映像信号を構成する上記色信号が上記カラー撮像系による被写体の撮像時に使用される照明光により生成されることを特徴とする請求項1又は10に記載の撮像システム。
  19. 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、複数の色信号からなる映像信号を取得するステップと、
    上記識別対象となる被写体の上記既知の分光特性に基づく基底ベクトルを取得するステップと、
    上記取得した映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離するステップと、
    上記カラー撮像系に関する分光特性と上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性とを含んだ撮像システムの分光特性を取得するステップと、
    上記分離した上記複数の波長域の映像信号、上記取得した上記基底ベクトル、及び上記取得した上記撮像システムの分光特性に基づき、上記基底ベクトルに関する重み係数を上記波長域ごとに算出するステップと、
    上記算出した上記波長域ごとの基底ベクトルに関する重み係数に基づき、上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出するステップと、
    をコンピュータに発揮させることを特徴とする信号処理プログラム。
  20. 上記基底ベクトルを取得するステップは、さらに、上記識別対象となる被写体以外の被写体の分光特性に基づく基底ベクトルも取得することを特徴とする請求項19に記載の信号処理プログラム。
  21. 上記基底ベクトルに関する重み係数を上記波長域ごとに算出するステップは、
    上記取得した上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルと、上記取得した上記撮像システムの分光特性とに基づき、上記撮像システムに関するシステム行列を上記波長域ごとに算出するステップと、
    上記算出した上記波長域ごとのシステム行列の逆行列を算出するステップと、
    上記波長域ごとに、上記算出した上記システム行列の逆行列と当該波長域の映像信号に含まれる色信号との間で乗加算処理を行うことで、上記識別対象となる被写体の既知の分光特性に基づく上記基底ベクトルに関する重み係数を算出するステップと、
    を有することを特徴とする請求項19に記載の信号処理プログラム。
  22. 上記取得した映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離するステップと、
    上記分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出するステップと、
    をさらに有することを特徴とする請求項19に記載の信号処理プログラム。
  23. 分光特性が既知である識別対象となる被写体を含む被写体のカラー撮像系による撮像によって得た、複数の色信号からなる映像信号を取得するステップと、
    上記取得した映像信号を、上記複数の色信号に基づいて複数の波長域の映像信号に分離するステップと、
    上記識別対象となる被写体の上記既知の分光特性、上記カラー撮像系に関する分光特性、及び上記カラー撮像系による被写体の撮像時に使用する照明光に関する分光特性に基づき算出された、上記識別対象となる被写体の既知の分光特性と各波長域の映像信号との間の相関性を示す導出係数を、上記波長域ごとに取得するステップと、
    上記分離した上記複数の波長域の映像信号及び上記取得した導出係数に基づき、上記波長域ごとに、上記識別対象となる被写体の上記既知の分光特性と当該波長域の映像信号との間の相関係数を算出するステップと、
    上記算出した上記波長域ごとの相関係数に基づき、上記既知の分光特性を有する識別対象となる被写体の識別結果としての出力信号を算出するステップと、
    をコンピュータに発揮させることを特徴とする信号処理プログラム。
  24. 上記取得した映像信号から、通常のカラー信号を生成するための複数の色信号を含む映像信号を分離するステップと、
    上記分離した上記通常のカラー信号を生成するための複数の色信号を含む映像信号から通常のカラー信号を算出するステップと、
    をさらに有することを特徴とする請求項23に記載の信号処理プログラム。
JP2008187692A 2008-07-18 2008-07-18 信号処理システム及び信号処理プログラム Active JP4717103B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008187692A JP4717103B2 (ja) 2008-07-18 2008-07-18 信号処理システム及び信号処理プログラム
US12/504,202 US8532376B2 (en) 2008-07-18 2009-07-16 Signal processing system and computer readable medium for recording signal processing program
EP09009352.7A EP2146320B1 (en) 2008-07-18 2009-07-17 Signal processing system and computer readable medium for recording signal processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008187692A JP4717103B2 (ja) 2008-07-18 2008-07-18 信号処理システム及び信号処理プログラム

Publications (2)

Publication Number Publication Date
JP2010022595A true JP2010022595A (ja) 2010-02-04
JP4717103B2 JP4717103B2 (ja) 2011-07-06

Family

ID=41232318

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008187692A Active JP4717103B2 (ja) 2008-07-18 2008-07-18 信号処理システム及び信号処理プログラム

Country Status (3)

Country Link
US (1) US8532376B2 (ja)
EP (1) EP2146320B1 (ja)
JP (1) JP4717103B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012143348A (ja) * 2011-01-11 2012-08-02 Fujifilm Corp 分光計測システムおよび分光計測方法
JP2012235962A (ja) * 2011-05-13 2012-12-06 Hoya Corp 電子内視鏡装置
WO2015194204A1 (ja) * 2014-06-16 2015-12-23 オリンパス株式会社 内視鏡装置
JP2018109759A (ja) * 2016-12-22 2018-07-12 アーノルド・ウント・リヒター・シネ・テヒニク・ゲーエムベーハー・ウント・コンパニ・ベトリーブス・カーゲー 電子式の顕微鏡
WO2023032374A1 (ja) * 2021-08-31 2023-03-09 富士フイルム株式会社 データ生成方法、学習方法、撮像装置、及びプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4974030B2 (ja) * 2007-09-12 2012-07-11 キヤノン株式会社 画像処理装置および画像処理方法
JP5389380B2 (ja) * 2008-05-28 2014-01-15 オリンパス株式会社 信号処理システム及び信号処理プログラム
JP4717103B2 (ja) 2008-07-18 2011-07-06 オリンパス株式会社 信号処理システム及び信号処理プログラム
US20150269314A1 (en) 2014-03-20 2015-09-24 Rudjer Boskovic Institute Method and apparatus for unsupervised segmentation of microscopic color image of unstained specimen and digital staining of segmented histological structures
CN104821000B (zh) * 2015-05-22 2017-12-22 京东方科技集团股份有限公司 颜色辨识系统、颜色辨识方法和显示装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06335451A (ja) * 1993-03-19 1994-12-06 Olympus Optical Co Ltd 内視鏡用画像処理装置
JP2005181276A (ja) * 2003-11-26 2005-07-07 Olympus Corp スペクトラルデコンボリューション法及びスペクトラルブラインドデコンボリューション法
WO2006120798A1 (ja) * 2005-05-12 2006-11-16 Olympus Medical Systems Corp. 生体観測装置
JP2006314557A (ja) * 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
JP2006341077A (ja) * 2005-05-13 2006-12-21 Olympus Medical Systems Corp 生体観測装置
JP2006341078A (ja) * 2005-05-12 2006-12-21 Olympus Medical Systems Corp 生体観測装置
JP2007111357A (ja) * 2005-10-21 2007-05-10 Olympus Medical Systems Corp 生体撮像装置及び生体観測システム
JP2008128982A (ja) * 2006-11-24 2008-06-05 Hamamatsu Photonics Kk 蛍光検出装置、蛍光検出方法および蛍光検出プログラム
JP2008161550A (ja) * 2006-12-28 2008-07-17 Olympus Corp 内視鏡システム
JP2009285084A (ja) * 2008-05-28 2009-12-10 Olympus Corp 信号処理システム及び信号処理プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0796005B2 (ja) 1987-10-27 1995-10-18 オリンパス光学工業株式会社 内視鏡装置
US5550582A (en) 1993-03-19 1996-08-27 Olympus Optical Co., Ltd. Endoscope-image processing apparatus for performing image processing of emphasis in endoscope image by pigment concentration distribution
US5995645A (en) 1993-08-18 1999-11-30 Applied Spectral Imaging Ltd. Method of cancer cell detection
US6750964B2 (en) * 1999-08-06 2004-06-15 Cambridge Research And Instrumentation, Inc. Spectral imaging methods and systems
US7864379B2 (en) * 2001-03-19 2011-01-04 Dmetrix, Inc. Multi-spectral whole-slide scanner
JP2003093336A (ja) 2001-09-26 2003-04-02 Toshiba Corp 電子内視鏡装置
US7136518B2 (en) * 2003-04-18 2006-11-14 Medispectra, Inc. Methods and apparatus for displaying diagnostic data
US20040202356A1 (en) 2003-04-10 2004-10-14 Stookey George K. Optical detection of dental caries
US7321791B2 (en) 2003-09-23 2008-01-22 Cambridge Research And Instrumentation, Inc. Spectral imaging of deep tissue
US20100114753A1 (en) * 2004-07-12 2010-05-06 Rosenthal Collins Group, L.L.C. Method and system for automatic commodities futures contract management and delivery balancing
AU2006245247B2 (en) 2005-05-11 2009-10-15 Olympus Medical Systems Corp. Signal processing device for biological observation apparatus
US7526116B2 (en) * 2006-01-19 2009-04-28 Luigi Armogida Automated microscopic sperm identification
US7916943B2 (en) * 2006-06-02 2011-03-29 Seiko Epson Corporation Image determining apparatus, image determining method, image enhancement apparatus, and image enhancement method
JP4959237B2 (ja) 2006-06-22 2012-06-20 オリンパス株式会社 撮像システム及び撮像プログラム
EP2047251A2 (en) * 2006-08-04 2009-04-15 Ikonisys, Inc. Image processing method for a microscope system
JP4931199B2 (ja) 2006-09-29 2012-05-16 富士フイルム株式会社 電子内視鏡装置
JP4717103B2 (ja) 2008-07-18 2011-07-06 オリンパス株式会社 信号処理システム及び信号処理プログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06335451A (ja) * 1993-03-19 1994-12-06 Olympus Optical Co Ltd 内視鏡用画像処理装置
JP2005181276A (ja) * 2003-11-26 2005-07-07 Olympus Corp スペクトラルデコンボリューション法及びスペクトラルブラインドデコンボリューション法
WO2006120798A1 (ja) * 2005-05-12 2006-11-16 Olympus Medical Systems Corp. 生体観測装置
JP2006314557A (ja) * 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
JP2006341078A (ja) * 2005-05-12 2006-12-21 Olympus Medical Systems Corp 生体観測装置
JP2006341077A (ja) * 2005-05-13 2006-12-21 Olympus Medical Systems Corp 生体観測装置
JP2007111357A (ja) * 2005-10-21 2007-05-10 Olympus Medical Systems Corp 生体撮像装置及び生体観測システム
JP2008128982A (ja) * 2006-11-24 2008-06-05 Hamamatsu Photonics Kk 蛍光検出装置、蛍光検出方法および蛍光検出プログラム
JP2008161550A (ja) * 2006-12-28 2008-07-17 Olympus Corp 内視鏡システム
JP2009285084A (ja) * 2008-05-28 2009-12-10 Olympus Corp 信号処理システム及び信号処理プログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012143348A (ja) * 2011-01-11 2012-08-02 Fujifilm Corp 分光計測システムおよび分光計測方法
JP2012235962A (ja) * 2011-05-13 2012-12-06 Hoya Corp 電子内視鏡装置
WO2015194204A1 (ja) * 2014-06-16 2015-12-23 オリンパス株式会社 内視鏡装置
JP2016002188A (ja) * 2014-06-16 2016-01-12 オリンパス株式会社 内視鏡装置
JP2018109759A (ja) * 2016-12-22 2018-07-12 アーノルド・ウント・リヒター・シネ・テヒニク・ゲーエムベーハー・ウント・コンパニ・ベトリーブス・カーゲー 電子式の顕微鏡
JP7063604B2 (ja) 2016-12-22 2022-05-09 アリ・メディカル・ゲーエムベーハー 電子式の顕微鏡
WO2023032374A1 (ja) * 2021-08-31 2023-03-09 富士フイルム株式会社 データ生成方法、学習方法、撮像装置、及びプログラム

Also Published As

Publication number Publication date
EP2146320A3 (en) 2010-12-01
US20100014753A1 (en) 2010-01-21
US8532376B2 (en) 2013-09-10
EP2146320A2 (en) 2010-01-20
JP4717103B2 (ja) 2011-07-06
EP2146320B1 (en) 2017-10-04

Similar Documents

Publication Publication Date Title
JP4717103B2 (ja) 信号処理システム及び信号処理プログラム
JP5389380B2 (ja) 信号処理システム及び信号処理プログラム
RU2381737C2 (ru) Устройство для наблюдения биологических объектов
JP5541914B2 (ja) 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
JP5250342B2 (ja) 画像処理装置およびプログラム
KR100953773B1 (ko) 생체 관측 장치용 신호 처리 장치
JP4504324B2 (ja) 生体観測装置
JP6525918B2 (ja) 内視鏡システム、画像処理装置、及び画像処理装置の作動方法
JP6234350B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
EP2505121B1 (en) Endoscope apparatus
JP5087529B2 (ja) 識別処理装置、識別処理プログラム及び識別処理方法
JP2017202241A (ja) 内視鏡システム、プロセッサ装置、及び信号処理方法
JP2007278950A (ja) マルチバンド撮像装置およびカラーフィルタの特性設定方法
JPWO2019039354A1 (ja) 光源装置及び内視鏡システム
JP2010200883A (ja) 内視鏡画像処理装置および方法ならびにプログラム
RU2378976C2 (ru) Устройство обработки сигналов для устройства, предназначенного для биологических наблюдений
JP7163386B2 (ja) 内視鏡装置、内視鏡装置の作動方法及び内視鏡装置の作動プログラム
JP2010213746A (ja) 内視鏡画像処理装置および方法ならびにプログラム
JP4799248B2 (ja) 画像処理装置
JP6153912B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP2016067777A (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP6615950B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP2010213745A (ja) 内視鏡画像処理装置および方法ならびにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110322

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110329

R151 Written notification of patent or utility model registration

Ref document number: 4717103

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140408

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250