JP5242479B2 - 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法 - Google Patents

画像処理装置、画像処理プログラムおよび画像処理装置の作動方法 Download PDF

Info

Publication number
JP5242479B2
JP5242479B2 JP2009077562A JP2009077562A JP5242479B2 JP 5242479 B2 JP5242479 B2 JP 5242479B2 JP 2009077562 A JP2009077562 A JP 2009077562A JP 2009077562 A JP2009077562 A JP 2009077562A JP 5242479 B2 JP5242479 B2 JP 5242479B2
Authority
JP
Japan
Prior art keywords
image
motion vector
fluorescence
observation site
reflected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009077562A
Other languages
English (en)
Other versions
JP2010227253A (ja
Inventor
浩一郎 吉野
博 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2009077562A priority Critical patent/JP5242479B2/ja
Priority to CN201080013461.2A priority patent/CN102361583B/zh
Priority to EP10755751.4A priority patent/EP2412291B1/en
Priority to PCT/JP2010/051418 priority patent/WO2010109950A1/ja
Publication of JP2010227253A publication Critical patent/JP2010227253A/ja
Priority to US13/242,832 priority patent/US8767058B2/en
Application granted granted Critical
Publication of JP5242479B2 publication Critical patent/JP5242479B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/32Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Image Processing (AREA)

Description

本発明は、画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法に関し、特に、被写体からの蛍光に基づく蛍光画像を処理する画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法に関するものである。
従来から、医療分野においては、被検体の臓器内部を観察する際に内視鏡システムが用いられている。内視鏡システムは、一般に、患者等の被検体の体腔内に細長形状の可撓性挿入部を挿入し、この挿入した可撓性挿入部を介して体腔内の生体組織に白色光を照射し、その反射光を可撓性挿入部内の撮像部によって受光して、この生体組織の白色光画像を撮像する。かかる生体組織の白色光画像は、この内視鏡システムの表示部に表示される。医師等のユーザは、内視鏡システムの表示部に表示された生体組織の白色光画像を通して、被検体の体腔内を観察する。
一方、近年の内視鏡分野においては、体腔内に挿入した可撓性挿入部を介して体腔内の生体組織に白色光以外の励起光を照射し、この励起光の照射に基づいて生体組織から発生する自家蛍光または薬剤蛍光を可撓性挿入部内の撮像部によって受光して、この生体組織の蛍光画像を撮像する内視鏡システムが登場している(例えば特許文献1参照)。また、被写体である病変部から発生した薬剤蛍光に基づいて病変部の薬剤蛍光画像を撮像し、この撮像した薬剤蛍光画像の輝度を規格化処理することによって、被写体から撮像部までの距離の違いに起因する蛍光の明暗を補正する内視鏡システムも登場している(例えば、特許文献2参照)。なお、この特許文献2に開示された内視鏡システムの画像処理装置は、体腔内部における観察対象部位の薬剤蛍光画像と自家蛍光画像とを順次取得し、この自家蛍光画像をもとに規格化用画像を生成し、この薬剤蛍光画像の輝度値を規格化用画像の輝度値によって除算することによって、この薬剤蛍光画像の輝度を規格化処理している。
特開2007−229053号公報 特開2008−183349号公報
しかしながら、上述した従来の内視鏡システムでは、病変部の薬剤蛍光画像に例示される観察対象の蛍光画像と蛍光画像の規格化処理に用いる規格化用画像とが互いに異なるタイミングに撮像されるため、これらの両画像を撮像する期間に、被写体である生体組織または体腔内の可撓性挿入部が動いてしまう可能性がある。このため、たとえ同じ体腔内部位の蛍光画像および規格化画像であっても、取得した蛍光画像と規格化用画像との間に被写体の位置ずれが生じ、この結果、蛍光画像の規格化処理の精度が低下して、観察対象の蛍光画像の輝度を正確に補正することが困難になるという問題点がある。なお、観察対象の蛍光画像の輝度を正確に補正することは、体腔内の病変部等の異常組織を蛍光画像によって検出する上で極めて重要である。
一方、従来の内視鏡診断では、観察対象である生体組織等の白色光画像が内視鏡システムの表示部に主に表示され、医師等のユーザは、この内視鏡システムの表示部に表示された白色光画像を通して、被検体の体腔内を観察する。また、このような白色光画像に加えて、医師等のユーザが観察対象の蛍光画像を通して体腔内部位を蛍光観察する場合、これら同一観察対象の白色光画像と蛍光画像とを重ね合わせて表示することが、正確な体腔内部位の蛍光観察を可能にするという観点から要望されている。しかしながら、上述した従来の内視鏡システムでは、同一観察対象の白色光画像と蛍光画像とが互いに異なるタイミングに撮像されるため、これらの両画像を撮像する期間に、被写体である生体組織または体腔内の可撓性挿入部が動いてしまう可能性がある。このため、たとえ同じ体腔内部位の蛍光画像および白色光画像であっても、取得した蛍光画像と白色光画像との間に被写体の位置ずれが生じ、この結果、かかる白色光画像および蛍光画像の同一観察対象(すなわち同一被写体)を正確に重ね合わせて表示することが困難になるという問題点がある。なお、観察対象の蛍光画像および白色光画像の同一被写体を正確に重ね合わせて表示することは、体腔内の病変部等の異常組織を蛍光画像によって検出する上で極めて重要である。
本発明は、上記事情に鑑みてなされたものであって、観察対象の蛍光観察を通して容易に蛍光観察を行えるとともに、蛍光観察における観察対象の検出能を向上することができる画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明のある態様にかかる画像処理装置は、通常光と励起光とを切り替えて観察部位に照射する光源部と、前記通常光が照射されたタイミングで前記観察部位の反射光画像を撮像し、前記励起光が照射されたタイミングで前記観察部位の反射励起光画像を撮像する反射光撮像部と、前記励起光が照射されて前記反射励起光画像が撮像されるタイミングと同じタイミングで前記観察部位の蛍光画像を撮像する蛍光撮像部と、前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出する動きベクトル演算部と、前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との間の被写体の位置ずれを補正する位置合わせ処理部と、前記被写体の位置ずれを補正した前記蛍光画像の輝度を規格化処理して、前記観察部位の規格化蛍光画像を生成する画像生成部と、を備えるものである。
この態様にかかる画像処理装置によれば、形状情報を殆ど含まない蛍光画像と観察部位の反射光画像との間の被写体の位置ずれを防止でき、この結果、蛍光画像内の観察部位を容易に蛍光観察できるとともに、この観察部位の蛍光画像による被検体内の異常組織等の蛍光発光部位の検出能を高めることができる。
また、本発明の別の態様にかかる画像処理プログラムは、通常光と励起光とを切り替えて観察部位に照射し、前記通常光が照射されたタイミングで撮像された前記観察部位の反射光画像と、前記励起光が照射されたタイミングで撮像された前記観察部位の反射励起光画像と、前記励起光が照射されて前記反射励起光画像が撮像されるタイミングと同じタイミングで撮像された前記観察部位の蛍光画像とを取得する画像情報取得手順と、前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出する動きベクトル演算手順と、前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との間の被写体の位置ずれを補正する位置合わせ処理手順と、前記被写体の位置ずれを補正した前記蛍光画像の輝度を規格化処理して、前記観察部位の規格化蛍光画像を生成する画像生成手順と、をコンピュータに実行させるものである。
また、本発明の別の態様にかかる画像処理装置の作動方法は、通常光と励起光とを切り替えて観察部位に照射し、前記通常光が照射されたタイミングで撮像された前記観察部位の反射光画像と、前記励起光が照射されたタイミングで撮像された前記観察部位の反射励起光画像と、前記励起光が照射されて前記反射励起光画像が撮像されるタイミングと同じタイミングで撮像された前記観察部位の蛍光画像とを取得する画像情報取得手順と、前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出する動きベクトル演算ステップと、前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との間の被写体の位置ずれを補正する位置合わせ処理ステップと、前記被写体の位置ずれを補正した前記蛍光画像の輝度を規格化処理して、前記観察部位の規格化蛍光画像を生成する画像生成ステップと、画像処理装置に動作させるものである。
本発明にかかる画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法によれば、観察対象の蛍光観察を通して容易に蛍光観察を行えるとともに、蛍光観察における観察対象の検出能を向上することができるという効果を奏する。
以下、図面を参照して、本発明を実施するための最良の形態である画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法の実施の形態について説明する。なお、以下では、本発明にかかる撮像装置の一例として、患者等の被検体の体腔内の画像を撮像する内視鏡装置を説明し、この内視鏡装置に用いられる画像処理装置、画像処理プログラムおよび画像処理方法を説明するが、この実施の形態によって本発明が限定されるものではない。
(実施の形態1)
図1は、本発明の実施の形態1にかかる内視鏡装置の一構成例を模式的に示すブロック図である。この実施の形態1にかかる内視鏡装置1は、本発明にかかる撮像装置の一例であり、図1に示すように、被検体内部の観察部位Sに光を照射する光源装置2と、被検体の体腔内に挿入する細長形状の挿入部3と、観察部位Sの画像を処理する画像処理装置4と、画像処理装置4によって処理された画像情報を表示する画像表示装置5とを備える。
光源装置2は、蛍光薬剤を励起する励起光と白色光等の通常光とを切り替えて観察部位Sに照射する光源部として機能する。具体的には、光源装置2は、白色光源21と、白色光源21からの射出光を略平行光にするコリメートレンズ22と、平行光を集光する集光レンズ23と、観察部位Sへの照射光を励起光または通常光に切り替える回転フィルタ24と、回転フィルタ24の駆動源であるモータ25と、回転フィルタ24を制御するフィルタ制御部26とを備える。
白色光源21は、光源装置2の発光源であり、光源装置2のスイッチ(図示せず)の操作に基づいて白色光を発光する。コリメートレンズ22は、白色光源21から射出される白色光の光路上に配置され、白色光源21からの白色光を略平行光にする。このコリメートレンズ22による平行光は、回転フィルタ24を透過した後、集光レンズ23によって再び集光される。この集光レンズ23によって集光された光は、挿入部3を介して被検体内部の観察部位Sに照射される。
回転フィルタ24は、白色光源21によって発光された白色光から所定の波長帯域の光を抽出する。図2は、回転フィルタの一構成例を示す模式図である。図3は、回転フィルタの透過率特性の一例を示す模式図である。なお、図3には、回転フィルタ24によって抽出された励起光によって発生する蛍光の強度特性も図示されている。回転フィルタ24は、図2に示すように、透過率特性の異なる白色光フィルタ24aおよび励起光フィルタ24bを備える。
白色光フィルタ24aは、白色光を透過させるフィルタであり、図3に示す波長対透過率の相関線C1のように、400〜680nmの波長帯域の光を透過させる透過率特性を有する。かかる白色光フィルタ24aは、白色光源21からの白色光を、観察部位Sに照射する通常光として透過させる。励起光フィルタ24bは、励起光を透過させるフィルタであり、図3に示す波長対透過率の相関線C2のように、600〜650nmの波長帯域の光を透過させる透過率特性を有する。かかる励起光フィルタ24bは、白色光源21からの白色光から600〜650nmの波長帯域の光である励起光を抽出し、この抽出した励起光を透過させる。
なお、かかる励起光フィルタ24bによって抽出された励起光は、例えば観察部位Sに存在する腫瘍等の病変部Kに特異的に集積する蛍光薬剤を励起して、660〜750nmの波長帯域の蛍光(図3に示す相関線C3参照)を発生させる特性を有する。
このような白色光フィルタ24aおよび励起光フィルタ24bを有する回転フィルタ24は、モータ25の駆動によって周方向に回転し、これによって、白色光源21からの白色光の光路(図1に示す光源装置2内の破線参照)内に、白色光フィルタ24aおよび励起光フィルタ24bを順次切り替えて位置させる。かかる回転フィルタ24は、この光路内に白色光フィルタ24aを位置させた状態において白色光を透過させ、この光路内に励起光フィルタ24bを位置させた状態において励起光を透過させる。すなわち、回転フィルタ24は、白色光と励起光とを交互に透過させる。
フィルタ制御部26は、上述した回転フィルタ24の回転による光路内のフィルタ切替を制御する。具体的には、フィルタ制御部26は、回転軸を介して回転フィルタ24と接続されたモータ25の回転駆動を制御し、このモータ25の駆動制御を通じて回転フィルタ24の回転駆動を制御する。これによって、フィルタ制御部26は、上述した白色光源21からの白色光の光路内に、予め設定された時間間隔で白色光フィルタ24aと励起光フィルタ24bとを交互に位置させる。このようにして、フィルタ制御部26は、かかる光路内における回転フィルタ24のフィルタ切替を制御する。また、フィルタ制御部26は、かかるモータ25の回転数等の回転駆動状態をもとに、白色光フィルタ24aおよび励起光フィルタ24bのいずれが光路内に位置しているかを把握する。フィルタ制御部26は、かかる光路内に位置するフィルタ(白色光フィルタ24aまたは励起光フィルタ24b)を示すフィルタ情報を画像処理装置4に送信する。
挿入部3は、被検体の体腔内に挿入可能な細長形状の可撓性構造体であり、内視鏡装置1の操作部(図示せず)の操作に基づいて所望の方向に湾曲可能である。また、図1に示すように、挿入部3は、その基端部側が光源装置2と画像処理装置4とに接続され、この光源装置2からの射出光を先端部側に導くライトガイドファイバ31と、ライトガイドファイバ31によって導かれた光を拡散するレンズ32とを備える。また、挿入部3は、観察部位Sからの反射光または蛍光を集光する対物レンズ33と、この観察部位Sから集光した光を分岐するダイクロイックミラー34と、観察部位Sからの蛍光を透過し励起光を遮断するバリアフィルタ35とを備える。さらに、挿入部3は、観察部位Sの反射光画像を撮像する反射光撮像部36と、観察部位Sの蛍光画像を撮像する蛍光撮像部37とを備える。
ライトガイドファイバ31は、光ファイバ等を用いて実現され、上述した光源装置2によって所定の時間間隔で交互に射出される白色光および励起光を挿入部3の先端部側に順次伝搬する。かかるライトガイドファイバ31によって順次導かれた光源装置2からの白色光および励起光は、レンズ32によって順次拡散され、予め設定された時間間隔で被検体内部の観察部位Sに交互に照射される。
ここで、この観察部位S内に、予め蛍光薬剤を集積した病変部Kが存在する場合、この観察部位Sに照射された光源装置2からの励起光は、この病変部Kの蛍光薬剤を励起して、例えば660〜750nmの波長帯域の蛍光を発生させる。一方、この観察部位Sに光源装置2からの白色光が照射された場合、この観察部位Sから白色光が反射する。
対物レンズ33は、光源装置2からの白色光が観察部位Sに照射された場合、この観察部位Sから反射した白色光を集光する。一方、光源装置2からの励起光が観察部位Sに照射された場合、この観察部位Sから発生した蛍光(具体的には病変部Kから発生した蛍光)と観察部位Sから反射した励起光とを集光する。ダイクロイックミラー34は、かかる対物レンズ33によって集光された観察部位Sからの光のうち、観察部位Sから反射した白色光または励起光等の反射光を反射光撮像部36側の光路に分岐し、観察部位Sから発生した蛍光と観察部位Sからの反射光の一部とを蛍光撮像部37側の光路に分岐する。
バリアフィルタ35は、ダイクロイックミラー34によって蛍光撮像部37側の光路に分岐された観察部位Sからの光に含まれる励起光等の反射光を遮断するためのフィルタである。図4は、本発明の実施の形態1におけるバリアフィルタの透過率特性の一例を示す模式図である。バリアフィルタ35は、図4に示す波長対透過率の相関線C4のように、660〜750nmの波長帯域の光を透過させる透過率特性を有する。かかるバリアフィルタ35は、ダイクロイックミラー34によって蛍光撮像部37側の光路に分岐された観察部位Sからの光のうち、観察部位Sからの反射光を遮断するとともに、660〜750nmの波長帯域の光である観察部位Sからの蛍光を透過させる。
反射光撮像部36は、受光面内の画素毎にカラーフィルタが配置されたベイヤ型のカラー撮像素子を用いて実現される。図5は、反射光撮像部に配置される複数のカラーフィルタの分光特性の一例を示す模式図である。反射光撮像部36は、図5に示すような透過率特性を有する赤(R)、緑(G)、青(B)の各カラーフィルタを各々複数備える。なお、赤色カラーフィルタは、図5に示す波長対透過率の相関線C7のように580〜700nmの波長帯域の光(R光)を透過させる透過率特性を有する。緑色カラーフィルタは、図5に示す波長対透過率の相関線C6のように480〜600nmの波長帯域の光(G光)を透過させる透過率特性を有する。青色カラーフィルタは、図5に示す波長対透過率の相関線C5のように400〜500nmの波長帯域の光(B光)を透過させる透過率特性を有する。かかる反射光撮像部36は、ダイクロイックミラー34によって反射光撮像部36側の光路に分岐された観察部位Sからの反射光を受光し、これによって、観察部位Sのカラー画像である反射光画像を撮像する。具体的には、反射光撮像部36は、観察部位Sから反射した白色光を受光した場合、この観察部位Sからの白色光に基づく反射光画像(以下、観察部位Sの白色光画像という場合がある)を撮像する。一方、反射光撮像部36は、観察部位Sから反射した励起光を受光した場合、後述する蛍光撮像部37による観察部位Sの蛍光画像と同じ撮像タイミングに、この観察部位Sからの励起光に基づく反射光画像(以下、観察部位Sの反射励起光画像という場合がある)を撮像する。反射光撮像部36は、観察部位Sの白色光画像または反射励起光画像を撮像する都度、得られた画像情報を含む画像信号を画像処理装置4に順次送信する。
蛍光撮像部37は、上述した反射光撮像部36に比して高い感度特性を有するモノクロ撮像素子を用いて実現される。蛍光撮像部37は、ダイクロイックミラー34によって蛍光撮像部37側の光路に分岐された観察部位Sからの蛍光、すなわちバリアフィルタ35を透過した蛍光を受光し、これによって、観察部位Sの蛍光画像を撮像する。なお、かかる蛍光撮像部37によって撮像された観察部位Sの蛍光画像における蛍光の明暗は、被写体である観察部位Sから蛍光撮像部37までの距離に応じて変化する。また、かかる蛍光撮像部37による観察部位Sの蛍光画像は、上述した反射光撮像部36による観察部位Sの反射励起光画像と同じタイミングに撮像された画像であり、かかる観察部位Sの蛍光画像と反射励起光画像との間において同一被写体の画素位置は一致する。蛍光撮像部37は、かかる観察部位Sの蛍光画像を撮像する都度、得られた画像情報を含む画像信号を画像処理装置4に順次送信する。
画像処理装置4は、上述した反射光撮像部36または蛍光撮像部37によって撮像された観察部位Sの画像情報を処理して、画像表示装置5に表示させる出力画像を生成する。具体的には、画像処理装置4は、反射光撮像部36による画像情報を記憶する反射光画像記憶部41と、蛍光撮像部37による画像情報を記憶する蛍光画像記憶部42と、観察部位Sの蛍光画像と反射光画像との間の動きベクトル情報を算出する動きベクトル演算部43と、この動きベクトル情報をもとに観察部位Sの蛍光画像と反射光画像との位置合わせ処理を行う位置合わせ処理部44と、画像表示装置5に表示させる出力画像を生成する出力画像生成部45とを備える。
反射光画像記憶部41は、上述した光源装置2のフィルタ制御部26の制御に基づいて、反射光撮像部36による画像情報を記憶する。具体的には、反射光画像記憶部41は、フィルタ制御部26によって送信されたフィルタ情報を取得し、この取得したフィルタ情報をもとに、光源装置2の光路内に現に位置する回転フィルタ24のフィルタが白色光フィルタ24aおよび励起光フィルタ24bのいずれであるかを識別する。反射光画像記憶部41は、光源装置2の光路内のフィルタが白色光フィルタ24aである場合、反射光撮像部36から観察部位Sの白色光画像の画像情報を取得し、光源装置2の光路内のフィルタが励起光フィルタ24bである場合、反射光撮像部36から観察部位Sの反射励起光画像の画像情報を取得する。反射光画像記憶部41は、かかる反射光撮像部36から取得した観察部位Sの各画像情報に対して、各画素がRGB3色のカラー画像情報を有するように同時化処理を行い、この同時化処理後の白色光画像および反射励起光画像の各画像情報を順次記憶する。
蛍光画像記憶部42は、上述した光源装置2のフィルタ制御部26の制御に基づいて、蛍光撮像部37による画像情報を記憶する。具体的には、蛍光画像記憶部42は、フィルタ制御部26によって送信されたフィルタ情報を取得し、この取得したフィルタ情報をもとに、光源装置2の光路内に現に位置する回転フィルタ24のフィルタが白色光フィルタ24aおよび励起光フィルタ24bのいずれであるかを識別する。蛍光画像記憶部42は、光源装置2の光路内のフィルタが励起光フィルタ24bである場合、蛍光撮像部37から観察部位Sの蛍光画像の画像情報を取得し、この取得した画像情報を順次記憶する。なお、蛍光画像記憶部42は、光源装置2の光路内のフィルタが白色光フィルタ24aである場合、蛍光撮像部37から画像情報を取得しない。
動きベクトル演算部43は、反射光撮像部36によって撮像された観察部位Sの反射光画像と蛍光撮像部37によって撮像された観察部位Sの蛍光画像との間の動きベクトル情報を算出する。図6は、本発明の実施の形態1にかかる画像処理装置の動きベクトル演算部の一構成例を模式的に示すブロック図である。図6に示すように、動きベクトル演算部43は、動きベクトル算出用画像を生成する画像変換部43aと、処理対象画像に動きベクトル測定ブロックを設定する測定ブロック設定部43bと、動きベクトル情報を算出する動きベクトル算出部43cとを備える。
画像変換部43aは、観察部位Sの画像情報を動きベクトル算出用画像に変換処理する。具体的には、画像変換部43aは、反射光画像記憶部41から観察部位Sの白色光画像の画像情報を読み込む。画像変換部43aは、この取得した白色光画像の画像情報に対して所定の画像変換処理を行って、動きベクトル算出用画像の一つである基準画像を生成する。また、画像変換部43aは、反射光画像記憶部41から観察部位Sの反射励起光画像の画像情報を読み込む。画像変換部43aは、この取得した反射励起光の画像情報に対して所定の画像変換処理を行って、動きベクトル算出用画像の一つである対象画像を生成する。画像変換部43aは、かかる白色光画像に対応する動きベクトル算出用画像(基準画像)と反射励起光画像に対応する動きベクトル算出用画像(対象画像)とを測定ブロック設定部43bに送信する。
測定ブロック設定部43bは、処理対象画像に動きベクトル測定ブロックを設定する。具体的には、測定ブロック設定部43bは、画像変換部43aから動きベクトル算出用画像の一方である基準画像を取得し、この取得した基準画像上に所定数の動きベクトル測定ブロックを設定する。また、測定ブロック設定部43bは、画像変換部43aから動きベクトル算出用画像の他方である対象画像を取得し、この取得した対象画像に対して、上述した基準画像上の測定ブロックとのマッチング処理対象の画素ブロックを所定数設定する。測定ブロック設定部43bは、かかる処理後の各動きベクトル算出用画像(基準画像および対象画像)を動きベクトル算出部43cに送信する。
動きベクトル算出部43cは、観察部位Sの蛍光画像と反射光画像との間の動きベクトル情報を算出する。具体的には、動きベクトル算出部43cは、測定ブロック設定部43bから処理後の各動きベクトル算出用画像である基準画像および対象画像を取得する。動きベクトル算出部43cは、この基準画像上の各測定ブロックと相関性の高い対象画像上の各画素ブロックを検索するブロックマッチング法等の既知の手法を用いて、この基準画像と対象画像との間の動きベクトル情報を算出する。ここで、この基準画像は、反射光撮像部36によって撮像された観察部位Sの白色光画像に対応する。一方、この対象画像は、蛍光撮像部37による観察部位Sの蛍光画像と同じ撮像タイミングに反射光撮像部36によって撮像された観察部位Sの反射励起光画像に対応する。すなわち、かかる対象画像と観察部位Sの蛍光画像との間の同一被写体に対応する画素位置は一致する。動きベクトル算出部43cは、かかる観察部位Sの蛍光画像と白色光画像との間の動きベクトル情報として、この蛍光画像と同一撮像タイミングの反射励起光画像に対応する対象画像とこの白色光画像に対応する基準画像との間の動きベクトル情報を算出する。動きベクトル算出部43cは、このように算出した動きベクトル情報の算出結果を位置合わせ処理部44に送信する。
位置合わせ処理部44は、観察部位Sの蛍光画像と反射光画像との位置合わせ処理を行って、この蛍光画像と反射光画像との間の被写体の位置ずれを補正する。具体的には、位置合わせ処理部44は、反射光画像記憶部41から反射光撮像部36による観察部位Sの白色光画像の画像情報を読み込み、蛍光画像記憶部42から蛍光撮像部37による観察部位Sの蛍光画像の画像情報を読み込む。また、位置合わせ処理部44は、上述した動きベクトル算出部43cによって算出された動きベクトル情報、すなわち、この観察部位Sの蛍光画像と白色光画像との間の動きベクトル情報を動きベクトル演算部43から取得する。位置合わせ処理部44は、この取得した動きベクトル情報をもとに、この観察部位Sの蛍光画像と白色光画像との間の同一被写体(例えば病変部K等)に対応する画素位置を合わせる位置合わせ処理を行う。これによって、位置合わせ処理部44は、かかる蛍光画像と白色光画像との間における被写体の位置ずれを補正する。位置合わせ処理部44は、かかる位置合わせ処理後の蛍光画像および白色光画像の各画像情報を出力画像生成部45に送信する。
なお、位置合わせ処理部44は、上述した反射光撮像部36と蛍光撮像部37との画素数が異なる場合、この蛍光撮像部37による蛍光画像に拡大処理または縮小処理を行って、この反射光撮像部36による白色光画像と蛍光撮像部37による蛍光画像との画素数を一致させる。位置合わせ処理部44は、このように画素数を一致させた状態の蛍光画像および白色光画像に対して、上述した位置合わせ処理を実行する。
出力画像生成部45は、位置合わせ処理部44によって位置合わせ処理された各画像情報をもとに、画像表示装置5に表示させる出力画像を生成する。具体的には、出力画像生成部45は、上述した位置合わせ処理が行われた観察部位Sの蛍光画像および白色光画像の各画像情報を位置合わせ処理部44から取得する。出力画像生成部45は、この取得した白色光画像の輝度をもとにこの蛍光画像の輝度を規格化処理して、観察部位Sの規格化蛍光画像を生成する。この場合、出力画像生成部45は、位置合わせ処理部44から取得した白色光画像の輝度信号画像である規格化用画像を生成する。出力画像生成部45は、この生成した規格化用画像の輝度値、すなわち上述した位置合わせ処理が行われた観察部位Sの白色光画像の輝度値によって、この位置合わせ処理済みの蛍光画像の輝度値を除算する。これによって、出力画像生成部45は、この観察部位Sの蛍光画像の各画素の輝度値を規格化処理し、この結果、観察部位Sの規格化蛍光画像を生成する。なお、かかる観察部位Sの規格化蛍光画像は、被写体である観察部位Sから蛍光撮像部37までの距離に応じて変化する蛍光の明暗を補正した蛍光画像である。このため、かかる観察部位Sの規格化蛍光画像において、励起光照射による蛍光発生源である病変部Kは、観察部位Sから蛍光撮像部37までの距離に関わらず、比較的高い輝度の画素によって描画される。出力画像生成部45は、このように生成した観察部位Sの規格化蛍光画像と観察部位Sの白色光画像とを画像表示装置5に送信し、この観察部位Sの規格化蛍光画像と白色光画像とを画像表示装置5に表示させる。この場合、出力画像生成部45は、かかる観察部位Sの規格化蛍光画像および白色光画像を別々の出力画像情報として画像表示装置5に送信してもよいし、観察部位Sの規格化蛍光画像と白色光画像とを重畳処理した出力画像情報として画像表示装置5に送信してもよい。
画像表示装置5は、上述した画像処理装置4によって処理された画像情報を表示する。具体的には、画像表示装置5は、CRTディスプレイまたは液晶ディスプレイ等の所望のディスプレイを用いて実現される。画像表示装置5は、画像処理装置4の出力画像生成部45から観察部位Sの画像情報を取得し、この取得した画像情報に基づく観察部位Sの少なくとも規格化蛍光画像を表示する。この場合、画像表示装置5は、出力画像生成部45から取得した観察部位Sの白色光画像と規格化蛍光画像とを並べて表示してもよいし、この観察部位Sの白色光画像に観察部位Sの規格化蛍光画像を重畳表示してもよい。
つぎに、本発明の実施の形態1にかかる画像処理装置4の動作について説明する。図7は、本発明の実施の形態1にかかる画像処理装置の処理手順を例示するフローチャートである。この実施の形態1にかかる画像処理装置4は、図7に示される処理手順を実行して、観察部位Sの画像情報を画像表示装置5に表示させる。
すなわち、図7に示すように、画像処理装置4は、まず、観察部位Sの画像情報を取得する(ステップS101)。このステップS101において、反射光画像記憶部41は、回転フィルタ24の白色光フィルタ24aが光路内に位置するタイミング、すなわち観察部位Sに白色光が照射されたタイミングに、反射光撮像部36によって撮像された観察部位Sの白色光画像を取得し、この取得した白色光画像をカラー画像情報として記憶する。なお、この観察部位Sに白色光が照射されたタイミングにおいて、蛍光画像記憶部42は、画像情報を取得しない。一方、蛍光画像記憶部42は、回転フィルタ24の励起光フィルタ24bが光路内に位置するタイミング、すなわち観察部位Sに励起光が照射されたタイミングに、蛍光撮像部37によって撮像された観察部位Sの蛍光画像を取得し、この取得した蛍光画像をモノクロ画像情報として記憶する。また、この観察部位Sに励起光が照射されたタイミングにおいて、反射光画像記憶部41は、反射光撮像部36によって撮像された観察部位Sの反射励起光画像を取得し、この取得した反射励起光画像をカラー画像情報として記憶する。
つぎに、画像処理装置4は、ステップS101において取得した観察部位Sの白色光画像と蛍光画像との動きベクトル情報を算出する(ステップS102)。このステップS102において、動きベクトル演算部43は、反射光画像記憶部41から観察部位Sの白色光画像および反射励起光画像の各画像情報を読み込む。動きベクトル演算部43は、この読み込んだ観察部位Sの白色光画像と反射励起光画像との動きベクトル情報を、ステップS101における観察部位Sの蛍光画像と白色光画像との間の動きベクトル情報として算出する。
続いて、画像処理装置4は、ステップS101における観察部位Sの白色光画像と蛍光画像との位置合わせ処理を行う(ステップS103)。このステップS103において、位置合わせ処理部44は、ステップS101における観察部位Sの白色光画像を反射光画像記憶部41から取得し、ステップS101における観察部位Sの蛍光画像を蛍光画像記憶部42から取得する。また、位置合わせ処理部44は、ステップS102において動きベクトル算出部43cが算出した動きベクトル情報を取得する。位置合わせ処理部44は、この取得した動きベクトル情報をもとに、この観察部位Sの蛍光画像と白色光画像との間の同一被写体に対応する画素位置を合わせる位置合わせ処理を行う。これによって、位置合わせ処理部44は、かかる蛍光画像と白色光画像との間における被写体の位置ずれ(例えば両画像間における病変部Kの位置ずれ等)を補正する。
その後、画像処理装置4は、ステップS103において位置合わせ処理を施した観察部位Sの蛍光画像の規格化処理を実行する(ステップS104)。このステップS104において、出力画像生成部45は、ステップS103における位置合わせ処理が行われた観察部位Sの蛍光画像および白色光画像を位置合わせ処理部44から取得する。出力画像生成部45は、この取得した白色光画像の輝度信号を算出し、この算出した輝度信号をもとに、この白色光画像の輝度信号画像である規格化用画像を生成する。そして、出力画像生成部45は、この生成した規格化用画像の輝度値によってこの位置合わせ処理済みの蛍光画像の輝度値を除算し、これによって、この蛍光画像の各画素の輝度値を規格化処理する。このようにして、出力画像生成部45は、かかる観察部位Sの蛍光画像の規格化処理を達成する。
つぎに、画像処理装置4は、画像表示装置5に表示させる観察部位Sの画像情報の出力処理を行う(ステップS105)。このステップS105において、出力画像生成部45は、ステップS104における蛍光画像の規格化処理に基づく観察部位Sの規格化蛍光画像を生成する。出力画像生成部45は、画像表示装置5に表示させる観察部位Sの出力画像情報として、この観察部位Sの規格化蛍光画像の画像情報を画像表示装置5に送信する。この結果、画像表示装置5は、この観察部位Sの規格化蛍光画像を表示する。
ここで、かかる観察部位Sの規格化蛍光画像は、被写体である観察部位Sから蛍光撮像部37までの距離の違いによる蛍光の明るさの違いが補正された蛍光画像である。画像表示装置5は、かかる観察部位Sの規格化蛍光画像内に、観察部位Sから蛍光撮像部37までの距離に関わらず比較的高い輝度の画素によって、この観察部位S内の病変部Kを表示する。
なお、このステップS105において、出力画像生成部45は、画像表示装置5に表示させる観察部位Sの出力画像情報として、かかる観察部位Sの規格化蛍光画像の画像情報とともに、この観察部位Sの白色光画像の画像情報を画像表示装置5に送信してもよい。これによって、画像表示装置5は、かかる観察部位Sの規格化蛍光画像と白色光画像とを並べて表示することができる。
また、このステップS105において、出力画像生成部45は、画像表示装置5に表示させる観察部位Sの出力画像情報として、かかる観察部位Sの規格化蛍光画像と白色光画像とを重畳した画像情報を画像表示装置5に送信してもよい。この場合、出力画像生成部45は、この規格化蛍光画像内の病変部K等の注目被写体の画素に対応して、この白色光画像内における同じ注目被写体(例えば病変部K)の画素の信号値に所望の色変換処理を行い、これによって、この白色光画像に規格化蛍光画像の画像情報を重畳する。さらに、出力画像生成部45は、かかる白色光画像と規格化蛍光画像との重畳画像情報に対して任意のガンマ変換処理、エッジ強調処理、拡大処理、縮小処理等の後処理を行い、この後処理済みの重畳画像情報を画像表示装置5に送信する。
なお、出力画像生成部45は、この観察部位Sの白色光画像全体に対して画像上の位置に寄らず一様な任意の色変換処理を行い、その後、この色変換処理後の白色光画像に規格化蛍光画像の情報を重畳してもよい。また、出力画像生成部45は、かかる観察部位Sの規格化蛍光画像の代わりに、上述した位置合わせ処理済みの観察部位Sの蛍光画像(すなわち規格化処理前の蛍光画像)と観察部位Sの白色光画像とを重畳してもよい。
上述したステップS105の処理手順が終了後、画像処理装置4は、操作部(図示せず)によってオフ操作等の処理終了操作が行われた場合(ステップS106,Yes)、本処理を終了する。一方、画像処理装置4は、かかる処理終了操作が行われていない場合(ステップS106,No)、上述したステップS101に戻り、このステップS101以降の処理手順を繰り返す。
つぎに、上述したステップS102において画像処理装置4の動きベクトル演算部43が実行する観察部位Sの白色光画像と蛍光画像との動きベクトル算出処理について詳細に説明する。図8は、実施の形態1における観察部位の白色光画像と蛍光画像との動きベクトル算出処理の処理手順を例示するフローチャートである。図9は、動きベクトル算出用画像に動きベクトル測定ブロックを設定した状態を例示する模式図である。図10は、実施の形態1における観察部位の白色光画像と蛍光画像との動きベクトル算出処理を具体的に説明する模式図である。
動きベクトル演算部43は、上述したステップS102における観察部位Sの白色光画像と蛍光画像との動きベクトル算出処理を実行する際、図8に示すように、まず、動きベクトル算出用画像を生成する(ステップS201)。このステップS201において、画像変換部43aは、上述したステップS101における観察部位Sの白色光画像を反射光画像記憶部41から取得する。画像変換部43aは、この取得した白色光画像の輝度信号を算出し、この算出した輝度信号に対して明るさを揃えるためのゲイン調整処理を行って、この白色光画像に対応する輝度信号画像、すなわち動きベクトル算出用画像の一つである基準画像を生成する。また、画像変換部43aは、上述したステップS101における観察部位Sの反射励起光画像を反射光画像記憶部41から取得する。画像変換部43aは、この取得した反射励起光画像の輝度信号を算出し、この算出した輝度信号に対して明るさを揃えるためのゲイン調整処理を行って、この反射励起光画像に対応する輝度信号画像、すなわち動きベクトル算出用画像の一つである対象画像を生成する。
なお、かかる動きベクトル算出用画像を生成するための輝度信号Yは、観察部位Sの白色光画像または反射励起光画像の赤色成分の画素値Rと、緑色成分の画素値Gと、青色成分の画素値Bとを用い、輝度信号Y=0.29×R+0.6×G+0.11×Bの式によって算出される。また、画像変換部43aは、かかる輝度信号Yを算出する代わりに、観察部位Sの白色光画像または反射励起光画像から励起光の波長帯域を多く含むRチャンネルの画素値のみを抽出し、この抽出したRチャンネルの画素値に対してゲイン調整処理を行うことによって、動きベクトル算出用画像(基準画像および対象画像)を生成してもよい。
つぎに、動きベクトル演算部43は、ステップS201において生成した動きベクトル算出用画像に対して動きベクトル測定ブロックを設定する(ステップS202)。このステップS202において、測定ブロック設定部43bは、ステップS201における動きベクトル算出用画像の一方である基準画像Piを画像変換部43aから取得し、この取得した基準画像Pi上に、所定数の動きベクトル測定ブロックを設定する。この場合、測定ブロック設定部43bは、例えば図9に示すように、この基準画像Pi上に、32ブロックの動きベクトル測定ブロックを格子状に設定する。なお、図9に示す基準画像Pi上の動きベクトル測定ブロックの設定状態は一例であり、測定ブロック設定部43bは、基準画像Pi上に所望数の動きベクトル測定ブロックを所望のパターン状に設定すればよい。一方、測定ブロック設定部43bは、ステップS201における動きベクトル算出用画像の他方である対象画像Pjを画像変換部43aから取得する。測定ブロック設定部43bは、この取得した対象画像Pjに対して、上述した基準画像Pi上の測定ブロックとのマッチング処理対象の画素ブロックを所定数設定する。
続いて、動きベクトル演算部43は、上述したステップS101における観察部位Sの蛍光画像と同タイミングの反射光画像とステップS101における観察部位Sの白色光画像との動きベクトル情報を算出する(ステップS203)。
このステップS203において、動きベクトル算出部43cは、ステップS202における動きベクトル算出用画像である基準画像Piおよび対象画像Pjを測定ブロック設定部43bから取得する。動きベクトル算出部43cは、ブロックマッチング法等の既知の手法を用いて、この基準画像Pi上の任意の測定ブロックと相関性の高い対象画像Pj上の画素ブロックを検索する。そして、動きベクトル算出部43cは、互いに相関性の高い基準画像Pi上の測定ブロックと対象画像Pj上の画素ブロックとの間の相対的な位置ずれを示すベクトル情報を基準画像Piと対象画像Pjとの間の動きベクトル情報として算出する。動きベクトル算出部43cは、この基準画像Pi上の全測定ブロックについて動きベクトル情報を算出し、得られた全動きベクトル情報をもとに動きベクトル情報の平均化処理を行って、この基準画像Piと対象画像Pjとの間の代表的な動きベクトル情報を算出する。動きベクトル算出部43cは、上述した観察部位Sの蛍光画像と白色光画像との間の動きベクトル情報として、この算出した代表的な動きベクトル情報を出力する。
具体的には、図10に示すように、上述した基準画像Piに対応する観察部位Sの白色光画像Pwは、観察部位Sに白色光が照射されたタイミングT1に反射光撮像部36によって撮像された反射光画像である。一方、上述した対象画像Pjに対応する観察部位Sの反射励起光画像Prは、観察部位Sに励起光が照射されたタイミングT2に反射光撮像部36によって撮像された反射光画像である。なお、このタイミングT2において、上述した蛍光撮像部37は、この観察部位Sの蛍光画像Pfを撮像する。すなわち、かかる観察部位Sの反射励起光画像Prおよび蛍光画像Pfは、同タイミングに撮像された画像であり、かかる反射励起光画像Prに基づく対象画像Pjと蛍光画像Pfとの間の同一被写体(例えば病変部K)に対応する画素位置は一致する。動きベクトル算出部43cは、かかるタイミングT1における白色光画像Pwに対応する基準画像PiとタイミングT2における反射励起光画像Prに対応する対象画像Pjとの間の動きベクトル情報を算出する。これによって、動きベクトル算出部43cは、この反射励起光画像Prと同タイミングの蛍光画像Pfと白色光画像Pwとの間の動きベクトル情報を算出する。
ここで、観察部位Sの白色光画像Pwは、観察部位Sを描画したカラー画像であり、観察部位S内の血管構造等の形状情報を含んでいる。一方、観察部位Sの蛍光画像Pfは、励起光照射によって蛍光を発生させた病変部Kを描画した画像であり、観察部位S内の血管構造等の形状情報を含んでいない。このため、かかる白色光画像Pwと蛍光画像Pfとの間の動きベクトル情報を直接算出することは困難である。これに対し、動きベクトル算出部43cは、この蛍光画像Pfと同一被写体の画素位置が一致する反射光画像であって観察部位S内の血管構造等の形状情報を含む反射励起光画像Prと白色光画像Pwとの間の動きベクトル情報を算出する。これによって、動きベクトル演算部43は、かかる白色光画像Pwと蛍光画像Pfとの間の動きベクトル情報を間接的に算出することができる。
なお、上述した動きベクトル算出部43cによるブロックマッチング法に基づいて相関性の高い画素ブロックを検索する方法としては、例えば、自乗誤差SSDや誤差の絶対値SAD等を利用する方法がある。これは、上述した基準画像Pi上の測定ブロック領域Iと相関性の高い対象画像Pj上の画素ブロック領域I’を求める方法である。この自乗誤差SSDおよび誤差の絶対値SADは、測定ブロック領域Iにおける画素位置pの画素レベルLpと画素ブロック領域I’における画素位置qの画素レベルLqとを用いた次式(1)、(2)によって各々定義され、この値が小さいほど相関性が高いと評価される。
Figure 0005242479
Figure 0005242479
上述したステップS203の処理手順が終了した後、動きベクトル演算部43は、図7に示したステップS102にリターンする。その後、画像処理装置4は、上述したように、このステップS103に進み、このステップS103以降の処理手順を実行する。
なお、このように動きベクトル情報が規定された白色光画像Pwおよび蛍光画像Pfは、上述したステップS103における位置合わせ処理によって、病変部K等の同一被写体の位置ずれを補正される。また、かかる白色光画像Pwと位置合わせ処理された蛍光画像Pfの輝度は、上述したステップS104において高精度に規格化処理され、これによって、被写体である観察部位Sから蛍光撮像部37までの距離の違いに起因する蛍光画像Pf内の蛍光の明暗が正確に補正される。この結果、出力画像生成部45は、画像間における被写体の位置ずれに影響されることなく、観察部位Sから蛍光撮像部37までの距離に関わらず比較的高い輝度の病変部Kを描画した蛍光画像Pf、すなわち観察部位Sの規格化蛍光画像を精度良く生成できる。また、出力画像生成部45は、かかる位置合わせ処理が行われた蛍光画像Pfまたは規格化蛍光画像と白色光画像Pwとを上述したように重畳処理することによって、図11に示すように観察部位Sの血管構造を表示しつつ病変部Kを強調表示可能な観察部位Sのカラー画像を生成でき、この生成したカラー画像を画像表示装置5に表示できる。
以上、説明したように、本発明の実施の形態1では、励起光を照射して観察部位から発生した蛍光に基づく蛍光画像と、この観察部位から反射したこの励起光に基づく反射励起光画像とを撮像し、この観察部位に白色光を照射して撮像した白色光画像とこの反射励起光画像との間の動きベクトル情報を算出し、この算出した動きベクトル情報をもとに、この観察部位の蛍光画像と白色光画像との間の被写体の位置ずれを補正し、この補正後の白色光画像によってこの蛍光画像を除算して、この蛍光画像の輝度を規格化処理するように構成した。このため、かかる白色光画像をもとに生成する規格化用画像と規格化処理対象の蛍光画像との間の被写体の位置ずれに影響されることなく蛍光画像の規格化処理を実行することができ、これによって、かかる蛍光画像の規格化処理の精度を高めて、観察対象の蛍光画像の輝度を正確に補正することができる。この結果、被写体から撮像部までの距離に関わらず、蛍光画像内の比較的高い輝度の画素に観察部位内の病変部等の異常組織を描画でき、この観察対象の蛍光画像による被検体内の異常組織の検出能を高めることができる。
また、この実施の形態1では、形状情報を殆ど含まない蛍光画像と同じ撮像タイミングの反射励起光画像を用いて観察部位の蛍光画像と白色光画像との間の動きベクトル情報を間接的に算出でき、この算出した動きベクトル情報をもとに、この観察部位の蛍光画像と白色光画像との間の被写体の位置ずれを高精度に補正することができる。このため、この蛍光画像内に描画された病変部等の異常組織と白色光画像内に描画された同一異常組織とを高精度に重畳することができ、この結果、血管構造等の観察部位の体腔内状態をカラー表示するとともに病変部等の異常組織を精度良く強調表示することができる。
(実施の形態2)
つぎに、本発明の実施の形態2について説明する。上述した実施の形態1では、観察部位Sの蛍光画像と観察部位Sの反射光画像との間の動きベクトル情報を算出するために、この蛍光画像と同タイミングに撮像される観察部位Sの反射励起光画像と観察部位Sの白色光画像との間の動きベクトル情報を算出していたが、この実施の形態2では、観察部位Sの蛍光画像と観察部位Sの反射光画像との間の動きベクトル情報を算出するために、この蛍光画像を挟んで時系列順に連続する観察部位Sの2つの白色光画像の間の動きベクトル情報を算出している。
図12は、本発明の実施の形態2にかかる内視鏡装置の一構成例を模式的に示すブロック図である。図12に示すように、この実施の形態2にかかる内視鏡装置101は、上述した実施の形態1にかかる内視鏡装置1の画像処理装置4に代えて画像処理装置104を備える。この実施の形態2にかかる画像処理装置104は、上述した実施の形態1にかかる画像処理装置4の動きベクトル演算部43に代えて動きベクトル演算部143を備える。なお、この実施の形態2において、反射光撮像部36は、図7に示したステップS101において、上述したフィルタ制御部26に対して予め設定された時間間隔で観察部位Sの白色光画像と反射励起光画像とを交互に撮像し、一つの観察部位Sについて、1フレームの蛍光画像を挟んで時系列順に連続する2フレームの白色光画像を撮像する。一方、蛍光撮像部37は、かかる反射光撮像部36による反射励起光画像と同じ撮像タイミングに観察部位Sの蛍光画像を撮像する。すなわち、かかる観察部位Sの蛍光画像および白色光画像は、この予め設定された時間間隔で交互に撮像される。その他の構成は実施の形態1と同じであり、同一構成部分には同一符号を付している。
画像処理装置104は、上述した反射光画像記憶部41と、蛍光画像記憶部42と、位置合わせ処理部44と、出力画像生成部45とを備え、さらに、実施の形態1にかかる画像処理装置4の動きベクトル演算部43に代えて動きベクトル演算部143を備える。この画像処理装置104において、反射光画像記憶部41は、上述した反射光撮像部36によって時系列順に連続的に撮像された観察部位Sの反射励起光画像と白色光画像とを順次記憶する。具体的には、反射光画像記憶部41は、一つの観察部位Sについて、1フレームの反射励起光画像と、この反射励起光画像を挟んで時系列順に連続する2フレームの白色光画像とをカラー画像情報として順次記憶する。なお、画像処理装置104は、かかる反射光画像記憶部41および動きベクトル演算部143の機能以外、上述した実施の形態1にかかる画像処理装置4と同様の機能を有する。
動きベクトル演算部143は、観察部位Sの蛍光画像を挟んで時系列順に連続する観察部位Sの2つの反射光画像の間の動きベクトル情報を算出し、この算出した動きベクトル情報と観察部位Sの蛍光画像および反射光画像の撮像時間間隔とをもとに、この観察部位Sの蛍光画像と反射光画像との間の動きベクトル情報を算出する。図13は、本発明の実施の形態2にかかる画像処理装置の動きベクトル演算部の一構成例を模式的に示すブロック図である。図13に示すように、この実施の形態2における動きベクトル演算部143は、上述した測定ブロック設定部43bを備え、さらに、実施の形態1における動きベクトル演算部43の画像変換部43aに代えて画像変換部143aを備え、動きベクトル算出部43cに代えて動きベクトル算出部143cを備える。
画像変換部143aは、観察部位Sの画像情報を動きベクトル算出用画像に変換処理する。具体的には、画像変換部143aは、反射光画像記憶部41から、観察部位Sの反射励起光画像と、この反射励起光画像を挟んで連続する2フレームの白色光画像とを時系列順に順次読み込む。画像変換部143aは、最初に読み込んだ観察部位Sの白色光画像の画像情報に対して上述した実施の形態1における画像変換部43aと同様の画像変換処理を行って、動きベクトル算出用画像の一つである基準画像を生成する。また、画像変換部143aは、この反射励起光画像の後に読み込んだ観察部位Sの白色光画像の画像情報に対して上述した実施の形態1における画像変換部43aと同様の画像変換処理を行って、動きベクトル算出用画像の一つである対象画像を生成する。画像変換部43aは、かかる最初の白色光画像に対応する動きベクトル算出用画像(基準画像)と、後続の白色光画像に対応する動きベクトル算出用画像(対象画像)と、これら両動きベクトル算出用画像の間の反射励起光画像とを時系列順に測定ブロック設定部43bに順次送信する。
動きベクトル算出部143cは、観察部位Sの蛍光画像と反射光画像との間の動きベクトル情報を算出する。具体的には、動きベクトル算出部143cは、測定ブロック設定部43bから、処理後の各動きベクトル算出用画像である基準画像および対象画像と、これら両動きベクトル用画像の間の反射励起光画像とを時系列順に順次取得する。動きベクトル算出部143cは、この基準画像上の各測定ブロックと相関性の高い対象画像上の各画素ブロックを検索するブロックマッチング法等の既知の手法を用いて、この基準画像と対象画像との間の動きベクトル情報を算出する。ここで、かかる基準画像および対象画像は、反射光撮像部36が観察部位Sの反射励起光画像を挟んで連続的に撮像した観察部位Sの2つの白色光画像に各々対応する。一方、この反射励起光画像は、蛍光撮像部37による観察部位Sの蛍光画像と同じ撮像タイミングに反射光撮像部36によって撮像された観察部位Sの反射光画像であり、かかる反射励起光画像と蛍光画像との間において同一被写体に対応する画素位置は一致する。動きベクトル算出部143cは、かかる基準画像と対象画像との間の動きベクトル情報、すなわち、この反射励起光画像を挟んで時系列順に連続する観察部位Sの2つの白色光画像間の動きベクトル情報を算出する。そして、動きベクトル算出部143cは、この算出した動きベクトル情報と、この観察部位Sの各反射光画像(具体的には、最初の白色光画像、反射励起光画像、後続の白色光画像)の撮像時間間隔とをもとに、この観察部位Sの最初の白色光画像と反射励起光画像との間の動きベクトル情報を最終的に算出する。動きベクトル算出部143cは、このように算出した動きベクトル情報の最終的な算出結果を、観察部位Sの蛍光画像と白色光画像との間の動きベクトル情報として位置合わせ処理部44に送信する。
つぎに、本発明の実施の形態2にかかる画像処理装置104の動作について説明する。この実施の形態2にかかる画像処理装置104は、観察部位Sの白色光画像と蛍光画像との動きベクトル算出処理以外、実施の形態1にかかる画像処理装置4と同様に動作する。すなわち、画像処理装置104は、図7に示したステップS101〜S106の各処理手順において、ステップS102以外、実施の形態1にかかる画像処理装置4と同様の処理手順を実行する。
図14は、実施の形態2における観察部位の白色光画像と蛍光画像との動きベクトル算出処理の処理手順を例示するフローチャートである。図15は、実施の形態2における観察部位の白色光画像と蛍光画像との動きベクトル算出処理を具体的に説明する模式図である。
画像処理装置104が上述したステップS102における観察部位Sの白色光画像と蛍光画像との動きベクトル算出処理を実行する際、この画像処理装置104の動きベクトル演算部143は、図14に示すように、まず、動きベクトル算出用画像を生成する(ステップS301)。
このステップS301において、画像変換部143aは、反射光画像記憶部41から、上述したステップS101における観察部位Sの反射励起光画像Prと、この反射励起光画像Prを挟んで連続する2フレームの白色光画像Pw1,Pw2とを時系列順に順次取得する。ここで、かかる観察部位Sの反射励起光画像Prおよび白色光画像Pw1,Pw2は、図7に示したステップS101において反射光撮像部36によって撮像された観察部位Sの反射光画像である。詳細には、図15に示すように、白色光画像Pw1は、観察部位Sに白色光が照射されたタイミングT1に反射光撮像部36によって撮像された観察部位Sの反射光画像である。反射励起光画像Prは、このタイミングT1の後に観察部位Sに励起光が照射されたタイミングT2に反射光撮像部36によって撮像された観察部位Sの反射光画像である。白色光画像Pw2は、このタイミングT2の後に観察部位Sに白色光が再度照射されたタイミングT3に反射光撮像部36によって撮像された観察部位Sの反射光画像である。画像変換部143aは、この取得した白色光画像Pw1の輝度信号を算出し、この算出した輝度信号に対して明るさを揃えるためのゲイン調整処理を行って、この白色光画像Pw1に対応する輝度信号画像、すなわち動きベクトル算出用画像の一つである基準画像を生成する。同様に、画像変換部143aは、この取得した後続の白色光画像Pw2の輝度信号を算出し、この算出した輝度信号に対して明るさを揃えるためのゲイン調整処理を行って、この白色光画像Pw2に対応する輝度信号画像、すなわち動きベクトル算出用画像の一つである対象画像を生成する。
なお、かかる動きベクトル算出用画像を生成するための輝度信号Yは、観察部位Sの白色光画像Pw1,Pw2の赤色成分の画素値Rと、緑色成分の画素値Gと、青色成分の画素値Bとを用い、輝度信号Y=0.29×R+0.6×G+0.11×Bの式によって算出される。また、画像変換部143aは、かかる輝度信号Yを算出する代わりに、観察部位Sの白色光画像Pw1,Pw2から励起光の波長帯域を多く含むRチャンネルの画素値のみを抽出し、この抽出したRチャンネルの画素値に対してゲイン調整処理を行うことによって、動きベクトル算出用画像(基準画像および対象画像)を生成してもよい。
つぎに、動きベクトル演算部143は、実施の形態1におけるステップS202(図8参照)と同様に、ステップS301において生成した動きベクトル算出用画像に対して動きベクトル測定ブロックを設定し(ステップS302)、続いて、上述したステップS101における観察部位Sの蛍光画像を挟んで時系列順に連続する白色光画像間の動きベクトル情報を算出する(ステップS303)。
このステップS303において、動きベクトル算出部143cは、測定ブロック設定部43bから、ステップS302における各動きベクトル算出用画像(すなわち白色光画像Pw1,Pw2に各々対応する基準画像および対象画像)と、これら両動きベクトル用画像の間の反射励起光画像Prとを時系列順に順次取得する。動きベクトル算出部143cは、実施の形態1の場合と同様にブロックマッチング法等の既知の手法を用いて、この白色光画像Pw1に対応する基準画像Piと後続の白色光画像Pw2に対応する対象画像との間の動きベクトル情報を算出する。動きベクトル算出部143cは、この基準画像上の全測定ブロックについて動きベクトル情報を算出し、得られた全動きベクトル情報をもとに動きベクトル情報の平均化処理を行って、この基準画像と対象画像との間の代表的な動きベクトル情報Vaを算出する。
ここで、かかる動きベクトル算出部143cによって算出された動きベクトル情報Vaは、上述したタイミングT2における反射励起光画像Prを挟んで時系列順に連続するタイミングT1,T3における白色光画像Pw1,Pw2の間の動きベクトル情報である。また、このタイミングT2における反射励起光画像Prは、上述したように、蛍光撮像部37による観察部位Sの蛍光画像Pfと同タイミングに撮像された画像である。すなわち、かかる反射励起光画像Prに基づく対象画像と蛍光画像Pfとの間の同一被写体(例えば病変部K)に対応する画素位置は一致する。動きベクトル算出部143cは、上述したように算出した動きベクトル情報Vaと、観察部位Sの最初の白色光画像Pw1と反射励起光画像Prと後続の白色光画像Pw2との各撮像時間間隔△T1,△T2とをもとに、次式(3)に基づいて、タイミングT1における白色光画像Pw1とタイミングT2における反射励起光画像Prとの間の動きベクトル情報Vbを最終的に算出する。なお、撮像時間間隔△T1は、反射励起光画像Prが撮像されたタイミングT2と白色光画像Pw1が撮像されたタイミングT1との時間差(T2−T1)である。また、撮像時間間隔△T2は、白色光画像Pw2が撮像されたタイミングT3と反射励起光画像Prが撮像されたタイミングT2との時間差(T3−T2)である。

Vb=Va×{△T1/(△T1+△T2)} ・・・(3)

例えば、上述した白色光画像Pw1,Pw2および反射励起光画像Prが各々同じ時間間隔で撮像された場合、各撮像時間間隔△T1,△T2は同値であり、白色光画像Pw1と反射励起光画像Prとの間の動きベクトル情報Vbは、2つの白色光画像Pw1,Pw2の間の動きベクトル情報Vaの1/2になる。このように動きベクトル算出部143cによって最終的に算出された動きベクトル情報Vbは、観察部位Sの反射励起光画像Prと同じタイミングT2における観察部位Sの蛍光画像PfとタイミングT1における観察部位Sの白色光画像Pw1との間の動きベクトル情報である。
上述したステップS303の処理手順が終了した後、動きベクトル演算部143は、図7に示したステップS102にリターンする。その後、画像処理装置104は、実施の形態1の場合と同様に、ステップS103に進み、このステップS103以降の処理手順を実行する。
なお、このように動きベクトル情報が規定された白色光画像Pw1および蛍光画像Pfは、実施の形態1の場合と同様に位置合わせ処理され、これによって、病変部K等の同一被写体の位置ずれを補正される。また、かかる白色光画像Pw1と位置合わせ処理された蛍光画像Pfの輝度は、実施の形態1の場合と同様に高精度に規格化処理され、これによって、被写体である観察部位Sから蛍光撮像部37までの距離の違いに起因する蛍光画像Pf内の蛍光の明暗が正確に補正される。
以上、説明したように、本発明の実施の形態2では、一つの観察部位について、蛍光画像および反射励起光画像と、この反射励起光画像を挟んで時系列順に連続する2つの白色光画像とを撮像し、これら2つの白色光画像間の動きベクトル情報とこれら反射励起光画像および2つの白色光画像の各時間間隔とをもとに、この反射励起光画像と白色光画像との間の動きベクトル情報を算出するようにし、その他を実施の形態1と同様に構成した。このため、上述した実施の形態1の場合と同様の作用効果を享受するとともに、白色光画像と反射励起光画像との分光特性の違いに起因して白色光画像と反射励起光画像との間の画像情報が大きく異なる場合であっても、かかる白色光画像と反射励起光画像との分光特性の違いに起因する影響を受けることなく、観察部位の白色光画像と蛍光画像との間の動きベクトル情報を高精度に算出することができる。この結果、かかる蛍光画像の規格化処理の精度を一層確実に高めることができる。
(実施の形態3)
つぎに、本発明の実施の形態3について説明する。上述した実施の形態1では、観察部位Sの白色光画像をもとに生成した規格化用画像によって観察部位Sの蛍光画像を除算して、この蛍光画像の輝度を規格化処理していたが、この実施の形態3では、観察部位Sの白色光画像と同タイミングに蛍光撮像部37によって観察部位Sからの反射光(白色光)に基づく輝度成分画像を撮像し、この輝度成分画像によって観察部位Sの蛍光画像を除算して、この蛍光画像の輝度を規格化処理している。
図16は、本発明の実施の形態3にかかる内視鏡装置の一構成例を模式的に示すブロック図である。図16に示すように、この実施の形態3にかかる内視鏡装置201は、上述した実施の形態1にかかる内視鏡装置1の画像処理装置4に代えて画像処理装置204を備え、バリアフィルタ35に代えてバリアフィルタ235を備え、蛍光撮像部37に代えて蛍光撮像部237を備える。また、この実施の形態3にかかる画像処理装置204は、上述した実施の形態1にかかる画像処理装置4の蛍光画像記憶部42に代えて蛍光画像記憶部242を備え、位置合わせ処理部44に代えて位置合わせ処理部244を備え、出力画像生成部45に代えて出力画像生成部245を備える。その他の構成は実施の形態1と同じであり、同一構成部分には同一符号を付している。
バリアフィルタ235は、ダイクロイックミラー34によって蛍光撮像部237側の光路に分岐された観察部位Sからの光のうち、蛍光撮像部237に必要な波長帯域の光を透過させ且つ蛍光撮像部237に不要な波長帯域の光を遮断するためのフィルタである。図17は、本発明の実施の形態3におけるバリアフィルタの透過率特性の一例を示す模式図である。バリアフィルタ235は、図17に示す波長対透過率の相関線C8,C9のように、400〜580nmの波長帯域の光と660〜750nmの波長帯域の光とを透過させる透過率特性を有する。詳細には、バリアフィルタ235は、ダイクロイックミラー34によって蛍光撮像部237側の光路に分岐された観察部位Sからの反射光のうち、400〜580nmの波長帯域の反射光を透過させるとともに、この波長帯域以外の反射光を遮断する。また、バリアフィルタ235は、ダイクロイックミラー34によって蛍光撮像部237側の光路に分岐された観察部位Sからの蛍光および励起光のうち、この観察部位Sからの励起光を遮断するとともに、660〜750nmの波長帯域の光である観察部位Sからの蛍光を透過させる。なお、かかるバリアフィルタ235による400〜580nmの波長帯域の反射光の透過率は0.5%程度であり、660〜750nmの波長帯域の光(蛍光)の透過率は80%程度であることが望ましい。
蛍光撮像部237は、上述した反射光撮像部36に比して高い感度特性を有するモノクロ撮像素子を用いて実現される。蛍光撮像部237は、観察部位Sに白色光が照射されたタイミングに、この観察部位Sから反射した白色光のうちのバリアフィルタ235を透過した400〜580nmの波長帯域の反射光を受光する。これによって、蛍光撮像部237は、上述した反射光撮像部36による観察部位Sの白色光画像と同じ撮像タイミングに、この400〜580nmの波長帯域の反射光に基づく観察部位Sの反射光画像(以下、輝度成分画像という)を撮像する。蛍光撮像部237は、かかる観察部位Sの輝度成分画像を撮像する都度、得られた画像情報を含む画像信号を画像処理装置204に順次送信する。なお、蛍光撮像部237は、かかる輝度成分画像の撮像機能以外、上述した実施の形態1における蛍光撮像部37と同様の機能を有する。
画像処理装置204は、上述した反射光画像記憶部41および動きベクトル演算部43を備え、さらに、実施の形態1にかかる画像処理装置4の蛍光画像記憶部42に代えて蛍光画像記憶部242を備え、位置合わせ処理部44に代えて位置合わせ処理部244を備え、出力画像生成部45に代えて出力画像生成部245を備える。この画像処理装置204において、反射光画像記憶部41は、上述した反射光撮像部36によって撮像された白色光画像および反射励起光画像に対して補間処理を各々行い、かかる補間処理後の白色光画像および反射励起光画像の各画像情報を記憶する。なお、画像処理装置204は、上述した実施の形態1にかかる画像処理装置4と同様の動きベクトル演算処理機能を有する。
蛍光画像記憶部242は、上述した光源装置2のフィルタ制御部26の制御に基づいて、蛍光撮像部237による画像情報を記憶する。具体的には、蛍光画像記憶部242は、フィルタ制御部26によって送信されたフィルタ情報を取得し、この取得したフィルタ情報をもとに、光源装置2の光路内に現に位置する回転フィルタ24のフィルタが白色光フィルタ24aおよび励起光フィルタ24bのいずれであるかを識別する。蛍光画像記憶部242は、光源装置2の光路内のフィルタが白色光フィルタ24aである場合、蛍光撮像部237から観察部位Sの輝度成分画像の画像情報を取得し、この取得した画像情報を順次記憶する。また、蛍光画像記憶部242は、光源装置2の光路内のフィルタが励起光フィルタ24bである場合、上述した実施の形態1の場合と同様に、蛍光撮像部237から観察部位Sの蛍光画像の画像情報を取得し、この取得した画像情報を順次記憶する。
位置合わせ処理部244は、観察部位Sの蛍光画像と反射光画像との位置合わせ処理を行って、この蛍光画像と反射光画像との間の被写体の位置ずれを補正する。具体的には、位置合わせ処理部244は、蛍光画像記憶部242から蛍光撮像部237による観察部位Sの輝度成分画像および蛍光画像の各画像情報を順次読み込む。また、位置合わせ処理部244は、上述した動きベクトル算出部43cによって算出された動きベクトル情報、すなわち、この観察部位Sの蛍光画像と白色光画像との間の動きベクトル情報を動きベクトル演算部43から取得する。位置合わせ処理部244は、この取得した動きベクトル情報をもとに、この観察部位Sの蛍光画像と輝度成分画像との間の同一被写体(例えば病変部K等)に対応する画素位置を合わせる位置合わせ処理を行う。これによって、位置合わせ処理部244は、かかる蛍光画像と輝度成分画像との間における被写体の位置ずれを補正する。位置合わせ処理部244は、かかる位置合わせ処理後の蛍光画像および輝度成分画像の各画像情報を出力画像生成部245に送信する。
出力画像生成部245は、位置合わせ処理部244によって位置合わせ処理された各画像情報をもとに、画像表示装置5に表示させる出力画像を生成する。具体的には、出力画像生成部245は、上述した位置合わせ処理が行われた観察部位Sの蛍光画像および輝度成分画像の各画像情報を位置合わせ処理部244から取得する。出力画像生成部245は、この取得した輝度成分画像の輝度をもとにこの蛍光画像の輝度を規格化処理して、観察部位Sの規格化蛍光画像を生成する。この場合、出力画像生成部245は、この蛍光画像の規格化処理のための規格化用画像として、この位置合わせ処理部244から取得した輝度成分画像を用いる。出力画像生成部245は、かかる輝度成分画像の輝度値によって、この位置合わせ処理済みの蛍光画像の輝度値を除算する。これによって、出力画像生成部245は、この観察部位Sの蛍光画像の各画素の輝度値を規格化処理し、この結果、観察部位Sの規格化蛍光画像を生成する。なお、出力画像生成部245は、かかる蛍光画像の規格化処理機能以外、上述した実施の形態1にかかる画像処理装置4の出力画像生成部45と同様の機能を有する。
つぎに、本発明の実施の形態3にかかる画像処理装置204の動作について説明する。図18は、本発明の実施の形態3にかかる画像処理装置の処理手順を例示するフローチャートである。図19は、実施の形態3における観察部位の蛍光画像の位置合わせ処理および規格化処理を具体的に説明する模式図である。以下、図18,19を参照して、この実施の形態3にかかる画像処理装置204の動作を説明する。
図18に示すように、画像処理装置204は、まず、観察部位Sの画像情報を取得する(ステップS401)。このステップS401において、反射光画像記憶部41は、上述したステップS101の場合と同様に、観察部位Sに白色光が照射されたタイミングT1に反射光撮像部36によって撮像された観察部位Sの白色光画像Pwと、観察部位Sに励起光が照射されたタイミングT2に反射光撮像部36によって撮像された観察部位Sの反射励起光画像Prとを順次取得し、これら白色光画像Pwおよび反射励起光画像Prを観察部位Sのカラー画像情報として記憶する。一方、蛍光画像記憶部242は、この白色光画像Pwと同じ撮像タイミングすなわちタイミングT1に蛍光撮像部237によって撮像された観察部位Sの輝度成分画像Psを取得し、この取得した輝度成分画像Psをモノクロの反射光画像情報として記憶する。また、蛍光画像記憶部242は、この反射励起光画像Prと同じ撮像タイミングすなわちタイミングT2に蛍光撮像部237によって撮像された観察部位Sの蛍光画像Pfを取得し、この取得した蛍光画像Pfをモノクロ画像情報として記憶する。
つぎに、画像処理装置204は、図7に示したステップS101と同様に、ステップS401における観察部位Sの白色光画像Pwと蛍光画像Pfとの間の動きベクトル情報を算出し(ステップS402)、続いて、この白色光画像Pwと同タイミングT1の輝度成分画像Psと蛍光画像Pfとの位置合わせ処理を行う(ステップS403)。なお、このステップS402において、画像処理装置204の動きベクトル演算部43は、図8に示したステップS201〜S203の処理手順を実行する。
このステップS403において、位置合わせ処理部244は、ステップS401における観察部位Sの輝度成分画像Psおよび蛍光画像Pfを蛍光画像記憶部242から取得する。また、位置合わせ処理部244は、ステップS402において動きベクトル演算部43が算出した白色光画像Pwと反射励起光画像Prとの間の動きベクトル情報、すなわち白色光画像Pwと蛍光画像Pfとの間の動きベクトル情報を取得する。ここで、白色光画像Pwおよび輝度成分画像Psは、同じタイミングT1に撮像された観察部位Sの画像情報であり、かかる白色光画像Pwと輝度成分画像Psとの間の同一被写体(例えば病変部K)に対応する画素位置は一致する。また、反射励起光画像Prおよび蛍光画像Pfは、同じタイミングT2に撮像された観察部位Sの画像情報であり、かかる反射励起光画像Prと蛍光画像Pfとの間の同一被写体(例えば病変部K)に対応する画素位置は一致する。したがって、このように位置合わせ処理部244が動きベクトル演算部43から取得した白色光画像Pwと蛍光画像Pfとの間の動きベクトル情報は、観察部位Sの輝度成分画像Psと蛍光画像Pfとの間の動きベクトル情報に相当する。位置合わせ処理部244は、かかる動きベクトル演算部43から取得した動きベクトル情報をもとに、観察部位Sの輝度成分画像Psと蛍光画像Pfとの間の同一被写体に対応する画素位置を合わせる位置合わせ処理を行う。これによって、位置合わせ処理部244は、かかる輝度成分画像Psと蛍光画像Pfとの間における被写体の位置ずれ(例えば両画像間における病変部Kの位置ずれ等)を補正する。
その後、画像処理装置204は、ステップS403において位置合わせ処理を施した観察部位Sの蛍光画像Pfの規格化処理を実行する(ステップS404)。このステップS404において、出力画像生成部245は、ステップS403における位置合わせ処理が行われた観察部位Sの輝度成分画像Psおよび蛍光画像Pfを位置合わせ処理部244から取得する。出力画像生成部245は、この取得した輝度成分画像Psを規格化用画像として用いて蛍光画像Pfの規格化処理を実行する。すなわち、出力画像生成部245は、この取得した輝度成分画像Psの輝度値によってこの位置合わせ処理済みの蛍光画像Pfの輝度値を除算し、これによって、この蛍光画像Pfの各画素の輝度値を規格化処理する。このようにして、出力画像生成部245は、かかる観察部位Sの蛍光画像Pfの規格化処理を達成する。
つぎに、画像処理装置204は、図7に示したステップS105と同様に、画像表示装置5に表示させる観察部位Sの画像情報の出力処理を行う(ステップS405)。その後、画像処理装置204は、図7に示したステップS106と同様に、オフ操作等の処理終了操作が行われた場合(ステップS406,Yes)、本処理を終了し、処理終了操作が行われていない場合(ステップS406,No)、上述したステップS401に戻り、このステップS401以降の処理手順を繰り返す。
以上、説明したように、本発明の実施の形態3では、観察部位に白色光を照射したタイミングに、この観察部位の白色光画像と輝度成分画像とを撮像し、この観察部位の白色光画像と反射励起光画像との間の動きベクトル情報をもとに、この観察部位の輝度成分画像と蛍光画像との間の被写体の位置ずれを補正し、この補正後の輝度成分画像によってこの蛍光画像の輝度値を除算して、この蛍光画像の輝度を規格化処理するようにし、その他を実施の形態1と同様に構成した。このため、上述した実施の形態1の場合と同様の作用効果を享受するとともに、観察部位の白色光画像の輝度信号を算出して規格化用画像を生成しなくとも、観察部位の白色光画像と同タイミングに撮像された輝度成分画像の輝度信号をもとに蛍光画像の輝度を容易に規格化処理することができる。この結果、かかる蛍光画像の規格化処理を実行する際の画像処理装置の負荷を軽減できるとともに処理時間の短時間化を促進することができる。
(実施の形態4)
つぎに、本発明の実施の形態4について説明する。上述した実施の形態3では、実施の形態1の場合と同様に、観察部位Sの蛍光画像と観察部位Sの反射光画像との間の動きベクトル情報を算出するために、この蛍光画像と同タイミングに撮像される観察部位Sの反射励起光画像と観察部位Sの白色光画像との間の動きベクトル情報を算出していたが、この実施の形態4では、上述した実施の形態2の場合と同様に、観察部位Sの蛍光画像と観察部位Sの反射光画像との間の動きベクトル情報を算出するために、この蛍光画像を挟んで時系列順に連続する観察部位Sの2つの白色光画像の間の動きベクトル情報を算出している。すなわち、この実施の形態4にかかる発明は、上述した実施の形態2と実施の形態3とを適宜組み合わせたものである。
図20は、本発明の実施の形態4にかかる内視鏡装置の一構成例を模式的に示すブロック図である。図20に示すように、この実施の形態4にかかる内視鏡装置301は、上述した実施の形態3にかかる内視鏡装置201の画像処理装置204に代えて画像処理装置304を備える。また、この実施の形態4にかかる画像処理装置304は、上述した実施の形態3にかかる画像処理装置204の動きベクトル演算部43に代えて実施の形態2における動きベクトル演算部143を備える。その他の構成は実施の形態3と同じであり、同一構成部分には同一符号を付している。
画像処理装置304は、上述した反射光画像記憶部41と、蛍光画像記憶部242と、位置合わせ処理部244と、出力画像生成部245とを備え、さらに、実施の形態3にかかる画像処理装置204の動きベクトル演算部43に代えて動きベクトル演算部143を備える。この画像処理装置304において、反射光画像記憶部41は、上述した反射光撮像部36によって時系列順に連続的に撮像された観察部位Sの反射励起光画像と白色光画像とを順次記憶する。具体的には、反射光画像記憶部41は、一つの観察部位Sについて、1フレームの反射励起光画像と、この反射励起光画像を挟んで時系列順に連続する2フレームの白色光画像とをカラー画像情報として順次記憶する。一方、動きベクトル演算部143は、上述した実施の形態2の場合と同様に機能する。なお、画像処理装置304は、かかる反射光画像記憶部41および動きベクトル演算部143の機能以外、上述した実施の形態3にかかる画像処理装置204と同様の機能を有する。
つぎに、本発明の実施の形態4にかかる画像処理装置304の動作について説明する。図21は、実施の形態4にかかる画像処理装置の動作を具体的に説明する模式図である。この実施の形態4にかかる画像処理装置304は、実施の形態2の場合と同様に動きベクトル算出処理を行い、この動きベクトル算出処理以外、実施の形態3にかかる画像処理装置204と略同様に動作する。すなわち、画像処理装置304は、図18に示したステップS401〜S406と略同様の各処理手順を実行し、ステップS402において、図14に示したステップS301〜S303の各処理手順を実行する。以下、図21を参照して、画像処理装置304の動作を具体的に説明する。
具体的には、ステップS401において、画像処理装置304は、観察部位Sに白色光が照射されたタイミングT1に反射光撮像部36によって撮像された観察部位Sの白色光画像Pw1と蛍光撮像部237によって撮像された観察部位Sの輝度成分画像Ps1とを取得する。つぎに、画像処理装置304は、この観察部位Sに励起光が照射されたタイミングT2に反射光撮像部36によって撮像された観察部位Sの反射励起光画像Prと蛍光撮像部237によって撮像された観察部位Sの蛍光画像Pfとを取得する。その後、画像処理装置304は、この観察部位Sに再度白色光が照射されたタイミングT3に反射光撮像部36によって撮像された観察部位Sの白色光画像Pw2と蛍光撮像部237によって撮像された観察部位Sの輝度成分画像Ps2とを取得する。
なお、このステップS401において、反射光画像記憶部41は、かかる観察部位Sの反射励起光画像Prと反射励起光画像Prを挟んで時系列順に連続する2つの白色光画像Pw1,Pw2とを時系列順に順次記憶する。蛍光画像記憶部242は、この白色光画像Pw1と同じ撮像タイミングの輝度成分画像Ps1と、この反射励起光画像Prと同じ撮像タイミングの蛍光画像Pfと、この後続の白色光画像Pw2と同じ撮像タイミングの輝度成分画像Ps2とを順次記憶する。
一方、ステップS402において、画像処理装置304は、上述した実施の形態2の場合と同様に動きベクトル算出処理を実行する。すなわち、この画像処理装置304の動きベクトル演算部143は、図14に示したステップS301〜S303の各処理手順を実行する。かかる動きベクトル演算部143は、図15に示すように、タイミングT1における白色光画像Pw1とタイミングT3における白色光画像Pw2との間の動きベクトル情報Vaを算出し、この算出した動きベクトル情報Vaと各撮像時間間隔△T1,△T2とをもとに、上述した式(3)に基づいて、タイミングT1における白色光画像Pw1とタイミングT2における反射励起光画像Prとの間の動きベクトル情報Vbを最終的に算出する。なお、この動きベクトル情報Vbは、上述したように、観察部位Sの反射励起光画像Prと同じタイミングT2における観察部位Sの蛍光画像PfとタイミングT1における観察部位Sの白色光画像Pw1との間の動きベクトル情報である。
その後、画像処理装置304は、上述した実施の形態3の場合と同様に、ステップS403に進み、このステップS403以降の処理手順を実行する。この場合、図21に示すように、位置合わせ処理部244は、タイミングT1における輝度成分画像Ps1とタイミングT2における蛍光画像Pfとの位置合わせ処理を実行する。出力画像生成部245は、この位置合わせ処理後の輝度成分画像Ps1によって蛍光画像Pfを除算して、この蛍光画像Pfの輝度を規格化処理する。
なお、この実施の形態4にかかる画像処理装置304において、動きベクトル演算部143は、上述した動きベクトル情報Vaと各撮像時間間隔△T1,△T2とをもとに、次式(4)に基づいて、タイミングT3における白色光画像Pw2とタイミングT2における反射励起光画像Prとの間の動きベクトル情報Vbを最終的に算出してもよい。

Vb=Va×{△T2/(△T1+△T2)} ・・・(4)

なお、この場合の動きベクトル情報Vbは、観察部位Sの反射励起光画像Prと同じタイミングT2における観察部位Sの蛍光画像PfとタイミングT3における観察部位Sの白色光画像Pw2との間の動きベクトル情報である。
また、位置合わせ処理部244は、この式(4)に基づく動きベクトル情報Vbをもとに、タイミングT3における輝度成分画像Ps2とタイミングT2における蛍光画像Pfとの位置合わせ処理を実行してもよい。さらに、出力画像生成部245は、この位置合わせ処理後の輝度成分画像Ps2によって蛍光画像Pfを除算して、この蛍光画像Pfの輝度を規格化処理してもよい。
以上、説明したように、本発明の実施の形態4では、一つの観察部位について、蛍光画像および反射励起光画像と、この反射励起光画像を挟んで時系列順に連続する2つの白色光画像とを撮像し、これら2つの白色光画像間の動きベクトル情報とこれら反射励起光画像および2つの白色光画像の各時間間隔とをもとに、この反射励起光画像と白色光画像との間の動きベクトル情報を算出するようにし、その他を実施の形態3と同様に構成した。このため、上述した実施の形態2の場合と同様の作用効果を享受するとともに、上述した実施の形態3の場合と同様の作用効果を享受することができる。
なお、上述した実施の形態1〜4では、ハードウエアによる画像処理装置の処理手順を説明したが、これに限らず、本発明にかかる画像処理装置は、ソフトウエアによる処理手順を実行してもよい。すなわち、上述した実施の形態1〜4にかかる画像処理装置4,104,204,304は、処理プログラムを記憶する記憶部およびこの記憶部内の処理プログラムを実行するCPU等のコンピュータを用いて実現され、この処理プログラムに従って画像処理装置内の各構成部が動作するようにしてもよい。
具体的には、実施の形態1にかかる画像処理装置4は、かかる処理プログラムに基づいて、上述したステップS101〜S106の各処理手順を実行し、ステップS102において上述したステップS201〜S203の各処理手順を実行すればよい。実施の形態2にかかる画像処理装置104は、かかる処理プログラムに基づいて、上述したステップS101〜S106の各処理手順を実行し、ステップS102において上述したステップS301〜S303の各処理手順を実行すればよい。実施の形態3にかかる画像処理装置204は、かかる処理プログラムに基づいて、上述したステップS401〜S406の各処理手順を実行し、ステップS402において上述したステップS201〜S203の各処理手順を実行すればよい。実施の形態4にかかる画像処理装置304は、かかる処理プログラムに基づいて、上述したステップS401〜S406の各処理手順を実行し、ステップS402において上述したステップS301〜S303の各処理手順を実行すればよい。
一方、上述した実施の形態1〜4では、観察部位Sに白色光を照射して観察部位Sの白色光画像を撮像していたが、これに限らず、白色光の代わりに観察部位SにR光等の単色光を照射し、この観察部位Sから反射した単色光に基づく単色光画像を撮像してもよい。この場合、上述した観察部位Sの白色光の代わりに、観察部位Sの単色光画像と蛍光画像との動きベクトル情報を算出し、この算出した動きベクトル情報をもとに、この単色光画像と蛍光画像との間の被写体の位置ずれを補正し、この補正後の単色光画像によって蛍光画像を除算して、この蛍光画像の輝度を規格化処理してもよい。
また、上述した実施の形態1,2では、観察部位Sの白色光画像の輝度信号を算出し、この算出した輝度信号をもとに規格化用画像を生成していたが、これに限らず、観察部位Sの白色光画像または単色光画像の所定色(例えばRチャンネル)の信号値を算出し、この算出した所定色の信号値をもとに規格化用画像を生成してもよい。
さらに、上述した実施の形態2,4では、反射励起光画像を挟んで時系列順に連続する2つの白色光画像の間の動きベクトル情報を白色光画像の撮像毎に順次算出していたが、これに限らず、かかる観察部位の反射励起光画像および白色光画像を同じ時間間隔で順次撮像する場合、観察部位Sにおける最初の白色光画像と次の反射励起光画像との間の動きベクトル情報を一度算出し、この算出した動きベクトル情報を、観察部位Sにおける後続の白色光画像と反射励起光画像との間の動きベクトル情報として用いてもよい。
また、上述した実施の形態1〜4では、白色光フィルタ24aと励起光フィルタ24bとを順次切り替える回転フィルタ24を光源装置2に内蔵し、光源装置2から白色光フィルタ24aに基づく白色光と励起光フィルタ24bに基づく励起光とを順次出力していたが、これに限らず、かかる光源装置2の回転フィルタ24は、上述した白色光フィルタ24aおよび励起光フィルタ24bを含む3種類以上のフィルタを備えたものであってもよい。この場合、回転フィルタ24は、フィルタ制御部26の制御に基づいて、予め設定された時間間隔で白色光フィルタ24a、励起光フィルタ24b、残りのフィルタ(図示せず)を順次切り替えればよい。これによって、光源装置2は、上述した白色光および励起光の他に、R光等の所望色の単色光等の所望の波長帯域の追加光を観察部位Sに照射することができる。これによって、本発明にかかる画像処理装置は、かかる追加光に基づく画像情報をさらに取得でき、この画像情報を規格化画像として用いて観察部位Sの蛍光画像を容易に規格化処理することができる。なお、このように追加の画像情報を取得する場合、この追加の画像情報と観察部位Sの白色光画像または蛍光画像との動きベクトル情報を算出し、かかる各画像情報の位置合わせ処理を行った上でこの追加の画像情報と白色光画像または蛍光画像とを重畳処理してもよい。
さらに、上述した実施の形態1〜4では、患者等の被検体の体腔内を観察するための内視鏡装置を本発明にかかる撮像装置の一例として説明したが、これに限らず、本発明にかかる撮像装置は、医療分野以外に用いる内視鏡装置であってもよいし、内視鏡装置以外の撮像装置、例えば、デジタルカメラまたはデジタルビデオカメラであってもよいし、撮像機能付の携帯電話等の携帯型情報端末であってもよい。また、本発明にかかる画像処理装置は、上述した医療用の内視鏡装置に具備されるものに限らず、医療分野以外に用いる内視鏡装置、デジタルカメラまたはデジタルビデオカメラ等の内視鏡装置以外の撮像装置、または撮像機能付の携帯電話等の携帯型情報端末のいずれかに具備されるものであってもよい。
また、上述した実施の形態1〜4では、出力画像生成部は、位置合わせ処理部によって位置合わせ処理された観察部位の蛍光画像の輝度を規格化処理して、この観察部位の規格化蛍光画像を生成する画像生成部として機能していたが、これに限らず、上述した出力画像生成部は、観察部位の蛍光画像の規格化処理を行わずに、この観察部位の蛍光画像内の蛍光被写体と、この観察部位の反射光画像内の前記蛍光被写体と同じ被写体とを重畳処理した出力画像を生成する画像生成部として機能してもよい。
具体的には、上述した実施の形態1,2における出力画像生成部45は、上述した位置合わせ処理が行われた観察部位Sの蛍光画像および白色光画像の各画像情報を位置合わせ処理部44から取得し、この取得した位置合わせ処理済みの蛍光画像と白色光画像との同一被写体(例えば病変部K)を重畳処理し、この同一被写体を重ね合わせた蛍光画像と白色光画像との重畳画像を出力画像情報として生成する。この場合、出力画像生成部45は、図7に示したステップS104において、蛍光画像の規格化処理の代わりに、かかる位置合わせ処理済みの蛍光画像と白色光画像との同一被写体(例えば病変部K)を重ね合わせる重畳処理を行う。その後、出力画像生成部45は、図7に示したステップS105において、かかる位置合わせ処理済みの蛍光画像と白色光画像との重畳画像を生成する。出力画像生成部45は、このように生成した観察部位Sの重畳画像を画像表示装置5に送信し、この観察部位Sの重畳画像を画像表示装置5に表示させる。
かかる重畳画像を生成する出力画像生成部45を備えた画像処理装置は、上述した実施の形態1または2の場合と同様に、形状情報を殆ど含まない蛍光画像と白色光画像との間の動きベクトル情報を算出でき、この算出した動きベクトル情報をもとに、観察部位の蛍光画像と白色光画像との間の被写体の位置ずれを高精度に補正して、かかる蛍光画像と白色光画像との同一被写体を正確に重ね合わせることができる。これによって、この蛍光画像内の病変部等の異常組織と白色光画像内の同一異常組織との位置ずれを防止できる。この結果、上述した実施の形態1または2の場合と同様の作用効果を享受し、且つ、蛍光画像内の観察部位を容易に蛍光観察できるとともに、この観察部位の蛍光画像による被検体内の異常組織の検出能を向上可能な画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法を実現できる。
一方、上述した実施の形態3,4における出力画像生成部245は、上述した位置合わせ処理が行われた観察部位Sの蛍光画像および輝度成分画像の各画像情報と観察部位Sの白色光画像の画像情報とを位置合わせ処理部244から取得する。出力画像生成部245は、この取得した蛍光画像と輝度成分画像との位置合わせ処理結果をもとに、この観察部位Sの蛍光画像と白色光画像との同一被写体(例えば病変部K)を重畳処理する。すなわち、出力画像生成部245は、この取得した輝度成分画像と同じタイミングに撮像された観察部位Sの白色光画像と、この位置合わせ処理済みの蛍光画像との同一被写体を重畳処理する。出力画像生成部245は、かかる重畳処理によって同一被写体を重ね合わせた蛍光画像と白色光画像との重畳画像を出力画像情報として生成する。この場合、出力画像生成部245は、図18に示したステップS404において、蛍光画像の規格化処理の代わりに、この輝度成分画像との位置合わせ処理済みの蛍光画像と、この輝度成分画像と同じ撮像タイミングの白色光画像との同一被写体(例えば病変部K)を重ね合わせる重畳処理を行う。その後、出力画像生成部245は、図18に示したステップS405において、かかる位置合わせ処理済みの蛍光画像と白色光画像との重畳画像を生成する。出力画像生成部45は、このように生成した観察部位Sの重畳画像を画像表示装置5に送信し、この観察部位Sの重畳画像を画像表示装置5に表示させる。
かかる重畳画像を生成する出力画像生成部245を備えた画像処理装置は、上述した実施の形態3または4の場合と同様に、形状情報を殆ど含まない蛍光画像と白色光画像との間の動きベクトル情報を算出でき、この算出した動きベクトル情報をもとに、観察部位の蛍光画像と白色光画像との間の被写体の位置ずれを高精度に補正して、かかる蛍光画像と白色光画像との同一被写体を正確に重ね合わせることができる。これによって、この蛍光画像内の病変部等の異常組織と白色光画像内の同一異常組織との位置ずれを防止できる。この結果、上述した実施の形態3または4の場合と同様の作用効果を享受し、且つ、蛍光画像内の観察部位を容易に蛍光観察できるとともに、この観察部位の蛍光画像による被検体内の異常組織の検出能を向上可能な画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法を実現できる。
本発明の実施の形態1にかかる内視鏡装置の一構成例を模式的に示すブロック図である。 回転フィルタの一構成例を示す模式図である。 回転フィルタの透過率特性の一例を示す模式図である。 本発明の実施の形態1におけるバリアフィルタの透過率特性の一例を示す模式図である。 反射光撮像部に配置される複数のカラーフィルタの分光特性の一例を示す模式図である。 本発明の実施の形態1にかかる画像処理装置の動きベクトル演算部の一構成例を模式的に示すブロック図である。 本発明の実施の形態1にかかる画像処理装置の処理手順を例示するフローチャートである。 実施の形態1における観察部位の白色光画像と蛍光画像との動きベクトル算出処理の処理手順を例示するフローチャートである。 動きベクトル算出用画像に動きベクトル測定ブロックを設定した状態を例示する模式図である。 実施の形態1における観察部位の白色光画像と蛍光画像との動きベクトル算出処理を具体的に説明する模式図である。 観察部位の白色光画像と蛍光画像とを重畳処理した画像の一具体例を示す模式図である。 本発明の実施の形態2にかかる内視鏡装置の一構成例を模式的に示すブロック図である。 本発明の実施の形態2にかかる画像処理装置の動きベクトル演算部の一構成例を模式的に示すブロック図である。 実施の形態2における観察部位の白色光画像と蛍光画像との動きベクトル算出処理の処理手順を例示するフローチャートである。 実施の形態2における観察部位の白色光画像と蛍光画像との動きベクトル算出処理を具体的に説明する模式図である。 本発明の実施の形態3にかかる内視鏡装置の一構成例を模式的に示すブロック図である。 本発明の実施の形態3におけるバリアフィルタの透過率特性の一例を示す模式図である。 本発明の実施の形態3にかかる画像処理装置の処理手順を例示するフローチャートである。 実施の形態3における観察部位の蛍光画像の位置合わせ処理および規格化処理を具体的に説明する模式図である。 本発明の実施の形態4にかかる内視鏡装置の一構成例を模式的に示すブロック図である。 実施の形態4にかかる画像処理装置の動作を具体的に説明する模式図である。
1,101,201,301 内視鏡装置
2 光源装置
3 挿入部
4,104,204,304 画像処理装置
5 画像表示装置
21 白色光源
22 コリメートレンズ
23 集光レンズ
24 回転フィルタ
24a 白色光フィルタ
24b 励起光フィルタ
25 モータ
26 フィルタ制御部
31 ライトガイドファイバ
32 レンズ
33 対物レンズ
34 ダイクロイックミラー
35,235 バリアフィルタ
36 反射光撮像部
37,237 蛍光撮像部
41 反射光画像記憶部
42,242 蛍光画像記憶部
43,143 動きベクトル演算部
43a,143a 画像変換部
43b 測定ブロック設定部
43c,143c 動きベクトル算出部
44,244 位置合わせ処理部
45,245 出力画像生成部
K 病変部
Pf 蛍光画像
Pi 基準画像
Pr 反射励起光画像
Ps,Ps1,Ps2 輝度成分画像
Pw,Pw1,Pw2 白色光画像
S 観察部位

Claims (10)

  1. 通常光と励起光とを切り替えて観察部位に照射する光源部と、
    前記通常光が照射されたタイミングで前記観察部位の反射光画像を撮像し、前記励起光が照射されたタイミングで前記観察部位の反射励起光画像を撮像する反射光撮像部と、
    前記励起光が照射されて前記反射励起光画像が撮像されるタイミングと同じタイミングで前記観察部位の蛍光画像を撮像する蛍光撮像部と、
    前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出する動きベクトル演算部と、
    前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との間の被写体の位置ずれを補正する位置合わせ処理部と、
    前記被写体の位置ずれを補正した前記蛍光画像の輝度を規格化処理して、前記観察部位の規格化蛍光画像を生成する画像生成部と、
    を備えたことを特徴とする画像処理装置。
  2. 前記蛍光画像内の蛍光被写体と、前記反射光画像内の前記蛍光被写体と同じ被写体とを重畳処理した出力画像を生成する画像生成部をさらに備えたことを特徴とする請求項1に記載の画像処理装置。
  3. 前記反射励起光画像および前記反射光画像は、予め設定された時間間隔で交互に撮像され、
    前記動きベクトル演算部は、前記反射励起光画像を挟んで時系列順に連続する前記観察部位の2つの前記反射光画像の間の動きベクトル情報を算出し、この算出した動きベクトル情報と前記時間間隔とをもとに、前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記位置合わせ処理部は、前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との画素位置を合わせ、
    前記画像生成部は、前記蛍光画像と画素位置を合わせた前記反射光画像の輝度値によって前記蛍光画像の輝度値を除算して、前記規格化蛍光画像を生成することを特徴とする請求項に記載の画像処理装置。
  5. 前記位置合わせ処理部は、前記反射光画像と同じタイミングに撮像された前記観察部位の輝度成分画像を取得し、前記動きベクトル情報をもとに、前記輝度成分画像と前記蛍光画像との画素位置を合わせ、
    前記画像生成部は、前記蛍光画像と画素位置を合わせた前記輝度成分画像の輝度値によって前記蛍光画像の輝度値を除算して、前記規格化蛍光画像を生成することを特徴とする請求項に記載の画像処理装置。
  6. 前記位置合わせ処理部は、前記反射光画像と同じタイミングに撮像された前記観察部位の輝度成分画像を取得し、前記動きベクトル情報をもとに、前記輝度成分画像と前記蛍光画像との画素位置を合わせ、
    前記画像生成部は、前記蛍光画像内の蛍光被写体と、前記蛍光画像と画素位置を合わせた前記輝度成分画像と同じタイミングに撮像された前記反射光画像内の前記蛍光被写体と同じ被写体とを重畳処理して、前記出力画像を生成することを特徴とする請求項に記載の画像処理装置。
  7. 前記画像生成部は、前記蛍光画像内の蛍光被写体の画素の信号値に対応して、前記反射光画像内の前記蛍光被写体と同じ被写体の画素の信号値に所望の色変換処理を行って、前記反射光画像と前記蛍光画像とを重畳処理することを特徴とする請求項またはに記載の画像処理装置。
  8. 前記反射光画像は、前記観察部位の単色光画像または白色光画像であることを特徴とする請求項1〜のいずれか一つに記載の画像処理装置。
  9. 通常光と励起光とを切り替えて観察部位に照射し、前記通常光が照射されたタイミングで撮像された前記観察部位の反射光画像と、前記励起光が照射されたタイミングで撮像された前記観察部位の反射励起光画像と、前記励起光が照射されて前記反射励起光画像が撮像されるタイミングと同じタイミングで撮像された前記観察部位の蛍光画像とを取得する画像情報取得手順と、
    前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出する動きベクトル演算手順と、
    前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との間の被写体の位置ずれを補正する位置合わせ処理手順と、
    前記被写体の位置ずれを補正した前記蛍光画像の輝度を規格化処理して、前記観察部位の規格化蛍光画像を生成する画像生成手順と、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
  10. 通常光と励起光とを切り替えて観察部位に照射し、前記通常光が照射されたタイミングで撮像された前記観察部位の反射光画像と、前記励起光が照射されたタイミングで撮像された前記観察部位の反射励起光画像と、前記励起光が照射されて前記反射励起光画像が撮像されるタイミングと同じタイミングで撮像された前記観察部位の蛍光画像とを取得する画像情報取得手順と、
    前記反射励起光画像と前記反射光画像との間の動きベクトル情報を算出する動きベクトル演算ステップと、
    前記動きベクトル情報をもとに、前記蛍光画像と前記反射光画像との間の被写体の位置ずれを補正する位置合わせ処理ステップと、
    前記被写体の位置ずれを補正した前記蛍光画像の輝度を規格化処理して、前記観察部位の規格化蛍光画像を生成する画像生成ステップと、
    画像処理装置に動作させることを特徴とする画像処理装置の作動方法。
JP2009077562A 2009-03-26 2009-03-26 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法 Active JP5242479B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2009077562A JP5242479B2 (ja) 2009-03-26 2009-03-26 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
CN201080013461.2A CN102361583B (zh) 2009-03-26 2010-02-02 图像处理装置、摄像装置、图像处理程序以及图像处理方法
EP10755751.4A EP2412291B1 (en) 2009-03-26 2010-02-02 Image processing device, image capturing device, image processing program, and image processing method
PCT/JP2010/051418 WO2010109950A1 (ja) 2009-03-26 2010-02-02 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
US13/242,832 US8767058B2 (en) 2009-03-26 2011-09-23 Image processing apparatus, imaging apparatus, computer-readable storage medium, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009077562A JP5242479B2 (ja) 2009-03-26 2009-03-26 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法

Publications (2)

Publication Number Publication Date
JP2010227253A JP2010227253A (ja) 2010-10-14
JP5242479B2 true JP5242479B2 (ja) 2013-07-24

Family

ID=42780646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009077562A Active JP5242479B2 (ja) 2009-03-26 2009-03-26 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法

Country Status (5)

Country Link
US (1) US8767058B2 (ja)
EP (1) EP2412291B1 (ja)
JP (1) JP5242479B2 (ja)
CN (1) CN102361583B (ja)
WO (1) WO2010109950A1 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8498695B2 (en) 2006-12-22 2013-07-30 Novadaq Technologies Inc. Imaging system with a single color image sensor for simultaneous fluorescence and color video endoscopy
JP6167518B2 (ja) * 2010-08-27 2017-07-26 ソニー株式会社 画像処理装置および方法、並びにプログラム
WO2012046837A1 (ja) 2010-10-07 2012-04-12 パイロットインキ株式会社 感温変色性色彩記憶性組成物及びそれを内包した感温変色性色彩記憶性マイクロカプセル顔料
JP5334952B2 (ja) * 2010-12-16 2013-11-06 富士フイルム株式会社 画像処理装置
CN103687529B (zh) * 2011-07-22 2016-05-18 奥林巴斯株式会社 荧光内窥镜装置
JP5926909B2 (ja) * 2011-09-07 2016-05-25 オリンパス株式会社 蛍光観察装置
DE102011122602A1 (de) * 2011-12-30 2013-07-04 Karl Storz Gmbh & Co. Kg Vorrichtung und Verfahren zur endoskopischen Fluoreszenzdetektion
US9514556B2 (en) * 2012-01-31 2016-12-06 Given Imaging Ltd. System and method for displaying motility events in an in vivo image stream
JP5620932B2 (ja) * 2012-02-14 2014-11-05 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法
EP3005935B1 (en) * 2013-07-05 2018-11-21 Olympus Corporation Monitor apparatus
JP6019167B1 (ja) 2015-04-30 2016-11-02 パナソニック株式会社 内視鏡システム及び光源制御方法
WO2016203572A1 (ja) * 2015-06-17 2016-12-22 オリンパス株式会社 撮像装置
JP6598549B2 (ja) * 2015-07-23 2019-10-30 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置およびその制御方法
CA2998920A1 (en) * 2015-11-13 2017-05-18 Novadaq Technologies ULC Systems and methods for illumination and imaging of a target
JP6654038B2 (ja) * 2015-12-22 2020-02-26 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US10869645B2 (en) 2016-06-14 2020-12-22 Stryker European Operations Limited Methods and systems for adaptive imaging for low light signal enhancement in medical visualization
EP3533382A4 (en) * 2016-10-27 2019-12-04 Fujifilm Corporation ENDOSCOPIC SYSTEM
US11216941B2 (en) * 2016-11-04 2022-01-04 Sony Corporation Medical image processing apparatus, medical image processing method, and program
EP3417763A1 (en) * 2017-06-22 2018-12-26 Helmholtz Zentrum München - Deutsches Forschungszentrum für Gesundheit und Umwelt (GmbH) System for endoscopic imaging
CN107981855A (zh) * 2017-12-29 2018-05-04 深圳开立生物医疗科技股份有限公司 一种血流成像装置及内窥镜
WO2019167623A1 (ja) 2018-03-02 2019-09-06 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法
JP7134759B2 (ja) * 2018-07-13 2022-09-12 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置及び医療用観察システム
EP3848895A4 (en) * 2018-09-06 2021-10-27 Sony Group Corporation MEDICAL SYSTEM, INFORMATION PROCESSING DEVICE, AND INFORMATION PROCESSING METHOD
US11288772B2 (en) * 2019-06-20 2022-03-29 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11276148B2 (en) * 2019-06-20 2022-03-15 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11793399B2 (en) 2019-06-20 2023-10-24 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral imaging system
US11280737B2 (en) 2019-06-20 2022-03-22 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11398011B2 (en) 2019-06-20 2022-07-26 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed laser mapping imaging system
DE102021124010A1 (de) * 2021-09-16 2023-03-16 Xion Gmbh Verfahren und Vorrichtung zur Videoendoskopie mit Fluoreszenzlicht
DE102021130529B3 (de) * 2021-11-22 2023-03-16 Karl Storz Se & Co. Kg Bildgebendes Verfahren zum Abbilden einer Szene und System

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5590170A (en) * 1993-04-12 1996-12-31 Glenbrook Technologies X-ray inspection system
JPH07250804A (ja) * 1994-03-15 1995-10-03 Olympus Optical Co Ltd 蛍光観察装置
US7187810B2 (en) * 1999-12-15 2007-03-06 Medispectra, Inc. Methods and systems for correcting image misalignment
JP2002074330A (ja) * 2000-09-01 2002-03-15 Fuji Photo Film Co Ltd 蛍光診断画像表示装置
JP2002336187A (ja) * 2001-05-18 2002-11-26 Fuji Photo Film Co Ltd 規格化蛍光画像生成方法および装置
JP2003070008A (ja) * 2001-08-28 2003-03-07 Olympus Optical Co Ltd 画像信号処理装置
US7260253B2 (en) * 2002-04-19 2007-08-21 Visiongate, Inc. Method for correction of relative object-detector motion between successive views
JP2004329514A (ja) * 2003-05-07 2004-11-25 Olympus Corp 画像信号処理装置
US7181055B2 (en) * 2003-08-15 2007-02-20 Holger Lange Systems and methods for registering reflectance and fluorescence hyperspectral imagery
DE10357184A1 (de) * 2003-12-08 2005-07-07 Siemens Ag Verfahren zur fusionierten Bilddarstellung
JP5461753B2 (ja) * 2004-07-30 2014-04-02 オリンパス株式会社 内視鏡装置
WO2006062895A2 (en) * 2004-12-06 2006-06-15 Cambridge Research And Instrumentation, Inc. Systems and methods for in-vivo optical imaging and measurement
DE102005049862A1 (de) * 2005-10-18 2007-04-26 Siemens Ag Verfahren und Vorrichtung zur Bewegungskorrektur bei der Bildgebung des Herzens
JP4818753B2 (ja) * 2006-02-28 2011-11-16 オリンパス株式会社 内視鏡システム
JP2007244746A (ja) * 2006-03-17 2007-09-27 Olympus Medical Systems Corp 観察システム
JP5396004B2 (ja) * 2007-01-31 2014-01-22 オリンパス株式会社 蛍光観察装置および蛍光観察装置の作動方法
JP5278854B2 (ja) * 2007-12-10 2013-09-04 富士フイルム株式会社 画像処理システムおよびプログラム
US20090160386A1 (en) 2007-12-25 2009-06-25 Denso Corporation Electric drive device control system and method
JP5545612B2 (ja) * 2009-01-14 2014-07-09 富士フイルム株式会社 画像処理システム、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
US20120013773A1 (en) 2012-01-19
CN102361583A (zh) 2012-02-22
WO2010109950A1 (ja) 2010-09-30
CN102361583B (zh) 2014-02-12
EP2412291B1 (en) 2017-08-30
EP2412291A4 (en) 2014-03-26
US8767058B2 (en) 2014-07-01
EP2412291A1 (en) 2012-02-01
JP2010227253A (ja) 2010-10-14

Similar Documents

Publication Publication Date Title
JP5242479B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP5449816B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP5396121B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理装置の作動方法
JP5572326B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
JP5074044B2 (ja) 蛍光観察装置および蛍光観察装置の作動方法
EP2108300B1 (en) Fluorescence observation device
JP5642619B2 (ja) 医療装置システム及び医療装置システムの作動方法
JP7135082B2 (ja) 内視鏡装置、内視鏡装置の作動方法、及びプログラム
JP4190917B2 (ja) 内視鏡装置
JP2006263044A (ja) 蛍光検出システム
JP4971525B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP2012010862A (ja) 蛍光観察装置
JP2013099464A (ja) 内視鏡システム、内視鏡システムのプロセッサ装置、及び画像表示方法
JP5506443B2 (ja) 蛍光観察装置
JP2004024656A (ja) 蛍光内視鏡装置
JP2011005002A (ja) 内視鏡装置
JP2021035549A (ja) 内視鏡システム
JP6859554B2 (ja) 観察補助装置、情報処理方法、およびプログラム
JP2002345739A (ja) 画像表示装置
JP2003111716A (ja) 標準光源、補正係数算出方法および装置並びに蛍光画像生成方法および装置
US20180092519A1 (en) Infrared fluorescence observation device
JP6120770B2 (ja) 分光画像取得装置
JP2002074330A (ja) 蛍光診断画像表示装置
JP2020171599A (ja) 画像生成装置、コンピュータプログラム及び画像生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130403

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5242479

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250