JP5220780B2 - 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法 - Google Patents

画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法 Download PDF

Info

Publication number
JP5220780B2
JP5220780B2 JP2010023750A JP2010023750A JP5220780B2 JP 5220780 B2 JP5220780 B2 JP 5220780B2 JP 2010023750 A JP2010023750 A JP 2010023750A JP 2010023750 A JP2010023750 A JP 2010023750A JP 5220780 B2 JP5220780 B2 JP 5220780B2
Authority
JP
Japan
Prior art keywords
image
unit
elapsed time
display mode
attention area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010023750A
Other languages
English (en)
Other versions
JP2011160848A (ja
Inventor
建夫 鶴岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010023750A priority Critical patent/JP5220780B2/ja
Priority to CN201180008337.1A priority patent/CN102740757B/zh
Priority to PCT/JP2011/050951 priority patent/WO2011096279A1/ja
Priority to EP11739628.3A priority patent/EP2517614B1/en
Publication of JP2011160848A publication Critical patent/JP2011160848A/ja
Priority to US13/548,390 priority patent/US20120274754A1/en
Application granted granted Critical
Publication of JP5220780B2 publication Critical patent/JP5220780B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • A61B1/0051Flexible endoscopes with controlled bending of insertion part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/273Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
    • A61B1/2736Gastroscopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)

Description

本発明は、画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法等に関する。
近年、内視鏡や顕微鏡などの分野においては通常の白色光を用いた通常光画像の他に、特定の分光特性を有する特殊光を用いた特殊光画像が利用されている。
例えば特許文献1には、蛍光物質を投与した被検体から、通常の白色光を用いた通常光画像と、所定の励起光を用いたときに得られる蛍光画像とを交互に取得し、両画像を記憶装置に記録することで同時に表示する内視鏡装置が開示されている。この特許文献1の技術によれば、通常光画像において病変部などの注目領域の識別能を向上することができる。
また特許文献2には、通常の白色光を用いた通常光画像と特定波長の特殊光を用いた特殊光画像を交互に取得し、両画像を記憶装置に記録し、両画像に異なる画像処理を行い、両画像を独立又は合成して表示する内視鏡装置が開示されている。この特許文献2の技術によれば、最適な通常光画像と特殊光画像が得られ、通常光画像において病変部などの注目領域の識別能を向上することができる。
特開昭63−122421号公報 特開2004−321244号公報
しかしながら、特許文献1、2の従来技術では、通常光画像と特殊光画像を同時に表示することは可能であるが、病変部などの注目領域の識別は使用者であるドクター等に依存している。このため、内視鏡装置等のように動状態で撮像する場合など、特殊光画像上に注目領域が存在していても短時間で別の領域へ移動してしまうと、使用者が識別できないという課題がある。また静止状態で撮像する場合でも、特殊光画像上の注目領域の面積が小さい場合には、使用者が識別できないという課題がある。
更に特許文献1、2の従来技術では、通常光画像と特殊光画像を1対1の割合で交互に取得するため、動画像で観察する場合は基本となる通常光画像の時間的分解能が不足し、観察しづらいという課題もある。
本発明の幾つかの態様によれば、注目領域の見落としを抑止し、信頼性の高い識別を可能にする画像処理装置、内視鏡システム、プログラム及び画像処理方法等を提供できる。
また本発明の幾つかの態様によれば、動画像で観察する場合に基本となる第1の画像の時間的分解能の低下を抑制し、高品位な表示画像の取得が可能な画像処理装置、内視鏡システム、プログラム及び画像処理方法等を提供できる。
本発明の一態様は、白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、前記第1の画像に基づき生成される表示画像の表示態様設定処理を行う表示態様設定部と、前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部とを含み、前記表示態様設定部は、設定された前記経過時間に基づいて前記表示態様設定処理を行う画像処理装置に関係する。また本発明は、上記各部としてコンピュータを機能させるプログラム、又は該プログラムを記憶したコンピュータ読み取り可能な情報記憶媒体に関係する。
本発明の一態様によれば、第1、第2の画像が取得され、第2の画像から注目領域が検出される。そして注目領域の検出結果に基づいて、経過時間の設定処理が行われ、設定された経過時間に基づいて表示画像の表示態様設定処理が行われる。このようにすれば注目領域が検出されると経過時間が設定され、設定された経過時間を反映した表示画像の表示態様設定処理が行われるようになるため、注目領域の見落としを抑止し、信頼性の高い識別を可能にする画像処理装置を提供することが可能になる。
また本発明の他の態様は、白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、検出された前記注目領域についてのアラート情報を出力するアラート情報出力部と、前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部とを含み、前記アラート情報出力部は、設定された前記経過時間が経過するまでの間、前記アラート情報を出力する画像処理装置に関係する。また本発明は、上記各部としてコンピュータを機能させるプログラム、又は該プログラムを記憶したコンピュータ読み取り可能な情報記憶媒体に関係する。
本発明の他の態様によれば、第1、第2の画像が取得され、第2の画像から注目領域が検出される。そして注目領域の検出結果に基づいて、経過時間の設定処理が行われ、設定された経過時間が経過するまでの間、アラート情報が出力される。このように経過時間が経過するまでの間、アラート情報を出力することにより、注目領域の見落としが抑止され、信頼性の高い識別を可能にする画像処理装置の提供が可能になる。
また本発明の他の態様は、白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、前記第1の画像に基づき生成される表示画像の表示態様設定処理を行う表示態様設定部と、前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部と、前記表示画像を表示する表示部とを含み、前記表示態様設定部は、設定された前記経過時間に基づいて前記表示態様設定処理を行う内視鏡システムに関係する。
また本発明の他の態様は、白色光の波長帯域における情報を有する画像を第1の画像として取得し、特定の波長帯域における情報を有する画像を第2の画像として取得し、前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出し、前記第1の画像に基づき生成される表示画像の表示態様設定処理を行い、前記注目領域の検出結果に基づいて、経過時間の設定処理を行うと共に、設定された前記経過時間に基づいて前記表示態様設定処理を行う画像処理方法に関係する。
また本発明の他の態様は、白色光の波長帯域における情報を有する画像を第1の画像として取得し、特定の波長帯域における情報を有する画像を第2の画像として取得し、前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出し、検出された前記注目領域についてのアラート情報を出力し、前記注目領域の検出結果に基づいて、経過時間の設定処理を行うと共に、設定された前記経過時間が経過するまでの間、前記アラート情報を出力する画像処理方法に関係する。
図1(A)、図1(B)は従来の手法の説明図。 注目領域の検出結果に基づき表示画像の表示態様を変更する手法の説明図。 本実施形態の経過時間設定手法の説明図。 注目領域の検出により経過時間を再設定する手法の説明図。 本実施形態の第1の構成例。 図6(A)、図6(B)はCCDのカラーフィルタについての説明図。 図7(A)、図7(B)は照明光と回転フィルタによる分光特性についての説明図。 通常光画像及び特殊光画像が取得される周期期間の説明図。 図9(A)、図9(B)は注目領域の検出による経過時間設定手法の説明図。 注目領域検出部の構成例。 注目領域検出のための色相・彩度の閾値の説明図。 経過時間設定部の構成例。 図13(A)、図13(B)は検出情報の更新手法の説明図。 表示態様設定部の構成例。 アラート情報の付加手法の説明図。 ソフトウェア処理で用いられるコンピュータの構成例。 ソフトウェア処理で用いられるコンピュータの構成例。 本実施形態の全体的な処理を説明するフローチャート。 注目領域検出処理を説明するフローチャート。 経過時間設定処理を説明するフローチャート。 表示態様設定処理を説明するフローチャート。 本実施形態の第2の構成例。 動き量に応じた経過時間の設定手法の説明図。 経過時間設定部の構成例。 動き量と経過時間の関係についての説明図。 表示態様設定部の構成例。 本実施形態の第3の構成例。 照明光のカラーフィルタについての説明図。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
まず本実施形態の概要について説明する。図1(A)及び図1(B)は従来の手法を示している。図1(A)は通常光による観察の様子を示したものである。全体に明るく、見やすい画像が得られるが、扁平上皮癌等の一部の病変については視認性が困難である。また図1(B)は特殊光(例えば狭帯域光或いは蛍光)による観察の様子を示したものである。例えば扁平上皮癌等の病変が褐色で表示されるなど、一部の病変の視認性を通常光観察に比べて高めることが可能になるが、全体に暗く、見づらい画像になってしまう。
このような問題を解決する手法として図2に示す手法も考えられる。この手法では、特殊光画像(第2の画像)から例えば扁平上皮癌等の病変部などの注目領域を特定し、この注目領域の検出結果に基づいて通常光画像を加工して、病変部等の注目領域の視認性を高めている。具体的には、注目領域において通常光画像の色と所定色の合成処理を行ったり、注目領域の周縁部を所定色のラインで囲むなどの画像処理を行って、注目領域の視認性を高める。
しかしながら、この手法を採用したとしても、図2に示すようにドクターが機器の操作に気をとられていると、病変部等の注目領域を見逃してしまうおそれがある。特に、内視鏡で動画を撮影する場合には、特殊光画像上で検出された注目領域が、短時間で別の領域へ移動してしまうという問題がある。
本実施形態では、このような注目領域の見落としを抑止し、信頼性の高い識別を可能にするために、以下に説明するような手法を採用している。
まず本実施形態では図3のA1、A2に示すように、通常光画像(広義には第1の画像)と特殊光画像(広義には第2の画像)を取得する。これらの通常光画像及び特殊光画像は、通常のスコープ型内視鏡によりリアルタイムに撮影することで取得してもよいし、カプセル型内視鏡等により撮影した画像を記憶装置から読み出すことで取得してもよい。
そして図3のA2に示すように特殊光画像から注目領域が検出されると、A3に示すように表示画像の表示態様変更処理についての経過時間が設定される。そして経過時間が経過するまでの間、表示画像の表示態様を変更する処理(表示画像を変化させる処理)が行われる。具体的にはA4に示すように、経過時間が経過するまでの間、注目領域に対するアラート情報が通常光画像に設定(付加、重畳、ブレンド)された表示画像が生成されて、表示部に表示される。そして経過時間が経過すると、この表示態様の変更処理は行われなくなり、例えば通常光画像が表示画像として表示されるようになる。
更に図3では、A5に示すように特殊光画像から注目領域が検出されなくなった場合でも、A3の経過時間が経過するまでの間は、A6に示すように表示画像の表示態様が変更される。これにより、注目領域が検出されなくなった後も、しばらくの間はアラート情報が出力されるようになり、ドクター等の使用者の見落としを効果的に抑止できる。
また図4では、通常光画像としてIMN1〜IMN9が取得され、特殊光画像としてIMS1〜IMS9が取得されている。これらのIMN1〜IMN9の各通常光画像は、IMS1〜IMS9の各特殊光画像に対応して取得されたものである。
そして図4のB1に示すように特殊光画像IMS1において病変部等である注目領域が検出されると、B2に示すような経過時間が設定される。そしてB2の経過時間の設定により、この経過時間内の通常光画像IMN2〜IMN6が表示態様変更処理の対象になり、IMN2〜IMN6の表示態様が変更された画像が表示画像として表示される。
また図4のB2に示す経過時間内に、B3に示すように、次の特殊光画像IMS2において注目領域が検出されると、B4に示すように経過時間が再設定される。具体的にはB3の注目領域の検出タイミングを起点とした新たな経過時間が設定されて、経過時間が延長される。このB4の経過時間の再設定により、通常光画像IMN2〜IMN6に加えてIMN7も表示態様変更処理の対象になり、通常光画像IMN2〜IMN7の表示態様が変更された画像が表示画像として表示される。そしてB5の特殊光画像IMS3では注目領域が検出されなかったため、経過時間の再設定は行われず、B6の通常光画像IMN8は表示態様変更処理の対象にはならず、表示態様は変更されない。
以上の本実施形態の手法によれば、通常光画像(第1の画像)と特殊光画像(第2の画像)を取得し、例えば特殊光画像の画素の特徴量に基づき注目領域を検出し、検出結果に基づいて経過時間の設定処理を行い、設定された経過時間に基づいて表示画像の表示態様設定処理を行う。このため、動状態での観察において注目領域が短時間しか検出されない場合でも、ドクター等の使用者は現在位置の近傍に注目領域が存在することを認識することが可能になる。従って、注目領域の見落としを抑止し、信頼性の高い識別が可能になる。特に図3のA5に示すように特殊光画像において注目領域が検出されなくなった場合にも、経過時間内であればA6に示すように表示画像の表示態様が変更される。従って、図2のようにドクター等の使用者が機器の操作に気をとられていて、注目領域を見逃してしまった場合にも、しばらくの間はアラート情報が出力されるようになる。これにより、注目領域の存在を使用者に気づかせることが可能になり、更に信頼性の高い識別が可能になる。
また本実施形態では、後述するように、所定の周期期間毎に通常光画像と特殊光画像を取得し、且つ、通常光画像の取得割合を特殊光画像より高めている。このため、基本となる通常光画像の時間的分解能の低下を抑制し、高品位な通常光画像が得ることが可能になる。更に、図3のA4に示すように、通常光画像の例えば周縁部をアラート領域に設定してアラート情報(アラート画像)を付加しているため、通常光画像の観察を妨げずに良好な操作性を有する画像処理装置を提供できる。
2.第1の構成例
2.1 全体構成
図5に、以上のような手法を実現する本実施形態の第1の構成例を示す。この第1の構成例は、本実施形態の画像処理装置90及びこの画像処理装置90を含む内視鏡システム(内視鏡装置)の構成例である。なお本実施形態の画像処理装置90、内視鏡システムは図5の構成に限定されず、その構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
内視鏡先端部(挿入部)にあるレンズ系100(広義には光学系)及びCCD101(広義には撮像素子)を介して撮影された映像信号は、ゲインアンプ104にて増幅され、A/D変換部105にてデジタル信号に変換される。内視鏡先端部では、照明光源102からの照明光が、回転フィルタ103に装着されたフィルタ(F1、F2)を透過し、その透過光が光ファイバーを経由して被写体に照射される。A/D変換部105からのデジタルの映像信号は、バッファ106を介してWB(ホワイトバランス)部107、測光評価部108、切換部109に転送される。WB部107はゲインアンプ104へ接続され、測光評価部108は照明光源102、ゲインアンプ104へ接続されている。
図5に示すように本実施形態の画像処理装置90(画像処理部)は、切り替え部109、第1画像取得部110、第2画像取得部111、注目領域検出部112、経過時間設定部113、表示態様設定部114を含む。なおこれらの構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
切換部109は、第1画像取得部110及び第2画像取得部111へ接続されている。第1画像取得部110は、表示態様設定部114を介して液晶ディスプレイなどの表示部115(広義には出力部)へ接続されている。第2画像取得部111は注目領域検出部112へ、注目領域検出部112は経過時間設定部113へ、経過時間設定部113は表示態様設定部114へ接続されている。
マイクロコンピュータなどで実現される制御部116は、回転フィルタ103、ゲインアンプ104、A/D変換部105、WB部107、測光評価部108、切換部109、第1画像取得部110、第2画像取得部111、注目領域検出部112、経過時間設定部113、表示態様設定部114、表示部115と双方向に接続されている。また、外部I/F(インターフェース)部117は制御部116に双方向に接続されている。この外部I/F部117は、電源スイッチ、シャッターボタン、撮影時の各種モードの切り替えなどの設定を行うためのインターフェースを備える。
次に図5の第1の構成例の動作について説明する。使用者が、外部I/F部117を介して撮影条件を設定した後に、シャッターボタンを押すことで撮像モードに移行する。レンズ系100、CCD101を介して撮影された映像信号はアナログ信号として所定時間間隔で連続的に出力される。本実施形態においては上記所定時間間隔として1/30秒を想定する。また、CCD101としてはBayer型原色フィルタを前面に配置した単板CCDを想定する。
図6(A)に、Bayer型原色フィルタの構成例を示す。Bayer型は2×2画素を基本単位とし、赤(R)、青(B)フィルタが1画素ずつ、緑(G)フィルタが2画素配置される。図6(B)は、三種類のカラーフィルタR、G、Bの分光特性を示す。
更に、本実施形態では、照明光源102としてキセノンなどの通常の白色光用の光源を、回転フィルタ103には二種類のフィルタを装着されていることを想定する。上記二種類のフィルタは、一つは通常光画像用フィルタF1、もう一つは特殊光画像用フィルタF2である。
図7(A)に、照明光源102の照明光の分光特性と通常光画像用フィルタF1を組み合わせた場合の分光特性を示す。通常光画像用フィルタF1は、可視域全体において均一に透過する特性を有し、組み合わせた場合の分光特性としては照明光源102の照明光の分光特性と等しくなる。図6(B)に示されるBayer型CCDの分光特性と合わせて、通常光画像のR、G、B信号が得られることになる。
図7(B)に、照明光源102の照明光の分光特性と特殊光画像用フィルタF2を組み合わせた場合の分光特性を示す。特殊光画像用フィルタF2は、例えば特開2002−95635に開示されるように、表層の血管情報を得る青色光の狭帯域(390〜445nm)と、深層の血管情報を得る緑色光の狭帯域(530〜550nm)のみを透過する特性を有し、組み合わせた場合の分光特性としては青色光の狭帯域と緑色光の狭帯域の2つの狭帯域からなる分光特性となる。図6(B)に示されるBayer型CCDの分光特性と合わせて、B信号は青色光の狭帯域が、G信号は緑色光の狭帯域が、R信号は0の信号が特殊光画像として得られることになる。
回転フィルタ103における通常光画像用フィルタF1と特殊光画像用フィルタF2の円周方向での面積比は、29:1になるように設定されている。また、回転フィルタ103は1回転/秒の速度で回転していると想定する。この場合には、周期期間(T)は1秒となり、通常光画像用の照明を照射する期間(T1)は29/30秒となり、特殊光画像用の照明を照射する期間(T2)は1/30秒となる。本実施形態において映像信号は1/30秒で撮影されるため、1秒を周期期間として、29枚の通常光画像と1枚の特殊光画像が交互に得られることになる。このため、通常光画像に関する時間的分解能は十分に維持される。
例えば図8に示すように第1画像取得部110は、所定の周期期間(T)毎に少なくとも1フレーム分の通常光画像(第1の画像)を取得し、具体的にはKフレーム分の通常光画像IN1〜IN29(K枚の通常光画像)を取得する。また第2画像取得部111は、周期期間(T)毎に少なくとも1フレーム分の特殊光画像を取得し、具体的にはLフレーム分の特殊光画像IS1(L枚の特殊光画像)を取得する。ここで通常光画像IN1〜IN29は、図5の通常光画像用フィルタF1を介して照明光を被写体に照明した時に得られる画像であり、特殊光画像IS1は、特殊光画像用フィルタF2を介して照明した時に得られる画像である。
そして図8では、K=29、L=1となっており、K>Lの関係が成り立っている。このようにK>Lの関係が成り立つことで、各周期期間(各画像取得期間)において取得される画像の枚数は、通常光画像の方が多くなる。従って、通常光画像に関する時間的分解能は十分に維持されるようになり、特殊光画像により注目領域を検出したことに起因する表示画像の動画品質の劣化等を抑止できる。また特殊光画像については、例えば直接には表示部115に表示されず、注目領域の検出処理は例えばバックグランド処理として実行される。このため、各周期期間で取得される特殊光画像の枚数Lが少なくても、大きな問題は生じない。
また図3、図4の手法で設定される経過時間の長さをTEとし、周期期間の長さをTとした場合に、図8に示すようにTE>Tの関係が成り立っている。このようにすることで、経過時間の長さTEを周期期間の長さTに対して十分長くすることが可能になる。従って、図4のB5のように注目領域が検出されなくなった後も、B7に示すように、経過時間が経過するまでは、しばらくの間、注目領域のアラート情報を表示できるようになる。
内視鏡先端部に設けられる回転フィルタ103の回転は、制御部116の制御に基づいて、CCD101の撮影動作と同期して行われる。撮影動作により得られたアナログの映像信号はゲインアンプ104にて所定量増幅され、A/D変換部105にてデジタル信号へ変換されてバッファ106へ転送される。バッファ106は、1枚分の通常光画像又は特殊光画像のデータを記録可能であり、撮影にともない画像が上書きされることになる。
バッファ106内の通常光画像は、制御部116の制御に基づいて、所定の時間間隔で間欠的にWB部107及び測光評価部108へ転送される。WB部107では所定レベルの信号を色フィルタに対応する色信号毎に積算することで、ホワイトバランス係数を算出する。上記ホワイトバランス係数をゲインアンプ104へ転送し、色信号毎に異なるゲインを乗算させることで、ホワイトバランス調整を実行する。測光評価部108は、適正露光となるよう照明光源102の光量やゲインアンプ104の増幅率などを制御する。
切換部109は、制御部116の制御に基づき、バッファ106内に通常光画像が記録されている場合は第1画像取得部110へ、特殊光画像が記録されている場合は第2画像取得部111へ、それぞれの画像を転送する。
第1画像取得部110は、制御部116の制御に基づき、切換部109から単板状態の通常光画像を読み込み、公知の補間処理、階調処理などを行い、処理後の通常光画像を表示態様設定部114へ転送する。
第2画像取得部111は、制御部116の制御に基づき、切換部109から単板状態の特殊光画像を読み込み、公知の補間処理、階調処理などを行う。さらに特開2002−95635に開示されるように、青色光の狭帯域に対応するB信号と緑色光の狭帯域に対応するG信号から疑似カラー画像を生成する処理も併せて行う。処理後の特殊光画像は、注目領域検出部112へ転送される。
注目領域検出部112は、制御部116の制御に基づき、第2画像取得部111から特殊光画像を読み込み、所定の注目領域、本実施形態においては血管が密に存在する病変部の検出処理を行う。検出処理結果は、経過時間設定部113へ転送される。
経過時間設定部113は、制御部116の制御に基づき、注目領域検出部112から注目領域の検出処理結果を読み込み、通常光画像に対して検出処理結果に関する情報を発するアラート情報を設定する経過時間を決定する。
本実施形態においては、注目領域が検出された場合に経過時間として例えば5周期期間である5秒間を設定し、以後、注目領域が検出されなくとも5秒間はアラート情報を設定することにする。また、設定した経過時間内に新たな注目領域が検出された場合は、図4のB4で説明したように、この時点を起点に新たに5秒間の経過時間が設定される。経過時間設定部113は、現時点(現時刻)が、設定された経過時間内に属するのか否かを判断し、この判断結果を表示態様設定部114へ転送する。
表示態様設定部114(表示態様決定部、表示制御部)は、制御部116の制御に基づき、経過時間設定部113から経過時間内に属するのか否かの判断結果を読み込み、経過時間内に属する場合には、通常光画像に対してアラート情報(アラート領域)を設定(付加、重畳)する処理を選択する。一方、現時点が経過時間内に属さない場合には、特に処理を行わない。この場合に、アラート情報が設定される通常光画像は、注目領域が検出された特殊光画像の以降に取得される通常光画像である。例えば図4のB1の特殊光画像IMS1で注目領域が検出された場合には、特殊光画像IMS1以降に取得された通常光画像IMN2に対してアラート情報が設定(付加、重畳)されて表示態様が変更される。
表示態様設定部114で生成された表示画像は表示部115へ転送され、順次表示される。アラート情報の設定(表示態様の変更)が選択された場合には、通常光画像にアラート情報が設定された画像が表示画像として転送され、アラート情報の非設定(表示態様の非変更)が選択された場合には、通常光画像がそのまま表示画像として転送される。
なお図5では出力部の例として表示部115を示しているが、本実施形態の出力部はこれに限定されず、ハードディスクやメモリーカードなどの記録媒体に通常光画像を順次記録保存する形態で実現してもよい。またアラート情報として、画像ではなく音のアラート情報を出力してもよい。
以上のように本実施形態では、図8に示すように第1画像取得部110は周期期間(T)毎に少なくとも1フレーム分(Kフレーム分)の通常光画像を取得し、第2画像取得部111は、周期期間毎に少なくとも1フレーム分(Lフレーム分)の特殊光画像を取得する。
そして図9(A)のC1に示すように、周期期間TN(第Nの周期期間)において特殊光画像から注目領域が検出されると、C2に示すように経過時間設定部113により経過時間が設定される。すると表示態様設定部114は、周期期間Tの後の周期期間TN+1(第N+1の周期期間)において、表示画像の表示態様を変更する処理を行う。例えば図8のG1に示す特殊光画像IS1において注目領域が検出されると、次の周期期間で取得されるG2に示すIN1以降の通常光画像に対してアラート情報が設定されて、表示態様が変更される。
そして図9(A)のC1に示すように周期期間TNにおいて特殊光画像から注目領域が検出され、C3に示すように周期期間TN+1において特殊光画像から注目領域が検出されなかったとする。これは図8のG1に示す特殊光画像IS1において注目領域が検出され、G3に示す特殊光画像IS1において注目領域が検出されなかった場合である。この場合には表示態様設定部114は、図9(A)に示すように、周期期間TN+1〜周期期間TN+5(広義には第N+1の周期期間〜第Mの周期期間)において、表示画像の表示態様を変更する。
また図9(B)のC4に示すように周期期間TNにおいて注目領域が検出され、C5に示すように経過時間が設定された後、C6に示すように次の周期期間TN+1の特殊光画像においても注目領域が検出されたとする。これは図8のG1の特殊光画像IS1において注目領域が検出され、G3の特殊光画像IS1においても注目領域が検出された場合に相当する。この場合には図9(B)のC7に示すように経過時間が再設定されて、経過時間が延長される。そして、更にC8に示すように次の周期期間TN+2の特殊光画像においても注目領域が検出されると、C9に示すように経過時間が再設定されて、経過時間が更に延長される。このようにすれば、注目領域が検出されている限りにおいては表示画像の表示態様の変更処理が行われ、注目領域が検出されなくなった後も、経過時間が経過するまでの間は、表示態様の変更処理が続けられるようになる。
2.2 注目領域検出部
図10に注目領域検出部112の構成例を示す。図10の注目領域検出部112は、バッファ200、色相・彩度算出部201、注目領域判定部202、閾値用ROM203、バッファ204、信頼度算出部205を含む。なお、これらの構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
図10において、第2画像取得部111は、バッファ200を介して色相・彩度算出部201へ接続している。色相・彩度算出部201及び閾値用ROM203は、注目領域判定部202へ接続している。注目領域判定部202は、バッファ204を介して信頼緯度算出部205へ接続している。信頼度算出部205は、経過時間設定部113へ接続している。制御部116は、色相・彩度算出部201、注目領域判定部202、閾値用ROM203、信頼度算出部205と双方向に接続されている。
第2画像取得部111は、疑似カラー画像化された特殊光画像をバッファ200へ転送する。色相・彩度算出部201は、制御部116の制御に基づき、バッファ200から疑似カラー画像化された特殊光画像を読み込む。疑似カラー画像化された特殊光画像は、R、G、Bの3信号から構成されており、これを輝度信号Y及び色差信号Cb、Crへと、例えば下式(1)〜(3)を用いて変換する。
Y = 0.29900R+0.58700G+0.11400B (1)
Cb=−0.16874R−0.33126G+0.50000B (2)
Cr=0.50000R−0.41869G−0.08131B (3)
更に、色相H、彩度Cを下式(4)、(5)を用いて算出する。
H=tan−1(Cb/Cr) (4)
C=(Cb・Cb+Cr・Cr)1/2 (5)
算出された色相H、彩度Cは、注目領域判定部202へ画素単位で順次転送される。注目領域判定部202は、制御部116の制御に基づき、色相・彩度算出部201から色相H、彩度Cを、閾値用ROM203から色相と彩度に関する閾値を読み込む。
図11に、閾値用ROM203に記録されている閾値の一例を示す。疑似カラー画像化された特殊光画像においては、病変部などの表層の血管が密となる領域は赤褐色状に表示されることになる。このため、図11に示される扇状の領域が病変部、即ち注目領域になる。信号が8bitレベルであると仮定すると、上記注目領域は例えば下式(6)、(7)で規定できる。
−70°< 色相H < 30° (6)
16 < 彩度C < 128 (7)
閾値用ROM203には、上式(6)、(7)に示される色相Hに関する上限値及び下限値、並びに、彩度Cに関する上限値及び下限値の合計4つの閾値が記録されている。注目領域判定部202は、これらの4つの閾値を読み込む。そして上式(6)、(7)を満たす画素に関してはラベル値=1を、満たさない画素に関してはラベル値=0を、バッファ204へ出力する。これによりバッファ204には、特殊光画像の全画素に関して、注目領域に属するか否かのラベル値が記録されることになる。
信頼度算出部205が有する面積判定部206は、制御部116の制御に基づき、バッファ204から上記ラベル値を読み込み、注目領域に属する画素数の総和を求めることで、注目領域の面積を算出する。本実施形態では、注目領域の確からしさ(病変であることの確からしさ)を示す指標である信頼度として、注目領域の面積を用いる。即ち、注目領域の面積に基づいて信頼度を算出する。そして算出された注目領域の面積が所定の閾値を超えた場合には、その注目領域は信頼度が高いと評価し、注目領域が検出されたものと判断する。例えば算出された注目領域の面積が、例えば全画像面積の1%という閾値を超えた場合には、注目領域が検出されたものと判断する。一方、算出された注目領域の面積が所定の閾値以下の場合は、その注目領域は信頼度が低いと評価し、注目領域は検出されなかったと判断する。このような注目領域の検出結果を表す検出情報は、経過時間設定部113へ転送される。
2.3 経過時間設定部
図12に経過時間設定部113(経過時間決定部)の構成例を示す。この経過時間設定部113は、更新部300、検出情報記録部301、制御情報出力部302(加工制御部)を含む。なおこれらの構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
図12に示すように、注目領域検出部112は、更新部300、検出情報記録部301を介して制御情報出力部302へ接続している。制御情報出力部302は、表示態様設定部114へ接続している。制御部116は、更新部300、検出情報記録部301、制御情報出力部302と双方向に接続されている。
電源投入などにより画像処理装置が初期化された場合に、制御部116は検出情報記録部301を初期化して、検出情報の値を初期値0に設定する。更新部300は、制御部116の制御に基づき、注目領域検出部112から特殊光画像中に注目領域が検出されたか否かの検出情報を読み込む。
更新部300は、注目領域が検出された場合には、検出情報記録部301へ検出情報として所定の値、本実施形態においては5を出力する。一方、注目領域が検出されなかった場合には、検出情報記録部301に記録されている検出情報の値を1だけデクリメントする。もし、検出情報の値が負数になった場合は値を0に置換する。
制御情報出力部302は、制御部116の制御に基づき、検出情報記録部301に記録される検出情報の値を読み込む。そして検出情報の値が1以上である場合には、表示態様設定部114に対して表示態様の変更(アラート情報の設定)を指示する制御情報を出力する。一方、検出情報の値が0である場合には、表示態様設定部114に対して表示態様の非変更(アラート情報の非設定)を指示する制御情報を出力する。
本実施形態においては、図8で説明したように、周期期間(T)の長さは1秒であり、この周期期間中に1枚の特殊光画像を撮像することを想定している。このため、一旦、注目領域が検出されると、検出情報としての値が5から0にデクリメントされるのに5周期期間、即ち5秒を要することになる。従って、表示態様が変更される経過時間(アラート情報が設定される経過時間)は5秒となる。また、この5秒内に新たに注目領域が検出されると、検出情報の値が5にリセットされるため、新たに検出された時点から5秒間、表示画像の表示態様が変更されることになる。
図13(A)、図13(B)は、本実施形態の経過時間設定手法を説明する図である。本実施形態では、検出情報記録部301は、注目領域の検出情報(各周期期間において注目領域が検出されたか否かを示す情報)を記録し、更新部300は、注目領域検出部112からの検出結果に基づいて、検出情報(カウント値)の更新処理(カウント更新処理)を行う。具体的には更新部300は、例えば図8で説明した周期期間(T)毎に検出情報の更新処理を行う。そして制御情報出力部302は、検出情報記録部301に記録される検出情報に基づいて、表示態様設定部114での表示態様設定処理を制御する制御情報を出力する。
例えば図13(A)のD1に示すように、周期期間TNにおいて特殊光画像から注目領域が検出されたとする。この場合にはD2に示すように更新部300は、検出情報の値VDを、経過時間に対応する第1の値VD1=5に設定する。これによりD3に示すような表示態様変更処理が行われる経過時間(5秒)が設定される。
一方、図13(A)のD4、D5に示すように、例えば周期期間TNの後の周期期間TN+1、TN+2等において特殊光画像から注目領域が検出されなかったとする。この場合には、D6、D7に示すように更新部300は、検出情報の値VDを、第1の値VD1=5から第2の値VD2=0に向かって変化させる更新処理を行う。即ち検出情報の値VDを、例えばVD2=0に向かってデクリメントする更新処理を行う。なお更新処理は、VDをインクリメントする処理であってもよい。
そして制御情報出力部302は、検出情報の値VDがVD2=0に達するまでの間は、表示態様の変更を表示態様設定部114に指示する制御情報を出力する。一方、図13(A)のD8に示すようにVDがVD2=0に達した場合には、D9に示すように表示態様の非変更を表示態様設定部114に指示する制御情報を出力する。
一方、図13(B)のD10では、図13(A)のD4とは異なり、周期期間TNの後の周期期間TN+1において、特殊光画像から注目領域が再度検出されている。この場合には、D11に示すように、検出情報の値VDが、第1の値VD1=5に再設定(リセット)される。そしてD12、D13に示すように、その後の周期期間TN+2、TN+3では、特殊光画像から注目領域が検出されなかったため、D14、D15に示すように更新部300は、VDを、VD1=5からVD2=0に向かって変化させる。そしてD16に示すように、VDがVD2=0に達すると、D17に示すように、表示態様の非変更が指示される。
以上のように本実施形態では、検出情報記録部301に検出情報を記録し、図13(A)、図13(B)の手法で検出情報の更新処理を行うことで、図3、図4の手法を実現している。従って、注目領域の検出結果に基づく経過時間の設定処理や、経過時間内での注目領域の検出による経過時間の再設定処理を、簡素な構成・処理で実現することが可能になる。
2.4 表示態様設定部
図14に表示態様設定部114(表示状態決定部)の構成例を示す。この表示態様設定部114は、バッファ410、加工部400を含み、加工部400は、選択部401(加工法選択部)、アラート情報付加部402を含む。なおこれらの構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
図14において、第1画像取得部110は、バッファ410を介して選択部401へ接続している。経過時間設定部113は、選択部401へ接続している。選択部401は、アラート情報付加部402及び表示部115へ接続している。アラート情報付加部402は、表示部115へ接続している。制御部116は、選択部401、アラート情報付加部402と双方向に接続されている。
第1画像取得部110からの通常光画像はバッファ410へ転送され記録される。選択部401は、制御部116の制御に基づき、表示態様の変更・非変更を指示する制御情報を、経過時間設定部113から読み込む。また制御部116の制御に基づき、バッファ410から通常光画像を読み込む。そして、読み込まれた制御情報が、表示態様の変更(アラート情報の付加、アラート領域を重畳)を指示している場合には、バッファ410から読み込まれた通常光画像を、アラート情報付加部402へ転送する。一方、表示態様の非変更を指示している場合には、読み込まれた通常光画像を表示部115へ転送する。
アラート情報付加部402は、制御部116の制御に基づき、選択部401から通常光画像が転送されてきた場合には、通常光画像に対してアラート情報を付加する処理を行う。図15に、アラート情報の付加処理の例を示す。図15では、通常光画像の周縁部(周辺部)のアラート領域に対して、例えば赤などの警告色を重畳する処理が行われている。
2.5 ソフトウェア処理
以上では、画像処理装置90を構成する各部をハードウェアで構成する場合について主に説明したが、本実施形態はこれに限定されるものではない。例えば、カプセル型内視鏡などの撮像装置を用いて予め取得された画像に対して、CPUが各部の処理を行う構成とし、CPUがプログラムを実行することによってソフトウェアとして実現してもよい。或いは、各部が行う処理の一部をソフトウェアで構成することとしてもよい。
画像処理装置90の各部が行う処理をソフトウェアとして実現する場合には、ワークステーションやパソコン等の公知のコンピュータシステムを画像処理装置として用いることができる。そして、画像処理装置90の各部が行う処理を実現するためのプログラム(画像処理プログラム)を予め用意し、この画像処理プログラムをコンピュータシステムのCPUが実行することによって実現できる。
図16は、本変形例におけるコンピュータシステム600の構成を示すシステム構成図であり、図17は、このコンピュータシステム600における本体部610の構成を示すブロック図である。図16に示すように、コンピュータシステム600は、本体部610と、本体部610からの指示によって表示画面621に画像等の情報を表示するためのディスプレイ620と、このコンピュータシステム600に種々の情報を入力するためのキーボード630と、ディスプレイ620の表示画面621上の任意の位置を指定するためのマウス640とを備える。
また、このコンピュータシステム600における本体部610は、図17に示すように、CPU611と、RAM612と、ROM613と、ハードディスクドライブ(HDD)614と、CD−ROM660を受け入れるCD−ROMドライブ615と、USBメモリ670を着脱可能に接続するUSBポート616と、ディスプレイ620、キーボード630及びマウス640を接続するI/Oインターフェース617と、ローカルエリアネットワーク又は広域エリアネットワーク(LAN/WAN)N1に接続するためのLANインターフェース618を備える。
更に、このコンピュータシステム600には、インターネット等の公衆回線N3に接続するためのモデム650が接続されるとともに、LANインターフェース618及びローカルエリアネットワーク又は広域エリアネットワークN1を介して、他のコンピュータシステムであるパソコン(PC)681、サーバ682、プリンタ683等が接続される。
そして、このコンピュータシステム600は、所定の記録媒体に記録された画像処理プログラム(例えば図18〜図21)を参照して、後述する処理手順を実現するための画像処理プログラムを読み出して実行することで画像処理装置を実現する。ここで、所定の記録媒体とは、CD−ROM660やUSBメモリ670の他、MOディスクやDVDディスク、フレキシブルディスク(FD)、光磁気ディスク、ICカード等を含む「可搬用の物理媒体」、コンピュータシステム600の内外に備えられるHDD614やRAM612、ROM613等の「固定用の物理媒体」、モデム650を介して接続される公衆回線N3や、他のコンピュータシステム(PC)681又はサーバ682が接続されるローカルエリアネットワーク又は広域エリアネットワークN1等のように、プログラムの送信に際して短期にプログラムを記憶する「通信媒体」等、コンピュータシステム600によって読み取り可能な画像処理プログラムを記録するあらゆる記録媒体(記憶媒体)を含む。
即ち、画像処理プログラムは、「可搬用の物理媒体」「固定用の物理媒体」「通信媒体」等の記録媒体にコンピュータ読み取り可能に記録されるものであり、コンピュータシステム600は、このような記録媒体から画像処理プログラムを読み出して実行することで画像処理装置を実現する。なお、画像処理プログラムは、コンピュータシステム600によって実行されることに限定されるものではなく、他のコンピュータシステム(PC)681又はサーバ682が画像処理プログラムを実行する場合や、これらが協働して画像処理プログラムを実行するような場合にも、本発明を同様に適用することができる。
各部が行う処理の一部をソフトウェアで構成する場合の一例として、あらかじめ取得された画像に対して、画像処理装置90の処理をソフトウェアで実現する場合の処理手順を、図18〜図20のフローチャートを用いて説明する。
図18は本実施形態の全体的な処理を説明するためのフローチャートである。まず映像信号を読み込む(ステップS1)。具体的には本実施形態においてはBayer型単板CCDからの映像信号を処理することを想定し、図8にて説明したように1秒を1周期期間として、1周期期間毎に29枚(29フレーム分)の第1画像である通常光画像と1枚(1フレーム分)の第2画像である特殊光画像が交互に入力されるものとする。
次に通常光画像と特殊光画像の切り換え処理を行い(ステップS2)、通常光画像が入力された場合には第1画像取得処理(ステップS3)に移行し、特殊光画像が入力された場合には、第2画像取得処理(ステップS4)に移行する。そして第1画像取得処理(ステップS3)に移行した場合には、第1画像である通常光画像に対して公知の補間処理、階調処理などを行う。
一方、第2画像取得処理(ステップS4)に移行した場合には、第2画像である特殊光画像に対して公知の補間処理、階調処理などを行い、更に疑似カラー画像化処理を行う。そして注目領域の検出処理を行う(ステップS5)。次に、通常光画像に対して検出処理結果に関する情報を発するアラート情報(アラート領域)を設定(重畳)する経過時間を設定(決定)する(ステップS6)。
表示態様設定処理(ステップS7)では、現時点が経過時間内に属する場合は、通常光画像に対してアラート情報の設定処理を行い、経過時間内に属さない場合は、アラート情報の設定処理を行わない。そして、このようにして生成された表示画像を出力する(ステップS8)。次に、全ての映像信号の処理が完了したか否かを判断し、完了していない場合はステップS2に戻り、完了した場合には処理を終了する。
図19は、図18のステップS5の注目領域検出処理を説明するフローチャートである。まず上式(1)〜(5)で説明した色相や彩度の算出処理を行う(ステップS20)。次に、上式(6)、(7)に示される閾値判定処理を行い、注目領域に属するか否かを画素単位で判定する(ステップS21)。そして、注目領域に属する画素の数の総和を求め、画素数の総和が所定の閾値を超える場合には、注目領域が検出されたものと判断し、所定の閾値以下の場合は注目領域は検出されなかったと判断する(ステップS22)。そして検出処理結果の検出情報を出力する(ステップS23)
図20は、図18のステップS6の経過時間設定処理を説明するフローチャートである。まず検出処理結果の検出情報を読み込む(ステップS30)。そして図13(A)、図13(B)で説明した検出情報の更新処理を行う(ステップS31)。具体的には、注目領域が検出された場合には、検出情報の値VDを第1の値VD1=5に設定し、注目領域が検出されない場合には、VDを1だけデクリメントする。もし、検出情報の値VDが負数になった場合は、VD=0に設定する。次に加工法に関する制御情報の設定処理を行う(ステップS32)。具体的には、検出情報の値VDが1以上である場合は、アラート情報の付加を指示する制御情報の設定を行い、VD=0である場合、アラート情報の非付加を指示する制御情報の設定を行う。そして設定された制御情報を出力する(ステップS33)。
図21は、図18のステップS7の表示態様設定処理を説明するフローチャートである。まず、加工法に関する制御情報を読み込む(ステップS40)。そして、読み込まれた制御情報に基づき表示態様を変更するか否かを判断し(ステップS41)、表示態様を変更する場合には、通常光画像の周縁部に赤などの警告色を重畳するアラート情報付加処理を行い、アラート情報が付加された画像を表示画像として出力する(ステップS42)。一方、表示態様を変更しない場合には、通常光画像をそのまま表示画像として出力する。
以上のように本実施形態では、画像処理装置90は、第1画像取得部110と第2画像取得部111と注目領域検出部112と経過時間設定部113と表示態様設定部114を含む。
第1画像取得部110は、白色光の波長帯域における情報(信号)を有する画像を、第1の画像(狭義には通常光画像)として取得する。また第2画像取得部111は、特定の波長帯域(狭義には狭帯域光や蛍光等の波長帯域)における情報(信号)を有する画像を、第2の画像(狭義には特殊光画像)として取得する。そして注目領域検出部112は、第2の画像内の画素の特徴量(狭義には色相、彩度、輝度等)に基づいて、第2の画像での注目領域を検出する。また表示態様設定部114は、第1の画像に基づき生成される表示画像(表示部115に表示される画像)の表示態様設定処理(表示態様の決定や変更の処理)を行い、経過時間設定部113は、注目領域検出部112での注目領域の検出結果(検出情報)に基づいて、経過時間の設定処理(経過時間の決定や変更の処理)を行う。
そして本実施形態では、表示態様設定部114は、経過時間設定部113により設定された経過時間に基づいて、表示態様の設定処理を行う。例えば図3、図4で説明したように、経過時間が経過するまでの間、表示画像の表示態様を変更する処理を行う。具体的には図15に例示されるように、経過時間が経過するまでの間、注目領域についてのアラート情報が設定された表示画像を表示部115に表示する処理を行う。アラート情報は、注目領域の検出の結果を発する情報であり、例えば第1の画像の周縁部等に設定されたアラート領域に対してアラート情報(アラート画像)を設定する処理が行われる。
このような構成の本実施形態によれば、例えば動状態での観察において注目領域が短時間しか検出されない場合でも、使用者は現在位置の近傍に注目領域が存在することを認識することができ、注目領域の見落としを抑止し、信頼性の高い識別が可能となる。また第1の画像の周縁部等にアラート情報を設定しているため、第1の画像の観察の妨げとなる事態等を抑止できる。
なお表示画像は、少なくとも第1の画像を用いて生成されるものであればよく、例えば第1の画像と第2の画像の合成画像であってもよい。また表示画像の表示態様の変更は、図15のようなアラート情報の付加に限定されない。例えば第1の画像の周縁部以外の領域をアラート領域に設定して、アラート情報(アラート画像)を設定してもよい。また表示態様の変更処理として、第2の画像で検出された注目領域に対応する第1の画像での対応注目領域の画像を変更する処理を行ってもよい。例えば第1の画像の対応注目領域での色を所定色に近づけたり、対応注目領域の画像に対して強調処理を施したり、対応注目領域において第1の画像と第2の画像を合成(ブレンディング)する処理を行ってもよい。
また注目領域とは、使用者にとって観察の優先順位が他の領域よりも相対的に高い領域であり、例えば、使用者が医者であり治療を希望した場合、粘膜部や病変部を写した領域を指す。また、他の例として、医者が観察したいと欲した対象が泡や便であれば、注目領域は、その泡部分や便部分を写した領域になる。即ち、使用者が注目すべき対象は、その観察目的によって異なるが、いずれにしても、その観察に際し、使用者にとって観察の優先順位が他の領域よりも相対的に高い領域が注目領域となる。また前述の式(1)〜(7)で説明したように、注目領域は第2の画像の画素の特徴量(色相、彩度等)を用いて検出することができ、例えば式(6)、(7)の特徴量に対する閾値は、注目領域の種類に応じて変化する。例えば第1の種類の注目領域に対する色相、彩度等の特徴量の閾値と、第2の種類の注目領域に対する特徴量の閾値は異なった値になる。そして、注目領域の種類が変わった場合には、この特徴量の閾値を変えるだけで済み、注目領域の検出後の処理(経過時間の設定処理、表示態様の設定処理等)については、本実施形態で説明した処理と同様の処理で実現することができる。
また本実施形態では、図3のA5、A6で説明したように、表示態様設定部114は、経過時間内に第2の画像から注目領域が検出されなかった場合にも、少なくとも経過時間が経過するまでの間は、表示画像の表示態様を変更する処理を行ってもよい。
このようにすれば、注目領域が検出されなくなった後も、しばらくの間は、表示態様が変更された表示画像が表示されるようになるため、使用者が注目領域を見落としてしまう事態を更に効果的に抑止できる。
また本実施形態では、図4のB3、B4で説明したように、経過時間設定部113は、経過時間内に第2の画像から注目領域が検出された場合には、注目領域の検出タイミングを起点とした新たな経過時間を設定する処理を行ってもよい。
このようにすれば、注目領域が検出される毎に、経過時間が再設定され、経過時間が延長されるようになるため、注目領域の検出に応じた適切な経過時間の設定処理を実現できる。なお新たな経過時間を設定する起点のタイミングは、注目領域が検出された周期期間の次の周期期間内のタイミングであってもよいし、注目領域が検出された周期期間内のタイミングであってもよい。
また本実施形態では、図8で説明したように、第1画像取得部110は、所定の周期期間(画像取得期間)毎に少なくとも1フレーム分(1枚)の第1の画像を取得し、第2画像取得部111は、周期期間毎に少なくとも1フレーム分(1枚)の第2の画像を取得する。そして表示態様設定部114は、第Nの周期期間(TN。Nは自然数)において第2の画像から注目領域が検出された場合には、第Nの周期期間の後の第N+1の周期期間(TN+1)において、表示画像の表示態様を変更する処理を行ってもよい。
このようにすれば、各周期期間において注目領域の検出処理を行って、注目領域が検出された場合には次の周期期間以降において表示画像の表示態様を変更して、注目領域の検出を使用者に知らせることが可能になる。従って、注目領域のアラート情報等を使用者に表示する際の遅延時間を最小限に抑えることができ、注目領域の見落としを更に効果的に抑止できる。
また本実施形態では第1画像取得部110は、周期期間毎にKフレーム分(Kは自然数)の第1の画像を取得し、第2画像取得部111は、周期期間毎にLフレーム分(Lは自然数)の第2の画像を取得する。具体的には第2画像取得部111は、周期期間毎に例えば1フレーム分(L=1)の第2の画像を取得する。そして、図8で説明したようにKとLの間にはK>Lの関係が成り立ってもよい。
このようにすれば、周期期間毎にKフレーム分の通常光画像とLフレーム分の特殊光画像を取得し、且つ、K>Lとすることで、通常光画像の取得割合を特殊光画像よりも高めることができる。従って、基本となる通常光画像の時間的分解能の低下を抑制し、高品位な表示画像(例えば動画)を得ることが可能になる。
なお、周期期間の長さをTとし、経過時間の長さをTEとした場合に、図3に示すようにTE>Tの関係が成り立ってもよい。
このようにすれば、注目領域の検出単位となる期間である周期期間に比べて、経過時間を長くできるため、表示態様が変更される期間が長くなり、使用者による注目領域の見落としを効果的に抑止できる。
また本実施形態では図9(A)のC1、C2、C3で説明したように、表示態様設定部114は、第Nの周期期間(TN)において第2の画像から注目領域が検出され、第N+1の周期期間(TN+1)において第2の画像から前記注目領域が検出されなかった場合にも、第N+1の周期期間〜第Mの周期期間(TN+1〜TN+5。MはM>N+1となる整数)において、表示画像の表示態様を変更する処理を行ってもよい。
このようにすれば第N+1の周期期間(TN+1)において注目領域が検出された場合にも、少なくともその後の第Mの周期期間(TN+5)までは表示画像の表示態様が変更されるようになり、周期期間に比べて経過時間の長さを長く設定できるようになる。
また図12で説明したように経過時間設定部113は、注目領域の検出情報を記録する検出情報記録部301と、注目領域検出部112からの検出結果に基づいて、検出情報の更新処理を行う更新部300と、検出情報記録部301に記録される検出情報に基づいて、表示態様設定部114での表示態様設定処理を制御する制御情報を出力する制御情報出力部302を含むことができる。
このような構成にすることで、注目領域の検出情報に基づく経過時間の設定処理を実現できる。また、一旦、注目領域が検出されると、その検出情報が検出情報記録部301に記録されて保持されるため、その後に注目領域が検出されなくなった場合にも、検出情報記録部301に保持される検出情報を利用して、経過時間を設定することが可能になる。
このとき、図13で説明したように更新部300は、第2の画像から注目領域が検出された場合には、検出情報の値VDを、経過時間に対応する第1の値VD1(例えばVD1=5)に設定する。一方、第2の画像から注目領域が検出されなかった場合には、検出情報の値VDを、第1の値VD1から第2の値VD2(例えばVD2=0)に向かって変化(デクリメント、インクリメント等)させる更新処理を行う。例えば更新部300は周期期間毎に検出情報の更新処理を行う。具体的には、第Nの周期期間(TN)において注目領域が検出された場合には、VDをVD1に設定し、第Nの周期期間(TN)の後の周期期間(TN+1、TN+2・・・)において注目領域が検出されなかった場合には、VDをVD1からVD2に向かって変化させる更新処理を行う。
そして制御情報出力部302は、検出情報の値VDが第2の値VD2に達するまでの間は、表示画像の表示態様の変更を表示態様設定部114に指示する制御情報(制御信号、制御用フラグ)を出力し、第2の値VD2に達した場合には、表示態様の非変更を指示する制御情報を出力する。
このようにすれば、検出情報記録部301に記録される検出情報の値の更新処理により、図3、図4等で説明した経過時間の設定処理を効率的に実現できるようになる。
また図13(B)で説明したように、更新部300は、第Nの周期期間(TN)の後の周期期間(TN+1、TN+2・・・・)において第2の画像から注目領域が検出された場合には、検出情報の値VDを、第1の値VD1(例えばVD=VD1=5)に再設定してもよい。
このようにすれば、経過時間内に注目領域が検出された場合に経過時間を再設定する処理を、検出情報の値の再設定により実現できるようになる。そして、注目領域が非検出になるまで検出情報の値を再設定することで、経過時間を延長することが可能になる。
また図14に示すように表示態様設定部114は加工部400を含む。そして加工部400は、図12の制御情報出力部302からの制御情報により、表示画像の表示態様の変更が指示された場合には、第1の画像に対して加工処理(アラート情報の付加等)を施し、加工処理が施された第1の画像を表示画像として出力する。一方、制御情報により表示態様の非変更が指示された場合には、加工処理が施されていない第1の画像を表示画像として出力する。
このようにすれば、経過時間設定部113の制御情報出力部302において制御情報を設定し、表示態様設定部114の加工部400が、この制御情報に基づいて第1の画像の加工処理を行うことで、注目領域の検出及び経過時間の設定に基づく表示態様の変更処理を実現できるようになる。そして加工部400は、経過時間設定部113からの制御情報にしたがって加工処理を行うだけで済むため、加工部400の構成や処理を簡素化できる。
また図10に示すように注目領域検出部112は信頼度算出部205を含む。この信頼度算出部205は、検出された注目領域の確からしさを示す信頼度(注目領域であることの確からしさを示す尺度)を算出する処理を行う。具体的には、検出された注目領域の面積に基づいて、信頼度を算出する。
このようにすれば、信頼度を用いない手法に比べて、注目領域の精度(例えば病変部を注目領域として適正に捉える精度等)を向上できる。また、面積が大きい場合は注目領域とすて検出され、小さい場合は注目領域として検出されなくなるため、ノイズの影響等を軽減できる。
なお、本実施形態では注目領域が検出された後の経過時間として、5周期期間(5秒)を想定したが、本実施形態はこれに限定されず、任意の経過時間の設定が可能である。或いは、外部I/F部117を介して使用者が任意の経過時間を設定できるようにしてもよい。また、回転フィルタ103における回転速度を1回転/秒、通常光画像用フィルタF1と特殊光画像用フィルタF2の円周方向での面積比を29:1とを想定したが、本実施形態はこれに限定されず、自由な設定が可能である。例えば基本となる通常光画像の時間的分解能を優先しながら、特殊光画像の配分(Kに対するLの比率)を増やす構成も可能である。
また本実施形態では撮像系にBayer型原色フィルタを前面に配置した単板CCDを想定したが、本実施形態はこれに限定されない。例えば、二板、三板のCCDにも適用可能である。また、特殊光画像として特開2002−95635に開示される青色光と緑色光の狭帯域を使用する構成を想定したが、このような構成に限定される必要はない。例えば、特開昭63−122421に開示されるような蛍光を使用する構成や、赤外観察などの特殊光画像へも適用可能である。更に、通常光画像の撮影と特殊光画像の撮影のため回転フィルタ103を使用する構成想定したが、このような構成に限定される必要はない。例えば、LED光源などを使用し、白色光と狭帯域光を光源自体を切り換える構成で実現することも可能である。
また本実施形態ではレンズ系100、CCD101、照明光源102、回転フィルタ103、ゲインアンプ104、A/D変換部105、WB部107、測光評価部108からなる撮像部と一体化した構成を想定したが、本実施形態はこのような構成に限定されない。例えば、カプセル型内視鏡のように別体の撮像部で撮像された映像信号を未処理のRawデータ形態で記録媒体に保存し、記録媒体からの映像信号を別途処理することも可能である。
また本実施形態は、本実施形態の各部(第1画像取得部、第2画像取得部、注目領域検出部、表示態様設定部、経過時間設定部、動き量検出部等)としてコンピュータを機能させるプログラムにも適用できる。
これにより、例えばカプセル型内視鏡などにように、まず画像データを蓄積し、その後蓄積された画像データに対してPC等のコンピュータシステムでソフトウェア的に処理を行うことが可能になる。
また本実施形態は、本実施形態の各部(第1画像取得部、第2画像取得部、注目領域検出部、表示態様設定部、経過時間設定部、動き量検出部等)を実現するプログラムコードが記録されたコンピュータプログラムプロダクトにも適用できる。
ここでコンピュータプログラムプロダクトは、例えば、プログラムコードが記録された情報記憶媒体(DVD等の光ディスク媒体、ハードディスク媒体、メモリ媒体等)、プログラムコードが記録されたコンピュータ、プログラムコードが記録されたインターネットシステム(例えば、サーバとクライアント端末を含むシステム)など、プログラムコードが組み込まれた情報記憶媒体、装置、機器或いはシステム等である。この場合に、本実施形態の各構成要素や各処理プロセスは各モジュールにより実装され、これらの実装されたモジュールにより構成されるプログラムコードは、コンピュータプログラムプロダクトに記録される。
3.第2の構成例
図22に本実施形態の第2の構成例を示す。第2の構成例は、本実施形態の画像処理装置90を顕微鏡システムに適用した例である。もちろん図5のように内視鏡システムなどの他の電子機器にも第2の構成例は適用可能である。
図22の第2の構成例は、図5の第1の構成例における経過時間設定部113、表示態様設定部114を、経過時間設定部500、表示態様設定部501に置き換えた構成になっている。基本構成は第1の構成例と同様であり、同じ構成要素には同一の名称及び符号を付している。以下、異なる部分を中心に説明する。
顕微鏡のレンズ系100及びCCD101を介して撮影された映像信号は、ゲインアンプ104にて増幅され、A/D変換部105にてデジタル信号へ変換される。顕微鏡の対物ステージには、照明光源102からの照明光が回転フィルタ103に装着されたフィルタを透過して導かれている。第1画像取得部110は経過時間設定部500及び表示態様設定部501へ接続されている。表示態様設定部501は表示部115へ接続されている。注目領域検出部112は経過時間設定部500へ、経過時間設定部500は表示態様設定部501へ接続されている。制御部116は、経過時間設定部500、表示態様設定部501と双方向に接続されている。
次に第2の構成例の動作について説明する。基本的には第1の構成例と同様であり、異なる部分を主に説明する。
第1画像取得部110は、制御部116の制御に基づき、切換部109から単板状態の通常光画像を読み込み、公知の補間処理、階調処理などを行い、処理後の通常光画像を経過時間設定部500及び表示態様設定部501へ転送する。注目領域検出部112は、制御部116の制御に基づき、第2画像取得部111から特殊光画像を読み込み、注目領域(血管が密に存在する病変部等)の検出処理を行う。検出処理結果は、経過時間設定部500へ転送される。
経過時間設定部500は、制御部116の制御に基づき、注目領域検出部112から注目領域の検出処理結果を読み込み、第1画像取得部110から2枚の通常光画像を読み込む。本実施形態においては、図8で説明したように1秒の周期期間に29枚の通常光画像と1枚の特殊光画像が得られることを想定している。このため、1枚の特殊光画像に対して29枚の通常光画像が対応することになる。以下では、1周期期間の通常光画像の動き量を求めるために、1枚目と2枚目の2フレーム分の通常光画像を読み込む。
経過時間設定部500は、注目領域検出部112からの検出処理結果に対して、2枚の通常光画像から算出した動き量を加味して、経過時間を決定する。具体的には、経過時間設定部500は、現時点が設定された経過時間内に属するのか否かを判断し、この判断結果を表示態様設定部501へ転送する。表示態様設定部501は、制御部116の制御に基づき、経過時間設定部113から経過時間内に属するのか否かの判断結果を読み込み、経過時間内に属する場合は、アラーム情報を付加する処理を選択する。この場合のアラート情報の付加処理(アラート領域の重畳処理)としては、通常光画像に対するエッジ及び彩度の強調処理を想定する。一方、現時点が経過時間内に属さない場合は特に処理を行わない。表示態様設定部501からの表示画像は表示部115へ転送され、順次表示される。
図23は、第2の構成例の経過時間設定手法を説明する図である。第2の構成例では、通常光画像の動き量が検出され、検出された動き量に基づいて、経過時間の設定処理が行われる。具体的には経過時間設定部113は、動き量が大きいほど経過時間を短くする設定処理を行う。また通常光画像の動き量の検出は、特殊光画像において注目領域が検出されたことを条件に実行される。
例えば図23では、周期期間TNで取得された特殊光画像IS1において注目領域が検出されている。この場合には例えば次の周期期間TN+1で取得された例えば2枚の通常光画像IN1、IN2を用いて、これらの画像間の動き量が検出される。そして検出された動き量に応じた経過時間を設定し、第1の構成例と同様に、この経過時間内において表示態様の変更処理を行う。
このように通常光画像の動き量に基づいて経過時間を設定すれば、被写体に対して撮像部(カメラの注視点)が高速に移動している場合には、経過時間が短くなることで、表示態様が変更される時間が短くなる。従って、被写体に対して撮像部が高速に移動することで現在位置の近傍に注目領域が存在する可能性が低い場合には、表示態様が変更される時間が短くなるため、使用者の利便性を向上できる。
図24に経過時間設定部500の構成例を示す。なおこれらの構成要素の一部を省略したり、他の構成要素を追加するなどの変形実施が可能である。
図24の経過時間設定部500は、図12の経過時間設定部113に対して、バッファ303、動き量検出部304、経過時間算出部305、経過時間用ROM306が追加された構成になっている。基本構成は図12の経過時間設定部113と同等であり、同一の構成要素には同一の名称及び符号を付している。以下、異なる部分を主に説明する。
第1画像取得部110は、バッファ303を介して動き量検出部304へ接続している。動き量検出部304及び経過時間用ROM306は、経過時間算出部305へ接続している。経過時間算出部305は、検出情報記録部301へ接続している。更新部300は、検出情報記録部301及び動き量検出部304へ接続している。制御情報出力部302は、表示態様設定部501へ接続している。制御部116は、動き量検出部304、経過時間算出部305、経過時間用ROM306と双方向に接続されている。
電源投入などにより画像処理装置が初期化された場合に、制御部116は検出情報記録部301を初期化して、検出情報の値を初期値0に設定する。更新部300は、制御部116の制御に基づき、注目領域検出部112から特殊光画像中に注目領域が検出されたか否かの検出情報を読み込む。
更新部300は、注目領域が検出された場合には、動き量検出部304へ動き量の算出を行うよう制御信号を転送する。一方、注目領域が検出されなかった場合には、検出情報記録部301に記録されている検出情報の値を1だけデクリメントする。もし、検出情報の値が負数になった場合には0に置換する。
動き量検出部304は、更新部300から制御信号が転送された場合にのみ、バッファ303上の通常光画像の動き量を算出する。バッファ303には、図23に示すように各周期期間の1枚目と2枚目の二枚の通常光画像IN1、IN2が記録されている。なお、動き量の算出は公知のブロックマッチング技術などを用いて算出される。算出された動き量は経過時間算出部305へ転送される。経過時間算出部305は、制御部116の制御に基づき、経過時間用ROM306から、動き量と経過時間を対応づける関係テーブルを読み込む。
図25は、動き量と経過時間(周期期間)を対応づける関係テーブルの一例を示すものであり、動き量が増加するにつれて概ね経過時間が減少する関係にある。但し、経過時間に対しては上限値(MAX)と下限値(MIN)が設定されており、経過時間は、動き量が一定値(m1)以下では上限値(MAX)に、一定値(m2)以上では下限値(MIN)に設定される。このような関係テーブルを用いることで、動き量が増加するにつれて、表示態様を変更する経過時間は短くなる。これは、移動速度が速くなると、検出された注目領域からの距離が大きくなるため、現在位置の近傍に注目領域が存在する可能性が低くなりすぎることを防止するためである。
経過時間算出部305は、経過時間用ROM306からの関係テーブルに基づき、動き量検出部304で算出された動き量に対する経過時間を求め、検出情報記録部301へ検出情報の値として出力する。例えば図13(A)のD1では、検出情報の第1の値はVD1=5に固定されていたが、第2の構成例では、第1の値VD1が可変になる。具体的には通常光画像の動き量が大きくなるほど、VD1は小さくなり、これにより設定される経過時間も短くなる。
制御情報出力部302は、制御部116の制御に基づき、検出情報記録部301から検出情報の値を読み込む。検出情報の値が1以上である場合には、表示態様設定部501に表示態様の変更を指示する制御情報を出力する。一方、検出情報の値が0である場合には、表示態様設定部501に表示態様の非変更を指示する制御情報を出力する。
図26に表示態様設定部501の構成例を示す。図26の加工部398は、図14の加工部400に対して構成が異なっており、図26では、加工部398に対して輝度・色差分離部403、エッジ強調部404、彩度強調部405、輝度・色差合成部406が追加され、アラート情報付加部402が削除された構成になっている。基本構成は図14と同様であり、同一の構成要素には同一の名称及び符号を付している。以下、異なる部分を主に説明する。
経過時間設定部500は、選択部401へ接続している。選択部401は、輝度・色差分離部403及び表示部115へ接続している。輝度・色差分離部403は、エッジ強調部404及び彩度強調部405へ接続している。エッジ強調部404及び彩度強調部405は、輝度・色差合成部406へ接続している。輝度・色差合成部406は、表示部115へ接続している。制御部116は、輝度・色差分離部403、エッジ強調部404、彩度強調部405、輝度・色差合成部406と双方向に接続されている。
選択部401は、制御部116の制御に基づき、経過時間設定部500から表示態様を変更するか否かの制御情報を読み込み、バッファ410から通常光画像を読み込む。制御情報が表示態様の変更を指示する場合には、通常光画像を輝度・色差分離部403へ転送し、表示態様の変更を指示しない場合には、通常光画像を表示部115へ転送する。
輝度・色差分離部403は、制御部116の制御に基づき、選択部401から通常光画像が転送されてきた場合に、通常光画像のR、G、B信号を前述の式(1)〜(3)で示される輝度信号Y及び色差信号Cb、Crへ変換する。輝度信号Yはエッジ強調部404へ、色差信号Cb、Crは彩度強調部405へ転送される。
エッジ強調部404は、制御部116の制御に基づき、輝度信号Yに対して公知のエッジ強調処理を行う。エッジ強調処理後の輝度信号Y’は、輝度・色差合成部406へ転送される。一方、彩度強調部405は制御部116の制御に基づき、色差信号Cb、Crに対して公知の彩度強調処理を行う。彩度強調処理後の色差信号Cb’、Cr’は、輝度・色差合成部406へ転送される。
輝度・色差合成部406は、制御部116の制御に基づき、エッジ強調部404からの輝度信号Y’と彩度強調部405からの色差信号Cb’、Cr’を合成することで、下式(7)〜(9)に示すように、強調処理がなされたR’、G’、B’信号からなる画像へ変換して、表示画像として出力する。
R’=Y’+1.40200Cr’ (7)
G’=Y’−0.34414Cb’−0.71414Cr’ (8)
B’=Y’+1.77200Cb’ (9)
このように第2の構成例では、通常光画像の全体に対してアラート情報を設定する処理が行われる。
以上のように本実施形態の第2の構成例では、経過時間設定部500は動き量検出部304を含む。そして動き量検出部304は、第1画像取得部110により取得された第1の画像の動き量を検出する。
そして図23で説明したように、経過時間設定部500は、動き量検出部304で検出された動き量に基づいて、経過時間の設定処理を行う。具体的には、動き量が大きいほど経過時間を短くする設定処理を行う。
このような構成によれば、第1の画像の動き量に基づいて経過時間を設定しているため、第1の画像の動き量が大きく、撮像部が高速に移動していると判断される場合には、経過時間が短い長さに設定され、表示態様の変更時間も短くなる。従って、撮像部の高速移動時にアラート情報が頻繁に表示されてしまう事態を抑止でき、使い勝手の良い画像処理装置を提供できるようになる。
また本実施形態では、動き量検出部304は、第2の画像において注目領域が検出された場合に、第1の画像の動き量を検出してもよい。
このようにすれば、注目領域が検出されなかった場合には、第1の画像の動き量の検出処理は行われないようになり、負荷の重い動き量検出処理が無駄に行われてしまう事態を抑止できる。従って、第1の画像の動き量を利用したインテリジェントな経過時間の設定処理を、より少ない処理負荷で実現できる。
また図24に示すように、経過時間設定部500は、動き量検出部304に加えて、検出情報記録部301、更新部300、制御情報出力部302を含む。そして更新部300は、動き量検出部304で検出された動き量に基づいて、検出情報の値を設定する。
具体的には更新部300は、第2の画像から注目領域が検出された場合には、検出情報の値VDを、検出された動き量に応じて値が変化する第1の値VD1に設定する。即ち図13(A)に示すように、D1のように注目領域が検出されると、検出情報の値VDをVD1に設定する。但し、第2の構成例では、このVD1の値は、動き量に応じて値が変化し、例えば動き量が大きいほどVD1の値は小さくなる。一方、更新部300は、第2の画像から注目領域が検出されなかった場合には、図13(A)のD6、D7と同様に、検出情報の値VDを第1の値VD1から第2の値VD2に向かって変化させる更新処理を行う。
そして制御情報出力部302は、VDがVD2(=0)に達するまでの間は、表示画像の表示態様の変更を指示する制御情報を出力し、VDがVD2に達した場合には、表示態様の非変更を指示する制御情報を出力する。
このようにすれば、検出情報記録部301に記録される検出情報の値の更新処理により、動き量に応じた経過時間の設定処理を効率的に実現できるようになる。また、動き量に応じて値が変化する第1の値VD1を検出情報記録部301に設定するだけで、動き量に応じた経過時間の設定処理を実現できるため、処理や構成の簡素化を図れる。
また本実施形態では、図26の表示態様設定部501は、第1の画像のエッジ及び彩度の少なくとも1つを強調する処理を行う。
このように、表示態様の変更処理として、通常光画像全体のエッジや彩度を強調する処理を行って、表示画像を生成すれば、使用者にとって違和感が少なく、使い勝手の良い画像処理装置を提供することが可能になる。
なお、第2の構成例では、経過時間の設定に通常光画像の動き量を使用する場合について説明したが、第2の構成例はこのような構成に限定されない。例えば第1の構成例と同様に固定的な経過時間を設定する方法も可能である。逆に、第1の構成例において通常光画像の動き量を使用する構成を適用することも可能である。
また、第2の構成例では、表示態様の変更処理として、通常光画像全体のエッジや彩度を強調する構成を採用したが、第2の構成例はこのような構成に限定されない。例えば第1の構成例と同様に、通常光画像の周縁部にアラート情報を付加する構成を採用してもよい。逆に、第1の構成例において通常光画像全体のエッジや彩度を強調する構成を採用してもよい。更に、上記では、ハードウェアによる処理を前提として説明したが、第2の構成例はこれに限定されない。例えば第1の構成例と同様にソフトウェア処理により実現してもよい。
4.第3の構成例
図27に本実施形態の第3の構成例を示す。図27は面順次方式の内視鏡システムへの適用例である。この第3の構成例は図5の第1の構成例におけるCCD101、回転フィルタ103、切換部109をそれぞれCCD550、回転フィルタ551、切換部552に置換した構成になっている。基本構成は第1の構成例と同様であり、同一の構成要素には同一の名称及び符号を付している。以下、異なる部分を主に説明する。
内視鏡先端部にあるレンズ系100及びCCD550を介して撮影された映像信号は、ゲインアンプ104にて増幅され、A/D変換部105にてデジタル信号へ変換される。内視鏡先端部では、照明光源102からの照明光が、回転フィルタ551に装着されたフィルタを透過し、透過光が光ファイバーを経由して被写体に照射される。制御部116は、回転フィルタ551、切換部552と双方向に接続されている。
次に第3の構成例の動作を説明する。基本的には第1の構成例と同様であり、異なる部分を主に説明する。
レンズ系100、CCD550を介して撮影された映像信号はアナログ信号として出力される。なお、本実施形態ではCCD550として白黒用の単板CCDを、照明光源102としてはキセノンなどの通常の白色光用の光源を想定する。
また回転フィルタ551には、通常光画像のR、G、B用の分光特性を有する三枚で一組をなすフィルタが29組実装されている。また第1の構成例と同様に、青色光の狭帯域(390〜445nm)と緑色光の狭帯域(530〜550nm)と遮光用のフィルタの三枚で一組をなすフィルタが1組実装されている。
図28は、これらのR、G、Bフィルタと、青色光の狭帯域(B2)、緑色光の狭帯域(G2)のフィルタの分光特性を示す。CCD550は1/90秒間隔で撮像し、回転フィルタ551は1回転/秒の速度で回転していることを想定する。
R、G、Bの3信号からなる通常光画像については、3×1/90=1/30秒で回転フィルタ551が1回転する間に、29枚の通常光画像が取得される。一方、特殊光画像については、R信号として遮光用のフィルタ、G信号として緑色光の狭帯域フィルタ(G2)、B信号として青色光の狭帯域フィルタ(B2)で撮像される。結果として3×1/90=1/30秒で回転フィルタ551が1回転する間に、1枚の特殊光画像が取得される。
バッファ106は、1枚の通常光画像又は特殊光画像を記録可能で、撮影にともない上書きされることになる。切換部552は、制御部116の制御に基づき、バッファ106内にR、G、Bの3信号からなる通常光画像を第1画像取得部110へ転送する。また、青色光の狭帯域と緑色光の狭帯域の2成分からなる特殊光画像が記録されている場合には、第2画像取得部111へ特殊光画像を転送する。
第1画像取得部110は、制御部116の制御に基づき、切換部552から通常光画像を読み込み、公知の階調処理などを行い、処理後の通常光画像を表示態様設定部114へ転送する。第2画像取得部111は、制御部116の制御に基づき、切換部552から特殊光画像を読み込み、公知の階調処理などを行う。更に、疑似カラー画像を生成する処理も併せて行う。以後の処理は、図5に示す第1の構成例と同様である。
以上の第3の構成例においても、通常光画像と特殊光画像を取得し、特殊光画像の画素の特徴量に基づき注目領域を検出し、検出結果に基づいて経過時間を設定する。そして決定された経過時間に基づいて表示画像の表示態様の設定処理が行われる。このため、動状態での観察において注目領域が短時間しか検出されない場合でも、使用者は現在位置の近傍に注目領域が存在することを認識することができ、注目領域の見落としを抑止し、信頼性の高い識別が可能となる。また、所定の周期期間毎に通常光画像と特殊光画像を交互に取得し、且つ、通常光画像の取得割合を特殊光画像よりも高めている。このため、基本となる通常光画像の時間的分解能の低下を抑制し、高品位な表示画像を取得できる。更に通常光画像の周縁部にアラート情報が設定されるため、通常光画像の観察を妨げずに良好な操作性を有する画像処理装置を提供できる。
以上では本実施形態の第1〜第3の構成例について説明したが、本実施形態はこれに限定されるものではなく、種々の変形実施が可能である。
例えば本実施形態における特定の波長帯域は、白色光の波長帯域よりも狭い帯域である(NBI:Narrow Band Imaging)。例えば、通常光画像および特殊光画像は生体内を写した生体内画像であり、生体内画像に含まれる特定の波長帯域は、血液中のヘモグロビンに吸収される波長の波長帯域である。このヘモグロビンに吸収される波長は、例えば390ナノメータ〜445ナノメータ(第1の狭帯域光。狭帯域光のB2成分)、または530ナノメータ〜550ナノメータ(第2の狭帯域光。狭帯域光のG2成分)である。
これにより、生体の表層部及び、深部に位置する血管の構造を観察することが可能になる。また得られた信号を特定のチャンネル(G2→R、B2→G,B)に入力することで、扁平上皮癌等の通常光では視認が難しい病変などを褐色等で表示することができ、病変部の見落としを抑止することができる。なお、390nm〜445nmまたは530nm〜550nmとは、ヘモグロビンに吸収されるという特性及び、それぞれ生体の表層部または深部まで到達するという特性から得られた数字である。ただし、この場合の波長帯域はこれに限定されず、例えばヘモグロビンによる吸収と生体の表層部又は深部への到達に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。
また、本実施形態では、生体内画像に含まれる特定の波長帯域は、蛍光物質が発する蛍光の波長帯域であってもよい。例えば、特定の波長帯域は、490ナノメータ〜625ナノメータの波長帯域であってもよい。
これにより、AFI(Auto Fluorescence Imaging)と呼ばれる蛍光観察が可能となる。励起光(390nm〜470nm)を照射することで、コラーゲンなどの蛍光物質からの自家蛍光(intrinsic fluorescence。490nm〜625nm)を観察することができる。このような観察では病変を正常粘膜とは異なった色調で強調表示することができ、病変部の見落としを抑止すること等が可能になる。なお490nm〜625nmという数字は、前述の励起光を照射した際、コラーゲン等の蛍光物質が発する自家蛍光の波長帯域を示したものである。ただし、この場合の波長帯域はこれに限定されず、例えば蛍光物質が発する蛍光の波長帯域に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。また、ヘモグロビンに吸収される波長帯域(540nm〜560nm)を同時に照射し、擬似カラー画像を生成してもよい。
また、本実施形態では、生体内画像に含まれる特定の波長帯域は、赤外光の波長帯域であってもよい。例えば、特定の波長帯域は、790ナノメータ〜820ナノメータ、または905ナノメータ〜970ナノメータの波長帯域であってもよい。
これにより、IRI(Infra Red Imaging)と呼ばれる赤外光観察が可能となる。赤外光が吸収されやすい赤外指標薬剤であるICG(インドシアニングリーン)を静脈注射した上で、上記波長帯域の赤外光を照射することで、人間の目では視認が難しい粘膜深部の血管や血流情報を強調表示することができ、胃癌の深達度診断や治療方針の判定などが可能になる。なお、790nm〜820nmという数字は赤外指標薬剤の吸収がもっとも強いという特性から求められ、905nm〜970nmという数字は赤外指標薬剤の吸収がもっとも弱いという特性から求められたものである。ただし、この場合の波長帯域はこれに限定されず、例えば赤外指標薬剤の吸収に関する実験結果等の変動要因により、波長帯域の下限値が0〜10%程度減少し、上限値が0〜10%程度上昇することも考えられる。
また、本実施形態では、図5等に示す第2画像取得部111が、取得された白色光画像(第1の画像)に基づいて特殊光画像(第2の画像)を生成してもよい。
具体的には、この第2画像取得部111は、取得された白色光画像から、白色光の波長帯域における信号を抽出する信号抽出部を含み、第2画像取得部111は、抽出された白色光の波長帯域における信号に基づいて、特定の波長帯域における信号を含む特殊光画像を生成する。例えば、信号抽出部は、白色光画像のRGB信号から10nm刻みに被写体の分光反射率特性を推定し、第2画像取得部111は、その推定された信号成分を上記特定の帯域で積算して特殊光画像を生成する。
より具体的には、第2画像取得部11は、白色光の波長帯域における信号から、特定の波長帯域における信号を算出するためのマトリクスデータを設定するマトリクスデータ設定部を含む。そして第2画像取得部111は、設定されたマトリクスデータを用いて、白色光の波長帯域における信号から特定の波長帯域における信号を算出して、特殊光画像を生成する。例えば、マトリクスデータ設定部は、特定の波長帯域の照射光の分光特性が10nm刻みに記述されたテーブルデータをマトリクスデータとして設定する。そして、このテーブルデータに記述された分光特性(係数)を、推定された被写体の分光反射率特性に乗算して積算し、特殊光画像を生成する。
これにより、通常光画像に基づいて特殊光画像を生成することができるので、通常光を照射する1つの光源と、通常光を撮像する1つの撮像素子のみでもシステムを実現することが可能になる。そのため、スコープ型内視鏡の挿入部やカプセル型内視鏡を小さくすることができ、また部品が少なくてすむためコストを下げる効果も期待できる。
また以上では、図15に示すようにアラート情報が画像である場合を例にとり説明したが、本実施形態により出力されるアラート情報は画像には限定されず、音によるアラート情報や発光素子の発光によるアラート情報であってもよい。この場合には図5等の表示態様設定部114が、アラート情報出力部として機能する。
そして第1画像取得部110が第1の画像を取得し、第2画像取得部111が第2の画像を取得し、注目領域検出部112が、第2の画像内の画素の特徴量に基づいて注目領域を検出すると、アラート情報出力部(表示態様設定部114)が、検出された注目領域についてのアラート情報を出力する。具体的には、経過時間設定部113が、注目領域の検出結果に基づいて経過時間の設定処理を行い、アラート情報出力部が、設定された経過時間が経過するまでの間、アラート情報を出力する。アラート情報が音である場合を例にとると、図5等の表示部115が音出力部として機能し、この音出力部が、注目領域が検出されてから経過時間が経過するまでの間、注目領域の検出を知らせるアラート音をアラート情報として出力する。このようにすれば、例えば注目領域が短時間しか検出されない場合でも、使用者は現在位置の近傍に注目領域が存在することを認識することができ、注目領域の見落としを抑止し、信頼性の高い識別が可能となる。
以上のように本実施形態について詳細に説明したが、本発明の新規事項及び効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば明細書又は図面において、少なくとも一度、より広義または同義な異なる用語(第1の画像、第2の画像等)と共に記載された用語(通常光画像、特殊光画像等)は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また画像処理装置、内視鏡システムの構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
90 画像処理装置、100 レンズ系 101 CCD、102 照明光源、
103 回転フィルタ、104 ゲインアンプ、105 A/D変換部、
106 バッファ、107 WB部、108 測光評価部、109 切換部、
110 第1画像取得部、111 第2画像取得部、112 注目領域検出部、
113 経過時間設定部、114 表示態様設定部、115 表示部(出力部)、
116 制御部、117 外部I/F部、200 バッファ、
201 色相・彩度算出部、202 注目領域判定部、203 閾値用ROM、
204 バッファ、205 信頼度算出部、206 面積判定部、
300 更新部、301 検出情報記録部、302 制御情報出力部、
303 バッファ、304 動き量検出部、305 経過時間算出部、
306 経過時間用ROM、398 加工部、400 加工部、401 選択部、
402 アラート情報付加部、403 輝度・色差分離部、404 エッジ強調部、
405 彩度強調部、406 輝度・色差合成部、410 バッファ、
500 経過時間設定部、501 表示態様設定部、550 CCD、
551 回転フィルタ、552 切換部、600 コンピュータシステム、
610 本体部、611 CPU、612 RAM、613 ROM、
614 HDD、615 CD−ROMドライブ、616 USBポート、
617 I/Oインターフェース、618 LANインターフェース、
620 ディスプレイ、621 表示画面、630 キーボード、640 マウス、
650 モデム、660 CD−ROM、670 USBメモリ、681 PC、
682 サーバ、683 プリンタ

Claims (40)

  1. 白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、
    特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、
    前記第1の画像に基づき生成される表示画像の表示態様設定処理を行う表示態様設定部と、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部とを含み、
    前記表示態様設定部は、
    設定された前記経過時間に基づいて前記表示態様設定処理を行うことを特徴とする画像処理装置。
  2. 請求項1において、
    前記表示態様設定部は、
    前記表示態様設定処理として、前記経過時間が経過するまでの間、前記表示画像の表示態様を変更する処理を行うことを特徴とする画像処理装置。
  3. 請求項2において、
    前記表示態様設定部は、
    前記表示態様設定処理として、前記経過時間が経過するまでの間、前記注目領域についてのアラート情報が設定された前記表示画像を表示する処理を行うことを特徴とする画像処理装置。
  4. 請求項2において、
    前記表示態様設定部は、
    前記経過時間内に前記第2の画像から前記注目領域が検出されなかった場合にも、前記経過時間が経過するまでの間は、前記表示画像の表示態様を変更する処理を行うことを特徴とする画像処理装置。
  5. 請求項4において、
    前記経過時間設定部は、
    前記経過時間内に前記第2の画像から前記注目領域が検出された場合には、前記注目領域の検出タイミングを起点とした新たな経過時間を設定する処理を行うことを特徴とする画像処理装置。
  6. 請求項1において、
    前記第1画像取得部は、
    所定の周期期間毎に少なくとも1フレーム分の前記第1の画像を取得し、
    前記第2画像取得部は、
    前記周期期間毎に少なくとも1フレーム分の前記第2の画像を取得し、
    前記表示態様設定部は、
    第Nの周期期間(Nは自然数)において前記第2の画像から前記注目領域が検出された場合には、
    前記第Nの周期期間の後の第N+1の周期期間において、前記表示画像の表示態様を変更する処理を行うことを特徴とする画像処理装置。
  7. 請求項6において、
    前記第1画像取得部は、
    前記周期期間毎にKフレーム分(Kは自然数)の前記第1の画像を取得し、
    前記第2画像取得部は、
    前記周期期間毎にLフレーム分(Lは自然数)の前記第2の画像を取得し、
    K>Lであることを特徴とする画像処理装置。
  8. 請求項7において、
    前記第1画像取得部は、
    前記周期期間毎にKフレーム分の前記第1の画像を取得し、
    前記第2画像取得部は、
    前記周期期間毎に1フレーム分の前記第2の画像を取得することを特徴とする画像処理装置。
  9. 請求項6において、
    前記周期期間の長さをTとし、前記経過時間の長さをTEとした場合に、TE>Tであることを特徴とする画像処理装置。
  10. 請求項6において、
    前記表示態様設定部は、
    前記第Nの周期期間において前記第2の画像から前記注目領域が検出され、前記第N+1の周期期間において前記第2の画像から前記注目領域が検出されなかった場合にも、
    前記第N+1の周期期間〜第Mの周期期間(MはM>N+1となる整数)において、前記表示画像の表示態様を変更する処理を行うことを特徴とする画像処理装置。
  11. 請求項1において、
    前記経過時間設定部は、
    前記注目領域の検出情報を記録する検出情報記録部と、
    前記注目領域検出部からの検出結果に基づいて、前記検出情報の更新処理を行う更新部と、
    前記検出情報記録部に記録される前記検出情報に基づいて、前記表示態様設定部での前記表示態様設定処理を制御する制御情報を出力する制御情報出力部を含むことを特徴とする画像処理装置。
  12. 請求項11において、
    前記更新部は、
    前記第2の画像から前記注目領域が検出された場合には、前記検出情報の値VDを、前記経過時間に対応する第1の値VD1に設定し、
    前記第2の画像から前記注目領域が検出されなかった場合には、前記検出情報の値VDを、前記第1の値VD1から第2の値VD2に向かって変化させる更新処理を行い、
    前記制御情報出力部は、
    前記検出情報の値VDが前記第2の値VD2に達するまでの間は、前記表示画像の表示態様の変更を前記表示態様設定部に指示する前記制御情報を出力し、
    前記検出情報の値VDが前記第2の値VD2に達した場合には、前記表示画像の表示態様の非変更を前記表示態様設定部に指示する前記制御情報を出力することを特徴とする画像処理装置。
  13. 請求項11において、
    前記第1画像取得部は、
    所定の周期期間毎に少なくとも1フレーム分の前記第1の画像を取得し、
    前記第2画像取得部は、
    前記周期期間毎に少なくとも1フレーム分の前記第2の画像を取得し、
    前記更新部は、
    前記周期期間毎に前記検出情報の更新処理を行うことを特徴とする画像処理装置。
  14. 請求項13において、
    前記更新部は、
    第Nの周期期間(Nは自然数)において前記第2の画像から前記注目領域が検出された場合には、前記検出情報の値VDを、前記経過時間に対応する第1の値VD1に設定し、
    前記第Nの周期期間の後の周期期間において前記第2の画像から前記注目領域が検出されなかった場合には、前記検出情報の値VDを、前記第1の値VD1から第2の値VD2に向かって変化させる更新処理を行い、
    前記制御情報出力部は、
    前記検出情報の値VDが前記第2の値VD2に達するまでの間は、前記表示画像の表示態様の変更を前記表示態様設定部に指示する前記制御情報を出力し、
    前記検出情報の値VDが前記第2の値VD2に達した場合には、前記表示画像の表示態様の非変更を前記表示態様設定部に指示する前記制御情報を出力することを特徴とする画像処理装置。
  15. 請求項14において、
    前記更新部は、
    前記第Nの周期期間の後の周期期間において前記第2の画像から前記注目領域が検出された場合には、前記検出情報の値VDを、前記第1の値VD1に再設定することを特徴とする画像処理装置。
  16. 請求項11において、
    前記表示態様設定部は加工部を含み、
    前記加工部は、
    前記制御情報出力部からの前記制御情報により前記表示画像の表示態様の変更が指示された場合には、前記第1の画像に対して加工処理を施し、加工処理が施された前記第1の画像を前記表示画像として出力し、
    前記制御情報出力部からの前記制御情報により前記表示画像の表示態様の非変更が指示された場合には、加工処理が施されていない前記第1の画像を前記表示画像として出力することを特徴とする画像処理装置。
  17. 請求項1において、
    前記注目領域検出部は、
    検出された前記注目領域の確からしさを示す信頼度を算出する信頼度算出部を含むことを特徴とする画像処理装置。
  18. 請求項17において、
    前記信頼度算出部は、
    検出された前記注目領域の面積に基づいて、前記信頼度を算出することを特徴とする画像処理装置。
  19. 請求項1において、
    前記経過時間設定部は、
    前記第1の画像の動き量を検出する動き量検出部を含み、
    前記経過時間設定部は、
    前記動き量検出部で検出された前記動き量に基づいて、前記経過時間の設定処理を行うことを特徴とする画像処理装置。
  20. 請求項19において、
    前記経過時間設定部は、
    前記動き量が大きいほど、前記経過時間を短くする設定処理を行うことを特徴とする画像処理装置。
  21. 請求項19において、
    前記動き量検出部は、
    前記第2の画像において前記注目領域が検出された場合に、前記第1の画像の動き量を検出することを特徴とする画像処理装置。
  22. 請求項19において、
    前記経過時間設定部は、
    前記注目領域の検出情報を記録する検出情報記録部と、
    前記注目領域検出部からの検出結果に基づいて、前記検出情報の更新処理を行う更新部と、
    前記検出情報記録部に記録される前記検出情報に基づいて、前記表示態様設定部での前記表示態様設定処理を制御する制御情報を出力する制御情報出力部を含み、
    前記更新部は、
    前記動き量検出部で検出された前記動き量に基づいて、前記検出情報の値を設定することを特徴とする画像処理装置。
  23. 請求項22において、
    前記更新部は、
    前記第2の画像から前記注目領域が検出された場合には、前記検出情報の値VDを、検出された前記動き量に応じて値が変化する第1の値VD1に設定し、
    前記第2の画像から前記注目領域が検出されなかった場合には、前記検出情報の値VDを、前記第1の値VD1から第2の値VD2に向かって変化させる更新処理を行い、
    前記制御情報出力部は、
    前記検出情報の値VDが前記第2の値VD2に達するまでの間は、前記表示画像の表示態様の変更を前記表示態様設定部に指示する前記制御情報を出力し、
    前記検出情報の値VDが前記第2の値VD2に達した場合には、前記表示画像の表示態様の非変更を前記表示態様設定部に指示する前記制御情報を出力することを特徴とする画像処理装置。
  24. 請求項1において、
    前記表示態様設定部は、
    前記表示態様設定処理として、前記第1の画像のエッジ及び彩度の少なくとも1つを強調する処理を行うことを特徴とする画像処理装置。
  25. 請求項1において、
    前記特定の波長帯域は、
    前記白色光の波長帯域よりも狭い帯域であることを特徴とする画像処理装置。
  26. 請求項1において、
    前記第1の画像及び前記第2の画像は生体内を写した生体内画像であり、
    前記生体内画像に含まれる前記特定の波長帯域は、血液中のヘモグロビンに吸収される波長の波長帯域であることを特徴とする画像処理装置。
  27. 請求項26において、
    前記特定の波長帯域は、390ナノメータ〜445ナノメータ、または530ナノメータ〜550ナノメータであることを特徴とする画像処理装置。
  28. 請求項1において、
    前記第1の画像及び前記第2の画像は生体内を写した生体内画像であり、
    前記生体内画像に含まれる前記特定の波長帯域は、蛍光物質が発する蛍光の波長帯域であることを特徴とする画像処理装置。
  29. 請求項28において、
    前記特定の波長帯域は、490ナノメータ〜625ナノメータの波長帯域であることを特徴とする画像処理装置。
  30. 請求項1において、
    前記第1の画像及び前記第2の画像は生体内を写した生体内画像であり、
    前記生体内画像に含まれる前記特定の波長帯域は、赤外光の波長帯域であることを特徴とする画像処理装置。
  31. 請求項30において、
    前記特定の波長帯域は、790ナノメータ〜820ナノメータ、または905ナノメータ〜970ナノメータの波長帯域であることを特徴とする画像処理装置。
  32. 請求項1において、
    前記第2画像取得部は、
    取得された前記第1の画像に基づいて、前記第2の画像を生成することを特徴とする画像処理装置。
  33. 請求項32において、
    前記第2画像取得部は、
    取得された前記第1の画像から、白色光の波長帯域における信号を抽出する信号抽出部を含み、
    前記第2画像取得部は、
    抽出された前記白色光の波長帯域における信号に基づいて、前記特定の波長帯域における信号を含む前記第2の画像を生成することを特徴とする画像処理装置。
  34. 請求項33において、
    前記第2画像取得部は、
    前記白色光の波長帯域における信号から、前記特定の波長帯域における信号を算出するためのマトリクスデータを設定するマトリクスデータ設定部を含み、
    前記第2画像取得部は、
    設定された前記マトリクスデータを用いて、前記白色光の波長帯域における信号から前記特定の波長帯域における信号を算出して、前記第2の画像を生成することを特徴とする画像処理装置。
  35. 白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、
    特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、
    検出された前記注目領域についてのアラート情報を出力するアラート情報出力部と、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部とを含み、
    前記アラート情報出力部は、
    設定された前記経過時間が経過するまでの間、前記アラート情報を出力することを特徴とする画像処理装置。
  36. 白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、
    特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、
    前記第1の画像に基づき生成される表示画像の表示態様設定処理を行う表示態様設定部と、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部と、
    前記表示画像を表示する表示部とを含み、
    前記表示態様設定部は、
    設定された前記経過時間に基づいて前記表示態様設定処理を行うことを特徴とする内視鏡システム。
  37. 白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、
    特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、
    前記第1の画像に基づき生成される表示画像の表示態様設定処理を行う表示態様設定部と、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部として、
    コンピュータを機能させ、
    前記表示態様設定部は、
    設定された前記経過時間に基づいて前記表示態様設定処理を行うことを特徴とするプログラム。
  38. 白色光の波長帯域における情報を有する画像を第1の画像として取得する第1画像取得部と、
    特定の波長帯域における情報を有する画像を第2の画像として取得する第2画像取得部と、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出する注目領域検出部と、
    検出された前記注目領域についてのアラート情報を出力するアラート情報出力部と、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行う経過時間設定部として、
    コンピュータを機能させ、
    前記アラート情報出力部は、
    設定された前記経過時間が経過するまでの間、前記アラート情報を出力することを特徴とするプログラム。
  39. 白色光の波長帯域における情報を有する画像を第1の画像として取得し、
    特定の波長帯域における情報を有する画像を第2の画像として取得し、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出し、
    前記第1の画像に基づき生成される表示画像の表示態様設定処理を行い、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行うと共に、
    設定された前記経過時間に基づいて前記表示態様設定処理を行うことを特徴とする画像処理装置の作動方法。
  40. 白色光の波長帯域における情報を有する画像を第1の画像として取得し、
    特定の波長帯域における情報を有する画像を第2の画像として取得し、
    前記第2の画像内の画素の特徴量に基づいて、前記第2の画像での注目領域を検出し、
    検出された前記注目領域についてのアラート情報を出力し、
    前記注目領域の検出結果に基づいて、経過時間の設定処理を行うと共に、
    設定された前記経過時間が経過するまでの間、前記アラート情報を出力することを特徴とする画像処理装置の作動方法。
JP2010023750A 2010-02-05 2010-02-05 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法 Active JP5220780B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2010023750A JP5220780B2 (ja) 2010-02-05 2010-02-05 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
CN201180008337.1A CN102740757B (zh) 2010-02-05 2011-01-20 图像处理装置、内窥镜系统以及图像处理方法
PCT/JP2011/050951 WO2011096279A1 (ja) 2010-02-05 2011-01-20 画像処理装置、内視鏡システム、プログラム及び画像処理方法
EP11739628.3A EP2517614B1 (en) 2010-02-05 2011-01-20 Image processing device, endoscope system, program and image processing method
US13/548,390 US20120274754A1 (en) 2010-02-05 2012-07-13 Image processing device, endoscope system, information storage device, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010023750A JP5220780B2 (ja) 2010-02-05 2010-02-05 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法

Publications (2)

Publication Number Publication Date
JP2011160848A JP2011160848A (ja) 2011-08-25
JP5220780B2 true JP5220780B2 (ja) 2013-06-26

Family

ID=44355281

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010023750A Active JP5220780B2 (ja) 2010-02-05 2010-02-05 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法

Country Status (5)

Country Link
US (1) US20120274754A1 (ja)
EP (1) EP2517614B1 (ja)
JP (1) JP5220780B2 (ja)
CN (1) CN102740757B (ja)
WO (1) WO2011096279A1 (ja)

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5331860B2 (ja) * 2011-09-15 2013-10-30 富士フイルム株式会社 内視鏡システム及び光源装置
JP6067264B2 (ja) 2012-07-17 2017-01-25 Hoya株式会社 画像処理装置及び内視鏡装置
JP6027803B2 (ja) * 2012-07-17 2016-11-16 Hoya株式会社 画像処理装置及び内視鏡装置
JP6077340B2 (ja) * 2013-03-06 2017-02-08 富士フイルム株式会社 画像処理装置及び内視鏡システムの作動方法
US9100540B1 (en) 2013-03-14 2015-08-04 Ca, Inc. Multi-person video conference with focus detection
US9041766B1 (en) * 2013-03-14 2015-05-26 Ca, Inc. Automated attention detection
JP6120762B2 (ja) * 2013-12-13 2017-04-26 オリンパス株式会社 画像処理装置
JP6392570B2 (ja) * 2014-07-11 2018-09-19 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、画像処理プログラム、及び内視鏡システム
WO2017017735A1 (ja) * 2015-07-24 2017-02-02 オリンパス株式会社 画像処理装置、表示制御方法およびプログラム
US20170280971A1 (en) 2015-08-13 2017-10-05 Hoya Corporation Evaluation value calculation device and electronic endoscope system
CN106687023B (zh) 2015-08-13 2018-12-18 Hoya株式会社 评价值计算装置以及电子内窥镜系统
CN108135457B (zh) * 2015-10-26 2020-02-21 奥林巴斯株式会社 内窥镜图像处理装置
JPWO2017073337A1 (ja) * 2015-10-27 2017-11-09 オリンパス株式会社 内視鏡装置及びビデオプロセッサ
JP6246431B2 (ja) * 2015-11-10 2017-12-13 オリンパス株式会社 内視鏡装置
JPWO2018078724A1 (ja) 2016-10-25 2019-09-05 オリンパス株式会社 内視鏡画像処理装置及び内視鏡画像処理方法
JP6751815B2 (ja) * 2017-04-28 2020-09-09 オリンパス株式会社 内視鏡診断支援システム、内視鏡診断支援プログラム及び内視鏡診断支援システムの作動方法
WO2018203383A1 (ja) * 2017-05-02 2018-11-08 オリンパス株式会社 画像処理装置、及び、画像処理プログラム
JP7121470B2 (ja) * 2017-05-12 2022-08-18 キヤノン株式会社 画像処理システム、制御方法、及び、プログラム
CN114145693A (zh) 2017-06-02 2022-03-08 富士胶片株式会社 医疗图像处理装置
EP3653106A4 (en) 2017-07-14 2020-07-08 Fujifilm Corporation MEDICAL IMAGE PROCESSING DEVICE, ENDOSCOPE SYSTEM, DIAGNOSTIC ASSISTANCE DEVICE, AND MEDICAL INTERVENTION ASSISTANCE DEVICE
EP3682791B1 (en) 2017-09-15 2023-12-20 FUJIFILM Corporation Medical image processing device
WO2019078237A1 (ja) * 2017-10-18 2019-04-25 富士フイルム株式会社 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
WO2019146077A1 (ja) * 2018-01-26 2019-08-01 オリンパス株式会社 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラム
JP2019180966A (ja) * 2018-04-13 2019-10-24 学校法人昭和大学 内視鏡観察支援装置、内視鏡観察支援方法、及びプログラム
WO2019220859A1 (ja) * 2018-05-14 2019-11-21 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法
JP7084994B2 (ja) * 2018-07-06 2022-06-15 オリンパス株式会社 内視鏡用画像処理装置、及び、内視鏡用画像処理装置の作動方法、並びに、内視鏡用画像処理プログラム
EP3824796B1 (en) * 2018-07-20 2024-05-15 FUJIFILM Corporation Endoscope system
CN112512398B (zh) * 2018-07-27 2024-03-29 富士胶片株式会社 医疗图像处理装置
WO2020036109A1 (ja) 2018-08-17 2020-02-20 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
WO2020040086A1 (ja) 2018-08-20 2020-02-27 富士フイルム株式会社 医療画像処理システム
CN112584742B (zh) 2018-08-20 2024-04-30 富士胶片株式会社 医疗图像处理系统
WO2020039685A1 (ja) 2018-08-20 2020-02-27 富士フイルム株式会社 医療画像処理装置
WO2020039929A1 (ja) * 2018-08-23 2020-02-27 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
CN112654283A (zh) * 2018-09-11 2021-04-13 富士胶片株式会社 医疗图像处理装置、医疗图像处理方法及程序、内窥镜系统
JP7148625B2 (ja) * 2018-09-18 2022-10-05 富士フイルム株式会社 医用画像処理装置、プロセッサ装置、医用画像処理装置の作動方法、及びプログラム
JP7282796B2 (ja) 2018-09-28 2023-05-29 富士フイルム株式会社 医用画像処理装置、医用画像処理装置の作動方法、及びプログラム、診断支援装置並びに内視鏡システム
EP3875021A4 (en) * 2018-11-01 2021-10-20 FUJIFILM Corporation MEDICAL IMAGE PROCESSING APPARATUS, MEDICAL IMAGE PROCESSING PROCESS AND DIAGNOSIS ASSISTANCE APPARATUS
JP7038641B2 (ja) * 2018-11-02 2022-03-18 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び作動方法
WO2020166528A1 (ja) * 2019-02-13 2020-08-20 日本電気株式会社 施術支援装置、施術支援方法、及びコンピュータ読み取り可能な記録媒体
WO2021039438A1 (ja) * 2019-08-27 2021-03-04 富士フイルム株式会社 医療画像処理システム及びその動作方法
US11607112B2 (en) * 2019-11-08 2023-03-21 Meditrina, Inc. Endoscope and method of use
WO2023187886A1 (ja) * 2022-03-28 2023-10-05 日本電気株式会社 画像処理装置、画像処理方法及び記憶媒体

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63122421A (ja) 1986-11-12 1988-05-26 株式会社東芝 内視鏡装置
JP3807541B2 (ja) * 1995-01-23 2006-08-09 富士写真フイルム株式会社 乳房画像表示方法および装置
EP1302152B1 (en) * 2000-07-21 2013-03-20 Olympus Corporation Endoscope apparatus
JP3583731B2 (ja) 2000-07-21 2004-11-04 オリンパス株式会社 内視鏡装置および光源装置
US7172553B2 (en) * 2001-05-16 2007-02-06 Olympus Corporation Endoscope system using normal light and fluorescence
JP4245976B2 (ja) * 2003-05-16 2009-04-02 オリンパス株式会社 超音波画像処理装置
JP2005007145A (ja) * 2003-05-27 2005-01-13 Olympus Corp 医療用画像記録装置、内視鏡画像の表示方法、内視鏡画像の取り込み方法及びプログラム
US20050059894A1 (en) * 2003-09-16 2005-03-17 Haishan Zeng Automated endoscopy device, diagnostic method, and uses
JP2006198106A (ja) * 2005-01-19 2006-08-03 Olympus Corp 電子内視鏡装置
JP4741264B2 (ja) * 2005-03-18 2011-08-03 富士フイルム株式会社 内視鏡分光画像システム装置
JP4832927B2 (ja) * 2006-03-14 2011-12-07 オリンパスメディカルシステムズ株式会社 医療用画像処理装置及び医療用画像処理方法
JP2008084110A (ja) * 2006-09-28 2008-04-10 Toshiba Corp 情報表示装置、情報表示方法及び情報表示プログラム

Also Published As

Publication number Publication date
EP2517614B1 (en) 2017-08-30
JP2011160848A (ja) 2011-08-25
US20120274754A1 (en) 2012-11-01
CN102740757A (zh) 2012-10-17
EP2517614A4 (en) 2014-05-28
CN102740757B (zh) 2016-02-10
WO2011096279A1 (ja) 2011-08-11
EP2517614A1 (en) 2012-10-31

Similar Documents

Publication Publication Date Title
JP5220780B2 (ja) 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
JP5658873B2 (ja) 画像処理装置、電子機器、内視鏡システム及びプログラム
JP5346856B2 (ja) 内視鏡システム、内視鏡システムの作動方法及び撮像装置
JP5541914B2 (ja) 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
JP5802364B2 (ja) 画像処理装置、電子機器、内視鏡システム及びプログラム
US9498153B2 (en) Endoscope apparatus and shake correction processing method
JP5572326B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
CN102201114B (zh) 图像处理装置和图像处理方法
JP2011255006A (ja) 画像処理装置、内視鏡装置、プログラム及び画像処理方法
JP2010172673A (ja) 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
US20160128545A1 (en) Endoscope apparatus and method for controlling endoscope apparatus
JP2003334162A (ja) 内視鏡画像処理装置
JP2015195845A (ja) 内視鏡システム、内視鏡システムの作動方法、プロセッサ装置、プロセッサ装置の作動方法
JPWO2019087557A1 (ja) 内視鏡システム
JP2009285084A (ja) 信号処理システム及び信号処理プログラム
JP2011234844A (ja) 制御装置、内視鏡装置及びプログラム
JPWO2018043727A1 (ja) 内視鏡システム
JP2011250925A (ja) 電子内視鏡システム
JP2010200883A (ja) 内視鏡画像処理装置および方法ならびにプログラム
WO2016088628A1 (ja) 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム
JP2016192986A (ja) 内視鏡システム、及び、内視鏡システムの作動方法
JP2004305382A (ja) 特殊光観察システム
US20220117474A1 (en) Image processing apparatus, endoscope system, and operation method of image processing apparatus
JP7386347B2 (ja) 内視鏡システム及びその作動方法
JP6285373B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130306

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5220780

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250