JP2022080732A - 医療用画像処理装置及び医療用観察システム - Google Patents

医療用画像処理装置及び医療用観察システム Download PDF

Info

Publication number
JP2022080732A
JP2022080732A JP2020191957A JP2020191957A JP2022080732A JP 2022080732 A JP2022080732 A JP 2022080732A JP 2020191957 A JP2020191957 A JP 2020191957A JP 2020191957 A JP2020191957 A JP 2020191957A JP 2022080732 A JP2022080732 A JP 2022080732A
Authority
JP
Japan
Prior art keywords
image
component information
green
red
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020191957A
Other languages
English (en)
Inventor
奈瑠美 佐藤
Narumi Sato
航史 小島
Koji Kojima
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Priority to JP2020191957A priority Critical patent/JP2022080732A/ja
Priority to US17/396,784 priority patent/US20220151474A1/en
Publication of JP2022080732A publication Critical patent/JP2022080732A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/046Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for infrared imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0684Endoscope light sources using light emitting diodes [LED]

Abstract

【課題】観察に適した画像を生成すること。【解決手段】医療用画像処理装置9は、観察対象に励起光が照射され、励起光によって励起された観察対象からの蛍光が撮像部52にて撮像された蛍光画像を取得する蛍光画像取得部91と、蛍光画像に対して画像処理を実行する蛍光画像処理部933とを備える。撮像部52の受光面には、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタ522aが設けられている。蛍光画像は、赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含む。蛍光画像処理部933は、蛍光画像の画素毎に、緑及び青の成分情報よりも赤の成分情報の重み付けを低くした状態で、赤、緑、及び青の各成分情報を組み合わせる。【選択図】図2

Description

本開示は、医療用画像処理装置及び医療用観察システムに関する。
従来、被写体となる生体内(観察対象)を撮像(観察)する医療用観察システムにおいて、蛍光画像を生成するシステムが知られている(例えば、特許文献1参照)。
ここで、蛍光画像は、励起光(例えば750nm~800nm程度の近赤外励起光)が観察対象に照射され、当該励起光によって励起された当該観察対象からの蛍光(例えば830nm近辺の波長帯域の蛍光)を撮像部にて撮像した画像である。
国際公開第2015/156153号
ところで、蛍光画像は、観察対象からの蛍光が微小であり、当該蛍光の波長帯域における撮像部の感度も低いため、信号レベルが著しく低いものである。また、腹腔鏡下手術で使用される無影灯は、近赤外光の波長成分を含む。
したがって、腹腔鏡下手術において無影灯に含まれる近赤外光の波長成分が腹壁を通り抜けて撮像部にて撮像されると、当該近赤外光の波長成分がノイズとなり、本来の蛍光を発している部位(蛍光物質が存在する部位)を判別することが難しくなる。すなわち、観察に適した画像を生成することができない、という問題がある。
本開示は、上記に鑑みてなされたものであって、観察に適した画像を生成することができる医療用画像処理装置及び医療用観察システムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本開示に係る医療用画像処理装置は、観察対象に励起光が照射され、前記励起光によって励起された前記観察対象からの蛍光が撮像部にて撮像された蛍光画像を取得する蛍光画像取得部と、前記蛍光画像に対して画像処理を実行する蛍光画像処理部とを備え、前記撮像部の受光面には、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタが設けられ、前記蛍光画像は、前記赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含み、前記蛍光画像処理部は、前記蛍光画像の画素毎に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる。
また、本開示に係る医療用観察システムは、観察対象に励起光が照射され、前記励起光によって励起された前記観察対象からの蛍光を撮像して蛍光画像を生成する撮像部、及び前記撮像部の受光面に設けられ、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタを有する撮像装置と、前記蛍光画像を処理する医療用画像処理装置とを備え、前記医療用画像処理装置は、前記蛍光画像を取得する蛍光画像取得部と、前記蛍光画像に対して画像処理を実行する蛍光画像処理部とを備え、前記撮像部の受光面には、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタが設けられ、前記蛍光画像は、前記赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含み、前記蛍光画像処理部は、前記蛍光画像の画素毎に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる。
本開示に係る医療用画像処理装置及び医療用観察システムによれば、観察に適した画像を生成することができる。
図1は、実施の形態に係る医療用観察システムの構成を示す図である。 図2は、カメラヘッド及び制御装置の構成を示すブロック図である。 図3は、カラーフィルタを示す図である。 図4は、カラーフィルタの分光特性を示す図である。 図5は、制御装置の動作を示すフローチャートである。 図6は、制御装置の動作を説明する図である。 図7は、制御装置の動作を説明する図である。 図8は、制御装置の動作を説明する図である。
以下に、図面を参照して、本開示を実施するための形態(以下、実施の形態)について説明する。なお、以下に説明する実施の形態によって本開示が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付している。
〔医療用観察システムの概略構成〕
図1は、実施の形態に係る医療用観察システム1の構成を示す図である。
医療用観察システム1は、医療分野において用いられ、被写体となる生体内(観察対象)を撮像(観察)するシステムである。この医療用観察システム1は、図1に示すように、挿入部2と、光源装置3と、ライトガイド4と、カメラヘッド5と、第1の伝送ケーブル6と、表示装置7と、第2の伝送ケーブル8と、制御装置9と、第3の伝送ケーブル10とを備える。
本実施の形態では、挿入部2は、硬性内視鏡で構成されている。すなわち、挿入部2は、全体が硬質、または一部が軟質で他の部分が硬質である細長形状を有し、生体内に挿入される。この挿入部2内には、1または複数のレンズを用いて構成され、被写体からの光を集光する光学系が設けられている。
光源装置3は、ライトガイド4の一端が接続され、制御装置9による制御の下、当該ライトガイド4の一端に生体内に照射する光を供給する。この光源装置3は、図1に示すように、第1の光源31と、第2の光源32とを備える。
第1の光源31は、可視の波長帯域である通常光を出射(発光)する。本実施の形態では、第1の光源31は、白色光を発光するLED(Light Emitting Diode)で構成されている。なお、第1の光源31は、白色LEDに限定されることなく、赤色LED、緑色LED、及び青色LEDの各々が発光する光を合成することによって白色光を出射可能な構成であっても構わない。
第2の光源32は、通常光の波長帯域とは異なる波長帯域の励起光を出射(発光)する。本実施の形態では、第2の光源32は、近赤外の波長帯域(例えば750nm~800nm程度の波長帯域)の近赤外励起光を発光する半導体レーザで構成されている。なお、第2の光源32は、半導体レーザに限定されることなく、近赤外励起光を発光するLEDで構成されても構わない。当該近赤外励起光は、インドシアニングリーン等の蛍光物質を励起する励起光である。また、当該インドシアニングリーン等の蛍光物質は、当該近赤外励起光で励起すると、当該近赤外励起光の波長帯域の中心波長よりも長波長側に中心波長を有する可視域以外の波長帯域(例えば830nm近辺の波長帯域)の蛍光を発光する。なお、近赤外励起光の波長帯域と蛍光の波長帯域とは、一部が重なり合うように設定してもよく、あるいは、全く重なり合わないように設定しても構わない。
そして、本実施の形態に係る光源装置3では、制御装置9による制御の下、交互に繰り返される第1,第2の期間のうち、第1の期間において、第1の光源31が駆動する。すなわち、第1の期間では、光源装置3は、通常光(白色光)を発光する。また、光源装置3では、制御装置9による制御の下、第2の期間において、第2の光源32が駆動する。すなわち、第2の期間では、光源装置3は、近赤外励起光を発光する。
なお、本実施の形態では、光源装置3は、制御装置9とは別体で構成されているが、これに限らず、当該制御装置9内部に設けられた構成を採用しても構わない。
ライトガイド4は、一端が光源装置3に着脱自在に接続されるとともに、他端が挿入部2に着脱自在に接続される。そして、ライトガイド4は、光源装置3から供給された光(通常光や近赤外励起光)を一端から他端に伝達し、挿入部2に供給する。生体内に通常光(白色光)が照射された場合には、当該生体内を介した通常光(当該生体内で反射された通常光)が挿入部2内の光学系により集光される。また、生体内に近赤外励起光が照射された場合には、当該生体内を介した近赤外励起光(当該生体内で反射された近赤外励起光)と、当該生体内における病変部に集積するインドシアニングリーン等の蛍光物質が当該近赤外励起光によって励起され、当該蛍光物質から発せられた蛍光とが挿入部2内の光学系により集光される。
カメラヘッド5は、本開示に係る撮像装置に相当する。このカメラヘッド5は、挿入部2の基端(接眼部21(図1))に着脱自在に接続される。そして、カメラヘッド5は、制御装置9による制御の下、挿入部2にて集光された光を撮像して撮像画像を生成する。
なお、カメラヘッド5の詳細な構成については、後述する「カメラヘッドの構成」において説明する。
第1の伝送ケーブル6は、一端がコネクタCN1(図1)を介して制御装置9に着脱自在に接続され、他端がコネクタCN2(図1)を介してカメラヘッド5に着脱自在に接続される。そして、第1の伝送ケーブル6は、カメラヘッド5から出力される撮像画像等を制御装置9に伝送するとともに、制御装置9から出力される制御信号、同期信号、クロック、及び電力等をカメラヘッド5にそれぞれ伝送する。
なお、第1の伝送ケーブル6を介したカメラヘッド5から制御装置9への撮像画像等の伝送は、当該撮像画像等を光信号で伝送してもよく、あるいは、電気信号で伝送しても構わない。第1の伝送ケーブル6を介した制御装置9からカメラヘッド5への制御信号、同期信号、クロックの伝送も同様である。
表示装置7は、液晶または有機EL(Electro Luminescence)等を用いた表示ディスプレイで構成され、制御装置9による制御の下、当該制御装置9からの映像信号に基づく画像を表示する。
第2の伝送ケーブル8は、一端が表示装置7に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第2の伝送ケーブル8は、制御装置9にて処理された映像信号を表示装置7に伝送する。
制御装置9は、本開示に係る医療用画像処理装置に相当する。この制御装置9は、CPU(Central Processing Unit)やFPGA(Field-Programmable Gate Array)等で構成され、光源装置3、カメラヘッド5、及び表示装置7の動作を統括的に制御する。
なお、制御装置9の詳細な構成については、後述する「制御装置の構成」において説明する。
第3の伝送ケーブル10は、一端が光源装置3に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第3の伝送ケーブル10は、制御装置9からの制御信号を光源装置3に伝送する。
〔カメラヘッドの構成〕
次に、カメラヘッド5の構成について説明する。
図2は、カメラヘッド5及び制御装置9の構成を示すブロック図である。
カメラヘッド5は、図2に示すように、レンズユニット51と、撮像部52と、通信部53とを備える。
レンズユニット51は、1または複数のレンズを用いて構成され、挿入部2にて集光された光(通常光や近赤外励起光及び蛍光)を撮像部52(撮像素子522)の撮像面に結像する。
撮像部52は、制御装置9による制御の下、生体内を撮像する。この撮像部52は、図2に示すように、励起光カットフィルタ521と、撮像素子522と、信号処理部523とを備える。
励起光カットフィルタ521は、レンズユニット51と撮像素子522との間に設けられ、特定の波長帯域を除去するバンドストップフィルタで構成されている。当該励起光カットフィルタ521は、挿入部2に設けられても構わない。なお、以下では、説明の便宜上、励起光カットフィルタ521にてカット(除去)する波長帯域をカット帯域と記載し、当該カット帯域よりも短波長側であって当該励起光カットフィルタ521を透過する波長帯域を短波側透過領域と記載し、当該カット帯域よりも長波長側であって当該励起光カットフィルタ521を透過する波長帯域を長波側透過領域と記載する。
ここで、カット帯域は、近赤外励起光の波長帯域の少なくとも一部を含む。本実施の形態では、カット帯域は、近赤外励起光の波長帯域の全てを含む。また、長波側透過帯域は、蛍光の波長帯域を含む。さらに、短波側透過領域は、通常光(白色光)の波長帯域を含む。
すなわち、励起光カットフィルタ521は、レンズユニット51から撮像素子522に向かう通常光(白色光)を透過させる。なお、以下では、説明の便宜上、励起光カットフィルタ521を透過し、撮像素子522に向かう通常光(白色光)を被写体像と記載する。一方、励起光カットフィルタ521は、レンズユニット51から撮像素子522に向かう近赤外励起光及び蛍光については、近赤外励起光を除去するとともに、蛍光を透過させる。なお、以下では、説明の便宜上、励起光カットフィルタ521を透過し、撮像素子522に向かう蛍光を蛍光像と記載する。
撮像素子522は、励起光カットフィルタ521を透過した被写体像や蛍光像を受光して電気信号(アナログ信号)に変換するCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等で構成されている。この撮像素子522の撮像面(受光面)には、カラーフィルタ522a(図2)が設けられている。
図3は、カラーフィルタ522aを示す図である。図4は、カラーフィルタ522aの分光特性を示す図である。具体的に、図4では、Rフィルタ群522rの分光特性を曲線CRにて示し、Gフィルタ群522gの分光特性を曲線CGにて示し、Bフィルタ群522bの分光特性を曲線CBにて示している。
カラーフィルタ522aは、透過させる光(R(赤),G(緑),B(青))の波長帯域に応じてグループ分けされたR,G,及びBのフィルタ群が特定の形式(例えば、ベイヤ配列)で配列されたカラーフィルタである。
具体的に、カラーフィルタ522aは、図3及び図4に示すように、Rの波長帯域の光を主に透過させるRフィルタ群522r(図3)と、Bの波長帯域の光を主に透過させるBフィルタ群522b(図3)と、Gの波長帯域の光を主に透過させる第1のGフィルタ群(Rフィルタ群522rと同一の列に配列)と、Gの波長帯域の光を主に透過させる第2のGフィルタ群(Bフィルタ群522bと同一の列に配列)とを有する。なお、図3では、第1,第2のGフィルタ群を纏めてGフィルタ群522gとしている。また、図3では、Rフィルタ群522rには「R」の文字を付し、Gフィルタ群522gには「G」の文字を付し、Bフィルタ群522bには「B」の文字を付している。
なお、R,G,Bの各フィルタ群522r,522g,522bは、図4に示すように、蛍光の波長帯域(例えば830nm近辺の波長帯域)において、略同一の分光特性を有する。そして、撮像素子522は、R,G,Bの波長帯域の光のみならず、蛍光の波長帯域に対しても感度を有する。
そして、撮像素子522は、制御装置9による制御の下、光源装置3の発光タイミングに同期して、交互に繰り返される第1,第2の期間毎に撮像を行う。以下では、説明の便宜上、撮像素子522により第1の期間において被写体像(通常光)を撮像することで生成された画像を通常光画像と記載し、撮像素子522により第2の期間において蛍光像(蛍光)を撮像することで生成された画像を蛍光画像と記載する。また、通常光画像及び蛍光画像を纏めて撮像画像と記載する。
信号処理部523は、撮像素子522にて生成されたアナログ信号の撮像画像に対して信号処理を行ってデジタル信号の撮像画像を出力する。
通信部53は、第1の伝送ケーブル6を介して、撮像部52から出力される撮像画像を制御装置9に送信するトランスミッタとして機能する。この通信部53は、例えば、第1の伝送ケーブル6を介して、制御装置9との間で、1Gbps以上の伝送レートで撮像画像の通信を行う高速シリアルインターフェースで構成されている。
〔制御装置の構成〕
次に、制御装置9の構成について図2を参照しながら説明する。
制御装置9は、図2に示すように、通信部91と、メモリ92と、観察画像生成部93と、制御部94と、入力部95と、出力部96と、記憶部97とを備える。
通信部91は、第1の伝送ケーブル6を介して、カメラヘッド5(通信部53)から出力される撮像画像を受信するレシーバとして機能する。この通信部91は、例えば、通信部53との間で、1Gbps以上の伝送レートで撮像画像の通信を行う高速シリアルインターフェースで構成されている。すなわち、通信部91は、本開示に係る蛍光画像取得部及び通常光画像取得部に相当する。
メモリ92は、例えば、DRAM(Dynamic Random Access Memory)等で構成されている。このメモリ92は、カメラヘッド5(通信部53)から順次、出力される撮像画像を複数フレーム分、一時的に記憶可能とする。
観察画像生成部93は、制御部94による制御の下、カメラヘッド5(通信部53)から順次、出力され、通信部91にて受信した撮像画像を処理する。この観察画像生成部93は、図2に示すように、メモリコントローラ931と、通常光画像処理部932と、蛍光画像処理部933と、重畳画像生成部934と、表示制御部935とを備える。
メモリコントローラ931は、メモリ92への撮像画像の書込み及び読出しを制御する。より具体的に、メモリコントローラ931は、カメラヘッド5(通信部53)から順次、出力され、通信部91にて受信した撮像画像(通常光画像及び蛍光画像)をメモリ92に順次、書き込む。また、メモリコントローラ931は、メモリ92から通常光画像を特定のタイミングで読み出すとともに、当該読み出した通常光画像を通常光画像処理部932に入力させる。さらに、メモリコントローラ931は、メモリ92から蛍光画像を特定のタイミングで読み出すとともに、当該読み出した蛍光画像を蛍光画像処理部933に入力させる。
通常光画像処理部932は、入力した通常光画像に対して第1の画像処理を実行する。
当該第1の画像処理としては、オプティカルブラック減算処理、ホワイトバランス調整処理、デモザイク処理、色補正マトリクス処理、ガンマ補正処理、RGB信号(通常光画像)を輝度色差信号(Y,Cb/Cr信号)に変換するYC処理等を例示することができる。
ここで、デモザイク処理後の通常光画像は、画素毎に、R,G,Bの各フィルタ群522r,522g,522bに対応するR,G,Bの成分情報(画素データ)を含む。以下では、当該Rの成分情報をr値と記載し、当該Gの成分情報をg値と記載し、当該Bの成分情報をb値と記載する。そして、通常光画像処理部932は、YC処理において、画素毎に、以下の式(1)により輝度信号(Y)を生成する。
〔数1〕
Y=t1×r値+u1×g値+v1×b値 ・・・(1)
ここで、t1、u1、及びv1は、t1+u1+v1=1を満たす値とする。
すなわち、通常光画像処理部932は、通常光画像の画素毎に、R,G,Bの各成分情報の重み付けを設定して、当該R,G,Bの各成分情報を組み合わせる。より具体的には、式(1)において、t1=0.33、u1=0.33、v1=0.33とし、通常光画像処理部932は、通常光画像の画素毎に、R,G,Bの各成分情報の重み付けを同一にした状態で、当該R,G,Bの各成分情報を組み合わせてもよく、あるいは、t1=0.3、u1=0.6、v1=0.1として当該R,G,Bの各成分情報を組み合わせても構わない。
蛍光画像処理部933は、入力した蛍光画像に対して、第1の画像処理とは異なる第2の画像処理を実行する。
当該第2の画像処理としては、上述した第1の画像処理と同様に、オプティカルブラック減算処理、ホワイトバランス調整処理、デモザイク処理、色補正マトリクス処理、ガンマ補正処理、RGB信号(蛍光画像)を輝度色差信号(Y,Cb/Cr信号)に変換するYC処理等を例示することができる。
ここで、蛍光画像処理部933は、デモザイク処理後の蛍光画像に対して実行するYC処理において、画素毎に、以下の式(2)により輝度信号(Y)を生成する。
〔数2〕
Y=t2×r値+u2×g値+v2×b値 ・・・(2)
ここで、t2、u2、及びv2は、t2<u2かつt2<v2かつt2+u2+v2=1を満たす値とする。
すなわち、蛍光画像処理部933は、蛍光画像の画素毎に、Gの成分情報とBの成分情報よりもRの成分情報の重み付けを低くした状態で、R,G,Bの各成分情報を組み合わせる。より具体的には、式(2)において、t2=0.5、u2=0.5、v2=0として、蛍光画像処理部933は、蛍光画像の画素毎に、Rの成分情報を削除し、Gの成分情報及びBの成分情報のみを組み合わせる。
重畳画像生成部934は、通常光画像処理部932にて第1の画像処理が実行された後の通常光画像に、蛍光画像処理部933にて第2の画像処理が実行された後の蛍光画像を重畳して重畳画像を生成する重畳処理を実行する。
ここで、当該重畳処理としては、以下に示す第1,第2の重畳処理を例示することができる。なお、以下では、蛍光画像において、輝度値が特定の閾値以上となる画素で構成される領域を蛍光領域と記載する。
第1の重畳処理は、通常光画像において、蛍光領域と同一の画素位置となる領域を蛍光画像における蛍光領域の画像に置き換える処理である。
第2の重畳処理は、蛍光画像の蛍光領域における各画素位置の輝度値に応じて、通常光画像における蛍光領域と同一の画素位置となる領域の各画素に付す蛍光を示す色の明るさを変更する処理(所謂、アルファブレンド処理)である。
表示制御部935は、制御部94による制御の下、重畳画像生成部934にて生成された重畳画像を表示するための映像信号を生成する。そして、表示制御部935は、第2の伝送ケーブル8を介して、当該映像信号を表示装置7に出力する。
制御部94は、例えば、CPUやFPGA等を用いて構成され、第1~第3の伝送ケーブル6,8,10を介して制御信号を出力することで、光源装置3、カメラヘッド5、及び表示装置7の動作を制御するとともに、制御装置9全体の動作を制御する。この制御部94は、図2に示すように、光源制御部941と、撮像制御部942とを備える。なお、光源制御部941及び撮像制御部942の機能について、後述する「制御装置の動作」において説明する。
入力部95は、マウス、キーボード、及びタッチパネル等の操作デバイスを用いて構成され、医師等のユーザによるユーザ操作を受け付ける。そして、入力部95は、当該ユーザ操作に応じた操作信号を制御部94に出力する。
出力部96は、スピーカやプリンタ等を用いて構成され、各種情報を出力する。
記憶部97は、制御部94が実行するプログラムや、制御部94の処理に必要な情報等を記憶する。
〔制御装置の動作〕
次に、上述した制御装置9の動作について説明する。
図5は、制御装置9の動作を示すフローチャートである。図6ないし図8は、制御装置9の動作を説明する図である。具体的に、図6は、1フレームの通常光画像WLIを示す図である。図7は、1フレームの蛍光画像IRを示す図である。なお、図7に示した蛍光画像IRは、グレースケールで表現されており、黒に近付くにしたがって撮像された蛍光成分の強度が高い(輝度値が高い)ものである。図8は、重畳画像生成部934にて生成された1フレームの重畳画像SIを示す図である。
先ず、光源制御部941は、第1,第2の光源31,32の時分割駆動を実行する(ステップS1)。具体的に、光源制御部941は、ステップS1において、同期信号に基づいて、交互に繰り返される第1,第2の期間のうち、第1の期間において第1の光源31を発光させ、第2の期間において第2の光源32を発光させる。
ステップS1の後、撮像制御部942は、同期信号に基づいて、第1,第2の光源31,32の発光タイミングに同期させ、撮像素子522に第1,第2の期間において被写体像及び蛍光像をそれぞれ撮像させる(ステップS2~S4)。すなわち、撮像素子522は、第1の期間である場合(ステップS2:Yes)、言い換えれば、生体内に通常光(白色光)が照射された場合には、被写体像(通常光)を撮像して通常光画像を生成する(ステップS3)。一方、撮像素子522は、第2の期間である場合(ステップS2:No)、言い換えれば、生体内に近赤外励起光が照射された場合には、蛍光像(蛍光)を撮像して蛍光画像を生成する(ステップS4)。
ステップS3,S4の後、メモリコントローラ931は、同期信号に基づいて、メモリ92への撮像画像の書込み及び読出しを制御する(ステップS5)。
ステップS5の後、蛍光画像処理部933及び通常光画像処理部932は、以下の処理を実行する(ステップS6)。
すなわち、通常光画像処理部932は、メモリコントローラ931によってメモリ92から順次、読み出された各通常光画像(例えば、図6に示した通常光画像WLI)に対して順次、第1の画像処理を実行する。
また、蛍光画像処理部933は、メモリコントローラ931によってメモリ92から順次、読み出された各蛍光画像(例えば、図7に示した蛍光画像IR)に対して順次、第2の画像処理を実行する。
ステップS6の後、重畳画像生成部934は、通常光画像処理部932から順次、出力される各通常光画像(例えば、図6に示した通常光画像WLI)に、蛍光画像処理部933から順次、出力される蛍光画像(例えば、図7に示した蛍光画像IR)を重畳して順次、重畳画像(例えば、図8に示した重畳画像SI)を生成する重畳処理を実行する(ステップS7)。
ステップS7の後、表示制御部935は、重畳画像生成部934にて順次、生成された各重畳画像(例えば、図8に示した重畳画像SI)を表示するための映像信号を順次、生成し、当該映像信号を表示装置7に順次、出力する(ステップS8)。これにより、表示装置7には、重畳画像(例えば、図8に示した重畳画像SI)が順次、表示される。
以上説明した本実施の形態によれば、以下の効果を奏する。
上述したように、R,G,Bの各フィルタ群522r,522g,522bは、蛍光の波長帯域(例えば830nm近辺の波長帯域)において、略同一の分光特性を有する。そして、本実施の形態に係る制御装置9では、蛍光画像処理部933は、YC処理において、上述した式(2)により輝度信号(Y)を生成する。すなわち、蛍光画像処理部933は、蛍光画像の画素毎に、緑及び青の成分情報よりも赤の成分情報の重み付けを低くした状態で、赤、緑、及び青の各成分情報を組み合わせることで蛍光領域を表現する。
したがって、本実施の形態に係る制御装置9によれば、腹腔鏡下手術において無影灯に含まれる近赤外光の波長成分が腹壁を通り抜けて撮像部52にて撮像された場合であっても、当該近赤外光の波長成分に起因するノイズを少なくすることができる。すなわち、観察に適した画像を生成することができる。
(その他の実施の形態)
ここまで、本開示を実施するための形態を説明してきたが、本開示は上述した実施の形態によってのみ限定されるべきものではない。
上述した実施の形態では、蛍光画像処理部933は、YC処理を実行する際に、蛍光画像の画素毎に、Gの成分情報とBの成分情報よりもRの成分情報の重み付けを低くした状態で、R,G,Bの各成分情報を組み合わせていたが、これに限らない。
例えば、ホワイトバランス調整処理において、R,G,Bの各画素値に乗算するゲインを適宜、調整する。これにより、蛍光画像の画素毎に、Gの成分情報及びBの成分情報よりもRの成分情報の重み付けを低くした状態でR,G,Bの各成分情報を組み合わせる。
また、例えば、色補正マトリクス処理において、蛍光画像に含まれるR,G,Bの各画素値を行列要素とする入力マトリクスに乗算する色補正マトリクスを適宜、調整する。これにより、蛍光画像の画素毎に、Gの成分情報及びBの成分情報よりもRの成分情報の重み付けを低くした状態でR,G,Bの各成分情報を組み合わせる。
ところで、従来、癌細胞を検出する癌診断法の一つである光線力学診断(Photo Dynamic Diagnosis:PDD)が知られている。
当該光線力学診断では、例えば5-アミノレブリン酸(以下、5-ALAと記載)等の光感受性物質が用いられる。当該5-ALAは、元来、動植物の生体内に含まれる天然アミノ酸である。この5-ALAは、体内投与後に細胞内に取り込まれ、ミトコンドリア内でプロトポルフィリンに生合成される。そして、癌細胞では、当該プロトポルフィリンが過剰に集積する。また、当該癌細胞に過剰集積するプロトポルフィリンは、光活性を有する。このため、当該プロトポルフィリンは、励起光(例えば375nm~445nmの波長帯域の青色可視光)で励起すると、蛍光(例えば600nm~740nmの波長帯域の赤色蛍光)を発光する。このように、光感受性物質を用いて癌細胞を蛍光発光させる癌診断法を光線力学診断という。
そして、上述した実施の形態において、白色光を発光するLEDで第1の光源31を構成し、プロトポルフィリンを励起する励起光(例えば375nm~445nmの波長帯域の青色可視光)を発光する半導体レーザで第2の光源32を構成しても構わない。このように構成した場合であっても、上述した実施の形態と同様の効果を奏する。
上述した実施の形態では、第1,第2の期間が交互に繰り返すように設定されていたが、これに限らず、第1,第2の期間の少なくともいずれかが連続し、第1,第2の期間の頻度の比率が1:1以外の比率となるように構成しても構わない。
上述した実施の形態において、カラーフィルタ522aを構成する各フィルタ群の分光特性は、図4に示した分光特性に限らず、その他の分光特性を有するカラーフィルタを採用しても構わない。
上述した実施の形態では、挿入部2を硬性内視鏡で構成した医療用観察システム1に本開示に係る医療用画像処理装置を搭載していたが、これに限らない。例えば、挿入部2を軟性内視鏡で構成した医療用観察システムに本開示に係る医療用画像処理装置を搭載しても構わない。また、被写体内(生体内)や被写体表面(生体表面)の所定の視野領域を拡大して観察する手術用顕微鏡(例えば、特開2016-42981号公報参照)等の医療用観察システムに本開示に係る医療用画像処理装置を搭載しても構わない。
上述した実施の形態において、カメラヘッド5の一部の構成や制御装置9の一部の構成を例えばコネクタCN1やコネクタCN2に設けても構わない。
上述した実施の形態では、第1の画像処理を実行した後の通常光画像(例えば、図6に示した通常光画像WLI)と第2の画像処理を実行した後の蛍光画像(例えば、図7に示した蛍光画像IR)とを重畳して重畳画像(例えば、図8に示した重畳画像SI)を生成し、当該重畳画像を表示装置7に表示していたが、これに限らない。例えば、ピクチャインピクチャ処理等を実行し、当該通常光画像と当該蛍光画像とを表示装置7に同時に表示する構成を採用しても構わない。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)観察対象に励起光が照射され、前記励起光によって励起された前記観察対象からの蛍光が撮像部にて撮像された蛍光画像を取得する蛍光画像取得部と、前記蛍光画像に対して画像処理を実行する蛍光画像処理部とを備え、前記撮像部の受光面には、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタが設けられ、前記蛍光画像は、前記赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含み、前記蛍光画像処理部は、前記蛍光画像の画素毎に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる医療用画像処理装置。
(2)前記蛍光画像処理部は、前記蛍光画像の画素毎に、前記赤の成分情報を削除し、前記緑の成分情報及び前記青の成分情報のみを組み合わせる前記(1)に記載の医療用画像処理装置。
(3)前記蛍光画像処理部は、前記蛍光画像の画素毎に、前記赤、緑、及び青の各成分情報から輝度色差信号を生成するYC処理を実行する際に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる前記(1)または(2)に記載の医療用画像処理装置。
(4)観察対象に可視の波長帯域である通常光が照射され、前記観察対象を介した通常光が前記撮像部にて撮像された通常光画像を取得する通常光画像取得部と、前記通常光画像に対して画像処理を実行する通常光画像処理部とをさらに備え、前記通常光画像処理部は、前記通常光画像の画素毎に、前記赤、緑、及び青の各成分情報の重み付けを同一にした状態で、前記赤、緑、及び青の各成分情報を組み合わせる前記(1)~(3)のいずれか一つに記載の医療用画像処理装置。
(5)前記通常光画像処理部は、前記赤、緑、及び青の各成分情報の重み付けを同一にした状態で、前記通常光画像の画素毎に、前記赤、緑、及び青の各成分情報を組み合わせる前記(4)に記載の医療用画像処理装置。
(6)観察対象に励起光が照射され、前記励起光によって励起された前記観察対象からの蛍光を撮像して蛍光画像を生成する撮像部、及び前記撮像部の受光面に設けられ、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタを有する撮像装置と、前記蛍光画像を処理する医療用画像処理装置とを備え、前記医療用画像処理装置は、前記蛍光画像を取得する蛍光画像取得部と、前記蛍光画像に対して画像処理を実行する蛍光画像処理部とを備え、前記撮像部の受光面には、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタが設けられ、前記蛍光画像は、前記赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含み、前記蛍光画像処理部は、前記蛍光画像の画素毎に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる医療用観察システム。
1 医療用観察システム
2 挿入部
3 光源装置
4 ライトガイド
5 カメラヘッド
6 第1の伝送ケーブル
7 表示装置
8 第2の伝送ケーブル
9 制御装置
10 第3の伝送ケーブル
21 接眼部
31 第1の光源
32 第2の光源
51 レンズユニット
52 撮像部
53 通信部
91 通信部
92 メモリ
93 観察画像生成部
94 制御部
95 入力部
96 出力部
97 記憶部
521 励起光カットフィルタ
522 撮像素子
522a カラーフィルタ
522b Bフィルタ群
522g Gフィルタ群
522r Rフィルタ群
523 信号処理部
931 メモリコントローラ
932 通常光画像処理部
933 蛍光画像処理部
934 重畳画像生成部
935 表示制御部
941 光源制御部
942 撮像制御部
CB,CG,CR 曲線
CN1,CN2 コネクタ
IR 蛍光画像
SI 重畳画像
WLI 通常光画像

Claims (6)

  1. 観察対象に励起光が照射され、前記励起光によって励起された前記観察対象からの蛍光が撮像部にて撮像された蛍光画像を取得する蛍光画像取得部と、
    前記蛍光画像に対して画像処理を実行する蛍光画像処理部とを備え、
    前記撮像部の受光面には、
    互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタが設けられ、
    前記蛍光画像は、
    前記赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含み、
    前記蛍光画像処理部は、
    前記蛍光画像の画素毎に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる医療用画像処理装置。
  2. 前記蛍光画像処理部は、
    前記蛍光画像の画素毎に、前記赤の成分情報を削除し、前記緑の成分情報及び前記青の成分情報のみを組み合わせる請求項1に記載の医療用画像処理装置。
  3. 前記蛍光画像処理部は、
    前記蛍光画像の画素毎に、前記赤、緑、及び青の各成分情報から輝度色差信号を生成するYC処理を実行する際に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる請求項1に記載の医療用画像処理装置。
  4. 観察対象に可視の波長帯域である通常光が照射され、前記観察対象を介した通常光が前記撮像部にて撮像された通常光画像を取得する通常光画像取得部と、
    前記通常光画像に対して画像処理を実行する通常光画像処理部とをさらに備え、
    前記通常光画像処理部は、
    前記通常光画像の画素毎に、前記赤、緑、及び青の各成分情報を組み合わせる請求項1に記載の医療用画像処理装置。
  5. 前記通常光画像処理部は、
    前記赤、緑、及び青の各成分情報の重み付けを同一にした状態で、前記通常光画像の画素毎に、前記赤、緑、及び青の各成分情報を組み合わせる請求項4に記載の医療用画像処理装置。
  6. 観察対象に励起光が照射され、前記励起光によって励起された前記観察対象からの蛍光を撮像して蛍光画像を生成する撮像部、及び前記撮像部の受光面に設けられ、互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタを有する撮像装置と、
    前記蛍光画像を処理する医療用画像処理装置とを備え、
    前記医療用画像処理装置は、
    前記蛍光画像を取得する蛍光画像取得部と、
    前記蛍光画像に対して画像処理を実行する蛍光画像処理部とを備え、
    前記撮像部の受光面には、
    互いに異なる分光特性を有する赤、緑、及び青の各フィルタ群が特定の形式で配列されたカラーフィルタが設けられ、
    前記蛍光画像は、
    前記赤、緑、及び青の各フィルタ群の分光特性にそれぞれ応じた赤、緑、及び青の各成分情報を含み、
    前記蛍光画像処理部は、
    前記蛍光画像の画素毎に、前記緑の成分情報及び前記青の成分情報よりも前記赤の成分情報の重み付けを低くした状態で、前記赤、緑、及び青の各成分情報を組み合わせる医療用観察システム。
JP2020191957A 2020-11-18 2020-11-18 医療用画像処理装置及び医療用観察システム Pending JP2022080732A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020191957A JP2022080732A (ja) 2020-11-18 2020-11-18 医療用画像処理装置及び医療用観察システム
US17/396,784 US20220151474A1 (en) 2020-11-18 2021-08-09 Medical image processing device and medical observation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020191957A JP2022080732A (ja) 2020-11-18 2020-11-18 医療用画像処理装置及び医療用観察システム

Publications (1)

Publication Number Publication Date
JP2022080732A true JP2022080732A (ja) 2022-05-30

Family

ID=81588595

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020191957A Pending JP2022080732A (ja) 2020-11-18 2020-11-18 医療用画像処理装置及び医療用観察システム

Country Status (2)

Country Link
US (1) US20220151474A1 (ja)
JP (1) JP2022080732A (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3731814B2 (ja) * 2001-05-07 2006-01-05 富士写真フイルム株式会社 蛍光画像表示装置
US6899675B2 (en) * 2002-01-15 2005-05-31 Xillix Technologies Corp. Fluorescence endoscopy video systems with no moving parts in the camera
JP6076093B2 (ja) * 2013-01-08 2017-02-08 オリンパス株式会社 撮像装置
US10165972B2 (en) * 2013-07-12 2019-01-01 Inthesmart Co., Ltd. Apparatus and method for detecting NIR fluorescence at sentinel lymph node
JP2015099104A (ja) * 2013-11-19 2015-05-28 ソニー株式会社 画像処理装置および画像処理方法
JPWO2016084257A1 (ja) * 2014-11-28 2017-10-05 オリンパス株式会社 内視鏡装置
WO2018008062A1 (ja) * 2016-07-04 2018-01-11 オリンパス株式会社 蛍光観察装置および蛍光観察内視鏡装置

Also Published As

Publication number Publication date
US20220151474A1 (en) 2022-05-19

Similar Documents

Publication Publication Date Title
US8643710B2 (en) Image pickup apparatus
KR100939400B1 (ko) 생체 관측 장치
JP7374600B2 (ja) 医療用画像処理装置及び医療用観察システム
US20230180997A1 (en) Medical control device and medical observation system
JP6137892B2 (ja) 撮像システム
US10901199B2 (en) Endoscope system having variable focal length lens that switches between two or more values
JP7235540B2 (ja) 医療用画像処理装置及び医療用観察システム
JP2022080732A (ja) 医療用画像処理装置及び医療用観察システム
JP6396717B2 (ja) 感度調整方法および撮像装置
JP7281308B2 (ja) 医療用画像処理装置及び医療用観察システム
WO2021039869A1 (ja) 医療用画像処理装置及び医療用観察システム
JP2021145824A (ja) 医療用制御装置及び医療用観察システム
JP2021145823A (ja) 医療用制御装置及び医療用観察システム
US10918269B2 (en) Medical light source apparatus and medical observation system
JP2021003347A (ja) 医療用画像処理装置及び医療用観察システム
US20210290037A1 (en) Medical image processing apparatus and medical observation system
US11615514B2 (en) Medical image processing apparatus and medical observation system
US11700456B2 (en) Medical control device and medical observation system
US20220160219A1 (en) Light source control device and medical observation system
US20230112628A1 (en) Learning device and medical image processing device
US11463668B2 (en) Medical image processing device, medical observation system, and image processing method
JP2021146198A (ja) 医療用画像処理装置及び医療用観察システム
JP2010279521A (ja) 内視鏡装置および内視鏡画像取得方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231002

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240409