JP7374600B2 - 医療用画像処理装置及び医療用観察システム - Google Patents

医療用画像処理装置及び医療用観察システム Download PDF

Info

Publication number
JP7374600B2
JP7374600B2 JP2019055707A JP2019055707A JP7374600B2 JP 7374600 B2 JP7374600 B2 JP 7374600B2 JP 2019055707 A JP2019055707 A JP 2019055707A JP 2019055707 A JP2019055707 A JP 2019055707A JP 7374600 B2 JP7374600 B2 JP 7374600B2
Authority
JP
Japan
Prior art keywords
image
wavelength band
signal
light
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019055707A
Other languages
English (en)
Other versions
JP2020151403A (ja
Inventor
泰平 道畑
敏 三井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Olympus Medical Solutions Inc
Sony Group Corp
Original Assignee
Sony Corp
Sony Olympus Medical Solutions Inc
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Olympus Medical Solutions Inc, Sony Group Corp filed Critical Sony Corp
Priority to JP2019055707A priority Critical patent/JP7374600B2/ja
Priority to US16/790,752 priority patent/US11510549B2/en
Publication of JP2020151403A publication Critical patent/JP2020151403A/ja
Application granted granted Critical
Publication of JP7374600B2 publication Critical patent/JP7374600B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、医療用画像処理装置及び医療用観察システムに関する。
従来、被写体となる生体内(観察対象)を撮像(観察)する医療用観察システムにおいて、以下に示す第1,第2の波長帯域の光を撮像素子にてそれぞれ撮像するシステムが知られている(例えば、特許文献1参照)。
第1の波長帯域の光は、白色光である。すなわち、撮像素子は、白色光が観察対象に照射され、当該観察対象で反射された白色光を撮像して第1のRAW画像信号を出力する。
第2の波長帯域の光は、インドシアニングリーン等の蛍光物質を励起させる励起光が観察対象に照射された際に、当該観察対象から発せられた蛍光である。そして、撮像素子は、当該蛍光を撮像して第2のRAW画像信号を出力する。
なお、当該撮像素子の受光面には、互いに異なる分光特性を有するR(赤),G(緑),B(青)のフィルタ群が特定の形式で配列されたカラーフィルタが設けられている。すなわち、第1,第2のRAW画像信号は、画素毎に、R,G,Bの各フィルタ群に対応するR,G,Bのいずれかの成分情報(画素データ)を含む。以下、Rの成分情報をr値と記載し、Gの成分情報をg値と記載し、Bの成分情報をb値と記載する。
特開2013-102899号公報
特許文献1に記載の医療用観察システムでは、第1,第2のRAW画像信号にそれぞれ画像処理を実行している。
ここで、第1のRAW画像信号に対しては、1画素毎に補間によりr値、g値、及びb値の全てをそれぞれ持たせるデモザイク処理を実行するとともに、当該デモザイク処理後の画像信号を用いて輝度色差信号を生成するYC処理を実行することが考えられる。一方、第2のRAW画像信号についても、第1のRAW画像信号と同様に、デモザイク処理及びYC処理を実行することが考えられる。しかしながら、第2のRAW画像信号についてデモザイク処理を実行した場合には、輝度色差信号を生成する際、補間により生成された画素データ(実際に撮像素子にて検出されたr値、g値、b値ではない画素データ)を用いることになるため、当該第2のRAW画像信号に基づく画像であって、観察に用いられる蛍光画像の鮮鋭度が低下してしまう。そこで、観察に適した画像を生成することができる技術が要望されている。
本発明は、上記に鑑みてなされたものであって、観察に適した画像を生成することができる医療用画像処理装置及び医療用観察システムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る医療用画像処理装置は、互いに異なる分光特性を有する複数のフィルタ群が特定の形式で配列されたカラーフィルタが受光面に設けられた撮像素子によって可視の波長帯域である第1の波長帯域の光が撮像されることで生成されるデモザイク処理されていない第1の画像信号、及び前記撮像素子によって前記第1の波長帯域とは異なる可視域以外の波長帯域である第2の波長帯域の光が撮像されることで生成されるデモザイク処理されていない第2の画像信号をそれぞれ取得する画像信号取得部と、前記画像信号取得部が取得した前記第1の画像信号が入力され、前記第1の画像信号に対してデモザイク処理を実行するデモザイク処理部を有する第1の信号経路と、前記画像信号取得部が取得した前記第2の画像信号が入力され、前記デモザイク処理部の経路前段で前記第1の信号経路から分岐し、前記第2の画像信号に対して前記デモザイク処理を実行しない経路である第2の信号経路とを備え、前記第1の信号経路は、前記デモザイク処理部によりデモザイク画像信号を生成し、前記第2の信号経路は、前記第2の画像信号を出力する出力部を有し、前記デモザイク処理部よりも経路後段で前記第1の信号経路に合流し、前記第1の信号経路と前記第2の信号経路とが合流した経路には、前記デモザイク画像信号と前記第2の画像信号とが入力され、前記デモザイク画像信号と前記第2の画像信号とのうちいずれか一方の画像信号を出力する選択部と、前記選択部によって出力された画像信号に基づき輝度色差信号を生成する信号生成部とが配置され、前記デモザイク処理部は、前記複数のフィルタ群の各々のフィルタ群に対応する複数の前記デモザイク画像信号を生成し、前記出力部は、互いに同一であり、前記デモザイク処理部が生成する前記複数のデモザイク画像信号と同数である前記第2の画像信号を出力し、前記選択部は、前記複数のデモザイク画像信号と前記複数のデモザイク画像信号と同数である前記第2の画像信号とのうちいずれか一方の画像信号を出力し、前記信号生成部は、前記選択部によって出力された前記複数のデモザイク画像信号と前記複数のデモザイク画像信号と同数である前記第2の画像信号とのうちいずれか一方に基づき前記輝度色差信号を生成し、前記画像信号取得部は、前記第1の波長帯域のうち第1の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第1のフィルタ群と、前記第1の波長帯域のうち前記第1の可視波長帯域とは異なる第2の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第2のフィルタ群とが前記特定の形式で配列された前記カラーフィルタを有する前記撮像素子によって前記第1の波長帯域の光が撮像されることで生成される前記第1の画像信号、及び前記撮像素子によって前記第2の波長帯域の光が撮像されることで生成される前記第2の画像信号をそれぞれ取得する
また、本発明に係る医療用画像処理装置では、上記発明において、前記第1の信号経路と前記第2の信号経路とが分岐する前の経路には、ホワイトバランス調整処理を実行するホワイトバランス調整処理部が設けられている。
本発明に係る医療用観察システムは、第1の波長帯域の光を撮像することで第1の画像信号を生成するとともに前記第1の波長帯域とは異なる第2の波長帯域の光を撮像することで第2の画像信号を生成する撮像素子、及び前記撮像素子の受光面に設けられ、互いに異なる分光特性を有する複数のフィルタ群が特定の形式で配列されたカラーフィルタを有する撮像装置と、前記第1の画像信号及び前記第2の画像信号を処理する。
また、本発明に係る医療用観察システムでは、上記発明において、前記撮像装置は、前記第1の波長帯域のうち第1の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第1のフィルタ群と、前記第1の波長帯域のうち前記第1の可視波長帯域とは異なる第2の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第2のフィルタ群とが前記特定の形式で配列された前記カラーフィルタを有し、前記画像信号取得部は、前記撮像素子によって被検体からの前記第1の可視波長帯域の光と前記第2の可視波長帯域の光とを受光して生成されるデモザイク処理されていない前記第1の画像信号と、前記撮像素子によって前記被検体からの前記可視域以外の波長帯域の光を受光して生成されるデモザイク処理されていない前記第2の画像信号とをそれぞれ取得する。
本発明に係る医療用画像処理装置及び医療用観察システムによれば、観察に適した画像を生成することができる。
図1は、実施の形態に係る医療用観察システムの構成を示す図である。 図2は、カメラヘッド及び制御装置の構成を示すブロック図である。 図3は、カラーフィルタを示す図である。 図4は、カラーフィルタの分光特性を示す図である。 図5は、画像処理部の構成を示すブロック図である。 図6は、RAW撮像画像を示す図である。 図7は、デモザイク処理により生成されたR撮像画像を示す図である。 図8は、デモザイク処理により生成されたG撮像画像を示す図である。 図9は、デモザイク処理により生成されたB撮像画像を示す図である。 図10は、制御装置の動作を示すフローチャートである。 図11は、制御装置の動作を説明する図である。 図12は、制御装置の動作を説明する図である。 図13は、制御装置の動作を説明する図である。 図14は、実施の形態の変形例を示す図である。
以下に、図面を参照して、本発明を実施するための形態(以下、実施の形態)について説明する。なお、以下に説明する実施の形態によって本発明が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付している。
〔医療用観察システムの概略構成〕
図1は、本実施の形態に係る医療用観察システム1の構成を示す図である。
医療用観察システム1は、医療分野において用いられ、被写体となる生体内(観察対象)を撮像(観察)するシステムである。この医療用観察システム1は、図1に示すように、挿入部2と、光源装置3と、ライトガイド4と、カメラヘッド5と、第1伝送ケーブル6と、表示装置7と、第2伝送ケーブル8と、制御装置9と、第3伝送ケーブル10とを備える。
本実施の形態では、挿入部2は、硬性内視鏡で構成されている。すなわち、挿入部2は、全体が硬質、または一部が軟質で他の部分が硬質である細長形状を有し、生体内に挿入される。この挿入部2内には、1または複数のレンズを用いて構成され、被写体からの光を集光する光学系が設けられている。
光源装置3は、ライトガイド4の一端が接続され、制御装置9による制御の下、当該ライトガイド4の一端に生体内に照射する光を供給する。この光源装置3は、図1に示すように、第1の光源31と、第2の光源32とを備える。
第1の光源31は、可視の波長帯域である第1の波長帯域の通常光を出射(発光)する。本実施の形態では、第1の光源31は、白色光を発光するLED(Light Emitting Diode)で構成されている。
第2の光源32は、第1の波長帯域とは異なる第3の波長帯域の励起光を出射(発光)する。本実施の形態では、近赤外の波長帯域の近赤外励起光を発光する半導体レーザで構成されている。当該近赤外励起光は、インドシアニングリーン等の蛍光物質を励起する励起光である。また、当該インドシアニングリーン等の蛍光物質は、当該近赤外励起光で励起すると、当該近赤外励起光の波長帯域の中心波長よりも長波長側に中心波長を有する可視域以外の波長帯域である第2の波長帯域の蛍光を発光する。なお、近赤外励起光の波長帯域と蛍光の波長帯域とは、一部が重なり合うように設定してもよく、あるいは、全く重なり合わないように設定しても構わない。
そして、本実施の形態に係る光源装置3では、制御装置9による制御の下、交互に繰り返される第1,第2の期間のうち、第1の期間において、第1の光源31が駆動する。すなわち、第1の期間では、光源装置3は、通常光(白色光)を発光する。また、光源装置3では、制御装置9による制御の下、第2の期間において、第2の光源32が駆動する。すなわち、第2の期間では、光源装置3は、近赤外励起光を発光する。
なお、本実施の形態では、光源装置3は、制御装置9とは別体で構成されているが、これに限らず、当該制御装置9内部に設けられた構成を採用しても構わない。
ライトガイド4は、一端が光源装置3に着脱自在に接続されるとともに、他端が挿入部2に着脱自在に接続される。そして、ライトガイド4は、光源装置3から供給された光(通常光や近赤外励起光)を一端から他端に伝達し、挿入部2に供給する。生体内に通常光(白色光)が照射された場合には、当該生体内を介した通常光(当該生体内で反射された通常光)が挿入部2内の光学系により集光される。また、生体内に近赤外励起光が照射された場合には、当該生体内を介した近赤外励起光(当該生体内で反射された近赤外励起光)と、当該生体内における病変部に集積するインドシアニングリーン等の蛍光物質が当該近赤外励起光によって励起され、当該蛍光物質から発せられた蛍光とが挿入部2内の光学系により集光される。
カメラヘッド5は、本発明に係る撮像装置に相当する。このカメラヘッド5は、挿入部2の基端(接眼部21(図1))に着脱自在に接続される。そして、カメラヘッド5は、制御装置9による制御の下、挿入部2にて集光された光を撮像し、当該撮像による画像信号(RAW信号)を出力する。当該画像信号は、例えば、4K以上の画像信号である。
なお、カメラヘッド5の詳細な構成については、後述する。
第1伝送ケーブル6は、一端がコネクタCN1(図1)を介して制御装置9に着脱自在に接続され、他端がコネクタCN2(図1)を介してカメラヘッド5に着脱自在に接続される。そして、第1伝送ケーブル6は、カメラヘッド5から出力される画像信号等を制御装置9に伝送するとともに、制御装置9から出力される制御信号、同期信号、クロック、及び電力等をカメラヘッド5にそれぞれ伝送する。
なお、第1伝送ケーブル6を介したカメラヘッド5から制御装置9への画像信号等の伝送は、当該画像信号等を光信号で伝送してもよく、あるいは、電気信号で伝送しても構わない。第1伝送ケーブル6を介した制御装置9からカメラヘッド5への制御信号、同期信号、クロックの伝送も同様である。
表示装置7は、液晶または有機EL(Electro Luminescence)等を用いた表示ディスプレイで構成され、制御装置9による制御の下、当該制御装置9からの映像信号に基づく画像を表示する。
第2伝送ケーブル8は、一端が表示装置7に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第2伝送ケーブル8は、制御装置9にて処理された映像信号を表示装置7に伝送する。
制御装置9は、本発明に係る医療用画像処理装置に相当する。この制御装置9は、CPU(Central Processing Unit)やFPGA(Field-Programmable Gate Array)等で構成され、光源装置3、カメラヘッド5、及び表示装置7の動作を統括的に制御する。
なお、制御装置9の詳細な構成については、後述する。
第3伝送ケーブル10は、一端が光源装置3に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第3伝送ケーブル10は、制御装置9からの制御信号を光源装置3に伝送する。
〔カメラヘッドの構成〕
次に、カメラヘッド5の構成について説明する。
図2は、カメラヘッド5及び制御装置9の構成を示すブロック図である。
なお、図2では、説明の便宜上、制御装置9及びカメラヘッド5と第1伝送ケーブル6との間のコネクタCN1,CN2、制御装置9及び表示装置7と第2伝送ケーブル8との間のコネクタ、制御装置9及び光源装置3と第3伝送ケーブル10との間のコネクタの図示を省略している。
カメラヘッド5は、図2に示すように、レンズユニット51と、撮像部52と、通信部53とを備える。
レンズユニット51は、1または複数のレンズを用いて構成され、挿入部2にて集光された光(通常光や近赤外励起光及び蛍光)を撮像部52(撮像素子522)の撮像面に結像する。
撮像部52は、制御装置9による制御の下、生体内を撮像する。この撮像部52は、図2に示すように、励起光カットフィルタ521と、撮像素子522と、信号処理部523とを備える。
励起光カットフィルタ521は、レンズユニット51と撮像素子522との間に設けられ、特定の波長帯域を除去するバンドストップフィルタで構成されている。なお、以下では、説明の便宜上、励起光カットフィルタ521にてカット(除去)する波長帯域をカット帯域と記載し、当該カット帯域よりも短波長側であって当該励起光カットフィルタ521を透過する波長帯域を短波側透過領域と記載し、当該カット帯域よりも長波長側であって当該励起光カットフィルタ521を透過する波長帯域を長波側透過領域と記載する。
ここで、カット帯域は、近赤外励起光の波長帯域の少なくとも一部を含む。本実施の形態では、カット帯域は、近赤外励起光の波長帯域の全てを含む。また、長波側透過帯域は、蛍光の波長帯域を含む。さらに、短波側透過領域は、通常光(白色光)の波長帯域を含む。
すなわち、励起光カットフィルタ521は、レンズユニット51から撮像素子522に向かう通常光(白色光)を透過させる。なお、以下では、説明の便宜上、励起光カットフィルタ521を透過し、撮像素子522に向かう通常光(白色光)を被写体像と記載する。一方、励起光カットフィルタ521は、レンズユニット51から撮像素子522に向かう近赤外励起光及び蛍光については、近赤外励起光を除去するとともに、蛍光を透過させる。なお、以下では、説明の便宜上、励起光カットフィルタ521を透過し、撮像素子522に向かう蛍光を蛍光像と記載する。
撮像素子522は、励起光カットフィルタ521を透過した被写体像や蛍光像を受光して電気信号(アナログ信号)に変換するCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等で構成されている。この撮像素子522の撮像面(受光面)には、カラーフィルタ522a(図2)が設けられている。
図3は、カラーフィルタ522aを示す図である。図4は、カラーフィルタ522aの分光特性を示す図である。具体的に、図4では、Rフィルタ群522rの分光特性を曲線CRにて示し、Gフィルタ群522gの分光特性を曲線CGにて示し、Bフィルタ群522bの分光特性を曲線CBにて示している。
カラーフィルタ522aは、透過させる光(R(赤),G(緑),B(青))の波長帯域に応じてグループ分けされた3つのフィルタ群が特定の形式(例えば、ベイヤ配列)で配列されたカラーフィルタである。
具体的に、カラーフィルタ522aは、図3及び図4に示すように、Rの波長帯域(本発明に係る第1,第2の可視波長帯域に相当)の光を主に透過させるRフィルタ群522r(図3)と、Bの波長帯域(本発明に係る第1,第2の可視波長帯域に相当)の光を主に透過させるBフィルタ群522b(図3)と、Gの波長帯域(本発明に係る第1,第2の可視波長帯域に相当)の光を主に透過させる第1Gフィルタ群(Rフィルタ群522rと同一の列に配列)と、Gの波長帯域(本発明に係る第1,第2の可視波長帯域に相当)の光を主に透過させる第2Gフィルタ群(Bフィルタ群522bと同一の列に配列)とを有する。なお、図3では、第1,第2Gフィルタ群を纏めてGフィルタ群522gとしている。また、図3では、Rフィルタ群522rには「R」の文字を付し、Gフィルタ群522gには「G」の文字を付し、Bフィルタ群522bには「B」の文字を付している。
なお、R,G,Bの各フィルタ群522r,522g,522bは、図4に示すように、蛍光の波長帯域(第2の波長帯域、例えば850nm~900nm程度の波長帯域)において、略同一の分光特性を有する。そして、撮像素子522は、R,G,Bの波長帯域の光のみならず、蛍光の波長帯域(第2の波長帯域)に対しても感度を有する。
なお、R,G,Bの各フィルタ群522r,522g,522bは、本発明に係る第1,第2のフィルタ群に相当する。
そして、撮像素子522は、制御装置9による制御の下、光源装置3の発光タイミングに同期して、交互に繰り返される第1,第2の期間毎に撮像を行う。以下では、説明の便宜上、撮像素子522により第1の期間において被写体像(通常光)を撮像することで生成された画像を被写体画像(本発明に係る第1の画像信号に相当)と記載し、撮像素子522により第2の期間において蛍光像(蛍光)を撮像することで生成された画像を蛍光画像(本発明に係る第2の画像信号に相当)と記載する。また、被写体画像及び蛍光画像を纏めてRAW撮像画像と記載する。
信号処理部523は、撮像素子522にて生成されたRAW撮像画像(アナログ信号)に対して信号処理を行ってRAW撮像画像(デジタル信号)を出力する。
通信部53は、第1伝送ケーブル6を介して、撮像部52から出力されるRAW撮像画像を制御装置9に送信するトランスミッタとして機能する。この通信部53は、例えば、第1伝送ケーブル6を介して、制御装置9との間で、1Gbps以上の伝送レートでRAW撮像画像の通信を行う高速シリアルインターフェースで構成されている。
〔制御装置の構成〕
次に、制御装置9の構成について図2を参照しながら説明する。
制御装置9は、図2に示すように、通信部91と、メモリ92と、観察画像生成部93と、制御部94と、入力部95と、出力部96と、記憶部97とを備える。
通信部91は、第1伝送ケーブル6を介して、カメラヘッド5(通信部53)から出力されるRAW撮像画像を受信するレシーバとして機能する。この通信部91は、例えば、通信部53との間で、1Gbps以上の伝送レートでRAW撮像画像の通信を行う高速シリアルインターフェースで構成されている。すなわち、通信部91は、本発明に係る画像信号取得部に相当する。
メモリ92は、例えば、DRAM(Dynamic Random Access Memory)等で構成されている。このメモリ92は、カメラヘッド5(通信部53)から順次、出力されるRAW撮像画像を複数フレーム分、一時的に記憶可能とする。
観察画像生成部93は、制御部94による制御の下、カメラヘッド5(通信部53)から順次、出力され、通信部91にて受信したRAW撮像画像を処理する。この観察画像生成部93は、図2に示すように、メモリコントローラ931と、画像処理部932と、重畳画像生成部934と、表示制御部935とを備える。
メモリコントローラ931は、メモリ92へのRAW撮像画像の書込み及び読出しを制御する。より具体的に、メモリコントローラ931は、カメラヘッド5(通信部53)から順次、出力され、通信部91にて受信したRAW撮像画像(被写体画像及び蛍光画像)をメモリ92に順次、書き込む。また、メモリコントローラ931は、メモリ92から被写体画像及び蛍光画像を特定のタイミングで交互に読み出すとともに、当該読み出した被写体画像及び蛍光画像を画像処理部932に順次、入力させる。
なお、本実施の形態では、撮像部52にて生成されたRAW撮像画像がそのまま画像処理部932に入力される構成としているが、画像処理部932に入力される画像としてはRAW撮像画像に限らず、デモザイク処理前の画像であれば、その他の画像でもよい。
図5は、画像処理部932の構成を示すブロック図である。図6は、RAW撮像画像D0を示す図である。
画像処理部932は、入力したRAW撮像画像D0(被写体画像及び蛍光画像)にそれぞれ画像処理を実行する。この画像処理部932は、図5に示すように、WB処理部9321と、デモザイク処理部9322と、セレクタ9323と、3つのガンマ処理部9324R,9324G,9324Bと、YC処理部9325とを備える。
ここで、RAW撮像画像D0は、図6に示すように、画素毎に、R,G,Bの各フィルタ群522r,522g,522bに対応するR,G,Bのいずれかの成分情報(画素データ)を含む。なお、図6では、Rの成分情報(以下、r値と記載)を含む画素には「R」の文字を付し、Gの成分情報(以下、g値と記載)を含む画素には「G」の文字を付し、Bの成分情報(以下、b値と記載)を含む画素には「B」の文字を付している。
WB処理部9321は、本発明に係るホワイトバランス調整処理部及び出力部に相当する。このWB処理部9321は、RAW撮像画像D0(被写体画像及び蛍光画像)におけるr値、g値、及びb値に制御部94にて設定された特定のゲインをそれぞれ乗算するWB処理(ホワイトバランス調整処理)を行う。なお、被写体画像におけるr値、g値、及びb値にそれぞれ乗算される3つのゲイン(以下、第1のゲインと記載)と、蛍光画像におけるr値、g値、及びb値にそれぞれ乗算される3つのゲイン(以下、第2のゲインと記載)とは異なるものである。具体的に、3つの第1のゲインは、通常光(白色光)の波長帯域(第1の波長帯域)において、r値、g値、及びb値のホワイトバランスを取るためのゲインである。一方、3つの第2のゲインは、蛍光の波長帯域(第2の波長帯域)において、r値、g値、及びb値のホワイトバランスを取るためのゲインである。
図7は、デモザイク処理により生成されたR撮像画像DRを示す図である。図8は、デモザイク処理により生成されたG撮像画像DGを示す図である。図9は、デモザイク処理により生成されたB撮像画像DBを示す図である。なお、図7ないし図9では、図6と同様に、r値を含む画素には「R」の文字を付し、g値を含む画素には「G」の文字を付し、b値を含む画素には「B」の文字を付している。
デモザイク処理部9322は、WB処理後の被写体画像から、補間により全ての画素についてr値をそれぞれ持たせたR撮像画像DR(図7)と、補間により全ての画素についてg値をそれぞれ持たせたG撮像画像DG(図8)と、補間により全ての画素についてb値をそれぞれ持たせたB撮像画像DB(図9)とを生成する。
以上説明したR,G,B撮像画像DR,DG,DBは、本発明に係るデモザイク画像信号に相当する。
セレクタ9323は、本発明に係る選択部に相当する。このセレクタ9323は、制御部94による制御の下、デモザイク処理部9322から入力した3つのR,G,B撮像画像DR,DG,DBの組と、WB処理部9321から入力した3つのWB処理後の蛍光画像D0´(図5)の組とのうち、一方の組の3つの画像を出力する。
なお、3つのWB処理後の蛍光画像D0´は、デモザイク処理が実行されておらず、1画素にr値、g値、及びb値のいずれか一つのみを持つ画像であって、3つ全てが同一の画像である。また、当該3つのWB処理後の蛍光画像D0´は、本発明に係る第2の画像信号に相当する。
3つのガンマ処理部9324R,9324G,9324Bは、セレクタ9323から出力された3つの画像(3つのR,G,B撮像画像DR,DG,DB、または、3つの蛍光画像D0´)に対して、それぞれガンマ処理(γ補正)を行う。本実施の形態では、3つのガンマ処理部9324R,9324G,9324Bは、同一のガンマ処理を実行する。
YC変換部9325は、セレクタ9323から出力され、ガンマ処理が実行された3つの画像(3つのR,G,B撮像画像DR,DG,DB、または、3つの蛍光画像D0´)を用いて特定の演算式にて演算を行うことにより、輝度信号Y(図5)及び色差信号Cb,Cr(図5)を生成する。より具体的に、YC変換部9325は、セレクタ9323から出力され、ガンマ処理が実行された3つのR,G,B撮像画像DR,DG,DBを用いて当該特定の演算式にて演算を行うことにより第1の輝度色差信号Y,Cb,Crを生成する。一方、YC変換部9325は、セレクタ9323から出力され、ガンマ処理が実行された3つの蛍光画像D0´を用いて当該特定の演算式にて演算を行うことにより第2の輝度色差信号Y,Cb,Crを生成する。なお、セレクタ9323から出力され、ガンマ処理が実行された3つの蛍光画像D0´から当該特定の演算式にて演算を行った場合には、色差信号Cb,Crはそれぞれ略0を示す信号となる。
以上説明した3つのガンマ処理部9324R,9324G,9324BとYC変換部9325とは、本発明に係る信号生成部9326(図5)に相当する。そして、セレクタ9323は、デモザイク処理部9322と信号生成部9326との間に設けられている。
以上説明したように、画像処理部932には、入力したRAW撮像画像D0(被写体画像)を処理する第1の信号経路と、入力したRAW撮像画像D0(蛍光画像)を処理する第2の信号経路とが設けられている。当該第1の信号経路は、WB処理部9321~デモザイク処理部9322~セレクタ9323~3つのガンマ処理部9324R,9324G,9324B~YC処理部9325を辿る経路である。一方、当該第2の信号経路は、WB処理部9321~セレクタ9323~3つのガンマ処理部9324R,9324G,9324B~YC処理部9325を辿る経路である。すなわち、当該第2の信号経路は、デモザイク処理部9322の経路前段で当該第1の信号経路から分岐するとともにデモザイク処理部9322の経路後段で当該第1の信号経路に合流し、デモザイク処理を実行しない経路である。そして、当該第1,第2の信号経路が合流した経路には、信号生成部9326が設けられている。
以下では、説明の便宜上、上述した第1の信号経路を辿る画像処理を第1の画像処理と記載し、上述した第2の信号経路を辿る画像処理を第2の画像処理と記載する。
重畳画像生成部933は、画像処理部932にて第1の画像処理が実行された後の被写体画像と、当該画像処理部932にて第2の画像処理が実行された後の蛍光画像とを全ての領域について対応する画素同士で重畳して重畳画像を生成する。
表示制御部934は、重畳画像生成部933にて生成された重畳画像に基づいて、表示用の映像信号を生成する。そして、表示制御部934は、第2伝送ケーブル8を介して、当該映像信号を表示装置7に出力する。
制御部94は、例えば、CPUやFPGA等を用いて構成され、第1~第3伝送ケーブル6,8,10を介して制御信号を出力することで、光源装置3、カメラヘッド5、及び表示装置7の動作を制御するとともに、制御装置9全体の動作を制御する。この制御部94は、図2に示すように、光源制御部941と、撮像制御部942とを備える。なお、光源制御部941及び撮像制御部942の機能については、後述する「制御装置の動作」において説明する。
入力部95は、マウス、キーボード、及びタッチパネル等の操作デバイスを用いて構成され、医師等のユーザによるユーザ操作を受け付ける。そして、入力部95は、当該ユーザ操作に応じた操作信号を制御部94に出力する。
出力部96は、スピーカやプリンタ等を用いて構成され、各種情報を出力する。
記憶部97は、制御部94が実行するプログラムや、制御部94の処理に必要な情報等を記憶する。
〔制御装置の動作〕
次に、上述した制御装置9の動作について説明する。
図10は、制御装置9の動作を示すフローチャートである。図11ないし図13は、制御装置9の動作を説明する図である。具体的に、図11は、第1の画像処理が実行された後の1フレームの被写体画像WLIを示す図である。図12は、第2の画像処理が実行された後の1フレームの蛍光画像IRを示す図である。なお、図12に示した蛍光画像IRは、グレースケールで表現されており、黒に近付くにしたがって撮像された蛍光成分の強度が高い(輝度値が高い)ものである。図13は、重畳画像生成部933にて生成された1フレームの重畳画像D1を示す図である。
先ず、光源制御部941は、第1,第2の光源31,32の時分割駆動を実行する(ステップS1)。具体的に、光源制御部941は、ステップS1において、同期信号に基づいて、交互に繰り返される第1,第2の期間のうち、第1の期間において第1の光源31を発光させ、第2の期間において第2の光源32を発光させる。
ステップS1の後、撮像制御部942は、同期信号に基づいて、第1,第2の光源31,32の発光タイミングに同期させ、撮像素子522に第1,第2の期間において被写体像及び蛍光像をそれぞれ撮像させる(ステップS2~S4)。すなわち、撮像素子522は、第1の期間である場合(ステップS2:Yes)、言い換えれば、生体内に通常光(白色光)が照射された場合には、被写体像(通常光)を撮像して被写体画像を生成する(ステップS3)。一方、撮像素子522は、第2の期間である場合(ステップS2:No)、言い換えれば、生体内に近赤外励起光が照射された場合には、蛍光像(蛍光)を撮像して蛍光画像を生成する(ステップS4)。
ステップS3,S4の後、メモリコントローラ931は、同期信号に基づいて、メモリ92へのRAW撮像画像の書込み及び読出しを制御する(ステップS5)。
ステップS5の後、画像処理部932は、以下の処理を実行する(ステップS6)。
すなわち、画像処理部932は、メモリコントローラ931によってメモリ92から順次、読み出された各RAW撮像画像D0(被写体画像)に対して順次、第1の画像処理を実行する。また、画像処理部932は、メモリコントローラ931によってメモリ92から順次、読み出された各RAW撮像画像D0(蛍光画像)に対して順次、第2の画像処理を実行する。
ステップS6の後、重畳画像生成部933は、画像処理部932から順次、出力される各被写体画像(例えば、図11に示した被写体画像WLI)と、当該画像処理部932から順次、出力される各蛍光画像(例えば、図12に示した蛍光画像IR)との対応する画像同士を全ての領域について対応する画素同士で重畳して順次、重畳画像(例えば、図13に示した重畳画像SI)を生成する(ステップS7)。
ステップS7の後、表示制御部934は、重畳画像生成部933にて順次、生成された各重畳画像(例えば、図13に示した重畳画像SI)を表示するための映像信号を順次、生成し、当該映像信号を表示装置7に順次、出力する(ステップS8)。これにより、表示装置7には、重畳画像(例えば、図8に示した重畳画像SI)が順次、表示される。
以上説明した本実施の形態によれば、以下の効果を奏する。
本実施の形態に係る制御装置9では、画像処理部932には、入力したRAW撮像画像D0(被写体画像)に第1の画像処理を実行する第1の信号経路と、入力したRAW撮像画像D0(蛍光画像)に第2の画像処理を実行する第2の信号経路とが設けられている。そして、当該第2の信号経路は、デモザイク処理部9322の経路前段で当該第1の信号経路から分岐し、デモザイク処理を実行しない経路である。
したがって、蛍光画像に基づく輝度色差信号を生成する際、補間により生成された画素データを用いることなく、実際に撮像素子522にて検出されたr値、g値、b値を用いることができるため、蛍光画像IRの鮮鋭度が低下してしまうことがない。すなわち、観察に適した画像(蛍光画像IR)を生成することができる。
特に、R,G,Bの各フィルタ群522r,522g、522bは、蛍光の波長帯域(第2の波長帯域)において、略同一の分光特性を有する。また、RAW撮像画像D0(蛍光画像)は、WB処理により、蛍光の波長帯域において、r値、g値、及びb値のホワイトバランスが取られる。このため、RAW撮像画像D0(蛍光画像)にデモザイク処理を実施せずに、3つのWB処理後の同一の蛍光画像D0´を信号生成部9326に入力し、当該信号生成部9326にて輝度色差信号Y,Cb,Crを生成することができる。
また、第2の信号経路は、デモザイク処理部9322の経路後段で第1の信号経路に合流する。そして、第1,第2の信号経路が合流した経路には、信号生成部9326が設けられている。また、デモザイク処理部9322と信号生成部9326との間には、セレクタ9323が設けられている。
このため、セレクタ9323の数を最小限の数とし、画像処理部932の回路規模を増加させることなく、当該画像処理部932にて2種類のRAW撮像画像D0(被写体画像及び蛍光画像)を処理することができる。
(その他の実施の形態)
ここまで、本発明を実施するための形態を説明してきたが、本発明は上述した実施の形態によってのみ限定されるべきものではない。
図14は、本実施の形態の変形例を示す図である。具体的に、図14は、本変形例に係る画像処理部932Aの構成を示すブロック図である。
上述した実施の形態において、画像処理部932の代わりに図14に示した画像処理部932Aを採用しても構わない。
画像処理部932Aでは、セレクタ9323の代わりに、第1~第4のセレクタ9323A~9323Dが採用されている。
第1のセレクタ9323Aは、デモザイク処理部9322とガンマ処理部9324Bとの間に設けられている。そして、第1のセレクタ9323Aは、制御部94による制御の下、デモザイク処理部9322から入力したB撮像画像DBと、WB処理部9321から入力したWB処理後の蛍光画像D0´とのうち、一方の画像をガンマ処理部9324Bに出力する。
第2のセレクタ9323Bは、YC処理部9325の経路後段に設けられている。そして、第2のセレクタ9323Bは、制御部94による制御の下、ガンマ処理が実行された3つのR,G,B撮像画像DR,DG,DBを用いてYC処理部9325にて特定の演算式にて演算を行うことにより生成された輝度信号Y1(図14)と、蛍光画像D0´に対してガンマ処理部9324Bにてガンマ処理が実行された後の蛍光画像Y2(図14)とのうち、一方を輝度信号Yとして出力する。なお、蛍光画像Y2を輝度信号Yとして出力する場合には、1画素毎に持っているr値、g値、及びb値のいずれかを輝度値としてそのまま出力することとなる。
第3のセレクタ9323Cは、YC処理部9325の経路後段に設けられている。そして、第3のセレクタ9323Cは、制御部94による制御の下、ガンマ処理が実行された3つのR,G,B撮像画像DR,DG,DBを用いてYC処理部9325にて特定の演算式にて演算を行うことにより生成された色差信号Cb1(図14)と、0を示す信号Cb2とのうち、一方を色差信号Cbとして出力する。なお、第3のセレクタ9323Cは、制御部94による制御の下、第2のセレクタ9323Bが輝度信号Y1を輝度信号Yとして出力する場合には色差信号Cb1を色差信号Cbとして出力し、第2のセレクタ9323Bが蛍光画像Y2を輝度信号Yとして出力する場合には色差信号Cb2を色差信号Cbとして出力する。
第4のセレクタ9323Cは、YC処理部9325の経路後段に設けられている。そして、第4のセレクタ9323Cは、制御部94による制御の下、ガンマ処理が実行された3つのR,G,B撮像画像DR,DG,DBを用いてYC処理部9325にて特定の演算式にて演算を行うことにより生成された色差信号Cr1(図14)と、0を示す信号Cr2とのうち、一方を色差信号Crとして出力する。なお、第4のセレクタ9323Dは、制御部94による制御の下、第2のセレクタ9323Bが輝度信号Y1を輝度信号Yとして出力する場合には色差信号Cr1を色差信号Crとして出力し、第2のセレクタ9323Bが蛍光画像Y2を輝度信号Yとして出力する場合には色差信号Cr2を色差信号Crとして出力する。
以上説明したように、本変形例においても、画像処理部932Aには、入力したRAW撮像画像D0(被写体画像)に第1の画像処理を実行する第1の信号経路と、入力したRAW撮像画像D0(蛍光画像)に第2の画像処理を実行する第2の信号経路とが設けられている。当該第1の信号経路は、WB処理部9321~デモザイク処理部9322~第1のセレクタ9323A~3つのガンマ処理部9324R,9324G,9324B~YC処理部9325~第2,第3,第4のセレクタ9323B,9323C,9323Dを辿る経路である。一方、当該第2の信号経路は、WB処理部9321~第1のセレクタ9323A~ガンマ処理部9324B~第2のセレクタ9323Bを辿る経路である。すなわち、当該第2の信号経路は、デモザイク処理部9322の経路前段で当該第1の信号経路から分岐し、デモザイク処理を実行しない経路である。
以上説明した本変形例に係る画像処理部932Aを採用した場合であっても、上述した実施の形態と同様の効果を奏する。
なお、上述した変形例では、第1のセレクタ9323Aは、B撮像画像DB及び蛍光画像D0´を入力し、一方の画像をガンマ処理部9324Bに出力していたが、これに限らない。例えば、第1のセレクタ9323Aは、R撮像画像DR及び蛍光画像D0´を入力し、一方の画像をガンマ処理部9324Rに出力するように構成しても構わない。この際、第2のセレクタ9323Bは、輝度信号Y1と、蛍光画像D0´に対してガンマ処理部9324Rにてガンマ処理が実行された後の蛍光画像とを入力し、一方を輝度信号Yとして出力する。また、例えば、第1のセレクタ9323Aは、G撮像画像DG及び蛍光画像D0´を入力し、一方の画像をガンマ処理部9324Gに出力するように構成しても構わない。この際、第2のセレクタ9323Bは、輝度信号Y1と、蛍光画像D0´に対してガンマ処理部9324Gにてガンマ処理が実行された後の蛍光画像とを入力し、一方を輝度信号Yとして出力する。
上述した実施の形態では、第1の光源31が白色光を発光し、第2の光源32が近赤外励起光を発光していたが、これに限らない。第1,第2の光源31,32としては、第1の光源31が第1の波長帯域の光を発光し、第2の光源32が第1の波長帯域とは異なる第3の波長帯域の光を発光していれば、その他の構成を採用しても構わない。この際、第1,第3の波長帯域は、一部が重複する帯域であってもよく、あるいは、全く重複しない帯域であっても構わない。また、第1の光源31は、狭帯域光を発光しても構わない。
上述した実施の形態では、第1,第2の期間が交互に繰り返すように設定されていたが、これに限らず、第1,第2の期間の少なくともいずれかが連続し、第1,第2の期間の頻度の比率が1:1以外の比率となるように構成しても構わない。
上述した実施の形態において、カラーフィルタ522aを構成する各フィルタ群の分光特性は、図4に示した分光特性に限らず、その他の分光特性を有するカラーフィルタを採用しても構わない。
上述した実施の形態では、挿入部2を硬性内視鏡で構成した医療用観察システム1に本発明に係る医療用画像処理装置を搭載していたが、これに限らない。例えば、挿入部2を軟性内視鏡で構成した医療用観察システムに本発明に係る医療用画像処理装置を搭載しても構わない。また、被写体内(生体内)や被写体表面(生体表面)の所定の視野領域を拡大して観察する手術用顕微鏡(例えば、特開2016-42981号公報参照)等の医療用観察システムに本発明に係る医療用画像処理装置を搭載しても構わない。
上述した実施の形態において、カメラヘッド5の一部の構成や制御装置9の一部の構成を例えばコネクタCN1やコネクタCN2に設けても構わない。
上述した実施の形態では、第1の画像処理を実行した後の被写体画像(例えば、図11に示した被写体画像WLI)と第2の画像処理を実行した後の蛍光画像(例えば、図12に示した蛍光画像IR)とを対応する画素同士で重畳して重畳画像(例えば、図13に示した重畳画像SI)を生成し、当該重畳画像を表示装置7に表示していたが、これに限らない。例えば、ピクチャインピクチャ処理等を実行し、当該被写体画像と当該蛍光画像とを表示装置7に同時に表示する構成を採用しても構わない。
1 医療用観察システム
2 挿入部
3 光源装置
4 ライトガイド
5 カメラヘッド
6 第1伝送ケーブル
7 表示装置
8 第2伝送ケーブル
9 制御装置
10 第3伝送ケーブル
21 接眼部
31 第1の光源
32 第2の光源
51 レンズユニット
52 撮像部
53 通信部
91 通信部
92 メモリ
93 観察画像生成部
94 制御部
95 入力部
96 出力部
97 記憶部
521 励起光カットフィルタ
522 撮像素子
522a カラーフィルタ
522b Bフィルタ群
522g Gフィルタ群
522r Rフィルタ群
523 信号処理部
931 メモリコントローラ
932 画像処理部
934 重畳画像生成部
935 表示制御部
941 光源制御部
942 撮像制御部
9321 WB処理部
9322 デモザイク処理部
9323 セレクタ
9323A 第1のセレクタ
9323B 第2のセレクタ
9323C 第3のセレクタ
9323D 第4のセレクタ
9324B,9324G,9324R ガンマ処理部
9325 YC処理部
9326 信号生成部
Cb,Cb1,Cb2,Cr,Cr1,Cr2 色差信号
CB,CG,CR 曲線
CN1,CN2 コネクタ
D0 RAW撮像画像
D0´ WB処理後の蛍光画像
DB B撮像画像
DG G撮像画像
DR R撮像画像
IR 蛍光画像
SI 重畳画像
WLI 被写体画像
Y,Y1 輝度信号
Y2 ガンマ処理が実行された後の蛍光画像

Claims (4)

  1. 互いに異なる分光特性を有する複数のフィルタ群が特定の形式で配列されたカラーフィルタが受光面に設けられた撮像素子によって可視の波長帯域である第1の波長帯域の光が撮像されることで生成されるデモザイク処理されていない第1の画像信号、及び前記撮像素子によって前記第1の波長帯域とは異なる可視域以外の波長帯域である第2の波長帯域の光が撮像されることで生成されるデモザイク処理されていない第2の画像信号をそれぞれ取得する画像信号取得部と、
    前記画像信号取得部が取得した前記第1の画像信号が入力され、前記第1の画像信号に対してデモザイク処理を実行するデモザイク処理部を有する第1の信号経路と、
    前記画像信号取得部が取得した前記第2の画像信号が入力され、前記デモザイク処理部の経路前段で前記第1の信号経路から分岐し、前記第2の画像信号に対して前記デモザイク処理を実行しない経路である第2の信号経路とを備え、
    前記第1の信号経路は、
    前記デモザイク処理部によりデモザイク画像信号を生成し、
    前記第2の信号経路は、
    前記第2の画像信号を出力する出力部を有し、前記デモザイク処理部よりも経路後段で前記第1の信号経路に合流し、
    前記第1の信号経路と前記第2の信号経路とが合流した経路には、
    前記デモザイク画像信号と前記第2の画像信号とが入力され、前記デモザイク画像信号と前記第2の画像信号とのうちいずれか一方の画像信号を出力する選択部と、
    前記選択部によって出力された画像信号に基づき輝度色差信号を生成する信号生成部とが配置され
    前記デモザイク処理部は、
    前記複数のフィルタ群の各々のフィルタ群に対応する複数の前記デモザイク画像信号を生成し、
    前記出力部は、
    互いに同一であり、前記デモザイク処理部が生成する前記複数のデモザイク画像信号と同数である前記第2の画像信号を出力し、
    前記選択部は、
    前記複数のデモザイク画像信号と前記複数のデモザイク画像信号と同数である前記第2の画像信号とのうちいずれか一方の画像信号を出力し、
    前記信号生成部は、
    前記選択部によって出力された前記複数のデモザイク画像信号と前記複数のデモザイク画像信号と同数である前記第2の画像信号とのうちいずれか一方に基づき前記輝度色差信号を生成し、
    前記画像信号取得部は、
    前記第1の波長帯域のうち第1の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第1のフィルタ群と、前記第1の波長帯域のうち前記第1の可視波長帯域とは異なる第2の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第2のフィルタ群とが前記特定の形式で配列された前記カラーフィルタを有する前記撮像素子によって前記第1の波長帯域の光が撮像されることで生成される前記第1の画像信号、及び前記撮像素子によって前記第2の波長帯域の光が撮像されることで生成される前記第2の画像信号をそれぞれ取得する医療用画像処理装置。
  2. 前記第1の信号経路と前記第2の信号経路とが分岐する前の経路には、
    ホワイトバランス調整処理を実行するホワイトバランス調整処理部が設けられている請求項1に記載の医療用画像処理装置。
  3. 第1の波長帯域の光を撮像することで第1の画像信号を生成するとともに前記第1の波長帯域とは異なる第2の波長帯域の光を撮像することで第2の画像信号を生成する撮像素子、及び前記撮像素子の受光面に設けられ、互いに異なる分光特性を有する複数のフィルタ群が特定の形式で配列されたカラーフィルタを有する撮像装置と、
    前記第1の画像信号及び前記第2の画像信号を処理する請求項1または2に記載の医療用画像処理装置とを備える医療用観察システム。
  4. 前記撮像装置は、
    前記第1の波長帯域のうち第1の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第1のフィルタ群と、前記第1の波長帯域のうち前記第1の可視波長帯域とは異なる第2の可視波長帯域の光を最も透過し、かつ前記第2の波長帯域の光を透過する第2のフィルタ群とが前記特定の形式で配列された前記カラーフィルタを有し、
    前記画像信号取得部は、
    前記撮像素子によって被検体からの前記第1の可視波長帯域の光と前記第2の可視波長帯域の光とを受光して生成されるデモザイク処理されていない前記第1の画像信号と、前記撮像素子によって前記被検体からの前記可視域以外の波長帯域の光を受光して生成されるデモザイク処理されていない前記第2の画像信号とをそれぞれ取得する請求項に記載の医療用観察システム。
JP2019055707A 2019-03-22 2019-03-22 医療用画像処理装置及び医療用観察システム Active JP7374600B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019055707A JP7374600B2 (ja) 2019-03-22 2019-03-22 医療用画像処理装置及び医療用観察システム
US16/790,752 US11510549B2 (en) 2019-03-22 2020-02-14 Medical image processing apparatus and medical observation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019055707A JP7374600B2 (ja) 2019-03-22 2019-03-22 医療用画像処理装置及び医療用観察システム

Publications (2)

Publication Number Publication Date
JP2020151403A JP2020151403A (ja) 2020-09-24
JP7374600B2 true JP7374600B2 (ja) 2023-11-07

Family

ID=72515903

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019055707A Active JP7374600B2 (ja) 2019-03-22 2019-03-22 医療用画像処理装置及び医療用観察システム

Country Status (2)

Country Link
US (1) US11510549B2 (ja)
JP (1) JP7374600B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4070715A1 (en) 2021-02-10 2022-10-12 Meilleur Co., Ltd. Camera drape
JPWO2022172344A1 (ja) 2021-02-10 2022-08-18
WO2023276249A1 (ja) * 2021-06-29 2023-01-05 ソニーグループ株式会社 画像処理装置、撮像装置、画像処理方法
CN113616138B (zh) * 2021-08-03 2024-05-03 北京双翼麒电子有限公司 一种多光谱内窥镜图像处理系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009066121A (ja) 2007-09-12 2009-04-02 Sanyo Electric Co Ltd 撮像装置
JP2009279150A (ja) 2008-05-21 2009-12-03 Hoya Corp 内視鏡プロセッサおよび内視鏡システム
WO2016158196A1 (ja) 2015-03-31 2016-10-06 富士フイルム株式会社 撮像装置及び撮像装置の画像処理方法及びプログラム
JP2016198634A (ja) 2014-04-08 2016-12-01 オリンパス株式会社 蛍光観察内視鏡システム
WO2018008062A1 (ja) 2016-07-04 2018-01-11 オリンパス株式会社 蛍光観察装置および蛍光観察内視鏡装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6571119B2 (en) * 1996-03-06 2003-05-27 Fuji Photo Film Co., Ltd. Fluorescence detecting apparatus
JP2001157658A (ja) * 1999-12-02 2001-06-12 Fuji Photo Film Co Ltd 蛍光画像表示装置
JP2001178672A (ja) * 1999-12-24 2001-07-03 Fuji Photo Film Co Ltd 蛍光画像表示装置
JP4433347B2 (ja) * 2000-01-17 2010-03-17 富士フイルム株式会社 蛍光撮像装置
JP5045421B2 (ja) * 2007-12-21 2012-10-10 ソニー株式会社 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム
JP2012242948A (ja) * 2011-05-17 2012-12-10 Sony Corp 表示制御装置および方法、並びにプログラム
US8684914B2 (en) * 2011-08-12 2014-04-01 Intuitive Surgical Operations, Inc. Image capture unit and an imaging pipeline with enhanced color performance in a surgical instrument and method
JP5764472B2 (ja) 2011-11-11 2015-08-19 富士フイルム株式会社 内視鏡診断装置
JP6092792B2 (ja) * 2014-01-20 2017-03-08 富士フイルム株式会社 内視鏡システム用プロセッサ装置、内視鏡システム、内視鏡システム用プロセッサ装置の作動方法、内視鏡システムの作動方法
JP5968944B2 (ja) * 2014-03-31 2016-08-10 富士フイルム株式会社 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
JP6039606B2 (ja) * 2014-06-24 2016-12-07 富士フイルム株式会社 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法
JP6568719B2 (ja) * 2014-08-29 2019-08-28 株式会社 日立産業制御ソリューションズ 撮像方法及び撮像装置
JP2016192985A (ja) * 2015-03-31 2016-11-17 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
CN107534728B (zh) * 2015-04-23 2020-01-24 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法及存储介质
JP6744712B2 (ja) * 2015-12-17 2020-08-19 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法
CN107534735B (zh) * 2016-03-09 2019-05-03 华为技术有限公司 终端的图像处理方法、装置和终端
JP7190355B2 (ja) * 2019-01-07 2022-12-15 キヤノン株式会社 画像処理装置および画像処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009066121A (ja) 2007-09-12 2009-04-02 Sanyo Electric Co Ltd 撮像装置
JP2009279150A (ja) 2008-05-21 2009-12-03 Hoya Corp 内視鏡プロセッサおよび内視鏡システム
JP2016198634A (ja) 2014-04-08 2016-12-01 オリンパス株式会社 蛍光観察内視鏡システム
WO2016158196A1 (ja) 2015-03-31 2016-10-06 富士フイルム株式会社 撮像装置及び撮像装置の画像処理方法及びプログラム
WO2018008062A1 (ja) 2016-07-04 2018-01-11 オリンパス株式会社 蛍光観察装置および蛍光観察内視鏡装置

Also Published As

Publication number Publication date
US20200297185A1 (en) 2020-09-24
JP2020151403A (ja) 2020-09-24
US11510549B2 (en) 2022-11-29

Similar Documents

Publication Publication Date Title
US11399123B2 (en) Image transformation and display for fluorescent and visible imaging
JP7374600B2 (ja) 医療用画像処理装置及び医療用観察システム
EP3459428B1 (en) Endoscope and endoscopic system
US8823789B2 (en) Imaging apparatus
JPWO2017085793A1 (ja) 内視鏡システム、画像処理装置、画像処理方法およびプログラム
EP2821003A1 (en) Endoscope system and method for operating the same
JP6389140B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP7449736B2 (ja) 医療用画像処理装置及び医療用観察システム
US11882995B2 (en) Endoscope system
US10003774B2 (en) Image processing device and method for operating endoscope system
JP2018182580A (ja) 撮像装置及び撮像装置の制御プログラム
CN105934947B (zh) 固体摄像装置和摄像方法
US20230180997A1 (en) Medical control device and medical observation system
JP6137892B2 (ja) 撮像システム
US10901199B2 (en) Endoscope system having variable focal length lens that switches between two or more values
JP2020151090A (ja) 医療用光源装置及び医療用観察システム
JP7235540B2 (ja) 医療用画像処理装置及び医療用観察システム
JP6396717B2 (ja) 感度調整方法および撮像装置
WO2021039869A1 (ja) 医療用画像処理装置及び医療用観察システム
JP2021029509A (ja) 撮像装置
JP7281308B2 (ja) 医療用画像処理装置及び医療用観察システム
US20220151474A1 (en) Medical image processing device and medical observation system
US10918269B2 (en) Medical light source apparatus and medical observation system
JP2021003347A (ja) 医療用画像処理装置及び医療用観察システム
JP2010279521A (ja) 内視鏡装置および内視鏡画像取得方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231025

R150 Certificate of patent or registration of utility model

Ref document number: 7374600

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150