JP7074065B2 - 医療用画像処理装置、医療用画像処理方法、プログラム - Google Patents

医療用画像処理装置、医療用画像処理方法、プログラム Download PDF

Info

Publication number
JP7074065B2
JP7074065B2 JP2018548628A JP2018548628A JP7074065B2 JP 7074065 B2 JP7074065 B2 JP 7074065B2 JP 2018548628 A JP2018548628 A JP 2018548628A JP 2018548628 A JP2018548628 A JP 2018548628A JP 7074065 B2 JP7074065 B2 JP 7074065B2
Authority
JP
Japan
Prior art keywords
frame
value
special
threshold value
normal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018548628A
Other languages
English (en)
Other versions
JPWO2018084003A1 (ja
Inventor
貴美 水倉
浩司 鹿島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018084003A1 publication Critical patent/JPWO2018084003A1/ja
Application granted granted Critical
Publication of JP7074065B2 publication Critical patent/JP7074065B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/0004Operational features of endoscopes provided with input arrangements for the user for electronic operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A61B5/7207Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
    • A61B5/7214Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts using signal cancellation, e.g. based on input of two identical physiological sensors spaced apart, or based on two signals derived from the same sensor, for different optical wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/46Arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/46Arrangements for interfacing with the operator or the patient
    • A61B6/467Arrangements for interfacing with the operator or the patient characterised by special input means
    • A61B6/469Arrangements for interfacing with the operator or the patient characterised by special input means for selecting a region of interest [ROI]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/0016Holding or positioning arrangements using motor drive units
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/042Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0684Endoscope light sources using light emitting diodes [LED]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Physiology (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Evolutionary Computation (AREA)
  • Quality & Reliability (AREA)
  • Psychiatry (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本技術は医療用画像処理装置、医療用画像処理方法、プログラムに関し、例えば、人体に白色光などの通常光を照射して撮像した通常画像と、特殊な光を照射して撮像することにより得られる血管の位置を表す特殊画像と合成して表示できるようにした医療用画像処理装置、医療用画像処理方法、プログラムに関する。
従来、例えば、医療現場に用いることを目的として、内視鏡装置によって撮像される臓器などの通常画像に、当該通常画像では見分けにくい血管や腫瘍などの病変の位置を表す特殊画像を合成して表示するさまざま技術が提案されている。
例えば、特許文献1には、通常画像と特殊画像とを時分割に撮像することが記載されている。また例えば、特許文献2には、通常画像と特殊画像を合成表示することが記載されている。
ここで、通常画像とは、被写体となる臓器などに白色光などの通常光を照射して撮像した画像を指す。特殊画像とは、通常光とは異なる所定の波長の特殊光を照射して撮像した画像を指す。なお、特殊画像を撮像する際には、被写体となる血管(血液)や病変には特殊光の照射に反応する蛍光剤などを混入または塗布することがある。
特開2007-313171号公報 特開2012-24283号公報 特許第5451956号公報 特許第5184016号公報
通常画像と特殊画像を単に加算することで、重畳画像を生成した場合、信号が飽和してしまう領域、換言すれば、デジタル信号値が取り得る範囲の最大を超えてしまう領域があり、視認性の悪い画像、特に特殊画像の詳細な情報が失われた画像となってしまう可能性があった。
また、信号が飽和しないように、通常画像と特殊画像を重畳した場合、例えば、一定の混合比で通常画像と特殊画像を重畳した場合、周辺情報(例えば、患部の周辺の情報)を含む通常画像が暗くなる可能性があり、詳細な周辺情報が失われた画像となってしまう可能性があった。
本技術は、このような状況に鑑みてなされたものであり、通常画像と特殊画像を適切な混合比で重畳することができるようにするものである。
本技術の一側面の医療用画像処理装置は、被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得する取得部と、前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を画素毎に算出する重畳率算出部と、前記通常フレームと前記特殊フレームを、前記重畳率に基づき画素毎に重畳処理する重畳処理部とを備え、前記強度値が取り得る範囲内に、第1の閾値と第2の閾値が設定され、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値が設定され、前記重畳率算出部は、前記第1乃至第4の閾値を用いて重畳率を算出し、前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値は、小さい値に設定される
本技術の一側面の医療用画像処理方法は、医療用画像処理装置が、被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得し、前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を画素毎に算出し、前記通常フレームと前記特殊フレームを、前記重畳率に基づき画素毎に重畳処理し、前記強度値が取り得る範囲内に、第1の閾値と第2の閾値設定、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値設定、前記重畳率、前記第1乃至第4の閾値用い算出、前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値、小さい値に設定る。
本技術の一側面のプログラムは、コンピュータに、被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得し、前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を画素毎に算出し、前記通常フレームと前記特殊フレームを、前記重畳率に基づき画素毎に重畳処理し、前記強度値が取り得る範囲内に、第1の閾値と第2の閾値設定、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値設定、前記重畳率、前記第1乃至第4の閾値用い算出、前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値、小さい値に設定るステップを含む処理を実行させる。
本技術の一側面の医療用画像処理装置、医療用画像処理方法、およびプログラムにおいては、被写体に対して通常光を照射した状態で撮像された通常フレームと、被写体に対して特殊光を照射した状態で撮像された特殊フレームとが取得され、特殊フレームの強度値に基づき、通常フレームと特殊フレームを重畳する割合を示す重畳率が画素毎に算出され、通常フレームと特殊フレームが、重畳率に基づき画素毎に重畳処理される。強度値が取り得る範囲内に、第1の閾値と第2の閾値が設定され、通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値が設定され、重畳率は、第1乃至第4の閾値が用いられて算出され、特殊フレームの強度値が取り得る最大値が小さくなる被写体が撮像される場合、前記第2の閾値は、小さい値に設定される
なお、医療用画像処理装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
また、プログラムは、伝送媒体を介して伝送することにより、または、記録媒体に記録して、提供することができる。
本技術の一側面によれば、通常画像と特殊画像を適切な混合比で重畳することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した内視鏡手術システムの一実施の形態の構成を示す図である。 カメラヘッドおよびCCUの機能構成の一例を示すブロック図である。 内視鏡装置の構成例を示すブロック図である。 通常フレームと特殊フレームの撮像タイミングを示す図である。 画像処理部の詳細な構成例を示すブロック図である。 動きベクトル検出部の詳細な構成例を示すブロック図である。 画像合成処理を説明するフローチャートである。 撮像されたフレーム例を示す図である。 合成後の信号レベルについて説明するための図である。 合成後の信号レベルについて説明するための図である。 重畳処理部の構成について説明するための図である。 重畳率定義関数について説明するための図である。 合成後の信号レベルについて説明するための図である。 重畳率定義関数について説明するための図である。 重畳率定義関数について説明するための図である。 重畳率定義関数について説明するための図である。 撮像される画像について説明するための図である。 重畳率定義関数について説明するための図である。 撮像される画像について説明するための図である。 重畳率定義関数について説明するための図である。 撮像される画像について説明するための図である。 重畳率定義関数について説明するための図である。 重畳処理について説明するためのフローチャートである。 記録媒体について説明するための図である。
以下に、本技術を実施するための形態(以下、実施の形態という)について説明する。
<内視鏡システムの構成>
本開示に係る技術は、さまざまな製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。またここでは、内視鏡手術システムを例に挙げて説明をするが、本技術は、外科手術システム、顕微鏡下手術システムなどにも適用できる。
図1は、本開示に係る技術が適用され得る内視鏡手術システム10の概略的な構成の一例を示す図である。図1では、術者(医師)71が、内視鏡手術システム10を用いて、患者ベッド73上の患者75に手術を行っている様子が図示されている。図示するように、内視鏡手術システム10は、内視鏡20と、その他の術具30と、内視鏡20を支持する支持アーム装置40と、内視鏡下手術のための各種の装置が搭載されたカート50と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ37a~37dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ37a~37dから、内視鏡20の鏡筒21や、その他の術具30が患者75の体腔内に挿入される。図示する例では、その他の術具30として、気腹チューブ31、エネルギー処置具33および鉗子35が、患者75の体腔内に挿入されている。また、エネルギー処置具33は、高周波電流や超音波振動により、組織の切開および剥離、または血管の封止等を行う処置具である。ただし、図示する術具30はあくまで一例であり、術具30としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡20によって撮影された患者75の体腔内の術部の画像が、表示装置53に表示される。術者71は、表示装置53に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具33や鉗子35を用いて、例えば患部を切除する等の処置を行う。なお、気腹チューブ31、エネルギー処置具33および鉗子35は、手術中に、術者71または助手等によって支持される。
(支持アーム装置)
支持アーム装置40は、ベース部41から延伸するアーム部43を備える。図示する例では、アーム部43は、関節部45a、45b、45c、およびリンク47a、47bから構成されており、アーム制御装置57からの制御により駆動される。アーム部43によって内視鏡20が支持され、その位置および姿勢が制御される。これにより、内視鏡20の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡20は、先端から所定の長さの領域が患者75の体腔内に挿入される鏡筒21と、鏡筒21の基端に接続されるカメラヘッド23と、から構成される。図示する例では、硬性の鏡筒21を有するいわゆる硬性鏡として構成される内視鏡20を図示しているが、内視鏡20は、軟性の鏡筒21を有するいわゆる軟性鏡として構成されてもよい。
鏡筒21の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡20には光源装置55が接続されており、当該光源装置55によって生成された光が、鏡筒21の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者75の体腔内の観察対象に向かって照射される。なお、内視鏡20は、直視鏡であってもよいし、斜視鏡または側視鏡であってもよい。
カメラヘッド23の内部には光学系および撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)51に送信される。なお、カメラヘッド23には、その光学系を適宜駆動させることにより、倍率および焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド23には撮像素子が複数設けられてもよい。この場合、鏡筒21の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU51は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡20および表示装置53の動作を統括的に制御する。具体的には、CCU51は、カメラヘッド23から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU51は、当該画像処理を施した画像信号を表示装置53に提供する。また、CCU51は、カメラヘッド23に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置53は、CCU51からの制御により、当該CCU51によって画像処理が施された画像信号に基づく画像を表示する。内視鏡20が例えば4K(水平画素数3840×垂直画素数2160)または8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、および/または3D表示に対応したものである場合には、表示装置53としては、それぞれに対応して、高解像度の表示が可能なもの、および/または3D表示可能なものが用いられ得る。4Kまたは8K等の高解像度の撮影に対応したものである場合、表示装置53として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置53が設けられてもよい。
光源装置55は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡20に供給する。
アーム制御装置57は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置40のアーム部43の駆動を制御する。
入力装置59は、内視鏡手術システム10に対する入力インタフェースである。ユーザは、入力装置59を介して、内視鏡手術システム10に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置59を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置59を介して、アーム部43を駆動させる旨の指示や、内視鏡20による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具33を駆動させる旨の指示等を入力する。
入力装置59の種類は限定されず、入力装置59は各種の公知の入力装置であってよい。入力装置59としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ69および/またはレバー等が適用され得る。入力装置59としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置53の表示面上に設けられてもよい。
あるいは、入力装置59は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置59は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。
更に、入力装置59は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置59が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者71)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置61は、組織の焼灼、切開または血管の封止等のためのエネルギー処置具33の駆動を制御する。気腹装置63は、内視鏡20による視野の確保および術者の作業空間の確保の目的で、患者75の体腔を膨らめるために、気腹チューブ31を介して当該体腔内にガスを送り込む。レコーダ65は、手術に関する各種の情報を記録可能な装置である。プリンタ67は、手術に関する各種の情報を、テキスト、画像またはグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム10において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置40は、基台であるベース部41と、ベース部41から延伸するアーム部43と、を備える。図示する例では、アーム部43は、複数の関節部45a、45b、45cと、関節部45bによって連結される複数のリンク47a、47bと、から構成されているが、図1では、簡単のため、アーム部43の構成を簡略化して図示している。
実際には、アーム部43が所望の自由度を有するように、関節部45a~45cおよびリンク47a、47bの形状、数および配置、並びに関節部45a~45cの回転軸の方向等が適宜設定され得る。例えば、アーム部43は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部43の可動範囲内において内視鏡20を自由に移動させることが可能になるため、所望の方向から内視鏡20の鏡筒21を患者75の体腔内に挿入することが可能になる。
関節部45a~45cにはアクチュエータが設けられており、関節部45a~45cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置57によって制御されることにより、各関節部45a~45cの回転角度が制御され、アーム部43の駆動が制御される。これにより、内視鏡20の位置および姿勢の制御が実現され得る。この際、アーム制御装置57は、力制御または位置制御等、各種の公知の制御方式によってアーム部43の駆動を制御することができる。
例えば、術者71が、入力装置59(フットスイッチ69を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置57によってアーム部43の駆動が適宜制御され、内視鏡20の位置および姿勢が制御されてよい。当該制御により、アーム部43の先端の内視鏡20を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部43は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部43は、手術室から離れた場所に設置される入力装置59を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置57は、ユーザからの外力を受け、その外力にならってスムーズにアーム部43が移動するように、各関節部45a~45cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部43に触れながらアーム部43を移動させる際に、比較的軽い力で当該アーム部43を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡20を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡20が支持されていた。これに対して、支持アーム装置40を用いることにより、人手によらずに内視鏡20の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置57は必ずしもカート50に設けられなくてもよい。また、アーム制御装置57は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置57は、支持アーム装置40のアーム部43の各関節部45a~45cにそれぞれ設けられてもよく、複数のアーム制御装置57が互いに協働することにより、アーム部43の駆動制御が実現されてもよい。
(光源装置)
光源装置55は、内視鏡20に術部を撮影する際の照射光を供給する。光源装置55は、例えばLED、レーザ光源またはこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度および出力タイミングを高精度に制御することができるため、光源装置55において撮像画像のホワイトバランスの調整を行うことができる。
また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド23の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置55は、出力する光の強度を所定の時間毎に変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド23の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれおよび白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置55は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。
あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、またはインドシアニングリーン(ICG)等の試薬を体組織に局注すると共に当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置55は、このような特殊光観察に対応した狭帯域光および/または励起光を供給可能に構成され得る。
(カメラヘッドおよびCCU)
図2を参照して、内視鏡20のカメラヘッド23およびCCU51の機能についてより詳細に説明する。図2は、図1に示すカメラヘッド23およびCCU51の機能構成の一例を示すブロック図である。
図2を参照すると、カメラヘッド23は、その機能として、レンズユニット25、撮像部27、駆動部29、通信部26、およびカメラヘッド制御部28を有する。また、CCU51は、その機能として、通信部81、画像処理部83、および制御部85を有する。カメラヘッド23とCCU51とは、伝送ケーブル91によって双方向に通信可能に接続されている。
まず、カメラヘッド23の機能構成について説明する。レンズユニット25は、鏡筒21との接続部に設けられる光学系である。鏡筒21の先端から取り込まれた観察光は、カメラヘッド23まで導光され、当該レンズユニット25に入射する。レンズユニット25は、ズームレンズおよびフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット25は、撮像部27の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズおよびフォーカスレンズは、撮像画像の倍率および焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部27は撮像素子によって構成され、レンズユニット25の後段に配置される。レンズユニット25を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部27によって生成された画像信号は、通信部26に提供される。
撮像部27を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者71は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部27を構成する撮像素子は、3D表示に対応する右目用および左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者71は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部27が多板式で構成される場合には、各撮像素子に対応して、レンズユニット25も複数系統設けられる。
また、撮像部27は、必ずしもカメラヘッド23に設けられなくてもよい。例えば、撮像部27は、鏡筒21の内部に、対物レンズの直後に設けられてもよい。
駆動部29は、アクチュエータによって構成され、カメラヘッド制御部28からの制御により、レンズユニット25のズームレンズおよびフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部27による撮像画像の倍率および焦点が適宜調整され得る。
通信部26は、CCU51との間で各種の情報を送受信するための通信装置によって構成される。通信部26は、撮像部27から得た画像信号をRAWデータとして伝送ケーブル91を介してCCU51に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。
手術の際には、術者71が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部26には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル91を介してCCU51に送信される。
また、通信部26は、CCU51から、カメラヘッド23の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/または撮像画像の倍率および焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部26は、受信した制御信号をカメラヘッド制御部28に提供する。
なお、CCU51からの制御信号も、光通信によって伝送されてもよい。この場合、通信部26には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部28に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU51の制御部85によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能およびAWB(Auto White Balance)機能が内視鏡20に搭載される。
カメラヘッド制御部28は、通信部26を介して受信したCCU51からの制御信号に基づいて、カメラヘッド23の駆動を制御する。例えば、カメラヘッド制御部28は、撮像画像のフレームレートを指定する旨の情報および/または撮像時の露光を指定する旨の情報に基づいて、撮像部27の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部28は、撮像画像の倍率および焦点を指定する旨の情報に基づいて、駆動部29を介してレンズユニット25のズームレンズおよびフォーカスレンズを適宜移動させる。カメラヘッド制御部28は、更に、鏡筒21やカメラヘッド23を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット25や撮像部27等の構成を、気密性および防水性が高い密閉構造内に配置することで、カメラヘッド23について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU51の機能構成について説明する。通信部81は、カメラヘッド23との間で各種の情報を送受信するための通信装置によって構成される。通信部81は、カメラヘッド23から、伝送ケーブル91を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部81には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部81は、電気信号に変換した画像信号を画像処理部83に提供する。
また、通信部81は、カメラヘッド23に対して、カメラヘッド23の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部83は、カメラヘッド23から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理および/または手ブレ補正処理等)、並びに/または拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部83は、AE、AFおよびAWBを行うための、画像信号に対する検波処理を行う。
画像処理部83は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部83が複数のGPUによって構成される場合には、画像処理部83は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部85は、内視鏡20による術部の撮像、およびその撮像画像の表示に関する各種の制御を行う。例えば、制御部85は、カメラヘッド23の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部85は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡20にAE機能、AF機能およびAWB機能が搭載されている場合には、制御部85は、画像処理部83による検波処理の結果に応じて、最適な露出値、焦点距離およびホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部85は、画像処理部83によって画像処理が施された画像信号に基づいて、術部の画像を表示装置53に表示させる。この際、制御部85は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。
例えば、制御部85は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具33使用時のミスト等を認識することができる。制御部85は、表示装置53に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者71に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド23およびCCU51を接続する伝送ケーブル91は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、またはこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル91を用いて有線で通信が行われていたが、カメラヘッド23とCCU51との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル91を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル91によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム10の一例について説明した。
なお、ここでは、一例として内視鏡手術システム10について説明したが、本開示に係る技術が適用され得るシステムは係る例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
以下の説明おいては、本技術が適用される例として、上記した内視鏡手術システム10を一例として説明を続ける。本技術が適用される内視鏡手術システム10においては、通常画像と特殊画像を取得し、取得された通常画像と特殊画像を重畳して術者に提示することができる。
この通常画像と特殊画像を取得し、取得された通常画像と特殊画像を重畳することについて説明を加えるために、再度、内視鏡手術システムの構成について説明する。図3は、通常画像と特殊画像を取得し、取得された通常画像と特殊画像を重畳し、重畳した画像を提示する機能を有する内視鏡装置の一例の構成を示す図である。
ここで通常画像とは、被写体となる臓器などに白色光などの通常光を照射して撮像した画像を指す。以下、通常画像を通常フレームとも称する。特殊画像とは、通常光とは異なる所定の波長の特殊光を照射して撮像した画像を指す。以下、特殊画像を特殊フレームとも称する。なお、特殊画像を撮像する際には、被写体となる血管(血液)や病変には特殊光の照射に反応する蛍光剤などを混入または塗布することがある。
図3に示した内視鏡装置110は、通常フレームと特殊フレームを時分割で撮像し、これらを正確に位置合わせして合成し、その結果得られる合成フレームを表示する内視鏡装置の構成例を示している。
この内視鏡装置110は、光源部111、撮像部112、現像部113、画像処理部114、および表示部115から構成される。光源部111は、例えば、内視鏡手術システム10の光源装置55(図1)に該当し、撮像部112は、撮像部27(図2)に該当し、現像部113は、画像処理部83(図2)に含まれ、画像処理部114は、画像処理部83(図2)に該当し、表示部115は、表示装置53(図1)に該当する。
光源部111は、撮像されるフレーム毎に、白色光などの通常光または所定の波長を有する特殊光を切り替えて被写体(体内の臓器など)に照射する。また、光源部111は、撮像されるフレーム毎に、通常光または特殊光のどちらを照射したのかを示す照射識別信号を画像処理部114に出力する。なお、特殊光を照射するには、通常光の光路に所定の波長のみを透過する光学フィルタを設ければよい。
撮像部112は、光源部111から通常光または特殊光が照射されている状態の被写体を撮像し、その結果得られる画像信号を現像部113に出力する。現像部113は、撮像部112から入力される画像信号に対してモザイク処理などの現像処理を行い、処理結果の画像信号(通常光照射時の通常フレーム、または特殊光照射時の特殊フレーム)を画像処理部114に出力する。
ここで、特殊フレームは、血管、腫瘍などの病変が通常フレームに比較してより明確になっているが、その反面、フレーム全体の明るさが暗く、ノイズが多いものとなる。一方、通常フレームは、特殊フレームに比較してフレーム全体の明るさが明るく、ノイズが少ないが、その反面、血管や腫瘍などの病変が見分けにくいものとなる。
画像処理部114は、撮像タイミングが異なる2枚の通常フレームを用いて動きベクトルを検出する。また、画像処理部114は、通常フレームから検出した動きベクトルに基づき、特殊フレームの動き補正を行い、通常フレーム、並びに動き補正した特殊フレームを合成し、その結果得られた合成フレームを表示部115に出力する。
表示部115は、合成フレームを表示する。
<通常フレームと特殊フレームの撮像タイミング>
図4は、通常フレームと特殊フレームの撮像タイミングの一例を示している。
内視鏡装置110においては、数フレーム連続して通常フレームを撮像し、その間に定期的に特殊フレームを撮像するようにする。例えば、図4に示されるように、通常フレームと特殊フレームの撮像の割合を4:1とする。
ただし、この割合は4:1に限定されるものではなく、変更可能としてもよい。同図におけるTaは特殊フレームが撮像される1フレーム前に通常フレームが撮像されたタイミングを、Tbは特殊フレームが撮像されるタイミングを、Tc,Td,Teは、それぞれ特殊フレームが撮像された1,2,3フレーム後に通常フレームが撮像されたタイミングを示している。Ta乃至Teは、後述する動きベクトルの検出の説明に使用する。
<画像処理部114の構成例>
次に、図5は、画像処理部114の構成例を示している。
画像処理部114は、切り替え部121、動きベクトル検出部122、補正量推定部123、フレームメモリ124、動き補正部125、および重畳処理部126から構成される。
画像処理部114において、前段の現像部113から入力される通常フレームおよび特殊フレームは切り替え部121に入力され、光源部111からの照射識別信号は切り替え部121、動きベクトル検出部122、および補正量推定部123に入力される。
切り替え部121は、照射識別信号に基づき、現像部113からの入力が特殊フレームであるか否かを判別し、特殊フレームではない(通常フレームである)場合には動きベクトル検出部122および重畳処理部126に出力し、特殊フレームである場合にはフレームメモリ124に出力する。
動きベクトル検出部122は、フレーム周期毎に、撮像タイミングが異なる2枚の通常フレームを用いて動きベクトルを検出し、検出した動きベクトルを補正量推定部123に出力する。
補正量推定部123は、動きベクトル検出部122で検出された動きベクトルに基づき、特殊フレームの動き補正量を推定し、推定した動き補正量を動き補正部125に出力する。なお、補正量推定部123は、連続して検出された動きベクトルに基づき、誤検出されている可能性がある動きベクトルを補正することができ、補正した動きベクトルに基づいて動き補正量を推定できる。
フレームメモリ124は、切り替え部121から入力された特殊フレームを保持し、フレーム周期毎に、保持する特殊フレームを動き補正部125に供給する。また、フレームメモリ124は、切り替え部121から次の特殊フレームは入力された場合、保持する特殊フレームを更新する。
なお、例えば、微小ブロック内の例えば(3x3)の分散やダイナミックレンジが閾値以上の領域を抽出し、抽出結果を表す特徴抽出フレームを生成する処理が実行されるようにしても良い。また例えば、画素の信号レベルが特定の閾値内の領域、すなわち特定のRGBレベルを持つ領域を抽出し、抽出結果を表す特徴抽出フレームを生成する処理が実行されるようにしても良い。また例えば、(腫瘍などに相当する)閉領域に対してSNAKE等の輪郭検出処理を行い、その結果を表す特徴抽出フレームを生成するようにしてもよい。
動き補正部125は、動き補正量推定部123から入力される動き補正量に基づき、フレームメモリ124からの特殊フレームの動き補正を行い、動き補正後の特殊フレームを重畳処理部126に出力する。
重畳処理部126は、通常フレームと動き補正後の特殊フレームを入力として、重畳合成処理を行うことによって合成フレーム(重畳フレーム)を生成して後段の表示部115に出力する。
<動きベクトル検出部122の構成例>
図6は、動きベクトル検出部122の構成例を示している。動きベクトル検出部122は、フレームメモリ131および132、フレーム選択部133、ブロックマッチング部134、並びにベクトル補正部135から構成される。
動きベクトル検出部122において、前段の切り替え部121から入力される通常フレームはフレームメモリ131およびフレーム選択部133に入力される。
フレームメモリ131は、フレーム周期毎に、それまで保持していた通常フレームをフレームメモリ132およびフレーム選択部133に出力するとともに、保持するデータを前段の切り替え部121から入力される通常フレームにより更新する。同様に、フレームメモリ132は、フレーム周期毎に、保持していた通常フレームをフレーム選択部133に出力するとともに、保持するデータを前段のフレームメモリ131から入力される通常フレームにより更新する。
ただし、フレーム周期のうち、動きベクトル検出部122に通常フレームが入力されないタイミングでは、フレームメモリ131は、それまで保持していた通常フレームを後段に出力するとともに、それまで保持していたデータをクリアする。
その次のタイミングでは、フレームメモリ131は、保持しているデータがないので、後段への出力は行わない。フレームメモリ132は、それまで保持していた通常フレームを後段に出力するとともに、それまで保持していたデータをクリアする。
したがって、フレーム選択部133には、撮像タイミングが異なる2枚または3枚の通常フレームが同時に入力されることになる。
フレーム選択部133は、同時に2枚の通常フレームが入力された場合、該2枚の通常フレームをブロックマッチング部134に出力する。また、フレーム選択部133は、同時に3枚の通常フレームが入力された場合、フレームメモリ131および132から入力された2枚の通常フレームをブロックマッチング部134に出力する。ブロックマッチング部134は、ブロックマッチング処理によって2枚の通常フレーム間の動きベクトルを検出する。
ベクトル補正部135は、照射識別信号に基づいて、動きベクトルに用いられた2枚の通常フレームの関係を判断し、その関係に基づいて、検出された動きベクトルを補正して動きベクトルを補正量推定部123に出力する。
ベクトル補正部135による動きベクトルの補正について具体的に説明する。フレームメモリ131からの出力を基準とすれば、基準の撮像タイミングが図4に示されるTaである場合、フレーム選択部133に対して、フレームメモリ132から基準よりも1フレーム前の通常フレームと、フレームメモリ131から基準の通常フレームとが入力され、この2枚の通常フレームから動きベクトルが検出される。この場合、ベクトル補正部135は動きベクトルの補正を行わない。
基準の撮像タイミングが図4に示されるTbである場合、Tbは特殊フレームの撮像タイミングであるので、フレームメモリ131は出力しない。そして、フレーム選択部133に対して、フレームメモリ131から基準よりも1フレーム前の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、この2枚の通常フレームから動きベクトルが検出される。この場合、検出された動きベクトルは2フレーム分離れた通常フレーム間のものであるので、ベクトル補正部135は検出された動きベクトルの縦横それぞれの成分に1/2を乗算する。
基準の撮像タイミングが図4に示されるTcである場合、フレーム選択部133に対して、フレームメモリ131から基準の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、この2枚の通常フレームから動きベクトルが検出される。この場合、検出された動きベクトルの方向が反対しているので、ベクトル補正部135は検出された動きベクトルの縦横それぞれの成分に-1を乗算する。
基準の撮像タイミングが図4に示されるTdである場合、フレーム選択部133に対しては、フレームメモリ132から基準よりも1フレーム前の通常フレームと、フレームメモリ131から基準の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、フレームメモリ131および132からの2枚の通常フレームから動きベクトルが検出される。この場合、ベクトル補正部135は動きベクトルの補正を行わない。
基準の撮像タイミングが図4に示されるTeである場合、フレーム選択部133に対しては、フレームメモリ132から基準よりも1フレーム前の通常フレームと、フレームメモリ131から基準の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、フレームメモリ131および132からの2枚の通常フレームから動きベクトルが検出される。この場合、ベクトル補正部135は動きベクトルの補正を行わない。
以上のようにして補正された動きベクトルがベクトル補正部135から後段の補正量推定部123に出力される。
<画像処理部114による画像合成処理>
次に、画像処理部114による画像合成処理について図7を参照して説明する。図7は、画像合成処理を説明するフローチャートである。この画像合成処理はフレーム周期毎に実行される。
ステップS11において、切り替え部121は、照射識別信号に基づき、現像部113からの入力が特殊フレームであるか否かを判別し、特殊フレームであると判別した場合、該特殊フレームをフレームメモリ124に出力する。反対に、特殊フレームではない(通常フレームである)と判別した場合、該通常フレームを動きベクトル検出部122および重畳処理部126に出力する。
ステップS12において、フレームメモリ124は、それまで保持していた特殊フレームを動き補正部125に供給する。なお、切り替え部121から特殊フレームが入力された場合には、保持する特殊フレームを更新する。
ステップS13において、動きベクトル検出部122は、撮像タイミングが異なる2枚の通常フレームを用いて動きベクトルを検出し補正量推定部123に出力する。ステップS14において、補正量推定部123は、検出された動きベクトルが所定の閾値以下であるか否かを判定し、所定の閾値以下である場合には、その動きベクトルを動き補正に利用するために処理をステップS15に進める。反対に、検出された動きベクトルが所定の閾値よりも大きい場合には、その動きベクトルを動き補正に利用しない。この場合、今回の撮像タイミングに対応する画像合成処理は終了される。
ステップS15においては、補正量推定部123は、動きベクトル検出部122で検出された動きベクトルに基づき、特殊フレームの動き補正量を推定し、推定した動き補正量を動き補正部125に出力する。
動き補正量が推定された後、処理はステップS16に進められる。ステップS16において、動き補正部125は、動き補正量推定部123から入力される動き補正量に基づき、フレームメモリ124からの特殊フレームの動き補正を行い、動き補正後の特殊フレームを重畳処理部126に出力する。重畳処理部126に入力された通常フレームと特殊フレームは、それぞれにおける被写体が正確に位置合わせされたものとなる。
ステップS17において、重畳処理部126は、通常フレームと、動き補正後の特殊フレームを用いて重畳合成処理を行うことによって合成フレームを生成して後段の表示部115に出力する。
このような処理が行われることで、内視鏡装置110によれば、通常フレームのみを使って動きベクトルを検出し、検出した動きベクトルを補正してから動き補正量を推定することができ、特殊フレームの動き補正を正確に実行できる。これにより、通常フレームに対して、血管や腫瘍などの特殊フレームの情報を正確に位置合わせできるので、ユーザ(手術を行う医師など)に対し、切除すべき腫瘍部分と、切除してはいけない血管部分を正確かつ明確に視認させることができる。
ユーザに提示される合成フレームは、通常フレームをベースに作られているので、特殊フレームに比べて、明るくノイズ少ない合成フレームをユーザに提示できる。
<重畳された部分の信号レベルについて>
上記したように、通常フレームと特殊フレームを重畳するとき、単に画素値を加算して合成フレームを生成した場合、信号が飽和してしまう領域、換言すれば、デジタル信号値が取り得る範囲の最大を超えてしまう領域があり、視認性の悪い画像、特に特殊画像の詳細な情報が失われた画像となってしまう可能性がある。
例えば、図8に示したような通常フレーム301と特殊フレーム302が取得された場合を考える。通常フレーム301には、視認できる血管が撮像され、特殊フレーム302には、視認できる結果の他に、深い位置にあり通常フレーム301では撮像されていない血管も撮像されている。
このような通常フレーム301と特殊フレームを重畳する場合を考える。通常フレーム301のA-A’のラインと、このラインに該当する位置にある特殊フレームのB-B’のラインを重畳したときを考える。この場合、位置を横軸にとり、信号レベルを縦軸にとった場合、図9に示すようなグラフが得られる。
通常フレーム301のラインA-A’のうち、a-a’の部分には血管が撮像されている。同様に、特殊フレーム302のラインB-B’のうち、b-b’の部分には血管が撮像されている。通常フレーム301のラインA-A’上の画素の信号レベルは、どの画素も飽和レベルを超えていない。
このような通常フレーム301に特殊フレーム302を重畳した場合、特殊フレーム302のラインB-B’のうち、b-b’の部分にある血管が、通常フレーム301のラインA-A’のa-a’の部分の血管に重畳されることなる。
a-a’の部分の血管とb-b’の部分の血管が重畳されることで、飽和信号レベルを超える可能性がある。飽和信号レベルを超えると、例えば、白飛びしてしまい、詳細な情報が失われてしまう可能性がある。例えば、複数の血管が撮像されていても、重畳されることで飽和信号レベルを超えてしまうと、複数の血管を識別できない表示となる可能性があり、詳細な情報が失われてしまう可能性がある。
重畳後に飽和信号レベルを超えないように、通常フレームと特殊フレームを重畳するために、例えば、重畳後に飽和信号レベルを超えない一定の混合比で通常画像と特殊画像を重畳した場合、周辺情報(例えば、患部の周辺の情報)を含む通常フレームが暗くなる可能性があり、詳細な周辺情報が失われた画像となってしまう可能性がある。
例えば、上記した場合と同じく、図8に示したような通常フレーム301と特殊フレーム302が取得され、重畳する場合を考える。a-a’の部分には血管とb-b’の部分にある血管が重畳されることで、飽和信号レベルを超える可能性があるため、予め通常フレームの信号レベルを下げておく。
例えば、図10に示すように、取得された通常フレーム301の信号レベルはレベルCであるが、レベルCよりも低いレベルC’の信号レベルに変換され、その後、特殊フレーム302と重畳される。
このように信号レベルを下げてから、重畳することで、a-a’の部分の血管とb-b’の部分の血管が重畳されても、飽和信号レベルを超えることがないように重畳することができる。
しかしながら、本来、通常フレーム301の信号レベルはレベルCだけあったのが、レベルC’に下げられることにより、例えば、輝度が下がり、通常フレーム301の画像が暗くなり、見づらくなってしまう可能性がある。
以下に説明する本技術を適用することで、通常フレームと特殊フレームを、詳細な情報が失われることなく重畳することができる。
<重畳処理部の構成>
図11は、重畳処理部126の内部構成例を示す図である。重畳処理部126は、画素値算出部401と通常フレーム重畳率算出部402を含む構成とされている。
重畳処理部126の通常フレーム重畳率算出部402には、特殊フレーム302が供給される。通常フレーム重畳率算出部402は、供給された特殊フレーム302の例えば輝度値を参照し、通常フレーム301と特殊フレーム302を重畳するときの、通常フレーム301と特殊フレーム302の混合比を算出する。
通常フレーム重畳率算出部402には、重畳制御情報304も供給される。通常フレーム重畳率算出部402は、重畳制御情報304に基づき、混合比を算出する。ここでは、通常フレーム301をどの程度の割合で特殊フレーム302と重畳するかを表す通常フレーム重畳率305を算出するとして説明を続ける。
なお、重畳率については後述するが、通常フレーム301を重畳する割合(通常フレーム重畳率305)と特殊フレーム302を重畳する割合(特殊フレーム重畳率306とする)を加算すると、1.0(100%)になるように設定されているため、一方が算出されれば、他方も算出されるという関係にある。
なお、ここでは、通常フレーム重畳率305と特殊フレーム重畳率306を加算した場合、1.0(100%)になる関係にあるとして説明を続けるが、他の関係、例えば、2.0になるなどの関係になっていても、本技術の適用範囲である。
ここでは、通常フレーム重畳率算出部402は、特殊フレーム302を参照して、通常フレーム重畳率305を算出するとして説明を続けるが、特殊フレーム重畳率306を算出するようにし、以下に説明する処理が実行されるようにすることも可能である。
また、通常フレーム重畳率算出部402は、特殊フレーム302を参照して、通常フレーム重畳率305と特殊フレーム重畳率306をともに算出するようにし、以下に説明する処理が実行されるようにすることも可能である。
通常フレーム重畳率算出部402は、特殊フレーム302を参照して、特殊フレーム重畳率306を算出し、その算出した重畳率を、特殊フレーム302(の画素値)に乗算した値を画素値算出部401に供給するようにし、以下に説明する処理の一部を、通常フレーム重畳率算出部402で行う構成とすることも可能である。
また通常フレーム重畳率算出部402に供給される特殊フレーム302は、所定のフィルタによる処理が施されたフレームであっても良い。例えば、エッジを強調するフィルタによる処理が施された特殊フレーム302が、通常フレーム重畳率算出部402に供給される構成としても良い。
画素値算出部401には、通常フレーム301と特殊フレーム302が供給される。また画素値算出部401には、通常フレーム重畳率算出部402で算出された通常フレーム重畳率305も供給される。
画素値算出部401は、通常フレーム301のうちの処理対象とされた画素の画素値と、特殊フレーム302のうちの処理対象とされた画素の画素値を加算し、重畳フレーム303の画素の画素値を算出する。加算するとき、通常フレーム301の画素値に通常フレーム重畳率305を乗算し、その乗算した値と、特殊フレーム302の画素値に特殊フレーム重畳率306を乗算した値が加算される。
式で表すと次式(1)となる。
重畳フレーム303の画素値
=(通常フレーム301の画素値)×(通常フレーム重畳率305)
+(特殊フレーム302の画素値)×(特殊フレーム重畳率306) ・・・(1)
(特殊フレーム重畳率306)=1-(通常フレーム重畳率305)
なおここでの重畳フレーム303の画素値の算出の仕方は一例であり、他の式に基づき算出されるようにしても良い。
また、式(1)に基づく処理は、画素毎に行われ、適用されている色空間に応じた画素値が用いられた処理が実行される。
例えば、YCbCr空間の場合、通常フレーム301の画素値を(Ywl, Cbwl, Crwl)とし、特殊フレーム302の画素値を(Yfl, Cbfl, Crfl)とし、重畳フレーム303の画素値を(Yov, Cbov, Crov)とし、通常フレーム重畳率をRとした場合、次式のように算出される。
Yov=R×Ywl+(1.0-R)×Yfl
Cbov=R×Cbwl+(1.0-R)×Cbfl
Crov=R×Crwl+(1.0-R)×Crfl
なお、特殊フレーム302が、1チャネルの場合(白黒画像の場合)、Cbfl, Crflは0として算出が行われる。
RGB空間の場合、通常フレーム301の画素値を(Rwl, Gwl, Bwl)とし 特殊フレーム302の画素値を(Rfl, Gfl, Bfl)とし、重畳フレーム303の画素値を(Rov, Gov, Bov)とし、通常フレーム重畳率をRとした場合、次式のように算出される。
Rov=R×Rwl+(1.0-R)×Rfl
Gov=R×Gwl+(1.0-R)×Gfl
Bov=R×Bwl+(1.0-R)×Bfl
なお、特殊フレーム302が、1チャネルの場合(白黒画像の場合)、特殊フレーム302のRGB値全てに同じ値が入っている、すなわち、Rfl=Gfl=Bfl=Yflとして算出が行われる。
なお、ここで例に挙げたYCbCr空間、RGB空間以外の色空間であっても、本技術を適用することはでき、色空間に適した計算が実行される。
<重畳率定義関数>
ここで、重畳制御情報304について説明を加える。重畳制御情報304は、例えば、図12に示すグラフ(適宜、重畳率定義関数と記述する)で定義される情報である。
図12に示したグラフは、横軸に特殊フレーム302の強度値Yを表し、縦軸に通常フレーム重畳率305を表す。特殊フレーム302の強度値Yと、通常フレーム重畳率305は、0~1.0の値を取る可能性のある値であるとする。特殊フレーム302の強度値Yは、例えば、特殊フレーム302の画素の輝度値とすることができる。
ここで、強度値Yについて説明を加えておく。特殊フレーム302(特殊画像)は、蛍光強度(輝度)に応じたデジタル値を持つ画像であり、1チャネルの白黒画像である。また特殊フレーム302には、単色の色がついている場合もあり、蛍光強度に応じたカラーマップが割り当てられている場合もある。そのような場合には、特殊フレーム302は、カラー画像となる。
カラー画像の場合、画素値は3チャネルであることが多く、定義される色空間はRGB, YCbCr, YIQ, L*a*b*, L*u*v*等、様々考えられる。
このような特殊フレーム302から、強度値Yを定義する。強度値Yは、蛍光強度に相関のある値であれば良く、具体的には輝度値等を用いることができる。1チャネルの白黒画像であれば、画素値そのものを強度値Yとして用いることができる。また、カラー画像であれば、輝度に相当するチャネルを強度値Yとしても良いし、3チャネルの信号から適切な比率で混合して算出される値を強度値Yとしても良い。
図12に示したグラフを参照するに、特殊フレーム302の強度値Yには、閾値Yth1と閾値Yth2が設定されている。また、通常フレーム重畳率305には、閾値Rth1と閾値Rth2が設定されている。これらの閾値Yth1、閾値Yth2、閾値Rth1、および閾値Rth2が、重畳制御情報304とされ、通常フレーム重畳率算出部402に供給される。
通常フレーム重畳率算出部402は、供給された特殊フレーム302の強度値Yが0~閾値Yth1の範囲内の値である場合、通常フレーム重畳率305を、閾値Rth1とする。すなわち、
強度値Y<閾値Yth1 である場合、
通常フレーム重畳率305=閾値Rth1
とされる。
例えば、閾値Rth1が0.8であった場合、通常フレーム重畳率305は、0.8とされ、画素値算出部401に供給される。このような場合、画素値算出部401において、通常フレーム301と特殊フレーム302は、0.8:0.2の割合で重畳される。
上記した式(1)に代入すると、
重畳フレーム303の画素値=(通常フレーム301の画素値)×0.8
+(特殊フレーム302の画素値)×0.2
となる。このような演算により、重畳フレーム303の画素値が算出される。
また、通常フレーム重畳率算出部402は、供給された特殊フレーム302の強度値Yが閾値Yth1~閾値Yth2の範囲内の値である場合、その強度値Yに応じた通常フレーム重畳率305とする。
すなわち、
閾値Yth1≦強度値Y<閾値Yth2 である場合、
次式(2)で算出される値Rが、通常フレーム重畳率305に設定される。
R=a×Y+b
a=(Rth2-Rth1)/(Yth2-Yth1) , b=Rth1-a×Yth1
・・・(2)
式(2)は、通常フレーム重畳率305(=R)を求める1次関数である。ここでは、閾値Yth1≦強度値Y<閾値Yth2である場合、1次関数で求められる値を、通常フレーム重畳率305とする場合を例に挙げて説明を続けるが、後述するように、1次関数以外の関数を用いたり、強度値Yと通常フレーム重畳率305を関連付けたテーブルなどを用いたりすることも可能である。
例えば、式(2)に基づき、通常フレーム重畳率305が0.5と算出された場合、通常フレーム重畳率305は、0.5とされ、画素値算出部401に供給される。このような場合、画素値算出部401において、通常フレーム301と特殊フレーム302は、0.5:0.5の割合で重畳される。
上記した式(1)に代入すると、
重畳フレーム303の画素値=(通常フレーム301の画素値)×0.5
+(特殊フレーム302の画素値)×0.5
となる。このような演算により、重畳フレーム303の画素値が算出される。
また、通常フレーム重畳率算出部402は、供給された特殊フレーム302の強度値Yが閾値Yth2~1.0の範囲内の値である場合、通常フレーム重畳率305を、閾値Rth2とする。すなわち、
閾値Yth2≦強度値Y である場合、
通常フレーム重畳率305=閾値Rth2
とされる。
例えば、閾値Rth2が0.2であった場合、通常フレーム重畳率305は、0.2とされ、画素値算出部401に供給される。このような場合、画素値算出部401において、通常フレーム301と特殊フレーム302は、0.2:0.8の割合で重畳される。
上記した式(1)に代入すると、
重畳フレーム303の画素値=(通常フレーム301の画素値)×0.2
+(特殊フレーム302の画素値)×0.8
となる。このような演算により、重畳フレーム303の画素値が算出される。
このように、特殊フレーム302の強度値Yにより、通常フレーム301と特殊フレーム302の重畳の割合(ブレンド比)が設定されるため、重畳フレーム303において、信号レベルが飽和してしまうようなことを防ぐことができる。
例えば、上述した図8に示したような通常フレーム301と特殊フレーム302が取得された場合を再度考える。図8に示したような通常フレーム301に特殊フレーム302を、図12に示した重畳率定義関数を用い、図11に示した重畳処理部126で処理して重畳した場合、図13に示したような信号レベルの重畳フレーム303が生成される。
a-a’の部分の血管とb-b’の部分の血管が重畳されるが、このように、特殊フレーム302の強度値Yが大きくなる部分では、特殊フレーム302の重畳率が高く設定され、通常フレーム301の重畳率は低く設定される。よって、重畳フレーム303において信号レベルが飽和信号レベルを超えるようなことは防がれる。
よって、図9を参照して説明したように、飽和信号レベルを超えることで、例えば、白飛びしてしまい、詳細な情報が失われてしまう可能性があるが、本技術によれば、そのような状況が発生することを防ぐことができる。
例えば、特殊フレーム302に複数の血管が撮像されていても、重畳されることで飽和信号レベルを超えてしまうと、複数の血管を識別できない表示となる可能性があり、詳細な情報が失われてしまう可能性があるが、本技術によれば、重畳された後も、特殊フレーム302に撮像されている複数の血管は、そのような状態を維持した状態でユーザに提示されるため、詳細な情報を提示することが可能となる。
また、例えば、a-a’の部分(b-b’の部分)以外、換言すれば、特殊フレーム302の強度値Yが小さい部分では、特殊フレーム302の重畳率は低く設定されるが、通常フレーム301の重畳率は高く設定される。よって、通常フレーム301の信号レベルが不用意に低くされてしまうようなことを防ぐことができる。
すなわち、本技術によれば、重畳後に飽和信号レベルを超えないように、通常フレーム301と特殊フレーム302を重畳するようにした場合であるが、一定の混合比で通常フレーム301と特殊フレーム302を重畳するのではなく、可変する混合比で通常フレーム301と特殊フレーム302を重畳する。
よって、図10を参照して説明したように、一定の混合比で通常フレーム301と特殊フレーム302を重畳すると、周辺情報(例えば、患部の周辺の情報)を含む通常フレーム301が暗くなる可能性があり、詳細な周辺情報が失われた画像となってしまう可能性があるが、本技術によれば、そのような状況が発生することを防ぐことができる。
例えば、a-a’の部分(b-b’の部分)以外の部分、換言すれば、特殊フレーム302による画像、例えば血管の画像がない部分や、そのような血管の周辺の部分において、通常フレーム301による画像を、輝度値などを落とすことなく重畳された重畳フレーム303をユーザに提供できるようになる。よって、詳細な周辺情報も提示できる重畳フレーム303を生成し、ユーザに提供することが可能となる。
このように本技術を適用することで、通常フレームと特殊フレームを、詳細な情報が失われることなく重畳することができる。
図13を再度参照するに、信号レンジを輝度成分と見立てると、通常フレーム301と特殊フレーム302の輝度差がなくなり、輝度コントラストが落ちているように見えるが、実際は特殊フレーム302には生体色に無い色、例えば緑色やシアンなどの色が一様についている信号とされているので、色コントラストは十分残っており、視認性は保たれたまま、信号飽和のない重畳を実現することができる。
ところで、重畳率は、図12に示した重畳率定義関数で定義されているとして説明したが、図12に示した重畳率定義関数とは異なる関数で重畳率が設定(算出)されるようにしても良い。
例えば、図14に示す重畳率定義関数を用いることもできる。図14に示した重畳率定義関数は、特殊フレーム302の強度値Yや通常フレーム重畳率305に閾値を設定せずに、0~1.0の間で一次関数で定義される関数である。
重畳率定義関数としては、特殊フレーム302の強度値Yが高いところでは、特殊フレーム302の重畳率が高くなり、特殊フレーム302の強度値Yが低いところでは、特殊フレーム302の重畳率が低くなる関数であればよい。
しかしながら、図14に示した重畳率定義関数よりも、図12に示した重畳率定義関数を用いる方が、より適切に通常フレーム301と特殊フレーム302を重畳できると考えられる。図12に示した重畳率定義関数のように、特殊フレーム302の強度値Yには、閾値Yth1と閾値Yth2が設定され、通常フレーム重畳率305には、閾値Rth1と閾値Rth2が設定されることによる効果について説明する。
また閾値Yth1、閾値Yth2、閾値Rth1、および閾値Rth2が、重畳制御情報304とされ、通常フレーム重畳率算出部402に供給されるようにすることに対する効果についても説明する。すなわち、重畳制御情報304を固定とせずに、可変とする場合について説明し、あわせてその効果についても説明する。
図15に、図12に示した重畳率定義関数を再度示す。また、図15では、通常フレーム重畳率305と特殊フレーム重畳率306を合わせて図示してある。通常フレーム重畳率305は、実線で示し、特殊フレーム重畳率306は、点線で示す。
通常フレーム重畳率305と特殊フレーム重畳率306は、
(通常フレーム重畳率305)+(特殊フレーム重畳率306)=1.0
を満たす関係にある。よって、通常フレーム重畳率305と特殊フレーム重畳率306をグラフにして表すと、図15に示したようになる。
なおここでは、特殊光観察として、励起光を照射することにより発生する蛍光により画像を得る蛍光観察である場合を例に挙げ、特殊フレーム302は、蛍光観察のときに得られるフレーム(画像)である場合を例に挙げて説明する。
特殊フレーム強度値Yが、 強度値Y<閾値Yth1 である場合、特殊フレーム302は、蛍光していない、または微弱な蛍光信号が存在しているフレームである。特殊フレーム強度値Yが、 強度値Y<閾値Yth1 である区間を、背景区間とする。
背景区間における重畳フレーム303は、通常フレーム301が支配的となる。換言すれば、背景区間における重畳フレーム303においては、特殊フレーム302に対して背景の通常フレーム301が見えている領域となる。
一方、特殊フレーム強度値Yが、 閾値Yth2≦強度値Y である場合、特殊フレーム302は、十分に蛍光しているフレームである。特殊フレーム強度値Yが、 閾値Yth2≦強度値Y である区間を、蛍光区間とする。
蛍光区間における重畳フレーム303は、特殊フレーム302が支配的となる。換言すれば、蛍光区間における重畳フレーム303においては、特殊フレーム302が通常フレーム301よりも見えている領域となる。
背景区間と蛍光区間の間の区間を遷移区間とする。この遷移区間は、特殊フレーム強度値Yが、 閾値Yth1<強度値Y<閾値Yth2 の区間であり、通常フレーム301が支配的な状態から特殊フレーム302が支配的な状態へと遷移する区間である。
遷移区間は、蛍光観察が行われる用途により、その区間の適切な長さなどが異なり、適切に調整されるのが良い。すなわち、特殊フレーム302の強度値Yの閾値Yth1と閾値Yth2は、蛍光観察が行われる用途により、適した値とされるのが良い。換言するに、特殊フレーム302の強度値Yの閾値Yth1と閾値Yth2は、可変値とされるのがよい。
そこで、本実施の形態においては、図11に示したように、特殊フレーム302の強度値Yの閾値Yth1と閾値Yth2は、重畳制御情報304として、通常フレーム重畳率算出部402に供給される構成とする。このような構成とすることで、蛍光観察が行われる用途に適した重畳制御情報304を、通常フレーム重畳率算出部402に供給することができる。
例えば、ユーザ(術者)が、蛍光観察が行われる用途を選択できるようにし、その選択にあった重畳制御情報304が、通常フレーム重畳率算出部402に供給されるように構成することができる。
また、通常フレーム重畳率305にも、閾値Rth1と閾値Rth2を設定することで以下のような制御を行うことができる。すなわち、通常フレーム301が支配的な背景区間、または特殊フレーム302が支配的な蛍光区間において、通常フレーム301と特殊フレーム302は、それぞれ微少でも信号が存在し、微少な情報でも消去せずに表示するのが望まし場合もある。そのような場合に、閾値Rth1と閾値Rth2を設けておくことで、対応を取ることが可能となる。
すなわち、図15を参照するに、例えば、特殊フレーム302の強度値Yが、0であった場合(背景区間であった場合)、通常フレーム重畳率305は、閾値Rth1に設定される。この場合、特殊フレーム重畳率306は、(1.0―閾値Rth1)となり、0とはならない。背景区間においても、特殊フレーム302が全く重畳されないといったことはなく、特殊フレーム302に微少な情報がある場合に、その微少な情報を消去せずに重畳フレーム303に反映させることが可能となる。
同様に、図15を参照するに、例えば、特殊フレーム302の強度値Yが、1.0であった場合(蛍光区間であった場合)、通常フレーム重畳率305は、閾値Rth2に設定される。蛍光区間においても、通常フレーム301が全く重畳されないといったことなく、通常フレーム301に微少な情報がある場合に、その微少な情報を消去せずに重畳フレーム303に反映させることが可能となる。
このように、閾値Rth1、閾値Rth2、閾値Yth1、閾値Yth2を設定することで、例えば、蛍光観察の用途に応じた重畳制御情報304とすることができ、適切な重畳処理を行うことが可能となり、詳細な情報を、より鮮明にユーザに提供できる重畳フレーム303を生成することができるようになる。
このように、閾値Rth1、閾値Rth2、閾値Yth1、閾値Yth2を可変とした場合に、背景区間、遷移区間、および蛍光区間への変化をより滑らかにするために、図16に示すような重畳率定義関数が用いられるようにしても良い。
図16に示した重畳率定義関数においては、閾値Yth1の前後で、通常フレーム重畳率305が滑らかに変化する曲線で定義されている。また、閾値Yth2の前後で、通常フレーム重畳率305が滑らかに変化する曲線で定義されている。
このような重畳率定義関数が用いられるようにしても良い。また図示はしないが、S字カーブのような曲線で定義される重畳率定義関数が用いられても良く、折れ線形状のグラフで定義される重畳率定義関数に、本技術の適用が限定される記載ではない。
<重畳制御情報の調整>
次に、上記したように、重畳制御情報304が設定(調整)されることについて、具体的な例を挙げて説明する。
(具体例1)
具体例1として、図17に示すような組織表層血管を観察する場合について説明する。図17に示した組織表層血管は、横方向から見たときの状態を表しており、図中下側に筋組織601があり、その上部に脂肪602がある状態である。また、筋組織601と脂肪602との間に、リンパ節603-1とリンパ節603-2がある状態である。
図17に示したような脂肪602中のリンパ節603をICG蛍光観察する場合、リンパ節603が脂肪602中の深い位置で蛍光し、その状態を脂肪表層外(図17中、脂肪602の外側)からカメラで撮像することになる。よって、蛍光強度が弱くなり見づらくなることが想定できる。換言すれば、取得される特殊フレーム302は、暗くなり、リンパ節603が見づらい画像となっている可能性がある。
そこで、このような組織表層血管を観察する場合、図18に示すような重畳率定義関数が用いられるようにする。図18において、実線で示した重畳率定義関数は、比較のために図12に示した重畳率定義関数である。以下、比較のために示した図12に示した重畳率定義関数は、重畳率定義関数305と記述する。
また、図18において、破線で示した重畳率定義関数305’は、図17に示したような組織表層血管を観察する場合に適した重畳率定義関数を示す。また、重畳率定義関数305と重畳率定義関数305’は、上記した場合と同じく、通常フレーム重畳率305を設定する関数である。
特殊フレーム302が暗くなる可能性がある場合は、蛍光強度が弱いため、蛍光区間を長くする。換言すれば、特殊フレーム302が暗くなる可能性がある場合、特殊フレーム302の強度値Yが取り得る最大値は1.0よりも小さくなる可能性が高い。よって、特殊フレーム302の強度値Yが取り得る最大値を1.0として閾値Yth2が設定されている重畳率定義関数305では、適切な重畳率を設定できない可能性がある。
そこで、特殊フレーム302の強度値Yが取り得る最大値が小さくなることに合わせて、最大値側に設定されている閾値Yth2も小さい値に設定する。すなわち、図18に示すように、重畳率定義関数305’の閾値Yth2‘は、重畳率定義関数305の閾値Yth2よりも小さい値に設定される。
仮に、図17に示したような組織表層血管を観察する場合に、特殊フレーム302の強度値Yが取り得る最大値が閾値Yth2’と同等の値であったとする。このような場合に、仮に重畳率定義関数305が適用され、重畳が実行されると、特殊フレーム302の強度値Yが閾値Yth2’であっても、特殊フレーム302の特殊フレーム重畳率306は、最大値を取らない(通常フレーム301の通常フレーム重畳率305は、最小値を取らない)。
よって、特殊フレーム302のブレンド比は低くなる可能性がある。すなわち、重畳率定義関数305を適用すると、特殊フレーム302が取り得る最大の強度値Yであっても、特殊フレーム重畳率306は、最大値にならない可能性がある。このようなことが発生すると、重畳フレーム303において、特殊フレーム302からの情報量が少なくなってしまう可能性がある。
しかしながら、重畳率定義関数305’を適用することで、特殊フレーム302の強度値Yが閾値Yth2’のときには、特殊フレーム重畳率306は、最大値となる。よって、特殊フレーム302のブレンド比は高くなり、重畳フレーム303において、特殊フレーム302からの情報量を維持することができる。
よって、重畳率定義関数305’を適用することで、重畳フレーム303において、特殊フレーム302からの情報量が少なくなってしまうといったことが発生する可能性をなくすことができる。
このように、図17に示したような組織表層血管を観察する場合には、特殊フレーム302の強度値Yの閾値Yth2’が、小さい値に設定された重畳率定義関数305’が適用される。
また、図18を参照するに、重畳率定義関数305’においては、通常フレーム重畳率305の閾値Rth2の値も小さい値に変更されている。このように、蛍光区間において、通常フレーム重畳率305’の閾値Rth2’が小さい値に設定されることで、通常フレーム301の重畳率を下げ、特殊フレーム302の重畳率を上げ、より特殊フレーム302が際立って表示されるように重畳させることが可能となる。
さらに図18を参照するに、重畳率定義関数305’においては、通常フレーム重畳率305の閾値Rth1の値も小さい値に変更されている。このように、通常フレーム重畳率305の閾値Rth1’の値も小さい値に設定されることで、背景区間において、通常フレーム301が特殊フレーム302に重畳される割合を低減させる。
換言すれば、背景区間において、通常フレーム301の重畳成分を少なくし、特殊フレーム302に撮像されている発光状態をより際立たせるために、通常フレーム重畳率305の閾値Rth1’の値も小さい値に設定される。
このように、通常フレーム重畳率305の閾値Rth1’の値も小さい値に設定しておくことで、換言すれば、特殊フレーム重畳率306を背景区間において大きい値に設定しておくことで、背景区間において、特殊フレーム302が重畳される割合を増やすことができ、発光状態が弱い特殊フレーム302であっても、その情報が、通常フレーム301に埋もれてしまうようなことなく重畳させることが可能となる。
(具体例2)
具体例2として、図19に示すような筋組織深部の血管を観察する場合について説明する。図19に示した筋組織深部の血管は、横方向から見たときの状態を表しており、図中下側に筋組織701-1があり、その上部に血管702があり、さらにその上部に筋組織701-2がある状態を示している。
図19に示したような筋組織701中の血管702をICG蛍光観察する場合、血管702が筋組織701中の深い位置で蛍光し、その状態を筋組織外(図19中、筋組織701-2の外側)からカメラで撮像することになる。よって、蛍光強度が弱くなり見づらくなることが想定される。換言すれば、取得される特殊フレーム302は、暗くなり、血管702が見づらい画像となる可能性がある。
そこで、このような筋組織深部の血管を観察する場合、図20に示すような重畳率定義関数が用いられるようにする。図20において、実線で示した重畳率定義関数は、比較のために図12に示した重畳率定義関数であり、重畳率定義関数305と記述する。
また、図20において、破線で示した重畳率定義関数305”は、図19に示したような筋組織深部の血管を観察する場合に適した重畳率定義関数を示す。また、重畳率定義関数305と重畳率定義関数305”は、上記した場合と同じく、通常フレーム重畳率305を設定する関数である。
特殊フレーム302が暗くなる可能性がある場合は、具体例1として上記した場合と同じく、蛍光強度が弱いため、特殊フレーム302の強度値Yが取り得る最大値は1.0よりも小さくなる可能性が高いため、特殊フレーム302の強度値Yが取り得る最大値が小さくなることに合わせて、最大値側に設定されている閾値Yth2も小さい値に設定する。すなわち、図20に示すように、重畳率定義関数305”の閾値Yth2”は、重畳率定義関数305の閾値Yth2よりも小さい値に設定される。
このように重畳率定義関数305”の閾値Yth2”を小さい値に設定することで、上記した具体例1と同じく、重畳フレーム303において、特殊フレーム302からの情報量が少なくなってしまうといったことが発生する可能性をなくすことができる。
このように、図19に示したような筋組織深部の血管を観察する場合には、特殊フレーム302の強度値Yの閾値Yth2が、小さい値に設定された重畳率定義関数305”が適用される。
また、図20を参照するに、重畳率定義関数305”においては、通常フレーム重畳率305の閾値Rth2”の値も小さい値に変更されている。このように、蛍光区間において、通常フレーム重畳率305”の閾値Rth2”が小さい値に設定されることで、通常フレーム301の重畳率を下げ、特殊フレーム302の重畳率を上げ、より特殊フレーム302が際立って表示されるように重畳させることが可能となる。
さらに図20を参照するに、重畳率定義関数305”においては、特殊フレーム302の強度値Yの閾値Yth1”の値は大きい値に変更されている。このように、特殊フレーム302の強度値Yの閾値Yth1”の値が大きい値に設定されることで、特殊フレーム302が微少な信号である場合、そのような微少な信号による情報が、通常フレーム301による情報に影響を与えないようにすることができる。
例えば、特殊フレーム302が微少な信号である場合とは、錯乱光の影響による信号が考えられる。このような特殊フレーム302に撮像されている発光状態のうちの錯乱光による影響を低減させるために、特殊フレーム302の強度値Yの閾値Yth1”の値を大きい値に設定する。
筋組織701中の血管702を蛍光観察するとき、血管702の部分だけを際立たせた状態で観察できることが望ましいと考えられるが、血管702の周辺部において、錯乱光による影響で血管702のエッジの部分がぼやけてしまうことがある。
そこで、上記したように、特殊フレーム302の強度値Yの閾値Yth1”の値を大きい値に設定することで、通常フレーム301から得られる周辺部分の情報を維持することができる。すなわち、血管周りの微弱な散乱光の部分には、背景とされるように重畳することが可能となる。
具体例1と具体例2から、特殊フレーム302のうち、観察したい領域(リンパ節や血管など)の発光状態が弱いことが想定される場合、特殊フレーム302の強度値Yに設定される大きい方の閾値Yth2を調整することで、特殊フレーム302から得られる情報を低減させることなく重畳させることができる。
また、特殊フレーム302のうち、観察したい領域(リンパ節や血管など)の発光状態が弱いことが想定される場合、通常フレーム重畳率305に設定される小さい方の閾値Rth2を調整することで、特殊フレーム302から得られる情報を際立たせた画像となるように重畳させることができる。
また、特殊フレーム302のうち、観察したい領域(リンパ節や血管など)以外の発光状態による影響(錯乱光などによる影響)があることが想定される場合、特殊フレーム302の強度値Yに設定される小さい方の閾値Yth1を調整することで、背景区間において、特殊フレーム302による影響を低減し、通常フレーム301から得られる情報を低減させることなく重畳させることができる。
また、特殊フレーム302のうち、観察したい領域(リンパ節や血管など)の発光状態が弱いことが想定される場合、通常フレーム重畳率305に設定される大きい方の閾値Rth1を調整することで、通常フレーム301が支配的となる背景区間においても、特殊フレーム302から得られる情報を低減させることなく重畳させることができる。
(具体例3)
具体例3として、特殊フレーム302の強度値Yに設定される閾値Yth1と閾値Yth2を調整し、遷移区間を短くした重畳率定義関数を用いる場合について説明する。
図21に示すような胆管、尿管などを観察する場合について説明する。図21は、筋組織801中に、胆管802と複数の血管803-1乃至803-4がある状態を示している。図21は、例えば、通常フレーム301として撮像される画像を示しているとする。
胆管や尿管などは、血管などと形状や色が似ており、通常フレーム301で撮像された画像からだけだと、図21に示したような画像となり、胆管802と血管803の区別が付けづらい。このようなときに、胆管802を蛍光観察することがある。
例えば、通常フレーム301と特殊フレーム302を見比べ、特殊フレーム302で蛍光している部分は胆管802であると判断し、その判断した部分に該当する通常フレーム301の領域を特定し、胆管802の周辺領域の情報を得るといった作業が行われることが想定される。
すなわち、蛍光しているか否かで、見分けたい管(例えば胆管や尿管)を確認する目的で、蛍光観察が行われることがある。このような場合、蛍光している領域と蛍光していない領域が正確に区別つくような表示とされるのが良いと考えられる。
そこで、図22に示すような重畳率定義関数305’”が適用される。図22に示すような重畳率定義関数305’”は、遷移区間が短くなる関数とされている。遷移区間は、上記したように、通常フレーム301が支配的な状態から特殊フレーム302が支配的な状態へと遷移する区間である。
このような遷移区間は、蛍光しているかどうかを判別する目的で蛍光観察を行うとき、そのような判別がしづらい区間となってしまう可能性がある。よって、このような遷移区間を短くし、蛍光しているかどうかの判別がしやすい重畳フレーム303が、ユーザに提示されるようにするために、図22に示すような重畳率定義関数305’”が適用される。
図22に示すような重畳率定義関数305’”においては、特殊フレーム302の強度値Yの閾値Yth1’”が大きい値に設定され、閾値Yth2’”が小さい値に設定されている。このように設定されることで遷移区間が短い区間となる。
また、図22に示すような重畳率定義関数305’”においては、通常フレーム重畳率305の閾値Rth1’”が大きい値に設定され、閾値Rth2’”が小さい値に設定されている。このように設定されることで遷移区間内の重畳率定義関数の傾斜が急な関数となる。
このように、特殊フレーム302の強度値Yの閾値Yth2’”が小さく設定されることで、蛍光区間においては、仮に特殊フレーム302の強度値Yが取り得る最大値が小さくなる可能性があっても、特殊フレーム302からの情報が削減されることなく重畳することが可能となる。よって、蛍光している部分では、その蛍光の強度が仮に弱くても、蛍光している領域であることを、重畳フレーム303上でユーザに提示することができる。
また、そのような蛍光区間において、通常フレーム重畳率305の閾値Rth2’”が小さい値に設定されることで、蛍光区間においては、通常フレーム301の重畳率を下げ、特殊フレーム302の重畳率を上げ、より特殊フレーム302が際立って表示されるように重畳することが可能となる。よって、蛍光している部分では、蛍光している領域がより際立ち、蛍光している領域であることを、重畳フレーム303上でユーザに提示することができる。
また、特殊フレーム302の強度値Yの閾値Yth1’”が大きく設定されることで、また通常フレーム重畳率305の閾値Rth1’”が大きい値に設定されることで、背景区間においては、仮に特殊フレーム302に微弱な信号があったとしても、特殊フレーム302からの情報を削減して重畳することが可能となる。よって、蛍光していない部分では、ユーザに余計な情報を与えないように重畳することができる。
このように、蛍光観察の用途に応じて、閾値Yth1、閾値Yth2、閾値Rth1、閾値Rth2を適切に設定することができる。また、そのように適切に設定できる閾値Yth1、閾値Yth2、閾値Rth1、閾値Rth2を、重畳制御情報304として、重畳処理部126に供給される構成とすることで、用途に応じた重畳制御情報304で処理を行うことが可能となり、用途に応じた重畳フレームを適切に生成することができる。
<重畳処理部の処理>
次に、図23に示したフローチャートを参照し、重畳処理部126(図11)が行う処理について説明を加える。
ステップS101において、重畳処理部126は、重畳制御情報304を取得する。例えば、ユーザにより用途が選択され、その用途に適した重畳制御情報304が選択され、供給される。
ステップS102において、重畳処理部126は、通常フレーム301と特殊フレーム302を取得する。取得された通常フレーム301は、画素値算出部401に供給され、特殊フレーム302は、画素値算出部401と通常フレーム重畳率算出部402に供給される。
なお、特殊フレーム302は、例えば、図3乃至図7を参照して説明したように、フレーム毎に時分割で通常フレーム301と特殊フレーム302を切り替えて撮像する場合を例に挙げて説明したが、本技術は、どのような処理で特殊フレーム302を取得するかについての限定はなく、上記した方法以外の方法で特殊フレーム302を生成し、取得するようにしても、本技術を適用できる。
例えば、可視光と励起光が混ざった光が照射され、ビームスプリッタ又はダイクロイックミラー等が用いられて、被写体からの反射光が、特定波長で分離され、励起光が含まれた光用と、可視光が含まれた光用の2枚のセンサで、それぞれ別々に検出が行われ、通常フレーム301と特殊フレーム302が取得されるようにしても良い。このような仕組みで通常フレーム301と特殊フレーム302が取得される場合にも本技術を適用できる。
またセンサ側のカラーフィルタを変更することにより、例えばIR波長帯のみに感度のある画素が作成される方式により通常フレーム301と特殊フレーム302が取得されるようにしても良い。この場合、可視光と励起光が混ざった光が照射され、反射光として戻ってくる励起光のみが、励起光カット(Cut)フィルタ等でカットされることにより、R, G, B画素で通常フレーム301が取得され、IR画素で特殊フレーム302が取得される。このような仕組みで通常フレーム301と特殊フレーム302が取得される場合にも本技術を適用できる。
これらの方法以外の方式でも、通常フレーム301と特殊フレーム302が一定の同時性を持って取得できる方法であれば、どのような方式でも本技術に適用でき、通常フレーム301と特殊フレーム302が取得され、重畳して、重畳フレーム303を生成するときに本技術を適用することができる。
図23のフローチャートを参照した説明に戻り、ステップS103において、通常フレーム重畳率算出部402により、上記したような処理により、通常フレーム重畳率305を算出する。算出された通常フレーム重畳率305は、画素値算出部401に供給される。
ステップS104において、画素値算出部401により、通常フレーム301と特殊フレーム302を重畳したときの画素値が算出される。上記したように、通常フレーム301内の処理対象とされている画素の画素値と、その画素に対応する位置にある特殊フレーム302内の画素の画素値が、所定の演算に基づいて合成される。
合成される際、通常フレーム重畳率305に基づく比率で、通常フレーム301と特殊フレーム302は合成される。このような合成処理が行われることで、処理対象とされた画素に対応する重畳フレーム303内の画素の画素値が算出される。
ステップS105において、全ての画素が処理対象とされ、処理されたか否かが判定される。ステップS105において、全ての画素は処理対象とされていないと判定された場合、ステップS106に処理が進められ、次の画素が処理対象とされる。そして、新たに処理対象とされた画素に対して、ステップS103以降の処理が繰り返される。
一方で、ステップS105において、全ての画素が処理対象とされたと判定された場合、ステップS107に処理は進められ、次のフレームが処理対象とされる。そして、新たに処理対象とされたフレームに対して、ステップS102以降の処理が繰り返される。
このようにして、画素毎に、適切な重畳率で重畳が行われる。よって、本技術によれば、例えば蛍光画像などの特殊画像を観察しているときに、蛍光部分の詳細な情報を消失することなく、正確に発光部位を確認することができる重畳画像を、ユーザに提示することが可能となる。
また蛍光部分の周囲の情報も消失することなく、正確に確認することができる重畳画像を、ユーザに提示することが可能となる。
これらのことが可能となることで、より正確に、例えば、血管、リンパ管、リンパ節、胆管、尿管、病変部などの位置を確認することができるようになり、手術の精度の向上、手術にかかる時間の短縮などの効果を得ることができる。
<記録媒体について>
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図24は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。コンピュータにおいて、CPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003は、バス1004により相互に接続されている。バス1004には、さらに、入出力インタフェース1005が接続されている。入出力インタフェース1005には、入力部1006、出力部1007、記憶部1008、通信部1009、及びドライブ1010が接続されている。
入力部1006は、キーボード、マウス、マイクロフォンなどよりなる。出力部1007は、ディスプレイ、スピーカなどよりなる。記憶部1008は、ハードディスクや不揮発性のメモリなどよりなる。通信部1009は、ネットワークインタフェースなどよりなる。ドライブ1010は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア1011を駆動する。
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU1001)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
なお、本技術は以下のような構成も取ることができる。
(1)
被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得する取得部と、
前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を算出する重畳率算出部と、
前記通常フレームと前記特殊フレームを、前記重畳率に基づき重畳処理する重畳処理部と
を備える医療用画像処理装置。
(2)
前記特殊フレームの強度値が大きい場合、前記特殊フレームの重畳率は高く設定され、前記特殊フレームの強度値が小さい場合、前記特殊フレームの重畳率は低く設定される
前記(1)に記載の医療用画像処理装置。
(3)
前記強度値が取り得る範囲内に、第1の閾値と第2の閾値が設定され、前記第1の閾値よりも前記強度値が小さい場合、前記通常フレームの重畳率が前記特殊フレームの重畳率よりも高く設定され、前記第2の閾値よりも前記強度値が大きい場合、前記通常フレームの重畳率が前記特殊フレームの重畳率よりも低く設定される
前記(1)または(2)に記載の医療用画像処理装置。
(4)
前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値は、小さい値に設定される
前記(3)に記載の医療用画像処理装置。
(5)
前記特殊フレームの微弱な信号による影響を低減させたい場合、前記第1の閾値は、大きい値に設定される
前記(3)または(4)に記載の医療用画像処理装置。
(6)
前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値が設定され、前記第3の閾値は、前記強度値が小さいときに前記通常フレームの重畳率として適用される値であり、前記第4の閾値は、前記強度値が大きいときに前記通常フレームの重畳率として適用される値である
前記(1)乃至(5)のいずれかに記載の医療用画像処理装置。
(7)
前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第4の閾値は、小さい値に設定される
前記(6)に記載の医療用画像処理装置。
(8)
前記特殊フレームの微弱な信号による影響を低減させたい場合、前記第3の閾値は、大きい値に設定される
前記(6)または(7)に記載の医療用画像処理装置。
(9)
前記強度値が取り得る範囲内に、第1の閾値と第2の閾値が設定され、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値が設定され、前記第1乃至第4の閾値は、観察対象とされる前記被写体に適した値に設定される
前記(1)乃至(8)のいずれかに記載の医療用画像処理装置。
(10)
前記重畳率算出部は、前記第1乃至第4の閾値を用いて重畳率を算出する
前記(9)に記載の医療用画像処理装置。
(11)
前記重畳率算出部は、前記第1乃至第4の閾値で定義される関数を用いて重畳率を算出する
前記(9)に記載の医療用画像処理装置。
(12)
前記特殊フレーム内で特殊光を照射したことにより発光しているか否かを明確に判定する用途の場合、前記第1の閾値と前記第3の閾値は大きい値に設定され、前記第2の閾値と前記第4の閾値は小さい値に設定される
前記(9)に記載の医療用画像処理装置。
(13)
被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得し、
前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を算出し、
前記通常フレームと前記特殊フレームを、前記重畳率に基づき重畳処理する
ステップを含む医療用画像処理方法。
(14)
コンピュータに、
被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得し、
前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を算出し、
前記通常フレームと前記特殊フレームを、前記重畳率に基づき重畳処理する
ステップを含む処理を実行させるためのプログラム。
110 内視鏡装置, 111 光源部, 112 撮像部, 113 現像部, 114 画像処理部, 115 表示部, 121 切り替え部, 122 動きベクトル検出部, 123 補正量推定部, 124 フレームメモリ, 125 動き補正部, 126 重畳処理部, 131,132 フレームメモリ, 133 フレーム選択部, 134 ブロックマッチング部, 135 ベクトル補正部, 401 画素値算出部、 402 通常フレーム重畳率算出部

Claims (11)

  1. 被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得する取得部と、
    前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を画素毎に算出する重畳率算出部と、
    前記通常フレームと前記特殊フレームを、前記重畳率に基づき画素毎に重畳処理する重畳処理部と
    を備え、
    前記強度値が取り得る範囲内に、第1の閾値と第2の閾値が設定され、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値が設定され、
    前記重畳率算出部は、前記第1乃至第4の閾値を用いて重畳率を算出し、
    前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値は、小さい値に設定される
    医療用画像処理装置。
  2. 前記特殊フレームの強度値が大きい場合、前記特殊フレームの重畳率は高く設定され、前記特殊フレームの強度値が小さい場合、前記特殊フレームの重畳率は低く設定される
    請求項1に記載の医療用画像処理装置。
  3. 前記第1の閾値よりも前記強度値が小さい場合、前記通常フレームの重畳率が前記特殊フレームの重畳率よりも高く設定され、前記第2の閾値よりも前記強度値が大きい場合、前記通常フレームの重畳率が前記特殊フレームの重畳率よりも低く設定される
    請求項1または2に記載の医療用画像処理装置。
  4. 前記特殊フレームの微弱な信号による影響を低減させたい場合、前記第1の閾値は、大きい値に設定される
    請求項1乃至3のいずれかに記載の医療用画像処理装置。
  5. 前記第3の閾値は、前記強度値が小さいときに前記通常フレームの重畳率として適用される値であり、前記第4の閾値は、前記強度値が大きいときに前記通常フレームの重畳率として適用される値である
    請求項1乃至4のいずれかに記載の医療用画像処理装置。
  6. 前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第4の閾値は、小さい値に設定される
    請求項1乃至5のいずれかに記載の医療用画像処理装置。
  7. 前記特殊フレームの微弱な信号による影響を低減させたい場合、前記第3の閾値は、大きい値に設定される
    請求項1乃至6のいずれかに記載の医療用画像処理装置。
  8. 前記第1乃至第4の閾値は、観察対象とされる前記被写体に適した値に設定される
    請求項1乃至7のいずれかに記載の医療用画像処理装置。
  9. 前記特殊フレーム内で特殊光を照射したことにより発光しているか否かを明確に判定する用途の場合、前記第1の閾値と前記第3の閾値は大きい値に設定され、前記第2の閾値と前記第4の閾値は小さい値に設定される
    請求項1乃至8のいずれかに記載の医療用画像処理装置。
  10. 医療用画像処理装置が、
    被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得し、
    前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を画素毎に算出し、
    前記通常フレームと前記特殊フレームを、前記重畳率に基づき画素毎に重畳処理し、
    前記強度値が取り得る範囲内に、第1の閾値と第2の閾値設定、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値設定
    前記重畳率、前記第1乃至第4の閾値用い算出
    前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値、小さい値に設定
    医療用画像処理方法。
  11. コンピュータに、
    被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとを取得し、
    前記特殊フレームの強度値に基づき、前記通常フレームと前記特殊フレームを重畳する割合を示す重畳率を画素毎に算出し、
    前記通常フレームと前記特殊フレームを、前記重畳率に基づき画素毎に重畳処理し、
    前記強度値が取り得る範囲内に、第1の閾値と第2の閾値設定、前記通常フレームの重畳率として取り得る範囲内に、第3の閾値と第4の閾値設定
    前記重畳率、前記第1乃至第4の閾値用い算出
    前記特殊フレームの強度値が取り得る最大値が小さくなる被写体を撮像する場合、前記第2の閾値、小さい値に設定
    ステップを含む処理を実行させるプログラム。
JP2018548628A 2016-11-04 2017-10-20 医療用画像処理装置、医療用画像処理方法、プログラム Active JP7074065B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016216179 2016-11-04
JP2016216179 2016-11-04
PCT/JP2017/037969 WO2018084003A1 (ja) 2016-11-04 2017-10-20 医療用画像処理装置、医療用画像処理方法、プログラム

Publications (2)

Publication Number Publication Date
JPWO2018084003A1 JPWO2018084003A1 (ja) 2019-09-19
JP7074065B2 true JP7074065B2 (ja) 2022-05-24

Family

ID=62075573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018548628A Active JP7074065B2 (ja) 2016-11-04 2017-10-20 医療用画像処理装置、医療用画像処理方法、プログラム

Country Status (3)

Country Link
US (1) US11216941B2 (ja)
JP (1) JP7074065B2 (ja)
WO (1) WO2018084003A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11980507B2 (en) 2018-05-02 2024-05-14 Augmedics Ltd. Registration of a fiducial marker for an augmented reality system
US11766296B2 (en) 2018-11-26 2023-09-26 Augmedics Ltd. Tracking system for image-guided surgery
US11280737B2 (en) * 2019-06-20 2022-03-22 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11793399B2 (en) 2019-06-20 2023-10-24 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral imaging system
US11398011B2 (en) 2019-06-20 2022-07-26 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed laser mapping imaging system
US11276148B2 (en) * 2019-06-20 2022-03-15 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11288772B2 (en) * 2019-06-20 2022-03-29 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11980506B2 (en) 2019-07-29 2024-05-14 Augmedics Ltd. Fiducial marker
CN114650763A (zh) * 2019-11-14 2022-06-21 索尼集团公司 信息处理装置、生成方法和生成程序
US11896445B2 (en) 2021-07-07 2024-02-13 Augmedics Ltd. Iliac pin and adapter
DE102021124010A1 (de) * 2021-09-16 2023-03-16 Xion Gmbh Verfahren und Vorrichtung zur Videoendoskopie mit Fluoreszenzlicht
WO2023203521A1 (en) * 2022-04-21 2023-10-26 Augmedics Ltd. Systems and methods for medical image visualization

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008111180A1 (ja) 2007-03-13 2008-09-18 Olympus Corporation 画像信号処理装置、画像信号処理プログラム、画像信号処理方法
JP2011104011A (ja) 2009-11-13 2011-06-02 Olympus Corp 画像処理装置、電子機器、内視鏡システム及びプログラム
JP2011194111A (ja) 2010-03-23 2011-10-06 Olympus Corp 画像処理装置、画像処理方法及びプログラム
JP2015095890A (ja) 2013-11-14 2015-05-18 キヤノン株式会社 画像処理装置およびその制御方法

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5749830A (en) * 1993-12-03 1998-05-12 Olympus Optical Co., Ltd. Fluorescent endoscope apparatus
US20020138008A1 (en) * 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
EP1731087A3 (en) 2000-07-14 2008-08-06 Novadaq Technologies Inc. Compact fluorescent endoscopy video system
US6582363B2 (en) * 2000-08-25 2003-06-24 Pentax Corporation Video endoscope system and illumination optical system
US7307766B2 (en) * 2003-04-04 2007-12-11 Good News Enterprises Limited Black and white image detection
JP4597744B2 (ja) * 2004-11-08 2010-12-15 株式会社トプコン 光画像計測装置及び光画像計測方法
JP2007313171A (ja) 2006-05-29 2007-12-06 Olympus Corp 内視鏡システム
JP5184016B2 (ja) 2007-09-12 2013-04-17 オンセミコンダクター・トレーディング・リミテッド 撮像装置
WO2009142758A1 (en) * 2008-05-23 2009-11-26 Spectral Image, Inc. Systems and methods for hyperspectral medical imaging
ATE506000T1 (de) * 2008-06-04 2011-05-15 Fujifilm Corp Beleuchtungsvorrichtung zur verwendung in endoskopen
JP5242479B2 (ja) * 2009-03-26 2013-07-24 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP5572326B2 (ja) * 2009-03-26 2014-08-13 オリンパス株式会社 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
EP2526853B1 (en) 2010-03-09 2014-01-08 Olympus Corporation Fluorescence endoscope device
JP2011194040A (ja) 2010-03-19 2011-10-06 Olympus Medical Systems Corp 医療機器
JP2011200367A (ja) * 2010-03-25 2011-10-13 Fujifilm Corp 画像撮像方法および装置
JP2012024283A (ja) 2010-07-22 2012-02-09 Fujifilm Corp 内視鏡診断装置
JP5405445B2 (ja) * 2010-12-17 2014-02-05 富士フイルム株式会社 内視鏡装置
JP5309120B2 (ja) * 2010-12-20 2013-10-09 富士フイルム株式会社 内視鏡装置
JP6151882B2 (ja) * 2010-12-24 2017-06-21 キヤノン株式会社 被検体情報取得装置及び被検体情報取得方法
EP2679165A4 (en) * 2011-02-23 2017-11-08 Hitachi, Ltd. Ultrasound diagnostic device and image display method
JP5355799B2 (ja) * 2011-06-07 2013-11-27 オリンパスメディカルシステムズ株式会社 内視鏡装置および内視鏡装置の作動方法
JP5887350B2 (ja) * 2011-09-05 2016-03-16 富士フイルム株式会社 内視鏡システム及びその作動方法
WO2014175223A1 (ja) * 2013-04-22 2014-10-30 ローム株式会社 癌診断装置、診断システム、診断装置
JP6184244B2 (ja) * 2013-05-30 2017-08-23 東芝メディカルシステムズ株式会社 医用画像処理装置
JP6385750B2 (ja) * 2013-07-30 2018-09-05 キヤノンメディカルシステムズ株式会社 医用線量情報管理装置、x線診断装置、および医用線量情報管理方法
WO2015049962A1 (ja) * 2013-10-02 2015-04-09 オリンパスメディカルシステムズ株式会社 内視鏡システム
TWM481759U (zh) * 2014-02-27 2014-07-11 Bh Asia Ltd 健身車的可調整式搖擺裝置
JP5992936B2 (ja) * 2014-02-27 2016-09-14 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法
JP2018108173A (ja) * 2016-12-28 2018-07-12 ソニー株式会社 医療用画像処理装置、医療用画像処理方法、プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008111180A1 (ja) 2007-03-13 2008-09-18 Olympus Corporation 画像信号処理装置、画像信号処理プログラム、画像信号処理方法
JP2011104011A (ja) 2009-11-13 2011-06-02 Olympus Corp 画像処理装置、電子機器、内視鏡システム及びプログラム
JP2011194111A (ja) 2010-03-23 2011-10-06 Olympus Corp 画像処理装置、画像処理方法及びプログラム
JP2015095890A (ja) 2013-11-14 2015-05-18 キヤノン株式会社 画像処理装置およびその制御方法

Also Published As

Publication number Publication date
US20200043160A1 (en) 2020-02-06
US11216941B2 (en) 2022-01-04
WO2018084003A1 (ja) 2018-05-11
JPWO2018084003A1 (ja) 2019-09-19

Similar Documents

Publication Publication Date Title
JP7074065B2 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
US20240011909A1 (en) Imaging system
CN110099599B (zh) 医学图像处理设备、医学图像处理方法和程序
US10904437B2 (en) Control apparatus and control method
WO2017159335A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JPWO2018221041A1 (ja) 医療用観察システム及び医療用観察装置
WO2020008920A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
US11699215B2 (en) Imaging device, method and program for producing images of a scene having an extended depth of field with good contrast
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
EP3598735A1 (en) Imaging device, video signal processing device, and video signal processing method
WO2020203164A1 (ja) 医療システム、情報処理装置及び情報処理方法
US20220261967A1 (en) Endoscopic surgery system, image processing apparatus, and image processing method
US20210228061A1 (en) Medical observation system, medical observation apparatus, and drive method of medical observation apparatus
CN115315210A (zh) 图像处理装置、图像处理方法、导航方法以及内窥镜系统
JPWO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP7480779B2 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム
WO2022019057A1 (ja) 医療用アーム制御システム、医療用アーム制御方法及びプログラム
WO2022004250A1 (ja) 医療システム、情報処理装置及び情報処理方法
JPWO2020050187A1 (ja) 医療システム、情報処理装置及び情報処理方法
JP2020525055A (ja) 医療撮影システム、方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200716

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220425

R151 Written notification of patent or utility model registration

Ref document number: 7074065

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151