WO2022044898A1 - 医療撮像システム、医療撮像装置、および動作方法 - Google Patents

医療撮像システム、医療撮像装置、および動作方法 Download PDF

Info

Publication number
WO2022044898A1
WO2022044898A1 PCT/JP2021/030108 JP2021030108W WO2022044898A1 WO 2022044898 A1 WO2022044898 A1 WO 2022044898A1 JP 2021030108 W JP2021030108 W JP 2021030108W WO 2022044898 A1 WO2022044898 A1 WO 2022044898A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
light
medical imaging
image pickup
signal
Prior art date
Application number
PCT/JP2021/030108
Other languages
English (en)
French (fr)
Inventor
康昭 高橋
岳志 宮井
聡史 長江
Original Assignee
ソニーグループ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーグループ株式会社 filed Critical ソニーグループ株式会社
Priority to DE112021004549.0T priority Critical patent/DE112021004549T5/de
Priority to JP2022544484A priority patent/JPWO2022044898A1/ja
Priority to US18/041,938 priority patent/US20230397801A1/en
Publication of WO2022044898A1 publication Critical patent/WO2022044898A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0012Surgical microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/1066Beam splitting or combining systems for enhancing image performance, like resolution, pixel numbers, dual magnifications or dynamic range, by tiling, slicing or overlapping fields of view
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/12Beam splitting or combining systems operating by refraction only
    • G02B27/126The splitting element being a prism or prismatic array, including systems based on total internal reflection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/13Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B2207/00Coding scheme for general features or characteristics of optical elements and systems of subclass G02B, but not including elements and systems which would be classified in G02B6/00 and subgroups
    • G02B2207/117Adjustment of the optical path length
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/14Special procedures for taking photographs; Apparatus therefor for taking photographs during medical operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Endoscopes (AREA)

Abstract

本開示は、より良好に術野を観察可能な医療用の画像を撮像することができるようにする医療撮像システム、医療撮像装置、および動作方法に関する。 医療撮像システムは、カラーフィルタを介した光を受光して第1の画像信号を出力する第1の撮像素子と、カラーフィルタを介さずに光を受光して第2の画像信号を出力する第2の撮像素子と、マウント面から入射した入射光を、第1の撮像素子に入射する光と第2の撮像素子に入射する光とに分岐する分岐光学系と、第1の画像信号および第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行う信号処理部とを備える。そして、マウント面から第1の撮像素子までの光路長が、マウント面から第2の撮像素子までの光路長より短く構成される。本技術は、例えば、EDOF画像を撮像可能な医療撮像システムに適用できる。

Description

医療撮像システム、医療撮像装置、および動作方法
 本開示は、医療撮像システム、医療撮像装置、および動作方法に関し、特に、より良好に術野を観察可能な医療用の画像を撮像することができるようにした医療撮像システム、医療撮像装置、および動作方法に関する。
 一般的に、内視鏡や顕微鏡などのような医療用観察装置では、被写界深度が浅い画像が取得される。これに対し、内視鏡や顕微鏡などを使用した手術における術野には奥行きがあることが多いため、被写界深度の深い医療用の画像を取得することが求められている。
 そこで、特許文献1に開示されているように、被写界深度を深くするために、位相マスクによるEDOF(Extended Depth of Field)光学系を利用することで、被写界深度を拡大させた内視鏡や顕微鏡などが提案されている。
特開2017-158764号公報
 ところで、解像度および被写界深度は光学系のF値で決定され、それらはトレードオフの関係を有している。即ち、F値を明るく設定して解像度を高めると、被写界深度が浅い画像になってしまうため、術野を観察するのに実用上十分な画質を得ることができなかった。そこで、高い解像度と深い被写界深度とを両立して、より良好に術野を観察するための医療用の画像を撮像することが求められている。
 本開示は、このような状況に鑑みてなされたものであり、より良好に術野を観察可能な医療用の画像を撮像することができるようにするものである。
 本開示の一側面の医療撮像システムおよび医療撮像装置は、カラーフィルタを介した光を受光して第1の画像信号を出力する第1の撮像素子と、カラーフィルタを介さずに光を受光して第2の画像信号を出力する第2の撮像素子と、マウント面から入射した入射光を、前記第1の撮像素子に入射する光と前記第2の撮像素子に入射する光とに分岐する分岐光学系と、前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行う信号処理部とを備え、前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される。
 本開示の一側面の動作方法は、医療撮像システムの動作方法であって、マウント面から入射した入射光が分岐された光を受光して第1の撮像素子により第1の画像信号を出力することと、前記光とは別に分岐された光を受光して第2の撮像素子により第2の画像信号を出力することと、前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行うこととを含み、前記医療撮像システムは、前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される。
 本開示の一側面においては、マウント面から入射した入射光が分岐された光を受光して第1の撮像素子により第1の画像信号が出力され、その光とは別に分岐された光を受光して第2の撮像素子により第2の画像信号が出力され、第1の画像信号および第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理が行われる。そして、マウント面から第1の撮像素子までの光路長が、マウント面から第2の撮像素子までの光路長より短く構成される。
本技術を適用した医療撮像システムの第1の実施の形態の構成例を示すブロック図である。 医療撮像システムの第2の実施の形態の構成例を示すブロック図である。 医療撮像システムの第3の実施の形態の構成例を示すブロック図である。 医療用画像の撮像方法を説明するフローチャートである。 撮像装置の構成例を示すブロック図である。 イメージセンサを使用する使用例を示す図である。 内視鏡システムの概略的な構成の一例を示す図である。 図7に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 顕微鏡手術システムの概略的な構成の一例を示す図である。
 以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
 <医療撮像システムの第1の構成例>
 図1は、本技術を適用した医療撮像システムの第1の実施の形態の構成例を示すブロック図である。
 図1に示す医療撮像システム11は、例えば、内視鏡や手術用顕微鏡に使用されることが想定され、医療撮像装置12および信号処理装置13を備えて構成される。例えば、医療撮像システム11では、図示しない術野からの光が一点鎖線で示す光軸に沿って医療撮像装置12に入射し、医療撮像装置12において術野が撮像された画像が信号処理装置13に供給される。そして、信号処理装置13において被写界深度拡大処理が施された結果得られるEDoF 4K画像が、医療撮像システム11から出力される。
 医療撮像装置12は、マウント21、分岐光学系22、並びに、撮像モジュール23-1および23-2を備えて構成される。
 マウント21は、例えば、術野にある患部などに焦点を合わせるためのフォーカス機能を備えた撮像レンズを、医療撮像装置12に接続するための接続部である。
 分岐光学系22は、マウント21を介して医療撮像装置12に入射した光を、撮像モジュール23-1に入射する光、および撮像モジュール23-2に入射する光に分岐する。
 分岐光学系22は、第1のプリズム31、第2のプリズム32、およびハーフミラー33により構成される。例えば、分岐光学系22は、第1のプリズム31および第2のプリズム32の間にハーフミラー33が配置され、ハーフミラー33によって反射した光が第1のプリズム31を介して撮像モジュール23-2に入射し、ハーフミラー33を透過した光が第2のプリズム32を介して撮像モジュール23-1に入射するように構成される。
 ハーフミラー33は、反射率と透過率とを同一(50:50)に設定する他、例えば、反射率を透過率より高く設定したり、反射率を透過率より低く設定したりすることができる。反射率を透過率より高く設定したハーフミラー33は、撮像モジュール23-1よりも撮像モジュール23-2に多くの光を入射させることができる。反射率を透過率より低く設定したハーフミラー33は、撮像モジュール23-2よりも撮像モジュール23-1に多くの光を入射させることができる。なお、ハーフミラー35は、基本的に反射率および透過率を可変にすることは難しいため、反射率および透過率の設定は設計時のパラメータ調整項目となる。
 撮像モジュール23-1は、ハウジング41-1およびカバーガラス42-1により密閉された空間に、撮像素子43-1およびフィルタ44-1が収納されて構成される。また、撮像モジュール23-2も同様に構成される。
 撮像モジュール23-1のフィルタ44-1は、全ての波長域の光を透過させる透明フィルタ(または、フィルタを有さない構成としてもよい)となっており、撮像素子43-1は、フィルタ44-1を介して輝度画像(モノクロ画像)を撮像する。撮像モジュール23-2のフィルタ44-2は、図示すようなベイヤ配列のRGBフィルタとなっており、撮像素子43-2は、RGBフィルタを介してカラー画像を撮像する。
 また、医療撮像装置12は、マウント21から撮像モジュール23-2までの光学的距離が、マウント21から撮像モジュール23-1までの光学的距離よりも短くなるように構成される。これにより、撮像モジュール23-1によって撮像される輝度画像において所望の患部の近傍に焦点が合うように焦点距離が調整された場合、撮像モジュール23-2では焦点がずれることになる。即ち、撮像モジュール23-2によって撮像されるカラー画像では、所望の患部よりも近くに焦点が合うことになる。
 ここで、以下適宜、撮像モジュール23-1によって撮像される輝度画像をMiddle輝度画像と称し、撮像モジュール23-2によって撮像されるカラー画像をNearカラー画像と称する。従って、医療撮像システム11では、撮像モジュール23-1から出力されるMiddle輝度画像、および、撮像モジュール23-2から出力されるNearカラー画像が、医療撮像装置12から信号処理装置13へ供給される。
 信号処理装置13は、Middle輝度画像およびNearカラー画像を使用して、被写界深度を拡大したEDOF画像を生成する被写界深度拡大処理を行う。
 まず、信号処理装置13は、Middle輝度画像から定常性検出を行い、その結果を用いてNearカラー画像のデモザイク(現像処理)を行う。信号処理装置13は、水平、垂直、斜め方向に隣接画素差分をとり、画素差分が一番小さくなる方向に定常性(エッジ方向)があると見なして定常性検出を行う。例えば、水平エッジの場合には、水平方向の画素差分が一番小さくなる。信号処理装置13は、デモザイクの性能を決めるポイントで、斜め線などでは全画素あるMiddle輝度画像を使用することで、ベイヤ配列の緑のチェッカーパターンよりも、精度の向上を図ることができる。
 次に、信号処理装置13は、Nearカラー画像をRGBからYCbCrへ変換するとともに、Middle輝度画像をY(≒MONO)へ変換する。そして、信号処理装置13は、Nearカラー画像とMiddle輝度画像とのうち、コントラストの高い方を、出力する画像のYとする。例えば、信号処理装置13は、Nearカラー画像およびMiddle輝度画像それぞれでエッジを検出し、エッジの大きいものをコントラストが高いものとする。
 続いて、信号処理装置13は、CbCrの出力を行う。例えば、Nearカラー画像の場合は、それぞれのCbCrを、出力するCbCrとする。一方、Middle輝度画像の場合は、Nearカラー画像とMiddle輝度画像とのコントラスト差を算出し、算出されたコントラスト差を低減して解消する処理(合成処理)を2番目の信号のCbCrに行って、出力するCbCrとする。そして、信号処理装置13は、Middle輝度画像のYからNearカラー画像のYを減算(Y(Middle)-Y(Near))して、CbCrに加算するアンシャープ処理を行う。
 このような被写界深度拡大処理を行うことにより、信号処理装置13は、EDOF画像を生成することができる。
 なお、信号処理装置13が、Middle輝度画像からの定常性検出の方法やパラメータは、ユーザが選択したモードや画像認識から得た手術状況から変更してもよい。例えば、耳鼻咽喉モードでは細い管内を見ることが多く画像周辺と画像中央で焦点が異なりやすいため、信号処理装置13は、画像中央のみを見て定常性検出を行ってもよい。また、信号処理装置13は、画像中央に鉗子などの術具が存在することを画像認識し、術具の先端周辺に基づいて定常性検出を行ってもよい。
 医療撮像システム11では、撮像モジュール23-1に入射される光が撮像モジュール23-2に入射される光よりも多くなるように、ハーフミラー33の反射率および透過率を設定することで、Middle輝度画像の方を明るくすることができる。医療撮像システム11では、撮像モジュール23-2に入射される光が撮像モジュール23-1に入射される光よりも多くなるように、ハーフミラー33の反射率および透過率を設定することで、Nearカラー画像の方を明るくすることができる。このように、医療撮像システム11では、例えば、撮像モジュール23-1および23-2の感度差に応じてハーフミラー33の反射率および透過率を設定することで、ノイズの低減を図ることができる。
 <医療撮像システムの第2の構成例>
 図2は、本技術を適用した医療撮像システムの第2の実施の形態の構成例を示すブロック図である。なお、図2に示す医療撮像システム11Aにおいて、図1の医療撮像システム11と共通する構成については、同一の符号を付し、その詳細な説明は省略する。
 図2に示すように、医療撮像システム11Aは、医療撮像装置12Aおよび信号処理装置13を備えて構成される。医療撮像装置12Aでは、分岐光学系22Aは、第1のプリズム31、第2のプリズム32A、ハーフミラー33、第3のプリズム34、およびハーフミラー35を備える点で、図1の医療撮像装置12と異なる構成となっている。即ち、分岐光学系22Aは、マウント21を介して医療撮像装置12に入射した光を3方向に分岐する。
 また、医療撮像装置12Aでは、撮像モジュール23-1および23-2に加えて、撮像モジュール23-3を備える点で、図1の医療撮像装置12と異なる構成となっている。撮像モジュール23-3は、撮像モジュール23-2と同様に、カラー画像を撮像することができる。
 分岐光学系22Aは、第1のプリズム31および第2のプリズム32Aの間にハーフミラー33が配置され、ハーフミラー33によって反射された光が、第1のプリズム31を介して撮像モジュール23-2に入射するように構成される。また、分岐光学系22は、第2のプリズム32Aおよび第3のプリズム34の間にハーフミラー35が配置され、ハーフミラー35によって反射した光が第2のプリズム32を介して撮像モジュール23-3に入射し、ハーフミラー35を透過した光が第3のプリズム34を介して撮像モジュール23-1に入射するように構成される。
 医療撮像装置12Aは、図1の医療撮像装置12と同様に、ハーフミラー33および35の反射率および透過率を、撮像モジュール23-1乃至23-3の感度差に応じて設定することができる。
 また、医療撮像装置12Aは、マウント21から撮像モジュール23-3までの光学的距離が、マウント21から撮像モジュール23-1までの光学的距離よりも長くなるように構成される。これにより、撮像モジュール23-1によって撮像される輝度画像において所望の患部の近傍に焦点が合うように焦点距離が調整された場合、撮像モジュール23-3では焦点がずれることになる。即ち、撮像モジュール23-3によって撮像されるカラー画像では、所望の患部よりも遠くに焦点が合うことになる。
 ここで、以下適宜、撮像モジュール23-3によって撮像されるカラー画像をFarカラー画像と称する。従って、医療撮像システム11Aでは、撮像モジュール23-1から出力されるMiddle輝度画像、撮像モジュール23-2から出力されるNearカラー画像、および、撮像モジュール23-3から出力されるFarカラー画像が、医療撮像装置12Aから信号処理装置13へ供給される。
 信号処理装置13は、Middle輝度画像、Nearカラー画像、およびFarカラー画像を使用して、図1の信号処理装置13と同様に、被写界深度を拡大したEDOF画像を生成する被写界深度拡大処理を行う。
 なお、医療撮像装置12Aは、IR用の撮像モジュール(長波長光源用イメージセンサ)をさらに別に設け、4つの撮像モジュール23を備える構成としてもよい。その構成では、Middle輝度画像用の撮像モジュール23-1とFarカラー画像用の撮像モジュール23-3との間に、IR用の撮像モジュールを配置することが好ましい。また、医療撮像装置12Aは、V用の撮像モジュール(短波長光源用イメージセンサ)をさらに別に設け、4つの撮像モジュール23を備える構成としてもよい。その構成では、Middle輝度画像用の撮像モジュール23-1とNearカラー画像用の撮像モジュール23-2との間に、V用の撮像モジュールを配置することが好ましい。
 また、医療撮像装置12Aでは、マウント面からのNearカラー画像用の撮像モジュール23-2までの距離A、マウント面からのMiddle輝度画像用の撮像モジュール23-1までの距離B、および、マウント面からのFarカラー画像用の撮像モジュール23-3までの距離Cとの間に、(B-C)>(C-A)の関係性を有することが好ましい。即ち、Nearカラー画像用の撮像モジュール23-2とFarカラー画像用の撮像モジュール23-3との中央より、Far側にMiddle輝度画像用の撮像モジュール23-1が配置されることを表している。これは、Farカラー画像用が重要になることが多いためである。
 <医療撮像システムの第3の構成例>
 図3は、本技術を適用した医療撮像システムの第3の実施の形態の構成例を示すブロック図である。なお、図3に示す医療撮像システム11Bにおいて、図1の医療撮像システム11と共通する構成については、同一の符号を付し、その詳細な説明は省略する。
 図3に示すように、医療撮像システム11Bは、医療撮像装置12Bおよび信号処理装置13を備えて構成される。医療撮像装置12Bでは、分岐光学系22は、第1のプリズム31、第2のプリズム32B、ハーフミラー33、第3のプリズム34、およびハーフミラー35を備える点で、図1の医療撮像装置12と異なる構成となっている。即ち、分岐光学系22Bは、図2の分岐光学系22Aと同様に、マウント21を介して医療撮像装置12に入射した光を3方向に分岐する。
 また、医療撮像装置12Bでは、撮像モジュール23B-1および23-2に加えて、撮像モジュール23-3を備える点で、図1の医療撮像装置12と異なる構成となっている。撮像モジュール23-3は、撮像モジュール23-2と同様に、カラー画像を撮像することができる。そして、撮像モジュール23B-1のフィルタ44B-1は、図示すようなベイヤ配列のRGBフィルタとなっており、撮像素子43-1は、フィルタ44B-1を介してカラー画像を撮像する備える点で、図1の撮像モジュール23-1と異なる構成となっている。
 また、医療撮像装置12Bは、マウント21から撮像モジュール23-3までの光学的距離が、マウント21から撮像モジュール23B-1までの光学的距離よりも長くなるように構成される。これにより、撮像モジュール23B-1によって撮像されるカラー画像において所望の患部の近傍に焦点が合うように焦点距離が調整された場合、撮像モジュール23-3では焦点がずれることになる。即ち、撮像モジュール23-3によって撮像されるカラー画像では、所望の患部よりも遠くに焦点が合うことになる。
 ここで、以下適宜、撮像モジュール23B-1によって撮像されるカラー画像をMiddleカラー画像と称し、撮像モジュール23-3によって撮像されるカラー画像をFarカラー画像と称する。従って、医療撮像システム11では、撮像モジュール23B-1から出力されるMiddleカラー画像、撮像モジュール23-2から出力されるNearカラー画像、および、撮像モジュール23-3から出力されるFarカラー画像が、撮像モジュール23-2から信号処理装置13へ供給される。
 さらに、医療撮像装置12Bでは、Middleカラー画像用の撮像モジュール23B-1に対し、Farカラー画像用の撮像モジュール23-3およびNearカラー画像用の撮像モジュール23-2を、光軸に対して直交する水平面方向(上下方向または左右方向)に1画素ずらして配置する。
 信号処理装置13は、Middleカラー画像、Nearカラー画像、およびFarカラー画像を使用して、被写界深度を拡大したEDOF画像を生成する被写界深度拡大処理を行う。
 まず、信号処理装置13は、Middleカラー画像、Nearカラー画像、およびFarカラー画像におけるベイヤ配列の緑(Gr, Gb)を用いて、コントラストの1番高い画像と、2番目に高い画像を選択する。ここで、選ばれる2つの画像は、Nearカラー画像およびMiddleカラー画像の組み、または、Middleカラー画像およびFarカラー画像の組みのいずれかとなる。
 次に、信号処理装置13は、選ばれた2つの画像それぞれのベイヤ配列の緑(Gr, Gb)を組み合わせることにより、チェッカーパターンではなく、緑の画素値からなる全画素の画像を用いて、定常検出を行う。
 そして、信号処理装置13は、定常性検出の結果を用いてコントラストの1番高い画像のデモザイクを行った後、RGBを生成し出力する画像とする。
 医療撮像システム11Bでは、ハーフミラー33の反射率および透過率については、Middleカラー画像が必ず選択されることより、Middleカラー画像用の撮像モジュール23B-1に入射される光が多くなるように設定することが好ましい。
 図4のフローチャートを参照して、医療撮像システム11Bによる医療用画像の撮像方法について説明する。
 ステップS11において、撮像モジュール23B-1は、Middleカラー画像を取得して信号処理装置13に出力する。
 ステップS12において、撮像モジュール23-2は、Nearカラー画像を取得して信号処理装置13に出力する。
 ステップS13において、撮像モジュール23-3は、Farカラー画像を取得して信号処理装置13に出力する。
 ステップS14において、信号処理装置13は、Middleカラー画像、Nearカラー画像、およびFarカラー画像を使用して被写界深度を拡大したEDOF画像を生成する被写界深度拡大処理を行って、EDOF画像を出力する。
 以上のように、上述した各実施の形態の医療撮像システム11は、Middle輝度画像(Middleカラー画像)、Nearカラー画像、およびFarカラー画像という、フォーカスが異なる3枚の画像を同時に取得ことができる。これらの3枚の画像から、医療撮像システム11は、高い解像度で被写界深度の画像を生成することができ、その生成された画像による良好な観察が可能となる。
 なお、例えば、特開2012-169989号公報では、ベイヤ配列のRGB撮像素子から得た信号をデモザイクする際に、モノクロ撮像素子の輝度信号を使用することで偽色のない良好な補間画像を得る技術が開示されているが、被写界深度を拡大することに関しては開示されていない。これに対し、医療撮像システム11は、高い解像度の画像を取得するとともに、被写界深度を拡大した画像を取得することができる。
 <電子機器の構成例>
 上述したような医療撮像装置12は、例えば、デジタルスチルカメラやデジタルビデオカメラなどの撮像システム、撮像機能を備えた携帯電話機、または、撮像機能を備えた他の機器といった各種の電子機器に適用することができる。
 図5は、電子機器に搭載される撮像装置の構成例を示すブロック図である。
 図5に示すように、撮像装置101は、光学系102、撮像素子103、信号処理回路104、モニタ105、およびメモリ106を備えて構成され、静止画像および動画像を撮像可能である。
 光学系102は、1枚または複数枚のレンズを有して構成され、被写体からの像光(入射光)を撮像素子103に導き、撮像素子103の受光面(センサ部)に結像させる。
 撮像素子103としては、上述した医療撮像装置12が適用される。撮像素子103には、光学系102を介して受光面に結像される像に応じて、一定期間、電子が蓄積される。そして、撮像素子103に蓄積された電子に応じた信号が信号処理回路104に供給される。
 信号処理回路104は、撮像素子103から出力された画素信号に対して各種の信号処理を施す。信号処理回路104が信号処理を施すことにより得られた画像(画像データ)は、モニタ105に供給されて表示されたり、メモリ106に供給されて記憶(記録)されたりする。
 このように構成されている撮像装置101では、上述した医療撮像装置12を適用することで、例えば、より良好に術野を観察可能な医療用の画像を撮像することができる。
 <イメージセンサの使用例>
 図6は、上述のイメージセンサ(撮像素子)を使用する使用例を示す図である。
 上述したイメージセンサは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
 ・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
 ・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
 ・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
 ・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
 ・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
 ・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
 ・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
 ・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
 <応用例>
 本開示に係る技術は、医療イメージングシステムに適用することができる。医療イメージングシステムは、イメージング技術を用いた医療システムであり、例えば、内視鏡システムや顕微鏡システムである。
 [内視鏡システム]
 内視鏡システムの例を図7、図8を用いて説明する。図7は、本開示に係る技術が適用可能な内視鏡システム5000の概略的な構成の一例を示す図である。図8は、内視鏡5001およびCCU(Camera Control Unit)5039の構成の一例を示す図である。図7では、手術参加者である術者(例えば、医師)5067が、内視鏡システム5000を用いて、患者ベッド5069上の患者5071に手術を行っている様子が図示されている。図7に示すように、内視鏡システム5000は、医療イメージング装置である内視鏡5001と、CCU5039と、光源装置5043と、記録装置5053と、出力装置5055と、内視鏡5001を支持する支持装置5027と、から構成される。
 内視鏡手術では、トロッカ5025と呼ばれる挿入補助具が患者5071に穿刺される。そして、トロッカ5025を介して、内視鏡5001に接続されたスコープ5003や術具5021が患者5071の体内に挿入される。術具5021は例えば、電気メス等のエネルギーデバイスや、鉗子などである。
 内視鏡5001によって撮影された患者5071の体内を映した医療画像である手術画像が、表示装置5041に表示される。術者5067は、表示装置5041に表示された手術画像を見ながら術具5021を用いて手術対象に処置を行う。なお、医療画像は手術画像に限らず、診断中に撮像された診断画像であってもよい。
 [内視鏡]
 内視鏡5001は、患者5071の体内を撮像するカメラであり、例えば、図8に示すように、入射した光を集光する集光光学系50051と、カメラの焦点距離を変更して光学ズームを可能とするズーム光学系50052と、カメラの焦点距離を変更してフォーカス調整を可能とするフォーカス光学系50053と、受光素子50054と、を含むカメラヘッドである。内視鏡5001は、接続されたスコープ5003を介して光を受光素子50054に集光することで画素信号を生成し、CCU5039に伝送系を通じて画素信号を出力する。なお、スコープ5003は、対物レンズを先端に有し、接続された光源装置5043からの光を患者5071の体内に導光する挿入部である。スコープ5003は、例えば硬性鏡では硬性スコープ、軟性鏡では軟性スコープである。また、画素信号は画素から出力された信号に基づいた信号であればよく、例えば、RAW信号や画像信号である。また、内視鏡5001とCCU5039とを接続する伝送系にメモリを搭載し、メモリに内視鏡5001やCCU5039に関するパラメータを記憶する構成にしてもよい。メモリは、例えば、伝送系の接続部分やケーブル上に配置されてもよい。例えば、内視鏡5001の出荷時のパラメータや通電時に変化したパラメータを伝送系のメモリに記憶し、メモリから読みだしたパラメータに基づいて内視鏡の動作を変更してもよい。また、内視鏡と伝送系をセットにして内視鏡と称してもよい。受光素子50054は、受光した光を画素信号に変換するセンサであり、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプの撮像素子である。受光素子50054は、Bayer配列を有するカラー撮影可能な撮像素子であることが好ましい。また、受光素子50054は、例えば4K(水平画素数3840×垂直画素数2160)、8K(水平画素数7680×垂直画素数4320)または正方形4K(水平画素数3840以上×垂直画素数3840以上)の解像度に対応した画素数を有する撮像素子であることが好ましい。受光素子50054は、1枚のセンサチップであってもよいし、複数のセンサチップでもよい。例えば、入射光を所定の波長帯域ごとに分離するプリズムを設けて、各波長帯域を異なる受光素子で撮像する構成であってもよい。また、立体視のために受光素子を複数設けてもよい。また、受光素子50054は、チップ構造の中に画像処理用の演算処理回路を含んでいるセンサであってもよいし、ToF(Time of Flight)用センサであってもよい。なお、伝送系は例えば光ファイバケーブルや無線伝送である。無線伝送は、内視鏡5001で生成された画素信号が伝送可能であればよく、例えば、内視鏡5001とCCU5039が無線接続されてもよいし、手術室内の基地局を経由して内視鏡5001とCCU5039が接続されてもよい。このとき、内視鏡5001は画素信号だけでなく、画素信号に関連する情報(例えば、画素信号の処理優先度や同期信号等)を同時に送信してもよい。なお、内視鏡はスコープとカメラヘッドを一体化してもよく、スコープの先端部に受光素子を設ける構成としてもよい。
 [CCU(Camera Control Unit)]
 CCU5039は、接続された内視鏡5001や光源装置5043を統括的に制御する制御装置であり、例えば、図8に示すように、FPGA50391、CPU50392、RAM50393、ROM50394、GPU50395、I/F50396を有する情報処理装置である。また、CCU5039は、接続された表示装置5041や記録装置5053、出力装置5055を統括的に制御してもよい。例えば、CCU5039は、光源装置5043の照射タイミングや照射強度、照射光源の種類を制御する。また、CCU5039は、内視鏡5001から出力された画素信号に対して現像処理(例えばデモザイク処理)や補正処理といった画像処理を行い、表示装置5041等の外部装置に処理後の画素信号(例えば画像)を出力する。また、CCU5039は、内視鏡5001に対して制御信号を送信し、内視鏡5001の駆動を制御する。制御信号は、例えば、カメラの倍率や焦点距離などの撮像条件に関する情報である。なお、CCU5039は画像のダウンコンバート機能を有し、表示装置5041に高解像度(例えば4K)の画像を、記録装置5053に低解像度(例えばHD)の画像を同時に出力可能な構成としてもよい。
 また、CCU5039は、信号を所定の通信プロトコル(例えば、IP(Internet Protocol))に変換するIPコンバータを経由して外部機器と接続されてもよい。IPコンバータと外部機器との接続は、有線ネットワークで構成されてもよいし、一部または全てのネットワークが無線ネットワークで構築されてもよい。例えば、CCU5039側のIPコンバータは無線通信機能を有し、受信した映像を第5世代移動通信システム(5G)、第6世代移動通信システム(6G)等の無線通信ネットワークを介してIPスイッチャーや出力側IPコンバータに送信してもよい。
 [光源装置]
 光源装置5043は、所定の波長帯域の光を照射可能な装置であり、例えば、複数の光源と、複数の光源の光を導光する光源光学系と、を備える。光源は、例えばキセノンランプ、LED光源やLD光源である。光源装置5043は、例えば三原色R、G、Bのそれぞれに対応するLED光源を有し、各光源の出力強度や出力タイミングを制御することで白色光を出射する。また、光源装置5043は、通常光観察に用いられる通常光を照射する光源とは別に、特殊光観察に用いられる特殊光を照射可能な光源を有していてもよい。特殊光は、通常光観察用の光である通常光とは異なる所定の波長帯域の光であり、例えば、近赤外光(波長が760nm以上の光)や赤外光、青色光、紫外光である。通常光は、例えば白色光や緑色光である。特殊光観察の一種である狭帯域光観察では、青色光と緑色光を交互に照射することにより、体組織における光の吸収の波長依存性を利用して、粘膜表層の血管等の所定の組織を高コントラストで撮影することができる。また、特殊光観察の一種である蛍光観察では、体組織に注入された試薬を励起する励起光を照射し、体組織または試薬が発する蛍光を受光して蛍光画像を得ることで、通常光では術者が視認しづらい体組織等を、術者が視認しやすくすることができる。例えば、赤外光を用いる赤外光観察では、体組織に注入されたインドシアニングリーン(ICG)等の試薬を励起する励起光として近赤外光を照射することで、体組織の奥の構造を視認しやすくすることができる。また、蛍光観察では、青色波長帯域の特殊光で励起され、赤色波長帯域の蛍光を発する試薬(例えばPDDや5-ALA)を用いてもよい。なお、光源装置5043は、CCU5039の制御により照射光の種類を設定される。CCU5039は、光源装置5043と内視鏡5001を制御することにより、通常光観察と特殊光観察が交互に行われるモードを有してもよい。このとき、通常光観察で得られた画素信号に特殊光観察で得られた画素信号に基づく情報を重畳されることが好ましい。
 [記録装置]
 記録装置5053は、CCU5039から取得した画素を記録する装置であり、例えばレコーダーである。記録装置5053は、CCU5039から取得した画像をHDDやSDD、光ディスクに記録する。記録装置5053は、病院内のネットワークに接続され、手術室外の機器からアクセス可能にしてもよい。また、記録装置5053は画像のダウンコンバート機能またはアップコンバート機能を有していてもよい。
 [表示装置]
 表示装置5041は、画像を表示可能な装置であり、例えば表示モニタである。表示装置5041は、CCU5039からの制御により、CCU5039によって画像処理が施された画素信号に基づく表示画像を表示する。なお、表示装置5041はカメラやマイクを備えることで、視線認識や音声認識、ジェスチャによる指示入力を可能にする入力デバイスとしても機能してよい。
 [出力装置]
 出力装置5055は、CCU5039から取得した情報を出力する装置であり、例えばプリンタである。出力装置5055は、例えば、CCU5039から取得した画素信号に基づく印刷画像を紙に印刷する。
 [支持装置]
 支持装置5027は、アーム制御装置5045を有するベース部5029と、ベース部5029から延伸するアーム部5031と、アーム部5031の先端に取り付けられた保持部5032とを備える多関節アームである。アーム制御装置5045は、CPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、アーム部5031の駆動を制御する。支持装置5027は、アーム制御装置5045によってアーム部5031を構成する各リンク5035の長さや各関節5033の回転角やトルク等のパラメータを制御することで、例えば保持部5032が保持する内視鏡5001の位置や姿勢を制御する。これにより、内視鏡5001を所望の位置または姿勢に変更し、スコープ5003を患者5071に挿入でき、また、体内での観察領域を変更できる。支持装置5027は、術中に内視鏡5001を支持する内視鏡支持アームとして機能する。これにより、支持装置5027は、内視鏡5001を持つ助手であるスコピストの代わりを担うことができる。また、支持装置5027は、後述する顕微鏡装置5301を支持する装置であってもよく、医療用支持アームと呼ぶこともできる。なお、支持装置5027の制御は、アーム制御装置5045による自律制御方式であってもよいし、ユーザの入力に基づいてアーム制御装置5045が制御する制御方式であってもよい。例えば、制御方式は、ユーザの手元のマスター装置の動きに基づいてスレイブ装置としての支持装置5027が制御されるマスタ・スレイブ方式でもよい。また、支持装置5027の制御は、手術室の外から遠隔制御が可能であってもよい。
 以上、本開示に係る技術が適用され得る内視鏡システム5000の一例について説明した。例えば、本開示に係る技術は、顕微鏡システムに適用されてもよい。
 [顕微鏡システム]
 図9は、本開示に係る技術が適用され得る顕微鏡手術システムの概略的な構成の一例を示す図である。なお、以下の説明において、内視鏡システム5000と同様の構成については、同一の符号を付し、その重複する説明を省略する。
 図9では、術者5067が、顕微鏡手術システム5300を用いて、患者ベッド5069上の患者5071に対して手術を行っている様子を概略的に示している。なお、図9では、簡単のため、顕微鏡手術システム5300の構成のうちカート5037の図示を省略するとともに、内視鏡5001に代わる顕微鏡装置5301を簡略化して図示している。ただし、本説明における顕微鏡装置5301は、リンク5035の先端に設けられた顕微鏡部5303を指していてもよいし、顕微鏡部5303及び支持装置5027を含む構成全体を指していてもよい。
 図9に示すように、手術時には、顕微鏡手術システム5300を用いて、顕微鏡装置5301によって撮影された術部の画像が、手術室に設置される表示装置5041に拡大表示される。表示装置5041は、術者5067と対向する位置に設置されており、術者5067は、表示装置5041に映し出された映像によって術部の様子を観察しながら、例えば患部の切除等、当該術部に対して各種の処置を行う。
 以上、本開示に係る技術が適用され得る内視鏡システム5000及び顕微鏡手術システム5300の例についてそれぞれ説明した。なお、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、支持装置5027は、その先端に内視鏡5001又は顕微鏡部5303に代えて他の観察装置や他の術具を支持し得る。当該他の観察装置としては、例えば、鉗子、攝子、気腹のための気腹チューブ、又は焼灼によって組織の切開や血管の封止を行うエネルギー処置具等が適用され得る。これらの観察装置や術具を支持装置によって支持することにより、医療スタッフが人手で支持する場合に比べて、より安定的に位置を固定することが可能となるとともに、医療スタッフの負担を軽減することが可能となる。本開示に係る技術は、このような顕微鏡部以外の構成を支持する支持装置に適用されてもよい。
 本開示に係る技術は、以上説明した構成のうち、内視鏡5001や顕微鏡装置5301に好適に適用され得る。これにより、より良好に術野を観察可能な医療用の画像を撮像することができ、手術をより安全にかつより確実に行うことが可能になる。
 <構成の組み合わせ例>
 なお、本技術は以下のような構成も取ることができる。
(1)
 カラーフィルタを介した光を受光して第1の画像信号を出力する第1の撮像素子と、
 カラーフィルタを介さずに光を受光して第2の画像信号を出力する第2の撮像素子と、
 マウント面から入射した入射光を、前記第1の撮像素子に入射する光と前記第2の撮像素子に入射する光とに分岐する分岐光学系と、
 前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行う信号処理部と
 を備え、
 前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される
 医療撮像システム。
(2)
 前記分岐光学系は、一部の光を反射するとともに一部の光を透過する光学素子を有し、
 前記光学素子は、前記第1の撮像素子と前記第2の撮像素子との感度差に応じて透過率が設定されている
 上記(1)に記載の医療撮像システム。
(3)
 前記信号処理部は、前記第2の画像信号から定常性検出を行い、その結果を用いて前記第1の画像信号の現像処理を行う
 上記(1)または(2)に記載の医療撮像システム。
(4)
 前記信号処理部は、水平・垂直・斜め方向の少なくともいずれかの隣接画素差分を取得し、画素差分が一番小さくなる方向に定常性があると見なして定常性検出を行う
 上記(3)に記載の医療撮像システム。
(5)
 前記信号処理部は、前記第1の画像信号と前記第2の画像信号とのコントラスト差を算出し、コントラスト差を低減する処理を行う
 上記(3)に記載の医療撮像システム。
(6)
 前記信号処理部は、定常性検出のパラメータおよび方法について、ユーザが選択したモードまたは画像認識から得た手術状況に基づいて変更する
 上記(3)に記載の医療撮像システム。
(7)
 カラーフィルタを介した光を受光して第3の画像信号を出力する第3の撮像素子をさらに備え、
 前記マウント面から前記第2の撮像素子までの光路長より、前記マウント面から前記第3の撮像素子までの光路長より長く構成される
 上記(1)から(6)までのいずれかに記載の医療撮像システム。
(8)
 前記信号処理部は、前記第2の画像信号および前記第3の画像信号を構成するR, Gr, Gb, Bそれぞれの画素値のうち、Gr, Gbの画素値を用いて1枚の全画素画像を作成し、定常性検出を行う
 上記(7)に記載の医療撮像システム。
(9)
 カラーフィルタを介した光を受光して第1の画像信号を出力する第1の撮像素子と、
 カラーフィルタを介さずに光を受光して第2の画像信号を出力する第2の撮像素子と、
 マウント面から入射した入射光を、前記第1の撮像素子に入射する光と前記第2の撮像素子に入射する光とに分岐する分岐光学系と、
 前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行う信号処理部と
 を備え、
 前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される
 医療撮像装置。
(10)
 医療撮像システムの動作方法であって、
 マウント面から入射した入射光が分岐された光を受光して第1の撮像素子により第1の画像信号を出力することと、
 前記光とは別に分岐された光を受光して第2の撮像素子により第2の画像信号を出力することと、
 前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行うことと
 を含み、
 前記医療撮像システムは、前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される
 動作方法。
 なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
 11 医療撮像システム, 12 医療撮像装置, 13 信号処理装置, 20 マウント, 21 分岐光学系, 22 撮像モジュール, 31 第1のプリズム, 32 第2のプリズム, 33 ハーフミラー, 34 第3のプリズム, 35 ハーフミラー, 41 ハウジング, 42 カバーガラス, 43 撮像素子, 44 フィルタ

Claims (10)

  1.  カラーフィルタを介した光を受光して第1の画像信号を出力する第1の撮像素子と、
     カラーフィルタを介さずに光を受光して第2の画像信号を出力する第2の撮像素子と、
     マウント面から入射した入射光を、前記第1の撮像素子に入射する光と前記第2の撮像素子に入射する光とに分岐する分岐光学系と、
     前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行う信号処理部と
     を備え、
     前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される
     医療撮像システム。
  2.  前記分岐光学系は、一部の光を反射するとともに一部の光を透過する光学素子を有し、
     前記光学素子は、前記第1の撮像素子と前記第2の撮像素子との感度差に応じて透過率が設定されている
     請求項1に記載の医療撮像システム。
  3.  前記信号処理部は、前記第2の画像信号から定常性検出を行い、その結果を用いて前記第1の画像信号の現像処理を行う
     請求項1に記載の医療撮像システム。
  4.  前記信号処理部は、水平・垂直・斜め方向の少なくともいずれかの隣接画素差分を取得し、画素差分が一番小さくなる方向に定常性があると見なして定常性検出を行う
     請求項3に記載の医療撮像システム。
  5.  前記信号処理部は、前記第1の画像信号と前記第2の画像信号とのコントラスト差を算出し、コントラスト差を低減する処理を行う
     請求項3に記載の医療撮像システム。
  6.  前記信号処理部は、定常性検出のパラメータおよび方法について、ユーザが選択したモードまたは画像認識から得た手術状況に基づいて変更する
     請求項3に記載の医療撮像システム。
  7.  カラーフィルタを介した光を受光して第3の画像信号を出力する第3の撮像素子をさらに備え、
     前記マウント面から前記第2の撮像素子までの光路長より、前記マウント面から前記第3の撮像素子までの光路長より長く構成される
     請求項1に記載の医療撮像システム。
  8.  前記信号処理部は、前記第2の画像信号および前記第3の画像信号を構成するR, Gr, Gb, Bそれぞれの画素値のうち、Gr, Gbの画素値を用いて1枚の全画素画像を作成し、定常性検出を行う
     請求項7に記載の医療撮像システム。
  9.  カラーフィルタを介した光を受光して第1の画像信号を出力する第1の撮像素子と、
     カラーフィルタを介さずに光を受光して第2の画像信号を出力する第2の撮像素子と、
     マウント面から入射した入射光を、前記第1の撮像素子に入射する光と前記第2の撮像素子に入射する光とに分岐する分岐光学系と、
     前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行う信号処理部と
     を備え、
     前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される
     医療撮像装置。
  10.  医療撮像システムの動作方法であって、
     マウント面から入射した入射光が分岐された光を受光して第1の撮像素子により第1の画像信号を出力することと、
     前記光とは別に分岐された光を受光して第2の撮像素子により第2の画像信号を出力することと、
     前記第1の画像信号および前記第2の画像信号を用いて被写界深度を拡大した被写界深度拡大画像を生成する被写界深度拡大処理を行うことと
     を含み、
     前記医療撮像システムは、前記マウント面から前記第1の撮像素子までの光路長が、前記マウント面から前記第2の撮像素子までの光路長より短く構成される
     動作方法。
PCT/JP2021/030108 2020-08-31 2021-08-18 医療撮像システム、医療撮像装置、および動作方法 WO2022044898A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
DE112021004549.0T DE112021004549T5 (de) 2020-08-31 2021-08-18 Medizinisches bildgebungssystem, medizinische bildgebungsvorrichtung und operationsverfahren
JP2022544484A JPWO2022044898A1 (ja) 2020-08-31 2021-08-18
US18/041,938 US20230397801A1 (en) 2020-08-31 2021-08-18 Medical imaging system, medical imaging device, and operation method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020146084 2020-08-31
JP2020-146084 2020-08-31

Publications (1)

Publication Number Publication Date
WO2022044898A1 true WO2022044898A1 (ja) 2022-03-03

Family

ID=80355200

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/030108 WO2022044898A1 (ja) 2020-08-31 2021-08-18 医療撮像システム、医療撮像装置、および動作方法

Country Status (4)

Country Link
US (1) US20230397801A1 (ja)
JP (1) JPWO2022044898A1 (ja)
DE (1) DE112021004549T5 (ja)
WO (1) WO2022044898A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013061819A1 (ja) * 2011-10-27 2013-05-02 オリンパスメディカルシステムズ株式会社 内視鏡システム
JP2015091072A (ja) * 2013-11-07 2015-05-11 株式会社リコー 撮像装置及びこの撮像装置を備えた撮像システム及び偽色除去方法
US20170351103A1 (en) * 2016-06-07 2017-12-07 Karl Storz Gmbh & Co. Kg Endoscope and imaging arrangement providing depth of field
WO2018186123A1 (ja) * 2017-04-03 2018-10-11 オリンパス株式会社 内視鏡システム及び内視鏡システムの調整方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5673186B2 (ja) 2011-02-16 2015-02-18 株式会社Jvcケンウッド 撮像装置及び撮像装置の補間処理方法
JP2017158764A (ja) 2016-03-09 2017-09-14 ソニー株式会社 画像処理装置、画像処理方法、及び記録媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013061819A1 (ja) * 2011-10-27 2013-05-02 オリンパスメディカルシステムズ株式会社 内視鏡システム
JP2015091072A (ja) * 2013-11-07 2015-05-11 株式会社リコー 撮像装置及びこの撮像装置を備えた撮像システム及び偽色除去方法
US20170351103A1 (en) * 2016-06-07 2017-12-07 Karl Storz Gmbh & Co. Kg Endoscope and imaging arrangement providing depth of field
WO2018186123A1 (ja) * 2017-04-03 2018-10-11 オリンパス株式会社 内視鏡システム及び内視鏡システムの調整方法

Also Published As

Publication number Publication date
JPWO2022044898A1 (ja) 2022-03-03
DE112021004549T5 (de) 2023-08-03
US20230397801A1 (en) 2023-12-14

Similar Documents

Publication Publication Date Title
US11788966B2 (en) Imaging system
WO2022044897A1 (ja) 医療撮像システム、医療撮像装置、および動作方法
US11531151B2 (en) Imaging apparatus and image generating method that detects an orientation of an imaging section and generates an image corresponding to a polarization direction corresponding to the orientation the imaging section
US11653824B2 (en) Medical observation system and medical observation device
JP6996518B2 (ja) 分岐光学系、撮像装置、及び撮像システム
JPWO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
JP6859554B2 (ja) 観察補助装置、情報処理方法、およびプログラム
WO2018088237A1 (ja) 画像処理装置および設定方法、並びにプログラム
US11039067B2 (en) Image pickup apparatus, video signal processing apparatus, and video signal processing method
WO2022044898A1 (ja) 医療撮像システム、医療撮像装置、および動作方法
US20230047294A1 (en) Medical image generation apparatus, medical image generation method, and medical image generation program
US20210235968A1 (en) Medical system, information processing apparatus, and information processing method
US20220022728A1 (en) Medical system, information processing device, and information processing method
US11399699B2 (en) Endoscope including green light sensor with larger pixel number than pixel number of red and blue light sensors
WO2020009127A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
WO2018088238A1 (ja) 画像処理装置および制御方法、並びにプログラム
WO2018088236A1 (ja) 画像処理装置および方法、並びにプログラム
US11979670B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program for blending plurality of image signals based on a peaking signal
US20230248231A1 (en) Medical system, information processing apparatus, and information processing method
WO2022249572A1 (ja) 画像処理装置、画像処理方法及び記録媒体
JP7480779B2 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム
US11676242B2 (en) Image processing apparatus and image processing method
JP2020525055A (ja) 医療撮影システム、方法及びコンピュータプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21861326

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022544484

Country of ref document: JP

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 21861326

Country of ref document: EP

Kind code of ref document: A1