JP7088185B2 - 医療用システム、医療用装置および制御方法 - Google Patents

医療用システム、医療用装置および制御方法 Download PDF

Info

Publication number
JP7088185B2
JP7088185B2 JP2019525090A JP2019525090A JP7088185B2 JP 7088185 B2 JP7088185 B2 JP 7088185B2 JP 2019525090 A JP2019525090 A JP 2019525090A JP 2019525090 A JP2019525090 A JP 2019525090A JP 7088185 B2 JP7088185 B2 JP 7088185B2
Authority
JP
Japan
Prior art keywords
image
unit
image signal
gradation
hdr
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019525090A
Other languages
English (en)
Other versions
JPWO2018230066A1 (ja
Inventor
岳志 宮井
康昭 高橋
真人 山根
雄生 杉江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018230066A1 publication Critical patent/JPWO2018230066A1/ja
Application granted granted Critical
Publication of JP7088185B2 publication Critical patent/JP7088185B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/012Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor characterised by internal passages or accessories therefor
    • A61B1/018Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor characterised by internal passages or accessories therefor for receiving instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0673Adjustment of display parameters for control of gamma adjustment, e.g. selecting another gamma curve
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0428Gradation resolution change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/08Biomedical applications

Description

本開示は、医療用システム、医療用装置および制御方法に関する。
近年、医療現場において内視鏡が用いられることがある。内視鏡によって撮像が行われる場合、近距離に存在する被写体であり、かつ、奥行きのある被写体に対して、正面から照明光が照射されて撮像が行われるのが一般的である。そのため、内視鏡によって撮像された画像(以下、「内視鏡画像」とも言う。)には、被写体の手前側が白飛びしやすいといった特徴、被写体の奥側および被写体のうち影が写っている部分が黒潰れしやすいといった特徴がある。
このような現象は、内視鏡が用いられる場合に限らず、顕微鏡が用いられる場合など、医療現場において様々な医療用装置が用いられる場合にも同様に起こり得る。これらの白飛びおよび黒潰れを軽減する方法として、暗部から明部までの広い明るさ範囲の情報を取得するHDR(High Dynamic Range)画像を取得する技術がある(例えば、特許文献1参照)。
しかし、画像を表示するモニタは、表現できる明るさ範囲が上記のように取得されたHDR画像の明るさ範囲よりも狭いモニタであるのが一般的である。以下では、HDR画像の明るさ範囲よりも狭い明るさ範囲を「SDR(Standard Dynamic Range)」とも言う。一般的には、HDR画像そのものをSDRモニタに出力するのではなく、上記のように取得されたHDR画像の階調を圧縮してSDR画像に変換してからSDRモニタに出力する。しかし、そうした場合には、HDR画像の持つ豊富な明るさ情報を十分に活用することができない。
一方、近年においては、暗部から明部まで広い明るさ範囲の情報を表示できるHDRモニタが開発されている。そこで、上記のように取得されたHDR画像に対して、階調圧縮を行わずに、HDR画像をそのままの明るさでHDRモニタに出力することによって、HDR画像の豊富な明るさ情報を十分に活用できるようになる。
特開2000-23183号公報
しかし、他方で、内視鏡によって取得されたHDR画像をそのままの明るさでHDRモニタに表示させた場合、表示されたHDR画像のうち、手前側の照明光が強く当たる部分および鏡面反射によって生じる非常に明るい部分などに対してユーザが眩しさを感じることがある。また、特に内視鏡を用いた診断または手術において、術者が長時間これらのHDR画像を見続けることで苦痛を感じてしまうが、診断または手術の施行の妨げとなる可能性がある。
そこで、HDR画像に基づいてHDRモニタに画像表示を行わせる場合に、HDRモニタによる出力画像に対してユーザが感じる眩しさを低減することが可能な技術が提供されることが望まれる。
本開示によれば、生体内の被写体を照射する光源と、前記光源の光軸と同軸で前記被写体を撮像する撮像部と、前記光源と前記撮像部を制御する制御部を有し、前記制御部は、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する医療用システムが提供される。
本開示によれば、生体内の被写体を撮像して第1の画像信号を取得し、前記第1の画像信号に基づいて、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号を生成し、前記第1の画像信号に基づいて、前記第1のダイナミックレンジより輝度の最大値と輝度の最小値の差の小さい第3の画像信号とを生成し、前記第2の画像信号、または前記第3の画像信号を出力するよう制御する制御部を有する医療用装置が提供される。
本開示によれば、生体内の被写体を照射する光源と前記光源の光軸と同軸で前記被写体を撮像する撮像部を制御する制御部を有し、前記制御部は、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する医療用装置が提供される。
本開示によれば、生体内の被写体を照射する光源と前記光源の光軸と同軸で前記被写体を撮像する撮像部を制御することを含み、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御することを含む、制御方法が提供される。
以上説明したように本開示によれば、HDR画像に基づいてHDRモニタに画像表示を行わせる場合に、HDRモニタによる出力画像に対してユーザが感じる眩しさを低減することが可能な技術が提供されることが可能な技術が提供されることが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
内視鏡手術システムの概略的な構成の一例を示す図である。 図1に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 内視鏡が用いられる場合における撮像環境を模式的に示す図である。 内視鏡によって撮像された画像の例を示す図である。 HDR画像に対して階調圧縮がなされた後に得られるSDR画像の例を示す図である。 HDR画像に対して階調圧縮がなされずに出力されるHDR画像そのものの例を示す図である。 本開示の実施形態に係るCCUが有する制御部の機能構成例を示すブロック図である。 本開示の第1の実施形態に係る制御部の構成例を示す図である。 ユーザによって明るさの最大値が指定される場合における出力画像の例を示す図である。 ユーザによって明るさの最大値が指定される場合における出力画像の例を示す図である。 本開示の第2の実施形態に係る制御部の構成例を示す図である。 手術器具が写る内視鏡画像の例を示す図である。 物体認識結果に基づいて階調圧縮がなされた後に得られる出力画像の例を示す図である。 本開示の第3の実施形態に係る制御部の構成例を示す図である。 B信号に対する階調圧縮がなされる前後の内視鏡画像の例を示す図である。 階調調整がなされていないRG信号と階調調整がなされた後のB信号の例を示す図である。 本開示の第4の実施形態に係る制御部の構成例を示す図である。 各高輝度面積に応じて階調調整がされた後における出力画像の例を示す図である。 本開示の第5の実施形態に係る制御部の構成例を示す図である。 各高輝度面積に応じて階調調整がされた後における出力画像の例を示す図である。 本開示の第6の実施形態に係る制御部の構成例を示す図である。 各輝度平均値に応じて階調調整がされた後における出力画像の例を示す図である。 本開示の第7の実施形態に係る制御部の構成例を示す図である。 各明るさ設定情報に応じて階調調整がされた後における出力画像の例を示す図である。 本開示の第8の実施形態の第1の例に係る制御部の構成例を示す図である。 各モニタ用の階調変換がされた後における出力画像の例を示す図である。 本開示の第8の実施形態の第2の例に係る制御部の構成例を示す図である。 SDR用追加階調変換がされた後における出力画像の例を示す図である。 本開示の第8の実施形態の第3の例に係る制御部の構成例を示す図である。 顕微鏡手術システムの概略的な構成の一例を示す図である。 図30に示す顕微鏡手術システムを用いた手術の様子を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書および図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合がある。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、類似する構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
1.システム構成例
2.概要
3.基本構成
4.各実施形態
4.1.第1の実施形態
4.2.第2の実施形態
4.3.第3の実施形態
4.4.第4の実施形態
4.5.第5の実施形態
4.6.第6の実施形態
4.7.第7の実施形態
4.8.第8の実施形態
5.応用例
6.むすび
<<1.システム構成例>>
まず、図面を参照しながら、本開示の実施形態に係る医療用システムの一例の構成例について説明する。本開示の実施形態に係る医療用システムの例としては様々なシステムが想定される。ここでは、本開示の実施形態に係る医療用システムの一例として、内視鏡手術システムの構成例について主に説明する。
図1は、本開示に係る技術が適用され得る内視鏡手術システム5000の概略的な構成の一例を示す図である。図1では、術者(医師)5067が、内視鏡手術システム5000を用いて、患者ベッド5069上の患者5071に手術を行っている様子が図示されている。図示するように、内視鏡手術システム5000は、内視鏡5001と、その他の術具5017と、内視鏡5001を支持する支持アーム装置5027と、内視鏡下手術のための各種の装置が搭載されたカート5037と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5025a~5025dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5025a~5025dから、内視鏡5001の鏡筒5003や、その他の術具5017が患者5071の体腔内に挿入される。図示する例では、その他の術具5017として、気腹チューブ5019、エネルギー処置具5021及び鉗子5023が、患者5071の体腔内に挿入されている。また、エネルギー処置具5021は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5017はあくまで一例であり、術具5017としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5001によって撮影された患者5071の体腔内の術部の画像が、表示装置5041に表示される。術者5067は、表示装置5041に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5021や鉗子5023を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5019、エネルギー処置具5021及び鉗子5023は、手術中に、術者5067又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5027は、ベース部5029から延伸するアーム部5031を備える。図示する例では、アーム部5031は、関節部5033a、5033b、5033c、及びリンク5035a、5035bから構成されており、アーム制御装置5045からの制御により駆動される。アーム部5031によって内視鏡5001が支持され、その位置及び姿勢が制御される。これにより、内視鏡5001の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5001は、先端から所定の長さの領域が患者5071の体腔内に挿入される鏡筒5003と、鏡筒5003の基端に接続されるカメラヘッド5005と、から構成される。図示する例では、硬性の鏡筒5003を有するいわゆる硬性鏡として構成される内視鏡5001を図示しているが、内視鏡5001は、軟性の鏡筒5003を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5003の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5001には光源装置5043が接続されており、当該光源装置5043によって生成された光が、鏡筒5003の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5071の体腔内の観察対象に向かって照射される。なお、内視鏡5001は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5005の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5039に送信される。なお、カメラヘッド5005には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5005には撮像素子が複数設けられてもよい。この場合、鏡筒5003の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5039は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5001及び表示装置5041の動作を統括的に制御する。具体的には、CCU5039は、カメラヘッド5005から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5039は、当該画像処理を施した画像信号を表示装置5041に提供する。また、CCU5039は、カメラヘッド5005に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置5041は、CCU5039からの制御により、当該CCU5039によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5001が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5041としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5041として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5041が設けられてもよい。
光源装置5043は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5001に供給する。
アーム制御装置5045は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5027のアーム部5031の駆動を制御する。
入力装置5047は、内視鏡手術システム5000に対する入力インタフェースである。ユーザは、入力装置5047を介して、内視鏡手術システム5000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5047を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5047を介して、アーム部5031を駆動させる旨の指示や、内視鏡5001による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5021を駆動させる旨の指示等を入力する。
入力装置5047の種類は限定されず、入力装置5047は各種の公知の入力装置であってよい。入力装置5047としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5057及び/又はレバー等が適用され得る。入力装置5047としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5041の表示面上に設けられてもよい。
あるいは、入力装置5047は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5047は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5047は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5047が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5067)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5049は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5021の駆動を制御する。気腹装置5051は、内視鏡5001による視野の確保及び術者の作業空間の確保の目的で、患者5071の体腔を膨らめるために、気腹チューブ5019を介して当該体腔内にガスを送り込む。レコーダ5053は、手術に関する各種の情報を記録可能な装置である。プリンタ5055は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5000において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5027は、基台であるベース部5029と、ベース部5029から延伸するアーム部5031と、を備える。図示する例では、アーム部5031は、複数の関節部5033a、5033b、5033cと、関節部5033bによって連結される複数のリンク5035a、5035bと、から構成されているが、図1では、簡単のため、アーム部5031の構成を簡略化して図示している。実際には、アーム部5031が所望の自由度を有するように、関節部5033a~5033c及びリンク5035a、5035bの形状、数及び配置、並びに関節部5033a~5033cの回転軸の方向等が適宜設定され得る。例えば、アーム部5031は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5031の可動範囲内において内視鏡5001を自由に移動させることが可能になるため、所望の方向から内視鏡5001の鏡筒5003を患者5071の体腔内に挿入することが可能になる。
関節部5033a~5033cにはアクチュエータが設けられており、関節部5033a~5033cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5045によって制御されることにより、各関節部5033a~5033cの回転角度が制御され、アーム部5031の駆動が制御される。これにより、内視鏡5001の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5045は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5031の駆動を制御することができる。
例えば、術者5067が、入力装置5047(フットスイッチ5057を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5045によってアーム部5031の駆動が適宜制御され、内視鏡5001の位置及び姿勢が制御されてよい。当該制御により、アーム部5031の先端の内視鏡5001を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5031は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5031は、手術室から離れた場所に設置される入力装置5047を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5045は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5031が移動するように、各関節部5033a~5033cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5031に触れながらアーム部5031を移動させる際に、比較的軽い力で当該アーム部5031を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5001を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5001が支持されていた。これに対して、支持アーム装置5027を用いることにより、人手によらずに内視鏡5001の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5045は必ずしもカート5037に設けられなくてもよい。また、アーム制御装置5045は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5045は、支持アーム装置5027のアーム部5031の各関節部5033a~5033cにそれぞれ設けられてもよく、複数のアーム制御装置5045が互いに協働することにより、アーム部5031の駆動制御が実現されてもよい。
(光源装置)
光源装置5043は、内視鏡5001に術部を撮影する際の照射光を供給する。光源装置5043は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5043において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5005の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5043は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5005の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5043は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5043は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図2を参照して、内視鏡5001のカメラヘッド5005及びCCU5039の機能についてより詳細に説明する。図2は、図1に示すカメラヘッド5005及びCCU5039の機能構成の一例を示すブロック図である。
図2を参照すると、カメラヘッド5005は、その機能として、レンズユニット5007と、撮像部5009と、駆動部5011と、通信部5013と、カメラヘッド制御部5015と、を有する。また、CCU5039は、その機能として、通信部5059と、画像処理部5061と、制御部5063と、を有する。カメラヘッド5005とCCU5039とは、伝送ケーブル5065によって双方向に通信可能に接続されている。
まず、カメラヘッド5005の機能構成について説明する。レンズユニット5007は、鏡筒5003との接続部に設けられる光学系である。鏡筒5003の先端から取り込まれた観察光は、カメラヘッド5005まで導光され、当該レンズユニット5007に入射する。レンズユニット5007は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5007は、撮像部5009の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5009は撮像素子によって構成され、レンズユニット5007の後段に配置される。レンズユニット5007を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5009によって生成された画像信号は、通信部5013に提供される。
撮像部5009を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5067は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5009を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5067は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5009が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5007も複数系統設けられる。
また、撮像部5009は、必ずしもカメラヘッド5005に設けられなくてもよい。例えば、撮像部5009は、鏡筒5003の内部に、対物レンズの直後に設けられてもよい。
駆動部5011は、アクチュエータによって構成され、カメラヘッド制御部5015からの制御により、レンズユニット5007のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5009による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5013は、CCU5039との間で各種の情報を送受信するための通信装置によって構成される。通信部5013は、撮像部5009から得た画像信号をRAWデータとして伝送ケーブル5065を介してCCU5039に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5067が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5013には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5065を介してCCU5039に送信される。
また、通信部5013は、CCU5039から、カメラヘッド5005の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5013は、受信した制御信号をカメラヘッド制御部5015に提供する。なお、CCU5039からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5013には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5015に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5039の制御部5063によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5001に搭載される。
カメラヘッド制御部5015は、通信部5013を介して受信したCCU5039からの制御信号に基づいて、カメラヘッド5005の駆動を制御する。例えば、カメラヘッド制御部5015は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5009の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5015は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5011を介してレンズユニット5007のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5015は、更に、鏡筒5003やカメラヘッド5005を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5007や撮像部5009等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5005について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5039の機能構成について説明する。通信部5059は、カメラヘッド5005との間で各種の情報を送受信するための通信装置によって構成される。通信部5059は、カメラヘッド5005から、伝送ケーブル5065を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5059には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5059は、電気信号に変換した画像信号を画像処理部5061に提供する。
また、通信部5059は、カメラヘッド5005に対して、カメラヘッド5005の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5061は、カメラヘッド5005から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5061は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5061は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5061が複数のGPUによって構成される場合には、画像処理部5061は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5063は、内視鏡5001による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5063は、カメラヘッド5005の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5063は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5001にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5063は、画像処理部5061による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5063は、画像処理部5061によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5041に表示させる。この際、制御部5063は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5063は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5021使用時のミスト等を認識することができる。制御部5063は、表示装置5041に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5067に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5005及びCCU5039を接続する伝送ケーブル5065は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5065を用いて有線で通信が行われていたが、カメラヘッド5005とCCU5039との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5065を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5065によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム5000の構成例について説明した。
<<2.概要>>
続いて、本開示に係る技術の概要について説明する。医療現場において内視鏡が用いられることがある。ここで、内視鏡によって撮像が行われる場合についてさらに詳細に説明する。
図3は、内視鏡5001が用いられる場合における撮像環境を模式的に示す図である。図4は、内視鏡5001によって撮像された画像の例を示す図である。図3を参照すると、内視鏡5001と被写体B11~B13とが示されている。被写体B11~B13は内視鏡5001から近距離に存在し、かつ、被写体B11~B13には奥行きがある。内視鏡5001からは、被写体B11~B13に光LTが照射される。光LTが照射された被写体B11~B13は、内視鏡5001によって撮像される。
このように、内視鏡5001によって撮像される場合には、被写体が内視鏡5001から近距離に存在し、かつ、被写体に奥行きがあるのが一般的である。そのため、内視鏡5001によって撮像された画像(以下、「内視鏡画像」とも言う。)には、被写体の手前側が白飛びしやすいといった特徴、被写体の奥側および被写体の影が写っている部分が黒潰れしやすいといった特徴がある。図4に示した内視鏡画像G1では、被写体B12および被写体B13の手前側が白飛びしており、被写体B12および被写体B13の奥側が黒潰れしてしまっている。
このような現象は、内視鏡5001が用いられる場合に限らず、顕微鏡が用いられる場合など、医療現場において様々な医療用装置が用いられる場合にも同様に起こり得る。これらの白飛びおよび黒潰れを軽減する方法として、暗部から明部までの広い明るさ範囲の情報を取得するHDR(High Dynamic Range)画像を取得する技術がある。
しかし、画像を表示するモニタは、表現できる明るさ範囲が上記のように取得されたHDR画像の明るさ範囲よりも狭いモニタであるのが一般的である。以下では、HDR画像の明るさ範囲よりも狭い明るさ範囲を「SDR(Standard Dynamic Range)」とも言う。一般的には、HDR画像そのものをSDRモニタに出力するのではなく、上記のように取得されたHDR画像の階調を圧縮してSDR画像に変換してからSDRモニタに出力する。しかし、そうした場合には、HDR画像の持つ豊富な明るさ情報を十分に活用することができない。
図5は、HDR画像に対して階調圧縮がなされた後に得られるSDR画像の例を示す図である。図5を参照すると、内視鏡によって撮像された内視鏡画像の明るさが「撮影した明るさ」として横軸に示されている。また、図5を参照すると、内視鏡画像の表示の明るさが「表示する明るさ」として縦軸に示されている。図5に示した例では、内視鏡画像の高輝度側に対して階調圧縮がなされた結果として、内視鏡画像の表示の明るさ範囲がSDRに収まるようにされている。
一方、近年においては、暗部から明部まで広い明るさ範囲の情報を表示できるHDRモニタが開発されている。そこで、上記のように取得されたHDR画像に対して、階調圧縮を行わずに、HDR画像をそのままの明るさでHDRモニタに出力することによって、HDR画像の豊富な明るさ情報を十分に活用できるようになる。
図6は、HDR画像に対して階調圧縮がなされずに出力されるHDR画像そのものの例を示す図である。図6を参照すると、図5と同様に、内視鏡によって撮像された内視鏡画像の明るさが「撮影した明るさ」として横軸に示されている。また、図6を参照すると、図5と同様に、内視鏡画像の表示の明るさが「表示する明るさ」として縦軸に示されている。図6に示した例では、内視鏡画像に対して階調圧縮がなされないために、内視鏡画像の表示の明るさ範囲がHDRとなっている。
しかし、他方で、内視鏡によって取得されたHDR画像をそのままの明るさでHDRモニタに表示させた場合、表示されたHDR画像のうち、手前側の照明光が強く当たる部分および鏡面反射によって生じる非常に明るい部分などに対してユーザが眩しさを感じることがある。また、特に内視鏡を用いた診断または手術において、術者が長時間これらのHDR画像を見続けることで苦痛を感じてしまうが、診断または手術の施行の妨げとなる可能性がある。
さらに、明るい表示部分が増えることで、相対的に暗い部分の視認性が低下することがある。また、複数のモニタが内視鏡に接続されており、複数のモニタの中に、SDRモニタとHDRモニタが混在している場合、HDRモニタに合わせてHDRモニタに出力された信号をそのままSDRモニタに出力したとしても、SDRモニタにおいては適切な画像が表示されない。
そこで、本明細書においては、HDR画像を適切な出力画像に適応的に変換してから、HDRモニタに出力する技術を主に提案する。より具体的には、本明細書においては、HDR画像に基づいてHDRモニタに画像表示を行わせる場合に、HDRモニタによる出力画像に対してユーザが感じる眩しさを低減することが可能な技術を提案する。
その他、本明細書においては、HDRモニタによる出力画像の暗部から明部までに対するユーザの視認性を向上させる技術を提案する。また、本明細書においては、内視鏡に接続されるモニタに適切な出力画像を出力する技術を提案する。
以上、本開示に係る技術の概要について説明した。
<<3.基本構成>>
続いて、本開示の実施形態に係るCCUが有する制御部の構成例について説明する。図7は、本開示の実施形態に係るCCUが有する制御部の機能構成例を示すブロック図である。図7に示すように、本開示の実施形態に係るCCUが有する制御部20は、HDR画像生成部21および階調変換部22を有する。HDR画像生成部21には、撮像部10が接続されている。階調変換部22には、HDR表示部(HDRモニタ)30-1が接続されている。
撮像部10は、イメージセンサを含んで構成されており、イメージセンサによって被写体を撮像する。より詳細には、図示しない光源によって生体内の被写体に光が照射されており、撮像部10は、図示しない光源の光軸と同軸で被写体を撮像する。例えば、図示しない光源は、図1に示した光源装置5043に相当し得る。また、撮像部10は、イメージセンサを用いて被写体の明るさを画素値情報として取得する。撮像部10は、図2に示した撮像部5009に相当し得る。なお、イメージセンサは、3板式の撮像素子を有していてもよい。
制御部20は、図示しない光源を制御する。また、制御部20は、撮像部10およびHDR表示部30-1を制御する。なお、図7に示した制御部20は、図2に示した制御部5063に相当し得る。
HDR画像生成部21は、撮像部10によって得られた画素値情報を用いてHDR画像を生成する。ここで、HDR画像は様々に定義され得る。例えば、HDR画像は、HDR規格に準拠した信号であればよい。より具体的に、HDR規格した信号は、HLG(Hybrid Log-Gamma)に対応した信号であってもよいし、PQ(Perceptual Quantization)に対応した信号であってもよい。
あるいは、画像の明るさ範囲が所定の明るさ以上であれば、その画像はHDR画像であると言ってもよい。ここで、所定の明るさは具体的にどのような値であってもよい。一例として、画像の明るさ範囲が1000[cd/m]以上であれば、その画像はHDR画像であると言ってよい。
画像を表示するモニタは、表現できる明るさ範囲が上記のように取得されたHDR画像の明るさ範囲よりも狭いモニタであるのが一般的である。以下では、HDR画像の明るさ範囲よりも狭い明るさ範囲を「SDR(Standard Dynamic Range)」とも言う。一般的には、HDR画像そのものをSDRモニタに出力するのではなく、上記のように取得されたHDR画像の階調を圧縮してSDR画像に変換してからSDRモニタに出力する。しかし、そうした場合には、HDR画像の持つ豊富な明るさ情報を十分に活用することができない。
図5は、HDR画像に対して階調圧縮がなされた後に得られるSDR画像の例を示す図である。図5を参照すると、内視鏡によって撮像された内視鏡画像の明るさが「撮影した明るさ」として横軸に示されている。また、図5を参照すると、内視鏡画像の表示の明るさが「表示する明るさ」として縦軸に示されている。図5に示した例では、内視鏡画像の高輝度側に対して階調圧縮がなされた結果として、内視鏡画像の表示の明るさ範囲がSDRに収まるようにされている。
HDR画像を生成する手法は特に限定されない。例えば、HDR画像を生成する手法としては、時間で交互に露出を変えて明るい画像と暗い画像を取得してそれらを合成する手法が採用されてもよいし、イメージセンサ上に露出の異なる明るい画素と暗い画素を配置してそれらを合成する手法が採用されてもよい。
なお、本開示の実施形態においては、HDR画像生成部21が、イメージセンサによって得られた画素値情報を用いてHDR画像を生成する場合を主に説明する。しかし、イメージセンサが元からHDR画像(暗部から明部まで広い明るさ情報)を取得できる場合は、HDR画像生成部21は必要なく、イメージセンサによって得られた画素値情報がそのまま階調変換部22によって用いられてもよい。
階調変換部22は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して階調の調整を行う。階調変換部22によって階調の調整が行われた結果、HDR画像生成部21によって得られたHDR画像が出力画像に変換される。出力画像もHDR規格に準拠した画像(HDR画像)である。階調変換部22は、HDR規格に準拠した出力画像をHDR表示部30-1に出力することによって、HDR表示部30-1によってHDR規格に準拠した出力画像が表示されるよう制御する。
かかる構成によれば、HDR画像に基づいてHDR表示部30-1に画像表示を行わせる場合に、階調調整後のHDR画像がHDR表示部30-1に出力される。したがって、HDR表示部30-1による出力画像に対してユーザが感じる眩しさを低減することが可能となる。
例えば、図7に示したように、階調変換部22は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して、各種情報に基づいて、階調を調整する。ここで、各種情報については、以下に説明する各実施形態において具体的に説明する。
HDR表示部30-1は、HDR画像を表示可能なディスプレイによって構成される(すなわち、HDR表示部30-1は、HDR規格に準拠したディスプレイによって構成される)。HDR表示部30-1は、階調変換部22によって階調の調整がされた後のHDR画像(出力画像)を出力(表示)する。
以上、本開示の実施形態に係るCCUが有する制御部の構成例について説明した。
<<4.各実施形態>>
以下では、上記の「3.基本構成」において説明した、制御部の構成例を前提とした、各実施形態について説明する。
<4-1.第1の実施形態>
まず、本開示の第1の実施形態について説明する。
図8は、本開示の第1の実施形態に係る制御部20-1の構成例を示す図である。図8に示したように、本開示の第1の実施形態に係る制御部20-1は、図7に示した制御部20と比較して、明るさ入力部23を有する点、および、階調変換部22の代わりに階調変換部22-1を有する点が異なる。したがって、以下では、本開示の第1の実施形態に係る制御部20-1のうち、明るさ入力部23および階調変換部22-1について主に説明し、他の構成の詳細な説明は省略する。
ここで、内視鏡画像を表示する場合には、TV等の観賞用の画像を表示する場合とは異なり、忠実に明るさを表現するよりも、長時間見続けても眩しさによる苦痛を感じない画像を表示することが重要な場合がある。そこで、本開示の第1の実施形態においては、出力画像をHDR表示部30-1に表示させるときに、ユーザが長時間出力画像を見続けても苦痛を感じずに済むように、ユーザが明るさに関する情報を指定できるようにする。ここでは、明るさに関する情報の例として、明るさの最大値(画像信号の最大の輝度値)を指定できるようにする場合を説明する。
明るさ入力部23は、ユーザによって指定された明るさの最大値を受け付ける。例えば、ユーザによって指定された明るさの最大値の入力は、図1に示した入力装置5047によって直接受け付けられ、入力装置5047によって入力が受け付けられた明るさの最大値が、明るさ入力部23によって受け付けられてよい。ここでは、明るさの最大値として、三つの段階(「高」「中」「低」)のいずれかが選択される場合を想定するが、明るさの最大値は、いくつの選択から指定されてもよいし、数値によって直接指定されてもよい。
階調変換部22-1は、ユーザによって指定された明るさの最大値に基づいて、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して階調の調整を行う。
図9および図10それぞれは、ユーザによって明るさの最大値が指定される場合における出力画像の例を示す図である。図9を参照すると、ユーザによって指定された明るさの最大値の例として「最大明るさ指定値A」(=第1の輝度値)が示されている。階調変換部22-1は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)の全ての明るさ(輝度値)が、この「最大明るさ指定値A」以下となるように、HDR画像(第1の画像信号)の階調を調整する。例えば、図9に示すように、階調変換部22-1は、HDR画像(第1の画像信号)の階調をなだらかに圧縮する。
ここで、階調変換部22-1は、HDR画像(第1の画像信号)の全体の階調を圧縮するのではなく、HDR画像(第1の画像信号)の明部のみを圧縮するのが望ましい。すなわち、階調変換部22-1は、HDR画像(第1の画像信号)のうち、輝度値が第2の輝度値より大きい画素信号に対しては、「最大明るさ指定値A」以下となるように階調を調整するが、輝度値が第2の輝度値以下の画素信号に対しては、階調を調整しないのがよい。これにより、通常の明るさ部分の見え方は変えずに、眩しさを感じる非常に明るい部分の明るさだけを低くすることができる。
図10を参照すると、ユーザによって指定された明るさの最大値の例として、図9に示した「最大明るさ指定値A」よりも小さい「最大明るさ指定値B」が示されている。かかる場合においても、階調変換部22-1は、HDR画像生成部21によって得られたHDR画像の全ての明るさ(輝度値)が、この「最大明るさ指定値B」以下となるように、HDR画像の階調を調整する。
また、かかる場合においても、階調変換部22-1は、HDR画像の全体の階調を圧縮するのではなく、HDR画像の明部のみを圧縮するのが望ましい。すなわち、階調変換部22-1は、HDR画像のうち、輝度値が第2の輝度値より大きい画素信号に対しては、「最大明るさ指定値B」以下となるように階調を調整するが、輝度値が第2の輝度値以下の画素信号に対しては、階調を調整しないのがよい。
なお、ここでは、明るさに関する情報の例として、明るさの最大値を指定できるようにする場合を説明した。しかし、明るさに関する情報は、明るさの最大値に限定されない。
例えば、明るさに関する情報の例として、明るさの最小値(画像信号の最小の輝度値)を指定できるようにしてもよい。このとき、階調変換部22-1は、ユーザによって指定された明るさの最小値に基づいて、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して階調の調整を行えばよい。
あるいは、明るさに関する情報の例として、画像信号の階調の調整率を指定できるようにしてもよい。このとき、階調変換部22-1は、ユーザによって指定された階調の調整率に基づいて、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して階調の調整を行えばよい。
また、階調変換部22-1は、ユーザによって指定された明るさに関する情報の代わりに、ユーザによって指定された観察モード情報に基づいて、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して階調の調整を行ってもよい。例えば、観察モードは、特殊光観察モード(例えば、赤外光観察モード、狭帯域光観察モードなど)および通常光観察モードから選択可能であってよい。
例えば、階調変換部22-1は、ユーザによって特殊光観察モードが指定された場合には、ユーザによって通常光観察モードが指定された場合よりも、HDR画像(第1の画像信号)に対して階調圧縮を強く行ってもよい。上記した例で言えば、図9に示された階調圧縮よりも、図10に示された階調圧縮のほうが強くなっている。また、階調変換部22-1は、ユーザによって観察モードが指定されない場合には、HDR画像(第1の画像信号)に対して階調圧縮を行わなくてもよい。
以上、本開示の第1の実施形態について説明した。
<4-2.第2の実施形態>
続いて、本開示の第2の実施形態について説明する。
図11は、本開示の第2の実施形態に係る制御部20-2の構成例を示す図である。図11に示したように、本開示の第2の実施形態に係る制御部20-2は、図7に示した制御部20と比較して、物体認識部24を有する点、および、階調変換部22の代わりに階調変換部22-2を有する点が異なる。したがって、以下では、本開示の第2の実施形態に係る制御部20-2のうち、物体認識部24および階調変換部22-2について主に説明し、他の構成の詳細な説明は省略する。
ここで、内視鏡画像に映っている物体には、忠実に明るさを表現したほうがよい物体と、その必要がない物体がある。例えば、体内の臓器はその状態を正確に把握するために忠実にその明るさを再現することが望まれる。一方、手術器具は忠実にその明るさを再現する必要がない。特に、金属製の手術器具は高い反射率を持つため非常に高輝度になり目の疲労に繋がる。そこで、第2の実施形態においては、内視鏡画像に映っている物体を認識し、その認識結果に基づいてHDR画像の階調を変換する場合を説明する。
物体認識部24は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して物体認識を行う。図12は、手術器具が写る内視鏡画像の例を示す図である。図12を参照すると、内視鏡画像G2に手術器具B21の例として、鉗子が写っている。また、内視鏡画像G2に臓器B22が写っている。物体認識部24によって、手術器具B21および臓器B22が認識される。
階調変換部22-2は、物体認識部24による物体認識の結果に基づき、階調調整を行う領域(第1の領域)を決定し、階調調整を行う領域に含まれる画素信号の階調を調整し、階調調整を行う領域以外に含まれる画素信号の階調を調整しないよう制御する。例えば、階調変換部22-2は、物体認識部24による物体認識結果に基づいて、マスク、術具、ガーゼ、ミスト、または生体組織を含む領域(第2の領域)を特定し、第2の領域に基づき、階調調整を行う領域を決定する。
図13は、物体認識結果に基づいて階調圧縮がなされた後に得られる出力画像の例を示す図である。図12に示した例では、物体認識部24によって手術器具B21および臓器B22が認識される。階調変換部22-2は、手術器具B21の認識結果に基づき、手術器具領域を特定し、手術器具領域を、階調調整を行う領域として決定してもよい。あるいは、階調変換部22-2は、臓器B22の認識結果に基づき、臓器領域を特定し、臓器領域以外を、階調調整を行う領域として決定してもよい。
図13を参照すると、臓器領域に含まれる画像信号の階調は圧縮されておらず、手術器具領域に含まれる画像信号の階調は圧縮されている。階調変換部22-2は、手術器具領域に含まれる画像信号の明るさ(輝度値)が、「最大明るさ制限値」以下となるように、画像信号の階調を調整する。図13に示した例では、「最大明るさ制限値」が、HDRの範囲内に設定されているが、SDRの範囲内に設定されてもよい。
なお、ここでは、術具の例として手術器具が認識される例を説明したが、マスク、ガーゼ、またはミストなどが認識される場合もあり得る。マスクまたはガーゼなどは、金属製の手術器具と比較して明るくなりにくいことが想定されるため、マスクまたはガーゼの領域に含まれる画像信号は、金属製の手術器具の領域に含まれる画像信号よりも弱めに階調圧縮されるのがよい。一方、ミストの明るさは、ミストを構成する粒の大きさによって変化し得るため、ミストの領域に含まれる画像信号の階調圧縮の強さはミストを構成する粒の大きさに依存するのがよい。
以上、本開示の第2の実施形態について説明した。
<4-3.第3の実施形態>
続いて、本開示の第3の実施形態について説明する。
図14は、本開示の第3の実施形態に係る制御部20-3の構成例を示す図である。図14に示したように、本開示の第3の実施形態に係る制御部20-3は、図7に示した制御部20と比較して、階調変換部22の代わりに、R,G用階調変換部22-3aおよびB用階調変換部22-3bを有する点が異なる。したがって、以下では、本開示の第3の実施形態に係る制御部20-3のうち、R,G用階調変換部22-3aおよびB用階調変換部22-3bについて主に説明し、他の構成の詳細な説明は省略する。
ここで、人の眼は、波長380nm~500nmの光を特に眩しいと感じる傾向にある。この波長は青色の領域となる。そこで、第3の実施形態においては、内視鏡画像の高輝度部分の青色の成分を他の色よりも暗くすることで眩しさを感じにくくする場合を説明する。
B用階調変換部22-3bは、HDR画像生成部21によって得られたHDR画像(第1の画像信号)のうち、特定の色の画素信号に対して、階調を調整する。より具体的には、B用階調変換部22-3bは、HDR画像(第1の画像信号)を構成する、赤(R)、緑(G)、青(B)の3つの色成分の中から、B信号に対して階調圧縮を行う。
R,G用階調変換部22-3aは、特定の色以外の色の画素信号に対して、B用階調変換部22-3bによる特定の色の画像信号に対する階調圧縮よりも弱めの階調圧縮を行い、または、特定の色以外の色の画素信号に対して階調を調整しない。より具体的には、R,G用階調変換部22-3aは、HDR画像(第1の画像信号)を構成する、赤(R)、緑(G)、青(B)の3つの色成分の中から、R信号とG信号に対して、B信号に対する階調圧縮よりも弱めの階調圧縮を行い、または、R信号とG信号に対して階調圧縮を行わない。
図15は、B信号に対する階調圧縮がなされる前後の内視鏡画像の例を示す図である。内視鏡画像G31は、B信号に対する階調圧縮がなされる前における内視鏡画像である。内視鏡画像G32は、B信号に対する階調圧縮がなされた後における内視鏡画像である。
B信号に対する階調圧縮がなされる前と比較して、B信号に対する階調圧縮がなされた後は、色の忠実な再現はできなくなっているが、眩しさが軽減されて見やすい画像になっている。
図16は、階調調整がなされていないRG信号と階調調整がなされた後のB信号の例を示す図である。図16に示すように、B信号に対する階調圧縮がなされることによって、B信号に対する階調圧縮がなされる前と比較して、高輝度の青色の成分による眩しさが軽減される。
以上、本開示の第3の実施形態について説明した。
<4-4.第4の実施形態>
続いて、本開示の第4の実施形態について説明する。
図17は、本開示の第4の実施形態に係る制御部20-4の構成例を示す図である。図17に示したように、本開示の第4の実施形態に係る制御部20-4は、図7に示した制御部20と比較して、高輝度面積算出部25を有する点、階調変換部22の代わりに階調変換部22-4を有する点が異なる。したがって、以下では、本開示の第4の実施形態に係る制御部20-4のうち、高輝度面積算出部25および階調変換部22-4について主に説明し、他の構成の詳細な説明は省略する。
ここで、人の眼は、画像の中で非常に明るい領域の面積が広い程、眩しいと感じやすい傾向がある。そこで、本開示の第4の実施形態においては、内視鏡画像の中で非常に明るい領域を算出して、その算出結果に基づいて内視鏡画像の階調を調整する場合を説明する。より具体的に、本開示の第4の実施形態においては、内視鏡画像の中で非常に明るい領域の面積を算出して、算出した面積に応じて明るさの最大値を制御する階調調整を行う場合を主に説明する。
高輝度面積算出部25は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)の中で、非常に明るい部分の面積を算出する。非常に明るい部分の面積の算出手法としては、輝度値がある閾値(第2の輝度値)よりも大きい画素の数を計測する手法などが採用され得る。以下では、輝度値がある閾値(第2の輝度値)よりも大きい画素の数を、単に「高輝度面積」とも言う。
階調変換部22-4は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)のうち、輝度が第2の輝度値より大きい画素に基づいて、HDR画像(第1の画像信号)に対して階調を調整する。より具体的に、階調変換部22-4は、HDR画像(第1の画像信号)のうち、輝度が第2の輝度値より大きい画素の数に基づいて明るさの最大値(第1の輝度値)を決定し、HDR画像(第1の画像信号)の全ての画素信号の輝度値が、明るさの最大値以下となるよう階調を調整する。
図18は、各高輝度面積に応じて階調調整がされた後における出力画像の例を示す図である。図18を参照すると、高輝度面積が「小」「中」「大」それぞれに対応する出力画像の例が示されている。高輝度面積「中」「大」に示されるように、階調変換部22-4は、高輝度面積が大きいほど、明るさの最大値を下げることによって、強く階調圧縮を行って、眩しさを軽減するとよい。また、高輝度面積が「小」に示されるように、階調変換部22-4は、高輝度面積がある面積よりも小さい場合には、階調圧縮を行わなくてもよい。
以上、本開示の第4の実施形態について説明した。
<4-5.第5の実施形態>
続いて、本開示の第5の実施形態について説明する。
図19は、本開示の第5の実施形態に係る制御部20-5の構成例を示す図である。図19に示したように、本開示の第5の実施形態に係る制御部20-5は、図17に示した制御部20-4と比較して、階調変換部22-4の代わりに階調変換部22-5を有する点が異なる。したがって、以下では、本開示の第5の実施形態に係る制御部20-5のうち、階調変換部22-5について主に説明し、他の構成の詳細な説明は省略する。
人の眼は、非常に明るいものを見ると瞳孔が閉じて、明るい部分が見えやすくなる反面、暗い部分が見えにくくなる特性がある。これにより、内視鏡によって撮像されたHDR画像の中に非常に明るい部分が多くあると、画像を見ているユーザの瞳孔が閉じて、画像の中の暗い部分が見えにくくなる可能性がある。そこで、本開示の第5の実施形態においては、内視鏡画像の中で非常に明るい領域の面積を算出して、算出した面積に応じて暗い部分を見えやすくする階調調整を行う場合を主に説明する。
階調変換部22-5は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)のうち、輝度が第2の輝度値より大きい画素の数が所定の数より多い場合に、HDR画像(第1の画像信号)のうち第3の輝度値より輝度が小さい画素信号の輝度を大きくする。
図20は、各高輝度面積に応じて階調調整がされた後における出力画像の例を示す図である。図20を参照すると、高輝度面積が「小」「大」それぞれに対応する出力画像の例が示されている。高輝度面積「大」は、輝度が第2の輝度値より大きい画素の数が所定の数より多い場合に相当する。かかる場合には、階調変換部22-5は、HDR画像(第1の画像信号)のうち第3の輝度値より輝度が小さい画素信号の輝度を大きくする。一方、高輝度面積「小」は、輝度が第2の輝度値より大きい画素の数が所定の数以下である場合に相当する。かかる場合には、階調変換部22-5は、HDR画像(第1の画像信号)の輝度を変化させなくてよい。
なお、階調変換部22-5は、内視鏡画像の中の高輝度面積の時間変化に伴って、暗部の明るさが急激に変化することを避けるように暗部の明るさを変化させてもよい。すなわち、階調変換部22-5は、暗部の明るさの変化量に制限をかけて時間方向でなだらかに暗部の明るさが変化するようにしてもよい。
例えば、階調変換部22-5は、第3の輝度値より輝度が小さい画素信号に対して、同じ調整量を用いて輝度を大きくしてもよい。このときの調整量は、想定される高輝度面積の平均的な量に基づいて決められてもよい。
また、階調変換部22-5は、HDR画像(第1の画像信号)の輝度値が所定の範囲内の値を示す期間(第1の期間)に応じて、HDR画像(第1の画像信号)の輝度値を、その範囲内に含まれる値に対応する輝度に維持する期間(第2の期間)を決定してもよい。例えば、階調変換部22-5は、HDR画像(第1の画像信号)の輝度値が所定の範囲内の値を示す期間(第1の期間)が長いほど、HDR画像(第1の画像信号)の輝度値を、その範囲内に含まれる値に対応する輝度に維持する期間(第2の期間)を長く決定してもよい。
以上、本開示の第5の実施形態について説明した。
<4-6.第6の実施形態>
続いて、本開示の第6の実施形態について説明する。
図21は、本開示の第6の実施形態に係る制御部20-6の構成例を示す図である。図21に示したように、本開示の第6の実施形態に係る制御部20-6は、図7に示した制御部20と比較して、輝度平均値算出部26を有する点、階調変換部22の代わりに階調変換部22-6を有する点が異なる。したがって、以下では、本開示の第6の実施形態に係る制御部20-6のうち、階調変換部22-6について主に説明し、他の構成の詳細な説明は省略する。
本開示の第4の実施形態においては、内視鏡画像の中で非常に明るい領域の面積を算出して、算出した面積に応じて明るさの最大値を制御する階調調整を行う場合を説明した。また、本開示の第5の実施形態においては、内視鏡画像の中で非常に明るい領域の面積を算出して、算出した面積に応じて暗い部分を見えやすくする階調調整を行う場合を説明した。
本開示の第6の実施形態においては、本開示の第4の実施形態および本開示の第5の実施形態において用いられた「非常に明るい領域の面積(高輝度面積)」の代わりに、「輝度の平均値」を用いる場合を主に説明する。
輝度平均値算出部26は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)を構成する各画素信号の輝度の平均値を算出する。なお、ここでは、HDR画像(第1の画像信号)を構成する各画素信号の輝度の平均値を算出する場合を主に想定するが、輝度平均値算出部26は、平均値の代わりに加算値を算出してもよい。このとき、階調変換部22-6においても平均値の代わりに加算値が利用されてもよい。
階調変換部22-6は、HDR画像生成部21によって得られたHDR画像(第1の画像信号)を構成する各画素信号の輝度の平均値に基づいて、階調の調整の度合または階調を調整する領域を決定し、決定した階調の調整の度合または階調を調整する領域に基づいて、HDR画像(第1の画像信号)に対して、階調を調整する。
図22は、各輝度平均値に応じて階調調整がされた後における出力画像の例を示す図である。図22を参照すると、平均輝度値が「小」「大」それぞれに対応する出力画像の例が示されている。階調変換部22-6は、平均輝度値が大きいほど、明るさの最大値を下げることによって、強く階調圧縮を行って、眩しさを軽減するとよい。また、輝度平均値「小」に示されるように、階調変換部22-6は、平均輝度値がある輝度値よりも小さい場合には、階調圧縮を行わなくてもよい。
なお、ここでは、HDR画像(第1の画像信号)の全ての画素信号の輝度値を調整する場合を想定したが、階調を調整する領域は、HDR画像(第1の画像信号)の全ての画素ではなくてもよく、HDR画像(第1の画像信号)の一部の画素であってもよい。このとき、階調を調整する領域は、HDR画像(第1の画像信号)における所定の領域(例えば、中央領域など)に固定的に決められていてもよい。
階調変換部22-6は、HDR画像(第1の画像信号)を構成する各画素信号の輝度の平均値に基づいて、階調を調整する領域を決定し、決定した階調を調整する領域に基づいて、HDR画像(第1の画像信号)に対して、階調を調整してもよい。例えば、階調変換部22-6は、各画素信号の輝度の平均値が小さいほど、階調を調整する領域を狭く決定してもよい。
以上、本開示の第6の実施形態について説明した。
<4-7.第7の実施形態>
続いて、本開示の第7の実施形態について説明する。
図23は、本開示の第7の実施形態に係る制御部20-7の構成例を示す図である。図23に示したように、本開示の第7の実施形態に係る制御部20-7は、図7に示した制御部20と比較して、階調変換部22の代わりに階調変換部22-7を有する点が異なる。したがって、以下では、本開示の第7の実施形態に係る制御部20-7のうち、階調変換部22-7について主に説明し、他の構成の詳細な説明は省略する。
ここで、HDR表示部30-1によって表示される出力画像の明るさは、HDR表示部30-1の明るさ設定情報によって変化する。例えば、HDR表示部30-1が明るく設定されているほど、HDR表示部30-1によって表示される内視鏡画像の明るい部分が多くなってしまい、ユーザが眩しさを感じやすくなる。そこで、本開示の第7の実施形態においては、HDR表示部30-1の明るさ設定情報に基づいて、眩しさを軽減するための階調調整を行う場合を主に説明する。
階調変換部22-7は、HDR表示部30-1の明るさ設定情報を取得し、HDR表示部30-1の明るさ設定情報に基づいて、HDR画像(第1の画像信号)に対して階調を調整する。より具体的に、階調変換部22-7は、HDR表示部30-1の明るさ設定が明るいほど、輝度が小さい領域から階調圧縮を開始するのがよい。なお、図23に示したように、階調変換部22-7は、HDR表示部30-1に設定されている明るさ設定情報に基づいてHDR表示部30-1が動作している場合、HDR表示部30-1から明るさ設定情報を取得すればよい。
図24は、各明るさ設定情報に応じて階調調整がされた後における出力画像の例を示す図である。図24を参照すると、明るさ設定が「明」「中」「暗」それぞれに対応する出力画像の例が示されている。明るさ設定「明」「中」に示すように、階調変換部22-7は、明るさ設定が明るいほど、輝度が小さい領域から階調圧縮を開始するのがよい。また、明るさ設定「暗」に示すように、階調変換部22-7は、明るさ設定が所定の明るさよりも暗い場合、階調圧縮を行わなくてもよい。
以上、本開示の第7の実施形態について説明した。
<4-8.第8の実施形態>
続いて、本開示の第8の実施形態について説明する。
図25は、本開示の第8の実施形態の第1の例に係る制御部20-8の構成例を示す図である。図25に示したように、本開示の第8の実施形態の第1の例に係る制御部20-8は、図7に示した制御部20と比較して、階調変換部22の代わりに、HDRモニタ用階調変換部22-8aおよびSDRモニタ用階調変換部22-8bを有する点が異なる。したがって、以下では、本開示の第8の実施形態の第1の例に係る制御部20-8のうち、HDRモニタ用階調変換部22-8aおよびSDRモニタ用階調変換部22-8bについて主に説明し、他の構成の詳細な説明は省略する。
ここで、内視鏡画像を見るメインのモニタがHDRモニタ(HDR表示部30-1)であっても、その他のサブモニタとしては、SDRモニタ(SDR表示部30-2)が制御部20-8に接続されることがある。この場合、HDRモニタに合わせた階調調整が行われた画像と同じをSDRモニタに出力しても、SDRモニタにおいては適切な画像が表示されない。そこで、本開示の第8の実施形態の第1の例においては、制御部20-8に接続されるモニタの種類に応じて階調調整を変える場合を主に説明する。
第1の例においては、制御部20-8がモニタごとに階調変換部を有する。HDRモニタ用階調変換部22-8aは、HDR表示部30-1に接続されており、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に基づいて、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有するHDR画像(第2の画像信号)を生成する。
このとき、HDRモニタ用階調変換部22-8aは、上記の各実施形態において既に説明したように、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して、HDRモニタ用の階調圧縮を行ってもよいし、階調圧縮を行わなくてもよい。HDRモニタ用階調変換部22-8aは、生成したHDR画像(第2の画像信号)を出力するようHDR表示部30-1を制御する。
SDRモニタ用階調変換部22-8bは、SDR表示部30-2に接続されており、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に基づいて、第1のダイナミックレンジより輝度の最大値と輝度の最小値の差の小さいSDR画像(第3の画像信号)を生成する。
このとき、SDRモニタ用階調変換部22-8bは、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して、明るさ最大値がSDRに収まるように階調圧縮を行う。SDRモニタ用階調変換部22-8bは、生成したSDR画像(第3の画像信号)を出力するようSDR表示部30-2を制御する。
図26は、各モニタ用の階調変換がされた後における出力画像の例を示す図である。図26を参照すると、HDR用階調変換がなされた後における出力画像とSDR用階調変換がなされた後における出力画像の例が示されている。図26に示した例では、本開示の第1の実施形態において既に説明したように、HDR用階調変換において、明るさの最大値が「最大明るさ指定値」として指定されている。
図27は、本開示の第8の実施形態の第2の例に係る制御部20-9の構成例を示す図である。図27に示したように、本開示の第8の実施形態の第2の例に係る制御部20-9は、図7に示した制御部20と比較して、階調変換部22の代わりに、HDRモニタ用階調変換部22-9aおよびSDRモニタ用追加階調変換部22-9bを有する点が異なる。したがって、以下では、本開示の第8の実施形態の第2の例に係る制御部20-9のうち、階調変換部22-9aおよびSDRモニタ用追加階調変換部22-9bについて主に説明し、他の構成の詳細な説明は省略する。
本開示の第8の実施形態の第2の例においても、制御部20-9に接続されるモニタの種類に応じて階調調整を変える場合を主に説明する。階調変換部22-9aは、HDR表示部30-1に接続されており、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に基づいて、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有するHDR画像(第2の画像信号)を生成する。
このとき、階調変換部22-9aは、上記の各実施形態において既に説明したように、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に対して、HDRモニタ用の階調圧縮を行ってもよいし、階調圧縮を行わなくてもよい。階調変換部22-9aは、生成したHDR画像(第2の画像信号)を出力するようHDR表示部30-1を制御する。また、階調変換部22-9aは、生成したHDR画像(第2の画像信号)をSDRモニタ用追加階調変換部22-9bにも出力する。
SDRモニタ用追加階調変換部22-9bは、SDR表示部30-2に接続されており、階調変換部22-9aによって生成されたHDR画像(第2の画像信号)に基づいて、HDR画像(第2の画像信号)のダイナミックレンジ(第1のダイナミックレンジ)より輝度の最大値と輝度の最小値の差の小さいSDR画像(第3の画像信号)を生成する。
このとき、SDRモニタ用追加階調変換部22-9bは、階調変換部22-9aによって生成されたHDR画像(第2の画像信号)に対して、明るさ最大値がSDRに収まるように階調圧縮を行う。SDRモニタ用追加階調変換部22-9bは、生成したSDR画像(第3の画像信号)を出力するようSDR表示部30-2を制御する。
図28は、SDR用追加階調変換がされた後における出力画像の例を示す図である。図28を参照すると、階調変換部22-9aによって生成されたHDR画像(第2の画像信号)の明るさが「入力された明るさ」として示され、SDR用追加階調変換がされた後における出力画像の明るさが「表示する明るさ」として示されている。図28に示すように、SDRモニタ用追加階調変換部22-9bは、階調変換部22-9aによって生成されたHDR画像(第2の画像信号)に対して、明るさ最大値がSDRに収まるように階調圧縮を行う。
図29は、本開示の第8の実施形態の第3の例に係る制御部20-10の構成例を示す図である。図29に示したように、本開示の第8の実施形態の第3の例に係る制御部20-10は、図7に示した制御部20と比較して、階調変換部22の代わりに、階調変換部22-10aおよびSDR記録用追加階調変換部22-10を有する点が異なる。したがって、以下では、本開示の第8の実施形態の第3の例に係る制御部20-10のうち、階調変換部22-10aおよびSDR記録用追加階調変換部22-10bについて主に説明し、他の構成の詳細な説明は省略する。
ここで、制御部20-10には、レコーダが接続されることがある。図29に示すように、制御部20-1に接続されるレコーダがSDR用である場合(SDR記録部40)、本開示の第8の実施形態の第2の例に示したような、制御部20-8にSDR表示部30-2が接続される場合と同様に、SDR記録用追加階調変換部22-10bによってSDR記録用の追加階調変換が行われればよい(図27に示したSDRモニタ用追加階調変換部22-9bと同様の機能を有していればよい)。なお、階調変換部22-10aも図27に示した階調変換部22-9aと同様の機能を有していればよい。
以上、本開示の第8の実施形態について説明した。
<<5.応用例>>
以上、本開示に係る技術が適用され得る内視鏡手術システム5000の一例について説明した。なお、ここでは、一例として内視鏡手術システム5000について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。以下では、本開示に係る技術が適用され得る顕微鏡手術システムについて説明する。
図30は、本開示に係る技術が適用され得る顕微鏡手術システム5300の概略的な構成の一例を示す図である。図30を参照すると、顕微鏡手術システム5300は、顕微鏡装置5301と、制御装置5317と、表示装置5319と、から構成される。なお、以下の顕微鏡手術システム5300についての説明において、「ユーザ」とは、術者及び助手等、顕微鏡手術システム5300を使用する任意の医療スタッフのことを意味する。
顕微鏡装置5301は、観察対象(患者の術部)を拡大観察するための顕微鏡部5303と、顕微鏡部5303を先端で支持するアーム部5309と、アーム部5309の基端を支持するベース部5315と、を有する。
顕微鏡部5303は、略円筒形状の筒状部5305と、当該筒状部5305の内部に設けられる撮像部(図示せず)と、筒状部5305の外周の一部領域に設けられる操作部5307と、から構成される。顕微鏡部5303は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部(いわゆるビデオ式の顕微鏡部)である。
筒状部5305の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光(以下、観察光ともいう)は、当該カバーガラスを通過して、筒状部5305の内部の撮像部に入射する。なお、筒状部5305の内部には例えばLED(Light Emitting Diode)等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。
撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばBayer配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、RAWデータとして制御装置5317に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。また、撮像部には、AE(Auto Exposure)機能やAF(Auto Focus)機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。
また、撮像部は、1つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視(3D表示)に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。
操作部5307は、例えば十字レバー又はスイッチ等によって構成され、ユーザの操作入力を受け付ける入力手段である。例えば、ユーザは、操作部5307を介して、観察像の拡大倍率及び観察対象までの焦点距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び焦点距離が調整され得る。また、例えば、ユーザは、操作部5307を介して、アーム部5309の動作モード(後述するオールフリーモード及び固定モード)を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部5303を移動させようとする場合には、当該ユーザは筒状部5305を握るように把持した状態で当該顕微鏡部5303を移動させる様態が想定される。従って、操作部5307は、ユーザが筒状部5305を移動させている間でも操作可能なように、ユーザが筒状部5305を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
アーム部5309は、複数のリンク(第1リンク5313a~第6リンク5313f)が、複数の関節部(第1関節部5311a~第6関節部5311f)によって互いに回動可能に連結されることによって構成される。
第1関節部5311aは、略円柱形状を有し、その先端(下端)で、顕微鏡部5303の筒状部5305の上端を、当該筒状部5305の中心軸と平行な回転軸(第1軸O)まわりに回動可能に支持する。ここで、第1関節部5311aは、第1軸Oが顕微鏡部5303の撮像部の光軸と一致するように構成され得る。これにより、第1軸Oまわりに顕微鏡部5303を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
第1リンク5313aは、先端で第1関節部5311aを固定的に支持する。具体的には、第1リンク5313aは略L字形状を有する棒状の部材であり、その先端側の一辺が第1軸Oと直交する方向に延伸しつつ、当該一辺の端部が第1関節部5311aの外周の上端部に当接するように、第1関節部5311aに接続される。第1リンク5313aの略L字形状の基端側の他辺の端部に第2関節部5311bが接続される。
第2関節部5311bは、略円柱形状を有し、その先端で、第1リンク5313aの基端を、第1軸Oと直交する回転軸(第2軸O)まわりに回動可能に支持する。第2関節部5311bの基端には、第2リンク5313bの先端が固定的に接続される。
第2リンク5313bは、略L字形状を有する棒状の部材であり、その先端側の一辺が第2軸Oと直交する方向に延伸しつつ、当該一辺の端部が第2関節部5311bの基端に固定的に接続される。第2リンク5313bの略L字形状の基端側の他辺には、第3関節部5311cが接続される。
第3関節部5311cは、略円柱形状を有し、その先端で、第2リンク5313bの基端を、第1軸O及び第2軸Oと互いに直交する回転軸(第3軸O)まわりに回動可能に支持する。第3関節部5311cの基端には、第3リンク5313cの先端が固定的に接続される。第2軸O及び第3軸Oまわりに顕微鏡部5303を含む先端側の構成を回動させることにより、水平面内での顕微鏡部5303の位置を変更するように、当該顕微鏡部5303を移動させることができる。つまり、第2軸O及び第3軸Oまわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
第3リンク5313cは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第3関節部5311cの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第3リンク5313cの基端側は角柱形状を有し、その端部に第4関節部5311dが接続される。
第4関節部5311dは、略円柱形状を有し、その先端で、第3リンク5313cの基端を、第3軸Oと直交する回転軸(第4軸O)まわりに回動可能に支持する。第4関節部5311dの基端には、第4リンク5313dの先端が固定的に接続される。
第4リンク5313dは、略直線状に延伸する棒状の部材であり、第4軸Oと直交するように延伸しつつ、その先端の端部が第4関節部5311dの略円柱形状の側面に当接するように、第4関節部5311dに固定的に接続される。第4リンク5313dの基端には、第5関節部5311eが接続される。
第5関節部5311eは、略円柱形状を有し、その先端側で、第4リンク5313dの基端を、第4軸Oと平行な回転軸(第5軸O)まわりに回動可能に支持する。第5関節部5311eの基端には、第5リンク5313eの先端が固定的に接続される。第4軸O及び第5軸Oは、顕微鏡部5303を上下方向に移動させ得る回転軸である。第4軸O及び第5軸Oまわりに顕微鏡部5303を含む先端側の構成を回動させることにより、顕微鏡部5303の高さ、すなわち顕微鏡部5303と観察対象との距離を調整することができる。
第5リンク5313eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材と、が組み合わされて構成される。第5リンク5313eの第1の部材の鉛直方向に延伸する部位の上端近傍に、第5関節部5311eの基端が固定的に接続される。第5リンク5313eの第2の部材の基端(下端)には、第6関節部5311fが接続される。
第6関節部5311fは、略円柱形状を有し、その先端側で、第5リンク5313eの基端を、鉛直方向と平行な回転軸(第6軸O)まわりに回動可能に支持する。第6関節部5311fの基端には、第6リンク5313fの先端が固定的に接続される。
第6リンク5313fは鉛直方向に延伸する棒状の部材であり、その基端はベース部5315の上面に固定的に接続される。
第1関節部5311a~第6関節部5311fの回転可能範囲は、顕微鏡部5303が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部5309においては、顕微鏡部5303の動きに関して、並進3自由度及び回転3自由度の計6自由度の動きが実現され得る。このように、顕微鏡部5303の動きに関して6自由度が実現されるようにアーム部5309を構成することにより、アーム部5309の可動範囲内において顕微鏡部5303の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。
なお、図示するアーム部5309の構成はあくまで一例であり、アーム部5309を構成するリンクの数及び形状(長さ)、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部5303を自由に動かすためには、アーム部5309は6自由度を有するように構成されることが好ましいが、アーム部5309はより大きな自由度(すなわち、冗長自由度)を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部5309においては、顕微鏡部5303の位置及び姿勢が固定された状態で、アーム部5309の姿勢を変更することが可能となる。従って、例えば表示装置5319を見る術者の視界にアーム部5309が干渉しないように当該アーム部5309の姿勢を制御する等、術者にとってより利便性の高い制御が実現され得る。
ここで、第1関節部5311a~第6関節部5311fには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第1関節部5311a~第6関節部5311fに設けられる各アクチュエータの駆動が制御装置5317によって適宜制御されることにより、アーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が制御され得る。具体的には、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部5309の現在の姿勢、並びに顕微鏡部5303の現在の位置及び姿勢を把握することができる。制御装置5317は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部5303の移動を実現するような各関節部に対する制御値(例えば、回転角度又は発生トルク等)を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、制御装置5317によるアーム部5309の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。
例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置5317によってアーム部5309の駆動が適宜制御され、顕微鏡部5303の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部5303を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属するユーザであっても、不潔域に属する機器をより自由度高く操作することが可能になる。あるいは、アーム部5309は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5309は、手術室から離れた場所に設置される入力装置を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部5309が移動するように第1関節部5311a~第6関節部5311fのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部5303を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部5303を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部5303を移動させることが可能となり、ユーザの利便性を向上させることができる。
また、アーム部5309は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部5303の光軸が空間上の所定の点(以下、ピボット点という)を常に向くように、顕微鏡部5303を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部5303が、その焦点距離を調整不可能に構成される場合には、顕微鏡部5303とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部5303とピボット点との距離を、顕微鏡部5303の固定的な焦点距離に調整しておけばよい。これにより、顕微鏡部5303は、ピボット点を中心とする焦点距離に対応する半径を有する半球面(図30に概略的に図示する)上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部5303が、その焦点距離を調整可能に構成される場合には、顕微鏡部5303とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、例えば、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部5303とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部5303の焦点距離を自動で調整してもよい。あるいは、顕微鏡部5303にAF機能が設けられる場合であれば、ピボット動作によって顕微鏡部5303とピボット点との距離が変化するごとに、当該AF機能によって自動で焦点距離の調整が行われてもよい。
また、第1関節部5311a~第6関節部5311fには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、制御装置5317によって制御され得る。例えば、顕微鏡部5303の位置及び姿勢を固定したい場合には、制御装置5317は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部5303の位置及び姿勢を移動したい場合には、制御装置5317は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
このようなブレーキの動作は、上述した操作部5307を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部5303の位置及び姿勢を移動したい場合には、操作部5307を操作し、各関節部のブレーキを解除させる。これにより、アーム部5309の動作モードが、各関節部における回転を自由に行えるモード(オールフリーモード)に移行する。また、ユーザは、顕微鏡部5303の位置及び姿勢を固定したい場合には、操作部5307を操作し、各関節部のブレーキを作動させる。これにより、アーム部5309の動作モードが、各関節部における回転が拘束されたモード(固定モード)に移行する。
制御装置5317は、顕微鏡装置5301及び表示装置5319の動作を制御することにより、顕微鏡手術システム5300の動作を統括的に制御する。例えば、制御装置5317は、所定の制御方式に従って第1関節部5311a~第6関節部5311fのアクチュエータを動作させることにより、アーム部5309の駆動を制御する。また、例えば、制御装置5317は、第1関節部5311a~第6関節部5311fのブレーキの動作を制御することにより、アーム部5309の動作モードを変更する。また、例えば、制御装置5317は、顕微鏡装置5301の顕微鏡部5303の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成するとともに、当該画像データを表示装置5319に表示させる。当該信号処理では、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)及び/又は拡大処理(すなわち、電子ズーム処理)等、各種の公知の信号処理が行われてよい。
なお、制御装置5317と顕微鏡部5303との通信、及び制御装置5317と第1関節部5311a~第6関節部5311fとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。
制御装置5317は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。制御装置5317のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、制御装置5317は、顕微鏡装置5301と別個の装置として設けられているが、制御装置5317は、顕微鏡装置5301のベース部5315の内部に設置され、顕微鏡装置5301と一体的に構成されてもよい。あるいは、制御装置5317は、複数の装置によって構成されてもよい。例えば、顕微鏡部5303や、アーム部5309の第1関節部5311a~第6関節部5311fにそれぞれマイコンや制御基板等が配設され、これらが互いに通信可能に接続されることにより、制御装置5317と同様の機能が実現されてもよい。
表示装置5319は、手術室内に設けられ、制御装置5317からの制御により、当該制御装置5317によって生成された画像データに対応する画像を表示する。つまり、表示装置5319には、顕微鏡部5303によって撮影された術部の画像が表示される。なお、表示装置5319は、術部の画像に代えて、又は術部の画像とともに、例えば患者の身体情報や手術の術式についての情報等、手術に関する各種の情報を表示してもよい。この場合、表示装置5319の表示は、ユーザによる操作によって適宜切り替えられてよい。あるいは、表示装置5319は複数設けられてもよく、複数の表示装置5319のそれぞれに、術部の画像や手術に関する各種の情報が、それぞれ表示されてもよい。なお、表示装置5319としては、液晶ディスプレイ装置又はEL(Electro Luminescence)ディスプレイ装置等、各種の公知の表示装置が適用されてよい。
図31は、図30に示す顕微鏡手術システム5300を用いた手術の様子を示す図である。図31では、術者5321が、顕微鏡手術システム5300を用いて、患者ベッド5323上の患者5325に対して手術を行っている様子を概略的に示している。なお、図31では、簡単のため、顕微鏡手術システム5300の構成のうち制御装置5317の図示を省略するとともに、顕微鏡装置5301を簡略化して図示している。
図31に示すように、手術時には、顕微鏡手術システム5300を用いて、顕微鏡装置5301によって撮影された術部の画像が、手術室の壁面に設置される表示装置5319に拡大表示される。表示装置5319は、術者5321と対向する位置に設置されており、術者5321は、表示装置5319に映し出された映像によって術部の様子を観察しながら、例えば患部の切除等、当該術部に対して各種の処置を行う。
以上、本開示に係る技術が適用され得る顕微鏡手術システム5300の一例について説明した。なお、ここでは、一例として顕微鏡手術システム5300について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、顕微鏡装置5301は、その先端に顕微鏡部5303に代えて他の観察装置や他の術具を支持する、支持アーム装置としても機能し得る。当該他の観察装置としては、例えば内視鏡が適用され得る。また、当該他の術具としては、鉗子、攝子、気腹のための気腹チューブ、又は焼灼によって組織の切開や血管の封止を行うエネルギー処置具等が適用され得る。これらの観察装置や術具を支持アーム装置によって支持することにより、医療スタッフが人手で支持する場合に比べて、より安定的に位置を固定することが可能となるとともに、医療スタッフの負担を軽減することが可能となる。本開示に係る技術は、このような顕微鏡部以外の構成を支持する支持アーム装置に適用されてもよい。
<6.むすび>
以上説明したように、本開示の実施形態によれば、生体内の被写体を照射する光源と、前記光源の光軸と同軸で前記被写体を撮像する撮像部と、前記光源と前記撮像部を制御する制御部を有し、前記制御部は、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する、医療用システムが提供される。かかる構成によれば、HDR画像に基づいてHDRモニタに画像表示を行わせる場合に、HDRモニタによる出力画像に対してユーザが感じる眩しさを低減することが可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上記した制御部110が有する機能と同等の機能を発揮させるためのプログラムも作成可能である。また、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
例えば、上記したように、HDR画像生成部21によって得られたHDR画像(第1の画像信号)に基づいて、階調変換部22によって、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号が生成される場合を想定する。かかる場合、制御部20は、出力する画像信号を自動的に切り替えてもよい。すなわち、制御部20は、第1の画像信号に含まれる画素信号の最大値が所定の値より大きい場合は、第2の画像信号をHDR表示部30-1に出力し、第1の画像信号に含まれる画素信号の最大値が所定の値以下の場合は、第1の画像信号をHDR表示部30-1に出力するよう制御してもよい。
また、制御部20は、第1の画像信号、および第2の画像信号をHDR表示部30-1の同一画面上に表示するよう制御してもよい。これによって、ユーザは、ダイナミックレンジの異なる二つの画像を同時に見ることが可能となる。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
生体内の被写体を照射する光源と、
前記光源の光軸と同軸で前記被写体を撮像する撮像部と、
前記光源と前記撮像部を制御する制御部を有し、
前記制御部は、
前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する
医療用システム。
(2)
前記制御部は、前記第1の画像信号に含まれる画素信号の全ての輝度値が第1の輝度値以下となるように、前記第1の画像信号の階調を調整するよう制御する、
前記(1)に記載の医療用システム。
(3)
前記制御部は、前記第1の画像信号のうち、
輝度値が第2の輝度値より大きい画素信号に対して、前記第1の輝度値以下となるように階調を調整し、
輝度値が前記第2の輝度値以下の画素信号に対して、階調を調整しないよう制御する、
前記(2)に記載の医療用システム。
(4)
前記制御部は、前記第1の画像信号に対する物体認識の結果に基づき第1の領域を決定し、
前記第1の領域に含まれる画素信号の階調を調整し、
前記第1の領域以外に含まれる画素信号の階調を調整しないよう制御する、
前記(1)に記載の医療用システム。
(5)
前記制御部は、前記物体認識にて、マスク、術具、ガーゼ、または生体組織を含む第2の領域を特定し、前記第2の領域に基づき前記第1の領域を決定する
前記(4)に記載の医療用システム。
(6)
前記制御部は、前記第1の画像信号のうち、
特定の色の画素信号に対して、階調を調整し、
それ以外の色の画素信号に対して、階調を調整しないよう制御する、
前記(1)に記載の医療用システム。
(7)
前記制御部は、前記第1の画像信号の、輝度が第2の輝度値より大きい画素に基づいて、前記第1の画像信号に対して階調を調整するよう制御する、
前記(1)に記載の医療用システム。
(8)
前記制御部は、前記第1の画像信号のうち輝度が前記第2の輝度値より大きい画素の数に基づいて第1の輝度値を決定し、前記第1の画像信号の全ての画素信号の輝度値が前記第1の輝度値以下となるよう階調を調整するよう制御する、
前記(7)に記載の医療用システム。
(9)
前記制御部は、前記第1の画像信号のうち輝度が前記第2の輝度値より大きい画素の数が所定の数より多い場合に、前記第1の画像信号のうち第3の輝度値より輝度が小さい画素信号の輝度を大きくするように制御する、
前記(7)に記載の医療用システム。
(10)
前記制御部は、前記第3の輝度値より輝度が小さい画素信号に対して、同じ調整量を用いて輝度を大きくするよう制御する、
前記(9)に記載の医療用システム。
(11)
前記制御部は、前記第1の画像信号の輝度値が所定の範囲内の値を示す第1の期間に応じて、前記第1の画像信号の輝度値を、前記範囲内に含まれる値に対応する輝度に維持する第2の期間を決定する
前記(1)に記載の医療用システム。
(12)
前記制御部は、
前記第1の画像信号を構成する各画素信号の輝度の加算値または平均値に基づき、階調の調整の度合または階調を調整する領域を決定し、
前記第1の画像信号に対して、前記度合または前記領域に基づき階調を調整するよう制御する、
前記(1)に記載の医療用システム。
(13)
前記制御部は、ユーザに指定された明るさに関する情報、またはユーザに指定された観察モード情報に基づいて、前記第1の画像信号に対して階調を調整するよう制御する、
前記(12)に記載の医療用システム。
(14)
前記明るさに関する情報とは、画像信号の最大の輝度値、最小の輝度値、または画像信号の階調の調整率である
前記(13)に記載の医療用システム。
(15)
前記観察モードとは、特殊光観察モード、または通常光モードである
前記(13)に記載の医療用システム。
(16)
前記制御部は、表示部の明るさ設定情報に基づいて、前記第1の画像信号に対して階調を調整するよう制御する、
前記(1)に記載の医療用システム。
(17)
生体内の被写体を撮像して第1の画像信号を取得し、
前記第1の画像信号に基づいて、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号を生成し、
前記第1の画像信号に基づいて、前記第1のダイナミックレンジより輝度の最大値と輝度の最小値の差の小さい第3の画像信号とを生成し、
前記第2の画像信号、または前記第3の画像信号を出力するよう制御する制御部
を有する医療用装置。
(18)
生体内の被写体を照射する光源と前記光源の光軸と同軸で前記被写体を撮像する撮像部を制御する制御部を有し、
前記制御部は、
前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する
医療用装置。
(19)
生体内の被写体を照射する光源と前記光源の光軸と同軸で前記被写体を撮像する撮像部を制御することを含み、
前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御することを含む、
制御方法。
(20)
前記制御部は、前記第1の画像信号に含まれる画素信号の最大値が所定の値より大きい場合は、前記第1の画像信号に基づいて生成される、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号を出力し、所定の値以下の場合は、前記第1の画像信号を出力するよう制御する、
前記(1)に記載の医療用システム。
(21)
前記制御部は、前記第1の画像信号、および、前記第1の画像信号に基づいて生成される、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号を表示部の同一画面上に表示するよう制御する、
前記(1)に記載の医療用システム。
(22)
前記医療用システムは、内視鏡システム、または顕微鏡システムである、
前記(1)に記載の医療用システム。
10 撮像部
20 制御部
21 HDR画像生成部
22 階調変換部
23 明るさ入力部
24 物体認識部
25 高輝度面積算出部
26 輝度平均値算出部
30-1 HDR表示部
30-2 SDR表示部
40 SDR記録部

Claims (7)

  1. 生体内の被写体を照射する光源と、
    前記光源の光軸と同軸で前記被写体を撮像する撮像部と、
    前記光源と前記撮像部を制御し、且つ、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する制御部と、
    を有し、
    前記制御部は、前記第1の画像信号からミストが物体認識された場合、前記ミストを構成する粒の大きさに応じて、前記ミストの領域に含まれる画像信号の階調を調整する、
    医療用システム。
  2. 生体内の被写体を照射する光源と、
    前記光源の光軸と同軸で前記被写体を撮像する撮像部と、
    前記光源と前記撮像部を制御し、且つ、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する制御部と、
    を有し、
    前記制御部は、前記第1の画像信号の輝度値が所定の範囲内の値を示す第1の期間に応じて、前記第1の画像信号の輝度値を、前記範囲内に含まれる値に対応する輝度に維持する第2の期間を決定し、前記第2の期間の経過後に、前記第1の画像信号に対して階調の調整を行う、
    医療用システム。
  3. 前記制御部は、前記第1の画像信号に含まれる画素信号の最大値が所定の値より大きい場合は、前記第1の画像信号に基づいて生成される、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号を出力し、所定の値以下の場合は、前記第1の画像信号を出力するよう制御する、
    請求項1又は2に記載の医療用システム。
  4. 前記制御部は、前記第1の画像信号、および、前記第1の画像信号に基づいて生成される、ハイダイナミックレンジ規格に準拠した第1のダイナミックレンジを有する第2の画像信号を表示部の同一画面上に表示するよう制御する、
    請求項1又は2に記載の医療用システム。
  5. 前記医療用システムは、内視鏡システム、または顕微鏡システムである、
    請求項1~4のいずれか1項に記載の医療用システム。
  6. 生体内の被写体を照射する光源と前記光源の光軸と同軸で前記被写体を撮像する撮像部を制御し、且つ、前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御する制御部を有し、
    前記制御部は、
    前記制御部は、前記第1の画像信号からミストが物体認識された場合、前記ミストを構成する粒の大きさに応じて、前記ミストの領域に含まれる画像信号の階調を調整する、
    医療用装置。
  7. 医療用装置が、
    生体内の被写体を照射する光源と前記光源の光軸と同軸で前記被写体を撮像する撮像部を制御することと、
    前記撮像部より取得した第1の画像信号に対して階調の調整を行い、ハイダイナミックレンジ規格に準拠した信号を出力するよう制御することと、
    を含み、
    前記第1の画像信号からミストが物体認識された場合、前記ミストを構成する粒の大きさに応じて、前記ミストの領域に含まれる画像信号の階調を調整する、
    制御方法。
JP2019525090A 2017-06-12 2018-03-16 医療用システム、医療用装置および制御方法 Active JP7088185B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017115019 2017-06-12
JP2017115019 2017-06-12
PCT/JP2018/010435 WO2018230066A1 (ja) 2017-06-12 2018-03-16 医療用システム、医療用装置および制御方法

Publications (2)

Publication Number Publication Date
JPWO2018230066A1 JPWO2018230066A1 (ja) 2020-04-16
JP7088185B2 true JP7088185B2 (ja) 2022-06-21

Family

ID=64659563

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019525090A Active JP7088185B2 (ja) 2017-06-12 2018-03-16 医療用システム、医療用装置および制御方法

Country Status (5)

Country Link
US (1) US11463629B2 (ja)
EP (1) EP3639725A4 (ja)
JP (1) JP7088185B2 (ja)
CN (1) CN110709001B (ja)
WO (1) WO2018230066A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10726315B2 (en) * 2016-11-17 2020-07-28 Panasonic Intellectual Property Management Co., Ltd. Image processing device, image processing method, and program
JP7315560B2 (ja) * 2018-08-21 2023-07-26 ソニー・オリンパスメディカルソリューションズ株式会社 医療用制御装置及び医療用観察装置
DE102018127287B4 (de) * 2018-10-31 2023-01-12 Schölly Fiberoptic GmbH Bildaufnahmeverfahren und Bildaufnahmevorrichtung
JP7281308B2 (ja) 2019-03-07 2023-05-25 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置及び医療用観察システム
JP7252023B2 (ja) * 2019-03-22 2023-04-04 ソニー・オリンパスメディカルソリューションズ株式会社 画像処理装置及び医療用観察システム
JP7336768B2 (ja) 2019-10-23 2023-09-01 一般社団法人メディカル・イノベーション・コンソーシアム 超音波医用システム
KR20230085413A (ko) * 2021-12-07 2023-06-14 엘지디스플레이 주식회사 표시장치
US20220375049A1 (en) * 2022-07-19 2022-11-24 Real Image Technology Co., Ltd Reduction of Glare in Endoscopic Images

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000023183A (ja) 1998-06-29 2000-01-21 Olympus Optical Co Ltd 電子内視鏡装置
JP2009297133A (ja) 2008-06-11 2009-12-24 Fujifilm Corp 内視鏡画像処理装置および方法
JP2011123175A (ja) 2009-12-09 2011-06-23 Hitachi Ltd 画像表示装置
JP2013042998A (ja) 2011-08-25 2013-03-04 Olympus Corp 自動露光制御装置、制御装置、内視鏡装置及び自動露光制御方法
JP2014524290A (ja) 2011-08-12 2014-09-22 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 外科手術器具の画像取込み装置
WO2016129160A1 (ja) 2015-02-12 2016-08-18 ソニー株式会社 画像処理装置、画像処理方法、プログラムおよび画像処理システム
JP2016538008A (ja) 2013-09-30 2016-12-08 ケアストリーム ヘルス インク Hdrイメージングを使用しかつハイライトを除去する口腔内撮像方法及びシステム
WO2017002544A1 (ja) 2015-06-30 2017-01-05 オリンパス株式会社 画像処理装置および撮像システム
WO2017073302A1 (ja) 2015-10-27 2017-05-04 オリンパス株式会社 撮像システムのための制御装置、撮像システム、及び撮像システムの制御方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0337037A (ja) * 1989-07-05 1991-02-18 Fukuda Denshi Co Ltd 血管内腔像撮影表示方式
JP4900343B2 (ja) * 2008-08-21 2012-03-21 株式会社Jvcケンウッド ビデオ撮像装置および露光ガイド表示方法
US11013398B2 (en) * 2013-03-13 2021-05-25 Stryker Corporation System for obtaining clear endoscope images
EP3037030A4 (en) * 2013-08-23 2017-04-19 Olympus Corporation Fluorescence observation apparatus
JP6114889B1 (ja) * 2015-07-13 2017-04-12 ソニー株式会社 医療用観察装置及び医療用観察装置の作動方法
US20170061894A1 (en) * 2015-08-26 2017-03-02 Canon Kabushiki Kaisha Image display apparatus
KR102437135B1 (ko) * 2015-09-23 2022-08-29 삼성전자주식회사 이미지를 처리하는 전자 장치 및 그 제어 방법

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000023183A (ja) 1998-06-29 2000-01-21 Olympus Optical Co Ltd 電子内視鏡装置
JP2009297133A (ja) 2008-06-11 2009-12-24 Fujifilm Corp 内視鏡画像処理装置および方法
JP2011123175A (ja) 2009-12-09 2011-06-23 Hitachi Ltd 画像表示装置
JP2014524290A (ja) 2011-08-12 2014-09-22 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 外科手術器具の画像取込み装置
JP2013042998A (ja) 2011-08-25 2013-03-04 Olympus Corp 自動露光制御装置、制御装置、内視鏡装置及び自動露光制御方法
JP2016538008A (ja) 2013-09-30 2016-12-08 ケアストリーム ヘルス インク Hdrイメージングを使用しかつハイライトを除去する口腔内撮像方法及びシステム
WO2016129160A1 (ja) 2015-02-12 2016-08-18 ソニー株式会社 画像処理装置、画像処理方法、プログラムおよび画像処理システム
WO2017002544A1 (ja) 2015-06-30 2017-01-05 オリンパス株式会社 画像処理装置および撮像システム
WO2017073302A1 (ja) 2015-10-27 2017-05-04 オリンパス株式会社 撮像システムのための制御装置、撮像システム、及び撮像システムの制御方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
シャープ,70型8K HDR対応モニターを発売,インターネット:<URL:http://www.optronics-media.com/news/20170412/46372/>,2017年04月12日,全文

Also Published As

Publication number Publication date
EP3639725A1 (en) 2020-04-22
WO2018230066A1 (ja) 2018-12-20
CN110709001B (zh) 2022-09-23
EP3639725A4 (en) 2020-06-10
US20200077012A1 (en) 2020-03-05
CN110709001A (zh) 2020-01-17
US11463629B2 (en) 2022-10-04
JPWO2018230066A1 (ja) 2020-04-16

Similar Documents

Publication Publication Date Title
JP7088185B2 (ja) 医療用システム、医療用装置および制御方法
JP7095693B2 (ja) 医療用観察システム
CN110168605A (zh) 用于动态范围压缩的视频信号处理装置、视频信号处理方法和程序
WO2019239942A1 (ja) 手術用観察装置、手術用観察方法、手術用光源装置、及び手術用の光照射方法
JPWO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
JP7444163B2 (ja) 撮像装置、撮像方法、及びプログラム
US20220217260A1 (en) Signal processing device, imaging device, and signal processing method
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JP7235035B2 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
JP7063321B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
WO2021256168A1 (ja) 医用画像処理システム、手術画像制御装置、及び、手術画像制御方法
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
WO2017221491A1 (ja) 制御装置、制御システム、および制御方法
WO2020203265A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
WO2020203164A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2020116067A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2022004250A1 (ja) 医療システム、情報処理装置及び情報処理方法
JP7420141B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2021044900A1 (ja) 施術システム、画像処理装置、画像処理方法、及びプログラム
JPWO2020050187A1 (ja) 医療システム、情報処理装置及び情報処理方法
JPWO2019202860A1 (ja) 医療用システム、接続構造、及び接続方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210303

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220523

R151 Written notification of patent or utility model registration

Ref document number: 7088185

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151