JP7034636B2 - 医療用観察装置、および医療用観察システム - Google Patents

医療用観察装置、および医療用観察システム Download PDF

Info

Publication number
JP7034636B2
JP7034636B2 JP2017171680A JP2017171680A JP7034636B2 JP 7034636 B2 JP7034636 B2 JP 7034636B2 JP 2017171680 A JP2017171680 A JP 2017171680A JP 2017171680 A JP2017171680 A JP 2017171680A JP 7034636 B2 JP7034636 B2 JP 7034636B2
Authority
JP
Japan
Prior art keywords
medical observation
image
image pickup
control unit
medical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017171680A
Other languages
English (en)
Other versions
JP2019042412A5 (ja
JP2019042412A (ja
Inventor
孝之 竹田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Priority to JP2017171680A priority Critical patent/JP7034636B2/ja
Priority to US16/104,150 priority patent/US10764506B2/en
Publication of JP2019042412A publication Critical patent/JP2019042412A/ja
Publication of JP2019042412A5 publication Critical patent/JP2019042412A5/ja
Application granted granted Critical
Publication of JP7034636B2 publication Critical patent/JP7034636B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/001Counterbalanced structures, e.g. surgical microscopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本開示は、医療用観察装置、および医療用観察システムに関する。
複数種類の非接触の入力により手術用装置を制御する技術が開発されている。上記技術としては、例えば下記の特許文献1に記載の技術が挙げられる。
特開2017-70636号公報
近年、医療現場においては、例えば、脳神経外科手術などの微細手術(マイクロサージャリ)をサポートするためや、内視鏡手術を行うために、患部などの観察対象を拡大観察することが可能な医療用観察装置が用いられる場合がある。医療用観察装置としては、例えば、光学式の顕微鏡を備える医療用観察装置と、電子撮像式の顕微鏡として機能する撮像デバイスを備える医療用観察装置とが挙げられる。以下では、上記光学式の顕微鏡を備える医療用観察装置を「光学式の医療用観察装置」と示す。また、以下では、上記撮像デバイスを備える医療用観察装置を、「電子撮像式の医療用観察装置」または単に「医療用観察装置」と示す場合がある。また、以下では、医療用観察装置が備える撮像デバイスにより観察対象が撮像された撮像画像を「医療用撮像画像」と示す。
電子撮像式の医療用観察装置は、撮像デバイスの高画質化や撮像された画像が表示される表示デバイスの高画質化などに伴い、光学式の医療用観察装置と同等以上の画質が得られるようになっている。また、電子撮像式の医療用観察装置を用いる利用者(例えば、術者や術者の助手などの医療従事者)は、光学式の医療用観察装置を用いる場合のように光学式の顕微鏡を構成する接眼レンズを覗き込む必要はないので、撮像デバイスの位置をより自由に移動させることが可能である。そのため、電子撮像式の医療用観察装置が用いられることによって微細手術などをより柔軟にサポートすることができるという利点があり、医療現場での電子撮像式の医療用観察装置の利用が進んでいる。
電子撮像式の医療用観察装置が用いられる手術では、術者は、例えば、表示画面に表示された医療用撮像画像を参照しながら術部を観察し、当該術部に対して術式に応じた手技などの各種処置を行う。また、医療用観察装置が用いられる手術では、例えばスコーピスト(内視鏡(医療用観察装置の一例)の操作者)のような術者以外の者によって、医療用観察装置が操作される場合がある。そのため、表示画面に表示された医療用撮像画像が、“術者が観察を所望する術部が、見易くなっている画像”となっていないことが起こりうる。また、“術者が観察を所望する術部が見易い医療用撮像画像”とするためには、例えば、照明の強度を調節することなどによりS/N(signal-noise ratio)のよい画像とする操作が、別途必要となる。そのため、既存の医療用観察システムでは、術者、術者の助手、スコーピストなどの医療従事者の利便性を損ねる恐れがある。また、医療現場では、より利便性が高い医療用観察装置が潜在的なニーズとして求められている。
本開示では、利便性の向上を図ることが可能な、新規かつ改良された医療用観察装置、および医療用観察システムを提案する。
本開示によれば、撮像デバイスの撮像機能を制御する撮像制御部を備え、上記撮像制御部は、認識対象の視線の検出結果に基づいて、上記撮像デバイスにより観察対象が撮像された医療用撮像画像における所定の領域の輝度が変わるように、上記撮像デバイスの露出機能を制御する、医療用観察装置が、提供される。
また、本開示によれば、撮像デバイスの撮像機能を制御する撮像制御部を備える医療用観察装置と、上記撮像デバイスにより撮像された医療用撮像画像を表示画面に表示する表示装置と、を有し、上記医療用観察装置の上記撮像制御部は、認識対象の視線の検出結果に基づいて、上記医療用撮像画像における所定の領域の輝度が変わるように、上記撮像デバイスの露出機能を制御する、医療用観察システムが、提供される。
本開示によれば、利便性の向上を図ることができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
本実施形態に係る医療用観察システムの構成の第1の例を示す説明図である。 本実施形態に係る医療用観察システムの構成の第2の例を示す説明図である。 図2に示す医療用観察装置が備える撮像デバイスの構成の一例を説明するための説明図である。 本実施形態に係る医療用観察装置の構成の一例を示す機能ブロック図である。 本実施形態に係る制御方法を説明するための説明図である。 本実施形態に係る制御方法を説明するための説明図である。 本実施形態に係る制御方法を説明するための説明図である。 本実施形態に係る制御方法に係る処理を行うことが可能な医療用観察装置のハードウェア構成の一例を説明するための説明図である。 視線を検出する機能、および視線の検出結果に基づき視線を表示画面に表示させる機能の双方を有する表示装置のハードウェア構成の一例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る医療用観察システム、および本実施形態に係る制御方法
2.本実施形態に係るプログラム
(本実施形態に係る医療用観察システム、および本実施形態に係る制御方法)
以下では、本実施形態に係る医療用観察システムの一例を説明した後に、本実施形態に係る医療用観察システムに適用することが可能な、本実施形態に係る制御方法について説明する。
[1]医療用観察システムの構成
[1-1]第1の例に係る医療用観察システム
図1は、本実施形態に係る医療用観察システム1000の構成の第1の例を示す説明図であり、電子撮像式の医療用観察装置の一例である内視鏡装置として機能する医療用観察装置100を有する医療用観察システムの一例を示している。図1に示す医療用観察システム1000は、例えば、医療用観察装置100と、表示装置200とを有する。
なお、第1の例に係る医療用観察システムは、図1に示す例に限られない。
例えば、第1の例に係る医療用観察システムは、医療用観察装置100における各種動作を制御する制御装置(図示せず)を、さらに有していてもよい。図1に示す医療用観察システム1000では、後述するように、医療用観察装置100が本実施形態に係る制御方法に係る処理を行う制御部(後述する)を備えることにより、医療用観察装置100が制御装置(図示せず)の機能を有している例を示している。
制御装置(図示せず)としては、例えば、“メディカルコントローラ”や、“サーバなどのコンピュータ”など、本実施形態に係る制御方法に係る処理を行うことが可能な任意の機器が、挙げられる。また、制御装置(図示せず)は、例えば、上記のような機器に組み込むことが可能な、IC(Integrated Circuit)であってもよい。
また、第1の例に係る医療用観察システムは、医療用観察装置100と表示装置200とを複数有する構成であってもよい。医療用観察装置100を複数有する場合、医療用観察装置100それぞれにおいて、後述する医療用観察装置100における制御方法に係る処理が、行われる。また、第1の例に係る医療用観察システムが医療用観察装置100と表示装置200とを複数有する構成である場合、医療用観察装置100と表示装置200とが一対一に対応付けられていてもよいし、複数の医療用観察装置100が1つの表示装置200に対応付けられていてもよい。複数の医療用観察装置100が1つの表示装置200に対応付けられている場合、表示装置200では、例えば切り替え操作などが行われることによって、どの医療用観察装置100において撮像された撮像画像を表示画面に表示させるのかが、切り替えられる。
また、第1の例に係る医療用観察システムは、例えば、視線を検出することが可能な視線検出センサを有していてもよい。視線検出センサとしては、例えば“ステレオカメラとプロセッサとを有し、ステレオカメラにより撮像された撮像画像から視線を検出するセンサユニット”が、挙げられる。また、視線検出センサは、例えば、“アイウェア型の装置などの頭部に装着して用いられるウェアラブル装置に設けられ、赤外線を利用した角膜反射法などにより視線を検出する構成”などの、視線を検出することが可能な任意の方式のセンサであってよい。
第1の例に係る医療用観察システムが視線検出センサを有する場合、後述するように、医療用観察装置100は、視線検出センサの検出結果を利用して、本実施形態に係る制御方法に係る処理を行うことが可能である。なお、視線検出センサは、第1の実施形態に係る医療用観察システムの外部のセンサであってもよい。
[1-1-1]表示装置200
表示装置200は、医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。表示装置200は、例えば、医療用観察装置100において撮像された医療用撮像画像(動画像、または、複数の静止画像。以下、同様とする。)や、ユーザインタフェースに係る画像などの、様々な画像を表示画面に表示する。また、表示装置200は、3D表示が可能な構成であってもよい。表示装置200における表示は、例えば、医療用観察装置100、または、制御装置(図示せず)によって制御される。
医療用観察システム1000において表示装置200は、例えば、手術室の壁面や天井、床面などの、手術室内において術者などの手術に関わる者により視認されうる任意の場所に設置される。表示装置200としては、例えば、液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイなどが挙げられる。
なお、表示装置200は、上記に示す例に限られない。
例えば、表示装置200は、ヘッドマウントディスプレイやアイウェア型の装置などのような、術者などが身体に装着して用いる任意のウェアラブル装置であってもよい。
表示装置200は、例えば、表示装置200が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。表示装置200の構成の一例については、後述する。
[1-1-2]医療用観察装置100
第1の例に係る医療用観察システム1000を構成する医療用観察装置100は、内視鏡装置である。例えば図1に示す医療用観察装置100が手術時に用いられる場合、術者(医療用観察装置100のユーザの一例)は、医療用観察装置100により撮像されて、表示装置200の表示画面に表示された医療用撮像画像を参照しながら術部を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。
図1に示す医療用観察装置100は、例えば、挿入部材102と、光源ユニット104と、ライトガイド106と、カメラヘッド108と、ケーブル110と、制御ユニット112とを備える。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
挿入部材102は、細長形状を有し、入射光を集光する光学系を内部に備える。挿入部材102の先端は、例えば、患者の体腔内に挿入される。挿入部材102の後端はカメラヘッド108の先端と着脱可能に接続される。また、挿入部材102は、ライトガイド106を介して光源ユニット104と接続され、光源ユニット104から光が供給される。
挿入部材102は、例えば、可撓性を有さない素材で形成されてもよいし、可撓性を有する素材で形成されてもよい。挿入部材102を形成する素材によって、医療用観察装置100は、硬性鏡または軟性鏡と呼ばれうる。
光源ユニット104は、ライトガイド106を介して挿入部材102と接続される。光源ユニット104は、ライトガイド106を介して挿入部材102に光を供給する。また、光源ユニット104は、制御ユニット112と有線または無線で接続され、光源ユニット104における発光は、制御ユニット112により制御される。
挿入部材102に供給された光は、挿入部材102の先端から出射され、患者の体腔内組織などの観察対象に照射される。そして、観察対象からの反射光は、挿入部材102内の光学系によって集光される。
カメラヘッド108は、観察対象を撮像する機能を有する。カメラヘッド108は、信号伝送部材であるケーブル110を介して制御ユニット112と接続される。カメラヘッド108は、挿入部材102によって集光された観察対象からの反射光を光電変換することにより観察対象を撮像し、撮像によって得られた画像信号(医療用撮像画像を示す信号)を制御ユニット112へケーブル110を介して出力する。なお、カメラヘッド108の構成の一例については、後述する。
内視鏡装置として機能する医療用観察装置100では、例えば、挿入部材102、光源ユニット104、およびカメラヘッド108が、“患者の体内に挿入されて、体内を撮像する撮像デバイス”の役目を果たす。
制御ユニット112は、本実施形態に係る制御方法に係る処理を行う役目を果たし、撮像デバイスの撮像機能を制御する。より具体的には、制御ユニット112は、光源ユニット104およびカメラヘッド108それぞれを制御する。
また、制御ユニット112は、通信デバイス(図示せず)を含み、カメラヘッド108から出力された画像信号を任意の無線通信または任意の有線通信で、表示装置200へ送信する。制御ユニット112は、画像信号と表示制御信号とを表示装置200へ送信してもよい。
制御ユニット112が含む通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF回路(無線通信)、光通信用デバイス(有線通信または無線通信)、あるいはLAN端子および送受信回路(有線通信)などが挙げられる。通信デバイス(図示せず)は、複数の通信方式によって、1または2以上の外部装置と通信を行うことが可能な構成であってもよい。
また、制御ユニット112は、カメラヘッド108から出力された画像信号に対して所定の処理を行い、所定の処理が行われた画像信号を表示装置200へ送信してもよい。画像信号に対する所定の処理としては、例えば、ガンマ補正、ホワイトバランスの調整、電子ズーム機能に係る画像の拡大または縮小、または、画素間補正などの各種処理のうちの、1または2以上の処理が、挙げられる。
なお、制御ユニット112は、画像信号に基づく医療用撮像画像を記憶してもよい。
制御ユニット112としては、例えばCCU(Camera Control Unit)が挙げられる。
内視鏡装置として機能する医療用観察装置100は、例えば図1を参照して示したハードウェア構成を有する。内視鏡装置として機能する医療用観察装置100では、例えば、挿入部材102、光源ユニット104、およびカメラヘッド108が、撮像デバイスの役目を果たし、制御ユニット112により撮像デバイスにおける撮像が制御される。
なお、本実施形態に係る医療用観察システム1000は、内視鏡装置として機能する医療用観察装置100を有する構成に限られない。
[1-2]第2の例に係る医療用観察システム
図2は、本実施形態に係る医療用観察システム1000の構成の第2の例を示す説明図であり、他の例に係る電子撮像式の医療用観察装置として機能する医療用観察装置100を有する医療用観察システムの一例を示している。図2に示す医療用観察システム1000は、例えば、医療用観察装置100と、表示装置200とを有する。
なお、第2の例に係る医療用観察システムは、図2に示す例に限られない。
例えば、第2の例に係る医療用観察システムは、第1の例に係る医療用観察システムと同様に、医療用観察装置100における各種動作を制御する制御装置(図示せず)を、さらに有していてもよい。
また、第2の例に係る医療用観察システムは、第1の例に係る医療用観察システムと同様に、医療用観察装置100と表示装置200とを複数有する構成であってもよい。
また、第2の例に係る医療用観察システムは、第1の例に係る医療用観察システムと同様に、視線検出センサを有していてもよい。第2の例に係る医療用観察システムが視線検出センサを有する場合、後述するように、医療用観察装置100は、視線検出センサの検出結果を利用して、本実施形態に係る制御方法に係る処理を行うことが可能である。なお、視線検出センサは、第2の実施形態に係る医療用観察システムの外部のセンサであってもよい。
[1-2-1]表示装置200
第2の例に係る医療用観察システムを構成する表示装置200は、第1の例に係る医療用観察システムを構成する表示装置200と同様の機能、構成を有する。
[1-2-2]医療用観察装置100
第2の例に係る医療用観察システム1000を構成する医療用観察装置100は、他の例に係る電子撮像式の医療用観察装置である。図2を参照して、電子撮像式の医療用観察装置として機能する医療用観察装置100のハードウェア構成の一例について、説明する。
電子撮像式の医療用観察装置として機能する医療用観察装置100は、例えば、ベース120と、アーム122と、撮像デバイス124とを備える。
また、図2では示していないが、医療用観察装置100は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサ(図示せず)と、ROM(Read Only Memory。図示せず)と、RAM(Random Access Memory。図示せず)と、記録媒体(図示せず)と、通信デバイス(図示せず)とを、備えていてもよい。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
プロセッサ(図示せず)は、後述する制御部として機能する。ROM(図示せず)は、プロセッサ(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、プロセッサ(図示せず)により実行されるプログラムなどを一時的に記憶する。
記録媒体(図示せず)は、記憶部として機能する。記録媒体(図示せず)には、例えば、本実施形態に係る制御方法に係るデータや、各種アプリケーションなどの、様々なデータが記憶される。ここで、記録媒体(図示せず)としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記録媒体(図示せず)は、医療用観察装置100から着脱可能であってもよい。
通信デバイス(図示せず)は、医療用観察装置100が備える通信手段であり、表示装置200などの外部装置と、無線または有線で通信を行う役目を果たす。ここで、通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路や、IEEE802.11ポートおよび送受信回路、通信アンテナおよびRF回路、光通信用デバイス、あるいはLAN端子および送受信回路などが挙げられる。通信デバイス(図示せず)は、複数の通信方式によって、1または2以上の外部装置と通信を行うことが可能な構成であってもよい。
[1-2-2-1]ベース120
ベース120は、医療用観察装置100の基台であり、アーム122の一端が接続されて、アーム122と撮像デバイス124とを支持する。
また、ベース120には例えばキャスタが設けられ、医療用観察装置100は、キャスタを介して床面と接地する。キャスタが設けられることにより、医療用観察装置100は、キャスタによって床面上を容易に移動することが可能である。
[1-2-2-2]アーム122
アーム122は、複数のリンクが関節部によって互いに連結されて構成される。
また、アーム122は、撮像デバイス124を支持する。アーム122により支持された撮像デバイス124は3次元的に移動可能であり、移動後の撮像デバイス124は、アーム122によって、位置および姿勢が保持される。
より具体的には、アーム122は、例えば、複数の関節部130a、130b、130c、130d、130e、130fと、関節部130a、130b、130c、130d、130e、130fによって互いに回動可能に連結される複数のリンク132a、132b、132c、132d、132e、132fとから構成される。関節部130a、130b、130c、130d、130e、130fそれぞれの回転可能範囲は、アーム122の所望の動きが実現されるように、設計段階や製造段階などにおいて任意に設定される。
つまり、図2に示す医療用観察装置100では、アーム122を構成する6つの関節部130a、130b、130c、130d、130e、130fに対応する6つの回転軸(第1軸O1、第2軸O2、第3軸O3、第4軸O4、第5軸O5、および第6軸O6)によって、撮像デバイス124の移動に関して6自由度が実現されている。より具体的には、図2に示す医療用観察装置100では、並進3自由度、および回転3自由度の6自由度の動きが実現される。
関節部130a、130b、130c、130d、130e、130fそれぞれには、アクチュエータ(図示せず)が設けられ、関節部130a、130b、130c、130d、130e、130fそれぞれは、アクチュエータ(図示せず)の駆動によって、対応する回転軸で回転する。アクチュエータ(図示せず)の駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。
関節部130a、130b、130c、130d、130e、130fそれぞれが、アクチュエータ(図示せず)の駆動により対応する回転軸で回転することによって、例えばアーム122を伸ばす、縮める(折り畳む)などの、様々なアーム122の動作が、実現される。
関節部130aは、略円柱形状を有し、関節部130aの先端部分(図2における下端部分)で、撮像デバイス124(図2における撮像デバイス124の上端部分)を、撮像デバイス124の中心軸と平行な回転軸(第1軸O1)まわりに回動可能なように支持する。ここで、医療用観察装置100は、第1軸O1が撮像デバイス124における光軸と一致するように構成される。つまり、図2に示す第1軸O1まわりに撮像デバイス124を回動させることによって、撮像デバイス124により撮像された医療用撮像画像は、視野が回転するように変更される画像となる。
リンク132aは、略棒状の部材であり、関節部130aを固定的に支持する。リンク132aは、例えば、第1軸O1と直交する方向に延伸され、関節部130bに接続される。
関節部130bは、略円柱形状を有し、リンク132aを、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能なように支持する。また、関節部130bには、リンク132bが固定的に接続される。
リンク132bは、略棒状の部材であり、第2軸O2と直交する方向に延伸される。また、リンク132bには、関節部130bと関節部130cとがそれぞれ接続される。
関節部130cは、略円柱形状を有し、リンク132bを、第1軸O1および第2軸O2それぞれと互いに直交する回転軸(第3軸O3)まわりに回動可能なように支持する。また、関節部130cには、リンク132cの一端が固定的に接続される。
ここで、第2軸O2および第3軸O3まわりにアーム122の先端側(撮像デバイス124が設けられる側)が回動することによって、水平面内での撮像デバイス124の位置が変更されるように、撮像デバイス124を移動させることができる。つまり、医療用観察装置100では、第2軸O2および第3軸O3まわりの回転が制御されることにより、医療用撮像画像の視野を平面内で移動させることが可能になる。
リンク132cは、一端が略円柱形状を有し、他端が略棒状を有する部材である。リンク132cの一端側には、関節部130cの中心軸と略円柱形状の中心軸とが同一となるように、固定的に接続される。また、リンク132cの他端側には、関節部130dが接続される。
関節部130dは、略円柱形状を有し、リンク132cを、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能なように支持する。関節部130dには、リンク132dが固定的に接続される。
リンク132dは、略棒状の部材であり、第4軸O4と直交するように延伸される。リンク132dの一端は、関節部130dの略円柱形状の側面に当接するように、関節部130dに固定的に接続される。また、リンク132dの他端(関節部130dが接続される側とは反対側の端)には、関節部130eが接続される。
関節部130eは、略円柱形状を有し、リンク132dの一端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能なように支持する。また、関節部130eには、リンク132eの一端が固定的に接続される。
ここで、第4軸O4および第5軸O5は、撮像デバイス124を垂直方向に移動させうる回転軸である。第4軸O4および第5軸O5まわりにアーム122の先端側(撮像デバイス124が設けられる側)が回動することによって、撮像デバイス124の垂直方向の位置が変わる。よって、第4軸O4および第5軸O5まわりにアーム122の先端側(撮像デバイス124が設けられる側)が回動することによって、撮像デバイス124と、患者の術部などの観察対象との距離を変えることが、可能となる。
リンク132eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材とが、組み合わされて構成される部材である。リンク132eの第1の部材の鉛直方向に延伸する部位には、関節部130eが固定的に接続される。また、リンク132eの第2の部材には、関節部130fが接続される。
関節部130fは、略円柱形状を有し、リンク132eを、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能なように支持する。また、関節部130fには、リンク132fが固定的に接続される。
リンク132fは、略棒状の部材であり、鉛直方向に延伸される。リンク132fの一端は、関節部130fが接続される。また、リンク132fの他端(関節部130fが接続される側とは反対側の端)は、ベース120に固定的に接続される。
アーム122が上記に示す構成を有することによって、医療用観察装置100では、撮像デバイス124の移動に関して6自由度が実現される。
なお、アーム122の構成は、上記に示す例に限られない。
例えば、アーム122の関節部130a、130b、130c、130d、130e、130fそれぞれには、関節部130a、130b、130c、130d、130e、130fそれぞれにおける回転を規制するブレーキが設けられていてもよい。本実施形態に係るブレーキとしては、例えば、機械的に駆動するブレーキや、電気的に駆動する電磁ブレーキなど、任意の方式のブレーキが挙げられる。
上記ブレーキの駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。上記ブレーキの駆動が制御されることにより、医療用観察装置100では、アーム122の動作モードが設定される。アーム122の動作モードとしては、例えば、固定モードとフリーモードとが挙げられる。
ここで、本実施形態に係る固定モードとは、例えば、アーム122に設けられる各回転軸における回転がブレーキにより規制されることにより、撮像デバイス124の位置および姿勢が固定される動作モードである。アーム122が固定モードとなることによって、医療用観察装置100の動作状態は、撮像デバイス124の位置および姿勢が固定される固定状態となる。
また、本実施形態に係るフリーモードとは、上記ブレーキが解除されることにより、アーム122に設けられる各回転軸が自由に回転可能となる動作モードである。例えば、フリーモードでは、術者による直接的な操作によって撮像デバイス124の位置および姿勢を調整することが可能となる。ここで、本実施形態に係る直接的な操作とは、例えば、術者が手で撮像デバイス124を把持し、当該撮像デバイス124を直接移動させる操作のことを意味する。
[1-2-2-3]撮像デバイス124
撮像デバイス124は、アーム122により支持され、例えば患者の術部などの観察対象を撮像する。撮像デバイス124における撮像は、例えば、後述する制御部として機能するプロセッサ、または、外部の制御装置(図示せず)によって制御される。
撮像デバイス124は、例えば電子撮像式の顕微鏡に対応する構成を有する。
図3は、図2に示す医療用観察装置100が備える撮像デバイス124の構成の一例を説明するための説明図である。
撮像デバイス124は、例えば、撮像部材134と、略円筒形状を有する筒状部材136とを有し、撮像部材134は、筒状部材136内に設けられる。
筒状部材136の下端(図3における下側の端)の開口面には、例えば、撮像部材134を保護するためのカバーガラス(図示せず)が設けられる。
また、例えば筒状部材136の内部には光源(図示せず)が設けられ、撮像時には、当該光源からカバーガラス越しに被写体に対して照明光が照射される。照明光が照射された被写体からの反射光(観察光)が、カバーガラス(図示せず)を介して撮像部材134に入射することにより、撮像部材134によって被写体を示す画像信号(撮像画像を示す画像信号)が得られる。
撮像部材134としては、各種の公知の電子撮像式の顕微鏡部に用いられている構成を適用することが可能である。
一例を挙げると、撮像部材134は、例えば、光学系134aと、光学系134aを通過した光により観察対象の像を撮像する撮像素子を含むイメージセンサ134bとで構成される。光学系134aは、例えば、対物レンズ、ズームレンズおよびフォーカスレンズなどの1または2以上のレンズとミラーなどの光学素子で構成される。イメージセンサ134bとしては、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子を複数用いたイメージセンサが、挙げられる。
撮像部材134は、1対の撮像素子を有する構成、すなわち、いわゆるステレオカメラとして機能する構成であってもよい。撮像部材134には、ズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)や、AF(Auto Focus)などのフォーカス機能などの、一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能が搭載される。
また、撮像部材134は、例えば4K、8Kなどの、いわゆる高解像度での撮像が可能な構成であってもよい。撮像部材134が高解像度での撮像が可能に構成されることにより、所定の解像度(例えば、Full HD画質など)を確保しつつ、例えば50インチ以上などの大画面の表示画面を有する表示装置200に画像を表示させることが可能となるので、当該表示画面を見る術者の視認性が向上する。また、撮像部材134が高解像度での撮像が可能に構成されることにより、撮像画像が電子ズーム機能によって拡大されて表示装置200の表示画面に表示されたとしても、所定の解像度を確保することが可能となる。さらに、電子ズーム機能を用いて所定の解像度が確保される場合には、撮像デバイス124における光学ズーム機能の性能を抑えることが可能となるので、撮像デバイス124の光学系をより簡易にすることができ、撮像デバイス124をより小型に構成することができる。
撮像デバイス124には、例えば、撮像デバイス124の動作を制御するための各種の操作デバイスが設けられる。例えば図3では、ズームスイッチ138と、フォーカススイッチ140と、動作モード変更スイッチ142とが、撮像デバイス124に設けられている。なお、ズームスイッチ138、フォーカススイッチ140、および動作モード変更スイッチ142が設けられる位置と形状とが、図3に示す例に限られないことは、言うまでもない。
ズームスイッチ138とフォーカススイッチ140とは、撮像デバイス124における撮像条件を調整するための操作デバイスの一例である。
ズームスイッチ138は、例えば、ズーム倍率(拡大倍率)を大きくするズームインスイッチ124aと、ズーム倍率を小さくするズームアウトスイッチ124bとで構成される。ズームスイッチ138に対する操作が行われることによりズーム倍率が調整されて、ズームが調整される。以下では、ズーム倍率を大きくすることを「ズームイン」と示し、ズーム倍率を小さくすることを「ズームアウト」と示す場合がある。
フォーカススイッチ140は、例えば、観察対象(被写体)までの焦点距離を遠くする遠景フォーカススイッチ140aと、観察対象までの焦点距離を近くする近景フォーカススイッチ140bとで構成される。フォーカススイッチ140に対する操作が行われることにより焦点距離が調整されて、フォーカスが調整される。観察対象までの焦点距離を遠くすることは「フォーカスアウト」と呼ばれ、観察対象までの焦点距離を近くすることは「フォーカスイン」と呼ばれる場合がある。
動作モード変更スイッチ142は、撮像デバイス124におけるアーム122の動作モードを変更するための操作デバイスの一例である。動作モード変更スイッチ142に対する操作が行われることにより、アーム122の動作モードが変更される。アーム122の動作モードとしては、例えば上述したように、固定モードとフリーモードとが挙げられる。
動作モード変更スイッチ142に対する操作の一例としては、動作モード変更スイッチ142を押下する操作が、挙げられる。例えば、術者が動作モード変更スイッチ142を押下している間、アーム122の動作モードがフリーモードとなり、術者が動作モード変更スイッチ142を押下していないときには、アーム122の動作モードが固定モードとなる。
また、撮像デバイス124には、各種操作デバイスに対する操作を行う操作者が操作を行う際の操作性や利便性などをより高めるために、例えば、滑り止め部材144と、突起部材146とが設けられる。
滑り止め部材144は、例えば操作者が筒状部材136を手などの操作体で操作を行う際に、操作体の滑りを防止するために設けられる部材である。滑り止め部材144は、例えば、摩擦係数が大きい材料で形成され、凹凸などのより滑りにくい構造を有する。
突起部材146は、操作者が筒状部材136を手などの操作体で操作を行う際に、当該操作体が光学系134aの視野を遮ってしまうことや、当該操作体で操作を行う際に、カバーガラス(図示せず)に当該操作体が触れることにより当該カバーガラスが汚れることなどを、防止するために設けられる部材である。
なお、滑り止め部材144および突起部材146それぞれが設けられる位置と形状とが、図3に示す例に限られないことは、言うまでもない。また、撮像デバイス124には、滑り止め部材144と突起部材146との一方または双方が設けれられていなくてもよい。
撮像デバイス124における撮像により生成された画像信号(画像データ)は、例えば後述する制御部として機能するプロセッサにおいて、画像処理が行われる。本実施形態に係る画像処理としては、例えば、ガンマ補正、ホワイトバランスの調整、電子ズーム機能に係る画像の拡大または縮小、または、画素間補正などの各種処理のうちの、1または2以上の処理が、挙げられる。なお、第2の例に係る医療用観察システムが、医療用観察装置100における各種動作を制御する制御装置(図示せず)を有する場合には、本実施形態に係る画像処理は、当該制御装置(図示せず)において行われてもよい。
医療用観察装置100は、例えば、表示制御信号と、上記のような画像処理が行われた画像信号とを、表示装置200に送信する。
表示制御信号と画像信号とが表示装置200に送信されることによって、表示装置200の表示画面には、観察対象が撮像された医療用撮像画像(例えば、術部が撮像された撮像画像)が、光学ズーム機能と電子ズーム機能との一方または双方によって所望の倍率に拡大または縮小されて表示される。
他の例に係る電子撮像式の医療用観察装置として機能する医療用観察装置100は、例えば図2、図3を参照して示したハードウェア構成を有する。
なお、他の例に係る電子撮像式の医療用観察装置として機能する医療用観察装置のハードウェア構成は、図2、図3を参照して示した構成に限られない。
例えば、本実施形態に係る医療用観察装置は、ベース120を備えず、手術室などの天井や壁面などにアーム122が直接取り付けられる構成であってもよい。例えば、天井にアーム122が取り付けられる場合には、本実施形態に係る医療用観察装置は、アーム122が天井から吊り下げられる構成となる。
また、図2では、アーム122が、撮像デバイス124の駆動に関して6自由度が実現されるように構成されている例を示しているが、アーム122の構成は、撮像デバイス124の駆動に関する自由度が6自由度となる構成に限られない。例えば、アーム122は、用途に応じて撮像デバイス124を適宜移動しうるように構成されればよく、関節部およびリンクの数や配置、関節部の駆動軸の方向などは、アーム122が所望の自由度を有するように適宜設定することが可能である。一例を挙げると、本実施形態に係る医療用観察装置は、眼科顕微鏡などのように、X軸Y軸制御程度のより簡便な構成であってもよい。
また、図2、図3では、撮像デバイス124の動作を制御するための各種の操作デバイスが、撮像デバイス124に設けられる例を示しているが、図2、図3に示す操作デバイスのうちの一部または全部は、撮像デバイス124に設けられなくてもよい。一例を挙げると、撮像デバイス124の動作を制御するための各種の操作デバイスは、本実施形態に係る医療用観察装置を構成する撮像デバイス124以外の他の部位に設けられていてもよい。また、他の例を挙げると、撮像デバイス124の動作を制御するための各種の操作デバイスは、フットスイッチやリモートコントローラなどの、外部の操作デバイスであってもよい。
本実施形態に係る医療用観察システム1000を構成する医療用観察装置100としては、例えば、図1に示すような内視鏡装置として機能する医療用観察装置と、図2に示すような他の例に係る電子撮像式の医療用観察装置として機能する医療用観察装置とが、挙げられる。
[2]本実施形態に係る制御方法
[2-1]本実施形態に係る制御方法の概要
上述したように、既存の内視鏡などの医療用観察装置が用いられる既存の医療用観察システムでは、表示画面に表示された医療用撮像画像が、術者が観察を所望する術部が見易くなっている画像となっていないことが起こりうる。また、術者が観察を所望する術部が見易い医療用撮像画像とするためには、例えば、照明の強度を調節することなどによりS/Nのよい画像とする操作が必要となる。そのため、既存の医療用観察システムでは、術者、術者の助手、スコーピストなどの医療従事者の利便性を損ねる恐れがある。
そこで、医療用観察システム1000では、医療用観察装置100が、例えば術者などの特定の者を認識対象として検出された視線を利用して、少なくとも撮像デバイスの露出機能を制御する(本実施形態に係る制御方法に係る処理)。
認識対象の視線の検出は、例えば、医療用観察システム1000が有する視線検出センサを用いて検出される。例えば視線検出センサがステレオカメラを有するセンサユニットである場合、視線検出センサは、医療用撮像画像が表示される表示画面の正面方向(例えば表示画面に対応する平面に対する垂直方向)を撮像するように設けられる。
医療用観察システム1000では、視線検出センサにおいて撮像された撮像画像から設定されている顔を検出する顔検出処理が行われることによって、認識対象が特定される。そして、医療用観察システム1000では、特定された認識対象に対して、視線検出センサにおいて撮像された撮像画像に基づき視線を検出する視線検出処理が行われることによって、認識対象の視線の検出結果が得られる。
認識対象の視線の検出結果としては、例えば、認識対象の視線を示す視線ベクトルが挙げられる。また、認識対象の視線の検出結果は、例えば、医療用撮像画像が表示される表示画面における認識対象の視線の位置であってもよい。表示画面に対する認識対象の視線の位置は、例えば、視線ベクトルと表示画面に対応する平面との交点を求めることによって特定され、表示画面の任意の位置を原点とする二次元座標で表される。
医療用観察システム1000において上記顔検出処理と上記視線検出処理との一方または双方は、視線検出センサで行われてもよいし、医療用観察装置100、制御装置(図示せず)あるいは表示装置200で行われてもよい。なお、本実施形態に係る認識対象の視線の検出方法が、上記に示す例に限られないことは、言うまでもない。
また、医療用観察システム1000における認識対象の視線の検出は、医療用観察システム1000の利用者の操作によって停止され、また、医療用観察システム1000の利用者の操作によって停止が解除されてもよい。認識対象の視線の検出に係る操作としては、例えば、フットスイッチなどの操作デバイスに対する操作や、ジェスチャなどの動きによる操作、音声による操作などが、挙げられる。
認識対象の視線の検出を停止することが可能となることによって、認識対象に負荷をかけることなく、認識対象の視線が固定されている状態を実現することが可能となる。
医療用観察装置100が、認識対象の視線の検出結果に基づき撮像デバイスの露出機能を制御することによって、表示画面に表示される医療用撮像画像を、自動的に“認識対象である特定の者が観察を所望する術部が、見易い画像”とすることが可能となる。
したがって、医療用観察装置100が、上記特定の者の視線の検出結果に基づき撮像デバイスの露出機能を制御することによって、利便性の向上を図ることが可能な医療用観察システム1000が、実現される。
以下、医療用観察システム1000を構成する各装置の機能を説明しつつ、本実施形態に係る制御方法が適用される医療用観察システム1000について、説明する。また、以下では、本実施形態に係る医療用観察システム1000が、図1に示す第1の例に係る医療用観察システム1000である場合を主に例に挙げる。
[2-2]医療用観察装置100
図4は、本実施形態に係る医療用観察装置100の構成の一例を示す機能ブロック図である。医療用観察装置100は、例えば、撮像部150と、通信部152と、制御部154とを備える。
[2-2-1]撮像部150
撮像部150は、観察対象を撮像する。医療用観察装置100が図1に示す構成の場合、撮像部150は、挿入部材102、光源ユニット104、およびカメラヘッド108(図1に示す医療用観察装置100において撮像デバイスの役目を果たす部材)で構成される。また、医療用観察装置100が図2に示す構成の場合、撮像部150は、撮像デバイス124で構成される。撮像部150における撮像は、例えば制御部154によって制御される。
[2-2-2]通信部152
通信部152は、医療用観察装置100が備える通信手段であり、表示装置200などの外部装置と無線または有線で通信を行う役目を果たす。通信部152は、例えば上述した通信デバイス(図示せず)で構成される。通信部152における通信は、例えば制御部154によって制御される。
[2-2-3]制御部154
制御部154は、医療用観察装置100全体を制御する役目を果たす。また、制御部154は、本実施形態に係る制御方法に係る処理を主導的に行う役目を果たす。
医療用観察装置100が図1に示す構成の場合、制御部154は、例えば、制御ユニット112で構成される。また、医療用観察装置100が図2に示す構成の場合、制御部154は、例えば、上述したプロセッサ(図示せず)で構成される。なお、制御部154における制御方法に係る処理は、複数の処理回路(例えば、複数のプロセッサなど)で分散して行われてもよい。
より具体的には、制御部154は、例えば、撮像制御部156と、表示制御部158とを有する。
[2-2-3-1]撮像制御部156
撮像制御部156は、撮像部150を構成する撮像デバイスを制御する。撮像デバイス124の制御としては、例えば、少なくとも露出機能の制御を含む、ズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)の制御、AFなどのフォーカス機能の制御、イメージセンサのリフレッシュレートなどを制御するシャッタスピード機能の制御などの、撮像デバイスの撮像を制御することが可能な、1または2以上の撮像機能の制御が、挙げられる。
撮像制御部156は、例えば、光源ユニット104などの光源を制御し、患部などの観察対象に照射される照明光を制御することによって、露出機能の制御を行う。また、撮像制御部156は、例えば、医療用撮像画像を示す画像信号に対するゲインの制御を行うことによって、露出機能の制御を行ってもよい。画像信号に対するゲインの制御に係る処理の一例としては、例えば、医療用撮像画像の輝度を平均化する信号処理が挙げられる。
より具体的には、撮像制御部156は、認識対象の視線の検出結果に基づいて、医療用撮像画像における所定の領域の輝度が変わるように、撮像デバイスの露出機能を制御する。撮像制御部156は、例えば、医療用撮像画像が表示される表示画面における認識対象の視線の位置(認識対象の視線の検出結果の一例、または、認識対象の視線の検出結果から特定される情報の一例)に基づいて、医療用撮像画像における所定の領域の輝度が変わるように、撮像デバイスの露出機能を制御する。
撮像制御部156は、例えば、医療用撮像画像における所定の領域の輝度が大きくなるように、または、当該所定の領域の輝度が小さくなるように、撮像デバイスの露出機能を制御することによって、当該所定の領域の輝度を変える。医療用撮像画像における所定の領域の輝度が大きくなることによって、当該所定の領域はより明るくなり、また、当該所定の領域の輝度が小さくなることによって、当該所定の領域はより暗くなる。撮像制御部156は、例えば、認識対象の視線が手前の術部から奥まった術部へ移動する場合のように、認識対象の視線が明るい術部から暗い術部に移動する場合に、医療用撮像画像における所定の領域の輝度が大きくなるように、撮像デバイスの露出機能を制御する。また、撮像制御部156は、例えば、認識対象の視線が奥まった術部から手前の術部へ移動する場合のように、認識対象の視線が暗い術部から明るい術部に移動する場合に、医療用撮像画像における所定の領域の輝度が小さくなるように、撮像デバイスの露出機能を制御する。例えば上記のように撮像制御部156が撮像デバイスの露出機能を制御することによって、医療用撮像画像における所定の領域をより見やすくすることができる。
撮像制御部156は、例えば、医療用撮像画像における所定の領域の明るさの平均が一様になるように、照明光の強度を制御し、信号処理により輝度を平均化することによって、撮像デバイスの露出機能を制御する。
認識対象の視線の検出結果に基づく露出機能の制御の即応性は、例えば、認識対象に対して行われるキャリブレーション、または、統計的な方法などにより設定された値によって、定められる。
本実施形態に係る所定の領域としては、例えば、“表示画面における視線の位置に対応する医療用撮像画像における位置を含む領域”が、挙げられる。表示画面における視線の位置は、例えば上述したように、表示画面の任意の位置を原点とする二次元座標で表される。また、表示画面における視線の位置に対応する医療用撮像画像における位置は、例えば、医療用撮像画像の任意の位置を原点とする二次元座標で表される。以下では、「表示画面における視線の位置に対応する医療用撮像画像における位置」を、単に「医療用撮像画像における位置」と示す場合がある。
撮像制御部156は、表示画面における視線の位置を医療用撮像画像における位置に変換し、変換により得られた医療用撮像画像における位置が含まれるように、所定の領域を設定する。撮像制御部156は、例えば、記録媒体(図示せず)に記憶されている変換行列を用いることによって、表示画面における視線の位置を医療用撮像画像における位置に変換する。なお、撮像制御部156は、座標変換を行うことが可能な任意のアルゴリズムの演算を行うことによって、表示画面における視線の位置を医療用撮像画像における位置に変換してもよい。
また、所定の領域としては、例えば下記の例に示す領域が挙げられる。
・形状と大きさとが予め設定された領域
・形状と大きさとが、認識対象ごとに設定された領域
・視線の動きに応じて、形状と大きさとの一方または双方が変更される領域
撮像制御部156は、例えば、記録媒体(図示せず)に記憶されている“領域の形状および大きさが予め設定されている領域データ”を参照することによって、予め設定された所定の領域の形状と大きさとを特定する。また、撮像制御部156は、例えば、記録媒体(図示せず)に記憶されている“認識対象を示すデータ(例えば、ユーザIDなど)と、領域データとが対応付けられているテーブル(またはデータベース)”を参照することによって、認識対象に対応する所定の領域の形状と大きさとを特定する。また、撮像制御部156は、例えば、記録媒体(図示せず)に記憶されている“視線の動き量と、領域データとが対応付けられているテーブル(またはデータベース)”を参照することによって、視線の動きに対応する所定の領域の形状と大きさとを特定する。視線の動き量は、例えば、“第1の時点における、表示画面における視線の位置”と、“第2の時点(第1の時点よりも後の時点)における、表示画面における視線の位置”とのユークリッド距離により定められる。
なお、本実施形態に係る所定の領域は、上記に示す例に限られない。例えば、撮像制御部156は、領域を設定することが可能な任意のアルゴリズムの演算を都度行うことによって、所定の領域を設定してもよい。
撮像制御部156における露出機能の制御としては、例えば、光源ユニット104などの光源から照射される照明光の制御と、医療用撮像画像を示す画像信号に対するゲインの制御との一方または双方が、挙げられる。また、照明光の制御としては、例えば、照明光の照度の制御、照明光の種類の制御、および照明光の照射時間の制御(露出時間の制御の一例)のうちの1または2以上が、挙げられる。
一例を挙げると、撮像制御部156における露出機能の制御としては、例えば、下記の(A)に示す第1の例と(B)に示す第2の例との一方または双方が挙げられる。なお、本実施形態に係る露出機能の制御の例は、下記に示す例に限られず、医療用撮像画像における所定の領域の輝度が変わるように露出を変えることが可能な、任意の制御であってもよい。
(A)露出機能の制御の第1の例
撮像制御部156は、医療用撮像画像における所定の領域以外の領域の輝度が小さくなるように、露出機能を制御する。撮像制御部156は、医療用撮像画像を示す画像信号に対するゲインの制御によって、所定の領域以外の領域の輝度を小さくする。
一例を挙げると、撮像制御部156は、所定の領域以外の領域の輝度が、設定されている閾値以下となるように(または、所定の領域以外の領域の輝度が、当該閾値より小さくなるように)、所定の領域以外の領域の輝度を小さくする。また、他の例を挙げると、撮像制御部156は、所定の領域以外の領域の輝度が、所定の領域の輝度の平均値よりも小さくなるように、所定の領域以外の領域の輝度を小さくする。
撮像制御部156は、例えば、認識対象の視線の検出結果に基づいて第1の例に係る露出機能の制御を行う。一例を挙げると、撮像制御部156は、“設定されている第1の期間における表示画面における視線の位置の変化が、設定されている閾値より小さい状態(または、第1の期間における表示画面における視線の位置の変化が、当該閾値以下である状態)”が、設定されている第2の期間以上継続する場合(または、第2の期間より長く継続する場合)に、第1の例に係る露出機能の制御を行う。例えば上記のように、認識対象の視線の検出結果に基づき第1の例に係る露出機能の制御が行われることによって、術者(認識対象の一例)が術部を注視したときに、あたかも当該術部に対してスポット照明光が照射されているような視覚効果が、実現される。
なお、第1の例に係る露出機能の制御が行われるトリガは、認識対象の視線の検出結果に限られない。例えば、撮像制御部156は、フットスイッチなどの操作デバイスに対する操作やジェスチャ操作、音声操作などの所定の操作に基づいて、第1の例に係る露出機能の制御を行ってもよい。また、撮像制御部156は、操作デバイスに対する操作などの所定の操作に基づいて、第1の例に係る露出機能の制御から、後述する第2の例に係る露出機能の制御などの、他の露出機能の制御に切り替えてもよい。
また、撮像制御部156は、第1の例に係る露出機能制御と連動して、所定の領域に対して電子ズームが行われるように、撮像デバイスのズーム機能を制御してもよい。第1の例に係る露出機能制御と連動したズーム機能の制御は、自動的に行われてもよいし、フットスイッチなどの操作デバイスに対する操作やジェスチャ操作、音声操作などの所定の操作に基づいて行われてもよい。また、第1の例に係る露出機能制御と連動したズーム機能の制御は、例えば、操作デバイスに対する操作などの所定の操作に基づいて解除されうる。
術者が視線の認識対象である場合を例に挙げると、第1の例に係る露出機能制御と連動してズーム機能の制御が行われることによって、術者や術者の助手などの医療従事者は、“術者が観察を所望する術部に対してあたかもスポット照明が照射された状態で撮像されたような医療用撮像画像が拡大された、医療用撮像画像”を見ながら、医療行為を行うことが可能となる。よって、第1の例に係る露出機能制御と連動してズーム機能の制御が行われることにより、術者が観察を所望する術部がより見易い医療用撮像画像を、表示画面に表示させることが可能となるので、医療従事者の利便性をより向上させることができる。
(B)露出機能の制御の第2の例
撮像制御部156は、医療用撮像画像における位置に対応する観察対象における位置に対して、拡散照明光が照射されるように、露出機能を制御する。
撮像制御部156は、例えば、推定された観察対象における位置に拡散照明光の光軸の中心がくるように、撮像デバイスを制御する。医療用観察装置100が図1に示す構成の場合、撮像制御部156は、例えば、光源ユニット104を構成する、拡散、およびライトガイド106への照明光の入射角度を調節する機構(図示せず)を制御することによって、観察対象における位置に対して拡散照明光を照射させる。医療用観察装置100が図1に示す構成であり、挿入部材102が可撓性を有する素材で形成される場合(すなわち、軟性鏡である場合)には、拡散照明光の光軸の中心を移動させることによって、観察対象における位置に対して拡散照明光を照射させてもよい。また、医療用観察装置100が図2に示す構成の場合、撮像制御部156は、例えば、光源(図示せず)を構成する拡散と、アーム122とを制御することによって、観察対象における位置に対して拡散照明光を照射させる。なお、観察対象における位置に対して拡散照明光が照射されるように露出機能を制御する方法が、上記に示す例に限られないことは、言うまでもない。
撮像制御部156は、例えば、フットスイッチなどの操作デバイスに対する操作やジェスチャ操作、音声操作などの所定の操作に基づいて、第2の例に係る露出機能の制御を行う。また、撮像制御部156は、自動的に第2の例に係る露出機能の制御を行い、認識対象の視線の検出結果などに基づいて、上述した第1の例に係る露出機能の制御に切り替えてもよい。
ここで、上述した第1の例に係る露出機能の制御と第2の例に係る露出機能の制御との切り替えは、例えば“光源ユニット104が、拡散の挿抜機構を有すること”によって実現することが可能である。
図5は、本実施形態に係る制御方法を説明するための説明図である。図5のAは、図1に示す光源ユニット104が有する拡散の挿抜機構を概略的に示しており、図5のBは、拡散の有無による照射角度の差異を示している。
図5のBに示すように、拡散が挿入されることによって、照射角度はX[°]からY[°](Y>X)へと変化し、照明領域が広くなる。また、拡散が挿入されることによって、図5のBに示すように、光源ユニット104から照射される照明光の照度を変えなくとも、照明領域に対してより照度が高い照明光を照射することが可能となる。
[2-2-3-2]表示制御部158
表示制御部158は、例えば、表示制御信号と画像信号とを通信部152を構成する通信デバイス(図示せず)に伝達し、表示制御信号と画像信号とを表示装置200に対して送信させることによって、表示装置200における表示を制御する。なお、通信部152における通信の制御は、制御部154を構成する通信制御部(図示せず)により行われてもよい。
また、表示制御部158は、例えば下記の(a)に示す第1の例~下記の(d)に示す第4の例に示す表示制御のうちの、1または2以上の表示制御を行ってもよい。
(a)表示制御の第1の例
表示制御部158は、認識対象の視線の検出結果に基づいて、表示画面における視線の位置に対応する医療用撮像画像における位置を、表示画面に表示させる。
表示制御部158は、例えば、医療用撮像画像における位置を含む所定の領域を表示画面に表示させることによって、医療用撮像画像における位置を表示画面に表示させる。
図6は、本実施形態に係る制御方法を説明するための説明図であり、医療用撮像画像における位置を含む所定の領域が、表示装置200の表示画面に表示されている例を示している。図6では、ステレオカメラを有するセンサユニットで構成される視線検出センサ300を、併せて示している。また、図6に示す符号Oは、医療用撮像画像における位置を含む所定の領域を示しており、所定の領域が、医療用撮像画像における位置を中心とする円形状の領域である例を示している。なお、所定の領域の形状および大きさが、図6に示す例に限られないことは、言うまでもない。
表示画面における視線の位置が、図6に示す位置Aから位置Bへと変化した場合、表示制御部158は、表示画面における視線の位置の変化に対応するように、医療用撮像画像における位置を含む所定の領域の表示を移動させる。
ここで、観察対象が、撮像デバイスと照明光とに対して正対し、かつ均一な平面である場合、認識対象の視線が移動しても、照明光の強度は変わらず、また、信号処理による輝度の変化も起こらない。
また、医療用撮像画像における所定の領域以外の部分は、露出機能の制御の対象とならないので、照明が強すぎる場合は白とびが発生し、照明が弱くなる場合は暗く沈んでしまう可能性がある。しかしながら、上記所定の領域以外の部分は、認識対象の視線の位置が含まれない部分であるので、術者(認識対象の一例)による医療行為に影響を及ぼす恐れはない。
なお、医療用撮像画像における位置を表示画面に表示させる例は、図6に示すような、医療用撮像画像における位置を含む所定の領域を表示画面に表示させることに限られない。例えば、表示制御部158は、例えば、“医療用撮像画像における位置を示すオブジェクト(例えば、医療用撮像画像における位置を矢印で示すオブジェクトなど)が、医療用撮像画像に重畳された医療用撮像画像”を示す画像信号を、表示装置200に対して送信させることによって、医療用撮像画像における位置を表示画面に表示させてもよい。
術者が視線の認識対象である場合を例に挙げると、上記のような第1の例に係る表示制御が行われることによって、例えば術者の助手や、スコーピスト、看護師などの他の医療従事者は、術者が見ている術部を視覚的に認識することができる。よって、上記のような第1の例に係る表示制御が行われることによって、医療用観察システム1000を利用する医療従事者間のコミュニケーションをより円滑なものとすることができるという効果が期待される。
また、術者が視線の認識対象である場合を例に挙げると、上記のような第1の例に係る表示制御が行われることによって、例えば術者を指導する指導医は、術者が見ている術部を視覚的に認識することができる。よって、上記のような第1の例に係る表示制御が行われることによって、指導医による術者の教育をより効果的に行うことができるという効果が期待される。
(b)表示制御の第2の例
表示制御部158は、撮像デバイスの撮像機能を制御するためのユーザインタフェース画像を表示画面に表示させる。
撮像デバイスの撮像機能を制御するためのユーザインタフェース画像としては、ズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)、フォーカス機能、露出機能、シャッタスピード機能などの、1または2以上の撮像デバイスの撮像機能を操作するための画像が、挙げられる。撮像デバイスの撮像機能を制御するためのユーザインタフェース画像では、各撮像機能がアイコン表示されていてもよいし、各撮像機能が文字で表示されていてもよい。
図7は、本実施形態に係る制御方法を説明するための説明図であり、図6と同様の表示に加えて、撮像デバイスの撮像機能を制御するためのユーザインタフェース画像が、表示装置200の表示画面に表示されている例を示している。図7では、図6と同様に、ステレオカメラを有するセンサユニットで構成される視線検出センサ300を、併せて示している。図7に示す符号O1は、図6に示す符号Oと同様に、医療用撮像画像における位置を含む所定の領域を示している。また、図7に示す符号O2は、撮像デバイスの撮像機能を制御するためのユーザインタフェース画像の一例を示している。なお、撮像デバイスの撮像機能を制御するためのユーザインタフェース画像が、図7に示す例に限られないことは、言うまでもない。
表示画面における視線の位置が、図7に示す位置Cから位置Dへと変化した場合、表示制御部158は、表示画面における視線の位置の変化に対応するように、医療用撮像画像における位置を含む所定の領域の表示を移動させる。
また、例えば、操作デバイスに対する操作やジェスチャ操作、音声操作などによる、撮像デバイスの撮像機能を制御するためのユーザインタフェース画像に対する操作が行われた場合、表示制御部158は、当該操作に対応するように当該ユーザインタフェース画像の表示を変化させる。また、撮像制御部156は、撮像デバイスの撮像機能を制御するためのユーザインタフェース画像に対する操作に対応する撮像機能を制御する。
なお、第2の例に係る表示制御は、上記に示す例に限られない。
例えば、表示制御部158は、認識対象の視線の検出結果に基づいて、ユーザインタフェース画像上における認識対象の視線の位置を、表示画面に表示させてもよい。
術者が視線の認識対象である場合を例に挙げると、ユーザインタフェース画像上における術者の視線の位置が表示画面に表示されることによって、術者の助手などの他の医療従事者は、術者の意図をくみ取ってユーザインタフェース画像に対する操作を行うことが可能となる。
また、表示制御部158は、医療用観察装置100が有する撮像デバイスの撮像機能以外の機能を制御するためのユーザインタフェース画像と、医療用観察装置100以外の機器の機能を制御するためのユーザインタフェース画像との一方または双方を、表示画面に表示させてもよい。
(c)表示制御の第3の例
表示制御部158は、撮像デバイスの撮像機能の状態を表示画面に表示させる。
撮像デバイスの撮像機能の状態の表示としては、例えば、ズーム倍率を示す値の表示、F値(絞り値)の表示、EV(Exposure Value)の表示、シャッタスピード値の表示などが、挙げられる。
なお、第3の例に係る表示制御は、上記に示す例に限られない。
例えば、表示制御部158は、認識対象の視線の検出結果に基づいて、撮像デバイスの撮像機能の状態が表示された表示画面における認識対象の視線の位置を、表示画面に表示させてもよい。
(d)表示制御の第4の例
表示制御部158は、“患者のバイタル”や、“ナビゲーション装置から出力される画像”、“電気メスやバイポーラ、超音波吸引器などの様々な処置装置の処置装置における設定を示す画像”などを、表示画面に表示させてもよい。表示制御部158は、バイタルを測定する装置などの外部装置から取得された値や画像を、表示画面に表示させる。
なお、第4の例に係る表示制御は、上記に示す例に限られない。
例えば、表示制御部158は、認識対象の視線の検出結果に基づいて、“患者のバイタル”などが表示された表示画面における認識対象の視線の位置を、表示画面に表示させてもよい。
術者が視線の認識対象である場合を例に挙げると、術者の視線が患者のバイタルなどが表示されている表示画面上の位置にあるときには、他の医療従事者から術者に対して視線の先にある内容に関する新たな内容を伝達することが可能な仕組みを、実現することができる。
制御部154は、例えば、撮像制御部156と、表示制御部158とを有することにより、本実施形態に係る制御方法に係る処理を主導的に行う。
なお、制御部154の構成は、図4に示す例に限られない。
例えば、医療用観察装置100が図1に示す構成の場合、制御部154は、認識対象の視線の検出結果に基づいて、医療用観察装置100(硬性鏡または軟性鏡)を操作するロボットを動作させる処理部(図示せず)を有していてもよい。処理部(図示せず)が、認識対象の視線の検出結果に対応する制御信号を、上記ロボットに対して送信することによって、上記ロボットによる硬性鏡操作または上記ロボットによる軟性鏡操作が実現される。
また、例えば、医療用観察装置100が図2に示す構成の場合、制御部154は、アーム122の駆動を制御するアーム制御部(図示せず)を有していてもよい。アーム122の駆動の制御の一例としては、例えば、“関節部130a、130b、130c、130d、130e、130fそれぞれに対応するアクチュエータ(図示せず)に対して、駆動を制御する制御信号を印加すること”などが挙げられる。
また、制御部154は、本実施形態に係る制御方法に係る処理の切り分け方に応じた構成など、医療用観察装置100が有する機能の切り分け方に応じた、任意の構成を有することが可能である。
医療用観察装置100は、例えば図4に示す機能を有することによって、本実施形態に係る制御方法に係る処理を行う。
なお、本実施形態に係る医療用観察装置の構成は、図4に示す構成に限られない。
例えば、本実施形態に係る医療用観察装置は、図4に示す撮像制御部156および表示制御部158の一方または双方を、制御部154とは個別に備える(例えば、別の処理回路で実現する)ことができる。
また、本実施形態に係る医療用観察装置において本実施形態に係る制御方法に係る処理を実現するための構成は、図4に示す構成に限られず、例えば、本実施形態に係る医療用観察装置は、本実施形態に係る制御方法に係る処理の切り分け方に応じた構成をとることが可能である。
また、例えば、通信部152と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本実施形態に係る医療用観察装置は、通信部152を備えていなくてもよい。
また、本実施形態に係る医療用観察システムが、制御装置(図示せず)を有する構成であり、本実施形態に係る医療用観察装置が当該制御装置(図示せず)により制御される場合、本実施形態に係る医療用観察装置は、制御部154を備えていなくてもよい。
ここで、制御装置(図示せず)は、例えば、制御部154と同様の機能、構成を有する制御部を備えることによって、後述する本実施形態に係る制御方法に係る処理を行い、また、本実施形態に係る医療用観察装置が備える撮像部150やアーム部(図示せず)などの各構成要素における動作を制御する。制御装置(図示せず)は、備えている通信デバイス、または、接続されている外部の通信デバイスを介して、本実施形態に係る医療用観察装置と通信を行うことによって、本実施形態に係る医療用観察装置が備える各構成要素における動作を制御する。
さらに、本実施形態に係る医療用観察システムが、制御装置(図示せず)を有する構成であり、本実施形態に係る医療用観察装置が当該制御装置(図示せず)により制御される場合、本実施形態に係る医療用観察装置は、制御部154の一部の機能を有さない構成をとることも可能である。
[2-2-4]医療用観察装置100のハードウェア構成の一例
次に、本実施形態に係る制御方法に係る処理を行うことが可能な医療用観察装置100のハードウェア構成の一例を説明する。図8は、本実施形態に係る制御方法に係る処理を行うことが可能な医療用観察装置100のハードウェア構成の一例を説明するための説明図であり、図1に示す制御ユニット112の構成の一例を示している。
制御ユニット112は、例えば、信号入力インタフェース160と、AG回路162と、ホワイトバランス回路164と、送信デバイス166と、プロセッサ168とを有する。図8では、信号入力インタフェース160を「信号入力I/F」と示し、AG回路162を「AG(Automatic Gain Control)」と示し、ホワイトバランス回路164を「W/B」と示している。
信号入力インタフェース160は、信号が入力される通信インタフェースであり、信号入力インタフェース160には、カメラヘッド108から撮像によって得られた画像信号が伝達される。カメラヘッド108から伝達される画像信号としては、例えばRAW画像を示す信号が挙げられる。
信号入力インタフェース160に入力された画像信号は、AG回路162でゲインが制御され、ホワイトバランス回路164でホワイトバランスが調整される。
送信デバイス166は、例えば、AG回路162およびホワイトバランス回路164で各種信号処理が行われた画像信号と、表示制御信号とを、表示装置200へ送信する。送信デバイス166は、例えば、画像信号に対して出力フォーマットに合わせた信号処理を行って、当該信号処理が行われた画像信号を送信する。
また、送信デバイス166は、例えば、ズーム倍率を示す値やF値、EV、シャッタスピード値などの撮像デバイスの撮像機能の状態を示すデータを、表示装置200へ送信してもよい。送信デバイス166における送信は、プロセッサ168により制御される。
プロセッサ168は、MPUなどの演算回路や各種処理回路で構成され、本実施形態に係る制御方法に係る処理を主導的に行う役目を果たす。
プロセッサ168は、例えば、分析部170と、AE検波部172と、照明光制御部174と、出力ゲイン調整部176と、制御コマンド生成部178とを有する。
分析部170は、視線検出センサ300や表示装置200などの外部装置から取得される視線の検出結果を示すデータを分析し、分析の結果に応じた制御信号を、AE検波部172と制御コマンド生成部178とにそれぞれ伝達する。例えば、分析の結果、露出の検波範囲の変更が必要な場合には、分析部170は、AE検波部172に、露出の検波範囲を変更させる制御信号を伝達する。また、例えば、分析の結果、カメラヘッド108が有する各種撮像機能の制御が必要な場合には、分析部170は、制御コマンド生成部178に、撮像機能を制御させる制御信号を伝達する。
AE検波部172は、信号入力インタフェース160に入力された画像信号に基づいて、露出の検波値を取得する。露出の検波値は、例えば上記画像信号から取得される輝度値に基づいて算出される。AE検波部172における露出の検波範囲は、分析部170から伝達される制御信号に応じて変わりうる。AE検波部172は、取得された露出の検波値を、照明光制御部174と、出力ゲイン調整部176とにそれぞれ伝達する。
照明光制御部174は、AE検波部172から伝達される露出の検波値に基づいて、光源ユニット104を制御し、光源ユニット104から照射される照明光を調整する。
出力ゲイン調整部176は、AE検波部172から伝達される露出の検波値に基づいて、イメージセンサの出力ゲインを変更する。
制御コマンド生成部178は、分析部170から伝達される制御信号と、出力ゲイン調整部176から伝達される出力ゲインの変更結果とのそれぞれに基づいて、カメラヘッド108を制御するコマンドを生成し、生成されたコマンドをカメラヘッド108へ出力する。
例えば図8に示す制御ユニット112の構成によって、本実施形態に係る制御方法に係る処理が実現可能である。なお、本実施形態に係る制御方法に係る処理を行うことが可能な構成が、図8に示す構成に限られないことは、言うまでもない。
[2-3]表示装置200
表示装置200は、医療用観察装置100から送信される画像信号が示す医療用撮像画像を、表示画面に表示させる。
また、表示装置200は、例えば、視線検出センサ300の検出結果に基づき視線を検出する機能と、視線の検出結果に基づき視線を表示画面に表示させる機能との一方または双方を、有していてもよい。
以下、視線を検出する機能、および視線の検出結果に基づき視線を表示画面に表示させる機能の双方を有する表示装置200のハードウェア構成の一例を示す。
図9は、視線を検出する機能、および視線の検出結果に基づき視線を表示画面に表示させる機能の双方を有する表示装置200のハードウェア構成の一例を示す説明図である。図9では、図1に示す制御ユニット112と、ステレオカメラを有するセンサユニットで構成される視線検出センサ300とを、併せて示している。
表示装置200は、例えば、画像信号入力インタフェース250と、プロセッサ252、256、264と、情報入力インタフェース254と、ユーザインタフェース258と、合成器260と、表示部材262とを有する。図9では、画像信号入力インタフェース250を「画像信号入力I/F」と示し、情報入力インタフェース254を「情報入力I/F」と示し、ユーザインタフェース258を「ユーザI/F」と示している。
画像信号入力インタフェース250は、信号が入力される一の通信インタフェースであり、画像信号入力インタフェース250では、医療用観察装置100が有する制御ユニット112から送信される画像信号が受信される。また、画像信号入力インタフェース250では、画像信号と共に表示制御信号が受信されうる。画像信号入力インタフェース250において受信された画像信号は、プロセッサ252において任意の信号処理が行われる。
情報入力インタフェース254は、信号が入力される他の通信インタフェースであり、情報入力インタフェース254では、医療用観察装置100が有する制御ユニット112から送信される、撮像デバイスの撮像機能の状態を示すデータ(例えば、ズーム倍率を示す値やF値、EV、シャッタスピード値などを示すデータ)が受信される。情報入力インタフェース254において受信された撮像デバイスの撮像機能の状態を示すデータは、プロセッサ256において任意のデータ処理が行われる。
ユーザインタフェース258は、表示装置200を用いる利用者が操作可能な操作デバイスで構成され、ユーザインタフェース258に対する操作により合成器260における合成の仕方が切り替えられる。ユーザインタフェース258を構成する操作デバイスとしては、例えば、ボタンや、方向キー、ジョグダイヤルなどの回転型セレクター、あるいは、これらの組み合わせなどが挙げられる。また、表示部材262がタッチパネルとして機能する場合、表示部材262とユーザインタフェース258とは、共通化されていてもよい。
合成器260は、プロセッサ252において処理された画像信号と、プロセッサ256において処理された撮像デバイスの撮像機能の状態を示すデータとを、選択的に合成する。合成器260における合成の有無と、合成の仕方とは、例えばユーザインタフェース258に対する操作により切り替えられる。合成器260において合成が行われない場合、合成器260は、プロセッサ252において処理された画像信号を、表示部材262に出力する。
表示部材262は、例えば表示パネルや各種ドライバで構成され、伝達される画像信号に応じた画像を表示画面に表示する。また、表示部材262の表示画面には、撮像デバイスの撮像機能の状態と、認識対象の視線の位置との一方または双方が、表示されうる。
プロセッサ264は、例えば、視線検出部266と画像生成部268とを有し、視線検出処理を行う役目を果たす。
視線検出部266は、視線検出センサ300から取得される撮像画像に対して視線検出処理を行い、認識対象の視線を検出する。視線検出部266は、例えば、視線の検出結果を示すデータを、医療用観察装置100へ送信する。また、視線検出部266は、視線の検出結果を示すデータを画像生成部268へ伝達する。
画像生成部268は、視線検出部266から伝達される視線の検出結果を示すデータに基づいて、認識対象の視線の位置を示す画像(例えば、図6において符号Oで示すような視線の位置を中心とする円形状の画像)を生成する。そして、画像生成部268は、生成した認識対象の視線の位置を示す画像を、表示部材262に伝達して、表示部材262の表示画面に認識対象の視線の位置を表示させる。
例えば図9に示すハードウェア構成によって、視線を検出する機能、および視線の検出結果に基づき視線を表示画面に表示させる機能の双方を有する表示装置200が、実現される。なお、視線を検出する機能、および視線の検出結果に基づき視線を表示画面に表示させる機能の双方を有する表示装置200のハードウェア構成が、図9に示す例に限られないことは、言うまでもない。
[3]本実施形態に係る医療用観察システムが用いられることにより奏される効果の一例
本実施形態に係る医療用観察システムが用いられることによって、例えば下記に示す効果が奏される。なお、本実施形態に係る医療用観察システムが用いられることにより奏される効果が、下記に示す例に限られないことは、言うまでもない。
・術者が観察している術部を含む、医療用撮像画像の部分(所定の領域の一例)の明るさを最適にすることが可能である。よって、凹凸が複雑に変化している患者の腹腔内が撮像される場合であっても、よりS/Nのよい医療用撮像画像が、表示画面を表示させることができる。また、術者は、医療用撮像画像の観察に集中することができ、手術のストレスを軽減させることができる。
・手術(医療行為の一例)は、術者が観察している術部を含む一定の領域に対して行われるため、4K、8Kのように表示装置の高解像度化が進んでも、当該一定の領域の大きさには影響がほとんどない。よって、表示装置の高解像度化が進んだとしても、上記手術のストレスを軽減させることができるという効果は、奏される。
・医療用撮像画像が表示される表示画面上の術者の視線の位置が表示されることによって、術者の意思を手術チームが共有することができる。
・表示画面上に、医療用観察装置100などの各種機器を制御するユーザインタフェース画像が表示され、術者の視線の位置が表示画面に表示される場合、術者の視線の位置に基づく機器の制御が、可能となる。
(本実施形態に係るプログラム)
コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る制御装置)として機能させるためのプログラム(例えば、本実施形態に係る制御方法に係る処理を実行することが可能なプログラム)が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、利便性の向上を図ることができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、本実施形態に係る制御方法に係る一連の処理が行われる。
また、コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る制御装置)として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る制御方法に係る処理によって実現される表示によって奏される効果を、奏することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到しうることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、コンピュータシステムを、本実施形態に係る医療用観察装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も、併せて提供することができる。
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
撮像デバイスの撮像機能を制御する撮像制御部を備え、
前記撮像制御部は、認識対象の視線の検出結果に基づいて、前記撮像デバイスにより観察対象が撮像された医療用撮像画像における所定の領域の輝度が変わるように、前記撮像デバイスの露出機能を制御する、医療用観察装置。
(2)
前記撮像制御部は、前記認識対象の視線の検出結果から特定される、前記医療用撮像画像が表示される表示画面における認識対象の視線の位置に基づいて、前記所定の領域の輝度が変わるように、前記撮像デバイスの露出機能を制御する、(1)に記載の医療用観察装置。
(3)
前記所定の領域は、前記表示画面における前記視線の位置に対応する、前記医療用撮像画像における位置を含む領域である、(2)に記載の医療用観察装置。
(4)
前記撮像制御部は、前記医療用撮像画像における前記所定の領域以外の領域の輝度が小さくなるように、露出機能を制御する、(3)に記載の医療用観察装置。
(5)
前記撮像制御部は、前記露出機能制御と連動して前記所定の領域に対して電子ズームが行われるように、前記撮像デバイスのズーム機能を制御する、(4)に記載の医療用観察装置。
(6)
前記撮像制御部は、前記医療用撮像画像における位置に対応する前記観察対象における位置に対して、拡散照明光が照射されるように、露出機能を制御する、(3)に記載の医療用観察装置。
(7)
前記認識対象の視線の検出結果に基づいて、前記表示画面における前記視線の位置に対応する前記医療用撮像画像における位置を、前記表示画面に表示させる表示制御部をさらに備える、(2)~(6)のいずれか1つに記載の医療用観察装置。
(8)
前記表示制御部は、前記医療用撮像画像における位置を含む前記所定の領域を、前記表示画面に表示させる、(7)に記載の医療用観察装置。
(9)
前記表示制御部は、さらに、前記撮像デバイスの撮像機能を制御するためのユーザインタフェース画像を前記表示画面に表示させる、(7)または(8)に記載の医療用観察装置。
(10)
前記表示制御部は、さらに、前記撮像デバイスの撮像機能の状態を前記表示画面に表示させる、(7)~(9)のいずれか1つに記載の医療用観察装置。
(11)
前記撮像制御部は、前記所定の領域の輝度が大きくなるように、または、前記所定の領域の輝度が小さくなるように、前記撮像デバイスの露出機能を制御する、(1)~(10)のいずれか1つに記載の医療用観察装置。
(12)
患者の体内に挿入され、前記体内を撮像する前記撮像デバイスを備える、(1)~(11)のいずれか1つに記載の医療用観察装置。
(13)
複数のリンクが関節部によって互いに連結されて構成されるアームと、
前記アームにより支持されている前記撮像デバイスと、
を備える、(1)~(11)のいずれか1つに記載の医療用観察装置。
(14)
撮像デバイスの撮像機能を制御する撮像制御部を備える医療用観察装置と、
前記撮像デバイスにより撮像された医療用撮像画像を表示画面に表示する表示装置と、
を有し、
前記医療用観察装置の前記撮像制御部は、認識対象の視線の検出結果に基づいて、前記医療用撮像画像における所定の領域の輝度が変わるように、前記撮像デバイスの露出機能を制御する、医療用観察システム。
100 医療用観察装置
102 挿入部材
104 光源ユニット
106 ライトガイド
108 カメラヘッド
110 ケーブル
112 制御ユニット
120 ベース
122 アーム
124 撮像デバイス
130a、130b、130c、130d、130e、130f 関節部
132a、132b、132c、132d、132e、132f リンク
134 撮像部材
136 筒状部材
138 ズームスイッチ
140 フォーカススイッチ
142 動作モード変更スイッチ
150 撮像部
152 通信部
154 制御部
156 撮像制御部
158 表示制御部
200 表示装置
300 視線検出センサ
1000 医療用観察システム

Claims (13)

  1. 撮像デバイスの撮像機能を制御する撮像制御部を備え、
    前記撮像制御部は、
    第1の期間における認識対象の視線変化が閾値より小さい状態を、第2の期間以上継続して検出した場合、
    前記撮像デバイスにより観察対象が撮像された医療用撮像画像における所定の領域以外の輝度が、所定の領域の輝度の平均値よりも小さくなるように、前記撮像デバイスの露出機能を制御する、医療用観察装置。
  2. 前記撮像制御部は、前記認識対象の視線の検出結果から特定される、前記医療用撮像画像が表示される表示画面における認識対象の視線の位置に基づいて、前記所定の領域の輝度が変わるように、前記撮像デバイスの露出機能を制御する、請求項1に記載の医療用観察装置。
  3. 前記所定の領域は、前記表示画面における前記視線の位置に対応する、前記医療用撮像画像における位置を含む領域である、請求項2に記載の医療用観察装置。
  4. 前記撮像制御部は、前記露出機能の制御と連動して前記所定の領域に対して電子ズームが行われるように、前記撮像デバイスのズーム機能を制御する、請求項に記載の医療用観察装置。
  5. 前記撮像制御部は、前記医療用撮像画像における位置に対応する前記観察対象における位置に対して、拡散照明光が照射されるように、露出機能を制御する、請求項3に記載の医療用観察装置。
  6. 前記認識対象の視線の検出結果に基づいて、前記表示画面における前記視線の位置に対応する前記医療用撮像画像における位置を、前記表示画面に表示させる表示制御部をさらに備える、請求項2~のいずれか1つに記載の医療用観察装置。
  7. 前記表示制御部は、前記医療用撮像画像における位置を含む前記所定の領域を、前記表示画面に表示させる、請求項に記載の医療用観察装置。
  8. 前記表示制御部は、さらに、前記撮像デバイスの撮像機能を制御するためのユーザインタフェース画像を前記表示画面に表示させる、請求項またはに記載の医療用観察装置。
  9. 前記表示制御部は、さらに、前記撮像デバイスの撮像機能の状態を前記表示画面に表示させる、請求項のいずれか1つに記載の医療用観察装置。
  10. 前記撮像制御部は、前記所定の領域の輝度が大きくなるように、または、前記所定の領域の輝度が小さくなるように、前記撮像デバイスの露出機能を制御する、請求項1~のいずれか1つに記載の医療用観察装置。
  11. 患者の体内に挿入され、前記体内を撮像する前記撮像デバイスを備える、請求項1~10のいずれか1つに記載の医療用観察装置。
  12. 複数のリンクが関節部によって互いに連結されて構成されるアームと、
    前記アームにより支持されている前記撮像デバイスと、
    を備える、請求項1~10のいずれか1つに記載の医療用観察装置。
  13. 撮像デバイスの撮像機能を制御する撮像制御部を備える医療用観察装置と、
    前記撮像デバイスにより撮像された医療用撮像画像を表示画面に表示する表示装置と、
    を有し、
    前記医療用観察装置の前記撮像制御部は、
    第1の期間における認識対象の視線変化が閾値より小さい状態を、第2の期間以上継続して検出した場合、
    前記医療用撮像画像における所定の領域以外の輝度が、所定の領域の輝度の平均値よりも小さくなるように、前記撮像デバイスの露出機能を制御する、医療用観察システム。
JP2017171680A 2017-09-07 2017-09-07 医療用観察装置、および医療用観察システム Active JP7034636B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017171680A JP7034636B2 (ja) 2017-09-07 2017-09-07 医療用観察装置、および医療用観察システム
US16/104,150 US10764506B2 (en) 2017-09-07 2018-08-17 Medical observation device and medical observation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017171680A JP7034636B2 (ja) 2017-09-07 2017-09-07 医療用観察装置、および医療用観察システム

Publications (3)

Publication Number Publication Date
JP2019042412A JP2019042412A (ja) 2019-03-22
JP2019042412A5 JP2019042412A5 (ja) 2020-11-05
JP7034636B2 true JP7034636B2 (ja) 2022-03-14

Family

ID=65518417

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017171680A Active JP7034636B2 (ja) 2017-09-07 2017-09-07 医療用観察装置、および医療用観察システム

Country Status (2)

Country Link
US (1) US10764506B2 (ja)
JP (1) JP7034636B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7208752B2 (ja) * 2018-09-26 2023-01-19 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察システム、医療用観察装置、および制御方法
US11413111B2 (en) * 2019-05-24 2022-08-16 Karl Storz Imaging, Inc. Augmented reality system for medical procedures
WO2021037381A1 (en) * 2019-08-30 2021-03-04 Brainlab Ag Image based motion control correction
CN111935415B (zh) * 2020-08-18 2022-02-08 浙江大华技术股份有限公司 亮度调整方法、装置、存储介质及电子装置
CN112261376B (zh) * 2020-10-22 2023-03-24 金税信息技术服务股份有限公司 子弹箱的观察事件处理方法、装置、控制器和处理系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011104016A (ja) 2009-11-13 2011-06-02 Olympus Corp 画像処理装置、電子機器、内視鏡システム及びプログラム
JP2015093147A (ja) 2013-11-14 2015-05-18 オリンパスメディカルシステムズ株式会社 医療システム
JP2016225861A (ja) 2015-06-01 2016-12-28 ソニー株式会社 情報処理装置、情報処理方法、及び生体内撮像システム
JP2017070636A (ja) 2015-10-09 2017-04-13 ソニー株式会社 手術システム、並びに、手術用制御装置および手術用制御方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01185510A (ja) * 1988-01-19 1989-07-25 Toshiba Corp 内視鏡
JP3532660B2 (ja) * 1995-06-09 2004-05-31 オリンパス株式会社 体腔内観察装置
JPH0980323A (ja) * 1995-09-11 1997-03-28 Olympus Optical Co Ltd 内視鏡装置
JP2006259630A (ja) * 2005-03-18 2006-09-28 Olympus Corp 顕微鏡用画像記録装置
US20190046382A1 (en) * 2012-01-10 2019-02-14 Alessio Pigazzi Method of securing a patient onto an operating table when the patient is in a position such as the trendelenburg position and apparatus therefor including a kit
JP6563486B2 (ja) * 2015-04-16 2019-08-21 オリンパス株式会社 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム
KR20180065686A (ko) * 2016-12-08 2018-06-18 삼성전자주식회사 조리개를 포함하는 카메라 모듈 및 이를 포함하는 전자 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011104016A (ja) 2009-11-13 2011-06-02 Olympus Corp 画像処理装置、電子機器、内視鏡システム及びプログラム
JP2015093147A (ja) 2013-11-14 2015-05-18 オリンパスメディカルシステムズ株式会社 医療システム
JP2016225861A (ja) 2015-06-01 2016-12-28 ソニー株式会社 情報処理装置、情報処理方法、及び生体内撮像システム
JP2017070636A (ja) 2015-10-09 2017-04-13 ソニー株式会社 手術システム、並びに、手術用制御装置および手術用制御方法

Also Published As

Publication number Publication date
US10764506B2 (en) 2020-09-01
US20190075230A1 (en) 2019-03-07
JP2019042412A (ja) 2019-03-22

Similar Documents

Publication Publication Date Title
JP7034636B2 (ja) 医療用観察装置、および医療用観察システム
US11463629B2 (en) Medical system, medical apparatus, and control method
US11510751B2 (en) Medical observation apparatus
EP3571662B1 (en) Video signal processing apparatus, video signal processing method, and program for dynamic range compression
JP7163282B2 (ja) 医療用観察装置、処理方法、および医療用観察システム
JP6976720B2 (ja) 医療用観察装置、およびズーム制御方法
JP7392654B2 (ja) 医療用観察システム、医療用観察装置及び医療用観察方法
US11638000B2 (en) Medical observation apparatus
JP6965338B2 (ja) 医療用観察装置、制御装置、及び観察視野補正方法
CN110461205A (zh) 手术成像系统、手术用图像处理设备以及用于控制成像过程的方法
JP2024051017A (ja) 医療用観察システム、医療用観察装置及び医療用観察方法
JP2023095970A (ja) 医療用観察システム
JP7146735B2 (ja) 制御装置、外部機器、医療用観察システム、制御方法、表示方法およびプログラム
US11729493B2 (en) Image capture apparatus and image capture method
US20190154953A1 (en) Control apparatus, control system, and control method
US10778889B2 (en) Image pickup apparatus, video signal processing apparatus, and video signal processing method
JP6957605B2 (ja) 医療用観察システム、および制御方法
US11039067B2 (en) Image pickup apparatus, video signal processing apparatus, and video signal processing method
JP7073145B2 (ja) 医療用調光制御装置、および医療用調光制御装置の作動方法
JP7134656B2 (ja) 医療用表示制御装置、および表示制御方法
JP6858593B2 (ja) 医療用観察装置、および制御方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200904

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220302

R150 Certificate of patent or registration of utility model

Ref document number: 7034636

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150