JP7073618B2 - 制御装置、制御方法及び医療用システム - Google Patents

制御装置、制御方法及び医療用システム Download PDF

Info

Publication number
JP7073618B2
JP7073618B2 JP2016185146A JP2016185146A JP7073618B2 JP 7073618 B2 JP7073618 B2 JP 7073618B2 JP 2016185146 A JP2016185146 A JP 2016185146A JP 2016185146 A JP2016185146 A JP 2016185146A JP 7073618 B2 JP7073618 B2 JP 7073618B2
Authority
JP
Japan
Prior art keywords
image
camera
medical
control device
image pickup
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016185146A
Other languages
English (en)
Other versions
JP2018047088A5 (ja
JP2018047088A (ja
Inventor
康久 神川
淳 新井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Priority to JP2016185146A priority Critical patent/JP7073618B2/ja
Priority to US16/333,120 priority patent/US11419696B2/en
Priority to PCT/JP2017/029252 priority patent/WO2018055950A1/en
Priority to EP17758646.8A priority patent/EP3515351A1/en
Priority to CN201780056610.5A priority patent/CN109715106B/zh
Publication of JP2018047088A publication Critical patent/JP2018047088A/ja
Publication of JP2018047088A5 publication Critical patent/JP2018047088A5/ja
Application granted granted Critical
Publication of JP7073618B2 publication Critical patent/JP7073618B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/002Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor having rod-lens arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00216Electrical control of surgical instruments with eye tracking or head position tracking control
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2048Tracking techniques using an accelerometer or inertia sensor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2051Electromagnetic tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2059Mechanical position encoders
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/08Accessories or related features not otherwise provided for
    • A61B2090/0818Redundant systems, e.g. using two independent measuring systems and comparing the signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/30Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure
    • A61B2090/309Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure using white LEDs
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/367Correlation of different images or relation of image positions in respect to the body creating a 3D dataset from 2D images using position information
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/371Surgical systems with images on a monitor during operation with simultaneous use of two cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/373Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/376Surgical systems with images on a monitor during operation using X-rays, e.g. fluoroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/378Surgical systems with images on a monitor during operation using ultrasound
    • A61B2090/3782Surgical systems with images on a monitor during operation using ultrasound transmitter or receiver in catheter or minimal invasive instrument
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/378Surgical systems with images on a monitor during operation using ultrasound
    • A61B2090/3782Surgical systems with images on a monitor during operation using ultrasound transmitter or receiver in catheter or minimal invasive instrument
    • A61B2090/3784Surgical systems with images on a monitor during operation using ultrasound transmitter or receiver in catheter or minimal invasive instrument both receiver and transmitter being in the instrument or receiver being also transmitter
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • A61B2090/502Headgear, e.g. helmet, spectacles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • A61B90/25Supports therefor

Description

本開示は、制御装置、制御方法及び医療用システムに関する。
一般的に、手術や検査等の医療行為においては、処置内容や症例の記録のため、あるいは若手医師の教育等の目的で、医療行為に係る画像(医療画像)を保存することが行われている。ここで、医療行為の最中には、例えば内視鏡画像、X線画像及び超音波画像等、複数の異なる種類の医療画像が撮影されることが多い。しかしながら、これらの医療画像を全て保存しようとすると、例えば観察対象である病変部が鮮明に映っていないような本来不要な医療画像まで保存されてしまい、手術後に編集等の煩雑な作業が生じる可能性がある。
そこで、医療行為中に撮影される複数の医療画像をより適切に保存するための技術が開発されている。例えば、特許文献1には、医療行為中に撮影される複数の医療画像が1つの画像に合成された合成画像を保存するに際し、各医療画像を撮影した撮像装置の種類及び各医療画像を解析した結果に基づいて当該複数の医療画像を合成するための合成パターンを決定し、当該合成パターンに従って合成画像を生成、保存する技術が開示されている。特許文献1では、当該技術により、人手によらず自動的に、適切な合成画像を保存することが可能になるとしている。
特許第5347089号公報
しかし、上述したように、特許文献1に記載の技術では、医療画像を解析した結果を用いて合成画像の合成パターンが決定される(すなわち、保存する医療画像が決定される)。一般的に、画像解析には多大な演算処理が必要となるため、特許文献1に記載の技術では、合成パターンを決定し、当該合成パターンに従って合成画像を生成、保存する一連の処理を迅速に行うことは困難である。また、医療画像が鮮明でない場合には、画像解析の結果を用いて合成パターンを適切に決定することが不可能となる恐れがある。このように、特許文献1に記載の技術では、保存する医療画像を決定する処理を安定的に行うことができない可能性があった。
そこで、本開示では、医療画像をより適切に管理することが可能な、新規かつ改良された制御装置、制御方法及び医療用システムを提案する。
本開示によれば、複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、制御装置が提供される。
また、本開示によれば、複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、制御方法が提供される。
また、本開示によれば、複数の撮像装置と、
前記複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、制御装置と、を備える、医療用システムが提供される。
本開示によれば、複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する少なくとも1つの医療画像が決定される。つまり、表示又は保存する医療画像を決定する際に、画像解析の結果は用いられない。画像解析を行うことなく表示又は保存する画像を決定することができるため、上述したような画像解析の結果を用いる場合に生じ得る不具合を回避することができ、医療画像をより適切に管理することが可能になる。
以上説明したように本開示によれば、医療画像をより適切に管理することが可能になる。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
第1の実施形態に係るシステムの概略構成を示す図である。 第1の実施形態に係るシステムの概略構成を示す図である。 第1の実施形態に係るシステムの機能構成を示すブロック図である。 第1の実施形態に係る制御方法の処理手順の一例を示すフロー図である。 第2の実施形態に係るシステムの概略構成を示す図である。 第2の実施形態に係るシステムの機能構成を示すブロック図である。 第2の実施形態に係る制御方法の処理手順の一例を示すフロー図である。 第3の実施形態に係るシステムの概略構成を示す図である。 第3の実施形態に係るシステムの機能構成を示すブロック図である。 第3の実施形態に係る制御方法の処理手順の一例を示すフロー図である。 第4の実施形態に係るシステムの概略構成を示す図である。 第4の実施形態に係るシステムの機能構成を示すブロック図である。 第4の実施形態に係るシステムにおける表示装置の一表示例を示す図である。 第4の実施形態に係る制御方法の処理手順の一例を示すフロー図である。
以下に添付図面を参照しながら、本開示の好適な実施形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施形態
1-1.システムの構成
1-2.制御方法
2.第2の実施形態
2-1.システムの構成
2-2.制御方法
3.第3の実施形態
3-1.システムの構成
3-2.制御方法
4.第4の実施形態
4-1.システムの構成
4-2.制御方法
5.まとめと補足
(1.第1の実施形態)
(1-1.システムの構成)
図1-図3を参照して、本開示の第1の実施形態に係るシステムの構成について説明する。図1及び図2は、第1の実施形態に係るシステムの概略構成を示す図である。図3は、第1の実施形態に係るシステムの機能構成を示すブロック図である。図1及び図2では、術者201が手術台205上の患者203に対して手術を行っている際に、第1の実施形態に係るシステム1を用いて手術の様子が撮影されている様子を図示している。
図1-図3を参照すると、第1の実施形態に係るシステム1は、術者201の頭部に取り付けられる第1のカメラ101と、手術室の天井に設置され、手術の様子を撮影する第2のカメラ103と、手術室内に設置され、第1のカメラ101によって撮影された医療画像又は第2のカメラ103によって撮影された医療画像を表示する表示装置105と、表示装置105に表示された医療画像に対応する画像情報を保存する記憶装置107と、表示装置105に表示する医療画像及び記憶装置107に保存する画像情報を決定する制御装置109と、を備える。なお、記憶装置107及び制御装置109は、手術室内に設置されてもよいし、手術室とは離れた他の場所に設置されてもよい。ただし、手術室内を煩雑にしない観点からは、手術室以外の場所に設置されることが好ましい。なお、本明細書では、画像情報を保存することを、便宜的に、単に、画像を保存するとも記載することがある。
手術においては、処置内容や症例の記録のため、あるいは若手医師の教育等の目的で、手術中に患者203の術部に各種の処置が行われている様子を撮影することが求められることがある。システム1は、かかる目的で手術中に第1のカメラ101又は第2のカメラ103によって撮影された医療画像を管理する、医療用の画像管理システムである。
第1のカメラ101は、例えばヘッドバンドによって術者201の頭部に装着される小型カメラである。あるいは、第1のカメラ101は、ヘッドマウントディスプレイ(Head Mounted Display)や眼鏡型のウェアラブルデバイス等、術者201の頭部に装着されるデバイスに搭載されるカメラであってもよい。第1のカメラ101は、術者201の頭部に装着されることにより、当該術者201の視野に対応する医療画像を撮影し得る。以下では、第1のカメラ101のことを視野カメラ101ともいう。
第1の実施形態では、視野カメラ101に、当該視野カメラ101の姿勢を検出するための姿勢センサが設けられる。当該姿勢センサは、例えばジャイロセンサである。ただし、本実施形態はかかる例に限定されず、当該姿勢センサとしては、姿勢を検出するために用いられる各種の公知のものが用いられてよい。
視野カメラ101は、自身が撮影した医療画像(以下、視野画像ともいう)についての情報(視野画像情報)を、例えば当該医療画像のフレームレートに対応する所定の間隔で随時制御装置109に送信する。また、このとき、視野カメラ101は、当該視野画像情報とともに、当該視野カメラ101の状態を示す視野カメラ状態情報をメタデータとして当該視野画像情報に紐付けて、制御装置109に送信する。第1の実施形態では、視野カメラ状態情報には、少なくとも上記姿勢センサによって検出された視野カメラ101の姿勢についての情報が含まれる。なお、図3、並びに後述する図6、図9及び図12では、医療画像についての情報の移動を実線の矢印で示し、当該医療画像についての情報に紐付けられたメタデータの移動を破線の矢印で示している。
第2のカメラ103は、手術の様子を定点撮影する、いわゆる術野カメラである。以下では、第2のカメラ103のことを術野カメラ103ともいう。術野カメラ103は、一般的に手術室に設置されている各種の公知のものと同様の構成及び機能を有してよい。例えば、術野カメラ103には、手術の様子、特に患者203の術部の様子が適切に撮影され得るように、その露光を自動調整するAE(Auto Exposure)機能や、その焦点距離を自動調整するAF(Auto Focus)機能が搭載され得る。
術野カメラ103は、自身が撮影した医療画像(以下、術野画像ともいう)についての情報(術野画像情報)を、例えば当該医療画像のフレームレートに対応する所定の間隔で随時制御装置109に送信する。また、このとき、術野カメラ103は、当該術野画像情報とともに、術野カメラ103の状態を示す術野カメラ状態情報をメタデータとして当該術野画像情報に紐付けて、制御装置109に送信する。第1の実施形態では、術野カメラ状態情報には、少なくとも、上述したAF機能によって調整された、焦点距離についての情報が含まれる。
なお、本明細書では、視野カメラ101のように手術中にその位置及び/又は姿勢が移動可能に設けられるカメラのことを、移動カメラともいうことがある。また、術野カメラ103のようにその位置及び姿勢が固定的に設けられるカメラのことを、固定カメラともいうことがある。
表示装置105は、制御装置109からの制御により、視野カメラ101による視野画像又は術野カメラ103による術野画像を表示する。いずれの医療画像を表示するかは、制御装置109によって決定される。表示装置105としては、例えば、液晶ディスプレイ装置又はEL(Electro Luminescence)ディスプレイ装置等、各種の公知の表示装置が適用されてよい。
記憶装置107は、制御装置109からの制御により、表示装置105に表示されたものに対応する、視野カメラ101による視野画像情報又は術野カメラ103による術野画像情報を保存する。この際、記憶装置107は、これらの画像情報に紐付けられたメタデータとともにこれらの画像情報を保存する。表示装置105に表示される医療画像と同様に、いずれの画像情報を保存するかは、制御装置109によって決定される。記憶装置107としては、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等、情報を保存可能な各種の公知の装置を用いることができる。
制御装置109は、システム1における画像管理機能を統合的に制御する。具体的には、制御装置109は、その機能として、画像決定部111を有する。画像決定部111は、視野カメラ101による視野画像及び術野カメラ103による術野画像の中から、表示装置105に表示する医療画像及び記憶装置107に保存する画像情報(以下、採用する医療画像と総称する)を決定する。なお、制御装置109は、例えば、CPU(Central Processing Unit)や、DSP(Digital Signal Processor)等のプロセッサ、プロセッサとメモリ等の記憶素子が混載された制御基板、又はプロセッサが搭載されたPC(Personal Computer)等の一般的な情報処理装置等であり得る。制御装置109を構成するプロセッサが所定のプログラムに従って演算処理を実行することにより、画像決定部111の機能が実現され得る。
第1の実施形態では、画像決定部111は、視野カメラ101から送信される視野カメラ状態情報及び術野カメラ103から送信される術野カメラ状態情報の少なくともいずれかに基づいて、採用する医療画像を決定する。この際、画像決定部111は、視野画像及び術野画像のうちで、観察対象である患者203の術部が含まれる医療画像を、採用する医療画像として決定する。
ここで、システム1は、複数の撮像装置(視野カメラ101及び術野カメラ103)を備え、これら複数の撮像装置によって手術中の医療画像が撮影される。一方、第1の実施形態においてこれらの医療画像を撮影する目的は、表示装置105への表示によって手術中に術部の様子を医療スタッフによって共有すること、並びに記憶装置107への保存によって手術の記録を残すこと、及び若手医師の教育用の資料を作成すること等である。従って、これら複数の撮像装置によって撮影される医療画像は、患者203の術部の医療画像(すなわち、当該術部に対して術者201が各種の処置を行っている様子を示す医療画像)であることが好ましい。患者203の術部に対して術者201が各種の処置を行っている様子を示す医療画像が表示装置105に表示されることにより、手術室内の医療スタッフが現在の術部の状態、及び術者201の処置内容を共有することができるため、円滑な手術の実行が実現される。また、患者203の術部に対して術者201が各種の処置を行っている様子を示す医療画像が記憶装置107に保存されることにより、後日手術の様子を確認する際に、有用な記録となり得る。
しかしながら、手術中の撮像装置の状態によっては、必ずしも適切な医療画像が撮影されるとは限らない。例えば、図1に示すように術者201が略正面を向いている場合、すなわち術者201の視野に患者203の術部が含まれない場合には、視野カメラ101では当該術部は撮影されないこととなる。一方、この場合には、術野カメラ103では、当該術部が撮影されている可能性が高い。
また、例えば、図2に示すように術者201が患者203の術部を覗き込んでいる場合には、術者201の視野に当該術部が含まれることとなり、視野カメラ101によって当該術部が撮影され得る。一方、この場合には、術者201の頭部が妨げとなり、術野カメラ103では当該術部が撮影されない可能性が高い。
従って、撮影された視野画像及び術野画像を全て表示及び保存すると、患者203の術部が含まれていない不要な医療画像まで表示及び保存されることとなり、上述した目的を好適に達成することができない。そこで、第1の実施形態では、上述したように、画像決定部111が、視野画像及び術野画像のうちで、患者203の術部がより確実に映っている医療画像を、採用する医療画像として決定する処理を実行することとしている。当該処理により、手術中における患者203の術部を含む、より適切な医療画像のみが表示及び保存されることとなる。
具体的には、システム1では、視野カメラ101の状態及び術野カメラ103の状態について、採用する医療画像として決定するかどうかを判定するための条件(以下、画像決定条件ともいう)が事前に設定されている。当該画像決定条件としては、撮像画像に患者203の術部が含まれるような条件が適宜設定される。画像決定部111は、視野カメラ状態情報及び/又は術野カメラ状態情報に基づいて、この画像決定条件が満たされているかどうかを判定する。そして、画像決定部111は、視野画像及び術野画像のうちで、その視野カメラ101の状態又は術野カメラ103の状態が当該画像決定条件を満たすものに対応する医療画像を、採用する医療画像として決定する。
例えば、視野カメラ101の状態についての画像決定条件は、視野カメラ101が水平方向から所定の角度以上傾いていることであることであってよい。当該所定の角度は、術者201の視野に患者203の術部が含まれ得るような角度の範囲の境界を示す値として、術者201の身長や、術者201と患者203との位置関係等に応じて適宜設定され得る。画像決定部111は、視野カメラ状態情報に含まれる視野カメラ101の姿勢についての情報に基づいて、視野カメラ101が水平方向から当該所定の角度以上傾いているかどうかを判定し、当該所定の角度以上傾いている場合には、視野画像を採用することを決定する。
また、例えば、術野カメラ103の状態についての画像決定条件は、術野カメラ103の焦点距離が所定の範囲内であることであってよい。当該所定の範囲は、術野カメラ103の焦点が患者203の術部におおよそ合致するような範囲として適宜設定され得る。術野カメラ103と患者203との位置関係から、術野カメラ103の焦点が患者203の術部に合致している場合における当該術野カメラ103の焦点距離は既知であるため、かかる所定の範囲を事前に設定することが可能である。画像決定部111は、術野カメラ状態情報に含まれる焦点距離についての情報に基づいて、術野カメラ103の焦点距離が当該所定の範囲に含まれるかどうかを判定し、当該所定の範囲内に含まれる場合には、術野画像を採用することを決定する。
なお、視野カメラ101の状態についての画像決定条件及び術野カメラ103の状態についての画像決定条件がともに満たされている場合には、画像決定部111は、視野画像及び術野画像のうちで、より確実に患者203の術部が映っている方を適宜選択してよい。例えば、視野カメラ101及び術野カメラ103の性能や、術部の特性等に応じて、術部をより確実に撮影し得る観点から視野画像及び術野画像に予め優先順位が設定されていてよく、画像決定部111は、視野カメラ101の状態についての画像決定条件及び術野カメラ103の状態についての画像決定条件がともに満たされている場合には、当該優先順位に従って、採用する医療画像を決定してよい。あるいは、例えば、画像決定部111は、視野カメラ101の状態についての画像決定条件が満たされている度合い、及び術野カメラ103の状態についての画像決定条件が満たされている度合いを、適当な評価関数を用いて定量的に評価してよく、視野カメラ101の状態についての画像決定条件及び術野カメラ103の状態についての画像決定条件がともに満たされている場合には、その度合いが大きい方に対応する医療画像を、採用する医療画像として決定してよい。
また、逆に、視野カメラ101の状態についての画像決定条件及び術野カメラ103の状態についての画像決定条件がともに満たされていない場合には、画像決定部111は、視野画像及び術野画像のいずれの医療画像も採用しなくてよい。この場合には、視野画像及び術野画像のいずれにも患者203の術部が明りょうに映っていないと考えられるため、その医療画像を表示及び保存する意義がほぼないからである。この場合、視野カメラ101の状態についての画像決定条件及び術野カメラ103の状態についての画像決定条件がともに満たされていない間は、表示装置105には何も表示されず、記憶装置107にも何も保存されないこととなる。
画像決定部111は、採用する医療画像を決定すると、表示装置105の動作を制御し、当該表示装置105に決定した医療画像を表示させる。また、画像決定部111は、記憶装置107の動作を制御し、当該記憶装置107に決定した医療画像を保存させる。この際、画像決定部111は、決定された医療画像に紐付けられているメタデータ(すなわち、決定された医療画像が視野画像であれば視野カメラ状態情報、決定された医療画像が術野画像であれば術野カメラ状態情報)も、当該医療画像と一緒に保存させる。
以上、第1の実施形態に係るシステム1の構成について説明した。なお、図1-図3では、表示装置105、記憶装置107及び制御装置109を、それぞれ別個の装置として記載しているが、システム1の構成はかかる例に限定されない。これらの装置と同様の機能を有する1つ又は複数の装置が設けられることにより、システム1が構成されればよく、システム1の具体的な装置構成は任意に決定されてよい。例えば、これらの装置は一体的な装置として構成されてもよい。この場合、制御装置109の中に、表示装置105と同様の機能を有する表示部、及び記憶装置107と同様の機能を有する記憶部が搭載されてもよい。
ここで、特許文献1に例示するように、手術中に撮影された医療画像を管理するシステムはこれまでにも開発されている。しかしながら、上述したように、特許文献1に記載の技術は、その撮影された医療画像を解析した結果を用いて医療画像の管理を行っているため、医療画像の解析に時間を要する場合や、医療画像が鮮明でない場合等、画像解析を円滑に行えない場合には、適切な医療画像の管理を行えない恐れがある。
これに対して、第1の実施形態によれば、上述したように、画像解析の結果を用いることなく、撮像装置の状態を示す撮像装置状態情報(視野カメラ状態情報及び/又は術野カメラ状態情報)に基づいて、採用する医療画像が決定される。従って、画像解析の結果を用いる場合に発生し得る不具合を回避することができ、より適切に医療画像の管理を行うことが可能になる。これにより、得られた医療画像を手術後に編集する作業が不要になり、医療スタッフの負担が軽減する。また、有意義な医療画像のみが自動的に保存されることとなるため、記憶装置107に保存されるデータ量を削減することができ、コストを低減することができる。
なお、第1の実施形態では、システム1は、視野カメラ101を含む。当該視野カメラ101は、実際に手術を行っている術者201の視野を再現し得るものであるため、手術の様子を示す医療画像として非常に有意義な医療画像であり得る。その反面、視野カメラ101は移動カメラであるため、その撮影範囲が手術中に頻繁に変化することが想定され、固定カメラに比べて、術部を含む適切な医療画像が撮影されていない可能性が高いと言える。従って、視野カメラ101のような移動カメラを含む複数の撮像装置によって手術の様子を撮影する場合においては、その撮影された医療画像の中から採用する医療画像を適切に決定することの重要性が高い。第1の実施形態に係るシステム1によれば、上述したように、より適切に医療画像の管理を行うことが可能になるため、当該システム1は、このような、手術中に撮影される医療画像に移動カメラによる撮像画像が含まれる場合により効果を奏するものである。
また、移動カメラの特性の1つとして、その位置及び姿勢が変化し得ることが挙げられる。当該特性に起因して、上述した術部を含む適切な医療画像が必ずしも撮影されないという不具合も生じ得る。これに対して、システム1では、上述したように、移動カメラである視野カメラ101の姿勢についての情報に基づいて画像決定条件の充足が判定され、採用する医療画像が決定される。つまり、移動カメラの特性を踏まえた画像決定条件が設定され、当該画像決定条件に基づいて採用する医療画像が決定される。このように、当該特性に起因して生じる上述した不具合をより効果的に解消し得るような、適切な画像決定条件を設定することにより、移動カメラによる撮像画像を採用する医療画像として決定するかどうかをより適切に判定することが可能になる。
なお、以上の説明では、視野カメラ101の状態についての画像決定条件が視野カメラ101の姿勢に関するものであり、これに対応して、視野カメラ状態情報は少なくとも視野カメラ101の姿勢についての情報を含んでいたが、第1の実施形態はかかる例に限定されない。視野カメラ状態情報は、視野カメラ101の状態に関する他の情報を含んでもよい。例えば、視野カメラ状態情報は、視野カメラ101の位置や、加速度等についての情報を含み得る。これらの情報は、例えば、視野カメラ101に位置センサや加速度センサを搭載することによって取得され得る。この場合、例えば、視野カメラ101が患者203の術部の直上の所定の範囲に位置する等、視野カメラ101によって当該術部が撮影されていることが想定されるような条件が、画像決定条件として適宜設定され得る。
また、以上の説明では、術野カメラ103の状態についての画像決定条件が術野カメラ103の姿勢に関するものであり、これに対応して、術野カメラ状態情報は少なくとも術野カメラ103の焦点距離についての情報を含んでいたが、第1の実施形態はかかる例に限定されない。術野カメラ状態情報は、術野カメラ103の状態に関する他の情報を含んでもよい。例えば、術野カメラ状態情報は、術野カメラ103の露出値についての情報を含み得る。当該情報は、術野カメラ103に搭載されるAE機能によって調整された露出値として取得することができる。この場合には、例えば、術野カメラ103の露出値が所定の範囲内であることが、画像決定条件として設定され得る。当該所定の範囲は、例えば、術野カメラ103によって術部が適切に撮影されている場合に想定される露出値の範囲として、適宜設定される。
(1-2.制御方法)
図4を参照して、以上説明した第1の実施形態に係るシステム1の制御方法の処理手順について説明する。図4は、第1の実施形態に係る制御方法の処理手順の一例を示すフロー図である。なお、図4に示す各処理は、図1-図3に示す制御装置109によって実行される各処理に対応している。制御装置109を構成するプロセッサが所定のプログラムに従って動作することにより、図4に示す各処理が実行される。図4に示す各処理の詳細については、制御装置109の機能について説明する際に既に上述しているため、以下の第1の実施形態に係る制御方法の処理手順についての説明では、各処理の概要を述べるに留め、その詳細な説明は省略する。
図4を参照すると、第1の実施形態に係る制御方法では、まず、視野カメラ101から、視野画像情報及び視野カメラ状態情報が取得される(ステップS101)。ステップS101における処理は、図1-図3に示す視野カメラ101から制御装置109に対して、視野画像情報及び視野カメラ状態情報が送信される処理に対応している。
次に、術野カメラ103から、術野画像情報及び術野カメラ状態情報が取得される(ステップS103)。ステップS103における処理は、図1-図3に示す術野カメラ103から制御装置109に対して、術野画像情報及び術野カメラ状態情報が送信される処理に対応している。なお、図4では便宜的にステップS101における処理及びステップS103における処理が、この順に行われるように記載しているが、実際には、手術中に、ステップS101における処理及びステップS103における処理が、それぞれ所定の間隔(例えば、視野画像及び術野画像のフレームレートにそれぞれ対応する所定の間隔)で並行して実行され得る。
次に、視野カメラ状態情報及び/又は術野カメラ状態情報に基づいて、視野画像及び術野画像のうちで、採用する医療画像が決定される(ステップS105)。ステップS105における処理は、図1-図3に示す制御装置109の画像決定部111が実行する処理に対応している。
そして、決定された医療画像が、表示装置105に表示されるとともに、記憶装置107に保存される(ステップS107)。ステップS107における処理は、図1-図3に示す制御装置109の画像決定部111が表示装置105及び記憶装置107の動作をそれぞれ制御して実行させる処理に対応している。
以上、第1の実施形態に係る制御方法の処理手順について説明した。
(2.第2の実施形態)
本開示の第2の実施形態について説明する。なお、以下に説明する第2~第4の実施形態に係るシステムは、上述した第1の実施形態に係るシステム1に対して、設置される撮像装置の種類が変更されるとともに、それに応じて、画像決定部111が採用する医療画像を決定するための基準である画像決定条件が変更されたものに対応する。その他の事項は、第1の実施形態と略同様である。従って、以下の第2~第4の実施形態についての説明では、第1の実施形態と相違する事項について主に説明することとし、重複する事項についてはその詳細な説明を省略する。
(2-1.システムの構成)
図5及び図6を参照して、第2の実施形態に係るシステムの構成について説明する。図5は、第2の実施形態に係るシステムの概略構成を示す図である。図6は、第2の実施形態に係るシステムの機能構成を示すブロック図である。図5では、患者の術部209に対する手術に際し、第2の実施形態に係るシステム2を用いて当該手術の様子が撮影されている様子を図示している。
図5及び図6を参照すると、第2の実施形態に係るシステム2は、複数(図示する例では3台)の移動カメラ121と、複数の移動カメラ121の位置を検出する位置センサ123と、手術室内に設置され、複数の移動カメラ121によってそれぞれ撮影された医療画像のうちのいずれかの医療画像を表示する表示装置105と、表示装置105に表示された医療画像に対応する画像情報を保存する記憶装置107と、表示装置105に表示する医療画像及び記憶装置107に保存する画像情報を決定する制御装置109と、を備える。このように、システム2は、上述した第1の実施形態に係るシステム1において、視野カメラ101及び術野カメラ103の代わりに複数の移動カメラ121が設けられたものに対応する。
移動カメラ121は、例えば、術者の頭部、助手の頭部、及び手術に用いられる処置具(例えば鉗子等)にそれぞれ取り付けられる。術者の頭部及び助手の頭部に取り付けられる移動カメラ121は、第1の実施形態に係るシステム1における視野カメラ101と同様に、それぞれ、術者及び助手の視野を撮影する視野カメラとして機能する。処置具に取り付けられる移動カメラ121は、当該処置具が術部209に近付けられた際に、当該術部209を撮影し得る。なお、移動カメラ121が取り付けられるものはかかる例に限定されず、第2の実施形態では、移動カメラ121は、手術中に術部209に向けられ得る各種のものに取り付けられてよい。また、各移動カメラ121には、AF機能が搭載され得る。
各移動カメラ121は、自身が撮影した医療画像(以下、移動カメラ画像ともいう)についての情報(移動カメラ画像情報)を、例えば当該医療画像のフレームレートに対応する所定の間隔で随時制御装置109に送信する。また、このとき、各移動カメラ121は、移動カメラ画像情報とともに、自身の状態を示す移動カメラ状態情報をメタデータとして当該移動カメラ画像情報に紐付けて、制御装置109に送信する。第2の実施形態では、移動カメラ状態情報には、少なくとも、上述したAF機能によって調整された焦点距離についての情報が含まれる。
各移動カメラ121には位置を検出するためのマーカー125が取り付けられており、位置センサ123は、これらマーカー125の位置を検出することにより、各移動カメラの位置を検出する。例えば、位置センサ123は磁気センサであり、マーカー125は磁気マーカーである。あるいは、例えば、位置センサ123はステレオカメラ等の深さ情報を取得可能なカメラであり、位置センサ123は、撮影した画像の中からマーカー125を検出することにより、各移動カメラ121の位置を検出する。位置センサ123は、検出した各移動カメラ121の位置情報を、制御装置109に送信する。位置センサ123が当該位置情報を制御装置109に送信する間隔は、例えば移動カメラ121が移動カメラ画像情報を制御装置109に送信する間隔と同程度であってよい。なお、位置センサ123は、各移動カメラ121の3次元的な位置を検出可能なものであればよく、位置センサ123としては各種の公知のものが用いられてよい。
位置センサ123が検出した各移動カメラ121の位置情報は、各移動カメラ121の状態を示す移動カメラ状態情報の一種であると言える。このように、第2の実施形態では、移動カメラ121とは別途設けられる位置センサ123によって、移動カメラ状態情報が取得される。
第1の実施形態と同様に、制御装置109は、その機能として、画像決定部111を有する。画像決定部111は、複数の移動カメラ121による移動カメラ画像の中から、表示装置105に表示する一の医療画像及び記憶装置107に保存する一の医療画像(すなわち、採用する一の医療画像)を決定する。
画像決定部111は、移動カメラ121及び位置センサ123から送信される移動カメラ状態情報に基づいて、採用する医療画像を決定する。この際、第2の実施形態においても、第1の実施形態と同様に、画像決定部111は、複数の移動カメラ121による移動カメラ画像のうちで、観察対象である術部209が含まれる医療画像を、採用する医療画像として決定する。
具体的には、システム2では、移動カメラ121の状態について、撮像画像に術部209が含まれるような条件が、画像決定条件として事前に設定されている。画像決定部111は、移動カメラ状態情報に基づいて、この画像決定条件が満たされているかどうかを判定する。そして、画像決定部111は、複数の移動カメラ画像の中から、その移動カメラ121の状態が当該画像決定条件を満たすものに対応する医療画像を、採用する医療画像として決定する。
例えば、移動カメラ121の状態についての画像決定条件は、移動カメラ121の焦点が術部209に合っていることである。手術室内において患者の術部209の位置は既知である。制御装置109には、位置センサ123から、移動カメラ状態情報として各移動カメラ121の位置情報が送信されているため、画像決定部111は、かかる位置情報に基づいて、各移動カメラ121と術部209との位置関係をそれぞれ算出することができる。また、制御装置109には、各移動カメラ121から、移動カメラ状態情報として焦点距離についての情報が送信されている。従って、画像決定部111は、手術室内における術部209の位置と、算出した上記位置関係と、焦点距離についての情報から、各移動カメラ121の焦点が術部209に合っているかどうかを判定することができる。すなわち、各移動カメラ121の状態が上記画像決定条件を満たすかどうかを判定することができる。
判定の結果、いずれかの移動カメラ121の状態が上記術部含有条件を満たす場合には、画像決定部111は、その画像決定条件を満たす移動カメラ121によって撮影された移動カメラ画像を、採用する医療画像として決定する。例えば、図5に示す例であれば、図中、右上に位置する移動カメラ121のように、その撮影方向が術部209が存在する方向とは異なる方向を向いているものや、図中、右下に位置する移動カメラ121のように、移動カメラ121の撮影方向が術部209が存在する方向を向いているものの間に遮蔽物207(例えば、他の医療スタッフや手術に用いられる各種の器具等)が存在するものについては、その焦点が術部209に合っていない、すなわち画像決定条件を満たしていないと判定されることとなる。そして、図中、左側に位置する移動カメラ121のように、その撮影方向が術部209が存在する方向を向くとともに、当該移動カメラ121と術部209との距離と、当該移動カメラ121の焦点距離と、からその焦点が術部209に合っていると考えられるものが、画像決定条件を満たす移動カメラ121であると判定される。従って、当該移動カメラ121による移動カメラ画像が、採用する医療画像として決定される。
なお、複数の移動カメラ121の状態についての画像決定条件が同時に満たされている場合には、画像決定部111は、これらに対応する複数の移動カメラ画像の中で、より確実に術部209が映っている方を適宜選択してよい。例えば、各移動カメラ121の性能や、術部の特性等に応じて、術部をより確実に撮影し得る観点から各移動カメラ121に予め優先順位が設定されていてよく、画像決定部111は、複数の移動カメラ121の状態についての画像決定条件が同時に満たされている場合には、当該優先順位に従って、採用する医療画像を決定してよい。あるいは、例えば、画像決定部111は、各移動カメラ121の状態についての画像決定条件が満たされている度合いを、適当な評価関数を用いて定量的に評価してよく、複数の移動カメラ121の状態についての画像決定条件が同時に満たされている場合には、その度合いが大きい方に対応する医療画像を、採用する医療画像として決定してよい。
また、逆に、複数の移動カメラ121の状態についての画像決定条件がいずれも満たされていない場合には、画像決定部111は、いずれの移動カメラ画像も採用しなくてよい。この場合には、いずれの移動カメラ画像にも術部209が明りょうに映っていないと考えられるため、その医療画像を表示及び保存する意義がほぼないからである。
画像決定部111は、採用する医療画像を決定すると、表示装置105の動作を制御し、当該表示装置105に決定した医療画像を表示させる。また、画像決定部111は、記憶装置107の動作を制御し、当該記憶装置107に決定した医療画像を保存させる。この際、画像決定部111は、決定された医療画像に紐付けられているメタデータ(すなわち、決定された医療画像を撮影した移動カメラ121についての移動カメラ状態情報)も、当該医療画像と一緒に保存させる。
以上、第2の実施形態に係るシステム2の構成について説明した。なお、以上の説明では、移動カメラ状態情報は移動カメラ121の位置情報及び焦点距離についての情報を含んでいたが、第2の実施形態はかかる例に限定されない。移動カメラ状態情報は、焦点が術部209に合っているという画像決定条件の判定に寄与し得るものを含んでいればよく、必ずしもこれらの情報を含まなくてもよいし、他の各種の情報を含んでもよい。例えば、各移動カメラ121の姿勢についての情報は、各移動カメラの撮影方向を示すものであり得るため、画像決定条件の判定に寄与し得るものである。従って、各移動カメラ121に姿勢センサが搭載され、当該姿勢センサによって検出された各移動カメラ121の姿勢についての情報が、移動カメラ状態情報に含まれてもよい。
(2-2.制御方法)
図7を参照して、以上説明した第2の実施形態に係るシステム2における制御方法の処理手順について説明する。図7は、第2の実施形態に係る制御方法の処理手順の一例を示すフロー図である。なお、図7に示す各処理は、図5及び図6に示す制御装置109によって実行される各処理に対応している。制御装置109を構成するプロセッサが所定のプログラムに従って動作することにより、図7に示す各処理が実行される。図7に示す各処理の詳細については、制御装置109の機能について説明する際に既に上述しているため、以下の第2の実施形態に係る制御方法の処理手順についての説明では、各処理の概要を述べるに留め、その詳細な説明は省略する。
図7を参照すると、第2の実施形態に係る制御方法では、まず、移動カメラ121から、移動カメラ画像情報及び移動カメラ状態情報が取得される(ステップS201)。ステップS201における処理は、図5及び図6に示す各移動カメラ121から制御装置109に対して、移動カメラ画像情報及び移動カメラ状態情報が送信される処理に対応している。
次に、位置センサ123から、移動カメラ状態情報(具体的には、各移動カメラ121の位置情報)が取得される(ステップS203)。ステップS203における処理は、図5及び図6に示す位置センサ123から制御装置109に対して、移動カメラ状態情報として各移動カメラ121の位置情報が送信される処理に対応している。なお、図7では便宜的にステップS201における処理及びステップS203における処理が、この順に行われるように記載しているが、実際には、手術中に、ステップS201における処理及びステップS203における処理が、それぞれ所定の間隔(例えば、移動カメラ画像のフレームレートに対応する所定の間隔)で並行して実行され得る。
次に、移動カメラ状態情報に基づいて、複数の移動カメラ画像の中から、採用する医療画像が決定される(ステップS205)。ステップS205における処理は、図5及び図6に示す制御装置109の画像決定部111が実行する処理に対応している。
そして、決定された医療画像が、表示装置105に表示されるとともに、記憶装置107に保存される(ステップS207)。ステップS207における処理は、図5及び図6に示す制御装置109の画像決定部111が表示装置105及び記憶装置107の動作をそれぞれ制御して実行させる処理に対応している。
以上、第2の実施形態に係る制御方法の処理手順について説明した。
(3.第3の実施形態)
(3-1.システムの構成)
図8及び図9を参照して、第3の実施形態に係るシステムの構成について説明する。図8は、第3の実施形態に係るシステムの概略構成を示す図である。図9は、第3の実施形態に係るシステムの機能構成を示すブロック図である。図8では、患者の術部209に対する手術に際し、第3の実施形態に係るシステム3を用いて当該手術の様子が撮影されている様子を図示している。
図8及び図9を参照すると、第3の実施形態に係るシステム3は、患者の術部209を拡大観察するための顕微鏡装置5301と、患者の術部209の内部又は裏側を観察するための内視鏡装置5401と、手術室内に設置され、顕微鏡装置5301及び内視鏡装置5401によってそれぞれ撮影された医療画像のうちの少なくともいずれかの医療画像を表示する表示装置105と、表示装置105に表示された医療画像に対応する画像情報を保存する記憶装置107と、表示装置105に表示する医療画像及び記憶装置107に保存する画像情報を決定する制御装置109と、を備える。このように、システム3は、上述した第1の実施形態に係るシステム1において、視野カメラ101及び術野カメラ103の代わりに顕微鏡装置5301及び内視鏡装置5401が設けられたものに対応する。つまり、システム3は、顕微鏡装置5301及び内視鏡装置5401を併用する手術に対して好適に適用される。
顕微鏡装置5301は、観察対象である患者の術部209を拡大観察するための顕微鏡部5303と、顕微鏡部5303を先端で支持するアーム部5309と、アーム部5309の基端を支持するベース部5315と、顕微鏡装置5301の動作を制御する顕微鏡制御装置5317と、を有する。顕微鏡装置5301では、アーム部5309によって、当該アーム部5309の可動範囲内において、顕微鏡部5303の位置及び姿勢を任意に制御することができる。つまり、顕微鏡装置5301は、その撮像機能を有する顕微鏡部5303が移動可能に構成されるものであり、移動カメラの一種であると言える。アーム部5309によって顕微鏡部5303が支持されることにより、顕微鏡部5303の位置決めを高精度に行うことができるとともに、その位置及び姿勢を所望の状態でより確実に維持することができるため、より安定的に撮像画像を得ることが可能になる。
顕微鏡部5303は、略円筒形状の筒状部5305と、当該筒状部5305の内部に設けられる撮像部(図示せず)と、筒状部5305の外周の一部領域に設けられる操作部5307と、から構成される。顕微鏡部5303は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部(いわゆるビデオ式の顕微鏡部)である。
筒状部5305の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光(以下、観察光ともいう)は、当該カバーガラスを通過して、筒状部5305の内部の撮像部に入射する。なお、筒状部5305の内部には例えばLED(Light Emitting Diode)等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。
撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばBayer配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、RAWデータとして顕微鏡制御装置5317に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。撮像部には、その光学系を適宜駆動させることにより、焦点距離を自動で調整する機能(すなわち、AF機能)が搭載される。また、撮像部には、AE機能等、一般的に電子撮像式の顕微鏡部に備えられる各種の機能が搭載され得る。
また、撮像部は、1つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視(3D表示)に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。
操作部5307は、例えば十字レバー又はスイッチ等によって構成され、ユーザ(システム3、並びに顕微鏡装置5301及び内視鏡装置5401を使用する術者等の医療スタッフ)の操作入力を受け付ける入力手段である。例えば、ユーザは、操作部5307を介して、観察像の拡大倍率及び観察対象までの焦点距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び焦点距離が調整され得る。また、例えば、ユーザは、操作部5307を介して、アーム部5309の動作モード(後述するオールフリーモード及び固定モード)を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部5303を移動させようとする場合には、当該ユーザは筒状部5305を握るように把持した状態で当該顕微鏡部5303を移動させる様態が想定される。従って、操作部5307は、ユーザが筒状部5305を移動させている間でも操作可能なように、ユーザが筒状部5305を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
アーム部5309は、複数のリンク(第1リンク5313a~第6リンク5313f)が、複数の関節部(第1関節部5311a~第6関節部5311f)によって互いに回動可能に連結されることによって構成される。
第1関節部5311aは、略円柱形状を有し、その先端(下端)で、顕微鏡部5303の筒状部5305の上端を、当該筒状部5305の中心軸と平行な回転軸(第1軸O)まわりに回動可能に支持する。ここで、第1関節部5311aは、第1軸Oが顕微鏡部5303の撮像部の光軸と一致するように構成され得る。これにより、第1軸Oまわりに顕微鏡部5303を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
第1リンク5313aは、先端で第1関節部5311aを固定的に支持する。具体的には、第1リンク5313aは略L字形状を有する棒状の部材であり、その先端側の一辺が第1軸Oと直交する方向に延伸しつつ、当該一辺の端部が第1関節部5311aの外周の上端部に当接するように、第1関節部5311aに接続される。第1リンク5313aの略L字形状の基端側の他辺の端部に第2関節部5311bが接続される。
第2関節部5311bは、略円柱形状を有し、その先端で、第1リンク5313aの基端を、第1軸Oと直交する回転軸(第2軸O)まわりに回動可能に支持する。第2関節部5311bの基端には、第2リンク5313bの先端が固定的に接続される。
第2リンク5313bは、略L字形状を有する棒状の部材であり、その先端側の一辺が第2軸Oと直交する方向に延伸しつつ、当該一辺の端部が第2関節部5311bの基端に固定的に接続される。第2リンク5313bの略L字形状の基端側の他辺には、第3関節部5311cが接続される。
第3関節部5311cは、略円柱形状を有し、その先端で、第2リンク5313bの基端を、第1軸O及び第2軸Oと互いに直交する回転軸(第3軸O)まわりに回動可能に支持する。第3関節部5311cの基端には、第3リンク5313cの先端が固定的に接続される。第2軸O及び第3軸Oまわりに顕微鏡部5303を含む先端側の構成を回動させることにより、水平面内での顕微鏡部5303の位置を変更するように、当該顕微鏡部5303を移動させることができる。つまり、第2軸O及び第3軸Oまわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
第3リンク5313cは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第3関節部5311cの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第3リンク5313cの基端側は角柱形状を有し、その端部に第4関節部5311dが接続される。
第4関節部5311dは、略円柱形状を有し、その先端で、第3リンク5313cの基端を、第3軸Oと直交する回転軸(第4軸O)まわりに回動可能に支持する。第4関節部5311dの基端には、第4リンク5313dの先端が固定的に接続される。
第4リンク5313dは、略直線状に延伸する棒状の部材であり、第4軸Oと直交するように延伸しつつ、その先端の端部が第4関節部5311dの略円柱形状の側面に当接するように、第4関節部5311dに固定的に接続される。第4リンク5313dの基端には、第5関節部5311eが接続される。
第5関節部5311eは、略円柱形状を有し、その先端側で、第4リンク5313dの基端を、第4軸Oと平行な回転軸(第5軸O)まわりに回動可能に支持する。第5関節部5311eの基端には、第5リンク5313eの先端が固定的に接続される。第4軸O及び第5軸Oは、顕微鏡部5303を上下方向に移動させ得る回転軸である。第4軸O及び第5軸Oまわりに顕微鏡部5303を含む先端側の構成を回動させることにより、顕微鏡部5303の高さ、すなわち顕微鏡部5303と観察対象との距離を調整することができる。
第5リンク5313eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材と、が組み合わされて構成される。第5リンク5313eの第1の部材の鉛直方向に延伸する部位の上端近傍に、第5関節部5311eの基端が固定的に接続される。第5リンク5313eの第2の部材の基端(下端)には、第6関節部5311fが接続される。
第6関節部5311fは、略円柱形状を有し、その先端側で、第5リンク5313eの基端を、鉛直方向と平行な回転軸(第6軸O)まわりに回動可能に支持する。第6関節部5311fの基端には、第6リンク5313fの先端が固定的に接続される。
第6リンク5313fは鉛直方向に延伸する棒状の部材であり、その基端はベース部5315の上面に固定的に接続される。
第1関節部5311a~第6関節部5311fの回転可能範囲は、顕微鏡部5303が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部5309においては、顕微鏡部5303の動きに関して、並進3自由度及び回転3自由度の計6自由度の動きが実現され得る。このように、顕微鏡部5303の動きに関して6自由度が実現されるようにアーム部5309を構成することにより、アーム部5309の可動範囲内において顕微鏡部5303の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。
なお、図示するアーム部5309の構成はあくまで一例であり、アーム部5309を構成するリンクの数及び形状(長さ)、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部5303を自由に動かすためには、アーム部5309は6自由度を有するように構成されることが好ましいが、アーム部5309はより大きな自由度(すなわち、冗長自由度)を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部5309においては、顕微鏡部5303の位置及び姿勢が固定された状態で、アーム部5309の姿勢を変更することが可能となる。従って、例えば表示装置105を見るユーザ、特に術者の視界にアーム部5309が干渉しないように当該アーム部5309の姿勢を制御する等、当該ユーザにとってより利便性の高い制御が実現され得る。
ここで、第1関節部5311a~第6関節部5311fには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第1関節部5311a~第6関節部5311fに設けられる各アクチュエータの駆動が顕微鏡制御装置5317によって適宜制御されることにより、アーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が制御され得る。具体的には、顕微鏡制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部5309の現在の姿勢、並びに顕微鏡部5303の現在の位置及び姿勢を把握することができる。顕微鏡制御装置5317は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部5303の移動を実現するような各関節部に対する制御値(例えば、回転角度又は発生トルク等)を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、顕微鏡制御装置5317によるアーム部5309の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。
例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて顕微鏡制御装置5317によってアーム部5309の駆動が適宜制御され、顕微鏡部5303の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部5303を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属するユーザであっても、不潔域に属する機器をより自由度高く操作することが可能になる。あるいは、アーム部5309は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5309は、手術室から離れた場所に設置される入力装置を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部5309が移動するように第1関節部5311a~第6関節部5311fのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部5303を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部5303を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部5303を移動させることが可能となり、ユーザの利便性を向上させることができる。
また、アーム部5309は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部5303の光軸が空間上の所定の点(以下、ピボット点という)を常に向くように、顕微鏡部5303を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部5303が、その焦点距離が固定された状態で用いられる場合には、顕微鏡部5303とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部5303とピボット点との距離を、顕微鏡部5303の固定的な焦点距離に調整しておけばよい。これにより、顕微鏡部5303は、ピボット点を中心とする焦点距離に対応する半径を有する半球面上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部5303が、その焦点距離を適宜変更しながら用いられる場合には、顕微鏡部5303とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、顕微鏡部5303に設けられるAF機能を用いて、ピボット動作によって顕微鏡部5303とピボット点との距離が変化するごとに、当該AF機能によって自動で焦点距離の調整が行われる。あるいは、顕微鏡制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部5303とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部5303の焦点距離を自動で調整してもよい。
また、第1関節部5311a~第6関節部5311fには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、顕微鏡制御装置5317によって制御され得る。例えば、顕微鏡部5303の位置及び姿勢を固定したい場合には、顕微鏡制御装置5317は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部5303の位置及び姿勢を移動したい場合には、顕微鏡制御装置5317は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
このようなブレーキの動作は、上述した操作部5307を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部5303の位置及び姿勢を移動したい場合には、操作部5307を操作し、各関節部のブレーキを解除させる。これにより、アーム部5309の動作モードが、各関節部における回転を自由に行えるモード(オールフリーモード)に移行する。また、ユーザは、顕微鏡部5303の位置及び姿勢を固定したい場合には、操作部5307を操作し、各関節部のブレーキを作動させる。これにより、アーム部5309の動作モードが、各関節部における回転が拘束されたモード(固定モード)に移行する。
顕微鏡制御装置5317は、顕微鏡装置5301の動作を制御する。例えば、顕微鏡制御装置5317は、所定の制御方式に従って第1関節部5311a~第6関節部5311fのアクチュエータを動作させることにより、アーム部5309の駆動を制御する。また、例えば、顕微鏡制御装置5317は、第1関節部5311a~第6関節部5311fのブレーキの動作を制御することにより、アーム部5309の動作モードを変更する。また、例えば、顕微鏡制御装置5317は、顕微鏡部5303の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成する。すなわち、顕微鏡制御装置5317は、CCU(Camera Control Unit)の機能を有する。当該信号処理では、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)及び/又は拡大処理(すなわち、電子ズーム処理)等、各種の公知の信号処理が行われてよい。
なお、顕微鏡制御装置5317と顕微鏡部5303との通信、及び顕微鏡制御装置5317と第1関節部5311a~第6関節部5311fとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。
顕微鏡制御装置5317は、生成した表示用の画像データ、すなわち顕微鏡部5303によって撮影された医療画像(以下、顕微鏡画像ともいう)についての情報(顕微鏡画像情報)を、例えば当該医療画像のフレームレートに対応する所定の間隔で随時制御装置109に送信する。また、このとき、顕微鏡制御装置5317は、顕微鏡画像情報とともに、顕微鏡装置5301の状態(より詳細には顕微鏡部5303の状態)を示す顕微鏡装置状態情報をメタデータとして当該顕微鏡画像情報に紐付けて、制御装置109に送信する。第3の実施形態では、顕微鏡装置状態情報には、少なくとも、アーム部5309の動作の制御のために得られる顕微鏡部5303の現在の位置及び姿勢についての情報、及びAF機能によって調整された顕微鏡部5303の焦点距離についての情報が含まれる。
顕微鏡制御装置5317は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載された制御基板等であり得る。顕微鏡制御装置5317のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、顕微鏡制御装置5317は、顕微鏡装置5301の本体(顕微鏡部5303、アーム部5309及びベース部5315)とは別個の装置として設けられているが、顕微鏡制御装置5317は、例えば顕微鏡装置5301のベース部5315の内部に設置される等、顕微鏡装置5301と一体的に構成されてもよい。あるいは、顕微鏡制御装置5317は、複数の装置によって構成されてもよい。例えば、顕微鏡部5303や、アーム部5309の第1関節部5311a~第6関節部5311fにそれぞれ制御基板等が配設され、これらが互いに通信可能に接続されることにより、顕微鏡制御装置5317と同様の機能が実現されてもよい。
内視鏡装置5401は、観察対象である患者の術部209を観察するための内視鏡5403と、内視鏡5403を先端で支持するアーム部5309と、アーム部5309の基端を支持するベース部5315と、内視鏡装置5401の動作を制御する内視鏡制御装置5417と、を有する。内視鏡装置5401では、アーム部5309によって、当該アーム部5309の可動範囲内において、内視鏡5403の位置及び姿勢を任意に制御することができる。つまり、内視鏡装置5401は、その撮像機能を有する内視鏡5403が移動可能に構成されるものであり、移動カメラの一種であると言える。このように、アーム部5309によって内視鏡5403が支持されることにより、内視鏡5403の位置決めを高精度に行うことができるとともに、その位置及び姿勢を所望の状態でより確実に維持することができるため、より安定的に撮像画像を得ることが可能になる。
内視鏡装置5401は、顕微鏡装置5301において、顕微鏡部5303の代わりに内視鏡5403がアーム部5309によって支持されるとともに、顕微鏡制御装置5317が内視鏡制御装置5417に置換されたものに対応する。ただし、内視鏡制御装置5417の機能は、画像処理を行う対象が内視鏡5403によって取得された画像信号に代わるだけであり、例えばアーム部5309の動作の制御に係る機能等、その他の機能は顕微鏡制御装置5317と同様である。このように、アーム部5309の構成や、内視鏡制御装置5417の機能の多くは、顕微鏡装置5301と同様であるため、ここでは重複する事項についてはその説明を省略する。
内視鏡5403は、先端から所定の長さの領域が患者の体腔内に挿入される鏡筒5405と、鏡筒5405の基端に接続されるカメラヘッド5407と、から構成される。図示する例では、硬性の鏡筒5405を有するいわゆる硬性鏡として構成される内視鏡5403を図示しているが、内視鏡5403は、軟性の鏡筒5405を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5405の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5403には光源装置(図示せず)が接続されており、当該光源装置によって生成された光が、鏡筒5405の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者の体腔内の観察対象である術部209に向かって照射される。なお、内視鏡5403は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5407の内部には光学系及び撮像素子からなる撮像部が設けられており、観察対象からの反射光(観察光)は、鏡筒5405内を導光された後、当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとして内視鏡制御装置5417に送信される。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。撮像部には、その光学系を適宜駆動させることにより、焦点距離を自動で調整する機能(すなわち、AF機能)が搭載される。また、撮像部には、AE機能等、一般的に内視鏡に備えられる各種の機能が搭載され得る。
また、例えば立体視(3D表示)等に対応するために、カメラヘッド5407には撮像素子が複数設けられてもよい。この場合、鏡筒5405の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
内視鏡制御装置5417は、内視鏡装置5401の動作を制御する。具体的には、内視鏡制御装置5417は、顕微鏡装置5301と同様に、所定の制御方式に従ってアーム部5309の駆動を制御する。また、内視鏡制御装置5417は、アーム部5309の動作モードを変更する。また、内視鏡制御装置5417は、内視鏡5403のカメラヘッド5407の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成する。すなわち、内視鏡制御装置5417は、CCUの機能を有する。当該信号処理では、顕微鏡制御装置5317と同様に、各種の公知の信号処理が行われ得る。
内視鏡制御装置5417は、生成した表示用の画像データ、すなわち内視鏡5403によって撮影された医療画像(以下、内視鏡画像ともいう)についての情報(内視鏡画像情報)を、例えば当該医療画像のフレームレートに対応する所定の間隔で随時制御装置109に送信する。また、このとき、内視鏡制御装置5417は、内視鏡画像情報とともに、内視鏡装置5401の状態(より詳細には内視鏡5403の状態)を示す内視鏡装置状態情報をメタデータとして当該内視鏡装置画像情報に紐付けて、制御装置109に送信する。第3の実施形態では、内視鏡装置状態情報には、少なくとも、アーム部5309の制御のために得られる内視鏡5403の現在の位置及び姿勢についての情報、及びAF機能によって調整された内視鏡5403の焦点距離についての情報が含まれる。
なお、内視鏡制御装置5417は、CPU、GPU等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載された制御基板等であり得る。内視鏡制御装置5417のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。内視鏡制御装置5417の具体的な装置構成は、顕微鏡制御装置5317と同様であってよい。
第1の実施形態と同様に、制御装置109は、その機能として、画像決定部111を有する。画像決定部111は、顕微鏡装置5301及び内視鏡装置5401によってそれぞれ撮影された医療画像の中から、表示装置105に表示する医療画像及び記憶装置107に保存する医療画像(すなわち、採用する医療画像)を決定する。
画像決定部111は、顕微鏡装置5301及び内視鏡装置5401からそれぞれ送信される顕微鏡装置状態情報及び内視鏡装置状態情報に基づいて、採用する医療画像を決定する。この際、第3の実施形態においても、第1の実施形態と同様に、画像決定部111は、顕微鏡装置5301による顕微鏡画像及び内視鏡装置5401による内視鏡画像のうちで、観察対象である術部209が含まれる医療画像を、採用する医療画像として決定する。
具体的には、システム3では、顕微鏡装置5301及び内視鏡装置5401の状態について、それぞれ、その撮像画像に術部209が含まれるような条件が、画像決定条件として事前に設定されている。画像決定部111は、顕微鏡装置状態情報及び内視鏡装置状態情報に基づいて、顕微鏡装置5301及び内視鏡装置5401の状態について、それぞれ、この画像決定条件が満たされているかどうかを判定する。そして、画像決定部111は、顕微鏡画像及び内視鏡画像の中から、顕微鏡装置5301の状態及び内視鏡装置5401の状態が当該画像決定条件を満たすものに対応する医療画像を、採用する医療画像として決定する。
例えば、顕微鏡装置5301の状態についての画像決定条件は、顕微鏡装置5301の顕微鏡部5303の焦点が術部209に合っていることである。手術室内において患者の術部209の位置は既知である。制御装置109には、顕微鏡制御装置5317から、顕微鏡状態情報として、顕微鏡部5303の位置及び姿勢についての情報が送信されているため、画像決定部111は、当該情報に基づいて、顕微鏡部5303と術部209との位置関係を算出することができる。また、制御装置109には、顕微鏡制御装置5317から、顕微鏡状態情報として、顕微鏡部5303の焦点距離についての情報が送信されている。従って、画像決定部111は、手術室内における術部209の位置と、算出した上記位置関係と、焦点距離についての情報から、顕微鏡部5303の焦点が術部209に合っているかどうかを判定することができる。すなわち、顕微鏡装置5301の状態が上記画像決定条件を満たすかどうかを判定することができる。
内視鏡装置5401についても同様である。手術室内において患者の術部209の位置は既知であり、また、制御装置109には、内視鏡制御装置5417から、内視鏡状態情報として、内視鏡5403の位置及び姿勢についての情報が送信されているため、画像決定部111は、当該情報に基づいて、内視鏡5403と術部209との位置関係を算出することができる。また、制御装置109には、内視鏡制御装置5417から、内視鏡状態情報として、内視鏡5403の焦点距離についての情報が送信されている。従って、画像決定部111は、手術室内における術部209の位置と、算出した上記位置関係と、焦点距離についての情報から、内視鏡5403の焦点が術部209に合っているかどうかを判定することができる。すなわち、内視鏡装置5401の状態が上記画像決定条件を満たすかどうかを判定することができる。
判定の結果、顕微鏡装置5301の状態及び内視鏡装置5401の状態の少なくともいずれかが上記画像決定条件を満たす場合には、画像決定部111は、顕微鏡装置5301の状態及び内視鏡装置5401のうちで当該画像決定条件を満たすものによって撮影された医療画像を、採用する医療画像として決定する。
ここで、第1及び第2の実施形態では、複数の撮像装置(第1の実施形態であれば視野カメラ101及び術野カメラ103、第2の実施形態であれば複数の移動カメラ121)によってそれぞれ撮影された医療画像について、その中のいずれか1つの医療画像が、採用する医療画像として決定されていた。しかし、第3の実施形態では、画像決定条件を満たしていれば、複数の医療画像が採用され得る。つまり、第3の実施形態では、画像決定部111は、顕微鏡装置5301の状態が画像決定条件を満たし、内視鏡装置5401の状態が画像決定条件を満たさない場合には、採用する医療画像として、顕微鏡画像を決定する。また、画像決定部111は、顕微鏡装置5301の状態が画像決定条件を満たさず、内視鏡装置5401の状態が画像決定条件を満たす場合には、採用する医療画像として、内視鏡画像を決定する。また、画像決定部111は、顕微鏡装置5301の状態及び内視鏡装置5401の状態がともに画像決定条件を満たす場合には、採用する医療画像として、顕微鏡画像及び内視鏡画像をともに決定する。
なお、顕微鏡装置5301の状態についての画像決定条件及び内視鏡装置5401の状態についての画像決定条件がともに満たされていない場合には、画像決定部111は、顕微鏡画像及び内視鏡画像のいずれの医療画像も採用しなくてよい。この場合には、顕微鏡画像及び内視鏡画像のいずれにも術部209が明りょうに映っていないと考えられるため、その医療画像を表示及び保存する意義がほぼないからである。
画像決定部111は、採用する医療画像を決定すると、表示装置105の動作を制御し、当該表示装置105に決定した医療画像を表示させる。また、画像決定部111は、記憶装置107の動作を制御し、当該記憶装置107に決定した医療画像を保存させる。この際、画像決定部111は、決定された医療画像に紐付けられているメタデータ(すなわち、決定された医療画像が顕微鏡画像であれば顕微鏡装置状態情報、決定された医療画像が内視鏡画像であれば内視鏡装置状態情報)も、当該医療画像と一緒に保存させる。
両方の医療画像が採用された場合には、表示装置105には、顕微鏡画像及び内視鏡画像がともに表示される。例えば、表示装置105の表示面が2つの領域に分割され、その2つの領域に顕微鏡画像及び内視鏡画像がそれぞれ表示され得る。あるいは、表示装置105が複数設けられてもよく、各表示装置105に顕微鏡画像及び内視鏡画像がそれぞれ表示されてもよい。
ここで、システム3のように、顕微鏡装置5301及び内視鏡装置5401をともに用いる手術においては、例えば顕微鏡画像によって術部209の表面を観察し、内視鏡画像によって術部209の内部又は裏面等を観察しながら、手術を行う形態が考えられる。このように、顕微鏡画像及び内視鏡画像については、その用途及び目的が異なるため、その両方が表示、保存されることに意義がある。しかし、術部209が含まれない医療画像や、術部209が不鮮明な医療画像まで表示、保存されても意味がない。従って、第3の実施形態では、いずれか一方のみが画像決定条件を満たす場合にはその画像決定条件を満たす方に対応する医療画像のみを表示、保存し、両方が画像決定条件を満たす場合には両方の医療画像を表示、保存する。これにより、より適切な医療画像の管理が可能になる。
以上、第3の実施形態に係るシステム3の構成について説明した。なお、以上の説明では、顕微鏡装置状態情報は顕微鏡部5303の現在の位置及び姿勢についての情報、及び顕微鏡部5303の焦点距離についての情報を含んでおり、内視鏡装置状態情報は内視鏡5403の現在の位置及び姿勢についての情報、及び内視鏡5403の焦点距離についての情報を含んでいたが、第3の実施形態はかかる例に限定されない。顕微鏡装置状態情報及び内視鏡装置状態情報は、焦点が術部209に合っているという画像決定条件の判定に寄与し得るものを含んでいればよく、必ずしもこれらの情報を含まなくてもよいし、他の各種の情報を含んでもよい。
(3-2.制御方法)
図10を参照して、以上説明した第3の実施形態に係るシステム3における制御方法の処理手順について説明する。図10は、第3の実施形態に係る制御方法の処理手順の一例を示すフロー図である。なお、図10に示す各処理は、図8及び図9に示す制御装置109によって実行される各処理に対応している。制御装置109を構成するプロセッサが所定のプログラムに従って動作することにより、図10に示す各処理が実行される。図10に示す各処理の詳細については、制御装置109の機能について説明する際に既に上述しているため、以下の第3の実施形態に係る制御方法の処理手順についての説明では、各処理の概要を述べるに留め、その詳細な説明は省略する。
図10を参照すると、第3の実施形態に係る制御方法では、まず、顕微鏡装置5301から、顕微鏡画像情報及び顕微鏡装置状態情報が取得される(ステップS301)。ステップS301における処理は、図8及び図9に示す顕微鏡装置5301から制御装置109に対して、顕微鏡画像情報及び顕微鏡装置状態情報が送信される処理に対応している。
次に、内視鏡装置5401から、内視鏡画像情報及び内視鏡装置状態情報が取得される(ステップS303)。ステップS303における処理は、図8及び図9に示す内視鏡装置5401から制御装置109に対して、内視鏡画像情報及び内視鏡装置状態情報が送信される処理に対応している。なお、図10では便宜的にステップS301における処理及びステップS303における処理が、この順に行われるように記載しているが、実際には、手術中に、ステップS301における処理及びステップS303における処理が、それぞれ所定の間隔(例えば、顕微鏡画像及び内視鏡画像のフレームレートにそれぞれ対応する所定の間隔)で並行して実行され得る。
次に、顕微鏡装置状態情報及び内視鏡装置状態情報に基づいて、顕微鏡画像及び内視鏡画像の中から、採用する医療画像が決定される(ステップS305)。ステップS305における処理は、図8及び図9に示す制御装置109の画像決定部111が実行する処理に対応している。この際、第3の実施形態では、顕微鏡画像及び内視鏡画像のいずれか一方が採用されることもあるし、顕微鏡画像及び内視鏡画像の両方が採用されることもある。
そして、決定された医療画像が、表示装置105に表示されるとともに、記憶装置107に保存される(ステップS307)。ステップS307における処理は、図8及び図9に示す制御装置109の画像決定部111が表示装置105及び記憶装置107の動作をそれぞれ制御して実行させる処理に対応している。
以上、第3の実施形態に係る制御方法の処理手順について説明した。
(4.第4の実施形態)
(4-1.システムの構成)
図11及び図12を参照して、第4の実施形態に係るシステムの構成について説明する。図11は、第4の実施形態に係るシステムの概略構成を示す図である。図12は、第4の実施形態に係るシステムの機能構成を示すブロック図である。図11では、手術台205上の患者203に対する手術に際し、第4の実施形態に係るシステム4を用いて当該手術の様子が撮影されている様子を図示している。
図11及び図12を参照すると、第4の実施形態に係るシステム4は、手術中に患者203のX線断層画像を撮影するX線画像撮影装置131と、患者203の血管内の超音波画像を撮影する超音波画像撮影装置133と、手術室内に設置され、超音波画像撮影装置133によって撮影された血管内画像とともに、X線画像撮影装置131によって撮影された患者203の身体の互いに異なる場所を映した複数のX線断層画像のうちのいずれか1つを表示する表示装置105と、表示装置105に表示された医療画像に対応する画像情報を保存する記憶装置107と、表示装置105に表示するX線断層画像及び記憶装置107に保存するX線断層画像を決定する制御装置109と、を備える。このように、システム4は、上述した第1の実施形態に係るシステム1において、視野カメラ101及び術野カメラ103の代わりにX線画像撮影装置131及び超音波画像撮影装置133が設けられたものに対応する。つまり、システム4は、X線画像撮影装置131及び超音波画像撮影装置133を併用する手術に対して好適に適用される。
X線画像撮影装置131は、Cアームを備え、当該Cアームが手術台205の長手方向(すなわち、患者203の身長方向)に移動しながら、当該患者203のX線断層画像を撮影する。このように、X線画像撮影装置131は、その撮像機能を有するCアームを移動させながら撮影を行うものであり、移動カメラの一種であると言える。図11では、簡単のため、X線画像撮影装置131としてCアームのみを図示しているが、X線画像撮影装置131は、一般的なCアームを有するX線画像撮影装置と同様の構成を有し得る。X線画像撮影装置131の具体的な構成は、一般的なCアームを有するX線画像撮影装置と同様であってよいため、ここではその詳細な説明を省略する。
X線画像撮影装置131は、撮影したX線断層画像についての情報(X線断層画像情報)を、例えば当該X線断層画像のフレームレートに対応する所定の間隔で制御装置109に送信する。つまり、X線画像撮影装置131によって、患者203の身体の互いに異なる場所を映した複数のX線断層画像が撮影され、かかる複数のX線断層画像についての情報が随時制御装置109に送信される。また、このとき、X線画像撮影装置131は、X線断層画像情報とともに、X線画像撮影装置131の状態を示すX線画像撮影装置状態情報をメタデータとして当該X線断層画像情報に紐付けて、制御装置109に送信する。第4の実施形態では、X線画像撮影装置状態情報には、少なくとも、患者203に対するCアームの位置についての情報が含まれる。
超音波画像撮影装置133は、超音波送受信装置が先端に搭載されたカテーテル135を有し、当該超音波送受信装置で超音波の送受信を行いながら、当該カテーテル135を患者203の血管内で移動させることにより、患者203の血管内の超音波画像を撮影する。超音波画像撮影装置133は、いわゆるIVUS(intravascular ultrasound)画像を得るための装置である。超音波画像撮影装置133によれば、血管の断面の超音波画像を得ることができる。図11では、簡単のため、超音波画像撮影装置133を簡略化して図示しているが、超音波画像撮影装置133は、一般的なIVUS画像を撮影可能な超音波画像撮影装置と同様の構成を有し得る。超音波画像撮影装置133の具体的な構成は、一般的なIVUS画像を撮影可能な超音波画像撮影装置と同様であってよいため、ここではその詳細な説明を省略する。
超音波画像撮影装置133は、撮影した超音波画像についての情報(超音波画像情報)を、例えば当該超音波画像のフレームレートに対応する所定の間隔で制御装置109に送信する。つまり、超音波画像撮影装置133によって、患者203の血管内の互いに異なる場所を映した複数の超音波画像が撮影され、かかる複数の超音波画像についての情報が随時制御装置109に送信される。また、このとき、超音波画像撮影装置133は、超音波画像情報とともに、超音波画像撮影装置133の状態を示す超音波画像撮影装置状態情報をメタデータとして当該超音波画像情報に紐付けて、制御装置109に送信する。第4の実施形態では、超音波画像撮影装置状態情報には、少なくとも、患者203の血管内におけるカテーテル135の先端の位置についての情報が含まれる。かかるカテーテル135の先端の位置は、例えば、カテーテル135の先端にマーカーを取り付け、各種の公知の位置センサ等によって当該マーカーを体外から検出することによって実現され得る。
第1の実施形態と同様に、制御装置109は、その機能として、画像決定部111を有する。画像決定部111は、X線画像撮影装置131から送信されるX線画像撮影装置状態情報及び超音波画像撮影装置133から送信される超音波画像撮影装置状態情報に基づいて、表示装置105に表示する医療画像及び記憶装置107に保存する医療画像(すなわち、採用する医療画像)を決定する。
ここで、以上説明した第1~第3の実施形態では、画像決定部111は、複数の撮像装置によってそれぞれ撮影された医療画像の中から、採用する医療画像を決定していた。しかし、第4の実施形態では、画像決定部111は、超音波画像撮影装置133によって撮影された超音波画像については、その最新のものを常に採用することを決定する。そして、画像決定部111は、X線画像撮影装置131によって撮影されたX線断層画像については、X線画像撮影装置状態情報及び超音波画像撮影装置状態情報に基づいて、患者203の身体の互いに異なる場所を映した複数のX線断層画像のうちのいずれか1つを、採用する医療画像として決定する。この際、画像決定部111は、複数のX線断層画像の中で、超音波画像撮影装置133によって撮影された超音波画像に映し出されている血管の位置に対応するX線断層画像を、採用する医療画像として決定する。
具体的には、システム4では、X線画像撮影装置131の状態について、画像決定条件が事前に設定されている。画像決定部111は、X線画像撮影装置状態情報及び超音波画像撮影装置状態情報に基づいて、この画像決定条件が満たされているかどうかを判定する。そして、画像決定部111は、複数のX線断層画像の中から、当該画像決定条件を満たすものに対応するX線断層画像を、採用する医療画像として決定する。
システム4では、画像決定条件は、X線断層画像に、観察対象である超音波画像撮影装置133によって超音波画像が撮影されている部位が含まれることである。上述したように、超音波画像撮影装置133では、カテーテル135の先端に設けられる超音波送受信装置によって血管内の超音波画像が得られる。つまり、超音波画像撮影装置133によって超音波画像が撮影されている部位は、カテーテル135の先端が位置している部位である。一方、X線画像撮影装置131では、CアームによってX線断層画像が得られる。つまり、X線画像撮影装置131によってX線断層画像が撮影されている部位は、Cアームが位置している部位である。つまり、Cアームの位置が、カテーテル135の先端の位置に対応している場合に、上記画像決定条件が満たされているとみなすことができる。従って、画像決定部111は、X線画像撮影装置状態情報に含まれるCアームの位置情報、及び超音波画像撮影装置状態情報に含まれるカテーテル135の先端の位置情報に基づいて、X線画像撮影装置131の状態が上記画像決定条件を満たすかどうかを判定することができる。そして、画像決定部111は、その判定結果に基づいて、X線画像撮影装置131によって撮影された患者203の身体の互いに異なる部位に対応する複数のX線断層画像の中から、超音波画像撮影装置133によって超音波画像が撮影されている部位を含む断面を撮影しているものを、採用する医療画像として決定することができる。
画像決定部111は、採用するX線画像を決定すると、表示装置105の動作を制御し、当該表示装置105に、決定した超音波画像、及び当該超音波画像に対応する決定したX線断層画像を表示させる。また、画像決定部111は、記憶装置107の動作を制御し、当該記憶装置107に、決定した超音波画像、及び当該超音波画像に対応する決定したX線断層画像を保存させる。この際、画像決定部111は、決定された医療画像に紐付けられているメタデータ(すなわち、決定されたX線断層画像に紐付けられているX線画像撮影装置状態情報、及び決定された超音波画像に紐付けられている超音波画像撮影装置状態情報)も、当該医療画像と一緒に保存させる。
図13は、第4の実施形態に係るシステム4における表示装置105の一表示例を示す図である。図13に示すように、第4の実施形態では、表示装置105の表示画面211に、X線断層画像213及び超音波画像215がともに表示される。上述した画像決定部111による決定処理により、当該X線断層画像213及び当該超音波画像215としては、患者203の身体の互いに対応する部位を撮影したものが表示されている。このとき、画像決定部111は、図示するように、当該X線断層画像213について、超音波画像215に対応する部位を示すアイコン217を重畳して表示させてよい。これにより、術者201は、超音波画像が撮影されている部位を直感的に把握することが可能になる。画像決定部111は、上述した決定処理において、X線画像撮影装置状態情報及び超音波画像撮影装置状態情報に基づいて、X線断層画像が撮影されている部位、及び超音波画像が撮影されている部位を特定しているため、かかる決定処理の結果に基づいて、当該アイコン217を表示させることができる。
ここで、いわゆるIVUS画像を得るための超音波画像撮影装置133においては、カテーテル135の先端の位置を正確に把握するための技術が十分に確立されておらず、撮影されている超音波画像がどの部位の血管を撮影したものであるかをより正確に把握したいという要望があった。かかる要望に対して、第4の実施形態では、上述したように、超音波画像撮影装置133に対してX線画像撮影装置131を組み合わせるとともに、これらの装置によって得られる超音波画像及びX線断層画像を対応付け、超音波画像が撮影されている身体の部位をX線断層画像上で示すことができる。従って、かかる要望を実現することができ、より円滑な手術の実行が実現され得る。
以上、第4の実施形態に係るシステム4の構成について説明した。なお、以上の説明では、X線画像撮影装置状態情報は患者203に対するCアームの位置についての情報を含んでおり、超音波画像撮影装置状態情報は患者203の血管内におけるカテーテル135の先端の位置についての情報を含んでいたが、第4の実施形態はかかる例に限定されない。X線画像撮影装置状態情報及び超音波画像撮影装置状態情報は、X線断層画像が、超音波画像撮影装置133によって超音波画像が撮影されている部位を撮影したものであるという画像決定条件の判定に寄与し得るものを含んでいればよく、必ずしもこれらの情報を含まなくてもよいし、他の各種の情報を含んでもよい。
(4-2.制御方法)
図14を参照して、以上説明した第4の実施形態に係るシステム4における制御方法の処理手順について説明する。図14は、第4の実施形態に係る制御方法の処理手順の一例を示すフロー図である。なお、図14に示す各処理は、図11及び図12に示す制御装置109によって実行される各処理に対応している。制御装置109を構成するプロセッサが所定のプログラムに従って動作することにより、図14に示す各処理が実行される。図14に示す各処理の詳細については、制御装置109の機能について説明する際に既に上述しているため、以下の第4の実施形態に係る制御方法の処理手順についての説明では、各処理の概要を述べるに留め、その詳細な説明は省略する。
図14を参照すると、第4の実施形態に係る制御方法では、まず、X線画像撮影装置131から、X線断層画像情報及びX線画像撮影装置状態情報が取得される(ステップS401)。ステップS401における処理は、図11及び図12に示すX線画像撮影装置131から制御装置109に対して、X線断層画像情報及びX線画像撮影装置状態情報が送信される処理に対応している。
次に、超音波画像撮影装置133から、超音波画像情報及び超音波画像撮影装置状態情報が取得される(ステップS403)。ステップS403における処理は、図11及び図12に示す超音波画像撮影装置133から制御装置109に対して、超音波画像情報及び超音波画像撮影装置状態情報が送信される処理に対応している。なお、図14では便宜的にステップS401における処理及びステップS403における処理が、この順に行われるように記載しているが、実際には、手術中に、ステップS401における処理及びステップS403における処理が、それぞれ所定の間隔(例えば、X線断層画像及び超音波画像のフレームレートにそれぞれ対応する所定の間隔)で並行して実行され得る。
次に、超音波画像が採用する医療画像として決定される(ステップS405)。次いで、X線画像撮影装置状態情報及び超音波画像撮影装置状態情報に基づいて、患者203の身体の互いに異なる部位を映した複数のX線断層画像の中から、採用する医療画像が決定される(ステップS407)。ステップS405における処理及びステップS407における処理は、図11及び図12に示す制御装置109の画像決定部111が実行する処理に対応している。このように、第4の実施形態では、超音波画像についてはその最新のものが常に採用する医療画像として決定され、X線断層画像については、複数のX線断層画像の中から一のX線断層画像が採用する医療画像として決定される。
そして、決定された医療画像が、表示装置105に表示されるとともに、記憶装置107に保存される(ステップS409)。ステップS409における処理は、図11及び図12に示す制御装置109の画像決定部111が表示装置105及び記憶装置107の動作をそれぞれ制御して実行させる処理に対応している。
以上、第4の実施形態に係る制御方法の処理手順について説明した。
(5.まとめと補足)
以上説明したように、第2~第4の実施形態によれば、第1の実施形態と同様に、画像解析の結果を用いることなく採用する医療画像が決定されるため、より適切に医療画像の管理を行うことが可能になる。従って、医療画像の編集作業を不要にすることができるとともに、記憶装置107に保存されるデータ量の削減を実現することができる。また、第2~第4の実施形態では、複数の移動カメラによって撮影された医療画像を、これら複数の移動カメラの位置情報及び/又は姿勢情報に基づいて、適切に管理することが可能になる。第1の実施形態について説明する際に上述したように、移動カメラの医療画像は、手術の様子を示す医療画像として有意義な画像であり得るため、第2~第4の実施形態によれば、かかるより有意義な医療画像をより適切に管理することが可能になるというメリットを享受することができる。
なお、上述した第1~第4の実施形態に記載した各事項は、可能な範囲において互いに組み合わされてよい。例えば、上述した各種の撮像装置のうちの任意のものが組み合わされて、システムが構成されてもよい。例えば、複数の移動カメラ(視野カメラを含む)と術野カメラと、を備えるようにシステムが構成されてもよい。この場合には、これらの撮像装置の撮像装置状態情報に基づいて、適宜設定される画像決定条件を満たすように、これらの撮像装置によって撮影された医療画像の中から、採用する医療画像が決定されもよい。また、第1~第4の実施形態は、以下のように構成されてもよい。
例えば、以上説明したシステム1~4では、撮影された医療画像の表示及び保存をともに行っていたが、第1~第4の実施形態はかかる例に限定されない。システム1~4には、表示装置105及び記憶装置107のうちのいずれか一方のみが設けられてもよく、画像決定部111は、表示装置105に表示する医療画像及び記憶装置107に保存する医療画像のいずれか一方のみを決定してもよい。表示装置105及び記憶装置107のどちらを設けるかは、医療画像を管理する目的に応じて適宜決定されてよい。例えば、手術中における情報の共有が主な目的であれば、システム1~4には表示装置105のみが設けられてよい。一方、教育や研究等の目的で手術の様子を記録することが主な目的であれば、システム1~4には記憶装置107のみが設けられてよい。
また、以上説明したシステム1~4では、採用する医療画像を決定する際に撮像画像を解析した結果は用いられていなかったが、第1~第4の実施形態はかかる例に限定されない。システム1~4では、制御装置109において、複数の撮像装置によって撮影された医療画像に対する画像解析が行われてもよく、その画像解析結果も加味して採用する医療画像を決定する処理が行われてもよい。画像解析結果は有用な情報を多く含むため、画像解析結果も加味することにより、より適切な医療画像を採用することが可能になる。例えば、第1~第3の実施形態であれば、画像解析結果を用いて、撮像画像に観察対象である術部が含まれているかどうかが判定されてもよい。あるいは、画像解析結果に基づいて、撮像装置状態情報が取得されてもよい。例えば、第4の実施形態において、X線画像撮影装置131によって撮影されたX線断層画像を解析した結果に基づいて、超音波画像撮影装置133のカテーテル135の先端のマーカーの位置を特定することにより、超音波画像撮影装置状態情報として当該カテーテル135の先端の位置情報を取得してもよい。この場合には、X線画像撮影装置131から、超音波画像撮影装置状態情報として当該カテーテル135の先端の位置情報が、制御装置109に送信されることとなる。ただし、上述したように、画像解析には多大な演算時間を要することが多く、画像解析結果を用いる場合には、採用する医療画像を決定する処理を迅速に行うことができない恐れがある。従って、第1~第4の実施形態においては、例えば撮像画像状態情報に基づく判定処理では所望の精度が得られないような特殊な状況においてのみ画像解析結果を併用する等、画像解析結果はあくまで補助的に用いられることが好ましい。
また、以上説明したシステム1~4では、手術時に撮影される医療画像を対象としていたが、第1~第4の実施形態はかかる例に限定されない。システム1~4では、例えば検査等、他の医療行為の最中に撮影された医療画像が管理の対象であってもよい。このように、システム1~4が適用される対象は、あらゆる医療行為であってよい。
ここで、上述したように、第1~第4の実施形態において医療画像を撮影する目的は、手術中に術部の様子を医療スタッフによって共有すること、手術の記録を残すこと、及び若手医師の教育用の資料を作成すること等である。一方、他の目的として、撮影し、保存された医療画像を、自律的な手術支援ロボット装置の人工知能(AI:Artificial Intelligence)を構築するためのデータセットして用いることが挙げられる。例えば、手術時の術者の視野を示す医療画像は、当該手術支援ロボット装置の動きのアルゴリズムを構築する際に有用な情報であり得る。ここで、第1~第4の実施形態では、上述したように、記憶装置107に画像情報が保存される際に、メタデータも同時に保存される。当該メタデータは、例えば視野カメラの移動の様子を示す情報、すなわち手術時の術者の視野の移動の様子を示す情報であり得るから、かかるメタデータも、手術支援ロボット装置の動きのアルゴリズムを構築する際に有用な情報となり得る。第1~第4の実施形態に係るシステム1~4を適用することにより、術部の様子が含まれる適切な画像情報が、より安定的に、自動的に随時保存されることとなるため、手術を重ねることにより、膨大な量の適切な画像情報を蓄積することができる。このように、システム1~4を適用することにより、手術支援ロボット装置のAIの開発のために有用なデータを、より効率的に得ることが可能になる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、本開示に係る技術が適用される対象は、医療分野に限定されず、医療分野以外の他の分野であってもよい。複数の撮影装置によってある観察対象を撮影する際に、これら複数の撮影装置によってそれぞれ撮影された撮像画像を適宜管理する(すなわち、観察対象がより確実に映っている画像を選択する)必要がある状況であれば、本開示に係る技術を適用することにより、それらの撮像画像の管理をより適切に行うことが可能になる。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的なものではない。つまり、本開示に係る技術は、上記の効果とともに、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、
制御装置。
(2)
前記複数の撮像装置は、少なくとも1つの移動カメラを含む、
前記(1)に記載の制御装置。
(3)
前記移動カメラは、医療スタッフに装着される視野カメラである、
前記(2)に記載の制御装置。
(4)
前記移動カメラは、医療行為に用いられる処置具に取り付けられる、
前記(2)又は(3)に記載の制御装置。
(5)
前記移動カメラは、アーム部の先端に取り付けられた顕微鏡部によって観察対象を撮影する顕微鏡装置である、
前記(2)~(4)のいずれか1項に記載の制御装置。
(6)
前記移動カメラは、アーム部の先端に取り付けられた内視鏡によって観察対象を撮影する内視鏡装置である、
前記(2)~(5)のいずれか1項に記載の制御装置。
(7)
前記移動カメラは、撮像部を患者に対して相対的に移動させながら前記患者のX線断層画像を撮影するX線画像撮影装置である、
前記(2)~(6)のいずれか1項に記載の制御装置。
(8)
前記移動カメラは、先端に撮像部が設けられたカテーテルを患者の血管内において移動させながら前記血管内の超音波画像を撮影する超音波画像撮影装置である、
前記(2)~(7)のいずれか1項に記載の制御装置。
(9)
前記制御装置は、前記撮像装置状態情報に基づいて、前記複数の撮像装置の少なくともいずれかの状態が所定の画像決定条件を満たすかどうかを判定し、前記画像決定条件を満たす前記撮像装置によって撮影された医療画像を表示又は保存する医療画像として決定し、
前記画像決定条件は、観察対象が医療画像内に含まれることである、
前記(1)~(8)のいずれか1項に記載の制御装置。
(10)
前記複数の撮像装置は、医療スタッフの頭部に取り付けられる移動カメラである視野カメラと、手術室内に固定的に設置される術野カメラと、を含み、
前記視野カメラの前記撮像装置状態情報は、前記視野カメラの姿勢についての情報を含み、
前記術野カメラの前記撮像装置状態情報は、前記術野カメラの焦点距離についての情報を含み、
前記制御装置は、前記視野カメラが所定の角度以上傾いている場合に、前記視野カメラの状態が前記画像決定条件を満たしていると判定するとともに、前記術野カメラの焦点が観察対象に合っている場合に、前記術野カメラの状態が前記画像決定条件を満たしていると判定し、
前記制御装置は、判定結果に基づいて、前記視野カメラによって撮影された医療画像及び前記術野カメラによって撮影された医療画像のいずれか一方を表示又は保存する医療画像として決定する、
前記(9)に記載の制御装置。
(11)
前記複数の撮像装置は、複数の移動カメラを含み、
前記複数の移動カメラの前記撮像装置状態情報は、いずれも、前記移動カメラの位置についての情報、及び前記移動カメラの焦点距離についての情報を含み、
前記制御装置は、前記移動カメラの焦点が観察対象に合っている場合に、その前記移動カメラの状態が前記画像決定条件を満たしていると判定し、
前記制御装置は、判定結果に基づいて、前記複数の移動カメラによってそれぞれ撮影された医療画像の中のいずれか1つを表示又は保存する医療画像として決定する、
前記(9)に記載の制御装置。
(12)
前記複数の撮像装置は、アーム部の先端に取り付けられた顕微鏡部によって観察対象を撮影する顕微鏡装置と、アーム部の先端に取り付けられた内視鏡によって観察対象を撮影する内視鏡装置と、を含み、
前記顕微鏡装置の前記撮像装置状態情報は、前記顕微鏡部の位置についての情報及び焦点距離についての情報を含み、
前記内視鏡装置の前記撮像装置状態情報は、前記内視鏡の位置についての情報及び焦点距離についての情報を含み、
前記制御装置は、前記顕微鏡部の焦点が観察対象に合っている場合に、前記顕微鏡装置の状態が前記画像決定条件を満たしていると判定し、前記内視鏡の焦点が観察対象に合っている場合に、前記内視鏡装置の状態が前記画像決定条件を満たしていると判定し、
前記制御装置は、判定結果に基づいて、前記顕微鏡装置によって撮影された医療画像及び前記内視鏡装置によって撮影された医療画像のいずれか一方又は両方を表示又は保存する医療画像として決定する、
前記(9)に記載の制御装置。
(13)
前記複数の撮像装置は、X線画像撮影用の撮像部を患者に対して相対的に移動させながら前記患者のX線断層画像を撮影するX線画像撮影装置と、先端に超音波画像撮影用の撮像部が設けられたカテーテルを患者の血管内において移動させながら前記血管内の超音波画像を撮影する超音波画像撮影装置と、を含み、
前記X線画像撮影装置の前記撮像装置状態情報は、前記X線画像撮影用の撮像部の位置についての情報を含み、
前記超音波画像撮影装置の前記撮像装置状態情報は、前記超音波画像撮影用の撮像部の位置についての情報を含み、
前記制御装置は、前記X線画像撮影用の撮像部の位置が、前記超音波画像撮影用の撮像部の位置に対応している場合に、前記X線画像撮影装置の状態が前記画像決定条件を満たしていると判定し、
前記制御装置は、前記超音波画像撮影装置によって撮影された前記患者の血管内の超音波画像を表示又は保存する医療画像として決定するとともに、判定結果に基づいて、前記X線画像撮影装置によって撮影された前記患者の身体の互いに異なる部位を撮影した複数のX線断層画像の中から、前記超音波画像が撮影されている部位を含むX線断層画像を表示又は保存する医療画像として決定する、
前記(9)に記載の制御装置。
(14)
前記制御装置は、表示することを決定した前記超音波画像及び前記X線断層画像を表示装置に表示させる際に、前記X線断層画像に対して、前記超音波画像が撮影されている部位を示すアイコンを重畳表示させる、
前記(13)に記載の制御装置。
(15)
前記制御装置は、表示又は保存することを決定した少なくとも1つの医療画像を、表示部に表示させる又は記憶部に保存させる、
前記(1)~(14)のいずれか1項に記載の制御装置。
(16)
前記撮像装置状態情報は、前記複数の撮像装置の少なくともいずれかについての位置及び姿勢についての情報を含む、
前記(1)~(15)のいずれか1項に記載の制御装置。
(17)
前記制御装置は、前記複数の撮像装置によって撮影された医療画像の中から、表示及び保存する医療画像として少なくとも1つの医療画像を決定する、
前記(1)~(16)のいずれか1項に記載の制御装置。
(18)
複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、
制御方法。
(19)
複数の撮像装置と、
前記複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、制御装置と、
を備える、医療用システム。
1、2、3、4 システム
101 視野カメラ
103 術野カメラ
105 表示装置
107 記憶装置
109 制御装置
111 画像決定部
121 移動カメラ
123 位置センサ
131 X線画像撮影装置
133 超音波画像撮影装置
5301 顕微鏡装置
5401 内視鏡装置

Claims (16)

  1. 複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定し、
    前記複数の撮像装置は、少なくとも1つの移動カメラを含み、
    前記移動カメラは、医療スタッフに装着される視野カメラであり、
    前記視野カメラの前記撮像装置状態情報は、前記視野カメラの姿勢についての情報を含む、
    制御装置であって、
    前記制御装置は、前記撮像装置状態情報に基づいて、前記複数の撮像装置の少なくともいずれかの状態が所定の画像決定条件を満たすかどうかを判定し、前記画像決定条件を満たす前記撮像装置によって撮影された医療画像を表示又は保存する医療画像として決定し、
    前記制御装置は、前記視野カメラが所定の角度以上傾いている場合に、前記視野カメラの状態が前記画像決定条件を満たしていると判定し、
    前記画像決定条件は、観察対象が医療画像内に含まれることであり、
    前記視野カメラは、手術室内で使用される、
    制御装置。
  2. 前記移動カメラは、医療行為に用いられる処置具に取り付けられる、
    請求項1に記載の制御装置。
  3. 前記移動カメラは、アーム部の先端に取り付けられた顕微鏡部によって観察対象を撮影する顕微鏡装置である、
    請求項1または請求項2に記載の制御装置。
  4. 前記移動カメラは、アーム部の先端に取り付けられた内視鏡によって観察対象を撮影する内視鏡装置である、
    請求項1乃至請求項3の何れか1項に記載の制御装置。
  5. 前記移動カメラは、撮像部を患者に対して相対的に移動させながら前記患者のX線断層画像を撮影するX線画像撮影装置である、
    請求項1乃至請求項4の何れか1項に記載の制御装置。
  6. 前記移動カメラは、先端に撮像部が設けられたカテーテルを患者の血管内において移動させながら前記血管内の超音波画像を撮影する超音波画像撮影装置である、
    請求項1乃至請求項5の何れか1項に記載の制御装置。
  7. 前記複数の撮像装置は、医療スタッフの頭部に取り付けられる移動カメラである視野カメラと、手術室内に固定的に設置される術野カメラと、を含み、
    前記術野カメラの前記撮像装置状態情報は、前記術野カメラの焦点距離についての情報を含み、
    前記制御装置は、前記視野カメラが所定の角度以上傾いている場合に、前記視野カメラの状態が前記画像決定条件を満たしていると判定するとともに、前記術野カメラの焦点が観察対象に合っている場合に、前記術野カメラの状態が前記画像決定条件を満たしていると判定し、
    前記制御装置は、判定結果に基づいて、前記視野カメラによって撮影された医療画像及び前記術野カメラによって撮影された医療画像のいずれか一方を表示又は保存する医療画像として決定する、
    請求項に記載の制御装置。
  8. 前記複数の撮像装置は、複数の移動カメラを含み、
    前記複数の移動カメラの前記撮像装置状態情報は、いずれも、前記移動カメラの位置についての情報、及び前記移動カメラの焦点距離についての情報を含み、
    前記制御装置は、前記移動カメラの焦点が観察対象に合っている場合に、その前記移動カメラの状態が前記画像決定条件を満たしていると判定し、
    前記制御装置は、判定結果に基づいて、前記複数の移動カメラによってそれぞれ撮影された医療画像の中のいずれか1つを表示又は保存する医療画像として決定する、
    請求項に記載の制御装置。
  9. 前記複数の撮像装置は、アーム部の先端に取り付けられた顕微鏡部によって観察対象を撮影する顕微鏡装置と、アーム部の先端に取り付けられた内視鏡によって観察対象を撮影する内視鏡装置と、を含み、
    前記顕微鏡装置の前記撮像装置状態情報は、前記顕微鏡部の位置についての情報及び焦点距離についての情報を含み、
    前記内視鏡装置の前記撮像装置状態情報は、前記内視鏡の位置についての情報及び焦点距離についての情報を含み、
    前記制御装置は、前記顕微鏡部の焦点が観察対象に合っている場合に、前記顕微鏡装置の状態が前記画像決定条件を満たしていると判定し、前記内視鏡の焦点が観察対象に合っている場合に、前記内視鏡装置の状態が前記画像決定条件を満たしていると判定し、
    前記制御装置は、判定結果に基づいて、前記顕微鏡装置によって撮影された医療画像及び前記内視鏡装置によって撮影された医療画像のいずれか一方又は両方を表示又は保存する医療画像として決定する、
    請求項に記載の制御装置。
  10. 前記複数の撮像装置は、X線画像撮影用の撮像部を患者に対して相対的に移動させながら前記患者のX線断層画像を撮影するX線画像撮影装置と、先端に超音波画像撮影用の撮像部が設けられたカテーテルを患者の血管内において移動させながら前記血管内の超音波画像を撮影する超音波画像撮影装置と、を含み、
    前記X線画像撮影装置の前記撮像装置状態情報は、前記X線画像撮影用の撮像部の位置についての情報を含み、
    前記超音波画像撮影装置の前記撮像装置状態情報は、前記超音波画像撮影用の撮像部の位置についての情報を含み、
    前記制御装置は、前記X線画像撮影用の撮像部の位置が、前記超音波画像撮影用の撮像部の位置に対応している場合に、前記X線画像撮影装置の状態が前記画像決定条件を満たしていると判定し、
    前記制御装置は、前記超音波画像撮影装置によって撮影された前記患者の血管内の超音波画像を表示又は保存する医療画像として決定するとともに、判定結果に基づいて、前記X線画像撮影装置によって撮影された前記患者の身体の互いに異なる部位を撮影した複数のX線断層画像の中から、前記超音波画像が撮影されている部位を含むX線断層画像を表示又は保存する医療画像として決定する、
    請求項に記載の制御装置。
  11. 前記制御装置は、表示することを決定した前記超音波画像及び前記X線断層画像を表示装置に表示させる際に、前記X線断層画像に対して、前記超音波画像が撮影されている部位を示すアイコンを重畳表示させる、
    請求項10に記載の制御装置。
  12. 前記制御装置は、表示又は保存することを決定した少なくとも1つの医療画像を、表示部に表示させる又は記憶部に保存させる、
    請求項1乃至請求項11の何れか1項に記載の制御装置。
  13. 前記撮像装置状態情報は、前記複数の撮像装置の少なくともいずれかについての位置及び姿勢についての情報を含む、
    請求項1乃至請求項12の何れか1項に記載の制御装置。
  14. 前記制御装置は、前記複数の撮像装置によって撮影された医療画像の中から、表示及び保存する医療画像として少なくとも1つの医療画像を決定する、
    請求項1乃至請求項13の何れか1項に記載の制御装置。
  15. 複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、
    制御方法であって、
    前記複数の撮像装置は、少なくとも1つの移動カメラを含み、
    前記移動カメラは、医療スタッフに装着される視野カメラであり、
    前記視野カメラの前記撮像装置状態情報は、前記視野カメラの姿勢についての情報を含み、
    前記制御方法は、前記撮像装置状態情報に基づいて、前記複数の撮像装置の少なくともいずれかの状態が所定の画像決定条件を満たすかどうかを判定し、前記画像決定条件を満たす前記撮像装置によって撮影された医療画像を表示又は保存する医療画像として決定し、
    前記制御方法は、前記視野カメラが所定の角度以上傾いている場合に、前記視野カメラの状態が前記画像決定条件を満たしていると判定し、
    前記画像決定条件は、観察対象が医療画像内に含まれることであり、
    前記視野カメラは、手術室内で使用される、
    制御方法。
  16. 複数の撮像装置と、
    前記複数の撮像装置の少なくともいずれかについての位置又は姿勢についての情報を含む撮像装置状態情報に基づいて、前記複数の撮像装置によって撮影された医療画像の中から、表示又は保存する医療画像として少なくとも1つの医療画像を決定する、制御装置と、
    を備え、
    前記複数の撮像装置は、少なくとも1つの移動カメラを含み、
    前記移動カメラは、医療スタッフに装着される視野カメラであり、
    前記視野カメラの前記撮像装置状態情報は、前記視野カメラの姿勢についての情報を含み、
    前記制御装置は、前記撮像装置状態情報に基づいて、前記複数の撮像装置の少なくともいずれかの状態が所定の画像決定条件を満たすかどうかを判定し、前記画像決定条件を満たす前記撮像装置によって撮影された医療画像を表示又は保存する医療画像として決定し、
    前記制御装置は、前記視野カメラが所定の角度以上傾いている場合に、前記視野カメラの状態が前記画像決定条件を満たしていると判定し、
    前記画像決定条件は、観察対象が医療画像内に含まれることであり、
    前記視野カメラは、手術室内で使用される、
    医療用システム。
JP2016185146A 2016-09-23 2016-09-23 制御装置、制御方法及び医療用システム Active JP7073618B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016185146A JP7073618B2 (ja) 2016-09-23 2016-09-23 制御装置、制御方法及び医療用システム
US16/333,120 US11419696B2 (en) 2016-09-23 2017-08-14 Control device, control method, and medical system
PCT/JP2017/029252 WO2018055950A1 (en) 2016-09-23 2017-08-14 Control device, control method, and medical system
EP17758646.8A EP3515351A1 (en) 2016-09-23 2017-08-14 Control device, control method, and medical system
CN201780056610.5A CN109715106B (zh) 2016-09-23 2017-08-14 控制装置、控制方法及医疗系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016185146A JP7073618B2 (ja) 2016-09-23 2016-09-23 制御装置、制御方法及び医療用システム

Publications (3)

Publication Number Publication Date
JP2018047088A JP2018047088A (ja) 2018-03-29
JP2018047088A5 JP2018047088A5 (ja) 2019-10-31
JP7073618B2 true JP7073618B2 (ja) 2022-05-24

Family

ID=59738396

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016185146A Active JP7073618B2 (ja) 2016-09-23 2016-09-23 制御装置、制御方法及び医療用システム

Country Status (5)

Country Link
US (1) US11419696B2 (ja)
EP (1) EP3515351A1 (ja)
JP (1) JP7073618B2 (ja)
CN (1) CN109715106B (ja)
WO (1) WO2018055950A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11219422B2 (en) * 2017-03-14 2022-01-11 Canon Medical Systems Corporation Image displaying system, image processing apparatus and x-ray imaging system
JP2021164490A (ja) * 2018-04-10 2021-10-14 オリンパス株式会社 医療システム
CN108742841B (zh) * 2018-05-30 2020-11-06 上海交通大学 一种多位置跟踪仪的工具实时定位装置
JP7092346B2 (ja) * 2018-08-08 2022-06-28 ソニア・セラピューティクス株式会社 画像制御装置
US11625107B2 (en) * 2019-06-27 2023-04-11 Intuitive Surgical Operations, Inc. System and method for motion mode management
GB2585691B (en) * 2019-07-11 2024-03-20 Cmr Surgical Ltd Anonymising robotic data
JP7473670B2 (ja) * 2020-03-20 2024-04-23 ライカ インストゥルメンツ (シンガポール) プライヴェット リミテッド 手術用顕微鏡システムならびに対応するシステム、方法およびコンピュータプログラム
CN112230585B (zh) * 2020-10-29 2022-01-18 山东康诚医用设备工程有限公司 手术室洁净动态监测控制系统
LU102392B1 (en) * 2021-01-11 2022-07-11 Fujian Medical Univ Union Hospital An ultrasonic visualization Da Vinci intelligent robot surgical system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004157614A (ja) 2002-11-01 2004-06-03 Advanced Telecommunication Research Institute International 行動分析装置
JP2005135344A (ja) 2003-10-31 2005-05-26 Toshiba Corp 医療情報システム
JP2015119323A (ja) 2013-12-18 2015-06-25 カシオ計算機株式会社 撮像装置、画像取得方法及びプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5347089B1 (ja) 1971-03-30 1978-12-19
US6675040B1 (en) 1991-01-28 2004-01-06 Sherwood Services Ag Optical object tracking system
US5961456A (en) * 1993-05-12 1999-10-05 Gildenberg; Philip L. System and method for displaying concurrent video and reconstructed surgical views
US20010055062A1 (en) * 2000-04-20 2001-12-27 Keiji Shioda Operation microscope
US20030179308A1 (en) * 2002-03-19 2003-09-25 Lucia Zamorano Augmented tracking using video, computed data and/or sensing technologies
US8208988B2 (en) * 2005-05-13 2012-06-26 General Electric Company System and method for controlling a medical imaging device
US8190238B2 (en) * 2005-12-09 2012-05-29 Hansen Medical, Inc. Robotic catheter system and methods
US20070236514A1 (en) * 2006-03-29 2007-10-11 Bracco Imaging Spa Methods and Apparatuses for Stereoscopic Image Guided Surgical Navigation
IL188262A (en) * 2007-01-10 2011-10-31 Mediguide Ltd System and method for superimposing a representation of the tip of a catheter on an image acquired by a moving imager
EP2649929B1 (en) * 2011-05-17 2015-07-01 Olympus Medical Systems Corp. Medical apparatus, method for controlling marker display in a medical image, and medical processor
US10231787B2 (en) * 2012-01-12 2019-03-19 Brainlab Ag Method and system for medical tracking using a plurality of camera positions
EP2682050B1 (en) 2012-01-26 2017-10-25 Olympus Corporation Medical information recording apparatus
BR112014032112A2 (pt) * 2012-06-28 2017-06-27 Koninklijke Philips Nv sistema de aquisição de imagem; e método para aquisição de imagem multimodal
IL221863A (en) * 2012-09-10 2014-01-30 Elbit Systems Ltd Digital video photography system when analyzing and displaying
WO2014150401A1 (en) * 2013-03-15 2014-09-25 Huennekens Scott Atherectomy methods using coregistered sets of data
KR20150040768A (ko) * 2013-10-07 2015-04-15 삼성전자주식회사 엑스선 장치 및 엑스선 디텍터
EP3116432B1 (en) * 2014-03-14 2020-07-22 Brainlab AG Improved overlay of anatomical information in a microscope image
EP3463154B1 (en) * 2016-06-02 2023-07-05 Atracsys Sàrl Mobile surgical navigation system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004157614A (ja) 2002-11-01 2004-06-03 Advanced Telecommunication Research Institute International 行動分析装置
JP2005135344A (ja) 2003-10-31 2005-05-26 Toshiba Corp 医療情報システム
JP2015119323A (ja) 2013-12-18 2015-06-25 カシオ計算機株式会社 撮像装置、画像取得方法及びプログラム

Also Published As

Publication number Publication date
US20190328481A1 (en) 2019-10-31
US11419696B2 (en) 2022-08-23
JP2018047088A (ja) 2018-03-29
CN109715106B (zh) 2022-06-24
EP3515351A1 (en) 2019-07-31
WO2018055950A1 (en) 2018-03-29
CN109715106A (zh) 2019-05-03

Similar Documents

Publication Publication Date Title
JP7073618B2 (ja) 制御装置、制御方法及び医療用システム
JP6883222B2 (ja) 画像処理装置、画像処理方法、プログラム及び手術用ナビゲーションシステム
JP7067467B2 (ja) 医療用情報処理装置、情報処理方法、医療用情報処理システム
JP6939778B2 (ja) 制御装置、制御方法及び手術システム
JPWO2019044328A1 (ja) 医療用画像処理装置、医療用画像処理システム、及び医療用画像処理装置の駆動方法
JP2017113343A (ja) 医療用撮像装置及び手術ナビゲーションシステム
CN110913744B (zh) 手术系统、控制方法、手术装置和程序
WO2017159335A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP2021192313A (ja) 情報処理装置および方法、並びにプログラム
WO2019087904A1 (ja) 手術アームシステム及び手術アーム制御システム
JPWO2018168261A1 (ja) 制御装置、制御方法、及びプログラム
JP7334499B2 (ja) 手術支援システム、制御装置及び制御方法
WO2018221068A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
US10694141B2 (en) Multi-camera system, camera, camera processing method, confirmation device, and confirmation device processing method
WO2018179681A1 (ja) 医療用観察装置及び観察視野補正方法
JP2018075674A (ja) 関節駆動用アクチュエータ
US11638000B2 (en) Medical observation apparatus
JPWO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
JP2021040988A (ja) 医療用支持アーム、及び医療用システム
WO2017221491A1 (ja) 制御装置、制御システム、および制御方法
WO2018055888A1 (ja) 医療用観察装置及び医療用観察システム
JPWO2018216538A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP7134656B2 (ja) 医療用表示制御装置、および表示制御方法
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
WO2020246181A1 (ja) 画像処理装置、画像処理方法、プログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190917

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220425

R151 Written notification of patent or utility model registration

Ref document number: 7073618

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151