WO2018179564A1 - 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム - Google Patents

医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム Download PDF

Info

Publication number
WO2018179564A1
WO2018179564A1 PCT/JP2017/040116 JP2017040116W WO2018179564A1 WO 2018179564 A1 WO2018179564 A1 WO 2018179564A1 JP 2017040116 W JP2017040116 W JP 2017040116W WO 2018179564 A1 WO2018179564 A1 WO 2018179564A1
Authority
WO
WIPO (PCT)
Prior art keywords
medical
captured image
imaging
display
image
Prior art date
Application number
PCT/JP2017/040116
Other languages
English (en)
French (fr)
Inventor
智子 寺門
塩田 敬司
Original Assignee
ソニー・オリンパスメディカルソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー・オリンパスメディカルソリューションズ株式会社 filed Critical ソニー・オリンパスメディカルソリューションズ株式会社
Priority to JP2019508543A priority Critical patent/JP6918924B2/ja
Priority to EP17902959.0A priority patent/EP3590438B1/en
Priority to US16/494,772 priority patent/US11478204B2/en
Publication of WO2018179564A1 publication Critical patent/WO2018179564A1/ja
Priority to US17/897,234 priority patent/US20220401049A1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/46Arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • A61B6/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/046Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for infrared imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/30Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/373Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • A61B2090/508Supports for surgical instruments, e.g. articulated arms with releasable brake mechanisms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras

Definitions

  • the present disclosure relates to a medical display control device, a medical observation device, a display control method, and a medical observation system.
  • a medical observation apparatus capable of magnifying and observing an observation target such as an affected part is used to support surgery.
  • the medical observation apparatus include a medical observation apparatus including an optical microscope and a medical observation apparatus including an imaging device that functions as an electronic imaging microscope.
  • the medical observation apparatus including the optical microscope is referred to as an “optical medical observation apparatus”.
  • a medical observation apparatus including the imaging device may be referred to as an “electronic imaging type medical observation apparatus” or simply “medical observation apparatus”.
  • a surgical microscope described in Patent Document 1 includes a CCD (Charge Coupled Device) that captures an observation image of light in the visible wavelength band and a light in the visible wavelength band.
  • CCD Charge Coupled Device
  • a visible light image in the visible wavelength band and a fluorescent image in the near-infrared wavelength band are captured. Therefore, when using the technique described in Patent Document 1, a user using a surgical microscope can observe two types of images having different wavelength bands.
  • a surgical microscope using the technique described in Patent Document 1 includes two CCDs, a CCD that captures an observation image of light in the visible wavelength band and a CCD that captures an observation image of light in the visible wavelength band.
  • a surgical microscope using the technique described in Patent Document 1 includes two CCDs, a CCD that captures an observation image of light in the visible wavelength band and a CCD that captures an observation image of light in the visible wavelength band.
  • a new and improved medical display control apparatus, medical observation apparatus, and display control method capable of simultaneously displaying medical images captured in different imaging modes in an imaging device on a display screen , And propose a medical observation system.
  • the first medical captured image captured in the first imaging mode in which imaging is performed with the special light in the imaging device and the second different from the first imaging mode in the imaging device.
  • a medical display control device includes a display control unit that simultaneously displays a second medical captured image captured before the first medical captured image in the imaging mode.
  • an arm configured by connecting a plurality of links to each other by joint portions, an imaging device supported by the arm, and a first imaging mode in which imaging is performed with special light in the imaging device In the second imaging mode different from the first imaging mode in the imaging device and the first medical imaging image captured in step 1, the first imaging image captured before the first medical imaging image is used.
  • a medical observation apparatus includes a display control unit that simultaneously displays two medical captured images.
  • the first medical captured image captured in the first imaging mode in which imaging is performed with the special light in the imaging device and the second different from the first imaging mode in the imaging device.
  • a display control method executed by a medical display control device comprising: simultaneously displaying a second medical captured image captured before the first medical captured image in the imaging mode; Provided.
  • a medical observation apparatus including an arm configured by connecting a plurality of links to each other by joint portions, and an imaging device supported by the arm.
  • the first imaging mode In the first medical imaging image captured in the first imaging mode in which imaging is performed with special light in the first imaging mode, and in the second imaging mode different from the first imaging mode in the imaging device, the first imaging mode
  • a medical display control device including a display control unit configured to simultaneously display a second medical captured image captured before the medical captured image on the display screen of the display device;
  • medical captured images captured in different imaging modes by the imaging device can be simultaneously displayed on the display screen.
  • the medical observation apparatus according to the present embodiment is an electronic imaging type medical observation apparatus.
  • the medical observation apparatus according to the present embodiment is an electronic imaging type medical observation apparatus. It is not limited to the observation device for use.
  • the medical observation apparatus according to the present embodiment has a plurality of imaging modes including an imaging mode in which imaging is performed with “special light (described later), such as an endoscope apparatus, and imaging is performed by switching the imaging mode. It may be any medical observation device that can be performed.
  • FIG. 1 is an explanatory diagram showing an example of the configuration of the medical observation system 1000 according to the present embodiment.
  • the medical observation system 1000 includes, for example, a medical observation device 100, a control device 200, a display device 300, and a storage device 400.
  • the medical observation device 100 may have the function of the control device 200.
  • the medical observation system according to the present embodiment may not include the control device 200, for example.
  • the medical observation apparatus 100 or the control apparatus 200 may have the function of the storage device 400.
  • the medical observation system according to the present embodiment may not include the storage device 400, for example.
  • the medical observation system may be configured to include one or more of the medical observation apparatus 100, the control apparatus 200, and the display apparatus 300, for example.
  • the medical observation apparatus 100 and the control apparatus 200 may be associated one-to-one.
  • a plurality of medical observation devices 100 may be associated with one control device 200.
  • the control apparatus 200 can switch which medical observation apparatus 100 is controlled by performing a switching operation, for example. .
  • the medical observation device 100 and the display device 300 may be associated one-to-one.
  • a plurality of medical observation devices 100 may be associated with one display device 300.
  • the display apparatus 300 displays a captured image captured by which medical observation apparatus 100 by performing a switching operation, for example. Whether to display on the screen can be switched.
  • a plurality of imaging modes including an imaging mode in which imaging is performed with special light (described later)”.
  • an arbitrary medical observation apparatus that can perform imaging by switching the imaging mode.
  • FIG. 2 is an explanatory diagram showing an example of a use case in which the medical observation system 1000 according to the present embodiment is used.
  • the patient PA to be observed (patient subject to medical treatment) is imaged by an imaging device (described later) provided in the medical observation apparatus 100.
  • an imaging device described later
  • a captured image captured by the medical observation apparatus according to the present embodiment such as a captured image of a patient who is to receive the medical action, is referred to as a “medical captured image”.
  • the medical image captured by the medical observation device 100 is displayed on the display screen of the display device 300. Then, an operator OP (an example of a user of the medical observation apparatus 100) who performs a medical practice using the medical observation apparatus 100 looks at the medical captured image displayed on the display screen of the display apparatus 300 while viewing the patient. Medical practice for PA.
  • surgeon OP operates the operation device external to the medical observation apparatus 100 such as a foot switch FS or an operation device (described later) provided in the medical observation apparatus 100, whereby the medical observation apparatus 100 is operated.
  • An arm to be described later
  • an imaging device to be described later
  • the like provided are operated to bring the medical observation apparatus 100 into a desired state.
  • the display device 300 is a display unit in the medical observation system 1000 and corresponds to an external display device as viewed from the medical observation device 100.
  • the display device 300 is, for example, a medical captured image (moving image or a plurality of still images; the same applies hereinafter) captured by the medical observation device 100, an image related to a UI (User Interface), or the like.
  • Various images are displayed on the display screen.
  • the display device 300 may be configured to be capable of 3D display.
  • the display on the display device 300 is controlled by the control device 200, for example.
  • the display device 300 is installed at an arbitrary place that can be visually recognized by a person involved in an operation such as an operator in an operating room, such as a wall surface, a ceiling, or a floor surface of an operating room.
  • Examples of the display device 300 include a liquid crystal display, an organic EL (Electro-Luminescence) display, and a CRT (Cathode Ray Tube) display.
  • the display device 300 is not limited to the example described above.
  • the display device 300 may be an arbitrary wearable device that is used by a surgeon or the like such as a head mounted display or an eyewear type device.
  • the display device 300 is driven by, for example, power supplied from an internal power source such as a battery provided in the display device 300, or power supplied from a connected external power source.
  • the storage device 400 is a storage unit in the medical observation system 1000 and corresponds to an external recording medium as viewed from the medical observation device 100.
  • the storage device 400 includes an arbitrary recording medium capable of storing data, such as a magnetic recording medium such as a hard disk and a non-volatile memory such as a flash memory.
  • the storage device 400 stores various data such as data indicating images such as a first medical captured image and a second medical captured image to be described later, and data related to a patient.
  • the storage device 400 is connected to an external device such as the control device 200 by wired communication of an arbitrary communication method or wireless communication of an arbitrary communication method, and data stored in the storage device 400 is appropriately read by the external device.
  • . 1 illustrates an example in which the storage device 400 is connected to the control device 200, the storage device 400 may be connected to the medical observation device 100 or the display device 300.
  • the storage device 400 is driven by, for example, power supplied from an internal power source such as a battery provided in the storage device 400 or power supplied from a connected external power source.
  • Control device 200 controls the operation of the medical observation device 100 and the operation of the display device 300, respectively. Further, the control device 200 controls, for example, data writing to the storage device 400 and data reading from the storage device 400. That is, the control device 200 serves to control operations of various devices that constitute the medical observation system 1000.
  • control device 200 plays a role of performing a process related to a display control method according to the present embodiment described later, for example.
  • the control device 200 that plays a role in performing processing related to the display control method according to the present embodiment to be described later functions as a medical display control device in the medical observation system 1000.
  • an image corresponding to the result of the processing related to the display control method is displayed on the display screen of the display device 300.
  • An example of an image displayed on the display screen of the display device 300 by the process related to the display control method according to the present embodiment will be described later.
  • the control device 200 includes, for example, one or more processors (not shown) configured by arithmetic circuits such as an MPU (Micro Processing Unit), a ROM (Read Only Memory, not shown), and a RAM (Random). Access Memory (not shown), a recording medium (not shown), and a communication device (not shown) are provided.
  • the control device 200 is driven by, for example, power supplied from an internal power source such as a battery provided in the control device 200 or power supplied from a connected external power source.
  • the processor (not shown) performs processing related to control of a control target such as the medical observation apparatus 100. Further, the processor (not shown) functions as, for example, a display control unit (described later), and performs processing related to the display control method according to the present embodiment described later. Note that the processing related to the display control method according to the present embodiment may be performed by a processing circuit separate from the processor (not shown).
  • ROM (not shown) stores control data such as programs and calculation parameters used by a processor (not shown).
  • a RAM (not shown) temporarily stores a program executed by a processor (not shown).
  • the recording medium (not shown) is a storage unit included in the control device 200, and stores various data such as data related to control and various applications.
  • image data indicating a medical captured image captured by an imaging device (described later) included in the medical observation apparatus 100 an image indicating a first medical captured image described later.
  • Image data indicating a second medical image to be described later may be stored.
  • the control device 200 functions as the storage device 400, for example.
  • examples of the recording medium include a magnetic recording medium such as a hard disk and a non-volatile memory such as a flash memory.
  • the recording medium may be detachable from the control device 200.
  • the communication device is a communication means provided in the control device 200, and serves to communicate with external devices such as the medical observation device 100, the display device 300, and the storage device 400 wirelessly or by wire.
  • a communication device for example, IEEE 802.15.1 port and transmission / reception circuit (wireless communication), IEEE 802.11 port and transmission / reception circuit (wireless communication), communication antenna and RF (Radio Frequency) Examples include a circuit (wireless communication), a LAN (Local Area Network) terminal, and a transmission / reception circuit (wired communication).
  • control device 200 for example, any device capable of controlling the operation of various devices constituting the medical observation system according to the present embodiment, such as a “medical controller” and a “computer such as a server”, Can be mentioned.
  • the control device 200 may be any device capable of storing data, such as a “recorder”.
  • the control device 200 may be, for example, an IC (Integrated Circuit) that can be incorporated into the device as described above.
  • control in the control device 200 causes the medical observation device 100 to operate in an operation mode (described later) corresponding to the operation based on an operation on the medical observation device 100, for example. Moreover, the control apparatus 200 controls the imaging in the imaging device (after-mentioned) with which the medical observation apparatus 100 is provided based on operation with respect to the medical observation apparatus 100, for example. Examples of imaging control according to this embodiment include one or both of zoom magnification control and focal length control.
  • the control apparatus 200 includes, for example, a processor (not shown). ), Image processing is performed on the image signal.
  • Image processing for example, one or more processes among various processes such as gamma correction, white balance adjustment, image enlargement or reduction, or inter-pixel correction related to the electronic zoom function. Is mentioned.
  • the image processing according to the present embodiment may be performed in the medical observation apparatus 100.
  • the control device 200 transmits, for example, a display control signal including a display command and an image signal subjected to the image processing as described above to the display device 300.
  • a medical captured image for example, a medical captured image in which an operation part is captured
  • the medical captured image that the control device 200 displays on the display screen of the display device 300 is not limited to the example described above. An example of a medical captured image that the control device 200 displays on the display screen of the display device 300 will be described later.
  • the medical observation apparatus 100 is an electronic imaging medical observation apparatus. For example, when the medical observation device 100 is used at the time of surgery, an operator (an example of a user of the medical observation device 100) is imaged by the medical observation device 100 and displayed on the display screen of the display device 300. The surgical site is observed with reference to the captured image, and various treatments such as a procedure according to the surgical procedure are performed on the surgical site.
  • the medical observation apparatus 100 includes, for example, a base 102, an arm 104, and an imaging device 106.
  • the medical observation apparatus 100 includes a communication device (not illustrated) that performs communication using a communication method corresponding to a communication device (not illustrated) included in the control apparatus 200, for example. May be.
  • the medical observation apparatus 100 can have a configuration that does not include a separate communication device (not shown).
  • the medical observation apparatus 100 is driven by, for example, power supplied from an internal power source such as a battery provided in the medical observation apparatus 100 or power supplied from a connected external power source.
  • Base 102 is a base of the medical observation apparatus 100, and one end of the arm 104 is connected to support the arm 104 and the imaging device 106.
  • a caster is provided on the base 102, and the medical observation apparatus 100 is grounded to the floor surface via the caster.
  • the medical observation apparatus 100 can be easily moved on the floor surface by the casters.
  • Arm 104 The arm 104 is configured by connecting a plurality of links to each other by joint portions.
  • the arm 104 supports the imaging device 106.
  • the imaging device 106 supported by the arm 104 can move three-dimensionally, and the position and posture of the imaging device 106 after the movement are held by the arm 104.
  • the arm 104 is connected to each other by a plurality of joint portions 110a, 110b, 110c, 110d, 110e, 110f and the joint portions 110a, 110b, 110c, 110d, 110e, 110f, for example.
  • the rotatable ranges of the joint portions 110a, 110b, 110c, 110d, 110e, and 110f are arbitrarily set in the design stage, the manufacturing stage, and the like so that the desired movement of the arm 104 is realized.
  • first axis O1 and second axis O2 corresponding to the six joint portions 110a, 110b, 110c, 110d, 110e, and 110f that constitute the arm 104.
  • the third axis O3, the fourth axis O4, the fifth axis O5, and the sixth axis O6) provide six degrees of freedom for the movement of the imaging device 106. More specifically, in the medical observation apparatus 100 shown in FIG. 1, a motion with 6 degrees of freedom of 3 translational degrees of freedom and 3 degrees of freedom of rotation is realized.
  • the joint portion 110a has a substantially cylindrical shape, and the imaging device 106 (the upper end portion of the imaging device 106 in FIG. 1) is connected to the central axis of the imaging device 106 at the distal end portion (lower end portion in FIG. 1) of the joint portion 110a. It supports so that it can rotate around a parallel rotating shaft (1st axis
  • the medical observation apparatus 100 is configured such that the first axis O1 coincides with the optical axis of the imaging device 106. That is, by rotating the imaging device 106 around the first axis O1 illustrated in FIG. 1, the medical captured image captured by the imaging device 106 is an image that is changed so that the field of view rotates.
  • the link 112a is a substantially rod-like member and fixedly supports the joint portion 110a.
  • the link 112a extends in a direction orthogonal to the first axis O1 and is connected to the joint portion 110b.
  • the joint portion 110b has a substantially cylindrical shape, and supports the link 112a so as to be rotatable around a rotation axis (second axis O2) orthogonal to the first axis O1. Further, the link 112b is fixedly connected to the joint portion 110b.
  • the link 112b is a substantially rod-shaped member, and is extended in a direction orthogonal to the second axis O2. Further, the joint portion 110b and the joint portion 110c are connected to the link 112b.
  • the joint portion 110c has a substantially cylindrical shape, and supports the link 112b so as to be rotatable around a rotation axis (third axis O3) orthogonal to the first axis O1 and the second axis O2. Further, one end of the link 112c is fixedly connected to the joint portion 110c.
  • the position of the imaging device 106 in the horizontal plane is changed by rotating the distal end side (the side on which the imaging device 106 is provided) of the arm 104 about the second axis O2 and the third axis O3.
  • the imaging device 106 can be moved. That is, in the medical observation apparatus 100, the visual field of the medical captured image can be moved in a plane by controlling the rotation around the second axis O2 and the third axis O3.
  • the link 112c is a member having one end having a substantially cylindrical shape and the other end having a substantially rod shape. One end of the link 112c is fixedly connected so that the central axis of the joint 110c and the central axis of the substantially cylindrical shape are the same. In addition, the joint portion 110d is connected to the other end side of the link 112c.
  • the joint portion 110d has a substantially cylindrical shape, and supports the link 112c so as to be rotatable around a rotation axis (fourth axis O4) orthogonal to the third axis O3.
  • a link 112d is fixedly connected to the joint 110d.
  • the link 112d is a substantially rod-shaped member, and is extended so as to be orthogonal to the fourth axis O4.
  • One end of the link 112d is fixedly connected to the joint part 110d so as to abut on the substantially cylindrical side surface of the joint part 110d.
  • the joint portion 110e is connected to the other end of the link 112d (the end opposite to the side to which the joint portion 110d is connected).
  • the joint portion 110e has a substantially cylindrical shape, and supports one end of the link 112d so as to be rotatable around a rotation axis (fifth axis O5) parallel to the fourth axis O4. Further, one end of a link 112e is fixedly connected to the joint part 110e.
  • the fourth axis O4 and the fifth axis O5 are rotation axes capable of moving the imaging device 106 in the vertical direction.
  • the position of the imaging device 106 in the vertical direction changes as the distal end side (side on which the imaging device 106 is provided) of the arm 104 rotates around the fourth axis O4 and the fifth axis O5. Therefore, the distal end side of the arm 104 (the side on which the imaging device 106 is provided) rotates around the fourth axis O4 and the fifth axis O5, whereby the distance between the imaging device 106 and an observation target such as a surgical site of the patient. Can be changed.
  • the link 112e extends vertically downward from a first member having a substantially L shape in which one side extends in the vertical direction and the other side extends in the horizontal direction, and a portion extending in the horizontal direction of the first member.
  • the rod-shaped second member is a member configured in combination.
  • the joint portion 110e is fixedly connected to a portion of the link 112e that extends in the vertical direction of the first member.
  • the joint portion 110f is connected to the second member of the link 112e.
  • the joint portion 110f has a substantially cylindrical shape, and supports the link 112e so as to be rotatable around a rotation axis (sixth axis O6) parallel to the vertical direction. Further, the link 112f is fixedly connected to the joint portion 110f.
  • the link 112f is a substantially rod-shaped member and extends in the vertical direction.
  • the joint portion 110f is connected to one end of the link 112f.
  • the other end of the link 112f (the end opposite to the side to which the joint 110f is connected) is fixedly connected to the base 102.
  • the medical observation apparatus 100 realizes six degrees of freedom with respect to the movement of the imaging device 106.
  • the configuration of the arm 104 is not limited to the example shown above.
  • each of the joint portions 110a, 110b, 110c, 110d, 110e, and 110f of the arm 104 may be provided with a brake that restricts rotation of each of the joint portions 110a, 110b, 110c, 110d, 110e, and 110f.
  • the brake according to the present embodiment include an arbitrary brake such as a mechanically driven brake and an electrically driven electromagnetic brake.
  • the driving of the brake is controlled by the control device 200, for example.
  • the operation mode of the arm 104 is set. Examples of the operation mode of the arm 104 include a fixed mode and a free mode.
  • the fixed mode according to the present embodiment is an operation mode in which, for example, the position and posture of the imaging device 106 are fixed by restricting the rotation of each rotary shaft provided in the arm 104 by a brake.
  • the free mode according to the present embodiment is an operation mode in which each rotation shaft provided in the arm 104 can freely rotate when the brake is released.
  • the position and posture of the imaging device 106 can be adjusted by a direct operation by an operator.
  • the direct operation according to the present embodiment means, for example, an operation in which the surgeon holds the imaging device 106 by hand and directly moves the imaging device 106.
  • Imaging device 106 The imaging device 106 is supported by the arm 104 and images an observation target such as a surgical site of a patient. Imaging in the imaging device 106 is controlled by the control device 200, for example.
  • the imaging device 106 has a configuration corresponding to, for example, an electronic imaging microscope.
  • FIG. 3 is an explanatory diagram for explaining an example of the configuration of the imaging device 106 provided in the medical observation apparatus 100 according to the present embodiment.
  • the imaging device 106 includes, for example, an imaging member 120 and a cylindrical member 122 having a substantially cylindrical shape, and the imaging member 120 is provided in the cylindrical member 122.
  • the cover glass (not shown) for protecting the imaging member 120 is provided in the opening surface of the lower end (lower end in FIG. 3) of the cylindrical member 122, for example.
  • a light source (not shown) is provided inside the cylindrical member 122, and illumination light is emitted from the light source to the subject through the cover glass during imaging. Reflected light (observation light) from a subject irradiated with illumination light enters the imaging member 120 through a cover glass (not shown), whereby an image signal (medical imaging image) indicating the subject by the imaging member 120 is obtained. Is obtained).
  • a filter that transmits light in a specific wavelength band and does not transmit light in other wavelength bands and a moving mechanism that selectively arranges the filter on the optical path are provided inside the cylindrical member 122. It is done.
  • the moving mechanism operates in conjunction with, for example, an imaging mode selection switch (described later), and selectively arranges the filter on the optical path so as to correspond to the state of the imaging mode selection switch.
  • the moving mechanism selectively arranges the filter on the optical path by moving the filter based on a switching signal transmitted in response to an operation on an imaging mode selection switch (described later).
  • a near-infrared wavelength band for example, a wavelength band of about 0.7 [micrometer] to 2.5 [micrometer]
  • 5- Fluorescence wavelength band by fluorescence observation using ALA for example, wavelength band of about 0.6 [micrometer] to 0.65 [micrometer]
  • ICG Indocyanine Green fluorescence wavelength band
  • a wavelength band of about 0.82 [micrometer] to 0.85 [micrometer] For example, a wavelength band of about 0.82 [micrometer] to 0.85 [micrometer].
  • the imaging device 106 is provided with a filter corresponding to the application for which the medical observation apparatus 100 is used.
  • a plurality of filters having different wavelength bands to be transmitted may be provided in the imaging device 106.
  • the moving mechanism selectively arranges a filter corresponding to the state of the imaging mode selection switch among the plurality of filters on the optical path.
  • the imaging device 106 can perform imaging with light of a specific wavelength band corresponding to the filter.
  • special light light of a specific wavelength band
  • natural light light of a specific wavelength band
  • the imaging member 120 it is possible to apply a configuration used in various known electronic imaging microscope units.
  • the imaging member 120 includes, for example, an optical system 120a and an image sensor 120b including an imaging device that captures an image to be observed with light that has passed through the optical system 120a.
  • the optical system 120a includes, for example, one or more lenses such as an objective lens, a zoom lens, and a focus lens, and an optical element such as a mirror.
  • Examples of the image sensor 120b include an image sensor using a plurality of imaging elements such as CMOS (Complementary Metal Oxide Semiconductor) and CCD.
  • the imaging member 120 may have a configuration having a pair of imaging elements, that is, a configuration that functions as a so-called stereo camera.
  • the imaging member 120 is generally equipped with an electronic imaging microscope unit such as an AF (Auto Focus) function including at least a zoom function (one or both of an optical zoom function and an electronic zoom function).
  • AF Auto Focus
  • zoom function one or both of an optical zoom function and an electronic zoom function.
  • the imaging member 120 may have a configuration capable of imaging at a so-called high resolution such as 4K or 8K. Since the imaging member 120 is configured to be capable of imaging at a high resolution, a display device 300 having a large display screen of, for example, 50 inches or more while ensuring a predetermined resolution (for example, Full HD image quality). Since the image can be displayed on the screen, the visibility of the operator who views the display screen is improved. In addition, since the imaging member 120 is configured to be capable of imaging at a high resolution, a predetermined resolution is ensured even when a medical captured image is enlarged and displayed on the display screen of the display device 300 by the electronic zoom function. It becomes possible to do.
  • a predetermined resolution for example, Full HD image quality
  • the performance of the optical zoom function in the imaging device 106 can be suppressed, so that the optical system of the imaging device 106 can be simplified.
  • the imaging device 106 can be configured more compactly.
  • the imaging member 120 may be provided with, for example, the filter and a moving mechanism that selectively arranges the filter on the optical path.
  • the imaging device 106 is provided with various operation devices for controlling the operation of the imaging device 106, for example.
  • the zoom switch 124, the focus switch 126, the operation mode selection switch 128, the imaging mode selection switch 130, and the display changeover switch 132 are provided in the imaging device 106.
  • the positions and shapes of the zoom switch 124, the focus switch 126, the operation mode selection switch 128, the imaging mode selection switch 130, and the display changeover switch 132 are not limited to the example shown in FIG. .
  • the zoom switch 124 and the focus switch 126 are examples of operation devices for adjusting the imaging conditions in the imaging device 106.
  • the zoom switch 124 includes, for example, a zoom-in switch 124a that increases the zoom magnification (enlargement magnification) and a zoom-out switch 124b that decreases the zoom magnification. By operating the zoom switch 124, the zoom magnification is adjusted and the zoom is adjusted.
  • the focus switch 126 includes, for example, a distant focus switch 126a that increases the focal distance to the observation target (subject) and a foreground focus switch 126b that decreases the focal distance to the observation target. By operating the focus switch 126, the focal length is adjusted and the focus is adjusted.
  • the operation mode selection switch 128 is an example of an operation device for selecting an operation mode of the arm 104 in the imaging device 106. By operating the operation mode selection switch 128, the operation mode of the arm 104 is changed. Examples of the operation mode of the arm 104 include a fixed mode and a free mode as described above.
  • An example of an operation on the operation mode selection switch 128 is an operation of pressing the operation mode selection switch 128.
  • the operation mode of the arm 104 is in the free mode, and when the operator is not pressing the operation mode selection switch 128, the operation mode of the arm 104 is the fixed mode. It becomes.
  • the imaging mode selection switch 130 is an example of an operation device for selecting an imaging mode of the imaging device 106 in the imaging device 106.
  • an imaging mode in which imaging is performed with special light (hereinafter, referred to as “first imaging mode”) is different from the first imaging mode.
  • first imaging mode an imaging mode in which imaging is performed with special light
  • second imaging mode There are two or more imaging modes (hereinafter referred to as “second imaging mode”). Examples of the second imaging mode according to the present embodiment include an imaging mode in which imaging is performed with natural light and an imaging mode in which imaging is performed using an image enhancement observation technique such as NBI (Narrow Band Imaging).
  • NBI Near Band Imaging
  • a medical captured image captured in the first imaging mode may be referred to as a “first medical captured image”.
  • second imaging mode medical captured images captured in the second imaging mode before the first medical captured image
  • second imaging mode medical captured images captured in the second imaging mode before the first medical captured image
  • the medical captured image captured in the second imaging mode before the first medical captured image is before the time point when the first medical captured image serving as a reference is captured. It means a medical image taken.
  • the first medical captured image serving as the reference for example, the first medical captured image displayed on the display screen of the display device 300 (or the first medical image displayed on the display screen by the control device 200). Captured image).
  • the second medical captured image according to the present embodiment is selected from among the medical captured images captured in the second imaging mode by performing, for example, processing related to the display control method according to the present embodiment described later. Specified.
  • FIG. 4 is an explanatory diagram showing an example of an imaging mode selection switch 130 that constitutes the imaging device 106 included in the medical observation apparatus 100 according to the present embodiment.
  • FIG. 4 shows an example in which the imaging mode selection switch 130 is a rotary switch. Needless to say, the imaging mode selection switch 130 is not limited to the rotary switch.
  • the imaging device 106 When the imaging mode selection switch 130 is in a state where “IR” shown in FIG. 4 is selected, the imaging device 106 operates in an imaging mode (an example of the first imaging mode) in which imaging is performed with light in the near-infrared wavelength band. To do.
  • the imaging mode selection switch 130 When the imaging mode selection switch 130 is in a state where “IR” shown in FIG. 4 is selected, the imaging device 106 has “a filter that transmits light in the near-infrared wavelength band and does not transmit light in other wavelength bands”. Arranged on the optical path.
  • the imaging device 106 When the imaging mode selection switch 130 is in a state where “WLI” shown in FIG. 4 is selected, the imaging device 106 operates in an imaging mode (an example of a second imaging mode) in which imaging is performed with natural light. When the imaging mode selection switch 130 is in a state in which “WLI” shown in FIG. 4 is selected, the imaging device 106 “the filter that transmits light in the near-infrared wavelength band and does not transmit light in other wavelength bands”. Is not placed on the optical path.
  • An operator using the medical observation apparatus 100 operates the imaging mode selection switch 130 to select “IR” shown in FIG. 4 or “WLI” shown in FIG.
  • the imaging mode can be changed.
  • the first imaging mode is an imaging mode in which imaging is performed with light in the near-infrared wavelength band
  • the second imaging mode is an imaging mode in which imaging is performed with natural light.
  • special light observation a state in which the medical observation apparatus 100 performs imaging in an imaging mode in which imaging is performed with special light such as light in the near-infrared wavelength band
  • natural light observation A state in which imaging is performed in an imaging mode in which imaging is performed with natural light may be referred to as “natural light observation”.
  • the first imaging mode according to the present embodiment is not limited to the imaging mode in which imaging is performed with light in the near-infrared wavelength band, and is in the fluorescence wavelength band of fluorescence observation using 5-ALA. There may be. Moreover, in the medical observation apparatus 100, it may be possible to switch a plurality of first imaging modes.
  • the second imaging mode according to the present embodiment is not limited to the imaging mode in which imaging is performed with natural light, and may be an imaging mode in which imaging is performed using a specific technique such as NBI. . Furthermore, as described above, the second imaging mode according to the present embodiment is not limited to one, and there may be two or more.
  • the display changeover switch 132 is an example of an operation device for switching display of the display screen in the imaging device 106.
  • FIG. 3 shows an example in which the display changeover switch 132 is a button switch. Needless to say, the display changeover switch 132 is not limited to a button switch.
  • a plurality of images are simultaneously displayed on the display screen of the display device 300.
  • the plurality of images displayed simultaneously on the display screen of the display device 300 can include, for example, a first medical captured image and a second medical captured image.
  • a first medical captured image can include, for example, a first medical captured image and a second medical captured image.
  • two images are simultaneously displayed on the display screen of the display device 300 when the display changeover switch 132 is in the on state.
  • one image is displayed on the display screen of the display device 300.
  • a medical captured image corresponding to the state of the imaging mode selection switch 130, that is, a medical captured image (first image captured in the first imaging mode). 1 medical image) or a medical image captured in the second imaging mode.
  • the display changeover switch 132 may be referred to as a “simultaneous display button”.
  • FIG 3 illustrates an example in which one display changeover switch 132 is provided in the imaging device 106, but the imaging device 106 has an arbitrary number of displays corresponding to the display switching pattern to be set.
  • a changeover switch 132 may be provided.
  • the image signal generated by imaging by the imaging device 106 is transmitted to the control device 200, for example, and as described above, the control device 200 performs various image processing on the image signal.
  • the medical observation apparatus 100 has a configuration shown with reference to FIGS. 1, 3, and 4, for example.
  • the configuration of the medical observation apparatus according to the present embodiment is not limited to the configuration shown with reference to FIGS. 1, 3, and 4.
  • FIG. 1 shows an example in which the arm 104 is configured to realize six degrees of freedom regarding the driving of the imaging device 106, but the configuration of the arm 104 is a degree of freedom regarding the driving of the imaging device 106. Is not limited to a configuration with 6 degrees of freedom.
  • the arm 104 may be configured so that the imaging device 106 can be appropriately moved according to the application. The number and arrangement of joint portions and links, the direction of the drive axis of the joint portion, and the like are determined by the arm 104 as desired. It is possible to set appropriately so as to have a degree of freedom.
  • FIG. 3 illustrates an example in which various operation devices for controlling the operation of the imaging device 106 are provided in the imaging device 106. However, some or all of the operation devices illustrated in FIG. The imaging device 106 may not be provided. As an example, various operation devices for controlling the operation of the imaging device 106 may be provided in a part other than the imaging device 106 constituting the medical observation apparatus according to the present embodiment. As another example, various operation devices for controlling the operation of the imaging device 106 may be external operation devices such as a remote controller and a foot switch.
  • the medical observation apparatus may have the function of the control apparatus 200.
  • the medical observation device according to the present embodiment includes a processor such as an MPU, and various processes for realizing the function of the control device 200 are performed in the processor.
  • the medical observation apparatus may have the function of the storage device 400.
  • the medical observation device according to the present embodiment includes an arbitrary recording medium capable of storing data such as a nonvolatile memory.
  • the process according to the display control method according to the present embodiment is executed by the medical observation apparatus according to the present embodiment. That is, in the medical observation system according to the present embodiment, the medical observation device according to the present embodiment may function as a medical display control device.
  • FIG. 5 is a block diagram showing an example of the configuration of the medical observation system 1000 according to the present embodiment to which the display control method according to the present embodiment is applied.
  • FIG. 5 shows a part of the configuration of each device constituting the medical observation system 1000 described with reference to FIG. 1 according to the display control method according to the present embodiment.
  • An image signal generated by imaging in the imaging device 106 provided in the medical observation apparatus 100 is transmitted to the control apparatus 200.
  • the display control unit 202 processes the received image signal.
  • the display control unit 202 displays an image on the display screen of the display device 300 and causes the storage device 400 to store the image data.
  • a processor (not shown) functions as the display control unit 202.
  • the display control unit 202 transmits, for example, a display control signal and an image signal appropriately subjected to predetermined image processing to the display device 300.
  • a display control signal including a display command for simultaneously displaying a plurality of images on the display screen and “Image signals corresponding to a plurality of images” or “a display control signal including a display command for displaying one image on the display screen and an image signal corresponding to one image” is transmitted to the display device 300.
  • the display device 300 that has received the display control signal and the image signal displays, for example, the image indicated by the image signal on the display screen according to the display control signal.
  • the display control unit 202 transmits a recording control signal including a recording command and image data indicating an image on which predetermined image processing has been appropriately performed, to the storage device 400.
  • the storage device 400 that has received the recording control signal and the image data stores the image data in accordance with the recording control signal.
  • the display control unit 202 changes the format of the image stored in the storage device 400 according to the imaging mode of the imaging device 106 provided in the medical observation apparatus 100.
  • the display control unit 202 receives the received image.
  • the image indicated by the signal is stored in the storage device 400 as a still image at predetermined time intervals.
  • the predetermined time interval may be a fixed time interval such as 1 [second], and may be changed based on an operation of a person using the medical observation system 1000 such as a medical worker.
  • the time interval may be variable.
  • the display control unit 202 When the still image corresponding to the second imaging mode is stored in the storage device 400 at predetermined time intervals, the display control unit 202 is set as the number of image data indicating the still image stored in the storage device 400.
  • a predetermined threshold value may be compared, and overwriting may be updated in order from a still image having a longer period stored in the storage device 400 (that is, an old still image) in accordance with the comparison result. For example, when the number of image data indicating a still image exceeds a predetermined threshold (or when the number of image data indicating a still image exceeds a predetermined threshold), the display control unit 202 performs overwriting update.
  • the predetermined threshold value may be a fixed value or a variable value that can be changed based on an operation of a person using the medical observation system 1000.
  • the total data size of the medical image captured in the second imaging mode stored in the storage device 400 is set. It becomes possible to limit.
  • the display control unit 202 stores the image indicated by the received image signal in the storage device 400 as a moving image.
  • the display control unit 202 may, for example, “an imaging mode in which an imaging mode is switched from another imaging mode to an imaging mode in which imaging is performed with light in the near-infrared wavelength band, and then imaging is performed with light in the near-infrared wavelength band. Is stored in the storage device 400 as one moving image.
  • the moving image corresponding to the first imaging mode as described above is used as a moving image for auto playback, for example.
  • the display control unit 202 can store the same type of image in the storage device 400 regardless of the imaging mode of the imaging device 106 included in the medical observation apparatus 100.
  • a medical captured image captured by the medical observation device 100 is displayed on the display screen of the display device 300.
  • Image data indicating the captured image is stored in the storage device 400.
  • control device 200 performs processing related to the display control method according to the present embodiment.
  • the processing related to the display control method according to the present embodiment in the control device 200 is performed by, for example, a processor (not shown) serving as the display control unit 202.
  • the control device 200 controls display of a medical captured image.
  • control device 200 displays the first medical captured image and the second medical captured image simultaneously.
  • Examples of the second medical captured image that is displayed on the display screen simultaneously with the first medical captured image include a still image.
  • the second medical image to be displayed simultaneously with the first medical image may be a moving image.
  • the first medical captured image and the second medical captured image are medical captured images captured in different imaging modes in one imaging device such as the imaging device 106 included in the medical observation apparatus 100. It is. Therefore, when the control apparatus 200 performs processing related to the display control method according to the present embodiment, the medical observation system 1000 simultaneously displays medical captured images captured in different imaging modes in the imaging device on the display screen. Is realized.
  • the imaging device can obtain a captured image captured in a plurality of imaging modes at the same time. There is no need to have a configuration. Therefore, when the display control method according to the present embodiment is used, the imaging device does not have to have a configuration including two CCDs unlike a surgical microscope using the technique described in Patent Literature 1, An increase in cost can be suppressed, and the size of the imaging device can be reduced more easily.
  • control device 200 displays, for example, one of the first medical captured image and the second medical captured image. Is also possible.
  • control device 200 controls, for example, part or all of the control according to the first example shown in the following (1) to the control according to the fourth example shown in the following (4).
  • the display By controlling the display, the display of the medical captured image is controlled.
  • the control device 200 transmits a display control signal and an image signal to an image display target device such as the display device 300. This is realized.
  • Control according to display method of medical captured image As a first example of control according to display control method, as a display method of medical captured image Such control will be described.
  • the control device 200 displays, for example, the first medical captured image and the second medical captured image in different display areas on the display screen.
  • the control device 200 displays the display area in which the first medical captured image is displayed so as to be larger than the display area in which the second medical captured image is displayed.
  • the control device 200 displays the first medical captured image on the entire display screen, and displays the second medical captured image on a part of the display screen.
  • the control device 200 uses “PIP (Picture In Picture)” to “display the first medical captured image on the entire display screen and display the second medical captured image on a part of the display screen”. Realize.
  • control device 200 may divide the display screen into a plurality of regions and display the first medical captured image and the second medical captured image in each region.
  • the size of the display area on which the first medical captured image is displayed and the size of the display area on which the second medical captured image is displayed may be the same or different.
  • the method of displaying the medical captured image according to the present embodiment is not limited to the example described above.
  • control device 200 may superimpose and display the first medical captured image and the second medical captured image on the same display area on the display screen.
  • the control device 200 is the same from each of the first medical captured image and the second medical captured image, for example.
  • An object is detected, and the first medical captured image and the second medical captured image are alpha blended so that the positions of the detected objects overlap.
  • the control device 200 displays, for example, the first medical captured image and the second medical captured image on different display devices. You may display on a screen simultaneously.
  • the control device 200 displays a display control signal and an image signal corresponding to each display device with respect to each of the display device that displays the first medical captured image and the display device that displays the second medical captured image.
  • the first medical captured image and the second medical captured image are simultaneously displayed on the display screens of different display devices.
  • the method for displaying the medical captured image may be switchable.
  • the control device 200 switches the display method of the medical captured image based on an operation on an operation device included in the control device 200 or an operation device external to the control device 200.
  • the second medical captured image is “a medical captured image captured before the first medical captured image in the second imaging mode”.
  • the control device 200 for example, from the image data stored in the storage device 400, the first medical captured image displayed on the display screen (an example of a first medical captured image serving as a reference), or In the second imaging mode, which is a candidate for the second medical image based on the first medical image to be displayed on the display screen (another example of the first medical image to be a reference).
  • the captured medical image is extracted.
  • the control device 200 refers to the metadata of the image data indicating the first medical captured image serving as a reference, and identifies the time point when the first medical captured image serving as the reference is captured. Then, the control device 200 specifies the second medical captured image from the extracted medical captured images that are candidates for the second medical captured image.
  • control device 200 identifies the candidate medical image as the second medical image.
  • the control device 200 when there are a plurality of candidate medical captured images, the control device 200, for example, as shown in the following (a) to (c), from among a plurality of candidate medical captured images, A medical captured image to be displayed simultaneously with the first medical captured image is specified. Then, the control device 200 displays the identified medical captured image as a second medical captured image on the display screen simultaneously with the first medical captured image.
  • (A) First identification method of second medical captured image The control device 200, for example, in the second imaging mode within a predetermined period from the time point when the first medical captured image serving as a reference is captured.
  • the medical captured image captured in (1) is specified as the second medical captured image.
  • the predetermined period may be a fixed period (for example, 20 [seconds], 1 [minute], etc.) set in advance, or by a person using the medical observation system 1000 such as a medical worker. It may be a variable period that can be changed based on an operation or the like.
  • the predetermined period includes, for example, imaging mode switching performance in the medical observation apparatus 100 (the performance is, for example, switching of the imaging mode in the medical observation apparatus 100 is completed). It is determined at the time of design or manufacture in consideration of Further, when the predetermined period is a variable period, the predetermined period is, for example, a control device 200 (an apparatus functioning as a medical display control device in the medical observation system 1000) such as an operator or a nurse. The user who uses the example) operates the operation device provided in the control device 200 or the operation device outside the control device 200 such as a remote controller.
  • a control device 200 an apparatus functioning as a medical display control device in the medical observation system 1000
  • the user who uses the example operates the operation device provided in the control device 200 or the
  • the control device 200 selects a medical image randomly selected from a plurality of medical captured images.
  • the captured image is specified as the second medical captured image.
  • the control device 200 performs other identification, for example, a identification method according to a second example described later.
  • the second medical captured image is specified by combining the methods.
  • the control device 200 is, for example, a medical captured image captured before the first medical captured image that is a reference in the second imaging mode. Among these, the image having the highest image evaluation is specified as the second medical captured image.
  • the control device 200 estimates the noise amount of each candidate medical image using an arbitrary method capable of estimating noise from the image, such as Bayesian estimation using a noise amount model. Then, the control device 200 specifies a medical captured image that is a candidate with the smallest amount of noise as the second medical captured image.
  • control device 200 can perform an arbitrary process capable of quantitatively evaluating the image, and can specify the medical captured image having the highest evaluation value as the second medical captured image. is there.
  • control device 200 specifies the second medical captured image by combining the second specifying method and the first specifying method shown in (a). Is also possible.
  • (C) Third identification method of second medical captured image The control device 200 selects an image from among the medical captured images captured before the first medical captured image in the second imaging mode. The image selected based on the selection operation to be selected is specified as the second medical captured image.
  • the control device 200 selects an image selected based on the selection operation based on a signal corresponding to the selection operation acquired from an operation device included in the control device 200 or an operation device external to the control device 200. Identify. Then, the control device 200 sets the specified image as the second medical captured image.
  • the control device 200 automatically displays a UI on which a list of candidate medical images is displayed on a display screen such as the display device 300, for example.
  • the control device 200 determines whether a candidate medical captured image is based on a signal corresponding to a predetermined operation acquired from an operation device included in the control device 200, for example. UIs displayed in a list may be displayed.
  • the control device 200 identifies the second medical captured image, for example, as shown in (a) to (c) above.
  • the second method for specifying a captured medical image is not limited to the examples shown in the above (a) to (c).
  • control related to start and end of display for simultaneously displaying first medical captured image and second medical captured image Control according to display control method
  • control related to the start and end of display for simultaneously displaying a first medical captured image and a second medical captured image will be described.
  • the display for simultaneously displaying the first medical captured image and the second medical captured image may be referred to as “simultaneous display”.
  • the control device 200 performs, for example, the following control (3-1) or the following control (3-2) as the control related to the start and end of the simultaneous display.
  • the control apparatus 200 is configured such that the imaging device to be controlled such as the imaging device 106 included in the medical observation apparatus 100 is in the first imaging mode. When the determination is made, the first medical captured image and the second medical captured image are displayed simultaneously.
  • the control device 200 determines that the imaging device is in the first imaging mode when a first mode switching operation for switching the second imaging mode to the first imaging mode is detected.
  • the control device 200 for example, the switching signal corresponding to the first imaging mode (operation on the imaging mode selection switch 130).
  • the switching signal corresponding to the first imaging mode operation on the imaging mode selection switch 130.
  • the detection method of the first mode switching operation in the control device 200 is not limited to the example shown above.
  • the control device 200 performs the first operation based on a signal acquired from the external operation device. It is possible to detect one mode switching operation.
  • the control apparatus 200 determines whether the imaging device to be controlled is in the first imaging mode.
  • the medical captured image captured in the second imaging mode is displayed.
  • the medical captured image captured in the second imaging mode is different from the second medical captured image, and is not dependent on the time when the first medical captured image is captured. It is.
  • the control device 200 determines that the imaging device is in the second imaging mode when a second mode switching operation for switching the first imaging mode to the second imaging mode is detected.
  • the control device 200 for example, the switching signal corresponding to the second imaging mode (operation on the imaging mode selection switch 130). It is determined that the second mode switching operation has been detected when another example of the switching signal corresponding to is acquired from the medical observation apparatus 100.
  • the detection method of the second mode switching operation in the control device 200 is not limited to the example shown above.
  • the control apparatus 200 performs the second mode switching operation based on a signal acquired from the external operation device. Can be detected.
  • control device 200 detects a display switching operation for switching display when the first medical captured image is displayed In addition, the first medical captured image and the second medical captured image are displayed simultaneously.
  • the control apparatus 200 indicates that a signal indicating that the state of the display changeover switch 132 has changed is medical observation. When acquired from the device 100, it is determined that a display switching operation has been detected.
  • the method of detecting the display switching operation in the control device 200 is not limited to the example shown above.
  • the control device 200 can detect the display switching operation based on a signal acquired from the external operation device. It is.
  • the control device 200 performs the first medical treatment. Only the captured image is displayed.
  • Control according to change of second medical captured image As a fourth example of control according to display control method, the second medical captured image is changed. Such control will be described.
  • the control device 200 When a selection operation for selecting an image is detected when the first medical captured image and the second medical captured image are displayed simultaneously, the control device 200 is displayed on the display screen. The second medical captured image is changed to a second medical captured image corresponding to the selection operation.
  • the control device 200 selects an image selected based on the selection operation based on a signal corresponding to the selection operation acquired from an operation device included in the control device 200 or an operation device external to the control device 200. Identify.
  • the image specified as described above corresponds to the second medical captured image corresponding to the selection operation. Then, the control device 200 replaces the second medical captured image displayed on the display screen with the specified image.
  • the control device 200 displays the second medical imaging displayed based on a signal corresponding to a predetermined operation acquired from an operation device or the like included in the control device 200.
  • a UI that displays a list of second medical captured images that are image replacement candidates may be displayed.
  • a medical worker such as a surgeon desires a second medical imaging image desired to be displayed simultaneously with the first medical imaging image. Since it can be replaced with an image, it is possible to improve the convenience of the medical staff.
  • Examples of control related to the display control method according to the present embodiment are the first example shown in (1) to the fourth example shown in (4) above. It is not limited to examples.
  • control device 200 may include “a medical captured image captured in the second imaging mode” and “a medical captured image captured in the second imaging mode in the first imaging mode”. It is also possible to display the “medical imaged medical image” at the same time.
  • control device 200 may display one or more other images together with the medical captured image.
  • Other images include, for example, an image relating to a patient receiving medical practice such as an image showing the vitals of the patient undergoing medical practice, and an image showing the flow of surgery (for example, the contents of a surgical procedure manual corresponding to the surgical procedure). Image), UI image, and the like.
  • FIG. 6 is an explanatory diagram for explaining an example of the operation of the medical observation system 1000 according to the present embodiment, realized by processing related to the display control method according to the present embodiment.
  • FIG. 6A illustrates an example of state transition of the medical observation apparatus 100 in response to operations on various operation devices included in the medical observation apparatus 100.
  • 6B shows an example of operations of the control device 200 and the storage device 400.
  • FIG. 7 to 10 are diagrams showing examples of medical captured images displayed on the display screen of the display device 300 by the operation of the medical observation system 1000 shown in FIG.
  • FIG. 7 shows an example in which a medical captured image obtained when the medical observation apparatus 100 is natural light observation is displayed on the display screen.
  • FIG. 8 shows an example in which the first medical captured image obtained when the medical observation apparatus 100 is special light observation is displayed on the display screen.
  • FIG. 8 shows an example of a captured image captured with light in the near-infrared wavelength band as the first medical captured image.
  • FIG. 9 shows an example in which “the first medical captured image and the second medical captured image are simultaneously displayed on the display screen.
  • the first medical captured image 8 shows an example of a picked-up image picked up with light in the near-infrared wavelength band in the same manner as in Fig. 8.
  • the second medical pick-up image as in FIG An example of a medical captured image obtained when the observation apparatus 100 is natural light observation is shown.
  • FIG. 10 shows a “medical captured image captured in the second imaging mode” and a “medical image captured before the medical captured image captured in the second imaging mode in the first imaging mode”.
  • the “captured image” is displayed on the display screen at the same time.
  • FIG. 10 illustrates an example of a medical captured image obtained when the medical observation apparatus 100 performs natural light observation as the second medical captured image, as in FIG. 7.
  • FIG. 10 shows an example of a captured image that is captured with light in the near-infrared wavelength band, as in FIG. 8, as the first medical captured image.
  • the storage device 400 stores a still image (second image) of natural light observation every second (an example of every predetermined time interval). An example of a medical captured image) is recorded. Further, on the display screen of the display device 300, for example, a medical captured image obtained when natural light observation shown in FIG. 7 is displayed.
  • the display screen of the display apparatus 300 includes, for example, As shown in FIG. 9, the first medical captured image and the second medical captured image are simultaneously displayed on the display screen.
  • the displayed first medical captured image is a first medical captured image that is a result of the current imaging in the first imaging mode.
  • the second medical captured image displayed at the same time as the first medical captured image is a medical captured image captured in the second imaging mode before the first medical captured image. Examples of the second medical captured image displayed at the same time as the first medical captured image include the still image recorded in the storage device 400 in FIG. 6A.
  • the second medical captured image displayed simultaneously with the first medical captured image may be changeable by performing an operation on an arbitrary operation device such as a remote controller.
  • FIG. 6 (e) For example, when the surgeon operates the imaging mode selection switch 130 of the medical observation apparatus 100 so that “WLI” illustrated in FIG. 4 is selected, the medical observation apparatus 100 performs the natural light observation from the special light observation. Switch to. Then, when the imaging mode is switched in the medical observation device 100, the storage device 400 stops the recording of the special light observation moving image (an example of the first medical imaging image), and every second (predetermined time interval). A still image of natural light observation (an example of a second medical captured image) is recorded in each example.
  • the special light observation moving image an example of the first medical imaging image
  • every second predetermined time interval
  • the medical observation device 100 is natural light observation, for example, when an operator performs an operation of turning on the display changeover switch 132 of the medical observation device 100, the display screen of the display device 300 is displayed as, for example, FIG. As shown in FIG. 10, “medical captured image captured in the second imaging mode” and “medical captured image captured in the second imaging mode in the first imaging mode”. The medical captured image "is simultaneously displayed on the display screen.
  • the “medical captured image captured in the second imaging mode” displayed is a medical captured image that is a result of the current imaging in the second imaging mode.
  • the storage device in FIG. Examples include moving images recorded in 400.
  • a moving image such as the moving image recorded in the storage device 400 in FIG. 6B is displayed on the display screen, the moving image is repeatedly reproduced.
  • a medical image captured in the first imaging mode and before the medical image captured in the second imaging mode is operated on an arbitrary operation device such as a remote controller. May be changeable.
  • the processing relating to the display control method according to the present embodiment is performed in the control device 200, whereby the operation of the medical observation system 1000 as described with reference to FIG. 6 is realized.
  • achieved by the process which concerns on the display control method which concerns on this embodiment is not restricted to the example shown with reference to FIG.
  • two medical captured images are displayed on the display screen at the same time
  • three or more medical captured images may be displayed on the display screen at the same time.
  • one or more other images may be displayed on the display screen together with the medical captured image.
  • the medical observation system uses, for example, the following:
  • the effect shown is produced.
  • the effects produced by using the display control method according to the present embodiment are not limited to the examples shown below.
  • the medical imaging image (still image or moving image) obtained in the previous imaging mode is displayed at the same time as the medical imaging image obtained in the current imaging mode. It is not necessary to adopt a configuration including two CCDs as in a surgical microscope using the above technique. Therefore, an increase in the cost of the imaging device can be suppressed, and the imaging device can be more easily downsized.
  • the frame rate may drop, but in the medical observation system according to the present embodiment, medical imaging images are recorded for each imaging mode.
  • the frame rate does not drop.
  • a program for causing a computer system to function as the medical display control apparatus according to the present embodiment (for example, a program capable of executing processing according to the display control method according to the present embodiment) is a processor in the computer system.
  • the computer system according to the present embodiment includes a single computer or a plurality of computers.
  • a series of processing related to the display control method according to the present embodiment is performed by the computer system according to the present embodiment.
  • a program for causing a computer system to function as the medical display control apparatus according to the present embodiment is executed by a processor or the like in the computer system, thereby performing the process according to the display control method according to the present embodiment described above.
  • the effect produced by the realized display can be produced.
  • a program for causing a computer system to function as the medical display control apparatus according to the present embodiment is provided.
  • the present embodiment further stores the program.
  • a recorded recording medium can also be provided.
  • a medical display control apparatus including a display control unit that simultaneously displays a second medical captured image captured before one medical captured image.
  • the display control unit displays (2) such that a display area in which the first medical captured image is displayed is larger than a display area in which the second medical captured image is displayed.
  • the display control unit determines that the imaging device is in the first imaging mode when a first mode switching operation for switching the second imaging mode to the first imaging mode is detected.
  • the medical display control apparatus according to (7).
  • the display control unit when it is determined that the imaging device is in the second imaging mode after the imaging device is determined to be in the first imaging mode, The medical display control apparatus according to (7) or (8), wherein a medical captured image captured in the second imaging mode is displayed.
  • the display control unit determines that the imaging device is in the second imaging mode when a second mode switching operation for switching the first imaging mode to the second imaging mode is detected.
  • the medical display control apparatus according to (9).
  • the display control unit is configured to detect the first medical image and the second medical image when a display switching operation for switching a display is detected while the first medical image is displayed.
  • the medical display control apparatus according to any one of (1) to (6), wherein a captured image is displayed simultaneously.
  • the display control unit The medical display control apparatus according to (11), which displays only one medical captured image.
  • the display control unit displays a display screen when a selection operation for selecting an image is detected when the first medical captured image and the second medical captured image are displayed simultaneously.
  • the second medical captured image is a medical captured image captured in the second imaging mode within a predetermined period from the time when the first medical captured image is captured.
  • the predetermined period is a fixed period set in advance or a period set based on a user operation using the medical display control apparatus.
  • the second medical captured image is an image having the highest image evaluation among medical captured images captured before the first medical captured image in the second imaging mode. 1) The medical display control device according to any one of (15).
  • the second medical captured image is selected based on a selection operation for selecting an image from the medical captured images captured before the first medical captured image in the second imaging mode.
  • the medical display control device according to any one of (1) to (13), wherein the medical display control device is an image.
  • An arm configured by connecting a plurality of links to each other by joints; An imaging device supported by the arm; A first medical imaging image captured in a first imaging mode that performs imaging with special light in the imaging device; and a second imaging mode different from the first imaging mode in the imaging device; A display control unit that simultaneously displays a second medical captured image captured before the first medical captured image; A medical observation apparatus comprising: (19) A first medical image captured in a first imaging mode that performs imaging with special light in the imaging device; and a second imaging mode that is different from the first imaging mode in the imaging device; A display control method executed by a medical display control apparatus, comprising: simultaneously displaying a second medical captured image captured before the first medical captured image.
  • a medical observation apparatus comprising: an arm configured by connecting a plurality of links to each other by joints; and an imaging device supported by the arm; A display device; A first medical imaging image captured in a first imaging mode that performs imaging with special light in the imaging device; and a second imaging mode different from the first imaging mode in the imaging device; A medical display control device comprising a display control unit for simultaneously displaying a second medical image captured before the first medical image on the display screen of the display device; A medical observation system.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Robotics (AREA)
  • Gynecology & Obstetrics (AREA)
  • Endoscopes (AREA)

Abstract

撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、撮像デバイスにおいて、第1の撮像モードとは異なる第2の撮像モードで、第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部を備える、医療用表示制御装置が、提供される。

Description

医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム
 本開示は、医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システムに関する。
 近年、医療現場においては、手術をサポートするために、患部などの観察対象を拡大観察することが可能な医療用観察装置が用いられる場合がある。医療用観察装置としては、例えば、光学式の顕微鏡を備える医療用観察装置と、電子撮像式の顕微鏡として機能する撮像デバイスを備える医療用観察装置とが挙げられる。以下では、上記光学式の顕微鏡を備える医療用観察装置を「光学式の医療用観察装置」と示す。また、以下では、上記撮像デバイスを備える医療用観察装置を、「電子撮像式の医療用観察装置」または単に「医療用観察装置」と示す場合がある。
 このような中、波長帯域が異なる2種類の画像を撮像することが可能な、光学式の医療用観察装置に係る技術が開発されている。可視波長帯域の可視光画像と近赤外波長帯域の蛍光画像とを撮像することが可能な手術用顕微鏡に係る技術としては、例えば下記の特許文献1に記載の技術が挙げられる。
特開2010-213995号公報
 例えば特許文献1に記載の手術用顕微鏡(光学式の医療用観察装置に該当する。)は、可視波長帯域の光の観察像を撮像するCCD(Charge Coupled Device)と、可視波長帯域の光の観察像を撮像するCCDとを、撮像素子として備えることによって、可視波長帯域の可視光画像と近赤外波長帯域の蛍光画像とを撮像する。よって、特許文献1に記載の技術を用いる場合、手術用顕微鏡を用いる使用者は、波長帯域が異なる2種類の画像を観察することができる。
 しかしながら、例えば特許文献1に記載の技術を用いる手術用顕微鏡では、可視波長帯域の光の観察像を撮像するCCDと、可視波長帯域の光の観察像を撮像するCCDという、2つのCCDを備える必要がある。ここで、特許文献1に記載の技術を用いる手術用顕微鏡のように2つのCCDを備える構成をとる場合には、装置のコストが増加する恐れが
あり、また、装置の小型化が困難となる。
 本開示では、撮像デバイスにおいて異なる撮像モードで撮像された医療用撮像画像を、同時に表示画面に表示させることが可能な、新規かつ改良された医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システムを提案する。
 本開示によれば、撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、上記撮像デバイスにおいて、上記第1の撮像モードとは異なる第2の撮像モードで、上記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部を備える、医療用表示制御装置が、提供される。
 また、本開示によれば、複数のリンクが関節部によって互いに連結されて構成されるアームと、上記アームにより支持される撮像デバイスと、上記撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、上記撮像デバイスにおいて、上記第1の撮像モードとは異なる第2の撮像モードで、上記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部と、を備える、医療用観察装置が、提供される。
 本開示によれば、撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、上記撮像デバイスにおいて、上記第1の撮像モードとは異なる第2の撮像モードで、上記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させるステップを有する、医療用表示制御装置により実行される表示制御方法が、提供される。
 また、本開示によれば、複数のリンクが関節部によって互いに連結されて構成されるアームと、上記アームにより支持される撮像デバイスとを備える、医療用観察装置と、表示装置と、上記撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、上記撮像デバイスにおいて、上記第1の撮像モードとは異なる第2の撮像モードで、上記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、上記表示装置の表示画面に、同時に表示させる表示制御部を備える、医療用表示制御装置と、を有する、医療用観察システムが、提供される。
 本開示によれば、撮像デバイスにおいて異なる撮像モードで撮像された医療用撮像画像を、同時に表示画面に表示させることができる。
 なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
本実施形態に係る医療用観察システムの構成の一例を示す説明図である。 本実施形態に係る医療用観察システムが使用されるユースケースの一例を示す説明図である。 本実施形態に係る医療用観察装置が備える撮像デバイスの構成の一例を説明するための説明図である。 本実施形態に係る医療用観察装置が備える撮像デバイスを構成する撮像モード選択スイッチの一例を示す説明図である。 本実施形態に係る表示制御方法が適用される本実施形態に係る医療用観察システムの構成の一例を示すブロック図である。 本実施形態に係る表示制御方法に係る処理により実現される、本実施形態に係る医療用観察システムの動作の一例を説明するための説明図である。 図6に示す医療用観察システムの動作により、表示装置の表示画面に表示される医療用撮像画像の一例を示す図である。 図6に示す医療用観察システムの動作により、表示装置の表示画面に表示される医療用撮像画像の一例を示す図である。 図6に示す医療用観察システムの動作により、表示装置の表示画面に表示される医療用撮像画像の一例を示す図である。 図6に示す医療用観察システムの動作により、表示装置の表示画面に表示される医療用撮像画像の一例を示す図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 また、以下では、下記に示す順序で説明を行う。
  1.本実施形態に係る医療用観察システム
  2.本実施形態に係る表示制御方法
  3.本実施形態に係るプログラム
(本実施形態に係る医療用観察システム)
 まず、本実施形態に係る医療用観察システムの一例について説明する。
 なお、以下では、本実施形態に係る医療用観察装置が電子撮像式の医療用観察装置である場合を主に例に挙げるが、本実施形態に係る医療用観察装置は、電子撮像式の医療用観察装置に限られない。例えば、本実施形態に係る医療用観察装置は、内視鏡装置などの、“特殊光(後述する)で撮像を行う撮像モードを含む複数の撮像モードを有し、撮像モードを切り替えて撮像を行うことが可能な、任意の医療用観察装置”であってもよい。
[1]医療用観察システムの構成
 図1は、本実施形態に係る医療用観察システム1000の構成の一例を示す説明図である。医療用観察システム1000は、例えば、医療用観察装置100と、制御装置200と、表示装置300と、記憶装置400とを有する。
 なお、本実施形態に係る医療用観察システムは、図1に示す例に限られない。
 例えば、本実施形態に係る医療用観察システムでは、医療用観察装置100が制御装置200の機能を有していてもよい。医療用観察装置100が制御装置200の機能を有する場合、本実施形態に係る医療用観察システムは、例えば、制御装置200を有していなくてよい。
 また、本実施形態に係る医療用観察システムでは、例えば、医療用観察装置100または制御装置200が、記憶装置400の機能を有していてもよい。医療用観察装置100または制御装置200が、記憶装置400の機能を有する場合、本実施形態に係る医療用観察システムは、例えば、記憶装置400を有していなくてよい。
 また、本実施形態に係る医療用観察システムは、例えば、医療用観察装置100、制御装置200、および表示装置300のうちの1または2以上を、複数有する構成であってもよい。
 本実施形態に係る医療用観察システムが医療用観察装置100と制御装置200とを複数有する構成である場合、医療用観察装置100と制御装置200とが一対一に対応付けられていてもよいし、複数の医療用観察装置100が1つの制御装置200に対応付けられていてもよい。複数の医療用観察装置100が1つの制御装置200に対応付けられている場合、制御装置200では、例えば切り替え操作などが行われることによって、どの医療用観察装置100を制御するのかが、切り替えられる。
 また、本実施形態に係る医療用観察システムが医療用観察装置100と表示装置300とを複数有する構成である場合、医療用観察装置100と表示装置300とが一対一に対応付けられていてもよいし、複数の医療用観察装置100が1つの表示装置300に対応付けられていてもよい。複数の医療用観察装置100が1つの表示装置300に対応付けられている場合、表示装置300では、例えば切り替え操作などが行われることによって、どの医療用観察装置100において撮像された撮像画像を表示画面に表示させるのかが、切り替えられる。
 また、上述したように、本実施形態に係る医療用観察システムでは、図1に示す医療用観察装置100の代わりに、“特殊光(後述する)で撮像を行う撮像モードを含む複数の撮像モードを有し、撮像モードを切り替えて撮像を行うことが可能な、任意の医療用観察装置”を有していてもよい。
 図2は、本実施形態に係る医療用観察システム1000が使用されるユースケースの一例を示す説明図である。
 医療用観察装置100が備える撮像デバイス(後述する)によって、観察対象の患者PA(医療行為を受ける対象の患者)が撮像される。以下では、上記医療行為を受ける対象の患者が撮像された撮像画像などの、本実施形態に係る医療用観察装置が撮像した撮像画像を、「医療用撮像画像」と示す。
 医療用観察装置100において撮像された医療用撮像画像は、表示装置300の表示画面に表示される。そして、医療用観察装置100を用いて医療行為を行う術者OP(医療用観察装置100のユーザの一例)は、表示装置300の表示画面に表示されている医療用撮像画像を見ながら、患者PAに対して医療行為を行う。
 また、術者OPは、フットスイッチFSなどの医療用観察装置100の外部の操作デバイス、または、医療用観察装置100が備える操作デバイス(後述する)を操作することによって、医療用観察装置100が備えるアーム(後述する)や撮像デバイス(後述する)などを動作させ、医療用観察装置100を所望の状態にさせる。
 以下、医療用観察システム1000を構成する各装置について、説明する。
[1-1]表示装置300
 表示装置300は、医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。表示装置300は、例えば、医療用観察装置100において撮像された医療用撮像画像(動画像、または、複数の静止画像。以下、同様とする。)や、UI(User Interface)に係る画像などの、様々な画像を表示画面に表示する。また、表示装置300は、3D表示が可能な構成であってもよい。表示装置300における表示は、例えば、制御装置200によって制御される。
 医療用観察システム1000において表示装置300は、例えば、手術室の壁面や天井、床面などの、手術室内において術者などの手術に関わる者により視認されうる任意の場所に設置される。表示装置300としては、例えば、液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイなどが挙げられる。
 なお、表示装置300は、上記に示す例に限られない。
 例えば、表示装置300は、ヘッドマウントディスプレイやアイウェア型の装置などのような、術者などが身体に装着して用いる任意のウェアラブル装置であってもよい。
 表示装置300は、例えば、表示装置300が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
[1-2]記憶装置400
 記憶装置400は、医療用観察システム1000における記憶手段であり、医療用観察装置100からみて外部の記録媒体に該当する。記憶装置400は、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどの、データを記憶可能な任意の記録媒体を備える。
 記憶装置400には、例えば、後述する第1の医療用撮像画像や第2の医療用撮像画像などの画像を示すデータや、患者に関するデータなどの、様々なデータが記憶される。
 記憶装置400は、任意の通信方式の有線通信または任意の通信方式の無線通信によって、制御装置200などの外部装置と接続され、記憶装置400に記憶されているデータは、外部装置により適宜読み出される。なお、図1では、記憶装置400が制御装置200と接続されている例を示しているが、記憶装置400は、医療用観察装置100や表示装置300と接続されていてもよい。
 記憶装置400は、例えば、記憶装置400が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
[1-3]制御装置200
 制御装置200は、医療用観察装置100における動作と表示装置300における動作とをそれぞれ制御する。また、制御装置200は、例えば、記憶装置400へのデータの書き込みと、記憶装置400からのデータの読み出しを制御する。つまり、制御装置200は、医療用観察システム1000を構成する各種機器の動作を制御する役目を果たす。
 また、制御装置200は、例えば後述する本実施形態に係る表示制御方法に係る処理を行う役目を果たす。後述する本実施形態に係る表示制御方法に係る処理を行う役目を果たす制御装置200は、医療用観察システム1000において、医療用表示制御装置として機能することとなる。
 制御装置200が後述する本実施形態に係る表示制御方法に係る処理を行うことによって、表示制御方法に係る処理の結果に応じた画像が、表示装置300の表示画面に表示される。本実施形態に係る表示制御方法に係る処理によって表示装置300の表示画面に表示される画像の例については、後述する。
 制御装置200は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサ(図示せず)と、ROM(Read Only Memory。図示せず)と、RAM(Random Access Memory。図示せず)と、記録媒体(図示せず)と、通信デバイス(図示せず)とを、備える。制御装置200は、例えば、制御装置200が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
 プロセッサ(図示せず)は、医療用観察装置100などの制御対象の制御に係る処理を行う。また、プロセッサ(図示せず)は、例えば表示制御部(後述する)として機能し、後述する本実施形態に係る表示制御方法に係る処理を主導的に行う。なお、本実施形態に係る表示制御方法に係る処理は、プロセッサ(図示せず)と別体の処理回路により行われてもよい。
 ROM(図示せず)は、プロセッサ(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、プロセッサ(図示せず)により実行されるプログラムなどを一時的に記憶する。
 記録媒体(図示せず)は、制御装置200が備える記憶手段であり、例えば、制御に係るデータや各種アプリケーションなどの、様々なデータを記憶する。
 また、記録媒体(図示せず)には、医療用観察装置100が備える撮像デバイス(後述する)により撮像された医療用撮像画像を示す画像データ(後述する第1の医療用撮像画像を示す画像データと、後述する第2の医療用撮像画像を示す画像データとの一方または双方)が記憶されてもよい。記録媒体(図示せず)に上記画像データが記憶される場合、制御装置200は、例えば、記憶装置400として機能することとなる。
 ここで、記録媒体(図示せず)としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記録媒体(図示せず)は、制御装置200から着脱可能であってもよい。
 通信デバイス(図示せず)は、制御装置200が備える通信手段であり、医療用観察装置100や表示装置300、記憶装置400などの外部装置と、無線または有線で通信を行う役目を果たす。ここで、通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF(Radio Frequency)回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。
 制御装置200としては、例えば、“メディカルコントローラ”や、“サーバなどのコンピュータ”など、本実施形態に係る医療用観察システムを構成する各種機器の動作を制御することが可能な任意の機器が、挙げられる。また、制御装置200が記憶装置400として機能する場合、制御装置200は、例えば“レコーダ”など、データを記憶することが可能な任意の機器であってもよい。また、制御装置200は、例えば、上記のような機器に組み込むことが可能な、IC(Integrated Circuit)であってもよい。
 制御装置200における制御の一例を挙げると、制御装置200は、例えば、医療用観察装置100に対する操作に基づいて、医療用観察装置100を、当該操作に対応する動作モード(後述する)で動作させる。また、制御装置200は、例えば、医療用観察装置100に対する操作に基づいて、医療用観察装置100が備える撮像デバイス(後述する)における撮像を制御する。本実施形態に係る撮像の制御としては、例えば、ズーム倍率の制御と焦点距離の制御との一方または双方が、挙げられる。
 また、医療用観察装置100から送信される、医療用観察装置100が備える撮像デバイス(後述する)における撮像により生成された画像信号が受信された場合、制御装置200では、例えばプロセッサ(図示せず)において当該画像信号に対する画像処理が行われる。本実施形態に係る画像処理としては、例えば、ガンマ補正、ホワイトバランスの調整、電子ズーム機能に係る画像の拡大または縮小、または、画素間補正などの各種処理のうちの、1または2以上の処理が、挙げられる。なお、本実施形態に係る医療用観察システムでは、本実施形態に係る画像処理は、医療用観察装置100において行われてもよい。
 制御装置200は、例えば、表示命令を含む表示制御信号と、上記のような画像処理が行われた画像信号とを、表示装置300に送信する。表示制御信号と画像信号とが表示装置300に送信されることによって、表示装置300の表示画面には、観察対象が撮像された医療用撮像画像(例えば、術部が撮像された医療用撮像画像)が、光学ズーム機能と電子ズーム機能との一方または双方によって所望の倍率に拡大または縮小されて表示される。
 なお、制御装置200が表示装置300の表示画面に表示させる医療用撮像画像は、上記に示す例に限られない。制御装置200が表示装置300の表示画面に表示させる医療用撮像画像の例については、後述する。
[1-4]医療用観察装置100
 医療用観察装置100は、電子撮像式の医療用観察装置である。例えば手術時に医療用観察装置100が用いられる場合、術者(医療用観察装置100のユーザの一例)は、医療用観察装置100により撮像されて、表示装置300の表示画面に表示された医療用撮像画像を参照しながら術部を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。
 医療用観察装置100は、例えば、ベース102と、アーム104と、撮像デバイス106とを備える。
 また、図1では示していないが、医療用観察装置100は、例えば制御装置200が備える通信デバイス(図示せず)に対応する通信方式で通信を行う通信デバイス(図示せず)を、備えていてもよい。なお、例えば、撮像デバイス106と制御装置200とが有線で接続されている場合には、医療用観察装置100は、別途通信デバイス(図示せず)を備えない構成をとることが可能である。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
[1-4-1]ベース102
 ベース102は、医療用観察装置100の基台であり、アーム104の一端が接続されて、アーム104と撮像デバイス106とを支持する。
 また、ベース102には例えばキャスタが設けられ、医療用観察装置100は、キャスタを介して床面と接地する。キャスタが設けられることにより、医療用観察装置100は、キャスタによって床面上を容易に移動することが可能である。
[1-4-2]アーム104
 アーム104は、複数のリンクが関節部によって互いに連結されて構成される。
 また、アーム104は、撮像デバイス106を支持する。アーム104により支持された撮像デバイス106は3次元的に移動可能であり、移動後の撮像デバイス106は、アーム104によって、位置および姿勢が保持される。
 より具体的には、アーム104は、例えば、複数の関節部110a、110b、110c、110d、110e、110fと、関節部110a、110b、110c、110d、110e、110fによって互いに回動可能に連結される複数のリンク112a、112b、112c、112d、112e、112fとから構成される。関節部110a、110b、110c、110d、110e、110fそれぞれの回転可能範囲は、アーム104の所望の動きが実現されるように、設計段階や製造段階などにおいて任意に設定される。
 つまり、図1に示す医療用観察装置100では、アーム104を構成する6つの関節部110a、110b、110c、110d、110e、110fに対応する6つの回転軸(第1軸O1、第2軸O2、第3軸O3、第4軸O4、第5軸O5、および第6軸O6)によって、撮像デバイス106の移動に関して6自由度が実現されている。より具体的には、図1に示す医療用観察装置100では、並進3自由度、および回転3自由度の6自由度の動きが実現される。
 関節部110aは、略円柱形状を有し、関節部110aの先端部分(図1における下端部分)で、撮像デバイス106(図1における撮像デバイス106の上端部分)を、撮像デバイス106の中心軸と平行な回転軸(第1軸O1)まわりに回動可能なように支持する。ここで、医療用観察装置100は、第1軸O1が撮像デバイス106における光軸と一致するように構成される。つまり、図1に示す第1軸O1まわりに撮像デバイス106を回動させることによって、撮像デバイス106により撮像された医療用撮像画像は、視野が回転するように変更される画像となる。
 リンク112aは、略棒状の部材であり、関節部110aを固定的に支持する。リンク112aは、例えば、第1軸O1と直交する方向に延伸され、関節部110bに接続される。
 関節部110bは、略円柱形状を有し、リンク112aを、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能なように支持する。また、関節部110bには、リンク112bが固定的に接続される。
 リンク112bは、略棒状の部材であり、第2軸O2と直交する方向に延伸される。また、リンク112bには、関節部110bと関節部110cとがそれぞれ接続される。
 関節部110cは、略円柱形状を有し、リンク112bを、第1軸O1および第2軸O2それぞれと互いに直交する回転軸(第3軸O3)まわりに回動可能なように支持する。また、関節部110cには、リンク112cの一端が固定的に接続される。
 ここで、第2軸O2および第3軸O3まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、水平面内での撮像デバイス106の位置が変更されるように、撮像デバイス106を移動させることができる。つまり、医療用観察装置100では、第2軸O2および第3軸O3まわりの回転が制御されることにより、医療用撮像画像の視野を平面内で移動させることが可能になる。
 リンク112cは、一端が略円柱形状を有し、他端が略棒状を有する部材である。リンク112cの一端側には、関節部110cの中心軸と略円柱形状の中心軸とが同一となるように、固定的に接続される。また、リンク112cの他端側には、関節部110dが接続される。
 関節部110dは、略円柱形状を有し、リンク112cを、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能なように支持する。関節部110dには、リンク112dが固定的に接続される。
 リンク112dは、略棒状の部材であり、第4軸O4と直交するように延伸される。リンク112dの一端は、関節部110dの略円柱形状の側面に当接するように、関節部110dに固定的に接続される。また、リンク112dの他端(関節部110dが接続される側とは反対側の端)には、関節部110eが接続される。
 関節部110eは、略円柱形状を有し、リンク112dの一端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能なように支持する。また、関節部110eには、リンク112eの一端が固定的に接続される。
 ここで、第4軸O4および第5軸O5は、撮像デバイス106を垂直方向に移動させうる回転軸である。第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106の垂直方向の位置が変わる。よって、第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106と、患者の術部などの観察対象との距離を変えることが、可能となる。
 リンク112eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材とが、組み合わされて構成される部材である。リンク112eの第1の部材の鉛直方向に延伸する部位には、関節部110eが固定的に接続される。また、リンク112eの第2の部材には、関節部110fが接続される。
 関節部110fは、略円柱形状を有し、リンク112eを、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能なように支持する。また、関節部110fには、リンク112fが固定的に接続される。
 リンク112fは、略棒状の部材であり、鉛直方向に延伸される。リンク112fの一端は、関節部110fが接続される。また、リンク112fの他端(関節部110fが接続される側とは反対側の端)は、ベース102に固定的に接続される。
 アーム104が上記に示す構成を有することによって、医療用観察装置100では、撮像デバイス106の移動に関して6自由度が実現される。
 なお、アーム104の構成は、上記に示す例に限られない。
 例えば、アーム104の関節部110a、110b、110c、110d、110e、110fそれぞれには、関節部110a、110b、110c、110d、110e、110fそれぞれにおける回転を規制するブレーキが設けられていてもよい。本実施形態に係るブレーキとしては、例えば、機械的に駆動するブレーキや、電気的に駆動する電磁ブレーキなど、任意の方式のブレーキが挙げられる。
 上記ブレーキの駆動は、例えば制御装置200によって制御される。上記ブレーキの駆動が制御されることにより、医療用観察装置100では、アーム104の動作モードが設定される。アーム104の動作モードとしては、例えば、固定モードとフリーモードとが挙げられる。
 ここで、本実施形態に係る固定モードとは、例えば、アーム104に設けられる各回転軸における回転がブレーキにより規制されることにより、撮像デバイス106の位置および姿勢が固定される動作モードである。
 また、本実施形態に係るフリーモードとは、上記ブレーキが解除されることにより、アーム104に設けられる各回転軸が自由に回転可能となる動作モードである。例えば、フリーモードでは、術者による直接的な操作によって撮像デバイス106の位置および姿勢を調整することが可能となる。ここで、本実施形態に係る直接的な操作とは、例えば、術者が手で撮像デバイス106を把持し、当該撮像デバイス106を直接移動させる操作のことを意味する。
[1-4-3]撮像デバイス106
 撮像デバイス106は、アーム104により支持され、例えば患者の術部などの観察対象を撮像する。撮像デバイス106における撮像は、例えば制御装置200によって制御される。
 撮像デバイス106は、例えば電子撮像式の顕微鏡に対応する構成を有する。
 図3は、本実施形態に係る医療用観察装置100が備える撮像デバイス106の構成の一例を説明するための説明図である。
 撮像デバイス106は、例えば、撮像部材120と、略円筒形状を有する筒状部材122とを有し、撮像部材120は、筒状部材122内に設けられる。
 筒状部材122の下端(図3における下側の端)の開口面には、例えば、撮像部材120を保護するためのカバーガラス(図示せず)が設けられる。
 また、例えば筒状部材122の内部には光源(図示せず)が設けられ、撮像時には、当該光源からカバーガラス越しに被写体に対して照明光が照射される。照明光が照射された被写体からの反射光(観察光)が、カバーガラス(図示せず)を介して撮像部材120に入射することにより、撮像部材120によって被写体を示す画像信号(医療用撮像画像を示す画像信号)が得られる。
 また、筒状部材122の内部には、特定の波長帯域の光を透過させ、他の波長帯域の光を透過させないフィルタと、当該フィルタを光路上に選択的に配置する移動機構とが、設けられる。上記移動機構は、例えば撮像モード選択スイッチ(後述する)に連動して動作し、撮像モード選択スイッチの状態に対応するように、上記フィルタを光路上に選択的に配置する。上記移動機構は、例えば、撮像モード選択スイッチ(後述する)に対する操作に応じて伝達される切替信号に基づいて、上記フィルタを移動させることによって、上記フィルタを光路上に選択的に配置する。
 本実施形態に係るフィルタが透過させる特定の波長帯域としては、例えば、近赤外線の波長帯域(例えば、約0.7[マイクロメートル]~2.5[マイクロメートル]の波長帯域)や、5-ALA(5-Aminolevulinic Acid)を用いた蛍光観察による蛍光波長帯域(例えば、約0.6[マイクロメートル]~0.65[マイクロメートル]の波長帯域)、ICG(Indocyanine Green)の蛍光波長帯域(例えば、約0.82[マイクロメートル]~0.85[マイクロメートル]の波長帯域)などが、挙げられる。
 医療用観察装置100では、医療用観察装置100が使用される用途に応じたフィルタが、撮像デバイス106に設けられる。
 なお、医療用観察装置100では、透過させる波長帯域が異なる複数のフィルタが、撮像デバイス106に設けられていてもよい。複数のフィルタが撮像デバイス106に設けられている場合、上記移動機構は、複数のフィルタのうちの、撮像モード選択スイッチの状態に対応するフィルタを、光路上に選択的に配置する。
 上記フィルタが光路上に配置されることによって、撮像デバイス106では、上記フィルタに対応する特定の波長帯域の光で撮像を行うことが可能となる。
 なお、上記では、フィルタが光路上に配置されることにより、特定の波長帯域の光で撮像が行われる例を示したが、特定の波長帯域の光で撮像を行うための医療用観察装置100の構成が、上記に示す例に限られないことは、言うまでもない。
 以下では、特定の波長帯域の光を「特殊光」と示す。また、以下では、フィルタなどにより波長帯が制限されない光を、特殊光と区別して「自然光」と示す。
 撮像部材120としては、各種の公知の電子撮像式の顕微鏡部に用いられている構成を適用することが可能である。
 一例を挙げると、撮像部材120は、例えば、光学系120aと、光学系120aを通過した光により観察対象の像を撮像する撮像素子を含むイメージセンサ120bとを含んで構成される。光学系120aは、例えば、対物レンズ、ズームレンズおよびフォーカスレンズなどの1または2以上のレンズとミラーなどの光学素子で構成される。イメージセンサ120bとしては、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCDなどの撮像素子を複数用いたイメージセンサが、挙げられる。
 撮像部材120は、1対の撮像素子を有する構成、すなわち、いわゆるステレオカメラとして機能する構成であってもよい。撮像部材120には、少なくともズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)を含む、AF(Auto Focus)機能などの、一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能が搭載される。
 また、撮像部材120は、例えば4K、8Kなどの、いわゆる高解像度での撮像が可能な構成であってもよい。撮像部材120が高解像度での撮像が可能に構成されることにより、所定の解像度(例えば、Full HD画質など)を確保しつつ、例えば50インチ以上などの大画面の表示画面を有する表示装置300に画像を表示させることが可能となるので、当該表示画面を見る術者の視認性が向上する。また、撮像部材120が高解像度での撮像が可能に構成されることにより、医療用撮像画像が電子ズーム機能によって拡大されて表示装置300の表示画面に表示されたとしても、所定の解像度を確保することが可能となる。さらに、電子ズーム機能を用いて所定の解像度が確保される場合には、撮像デバイス106における光学ズーム機能の性能を抑えることが可能となるので、撮像デバイス106の光学系をより簡易にすることができ、撮像デバイス106をより小型に構成することができる。
 また、上述したように、撮像部材120には、例えば、上記フィルタと、上記フィルタを光路上に選択的に配置する移動機構とが設けられていてもよい。
 撮像デバイス106には、例えば、撮像デバイス106の動作を制御するための各種の操作デバイスが設けられる。例えば図3では、ズームスイッチ124と、フォーカススイッチ126と、動作モード選択スイッチ128と、撮像モード選択スイッチ130と、表示切り替えスイッチ132とが、撮像デバイス106に設けられている。なお、ズームスイッチ124、フォーカススイッチ126、動作モード選択スイッチ128、撮像モード選択スイッチ130、および表示切り替えスイッチ132が設けられる位置と形状とが、図3に示す例に限られないことは、言うまでもない。
 ズームスイッチ124とフォーカススイッチ126とは、撮像デバイス106における撮像条件を調整するための操作デバイスの一例である。
 ズームスイッチ124は、例えば、ズーム倍率(拡大倍率)を大きくするズームインスイッチ124aと、ズーム倍率を小さくするズームアウトスイッチ124bとで構成される。ズームスイッチ124に対する操作が行われることによりズーム倍率が調整されて、ズームが調整される。
 フォーカススイッチ126は、例えば、観察対象(被写体)までの焦点距離を遠くする遠景フォーカススイッチ126aと、観察対象までの焦点距離を近くする近景フォーカススイッチ126bとで構成される。フォーカススイッチ126に対する操作が行われることにより焦点距離が調整されて、フォーカスが調整される。
 動作モード選択スイッチ128は、撮像デバイス106における、アーム104の動作モードを選択するための操作デバイスの一例である。動作モード選択スイッチ128に対する操作が行われることにより、アーム104の動作モードが変更される。アーム104の動作モードとしては、例えば上述したように、固定モードとフリーモードとが挙げられる。
 動作モード選択スイッチ128に対する操作の一例としては、動作モード選択スイッチ128を押下する操作が、挙げられる。例えば、術者が動作モード選択スイッチ128を押下している間、アーム104の動作モードがフリーモードとなり、術者が動作モード選択スイッチ128を押下していないときには、アーム104の動作モードが固定モードとなる。
 撮像モード選択スイッチ130は、撮像デバイス106における、撮像デバイス106の撮像モードを選択するための操作デバイスの一例である。
 本実施形態に係る撮像デバイス106の撮像モードとしては、例えば、特殊光で撮像を行う撮像モード(以下、「第1の撮像モード」と示す。)と、第1の撮像モードと異なる、1または2以上の撮像モード(以下、「第2の撮像モード」と示す。)とが、挙げられる。本実施形態に係る第2の撮像モードとしては、例えば、自然光で撮像を行う撮像モードと、NBI(Narrow Band Imaging)などの画像強調観察技術を利用して撮像を行う撮像モードとが挙げられる。
 以下では、第1の撮像モードで撮像された医療用撮像画像を、「第1の医療用撮像画像」と示す場合がある。
 また、以下では、第2の撮像モードで撮像された医療用撮像画像のうち、第1の医療用撮像画像よりも前に第2の撮像モードで撮像された医療用撮像画像を、「第2の医療用撮像画像」と示す場合がある。
 ここで、第1の医療用撮像画像よりも前に第2の撮像モードで撮像された医療用撮像画像とは、基準となる第1の医療用撮像画像が撮像された時点よりも前に、撮像された医療用撮像画像を意味する。基準となる第1の医療用撮像画像としては、例えば、表示装置300の表示画面に表示されている第1の医療用撮像画像(または、制御装置200が当該表示画面に表示させる第1の医療用撮像画像)が、挙げられる。
 本実施形態に係る第2の医療用撮像画像は、例えば後述する本実施形態に係る表示制御方法に係る処理が行われることによって、第2の撮像モードで撮像された医療用撮像画像の中から、特定される。
 図4は、本実施形態に係る医療用観察装置100が備える撮像デバイス106を構成する撮像モード選択スイッチ130の一例を示す説明図である。図4では、撮像モード選択スイッチ130がロータリスイッチである例を示している。なお、撮像モード選択スイッチ130がロータリスイッチに限られないことは、言うまでもない。
 撮像モード選択スイッチ130が図4に示す“IR”を選択した状態である場合、撮像デバイス106は、近赤外線の波長帯域の光で撮像を行う撮像モード(第1の撮像モードの一例)で動作する。撮像モード選択スイッチ130が図4に示す“IR”を選択した状態である場合、撮像デバイス106では、“近赤外線の波長帯域の光を透過させ、他の波長帯域の光を透過させないフィルタ”が、光路上に配置される。
 撮像モード選択スイッチ130が図4に示す“WLI”を選択した状態である場合、撮像デバイス106は、自然光で撮像を行う撮像モード(第2の撮像モードの一例)で動作する。撮像モード選択スイッチ130が図4に示す“WLI”を選択した状態である場合、撮像デバイス106では、上記“近赤外線の波長帯域の光を透過させ、他の波長帯域の光を透過させないフィルタ”が、光路上に配置されない。
 医療用観察装置100を用いる術者(医療用観察装置100のユーザの一例)は、撮像モード選択スイッチ130を操作して、図4に示す“IR”または図4に示す“WLI”を選択することによって、撮像モードを変更することが可能である。
 以下では、第1の撮像モードが、近赤外線の波長帯域の光で撮像を行う撮像モードであり、第2の撮像モードが、自然光で撮像を行う撮像モードである場合を例に挙げる。また、以下では、医療用観察装置100が、近赤外線の波長帯域の光などの特殊光で撮像を行う撮像モードで撮像を行う状態を「特殊光観察」と示し、医療用観察装置100が、自然光で撮像を行う撮像モードで撮像を行う状態を「自然光観察」と示す場合がある。
 なお、上述したように、本実施形態に係る第1の撮像モードは、近赤外線の波長帯域の光で撮像を行う撮像モードに限られず、5-ALAを用いた蛍光観察の蛍光波長帯域などであってもよい。また、医療用観察装置100では、複数の第1の撮像モードを切り替えることが可能であってもよい。
 また、上述したように、本実施形態に係る第2の撮像モードは、自然光で撮像を行う撮像モードに限られず、NBIなどの特定の技術を利用して撮像を行う撮像モードであってもよい。さらに、上述したように、本実施形態に係る第2の撮像モードは、1つに限られず、2つ以上あってもよい。
 再度図3を参照して、撮像デバイス106の構成の一例を説明する。表示切り替えスイッチ132は、撮像デバイス106における、表示画面の表示を切り替えるための操作デバイスの一例である。図3では、表示切り替えスイッチ132がボタンスイッチである例を示している。なお、表示切り替えスイッチ132がボタンスイッチに限られないことは、言うまでもない。
 例えば、表示切り替えスイッチ132がオン状態にある場合、複数の画像が表示装置300の表示画面に同時に表示される。表示装置300の表示画面に同時に表示される複数の画像には、例えば、第1の医療用撮像画像と第2の医療用撮像画像とが含まれうる。以下では、表示切り替えスイッチ132がオン状態にある場合、2つの画像が表示装置300の表示画面に同時に表示される場合を例に挙げる。
 また、表示切り替えスイッチ132がオフ状態にある場合、1つの画像が表示装置300の表示画面に表示される。表示装置300の表示画面に表示される1つの画像としては、例えば、撮像モード選択スイッチ130の状態に対応する医療用撮像画像、すなわち、第1の撮像モードで撮像された医療用撮像画像(第1の医療用撮像画像)または第2の撮像モードで撮像された医療用撮像画像が挙げられる。
 以下では、表示切り替えスイッチ132を、「同時表示ボタン」と示す場合がある。
 なお、図3では、撮像デバイス106に表示切り替えスイッチ132が1つ設けられている例を示しているが、撮像デバイス106には、設定される表示の切り替えパターンに対応する、任意の数の表示切り替えスイッチ132が、設けられていてもよい。
 撮像デバイス106における撮像により生成された画像信号は、例えば制御装置200へ送信され、上述したように、制御装置200では、画像信号に対する各種画像処理が行われる。
 医療用観察装置100は、例えば図1、図3、図4を参照して示した構成を有する。
 なお、本実施形態に係る医療用観察装置の構成は、図1、図3、図4を参照して示した構成に限られない。
 例えば、図1では、アーム104が、撮像デバイス106の駆動に関して6自由度が実現されるように構成されている例を示しているが、アーム104の構成は、撮像デバイス106の駆動に関する自由度が6自由度となる構成に限られない。例えば、アーム104は、用途に応じて撮像デバイス106を適宜移動しうるように構成されればよく、関節部およびリンクの数や配置、関節部の駆動軸の方向などは、アーム104が所望の自由度を有するように適宜設定することが可能である。
 また、図3では、撮像デバイス106の動作を制御するための各種の操作デバイスが、撮像デバイス106に設けられる例を示しているが、図3に示す操作デバイスのうちの一部または全部は、撮像デバイス106に設けられなくてもよい。一例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、本実施形態に係る医療用観察装置を構成する撮像デバイス106以外の他の部位に設けられていてもよい。また、他の例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、リモートコントローラや、フットスイッチなどの、外部の操作デバイスであってもよい。
 また、上述したように、本実施形態に係る医療用観察装置は、制御装置200の機能を有していてもよい。制御装置200の機能を有する場合、本実施形態に係る医療用観察装置は、MPUなどのプロセッサを備え、当該プロセッサにおいて制御装置200の機能を実現するための各種処理が行われる。
 また、上述したように、本実施形態に係る医療用観察装置は、記憶装置400の機能を有していてもよい。記憶装置400の機能を有する場合、本実施形態に係る医療用観察装置は、不揮発性メモリなどのデータを記憶可能な任意の記録媒体を備える。
(本実施形態に係る表示制御方法)
 次に、本実施形態に係る医療用観察システムに適用される本実施形態に係る表示制御方法について、説明する。
 以下では、本実施形態に係る表示制御方法が図1に示す医療用観察システム1000に適用され、本実施形態に係る表示制御方法に係る処理が制御装置200により実行される場合を例に挙げる。つまり、以下では、図1に示す医療用観察システム1000において、制御装置200が医療用表示制御装置として機能する場合を例に挙げる。
 なお、例えば、本実施形態に係る医療用観察装置が制御装置200の機能を有する場合、本実施形態に係る表示制御方法に係る処理は、本実施形態に係る医療用観察装置により実行される。つまり、本実施形態に係る医療用観察システムでは、本実施形態に係る医療用観察装置が医療用表示制御装置として機能してもよい。
[I]医療用観察システム1000の動作の一例
 本実施形態に係る表示制御方法に係る処理について説明する前に、医療用観察システム1000の動作の一例を示す。
 図5は、本実施形態に係る表示制御方法が適用される本実施形態に係る医療用観察システム1000の構成の一例を示すブロック図である。図5では、図1を参照して説明した医療用観察システム1000を構成する各装置の構成のうち、本実施形態に係る表示制御方法に係る一部の構成を示している。
 医療用観察装置100が備える撮像デバイス106における撮像により生成された画像信号は、制御装置200へ送信される。
 制御装置200では、表示制御部202が受信された画像信号を処理する。また、表示制御部202は、表示装置300の表示画面に画像を表示させ、記憶装置400に画像データを記憶させる。制御装置200では、例えば上述したように、プロセッサ(図示せず)が表示制御部202として機能する。
 表示制御部202は、例えば、表示制御信号と、適宜所定の画像処理が行われた画像信号とを、表示装置300に送信する。一例を挙げると、表示制御部202は、後述する本実施形態に係る表示制御方法に係る処理の結果に基づいて、“複数の画像を同時に表示画面に表示させる表示命令を含む表示制御信号、および複数の画像に対応する画像信号”、または、“1つの画像を表示画面に表示させる表示命令を含む表示制御信号、および1つの画像に対応する画像信号”を、表示装置300に送信する。
 表示制御信号と画像信号とを受信した表示装置300は、例えば、表示制御信号に従って、画像信号が示す画像を表示画面に表示する。
 また、表示制御部202は、記録命令を含む記録制御信号と、適宜所定の画像処理が行われた画像を示す画像データとを、記憶装置400に送信する。記録制御信号と画像データとを受信した記憶装置400は、記録制御信号に従って、画像データを記憶する。
 ここで、表示制御部202は、例えば、医療用観察装置100が備える撮像デバイス106における撮像モードによって、記憶装置400に記憶させる画像の形式を変える。
 一例を挙げると、医療用観察装置100が備える撮像デバイス106が、自然光で撮像を行う撮像モード(第2の撮像モードの一例)で動作している場合、表示制御部202は、受信された画像信号が示す画像を、所定の時間間隔ごとに、静止画像として記憶装置400に記憶させる。上記所定の時間間隔としては、例えば、1[秒]などの固定の時間間隔であってもよいし、医療従事者などの医療用観察システム1000を利用する者の操作などに基づいて変更可能な、可変の時間間隔であってもよい。
 第2の撮像モードに対応する静止画像を所定の時間間隔ごとに記憶装置400に記憶させる場合、表示制御部202は、記憶装置400に記憶させた静止画像を示す画像データの数と設定されている所定の閾値とを比較し、比較結果に応じて、記憶装置400において記憶されている期間がより長い静止画像(すなわち、古い静止画像)から順に、上書き更新をさせてもよい。表示制御部202は、例えば、静止画像を示す画像データの数が所定の閾値を超えた場合(または、静止画像を示す画像データの数が所定の閾値以上となった場合)に、上書き更新をさせる。上記所定の閾値は、固定値であってもよいし、医療用観察システム1000を利用する者の操作などに基づいて変更可能な可変値であってもよい。
 例えば上記のように、記憶装置400において記憶されている静止画像が上書き更新されることによって、記憶装置400に記憶される、第2の撮像モードで撮像された医療用撮像画像の総データサイズを、制限することが可能となる。
 また、他の例を挙げると、医療用観察装置100が備える撮像デバイス106が、近赤外線の波長帯域の光で撮像を行う撮像モード(第1の撮像モードの一例)で動作している場合、表示制御部202は、受信された画像信号が示す画像を、動画像として、記憶装置400に記憶させる。表示制御部202は、例えば、“撮像モードが、他の撮像モードから近赤外線の波長帯域の光で撮像を行う撮像モードへと切り替わった後、近赤外線の波長帯域の光で撮像を行う撮像モードが他の撮像モードに変わるまで”を、1つの動画像として記憶装置400に記憶させる。上記のような、第1の撮像モードに対応する動画像は、例えば、オートプレイバック用の動画像として用いられる。
 なお、表示制御部202が、医療用観察装置100が備える撮像デバイス106における撮像モードによらずに、同一の形式の画像を記憶装置400に記憶させることが可能であることは、言うまでもない。
 医療用観察システム1000では、例えば上記に示すように各装置が動作することによって、医療用観察装置100において撮像された医療用撮像画像が表示装置300の表示画面に表示され、また、当該医療用撮像画像を示す画像データが記憶装置400に記憶される。
[II]本実施形態に係る表示制御方法に係る処理の一例
 次に、本実施形態に係る表示制御方法に係る処理について説明する。以下では、本実施形態に係る表示制御方法に係る処理を制御装置200が行うものとして説明する。なお、上述したように、制御装置200において本実施形態に係る表示制御方法に係る処理は、例えば、表示制御部202の役目を果たすプロセッサ(図示せず)などにより行われる。
 制御装置200は、医療用撮像画像の表示を制御する。
 例えば、制御装置200は、第1の医療用撮像画像と第2の医療用撮像画像とを同時に表示させる。第1の医療用撮像画像と同時に表示画面に表示させる第2の医療用撮像画像としては、例えば、静止画像が挙げられる。なお、第1の医療用撮像画像と同時に表示させる第2の医療用撮像画像は、動画像であってもよい。
 ここで、第1の医療用撮像画像と第2の医療用撮像画像とは、医療用観察装置100が備える撮像デバイス106などの1つの撮像デバイスにおいて、異なる撮像モードで撮像された医療用撮像画像である。したがって、制御装置200が本実施形態に係る表示制御方法に係る処理を行うことによって、医療用観察システム1000では、撮像デバイスにおいて異なる撮像モードで撮像された医療用撮像画像を、同時に表示画面に表示させることが、実現される。
 また、第2の医療用撮像画像は、第1の医療用撮像画像よりも前に撮像された画像であるので、上記撮像デバイスは、同時に複数の撮像モードで撮像された撮像画像を得るための構成を有する必要はない。よって、本実施形態に係る表示制御方法が用いられる場合、撮像デバイスは、特許文献1に記載の技術を用いる手術用顕微鏡のように2つのCCDを備える構成をとる必要はないので、撮像デバイスのコストの増加を抑えることができ、また、撮像デバイスの小型化がより容易となる。
 なお、例えば後述する医療用観察システムの動作の一例において示すように、制御装置200は、例えば、第1の医療用撮像画像と第2の医療用撮像画像とのうちの一方を、表示させることも可能である。
 より具体的には、制御装置200は、例えば下記の(1)に示す第1の例に係る制御~下記の(4)に示す第4の例に係る制御のうちの一部または全部の制御を行うことによって、医療用撮像画像の表示を制御する。下記の(1)~(4)に示す制御は、例えば上述したように、制御装置200が、表示装置300などの画像の表示対象の装置に対して、表示制御信号と画像信号とを送信することによって、実現される。
(1)表示制御方法に係る制御の第1の例:医療用撮像画像の表示のさせ方に係る制御
 表示制御方法に係る制御の第1の例として、医療用撮像画像の表示のさせ方に係る制御について、説明する。
 制御装置200は、例えば、第1の医療用撮像画像と第2の医療用撮像画像とを、表示画面における異なる表示領域に表示させる。
 例えば、制御装置200は、第1の医療用撮像画像が表示される表示領域が、第2の医療用撮像画像が表示される表示領域よりも大きくなるように、表示させる。制御装置200は、例えば、第1の医療用撮像画像を表示画面の全体に表示させ、第2の医療用撮像画像を表示画面の一部に表示させる。制御装置200は、PIP(Picture In Picture)によって、“第1の医療用撮像画像を表示画面の全体に表示させ、第2の医療用撮像画像を表示画面の一部に表示させること”を、実現する。
 また、制御装置200は、例えば、表示画面を複数の領域に分け、各領域に第1の医療用撮像画像と第2の医療用撮像画像とをそれぞれ表示させてもよい。第1の医療用撮像画像が表示される表示領域の大きさと第2の医療用撮像画像が表示される表示領域の大きさとは、同一であってもよいし、異なっていてもよい。
 なお、本実施形態に係る医療用撮像画像の表示のさせ方は、上記に示す例に限られない。
 例えば、制御装置200は、第1の医療用撮像画像と第2の医療用撮像画像とを、表示画面における同一の表示領域に重畳して表示させてもよい。第1の医療用撮像画像と第2の医療用撮像画像とを重畳して表示させる場合、制御装置200は、例えば、第1の医療用撮像画像および第2の医療用撮像画像それぞれから同一のオブジェクトを検出し、検出されたオブジェクトの位置が重なるように、第1の医療用撮像画像と第2の医療用撮像画像とをアルファブレンドする。
 また、本実施形態に係る医療用観察システムが複数の表示装置を有する場合、制御装置200は、例えば、第1の医療用撮像画像および第2の医療用撮像画像それぞれを、異なる表示装置の表示画面に同時に表示させてもよい。制御装置200は、例えば、第1の医療用撮像画像を表示させる表示装置、および第2の医療用撮像画像を表示させる表示装置それぞれに対して、各表示装置に対応する表示制御信号および画像信号を、同期して送信することによって、第1の医療用撮像画像および第2の医療用撮像画像それぞれを、異なる表示装置の表示画面に同時に表示させる。
 また、本実施形態に係る医療用撮像画像の表示のさせ方は、切り替えが可能であってもよい。制御装置200は、例えば、制御装置200が備える操作デバイス、または、制御装置200の外部の操作デバイスに対する操作に基づいて、医療用撮像画像の表示のさせ方を切り替える。
(2)表示制御方法に係る制御の第2の例:第2の医療用撮像画像の特定に係る制御
 表示制御方法に係る制御の第2の例として、第2の医療用撮像画像の特定に係る制御について、説明する。
 上述したように、本実施形態に係る第2の医療用撮像画像は、“第2の撮像モードで、第1の医療用撮像画像よりも前に撮像された医療用撮像画像”である。制御装置200は、例えば、記憶装置400に記憶されている画像データから、表示画面に表示されている第1の医療用撮像画像(基準となる第1の医療用撮像画像の一例)、または、表示画面に表示させる第1の医療用撮像画像(基準となる第1の医療用撮像画像の他の例)を基準として、第2の医療用撮像画像の候補となる、第2の撮像モードで撮像された医療用撮像画像を抽出する。制御装置200は、例えば、基準となる第1の医療用撮像画像を示す画像データのメタデータを参照することなどによって、基準となる第1の医療用撮像画像が撮像された時点を特定する。そして、制御装置200は、抽出された第2の医療用撮像画像の候補となる医療用撮像画像の中から、第2の医療用撮像画像を特定する。
 候補となる医療用撮像画像が1つである場合、制御装置200は、当該候補となる医療用撮像画像を、第2の医療用撮像画像として特定する。
 また、例えば、候補となる医療用撮像画像が複数存在する場合、制御装置200は、例えば下記の(a)~(c)に示すように、候補となる複数の医療用撮像画像の中から、第1の医療用撮像画像と同時に表示させる医療用撮像画像を特定する。そして、制御装置200は、特定された医療用撮像画像を、第2の医療用撮像画像として、第1の医療用撮像画像と同時に表示画面に表示させる。
(a)第2の医療用撮像画像の第1の特定方法
 制御装置200は、例えば、基準となる第1の医療用撮像画像が撮像された時点から所定の期間内に、第2の撮像モードで撮像された医療用撮像画像を、第2の医療用撮像画像として特定する。
 上記所定の期間は、予め設定されている固定の期間(例えば、20[秒]、1[分]など)であってもよいし、医療従事者などの医療用観察システム1000を利用する者の操作などに基づいて変更可能な、可変の期間であってもよい。上記所定の期間が固定の期間である場合、上記所定の期間は、例えば、医療用観察装置100における撮像モードの切り替え性能(当該性能は、例えば、医療用観察装置100において撮像モードの切り替えが完了する時間で、判断される。)を考慮して、設計時または製造時に設定される。また、上記所定の期間が可変の期間である場合、上記所定の期間は、例えば、術者や看護師などの、制御装置200(医療用観察システム1000において医療用表示制御装置として機能する装置の一例)を用いるユーザが、制御装置200が備える操作デバイス、または、リモートコントローラなどの制御装置200の外部の操作デバイスを操作することによって、設定される。
 上記所定の期間内に第2の撮像モードで撮像された医療用撮像画像が、複数存在する場合、制御装置200は、例えば、複数の医療用撮像画像の中から、ランダムに選択された医療用撮像画像を、第2の医療用撮像画像として特定する。また、上記所定の期間内に第2の撮像モードで撮像された医療用撮像画像が、複数存在する場合、制御装置200は、例えば、後述する第2の例に係る特定方法など、他の特定方法を組み合わせることによって、第2の医療用撮像画像を特定する。
(b)第2の医療用撮像画像の第2の特定方法
 制御装置200は、例えば、第2の撮像モードで基準となる第1の医療用撮像画像よりも前に撮像された医療用撮像画像のうち、画像の評価が最も高い画像を、第2の医療用撮像画像として特定する。
 制御装置200は、例えば、ノイズ量のモデルを用いたベイズ推定など、画像からノイズを推定することが可能な任意の手法を用いて、候補となる医療用撮像画像それぞれのノイズ量を推定する。そして、制御装置200は、ノイズ量が最も少ない候補となる医療用撮像画像を、第2の医療用撮像画像として特定する。
 なお、本実施形態に係る画像を評価する方法は、上記に示す例に限られない。例えば、制御装置200は、画像を定量的に評価することが可能な任意の処理を行い、評価の値が最も高い医療用撮像画像を、第2の医療用撮像画像として特定することが可能である。
 また、上記(a)で示したように、制御装置200は、第2の特定方法と上記(a)に示す第1の特定方法とを組み合わせて、第2の医療用撮像画像を特定することも、可能である。
(c)第2の医療用撮像画像の第3の特定方法
 制御装置200は、第2の撮像モードで第1の医療用撮像画像よりも前に撮像された医療用撮像画像のうち、画像を選択する選択操作に基づいて選択された画像を、第2の医療用撮像画像として特定する。
 制御装置200は、例えば、制御装置200が備える操作デバイス、または、制御装置200の外部の操作デバイスから取得される、選択操作に対応する信号に基づいて、選択操作に基づいて選択された画像を特定する。そして、制御装置200は、特定された画像を、第2の医療用撮像画像とする。
 第3の特定方法が用いられる場合、制御装置200は、例えば、表示装置300などの表示画面に、候補となる医療用撮像画像が一覧表示されるUIを自動的に表示させる。また、第3の特定方法が用いられる場合、制御装置200は、例えば、制御装置200が備える操作デバイスなどから取得される所定の操作に対応する信号に基づいて、候補となる医療用撮像画像が一覧表示されるUIを表示させてもよい。
 候補となる医療用撮像画像が複数存在する場合、制御装置200は、例えば上記(a)~(c)に示すように、第2の医療用撮像画像を特定する。なお、第2の医療用撮像画像の特定方法が、上記(a)~(c)に示す例に限られないことは、言うまでもない。
(3)表示制御方法に係る制御の第3の例:第1の医療用撮像画像と第2の医療用撮像画像とを同時に表示させる表示の開始、終了に係る制御
 表示制御方法に係る制御の第3の例として、第1の医療用撮像画像と第2の医療用撮像画像とを同時に表示させる表示の開始、終了に係る制御について、説明する。以下では、第1の医療用撮像画像と第2の医療用撮像画像とを同時に表示させる表示を「同時表示」と示す場合がある。
 制御装置200は、同時表示の開始、終了に係る制御として、例えば、下記の(3-1)に示す制御、または、下記の(3-2)に示す制御を行う。
(3-1)同時表示の開始、終了に係る制御の第1の例
 制御装置200は、医療用観察装置100が備える撮像デバイス106など、制御対象の撮像デバイスが第1の撮像モードであると判定された場合に、第1の医療用撮像画像と第2の医療用撮像画像とを同時に表示させる。
 制御装置200は、第2の撮像モードを第1の撮像モードに切り替える第1のモード切り替え操作が検出された場合に、撮像デバイスが第1の撮像モードであると判定する。
 制御対象の撮像デバイスが医療用観察装置100が備える撮像デバイス106である場合を例に挙げると、制御装置200は、例えば、第1の撮像モードに対応する切替信号(撮像モード選択スイッチ130に対する操作に応じた切替信号の一例)が医療用観察装置100から取得された場合に、第1のモード切り替え操作が検出されたと判定する。
 なお、制御装置200における第1のモード切り替え操作の検出方法は、上記に示す例に限られない。例えば、医療用観察装置100が備える撮像デバイス106における撮像モードが、リモートコントローラなどの外部の操作デバイスにより切り替えられる場合、制御装置200は、当該外部の操作デバイスから取得される信号に基づいて、第1のモード切り替え操作を検出することが可能である。
 また、制御装置200は、制御対象の撮像デバイスが第1の撮像モードであると判定された後に、当該撮像デバイスが第2の撮像モードであると判定された場合には、当該撮像デバイスにおいて第2の撮像モードで撮像された医療用撮像画像を、表示させる。ここで、上記第2の撮像モードで撮像された医療用撮像画像とは、第2の医療用撮像画像とは異なり、第1の医療用撮像画像が撮像された時点に依存しない医療用撮像画像である。
 制御装置200は、第1の撮像モードを第2の撮像モードに切り替える第2のモード切り替え操作が検出された場合に、撮像デバイスが第2の撮像モードであると判定する。
 制御対象の撮像デバイスが医療用観察装置100が備える撮像デバイス106である場合を例に挙げると、制御装置200は、例えば、第2の撮像モードに対応する切替信号(撮像モード選択スイッチ130に対する操作に応じた切替信号の他の例)が医療用観察装置100から取得された場合に、第2のモード切り替え操作が検出されたと判定する。
 なお、制御装置200における第2のモード切り替え操作の検出方法は、上記に示す例に限られない。例えば、医療用観察装置100が備える撮像デバイス106における撮像モードが外部の操作デバイスにより切り替えられる場合、制御装置200は、当該外部の操作デバイスから取得される信号に基づいて、第2のモード切り替え操作を検出することが可能である。
(3-2)同時表示の開始、終了に係る制御の第2の例
 制御装置200は、第1の医療用撮像画像が表示されているときに、表示を切り替える表示切り替え操作が検出された場合に、第1の医療用撮像画像と第2の医療用撮像画像とを同時に表示させる。
 制御対象の撮像デバイスが医療用観察装置100が備える撮像デバイス106である場合を例に挙げると、制御装置200は、例えば、表示切り替えスイッチ132の状態が変化したことを示す信号が、医療用観察装置100から取得された場合に、表示切り替え操作が検出されたと判定する。
 なお、制御装置200における表示切り替え操作の検出方法は、上記に示す例に限られない。例えば、表示の切り替えが、リモートコントローラなどの外部の操作デバイスに対する操作により行われる場合、制御装置200は、当該外部の操作デバイスから取得される信号に基づいて、表示切り替え操作を検出することが可能である。
 また、制御装置200は、表示切り替え操作に基づいて第1の医療用撮像画像と第2の医療用撮像画像とが同時に表示された後に、表示切り替え操作がさらに検出された場合、第1の医療用撮像画像のみを表示させる。
(4)表示制御方法に係る制御の第4の例:第2の医療用撮像画像の変更に係る制御
 表示制御方法に係る制御の第4の例として、第2の医療用撮像画像の変更に係る制御について、説明する。
 制御装置200は、第1の医療用撮像画像と第2の医療用撮像画像とが同時に表示されているときに、画像を選択する選択操作が検出された場合には、表示画面に表示されている第2の医療用撮像画像を、当該選択操作に対応する第2の医療用撮像画像に変更する。
 制御装置200は、例えば、制御装置200が備える操作デバイス、または、制御装置200の外部の操作デバイスから取得される、選択操作に対応する信号に基づいて、選択操作に基づいて選択された画像を特定する。上記のように特定された画像が、選択操作に対応する第2の医療用撮像画像に該当する。そして、制御装置200は、表示画面に表示されている第2の医療用撮像画像を、特定された画像で置き換える。
 第4の例に係る制御が行われる場合、制御装置200は、制御装置200が備える操作デバイスなどから取得される所定の操作に対応する信号に基づいて、表示されている第2の医療用撮像画像の置き換え候補となる第2の医療用撮像画像が一覧表示されるUIを、表示させてもよい。
 第4の例に係る制御が行われる場合、術者などの医療従事者は、第1の医療用撮像画像と同時に表示される第2の医療用撮像画像を、所望する第2の医療用撮像画像に置き換えることができるので、当該医療従事者の利便性の向上を図ることが可能となる。
(5)表示制御方法に係る制御の他の例
 なお、本実施形態に係る表示制御方法に係る制御の例は、上記(1)に示す第1の例~上記(4)に示す第4の例に限られない。
 例えば、制御装置200は、“第2の撮像モードで撮像された医療用撮像画像”と、“第1の撮像モードで、当該第2の撮像モードで撮像された医療用撮像画像よりも前に撮像された医療用撮像画像”とを、同時に表示させることも可能である。
 また、制御装置200は、医療用撮像画像と共に、1または2以上の他の画像を表示させてもよい。上記他の画像としては、例えば、医療行為を受ける患者のバイタルを示す画像などの医療行為を受ける患者に関する画像や、手術の流れを示す画像(例えば、術式に応じた手術手順書の内容を示す画像)、UI画像などが、挙げられる。
[III]本実施形態に係る表示制御方法に係る処理により実現される動作の一例
 次に、本実施形態に係る表示制御方法に係る処理により実現される、本実施形態に係る医療用観察システムの動作の一例を示す。
 図6は、本実施形態に係る表示制御方法に係る処理により実現される、本実施形態に係る医療用観察システム1000の動作の一例を説明するための説明図である。図6のAは、医療用観察装置100が備える各種の操作デバイスに対する操作に応じた、医療用観察装置100の状態遷移の一例を示している。また、図6のBは、制御装置200および記憶装置400の動作の一例を示している。
 また、図7~図10は、図6に示す医療用観察システム1000の動作により、表示装置300の表示画面に表示される医療用撮像画像の一例を示す図である。
 図7は、医療用観察装置100が自然光観察であるときに得られる医療用撮像画像が、表示画面に表示されている例を示している。
 図8は、医療用観察装置100が特殊光観察であるときに得られる第1の医療用撮像画像が、表示画面に表示されている例を示している。図8では、第1の医療用撮像画像として、近赤外線の波長帯域の光で撮像が行われた撮像画像の一例を示している。
 図9は、“第1の医療用撮像画像と第2の医療用撮像画像とが、表示画面に同時に表示されている例を示している。図9では、第1の医療用撮像画像として、図8と同様に近赤外線の波長帯域の光で撮像が行われた撮像画像の一例を示している。また、図9では、第2の医療用撮像画像として、図7と同様に、医療用観察装置100が自然光観察であるときに得られる医療用撮像画像の一例を示している。
 図10は、“第2の撮像モードで撮像された医療用撮像画像”と“第1の撮像モードで、当該第2の撮像モードで撮像された医療用撮像画像よりも前に撮像された医療用撮像画像”が、表示画面に同時に表示されている例を示している。図10では、第2の医療用撮像画像として、図7と同様に、医療用観察装置100が自然光観察であるときに得られる医療用撮像画像の一例を示している。また、図10では、第1の医療用撮像画像として、図8と同様に近赤外線の波長帯域の光で撮像が行われた撮像画像の一例を示している。
 以下、図6~図10を適宜参照して、本実施形態に係る表示制御方法に係る処理により実現される、医療用観察システム1000の動作の一例を説明する。
(i)図6の(a)
 医療用観察装置100が自然光観察であるときに記憶装置400の電源がオン状態となると、記憶装置400には、1秒ごと(所定の時間間隔ごとの一例)に自然光観察の静止画像(第2の医療用撮像画像の一例)が記録される。また、表示装置300の表示画面には、例えば図7に示す自然光観察であるときに得られる医療用撮像画像が、表示される。
(ii)図6の(b)
 例えば、術者が、医療用観察装置100の撮像モード選択スイッチ130を、図4に示す“IR”を選択した状態となるように操作すると、記憶装置400には、特殊光観察の動画像(第1の医療用撮像画像の一例)が記録される。また、表示装置300の表示画面には、例えば図8に示す第1の医療用撮像画像が、表示される。
(iii)図6の(c)
 医療用観察装置100が特殊光観察であるときに、例えば、術者が、医療用観察装置100の表示切り替えスイッチ132をオン状態とする操作を行うと、表示装置300の表示画面には、例えば図9に示すように、第1の医療用撮像画像と第2の医療用撮像画像とが、表示画面に同時に表示される。
 表示される第1の医療用撮像画像は、第1の撮像モードで現在撮像された結果である第1の医療用撮像画像である。また、第1の医療用撮像画像と同時に表示される第2の医療用撮像画像は、当該第1の医療用撮像画像より前に第2の撮像モードで撮像された医療用撮像画像である。第1の医療用撮像画像と同時に表示される第2の医療用撮像画像としては、例えば、図6の(a)において記憶装置400に記録された静止画像が、挙げられる。第1の医療用撮像画像と同時に表示される第2の医療用撮像画像は、リモートコントローラなどの任意の操作デバイスに対する操作が行われることによって、変更可能であってもよい。
(iv)図6の(d)
 例えば、術者が、医療用観察装置100の表示切り替えスイッチ132をオフ状態とする操作をさらに行うと、表示装置300の表示画面には、医療用観察装置100の現在の撮像モードに対応する医療用撮像画像である第1の医療用撮像画像が、表示される。
(v)図6の(e)
 例えば、術者が、医療用観察装置100の撮像モード選択スイッチ130を、図4に示す“WLI”を選択した状態となるように操作すると、医療用観察装置100は、特殊光観察から自然光観察へと切り替わる。そして、医療用観察装置100において撮像モードが切り替わると、記憶装置400では、特殊光観察の動画像(第1の医療用撮像画像の一例)の記録が停止され、1秒ごと(所定の時間間隔ごとの一例)に自然光観察の静止画像(第2の医療用撮像画像の一例)が、記録される。
(vi)図6の(f)
 医療用観察装置100が自然光観察であるときに、例えば、術者が、医療用観察装置100の表示切り替えスイッチ132をオン状態とする操作を行うと、表示装置300の表示画面には、例えば図10に示すように、“第2の撮像モードで撮像された医療用撮像画像”と“第1の撮像モードで、当該第2の撮像モードで撮像された医療用撮像画像よりも前に撮像された医療用撮像画像”が、表示画面に同時に表示される。
 表示される“第2の撮像モードで撮像された医療用撮像画像”は、第2の撮像モードで現在撮像された結果である医療用撮像画像である。また、“第1の撮像モードで、上記第2の撮像モードで撮像された医療用撮像画像よりも前に撮像された医療用撮像画像”としては、例えば、図6の(b)において記憶装置400に記録された動画像が、挙げられる。例えば図6の(b)において記憶装置400に記録された動画像のような、動画像が表示画面に表示される場合、当該動画像は、リピート再生される。“第1の撮像モードで、上記第2の撮像モードで撮像された医療用撮像画像よりも前に撮像された医療用撮像画像”は、リモートコントローラなどの任意の操作デバイスに対する操作が行われることによって、変更可能であってもよい。
(vii)図6の(g)
 例えば、術者が、医療用観察装置100の表示切り替えスイッチ132をオフ状態とする操作をさらに行うと、表示装置300の表示画面には、医療用観察装置100の現在の撮像モードに対応する医療用撮像画像である、自然光観察であるときに得られる医療用撮像画像が、表示される。
(viii)図6の(h)
 記憶装置400の電源がオフ状態となると、自然光観察の静止画像(第2の医療用撮像画像の一例)の記録が停止される。
 本実施形態に係る表示制御方法に係る処理が制御装置200において行われることによって、例えば図6を参照して説明したような医療用観察システム1000の動作が、実現される。
 なお、本実施形態に係る表示制御方法に係る処理により実現される医療用観察システム1000の動作の例は、図6を参照して示した例に限られない。例えば、図6を参照して示した例では、2つの医療用撮像画像が同時に表示画面に表示される例を示したが、3つ以上の医療用撮像画像が同時に表示画面に表示されてもよい。また、上述したように、表示画面には、医療用撮像画像と共に、1または2以上の他の画像が表示されてもよい。
[IV]本実施形態に係る表示制御方法が用いられることにより奏される効果の一例
 本実施形態に係る表示制御方法が用いられることによって、本実施形態に係る医療用観察システムでは、例えば下記に示す効果が奏される。なお、本実施形態に係る表示制御方法が用いられることにより奏される効果が、下記に示す例に限られないことは、言うまでもない。
  ・直前の撮像モード時に得られた医療用撮像画像(静止画像または動画像)が、現在の撮像モードで得られた医療用撮像画像と同時に表示されるので、撮像デバイスは、特許文献1に記載の技術を用いる手術用顕微鏡のように2つのCCDを備える構成をとる必要はない。よって、撮像デバイスのコストの増加を抑えることができ、また、撮像デバイスの小型化がより容易となる。
  ・撮像デバイスにおいて時系列の撮像が行われる場合には、フレームレートが落ちる可能性があるが、本実施形態に係る医療用観察システムでは、撮像モードごとに医療用撮像画像が記録されるので、フレームレートは落ちない。
  ・特殊光観察の医療用撮像画像(第1の医療用撮像画像)と、自然光観察の医療用撮像画像(第2の医療用撮像画像の一例)とが、表示画面に同時に表示されることによって、特殊光観察の医療用撮像画像だけが表示される場合に特定しにくい部位を、より観察し易くすることができる。
  ・例えば図9に示すように、特殊光観察の医療用撮像画像(第1の医療用撮像画像)と、自然光観察の医療用撮像画像(第2の医療用撮像画像の一例)とが、表示画面における異なる表示領域に表示されることによって、術者などの医療従事者は、細かい血管をより容易に判別することができる。
(本実施形態に係るプログラム)
 コンピュータシステムを、本実施形態に係る医療用表示制御装置として機能させるためのプログラム(例えば、本実施形態に係る表示制御方法に係る処理を実行することが可能なプログラム)が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、1つの撮像デバイスにおいて異なる撮像モードで撮像された医療用撮像画像を、同時に表示画面に表示させることができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、本実施形態に係る表示制御方法に係る一連の処理が行われる。
 また、コンピュータシステムを、本実施形態に係る医療用表示制御装置として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る表示制御方法に係る処理によって実現される表示によって奏される効果を、奏することができる。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到しうることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 例えば、上記では、コンピュータシステムを、本実施形態に係る医療用表示制御装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も、併せて提供することができる。
 上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部を備える、医療用表示制御装置。
(2)
 前記表示制御部は、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを、表示画面における異なる表示領域に表示させる、(1)に記載の医療用表示制御装置。
(3)
 前記表示制御部は、前記第1の医療用撮像画像が表示される表示領域が、前記第2の医療用撮像画像が表示される表示領域よりも大きくなるように、表示させる、(2)に記載の医療用表示制御装置。
(4)
 前記表示制御部は、前記第1の医療用撮像画像を前記表示画面の全体に表示させ、前記第2の医療用撮像画像を前記表示画面の一部に表示させる、(3)に記載の医療用表示制御装置。
(5)
 前記表示制御部は、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを、表示画面における同一の表示領域に重畳して表示させる、(1)に記載の医療用表示制御装置。
(6)
 前記表示制御部は、前記第1の医療用撮像画像および前記第2の医療用撮像画像それぞれを、異なる表示装置の表示画面に表示させる、(1)に記載の医療用表示制御装置。
(7)
 前記表示制御部は、前記撮像デバイスが前記第1の撮像モードであると判定された場合に、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを同時に表示させる、(1)~(6)のいずれか1つに記載の医療用表示制御装置。
(8)
 前記表示制御部は、前記第2の撮像モードを前記第1の撮像モードに切り替える第1のモード切り替え操作が検出された場合に、前記撮像デバイスが前記第1の撮像モードであると判定する、(7)に記載の医療用表示制御装置。
(9)
 前記表示制御部は、前記撮像デバイスが前記第1の撮像モードであると判定された後に、前記撮像デバイスが前記第2の撮像モードであると判定された場合には、前記撮像デバイスにおいて前記第2の撮像モードで撮像された医療用撮像画像を表示させる、(7)または(8)に記載の医療用表示制御装置。
(10)
 前記表示制御部は、前記第1の撮像モードを前記第2の撮像モードに切り替える第2のモード切り替え操作が検出された場合に、前記撮像デバイスが前記第2の撮像モードであると判定する、(9)に記載の医療用表示制御装置。
(11)
 前記表示制御部は、前記第1の医療用撮像画像が表示されているときに、表示を切り替える表示切り替え操作が検出された場合に、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを同時に表示させる、(1)~(6)のいずれか1つに記載の医療用表示制御装置。
(12)
 前記表示制御部は、前記表示切り替え操作に基づき前記第1の医療用撮像画像と前記第2の医療用撮像画像とが同時に表示された後に、前記表示切り替え操作がさらに検出された場合、前記第1の医療用撮像画像のみを表示させる、(11)に記載の医療用表示制御装置。
(13)
 前記表示制御部は、前記第1の医療用撮像画像と前記第2の医療用撮像画像とが同時に表示されているときに、画像を選択する選択操作が検出された場合には、表示画面に表示されている前記第2の医療用撮像画像を、前記選択操作に対応する前記第2の医療用撮像画像に変更する、(1)~(12)のいずれか1つに記載の医療用表示制御装置。
(14)
 前記第2の医療用撮像画像は、前記第1の医療用撮像画像が撮像された時点から所定の期間内に、前記第2の撮像モードで撮像された医療用撮像画像である、(1)~(13)のいずれか1つに記載の医療用表示制御装置。
(15)
 前記所定の期間は、予め設定される固定の期間、または、前記医療用表示制御装置を用いるユーザの操作に基づいて設定される期間である、(14)に記載の医療用表示制御装置。
(16)
 前記第2の医療用撮像画像は、前記第2の撮像モードで前記第1の医療用撮像画像よりも前に撮像された医療用撮像画像のうち、画像の評価が最も高い画像である、(1)~(15)のいずれか1つに記載の医療用表示制御装置。
(17)
 前記第2の医療用撮像画像は、前記第2の撮像モードで前記第1の医療用撮像画像よりも前に撮像された医療用撮像画像のうち、画像を選択する選択操作に基づいて選択された画像である、(1)~(13)のいずれか1つに記載の医療用表示制御装置。
(18)
 複数のリンクが関節部によって互いに連結されて構成されるアームと、
 前記アームにより支持される撮像デバイスと、
 前記撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部と、
 を備える、医療用観察装置。
(19)
 撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させるステップを有する、医療用表示制御装置により実行される表示制御方法。
(20)
 複数のリンクが関節部によって互いに連結されて構成されるアームと、前記アームにより支持される撮像デバイスとを備える、医療用観察装置と、
 表示装置と、
 前記撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、前記表示装置の表示画面に、同時に表示させる表示制御部を備える、医療用表示制御装置と、
 を有する、医療用観察システム。
 100  医療用観察装置
 102  ベース
 104  アーム
 106  撮像デバイス
 110a、110b、110c、110d、110e、110f  関節部
 112a、112b、112c、112d、112e、112f  リンク
 120  撮像部材
 122  筒状部材
 124  ズームスイッチ
 126  フォーカススイッチ
 128  動作モード選択スイッチ
 130  撮像モード選択スイッチ
 132  表示切り替えスイッチ
 200  制御装置
 300  表示装置
 400  記憶装置
 1000  医療用観察システム
 OP  術者
 PA  患者
 FS  フットスイッチ

Claims (20)

  1.  撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部を備える、医療用表示制御装置。
  2.  前記表示制御部は、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを、表示画面における異なる表示領域に表示させる、請求項1に記載の医療用表示制御装置。
  3.  前記表示制御部は、前記第1の医療用撮像画像が表示される表示領域が、前記第2の医療用撮像画像が表示される表示領域よりも大きくなるように、表示させる、請求項2に記載の医療用表示制御装置。
  4.  前記表示制御部は、前記第1の医療用撮像画像を前記表示画面の全体に表示させ、前記第2の医療用撮像画像を前記表示画面の一部に表示させる、請求項3に記載の医療用表示制御装置。
  5.  前記表示制御部は、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを、表示画面における同一の表示領域に重畳して表示させる、請求項1に記載の医療用表示制御装置。
  6.  前記表示制御部は、前記第1の医療用撮像画像および前記第2の医療用撮像画像それぞれを、異なる表示装置の表示画面に表示させる、請求項1に記載の医療用表示制御装置。
  7.  前記表示制御部は、前記撮像デバイスが前記第1の撮像モードであると判定された場合に、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを同時に表示させる、請求項1に記載の医療用表示制御装置。
  8.  前記表示制御部は、前記第2の撮像モードを前記第1の撮像モードに切り替える第1のモード切り替え操作が検出された場合に、前記撮像デバイスが前記第1の撮像モードであると判定する、請求項7に記載の医療用表示制御装置。
  9.  前記表示制御部は、前記撮像デバイスが前記第1の撮像モードであると判定された後に、前記撮像デバイスが前記第2の撮像モードであると判定された場合には、前記撮像デバイスにおいて前記第2の撮像モードで撮像された医療用撮像画像を表示させる、請求項7に記載の医療用表示制御装置。
  10.  前記表示制御部は、前記第1の撮像モードを前記第2の撮像モードに切り替える第2のモード切り替え操作が検出された場合に、前記撮像デバイスが前記第2の撮像モードであると判定する、請求項9に記載の医療用表示制御装置。
  11.  前記表示制御部は、前記第1の医療用撮像画像が表示されているときに、表示を切り替える表示切り替え操作が検出された場合に、前記第1の医療用撮像画像と前記第2の医療用撮像画像とを同時に表示させる、請求項1に記載の医療用表示制御装置。
  12.  前記表示制御部は、前記表示切り替え操作に基づき前記第1の医療用撮像画像と前記第2の医療用撮像画像とが同時に表示された後に、前記表示切り替え操作がさらに検出された場合、前記第1の医療用撮像画像のみを表示させる、請求項11に記載の医療用表示制御装置。
  13.  前記表示制御部は、前記第1の医療用撮像画像と前記第2の医療用撮像画像とが同時に表示されているときに、画像を選択する選択操作が検出された場合には、表示画面に表示されている前記第2の医療用撮像画像を、前記選択操作に対応する前記第2の医療用撮像画像に変更する、請求項1に記載の医療用表示制御装置。
  14.  前記第2の医療用撮像画像は、前記第1の医療用撮像画像が撮像された時点から所定の期間内に、前記第2の撮像モードで撮像された医療用撮像画像である、請求項1に記載の医療用表示制御装置。
  15.  前記所定の期間は、予め設定される固定の期間、または、前記医療用表示制御装置を用いるユーザの操作に基づいて設定される期間である、請求項14に記載の医療用表示制御装置。
  16.  前記第2の医療用撮像画像は、前記第2の撮像モードで前記第1の医療用撮像画像よりも前に撮像された医療用撮像画像のうち、画像の評価が最も高い画像である、請求項1に記載の医療用表示制御装置。
  17.  前記第2の医療用撮像画像は、前記第2の撮像モードで前記第1の医療用撮像画像よりも前に撮像された医療用撮像画像のうち、画像を選択する選択操作に基づいて選択された画像である、請求項1に記載の医療用表示制御装置。
  18.  複数のリンクが関節部によって互いに連結されて構成されるアームと、
     前記アームにより支持される撮像デバイスと、
     前記撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させる表示制御部と、
     を備える、医療用観察装置。
  19.  撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、同時に表示させるステップを有する、医療用表示制御装置により実行される表示制御方法。
  20.  複数のリンクが関節部によって互いに連結されて構成されるアームと、前記アームにより支持される撮像デバイスとを備える、医療用観察装置と、
     表示装置と、
     前記撮像デバイスにおいて特殊光で撮像を行う第1の撮像モードで撮像された第1の医療用撮像画像と、前記撮像デバイスにおいて、前記第1の撮像モードとは異なる第2の撮像モードで、前記第1の医療用撮像画像よりも前に撮像された第2の医療用撮像画像とを、前記表示装置の表示画面に、同時に表示させる表示制御部を備える、医療用表示制御装置と、
     を有する、医療用観察システム。
PCT/JP2017/040116 2017-03-27 2017-11-07 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム WO2018179564A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019508543A JP6918924B2 (ja) 2017-03-27 2017-11-07 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム
EP17902959.0A EP3590438B1 (en) 2017-03-27 2017-11-07 Medical display-control device
US16/494,772 US11478204B2 (en) 2017-03-27 2017-11-07 Medical display control device, medical observation device, display control method, and medical observation system
US17/897,234 US20220401049A1 (en) 2017-03-27 2022-08-29 Medical display control device, medical observation device, display control method, and medical observation system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017060376 2017-03-27
JP2017-060376 2017-03-27

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US16/494,772 A-371-Of-International US11478204B2 (en) 2017-03-27 2017-11-07 Medical display control device, medical observation device, display control method, and medical observation system
US17/897,234 Continuation US20220401049A1 (en) 2017-03-27 2022-08-29 Medical display control device, medical observation device, display control method, and medical observation system

Publications (1)

Publication Number Publication Date
WO2018179564A1 true WO2018179564A1 (ja) 2018-10-04

Family

ID=63674772

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/040116 WO2018179564A1 (ja) 2017-03-27 2017-11-07 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム

Country Status (4)

Country Link
US (2) US11478204B2 (ja)
EP (1) EP3590438B1 (ja)
JP (1) JP6918924B2 (ja)
WO (1) WO2018179564A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021186803A1 (ja) * 2020-03-19 2021-09-23 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察システム、制御装置および制御方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201813348D0 (en) * 2018-08-15 2018-09-26 So Sure Ltd Assessing condition of real-world objects
JP2020167512A (ja) * 2019-03-29 2020-10-08 ソニー株式会社 医療用画像伝送システム、医療用画像処理装置及び医療用画像伝送方法
JP7486338B2 (ja) * 2020-04-20 2024-05-17 キヤノンメディカルシステムズ株式会社 医用画像表示装置、医用画像出力装置、医用画像用媒体及び医用画像表示プログラム
DE102022126824A1 (de) 2022-10-13 2024-04-18 Karl Storz Se & Co. Kg Verfahren zum Überlagern von Überlagerungsaufnahmeinformationen mit einem Livebild und eine entsprechende Vorrichtung

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006180926A (ja) * 2004-12-24 2006-07-13 Mitaka Koki Co Ltd 医療用表示装置
JP2010213995A (ja) 2009-03-18 2010-09-30 Olympus Medical Systems Corp 手術用顕微鏡
JP2011027895A (ja) * 2009-07-23 2011-02-10 Mitaka Koki Co Ltd 顕微鏡システム
WO2015092882A1 (ja) * 2013-12-18 2015-06-25 株式会社島津製作所 赤外光イメージング装置
JP2017029471A (ja) * 2015-08-03 2017-02-09 株式会社島津製作所 イメージング装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6661571B1 (en) * 1999-09-21 2003-12-09 Olympus Optical Co., Ltd. Surgical microscopic system
JP4611674B2 (ja) * 2004-06-29 2011-01-12 Hoya株式会社 電子内視鏡システム
US20090192390A1 (en) 2008-01-24 2009-07-30 Lifeguard Surgical Systems Common bile duct surgical imaging system
US10602917B2 (en) 2013-12-31 2020-03-31 Karl Storz Imaging, Inc. Switching between white light imaging and excitation light imaging leaving last video frame displayed
EP3196593B1 (en) * 2016-01-21 2018-01-17 Safran Vectronix AG Stabilized observation with lrf function
US20200082789A1 (en) * 2018-09-12 2020-03-12 Chongqing Hkc Optoelectronics Technology Co., Ltd. Display device and method for automatically regulating screen brightness of the same

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006180926A (ja) * 2004-12-24 2006-07-13 Mitaka Koki Co Ltd 医療用表示装置
JP2010213995A (ja) 2009-03-18 2010-09-30 Olympus Medical Systems Corp 手術用顕微鏡
JP2011027895A (ja) * 2009-07-23 2011-02-10 Mitaka Koki Co Ltd 顕微鏡システム
WO2015092882A1 (ja) * 2013-12-18 2015-06-25 株式会社島津製作所 赤外光イメージング装置
JP2017029471A (ja) * 2015-08-03 2017-02-09 株式会社島津製作所 イメージング装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3590438A4

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021186803A1 (ja) * 2020-03-19 2021-09-23 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察システム、制御装置および制御方法

Also Published As

Publication number Publication date
US11478204B2 (en) 2022-10-25
JPWO2018179564A1 (ja) 2020-05-14
US20220401049A1 (en) 2022-12-22
EP3590438A4 (en) 2020-03-11
EP3590438B1 (en) 2023-02-15
US20200100744A1 (en) 2020-04-02
JP6918924B2 (ja) 2021-08-11
EP3590438A1 (en) 2020-01-08

Similar Documents

Publication Publication Date Title
JP6918924B2 (ja) 医療用表示制御装置、医療用観察装置、表示制御方法、および医療用観察システム
JP7163282B2 (ja) 医療用観察装置、処理方法、および医療用観察システム
US11638000B2 (en) Medical observation apparatus
CN110637458B (zh) 信息处理装置、信息处理方法以及计算机可读存储介质
WO2018221068A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP2023095970A (ja) 医療用観察システム
JP2004081264A (ja) 遠隔医療システム及び制御モダリティーの遠隔操作装置
JP7444163B2 (ja) 撮像装置、撮像方法、及びプログラム
JP7109936B2 (ja) 医療用制御装置、および制御方法
JP7094746B2 (ja) 医療用観察装置
JP6957605B2 (ja) 医療用観察システム、および制御方法
JP2023109802A (ja) 医療用制御装置、および医療用観察システム
JP2019154883A (ja) 医療用画像処理装置、医療用観察装置、および画像処理方法
JP7073145B2 (ja) 医療用調光制御装置、および医療用調光制御装置の作動方法
JP7134656B2 (ja) 医療用表示制御装置、および表示制御方法
WO2019111482A1 (ja) 医療用制御装置、および制御方法
JP2019154734A (ja) 医療用画像処理装置、医療用観察装置、および画像処理方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17902959

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019508543

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017902959

Country of ref document: EP

Effective date: 20190930