WO2018159336A1 - 医療用支持アームシステムおよび制御装置 - Google Patents

医療用支持アームシステムおよび制御装置 Download PDF

Info

Publication number
WO2018159336A1
WO2018159336A1 PCT/JP2018/005594 JP2018005594W WO2018159336A1 WO 2018159336 A1 WO2018159336 A1 WO 2018159336A1 JP 2018005594 W JP2018005594 W JP 2018005594W WO 2018159336 A1 WO2018159336 A1 WO 2018159336A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
joint
arm
external force
support arm
Prior art date
Application number
PCT/JP2018/005594
Other languages
English (en)
French (fr)
Inventor
栄良 笠井
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to US16/485,587 priority Critical patent/US20190365489A1/en
Publication of WO2018159336A1 publication Critical patent/WO2018159336A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • A61B90/25Supports therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/055Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances having rod-lens arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0676Endoscope light sources at distal tip of an endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • B25J13/085Force or torque sensors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J15/00Gripping heads and other end effectors
    • B25J15/0019End effectors other than grippers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01LMEASURING FORCE, STRESS, TORQUE, WORK, MECHANICAL POWER, MECHANICAL EFFICIENCY, OR FLUID PRESSURE
    • G01L5/00Apparatus for, or methods of, measuring force, work, mechanical power, or torque, specially adapted for specific purposes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01LMEASURING FORCE, STRESS, TORQUE, WORK, MECHANICAL POWER, MECHANICAL EFFICIENCY, OR FLUID PRESSURE
    • G01L5/00Apparatus for, or methods of, measuring force, work, mechanical power, or torque, specially adapted for specific purposes
    • G01L5/22Apparatus for, or methods of, measuring force, work, mechanical power, or torque, specially adapted for specific purposes for measuring the force applied to control members, e.g. control members of vehicles, triggers
    • G01L5/226Apparatus for, or methods of, measuring force, work, mechanical power, or torque, specially adapted for specific purposes for measuring the force applied to control members, e.g. control members of vehicles, triggers to manipulators, e.g. the force due to gripping
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/301Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • A61B2090/066Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension for measuring torque

Definitions

  • the present disclosure relates to a medical support arm system and a control device.
  • an imaging unit that captures an image of a surgical part and a holding unit that is connected to the imaging unit and is provided with a rotation shaft that can operate with at least 6 degrees of freedom
  • at least two of the rotating shafts are active shafts whose driving is controlled based on the state of the rotating shaft, and at least one of the shafts rotates according to a direct operation from outside with contact.
  • a configuration that is a passive axis is described.
  • the arm for the purpose of surgical support is used in an environment where various disturbances act.
  • it is generally difficult to estimate the force on which a disturbance acts regardless of conditions such as environment and scene.
  • the joint state acquisition unit that acquires the state of the joint unit of the arm unit, the condition that the external force due to the predetermined disturbance is limited to one or more predetermined directions, and the state of the joint unit
  • An external force estimation unit that estimates an external force due to the predetermined disturbance is provided.
  • connection part It is an enlarged view of a connection part. It is a figure for demonstrating the example of the force which acts from the trocar point. It is a figure for demonstrating the example of joint control when an observation point is set
  • FIG. 1 is a diagram illustrating an example of a schematic configuration of an endoscopic surgery system 5000 to which the technology according to the present disclosure can be applied.
  • an operator (doctor) 5067 is performing an operation on a patient 5071 on a patient bed 5069 using an endoscopic operation system 5000.
  • an endoscopic surgery system 5000 includes an endoscope 5001, other surgical tools 5017, a support arm device 5027 that supports the endoscope 5001, and various devices for endoscopic surgery. And a cart 5037 on which is mounted.
  • trocars 5025a to 5025d are punctured into the abdominal wall.
  • the lens barrel 5003 of the endoscope 5001 and other surgical tools 5017 are inserted into the body cavity of the patient 5071 from the trocars 5025a to 5025d.
  • an insufflation tube 5019, an energy treatment tool 5021, and forceps 5023 are inserted into the body cavity of the patient 5071.
  • the energy treatment device 5021 is a treatment device that performs tissue incision and separation, blood vessel sealing, or the like by high-frequency current or ultrasonic vibration.
  • the illustrated surgical tool 5017 is merely an example, and as the surgical tool 5017, for example, various surgical tools generally used in endoscopic surgery such as a lever and a retractor may be used.
  • the image of the surgical site in the body cavity of the patient 5071 captured by the endoscope 5001 is displayed on the display device 5041.
  • the surgeon 5067 performs a treatment such as excision of the affected part, for example, using the energy treatment tool 5021 and the forceps 5023 while viewing the image of the surgical part displayed on the display device 5041 in real time.
  • the pneumoperitoneum tube 5019, the energy treatment tool 5021, and the forceps 5023 are supported by an operator 5067 or an assistant during surgery.
  • the support arm device 5027 includes an arm portion 5031 extending from the base portion 5029.
  • the arm portion 5031 includes joint portions 5033a, 5033b, and 5033c and links 5035a and 5035b, and is driven by control from the arm control device 5045.
  • the endoscope 5001 is supported by the arm unit 5031, and the position and posture thereof are controlled. Thereby, the stable position fixing of the endoscope 5001 can be realized.
  • the endoscope 5001 includes a lens barrel 5003 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 5071, and a camera head 5005 connected to the proximal end of the lens barrel 5003.
  • a lens barrel 5003 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 5071, and a camera head 5005 connected to the proximal end of the lens barrel 5003.
  • an endoscope 5001 configured as a so-called rigid mirror having a rigid lens barrel 5003 is illustrated, but the endoscope 5001 is configured as a so-called flexible mirror having a flexible lens barrel 5003. Also good.
  • An opening into which an objective lens is fitted is provided at the tip of the lens barrel 5003.
  • a light source device 5043 is connected to the endoscope 5001, and light generated by the light source device 5043 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 5003. Irradiation is performed toward the observation target in the body cavity of the patient 5071 through the lens.
  • the endoscope 5001 may be a direct endoscope, a perspective mirror, or a side endoscope.
  • An optical system and an image sensor are provided inside the camera head 5005, and reflected light (observation light) from the observation target is condensed on the image sensor by the optical system. Observation light is photoelectrically converted by the imaging element, and an electrical signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
  • the image signal is transmitted to a camera control unit (CCU) 5039 as RAW data.
  • CCU camera control unit
  • the camera head 5005 is equipped with a function of adjusting the magnification and the focal length by appropriately driving the optical system.
  • a plurality of imaging elements may be provided in the camera head 5005 in order to cope with, for example, stereoscopic viewing (3D display).
  • a plurality of relay optical systems are provided inside the lens barrel 5003 in order to guide observation light to each of the plurality of imaging elements.
  • the CCU 5039 is configured by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and comprehensively controls operations of the endoscope 5001 and the display device 5041. Specifically, the CCU 5039 performs various types of image processing for displaying an image based on the image signal, such as development processing (demosaic processing), for example, on the image signal received from the camera head 5005. The CCU 5039 provides the display device 5041 with the image signal subjected to the image processing. Further, the CCU 5039 transmits a control signal to the camera head 5005 to control the driving thereof.
  • the control signal can include information regarding imaging conditions such as magnification and focal length.
  • the display device 5041 displays an image based on an image signal subjected to image processing by the CCU 5039 under the control of the CCU 5039.
  • the endoscope 5001 is compatible with high-resolution imaging such as 4K (horizontal pixel number 3840 ⁇ vertical pixel number 2160) or 8K (horizontal pixel number 7680 ⁇ vertical pixel number 4320), and / or 3D display
  • the display device 5041 may be a display device capable of high-resolution display and / or 3D display.
  • 4K or 8K high-resolution imaging a more immersive feeling can be obtained by using a display device 5041 having a size of 55 inches or more.
  • a plurality of display devices 5041 having different resolutions and sizes may be provided depending on applications.
  • the light source device 5043 is composed of a light source such as an LED (light emitting diode), for example, and supplies irradiation light to the endoscope 5001 when photographing a surgical site.
  • a light source such as an LED (light emitting diode)
  • the arm control device 5045 is configured by a processor such as a CPU, for example, and operates according to a predetermined program to control driving of the arm portion 5031 of the support arm device 5027 according to a predetermined control method.
  • the input device 5047 is an input interface for the endoscopic surgery system 5000.
  • the user can input various information and instructions to the endoscopic surgery system 5000 via the input device 5047.
  • the user inputs various types of information related to the operation, such as the patient's physical information and information about the surgical technique, via the input device 5047.
  • the user instructs the arm unit 5031 to be driven via the input device 5047 or the instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 5001. Then, an instruction to drive the energy treatment instrument 5021 is input.
  • the type of the input device 5047 is not limited, and the input device 5047 may be various known input devices.
  • the input device 5047 for example, a mouse, a keyboard, a touch panel, a switch, a foot switch 5057, and / or a lever can be applied.
  • the touch panel may be provided on the display surface of the display device 5041.
  • the input device 5047 is a device worn by the user, such as a glasses-type wearable device or an HMD (Head Mounted Display), and various types of input are performed according to the user's gesture and line of sight detected by these devices. Is done.
  • the input device 5047 includes a camera capable of detecting the user's movement, and various inputs are performed according to the user's gesture and line of sight detected from the video captured by the camera.
  • the input device 5047 includes a microphone that can pick up a user's voice, and various inputs are performed by voice through the microphone.
  • the input device 5047 is configured to be able to input various information without contact, so that a user belonging to a clean area (for example, an operator 5067) can operate a device belonging to an unclean area without contact. Is possible.
  • a user belonging to a clean area for example, an operator 5067
  • the user can operate the device without releasing his / her hand from the surgical tool he / she has, the convenience for the user is improved.
  • the treatment instrument control device 5049 controls the drive of the energy treatment instrument 5021 for tissue cauterization, incision, or blood vessel sealing.
  • the pneumoperitoneum device 5051 gas is introduced into the body cavity via the pneumoperitoneum tube 5019.
  • the recorder 5053 is an apparatus capable of recording various types of information related to surgery.
  • the printer 5055 is a device that can print various types of information related to surgery in various formats such as text, images, or graphs.
  • the support arm device 5027 includes a base portion 5029 as a base and an arm portion 5031 extending from the base portion 5029.
  • the arm portion 5031 includes a plurality of joint portions 5033a, 5033b, and 5033c and a plurality of links 5035a and 5035b connected by the joint portion 5033b.
  • FIG. The configuration of the arm portion 5031 is shown in a simplified manner. Actually, the shape, number and arrangement of the joint portions 5033a to 5033c and the links 5035a and 5035b, the direction of the rotation axis of the joint portions 5033a to 5033c, and the like are appropriately set so that the arm portion 5031 has a desired degree of freedom. obtain.
  • the arm portion 5031 can be preferably configured to have 6 degrees of freedom or more. Accordingly, the endoscope 5001 can be freely moved within the movable range of the arm portion 5031. Therefore, the barrel 5003 of the endoscope 5001 can be inserted into the body cavity of the patient 5071 from a desired direction. It becomes possible.
  • the joint portions 5033a to 5033c are provided with actuators, and the joint portions 5033a to 5033c are configured to be rotatable around a predetermined rotation axis by driving the actuators.
  • the arm control device 5045 By controlling the driving of the actuator by the arm control device 5045, the rotation angles of the joint portions 5033a to 5033c are controlled, and the driving of the arm portion 5031 is controlled. Thereby, control of the position and orientation of the endoscope 5001 can be realized.
  • the arm control device 5045 can control the driving of the arm unit 5031 by various known control methods such as force control or position control.
  • the arm control device 5045 appropriately controls the driving of the arm unit 5031 according to the operation input.
  • the position and posture of the endoscope 5001 may be controlled.
  • the endoscope 5001 at the tip of the arm portion 5031 can be moved from an arbitrary position to an arbitrary position, and then fixedly supported at the position after the movement.
  • the arm portion 5031 may be operated by a so-called master slave method.
  • the arm unit 5031 can be remotely operated by the user via the input device 5047 installed at a location away from the operating room.
  • the arm control device 5045 When force control is applied, the arm control device 5045 receives the external force from the user and moves the actuators of the joint portions 5033a to 5033c so that the arm portion 5031 moves smoothly according to the external force. You may perform what is called power assist control to drive. Accordingly, when the user moves the arm unit 5031 while directly touching the arm unit 5031, the arm unit 5031 can be moved with a relatively light force. Therefore, the endoscope 5001 can be moved more intuitively and with a simpler operation, and user convenience can be improved.
  • an endoscope 5001 is supported by a doctor called a scopist.
  • the position of the endoscope 5001 can be more reliably fixed without relying on human hands, so that an image of the surgical site can be stably obtained. It becomes possible to perform the operation smoothly.
  • the arm control device 5045 is not necessarily provided in the cart 5037. Further, the arm control device 5045 is not necessarily a single device. For example, the arm control device 5045 may be provided in each joint portion 5033a to 5033c of the arm portion 5031 of the support arm device 5027, and the plurality of arm control devices 5045 cooperate with each other to drive the arm portion 5031. Control may be realized.
  • the light source device 5043 supplies irradiation light to the endoscope 5001 when photographing a surgical site.
  • the light source device 5043 is composed of a white light source composed of, for example, an LED, a laser light source, or a combination thereof.
  • a white light source is configured by a combination of RGB laser light sources, the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Adjustments can be made.
  • each RGB light source is controlled by irradiating the observation target with laser light from each of the RGB laser light sources in a time-sharing manner and controlling the driving of the image sensor of the camera head 5005 in synchronization with the irradiation timing It is also possible to take the images that have been taken in time division. According to this method, a color image can be obtained without providing a color filter in the image sensor.
  • the light source device 5043 may be configured to be able to supply light of a predetermined wavelength band corresponding to special light observation.
  • special light observation for example, by utilizing the wavelength dependence of light absorption in body tissue, the surface of the mucous membrane is irradiated by irradiating light in a narrow band compared to irradiation light (ie, white light) during normal observation.
  • narrow band imaging is performed in which a predetermined tissue such as a blood vessel is imaged with high contrast.
  • fluorescence observation may be performed in which an image is obtained by fluorescence generated by irradiating excitation light.
  • the body tissue is irradiated with excitation light to observe fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue.
  • a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue.
  • ICG indocyanine green
  • the light source device 5043 can be configured to be able to supply narrowband light and / or excitation light corresponding to such special light observation.
  • FIG. 2 is a block diagram illustrating an example of functional configurations of the camera head 5005 and the CCU 5039 illustrated in FIG.
  • the camera head 5005 has a lens unit 5007, an imaging unit 5009, a drive unit 5011, a communication unit 5013, and a camera head control unit 5015 as its functions.
  • the CCU 5039 includes a communication unit 5059, an image processing unit 5061, and a control unit 5063 as its functions.
  • the camera head 5005 and the CCU 5039 are connected to each other via a transmission cable 5065 so that they can communicate with each other.
  • the lens unit 5007 is an optical system provided at a connection portion with the lens barrel 5003. Observation light captured from the tip of the lens barrel 5003 is guided to the camera head 5005 and enters the lens unit 5007.
  • the lens unit 5007 is configured by combining a plurality of lenses including a zoom lens and a focus lens. The optical characteristics of the lens unit 5007 are adjusted so that the observation light is condensed on the light receiving surface of the image sensor of the imaging unit 5009. Further, the zoom lens and the focus lens are configured such that their positions on the optical axis are movable in order to adjust the magnification and focus of the captured image.
  • the imaging unit 5009 is configured by an imaging element, and is disposed in the subsequent stage of the lens unit 5007.
  • the observation light that has passed through the lens unit 5007 is collected on the light receiving surface of the image sensor, and an image signal corresponding to the observation image is generated by photoelectric conversion.
  • the image signal generated by the imaging unit 5009 is provided to the communication unit 5013.
  • CMOS Complementary Metal Oxide Semiconductor
  • the imaging element for example, an element capable of capturing a high-resolution image of 4K or more may be used.
  • the image sensor that configures the image capturing unit 5009 is configured to include a pair of image sensors for acquiring right-eye and left-eye image signals corresponding to 3D display, for example. By performing the 3D display, the operator 5067 can more accurately grasp the depth of the living tissue in the surgical site.
  • the imaging unit 5009 is configured as a multi-plate type, a plurality of lens units 5007 are also provided corresponding to each imaging element.
  • the imaging unit 5009 is not necessarily provided in the camera head 5005.
  • the imaging unit 5009 may be provided inside the lens barrel 5003 immediately after the objective lens.
  • the driving unit 5011 includes an actuator, and moves the zoom lens and the focus lens of the lens unit 5007 by a predetermined distance along the optical axis under the control of the camera head control unit 5015. Thereby, the magnification and focus of the image captured by the imaging unit 5009 can be adjusted as appropriate.
  • the communication unit 5013 is configured by a communication device for transmitting and receiving various types of information to and from the CCU 5039.
  • the communication unit 5013 transmits the image signal obtained from the imaging unit 5009 as RAW data to the CCU 5039 via the transmission cable 5065.
  • the image signal is preferably transmitted by optical communication.
  • the surgeon 5067 performs the surgery while observing the state of the affected area with the captured image, so that a moving image of the surgical site is displayed in real time as much as possible for safer and more reliable surgery. Because it is required.
  • the communication unit 5013 is provided with a photoelectric conversion module that converts an electrical signal into an optical signal.
  • the image signal is converted into an optical signal by the photoelectric conversion module, and then transmitted to the CCU 5039 via the transmission cable 5065.
  • the communication unit 5013 receives a control signal for controlling driving of the camera head 5005 from the CCU 5039.
  • the control signal includes, for example, information for designating the frame rate of the captured image, information for designating the exposure value at the time of imaging, and / or information for designating the magnification and focus of the captured image. Contains information about the condition.
  • the communication unit 5013 provides the received control signal to the camera head control unit 5015.
  • the control signal from the CCU 5039 may also be transmitted by optical communication.
  • the communication unit 5013 is provided with a photoelectric conversion module that converts an optical signal into an electric signal.
  • the control signal is converted into an electric signal by the photoelectric conversion module, and then provided to the camera head control unit 5015.
  • the imaging conditions such as the frame rate, exposure value, magnification, and focus are automatically set by the control unit 5063 of the CCU 5039 based on the acquired image signal. That is, a so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function are mounted on the endoscope 5001.
  • AE Auto Exposure
  • AF Automatic Focus
  • AWB Automatic White Balance
  • the camera head control unit 5015 controls driving of the camera head 5005 based on a control signal from the CCU 5039 received via the communication unit 5013. For example, the camera head control unit 5015 controls driving of the imaging element of the imaging unit 5009 based on information indicating that the frame rate of the captured image is specified and / or information indicating that the exposure at the time of imaging is specified. For example, the camera head control unit 5015 appropriately moves the zoom lens and the focus lens of the lens unit 5007 via the drive unit 5011 based on information indicating that the magnification and focus of the captured image are designated.
  • the camera head control unit 5015 may further have a function of storing information for identifying the lens barrel 5003 and the camera head 5005.
  • the camera head 5005 can be resistant to autoclave sterilization by arranging the lens unit 5007, the imaging unit 5009, and the like in a sealed structure with high airtightness and waterproofness.
  • the communication unit 5059 is configured by a communication device for transmitting and receiving various types of information to and from the camera head 5005.
  • the communication unit 5059 receives an image signal transmitted from the camera head 5005 via the transmission cable 5065.
  • the image signal can be suitably transmitted by optical communication.
  • the communication unit 5059 is provided with a photoelectric conversion module that converts an optical signal into an electric signal.
  • the communication unit 5059 provides the image processing unit 5061 with the image signal converted into the electrical signal.
  • the communication unit 5059 transmits a control signal for controlling the driving of the camera head 5005 to the camera head 5005.
  • the control signal may also be transmitted by optical communication.
  • the image processing unit 5061 performs various types of image processing on the image signal that is RAW data transmitted from the camera head 5005. Examples of the image processing include development processing, high image quality processing (band enhancement processing, super-resolution processing, NR (Noise reduction) processing and / or camera shake correction processing, etc.), and / or enlargement processing (electronic zoom processing). Various known signal processing is included.
  • the image processing unit 5061 performs detection processing on the image signal for performing AE, AF, and AWB.
  • the image processing unit 5061 is configured by a processor such as a CPU or a GPU, and the above-described image processing and detection processing can be performed by the processor operating according to a predetermined program.
  • the image processing unit 5061 is configured by a plurality of GPUs, the image processing unit 5061 appropriately divides information related to the image signal, and performs image processing in parallel by the plurality of GPUs.
  • the control unit 5063 performs various controls relating to imaging of the surgical site by the endoscope 5001 and display of the captured image. For example, the control unit 5063 generates a control signal for controlling driving of the camera head 5005. At this time, when the imaging condition is input by the user, the control unit 5063 generates a control signal based on the input by the user. Alternatively, when the endoscope 5001 is equipped with the AE function, the AF function, and the AWB function, the control unit 5063 determines the optimum exposure value, focal length, and the like according to the detection processing result by the image processing unit 5061. A white balance is appropriately calculated and a control signal is generated.
  • control unit 5063 causes the display device 5041 to display an image of the surgical site based on the image signal subjected to the image processing by the image processing unit 5061.
  • the control unit 5063 recognizes various objects in the surgical unit image using various image recognition techniques. For example, the control unit 5063 detects the shape and color of the edge of the object included in the surgical part image, thereby removing surgical tools such as forceps, specific biological parts, bleeding, mist when using the energy treatment tool 5021, and the like. Can be recognized.
  • the control unit 5063 displays various types of surgery support information on the image of the surgical site using the recognition result. Surgery support information is displayed in a superimposed manner and presented to the operator 5067, so that the surgery can be performed more safely and reliably.
  • the transmission cable 5065 for connecting the camera head 5005 and the CCU 5039 is an electric signal cable corresponding to electric signal communication, an optical fiber corresponding to optical communication, or a composite cable thereof.
  • communication is performed by wire using the transmission cable 5065, but communication between the camera head 5005 and the CCU 5039 may be performed wirelessly.
  • communication between the two is performed wirelessly, there is no need to install the transmission cable 5065 in the operating room, so that the situation where the movement of the medical staff in the operating room is hindered by the transmission cable 5065 can be eliminated.
  • the endoscopic surgery system 5000 to which the technology according to the present disclosure can be applied has been described.
  • the endoscopic surgery system 5000 has been described as an example, but a system to which the technology according to the present disclosure can be applied is not limited to such an example.
  • the technology according to the present disclosure may be applied to a testing flexible endoscope system or a microscope operation system.
  • the support arm device described below is an example configured as a support arm device that supports an endoscope at the tip of an arm portion, but the present embodiment is not limited to such an example.
  • the support arm device according to the embodiment of the present disclosure can function as a medical support arm device.
  • FIG. 3 is a schematic view showing an appearance of the support arm device 400 according to the present embodiment.
  • the support arm device 400 includes a base portion 410 and an arm portion 420.
  • the base portion 410 is a base of the support arm device 400, and the arm portion 420 is extended from the base portion 410.
  • a control unit that integrally controls the support arm device 400 may be provided in the base unit 410, and driving of the arm unit 420 may be controlled by the control unit.
  • the said control part is comprised by various signal processing circuits, such as CPU and DSP, for example.
  • the arm part 420 includes a plurality of active joint parts 421a to 421f, a plurality of links 422a to 422f, and an endoscope apparatus 423 as a tip unit provided at the tip of the arm part 420.
  • the links 422a to 422f are substantially rod-shaped members.
  • One end of the link 422a is connected to the base portion 410 through the active joint portion 421a
  • the other end of the link 422a is connected to one end of the link 422b through the active joint portion 421b
  • the other end of the link 422b is connected to the active joint. It is connected to one end of the link 422c through the part 421c.
  • the other end of the link 422c is connected to the link 422d via the passive slide mechanism 100, and the other end of the link 422d is connected to one end of the link 422e via the passive joint portion 200.
  • the other end of the link 422e is connected to one end of the link 422f via the active joint portions 421d and 421e.
  • the endoscope apparatus 423 is connected to the distal end of the arm part 420, that is, the other end of the link 422f via an active joint part 421f.
  • the ends of the plurality of links 422a to 422f are connected to each other by the active joint portions 421a to 421f, the passive slide mechanism 100, and the passive joint portion 200, with the base portion 410 serving as a fulcrum.
  • a stretched arm shape is configured.
  • the position and orientation of the endoscope apparatus 423 are controlled by driving and controlling actuators provided in the respective active joint portions 421a to 421f of the arm portion 420.
  • the endoscope apparatus 423 enters a body cavity of a patient whose distal end is a treatment site and images a partial region of the treatment site.
  • the distal end unit provided at the distal end of the arm unit 420 is not limited to the endoscope device 423, and various medical instruments may be connected to the distal end of the arm unit 420 as the distal end unit.
  • the support arm device 400 according to the present embodiment is configured as a medical support arm device including a medical instrument.
  • the support arm device 400 will be described by defining coordinate axes as shown in FIG. Also, the vertical direction, the front-rear direction, and the left-right direction are defined according to the coordinate axes. That is, the vertical direction with respect to the base portion 410 installed on the floor is defined as the z-axis direction and the vertical direction. Further, the direction perpendicular to the z axis and extending from the base portion 410 to the arm portion 420 (that is, the direction in which the endoscope device 423 is positioned with respect to the base portion 410) is defined as the y axis. It is defined as direction and front-back direction. Furthermore, the directions orthogonal to the y-axis and the z-axis are defined as the x-axis direction and the left-right direction.
  • the active joint portions 421a to 421f connect the links to each other so as to be rotatable.
  • the active joint portions 421a to 421f have actuators, and have a rotation mechanism that is driven to rotate about a predetermined rotation axis by driving the actuators.
  • the drive of the arm portion 420 for example, extending or contracting (folding) the arm portion 420 can be controlled.
  • the driving of the active joint portions 421a to 421f can be controlled by, for example, known whole body cooperative control and ideal joint control.
  • the drive control of the active joint portions 421a to 421f is specifically the rotation angle of the active joint portions 421a to 421f and This means that the generated torque (torque generated by the active joint portions 421a to 421f) is controlled.
  • the passive slide mechanism 100 is an aspect of a passive form changing mechanism, and connects the link 422c and the link 422d so that they can move forward and backward along a predetermined direction.
  • the passive slide mechanism 100 may link the link 422c and the link 422d so that they can move linearly.
  • the advancing / retreating movement of the link 422c and the link 422d is not limited to a linear movement, and may be a reciprocating movement in a circular arc direction.
  • the passive slide mechanism 100 is, for example, operated to advance and retract by a user, and the distance between the active joint portion 421c on one end side of the link 422c and the passive joint portion 200 is variable. Thereby, the whole form of the arm part 420 can change.
  • the passive joint part 200 is an aspect of the passive form changing mechanism, and connects the link 422d and the link 422e so as to be rotatable.
  • the passive joint unit 200 is rotated by a user, for example, and the angle formed by the link 422d and the link 422e is variable. Thereby, the whole form of the arm part 420 can change.
  • the posture of the arm portion means that the active joint portions 421a to 421f by the control portion are in a state in which the distance between the adjacent active joint portions with one or more links interposed therebetween is constant.
  • the state of the arm part which can be changed by the drive control of the actuator provided in is said.
  • the “arm configuration” refers to the distance between adjacent active joints across the link and the link between adjacent active joints as the passive configuration changing mechanism is operated. The state of the arm part that can be changed by changing the angle formed by each other.
  • the support arm device 400 has six active joint portions 421a to 421f, and six degrees of freedom for driving the arm portion 420 is realized. That is, the drive control of the support arm device 400 is realized by the drive control of the six active joints 421a to 421f by the control unit, while the passive slide mechanism 100 and the passive joint unit 200 are the targets of the drive control by the control unit. is not.
  • the active joint portions 421a, 421d, and 421f rotate in the major axis direction of the connected links 422a and 422e and the imaging direction of the connected endoscope device 423.
  • An axial direction is provided.
  • the active joint portions 421b, 421c, and 421e are connected to each link 422a to 422c, 422e, 422f and the endoscope apparatus 423 at a yz plane (a plane defined by the y-axis and the z-axis).
  • the x-axis direction which is the direction to be changed inside, is provided as the rotation axis direction.
  • the active joint portions 421a, 421d, and 421f have a function of performing so-called yawing
  • the active joint portions 421b, 421c, and 421e have a function of performing so-called pitching.
  • the support arm device 400 realizes six degrees of freedom for driving the arm portion 420.
  • the mirror device 423 can be moved freely.
  • a hemisphere is illustrated as an example of the movable range of the endoscope apparatus 423.
  • the center point RCM (remote motion center) of the hemisphere is the imaging center of the treatment site imaged by the endoscope apparatus 423
  • the imaging center of the endoscope apparatus 423 is fixed to the center point of the hemisphere.
  • various operation spaces are used in a multi-link structure (for example, the arm unit 420 shown in FIG. 2 in the present embodiment) in which a plurality of links are connected by a plurality of joints.
  • Operaation Space Is a basic calculation in the whole body cooperative control of the multi-link structure, which converts the motion purpose regarding various dimensions into torque generated in a plurality of the joint portions in consideration of various constraint conditions.
  • the operation space is an important concept in the force control of the robot device.
  • the operation space is a space for describing the relationship between the force acting on the multi-link structure and the acceleration of the multi-link structure.
  • the operation space is, for example, a joint space, a Cartesian space, a momentum space or the like to which a multi-link structure belongs.
  • the motion purpose represents a target value in the drive control of the multi-link structure, and is, for example, a target value such as position, speed, acceleration, force, impedance, etc. of the multi-link structure to be achieved by the drive control.
  • Constraint conditions are constraints regarding the position, speed, acceleration, force, etc. of the multi-link structure, which are determined by the shape and structure of the multi-link structure, the environment around the multi-link structure, settings by the user, and the like.
  • the constraint condition includes information on generated force, priority, presence / absence of a non-driven joint, vertical reaction force, friction weight, support polygon, and the like.
  • the computation algorithm includes a first stage virtual force determination process (virtual force calculation process), It is configured by a two-stage real force conversion process (real force calculation process).
  • virtual force calculation process which is the first stage
  • the virtual force which is a virtual force acting on the operation space, necessary to achieve each exercise purpose is considered in consideration of the priority of the exercise purpose and the maximum value of the virtual force. decide.
  • actual force calculation process which is the second stage
  • the virtual force obtained above is used as an actual force such as joint force and external force while taking into account constraints on non-driving joints, vertical reaction forces, friction weights, support polygons, and the like.
  • a vector constituted by a certain physical quantity in each joint portion of the multi-link structure is referred to as a generalized variable q (also referred to as a joint value q or a joint space q).
  • the operation space x is defined by the following formula (1) using the time differential value of the generalized variable q and the Jacobian J.
  • q is a rotation angle in the joint portions 421a to 421f of the arm portion 420.
  • equation (2) The equation of motion related to the operation space x is described by the following equation (2).
  • f represents a force acting on the operation space x.
  • ⁇ ⁇ 1 is called an operation space inertia inverse matrix
  • c is called an operation space bias acceleration, which are expressed by the following equations (3) and (4), respectively.
  • H is a joint space inertia matrix
  • is a joint force corresponding to the joint value q (for example, generated torque in the joint portions 421a to 421f)
  • b is a term representing gravity, Coriolis force, and centrifugal force.
  • the LCP can be solved using, for example, an iterative method, a pivot method, a method applying robust acceleration control, or the like.
  • the operation space inertia inverse matrix ⁇ ⁇ 1 and the bias acceleration c are calculated as the above formulas (3) and (4), the calculation cost is high. Therefore, by applying the quasi-dynamics calculation (FWD) that obtains the generalized acceleration (joint acceleration) from the generalized force (joint force ⁇ ) of the multi-link structure, the operation space inertia inverse matrix ⁇ ⁇ 1 is calculated. A method of calculating at higher speed has been proposed.
  • the operation space inertia inverse matrix ⁇ ⁇ 1 and the bias acceleration c are obtained by using a forward dynamics calculation FWD, so that a multi-link structure (eg, arm portion) such as a joint space q, a joint force ⁇ , and a gravity g is used. 420 and information on the forces acting on the joints 421a to 421f).
  • a forward dynamics calculation FWD related to the operation space
  • the operation space inertia inverse matrix ⁇ ⁇ 1 can be calculated with a calculation amount of O (N) for the number N of joints.
  • the condition for achieving the target value of the operation space acceleration (represented by attaching a superscript bar to the second-order differential of x) with a virtual force f vi equal to or less than the absolute value F i is Can be expressed by the following mathematical formula (6).
  • the motion purpose related to the position and speed of the operation space x can be expressed as a target value of the operation space acceleration, and specifically expressed by the following formula (7) (the position of the operation space x
  • the target value of speed is expressed by adding a superscript bar to the first derivative of x and x).
  • the concept of the decomposition operation space it is also possible to set a motion purpose related to an operation space (momentum, Cartesian relative coordinates, interlocking joint, etc.) represented by a linear sum of other operation spaces. It is necessary to give priority between competing exercise purposes.
  • the LCP can be solved for each priority and sequentially from the low priority, and the virtual force obtained by the previous LCP can be applied as a known external force of the next LCP.
  • the subscript a represents a set of drive joint portions (drive joint set), and the subscript u represents a set of non-drive joint portions (non-drive joint set). That is, the upper stage of the above formula (8) represents the balance of the force of the space (non-drive joint space) by the non-drive joint part, and the lower stage represents the balance of the force of the space (drive joint space) by the drive joint part.
  • J vu and J va are a Jacobian non-drive joint component and drive joint component related to the operation space on which the virtual force f v acts, respectively.
  • J eu and J ea are Jacobian non-drive joint components and drive joint components related to the operation space on which the external force fe is applied.
  • ⁇ f v represents a component of the virtual force f v that cannot be realized by the actual force.
  • Equation (8) The upper part of the above equation (8) is indefinite, and for example, fe and ⁇ f v can be obtained by solving a quadratic programming problem (QP: Quadratic Programming Problem) as shown in the following equation (9).
  • QP Quadratic Programming Problem
  • is the difference between the upper sides of the above equation (8) and represents the equation error of equation (8).
  • is a connection vector between fe and ⁇ f v and represents a variable vector.
  • Q 1 and Q 2 are positive definite symmetric matrices that represent weights at the time of minimization.
  • the inequality constraint in the above formula (9) is used to express a constraint condition related to an external force such as a vertical reaction force, a friction cone, a maximum value of an external force, a support polygon, and the like.
  • the inequality constraint relating to the rectangular support polygon is expressed as the following formula (10).
  • z represents the normal direction of the contact surface
  • x and y represent orthogonal two tangential directions perpendicular to z.
  • (F x , F y , F z ) and (M x , M y , M z ) are external force and external force moment acting on the contact point.
  • ⁇ t and ⁇ r are friction coefficients relating to translation and rotation, respectively.
  • (D x , d y ) represents the size of the support polygon.
  • the joint force ⁇ a for achieving a desired exercise purpose can be obtained by sequentially performing the virtual force calculation process and the actual force calculation process. That is, conversely, by reflecting the calculated joint force tau a the theoretical model in the motion of the joints 421a ⁇ 421f, joints 421a ⁇ 421f is driven to achieve the desired movement purposes .
  • I a is the moment of inertia (inertia) at the joint
  • ⁇ a is the torque generated by the joints 421a to 421f
  • ⁇ e is the external torque that acts on the joints 421a to 421f from the outside
  • ⁇ e is each joint Viscosity resistance coefficient at 421a to 421f.
  • the mathematical formula (12) can also be said to be a theoretical model representing the motion of the actuator in the joint portions 421a to 421f.
  • Modeling error may occur between the motion of the joint portions 421a to 421f and the theoretical model shown in the above equation (12) due to the influence of various disturbances.
  • Modeling errors can be broadly classified into those caused by mass properties such as the weight, center of gravity, and inertia tensor of the multi-link structure, and those caused by friction and inertia in the joint portions 421a to 421f. .
  • the modeling error due to the former mass property can be reduced relatively easily during the construction of the theoretical model by increasing the accuracy of CAD (Computer Aided Design) data and applying an identification method.
  • CAD Computer Aided Design
  • the modeling error due to the friction and inertia in the latter joint portions 421a to 421f is caused by a phenomenon that is difficult to model, such as friction in the speed reducer 426 of the joint portions 421a to 421f.
  • Modeling errors that cannot be ignored during model construction may remain.
  • an error occurs between the value of inertia I a and viscosity resistance coefficient [nu e in the equation (12), and these values in the actual joints 421a ⁇ 421f.
  • the movement of the joint portions 421a to 421f may not respond according to the theoretical model shown in the above equation (12) due to the influence of such disturbance. Therefore, even if the actual force ⁇ a that is the joint force calculated by the generalized inverse dynamics is applied, there is a case where the motion purpose that is the control target is not achieved.
  • the responses of the joint portions 421a to 421f are corrected so as to perform an ideal response according to the theoretical model shown in the above formula (12). Think about it.
  • ideal joint control is performed by controlling the joints so that the joints 421a to 421f of the support arm device 400 perform an ideal response as shown in the above formula (12). It is called.
  • the actuator whose drive is controlled by the ideal joint control is also referred to as a virtual actuator (VA) because an ideal response is performed.
  • VA virtual actuator
  • FIG. 4 is an explanatory diagram for describing ideal joint control according to an embodiment of the present disclosure.
  • conceptual computing units that perform various computations related to ideal joint control are schematically illustrated in blocks.
  • the actuator 610 responds in accordance with the theoretical model expressed by the mathematical formula (12), and when the right side of the mathematical formula (12) is given, the rotational angular acceleration of the left side is achieved. It is none other than.
  • the theoretical model includes an external torque term ⁇ e that acts on the actuator 610.
  • the external torque ⁇ e is measured by the torque sensor 614.
  • a disturbance observer 620 is applied to calculate a disturbance estimated value ⁇ d that is an estimated value of torque caused by a disturbance based on the rotation angle q of the actuator 610 measured by the encoder 613.
  • a block 631 represents an arithmetic unit that performs an operation in accordance with an ideal joint model (Ideal Joint Model) of the joint portions 421a to 421f shown in the equation (12).
  • the block 631 receives the generated torque ⁇ a , the external torque ⁇ e , and the rotational angular velocity (the first derivative of the rotational angle q) as inputs, and the rotational angular acceleration target value (the rotational angle target value q ref ) shown on the left side of the equation (12). Can be output.
  • the above ⁇ 2-2 The generated torque ⁇ a calculated by the method described in the section “Generalized Inverse Dynamics” and the external torque ⁇ e measured by the torque sensor 614 are input to the block 631.
  • a rotational angular velocity (first-order differential of the rotational angle q) is calculated by inputting the rotational angle q measured by the encoder 613 to a block 632 representing a computing unit that performs a differential operation.
  • the rotational angular velocity calculated by the block 632 is input to the block 631, whereby the rotational angular acceleration target value is calculated by the block 631.
  • the calculated rotational angular acceleration target value is input to block 633.
  • a block 633 represents a calculator that calculates torque generated in the actuator 610 based on the rotational angular acceleration of the actuator 610.
  • the block 633 can obtain the torque target value ⁇ ref by multiplying the rotational angular acceleration target value by the nominal inertia (nominal inertia) J n in the actuator 610.
  • the desired motion objective should be achieved by causing the actuator 610 to generate the torque target value ⁇ ref.
  • the actual response is affected by disturbances and the like. There is a case. Accordingly, in the present embodiment, to calculate the estimated disturbance value tau d by the disturbance observer 620, corrects the torque target value tau ref using the disturbance estimated value tau d.
  • the disturbance observer 620 calculates a disturbance estimated value ⁇ d based on the torque command value ⁇ and the rotation angular velocity calculated from the rotation angle q measured by the encoder 613.
  • the torque command value ⁇ is a torque value finally generated in the actuator 610 after the influence of the disturbance is corrected.
  • the torque command value ⁇ becomes the torque target value ⁇ ref .
  • the disturbance observer 620 includes a block 634 and a block 635.
  • Block 634 represents a calculator that calculates torque generated in the actuator 610 based on the rotational angular velocity of the actuator 610.
  • the rotational angular velocity calculated by the block 632 is input to the block 634 from the rotational angle q measured by the encoder 613.
  • Block 634 obtains the rotational angular acceleration by performing an operation represented by the transfer function J n s, that is, differentiating the rotational angular velocity, and multiplies the calculated rotational angular acceleration by Nominal Inertia J n.
  • an estimated value (torque estimated value) of the torque actually acting on the actuator 610 can be calculated.
  • a difference between the estimated torque value and the torque command value ⁇ is taken to estimate a disturbance estimated value ⁇ d that is a torque value due to the disturbance.
  • the estimated disturbance value ⁇ d may be a difference between the torque command value ⁇ in the previous control and the estimated torque value in the current control.
  • the estimated torque value calculated by the block 634 is based on an actual measured value
  • the torque command value ⁇ calculated by the block 633 is based on an ideal theoretical model of the joint portions 421a to 421f shown in the block 631. Therefore, by taking the difference between the two, it is possible to estimate the influence of a disturbance that is not considered in the theoretical model.
  • the disturbance observer 620 is provided with a low pass filter (LPF) indicated by a block 635 in order to prevent system divergence.
  • the block 635 performs the operation represented by the transfer function g / (s + g), thereby outputting only the low frequency component for the input value and stabilizing the system.
  • the difference value between the estimated torque value calculated by the block 634 and the torque command value ⁇ ref is input to the block 635, and the low frequency component is calculated as the estimated disturbance value ⁇ d .
  • the torque command value is a torque value that causes the actuator 610 ⁇ is calculated. Then, the actuator 610 is driven based on the torque command value ⁇ . Specifically, the torque command value ⁇ is converted into a corresponding current value (current command value), and the current command value is applied to the motor 611, whereby the actuator 610 is driven.
  • the response of the actuator 610 is obtained even when there is a disturbance component such as friction. Can follow the target value. Further, the drive control of the joint portion 421a ⁇ 421f, it is possible to perform an ideal response that theoretical models according to the assumed inertia I a and viscosity resistance coefficient [nu a.
  • the generalized inverse dynamics used in the present embodiment has been described above, and the ideal joint control according to the present embodiment has been described with reference to FIG.
  • the drive parameters for example, the joint portions 421a to 421f of the joint portions 421a to 421f
  • the whole body cooperative control is performed in which the generated torque value) is calculated in consideration of the constraint conditions.
  • the generated torque value calculated by the whole body cooperative control using the generalized inverse dynamics is corrected in consideration of the influence of disturbance.
  • FIG. 5 is a functional block diagram illustrating a configuration example of an arm control system according to an embodiment of the present disclosure. Note that the arm control system shown in FIG. 5 mainly illustrates the configuration related to the drive control of the arm portion of the arm device.
  • the arm control system 1 includes an arm device 10, a control device 20, and a display device 30.
  • the control device 20 performs the above ⁇ 2-2.
  • various calculations in the ideal joint control described above are performed, and the drive of the arm unit of the arm device 10 is controlled based on the calculation results.
  • the arm unit of the arm device 10 is provided with an imaging unit 140 described later, and an image photographed by the imaging unit 140 is displayed on the display screen of the display device 30.
  • the configurations of the arm device 10, the control device 20, and the display device 30 will be described in detail.
  • the arm device 10 includes an arm portion that is a multi-link structure including a plurality of joint portions and a plurality of links, and is provided at the tip of the arm portion by driving the arm portion within a movable range. Controls the position and orientation of the tip unit.
  • the arm device 10 corresponds to the support arm device 400 shown in FIG.
  • the arm device 10 includes an arm control unit 110 and an arm unit 120.
  • the arm unit 120 includes a joint unit 130 and an imaging unit 140.
  • the arm control unit 110 controls the arm device 10 in an integrated manner and also controls the driving of the arm unit 120.
  • the arm control unit 110 corresponds to the control unit (not shown in FIG. 3) described with reference to FIG.
  • the arm control unit 110 includes a drive control unit 111, and the drive of the arm unit 120 is controlled by controlling the drive of the joint unit 130 by the control from the drive control unit 111.
  • the drive control unit 111 controls the number of rotations of the motor by controlling the amount of current supplied to the motor in the actuator of the joint unit 130, and the rotation angle and generation in the joint unit 130. Control torque.
  • the drive control of the arm unit 120 by the drive control unit 111 is performed based on the calculation result in the control device 20. Therefore, the amount of current supplied to the motor in the actuator of the joint unit 130 controlled by the drive control unit 111 is a current amount determined based on the calculation result in the control device 20.
  • the arm unit 120 is a multi-link structure composed of a plurality of joints and a plurality of links, and the driving thereof is controlled by the control from the arm control unit 110.
  • the arm part 120 corresponds to the arm part 420 shown in FIG.
  • the arm unit 120 includes a joint unit 130 and an imaging unit 140.
  • the structure of the one joint part 130 is illustrated on behalf of these some joint parts.
  • the joint unit 130 rotatably connects between the links in the arm unit 120, and drives the arm unit 120 by controlling the rotation drive by the control from the arm control unit 110.
  • the joint portion 130 corresponds to the joint portions 421a to 421f shown in FIG.
  • the joint part 130 has an actuator.
  • the joint unit 130 includes a joint drive unit 131 and a joint state detection unit 132.
  • the joint drive part 131 is a drive mechanism in the actuator of the joint part 130, and when the joint drive part 131 drives, the joint part 130 rotationally drives.
  • the drive of the joint drive unit 131 is controlled by the drive control unit 111.
  • the joint drive unit 131 has a configuration corresponding to a motor and a motor driver.
  • the drive of the joint drive unit 131 means that the motor driver drives the motor with a current amount according to a command from the drive control unit 111. It corresponds to.
  • the joint state detection unit 132 detects the state of the joint unit 130.
  • the state of the joint 130 may mean the state of motion of the joint 130.
  • the state of the joint unit 130 includes information such as the rotation angle, rotation angular velocity, rotation angular acceleration, and generated torque of the joint unit 130.
  • the joint state detection unit 132 includes a rotation angle detection unit 133 that detects the rotation angle of the joint unit 130, and a torque detection unit 134 that detects the generated torque and the external torque of the joint unit 130.
  • the rotation angle detection unit 133 and the torque detection unit 134 correspond to an encoder and a torque sensor of the actuator, respectively.
  • the joint state detection unit 132 transmits the detected state of the joint unit 130 to the control device 20.
  • the imaging unit 140 is an example of a tip unit provided at the tip of the arm unit 120, and acquires an image to be shot.
  • the imaging unit 140 corresponds to the imaging unit 423 shown in FIG.
  • the imaging unit 140 is a camera or the like that can shoot a shooting target in the form of a moving image or a still image.
  • the imaging unit 140 has a plurality of light receiving elements arranged two-dimensionally, and can acquire an image signal representing an image to be photographed by photoelectric conversion in the light receiving elements.
  • the imaging unit 140 transmits the acquired image signal to the display device 30.
  • the imaging unit 423 is actually provided at the tip of the arm unit 120 as in the robot arm device 10 as the imaging unit 423 is provided at the tip of the arm unit 420. ing.
  • FIG. 5 a state in which the imaging unit 140 is provided at the distal end of the link in the final stage via a plurality of joint units 130 and a plurality of links is schematically illustrated between the joint unit 130 and the imaging unit 140. It is expressed by
  • various medical instruments can be connected to the tip of the arm unit 120 as a tip unit.
  • the medical instrument include various units used for the treatment, such as various surgical instruments such as a scalpel and forceps, and a unit of various inspection apparatuses such as a probe of an ultrasonic inspection apparatus.
  • a unit having an imaging function such as the imaging unit 140 shown in FIG. 5 or an endoscope or a microscope may be included in the medical instrument.
  • the arm device 10 according to the present embodiment is a medical arm device including a medical instrument.
  • the arm control system 1 according to the present embodiment is a medical arm control system. It can be said that the arm device 10 shown in FIG.
  • a scope holding arm device including a unit having an imaging function as a tip unit. Further, a stereo camera having two imaging units (camera units) may be provided at the tip of the arm unit 120, and shooting may be performed so that the imaging target is displayed as a 3D image.
  • the control device 20 includes an input unit 210, a storage unit 220, and a control unit 230.
  • the control unit 230 integrally controls the control device 20 and performs various calculations for controlling the driving of the arm unit 120 in the arm device 10. Specifically, the control unit 230 performs various calculations in the whole body cooperative control and the ideal joint control in order to control the drive of the arm unit 120 of the arm device 10.
  • the function and configuration of the control unit 230 will be described in detail.
  • the whole body cooperative control and the ideal joint control are described in ⁇ 2-2. About Generalized Inverse Dynamics> and ⁇ 2-3. Since the ideal joint control has already been described in>, a detailed description is omitted here.
  • the control unit 230 includes a whole body cooperative control unit 240 and an ideal joint control unit 250.
  • the whole body cooperative control unit 240 performs various calculations related to whole body cooperative control using generalized inverse dynamics.
  • the whole body cooperative control unit 240 acquires the state of the arm unit 120 (arm state) based on the state of the joint unit 130 detected by the joint state detection unit 132. Further, the whole body cooperative control unit 240 generates a generalized inverse power based on the control value for the whole body cooperative control of the arm unit 120 in the operation space based on the arm state, the motion purpose and the constraint condition of the arm unit 120. Calculate using science.
  • the operation space is a space for describing the relationship between the force acting on the arm unit 120 and the acceleration generated in the arm unit 120, for example.
  • the whole body cooperative control unit 240 includes an arm state acquisition unit 241, a calculation condition setting unit 242, a virtual force calculation unit 243, and a real force calculation unit 244.
  • the arm state acquisition unit 241 acquires the state (arm state) of the arm unit 120 based on the state of the joint unit 130 detected by the joint state detection unit 132.
  • the arm state may mean a state of movement of the arm unit 120.
  • the arm state includes information such as the position, speed, acceleration, and force of the arm unit 120.
  • the joint state detection unit 132 acquires information such as the rotation angle, the rotation angular velocity, the rotation angular acceleration, and the generated torque in each joint unit 130 as the state of the joint unit 130.
  • the storage unit 220 stores various types of information processed by the control device 20, and in the present embodiment, the storage unit 220 stores various types of information (arm information) about the arm unit 120.
  • the arm state acquisition unit 241 can acquire the arm information from the storage unit 220. Therefore, the arm state acquisition unit 241 determines the position (coordinates) in space of the plurality of joint units 130, the plurality of links, and the imaging unit 140 based on the state of the joint unit 130 and the arm information (that is, the arm unit 120). Information such as the shape, the position and orientation of the image capturing unit 140), the force acting on each joint unit 130, the link, and the image capturing unit 140 can be acquired as an arm state.
  • the arm state acquisition unit 241 transmits the acquired arm information to the calculation condition setting unit 242.
  • the calculation condition setting unit 242 sets calculation conditions for calculation related to whole body cooperative control using generalized inverse dynamics.
  • the calculation condition may be an exercise purpose and a constraint condition.
  • the exercise purpose may be various types of information regarding the exercise of the arm unit 120.
  • the purpose of motion is a target value such as the position and orientation (coordinates), speed, acceleration, and force of the imaging unit 140, or the positions (coordinates) of the joints 130 and the links of the arm unit 120. ), Target values such as speed, acceleration and force.
  • the constraint condition may be various types of information that limits (restrains) the movement of the arm unit 120.
  • the constraint condition may be coordinates of a region in which each component of the arm unit is not movable, a non-movable speed, an acceleration value, a force value that cannot be generated, or the like.
  • the limitation range of various physical quantities in the constraint condition may be set because it is impossible to realize the structure of the arm unit 120, or may be set as appropriate by the user.
  • the calculation condition setting unit 242 also includes a physical model for the structure of the arm unit 120 (for example, the number and length of links constituting the arm unit 120, the connection status through the link joint unit 130, and the movement of the joint unit 130).
  • the motion condition and the constraint condition may be set by generating a control model in which the desired motion condition and the constraint condition are reflected in the physical model.
  • the arm unit 120 it is possible to cause the arm unit 120 to perform a desired operation by appropriately setting the exercise purpose and the constraint condition. For example, by setting a target value for the position of the imaging unit 140 as an exercise purpose, the arm unit 120 does not enter a predetermined area in the space as well as moving the imaging unit 140 to the target position. For example, it is possible to drive the arm unit 120 by restricting movement according to the constraint conditions.
  • the purpose of exercise is to move the imaging unit 140 in the plane of the cone with the treatment site as a vertex in a state where the imaging direction of the imaging unit 140 is fixed to the treatment site.
  • a pivoting operation that is a pivoting operation with the axis as a pivotal axis may be used.
  • the turning operation may be performed in a state where the distance between the imaging unit 140 and the point corresponding to the apex of the cone is kept constant.
  • the purpose of exercise may be a content for controlling the torque generated at each joint 130.
  • the purpose of the exercise is to control the state of the joint 130 so as to cancel the gravity acting on the arm 120, and to further support the movement of the arm 120 in the direction of the force applied from the outside.
  • a power assist operation for controlling the state of the joint 130 may be used. More specifically, in the power assist operation, the driving of each joint unit 130 is controlled so as to cause each joint unit 130 to generate generated torque that cancels the external torque due to gravity in each joint unit 130 of the arm unit 120. Thus, the position and posture of the arm unit 120 are held in a predetermined state.
  • each joint 130 is controlled so that a generated torque in the same direction as the applied external torque is generated in each joint 130.
  • The By performing such a power assist operation, when the user manually moves the arm unit 120, the user can move the arm unit 120 with a smaller force, so that the arm unit 120 is moved under zero gravity. It is possible to give the user a feeling of being. It is also possible to combine the above-described pivot operation and the power assist operation.
  • the exercise purpose may mean an operation (exercise) of the arm unit 120 realized in the whole body cooperative control, or an instantaneous exercise purpose (that is, an exercise purpose) in the operation.
  • Target value For example, in the case of the pivot operation described above, the purpose of the image capturing unit 140 to perform the pivot operation itself is a movement purpose. However, during the pivot operation, the image capturing unit 140 within the conical surface in the pivot operation is used. Values such as position and speed are set as instantaneous exercise objectives (target values for the exercise objectives). Further, for example, in the case of the power assist operation described above, the power assist operation for supporting the movement of the arm unit 120 in the direction of the force applied from the outside is itself an exercise purpose, but the power assist operation is performed.
  • the value of the generated torque in the same direction as the external torque applied to each joint portion 130 is set as an instantaneous exercise purpose (target value for the exercise purpose).
  • the instantaneous movement objective for example, the target value of the position, speed, force, etc. of each component member of the arm unit 120 at a certain time
  • the instantaneous movement objective are continuously achieved.
  • it is a concept including both of the operations of the respective constituent members of the arm unit 120 realized over time.
  • an instantaneous exercise purpose is set each time, and the calculation is repeatedly performed, so that the desired exercise purpose is finally achieved.
  • the viscous resistance coefficient in the rotational motion of each joint 130 may be set as appropriate.
  • the joint portion 130 according to the present embodiment is configured so that the viscous resistance coefficient in the rotational movement of the actuator can be appropriately adjusted. Therefore, by setting the viscous resistance coefficient in the rotational motion of each joint portion 130 when setting the motion purpose, for example, it is possible to realize a state that is easy to rotate or a state that is difficult to rotate with respect to a force applied from the outside.
  • the viscous resistance coefficient in the joint portion 130 is set to be small, so that the force required for the user to move the arm portion 120 may be smaller, and the feeling of weight given to the user may be reduced. More conducive.
  • the viscous resistance coefficient in the rotational motion of each joint 130 may be appropriately set according to the content of the motion purpose.
  • the storage unit 220 may store parameters related to calculation conditions such as exercise purpose and constraint conditions used in calculations related to whole body cooperative control.
  • the calculation condition setting unit 242 can set the constraint condition stored in the storage unit 220 as the constraint condition used for the calculation of the whole body cooperative control.
  • the calculation condition setting unit 242 can set the exercise purpose by a plurality of methods.
  • the calculation condition setting unit 242 may set the exercise purpose based on the arm state transmitted from the arm state acquisition unit 241.
  • the arm state includes information on the position of the arm unit 120 and information on the force acting on the arm unit 120. Therefore, for example, when the user intends to move the arm unit 120 manually, the arm state acquisition unit 241 also acquires information on how the user is moving the arm unit 120 as the arm state. The Therefore, the calculation condition setting unit 242 can set the position, speed, force, and the like at which the user moved the arm unit 120 as an instantaneous exercise purpose based on the acquired arm state. By setting the purpose of exercise in this way, the driving of the arm unit 120 is controlled so as to follow and support the movement of the arm unit 120 by the user.
  • the calculation condition setting unit 242 may set the exercise purpose based on an instruction input by the user from the input unit 210.
  • the input unit 210 is an input interface for a user to input information, commands, and the like regarding drive control of the arm device 10 to the control device 20, and in this embodiment, an operation from the input unit 210 by the user.
  • An exercise purpose may be set based on the input.
  • the input unit 210 has operation means operated by a user such as a lever and a pedal, for example, and the position and speed of each constituent member of the arm unit 120 according to the operation of the lever and the pedal.
  • the calculation condition setting unit 242 may set as an instantaneous exercise purpose.
  • the calculation condition setting unit 242 may set the exercise purpose stored in the storage unit 220 as the exercise purpose used for the calculation of the whole body cooperative control.
  • the purpose of movement is to stop the imaging unit 140 at a predetermined point in space
  • the coordinates of the predetermined point can be set in advance as the purpose of movement.
  • the imaging purpose 140 is a motion purpose of moving on a predetermined trajectory in space
  • the coordinates of each point representing the predetermined trajectory can be set in advance as the motion purpose.
  • the exercise purpose may be stored in the storage unit 220 in advance.
  • the purpose of motion is limited to the target value such as the position and speed in the plane of the cone
  • the purpose of motion is the force as the target value. Limited to things.
  • exercise objectives such as pivot action and power assist action
  • information on the range and type of target values that can be set as instantaneous exercise objectives in these exercise objectives It may be stored in the storage unit 220.
  • the calculation condition setting unit 242 can set the exercise purpose including various information related to the exercise purpose.
  • the calculation condition setting unit 242 sets the exercise purpose may be appropriately set by the user according to the use of the arm device 10 or the like.
  • the calculation condition setting unit 242 may also set the exercise purpose and the constraint condition by appropriately combining the above methods.
  • the priority of the exercise purpose may be set in the constraint conditions stored in the storage unit 220, and when there are a plurality of different exercise purposes, the calculation condition setting unit 242 The exercise purpose may be set according to the priority of the condition.
  • the calculation condition setting unit 242 transmits the arm state and the set exercise purpose and constraint condition to the virtual force calculation unit 243.
  • the virtual force calculation unit 243 calculates a virtual force in a calculation related to whole body cooperative control using generalized inverse dynamics.
  • the virtual force calculation process performed by the virtual force calculation unit 243 is, for example, ⁇ 2-2-1. It may be a series of processes described in “Virtual Force Calculation Process”.
  • the virtual force calculation unit 243 transmits the calculated virtual force f v to the real force calculation unit 244.
  • the real force calculation unit 244 calculates the real force in a calculation related to whole body cooperative control using generalized inverse dynamics.
  • Real force calculation processing performed by the real force calculation unit 244 is, for example, ⁇ 2-2-2. It may be a series of processes described in Real force calculation process>.
  • the actual force calculation unit 244 transmits the calculated actual force (generated torque) ⁇ a to the ideal joint control unit 250.
  • the generated torque ⁇ a calculated by the actual force calculation unit 244 is also referred to as a control value or a control torque value in the sense of a control value of the joint unit 130 in the whole body cooperative control.
  • the ideal joint control unit 250 performs various calculations related to ideal joint control using generalized inverse dynamics.
  • the ideal joint control unit 250 corrects the influence of disturbance on the generated torque ⁇ a calculated by the actual force calculation unit 244, thereby realizing a torque command that realizes an ideal response of the arm unit 120.
  • the value ⁇ is calculated.
  • the calculation process performed by the ideal joint control unit 250 is described in ⁇ 2-3. This corresponds to the series of processes described in the >> ideal joint control.
  • the ideal joint control unit 250 includes a disturbance estimation unit 251 and a command value calculation unit 252.
  • the disturbance estimation unit 251 calculates a disturbance estimated value ⁇ d based on the torque command value ⁇ and the rotation angular velocity calculated from the rotation angle q detected by the rotation angle detection unit 133.
  • the torque command value ⁇ here is a command value that represents the torque generated in the arm unit 120 that is finally transmitted to the arm device 10.
  • the disturbance estimation unit 251 has a function corresponding to the disturbance observer 620 shown in FIG.
  • the command value calculator 252 uses the estimated disturbance value ⁇ d calculated by the disturbance estimator 251 and uses the estimated torque value ⁇ d to be finally transmitted to the arm device 10. ⁇ is calculated. Specifically, the command value calculation unit 252 adds the disturbance estimated value ⁇ d calculated by the disturbance estimation unit 251 to ⁇ ref calculated from the ideal model of the joint unit 130 expressed by the mathematical formula (12). The torque command value ⁇ is calculated. For example, when the disturbance estimated value ⁇ d is not calculated, the torque command value ⁇ becomes the torque target value ⁇ ref . Thus, the function of the command value calculation unit 252 corresponds to functions other than the disturbance observer 620 shown in FIG.
  • the series of processing described with reference to FIG. 4 is performed by repeatedly exchanging information between the disturbance estimation unit 251 and the command value calculation unit 252. Done.
  • the ideal joint control unit 250 transmits the calculated torque command value ⁇ to the drive control unit 111 of the arm device 10.
  • the drive control unit 111 controls the number of rotations of the motor by performing control to supply a current amount corresponding to the transmitted torque command value ⁇ to the motor in the actuator of the joint unit 130. The rotation angle and generated torque at are controlled.
  • the drive control of the arm unit 120 in the arm device 10 is continuously performed while work using the arm unit 120 is performed.
  • the above-described processing at 20 is repeated. That is, the state of the joint 130 is detected by the joint state detector 132 of the arm device 10 and transmitted to the control device 20.
  • the control device 20 performs various calculations related to the whole body cooperative control and the ideal joint control for controlling the driving of the arm unit 120 based on the state of the joint unit 130, the purpose of exercise, and the constraint condition. Is transmitted to the arm device 10.
  • the driving of the arm unit 120 is controlled based on the torque command value ⁇ , and the state of the joint unit 130 during or after driving is detected again by the joint state detection unit 132.
  • control device 20 The description of other configurations of the control device 20 will be continued.
  • the input unit 210 is an input interface for allowing a user to input information, commands, and the like regarding drive control of the arm device 10 to the control device 20.
  • the driving of the arm unit 120 of the arm device 10 may be controlled based on the operation input from the input unit 210 by the user, and the position and orientation of the imaging unit 140 may be controlled.
  • the calculation condition setting unit 242 includes the instruction information. Based on this, the exercise purpose in the whole body cooperative control may be set. As described above, the whole body cooperative control is performed using the exercise purpose based on the instruction information input by the user, thereby realizing the driving of the arm unit 120 according to the operation input of the user.
  • the input unit 210 includes operation means operated by the user such as a mouse, a keyboard, a touch panel, a button, a switch, a lever, and a pedal.
  • operation means operated by the user such as a mouse, a keyboard, a touch panel, a button, a switch, a lever, and a pedal.
  • the input unit 210 includes a pedal
  • the user can control the driving of the arm unit 120 by operating the pedal with a foot. Therefore, even when the user is performing treatment on the patient's surgical site using both hands, the position and posture of the imaging unit 140, that is, the imaging position and the imaging angle of the surgical site by the pedal operation with the foot Can be adjusted.
  • the storage unit 220 stores various types of information processed by the control device 20.
  • the storage unit 220 can store various parameters used in calculations related to whole body cooperative control and ideal joint control performed by the control unit 230.
  • the storage unit 220 may store an exercise purpose and a constraint condition used in a calculation related to the whole body cooperative control by the whole body cooperative control unit 240.
  • the exercise purpose stored in the storage unit 220 may be an exercise purpose that can be set in advance, for example, the imaging unit 140 is stationary at a predetermined point in space.
  • the constraint condition may be set in advance by the user and stored in the storage unit 220 in accordance with the geometric configuration of the arm unit 120, the use of the robot arm device 10, or the like.
  • the storage unit 220 may store various types of information related to the arm unit 120 used when the arm state acquisition unit 241 acquires the arm state. Furthermore, the storage unit 220 may store calculation results in calculations related to whole body cooperative control and ideal joint control by the control unit 230, numerical values calculated in the calculation process, and the like. As described above, the storage unit 220 may store various parameters related to various processes performed by the control unit 230, and the control unit 230 performs various processes while transmitting and receiving information to and from the storage unit 220. be able to.
  • control device 20 The function and configuration of the control device 20 have been described above. Note that the control device 20 according to the present embodiment can be configured by various information processing devices (arithmetic processing devices) such as a PC (Personal Computer) and a server. Next, the function and configuration of the display device 30 will be described.
  • information processing devices such as a PC (Personal Computer) and a server.
  • the display device 30 displays various types of information on the display screen in various formats such as text and images, thereby visually notifying the user of the information.
  • the display device 30 displays an image photographed by the imaging unit 140 of the arm device 10 on the display screen.
  • the display device 30 displays on the display screen an image signal processing unit (not shown) that performs various types of image processing on the image signal acquired by the imaging unit 140 and an image based on the processed image signal. It has the function and configuration of a display control unit (not shown) that performs control to display.
  • the display device 30 may have various functions and configurations that are generally included in the display device in addition to the functions and configurations described above.
  • the display device 30 corresponds to the display device 5041 shown in FIG.
  • each component described above may be configured using a general-purpose member or circuit, or may be configured by hardware specialized for the function of each component.
  • the CPU or the like may perform all functions of each component. Therefore, it is possible to appropriately change the configuration to be used according to the technical level at the time of carrying out the present embodiment.
  • the arm unit 120 that is a multi-link structure in the arm device 10 has a degree of freedom of at least 6 degrees of freedom and a plurality of joints that constitute the arm unit 120.
  • Each drive of the unit 130 is controlled by the drive control unit 111.
  • a medical instrument is provided at the tip of the arm unit 120.
  • the state of the joint portion 130 is detected by the joint state detection unit 132 in the arm device 10.
  • a torque command value ⁇ as a calculation result is calculated.
  • the driving of the arm unit 120 is controlled based on the torque command value ⁇ .
  • the drive of the arm part 120 is controlled by the whole body cooperative control using generalized inverse dynamics. Therefore, drive control of the arm unit 120 by force control is realized, and an arm device with higher operability for the user is realized.
  • ideal joint control is applied to drive control of the arm unit 120 together with whole body cooperative control.
  • disturbance components such as friction and inertia inside the joint portion 130 are estimated, and feedforward control using the estimated disturbance components is performed. Therefore, even when there is a disturbance component such as friction, it is possible to realize an ideal response for driving the joint portion 130. Therefore, in the drive control of the arm unit 120, high-accuracy responsiveness and high positioning accuracy and stability that are less affected by vibration and the like are realized.
  • each of the plurality of joint portions 130 constituting the arm portion 120 has a configuration suitable for ideal joint control, and the rotation angle, generated torque, and viscous resistance coefficient in each joint portion 130 are determined as currents. Can be controlled by value. In this way, the driving of each joint unit 130 is controlled by the current value, and the driving of each joint unit 130 is controlled by grasping the state of the entire arm unit 120 by the whole body cooperative control. Thus, the arm device 10 can be downsized.
  • Example of Microsurgery System Configuration can be applied to various products.
  • the technology according to the present disclosure may be applied to a microscopic surgery system used for so-called microsurgery performed while magnifying and observing a fine part of a patient.
  • FIG. 6 is a diagram illustrating an example of a schematic configuration of a microscopic surgery system 5300 to which the technology according to the present disclosure can be applied.
  • the microscope surgery system 5300 includes a microscope device 5301, a control device 5317, and a display device 5319.
  • “user” means any medical staff who uses the microscope surgery system 5300, such as an operator and an assistant.
  • the microscope apparatus 5301 includes a microscope unit 5303 for magnifying and observing an observation target (a patient's surgical site), an arm unit 5309 that supports the microscope unit 5303 at the distal end, and a base unit 5315 that supports the proximal end of the arm unit 5309. Have.
  • the microscope unit 5303 includes a substantially cylindrical cylindrical part 5305, an imaging unit (not shown) provided inside the cylindrical part 5305, and an operation unit 5307 provided in a partial area on the outer periphery of the cylindrical part 5305. And.
  • the microscope unit 5303 is an electronic imaging type microscope unit (so-called video type microscope unit) in which a captured image is electronically captured by the imaging unit.
  • a cover glass that protects the internal imaging unit is provided on the opening surface at the lower end of the cylindrical part 5305.
  • Light from the observation target (hereinafter also referred to as observation light) passes through the cover glass and enters the imaging unit inside the cylindrical part 5305.
  • a light source such as an LED (Light Emitting Diode) may be provided inside the cylindrical portion 5305, and light is emitted from the light source to the observation target through the cover glass during imaging. May be.
  • the imaging unit includes an optical system that collects the observation light and an image sensor that receives the observation light collected by the optical system.
  • the optical system is configured by combining a plurality of lenses including a zoom lens and a focus lens, and the optical characteristics thereof are adjusted so that the observation light is imaged on the light receiving surface of the image sensor.
  • the imaging element receives the observation light and photoelectrically converts it to generate a signal corresponding to the observation light, that is, an image signal corresponding to the observation image.
  • an element having a Bayer array capable of color photography is used.
  • the image sensor may be various known image sensors such as a CMOS (Complementary Metal Oxide Semiconductor) image sensor or a CCD (Charge Coupled Device) image sensor.
  • the image signal generated by the image sensor is transmitted to the control device 5317 as RAW data.
  • the transmission of the image signal may be preferably performed by optical communication.
  • the surgeon performs the operation while observing the state of the affected area with the captured image.
  • the moving image of the surgical site should be displayed in real time as much as possible. Because it is.
  • a captured image can be displayed with low latency.
  • the imaging unit may have a drive mechanism that moves the zoom lens and focus lens of the optical system along the optical axis. By appropriately moving the zoom lens and the focus lens by the drive mechanism, the enlargement magnification of the captured image and the focal length at the time of imaging can be adjusted.
  • the imaging unit may be equipped with various functions that can be generally provided in an electronic imaging microscope unit, such as an AE (Auto Exposure) function and an AF (Auto Focus) function.
  • the imaging unit may be configured as a so-called single-plate imaging unit having one imaging element, or may be configured as a so-called multi-plate imaging unit having a plurality of imaging elements.
  • image signals corresponding to RGB may be generated by each imaging element, and a color image may be obtained by combining them.
  • the said imaging part may be comprised so that it may have a pair of image sensor for each acquiring the image signal for right eyes and left eyes corresponding to a stereoscopic vision (3D display). By performing the 3D display, the surgeon can more accurately grasp the depth of the living tissue in the surgical site.
  • a plurality of optical systems can be provided corresponding to each imaging element.
  • the operation unit 5307 is configured by, for example, a cross lever or a switch, and is an input unit that receives a user operation input.
  • the user can input an instruction to change the magnification of the observation image and the focal length to the observation target via the operation unit 5307.
  • the magnification ratio and the focal length can be adjusted by appropriately moving the zoom lens and the focus lens by the drive mechanism of the imaging unit in accordance with the instruction.
  • the user can input an instruction to switch the operation mode (all-free mode and fixed mode described later) of the arm unit 5309 via the operation unit 5307.
  • the operation unit 5307 may be provided at a position where the user can easily operate with a finger while holding the tubular portion 5305 so that the operation portion 5307 can be operated while the tubular portion 5305 is moved. preferable.
  • the arm portion 5309 is configured by a plurality of links (first link 5313a to sixth link 5313f) being connected to each other by a plurality of joint portions (first joint portion 5311a to sixth joint portion 5311f). Is done.
  • the first joint portion 5311a has a substantially cylindrical shape, and at its tip (lower end), the upper end of the cylindrical portion 5305 of the microscope portion 5303 is a rotation axis (first axis) parallel to the central axis of the cylindrical portion 5305. O 1 ) is supported so as to be rotatable around.
  • the first joint portion 5311a may be configured such that the first axis O 1 coincides with the optical axis of the imaging unit of the microscope unit 5303.
  • the first link 5313a fixedly supports the first joint portion 5311a at the tip. More specifically, the first link 5313a is a rod-shaped member having a substantially L-shaped, while stretching in the direction in which one side of the front end side is perpendicular to the first axis O 1, the end portion of the one side is first It connects to the 1st joint part 5311a so that it may contact
  • the second joint portion 5311b is connected to the end portion on the other side of the substantially L-shaped base end side of the first link 5313a.
  • the second joint portion 5311b has a substantially cylindrical shape, and at the tip thereof, the base end of the first link 5313a can be rotated around a rotation axis (second axis O 2 ) orthogonal to the first axis O 1. To support.
  • the distal end of the second link 5313b is fixedly connected to the proximal end of the second joint portion 5311b.
  • the second link 5313b is a rod-shaped member having a substantially L-shaped, while stretching in the direction in which one side of the front end side is perpendicular to the second axis O 2, the ends of the one side of the second joint portion 5311b Fixedly connected to the proximal end.
  • a third joint portion 5311c is connected to the other side of the base end side of the substantially L-shaped base of the second link 5313b.
  • the third joint portion 5311c has a substantially cylindrical shape, and at its tip, the base end of the second link 5313b is a rotation axis (third axis O 3) orthogonal to the first axis O 1 and the second axis O 2. ) Support so that it can rotate around.
  • the distal end of the third link 5313c is fixedly connected to the proximal end of the third joint portion 5311c.
  • the microscope unit 5303 is moved so as to change the position of the microscope unit 5303 in the horizontal plane by rotating the configuration on the distal end side including the microscope unit 5303 around the second axis O 2 and the third axis O 3. Can be made. That is, by controlling the rotation around the second axis O 2 and the third axis O 3 , the field of view of the captured image can be moved in a plane.
  • the third link 5313c is configured such that the distal end side thereof has a substantially cylindrical shape, and the proximal end of the third joint portion 5311c has substantially the same central axis at the distal end of the cylindrical shape. Fixedly connected.
  • the proximal end side of the third link 5313c has a prismatic shape, and the fourth joint portion 5311d is connected to the end portion thereof.
  • the fourth joint portion 5311d has a substantially cylindrical shape, and at the tip thereof, the base end of the third link 5313c can be rotated around a rotation axis (fourth axis O 4 ) orthogonal to the third axis O 3. To support.
  • the distal end of the fourth link 5313d is fixedly connected to the proximal end of the fourth joint portion 5311d.
  • Fourth link 5313d is a rod-shaped member extending substantially in a straight line, while stretched so as to be orthogonal to the fourth axis O 4, the end of the tip side of the substantially cylindrical shape of the fourth joint portion 5311d It is fixedly connected to the fourth joint portion 5311d so as to abut.
  • the fifth joint portion 5311e is connected to the base end of the fourth link 5313d.
  • the fifth joint portion 5311e has a substantially cylindrical shape, and on the distal end side thereof, the base end of the fourth link 5313d can be rotated around a rotation axis (fifth axis O 5 ) parallel to the fourth axis O 4. To support.
  • the distal end of the fifth link 5313e is fixedly connected to the proximal end of the fifth joint portion 5311e.
  • the fourth axis O 4 and the fifth axis O 5 are rotation axes that can move the microscope unit 5303 in the vertical direction.
  • the fifth link 5313e includes a first member having a substantially L shape in which one side extends in the vertical direction and the other side extends in the horizontal direction, and a portion extending in the horizontal direction of the first member in a vertically downward direction. A rod-shaped second member that extends is combined.
  • the proximal end of the fifth joint portion 5311e is fixedly connected in the vicinity of the upper end of the portion of the fifth link 5313e extending in the vertical direction of the first member.
  • the sixth joint portion 5311f is connected to the proximal end (lower end) of the second member of the fifth link 5313e.
  • the sixth joint portion 5311f has a substantially cylindrical shape, and supports the base end of the fifth link 5313e on the distal end side thereof so as to be rotatable about a rotation axis (sixth axis O 6 ) parallel to the vertical direction. .
  • the distal end of the sixth link 5313f is fixedly connected to the proximal end of the sixth joint portion 5311f.
  • the sixth link 5313f is a rod-like member extending in the vertical direction, and its base end is fixedly connected to the upper surface of the base portion 5315.
  • the rotatable range of the first joint portion 5311a to the sixth joint portion 5311f is appropriately set so that the microscope portion 5303 can perform a desired movement.
  • a total of 6 degrees of freedom of translational 3 degrees of freedom and 3 degrees of freedom of rotation can be realized with respect to the movement of the microscope unit 5303.
  • the position and posture of the microscope unit 5303 can be freely controlled within the movable range of the arm unit 5309. It becomes possible. Therefore, the surgical site can be observed from any angle, and the surgery can be performed more smoothly.
  • the configuration of the arm portion 5309 shown in the figure is merely an example, and the number and shape (length) of the links constituting the arm portion 5309, the number of joint portions, the arrangement position, the direction of the rotation axis, and the like are desired. It may be designed as appropriate so that the degree can be realized.
  • the arm unit 5309 in order to freely move the microscope unit 5303, the arm unit 5309 is preferably configured to have six degrees of freedom, but the arm unit 5309 has a greater degree of freedom (ie, redundant freedom). Degree).
  • the arm unit 5309 can change the posture of the arm unit 5309 while the position and posture of the microscope unit 5303 are fixed. Therefore, for example, control that is more convenient for the operator can be realized, such as controlling the posture of the arm unit 5309 so that the arm unit 5309 does not interfere with the field of view of the operator who views the display device 5319.
  • the first joint portion 5311a to the sixth joint portion 5311f may be provided with actuators mounted with a drive mechanism such as a motor, an encoder for detecting a rotation angle at each joint portion, and the like. Then, the drive of each actuator provided in the first joint portion 5311a to the sixth joint portion 5311f is appropriately controlled by the control device 5317, whereby the posture of the arm portion 5309, that is, the position and posture of the microscope portion 5303 can be controlled. . Specifically, the control device 5317 grasps the current posture of the arm unit 5309 and the current position and posture of the microscope unit 5303 based on information about the rotation angle of each joint unit detected by the encoder. Can do.
  • a drive mechanism such as a motor, an encoder for detecting a rotation angle at each joint portion, and the like.
  • the control device 5317 calculates the control value (for example, rotation angle or generated torque) for each joint unit that realizes the movement of the microscope unit 5303 according to the operation input from the user, using the grasped information. And the drive mechanism of each joint part is driven according to the said control value.
  • the control method of the arm unit 5309 by the control device 5317 is not limited, and various known control methods such as force control or position control may be applied.
  • the drive of the arm unit 5309 is appropriately controlled by the control device 5317 according to the operation input, and the position and posture of the microscope unit 5303 are controlled. May be.
  • the microscope unit 5303 can be moved from an arbitrary position to an arbitrary position and then fixedly supported at the position after the movement.
  • an input device that can be operated even if the operator has a surgical tool in his / her hand.
  • non-contact operation input may be performed based on gesture detection or gaze detection using a wearable device or a camera provided in an operating room.
  • the arm portion 5309 may be operated by a so-called master slave method.
  • the arm unit 5309 can be remotely operated by the user via an input device installed at a location away from the operating room.
  • the actuators of the first joint portion 5311a to the sixth joint portion 5311f are driven so that the external force from the user is received and the arm portion 5309 moves smoothly according to the external force.
  • so-called power assist control may be performed.
  • the driving of the arm portion 5309 may be controlled so as to perform a pivoting operation.
  • the pivoting operation is an operation of moving the microscope unit 5303 so that the optical axis of the microscope unit 5303 always faces a predetermined point in space (hereinafter referred to as a pivot point). According to the pivot operation, the same observation position can be observed from various directions, so that more detailed observation of the affected area is possible.
  • the pivot operation is performed in a state where the distance between the microscope unit 5303 and the pivot point is fixed. In this case, the distance between the microscope unit 5303 and the pivot point may be adjusted to a fixed focal length of the microscope unit 5303.
  • the microscope unit 5303 moves on a hemispherical surface (schematically illustrated in FIG. 6) having a radius corresponding to the focal length centered on the pivot point, and is clear even if the observation direction is changed. A captured image is obtained.
  • the microscope unit 5303 is configured to be adjustable in focal length
  • the pivot operation may be performed in a state where the distance between the microscope unit 5303 and the pivot point is variable.
  • the control device 5317 calculates the distance between the microscope unit 5303 and the pivot point based on the information about the rotation angle of each joint unit detected by the encoder, and based on the calculation result, the microscope 5317
  • the focal length of the unit 5303 may be automatically adjusted.
  • the microscope unit 5303 is provided with an AF function
  • the focal length may be automatically adjusted by the AF function every time the distance between the microscope unit 5303 and the pivot point is changed by the pivot operation. .
  • the first joint portion 5311a to the sixth joint portion 5311f may be provided with a brake that restrains the rotation thereof.
  • the operation of the brake can be controlled by the control device 5317.
  • the control device 5317 activates the brake of each joint unit. Accordingly, since the posture of the arm unit 5309, that is, the position and posture of the microscope unit 5303 can be fixed without driving the actuator, power consumption can be reduced.
  • the control device 5317 may release the brake of each joint unit and drive the actuator according to a predetermined control method.
  • Such an operation of the brake can be performed according to an operation input by the user via the operation unit 5307 described above.
  • the user wants to move the position and posture of the microscope unit 5303, the user operates the operation unit 5307 to release the brakes of the joint units.
  • the operation mode of the arm part 5309 shifts to a mode (all free mode) in which the rotation at each joint part can be freely performed.
  • the user wants to fix the position and posture of the microscope unit 5303, the user operates the operation unit 5307 to activate the brakes of the joint units.
  • the operation mode of the arm part 5309 shifts to a mode (fixed mode) in which rotation at each joint part is restricted.
  • the control device 5317 comprehensively controls the operation of the microscope operation system 5300 by controlling the operations of the microscope device 5301 and the display device 5319.
  • the control device 5317 controls the driving of the arm portion 5309 by operating the actuators of the first joint portion 5311a to the sixth joint portion 5311f according to a predetermined control method.
  • the control device 5317 changes the operation mode of the arm portion 5309 by controlling the brake operation of the first joint portion 5311a to the sixth joint portion 5311f.
  • the control device 5317 performs various kinds of signal processing on the image signal acquired by the imaging unit of the microscope unit 5303 of the microscope device 5301 to generate image data for display and display the image data. It is displayed on the device 5319.
  • the signal processing for example, development processing (demosaic processing), high image quality processing (band enhancement processing, super-resolution processing, NR (Noise reduction) processing and / or camera shake correction processing, etc.) and / or enlargement processing (that is, Various known signal processing such as electronic zoom processing may be performed.
  • communication between the control device 5317 and the microscope unit 5303 and communication between the control device 5317 and the first joint unit 5311a to the sixth joint unit 5311f may be wired communication or wireless communication.
  • wired communication communication using electrical signals may be performed, or optical communication may be performed.
  • a transmission cable used for wired communication can be configured as an electric signal cable, an optical fiber, or a composite cable thereof depending on the communication method.
  • wireless communication there is no need to lay a transmission cable in the operating room, so that the situation where the transmission cable prevents the medical staff from moving in the operating room can be eliminated.
  • the control device 5317 may be a processor such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit), or a microcomputer or a control board in which a processor and a storage element such as a memory are mixedly mounted.
  • the various functions described above can be realized by the processor of the control device 5317 operating according to a predetermined program.
  • the control device 5317 is provided as a separate device from the microscope device 5301, but the control device 5317 is installed inside the base portion 5315 of the microscope device 5301 and integrated with the microscope device 5301. May be configured.
  • the control device 5317 may be configured by a plurality of devices.
  • a microcomputer, a control board, and the like are arranged in the microscope unit 5303 and the first joint unit 5311a to the sixth joint unit 5311f of the arm unit 5309, and these are communicably connected to each other. Similar functions may be realized.
  • the display device 5319 is provided in the operating room, and displays an image corresponding to the image data generated by the control device 5317 under the control of the control device 5317. In other words, the display device 5319 displays an image of the surgical part taken by the microscope unit 5303.
  • the display device 5319 may display various types of information related to the surgery, such as information about the patient's physical information and the surgical technique, for example, instead of or together with the image of the surgical site. In this case, the display of the display device 5319 may be switched as appropriate by a user operation.
  • a plurality of display devices 5319 may be provided, and each of the plurality of display devices 5319 may display an image of the surgical site and various types of information regarding surgery.
  • various known display devices such as a liquid crystal display device or an EL (Electro Luminescence) display device may be applied.
  • Estimation of force acting by disturbance is formulated by considering the actual surgical scene (including the relationship with the surgical instrument other than the arm) and environmental conditions. As a result, it is possible to estimate the force at which various disturbances are applied to the arm in the operating field environment. As a result, it is possible to implement applications such as application to a user interface such as safety stop by contact detection and switching of the arm control state by operation force detection, and presentation of force sense to the outside.
  • the joint state acquisition unit 241 acquires the state of the joint unit 130 of the arm unit 120. Then, the disturbance estimation unit 251 estimates the external force due to the disturbance based on the condition that the external force due to the predetermined disturbance is limited to one or more predetermined directions and the state of the joint part 130. That is, the disturbance estimation unit 251 estimates the external force due to the disturbance based on the state of the joint unit 130 after limiting the direction of the external force to be detected to a predetermined direction or a plurality of directions using such conditions.
  • the external force estimation unit 251 estimates the external force acting on a predetermined observation point.
  • the one or more directions in which the external force is limited may include a rotation direction (moment direction) in addition to the translation direction.
  • the arm control system can function as a medical support arm system when applied to the medical field.
  • a rigid endoscope will be mainly described as an example of an endoscope.
  • a flexible endoscope may be used instead of the rigid endoscope.
  • FIG. 9 is a diagram for explaining an example of a force acting from a trocar point.
  • a rigid endoscope 425 is shown.
  • a trocar point 71 where the rigid endoscope 425 is inserted into the body cavity of the patient 70.
  • the external force acting on the rigid endoscope portion 425 is constrained by the trocar point 71. More specifically, as shown in FIG. 9, the external force that acts on the rigid endoscope portion 425 is limited to the pitch direction, the roll direction, and the zoom direction.
  • the external torque ⁇ n observed by the VA installed at each joint is expressed as the following (13).
  • f cable tension by cable (fx, fy, fz)
  • f op Tension (fx, fy, fz) by the hand holding the camera head
  • ftrocar force acting from the trocar (fx, fy)
  • f tip force (fx, fy, fz) acting on the tip of the rigid endoscope
  • a torque value for 11 axes is required.
  • a torque value for a maximum of 14 axes is required.
  • the configuration of the 8-axis redundant degree of freedom arm 6-axis force sensor enables detection of full force.
  • FIG. 7 is a diagram illustrating an appearance of the rigid endoscope unit.
  • the rigid endoscope portion 425 includes a rigid endoscope body 426, a cable 424, and a connection portion 432.
  • the rigid endoscope body 426 has a camera head CH. Further, the rigid endoscope body 426 has a grip portion 431 that is gripped by an arm.
  • the connection portion 432 is a connection portion between the rigid endoscope body 426 and the cable 424.
  • FIG. 8 is an enlarged view of the connection portion 432.
  • the connection portion 432 includes a cable connection component 433 that connects the rigid endoscope body 426 and the cable 424.
  • the cable connection component 433 is a rigid body.
  • the value of the external moment at the connection portion 432 is considered to be extremely small compared to other disturbances.
  • Reason 1 The connection part between the cable connection component 433 and the rigid endoscope body 426 is designed to be free (rotation is reduced) with respect to rotation in the direction M1.
  • Reason 2 At the connection portion between the cable connection component 433 and the cable 424, the moment arm is extremely short (for example, about 5 [mm] which is the same as the radius of the cable 424).
  • FIG. 8 shows directions in which moments generated by disturbance are considered to be minute for structural reasons (direction M1, direction M2, and direction M3).
  • the disturbance estimating unit 251 can estimate the disturbance by the following (16) during the assist operation.
  • the disturbance estimating unit 251 can estimate the disturbance by the following (17) during the assist operation.
  • the disturbance estimation unit 251 receives the force and human operation received from the monitor displaying navigation information according to (18) below. It is possible to estimate the force to perform.
  • the arm is a camera arm that supports a camera (for example, a microscope unit), it is possible to estimate the force received from the monitor that displays navigation information by the following (19) during remote operation.
  • a camera for example, a microscope unit
  • a surgical navigation system may be connected to the camera arm as an external device.
  • a navigation system When a navigation system is introduced, a navigation monitor or the like is installed (connected) on the arm.
  • the weight of the arm deviates from the design value, and an adverse effect on the force control is predicted.
  • a surgical navigation system may also be included in the medical support arm system according to the present embodiment.
  • f op is a force for the operator to operate the retractor or the forceps, etc.
  • the disturbance estimating unit 251 performs navigation according to the following (20) during the assist operation. It is possible to estimate a force received from a monitor that displays information and a force for operating a retractor or forceps of a person (operator).
  • the disturbance estimation unit 251 can estimate the force received from the monitor that displays the navigation information by the following (21) during remote operation.
  • the distance (moment arm) from the action point to the measurement point is long, it is not an inferior estimation system if the force acting on the tip is limited to the translational force.
  • the underestimated system is a system in which the number of unknown variables that must be estimated exceeds the number of measurable variables, and the value of the unknown variable cannot be uniquely determined (estimated).
  • Joint control according to external force is estimated by the disturbance estimation unit 251, the command value calculation unit 252 controls the joint unit 130 according to the estimated external force.
  • the command value calculation unit 252 can function as a joint control unit. For example, when the observation point is placed at the distal end of the rigid endoscope, the disturbance estimation unit 251 estimates an external force acting on the distal end of the rigid endoscope, and the command value calculation unit 252 controls the joint unit 130 according to the external force. Such an example will be described with reference to FIGS.
  • FIGS. 10 and 11 are diagrams for explaining an example of joint control when the observation point is placed on the distal end of the rigid endoscope.
  • the rigid endoscope 425-1 is moved to the rigid endoscope 425-2 by the arm unit 120.
  • an external force F1 is acting on the distal end of the rigid endoscope.
  • the external force F3 is estimated.
  • the command value calculation unit 252 controls the joint unit 130 such that the arm unit 120 moves in a direction corresponding to the direction of the external force F2 or the external force F3, or the arm unit 120 stops. Accordingly, even when the operation of the rigid endoscope is mistakenly brought into contact with the tissue 72 and the patient is injured by causing the distal end of the rigid endoscope to come into contact with the patient, the external force acting on the distal end of the rigid endoscope is recognized and the arm unit 120 is stopped Or by performing avoidance in a safe direction, safety at the time of surgery can be improved.
  • the direction according to the direction of the external force F2 or the external force F3 may be the same direction as the external force F2, or may be the direction according to the direction of the external force F3.
  • the disturbance estimation unit 251 estimates the external force acting on the camera head
  • the command value calculation unit 252 controls the joint unit 130 according to the external force.
  • the command value calculation unit 252 controls the joint unit 130 so that the arm unit 120 moves in a direction corresponding to the direction of the external force when it is estimated that an external force is applied to the camera head.
  • the direction according to the direction of the external force may be the same direction as the external force. Then, the arm unit 120 is moved in the direction intended by the operator.
  • the output control unit 264 may perform control so that an alert is output by the output device when the external force exceeds a threshold value.
  • the output control unit 264 may perform control so that the magnitude of the external force or the direction of the external force is output by the output device.
  • the output device may be the display device 30 that performs display so as to be visually perceived by the operator, or may be the notification device 80 (FIG. 12).
  • the notification device 80 may be a sound output device (such as a buzzer) that outputs sound so as to be perceptually perceived by the operator or surrounding medical personnel by the operator, or a light output device that outputs light. (Including a lamp).
  • the alert may be stopped by a stop instruction input via the input unit 210.
  • FIG. 12 is a diagram illustrating a specific configuration example of the arm control system.
  • the arm control system includes an arm unit 120, a control unit 230, an input unit 210, a display device 30, and a notification device 80.
  • the functions of the input unit 210, the display device 30, and the notification device 80 are as described above.
  • the control unit 230 includes a sensor information acquisition unit 261, an arm state acquisition unit 262, an external force estimation unit 263, an input / output control unit 264, an operation determination unit 265, a whole body control unit 266, a joint control unit 267, and a drive unit 268. .
  • the sensor information acquisition unit 261 acquires the state (sensor information of the encoder and torque sensor) of each joint of the arm unit 120 and outputs the acquired state to the joint control unit 267 and the arm state acquisition unit 241.
  • the arm state acquisition unit 262 may correspond to the arm state acquisition unit 241 illustrated in FIG.
  • the external force estimation unit 263 may correspond to the disturbance estimation unit 251 illustrated in FIG.
  • the input / output control unit 264 has a function of acquiring input information from the input unit 210 and a function of controlling output of output information by the display device 30 and the notification device.
  • the operation determination unit 265 may correspond to the calculation condition setting unit 242 illustrated in FIG.
  • the whole body control unit 266 may correspond to the virtual force calculation unit 243 and the real force calculation unit 244 illustrated in FIG.
  • the joint control unit 267 may correspond to the command value calculation unit 252 illustrated in FIG.
  • the drive unit 268 may correspond to the drive control unit 111 illustrated in FIG.
  • the direction of the external force detected by the disturbance estimation unit 251 is limited to a predetermined direction or a plurality of directions.
  • the number of sensors can be reduced, and the cost can be reduced.
  • the sensor is omitted in the area that overlaps the operator's (doctor's) work area (the area closer to the clean area than the tip of the arm), and a simple structure is achieved. Can be realized.
  • the number of torque sensors provided in the arm part 120 is smaller than the number of joint parts.
  • the arm portion 120 is provided with six joint portions, but the torque sensor is provided only at three joint portions of the six joint portions (torque sensors 614a to 614c). ).
  • encoders are provided in all six joints (encoders 613a to 613f).
  • the arm unit 120 may include an encoder having six degrees of freedom or an encoder having a degree of freedom larger than six degrees of freedom. Motors are also provided at all six joints (motors 611a to 611f).
  • the arm part 120 has at least three continuous joint parts, and the torque sensors of adjacent joint parts among the three or more joint parts have independent degrees of freedom.
  • the torque sensors of the adjacent joint portions have independent degrees of freedom.
  • the rotation directions of the torque sensors of the adjacent joint portions are the roll direction, the pitch direction, and the yaw direction. It means not.
  • the joint state acquisition unit that acquires the state of the joint part of the arm part, the condition that the external force due to the predetermined disturbance is limited to one or more predetermined directions, and the state of the joint part
  • a medical support arm system that includes an external force estimation unit that estimates an external force due to the predetermined disturbance.
  • a joint state acquisition unit for acquiring the state of the joint part of the arm unit;
  • An external force estimation unit that estimates the external force due to the predetermined disturbance based on a condition that the external force due to the predetermined disturbance is limited to a predetermined one or a plurality of directions and the state of the joint portion;
  • a medical support arm system comprising: (2) The arm portion has a smaller number of torque sensors than the number of joint portions constituting the arm portion.
  • the arm part has at least three or more continuous joint parts, and the torque sensors of adjacent joint parts among the three or more joint parts have independent degrees of freedom.
  • the arm portion includes an encoder having a degree of freedom of 6 degrees or more.
  • the medical support arm system according to any one of (1) to (3).
  • the plurality of joint portions constituting the arm portion are configured by a joint portion including an actuator and an encoder, and a joint portion including an actuator, an encoder, and a torque sensor.
  • the medical support arm system according to any one of (1) to (4).
  • the external force estimation unit estimates the external force acting on a predetermined observation point;
  • the observation point includes at least one of a trocar point, a camera head, and an endoscope tip.
  • the external force estimation unit estimates the external force acting on the observation point,
  • the medical support arm system includes a joint controller that controls the joint according to the external force.
  • the observation point includes the endoscope tip,
  • the external force estimation unit estimates the external force acting on the endoscope tip,
  • the joint control unit controls the joint according to the external force;
  • the joint control unit moves the arm unit in a direction corresponding to the direction of the external force, or stops the arm unit. And controlling the joint part,
  • the medical support arm system according to (9) above.
  • the observation point includes the camera head, The external force estimation unit estimates the external force acting on the camera head, The joint control unit controls the joint according to the external force; The medical support arm system according to (8). (12) The joint control unit controls the joint unit so that the arm unit moves to a direction according to a direction of the external force when the external force is estimated to be applied to the camera head.
  • the medical support arm system according to (11) above.
  • the medical support arm system includes an output control unit that controls an alert to be output by an output device when the external force exceeds a threshold value.
  • the medical support arm system according to any one of (1) to (12).
  • the medical support arm system includes an output control unit that controls the magnitude of the external force or the direction of the external force to be output by an output device.
  • the medical support arm system according to any one of (1) to (12).
  • the output device includes at least one of a display device, a sound output device, and a light output device.
  • the medical support arm system includes the output device.
  • the disturbance includes a disturbance due to a tension of a light source and a camera cable.
  • a monitor of the navigation system is connected to the arm part, The external force estimation unit estimates the force received from the monitor as the external force;
  • the medical support arm system has the monitor.
  • the arm portion supports a retractor or forceps
  • the external force estimation unit estimates the force with which the retractor or the forceps is operated by an operator as the external force.
  • the medical support arm system according to any one of (1) to (17).
  • a joint state acquisition unit for acquiring the state of the joint part of the arm unit;
  • An external force estimation unit that estimates the external force due to the predetermined disturbance based on a condition that the external force due to the predetermined disturbance is limited to a predetermined one or a plurality of directions and the state of the joint portion;
  • a control device comprising:

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Robotics (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Endoscopes (AREA)

Abstract

【課題】術場環境におけるロボットアームに対する各種の外乱が作用する力の推定を実現することが可能な技術が提供されることが望まれる。 【解決手段】アーム部の関節部の状態を取得する関節状態取得部と、所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、を備える、医療用支持アームシステムが提供される。

Description

医療用支持アームシステムおよび制御装置
 本開示は、医療用支持アームシステムおよび制御装置に関する。
 従来、例えば下記の特許文献1には、医療用観察装置において、術部の画像を撮影する撮像部と、前記撮像部が接続され、少なくとも6自由度で動作可能に回転軸が設けられる保持部と、を備え、前記回転軸のうち、少なくとも2軸は当該回転軸の状態に基づいて駆動が制御される能動軸であり、少なくとも1軸は接触を伴う外部からの直接的な操作に従って回転する受動軸である構成が記載されている。
国際公開第2016/017532号
 ところで、手術支援を目的としたアームは、さまざまな外乱が作用する環境で利用される。しかし、外乱が作用する力の推定を環境およびシーン等の条件によらず行うのは一般に困難である。
 そこで、術場環境におけるアームに対する各種の外乱が作用する力の推定を実現することが可能な技術が提供されることが望まれる。
 本開示によれば、アーム部の関節部の状態を取得する関節状態取得部と、所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、を備える、医療用支持アームシステムが提供される。
 以上説明したように本開示によれば、術場環境におけるアームに対する各種の外乱が作用する力の推定を実現することが可能となる。
 なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示に係る技術が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。 図1に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 本開示の実施の形態に係る医療用支持アーム装置の構成例を示す斜視図である。 本開示の一実施形態に係る理想関節制御について説明するための説明図である。 本開示の一実施形態に係るアーム制御システムの一構成例を示す機能ブロック図である。 本開示に係る技術が適用され得る顕微鏡手術システムの概略的な構成の一例を示す図である。 硬性鏡部の外観を示す図である。 接続部の拡大図である。 トロッカ点から作用する力の例を説明するための図である。 観測点が硬性鏡先端に置かれた場合における関節制御の例を説明するための図である。 観測点が硬性鏡先端に置かれた場合における関節制御の例を説明するための図である。 アーム制御システムの具体的な構成例を示す図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 なお、説明は以下の順序で行うものとする。
1.内視鏡システムの構成例
2.支持アーム装置の具体的構成例
3.顕微鏡手術システムの構成例
4.本実施形態に係る外乱が作用する力の推定
5.本実施形態に係る外力に応じた関節制御
6.アーム制御システムの具体的な構成例
7.まとめ
<<1.内視鏡システムの構成例>>
 図1は、本開示に係る技術が適用され得る内視鏡手術システム5000の概略的な構成の一例を示す図である。図1では、術者(医師)5067が、内視鏡手術システム5000を用いて、患者ベッド5069上の患者5071に手術を行っている様子が図示されている。図示するように、内視鏡手術システム5000は、内視鏡5001と、その他の術具5017と、内視鏡5001を支持する支持アーム装置5027と、内視鏡下手術のための各種の装置が搭載されたカート5037と、から構成される。
 内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5025a~5025dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5025a~5025dから、内視鏡5001の鏡筒5003や、その他の術具5017が患者5071の体腔内に挿入される。図示する例では、その他の術具5017として、気腹チューブ5019、エネルギー処置具5021及び鉗子5023が、患者5071の体腔内に挿入されている。また、エネルギー処置具5021は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5017はあくまで一例であり、術具5017としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
 内視鏡5001によって撮影された患者5071の体腔内の術部の画像が、表示装置5041に表示される。術者5067は、表示装置5041に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5021や鉗子5023を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5019、エネルギー処置具5021及び鉗子5023は、手術中に、術者5067又は助手等によって支持される。
 (支持アーム装置)
 支持アーム装置5027は、ベース部5029から延伸するアーム部5031を備える。図示する例では、アーム部5031は、関節部5033a、5033b、5033c、及びリンク5035a、5035bから構成されており、アーム制御装置5045からの制御により駆動される。アーム部5031によって内視鏡5001が支持され、その位置及び姿勢が制御される。これにより、内視鏡5001の安定的な位置の固定が実現され得る。
 (内視鏡)
 内視鏡5001は、先端から所定の長さの領域が患者5071の体腔内に挿入される鏡筒5003と、鏡筒5003の基端に接続されるカメラヘッド5005と、から構成される。図示する例では、硬性の鏡筒5003を有するいわゆる硬性鏡として構成される内視鏡5001を図示しているが、内視鏡5001は、軟性の鏡筒5003を有するいわゆる軟性鏡として構成されてもよい。
 鏡筒5003の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5001には光源装置5043が接続されており、当該光源装置5043によって生成された光が、鏡筒5003の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5071の体腔内の観察対象に向かって照射される。なお、内視鏡5001は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
 カメラヘッド5005の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5039に送信される。なお、カメラヘッド5005には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
 なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5005には撮像素子が複数設けられてもよい。この場合、鏡筒5003の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
 (カートに搭載される各種の装置)
 CCU5039は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5001及び表示装置5041の動作を統括的に制御する。具体的には、CCU5039は、カメラヘッド5005から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5039は、当該画像処理を施した画像信号を表示装置5041に提供する。また、CCU5039は、カメラヘッド5005に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
 表示装置5041は、CCU5039からの制御により、当該CCU5039によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5001が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5041としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5041として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5041が設けられてもよい。
 光源装置5043は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5001に供給する。
 アーム制御装置5045は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5027のアーム部5031の駆動を制御する。
 入力装置5047は、内視鏡手術システム5000に対する入力インタフェースである。ユーザは、入力装置5047を介して、内視鏡手術システム5000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5047を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5047を介して、アーム部5031を駆動させる旨の指示や、内視鏡5001による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5021を駆動させる旨の指示等を入力する。
 入力装置5047の種類は限定されず、入力装置5047は各種の公知の入力装置であってよい。入力装置5047としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5057及び/又はレバー等が適用され得る。入力装置5047としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5041の表示面上に設けられてもよい。
 あるいは、入力装置5047は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5047は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5047は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5047が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5067)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
 処置具制御装置5049は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5021の駆動を制御する。気腹装置5051は、内視鏡5001による視野の確保及び術者の作業空間の確保の目的で、患者5071の体腔を膨らめるために、気腹チューブ5019を介して当該体腔内にガスを送り込む。レコーダ5053は、手術に関する各種の情報を記録可能な装置である。プリンタ5055は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
 以下、内視鏡手術システム5000において特に特徴的な構成について、更に詳細に説明する。
 (支持アーム装置)
 支持アーム装置5027は、基台であるベース部5029と、ベース部5029から延伸するアーム部5031と、を備える。図示する例では、アーム部5031は、複数の関節部5033a、5033b、5033cと、関節部5033bによって連結される複数のリンク5035a、5035bと、から構成されているが、図1では、簡単のため、アーム部5031の構成を簡略化して図示している。実際には、アーム部5031が所望の自由度を有するように、関節部5033a~5033c及びリンク5035a、5035bの形状、数及び配置、並びに関節部5033a~5033cの回転軸の方向等が適宜設定され得る。例えば、アーム部5031は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5031の可動範囲内において内視鏡5001を自由に移動させることが可能になるため、所望の方向から内視鏡5001の鏡筒5003を患者5071の体腔内に挿入することが可能になる。
 関節部5033a~5033cにはアクチュエータが設けられており、関節部5033a~5033cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5045によって制御されることにより、各関節部5033a~5033cの回転角度が制御され、アーム部5031の駆動が制御される。これにより、内視鏡5001の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5045は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5031の駆動を制御することができる。
 例えば、術者5067が、入力装置5047(フットスイッチ5057を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5045によってアーム部5031の駆動が適宜制御され、内視鏡5001の位置及び姿勢が制御されてよい。当該制御により、アーム部5031の先端の内視鏡5001を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5031は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5031は、手術室から離れた場所に設置される入力装置5047を介してユーザによって遠隔操作され得る。
 また、力制御が適用される場合には、アーム制御装置5045は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5031が移動するように、各関節部5033a~5033cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5031に触れながらアーム部5031を移動させる際に、比較的軽い力で当該アーム部5031を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5001を移動させることが可能となり、ユーザの利便性を向上させることができる。
 ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5001が支持されていた。これに対して、支持アーム装置5027を用いることにより、人手によらずに内視鏡5001の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
 なお、アーム制御装置5045は必ずしもカート5037に設けられなくてもよい。また、アーム制御装置5045は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5045は、支持アーム装置5027のアーム部5031の各関節部5033a~5033cにそれぞれ設けられてもよく、複数のアーム制御装置5045が互いに協働することにより、アーム部5031の駆動制御が実現されてもよい。
 (光源装置)
 光源装置5043は、内視鏡5001に術部を撮影する際の照射光を供給する。光源装置5043は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5043において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5005の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
 また、光源装置5043は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5005の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
 また、光源装置5043は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5043は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
 (カメラヘッド及びCCU)
 図2を参照して、内視鏡5001のカメラヘッド5005及びCCU5039の機能についてより詳細に説明する。図2は、図1に示すカメラヘッド5005及びCCU5039の機能構成の一例を示すブロック図である。
 図2を参照すると、カメラヘッド5005は、その機能として、レンズユニット5007と、撮像部5009と、駆動部5011と、通信部5013と、カメラヘッド制御部5015と、を有する。また、CCU5039は、その機能として、通信部5059と、画像処理部5061と、制御部5063と、を有する。カメラヘッド5005とCCU5039とは、伝送ケーブル5065によって双方向に通信可能に接続されている。
 まず、カメラヘッド5005の機能構成について説明する。レンズユニット5007は、鏡筒5003との接続部に設けられる光学系である。鏡筒5003の先端から取り込まれた観察光は、カメラヘッド5005まで導光され、当該レンズユニット5007に入射する。レンズユニット5007は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5007は、撮像部5009の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
 撮像部5009は撮像素子によって構成され、レンズユニット5007の後段に配置される。レンズユニット5007を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5009によって生成された画像信号は、通信部5013に提供される。
 撮像部5009を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5067は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
 また、撮像部5009を構成する撮像素子は、例えば、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5067は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5009が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5007も複数系統設けられる。
 また、撮像部5009は、必ずしもカメラヘッド5005に設けられなくてもよい。例えば、撮像部5009は、鏡筒5003の内部に、対物レンズの直後に設けられてもよい。
 駆動部5011は、アクチュエータによって構成され、カメラヘッド制御部5015からの制御により、レンズユニット5007のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5009による撮像画像の倍率及び焦点が適宜調整され得る。
 通信部5013は、CCU5039との間で各種の情報を送受信するための通信装置によって構成される。通信部5013は、撮像部5009から得た画像信号をRAWデータとして伝送ケーブル5065を介してCCU5039に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5067が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5013には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5065を介してCCU5039に送信される。
 また、通信部5013は、CCU5039から、カメラヘッド5005の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5013は、受信した制御信号をカメラヘッド制御部5015に提供する。なお、CCU5039からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5013には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5015に提供される。
 なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5039の制御部5063によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5001に搭載される。
 カメラヘッド制御部5015は、通信部5013を介して受信したCCU5039からの制御信号に基づいて、カメラヘッド5005の駆動を制御する。例えば、カメラヘッド制御部5015は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5009の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5015は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5011を介してレンズユニット5007のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5015は、更に、鏡筒5003やカメラヘッド5005を識別するための情報を記憶する機能を備えてもよい。
 なお、レンズユニット5007や撮像部5009等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5005について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
 次に、CCU5039の機能構成について説明する。通信部5059は、カメラヘッド5005との間で各種の情報を送受信するための通信装置によって構成される。通信部5059は、カメラヘッド5005から、伝送ケーブル5065を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5059には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5059は、電気信号に変換した画像信号を画像処理部5061に提供する。
 また、通信部5059は、カメラヘッド5005に対して、カメラヘッド5005の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
 画像処理部5061は、カメラヘッド5005から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5061は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
 画像処理部5061は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5061が複数のGPUによって構成される場合には、画像処理部5061は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
 制御部5063は、内視鏡5001による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5063は、カメラヘッド5005の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5063は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5001にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5063は、画像処理部5061による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
 また、制御部5063は、画像処理部5061によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5041に表示させる。この際、制御部5063は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5063は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5021使用時のミスト等を認識することができる。制御部5063は、表示装置5041に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5067に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
 カメラヘッド5005及びCCU5039を接続する伝送ケーブル5065は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
 ここで、図示する例では、伝送ケーブル5065を用いて有線で通信が行われていたが、カメラヘッド5005とCCU5039との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5065を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5065によって妨げられる事態が解消され得る。
 以上、本開示に係る技術が適用され得る内視鏡手術システム5000の一例について説明した。なお、ここでは、一例として内視鏡手術システム5000について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
<<2.支持アーム装置の具体的構成例>>
 次に、本開示の実施の形態に係る支持アーム装置の具体的構成例について詳細に説明する。以下に説明する支持アーム装置は、アーム部の先端に内視鏡を支持する支持アーム装置として構成された例であるが、本実施形態は係る例に限定されない。また、本開示の実施の形態に係る支持アーム装置が医療分野に適用された場合、本開示の実施の形態に係る支持アーム装置は、医療用支持アーム装置として機能し得る。
 <2-1.支持アーム装置の外観>
 まず、図3を参照して、本実施形態に係る支持アーム装置400の概略構成について説明する。図3は、本実施形態に係る支持アーム装置400の外観を示す概略図である。
 本実施形態に係る支持アーム装置400は、ベース部410及びアーム部420を備える。ベース部410は支持アーム装置400の基台であり、ベース部410からアーム部420が延伸される。また、図3には図示しないが、ベース部410内には、支持アーム装置400を統合的に制御する制御部が設けられてもよく、アーム部420の駆動が当該制御部によって制御されてもよい。当該制御部は、例えばCPUやDSP等の各種の信号処理回路によって構成される。
 アーム部420は、複数の能動関節部421a~421fと、複数のリンク422a~422fと、アーム部420の先端に設けられた先端ユニットとしての内視鏡装置423とを有する。
 リンク422a~422fは略棒状の部材である。リンク422aの一端が能動関節部421aを介してベース部410と連結され、リンク422aの他端が能動関節部421bを介してリンク422bの一端と連結され、さらに、リンク422bの他端が能動関節部421cを介してリンク422cの一端と連結される。リンク422cの他端は受動スライド機構100を介してリンク422dに連結され、さらに、リンク422dの他端は受動関節部200を介してリンク422eの一端と連結される。リンク422eの他端は能動関節部421d,421eを介してリンク422fの一端と連結される。内視鏡装置423は、アーム部420の先端、すなわち、リンク422fの他端に、能動関節部421fを介して連結される。このように、ベース部410を支点として、複数のリンク422a~422fの端同士が、能動関節部421a~421f、受動スライド機構100及び受動関節部200によって互いに連結されることにより、ベース部410から延伸されるアーム形状が構成される。
 かかるアーム部420のそれぞれの能動関節部421a~421fに設けられたアクチュエータが駆動制御されることにより、内視鏡装置423の位置及び姿勢が制御される。本実施形態において、内視鏡装置423は、その先端が施術部位である患者の体腔内に進入して施術部位の一部領域を撮影する。ただし、アーム部420の先端に設けられる先端ユニットは内視鏡装置423に限定されず、アーム部420の先端には先端ユニットとして各種の医療用器具が接続されてよい。このように、本実施形態に係る支持アーム装置400は、医療用器具を備えた医療用支持アーム装置として構成される。
 ここで、以下では、図3に示すように座標軸を定義して支持アーム装置400の説明を行う。また、座標軸に合わせて、上下方向、前後方向、左右方向を定義する。すなわち、床面に設置されているベース部410に対する上下方向をz軸方向及び上下方向と定義する。また、z軸と互いに直交する方向であって、ベース部410からアーム部420が延伸されている方向(すなわち、ベース部410に対して内視鏡装置423が位置している方向)をy軸方向及び前後方向と定義する。さらに、y軸及びz軸と互いに直交する方向をx軸方向及び左右方向と定義する。
 能動関節部421a~421fはリンク同士を互いに回動可能に連結する。能動関節部421a~421fはアクチュエータを有し、当該アクチュエータの駆動により所定の回転軸に対して回転駆動される回転機構を有する。各能動関節部421a~421fにおける回転駆動をそれぞれ制御することにより、例えばアーム部420を伸ばしたり、縮めたり(折り畳んだり)といった、アーム部420の駆動を制御することができる。ここで、能動関節部421a~421fは、例えば公知の全身協調制御及び理想関節制御によってその駆動が制御され得る。上述したように、能動関節部421a~421fは回転機構を有するため、以下の説明において、能動関節部421a~421fの駆動制御とは、具体的には、能動関節部421a~421fの回転角度及び/又は発生トルク(能動関節部421a~421fが発生させるトルク)が制御されることを意味する。
 受動スライド機構100は、受動形態変更機構の一態様であり、リンク422cとリンク422dとを所定方向に沿って互いに進退動可能に連結する。例えば受動スライド機構100は、リンク422cとリンク422dとを互いに直動可能に連結してもよい。ただし、リンク422cとリンク422dとの進退運動は直線運動に限られず、円弧状を成す方向への進退運動であってもよい。受動スライド機構100は、例えばユーザによって進退動の操作が行われ、リンク422cの一端側の能動関節部421cと受動関節部200との間の距離を可変とする。これにより、アーム部420の全体の形態が変化し得る。
 受動関節部200は、受動形態変更機構の一態様であり、リンク422dとリンク422eとを互いに回動可能に連結する。受動関節部200は、例えばユーザによって回動の操作が行われ、リンク422dとリンク422eとの成す角度を可変とする。これにより、アーム部420の全体の形態が変化し得る。
 なお、本明細書において、「アーム部の姿勢」とは、一つ又は複数のリンクを挟んで隣り合う能動関節部同士の間の距離が一定の状態で、制御部による能動関節部421a~421fに設けられたアクチュエータの駆動制御によって変化し得るアーム部の状態をいう。また、「アーム部の形態」とは、受動形態変更機構が操作されることに伴って、リンクを挟んで隣り合う能動関節部同士の間の距離や、隣り合う能動関節部の間をつなぐリンク同士の成す角度が変わることで変化し得るアーム部の状態をいう。
 本実施形態に係る支持アーム装置400は、6つの能動関節部421a~421fを有し、アーム部420の駆動に関して6自由度が実現されている。つまり、支持アーム装置400の駆動制御は制御部による6つの能動関節部421a~421fの駆動制御により実現される一方、受動スライド機構100及び受動関節部200は、制御部による駆動制御の対象とはなっていない。
 具体的には、図3に示すように、能動関節部421a,421d,421fは、接続されている各リンク422a,422eの長軸方向及び接続されている内視鏡装置423の撮影方向を回転軸方向とするように設けられている。能動関節部421b,421c,421eは、接続されている各リンク422a~422c,422e,422f及び内視鏡装置423の連結角度をy-z平面(y軸とz軸とで規定される平面)内において変更する方向であるx軸方向を回転軸方向とするように設けられている。このように、本実施形態においては、能動関節部421a,421d,421fは、いわゆるヨーイングを行う機能を有し、能動関節部421b,421c,421eは、いわゆるピッチングを行う機能を有する。
 このようなアーム部420の構成を有することにより、本実施形態に係る支持アーム装置400ではアーム部420の駆動に対して6自由度が実現されるため、アーム部420の可動範囲内において内視鏡装置423を自由に移動させることができる。図3では、内視鏡装置423の移動可能範囲の一例として半球を図示している。半球の中心点RCM(遠隔運動中心)が内視鏡装置423によって撮影される施術部位の撮影中心であるとすれば、内視鏡装置423の撮影中心を半球の中心点に固定した状態で、内視鏡装置423を半球の球面上で移動させることにより、施術部位を様々な角度から撮影することができる。
 以上、本実施形態に係る支持アーム装置400の概略構成について説明した。次に、本実施形態に係る支持アーム装置400におけるアーム部420の駆動、すなわち、関節部421a~421fの駆動を制御するための全身協調制御及び理想関節制御について説明する。
 <2-2.一般化逆動力学について>
 次に、本実施形態における支持アーム装置400の全身協調制御に用いられる一般化逆動力学の概要について説明する。
 一般化逆動力学は、複数のリンクが複数の関節部によって連結されて構成される多リンク構造体(例えば本実施形態においては図2に示すアーム部420)において、各種の操作空間(Operation Space)における様々な次元に関する運動目的を、各種の拘束条件を考慮しながら、複数の当該関節部に生じさせるトルクに変換する、多リンク構造体の全身協調制御における基本演算である。
 操作空間は、ロボット装置の力制御における重要な概念である。操作空間は、多リンク構造体に作用する力と多リンク構造体の加速度との関係を記述するための空間である。多リンク構造体の駆動制御を位置制御ではなく力制御によって行う際に、多リンク構造体と環境との接し方を拘束条件として用いる場合に操作空間という概念が必要となる。操作空間は、例えば、多リンク構造体が属する空間である、関節空間、デカルト空間、運動量空間等である。
 運動目的は、多リンク構造体の駆動制御における目標値を表すものであり、例えば、駆動制御によって達成したい多リンク構造体の位置、速度、加速度、力、インピーダンス等の目標値である。
 拘束条件は、多リンク構造体の形状や構造、多リンク構造体の周囲の環境及びユーザによる設定等によって定められる、多リンク構造体の位置、速度、加速度、力等に関する拘束条件である。例えば、拘束条件には、発生力、優先度、非駆動関節の有無、垂直反力、摩擦錘、支持多角形等についての情報が含まれる。
 一般化動力学においては、数値計算上の安定性と実時間処理可能な演算効率とを両立するため、その演算アルゴリズムは、第1段階である仮想力決定プロセス(仮想力算出処理)と、第2段階である実在力変換プロセス(実在力算出処理)によって構成される。第1段階である仮想力算出処理では、各運動目的の達成に必要な、操作空間に作用する仮想的な力である仮想力を、運動目的の優先度と仮想力の最大値を考慮しながら決定する。第2段階である実在力算出処理では、非駆動関節、垂直反力、摩擦錘、支持多角形等に関する拘束を考慮しながら、上記で得られた仮想力を関節力、外力等の実際の多リンク構造体の構成で実現可能な実在力に変換する。以下、仮想力算出処理及び実在力算出処理について詳しく説明する。なお、以下の仮想力算出処理、実在力算出処理及び後述する理想関節制御の説明においては、理解を簡単にするために、具体例として、図3に示した本実施形態に係る支持アーム装置400のアーム部420の構成を例に挙げて説明を行う場合がある。
 (2-2-1.仮想力算出処理)
 多リンク構造体の各関節部におけるある物理量によって構成されるベクトルを一般化変数qと呼ぶ(関節値q又は関節空間qとも呼称する。)。操作空間xは、一般化変数qの時間微分値とヤコビアンJとを用いて、以下の数式(1)で定義される。
Figure JPOXMLDOC01-appb-M000001
 本実施形態では、例えば、qはアーム部420の関節部421a~421fにおける回転角度である。操作空間xに関する運動方程式は、下記数式(2)で記述される。
Figure JPOXMLDOC01-appb-M000002
 ここで、fは操作空間xに作用する力を表す。また、Λ-1は操作空間慣性逆行列、cは操作空間バイアス加速度と呼ばれるものであり、それぞれ下記数式(3)、(4)で表される。
Figure JPOXMLDOC01-appb-M000003
 なお、Hは関節空間慣性行列、τは関節値qに対応する関節力(例えば関節部421a~421fおける発生トルク)、bは重力、コリオリ力、遠心力を表す項である。
 一般化逆動力学においては、操作空間xに関する位置、速度の運動目的は、操作空間xの加速度として表現できることが知られている。このとき、上記数式(1)から、運動目的として与えられた目標値である操作空間加速度を実現するために、操作空間xに作用するべき仮想力fは、下記数式(5)のような一種の線形相補性問題(LCP:Linear Complementary Problem)を解くことによって得られる。
Figure JPOXMLDOC01-appb-M000004
 ここで、LとUはそれぞれ、fの第i成分の負の下限値(-∞を含む)、fの第i成分の正の上限値(+∞を含む)とする。上記LCPは、例えばIterative法、Pivot法、ロバスト加速度制御を応用する方法等を用いて解くことができる。
 なお、操作空間慣性逆行列Λ-1、バイアス加速度cは、定義式である上記数式(3)、(4)の通り算出すると計算コストが大きい。従って、多リンク構造体の一般化力(関節力τ)から一般化加速度(関節加速度)を得る準動力学計算(FWD)を応用することにより、操作空間慣性逆行列Λ-1の算出処理をより高速に算出する方法が提案されている。具体的には、操作空間慣性逆行列Λ-1、バイアス加速度cは、順動力学演算FWDを用いることにより、関節空間q、関節力τ、重力g等の多リンク構造体(例えば、アーム部420及び関節部421a~421f)に作用する力に関する情報から得ることができる。このように、操作空間に関する順動力学演算FWDを応用することにより、関節部の数Nに対してO(N)の計算量で操作空間慣性逆行列Λ-1を算出することができる。
 ここで、運動目的の設定例として、絶対値F以下の仮想力fviで操作空間加速度の目標値(xの2階微分に上付きバーを付して表す)を達成するための条件は、下記数式(6)で表現できる。
Figure JPOXMLDOC01-appb-M000005
 また、上述したように、操作空間xの位置、速度に関する運動目的は、操作空間加速度の目標値として表すことができ、具体的には下記数式(7)で表現される(操作空間xの位置、速度の目標値を、x、xの1階微分に上付きバーを付して表す)。
Figure JPOXMLDOC01-appb-M000006
 その他、分解操作空間の考え方を用いることにより、他の操作空間の線形和で表される操作空間(運動量、デカルト相対座標、連動関節等)に関する運動目的を設定することもできる。なお、競合する運動目的間には優先度を与える必要がある。優先度毎かつ低優先度から順に上記LCPを解き、前段のLCPで得られた仮想力を次段のLCPの既知外力として作用させることができる。
 (2-2-2.実在力算出処理)
 一般化逆動力学の第2段階である実在力算出処理では、上記(2-2-1.仮想力決定プロセス)で得られた仮想力fを、実在の関節力と外力で置換する処理を行う。仮想力による一般化力τ=J を関節部に生じる発生トルクτと外力fとで実現するための条件は、下記数式(8)で表現される。
Figure JPOXMLDOC01-appb-M000007
 ここで、添え字aは駆動関節部の集合(駆動関節集合)を表し、添え字uは非駆動関節部の集合(非駆動関節集合)を表す。すなわち、上記数式(8)の上段は非駆動関節部による空間(非駆動関節空間)の力の釣り合いを表しており、下段は駆動関節部による空間(駆動関節空間)の力の釣合いを表している。Jvu、Jvaは、それぞれ、仮想力fが作用する操作空間に関するヤコビアンの非駆動関節成分、駆動関節成分である。Jeu、Jeaは、外力fが作用する操作空間に関するヤコビアンの非駆動関節成分、駆動関節成分である。Δfは仮想力fのうち、実在力で実現不能な成分を表す。
 上記数式(8)の上段は不定であり、例えば下記数式(9)に示すような2次計画問題(QP:Quadratic Programing Problem)を解くことで、f及びΔfを得ることができる。
Figure JPOXMLDOC01-appb-M000008
 
 ここで、εは上記数式(8)の上段の両辺の差であり、数式(8)の等式誤差を表す。ξはfとΔfとの連結ベクトルであり、変数ベクトルを表す。Q及びQは、最小化の際の重みを表す正定値対称行列である。また、上記数式(9)の不等式拘束は、垂直反力、摩擦錐、外力の最大値、支持多角形等、外力に関する拘束条件を表現するのに用いられる。例えば、矩形の支持多角形に関する不等式拘束は、下記数式(10)のように表現される。
Figure JPOXMLDOC01-appb-M000009
 ここで、zは接触面の法線方向を表し、x及びyはzに垂直な直交2接線方向を表す。(F,F,F)及び(M,M,M)は、接触点に作用する外力及び外力モーメントである。μ及びμは、それぞれ並進、回転に関する摩擦係数である。(d,d)は支持多角形のサイズを表している。
 上記数式(9)、(10)から、最小ノルム又は最小誤差の解f、Δfが求められる。上記数式(9)から得られたf、Δfを上記数式(8)の下段に代入することにより、運動目的を実現するために必要な関節力τを得ることができる。
 基底が固定され、非駆動関節が無い系の場合は、関節力のみで全ての仮想力を置換可能であり、上記数式(8)において、f=0、Δf=0とすることができる。この場合、上記数式(8)の下段から、関節力τについて以下の数式(11)を得ることができる。
Figure JPOXMLDOC01-appb-M000010
 以上、本実施形態に係る一般化逆動力学を用いた全身協調制御について説明した。上記のように、仮想力算出処理及び実在力算出処理を順に行うことにより、所望の運動目的を達成するための関節力τを得ることができる。すなわち、逆に言えば、算出された関節力τを関節部421a~421fの運動における理論モデルに反映することにより、関節部421a~421fが、所望の運動目的を達成するように駆動される。
 なお、ここまで説明した一般化逆動力学を用いた全身協調制御について、特に、仮想力fの導出過程や、上記LCPを解き仮想力fを求める方法、QP問題の解法等の詳細については、例えば、本願出願人による先行特許出願である特開2009-95959号公報や特開2010-188471号公報を参照することができる。
 <2-3.理想関節制御について>
 次に、本実施形態に係る理想関節制御について説明する。各関節部421a~421fの運動は、下記数式(12)の二次遅れ系の運動方程式によってモデル化される。
Figure JPOXMLDOC01-appb-M000011
 ここで、Iは関節部における慣性モーメント(イナーシャ)、τは関節部421a~421fの発生トルク、τは外部から各関節部421a~421fに作用する外トルク、νは各関節部421a~421fにおける粘性抵抗係数である。上記数式(12)は、関節部421a~421fにおけるアクチュエータの運動を表す理論モデルとも言える。
 上記<2-2.一般化逆動力学について>で説明したように、一般化逆動力学を用いた演算により、運動目的及び拘束条件を用いて、当該運動目的を実現するために各関節部421a~421fに作用させるべき実在力であるτを算出することができる。従って、理想的には、算出された各τを上記数式(12)に適用することにより、上記数式(12)に示す理論モデルに従った応答が実現する、すなわち、所望の運動目的が達成されるはずである。
 しかし、実際には、様々な外乱の影響により、関節部421a~421fの運動と上記数式(12)に示すような理論モデルとの間には誤差(モデル化誤差)が生じる場合がある。モデル化誤差は、多リンク構造体の重量、重心、慣性テンソル等のマスプロパティに起因するものと、における関節部421a~421f内部における摩擦や慣性等に起因するものとに大別することができる。このうち、前者のマスプロパティに起因するモデル化誤差は、CAD(Computer Aided Design)データの高精度化や同定手法の適用によって、理論モデル構築時に比較的容易に低減することが可能である。
 一方、後者の関節部421a~421f内部の摩擦や慣性等に起因するモデル化誤差は、例えば関節部421a~421fの減速機426における摩擦等、モデル化が困難な現象に起因しており、理論モデル構築時に無視できないモデル化誤差が残留し得る。また、上記数式(12)におけるイナーシャIや粘性抵抗係数νの値と、実際の関節部421a~421fにおけるこれらの値との間に誤差が生じている可能性がある。これらのモデル化が困難な誤差は、関節部421a~421fの駆動制御において外乱となり得る。従って、このような外乱の影響により、実際には、関節部421a~421fの運動は、上記数式(12)に示す理論モデル通りには応答しない場合がある。よって、一般化逆動力学によって算出された関節力である実在力τを適用しても、制御目標である運動目的が達成されない場合が生じる。本実施形態では、各関節部421a~421fにアクティブな制御系を付加することで、上記数式(12)に示す理論モデルに従った理想応答を行うよう、関節部421a~421fの応答を補正することを考える。具体的には、本実施形態では、関節部421a~421fのトルクセンサ428、428aを用いた摩擦補償型のトルク制御を行うに留まらず、要求される発生トルクτ、外トルクτに対して、イナーシャI及び粘性抵抗係数νに至るまで理論値に従った理想応答を行うことが可能となる。
 本実施形態では、このように、支持アーム装置400の関節部421a~421fが上記数式(12)に示すような理想的な応答を行うように関節部の駆動を制御することを、理想関節制御と呼称する。ここで、以下の説明では、当該理想関節制御によって駆動が制御されるアクチュエータのことを、理想的な応答が行われることから仮想アクチュエータ(VA:Virtualized Actuator)とも呼称する。以下、図4を参照して、本実施形態に係る理想関節制御について説明する。
 図4は、本開示の一実施形態に係る理想関節制御について説明するための説明図である。なお、図4では、理想関節制御に係る各種の演算を行う概念上の演算器をブロックで模式的に図示している。
 ここで、アクチュエータ610が上記数式(12)で表される理論モデルに従った応答を行なうことは、上記数式(12)の右辺が与えられたときに、左辺の回転角加速度が達成されることに他ならない。また、上記数式(12)に示すように、理論モデルには、アクチュエータ610に作用する外トルク項τが含まれている。本実施形態では、理想関節制御を行うために、トルクセンサ614によって外トルクτを測定する。また、エンコーダ613によって測定されたアクチュエータ610の回転角度qに基づいて外乱に起因するトルクの推定値である外乱推定値τを算出するために、外乱オブザーバ620を適用する。
 ブロック631は、上記数式(12)に示す関節部421a~421fの理想的な関節モデル(Ideal Joint Model)に従った演算を行う演算器を表している。ブロック631は、発生トルクτ、外トルクτ、回転角速度(回転角度qの1階微分)を入力として、上記数式(12)の左辺に示す回転角加速度目標値(回転角目標値qrefの2階微分)を出力することができる。
 本実施形態では、上記<2-2.一般化逆動力学について>で説明した方法によって算出された発生トルクτと、トルクセンサ614によって測定された外トルクτが、ブロック631に入力される。一方、微分演算を行う演算器を表すブロック632に、エンコーダ613によって測定された回転角度qが入力されることにより、回転角速度(回転角度qの1階微分)が算出される。上記発生トルクτ及び外トルクτに加えて、ブロック632によって算出された回転角速度がブロック631に入力されることにより、ブロック631によって回転角加速度目標値が算出される。算出された回転角加速度目標値は、ブロック633に入力される。
 ブロック633は、アクチュエータ610の回転角加速度に基づいてアクチュエータ610に生じるトルクを算出する演算器を表す。本実施形態においては、具体的には、ブロック633は、回転角加速度目標値にアクチュエータ610における公称イナーシャ(ノミナルイナーシャ)Jを乗じることにより、トルク目標値τrefを得ることができる。理想の応答においては、アクチュエータ610に当該トルク目標値τrefを生じさせることにより、所望の運動目的が達成されるはずであるが、上述したように、実際の応答には外乱等の影響が生じる場合がある。従って、本実施形態においては、外乱オブザーバ620によって外乱推定値τを算出し、外乱推定値τを用いて当該トルク目標値τrefを補正する。
 外乱オブザーバ620の構成について説明する。図4に示すように、外乱オブザーバ620は、トルク指令値τと、エンコーダ613によって測定された回転角度qから算出される回転角速度に基づいて、外乱推定値τを算出する。ここで、トルク指令値τは、外乱の影響が補正された後の、最終的にアクチュエータ610に生じさせるトルク値である。例えば、外乱推定値τが算出されていない場合には、トルク指令値τはトルク目標値τrefとなる。
 外乱オブザーバ620は、ブロック634とブロック635とから構成される。ブロック634は、アクチュエータ610の回転角速度に基づいてアクチュエータ610に生じるトルクを算出する演算器を表す。本実施形態においては、具体的には、エンコーダ613によって測定された回転角度qから、ブロック632によって算出された回転角速度がブロック634に入力される。ブロック634は、伝達関数Jsによって表される演算を行うことにより、すなわち、当該回転角速度を微分することにより回転角加速度を求め、更に算出された回転角加速度にノミナルイナーシャJを乗じることにより、実際にアクチュエータ610に作用しているトルクの推定値(トルク推定値)を算出することができる。
 外乱オブザーバ620内では、当該トルク推定値とトルク指令値τとの差分が取られることにより、外乱によるトルクの値である外乱推定値τが推定される。具体的には、外乱推定値τは、前周の制御におけるトルク指令値τと、今回の制御におけるトルク推定値との差分であってよい。ブロック634によって算出されるトルク推定値は実際の測定値に基づくものであり、ブロック633によって算出されたトルク指令値τはブロック631に示す関節部421a~421fの理想的な理論モデルに基づくものであるため、両者の差分を取ることによって、上記理論モデルでは考慮されていない外乱の影響を推定することができるのである。
 また、外乱オブザーバ620には、系の発散を防ぐために、ブロック635に示すローパスフィルター(LPF:Low Pass Filter)が設けられる。ブロック635は、伝達関数g/(s+g)で表される演算を行うことにより、入力された値に対して低周波成分のみを出力し、系を安定化させる。本実施形態では、ブロック634によって算出されたトルク推定値とトルク指令値τrefとの差分値は、ブロック635に入力され、その低周波成分が外乱推定値τとして算出される。
 本実施形態では、トルク目標値τrefに外乱オブザーバ620によって算出された外乱推定値τを加算するフィードフォワード制御が行われることにより、最終的にアクチュエータ610に生じさせるトルク値であるトルク指令値τが算出される。そして、トルク指令値τに基づいてアクチュエータ610が駆動される。具体的には、トルク指令値τが対応する電流値(電流指令値)に変換され、当該電流指令値がモータ611に印加されることにより、アクチュエータ610が駆動される。
 以上、図4を参照して説明した構成を取ることにより、本実施形態に係る関節部421a~421fの駆動制御においては、摩擦等の外乱成分があった場合であっても、アクチュエータ610の応答を目標値に追従させることが可能となる。また、関節部421a~421fの駆動制御について、理論モデルが仮定するイナーシャI及び粘性抵抗係数νに従った理想応答を行うことが可能となる。
 なお、以上説明した理想関節制御の詳細については、例えば、本願出願人による先行特許出願である特開2009-269102号公報を参照することができる。
 以上、本実施形態において用いられる一般化逆動力学について説明するとともに、図4を参照して本実施形態に係る理想関節制御について説明した。以上説明したように、本実施形態においては、一般化逆動力学を用いることにより、アーム部420の運動目的を達成するための各関節部421a~421fの駆動パラメータ(例えば関節部421a~421fの発生トルク値)を、拘束条件を考慮して算出する、全身協調制御が行われる。また、図4を参照して説明したように、本実施形態においては、上記一般化逆動力学を用いた全身協調制御により算出された発生トルク値に対して外乱の影響を考慮した補正を行うことにより、関節部421a~421fの駆動制御において理論モデルに基づいた理想的な応答を実現する、理想関節制御が行われる。従って、本実施形態においては、アーム部420の駆動について、運動目的を達成する高精度な駆動制御が可能となる。
 <2-4.アーム制御システムの構成>
 次に、上記<2-2.一般化逆動力学について>及び上記<2-3.理想関節制御について>で説明した全身協調制御や理想関節制御がアーム装置の駆動制御に適用された、本実施形態に係るアーム制御システムの構成について説明する。
 図5を参照して、本開示の一実施形態に係るアーム制御システムの一構成例について説明する。図5は、本開示の一実施形態に係るアーム制御システムの一構成例を示す機能ブロック図である。なお、図5に示すアーム制御システムでは、アーム装置のアーム部の駆動の制御に関わる構成について主に図示している。
 図5を参照すると、本開示の一実施形態に係るアーム制御システム1は、アーム装置10、制御装置20及び表示装置30を備える。本実施形態においては、制御装置20によって、上記<2-2.一般化逆動力学について>で説明した全身協調制御及び上記<2-3.理想関節制御について>で説明した理想関節制御における各種の演算が行われ、その演算結果に基づいてアーム装置10のアーム部の駆動が制御される。また、アーム装置10のアーム部には後述する撮像部140が設けられており、撮像部140によって撮影された画像が表示装置30の表示画面に表示される。以下、アーム装置10、制御装置20及び表示装置30の構成について詳細に説明する。
 アーム装置10は、複数の関節部と複数のリンクから構成される多リンク構造体であるアーム部を有し、当該アーム部を可動範囲内で駆動させることにより、当該アーム部の先端に設けられる先端ユニットの位置及び姿勢の制御を行う。アーム装置10は、図3に示す支持アーム装置400に対応している。
 図5を参照すると、アーム装置10は、アーム制御部110及びアーム部120を有する。また、アーム部120は、関節部130及び撮像部140を有する。
 アーム制御部110は、アーム装置10を統合的に制御するとともに、アーム部120の駆動を制御する。アーム制御部110は、図3を参照して説明した制御部(図3には図示せず。)に対応している。具体的には、アーム制御部110は駆動制御部111を有し、駆動制御部111からの制御によって関節部130の駆動が制御されることにより、アーム部120の駆動が制御される。より具体的には、駆動制御部111は、関節部130のアクチュエータにおけるモータに対して供給される電流量を制御することにより、当該モータの回転数を制御し、関節部130における回転角度及び発生トルクを制御する。ただし、上述したように、駆動制御部111によるアーム部120の駆動制御は、制御装置20における演算結果に基づいて行われる。従って、駆動制御部111によって制御される、関節部130のアクチュエータにおけるモータに対して供給される電流量は、制御装置20における演算結果に基づいて決定される電流量である。
 アーム部120は、複数の関節部と複数のリンクから構成される多リンク構造体であり、アーム制御部110からの制御によりその駆動が制御される。アーム部120は、図3に示すアーム部420に対応している。アーム部120は、関節部130及び撮像部140を有する。なお、アーム部120が有する複数の関節部の機能及び構成は互いに同様であるため、図5では、それら複数の関節部を代表して1つの関節部130の構成を図示している。
 関節部130は、アーム部120においてリンク間を互いに回動可能に連結するとともに、アーム制御部110からの制御によりその回転駆動が制御されることによりアーム部120を駆動する。関節部130は、図3に示す関節部421a~421fに対応している。また、関節部130は、アクチュエータを有する。
 関節部130は、関節駆動部131及び関節状態検出部132を有する。
 関節駆動部131は、関節部130のアクチュエータにおける駆動機構であり、関節駆動部131が駆動することにより関節部130が回転駆動する。関節駆動部131は、駆動制御部111によってその駆動が制御される。例えば、関節駆動部131は、モータ及びモータドライバに対応する構成であり、関節駆動部131が駆動することは、モータドライバが駆動制御部111からの指令に応じた電流量でモータを駆動することに対応している。
 関節状態検出部132は、関節部130の状態を検出する。ここで、関節部130の状態とは、関節部130の運動の状態を意味していてよい。例えば、関節部130の状態には、関節部130の回転角度、回転角速度、回転角加速度、発生トルク等の情報が含まれる。本実施形態においては、関節状態検出部132は、関節部130の回転角度を検出する回転角度検出部133及び関節部130の発生トルク及び外トルクを検出するトルク検出部134を有する。なお、回転角度検出部133及びトルク検出部134は、アクチュエータのエンコーダ及びトルクセンサに、それぞれ対応している。関節状態検出部132は、検出した関節部130の状態を制御装置20に送信する。
 撮像部140は、アーム部120の先端に設けられる先端ユニットの一例であり、撮影対象の画像を取得する。撮像部140は、図3に示す撮像ユニット423に対応している。具体的には、撮像部140は、撮影対象を動画や静止画の形式で撮影することのできるカメラ等である。より具体的には、撮像部140は、2次元上に配列された複数の受光素子を有し、当該受光素子における光電変換により、撮影対象の画像を表す画像信号を取得することができる。撮像部140は、取得した画像信号を表示装置30に送信する。
 なお、図3に示す支持アーム装置400において撮像ユニット423がアーム部420の先端に設けられていたように、ロボットアーム装置10においても、実際には撮像部140がアーム部120の先端に設けられている。図5では、撮像部140が複数の関節部130及び複数のリンクを介して最終段のリンクの先端に設けられる様子を、関節部130と撮像部140との間にリンクを模式的に図示することにより表現している。
 なお、本実施形態においては、アーム部120の先端には先端ユニットとして各種の医療用器具が接続され得る。当該医療用器具としては、例えば、メスや鉗子等の各種の施術器具や、超音波検査装置の探触子等の各種の検査装置の一ユニット等、施術に際して用いられる各種のユニットが挙げられる。また、本実施形態では、図5に示す撮像部140や、内視鏡、顕微鏡等の撮像機能を有するユニットも医療用器具に含まれてよい。このように、本実施形態に係るアーム装置10は、医療用器具を備えた医療用アーム装置であると言える。同様に、本実施形態に係るアーム制御システム1は、医療用アーム制御システムであると言える。なお、図5に示すアーム装置10は、撮像機能を有するユニットを先端ユニットとして備えるスコープ保持アーム装置であるとも言える。また、アーム部120の先端に、2つの撮像ユニット(カメラユニット)を有するステレオカメラが設けられ、撮像対象を3D画像として表示するように撮影が行われてもよい。
 以上、アーム装置10の機能及び構成について説明した。次に、制御装置20の機能及び構成について説明する。図5を参照すると、制御装置20は、入力部210、記憶部220及び制御部230を有する。
 制御部230は、制御装置20を統合的に制御するとともに、アーム装置10におけるアーム部120の駆動を制御するための各種の演算を行う。具体的には、制御部230は、アーム装置10のアーム部120の駆動を制御するために、全身協調制御及び理想関節制御における各種の演算を行う。以下、制御部230の機能及び構成について詳しく説明するが、全身協調制御及び理想関節制御については、上記<2-2.一般化逆動力学について>及び上記<2-3.理想関節制御について>で既に説明しているため、ここでは詳しい説明は省略する。
 制御部230は、全身協調制御部240及び理想関節制御部250を有する。
 全身協調制御部240は、一般化逆動力学を用いた全身協調制御に関する各種の演算を行う。本実施形態では、全身協調制御部240は、関節状態検出部132によって検出された関節部130の状態に基づいてアーム部120の状態(アーム状態)を取得する。また、全身協調制御部240は、当該アーム状態と、アーム部120の運動目的及び拘束条件と、に基づいて、操作空間におけるアーム部120の全身協調制御のための制御値を、一般化逆動力学を用いて算出する。なお、操作空間とは、例えばアーム部120に作用する力とアーム部120に発生する加速度との関係を記述するための空間である。
 全身協調制御部240は、アーム状態取得部241、演算条件設定部242、仮想力算出部243及び実在力算出部244を有する。
 アーム状態取得部241は、関節状態検出部132によって検出された関節部130の状態に基づいて、アーム部120の状態(アーム状態)を取得する。ここで、アーム状態とは、アーム部120の運動の状態を意味していてよい。例えば、アーム状態には、アーム部120の位置、速度、加速度、力等の情報が含まれる。上述したように、関節状態検出部132は、関節部130の状態として、各関節部130における回転角度、回転角速度、回転角加速度、発生トルク等の情報を取得している。また、後述するが、記憶部220は、制御装置20によって処理される各種の情報を記憶するものであり、本実施形態においては、記憶部220には、アーム部120に関する各種の情報(アーム情報)、例えばアーム部120を構成する関節部130及びリンクの数や、リンクと関節部130との接続状況、リンクの長さ等の情報が格納されていてよい。アーム状態取得部241は、記憶部220から当該アーム情報を取得することができる。従って、アーム状態取得部241は、関節部130の状態とアーム情報とに基づいて、複数の関節部130、複数のリンク及び撮像部140の空間上の位置(座標)(すなわち、アーム部120の形状や撮像部140の位置及び姿勢)や、各関節部130、リンク及び撮像部140に作用している力等の情報をアーム状態として取得することができる。アーム状態取得部241は、取得したアーム情報を演算条件設定部242に送信する。
 演算条件設定部242は、一般化逆動力学を用いた全身協調制御に関する演算における演算条件を設定する。ここで、演算条件とは、運動目的及び拘束条件であってよい。運動目的は、アーム部120の運動に関する各種の情報であってよい。具体的には、運動目的は、撮像部140の位置及び姿勢(座標)、速度、加速度並びに力等の目標値であったり、アーム部120の複数の関節部130及び複数のリンクの位置(座標)、速度、加速度及び力等の目標値であったりしてもよい。また、拘束条件は、アーム部120の運動を制限(拘束)する各種の情報であってよい。具体的には、拘束条件は、アーム部の各構成部材が移動不可能な領域の座標や、移動不可能な速度、加速度の値、発生不可能な力の値等であってよい。また、拘束条件における各種の物理量の制限範囲は、アーム部120の構造的に実現することが不可能であることから設定されてもよいし、ユーザによって適宜設定されてもよい。また、演算条件設定部242は、アーム部120の構造についての物理モデル(例えば、アーム部120を構成するリンクの数や長さ、リンクの関節部130を介した接続状況、関節部130の可動範囲等がモデル化されたもの)を有し、当該物理モデルに、所望の運動条件及び拘束条件が反映された制御モデルを生成することにより、運動条件及び拘束条件を設定してもよい。
 本実施形態においては、運動目的及び拘束条件を適切に設定することにより、アーム部120に所望の動作を行わせることが可能となる。例えば、運動目的として、撮像部140の位置の目標値を設定することにより撮像部140をその目標の位置に移動させることはもちろんのこと、アーム部120が空間上の所定の領域内に侵入しないようにする等、拘束条件によって移動の制約を設けてアーム部120を駆動させることも可能である。
 運動目的の具体例として、例えば、運動目的は、撮像部140の撮影方向が施術部位に固定された状態で、撮像部140が施術部位を頂点とした円錐の面内を移動する、当該円錐の軸を旋回軸とした旋回動作である、ピボット動作であってもよい。また、当該ピボット動作においては、撮像部140と円錐の頂点に当たる点との距離が一定に保たれた状態で旋回動作が行われてもよい。このようなピボット動作を行うことにより、観察部位を等距離からかつ異なる角度から観察できるようになるため、手術を行うユーザの利便性を向上させることができる。
 また、他の具体例として、運動目的は、各関節部130における発生トルクを制御する内容であってもよい。具体的には、運動目的は、アーム部120に作用する重力を打ち消すように関節部130の状態を制御するとともに、更に外部から与えられた力の方向へのアーム部120の移動をサポートするように関節部130の状態を制御するパワーアシスト動作であってもよい。より具体的には、パワーアシスト動作においては、アーム部120の各関節部130における重力による外トルクを打ち消す発生トルクを各関節部130に生じさせるように各関節部130の駆動が制御されることにより、アーム部120の位置及び姿勢が所定の状態で保持される。この状態で更に外部から(例えばユーザから)外トルクが加えられた場合に、与えられた外トルクと同じ方向の発生トルクを各関節部130に生じさせるように各関節部130の駆動が制御される。このようなパワーアシスト動作を行うことにより、ユーザが手動でアーム部120を動かす場合に、ユーザはより小さい力でアーム部120を移動させることができるため、あたかも無重力下でアーム部120を動かしているような感覚をユーザに対して与えることができる。また、上述したピボット動作と当該パワーアシスト動作とを組み合わせることも可能である。
 ここで、本実施形態において、運動目的とは、全身協調制御において実現されるアーム部120の動作(運動)を意味していてもよいし、当該動作における瞬時的な運動目的(すなわち、運動目的における目標値)を意味していてもよい。例えば上記のピボット動作であれば、撮像部140がピボット動作を行うこと自体が運動目的であるが、ピボット動作を行っている最中においては、当該ピボット動作における円錐面内での撮像部140の位置や速度等の値が、瞬時的な運動目的(当該運動目的における目標値)として設定されている。また例えば上記のパワーアシスト動作であれば、外部から加えられた力の方向へのアーム部120の移動をサポートするパワーアシスト動作を行うこと自体が運動目的であるが、パワーアシスト動作を行っている最中においては、各関節部130に加えられる外トルクと同じ方向への発生トルクの値が、瞬時的な運動目的(当該運動目的における目標値)として設定されている。本実施形態における運動目的は、瞬時的な運動目的(例えばある時間におけるアーム部120の各構成部材の位置や速度、力等の目標値)と、瞬時的な運動目的が連続的に達成された結果、経時的に実現されるアーム部120の各構成部材の動作の、双方を含む概念である。全身協調制御部240における全身協調制御のための演算における各ステップでは瞬時的な運動目的がその都度設定され、当該演算が繰り返し行われることにより、最終的に所望の運動目的が達成される。
 なお、本実施形態においては、運動目的が設定される際に、各関節部130の回転運動における粘性抵抗係数も適宜設定されてよい。上述したように、本実施形態に係る関節部130は、アクチュエータの回転運動における粘性抵抗係数を適宜調整できるように構成される。従って、運動目的の設定に際して各関節部130の回転運動における粘性抵抗係数も設定することにより、例えば外部から加えられる力に対して回転しやすい状態や回転し難い状態を実現することができる。例えば上述したパワーアシスト動作であれば、関節部130における粘性抵抗係数が小さく設定されることにより、ユーザがアーム部120を移動させる際に要する力がより小さくてよく、ユーザに与えられる無重力感がより助長される。このように、各関節部130の回転運動における粘性抵抗係数は、運動目的の内容に応じて適宜設定されてよい。
 ここで、本実施形態においては、後述するように、記憶部220には、全身協調制御に関する演算において用いられる運動目的や拘束条件等の演算条件に関するパラメータが格納されていてもよい。演算条件設定部242は、記憶部220に記憶されている拘束条件を、全身協調制御の演算に用いる拘束条件として設定することができる。
 また、本実施形態においては、演算条件設定部242は、複数の方法によって運動目的を設定することができる。例えば、演算条件設定部242は、アーム状態取得部241から送信されるアーム状態に基づいて運動目的を設定してもよい。上述したように、アーム状態には、アーム部120の位置の情報やアーム部120に対して作用する力の情報が含まれる。従って、例えばユーザがアーム部120を手動で移動させようとしている場合には、アーム状態取得部241によって、ユーザがアーム部120をどのように移動させようとしているか、に関する情報もアーム状態として取得される。従って、演算条件設定部242は、取得されたアーム状態に基づいて、ユーザがアーム部120を移動させた位置や速度、力等を瞬時的な運動目的として設定することができる。このように運動目的が設定されることにより、アーム部120の駆動は、ユーザによるアーム部120の移動を追随し、サポートするように制御される。
 また、例えば、演算条件設定部242は、入力部210からユーザによって入力される指示に基づいて運動目的を設定してもよい。後述するが、入力部210は、ユーザが制御装置20にアーム装置10の駆動制御に関する情報や命令等を入力するための入力インターフェースであり、本実施形態においては、ユーザによる入力部210からの操作入力に基づいて、運動目的が設定されてもよい。具体的には、入力部210は、例えばレバー、ペダル等のユーザが操作する操作手段を有し、当該レバー、ペダル等の操作に応じて、アーム部120の各構成部材の位置や速度等が、演算条件設定部242によって瞬時的な運動目的として設定されてもよい。
 更に、例えば、演算条件設定部242は、記憶部220に記憶されている運動目的を、全身協調制御の演算に用いる運動目的として設定してもよい。例えば、空間上の所定の点で撮像部140が静止するという運動目的であれば、当該所定の点の座標を運動目的として予め設定することができる。また、例えば、撮像部140が空間上において所定の軌跡上を移動するという運動目的であれば、当該所定の軌跡を表す各点の座標を運動目的として予め設定することができる。このように、運動目的が予め設定できるものである場合には、当該運動目的が予め記憶部220に記憶されていてもよい。また、例えば上述したピボット動作であれば、運動目的は円錐の面内における位置や速度等を目標値とするものに限られるし、パワーアシスト動作であれば、運動目的は力を目標値とするものに限られる。このように、ピボット動作やパワーアシスト動作のような運動目的が予め設定されている場合には、これらの運動目的における瞬時的な運動目的として設定され得る目標値の範囲や種類等に関する情報が、記憶部220に記憶されていてもよい。演算条件設定部242は、このような運動目的に関する各種の情報も含めて、運動目的として設定することができる。
 なお、演算条件設定部242が、上記のいずれの方法で運動目的を設定するかは、アーム装置10の用途等に応じてユーザによって適宜設定可能であってよい。また、演算条件設定部242は、また、上記の各方法を適宜組み合わせることにより、運動目的及び拘束条件を設定してもよい。なお、記憶部220に格納されている拘束条件の中に運動目的の優先度が設定されていてもよく、複数の互いに異なる運動目的が存在する場合には、演算条件設定部242は、当該拘束条件の優先度に応じて運動目的を設定してもよい。演算条件設定部242は、アーム状態並びに設定した運動目的及び拘束条件を仮想力算出部243に送信する。
 仮想力算出部243は、一般化逆動力学を用いた全身協調制御に関する演算における仮想力を算出する。仮想力算出部243が行う仮想力の算出処理は、例えば、上記<2-2-1.仮想力算出処理>で説明した一連の処理であってよい。仮想力算出部243は、算出した仮想力fを実在力算出部244に送信する。
 実在力算出部244は、一般化逆動力学を用いた全身協調制御に関する演算における実在力を算出する。実在力算出部244が行う実在力の算出処理は、例えば、上記<2-2-2.実在力算出処理>で説明した一連の処理であってよい。実在力算出部244は、算出した実在力(発生トルク)τを理想関節制御部250に送信する。なお、本実施形態においては、実在力算出部244によって算出された発生トルクτのことを、全身協調制御における関節部130の制御値という意味で、制御値又は制御トルク値とも呼称する。
 理想関節制御部250は、一般化逆動力学を用いた理想関節制御に関する各種の演算を行う。本実施形態では、理想関節制御部250は、実在力算出部244によって算出された発生トルクτに対して外乱の影響を補正することにより、アーム部120の理想的な応答を実現するトルク指令値τを算出する。なお、理想関節制御部250によって行われる演算処理は、上記<2-3.理想関節制御について>で説明した一連の処理に対応している。
 理想関節制御部250は、外乱推定部251及び指令値算出部252を有する。
 外乱推定部251は、トルク指令値τと、回転角度検出部133によって検出された回転角度qから算出される回転角速度に基づいて、外乱推定値τを算出する。なお、ここでいうトルク指令値τは、最終的にアーム装置10に送信されるアーム部120での発生トルクを表す指令値である。このように、外乱推定部251は、図4に示す外乱オブザーバ620に対応する機能を有する。
 指令値算出部252は、外乱推定部251によって算出された外乱推定値τを用いて、最終的にアーム装置10に送信されるアーム部120に生じさせるトルクを表す指令値であるトルク指令値τを算出する。具体的には、指令値算出部252は、上記数式(12)に示す関節部130の理想モデルから算出されるτrefに外乱推定部251によって算出された外乱推定値τを加算することにより、トルク指令値τを算出する。例えば、外乱推定値τが算出されていない場合には、トルク指令値τはトルク目標値τrefとなる。このように、指令値算出部252の機能は、図4に示す外乱オブザーバ620以外の機能に対応している。
 以上説明したように、理想関節制御部250においては、外乱推定部251と指令値算出部252との間で繰り返し情報のやり取りが行われることにより、図4を参照して説明した一連の処理が行われる。理想関節制御部250は算出したトルク指令値τをアーム装置10の駆動制御部111に送信する。駆動制御部111は、送信されたトルク指令値τに対応する電流量を、関節部130のアクチュエータにおけるモータに対して供給する制御を行うことにより、当該モータの回転数を制御し、関節部130における回転角度及び発生トルクを制御する。
 本実施形態に係るアーム制御システム1においては、アーム装置10におけるアーム部120の駆動制御は、アーム部120を用いた作業が行われている間継続的に行われるため、アーム装置10及び制御装置20における以上説明した処理が繰り返し行われる。すなわち、アーム装置10の関節状態検出部132によって関節部130の状態が検出され、制御装置20に送信される。制御装置20では、当該関節部130の状態と、運動目的及び拘束条件とに基づいて、アーム部120の駆動を制御するための全身協調制御及び理想関節制御に関する各種の演算が行われ、演算結果としてのトルク指令値τがアーム装置10に送信される。アーム装置10では、当該トルク指令値τに基づいてアーム部120の駆動が制御され、駆動中又は駆動後の関節部130の状態が、再び関節状態検出部132によって検出される。
 制御装置20が有する他の構成についての説明を続ける。
 入力部210は、ユーザが制御装置20にアーム装置10の駆動制御に関する情報や命令等を入力するための入力インターフェースである。本実施形態においては、ユーザによる入力部210からの操作入力に基づいて、アーム装置10のアーム部120の駆動が制御され、撮像部140の位置及び姿勢が制御されてもよい。具体的には、上述したように、ユーザによって入力部210から入力されたアームの駆動の指示に関する指示情報が演算条件設定部242に入力されることにより、演算条件設定部242が当該指示情報に基づいて全身協調制御における運動目的を設定してもよい。このように、ユーザが入力した指示情報に基づく運動目的を用いて全身協調制御が行われることにより、ユーザの操作入力に応じたアーム部120の駆動が実現される。
 具体的には、入力部210は、例えばマウス、キーボード、タッチパネル、ボタン、スイッチ、レバー及びペダル等のユーザが操作する操作手段を有する。例えば入力部210がペダルを有する場合、ユーザは当該ペダルを足で操作することによりアーム部120の駆動を制御することができる。従って、ユーザが患者の施術部位に対して両手を使って処置を行っている場合であっても、足によるペダルの操作によって撮像部140の位置及び姿勢、すなわち、施術部位の撮影位置や撮影角度を調整することができる。
 記憶部220は、制御装置20によって処理される各種の情報を記憶する。本実施形態においては、記憶部220は、制御部230によって行われる全身協調制御及び理想関節制御に関する演算において用いられる各種のパラメータを記憶することができる。例えば、記憶部220は、全身協調制御部240による全身協調制御に関する演算において用いられる運動目的及び拘束条件を記憶していてもよい。記憶部220が記憶する運動目的は、上述したように、例えば撮像部140が空間上の所定の点で静止することのような、予め設定され得る運動目的であってよい。また、拘束条件は、アーム部120の幾何的な構成やロボットアーム装置10の用途等に応じて、ユーザによって予め設定され、記憶部220に格納されていてもよい。また、記憶部220には、アーム状態取得部241がアーム状態を取得する際に用いるアーム部120に関する各種の情報が記憶されていてもよい。更に、記憶部220には、制御部230による全身協調制御及び理想関節制御に関する演算における演算結果や演算過程で算出される各数値等が記憶されてもよい。このように、記憶部220には、制御部230によって行われる各種の処理に関するあらゆるパラメータが格納されていてよく、制御部230は、記憶部220と相互に情報を送受信しながら各種の処理を行うことができる。
 以上、制御装置20の機能及び構成について説明した。なお、本実施形態に係る制御装置20は、例えばPC(Personal Computer)やサーバ等の各種の情報処理装置(演算処理装置)によって構成することができる。次に、表示装置30の機能及び構成について説明する。
 表示装置30は、各種の情報を表示画面上にテキスト、イメージ等様々な形式で表示することにより、当該情報をユーザに対して視覚的に通知する。本実施形態においては、表示装置30は、アーム装置10の撮像部140によって撮影された画像を表示画面上に表示する。具体的には、表示装置30は、撮像部140によって取得された画像信号に各種の画像処理を施す画像信号処理部(図示せず。)や処理された画像信号に基づく画像を表示画面上に表示させる制御を行う表示制御部(図示せず。)等の機能及び構成を有する。なお、表示装置30は、上記の機能及び構成以外にも、一般的に表示装置が有する各種の機能及び構成を有してもよい。表示装置30は、図1に示す表示装置5041に対応している。
 以上、図5を参照して、本実施形態に係るアーム装置10、制御装置20及び表示装置30の機能及び構成について説明した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
 以上説明したように、本実施形態によれば、アーム装置10における多リンク構造体であるアーム部120が、少なくとも6自由度以上の自由度を有するとともに、当該アーム部120を構成する複数の関節部130のそれぞれの駆動が駆動制御部111によって制御される。そして、当該アーム部120の先端には医療用器具が設けられる。このように、各関節部130の駆動が制御されることにより、より自由度の高いアーム部120の駆動制御が実現され、よりユーザにとって操作性の高い医療用のアーム装置10が実現される。
 より具体的には、本実施形態によれば、アーム装置10において、関節状態検出部132によって関節部130の状態が検出される。そして、制御装置20において、当該関節部130の状態と、運動目的及び拘束条件とに基づいて、アーム部120の駆動を制御するための一般化逆動力学を用いた全身協調制御に関する各種の演算が行われ、演算結果としてのトルク指令値τが算出される。更に、アーム装置10において、当該トルク指令値τに基づいてアーム部120の駆動が制御される。このように、本実施形態においては、一般化逆動力学を用いた全身協調制御により、アーム部120の駆動が制御される。従って、力制御によるアーム部120の駆動制御が実現され、よりユーザにとって操作性の高いアーム装置が実現される。また、本実施形態では、全身協調制御において、例えばピボット動作やパワーアシスト動作といった、よりユーザの利便性を向上させる各種の運動目的を実現する制御が可能となる。更に、本実施形態においては、例えばアーム部120を手動で移動させたり、ペダルからの操作入力により移動させたりといった、多様な駆動手段が実現されるため、ユーザの利便性の更なる向上が実現される。
 また、本実施形態においては、アーム部120の駆動制御について、全身協調制御と併せて理想関節制御が適用される。理想関節制御においては、関節部130内部の摩擦や慣性等の外乱成分を推定し、推定した外乱成分を用いたフィードフォワード制御が行われる。従って、摩擦等の外乱成分がある場合であっても、関節部130の駆動について理想的な応答を実現することができる。よって、アーム部120の駆動制御において、振動等の影響がより少ない、高精度の応答性と高い位置決め精度や安定性が実現される。
 更に、本実施形態においては、アーム部120を構成する複数の関節部130のそれぞれが、理想関節制御に適合した構成を有し、各関節部130における回転角度、発生トルク及び粘性抵抗係数を電流値によって制御することができる。このように、各関節部130の駆動が電流値によって制御され、また、全身協調制御により各関節部130の駆動がアーム部120全体の状態を把握しながら制御されるため、カウンターバランスが不要となり、アーム装置10の小型化が実現される。
<<3.顕微鏡手術システムの構成例>>
 本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、患者の微細部位を拡大観察しながら行う、いわゆるマイクロサージェリーに用いられる顕微鏡手術システムに適用されてもよい。
 図6は、本開示に係る技術が適用され得る顕微鏡手術システム5300の概略的な構成の一例を示す図である。図6を参照すると、顕微鏡手術システム5300は、顕微鏡装置5301と、制御装置5317と、表示装置5319と、から構成される。なお、以下の顕微鏡手術システム5300についての説明において、「ユーザ」とは、術者及び助手等、顕微鏡手術システム5300を使用する任意の医療スタッフのことを意味する。
 顕微鏡装置5301は、観察対象(患者の術部)を拡大観察するための顕微鏡部5303と、顕微鏡部5303を先端で支持するアーム部5309と、アーム部5309の基端を支持するベース部5315と、を有する。
 顕微鏡部5303は、略円筒形状の筒状部5305と、当該筒状部5305の内部に設けられる撮像部(図示せず)と、筒状部5305の外周の一部領域に設けられる操作部5307と、から構成される。顕微鏡部5303は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部(いわゆるビデオ式の顕微鏡部)である。
 筒状部5305の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光(以下、観察光ともいう)は、当該カバーガラスを通過して、筒状部5305の内部の撮像部に入射する。なお、筒状部5305の内部には例えばLED(Light Emitting Diode)等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。
 撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばBayer配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、RAWデータとして制御装置5317に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。
 なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。また、撮像部には、AE(Auto Exposure)機能やAF(Auto Focus)機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。
 また、撮像部は、1つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視(3D表示)に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。
 操作部5307は、例えば十字レバー又はスイッチ等によって構成され、ユーザの操作入力を受け付ける入力手段である。例えば、ユーザは、操作部5307を介して、観察像の拡大倍率及び観察対象までの焦点距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び焦点距離が調整され得る。また、例えば、ユーザは、操作部5307を介して、アーム部5309の動作モード(後述するオールフリーモード及び固定モード)を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部5303を移動させようとする場合には、当該ユーザは筒状部5305を握るように把持した状態で当該顕微鏡部5303を移動させる様態が想定される。従って、操作部5307は、ユーザが筒状部5305を移動させている間でも操作可能なように、ユーザが筒状部5305を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
 アーム部5309は、複数のリンク(第1リンク5313a~第6リンク5313f)が、複数の関節部(第1関節部5311a~第6関節部5311f)によって互いに回動可能に連結されることによって構成される。
 第1関節部5311aは、略円柱形状を有し、その先端(下端)で、顕微鏡部5303の筒状部5305の上端を、当該筒状部5305の中心軸と平行な回転軸(第1軸O)まわりに回動可能に支持する。ここで、第1関節部5311aは、第1軸Oが顕微鏡部5303の撮像部の光軸と一致するように構成され得る。これにより、第1軸Oまわりに顕微鏡部5303を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
 第1リンク5313aは、先端で第1関節部5311aを固定的に支持する。具体的には、第1リンク5313aは略L字形状を有する棒状の部材であり、その先端側の一辺が第1軸Oと直交する方向に延伸しつつ、当該一辺の端部が第1関節部5311aの外周の上端部に当接するように、第1関節部5311aに接続される。第1リンク5313aの略L字形状の基端側の他辺の端部に第2関節部5311bが接続される。
 第2関節部5311bは、略円柱形状を有し、その先端で、第1リンク5313aの基端を、第1軸Oと直交する回転軸(第2軸O)まわりに回動可能に支持する。第2関節部5311bの基端には、第2リンク5313bの先端が固定的に接続される。
 第2リンク5313bは、略L字形状を有する棒状の部材であり、その先端側の一辺が第2軸Oと直交する方向に延伸しつつ、当該一辺の端部が第2関節部5311bの基端に固定的に接続される。第2リンク5313bの略L字形状の基端側の他辺には、第3関節部5311cが接続される。
 第3関節部5311cは、略円柱形状を有し、その先端で、第2リンク5313bの基端を、第1軸O及び第2軸Oと互いに直交する回転軸(第3軸O)まわりに回動可能に支持する。第3関節部5311cの基端には、第3リンク5313cの先端が固定的に接続される。第2軸O及び第3軸Oまわりに顕微鏡部5303を含む先端側の構成を回動させることにより、水平面内での顕微鏡部5303の位置を変更するように、当該顕微鏡部5303を移動させることができる。つまり、第2軸O及び第3軸Oまわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
 第3リンク5313cは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第3関節部5311cの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第3リンク5313cの基端側は角柱形状を有し、その端部に第4関節部5311dが接続される。
 第4関節部5311dは、略円柱形状を有し、その先端で、第3リンク5313cの基端を、第3軸Oと直交する回転軸(第4軸O)まわりに回動可能に支持する。第4関節部5311dの基端には、第4リンク5313dの先端が固定的に接続される。
 第4リンク5313dは、略直線状に延伸する棒状の部材であり、第4軸Oと直交するように延伸しつつ、その先端の端部が第4関節部5311dの略円柱形状の側面に当接するように、第4関節部5311dに固定的に接続される。第4リンク5313dの基端には、第5関節部5311eが接続される。
 第5関節部5311eは、略円柱形状を有し、その先端側で、第4リンク5313dの基端を、第4軸Oと平行な回転軸(第5軸O)まわりに回動可能に支持する。第5関節部5311eの基端には、第5リンク5313eの先端が固定的に接続される。第4軸O及び第5軸Oは、顕微鏡部5303を上下方向に移動させ得る回転軸である。第4軸O及び第5軸Oまわりに顕微鏡部5303を含む先端側の構成を回動させることにより、顕微鏡部5303の高さ、すなわち顕微鏡部5303と観察対象との距離を調整することができる。
 第5リンク5313eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材と、が組み合わされて構成される。第5リンク5313eの第1の部材の鉛直方向に延伸する部位の上端近傍に、第5関節部5311eの基端が固定的に接続される。第5リンク5313eの第2の部材の基端(下端)には、第6関節部5311fが接続される。
 第6関節部5311fは、略円柱形状を有し、その先端側で、第5リンク5313eの基端を、鉛直方向と平行な回転軸(第6軸O)まわりに回動可能に支持する。第6関節部5311fの基端には、第6リンク5313fの先端が固定的に接続される。
 第6リンク5313fは鉛直方向に延伸する棒状の部材であり、その基端はベース部5315の上面に固定的に接続される。
 第1関節部5311a~第6関節部5311fの回転可能範囲は、顕微鏡部5303が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部5309においては、顕微鏡部5303の動きに関して、並進3自由度及び回転3自由度の計6自由度の動きが実現され得る。このように、顕微鏡部5303の動きに関して6自由度が実現されるようにアーム部5309を構成することにより、アーム部5309の可動範囲内において顕微鏡部5303の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。
 なお、図示するアーム部5309の構成はあくまで一例であり、アーム部5309を構成するリンクの数及び形状(長さ)、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部5303を自由に動かすためには、アーム部5309は6自由度を有するように構成されることが好ましいが、アーム部5309はより大きな自由度(すなわち、冗長自由度)を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部5309においては、顕微鏡部5303の位置及び姿勢が固定された状態で、アーム部5309の姿勢を変更することが可能となる。従って、例えば表示装置5319を見る術者の視界にアーム部5309が干渉しないように当該アーム部5309の姿勢を制御する等、術者にとってより利便性の高い制御が実現され得る。
 ここで、第1関節部5311a~第6関節部5311fには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第1関節部5311a~第6関節部5311fに設けられる各アクチュエータの駆動が制御装置5317によって適宜制御されることにより、アーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が制御され得る。具体的には、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部5309の現在の姿勢、並びに顕微鏡部5303の現在の位置及び姿勢を把握することができる。制御装置5317は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部5303の移動を実現するような各関節部に対する制御値(例えば、回転角度又は発生トルク等)を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、制御装置5317によるアーム部5309の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。
 例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置5317によってアーム部5309の駆動が適宜制御され、顕微鏡部5303の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部5303を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属するユーザであっても、不潔域に属する機器をより自由度高く操作することが可能になる。あるいは、アーム部5309は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5309は、手術室から離れた場所に設置される入力装置を介してユーザによって遠隔操作され得る。
 また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部5309が移動するように第1関節部5311a~第6関節部5311fのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部5303を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部5303を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部5303を移動させることが可能となり、ユーザの利便性を向上させることができる。
 また、アーム部5309は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部5303の光軸が空間上の所定の点(以下、ピボット点という)を常に向くように、顕微鏡部5303を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部5303が、その焦点距離を調整不可能に構成される場合には、顕微鏡部5303とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部5303とピボット点との距離を、顕微鏡部5303の固定的な焦点距離に調整しておけばよい。これにより、顕微鏡部5303は、ピボット点を中心とする焦点距離に対応する半径を有する半球面(図6に概略的に図示する)上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部5303が、その焦点距離を調整可能に構成される場合には、顕微鏡部5303とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、例えば、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部5303とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部5303の焦点距離を自動で調整してもよい。あるいは、顕微鏡部5303にAF機能が設けられる場合であれば、ピボット動作によって顕微鏡部5303とピボット点との距離が変化するごとに、当該AF機能によって自動で焦点距離の調整が行われてもよい。
 また、第1関節部5311a~第6関節部5311fには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、制御装置5317によって制御され得る。例えば、顕微鏡部5303の位置及び姿勢を固定したい場合には、制御装置5317は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部5303の位置及び姿勢を移動したい場合には、制御装置5317は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
 このようなブレーキの動作は、上述した操作部5307を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部5303の位置及び姿勢を移動したい場合には、操作部5307を操作し、各関節部のブレーキを解除させる。これにより、アーム部5309の動作モードが、各関節部における回転を自由に行えるモード(オールフリーモード)に移行する。また、ユーザは、顕微鏡部5303の位置及び姿勢を固定したい場合には、操作部5307を操作し、各関節部のブレーキを作動させる。これにより、アーム部5309の動作モードが、各関節部における回転が拘束されたモード(固定モード)に移行する。
 制御装置5317は、顕微鏡装置5301及び表示装置5319の動作を制御することにより、顕微鏡手術システム5300の動作を統括的に制御する。例えば、制御装置5317は、所定の制御方式に従って第1関節部5311a~第6関節部5311fのアクチュエータを動作させることにより、アーム部5309の駆動を制御する。また、例えば、制御装置5317は、第1関節部5311a~第6関節部5311fのブレーキの動作を制御することにより、アーム部5309の動作モードを変更する。また、例えば、制御装置5317は、顕微鏡装置5301の顕微鏡部5303の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成するとともに、当該画像データを表示装置5319に表示させる。当該信号処理では、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)及び/又は拡大処理(すなわち、電子ズーム処理)等、各種の公知の信号処理が行われてよい。
 なお、制御装置5317と顕微鏡部5303との通信、及び制御装置5317と第1関節部5311a~第6関節部5311fとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。
 制御装置5317は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。制御装置5317のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、制御装置5317は、顕微鏡装置5301と別個の装置として設けられているが、制御装置5317は、顕微鏡装置5301のベース部5315の内部に設置され、顕微鏡装置5301と一体的に構成されてもよい。あるいは、制御装置5317は、複数の装置によって構成されてもよい。例えば、顕微鏡部5303や、アーム部5309の第1関節部5311a~第6関節部5311fにそれぞれマイコンや制御基板等が配設され、これらが互いに通信可能に接続されることにより、制御装置5317と同様の機能が実現されてもよい。
 表示装置5319は、手術室内に設けられ、制御装置5317からの制御により、当該制御装置5317によって生成された画像データに対応する画像を表示する。つまり、表示装置5319には、顕微鏡部5303によって撮影された術部の画像が表示される。なお、表示装置5319は、術部の画像に代えて、又は術部の画像とともに、例えば患者の身体情報や手術の術式についての情報等、手術に関する各種の情報を表示してもよい。この場合、表示装置5319の表示は、ユーザによる操作によって適宜切り替えられてよい。あるいは、表示装置5319は複数設けられてもよく、複数の表示装置5319のそれぞれに、術部の画像や手術に関する各種の情報が、それぞれ表示されてもよい。なお、表示装置5319としては、液晶ディスプレイ装置又はEL(Electro Luminescence)ディスプレイ装置等、各種の公知の表示装置が適用されてよい。
<<4.本実施形態に係る外乱が作用する力の推定>>
 本実施形態では、実際の手術のシーン(アーム以外の術具との関係などを含む)および環境条件を考慮することで外乱が作用する力の推定の定式化を行う。これにより、術場環境におけるアームに対する各種の外乱が作用する力の推定を実現することが可能となる。これにより、接触検知により安全停止や操作力検知によるアームの制御状態の切り替え等のユーザインターフェースへの応用、外部への力覚の提示などのアプリケーションの実装が可能となる。
 かかる技術は、「(1)ロボットの身体的および構造的特徴によるもの」によって先行技術との差異を有する。また、かかる技術は、「(2)主たる外乱(光源およびカメラケーブルによる張力)による外力が限定的であり、他外乱が作用する点が想定可能であるという特徴によるもの」によって先行技術との差異を有する。
 まず、上記の「(1)ロボットの身体的および構造的特徴によるもの」について説明する。本実施形態に係る技術は、一つ目として、医療向けアームを利用する先行技術に対して、別途に力センサを設置する必要がないという差異点を有する。また、本実施形態に係る技術は、二つ目として、汎用のアームを利用する先行研究に対して、術場および術式を想定した身体構造で、小可操作度による力推定精度の低下を回避することができるという差異点を有する。
 続いて、「(2)主たる外乱(光源およびカメラケーブルによる張力)による外力が限定的であり、他外乱が作用する点が想定可能であるという特徴によるもの」について説明する。本実施形態に係る技術によれば、ケーブルによる外乱が推定でき、これを補償した制御および力アシストが可能となるのに加え、身体上の任意の観測点に作用するケーブル以外の外乱を推定することが可能となる。
 具体的に、本実施形態に係るアーム制御システムにおいて、関節状態取得部241は、アーム部120の関節部130の状態を取得する。そして、外乱推定部251は、所定の外乱による外力が所定の1または複数の方向に限定されるという条件と関節部130の状態とに基づいて、外乱による外力を推定する。すなわち、外乱推定部251は、かかる条件を利用して、検出する外力の方向を所定の1または複数の方向に限定した上で、関節部130の状態に基づいて、外乱による外力を推定する。
 このとき、外力推定部251は、あらかじめ定められた観測点に作用する外力を推定する。なお、外力が限定される1または複数の方向には、並進方向の他に回転方向(モーメント方向)も含まれ得る。また、アーム制御システムは、医療分野に適用された場合、医療用支持アームシステムとして機能し得る。また、以下では、内視鏡の例として主に硬性鏡を例に挙げて説明するが、硬性鏡の代わりに軟性鏡が用いられてもよい。
 より具体的に、本実施形態に係る技術によれば、「(2-1)観測点をカメラヘッドに置き、人による操作力として知覚できる」「(2-2)観測点を硬性鏡先端に置き、硬性鏡先端の接触衝突を検知できる」「(2-3)観測点をトロッカ点に置き、トロッカから作用する力を知覚できる」「(2-4)上記の(2-1)~(2-3)において「(ア)知覚する外乱に制約を設けることで、」「(イ)もしくはアーム自由度に冗長性を持たせることで、」「(ウ)もしくは先端の特定の部位に力センサを設置することで、」操作力と接触および衝突を複合的に検知することができる」といった効果が享受される。
 図9は、トロッカ点から作用する力の例を説明するための図である。図9を参照すると、硬性鏡部425が示されている。また、患者70の体腔内に硬性鏡部425が挿入されるトロッカ点71が示されている。図9に示された例では、硬性鏡部425に作用する外力がトロッカ点71によって拘束されている。より具体的には、図9に示されたように、硬性鏡部425に作用する外力は、ピッチ方向、ロール方向およびズーム方向に限定されている。
 以下、具体例を説明する。各関節部に設置されたVAにより観測される外トルクτは、以下の下記の(13)のように表される。
Figure JPOXMLDOC01-appb-M000012
 なお、図3には、各関節部に設置されたVAにより観測される外トルクがτ,τ,τ,・・・,τとして表されている。また、各観測点に作用する外力は、以下のように表される。
 fcable:ケーブルによる張力(fx,fy,fz)
 fop:カメラヘッドを把持した手による張力(fx,fy,fz)
 ftrocar:トロッカから作用する力(fx,fy)
 ftip:硬性鏡先端に作用する力(fx,fy,fz)
 なお、図3には、各観測点に作用する外力がfcable,fop,ftrocar,・・・,ftipとして表されている。また、外力と外トルクとの関係を表す基本式は、以下の(14)のように表される。
Figure JPOXMLDOC01-appb-M000013
 なお、全ての力を測定するためには11軸分のトルク値が必要となる。また、操作力としてモーメント使用する場合には最大14軸分のトルク値が必要となる。また、8軸冗長自由度アーム6軸力覚センサの構成により全力覚の検知が可能となる。
 ここで、ケーブルによる張力が限定的である理由を説明する。図7は、硬性鏡部の外観を示す図である。図7に示すように、硬性鏡部425は、硬性鏡本体426、ケーブル424、接続部432を有している。硬性鏡本体426は、カメラヘッドCHを有している。また、硬性鏡本体426は、アームに把持される把持部431を有している。接続部432は、硬性鏡本体426とケーブル424との接続部分である。
 図8は、接続部432の拡大図である。接続部432は、硬性鏡本体426とケーブル424とを接続するケーブル接続部品433を有している。ケーブル接続部品433は、剛体である。ここで、以下に示す事由により、接続部432における外モーメントの値は、その他の外乱に比べて極めて小さいと考えられる。
 事由1:ケーブル接続部品433と硬性鏡本体426との接続部は、方向M1の回転に対してフリーになるように(摩擦が小さくなるように)設計されている。
 事由2:ケーブル接続部品433とケーブル424との接続部においては、モーメントアームがきわめて短い(例えば、高々ケーブル424の半径と同じ5[mm]程度)。
 以上を踏まえると、硬性鏡部425に対してケーブル424から作用する外乱は3軸水平方向の力であるとみなすことが可能である。なお、図8には、構造上の理由で外乱により発生するモーメントが微小と考えられる方向が示されている(方向M1、方向M2、方向M3)。
 上記(14)で示した選択行列を用いた外乱推定の定式化より、以下の(15)が成立する。
Figure JPOXMLDOC01-appb-M000014
 ここで、アームが内視鏡装置を支持する内視鏡アームである場合、アシスト動作時には、外乱推定部251は、以下の(16)によって外乱を推定することができる。
Figure JPOXMLDOC01-appb-M000015
 また、アームが内視鏡装置を支持する内視鏡アームである場合、アシスト動作時には、外乱推定部251は、以下の(17)によって外乱を推定することができる。
Figure JPOXMLDOC01-appb-M000016
 また、アームがカメラ(例えば、顕微鏡部)を支持するカメラアームである場合、アシスト動作時には、外乱推定部251は、以下の(18)によって、ナビゲーション情報を表示するモニタから受ける力と人の操作する力とを推定することが可能である。
Figure JPOXMLDOC01-appb-M000017
 また、アームがカメラ(例えば、顕微鏡部)を支持するカメラアームである場合、遠隔操作時には、以下の(19)によって、ナビゲーション情報を表示するモニタから受ける力を推定することが可能である。
Figure JPOXMLDOC01-appb-M000018
 なお、カメラアームには、外部機器として手術ナビゲーションシステムが接続されることがある。ナビゲーションシステムを導入する場合、ナビゲーション用のモニタ等がアームに設置される(接続される)。これによりアームの自重(を含む身体データ)は設計値から乖離し力制御への弊害が予測される。本アイデアによりモニタから受ける力を外力として推定することでアームの自重の設計値からの変化を補償することが可能となる。なお、手術ナビゲーションシステムも本実施形態に係る医療用支持アームシステムに含まれてよい。
 また、アームがリトラクタまたは鉗子を支持するアームである場合、fopを、リトラクタまたは鉗子などを術者が操作する力として、アシスト動作時には、外乱推定部251は、以下の(20)によって、ナビゲーション情報を表示するモニタから受ける力と人(術者)のリトラクタまたは鉗子を操作する力とを推定することが可能である。
Figure JPOXMLDOC01-appb-M000019
 また、アームがリトラクタまたは鉗子を支持するアームである場合、遠隔操作時には、外乱推定部251は、以下の(21)によって、ナビゲーション情報を表示するモニタから受ける力を推定することが可能である。
Figure JPOXMLDOC01-appb-M000020
 なお、作用点から計測点までの距離(モーメントアーム)が長いことに鑑みて、先端に作用する力が併進力に絞られると考えれば劣推定系にはならない。ここで、劣推定系は、推定しなければならない未知変数の数が計測可能な変数の数を上回っており、未知変数の値を一意に決定(推定)できない系のことを言う。
 以上、具体的な外乱推定について説明した。
<<5.本実施形態に係る外力に応じた関節制御>>
 外乱推定部251によって外力が推定されると、指令値算出部252は、推定された外力に応じて関節部130を制御する。指令値算出部252は、関節制御部として機能し得る。例えば、観測点が硬性鏡先端に置かれた場合、外乱推定部251は、硬性鏡先端に作用する外力を推定し、指令値算出部252は、外力に応じて関節部130を制御する。かかる例について、図10および図11を参照しながら説明する。
 図10および図11は、観測点が硬性鏡先端に置かれた場合における関節制御の例を説明するための図である。図10を参照すると、アーム部120によって硬性鏡425-1が硬性鏡425-2まで移動されている。図10に示された例では、硬性鏡先端に外力F1が作用している。ここで、患者70の組織72に対して硬性鏡先端が干渉してしまった場合を想定すると、図11に示されたように、外乱推定部251によって組織72から硬性鏡先端に作用する外力F2および外力F3が推定される。
 このとき、指令値算出部252は、外力F2または外力F3の向きに応じた向きへアーム部120が移動するように、または、アーム部120が停止するように、関節部130を制御する。これによって、硬性鏡の操作を誤って組織72に硬性鏡先端を接触させて患者に危害を加えてしまった場合であっても、硬性鏡先端に作用する外力を認識し、アーム部120の停止または安全な方向への回避などを行うことで、手術時の安全性を高められる。外力F2または外力F3の向きに応じた向きは、外力F2と同じ向きであってもよいし、外力F3の向きに応じた向きであってもよい。
 一方、例えば、観測点がカメラヘッドに置かれた場合、外乱推定部251は、カメラヘッドに作用する外力を推定し、指令値算出部252は、外力に応じて関節部130を制御する。具体的に、指令値算出部252は、カメラヘッドに外力が作用したと推定された場合、外力の向きに応じた向きへアーム部120が移動するように、関節部130を制御する。外力の向きに応じた向きは、外力と同じ向きであってよい。そうすれば、操作者の意図する方向にアーム部120が移動される。
 マスタースレーブやリモートコントロールの内視鏡の把持装置において術者(医師)は力覚や触覚を受けるのは難しい。したがって、アラートによって硬性鏡で誤って組織にストレスを与えていることを認識し、安全に手術を継続できるようにしてもよい。具体的に、出力制御部264(図12)は、外力が閾値を上回った場合に、アラートが出力装置によって出力されるように制御してもよい。あるいは、出力制御部264(図12)は、外力の大きさ、または、外力の向きが出力装置によって出力されるように制御してもよい。
 ここで、出力装置は、術者によって視覚的に知覚されるように表示を行う表示装置30であってもよいし、報知装置80(図12)であってもよい。報知装置80は、術者によって術者または周囲の医療従事者に聴覚的に知覚されるように音を出力する音出力装置(ブザーなど)であってもよいし、光を出力する光出力装置(ランプなど)の少なくともいずれか一つを含む。また、アラートは、入力部210を介して入力される停止指示によって停止可能であってもよい。
 以上、具体的な外力に応じた関節制御について説明した。
<<6.アーム制御システムの具体的な構成例>>
 続いて、アーム制御システムの具体的な構成例について説明する。図12は、アーム制御システムの具体的な構成例を示す図である。図12に示されるように、アーム制御システムは、アーム部120、制御部230、入力部210、表示装置30および報知装置80を有している。入力部210、表示装置30および報知装置80が有する機能は、既に説明した通りである。また、制御部230は、センサ情報取得部261、アーム状態取得部262、外力推定部263、入出力制御部264、動作決定部265、全身制御部266、関節制御部267および駆動部268を有する。
 センサ情報取得部261は、アーム部120の各関節の状態(エンコーダおよびトルクセンサのセンサ情報)を取得し、関節制御部267およびアーム状態取得部241に出力する。アーム状態取得部262は、図5に示したアーム状態取得部241に相当し得る。外力推定部263は、図5に示した外乱推定部251に相当し得る。入出力制御部264は、入力部210からの入力情報を取得する機能、表示装置30および報知装置による出力情報の出力を制御する機能を有する。動作決定部265は、図5に示した演算条件設定部242に相当し得る。全身制御部266は、図5に示した仮想力算出部243および実在力算出部244に相当し得る。関節制御部267は、図5に示した指令値算出部252に相当し得る。駆動部268は、図5に示した駆動制御部111に相当し得る。
 本実施形態によれば、外乱推定部251によって検出される外力の方向が所定の1または複数の方向に限定される。これによって、センサの数を減らすことが可能となり、低コスト化が図られる。さらに、アーム制御システムが医療分野に適用される場合には、術者(医師)の作業エリアと重なるエリア(アームの先端部よりの清潔領域に近いエリア)においてセンサを省略し、シンプルな構造を実現することができる。
 例えば、本実施形態によれば、アーム部120に設けられるトルクセンサの数を、関節部の数よりも少なくすることが可能である。図12に示された例では、アーム部120に6つの関節部が設けられているが、トルクセンサは、6つの関節部のうち3つの関節部にしか設けられていない(トルクセンサ614a~614c)。
 一方、エンコーダは、6つの関節部すべてに設けられている(エンコーダ613a~613f)。このように、アーム部120は、6自由度の自由度を有するエンコーダを備えてもよいし、6自由度よりも大きい自由度を有するエンコーダを備えてもよい。また、モータも、6つの関節部すべてに設けられている(モータ611a~611f)。
 また、本実施形態に係るアーム部120は、連続する3以上の関節部を少なくとも有しており、かつ、3以上の関節部のうち隣り合う関節部が有するトルクセンサ同士は独立した自由度を有する。隣り合う関節部が有するトルクセンサ同士が独立した自由度を有するとは、隣り合う関節部が有するトルクセンサの回転方向が共に、ロール方向となったり、ピッチ方向となったり、ヨー方向となったりしないことを意味する。3以上の関節部のうち隣り合う関節部が有するトルクセンサ同士が独立した自由度を有するように構成することで、アーム部120に設けられるトルクセンサの数を関節部の数よりも減らすことを可能にしている。
 具体的に、3つの連続する関節部が有するトルクセンサの回転方向が「ピッチ、ロール、ヨー」「ロール、ヨー、ロール」「ピッチ、ロール、ピッチ」などである場合には、隣り合う関節部が有するトルクセンサ同士は独立した自由度を有している。一方、3つの連続する関節部が有するトルクセンサの回転方向が「ピッチ、ピッチ、ヨー」などである場合には、隣り合う関節部が有するトルクセンサ同士は独立した自由度を有していない。図3に示された例では、「421c、421d、421e」「421d、421e、421f」などである場合には、隣り合う関節部が有するトルクセンサ同士は独立した自由度を有している。
 以上、アーム制御システムの具体的な構成例について説明した。
 本実施形態によれば、アーム部の関節部の状態を取得する関節状態取得部と、所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、を備える、医療用支持アームシステムが提供される。
 かかる構成によれば、内視鏡ホルダアームにおいて、カメラおよび光源ケーブルの張力による外乱を補償し、よりロバストな制御が実現できる。また、かかる構成によれば、カメラおよび光源ケーブルの張力による外乱以外に人による操作力や外部との接触を検知して、その接触検知を動作トリガとすることができる
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 アーム部の関節部の状態を取得する関節状態取得部と、
 所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、
 を備える、医療用支持アームシステム。
(2)
 前記アーム部は、該アーム部を構成する関節部の数よりも少ない数のトルクセンサを有する、
 前記(1)に記載の医療用支持アームシステム。
(3)
 前記アーム部は、連続する3以上の関節部を少なくとも有しており、前記3以上の関節部のうち隣り合う関節部が有するトルクセンサ同士は独立した自由度を有する、
 前記(1)または(2)に記載の医療用支持アームシステム。
(4)
 前記アーム部は、6自由度以上の自由度を有するエンコーダを備える、
 前記(1)~(3)のいずれか一項に記載の医療用支持アームシステム。
(5)
 前記アーム部を構成する複数の関節部は、アクチュエータとエンコーダを備える関節部と、アクチュエータ、エンコーダ及びトルクセンサを備える関節部から構成される、
 前記(1)~(4)のいずれか一項に記載の医療用支持アームシステム。
(6)
 前記外力推定部は、あらかじめ定められた観測点に作用する前記外力を推定する、
 前記(1)~(5)のいずれか一項に記載の医療用支持アームシステム。
(7)
 前記観測点は、トロッカ点、カメラヘッドおよび内視鏡先端の少なくともいずれか一つを含む、
 前記(6)に記載の医療用支持アームシステム。
(8)
 前記外力推定部は、前記観測点に作用する前記外力を推定し、
 前記医療用支持アームシステムは、前記外力に応じて前記関節部を制御する関節制御部を備える、
 前記(7)に記載の医療用支持アームシステム。
(9)
 前記観測点は、前記内視鏡先端を含み、
 前記外力推定部は、前記内視鏡先端に作用する前記外力を推定し、
 前記関節制御部は、前記外力に応じて前記関節部を制御する、
 前記(8)に記載の医療用支持アームシステム。
(10)
 前記関節制御部は、前記内視鏡先端に前記外力が作用したと推定された場合、前記外力の向きに応じた向きへ前記アーム部が移動するように、または、前記アーム部が停止するように、前記関節部を制御する、
 前記(9)に記載の医療用支持アームシステム。
(11)
 前記観測点は、前記カメラヘッドを含み、
 前記外力推定部は、前記カメラヘッドに作用する前記外力を推定し、
 前記関節制御部は、前記外力に応じて前記関節部を制御する、
 前記(8)に記載の医療用支持アームシステム。
(12)
 前記関節制御部は、前記カメラヘッドに前記外力が作用したと推定された場合、前記外力の向きに応じた向きへ前記アーム部が移動するように、前記関節部を制御する、
 前記(11)に記載の医療用支持アームシステム。
(13)
 前記医療用支持アームシステムは、前記外力が閾値を上回った場合に、アラートが出力装置によって出力されるように制御する出力制御部を備える、
 前記(1)~(12)のいずれか一項に記載の医療用支持アームシステム。
(14)
 前記医療用支持アームシステムは、前記外力の大きさ、または、前記外力の向きが出力装置によって出力されるように制御する出力制御部を備える、
 前記(1)~(12)のいずれか一項に記載の医療用支持アームシステム。
(15)
 前記出力装置は、表示装置、音出力装置および光出力装置の少なくともいずれか一つを含む、
 前記(13)または(14)に記載の医療用支持アームシステム。
(16)
 前記医療用支持アームシステムは、前記出力装置を有する、
 前記(13)~(15)のいずれか一項に記載の医療用支持アームシステム。
(17)
 前記外乱は、光源およびカメラケーブルの張力による外乱を含む、
 前記(1)~(16)のいずれか一項に記載の医療用支持アームシステム。
(18)
 前記アーム部には、ナビゲーションシステムが有するモニタが接続されており、
 前記外力推定部は、前記モニタから受ける力を前記外力として推定する、
 前記(1)~(17)のいずれか一項に記載の医療用支持アームシステム。
(19)
 前記医療用支持アームシステムは、前記モニタを有する、
 前記(18)に記載の医療用支持アームシステム。
(20)
 前記アーム部は、リトラクタまたは鉗子を支持し、
 前記外力推定部は、前記リトラクタまたは前記鉗子が術者によって操作される力を前記外力として推定する、
 前記(1)~(17)のいずれか一項に記載の医療用支持アームシステム。
(21)
 アーム部の関節部の状態を取得する関節状態取得部と、
 所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、
 を備える、制御装置。
 1  アーム制御システム
 10  アーム装置
 20  制御装置
 30  表示装置
 110  アーム制御部
 111  駆動制御部
 120  アーム部
 130  関節部
 131  関節駆動部
 132  間接状態検出部
 133  回転角度検出部
 134  トルク検出部
 140  撮像部
 210  入力部
 220  記憶部
 230  制御部
 240  全身協調制御部
 241  アーム状態取得部
 242  演算条件設定部
 243  仮想力算出部
 244  実在力算出部
 250  理想関節制御部
 251  外乱推定部
 252  指令値算出部

Claims (21)

  1.  アーム部の関節部の状態を取得する関節状態取得部と、
     所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、
     を備える、医療用支持アームシステム。
  2.  前記アーム部は、該アーム部を構成する関節部の数よりも少ない数のトルクセンサを有する、
     請求項1に記載の医療用支持アームシステム。
  3.  前記アーム部は、連続する3以上の関節部を少なくとも有しており、前記3以上の関節部のうち隣り合う関節部が有するトルクセンサ同士は独立した自由度を有する、
     請求項2に記載の医療用支持アームシステム。
  4.  前記アーム部は、6自由度以上の自由度を有するエンコーダを備える、
     請求項1に記載の医療用支持アームシステム。
  5.  前記アーム部を構成する複数の関節部は、アクチュエータとエンコーダを備える関節部と、アクチュエータ、エンコーダ及びトルクセンサを備える関節部から構成される、
     請求項1に記載の医療用支持アームシステム。
  6.  前記外力推定部は、あらかじめ定められた観測点に作用する前記外力を推定する、
     請求項1に記載の医療用支持アームシステム。
  7.  前記観測点は、トロッカ点、カメラヘッドおよび内視鏡先端の少なくともいずれか一つを含む、
     請求項6に記載の医療用支持アームシステム。
  8.  前記外力推定部は、前記観測点に作用する前記外力を推定し、
     前記医療用支持アームシステムは、前記外力に応じて前記関節部を制御する関節制御部を備える、
     請求項7に記載の医療用支持アームシステム。
  9.  前記観測点は、前記内視鏡先端を含み、
     前記外力推定部は、前記内視鏡先端に作用する前記外力を推定し、
     前記関節制御部は、前記外力に応じて前記関節部を制御する、
     請求項8に記載の医療用支持アームシステム。
  10.  前記関節制御部は、前記内視鏡先端に前記外力が作用したと推定された場合、前記外力の向きに応じた向きへ前記アーム部が移動するように、または、前記アーム部が停止するように、前記関節部を制御する、
     請求項9に記載の医療用支持アームシステム。
  11.  前記観測点は、前記カメラヘッドを含み、
     前記外力推定部は、前記カメラヘッドに作用する前記外力を推定し、
     前記関節制御部は、前記外力に応じて前記関節部を制御する、
     請求項8に記載の医療用支持アームシステム。
  12.  前記関節制御部は、前記カメラヘッドに前記外力が作用したと推定された場合、前記外力の向きに応じた向きへ前記アーム部が移動するように、前記関節部を制御する、
     請求項11に記載の医療用支持アームシステム。
  13.  前記医療用支持アームシステムは、前記外力が閾値を上回った場合に、アラートが出力装置によって出力されるように制御する出力制御部を備える、
     請求項1に記載の医療用支持アームシステム。
  14.  前記医療用支持アームシステムは、前記外力の大きさ、または、前記外力の向きが出力装置によって出力されるように制御する出力制御部を備える、
     請求項1に記載の医療用支持アームシステム。
  15.  前記出力装置は、表示装置、音出力装置および光出力装置の少なくともいずれか一つを含む、
     請求項13に記載の医療用支持アームシステム。
  16.  前記医療用支持アームシステムは、前記出力装置を有する、
     請求項13に記載の医療用支持アームシステム。
  17.  前記外乱は、光源およびカメラケーブルの張力による外乱を含む、
     請求項1に記載の医療用支持アームシステム。
  18.  前記アーム部には、ナビゲーションシステムが有するモニタが接続されており、
     前記外力推定部は、前記モニタから受ける力を前記外力として推定する、
     請求項1に記載の医療用支持アームシステム。
  19.  前記医療用支持アームシステムは、前記モニタを有する、
     請求項18に記載の医療用支持アームシステム。
  20.  前記アーム部は、リトラクタまたは鉗子を支持し、
     前記外力推定部は、前記リトラクタまたは前記鉗子が術者によって操作される力を前記外力として推定する、
     請求項1に記載の医療用支持アームシステム。
  21.  アーム部の関節部の状態を取得する関節状態取得部と、
     所定の外乱による外力が所定の1または複数の方向に限定されるという条件と前記関節部の状態とに基づいて、前記所定の外乱による外力を推定する外力推定部と、
     を備える、制御装置。
PCT/JP2018/005594 2017-02-28 2018-02-16 医療用支持アームシステムおよび制御装置 WO2018159336A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/485,587 US20190365489A1 (en) 2017-02-28 2018-02-16 Medical support arm system and control device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-035959 2017-02-28
JP2017035959 2017-02-28

Publications (1)

Publication Number Publication Date
WO2018159336A1 true WO2018159336A1 (ja) 2018-09-07

Family

ID=63369988

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/005594 WO2018159336A1 (ja) 2017-02-28 2018-02-16 医療用支持アームシステムおよび制御装置

Country Status (2)

Country Link
US (1) US20190365489A1 (ja)
WO (1) WO2018159336A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021075213A1 (ja) * 2019-10-17 2021-04-22 リバーフィールド株式会社 手術ロボットシステム、外力推定装置、および、プログラム
CN113023517A (zh) * 2019-12-09 2021-06-25 株式会社东芝 作业支援装置
CN113838052A (zh) * 2021-11-25 2021-12-24 极限人工智能有限公司 碰撞报警方法、装置、电子设备、存储介质以及影像系统

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018202504A (ja) * 2017-05-31 2018-12-27 ソニー株式会社 医療用支持アームシステム、医療用支持アームの制御方法、および医療用支持アームの制御装置
CN111278344B (zh) * 2017-11-01 2023-09-05 索尼公司 手术臂系统和手术臂控制系统
JP7124440B2 (ja) * 2018-05-23 2022-08-24 セイコーエプソン株式会社 ロボット制御装置およびロボットシステム
JP6841802B2 (ja) * 2018-08-31 2021-03-10 ファナック株式会社 ロボットおよびロボットシステム
US20210236773A1 (en) * 2020-01-24 2021-08-05 Children's Medical Center Corporation Autonomous Robotic Catheter for Minimally Invasive Interventions
US11564770B2 (en) * 2020-09-02 2023-01-31 Nuvasive, Inc. Surgical systems
CN112649130B (zh) * 2020-12-29 2022-03-08 上海海事大学 一种医用穿刺活检针界面交互力学性能一体化测试方法
CN114367990B (zh) * 2022-03-22 2022-06-10 北京航空航天大学 一种基于机理数据混合模型的机械臂触觉外力估计方法
CN115683438B (zh) * 2022-11-02 2024-06-25 重庆大学 L型结构的三维接触力测量方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014069003A1 (ja) * 2012-11-01 2014-05-08 国立大学法人東京工業大学 鉗子マニピュレータ、および鉗子マニピュレータを備える鉗子システム
WO2015137140A1 (ja) * 2014-03-12 2015-09-17 ソニー株式会社 ロボットアームの制御装置、ロボットアームの制御方法及びプログラム
WO2016069660A1 (en) * 2014-10-27 2016-05-06 Intuitive Surgical Operations, Inc. System and method for monitoring control points during reactive motion

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014069003A1 (ja) * 2012-11-01 2014-05-08 国立大学法人東京工業大学 鉗子マニピュレータ、および鉗子マニピュレータを備える鉗子システム
WO2015137140A1 (ja) * 2014-03-12 2015-09-17 ソニー株式会社 ロボットアームの制御装置、ロボットアームの制御方法及びプログラム
WO2016069660A1 (en) * 2014-10-27 2016-05-06 Intuitive Surgical Operations, Inc. System and method for monitoring control points during reactive motion

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021075213A1 (ja) * 2019-10-17 2021-04-22 リバーフィールド株式会社 手術ロボットシステム、外力推定装置、および、プログラム
JP2021065252A (ja) * 2019-10-17 2021-04-30 リバーフィールド株式会社 手術ロボットシステム、外力推定装置、および、プログラム
CN114554998A (zh) * 2019-10-17 2022-05-27 瑞德医疗机器股份有限公司 手术机器人系统、外力推定装置以及程序
CN113023517A (zh) * 2019-12-09 2021-06-25 株式会社东芝 作业支援装置
CN113838052A (zh) * 2021-11-25 2021-12-24 极限人工智能有限公司 碰撞报警方法、装置、电子设备、存储介质以及影像系统

Also Published As

Publication number Publication date
US20190365489A1 (en) 2019-12-05

Similar Documents

Publication Publication Date Title
JP7003985B2 (ja) 医療用支持アームシステムおよび制御装置
WO2018159336A1 (ja) 医療用支持アームシステムおよび制御装置
CN109890310B (zh) 医疗支撑臂装置
EP3590405B1 (en) Medical arm system, control device, and control method
WO2018216382A1 (ja) 医療用システム、医療用支持アームの制御装置、および医療用支持アームの制御方法
US20220168047A1 (en) Medical arm system, control device, and control method
JP7115493B2 (ja) 手術アームシステム及び手術アーム制御システム
WO2017169082A1 (ja) 制御装置及び制御方法
WO2017145475A1 (ja) 医療用情報処理装置、情報処理方法、医療用情報処理システム
US20220218427A1 (en) Medical tool control system, controller, and non-transitory computer readable storage
WO2021049438A1 (ja) 医療用支持アーム、及び医療用システム
JP2021013412A (ja) 医療用観察システム、制御装置及び制御方法
WO2018088105A1 (ja) 医療用支持アーム及び医療用システム
WO2018088113A1 (ja) 関節駆動用アクチュエータ及び医療用システム
US20220322919A1 (en) Medical support arm and medical system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18761754

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18761754

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP