WO2021225155A1 - 画像処理装置、画像処理方法、プログラム、及び画像処理システム - Google Patents

画像処理装置、画像処理方法、プログラム、及び画像処理システム Download PDF

Info

Publication number
WO2021225155A1
WO2021225155A1 PCT/JP2021/017451 JP2021017451W WO2021225155A1 WO 2021225155 A1 WO2021225155 A1 WO 2021225155A1 JP 2021017451 W JP2021017451 W JP 2021017451W WO 2021225155 A1 WO2021225155 A1 WO 2021225155A1
Authority
WO
WIPO (PCT)
Prior art keywords
interest
image
region
image processing
distance
Prior art date
Application number
PCT/JP2021/017451
Other languages
English (en)
French (fr)
Inventor
健一 河野
素久 金子
省吾 福田
ドゥウォン ジョン
智子 澤山
実 松本
Original Assignee
株式会社iMed Technologies
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社iMed Technologies filed Critical 株式会社iMed Technologies
Priority to CN202180033882.XA priority Critical patent/CN115666392A/zh
Priority to JP2022506144A priority patent/JP7054972B2/ja
Priority to EP21798936.7A priority patent/EP4147643A4/en
Priority to CA3178103A priority patent/CA3178103A1/en
Publication of WO2021225155A1 publication Critical patent/WO2021225155A1/ja
Priority to JP2022052796A priority patent/JP2022084882A/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/12Devices for detecting or locating foreign bodies
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/46Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • A61B6/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/46Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • A61B6/464Displaying means of special interest involving a plurality of displays
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/46Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • A61B6/465Displaying means of special interest adapted to display user selection data, e.g. graphical user interface, icons or menus
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/46Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient
    • A61B6/467Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient characterised by special input means
    • A61B6/469Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient characterised by special input means for selecting a region of interest [ROI]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/48Diagnostic techniques
    • A61B6/486Diagnostic techniques involving generating temporal series of image data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/48Diagnostic techniques
    • A61B6/486Diagnostic techniques involving generating temporal series of image data
    • A61B6/487Diagnostic techniques involving generating temporal series of image data involving fluoroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/50Clinical applications
    • A61B6/504Clinical applications involving diagnosis of blood vessels, e.g. by angiography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/54Control of apparatus or devices for radiation diagnosis
    • A61B6/545Control of apparatus or devices for radiation diagnosis involving automatic set-up of acquisition parameters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • A61B2017/00119Electrical control of surgical instruments with audible or visual output alarm; indicating an abnormal situation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2065Tracking using image or pattern recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/374NMR or MRI
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/376Surgical systems with images on a monitor during operation using X-rays, e.g. fluoroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/378Surgical systems with images on a monitor during operation using ultrasound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/44Constructional features of apparatus for radiation diagnosis
    • A61B6/4429Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units
    • A61B6/4435Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units the source unit and the detector unit being coupled by a rigid structure
    • A61B6/4441Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units the source unit and the detector unit being coupled by a rigid structure the rigid structure being a C-arm or U-arm
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/54Control of apparatus or devices for radiation diagnosis
    • A61B6/547Control of apparatus or devices for radiation diagnosis involving tracking of position of the device or parts of the device

Definitions

  • the present invention relates to an image processing apparatus, an image processing method, a program, and an image processing system, and more particularly to an image processing technique for use in examination or treatment of blood vessels.
  • a medical worker such as a doctor passes a catheter through a blood vessel of a subject and performs various treatments while displaying the position of the catheter on an X-ray image.
  • Surgery is being performed.
  • a healthcare professional generally advances a device from the inguinal region or upper arm of a subject through a medical device such as a catheter to a region of interest.
  • Patent Document 1 describes to improve the efficiency of surgical procedures performed using a catheter system. Simulation system is disclosed.
  • vascular examination and treatment medical personnel pass a guiding catheter to the target site and then embolize a guide wire, stent, balloon, microcatheter, liquid embolic substance, filter, aneurysm, etc. in the guiding catheter.
  • multiple testing or therapeutic devices such as delivery wires for embolic coils for embolization. That is, in an actual examination or treatment, the medical staff needs to pay attention to the movement and position of a plurality of devices not only when passing the guiding catheter to the target site but also during the procedure.
  • the healthcare professional must concentrate on the work in the area of interest.
  • the present invention has been made in view of these points, and it is intended to provide a technique for concentrating medical staff on the work in the attention area and supporting the judgment of the attention area in the catheterization or treatment of blood vessels.
  • the purpose is intended to provide a technique for concentrating medical staff on the work in the attention area and supporting the judgment of the attention area in the catheterization or treatment of blood vessels. The purpose.
  • the first aspect of the present invention is an image processing device.
  • This device has an image acquisition unit that acquires an image including at least a device for examination or treatment in a blood vessel in a subject, and one or a plurality of regions including at least a part of the device included in the image as a region of interest.
  • the tracking unit that tracks each of the areas of interest in the image, and the area of interest satisfies the conditions determined for each area of interest, the image processing is performed. It is provided with a notification unit for notifying the user of the device.
  • the notification unit informs the user on the condition that the region of interest disappears from the image. You may notify.
  • the notification unit when a region including the tip of a catheter such as a guiding catheter or the tip of a guide wire is set as the region of interest, the distance between the region of interest and the edge of the image is a predetermined threshold. The user may be notified on condition that the distance is less than the distance.
  • the notification unit may notify the user on the condition that at least one of the movement distance, the movement speed, and the acceleration of the region of interest in the image exceeds a predetermined threshold value.
  • the notification unit may display the distance between the region of interest and the edge of the image on a display device that displays the image.
  • the notification unit may change the display mode of the distance in the display device according to the magnitude of the distance between the region of interest and the edge of the image.
  • the notification unit notifies the user on the condition that the value obtained by dividing the distance between the region of interest and the edge of the image by the moving speed of the region of interest in the image is less than a predetermined threshold value. You may.
  • the image processing device is a marker provided on the delivery wire of the embolic coil, and has a marker detection unit that detects a marker approaching a region of interest set in a part of a guiding catheter that guides the delivery wire. Further, the tracking unit may further track the detected marker, and the notification unit mounts the embolic coil when the marker and the region of interest overlap with each other. The user may be notified when the delivery wire may be disconnected.
  • the notification unit may notify the user when the marker has passed the region of interest.
  • the notification unit may display on the display device the distance that the marker should move before cutting the embolic coil from the delivery wire.
  • the notification unit may notify the user of the image processing device.
  • the feature amount may be a curvature
  • the notification unit indicates that the curvature of the device included in the region of interest exceeds a predetermined threshold curvature, or that the tip does not move even though the curvature has changed.
  • the user may be notified as a condition.
  • the notification unit is conditioned on the condition that the value obtained by subtracting the length of the center line of the blood vessel included in the image or the region of interest from the length of the device included in the image or the region of interest exceeds a predetermined threshold length. May be notified to the user.
  • the notification unit displays the area of interest colored in a color different from that of the image, changes the font, size or color of the characters to be displayed, changes the color of the entire screen or a part of the display device, and displays the display device. It has functions such as displaying a figure on the entire screen, outside the frame, or in a part of the screen, enlarging the area of interest, or notifying the user by changing the color or size of the mark attached to the area of interest. You may.
  • the notification unit may use sound or vibration for notification.
  • the second aspect of the present invention is an image processing method.
  • the processor of the image processing apparatus acquires an image including at least a device for examination or treatment in a blood vessel in a subject, and one or more including at least a part of the device included in the image. If at least one of the step of acquiring the region as the region of interest, the step of tracking each of the regions of interest in the image, and at least one of the regions of interest satisfies the condition determined for each region of interest, this is indicated in the image. The step of notifying the user of the processing device and the execution of.
  • the third aspect of the present invention is a program.
  • the program provides the computer with the ability to acquire an image that includes at least a device for examination or treatment in a blood vessel in the subject, and one or more areas that include at least a portion of the device contained in the X-ray image.
  • the computer determines that.
  • the function to notify the user of is realized.
  • a computer-readable recording medium on which this program is recorded may be provided, or this program may be transmitted over a communication line.
  • the fourth aspect of the present invention is an image processing system.
  • This system includes the above-mentioned image processing device, an imaging device that captures an image of a person (an image of a surgical field) in a state in which a device for examination or treatment in a blood vessel is inserted, and transmits the image to the image processing device. To be equipped.
  • It is a schematic diagram of a typical neural network. It is a figure which shows typically the functional structure of the image processing apparatus which provided the replay function which concerns on embodiment. It is a figure for demonstrating an example of a replay display when a notification occurs. It is a figure for demonstrating an example of displaying a replay reproduction window on a real-time display screen. It is a figure which shows typically the functional structure of the image processing apparatus provided with the state estimation part which concerns on embodiment. It is a figure for demonstrating an example of the display of the estimation result of the state estimation part which concerns on embodiment.
  • FIG. 1 is a diagram schematically showing the appearance of the image processing system S according to the embodiment.
  • the image processing system S includes an image processing device 1, a display device 2, and an X-ray imaging device 3.
  • an outline of the embodiment will be described with reference to FIG.
  • the X-ray image pickup apparatus 3 captures an X-ray image of a subject P who is a person in which a device for examination or treatment of blood vessels (hereinafter, may be simply referred to as “device”) is inserted. This is a device for transmitting the X-ray image to the image processing device 1. Therefore, the X-ray imaging apparatus 3 includes an X-ray irradiator 30 (first X-ray irradiator 30a and a second X-ray irradiator 30b) for irradiating subject P with X-rays, and an X-ray irradiator. It is equipped with an X-ray detector 31 for detecting the X-rays emitted by the 30 and a sleeper 32 for supporting the subject P.
  • an X-ray detector 31 for detecting the X-rays emitted by the 30
  • a sleeper 32 for supporting the subject P.
  • the first X-ray irradiator 30a and the second X-ray irradiator 30b can irradiate the head of subject P with X-rays at different angles of incidence.
  • the X-rays emitted by the first X-ray irradiator 30a are detected by the first X-ray detector 31a and converted into an X-ray image based on the X-ray absorption rate.
  • the X-rays emitted by the second X-ray irradiator 30b are detected by a second X-ray detector (not shown) and converted into an X-ray image.
  • These X-ray images are displayed on the display device 2.
  • the positions of the first and second X-ray irradiators are generally fixed, and the region of the image displayed on the display device 2 is fixed.
  • the images generated from the X-rays detected by the X-ray detector 31 include the blood vessels of subject P (which can be seen by flowing a contrast medium) and tissues such as bones, as well as various types used for blood vessel examination and treatment.
  • Devices for example, catheters such as guiding catheters, guide wires, embolic coils, delivery wires for transporting embolic coils to sites of interest, etc. are imaged.
  • the image processing apparatus 1 is a user who performs a vascular catheter examination or treatment (hereinafter, simply referred to as "catheter surgery", except when distinguishing between the vascular catheter examination and the vascular catheter treatment). It is a device for assisting.
  • the image processing device 1 recognizes and / or tracks one or more preset regions of interest in the X-ray image generated based on the X-rays detected by the X-ray imaging device 3.
  • the image processing device 1 is a user of the image processing device 1 when the state of one of the regions of interest satisfies the condition determined for each region of interest by analyzing the X-ray image. Notify healthcare professionals (hereinafter simply referred to as "users").
  • the user can perform work at the area of interest (for example, guide a microcatheter into the aneurysm). You can concentrate on tasks such as inserting the coil into the aneurysm, expanding the balloon, and placing the stent.
  • FIG. 2 is a diagram schematically showing a functional configuration of the image processing device 1 according to the embodiment.
  • the image processing device 1 includes a storage unit 10 and a control unit 11.
  • the arrows indicate the main data flows, and there may be data flows not shown in FIG.
  • each functional block shows not the configuration of each hardware (device) but the configuration of each function. Therefore, the functional blocks shown in FIG. 2 may be mounted in a single device, or may be mounted separately in a plurality of devices. Data can be exchanged between functional blocks via any means such as a data bus, a network, or a portable storage medium.
  • the storage unit 10 includes a ROM (Read Only Memory) that stores the BIOS (Basic Input Output System) of the computer that realizes the image processing device 1, a RAM (Random Access Memory) that is a work area of the image processing device 1, and an OS ( It is a large-capacity storage device such as an HDD (Hard Disk Drive) or SSD (Solid State Drive) that stores various information referred to when the application program is executed, such as an Operating System) or an application program.
  • BIOS Basic Input Output System
  • RAM Random Access Memory
  • OS It is a large-capacity storage device such as an HDD (Hard Disk Drive) or SSD (Solid State Drive) that stores various information referred to when the application program is executed, such as an Operating System) or an application program.
  • the control unit 11 is a processor such as the CPU (Central Processing Unit) or GPU (Graphics Processing Unit) of the image processing device 1, and the image acquisition unit 110 and the area of interest are acquired by executing the program stored in the storage unit 10. It functions as a unit 111, a tracking unit 112, a notification unit 113, a marker detection unit 114, and a distance measuring unit 115.
  • CPU Central Processing Unit
  • GPU Graphics Processing Unit
  • FIG. 2 shows an example in which the image processing device 1 is composed of a single device.
  • the image processing device 1 may be realized by computing resources such as a plurality of processors and memories, such as a cloud computing system.
  • each unit constituting the control unit 11 is realized by executing a program by at least one of a plurality of different processors.
  • the image acquisition unit 110 acquires an X-ray image created based on the X-ray absorption rate, which includes at least the blood vessel of the subject P and the device for examination or treatment in the blood vessel in the subject.
  • the X-ray image may include an aneurysm formed in the blood vessel of the subject P, which the medical staff pays attention to, or a stenotic part or an infarcted part of the blood vessel.
  • the region of interest acquisition unit 111 acquires one or a plurality of regions including at least a part of the device included in the X-ray image as the region of interest.
  • the region of interest for example, the tip of the guide wire (GW), the tip of the guiding catheter (GC), the marker of the catheter, the coil, etc.
  • the area of interest may include blood vessels (parts of vascular lesions such as cerebral aneurysms and stenosis) and bone.
  • FIG. 3A is a diagram schematically showing an example of an X-ray image of a blood vessel V.
  • a guide wire which is a type of device D, is present in the blood vessel V.
  • FIG. 3 (b) is a diagram showing an example of a candidate region C that is a candidate for a region of interest.
  • the region of interest acquisition unit 111 may include a candidate region detector generated by using a known machine learning method such as a neural network (FIG. 11).
  • FIG. 3 (b) the first candidate region C1 (tip of the guiding catheter) and the second candidate region C2 (tip of the guide wire) are shown as candidate regions of interest.
  • This candidate region C is a result obtained by the interest region acquisition unit 111 inputting a frame image of an X-ray image into the candidate region detector.
  • the candidate region detector is learned to detect the tip of a guide wire, the tip of a guiding catheter, a marker of a catheter, and the like.
  • Detection generally means specifying the position and shape of an object in a one-frame still image in a moving image. For example, in the detection of the tip of the guide wire, since the guide wire is thin, it may be detected as the point coordinates (x, y) on the screen. The detection of the entire guide wire can detect a bent thin thread-like shape as a one-dimensional curve or as a two-dimensional segmentation.
  • the object detection algorithm that can be used in the candidate area detector, for example, algorithms such as FasterR-CNN, YOLO, SSD, U-Net, and ResNet can be used, but the present invention is not limited to these.
  • an image processing library such as OpenCV (OpenSource Computer Vision Library) may be used.
  • Faster R-CNN is a CNN (Convolutional Neural Network) that cuts out and recognizes areas at the same time.
  • a convolutional neural network (CNN) is a neural network with many deep layers composed of layers with several characteristic functions such as "convolutional layer” and “pooling layer”. It demonstrates excellent performance in the field of image recognition.
  • Faster R-CNN can cut out and recognize the area of interest from the input image in almost real time (about 10 to 20 frames per second).
  • Faster R-CNN enables end-to-end learning from image input to object detection.
  • YOLO You Only Look Once
  • YOLO is also a CNN that cuts out and recognizes areas at the same time.
  • the entire image is divided into grids, and the Bounding Box is calculated for each area.
  • YOLO's CNN architecture enables high-speed object detection.
  • SSD Single Shot MultiBox Detector
  • Single Shot MultiBox Detector is also a CNN that cuts out and recognizes areas at the same time.
  • SSDs can output multi-scale detection frames from the output layers of various layers. SSD puts about 9,000 rectangular frames called default boxes with different sizes and shapes on the image, and calculates the predicted value for each frame. SSDs are speeded up by reducing the filter size.
  • U-Net is a CNN that recognizes an object called segmentation for each pixel. It is composed of convolution layers and has an almost symmetrical Encoder-Decoder structure. The feature map downsampled through the pooling of the Encoder is upsampled by the Decoder.
  • FIG. 3 (c) is a diagram showing an example of a method for setting the region of interest R.
  • the user selects the second candidate region C2 as the region of interest R.
  • the user selects the region of interest R by moving the mouse cursor M to the second candidate region C2 using a pointing device (not shown) such as a mouse.
  • the presentation of the candidate region C by the region acquisition unit 111 is optional, and the user may set the region R of interest directly in the X-ray image in the state where the candidate region C is not presented.
  • the region of interest R can be set by drawing a rectangle in the image and designating the region using a pointing device such as a mouse.
  • the region of interest acquisition unit 111 may acquire the output of the candidate region detector generated by using a known machine learning method or the like as the region of interest R.
  • FIG. 3 (d) is a diagram showing the region of interest R set by the user.
  • the region of interest R is indicated by a black pentagon and is a region including the tip portion of the device D.
  • FIG. 3D only one region of interest R is set, but the user can set two or more regions of interest R.
  • the tracking unit 112 tracks each of the one or more regions of interest R in the X-ray image.
  • the tracking unit 112 can realize tracking of the region of interest R by using a known image tracking technique.
  • Known image tracking technologies that can be used include, but are not limited to, algorithms that use algorithms such as Boosting, MIL, TLD, MedianFlow, KCF, GOTURN, MOSSE, and CSRT.
  • the tracking algorithm may be used in combination with the object detection algorithm described above. In implementing the algorithm, for example, a library such as OpenCV (OpenSource Computer Vision Library) may be used.
  • tracking the region of interest R also includes intermittently detecting the region of interest R to identify its state.
  • region of interest R it is not required that the region of interest R be recognized in all frames of the X-ray image acquired over time.
  • tracking of region R of interest may be performed using a tracking algorithm or object detection algorithm, or a combination thereof.
  • the BOOSTING tracker is a tracker based on the online version of AdaBoost (an algorithm used internally by HAAR cascade-based face detectors).
  • AdaBoost an algorithm used internally by HAAR cascade-based face detectors.
  • This classifier is trained at run time using correct and incorrect examples of objects.
  • the first bounding box identified by the user (or another object detection algorithm) is treated as a correct example of the object, and the image outside the bounding box is treated as the background.
  • the classifier Given a new frame, the classifier is applied to all pixels near the previous position and the score is recorded.
  • the new position of the object is the position where the score is maximized. In this way, another correct example of the classifier is obtained. More frames are entered and the classifier is updated with this additional data.
  • the MIL tracker is based on the same concept as the BOOSTING tracker above. The big difference is that we don't just consider the current position of the object as a correct example, but look at a small neighborhood around the current position to generate some potential correct examples.
  • MIL instead of specifying correct and incorrect examples, a "bag" of correct and incorrect answers is specified.
  • the group of images in the correct answer bag are not all examples of correct answers. Only one image of the correct bag needs to be an example of the correct answer.
  • the correct bag contains an image centered on the current position of the object and an image of a small neighborhood around it. Even if the current position of the tracked object is not accurate, if a sample near the current position is in the correct bag, this bag will contain at least one image of the object properly centered. There is a high possibility that it has been.
  • the MIL tracker has high performance, does not drift as much as the BOOSTING tracker, and provides reasonable performance even in the event of partial occlusion.
  • KFC means a kernelized correlation filter.
  • This tracker is based on the concepts advocated by the above two trackers. This tracker takes advantage of the fact that multiple correct samples used in the MIL tracker have large overlapping areas. Such duplicated data provides some excellent mathematical properties, while at the same time making tracking faster and more accurate. It outperforms MIL in both accuracy and speed, and is also good at reporting tracking failures.
  • TLD means tracking / learning / detection.
  • this tracker breaks down long-term tracking tasks into three components: (short-term) tracking, learning, and detection.
  • This tracker tracks objects frame by frame.
  • the detector identifies all previously observed appearances and calibrates the tracker as needed.
  • the error of the detector is estimated by learning, and the update is performed to avoid the occurrence of an error in the future.
  • This output of this tracker tends to be somewhat unstable, for example, if you are tracking a pedestrian and there are other pedestrians in the scene, this tracker will walk differently than the pedestrian you want to track. May be temporarily tracked.
  • the advantage is that it works best even under occlusion over multiple frames.
  • the disadvantage is that there are many false positives.
  • the MEDIANFLOW tracker tracks objects in both forward and reverse directions in time and measures the discrepancy between these two orbitals. By minimizing this Forward / Backward error, it is possible to reliably detect tracking failures and select a reliable trajectory in the video. This tracker works best when the movement is predictable and small, and when there is no obstruction. Unlike other trackers that continue even if the tracking clearly fails, this tracker can recognize that the tracking has failed.
  • GOTURN tracker is an algorithm based on a convolutional neural network (CNN). This tracker is robust to viewpoint changes, lighting changes, and deformations, but may not handle occlusion well.
  • CNN convolutional neural network
  • MOSSE Minimum Output Sum of Squared Error tracker uses adaptive correlation for object tracking.
  • MOSSE trackers are robust to lighting, scale, pose changes, and non-rigid deformation.
  • the tracker can also detect occlusions based on peak-to-sidelobe ratios and resume tracking from where it left off when the object reappears.
  • the MOSSE tracker also works at high frame rates (450 fps and above). The advantage is that it is very easy to implement, as accurate as other complex trackers, and much faster.
  • the CSRT tracker uses a spatial reliability map for tracking.
  • the CSRT tracker operates at a relatively low frame rate (25fps), but provides higher accuracy for object tracking.
  • the notification unit 113 notifies the user when at least one of the areas of interest R satisfies the conditions set for each area of interest. Specifically, for example, when at least one of the regions of interest R satisfies the condition determined for each region of interest, the notification unit 113 displays a message indicating that on the display device 2 or an image (not shown). Notify the user by sounding a notification sound to the speaker of the processing device 1. Alternatively, when the user wears a device including a vibrating member such as a smartphone, the user may be notified by vibrating the vibrating member. The type, amplitude, and frequency of the notification sound may be changed depending on the conditions. Further, the vibration may change the period and amplitude of the vibration depending on the conditions.
  • the notification unit 113 may color the region of interest with a color different from the color of the acquired image (X-ray image) and display the region of interest.
  • angiographic images are monochrome, so the device included in the image is difficult to recognize.
  • coloring the area of interest the device can be easily recognized and more accurate information can be provided to the user. It will be possible to provide.
  • the regions of interest may be colored using different colors.
  • the user In vascular catheter surgery, the user first passes a guiding catheter into the blood vessel of subject P to the vicinity of the area of interest. Subsequently, the user performs observation (diagnosis) and treatment of a site of interest, for example, coil embolization of a cerebral aneurysm, through another device such as a guide wire, a delivery wire, or a balloon catheter in the guiding catheter.
  • a site of interest for example, coil embolization of a cerebral aneurysm
  • another device such as a guide wire, a delivery wire, or a balloon catheter in the guiding catheter.
  • a catheter is one of the devices and is an elongated tube with a lumen. This catheter is passed through a blood vessel and guided into an aneurysm, for example, a coil is inserted through the lumen of the catheter, and the coil is inserted into the aneurysm to prevent rupture.
  • the guiding catheter has a slightly thick diameter of about 2-4 mm and plays a role of connecting from the puncture site to the front of the target site.
  • a smaller device is inserted into this guiding catheter and guided to the target site.
  • the advantage of a guiding catheter is that it is not necessary to check the passage of various devices by carrying them from the puncture site of the groin or arm blood vessel to the proximal of the target site via the guiding catheter. .. Thereby, for example, the treatment can be efficiently performed without moving the fixed screen.
  • Some of the guiding catheters have a balloon at the tip (guided catheter with a balloon), which can stop the flow of blood vessels and stabilize the guiding catheter.
  • the intermediate catheter is placed in the guiding catheter and placed in the more proximal part of the target site where the blood vessel is thin in order to send a thinner device to the target site.
  • Multiple intermediate catheters may be used (gradual thinning).
  • the microcatheter is the thinnest catheter, which is soft and can be inserted into small blood vessels.
  • a coil or stent is placed in this microcatheter and carried to the target site. Embolic material may also be flushed from the microcatheter.
  • a balloon catheter has a balloon near the tip of the microcatheter, which inflates the balloon near the target site.
  • the coil is prevented from coming out of the aneurysm, the stenotic site is dilated, and the blood flow is stopped at the time of perforation of a blood vessel to stop bleeding.
  • balloon usually refers only to the balloon portion of a balloon catheter.
  • a guide wire of an appropriate size is often used inside. In rare cases, it may be guided by the blood flow.
  • the guide wire is an elongated wire.
  • Guide wires are commonly used to guide a soft catheter to a site of interest by selecting a vascular bifurcation. Others include a delivery wire to carry the stent and a device with a balloon attached to the guide wai to stop blood.
  • the term guide wire is defined in a broad sense including them. The reason is that the tips of those guide wires can perforate blood vessels, causing serious complications. Since one of the objects of the present invention is to support the prevention of blood vessel perforation by the tip of such a guide wire, a guide wire including a thin wire which may cause blood vessel perforation at the tip is referred to as a guide wire.
  • the blood vessel of the subject P exists in the body of the subject P, so that the user cannot directly observe the various devices inserted in the blood vessel. Therefore, as described above, the user can use the blood vessel V or device D (eg, guiding catheter, guide wire, coil, catheter, balloon) imaged in the X-ray image generated from the X-ray transmitted through the body of the subject P. , Stent, etc.) while operating device D.
  • the X-ray imaging apparatus 3 used in catheter surgery is a specific region in the body of subject P including a region of interest (for example, an aneurysm, a stenosis, an infarct, etc. in need of treatment).
  • the area acquired as an X-ray image is often fixed, especially in the cerebrovascular area. Therefore, the entire device D is not always captured in the X-ray image that can be observed by the user.
  • the tip of the guide wire or the tip of the guiding catheter is the angle of view of the X-ray image. If it deviates from the X-ray image, it may disappear from the X-ray image and the user may not be able to observe it. In such a case, even if the tip of the device is perforated with a blood vessel, it may not be noticed. Vascular perforation is a serious life-threatening complication. Vascular perforation is more likely to occur at the tip of the device, especially at the tip of the guide wire or catheter. Therefore, in the present invention, particular attention is paid to the tip.
  • the tip of the device may cause perforation of a blood vessel at a location other than the operator's area of interest.
  • endovascular treatment it is necessary to view up to four screens at the same time, and it is impossible for the operator to always pay attention to the tips of the screens.
  • technologies such as AI. Therefore, as an example of the condition set in the region of interest R used in the present invention, there is a condition regarding the distance between the tip of the guiding catheter or the tip of the guide wire and the edge of the X-ray image.
  • the region of interest R may be subject to exceeding a specific range specified on the X-ray image (for example, a boundary line specified by the user with a pointing device such as a mouse), or simply moving. That is, in some aspects of the present invention, not only the edge portion of the image but also the range of any region in the image may be treated as the same as the edge portion.
  • the boundary line may be a straight line, a curved line, a circle, a rectangle, or another polygon.
  • the distance between the region of interest and the edge of a particular range may be displayed. The display mode of the distance may be changed according to the magnitude of the distance between the region of interest and the edge of the specific range.
  • the notification unit determines that the value obtained by dividing the distance between the region of interest and the edge of a specific range by the moving speed of the region of interest in the image is less than a predetermined threshold value. As a condition, the user can be notified.
  • a part of the present invention also includes a function of facilitating the judgment of the operator by making it easier to see a specific range by superimposing a display or the like. The method of displaying the range may use not only the superimposed display but also an arrow or the like, but is not limited thereto.
  • the distance can be determined either by a straight line distance or by a distance along a blood vessel.
  • the position of the device for examination or treatment (also called the device of interest) in the blood vessel, not the area of interest, is automatically specified or by the user (operator / assistant). All or part of the detected device may be superimposed and displayed on the subsequent real-time image.
  • the user (operator / assistant) can recognize the movement (deviation) of the device from a specific time point by displaying a real-time image and superimposing it (Fig. 21).
  • the shape of the device may be detected automatically by image analysis, or by the operator marking with a mouse, touch panel, or the like.
  • Specific examples of the device for superimposing and displaying include, but are not limited to, the tip of a guide wire, a marker, a stent, a guiding catheter, and the like.
  • the position and shape of the guide wire tip (black part) at the time of the left figure in FIG. 21 are memorized.
  • the tip of the guide wire is recognized, and as shown in the central figure of FIG. 21, the X obtained thereafter in real time.
  • the tip of the guide wire stored on the line image is superimposed and displayed.
  • how much the tip of the guide wire has subsequently moved is visualized and can be easily grasped.
  • the image processing apparatus includes and stores a storage unit that acquires and stores the position and / or shape of the device for examination or treatment in a blood vessel at an arbitrary time point. It has a function of superimposing the position and / or shape of the device on the acquired image.
  • the device In tumor embolization, cerebral arteriovenous malformation embolization, dural arteriovenous fistula embolization, etc., embolization is performed using an embolizing substance such as liquid or particles. Notifications can be issued because it may cause cerebral infarction in various areas.
  • the device also includes a liquid embolic material, a particle embolic material, and the like. In addition to the above examples, in endovascular surgery, care is taken to keep any device, embolic substance, etc. within the designated area, and this can be assisted.
  • FIGS. 4 (a)-(b) are diagrams for explaining an example of the conditions set in the region of interest R.
  • the region of interest R is set at the tip of the device D.
  • the information W indicating the velocity and acceleration of the region of interest R and the distance (number of pixels) between the region of interest R and the edge F of the X-ray image is added to the X-ray image. It is displayed superimposed.
  • FIG. 4A shows an example when the device D is a guide wire.
  • a specific region designated in the X-ray image may be equated with the edge F of the X-ray image.
  • the notification unit 113 notifies the user on the condition that the region of interest R disappears from the X-ray image when the region including the tip of the guide wire is set as the region of interest R.
  • the x-ray image is an image showing a fixed region that includes a site of interest. Normally, the area displayed as an X-ray image is fixed during the procedure. Further, the notification unit 113 determines that the distance between the region of interest R and the edge F of the X-ray image is less than a predetermined threshold distance when the region including the tip of the guide wire is set as the region of interest R. Notify the user as a condition.
  • the "predetermined threshold distance” is a "pop-out determination reference distance" provided for the notification unit 113 to determine whether or not the tip of the device is likely to deviate from the angle of view of the X-ray image. ..
  • the specific value of the predetermined threshold distance may be determined experimentally in consideration of the frequency of notification by the notification unit 113, usability, etc. For example, the number of pixels in the vertical direction or the number of pixels in the horizontal direction of the X-ray image. It is 5% of the number of pixels of either one.
  • the magnitude of the movement of the device D in the blood vessel V can be a useful index for the user to predict the time until the tip of the device D reaches the edge F of the X-ray image.
  • the greater the velocity or acceleration of the tip of D the shorter the time it takes for the tip of D to reach the edge F of the X-ray image. Therefore, when the region including the tip of the guiding catheter or the tip of the guide wire is set as the region of interest R, the notification unit 113 is at least one of the moving speed and the acceleration of the region of interest R in the X-ray image.
  • the user may be notified on condition that one of them exceeds a predetermined threshold value.
  • the moving speed or acceleration of the region of interest R is larger than the threshold value, the user's attention can be drawn before the region of interest R approaches the edge F of the X-ray image.
  • the notification unit 113 may display the distance between the region of interest R and the edge portion F of the X-ray image on the display device 2 for displaying the X-ray image.
  • the distance between the region of interest R and the edge F of the X-ray image is such that the region of interest R is the edge of the X-ray image along the blood vessel V into which the device D in which the region of interest R is set is inserted. It may be the distance when moving to the part F.
  • the distance measuring unit 115 extracts the blood vessel V using a blood vessel recognition engine generated by using a known machine learning method or the like in advance, and travels along the blood vessel V from the region of interest R to the edge F. This can be achieved by measuring the distance.
  • the ranging unit 115 may measure the above-mentioned distance based on the locus of the device D that has traveled through the blood vessel V.
  • the tracking unit 112 tracks the tip of the guiding catheter and stores the trajectory in the storage unit 10.
  • the distance measuring unit 115 may set the length of the locus included in the region of interest R among the loci stored in the storage unit 10 as the above-described length.
  • the notification unit 113 causes the display device 2 to display the distance between the tip of the device D and the edge F of the X-ray image, so that the user reaches the edge F of the X-ray image after the device D moves. At first glance, it can be grasped objectively. Further, the notification unit 113 may change the display mode of the distance according to the magnitude of the distance between the region of interest R and the edge F. For example, the font size is increased as the distance is shorter, the color is changed according to the distance (blue ⁇ yellow ⁇ red), the area of interest is enlarged according to the size of the distance, and the area of interest is enlarged according to the size of the distance. For example, change the color or size of the mark attached to. By devising the display mode described above, it is possible to make it easier for the user to notice the change in the distance.
  • the region of interest R set at the tip of the device D is closer to the edge F than in the example shown in FIG. 4 (a). Therefore, the font of the information W indicating the velocity and acceleration of the region of interest R and the distance (number of pixels) between the region of interest R and the edge F of the X-ray image is compared with the example shown in FIG. 4 (a). Is getting bigger.
  • the "distance between the region of interest R and the edge F of the X-ray image” may be the shortest distance between the region R of interest and the edge F of the X-ray image, or X-rays along the moving direction of the region R of interest. It may be the length measured up to the edge F of the image. In this case, since the blood vessel extraction process by the ranging unit 115 can be omitted, it is advantageous in that the process can be speeded up.
  • the notification unit 113 divides the distance between the region of interest R and the edge F of the X-ray image by the moving speed of the region of interest R in the X-ray image, provided that the value is less than a predetermined threshold value. The user may be notified.
  • the value obtained by dividing the distance between the region of interest R and the edge F of the X-ray image by the moving speed of the region of interest R in the X-ray image is, so to speak, until the region of interest R reaches the edge F of the X-ray image. It can be said that it is the expected time of.
  • the value of the "predetermined threshold value” is the "jump-out determination grace time" provided for the notification unit 113 to determine whether or not the region of interest R is likely to deviate from the angle of view of the X-ray image. ".
  • the specific value of the grace time may be determined experimentally in consideration of the frequency of notification by the notification unit 113, usability, etc., and is, for example, 3 seconds.
  • FIG. 5 is a diagram showing an example of the message Ms notified by the notification unit 113.
  • the notification unit 113 superimposes and displays a message indicating that the region of interest R goes out of the X-ray image and disappears after 3 seconds (so-called frame-out). ing.
  • the notification unit 113 changes the shape of the region of interest R (changes to a circle in FIG. 5). , The size of the region of interest R may be increased, or the color of the region of interest R may be changed. As a result, the notification unit 113 can easily recognize to the operator that the region of interest R is likely to be out of frame.
  • FIG. 6 is a diagram for explaining another example of the condition set in the region of interest R.
  • FIG. 6 shows an example when device D is a guiding catheter.
  • the guiding catheter differs in that not only the tip thereof but also the entire device D can disappear from the X-ray image.
  • the device D is a guiding catheter or a guide wire in that the tip portion disappears from the X-ray image. Therefore, in the case of the guiding catheter as well, the region of interest R is set at the tip portion as in the case of the guide wire.
  • the threshold value was determined based on the distance between the region of interest R and the edge F of the X-ray image as the "predetermined threshold distance" mainly from the viewpoint of preventing the flameout of the surgical instrument. Focusing on the moving distance of the area R itself, the user may be notified when the moving distance of the area R of interest exceeds a predetermined threshold value. For example, when trying to deploy a stent with the tip of the catheter inside the aneurysm, care must be taken not to let the tip of the catheter come out of the aneurysm. Since the person is looking at the stent, he cannot follow the movement of the tip of the catheter with his eyes.
  • the tip of the catheter is removed from the aneurysm by notifying the user when the movement distance of the region of interest set at the tip of the catheter exceeds a predetermined movement distance.
  • the user can immediately notice the anomaly when it is about to appear.
  • the threshold value of the moving distance may be set with reference to the arrival position after the region of interest (for example, the tip of the catheter) reaches a predetermined position (for example, in the aneurysm).
  • embolization As a catheter treatment for a cerebral aneurysm, embolization is known in which an embolic coil is filled in the cerebral aneurysm.
  • This treatment involves passing a guiding catheter to the vicinity of the cerebral aneurysm, which is the site of interest, passing the delivery wire of the embolic coil through the guiding catheter, and separating and filling the embolic coil into the cerebral aneurysm. It is an operation aimed at blocking the inflow of blood into an aneurysm.
  • FIGS. 7 (a)-(b) are diagrams schematically showing an example of an X-ray image in which a guiding catheter for guiding the delivery wire of the embolic coil is captured, and the conditions set in the region of interest R are shown. It is a figure for demonstrating another example of.
  • FIGS. 7 (a) and 7 (b) exemplify X-ray images taken by irradiating the head of subject P with X-rays at different angles of incidence. The user performs embolization while looking at the two images shown in FIGS. 7 (a) and 7 (b).
  • the aneurysm is indicated by the symbol A.
  • the user embolizes the aneurysm by placing a plurality of embolic coils E in the aneurysm A.
  • the aneurysm A can be observed in the X-ray image shown in FIG. 7 (b)
  • the user pays attention to the X-ray image of one of the two X-ray images.
  • the delivery wire for transporting the embolic coil E to the aneurysm A is connected to the embolic coil E at its tip, and the user transports the embolic coil E to the aneurysm A and then delivers the embolic coil E to the aneurysm A. Work to disconnect from.
  • FIGS. 7 (a)-(b) when the embolic coil E reaches the aneurysm A, the embolic coil being transported by another embolic coil E already placed in the aneurysm A. The position of E is unknown in the X-ray image. Therefore, the delivery wire of the embolic coil E is provided with a marker L in advance for measuring the timing of disconnecting the embolic coil E. The user sets the timing to disconnect the embolic coil E by using the marker L provided on the delivery wire as a mark instead of the embolic coil E itself in the X-ray image.
  • the user of the image processing device 1 first sets the region of interest R in a part of the guiding catheter that guides the delivery wire of the embolic coil E. Specifically, the user sets the region of interest R at a position where the marker L and the region of interest R overlap at the timing of disconnecting the embolic coil E from the delivery wire.
  • the region of interest acquisition unit 111 receives the region of interest R set in a part of the guiding catheter that guides the delivery wire.
  • the region of interest R can be specified using, for example, a pointing device such as a mouse, a touch panel, or the like.
  • the region of interest R is indicated by a white star.
  • the marker detection unit 114 detects the marker L that approaches the region of interest R among the markers L provided on the delivery wire of the embolic coil E for embolizing the aneurysm. Further, the tracking unit 112 tracks the marker L detected by the marker detection unit 114.
  • the notification unit 113 notifies the user of the timing of cutting and disconnecting the embolic coil E from the delivery wire based on the positional relationship between the marker L and the region of interest R, triggered by the overlap of the marker L and the region of interest R. do.
  • FIGS. 8 (a)-(d) are diagrams for explaining the timing of disconnection of the embolic coil E.
  • the device D shown by the broken line in FIGS. 8 (a)-(d) is a delivery wire.
  • the delivery wire is marked with a marker L at a certain section on the wire.
  • FIGS. 8 (a)-(d) show a general example of the marker L.
  • the alternate long and short dash line "-" or a long straight line may be used.
  • the marker L When the user moves the delivery wire, the marker L also moves in conjunction with the movement of the delivery wire in the X-ray image.
  • the guiding catheter for guiding the delivery wire may move a little due to friction or the like according to the movement of the delivery wire, but the amount of movement is small as compared with the movement of the delivery wire. Therefore, the user sets the region of interest R in advance at the position of the guiding catheter corresponding to the position where the marker L should be when the embolic coil E reaches the aneurysm A.
  • the marker L exists over a certain section on the wire.
  • the tip of the marker L comes into contact with the region of interest R, as shown in FIG. 8 (b). This indicates that the embolic coil E has approached the aneurysm A.
  • the notification unit 113 starts an operation of notifying the user of the timing of cutting and disconnecting the embolic coil E from the delivery wire, triggered by the overlap of the marker L and the region of interest R.
  • the notification unit 113 takes the opportunity of the marker L and the region of interest R to overlap until the embolic coil E is cut from the delivery wire. Displays information W2 indicating the distance that the marker L should move on the display device 2.
  • the user is interested in the region of interest so that when the embolic coil E reaches the aneurysm A, the end of the marker L passes through the region of interest R.
  • Set R the information W2 displayed on the display device 2 by the notification unit 113 displays the distance until the terminal portion of the marker L passes through the region of interest R.
  • the notification unit 113 When the marker L passes through the region of interest R, the notification unit 113 further notifies the user of that fact. This allows the user to notice when the embolic coil E is cut from the delivery wire, even when the aneurysm A is concentrated in the image being captured, as shown in FIG. 7 (b). Can be done.
  • the notification unit 113 When the feature amount indicating the shape of the device D included in the region of interest R satisfies a predetermined condition, the notification unit 113 notifies the user of the image processing device 1 of that fact. Specifically, the notification unit 113 notifies based on the curvature of the device D included in the region of interest R or the feature amount indicating the "deflection" of the device D included in the region of interest.
  • the tip of the device D When the user tries to advance the device D while the tip of the device D is caught on the blood vessel wall or the like, the tip of the device D is bent. Generally, when the tip of device D is bent, elastic energy is stored in that portion. The amount of this elastic energy accumulated increases as the tip of the device D bends, that is, as the curvature of the device D increases (the radius of curvature decreases). When the amount of accumulated elastic energy increases, the elastic force of the device D releases the tip portion from being caught, and the tip portion may move at high speed. As a result, the tip of device D may suddenly disappear from the X-ray image.
  • the notification unit 113 notifies the user on the condition that the curvature of the device D included in the region of interest exceeds a predetermined threshold curvature, or the tip does not move even though the curvature has changed. It may be added that the tip of the device D is immovable or the moving distance is lower than a certain threshold value.
  • the "predetermined threshold curvature” is a "notification determination reference curvature” provided for the notification unit 113 to determine whether or not the tip portion of the device D is likely to move at high speed.
  • the specific value of the predetermined threshold curvature may be determined experimentally in consideration of the frequency of notification by the notification unit 113, usability, the material and size of the device D, the elastic modulus, and the like.
  • FIGS. 9 (a)-(c) are diagrams for explaining the conditions regarding the shape of the device D set in the region of interest R. Specifically, FIGS. 9 (a)-(b) are diagrams for explaining the notification based on the curvature of the device D.
  • the region of interest R is indicated by a dashed circle.
  • the region of interest R in FIG. 9 (a) is a circle with a radius of 1 cm centered on the tip of device D.
  • FIG. 9B is a histogram showing the distribution of the curvature of the device D included in the region of interest R.
  • FIG. 9 (b) divides the device D included in the region of interest R into a plurality of subregions, obtains the radius of curvature of the device D in each subregion, and shows the distribution of the radius of curvature. ..
  • the notification unit 113 has a feature amount calculated from the distribution of the curvature (for example, a statistic such as an average value, a mode value, or a median value of the curvature) having a predetermined threshold curvature. Notify the user, provided that the tip does not move even though the curvature has changed. As a result, the image processing device 1 can provide an opportunity for the user to notice that the elastic force is accumulated in the device D.
  • a feature amount calculated from the distribution of the curvature for example, a statistic such as an average value, a mode value, or a median value of the curvature
  • FIG. 9C is a schematic diagram showing the relationship between the length of the device D included in the region of interest R and the length of the center line of the blood vessel V included in the region of interest R.
  • the device D and the blood vessel are bent in the body of the subject P, but for convenience of explanation, the device D and the blood vessel V are displayed as a straight line in FIG. 9 (c). Further, in FIG. 9 (c), the center line of the blood vessel V is indicated by a alternate long and short dash line.
  • the ranging unit 115 extracts the blood vessel V in the region of interest R using the blood vessel recognition engine, traces the center line thereof, and obtains the length D1. Similarly, the ranging unit 115 extracts the device D using a device recognition engine generated by using a known machine learning method or the like, and obtains the length D2 thereof.
  • the length D2 of the device D in the blood vessel V is longer than the length D1 of the blood vessel V (the length of the center line of the blood vessel V), and the device D is flexed in the blood vessel V. It means that elastic energy is stored in device D. When the amount of this deflection increases, the elastic energy is released by some trigger, and the device D may move significantly. As a result, the tip of device D may disappear from the X-ray image.
  • the difference length B which is the length obtained by subtracting the length D1 from the length D2 calculated by the distance measuring unit 115, can be an index indicating the amount of deflection of the device D in the blood vessel V. Therefore, the notification unit 113 displays the length B obtained by subtracting the length D1 from the length D2 calculated by the distance measuring unit 115, and notifies the user when the length becomes longer than the predetermined threshold length. As a result, the image processing device 1 can provide an opportunity for the user to notice that the elastic force is accumulated in the device D.
  • the aneurysm embolization catheter is equipped with a tip marker (1st marker) and a 2nd marker (usually located 3 cm from the tip). It is important for the surgeon to know where the tip of the catheter is in the aneurysm for safe surgery, but when the coil enters the aneurysm, the position of the tip marker becomes difficult to understand. It is less secure (see Figure 17). For example, when the tip marker moves to the back of the aneurysm, it perforates the aneurysm with its tip or a coil coming out of the tip, leading to a serious complication of subarachnoid hemorrhage.
  • the catheter or coil will deviate out of the aneurysm and must be reinserted into the aneurysm, which risks perforating the aneurysm wall.
  • FIG. 17 the figure on the left side shows a state in which a microcatheter is inserted into an aneurysm.
  • the size of the aneurysm can be, for example, 10 mm.
  • the distance between the 1st marker and the 2nd marker attached to the microcatheter is constant (usually 30 mm). For example, suppose that the positions of the 1st marker and the 2nd marker are recorded in this state (memory position).
  • the central figure in FIG. 17 shows a state in which the position of the microcatheter has been moved. When the coil enters the aneurysm, the position of the 1st marker becomes invisible or difficult to see.
  • the position of the 1st marker is estimated from the difference between the position of the 2nd marker at this time and the position of the 2nd marker previously memorized.
  • the 1st marker is predicted to be approximately 0 mm from the aneurysm neck (predicted position A).
  • the figure on the right also shows the state in which the position of the microcatheter has moved.
  • the position of the 1st marker is estimated based on the moving distance of the 2nd marker. In this case, it is estimated to be 8 mm from the neck of the aneurysm.
  • a part of the present invention relates to a method of estimating the tip position from the movement of the 2nd marker when the position is unknown because the tip of the catheter is in the coil (aneurysm). More specifically, the step of memorizing the positional relationship between the tip of the catheter and the 2nd marker (for example, 3 cm away), the distance a between the aneurysm neckline and the 1st marker, and the position of the 2nd marker at that time t1. The step of memorizing, the step of calculating the moving distance b from the position of the 2nd marker at the time point t2, the step of estimating the distance ab from the aneurysm neckline at the tip of the catheter, and the step of notifying the user of the estimated distance.
  • the present invention relates to a method for estimating the position of the catheter tip, including.
  • the tip of the catheter, the 2nd marker, and the neckline of the aneurysm can be automatically detected by image recognition by a computer. Alternatively, it may be manually specified by a pointing device such as a mouse or a touch panel.
  • the estimated distances ab may be displayed on the display device. Further, the position of the catheter tip estimated based on the estimated distance ab may be displayed on the display device. You may set an arbitrary threshold value and notify when it deviates from it, or you may obtain not only the distance but also the speed / acceleration and notify by that value (there is a high possibility of danger when moving rapidly or greatly). ).
  • This moving distance is a straight line distance or a distance along the curve of the catheter.
  • the length of the curved line may be used.
  • the distances a, b, and ab can also be probability distributions due to changes in the shape of the catheter. For example, if the timing of first memorizing is multiple times, the distance a can be distributed, so the location may be estimated using the mean or variance, and that may be predicted as the most probable point. , It may be displayed as a probability distribution on a heat map or the like. Therefore, the estimated distance may be represented by a probability distribution, and the estimated position of the catheter tip may be colored like a heat map and displayed based on the probability distribution.
  • the operator may specify the position of the 2nd marker or recognize it with a computer, and point it in a semi-transparent superimposition display or an arrow in the display device. From this fixed display, the surgeon / assistant visually recognizes whether the tip marker has advanced or pulled back by recognizing how much the current 2nd marker has shifted.
  • a part of the present invention relates to a program for executing the above method on a computer.
  • some aspects of the present invention relate to an image processing apparatus that executes the above method and a method of operating the same.
  • Such an image processing device includes, for example, a positional relationship storage unit that stores the positional relationship (for example, 3 cm away) between the tip of the catheter and the 2nd marker, the distance a between the neckline of the aneurysm and the 1st marker, and the distance a.
  • a position storage unit that stores the position of the 2nd marker at time point t1
  • a distance estimation unit that calculates the moving distance b from the position of the 2nd marker at time point t2 and estimates the distance ab from the aneurysm neckline at the tip of the catheter.
  • an X-ray image of a patient (or subject P) in a state where the above-mentioned image processing device and a guiding catheter and a delivery wire of an embolic coil are inserted into a blood vessel is imaged. It also relates to a cerebral aneurysm coil embolization assisting system including an image imaging device to be transmitted to the image processing device.
  • FIG. 22 is a flowchart for explaining the flow of the catheter tip position estimation process using the 2nd marker executed by the image processing apparatus according to the embodiment.
  • the processing in this flowchart is started, for example, when the image processing device 1 is started, or when the user or the image processing device 1 determines that the processing needs to be started.
  • the line of the aneurysm neck is determined automatically or by the user's (operator's) specification (S104). Then, the distance A between the aneurysm neck line and the 1st marker is calculated (S106). At this time, the straight line or curved distance A between the line of the aneurysm neck and the 1st marker (usually in the aneurysm) can be measured.
  • the 2nd marker is continuously tracked and the movement distance b is measured (S108).
  • This moving distance may have directionality (plus / minus).
  • the distance from the aneurysm neck of the 1st marker is estimated (S110).
  • the distance of the 1st marker from the aneurysm neck is estimated to be A-b.
  • the estimated position of the 1st marker is displayed (S112).
  • the tip of the guide wire it is desirable to obtain detailed information on the operation of the tip portion. For example, rapid and large movements increase the risk of perforation of blood vessels.
  • the position and elapsed time at the time of going out of the image In the case of a coil detector, it is desirable to be able to obtain information about deviations from the optimum point.
  • the image processing apparatus has a function (ie, a replay function) that allows the operator to look back when needed by storing video and recognition information and providing information as needed.
  • FIG. 12 shows an image processing device further provided with a video recording unit (which can be integrated with 10) for storing the image obtained from the image acquisition unit 110 and a video extraction unit for extracting a part of the video before and after the notification occurrence time. The configuration is shown.
  • FIG. 13 shows an example in which the replay image when the notification is generated is cut out and enlarged around the area of interest.
  • FIG. 14 shows an example in which the (enlarged) replay playback window is displayed on the real-time display screen. In this example, the replay is enlarged and displayed in the part that is out of the area of interest as much as possible, and it is possible to determine what happened in the part where the warning was issued within the limited range of one screen. be able to.
  • the image processing apparatus further includes a video storage unit that stores images (including moving images) obtained from the image acquisition unit over time (continuously). Further, in a part of the present invention, the image processing device further includes a video extraction unit that extracts images for a certain period before and after the notification unit issues a notification from the video storage unit. The video extraction period and playback speed may be automatically determined based on at least one of the moving distance, moving speed, and acceleration of the region of interest when the notification occurs. At the time of extraction, the information obtained by the region of interest acquisition unit, the tracking unit, the notification unit, the marker detection unit, and / or the distance measuring unit can also be used.
  • the image processing device can display the extracted video on the display device.
  • the extracted video may be automatically and repeatedly displayed a predetermined number of times. Further, the extracted video may be displayed based on any operation including playback, stop, fast forward, rewind, frame advance, slow playback, and double speed playback. As a result, the user can easily check the video.
  • the display device is used to compare the elapsed time from the time when the notification is generated and the position of the region of interest after the time when the notification is generated and after an arbitrary time (comparative display is, for example, the difference between the corresponding area and the detection position). , Including alignment of the image itself), or the locus of the region of interest acquired by the tracking unit may be further displayed superimposed on the extracted image.
  • the image processing apparatus can cut out a part of the region in the vicinity of the region of interest from the extracted video and display it.
  • the extracted video can be displayed at a position that does not interfere with the display of the region of interest.
  • the extracted video may be enlarged and displayed.
  • the image processing device can display the extracted video at the same time as the notification is generated or after a predetermined time has elapsed from the generation of the notification. Further, in some aspects of the present invention, the image processing apparatus can simultaneously display images taken from a plurality of directions.
  • the above replay display may be used at a time other than when the notification is generated. That is, the video extraction unit may extract not only the video for a certain period before and after the notification unit issues the notification but also the video for an arbitrary time or period from the video storage unit. For example, when the user (operator) feels it is necessary, by designating an arbitrary area of interest, the scene before that can be viewed in the replay display. This allows the user to grasp and compare what happened in the area of interest while watching the display in real time.
  • a part of the present invention relates to a program for executing the above method on a computer.
  • some aspects of the present invention relate to an image processing apparatus that executes the above method and a method of operating the same.
  • FIG. 23 is a flowchart for explaining the processing flow of the replay function executed by the image processing apparatus according to the embodiment. The process in this flowchart starts, for example, when the image processing device 1 is started.
  • the image acquisition unit 110, the region of interest acquisition unit 111, and the tracking unit 112 function to detect and track the device D for examination or treatment in the blood vessel V by video analysis (S202).
  • the notification condition (movement distance exceeds the threshold value, etc.) is satisfied (S204), and if the condition is satisfied, a notification is issued and the notification condition is displayed on a part of the display screen.
  • the replay videos before and after the satisfying are displayed (S206).
  • the real-time image may be displayed as usual, and the replay video may be displayed several times so as not to overlap the notification condition area, or repeatedly displayed until the user (operator / assistant) desires (the operator / assistant). S208). When the repetition is finished, close the screen of the replay video. After the end, the process in this flowchart may be restarted.
  • some aspects of the present invention relate to a device that estimates and displays the position, velocity, and acceleration states of a framed out region of interest.
  • the estimation of the position of the region of interest outside the frame is performed, for example, by using an image processing device, an image acquisition unit that acquires an image including at least an intravascular examination or treatment device in the subject, and the image. At least one of the region of interest acquisition unit that acquires one or a plurality of regions including at least a part of the device included as the region of interest, the tracking unit that tracks each of the regions of interest in the image, and the region of interest.
  • a notification unit for notifying the user of the image processing apparatus, and an region including the tip of the catheter or the tip of the guide wire is set as the region of interest.
  • the position of the notification unit that notifies the user on condition that the region of interest disappears from the image and the position of the tip of the catheter or the tip of the guide wire immediately before the region of interest disappears from the image. It can be performed by an image processing apparatus including a state estimation unit that estimates the current position and / or speed of the tip of the catheter or the tip of the guide wire that disappeared from the image based on the speed and / or acceleration (FIG. 15).
  • the current position and / or velocity of the region of interest estimated by the state estimator may be displayed on the display device.
  • the state estimation unit stores the outputs from the interest region acquisition unit, the marker detection unit, and the tracking unit in chronological order before the frame-out.
  • the stored output can be used to calculate states such as position, velocity, acceleration, etc. of the region of interest.
  • the estimation method at that time includes, but is not limited to, a learning-based method by deep learning (CNN, RNN, WaveNet, etc.) and a method by Bayesian estimation (Kalman filter, extended Kalman filter, ensemble Kalman filter, particle filter, etc.).
  • some aspects of the present invention also relate to a device that calculates a degree of risk from an estimated state and issues a notification to the user according to the degree of risk.
  • the position, speed, and risk of the region of interest estimated by the state estimator can be displayed on the display device.
  • the display method may be, but is not limited to, a point, an arrow, a heat map display, or the like. For example, if the estimated position of the region of interest is more than a predetermined distance from the edge of the image, it can be judged that the risk is high (Fig. 16). For example, in FIG. 16, the position of the estimated region of interest is indicated by a circle, and it is judged that the risk is higher as the position is estimated farther from the edge of the screen.
  • the degree of risk may be indicated by the color of a circle (for example, green has a low degree of risk and red has a high degree of risk).
  • an alert can be displayed on the screen of the display device.
  • voice notification may be given.
  • a part of the present invention is an image processing device, which is an image acquisition unit that acquires an image including at least a device for examination or treatment in a blood vessel in a subject, and the device included in the image.
  • An interest region acquisition unit that acquires one or a plurality of regions including at least a part as an interest region, a tracking unit that tracks each of the interest regions in the image, and at least one of the interest regions is for each interest region.
  • the notification unit notifies the user of the image processing apparatus, and when the region including the tip of the catheter or the tip of the guide wire is set as the region of interest,
  • the position, speed and / or position, speed and / or of a notification unit that notifies the user on condition that the region of interest disappears from the image and the tip of the catheter or the tip of the guide wire just before the region of interest disappears from the image.
  • a state estimation unit that estimates the current position and / or velocity of the tip of the catheter or the tip of the guide wire that disappeared from the image based on the acceleration is provided, and the current position and / or velocity of the region of interest estimated by the state estimation unit is provided. It also relates to an image processing device that warns the user when the value exceeds a predetermined threshold.
  • a part of the present invention relates to a program for executing the above method on a computer.
  • some aspects of the present invention relate to an image processing apparatus that executes the above method and a method of operating the same.
  • FIG. 24 is a flowchart for explaining the flow of the estimation process of the position of the region of interest outside the frame executed by the image processing apparatus according to the embodiment. The process in this flowchart starts, for example, when the image processing device 1 is started.
  • the image acquisition unit 110, the region of interest acquisition unit 111, and the tracking unit 112 function to detect and track the device D for examination or treatment in the blood vessel V by video analysis (S302).
  • the position of the device outside the frame is estimated from the front side of the black part of the guide wire, the filter, the balloon, etc. that are visible in the screen connected to the device D. Distance differences, machine learning, etc. can be used for estimation.
  • the estimated position of the device D outside the frame is displayed on the display screen as the actual estimated position or the distance from the frame.
  • the display and notification may be strengthened as it goes out of the frame.
  • the results of image analysis can be displayed on two screens of different sizes.
  • endovascular surgery is generally performed while looking at multiple screens (eg, 4 screens), and the surgeon has at least 2 screens (generally the front (AP or F direction:): Three-dimensional information is grasped by looking at Anterior-Posterior, Frontal) and the side surface (RL direction or LAT direction: Right to Left, Lateral). Therefore, it is important to display the front and side images, and it is very important to display them on a physically limited size monitor in an easy-to-see manner.
  • AP or F direction Three-dimensional information is grasped by looking at Anterior-Posterior, Frontal
  • RL direction or LAT direction Right to Left, Lateral
  • the monitor In actual surgery, the monitor is often placed more than 1 m away from the patient's bed, and is often instructed to bring the monitor closer to the surgeon, even 1 cm.
  • the angle between the front and the side moves three-dimensionally. For example, using a tube in the front, the angle is 15 degrees to the right and 10 degrees to the head side, and it is always viewed from an angle. As a result, even when 3D is projected in 2D, it is viewed at an angle so that it can be clearly seen in 2D.
  • Live and Mask on the front and Live and Mask on the side Live is a normal fluoroscopic image, similar to a typical X-ray, and you see it in real time. Mask takes the difference (subtraction) from any past Live image selected by the surgeon. As a result, the bones that were visible in Live disappear, and for example, only the blood vessels and devices that are visible in the contrast medium can be seen, and an image that is easy for the operator to understand can be obtained.
  • the two screens of different sizes can be switched automatically or by the user's (operator's) selection (see Fig. 18). Since there is a physical limit to the screen size and you may want to see one of them larger, you can improve visibility by displaying the two screens in different sizes as shown in Figure 18. Can be done.
  • the screen to be notified can be recognized by the user by shining the frame part of the screen, changing the color, or highlighting it (see Fig. 19). As shown in FIG. 19, by notifying with a color frame or the like, it becomes easy for the user to understand which screen should be focused on. If a notification is issued on the smaller screen side, the two screens may be automatically swapped (this will switch the area of interest to a larger, easier-to-read screen).
  • the display device has a function of alerting the user by illuminating, changing the color, or highlighting the frame portion of one of the two screens. You may be.
  • the region of interest in the screen is output as a probability distribution, so that the existence of the region of interest can be expressed by probability.
  • the probability distribution of the existing area may be displayed by a numerical value, a color, a bar, or the like.
  • which part of the screen is responsible may be displayed by a heat map or the like as a probability distribution.
  • the probability distribution may be converted and displayed for easy understanding.
  • 0 to 30% may be displayed as low, 30 to 70% may be displayed as middle, and 70 to 100% may be displayed as high, or may be displayed in three colors.
  • the area less than 70% may be slightly darkened so that the area of interest or area to be notified looks bright like a spotlight.
  • the notification unit may be a numerical value, a color, a bar or a heat map, or a probability distribution according to the probability that at least one of the regions of interest satisfies the condition determined for each region of interest.
  • Numerical values, colors, bars or heatmaps based on arbitrary converted values can be displayed on the display device that displays the image.
  • the notification unit uses a color or heat map according to the probability that at least one of the regions of interest satisfies the conditions determined for each region of interest, or a color or heat map based on a value obtained by arbitrarily converting the probability distribution.
  • the region of interest may be colored and displayed on a display device that displays an image, or the probability of satisfying the condition may be replaced with a numerical value or color and displayed on a display device that displays an image.
  • Device selection display / recording There are various devices used in endovascular treatment, and there are many types in each. Examples of devices include various catheters, catheters with balloons, guide wires, stents, flow diverta stents (fine mesh stents), coils, embolic materials (substances such as liquids and particles), and other embolic devices (such as WEB). There is. In addition, there are various types in each device. For example, in catheters, there are standards such as tip shape, length, lumen, outer lumen, and hardness. For coils, there are standards such as manufacturer, thickness, overall length, diameter, and hardness, and there are hundreds of types.
  • the coil lineup (length, diameter, hardness, shape, etc.) is selected according to the size of the aneurysm and the behavior of the coil inserted in front.
  • the lineup candidates can include preferences according to the facility and the surgeon (user). It may be proposed according to the aneurysm and the winding method of the coil by image analysis. The surgeon selects the desired device from such a list to perform surgery. Surgical records can be automatically created by recording this information and combining it with snapshots of treatment videos.
  • the display device that displays the image can display a product list of devices for intravascular examination or treatment (eg, various catheters and coils) (see FIG. 20).
  • the display device may display a product list narrowed down by size or inventory.
  • the display device may display a list of recommended products based on image analysis results, facility information, or user preference information.
  • the image processing apparatus may automatically or at the user's discretion create a surgical record containing information about the device used, information about the acquired image, and image analysis results. can.
  • a part of the present invention is an endovascular surgery support system, which is a storage unit that stores a product list of devices for intravascular examination or treatment (for example, various catheters and coils), and image analysis.
  • a system that includes a recommendation section that recommends a product to be used based on facility information or user preference information, and a display section that displays the recommended product.
  • Some aspects of the invention relate to vascular catheter surgery support systems such as brain, heart, limb peripherals, and abdominal blood vessels, especially cerebrovascular catheter surgery support systems.
  • a system includes an image processing device and an image imaging device that captures an X-ray image of a patient with one or more devices inserted in a blood vessel and transmits the X-ray image to the image processing device.
  • An image acquisition unit in which the device acquires an X-ray image of a region (for example, a fixed region) including at least a region of interest for achieving the purpose of surgery and a device inserted into a blood vessel over time.
  • At least one of the region of interest acquisition unit that acquires one or a plurality of regions including at least a part of the device included in the image as the region of interest, the tracking unit that tracks each of the regions of interest in the image, and the region of interest. If one of the conditions is satisfied for each region of interest, the image processing apparatus is provided with a notification unit for notifying the user of the condition, and the one or more devices include a catheter, a guide wire, a stent and / or.
  • the one or more devices include a catheter, a guide wire, a stent and / or.
  • the region of interest disappears from the image, or the region of interest is said. It may be a system that notifies the user on the condition that the distance between the region and the edge of the image is less than a predetermined threshold distance or the region of interest is deviated by a certain distance.
  • the notification unit may display the distance between the region of interest and the edge of the image or the distance between the marker and the region of interest on a display device that displays the image, and the notification unit may display the distance according to the magnitude of the distance. Therefore, the display mode of the distance in the display device can be changed, and the change in the display mode is to change the font, size, or color of the characters to be displayed according to the size of the distance, and to change the display mode according to the size of the distance.
  • the notification unit may sound a notification sound according to the magnitude of the distance.
  • the distance may be determined either by a straight line distance or by a distance along a blood vessel.
  • an aneurysm coil embolization assist system particularly a cerebral aneurysm coil embolization assist system.
  • a system includes an image processing device and an image imaging device that captures an X-ray image of a patient with a guiding catheter and a delivery wire of an embolic coil inserted in a blood vessel and transmits the X-ray image to the image processing device.
  • An acquisition unit an area of interest acquisition unit that acquires one or more regions including at least a part of the guiding catheter included in the image as an area of interest, and a marker provided on the delivery wire, wherein the delivery A marker detection unit that detects markers approaching one or more regions of interest set on a part of the catheter that guides a wire, a tracking unit that tracks each of the region of interest and the markers in the image, and the markers.
  • the system may include a notification unit that notifies the user of the timing at which the embolic coil may be cut from the delivery wire when the area of interest overlaps with the area of interest.
  • the notification unit may display the distance between the region of interest and the edge of the image or the distance between the marker and the region of interest on a display device that displays the image, and the notification unit may display the distance according to the magnitude of the distance. Therefore, the display mode of the distance in the display device can be changed, and the change in the display mode is to change the font, size, or color of the characters to be displayed according to the size of the distance, and to change the display mode according to the size of the distance.
  • the notification unit may sound a notification sound according to the magnitude of the distance.
  • the distance may be determined either by a straight line distance or by a distance along a blood vessel.
  • FIG. 10 is a flowchart for explaining the flow of the image analysis process executed by the image processing apparatus 1 according to the embodiment. The process in this flowchart starts, for example, when the image processing device 1 is started.
  • the image acquisition unit 110 acquires an X-ray image created based on the X-ray absorption rate, which includes at least the blood vessel V and the device D for examination or treatment in the blood vessel V in the subject (S2).
  • the region of interest acquisition unit 111 acquires one or a plurality of regions including at least a part of the device D included in the X-ray image as the region of interest R (S4).
  • the tracking unit 112 tracks each region of interest R in the X-ray image (S6).
  • the notification unit 113 notifies the user of the image processing device 1 (S10).
  • the notification unit 113 skips the notification processing.
  • step S12 the image processing device 1 returns to the processing in step S6 and repeats the processing from step S6 to step S10.
  • the processing in this flowchart ends.
  • blood vessels are imaged by contrast to diagnose lesions, but they must be overlooked, taken before the same day, or compared with photographs taken on another day. , It may take time or it may be difficult to compare. Moreover, since it is projected in two dimensions, it may be difficult to judge. Therefore, in some aspects of the present invention, in angiography with a contrast medium, deep learning or the like is used to perform cerebral aneurysm, stenosis, occlusion, thrombosis, vascular perforation (outflow of contrast medium), shunt disease, tumor blood vessel.
  • the image processing apparatus may include aneurysms, stenosis, vasospasm, dissection, occlusion, recanalization, thrombosis, thrombosis site and position, vascular perforation, and imaging in the image.
  • Parts can be further included. Instead of pointing out, you may notify when abnormal findings are suspected, or point out in the area which area may be abnormal. In that case, the doctor can finally make a decision.
  • some aspects of the present invention relate to an diagnostic imaging apparatus that points out changes in angiography when angiography is performed, in comparison with previous imaging or with imaging performed on another day. .. Therefore, in some aspects of the present invention, the image processing apparatus may further include an image recognition unit that notifies the change by comparing the angiographic image in the image with the previously acquired and stored angiographic image. can.
  • the examination or treatment of cerebrovascular disease has been mainly described.
  • the application target of the present invention is not limited to cerebrovascular, and can be applied to examination and treatment of blood vessels including the circulatory region such as the heart, limb peripherals, and abdomen.
  • the imaging device that captures the image of the surgical site of subject P is not limited to the X-ray imaging device 3.
  • an image of the surgical site may be taken using a modality such as MRI (Magnetic Resonance Imaging) or an ultrasonic imaging device.
  • An image acquisition unit that acquires an image that includes at least a device for examination or treatment in a blood vessel in the subject, and an image acquisition unit.
  • An area of interest acquisition unit that acquires one or a plurality of areas including at least a part of the device included in the image as an area of interest.
  • a tracking unit that tracks each of the regions of interest in the image, When at least one of the areas of interest satisfies the condition determined for each area of interest, a notification unit for notifying the user of the image processing apparatus of the condition, and a notification unit.
  • An image processing device comprising.
  • the image processing apparatus according to any one of Appendix 1 to 3.
  • the notification unit causes a display device for displaying the image to display the distance between the region of interest and the edge of the image.
  • the image processing apparatus according to any one of Appendix 1 to 4.
  • the notification unit changes the display mode of the distance in the display device according to the magnitude of the distance between the region of interest and the edge of the image.
  • the image processing apparatus according to Appendix 5.
  • the notification unit notifies the user on the condition that the value obtained by dividing the distance between the region of interest and the edge of the image by the moving speed of the region of interest in the image is less than a predetermined threshold value. do, The image processing apparatus according to any one of Appendix 1 to 6.
  • a marker detection unit which is a marker provided on the delivery wire of the embolic coil and detects a marker approaching a region of interest set in a part of the microcatheter for guiding the delivery wire.
  • the tracking unit further tracks the detected marker and
  • the notification unit notifies the user of the timing at which the embolic coil may be cut from the delivery wire, triggered by the overlap of the marker and the region of interest.
  • the image processing apparatus according to any one of Appendix 1 to 7. (Appendix 9) When the marker passes through the region of interest, the notification unit notifies the user of that fact.
  • the notification unit causes the display device to display the distance that the marker should move before cutting the embolic coil from the delivery wire.
  • the notification unit When the feature amount indicating the shape of the device included in the region of interest satisfies a predetermined condition, the notification unit notifies the user of the image processing device of that fact.
  • the feature quantity is curvature
  • the notification unit notifies the user on the condition that the curvature of the device included in the region of interest exceeds a predetermined threshold curvature or the tip does not move even though the curvature has changed.
  • the notification unit is conditioned on the condition that the value obtained by subtracting the length of the center line of the blood vessel included in the image or the region of interest from the length of the device included in the image or the region of interest exceeds a predetermined threshold length. Notify the user as The image processing apparatus according to Appendix 11 or 12.
  • the notification unit displays the area of interest colored in a color different from that of the image, changes the font, size or color of the characters to be displayed, changes the color of the entire screen or a part of the display device, and displays the display device.
  • Appendix 17 The image processing apparatus according to Appendix 16, further comprising a video extraction unit that extracts a video for a certain period before and after the notification unit issues a notification or a video for an arbitrary time or period specified by the user from the video storage unit.
  • Appendix 18 The image processing apparatus according to Appendix 17, wherein the image extraction period is automatically determined based on at least one of the moving distance, moving speed, and acceleration of the region of interest when the notification occurs. ..
  • Appendix 19 The image processing device according to Appendix 17 or 18, wherein the extracted video is displayed on a display device.
  • Appendix 20 The image processing apparatus according to Appendix 19, wherein the extracted video is automatically and repeatedly displayed a predetermined number of times.
  • Appendix 21 The image processing apparatus according to Appendix 20, wherein the extracted video is displayed based on an arbitrary operation including play, stop, fast forward, rewind, frame advance, slow play, and double speed play.
  • Appendix 22 The elapsed time from the time when the notification was generated, the comparison of the position of the region of interest after the time when the notification was generated and after the lapse of an arbitrary time, or the trajectory of the region of interest acquired by the tracking unit is superimposed on the extracted image.
  • Appendix 23 The image processing apparatus according to any one of Items 17 to 22, wherein the extracted image is displayed by cutting out a part of the area in the vicinity of the area of interest.
  • Appendix 24 The image processing apparatus according to any one of Appendix 17 to 23, wherein the extracted video is displayed at a position that does not interfere with the display of the region of interest.
  • Appendix 25 The image processing apparatus according to any one of Appendix 17 to 24, wherein the extracted image is enlarged and displayed.
  • Appendix 26 The image processing apparatus according to any one of Appendix 17 to 25, wherein the extracted video is displayed at the same time as the notification is generated or after a predetermined time has elapsed from the notification generation.
  • Appendix 27 The image processing apparatus according to any one of Appendix 17 to 26, wherein images taken from a plurality of directions are displayed at the same time.
  • (Appendix 28) The current position of the catheter tip or guide wire tip that disappeared from the image, based on the position, velocity and / or acceleration of the catheter tip or guide wire tip just before the region of interest disappeared from the image.
  • (Appendix 29) The image processing apparatus according to Appendix 28, wherein a warning is notified to the user when the current position and / or speed of the region of interest estimated by the state estimator exceeds a predetermined threshold value.
  • (Appendix 30) The image processing device according to any one of Supplementary note 1 to 29, wherein the display device for displaying the image displays two images on two screens having different sizes.
  • Appendix 31 The image processing device according to Appendix 30, wherein the display device draws the user's attention by illuminating, changing the color, or highlighting the frame portion of one of the two screens.
  • Appendix 32 The image processing device according to any one of Supplementary note 1 to 31, wherein the display device for displaying the image displays a product list of devices for examination or treatment in blood vessels.
  • Appendix 33 The image processing device according to Appendix 32, wherein the display device displays a list of products narrowed down by size or inventory.
  • Appendix 34 The image processing device according to Appendix 32 or 33, wherein the display device displays a list of recommended products based on the image analysis result, facility information, or user's favorite information.
  • the image processing apparatus according to any one of Supplementary note 1 to 34, which automatically or based on the user's choice, creates a surgical record including information on the device used, information on the acquired image, and image analysis results. .. (Appendix 36)
  • the notification unit sets a numerical value, a color, a bar or a heat map, or a value obtained by subjecting an arbitrary conversion to a probability distribution according to the probability that at least one of the regions of interest satisfies the conditions determined for each region of interest.
  • the image processing device according to any one of Supplementary note 1 to 35, which displays a numerical value, a color, a bar, or a heat map based on the image on a display device for displaying the image.
  • the notification unit uses a color or heat map according to the probability that at least one of the interest regions satisfies the condition determined for each interest region, or a color or heat map based on a value obtained by arbitrarily converting the probability distribution.
  • the area of interest is colored and displayed on a display device that displays the image, or the probability of satisfying the condition is replaced with a numerical value or a color and displayed on the display device that displays the image, any one of Appendix 1 to 35.
  • the image processing apparatus according to the section.
  • the notification unit identifies that the region of interest has moved or that the region of interest is designated on the image.
  • the image processing apparatus according to any one of Supplementary note 1 to 37, which notifies the user on the condition that the range of the above is exceeded.
  • Appendix 39 The image processing apparatus according to Appendix 38, wherein the boundary line of the specific range is represented by a straight line, a curved line, a circle, a rectangle, or another polygon.
  • Appendix 40 The image processing apparatus according to Appendix 38 or 39, wherein the specific range is superimposed and displayed on an X-ray image.
  • the image processing device according to any one of Supplementary note 38 to 40, wherein the notification unit displays the distance between the region of interest and the edge portion of the specific range on a display device for displaying the image.
  • Appendix 45 It includes a storage unit that acquires and stores the position and / or shape of the device for examination or treatment in the blood vessel at an arbitrary time point, and the position and / or shape of the stored device is superimposed and displayed on the image after acquisition.
  • the image processing apparatus according to any one of Supplementary note 1 to 44.
  • the processor of the image processing device The step of acquiring an image containing at least a device for examination or treatment in a blood vessel in the subject, and A step of acquiring one or more regions including at least a part of the device included in the image as regions of interest. A step of tracking each of the regions of interest in the image, When at least one of the regions of interest satisfies the condition determined for each region of interest, a step of notifying the user of the image processing apparatus of that condition, and a step of notifying the user of the image processing apparatus.
  • Appendix 50 The image processing apparatus according to any one of Appendix 1 to 44, and An imaging device that captures an image of a person with an intravascular examination or treatment device inserted and transmits it to the image processing device.
  • the image processing device An image acquisition unit that acquires an X-ray image of a fixed region including at least a device inserted into a blood vessel and an image acquisition unit over time to achieve the purpose of surgery.
  • An area of interest acquisition unit that acquires one or a plurality of areas including at least a part of the device included in the image as an area of interest.
  • a tracking unit that tracks each of the regions of interest in the image, When at least one of the areas of interest satisfies the condition determined for each area of interest, the image processing apparatus is provided with a notification unit for notifying the user of the condition.
  • the one or more devices are catheters, guide wires, stents and / or balloons. When a region including the tip of the catheter or the tip of the guide wire, both ends of the stent, and both ends of the balloon is set as the region of interest, the region of interest disappears from the image, or the region of interest and the image Notify the user, provided that the distance to the edge of the is less than a predetermined threshold distance. system.
  • the image processing device An image acquisition unit that acquires an X-ray image of a fixed region including at least an aneurysm formed in a patient's blood vessel, a catheter inserted into the blood vessel, and a delivery wire of an embolic coil over time.
  • An area of interest acquisition unit that acquires one or more areas including at least a part of the guiding catheter included in the image as an area of interest.
  • a marker detection unit for detecting a marker provided on the delivery wire and approaching one or a plurality of regions of interest set in a part of the catheter for guiding the delivery wire.
  • a tracking unit that tracks each of the region of interest and the marker in the image,
  • a system including a notification unit that notifies a user of a timing at which the embolic coil may be cut from the delivery wire when the marker and the region of interest overlap.
  • the notification unit causes a display device for displaying the image to display the distance between the region of interest and the edge of the image or the distance between the marker and the region of interest.
  • the notification unit can change the display mode of the distance in the display device according to the magnitude of the distance, and the change in the display mode is a character to be displayed according to the magnitude of the distance.
  • Change the font, size, or color of the display device change the color of the entire screen or a part of the display device according to the size of the distance, and place the figure on the entire screen of the display device or outside the frame or in a part of the place.
  • the system according to Appendix 51 or 52 which comprises displaying, enlarging the region of interest according to the magnitude of the distance, or changing the color or size of a mark attached to the region of interest according to the magnitude of the distance. ..
  • (Appendix 54) The system according to any one of Supplementary note 51 to 53, wherein the notification unit can sound a notification sound or transmit vibration according to the magnitude of the distance.
  • (Appendix 55) The system according to any one of Appendix 51-54, wherein said distance is determined by either a linear distance or a distance along a blood vessel.
  • the image processing device A positional relationship storage unit that stores the positional relationship between the tip of the catheter and the 2nd marker, A position storage unit that stores the distance a between the neckline of the aneurysm and the 1st marker and the position of the 2nd marker at the time point t1. It is equipped with a distance estimation unit that calculates the movement distance b from the position of the 2nd marker at time point t2 and estimates the distance ab from the aneurysm neckline at the tip of the catheter, and a notification unit that notifies the user of the estimated distance. ,system.
  • Appendix 57 The system according to Appendix 546, wherein the estimated distance is represented by a probability distribution.
  • Appendix 58 The system according to Appendix 56 or 57, wherein the estimated catheter tip position is displayed in color based on a probability distribution.
  • Image processing device 10 ⁇ ⁇ ⁇ Memory 11 ⁇ ⁇ ⁇ Control unit 110 ⁇ ⁇ ⁇ Image acquisition section 111 ⁇ ⁇ ⁇ Area of interest acquisition department 112 ⁇ ⁇ ⁇ Tracking department 113 ⁇ ⁇ ⁇ Notification section 114 ⁇ ⁇ ⁇ Marker detector 115 ⁇ ⁇ ⁇ Distance measuring section 2 ⁇ ⁇ ⁇ Display device 3 ⁇ ⁇ ⁇ X-ray imaging device 30 ⁇ ⁇ ⁇ X-ray irradiator 31 ⁇ ⁇ ⁇ X-ray detector 32 ⁇ ⁇ ⁇ Sleeper D ... device E ⁇ ⁇ ⁇ Coil for embolization P ⁇ ⁇ ⁇ Subject S ⁇ ⁇ ⁇ Image processing system

Abstract

本開示は、血管のカテーテル検査又は治療において、医療従事者が注目部における作業に集中させ、注目部の判断をサポートするための技術に関する。より具体的には、画像処理装置1において、画像取得部110は、血管と、血管内の検査用又は治療用のデバイスとを少なくとも被写体に含む、X線の吸収率に基づいて作成されたX線画像を取得する。関心領域取得部111は、X線画像に含まれるデバイスの少なくとも一部を含む1又は複数の領域を関心領域として受け付ける。追跡部112は、X線画像において関心領域それぞれを追跡する。通知部113は、関心領域の少なくともいずれか一つが関心領域毎に定められた条件を満たす場合、そのことを画像処理装置1のユーザに通知する。また、本開示には手術中の動作を記録したり、使用する器具の一覧を表示したりすることも含まれる。

Description

画像処理装置、画像処理方法、プログラム、及び画像処理システム
 本発明は画像処理装置、画像処理方法、プログラム、及び画像処理システムに関し、特に、血管の検査又は治療に用いるための画像処理技術に関する。
 近年、脳や心臓などの全身の血管の検査及び治療のために、医師等の医療従事者が被験者の血管にカテーテルを通し、X線画像でカテーテルの位置を表示しながら種々の処置を行うカテーテル手術が行われるようになってきている。このカテーテル手術において、一般に医療従事者は、被験者の鼠径部や上腕部などからカテーテルなどの医療機器デバイスを通し、注目部までデバイスを前進させる。
 例えば脳血管の検査や治療の際には、医療従事者は、被験者の鼠径部や上腕動脈などから大動脈弓、頸動脈を通り、脳動脈に至るまでカテーテルを前進させる。医療従事者がこれらの処置を適切に行うためには多くの経験とトレーニングが必要とされるため、例えば特許文献1には、カテーテルシステムを用いて実施される外科的処置の効率を改善するためのシミュレーションシステムが開示されている。
国際公開第2017/139894号
 血管の検査や治療では、医療従事者は目的部位までガイディングカテーテルを通した後、ガイディングカテーテル内にガイドワイヤや、ステント、バルーン、マイクロカテーテル、液体塞栓物質、フィルター、動脈瘤などを塞栓するための塞栓用コイルのデリバリーワイヤ等、複数の検査用又は治療用のデバイスを通す。すなわち、実際の検査や治療においては、医療従事者は目的部位までガイディングカテーテルを通すときのみならず、処置中にも複数のデバイスの動きや位置に気を配る必要がある。一方で、検査又は治療の本来の目的を達成するためには、医療従事者は、注目部における作業に集中しなければならない。
 本発明はこれらの点に鑑みてなされたものであり、血管のカテーテル検査又は治療において、医療従事者を注目部における作業に集中させ、注目部の判断をサポートするための技術を提供することを目的とする。
 本発明の第1の態様は、画像処理装置である。この装置は、血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する画像取得部と、前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、前記画像において前記関心領域それぞれを追跡する追跡部と、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部と、を備える。
 前記通知部は、前記関心領域としてガイディングカテーテルなどのカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が前記画像から消失することを条件として前記ユーザに通知してもよい。
 前記通知部は、前記関心領域としてガイディングカテーテルなどのカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域と前記画像の縁部との距離が所定の閾距離未満となることを条件として前記ユーザに通知してもよい。
 前記通知部は、前記画像内における前記関心領域の移動距離、移動速度、及び加速度の少なくともいずれか1つがあらかじめ定められた閾値を超えることを条件として前記ユーザに通知してもよい。
 前記通知部は、前記関心領域と前記画像の縁部との距離を、前記画像を表示する表示装置に表示させてもよい。
 前記通知部は、前記関心領域と前記画像の縁部との距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させてもよい。
 前記通知部は、前記関心領域と前記画像の縁部との距離を前記画像内における前記関心領域の移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、前記ユーザに通知してもよい。
 前記画像処理装置は、塞栓用コイルのデリバリーワイヤに設けられたマーカであって、前記デリバリーワイヤを誘導するガイディングカテーテルの一部に設定された関心領域に接近するマーカを検出するマーカ検出部をさらに備えてもよく、前記追跡部は、検出された前記マーカをさらに追跡してもよく、前記通知部は、前記マーカと前記関心領域とが重畳することを契機として、前記塞栓用コイルを前記デリバリーワイヤから切断してもよいタイミングを前記ユーザに通知してもよい。
 前記通知部は、前記マーカが前記関心領域を通過した場合、そのことを前記ユーザに通知してもよい。
 前記通知部は、前記塞栓用コイルを前記デリバリーワイヤから切断するまでに前記マーカが移動すべき距離を表示装置に表示させてもよい。
 前記通知部は、前記関心領域に含まれる前記デバイスの形状を示す特徴量が所定の条件を満たす場合、そのことを前記画像処理装置のユーザに通知してもよい。
 前記特徴量は曲率であってもよく、前記通知部は、前記関心領域に含まれる前記デバイスの曲率が所定の閾曲率を超えること、もしくは曲率が変化しているのに先端が動かないことを条件として前記ユーザに通知してもよい。
 前記通知部は、前記画像または関心領域に含まれる前記デバイスの長さから前記画像または関心領域に含まれる前記血管の中心線の長さを減じた値が所定の閾長さを超えることを条件として前記ユーザに通知してもよい。
 前記通知部は、前記関心領域を前記画像と異なる色に着色して表示させる、表示する文字のフォント、サイズもしくは色を変える、表示装置の画面全体もしくは一部の場所の色を変える、表示装置の画面全体もしくは枠外もしくは一部の場所に図形を表示する、関心領域を拡大表示する、または関心領域に付するマークの色もしくはサイズを変えることによりユーザに通知を行う、などの機能を備えていてもよい。
 前記通知部は、通知に音または振動を用いてもよい。
 本発明の第2の態様は、画像処理方法である。この方法において、画像処理装置のプロセッサが、血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得するステップと、前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得するステップと、前記画像において前記関心領域それぞれを追跡するステップと、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知するステップと、を実行する。
 本発明の第3の態様は、プログラムである。このプログラムは、コンピュータに、血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する機能と、前記X線画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する機能と、前記X線画像において前記関心領域それぞれを追跡する機能と、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記コンピュータのユーザに通知する機能と、を実現させる。
 このプログラムを提供するため、あるいはプログラムの一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。
 本発明の第4の態様は、画像処理システムである。このシステムは、上述の画像処理装置と、血管内の検査用又は治療用のデバイスを挿入した状態の人物の画像(術野の画像)を撮像して前記画像処理装置に送信する撮像装置と、を備える。
 なお、本明細書に開示の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。
 本発明によれば、血管のカテーテル検査又は治療において、医療従事者を注目部における作業に集中させ、注目部以外における見落としや判断の遅れをサポートするための技術を提供することができる。
実施の形態に係る画像処理システムの外観を模式的に示す図である。 実施の形態に係る画像処理装置の機能構成を模式的に示す図である。 関心領域を説明するための図である。 関心領域に設定される条件の一例を説明するための図である。 通知部が通知するメッセージの一例を示す図である。 関心領域に設定される条件の別の例を説明するための図である。 関心領域に設定される条件の別の例を説明するための図である。 塞栓用コイルの切り離しのタイミングを説明するための図である。 関心領域に設定されるデバイスの形状に関する条件を説明するための図である。 実施の形態に係る画像処理装置が実行する画像解析処理の流れを説明するためのフローチャートである。 典型的なニューラルネットワークの模式図である。 実施の形態に係るリプレイ機能を備えた画像処理装置の機能構成を模式的に示す図である。 通知が発生した際のリプレイ表示の一例を説明するための図である。 リアルタイム表示画面上にリプレイ再生ウインドウを表示する例を説明するための図である。 実施の形態に係る状態推定部を備えた画像処理装置の機能構成を模式的に示す図である。 実施の形態に係る状態推定部の推定結果の表示の一例を説明するための図である。 実施の形態に係る2ndマーカを利用したカテーテル先端位置の推定の一例を説明するための図である。 画像解析の結果をサイズの異なる2つの画面で表示する実施形態について説明するための図である。 画面の枠を強調表示することにより通知すべき画面を認識させる実施形態について説明するための図である。 実施の形態に係る血管内の検査用又は治療用のデバイス(例えば、各種カテーテルやコイル)の製品一覧の表示について説明するための図である。 実施の形態に係るデバイスの位置・形状の記憶処理について説明するための図である。 実施の形態に係る画像処理装置が実行する2ndマーカを利用したカテーテル先端位置の推定処理の流れを説明するためのフローチャートである。 実施の形態に係る画像処理装置が実行するリプレイ機能の処理の流れを説明するためのフローチャートである。 実施の形態に係る画像処理装置が実行するフレーム外の関心領域の位置の推定処理の流れを説明するためのフローチャートである。
<実施の形態の概要>
 図1は、実施の形態に係る画像処理システムSの外観を模式的に示す図である。画像処理システムSは、画像処理装置1、表示装置2、及びX線撮像装置3を備える。以下、図1を参照して、実施の形態の概要を述べる。
 X線撮像装置3は、血管の検査用又は治療用のデバイス(以下、単に「デバイス」と記載することがある。)を挿入した状態の人物である被験者PのX線画像を撮像して、そのX線画像を画像処理装置1に送信するための装置である。このため、X線撮像装置3は、被験者PにX線を照射するためのX線照射器30(第1のX線照射器30a及び第2のX線照射器30b)と、X線照射器30が照射したX線を検出するためのX線検出器31と、被験者Pを支持するための寝台32とを備えている。
 図1に示すように、第1のX線照射器30aと第2のX線照射器30bとは、それぞれ異なる入射角で被験者Pの頭部にX線を照射することができる。ここで、第1のX線照射器30aが照射したX線は第1のX線検出器31aが検出し、X線の吸収率に基づいてX線画像に変換される。なお、第2のX線照射器30bが照射したX線は図示しない第2のX線検出器が検出し、X線画像に変換される。これらのX線画像は、表示装置2に表示される。脳血管領域の施術中は一般に第1及び第2のX線照射器の位置は固定されており、表示装置2に表示される画像の領域は固定されている。
 X線検出器31が検出したX線から生成された画像には、被験者Pの血管(造影剤を流すことで見えるようになる)や骨等の組織とともに、血管の検査及び治療に用いられる種々のデバイス(例えば、ガイディングカテーテルなどのカテーテル、ガイドワイヤ、塞栓用コイル、塞栓用コイルを注目部位まで運搬するためのデリバリーワイヤ等)が撮像されている。
 実施の形態に係る画像処理装置1は、血管のカテーテル検査又は治療(以下、血管のカテーテル検査と血管のカテーテル治療とを区別する場合を除いて、単に「カテーテル手術」という。)を行うユーザの補助をするための装置である。画像処理装置1は、X線撮像装置3が検出したX線に基づいて生成されたX線画像中にあらかじめ設定された1又は複数の関心領域を認識及び/又は追跡する。画像処理装置1は、X線画像を解析することにより、いずれかの関心領域の状態が、関心領域毎に定められた条件を満たすことを契機として、そのことを画像処理装置1のユーザである医療従事者(以下、単に「ユーザ」と記載する。)に通知する。ユーザは、検査又は治療の目的を達成するための注目部以外に注意を払うべき領域を関心領域として設定しておくことにより、注目部位における作業(例えば、マイクロカテーテルを動脈瘤内に誘導する、コイルを動脈瘤に入れる、バルーンを拡張する、ステントを留置するといった作業)に集中することができる。
<実施の形態に係る画像処理装置1の機能構成>
 図2は、実施の形態に係る画像処理装置1の機能構成を模式的に示す図である。画像処理装置1は、記憶部10と制御部11とを備える。図2において、矢印は主なデータの流れを示しており、図2に示していないデータの流れがあってもよい。図2において、各機能ブロックはハードウェア(装置)単位の構成ではなく、機能単位の構成を示している。そのため、図2に示す機能ブロックは単一の装置内に実装されてもよく、あるいは複数の装置内に分かれて実装されてもよい。機能ブロック間のデータの授受は、データバス、ネットワーク、可搬記憶媒体等、任意の手段を介して行われてもよい。
 記憶部10は、画像処理装置1を実現するコンピュータのBIOS(Basic Input Output System)等を格納するROM(Read Only Memory)や画像処理装置1の作業領域となるRAM(Random Access Memory)、OS(Operating System)やアプリケーションプログラム、当該アプリケーションプログラムの実行時に参照される種々の情報を格納するHDD(Hard Disk Drive)やSSD(Solid State Drive)等の大容量記憶装置である。
 制御部11は、画像処理装置1のCPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサであり、記憶部10に記憶されたプログラムを実行することによって画像取得部110、関心領域取得部111、追跡部112、通知部113、マーカ検出部114、及び測距部115として機能する。
 なお、図2は、画像処理装置1が単一の装置で構成されている場合の例を示している。しかしながら、画像処理装置1は、例えばクラウドコンピューティングシステムのように複数のプロセッサやメモリ等の計算リソースによって実現されてもよい。この場合、制御部11を構成する各部は、複数の異なるプロセッサの中の少なくともいずれかのプロセッサがプログラムを実行することによって実現される。
 画像取得部110は、被験者Pの血管と、血管内の検査用又は治療用のデバイスとを少なくとも被写体に含む、X線の吸収率に基づいて作成されたX線画像を取得する。例えば、X線画像には、医療従事者が注目する被験者Pの血管に生じた動脈瘤や、血管の狭窄部又は梗塞部が含まれていてもよい。関心領域取得部111は、X線画像に含まれるデバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する。関心領域としては、例えば、ガイドワイヤ(GW)の先端、ガイディングカテーテル(GC)の先端、カテーテルのマーカ、コイル等が設定されうるが、複数の領域、例えば、GCとGWの先端、2つのGWの先端、GW先端とコイルといったように、複数の関心領域が同時に設定されてもよい。一部の態様では、関心領域は、血管(脳動脈瘤や狭窄などの血管病変部分)や骨を含みうる。
 図3(a)-(d)は、関心領域を説明するための図である。具体的には、図3(a)は、血管Vを撮像したX線画像の一例を模式的に示す図である。図3(a)に示す例では、血管Vの中にデバイスDの一種であるガイドワイヤが存在している。
 図3(b)は、関心領域の候補となる候補領域Cの一例を示す図である。関心領域取得部111は、ニューラルネットワーク(図11)等の既知の機械学習手法などを用いて生成された候補領域検出器を含んでいてもよい。図3(b)では、第1候補領域C1(ガイディングカテーテルの先端)と第2候補領域C2(ガイドワイヤの先端)が関心領域の候補領域として示されている。この候補領域Cは、関心領域取得部111が候補領域検出器にX線画像のフレーム画像を入力して得られた結果である。限定はしないが、一例として、候補領域検出器は、ガイドワイヤの先端、ガイディングカテーテルの先端、カテーテルのマーカ等を検出するように学習されている。
 検出とは、一般的に、動画の中の1フレームの静止画において、物体の位置や形を特定することを意味する。例えばガイドワイヤの先端の検出では、ガイドワイヤは細いため、画面上の点座標(x, y)として検出してもよい。ガイドワイヤ全体の検出は、曲がっている細い糸のような形状を、1次元の曲線として、もしくは2次元上の塗りつぶし(segmentation)として検出することができる。
 候補領域検出器において用いられうる物体検出アルゴリズムとしては、例えば、Faster R-CNN、YOLO、SSD、U-Net、ResNetなどといったアルゴリズムを利用することができるが、これらに限定はされない。なお、物体認識アルゴリズムの実装にあたっては、例えば、OpenCV(Open Source Computer Vision Library)などの画像処理ライブラリを利用してもよい。
 Faster R-CNNは、領域の切り出しと認識とを同時に行うCNN(Convolutional Neural Network)である。畳み込みニューラルネットワーク(CNN)は、「畳み込み層」や「プーリング層」などの幾つかの特徴的な機能を持った層を積み上げることで構成される何段もの深い層を持つニューラルネットワークであり、特に画像認識の分野で優れた性能を発揮している。Faster R-CNNは、ほぼ実時間(1秒あたり10~20フレーム程度)で入力画像から関心領域の切り出しと認識を行うことができる。Faster R-CNNでは、画像の入力から物体の検出までEnd-to-Endでの学習が可能である。
 YOLO(You Only Look Once)も、領域の切り出しと認識とを同時に行うCNNである。YOLOでは、画像全体をグリッドに分割し、領域ごとにBounding Boxを求める。YOLOのCNNアーキテクチャは、高速な物体検出を可能とする。
 SSD(Single Shot MultiBox Detector)も、領域の切り出しと認識とを同時に行うCNNである。SSDは、様々な階層の出力層からマルチスケールな検出枠を出力できる。SSDは、画像上に大きさや形の異なるdefault boxesという長方形の枠を約9000個乗せ、その枠ごとに予測値を計算する。SSDでは、フィルタサイズを小さくすることにより高速化が図られている。
 U-Netはsegmentationという対象物をピクセルごとに認識するCNNである。畳み込み層で構成されており、ほぼ左右対称のEncoder-Decoder構造で、Encoderのpoolingを経てダウンサンプリングされた特徴マップをDecoderでアップサンプリングしていく。
 図3(c)は、関心領域Rの設定手法の一例を示す図である。図3(c)に示す例では、ユーザは第2候補領域C2を関心領域Rとして選択している様子を示している。具体的には、ユーザはマウス等の図示しないポインティングデバイスを用いてマウスカーソルMを第2候補領域C2まで移動することにより、関心領域Rを選択している。なお、関心領域取得部111による候補領域Cの提示は任意であり、ユーザは候補領域Cが提示されていない状態のX線画像中に関心領域Rを直接設定してもよい。例えば、関心領域Rは、マウス等のポインティングデバイスを用いて、画像中に矩形を描画して領域を指定することにより設定されうる。あるいは、関心領域取得部111は、既知の機械学習手法などを用いて生成された候補領域検出器の出力を関心領域Rとして取得してもよい。
 図3(d)は、ユーザが設定した関心領域Rを示す図である。図3(d)に示す例では、関心領域Rは黒色の五角形で示されおり、デバイスDの先端部分を含む領域である。図3(d)では、設定された関心領域Rは1つのみであるが、ユーザは2つ以上の関心領域Rを設定することができる。
 図2の説明に戻る。追跡部112は、X線画像において1又は複数の関心領域Rそれぞれを追跡する。追跡部112は、既知の画像トラッキング技術を用いることで関心領域Rの追跡を実現できる。利用可能な既知の画像トラッキング技術としては、Boosting、MIL、TLD、MedianFlow、KCF、GOTURN、MOSSE、CSRTなどとったアルゴリズムを利用したものが挙げられるが、これらに限定はされない。追跡アルゴリズムは、上述の物体検出アルゴリズムと組み合わせて使用されてもよい。アルゴリズムの実装にあたっては、例えば、OpenCV(Open Source Computer Vision Library)などのライブラリを利用してもよい。なお、本発明の文脈において、関心領域Rの追跡は、関心領域Rを断続的に検出して、その状態を識別することも含む。よって、本発明の一部の態様においては、経時的に取得されるX線画像の全てのフレームで関心領域Rの認識が行われることは要求されない。本発明の一部の態様において、関心領域Rの追跡は、トラッキングアルゴリズムもしくは物体検出アルゴリズムを用いて、又はそれらを組み合わせて用いて行われうる。
 BOOSTINGトラッカーは、AdaBoost(HAARカスケードベースの顔検出器が内部で使用するアルゴリズム)のオンラインバージョンに基づくトラッカーである。この分類器は、物体の正解例と不正解例を使用して実行時にトレーニングされる。ユーザ(又は別の物体検出アルゴリズム)によって特定される最初のバウンディングボックスが物体の正解例として扱われ、バウンディングボックスの外側にある画像は背景として扱われる。新しいフレームが与えられると、分類器が以前の位置の近傍にあるすべてのピクセルに対して適用され、スコアが記録される。物体の新たな位置が、スコアが最大になる位置である。こうして、分類器のもう1つの正解例が得られる。さらにフレームが入力され、この追加データにより分類器が更新される。
 MILトラッカーは、上記のBOOSTINGトラッカーと同様な概念に基づく。大きな違いは、物体の現在の位置だけを正解例とみなすのではなく、現在の位置の周りの小さな近傍を調べて、いくつかの潜在的な正解例を生成することである。MILでは、正解例と不正解例を特定するのではなく、正解と不正解の「バッグ」を指定する。正解バッグに入っている一群の画像が、すべて正解例ではない。正解バッグの1つの画像のみが正解例である必要がある。正解バッグには、物体の現在の位置を中心とする画像と、その周囲の小さな近傍の画像が含まれている。追跡された物体の現在の位置が正確でない場合でも、現在の位置の近傍のサンプルが正解バッグに入っていれば、このバッグには、物体が適切に中央に配置された画像が少なくとも1つ含まれている可能性が高い。MILトラッカーの性能は高く、BOOSTINGトラッカーほどドリフトせず、部分的なオクルージョン(遮蔽)が生じた場合にも妥当なパフォーマンスが得られる。
 KFCは、カーネル化された相関フィルターを意味する。このトラッカーは、上記2つのトラッカーで提唱された概念に基づいている。このトラッカーは、MILトラッカーで使用される複数の正解サンプルが大きな重複領域を持つという事実を利用している。このような重複データは、いくつかの優れた数学的特性をもたらし、同時に追跡をより高速かつ正確なものにする。精度と速度のどちらにおいてもMILに勝り、追跡失敗のレポーティングにも優れている。
 TLDは 追跡・学習・検出を意味する。その名前が示すように、このトラッカーは、長期追跡タスクを3つのコンポーネント((短期)追跡、学習、及び検出)に分解する。このトラッカーは物体をフレームごとに追跡する。検出器は、過去に観察された全ての外観を特定して、必要に応じてトラッカーを較正する。学習により検出器のエラーを推定し、将来のエラー発生を回避するために更新を行う。このトラッカーのこの出力は、多少不安定となる傾向があり、例えば、歩行者を追跡していて、シーン内に他の歩行者がいる場合、このトラッカーは、追跡したい歩行者とは別の歩行者を一時的に追跡することがある。長所としては、複数のフレームにわたるオクルージョン(遮蔽)の下でも最適に機能する点が挙げられる。短所としては、誤検出が多い点が挙げられる。
 MEDIANFLOWトラッカーは、時間的に順方向と逆方向の両方で物体を追跡し、これら2つの軌道間の不一致を測定する。このForward/Backwardエラーを最小限に抑えることで、追跡の失敗を確実に検出し、動画中における信頼できる軌道の選択を可能としている。このトラッカーは、動きが予測可能で小さい場合、遮蔽が無い場合に最良の性能を発揮する。追跡が明らかに失敗した場合でも続行する他のトラッカーとは異なり、このトラッカーは追跡が失敗したことを認識できる。
 GOTURNトラッカーは、畳み込みニューラルネットワーク(CNN)に基づくアルゴリズムである。このトラッカーは、視点の変更、照明の変更、変形に対してロバストであるが、遮蔽(オクルージョン)はうまく処理できない場合がある。
 MOSSE(Minimum Output Sum of Squared Error)トラッカーは、物体追跡に適応相関を使用する。MOSSEトラッカーは、照明、スケール、ポーズの変化、及び非リジッド変形に対してロバストである。また、このトラッカーは、ピーク対サイドローブ比に基づいてオクルージョンを検出し、物体が再び現れたときに、中断したところから追跡を再開できる。MOSSEトラッカーは、高いフレームレート(450fps以上)でも動作する。長所としては、実装が非常に簡単で、他の複雑なトラッカーと同じくらい正確、そして、はるかに高速である点が挙げられる。
 CSRTトラッカーでは、追跡のために空間信頼性マップを使用する。CSRTトラッカーは、比較的低いフレームレート(25fps)で動作するが、物体トラッキングのより高い精度を与える。
 通知部113は、関心領域Rの少なくともいずれか一つが関心領域毎に定められた条件を満たす場合、そのことをユーザに通知する。具体的には、通知部113は、例えば、関心領域Rの少なくともいずれか一つが関心領域毎に定められた条件を満たす場合、そのことを示すメッセージを表示装置2に表示させたり、図示しない画像処理装置1のスピーカに通知音を鳴らしたりすることにより、ユーザに通知する。あるいは、ユーザが例えばスマートフォン等の振動部材を備える機器を身に付けている場合には、その振動部材を振動させることによってユーザに通知してもよい。なお、通知音は、条件に応じて、通知音の種別、振幅、周波数を変えてもよい。また、振動は、条件に応じて、振動の周期、振幅を変えてもよい。 
 このように、画像処理装置1のユーザは、あらかじめX線画像中に関心領域Rを設定することにより、設定した関心領域Rの振る舞いを画像処理装置1に追跡させることができるので、注目部位における作業に集中することができる。なお、関心領域の表示に際し、通知部113は、取得された画像(X線画像)の色と異なる色で関心領域を着色して表示させてもよい。一般的に、血管撮影の画像はモノクロであるため、当該画像に含まれるデバイスの認識難易度は高いが、関心領域を着色して示すことによりデバイスの認識を容易にし、ユーザにより正確な情報を提供することが可能となる。さらに、関心領域が複数設定されている場合、異なる色を用いて関心領域を着色してもよい。
[関心領域Rに設定される条件の具体例]
 続いて、関心領域Rに設定される条件の具体例を説明する。
 血管のカテーテル手術においては、ユーザは、まず注目部の近傍まで被験者Pの血管内にガイディングカテーテルを通す。続いて、ユーザは、ガイディングカテーテル内にガイドワイヤやデリバイワイヤ、バルーンカテーテル等の他のデバイスを通して、注目部位の観察(診断)や治療、例えば、脳動脈瘤のコイル塞栓術を行う。
 カテーテルとはデバイスのひとつであり、内腔がある細長い管である。血管の中にこのカテーテルを通し、例えば、動脈瘤内に誘導して、カテーテルの内腔からコイルを挿入し、動脈瘤内にコイルを入れて破裂の予防を行う。
 カテーテルには幾つかの種類があるが、まず、ガイディングカテーテルは、直径が約2-4mmとやや太く、穿刺部から目的部位の手前までをつなぐ役割を果たす。このガイディングカテーテルの中に、より小さなデバイスを挿入し目的部位まで誘導する。ガイディングカテーテルの利点は、色々なデバイスを、鼠径部や腕の血管の穿刺部位から目的部位の近位までガイディングカテーテルを介して運ぶことにより、その通路をいちいち確認する必要がないことである。これにより、例えば、固定した画面を動かさずに、効率的に治療を行うことができる。
 ガイディングカテーテルの先端にバルーンがついているものがあり(バルーン付きガイディングカテーテル)、血管の流れを止めたり、ガイディングカテーテルを安定させたりすることができる。
 中間カテーテルは、より細いデバイスを目的部位に送るために、ガイディングカテーテルの中に入れて、血管が細い目的部位のより近位部に留置する。複数の中間カテーテルを使用することもある(段階的に細くなる)。
 マイクロカテーテルは、最も細いカテーテルであり、柔らかく、細い血管に挿入することができる。このマイクロカテーテルの中にコイルやステントを入れて目的部位まで運ぶ。塞栓物質をマイクロカテーテルから流すこともある。
 バルーンカテーテルとは、マイクロカテーテルの先端付近にバルーンがついており、目的部位付近でバルーンをふくらませる。それにより、例えば、コイルが動脈瘤から出るのを防いだり、狭窄部位を拡張したり、血管穿孔時に血液の流れを止め止血を図ったりする。バルーンというときは、通常、バルーンカテーテルのバルーン部分のみを指すことが多い。
 なお、これらのカテーテルを誘導するときは、中に適切なサイズのガイドワイヤを用いることが多い。稀に、血液の流れに乗せて、誘導することもある。
 ガイドワイヤとは細長いワイヤである。一般的に、ガイドワイヤは柔らかいカテーテルを、血管分岐部を選択し、目的部位まで誘導するために使用される。それ以外に、ステントを運ぶためのデリバリーワイヤや、ガイドワイにバルーンがついて血液を止めることができるデバイスなどがある。本明細書において、ガイドワイヤというときはそれらを含めた広義の定義とする。その理由は、いずれもそれらのガイドワイヤの先端により血管を穿孔し、重大な合併症をきたすことがあるからである。本発明の目的のひとつはそのようなガイドワイヤ先端による血管穿孔を防ぐための支援であるため、先端で血管穿孔をきたす可能性がある細いワイヤを含むものはガイドワイヤと言うことにする。
 施術中、被験者Pの血管は被験者Pの体内に存在するため、ユーザは、血管内に挿入された各種デバイスを直接観察することはできない。そのため、上述したように、ユーザは被験者Pの体を透過したX線から生成されたX線画像に撮像されている血管VやデバイスD(例えば、ガイディングカテーテル、ガイドワイヤ、コイル、カテーテル、バルーン、ステントなど)を見ながらデバイスDを操作する。図1に示すように、カテーテル手術において用いられるX線撮像装置3は、被験者Pの体内のうち注目部位(例えば、治療を必要とする動脈瘤、狭窄部位、梗塞部位など)を含む特定の領域のX線画像を生成するため装置である。施術中は多くの場合、特に脳血管領域においては、X線画像として取得される領域は固定されている。したがって、ユーザが観察することができるX線画像中に、デバイスDの全体が必ずしもいつも撮像されているわけではない。
 したがって、ユーザが注目部位における作業、例えば、コイルを動脈瘤に入れる、ステントを設置するといった作業に集中していると、例えば、ガイドワイヤの先端やガイディングカテーテルの先端がX線画像の画角から外れることによってX線画像から消失してしまい、ユーザが観察できなくなることも起きかねない。このような場合、デバイスの先端が血管穿孔していても気づかないおそれがある。血管穿孔は命に関わる重大な合併症である。血管穿孔はデバイスの先端で起こりやすく、特にガイドワイヤやカテーテルの先端で起こりやすい。そのため、本発明では、特に先端が着目される。1つの画面内で複数の先端がある場合や、術者の注目部位とは別の場所においてデバイスの先端で血管穿孔をきたすことがある。また脳血管内治療では最大4つの複数の画面を同時に見ながら治療する必要があり、術者が複数画面の複数の先端を常に注意することは不可能である。この支援システムではその課題をAIなどの技術で補う。そのため、本発明で用いる関心領域Rに設定される条件の例として、ガイディングカテーテルの先端部又はガイドワイヤの先端部とX線画像の縁部との距離に関する条件が挙げられる。あるいは、関心領域Rが、X線画像上において指定された特定の範囲(例えば、ユーザがマウスなどのポインティングデバイスによって指定した境界線)を超えたこと、あるいは単に動いたことを条件としてもよい。すなわち、本発明の一部の態様においては、画像の縁部に限らず、画像内の任意の領域の範囲を縁部と同様なものとして処理してもよい。なお、境界線は、直線、曲線、円形、矩形、その他の多角形などでありうる。本発明の一部の態様においては、関心領域と特定の範囲の縁部との距離が表示されうる。関心領域と特定の範囲の縁部との距離の大きさに応じて、距離の表示態様を変化させてもよい。本発明の一部の態様においては、通知部が、関心領域と特定の範囲の縁部との距離を画像内における関心領域の移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、ユーザに通知することもできる。特定の範囲を重畳表示などで見やすくすることにより、術者の判断をしやすくする機能も本発明の一部の態様には含まれる。範囲の表示の仕方は、重畳表示だけでなく、矢印などを用いてもよいが、これらに限定はされない。なお、本発明の一部の態様においては、距離は、直線距離又は血管に沿った距離のいずれかにより決定されうる。
 更に、関心領域ではなく、血管内の検査用又は治療用のデバイス(関心デバイスとも言う)のある時点の位置を自動的に、もしくはユーザ(術者・助手)が指定することにより、その時点で検出されているデバイスの全部もしくは一部を、その後のリアルタイムの画像に重畳表示してもよい。これにより、ユーザ(術者・助手)は特定の時点からのデバイスの動き(ずれ)を、リアルタイムの画像と重畳表示により認識することができる(図21)。デバイスの形状検出は画像解析による自動取得、もしくは術者がマウスやタッチパネルなどで印をつけることにより行ってもよい。重畳表示するデバイスとして、具体的には、ガイドワイヤの先端、マーカ、ステント、ガイディングカテーテル、などが挙げられるが、これらに限定はされない。
 例えば、図21の左の図の時点のガイドワイヤ先端(黒い部分)の位置および形状を記憶するとする。その場合、例えば、ユーザがガイドワイヤ先端をタッチパネルやマウスなどのポインティングデバイスで指定することにより、ガイドワイヤ先端が認識され、図21の中央の図に示されるように、その後にリアルタイムで得られるX線画像上に記憶されたガイドワイヤ先端が重畳表示されるようになる。これにより、図21の右の図に示されるように、ガイドワイヤ先端がその後、どのくらい移動したかが可視化され、容易に把握できるようになる。
 よって、本発明の一部の態様においては、画像処理装置は、血管内の検査用又は治療用のデバイスの任意の時点における位置および/もしくは形状を取得して記憶する記憶部を含み、記憶されたデバイスの位置および/もしくは形状が、取得以降の画像に重畳表示される機能を有する。
 例えば、頸動脈ステント留置術においては、内頚動脈遠位部に留置するフィルターやバルーンが安定して動きすぎないことが遠位塞栓(脳梗塞)予防に重要である。それらもしくはそれらの先についているガイドワイヤの先端が術者により、もしくは自動的に指定する一定の範囲内から外に出た場合に通知を出すことができる。脳動脈瘤塞栓術では、バルーンカテーテルの中に入っているガイドワイヤの先端などが指定した範囲から外に出た場合は、バルーンの滑落や、戻すことができなくなったり、遠位部の血管を穿孔したりするなどのリスクがあるため、通知を出すことができる。同じく、コイルを挿入するときに、一定の領域から外に出ると、大事な血管を閉塞するこことがあるため、通知を出すことができる。動脈瘤のマスク画像(領域)からコイルが逸脱した場合も、コイルやガイドワイヤ・カテーテルなどで動脈瘤穿孔の可能性があるため通知を出すことができる。全ての血管内治療においてガイディングカテーテルが安定していることが重要であるが、枠外に消える前に修正したいときもあり、ある領域から出るようであれば通知を出すことができる。腫瘍塞栓術、脳動静脈奇形塞栓術、硬膜動静脈瘻塞栓術などにおいては、液体や粒子などの塞栓物質を用いて塞栓するが、このとき、塞栓物質が指定した領域を超えると、大事な部位での脳梗塞を来したりする可能性があるため、通知を出すことができる。よって、本発明の一部の態様では、デバイスには、液体塞栓物質、粒子塞栓物質なども含まれる。また、上記の例にとどまらず、血管内手術では任意のデバイスや塞栓物質などを指定の領域内に留めておくように注意しており、それを支援することができる。
 図4(a)-(b)は、関心領域Rに設定される条件の一例を説明するための図である。図4(a)に示す例では、デバイスDの先端部に関心領域Rが設定されている。また、図4(a)に示す例では、関心領域Rの速度、加速度、及び、関心領域RとX線画像の縁部Fとの距離(ピクセル数)を示す情報Wが、X線画像に重畳して表示されている。なお、図4(a)は、デバイスDがガイドワイヤである場合の例を示している。また、本発明の一部の態様においては、X線画像内において指定された特定の領域をX線画像の縁部Fと同一視してもよい。
 通知部113は、関心領域Rとしてガイドワイヤの先端部を含む領域が設定された場合において、関心領域RがX線画像から消失することを条件としてユーザに通知する。一部の態様において、X線画像は、注目部位を含む固定領域を示す画像である。通常、施術中は、X線画像として表示される領域は固定されている。また、通知部113は、関心領域Rとしてガイドワイヤの先端部を含む領域が設定された場合において、関心領域RとX線画像の縁部Fとの距離が所定の閾距離未満となることを条件としてユーザに通知する。
 ここで「所定の閾距離」とは、デバイスの先端がX線画像の画角から外れる蓋然性が高いか否かを通知部113が判定するために設けられた「飛び出し判定用参照距離」である。所定の閾距離の具体的な値は、通知部113による通知の頻度とユーザビリティ等を考慮して実験により定めればよいが、例えば、X線画像の縦方向のピクセル数又は横方向のピクセル数のいずれか一方のピクセル数の5%である。これにより、ガイディングカテーテルの先端部又はガイドワイヤの先端部を含む領域である関心領域RがX線画像の縁部Fに近づいたとき、関心領域Rが縁部Fから外れる前と、外れた後とにユーザは通知を受けることができる。
 また、血管V中におけるデバイスDの動きの大きさは、デバイスDの先端部がX線画像の縁部Fに到達するまでの時間をユーザが予測する上で有用な指標となり得る。具体的には、Dの先端部の速度や加速度が大きいほど、Dの先端部がX線画像の縁部Fに到達するまでの時間が短くなる。そこで、通知部113は、関心領域Rとしてガイディングカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、X線画像内における関心領域Rの移動速度と加速度との少なくともいずれか一方があらかじめ定められた閾値を超えることを条件としてユーザに通知してもよい。これにより、関心領域Rの移動速度や加速度が閾値よりも大きい場合には、関心領域RがX線画像の縁部Fに近づく前にユーザの注意を喚起することができる。
 さらに、血管V中におけるデバイスDの先端部とX線画像の縁部Fとの距離は、デバイスDの先端部がX線画像の縁部Fに到達する蓋然性の高低をユーザが判断する上での有用な指標となる。そこで、図4中の情報Wに示すように、通知部113は、関心領域RとX線画像の縁部Fとの距離を、X線画像を表示する表示装置2に表示させてもよい。
 ここで、「関心領域RとX線画像の縁部Fとの距離」は、関心領域Rが設定されているデバイスDが挿入されている血管Vに沿って関心領域RがX線画像の縁部Fまで移動した場合の距離であってもよい。これは、測距部115が、あらかじめ既知の機械学習手法などを用いて生成された血管認識エンジンを利用して血管Vを抽出し、その血管Vに沿って関心領域Rから縁部Fまでの距離を測定することで実現できる。あるいは、測距部115は、血管V中を進行したデバイスDの軌跡に基づいて上述の距離を測定してもよい。具体的には、ユーザが血管V中でガイディングカテーテルを進行させるとき、追跡部112はガイディングカテーテルの先端部を追跡しその軌跡を記憶部10に記憶させておく。測距部115は、記憶部10に記憶されている軌跡のうち関心領域Rに含まれる軌跡の長さを、上述した長さとしてもよい。
 通知部113がデバイスDの先端部とX線画像の縁部Fとの距離を表示装置2に表示させることにより、ユーザは、デバイスDがどの程度移動するとX線画像の縁部Fに到達するかを一見して客観的に把握することができる。さらに、通知部113は、関心領域Rと縁部Fとの距離の大きさに応じて、距離の表示態様を変化させてもよい。例えば、距離が短くなるほどフォントサイズを大きくする、距離に応じて色を変える(青→黄→赤)、距離の大きさに応じて関心領域を拡大表示する、距離の大きさに応じて関心領域に付するマークの色もしくはサイズを変える等である。上述した表示態様の工夫により、距離の変化にユーザが気づきやすくなるようにすることができる。
 図4(b)に示す例では、図4(a)に示す例と比較して、デバイスDの先端部に設定された関心領域Rが縁部Fに近づいている。このため、関心領域Rの速度、加速度、及び、関心領域RとX線画像の縁部Fとの距離(ピクセル数)を示す情報Wのフォントが、図4(a)に示す例と比較して大きくなっている。
 なお、「関心領域RとX線画像の縁部Fとの距離」は、関心領域RとX線画像の縁部Fとの最短距離でもよいし、関心領域Rの移動方向にそってX線画像の縁部Fまで計った長さであってもよい。この場合、測距部115による血管抽出処理を省略できるため、処理を高速化し得る点で有利である。
 通知部113は、関心領域RとX線画像の縁部Fとの距離を、X線画像内における関心領域Rの移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、ユーザに通知してもよい。関心領域RとX線画像の縁部Fとの距離を、X線画像内における関心領域Rの移動速度で除算した値は、いわば、関心領域RがX線画像の縁部Fに到達するまでの予想時間と言える。このため、「あらかじめ定められた閾値」の値は、関心領域RがX線画像の画角から外れる蓋然性が高いか否かを通知部113が判定するために設けられた「飛び出し判定用猶予時間」である。猶予時間の具体的な値は、通知部113による通知の頻度とユーザビリティ等を考慮して実験により定めればよいが、例えば、3秒である。
 図5は、通知部113が通知するメッセージMsの一例を示す図である。図5に示す例では、通知部113は、関心領域Rが3秒後にX線画像から外に出て消失すること(いわゆるフレームアウトすること)を示すメッセージをX線画像に重畳して表示している。さらに、図5に示す例のように、通知部113は、関心領域RがX線画像の縁部Fに近づいた場合は、関心領域Rの形を変更したり(図5では円形に変更)、関心領域Rのサイズを大きくしたり、関心領域Rの色を変更したりしてもよい。これにより、通知部113は、関心領域Rがフレームアウトしそうであることを術者に認識しやすくすることができる。
 図6は、関心領域Rに設定される条件の別の例を説明するための図である。具体的には、図6は、デバイスDがガイディングカテーテルの場合の例を示している。図4(a)-(b)に示すガイドワイヤの場合と異なりガイディングカテーテルは、その先端部のみならずデバイスD全体がX線画像から消失しうる点で異なる。しかしながら、デバイスDがガイディングカテーテルであってもガイドワイヤであっても、その先端部分がX線画像から消失するという点では同じである。したがって、ガイディングカテーテルの場合もガイドワイヤと同様に、先端部分に関心領域Rが設定される。
 なお、上述の例では、主として術具のフレームアウトを防止する観点から、「所定の閾距離」として、関心領域RとX線画像の縁部Fとの距離に基づき閾値を決定したが、関心領域R自体の移動距離に着目し、関心領域Rの移動距離があらかじめ定めた閾値以上となった場合に、ユーザに対し通知を出す構成としてもよい。例えば、カテーテルの先端が動脈瘤内に入っている状態でステントを展開しようとする場合には、カテーテルの先端が動脈瘤から外に出ないように注意することが必要であるが、このとき術者はステントを見ているため、カテーテルの先端の動きを目で追うことができない。このようなケースにおいて、カテーテルの先端に設定された関心領域の移動距離が、あらかじめ定められた移動距離を超えた場合にユーザに通知を行う構成とすることで、カテーテルの先端が動脈瘤から外に出そうになった場合に、ユーザは直ちに異常に気づくことができる。なお、移動距離の閾値の設定は、関心領域(例えば、カテーテルの先端)が所定の位置(例えば、動脈瘤内)に到達してから、当該到達位置を基準として設定してもよい。
(塞栓用コイルの誘導)
 続いて、関心領域Rに設定される条件の別の例として、塞栓用コイルのデリバリーワイヤを誘導するガイディングカテーテルに関する条件について説明する。
 脳動脈瘤に対するカテーテル治療として、脳動脈瘤内に塞栓用コイルを充填する塞栓術が知られている。この治療は、注目部位である脳動脈瘤付近までガイディングカテーテルを通し、ガイディングカテーテル内を塞栓用コイルのデリバリーワイヤを通し、塞栓用コイルを脳動脈瘤内に切り離して充填することにより、脳動脈瘤内に血液が流入することを遮断することを目的とする手術である。
 図7(a)-(b)は、塞栓用コイルのデリバリーワイヤを誘導するガイディングカテーテルが撮像されているX線画像の一例を模式的に示す図であり、関心領域Rに設定される条件の別の例を説明するための図である。
 上述したように、X線撮像装置3は、それぞれ異なる入射角で被験者Pの頭部にX線を照射することができる。図7(a)及び図7(b)は、互いに異なる入射角で被験者Pの頭部にX線を照射して撮影したX線画像を例示している。ユーザは、図7(a)及び図7(b)に示す2つの画像を見ながら塞栓術を実施する。
 図7(b)において、動脈瘤は符号Aで示されている。ユーザは動脈瘤A内に複数の塞栓用コイルEを留置することにより、動脈瘤を塞栓する。ここで、動脈瘤Aは図7(b)に示すX線画像で観察できるため、ユーザは2つのX線画像のうち一方のX線画像に注目することになる。
 塞栓用コイルEを動脈瘤Aまで運搬するためのデリバリーワイヤはその先端で塞栓用コイルEと結合しており、ユーザは塞栓用コイルEを動脈瘤Aまで運搬した後に塞栓用コイルEをデリバリーワイヤから切り離す作業を行う。図7(a)-(b)に示すように、塞栓用コイルEが動脈瘤Aまで到達すると、既に動脈瘤A内に留置されている他の塞栓用コイルEにより、運搬中の塞栓用コイルEの位置がX線画像中で不明りょうとなる。そのため、塞栓用コイルEのデリバリーワイヤには、塞栓用コイルEを切り離すタイミングを計るためのマーカLがあらかじめ備えられている。ユーザは、X線画像中の塞栓用コイルEそのものではなく、デリバリーワイヤに設けられたマーカLを目印として塞栓用コイルEを切り離すタイミングを図る。
 しかしながら、図7(a)-(b)に示すように、動脈瘤Aを観察することができるX線画像と、マーカLを観察することができるX線画像とが異なることも起こりうる。また、同一画面内であっても、動脈瘤AとマーカLの位置が離れており、同時に2箇所を観察することが難しい場合もある。そこで、画像処理装置1のユーザは、まず塞栓用コイルEのデリバリーワイヤを誘導するガイディングカテーテルの一部に関心領域Rを設定する。具体的には、ユーザは、デリバリーワイヤから塞栓用コイルEを切り離すタイミングでマーカLと関心領域Rとが重畳する位置に、関心領域Rを設定する。
 関心領域取得部111は、デリバリーワイヤを誘導するガイディングカテーテルの一部に設定される関心領域Rを受け付ける。関心領域Rの指定は、例えばマウスなどのポインティングデバイスやタッチパネル等を用いて行うことができる。図7(a)において、関心領域Rは白抜きの星印で示されている。マーカ検出部114は、動脈瘤を塞栓するための塞栓用コイルEのデリバリーワイヤに設けられたマーカLのうち、関心領域Rに接近するマーカLを検出する。また、追跡部112は、マーカ検出部114によって検出されたマーカLを追跡する。
 通知部113は、マーカLと関心領域Rとが重畳することを契機として、マーカLと関心領域Rとの位置関係に基づいて塞栓用コイルEをデリバリーワイヤから切断して切り離すタイミングをユーザに通知する。
 図8(a)-(d)は、塞栓用コイルEの切り離しのタイミングを説明するための図である。図8(a)-(d)において破線で示すデバイスDは、デリバリーワイヤである。図8(a)-(d)に示すように、デリバリーワイヤにはワイヤ上の一定の区間にマーカLが付されている。なお、図8(a)-(d)は、マーカLの一般的な例を示している。この他、一点鎖線“―・―”や長い直線などであってもよい。
 ユーザがデリバリーワイヤを移動させると、X線画像中でマーカLもデリバリーワイヤの移動に連動して移動する。一方、デリバリーワイヤを誘導するためのガイディングカテーテルは、デリバリーワイヤの移動に応じて摩擦等で少し動くことはあるものの、デリバリーワイヤの動きと比較すると移動量は少ない。そこで、ユーザは、塞栓用コイルEが動脈瘤Aに到達するときにマーカLがあるべき位置に対応するガイディングカテーテルの位置にあらかじめ関心領域Rを設定しておく。
 図8(a)-(d)に示すように、マーカLはワイヤ上の一定の区間にわたって存在する。ユーザがデリバリーワイヤを移動させると、図8(b)に示すように、マーカLの先端部が関心領域Rに接触する。これは、塞栓用コイルEが動脈瘤Aまでに近づいたことを示している。
 ユーザがさらにデリバリーワイヤを移動させると、図8(c)に示しように、マーカLと関心領域Rとが重畳する。通知部113は、マーカLと関心領域Rとが重畳することを契機として、ユーザに対して塞栓用コイルEをデリバリーワイヤから切断して切り離すタイミングを通知する動作を開始する。
 具体的には、図7(a)中の符号W2に示すように、通知部113は、マーカLと関心領域Rとが重畳することを契機として、塞栓用コイルEをデリバリーワイヤから切断するまでにマーカLが移動すべき距離を示す情報W2を表示装置2に表示させる。
 さらに具体的には、ユーザは、図8(d)に示すように、塞栓用コイルEが動脈瘤Aに到達したときにちょうどマーカLの終端部が関心領域Rを通過するように、関心領域Rを設定する。この場合、通知部113が表示装置2に表示させる情報W2には、マーカLの終端部が関心領域Rを通過するまでの距離が表示されることになる。
 通知部113は、マーカLが関心領域Rを通過した場合、そのことをさらにユーザに通知する。これにより、ユーザは、図7(b)に示されるような動脈瘤Aが撮像されている画像に集中している場合であっても、塞栓用コイルEをデリバリーワイヤから切断するタイミングに気づくことができる。
(デバイスDの形状)
 続いて、関心領域Rに設定される条件のさらに別の例として、デバイスD(例えば、ガイドワイヤ)の形状に関する条件について説明する。
 通知部113は、関心領域Rに含まれるデバイスDの形状を示す特徴量が所定の条件を満たす場合、そのことを画像処理装置1のユーザに通知する。具体的には、通知部113は、関心領域Rに含まれるデバイスDの曲率、又は関心領域に含まれるデバイスDの「たわみ」を示す特徴量に基づいて通知する。
 デバイスDの先端部が血管壁等に引っかかった状態でユーザがデバイスDを進行させようとすると、デバイスDの先端部分が曲げられる。一般に、デバイスDの先端部が曲げられると、その部分には弾性エネルギーが蓄積される。この弾性エネルギーは、デバイスDの先端部分が曲がるほど、すなわち、デバイスDの曲率が大きくなる(曲率半径が小さくなる)ほど、蓄積される量が多くなる。弾性エネルギーの蓄積量が多くなると、デバイスDの弾性力によって先端部の引っかかりが解除され、先端部分が高速に移動することも起こりうる。その結果、デバイスDの先端部分がX線画像から突然消失することも起こりうる。
 そこで、通知部113は、関心領域に含まれるデバイスDの曲率が所定の閾曲率を超えること、もしくは曲率が変化しているのに先端が動かないことを条件として、ユーザに通知する。デバイスDの先端が不動であること、もしくは移動距離が一定の閾値より低いこと加味しても良い。ここで「所定の閾曲率」とは、デバイスDの先端部が高速に移動する蓋然性が高いか否かを通知部113が判定するために設けられた「通知判定用参照曲率」である。所定の閾曲率の具体的な値は、通知部113による通知の頻度、ユーザビリティ、デバイスDの材質や大きさ、弾性係数等を考慮して実験により定めればよい。
 図9(a)-(c)は、関心領域Rに設定されるデバイスDの形状に関する条件を説明するための図である。具体的に、図9(a)-(b)は、デバイスDの曲率に基づく通知を説明するための図である。図9(a)において、関心領域Rは破線の円で示されている。限定はしないが、一例として、図9(a)における関心領域Rは、デバイスDの先端部を中心とする半径1センチメートルの円である。また、図9(b)は、関心領域Rに含まれるデバイスDの曲率の分布を示すヒストグラムである。具体的には、図9(b)は、関心領域Rに含まれるデバイスDを複数の小領域に分割して各小領域におけるデバイスDの曲率半径を求め、その曲率半径の分布を示している。
 通知部113は、デバイスDの曲率の分布を示すヒストグラムにおいて、曲率の分布から算出された特徴量(例えば、曲率の平均値、最頻値、又は中央値等の統計量)が所定の閾曲率を超えること、もしくは曲率が変化しているのに先端が動かないことを条件として、ユーザに通知する。これにより、画像処理装置1は、デバイスDに弾性力が蓄積されている状態であることをユーザが気づくきっかけを提供できる。
 また、通知部113は、関心領域Rに含まれるデバイスDの長さから関心領域Rに含まれる血管Vの中心線の長さを減じた値が所定の閾長さ(閾値)を超えることを条件としてユーザに通知してもよい。図9(c)は、関心領域Rに含まれるデバイスDの長さと、関心領域Rに含まれる血管Vの中心線の長さとの関係を示す模式図である。デバイスD及び血管は被験者Pの体内において曲がっているが、説明の便宜上、図9(c)においてデバイスDと血管Vとは直線として表示さている。また、図9(c)において、血管Vの中心線は一点鎖線で示されている。
 測距部115は、血管認識エンジンを利用して関心領域R中の血管Vを抽出しその中心線をトレースして長さD1を求める。同様に、測距部115は、既知の機械学習手法などを用いて生成されたデバイス認識エンジンを利用してデバイスDを抽出し、その長さD2を求める。
 一般に、ユーザが血管V中にデバイスDを進行させるとき、デバイスDは血管Vの壁に沿って蛇行しながら進行することになる。したがって、血管V中のデバイスDの長さD2は、血管Vの長さ(血管Vの中心線の長さ)D1よりも長くなり、デバイスDは血管Vの中でたわんでいることになり、デバイスDに弾性エネルギーが蓄積されていることを意味する。このたわみの量が大きくなると、何かのきっかけで弾性エネルギーが解放され、デバイスDが大きく動くことも起こりうる。この結果、デバイスDの先端部がX線画像から消失することも起こりうる。
 測距部115が算出した長さD2から長さD1を減じた長さである差分長Bは、血管V中のデバイスDのたわみの量を示す指標となり得る。そこで、通知部113は、測距部115が算出した長さD2から長さD1を減じた長さBを表示し、所定の閾長より長くなる場合、そのことをユーザに通知する。これにより、画像処理装置1は、デバイスDに弾性力が蓄積されている状態であることをユーザが気づくきっかけを提供できる。
(2ndマーカを利用したカテーテル先端位置の推定)
 動脈瘤塞栓用カテーテルには、先端マーカ(1stマーカ)と2ndマーカ(通常は先端から3cmの位置)が付されている。動脈瘤内のどこにカテーテルの先端があるかを術者が把握することは、手術を安全に行うために重要であるが、動脈瘤内にコイルが入ると、先端マーカの位置がわかりにくくなり、安全性が低下する(図17を参照)。例えば、先端マーカが動脈瘤の奥に移動すると、その先端、もしくは、その先端から出るコイルによって動脈瘤を穿孔し、くも膜下出血という重大な合併症につながる。逆に先端マーカが動脈瘤から出そうになっていると、カテーテルやコイルが動脈瘤外に逸脱し、再度、動脈瘤内に入れなければならず、この操作に動脈瘤壁の穿孔の危険が伴う。
 例えば、図17において、左側の図は、マイクロカテーテルを動脈瘤内に挿入した状態を表している。動脈瘤のサイズは例えば10mmでありうる。マイクロカテーテルに付されている1stマーカと2ndマーカの距離は一定(通常30mm)である。例えば、この状態で1stマーカと2ndマーカの位置をそれぞれ記録したとする(記憶位置)。図17の中央の図は、マイクロカテーテルの位置が移動した状態を表している。動脈瘤の中にコイルが入ると、1stマーカの位置は見えない、または見えにくい状態となる。そこで、この時点の2ndマーカの位置と以前に記憶した2ndマーカの位置との差分から、1stマーカの位置を推定する。この場合、1stマーカは動脈瘤頸部からほぼ0mmのところにあると予測される(予測位置A)。また、右側の図もマイクロカテーテルの位置が移動した状態を表している。同様に、2ndマーカの移動距離に基づき、1stマーカの位置が推定される。この場合は、動脈瘤頸部から8mmのところにあると推定される。
 本発明の一部の態様は、カテーテルの先端がコイル(動脈瘤)の中にあるために、位置がわからない時に2ndマーカの動きから先端位置を推定する方法に関する。より具体的には、カテーテルの先端と2ndマーカとの位置関係(例えば、3cm離れている)を記憶する工程、動脈瘤のネックラインと1stマーカとの距離a及びその時点t1における2ndマーカの位置を記憶する工程、時点t2における2ndマーカの位置から移動距離bを算出し、カテーテルの先端の動脈瘤ネックラインからの距離a-bを推定する工程、並びに推定された距離をユーザに通知する工程を含む、カテーテル先端位置の推定方法に関する。ここで、カテーテルの先端、2ndマーカ、動脈瘤のネックラインは、コンピュータによる画像認識により自動的に検出されうる。あるいは、マウスなどのポインティングデバイスやタッチパネルにより、マニュアルで指定してもよい。推定された距離a-bは、表示装置に表示されうる。さらに、推定された距離a-bに基づき推定されるカテーテル先端の位置を表示装置に表示してもよい。任意の閾値を設定し、そこから外れた場合に通知したり、距離だけでなく速度・加速度を求め、その値によって通知したりしてもよい(急速にもしくは大きく動くときは危ない可能性が高い)。この移動距離は、直線距離もしくは、カテーテルの曲線に沿った距離である。また、カテーテルの曲線形状は変化することがあるので、その曲線の長さを利用しても良い。更に、カテーテルの形状変化により、距離a、b、a-bは確率分布にもなり得る。例えば、最初に記憶するタイミングが複数回あれば、距離aの分布ができるため、平均や分散などを用いて、場所を推測し、それをもっとも可能性が高い1点として予測しても良いし、確率分布としてヒートマップなどで表示しても良い。よって、推定距離は確率分布により表されてもよく、また、推定されるカテーテル先端の位置はヒートマップのように着色して確率分布に基づき表示されてもよい。
 移動距離を計測する以外に、2ndマーカの位置を術者が指定もしくはコンピュータで認識し、そこを表示装置の中で半透明で重畳表示もしくは矢印などで指し示してもよい。術者・助手はこの固定された表示から、現時点の2ndマーカがどれだけずれたかを認識することにより、先端マーカが進んだか、引き戻されたかを視覚的に認識する。
 本発明の一部の態様は、上記の方法をコンピュータ上で実行するためのプログラムに関する。また、本発明の一部の態様は、上記の方法を実行する画像処理装置およびその作動方法に関する。そのような画像処理装置は、例えば、カテーテルの先端と2ndマーカとの位置関係(例えば、3cm離れている)を記憶する位置関係記憶部、動脈瘤のネックラインと1stマーカとの距離a及びその時点t1における2ndマーカの位置を記憶する位置記憶部、時点t2における2ndマーカの位置から移動距離bを算出し、カテーテルの先端の動脈瘤ネックラインからの距離a-bを推定する距離推定部、並びに推定された距離をユーザに通知する通知部を含みうる。さらに、本発明の一部の態様は、上記の画像処理装置と、血管内にガイディングカテーテルと塞栓用コイルのデリバリーワイヤとを挿入した状態の患者(または被験者P)のX線画像を撮像して前記画像処理装置に送信する画像撮像装置とを備える脳動脈瘤コイル塞栓術補助システムにも関する。
<2ndマーカを利用したカテーテル先端位置の推定の処理フロー>
 図22は、実施の形態に係る画像処理装置が実行する2ndマーカを利用したカテーテル先端位置の推定処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば画像処理装置1が起動したとき、あるいはユーザまたは画像処理装置1により処理の開始が必要と判断されたときに開始される。
 まず、画像取得部110、関心領域取得部111および追跡部112が機能することにより、動画解析によって、血管V内の検査用又は治療用のデバイスDが検出・追跡される。そして、画像解析により自動的に、もしくはユーザ(術者)の指定により、その時点(T=t1)での1stマーカと2ndマーカの位置が記憶される(S102)。
 そしてさらに、動脈瘤頸部のラインが自動的もしくはユーザ(術者)の指定により決定される(S104)。それから、動脈瘤頸部のラインと1stマーカの距離Aが計算される(S106)。このとき、動脈瘤頸部のラインと1stマーカ(通常は動脈瘤内にある)の直線もしくは曲線距離Aを測定することができる。
 次に、連続的に2ndマーカを追跡して、移動距離bを測定する(S108)。連続的に2ndマーカを画像解析で追跡し、T=t2での2ndマーカの移動距離b(直線もしくは曲線距離)を計測する。この移動距離は方向性(プラス/マイナス)を有していてもよい。
 それから、上記距離Aおよびbに基づき、1stマーカの動脈瘤頸部からの距離を推定する(S110)。例えば、1stマーカの動脈瘤頸部からの距離はA-bと推測する。あるいは、T=t1の1stマーカの位置から動脈瘤頸部に垂直な方向にbだけ動いた場所に1stマーカがあると推測してもよい。
 そして、推定される1stマーカの位置を表示する(S112)。例えば、推測されたT=t2での1stマーカの位置もしくは動脈瘤頸部からの距離を、重畳表示もしくは数値で表示することができる。もし、1stマーカが動脈瘤頸部の近くで動脈瘤から逸脱しそうな場合や、動脈瘤の奥で動脈瘤の壁にぶつかっていそうな場合には、ユーザ(術者・助手)にその旨を追加で通知してもよい。解析が困難な場合もしくはユーザ(術者)が指定した場合などは、この機能を一旦止めることができる。この処理の終了後、必要に応じて、本フローチャートにおける処理が再度開始されてもよい。
(リプレイ機能)
 医療従事者は施術中、特定の場所を注目しているため、本開示に係るシステムが通知を発した際に、警告が出されたデバイスに注目していない場合、もしくは別の画面を見ている場合、警告発生以降に状況の把握に努めることになる。しかしリアルタイムの映像は刻々と更新されるため、警告が出た時刻周辺の詳細を確認することはしばしば困難である。また、警告の性質により、デバイスの動作自体の詳細、警告発生時点と現在の差異、警告発生時点からの経過時間、等の把握が必要となる。
 例えば、ガイドワイヤ先端については、先端部位の動作の詳細の情報が得られることが望ましい。例えば、急速に大きく動く場合は、血管穿孔の危険性が増す。ガイディングカテーテルの消失の場合は、画像外に出た時点の位置・経過時間の情報が得られることが望ましい。コイル検出器の場合は、最適地点からのずれに関する情報が得られることが望ましい。
 本発明の一部の態様において、画像処理装置は、映像および認識情報を保存し、必要に応じた情報提供により、術者が必要なときに見返すことができる機能(すなわち、リプレイ機能)を備えている。図12には、画像取得部110から得た画像を保存する映像記録部(10と統合可能)および、通知発生時刻の前後の映像を一部抽出する映像抽出部をさらに備えた画像処理装置の構成が示されている。図13には、通知が発生した際のリプレイ映像を関心領域を中心に切り取って拡大表示した例が示されている。図14には、リアルタイム表示画面上に(拡大)リプレイ再生ウインドウを表示した例が示されている。この例では、できるだけ関心領域を外した部分に、リプレイが拡大表示されており、これにより、1画面という限られた範囲の中で、警告が出された部分で何が起こったのかを判断することができる。
 本発明の一部の態様において、画像処理装置は、画像取得部から得た画像(動画を含む)を経時的(連続的)に保存する映像記憶部をさらに含んでいる。また、本発明の一部の態様において、画像処理装置は、通知部が通知を発した前後の一定の期間の映像を前記映像記憶部より抽出する映像抽出部をさらに含んでいる。映像の抽出期間、再生速度は、通知が発生した際の関心領域の移動距離、移動速度、及び加速度の少なくともいずれか1つに基づき、自動で決定されてもよい。なお、抽出の際には、関心領域取得部、追跡部、通知部、マーカ検出部、および/または測距部が得た情報も利用することができる。
 本発明の一部の態様において、画像処理装置は、抽出された映像を表示装置に表示させることができる。抽出された映像は、自動的に所定の回数繰り返して表示されてもよい。また、抽出された映像は、再生、停止、早送り、巻き戻し、コマ送り、スロー再生、倍速再生を含む任意の操作に基づいて表示されてもよい。これにより、ユーザは映像の確認を容易に行うことができる。また、表示装置には、通知が発生した時点からの経過時間、通知が発生した時点と任意の時間の経過後における関心領域の位置の比較(比較表示は、例えば、該当領域、検出位置の差異、画像自体の整列を含む)、または追跡部が取得した関心領域の軌跡が、抽出された映像に重畳してさらに表示されてもよい。
 本発明の一部の態様において、画像処理装置は、抽出された映像から関心領域の近傍の一部の領域を切り出して表示することができる。抽出された映像は、関心領域の表示を妨げない位置に表示されることができる。抽出された映像は、拡大されて表示されてもよい。
 本発明の一部の態様において、画像処理装置は、抽出された映像を、通知の発生と同時または通知の発生から所定時間の経過後に表示させることができる。また、本発明の一部の態様において、画像処理装置は、複数の方向から撮影された映像を同時に表示させることができる。
 なお、上記のリプレイ表示は、通知の発生時以外の時点で使用されてもよい。つまり、映像抽出部は、通知部が通知を発した前後の一定の期間の映像だけでなく、任意の時間または期間の映像を前記映像記憶部より抽出してもよい。例えば、ユーザ(術者)が必要と感じた時に、任意の関心領域を指定することにより、その前の場面をリプレイ表示で見ることができる。これにより、リアルタイムでの表示を見ながら関心領域で何が起こったかをユーザが把握・比較することができる。
 本発明の一部の態様は、上記の方法をコンピュータ上で実行するためのプログラムに関する。また、本発明の一部の態様は、上記の方法を実行する画像処理装置およびその作動方法に関する。
<リプレイ表示機能の処理フロー>
 図23は、実施の形態に係る画像処理装置が実行するリプレイ機能の処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば画像処理装置1が起動したときに開始する。
 まず、画像取得部110、関心領域取得部111および追跡部112が機能することにより、動画解析によって、血管V内の検査用又は治療用のデバイスDが検出・追跡される(S202)。
 次に、通知条件(移動距離が閾値を超えるなど)が満たされたかどうかを判断し(S204)、条件が満たされている場合には、通知を出すとともに、表示画面の一部に通知条件を満たす前後のリプレイ動画が表示される(S206)。このとき、リアルタイムの画像を通常通り表示しておき、通知条件の領域に重ならないようにリプレイ動画を数回程度、もしくはユーザ(術者・助手)が希望するまで繰り返して表示してもよい(S208)。繰り返しが終了したら、リプレイ動画の画面を閉じる。終了後、本フローチャートにおける処理が再度開始されてもよい。
(フレーム外の関心領域の位置の推定)
 ガイドワイヤ先端やガイディングカテーテル先端などの関心領域が、X線画角の範囲外へ移動(フレームアウト)することは危険なことであるが、危険度はその移動量により異なる。具体的には例えば、ガイドワイヤの先端が少し(5mm以内など)枠外に出ただけであれば血管穿孔の可能性は低いが、大きく枠外に出た場合(20mm以上など)、血管穿孔のリスクが高く、関心領域がフレームアウトした時には、X線画像の画角内に引き戻す必要がるが、状況等によっては即座に対処できない場合もある。このような場合に、フレームアウトした関心領域が、X線画角の範囲外へどの程度移動しているか、またその移動がどの程度危険であるかを知ることは重要である。よって、本発明の一部の態様は、フレームアウトした関心領域の位置、速度、加速度の状態を推定し、表示する装置に関する。
 このようなフレーム外の関心領域の位置の推定は、例えば、画像処理装置であって、血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する画像取得部と、前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、前記画像において前記関心領域それぞれを追跡する追跡部と、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部であって、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が前記画像から消失することを条件として前記ユーザに通知する通知部と、前記関心領域が前記画像から消失する直前のカテーテルの先端部又はガイドワイヤの先端部の位置、速度および/または加速度に基づき、前記画像から消失したカテーテルの先端部又はガイドワイヤの先端部の現在位置および/または速度を推定する状態推定部を備える、画像処理装置により行うことができる(図15)。状態推定部が推定した関心領域の現在位置および/または速度は、表示装置上に表示されうる。
 ここで、状態推定部は、フレームアウトした関心領域の位置を推定するために、フレームアウトの前から関心領域取得部、マーカ検出部、追跡部からの出力を時系列的に記憶しておき、記憶された出力を使用して関心領域の位置、速度、加速度等の状態を算出することができる。そして、関心領域がフレームアウトして画面上での追跡が不能になった場合に、フレームアウト前の状態から関心領域の位置、速度等を推定して、ユーザに通知する。その際の推定方法は、ディープラーニング(CNN、RNN、WaveNet等)による学習ベースの手法、ベイズ推定による手法(カルマンフィルタ、拡張カルマンフィルタ、アンサンブルカルマンフィルタ、粒子フィルター等)があるが、これらに限定はされない。
 加えて、本発明の一部の態様は、推定された状態から危険度を算出し、危険度に応じてユーザに通知を発する装置にも関する。状態推定部が推定した関心領域の位置、速度、および危険度は表示装置上に表示されうる。表示方法は、点、矢印、ヒートマップによる表示などでありうるが、これらに限定はされない。例えば、推定された関心領域の位置が、画像の端から所定の距離以上離れている場合に、危険度が高いと判断されうる(図16)。例えば、図16には、推定された関心領域の位置が丸で示されており、画面の端からより遠くに位置が推定されるほど危険度が高いと判断される。この際、例えば、危険度を丸の色で示してもよい(例えば、緑は危険度小、赤は危険度大)。算出された危険度がある一定の閾値を超えた場合には、表示装置の画面上でアラート表示を行うことができる。または加えて、音声による通知を行ってもよい。
 よって、本発明の一部の態様は、画像処理装置であって、血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する画像取得部と、前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、前記画像において前記関心領域それぞれを追跡する追跡部と、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部であって、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が前記画像から消失することを条件として前記ユーザに通知する通知部と、前記関心領域が前記画像から消失する直前のカテーテルの先端部又はガイドワイヤの先端部の位置、速度および/または加速度に基づき、前記画像から消失したカテーテルの先端部又はガイドワイヤの先端部の現在位置および/または速度を推定する状態推定部を備え、状態推定部が推定した関心領域の現在位置および/または速度が所定の閾値を超えた場合にユーザに警告が通知される、画像処理装置にも関する。
 本発明の一部の態様は、上記の方法をコンピュータ上で実行するためのプログラムに関する。また、本発明の一部の態様は、上記の方法を実行する画像処理装置およびその作動方法に関する。
<フレーム外の関心領域の位置の推定の処理フロー>
 図24は、実施の形態に係る画像処理装置が実行するフレーム外の関心領域の位置の推定処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば画像処理装置1が起動したときに開始する。
 まず、画像取得部110、関心領域取得部111および追跡部112が機能することにより、動画解析によって、血管V内の検査用又は治療用のデバイスDが検出・追跡される(S302)。
 次に、通知すべきデバイスDの部位が画面の枠外に出たかどうかを判断し(S304)、条件が満たされている場合には、枠外のデバイスの位置を推測する(S306)。例えば、デバイスDとつながっている画面内に見えているガイドワイヤの黒い部分の手前側、フィルター、バルーンなどから、デバイスDの枠外での位置を推測する。推測には距離の差分や、機械学習などを用いることができる。
 次に、推測されるデバイスの位置を表示する(S308)。枠外に出たデバイスDの推測される位置を表示画面上に実際の推測位置もしくは枠からの距離などで表示する。枠から外れるほど、表示や通知を強くしても良い。
 最後に、デバイスDが画面の枠内に戻った、あるいはユーザ(術者・助手)が表示不要のボタンを押した等の理由から、推測が不要となったか否かを判断する(S310)。この終了後、本フローチャートにおける処理が再度開始されてもよい。
(レイアウト・通知)
 本発明の一部の態様では、画像解析の結果を、サイズの異なる2つの画面で表示することができる。上述のように、血管内手術では一般的に、複数の画面(例えば、4画面)を見ながら手術が行われ、術者は最低でも2画面(一般的には正面(AP方向もしくはF方向:Anterior-Posterior, Frontal)と側面(RL方向もしくはLAT方向:Right to Left, Lateral))を見ることにより立体的な情報を把握している。そのため、正面と側面の画像を表示しておくことは重要であり、物理的に限られたサイズのモニターに見やすく表示することは非常に重要である。実際の手術では、モニターは患者のベッド越しに1m以上離れて配置されることが多く、モニターを1cmでも術者に近づけるように指示が出されることも多い。なお、正面と側面は角度が立体的に動き、例えば正面の管球を用いて、右15度、頭側に10度の角度をつけて、斜めから見ることは常に行っている。これにより、3次元が2次元に投影された場合でも、2次元でもよく分かるように角度をつけて見ている。更に、4画面の場合は、正面のLiveとMask、側面のLiveとMaskとなる。Liveは通常の透視画像で一般的なレントゲン写真と似ており、それをリアルタイムで見ている。Maskは術者が選ぶ過去の任意のLive画像との差分(サブトラクション)を取っている。それにより、Liveで見えていた骨が消え、例えば、造影剤で写っている血管とデバイスのみが見えて、術者にわかりやすい映像が得られる。
 サイズの異なる2つの画面は、自動で、またはユーザ(術者)の選択により切り替えることができる(図18参照)。画面サイズには物理的限界があり、どちらかを大きく見たいことがあるため、図18に示されているようにして、2つの画面を異なるサイズで表示することにより、視認性を向上させることができる。
 さらに、通知すべき画面を、画面の枠部分を光らせる、色を変える、または強調表示することにより、ユーザに認識させることもできる(図19参照)。図19に示されているように、色の枠などで通知することにより、どちらの画面を注目すべきかが、ユーザに分かりやすくなる。小さい画面側で通知が発された場合は、自動的に2つの画面が入れ替わっても良い(これにより、注目すべき部位が、大きくて見やすい画面に切り替わる)。このように、本発明の一部の態様では、表示装置が、2つの画面のうち一方の画面の枠部分を光らせる、色を変える、または強調表示することにより、ユーザに注意を促す機能を備えていてもよい。
(確率に基づく表示)
 本発明の一部の態様では、画面内にある関心領域は確率分布として出力されるため、関心領域の存在を確率で表現することも可能である。存在する領域の確率分布は数値、色、バーなどで表示しても良い。さらに、通知すべき場面かどうかも確率で表現することも可能である。通知すべき場面かどうかを確率に応じた数値、色、バーなどで表示しても良い。また、画面内のどの部分が責任部分かを確率分布としてのヒートマップなどによる表示をしても良い。
 確率分布はわかりやすいように変換して表示しても良い。例えば、0~30%はlow、30~70%はmiddle、70~100%はhighとして文字表示したり、3色で表示したりしても良い。別の例として、70%未満の領域を少し暗くして、関心領域もしくは通知すべき領域がスポットライトのように明るく見えるようにしてもよい。
 よって、本発明の一部の態様では、通知部は、関心領域の少なくともいずれか一つが関心領域毎に定められた条件を満たす確率に応じた数値、色、バーもしくはヒートマップ、または確率分布に任意の変換をほどこした値にもとづく数値、色、バーもしくはヒートマップを、画像を表示する表示装置に表示することができる。また、通知部は、関心領域の少なくともいずれか一つが関心領域毎に定められた条件を満たす確率に応じた色もしくはヒートマップ、または確率分布を任意に変換した値に基づく色もしくはヒートマップにより、関心領域を着色して画像を表示する表示装置に表示、あるいは条件を満たす確率を数値もしくは色に置き換えて画像を表示する表示装置に表示してもよい。
(デバイスの選択表示・記録)
 血管内治療で使用するデバイスは様々なものがあり、それぞれにおいて多くの種類が存在する。デバイスの例としては、様々なカテーテル、バルーン付きカテーテル、ガイドワイヤ、ステント、フローダイバータステント(メッシュの細かいステント)、コイル、塞栓物質(液体や粒子などの物質)、その他の塞栓デバイス(WEBなど)がある。また、それぞれのデバイスにおいて、様々な種類がある。例えばカテーテルでは、先端形状・長さ・内腔・外腔・硬さなどの規格がある。コイルでは、メーカー・太さ・全長・直径・硬さなどの規格があり、数百種類存在する。これらを全て覚えておくことは不可能であり、また、在庫もあるかわからないため、手術中にそれを術者が業者に確認しながら、治療を進めていく。組み合わせも重要であり、またコイルの大きさなどは画像を見ながら判断していく。コイルは動脈瘤であれば通常5~15本くらい使用するため、次にどれを使うかを考えなければならないが、在庫管理やラインナップなどを術者・助手は覚えることは困難である。新製品が出たり、旧製品がなくなったりするため、状況を把握することも困難であり、また施設によって揃えているラインナップが変わる。現在は、治療中に業者とコミュニケーションを取ることにより、デバイスの選択をしているが、スムーズではない。
 まず、現在、その国で使用可能なデバイスのラインナップ・規格をデータベース化する。各施設での在庫情報を入れることもできる。その情報をモニター上に表示するシステムを構築する。例えば、マイクロカテーテルを選択すると、使用可能なマイクロカテーテルのラインナップ・規格・在庫情報などがリスト化されて表示される。付加情報として、ガイディングカテーテルにそのデバイスや複数のデバイスが入るかどうかという情報や検索も可能である。例えば、ガイディングカテーテルの内腔がRであり、2つのデバイスの外径がr1, r2であるとき、R>r1+r2であれば、2つのデバイスはガイディングカテーテルの中に入る。1つのデバイスや3つ以上のデバイスの場合も同様の考え方が利用できる。
 別の例として、コイルの場合、動脈瘤のサイズや前に入れたコイルの挙動により、コイルのラインナップ(長さ、直径、硬さ、形状など)の選択を行う。コイルのラインナップは数百種類あるが、長さなどを規定することによりリストアップが容易となる。それをモニターに表示することにより、治療中に選択をしやすくする。コイルの選択の多くは、直径や長さが同じか小さくしていくことが殆どのため、それまでに使用したコイルの情報から使用される可能性の高いコイルのラインナップを提示できる。在庫を考慮した提示もできる。また、施設や術者(ユーザ)に応じた好みをラインナップ候補に含めることもできる。画像解析により動脈瘤やコイルの巻き方に応じて提案してもよい。術者はこのようなリストから希望のデバイスを選択して手術を行う。これらの情報を記録しておき、治療動画のスナップショットと合わせるなどとして、手術記録を自動作成することができる。
 本発明の一部の態様では、画像を表示する表示装置は、血管内の検査用又は治療用のデバイス(例えば、各種カテーテルやコイル)の製品一覧を表示することができる(図20参照)。また、表示装置は、サイズまたは在庫により絞り込んだ製品一覧を表示してもよい。さらに、表示装置は、画像解析結果、施設の情報、またはユーザの好みの情報に基づき、推奨される製品のリストを表示してもよい。
 本発明の一部の態様では、画像処理装置は、使用されたデバイスの情報、取得された画像の情報、および画像解析結果を含む手術記録を自動で、またはユーザの選択に基づき作成することができる。
 よって、本発明の一部の態様は、血管内手術支援システムであって、血管内の検査用又は治療用のデバイス(例えば、各種カテーテルやコイル)の製品一覧を記憶した記憶部と、画像解析結果、施設の情報、またはユーザの好みの情報に基づき使用する製品を推奨する推奨部と、推奨される製品を表示する表示部とを含む、システムにも関する。
(例示的なシステム)
 本発明の一部の態様は、血管カテーテル手術支援システム、例えば、脳、心臓、四肢抹消、および腹部の血管、特に脳血管のカテーテル手術支援システムに関する。このようなシステムは、画像処理装置と、血管内に1又は複数のデバイスを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置とを備え、前記画像処理装置が、手術の目的を達成するための注目部と、血管内に挿入されたデバイスとを少なくとも含む領域(例えば、固定された領域)のX線画像を経時的に取得する画像取得部と、前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、前記画像において前記関心領域それぞれを追跡する追跡部と、前記関心領域の少なくともいずれか1つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部とを備え、前記1又は複数のデバイスがカテーテル、ガイドワイヤ、ステント及び/又はバルーンであり、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部、ステントの両端、バルーンの両端を含む領域が設定された場合において、前記関心領域が前記画像から消失すること、又は前記関心領域と前記画像の縁部との距離が所定の閾距離未満となること、または前記関心領域が一定距離ずれたことを条件として前記ユーザに通知する、システムでありうる。
 ここで、通知部は、関心領域と画像の縁部との距離又はマーカと関心領域との距離を、画像を表示する表示装置に表示させてもよく、通知部は、距離の大きさに応じて、表示装置における距離の表示態様を変化させることができ、表示態様の変化は、距離の大きさに応じて表示する文字のフォント、サイズ、もしくは色を変えること、距離の大きさに応じて表示装置の画面全体もしくは一部の場所の色を変えること、表示装置の画面全体もしくは枠外もしくは一部の場所に図形を表示する、距離の大きさに応じて関心領域を拡大表示する、又は距離の大きさに応じて関心領域に付するマークの色もしくはサイズを変えることを含みうる。また、通知部は、距離の大きさに応じて通知音を鳴らしてもよい。さらに、距離は、直線距離又は血管に沿った距離のいずれかにより決定されてもよい。
 また、本発明の一部の態様は、動脈瘤コイル塞栓術補助システム、特に脳動脈瘤コイル塞栓術補助システムに関する。このようなシステムは、画像処理装置と、血管内にガイディングカテーテルと塞栓用コイルのデリバリーワイヤとを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と備え、前記画像処理装置が、患者の血管に生じた動脈瘤と、血管内に挿入されたカテーテルと、塞栓用コイルのデリバリーワイヤとを少なくとも含む固定領域のX線画像を経時的に取得する画像取得部と、前記画像に含まれる前記ガイディングカテーテルの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、前記デリバリーワイヤに設けられたマーカであって、前記デリバリーワイヤを誘導する前記カテーテルの一部に設定された1又は複数の関心領域に接近するマーカを検出するマーカ検出部と、前記画像において前記関心領域及び前記マーカそれぞれを追跡する追跡部と、前記マーカと前記関心領域とが重畳することを契機として、塞栓用コイルを該デリバリーワイヤから切断してもよいタイミングをユーザに通知する通知部とを備える、システムでありうる。
 ここで、通知部は、関心領域と画像の縁部との距離又はマーカと関心領域との距離を、画像を表示する表示装置に表示させてもよく、通知部は、距離の大きさに応じて、表示装置における距離の表示態様を変化させることができ、表示態様の変化は、距離の大きさに応じて表示する文字のフォント、サイズ、もしくは色を変えること、距離の大きさに応じて表示装置の画面全体もしくは一部の場所の色を変えること、表示装置の画面全体もしくは枠外もしくは一部の場所に図形を表示する、距離の大きさに応じて関心領域を拡大表示する、又は距離の大きさに応じて関心領域に付するマークの色もしくはサイズを変えることを含みうる。また、通知部は、距離の大きさに応じて通知音を鳴らしてもよい。さらに、距離は、直線距離又は血管に沿った距離のいずれかにより決定されてもよい。
<画像処理装置1が実行する画像処理方法の処理フロー>
 図10は、実施の形態に係る画像処理装置1が実行する画像解析処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば画像処理装置1が起動したときに開始する。
 画像取得部110は、血管Vと、血管V内の検査用又は治療用のデバイスDとを少なくとも被写体に含む、X線の吸収率に基づいて作成されたX線画像を取得する(S2)。関心領域取得部111は、X線画像に含まれるデバイスDの少なくとも一部を含む1又は複数の領域を関心領域Rとして取得する(S4)。
 追跡部112は、X線画像において関心領域Rそれぞれを追跡する(S6)。関心領域Rの少なくともいずれか一つが関心領域R毎に定められた条件を満たす場合(S8のYes)、通知部113は、そのことを画像処理装置1のユーザに通知する(S10)。全ての関心領域Rがいずれも定められた条件を満たさない場合(S8のNo)、通知部113は、通知処理をスキップする。
 画像処理が終了するまでの間(S12のNo)、画像処理装置1はステップS6の処理に戻ってステップS6からステップS10までの処理を繰り返す。画像処理の終了する場合(S12のYes)、本フローチャートにおける処理は終了する。
<血管撮影の診断、比較>
 血管撮影の検査や治療において、造影によって血管の撮影を行い、病変を診断するが、見落とすことや、同日の前に撮った撮影や、別の日の撮影と比較して判断しなければならず、時間がかかったり、比較が難しかったりすることがある。また二次元に投影されるため、判断が難しいことがある。よって、本発明の一部の態様は、造影剤による血管撮影において、ディープラーニングなどを用いて、脳動脈瘤、狭窄、閉塞、血栓形成、血管穿孔(造影剤の流出)、シャント疾患、腫瘍血管の栄養血管・腫瘍濃染、静脈血栓症、毛細血管相の無血管領域(血管閉塞の所見)、側副血行路などを含むが、これらに限定はされない病変または部位を指摘する画像診断装置に関する。よって、本発明の一部の態様において、画像処理装置は、前記画像中の動脈瘤、狭窄、血管攣縮、解離、閉塞、再開通、血栓形成、血栓の部位と両端の位置、血管穿孔、造影剤の血管外への漏出、血管の石灰化、動脈硬化、シャント疾患やその栄養血管や流出血管、血液(造影剤)の逆流、脳動静脈奇形、硬膜動静脈瘻、無血管領域、骨のメルクマーク(内耳道、眼底、眼窩上縁、錐体部、大後頭孔、頚椎、鎖骨、肋骨・脊椎の番号、大腿骨頭、骨盤)、腫瘍血管の栄養血管・腫瘍濃染、静脈閉塞、静脈洞血栓症、毛細血管相の無血管領域、血管閉塞、コイルの動脈瘤内の形状や分布、バルーンの位置・膨らみ・形状、コイルの正常血管への逸脱、ステントの拡張不足や血管への密着度合いやねじれ、ステントの移動、ステントの両端の位置、穿刺部と血管の位置関係(狭窄がないか、分岐部近くにないか)、血管の蛇行、大動脈弓部のタイプ(右腕頭動脈が大動脈弓部のトップからどのくらい下にあるか)、液体塞栓物質の浸透範囲、血液(造影剤)の流れの遅延や停滞、血管のバリエーション(前交通動脈・前大脳動脈A1・後交通動脈・後大脳動脈P1・後下小脳動脈・前下小脳動脈・上小脳動脈・浅側頭動脈・各静脈洞・各静脈の有無・発達度合い)、もやもや血管(内頚動脈先端部の狭窄・閉塞とその先の側副血行路の発達)、動脈の分岐部とセグメント(内頚動脈錐体部・海綿静脈洞部・眼動脈部、中大脳動脈M1の分岐部)の位置、過去の手術痕跡(クリップ、コイル、プレート、シャントチューブ・バルブ、脳室チューブ、脳槽チューブ)、WEBデバイスの位置・開き具合、異物(義歯、プレート)、および側副血行路から成る群より選択される病変を認識する病変認識部をさらに含むことができる。指摘まで行わず、異常所見が疑わしい場合に通知したり、どのあたりが異常な可能性があるかを領域で指摘したりしても良い。その場合、最終的には医師が判断することができる。同様に、本発明の一部の態様は、血管撮影を行った際に、前の撮影と比較して、もしくは別の日に行った撮影と比較して、その変化を指摘する画像診断装置に関する。よって、本発明の一部の態様において、画像処理装置は、画像中の血管撮影像を以前に取得して記憶した血管撮影像と比較して、変化を通知する画像認識部をさらに含むことができる。例えば、血管攣縮の程度の変化、血栓形成の変化(出現、消失、拡大、縮小など)、閉塞血管の解除、血管の閉塞、コイルの逸脱、ステントの移動などを指摘することができる。
<実施の形態に係る画像処理装置1が奏する効果>
 以上説明したように、実施の形態に係る画像処理装置1によれば、血管のカテーテル検査又は治療において、医療従事者であるユーザを注目部における作業に集中させ、注目部の判断をサポートするための技術を提供することができる。
 以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果をあわせ持つ。
<第1の変形例>
 上記では、脳血管の検査又は治療について主に説明した。しかしながら、本発明の適用対象は脳血管に限られず、心臓、四肢抹消、腹部など、循環器領域を含む血管内の検査及び治療に適用できる。
<第2の変形例>
 上記では、図7(a)-(b)のような2画面の装置を例に説明を行ったが、画面の数はこれに限定されず、例えば1画面や3画面以上であってもよい。
<第3の変形例>
 上記では、X線撮像装置3が被験者Pの術部の画像を撮影する場合について説明した。しかしながら、被験者Pの術部の画像を撮影する撮像装置はX線撮像装置3に限られない。この他、例えばMRI(Magnetic Resonance Imaging)や超音波撮影装置等のモダリティを用いて術部の画像を撮影してもよい。
<実施形態の例示>
 上記の実施形態の一部または全部は、以下の付記のようにも記載されうるが、本出願の開示事項は以下の付記に限定はされない。
(付記1)
 画像処理装置であって、
 血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する画像取得部と、
 前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、
 前記画像において前記関心領域それぞれを追跡する追跡部と、
 前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部と、
 を備える画像処理装置。
(付記2)
 前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が前記画像から消失することを条件として前記ユーザに通知する、
 付記1に記載の画像処理装置。
(付記3)
 前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域と前記画像の縁部との距離が所定の閾距離未満となることを条件として前記ユーザに通知する、
 付記1に記載の画像処理装置。
(付記4)
 前記通知部は、前記画像内における前記関心領域の移動距離、移動速度、及び加速度の少なくともいずれか1つがあらかじめ定められた閾値を超えることを条件として前記ユーザに通知する、
 付記1から3のいずれか1項に記載の画像処理装置。
(付記5)
 前記通知部は、前記関心領域と前記画像の縁部との距離を、前記画像を表示する表示装置に表示させる、
 付記1から4のいずれか1項に記載の画像処理装置。
(付記6)
 前記通知部は、前記関心領域と前記画像の縁部との距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させる、
 付記5に記載の画像処理装置。
(付記7)
 前記通知部は、前記関心領域と前記画像の縁部との距離を前記画像内における前記関心領域の移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、前記ユーザに通知する、
 付記1から6のいずれか1項に記載の画像処理装置。
(付記8)
 塞栓用コイルのデリバリーワイヤに設けられたマーカであって、前記デリバリーワイヤを誘導するマイクロカテーテルの一部に設定された関心領域に接近するマーカを検出するマーカ検出部をさらに備え、
 前記追跡部は、検出された前記マーカをさらに追跡し、
 前記通知部は、前記マーカと前記関心領域とが重畳することを契機として、前記塞栓用コイルを前記デリバリーワイヤから切断してもよいタイミングを前記ユーザに通知する、
 付記1から7のいずれか1項に記載の画像処理装置。
(付記9)
 前記通知部は、前記マーカが前記関心領域を通過した場合、そのことを前記ユーザに通知する、
 付記8に記載の画像処理装置。
(付記10)
 前記通知部は、前記塞栓用コイルを前記デリバリーワイヤから切断するまでに前記マーカが移動すべき距離を表示装置に表示させる、
 付記8又は9に記載の画像処理装置。
(付記11)
 前記通知部は、前記関心領域に含まれる前記デバイスの形状を示す特徴量が所定の条件を満たす場合、そのことを前記画像処理装置のユーザに通知する、
 付記1から10のいずれか1項に記載の画像処理装置。
(付記12)
 前記特徴量は曲率であり、
 前記通知部は、前記関心領域に含まれる前記デバイスの曲率が所定の閾曲率を超えること、もしくは曲率が変化しているのに先端が動かないことを条件として前記ユーザに通知する、
 付記11に記載の画像処理装置。
(付記13)
 前記通知部は、前記画像または関心領域に含まれる前記デバイスの長さから前記画像または関心領域に含まれる前記血管の中心線の長さを減じた値が所定の閾長さを超えることを条件として前記ユーザに通知する、
 付記11又は12に記載の画像処理装置。
(付記14)
 前記通知部は、前記関心領域を前記画像と異なる色に着色して表示させる、表示する文字のフォント、サイズもしくは色を変える、表示装置の画面全体もしくは一部の場所の色を変える、表示装置の画面全体もしくは枠外もしくは一部の場所に図形を表示する、関心領域を拡大表示する、または関心領域に付するマークの色もしくはサイズを変えることによりユーザに通知を行う、付記1から13のいずれか1項に記載の画像処理装置。
(付記15)
 前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が動いたこと、または前記関心領域が、前記画像上において指定された特定の範囲を超えたことを条件として前記ユーザに通知する、
 付記1から14のいずれか1項に記載の画像処理装置。
(付記16)
 画像取得部から得た画像または動画を経時的に保存する映像記憶部をさらに含む、付記1から15のいずれか1項に記載の画像処理装置。
(付記17)
 通知部が通知を発した前後の一定の期間の映像またはユーザが指定した任意の時間または期間の映像を前記映像記憶部より抽出する映像抽出部をさらに含む、付記16に記載の画像処理装置。
(付記18)
 通知が発生した際の関心領域の移動距離、移動速度、及び加速度の少なくともいずれか1つに基づき、映像の抽出期間が自動で決定されることを特徴とする、付記17に記載の画像処理装置。
(付記19)
 抽出された映像を表示装置に表示させる、付記17または18に記載の画像処理装置。
(付記20)
 抽出された映像が、自動的に所定の回数繰り返して表示される、付記19に記載の画像処理装置。
(付記21)
 再生、停止、早送り、巻き戻し、コマ送り、スロー再生、倍速再生を含む任意の操作に基づいて、抽出された映像が表示される、付記20に記載の画像処理装置。
(付記22)
 通知が発生した時点からの経過時間、通知が発生した時点と任意の時間の経過後における関心領域の位置の比較、または追跡部が取得した関心領域の軌跡が、抽出された映像に重畳してさらに表示される、付記17から21のいずれか1項に記載の画像処理装置。
(付記23)
 抽出された映像が、関心領域の近傍の一部の領域を切り出して表示される、付記17から22のいずれか1項に記載の画像処理装置。
(付記24)
 抽出された映像が、関心領域の表示を妨げない位置に表示される、付記17から23のいずれか1項に記載の画像処理装置。
(付記25)
 抽出された映像が、拡大されて表示される、付記17から24のいずれか1項に記載の画像処理装置。
(付記26)
 抽出された映像が、通知の発生と同時または通知の発生から所定時間の経過後に表示される、付記17から25のいずれか1項に記載の画像処理装置。
(付記27)
 複数の方向から撮影された映像が同時に表示される、付記17から26のいずれか1項に記載の画像処理装置。
(付記28)
 前記関心領域が前記画像から消失する直前のカテーテルの先端部又はガイドワイヤの先端部の位置、速度および/または加速度に基づき、前記画像から消失したカテーテルの先端部又はガイドワイヤの先端部の現在位置および/または速度を推定する状態推定部をさらに備える、付記2から27のいずれか1項に記載の画像処理装置。
(付記29)
 状態推定部が推定した関心領域の現在位置および/または速度が所定の閾値を超えた場合にユーザに警告が通知される、付記28に記載の画像処理装置。
(付記30)
 前記画像を表示する表示装置が、2つの画像をサイズの異なる2つの画面に表示する、付記1から29のいずれか1項に記載の画像処理装置。
(付記31)
 前記表示装置が、2つの画面のうち一方の画面の枠部分を光らせる、色を変える、または強調表示することにより、ユーザに注意を促す、付記30項に記載の画像処理装置。
(付記32)
 前記画像を表示する表示装置が、血管内の検査用又は治療用のデバイスの製品一覧を表示する、付記1から31のいずれか1項に記載の画像処理装置。
(付記33)
 前記表示装置が、サイズまたは在庫により絞り込んだ製品一覧を表示する、付記32に記載の画像処理装置。
(付記34)
 前記表示装置が、画像解析結果、施設の情報、またはユーザの好みの情報に基づき、推奨される製品のリストを表示する、付記32または33に記載の画像処理装置。
(付記35)
 使用されたデバイスの情報、取得された画像の情報、および画像解析結果を含む手術記録を自動で、またはユーザの選択に基づき作成する、付記1から34のいずれか1項に記載の画像処理装置。
(付記36)
 前記通知部は、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす確率に応じた数値、色、バーもしくはヒートマップ、または確率分布に任意の変換をほどこした値にもとづく数値、色、バーもしくはヒートマップを、前記画像を表示する表示装置に表示する、付記1から35のいずれか1項に記載の画像処理装置。
(付記37)
 前記通知部は、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす確率に応じた色もしくはヒートマップ、または確率分布を任意に変換した値に基づく色もしくはヒートマップにより、前記関心領域を着色して前記画像を表示する表示装置に表示する、あるいは条件を満たす確率を数値もしくは色に置き換えて前記画像を表示する表示装置に表示する、付記1から35のいずれか1項に記載の画像処理装置。
(付記38)
 前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が動いたこと、または前記関心領域が、画像上において指定された特定の範囲を超えたことを条件として前記ユーザに通知する、付記1から37のいずれか1項に記載の画像処理装置。
(付記39)
 前記特定の範囲の境界線が、直線、曲線、円形、矩形、または、その他の多角形により表される、付記38に記載の画像処理装置。
(付記40)
 前記特定の範囲が、X線画像上に重畳表示される、付記38または39に記載の画像処理装置。
(付記41)
 前記通知部は、前記関心領域と前記特定の範囲の縁部との距離を、前記画像を表示する表示装置に表示させる、付記38から40のいずれか1項に記載の画像処理装置。
(付記42)
 前記通知部は、前記関心領域と前記特定の範囲の縁部との距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させる、付記41に記載の画像処理装置。
(付記43)
 前記通知部は、前記関心領域と前記特定の範囲の縁部との距離を前記画像内における前記関心領域の移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、前記ユーザに通知する、付記38から42のいずれか1項に記載の画像処理装置。
(付記44)
 前記距離が、直線距離又は血管に沿った距離のいずれかにより決定される、付記3から43のいずれか1項に記載の画像処理装置。
(付記45)
 血管内の検査用又は治療用のデバイスの任意の時点における位置および/もしくは形状を取得して記憶する記憶部を含み、記憶されたデバイスの位置および/もしくは形状が取得以降の画像に重畳表示される、付記1から44のいずれか1項に記載の画像処理装置。
(付記46)
 前記画像中の脳動脈瘤、狭窄、閉塞、血栓形成、血管穿孔、造影剤の血管外への漏出、シャント疾患、腫瘍血管の栄養血管・腫瘍濃染、静脈血栓症、毛細血管相の無血管領域、血管閉塞、および側副血行路から成る群より選択される病変を認識する病変認識部をさらに含む、付記1から42のいずれか1項に記載の画像処理装置。
(付記47)
 前記画像中の血管撮影像を以前に取得して記憶した血管撮影像と比較して、変化を通知する画像認識部をさらに含む、付記1から43のいずれか1項に記載の画像処理装置。
(付記48)
 画像処理装置のプロセッサが、
 血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得するステップと、
 前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得するステップと、
 前記画像において前記関心領域それぞれを追跡するステップと、
 前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知するステップと、
 を実行する画像処理方法。
(付記49)
 コンピュータに、
 血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する機能と、
 前記X線画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する機能と、
 前記X線画像において前記関心領域それぞれを追跡する機能と、
 前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記コンピュータのユーザに通知する機能と、
 を実現させるプログラム。
(付記50)
 付記1から44のいずれか1項に記載の画像処理装置と、
 血管内の検査用又は治療用のデバイスを挿入した状態の人物の画像を撮像して前記画像処理装置に送信する撮像装置と、
 を備える画像処理システム。
(付記51)
 脳血管カテーテル手術支援システムであって、
 画像処理装置と、
 血管内に1又は複数のデバイスを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と
を備え、
 前記画像処理装置が、
 手術の目的を達成するための注目部と、血管内に挿入されたデバイスとを少なくとも含む固定領域のX線画像を経時的に取得する画像取得部と、
 前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、
 前記画像において前記関心領域それぞれを追跡する追跡部と、
 前記関心領域の少なくともいずれか1つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部と
を備え、
 前記1又は複数のデバイスがカテーテル、ガイドワイヤ、ステント及び/又はバルーンであり、
 前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部、ステントの両端、バルーンの両端を含む領域が設定された場合において、前記関心領域が前記画像から消失すること、又は前記関心領域と前記画像の縁部との距離が所定の閾距離未満となることを条件として前記ユーザに通知する、
システム。
(付記52)
 脳動脈瘤コイル塞栓術補助システムであって、
 画像処理装置と、
 血管内にガイディングカテーテルと塞栓用コイルのデリバリーワイヤとを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と
を備え、
 前記画像処理装置が、
 患者の血管に生じた動脈瘤と、血管内に挿入されたカテーテルと、塞栓用コイルのデリバリーワイヤとを少なくとも含む固定領域のX線画像を経時的に取得する画像取得部と、
 前記画像に含まれる前記ガイディングカテーテルの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、
 前記デリバリーワイヤに設けられたマーカであって、前記デリバリーワイヤを誘導する前記カテーテルの一部に設定された1又は複数の関心領域に接近するマーカを検出するマーカ検出部と、
 前記画像において前記関心領域及び前記マーカそれぞれを追跡する追跡部と、
 前記マーカと前記関心領域とが重畳することを契機として、塞栓用コイルを該デリバリーワイヤから切断してもよいタイミングをユーザに通知する通知部と
を備える、システム。
(付記53)
 前記通知部が、前記関心領域と前記画像の縁部との距離又は前記マーカと前記関心領域との距離を、前記画像を表示する表示装置に表示させ、
 ここで、前記通知部は、前記距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させることができ、表示態様の変化が、前記距離の大きさに応じて表示する文字のフォント、サイズ、もしくは色を変えること、前記距離の大きさに応じて表示装置の画面全体もしくは一部の場所の色を変えること、表示装置の画面全体もしくは枠外もしくは一部の場所に図形を表示する、前記距離の大きさに応じて関心領域を拡大表示する、又は前記距離の大きさに応じて関心領域に付するマークの色もしくはサイズを変えることを含む、付記51または52記載のシステム。
(付記54)
 前記通知部が、前記距離の大きさに応じて通知音を鳴らすことができる、もしくは振動を伝えることができる、付記51から53のいずれか1項に記載のシステム。
(付記55)
 前記距離が、直線距離又は血管に沿った距離のいずれかにより決定される、付記51から54のいずれか1項に記載のシステム。
(付記56)
 脳動脈瘤コイル塞栓術補助システムであって、
 画像処理装置と、
 血管内にガイディングカテーテルと塞栓用コイルのデリバリーワイヤとを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と
を備え、
 前記画像処理装置が、
 カテーテルの先端と2ndマーカとの位置関係を記憶する位置関係記憶部と、
 動脈瘤のネックラインと1stマーカとの距離a及びその時点t1における2ndマーカの位置を記憶する位置記憶部と、
 時点t2における2ndマーカの位置から移動距離bを算出し、カテーテルの先端の動脈瘤ネックラインからの距離a-bを推定する距離推定部と
 推定された距離をユーザに通知する通知部と
を備える、システム。
(付記57)
 推定された距離が確率分布により表される、付記546記載のシステム。
(付記58)
 推定されるカテーテル先端の位置が確率分布に基づき着色して表示される、付記56または57に記載のシステム。
(付記59)
 血管内手術支援システムであって、血管内の検査用又は治療用のデバイスの製品一覧を記憶した記憶部と、画像解析結果、施設の情報、またはユーザの好みの情報に基づき使用する製品を推奨する推奨部と、推奨される製品を表示する表示部とを含む、システム。
1・・・画像処理装置
10・・・記憶部
11・・・制御部
110・・・画像取得部
111・・・関心領域取得部
112・・・追跡部
113・・・通知部
114・・・マーカ検出部
115・・・測距部
2・・・表示装置
3・・・X線撮像装置
30・・・X線照射器
31・・・X線検出器
32・・・寝台
D・・・デバイス
E・・・塞栓用コイル
P・・・被験者
S・・・画像処理システム

Claims (56)

  1.  画像処理装置であって、
     血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する画像取得部と、
     前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、
     前記画像において前記関心領域それぞれを追跡する追跡部と、
     前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部と、
     を備える画像処理装置。
  2.  前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が前記画像から消失することを条件として前記ユーザに通知する、
     請求項1に記載の画像処理装置。
  3.  前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域と前記画像の縁部との距離が所定の閾距離未満となることを条件として前記ユーザに通知する、
     請求項1に記載の画像処理装置。
  4.  前記通知部は、前記画像内における前記関心領域の移動距離、移動速度、及び加速度の少なくともいずれか1つがあらかじめ定められた閾値を超えることを条件として前記ユーザに通知する、
     請求項1から3のいずれか1項に記載の画像処理装置。
  5.  前記通知部は、前記関心領域と前記画像の縁部との距離を、前記画像を表示する表示装置に表示させる、
     請求項1から4のいずれか1項に記載の画像処理装置。
  6.  前記通知部は、前記関心領域と前記画像の縁部との距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させる、
     請求項5に記載の画像処理装置。
  7.  前記通知部は、前記関心領域と前記画像の縁部との距離を前記画像内における前記関心領域の移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、前記ユーザに通知する、
     請求項1から6のいずれか1項に記載の画像処理装置。
  8.  塞栓用コイルのデリバリーワイヤに設けられたマーカであって、前記デリバリーワイヤを誘導するマイクロカテーテルの一部に設定された関心領域に接近するマーカを検出するマーカ検出部をさらに備え、
     前記追跡部は、検出された前記マーカをさらに追跡し、
     前記通知部は、前記マーカと前記関心領域とが重畳することを契機として、前記塞栓用コイルを前記デリバリーワイヤから切断してもよいタイミングを前記ユーザに通知する、
     請求項1から7のいずれか1項に記載の画像処理装置。
  9.  前記通知部は、前記マーカが前記関心領域を通過した場合、そのことを前記ユーザに通知する、
     請求項8に記載の画像処理装置。
  10.  前記通知部は、前記塞栓用コイルを前記デリバリーワイヤから切断するまでに前記マーカが移動すべき距離を表示装置に表示させる、
     請求項8又は9に記載の画像処理装置。
  11.  前記通知部は、前記関心領域に含まれる前記デバイスの形状を示す特徴量が所定の条件を満たす場合、そのことを前記画像処理装置のユーザに通知する、
     請求項1から10のいずれか1項に記載の画像処理装置。
  12.  前記特徴量は曲率であり、
     前記通知部は、前記関心領域に含まれる前記デバイスの曲率が所定の閾曲率を超えること、もしくは曲率が変化しているのに先端が動かないことを条件として前記ユーザに通知する、
     請求項11に記載の画像処理装置。
  13.  前記通知部は、前記画像または関心領域に含まれる前記デバイスの長さから前記画像または関心領域に含まれる前記血管の中心線の長さを減じた値が所定の閾長さを超えることを条件として前記ユーザに通知する、
     請求項11又は12に記載の画像処理装置。
  14.  前記通知部は、前記関心領域を前記画像と異なる色に着色して表示させる、表示する文字のフォント、サイズもしくは色を変える、表示装置の画面全体もしくは一部の場所の色を変える、表示装置の画面全体もしくは枠外もしくは一部の場所に図形を表示する、関心領域を拡大表示する、または関心領域に付するマークの色もしくはサイズを変えることによりユーザに通知を行う、請求項1から13のいずれか1項に記載の画像処理装置。
  15.  前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が動いたこと、または前記関心領域が、前記画像上において指定された特定の範囲を超えたことを条件として前記ユーザに通知する、
     請求項1から14のいずれか1項に記載の画像処理装置。
  16.  画像取得部から得た画像または動画を経時的に保存する映像記憶部と、
     通知部が通知を発した前後の一定の期間の映像またはユーザが指定した任意の時間または期間の映像を前記映像記憶部より抽出する映像抽出部をさらに含み、
    抽出された映像を表示装置に表示させる、請求項1から15のいずれか1項に記載の画像処理装置。
  17.  通知が発生した際の関心領域の移動距離、移動速度、及び加速度の少なくともいずれか1つに基づき、映像の抽出期間が自動で決定されることを特徴とする、請求項16に記載の画像処理装置。
  18.  抽出された映像が、自動的に所定の回数繰り返して表示される、請求項16または17に記載の画像処理装置。
  19.  再生、停止、早送り、巻き戻し、コマ送り、スロー再生、倍速再生を含む任意の操作に基づいて、抽出された映像が表示される、請求項16から18のいずれか1項に記載の画像処理装置。
  20.  通知が発生した時点からの経過時間、通知が発生した時点と任意の時間の経過後における関心領域の位置の比較、または追跡部が取得した関心領域の軌跡が、抽出された映像に重畳してさらに表示される、請求項16から19のいずれか1項に記載の画像処理装置。
  21.  抽出された映像が、関心領域の近傍の一部の領域を切り出して表示される、請求項16から20のいずれか1項に記載の画像処理装置。
  22.  抽出された映像が、関心領域の表示を妨げない位置に表示される、および/または、拡大されて表示される、請求項16から21のいずれか1項に記載の画像処理装置。
  23.  抽出された映像が、通知の発生と同時または通知の発生から所定時間の経過後に表示される、請求項16から22のいずれか1項に記載の画像処理装置。
  24.  複数の方向から撮影された映像が同時に表示される、請求項16から23のいずれか1項に記載の画像処理装置。
  25.  前記関心領域が前記画像から消失する直前のカテーテルの先端部又はガイドワイヤの先端部の位置、速度および/または加速度に基づき、前記画像から消失したカテーテルの先端部又はガイドワイヤの先端部の現在位置および/または速度を推定する状態推定部をさらに備える、請求項2から24のいずれか1項に記載の画像処理装置。
  26.  状態推定部が推定した関心領域の現在位置および/または速度が所定の閾値を超えた場合にユーザに警告が通知される、請求項25に記載の画像処理装置。
  27.  前記画像を表示する表示装置が、2つの画像をサイズの異なる2つの画面に表示する、請求項1から26のいずれか1項に記載の画像処理装置。
  28.  前記表示装置が、2つの画面のうち一方の画面の枠部分を光らせる、色を変える、または強調表示することにより、ユーザに注意を促す、請求項27項に記載の画像処理装置。
  29.  前記画像を表示する表示装置が、血管内の検査用又は治療用のデバイスの製品一覧を表示する、請求項1から28のいずれか1項に記載の画像処理装置。
  30.  前記表示装置が、サイズまたは在庫により絞り込んだ製品一覧を表示する、請求項29に記載の画像処理装置。
  31.  前記表示装置が、画像解析結果、施設の情報、またはユーザの好みの情報に基づき、推奨される製品のリストを表示する、請求項29または30に記載の画像処理装置。
  32.  使用されたデバイスの情報、取得された画像の情報、および画像解析結果を含む手術記録を自動で、またはユーザの選択に基づき作成する、請求項1から31のいずれか1項に記載の画像処理装置。
  33.  前記通知部は、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす確率に応じた数値、色、バーもしくはヒートマップ、または確率分布に任意の変換をほどこした値にもとづく数値、色、バーもしくはヒートマップを、前記画像を表示する表示装置に表示する、請求項1から32のいずれか1項に記載の画像処理装置。
  34.  前記通知部は、前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす確率に応じた色もしくはヒートマップ、または確率分布を任意に変換した値に基づく色もしくはヒートマップにより、前記関心領域を着色して前記画像を表示する表示装置に表示する、あるいは条件を満たす確率を数値もしくは色に置き換えて前記画像を表示する表示装置に表示する、請求項1から33のいずれか1項に記載の画像処理装置。
  35.  前記通知部は、前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部を含む領域が設定された場合において、前記関心領域が動いたこと、または前記関心領域が、画像上において指定された特定の範囲を超えたことを条件として前記ユーザに通知する、請求項1から34のいずれか1項に記載の画像処理装置。
  36.  前記特定の範囲の境界線が、直線、曲線、円形、矩形、または、その他の多角形により表される、請求項35に記載の画像処理装置。
  37.  前記特定の範囲が、X線画像上に重畳表示される、請求項35または36に記載の画像処理装置。
  38.  前記通知部は、前記関心領域と前記特定の範囲の縁部との距離を、前記画像を表示する表示装置に表示させる、請求項35から37のいずれか1項に記載の画像処理装置。
  39.  前記通知部は、前記関心領域と前記特定の範囲の縁部との距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させる、請求項38に記載の画像処理装置。
  40.  前記通知部は、前記関心領域と前記特定の範囲の縁部との距離を前記画像内における前記関心領域の移動速度で除算した値があらかじめ定められた閾値未満となることを条件として、前記ユーザに通知する、請求項35から39のいずれか1項に記載の画像処理装置。
  41.  前記距離が、直線距離又は血管に沿った距離のいずれかにより決定される、請求項3から40のいずれか1項に記載の画像処理装置。
  42.  血管内の検査用又は治療用のデバイスの任意の時点における位置および/もしくは形状を取得して記憶する記憶部を含み、記憶されたデバイスの位置および/もしくは形状が取得以降の画像に重畳表示される、請求項1から41のいずれか1項に記載の画像処理装置。
  43.  前記画像中の動脈瘤、狭窄、血管攣縮、解離、閉塞、再開通、血栓形成、血栓の部位と両端の位置、血管穿孔、造影剤の血管外への漏出、血管の石灰化、動脈硬化、シャント疾患やその栄養血管や流出血管、血液(造影剤)の逆流、脳動静脈奇形、硬膜動静脈瘻、無血管領域、骨のメルクマーク(内耳道、眼底、眼窩上縁、錐体部、大後頭孔、頚椎、鎖骨、肋骨・脊椎の番号、大腿骨頭、骨盤)、腫瘍血管の栄養血管・腫瘍濃染、静脈閉塞、静脈洞血栓症、毛細血管相の無血管領域、血管閉塞、コイルの動脈瘤内の形状や分布、バルーンの位置・膨らみ・形状、コイルの正常血管への逸脱、ステントの拡張不足や血管への密着度合いやねじれ、ステントの移動、ステントの両端の位置、穿刺部と血管の位置関係(狭窄がないか、分岐部近くにないか)、血管の蛇行、大動脈弓部のタイプ(右腕頭動脈が大動脈弓部のトップからどのくらい下にあるか)、液体塞栓物質の浸透範囲、血液(造影剤)の流れの遅延や停滞、血管のバリエーション(前交通動脈・前大脳動脈A1・後交通動脈・後大脳動脈P1・後下小脳動脈・前下小脳動脈・上小脳動脈・浅側頭動脈・各静脈洞・各静脈の有無・発達度合い)、もやもや血管(内頚動脈先端部の狭窄・閉塞とその先の側副血行路の発達)、動脈の分岐部とセグメント(内頚動脈錐体部・海綿静脈洞部・眼動脈部、中大脳動脈M1の分岐部)の位置、過去の手術痕跡(クリップ、コイル、プレート、シャントチューブ・バルブ、脳室チューブ、脳槽チューブ)、WEBデバイスの位置・開き具合、異物(義歯、プレート)、および側副血行路から成る群より選択される病変を認識する病変認識部をさらに含む、請求項1から42のいずれか1項に記載の画像処理装置。
  44.  前記画像中の血管撮影像を以前に取得して記憶した血管撮影像と比較して、変化を通知する画像認識部をさらに含む、請求項1から43のいずれか1項に記載の画像処理装置。
  45.  画像処理装置のプロセッサが、
     血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得するステップと、
     前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得するステップと、
     前記画像において前記関心領域それぞれを追跡するステップと、
     前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知するステップと、
     を実行する画像処理方法。
  46.  コンピュータに、
     血管内の検査用又は治療用のデバイスを少なくとも被写体に含む画像を取得する機能と、
     前記X線画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する機能と、
     前記X線画像において前記関心領域それぞれを追跡する機能と、
     前記関心領域の少なくともいずれか一つが前記関心領域毎に定められた条件を満たす場合、そのことを前記コンピュータのユーザに通知する機能と、
     を実現させるプログラム。
  47.  請求項1から42のいずれか1項に記載の画像処理装置と、
     血管内の検査用又は治療用のデバイスを挿入した状態の人物の画像を撮像して前記画像処理装置に送信する撮像装置と、
     を備える画像処理システム。
  48.  脳血管カテーテル手術支援システムであって、
     画像処理装置と、
     血管内に1又は複数のデバイスを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と
    を備え、
     前記画像処理装置が、
     手術の目的を達成するための注目部と、血管内に挿入されたデバイスとを少なくとも含む固定領域のX線画像を経時的に取得する画像取得部と、
     前記画像に含まれる前記デバイスの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、
     前記画像において前記関心領域それぞれを追跡する追跡部と、
     前記関心領域の少なくともいずれか1つが前記関心領域毎に定められた条件を満たす場合、そのことを前記画像処理装置のユーザに通知する通知部と
    を備え、
     前記1又は複数のデバイスがカテーテル、ガイドワイヤ、ステント及び/又はバルーンであり、
     前記関心領域としてカテーテルの先端部又はガイドワイヤの先端部、ステントの両端、バルーンの両端を含む領域が設定された場合において、前記関心領域が前記画像から消失すること、又は前記関心領域と前記画像の縁部との距離が所定の閾距離未満となることを条件として前記ユーザに通知する、
    システム。
  49.  脳動脈瘤コイル塞栓術補助システムであって、
     画像処理装置と、
     血管内にガイディングカテーテルと塞栓用コイルのデリバリーワイヤとを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と
    を備え、
     前記画像処理装置が、
     患者の血管に生じた動脈瘤と、血管内に挿入されたカテーテルと、塞栓用コイルのデリバリーワイヤとを少なくとも含む固定領域のX線画像を経時的に取得する画像取得部と、
     前記画像に含まれる前記ガイディングカテーテルの少なくとも一部を含む1又は複数の領域を関心領域として取得する関心領域取得部と、
     前記デリバリーワイヤに設けられたマーカであって、前記デリバリーワイヤを誘導する前記カテーテルの一部に設定された1又は複数の関心領域に接近するマーカを検出するマーカ検出部と、
     前記画像において前記関心領域及び前記マーカそれぞれを追跡する追跡部と、
     前記マーカと前記関心領域とが重畳することを契機として、塞栓用コイルを該デリバリーワイヤから切断してもよいタイミングをユーザに通知する通知部と
    を備える、システム。
  50.  前記通知部が、前記関心領域と前記画像の縁部との距離又は前記マーカと前記関心領域との距離を、前記画像を表示する表示装置に表示させ、
     ここで、前記通知部は、前記距離の大きさに応じて、前記表示装置における前記距離の表示態様を変化させることができ、表示態様の変化が、前記距離の大きさに応じて表示する文字のフォント、サイズ、もしくは色を変えること、前記距離の大きさに応じて表示装置の画面全体もしくは一部の場所の色を変えること、前記距離の大きさに応じて関心領域を拡大表示する、又は前記距離の大きさに応じて関心領域に付するマークの色もしくはサイズを変えることを含む、請求項48または49記載のシステム。
  51.  前記通知部が、前記距離の大きさに応じて通知音を鳴らすことができる、もしくは振動を伝えることができる、請求項48から50のいずれか1項に記載のシステム。
  52.  前記距離が、直線距離又は血管に沿った距離のいずれかにより決定される、請求項48から51のいずれか1項に記載のシステム。
  53.  脳動脈瘤コイル塞栓術補助システムであって、
     画像処理装置と、
     血管内にガイディングカテーテルと塞栓用コイルのデリバリーワイヤとを挿入した状態の患者のX線画像を撮像して前記画像処理装置に送信する画像撮像装置と
    を備え、
     前記画像処理装置が、
     カテーテルの先端と2ndマーカとの位置関係を記憶する位置関係記憶部と、
     動脈瘤のネックラインと1stマーカとの距離a及びその時点t1における2ndマーカの位置を記憶する位置記憶部と、
     時点t2における2ndマーカの位置から移動距離bを算出し、カテーテルの先端の動脈瘤ネックラインからの距離a-bを推定する距離推定部と
     推定された距離をユーザに通知する通知部と
    を備える、システム。
  54.  推定された距離が確率分布により表される、請求項53に記載のシステム。
  55.  推定されるカテーテル先端の位置が確率分布に基づき着色して表示される、請求項53または54に記載のシステム。
  56.  血管内手術支援システムであって、血管内の検査用又は治療用のデバイスの製品一覧を記憶した記憶部と、画像解析結果、施設の情報、またはユーザの好みの情報に基づき使用する製品を推奨する推奨部と、推奨される製品を表示する表示部とを含む、システム。
PCT/JP2021/017451 2020-05-07 2021-05-07 画像処理装置、画像処理方法、プログラム、及び画像処理システム WO2021225155A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202180033882.XA CN115666392A (zh) 2020-05-07 2021-05-07 图像处理装置、图像处理方法、程序和图像处理系统
JP2022506144A JP7054972B2 (ja) 2020-05-07 2021-05-07 画像処理装置、画像処理方法、プログラム、及び画像処理システム
EP21798936.7A EP4147643A4 (en) 2020-05-07 2021-05-07 IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, PROGRAM AND IMAGE PROCESSING SYSTEM
CA3178103A CA3178103A1 (en) 2020-05-07 2021-05-07 Image processing apparatus, image processing method, program, and image processing system
JP2022052796A JP2022084882A (ja) 2020-05-07 2022-03-29 画像処理装置、画像処理方法、プログラム、及び画像処理システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020082171 2020-05-07
JP2020-082171 2020-05-07

Publications (1)

Publication Number Publication Date
WO2021225155A1 true WO2021225155A1 (ja) 2021-11-11

Family

ID=78468035

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/017451 WO2021225155A1 (ja) 2020-05-07 2021-05-07 画像処理装置、画像処理方法、プログラム、及び画像処理システム

Country Status (5)

Country Link
EP (1) EP4147643A4 (ja)
JP (2) JP7054972B2 (ja)
CN (1) CN115666392A (ja)
CA (1) CA3178103A1 (ja)
WO (1) WO2021225155A1 (ja)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002058658A (ja) * 2000-06-05 2002-02-26 Toshiba Corp インターベンショナルmri用の磁気共鳴イメージング装置及びその準備方法
JP2004229865A (ja) * 2003-01-30 2004-08-19 Hitachi Medical Corp 磁気共鳴イメージング装置
JP2004283373A (ja) * 2003-03-20 2004-10-14 Toshiba Corp 管腔状構造体の解析処理装置
JP2007075141A (ja) * 2005-09-09 2007-03-29 Toshiba Corp 治療用デバイス選択支援システム及び治療用デバイス選択方法
JP2014004491A (ja) * 2013-10-18 2014-01-16 Toshiba Corp X線診断装置
JP2016123719A (ja) * 2015-01-05 2016-07-11 株式会社東芝 X線診断装置
US20160256120A1 (en) * 2015-03-06 2016-09-08 University Of Rochester Catheter Detection, Tracking And Virtual Image Reconstruction
JP2017522943A (ja) * 2014-06-25 2017-08-17 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. X線診断及び処置における自動式又は支援型関心領域位置決め
WO2017139894A1 (en) 2016-02-16 2017-08-24 Goyal Mayank Systems and methods for routing a vessel line such as a catheter within a vessel
JP2018520809A (ja) * 2015-07-27 2018-08-02 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 医療用配置アラーム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080275467A1 (en) * 2007-05-02 2008-11-06 Siemens Corporate Research, Inc. Intraoperative guidance for endovascular interventions via three-dimensional path planning, x-ray fluoroscopy, and image overlay
CA2802507A1 (en) * 2010-06-13 2011-12-22 Angiometrix Corporation Diagnostic kit and method for measuring balloon dimension in vivo
KR102266904B1 (ko) * 2014-05-09 2021-06-18 삼성전자주식회사 의료 영상 장치의 의료 영상 제공 방법 및 그 의료 영상 장치
WO2017072262A1 (en) * 2015-10-28 2017-05-04 Koninklijke Philips N.V. Signaling of an aortic valve state
EP3468668B1 (en) * 2017-05-30 2020-01-01 Brainlab AG Soft tissue tracking using physiologic volume rendering
US11918423B2 (en) * 2018-10-30 2024-03-05 Corindus, Inc. System and method for navigating a device through a path to a target location

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002058658A (ja) * 2000-06-05 2002-02-26 Toshiba Corp インターベンショナルmri用の磁気共鳴イメージング装置及びその準備方法
JP2004229865A (ja) * 2003-01-30 2004-08-19 Hitachi Medical Corp 磁気共鳴イメージング装置
JP2004283373A (ja) * 2003-03-20 2004-10-14 Toshiba Corp 管腔状構造体の解析処理装置
JP2007075141A (ja) * 2005-09-09 2007-03-29 Toshiba Corp 治療用デバイス選択支援システム及び治療用デバイス選択方法
JP2014004491A (ja) * 2013-10-18 2014-01-16 Toshiba Corp X線診断装置
JP2017522943A (ja) * 2014-06-25 2017-08-17 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. X線診断及び処置における自動式又は支援型関心領域位置決め
JP2016123719A (ja) * 2015-01-05 2016-07-11 株式会社東芝 X線診断装置
US20160256120A1 (en) * 2015-03-06 2016-09-08 University Of Rochester Catheter Detection, Tracking And Virtual Image Reconstruction
JP2018520809A (ja) * 2015-07-27 2018-08-02 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 医療用配置アラーム
WO2017139894A1 (en) 2016-02-16 2017-08-24 Goyal Mayank Systems and methods for routing a vessel line such as a catheter within a vessel

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4147643A4

Also Published As

Publication number Publication date
CN115666392A (zh) 2023-01-31
JPWO2021225155A1 (ja) 2021-11-11
EP4147643A1 (en) 2023-03-15
JP2022084882A (ja) 2022-06-07
EP4147643A4 (en) 2024-04-24
CA3178103A1 (en) 2021-11-11
JP7054972B2 (ja) 2022-04-15

Similar Documents

Publication Publication Date Title
US11918423B2 (en) System and method for navigating a device through a path to a target location
US8295577B2 (en) Method and apparatus for guiding a device in a totally occluded or partly occluded tubular organ
JP5439192B2 (ja) 医療介入中の脈管構造を記録する方法及び装置
JP4988557B2 (ja) Ptca血管造影図の制御に対するビューイング装置
JP4714468B2 (ja) ノイズの多い画像において関心対象の境界を検知する医療観察システム及び方法
JP7330686B2 (ja) 医用画像処理装置及び医用画像処理プログラム
JP2010519002A5 (ja)
JP2008534109A (ja) 管状器官内の機器を位置決めする装置および方法
JP2005512372A (ja) ノイズの多い画像中で構造を空間的に強調する医用ビューイングシステム及び方法
US10022101B2 (en) X-ray/intravascular imaging colocation method and system
KR102289648B1 (ko) 의료 영상 기반 허혈성 뇌졸중 검출 및 형태 분류 방법, 장치 및 시스템
WO2021225155A1 (ja) 画像処理装置、画像処理方法、プログラム、及び画像処理システム
EP3389540B1 (en) Navigation assistance system
US20220313364A1 (en) Devices and methods for targeting implant deployment in tissue
JP7409627B2 (ja) 画像処理装置、画像処理方法、プログラム、及び画像処理システム
JP6188379B2 (ja) 医用画像処理装置、医用画像処理システム、医用画像診断装置
WO2008050315A2 (en) Method and apparatus for guiding a device in a totally occluded or partly occluded tubular organ
EP2081495A2 (en) Method and apparatus for positioning a therapeutic device in a tubular organ dilated by an auxiliary device balloon
JP2022044909A (ja) 血管内治療用アシスト装置
CN110461238B (zh) 造影剂注射成像
US20140294149A1 (en) Image Support
JPWO2021225155A5 (ja)
EP4275639A1 (en) System and method for assistance in a surgical procedure
CN116245796A (zh) 结果数据组的提供
JP2023130134A (ja) プログラム、情報処理方法及び情報処理装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21798936

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022506144

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 17997765

Country of ref document: US

ENP Entry into the national phase

Ref document number: 3178103

Country of ref document: CA

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021798936

Country of ref document: EP

Effective date: 20221207