WO2022202203A1 - 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム Download PDF

Info

Publication number
WO2022202203A1
WO2022202203A1 PCT/JP2022/009242 JP2022009242W WO2022202203A1 WO 2022202203 A1 WO2022202203 A1 WO 2022202203A1 JP 2022009242 W JP2022009242 W JP 2022009242W WO 2022202203 A1 WO2022202203 A1 WO 2022202203A1
Authority
WO
WIPO (PCT)
Prior art keywords
sensor
image processing
control unit
image
display
Prior art date
Application number
PCT/JP2022/009242
Other languages
English (en)
French (fr)
Inventor
泰一 坂本
克彦 清水
弘之 石原
俊祐 吉澤
Original Assignee
テルモ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テルモ株式会社 filed Critical テルモ株式会社
Priority to JP2023508896A priority Critical patent/JPWO2022202203A1/ja
Publication of WO2022202203A1 publication Critical patent/WO2022202203A1/ja
Priority to US18/473,370 priority patent/US20240016474A1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0891Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4254Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/466Displaying means of special interest adapted to display 3D data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/483Diagnostic techniques involving the acquisition of a 3D volume of data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4444Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
    • A61B8/445Details of catheter construction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4483Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer
    • A61B8/4488Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer the transducer being a phased array
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/465Displaying means of special interest adapted to display user selection data, e.g. icons or menus

Definitions

  • the present disclosure relates to an image processing device, an image processing system, an image display method, and an image processing program.
  • Patent Documents 1 to 3 describe techniques for generating three-dimensional images of heart chambers or blood vessels using a US imaging system.
  • US is an abbreviation for ultrasound.
  • IVUS is an abbreviation for intravascular ultrasound.
  • IVUS is a device or method that provides two-dimensional images in a plane perpendicular to the longitudinal axis of the catheter.
  • IVUS is often used for procedures that use a catheter other than an IVUS catheter, such as ablation.
  • the procedure is basically performed by a team consisting of staff such as doctors and clinical engineers, but sometimes the procedure is performed with a small number of staff.
  • the purpose of this disclosure is to enable the sensor to be operated on the screen.
  • An image processing apparatus displays an image representing the biological tissue on a display based on tomographic data acquired by a sensor moving in the lumen of the biological tissue, and displays the image on the same screen as the image. and displaying an element representing the position of the sensor on the display, wherein when a user operation is performed to designate a destination of the sensor on the screen, the sensor is moved in accordance with the user operation. and a control for changing the relative positions of the elements to represent the moved position of the sensor.
  • control unit accepts the user operation when a prior operation of clicking or tapping the element while pressing a predetermined key is performed before the user operation.
  • control unit accepts, as the user operation, an operation of dragging the element and dropping the element at a position corresponding to the destination of the sensor.
  • the controller controls movement of the sensor after the element is dropped.
  • control unit adjusts the moving speed of the sensor so that the sensor moves to the destination in a constant time regardless of the distance from the position before dragging the element to the position after dropping the element. to reach
  • the controller controls movement of the sensor while the element is being dragged.
  • control unit limits the speed at which the element is dragged according to the upper limit of the moving speed of the sensor.
  • control unit controls the cross-section indicated by the tomographic data acquired by the sensor at the position corresponding to the position after the displacement of the element.
  • a two-dimensional image representing is further displayed on the display.
  • the control unit controls, in the three-dimensional image that is the image, a voxel group at a position corresponding to the position after the displacement of the element.
  • a voxel group at least voxels representing the inner surface of the living tissue or voxels adjacent to the voxels representing the inner surface and representing the lumen are colored with a predetermined color.
  • control unit while the element is being dragged, sets a numerical value indicating a moving distance of the sensor corresponding to a distance from a position of the element before being dragged to a position of the element after being dragged. Show more on the display.
  • control unit accepts, as the user operation, an operation of clicking or tapping a position separated from the element by a distance corresponding to the moving distance of the sensor.
  • control unit adjusts the moving speed of the sensor to move the sensor to the destination in a constant time regardless of the distance from the position before the click or tap of the element to the position of the click or tap. to reach
  • control unit causes the display to display a combination of a first graphic element, which is the element, and a second graphic element representing the movement range of the sensor.
  • control unit displays the second graphic element in the direction in which the longitudinal direction of the lumen in the three-dimensional image, which is the image, is parallel to the longitudinal direction of the second graphic element. to display.
  • control unit controls at least the inner surface of the biological tissue among a first voxel group corresponding to a cross section indicated by tomographic data newly acquired by the sensor in the three-dimensional image, which is the image. or the voxels adjacent to the voxels representing the inner surface and representing the lumen are used as the elements, and are colored separately from the second voxel group corresponding to other cross sections of the living tissue.
  • An image processing system as one aspect of the present disclosure includes the image processing device and a probe having the sensor.
  • the image processing system further includes the display.
  • An image display method as one aspect of the present disclosure displays an image representing the biological tissue on a display based on tomographic data acquired by a sensor moving in the lumen of the biological tissue, and displays the image on the same screen as the image.
  • An image processing program displays an image representing the biological tissue on a display based on tomographic data acquired by a sensor moving in the lumen of the biological tissue, and displays the image on the same screen as the image.
  • a user operation to designate a destination of the sensor on the screen is performed on the computer that causes the display to display the element representing the position of the sensor in, according to the user operation, along with processing for controlling the movement of the sensor. , to change the relative positions of the elements to represent the positions of the sensors after movement.
  • FIG. 1 is a perspective view of an image processing system according to an embodiment of the present disclosure
  • FIG. FIG. 4 is a diagram showing an example of a screen displayed on a display by the image processing system according to the embodiment of the present disclosure
  • FIG. 3 is a diagram showing an example of a two-dimensional image displayed on a display by the image processing system according to the embodiment of the present disclosure
  • FIG. FIG. 4 is a diagram showing an example of a cutting area formed by the image processing system according to the embodiment of the present disclosure
  • FIG. 1 is a block diagram showing the configuration of an image processing device according to an embodiment of the present disclosure
  • FIG. FIG. 11 is a diagram showing an example of a screen displayed on a display by an image processing system according to a modified example of the embodiment of the present disclosure
  • FIG. 2 is a perspective view of a probe and drive unit according to an embodiment of the present disclosure
  • 4 is a flow chart showing the operation of the image processing system according to the embodiment of the present disclosure
  • 4 is a flow chart showing the operation of the image processing system according to the embodiment of the present disclosure
  • FIG. 4 is a diagram showing the result of binarizing a cross-sectional image of living tissue in the embodiment of the present disclosure
  • FIG. 4 is a diagram showing the result of extracting a point cloud of the inner surface of a living tissue in the embodiment of the present disclosure
  • FIG. 4 is a diagram showing the result of calculating the center-of-gravity position of the cross section of the living tissue in the embodiment of the present disclosure
  • FIG. 5 is a diagram showing results of calculating the center-of-gravity positions of multiple cross-sections of a living tissue in the embodiment of the present disclosure
  • FIG. 14 is a diagram showing the result of performing smoothing on the result of FIG. 13
  • 4 is a flow chart showing the operation of the image processing system according to the embodiment of the present disclosure
  • FIG. 11 is a diagram showing an example of a screen displayed on a display by an image processing system according to a modified example of the embodiment of the present disclosure
  • FIG. 1 An outline of the present embodiment will be described with reference to FIGS. 1 to 5.
  • FIG. 1 An outline of the present embodiment will be described with reference to FIGS. 1 to 5.
  • the image processing apparatus 11 causes the display 16 to display an image representing the biological tissue 60 based on the tomographic data 51 acquired by the sensor moving in the lumen 63 of the biological tissue 60, and displays the image and the image.
  • a computer causes the display 16 to display elements representing the positions of the sensors on the same screen 80 .
  • the image representing the living tissue 60 is a three-dimensional image 53 shown on the right side of FIG. 2 in this embodiment, but may be a two-dimensional image 56 such as a cross-sectional image shown on the left side of FIG.
  • the element representing the position of the sensor is a graphic element such as a knob of a slider as shown in FIG. 2 as the first graphic element 87.
  • the voxels may be colored with a first color, such as green, as shown in FIG.
  • the senor can be operated on the screen 80. Therefore, for example, when a procedure such as ablation using IVUS is performed, a doctor who is performing the procedure while operating a catheter can easily operate the IVUS pullback unit on the screen 80 . Alternatively, a clinical engineer operating the IVUS system while looking at the display 16 can simply operate the pullback unit on the screen 80 . Therefore, it becomes easier to perform the procedure even when the number of staff is small.
  • the image processing device 11 causes the display 16 to display the three-dimensional data 52 representing the living tissue 60 as a three-dimensional image 53 . As shown in FIG. 4, the image processing device 11 forms a cut region 62 in the three-dimensional data 52 that exposes the lumen 63 of the biological tissue 60 in the three-dimensional image 53 . As shown in FIG. 2, the image processing device 11 causes the display 16 to display a two-dimensional image 56 representing a cross section 64 of the biological tissue 60 and a region 65 corresponding to the cutting region 62 in the cross section 64 along with a three-dimensional image 53. .
  • the user can understand from the two-dimensional image 56 what kind of structure the portion of the biological tissue 60 that is cut off and not displayed in the three-dimensional image 53 is. For example, if the user is an operator, it becomes easier to operate the inside of the living tissue 60 .
  • the image processing device 11 generates and updates three-dimensional data 52 based on the tomographic data 51 .
  • the image processing apparatus 11 selects at least the living tissue 60 from among the first voxel group 54 corresponding to the cross section 64 indicated by the tomographic data 51 newly acquired by the sensor in the three-dimensional image 53 .
  • Voxels representing the inner surface 61 or adjacent to the voxels representing the inner surface 61 and representing the lumen 63 are colored to distinguish them from the second group of voxels 55 corresponding to other cross-sections of the biological tissue 60 .
  • the user observing the lumen 63 of the biological tissue 60 using the three-dimensional image 53 can understand which part of the three-dimensional image 53 the information currently obtained by the sensor, that is, the latest information corresponds to. easier.
  • the voxel representing the inner surface 61 or the inner Voxels representing lumen 63 adjacent to voxels representing surface 61 may also be colored to distinguish them from voxels corresponding to other cross-sections of tissue 60 .
  • the width of the voxel group that is colored to distinguish it from the voxel groups corresponding to other cross sections in the moving direction of the sensor is widened, and the user can easily recognize the voxel group in the three-dimensional image 53. .
  • all the voxels representing the living tissue 60 in the first voxel group 54 may be colored to distinguish them from the second voxel group 55 .
  • the first voxel group 54 is colored to distinguish it from the second voxel group 55 even on the cut surface of the biological tissue 60 formed for observing the lumen 63 of the biological tissue 60. It becomes easier for the user to understand which part of the three-dimensional image 53 the information corresponds to.
  • the image processing apparatus 11 converts the two-dimensional image 56 representing the cross section 64 into voxels representing at least the inner surface 61 of the biological tissue 60 or the inner surface 61 of the first voxel group 54 corresponding to the cross section 64 . is displayed on the display 16 together with the three-dimensional image 53 in which the voxels representing the lumen 63 adjacent to the voxels representing the . Therefore, the relationship between the two-dimensional image 56 and the three-dimensional image 53 can be shown.
  • the biological tissue 60 includes, for example, blood vessels or organs such as the heart.
  • the biological tissue 60 is not limited to an anatomical single organ or a part thereof, but also includes a tissue that straddles a plurality of organs and has a lumen.
  • a specific example of such tissue is a portion of the vascular system extending from the upper portion of the inferior vena cava through the right atrium to the lower portion of the superior vena cava.
  • the biological tissue 60 is a blood vessel.
  • an operation panel 81, a two-dimensional image 56, a three-dimensional image 53, a first graphic element 87, and a second graphic element 86 are displayed on the screen 80.
  • the operation panel 81 is a GUI component for setting the cutting area 62. "GUI" is an abbreviation for graphical user interface.
  • the operation panel 81 includes a check box 82 for selecting whether to activate the setting of the cutting area 62, a slider 83 for setting the base angle, a slider 84 for setting the opening angle, a center of gravity
  • a check box 85 is provided for selecting whether or not to use the
  • the base angle is the rotation angle of one of the two straight lines L1 and L2 extending from one point M in the cross-sectional image representing the cross-section 64 of the living tissue 60 . Therefore, setting the base angle corresponds to setting the direction of the straight line L1.
  • the opening angle is the angle between the two straight lines L1 and L2. Therefore, setting the opening angle corresponds to setting the angle formed by the two straight lines L1 and L2.
  • Point M is the center of gravity of cross section 64 . Point M may be set at a point other than the center of gravity on cross-section 64 if it is selected not to use the center of gravity.
  • a two-dimensional image 56 is an image obtained by processing a cross-sectional image.
  • the color of the area 65 corresponding to the cut area 62 is changed to clearly indicate which part of the cross section 64 is cut.
  • the viewpoint when displaying the three-dimensional image 53 on the screen 80 is adjusted according to the position of the cutting area 62 .
  • a viewpoint is the position of a virtual camera 71 arranged in a three-dimensional space.
  • the two-dimensional image 56 shows the position of the camera 71 with respect to the slice 64 .
  • the two-dimensional image 56 can be used to determine the cutting area 62 .
  • the position or size of the cutting area 62 can be set. For example, if the base angle is changed such that the straight line L1 is rotated counterclockwise by approximately 90 degrees, a region 65a that has moved according to the change in the base angle is obtained in the two-dimensional image 56a. Then, the position of the cutting area 62 is adjusted according to the position of the area 65a.
  • the opening angle is changed such that the angle between the two straight lines L1 and L2 is increased, a region 65b enlarged according to the change in the opening angle is obtained in the two-dimensional image 56b. Then, the size of the cutting area 62 is adjusted according to the size of the area 65b. It is also possible to set both the position and size of the cutting area 62 by adjusting both the base angle and the opening angle to set both the position and size of the area 65 in the two-dimensional image 56 . The position of the camera 71 may be appropriately adjusted according to the position or size of the cutting area 62 .
  • the image corresponding to the current position of the sensor that is, the latest image is always displayed as the two-dimensional image 56.
  • an image corresponding to a position other than the current position of the sensor may be displayed as the two-dimensional image 56 .
  • the base angle may be set by dragging the straight line L1 instead of being set by operating the slider 83, or by entering a numerical value. good too.
  • the opening angle may be set by dragging the straight line L2 or by entering a numerical value.
  • the cutting area 62 determined using the two-dimensional image 56 is hidden or transparent.
  • the sensor is present in the longitudinal direction of the lumen 63, and in order to represent the position currently being updated in real time, the first voxel group corresponding to the current position of the sensor is 54 colors have been changed.
  • voxels representing the inner surface 61 of the biological tissue 60 are set to a color different from that of the second voxel group 55.
  • all the voxels representing the living tissue 60 in the first voxel group 54 may be set to different colors as shown in FIG. .
  • the contrast between the first voxel group 54 and the second voxel group 55 is adjusted, One voxel group 54 may be colored to distinguish it from the second voxel group 55 .
  • a first graphic element 87 is a graphic element representing the position of the sensor.
  • a second graphic element 86 is a graphic element that represents the range of motion of the sensor.
  • the combination of first graphic element 87 and second graphic element 86 is configured as a slider.
  • the first graphic element 87 and the second graphic element 86 may be displayed at arbitrary positions, but are displayed on the right side of the three-dimensional image 53 in this embodiment.
  • the voxels representing the inner surface 61 of the biological tissue 60 are colored with a first color such as green.
  • the dropped first graphic element 87a represents the position after movement of the sensor by being positioned at the same height as the drop destination, that is, the first voxel group 54a.
  • the user operation may be a click or tap operation instead of a drag and drop operation. That is, as the user operation, an operation of clicking or tapping a position away from the first graphic element 87 by a distance corresponding to the moving distance of the sensor may be performed. For example, assuming that no user operation is being performed at this time, as shown in FIG. Colored with the first color.
  • a first graphic element 87 represents the current position of the sensor by being positioned at the same height as the first group of voxels 54 . After that, if an operation of clicking or tapping a position away from the first graphic element 87 is performed as a user operation, the sensor automatically moves to a position corresponding to that position.
  • the voxels representing the inner surface 61 of the biological tissue 60 are colored with a first color such as green.
  • a first graphic element 87a is displayed at the same height as the first voxel group 54a to represent the position of the sensor after movement.
  • the user operation may include an operation of pressing a specific key such as a shift key at the same time as a click or tap operation.
  • a voxel colored with a first color such as green may be dragged and dropped from among the first voxel group 54.
  • the voxels colored with the first color can be considered as lines of the first color. That is, when an operation of dragging a line of a first color such as green and dropping the line of the first color at a position corresponding to the destination of the sensor is performed as a user operation, movement of the sensor is controlled according to the user operation. and the relative positions of the lines of the first color are changed. For example, assuming that no user operation is being performed at this time, as shown in FIG.
  • the voxels representing the inner surface 61 of the living tissue 60 are colored with a first color such as green to form a line representing the post-movement position of the sensor. Function.
  • the user operation may be a simple click or tap operation instead of the drag and drop operation. That is, as the user operation, an operation of clicking or tapping a position that is a distance corresponding to the moving distance of the sensor from the line of the first color such as green may be performed. For example, assuming that no user operation is being performed at this time, as shown in FIG. It is colored with the first color and serves as a line representing the current position of the sensor. After that, if an operation of clicking or tapping a position away from this line is performed as a user operation, the sensor automatically moves to a position corresponding to that position.
  • the voxels representing the inner surface 61 of the living tissue 60 are colored with a first color such as green to form a line representing the post-movement position of the sensor.
  • the user operation may include an operation of pressing a specific key such as a shift key at the same time as a click or tap operation.
  • the X direction and the Y direction perpendicular to the X direction respectively correspond to the lateral direction of the lumen 63 of the living tissue 60 .
  • a Z direction orthogonal to the X and Y directions corresponds to the longitudinal direction of the lumen 63 of the living tissue 60 .
  • the image processing device 11 uses the three-dimensional data 52 to calculate the positions of the centers of gravity B1, B2, B3 and B4 of the cross sections C1, C2, C3 and C4 of the biological tissue 60, respectively.
  • the image processing apparatus 11 sets two planes P1 and P2 that intersect at a line Lb that passes through the positions of the centers of gravity B1, B2, B3, and B4 and that include two straight lines L1 and L2, respectively. For example, if point M shown in FIG.
  • the image processing device 11 forms an area sandwiched between the cut planes P1 and P2 in the three-dimensional image 53 and exposing the lumen 63 of the biological tissue 60 as the cut area 62 in the three-dimensional data 52 .
  • cross sections C1, C2, C3, and C4 are shown as multiple cross sections in the lateral direction of the lumen 63 of the biological tissue 60 for the sake of convenience, but the number of cross sections for which the position of the center of gravity is to be calculated is four. It is not limited to one, but is preferably the same number as the number of cross-sectional images acquired by IVUS.
  • the check box 85 on the operation panel 81 is unchecked, that is, not using the center of gravity is selected.
  • the image processing device 11 intersects at an arbitrary line passing through the point M, such as a straight line extending in the Z direction through the point M, and includes two straight lines L1 and L2, respectively. Planes are set as cut planes P1 and P2.
  • the image processing system 10 includes an image processing device 11, a cable 12, a drive unit 13, a keyboard 14, a mouse 15, and a display 16.
  • the image processing apparatus 11 is a dedicated computer specialized for image diagnosis in this embodiment, but may be a general-purpose computer such as a PC. "PC” is an abbreviation for personal computer.
  • the cable 12 is used to connect the image processing device 11 and the drive unit 13.
  • the drive unit 13 is a device that is used by being connected to the probe 20 shown in FIG. 7 and drives the probe 20 .
  • the drive unit 13 is also called MDU. "MDU” is an abbreviation for motor drive unit.
  • Probe 20 has IVUS applications. Probe 20 is also referred to as an IVUS catheter or diagnostic imaging catheter.
  • the keyboard 14, mouse 15, and display 16 are connected to the image processing device 11 via any cable or wirelessly.
  • the display 16 is, for example, an LCD, organic EL display, or HMD.
  • LCD is an abbreviation for liquid crystal display.
  • EL is an abbreviation for electro luminescence.
  • HMD is an abbreviation for head-mounted display.
  • the image processing system 10 further comprises a connection terminal 17 and a cart unit 18 as options.
  • connection terminal 17 is used to connect the image processing device 11 and an external device.
  • the connection terminal 17 is, for example, a USB terminal.
  • USB is an abbreviation for Universal Serial Bus.
  • the external device is, for example, a recording medium such as a magnetic disk drive, a magneto-optical disk drive, or an optical disk drive.
  • the cart unit 18 is a cart with casters for movement.
  • An image processing device 11 , a cable 12 and a drive unit 13 are installed in the cart body of the cart unit 18 .
  • a keyboard 14 , a mouse 15 and a display 16 are installed on the top table of the cart unit 18 .
  • the probe 20 includes a drive shaft 21, a hub 22, a sheath 23, an outer tube 24, an ultrasonic transducer 25, and a relay connector 26.
  • the drive shaft 21 passes through a sheath 23 inserted into the body cavity of a living body, an outer tube 24 connected to the proximal end of the sheath 23, and extends to the inside of a hub 22 provided at the proximal end of the probe 20.
  • the driving shaft 21 has an ultrasonic transducer 25 for transmitting and receiving signals at its tip and is rotatably provided within the sheath 23 and the outer tube 24 .
  • a relay connector 26 connects the sheath 23 and the outer tube 24 .
  • the hub 22, the drive shaft 21, and the ultrasonic transducer 25 are connected to each other so as to integrally move back and forth in the axial direction. Therefore, for example, when the hub 22 is pushed toward the distal side, the drive shaft 21 and the ultrasonic transducer 25 move inside the sheath 23 toward the distal side. For example, when the hub 22 is pulled proximally, the drive shaft 21 and the ultrasonic transducer 25 move proximally inside the sheath 23 as indicated by the arrows.
  • the drive unit 13 includes a scanner unit 31, a slide unit 32, and a bottom cover 33.
  • the scanner unit 31 is also called a pullback unit.
  • the scanner unit 31 is connected to the image processing device 11 via the cable 12 .
  • the scanner unit 31 includes a probe connection section 34 that connects to the probe 20 and a scanner motor 35 that is a drive source that rotates the drive shaft 21 .
  • the probe connecting portion 34 is detachably connected to the probe 20 through an insertion port 36 of the hub 22 provided at the proximal end of the probe 20 .
  • the proximal end of the drive shaft 21 is rotatably supported, and the rotational force of the scanner motor 35 is transmitted to the drive shaft 21 .
  • Signals are also transmitted and received between the drive shaft 21 and the image processing device 11 via the cable 12 .
  • the image processing device 11 generates a tomographic image of the body lumen and performs image processing based on the signal transmitted from the drive shaft 21 .
  • the slide unit 32 mounts the scanner unit 31 so as to move back and forth, and is mechanically and electrically connected to the scanner unit 31 .
  • the slide unit 32 includes a probe clamp section 37 , a slide motor 38 and a switch group 39 .
  • the probe clamping part 37 is arranged coaxially with the probe connecting part 34 on the tip side of the probe connecting part 34 and supports the probe 20 connected to the probe connecting part 34 .
  • the slide motor 38 is a driving source that generates axial driving force.
  • the scanner unit 31 advances and retreats by driving the slide motor 38, and the drive shaft 21 advances and retreats in the axial direction accordingly.
  • the slide motor 38 is, for example, a servomotor.
  • the switch group 39 includes, for example, a forward switch and a pullback switch that are pressed when moving the scanner unit 31 back and forth, and a scan switch that is pressed when image rendering is started and ended.
  • Various switches are included in the switch group 39 as needed, without being limited to the example here.
  • the scanner motor 35 When the scan switch is pressed, image rendering is started, the scanner motor 35 is driven, and the slide motor 38 is driven to move the scanner unit 31 backward.
  • a user such as an operator connects the probe 20 to the scanner unit 31 in advance, and causes the drive shaft 21 to rotate and move to the proximal end side in the axial direction when image rendering is started.
  • the scanner motor 35 and the slide motor 38 are stopped when the scan switch is pressed again, and image rendering is completed.
  • the bottom cover 33 covers the bottom surface of the slide unit 32 and the entire circumference of the side surface on the bottom surface side, and can move toward and away from the bottom surface of the slide unit 32 .
  • the image processing device 11 includes a control section 41 , a storage section 42 , a communication section 43 , an input section 44 and an output section 45 .
  • the control unit 41 includes at least one processor, at least one programmable circuit, at least one dedicated circuit, or any combination thereof.
  • a processor may be a general-purpose processor such as a CPU or GPU, or a dedicated processor specialized for a particular process.
  • CPU is an abbreviation for central processing unit.
  • GPU is an abbreviation for graphics processing unit.
  • a programmable circuit is, for example, an FPGA.
  • FPGA is an abbreviation for field-programmable gate array.
  • a dedicated circuit is, for example, an ASIC.
  • ASIC is an abbreviation for application specific integrated circuit.
  • the control unit 41 executes processing related to the operation of the image processing device 11 while controlling each unit of the image processing system 10 including the image processing device 11 .
  • the storage unit 42 includes at least one semiconductor memory, at least one magnetic memory, at least one optical memory, or any combination thereof.
  • a semiconductor memory is, for example, a RAM or a ROM.
  • RAM is an abbreviation for random access memory.
  • ROM is an abbreviation for read only memory.
  • RAM is, for example, SRAM or DRAM.
  • SRAM is an abbreviation for static random access memory.
  • DRAM is an abbreviation for dynamic random access memory.
  • ROM is, for example, EEPROM.
  • EEPROM is an abbreviation for electrically erasable programmable read only memory.
  • the storage unit 42 functions, for example, as a main memory device, an auxiliary memory device, or a cache memory.
  • the storage unit 42 stores data used for the operation of the image processing apparatus 11, such as the tomographic data 51, and data obtained by the operation of the image processing apparatus 11, such as the three-dimensional data 52 and the three-dimensional image 53. .
  • the communication unit 43 includes at least one communication interface.
  • the communication interface is, for example, a wired LAN interface, a wireless LAN interface, or an image diagnosis interface that receives and A/D converts IVUS signals.
  • LAN is an abbreviation for local area network.
  • A/D is an abbreviation for analog to digital.
  • the communication unit 43 receives data used for the operation of the image processing device 11 and transmits data obtained by the operation of the image processing device 11 .
  • the drive unit 13 is connected to an image diagnosis interface included in the communication section 43 .
  • the input unit 44 includes at least one input interface.
  • the input interface is, for example, a USB interface, an HDMI (registered trademark) interface, or an interface compatible with a short-range wireless communication standard such as Bluetooth (registered trademark).
  • HDMI registered trademark
  • HDMI registered trademark
  • HDMI registered trademark
  • HDMI registered trademark
  • HDMI registered trademark
  • HDMI registered trademark
  • HDMI registered trademark
  • the output unit 45 includes at least one output interface.
  • the output interface is, for example, a USB interface, an HDMI (registered trademark) interface, or an interface compatible with a short-range wireless communication standard such as Bluetooth (registered trademark).
  • the output unit 45 outputs data obtained by the operation of the image processing device 11 .
  • the display 16 is connected to a USB interface or HDMI (registered trademark) interface included in the output unit 45 .
  • the functions of the image processing device 11 are realized by executing the image processing program according to the present embodiment with a processor as the control unit 41 . That is, the functions of the image processing device 11 are realized by software.
  • the image processing program causes the computer to function as the image processing device 11 by causing the computer to execute the operation of the image processing device 11 . That is, the computer functions as the image processing device 11 by executing the operation of the image processing device 11 according to the image processing program.
  • the program can be stored on a non-transitory computer-readable medium.
  • a non-transitory computer-readable medium is, for example, a flash memory, a magnetic recording device, an optical disk, a magneto-optical recording medium, or a ROM.
  • Program distribution is performed, for example, by selling, assigning, or lending a portable medium such as an SD card, DVD, or CD-ROM storing the program.
  • SD is an abbreviation for Secure Digital.
  • DVD is an abbreviation for digital versatile disc.
  • CD-ROM is an abbreviation for compact disc read only memory.
  • the program may be distributed by storing the program in the storage of the server and transferring the program from the server to another computer.
  • a program may be provided as a program product.
  • a computer for example, temporarily stores a program stored in a portable medium or a program transferred from a server in a main storage device. Then, the computer reads the program stored in the main storage device with the processor, and executes processing according to the read program with the processor.
  • the computer may read the program directly from the portable medium and execute processing according to the program.
  • the computer may execute processing according to the received program every time the program is transferred from the server to the computer.
  • the processing may be executed by a so-called ASP type service that realizes the function only by executing the execution instruction and obtaining the result without transferring the program from the server to the computer.
  • "ASP" is an abbreviation for application service provider.
  • the program includes information to be used for processing by a computer and conforming to the program. For example, data that is not a direct instruction to a computer but that has the property of prescribing the processing of the computer corresponds to "things equivalent to a program.”
  • a part or all of the functions of the image processing device 11 may be realized by a programmable circuit or a dedicated circuit as the control unit 41. That is, part or all of the functions of the image processing device 11 may be realized by hardware.
  • FIG. 8 The operation of the image processing system 10 according to the present embodiment will be described with reference to FIGS. 8 and 9.
  • FIG. The operation of the image processing system 10 corresponds to the image display method according to this embodiment.
  • the probe 20 is primed by the user before the flow of FIG. 8 starts. After that, the probe 20 is fitted into the probe connection portion 34 and the probe clamp portion 37 of the drive unit 13 and connected and fixed to the drive unit 13 . Then, the probe 20 is inserted to a target site in a living tissue 60 such as a blood vessel or heart.
  • a living tissue 60 such as a blood vessel or heart.
  • step S101 the scan switch included in the switch group 39 is pressed, and the pullback switch included in the switch group 39 is pressed, so that a so-called pullback operation is performed.
  • the probe 20 transmits ultrasonic waves by means of the ultrasonic transducer 25 retracted in the axial direction by a pullback operation inside the biological tissue 60 .
  • the ultrasonic transducer 25 radially transmits ultrasonic waves while moving inside the living tissue 60 .
  • the ultrasonic transducer 25 receives reflected waves of the transmitted ultrasonic waves.
  • the probe 20 inputs the signal of the reflected wave received by the ultrasonic transducer 25 to the image processing device 11 .
  • the control unit 41 of the image processing apparatus 11 processes the input signal to sequentially generate cross-sectional images of the biological tissue 60, thereby acquiring tomographic data 51 including a plurality of cross-sectional images.
  • the probe 20 rotates the ultrasonic transducer 25 in the circumferential direction inside the living tissue 60 and moves it in the axial direction, and rotates the ultrasonic transducer 25 toward the outside from the center of rotation.
  • the probe 20 receives reflected waves from reflecting objects present in each of a plurality of directions inside the living tissue 60 by the ultrasonic transducer 25 .
  • the probe 20 transmits the received reflected wave signal to the image processing device 11 via the drive unit 13 and the cable 12 .
  • the communication unit 43 of the image processing device 11 receives the signal transmitted from the probe 20 .
  • the communication unit 43 A/D converts the received signal.
  • the communication unit 43 inputs the A/D converted signal to the control unit 41 .
  • the control unit 41 processes the input signal and calculates the intensity value distribution of the reflected waves from the reflectors present in the transmission direction of the ultrasonic waves from the ultrasonic transducer 25 .
  • the control unit 41 sequentially generates two-dimensional images having a luminance value distribution corresponding to the calculated intensity value distribution as cross-sectional images of the biological tissue 60, thereby acquiring tomographic data 51, which is a data set of cross-sectional images.
  • the control unit 41 causes the storage unit 42 to store the acquired tomographic data 51 .
  • the signal of the reflected wave received by the ultrasonic transducer 25 corresponds to the raw data of the tomographic data 51
  • the cross-sectional image generated by processing the signal of the reflected wave by the image processing device 11 is the tomographic data. 51 processing data.
  • the control unit 41 of the image processing device 11 may store the signal input from the probe 20 as the tomographic data 51 in the storage unit 42 as it is.
  • the control unit 41 may store, as the tomographic data 51 , data indicating the intensity value distribution of the reflected wave calculated by processing the signal input from the probe 20 in the storage unit 42 .
  • the tomographic data 51 is not limited to a data set of cross-sectional images of the living tissue 60, and may be data representing cross-sections of the living tissue 60 at each movement position of the ultrasonic transducer 25 in some format.
  • an ultrasonic transducer that transmits ultrasonic waves in multiple directions without rotating is used instead of the ultrasonic transducer 25 that transmits ultrasonic waves in multiple directions while rotating in the circumferential direction.
  • the tomographic data 51 may be acquired using OFDI or OCT instead of being acquired using IVUS.
  • OFDI is an abbreviation for optical frequency domain imaging.
  • OCT is an abbreviation for optical coherence tomography.
  • another device instead of the image processing device 11 generating a dataset of cross-sectional images of the biological tissue 60, another device generates a similar dataset, and the image processing device 11 generates the dataset. It may be obtained from the other device. That is, instead of the control unit 41 of the image processing device 11 processing the IVUS signal to generate a cross-sectional image of the biological tissue 60, another device processes the IVUS signal to generate a cross-sectional image of the biological tissue 60. You may generate
  • step S102 the control unit 41 of the image processing apparatus 11 generates three-dimensional data 52 of the biological tissue 60 based on the tomographic data 51 acquired in step S101. That is, the control unit 41 generates the three-dimensional data 52 based on the tomographic data 51 acquired by the sensor.
  • the generated three-dimensional data 52 already exists, it is possible to update only the data at the location corresponding to the updated tomographic data 51 instead of regenerating all the three-dimensional data 52 from scratch. preferable. In that case, the amount of data processing when generating the three-dimensional data 52 can be reduced, and the real-time performance of the three-dimensional image 53 in the subsequent step S103 can be improved.
  • control unit 41 of the image processing device 11 stacks the cross-sectional images of the living tissue 60 included in the tomographic data 51 stored in the storage unit 42 to three-dimensionalize the living tissue 60 .
  • Dimensional data 52 is generated.
  • any one of rendering methods such as surface rendering or volume rendering, and associated processing such as texture mapping including environment mapping, bump mapping, and the like is used.
  • the control unit 41 causes the storage unit 42 to store the generated three-dimensional data 52 .
  • step S103 the control unit 41 of the image processing device 11 causes the display 16 to display the three-dimensional data 52 generated in step S102 as a three-dimensional image 53.
  • the control unit 41 may set the angle at which the three-dimensional image 53 is displayed to any angle.
  • the control unit 41 causes the display 16 to display the latest cross-sectional image included in the tomographic data 51 acquired in step S101 together with the three-dimensional image 53 .
  • control unit 41 of the image processing device 11 generates a 3D image 53 from the 3D data 52 stored in the storage unit 42 .
  • the control unit 41 displays the latest cross-sectional image among the cross-sectional images of the biological tissue 60 included in the tomographic data 51 stored in the storage unit 42 and the generated three-dimensional image 53 on the display 16 via the output unit 45. to display.
  • the control unit 41 of the image processing apparatus 11 selects the living tissue 60 from the first voxel group 54 corresponding to the cross section 64 indicated by the tomographic data 51 newly acquired by the sensor in the three-dimensional image 53. are colored to distinguish them from the second group of voxels 55 corresponding to other cross-sections of the biological tissue 60 .
  • the control unit 41 sets the color of voxels representing the inner surface 61 of the biological tissue 60 in the first voxel group 54 to be the same as any color in the second voxel group 55.
  • the voxels representing the inner surface 61 of the living tissue 60 in the first voxel group 54 are colored to distinguish them from the second voxel group 55 .
  • the control unit 41 of the image processing device 11 separates all voxels representing the living tissue 60 from the first voxel group 54 into the second voxel group 55 as shown in FIG. May be colored separately. Specifically, the control unit 41 sets the colors of all the voxels representing the biological tissue 60 in the first voxel group 54 to colors different from any colors in the second voxel group 55, so that the first voxel All the voxels representing the living tissue 60 in the group 54 may be colored to distinguish them from the second voxel group 55 .
  • control unit 41 of the image processing device 11 combines the first graphic element 87 and the second graphic element 86 and causes the display 16 to display them together with the three-dimensional image 53 .
  • the control unit 41 causes the slider configured by combining the first graphic element 87 and the second graphic element 86 to the right side of the three-dimensional image 53 via the output unit 45. to display.
  • control unit 41 of the image processing device 11 moves the second graphic element 86 so that the longitudinal direction of the lumen 63 in the three-dimensional image 53 and the longitudinal direction of the second graphic element 86 are parallel. displayed on the display 16. Specifically, as shown in FIG. 2, the control unit 41 causes the movement range of the sensor indicated by the second graphic element 86 to match the display range of the three-dimensional image 53 in the vertical direction of the screen 80. Also, the position of the sensor indicated by the first graphic element 87 and the position of the first voxel group 54 are matched.
  • step S104 if there is an operation to set the angle for displaying the three-dimensional image 53 as the user's change operation, the process of step S105 is executed. If there is no change operation by the user, the process of step S106 is executed.
  • step S ⁇ b>105 the control unit 41 of the image processing device 11 receives an operation via the input unit 44 to set the angle for displaying the three-dimensional image 53 .
  • the control unit 41 adjusts the angle at which the three-dimensional image 53 is displayed to the set angle.
  • step S103 the control unit 41 causes the display 16 to display the three-dimensional image 53 at the angle set in step S105.
  • control unit 41 of the image processing device 11 allows the user to manipulate the three-dimensional image 53 displayed on the display 16 using the keyboard 14, the mouse 15, or the touch screen provided integrally with the display 16.
  • An operation to rotate is received via the input unit 44 .
  • the control unit 41 interactively adjusts the angle at which the three-dimensional image 53 is displayed on the display 16 according to the user's operation.
  • the control unit 41 causes the input unit 44 to input the numerical value of the angle for displaying the three-dimensional image 53 by the user using the keyboard 14, the mouse 15, or the touch screen provided integrally with the display 16. accepted through The control unit 41 adjusts the angle at which the three-dimensional image 53 is displayed on the display 16 according to the input numerical value.
  • step S106 if the tomographic data 51 is updated, the processes of steps S107 and S108 are executed. If the tomographic data 51 has not been updated, in step S104, it is confirmed again whether or not the user has performed a change operation.
  • step S107 the control unit 41 of the image processing device 11 processes the signal input from the probe 20 to newly generate a cross-sectional image of the biological tissue 60, similarly to the processing of step S101, thereby obtaining at least one cross-sectional image.
  • the control unit 41 of the image processing apparatus 11 updates the three-dimensional data 52 of the living tissue 60 based on the tomographic data 51 acquired at step S107. That is, the control unit 41 updates the three-dimensional data 52 based on the tomographic data 51 acquired by the sensor. Then, in step S103, the control unit 41 causes the display 16 to display the three-dimensional data 52 updated in step S108 as the three-dimensional image 53.
  • the control unit 41 causes the display 16 to display the latest cross-sectional image included in the tomographic data 51 acquired in step S ⁇ b>107 together with the three-dimensional image 53 .
  • step S111 if there is an operation to set the cutting area 62 as the user's setting operation, the process of step S112 is executed.
  • step S ⁇ b>112 the control unit 41 of the image processing device 11 receives an operation for setting the cutting area 62 via the input unit 44 .
  • control unit 41 of the image processing apparatus 11 performs an operation of setting a region 65 corresponding to the cutting region 62 on the cross-sectional image displayed on the display 16 in step S103 via the input unit 44. accept.
  • the control unit 41 receives an operation of setting two straight lines L1 and L2 extending from one point M in the cross-sectional image as an operation of setting the area 65 corresponding to the cutting area 62 .
  • control unit 41 of the image processing apparatus 11 allows the user to set the base angle and the opening angle integrally with the keyboard 14, the mouse 15, or the display 16 on the operation panel 81 as shown in FIG.
  • An operation to designate using the provided touch screen is accepted via the input unit 44 . That is, the control unit 41 designates the direction of one of the two straight lines L1 and L2 and the angle formed by the two straight lines L1 and L2 as an operation for setting the two straight lines L1 and L2. accepts the operation to Here, it is assumed that the check box 85 on the operation panel 81 is checked, that is, the use of the center of gravity is selected.
  • control unit 41 of the image processing apparatus 11 allows the user to draw two straight lines L1 and L2 on the cross-sectional image displayed on the display 16 using the keyboard 14, the mouse 15, or the display 16.
  • a drawing operation using the integrally provided touch screen may be received via the input unit 44 . That is, the control unit 41 may receive an operation of drawing the two straight lines L1 and L2 on the cross-sectional image as the operation of setting the two straight lines L1 and L2.
  • step S113 the control unit 41 of the image processing apparatus 11 uses the latest three-dimensional data 52 stored in the storage unit 42 to calculate the center-of-gravity positions of multiple transverse cross-sections of the lumen 63 of the biological tissue 60.
  • the latest three-dimensional data 52 is the three-dimensional data 52 generated in step S102 if the process of step S108 has not been executed, and updated in step S108 if the process of step S108 has been executed. It means the three-dimensional data 52 that has been processed.
  • the generated three-dimensional data 52 already exists, it is preferable to update only the data at the location corresponding to the updated tomographic data 51 instead of regenerating all the three-dimensional data 52 from scratch. . In that case, the amount of data processing when generating the three-dimensional data 52 can be reduced, and the real-time performance of the three-dimensional image 53 in the subsequent step S117 can be improved.
  • the control unit 41 of the image processing apparatus 11 generates new cross-sectional images corresponding to each of the plurality of cross-sectional images generated in step S101 in step S107. , is replaced with the new cross-sectional image and then binarized.
  • the control unit 41 extracts a point group of the inner surface of the biological tissue 60 from the binarized cross-sectional image.
  • the control unit 41 extracts points corresponding to the inner surface of the main blood vessel one by one along the vertical direction of a cross-sectional image with the r axis as the horizontal axis and the ⁇ axis as the vertical axis. Extract the point cloud of .
  • Point Cn is the center of the cross-sectional image.
  • Point Bp is the center of gravity of the point cloud on the inner surface.
  • Point Bv is the centroid of the vertices of the polygon.
  • Point Bx is the centroid of the polygon as a convex hull.
  • a method for calculating the barycentric position of a blood vessel a method different from the method for calculating the barycentric position of a polygon as a convex hull may be used.
  • a method of calculating the center position of the largest circle that fits in the main blood vessel as the center-of-gravity position may be used.
  • a binarized cross-sectional image with the r axis as the horizontal axis and the .theta Techniques similar to these can also be used when the biological tissue 60 is not a blood vessel.
  • step S114 the control unit 41 of the image processing device 11 performs smoothing on the calculation result of the center-of-gravity position in step S113.
  • the control unit 41 of the image processing apparatus 11 smoothes the calculation result of the center-of-gravity position by using a moving average, as indicated by the dashed line in FIG. 14 .
  • a method other than the moving average may be used as a smoothing method.
  • exponential smoothing, kernel method, local regression, Ramer-Douglas-Peucker algorithm, Savitzky-Golay method, smoothing spline, or SGM may be used.
  • a technique of performing a fast Fourier transform and then removing high frequency components may be used.
  • a Kalman filter or a low pass filter such as a Butterworth filter, a Chebyshev filter, a digital filter, an elliptic filter, or a KZ filter may be used.
  • SGM is an abbreviation for stretched grid method.
  • KZ is an abbreviation for Kolmogorov-Zurbenko.
  • the control unit 41 divides the calculation result of the center-of-gravity position according to the positions of multiple cross sections in the longitudinal direction of the lumen 63 of the biological tissue 60 in the longitudinal direction of the lumen 63 of the biological tissue 60 . Smoothing may be performed for each calculation result. That is, when the curve of the position of the center of gravity shown by the dashed line in FIG. 14 overlaps the tissue region, the control unit 41 may divide the curve of the position of the center of gravity into a plurality of sections, and perform individual smoothing for each section. good.
  • control unit 41 performs smoothing on the calculation result of the center-of-gravity position according to the positions of a plurality of cross-sections in the lateral direction of the lumen 63 of the biological tissue 60 in the longitudinal direction of the lumen 63 of the biological tissue 60 .
  • step S115 the control unit 41 of the image processing apparatus 11 sets two planes that intersect with one line Lb passing through the position of the center of gravity calculated in step S113 as cutting planes P1 and P2. .
  • the control unit 41 sets the cut planes P1 and P2 after performing smoothing on the calculation result of the center-of-gravity position in step S114, but the process of step S114 may be omitted.
  • control unit 41 of the image processing device 11 sets the curve of the center-of-gravity position obtained as a result of the smoothing in step S114 as the line Lb.
  • the control unit 41 sets two planes, which intersect at the set line Lb and respectively include the two straight lines L1 and L2 set in step S112, as the cutting planes P1 and P2.
  • the control unit 41 obtains the three-dimensional coordinates intersecting the cut planes P1 and P2 of the living tissue 60 in the latest three-dimensional data 52 stored in the storage unit 42, and the lumen 63 of the living tissue 60 in the three-dimensional image 53. It is specified as the 3D coordinates of the edge of the opening to be exposed.
  • the control unit 41 causes the storage unit 42 to store the identified three-dimensional coordinates.
  • step S116 the control unit 41 of the image processing apparatus 11 forms an area sandwiched between the cut planes P1 and P2 in the three-dimensional image 53 and exposing the lumen 63 of the biological tissue 60 as the cut area 62 in the three-dimensional data 52. do.
  • control unit 41 of the image processing device 11 converts the portion specified by the three-dimensional coordinates stored in the storage unit 42 in the latest three-dimensional data 52 stored in the storage unit 42 into a three-dimensional image. 53 is set to be hidden or transparent when displayed on the display 16. - ⁇ That is, the control unit 41 forms the cutting area 62 in accordance with the area 65 set in step S112.
  • step S117 the control unit 41 of the image processing apparatus 11 causes the display 16 to display the three-dimensional data 52, which formed the cutting area 62 in step S116, as a three-dimensional image 53.
  • the control unit 41 controls the cross section 64 indicated by the tomographic data 51 newly acquired by the sensor, which is represented by the cross section image displayed on the display 16 in step S103, and the region 65 corresponding to the cutting region 62 in the cross section 64. is displayed on the display 16 together with the three-dimensional image 53 .
  • control unit 41 of the image processing device 11 processes the latest cross-sectional image among the cross-sectional images of the biological tissue 60 included in the tomographic data 51 stored in the storage unit 42, and processes the cross-sectional image shown in FIG. A two-dimensional image 56 like this is generated.
  • the control unit 41 generates a three-dimensional image 53 as shown in FIG. 2 in which the portion specified by the three-dimensional coordinates stored in the storage unit 42 is hidden or transparent.
  • the control unit 41 displays the generated two-dimensional image 56 and three-dimensional image 53 on the display 16 via the output unit 45 .
  • the control unit 41 of the image processing apparatus 11 expresses the color of the region 65 corresponding to the cutting region 62 as a two-dimensional image 56 in a color different from that of the rest of the region. Generate an image. For example, white areas in a typical IVUS image may be changed to red in region 65 .
  • step S118 if there is an operation to set the cutting area 62 as the user's change operation, the process of step S119 is executed. If there is no change operation by the user, the process of step S120 is executed.
  • step S119 the control unit 41 of the image processing apparatus 11 receives an operation for setting the cutting area 62 via the input unit 44, as in the processing of step S112. Then, the processes after step S115 are executed.
  • step S120 if the tomographic data 51 is updated, the processes of steps S121 and S122 are executed. If the tomographic data 51 has not been updated, in step S118, it is confirmed again whether or not the user has performed a change operation.
  • step S121 the control unit 41 of the image processing device 11 processes the signal input from the probe 20 to newly generate a cross-sectional image of the biological tissue 60, similarly to the processing in step S101 or step S107.
  • step S122 the control unit 41 of the image processing apparatus 11 updates the three-dimensional data 52 of the living tissue 60 based on the tomographic data 51 acquired at step S121. After that, the processes after step S113 are executed. In step S122, it is preferable to update only the data corresponding to the updated tomographic data 51. FIG. In that case, the amount of data processing when generating the three-dimensional data 52 can be reduced, and real-time performance of data processing after step S113 can be improved.
  • step S201 when a pre-operation of clicking or tapping the first graphic element 87 while pressing a predetermined key is performed, the control unit 41 of the image processing apparatus 11 receives the pre-operation via the input unit 44.
  • the prior operation is, for example, an operation of clicking the first graphic element 87 with the mouse 15 while pressing the shift key of the keyboard 14, or clicking the first graphic element on the touch screen provided integrally with the display 16 while pressing the shift key of the keyboard 14.
  • step S202 when an operation of dragging the first graphic element 87 and dropping the first graphic element 87 at a position corresponding to the destination of the sensor is performed as a user operation, the control unit 41 of the image processing device 11 A user operation is accepted via the input unit 44 .
  • the user operation is, for example, an operation of dragging and dropping the first graphic element 87 with the mouse 15 or a touch screen provided integrally with the display 16 .
  • the control unit 41 of the image processing device 11 accepts the user's operation when the prior operation is performed before the user's operation.
  • the control unit 41 does not accept user operations until the pre-operation is performed. If the user operation is not performed within a certain period of time even if the preliminary operation is performed, the control unit 41 does not accept the user operation until the preliminary operation is performed again. Therefore, erroneous operations can be reliably prevented.
  • step S203 the control unit 41 of the image processing device 11 controls the movement of the sensor via the communication unit 43 and changes the relative position of the first graphic element 87 via the output unit 45 according to the user's operation. to cause the first graphic element 87 to represent the position of the sensor after movement.
  • control unit 41 of the image processing device 11 performs control to display the first graphic element 87a representing the post-movement position of the sensor at the position where the first graphic element 87 was dropped on the screen 80. .
  • the control unit 41 calculates the distance from the position of the first graphic element 87 before being dragged to the position of the first graphic element 87 after being dropped, that is, the position of the first graphic element 87a.
  • the control unit 41 calculates the movement distance of the sensor corresponding to the calculated distance using a predefined conversion formula or conversion formula.
  • the control unit 41 transmits a signal instructing the scanner unit 31 to move back and forth by the calculated movement distance to the drive unit 13 via the image diagnosis interface.
  • the slide motor 38 rotates forward according to the transmitted signal, and the scanner unit 31 advances. That is, the same operation as when the forward switch included in the switch group 39 is pushed is performed. If the first graphic element 87 is dragged downward in the user operation, a signal is sent instructing the scanner unit 31 to retract. In the drive unit 13, the slide motor 38 rotates in the reverse direction according to the transmitted signal, and the scanner unit 31 moves backward. That is, the same operation as when the pullback switch included in the switch group 39 is pushed is performed.
  • control unit 41 of the image processing device 11 controls movement of the sensor after the first graphic element 87 is dropped. Even if the first graphic element 87 is dragged, the control unit 41 does not start moving the sensor until the first graphic element 87 is dropped.
  • the control unit 41 of the image processing device 11 adjusts the moving speed of the sensor so that regardless of the distance from the position before the first graphic element 87 is dragged to the position after the first graphic element 87 is dropped, the The sensor may reach its destination.
  • the controller 41 may adjust the advance/retreat speed of the scanner unit 31 so that the advance/retreat of the scanner unit 31 is completed in about two seconds regardless of the distance by which the first graphic element 87 is dragged.
  • the control unit 41 of the image processing device 11 As shown in FIG. Among the third voxel group 57 at the position corresponding to the position after displacement of the first graphic element 87, at least voxels representing the inner surface 61 of the living tissue 60, or adjacent to the voxels representing the inner surface 61 and forming the lumen 63. Color the voxels it represents with a predetermined color. For example, assuming that a drag operation is currently being performed and a drop operation is not being performed, as shown in FIG. Voxels representing inner surface 61 of 60 are colored with a first color, such as green.
  • the voxels representing the inner surface 61 of the biological tissue 60 are orange. is colored with a second color such as That is, the lines of the second color are displayed together with the lines of the first color.
  • a first graphic element 88 represents the tentative post-movement position of the sensor by being positioned at the same height as the third group of voxels 57 .
  • a first graphic element 87 representing the current position of the sensor is displayed in a different color than the first graphic element 88 being dragged.
  • a first graphical element 87 representing the current position of the sensor is displayed in a first color and a first graphical element 88 being dragged is displayed in a second color.
  • the lines of the first color may be hidden.
  • the first graphic element 87 representing the current position of the sensor may also be hidden.
  • the display 16 may further display a two-dimensional image representing the cross section indicated by the obtained tomographic data 51 .
  • the most recent cross-sectional image corresponding to the location of the first graphical element 88 being dragged may be displayed in a balloon at that location.
  • the control unit 41 of the image processing device 11 changes the position of the first graphic element 87 from the position before the drag to the position after the drag of the first graphic element 87, i.e., the position after the drag.
  • a numerical value may also be displayed on the display 16 indicating the distance traveled by the sensor corresponding to the distance to the location of the first graphical element 88 . For example, assume that it is known that the sensor is located near one longitudinal end of the fossa ovalis and that the fossa ovalis has a longitudinal length of about 10 millimeters.
  • the sensor can be easily and reliably moved.
  • the sensor can be easily and reliably moved to the desired position even when the ablation is performed at a certain distance, such as 10 millimeters from the base of the SVC.
  • SVC is an abbreviation for superior vena cava.
  • control unit 41 of the image processing device 11 controls movement of the sensor after the first graphic element 87 is dropped, while the first graphic element 87 is being dragged. , may control the movement of the sensor.
  • Control unit 41 may initiate movement of the sensor when first graphic element 87 begins to be dragged.
  • the controller 41 may adjust the advance/retreat speed of the scanner unit 31 according to the speed at which the first graphic element 87 is dragged. In other words, the controller 41 may increase the forward/backward speed of the scanner unit 31 as the speed at which the first graphic element 87 is dragged increases.
  • control unit 41 of the image processing device 11 may limit the speed at which the first graphic element 87 is dragged according to the upper limit of the moving speed of the sensor.
  • the controller 41 may adjust the advancing/retreating speed of the scanner unit 31 so as not to exceed 40 mm/sec, no matter how fast the first graphic element 87 is dragged.
  • the control unit 41 of the image processing apparatus 11 displays an image representing the living tissue 60 based on the tomographic data 51 acquired by the sensor moving through the lumen 63 of the living tissue 60. 16, and an element representing the position of the sensor is displayed on the display 16 on the same screen 80 as the image.
  • the control unit 41 controls the movement of the sensor according to the user operation, and changes the relative position of the element to change the position of the sensor after movement. be represented.
  • the senor can be operated on the screen 80. Therefore, for example, when a procedure such as ablation using IVUS is performed, a doctor who is performing the procedure while operating a catheter can easily perform a pullback operation on the screen 80 . Alternatively, a clinical engineer operating an IVUS system while looking at the display 16 can simply perform a pullback operation on the screen 80 . Therefore, it becomes easier to perform the procedure even when the number of staff is small.
  • the user operation may be a click or tap operation instead of a drag and drop operation. That is, the process of step S201 is omitted, and in step S202, the control unit 41 of the image processing apparatus 11 clicks or taps a position away from the first graphic element 87 by a distance corresponding to the moving distance of the sensor as a user operation. You may receive operation to do via the input part 44.
  • FIG. the user operation is, for example, an operation of clicking an arbitrary position of the second graphic element 86 with the mouse 15, or a tap of an arbitrary position of the second graphic element 86 with a touch screen provided integrally with the display 16. It is an operation to
  • control unit 41 of the image processing device 11 adjusts the moving speed of the sensor to maintain a constant speed regardless of the distance from the position before the click or tap of the first graphic element 87 to the position of the click or tap.
  • the sensor may reach the destination in time.
  • the controller 41 may adjust the advance/retreat speed of the scanner unit 31 so that the advance/retreat of the scanner unit 31 is completed in about two seconds regardless of the clicked or tapped position.
  • control unit 41 of the image processing device 11 may receive an operation of setting the start point and the end point via the input unit 44. Then, the control unit 41 may control the movement of the sensor such that the sensor repeatedly reciprocates between the set start point and end point.
  • step S101 instead of performing the pullback operation manually, the operation shown in FIG. 15 may be applied to perform the pullback operation on the screen 80.
  • the user operation may be an operation of specifying the sensor movement destination by inputting a numerical value of the sensor movement distance on the screen 80 .
  • a user operation may include an operation of selecting a moving direction of the sensor.
  • the control unit 41 of the image processing device 11 causes the display 16 to display the three-dimensional data 52 representing the biological tissue 60 as a three-dimensional image 53 .
  • the control unit 41 forms a cutting area 62 that exposes the lumen 63 of the biological tissue 60 in the three-dimensional image 53 in the three-dimensional data 52 .
  • the control unit 41 causes the display 16 to display a two-dimensional image 56 representing a cross section 64 of the biological tissue 60 and a region 65 corresponding to the cutting region 62 in the cross section 64 along with the three-dimensional image 53 .
  • the user can understand from the two-dimensional image 56 what kind of structure the portion of the biological tissue 60 that is cut off and not displayed in the three-dimensional image 53 is. For example, if the user is an operator, it becomes easier to operate the inside of the living tissue 60 .
  • control unit 41 of the image processing apparatus 11 controls the living tissue 60 based on the tomographic data 51 acquired by the sensor that acquires the tomographic data 51 of the living tissue 60 while moving through the lumen 63 of the living tissue 60 .
  • 3D data 52 representing 60 is generated and updated.
  • the control unit 41 causes the display 16 to display the three-dimensional data 52 as a three-dimensional image 53 .
  • the control unit 41 selects, in the three-dimensional image 53, at least the voxels representing the inner surface 61 of the biological tissue 60 from among the first voxel group 54 corresponding to the cross section 64 indicated by the tomographic data 51 newly acquired by the sensor, or Voxels adjacent to the voxels representing the inner surface 61 and representing the lumen 63 are colored to distinguish them from the second group of voxels 55 corresponding to other cross-sections of the biological tissue 60 .
  • the user observing the lumen 63 of the biological tissue 60 using the three-dimensional image 53 can understand which part of the three-dimensional image 53 the information currently obtained by the sensor, that is, the latest information corresponds to. easier.
  • step S201 may be omitted. That is, in step S202, the control unit 41 of the image processing apparatus 11 may accept the user's operation regardless of whether the prior operation was performed before the user's operation.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Vascular Medicine (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

画像処理装置は、生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示させるとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示させる画像処理装置であって、前記画面上で前記センサの移動先を指定するユーザ操作が行われると、前記ユーザ操作に従って、前記センサの移動を制御するとともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる制御部を備える。

Description

画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
 本開示は、画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラムに関する。
 特許文献1から特許文献3には、US画像システムを用いて心腔又は血管の3次元画像を生成する技術が記載されている。「US」は、ultrasoundの略語である。
米国特許出願公開第2010/0215238号明細書 米国特許第6385332号明細書 米国特許第6251072号明細書
 心腔内、心臓血管、及び下肢動脈領域などに対してIVUSを用いる治療が広く行われている。「IVUS」は、intravascular ultrasoundの略語である。IVUSとはカテーテル長軸に対して垂直平面の2次元画像を提供するデバイス又は方法のことである。
 IVUSは、しばしばアブレーションなど、IVUSカテーテルとは別のカテーテルを用いた手技に使用される。基本的に医師及び臨床工学技士などのスタッフで構成されたチームで手技が行われることが多いが、スタッフ数が少ない状態で手技が行われることもある。そのような場合、カテーテルを操作しながら手技を行っている医師、又はディスプレイを見ながらIVUSのシステムを操作している臨床工学技士が、IVUSのプルバックユニットを操作する役割を果たすことは難しい。
 本開示の目的は、画面上でセンサを操作できるようにすることである。
 本開示の一態様としての画像処理装置は、生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示させるとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示させる画像処理装置であって、前記画面上で前記センサの移動先を指定するユーザ操作が行われると、前記ユーザ操作に従って、前記センサの移動を制御するとともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる制御部を備える。
 一実施形態として、前記制御部は、予め定められたキーを押しながら前記要素をクリック又はタップする事前操作が前記ユーザ操作の前に行われた場合に、前記ユーザ操作を受け付ける。
 一実施形態として、前記制御部は、前記ユーザ操作として、前記要素をドラッグし、前記センサの移動先に対応する位置に前記要素をドロップする操作を受け付ける。
 一実施形態として、前記制御部は、前記要素がドロップされた後に、前記センサの移動を制御する。
 一実施形態として、前記制御部は、前記センサの移動速度を調整して、前記要素のドラッグ前の位置から前記要素のドロップ後の位置までの距離に関わらず一定の時間で前記センサを移動先に到達させる。
 一実施形態として、前記制御部は、前記要素がドラッグされている間、前記センサの移動を制御する。
 一実施形態として、前記制御部は、前記センサの移動速度の上限に合わせて、前記要素がドラッグされる速度を制限する。
 一実施形態として、前記制御部は、前記要素がドラッグされることで前記要素が変位する度に、前記要素の変位後の位置に対応する位置で前記センサによって取得された断層データで示される断面を表す2次元画像を前記ディスプレイに更に表示させる。
 一実施形態として、前記制御部は、前記要素がドラッグされることで前記要素が変位する度に、前記画像である3次元画像において、前記要素の変位後の位置に対応する位置にあるボクセル群のうち、少なくとも前記生体組織の内表面を表すボクセル、又は当該内表面を表すボクセルに隣接し前記内腔を表すボクセルを、予め定められた色で色付けする。
 一実施形態として、前記制御部は、前記要素がドラッグされている間、前記要素のドラッグ前の位置から前記要素のドラッグ後の位置までの距離に対応する前記センサの移動距離を示す数値を前記ディスプレイに更に表示させる。
 一実施形態として、前記制御部は、前記ユーザ操作として、前記要素から前記センサの移動距離に対応する距離だけ離れた位置をクリック又はタップする操作を受け付ける。
 一実施形態として、前記制御部は、前記センサの移動速度を調整して、前記要素のクリック又はタップ前の位置からクリック又はタップの位置までの距離に関わらず一定の時間で前記センサを移動先に到達させる。
 一実施形態として、前記制御部は、前記要素である第1グラフィック要素と、前記センサの移動範囲を表す第2グラフィック要素とを組み合わせて前記ディスプレイに表示させる。
 一実施形態として、前記制御部は、前記画像である3次元画像における前記内腔の長手方向と、前記第2グラフィック要素の長軸方向とが平行になる向きで前記第2グラフィック要素を前記ディスプレイに表示させる。
 一実施形態として、前記制御部は、前記画像である3次元画像において、前記センサにより新たに取得された断層データで示される断面に対応する第1ボクセル群のうち、少なくとも前記生体組織の内表面を表すボクセル、又は当該内表面を表すボクセルに隣接し前記内腔を表すボクセルを前記要素として、前記生体組織の他の断面に対応する第2ボクセル群と区別して色付けする。
 本開示の一態様としての画像処理システムは、前記画像処理装置と、前記センサを有するプローブとを備える。
 一実施形態として、前記画像処理システムは、前記ディスプレイを更に備える。
 本開示の一態様としての画像表示方法は、生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示するとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示する画像表示方法であって、前記画面上で前記センサの移動先を指定するユーザ操作が行われると、コンピュータが、前記ユーザ操作に従って、前記センサの移動を制御するとともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる、というものである。
 本開示の一態様としての画像処理プログラムは、生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示させるとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示させるコンピュータに、前記画面上で前記センサの移動先を指定するユーザ操作が行われると、前記ユーザ操作に従って、前記センサの移動を制御する処理とともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる処理を実行させる。
 本開示によれば、画面上でセンサを操作できるようになる。
本開示の実施形態に係る画像処理システムの斜視図である。 本開示の実施形態に係る画像処理システムによりディスプレイに表示される画面の例を示す図である。 本開示の実施形態に係る画像処理システムによりディスプレイに表示される2次元画像の例を示す図である。 本開示の実施形態に係る画像処理システムにより形成される切断領域の例を示す図である。 本開示の実施形態に係る画像処理装置の構成を示すブロック図である。 本開示の実施形態の一変形例に係る画像処理システムによりディスプレイに表示される画面の例を示す図である。 本開示の実施形態に係るプローブ及び駆動ユニットの斜視図である。 本開示の実施形態に係る画像処理システムの動作を示すフローチャートである。 本開示の実施形態に係る画像処理システムの動作を示すフローチャートである。 本開示の実施形態において生体組織の断面画像を2値化した結果を示す図である。 本開示の実施形態において生体組織の内表面の点群を抽出した結果を示す図である。 本開示の実施形態において生体組織の断面の重心位置を算出した結果を示す図である。 本開示の実施形態において生体組織の複数断面の重心位置を算出した結果を示す図である。 図13の結果に対してスムージングを実行した結果を示す図である。 本開示の実施形態に係る画像処理システムの動作を示すフローチャートである。 本開示の実施形態の一変形例に係る画像処理システムによりディスプレイに表示される画面の例を示す図である。
 以下、本開示の幾つかの実施形態について、図を参照して説明する。
 各図中、同一又は相当する部分には、同一符号を付している。それぞれの実施形態の説明において、同一又は相当する部分については、説明を適宜省略又は簡略化する。
 図1から図5を参照して、本実施形態の概要を説明する。
 本実施形態に係る画像処理装置11は、生体組織60の内腔63を移動するセンサによって取得された断層データ51に基づいて、生体組織60を表す画像をディスプレイ16に表示させるとともに、当該画像と同じ画面80上でセンサの位置を表す要素をディスプレイ16に表示させるコンピュータである。生体組織60を表す画像は、本実施形態では、図2の右側に示すような3次元画像53であるが、図2の左側に示すような断面画像などの2次元画像56でもよい。センサの位置を表す要素は、本実施形態では、第1グラフィック要素87として図2に示すようなスライダーの摘みなどのグラフィック要素であるが、センサの位置に対応する第1ボクセル群54のうち、図2に示すように緑色などの第1色で色付けされたボクセルでもよい。画面80上でセンサの移動先を指定するユーザ操作が行われると、画像処理装置11は、ユーザ操作に従って、センサの移動を制御するとともに、当該要素の相対位置を変更してセンサの移動後の位置を表させる。
 本実施形態によれば、画面80上でセンサを操作できるようになる。したがって、例えば、IVUSを使用したアブレーションなどの手技が行われる際には、カテーテルを操作しながら手技を行っている医師が、画面80上でIVUSのプルバックユニットを簡単に操作することができる。あるいは、ディスプレイ16を見ながらIVUSのシステムを操作している臨床工学技士が、画面80上でプルバックユニットを簡単に操作することができる。そのため、スタッフ数が少ない状態でも手技を行いやすくなる。
 画像処理装置11は、生体組織60を表す3次元データ52を3次元画像53としてディスプレイ16に表示させる。画像処理装置11は、図4に示すように、3次元画像53において生体組織60の内腔63を露出させる切断領域62を3次元データ52に形成する。画像処理装置11は、図2に示すように、生体組織60の断面64と、断面64において切断領域62に相当する領域65とを表す2次元画像56を3次元画像53とともにディスプレイ16に表示させる。
 本実施形態によれば、どのように生体組織60の構造の一部が切り取られているかを示すことができる。したがって、3次元画像53において生体組織60の切り取られて表示されていない部分がどのような構造であるかを、ユーザが2次元画像56から把握することができる。例えば、ユーザが術者であれば、生体組織60の内部に対する施術を行いやすくなる。
 画像処理装置11は、断層データ51に基づいて、3次元データ52を生成及び更新する。画像処理装置11は、図2に示すように、3次元画像53において、センサにより新たに取得された断層データ51で示される断面64に対応する第1ボクセル群54のうち、少なくとも生体組織60の内表面61を表すボクセル、又は内表面61を表すボクセルに隣接し内腔63を表すボクセルを、生体組織60の他の断面に対応する第2ボクセル群55と区別して色付けする。
 本実施形態によれば、センサによって新たに取得された断層データ51で示される生体組織60の断面64が3次元画像53内のどの部分に当たるかを示すことができる。したがって、センサで現在得られている情報、すなわち、最新情報が3次元画像53内のどの部分に当たるかが、3次元画像53を用いて生体組織60の内腔63を観察しているユーザにとってわかりやすくなる。
 本実施形態の一変形例として、第1ボクセル群54だけでなく、第1ボクセル群54が対応する断面64に隣接する断面に対応するボクセル群のうち、少なくとも内表面61を表すボクセル、又は内表面61を表すボクセルに隣接し内腔63を表すボクセルも、生体組織60の他の断面に対応するボクセル群と区別して色付けしてもよい。この変形例によれば、他の断面に対応するボクセル群と区別して色付けされるボクセル群のセンサの移動方向における幅が広くなり、3次元画像53内で当該ボクセル群をユーザが認識しやすくなる。
 本実施形態の一変形例として、図6に示すように、第1ボクセル群54のうち、生体組織60を表すボクセル全てを第2ボクセル群55と区別して色付けしてもよい。この変形例によれば、生体組織60の内腔63を観察するために形成される生体組織60の切断面上でも第1ボクセル群54が第2ボクセル群55と区別して色付けされるため、最新情報が3次元画像53内のどの部分に当たるかが、ユーザにとってよりわかりやすくなる。
 本実施形態では、画像処理装置11は、断面64を表す2次元画像56を、断面64に対応する第1ボクセル群54のうち、少なくとも生体組織60の内表面61を表すボクセル、又は内表面61を表すボクセルに隣接し内腔63を表すボクセルが他の断面に対応する第2ボクセル群55と区別して色付けされた3次元画像53とともにディスプレイ16に表示させる。よって、2次元画像56と3次元画像53との関係性を示すことができる。
 生体組織60は、例えば、血管、又は心臓などの臓器を含む。生体組織60は、解剖学的に単一の器官又はその一部のみに限らず、複数の器官を跨いで内腔を有する組織も含む。そのような組織の一例として、具体的には、下大静脈の上部から右心房を抜けて上大静脈の下部に至る血管系組織の一部が挙げられる。図2から図4の例では、生体組織60は、血管である。
 図2において、画面80に、操作パネル81と、2次元画像56と、3次元画像53と、第1グラフィック要素87と、第2グラフィック要素86とが表示されている。
 操作パネル81は、切断領域62を設定するためのGUIコンポーネントである。「GUI」は、graphical user interfaceの略語である。操作パネル81には、切断領域62の設定をアクティブにするかどうかを選択するためのチェックボックス82と、ベース角度を設定するためのスライダー83と、開き角度を設定するためのスライダー84と、重心を利用するかどうかを選択するためのチェックボックス85とが設けられている。
 ベース角度とは、生体組織60の断面64を表す断面画像において1つの点Mから延びる2本の直線L1,L2のうち一方の直線L1の回転角度のことである。よって、ベース角度を設定することは、直線L1の向きを設定することに相当する。開き角度とは、2本の直線L1,L2間の角度のことである。よって、開き角度を設定することは、2本の直線L1,L2のなす角を設定することに相当する。点Mは、断面64の重心である。点Mは、重心を利用しないことが選択されている場合は、断面64上の重心以外の点に設定されてもよい。
 2次元画像56は、断面画像を加工して得られた画像である。2次元画像56では、断面64のどの部分が切り取られているかを明示するために、切断領域62に相当する領域65の色が変えられている。
 本実施形態では、切断領域62の位置に応じて、3次元画像53を画面80に表示する際の視点が調整される。視点とは、3次元空間に配置される仮想のカメラ71の位置のことである。2次元画像56では、断面64に対するカメラ71の位置が表示されている。
 本実施形態では、2次元画像56を使用して切断領域62を決定することができる。具体的には、図3に示すように、ベース角度又は開き角度を調整して、2次元画像56において2本の直線L1,L2で区切られた領域65の位置又は大きさを設定することで、切断領域62の位置又は大きさを設定することができる。例えば、直線L1が反時計回りに約90度回転するようにベース角度を変更すると、2次元画像56aにおいて、ベース角度の変更に応じて移動した領域65aが得られる。そして、領域65aの位置に応じて、切断領域62の位置が調整される。あるいは、2本の直線L1,L2間の角度が大きくなるように開き角度を変更すると、2次元画像56bにおいて、開き角度の変更に応じて拡大した領域65bが得られる。そして、領域65bの大きさに応じて、切断領域62の大きさが調整される。ベース角度及び開き角度の両方を調整して、2次元画像56において領域65の位置及び大きさの両方を設定することで、切断領域62の位置及び大きさの両方を設定することもできる。カメラ71の位置は、切断領域62の位置又は大きさに応じて適宜調整されてもよい。
 本実施形態では、常に、センサの現在位置に対応する画像、すなわち、最新の画像が2次元画像56として表示されるが、本実施形態の一変形例として、切断領域62が決定された後は、センサの現在位置以外の位置に対応する画像が2次元画像56として表示されてもよい。
 本実施形態の一変形例として、ベース角度は、スライダー83を操作することで設定される代わりに、直線L1をドラッグすることで設定されてもよいし、又は数値を入力することで設定されてもよい。同様に、開き角度は、スライダー84を操作することで設定される代わりに、直線L2をドラッグすることで設定されてもよいし、又は数値を入力することで設定されてもよい。
 3次元画像53では、2次元画像56を使用して決定された切断領域62が非表示又は透明になっている。また、3次元画像53では、内腔63の長手方向において現在センサが存在しており、現在リアルタイムで更新が行われている位置を表現するために、センサの現在位置に対応する第1ボクセル群54の色彩が変えられている。
 本実施形態では、図2に示すように、第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルが第2ボクセル群55とは異なる色に設定されることで、第2ボクセル群55と区別して色付けされるが、本実施形態の一変形例として、図6に示すように、第1ボクセル群54のうち、生体組織60を表すボクセル全てが異なる色に設定されてもよい。更なる変形例として、第1ボクセル群54と第2ボクセル群55とが異なる色に設定される代わりに、第1ボクセル群54と第2ボクセル群55とのコントラストが調整されることで、第1ボクセル群54が第2ボクセル群55と区別して色付けされてもよい。
 第1グラフィック要素87は、センサの位置を表すグラフィック要素である。第2グラフィック要素86は、センサの移動範囲を表すグラフィック要素である。本実施形態では、第1グラフィック要素87及び第2グラフィック要素86の組合せがスライダーとして構成されている。第1グラフィック要素87及び第2グラフィック要素86は、任意の位置に表示されてよいが、本実施形態では、3次元画像53の右側に表示されている。
 本実施形態では、ユーザ操作として、第1グラフィック要素87をドラッグし、センサの移動先に対応する位置に第1グラフィック要素87をドロップする操作が行われると、ユーザ操作に従って、センサの移動が制御されるとともに、第1グラフィック要素87の相対位置が変更される。例えば、現時点ではユーザ操作が行われていないとすると、図2に示すように、センサの現在位置に対応する第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされる。第1グラフィック要素87は、第1ボクセル群54と同じ高さに位置することでセンサの現在位置を表す。その後、ユーザ操作として、第1グラフィック要素87を上方にドラッグし、ある位置に第1グラフィック要素87をドロップする操作が行われたとすると、その位置に対応する位置までセンサが自動的に移動する。そして、センサの移動後の位置に対応する第1ボクセル群54aのうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされる。ドロップされた第1グラフィック要素87aは、ドロップ先、すなわち、第1ボクセル群54aと同じ高さに位置することでセンサの移動後の位置を表す。
 本実施形態の一変形例として、ユーザ操作は、ドラッグ及びドロップ操作の代わりに、クリック又はタップ操作でもよい。すなわち、ユーザ操作として、第1グラフィック要素87からセンサの移動距離に対応する距離だけ離れた位置をクリック又はタップする操作が行われてもよい。例えば、現時点ではユーザ操作が行われていないとすると、図2に示すように、センサの現在位置に対応する第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされる。第1グラフィック要素87は、第1ボクセル群54と同じ高さに位置することでセンサの現在位置を表す。その後、ユーザ操作として、第1グラフィック要素87から上方に離れた位置をクリック又はタップする操作が行われたとすると、その位置に対応する位置までセンサが自動的に移動する。そして、センサの移動後の位置に対応する第1ボクセル群54aのうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされる。クリック又はタップされた位置には、第1ボクセル群54aと同じ高さに位置することでセンサの移動後の位置を表す第1グラフィック要素87aが表示される。誤操作を防ぐために、ユーザ操作に、クリック又はタップ操作と同時にシフトキーなどの特定キーを押す操作を含めてもよい。
 本実施形態の一変形例として、第1グラフィック要素87がドラッグ及びドロップされる代わりに、第1ボクセル群54のうち、緑色などの第1色で色付けされたボクセルがドラッグ及びドロップされてもよい。その場合、第1色で色付けされたボクセルを、第1色のラインとみなすことができる。すなわち、ユーザ操作として、緑色などの第1色のラインをドラッグし、センサの移動先に対応する位置に第1色のラインをドロップする操作が行われると、ユーザ操作に従って、センサの移動が制御されるとともに、第1色のラインの相対位置が変更される。例えば、現時点ではユーザ操作が行われていないとすると、図2に示すように、センサの現在位置に対応する第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされ、センサの現在位置を表すラインとして機能する。その後、ユーザ操作として、このラインを上方にドラッグし、ある位置にラインをドロップする操作が行われたとすると、その位置に対応する位置までセンサが自動的に移動する。そして、センサの移動後の位置に対応する第1ボクセル群54aのうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされ、センサの移動後の位置を表すラインとして機能する。
 この変形例の更なる変形例として、ユーザ操作は、ドラッグ及びドロップ操作の代わりに、単純なクリック又はタップ操作でもよい。すなわち、ユーザ操作として、緑色などの第1色のラインからセンサの移動距離に対応する距離だけ離れた位置をクリック又はタップする操作が行われてもよい。例えば、現時点ではユーザ操作が行われていないとすると、図2に示すように、センサの現在位置に対応する第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされ、センサの現在位置を表すラインとして機能する。その後、ユーザ操作として、このラインから上方に離れた位置をクリック又はタップする操作が行われたとすると、その位置に対応する位置までセンサが自動的に移動する。そして、センサの移動後の位置に対応する第1ボクセル群54aのうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされ、センサの移動後の位置を表すラインとして機能する。誤操作を防ぐために、ユーザ操作に、クリック又はタップ操作と同時にシフトキーなどの特定キーを押す操作を含めてもよい。
 図4において、X方向、及びX方向に直交するY方向は、それぞれ生体組織60の内腔63の短手方向に相当する。X方向及びY方向に直交するZ方向は、生体組織60の内腔63の長手方向に相当する。
 図4の例では、操作パネル81のチェックボックス85がチェック状態、すなわち、重心を利用することが選択されているとする。画像処理装置11は、3次元データ52を用いて生体組織60の断面C1,C2,C3,C4それぞれの重心B1,B2,B3,B4の位置を算出する。画像処理装置11は、重心B1,B2,B3,B4の位置を通る1本の線Lbで交わり、かつ2本の直線L1,L2をそれぞれ含む2つの平面を切断面P1,P2として設定する。例えば、図2に示した点Mが点B3であるとすると、直線L1は断面C3と切断面P1との交線、直線L2は断面C3と切断面P2との交線となる。画像処理装置11は、3次元画像53において切断面P1,P2に挟まれ、生体組織60の内腔63を露出させる領域を切断領域62として3次元データ52に形成する。
 図4のように屈曲した血管の3次元モデルの場合、1つの平面をもって3次元モデルを切断して内腔63を表示すると、正しく血管内を表示し得ないケースがある。本実施形態では、図4のように、血管の重心を捕捉し続けることにより、確実に血管の中を表示し得るように3次元モデルを切断することが可能となる。
 図4では、便宜上、生体組織60の内腔63の短手方向の複数断面として、4つの断面C1,C2,C3,C4を示しているが、重心位置の算出対象となる断面の数は4つに限らず、好適にはIVUSで取得される断面画像の数と同数である。
 図4とは別の例として、操作パネル81のチェックボックス85がチェックされていない状態、すなわち、重心を利用しないことが選択されているとする。そのような例において、画像処理装置11は、点Mを通ってZ方向に延びる直線など、点Mを通る1本の任意の線で交わり、かつ2本の直線L1,L2をそれぞれ含む2つの平面を切断面P1,P2として設定する。
 図1を参照して、本実施形態に係る画像処理システム10の構成を説明する。
 画像処理システム10は、画像処理装置11、ケーブル12、駆動ユニット13、キーボード14、マウス15、及びディスプレイ16を備える。
 画像処理装置11は、本実施形態では画像診断に特化した専用のコンピュータであるが、PCなどの汎用のコンピュータでもよい。「PC」は、personal computerの略語である。
 ケーブル12は、画像処理装置11と駆動ユニット13とを接続するために用いられる。
 駆動ユニット13は、図7に示すプローブ20に接続して用いられ、プローブ20を駆動する装置である。駆動ユニット13は、MDUとも呼ばれる。「MDU」は、motor drive unitの略語である。プローブ20は、IVUSに適用される。プローブ20は、IVUSカテーテル又は画像診断用カテーテルとも呼ばれる。
 キーボード14、マウス15、及びディスプレイ16は、任意のケーブルを介して、又は無線で画像処理装置11と接続される。ディスプレイ16は、例えば、LCD、有機ELディスプレイ、又はHMDである。「LCD」は、liquid crystal displayの略語である。「EL」は、electro luminescenceの略語である。「HMD」は、head-mounted displayの略語である。
 画像処理システム10は、オプションとして、接続端子17及びカートユニット18を更に備える。
 接続端子17は、画像処理装置11と外部機器とを接続するために用いられる。接続端子17は、例えば、USB端子である。「USB」は、Universal Serial Busの略語である。外部機器は、例えば、磁気ディスクドライブ、光磁気ディスクドライブ、又は光ディスクドライブなどの記録媒体である。
 カートユニット18は、移動用のキャスタ付きのカートである。カートユニット18のカート本体には、画像処理装置11、ケーブル12、及び駆動ユニット13が設置される。カートユニット18の最上部のテーブルには、キーボード14、マウス15、及びディスプレイ16が設置される。
 図7を参照して、本実施形態に係るプローブ20及び駆動ユニット13の構成を説明する。
 プローブ20は、駆動シャフト21、ハブ22、シース23、外管24、超音波振動子25、及び中継コネクタ26を備える。
 駆動シャフト21は、生体の体腔内に挿入されるシース23と、シース23の基端に接続した外管24とを通り、プローブ20の基端に設けられたハブ22の内部まで延びている。駆動シャフト21は、信号を送受信する超音波振動子25を先端に有してシース23及び外管24内に回転可能に設けられる。中継コネクタ26は、シース23及び外管24を接続する。
 ハブ22、駆動シャフト21、及び超音波振動子25は、それぞれが一体的に軸方向に進退移動するように互いに接続される。そのため、例えば、ハブ22が先端側に向けて押される操作がなされると、駆動シャフト21及び超音波振動子25がシース23の内部を先端側へ移動する。例えば、ハブ22が基端側に引かれる操作がなされると、駆動シャフト21及び超音波振動子25は、矢印で示すように、シース23の内部を基端側へ移動する。
 駆動ユニット13は、スキャナユニット31、スライドユニット32、及びボトムカバー33を備える。
 スキャナユニット31は、プルバックユニットとも呼ばれる。スキャナユニット31は、ケーブル12を介して画像処理装置11と接続する。スキャナユニット31は、プローブ20と接続するプローブ接続部34と、駆動シャフト21を回転させる駆動源であるスキャナモータ35とを備える。
 プローブ接続部34は、プローブ20の基端に設けられたハブ22の差込口36を介して、プローブ20と着脱自在に接続する。ハブ22の内部では、駆動シャフト21の基端が回転自在に支持されており、スキャナモータ35の回転力が駆動シャフト21に伝えられる。また、ケーブル12を介して駆動シャフト21と画像処理装置11との間で信号が送受信される。画像処理装置11では、駆動シャフト21から伝わる信号に基づき、生体管腔の断層画像の生成、及び画像処理が行われる。
 スライドユニット32は、スキャナユニット31を進退自在に載せており、スキャナユニット31と機械的かつ電気的に接続している。スライドユニット32は、プローブクランプ部37、スライドモータ38、及びスイッチ群39を備える。
 プローブクランプ部37は、プローブ接続部34よりも先端側でこれと同軸的に配置して設けられており、プローブ接続部34に接続されるプローブ20を支持する。
 スライドモータ38は、軸方向の駆動力を生じさせる駆動源である。スライドモータ38の駆動によってスキャナユニット31が進退動し、それに伴って駆動シャフト21が軸方向に進退動する。スライドモータ38は、例えば、サーボモータである。
 スイッチ群39には、例えば、スキャナユニット31の進退操作の際に押されるフォワードスイッチ及びプルバックスイッチ、並びに画像描写の開始及び終了の際に押されるスキャンスイッチが含まれる。ここでの例に限定されず、必要に応じて種々のスイッチがスイッチ群39に含まれる。
 フォワードスイッチが押されると、スライドモータ38が正回転し、スキャナユニット31が前進する。一方、プルバックスイッチが押されると、スライドモータ38が逆回転し、スキャナユニット31が後退する。
 スキャンスイッチが押されると画像描写が開始され、スキャナモータ35が駆動するとともに、スライドモータ38が駆動してスキャナユニット31を後退させていく。術者などのユーザは、事前にプローブ20をスキャナユニット31に接続しておき、画像描写開始とともに駆動シャフト21が回転しつつ軸方向基端側に移動するようにする。スキャナモータ35及びスライドモータ38は、スキャンスイッチが再度押されると停止し、画像描写が終了する。
 ボトムカバー33は、スライドユニット32の底面及び底面側の側面全周を覆っており、スライドユニット32の底面に対して近接離間自在である。
 図5を参照して、画像処理装置11の構成を説明する。
 画像処理装置11は、制御部41と、記憶部42と、通信部43と、入力部44と、出力部45とを備える。
 制御部41は、少なくとも1つのプロセッサ、少なくとも1つのプログラマブル回路、少なくとも1つの専用回路、又はこれらの任意の組合せを含む。プロセッサは、CPU若しくはGPUなどの汎用プロセッサ、又は特定の処理に特化した専用プロセッサである。「CPU」は、central processing unitの略語である。「GPU」は、graphics processing unitの略語である。プログラマブル回路は、例えば、FPGAである。「FPGA」は、field-programmable gate arrayの略語である。専用回路は、例えば、ASICである。「ASIC」は、application specific integrated circuitの略語である。制御部41は、画像処理装置11を含む画像処理システム10の各部を制御しながら、画像処理装置11の動作に関わる処理を実行する。
 記憶部42は、少なくとも1つの半導体メモリ、少なくとも1つの磁気メモリ、少なくとも1つの光メモリ、又はこれらの任意の組合せを含む。半導体メモリは、例えば、RAM又はROMである。「RAM」は、random access memoryの略語である。「ROM」は、read only memoryの略語である。RAMは、例えば、SRAM又はDRAMである。「SRAM」は、static random access memoryの略語である。「DRAM」は、dynamic random access memoryの略語である。ROMは、例えば、EEPROMである。「EEPROM」は、electrically erasable programmable read only memoryの略語である。記憶部42は、例えば、主記憶装置、補助記憶装置、又はキャッシュメモリとして機能する。記憶部42には、断層データ51など、画像処理装置11の動作に用いられるデータと、3次元データ52及び3次元画像53など、画像処理装置11の動作によって得られたデータとが記憶される。
 通信部43は、少なくとも1つの通信用インタフェースを含む。通信用インタフェースは、例えば、有線LANインタフェース、無線LANインタフェース、又はIVUSの信号を受信及びA/D変換する画像診断用インタフェースである。「LAN」は、local area networkの略語である。「A/D」は、analog to digitalの略語である。通信部43は、画像処理装置11の動作に用いられるデータを受信し、また画像処理装置11の動作によって得られるデータを送信する。本実施形態では、通信部43に含まれる画像診断用インタフェースに駆動ユニット13が接続される。
 入力部44は、少なくとも1つの入力用インタフェースを含む。入力用インタフェースは、例えば、USBインタフェース、HDMI(登録商標)インタフェース、又はBluetooth(登録商標)などの近距離無線通信規格に対応したインタフェースである。「HDMI(登録商標)」は、High-Definition Multimedia Interfaceの略語である。入力部44は、画像処理装置11の動作に用いられるデータを入力する操作などのユーザの操作を受け付ける。本実施形態では、入力部44に含まれるUSBインタフェース、又は近距離無線通信に対応したインタフェースにキーボード14及びマウス15が接続される。タッチスクリーンがディスプレイ16と一体的に設けられている場合、入力部44に含まれるUSBインタフェース又はHDMI(登録商標)インタフェースにディスプレイ16が接続されてもよい。
 出力部45は、少なくとも1つの出力用インタフェースを含む。出力用インタフェースは、例えば、USBインタフェース、HDMI(登録商標)インタフェース、又はBluetooth(登録商標)などの近距離無線通信規格に対応したインタフェースである。出力部45は、画像処理装置11の動作によって得られるデータを出力する。本実施形態では、出力部45に含まれるUSBインタフェース又はHDMI(登録商標)インタフェースにディスプレイ16が接続される。
 画像処理装置11の機能は、本実施形態に係る画像処理プログラムを、制御部41としてのプロセッサで実行することにより実現される。すなわち、画像処理装置11の機能は、ソフトウェアにより実現される。画像処理プログラムは、画像処理装置11の動作をコンピュータに実行させることで、コンピュータを画像処理装置11として機能させる。すなわち、コンピュータは、画像処理プログラムに従って画像処理装置11の動作を実行することにより画像処理装置11として機能する。
 プログラムは、非一時的なコンピュータ読取り可能な媒体に記憶しておくことができる。非一時的なコンピュータ読取り可能な媒体は、例えば、フラッシュメモリ、磁気記録装置、光ディスク、光磁気記録媒体、又はROMである。プログラムの流通は、例えば、プログラムを記憶したSDカード、DVD、又はCD-ROMなどの可搬型媒体を販売、譲渡、又は貸与することによって行う。「SD」は、Secure Digitalの略語である。「DVD」は、digital versatile discの略語である。「CD-ROM」は、compact disc read only memoryの略語である。プログラムをサーバのストレージに格納しておき、サーバから他のコンピュータにプログラムを転送することにより、プログラムを流通させてもよい。プログラムをプログラムプロダクトとして提供してもよい。
 コンピュータは、例えば、可搬型媒体に記憶されたプログラム又はサーバから転送されたプログラムを、一旦、主記憶装置に格納する。そして、コンピュータは、主記憶装置に格納されたプログラムをプロセッサで読み取り、読み取ったプログラムに従った処理をプロセッサで実行する。コンピュータは、可搬型媒体から直接プログラムを読み取り、プログラムに従った処理を実行してもよい。コンピュータは、コンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行してもよい。サーバからコンピュータへのプログラムの転送は行わず、実行指示及び結果取得のみによって機能を実現する、いわゆるASP型のサービスによって処理を実行してもよい。「ASP」は、application service providerの略語である。プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるものを含む。例えば、コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータは、「プログラムに準ずるもの」に該当する。
 画像処理装置11の一部又は全ての機能が、制御部41としてのプログラマブル回路又は専用回路により実現されてもよい。すなわち、画像処理装置11の一部又は全ての機能が、ハードウェアにより実現されてもよい。
 図8及び図9を参照して、本実施形態に係る画像処理システム10の動作を説明する。画像処理システム10の動作は、本実施形態に係る画像表示方法に相当する。
 図8のフローの開始前に、ユーザによって、プローブ20がプライミングされる。その後、プローブ20が駆動ユニット13のプローブ接続部34及びプローブクランプ部37に嵌め込まれ、駆動ユニット13に接続及び固定される。そして、プローブ20が血管又は心臓などの生体組織60内の目的部位まで挿入される。
 ステップS101において、スイッチ群39に含まれるスキャンスイッチが押され、更にスイッチ群39に含まれるプルバックスイッチが押されることで、いわゆるプルバック操作が行われる。プローブ20は、生体組織60の内部で、プルバック操作によって軸方向に後退する超音波振動子25により超音波を送信する。超音波振動子25は、生体組織60の内部を移動しながら放射線状に超音波を送信する。超音波振動子25は、送信した超音波の反射波を受信する。プローブ20は、超音波振動子25により受信した反射波の信号を画像処理装置11に入力する。画像処理装置11の制御部41は、入力された信号を処理して生体組織60の断面画像を順次生成することで、複数の断面画像を含む断層データ51を取得する。
 具体的には、プローブ20は、生体組織60の内部で超音波振動子25を周方向に回転させながら、かつ軸方向に移動させながら、超音波振動子25により、回転中心から外側に向かう複数方向に超音波を送信する。プローブ20は、生体組織60の内部で複数方向のそれぞれに存在する反射物からの反射波を超音波振動子25により受信する。プローブ20は、受信した反射波の信号を、駆動ユニット13及びケーブル12を介して画像処理装置11に送信する。画像処理装置11の通信部43は、プローブ20から送信された信号を受信する。通信部43は、受信した信号をA/D変換する。通信部43は、A/D変換した信号を制御部41に入力する。制御部41は、入力された信号を処理して、超音波振動子25の超音波の送信方向に存在する反射物からの反射波の強度値分布を算出する。制御部41は、算出した強度値分布に相当する輝度値分布を持つ2次元画像を生体組織60の断面画像として順次生成することで、断面画像のデータセットである断層データ51を取得する。制御部41は、取得した断層データ51を記憶部42に記憶させる。
 本実施形態において、超音波振動子25が受信する反射波の信号は、断層データ51の生データに相当し、画像処理装置11が反射波の信号を処理して生成する断面画像は、断層データ51の加工データに相当する。
 本実施形態の一変形例として、画像処理装置11の制御部41は、プローブ20から入力された信号をそのまま断層データ51として記憶部42に記憶させてもよい。あるいは、制御部41は、プローブ20から入力された信号を処理して算出した反射波の強度値分布を示すデータを断層データ51として記憶部42に記憶させてもよい。すなわち、断層データ51は、生体組織60の断面画像のデータセットに限られず、超音波振動子25の各移動位置における生体組織60の断面を何らかの形式で表すデータであればよい。
 本実施形態の一変形例として、周方向に回転しながら複数方向に超音波を送信する超音波振動子25の代わりに、回転することなく複数方向に超音波を送信する超音波振動子を用いてもよい。
 本実施形態の一変形例として、断層データ51は、IVUSを用いて取得される代わりに、OFDI又はOCTを用いて取得されてもよい。「OFDI」は、optical frequency domain imagingの略語である。「OCT」は、optical coherence tomographyの略語である。OFDI又はOCTが用いられる場合、生体組織60の内腔63を移動しながら断層データ51を取得するセンサとして、生体組織60の内腔63で超音波を送信して断層データ51を取得する超音波振動子25の代わりに、生体組織60の内腔63で光を放射して断層データ51を取得するセンサが用いられる。
 本実施形態の一変形例として、画像処理装置11が生体組織60の断面画像のデータセットを生成する代わりに、他の装置が同様のデータセットを生成し、画像処理装置11はそのデータセットを当該他の装置から取得してもよい。すなわち、画像処理装置11の制御部41が、IVUSの信号を処理して生体組織60の断面画像を生成する代わりに、他の装置が、IVUSの信号を処理して生体組織60の断面画像を生成し、生成した断面画像を画像処理装置11に入力してもよい。
 ステップS102において、画像処理装置11の制御部41は、ステップS101で取得した断層データ51に基づいて生体組織60の3次元データ52を生成する。すなわち、制御部41は、センサによって取得された断層データ51に基づいて3次元データ52を生成する。ここで、既に生成済みの3次元データ52が存在する場合、全ての3次元データ52を一から生成し直すのではなく、更新された断層データ51が対応する箇所のデータのみを更新することが好ましい。その場合、3次元データ52を生成する際のデータ処理量を削減し、後のステップS103における3次元画像53のリアルタイム性を向上させることができる。
 具体的には、画像処理装置11の制御部41は、記憶部42に記憶された断層データ51に含まれる生体組織60の断面画像を積層して3次元化することで、生体組織60の3次元データ52を生成する。3次元化の手法としては、サーフェスレンダリング又はボリュームレンダリングなどのレンダリング手法、並びにそれに付随した、環境マッピングを含むテクスチャマッピング、及びバンプマッピングなどの種々の処理のうち任意の手法が用いられる。制御部41は、生成した3次元データ52を記憶部42に記憶させる。
 ステップS103において、画像処理装置11の制御部41は、ステップS102で生成した3次元データ52を3次元画像53としてディスプレイ16に表示させる。この時点では、制御部41は、3次元画像53を表示させる角度を任意の角度に設定してよい。制御部41は、ステップS101で取得した断層データ51に含まれる最新の断面画像を3次元画像53とともにディスプレイ16に表示させる。
 具体的には、画像処理装置11の制御部41は、記憶部42に記憶された3次元データ52から3次元画像53を生成する。制御部41は、記憶部42に記憶された断層データ51に含まれる生体組織60の断面画像のうち、最新の断面画像と、生成した3次元画像53とを、出力部45を介してディスプレイ16に表示させる。
 本実施形態では、画像処理装置11の制御部41は、3次元画像53において、センサにより新たに取得された断層データ51で示される断面64に対応する第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルを、生体組織60の他の断面に対応する第2ボクセル群55と区別して色付けする。具体的には、制御部41は、図2に示したように、第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルの色を、第2ボクセル群55のいずれの色とも異なる色に設定することで、第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルを第2ボクセル群55と区別して色付けする。
 本実施形態の一変形例として、画像処理装置11の制御部41は、図6に示したように、第1ボクセル群54のうち、生体組織60を表すボクセル全てを第2ボクセル群55と区別して色付けしてもよい。具体的には、制御部41は、第1ボクセル群54のうち、生体組織60を表すボクセル全ての色を、第2ボクセル群55のいずれの色とも異なる色に設定することで、第1ボクセル群54のうち、生体組織60を表すボクセル全てを第2ボクセル群55と区別して色付けしてもよい。
 本実施形態では、画像処理装置11の制御部41は、第1グラフィック要素87と第2グラフィック要素86とを組み合わせて3次元画像53とともにディスプレイ16に表示させる。具体的には、制御部41は、図2に示したように、第1グラフィック要素87と第2グラフィック要素86とを組み合わせて構成したスライダーを、出力部45を介して3次元画像53の右側に表示させる。
 本実施形態では、画像処理装置11の制御部41は、3次元画像53における内腔63の長手方向と、第2グラフィック要素86の長軸方向とが平行になる向きで第2グラフィック要素86をディスプレイ16に表示させる。具体的には、制御部41は、図2に示したように、画面80の縦方向において、第2グラフィック要素86で示されるセンサの移動範囲と、3次元画像53の表示範囲とを一致させるとともに、第1グラフィック要素87で示されるセンサの位置と、第1ボクセル群54の位置とを一致させる。
 ステップS104において、ユーザの変更操作として、3次元画像53を表示させる角度を設定する操作があれば、ステップS105の処理が実行される。ユーザの変更操作がなければ、ステップS106の処理が実行される。
 ステップS105において、画像処理装置11の制御部41は、3次元画像53を表示させる角度を設定する操作を、入力部44を介して受け付ける。制御部41は、3次元画像53を表示させる角度を、設定された角度に調整する。そして、ステップS103において、制御部41は、ステップS105で設定された角度で3次元画像53をディスプレイ16に表示させる。
 具体的には、画像処理装置11の制御部41は、ディスプレイ16に表示されている3次元画像53をユーザがキーボード14、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンを用いて回転させる操作を、入力部44を介して受け付ける。制御部41は、3次元画像53をディスプレイ16に表示させる角度を、ユーザの操作に応じてインタラクティブに調整する。あるいは、制御部41は、3次元画像53を表示させる角度の数値をユーザがキーボード14、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンを用いて入力する操作を、入力部44を介して受け付ける。制御部41は、3次元画像53をディスプレイ16に表示させる角度を、入力された数値に合わせて調整する。
 ステップS106において、断層データ51の更新があれば、ステップS107及びステップS108の処理が実行される。断層データ51の更新がなければ、ステップS104において、ユーザの変更操作の有無が再度確認される。
 ステップS107において、画像処理装置11の制御部41は、ステップS101の処理と同様に、プローブ20から入力された信号を処理して生体組織60の断面画像を新たに生成することで、少なくとも1つの新たな断面画像を含む断層データ51を取得する。
 ステップS108において、画像処理装置11の制御部41は、ステップS107で取得した断層データ51に基づいて生体組織60の3次元データ52を更新する。すなわち、制御部41は、センサによって取得された断層データ51に基づいて3次元データ52を更新する。そして、ステップS103において、制御部41は、ステップS108で更新した3次元データ52を3次元画像53としてディスプレイ16に表示させる。制御部41は、ステップS107で取得した断層データ51に含まれる最新の断面画像を3次元画像53とともにディスプレイ16に表示させる。ステップS108においては、更新された断層データ51が対応する箇所のデータのみを更新することが好ましい。その場合、3次元データ52を生成する際のデータ処理量を削減し、ステップS108において、3次元画像53のリアルタイム性を向上させることができる。
 ステップS111において、ユーザの設定操作として、切断領域62を設定する操作があれば、ステップS112の処理が実行される。
 ステップS112において、画像処理装置11の制御部41は、切断領域62を設定する操作を、入力部44を介して受け付ける。
 具体的には、画像処理装置11の制御部41は、ステップS103でディスプレイ16に表示させた断面画像に対して、切断領域62に相当する領域65を設定する操作を、入力部44を介して受け付ける。本実施形態では、制御部41は、切断領域62に相当する領域65を設定する操作として、断面画像において1つの点Mから延びる2本の直線L1,L2を設定する操作を受け付ける。
 より具体的には、画像処理装置11の制御部41は、図2に示したような操作パネル81上で、ベース角度及び開き角度をユーザがキーボード14、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンを用いて指定する操作を、入力部44を介して受け付ける。すなわち、制御部41は、2本の直線L1,L2を設定する操作として、2本の直線L1,L2のうち一方の直線L1の向きと、2本の直線L1,L2のなす角とを指定する操作を受け付ける。ここでは、操作パネル81のチェックボックス85がチェック状態、すなわち、重心を利用することが選択されているものとする。
 本実施形態の一変形例として、画像処理装置11の制御部41は、ディスプレイ16に表示された断面画像上で、2本の直線L1,L2をユーザがキーボード14、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンを用いて描画する操作を、入力部44を介して受け付けてもよい。すなわち、制御部41は、2本の直線L1,L2を設定する操作として、断面画像に対して2本の直線L1,L2を描画する操作を受け付けてもよい。
 ステップS113において、画像処理装置11の制御部41は、記憶部42に記憶された最新の3次元データ52を用いて生体組織60の内腔63の短手方向の複数断面の重心位置を算出する。最新の3次元データ52とは、ステップS108の処理が実行されていなければ、ステップS102で生成された3次元データ52のことであり、ステップS108の処理が実行されていれば、ステップS108で更新された3次元データ52のことである。ここで、既に生成済みの3次元データ52が存在する場合、3次元データ52を一から全て生成し直すのではなく、更新された断層データ51が対応する箇所のデータのみを更新することが好ましい。その場合、3次元データ52を生成する際のデータ処理量を削減し、後のステップS117における3次元画像53のリアルタイム性を向上させることができる。
 具体的には、画像処理装置11の制御部41は、図10に示すように、ステップS101で生成した複数の断面画像のそれぞれを、ステップS107で対応する新たな断面画像を生成していれば、その新たな断面画像に置き換えた上で2値化する。制御部41は、図11に示すように、2値化した断面画像から生体組織60の内表面の点群を抽出する。例えば、制御部41は、r軸を横軸、θ軸を縦軸とする断面画像の縦方向に沿って主血管の内表面に該当する点を1つずつ抽出することで、血管の内表面の点群を抽出する。制御部41は、単に、抽出した内表面の点群の重心を求めてもよいが、その場合、点群が内表面に亘って均一にサンプリングされないため、重心位置にズレが生じる。そこで、本実施形態では、制御部41は、抽出した内表面の点群の凸包を算出し、以下のように多角形の重心を求める式を用いて重心位置C=(C,C)を算出する。ただし、以下の式においては、図11に示すような内表面の点群としてn個の頂点(x,y),(x,y),・・・,(xn-1,yn-1)が反時計回りに凸包上に存在するものとし、(x,y)は(x,y)とみなす。
Figure JPOXMLDOC01-appb-M000001
 結果として得られる重心位置を図12に示す。図12において、点Cnは、断面画像の中心である。点Bpは、内表面の点群の重心である。点Bvは、多角形の頂点の重心である。点Bxは、凸包としての多角形の重心である。
 血管の重心位置を算出する手法として、凸包としての多角形の重心位置を算出する手法とは別の手法が用いられてもよい。例えば、2値化されていない元の断面画像において、主血管に収まる最大円の中心位置を重心位置として算出する手法が用いられてもよい。あるいは、r軸を横軸、θ軸を縦軸とする2値化された断面画像において、主血管領域のピクセルの平均位置を重心位置として算出する手法が用いられてもよい。生体組織60が血管でない場合についても、これらと同様の手法を用いることができる。
 ステップS114において、画像処理装置11の制御部41は、ステップS113の重心位置の算出結果に対してスムージングを実行する。
 図13に示すように、重心位置の算出結果を時間関数として見た場合、拍動の影響が大きく生じることがわかる。そこで、本実施形態では、画像処理装置11の制御部41は、図14に破線で示すように、移動平均を用いることで重心位置の算出結果に対してスムージングを実行する。
 スムージングの手法として、移動平均とは別の手法が用いられてもよい。例えば、指数平滑法、カーネル法、局所回帰、Ramer-Douglas-Peuckerアルゴリズム、サビツキーゴーレイ法、平滑化スプライン、又はSGMが用いられてもよい。あるいは、高速フーリエ変換を実行してから高周波成分を除去する手法が用いられてもよい。あるいは、カルマンフィルタ、又はバターワースフィルタ、チェビシェフフィルタ、デジタルフィルタ、楕円フィルタ、若しくはKZフィルタなどのローパスフィルタが用いられてもよい。「SGM」は、stretched grid methodの略語である。「KZ」は、Kolmogorov-Zurbenkoの略語である。
 単にスムージングを実行すると、重心位置が組織の中に入ってしまう場合がある。その場合、制御部41は、生体組織60の内腔63の長手方向における、生体組織60の内腔63の短手方向の複数断面の位置に応じて重心位置の算出結果を分割し、分割した算出結果ごとにスムージングを実行してもよい。すなわち、制御部41は、図14に破線で示すような重心位置の曲線が組織領域に重なった場合、重心位置の曲線を複数の区間に分割し、区間ごとに個別のスムージングを実行してもよい。あるいは、制御部41は、生体組織60の内腔63の長手方向における、生体組織60の内腔63の短手方向の複数断面の位置に応じて重心位置の算出結果に対して実行するスムージングの度合いを調整してもよい。すなわち、制御部41は、図14に破線で示すような重心位置の曲線が組織領域に重なった場合、重なった点を含む一部の区間に対して実行するスムージングの度合いを減少させてもよい。
 ステップS115において、画像処理装置11の制御部41は、図4に示したように、ステップS113で算出した重心位置を通る1本の線Lbで交わる2つの平面を切断面P1,P2として設定する。本実施形態では、制御部41は、ステップS114で重心位置の算出結果に対してスムージングを実行した上で切断面P1,P2を設定するが、ステップS114の処理は省略してもよい。
 具体的には、画像処理装置11の制御部41は、ステップS114のスムージングの結果として得られた重心位置の曲線を線Lbとして設定する。制御部41は、設定した線Lbで交わり、かつステップS112で設定された2本の直線L1,L2をそれぞれ含む2つの平面を切断面P1,P2として設定する。制御部41は、記憶部42に記憶された最新の3次元データ52において、生体組織60の切断面P1,P2と交差する3次元座標を、3次元画像53において生体組織60の内腔63を露出させる開口の縁の3次元座標として特定する。制御部41は、特定した3次元座標を記憶部42に記憶させる。
 ステップS116において、画像処理装置11の制御部41は、3次元画像53において切断面P1,P2に挟まれ、生体組織60の内腔63を露出させる領域を切断領域62として3次元データ52に形成する。
 具体的には、画像処理装置11の制御部41は、記憶部42に記憶された最新の3次元データ52において、記憶部42に記憶された3次元座標で特定される部分を、3次元画像53をディスプレイ16に表示させる際に非表示又は透明になるように設定する。すなわち、制御部41は、ステップS112で設定された領域65に合わせて切断領域62を形成する。
 ステップS117において、画像処理装置11の制御部41は、ステップS116で切断領域62を形成した3次元データ52を3次元画像53としてディスプレイ16に表示させる。制御部41は、ステップS103でディスプレイ16に表示させた断面画像で表される、センサにより新たに取得された断層データ51で示される断面64と、断面64において切断領域62に相当する領域65とを表す2次元画像56を3次元画像53とともにディスプレイ16に表示させる。
 具体的には、画像処理装置11の制御部41は、記憶部42に記憶された断層データ51に含まれる生体組織60の断面画像のうち、最新の断面画像を加工して、図2に示したような2次元画像56を生成する。制御部41は、記憶部42に記憶された3次元座標で特定される部分が非表示又は透明になっている、図2に示したような3次元画像53を生成する。制御部41は、生成した2次元画像56及び3次元画像53を、出力部45を介してディスプレイ16に表示させる。
 本実施形態では、画像処理装置11の制御部41は、図2に示したように、2次元画像56として、切断領域62に相当する領域65の色を、残りの領域とは異なる色で表す画像を生成する。例えば、一般的なIVUS画像における白色部分を、領域65では赤色に変えることが考えられる。
 ステップS118において、ユーザの変更操作として、切断領域62を設定する操作があれば、ステップS119の処理が実行される。ユーザの変更操作がなければ、ステップS120の処理が実行される。
 ステップS119において、画像処理装置11の制御部41は、ステップS112の処理と同様に、切断領域62を設定する操作を、入力部44を介して受け付ける。そして、ステップS115以降の処理が実行される。
 ステップS120において、断層データ51の更新があれば、ステップS121及びステップS122の処理が実行される。断層データ51の更新がなければ、ステップS118において、ユーザの変更操作の有無が再度確認される。
 ステップS121において、画像処理装置11の制御部41は、ステップS101又はステップS107の処理と同様に、プローブ20から入力された信号を処理して生体組織60の断面画像を新たに生成することで、少なくとも1つの新たな断面画像を含む断層データ51を取得する。
 ステップS122において、画像処理装置11の制御部41は、ステップS121で取得した断層データ51に基づいて生体組織60の3次元データ52を更新する。その後、ステップS113以降の処理が実行される。ステップS122においては、更新された断層データ51が対応する箇所のデータのみを更新することが好ましい。その場合、3次元データ52を生成する際のデータ処理量を削減し、ステップS113以降のデータ処理のリアルタイム性を向上させることができる。
 図15を参照して、本実施形態に係る画像処理システム10の動作を更に説明する。
 ステップS201において、予め定められたキーを押しながら第1グラフィック要素87をクリック又はタップする事前操作が行われると、画像処理装置11の制御部41は、事前操作を、入力部44を介して受け付ける。事前操作は、例えば、キーボード14のシフトキーを押しながらマウス15で第1グラフィック要素87をクリックする操作、又はキーボード14のシフトキーを押しながらディスプレイ16と一体的に設けられたタッチスクリーンで第1グラフィック要素87をタップする操作である。事前操作にシフトキーなどの特定キーを押す操作を含めることで、誤操作を防ぐことができる。
 ステップS202において、ユーザ操作として、第1グラフィック要素87をドラッグし、センサの移動先に対応する位置に第1グラフィック要素87をドロップする操作が行われると、画像処理装置11の制御部41は、ユーザ操作を、入力部44を介して受け付ける。ユーザ操作は、例えば、マウス15、又はディスプレイ16と一体的に設けられたタッチスクリーンで第1グラフィック要素87をドラッグ及びドロップする操作である。
 本実施形態では、画像処理装置11の制御部41は、事前操作がユーザ操作の前に行われた場合に、ユーザ操作を受け付ける。制御部41は、事前操作が行われるまではユーザ操作を受け付けない。制御部41は、事前操作が行われても、一定時間内にユーザ操作が行われなければ、再び事前操作が行われるまではユーザ操作を受け付けない。したがって、誤操作を確実に防ぐことができる。
 ステップS203において、画像処理装置11の制御部41は、ユーザ操作に従って、センサの移動を、通信部43を介して制御するとともに、第1グラフィック要素87の相対位置を、出力部45を介して変更して、第1グラフィック要素87にセンサの移動後の位置を表させる。
 具体的には、画像処理装置11の制御部41は、画面80上で第1グラフィック要素87がドロップされた位置に、センサの移動後の位置を表す第1グラフィック要素87aを表示する制御を行う。同時に、制御部41は、第1グラフィック要素87のドラッグ前の位置から第1グラフィック要素87のドロップ後の位置、すなわち、第1グラフィック要素87aの位置までの距離を算出する。制御部41は、予め定義された換算式又は換算用を用いて、算出した距離に対応するセンサの移動距離を算出する。制御部41は、算出した移動距離だけスキャナユニット31を進退させることを指示する信号を、画像診断用インタフェースを介して駆動ユニット13に送信する。ユーザ操作において第1グラフィック要素87が上方にドラッグされたのであれば、スキャナユニット31を前進させることを指示する信号が送信される。駆動ユニット13では、送信された信号に従って、スライドモータ38が正回転し、スキャナユニット31が前進する。すなわち、スイッチ群39に含まれるフォワードスイッチが押されたときと同じ動作が行われる。ユーザ操作において第1グラフィック要素87が下方にドラッグされたのであれば、スキャナユニット31を後退させることを指示する信号が送信される。駆動ユニット13では、送信された信号に従って、スライドモータ38が逆回転し、スキャナユニット31が後退する。すなわち、スイッチ群39に含まれるプルバックスイッチが押されたときと同じ動作が行われる。
 本実施形態では、画像処理装置11の制御部41は、第1グラフィック要素87がドロップされた後に、センサの移動を制御する。制御部41は、第1グラフィック要素87がドラッグされても、第1グラフィック要素87がドロップされるまではセンサの移動を開始しない。
 画像処理装置11の制御部41は、センサの移動速度を調整して、第1グラフィック要素87のドラッグ前の位置から第1グラフィック要素87のドロップ後の位置までの距離に関わらず一定の時間でセンサを移動先に到達させてもよい。例えば、制御部41は、第1グラフィック要素87がドラッグされた距離に関わらず、2秒前後でスキャナユニット31の進退が終了するようにスキャナユニット31の進退速度を調整してもよい。
 本実施形態では、画像処理装置11の制御部41は、図16に示すように、第1グラフィック要素87がドラッグされることで第1グラフィック要素87が変位する度に、3次元画像53において、第1グラフィック要素87の変位後の位置に対応する位置にある第3ボクセル群57のうち、少なくとも生体組織60の内表面61を表すボクセル、又は内表面61を表すボクセルに隣接し内腔63を表すボクセルを、予め定められた色で色付けする。例えば、現時点ではドラッグ操作が行われている最中であり、ドロップ操作は行われていないとすると、図16に示すように、センサの現在位置に対応する第1ボクセル群54のうち、生体組織60の内表面61を表すボクセルが緑色などの第1色で色付けされる。第1グラフィック要素87の変位後の位置、すなわち、ドラッグされている第1グラフィック要素88の位置に対応する位置にある第3ボクセル群57のうち、生体組織60の内表面61を表すボクセルが橙色などの第2色で色付けされる。すなわち、第1色のラインとともに第2色のラインが表示される。第1グラフィック要素88は、第3ボクセル群57と同じ高さに位置することでセンサの仮の移動後の位置を表す。センサの現在位置を表す第1グラフィック要素87は、ドラッグされている第1グラフィック要素88とは異なる色で表示される。例えば、センサの現在位置を表す第1グラフィック要素87が第1色で表示され、ドラッグされている第1グラフィック要素88が第2色で表示される。本実施形態の一変形例として、第1色のラインを非表示にしてもよい。センサの現在位置を表す第1グラフィック要素87を更に非表示にしてもよい。
 画像処理装置11の制御部41は、第1グラフィック要素87がドラッグされることで第1グラフィック要素87が変位する度に、第1グラフィック要素87の変位後の位置に対応する位置でセンサによって取得された断層データ51で示される断面を表す2次元画像をディスプレイ16に更に表示させてもよい。例えば、ドラッグされている第1グラフィック要素88の位置に対応する最近の断面画像が、その位置に吹き出しで表示されてもよい。
 画像処理装置11の制御部41は、第1グラフィック要素87がドラッグされている間、第1グラフィック要素87のドラッグ前の位置から第1グラフィック要素87のドラッグ後の位置、すなわち、ドラッグされている第1グラフィック要素88の位置までの距離に対応するセンサの移動距離を示す数値をディスプレイ16に更に表示させてもよい。例えば、卵円窩の縦方向の一端付近にセンサが位置していること、及び卵円窩の縦の長さが10ミリメートル程度であることがわかっているとする。この場合、画面80上に表示される数値が10ミリメートルになるように第1グラフィック要素87をドラッグしてから第1グラフィック要素87をドロップすることで、卵円窩の縦方向の他端付近にセンサを簡単かつ確実に移動させることができる。アブレーションでSVCの付け根から10ミリメートルなど、一定の距離離れた箇所を焼灼する場合にも、所望の位置にセンサを簡単かつ確実に移動させることができる。「SVC」は、superior vena cavaの略語である。
 本実施形態の一変形例として、画像処理装置11の制御部41は、第1グラフィック要素87がドロップされた後に、センサの移動を制御する代わりに、第1グラフィック要素87がドラッグされている間、センサの移動を制御してもよい。制御部41は、第1グラフィック要素87がドラッグされ始めたときにセンサの移動を開始してもよい。例えば、制御部41は、第1グラフィック要素87がドラッグされる速度に応じて、スキャナユニット31の進退速度を調整してもよい。すなわち、制御部41は、第1グラフィック要素87がドラッグされる速度が速いほど、スキャナユニット31の進退速度を速くしてもよい。
 この変形例において、画像処理装置11の制御部41は、センサの移動速度の上限に合わせて、第1グラフィック要素87がドラッグされる速度を制限してもよい。例えば、制御部41は、第1グラフィック要素87がドラッグされる速度がどんなに速くても、スキャナユニット31の進退速度を、40ミリメートル/秒を超えないように調整してもよい。
 上述のように、本実施形態では、画像処理装置11の制御部41は、生体組織60の内腔63を移動するセンサによって取得された断層データ51に基づいて、生体組織60を表す画像をディスプレイ16に表示させるとともに、当該画像と同じ画面80上でセンサの位置を表す要素をディスプレイ16に表示させる。制御部41は、画面80上でセンサの移動先を指定するユーザ操作が行われると、ユーザ操作に従って、センサの移動を制御するとともに、当該要素の相対位置を変更してセンサの移動後の位置を表させる。
 本実施形態によれば、画面80上でセンサを操作できるようになる。したがって、例えば、IVUSを使用したアブレーションなどの手技が行われる際には、カテーテルを操作しながら手技を行っている医師が、画面80上で簡単にプルバック操作を行うことができる。あるいは、ディスプレイ16を見ながらIVUSのシステムを操作している臨床工学技士が、画面80上で簡単にプルバック操作を行うことができる。そのため、スタッフ数が少ない状態でも手技を行いやすくなる。
 本実施形態の一変形例として、ユーザ操作は、ドラッグ及びドロップ操作の代わりに、クリック又はタップ操作でもよい。すなわち、ステップS201の処理が省略され、ステップS202において、画像処理装置11の制御部41は、ユーザ操作として、第1グラフィック要素87からセンサの移動距離に対応する距離だけ離れた位置をクリック又はタップする操作を、入力部44を介して受け付けてもよい。その場合、ユーザ操作は、例えば、マウス15で第2グラフィック要素86の任意の位置をクリックする操作、又はディスプレイ16と一体的に設けられたタッチスクリーンで第2グラフィック要素86の任意の位置をタップする操作である。
 この変形例において、画像処理装置11の制御部41は、センサの移動速度を調整して、第1グラフィック要素87のクリック又はタップ前の位置からクリック又はタップの位置までの距離に関わらず一定の時間でセンサを移動先に到達させてもよい。例えば、制御部41は、クリック又はタップされた位置に関わらず、2秒前後でスキャナユニット31の進退が終了するようにスキャナユニット31の進退速度を調整してもよい。
 本実施形態の一変形例として、画像処理装置11の制御部41は、始点と終点とを設定する操作を、入力部44を介して受け付けてもよい。そして、制御部41は、設定された始点と終点との間をセンサが繰り返し往復するようにセンサの移動を制御してもよい。
 ステップS101において、手動でプルバック操作が行われる代わりに、図15に示した動作を適用して、画面80上でプルバック操作が行われてもよい。
 本実施形態の一変形例として、ユーザ操作は、画面80上でセンサの移動距離の数値を入力することで、センサの移動先を指定する操作でもよい。ユーザ操作は、センサの移動方向を選択する操作を含んでもよい。
 本実施形態では、画像処理装置11の制御部41は、生体組織60を表す3次元データ52を3次元画像53としてディスプレイ16に表示させる。制御部41は、3次元画像53において生体組織60の内腔63を露出させる切断領域62を3次元データ52に形成する。制御部41は、生体組織60の断面64と、断面64において切断領域62に相当する領域65とを表す2次元画像56を3次元画像53とともにディスプレイ16に表示させる。
 本実施形態によれば、どのように生体組織60の構造の一部が切り取られているかを示すことができる。したがって、3次元画像53において生体組織60の切り取られて表示されていない部分がどのような構造であるかを、ユーザが2次元画像56から把握することができる。例えば、ユーザが術者であれば、生体組織60の内部に対する施術を行いやすくなる。
 本実施形態では、画像処理装置11の制御部41は、生体組織60の内腔63を移動しながら生体組織60の断層データ51を取得するセンサによって取得された断層データ51に基づいて、生体組織60を表す3次元データ52を生成及び更新する。制御部41は、3次元データ52を3次元画像53としてディスプレイ16に表示させる。制御部41は、3次元画像53において、センサにより新たに取得された断層データ51で示される断面64に対応する第1ボクセル群54のうち、少なくとも生体組織60の内表面61を表すボクセル、又は内表面61を表すボクセルに隣接し内腔63を表すボクセルを、生体組織60の他の断面に対応する第2ボクセル群55と区別して色付けする。
 本実施形態によれば、センサによって新たに取得された断層データ51で示される生体組織60の断面64が3次元画像53内のどの部分に当たるかを示すことができる。したがって、センサで現在得られている情報、すなわち、最新情報が3次元画像53内のどの部分に当たるかが、3次元画像53を用いて生体組織60の内腔63を観察しているユーザにとってわかりやすくなる。
 本開示は上述の実施形態に限定されるものではない。例えば、ブロック図に記載の2つ以上のブロックを統合してもよいし、又は1つのブロックを分割してもよい。フローチャートに記載の2つ以上のステップを記述に従って時系列に実行する代わりに、各ステップを実行する装置の処理能力に応じて、又は必要に応じて、並列的に又は異なる順序で実行してもよい。その他、本開示の趣旨を逸脱しない範囲での変更が可能である。
 例えば、ステップS201の処理を省略してもよい。すなわち、ステップS202において、画像処理装置11の制御部41は、事前操作がユーザ操作の前に行われたかどうかに関わらず、ユーザ操作を受け付けてもよい。
 10 画像処理システム
 11 画像処理装置
 12 ケーブル
 13 駆動ユニット
 14 キーボード
 15 マウス
 16 ディスプレイ
 17 接続端子
 18 カートユニット
 20 プローブ
 21 駆動シャフト
 22 ハブ
 23 シース
 24 外管
 25 超音波振動子
 26 中継コネクタ
 31 スキャナユニット
 32 スライドユニット
 33 ボトムカバー
 34 プローブ接続部
 35 スキャナモータ
 36 差込口
 37 プローブクランプ部
 38 スライドモータ
 39 スイッチ群
 41 制御部
 42 記憶部
 43 通信部
 44 入力部
 45 出力部
 51 断層データ
 52 3次元データ
 53 3次元画像
 54,54a 第1ボクセル群
 55 第2ボクセル群
 56,56a,56b 2次元画像
 57 第3ボクセル群
 60 生体組織
 61 内表面
 62 切断領域
 63 内腔
 64 断面
 65,65a,65b 領域
 71 カメラ
 80 画面
 81 操作パネル
 82 チェックボックス
 83 スライダー
 84 スライダー
 85 チェックボックス
 86 第2グラフィック要素
 87,87a,88 第1グラフィック要素

Claims (19)

  1.  生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示させるとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示させる画像処理装置であって、
     前記画面上で前記センサの移動先を指定するユーザ操作が行われると、前記ユーザ操作に従って、前記センサの移動を制御するとともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる制御部を備える画像処理装置。
  2.  前記制御部は、予め定められたキーを押しながら前記要素をクリック又はタップする事前操作が前記ユーザ操作の前に行われた場合に、前記ユーザ操作を受け付ける請求項1に記載の画像処理装置。
  3.  前記制御部は、前記ユーザ操作として、前記要素をドラッグし、前記センサの移動先に対応する位置に前記要素をドロップする操作を受け付ける請求項1又は請求項2に記載の画像処理装置。
  4.  前記制御部は、前記要素がドロップされた後に、前記センサの移動を制御する請求項3に記載の画像処理装置。
  5.  前記制御部は、前記センサの移動速度を調整して、前記要素のドラッグ前の位置から前記要素のドロップ後の位置までの距離に関わらず一定の時間で前記センサを移動先に到達させる請求項4に記載の画像処理装置。
  6.  前記制御部は、前記要素がドラッグされている間、前記センサの移動を制御する請求項3に記載の画像処理装置。
  7.  前記制御部は、前記センサの移動速度の上限に合わせて、前記要素がドラッグされる速度を制限する請求項6に記載の画像処理装置。
  8.  前記制御部は、前記要素がドラッグされることで前記要素が変位する度に、前記要素の変位後の位置に対応する位置で前記センサによって取得された断層データで示される断面を表す2次元画像を前記ディスプレイに更に表示させる請求項3から請求項7のいずれか1項に記載の画像処理装置。
  9.  前記制御部は、前記要素がドラッグされることで前記要素が変位する度に、前記画像である3次元画像において、前記要素の変位後の位置に対応する位置にあるボクセル群のうち、少なくとも前記生体組織の内表面を表すボクセル、又は当該内表面を表すボクセルに隣接し前記内腔を表すボクセルを、予め定められた色で色付けする請求項3から請求項8のいずれか1項に記載の画像処理装置。
  10.  前記制御部は、前記要素がドラッグされている間、前記要素のドラッグ前の位置から前記要素のドラッグ後の位置までの距離に対応する前記センサの移動距離を示す数値を前記ディスプレイに更に表示させる請求項3から請求項9のいずれか1項に記載の画像処理装置。
  11.  前記制御部は、前記ユーザ操作として、前記要素から前記センサの移動距離に対応する距離だけ離れた位置をクリック又はタップする操作を受け付ける請求項1又は請求項2に記載の画像処理装置。
  12.  前記制御部は、前記センサの移動速度を調整して、前記要素のクリック又はタップ前の位置からクリック又はタップの位置までの距離に関わらず一定の時間で前記センサを移動先に到達させる請求項11に記載の画像処理装置。
  13.  前記制御部は、前記要素である第1グラフィック要素と、前記センサの移動範囲を表す第2グラフィック要素とを組み合わせて前記ディスプレイに表示させる請求項1から請求項12のいずれか1項に記載の画像処理装置。
  14.  前記制御部は、前記画像である3次元画像における前記内腔の長手方向と、前記第2グラフィック要素の長軸方向とが平行になる向きで前記第2グラフィック要素を前記ディスプレイに表示させる請求項13に記載の画像処理装置。
  15.  前記制御部は、前記画像である3次元画像において、前記センサにより新たに取得された断層データで示される断面に対応する第1ボクセル群のうち、少なくとも前記生体組織の内表面を表すボクセル、又は当該内表面を表すボクセルに隣接し前記内腔を表すボクセルを前記要素として、前記生体組織の他の断面に対応する第2ボクセル群と区別して色付けする請求項1から請求項12のいずれか1項に記載の画像処理装置。
  16.  請求項1から請求項15のいずれか1項に記載の画像処理装置と、
     前記センサを有するプローブと
    を備える画像処理システム。
  17.  前記ディスプレイを更に備える請求項16に記載の画像処理システム。
  18.  生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示するとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示する画像表示方法であって、
     前記画面上で前記センサの移動先を指定するユーザ操作が行われると、コンピュータが、前記ユーザ操作に従って、前記センサの移動を制御するとともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる画像表示方法。
  19.  生体組織の内腔を移動するセンサによって取得された断層データに基づいて、前記生体組織を表す画像をディスプレイに表示させるとともに、前記画像と同じ画面上で前記センサの位置を表す要素を前記ディスプレイに表示させるコンピュータに、
     前記画面上で前記センサの移動先を指定するユーザ操作が行われると、前記ユーザ操作に従って、前記センサの移動を制御する処理とともに、前記要素の相対位置を変更して前記センサの移動後の位置を表させる処理を実行させる画像処理プログラム。
PCT/JP2022/009242 2021-03-26 2022-03-03 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム WO2022202203A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023508896A JPWO2022202203A1 (ja) 2021-03-26 2022-03-03
US18/473,370 US20240016474A1 (en) 2021-03-26 2023-09-25 Image processing device, image processing system, image display method, and image processing program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021054095 2021-03-26
JP2021-054095 2021-03-26

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/473,370 Continuation US20240016474A1 (en) 2021-03-26 2023-09-25 Image processing device, image processing system, image display method, and image processing program

Publications (1)

Publication Number Publication Date
WO2022202203A1 true WO2022202203A1 (ja) 2022-09-29

Family

ID=83396918

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/009242 WO2022202203A1 (ja) 2021-03-26 2022-03-03 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム

Country Status (3)

Country Link
US (1) US20240016474A1 (ja)
JP (1) JPWO2022202203A1 (ja)
WO (1) WO2022202203A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001319220A (ja) * 2000-05-03 2001-11-16 Ge Medical Systems Global Technology Co Llc 医療画像データ・ボリュームからの関係のある画像データの抽出
JP2008512171A (ja) * 2004-09-09 2008-04-24 メディガイド リミテッド 内腔内の選択された位置へ医療用デバイスを移送するための方法およびシステム
JP2013056113A (ja) * 2011-09-09 2013-03-28 Toshiba Corp 画像表示装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001319220A (ja) * 2000-05-03 2001-11-16 Ge Medical Systems Global Technology Co Llc 医療画像データ・ボリュームからの関係のある画像データの抽出
JP2008512171A (ja) * 2004-09-09 2008-04-24 メディガイド リミテッド 内腔内の選択された位置へ医療用デバイスを移送するための方法およびシステム
JP2013056113A (ja) * 2011-09-09 2013-03-28 Toshiba Corp 画像表示装置

Also Published As

Publication number Publication date
JPWO2022202203A1 (ja) 2022-09-29
US20240016474A1 (en) 2024-01-18

Similar Documents

Publication Publication Date Title
EP2036049A2 (en) Apparatus and method for rendering for display forward-looking image data
JP7300352B2 (ja) 診断支援装置、診断支援システム、及び診断支援方法
WO2022202203A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
US20220218309A1 (en) Diagnostic assistance device, diagnostic assistance system, and diagnostic assistance method
WO2022071251A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2022071250A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2023054001A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2022202202A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2021200294A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2022085373A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2022202201A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2023176741A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2021065746A1 (ja) 診断支援装置、診断支援システム、及び診断支援方法
WO2022202200A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2023013601A1 (ja) 画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラム
WO2021065963A1 (ja) 診断支援装置、診断支援システム、及び診断支援方法
WO2020217860A1 (ja) 診断支援装置及び診断支援方法
JP2023024072A (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2021200296A1 (ja) 画像処理装置、画像処理システム、画像表示方法、及び画像処理プログラム
WO2020203873A1 (ja) 診断支援装置、診断支援システム、及び診断支援方法
WO2024071054A1 (ja) 画像処理装置、画像表示システム、画像表示方法、及び画像処理プログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22774999

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2023508896

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22774999

Country of ref document: EP

Kind code of ref document: A1