WO2014132694A1 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
WO2014132694A1
WO2014132694A1 PCT/JP2014/050767 JP2014050767W WO2014132694A1 WO 2014132694 A1 WO2014132694 A1 WO 2014132694A1 JP 2014050767 W JP2014050767 W JP 2014050767W WO 2014132694 A1 WO2014132694 A1 WO 2014132694A1
Authority
WO
WIPO (PCT)
Prior art keywords
blood vessel
region
vessel candidate
candidate region
image processing
Prior art date
Application number
PCT/JP2014/050767
Other languages
English (en)
French (fr)
Inventor
北村 誠
大和 神田
都士也 上山
Original Assignee
オリンパス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オリンパス株式会社 filed Critical オリンパス株式会社
Priority to CN201480009658.7A priority Critical patent/CN105072975B/zh
Priority to EP14757712.6A priority patent/EP2962624A4/en
Publication of WO2014132694A1 publication Critical patent/WO2014132694A1/ja
Priority to US14/830,893 priority patent/US9959481B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Definitions

  • the present invention relates to an image processing apparatus, an image processing method, and an image processing program for discriminating an abnormal region from an image acquired by imaging a lumen of a living body.
  • Patent Document 1 discloses a lumen. A technique for detecting a lesion area from an inner image is shown. More specifically, in Patent Document 1, the pixel value of each pixel in the intraluminal image is mapped to a feature space based on the color feature amount, clustered in the feature space, and then the size and the center of gravity of each cluster. Based on information such as coordinates, normal mucosal clusters and abnormal region clusters are specified, and pixel regions belonging to the abnormal region clusters are detected as abnormal finding regions.
  • Patent Document 2 discloses a technique for discriminating abnormal regions such as redness and bleeding points from normal see-through blood vessels. More specifically, in Patent Document 2, a region detected as an abnormal region is labeled, and it is determined whether or not it is a see-through blood vessel based on the shape information of each label.
  • JP 2005-192880 A Japanese Patent No. 4434705
  • Patent Document 1 it has been difficult to accurately determine normal see-through blood vessels having color feature amounts similar to abnormal regions such as redness and bleeding points in the feature space. Further, in the technique disclosed in Patent Document 2, it is difficult to discriminate a normal seeing blood vessel although it is discontinuous due to redness, bleeding points, and soft hairs. .
  • the present invention has been made in view of the above, and is an image processing apparatus and image that can accurately determine normal see-through blood vessels having color feature amounts similar to abnormal regions such as redness and bleeding points.
  • An object is to provide a processing method and an image processing program.
  • an image processing apparatus is an image processing apparatus that processes an image acquired by imaging a living body.
  • a blood vessel candidate region extracting means for extracting, a blood vessel candidate region extracting unit for extracting a blood vessel candidate region group that is estimated to be a linear shape when integrated among the plurality of blood vessel candidate regions, as the same blood vessel candidate region;
  • Evaluation value calculation means for calculating one or more types of evaluation values for evaluating the same blood vessel likelihood for the same blood vessel candidate region, and whether or not the same blood vessel candidate region forms the same blood vessel region based on the evaluation value
  • Blood vessel region discriminating means for discriminating whether or not.
  • An image processing method is a blood vessel candidate region extraction step of extracting a plurality of blood vessel candidate regions from an image in an image processing method executed by an image processing apparatus that processes an image acquired by imaging a living body.
  • the same blood vessel candidate region extraction step for extracting a blood vessel candidate region group estimated to be a linear shape when integrated among the plurality of blood vessel candidate regions as the same blood vessel candidate region, and the same for the same blood vessel candidate region An evaluation value calculating step for calculating one or more kinds of evaluation values for evaluating the blood vessel quality of the blood vessel, and a blood vessel region determining step for determining whether or not the same blood vessel candidate region forms the same blood vessel region based on the evaluation value It is characterized by including these.
  • An image processing program includes a blood vessel candidate region extracting step of extracting a plurality of blood vessel candidate regions from an image in an image processing apparatus that processes an image acquired by imaging a living body, and the plurality of blood vessel candidates.
  • the same blood vessel candidate region extracting step for extracting a blood vessel candidate region group that is estimated to have a linear shape when integrated as the same blood vessel candidate region, and evaluating the same blood vessel likelihood for the same blood vessel candidate region Performing an evaluation value calculating step for calculating one or more types of evaluation values, and a blood vessel region determining step for determining whether or not the same blood vessel candidate region forms the same blood vessel region based on the evaluation values. It is characterized by.
  • a blood vessel candidate region group that is estimated to be linear when integrated is further extracted as the same blood vessel candidate region, and the same blood vessel in the same blood vessel candidate region is extracted. Based on the evaluation value that evaluates the likelihood, it is determined whether or not the same blood vessel candidate region forms the same blood vessel region, so that normal see-through having color features similar to abnormal regions such as redness and bleeding points A blood vessel can be accurately discriminated.
  • FIG. 1 is a block diagram showing a configuration of an image processing apparatus according to Embodiment 1 of the present invention.
  • FIG. 2 is a flowchart showing the operation of the image processing apparatus shown in FIG.
  • FIG. 3 is a flowchart showing detailed processing executed by the blood vessel candidate region extraction unit shown in FIG.
  • FIG. 4 is a flowchart showing details of processing executed by the same blood vessel candidate region extraction unit shown in FIG.
  • FIG. 5 is a schematic diagram for explaining processing executed by the same blood vessel candidate region extraction unit shown in FIG.
  • FIG. 6 is a schematic diagram for explaining processing executed by the same blood vessel candidate region extraction unit shown in FIG.
  • FIG. 7 is a schematic diagram for explaining a method of calculating an evaluation value for evaluating the same vascularity.
  • FIG. 1 is a block diagram showing a configuration of an image processing apparatus according to Embodiment 1 of the present invention.
  • FIG. 2 is a flowchart showing the operation of the image processing apparatus shown in FIG.
  • FIG. 3 is a
  • FIG. 8 is a schematic diagram for explaining a method of calculating an evaluation value for evaluating the same vascularity.
  • FIG. 9 is a schematic diagram for explaining a method of calculating an evaluation value for evaluating the same vascularity.
  • FIG. 10 is a block diagram showing a configuration of an image processing apparatus according to Embodiment 2 of the present invention.
  • FIG. 11 is a flowchart showing the operation of the image processing apparatus shown in FIG.
  • FIG. 12 is a flowchart showing details of processing executed by the same blood vessel candidate region extraction unit shown in FIG.
  • FIG. 13 is a schematic diagram for explaining processing executed by the same blood vessel candidate region extraction unit shown in FIG.
  • FIG. 1 is a block diagram showing an image processing apparatus according to Embodiment 1 of the present invention.
  • the image processing apparatus 1 according to the first embodiment is an apparatus that performs image processing for detecting abnormal regions such as redness and bleeding points by discriminating abnormalities such as redness and bleeding points from normal see-through blood vessels. is there.
  • an intraluminal image (hereinafter also simply referred to as an image) acquired by imaging the inside of the lumen of a living body that is a subject with an endoscope or a capsule endoscope is a processing target.
  • an image acquired by an observation device other than an endoscope or a capsule endoscope may be a processing target.
  • An intraluminal image acquired by an endoscope or the like is usually a color image having pixel levels (pixel values) for wavelength components of R (red), G (green), and B (blue) at each pixel position. It is.
  • the image processing apparatus 1 includes a control unit 10 that controls the operation of the entire image processing apparatus 1 and an image acquisition unit that acquires image data corresponding to a narrow-band image captured by an endoscope. 20, an input unit 30 that generates an input signal by an external operation, a display unit 40 that performs various displays, a recording unit 50 that stores image data and various programs acquired by the image acquisition unit 20, and an image And an arithmetic unit 100 that executes predetermined image processing on the data.
  • the control unit 10 is realized by hardware such as a CPU, and reads various programs recorded in the recording unit 50, thereby according to image data input from the image acquisition unit 20, operation signals input from the input unit 30, and the like. Then, instructions to each unit constituting the image processing apparatus 1 and data transfer are performed, and the overall operation of the image processing apparatus 1 is controlled in an integrated manner.
  • the image acquisition unit 20 is appropriately configured according to the mode of the system including the endoscope.
  • the image acquisition unit 20 detachably mounts the recording medium and records image data of the recorded image. It is comprised with the reader apparatus which reads.
  • the image acquisition unit 20 includes a communication device connected to the server, and performs image communication with the server to perform image communication. Get the data. Or you may comprise the image acquisition part 20 by the interface apparatus etc. which input an image signal from an endoscope via a cable.
  • the input unit 30 is realized by input devices such as a keyboard, a mouse, a touch panel, and various switches, for example, and outputs an input signal generated in response to an external operation on these input devices to the control unit 10.
  • the display unit 40 is realized by a display device such as an LCD or an EL display, and displays various screens including intraluminal images under the control of the control unit 10.
  • the recording unit 50 is realized by various IC memories such as ROM and RAM such as flash memory that can be updated and recorded, a hard disk built in or connected by a data communication terminal, or an information recording device such as a CD-ROM and its reading device.
  • the recording unit 50 operates the image processing apparatus 1 in addition to the image data acquired by the image acquisition unit 20, and uses the program for causing the image processing apparatus 1 to execute various functions, and is used during the execution of this program. Data to be stored. Specifically, the recording unit 50 performs image processing for identifying and detecting an abnormal region such as redness or a bleeding point from a normal see-through blood vessel from an intraluminal image acquired by an endoscope. 1 stores the image processing program 51 and the like to be executed by the computer 1.
  • the calculation unit 100 is realized by hardware such as a CPU, and by reading the image processing program 51, an image in which abnormal areas such as redness and bleeding points are identified and detected from normal see-through blood vessels from the intraluminal image. Process.
  • the calculation unit 100 includes a blood vessel candidate region extraction unit 110 that extracts a plurality of blood vessel candidate regions from an image, and a blood vessel candidate that is expected to form the same blood vessel region from the plurality of blood vessel candidate regions.
  • the same blood vessel candidate region extraction unit 120 that extracts a region group (hereinafter, the same blood vessel candidate region), the evaluation value calculation unit 130 that calculates an evaluation value that evaluates the same blood vessel likelihood for the same blood vessel candidate region, and the evaluation Based on the values, the same blood vessel region is extracted from the blood vessel candidate region 140 and the blood vessel candidate region extraction unit 110 to determine whether the same blood vessel candidate region forms the same blood vessel region.
  • An abnormal region discriminating unit 150 that discriminates a blood vessel candidate region that has not been discriminated to form as an abnormal region is provided.
  • the blood vessel candidate region extraction unit 110 includes a color feature amount calculation unit 111, a region integration unit 112, and a shape feature amount calculation unit 113, and extracts a region with strong redness in the image as a blood vessel candidate region.
  • the color feature amount calculation unit 111 calculates an R / G value as the color feature amount of each pixel in the image.
  • the region integration unit 112 performs region integration processing based on the R / G value.
  • the shape feature amount calculation unit 113 calculates the shape feature amount of the region integrated by the region integration unit 112.
  • the same blood vessel candidate region extraction unit 120 includes a candidate point extraction unit 121 and an approximate curve fitting unit 122, and repeats the extraction of candidate points from the blood vessel candidate region and the fitting of the approximate curve so that a linear shape can be obtained.
  • the blood vessel candidate region group estimated to become is extracted as the same blood vessel candidate region.
  • the candidate point extraction unit 121 selects an arbitrary pixel or region in the plurality of blood vessel candidate regions extracted by the blood vessel candidate region extraction unit 110, or an arbitrary blood vessel candidate region in the plurality of blood vessel candidate regions. Extracted as candidate pixels or candidate regions (hereinafter collectively referred to as candidate points) in robust estimation.
  • the approximate curve fitting unit 122 applies an approximate curve to the extracted candidate points.
  • the evaluation value calculation unit 130 calculates one or more types of evaluation values for evaluating the same vascularity for the same vascular candidate region.
  • the same vascularity refers to the degree to which it is determined that the vascular candidate region group included in the same vascular candidate region forms the same vascular vessel.
  • the evaluation value calculation unit 130 includes a blood vessel color feature amount calculation unit 131 that calculates a color feature amount in the same blood vessel candidate region, and a feature amount related to the shape of the same blood vessel candidate region (hereinafter simply referred to as a shape feature amount).
  • a blood vessel shape feature quantity calculation unit 132 that calculates a depth information of an image to be processed, and a groove region detection unit 134 that detects a groove region in the image.
  • the depth information is information corresponding to the distance between the imaging means (endoscope, capsule endoscope, etc.) and the subject (biological mucosa surface, etc.) at the time of imaging the image to be processed. .
  • the blood vessel color feature amount calculation unit 131 calculates a color similarity feature amount calculation unit that calculates an amount representing the similarity of the color feature amount in the same blood vessel candidate region as the characteristic of the color feature amount in the same blood vessel candidate region. 131a.
  • the blood vessel shape feature amount calculating unit 132 calculates a feature amount based on the interval between the blood vessel candidate regions in the same blood vessel candidate region as the shape feature amount, and the curvature of the line shape corresponding to the same blood vessel candidate region.
  • a curvature feature amount calculating unit 132b that calculates a feature amount based on the direction of calculating the feature amount that represents the similarity between the extending direction of the same blood vessel candidate region and the longitudinal direction of each blood vessel candidate region included in the same blood vessel candidate region
  • a feature amount calculation unit 132c a feature amount calculation unit 132c.
  • the blood vessel depth information calculation unit 133 includes a depth continuity feature amount calculation unit 133a that calculates a feature amount representing continuity of depth information in the same blood vessel candidate region.
  • the groove region detection unit 134 detects a groove region such as a mucous membrane fold based on the gradient strength such as the luminance value of each pixel in the image.
  • the blood vessel region discriminating unit 140 discriminates whether or not the same blood vessel candidate region forms the same blood vessel region based on the evaluation value calculated by the evaluation value calculating unit 130. More specifically, the blood vessel region discriminating unit 140 includes a discriminant reference switching unit 141a that switches discriminant criteria when a plurality of types of evaluation values (for example, the six types described above) are calculated, and the same blood vessel that satisfies all the discriminant criteria The candidate area is determined as a blood vessel area.
  • the abnormal region discriminating unit 150 discriminates a blood vessel candidate region that is not discriminated as the same blood vessel region from among the blood vessel candidate regions extracted by the blood vessel candidate region extracting unit 110 as an abnormal region such as redness or bleeding point.
  • FIG. 2 is a flowchart showing the operation of the image processing apparatus 1. Note that the image to be processed is acquired in advance through the image acquisition unit 20 and recorded in the recording unit 50.
  • step S ⁇ b> 10 the calculation unit 100 acquires an image to be processed from the recording unit 50.
  • step S ⁇ b> 11 the blood vessel candidate region extraction unit 110 extracts a blood vessel candidate region from the processing target image.
  • FIG. 3 is a flowchart showing detailed processing executed by the blood vessel candidate region extraction unit 110.
  • step S111 the color feature amount calculation unit 111 calculates the color ratio G / R value of each pixel as the color feature amount based on the following equation (1).
  • the blood vessel candidate region extraction unit 110 extracts a region where the G / R value is equal to or less than a predetermined threshold, that is, a region with strong redness, as a blood vessel candidate region.
  • the region integration unit 112 performs region integration (reference: CG-ARTS Association, “Digital Image Processing”, page 196) for integrating regions having color characteristics similar to the extracted blood vessel candidate region. Do. For example, pixels in which the G / R value falls within a predetermined range are integrated with respect to the G / R value in the blood vessel candidate region. As a result, the shape of the blood vessel candidate region, whose shape has been difficult to be determined only by performing threshold processing on the color feature amount (step 111), can be easily determined (see steps S115 and S116 described later). Note that methods other than region integration may be used as long as regions similar in characteristics to the extracted blood vessel candidate regions can be integrated.
  • the shape feature quantity calculation unit 113 performs a labeling process (reference: CG-ARTS Association, “Digital Image Processing”, pages 181 to 182) on the region integrated in step S113.
  • a region to which the same label is assigned is treated as one blood vessel candidate region.
  • the shape feature quantity calculation unit 113 thins the blood vessel candidate region (reference: CG-ARTS Association, “Digital Image Processing”, pages 187 to 188).
  • the shape feature quantity calculation unit 113 calculates the area (number of pixels) of the thinned blood vessel candidate region, and the area is equal to or larger than the threshold (that is, has a length equal to or larger than a predetermined value).
  • the blood vessel candidate region (having the following characteristics) is determined as an elongated blood vessel region. This elongated blood vessel region is output as a normal blood vessel (described later), and is continuously used as one of the blood vessel candidate regions in step S12 and subsequent steps in order to evaluate the continuity of other blood vessel candidate regions. Thereafter, the operation of the image processing apparatus 1 returns to the main routine.
  • step S12 the same blood vessel candidate region extraction unit 120 selects a blood vessel candidate region group that is estimated to be linear when integrated from the blood vessel candidate regions extracted in step S11.
  • Extract as FIG. 4 is a flowchart showing details of processing executed by the same blood vessel candidate region extraction unit 120.
  • 5 and 6 are schematic diagrams for explaining the processing executed by the same blood vessel candidate region extraction unit 120.
  • the candidate point extraction unit 121 randomly extracts a predetermined number of pixels or regions in the blood vessel candidate region or the blood vessel candidate region itself as candidate points.
  • a representative point for example, the center of gravity
  • each pixel in the region may be used as a candidate point. Good.
  • the number of candidate points to be extracted may be determined in advance as a fixed value, or may be determined according to the number of blood vessel candidate regions extracted in step S11. In the latter case, it is better to increase the number of candidate points as the number of extracted blood vessel candidate regions is larger. For example, as shown in FIG. 5, when blood vessel candidate regions m1 to m9 are extracted from the image M1 (see step S11), for example, pixels p1 to p14 are extracted as candidate points from these blood vessel candidate regions.
  • the approximate curve fitting unit 122 estimates the curve that approximates the candidate point extracted in step S121, for example, by the least square method (Least Mean Square). For example, in the case of FIG. 5, for example, a curve L1 is estimated for the pixels p1 to p9.
  • the approximate curve fitting unit 122 determines that a candidate point located at a distance equal to or less than a threshold with respect to the estimated curve is an inlier (a winning value). Further, other candidate points are determined as outliers. For example, in the case of FIG. 5, the pixels p3 to p9 are determined to be inliers with respect to the curve L1.
  • the approximate curve fitting unit 122 re-estimates a curve that approximates the candidate point determined to be an inlier by, for example, the least square method.
  • a blood vessel candidate region group located within a predetermined range from the re-estimated curve is extracted as the same blood vessel candidate region.
  • the curve L2 shown in FIG. 6 is estimated for the pixels p3 to p9 shown in FIG.
  • the blood vessel candidate regions m2 to m6 located within a predetermined range from the curve L2 are the same blood vessel candidate regions.
  • step S125 the same blood vessel candidate region extraction unit 120 determines whether or not the processing in steps S121 to S124 has been repeated a predetermined number of times or more.
  • step S125: Yes the operation of the image processing apparatus 1 returns to the main routine.
  • step S125: No the process returns to step S121.
  • step S13 the evaluation value calculation unit 130 calculates an evaluation value for evaluating the same blood vessel likelihood of the same blood vessel candidate region extracted in step S12.
  • evaluation values evaluation values 1 to 6 described below are calculated for each identical blood vessel candidate region.
  • Evaluation Value 1 Color Feature Amount Dispersion
  • the color similarity feature amount calculation unit 131a extracts a blood vessel candidate region included in the same blood vessel candidate region, that is, a blood vessel candidate region located at a predetermined distance from the curve estimated in step S12. .
  • the blood vessel candidate regions m2 to m6 are extracted for the curve L2.
  • the color similarity feature amount calculation unit 131a calculates the variance of the G / R values of the pixels included in the extracted blood vessel candidate region.
  • This variance is an amount representing the similarity of the color feature amount, and is used as the evaluation value 1.
  • the smaller the variance the smaller the variation of the color feature amount, the higher the similarity of the color feature amount in the same blood vessel candidate region, and it is evaluated that the same blood vessel candidate region is likely to be the same blood vessel.
  • the average and variance of the G / R values of the pixels included in the blood vessel candidate region at a predetermined distance from the curve are calculated, and the G / R of each blood vessel candidate region at the predetermined distance from the curve is calculated.
  • the R value is calculated to obtain the maximum value of the Mahalanobis distance, and the maximum value and variance of the Mahalanobis distance may be used as the evaluation value (a quantity representing the similarity of the color feature amount).
  • the smaller the maximum value of the variance and the Mahalanobis distance the smaller the variation in the color of the blood vessel candidate region in the same blood vessel candidate region (higher similarity), and it is evaluated that the same blood vessel candidate region seems to be the same blood vessel.
  • Evaluation value 2 Average value of minimum distance between centroids
  • the interval feature amount calculation unit 132a determines, for each same blood vessel candidate region, a predetermined distance from a blood vessel candidate region included in the same blood vessel candidate region, that is, the curve estimated in step S12.
  • the candidate blood vessel region in is extracted.
  • the interval feature amount calculation unit 132a calculates the barycentric coordinates in the image space of the extracted blood vessel candidate region. For example, as shown in FIG. 7, when the blood vessel candidate regions m2 to m6 are extracted for the curve L2, the coordinates (x g2 , y g2 ) to (x g6 ,) of the centroids g2 to g6 from the blood vessel candidate regions m2 to m6 are extracted.
  • the interval feature amount calculation unit 132a calculates the minimum distance between the barycentric coordinates for each blood vessel candidate region. For example, in the case of the center of gravity g2, since the distance between the center of gravity g3 and the center of gravity g4 is shorter, the distance ⁇ g (2-3) from the center of gravity g3 is calculated. In the case of the center of gravity g3, since the distance between the center of gravity g2 and the center of gravity g4 is shorter, the distance ⁇ g (3-2) from the center of gravity g2 is calculated.
  • the center of gravity g4 since the distance between the center of gravity g3 and the center of gravity g3 is shorter, the distance ⁇ g (4-3) from the center of gravity g3 is calculated. The same applies to the other centroids g4 to g6.
  • the average value of these minimum distances is used as the evaluation value 2. In this case, the smaller the average value of the minimum distances, the higher the continuity of the blood vessel candidate regions, and it is evaluated that the same blood vessel candidate regions are likely to be the same blood vessels.
  • Evaluation value 3 Average value of curvature of curve
  • the curvature feature amount calculator 132b extracts a plurality of points at regular intervals in the curve estimated in step S12. For example, as shown in FIG. 8, a plurality of points a1 to a10 are extracted for the curve L2. Subsequently, the curvature feature amount calculation unit 132b calculates, for all the extracted points, a vector inner product for two adjacent front and rear points as a curvature. For example, in the case of the point a2, the inner product of the vector v1 toward the point a1 and the vector v2 toward the point a3 is calculated. Further, the curvature feature value calculation unit 132b calculates an average value of vector inner products calculated for each point.
  • the average value of the vector inner products calculated for the points a2 to a9 excluding the points a1 and a10 at both ends is calculated.
  • An average value of these vector inner products (curvatures) is used as the evaluation value 3.
  • the direction feature amount calculation unit 132c includes, for each blood vessel candidate region, blood vessel candidate regions included in the same blood vessel candidate region, that is, The blood vessel candidate region at a predetermined distance is extracted from the curve estimated in step S12. Subsequently, the direction feature amount calculation unit 132c calculates the longitudinal direction of each extracted blood vessel candidate region. For example, as shown in FIG. 9, when the blood vessel candidate regions m2 to m6 are extracted for the curve L2, the longitudinal directions d2 to d6 of the blood vessel candidate regions m2 to m6 are respectively calculated.
  • the direction feature amount calculation unit 132c calculates the tangential direction of the curve at the position of each blood vessel candidate region (for example, the center of gravity position) as the extending direction of the same blood vessel candidate region. For example, in the case of FIG. 9, the tangential directions d2 ′ to d6 ′ of the curve L2 at the positions of the blood vessel candidate regions m2 to m6 (for example, the center of gravity position) are calculated. Furthermore, the directional feature amount calculation unit 132c calculates a difference between the tangent direction of the curve and the longitudinal direction of the blood vessel candidate region for each blood vessel candidate region.
  • an angle formed by the tangential direction and the longitudinal direction, an inner product of the both, and the like are calculated.
  • the average value or the total value of the differences is used as the evaluation value 4.
  • the smaller the difference between the tangential direction of the curve and the longitudinal direction of the blood vessel candidate region the more closely (similar) the extending direction of the same blood vessel candidate region matches the longitudinal direction of the blood vessel candidate region. It is evaluated that the curve is correctly estimated along the line.
  • Evaluation Value 5 Continuity of Depth Information
  • the depth continuity feature amount calculation unit 133a acquires depth information in an image to be processed.
  • a pixel value (R value) corresponding to an R component that is a wavelength component that is difficult to be absorbed or scattered in a living body is acquired as depth information.
  • the depth information is not limited to the R value, and any value that has a correlation with the distance in the depth direction of the image (for example, a luminance value) can be used.
  • the depth continuity feature amount calculation unit 133a extracts a plurality of points at regular intervals in the curve estimated in step S12. Then, with respect to all the extracted points, the amount of change in the R value between the two adjacent points is calculated. For example, as shown in FIG. 8, when points a1 to a9 are extracted in the curve L2, the amount of change in R value at points a1 and a2, the amount of change in R value at points a2 and a3,. The amount of change in R value at a8 and point a9 is calculated. Further, the depth continuity feature amount calculation unit 133a extracts the maximum value of the calculated change amount of the R value. This maximum value is used as an evaluation value 5 (a feature amount representing continuity of depth information). In this case, as the maximum value is smaller, it can be said that the depth information changes continuously, so that the same blood vessel candidate region is evaluated to be the same blood vessel.
  • evaluation value 5 a feature amount representing continuity of depth information
  • Evaluation value 6 Number of pixels in the groove region in the same blood vessel candidate region
  • the groove region detection unit 134 determines the gradient strength of the pixel value in the image to be processed, for example, a Laplacian filter, a Sobel filter, or the like (reference: CG-ARTS Association, “Digital Image Processing”, pages 114 to 121).
  • a luminance value may be used in addition to the R value and G value of each pixel.
  • the groove area detecting unit 134 detects a pixel having a gradient strength equal to or higher than a predetermined value as a groove area. Then, the number of pixels in the groove region on the curve estimated in step S12 is calculated, and the number of pixels is used as the evaluation value 6. In this case, as the number of pixels is smaller, it can be said that there are fewer groove regions on the curve, and thus the same blood vessel candidate region is evaluated to be the same blood vessel.
  • step S14 the blood vessel region discriminating unit 140 discriminates the same blood vessel region based on the evaluation value calculated in step S13. Specifically, when all of the evaluation values 1 to 6 satisfy a preset criterion for each, the same blood vessel candidate region is determined as the same blood vessel region.
  • the abnormal region determination unit 150 selects a blood vessel candidate region that has not been extracted as the same blood vessel region in step S14 among the blood vessel candidate regions extracted in step S11, as a dotted abnormal region (redness or bleeding). Point).
  • step S ⁇ b> 16 the arithmetic unit 100 outputs the point-like abnormal area determined in step S ⁇ b> 15 and causes the recording unit 50 to record it.
  • the computing unit 100 outputs the elongated blood vessel region extracted in step S116 and the same blood vessel region determined in step S14 as normal blood vessels. Thereafter, the image processing apparatus 1 ends the operation.
  • a blood vessel candidate region group that is estimated to have a linear shape when extracted from a blood vessel candidate region based on the color feature amount of each pixel in the image and then integrated is extracted. Since it is determined whether or not the same blood vessel candidate region forms the same blood vessel region based on the evaluation value calculated from the characteristics such as the color and shape of the same blood vessel candidate region extracted as the same blood vessel candidate region A normal see-through vessel can be accurately extracted from the inside. Furthermore, according to the first embodiment, the candidate blood vessel region that has not been extracted as the same blood vessel region is determined as an abnormal region, so that it is possible to accurately determine normal see-through blood vessels and abnormal regions such as redness and bleeding points. It becomes possible.
  • FIG. 10 is a block diagram showing a configuration of an image processing apparatus according to Embodiment 2 of the present invention.
  • the image processing apparatus 2 according to the second embodiment includes a calculation unit 200 instead of the calculation unit 100 illustrated in FIG. 1.
  • the computing unit 200 performs image processing in time series on a series of images captured by the endoscope or capsule endoscope and acquired via the image acquisition unit 20.
  • the calculation unit 200 includes a blood vessel candidate region extraction unit 110, an identical blood vessel candidate region extraction unit 210, an evaluation value calculation unit 220, a blood vessel region determination unit 140, and an abnormal region determination unit 150.
  • the configurations and operations of the blood vessel candidate region extraction unit 110, the blood vessel region determination unit 140, and the abnormal region determination unit 150 are the same as those in the first embodiment.
  • the same blood vessel candidate region extraction unit 210 includes a candidate point extraction unit 211 and an approximate curve fitting unit 122 shown in FIG.
  • the candidate point extraction unit 211 determines the likelihood of a blood vessel of a pixel in the blood vessel candidate region or the blood vessel candidate region itself.
  • a candidate determination value calculation unit 211a that calculates a candidate determination value to be calculated.
  • the candidate determination value calculation unit 211a includes a blood vessel direction estimation unit 211a-1 that estimates the direction in which the blood vessel extends, and distance information (depth information) in the depth direction of the blood vessel candidate region in the processing target image.
  • a candidate point depth information calculating unit 211a-2 for calculating the depth information, and using the depth information as a candidate determination value.
  • the operation of the approximate curve fitting unit 122 is the same as that in the first embodiment.
  • the evaluation value calculation unit 220 includes an evaluation value weight determination unit 221 in addition to the blood vessel color feature amount calculation unit 131, the blood vessel shape feature amount calculation unit 132, the blood vessel depth information calculation unit 133, and the groove region detection unit 134 illustrated in FIG. Is provided.
  • the evaluation value weight determination unit 221 applies to the plurality of types of evaluation values 1 to 6 calculated by the blood vessel color feature amount calculation unit 131, the blood vessel shape feature amount calculation unit 132, the blood vessel depth information calculation unit 133, and the groove region detection unit 134. Determine weighting parameters.
  • the evaluation value weight determination unit 221 includes an imaging target determination unit 221a and a time-series continuity feature amount calculation unit 221b.
  • the imaging target determination unit 221a determines the imaging target in the image.
  • the imaging target determination unit 221a includes an organ determination unit 221a-1 that determines the type of an organ shown in the image.
  • the time-series continuity feature amount calculation unit 221b calculates a feature amount that represents the continuity of the extraction result of the blood vessel region between adjacent images in time series.
  • the configuration and operation of each part of the evaluation value calculation unit 220 other than the evaluation value weight determination unit 221 are the same as those in the first embodiment.
  • FIG. 11 is a flowchart showing the operation of the image processing apparatus 2. Note that a series of images captured by the endoscope or capsule endoscope and acquired via the image acquisition unit 20 are recorded in the recording unit 50 in advance.
  • step S20 the arithmetic unit 200 acquires images to be processed from a series of images recorded in the recording unit 50 in time series.
  • the blood vessel candidate region extraction unit 110 extracts a blood vessel candidate region from the processing target image.
  • the details of the blood vessel candidate region extraction process are the same as those in the first embodiment (see step S11 in FIG. 2).
  • the same blood vessel candidate region extraction unit 210 extracts, as the same blood vessel candidate region, a blood vessel candidate region group that is estimated to have a linear shape when integrated, from the blood vessel candidate regions extracted in step S21.
  • FIG. 12 is a flowchart showing details of processing executed by the same blood vessel candidate region extraction unit 210.
  • FIG. 13 is a schematic diagram for explaining a process executed by the same blood vessel candidate region extraction unit 210.
  • step S221 the candidate point extraction unit 211 randomly extracts one of the blood vessel candidate regions as an initial candidate point.
  • the blood vessel direction estimation unit 211a-1 extracts a minimum rectangular area including the initial candidate point, and sets an area obtained by multiplying the rectangular area by a predetermined value.
  • This set region is a region where it is estimated that there is a high possibility that a blood vessel extends.
  • the magnification of the rectangular area may be different for each direction. For example, as shown in FIG. 13, when the blood vessel candidate region m4 is extracted as the initial candidate point, the smallest rectangular region A that includes the blood vessel candidate region m4 is extracted, and the rectangular region A is further divided into, for example, the longitudinal direction and the short side. A rectangular area B that is 5 times larger in the direction is set.
  • the candidate point depth information calculation unit 211a-2 acquires depth information in the image.
  • a pixel value (R value) corresponding to an R component that is a wavelength component that is difficult to absorb or scatter in a living body is acquired as depth information.
  • the depth information is not limited to the R value, and any value that has a correlation with the distance in the depth direction of the image (for example, a luminance value) can be used.
  • the candidate point extraction unit 211 calculates a difference between the depth information of the blood vessel candidate region existing in the rectangular region set in step S222 and the depth information of the initial candidate point as a candidate determination value.
  • a candidate blood vessel region within a predetermined range is randomly extracted as a candidate point. For example, in the case of FIG. 13, if the R value difference between the blood vessel candidate regions m5 and m6 in the rectangular region B is within a predetermined range with respect to the blood vessel candidate region m4 that is the initial candidate point, these blood vessel candidate regions m5 and m6 Can be extracted as candidate points.
  • the approximate curve fitting unit 122 estimates a curve that approximates the candidate point by the least square method or the like.
  • the approximate curve fitting unit 122 determines that a candidate point located at a distance equal to or less than the threshold with respect to the estimated curve is an inlier, and determines other candidate points as an outlier.
  • the approximate curve fitting unit 122 re-estimates a curve that approximates the candidate point determined to be an inlier by, for example, the least square method.
  • a blood vessel candidate region group located within a predetermined range from the re-estimated curve is extracted as the same blood vessel candidate region.
  • step S228 the same blood vessel candidate region extraction unit 210 determines whether or not the processing in steps S221 to S227 has been repeated a predetermined number of times or more.
  • step S228: Yes the operation of the image processing apparatus 2 returns to the main routine.
  • step S228: No the process returns to step S221.
  • step S23 the organ discriminating unit 221a-1 discriminates the type of organ shown in the image.
  • Various known methods can be used as the organ discrimination method.
  • a method for discriminating organ types based on an average pixel value in an image will be described (reference: Japanese Patent Application Laid-Open No. 2006-288612).
  • a numerical range of color components R value, G value, B value
  • an average value (average R value, average G value, average B value) of each color component of the pixel value is calculated.
  • the calculated average value is included in the numerical range of the color component of any organ acquired in advance. For example, when the calculated average value is included in the numerical value range of the color component forming the average color of the esophagus, the observation site of the processing target image is determined as the esophagus. Further, when the calculated average value is included in the numerical range of the color components forming the average color of the stomach, the observation site of the processing target image is determined to be the stomach. When the calculated average value is included in the numerical range of the color components forming the average color of the small intestine, the observation site of the image to be processed is determined as the small intestine. When the calculated average value is included in the numerical range of the color component forming the average color of the large intestine, the observation site of the processing target image is determined as the large intestine.
  • step S24 the time-series continuity feature amount calculation unit 221b reads from the recording unit 50 the blood vessel region discrimination result made for the immediately preceding image in the time series. As will be described later, the blood vessel region discrimination results made for each of the series of images are sequentially recorded in the recording unit 50.
  • the evaluation value calculation unit 220 calculates an evaluation value for evaluating the same blood vessel likelihood of the same blood vessel candidate region extracted in step S22. More specifically, the evaluation value calculation unit 220 calculates the evaluation values 1 to 6 in the same manner as in the first embodiment (see step S13 in FIG. 2). In addition, weighting is performed according to the determination result of the blood vessel region with respect to the previous image in the time series.
  • the weight of the evaluation value is determined so that is easily extracted. For example, in the case of the large intestine, weighting is performed so that the evaluation value is generally raised so that the same blood vessel candidate region can be easily extracted as the same blood vessel.
  • the blood vessel region extracted in the previous image in the time series exists in the vicinity of the same blood vessel candidate region extracted in the current processing target image (for example, the same blood vessel with respect to the blood vessel region in the previous image) If the displacement of the candidate region is within a predetermined range), the continuity of both is considered high, and the reliability of the evaluation value is considered high, and for example, the evaluation value is raised overall so that the blood vessel region can be easily extracted.
  • the weight is determined as follows.
  • the blood vessel region discriminating unit 140 discriminates the same blood vessel region based on the evaluation value calculated in step S25 and weighted. Specifically, when all of the weighted evaluation values 1 to 6 satisfy a preset criterion for each, the same blood vessel candidate region is determined as the same blood vessel region.
  • the abnormal area determination unit 150 selects a blood vessel candidate area that has not been extracted as the same blood vessel area in step S26 out of the blood vessel candidate areas extracted in step S21 as a dotted abnormal area (redness or bleeding). Point).
  • step S28 the calculation unit 200 outputs the determination result in step S27 and causes the recording unit 50 to record it.
  • step S29 the calculation unit 200 determines whether there is an image that has not yet been subjected to the blood vessel region discrimination process, that is, the next image in time series. If there is a next image (step S29: Yes), the operation of the image processing apparatus 2 proceeds to step S20. On the other hand, when there is no next image (step S29: No), the operation of the image processing apparatus 2 ends.
  • the evaluation value is weighted according to the type of organ shown in the processing target image and the discrimination result of the previous image in time series. Can be further improved.
  • a series of images recorded in the recording unit 50 are sequentially processed along the time series, but may be processed in the reverse order to the time series.
  • step S24 the determination result of the blood vessel region of the next image in the time series may be read.
  • the image processing apparatuses according to the first and second embodiments described above can be realized by executing the image processing program recorded in the recording apparatus on a computer system such as a personal computer or a workstation. Further, such a computer system may be used by being connected to other computer systems, servers, or other devices via a public network such as a local area network, a wide area network (LAN / WAN), or the Internet. good.
  • the image processing apparatus according to the first and second embodiments acquires image data of the intraluminal image via these networks, and various output devices (viewers and viewers) connected via these networks.
  • the image processing result may be output to a printer or the like, or the image processing result may be stored in a storage device (such as a recording device and its reading device) connected via these networks.
  • the present invention is not limited to the first and second embodiments, and various inventions can be formed by appropriately combining a plurality of components disclosed in the respective embodiments and modifications.
  • some constituent elements may be excluded from all the constituent elements shown in each embodiment or modification, or may be formed by appropriately combining the constituent elements shown in different embodiments or modifications. May be.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Endoscopes (AREA)
  • Image Analysis (AREA)

Abstract

 発赤や出血点等の異常領域と類似した色特徴量を有する正常な透見血管を精度良く判別することができる画像処理装置等を提供する。生体を撮像することにより取得された画像を処理する画像処理装置1は、画像内から複数の血管候補領域を抽出する血管候補領域抽出部110と、複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出部120と、同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出部130と、該評価値に基づき、同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別部140とを備える。

Description

画像処理装置、画像処理方法、及び画像処理プログラム
 本発明は、生体の管腔内を撮像することにより取得された画像から異常領域を判別する画像処理装置、画像処理方法、及び画像処理プログラムに関する。
 内視鏡やカプセル型内視鏡等の医用観察装置により生体の管腔内を撮像した画像(以下、管腔内画像又は単に画像ともいう)に対する画像処理として、特許文献1には、管腔内画像から病変領域を検出する技術が示されている。より詳細には、特許文献1においては、管腔内画像内の各画素の画素値を色特徴量に基づく特徴空間に写像し、該特徴空間内でクラスタリングした後で、各クラスタの大きさや重心座標等の情報に基づいて正常粘膜クラスタや異常領域クラスタを特定し、異常領域クラスタに属する画素領域を異常所見領域として検出している。
 また、特許文献2には、発赤や出血点等の異常領域と正常な透見血管とを判別する技術が開示されている。より詳細には、特許文献2においては、異常領域として検出した領域をラベリングし、各ラベルの形状情報に基づいて透見血管であるか否かを判別している。
特開2005-192880号公報 特許4434705号公報
 しかしながら、特許文献1に開示された技術においては、発赤や出血点等の異常領域と類似した色特徴量を有する正常な透見血管を特徴空間において精度良く判別することが困難であった。また、特許文献2に開示された技術においては、発赤や出血点と、柔毛等の影響により途切れて点状になっているものの、正常な透見血管とを判別することが困難であった。
 本発明は、上記に鑑みて為されたものであって、発赤や出血点等の異常領域と類似した色特徴量を有する正常な透見血管を精度良く判別することができる画像処理装置、画像処理方法、及び画像処理プログラムの提供を目的とする。
 上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、生体を撮像することにより取得された画像を処理する画像処理装置において、画像内から複数の血管候補領域を抽出する血管候補領域抽出手段と、前記複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出手段と、前記同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出手段と、前記評価値に基づき、前記同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別手段と、を備えることを特徴とする。
 本発明に係る画像処理方法は、生体を撮像することにより取得された画像を処理する画像処理装置が実行する画像処理方法において、画像内から複数の血管候補領域を抽出する血管候補領域抽出ステップと、前記複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出ステップと、前記同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出ステップと、前記評価値に基づき、前記同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別ステップと、を含むことを特徴とする。
 本発明に係る画像処理プログラムは、生体を撮像することにより取得された画像を処理する画像処理装置に、画像内から複数の血管候補領域を抽出する血管候補領域抽出ステップと、前記複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出ステップと、前記同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出ステップと、前記評価値に基づき、前記同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別ステップと、を実行させることを特徴とする。
 本発明によれば、画像内から抽出した血管候補領域から、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域としてさらに抽出し、該同一血管候補領域の同一の血管らしさを評価する評価値に基づいて、同一血管候補領域が同一の血管領域を形成するか否かを判別するので、発赤や出血点等の異常領域と類似した色特徴量を有する正常な透見血管を精度良く判別することができる。
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。 図2は、図1に示す画像処理装置の動作を示すフローチャートである。 図3は、図1に示す血管候補領域抽出部が実行する詳細な処理を示すフローチャートである。 図4は、図1に示す同一血管候補領域抽出部が実行する処理の詳細を示すフローチャートである。 図5は、図1に示す同一血管候補領域抽出部が実行する処理を説明するための模式図である。 図6は、図1に示す同一血管候補領域抽出部が実行する処理を説明するための模式図である。 図7は、同一の血管らしさを評価する評価値の算出方法を説明するための模式図である。 図8は、同一の血管らしさを評価する評価値の算出方法を説明するための模式図である。 図9は、同一の血管らしさを評価する評価値の算出方法を説明するための模式図である。 図10は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。 図11は、図10に示す画像処理装置の動作を示すフローチャートである。 図12は、図10に示す同一血管候補領域抽出部が実行する処理の詳細を示すフローチャートである。 図13は、図10に示す同一血管候補領域抽出部が実行する処理を説明するための模式図である。
 以下、本発明の実施の形態に係る画像処理装置、画像処理方法、及び画像処理プログラムについて、図面を参照しながら説明する。なお、これら実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態1)
 図1は、本発明の実施の形態1に係る画像処理装置を示すブロック図である。本実施の形態1に係る画像処理装置1は、発赤や出血点等の異常と正常な透見血管とを判別することにより、発赤や出血点等の異常領域を検出する画像処理を行う装置である。なお、以下の説明においては、被検体である生体の管腔内を内視鏡又はカプセル型内視鏡で撮像することにより取得された管腔内画像(以下、単に画像ともいう)を処理対象とするが、内視鏡又はカプセル型内視鏡以外の観察装置により取得された画像を処理対象としても良い。また、内視鏡等により取得された管腔内画像は、通常、各画素位置においてR(赤)、G(緑)、B(青)の波長成分に対する画素レベル(画素値)を持つカラー画像である。
 図1に示すように、画像処理装置1は、該画像処理装置1全体の動作を制御する制御部10と、内視鏡により撮像された狭帯域画像に対応する画像データを取得する画像取得部20と、外部からの操作により入力信号を発生させる入力部30と、各種表示を行う表示部40と、画像取得部20によって取得された画像データや種々のプログラムを格納する記録部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
 制御部10は、CPU等のハードウェアによって実現され、記録部50に記録された各種プログラムを読み込むことにより、画像取得部20から入力される画像データや入力部30から入力される操作信号等に従って、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
 画像取得部20は、内視鏡を含むシステムの態様に応じて適宜構成される。例えば、カプセル型内視鏡との間の画像データの受け渡しに可搬型の記録媒体が使用される場合、画像取得部20は、この記録媒体を着脱自在に装着し、記録された画像の画像データを読み出すリーダ装置で構成される。また、内視鏡によって撮像された画像の画像データを保存しておくサーバを設置する場合、画像取得部20は、サーバと接続される通信装置等で構成され、サーバとデータ通信を行って画像データを取得する。或いは、画像取得部20を、内視鏡からケーブルを介して画像信号を入力するインターフェース装置等で構成しても良い。
 入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、これらの入力デバイスに対する外部からの操作に応じて発生させた入力信号を制御部10に出力する。
 表示部40は、LCDやELディスプレイ等の表示装置によって実現され、制御部10の制御の下で、管腔内画像を含む各種画面を表示する。
 記録部50は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク、又は、CD-ROM等の情報記録装置及びその読取装置等によって実現される。記録部50は、画像取得部20によって取得された画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を格納する。具体的には、記録部50は、内視鏡により取得された管腔内画像から、発赤や出血点等の異常領域を正常な透見血管と識別して検出する画像処理を当該画像処理装置1に実行させる画像処理プログラム51等を格納する。
 演算部100は、CPU等のハードウェアによって実現され、画像処理プログラム51を読み込むことにより、管腔内画像から発赤や出血点等の異常領域を、正常な透見血管と識別して検出する画像処理を行う。
 次に、演算部100の構成について説明する。図1に示すように、演算部100は、画像内から複数の血管候補領域を抽出する血管候補領域抽出部110と、複数の血管候補領域の内から同一の血管領域を形成すると見られる血管候補領域群(以下、同一血管候補領域)を抽出する同一血管候補領域抽出部120と、同一血管候補領域に対して同一の血管らしさを評価する評価値を算出する評価値算出部130と、該評価値に基づいて、同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別部140と、血管候補領域抽出部110により抽出された血管候補領域のうち、同一血管領域を形成すると判別されなかった血管候補領域を異常領域と判別する異常領域判別部150とを備える。
 血管候補領域抽出部110は、色特徴量算出部111と、領域統合部112と、形状特徴量算出部113とを備え、画像内の赤みの強い領域を血管候補領域として抽出する。このうち、色特徴量算出部111は、画像内の各画素の色特徴量として、R/G値を算出する。また、領域統合部112は、該R/G値に基づいて領域統合処理を行う。形状特徴量算出部113は、領域統合部112により統合された領域の形状特徴量を算出する。
 同一血管候補領域抽出部120は、候補点抽出部121及び近似曲線当てはめ部122を備え、血管候補領域内からの候補点の抽出と近似曲線の当てはめとを繰り返すことにより、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する。このうち、候補点抽出部121は、血管候補領域抽出部110により抽出された複数の血管候補領域内の任意の画素若しくは領域、又は該複数の血管候補領域の内の任意の血管候補領域を、ロバスト推定における候補画素又は候補領域(以下、これらをまとめて候補点という)として抽出する。近似曲線当てはめ部122は、抽出された候補点に対して近似曲線を当てはめる。
 評価値算出部130は、同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する。ここで、同一の血管らしさとは、同一血管候補領域に含まれる血管候補領域群が同一の血管を形成していると判断される度合いのことをいう。実施の形態1において、評価値算出部130は、同一血管候補領域内における色特徴量を算出する血管色特徴量算出部131と、同一血管候補領域の形状に関する特徴量(以下、単に形状特徴量という)を算出する血管形状特徴量算出部132と、処理対象の画像の奥行き情報を算出する血管奥行き情報算出部133と、画像内の溝領域を検出する溝領域検出部134とを備え、これらの各部により6種類の評価値を算出する。ここで、奥行き情報とは、処理対象の画像の撮像時における撮像手段(内視鏡、カプセル型内視鏡等)と被写体(生体の粘膜面等)との距離に対応する情報のことである。
 このうち、血管色特徴量算出部131は、同一血管候補領域内における色特徴量の特性として、同一血管候補領域内における色特徴量の類似性を表す量を算出する色類似性特徴量算出部131aを備える。
 血管形状特徴量算出部132は、形状特徴量として、同一血管候補領域における血管候補領域の間隔に基づく特徴量を算出する間隔特徴量算出部132aと、同一血管候補領域に対応する線形状の曲率に基づく特徴量を算出する曲率特徴量算出部132bと、同一血管候補領域の延在方向と該同一血管候補領域に含まれる各血管候補領域の長手方向との類似を表す特徴量を算出する方向特徴量算出部132cとを備える。
 血管奥行き情報算出部133は、同一血管候補領域内における奥行き情報の連続性を表す特徴量を算出する奥行き連続性特徴量算出部133aを備える。
 溝領域検出部134は、画像内の各画素の輝度値等の勾配強度に基づいて、粘膜の襞といった溝領域を検出する。
 血管領域判別部140は、評価値算出部130により算出された評価値に基づき、同一血管候補領域が同一の血管領域を形成するか否かを判別する。より詳細には、血管領域判別部140は、評価値が複数種類(例えば上述した6種類)算出された場合に、判別基準を切り替える判別基準切り替え部141aを備え、全ての判別基準を満たす同一血管候補領域を血管領域として判別する。
 異常領域判別部150は、血管候補領域抽出部110により抽出された血管候補領域のうち、同一血管領域と判別されなかった血管候補領域を、発赤や出血点等の異常領域として判別する。
 次に、画像処理装置1の動作について説明する。図2は、画像処理装置1の動作を示すフローチャートである。なお、処理対象の画像は、予め画像取得部20を介して取得され、記録部50に記録されている。
 まず、ステップS10において、演算部100は、処理対象の画像を記録部50から取得する。
 続くステップS11において、血管候補領域抽出部110は、処理対象の画像内から血管候補領域を抽出する。図3は、血管候補領域抽出部110が実行する詳細な処理を示すフローチャートである。
 ステップS111において、色特徴量算出部111は、次式(1)に基づき、色特徴量として各画素の色比G/R値を算出する。式(1)において、IG、IRは、各画素の画素値(色成分ごとの信号強度)を示す。
  (G/R値)=IG/IR …(1)
 続くステップS112において、血管候補領域抽出部110は、G/R値が所定の閾値以下となる領域、即ち、赤みの強い領域を血管候補領域として抽出する。
 続くステップS113において、領域統合部112は、抽出された血管候補領域と類似した色特徴を有する領域同士を統合する領域統合(参考:CG-ARTS協会、「ディジタル画像処理」、第196頁)を行う。例えば、血管候補領域におけるG/R値に対して、G/R値が所定の範囲内に収まる画素同士が統合される。これより、色特徴量を閾値処理(ステップ111)しただけでは形状の判別が困難であった血管候補領域の形状が判別し易くなる(後述するステップS115、S116参照)。なお、抽出された血管候補領域と特徴が類似した領域同士を統合することができれば、領域統合以外の手法を用いても良い。
 続くステップS114において、形状特徴量算出部113は、ステップS113において統合された領域に対してラベリング処理(参考:CG-ARTS協会、「ディジタル画像処理」、第181~182頁)を施す。同一ラベルが付与された領域は、1つの血管候補領域として扱われる。
 続くステップS115において、形状特徴量算出部113は、血管候補領域を細線化(参考:CG-ARTS協会、「ディジタル画像処理」、第187~188頁)する。
 続くステップS116において、形状特徴量算出部113は、細線化された血管候補領域の面積(画素数)を算出し、面積が閾値以上となる(即ち、所定値以上の長さを有する、細長い形状の特徴を有する)血管候補領域を、細長い血管領域と判定する。この細長い血管領域は、正常な血管として出力(後述)されると共に、他の血管候補領域の連続性を評価するために、ステップS12以降において、血管候補領域の1つとして引き続き用いられる。その後、画像処理装置1の動作はメインルーチンに戻る。
 ステップS11に続くステップS12において、同一血管候補領域抽出部120は、ステップS11において抽出された血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を、同一血管候補領域として抽出する。図4は、同一血管候補領域抽出部120が実行する処理の詳細を示すフローチャートである。また、図5及び図6は、同一血管候補領域抽出部120が実行する処理を説明するための模式図である。
 ステップS121において、候補点抽出部121は、血管候補領域内の画素若しくは領域、又は血管候補領域そのものを候補点として、所定数だけランダムに抽出する。なお、血管候補領域内の領域又は血管候補領域そのものを候補点とする場合には、領域内の代表点(例えば重心等)を候補点としても良いし、領域内の各画素を候補点としてもよい。
 また、抽出する候補点の数は、予め固定値を決定しておいても良いし、ステップS11において抽出された血管候補領域の数に応じて決定しても良い。後者の場合、抽出された血管候補領域の数が多いほど、候補点の数を増加させると良い。例えば図5に示すように、画像M1から血管候補領域m1~m9が抽出された場合(ステップS11参照)、これらの血管候補領域から、例えば画素p1~p14が候補点として抽出される。
 続くステップS122において、近似曲線当てはめ部122は、ステップS121において抽出された候補点と近似する曲線を、例えば最小二乗法(Least Mean Square)により推定する。例えば図5の場合、画素p1~p9に対して例えば曲線L1が推定される。
 続くステップS123において、近似曲線当てはめ部122は、推定した曲線に対して閾値以下の距離にある候補点をインライア(当たり値)と判定する。また、それ以外の候補点をアウトライア(はずれ値)と判定する。例えば図5の場合、曲線L1に対して、画素p3~p9がインライアと判定される。
 続くステップS124において、近似曲線当てはめ部122は、インライアと判定された候補点と近似する曲線を、例えば最小二乗法により再推定する。この再推定された曲線から所定範囲内の距離にある血管候補領域群が同一血管候補領域として抽出される。例えば図5に示す画素p3~p9に対して、図6に示す曲線L2が推定される。この場合、曲線L2から所定範囲内の距離にある血管候補領域m2~m6が同一血管候補領域となる。
 続くステップS125において、同一血管候補領域抽出部120は、ステップS121~S124の処理を所定回数以上繰り返したか否かを判定する。所定回数以上繰り返した場合(ステップS125:Yes)、画像処理装置1の動作はメインルーチンに戻る。一方、未だ所定回数以上繰り返していない場合(ステップS125:No)、処理はステップS121に戻る。
 ステップS12に続くステップS13において、評価値算出部130は、ステップS12において抽出された同一血管候補領域の同一の血管らしさを評価する評価値を算出する。評価値としては、各同一血管候補領域に対して、以下に説明する評価値1~6が算出される。
 評価値1:色特徴量の分散
 色類似性特徴量算出部131aは、同一血管候補領域に含まれる血管候補領域、即ち、ステップS12において推定された曲線から所定距離にある血管候補領域を抽出する。上述したように、例えば図6の場合、曲線L2に対して血管候補領域m2~m6が抽出される。
 続いて、色類似性特徴量算出部131aは、抽出した血管候補領域に含まれる画素のG/R値の分散を算出する。この分散が色特徴量の類似性を表す量であり、評価値1として用いられる。この場合、分散が小さいほど色特徴量のばらつきが小さく、同一血管候補領域内における色特徴量の類似性は高く、当該同一血管候補領域は同一の血管らしいと評価される。
 なお、評価値1の変形例として、曲線から所定距離にある血管候補領域に含まれる画素のG/R値の平均及び分散を算出すると共に、曲線から所定距離にある各血管候補領域のG/R値を算出してマハラノビス距離の最大値を求め、このマハラノビス距離の最大値と分散とを評価値(色特徴量の類似性を表す量)として用いても良い。この場合、分散及びマハラノビス距離の最大値が小さいほど、同一血管候補領域における血管候補領域の色のばらつきが少なく(類似性が高く)、当該同一血管候補領域は同一の血管らしいと評価される。
 評価値2:重心間の最小距離の平均値
 間隔特徴量算出部132aは、同一血管候補領域ごとに、同一血管候補領域に含まれる血管候補領域、即ち、ステップS12において推定された曲線から所定距離にある血管候補領域を抽出する。続いて、間隔特徴量算出部132aは、抽出した血管候補領域の画像空間における重心座標を算出する。例えば図7に示すように、曲線L2に対して血管候補領域m2~m6が抽出された場合、血管候補領域m2~m6から重心g2~g6の座標(xg2,yg2)~(xg6,yg6)、がそれぞれ算出される。さらに、間隔特徴量算出部132aは、各血管候補領域に対し、重心座標間の最小距離を算出する。例えば、重心g2の場合、重心g3と重心g4とでは、重心g3の方が距離は短いため、重心g3との距離Δg(2-3)が算出される。また、重心g3の場合、重心g2と重心g4とでは、重心g2の方が距離は短いため、重心g2との距離Δg(3-2)が算出される。さらに、重心g4の場合、重心g2と重心g3とでは、重心g3の方が距離は短いため、重心g3との距離Δg(4-3)が算出される。他の重心g4~g6についても同様である。これらの最小距離の平均値が評価値2として用いられる。この場合、最小距離の平均値が小さいほど、血管候補領域の連続性は高く、当該同一血管候補領域は同一の血管らしいと評価される。
 評価値3:曲線の曲率の平均値
 曲率特徴量算出部132bは、ステップS12において推定された曲線において、等間隔に複数の点を抽出する。例えば図8に示すように、曲線L2に対して複数の点a1~a10が抽出される。続いて、曲率特徴量算出部132bは、抽出した全ての点に対し、近接する前後2点に対するベクトル内積を曲率として算出する。例えば、点a2の場合、点a1に向かうベクトルv1と、点a3に向かうベクトルv2との内積が算出される。さらに、曲率特徴量算出部132bは、各点について算出されたベクトル内積の平均値を算出する。例えば図8の場合、両端の点a1及びa10を除く点a2~a9について算出されたベクトル内積の平均値が算出される。これらのベクトル内積(曲率)の平均値が評価値3として用いられる。この場合、曲率の平均値が大きいほど、推定された曲線は滑らかであり、当該同一血管候補領域は同一の血管らしいと評価される。
 評価値4:同一血管候補領域の延在方向と血管候補領域の長手方向との類似性
 方向特徴量算出部132cは、同一血管候補領域ごとに、同一血管候補領域に含まれる血管候補領域、即ち、ステップS12において推定された曲線から所定距離にある血管候補領域を抽出する。続いて、方向特徴量算出部132cは、抽出した各血管候補領域の長手方向を算出する。例えば図9に示すように、曲線L2に対して血管候補領域m2~m6が抽出された場合、血管候補領域m2~m6の長手方向d2~d6がそれぞれ算出される。一方、方向特徴量算出部132cは、同一血管候補領域の延在方向として、各血管候補領域の位置(例えば重心位置)における曲線の接線方向を算出する。例えば図9の場合、血管候補領域m2~m6の位置(例えば重心位置)における曲線L2の接線方向d2’~d6’がそれぞれ算出される。さらに、方向特徴量算出部132cは、血管候補領域ごとに、曲線の接線方向と血管候補領域の長手方向との差分を算出する。具体的には、差分として、接線方向と長手方向とがなす角度や、両者の内積等が算出される。この差分の平均値又は合計値が評価値4として用いられる。この場合、曲線の接線方向と血管候補領域の長手方向との差分が小さいほど、同一血管候補領域の延在方向と血管候補領域の長手方向とが一致(類似)しており、血管候補領域に沿って正しく曲線が推定されていると評価される。
 評価値5:奥行き情報の連続性
 奥行き連続性特徴量算出部133aは、処理対象の画像内の奥行き情報を取得する。実施の形態1においては、生体内において吸収又は散乱し難い波長成分であるR成分に対応する画素値(R値)を奥行き情報として取得する。この場合、R値の値が大きいほど、奥行き方向の距離が短い位置に被写体が存在する。なお、奥行き情報としては、R値に限らず、画像の奥行き方向の距離と相関がある値(例えば輝度値等)であれば用いることができる。
 続いて、奥行き連続性特徴量算出部133aは、ステップS12において推定された曲線において、等間隔に複数の点を抽出する。そして、抽出した全ての点に対し、近接する前後2点の間におけるR値の変化量を算出する。例えば図8に示すように、曲線L2において点a1~a9が抽出された場合、点a1と点a2とにおけるR値の変化量、点a2と点a3とにおけるR値の変化量、…、点a8と点a9とにおけるR値の変化量が算出される。さらに、奥行き連続性特徴量算出部133aは、算出したR値の変化量の最大値を抽出する。この最大値が、評価値5(奥行き情報の連続性を表す特徴量)として用いられる。この場合、最大値が小さいほど、奥行き情報が連続的に変化していると言えるため、当該同一血管候補領域は同一の血管らしいと評価される。
 評価値6:同一血管候補領域における溝領域の画素数
 溝領域検出部134は、処理対象の画像における画素値の勾配強度を、例えば、ラプラシアン(Laplacian)フィルタやソーベル(Sobel)フィルタ等(参考:CG-ARTS協会、「ディジタル画像処理」、第114~121頁)等を用いて算出する。なお、画素値としては、各画素のR値やG値の他、輝度値を用いても良い。
 続いて、溝領域検出部134は、勾配強度が所定値以上となる画素を溝領域として検出する。そして、ステップS12において推定した曲線上の溝領域の画素数を算出し、該画素数を評価値6として用いる。この場合、画素数が小さいほど、曲線上に存在する溝領域は少ないと言えるため、当該同一血管候補領域は同一の血管らしいと評価される。
 ステップS13に続くステップS14において、血管領域判別部140は、ステップS13において算出された評価値に基づいて同一の血管領域を判別する。具体的には、評価値1~6の全てが各々について予め設定された基準を満たす場合、その同一血管候補領域は同一の血管領域と判別される。
 続くステップS15において、異常領域判別部150は、ステップS11において抽出された血管候補領域のうち、ステップS14において同一の血管領域として抽出されなかった血管候補領域を、点状の異常領域(発赤や出血点等)と判別する。
 続くステップS16において、演算部100は、ステップS15において判別された点状の異常領域を出力して記録部50に記録させる。併せて、演算部100は、ステップS116において抽出された細長い血管領域や、ステップS14において判別された同一の血管領域を、正常な血管として出力する。その後、画像処理装置1は動作を終了する。
 以上説明したように、実施の形態1によれば、画像内の各画素の色特徴量に基づいて血管候補領域を抽出した後、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出し、該同一血管候補領域の色や形状等の特徴から算出した評価値に基づいて、同一血管候補領域が同一の血管領域を形成するか否かを判別するので、画像内から正常な透見血管を精度良く抽出することができる。さらに、実施の形態1によれば、同一血管領域として抽出されなかった血管候補領域を異常領域と判別するので、正常な透見血管と発赤や出血点等の異常領域を精度良く判別することが可能となる。
(実施の形態2)
 次に、本発明の実施の形態2について説明する。
 図10は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。図10に示すように、実施の形態2に係る画像処理装置2は、図1に示す演算部100の代わりに演算部200を備える。演算部200は、内視鏡又はカプセル型内視鏡により撮像され、画像取得部20を介して取得された一連の画像に対し、時系列順に画像処理を行う。
 演算部200は、血管候補領域抽出部110と、同一血管候補領域抽出部210と、評価値算出部220と、血管領域判別部140と、異常領域判別部150とを備える。このうち、血管候補領域抽出部110、血管領域判別部140、及び異常領域判別部150の構成及び動作は、実施の形態1と同様である。
 同一血管候補領域抽出部210は、図1に示す候補点抽出部211及び近似曲線当てはめ部122を備える。候補点抽出部211は、血管候補領域抽出部110により抽出された複数の血管候補領域からロバスト推定における候補点を抽出する際に、血管候補領域内の画素又は血管候補領域そのものの血管らしさを判定する候補判定値を算出する候補判定値算出部211aを備える。実施の形態2において、候補判定値算出部211aは、血管が延在する方向を推定する血管方向推定部211a-1と、処理対象の画像における血管候補領域の奥行き方向の距離情報(奥行き情報)を算出する候補点奥行き情報算出部211a-2とを備え、該奥行き情報を候補判定値として用いる。
 なお、近似曲線当てはめ部122の動作は、実施の形態1と同様である。
 評価値算出部220は、図1に示す血管色特徴量算出部131、血管形状特徴量算出部132、血管奥行き情報算出部133、及び溝領域検出部134に加えて、評価値重み決定部221を備える。評価値重み決定部221は、血管色特徴量算出部131、血管形状特徴量算出部132、血管奥行き情報算出部133、及び溝領域検出部134において算出された複数種類の評価値1~6に対する重み付けパラメータを決定する。
 より詳細には、評価値重み決定部221は、撮像対象判別部221a及び時系列連続性特徴量算出部221bを備える。撮像対象判別部221aは、画像内の撮像対象を判別する。具体的には、撮像対象判別部221aは、画像に写った臓器の種類を判別する臓器判別部221a-1を備える。一方、時系列連続性特徴量算出部221bは、時系列で近接する画像間において血管領域の抽出結果の連続性を表す特徴量を算出する。
 なお、評価値重み決定部221以外の評価値算出部220の各部の構成及び動作は、実施の形態1と同様である。
 次に、画像処理装置2の動作について説明する。図11は、画像処理装置2の動作を示すフローチャートである。なお、記録部50には、内視鏡又はカプセル型内視鏡により撮像され、画像取得部20を介して取得された一連の画像が、予め記録されている。
 まず、ステップS20において、演算部200は、記録部50に記録された一連の画像から、処理対象の画像を時系列に沿って取得する。
 続くステップS21において、血管候補領域抽出部110は、処理対象の画像内から血管候補領域を抽出する。なお、血管候補領域の抽出処理の詳細については、実施の形態1と同様である(図2のステップS11参照)。
 続くステップS22において、同一血管候補領域抽出部210は、ステップS21において抽出された血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を、同一血管候補領域として抽出する。図12は、同一血管候補領域抽出部210が実行する処理の詳細を示すフローチャートである。また、図13は、同一血管候補領域抽出部210が実行する処理を説明するための模式図である。
 まず、ステップS221において、候補点抽出部211は、血管候補領域の内の1つを初期候補点としてランダムに抽出する。
 続くステップS222において、血管方向推定部211a-1は、初期候補点を内包する最小の矩形領域を抽出し、該矩形領域を所定倍にした領域を設定する。この設定された領域が、おおよそ血管が延在する可能性が高いと推定される領域である。ここで、矩形領域の倍率は、方向ごとに異なっていても良い。例えば図13に示すように、血管候補領域m4が初期候補点として抽出された場合、血管候補領域m4を内包する最小の矩形領域Aが抽出され、さらに、矩形領域Aを例えば長手方向及び短手方向に各5倍した矩形領域Bが設定される。
 続くステップS223において、候補点奥行き情報算出部211a-2は、画像内の奥行き情報を取得する。実施の形態2においては、生体内において吸収又は散乱し難い波長成分であるR成分に対応する画素値(R値)を奥行き情報として取得する。この場合、R値の値が大きいほど、奥行き方向の距離が短い位置に被写体が存在する。なお、奥行き情報としては、R値に限らず、画像の奥行き方向の距離と相関がある値(例えば輝度値等)であれば用いることができる。
 続くステップS224において、候補点抽出部211は、ステップS222において設定した矩形領域内に存在する血管候補領域の奥行き情報と初期候補点の奥行き情報との差を候補判定値として算出し、当該差が所定範囲内にある血管候補領域を候補点としてランダムに抽出する。例えば図13の場合、初期候補点である血管候補領域m4に対し、矩形領域B内の血管候補領域m5、m6のR値の差が所定範囲内であれば、これらの血管候補領域m5、m6が候補点として抽出され得る。
 続くステップS225において、近似曲線当てはめ部122は、候補点と近似する曲線を、最小二乗法等により推定する。
 続くステップS226において、近似曲線当てはめ部122は、推定した曲線に対して閾値以下の距離にある候補点をインライアと判定し、それ以外の候補点をアウトライアと判定する。
 続くステップS227において、近似曲線当てはめ部122は、インライアと判定された候補点と近似する曲線を、例えば最小二乗法により再推定する。この再推定された曲線から所定範囲内の距離にある血管候補領域群が同一血管候補領域として抽出される。
 続くステップS228において、同一血管候補領域抽出部210は、ステップS221~S227の処理を所定回数以上繰り返したか否かを判定する。所定回数以上繰り返した場合(ステップS228:Yes)、画像処理装置2の動作はメインルーチンに戻る。一方、未だ所定回数以上繰り返していない場合(ステップS228:No)、処理はステップS221に戻る。
 ステップS22に続くステップS23において、臓器判別部221a-1は、画像に写った臓器の種類を判別する。臓器判別方法としては、公知の種々の方法を用いることができる。以下においては、一例として、画像内の平均画素値に基づいて臓器種類を判別する方法を説明する(参考:特開2006-288612号公報)。まず、食道、胃、小腸、大腸の各臓器の平均色を形成する色成分(R値、G値、B値)の数値範囲を事前に決定しておく。また、処理対象の画像について、画素値の各色成分の平均値(平均R値、平均G値、平均B値)を算出する。そして、算出したこれらの平均値が、事前に取得したいずれの臓器の色成分の数値範囲に含まれるかを判別する。例えば、算出した平均値が食道の平均色を形成する色成分の数値範囲に含まれる場合、処理対象の画像の観察部位は食道と判別される。また、算出した平均値が胃の平均色を形成する色成分の数値範囲に含まれる場合、処理対象の画像の観察部位は胃と判別される。算出した平均値が小腸の平均色を形成する色成分の数値範囲に含まれる場合、処理対象の画像の観察部位は小腸と判別される。算出した平均値が大腸の平均色を形成する色成分の数値範囲に含まれる場合、処理対象の画像の観察部位は大腸と判別される。
 続くステップS24において、時系列連続性特徴量算出部221bは、時系列の1つ前の画像についてなされた血管領域の判別結果を記録部50から読み出す。なお、後述するように、一連の画像の各々についてなされた血管領域の判別結果は、順次記録部50に記録される。
 続くステップS25において、評価値算出部220は、ステップS22において抽出された同一血管候補領域の同一の血管らしさを評価する評価値を算出する。より詳細には、評価値算出部220は、実施の形態1と同様にして評価値1~6を算出した後(図2のステップS13参照)、これらの評価値1~6に対し、臓器種類及び時系列の1つ前の画像に対する血管領域の判別結果に応じた重み付けを行う。
 具体的には、処理対象の画像に写った臓器が観察目的とする臓器ではない場合や、処理対象の画像に写った臓器が、透見血管を観察し易い大腸である場合には、血管領域が抽出され易くなるように評価値の重みを決定する。例えば大腸の場合、同一血管候補領域が同一の血管として抽出され易くなるよう、評価値が全体的に底上げされるように重み付けを行う。また、時系列の一つ前の画像において抽出された血管領域が、今回の処理対象の画像において抽出された同一血管候補領域の近傍に存在する場合(例えば、前の画像における血管領域に対する同一血管候補領域の変位が所定範囲内の場合)には、両者の連続性は高く、評価値の信頼性が高いと考え、血管領域が抽出され易くなるよう、例えば評価値が全体的に底上げされるように重みを決定する。
 続くステップS26において、血管領域判別部140は、ステップS25において算出され、重み付けがなされた評価値に基づいて同一の血管領域を判別する。具体的には、重み付けされた評価値1~6の全てが各々について予め設定された基準を満たす場合、その同一血管候補領域は同一の血管領域と判別される。
 続くステップS27において、異常領域判別部150は、ステップS21において抽出された血管候補領域のうち、ステップS26において同一の血管領域として抽出されなかった血管候補領域を、点状の異常領域(発赤や出血点等)と判別する。
 続くステップS28において、演算部200は、ステップS27における判別結果を出力して記録部50に記録させる。
 続くステップS29において、演算部200は、血管領域の判別処理が未だなされていない画像、即ち、時系列の次の画像があるか否かを判断する。次の画像がある場合(ステップS29:Yes)、画像処理装置2の動作はステップS20に移行する。一方、次の画像がない場合(ステップS29:No)、画像処理装置2の動作は終了する。
 以上説明したように、実施の形態2によれば、処理対象の画像に写った臓器の種類や時系列の前の画像の判別結果に応じて評価値の重み付けを行うので、血管領域の判別精度をさらに向上させることが可能となる。
 なお、上記説明においては、記録部50に記録された一連の画像を時系列に沿って順次処理したが、時系列とは逆順に処理しても良い。この場合、ステップS24においては、時系列の1つ後の画像の血管領域の判別結果を読み出せば良い。
 以上説明した実施の形態1及び2に係る画像処理装置は、記録装置に記録された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク、広域エリアネットワーク(LAN/WAN)、又は、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態1及び2に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続された種々の出力機器(ビュアーやプリンタ等)に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置(記録装置及びその読取装置等)に画像処理結果を格納するようにしても良い。
 なお、本発明は、実施の形態1及び2に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
 1、2 画像処理装置
 10 制御部
 20 画像取得部
 30 入力部
 40 表示部
 50 記録部
 51 画像処理プログラム
 100、200 演算部
 110 血管候補領域抽出部
 111 色特徴量算出部
 112 領域統合部
 113 形状特徴量算出部
 120、210 同一血管候補領域抽出部
 121、211 候補点抽出部
 122 近似曲線当てはめ部
 130、220 評価値算出部
 131 血管色特徴量算出部
 131a 色類似性特徴量算出部
 132 血管形状特徴量算出部
 132a 間隔特徴量算出部
 132b 曲率特徴量算出部
 132c 方向特徴量算出部
 133 血管奥行き情報算出部
 133a 奥行き連続性特徴量算出部
 134 溝領域検出部
 140 血管領域判別部
 141a 判別基準切り替え部
 150 異常領域判別部
 211a 候補判定値算出部
 211a-1 血管方向推定部
 211a-2 候補点奥行き情報算出部
 221 評価値重み決定部
 221a 撮像対象判別部
 221a-1 臓器判別部
 221b 時系列連続性特徴量算出部

Claims (16)

  1.  生体を撮像することにより取得された画像を処理する画像処理装置において、
     画像内から複数の血管候補領域を抽出する血管候補領域抽出手段と、
     前記複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出手段と、
     前記同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出手段と、
     前記評価値に基づき、前記同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別手段と、
    を備えることを特徴とする画像処理装置。
  2.  前記同一血管候補領域抽出手段は、
     前記複数の血管候補領域内の任意の画素若しくは領域、又は前記複数の血管候補領域の内の任意の血管候補領域を候補画素又は候補領域として所定数だけ抽出する候補抽出手段と、
     前記候補画素又は候補領域に近似曲線を当てはめる近似曲線当てはめ手段と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  3.  前記候補抽出手段は、
     前記複数の血管候補領域内の画素の血管らしさ、又は前記複数の血管候補領域の血管らしさを示す判定値を算出する候補判定値算出手段を備え、
     前記判定値が所定範囲内である前記複数の血管候補領域内の画素、又は前記複数の血管候補領域のうちから前記候補画素又は候補領域を抽出することを特徴とする請求項2に記載の画像処理装置。
  4.  前記候補判定値算出手段は、前記複数の血管候補領域の内の任意の血管候補領域の方向に基づいて、血管が延在する方向を推定する方向推定手段を備えることを特徴とする請求項3に記載の画像処理装置。
  5.  前記候補判定値算出手段は、前記血管候補領域に対し、前記画像の撮像時における撮像手段と被写体との距離に対応する情報である奥行き情報を算出する奥行き情報算出手段を備えることを特徴とする請求項4に記載の画像処理装置。
  6.  前記血管候補領域抽出手段により抽出された前記複数の血管候補領域のうち、前記血管領域判別手段により同一の血管領域を形成すると判別されなかった血管候補領域を異常領域として判別する異常領域判別手段をさらに備えることを特徴とする請求項1に記載の画像処理装置。
  7.  前記評価値算出手段は、前記同一血管候補領域の形状に関する特徴量を算出する血管形状特徴量算出手段を備え、
     前記血管形状特徴量算出手段は、前記形状に関する特徴量として、前記同一血管候補領域に含まれる前記血管候補領域同士の間隔に基づく特徴量を算出する間隔特徴量算出手段を備え、
     前記評価値算出手段は、前記間隔に基づく特徴量を前記評価値として用いることを特徴とする請求項1に記載の画像処理装置。
  8.  前記評価値算出手段は、前記同一血管候補領域の形状に関する特徴量を算出する血管形状特徴量算出手段を備え、
     前記血管形状特徴量算出手段は、前記形状に関する特徴量として、前記同一血管候補領域に対応する線形状の曲率に基づく特徴量を算出する曲率特徴量算出手段を備え、
     前記評価値算出手段は、前記曲率に基づく特徴量を前記評価値として用いることを特徴とする請求項1に記載の画像処理装置。
  9.  前記評価値算出手段は、前記同一血管候補領域の形状に関する特徴量を算出する血管形状特徴量算出手段を備え、
     前記血管形状特徴量算出手段は、前記形状に関する特徴量として、前記同一血管候補領域の延在方向と該同一血管候補領域に含まれる各血管候補領域の長手方向との類似性を表す特徴量を算出する方向特徴量算出手段を備え、
     前記評価値算出手段は、前記類似性を表す特徴量を前記評価値として用いることを特徴とする請求項1に記載の画像処理装置。
  10.  前記評価値算出手段は、前記画像の撮像時における撮像手段と被写体との距離に対応する情報である奥行き情報を算出する血管奥行き情報算出手段を備え、
     前記血管奥行き情報算出手段は、前記同一血管候補領域内における前記奥行き情報の連続性を表す特徴量を算出する奥行き連続性特徴量算出手段を備え、
     前記評価値算出手段は、前記奥行き情報の連続性を表す特徴量を前記評価値として用いることを特徴とする請求項1に記載の画像処理装置。
  11.  前記評価値算出手段は、
     前記画像内の溝領域を検出する溝領域検出手段を備え、
     前記同一血管候補領域における前記溝領域の画素数に基づく前記評価値を算出することを特徴とする請求項1に記載の画像処理装置。
  12.  前記評価値算出手段は、
     複数種類の前記評価値を算出し、
     複数種類の前記評価値の各々に付与される重み付けパラメータを決定する評価値重み決定手段を備えることを特徴とする請求項1記載の画像処理装置。
  13.  前記評価値重み決定手段は、前記画像に写った撮像対象である臓器の種類に応じて、前記重み付けパラメータを決定することを特徴とする請求項12に記載の画像処理装置。
  14.  前記画像は、時系列に沿って撮像された時系列画像群に含まれ、
     前記評価値重み決定手段は、時系列において近接する他の画像に対する前記血管領域の抽出結果に基づいて、前記重み付けパラメータを決定することを特徴とする請求項12に記載の画像処理装置。
  15.  生体を撮像することにより取得された画像を処理する画像処理装置が実行する画像処理方法において、
     画像内から複数の血管候補領域を抽出する血管候補領域抽出ステップと、
     前記複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出ステップと、
     前記同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出ステップと、
     前記評価値に基づき、前記同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別ステップと、
    を含むことを特徴とする画像処理方法。
  16.  生体を撮像することにより取得された画像を処理する画像処理装置に、
     画像内から複数の血管候補領域を抽出する血管候補領域抽出ステップと、
     前記複数の血管候補領域のうち、統合した場合に線形状になると推定される血管候補領域群を同一血管候補領域として抽出する同一血管候補領域抽出ステップと、
     前記同一血管候補領域に対し、同一の血管らしさを評価する1種類以上の評価値を算出する評価値算出ステップと、
     前記評価値に基づき、前記同一血管候補領域が同一の血管領域を形成するか否かを判別する血管領域判別ステップと、
    を実行させることを特徴とする画像処理プログラム。
PCT/JP2014/050767 2013-02-27 2014-01-17 画像処理装置、画像処理方法、及び画像処理プログラム WO2014132694A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201480009658.7A CN105072975B (zh) 2013-02-27 2014-01-17 图像处理装置和图像处理方法
EP14757712.6A EP2962624A4 (en) 2013-02-27 2014-01-17 IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, AND IMAGE PROCESSING PROGRAM
US14/830,893 US9959481B2 (en) 2013-02-27 2015-08-20 Image processing apparatus, image processing method, and computer-readable recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013037975A JP6045396B2 (ja) 2013-02-27 2013-02-27 画像処理装置、画像処理方法、及び画像処理プログラム
JP2013-037975 2013-02-27

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US14/830,893 Continuation US9959481B2 (en) 2013-02-27 2015-08-20 Image processing apparatus, image processing method, and computer-readable recording medium

Publications (1)

Publication Number Publication Date
WO2014132694A1 true WO2014132694A1 (ja) 2014-09-04

Family

ID=51427968

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/050767 WO2014132694A1 (ja) 2013-02-27 2014-01-17 画像処理装置、画像処理方法、及び画像処理プログラム

Country Status (5)

Country Link
US (1) US9959481B2 (ja)
EP (1) EP2962624A4 (ja)
JP (1) JP6045396B2 (ja)
CN (1) CN105072975B (ja)
WO (1) WO2014132694A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3357406A4 (en) * 2015-09-29 2018-10-10 FUJI-FILM Corporation Image processing apparatus, endoscope system, and image processing method
CN109886953A (zh) * 2019-02-27 2019-06-14 数坤(北京)网络科技有限公司 一种血管异常检测方法、装置及计算机可读存储介质
WO2020188825A1 (ja) * 2019-03-20 2020-09-24 Hoya株式会社 内視鏡システム
CN115937085A (zh) * 2022-06-28 2023-04-07 哈尔滨学院 一种基于神经网络学习的核性白内障图像处理方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102448851A (zh) * 2009-05-29 2012-05-09 Az电子材料(日本)株式会社 化学品溶液供给系统和其所采用的化学品溶液用容器
JP6265588B2 (ja) * 2012-06-12 2018-01-24 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JPWO2016117018A1 (ja) * 2015-01-20 2017-10-26 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP6336949B2 (ja) * 2015-01-29 2018-06-06 富士フイルム株式会社 画像処理装置及び画像処理方法、並びに内視鏡システム
JP6640866B2 (ja) * 2015-09-29 2020-02-05 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法
CN106388867A (zh) * 2016-09-28 2017-02-15 深圳华声医疗技术有限公司 血管的内中膜自动识别测量方法及超声仪
US11151726B2 (en) * 2018-01-10 2021-10-19 Canon Medical Systems Corporation Medical image processing apparatus, X-ray diagnostic apparatus, and medical image processing method
WO2019156022A1 (ja) * 2018-02-07 2019-08-15 Hoya株式会社 内視鏡システム
WO2020059098A1 (ja) * 2018-09-20 2020-03-26 オリンパス株式会社 画像処理装置
WO2020110278A1 (ja) * 2018-11-30 2020-06-04 オリンパス株式会社 情報処理システム、内視鏡システム、学習済みモデル、情報記憶媒体及び情報処理方法
JP7084546B2 (ja) * 2019-03-20 2022-06-14 Hoya株式会社 内視鏡システム
JP7366360B2 (ja) * 2019-05-15 2023-10-23 株式会社日本マイクロニクス 血管特定装置及び血管特定方法
CN110853020B (zh) * 2019-11-13 2021-10-29 北京理工大学 基于拓扑结构和图谱的衡量视网膜血管网络相似性的方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005192880A (ja) 2004-01-08 2005-07-21 Olympus Corp 画像処理方法
JP2006288612A (ja) 2005-04-08 2006-10-26 Olympus Corp 画像表示装置
JP4434705B2 (ja) 2003-11-27 2010-03-17 オリンパス株式会社 画像解析方法
WO2012153568A1 (ja) * 2011-05-10 2012-11-15 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4409166B2 (ja) * 2002-12-05 2010-02-03 オリンパス株式会社 画像処理装置
JP4749732B2 (ja) * 2005-02-15 2011-08-17 オリンパス株式会社 医用画像処理装置
EP1994878B9 (en) * 2006-03-16 2013-09-04 Olympus Medical Systems Corp. Medical image processing device and medical image processing method
JP5541914B2 (ja) * 2009-12-28 2014-07-09 オリンパス株式会社 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
JP5395725B2 (ja) * 2010-04-05 2014-01-22 富士フイルム株式会社 電子内視鏡システム
WO2011129176A1 (ja) * 2010-04-12 2011-10-20 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法
JP5276225B2 (ja) * 2011-02-22 2013-08-28 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理装置の作動方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4434705B2 (ja) 2003-11-27 2010-03-17 オリンパス株式会社 画像解析方法
JP2005192880A (ja) 2004-01-08 2005-07-21 Olympus Corp 画像処理方法
JP2006288612A (ja) 2005-04-08 2006-10-26 Olympus Corp 画像表示装置
WO2012153568A1 (ja) * 2011-05-10 2012-11-15 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
DIGITAL IMAGE PROCESSING, pages 114 - 121
DIGITAL IMAGE PROCESSING, pages 181 - 182
DIGITAL IMAGE PROCESSING, pages 187 - 188
See also references of EP2962624A4

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3357406A4 (en) * 2015-09-29 2018-10-10 FUJI-FILM Corporation Image processing apparatus, endoscope system, and image processing method
US10653295B2 (en) 2015-09-29 2020-05-19 Fujifilm Corporation Image processing apparatus, endoscope system, and image processing method
CN109886953A (zh) * 2019-02-27 2019-06-14 数坤(北京)网络科技有限公司 一种血管异常检测方法、装置及计算机可读存储介质
WO2020188825A1 (ja) * 2019-03-20 2020-09-24 Hoya株式会社 内視鏡システム
JPWO2020188825A1 (ja) * 2019-03-20 2021-09-13 Hoya株式会社 内視鏡システム
JP7041318B2 (ja) 2019-03-20 2022-03-23 Hoya株式会社 内視鏡システム
US11612310B2 (en) 2019-03-20 2023-03-28 Hoya Corporation Endoscope system
CN115937085A (zh) * 2022-06-28 2023-04-07 哈尔滨学院 一种基于神经网络学习的核性白内障图像处理方法

Also Published As

Publication number Publication date
US20150356369A1 (en) 2015-12-10
EP2962624A4 (en) 2016-11-16
JP2014161672A (ja) 2014-09-08
JP6045396B2 (ja) 2016-12-14
EP2962624A1 (en) 2016-01-06
CN105072975A (zh) 2015-11-18
US9959481B2 (en) 2018-05-01
CN105072975B (zh) 2017-06-09

Similar Documents

Publication Publication Date Title
JP6045396B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP5683888B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP6552613B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
CN102243762B (zh) 图像处理装置以及图像处理方法
US9928590B2 (en) Image processing apparatus, image processing method, and computer-readable recording device for determining whether candidate region is abnormality or residue
JP6371544B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6196922B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
US8948479B2 (en) Image processing device, image processing method and computer readable recording device
US9672610B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US8705818B2 (en) Image processing device, computer readable storage medium storing image processing program, and image processing method
JP5830295B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
US8457376B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP6578058B2 (ja) 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
Zhang et al. Photometric stereo for three-dimensional leaf venation extraction
Vieira et al. Segmentation of angiodysplasia lesions in WCE images using a MAP approach with Markov Random Fields
WO2016208016A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
Queiroz et al. Endoscopy image restoration: A study of the kernel estimation from specular highlights
US8774521B2 (en) Image processing apparatus, image processing method, and computer-readable recording device
JP5308848B2 (ja) シーン変化検出装置、シーン変化検出プログラムおよびシーン変化検出方法
JP2010176570A (ja) シーン変化検出装置、シーン変化検出プログラムおよびシーン変化検出方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201480009658.7

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14757712

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2014757712

Country of ref document: EP