WO2013088806A1 - 医用画像を検索する方法、装置及びコンピュータプログラム - Google Patents

医用画像を検索する方法、装置及びコンピュータプログラム Download PDF

Info

Publication number
WO2013088806A1
WO2013088806A1 PCT/JP2012/074063 JP2012074063W WO2013088806A1 WO 2013088806 A1 WO2013088806 A1 WO 2013088806A1 JP 2012074063 W JP2012074063 W JP 2012074063W WO 2013088806 A1 WO2013088806 A1 WO 2013088806A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
wavelet
images
calculating
spatial distance
Prior art date
Application number
PCT/JP2012/074063
Other languages
English (en)
French (fr)
Inventor
中野　宏毅
由美 森
意弘 土居
Original Assignee
インターナショナル・ビジネス・マシーンズ・コーポレーション
日本アイ・ビー・エム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インターナショナル・ビジネス・マシーンズ・コーポレーション, 日本アイ・ビー・エム株式会社 filed Critical インターナショナル・ビジネス・マシーンズ・コーポレーション
Priority to CN201280061729.9A priority Critical patent/CN103988204B/zh
Priority to GB1410417.8A priority patent/GB2511686A/en
Priority to DE112012004814.8T priority patent/DE112012004814T5/de
Priority to US14/365,325 priority patent/US9201902B2/en
Priority to JP2013549142A priority patent/JP5902196B2/ja
Publication of WO2013088806A1 publication Critical patent/WO2013088806A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761—Proximity, similarity or dissimilarity measures
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/10—Recognition assisted with metadata
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices

Definitions

  • the present invention relates to a method, an apparatus, and a computer program for searching for a medical image that can search for an image having a high similarity to an acquired image from a plurality of stored images.
  • Patent Document 1 a cardiac magnetic signal is measured, a measured cardiac magnetic signal is compared with a cardiac magnetic signal measured in the past, and estimation of whether or not a heart disease occurs, and cardiac A cardiac magnetic measurement apparatus for estimating a disease candidate is disclosed. Further, as an example of searching by comparing images, for example, in Patent Document 2, a similarity between a diagnostic image in past interpretation report data and a new diagnostic image is calculated, and a diagnosis in past interpretation report data is also calculated. A search system that searches past diagnostic images and corresponding interpretation report data in consideration of the appearance rate of result names is disclosed.
  • Patent Document 1 the determination is based on indirect information such as a cardiac magnetic signal and cannot be distinguished from the case where a similar signal is generated due to another disease.
  • Patent Document 2 the similarity between images is calculated by the Euclidean distance between the feature portions of the two images. However, it is necessary to determine which portion of the captured image is the feature portion, and the doctor's interpretation. There was a problem that there was a possibility that a difference in judgment might occur due to superiority or inferiority of technology.
  • the present invention has been made in view of such circumstances, and a method for searching a medical image that can search for an existing image corresponding to a similar case with high accuracy using a newly acquired X-ray image,
  • An object is to provide an apparatus and a computer program.
  • the method according to the first invention may be executed by a device for searching for a medical image that searches for a similar image to a newly captured image from medical images based on past cases.
  • the keywords included in the interpretation information are extracted, and based on the extracted keywords, similar interpretation information is detected from the stored keywords.
  • the method according to the second aspect of the present invention calculates a two-dimensional Gabor wavelet characteristic as the wavelet characteristic in the first aspect.
  • the method according to the third invention is the method according to the first or second invention, wherein M (M is a natural number of 2 or more) wavelet features are calculated for each image and binarized to calculate an M-dimensional bit string. And calculating the frequency distribution vector for all images, and calculating the spatial distance as an angle formed between the calculated frequency distribution vectors.
  • an apparatus is an apparatus for searching for a medical image that searches for a similar image to a newly captured image from medical images based on past cases.
  • a feature calculating unit that calculates wavelet features of a plurality of images that have been captured and stored in the past, a keyword extracting unit that extracts keywords included in the interpretation information for each stored image, and Information storage means for storing the calculated wavelet feature and the extracted keyword in association with the image, image acquisition means for acquiring a newly captured image, wavelet feature calculation means for calculating the wavelet feature of the acquired image, Extract keywords included in the interpretation information corresponding to the acquired image, and from the stored keywords based on the extracted keywords Interpretation information retrieval means for retrieving similar interpretation information, an image corresponding to the retrieved interpretation information, a spatial distance calculation means for calculating a spatial distance based on wavelet features between the acquired images, and the calculated spatial distance Output means for outputting images shorter than a predetermined value as search results in the order of short spatial distance.
  • the feature calculation means and the wavelet feature calculation means calculate a two-dimensional Gabor wavelet feature as the wavelet feature.
  • an M-dimensional bit string is obtained by calculating M (M is a natural number of 2 or more) wavelet features for each image and binarizing each of the wavelet features.
  • M is a natural number of 2 or more
  • a frequency distribution vector calculating means for calculating frequency distribution vectors for all images, and the spatial distance calculating means calculates the spatial distance as an angle formed between the calculated frequency distribution vectors.
  • a computer program is an apparatus for searching for a medical image that searches for a similar image to a newly captured image from medical images based on past cases.
  • a computer program that can be executed, the device being included in feature calculation means for calculating wavelet features of a plurality of images that have been captured and stored in the past, and interpretation information for each stored image Keyword extraction means for extracting keywords, information storage means for storing the calculated wavelet features and extracted keywords in association with stored images, image acquisition means for acquiring newly captured images, and wavelets of acquired images Wavelet feature calculation means for calculating features, keywords included in interpretation information corresponding to the acquired image Based on the extracted and extracted keywords, the interpretation information retrieval means for retrieving similar interpretation information from the stored keywords, the spatial distance based on the wavelet feature between the acquired image and the image corresponding to the retrieved interpretation information And an output means for outputting an image having a calculated spatial distance shorter than a predetermined value as a search result in order of increasing spatial distance.
  • the computer program according to the eighth invention causes the feature calculating means and the wavelet feature calculating means to function as means for calculating a two-dimensional Gabor wavelet feature as the wavelet feature.
  • the computer program according to a ninth aspect is the computer program according to the seventh or eighth aspect, wherein the device calculates M (M is a natural number of 2 or more) wavelet features for each image, and binarizes each.
  • M is a natural number of 2 or more
  • the spatial distance calculation means calculates the spatial distance as an angle formed between the calculated frequency distribution vectors. Function as a means to
  • a similar image can be searched from images stored as past cases based on the wavelet feature indicating the characteristics of the acquired medical image.
  • the present invention is implemented as a computer program that can be partially executed by a computer. be able to. Therefore, the present invention is a hardware embodiment of a medical image search device for searching for a medical image that searches for a similar image to a newly captured image from medical images based on past cases, as software. Or an embodiment of a combination of software and hardware.
  • the computer program can be recorded on any computer-readable recording medium such as a hard disk, DVD, CD, optical storage device, magnetic storage device or the like.
  • a similar image can be searched from images stored as past cases based on the wavelet feature indicating the characteristic of the acquired medical image. Even a doctor can search for an image corresponding to the most similar case, and can select an appropriate medical practice.
  • FIG. 1 is a block diagram schematically showing a configuration of a medical image search apparatus according to an embodiment of the present invention.
  • the medical image search apparatus 1 includes at least a CPU (Central Processing Unit) 11, a memory 12, a storage device 13, an I / O interface 14, a video interface 15, a portable disk drive 16, and a communication interface 17. And an internal bus 18 for connecting the hardware described above.
  • CPU Central Processing Unit
  • the CPU 11 is connected to the hardware units as described above of the medical image search apparatus 1 via the internal bus 18, controls the operation of the hardware units described above, and stores the computer program 100 stored in the storage device 13. Various software functions are executed according to the above.
  • the memory 12 is composed of a volatile memory such as SRAM or SDRAM, and a load module is expanded when the computer program 100 is executed, and stores temporary data generated when the computer program 100 is executed.
  • the storage device 13 includes a built-in fixed storage device (hard disk), a ROM, and the like.
  • the computer program 100 stored in the storage device 13 is downloaded by the portable disk drive 16 from a portable recording medium 90 such as a DVD or CD-ROM in which information such as programs and data is recorded, and from the storage device 13 at the time of execution.
  • the program is expanded into the memory 12 and executed.
  • a computer program downloaded from an external computer connected via the communication interface 17 may be used.
  • the storage device 13 includes a medical image storage unit 131, an interpretation information storage unit 132, a visual word storage unit 133, and a frequency distribution information storage unit 134.
  • the medical image storage unit 131 stores past image data obtained by X-ray imaging in association with identification information for identifying interpretation information.
  • the interpretation information storage unit 132 stores the results of a doctor interpreting and diagnosing past medical images. For example, a doctor's diagnosis result such as “a nodule shadow is observed in the upper lobe of the left lung field. Suspected squamous cell carcinoma. Instructing detailed examination by HR-CT” is stored as text data in association with identification information.
  • the visual word storage unit 133 stores a Gabor wavelet feature group described later as a visual word.
  • the frequency distribution information storage unit 134 stores a frequency distribution vector of values obtained by binarizing the calculated wavelet features and converting them into an M-dimensional bit string.
  • the communication interface 17 is connected to an internal bus 18 and can transmit / receive data to / from an external computer or the like by connecting to an external network such as the Internet, a LAN, or a WAN.
  • the I / O interface 14 is connected to input devices such as a keyboard 21 and a mouse 22 and receives data input.
  • the video interface 15 is connected to a display device 23 such as a CRT display or a liquid crystal display, and displays a detection result on the display device 23.
  • FIG. 2 is a functional block diagram of the medical image search apparatus 1 according to the embodiment of the present invention.
  • a feature calculation unit 201 of the medical image search apparatus 1 calculates wavelet features of a plurality of images that have been captured and stored in the past.
  • a Gabor wavelet feature is calculated as the wavelet feature.
  • FIG. 3 is an explanatory diagram of the coordinate setting in the image of the medical image search apparatus 1 according to the embodiment of the present invention.
  • an image composed of m pixels in the x direction and n pixels in the y direction is defined as s (x, y) with the upper left corner of the image as the origin.
  • Any i (i is a natural number) represents the th coordinate of the pixel P i P i (x i, y i) and.
  • the matrix A is a 3 ⁇ 3 affine transformation matrix.
  • the affine transformation that moves the entire image in the x direction by tx and the ty in the y direction can be expressed by (Equation 2)
  • the affine transformation that rotates the entire image by the rotation angle ⁇ can be expressed by (Equation 3).
  • the two-dimensional Gabor wavelet function is defined as shown in (Formula 4) with respect to the coordinate values (x dots, y dots) after rotating affine transformation.
  • the two-dimensional Gabor wavelet function is composed of a real part and an imaginary part.
  • FIG. 4 is an illustration of a two-dimensional Gabor wavelet function.
  • FIG. 4A shows an example of the real part of the two-dimensional Gabor wavelet function
  • FIG. 4B shows an example of the imaginary part of the two-dimensional Gabor wavelet function.
  • u 0 indicates the frequency of the wave shape
  • ⁇ indicates the width of the hat-like width.
  • r has shown the direction mentioned later.
  • the window function g sigma shown in (Equation 4) is a two-dimensional Gaussian function can be expressed by (Equation 5).
  • the Gabor wavelet feature for the acquired image s (x, y) can be calculated by (Equation 6).
  • the lattice point having the maximum absolute value of the Gabor wavelet feature and the Gabor wavelet feature near the lattice point are invariable even when the image is subjected to affine transformation such as enlargement / reduction or rotation. Therefore, it is suitable as a feature amount of an image.
  • a j and a ⁇ j indicate parameters indicating the degree of dilation (enlargement / reduction), and x 0 and y 0 indicate parallel movement. Further, r indicates a direction, and in this embodiment, Gabor wavelet features are calculated for each of the eight directions.
  • FIG. 5 is a schematic diagram showing the direction of the two-dimensional Gabor wavelet function of the medical image search apparatus 1 according to the embodiment of the present invention.
  • Gabor wavelet characteristics are calculated in the directions (1) to (8), that is, in eight directions rotated by 22.5 degrees from a predetermined direction.
  • the Gabor wavelet feature for example, it is possible to calculate a wavelet feature amount that absorbs variation in the shape of a human organ, and therefore, a similar image can be searched with high accuracy.
  • the scale is a value for distinguishing the size to be enlarged / reduced, and indicates that the scale is enlarged from 1 to 5, for example.
  • Gabor wavelet features having an absolute value equal to or greater than a predetermined threshold are extracted, and Gabor wavelet features having a maximum value are selected from them.
  • the absolute value of the Gabor wavelet feature is a maximum value
  • the absolute value of the integral value in (Equation 6) is a maximum value, and changes the average luminance of the image, or changes the scale of the image. Even if an operation such as rotating an image is performed, the feature amount remains unchanged.
  • FIG. 6 is a view showing an example of the data structure of the visual word stored in the visual word storage unit 133 of the storage device 13 of the medical image search device 1 according to the embodiment of the present invention.
  • the calculated 24 Gabor wavelet features are listed and stored for each identification number 1, 2, 3,. That is, the first ‘1’ is an identification number, and the numerical values described after ‘1:’ to ‘24: ’across the blank indicate 24 calculated Gabor wavelet features.
  • the example of FIG. 6 shows a visual word when three maximum values exist in one image. Therefore, in FIG. 6, visual words are stored for three identification numbers “1”, “2”, and “3”, but if the number of local maximum values is one, only the identification number “1” is stored. Needless to say.
  • the keyword extracting unit 202 stores the image interpretation stored in the image interpretation information storage unit 132 of the storage device 13 corresponding to the past image stored in the medical image storage unit 131 of the storage device 13. Extract keywords included in the information. For example, when the interpretation information storage unit 132 of the storage device 13 stores “a nodular shadow is found in the upper lobe of the left lung field. Suspected squamous cell carcinoma. Is used for parsing and segmented into “part”, “symptom”, “disease name”, “treatment”, etc., and keywords are extracted.
  • FIG. 7 is an exemplary diagram of keyword extraction of the medical image search apparatus 1 according to the embodiment of the present invention.
  • the nodal shadow is observed in the upper lobe of the left lung field.
  • the suspected squamous cell carcinoma is extracted from the keyword “nodule shadow”
  • "disease name” is “suspected squamous cell carcinoma”
  • “treatment” is "detailed examination by HR-CT”.
  • the information storage unit 203 associates the wavelet feature calculated by the above-described method and the extracted keyword with the past image stored in the medical image storage unit 131 of the storage device 13 and the visual word storage unit 133 of the storage device 13.
  • the visual word storage unit 133 of the storage device 13 Remember as a visual word.
  • the image acquisition unit 204 acquires a newly captured image. At the same time, it is preferable to obtain corresponding interpretation information. This is because the images to be searched for similar images can be narrowed down.
  • the wavelet feature calculation unit 205 calculates the wavelet feature of the acquired image and stores it in the visual word storage unit 133 as a visual word in the same manner as described above.
  • the interpretation information search unit 206 extracts keywords included in the interpretation information of the acquired image, and searches for similar interpretation information from the keywords stored in the interpretation information storage unit 132 of the storage device 13 based on the extracted keywords. To do. Thereby, it is possible to effectively narrow down images to be searched for similar images.
  • the frequency distribution vector calculation unit 209 generates a histogram indicating the frequency distribution of the converted 24-dimensional bit string values. Histograms are similarly generated not only for newly acquired images but also for all images stored in the medical image storage unit 131 or images corresponding to interpretation information retrieved by the interpretation information retrieval unit 206. To do.
  • FIG. 8 is an exemplary diagram of a histogram according to the embodiment of the present invention.
  • the horizontal axis takes the value of 2 24, obtains the frequency distribution of the respective values. Then, by using the frequency distribution for each image as the frequency distribution vector, it is possible to effectively narrow down images to be searched for similar images.
  • Information about the generated histogram is stored in the frequency distribution information storage unit 134 of the storage device 13.
  • the spatial distance calculation unit 207 calculates the spatial distance between the newly acquired image and the image stored in the medical image storage unit 131 as an angle formed between the calculated frequency distribution vectors. Specifically, when the frequency distribution vector of the newly acquired image is V1 and the frequency distribution vector of the image stored in the medical image storage unit 131 is V2, the angle ⁇ formed by the two vectors according to (Expression 7) Is calculated as cos ⁇ .
  • ⁇ V1, V2> represents the inner product of the vector V1 and the vector V2, and the denominator represents the product of the norm (length) of the vector V1 and the norm of the vector V2.
  • the result output unit (output unit) 208 outputs images whose calculated spatial distances are shorter than a predetermined value as search results in the order of shorter spatial distances.
  • the shorter the spatial distance the higher the degree of similarity to the newly acquired image, and it is possible to select an appropriate medical practice by referring to similar past images. Is possible.
  • FIG. 9 is an exemplary view of a search result display screen of the medical image search apparatus 1 according to the embodiment of the present invention.
  • a past image determined to be most similar to the acquired image is displayed, and wavelet features larger than a predetermined value among the wavelet features are displayed as a feature vector superimposed on the image. is doing.
  • the length of the arrow indicates the size of the feature amount, and the direction indicates the direction with the largest feature amount among the eight directions.
  • the scale may be distinguished by the color, line type, or the like.
  • FIG. 10 is a flowchart showing a processing procedure of the CPU 11 of the medical image search apparatus 1 according to the embodiment of the present invention.
  • the CPU 11 of the medical image search apparatus 1 calculates wavelet features of a plurality of images that have been captured and stored in the past (step S1001).
  • a Gabor wavelet feature is calculated as the wavelet feature.
  • the CPU 11 extracts a keyword included in the interpretation information for each image of the stored past image (step S1002), and extracts the wavelet feature and extraction calculated by the method described above in association with the stored past image.
  • the keyword is included in the interpretation information for each image of the stored past image.
  • the CPU 11 acquires a newly captured image in association with interpretation information (step S1003), calculates the wavelet feature of the acquired image using the method described above (step S1004), and stores the visual word as a visual word. Stored in the unit 133.
  • the CPU 11 extracts keywords included in the interpretation information corresponding to the acquired image (step S1005), and searches for similar interpretation information from the stored keywords based on the extracted keywords (step S1006). Thereby, it is possible to effectively narrow down images to be searched for similar images.
  • the CPU11 calculates the spatial distance based on the wavelet feature between the acquired images for each of the plurality of images corresponding to the searched interpretation information (step S1007).
  • the CPU 11 selects one image from a plurality of images corresponding to the searched interpretation information (step S1008), and determines whether or not the spatial distance calculated for the selected image is shorter than a predetermined value (step S1009).
  • step S1009 the CPU 11 determines that the image is shorter than the predetermined value (step S1009: YES)
  • the CPU 11 determines that the images are similar, and outputs the search results in the order of short spatial distance (step S1010). For example, an image is displayed and output on the display device 23.
  • step S1009 NO
  • the CPU 11 determines that the values are not similar and skips step S1010.
  • the CPU 11 determines whether or not all images have been selected (step S1011), and if the CPU 11 determines that there is an image that has not yet been selected (step S1011: NO), the CPU 11 selects the next image. (Step S1012), the process returns to Step S1009, and the above-described process is repeated. If the CPU 11 determines that all images have been selected (step S1011: YES), the CPU 11 ends the process.
  • a similar image can be searched from images stored as past cases based on the wavelet feature indicating the characteristics of the acquired medical image. Even a shallow doctor can search for an image corresponding to the most similar case and can select an appropriate medical practice.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Library & Information Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Optics & Photonics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

新たにＸ線撮像した画像を用いて、類似症例に該当する既存画像を高い精度で検索することができる、医用画像を検索する方法、装置及びコンピュータプログラムを提供する。 過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する。過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出し、記憶してある画像ごとの読影情報に含まれるキーワードを抽出する。新たに撮像した画像を取得し、取得した画像のウェーブレット特徴を算出し、取得した画像に対応する読影情報に含まれるキーワードを抽出する。抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索し、検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する。算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力する。

Description

医用画像を検索する方法、装置及びコンピュータプログラム
　本発明は、記憶してある複数の画像の中から、取得した画像との類似度が高い画像を検索することができる医用画像を検索する方法、装置及びコンピュータプログラムに関する。
　医療行為において、Ｘ線撮像により取得した画像に基づいて患者の体内の状態を把握することが重要である。患者をＸ線撮像した画像と、過去に撮像されたＸ線画像とを比較することにより、患者の症状の原因を特定し、適切な医療行為を選択することにより、患者の症状の早期改善を図ることができる。
　類似する技術として、例えば特許文献１では、心臓磁気信号を計測し、計測した心臓磁気信号と過去に計測された心臓磁気信号との比較を行い、心疾患であるか否かの推定、及び心疾患の候補を推定する心臓磁気計測装置が開示されている。また、画像を比較して検索する例として、例えば特許文献２では、過去の読影レポートデータ内の診断画像と、新規診断画像との類似度を算出し、併せて過去の読影レポートデータ内の診断結果名の出現率を考慮して、過去の診断画像及び対応する読影レポートデータを検索する検索システムが開示されている。
特開２００５－２３７７８１号公報 特開２００８－０７７１６３号公報
　しかし、特許文献１では、心臓磁気信号という間接的な情報に基づく判断となり、他の疾患により類似信号が発生した場合と区別することができない。また、特許文献２では、画像間の類似度を両画像の特徴部分のユークリッド距離で算出しているが、撮像した画像のどの部分が特徴部分であるかを判断する必要があり、医師の読影技術の優劣により判断に差異が生じるおそれがあるという問題点があった。
　本発明は斯かる事情に鑑みてなされたものであり、新たにＸ線撮像した画像を用いて、類似症例に該当する既存画像を高い精度で検索することができる、医用画像を検索する方法、装置及びコンピュータプログラムを提供することを目的とする。
　上記目的を達成するために第１発明に係る方法は、過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する装置で実行することが可能な方法であって、過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出するステップと、記憶してある画像ごとの読影情報に含まれるキーワードを抽出するステップと、記憶してある画像に対応付けて、算出したウェーブレット特徴及び抽出したキーワードを記憶するステップと、新たに撮像した画像を取得するステップと、取得した画像のウェーブレット特徴を算出するステップと、取得した画像に対応する読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索するステップと、検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出するステップと、算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力するステップとを含む。
　また、第２発明に係る方法は、第１発明において、前記ウェーブレット特徴として、２次元のガボールウェーブレット特徴を算出する。
　また、第３発明に係る方法は、第１又は第２発明において、画像ごとにＭ（Ｍは２以上の自然数）個の前記ウェーブレット特徴を算出し、それぞれ二値化することによりＭ次元のビット列に換算し、すべての画像について度数分布ベクトルを算出するステップを含み、算出した度数分布ベクトル間のなす角度として前記空間距離を算出する。
　次に、上記目的を達成するために第４発明に係る装置は、過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する装置であって、過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出する特徴算出手段と、記憶してある画像ごとの読影情報に含まれるキーワードを抽出するキーワード抽出手段と、記憶してある画像に対応付けて、算出したウェーブレット特徴及び抽出したキーワードを記憶する情報記憶手段と、新たに撮像した画像を取得する画像取得手段と、取得した画像のウェーブレット特徴を算出するウェーブレット特徴算出手段と、取得した画像に対応する読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索する読影情報検索手段と、検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する空間距離算出手段と、算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力する出力手段とを備える。
　また、第５発明に係る装置は、第４発明において、前記特徴算出手段及び前記ウェーブレット特徴算出手段は、前記ウェーブレット特徴として、２次元のガボールウェーブレット特徴を算出する。
　また、第６発明に係る装置は、第４又は第５発明において、画像ごとにＭ（Ｍは２以上の自然数）個の前記ウェーブレット特徴を算出し、それぞれ二値化することによりＭ次元のビット列に換算し、すべての画像について度数分布ベクトルを算出する度数分布ベクトル算出手段を備え、前記空間距離算出手段は、算出した度数分布ベクトル間のなす角度として前記空間距離を算出する。
　次に、上記目的を達成するために第７発明に係るコンピュータプログラムは、過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する装置で実行することが可能なコンピュータプログラムであって、前記装置を、過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出する特徴算出手段、記憶してある画像ごとの読影情報に含まれるキーワードを抽出するキーワード抽出手段、記憶してある画像に対応付けて、算出したウェーブレット特徴及び抽出したキーワードを記憶する情報記憶手段、新たに撮像した画像を取得する画像取得手段、取得した画像のウェーブレット特徴を算出するウェーブレット特徴算出手段、取得した画像に対応する読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索する読影情報検索手段、検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する空間距離算出手段、及び算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力する出力手段として機能させる。
　また、第８発明に係るコンピュータプログラムは、第７発明において、前記特徴算出手段及び前記ウェーブレット特徴算出手段を、前記ウェーブレット特徴として、２次元のガボールウェーブレット特徴を算出する手段として機能させる。
　また、第９発明に係るコンピュータプログラムは、第７又は第８発明において、前記装置を、画像ごとにＭ（Ｍは２以上の自然数）個の前記ウェーブレット特徴を算出し、それぞれ二値化することによりＭ次元のビット列に換算し、すべての画像について度数分布ベクトルを算出する度数分布ベクトル算出手段として機能させ、前記空間距離算出手段を、算出した度数分布ベクトル間のなす角度として前記空間距離を算出する手段として機能させる。
　本発明によれば、取得した医用画像の特徴を示すウェーブレット特徴に基づいて、過去の症例として記憶されている画像の中から類似する画像を検索することができるので、経験の浅い医師であっても、最も類似する症例に対応する画像を検索することができ、適切な医療行為を選択することが可能となる。
本発明の実施の形態に係る医用画像検索装置の構成を模式的に示すブロック図である。 本発明の実施の形態に係る医用画像検索装置の機能ブロック図である。 本発明の実施の形態に係る医用画像検索装置の画像内の座標設定の説明図である。 二次元のガボールウェーブレット関数の例示図である。 本発明の実施の形態に係る医用画像検索装置の二次元のガボールウェーブレット関数の方向を示す模式図である。 本発明の実施の形態に係る医用画像検索装置のビジュアルワード記憶部に記憶されるビジュアルワードのデータ構造の例示図である。 本発明の実施の形態に係る医用画像検索装置のキーワード抽出の例示図である。 本発明の実施の形態に係るヒストグラムの例示図である。 本発明の実施の形態に係る医用画像検索装置の検索結果表示画面の例示図である。 本発明の実施の形態に係る医用画像検索装置のＣＰＵの処理手順を示すフローチャートである。
　以下、本発明の実施の形態に係る、過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する医用画像検索装置について、図面に基づいて具体的に説明する。以下の実施の形態は、特許請求の範囲に記載された発明を限定するものではなく、実施の形態の中で説明されている特徴的事項の組み合わせの全てが解決手段の必須事項であるとは限らないことは言うまでもない。
　また、本発明は多くの異なる態様にて実施することが可能であり、実施の形態の記載内容に限定して解釈されるべきものではない。実施の形態を通じて同じ要素には同一の符号を付している。
　以下の実施の形態では、コンピュータシステムにコンピュータプログラムを導入した装置について説明するが、当業者であれば明らかな通り、本発明はその一部をコンピュータで実行することが可能なコンピュータプログラムとして実施することができる。したがって、本発明は、過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する医用画像検索装置というハードウェアとしての実施の形態、ソフトウェアとしての実施の形態、又はソフトウェアとハードウェアとの組み合わせの実施の形態をとることができる。コンピュータプログラムは、ハードディスク、ＤＶＤ、ＣＤ、光記憶装置、磁気記憶装置等の任意のコンピュータで読み取ることが可能な記録媒体に記録することができる。
　本発明の実施の形態によれば、取得した医用画像の特徴を示すウェーブレット特徴に基づいて、過去の症例として記憶されている画像の中から類似する画像を検索することができるので、経験の浅い医師であっても、最も類似する症例に対応する画像を検索することができ、適切な医療行為を選択することが可能となる。
　図１は、本発明の実施の形態に係る医用画像検索装置の構成を模式的に示すブロック図である。本発明の実施の形態に係る医用画像検索装置１は、少なくともＣＰＵ（中央演算装置）１１、メモリ１２、記憶装置１３、Ｉ／Ｏインタフェース１４、ビデオインタフェース１５、可搬型ディスクドライブ１６、通信インタフェース１７及び上述したハードウェアを接続する内部バス１８で構成されている。
　ＣＰＵ１１は、内部バス１８を介して医用画像検索装置１の上述したようなハードウェア各部と接続されており、上述したハードウェア各部の動作を制御するとともに、記憶装置１３に記憶されたコンピュータプログラム１００に従って、種々のソフトウェア的機能を実行する。メモリ１２は、ＳＲＡＭ、ＳＤＲＡＭ等の揮発性メモリで構成され、コンピュータプログラム１００の実行時にロードモジュールが展開され、コンピュータプログラム１００の実行時に発生する一時的なデータ等を記憶する。
　記憶装置１３は、内蔵される固定型記憶装置（ハードディスク）、ＲＯＭ等で構成されている。記憶装置１３に記憶されたコンピュータプログラム１００は、プログラム及びデータ等の情報を記録したＤＶＤ、ＣＤ－ＲＯＭ等の可搬型記録媒体９０から、可搬型ディスクドライブ１６によりダウンロードされ、実行時には記憶装置１３からメモリ１２へ展開して実行される。もちろん、通信インタフェース１７を介して接続されている外部コンピュータからダウンロードされたコンピュータプログラムであっても良い。
　記憶装置１３は、医用画像記憶部１３１、読影情報記憶部１３２、ビジュアルワード記憶部１３３、及び度数分布情報記憶部１３４を備える。医用画像記憶部１３１は、Ｘ線撮像した過去の画像データを、読影情報を識別する識別情報に対応付けて記憶してある。
　読影情報記憶部１３２は、過去の医用画像に対して、医師が読影して診断した結果を記憶してある。例えば「左肺野上葉に結節影が認められる。扁平上皮癌の疑い。ＨＲ－ＣＴにて精密検査を指示」等の医師の診断結果をテキストデータとして、識別情報に対応付けて記憶する。
　ビジュアルワード記憶部１３３は、後述するガボールウェーブレット特徴群をビジュアルワードとして記憶する。度数分布情報記憶部１３４は、算出したウェーブレット特徴を二値化してＭ次元のビット列に換算した値の度数分布ベクトルを記憶する。
　通信インタフェース１７は内部バス１８に接続されており、インターネット、ＬＡＮ、ＷＡＮ等の外部のネットワークに接続されることにより、外部コンピュータ等とデータ送受信を行うことが可能となっている。
　Ｉ／Ｏインタフェース１４は、キーボード２１、マウス２２等の入力装置と接続され、データの入力を受け付ける。ビデオインタフェース１５は、ＣＲＴディスプレイ、液晶ディスプレイ等の表示装置２３と接続され、表示装置２３に検出結果を表示する。
　図２は、本発明の実施の形態に係る医用画像検索装置１の機能ブロック図である。図２において、医用画像検索装置１の特徴算出部２０１は、過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出する。本実施の形態では、ウェーブレット特徴としてガボールウェーブレット特徴を算出する。
　図３は、本発明の実施の形態に係る医用画像検索装置１の画像内の座標設定の説明図である。図３に示すように、画像の左上を原点として、ｘ方向にｍ画素、ｙ方向にｎ画素で構成されている画像をｓ（ｘ，ｙ）と定義している。任意のｉ（ｉは自然数）番目の画素Ｐi の座標をＰi （ｘi ，ｙi ）と表す。
　まず座標Ｐi （ｘi ，ｙi ）を座標（Ｘi ，Ｙi ）へ（式１）に従ってアフィン変換する。
Figure JPOXMLDOC01-appb-M000001
　（式１）において、行列Ａは３×３のアフィン変換行列である。画像全体をｘ方向へｔｘ、ｙ方向へｔｙ移動するアフィン変換は（式２）で、画像全体を回転角θで回転させるアフィン変換は（式３）で、それぞれ表すことができる。
Figure JPOXMLDOC01-appb-M000002
Figure JPOXMLDOC01-appb-M000003
　二次元のガボールウェーブレット関数は、回転するアフィン変換後の座標値（ｘドット，ｙドット）に対して（式４）に示すように定義される。
Figure JPOXMLDOC01-appb-M000004
　二次元のガボールウェーブレット関数は、実部と虚部とで構成される。図４は、二次元のガボールウェーブレット関数の例示図である。図４（ａ）は、二次元のガボールウェーブレット関数の実部の例示図を、図４（ｂ）は、二次元のガボールウェーブレット関数の虚部の例示図を、それぞれ示している。図４からわかるように、二次元のガボールウェーブレット関数の実部は、（ｘ，ｙ）＝（０，０）近傍で極大値を有する帽子状に波打ったような形状を有している。（式４）のｕ0 は斯かる波形状の周波数を示しており、σは帽子状の幅の広さを示している。また、ｒは後述する方向を示している。
　（式４）に示す窓関数ｇσは二次元ガウス関数であり、（式５）で表すことができる。　　　
Figure JPOXMLDOC01-appb-M000005
　二次元のガボールウェーブレット関数を用いて、取得した画像ｓ（ｘ，ｙ）に対するガボールウェーブレット特徴は、（式６）で算出することができる。ガボールウェーブレット特徴の絶対値が極大値を有する格子点及び該格子点の近傍のガボールウェーブレット特徴は、画像に対して拡大／縮小、回転等のアフィン変換を施した場合であっても不変であることから、画像の特徴量として適している。
Figure JPOXMLDOC01-appb-M000006
　（式６）において、ａj ，ａ-jはダイレーション（拡大／縮小）の度合いを示すパラメータを、ｘ0 ，ｙ0 は平行移動を示している。また、ｒは方向を示しており、本実施の形態では８方向について、それぞれガボールウェーブレット特徴を算出する。
　図５は、本発明の実施の形態に係る医用画像検索装置１の二次元のガボールウェーブレット関数の方向を示す模式図である。図５に示すように、本実施の形態では、（１）～（８）の方向、すなわち所定の方向から２２．５度ずつ回転させた８方向について、ガボールウェーブレット特徴を算出する。
　ガボールウェーブレット特徴を算出することにより、例えば人間の臓器の形状のバラツキ等を吸収したウェーブレット特徴量を算出することができるので、高い精度で類似画像を検索することができる。
　例えば、座標（ｘ,ｙ）（画像内の格子点）ごとに、（式６）を用いてガボールウェーブレット特徴を算出する場合、８方向（ｒ＝１～８）、５スケール（ｊ＝１～５）を選択し、一座標につき４０個のガボールウェーブレット特徴を算出する。ここで、スケールとは、拡大／縮小する大きさを区別する値であり、例えば１から５へ向かうほど拡大されていることを示す。算出したガボールウェーブレット特徴のうち、絶対値が所定の閾値以上であるガボールウェーブレット特徴を抽出して、その中で極大値を有するガボールウェーブレット特徴を選択する。
　ガボールウェーブレット特徴の絶対値が極大値となるということは、（式６）における積分値の絶対値が極大であることを意味しており、画像の平均輝度を変更する、画像の縮尺を変更する、画像を回転する等の操作をした場合であっても変わらない、不変の特徴量となる。
　本実施の形態では、極大値となるスケールにおける８方向のガボールウェーブレット特徴、及びその前後それぞれのスケールにおける８方向のガボールウェーブレット特徴からなる、併せて２４個（３スケール×８方向）のガボールウェーブレット特徴を、一組のビジュアルワードとしてビジュアルワード記憶部１３３に記憶する。
　図６は、本発明の実施の形態に係る医用画像検索装置１の記憶装置１３のビジュアルワード記憶部１３３に記憶されるビジュアルワードのデータ構造の例示図である。図６に示すように、識別番号１、２、３、・・・ごとに、算出した２４個のガボールウェーブレット特徴を列挙して記憶している。すなわち、最初の‘１’は識別番号、ブランクを挟んで次の‘１：’～‘２４：’の後ろに記載されている数値が、それぞれ算出した２４個のガボールウェーブレット特徴を示している。図６の例は、１つの画像内に極大値が３つ存在する場合のビジュアルワードを示している。したがって、図６では、識別番号‘１’、‘２’、‘３’の３つについてビジュアルワードが記憶されているが、極大値の数が１つであれば識別番号‘１’のみであることは言うまでもない。
　図２に戻って、キーワード抽出部２０２は、記憶装置１３の医用画像記憶部１３１に記憶してある過去の画像に対応している、記憶装置１３の読影情報記憶部１３２に記憶してある読影情報に含まれるキーワードを抽出する。例えば、記憶装置１３の読影情報記憶部１３２に「左肺野上葉に結節影が認められる。扁平上皮癌の疑い。ＨＲ－ＣＴにて精密検査を指示」が記憶されている場合、形態素解析等を用いて構文解析し、「部位」、「症状」、「病名」、「処置」等に区分してキーワードを抽出する。
　図７は、本発明の実施の形態に係る医用画像検索装置１のキーワード抽出の例示図である。図７の例では、「左肺野上葉に結節影が認められる。扁平上皮癌の疑い。ＨＲ－ＣＴにて精密検査を指示」を構文解析することにより、「部位」は「左肺野上葉」であり、「症状」は「結節影」、「病名」は「扁平上皮癌の疑い」、「処置」は「ＨＲ－ＣＴにて精密検査」とキーワードを抽出している。
　情報記憶部２０３は、記憶装置１３の医用画像記憶部１３１に記憶してある過去の画像に対応付けて、上述した方法で算出したウェーブレット特徴及び抽出したキーワードを記憶装置１３のビジュアルワード記憶部１３３にビジュアルワードとして記憶する。
　画像取得部２０４は、新たに撮像した画像を取得する。同時に、対応する読影情報も取得することが好ましい。類似画像を検索する対象となる画像を絞り込むことができるからである。
　ウェーブレット特徴算出部２０５は、上述した方法と同様にして、取得した画像のウェーブレット特徴を算出して、ビジュアルワードとしてビジュアルワード記憶部１３３に記憶する。
　読影情報検索部２０６は、取得した画像の読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶装置１３の読影情報記憶部１３２に記憶してあるキーワードから類似する読影情報を検索する。これにより、類似画像を検索する対象となる画像を効果的に絞り込むことができる。
　空間距離算出部２０７は、検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する。具体的には、画素ごとにＭ（Ｍは２以上の自然数）個のウェーブレット特徴、例えば２４個のウェーブレット特徴を算出し、それぞれ二値化することによりＭ（Ｍ＝２４）次元のビット列に換算する。
　度数分布ベクトル算出部２０９は、換算した２４次元のビット列の値の度数分布を示すヒストグラムを生成する。ヒストグラムは、新たに取得した画像だけではなく、医用画像記憶部１３１に記憶してあるすべての画像、あるいは読影情報検索部２０６で検索された読影情報に対応する画像についても、同様にヒストグラムを生成する。
　図８は、本発明の実施の形態に係るヒストグラムの例示図である。横軸に２24の値をとり、それぞれの値の度数分布を求める。そして、画像ごとの度数分布を度数分布ベクトルとして用いることで、類似する画像を検索する対象となる画像を効果的に絞り込むことができる。生成したヒストグラムに関する情報は、記憶装置１３の度数分布情報記憶部１３４に記憶する。
　空間距離算出部２０７は、算出した度数分布ベクトル間のなす角度として、新たに取得した画像と、医用画像記憶部１３１に記憶してある画像との間の空間距離を算出する。具体的には、新たに取得した画像の度数分布ベクトルをＶ１、医用画像記憶部１３１に記憶してある画像の度数分布ベクトルをＶ２とした場合、（式７）に従って２つのベクトルのなす角φに対するｃｏｓφとして算出する。
Figure JPOXMLDOC01-appb-M000007
　なお、（式７）において、＜Ｖ１，Ｖ２＞はベクトルＶ１とベクトルＶ２との内積を、分母は、ベクトルＶ１のノルム（長さ）とベクトルＶ２のノルムとの積を、それぞれ示している。
　図２に戻って、結果出力部（出力手段）２０８は、算出した空間距離が所定値より短い画像を、空間距離が短い順に検索結果として出力する。つまり、空間距離が短い画像であればあるほど、新たに取得した画像との類似度が高いと判断することができ、類似した過去の画像を参照することにより、適切な医療行為を選択することが可能となる。
　なお、検索結果として表示装置２３に表示出力された画像に、特徴ベクトルを重畳して表示出力しても良い。図９は、本発明の実施の形態に係る医用画像検索装置１の検索結果表示画面の例示図である。
　図９に示すように、取得した画像に最も類似していると判断された過去の画像が表示されるとともに、ウェーブレット特徴のうち所定値より大きいウェーブレット特徴を、特徴ベクトルとして画像に重畳して表示している。矢印の長さが特徴量の大きさを示しており、方向は８方向のうち特徴量が一番大きい方向を示している。また、色、線種等により、スケールの区別をしても良い。
　図１０は、本発明の実施の形態に係る医用画像検索装置１のＣＰＵ１１の処理手順を示すフローチャートである。図１０において、医用画像検索装置１のＣＰＵ１１は、過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出する（ステップＳ１００１）。本実施の形態では、ウェーブレット特徴としてガボールウェーブレット特徴を算出する。
　ＣＰＵ１１は、記憶してある過去の画像について、画像ごとの読影情報に含まれるキーワードを抽出し（ステップＳ１００２）、記憶してある過去の画像に対応付けて上述した方法で算出したウェーブレット特徴及び抽出したキーワードを記憶しておく。
　ＣＰＵ１１は、新たに撮像した画像を、読影情報に対応付けて取得し（ステップＳ１００３）、上述した方法を用いて、取得した画像のウェーブレット特徴を算出し（ステップＳ１００４）、ビジュアルワードとしてビジュアルワード記憶部１３３に記憶する。
　ＣＰＵ１１は、取得した画像に対応する読影情報に含まれるキーワードを抽出し（ステップＳ１００５）、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索する（ステップＳ１００６）。これにより、類似画像を検索する対象となる画像を効果的に絞り込むことができる。
　ＣＰＵ１１は、検索した読影情報に対応する複数の画像それぞれについて、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する（ステップＳ１００７）。ＣＰＵ１１は、検索した読影情報に対応する複数の画像から一の画像を選択し（ステップＳ１００８）、選択した画像について算出した空間距離が所定値より短いか否かを判断する（ステップＳ１００９）。
　ＣＰＵ１１が、所定値より短いと判断した場合（ステップＳ１００９：ＹＥＳ）、該画像は類似していると判断し、空間距離が短い順に検索結果として出力する（ステップＳ１０１０）。例えば表示装置２３に、画像を表示出力する。
　ＣＰＵ１１が、所定値以上であると判断した場合（ステップＳ１００９：ＮＯ）、該画像は類似していないと判断し、ステップＳ１０１０をスキップする。ＣＰＵ１１は、全ての画像を選択したか否かを判断し（ステップＳ１０１１）、ＣＰＵ１１が、まだ選択していない画像が存在すると判断した場合（ステップＳ１０１１：ＮＯ）、ＣＰＵ１１は、次の画像を選択して（ステップＳ１０１２）、処理をステップＳ１００９へ戻して、上述した処理を繰り返す。ＣＰＵ１１が、全ての画像を選択したと判断した場合（ステップＳ１０１１：ＹＥＳ），ＣＰＵ１１は、処理を終了する。
　以上のように本実施の形態によれば、取得した医用画像の特徴を示すウェーブレット特徴に基づいて、過去の症例として記憶されている画像の中から類似する画像を検索することができるので、経験の浅い医師であっても、最も類似する症例に対応する画像を検索することができ、適切な医療行為を選択することが可能となる。
　なお、本発明は上記実施例に限定されるものではなく、本発明の趣旨の範囲内であれば多種の変更、改良等が可能である。
　１　医用画像検索装置
　１１　ＣＰＵ
　１２　メモリ
　１３　記憶装置
　１４　Ｉ／Ｏインタフェース
　１５　ビデオインタフェース
　１６　可搬型ディスクドライブ
　１７　通信インタフェース
　１８　内部バス
　９０　可搬型記録媒体
　１００　コンピュータプログラム
　１３１　医用画像記憶部
　１３２　読影情報記憶部
　１３３　ビジュアルワード記憶部
　１３４　度数分布情報記憶部

Claims (9)

  1. 　過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する装置で実行することが可能な方法であって、
    　過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出するステップと、
    　記憶してある画像ごとの読影情報に含まれるキーワードを抽出するステップと、
    　記憶してある画像に対応付けて、算出したウェーブレット特徴及び抽出したキーワードを記憶するステップと、
    　新たに撮像した画像を取得するステップと、
    　取得した画像のウェーブレット特徴を算出するステップと、
    　取得した画像に対応する読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索するステップと、
    　検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出するステップと、
    　算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力するステップと
    　を含む方法。
  2. 　前記ウェーブレット特徴として、２次元のガボールウェーブレット特徴を算出する請求項１に記載の方法。
  3. 　画像ごとにＭ（Ｍは２以上の自然数）個の前記ウェーブレット特徴を算出し、それぞれ二値化することによりＭ次元のビット列に換算し、すべての画像について度数分布ベクトルを算出するステップを含み、
    　算出した度数分布ベクトル間のなす角度として前記空間距離を算出する請求項１又は２に記載の方法。
  4. 　過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する装置であって、
    　過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出する特徴算出手段と、
    　記憶してある画像ごとの読影情報に含まれるキーワードを抽出するキーワード抽出手段と、
    　記憶してある画像に対応付けて、算出したウェーブレット特徴及び抽出したキーワードを記憶する情報記憶手段と、
    　新たに撮像した画像を取得する画像取得手段と、
    　取得した画像のウェーブレット特徴を算出するウェーブレット特徴算出手段と、
    　取得した画像に対応する読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索する読影情報検索手段と、
    　検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する空間距離算出手段と、
    　算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力する出力手段と
    　を備える装置。
  5. 　前記特徴算出手段及び前記ウェーブレット特徴算出手段は、前記ウェーブレット特徴として、２次元のガボールウェーブレット特徴を算出する請求項４に記載の装置。
  6. 　画像ごとにＭ（Ｍは２以上の自然数）個の前記ウェーブレット特徴を算出し、それぞれ二値化することによりＭ次元のビット列に換算し、すべての画像について度数分布ベクトルを算出する度数分布ベクトル算出手段を備え、
    　前記空間距離算出手段は、算出した度数分布ベクトル間のなす角度として前記空間距離を算出する請求項４又は５に記載の装置。
  7. 　過去の症例に基づく医用画像の中から、新たに撮像した画像に類似する画像を検索する、医用画像を検索する装置で実行することが可能なコンピュータプログラムであって、
    　前記装置を、
    　過去に撮像して記憶してある複数の画像のウェーブレット特徴を算出する特徴算出手段、
    　記憶してある画像ごとの読影情報に含まれるキーワードを抽出するキーワード抽出手段、
    　記憶してある画像に対応付けて、算出したウェーブレット特徴及び抽出したキーワードを記憶する情報記憶手段、
    　新たに撮像した画像を取得する画像取得手段、
    　取得した画像のウェーブレット特徴を算出するウェーブレット特徴算出手段、
    　取得した画像に対応する読影情報に含まれるキーワードを抽出し、抽出したキーワードに基づいて、記憶してあるキーワードから類似する読影情報を検索する読影情報検索手段、
    　検索した読影情報に対応する画像と、取得した画像との間のウェーブレット特徴に基づく空間距離を算出する空間距離算出手段、及び
    　算出した空間距離が所定値より短い画像を、前記空間距離が短い順に検索結果として出力する出力手段
    　として機能させるコンピュータプログラム。
  8. 　前記特徴算出手段及び前記ウェーブレット特徴算出手段を、前記ウェーブレット特徴として、２次元のガボールウェーブレット特徴を算出する手段として機能させる請求項７に記載のコンピュータプログラム。
  9. 　前記装置を、画像ごとにＭ（Ｍは２以上の自然数）個の前記ウェーブレット特徴を算出し、それぞれ二値化することによりＭ次元のビット列に換算し、すべての画像について度数分布ベクトルを算出する度数分布ベクトル算出手段として機能させ、
    　前記空間距離算出手段を、算出した度数分布ベクトル間のなす角度として前記空間距離を算出する手段として機能させる請求項７又は８に記載のコンピュータプログラム。
PCT/JP2012/074063 2011-12-13 2012-09-20 医用画像を検索する方法、装置及びコンピュータプログラム WO2013088806A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN201280061729.9A CN103988204B (zh) 2011-12-13 2012-09-20 医学图像检索方法、设备和计算机程序
GB1410417.8A GB2511686A (en) 2011-12-13 2012-09-20 Medical-image retrieval method, device, and computer program
DE112012004814.8T DE112012004814T5 (de) 2011-12-13 2012-09-20 Verfahren, Vorrichtung und Computerprogramm zum Suchen nach medizinischen Bildern
US14/365,325 US9201902B2 (en) 2011-12-13 2012-09-20 Techniques for medical image retrieval
JP2013549142A JP5902196B2 (ja) 2011-12-13 2012-09-20 医用画像を検索する方法、装置及びコンピュータプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011272174 2011-12-13
JP2011-272174 2011-12-13

Publications (1)

Publication Number Publication Date
WO2013088806A1 true WO2013088806A1 (ja) 2013-06-20

Family

ID=48612265

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/074063 WO2013088806A1 (ja) 2011-12-13 2012-09-20 医用画像を検索する方法、装置及びコンピュータプログラム

Country Status (6)

Country Link
US (1) US9201902B2 (ja)
JP (1) JP5902196B2 (ja)
CN (1) CN103988204B (ja)
DE (1) DE112012004814T5 (ja)
GB (1) GB2511686A (ja)
WO (1) WO2013088806A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018073250A (ja) * 2016-11-01 2018-05-10 ヤフー株式会社 検索装置、検索方法および検索プログラム
JPWO2021124869A1 (ja) * 2019-12-17 2021-06-24

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107405123B (zh) * 2014-11-06 2020-08-21 西门子保健有限责任公司 利用深度传感器数据的扫描数据检索
US10542961B2 (en) 2015-06-15 2020-01-28 The Research Foundation For The State University Of New York System and method for infrasonic cardiac monitoring
CN113556978A (zh) * 2018-12-11 2021-10-26 深圳市智慧健康产业发展有限公司 一种b超智能辅助采集方法及系统
CN116152189B (zh) * 2023-01-31 2023-12-19 华纺股份有限公司 一种图案织物瑕疵检测方法、系统及检测终端机

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10326286A (ja) * 1997-05-27 1998-12-08 Mitsubishi Electric Corp 類似検索装置及び類似検索プログラムを記録した記録媒体
JP2002230518A (ja) * 2000-11-29 2002-08-16 Fujitsu Ltd 診断支援プログラム、診断支援プログラムを記録したコンピュータ読取可能な記録媒体、診断支援装置及び診断支援方法
JP2004078939A (ja) * 2002-07-30 2004-03-11 Fuji Photo Film Co Ltd オブジェクト識別方法および装置ならびにプログラム
JP2006164008A (ja) * 2004-12-09 2006-06-22 Matsushita Electric Ind Co Ltd 画像検索装置および画像検索方法
JP2008077163A (ja) * 2006-09-19 2008-04-03 Fuji Xerox Co Ltd 検索システム、検索方法及び検索プログラム
JP2009082443A (ja) * 2007-09-28 2009-04-23 Canon Inc 診断支援装置及びその制御方法
JP2011040050A (ja) * 2009-07-15 2011-02-24 Nikon Corp 画像分類装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3850104B2 (ja) * 1997-05-23 2006-11-29 ユー・エム・シー・ジャパン株式会社 半導体装置の製造方法
US7099860B1 (en) * 2000-10-30 2006-08-29 Microsoft Corporation Image retrieval systems and methods with semantic and feature based relevance feedback
CN1445696A (zh) * 2002-03-18 2003-10-01 朗迅科技公司 自动检索图像数据库中相似图象的方法
EP1643370A4 (en) * 2003-07-02 2009-04-01 Satoshi Yamatake IMAGE DATABASE SYSTEM
US7734107B2 (en) * 2006-02-24 2010-06-08 Sony Corporation System and method for performing wavelet-based texture feature extraction and classification
JP4905967B2 (ja) * 2007-03-02 2012-03-28 富士フイルム株式会社 類似症例検索装置、方法、およびプログラム
JP2008253292A (ja) * 2007-03-30 2008-10-23 Fujifilm Corp 症例画像検索装置及びシステム
JP5098559B2 (ja) * 2007-10-11 2012-12-12 富士ゼロックス株式会社 類似画像検索装置、及び類似画像検索プログラム
JP5599572B2 (ja) * 2009-03-12 2014-10-01 富士フイルム株式会社 症例画像検索装置、方法およびプログラム
CN101515285B (zh) * 2009-04-03 2010-09-08 东南大学 基于图像小波特征的图像检索与过滤装置及方法
JP2011050040A (ja) 2009-07-31 2011-03-10 Renesas Electronics Corp 演算増幅器及びそれを用いた半導体装置
JP5670079B2 (ja) * 2009-09-30 2015-02-18 富士フイルム株式会社 医用画像表示装置および方法、並びにプログラム
JP5383431B2 (ja) * 2009-10-27 2014-01-08 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
CN102117329B (zh) * 2011-03-04 2012-08-15 南方医科大学 基于小波变换的胶囊内窥镜图像检索方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10326286A (ja) * 1997-05-27 1998-12-08 Mitsubishi Electric Corp 類似検索装置及び類似検索プログラムを記録した記録媒体
JP2002230518A (ja) * 2000-11-29 2002-08-16 Fujitsu Ltd 診断支援プログラム、診断支援プログラムを記録したコンピュータ読取可能な記録媒体、診断支援装置及び診断支援方法
JP2004078939A (ja) * 2002-07-30 2004-03-11 Fuji Photo Film Co Ltd オブジェクト識別方法および装置ならびにプログラム
JP2006164008A (ja) * 2004-12-09 2006-06-22 Matsushita Electric Ind Co Ltd 画像検索装置および画像検索方法
JP2008077163A (ja) * 2006-09-19 2008-04-03 Fuji Xerox Co Ltd 検索システム、検索方法及び検索プログラム
JP2009082443A (ja) * 2007-09-28 2009-04-23 Canon Inc 診断支援装置及びその制御方法
JP2011040050A (ja) * 2009-07-15 2011-02-24 Nikon Corp 画像分類装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HISAKAZU KIKUCHI: "Wavelret Transforms and Their Applications-IV", SYSTEMS, CONTROL AND INFORMATION, vol. 41, no. 12, 15 December 1997 (1997-12-15), pages 36 - 41 *
YUSUKE UEHARA ET AL.: "MIRACLES : Multimedia Information RetrievAl, Classification, and Exploration System -Application to Web Document Retrieval", IEICE TECHNICAL REPORT, vol. 100, no. 31, 2 May 2000 (2000-05-02), pages 17 - 24 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018073250A (ja) * 2016-11-01 2018-05-10 ヤフー株式会社 検索装置、検索方法および検索プログラム
JPWO2021124869A1 (ja) * 2019-12-17 2021-06-24
WO2021124869A1 (ja) * 2019-12-17 2021-06-24 富士フイルム株式会社 診断支援装置、診断支援方法、及び診断支援プログラム
JP7355849B2 (ja) 2019-12-17 2023-10-03 富士フイルム株式会社 診断支援装置、診断支援方法、及び診断支援プログラム

Also Published As

Publication number Publication date
US20140348402A1 (en) 2014-11-27
US9201902B2 (en) 2015-12-01
JPWO2013088806A1 (ja) 2015-04-27
JP5902196B2 (ja) 2016-04-13
GB2511686A (en) 2014-09-10
DE112012004814T5 (de) 2014-08-14
GB201410417D0 (en) 2014-07-23
CN103988204A (zh) 2014-08-13
CN103988204B (zh) 2017-05-17

Similar Documents

Publication Publication Date Title
US8958614B2 (en) Image-based detection using hierarchical learning
US10452899B2 (en) Unsupervised deep representation learning for fine-grained body part recognition
JP5902196B2 (ja) 医用画像を検索する方法、装置及びコンピュータプログラム
JP6587610B2 (ja) 映像医療機器により取得した画像を処理するシステムおよびそのシステムの作動方法
US9959615B2 (en) System and method for automatic pulmonary embolism detection
US8023710B2 (en) Virtual colonoscopy via wavelets
US20130108133A1 (en) Medical image processing apparatus, method and program
US20090060307A1 (en) Tensor Voting System and Method
JP2014029644A (ja) 類似症例検索装置および類似症例検索方法
US9208173B1 (en) Techniques for medical image retreival
JP2021144675A (ja) 方法及びプログラム
JPWO2019111339A1 (ja) 学習装置、検査システム、学習方法、検査方法およびプログラム
JP5764220B2 (ja) 症例ごとの代表画像及び読影情報を生成する方法、装置及びコンピュータプログラム
US20100104163A1 (en) Orientation detection for chest radiographic images
Lucassen et al. Deep learning for detection and localization of B-lines in lung ultrasound
JP5655327B2 (ja) プログラムおよび情報処理装置
US9262442B2 (en) Techniques for generating a representative image and radiographic interpretation information for a case
US10176612B2 (en) System and method for retrieval of similar findings from a hybrid image dataset
Şekeroğlu et al. A computer aided diagnosis system for lung cancer detection using support vector machine
EP4327333A1 (en) Methods and systems for automated follow-up reading of medical image data
Bergamasco et al. Using bipartite graphs for 3d cardiac model retrieval
US20240119750A1 (en) Method of generating language feature extraction model, information processing apparatus, information processing method, and program
US20210383547A1 (en) Medical image processing
JPWO2022138277A5 (ja)
TW202403779A (zh) 醫學影像之標籤生成的方法及系統

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12857765

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2013549142

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 1120120048148

Country of ref document: DE

Ref document number: 112012004814

Country of ref document: DE

ENP Entry into the national phase

Ref document number: 1410417

Country of ref document: GB

Kind code of ref document: A

Free format text: PCT FILING DATE = 20120920

WWE Wipo information: entry into national phase

Ref document number: 1410417.8

Country of ref document: GB

WWE Wipo information: entry into national phase

Ref document number: 14365325

Country of ref document: US

122 Ep: pct application non-entry in european phase

Ref document number: 12857765

Country of ref document: EP

Kind code of ref document: A1