KR102119057B1 - Method for learning fracture diagnosis model and apparatus for the same - Google Patents

Method for learning fracture diagnosis model and apparatus for the same Download PDF

Info

Publication number
KR102119057B1
KR102119057B1 KR1020190124720A KR20190124720A KR102119057B1 KR 102119057 B1 KR102119057 B1 KR 102119057B1 KR 1020190124720 A KR1020190124720 A KR 1020190124720A KR 20190124720 A KR20190124720 A KR 20190124720A KR 102119057 B1 KR102119057 B1 KR 102119057B1
Authority
KR
South Korea
Prior art keywords
fracture
learning
learning model
unit
model
Prior art date
Application number
KR1020190124720A
Other languages
Korean (ko)
Inventor
김원태
강신욱
이명재
김동민
남동연
Original Assignee
(주)제이엘케이
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)제이엘케이 filed Critical (주)제이엘케이
Priority to KR1020190124720A priority Critical patent/KR102119057B1/en
Application granted granted Critical
Publication of KR102119057B1 publication Critical patent/KR102119057B1/en
Priority to PCT/KR2020/013741 priority patent/WO2021071288A1/en

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/50Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
    • A61B6/505Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of bone
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S128/00Surgery
    • Y10S128/92Computer assisted medical diagnostics
    • Y10S128/922Computer assisted medical diagnostics including image analysis

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Epidemiology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Veterinary Medicine (AREA)
  • Software Systems (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Primary Health Care (AREA)
  • Data Mining & Analysis (AREA)
  • Dentistry (AREA)
  • Databases & Information Systems (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Physiology (AREA)
  • Image Analysis (AREA)

Abstract

According to the present invention, a method for learning a fracture diagnosis model can be provided. The method for learning a fracture diagnosis model is to learn a learning model for diagnosing fractures by using a medical image. The method comprises the steps of: learning a general fracture learning model based on a fracture medical image obtained by photographing a fractured region in a body region, wherein a general fracture learning model is learned using the fracture medical image corresponding to various body regions; fixing the weight of an artificial neural network provided in the general fracture learning model, and constructing a part-unit fracture learning model of a structure in which a value output from the general fracture learning model is input into a characteristic learning model; and inputting a part-unit fracture medical image corresponding to a specific part of the body region into the general fracture learning model, and setting a corresponding fracture diagnosis result as a target variable of the characteristic learning model to perform learning on the part-unit fracture learning model. Therefore, high-performance learning models can be established using a small amount of labeling data.

Description

골절 진단모델의 학습 방법 및 장치{METHOD FOR LEARNING FRACTURE DIAGNOSIS MODEL AND APPARATUS FOR THE SAME}METHOD FOR LEARNING FRACTURE DIAGNOSIS MODEL AND APPARATUS FOR THE SAME}

본 개시는 딥러닝 모델 학습 기술에 관한 것이며, 보다 구체적으로는 의료영상을 사용하여 골절에 대한 학습을 수행하는 방법과 장치에 대한 것이다.The present disclosure relates to a deep learning model learning technique, and more particularly, to a method and apparatus for performing learning on fracture using medical images.

딥러닝(deep learning)은 매우 방대한 양의 데이터를 학습하여, 새로운 데이터가 입력될 경우 학습 결과를 바탕으로 확률적으로 가장 높은 답을 선택하는 것이다. 이러한, 딥러닝은 영상에 따라 적응적으로 동작할 수 있으며, 데이터에 기초하여 모델을 학습하는 과정에서 특성인자를 자동으로 찾아내기 때문에 최근 인공 지능 분야에서 이를 활용하려는 시도가 늘어나고 있는 추세이다.Deep learning is to learn a very large amount of data and, when new data is input, select the answer with the highest probability based on the learning result. Since deep learning can operate adaptively according to an image and automatically finds characteristic factors in the process of learning a model based on data, recent attempts to utilize it in the field of artificial intelligence are increasing.

그러나, 학습된 모델이 정확한 정확한 결과를 도출하기 위해서는, 대용량의 데이터 학습이 요구된다. However, in order for the trained model to derive accurate and accurate results, a large amount of data learning is required.

특히, 인공지능 기술을 의료분야에 적용하기 위해서는, 전문가에 의해 확인된 대량의 데이터(즉, 라벨링 데이터)가 필수적으로 요구되나, 시간 및 비용적인 문제로 인하여 전문가에 의해 확인된 대량의 데이터를 구축하기가 용이하지 않은 문제가 있다. In particular, in order to apply artificial intelligence technology to the medical field, a large amount of data (ie, labeling data) verified by experts is required, but due to time and cost problems, large amounts of data verified by experts are built. There is a problem that is not easy to do.

또한, 신체 영역 중, 골절 또는 병변이 자주 발생되지 않는 부위는, 해당 부위를 촬영한 의료영상이 부족하여, 의료영상을 사용하여 학습모델을 구축하기 ㅓ열운 문제가 있다.In addition, in the region of the body region, where fractures or lesions are not frequently generated, there is a shortage of constructing a learning model using medical images due to a lack of medical images taken of the corresponding regions.

본 개시의 기술적 과제는 소수의 라벨링 데이터를 사용하여 고성능의 학습모델을 구축할 수 있는 학습 방법 및 장치를 제공하는 것이다.The technical problem of the present disclosure is to provide a learning method and apparatus capable of constructing a high-performance learning model using a small number of labeling data.

본 개시에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved in the present disclosure are not limited to the technical problems mentioned above, and other technical problems that are not mentioned will be clearly understood by those skilled in the art from the description below. Will be able to.

본 개시의 일 양상에 따르면, 골절 진단모델 학습방법이 제공될 수 있다. 상기 방법은, 의료영상을 사용하여 골절을 진단하는 학습모델을 학습하는 방법에 있어서, 신체 영역에서 골절이 발생된 영역을 촬영한 골절 의료영상을 기반으로 하되, 다양한 신체 영역에 대응되는 상기 골절 의료영상을 사용하여 일반골절 학습모델을 학습하는 과정과, 상기 일반골절 학습모델에 구비되는 인공신경망의 가중치를 고정하고, 상기 일반골절 학습모델에서 출력되는 값이 특징 학습모델에 입력되는 구조의 부위단위 골절 학습모델을 구성하는 과정과, 상기 신체 영역 중 특정된 부위에 대응되는 부위단위 골절 의료영상을 상기 일반골절 학습모델에 입력하고, 이에 대응되는 골절 진단 결과를 상기 특징 학습모델의 목적변수로 설정하여 상기 부위단위 골절 학습모델에 대한 학습을 수행하는 과정을 포함할 수 있다. According to an aspect of the present disclosure, a method for learning a fracture diagnostic model may be provided. The method is a method for learning a learning model for diagnosing a fracture using medical images, based on a fracture medical image photographing a region where a fracture occurs in a body region, but the fracture medical treatment corresponding to various body regions The process of learning a general fracture learning model using an image, fixing the weight of the artificial neural network provided in the general fracture learning model, and the value output from the general fracture learning model is a unit unit of the structure input to the feature learning model. A process of constructing a fracture learning model and a medical image of a unit-level fracture corresponding to a specific region in the body region are input to the general fracture learning model, and the corresponding fracture diagnosis result is set as a target variable of the feature learning model By doing so, it may include a process of performing the learning on the learning unit fracture model.

본 개시의 다른 양상에 따르면, 골절 진단모델 학습장치다 제공될 수 있다. 상기 장치는 의료영상을 사용하여 골절을 진단하는 학습모델을 학습하는 장치에 있어서, 신체 영역에서 골절이 발생된 영역을 촬영한 골절 의료영상을 기반으로 하되, 다양한 신체 영역에 대응되는 상기 골절 의료영상을 사용하여 일반골절 학습모델을 학습하는 일반골절 학습부와, 상기 일반골절 학습부로부터 일반골절 학습모델을 제공받고, 상기 일반골절 학습모델에 구비되는 인공신경망의 가중치를 고정하고, 상기 일반골절 학습모델에서 출력되는 값이 특징 학습모델에 입력되는 구조의 부위단위 골절 학습모델을 구성하는 부위단위 골절 학습모델 관리부와, 상기 인공신경망의 가중치가 고정된 상기 일반골절 학습모델과 상기 특징 학습모델을 구비하는 부위단위 골절 학습모델에, 상기 신체 영역 중 특정된 부위에 대응되는 부위단위 골절 의료영상을 입력하고, 이에 대응되는 골절 진단 결과를 상기 특징 학습모델의 목적변수로 설정하여 상기 부위단위 골절 학습모델에 대한 학습을 수행하는 부위단위 골절 학습부를 포함할 수 있다. According to another aspect of the present disclosure, a fracture diagnosis model learning apparatus may be provided. The device is a device for learning a learning model for diagnosing fractures by using medical images. The device is based on a fracture medical image photographing an area where a fracture occurs in a body region, but the fracture medical image corresponding to various body regions Using a general fracture learning unit for learning a general fracture learning model using, and a general fracture learning model from the general fracture learning unit, fixing the weight of the artificial neural network provided in the general fracture learning model, and learning the general fracture It is equipped with a site-level fracture learning model management unit constituting a site-level fracture learning model having a structure in which values output from a model are input to a feature learning model, and the general fracture learning model and the feature learning model with fixed weights of the artificial neural network In the part-unit fracture learning model, a part-unit fracture medical image corresponding to a specific part of the body region is input, and a corresponding fracture diagnosis result is set as an objective variable of the feature learning model, and thus the part-unit fracture learning model It may include a unit-based fracture learning unit for performing learning.

본 개시에 대하여 위에서 간략하게 요약된 특징들은 후술하는 본 개시의 상세한 설명의 예시적인 양상일 뿐이며, 본 개시의 범위를 제한하는 것은 아니다.The features briefly summarized above with respect to the present disclosure are merely illustrative aspects of the detailed description of the present disclosure described below, and do not limit the scope of the present disclosure.

본 개시에 따르면, 소수의 라벨링 데이터를 사용하여 고성능의 학습모델을 구축할 수 있는 병변 학습 방법 및 장치가 제공될 수 있다. According to the present disclosure, a method and apparatus for learning a lesion capable of constructing a high-performance learning model using a small number of labeling data may be provided.

본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present disclosure are not limited to the above-mentioned effects, and other effects not mentioned may be clearly understood by those skilled in the art from the following description. will be.

도 1은 본 개시의 일 실시예에 따른 골절 진단모델 학습장치의 구성을 나타내는 블록도이다.
도 2a는 본 개시의 일 실시예에 따른 일반골절 학습모델의 학습에 사용되는 데이터 셋의 구성을 예시하는 도면이다.
도 2b 내지 도 2e는 도 2a의 학습 데이터 셋의로 사용되는 의료영상을 예시하는 도면이다.
도 3a는 본 개시의 일 실시예에 따른 부위단위 골절 학습모델의 학습에 사용되는 데이터 셋의 구성을 예시하는 도면이다.
도 3b 내지 도 3e는 도 3a의 학습 데이터 셋의로 사용되는 의료영상을 예시한다.
도 4는 본 개시의 일 실시예에 따른 골절 진단모델 학습장치에 의해 구성되는 부위단위 골절 학습모델의 구조를 예시하는 도면이다.
도 5는 본 개시의 일 실시예에 따른 골절 진단모델 학습방법의 순서를 나타내는 흐름도이다.
도 6은 본 개시의 일 실시예에 따른 골절 진단모델 학습장치 및 방법을 실행하는 컴퓨팅 시스템을 예시하는 블록도이다.
1 is a block diagram showing the configuration of a fracture diagnosis model learning apparatus according to an embodiment of the present disclosure.
2A is a diagram illustrating a configuration of a data set used for learning a general fracture learning model according to an embodiment of the present disclosure.
2B to 2E are diagrams illustrating a medical image used as a set of learning data in FIG. 2A.
FIG. 3A is a diagram illustrating a configuration of a data set used for learning a part-unit fracture learning model according to an embodiment of the present disclosure.
3B to 3E illustrate a medical image used as a set of learning data in FIG. 3A.
FIG. 4 is a diagram illustrating a structure of a bone fracture learning model constructed by a fracture diagnosis model learning apparatus according to an embodiment of the present disclosure.
5 is a flowchart illustrating a sequence of a method for learning a fracture diagnosis model according to an embodiment of the present disclosure.
6 is a block diagram illustrating a computing system for executing a fracture diagnosis model learning apparatus and method according to an embodiment of the present disclosure.

이하에서는 첨부한 도면을 참고로 하여 본 개시의 실시예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나, 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. Hereinafter, exemplary embodiments of the present disclosure will be described in detail with reference to the accompanying drawings so that those skilled in the art to which the present disclosure pertains can easily carry out the embodiments. However, the present disclosure can be implemented in many different forms and is not limited to the embodiments described herein.

본 개시의 실시예를 설명함에 있어서 공지 구성 또는 기능에 대한 구체적인 설명이 본 개시의 요지를 흐릴 수 있다고 판단되는 경우에는 그에 대한 상세한 설명은 생략한다. 그리고, 도면에서 본 개시에 대한 설명과 관계없는 부분은 생략하였으며, 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.In describing the embodiments of the present disclosure, when it is determined that a detailed description of known configurations or functions may obscure the subject matter of the present disclosure, detailed description thereof will be omitted. In the drawings, parts irrelevant to the description of the present disclosure are omitted, and similar reference numerals are used for similar parts.

본 개시에 있어서, 어떤 구성요소가 다른 구성요소와 "연결", "결합" 또는 "접속"되어 있다고 할 때, 이는 직접적인 연결관계뿐만 아니라, 그 중간에 또 다른 구성요소가 존재하는 간접적인 연결관계도 포함할 수 있다. 또한 어떤 구성요소가 다른 구성요소를 "포함한다" 또는 "가진다"고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 배제하는 것이 아니라 또 다른 구성요소를 더 포함할 수 있는 것을 의미한다.In the present disclosure, when a component is said to be "connected", "coupled" or "connected" with another component, this is not only a direct connection relationship, but also an indirect connection relationship in which another component exists in the middle. It may also include. Also, when a component is said to "include" or "have" another component, this means that other components may be further included instead of excluding other components unless specifically stated to the contrary. .

본 개시에 있어서, 제1, 제2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용되며, 특별히 언급되지 않는 한 구성요소들간의 순서 또는 중요도 등을 한정하지 않는다. 따라서, 본 개시의 범위 내에서 일 실시예에서의 제1 구성요소는 다른 실시예에서 제2 구성요소라고 칭할 수도 있고, 마찬가지로 일 실시예에서의 제2 구성요소를 다른 실시예에서 제1 구성요소라고 칭할 수도 있다. In the present disclosure, terms such as first and second are used only for the purpose of distinguishing one component from other components, and do not limit the order, importance, or the like between components unless otherwise specified. Accordingly, within the scope of the present disclosure, the first component in one embodiment may be referred to as a second component in another embodiment, and likewise the second component in one embodiment may be the first component in another embodiment It can also be called.

본 개시에 있어서, 서로 구별되는 구성요소들은 각각의 특징을 명확하게 설명하기 위함이며, 구성요소들이 반드시 분리되는 것을 의미하지는 않는다. 즉, 복수의 구성요소가 통합되어 하나의 하드웨어 또는 소프트웨어 단위로 이루어질 수도 있고, 하나의 구성요소가 분산되어 복수의 하드웨어 또는 소프트웨어 단위로 이루어질 수도 있다. 따라서, 별도로 언급하지 않더라도 이와 같이 통합된 또는 분산된 실시예도 본 개시의 범위에 포함된다. In the present disclosure, components that are distinguished from each other are for clarity of each feature, and do not mean components are separated. That is, a plurality of components may be integrated to be composed of one hardware or software unit, or one component may be distributed to be composed of a plurality of hardware or software units. Accordingly, such integrated or distributed embodiments are included within the scope of the present disclosure, unless otherwise stated.

본 개시에 있어서, 다양한 실시예에서 설명하는 구성요소들이 반드시 필수적인 구성요소들은 의미하는 것은 아니며, 일부는 선택적인 구성요소일 수 있다. 따라서, 일 실시예에서 설명하는 구성요소들의 부분집합으로 구성되는 실시예도 본 개시의 범위에 포함된다. 또한, 다양한 실시예에서 설명하는 구성요소들에 추가적으로 다른 구성요소를 포함하는 실시예도 본 개시의 범위에 포함된다. In the present disclosure, components described in various embodiments are not necessarily essential components, and some may be optional components. Accordingly, an embodiment consisting of a subset of components described in one embodiment is also included in the scope of the present disclosure. Also, embodiments including other elements in addition to the elements described in various embodiments are included in the scope of the present disclosure.

이하, 첨부한 도면을 참조하여 본 개시의 실시예들에 대해서 설명한다.Hereinafter, embodiments of the present disclosure will be described with reference to the accompanying drawings.

도 1은 본 개시의 일 실시예에 따른 골절 진단모델 학습장치의 구성을 나타내는 블록도이다.1 is a block diagram showing the configuration of a fracture diagnosis model learning apparatus according to an embodiment of the present disclosure.

도 1을 참조하면, 골절 진단모델의 학습장치(10)는 일반골절 학습부(11), 부위단위 골절 학습모델 관리부(13) 및 부위단위 골절 학습부(15)를 포함할 수 있다.Referring to FIG. 1, the learning apparatus 10 of the fracture diagnosis model may include a general fracture learning unit 11, a site-based fracture learning model management unit 13, and a site-level fracture learning unit 15.

일반골절 학습부(11)는 일반골절 학습모델(110)에 대한 학습을 처리하는 구성부로서, 합성곱 신경망(Convolutional Neural Network, CNN) 기법 또는 풀링(pooling) 기법에 기초하여, 일반골절과 관련된 학습 데이터를 사용하여 일반골절 학습모델(110)에 대한 학습을 처리한다. The general fracture learning unit 11 is a component that processes learning for the general fracture learning model 110, based on a convolutional neural network (CNN) technique or a pooling technique, related to the general fracture. The training for the general fracture learning model 110 is processed using the training data.

이때, 일반골절 학습모델(110)은 신체 영역에서 골절이 발생된 영역을 촬영한 골절 의료영상(예, x-ray 영상)을 사용하여 다양한 신체 영역에서 발생되는 골절을 진단할 수 있는 학습모델로서, 골절 의료영상에서 골절과 관련된 글로벌(Global)한 요소(feature)를 검출하도록 학습될 수 있다. 이를 위해, 일반골절 학습부(11)는 일반골절 학습모델(110)에 의료영상(예, x-ray 영상)을 입력하고, 의료영상에서 골절과 관련된 태스크를 목적변수로서 입력할 수 있는 환경을 제공할 수 있다. At this time, the general fracture learning model 110 is a learning model capable of diagnosing fractures occurring in various body regions using a fracture medical image (eg, an x-ray image) of the region where the fracture occurred in the body region. , It can be learned to detect global features related to fractures in fracture medical images. To this end, the general fracture learning unit 11 inputs a medical image (eg, an x-ray image) into the general fracture learning model 110 and sets an environment in which a task related to fracture in the medical image can be input as an objective variable. Can provide.

나아가, 골절과 관련된 태스크는 다양하게 이루어질 수 있는데, 골절의 상태를 분류하는 분류(classification) 태스크, 의료영상에서 골절이 발생된 객체를 검출하는 골절 객체 검출(object detection) 태스크, 의료영상에서 골절이 발생된 영역을 추출하는 세그멘테이션(segmentation) 태스크를 포함할 수 있다. Furthermore, the tasks related to fracture can be variously performed, including a classification task to classify the state of a fracture, a fracture object detection task to detect an object having a fracture in a medical image, and a fracture to a medical image. It may include a segmentation (segmentation) task to extract the generated area.

일반골절 학습부(11)는 태스크 별로 일반골절 학습모델(110)을 다르게 구성할 수 있는 환경을 제공할 수 있다. 예를 들어, 일반골절 학습부(11)는 태스크의 종류를 선택하는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 선택된 태스크에 맞추어 일반골절 학습모델(110)을 설정할 수 있다. 그리고, 일반골절 학습부(11)는 선택된 태스크에 맞는 목적변수를 입력할 수 있는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 입력되는 정보를 목적변수로서 설정하여 일반골절 학습모델(110)에 대한 학습을 수행할 수 있다.The general fracture learning unit 11 may provide an environment in which the general fracture learning model 110 can be configured differently for each task. For example, the general fracture learning unit 11 may provide a menu or UI for selecting a type of task, and may set the general fracture learning model 110 according to the selected task through the menu or UI. In addition, the general fracture learning unit 11 may provide a menu or a UI through which target variables suitable for the selected task can be input, and the information input through the menu or UI is set as the target variable to enable the general fracture learning model ( 110).

부위단위 골절 학습모델 관리부(13)는 인공 신경망의 기본 레이어로서 구비되는 일반골절 학습모델(110)과 인공 신경망의 확장 레이어로서 구비되는 특징 학습모델(151)을 조합하여 부위단위 골절 학습모델(150)을 구성할 수 있으며, 이때, 일반골절 학습모델(110)이 특징 학습모델(151)에 비하여 상대적으로 선행되도록 설정할 수 있다.The site-level fracture learning model management unit 13 combines the general fracture learning model 110 provided as a basic layer of the artificial neural network and the feature learning model 151 provided as an extension layer of the artificial neural network, thereby increasing the site-level fracture learning model 150 ), in which case, the general fracture learning model 110 may be set to precede the feature learning model 151.

나아가, 부위단위 골절 학습모델 관리부(13)는 일반골절 학습모델(110)의 학습이 미리 정해진 수준에 도달하면 일반골절 학습모델(110)에 구비된 인공 신경망의 가중치를 고정하여 사용하므로, 일반골절 학습모델(110)의 학습을 더 이상 진행할 필요가 없다. 이를 고려하여, 부위단위 골절 학습모델 관리부(13)는 일반골절 학습부(11)로 일반골절 학습모델(110)의 학습을 더 이상 진행하지 않도록, 제어 명령을 제공할 수 있다.Furthermore, since the unit-level fracture learning model management unit 13 uses the weight of the artificial neural network provided in the general fracture learning model 110 when the learning of the general fracture learning model 110 reaches a predetermined level, the general fracture is used. There is no need to proceed with learning of the learning model 110 any more. In consideration of this, the site-level fracture learning model management unit 13 may provide a control command so that the learning of the general fracture learning model 110 does not proceed to the general fracture learning unit 11.

다른 예로서, 일반골절 학습부(11)는 일반골절 학습모델(110)에 대한 학습을 지속적으로 진행하며, 주기적으로 일반골절 학습모델(110)에 구비된 인공 신경망을 업데이트하여 부위단위 골절 학습모델(150)을 구성할 수도 있다. As another example, the general fracture learning unit 11 continuously learns about the general fracture learning model 110 and periodically updates the artificial neural network provided in the general fracture learning model 110 to study the unit-level fracture learning model. It is also possible to configure 150.

부위단위 골절 학습모델 관리부(13)는 전술한 바와 같이 구성된 부위단위 골절 학습모델(150)을 부위단위 골절 학습부(15)에 제공할 수 있다.The regional unit fracture learning model management unit 13 may provide the regional unit fracture learning model 150 configured as described above to the regional unit fracture learning unit 15.

부위단위 골절 학습부(15)는 부위단위 골절 학습모델 관리부(13)에서 구성된 부위단위 골절 학습모델(150)에 대한 학습을 수행할 수 있는데, 부위단위 골절 학습모델(150)은 부위단위 의료영상을 입력받고 그에 대응되는 부위단위 골절을 검출하도록 구성될 수 있다. 이를 위해, 부위단위 골절 학습부(15)는 신체 영역 중 특정된 부위(예, 늑골이 위치한 영역)를 촬영한 의료영상(이하, '부위단위 의료영상'이라함)을 입력받고, 부위단위 의료영상에서 골절과 관련된 태스크를 반영한 목적변수를 입력할 수 있는 환경을 제공할 수 있다. The unit-level fracture learning unit 15 may perform learning on the unit-unit fracture learning model 150 configured in the unit-unit fracture learning model management unit 13, and the unit-unit fracture learning model 150 is a unit-unit medical image. It can be configured to receive the input and detect the fracture of the unit corresponding to the. To this end, the unit-unit fracture learning unit 15 receives a medical image (hereinafter referred to as a “unit-unit medical image”) of a specific region of the body region (eg, a region where the ribs are located), and a unit-unit medical treatment. It is possible to provide an environment in which an objective variable reflecting a task related to a fracture can be input in an image.

전술한 바와 같이, 골절과 관련된 태스크는 다양하게 이루어질 수 있는데, 골절의 상태를 분류하는 분류(classification) 태스크, 의료영상에서 골절이 발생된 객체를 검출하는 골절 객체 검출 태스크, 의료영상에서 골절이 발생된 영역을 추출하는 세그멘테이션 태스크를 포함할 수 있다. As described above, the tasks related to the fracture may be variously performed, a classification task to classify the state of the fracture, a fracture object detection task to detect an object having a fracture in a medical image, and a fracture to occur in a medical image It may include a segmentation task to extract the area.

부위단위 골절 학습부(15)는 태스크별로 부위단위 골절 학습모델(150)을 다르게 구성할 수 있는 환경을 제공할 수 있다. 예를 들어, 부위단위 골절 학습부(15)는 태스크의 종류를 선택하는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 선택된 태스크에 맞추어 부위단위 골절 학습모델(150)을 설정할 수 있다. 그리고, 부위단위 골절 학습부(15)는 선택된 태스크에 맞는 목적변수를 입력할 수 있는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 입력되는 정보를 목적변수로서 설정하여 부위단위 골절 학습모델(150)에 대한 학습을 수행할 수 있다. 예컨대, 부위단위 골절 학습부(15)는 목적변수로서, 골절의 상태를 분류한 정보, 골절이 발생된 객체를 지정한 정보, 골절이 발생된 영역을 지정한 정보 등을 입력할 수 있다. The site-based fracture learning unit 15 may provide an environment in which the site-based fracture learning model 150 can be configured differently for each task. For example, the site-based fracture learning unit 15 may provide a menu or UI for selecting a type of task, and the site-based fracture learning model 150 may be set according to the selected task through the menu or the UI. . In addition, the site-based fracture learning unit 15 may provide a menu or UI through which a target variable suitable for a selected task can be input, and the information input through the menu or UI is set as a target variable to learn the site-level fracture. The model 150 can be trained. For example, the unit-level fracture learning unit 15 may input information that classifies the state of a fracture, information designating an object in which a fracture occurs, information designating an area in which a fracture occurs, as an objective variable.

인공 신경망이 깊어질수록 태스크(task)에 더 특화된 요소(feature)를 추출할 수 있는데, 전술한 봐와 같이, 인공 신경망의 기본 레이어로서 구비되는 일반골절 학습모델(110)이 고정된 형태로 구성되고, 확장 레이어로서 구비되는 특징 학습모델(151)이 densenet기반으로 학습되므로, 특징 학습모델(151)은 신체 영역 중 특정된 부위(예, 늑골이 위치한 영역)의 골절에 특화된 요소(feature)를 추출할 수 있도록 구성된다. The deeper the artificial neural network, the more specialized features can be extracted for a task. As described above, the general fracture learning model 110 provided as a basic layer of the artificial neural network is configured in a fixed form. Since the feature learning model 151 provided as an extension layer is learned on a densenet basis, the feature learning model 151 provides a feature specialized to fracture of a specific region (eg, a region where the ribs are located) in the body region. It is configured to be extracted.

나아가, 부위단위 골절 학습부(15)는 손실함수(Loss function)를 산출하는 손실함수 산출부(16)를 더 포함할 수 있으며, 손실함수 산출부(16)가 제공하는 손실함수를 고려하여 부위단위 골절 학습모델(150)에 대한 학습을 수행할 수 있다.Furthermore, the site-based fracture learning unit 15 may further include a loss function calculation unit 16 for calculating a loss function, and a site in consideration of the loss function provided by the loss function calculation unit 16 The unit fracture learning model 150 may be trained.

예컨대, 부위단위 골절 학습부(15)는 일반골절 학습모델(110)에 대한 제1손실함수(Loss functionstep1) 및 특징 학습모델(151)에 대한 제2손실함수(Loss functionstep2)를 산출할 수 있으며, 산출된 제1 및 제2손실함수(Loss functionstep1, Loss functionstep2)에 가중치를 적용하여 최종 손실함수를 산출할 수 있다. 부위단위 골절 학습부(15)의 최종 손실함수(Loss function최종)의 산출은 하기의 수학식 1의 연산을 통해 이루어질 수 있다.For example, the learning section 15 is part units fracture to calculate a first loss function (Loss function step1) and features the second loss function for a learning model (151) (Loss function step2) for common fractures learning model 110 The final loss function may be calculated by applying weights to the calculated first and second loss functions (Loss function step1 and Loss function step2 ). Final loss of function units fracture site learning section 15 calculates the (Loss function end) can be achieved through the operation of Equation 1 below.

Figure 112019102799934-pat00001
Figure 112019102799934-pat00001

여기서, W1 및 W2는 각각 제1 및 제2손실함수에 적용되는 가중치이며, 일반골절 학습모델(110) 및 특징 학습모델(151)에 구비된 레이어의 개수에 비례하는 값으로 설정될 수 있다.Here, W1 and W2 are weights applied to the first and second loss functions, respectively, and may be set to a value proportional to the number of layers provided in the general fracture learning model 110 and the feature learning model 151.

도 2a는 본 개시의 일 실시예에 따른 일반골절 학습모델의 학습에 사용되는 데이터 셋의 구성을 예시하며, 도 2b 내지 도 2e는 도 2a의 학습 데이터 셋의로 사용되는 의료영상을 예시한다. 2A illustrates a configuration of a data set used for learning a general fracture learning model according to an embodiment of the present disclosure, and FIGS. 2B to 2E illustrate medical images used as the learning data set of FIG. 2A.

우선, 도 2a를 참조하면, 제1학습 데이터 셋(200)은, 적어도 하나의 골절 의료영상(201, 202, 203)을 포함할 수 있는데, 적어도 하나의 골절 의료영상(201, 202, 203)은 골절이 존재하는 사용자의 신체를 촬영한 의료영상(예, X-ray)일 수 있다. First, referring to FIG. 2A, the first learning data set 200 may include at least one fracture medical image 201, 202, 203, and at least one fracture medical image 201, 202, 203. May be a medical image (eg, X-ray) of a user's body with a fracture.

또한, 제1학습 데이터 셋(200)은 복수의 라벨링 데이터(211, 212, 213, ..., 221, 222, 223, ..., 231, 232, 233, ...)를 포함할 수 있다. 라벨링 데이터(211, 212, 213, ..., 221, 222, 223, ..., 231, 232, 233, ...)는 각각의 태스크에 대응하여 구분될 수 있으며, 일반골절 학습모델(110)의 학습시 선택되는 태스크에 맞춰 일반골절 학습모델(110)의 목적변수로서 제공될 수 있다. 예컨대, 일반골절 학습모델(110)의 학습시 분류(classification) 태스크가 선택될 경우, 적어도 하나의 골절 의료영상(201, 202, 203)의 입력에 대응되는 제1태스크의 라벨링 데이터(211, 212, 213)가 목적변수로서 설정 및 제공될 수 있다. 일반골절 학습모델(110)의 학습시 골절 객체 검출(object detection) 태스크가 선택될 경우, 적어도 하나의 골절 의료영상(201, 202, 203)의 입력에 대응되는 제2태스크의 라벨링 데이터(221, 222, 223)가 목적변수로서 설정 및 제공될 수 있다. 마찬가지로, 일반골절 학습모델(110)의 학습시 세그멘테이션(segmentation) 태스크가 선택될 경우, 적어도 하나의 골절 의료영상(201, 202, 203)의 입력에 대응되는 제3태스크의 라벨링 데이터(231, 232, 233)가 목적변수로서 설정 및 제공될 수 있다. In addition, the first learning data set 200 may include a plurality of labeling data (211, 212, 213, ..., 221, 222, 223, ..., 231, 232, 233, ...) have. Labeling data (211, 212, 213, ..., 221, 222, 223, ..., 231, 232, 233, ...) can be classified according to each task, and a general fracture learning model ( 110) may be provided as an objective variable of the general fracture learning model 110 in accordance with the task selected during learning. For example, when a classification task is selected during learning of the general fracture learning model 110, the labeling data 211, 212 of the first task corresponding to the input of at least one fracture medical image 201, 202, 203 , 213) may be set and provided as an objective variable. When the fracture object detection task is selected when learning the general fracture learning model 110, the labeling data 221 of the second task corresponding to the input of the at least one fracture medical image 201, 202, 203, 222, 223) may be set and provided as an objective variable. Similarly, when a segmentation task is selected during learning of the general fracture learning model 110, the labeling data 231, 232 of the third task corresponding to the input of at least one fracture medical image 201, 202, 203 , 233) can be set and provided as an objective variable.

도 3a는 본 개시의 일 실시예에 따른 부위단위 골절 학습모델의 학습에 사용되는 데이터 셋의 구성을 예시하며, 도 3b 내지 도 3e는 도 3a의 학습 데이터 셋의로 사용되는 의료영상을 예시한다. 3A illustrates a configuration of a data set used for learning a region-based fracture learning model according to an embodiment of the present disclosure, and FIGS. 3B to 3E illustrate medical images used as the learning data set of FIG. 3A. .

도 3a를 참조하면, 제2학습 데이터 셋(310)은, 적어도 하나의 부위단위 골절 의료영상(301,302, 303)을 포함할 수 있는데, 적어도 하나의 부위단위 골절 의료영상(301,302, 303)은 사용자의 신체 중, 특정 영역에 골절이 발생된 상태를 촬영한 의료영상(예, X-ray)일 수 있다. 예컨대, 특정 영역은 늑골이 존재하는 영역일 수 있다.Referring to FIG. 3A, the second learning data set 310 may include at least one partial unit fracture medical image 301,302, 303, and at least one partial unit fracture medical image 301,302, 303 is a user It may be a medical image (eg, X-ray) of a state in which a fracture occurs in a specific area of the body. For example, a specific region may be a region where ribs are present.

그리고, 제2학습 데이터 셋(300)은 복수의 라벨링 데이터(311, 312, 313, ..., 321, 322, 323, ..., 331, 332, 333, ...)를 포함할 수 있다. 라벨링 데이터(311, 312, 313, ..., 321, 322, 323, ..., 331, 332, 333, ...)는 각각의 태스크에 대응하여 구분될 수 있으며, 부위단위 골절 학습모델(150)의 학습시 선택되는 태스크에 맞춰 부위단위 골절 학습모델(150)의 목적변수로서 제공될 수 있다. 예컨대, 부위단위 골절 학습모델(150)의 학습시 분류(classification) 태스크가 선택될 경우, 적어도 하나의 부위단위 골절 의료영상(301, 302, 303)의 입력에 대응되는 제1태스크의 라벨링 데이터(311, 312, 313)가 목적변수로서 설정 및 제공될 수 있다. 골절 객체 검출(object detection) 태스크가 선택될 경우, 적어도 하나의 부위단위 골절 의료영상(301, 302, 303)의 입력에 대응되는 제2태스크의 라벨링 데이터(321, 322, 323)가 목적변수로서 설정 및 제공될 수 있다. 마찬가지로, 세그멘테이션(segmentation) 태스크가 선택될 경우, 적어도 하나의 부위단위 골절 의료영상(301, 302, 303)의 입력에 대응되는 제3태스크의 라벨링 데이터(331, 332, 333)가 목적변수로서 설정 및 제공될 수 있다. And, the second learning data set 300 may include a plurality of labeling data (311, 312, 313, ..., 321, 322, 323, ..., 331, 332, 333, ...) have. Labeling data (311, 312, 313, ..., 321, 322, 323, ..., 331, 332, 333, ...) can be classified in response to each task, and learning model of fractures in each unit In accordance with the task selected during the learning of 150, it may be provided as an objective variable of the learning unit fracture model 150 for each unit. For example, when a classification task is selected during learning of the unit-level fracture learning model 150, the labeling data of the first task corresponding to the input of at least one site-level fracture medical image 301, 302, 303 ( 311, 312, 313) can be set and provided as the target variable. When the fracture object detection task is selected, the labeling data 321, 322, 323 of the second task corresponding to the input of the at least one site-level fracture medical image 301, 302, 303 is the target variable. Can be set and provided. Similarly, when the segmentation task is selected, the labeling data 331, 332, 333 of the third task corresponding to the input of at least one site-level fracture medical image 301, 302, 303 is set as the target variable And can be provided.

도 4는 본 개시의 일 실시예에 따른 골절 진단모델 학습장치에 의해 구성되는 부위단위 골절 학습모델의 구조를 예시하는 도면이다.FIG. 4 is a diagram illustrating a structure of a bone fracture learning model configured by a fracture diagnosis model learning apparatus according to an embodiment of the present disclosure.

우선, 신체 영역 중, 늑골이 위치한 영역은 골절 의료영상(예, x-ray 영상)에서 정확하게 감지되지 않을 수 있으므로, 늑골이 위치한 영역의 골절을 보다 정확하게 감지하기 위해서 늑골 골절의 특징을 학습하는게 필요하다. 그러나, 늑골 골절 의료영상은 일반적인 골절 의료영상에 비하여 상대적으로 적을 수 있으며, 소량의 늑골 골절 의료영상만을 사용하여 학습모델을 학습할 경우 오버핏팅(Overfiiting) 등의 문제가 발생할 수 있다. 또한, 학습모델이 늑골 골절을 보다 정확하게 감지하기 위해서는 대용량의 데이터가 필요하나, 특성산 대용량의 데이터를 확보하기가 어려우므로 늑골 골절에 특화된 학습모델을 구축하기 어려운 문제가 있다. First, among the body regions, the region where the ribs are located may not be accurately detected in the fracture medical image (eg, x-ray image), so it is necessary to learn the characteristics of the rib fracture to more accurately detect fractures in the region where the ribs are located. Do. However, the rib fracture medical image may be relatively small compared to the general fracture medical image, and when a learning model is trained using only a small amount of the rib fracture medical image, problems such as overfiiting may occur. In addition, although a large amount of data is needed for the learning model to more accurately detect rib fractures, it is difficult to establish a specialized learning model for rib fractures because it is difficult to secure large amounts of data with special characteristics.

이를 고려하여, 본 개시의 일 실시예에 따른 부위단위 골절 학습모델 관리부는 신체의 다양한 영역에서 발생되는 골절을 학습하여 인공 신경망의 기본 레이어(410)를 구축한 후, 특정 영역, 예컨대, 늑골이 위치한 영역을 추가로 학습하여 확장 레이어(420)를 구축하도록 구성한다. In consideration of this, the site-based fracture learning model management unit according to an embodiment of the present disclosure learns fractures occurring in various areas of the body to build a basic layer 410 of an artificial neural network, and then, for example, a specific area, for example, a rib The extension layer 420 is constructed by additionally learning the located area.

구체적으로, 본 개시의 일 실시예에 따른 부위단위 골절 학습모델 관리부(13)는 골절과 관련된 글로벌(Global)한 요소(feature)를 검출할 수 있는 일반골절 학습모델(410)의 학습을 우선적으로 수행한 후, 일반골절 학습모델(410)을 구비하여 부위단위 골절 학습모델(400)을 구성한다. 즉, 부위단위 골절 학습모델 관리부(13)는 일반골절 학습모델(410)을 우선적으로 진행하여 일반골절 학습모델(410)을 구축하고, 일반골절 학습모델(410)에 구비된 인공 신경망의 가중치를 고정하여 부위단위 골절 학습모델(400)의 전단부에 마련할 수 있다. Specifically, the site-level fracture learning model management unit 13 according to an embodiment of the present disclosure preferentially trains the general fracture learning model 410 capable of detecting a global feature related to the fracture. After performing, the general fracture learning model 410 is provided to construct the unit-level fracture learning model 400. That is, the site-level fracture learning model management unit 13 preferentially advances the general fracture learning model 410 to construct the general fracture learning model 410, and weights the artificial neural network provided in the general fracture learning model 410. It can be fixed to be provided at the front end of the part-unit fracture learning model 400.

이후, 부위단위 골절 학습모델 관리부(13)는 인공 신경망의 기본 레이어로서 구비되는 일반골절 학습모델(410)의 후단부에 특징 학습모델(420)을 조합하여 인공 신경망의 확장 레이어를 구성할 수 있다. 이러한 구조에 기초하여, 부위단위 골절 학습모델(400)은 부위단위 의료영상의 입력받아, 일반골절 학습모델(410)을 통해 우선적으로 출력되는 정보로부터 추가적인 요소(feature)를 검출하고, 검출된 요소들에 소정의 가중치를 적용하여 특징 학습모델(420)을 구축할 수 있다. Subsequently, the site-level fracture learning model management unit 13 may configure an extension layer of the artificial neural network by combining the feature learning model 420 at the rear end of the general fracture learning model 410 provided as a basic layer of the artificial neural network. . Based on this structure, the unit-level fracture learning model 400 receives an input of a unit-level medical image, detects additional features from information output preferentially through the general-fracture learning model 410, and detects the detected elements. The feature learning model 420 may be constructed by applying predetermined weights to the fields.

도 5는 본 개시의 일 실시예에 따른 골절 진단모델 학습방법의 순서를 나타내는 흐름도이다.5 is a flowchart illustrating a sequence of a method for learning a fracture diagnosis model according to an embodiment of the present disclosure.

본 개시의 일 실시예에 따른 골절 진단모델 학습방법은 전술한 골절 진단모델 학습장치에 의해 수행될 수 있다.The fracture diagnostic model learning method according to an embodiment of the present disclosure may be performed by the fracture diagnostic model learning apparatus described above.

우선, S501 단계에서, 골절 진단모델 학습장치는 일반골절 학습모델에 대한 학습을 처리한다. 예를 들어, 골절 진단모델 학습장치는 합성곱 신경망(Convolutional Neural Network, CNN) 기법 또는 풀링(pooling) 기법에 기초하여, 일반골절과 관련된 일반골절 학습모델(110)에 대한 학습을 처리한다. 이때, 골절 진단모델 학습장치는 전술한 도 2a 내지 도 2e에 예시되는 학습 데이터 셋을 일반골절 학습모델의 입력 데이터 또는 목적변수로 사용할 수 있다. First, in step S501, the fracture diagnosis model learning apparatus processes learning for the general fracture learning model. For example, the fracture diagnostic model learning apparatus processes learning for the general fracture learning model 110 related to the general fracture based on a convolutional neural network (CNN) technique or a pooling technique. At this time, the fracture diagnostic model learning apparatus may use the training data set illustrated in FIGS. 2A to 2E as input data or a target variable of the general fracture learning model.

나아가, 골절과 관련된 태스크는 다양하게 이루어질 수 있는데, 골절의 상태를 분류하는 분류(classification) 태스크, 의료영상에서 골절이 발생된 객체를 검출하는 골절 객체 검출(object detection) 태스크, 의료영상에서 골절이 발생된 영역을 추출하는 세그멘테이션(segmentation) 태스크를 포함할 수 있다. Furthermore, the tasks related to fracture can be variously performed, including a classification task to classify the state of a fracture, a fracture object detection task to detect an object having a fracture in a medical image, and a fracture to a medical image. It may include a segmentation (segmentation) task to extract the generated area.

골절 진단모델 학습장치는 태스크 별로 일반골절 학습모델을 다르게 구성할 수 있는 환경을 제공할 수 있다. 예를 들어, 골절 진단모델 학습장치는 태스크의 종류를 선택하는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 선택된 태스크에 맞추어 일반골절 학습모델을 설정할 수 있다. 그리고, 골절 진단모델 학습장치는 선택된 태스크에 맞는 목적변수를 입력할 수 있는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 입력되는 정보를 목적변수로서 설정하여 일반골절 학습모델에 대한 학습을 수행할 수 있다.The fracture diagnosis model learning apparatus may provide an environment in which a general fracture learning model can be configured differently for each task. For example, the fracture diagnosis model learning apparatus may provide a menu or a UI for selecting a type of task, and a general fracture learning model may be set according to the selected task through the menu or the UI. In addition, the fracture diagnosis model learning apparatus may provide a menu or a UI for inputting a target variable suitable for a selected task, and setting information input through such a menu or UI as a target variable to learn about a general fracture learning model. You can do

S501 단계를 통해, 일반골절 학습모델은 다양한 신체 영역에서 발생되는 골절에 대한 정보를 학습하므로, 골절 의료영상에서 골절과 관련된 글로벌(Global)한 요소(feature)를 검출하도록 학습될 수 있다. Through the step S501, the general fracture learning model learns information about fractures occurring in various body regions, and thus can be trained to detect global features related to fractures in fracture medical images.

신체 영역 중, 늑골이 위치한 영역은 골절 의료영상(예, x-ray 영상)에서 정확하게 감지되지 않을 수 있으므로, 늑골이 위치한 영역의 골절을 보다 정확하게 감지하기 위해서 늑골 골절의 특징을 학습하는게 필요하다. 그러나, 늑골 골절 의료영상은 일반적인 골절 의료영상에 비하여 상대적으로 적을 수 있으며, 소량의 늑골 골절 의료영상만을 사용하여 학습모델을 학습할 경우 오버핏팅(Overfiiting) 등의 문제가 발생할 수 있다. 또한, 학습모델이 늑골 골절을 보다 정확하게 감지하기 위해서는 대용량의 데이터가 필요하나, 특성산 대용량의 데이터를 확보하기가 어려우므로 늑골 골절에 특화된 학습모델을 구축하기 어려운 문제가 있다. Of the body regions, the region where the ribs are located may not be accurately detected in the fracture medical image (eg, x-ray image), so it is necessary to learn the characteristics of the rib fracture to more accurately detect fractures in the region where the ribs are located. However, the rib fracture medical image may be relatively small compared to the general fracture medical image, and when a learning model is trained using only a small amount of the rib fracture medical image, problems such as overfiiting may occur. In addition, although a large amount of data is needed for the learning model to more accurately detect rib fractures, it is difficult to establish a specialized learning model for rib fractures because it is difficult to secure large amounts of data with special characteristics.

이를 고려하여, S502 단계에서, 골절 진단모델 학습장치는 인공 신경망의 기본 레이어로서 구비되는 일반골절 학습모델과 인공 신경망의 확장 레이어로서 구비되는 특징 학습모델을 조합하여 부위단위 골절 학습모델을 구성할 수 있다. 이때, 골절 진단모델 학습장치는 일반골절 학습모델이 특징 학습모델에 비하여 상대적으로 선행되도록 설정할 수 있다.In consideration of this, in step S502, the fracture diagnosis model learning apparatus can construct a fracture model for each unit by combining a general fracture learning model provided as a basic layer of the artificial neural network and a feature learning model provided as an extension layer of the artificial neural network. have. At this time, the fracture diagnosis model learning apparatus may be set such that the general fracture learning model is relatively advanced compared to the feature learning model.

이후, S503 단계에서, 골절 진단모델 학습장치는 부위단위 골절 학습모델에 대한 학습을 수행할 수 있다. 전술한 구조에 기초하여, 골절 진단모델 학습장치는 부위단위 의료영상의 입력받아, 일반골절 학습모델을 통해 우선적으로 출력되는 정보로부터 추가적인 요소(feature)를 검출하고, 검출된 요소들에 소정의 가중치를 적용하여 특징 학습모델을 구축할 수 있다. Subsequently, in step S503, the fracture diagnosis model learning apparatus may perform learning on a fracture model for each unit. Based on the above-described structure, the fracture diagnosis model learning apparatus receives an input of a medical image of a unit of a unit, detects additional features from information preferentially output through the general fracture learning model, and weights the detected elements with a predetermined weight. You can build a feature learning model by applying.

전술한 바와 같이, 골절과 관련된 태스크는 다양하게 이루어질 수 있는데, 골절의 상태를 분류하는 분류 태스크, 의료영상에서 골절이 발생된 객체를 검출하는 골절 객체 검출 태스크, 의료영상에서 골절이 발생된 영역을 추출하는 세그멘테이션 태스크를 포함할 수 있다. As described above, a task related to fracture may be variously performed, a classification task to classify the state of a fracture, a fracture object detection task to detect an object having a fracture in a medical image, and an area where a fracture has occurred in a medical image. It may include a segmentation task to extract.

골절 진단모델 학습장치는 태스크별로 부위단위 골절 학습모델을 다르게 구성할 수 있다. 예를 들어, 골절 진단모델 학습장치는 태스크의 종류를 선택하는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 선택된 태스크에 맞추어 부위단위 골절 학습모델을 설정할 수 있다. 그리고, 골절 진단모델 학습장치는 선택된 태스크에 맞는 목적변수를 입력할 수 있는 메뉴 또는 UI를 제공할 수 있으며, 이러한 메뉴 또는 UI를 통해 입력되는 정보를 목적변수로서 설정하여 부위단위 골절 학습모델에 대한 학습을 수행할 수 있다. 예컨대, 골절 진단모델 학습장치는 목적변수로서, 골절의 상태를 분류한 정보, 골절이 발생된 객체를 지정한 정보, 골절이 발생된 영역을 지정한 정보 등을 입력할 수 있다. The fracture diagnosis model learning apparatus may construct a fracture model for each unit differently for each task. For example, the fracture diagnosis model learning apparatus may provide a menu or UI for selecting a type of task, and a fracture model for each unit may be set according to the selected task through the menu or UI. In addition, the fracture diagnosis model learning apparatus may provide a menu or a UI for inputting a target variable suitable for a selected task, and setting information input through the menu or UI as a target variable to set a fracture model for a unit-level fracture learning model. Learning can be performed. For example, the fracture diagnosis model learning apparatus may input, as an objective variable, information classifying the state of a fracture, information specifying an object in which a fracture occurred, information specifying an area in which a fracture occurred.

인공 신경망이 깊어질수록 태스크(task)에 더 특화된 요소(feature)를 추출할 수 있는데, 전술한 봐와 같이, 인공 신경망의 기본 레이어로서 구비되는 일반골절 학습모델이 고정된 형태로 구성되고, 확장 레이어로서 구비되는 특징 학습모델이 densenet기반으로 학습되므로, 특징 학습모델은 신체 영역 중 특정된 부위(예, 늑골이 위치한 영역)의 골절에 특화된 요소(feature)를 추출할 수 있도록 구성된다. The deeper the artificial neural network, the more specialized features can be extracted for the task. As described above, the general fracture learning model provided as a basic layer of the artificial neural network is constructed in a fixed form and expanded. Since the feature learning model provided as a layer is learned based on a densenet, the feature learning model is configured to extract a feature specialized for fracture of a specific region (eg, a region where ribs are located) in the body region.

나아가, 골절 진단모델 학습장치는 손실함수(Loss function)를 산출(S504)할 수 있으며, 산출된 손실함수를 고려하여 부위단위 골절 학습모델을 업데이트(S505) 할 수 있다. Furthermore, the fracture diagnosis model learning apparatus may calculate a loss function (S504), and update the fracture model for each unit in consideration of the calculated loss function (S505).

예컨대, S504 단계에서, 골절 진단모델 학습장치는 일반골절 학습모델에 대한 제1손실함수(Loss functionstep1) 및 특징 학습모델에 대한 제2손실함수(Loss functionstep2)를 산출할 수 있으며, 산출된 제1 및 제2손실함수(Loss functionstep1, Loss functionstep2)에 가중치를 적용하여 최종 손실함수를 산출할 수 있다. 최종 손실함수(Loss function최종)의 산출은 전술한 수학식 1의 연산을 통해 이루어질 수 있다.For example, in step S504, the fracture diagnosis model learning apparatus may calculate a first loss function for a general fracture learning model (Loss function step1 ) and a second loss function for a feature learning model (Loss function step2 ), and is calculated. The final loss function may be calculated by applying weights to the first and second loss functions (Loss function step1 and Loss function step2 ). The final loss function (Loss function final ) may be calculated through the operation of Equation 1 described above.

S503 내지 S505 단계는 골절 진단모델 학습장치의 동작이 종료될때까비 반복적으로 진행될 수 있다.Steps S503 to S505 may be repeatedly performed until the operation of the fracture diagnosis model learning apparatus is finished.

도 6은 본 개시의 일 실시예에 따른 골절 진단모델 학습장치 및 방법을 실행하는 컴퓨팅 시스템을 예시하는 블록도이다. 6 is a block diagram illustrating a computing system for executing a fracture diagnosis model learning apparatus and method according to an embodiment of the present disclosure.

도 6을 참조하면, 컴퓨팅 시스템(1000)은 버스(1200)를 통해 연결되는 적어도 하나의 프로세서(1100), 메모리(1300), 사용자 인터페이스 입력 장치(1400), 사용자 인터페이스 출력 장치(1500), 스토리지(1600), 및 네트워크 인터페이스(1700)를 포함할 수 있다.Referring to FIG. 6, the computing system 1000 includes at least one processor 1100 connected through a bus 1200, a memory 1300, a user interface input device 1400, a user interface output device 1500, and storage 1600, and the network interface 1700.

프로세서(1100)는 중앙 처리 장치(CPU) 또는 메모리(1300) 및/또는 스토리지(1600)에 저장된 명령어들에 대한 처리를 실행하는 반도체 장치일 수 있다. 메모리(1300) 및 스토리지(1600)는 다양한 종류의 휘발성 또는 불휘발성 저장 매체를 포함할 수 있다. 예를 들어, 메모리(1300)는 ROM(Read Only Memory) 및 RAM(Random Access Memory)을 포함할 수 있다. The processor 1100 may be a central processing unit (CPU) or a semiconductor device that executes processing for instructions stored in the memory 1300 and/or storage 1600. The memory 1300 and the storage 1600 may include various types of volatile or nonvolatile storage media. For example, the memory 1300 may include read only memory (ROM) and random access memory (RAM).

따라서, 본 명세서에 개시된 실시예들과 관련하여 설명된 방법 또는 알고리즘의 단계는 프로세서(1100)에 의해 실행되는 하드웨어, 소프트웨어 모듈, 또는 그 2 개의 결합으로 직접 구현될 수 있다. 소프트웨어 모듈은 RAM 메모리, 플래시 메모리, ROM 메모리, EPROM 메모리, EEPROM 메모리, 레지스터, 하드 디스크, 착탈형 디스크, CD-ROM과 같은 저장 매체(즉, 메모리(1300) 및/또는 스토리지(1600))에 상주할 수도 있다. 예시적인 저장 매체는 프로세서(1100)에 커플링되며, 그 프로세서(1100)는 저장 매체로부터 정보를 판독할 수 있고 저장 매체에 정보를 기입할 수 있다. 다른 방법으로, 저장 매체는 프로세서(1100)와 일체형일 수도 있다. 프로세서 및 저장 매체는 주문형 집적회로(ASIC) 내에 상주할 수도 있다. ASIC는 사용자 단말기 내에 상주할 수도 있다. 다른 방법으로, 프로세서 및 저장 매체는 사용자 단말기 내에 개별 컴포넌트로서 상주할 수도 있다.Thus, steps of a method or algorithm described in connection with the embodiments disclosed herein may be directly implemented by hardware, software modules, or a combination of the two, executed by processor 1100. The software modules reside in storage media (ie, memory 1300 and/or storage 1600) such as RAM memory, flash memory, ROM memory, EPROM memory, EEPROM memory, registers, hard disk, removable disk, CD-ROM. You may. An exemplary storage medium is coupled to the processor 1100, which can read information from and write information to the storage medium. Alternatively, the storage medium may be integral with the processor 1100. Processors and storage media may reside within an application specific integrated circuit (ASIC). The ASIC may reside in a user terminal. Alternatively, the processor and storage medium may reside as separate components within the user terminal.

본 개시의 예시적인 방법들은 설명의 명확성을 위해서 동작의 시리즈로 표현되어 있지만, 이는 단계가 수행되는 순서를 제한하기 위한 것은 아니며, 필요한 경우에는 각각의 단계가 동시에 또는 상이한 순서로 수행될 수도 있다. 본 개시에 따른 방법을 구현하기 위해서, 예시하는 단계에 추가적으로 다른 단계를 포함하거나, 일부의 단계를 제외하고 나머지 단계를 포함하거나, 또는 일부의 단계를 제외하고 추가적인 다른 단계를 포함할 수도 있다.Exemplary methods of the present disclosure are expressed as a series of operations for clarity of description, but are not intended to limit the order in which the steps are performed, and each step may be performed simultaneously or in a different order if necessary. In order to implement the method according to the present disclosure, the steps illustrated may include other steps in addition, other steps may be included in addition to the other steps, or other additional steps may be included in addition to some steps.

본 개시의 다양한 실시예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.The various embodiments of the present disclosure are not intended to list all possible combinations, but are intended to illustrate representative aspects of the present disclosure, and the details described in various embodiments may be applied independently or in combination of two or more.

또한, 본 개시의 다양한 실시예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다. Further, various embodiments of the present disclosure may be implemented by hardware, firmware, software, or a combination thereof. For implementation by hardware, one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), Digital Signal Processing Devices (DSPDs), Programmable Logic Devices (PLDs), Field Programmable Gate Arrays (FPGAs), Universal It can be implemented by a processor (general processor), a controller, a microcontroller, a microprocessor.

본 개시의 범위는 다양한 실시예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다. The scope of the present disclosure includes software or machine-executable instructions (eg, operating systems, applications, firmware, programs, etc.) that cause actions according to various embodiment methods to be executed on a device or computer, and such software or Instructions include a non-transitory computer-readable medium that is stored and executable on a device or computer.

Claims (14)

적어도 하나의 프로세서, 사용자 인터페이스 입력 장치, 사용자 인터페이스 출력 장치를 포함하는 전자장치가, 의료영상을 사용하여 골절을 진단하는 학습모델을 학습하는 방법에 있어서,
상기 적어도 하나의 프로세서가, 신체 영역에서 골절이 발생된 영역을 촬영한 골절 의료영상을 기반으로 하되, 다양한 신체 영역에 대응되는 상기 골절 의료영상을 사용하여 일반골절 학습모델을 학습하는 과정과,
상기 적어도 하나의 프로세서가, 상기 일반골절 학습모델에 구비되는 인공신경망의 가중치를 고정하고, 상기 일반골절 학습모델에서 출력되는 값이 특징 학습모델에 입력되는 구조의 부위단위 골절 학습모델을 구성하는 과정과,
상기 적어도 하나의 프로세서가, 상기 신체 영역 중 특정된 부위에 대응되는 부위단위 골절 의료영상을 상기 일반골절 학습모델에 입력하고, 이에 대응되는 골절 진단 결과를 상기 특징 학습모델의 목적변수로 설정하여 상기 부위단위 골절 학습모델에 대한 학습을 수행하는 과정을 포함하고,
상기 부위단위 골절 학습모델에 대한 학습을 수행하는 과정은,
하기의 수학식 1의 연산을 통해 최종 손실함수를 산출하되, 상기 일반골절 학습모델 및 특징 학습모델에 포함된 레이어의 수에 기초하여, 제1손실함수 및 제2손실함수에 각각 적용되는 제1 및 제2가중치를 결정하는 과정을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 방법.
[수학식 1]
Figure 112020501420211-pat00016

여기서, Loss function최종은 최종 손실함수를 나타내고, Loss functionstep1은 상기 일반골절 학습모델에 대응되는 상기 제1손실함수를 나타내고, Loss functionstep2는 상기 특징 학습모델에 대응되는 상기 제2손실함수를 나타내고, w1은 상기 일반골절 학습모델에 대응되는 상기 제1가중치를 나타내고, w2는 상기 특징 학습모델에 대응되는 상기 제2가중치를 나타냄.
An electronic device including at least one processor, a user interface input device, and a user interface output device, in a method of learning a learning model for diagnosing a fracture using medical images,
The at least one processor is based on a fracture medical image of a region in which a fracture has occurred in a body region, and using the fracture medical image corresponding to various body regions to learn a general fracture learning model,
The process in which the at least one processor fixes the weight of the artificial neural network provided in the general fracture learning model, and constructs a partial unit fracture learning model having a structure in which a value output from the general fracture learning model is input to a feature learning model. and,
The at least one processor inputs a unit-level fracture medical image corresponding to a specific region of the body region into the general fracture learning model, and sets the corresponding fracture diagnosis result as a target variable of the feature learning model, Includes the process of performing the learning on the fracture model for each unit,
The process of performing the learning on the part-unit fracture learning model is
The first loss function is calculated through the operation of Equation 1 below, but is applied to the first loss function and the second loss function, respectively, based on the number of layers included in the general fracture learning model and the feature learning model. And determining a second weight value.
[Equation 1]
Figure 112020501420211-pat00016

Here, Loss function final represents the final loss function, Loss function step1 represents the first loss function corresponding to the common fractures learning models, Loss function step2 denotes the second loss function corresponding to the feature learning models , w1 represents the first weight value corresponding to the general fracture learning model, and w2 represents the second weight value corresponding to the feature learning model.
제1항에 있어서,
상기 부위단위 골절 학습모델에 대한 학습을 수행하는 과정은,
상기 일반골절 학습모델이 상기 부위단위 골절 의료영상에 대응되는 제1결과를 제공하는 과정과,
상기 특징 학습모델이 상기 제1결과에 대응되는 상기 골절 진단 결과를 학습하는 과정을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 방법.
According to claim 1,
The process of performing the learning on the part-unit fracture learning model is
A process in which the general fracture learning model provides a first result corresponding to the medical image of the unit-level fracture,
The learning method of a fracture diagnosis model, characterized in that the learning model comprises the step of learning the fracture diagnosis result corresponding to the first result.
제1항에 있어서,
상기 부위단위 골절 학습모델에 대한 학습을 수행하는 과정은,
상기 일반골절 학습모델에 대한 상기 제1손실함수(Loss Function)를 산출하는 과정과,
상기 특징 학습모델에 대한 상기 제2손실함수를 산출하는 과정과,
상기 제1손실함수 및 제2손실함수에 각각 상기 제1 및 제2가중치를 적용하여 최종 손실함수를 산출하는 과정을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 방법.
According to claim 1,
The process of performing the learning on the part-unit fracture learning model is
Calculating the first loss function for the general fracture learning model;
Calculating the second loss function for the feature learning model,
And calculating a final loss function by applying the first and second weights to the first loss function and the second loss function, respectively.
삭제delete 제1항에 있어서,
상기 제1손실함수 및 제2손실함수에 적용되는 가중치를 결정하는 과정은,
상기 일반골절 학습모델 및 특징 학습모델에 포함된 레이어의 수에 비례하여 상기 제1손실함수 및 제2손실함수에 적용되는 가중치를 결정하는 것을 특징으로 하는 골절 진단모델의 학습 방법.
According to claim 1,
The process of determining the weight applied to the first loss function and the second loss function,
A method of learning a fracture diagnosis model, characterized in that the weight applied to the first loss function and the second loss function is determined in proportion to the number of layers included in the general fracture learning model and the feature learning model.
제1항에 있어서,
상기 부위단위 골절 학습모델에 대한 학습을 수행하는 과정은,
상기 부위단위 골절 학습모델의 학습을 위한 태스크 종류를 확인하는 과정과,
확인된 상기 태스크 종류에 맞는 상기 목적변수를 설정하는 과정과,
결정된 상기 목적변수를 반영하여 상기 특징 학습모델에 대한 학습을 수행하는 과정을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 방법.
According to claim 1,
The process of performing the learning on the part-unit fracture learning model is
The process of confirming the type of task for learning the learning unit fracture model, and
Setting the target variable according to the identified task type,
And learning the feature learning model by reflecting the determined target variable.
제6항에 있어서,
상기 태스크 종류는,
상기 골절의 상태를 단계적으로 분류하는 분류(classification), 상기 골절이 존재하는 객체를 검출하는 골절 객체 검출(object detection), 및, 상기 골절이 존재하는 영역을 추출하는 세그멘테이션(segmentation)을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 방법.
The method of claim 6,
The task type is,
It includes the classification of the state of the fracture step by step (classification), a fracture object detection (object detection) to detect the object where the fracture is present, and a segmentation (segmentation) to extract the region where the fracture is present. A method for learning a fracture diagnostic model.
의료영상을 사용하여 골절을 진단하는 학습모델을 학습하는 장치에 있어서,
신체 영역에서 골절이 발생된 영역을 촬영한 골절 의료영상을 기반으로 하되, 다양한 신체 영역에 대응되는 상기 골절 의료영상을 사용하여 일반골절 학습모델을 학습하는 일반골절 학습부와,
상기 일반골절 학습부로부터 일반골절 학습모델을 제공받고, 상기 일반골절 학습모델에 구비되는 인공신경망의 가중치를 고정하고, 상기 일반골절 학습모델에서 출력되는 값이 특징 학습모델에 입력되는 구조의 부위단위 골절 학습모델을 구성하는 부위단위 골절 학습모델 관리부와,
상기 인공신경망의 가중치가 고정된 상기 일반골절 학습모델과 상기 특징 학습모델을 구비하는 부위단위 골절 학습모델에, 상기 신체 영역 중 특정된 부위에 대응되는 부위단위 골절 의료영상을 입력하고, 이에 대응되는 골절 진단 결과를 상기 특징 학습모델의 목적변수로 설정하여 상기 부위단위 골절 학습모델에 대한 학습을 수행하는 부위단위 골절 학습부를 포함하고,
상기 부위단위 골절 학습부는,
하기의 수학식 1의 연산을 통해 최종 손실함수를 산출하고, 상기 최종 손실함수를 반영하여 상기 부위단위 골절 학습모델에 대한 학습을 수행하되, 상기 일반골절 학습모델 및 특징 학습모델에 포함된 레이어의 수에 기초하여, 제1손실함수 및 제2손실함수에 각각 적용되는 제1 및 제2가중치를 결정하는 손실함수 산출부을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 장치.
[수학식 1]
Figure 112020501420211-pat00017

여기서, Loss function최종은 최종 손실함수를 나타내고, Loss functionstep1은 상기 일반골절 학습모델에 대응되는 상기 제1손실함수를 나타내고, Loss functionstep2는 상기 특징 학습모델에 대응되는 상기 제2손실함수를 나타내고, w1은 상기 일반골절 학습모델에 대응되는 상기 제1가중치를 나타내고, w2는 상기 특징 학습모델에 대응되는 상기 제2가중치를 나타냄.
In the apparatus for learning a learning model for diagnosing a fracture using medical imaging,
Based on a fracture medical image of a region where a fracture occurs in a body region, a general fracture learning unit for learning a general fracture learning model using the fracture medical image corresponding to various body regions,
A general fracture learning model is provided from the general fracture learning unit, a weight of an artificial neural network provided in the general fracture learning model is fixed, and a value output from the general fracture learning model is a unit of a structure input to the feature learning model. Fracture unit learning model management unit constituting the fracture learning model,
A partial unit fracture medical image corresponding to a specific portion of the body region is input to a partial unit fracture learning model provided with the general fracture learning model and the feature learning model with fixed weights of the artificial neural network, and corresponding thereto The fracture diagnosis unit includes a site-level fracture learning unit configured to set a fracture diagnosis result as an objective variable of the feature learning model to perform learning on the site-level fracture learning model,
The site unit fracture learning unit,
A final loss function is calculated through the operation of Equation 1 below, and the learning of the fracture model for each unit is performed by reflecting the final loss function, but the layer included in the general fracture learning model and the feature learning model And a loss function calculation unit for determining first and second weights applied to the first loss function and the second loss function, respectively, based on the number.
[Equation 1]
Figure 112020501420211-pat00017

Here, Loss function final represents the final loss function, Loss function step1 represents the first loss function corresponding to the common fractures learning models, Loss function step2 denotes the second loss function corresponding to the feature learning models , w1 represents the first weight value corresponding to the general fracture learning model, and w2 represents the second weight value corresponding to the feature learning model.
제8항에 있어서,
상기 부위단위 골절 학습부는,
상기 부위단위 골절 의료영상을 상기 일반골절 학습모델에 입력으로 설정하고,
상기 일반골절 학습모델을 통해 출력되는 제1결과를 상기 특징 학습모델에 입력으로 설정하고,
상기 골절 진단 결과를 목적변수로 설정하는 특징으로 하는 골절 진단모델의 학습 장치.
The method of claim 8,
The site unit fracture learning unit,
Set the medical image of the fracture of the site unit as an input to the general fracture learning model,
Set the first result output through the general fracture learning model as an input to the feature learning model,
A device for learning a fracture diagnosis model, characterized in that the fracture diagnosis result is set as a target variable.
삭제delete 삭제delete 제8항에 있어서,
상기 손실함수 산출부는,
상기 일반골절 학습모델 및 특징 학습모델에 포함된 레이어의 수에 비례하여 상기 제1손실함수 및 제2손실함수에 적용되는 가중치를 결정하는 것을 특징으로 하는 골절 진단모델의 학습 장치.
The method of claim 8,
The loss function calculation unit,
A learning apparatus for a fracture diagnosis model, characterized in that the weight applied to the first loss function and the second loss function is determined in proportion to the number of layers included in the general fracture learning model and the feature learning model.
제8항에 있어서,
상기 부위단위 골절 학습부는,
상기 부위단위 골절 학습모델의 학습을 위한 태스크 종류를 확인하고,
확인된 상기 태스크 종류에 맞는 상기 목적변수를 설정하고,
결정된 상기 목적변수를 반영하여 상기 특징 학습모델에 대한 학습을 수행하는 것을 특징으로 하는 골절 진단모델의 학습 장치.
The method of claim 8,
The site unit fracture learning unit,
Check the task type for learning the part-unit fracture learning model,
Set the target variable according to the identified task type,
A learning apparatus for a fracture diagnosis model, characterized by performing learning on the feature learning model by reflecting the determined target variable.
제13항에 있어서,
상기 태스크 종류는,
상기 골절의 상태를 단계적으로 분류하는 분류(classification), 상기 골절이 존재하는 객체를 검출하는 골절 객체 검출(object detection), 및, 상기 골절이 존재하는 영역을 추출하는 세그멘테이션(segmentation)을 포함하는 것을 특징으로 하는 골절 진단모델의 학습 장치.
The method of claim 13,
The task type is,
It includes the classification of the state of the fracture step by step (classification), a fracture object detection (object detection) to detect the object where the fracture is present, and a segmentation (segmentation) to extract the region where the fracture is present. A learning device for a fracture diagnostic model.
KR1020190124720A 2019-10-08 2019-10-08 Method for learning fracture diagnosis model and apparatus for the same KR102119057B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190124720A KR102119057B1 (en) 2019-10-08 2019-10-08 Method for learning fracture diagnosis model and apparatus for the same
PCT/KR2020/013741 WO2021071288A1 (en) 2019-10-08 2020-10-08 Fracture diagnosis model training method and device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190124720A KR102119057B1 (en) 2019-10-08 2019-10-08 Method for learning fracture diagnosis model and apparatus for the same

Publications (1)

Publication Number Publication Date
KR102119057B1 true KR102119057B1 (en) 2020-06-29

Family

ID=71400831

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190124720A KR102119057B1 (en) 2019-10-08 2019-10-08 Method for learning fracture diagnosis model and apparatus for the same

Country Status (2)

Country Link
KR (1) KR102119057B1 (en)
WO (1) WO2021071288A1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021071288A1 (en) * 2019-10-08 2021-04-15 (주)제이엘케이 Fracture diagnosis model training method and device
WO2022139246A1 (en) * 2020-12-22 2022-06-30 가천대학교 산학협력단 Fracture detecting method and device using same
WO2022145988A1 (en) * 2020-12-29 2022-07-07 고려대학교 산학협력단 Apparatus and method for facial fracture reading using artificial intelligence
WO2024080426A1 (en) * 2022-10-12 2024-04-18 주식회사 지오비전 Facial bone fracture detection system using deep learning model
WO2024106799A1 (en) * 2022-11-16 2024-05-23 연세대학교 산학협력단 Method of providing information on rib fracture, and device using same

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180040287A (en) * 2016-10-12 2018-04-20 (주)헬스허브 System for interpreting medical images through machine learnings
KR101854567B1 (en) * 2017-08-04 2018-05-04 건양대학교산학협력단 Fracture simulation and analysis system

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6220310B2 (en) * 2014-04-24 2017-10-25 株式会社日立製作所 Medical image information system, medical image information processing method, and program
KR102119057B1 (en) * 2019-10-08 2020-06-29 (주)제이엘케이 Method for learning fracture diagnosis model and apparatus for the same

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180040287A (en) * 2016-10-12 2018-04-20 (주)헬스허브 System for interpreting medical images through machine learnings
KR101854567B1 (en) * 2017-08-04 2018-05-04 건양대학교산학협력단 Fracture simulation and analysis system

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021071288A1 (en) * 2019-10-08 2021-04-15 (주)제이엘케이 Fracture diagnosis model training method and device
WO2022139246A1 (en) * 2020-12-22 2022-06-30 가천대학교 산학협력단 Fracture detecting method and device using same
WO2022145988A1 (en) * 2020-12-29 2022-07-07 고려대학교 산학협력단 Apparatus and method for facial fracture reading using artificial intelligence
KR20220095401A (en) * 2020-12-29 2022-07-07 고려대학교 산학협력단 Apparatus and method for diagnosing facial fracture based on artificial intelligence
KR102672010B1 (en) * 2020-12-29 2024-06-04 고려대학교 산학협력단 Apparatus and method for diagnosing facial fracture based on artificial intelligence
WO2024080426A1 (en) * 2022-10-12 2024-04-18 주식회사 지오비전 Facial bone fracture detection system using deep learning model
WO2024106799A1 (en) * 2022-11-16 2024-05-23 연세대학교 산학협력단 Method of providing information on rib fracture, and device using same

Also Published As

Publication number Publication date
WO2021071288A1 (en) 2021-04-15

Similar Documents

Publication Publication Date Title
KR102119057B1 (en) Method for learning fracture diagnosis model and apparatus for the same
JP7058373B2 (en) Lesion detection and positioning methods, devices, devices, and storage media for medical images
US11200483B2 (en) Machine learning method and apparatus based on weakly supervised learning
US10892050B2 (en) Deep image classification of medical images
KR102100698B1 (en) System for diagnosis auxiliary based on artificial intelligence using ensemble learning algorithm
CN110245721A (en) Training method, device and the electronic equipment of neural network model
US10592820B2 (en) Sequential learning technique for medical image segmentation
CN112149717B (en) Confidence weighting-based graph neural network training method and device
JP2019533866A (en) Method and system for image segmentation using control feedback
JP6865889B2 (en) Learning devices, methods and programs
US11972571B2 (en) Method for image segmentation, method for training image segmentation model
JP5448758B2 (en) Information processing apparatus, information processing method, information processing system, program, and data structure
US20230298180A1 (en) Blood vessel image segmenting method and apparatus using plurality of prediction results
JP2024500938A (en) Automatic annotation of state features in medical images
US20210089823A1 (en) Information processing device, information processing method, and non-transitory computer-readable storage medium
CN113160199B (en) Image recognition method and device, computer equipment and storage medium
US11263481B1 (en) Automated contrast phase based medical image selection/exclusion
JP2019185121A (en) Learning device, learning method and program
US11881016B2 (en) Method and system for processing an image and performing instance segmentation using affinity graphs
CN110852394B (en) Data processing method and device, computer system and readable storage medium
US11024030B2 (en) Apparatus, method, and recording medium
CN116863146B (en) Method, apparatus and storage medium for extracting hemangio features
JP7430815B2 (en) Information processing device, information processing method, and information processing program
US11721022B2 (en) Apparatus and method for automated analyses of ultrasound images
Raju et al. Local contrast hole filling algorithm for neura slices membrane detection—LCHF

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant