KR102403461B1 - Method and System for Compositing Medicul Data using Machine Learning Model - Google Patents

Method and System for Compositing Medicul Data using Machine Learning Model Download PDF

Info

Publication number
KR102403461B1
KR102403461B1 KR1020210072782A KR20210072782A KR102403461B1 KR 102403461 B1 KR102403461 B1 KR 102403461B1 KR 1020210072782 A KR1020210072782 A KR 1020210072782A KR 20210072782 A KR20210072782 A KR 20210072782A KR 102403461 B1 KR102403461 B1 KR 102403461B1
Authority
KR
South Korea
Prior art keywords
sentence
medical
data
detailed
personal health
Prior art date
Application number
KR1020210072782A
Other languages
Korean (ko)
Inventor
이영호
강석환
강민
오서현
오경수
Original Assignee
가천대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 가천대학교 산학협력단 filed Critical 가천대학교 산학협력단
Priority to KR1020210072782A priority Critical patent/KR102403461B1/en
Application granted granted Critical
Publication of KR102403461B1 publication Critical patent/KR102403461B1/en

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/3332Query translation
    • G06F16/3334Selection or weighting of terms from queries, including natural language queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3344Query execution using natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Public Health (AREA)
  • Evolutionary Computation (AREA)
  • Primary Health Care (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Epidemiology (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

The present invention relates to a method and system for generating medical synthetic data using a machine learning model. More specifically, the method and system for generating medical synthetic data using a machine learning model may discriminate personal health information including personal information and medical record information included in medical data input to the machine learning model, mask all or part of the discriminated personal health information, and predict a part of a masked sentence to generate the medical synthesis data.

Description

기계학습된 모델을 이용한 의료합성데이터를 생성하는 방법 및 시스템{Method and System for Compositing Medicul Data using Machine Learning Model}Method and System for Compositing Medicul Data using Machine Learning Model

본 발명은 기계학습된 모델을 이용한 의료합성데이터를 생성하는 방법 및 시스템에 관한 것으로서, 더욱 상세하게는, 기계학습된 모델에 입력된 의료데이터에 포함된 개인정보 및 의료기록정보를 포함하는 개인건강정보를 판별하고, 판별된 개인건강정보의 전체 혹은 일부를 마스킹하고, 마스킹 한 문장의 일부를 예측하여 의료합성데이터를 생성하는, 기계학습된 모델을 이용한 의료합성데이터를 생성하는 방법 및 시스템에 관한 것이다.The present invention relates to a method and system for generating medical synthetic data using a machine-learning model, and more particularly, to personal health including personal information and medical record information included in medical data input to a machine-learning model. A method and system for generating medical synthetic data using a machine-learning model that discriminates information, masks all or part of the identified personal health information, and predicts a part of the masked sentence to generate medical synthetic data will be.

현대 기술의 발달로 많은 기술분야에서는, 딥 러닝(Deep Learning), 머신 러닝(Machine Learning), SVM(Support Vector Machine), 신경망(Neural Network)과 같은 기계학습 모델을 적용하는 사례들이 늘어나고 있다. 종래에도 이와 같은, 기계학습 모델을 이용하여 빅데이터를 분석하는 기술은 존재하였다. 이중에서도 비정형 데이터의 형태인 텍스트 데이터 분석 기술은 기존의 정형 데이터 분석에서 얻을 수 없는 다양한 패턴과 정보를 추출할 수 있기 때문에 상당한 주목을 받고 있다.With the development of modern technology, in many technical fields, cases of applying machine learning models such as Deep Learning, Machine Learning, SVM (Support Vector Machine), and Neural Network are increasing. In the prior art, such a technique for analyzing big data using a machine learning model existed. Among them, text data analysis technology, which is a form of unstructured data, is receiving considerable attention because it can extract various patterns and information that cannot be obtained from conventional structured data analysis.

그러나, 다양한 분석에 적용되기 위한 텍스트 데이터에는 개인정보를 포함한 민감정보가 포함되어 있을 수 있어 개인을 식별할 수 있는 신상 정보의 유출에 따른 법적인 분쟁의 소지가 있다. 때문에, 이와 같은 개인정보를 포함한 텍스트 데이터를 분석하고 가공하는데 제한되는 문제점이 발생한다.However, since text data to be applied to various analyzes may contain sensitive information including personal information, there is a possibility of legal disputes due to leakage of personal information that can identify individuals. For this reason, there is a problem that is limited in analyzing and processing text data including such personal information.

이와 같은 문제를 해결하기 위하여 데이터 내의 개인식별정보를 인식하여 일련에 방법으로 개인 속성을 비식별화하는 방법이 적용되고 있다. 개인정보를 비식별화 하기 위해서는 텍스트 내에 포함된 개인정보 및 개인정보에 해당하지 않는 정보를 분류하고 인식하는 작업이 필요하다. 종래의 개인정보 인식 방법은, 사람이 데이터 내의 개인정보를 직접 찾아 인식, 삭제하는 수동적 방법이 있었으며, 자동적 방법으로 고려된 것은 사전 기반 방법과 규칙 기반 방법이 있었다. 또한 기계학습을 이용한 기술들의 발달로 인해 학습데이터로부터 자동으로 특징을 추출하여 텍스트 내 개인정보를 인식하는 방법이 제시되고 있다. 특히 RNN과 LSTM을 기반으로 한 인공 신경망 모델은 문장의 문맥을 파악하여 데이터의 패턴을 인식하여 개체명을 인식하는데 탁월한 성능을 보여준다. 그러나, 이와 같은 기계학습을 이용한 기술을 제대로 활용하기 위해서는, 모델의 학습에 필요한 데이터가 충분히 확보되어야 하며, 데이터가 충분히 확보되지 않은 환경에서는, 기계학습된 모델이 학습데이터에 대해서는 오차가 감소하지만 실제 데이터에 대해서는 오차가 증가하게 되는 과적합(Overfitting)이 발생하거나, 기계학습된 모델이 데이터의 특징을 제대로 학습하지 못하는 Underfitting 현상이 발생할 수 있다.In order to solve such a problem, a method of de-identifying personal attributes in a series of ways by recognizing personally identifiable information in data is applied. In order to de-identify personal information, it is necessary to classify and recognize personal information included in text and information that does not correspond to personal information. In the conventional personal information recognition method, there was a manual method in which a person directly finds, recognizes, and deletes personal information in data, and the automatic method was considered as a dictionary-based method and a rule-based method. In addition, due to the development of technologies using machine learning, a method for recognizing personal information in text by automatically extracting features from learning data has been proposed. In particular, the artificial neural network model based on RNN and LSTM shows excellent performance in recognizing object names by recognizing patterns in data by grasping the context of sentences. However, in order to properly utilize this technology using machine learning, sufficient data for model learning must be secured. With respect to data, overfitting in which an error increases, or underfitting, in which a machine-learning model cannot properly learn data characteristics, may occur.

이와 같은 문제를 해결하기 위해서, 기계학습 분야에서는 한정된 데이터 크기를 극복하여 바람직한 기계학습을 구현하기 위한 방법으로서 데이터를 증강하는 기술에 대한 관심이 증대되고 있다. 데이터 증강은 학습데이터를 일부 변형하여 데이터의 크기를 늘리는 방법으로서, 학습데이터의 확보를 위해 수행되고 있지만 잘못된 증강방법으로 인해 증강된 데이터를 학습한 모델은 정확한 결과를 도출하기 어렵다는 문제점이 있고, 이를 해결하기 위해 바람직한 학습 결과를 도출할 수 있도록 학습데이터를 증강시키고, 증강된 데이터를 이용하여 기계학습의 성능을 강화함으로써, 보다 정확하게 의료데이터로부터 개인건강정보를 인식할 수 있는 기술에 대한 필요가 있었다. 또한, 개인건강정보 유출의 우려에 따라 개인정보를 보호하면서 학습모델의 성능은 강화시킬 수 있는 의료데이터를 합성하는 기술에 대한 필요가 있었다.In order to solve such a problem, in the field of machine learning, interest in data augmentation technology is increasing as a method for implementing desirable machine learning by overcoming a limited data size. Data augmentation is a method of increasing the size of data by modifying some of the learning data. It is performed to secure the learning data, but there is a problem in that it is difficult to derive accurate results from the model that learned the augmented data due to the wrong augmentation method. To solve this, there was a need for a technology that could more accurately recognize personal health information from medical data by augmenting learning data to derive desirable learning results and enhancing the performance of machine learning using the augmented data. . In addition, according to concerns about personal health information leakage, there was a need for a technology for synthesizing medical data that can enhance the performance of the learning model while protecting personal information.

본 발명은 기계학습된 모델을 이용한 의료합성데이터를 생성하는 방법 및 시스템에 관한 것으로서, 더욱 상세하게는, 기계학습된 모델에 입력된 의료데이터에 포함된 개인정보 및 의료기록정보를 포함하는 개인건강정보를 판별하고, 판별된 개인건강정보의 전체 혹은 일부를 마스킹하고, 마스킹 한 문장의 일부를 예측하여 의료합성데이터를 생성하는, 기계학습된 모델을 이용한 의료합성데이터를 생성하는 방법 및 시스템을 제공하는 것을 목적으로 한다.The present invention relates to a method and system for generating medical synthetic data using a machine-learning model, and more particularly, to personal health including personal information and medical record information included in medical data input to a machine-learning model. Provide a method and system for generating medical synthetic data using a machine-learning model that identifies information, masks all or part of the identified personal health information, and generates medical synthetic data by predicting a part of the masked sentence aim to do

상기와 같은 과제를 해결하기 위하여 본 발명은, 기계학습된 모델을 이용하여 개인건강정보를 인식하고, 인식한 개인건강정보를 변경하여 의료합성데이터를 생성하는 방법으로서, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 포함하는 입력의료데이터를 로드하는 단계;상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계; 상기 입력의료데이터를 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별하는 개인건강정보판별단계; 판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는 단계;In order to solve the above problems, the present invention is a method of recognizing personal health information using a machine-learning model and generating medical synthetic data by changing the recognized personal health information, personal information and medical record information A method comprising: loading input medical data including personal health information; dividing each sentence included in the input medical data into sentence detail elements; The input medical data is input to the machine-learned second learning model, and sentence details corresponding to personal health information including the personal information and the medical record information among the sentence details of each sentence included in the input medical data Personal health information identification step of determining the components; performing masking on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information;

상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계; 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 제3학습모델에 입력하여 마스킹된 개인건강정보에 상응하는 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계; 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성하는 단계;를 포함하는, 의료합성데이터를 생성하는 방법을 제공한다.deriving an embedding vector for each sentence detail component that is masked or the original is maintained by embedding the sentence detail components of each sentence into a preset model; inputting the entire embedding vector for each detailed sentence component into a machine-learned third learning model, and deriving an embedding vector of a predicted sentence detailed component corresponding to the sentence detailed component corresponding to the masked personal health information; Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical composite data according to a preset criterion; It provides a method for generating medical synthetic data, including.

본 발명의 일 실시예에서는, 상기 문장세부구성요소로 분할하는 단계는, 상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할할 수 있다.In an embodiment of the present invention, the step of dividing the sentence into detailed components may include dividing each sentence into sentence detailed components in units of words.

본 발명의 일 실시예에서는, 상기 문장세부구성요소에 마스킹을 수행하는 단계는, 임의의 난수를 발생시키고, 상기 난수에 기초하여 상기 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행할 수 있다.In an embodiment of the present invention, performing the masking on the detailed sentence elements includes generating a random number and masking the sentence details corresponding to the one or more personal health information based on the random number. can be done

본 발명의 일 실시예에서는, 상기 제2학습모델은, 의료증강데이터를 포함하는 학습정보에 의하여 기계학습되고, 상기 의료증강데이터는, 분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 포함할 수 있다.In an embodiment of the present invention, the second learning model is machine-learned by learning information including medical augmentation data, and the medical augmentation data is labeled according to a preset criterion for each of the divided sentence detailed components. Labeling information may be included.

본 발명의 일 실시예에서는, 상기 의료합성데이터를 생성하는 단계는, 마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계; 상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및 상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성하는 단계;를 포함할 수 있다.In an embodiment of the present invention, the generating of the medical composite data includes: deriving a cosine similarity with respect to an embedding vector of a masked sentence detailed component and an embedding vector of a predicted sentence detailed component; determining whether the cosine similarity is greater than or equal to a preset criterion; and when the cosine similarity is equal to or greater than a preset criterion, generating the medical augmentation data by inserting the predictive sentence detailed component at a position where some sentence detailed components of the medical text data are masked.

본 발명의 일 실시예에서는, 상기 코사인유사도는 하기의 도출식 1에 의하여 도출될 수 있다.In an embodiment of the present invention, the cosine similarity may be derived by Equation 1 below.

<도출식 1><Equation 1>

Figure 112021064900208-pat00001
Figure 112021064900208-pat00001

본 발명의 일 실시예에서는, 상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않을 수 있다.In an embodiment of the present invention, when the cosine similarity is less than or equal to a preset criterion, the predictive sentence detailed component predicted by the machine-learning model is inserted at a position where some sentence detailed components of the medical text data are masked. it may not be

본 발명의 일 실시예에서는, 상기 기계학습된 모델은 BERT(Bidirectional Encoder Representations from Transformers)모델일 수 있다.In an embodiment of the present invention, the machine-learned model may be a Bidirectional Encoder Representations from Transformers (BERT) model.

상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예는, 기계학습된 모델을 이용하여 개인건강정보를 인식하고, 인식한 개인건강정보를 변경하여 의료합성데이터를 생성하는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅 시스템으로서, 상기 컴퓨팅 시스템은, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 포함하는 입력의료데이터를 로드하는 단계; 상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계; 상기 입력의료데이터를 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별하는 개인건강정보판별단계; 판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계; 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 제3학습모델에 입력하여 마스킹된 개인건강정보에 상응하는 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계; 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성하는 단계;를 수행하는, 컴퓨팅 시스템을 제공한다.In order to solve the above problems, an embodiment of the present invention recognizes personal health information using a machine-learning model, and changes the recognized personal health information to generate medical synthetic data, one or more processors and A computing system including one or more memories, the computing system comprising: loading input medical data including personal information and personal health information including medical record information; dividing each sentence included in the input medical data into sentence detail components; The input medical data is input to the machine-learned second learning model, and sentence details corresponding to personal health information including the personal information and the medical record information among the sentence details of each sentence included in the input medical data Personal health information identification step of determining the components; performing masking on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information; deriving an embedding vector for each sentence detail component that is masked or the original is maintained by embedding the sentence detail components of each sentence into a preset model; inputting the entire embedding vector for each detailed sentence component into a machine-learned third learning model, and deriving an embedding vector of a predicted sentence detailed component corresponding to the sentence detailed component corresponding to the masked personal health information; Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical composite data according to a preset criterion; A computing system that performs

상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예는, 기계학습된 모델을 이용하여 개인건강정보를 인식하고, 인식한 개인건강정보를 변경하여 의료합성데이터를 생성하는 방법으로서, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 포함하는 입력의료데이터를 로드하는 단계; 상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계; 상기 입력의료데이터를 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별하는 개인건강정보판별단계; 판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계; 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 제3학습모델에 입력하여 마스킹된 개인건강정보에 상응하는 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계; 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성하는 단계;를 포함하고, 상기 의료합성데이터를 생성하는 단계는, 마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계; 상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및 상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성하는 단계;를 포함할 수 있다.In order to solve the above problems, an embodiment of the present invention is a method of recognizing personal health information using a machine-learning model, and changing the recognized personal health information to generate medical synthetic data, personal information and loading input medical data including personal health information including medical record information; dividing each sentence included in the input medical data into sentence detail components; The input medical data is input to the machine-learned second learning model, and sentence details corresponding to personal health information including the personal information and the medical record information among the sentence details of each sentence included in the input medical data Personal health information identification step of determining the components; performing masking on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information; deriving an embedding vector for each sentence detail component that is masked or the original is maintained by embedding the sentence detail components of each sentence into a preset model; inputting the entire embedding vector for each detailed sentence component into a machine-learned third learning model, and deriving an embedding vector of a predicted sentence detailed component corresponding to the sentence detailed component corresponding to the masked personal health information; Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical composite data according to a preset criterion; The generating of the medical composite data may include: deriving a cosine similarity with respect to an embedding vector of a masked sentence detailed component and an embedding vector of a predicted sentence detailed component; determining whether the cosine similarity is greater than or equal to a preset criterion; and when the cosine similarity is equal to or greater than a preset criterion, generating the medical augmentation data by inserting the predictive sentence detailed component at a position where some sentence detailed components of the medical text data are masked.

본 발명의 일 실시예에 따르면, 민감한 개인정보 및 의료기록이 포함된 의료원문데이터를 증강시킬 수 있어, 증강된 의료원문데이터를 기초로 기계학습된 모델의 성능을 강화시킬 수 있는 효과를 발휘할 수 있다.According to an embodiment of the present invention, it is possible to augment medical text data including sensitive personal information and medical records, thereby exhibiting the effect of enhancing the performance of a machine-learning model based on the augmented medical text data. have.

본 발명의 일 실시예에 따르면, 의료원문데이터에 포함된 개인정보를 포함한 민감정보가 포함되어 있을 수 있어 개인을 식별할 수 있는 신상 정보의 유출에 따른 법적인 분쟁의 소지를 예방할 수 있는 효과를 발휘할 수 있다.According to an embodiment of the present invention, since the medical text data may contain sensitive information including personal information included in the medical text data, it is possible to prevent the possession of legal disputes due to the leakage of personal information that can identify individuals. can

본 발명의 일 실시예에 따르면, 기계학습된 모델에 의하여 의료원문데이터의 개인건강정보를 식별함으로써, 개인정보를 보다 신속하고 정확하게 식별할 수 있는 효과를 발휘할 수 있다.According to an embodiment of the present invention, by identifying the personal health information of the medical text data by the machine-learning model, it is possible to exhibit the effect of more quickly and accurately identifying the personal information.

본 발명의 일 실시예에 따르면, 의료원문데이터에 기초하여 기계학습된 모델을 이용하여 마스킹된 문장을 예측함으로써, 개인건강정보의 유출을 방지할 수 있는 효과를 발휘할 수 있다.According to an embodiment of the present invention, by predicting a masked sentence using a machine-learned model based on the medical text data, it is possible to exhibit the effect of preventing the leakage of personal health information.

본 발명의 일 실시예에 따르면, 코사인유사도를 이용하여 원문데이터의 문장세부구성요소로부터 예측된 문장세부구성요소의 단어유사성을 측정하여 기설정된 기준을 충족하는 경우에만 마스킹된 단어를 변환함으로써, 보다 신뢰성 높은 증강데이터를 생성할 수 있는 효과를 발휘할 수 있다.According to an embodiment of the present invention, by measuring the word similarity of the sentence detailed component predicted from the sentence detailed component of the original data using cosine similarity, and converting the masked word only when a preset criterion is satisfied, more It is possible to exert the effect of generating reliable augmented data.

본 발명의 일 실시예에 따르면, 의료데이터의 개인건강정보를 인식하여, 해당 개인건강정보가 대체된 의료합성데이터를 생성함으로써, 개인건강정보의 유출을 방지하면서 연구 및 분석을 위한 의료합성데이터의 수를 효율적으로 증대시킬 수 있는 효과를 발휘할 수 있다.According to an embodiment of the present invention, by recognizing personal health information of medical data and generating medical synthetic data in which the corresponding personal health information is substituted, the leakage of personal health information is prevented, and medical synthetic data for research and analysis is obtained. It is possible to exert the effect of effectively increasing the number.

도 1은 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법의 전체적인 수행 단계를 개략적으로 도시한다.
도 2는 본 발명의 일 실시예에 따른 의료원문데이터의 문장을 분할하는 단계를 설명하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
도 4는 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
도 5는 본 발명의 일 실시예에 따른 의료증강데이터를 생성하는 단계의 세부 단계를 개략적으로 도시한다.
도 6은 본 발명의 일 실시예에 따른 컴퓨팅 시스템에 의하여 생성된 증강문장을 예시적으로 도시한다.
도 7은 본 발명의 일 실시예에 따른 개인건강정보를 인식하는 방법의 수행단계를 개략적으로 도시한다.
도 8은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
도 9는 본 발명의 일 실시예에 따른 기계학습된 제2학습모델의 동작을 개략적으로 도시한다.
도 10은 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법에 의하여 생성된 의료증강데이터에 기초하여 기계학습된 제2학습모델의 개인건강정보의 인식정도를 평가한 결과를 예시적으로 도시한다.
도 11은 본 발명의 일 실시예에 따른 의료합성데이터를 생성하는 방법의 수행단계를 개략적으로 도시한다.
도 12는 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
도 13은 본 발명의 일 실시예에 따른 기계학습된 제3학습모델의 동작을 개략적으로 도시한다.
도 14는 본 발명의 일 실시예에 따른 컴퓨팅장치를 예시적으로 도시한다.
1 schematically shows the overall execution steps of a method for augmenting medical text data according to an embodiment of the present invention.
2 is a view for explaining the step of dividing the text of the medical text data according to an embodiment of the present invention.
3 schematically illustrates the operation of a computing system according to an embodiment of the present invention.
4 schematically illustrates the operation of a computing system according to an embodiment of the present invention.
5 schematically shows detailed steps of generating medical augmentation data according to an embodiment of the present invention.
6 exemplarily illustrates an augmented sentence generated by a computing system according to an embodiment of the present invention.
7 schematically shows the steps of a method for recognizing personal health information according to an embodiment of the present invention.
8 schematically illustrates the operation of a computing system according to an embodiment of the present invention.
9 schematically illustrates the operation of a machine-learned second learning model according to an embodiment of the present invention.
10 exemplarily illustrates a result of evaluating the recognition level of personal health information of a machine-learned second learning model based on medical augmentation data generated by a method for augmenting medical text data according to an embodiment of the present invention. show
11 schematically illustrates the steps of a method for generating medical composite data according to an embodiment of the present invention.
12 schematically illustrates the operation of a computing system according to an embodiment of the present invention.
13 schematically illustrates the operation of a machine-learned third learning model according to an embodiment of the present invention.
14 exemplarily shows a computing device according to an embodiment of the present invention.

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art can easily implement them. However, the present invention may be embodied in several different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification, when a part is "connected" with another part, this includes not only the case of being "directly connected" but also the case of being "electrically connected" with another element interposed therebetween. . Also, when a part "includes" a certain component, it means that other components may be further included, rather than excluding other components, unless otherwise stated.

또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.Also, terms including an ordinal number, such as first, second, etc., may be used to describe various elements, but the elements are not limited by the terms. The above terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, a first component may be referred to as a second component, and similarly, a second component may also be referred to as a first component. and/or includes a combination of a plurality of related listed items or any of a plurality of related listed items.

본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다. 한편, '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, '~부'는 어드레싱 할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.In this specification, a "part" includes a unit realized by hardware, a unit realized by software, and a unit realized using both. In addition, one unit may be implemented using two or more hardware, and two or more units may be implemented by one hardware. Meanwhile, '~ unit' is not limited to software or hardware, and '~ unit' may be configured to be in an addressable storage medium or to reproduce one or more processors. Accordingly, as an example, '~' indicates components such as software components, object-oriented software components, class components, and task components, and processes, functions, properties, and procedures. , subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays and variables. The functions provided in the components and '~ units' may be combined into a smaller number of components and '~ units' or further separated into additional components and '~ units'. In addition, components and '~ units' may be implemented to play one or more CPUs in a device or secure multimedia card.

이하에서 언급되는 "사용자 단말"은 네트워크를 통해 서버나 타 단말에 접속할 수 있는 컴퓨터나 휴대용 단말기로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(desktop), 랩톱(laptop) 등을 포함하고, 휴대용 단말기는 예를 들어, 휴대성과 이동성이 보장되는 무선 통신장치로서, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말 등과 같은 모든 종류의 핸드헬드 (Handheld) 기반의 무선 통신 장치를 포함할 수 있다. 또한, "네트워크"는 근거리 통신망(Local Area Network;LAN), 광역 통신망(Wide Area Network; WAN) 또는 부가가치 통신망(Value Added Network; VAN) 등과 같은 유선네트워크나 이동 통신망(mobile radio communication network) 또는 위성 통신망 등과 같은 모든 종류의 무선 네트워크로 구현될 수 있다.The "user terminal" referred to below may be implemented as a computer or portable terminal that can access a server or other terminal through a network. Here, the computer includes, for example, a laptop, a desktop, a laptop, etc. equipped with a web browser (WEB Browser), and the portable terminal is, for example, a wireless communication device that guarantees portability and mobility. , PCS (Personal Communication System), GSM (Global System for Mobile communications), PDC (Personal Digital Cellular), PHS (Personal Handyphone System), PDA (Personal Digital Assistant), IMT (International Mobile Telecommunication)-2000, CDMA (Code) Division Multiple Access)-2000, W-Code Division Multiple Access (W-CDMA), Wireless Broadband Internet (Wibro) terminals, etc. may include all types of handheld-based wireless communication devices. In addition, "network" refers to a wired network such as a local area network (LAN), a wide area network (WAN), or a value added network (VAN), or a mobile radio communication network or satellite. It may be implemented in any kind of wireless network such as a communication network.

1.의료원문데이터를 증강하는 방법1. How to augment medical text data

도 1은 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법의 전체적인 수행 단계를 개략적으로 도시하고, 도 2는 본 발명의 일 실시예에 따른 의료원문데이터의 문장을 분할하는 단계를 설명하는 도면이다.1 schematically shows the overall execution steps of the method for augmenting medical text data according to an embodiment of the present invention, and FIG. 2 explains the step of dividing the text of medical text data according to an embodiment of the present invention is a drawing that

본 발명의 의료원문데이터를 증강하는 방법은 1 이상의 프로세서 및 1 이상의 메모리를 갖는 컴퓨팅 시스템에 의하여 수행될 수 있다.The method of augmenting medical text data of the present invention may be performed by a computing system having one or more processors and one or more memories.

본 발명의 일 실시예에서는, 의료원문데이터를 증강하는 방법은 컴퓨팅 시스템에서 수행되고, 이에 대한 결과를 사용자단말에 제공하는 형태로 수행될 수 있다. 혹은 본 발명의 일 실시예에서는, 사용자단말에서 직접적으로 수행될 수도 있고, 다른 실시예에서는 후술하는 단계들의 일부는 컴퓨팅 시스템에서 수행되고, 나머지 단계에 대해서는 사용자단말에서 수행될 수도 있다.In an embodiment of the present invention, the method of augmenting the medical text data may be performed in a computing system, and a result thereof may be provided to a user terminal. Alternatively, in one embodiment of the present invention, it may be directly performed in the user terminal, in another embodiment, some of the steps to be described later are performed in the computing system, and the remaining steps may be performed in the user terminal.

본 발명의 일 실시예들에 따른, 의료원문데이터를 증강하는 방법은, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계(S1000); 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계(S2000); 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계(S3000); 사이 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계(S4000); 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계(S5000); 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계(S6000);를 포함한다.According to an embodiment of the present invention, a method for augmenting textual medical data includes: loading textual medical data including personal information and medical record information (S1000); dividing each sentence included in the medical text data into sentence detail elements (S2000); performing masking on a sentence detail element arbitrarily selected from among the sentence detail elements of each sentence (S3000); Deriving an embedding vector for each sentence detail element masked or original is maintained by embedding the sentence detail elements of each sentence in a preset model (S4000); inputting the entire embedding vector for each sentence detailed component into the machine-learning model to derive an embedding vector of the predicted sentence detailed component corresponding to the masked sentence detailed component (S5000); Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical enhancement data according to a preset standard (S6000) ); includes.

구체적으로, 상기 의료원문데이터를 로드하는 단계(S1000)에서는, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드한다. 본 발명의 일 실시예에서는, 개개인들의 민감한 개인정보 및 의료기록정보를 포함하는 병원 등의 의료기관의 단말기로부터 의료원문데이터를 수신하여 로드할 수도 있고, 과거에 수신하여 컴퓨팅시스템의 데이터베이스에 저장되어 있는 의료원문데이터를 로드할 수도 있다. 상기 의료원문데이터는 의사 등의 의료진이 작성한 문서로서 의무기록, 병리기록지 등의 범위의 문서가 모두 해당될 수 있다.Specifically, in the step of loading the medical text data (S1000), the medical text data including personal information and medical record information is loaded. In one embodiment of the present invention, the medical text data may be received and loaded from the terminal of a medical institution such as a hospital including sensitive personal information and medical record information of individuals, and received in the past and stored in the database of the computing system. Medical text data can also be loaded. The medical text data is a document prepared by a medical team such as a doctor, and may correspond to all documents in the range of medical records, pathology records, and the like.

S2000단계에서는, S1000단계에서 로드한 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 본 발명의 일 실시예에 따른 의료원문데이터는 텍스트 데이터로서 복수의 문장을 포함할 수 있고, 의료원문데이터를 구성하는 문장 각각을 문장세부구성요소로 분할하여 토큰화를 수행할 수 있다. 바람직하게는, S2000단계에서는, 상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할할 수 있다. 또한, 본 발명의 일 실시예에서는 각각의 문장을 형태소 단위의 문장세부구성요소로 분할할 수도 있다.In step S2000, each sentence included in the medical text data loaded in step S1000 is divided into sentence detail elements. Medical text data according to an embodiment of the present invention may include a plurality of sentences as text data, and tokenization may be performed by dividing each sentence constituting the medical text data into sentence detail elements. Preferably, in step S2000, each of the sentences may be divided into sentence detail elements in units of words. In addition, in an embodiment of the present invention, each sentence may be divided into sentence detail elements in units of morphemes.

S3000단계에서는, S2000단계에서 분할된 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행한다. 본 발명의 일 실시예에서는, 의료원문데이터에 포함된 각각의 문장으로부터 분할된 단어 단위의 문장세부구성요소들 중에서 임의로 선택된 일부 문장세부구성요소에 마스킹을 수행할 수 있다. 예를 들어, 도 2에 도시된 바와 같이, 의료원문데이터에 “She is Doctor.” 라는 문장이 포함되어 있는 경우, 해당 문장은 She, is, 및 Doctor와 같은 문장세부구성요소로 분할될 수 있고, 각각의 문장세부구성요소 중에서 She에 마스킹이 수행되거나, is에 마스킹이 수행되거나, Doctor에 마스킹이 수행될 수 있다. 또한, 문장에서 하나의 단어에만 마스킹이 수행될 수도 있고, 2개, 3개 등 복수의 단어에 마스킹이 수행될 수도 있다. 이와 같이 S3000단계에서는, 복수의 문장의 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행한다.In step S3000, masking is performed on the sentence detail elements arbitrarily selected from among the detailed sentence elements of each of the sentences divided in step S2000. In one embodiment of the present invention, it is possible to perform masking on some sentence detail elements arbitrarily selected from among the word unit sentence detail elements divided from each sentence included in the medical text data. For example, as shown in FIG. 2, in the medical text data, “She is Doctor.” When the sentence “ Masking can be performed on Doctor. In addition, masking may be performed on only one word in a sentence, or masking may be performed on a plurality of words, such as two or three words. As described above, in step S3000, masking is performed on a sentence detail element arbitrarily selected from among the sentence detail elements of a plurality of sentences.

S4000단계에서는, 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출할 수 있다. S3000단계의 수행을 통해 일부 문장세부구성요소는 마스킹이 이루어지고, 이를 제외한 나머지 문장세부구성요소는 원본이 유지된 상태인 의료원문데이터의 각각의 문장을 기설정된 모델로 임베딩을 수행하여 임베딩벡터를 도출할 수 있다. 바람직하게는, 기설정된 모델은 임베딩을 위하여 개별적으로 구현될 수 있다.In step S4000, the embedding vector for each sentence detail component of each sentence is masked by embedding it with a preset model or the original is maintained. Through the execution of step S3000, some sentence detailed components are masked, and the remaining sentence detailed components are embedded with a preset model for each sentence of the medical text data in which the original is maintained to obtain an embedding vector. can be derived Preferably, the preset model can be implemented individually for embedding.

S5000단계에서는, 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 본 발명의 일 실시예에 따른 기계학습된 모델은 BERT(Bidirectional Encoder Representations from Transformers)모델에 의하여 구현될 수 있다. 이와 같은 기계학습된 모델은 S4000단계에서 임베딩된 임베딩벡터 전체를 입력 받고, 입력 받은 임베딩벡터 전체 중 마스킹된 문장세부구성요소에 대응하는 임베딩벡터에 대한 예측문장세부구성요소의 임베딩벡터를 도출한다.In step S5000, the embedding vectors of the prediction sentence detailed components corresponding to the masked sentence detailed components are derived by inputting the entire embedding vector for each sentence detailed component into the machine-learning model. The machine-learned model according to an embodiment of the present invention may be implemented by a BERT (Bidirectional Encoder Representations from Transformers) model. This machine-learning model receives the entire embedding vector embedded in step S4000, and derives the embedding vector of the prediction sentence detail component for the embedding vector corresponding to the masked sentence detailed component among all the received embedding vectors.

이후, S6000단계에서는, 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성한다. 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법은, 기계학습 모델을 보다 정확하게 학습시키고, 입력된 데이터에 대한 정확한 결과값을 획득하기 위하여 원본의 임베딩벡터와 원본의 임베딩벡터로부터 예측된 예측문장세부구성요소의 임베딩벡터 간의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성함으로써 예측문장세부구성요소의 신뢰성을 검증할 수 있다. 원본의 임베딩벡터와 예측된 예측문장세부구성요소의 임베딩벡터 간의 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성할 수 있다.Thereafter, in step S6000, the cosine similarity between the original embedding vector of the masked detailed sentence element and the embedding vector of the predicted sentence detailed element is derived, and based on the derived cosine similarity, medical enhancement data according to a preset standard to create In the method for augmenting medical text data according to an embodiment of the present invention, the original embedding vector and the original embedding vector are predicted from the original embedding vector and the original embedding vector in order to more accurately train the machine learning model and obtain an accurate result value for the input data. Reliability of detailed prediction sentence components can be verified by deriving a cosine similarity between embedding vectors of detailed prediction sentence components, and generating medical augmentation data according to a preset standard based on the derived cosine similarity. When the cosine similarity between the original embedding vector and the embedding vector of the predicted predictive sentence detailed element is equal to or greater than a preset criterion, the predictive sentence detailed element is inserted at a position where some sentence detailed elements of the medical text data are masked. Medical augmentation data can be created.

이와 같은 방식으로, 본 발명의 일 실시예에서는, 의료증강데이터를 생성하기 전에 마스킹 된 단어, 즉 마스킹 된 문장세부구성요소에 대하여 코사인유사도를 통한 검증을 수행함으로써 데이터를 증강하여 신뢰성 높은 학습데이터를 생성할 수 있는 효과를 발휘할 수 있다.In this way, in an embodiment of the present invention, by performing verification through cosine similarity with respect to the masked word, that is, the masked sentence detail component, before generating the medical augmentation data, the data is augmented to provide highly reliable learning data. The effect that can be created can be exerted.

도 3은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.3 schematically illustrates the operation of a computing system according to an embodiment of the present invention.

본 발명의 일 실시예에 따른 컴퓨팅 시스템은 의료원문데이터로부터 의료증강데이터를 생성할 수 있다. 증강하고자 하는 의료원문데이터는 의료원문데이터에는 이름, 나이, 및 성별 중 1 이상을 포함하는 개인정보 및 진료날짜, 및 진단명 중 1 이상을 포함하는 의료기록정보를 포함할 수 있다. 이와 같은 의료원문데이터를 로드하는 단계가 수행되면, 본 발명의 일 실시예에 따른 컴퓨팅 시스템은, 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 상기 문장 각각은 단어 단위의 문장세부구성요소로 분할되고, 바람직하게는, 상기 의료원문데이터에는, 분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 더 포함한다. 상기 라벨링정보는 사람에 의하여 각각의 단어마다의 기설정된 기준, 예를 들어, 도 3에 도시된 바와 같이, 날짜의 경우, B-DATE, 나이의 경우 B-AGE 등의 세부카테고리에 따라 설정되고, 이와 같이 설정된 라벨링정보가 포함될 수 있다. 상기 라벨링정보는 이후, 본 발명의 일 실시예에 따라 생성한 의료증강데이터, 의료증강데이터의 라벨링정보, 및 상기 의료원문데이터, 의료원문데이터의 라벨링정보에 기초하여 기계학습된 모델에 의하여 상기 개인정보 및 의료기록정보를 포함하는 개인건강정보(Personal Health Information)를 인식하는 데 기초가 된다.The computing system according to an embodiment of the present invention may generate medical augmentation data from medical text data. The medical text data to be augmented may include personal information including at least one of name, age, and gender, and medical record information including at least one of a medical treatment date and a diagnosis name in the medical text data. When this step of loading the medical text data is performed, the computing system according to an embodiment of the present invention divides each sentence included in the medical text data into sentence detail elements. Each of the sentences is divided into sentence detail elements in units of words, and preferably, the medical text data further includes labeling information labeled according to a preset criterion for each of the divided sentence detailed elements. The labeling information is set by a person according to a preset standard for each word, for example, as shown in FIG. 3, in the case of a date, B-DATE, in the case of age, such as B-AGE, and the like. , labeling information set in this way may be included. The labeling information is then generated according to an embodiment of the present invention by a machine-learning model based on the medical augmentation data, the labeling information of the medical augmentation data, and the medical text data and the labeling information of the medical text data. It is the basis for recognizing personal health information including information and medical record information.

도 4은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.4 schematically illustrates the operation of a computing system according to an embodiment of the present invention.

구체적으로, 도 4는 컴퓨팅 시스템의 S3000 내지 S5000단계의 동작을 개략적으로 도시한다. 도 4의 X input은 분할된 의료원문데이터의 각각의 문장들을 나타내고, 상기 컴퓨팅 시스템은 분할된 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행한다. 예를 들어, 의료원문데이터의 어느 하나의 문장이 “She is Doctor.” 라는 문장을 포함한다고 할 때, 각각의 She, is, 및 Doctor와 같은 문장세부구성요소로 분할될 수 있고, 문장세부구성요소마다 라벨링 된 라벨링정보와 관계없이, 도 4에 도시된 바와 같이 임의로 선택된 문장세부구성요소에 마스킹(예를 들어, is에 마스킹 혹은 Doctor에 마스킹)이 수행될 수 있다. 또한, 도 4에는 문장에서 하나의 단어에만 마스킹이 수행된 것으로 도시되었지만, 문장마다 임의로 선택된 2개, 3개 등 복수의 단어에 마스킹이 수행될 수도 있다. 이와 같이 마스킹이 수행된 후, 컴퓨팅 시스템은, 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되었거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출한다. 바람직하게는, 본 발명의 일 실시예에서는, 임베딩벡터를 도출하는 모듈을 개별적으로 포함할 수도 있고, 예측문장세부구성요소를 도출하기 위한 기계학습된 모델에서 자체적으로 임베딩벡터를 도출할 수도 있다. 본 발명의 일 실시예에 따른, 기계학습된 모델은, BERT는 자연어 처리 사전 학습을 위한 Transformer기반 기계 학습 기술을 이용한 BERT모델을 이용할 수 있다.Specifically, FIG. 4 schematically shows the operation of steps S3000 to S5000 of the computing system. The X input of FIG. 4 represents each sentence of the divided medical text data, and the computing system performs masking on a sentence detail component arbitrarily selected from among the divided sentence detail components. For example, if any one sentence of the medical text data is “She is Doctor.” When including the sentence ', it can be divided into sentence detail components such as She, is, and Doctor, respectively, and arbitrarily selected as shown in FIG. 4 irrespective of the labeling information labeled for each sentence detail component Masking may be performed on sentence subcomponents (eg, masking is or masking Doctor). In addition, although it is illustrated in FIG. 4 that masking is performed on only one word in a sentence, masking may be performed on a plurality of words such as two or three randomly selected words for each sentence. After the masking is performed in this way, the computing system embeds the sentence detailed elements of each sentence into a preset model to derive an embedding vector for each sentence detail element that is masked or the original is maintained. Preferably, in an embodiment of the present invention, a module for deriving an embedding vector may be individually included, or an embedding vector may be derived by itself from a machine-learning model for deriving a predictive sentence detail component. In the machine-learning model according to an embodiment of the present invention, the BERT may use a BERT model using a Transformer-based machine learning technology for natural language processing dictionary learning.

이후, 컴퓨팅 시스템은, 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 이후, 도 3에 도시된 바와 같이 마스킹된 문장세부구성요소 및 원본이 유지된 문장세부구성요소 각각에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 이후, 컴퓨팅 시스템은 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하여, 일부가 마스킹 된 위치에 예측문장세부구성요소로 대체된 증강문장을 생성하여 의료증강데이터를 생성할 수 있다. 이와 같이, 생성된 의료증강데이터는 이후, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 인식하는 기계학습모델을 학습시키는데 기초가 된다.Thereafter, the computing system inputs the entire embedding vector for each sentence detail component into the machine-learning model to derive an embedding vector of the predicted sentence detail component corresponding to the masked sentence detail component. Thereafter, as shown in FIG. 3 , an embedding vector of a predicted sentence detailed component corresponding to each of the masked sentence detailed component and the original maintained sentence detailed component is derived. After that, the computing system derives the cosine similarity between the embedding vector of the original embedding vector of the masked sentence detail component and the embedding vector of the prediction sentence detailed component, and the augmented sentence replaced with the prediction sentence detailed component at a partially masked position. You can create medical augmentation data by creating it. In this way, the generated medical augmentation data becomes the basis for learning a machine learning model for recognizing personal health information including personal information and medical record information thereafter.

이하에서는, 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계에 대하여 보다 구체적으로 설명하도록 한다.Hereinafter, the step of generating medical augmentation data according to a preset criterion based on the cosine similarity will be described in more detail.

도 5는 본 발명의 일 실시예에 따른 의료증강데이터를 생성하는 단계의 세부 단계를 개략적으로 도시한다.5 schematically shows detailed steps of generating medical augmentation data according to an embodiment of the present invention.

전술한 바와 같이, 컴퓨팅 시스템은 코사인 유사도에 기초하여 기계학습된 모델로부터 예측된 예측문장세부구성요소와 의료원문데이터의 문장세부구성요소 사이의 단어유사도를 판별할 수 있다. 상기 의료증강데이터를 생성하는 단계는, 도 4에 도시된 S610 내지 S630 단계를 포함한다.As described above, the computing system may determine the word similarity between the predictive sentence detailed component predicted from the machine-learning model and the sentence detailed component of the medical text data based on the cosine similarity. The generating of the medical augmentation data includes steps S610 to S630 shown in FIG. 4 .

구체적으로, S610단계에서는, 마스킹된 문장세부구성요소의 임베딩벡터 및 마스킹된 문장세부구성요소에 대응되는 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출한다. 바람직하게는, 상기 코사인유사도는 하기의 도출식 1에 의하여 도출될 수 있다.Specifically, in step S610, the cosine similarity of the embedding vector of the masked detailed sentence element and the embedding vector of the predicted sentence detailed element corresponding to the masked sentence detailed element is derived. Preferably, the cosine similarity may be derived by Equation 1 below.

<도출식 1><Equation 1>

Figure 112021064900208-pat00002
Figure 112021064900208-pat00002

예를 들어, 의료원문데이터에 포함된 NURSE라는 문장세부구성요소의 임베딩벡터가 [a1, a2]이고, 예측된 DOCTOR라는 예측문장세부구성요소의 임베딩벡터가 [b1, b-2] 일 때, 각각의 임베딩벡터 [a1, a2] 및 [b1, b-2]에 대한 코사인유사도를 상기 도출식1에 의하여 도출할 수 있다.For example, the embedding vector of the sentence subcomponent called NURSE included in the medical text data is [a 1, a 2 ], and the embedding vector of the predicted sentence subcomponent called DOCTOR is [b 1 , b- 2 ] , the cosine similarity for each of the embedding vectors [a 1, a 2 ] and [b 1 , b- 2 ] can be derived by Equation 1 above.

이후, S620단계에서는, 상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별한다. 상기 S610단계에서 도출된 코사인유사도는 바람직하게는, -1 내지 1사이의 값이 도출될 수 있고, -1은 문장세부구성요소 및 예측문장세부구성요소가 전혀 다른 단어임을 판별할 수 있는 값을 의미하고, 1은 문장세부구성요소 및 예측문장세부구성요소가 동일한 단어임을 판별할 수 있는 값임을 의미한다. 컴퓨팅 시스템은 상기 -1 내지 1 사이의 값으로 도출된 코사인유사도에 기초하여 두 단어 사이의 유사도를 판별하는 기설정된 기준을 충족하는 지를 판별함으로써, 두 단어 사이의 의미유사도를 판별할 수 있다.Thereafter, in step S620, it is determined whether the cosine similarity is equal to or greater than a preset criterion. For the cosine similarity derived in step S610, a value between -1 and 1 can be derived, and -1 is a value capable of discriminating that the sentence detail component and the predicted sentence detail component are completely different words. means, and 1 means that it is a value capable of discriminating that the sentence detailed component and the predicted sentence detailed component are the same word. The computing system may determine the semantic similarity between the two words by determining whether a preset criterion for determining the similarity between the two words is satisfied based on the cosine similarity derived as a value between -1 and 1.

이후, S620단계에서는, 상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성한다. 예를 들어, S610단계에서의 기설정된 기준이 0.5라고 하고, 상기 일 실시예에서, NURSE와 DOCTOR사이의 코사인유사도가 0.7이 도출된 경우, 두 단어 사이의 코사인유사도는 기설정된 기준을 충족하고, S620단계에서는, 의료원문데이터의 문장에서 NURSE가 마스킹된 위치에 DOCTOR를 삽입할 수 있다. 다른 예에서, 의료원문데이터의 일부 문장세부구성요소가 NURSE이고, 이를 예측한 예측문장세부구성요소가 PATIENT 라고할 때 두 단어 사이의 코사인유사도가 -0.5가 도출된 경우, 두 단어 사이의 코사인유사도는 기설정된 기준을 충족하지 못하고, S620단계에서는, NURSE가 마스킹된 위치에 PATIENT를 대체하지 않는다. 바람직하게는, S620단계에서는, 상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않는다.Thereafter, in step S620, when the cosine similarity is equal to or greater than a preset criterion, the medical augmentation data is generated by inserting the predictive sentence detailed component at a position where some sentence detailed components of the medical text data are masked. For example, if the preset criterion in step S610 is 0.5, and in the above embodiment, when the cosine similarity between NURSE and DOCTOR is 0.7 derived, the cosine similarity between the two words meets the preset criterion, In step S620, the DOCTOR may be inserted at the position where the NURSE is masked in the text of the medical text data. In another example, when some sentence subcomponents of medical text data are NURSE and the predicted sentence subcomponent that predicted this is PATIENT, when the cosine similarity between two words is -0.5, the cosine similarity between two words does not meet the preset criteria, and in step S620, does not replace PATIENT at the position where NURSE is masked. Preferably, in step S620, when the cosine similarity is less than or equal to a preset criterion, the predicted sentence detailed components predicted by the machine-learning model are inserted at positions where some sentence detailed components of the medical text data are masked. doesn't happen

이와 같은 방식으로, 본 발명의 일 실시예에서는, 코사인유사도를 이용하여 원문데이터의 문장세부구성요소로부터 예측된 문장세부구성요소의 단어유사성을 측정하여 기설정된 기준을 충족하는 경우에만 마스킹된 단어를 변환함으로써, 단순히 양을 늘리기 위한 데이터 증강을 수행하지 않고, 기게학습된 모델을 바람직하게 강화시킬 수 있는 신뢰성 높은 증강데이터를 생성할 수 있는 효과를 발휘할 수 있다.In this way, in one embodiment of the present invention, the word similarity of the sentence detailed component predicted from the sentence detailed component of the original data is measured using the cosine similarity, and the masked word is used only when a preset criterion is satisfied. By transforming, it is possible to exert the effect of generating highly reliable augmented data that can preferably enhance the pre-trained model without simply performing data augmentation to increase the quantity.

도 6은 본 발명의 일 실시예에 따른 컴퓨팅 시스템에 의하여 생성된 증강문장을 예시적으로 도시한다.6 exemplarily illustrates an augmented sentence generated by a computing system according to an embodiment of the present invention.

도 6은 상기와 같은 의료원문데이터를 증강하는 방법에 의하여 문장의 임의의 문장세부구성요소에 마스킹을 수행하고, 이를 예측한 예측문장세부구성요소를 삽입한 증강문장을 예시적으로 도시한다. 도 6에 도시된 바에 따르면, 해당 의료원문데이터에 포함된 문장(도 6에서 None)은 각각의 문장세부구성요소 He, has, h/o, drug/ETOG, abuse, but, denies, 및 X로 분할되고, 분할된 각각의 문장세부구성요소에 대응하여 기계학습된 모델을 통해 도출된 증강문장(도 6에서 Filtered BERT Augmentation)은 He, has, h/o, drug/ETOG, abuse, but, 및 X는 동일하고, denies의 위치에 dinied가 삽입되어 증강문장이 생성됨이 도시된다. 이와 같이, 상기 코사인유사도에 기초하여 기설정된 기준에 따라 증강데이터를 생성함으로써, 단어의 유사성이 높은 단어로 대체되어 증강데이터를 생성할 수 있는 효과를 발휘할 수 있다.6 exemplarily illustrates an augmented sentence in which masking is performed on an arbitrary sentence detailed component of a sentence by the method of augmenting the medical text data as described above, and a predicted sentence detailed component is inserted. As shown in FIG. 6, the sentences (None in FIG. 6) included in the corresponding medical text data are each sentence detail components He, has, h/o, drug/ETOG, abuse, but, denies, and X. The augmented sentences (Filtered BERT Augmentation in FIG. 6) derived through a machine-learning model in response to the segmented and segmented sentence detail components are He, has, h/o, drug/ETOG, abuse, but, and It is shown that X is the same, and dinied is inserted at the position of denies to generate augmented sentences. In this way, by generating the augmented data according to a preset criterion based on the cosine similarity, it is possible to generate the augmented data by replacing the word with a word having a high similarity.

이하에서는, 이와 같은 방식으로 학습된 의료증강데이터 및 의료원문데이터에 의하여 기계학습된 제2모델에 의하여 입력된 입력의료데이터의 개인건강정보를 인식하는 방법에 대하여 구체적으로 설명하도록 한다. Hereinafter, a method of recognizing the personal health information of the input medical data input by the second model machine-learned by the medical augmentation data and the medical text data learned in this way will be described in detail.

2.입력의료데이터의 개인건강정보를 인식하는 방법2. How to recognize personal health information in input medical data

도 7은 본 발명의 일 실시예에 따른 개인건강정보를 인식하는 방법의 전체적인 수행단계를 개략적으로 도시한다.7 schematically shows the overall execution steps of a method for recognizing personal health information according to an embodiment of the present invention.

개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계(S1000); 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계(S2000); 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계(S3000); 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계(S4000); 기계학습된 제1학습모델에 의하여, 상기 임베딩벡터 전체에 대응되는 예측문장세부구성요소의 임베딩벡터를 도출하고, 원본의 임베딩 벡터 및 예측문장세부구성요소 사이의 코사인유사도에 기초하여 의료증강데이터를 생성하는 의료증강데이터생성단계(S5000 및 S6000); 상기 의료원문데이터 및 상기 의료증강데이터에 기초하여 기설정된 제2학습모델의 기계학습을 수행하는 단계(S7000); 및 입력의료데이터를 수신하고, 상기 의료원문데이터 및 상기 의료증강데이터에 기초하여 기계학습된 제2학습모델에 의하여, 입력의료데이터에 포함된 개인정보 및 의료기록정보를 포함하는 개인건강정보를 판별하는 단계(S8000); 및 판별된 상기 개인건강정보의 세부카테고리를 결정하여 입력의료데이터에 포함된 개인건강정보의 세부카테고리에 대한 정보를 라벨링 하는 단계(S9000);를 포함한다.Loading the medical text data including personal information and medical record information (S1000); dividing each sentence included in the medical text data into sentence detail elements (S2000); performing masking on a sentence detail element arbitrarily selected from among the sentence detail elements of each sentence (S3000); deriving an embedding vector for each sentence detail element masked by embedding the sentence detail elements of each sentence into a preset model or the original is maintained (S4000); By the machine-learned first learning model, an embedding vector of a predicted sentence detailed component corresponding to the entire embedding vector is derived, and medical augmentation data is obtained based on the cosine similarity between the original embedding vector and the predicted sentence detailed component. generating medical augmentation data generating step (S5000 and S6000); performing machine learning of a preset second learning model based on the medical text data and the medical augmentation data (S7000); and receiving the input medical data, and determining personal health information including personal information and medical record information included in the input medical data by the second machine-learning model based on the medical text data and the medical augmentation data. to (S8000); and determining a detailed category of the determined personal health information and labeling information on a detailed category of personal health information included in the input medical data (S9000).

상기 S1000단계에서는, 의료증강데이터를 생성하는 방법에서 전술한 S1000단계와 상응하는 바, 구체적인 설명에 대하여 생략하도록 한다.The step S1000 corresponds to the step S1000 described above in the method of generating medical enhancement data, and thus a detailed description thereof will be omitted.

S2000단계에서는, S1000단계에서 로드한 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 본 발명의 일 실시예에 따른 의료원문데이터는 텍스트 데이터로서 복수의 문장을 포함할 수 있고, 의료원문데이터를 구성하는 문장 각각을 문장세부구성요소로 분할하여 토큰화를 수행할 수 있다. 바람직하게는, S2000단계에서는, 상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할할 수 있고, 더욱 바람직하게는, 상기 컴퓨팅 시스템은, 각각의 문장을 형태소 단위의 문장세부구성요소로 분할할 수 있다. 이와 같이 각각의 문장을 형태소 단위로 분할하는 경우, 학습모델에서 문장을 다시 복원하는 경우, 각각의 문장세부구성요소의 순서를 인식할 수 있도록 하기 위하여, 상기 컴퓨팅 시스템은, 상기 문장세부구성요소로 분할하는 단계에서는, 형태소 단위로 분할된 문장세부구성요소 사이에 복원정보를 삽입할 수 있다. 예를 들어, "playing" 이라는 문장세부구성요소를 'play'와 'ing'의 문장세부구성요소로 더 분할한 경우, 본 발명의 일 실시예에서는, play와 ing 사이에 ##(상기 복원정보의 일 예)를 삽입하여 두 문장세부구성요소 사이의 연결관계를 판단할 수 있도록 한다.In step S2000, each sentence included in the medical text data loaded in step S1000 is divided into sentence detail elements. Medical text data according to an embodiment of the present invention may include a plurality of sentences as text data, and tokenization may be performed by dividing each sentence constituting the medical text data into sentence detail elements. Preferably, in step S2000, each of the sentences may be divided into sentence sub-components in units of words, and more preferably, the computing system divides each sentence into sentence sub-components in units of morphemes. can In this way, when each sentence is divided into morpheme units, when the sentence is restored in the learning model, in order to recognize the order of each sentence detailed component, the computing system is In the dividing step, restoration information may be inserted between the sentence details divided into morpheme units. For example, when the detailed sentence component of "playing" is further divided into sentence details of 'play' and 'ing', in one embodiment of the present invention, ## (the restoration information) between play and ing (an example of ) is inserted so that the connection relationship between two sentence detail elements can be determined.

이후, 상기 S3000 내지 S6000단계는 상기 의료증강데이터를 생성하는 방법에서 설명한 것과 동일한 바, 구체적인 설명은 생략하도록 한다. Thereafter, the steps S3000 to S6000 are the same as those described in the method for generating the medical enhancement data, and detailed descriptions thereof will be omitted.

이후, S7000단계에서는, 상기 의료원문데이터 및 상기 의료증강데이터에 기초하여 기설정된 제2학습모델의 기계학습을 수행한다. 전술한 바와 같이, 개인정보 및 의료기록정보를 포함하는 의료임상데이터는 의료진이 직접 작성한 의료텍스트로서 의료원문데이터에 포함된 개인건강정보를 인식하여, 비식별화하는 작업을 필요로 하고, 본 발명의 일 실시예에서는, 상기 의료원문데이터 및 의료증강데이터에 의하여 기설정된 제2학습모델을 학습시킬 수 있다. 바람직하게는, 상기 의료원문데이터는 기설정된 기준에 따른 제1라벨링정보를 포함하고, 상기 의료증강데이터는 기설정된 기준에 따른 제2라벨링정보를 포함하고, 컴퓨팅 시스템은, 상기 제1라벨링정보를 포함하는 의료원문데이터 및 각각의 의료데이터의 텍스트 정보 및 텍스트 정보를 문장세부구성요소로 분할하여 각각의 문장세부구성요소에 따라 기설정된 기준으로 라벨링 된 라벨링정보를 제2학습모델에 학습시킬 수 있다. 상기 제1라벨링정보 및 상기 제2라벨링정보는 인간에 의하여 기설정된 기준에 따라 설정될 수 있다.Thereafter, in step S7000, machine learning of a preset second learning model is performed based on the medical text data and the medical augmentation data. As described above, medical clinical data including personal information and medical record information is a medical text directly written by a medical staff, and requires a task of recognizing and de-identifying personal health information included in the medical text data, and the present invention In an embodiment of , a preset second learning model may be trained based on the medical text data and the medical augmentation data. Preferably, the medical text data includes first labeling information according to a preset standard, the medical enhancement data includes second labeling information according to a preset standard, and the computing system receives the first labeling information By dividing the text information and text information of the medical text data and each medical data into sentence detailed components, the second learning model can learn the labeling information labeled according to a preset standard according to each sentence detailed component. . The first labeling information and the second labeling information may be set according to a standard preset by a human.

이후 S8000단계에서는, 의료원문데이터 및 상기 의료증강데이터에 기초하여 기계학습된 제2학습모델에 입력의료데이터가 입력되는 경우, 입력된 입력의료데이터에 포함된 개인정보 및 의료기록정보를 포함하는 개인건강정보를 판별한다. 바람직하게는 상기 입력의료데이터는 기설정된 기준에 따른 제3라벨링정보를 포함하고, 상기 기계학습된 제2학습모델에 입력의료데이터가 입력되면, 상기 기계학습된 제2학습모델은 입력의료데이터에 포함된 문장들 중 개인정보 및 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별할 수 있다.Thereafter, in step S8000, when input medical data is input to the second learning model machine-learned based on the medical text data and the medical augmentation data, personal information and medical record information included in the input medical data are entered. Identify health information. Preferably, the input medical data includes third labeling information according to a preset criterion, and when the input medical data is input to the machine-learned second learning model, the machine-learned second learning model is applied to the input medical data. Among the included sentences, it is possible to determine the detailed sentence elements corresponding to personal health information including personal information and medical record information.

본 발명의 일 실시예에서는, 의료문서의 비식별화를 위해 사용되는 i2b2 2014데이터를 의료원문데이터로 사용할 수 있고, i2b2 2014데이터에 포함된 기설정된 라벨링정보에 기반한 세부카테고리에 따라 상기 입력의료데이터에 포함된 문장을 분석하여 문장 각각의 문장세부구성요소 중 개인정보 및 의료기록정보를 판별하고, 개인정보 및 의료기록정보에 해당하는 문장세부구성요소의 세부카테고리정보를 판별할 수 있다.In an embodiment of the present invention, i2b2 2014 data used for de-identification of medical documents can be used as medical text data, and the input medical data according to a detailed category based on preset labeling information included in i2b2 2014 data By analyzing the sentence included in the sentence, it is possible to determine personal information and medical record information among the detailed sentence elements of each sentence, and to determine the detailed category information of the sentence detailed element corresponding to the personal information and medical record information.

이와 같은 방식으로, 본 발명의 일 실시예에서는, 코사인유사도에 의하여 유사성이 높게 생성된 의료증강데이터를 이용하여 학습모델을 학습시키고, 기계학습된 모델을 이용하여 입력된 의료데이터의 개인건강정보를 인식할 수 있기 때문의 종래의 기술보다 개인건강정보를 보다 신속하고 정확하게 판별할 수 있는 효과를 발휘할 수 있다.In this way, in an embodiment of the present invention, a learning model is trained using medical augmentation data generated with high similarity by cosine similarity, and personal health information of medical data input using the machine-learning model is obtained. Because it can recognize personal health information more quickly and accurately than the conventional technology, it can exhibit the effect of being able to identify.

도 8은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.8 schematically illustrates the operation of a computing system according to an embodiment of the present invention.

전술한 바와 같이, 본 발명의 컴퓨팅 시스템은, 코사인유사도에 기초하여 의료원문데이터로부터 의료증강데이터를 도출하고, 상기 의료원문데이터 및 의료증강데이터에 기초하여 기설정된 제2학습모델을 기계학습시킬 수 있다.As described above, the computing system of the present invention can derive medical augmentation data from the medical text data based on the cosine similarity, and machine-lear a preset second learning model based on the medical text data and the medical augmentation data. have.

바람직하게는, 도 8에 도시된 바와 같이 상기 의료원문데이터는 기설정된 기준에 따른 제1라벨링정보를 포함하고, 상기 의료증강데이터는 기설정된 기준에 따른 제2라벨링정보를 포함하고, 컴퓨팅 시스템은, 상기 제1라벨링정보를 포함하는 의료원문데이터 및 각각의 의료데이터의 텍스트 정보 및 텍스트 정보를 문장세부구성요소로 분할하여 각각의 문장세부구성요소에 따라 기설정된 기준으로 라벨링 된 라벨링정보를 제2학습모델에 학습시킬 수 있다. 상기 제1라벨링정보 및 상기 제2라벨링정보는 인간에 의하여 기설정된 기준에 따라 설정될 수 있다. 이와 같이, 의료원문데이터 및 의료증강데이터의 텍스트 정보뿐만 아니라, 각각의 문장세부구성요소에 상응하는 라벨링정보를 함께 학습함으로써, 입력의료데이터의 입력 시, 입력의료데이터의 개인건강정보에 해당하는 형태소 형태의 문장세부구성요소를 인식할 수 있는 효과를 발휘할 수 있다.Preferably, as shown in FIG. 8 , the medical text data includes first labeling information according to a preset standard, and the medical enhancement data includes second labeling information according to a preset standard, and the computing system comprises: , The medical text data including the first labeling information and the text information and text information of each medical data are divided into sentence detailed components, and the labeling information labeled according to a preset standard according to each sentence detailed component is a second It can be trained on a learning model. The first labeling information and the second labeling information may be set according to a standard preset by a human. In this way, by learning not only the text information of the medical text data and the medical augmentation data, but also the labeling information corresponding to each sentence detailed component, when inputting the input medical data, the morpheme corresponding to the personal health information of the input medical data It can exert the effect of recognizing the sentence details of the form.

도 9는 본 발명의 일 실시예에 따른 기계학습된 제2학습모델의 동작을 개략적으로 도시한다.9 schematically illustrates the operation of a machine-learned second learning model according to an embodiment of the present invention.

구체적으로, 도 9의 (a)는 의료원문데이터에 의하여 기계학습된 학습모델의 동작을 개략적으로 도시하고, 도 9의 (b)는 의료원문데이터 및 의료증강데이터에 의하여 기계학습된 학습모델의 동작을 개략적으로 도시한다. Specifically, Fig. 9 (a) schematically shows the operation of a learning model machine-learned by medical text data, and Fig. 9 (b) is a learning model machine-learned by medical text data and medical augmentation data. The operation is schematically shown.

바람직하게는, 기계학습된 제2학습모델은, BERT(Bidirectional Encoder Representations from Transformers)모델이다.Preferably, the machine-learned second learning model is a BERT (Bidirectional Encoder Representations from Transformers) model.

종래의 기술에서는, 인력에 의한 수동적인 방법 혹은 룰베이스 기반의 알고리즘에 의하여 개인건강정보를 식별하였다. 그러나, 인력에 의한 방법은 정확도가 감소하며, 비효율적인 비용과 시간의 문제가 있었고, 룰베이스 기반 알고리즘은, 오타 혹은 축약어와 같이 기설정된 형태를 벗어나는 경우, 해당 개인건강정보를 전혀 판별하지 못한다는 문제점이 있었다. 이와 같은 문제를 해결하기 위하여 기존의 미리 학습된 제2학습모델을 본 발명의 일 실시예에 따른 의료원문데이터 및 의료증강데이터에 기초하여 학습시키고, 의료원문데이터 및 의료증강데이터에 의하여 기계학습된 제2학습모델을 이용하여, 각각의 문장세부구성요소의 라벨링정보에 기초하여 분할된 문장세부구성요소에서 개인정보 및 의료기록정보를 포함하는 개인건강정보를 판별할 수 있다. 또한, 전술한 바와 같이, 문장세부구성요소로 분할하는 단계에서는, 형태소 단위로 문장세부구성요소를 분할하고, 분할된 문장세부구성요소사이에 복원정보를 삽입하기 때문에, 기설정된 규칙형태가 아닌 텍스트가 입력되는 경우에도, 해당 텍스트의 개인건강정보 여부를 판별하고, 판별한 개인건강정보의 세부카테고리정보를 인식할 수 있다. 도 9의 (b)는 T1, T2, 및 T3(도 9에서 문장세부구성요소)의 각각의 단어속성에 따른 각각의 세부카테고리정보를 판별된 것이 도시된다. 이와 같이, 본 발명의 일 실시예에서는, 증강된 데이터를 활용하여 기계학습된 학습모델을 이용하여 보다 신속하고 정확하게 의료임상데이터에서 민감한 개인정보 및 의료기록정보를 인식할 수 있는 효과를 발휘할 수 있다.In the prior art, personal health information was identified by a manual method by manpower or an algorithm based on a rule base. However, the manual method has reduced accuracy, inefficient cost and time problems, and the rule base-based algorithm cannot determine the personal health information at all if it deviates from a preset form such as a typo or abbreviation. There was a problem. In order to solve such a problem, the existing pre-learned second learning model is trained based on the medical text data and medical augmentation data according to an embodiment of the present invention, and machine-learned by the medical text data and the medical augmentation data. Using the second learning model, it is possible to determine personal health information including personal information and medical record information from the divided sentence detailed components based on the labeling information of each sentence detailed component. In addition, as described above, in the step of dividing into detailed sentence elements, since the detailed sentence elements are divided in units of morphemes and restoration information is inserted between the divided sentence detailed elements, the text is not in the form of a preset rule. Even when is input, it is possible to determine whether the text is personal health information, and to recognize detailed category information of the determined personal health information. 9 (b) shows that each detailed category information according to each word attribute of T 1 , T 2 , and T 3 (sentence detailed components in FIG. 9 ) is determined. As such, in one embodiment of the present invention, it is possible to exert the effect of recognizing sensitive personal information and medical record information in medical clinical data more quickly and accurately using a machine-learning learning model using the augmented data. .

도 10은 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법에 의하여 생성된 의료증강데이터에 기초하여 기계학습된 제2학습모델의 개인건강정보의 인식정도를 평가한 결과를 예시적으로 도시한다.10 exemplarily illustrates a result of evaluating the recognition level of personal health information of a machine-learning second learning model based on medical augmentation data generated by a method of augmenting medical text data according to an embodiment of the present invention. show

도 10은 의료원문데이터와 의료원문데이터를 증강하는 방법에 의하여 생성된 의료증강데이터에 기초하여 기계학습된 제2학습모델에 의하여 실제 판별된 개인건강정보의 인식정도를 평가한 결과를 도시한다. 도 10의 Tag는 세부카테고리정보에 해당할 수 있다. 각각의 DOCTOR, PATIENT, USERNAME, PROFESSION, HOSPITAL, COUNTRY, ORGANIZATION 등과 같은 세부카테고리정보에 대하여 종래의 기계학습된 모델을 이용한 경우의 PRECISION 및 RECALL 정도와 F1-Score를 도시한다. 도 10에 도시된 바와 같이, 본 발명의 일 실시예에 따른 개인건강정보를 인식하기 위한 방법에 따른 모델의 성능을 나타내는 지표(도 10에서 각 지표의 afterRKQT)이 보다 높은 값을 나타냄을 도시한다. 이와 같이 상기 코사인유사도에 기초하여 기설정된 기준에 따라 증강데이터를 생성하여, 생성된 의료증강데이터와 의료원문데이터를 형태소 형태로 분할하고, 각각의 형태소 형태로 분할된 문장세부구성요소와 문장세부구성요소의 라벨링정보에 기초하여 기계학습된 모델을 활용하여, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 보다 정확하고 신속하게 인식할 수 있는 효과를 발휘할 수 있다.10 shows the results of evaluating the recognition level of personal health information actually determined by the second machine-learning model based on the medical text data and the medical augmentation data generated by the method for augmenting the original medical data. The tag of FIG. 10 may correspond to detailed category information. It shows the degree of PRECISION and RECALL and F1-Score when using the conventional machine-learning model for detailed category information such as DOCTOR, PATIENT, USERNAME, PROFESSION, HOSPITAL, COUNTRY, ORGANIZATION, etc. As shown in Fig. 10, it is shown that the index (afterRKQT of each index in Fig. 10) indicating the performance of the model according to the method for recognizing personal health information according to an embodiment of the present invention shows a higher value . In this way, based on the cosine similarity, augmented data is generated according to a preset criterion, the generated medical augmentation data and the medical text data are divided into morpheme forms, and sentence detail components and sentence details divided into each morpheme form. By using a machine-learning model based on the element's labeling information, it is possible to exert the effect of more accurately and quickly recognizing personal health information including personal information and medical record information.

3.개인건강정보를 인식하여 의료합성데이터를 생성하는 방법3. Method of generating medical synthetic data by recognizing personal health information

도 11은 본 발명의 일 실시예에 따른 의료합성데이터를 생성하는 방법의 수행단계를 개략적으로 도시한다.11 schematically illustrates the steps of a method for generating medical composite data according to an embodiment of the present invention.

본 발명의 일 실시예에 따른 기계학습된 모델을 이용하여 개인건강정보를 인식하고, 인식한 개인건강정보를 변경하여 의료합성데이터를 생성하는 방법은, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 포함하는 입력의료데이터를 로드하는 단계(S10000); 상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계(S20000); 상기 입력의료데이터를 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별하는 개인건강정보판별단계(S30000); 판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는 단계(S40000); 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계(S50000); 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 제3학습모델에 입력하여 마스킹된 개인건강정보에 상응하는 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계(S60000); 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성하는 단계(S70000);를 포함한다.A method of recognizing personal health information using a machine-learning model according to an embodiment of the present invention, and generating medical composite data by changing the recognized personal health information, includes personal health information including personal information and medical record information. Loading input medical data including information (S10000); dividing each sentence included in the input medical data into sentence detail components (S20000); The input medical data is input to the machine-learned second learning model, and sentence details corresponding to personal health information including the personal information and the medical record information among the sentence details of each sentence included in the input medical data Personal health information identification step of determining the components (S30000); performing masking on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information (S40000); deriving an embedding vector for each sentence detail component that is masked or the original is maintained by embedding the sentence detailed components of each sentence into a preset model (S50000); Inputting the entire embedding vector for each detailed sentence component into the machine-learned third learning model to derive the embedding vector of the predicted sentence detailed component corresponding to the sentence detailed component corresponding to the masked personal health information ( S60000); Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical composite data according to a preset standard (S70000) ); includes.

구체적으로, S10000단계에서는, 본 발명의 일 실시예에서는, 의료합성데이터를 생성하기 위한 입력의료데이터를 외부의 컴퓨팅 장치로부터 수신할 수도 있고, 컴퓨팅 시스템에 기저장된 의료원문데이터 혹은 의료증강데이터 등의 개인건강정보를 포함하는 의료데이터를 입력의료데이터로 로드할 수도 있다. 상기 의료원문데이터는 의사 등의 의료진이 작성한 문서로서 의무기록, 병리기록지 등의 범위의 문서가 모두 해당될 수 있다.Specifically, in step S10000, in an embodiment of the present invention, input medical data for generating medical composite data may be received from an external computing device, and medical text data or medical augmentation data stored in the computing system in advance Medical data including personal health information may be loaded as input medical data. The medical text data is a document prepared by a medical team such as a doctor, and may correspond to all documents in the range of medical records, pathology records, and the like.

S20000단계에서는, S10000단계에서 로드한 상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 본 발명의 일 실시예에 따른 입력의료데이터는 텍스트 데이터로서 복수의 문장을 포함할 수 있고, 입력의료데이터를 구성하는 문장 각각을 문장세부구성요소로 분할하여 토큰화를 수행할 수 있다. 바람직하게는, S20000단계에서는, 상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할할 수 있다. 또한, 본 발명의 일 실시예에서는 각각의 문장을 형태소 단위의 문장세부구성요소로 분할할 수도 있다.In step S20000, each sentence included in the input medical data loaded in step S10000 is divided into sentence detail elements. The input medical data according to an embodiment of the present invention may include a plurality of sentences as text data, and tokenization may be performed by dividing each sentence constituting the input medical data into sentence detail elements. Preferably, in step S20000, each of the sentences may be divided into sentence detail elements in units of words. In addition, in an embodiment of the present invention, each sentence may be divided into sentence detail elements in units of morphemes.

S30000단계에서는, 상기 입력의료데이터를 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별한다. 바람직하게는, 상기 기계학습된 제2학습모델은, 개인건강정보를 인식하는 방법에서 설명한 의료원문데이터 및 의료증강데이터에 기초하여 기계학습되고, 상기 입력의료데이터는 기설정된 기준에 따른 제3라벨링정보를 포함할 수 있고, 전술한 바와 같이 라벨링정보를 포함하는 의료원문데이터 및 의료증강데이터에 기초하여 기계학습된 제2학습모델을 통해 입력의료데이터에 포함된 문장세부구성요소 중 개인정보 및 의료기록정보에 상응하는 문장세부구성요소를 판별할 수 있다.In step S30000, the input medical data is input to the machine-learned second learning model, and in the personal health information including the personal information and the medical record information among the detailed sentence elements of each sentence included in the input medical data. Identify the corresponding sentence subcomponents. Preferably, the machine-learned second learning model is machine-learned based on the medical text data and medical augmentation data described in the method for recognizing personal health information, and the input medical data is a third labeling according to a preset standard Personal information and medical treatment among the sentence details included in the input medical data through a second learning model that may include information, and is machine-learned based on the medical text data and medical augmentation data including the labeling information as described above. It is possible to determine the detailed sentence elements corresponding to the recorded information.

S40000단계에서는, 판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행한다. 본 발명의 일 실시예에서는, 입력의료데이터에 포함된 각각의 문장으로부터 분할된 단어 단위의 문장세부구성요소들 중에서 S30000단계에서 판별된 개인건강정보에 상응하는 복수의 문장세부구성요소들 전체를 마스킹 하거나 혹은 임의로 기설정된 개수만큼의 일부의 문장세부구성요소를 마스킹 할 수 있다. 바람직하게는, 상기 S40000단계에서는, 임의의 난수를 발생시키고, 상기 난수에 기초하여 상기 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행할 수 있다.In step S40000, masking is performed on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information. In one embodiment of the present invention, all of the plurality of detailed sentence elements corresponding to the personal health information determined in step S30000 among the sentence detailed elements of the word unit divided from each sentence included in the input medical data are masked. Alternatively, it is possible to mask some of the sentence detail elements as many as arbitrarily preset numbers. Preferably, in step S40000, a random number may be generated, and masking may be performed on the sentence detail elements corresponding to the one or more personal health information based on the random number.

이후, S50000단계에서는, 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출한다. S40000단계의 수행을 통해 일부 문장세부구성요소는 마스킹이 이루어지고, 이를 제외한 나머지 문장세부구성요소는 원본이 유지된 상태인 의료원문데이터의 각각의 문장을 기설정된 모델로 임베딩을 수행하여 임베딩벡터를 도출할 수 있다. 바람직하게는, 기설정된 모델은 임베딩을 위하여 개별적으로 구현될 수 있다.Thereafter, in step S50000, the embedding vector for each sentence detail component in which the original text is maintained or is masked by embedding the sentence detailed components of each sentence into a preset model is derived. Through the execution of step S40000, some sentence detailed components are masked, and the remaining sentence detailed components are embedded with a preset model for each sentence of the medical text data in which the original is maintained to obtain an embedding vector. can be derived Preferably, the preset model can be implemented individually for embedding.

S60000단계에서는, 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 본 발명의 일 실시예에 따른 기계학습된 모델은 BERT(Bidirectional Encoder Representations from Transformers)모델에 의하여 구현될 수 있다. 이와 같은 기계학습된 모델은 S50000단계에서 임베딩된 임베딩벡터 전체를 입력 받고, 입력 받은 임베딩벡터 전체 중 마스킹된 문장세부구성요소에 대응하는 임베딩벡터에 대한 예측문장세부구성요소의 임베딩벡터를 도출한다.In step S60000, the embedding vectors of the prediction sentence detailed components corresponding to the masked sentence detailed components are derived by inputting the entire embedding vector for each sentence detailed component to the machine-learning model. The machine-learned model according to an embodiment of the present invention may be implemented by a BERT (Bidirectional Encoder Representations from Transformers) model. This machine-learning model receives the entire embedding vector embedded in step S50000, and derives the embedding vector of the prediction sentence detail component for the embedding vector corresponding to the masked sentence detailed component among all the received embedding vectors.

S70000단계에서는, 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성한다. 본 발명의 일 실시예에 따른 의료합성데이터를 생성하는 방법은, 기계학습 모델을 보다 정확하게 학습시키고, 입력된 데이터에 대한 정확한 결과값을 획득하기 위하여 원본의 임베딩벡터와 원본의 임베딩벡터로부터 예측된 예측문장세부구성요소의 임베딩벡터 간의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성함으로써 예측문장세부구성요소의 신뢰성을 검증할 수 있다. 원본의 임베딩벡터와 예측된 예측문장세부구성요소의 임베딩벡터 간의 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료합성데이터를 생성할 수 있다. 코사인유사도에 기초하여 예측문장세부구성요소의 신뢰성을 검증하는 방법에 대해서는 도 5에서 설명한 바와 동일하므로 구체적인 설명은 생략하도록 한다.In step S70000, the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component is derived, and based on the derived cosine similarity, medical composite data is generated according to a preset standard. do. In the method for generating medical synthetic data according to an embodiment of the present invention, the original embedding vector and the original embedding vector predicted from the original embedding vector and the original embedding vector in order to more accurately train the machine learning model and obtain an accurate result value for the input data The reliability of the detailed prediction sentence components can be verified by deriving the cosine similarity between the embedding vectors of the detailed prediction sentence components, and generating medical composite data according to a preset criterion based on the derived cosine similarity. When the cosine similarity between the original embedding vector and the embedding vector of the predicted predictive sentence detailed element is equal to or greater than a preset criterion, the predictive sentence detailed element is inserted at a position where some sentence detailed elements of the medical text data are masked. Medical synthesis data can be generated. A method of verifying the reliability of detailed predictive sentence components based on the cosine similarity is the same as that described in FIG. 5 , and thus a detailed description thereof will be omitted.

이와 같은 방식으로 본 발명에서는, 입력된 입력의료데이터의 개인정보 및 의료기록정보를 포함하는 개인건강정보를 인식하여, 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하여, 마스킹된 문장세부구성요소를 변경하여 의료합성데이터를 생성함으로써, 개인정보의 유출을 방지할 수 있고, 코사인유사도에 기초하여 마스킹 된 개인건강정보를 변경함으로써, 신뢰성 높은 학습데이터풀을 구축할 수 있는 효과를 발휘할 수 있다.In this way, in the present invention, by recognizing personal health information including personal information and medical record information of input medical data, masking is performed on the detailed sentence elements corresponding to the personal health information, and the masked sentence details By changing the components to create medical synthetic data, leakage of personal information can be prevented, and by changing the masked personal health information based on cosine similarity, it is possible to exert the effect of building a highly reliable learning data pool. have.

도 12 및 도 13은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.12 and 13 schematically illustrate the operation of a computing system according to an embodiment of the present invention.

본 발명의 일 실시예에 따른 컴퓨팅 시스템은, 의료원문데이터로부터 의료증강데이터를 생성할 수 있고, 상기 입력의료데이터의 개인건강정보를 인식하는 기계학습된 제2학습모듈은, 의료원문데이터 및 의료증강데이터에 의하여 학습될 수 있다. 상기 입력의료데이터는 이름, 나이, 및 성별 중 1 이상을 포함하는 개인정보 및 진료날짜, 및 진단명 중 1 이상을 포함할 수 있고, 입력의료데이터가 로드되면 본 발명의 일 실시예에 따른 컴퓨팅 시스템은, 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 상기 문장 각각은 단어 단위의 문장세부구성요소로 분할되고, 바람직하게는, 상기 입력의료데이터에는, 분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 더 포함한다. 상기 라벨링정보는 사람에 의하여 각각의 단어마다의 기설정된 기준, 예를 들어, 도 3에 도시된 바와 같이, 날짜의 경우, B-DATE, 나이의 경우 B-AGE 등의 세부카테고리에 따라 설정되고, 이와 같이 설정된 라벨링정보가 포함될 수 있다. 상기 라벨링정보는 이후, 본 발명의 일 실시예에 따라 생성한 의료증강데이터, 의료증강데이터의 라벨링정보, 및 상기 의료원문데이터, 의료원문데이터의 라벨링정보에 기초하여 제2학습모델의 기계학습을 수행할 수 있고, 기계학습된 제2학습모델에 의하여 도 12에 도시된 바와 같이 상기 개인정보 및 의료기록정보를 포함하는 개인건강정보(Personal Health Information)를 인식할 수 있다. 이와 같이, 개인건강정보가 인식되고, 개인건강정보에 상응하는 문장세부구성요소의 세부카테고리정보가 판별되면, 이후, 상기 컴퓨팅 시스템은 판별된 개인건강정보의 마스킹을 수행하고, 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소를 도출하여 개인건강정보에 해당하는 문장세부구성요소를 변경할 수 있다. 입력의료데이터에 존재하는 나이, 이름, 및 질병명 등을 포함하는 개인건강정보를 인식하면, 상기 컴퓨팅 시스템은, 도 13에 도시된 바와 같이, 개인건강정보에 상응하는 예측문장세부구성요소를 도출하고, 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성할 수 있다.The computing system according to an embodiment of the present invention may generate medical augmentation data from medical text data, and the machine-learned second learning module for recognizing personal health information of the input medical data includes, It can be learned by augmented data. The input medical data may include personal information including at least one of a name, age, and gender, a treatment date, and at least one of a diagnosis name, and when the input medical data is loaded, the computing system according to an embodiment of the present invention , divides each sentence included in the medical text data into sentence detail components. Each of the sentences is divided into sentence detail elements in units of words, and preferably, the input medical data further includes labeling information labeled according to a preset criterion for each of the divided sentence detailed elements. The labeling information is set by a person according to a preset standard for each word, for example, as shown in FIG. 3, in the case of a date, B-DATE, in the case of age, such as B-AGE, and the like. , labeling information set in this way may be included. The labeling information is then machine learning of the second learning model based on the medical augmentation data generated according to an embodiment of the present invention, the labeling information of the medical augmentation data, and the medical text data and the labeling information of the medical text data. As shown in FIG. 12 by the machine-learned second learning model, personal health information including the personal information and medical record information can be recognized. As such, when personal health information is recognized and detailed category information of detailed sentence elements corresponding to personal health information is determined, then, the computing system performs masking of the determined personal health information, and masked sentence details By deriving the detailed predictive sentence components corresponding to the elements, it is possible to change the sentence detailed components corresponding to personal health information. When personal health information including age, name, and disease name present in the input medical data is recognized, the computing system derives predictive sentence details corresponding to the personal health information as shown in FIG. 13 and , derive the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, medical composite data can be generated according to a preset standard. .

바람직하게는, 상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않을 수 있다.Preferably, when the cosine similarity is less than or equal to a preset criterion, the predictive sentence detailed components predicted by the machine-learning model may not be inserted at positions where some sentence detailed components of the medical text data are masked. .

이와 같은 방식으로, 본 발명의 일 실시예에서는, 의료데이터의 개인건강정보를 인식하여, 인식한 개인건강정보를 기계학습된 모델에 의하여 변경하고, 코사인유사도에 기초하여 단어유사도에 따라 의료합성데이터를 생성함으로써, 개인건강정보의 유출을 방지하면서 연구 및 분석을 위한 의료합성데이터의 수를 효율적으로 증대시킬 수 있는 효과를 발휘할 수 있다.In this way, in one embodiment of the present invention, personal health information of medical data is recognized, the recognized personal health information is changed by a machine-learning model, and medical composite data according to word similarity based on cosine similarity By creating , it is possible to effectively increase the number of medical synthetic data for research and analysis while preventing leakage of personal health information.

도 14는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 예시적으로 도시한다.14 exemplarily illustrates an internal configuration of a computing device according to an embodiment of the present invention.

도 14에 도시한 바와 같이, 컴퓨팅 장치(11000)은 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/Osubsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅 장치(11000)는 본 발명의 활동량분석시스템의 상기 사용자단말기(2000) 혹은 상기 서비스서버(3000)에 해당될 수 있다.14, the computing device 11000 includes at least one processor 11100, a memory 11200, a peripheral interface 11300, an input/output subsystem ( I/O subsystem) 11400 , a power circuit 11500 and a communication circuit 11600 may be included at least. In this case, the computing device 11000 may correspond to the user terminal 2000 or the service server 3000 of the activity amount analysis system of the present invention.

메모리(11200)는, 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅 장치(11000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 학습된 임베딩모델에 포함하는 그밖에 다양한 데이터를 포함할 수 있다.The memory 11200 may include, for example, a high-speed random access memory, a magnetic disk, an SRAM, a DRAM, a ROM, a flash memory, or a non-volatile memory. have. The memory 11200 may include a software module necessary for the operation of the computing device 11000 , an instruction set, or other various data included in the learned embedding model.

이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.In this case, access to the memory 11200 from other components such as the processor 11100 or the peripheral device interface 11300 may be controlled by the processor 11100 .

주변장치 인터페이스(11300)는 컴퓨팅 장치(11000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리 (11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅 장치(11000)을 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.Peripheral interface 11300 may couple input and/or output peripherals of computing device 11000 to processor 11100 and memory 11200 . The processor 11100 may execute a software module or an instruction set stored in the memory 11200 to perform various functions for the computing device 11000 and process data.

입/출력 서브시스템(11400)은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템(11400)은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템(11400)을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.The input/output subsystem 11400 may couple various input/output peripherals to the peripheral interface 11300 . For example, the input/output subsystem 11400 may include a controller for coupling a peripheral device such as a monitor, keyboard, mouse, printer, or a touch screen or sensor as required to the peripheral interface 11300 . According to another aspect, input/output peripherals may be coupled to peripheral interface 11300 without going through input/output subsystem 11400 .

전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.The power circuit 11500 may supply power to all or some of the components of the terminal. For example, the power circuit 11500 may include a power management system, one or more power sources such as batteries or alternating current (AC), a charging system, a power failure detection circuit, a power converter or inverter, a power status indicator, or a power source. It may include any other components for creation, management, and distribution.

통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅 장치와 통신을 가능하게 할 수 있다.The communication circuit 11600 may enable communication with another computing device using at least one external port.

또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅 장치와 통신을 가능하게 할 수도 있다.Alternatively, as described above, if necessary, the communication circuit 11600 may include an RF circuit to transmit and receive an RF signal, also known as an electromagnetic signal, to enable communication with other computing devices.

이러한 도 14의 실시예는, 컴퓨팅 장치(11000)의 일례일 뿐이고, 컴퓨팅 장치(11000)은 도 14에 도시된 일부 컴포넌트가 생략되거나, 도 14에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅 장치는 도 14에 도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(1160)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅 장치(11000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 어플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.This embodiment of FIG. 14 is only an example of the computing device 11000, and the computing device 11000 may omit some components shown in FIG. 14 or further include additional components not shown in FIG. 14, or 2 It may have a configuration or arrangement that combines two or more components. For example, a computing device for a communication terminal in a mobile environment may further include a touch screen or a sensor in addition to the components shown in FIG. 14 , and various communication methods (WiFi, 3G, LTE) are provided in the communication circuit 1160 . , Bluetooth, NFC, Zigbee, etc.) may include a circuit for RF communication. Components that may be included in the computing device 11000 may be implemented in hardware, software, or a combination of both hardware and software including an integrated circuit specialized for one or more signal processing or applications.

본 발명의 실시예에 따른 방법들은 다양한 컴퓨팅 장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 어플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 이용자 단말에 설치될 수 있다. 일 예로, 파일 배포 시스템은 이용자 단말이기의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.Methods according to an embodiment of the present invention may be implemented in the form of program instructions that can be executed through various computing devices and recorded in a computer-readable medium. In particular, the program according to the present embodiment may be configured as a PC-based program or an application dedicated to a mobile terminal. The application to which the present invention is applied may be installed in the user terminal through a file provided by the file distribution system. For example, the file distribution system may include a file transmission unit (not shown) that transmits the file in response to a request from the user terminal.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The device described above may be implemented as a hardware component, a software component, and/or a combination of the hardware component and the software component. For example, devices and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate array (FPGA). , a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions, may be implemented using one or more general purpose or special purpose computers. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. A processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For convenience of understanding, although one processing device is sometimes described as being used, one of ordinary skill in the art will recognize that the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that can include For example, the processing device may include a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅 장치 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may comprise a computer program, code, instructions, or a combination of one or more thereof, which configures a processing device to operate as desired or is independently or collectively processed You can command the device. The software and/or data may be any kind of machine, component, physical device, virtual equipment, computer storage medium or device, to be interpreted by or to provide instructions or data to the processing device. , or may be permanently or temporarily embody in a transmitted signal wave. The software may be distributed over networked computing devices, and stored or executed in a distributed manner. Software and data may be stored in one or more computer-readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and available to those skilled in the art of computer software. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks. - includes magneto-optical media, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with reference to the limited embodiments and drawings, various modifications and variations are possible from the above description by those skilled in the art. For example, the described techniques are performed in an order different from the described method, and/or the described components of the system, structure, apparatus, circuit, etc. are combined or combined in a different form than the described method, or other components Or substituted or substituted by equivalents may achieve an appropriate result.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

Claims (10)

기계학습된 모델을 이용하여 개인건강정보를 인식하고, 인식한 개인건강정보를 변경하여 의료합성데이터를 생성하는 방법으로서,
개인정보 및 의료기록정보를 포함하는 개인건강정보를 포함하는 입력의료데이터를 로드하는 단계;
상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계;
상기 입력의료데이터를 의료원문데이터 및 상기 의료원문데이터의 마스킹된 일부 요소가 다른 요소로 치환된 의료증강데이터에 기초하여 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별하는 개인건강정보판별단계;
판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는 단계;
상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계;
각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 BERT(Bidirectional Encoder Representations from Transformers)모델에 입력하여 마스킹된 개인건강정보에 상응하는 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계;
마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성하는 단계;를 포함하고,
상기 의료합성데이터를 생성하는 단계는,
마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계;
상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및
상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 입력의료데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료합성데이터를 생성하는 단계;를 포함하는, 의료합성데이터를 생성하는 방법.
A method of recognizing personal health information using a machine-learning model and generating medical synthetic data by changing the recognized personal health information,
loading input medical data including personal health information including personal information and medical record information;
dividing each sentence included in the input medical data into sentence detail components;
The input medical data is input to a second learning model machine-learned based on medical text data and medical augmentation data in which some masked elements of the medical text data are substituted with other elements, and each sentence included in the input medical data a personal health information discrimination step of determining detailed sentence elements corresponding to personal health information including the personal information and the medical record information among the sentence details;
performing masking on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information;
deriving an embedding vector for each sentence detail component that is masked or the original is maintained by embedding the sentence detailed components of each sentence into a preset model;
The embedding vector of the prediction sentence detail component corresponding to the sentence detail component corresponding to the masked personal health information by inputting the entire embedding vector for each sentence detail component into the machine-learned BERT (Bidirectional Encoder Representations from Transformers) model deriving;
Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical composite data according to a preset criterion; including,
The step of generating the medical synthetic data comprises:
deriving a cosine similarity with respect to an embedding vector of a masked sentence subcomponent and an embedding vector of a predicted sentence subcomponent;
determining whether the cosine similarity is greater than or equal to a preset criterion; and
When the cosine similarity is equal to or greater than a preset criterion, generating the medical composite data by inserting the predicted sentence detailed components at a position where some sentence detailed components of the input medical data are masked; how to create it.
청구항 1에 있어서,
상기 문장세부구성요소로 분할하는 단계는,
상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할하는, 의료합성데이터를 생성하는 방법.
The method according to claim 1,
The step of dividing the sentence into detailed components is,
A method of generating medical composite data by dividing each of the sentences into sentence detail elements in word units.
청구항 1에 있어서,
상기 문장세부구성요소에 마스킹을 수행하는 단계는,
임의의 난수를 발생시키고, 상기 난수에 기초하여 상기 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는, 의료합성데이터를 생성하는 방법.
The method according to claim 1,
The step of performing the masking on the sentence detail component,
A method of generating a random number and performing masking on detailed sentence elements corresponding to the one or more personal health information based on the random number.
청구항 1에 있어서,
상기 의료증강데이터는,
분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 포함하는, 의료합성데이터를 생성하는 방법.
The method according to claim 1,
The medical enhancement data is
A method of generating medical composite data, including labeling information labeled according to a preset criterion for each of the divided sentence detailed components.
삭제delete 청구항 1에 있어서,
상기 코사인유사도는 하기의 도출식 1에 의하여 도출되는, 의료합성데이터를 생성하는 방법.
<도출식 1>
Figure 112022027978337-pat00018

The method according to claim 1,
The cosine similarity is derived by Equation 1 below, a method of generating medical synthetic data.
<Equation 1>
Figure 112022027978337-pat00018

청구항 1에 있어서,
상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 입력의료데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않는, 의료합성데이터를 생성하는 방법.
The method according to claim 1,
When the cosine similarity is less than or equal to a preset criterion, the predictive sentence detailed component predicted by the machine-learning model is not inserted at a position where some sentence detailed components of the input medical data are masked, medical synthesis data is generated. How to.
삭제delete 기계학습된 모델을 이용하여 개인건강정보를 인식하고, 인식한 개인건강정보를 변경하여 의료합성데이터를 생성하는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅 시스템으로서,
상기 컴퓨팅 시스템은,
개인정보 및 의료기록정보를 포함하는 개인건강정보를 포함하는 입력의료데이터를 로드하는 단계;
상기 입력의료데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계;
상기 입력의료데이터를 의료원문데이터 및 상기 의료원문데이터의 마스킹된 일부 요소가 다른 요소로 치환된 의료증강데이터에 기초하여 기계학습된 제2학습모델에 입력하고, 상기 입력의료데이터에 포함된 문장 각각의 문장세부구성요소 중 상기 개인정보 및 상기 의료기록정보를 포함하는 개인건강정보에 상응하는 문장세부구성요소를 판별하는 개인건강정보판별단계;
판별된 개인건강정보에 상응하는 복수의 문장세부구성요소 중 임의로 선택된 1 이상의 상기 개인건강정보에 상응하는 문장세부구성요소에 마스킹을 수행하는 단계;
상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계;
각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 BERT(Bidirectional Encoder Representations from Transformers)모델에 입력하여 마스킹된 개인건강정보에 상응하는 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계;
마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료합성데이터를 생성하는 단계;를 수행하고,
상기 의료합성데이터를 생성하는 단계는,
마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계;
상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및
상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 입력의료데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료합성데이터를 생성하는 단계;를 포함하는, 컴퓨팅 시스템.
A computing system comprising one or more processors and one or more memories for recognizing personal health information using a machine-learning model and generating medical synthetic data by changing the recognized personal health information,
The computing system is
loading input medical data including personal health information including personal information and medical record information;
dividing each sentence included in the input medical data into sentence detail components;
The input medical data is input to a second learning model machine-learned based on medical text data and medical augmentation data in which some masked elements of the medical text data are substituted with other elements, and each sentence included in the input medical data a personal health information discrimination step of determining detailed sentence elements corresponding to personal health information including the personal information and the medical record information among the sentence details;
performing masking on the detailed sentence elements corresponding to one or more of the personal health information arbitrarily selected from among a plurality of detailed sentence elements corresponding to the determined personal health information;
deriving an embedding vector for each sentence detail component that is masked or the original is maintained by embedding the sentence detailed components of each sentence into a preset model;
The embedding vector of the prediction sentence detail component corresponding to the sentence detail component corresponding to the masked personal health information by inputting the entire embedding vector for each sentence detail component into the machine-learned BERT (Bidirectional Encoder Representations from Transformers) model deriving;
Deriving the cosine similarity between the original embedding vector of the masked sentence detailed component and the embedding vector of the predicted sentence detailed component, and based on the derived cosine similarity, generating medical composite data according to a preset criterion; do,
The step of generating the medical synthetic data comprises:
deriving a cosine similarity with respect to an embedding vector of a masked sentence subcomponent and an embedding vector of a predicted sentence subcomponent;
determining whether the cosine similarity is greater than or equal to a preset criterion; and
When the cosine similarity is equal to or greater than a preset criterion, generating the medical composite data by inserting the predictive sentence detailed component at a position where some sentence detailed components of the input medical data are masked; Computing system comprising a.
삭제delete
KR1020210072782A 2021-06-04 2021-06-04 Method and System for Compositing Medicul Data using Machine Learning Model KR102403461B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210072782A KR102403461B1 (en) 2021-06-04 2021-06-04 Method and System for Compositing Medicul Data using Machine Learning Model

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210072782A KR102403461B1 (en) 2021-06-04 2021-06-04 Method and System for Compositing Medicul Data using Machine Learning Model

Publications (1)

Publication Number Publication Date
KR102403461B1 true KR102403461B1 (en) 2022-05-31

Family

ID=81780557

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210072782A KR102403461B1 (en) 2021-06-04 2021-06-04 Method and System for Compositing Medicul Data using Machine Learning Model

Country Status (1)

Country Link
KR (1) KR102403461B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102661357B1 (en) 2024-01-03 2024-04-26 주식회사 에비드넷 Method and apparatus for analyzing medical data

Non-Patent Citations (10)

* Cited by examiner, † Cited by third party
Title
A. E. W. Johnson et al, "Deidentification of free-text medical records using pre-trained bidirectional transformers", Proc ACMConf Health Inference Learn, 2020:214-221. (2020.04.)* *
A. E. W. Johnson 외, "Deidentification of free-text medical records using pre-trained bidirectional transformers", Proc ACMConf Health Inference Learn, 2020:214-221. (2020.04.)*
J. Lin et al, 'De-identification of Free-text Clinical Notes', Massachusetts Institute of Technology. (2020.09.) *
J. Lin 외, 'De-identification of Free-text Clinical Notes', Massachusetts Institute of Technology. (2020.09.)
K. Huang et al, "ClinicalBERT: Modeling Clinical Notes and Predicting Hospital Readmission", arXiv, 1904.05342v1. (2019.04.10.)* *
K. Huang 외, "ClinicalBERT: Modeling Clinical Notes and Predicting Hospital Readmission", arXiv, 1904.05342v1. (2019.04.10.)*
M. Regina et al, "Text Data Augmentation: Towards better detection of spear-phishing emails", arXiv, 2007.02033v2. (2021.03.25.)* *
M. Regina 외, "Text Data Augmentation: Towards better detection of spear-phishing emails", arXiv, 2007.02033v2. (2021.03.25.)*
X. Yue & S. Zhou et al, "PHICON: Improving Generalization of Clinical Text De-identification Models via Data Augmentation", arXiv, 2010.05143v1. (2020.10.11.)* *
X. Yue & S. Zhou 외, "PHICON: Improving Generalization of Clinical Text De-identification Models via Data Augmentation", arXiv, 2010.05143v1. (2020.10.11.)*

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102661357B1 (en) 2024-01-03 2024-04-26 주식회사 에비드넷 Method and apparatus for analyzing medical data

Similar Documents

Publication Publication Date Title
Yang et al. A large language model for electronic health records
Fries et al. Ontology-driven weak supervision for clinical entity classification in electronic health records
Yang et al. Gatortron: A large clinical language model to unlock patient information from unstructured electronic health records
Bitterman et al. Clinical natural language processing for radiation oncology: a review and practical primer
US11651252B2 (en) Prognostic score based on health information
Liu et al. An information extraction framework for cohort identification using electronic health records
Chen et al. Automatic ICD-10 coding algorithm using an improved longest common subsequence based on semantic similarity
US20210257106A1 (en) Generalized biomarker model
US10936962B1 (en) Methods and systems for confirming an advisory interaction with an artificial intelligence platform
CN116802700A (en) Classifying documents using domain-specific natural language processing models
Chang et al. Generating contextual embeddings for emergency department chief complaints
Xu et al. Natural language processing
Hudon et al. Implementation of a machine learning algorithm for automated thematic annotations in avatar: A linear support vector classifier approach
Ferrández et al. Generalizability and comparison of automatic clinical text de-identification methods and resources
Ling et al. A domain knowledge-enhanced LSTM-CRF model for disease named entity recognition
Ahmed et al. Benchmarking modern named entity recognition techniques for free-text health record deidentification
KR102403461B1 (en) Method and System for Compositing Medicul Data using Machine Learning Model
Mao et al. AD-BERT: Using pre-trained language model to predict the progression from mild cognitive impairment to Alzheimer's disease
KR102403463B1 (en) Method and System for Recognizing The Personal Health Information using Machine Learning Model
Chen et al. Automated medical chart review for breast cancer outcomes research: a novel natural language processing extraction system
KR102329920B1 (en) Method and System for Augmenting Medical Data using Machine Learning Model
Stewart et al. Applications of natural language processing at emergency department triage: A narrative review
Joo et al. Neural machine translation–based automated current procedural terminology classification system using procedure text: Development and validation study
Zheng et al. Large language models for medicine: a survey
Sotoodeh et al. Pressure ulcer injury in unstructured clinical notes: detection and interpretation

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant