KR102329920B1 - 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템 - Google Patents

기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템 Download PDF

Info

Publication number
KR102329920B1
KR102329920B1 KR1020210072779A KR20210072779A KR102329920B1 KR 102329920 B1 KR102329920 B1 KR 102329920B1 KR 1020210072779 A KR1020210072779 A KR 1020210072779A KR 20210072779 A KR20210072779 A KR 20210072779A KR 102329920 B1 KR102329920 B1 KR 102329920B1
Authority
KR
South Korea
Prior art keywords
sentence
medical
text data
embedding vector
cosine similarity
Prior art date
Application number
KR1020210072779A
Other languages
English (en)
Inventor
이영호
강석환
강민
오서현
오경수
Original Assignee
가천대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 가천대학교 산학협력단 filed Critical 가천대학교 산학협력단
Priority to KR1020210072779A priority Critical patent/KR102329920B1/ko
Application granted granted Critical
Publication of KR102329920B1 publication Critical patent/KR102329920B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H70/00—ICT specially adapted for the handling or processing of medical references
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/268—Morphological analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Public Health (AREA)
  • Computing Systems (AREA)
  • Computational Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Algebra (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

본 발명은 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법에 관한 것으로서, 더욱 상세하게는, 개인정보 및 의료기록정보가 포함된 의료원문데이터에 기초하여 의료원문데이터에 포함된 문장의 일부를 마스킹하고, 마스킹 한 문장의 일부를 예측하여 의료증강데이터를 생성하는, 의료원문데이터를 증강하는 방법 및 시스템에 관한 것이다.

Description

기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템{Method and System for Augmenting Medical Data using Machine Learning Model}
본 발명은 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법에 관한 것으로서, 더욱 상세하게는, 개인정보 및 의료기록정보가 포함된 의료원문데이터에 기초하여 의료원문데이터에 포함된 문장의 일부를 마스킹하고, 마스킹 한 문장의 일부를 예측하여 의료증강데이터를 생성하는, 의료원문데이터를 증강하는 방법 및 시스템에 관한 것이다.
현대 기술의 발달로 많은 기술분야에서는, 딥 러닝(Deep Learning), 머신 러닝(Machine Learning), SVM(Support Vector Machine), 신경망(Neural Network)과 같은 기계학습 모델을 적용하는 사례들이 늘어나고 있다. 종래에도 이와 같은, 기계학습 모델을 이용하여 빅데이터를 분석하는 기술은 존재하였다. 이중에서도 비정형 데이터의 형태인 텍스트 데이터 분석 기술은 기존의 정형 데이터 분석에서 얻을 수 없는 다양한 패턴과 정보를 추출할 수 있기 때문에 상당한 주목을 받고 있다.
그러나, 다양한 분석에 적용되기 위한 텍스트 데이터에는 개인정보를 포함한 민감정보가 포함되어 있을 수 있어 개인을 식별할 수 있는 신상 정보의 유출에 따른 법적인 분쟁의 소지가 있다. 때문에, 이와 같은 개인정보를 포함한 텍스트 데이터를 분석하고 가공하는데 제한되는 문제점이 발생한다.
이와 같은 문제를 해결하기 위하여 데이터 내의 개인식별정보를 인식하여 일련에 방법으로 개인 속성을 비식별화하는 방법이 적용되고 있다. 개인정보를 비식별화 하기 위해서는 텍스트 내에 포함된 개인정보 및 개인정보에 해당하지 않는 정보를 분류하고 인식하는 작업이 필요하다. 종래의 개인정보 인식 방법은, 사람이 데이터 내의 개인정보를 직접 찾아 인식, 삭제하는 수동적 방법이 있었으며, 자동적 방법으로 고려된 것은 사전 기반 방법과 규칙 기반 방법이 있었다. 또한 기계학습을 이용한 기술들의 발달로 인해 학습데이터로부터 자동으로 특징을 추출하여 텍스트 내 개인정보를 인식하는 방법이 제시되고 있다. 특히 RNN과 LSTM을 기반으로 한 인공 신경망 모델은 문장의 문맥을 파악하여 데이터의 패턴을 인식하여 개체명을 인식하는데 탁월한 성능을 보여준다. 그러나, 이와 같은 기계학습을 이용한 기술을 제대로 활용하기 위해서는, 모델의 학습에 필요한 데이터가 충분히 확보되어야 하며, 데이터가 충분히 확보되지 않은 환경에서는, 기계학습된 모델이 학습데이터에 대해서는 오차가 감소하지만 실제 데이터에 대해서는 오차가 증가하게 되는 과적합(Overfitting)이 발생하거나, 기계학습된 모델이 데이터의 특징을 제대로 학습하지 못하는 Underfitting 현상이 발생할 수 있다.
이와 같은 문제를 해결하기 위해서, 기계학습 분야에서는 한정된 데이터 크기를 극복하여 바람직한 기계학습을 구현하기 위한 방법으로서 데이터를 증강하는 기술에 대한 관심이 증대되고 있다. 데이터 증강은 학습데이터를 일부 변형하여 데이터의 크기를 늘리는 방법으로서, 학습데이터의 확보를 위해 수행되고 있지만 잘못된 증강방법으로 인해 증강된 데이터를 학습한 모델은 정확한 결과를 도출하기 어렵다는 문제점이 있고, 이를 해결하기 위해 바람직한 학습 결과를 도출할 수 있도록 학습데이터를 증강시키는 방법에 대한 필요가 있었다.
선행특허 1(한국특허공개 10-2021-0033235, 2021.3.26 공개)는 데이터 증강방법을 개시하고 있다.
본 발명은 개인정보 및 의료기록정보가 포함된 의료원문데이터에 기초하여 의료원문데이터에 포함된 문장의 일부를 마스킹하고, 마스킹 한 문장의 일부를 예측하여 의료증강데이터를 생성하는, 의료원문데이터를 증강하는 방법 및 시스템을 제공하는 것을 목적으로 한다.
상기와 같은 과제를 해결하기 위하여 본 발명은, 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법으로서, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계; 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계; 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계;
마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계;를 포함하는, 의료원문데이터를 증강하는 방법을 제공한다.
본 발명의 일 실시예에서는, 상기 의료원문데이터는, 분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 더 포함할 수 있다.
본 발명의 일 실시예에서는, 상기 문장세부구성요소로 분할하는 단계는, 상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할할 수 있다.
본 발명의 몇 실시예에서는, 상기 의료증강데이터를 생성하는 단계는, 마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계; 상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및 상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성하는 단계;를 포함할 수 있다.
본 발명의 일 실시예에서는, 상기 코사인유사도는 하기의 도출식 1에 의하여 도출될 수 있다.
<도출식 1>
Figure 112021064897472-pat00001
본 발명의 일 실시예에서는, 상기 코사인유사도는 -1 내지 1 내지 값으로 도출될 수 있다.
본 발명의 몇 실시예에서는, 상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않을 수 있다.
본 발명의 몇 실시예에서는, 상기 기계학습된 모델은 BERT(Bidirectional Encoder Representations from Transformers)모델일 수 있다.
상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예는, 기계학습된 모델을 이용한 의료원문데이터를 증강하는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅 시스템으로서, 상기 컴퓨팅 시스템은, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계; 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계; 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계; 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계;를 수행하는, 컴퓨팅 시스템을 제공한다.
상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예는, 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법으로서, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계; 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계; 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계; 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계; 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계;를 포함하고, 상기 의료증강데이터를 생성하는 단계는, 마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계; 상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및 상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성하는 단계;를 포함하는, 의료원문데이터를 증강하는 방법을 제공한다.
본 발명의 일 실시예에 따르면, 민감한 개인정보 및 의료기록이 포함된 의료원문데이터를 증강시킬 수 있어, 증강된 의료원문데이터를 기초로 기계학습된 모델의 성능을 강화시킬 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 의료원문데이터에 포함된 개인정보를 포함한 민감정보가 포함되어 있을 수 있어 개인을 식별할 수 있는 신상 정보의 유출에 따른 법적인 분쟁의 소지를 예방할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 기계학습된 모델에 의하여 의료원문데이터의 개인건강정보를 식별함으로써, 개인정보를 보다 신속하고 정확하게 식별할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 의료원문데이터에 기초하여 기계학습된 모델을 이용하여 마스킹된 문장을 예측함으로써, 개인건강정보의 유출을 방지할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 코사인유사도를 이용하여 원문데이터의 문장세부구성요소로부터 예측된 문장세부구성요소의 단어유사성을 측정하여 기설정된 기준을 충족하는 경우에만 마스킹된 단어를 변환함으로써, 보다 신뢰성 높은 증강데이터를 생성할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 의료데이터의 개인건강정보를 인식하여, 해당 개인건강정보가 대체된 의료합성데이터를 생성함으로써, 개인건강정보의 유출을 방지하면서 연구 및 분석을 위한 의료합성데이터의 수를 효율적으로 증대시킬 수 있는 효과를 발휘할 수 있다.
도 1은 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법의 전체적인 수행 단계를 개략적으로 도시한다.
도 2는 본 발명의 일 실시예에 따른 의료원문데이터의 문장을 분할하는 단계를 설명하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
도 4는 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
도 5는 본 발명의 일 실시예에 따른 의료증강데이터를 생성하는 단계의 세부 단계를 개략적으로 도시한다.
도 6은 본 발명의 일 실시예에 따른 컴퓨팅 시스템에 의하여 생성된 증강문장을 예시적으로 도시한다.
도 7은 본 발명의 일 실시예에 따른 컴퓨팅장치를 예시적으로 도시한다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다. 한편, '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, '~부'는 어드레싱 할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.
이하에서 언급되는 "사용자 단말"은 네트워크를 통해 서버나 타 단말에 접속할 수 있는 컴퓨터나 휴대용 단말기로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(desktop), 랩톱(laptop) 등을 포함하고, 휴대용 단말기는 예를 들어, 휴대성과 이동성이 보장되는 무선 통신장치로서, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말 등과 같은 모든 종류의 핸드헬드 (Handheld) 기반의 무선 통신 장치를 포함할 수 있다. 또한, "네트워크"는 근거리 통신망(Local Area Network;LAN), 광역 통신망(Wide Area Network; WAN) 또는 부가가치 통신망(Value Added Network; VAN) 등과 같은 유선네트워크나 이동 통신망(mobile radio communication network) 또는 위성 통신망 등과 같은 모든 종류의 무선 네트워크로 구현될 수 있다.
도 1은 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법의 전체적인 수행 단계를 개략적으로 도시하고, 도 2는 본 발명의 일 실시예에 따른 의료원문데이터의 문장을 분할하는 단계를 설명하는 도면이다.
본 발명의 의료원문데이터를 증강하는 방법은 1 이상의 프로세서 및 1 이상의 메모리를 갖는 컴퓨팅 시스템에 의하여 수행될 수 있다.
본 발명의 일 실시예에서는, 의료원문데이터를 증강하는 방법은 컴퓨팅 시스템에서 수행되고, 이에 대한 결과를 사용자단말에 제공하는 형태로 수행될 수 있다. 혹은 본 발명의 일 실시예에서는, 사용자단말에서 직접적으로 수행될 수도 있고, 다른 실시예에서는 후술하는 단계들의 일부는 컴퓨팅 시스템에서 수행되고, 나머지 단계에 대해서는 사용자단말에서 수행될 수도 있다.
본 발명의 일 실시예들에 따른, 의료원문데이터를 증강하는 방법은, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계(S1000); 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계(S2000); 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계(S3000); 사이 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계(S4000); 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계(S5000); 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계(S6000);를 포함한다.
구체적으로, 상기 의료원문데이터를 로드하는 단계(S1000)에서는, 개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드한다. 본 발명의 일 실시예에서는, 개개인들의 민감한 개인정보 및 의료기록정보를 포함하는 병원 등의 의료기관의 단말기로부터 의료원문데이터를 수신하여 로드할 수도 있고, 과거에 수신하여 컴퓨팅시스템의 데이터베이스에 저장되어 있는 의료원문데이터를 로드할 수도 있다. 상기 의료원문데이터는 의사 등의 의료진이 작성한 문서로서 의무기록, 병리기록지 등의 범위의 문서가 모두 해당될 수 있다.
S2000단계에서는, S1000단계에서 로드한 상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 본 발명의 일 실시예에 따른 의료원문데이터는 텍스트 데이터로서 복수의 문장을 포함할 수 있고, 의료원문데이터를 구성하는 문장 각각을 문장세부구성요소로 분할하여 토큰화를 수행할 수 있다. 바람직하게는, S2000단계에서는, 상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할할 수 있다. 또한, 본 발명의 일 실시예에서는 각각의 문장을 형태소 단위의 문장세부구성요소로 분할할 수도 있다.
S3000단계에서는, S2000단계에서 분할된 상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행한다. 본 발명의 일 실시예에서는, 의료원문데이터에 포함된 각각의 문장으로부터 분할된 단어 단위의 문장세부구성요소들 중에서 임의로 선택된 일부 문장세부구성요소에 마스킹을 수행할 수 있다. 예를 들어, 도 2에 도시된 바와 같이, 의료원문데이터에 “She is Doctor.” 라는 문장이 포함되어 있는 경우, 해당 문장은 She, is, 및 Doctor와 같은 문장세부구성요소로 분할될 수 있고, 각각의 문장세부구성요소 중에서 She에 마스킹이 수행되거나, is에 마스킹이 수행되거나, Doctor에 마스킹이 수행될 수 있다. 또한, 문장에서 하나의 단어에만 마스킹이 수행될 수도 있고, 2개, 3개 등 복수의 단어에 마스킹이 수행될 수도 있다. 이와 같이 S3000단계에서는, 복수의 문장의 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행한다.
S4000단계에서는, 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출할 수 있다. S3000단계의 수행을 통해 일부 문장세부구성요소는 마스킹이 이루어지고, 이를 제외한 나머지 문장세부구성요소는 원본이 유지된 상태인 의료원문데이터의 각각의 문장을 기설정된 모델로 임베딩을 수행하여 임베딩벡터를 도출할 수 있다. 바람직하게는, 기설정된 모델은 임베딩을 위하여 개별적으로 구현될 수 있다.
S5000단계에서는, 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 본 발명의 일 실시예에 따른 기계학습된 모델은 BERT(Bidirectional Encoder Representations from Transformers)모델에 의하여 구현될 수 있다. 이와 같은 기계학습된 모델은 S4000단계에서 임베딩된 임베딩벡터 전체를 입력 받고, 입력 받은 임베딩벡터 전체 중 마스킹된 문장세부구성요소에 대응하는 임베딩벡터에 대한 예측문장세부구성요소의 임베딩벡터를 도출한다.
이후, S6000단계에서는, 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성한다. 본 발명의 일 실시예에 따른 의료원문데이터를 증강하는 방법은, 기계학습 모델을 보다 정확하게 학습시키고, 입력된 데이터에 대한 정확한 결과값을 획득하기 위하여 원본의 임베딩벡터와 원본의 임베딩벡터로부터 예측된 예측문장세부구성요소의 임베딩벡터 간의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성함으로써 예측문장세부구성요소의 신뢰성을 검증할 수 있다. 원본의 임베딩벡터와 예측된 예측문장세부구성요소의 임베딩벡터 간의 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성할 수 있다.
이와 같은 방식으로, 본 발명의 일 실시예에서는, 의료증강데이터를 생성하기 전에 마스킹 된 단어, 즉 마스킹 된 문장세부구성요소에 대하여 코사인유사도를 통한 검증을 수행함으로써 데이터를 증강하여 신뢰성 높은 학습데이터를 생성할 수 있는 효과를 발휘할 수 있다.
도 3은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
본 발명의 일 실시예에 따른 컴퓨팅 시스템은 의료원문데이터로부터 의료증강데이터를 생성할 수 있다. 증강하고자 하는 의료원문데이터는 의료원문데이터에는 이름, 나이, 및 성별 중 1 이상을 포함하는 개인정보 및 진료날짜, 및 진단명 중 1 이상을 포함하는 의료기록정보를 포함할 수 있다. 이와 같은 의료원문데이터를 로드하는 단계가 수행되면, 본 발명의 일 실시예에 따른 컴퓨팅 시스템은, 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할한다. 상기 문장 각각은 단어 단위의 문장세부구성요소로 분할되고, 바람직하게는, 상기 의료원문데이터에는, 분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 더 포함한다. 상기 라벨링정보는 사람에 의하여 각각의 단어마다의 기설정된 기준, 예를 들어, 도 3에 도시된 바와 같이, 날짜의 경우, B-DATE, 나이의 경우 B-AGE 등의 세부카테고리에 따라 설정되고, 이와 같이 설정된 라벨링정보가 포함될 수 있다. 상기 라벨링정보는 이후, 본 발명의 일 실시예에 따라 생성한 의료증강데이터, 의료증강데이터의 라벨링정보, 및 상기 의료원문데이터, 의료원문데이터의 라벨링정보에 기초하여 기계학습된 모델에 의하여 상기 개인정보 및 의료기록정보를 포함하는 개인건강정보(Personal Health Information)를 인식하는 데 기초가 된다.
도 4은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 동작을 개략적으로 도시한다.
구체적으로, 도 4는 컴퓨팅 시스템의 S3000 내지 S5000단계의 동작을 개략적으로 도시한다. 도 4의 X input은 분할된 의료원문데이터의 각각의 문장들을 나타내고, 상기 컴퓨팅 시스템은 분할된 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행한다. 예를 들어, 의료원문데이터의 어느 하나의 문장이 “She is Doctor.” 라는 문장을 포함한다고 할 때, 각각의 She, is, 및 Doctor와 같은 문장세부구성요소로 분할될 수 있고, 문장세부구성요소마다 라벨링 된 라벨링정보와 관계없이, 도 4에 도시된 바와 같이 임의로 선택된 문장세부구성요소에 마스킹(예를 들어, is에 마스킹 혹은 Doctor에 마스킹)이 수행될 수 있다. 또한, 도 4에는 문장에서 하나의 단어에만 마스킹이 수행된 것으로 도시되었지만, 문장마다 임의로 선택된 2개, 3개 등 복수의 단어에 마스킹이 수행될 수도 있다. 이와 같이 마스킹이 수행된 후, 컴퓨팅 시스템은, 상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되었거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출한다. 바람직하게는, 본 발명의 일 실시예에서는, 임베딩벡터를 도출하는 모듈을 개별적으로 포함할 수도 있고, 예측문장세부구성요소를 도출하기 위한 기계학습된 모델에서 자체적으로 임베딩벡터를 도출할 수도 있다. 본 발명의 일 실시예에 따른, 기계학습된 모델은, BERT는 자연어 처리 사전 학습을 위한 Transformer기반 기계 학습 기술을 이용한 BERT모델을 이용할 수 있다.
이후, 컴퓨팅 시스템은, 각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 이후, 도 3에 도시된 바와 같이 마스킹된 문장세부구성요소 및 원본이 유지된 문장세부구성요소 각각에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출한다. 이후, 컴퓨팅 시스템은 마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하여, 일부가 마스킹 된 위치에 예측문장세부구성요소로 대체된 증강문장을 생성하여 의료증강데이터를 생성할 수 있다. 이와 같이, 생성된 의료증강데이터는 이후, 개인정보 및 의료기록정보를 포함하는 개인건강정보를 인식하는 기계학습모델을 학습시키는데 기초가 된다.
이하에서는, 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계에 대하여 보다 구체적으로 설명하도록 한다.
도 5는 본 발명의 일 실시예에 따른 의료증강데이터를 생성하는 단계의 세부 단계를 개략적으로 도시한다.
전술한 바와 같이, 컴퓨팅 시스템은 코사인유사도에 기초하여 기계학습된 모델로부터 예측된 예측문장세부구성요소와 의료원문데이터의 문장세부구성요소 사이의 단어유사도를 판별할 수 있다. 상기 의료증강데이터를 생성하는 단계는, 도 4에 도시된 S610 내지 S630 단계를 포함한다.
구체적으로, S610단계에서는, 마스킹된 문장세부구성요소의 임베딩벡터 및 마스킹된 문장세부구성요소에 대응되는 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출한다. 바람직하게는, 상기 코사인유사도는 하기의 도출식 1에 의하여 도출될 수 있다.
<도출식 1>
Figure 112021064897472-pat00002
예를 들어, 의료원문데이터에 포함된 NURSE라는 문장세부구성요소의 임베딩벡터가 [a1, a2]이고, 예측된 DOCTOR라는 예측문장세부구성요소의 임베딩벡터가 [b1, b2] 일 때, 각각의 임베딩벡터 [a1, a2] 및 [b1, b2]에 대한 코사인유사도를 상기 도출식 1에 의하여 도출할 수 있다.
이후, S620단계에서는, 상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별한다. 상기 S610단계에서 도출된 코사인유사도는 바람직하게는, -1 내지 1사이의 값이 도출될 수 있고, -1은 문장세부구성요소 및 예측문장세부구성요소가 전혀 다른 단어임을 판별할 수 있는 값을 의미하고, 1은 문장세부구성요소 및 예측문장세부구성요소가 동일한 단어임을 판별할 수 있는 값임을 의미한다. 컴퓨팅 시스템은 상기 -1 내지 1 사이의 값으로 도출된 코사인유사도에 기초하여 두 단어 사이의 유사도를 판별하는 기설정된 기준을 충족하는 지를 판별함으로써, 두 단어 사이의 의미유사도를 판별할 수 있다.
이후, S620단계에서는, 상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성한다. 예를 들어, S610단계에서의 기설정된 기준이 0.5라고 하고, 상기 일 실시예에서, NURSE와 DOCTOR사이의 코사인유사도가 0.7이 도출된 경우, 두 단어 사이의 코사인유사도는 기설정된 기준을 충족하고, S620단계에서는, 의료원문데이터의 문장에서 NURSE가 마스킹된 위치에 DOCTOR를 삽입할 수 있다. 다른 예에서, 의료원문데이터의 일부 문장세부구성요소가 NURSE이고, 이를 예측한 예측문장세부구성요소가 PATIENT 라고할 때 두 단어 사이의 코사인유사도가 -0.5가 도출된 경우, 두 단어 사이의 코사인유사도는 기설정된 기준을 충족하지 못하고, S620단계에서는, NURSE가 마스킹된 위치에 PATIENT를 대체하지 않는다. 바람직하게는, S620단계에서는, 상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않는다.
이와 같은 방식으로, 본 발명의 일 실시예에서는, 코사인유사도를 이용하여 원문데이터의 문장세부구성요소로부터 예측된 문장세부구성요소의 단어유사성을 측정하여 기설정된 기준을 충족하는 경우에만 마스킹된 단어를 변환함으로써, 단순히 양을 늘리기 위한 데이터 증강을 수행하지 않고, 기게학습된 모델을 바람직하게 강화시킬 수 있는 신뢰성 높은 증강데이터를 생성할 수 있는 효과를 발휘할 수 있다.
도 6은 본 발명의 일 실시예에 따른 컴퓨팅 시스템에 의하여 생성된 증강문장을 예시적으로 도시한다.
도 6은 상기와 같은 의료원문데이터를 증강하는 방법에 의하여 문장의 임의의 문장세부구성요소에 마스킹을 수행하고, 이를 예측한 예측문장세부구성요소를 삽입한 증강문장을 예시적으로 도시한다. 도 6에 도시된 바에 따르면, 해당 의료원문데이터에 포함된 문장(도 6에서 None)은 각각의 문장세부구성요소 He, has, h/o, drug/ETOG, abuse, but, denies, 및 X로 분할되고, 분할된 각각의 문장세부구성요소에 대응하여 기계학습된 모델을 통해 도출된 증강문장(도 6에서 Filtered BERT Augmentation)은 He, has, h/o, drug/ETOG, abuse, but, 및 X는 동일하고, denies의 위치에 dinied가 삽입되어 증강문장이 생성됨이 도시된다. 이와 같이, 상기 코사인유사도에 기초하여 기설정된 기준에 따라 증강데이터를 생성함으로써, 단어의 유사성이 높은 단어로 대체되어 증강데이터를 생성할 수 있는 효과를 발휘할 수 있다.
도 7은 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 예시적으로 도시한다.
도 7에 도시한 바와 같이, 컴퓨팅 장치(11000)은 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/Osubsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅 장치(11000)는 본 발명의 활동량분석시스템의 상기 사용자단말기(2000) 혹은 상기 서비스서버(3000)에 해당될 수 있다.
메모리(11200)는, 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅 장치(11000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 학습된 임베딩모델에 포함하는 그밖에 다양한 데이터를 포함할 수 있다.
이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.
주변장치 인터페이스(11300)는 컴퓨팅 장치(11000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리 (11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅 장치(11000)을 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.
입/출력 서브시스템(11400)은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템(11400)은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템(11400)을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.
전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.
통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅 장치와 통신을 가능하게 할 수 있다.
또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅 장치와 통신을 가능하게 할 수도 있다.
이러한 도 7의 실시예는, 컴퓨팅 장치(11000)의 일례일 뿐이고, 컴퓨팅 장치(11000)은 도 7에 도시된 일부 컴포넌트가 생략되거나, 도 7에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅 장치는 도 7에 도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(1160)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅 장치(11000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 어플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.
본 발명의 실시예에 따른 방법들은 다양한 컴퓨팅 장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 어플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 이용자 단말에 설치될 수 있다. 일 예로, 파일 배포 시스템은 이용자 단말이기의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅 장치 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (10)

  1. 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법으로서,
    개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계;
    상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계;
    상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계;
    상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계;
    각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계;
    마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계;를 포함하고,
    상기 의료증강데이터를 생성하는 단계는,
    마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계;
    상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및
    상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성하는 단계;를 포함하고,
    상기 코사인유사도는 하기의 도출식 1에 의하여 도출되는, 의료원문데이터를 증강하는 방법.
    <도출식 1>
    Figure 112021114872932-pat00011

  2. 청구항 1에 있어서,
    상기 의료원문데이터는,
    분할된 문장세부구성요소 각각에 대하여 기설정된 기준에 따라 라벨링된 라벨링정보를 더 포함하는, 의료원문데이터를 증강하는 방법.
  3. 청구항 1에 있어서,
    상기 문장세부구성요소로 분할하는 단계는,
    상기 각각의 문장을 단어 단위의 문장세부구성요소로 분할하는, 의료원문데이터를 증강하는 방법.
  4. 삭제
  5. 삭제
  6. 청구항 1에 있어서,
    상기 코사인유사도는 -1 내지 1 내지 값으로 도출되는, 의료원문데이터를 증강하는 방법.
  7. 청구항 1에 있어서,
    상기 코사인유사도가 기설정된 기준 이하인 경우, 상기 기계학습된 모델에 의하여 예측된 예측문장세부구성요소는, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 삽입되지 않는, 의료증강데이터를 생성하는 방법.
  8. 청구항 1에 있어서,
    상기 기계학습된 모델은 BERT(Bidirectional Encoder Representations from Transformers)모델인, 의료증강데이터를 생성하는 방법.
  9. 기계학습된 모델을 이용한 의료원문데이터를 증강하는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅 시스템으로서,
    상기 컴퓨팅 시스템은,
    개인정보 및 의료기록정보를 포함하는 의료원문데이터를 로드하는 단계;
    상기 의료원문데이터에 포함된 문장 각각을 문장세부구성요소로 분할하는 단계;
    상기 각각의 문장의 상기 문장세부구성요소들 중 임의로 선택된 문장세부구성요소에 마스킹을 수행하는 단계;
    상기 각각의 문장의 상기 문장세부구성요소들을 기설정된 모델로 임베딩하여 마스킹되거나 혹은 원본이 유지되는 각각의 문장세부구성요소에 대한 임베딩벡터를 도출하는 단계;
    각각의 문장세부구성요소에 대한 임베딩벡터 전체를 기계학습된 모델에 입력하여 마스킹된 문장세부구성요소에 대응하는 예측문장세부구성요소의 임베딩벡터를 도출하는 단계;
    마스킹된 문장세부구성요소의 원본의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터 사이의 코사인유사도를 도출하고, 도출된 상기 코사인유사도에 기초하여 기설정된 기준에 따라 의료증강데이터를 생성하는 단계;를 수행하고,
    상기 의료증강데이터를 생성하는 단계는,
    마스킹된 문장세부구성요소의 임베딩벡터 및 예측문장세부구성요소의 임베딩벡터에 대한 코사인유사도를 도출하는 단계;
    상기 코사인유사도가 기설정된 기준 이상인지 여부를 판별하는 단계; 및
    상기 코사인유사도가 기설정된 기준 이상인 경우, 상기 의료원문데이터의 일부 문장세부구성요소가 마스킹된 위치에 상기 예측문장세부구성요소를 삽입하여 상기 의료증강데이터를 생성하는 단계;를 포함하고,
    상기 코사인유사도는 하기의 도출식 1에 의하여 도출되는, 컴퓨팅 시스템.
    <도출식 1>
    Figure 112021114872932-pat00012

  10. 삭제
KR1020210072779A 2021-06-04 2021-06-04 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템 KR102329920B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210072779A KR102329920B1 (ko) 2021-06-04 2021-06-04 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210072779A KR102329920B1 (ko) 2021-06-04 2021-06-04 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템

Publications (1)

Publication Number Publication Date
KR102329920B1 true KR102329920B1 (ko) 2021-11-23

Family

ID=78694818

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210072779A KR102329920B1 (ko) 2021-06-04 2021-06-04 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템

Country Status (1)

Country Link
KR (1) KR102329920B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230076335A (ko) * 2021-11-24 2023-05-31 한국과학기술원 의료 데이터 임베딩 방법 및 장치, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190031840A (ko) * 2017-09-18 2019-03-27 삼성전자주식회사 Oos 문장을 생성하는 방법 및 이를 수행하는 장치
KR20200071877A (ko) * 2018-12-06 2020-06-22 한국과학기술원 자율 증강형 반복 학습을 이용한 정보 추출 방법 및 시스템
KR20200088088A (ko) * 2019-01-14 2020-07-22 주식회사 인사이터 단어 속성 분류 장치 및 방법
US20210103775A1 (en) * 2019-10-08 2021-04-08 International Business Machines Corporation Span selection training for natural language processing
KR20210042845A (ko) * 2019-10-10 2021-04-20 주식회사 렉스퍼 외국어 문장 빈칸 추론 문제 자동 생성 방법 및 시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190031840A (ko) * 2017-09-18 2019-03-27 삼성전자주식회사 Oos 문장을 생성하는 방법 및 이를 수행하는 장치
KR20200071877A (ko) * 2018-12-06 2020-06-22 한국과학기술원 자율 증강형 반복 학습을 이용한 정보 추출 방법 및 시스템
KR20200088088A (ko) * 2019-01-14 2020-07-22 주식회사 인사이터 단어 속성 분류 장치 및 방법
US20210103775A1 (en) * 2019-10-08 2021-04-08 International Business Machines Corporation Span selection training for natural language processing
KR20210042845A (ko) * 2019-10-10 2021-04-20 주식회사 렉스퍼 외국어 문장 빈칸 추론 문제 자동 생성 방법 및 시스템

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Heena. "Data Augmentation- Increasing Data Diversity". Medium, [online], [2021년 9월 16일 검색], 인터넷:<URL: https://medium.com/swlh/data-augmentation-increasing-data-diversity-b916a5a4cd9b>(2020.12.22.)* *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230076335A (ko) * 2021-11-24 2023-05-31 한국과학기술원 의료 데이터 임베딩 방법 및 장치, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램
WO2023096386A1 (ko) * 2021-11-24 2023-06-01 재단법인 아산사회복지재단 의료 데이터 임베딩 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체
KR102588270B1 (ko) 2021-11-24 2023-10-12 한국과학기술원 의료 데이터 임베딩 방법 및 장치, 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램

Similar Documents

Publication Publication Date Title
Weng et al. Medical subdomain classification of clinical notes using a machine learning-based natural language processing approach
Fries et al. Ontology-driven weak supervision for clinical entity classification in electronic health records
Yang et al. GatorTron: a large clinical language model to unlock patient information from unstructured electronic health records
Bitterman et al. Clinical natural language processing for radiation oncology: a review and practical primer
Luo et al. Review of natural language processing in radiology
US11651252B2 (en) Prognostic score based on health information
US20150370782A1 (en) Relation extraction using manifold models
Zheng et al. Detection of medical text semantic similarity based on convolutional neural network
US20210257106A1 (en) Generalized biomarker model
US10902943B2 (en) Predicting interactions between drugs and foods
Yuan et al. Llm for patient-trial matching: Privacy-aware data augmentation towards better performance and generalizability
Rumeng et al. A hybrid neural network model for joint prediction of presence and period assertions of medical events in clinical notes
Ahmed et al. Benchmarking modern named entity recognition techniques for free-text health record deidentification
Hudon et al. Implementation of a machine learning algorithm for automated thematic annotations in avatar: A linear support vector classifier approach
KR102329920B1 (ko) 기계학습된 모델을 이용한 의료원문데이터를 증강하는 방법 및 시스템
Deka et al. Evidence extraction to validate medical claims in fake news detection
KR102403461B1 (ko) 기계학습된 모델을 이용한 의료합성데이터를 생성하는 방법 및 시스템
Chen et al. Automated medical chart review for breast cancer outcomes research: a novel natural language processing extraction system
Wang et al. Medical text classification based on the discriminative pre-training model and prompt-tuning
KR102403463B1 (ko) 기계학습된 모델을 이용한 의료데이터의 개인건강정보를 인식하는 방법 및 시스템
US11823775B2 (en) Hashing electronic records
Yang et al. Gatortron: A large language model for clinical natural language processing
Shen et al. A Lightweight API‐Based Approach for Building Flexible Clinical NLP Systems
Lu et al. Nursing outcomes classification in the systematized nomenclature of medicine clinical terms: a cross-mapping validation
Huang et al. Supervised clinical abbreviations detection and normalisation approach

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant