KR20230060392A - Apparatus and method for predicting mental illness using multimodal artificial neural network - Google Patents

Apparatus and method for predicting mental illness using multimodal artificial neural network Download PDF

Info

Publication number
KR20230060392A
KR20230060392A KR1020210145061A KR20210145061A KR20230060392A KR 20230060392 A KR20230060392 A KR 20230060392A KR 1020210145061 A KR1020210145061 A KR 1020210145061A KR 20210145061 A KR20210145061 A KR 20210145061A KR 20230060392 A KR20230060392 A KR 20230060392A
Authority
KR
South Korea
Prior art keywords
mental
neural network
artificial neural
data
prediction
Prior art date
Application number
KR1020210145061A
Other languages
Korean (ko)
Inventor
강희재
이성희
장윤형
Original Assignee
(주)비알프레임
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)비알프레임 filed Critical (주)비알프레임
Priority to KR1020210145061A priority Critical patent/KR20230060392A/en
Publication of KR20230060392A publication Critical patent/KR20230060392A/en

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/70ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mental therapies, e.g. psychological therapy or autogenous training
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Biomedical Technology (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Psychiatry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Developmental Disabilities (AREA)
  • Child & Adolescent Psychology (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Chemical & Material Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medicinal Chemistry (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

The present invention relates to a mental illness prediction device using a multimodal artificial neural network. For this purpose, the device includes: a memory module storing a program code of a mental illness prediction artificial neural network, which is an artificial intelligence system learned to predict the specific mental illness of new mental patients who have not been diagnosed with a specific mental illness through counseling data and activity data of existing mental patients who have been diagnosed with the specific mental illness; and a processing module processing the program code of a mental illness prediction artificial neural network module.

Description

멀티모달 인공신경망을 활용한 정신질환 예측 장치 및 방법{Apparatus and method for predicting mental illness using multimodal artificial neural network}Apparatus and method for predicting mental illness using multimodal artificial neural network}

본 발명은 멀티모달 인공신경망을 활용한 정신질환 예측 장치 및 방법에 관한 것이다. The present invention relates to an apparatus and method for predicting mental illness using a multimodal artificial neural network.

우울증은 인구의 17%가 경험할 정도로 정신의학에서 가장 중요한 주제 중 하나인데, 현재 정신과에서 주로 쓰이는 우울증 진단 방법은 자가진단 설문지를 이용하는 방법이다. 그러나 이 경우 환자가 느끼는 주관적인 반응에 의존할 수밖에 없어 객관성이 떨어지는 문제점이 있다. 우울감 징후를 객관화하는 것이 극히 어렵다. 환자 스스로 외부 시선을 의식하는 '바람직한 사회성' 추구에 따라 객관성이 더욱 떨어지기도 한다.Depression is one of the most important topics in psychiatry, with 17% of the population experiencing it. Currently, the main method for diagnosing depression in psychiatry is to use a self-diagnosis questionnaire. However, in this case, there is a problem in that objectivity is low because the patient has no choice but to depend on the subjective response felt by the patient. It is extremely difficult to objectify the symptoms of depression. Patients' objectivity is further reduced as they pursue 'desirable sociality' that is conscious of the external gaze.

우울증 외의 정신질환의 경우에도 현재의 방법론에는 한계가 있었다. 예를 들어, 자연재해나 교통사고와 같은 재난을 경험한 사람들은 재난 이후 수년동안 다양한 신체적, 정신적 어려움을 겪는다. 이 중 일부는 사고 이후 비교적 이른 시기에 기능을 회복하고 일상생활에 복귀하는 반면, 다른 사람은 지속적인 정신적 스트레스와 일상생활의 어려움을 호소한다. 이처럼 재난과 트라우마 이후 외상후스트레스장애(PTSD: Post-Traumatic Stress Disorder)로 진행하는 사람들을 초기에 감별하기 위해서, 다양한 측정도구 (예: 뇌파검사 등)를 이용하여 PTSD의 고 위험군을 선별하기 위한 방법들이 제안되어 왔다 (US9792823B2). 하지만 이러한 방식은 물리적인 측정도구를 이용해야하기 때문에, 대형 재난 상황을 경험한 사람들 모두에게 적용하는 데에 한계가 있으며, 재난경험자들 중 고위험군을 선별하는 데에 제약이 있었다.Even in the case of mental disorders other than depression, the current methodology had limitations. For example, people who have experienced a disaster, such as a natural disaster or a traffic accident, experience various physical and mental difficulties for many years after the disaster. Some of them recover function and return to daily life relatively early after the accident, while others complain of constant mental stress and difficulties in daily life. In order to discriminate people who progress to PTSD (Post-Traumatic Stress Disorder) at an early stage after disasters and traumas, various measurement tools (e.g., EEG, etc.) are used to select high-risk groups for PTSD. Methods have been proposed (US9792823B2). However, since this method requires the use of physical measurement tools, there are limitations in applying it to all people who have experienced large-scale disaster situations, and there are limitations in selecting high-risk groups among those who have experienced disasters.

미국 공개특허 US 2014-0046696 A1, Systems and Methods for Pharmacogenomic Decision Support in Psychiatry, AssureRx Health, Inc.US Patent Publication US 2014-0046696 A1, Systems and Methods for Pharmacogenomic Decision Support in Psychiatry, AssureRx Health, Inc. 미국 등록특허 US 6317731 B1, Method for predicting the therapeutic outcome of a treatment, ADVANCED BIOLOGICAL LABORATORIES S.A.US registered patent US 6317731 B1, Method for predicting the therapeutic outcome of a treatment, ADVANCED BIOLOGICAL LABORATORIES S.A. 미국 등록특허 US 9792823 B2, Multi-view learning in detection of psychological states, Raytheon BBN Technologies Corp.US registered patent US 9792823 B2, Multi-view learning in detection of psychological states, Raytheon BBN Technologies Corp.

Oh, J., Yun, K., Hwang, J. H., & Chae, J. H. (2017). classification of suicide attempts through a Machine learning algorithm Based on Multiple systemic Psychiatric scales., Frontiers in psychiatry,8, 192. Oh, J., Yun, K., Hwang, J. H., & Chae, J. H. (2017). classification of suicide attempts through a Machine learning algorithm Based on Multiple systemic Psychiatric scales., Frontiers in psychiatry,8, 192. Nuriel S. Mor, Kathryn L. Dardeck, (2018). Quantitative Forecasting of Risk for PTSD Using Ecological Factors: A Deep Learning Application, Journal of Social, Behavioral, and Health Sciences 2018, Volume 12, Issue 1, Pages 61-73. Nuriel S. Mor, Kathryn L. Dardeck, (2018). Quantitative Forecasting of Risk for PTSD Using Ecological Factors: A Deep Learning Application, Journal of Social, Behavioral, and Health Sciences 2018, Volume 12, Issue 1, Pages 61-73. IR Galatzer-Levy, S Ma, A Statnikov, R Yehuda and AY Shalev, (2017). Utilization of machine learning for prediction of post-traumatic stress: a re-examination of cortisol in the prediction and pathways to non-remitting PTSD, Transl Psychiatry (2017) 7, e1070. IR Galatzer-Levy, S Ma, A Statnikov, R Yehuda and A Y Shalev, (2017). Utilization of machine learning for prediction of post-traumatic stress: a re-examination of cortisol in the prediction and pathways to non-remitting PTSD, Transl Psychiatry (2017) 7, e1070. Barak-Corren Y, Castro VM, Javitt S, Hoffnagle AG, Dai Y, Perlis RH, et al. Predicting suicidal behavior from longitudinal electronic health records. Am JPsychiatry (2017) 174:154-62. Barak-Corren Y, Castro VM, Javitt S, Hoffnagle AG, Dai Y, Perlis RH, et al. Predicting suicidal behavior from longitudinal electronic health records. Am J Psychiatry (2017) 174:154-62. Kessler RC, Warner CH, Ivany C, Petukhova MV, Rose S, Bromet EJ, et al. Predicting suicides after psychiatric hospitalization in US Army soldiers: the army study to assess risk and resilience in servicemembers (Army STARRS). JAMA Psychiatry (2015) 72:49-57. Kessler RC, Warner CH, Ivany C, Petukhova MV, Rose S, Bromet EJ, et al. Predicting suicides after psychiatric hospitalization in US Army soldiers: the army study to assess risk and resilience in servicemembers (Army STARRS). JAMA Psychiatry (2015) 72:49-57.

따라서, 본 발명의 목적은 정신과에서 흔히 사용되는 다양한 척도들과 환자의 영상/음성/텍스트로 구성된 상담 데이터 및 웨어러블 디바이스에서 출력되는 환자의 액티비티 데이터를 입력 데이터로 이용하여 환자의 정신질환를 분류하는 멀티모달 인공신경망을 활용한 정신질환 예측 장치 및 방법를 제공하는데에 있다. Accordingly, an object of the present invention is to classify a patient's mental illness by using various scales commonly used in psychiatry, counseling data consisting of a patient's video/voice/text, and patient's activity data output from a wearable device as input data. It is to provide a mental disease prediction device and method using a modal artificial neural network.

이하 본 발명의 목적을 달성하기 위한 구체적 수단에 대하여 설명한다.Hereinafter, specific means for achieving the object of the present invention will be described.

본 발명의 목적은, 특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터 및 액티비티 데이터를 통해 상기 특정 정신질환에 대해 진단되지 않은 상기 정신질환자인 신규 정신질환자의 상기 특정 정신질환의 예측을 수행하도록 학습된 인공신경망인 정신질환 예측 인공신경망 모듈의 프로그램 코드를 저장하는 메모리 모듈; 및 상기 정신질환 예측 인공신경망 모듈의 상기 프로그램 코드를 처리하는 처리 모듈;을 포함하고, 상기 정신질환 예측 인공신경망 모듈의 상기 프로그램 코드는, 상기 신규 정신질환자의 상기 상담 데이터 및 상기 액티비티 데이터가 입력되는 입력 단계; 및 상기 신규 정신질환자의 상기 특정 정신질환의 예측에 대한 데이터인 정신질환 예측 데이터를 추론하고 출력하는 추론 단계;를 포함하여 컴퓨터 상에서 수행되도록 구성되고, 상기 특정 정신질환은 상기 정신질환자의 우울증을 포함하는 것을 특징으로 하는, 멀티모달 인공신경망을 활용한 정신질환 예측 장치를 제공하여 달성될 수 있다.An object of the present invention is to predict the specific mental illness of a new mental illness who is not diagnosed for the specific mental illness through counseling data and activity data of an existing mental illness who is a mental illness diagnosed for the specific mental illness. a memory module for storing program codes of an artificial neural network module for predicting mental illness, which is an artificial neural network trained to perform; and a processing module for processing the program code of the artificial neural network module for predicting mental illness; wherein the program code of the artificial neural network module for predicting mental illness is used to input the counseling data and the activity data of the new mentally ill person. input step; and an inference step of inferring and outputting mental disorder prediction data, which is data for prediction of the specific mental disorder of the new mental disorder patient, wherein the specific mental disorder includes depression of the mental disorder patient. Characterized in that, it can be achieved by providing a mental disease prediction device using a multimodal artificial neural network.

또한, 상기 특정 정신질환에는 상기 정신질환자의 우울증 및 상기 정신질환자의 PTSD 예후를 포함한 복수개의 정신질환이 포함되고, 상기 정신질환 예측 인공신경망 모듈은, 상기 복수개의 정신질환 각각에 대해 학습된 복수개의 인공신경망이 포함되며, 상기 추론 단계에서는, 상기 신규 정신질환자의 상기 복수개의 정신질환 각각에 대한 상기 정신질환 예측 데이터를 추론하고 출력하는 것을 특징으로 할 수 있다.In addition, the specific mental disease includes a plurality of mental diseases including depression of the mentally ill person and a PTSD prognosis of the mentally ill person, and the mental disease prediction artificial neural network module includes a plurality of mental diseases learned for each of the plurality of mental diseases. An artificial neural network may be included, and in the inference step, the mental disorder prediction data for each of the plurality of mental disorders of the new mental disorder patient may be inferred and output.

본 발명의 다른 목적은, 특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터 및 액티비티 데이터를 통해 상기 특정 정신질환에 대해 진단되지 않은 상기 정신질환자인 신규 정신질환자의 상기 특정 정신질환의 예측을 수행하도록 학습된 인공신경망인 정신질환 예측 인공신경망 모듈;을 포함하고, 상기 정신질환 예측 인공신경망 모듈은, 상기 신규 정신질환자의 상기 상담 데이터 및 상기 액티비티 데이터가 입력되고, 상기 신규 정신질환자의 상기 특정 정신질환의 예측에 대한 데이터인 정신질환 예측 데이터를 추론하고 출력하며, 상기 특정 정신질환은 상기 정신질환자의 우울증을 포함하는 것을 특징으로 하는, 멀티모달 인공신경망을 활용한 정신질환 예측 장치를 제공하여 달성될 수 있다.Another object of the present invention is to determine the specific mental illness of the new mental illness who has not been diagnosed for the specific mental illness through counseling data and activity data of the existing mental illness, who is a mental illness diagnosed for the specific mental illness. and a mental disorder prediction artificial neural network module, which is an artificial neural network trained to perform prediction, wherein the mental disorder prediction artificial neural network module inputs the counseling data and the activity data of the new mental disorder patient, and inputs the mental disorder predictive artificial neural network module. A mental disorder prediction device using a multimodal artificial neural network, characterized in that inferring and outputting mental disorder prediction data, which is data for prediction of the specific mental disorder, and wherein the specific mental disorder includes depression of the mentally ill person. can be achieved by providing

본 발명의 다른 목적은, 특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터 및 액티비티 데이터를 통해 상기 특정 정신질환에 대해 진단되지 않은 상기 정신질환자인 신규 정신질환자의 상기 특정 정신질환의 예측을 수행하도록 학습된 인공신경망인 정신질환 예측 인공신경망 모듈에 상기 신규 정신질환자의 상기 상담 데이터 및 상기 액티비티 데이터가 입력되는 입력 단계; 및 상기 정신질환 예측 인공신경망 모듈이 상기 신규 정신질환자의 상기 특정 정신질환의 예측에 대한 데이터인 정신질환 예측 데이터를 추론하고 출력하는 추론 단계;를 포함하고, 상기 특정 정신질환은 상기 정신질환자의 우울증을 포함하는 것을 특징으로 하는, 멀티모달 인공신경망을 활용한 정신질환 예측 머신러닝 방법을 제공하여 달성될 수 있다.Another object of the present invention is to determine the specific mental illness of the new mental illness who has not been diagnosed for the specific mental illness through counseling data and activity data of the existing mental illness, who is a mental illness diagnosed for the specific mental illness. an input step of inputting the counseling data and the activity data of the new mentally ill person to a mental disorder prediction artificial neural network module, which is an artificial neural network trained to perform prediction; and an inference step in which the mental disorder prediction artificial neural network module infers and outputs mental disorder prediction data, which is data for prediction of the specific mental disorder of the new mental disorder patient, wherein the specific mental disorder is depression of the mental disorder patient. It can be achieved by providing a machine learning method for predicting mental illness using a multimodal artificial neural network, characterized in that it comprises a.

상기한 바와 같이, 본 발명에 의하면 이하와 같은 효과가 있다.As described above, the present invention has the following effects.

첫째, 본 발명의 일실시예에 따르면, 우울증 등의 정신질환을 실시간으로 분류해냄으로써, 정신적 위기 상황에 적절히 대처가능한 효과가 발생된다. First, according to one embodiment of the present invention, by classifying mental disorders such as depression in real time, an effect capable of appropriately coping with a mental crisis situation is generated.

둘째, 본 발명의 일실시예에 따르면, 정신과 외래진료실 등을 방문한 환자를 대상으로, 비교적 적은 리소스로 PTSD나 우울증, 자살 위험도와 같은 정신질환을 판별할 수 있는 효과가 발생된다.Second, according to one embodiment of the present invention, for patients who have visited a psychiatric outpatient clinic, etc., an effect that can discriminate mental disorders such as PTSD, depression, and suicide risk with relatively few resources occurs.

본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 실시예를 예시하는 것이며, 발명의 상세한 설명과 함께 본 발명의 기술사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석되어서는 아니 된다.
도 1은 본 발명의 일실시예에 따른 환자의 영상/음성/텍스트 데이터 및 웨어러블 디바이스에서 출력되는 환자의 액티비티 데이터를 이용하여 환자의 정신질환를 분류하는 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)를 도시한 모식도,
도 2는 본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)의 구성을 도시한 모식도,
도 3은 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 학습 세션을 도시한 모식도,
도 4는 다층 신경망 모델(딥러닝 또는 심층 신경망 모델)의 구조를 도시한 모식도,
도 5는 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 노드에서의 계산 과정을 도시한 모식도,
도 6은 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 Drop-out 방식을 도시한 모식도,
도 7은 ReLU 활성함수를 도시한 그래프,
도 8는 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 신경망 전이 학습을 도시한 모식도,
도 9는 본 발명의 다른 실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 강화학습을 도시한 모식도,
도 10은 본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 방법을 도시한 흐름도이다.
The following drawings attached to this specification illustrate preferred embodiments of the present invention, and together with the detailed description of the invention serve to further understand the technical idea of the present invention, the present invention is limited only to those described in the drawings. and should not be interpreted.
1 is a mental disorder prediction device using a multimodal artificial neural network that classifies a patient's mental disorder using a patient's video/voice/text data and the patient's activity data output from a wearable device according to an embodiment of the present invention ( A schematic diagram showing 1),
2 is a schematic diagram showing the configuration of a mental disorder prediction device 1 using a multimodal artificial neural network according to an embodiment of the present invention;
3 is a schematic diagram showing a learning session of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention;
4 is a schematic diagram showing the structure of a multilayer neural network model (deep learning or deep neural network model);
5 is a schematic diagram showing a calculation process at a node of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention;
6 is a schematic diagram showing a drop-out method of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention;
7 is a graph showing a ReLU activation function;
8 is a schematic diagram showing neural network transfer learning of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention;
9 is a schematic diagram showing reinforcement learning of the artificial neural network module 12 for predicting mental illness according to another embodiment of the present invention;
10 is a flowchart illustrating a method for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention.

이하 첨부된 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명을 쉽게 실시할 수 있는 실시예를 상세히 설명한다. 다만, 본 발명의 바람직한 실시예에 대한 동작원리를 상세하게 설명함에 있어서 관련된 공지기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다.Hereinafter, an embodiment in which a person skilled in the art can easily practice the present invention will be described in detail with reference to the accompanying drawings. However, in the detailed description of the operating principle of the preferred embodiment of the present invention, if it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description will be omitted.

또한, 도면 전체에 걸쳐 유사한 기능 및 작용을 하는 부분에 대해서는 동일한 도면 호를 사용한다. 명세서 전체에서, 특정 부분이 다른 부분과 연결되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐만 아니라, 그 중간에 다른 소자를 사이에 두고, 간접적으로 연결되어 있는 경우도 포함한다. 또한, 특정 구성요소를 포함한다는 것은 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라, 다른 구성요소를 더 포함할 수 있는 것을 의미한다.In addition, the same reference numerals are used for parts having similar functions and actions throughout the drawings. Throughout the specification, when a specific part is said to be connected to another part, this includes not only the case where it is directly connected but also the case where it is indirectly connected with another element interposed therebetween. In addition, including a specific component does not exclude other components unless otherwise stated, but means that other components may be further included.

멀티모달 인공신경망을 활용한 정신질환 예측 장치Mental disease prediction device using multimodal artificial neural network

도 1은 본 발명의 일실시예에 따른 환자의 영상/음성/텍스트로 구성된 상담 데이터 및 웨어러블 디바이스에서 출력되는 환자의 액티비티 데이터를 이용하여 환자의 정신질환를 분류하는 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)를 도시한 모식도이다. 도 1에 도시된 바와 같이, 학습(Training) 세션의 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)에는 특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터(100, 환자의 영상/음성/텍스트로 구성된 정신과 상담 세션 데이터), 액티비티 데이터(200, 환자에게 주어진 웨어러블 디바이스에서 입력되는 활동/수면/스트레스 데이터를 포함하는 센서 데이터), 설문 문항(300)이 입력되어 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)가 학습되고, 추론(Inference) 세션의 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)에는 특정 정신질환에 대해 진단되지 않은 환자인 신규 정신질환자의 상담 데이터(100), 액티비티 데이터(200)가 입력되어 우울증(Depressive disorder) 예측 데이터(400), PTSD(posttraumatic stress disorder) 예후 예측 데이터(500), 자살시도 가능성 예측 데이터, 불안장애(Anxiety disorder) 예측 데이터 등의 정신질환 예측 데이터가 출력된다. 이하에서는 설명의 편의를 위하여 정신질환 예측 데이터 중 우울증 예측 데이터(400), PTSD 예후 예측 데이터(500)를 기초로 발명의 내용을 설명하고, 본 발명의 범위는 이에 한정되지 않을 수 있다. 1 is a mental disorder using a multimodal artificial neural network that classifies a patient's mental disorder using consultation data composed of patient's video/voice/text and patient's activity data output from a wearable device according to an embodiment of the present invention. It is a schematic diagram showing the prediction device 1. As shown in FIG. 1, the mental disorder prediction apparatus 1 using the multimodal artificial neural network of the training session includes counseling data (100, patient's Psychiatric counseling session data composed of video/voice/text), activity data (200, sensor data including activity/sleep/stress data input from a wearable device given to the patient), and a questionnaire item 300 are input to provide multimodal artificial intelligence. A mental disorder predictive device (1) using a neural network is learned, and a mental disorder predictive device (1) using a multimodal artificial neural network in an inference session includes a patient who has not been diagnosed with a specific mental disorder, a patient with a new mental illness. Counseling data (100), activity data (200) are entered to predict depression (Depressive disorder) data (400), PTSD (posttraumatic stress disorder) prognosis prediction data (500), suicide attempt probability prediction data, anxiety disorder (Anxiety disorder) Mental disorder prediction data such as prediction data is output. Hereinafter, for convenience of explanation, the contents of the present invention will be described based on depression prediction data 400 and PTSD prognosis prediction data 500 among mental disease prediction data, and the scope of the present invention may not be limited thereto.

본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)는 특정 웹서버, 클라우드 서버와 같은 가상 서버, 스마트폰, 태블릿 PC, 데스크탑 PC 등의 컴퓨팅 장치의 처리모듈에 의해 처리되고, 각 장치의 메모리 모듈에 저장되도록 구성될 수 있다. An apparatus for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention (1) is a processing module of a computing device such as a specific web server, a virtual server such as a cloud server, a smartphone, a tablet PC, and a desktop PC. It can be configured to be processed by and stored in a memory module of each device.

상담 데이터(100)는 디지털 기기를 통해 영상, 음성, 텍스트 등의 형태로 입력되는 정신질환자의 상담 세션에 대한 데이터를 의미한다. 상담 데이터(100)는 정신질환자의 스마트폰, 태블릿, PC 등에서 입력되거나 담당 의사의 스마트폰, 태블릿, PC 등에서 입력될 수 있다.Counseling data 100 refers to data about a counseling session for a mentally ill patient input in the form of video, audio, or text through a digital device. Counseling data 100 may be input from a smartphone, tablet, or PC of a mentally ill person or from a smartphone, tablet, or PC of a doctor in charge.

액티비티 데이터(200)는 정신질환자에게 제공되는 웨어러블 디바이스의 센서 데이터에 의해 출력되는 수면, 호흡, 스트레스 등에 대한 액티비티 데이터를 의미한다. 액티비티 데이터(200)는 정신질환자의 웨어러블 디바이스와 연결된 스마트폰, 태블릿, PC 등에서 입력되거나 담당 의사의 스마트폰, 태블릿, PC 등에서 입력될 수 있다.The activity data 200 refers to activity data about sleep, breathing, stress, etc. output by sensor data of a wearable device provided to a mentally ill patient. The activity data 200 may be input from a smart phone, tablet, PC, etc. connected to the wearable device of the mentally ill person, or input from the smart phone, tablet, PC, etc. of the doctor in charge.

설문 문항(300)은 우울증(Depressive disorder)에 대한 설문인 우울증 설문, 자살시도에 대한 설문인 자살시도 설문, PTSD(posttraumatic stress disorder)에 대한 설문인 PTSD 설문 등의 정신과 진단에 대한 설문을 의미한다. 본 발명의 일실시예에 따른 자살시도 설문은 "(1) 일생동안 자살을 시도한 적이 있었는가?, (2) 최근 1년 이내에 자살을 시도한 적이 있었는가?, (3) 최근 1개월 이내에 자살을 시도한 적이 있었는가?"로 구성될 수 있고, 각각의 설문은 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)의 출력값으로 학습될 수 있다. 설문 문항(300)은 정신질환자의 스마트폰, 태블릿, PC 등에서 입력되거나 담당 의사의 스마트폰, 태블릿, PC 등에서 입력될 수 있다.Questionnaire 300 refers to questionnaires on psychiatric diagnosis, such as a depression questionnaire on depression, a suicide attempt questionnaire on suicide attempts, and a PTSD questionnaire on PTSD (posttraumatic stress disorder). . Suicide attempt questionnaires according to an embodiment of the present invention are "(1) Have you ever attempted suicide during your lifetime?, (2) Have you ever attempted suicide within the last year?, (3) Have you attempted suicide within the past month? Have you tried it?", and each questionnaire can be learned as an output value of the mental disorder prediction apparatus 1 using a multimodal artificial neural network. The questionnaire items 300 may be input from a smartphone, tablet, or PC of a mentally ill person or from a smartphone, tablet, or PC of a doctor in charge.

우울증 예측 데이터(400)는 학습 세션에서의 우울증 설문에 대한 설문 문항(300)에 따라 추론 세션에서 예측되는 해당 정신질환자의 우울증 가능성을 의미한다. Depression prediction data 400 refers to the probability of depression of a corresponding mentally ill person predicted in an inference session according to a questionnaire item 300 on a depression questionnaire in a learning session.

PTSD 예후 예측 데이터(500)는 학습 세션에서의 PTSD 설문에 대한 설문 문항(300)에 따라 추론 세션에서 예측되는 해당 정신질환자의 PTSD 예후 가능성을 의미한다. The PTSD prognosis prediction data 500 means the possibility of PTSD prognosis of the mentally ill person predicted in the reasoning session according to the question items 300 of the PTSD questionnaire in the learning session.

본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)는 Supervised Learning의 형태로 구성이 가능하고, 선형/로지스틱 회귀분석(Regression), 서포트 벡터 머신(Support Vector Machine), 다층 퍼셉트론(Multi-layer perceptron), 나이브 베이지안 분류(Naive-Bayesian Classification), 랜덤 포레스트 분류(Random Forest Classification), 인공신경망(Neural Network) 등의 다양한 머신러닝 알고리즘으로 구성이 가능하다. 설명의 편의를 위하여 이하에서는 본 발명의 일실시예에 따라 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)를 인공신경망으로 구성한 예시로 설명한다. The mental disorder prediction device 1 using a multimodal artificial neural network according to an embodiment of the present invention can be configured in the form of supervised learning, linear / logistic regression analysis (Regression), support vector machine (Support Vector Machine) It can be configured with various machine learning algorithms such as , multi-layer perceptron, Naive-Bayesian Classification, Random Forest Classification, and Neural Network. For convenience of description, the following describes an apparatus for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention as an example configured with an artificial neural network.

도 2는 본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)의 구성을 도시한 모식도이다. 도 2에 도시된 바와 같이, 본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)는 상담 데이터 인코더(10), 액티비티 데이터 인코더(11), 정신질환 예측 인공신경망 모듈(12)을 포함할 수 있다. FIG. 2 is a schematic diagram showing the configuration of an apparatus 1 for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention. As shown in FIG. 2, the apparatus 1 for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention includes a counseling data encoder 10, an activity data encoder 11, and a mental disorder predictive artificial neural network. module 12.

상담 데이터 인코더(10)는 기존 정신질환자의 상담 데이터(100), 액티비티 데이터(200), 설문 문항(300)을 기초로 학습되고, 신규 정신질환자의 상담 데이터(100)를 기초로 상담 인코딩 벡터를 추론하는 인공신경망 알고리즘이 저장되고 처리되는 모듈을 의미한다.The counseling data encoder 10 learns based on the counseling data 100, activity data 200, and questionnaire items 300 of the existing mentally ill patient, and converts the counseling encoding vector based on the counseling data 100 of the new mentally ill patient. It refers to a module in which artificial neural network algorithms for reasoning are stored and processed.

액티비티 데이터 인코더(11)는 기존 정신질환자의 상담 데이터(100), 액티비티 데이터(200), 설문 문항(300)을 기초로 학습되고, 신규 정신질환자의 액티비티 데이터(200)을 기초로 액티비티 인코딩 벡터를 추론하는 인공신경망 알고리즘이 저장되고 처리되는 모듈을 의미한다.The activity data encoder 11 learns based on the counseling data 100, activity data 200, and questionnaire items 300 of the existing mentally ill person, and converts the activity encoding vector based on the activity data 200 of the new mentally ill person. It refers to a module in which artificial neural network algorithms for reasoning are stored and processed.

정신질환 예측 인공신경망 모듈(12)은, 상담 인코딩 벡터 및 액티비티 인코딩 벡터를 조합한 조합 벡터를 입력 데이터로 하고, 우울증 예측 데이터, PTSD 예후 예측 데이터와 같은 정신질환 예측 데이터를 출력 데이터로 하는 인공신경망 모듈을 의미한다. The mental disorder prediction artificial neural network module 12 takes as input data a combination vector obtained by combining a counseling encoding vector and an activity encoding vector, and uses mental disorder prediction data such as depression prediction data and PTSD prognosis prediction data as output data. means module.

상담 데이터 인코더(10), 액티비티 데이터 인코더(11), 정신질환 예측 인공신경망 모듈(12)의 신경망 모델(Neural Network model)은 생물학에서의 뉴런 구조로부터 착안된 지도 학습(supervised learning) 알고리즘이다. 신경망 모델의 기본적인 작동 원리는 여러 개의 뉴런들을 상호 연결하여 입력값에 대한 최적의 출력값을 예측하는 것이다. 통계적인 관점에서 보면 신경망 모델은 입력 변수의 선형 결합에 비선형 함수를 취하는 사영추적회귀로 볼 수 있다. 이하에서는 설명의 편의를 위해 정신질환 예측 인공신경망 모듈(12)을 위주로 설명한다.The neural network model of the counseling data encoder 10, activity data encoder 11, and mental disorder prediction artificial neural network module 12 is a supervised learning algorithm derived from the structure of neurons in biology. The basic operating principle of a neural network model is to predict an optimal output value for an input value by interconnecting several neurons. From a statistical point of view, a neural network model can be viewed as a projective tracking regression that takes a non-linear function over a linear combination of input variables. Hereinafter, for convenience of description, the mental disorder prediction artificial neural network module 12 will be mainly described.

도 3은 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 학습 세션을 도시한 모식도이다. 도 3에 도시된 바와 같이, 기존 정신질환자의 상담 인코딩 벡터 및 액티비티 인코딩 벡터를 구성하는 각 속성은 x1, x2, x3와 같은 상담 데이터 인코더(10)의 입력층(input layer)의 각 노드에 입력되고, w1과 같은 weight을 기반으로 h1, h2, h3와 같은 은닉층(hidden layer)의 컴퓨팅 이후에 softmax나 ReLU와 같은 cost function을 기반으로 예측되는 우울증 예측 데이터(400)가 y1인 출력층(output layer)에서 우울증 예측 데이터(400)가 출력되게 된다. 출력된 우울증 예측 데이터(400)와 실제 우울증에 대한 설문 문항(300)의 에러(error, -Sigma(yi log pi))를 줄이는 방향으로 은닉층의 weight를 업데이트 시키도록 Back propagation 될 수 있다. 3 is a schematic diagram showing a learning session of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention. As shown in FIG. 3, each attribute constituting the counseling encoding vector and activity encoding vector of the existing mentally ill patient is input to each node of the input layer of the counseling data encoder 10, such as x1, x2, and x3. And, after computing hidden layers such as h1, h2, and h3 based on weights such as w1, depression prediction data 400 predicted based on a cost function such as softmax or ReLU is an output layer with y1 ) Depression prediction data 400 is output. Back propagation can be performed to update the weight of the hidden layer in the direction of reducing the error (error, -Sigma(y i log pi ) ) of the output depression prediction data 400 and the actual depression questionnaire 300.

본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 구체적인 구조와 관련하여, 도 4는 다층 신경망 모델(딥러닝 또는 심층 신경망 모델)의 구조를 도시한 모식도이다. 도 4에 도시된 바와 같이 본 발명의 일실시예에 따른 상담 데이터 인코더(10)의 다층 신경망 모델은 입력층(input layer), 은닉층(hidden layer), 출력층(output layer)으로 구성된다. 입력층은 각 입력변수에 대응되는 노드로 구성되며, 노드의 수는 입력변수의 개수와 같다. 은닉층은 입력층으로부터 전달되는 변수값들의 선형 결합을 시그모이드 함수와 같은 비선형 함수로 처리하여 출력층 또는 다른 은닉층에 전달하는 역할을 한다(최근에는 Back propagation에서 chain rule을 적용하면서 error가 앞단의 layer에서 희석되는 vanishing gradient 문제가 발생되어 시그모이드 함수 대신, ReLU를 일반적으로 이용한다). 출력층은 출력 변수에 대응되는 노드로서 분류 모형에서는 클래스의 수만큼 출력 노드가 생성된다. Regarding the specific structure of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention, FIG. 4 is a schematic diagram showing the structure of a multi-layer neural network model (deep learning or deep neural network model). As shown in FIG. 4, the multilayer neural network model of the counseling data encoder 10 according to an embodiment of the present invention is composed of an input layer, a hidden layer, and an output layer. The input layer is composed of nodes corresponding to each input variable, and the number of nodes is equal to the number of input variables. The hidden layer serves to process the linear combination of variable values transmitted from the input layer with a non-linear function such as the sigmoid function and pass it to the output layer or other hidden layer (recently, by applying the chain rule in Back propagation, the error is Since the vanishing gradient problem occurs in , ReLU is generally used instead of the sigmoid function). The output layer is a node corresponding to an output variable, and output nodes are generated as many as the number of classes in the classification model.

도 5는 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 노드에서의 계산 과정을 도시한 모식도이다. 도 5에 도시된 바와 같이, 각각의 노드에서는 실제로 연산이 일어나는데, 이 연산 과정은 인간의 신경망을 구성하는 뉴런에서 일어나는 과정을 모사하도록 수학적으로 설계되어있다. 노드는 일정 크기 이상의 자극을 받으면 반응을 하는데, 그 반응의 크기는 바이어스(bias) 값을 제외하고 입력 값과 노드의 계수(또는 가중치, weights)를 곱한 값과 대략 비례한다. 일반적으로 노드는 여러 개의 입력을 받으며 입력의 개수만큼 계수를 가지고 있다. 따라서 이 계수를 조절함으로써 여러 입력에 다른 가중치를 부여할 수 있다. 최종적으로 곱한 값들은 전부 더해지고 그 합은 활성 함수(activation function)의 입력으로 들어가게 된다. 활성 함수의 결과가 노드의 출력에 해당하며 이 출력값이 궁극적으로 분류나 회귀 분석에 쓰이게 된다. 신경망 모델의 각 층은 적어도 하나의 노드로 이루어져 있으며 입력값에 따라 각 노드의 활성화/비활성화 여부가 결정된다. 입력 데이터는 첫 번째 층(입력층, input layer)의 입력이 되며 그 이후엔 각 층의 출력이 다시 다음 층의 입력이 된다. 모든 계수는 학습 과정에서 계속 조금씩 변하는데, 결과적으로 각 노드가 어떤 입력을 중요하게 여기는지를 반영한다. 그리고 신경망 모델의 '학습(training)'은 이 계수를 업데이트하는 과정이다.5 is a schematic diagram showing a calculation process in a node of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention. As shown in FIG. 5 , calculation actually occurs at each node, and this calculation process is mathematically designed to simulate a process occurring in neurons constituting a human neural network. A node responds when it receives a stimulus of a certain size or more, and the size of the response is approximately proportional to the value obtained by multiplying the input value and the node's coefficient (or weights), excluding the bias value. In general, a node receives multiple inputs and has as many coefficients as the number of inputs. Therefore, by adjusting this coefficient, different weights can be given to different inputs. Finally, the multiplied values are all added up, and the sum goes into the input of the activation function. The result of the activation function corresponds to the output of the node, and this output value is ultimately used for classification or regression analysis. Each layer of the neural network model is composed of at least one node, and activation/deactivation of each node is determined according to an input value. The input data becomes the input of the first layer (input layer), and then the output of each layer becomes the input of the next layer. All the coefficients keep changing slightly during the learning process, which in turn reflects which inputs each node considers important. And 'training' of the neural network model is the process of updating these coefficients.

다층 신경망 모델, 즉 딥러닝에서 가장 문제되는 것은 과적합(overfitting) 문제이다. 과적합(Overfitting)은 주어진 데이터의 양에 비해 모델의 복잡도(complexity)가 높으면 발생하게 된다. 안타깝게도 신경망(neural network)이 깊어질수록 모델의 복잡도는 exponential하게 증가하게 된다. 그렇기 때문에 거의 무한한 표현형을 학습할 수 있는 deep network가 좋다는 것을 다들 알고 있음에도 불구하고, 너무나 과적합(overfitting)이 심하게 발생하기 때문에 Marvin Minsky 교수의 1969년 Perceptrons 이론에 의해 neural network 연구가 멈추게 된 것이다. 하지만, 2007~2008년 즈음하여 과적합을 막기 위한 새로운 initialization 방법인 RBM(Restricted Boltzmann Machine)과 CNN(Convolutional Neural Network)이 제안되면서, 다시 딥러닝 연구가 활발하게 진행되었다. The most problematic problem in multilayer neural network models, that is, deep learning, is overfitting. Overfitting occurs when the complexity of the model is high compared to the amount of data given. Unfortunately, the complexity of the model increases exponentially as the neural network gets deeper. Therefore, although everyone knows that a deep network that can learn almost infinite phenotypes is good, overfitting occurs so severely that neural network research was stopped by Professor Marvin Minsky's 1969 Perceptrons theory. However, around 2007~2008, new initialization methods to prevent overfitting, such as RBM (Restricted Boltzmann Machine) and CNN (Convolutional Neural Network), were proposed, and deep learning research was actively conducted again.

특히, RBM은 DBN(Deep Belief Network)을 구성하는 요소로 이용되고, unsupervised RBM(restricted Boltzmann machine)을 통해 학습시킬 feedforward neural network의 각 층을 효과적으로 사전훈련(pre-training)하여 과적합(overfitting)을 방지할 수 있는 수준의 initialize point를 잡았고, 이를 다시 supervised back propagation를 사용하는 형태로 학습을 진행한다.In particular, RBM is used as a component of DBN (Deep Belief Network), and overfitting by effectively pre-training each layer of the feedforward neural network to be trained through an unsupervised RBM (restricted Boltzmann machine) We set an initialize point at a level that can prevent this, and proceed with learning in the form of using supervised back propagation again.

하지만, NIPS 2006에 발표된 Bengio 교수 연구팀의 Greedy layer-wise training of deep networks 연구와 NIPS 2007에 발표된 Hinton 교수 연구팀의 A fast learning algorithm for deep belief nets 두 논문을 통해 제안되었던 RBM과 DBN 같은 unsupervised pretraining method들은 최근 실무에서 사용되지는 않는다. 지금은 데이터가 충분히 많을 경우 이런 방식으로 weight를 initialization하는 것보다 random initialization의 성능이 훨씬 우수하다는 것이 알려져 있기 때문이다. Random initialization의 일환으로 Drop-out이라는 개념이 소개되었고, 최근에는 대부분이 Drop-out 방식을 이용하고 있다. However, unsupervised pretraining such as RBM and DBN, which was proposed in two papers, the Greedy layer-wise training of deep networks by Professor Bengio's research team published in NIPS 2006 and A fast learning algorithm for deep belief nets by Professor Hinton's research team published in NIPS 2007 methods are not used in current practice. This is because it is now known that random initialization performs much better than initializing the weights in this way when there is enough data. As part of random initialization, the concept of drop-out was introduced, and most of them use the drop-out method recently.

도 6은 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 Drop-out 방식을 도시한 모식도이다. 도 6에 도시된 바와 같이, 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 Drop-out 방식은 매 학습시 은닉층에서 모든 neuron을 사용하는 것이 아니라 50% 정도의 neuron을 사용한다. 하나의 딥러닝에서 여러 개의 작은 neural network이 앙상블(ensemble)되어진 효과가 있고, 앙상블은 과적합이 크게 줄어든다고 알려져 있다. 또한, 비슷한 weight를 갖는 뉴런들이 줄어들게 되어서 중복된 판단을 하는 뉴런들이 줄어들게 되어 뉴런을 효율적으로 사용가능한 장점이 있다.6 is a schematic diagram showing a drop-out method of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention. As shown in FIG. 6, the drop-out method of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention uses about 50% of neurons in the hidden layer instead of all neurons in each learning do. It is known that there is an effect of ensemble of several small neural networks in one deep learning, and the ensemble greatly reduces overfitting. In addition, neurons with similar weights are reduced, so neurons making redundant judgments are reduced, which has the advantage of being able to use neurons efficiently.

또한, 최근에는 ReLU(Rectified Linear Unit) 라는 활성함수(activation function)로 느린 학습시간과 과적합 문제 등을 해결하고 있다. 도 7은 ReLU 활성함수를 도시한 그래프이다. 도 7에 도시된 바와 같이, 기존의 sigmoid 함수는 기울기 하강(Gradient Descent)를 여러 층으로 해나갈 때마다 error가 소멸되는 문제가 발생한다. 여러 층을 지나 극한으로 갈수록 sigmoid 함수는 Gradient(기울기)가 작아져서 weight가 업데이트되지 않는 문제가 발생하는 것이다. 그런데 활성함수로 ReLU 함수를 사용시, 기울기가 0 또는 1로 학습되는 경우에 100%로 error가 전파되어 이러한 문제가 해소되게 된다. ReLU 함수는 sigmoid 처럼 [0,1]로 제한되는 것이 아니고 그 범위가 무제한이기 때문에 좀 더 확실한 표현력을 가진다고 볼 수 있다. 또한, 각 노드의 출력값 중 필요 없는 값들이 많다. 이럴 때, sigmoid 함수 사용시 모든 값에 대한 계산을 해야하는데, ReLU 함수는 상당 부분의 연산량을 줄일 수 있어 컴퓨팅 속도가 개선되는 효과가 발생된다. ReLU 함수에 의해 정규화(Regularization)가 향상될 수 있다.In addition, recently, an activation function called ReLU (Rectified Linear Unit) has been used to solve problems such as slow learning time and overfitting. 7 is a graph showing a ReLU activation function. As shown in FIG. 7, the existing sigmoid function has a problem that errors disappear whenever gradient descent is performed in several layers. As you go through several layers and reach the limit, the gradient of the sigmoid function becomes smaller, causing a problem that the weights are not updated. However, when using the ReLU function as an activation function, when the gradient is learned as 0 or 1, the error is propagated to 100%, which solves this problem. Since the ReLU function is not limited to [0,1] like sigmoid and its range is unlimited, it can be seen that it has more reliable expressive power. In addition, there are many unnecessary values among the output values of each node. In this case, when using the sigmoid function, it is necessary to calculate all values, but the ReLU function can reduce a large part of the amount of calculation, resulting in an effect of improving the computing speed. Regularization can be improved by the ReLU function.

본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 학습 세션에서는 자살시도에 대한 데이터가 우울증(Depressive disorder)이나 불안장애(Anxiety disorder) 등과 같이 일반적인 정신질환에 비해 불균형적(학습 데이터 중 자살시도 경험이 있는 데이터와 자살시도 경험이 없는 데이터의 불균형)이고 양이 적다는 문제가 있다. 이러한 문제를 해결하기 위해, 본 발명의 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)은 우울증(Depressive disorder)과 같이 데이터의 양이 많아 인공신경망의 학습이 용이한 일반적인 정신질환에 대한 인공신경망 모듈의 기학습된 인공신경을 전이(Transfer)하는 방법으로 구성될 수 있다. In the learning session of the mental disorder prediction artificial neural network module 12 according to an embodiment of the present invention, suicide attempt data is disproportionate (learning) compared to general mental disorders such as depression (Depressive disorder) or anxiety disorder (learning). Among the data, there is a problem that there is an imbalance between the data with suicide attempts and the data without suicide attempts) and the amount is small. In order to solve this problem, the mental disorder prediction artificial neural network module 12 according to an embodiment of the present invention is a general mental disorder in which the artificial neural network can easily learn due to a large amount of data, such as depression (Depressive disorder). It can be configured as a method of transferring the pre-learned artificial nerve of the artificial neural network module for.

신경망 전이에 대하여, 도 8는 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 신경망 전이 학습을 도시한 모식도이다. 도 8에 도시된 바와 같이, 우울증을 예측하는 정신질환 예측 인공신경망 모듈(12)의 일부 층(Layer)은 다른 정신 질환을 예측하는 정신질환 예측 인공신경망 모듈(12)의 일부 층(Layer)의 신경망 전이에 의해 생성되고, 정신질환 예측 인공신경망 모듈(12)의 나머지 층(Layer)은 파라미터인 초기 가중치 w와 초기 편향 b가 무작위로 초기화된 초기화 층으로 생성된다. 이후 특정 정신질환에 대한 설문 문항(300)을 포함하는 정신질환자의 상담 데이터(100)와 액티비티 데이터(200)를 기초로, 생성된 정신질환 예측 인공신경망 모듈(12)을 재학습하여 정신질환 예측 인공신경망 모듈(12)의 파라미터를 세부 교정할 수 있다. 이때, 우울증 예측을 위한 정신질환 예측 인공신경망 모듈(12)의 입력 데이터는 우울증에 대한 설문 문항(300)을 포함하는 정신질환자의 상담 데이터(100)와 액티비티 데이터(200)이고 출력 데이터는 우울증 예측 데이터이며, 다르 정신질환의 예측을 위한 정신질환 예측 인공신경망 모듈(12)의 입력 데이터는 특정 정신질환에 대한 설문 문항(300)을 포함하는 정신질환자의 상담 데이터(100)와 액티비티 데이터(200)이고 출력 데이터는 우울증 예측 데이터(400)이다. Regarding neural network transfer, FIG. 8 is a schematic diagram showing neural network transfer learning of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention. As shown in FIG. 8, some layers of the mental disorder prediction artificial neural network module 12 predicting depression are some layers of the mental disorder prediction artificial neural network module 12 predicting other mental disorders. It is generated by neural network transition, and the remaining layers of the mental disorder prediction artificial neural network module 12 are generated as initialization layers in which the initial weight w and the initial bias b, which are parameters, are randomly initialized. Then, based on the counseling data (100) and activity data (200) of the mentally ill patient including the questionnaire items (300) for a specific mental disorder, the generated mental disorder prediction artificial neural network module (12) is relearned to predict mental illness. Parameters of the artificial neural network module 12 may be calibrated in detail. At this time, the input data of the mental disorder prediction artificial neural network module 12 for predicting depression is the counseling data 100 and activity data 200 of the mentally ill patient including the questionnaire 300 about depression, and the output data is depression prediction. data, and the input data of the mental disorder prediction artificial neural network module (12) for prediction of other mental disorders are counseling data (100) and activity data (200) of a mentally ill patient including a questionnaire item (300) for a specific mental disorder And the output data is depression prediction data (400).

특히, 본 발명의 일실시예에 따른 신경망 전이는, 출력 층(layer) 또는 특정 layer 이후의 후반부 층만을 초기화 층으로 구성하도록 수행될 수 있다. 이에 따르면, 자살시도가능성, PTSD 등 각각의 특정 정신질환에 대해 재난경험자의 데이터 양이 인공신경망을 학습시키기에 매우 부족하다고 하더라도 사전에 우울증 등 일반적인 정신질환에 대해 재난경험자의 정신질환 패턴을 인공신경망이 고려함으로써 정신질환 예측을 원활히 수행할 수 있게 되는 효과가 발생된다. 또한, 정신질환 예측 인공신경망 모듈(12)에 dummy data를 삽입하거나 data cloning 등의 방법의 data 처리를 수행하지 않아도 자살시도가능성 예측을 원활히 수행할 수 있게 되는 효과가 발생된다. In particular, neural network transition according to an embodiment of the present invention may be performed to configure only the output layer or the second half layer after a specific layer as an initialization layer. According to this, even if the amount of disaster experience data for each specific mental disorder, such as the possibility of suicide attempt and PTSD, is very insufficient to train the artificial neural network, the artificial neural network can predict the pattern of mental illness of disaster experiencers for general mental disorders such as depression in advance. By taking this into account, the effect of being able to smoothly predict mental illness is generated. In addition, without inserting dummy data into the mental disorder prediction artificial neural network module 12 or performing data processing such as data cloning, the possibility of suicide attempt can be predicted smoothly.

또한, 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 재학습은, 신경망 전이에 의해 생성된 정신질환 예측 인공신경망 모듈(12)의 input layer 및 초기화 층을 제외한 hidden layer에 대해서는 재학습에 의해 파라미터가 변경되지 않도록 고정할 수 있다. 특정 프레임워크에서는 trainableParameter=0 또는 freeze=1를 이용할 수 있다. 이에 따르면, 고정된 Layer의 활성값을 저장하여 출력 층 또는 후반부 층만을 학습하면 되는 효과가 발생된다. In addition, re-learning of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention is performed on hidden layers other than the input layer and initialization layer of the artificial neural network module 12 for predicting mental illness generated by neural network transition. For this, it can be fixed so that the parameters are not changed by relearning. In certain frameworks you can use trainableParameter=0 or freeze=1. According to this, the effect of learning only the output layer or the latter layer by storing the active value of the fixed layer is generated.

또한, 본 발명의 일실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 재학습은, 상위계층 인공신경망에 의해 정신질환 예측 인공신경망 모듈(12)의 하이퍼 파라미터가 조정되어 재학습되도록 구성될 수 있다. 본 발명의 일실시예에 따라 상위계층 인공신경망에 의해 조정되는 정신질환 예측 인공신경망 모듈(12)의 하이퍼 파라미터는 Parameter Scale, Gradient, Learning rate(학습률), Learning rate decay(학습률 분해), Regularization strenght(정규화 강도) 등을 의미할 수 있다. In addition, the re-learning of the artificial neural network module 12 for predicting mental illness according to an embodiment of the present invention is configured such that the hyperparameters of the artificial neural network module 12 for predicting mental illness are adjusted by the upper layer artificial neural network and re-learned. can According to an embodiment of the present invention, the hyperparameters of the mental disorder prediction artificial neural network module 12 adjusted by the upper layer artificial neural network are Parameter Scale, Gradient, Learning rate (learning rate), Learning rate decay (learning rate decomposition), Regularization strength (normalization strength) and the like.

본 발명의 일실시예에 따른 재학습 시 조정되는 Learning rate는 아래 수학식 1과 같이 재학습 시 파라미터 업데이트에 적용될 수 있다. The learning rate adjusted during re-learning according to an embodiment of the present invention may be applied to parameter update during re-learning as shown in Equation 1 below.

Figure pat00001
Figure pat00001

Figure pat00002
Figure pat00002

위 수학식 1에서 W는 초기 가중치, b는 초기 편향, η는 학습률(Learning rate), L은 손실을 의미하고, ∂L/∂W와 ∂L/∂b는 각각 가중치와 편향의 Gradient를 의미한다. In Equation 1 above, W is the initial weight, b is the initial bias, η is the learning rate, L is the loss, and ∂L/∂W and ∂L/∂b are the gradients of the weight and bias, respectively. do.

결국, 상위계층 인공신경망은 정신질환 예측 인공신경망 모듈(12)의 재학습 시의 하이퍼 파라미터를 세부적으로 조정하여 출력하는, 각각의 정신질환에 대한 자동 튜닝을 수행하는 상위 계층의 인공신경망을 의미할 수 있고, 상담 데이터 인코더(10), 액티비티 데이터 인코더(11), 정신질환 예측 인공신경망 모듈(12) 등의 파라미터들과 출력된 우울증 예측 데이터(400), PTSD 예후 예측 데이터(500)를 기초로 하이퍼 파라미터를 출력하도록 구성될 수 있다. 출력된 우울증 예측 데이터(400)는 학습된 정신질환 예측 인공신경망 모듈(12)의 Gradient, Weight, 손실(Loss) 등을 계산하는데 이용될 수 있다. 출력된 우울증 예측 데이터(400)를 포함하여, 정신질환 예측 인공신경망 모듈(12)의 Gradient, Weight, 손실(Loss), Learning rate, 데이터의 양 등은 상위계층 인공신경망을 학습시키는데 이용될 수 있다. After all, the upper-layer artificial neural network means a higher-layer artificial neural network that performs automatic tuning for each mental disorder by adjusting and outputting hyperparameters during retraining of the mental disorder prediction artificial neural network module 12 in detail. based on parameters such as the counseling data encoder 10, the activity data encoder 11, the mental disorder prediction artificial neural network module 12, the output depression prediction data 400, and the PTSD prognosis prediction data 500. It can be configured to output hyperparameters. The output depression prediction data 400 can be used to calculate the gradient, weight, loss, etc. of the learned mental disorder prediction artificial neural network module 12 . Including the output depression prediction data 400, the gradient, weight, loss, learning rate, and amount of data of the mental disorder prediction artificial neural network module 12 can be used to train the upper-layer artificial neural network. .

본 발명의 다른 실시예와 관련하여, 정신질환 예측 인공신경망 모듈(12)의 정신질환 예측에 강화학습(Reinforcement Learning)이 이용될 수 있다. 도 9는 본 발명의 다른 실시예에 따른 정신질환 예측 인공신경망 모듈(12)의 강화학습을 도시한 모식도이다. 도 9에 도시된 바와 같이, 정신질환 예측 인공신경망 모듈(12)의 강화학습의 경우, 정신질환자의 상담 인코딩 벡터, 액티비티 인코딩 벡터가 Environment, 정신질환 예측 인공신경망 모듈(12)이 Agent, 정신질환 예측 인공신경망 모듈(12)의 정신질환 예측이 Action, 설문 문항(300)의 정신질환 여부가 Reward로 구성되는 강화학습을 구성하여 정신질환 예측 인공신경망 모듈(12)을 업데이트 할 수 있다. 본 발명의 일실시예에 따른 강화학습에 따르면, 정신질환자의 상담 데이터(100), 액티비티 데이터(200)와 같이 Environment가 비선형적인 경우에도 정신질환 예측 인공신경망 모듈(12)의 정확도를 향상시킬 수 있는 효과가 발생된다.In relation to another embodiment of the present invention, reinforcement learning may be used to predict mental illness of the artificial neural network module 12 for predicting mental illness. 9 is a schematic diagram showing reinforcement learning of the artificial neural network module 12 for predicting mental illness according to another embodiment of the present invention. As shown in FIG. 9, in the case of reinforcement learning of the mental disorder prediction artificial neural network module 12, the counseling encoding vector and activity encoding vector of the mentally ill person are Environment, and the mental disorder prediction artificial neural network module 12 is Agent, mental disorder The mental disorder prediction artificial neural network module 12 can be updated by constructing reinforcement learning in which the prediction of mental illness of the prediction artificial neural network module 12 is composed of Action and the mental illness status of the questionnaire item 300 is composed of Reward. According to reinforcement learning according to an embodiment of the present invention, even when the environment is non-linear, such as the counseling data 100 and activity data 200 of a mentally ill patient, the accuracy of the artificial neural network module 12 for predicting mental illness can be improved. effect occurs.

도 10은 본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 방법을 도시한 흐름도이다. 도 10에 도시된 바와 같이, 본 발명의 일실시예에 따른 멀티모달 인공신경망을 활용한 정신질환 예측 방법은 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)를 학습하는 학습 단계(S10), 신규 정신질환자의 데이터를 입력하는 신규 데이터 입력 단계(S11), 신규 정신질환자의 정신질환을 예측하는 추론 단계(S12)를 포함한다. 10 is a flowchart illustrating a method for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention. As shown in FIG. 10, the method for predicting mental illness using a multimodal artificial neural network according to an embodiment of the present invention includes a learning step (S10) of learning the apparatus 1 for predicting mental illness using a multimodal artificial neural network. , a new data input step (S11) of inputting data of a new mentally ill patient, and an inference step (S12) of predicting the mental illness of a new mentally ill patient.

학습 단계(S10)는, 기존 정신질환자의 상담 인코딩 벡터, 액티비티 인코딩 벡터를 입력하여 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)를 학습하는 단계이다. 이때 기존 정신질환자의 자살시도, PTSD, 우울증, 불안장애 등 정신질환에 대해 각각 별도의 인공신경망 모듈을 구성하고 각각의 인공신경망 모듈을 별도로 학습하게 된다.The learning step (S10) is a step of learning the mental disorder prediction device 1 using the multimodal artificial neural network by inputting the counseling encoding vector and the activity encoding vector of the existing mentally ill patient. At this time, separate artificial neural network modules are formed for mental disorders such as suicide attempts, PTSD, depression, and anxiety disorders of existing mentally ill patients, and each artificial neural network module is separately learned.

신규 데이터 입력 단계(S11)는, S10에서 학습된 멀티모달 인공신경망을 활용한 정신질환 예측 장치(1)에 신규 정신질환자의 상담 데이터, 액티비티 데이터를 입력하는 단계이다.The new data input step (S11) is a step of inputting counseling data and activity data of a new mentally ill patient into the mental disorder prediction apparatus 1 using the multimodal artificial neural network learned in S10.

추론 단계(S12)는, S11에서 입력된 신규 정신질환자의 상담 데이터, 액티비티 데이터에 기초하여 각각의 정신질환에 대해 구성된 복수의 인공신경망 모듈에서 정신질환 예측 데이터(우울증 예측 데이터, PTSD 예후 예측 데이터 등)를 추론(예측)하고 출력하는 단계이다.Inference step (S12), mental disease prediction data (depression prediction data, PTSD prognosis prediction data, etc. ) is inferred (predicted) and outputted.

이상에서 설명한 바와 같이, 본 발명이 속하는 기술 분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 상술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 등가 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함하는 것으로 해석되어야 한다.As described above, those skilled in the art to which the present invention pertains will be able to understand that the present invention can be embodied in other specific forms without changing its technical spirit or essential features. Therefore, the above-described embodiments should be understood as illustrative in all respects and not restrictive. The scope of the present invention is indicated by the claims to be described later rather than the detailed description, and all changes or modifications derived from the meaning and scope of the claims and equivalent concepts should be construed as being included in the scope of the present invention.

본 명세서 내에 기술된 특징들 및 장점들은 모두를 포함하지 않으며, 특히 많은 추가적인 특징들 및 장점들이 도면들, 명세서, 및 청구항들을 고려하여 당업자에게 명백해질 것이다. 더욱이, 본 명세서에 사용된 언어는 주로 읽기 쉽도록 그리고 교시의 목적으로 선택되었고, 본 발명의 주제를 묘사하거나 제한하기 위해 선택되지 않을 수도 있다는 것을 주의해야 한다.The features and advantages described in this specification are not all inclusive, and many additional features and advantages will become apparent to those skilled in the art, particularly from consideration of the drawings, specification, and claims. Moreover, it should be noted that the language used herein has been chosen primarily for readability and instructional purposes, and may not have been chosen to delineate or limit the subject matter of the invention.

본 발명의 실시예들의 상기한 설명은 예시의 목적으로 제시되었다. 이는 개시된 정확한 형태로 본 발명을 제한하거나, 빠뜨리는 것 없이 만들려고 의도한 것이 아니다. 당업자는 상기한 개시에 비추어 많은 수정 및 변형이 가능하다는 것을 이해할 수 있다.The foregoing description of embodiments of the present invention has been presented for purposes of illustration. It is not intended to limit the invention to the precise form disclosed or to make it without omission. Those skilled in the art can appreciate that many modifications and variations are possible in light of the above disclosure.

그러므로 본 발명의 범위는 상세한 설명에 의해 한정되지 않고, 이를 기반으로 하는 출원의 임의의 청구항들에 의해 한정된다. 따라서, 본 발명의 실시예들의 개시는 예시적인 것이며, 이하의 청구항에 기재된 본 발명의 범위를 제한하는 것은 아니다.Therefore, the scope of the present invention is not limited by the detailed description, but by any claims of the application based thereon. Accordingly, the disclosure of embodiments of the invention is illustrative and not limiting of the scope of the invention set forth in the claims below.

1: 멀티모달 인공신경망을 활용한 정신질환 예측 장치
10: 액티비티 데이터 인코더
11: 상담 데이터 인코더
100: 상담 데이터
200: 액티비티 데이터
300: 설문 문항
400: 우울증 예측 데이터
500: PTSD 예후 예측 데이터
1: Mental disease prediction device using multimodal artificial neural network
10: Activity Data Encoder
11: consultation data encoder
100: consultation data
200: activity data
300: Survey question
400: Depression prediction data
500: PTSD prognosis prediction data

Claims (7)

특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터 및 액티비티 데이터를 통해 상기 특정 정신질환에 대해 진단되지 않은 상기 정신질환자인 신규 정신질환자의 상기 특정 정신질환의 예측을 수행하도록 학습된 인공신경망인 정신질환 예측 인공신경망 모듈의 프로그램 코드를 저장하는 메모리 모듈; 및
상기 정신질환 예측 인공신경망 모듈의 상기 프로그램 코드를 처리하는 처리 모듈;
을 포함하고,
상기 정신질환 예측 인공신경망 모듈의 상기 프로그램 코드는,
상기 신규 정신질환자의 상기 상담 데이터 및 상기 액티비티 데이터가 입력되는 입력 단계; 및
상기 신규 정신질환자의 상기 특정 정신질환의 예측에 대한 데이터인 정신질환 예측 데이터를 추론하고 출력하는 추론 단계;
를 포함하여 컴퓨터 상에서 수행되도록 구성되고,
상기 특정 정신질환은 상기 정신질환자의 우울증을 포함하는 것을 특징으로 하는,
멀티모달 인공신경망을 활용한 정신질환 예측 장치.

Artificial intelligence trained to predict the specific mental illness of the new mental illness who has not been diagnosed for the specific mental illness through the counseling data and activity data of the existing mental illness, who is the mental illness diagnosed for the specific mental illness. A memory module for storing program codes of a mental disorder predictive artificial neural network module, which is a neural network; and
a processing module processing the program code of the mental disorder prediction artificial neural network module;
including,
The program code of the mental disorder prediction artificial neural network module,
an input step of inputting the counseling data and the activity data of the new mentally ill person; and
an inference step of inferring and outputting mental disorder prediction data, which is data for prediction of the specific mental disorder of the new mental disorder patient;
It is configured to be performed on a computer, including
Characterized in that the specific mental disorder includes depression of the mentally ill person,
Mental disease prediction device using multimodal artificial neural network.

제1항에 있어서,
상기 특정 정신질환에는 상기 정신질환자의 우울증 및 상기 정신질환자의 PTSD 예후를 포함한 복수개의 정신질환이 포함되고,
상기 정신질환 예측 인공신경망 모듈은, 상기 복수개의 정신질환 각각에 대해 학습된 복수개의 인공신경망이 포함되며,
상기 추론 단계에서는, 상기 신규 정신질환자의 상기 복수개의 정신질환 각각에 대한 상기 정신질환 예측 데이터를 추론하고 출력하는 것을 특징으로 하는,
멀티모달 인공신경망을 활용한 정신질환 예측 장치.
According to claim 1,
The specific mental disorder includes a plurality of mental disorders including depression of the mentally ill and PTSD prognosis of the mentally ill,
The mental disorder prediction artificial neural network module includes a plurality of artificial neural networks learned for each of the plurality of mental disorders,
In the inference step, inferring and outputting the mental disorder prediction data for each of the plurality of mental disorders of the new mental disorder patient,
Mental disease prediction device using multimodal artificial neural network.
특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터 및 액티비티 데이터를 통해 상기 특정 정신질환에 대해 진단되지 않은 상기 정신질환자인 신규 정신질환자의 상기 특정 정신질환의 예측을 수행하도록 학습된 인공신경망인 정신질환 예측 인공신경망 모듈;
을 포함하고,
상기 정신질환 예측 인공신경망 모듈은, 상기 신규 정신질환자의 상기 상담 데이터 및 상기 액티비티 데이터가 입력되고, 상기 신규 정신질환자의 상기 특정 정신질환의 예측에 대한 데이터인 정신질환 예측 데이터를 추론하고 출력하며,
상기 특정 정신질환은 상기 정신질환자의 우울증을 포함하는 것을 특징으로 하는,
멀티모달 인공신경망을 활용한 정신질환 예측 장치.
Artificial intelligence trained to predict the specific mental illness of the new mental illness who has not been diagnosed for the specific mental illness through the counseling data and activity data of the existing mental illness, who is the mental illness diagnosed for the specific mental illness. Artificial neural network module for predicting mental illness, which is a neural network;
including,
The mental disorder prediction artificial neural network module receives the counseling data and the activity data of the new mentally ill person, infers and outputs mental disorder prediction data, which is data for prediction of the specific mental disorder of the new mentally ill person,
Characterized in that the specific mental disorder includes depression of the mentally ill person,
Mental disease prediction device using multimodal artificial neural network.
특정 정신질환에 대해 진단된 정신질환자인 기존 정신질환자의 상담 데이터 및 액티비티 데이터를 통해 상기 특정 정신질환에 대해 진단되지 않은 상기 정신질환자인 신규 정신질환자의 상기 특정 정신질환의 예측을 수행하도록 학습된 인공신경망인 정신질환 예측 인공신경망 모듈에 상기 신규 정신질환자의 상기 상담 데이터 및 상기 액티비티 데이터가 입력되는 입력 단계; 및
상기 정신질환 예측 인공신경망 모듈이 상기 신규 정신질환자의 상기 특정 정신질환의 예측에 대한 데이터인 정신질환 예측 데이터를 추론하고 출력하는 추론 단계;
를 포함하고,
상기 특정 정신질환은 상기 정신질환자의 우울증을 포함하는 것을 특징으로 하는,
멀티모달 인공신경망을 활용한 정신질환 예측 머신러닝 방법.
Artificial intelligence trained to predict the specific mental illness of the new mental illness who has not been diagnosed for the specific mental illness through the counseling data and activity data of the existing mental illness, who is the mental illness diagnosed for the specific mental illness. an input step of inputting the counseling data and the activity data of the new mentally ill person to a mental disorder prediction artificial neural network module, which is a neural network; and
an inference step in which the mental disorder prediction artificial neural network module infers and outputs mental disorder prediction data that is data for prediction of the specific mental disorder of the new mental disorder patient;
including,
Characterized in that the specific mental disorder includes depression of the mentally ill person,
A machine learning method for predicting mental illness using multimodal artificial neural networks.
제4항의 멀티모달 인공신경망을 활용한 정신질환 예측 머신러닝 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.
A computer-readable recording medium recording a program for executing the machine learning method for predicting mental illness using the multimodal artificial neural network of claim 4 on a computer.
제4항의 멀티모달 인공신경망을 활용한 정신질환 예측 머신러닝 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체에 저장된 애플리케이션.
An application stored in a computer-readable recording medium recording a program for executing the machine learning method for predicting mental illness using the multimodal artificial neural network of claim 4 on a computer.
제4항의 멀티모달 인공신경망을 활용한 정신질환 예측 머신러닝 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체에 저장된 프로그램.A program stored in a computer-readable recording medium recording a program for executing the machine learning method for predicting mental illness using the multimodal artificial neural network of claim 4 on a computer.
KR1020210145061A 2021-10-27 2021-10-27 Apparatus and method for predicting mental illness using multimodal artificial neural network KR20230060392A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210145061A KR20230060392A (en) 2021-10-27 2021-10-27 Apparatus and method for predicting mental illness using multimodal artificial neural network

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210145061A KR20230060392A (en) 2021-10-27 2021-10-27 Apparatus and method for predicting mental illness using multimodal artificial neural network

Publications (1)

Publication Number Publication Date
KR20230060392A true KR20230060392A (en) 2023-05-04

Family

ID=86379785

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210145061A KR20230060392A (en) 2021-10-27 2021-10-27 Apparatus and method for predicting mental illness using multimodal artificial neural network

Country Status (1)

Country Link
KR (1) KR20230060392A (en)

Non-Patent Citations (8)

* Cited by examiner, † Cited by third party
Title
Barak-Corren Y, Castro VM, Javitt S, Hoffnagle AG, Dai Y, Perlis RH, et al. Predicting suicidal behavior from longitudinal electronic health records. Am JPsychiatry (2017) 174:154-62.
IR Galatzer-Levy, S Ma, A Statnikov, R Yehuda and AY Shalev, (2017). Utilization of machine learning for prediction of post-traumatic stress: a re-examination of cortisol in the prediction and pathways to non-remitting PTSD, Transl Psychiatry (2017) 7, e1070.
Kessler RC, Warner CH, Ivany C, Petukhova MV, Rose S, Bromet EJ, et al. Predicting suicides after psychiatric hospitalization in US Army soldiers: the army study to assess risk and resilience in servicemembers (Army STARRS). JAMA Psychiatry (2015) 72:49-57.
Nuriel S. Mor, Kathryn L. Dardeck, (2018). Quantitative Forecasting of Risk for PTSD Using Ecological Factors: A Deep Learning Application, Journal of Social, Behavioral, and Health Sciences 2018, Volume 12, Issue 1, Pages 61-73.
Oh, J., Yun, K., Hwang, J. H., & Chae, J. H. (2017). classification of suicide attempts through a Machine learning algorithm Based on Multiple systemic Psychiatric scales., Frontiers in psychiatry,8, 192.
미국 공개특허 US 2014-0046696 A1, Systems and Methods for Pharmacogenomic Decision Support in Psychiatry, AssureRx Health, Inc.
미국 등록특허 US 6317731 B1, Method for predicting the therapeutic outcome of a treatment, ADVANCED BIOLOGICAL LABORATORIES S.A.
미국 등록특허 US 9792823 B2, Multi-view learning in detection of psychological states, Raytheon BBN Technologies Corp.

Similar Documents

Publication Publication Date Title
Rigla et al. Artificial intelligence methodologies and their application to diabetes
Ghosh et al. Artificial intelligence and internet of things in screening and management of autism spectrum disorder
Taves et al. Experience as event: event cognition and the study of (religious) experiences
Williamson Computing brains: learning algorithms and neurocomputation in the smart city
Kaul et al. Deep learning in healthcare
Arulkumar et al. A novel usage of artificial intelligence and internet of things in remote‐based healthcare applications
Manocha et al. Cognitive intelligence assisted fog-cloud architecture for generalized anxiety disorder (GAD) prediction
Guo et al. An interpretable machine learning framework for modelling human decision behavior
Ulloa Applied biomedical engineering using artificial intelligence and cognitive models
Kostopoulos et al. Deep dense neural network for early prediction of failure-prone students
Spitzer et al. Digital twins and the future of precision mental health
Atreides et al. Methodologies and Milestones for the Development of an Ethical Seed
Yadav et al. Supervised learning technique for prediction of diseases
Baeza-Yates et al. Human vs. artificial intelligence
KR20230060392A (en) Apparatus and method for predicting mental illness using multimodal artificial neural network
KR20230060394A (en) Apparatus and method for predicting mental illness using neural network transfer
KR20230060393A (en) Apparatus and method for predicting mental illness using reinforcement learning
KR102548241B1 (en) Apparatus and method for predicting mental illness via reinforcement learning using multimodal artificial neural network
Carhuancho et al. Machine Learning Algorithms for High Performance Modelling in Health Monitoring System Based on 5G Networks
Gendron et al. The role of inference in AI: Start SMALL with mindful modeling
Farahani et al. An Introduction to Artificial Psychology
KR20230060395A (en) Apparatus and method for recommending art psyco-therapy using artificial neural network
Baraka et al. Simulating behaviors of children with autism spectrum disorders through reversal of the autism diagnosis process
Lee et al. Biomimicry and machine learning in the context of healthcare digitization
Anisha et al. A bird eye view on the usage of artificial intelligence