KR102395937B1 - Health state prediction method and system based on gait time-frequency analysis - Google Patents

Health state prediction method and system based on gait time-frequency analysis Download PDF

Info

Publication number
KR102395937B1
KR102395937B1 KR1020190068669A KR20190068669A KR102395937B1 KR 102395937 B1 KR102395937 B1 KR 102395937B1 KR 1020190068669 A KR1020190068669 A KR 1020190068669A KR 20190068669 A KR20190068669 A KR 20190068669A KR 102395937 B1 KR102395937 B1 KR 102395937B1
Authority
KR
South Korea
Prior art keywords
health state
subject
spectrogram
characteristic signal
axis
Prior art date
Application number
KR1020190068669A
Other languages
Korean (ko)
Other versions
KR20200141751A (en
Inventor
문경률
김진욱
정다운
Original Assignee
한국과학기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술연구원 filed Critical 한국과학기술연구원
Priority to KR1020190068669A priority Critical patent/KR102395937B1/en
Publication of KR20200141751A publication Critical patent/KR20200141751A/en
Application granted granted Critical
Publication of KR102395937B1 publication Critical patent/KR102395937B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/112Gait analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • A61B5/7257Details of waveform analysis characterised by using transforms using Fourier transforms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • A61B5/726Details of waveform analysis characterised by using transforms using Wavelet transforms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0219Inertial sensors, e.g. accelerometers, gyroscopes, tilt switches

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Physiology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Signal Processing (AREA)
  • Mathematical Physics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Evolutionary Computation (AREA)
  • Fuzzy Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

보행 시간-주파수 분석에 기초한 건강 상태 예측 방법 및 시스템이 제공된다. 본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템은 대상자의 보행에 따른 보행 특성 신호를 대상자의 신체에 부착된 적어도 하나 이상의 센서로부터 수신하는 보행 특성 신호 취득부; 상기 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환하는 보행 특성 신호 변환부; 상기 스펙트로그램에 대한 상기 대상자의 건강 상태를 기계 학습하여 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 건강 상태 학습부; 새로운 대상자로부터 획득한 스펙트로그램을 상기 건강 상태 모델에 입력시켜 상기 새로운 대상자의 건강 상태를 예측하는 건강 상태 예측부를 포함한다.A method and system for predicting health status based on walking time-frequency analysis are provided. A health state prediction system based on walking time-frequency analysis according to an embodiment of the present invention includes: a walking characteristic signal acquisition unit for receiving a walking characteristic signal according to the subject's gait from at least one sensor attached to the subject's body; a gait characteristic signal converter converting the received gait characteristic signal into a spectrogram using time-frequency analysis; a health state learning unit for machine learning the health state of the subject with respect to the spectrogram to construct a health state model based on the walking characteristic signal; and a health state predictor for predicting the health state of the new subject by inputting the spectrogram obtained from the new subject into the health state model.

Description

보행 시간-주파수 분석에 기초한 건강 상태 예측 방법 및 시스템{Health state prediction method and system based on gait time-frequency analysis}Health state prediction method and system based on gait time-frequency analysis

본 발명은 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법 및 시스템에 관한 것으로, 사용자의 보행 특성을 간단한 장비를 통해 획득하고, 보행의 시간-주파수 분석에 기초하여 사용자의 건강 상태를 예측할 수 있는 방법 및 시스템에 관한 것이다.The present invention relates to a method and system for predicting a health state based on a walking time-frequency analysis, and a method for acquiring a user's walking characteristics through simple equipment and predicting a user's health state based on a walking time-frequency analysis and systems.

보행(걸음걸이, gait)은 가장 기본적인 인간의 이동 수단으로 개인의 고유 요소(gender, age), 건강 요소, 병적 요소(trauma, neurological/musculoskeletal/psychiatric diseases) 등과 밀접하게 관련되어 있다. 따라서, 보행의 정량적 평가를 통해 대상자의 노쇠 정도, 근골격계 및 신경 질환을 진단하고 모니터링할 수 있고, 체계적인 치료에 대한 효과를 판단할 수 있으며, 외과적 수술 결정 및 수술 후 검토에 활용할 수 있다.Gait (gait) is the most basic means of human mobility and is closely related to individual factors (gender, age), health factors, and pathological factors (trauma, neurological/musculoskeletal/psychiatric diseases). Therefore, it is possible to diagnose and monitor the degree of senility, musculoskeletal system and neurological diseases of a subject through quantitative evaluation of gait, to determine the effect of systematic treatment, and to use it for surgical decision making and postoperative review.

또한, 보행 능력은 대상자의 운동 능력을 나타내는 지표일 수 있으며, 대상자의 운동 능력 및 건강 상태 모니터링을 위해서는 보행 분석이 반드시 필요하다. 또한, 보행 분석 데이터는 보행 보조 기구, 보행 보조 로봇의 개발 및 성능 향상을 위한 기초 자료로도 사용될 수 있다.In addition, the walking ability may be an index indicating the exercise ability of the subject, and in order to monitor the exercise ability and health status of the subject, a gait analysis is absolutely necessary. In addition, the gait analysis data can be used as basic data for the development and performance improvement of walking aids and walking aids.

이러한, 보행 능력을 분석하고 정량화 하기 위해, 미국 특허 공개 공보 US 2009-0141933은 카메라를 이용하여 보행 시 이미지를 획득하고, 다리의 움직임을 분석하여 동작을 예측하고 보행 사이클을 예측하는 기술을 제안하였다. 다만, 이러한 종래 기술은 고가의 카메라, 고가의 바닥 센서(Ground Reaction Force), 압력 센서, 근전도(Electromyography) 센서 등과 같은 장비와 경험이 풍부한 실험자가 필요하다. 즉, 상술한 장비를 활용한 보행 능력 평가 방법은 많은 기기 및 인력이 투입됨에 따라 비용이 많이 발생했을 뿐만 아니라, 거동이 불편한 대상자가 상술한 실험을 모두 수행할 수 없어 정확한 결과 데이터를 취하기 어려운 단점이 있었다.In order to analyze and quantify such walking ability, US Patent Publication No. US 2009-0141933 proposes a technique for acquiring an image while walking using a camera and analyzing the movement of the leg to predict motion and predict the gait cycle. . However, this prior art requires equipment such as an expensive camera, an expensive ground reaction force, a pressure sensor, an electromyography sensor, and an experienced experimenter. That is, the walking ability evaluation method using the above-described equipment not only caused a lot of cost as many devices and manpower were input, but also the subject with poor mobility could not perform all of the above-described experiments, so it was difficult to take accurate result data. there was

따라서, 대상자의 보행에 따른 특성을 간단한 장치만으로 획득하고, 획득한 정보에 따라 대상자의 건강 상태를 예측할 수 있는 방법 및 시스템이 요구되고 있는 실정이다.Accordingly, there is a need for a method and system capable of acquiring characteristics according to the subject's gait with only a simple device and predicting the subject's health status according to the obtained information.

미국 특허 공개 공보 US 2009-0141933 A1 (2009년 06월 04일)US Patent Publication US 2009-0141933 A1 (June 04, 2009)

본 발명은 상술한 문제점을 해결하기 위해 안출된 것으로, 구체적으로, 대상자의 보행에 따른 특성 신호를 간단한 장치만으로 획득하고, 획득한 보행 특성 신호에 따라 대상자의 건강 상태를 예측할 수 있는 방법 및 시스템을 제공한다.The present invention has been devised to solve the above problems, and specifically, a method and system capable of acquiring a characteristic signal according to the subject's gait with only a simple device, and predicting the health status of the subject according to the obtained gait characteristic signal to provide.

본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템은 대상자의 보행에 따른 보행 특성 신호를 대상자의 신체에 부착된 적어도 하나 이상의 센서로부터 수신하는 보행 특성 신호 취득부; 상기 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환하는 보행 특성 신호 변환부; 상기 스펙트로그램에 대한 상기 대상자의 건강 상태를 기계 학습하여 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 건강 상태 학습부; 및 새로운 대상자로부터 획득한 스펙트로그램을 상기 건강 상태 모델에 입력시켜 상기 새로운 대상자의 건강 상태를 예측하는 건강 상태 예측부를 포함한다.A health state prediction system based on walking time-frequency analysis according to an embodiment of the present invention includes: a walking characteristic signal acquisition unit for receiving a walking characteristic signal according to the subject's gait from at least one sensor attached to the subject's body; a gait characteristic signal converter converting the received gait characteristic signal into a spectrogram using time-frequency analysis; a health state learning unit for machine learning the health state of the subject with respect to the spectrogram to construct a health state model based on the walking characteristic signal; and a health state prediction unit for predicting the health state of the new subject by inputting the spectrogram obtained from the new subject into the health state model.

본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법은 다수의 대상자로부터 보행에 따른 보행 특성 신호를 대상자의 신체에 부착된 적어도 하나 이상의 센서로부터 수신하고, 상기 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환하며, 상기 스펙트로그램에 대한 상기 대상자의 건강 상태를 기계 학습하여 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 단계; 평가 대상자로부터 스펙트로그램을 획득하는 단계; 및 상기 평가 대상자의 스펙트로그램을 상기 구축된 건강 상태 모델에 입력시켜 상기 평가 대상자의 건강 상태를 예측하는 단계를 포함한다. In a health state prediction method based on walking time-frequency analysis according to an embodiment of the present invention, a gait characteristic signal according to gait from a plurality of subjects is received from at least one sensor attached to the subject's body, and the received gait characteristic converting a signal into a spectrogram using time-frequency analysis, machine learning the health state of the subject with respect to the spectrogram, and constructing a health state model based on the gait characteristic signal; obtaining a spectrogram from the subject to be evaluated; and predicting the health status of the subject to be evaluated by inputting the spectrogram of the subject to be evaluated into the constructed health state model.

본 발명의 일 실시예에 따른 컴퓨터 프로그램은 하드웨어와 결합되어 상기 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법을 실행하도록 매체에 저장된다.A computer program according to an embodiment of the present invention is stored in a medium in combination with hardware to execute the method for predicting a health state based on the walking time-frequency analysis.

본 실시예에 따른 건강 상태 예측 방법 및 시스템은 대상자의 보행에 따른 특성을 관성 측정 센서와 같은 간단한 장치만으로 획득할 수 있으며, 획득된 보행 특성 신호를 스펙트로그램으로 변환하여 보행 특성 신호에 기초한 건강 상태 모델 구축에 활용한다. The health state prediction method and system according to the present embodiment can acquire characteristics according to the subject's gait using only a simple device such as an inertial measurement sensor, and convert the acquired gait characteristic signal into a spectrogram to obtain a health state based on the gait characteristic signal It is used for model building.

또한, 본 실시예에 따른 건강 상태 예측 방법 및 시스템은 구축된 건강 상태 모델을 통해 간단한 장치로 획득한 새로운 대상자의 보행 특성을 기초로 새로운 대상자의 건강 상태를 용이하게 예측할 수 있다. In addition, the health state prediction method and system according to the present embodiment can easily predict the health state of a new subject based on the walking characteristics of the new subject acquired with a simple device through the constructed health state model.

도 1은 본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템의 블록도이다.
도 2는 본 발명의 일 실시예에 따른 건강 상태 예측 시스템에 참여하는 대상자 및 대상자에 부착된 센서를 예시적으로 도시한 도면이다.
도 3a는 센서에서 제공된 보행 특성 신호의 예시적인 그래프이다.
도 3b 및 도 3c는 보행 특성 신호를 시간-주파수 분석을 이용하여 변환한 스펙트로그램의 예시적인 도면이다.
도 4a는 스펙트로그램과 다른 스펙트로그램을 병합한 예시적인 이미지이다.
도 4b는 스펙트로그램의 이미지 크기를 조절하고 조절된 이미지들을 병합한 예시적인 이미지이다.
도 5는 본 발명의 일 실시예에 따른 건강 상태 예측 시스템의 건강 상태 학습부의 예시적인 기계 학습 모델을 도시한 것이다.
도 6은 도 5의 예시적인 모델에 따른 분석 결과를 도시한 그래프이다.
도 7은 본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법의 순서도이다.
1 is a block diagram of a health state prediction system based on walking time-frequency analysis according to an embodiment of the present invention.
2 is a diagram exemplarily illustrating a subject participating in a health state prediction system according to an embodiment of the present invention and a sensor attached to the subject.
3A is an exemplary graph of a gait characteristic signal provided by a sensor.
3B and 3C are exemplary diagrams of spectrograms obtained by converting a gait characteristic signal using time-frequency analysis.
4A is an exemplary image in which a spectrogram is merged with another spectrogram.
4B is an exemplary image in which the image size of the spectrogram is adjusted and the adjusted images are merged.
5 is a diagram illustrating an exemplary machine learning model of a health state learning unit of a health state prediction system according to an embodiment of the present invention.
6 is a graph illustrating an analysis result according to the exemplary model of FIG. 5 .
7 is a flowchart of a method for predicting a health state based on walking time-frequency analysis according to an embodiment of the present invention.

이하, 본 발명에 따른 바람직한 실시 형태를 첨부된 도면을 참조하여 상세하게 설명한다. 첨부된 도면과 함께 이하에 개시될 상세한 설명은 본 발명의 예시적인 실시형태를 설명하고자 하는 것이며, 본 발명이 실시될 수 있는 유일한 실시형태를 나타내고자 하는 것이 아니다. 이하의 상세한 설명은 본 발명의 완전한 이해를 제공하기 위해서 구체적 세부사항을 포함한다. 그러나, 당업자는 본 발명이 이러한 구체적 세부사항 없이도 실시될 수 있음을 인지할 수 있다. 이하의 설명에서 사용되는 특정 용어들은 본 발명의 이해를 돕기 위해서 제공된 것이며, 이러한 특정 용어의 사용은 본 발명의 기술적 사상을 벗어나지 않는 범위에서 다른 형태로 변경될 수 있다.Hereinafter, preferred embodiments according to the present invention will be described in detail with reference to the accompanying drawings. DETAILED DESCRIPTION The detailed description set forth below in conjunction with the appended drawings is intended to describe exemplary embodiments of the present invention and is not intended to represent the only embodiments in which the present invention may be practiced. The following detailed description includes specific details in order to provide a thorough understanding of the present invention. However, one skilled in the art will recognize that the present invention may be practiced without these specific details. Specific terms used in the following description are provided to help the understanding of the present invention, and the use of these specific terms may be changed to other forms without departing from the technical spirit of the present invention.

도 1은 본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템의 블록도이다. 도 2는 본 발명의 일 실시예에 따른 건강 상태 예측 시스템에 참여하는 대상자 및 대상자에 부착된 센서를 예시적으로 도시한 도면이다. 도 3a는 센서에서 제공된 보행 특성 신호의 예시적인 그래프이고, 도 3b 및 도 3c는 보행 특성 신호를 시간-주파수 분석을 이용하여 변환한 스펙트로그램의 예시적인 도면이다. 도 4a는 스펙트로그램과 다른 스펙트로그램을 병합한 예시적인 이미지이다. 도 4b는 스펙트로그램의 이미지 크기를 조절하고 조절된 이미지들을 병합한 예시적인 이미지이다.1 is a block diagram of a health state prediction system based on walking time-frequency analysis according to an embodiment of the present invention. 2 is a diagram exemplarily illustrating a subject participating in a health state prediction system according to an embodiment of the present invention and a sensor attached to the subject. 3A is an exemplary graph of a gait characteristic signal provided from a sensor, and FIGS. 3B and 3C are exemplary diagrams of a spectrogram obtained by converting the gait characteristic signal using time-frequency analysis. 4A is an exemplary image in which a spectrogram and another spectrogram are merged. 4B is an exemplary image in which the image size of the spectrogram is adjusted and the adjusted images are merged.

도 1 내지 도 4b를 참조하면, 건강 상태 예측 시스템(10)은 보행 특성 신호 취득부(100), 보행 특성 신호 변환부(110), 건강 상태 학습부(120), 건강 상태 예측부(130) 및 데이터 베이스부(140)를 포함한다. 1 to 4B , the health state prediction system 10 includes a walking characteristic signal acquisition unit 100 , a walking characteristic signal conversion unit 110 , a health state learning unit 120 , and a health state prediction unit 130 . and a database unit 140 .

실시예들에 따른 건강 상태 예측 시스템은, 전적으로 하드웨어이거나, 또는 부분적으로 하드웨어이고 부분적으로 소프트웨어인 측면을 가질 수 있다. 예컨대, 본 명세서의 건강 상태 예측 시스템 및 이에 포함된 각 부(unit)는, 특정 형식 및 내용의 데이터를 전자통신 방식으로 주고받기 위한 장치 및 이에 관련된 소프트웨어를 통칭할 수 있다. 본 명세서에서 "부", "모듈(module)", "서버(server)", "시스템", "장치" 또는 "단말" 등의 용어는 하드웨어 및 해당 하드웨어에 의해 구동되는 소프트웨어의 조합을 지칭하는 것으로 의도된다. 예를 들어, 여기서 하드웨어는 CPU 또는 다른 프로세서(processor)를 포함하는 데이터 처리 기기일 수 있다. 또한, 하드웨어에 의해 구동되는 소프트웨어는 실행중인 프로세스, 객체(object), 실행파일(executable), 실행 스레드(thread of execution), 프로그램(program) 등을 지칭할 수 있다.A health state prediction system according to embodiments may be entirely hardware, or may have aspects that are partly hardware and partly software. For example, the health state prediction system of the present specification and each unit included therein may collectively refer to a device for exchanging data in a specific format and content in an electronic communication method and software related thereto. As used herein, terms such as “unit”, “module”, “server”, “system”, “device” or “terminal” refer to a combination of hardware and software driven by the hardware. it is intended to be For example, the hardware herein may be a data processing device including a CPU or other processor. In addition, software driven by hardware may refer to a running process, an object, an executable file, a thread of execution, a program, and the like.

또한, 건강 상태 예측 시스템을 구성하는 각각의 부는 반드시 물리적으로 구분되는 별개의 구성요소를 지칭하는 것으로 의도되지 않는다. 도 1에서 보행 특성 신호 취득부(100), 보행 특성 신호 변환부(110), 건강 상태 학습부(120), 건강 상태 예측부(130) 및 데이터 베이스부(140)는 서로 구분되는 별개의 블록으로 도시되나, 이는 건강 상태 예측 시스템을 구성하는 장치를 해당 장치에 의해 실행되는 동작에 의해 단지 기능적으로 구분한 것이다. 따라서, 실시예에 따라서는 보행 특성 신호 취득부(100), 보행 특성 신호 변환부(110), 건강 상태 학습부(120), 건강 상태 예측부(130) 및 데이터 베이스부(140)는 일부 또는 전부가 동일한 하나의 장치 내에 집적화될 수 있고, 하나 이상이 다른 부와 물리적으로 구분되는 별개의 장치로 구현될 수도 있으며, 분산 컴퓨팅 환경 하에서 서로 통신 가능하게 연결된 컴포넌트들일 수도 있다.In addition, each part constituting the health state prediction system is not intended to necessarily refer to physically distinct separate components. In FIG. 1 , the walking characteristic signal acquisition unit 100 , the walking characteristic signal conversion unit 110 , the health state learning unit 120 , the health state prediction unit 130 , and the database unit 140 are separate blocks separated from each other. However, this is only functionally dividing the devices constituting the health state prediction system by the operations executed by the corresponding devices. Accordingly, depending on the embodiment, the walking characteristic signal acquisition unit 100, the walking characteristic signal conversion unit 110, the health state learning unit 120, the health state prediction unit 130, and the database unit 140 are partially or All of them may be integrated in the same single device, one or more may be implemented as separate devices physically separated from other units, or components may be communicatively connected to each other in a distributed computing environment.

보행 특성 신호 취득부(100)는 대상자의 보행에 따른 보행 특성 신호를 대상자의 신체에 부착된 적어도 하나 이상의 센서로부터 수신한다. 도 2에 도시된 바와 같이, 건강 상태 예측 시스템(10)에 참여하는 대상자(H)는 신체에 센서(S)를 장착하게 된다. 센서(S)가 장착되는 대상자(H)의 신체 부위는 대상자(H)의 보행에 직접적인 관계를 가지는 신체 부위일 수 있다. 즉, 센서(S)가 장착되는 대상자(H)의 신체 부위는 보행의 추진력뿐만 아니라, 보행시 동적 안전성을 제공하여 보행을 유지시키는 기능을 제공할 수 있다. 예시적으로, 센서(S)가 장착되는 대상자(H)의 신체 부위는 대상자(H)의 골반(Pelvis), 허벅지(Right Thigh, Left Thigh), 정강이(Right Shank, Left Shank) 및 발(Right Foot, Left Foot) 중 적어도 하나일 수 있으나, 이에 한정되는 것은 아니다. 상술한 바와 같이, 보행(걸음걸이, gait)은 가장 기본적인 인간의 이동 수단으로 성별(gender), 연령(age), 건강 요소, 병적 요소, 운동 능력 등의 특징이 반영되어 나타날 수 있으며, 이러한 특징에 따라 센서(S)에서 수집되는 보행 특성 신호는 상이하게 나타날 수 있다.The gait characteristic signal acquisition unit 100 receives a gait characteristic signal according to the subject's gait from at least one sensor attached to the subject's body. As shown in FIG. 2 , the subject H participating in the health state prediction system 10 is equipped with a sensor S on the body. The body part of the subject H to which the sensor S is mounted may be a body part having a direct relationship to the walking of the subject H. That is, the body part of the subject H on which the sensor S is mounted may provide not only the driving force of walking, but also a function of maintaining the walking by providing dynamic safety during walking. Illustratively, the body part of the subject H to which the sensor S is mounted is the pelvis (Pelvis), thigh (Right Thigh, Left Thigh), shin (Right Shank, Left Shank) and foot (Right) of the subject (H). Foot, Left Foot), but is not limited thereto. As described above, gait (gait) is the most basic means of human movement, and characteristics such as gender, age, health factor, pathological factor, and exercise ability may be reflected and appear, and these characteristics Accordingly, the walking characteristic signal collected by the sensor S may appear differently.

대상자(H)는 센서(S)를 신체 부위에 장착한 상태로 정해진 거리를 보행하게 되며, 센서(S)는 보행에 따라 변화하는 신호를 보행 특성 신호 취득부(100)에 제공할 수 있다. 즉, 센서(S)는 보행에 따른 대상자(H)의 신체 상태를 평가하는데 있어서 도구적인 역할을 수행한다. 보행 특성 신호 취득부(100)는 대상자(H)의 보행에 따라 변화하는 보행 특성 신호를 각 센서(S)로부터 수신할 수 있다. 보행 특성 신호 취득부(100)와 센서(S)는 무선으로 신호의 송신 및 수신이 가능하도록 구성될 수 있다.The subject H walks a predetermined distance with the sensor S mounted on a body part, and the sensor S may provide a signal that changes according to the walking to the walking characteristic signal acquisition unit 100 . That is, the sensor S performs a tool role in evaluating the physical state of the subject H according to walking. The gait characteristic signal acquisition unit 100 may receive a gait characteristic signal that changes according to the gait of the subject H from each sensor S. The walking characteristic signal acquisition unit 100 and the sensor S may be configured to wirelessly transmit and receive signals.

여기서, 센서(S)는 대상자(H)의 신체에 용이하게 탈, 부착 가능하며 휴대 가능하도록 소형 사이즈로 구성될 수 있다. 센서(S)는 관성 측정 센서(IMU: Inertial Measurement Unit)를 포함할 수 있다. 관성 측정 센서(IMU)는 3차원 공간에서 자유로운 움직임을 측정하는 자이로스코프(gyroscope), 가속도계 및 지자계 센서를 포함하며, 대상자(H)의 속도와 방향, 가속도를 측정할 수 있다. 즉, 관성 측정 센서는 대상자(H)의 신체에 부착된 위치에서 대상자(H)의 보행에 따라 변화되는 가속도 정보 및 각속도 정보를 센싱하여 보행 특성 신호로써 보행 특성 신호 취득부(100)로 제공할 수 있다.Here, the sensor (S) may be configured in a small size to be easily removable, attachable, and portable to the body of the subject (H). The sensor S may include an inertial measurement unit (IMU). The inertial measurement sensor (IMU) includes a gyroscope, an accelerometer, and a geomagnetic sensor that measures free movement in a three-dimensional space, and can measure the speed, direction, and acceleration of the subject H. That is, the inertial measurement sensor senses acceleration information and angular velocity information that are changed according to the walking of the subject H at a position attached to the body of the subject H, and provides the walking characteristic signal acquisition unit 100 as a walking characteristic signal. can

보행 특성 신호는 관성 측정 센서(IMU)로부터 제공되는 X축, Y축, Z축 각각에 대한 가속도 정보 및 X축, Y축, Z축 각각에 대한 각속도 정보를 포함할 수 있다. 여기서, X축 및 Y축은 대상자(H)가 위치하는 바닥면과 수직한 수직면을 정의하며, Z축은 상기 수직면과 수직한 축으로 정의될 수 있으나, 이에 한정되는 것은 아니다.The walking characteristic signal may include acceleration information for each of the X-axis, Y-axis, and Z-axis and angular velocity information for each of the X-axis, Y-axis, and Z-axis provided from the inertial measurement sensor (IMU). Here, the X-axis and the Y-axis define a vertical plane perpendicular to the floor surface on which the subject H is located, and the Z-axis may be defined as an axis perpendicular to the vertical plane, but is not limited thereto.

보행 특성 신호 변환부(110)는 보행 특성 신호 취득부(100)에서 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환할 수 있다. 관성 측정 센서(IMU)로부터 제공되는 보행 특성 신호는 도 3a에 예시적으로 도시된 바와 같이, 시간에 따라 신호의 진폭이 변화하는 것을 도시한 데이터, 시간 영역 신호일 수 있다. 도 3a는 X축, Y축, Z축 각각에 대한 각속도 정보를 도시한 그래프이다.The walking characteristic signal conversion unit 110 may convert the walking characteristic signal received by the walking characteristic signal acquisition unit 100 into a spectrogram using time-frequency analysis. The walking characteristic signal provided from the inertial measurement sensor (IMU) may be a time domain signal, data showing that the amplitude of the signal changes with time, as exemplarily shown in FIG. 3A . 3A is a graph showing angular velocity information for each of the X-axis, Y-axis, and Z-axis.

보행 특성 신호 변환부(110)는 이러한 시간에 따른 진폭 데이터를 시간-주파수 분석을 통해 시간-주파수(TF: Time-frequency) 영역 신호로 변환할 수 있으며, 이러한 시간-주파수(TF) 영역 신호는 하나의 이미지와 같이 생성될 수 있다. 스펙트로그램은 파동을 인간의 시각으로 직관적으로 파악할 수 있도록 변환한 이미지로서, 파형과 스펙트럼의 특징이 조합되어 있다. 따라서, 시간-주파수(TF) 영역 신호는 시간 영역 신호보다 딥 러닝(deep learning)에 적합한 입력 데이터일 수 있다. 스펙트로그램은 한 축에 시간(time), 다른 축엔 주파수(frequency)를 가지는 스펙트럼 시퀀스를 나타내며, 주파수 성분의 강도를 색상으로 구분하여 함께 도시할 수 있다.The walking characteristic signal converter 110 may convert the amplitude data according to time into a time-frequency (TF) domain signal through time-frequency analysis, and the time-frequency (TF) domain signal is It can be created like a single image. A spectrogram is an image converted to intuitively grasp a wave from the human eye, and combines the characteristics of a waveform and a spectrum. Accordingly, the time-frequency (TF) domain signal may be input data suitable for deep learning than the time domain signal. The spectrogram represents a spectral sequence having time on one axis and frequency on the other axis, and intensity of frequency components may be classified by color and displayed together.

보행 특성 신호 변환부(110)는 푸리에 변환(Fourier transform) 또는 웨이브릿 변환(wavelet transform)을 통해 시간 영역 신호를 스펙트로그램으로 변환할 수 있다. 예시적으로, 보행 특성 신호 변환부(110)는 국소 푸리에 변환(Short-time Fourier transform, STFT)을 통해 스펙트로그램을 생성할 수 있으나, 이에 한정되는 것은 아니며, 스톡웰 변환(Stockwell transform) 또는 연속 웨이브릿 변환(Continuous wavelet transform, CWT)도 적용될 수 있다. 도 3b는 국소 푸리에 변환(Short-time Fourier transform, STFT)을 통해 생성한 스펙트로그램을 예시적으로 도시한 것이며, 도 3c는 연속 웨이브릿 변환(Continuous wavelet transform, CWT)을 통해 생성한 스펙트로그램을 예시적으로 도시한 것이다. 여기서, 연속 웨이브릿 변환(Continuous wavelet transform, CWT)을 통해 보행 특성 신호는 보다 매끄러운(Smooth) 이미지의 스펙트로그램으로 변환될 수 있다. 이러한 매끄러운(Smooth) 이미지의 스펙트로그램은 국소 푸리에 변환(Short-time Fourier transform, STFT)에서 시간 해상도 설정에 따라 발생하는 주파수 및 시간 정보 손실을 방지할 수 있기 때문에, 딥 러닝(deep learning)에 보다 더 적합한 입력 데이터일 수 있다.The walking characteristic signal converter 110 may convert the time domain signal into a spectrogram through a Fourier transform or a wavelet transform. Exemplarily, the walking characteristic signal converter 110 may generate a spectrogram through a local Fourier transform (Short-time Fourier transform, STFT), but is not limited thereto, and a Stockwell transform or a continuous way A continuous wavelet transform (CWT) may also be applied. Figure 3b shows an exemplary spectrogram generated through a local Fourier transform (Short-time Fourier transform, STFT), Figure 3c is a spectrogram generated through a continuous wavelet transform (Continuous wavelet transform, CWT) It is shown by way of example. Here, the gait characteristic signal may be converted into a spectrogram of a smoother image through continuous wavelet transform (CWT). The spectrogram of such a smooth image is more suitable for deep learning because it can prevent the loss of frequency and temporal information that occurs depending on the temporal resolution setting in the local Short-time Fourier transform (STFT). It may be more suitable input data.

보행 특성 신호 변환부(110)는 관성 측정 센서(IMU)로부터 제공되는 X축, Y축, Z축 각각에 대한 가속도 정보 및 X축, Y축, Z축 각각에 대한 각속도 정보를 각각 스펙트로그램으로 변환할 수 있다. 예시적으로, 도 3a에 도시된 X축, Y축, Z축 각각에 대한 시간 영역에서의 각속도 신호는 도 3b에 도시된 바와 같은 X축 각속도 스펙트로그램, Y축 각속도 스펙트로그램, Z축 각속도 스펙트로그램으로 각각 변환될 수 있다.The walking characteristic signal conversion unit 110 converts acceleration information for each of the X-axis, Y-axis, and Z-axis provided from the inertial measurement sensor (IMU) and angular velocity information for each of the X-axis, Y-axis, and Z-axis into a spectrogram, respectively. can be converted Exemplarily, the angular velocity signal in the time domain for each of the X-axis, Y-axis, and Z-axis shown in FIG. 3A is an X-axis angular velocity spectrogram, Y-axis angular velocity spectrogram, and Z-axis angular velocity spectrogram as shown in FIG. 3B . each can be converted into grams.

또한, 보행 특성 신호 변환부(110)는 변환된 스펙트로그램을 후술할 건강 상태 학습부(120)에 입력될 수 있도록 스펙트로그램을 조정할 수 있다. 여기서, 스펙트로그램의 조정은 건강 상태 학습부(120)에서 구축되는 건강 상태 모델의 입력 데이터의 크기에 맞도록 스펙트로그램의 이미지 크기를 조절하거나, 다른 스펙트로그램과 병합하는 과정일 수도 있다. 도 4a는 다른 스펙트로그램과의 병합된 예시적인 이미지, 도 4b는 스펙트로그램의 이미지 크기를 조절하고 조절된 이미지를 병합한 예시적인 이미지이다.Also, the walking characteristic signal conversion unit 110 may adjust the spectrogram so that the converted spectrogram may be input to the health state learning unit 120 to be described later. Here, the adjustment of the spectrogram may be a process of adjusting the image size of the spectrogram to fit the size of input data of the health state model built by the health state learning unit 120 or merging the image with other spectrograms. 4A is an exemplary image merged with another spectrogram, and FIG. 4B is an exemplary image obtained by adjusting the image size of the spectrogram and merging the adjusted image.

도 4a와 같이 각 축(X축, Y축 또는 Z축)에 따른 가속도 스펙트로그램과 각속도 스펙트로그램의 사이즈를 동일하게 조정하며, 건강 상태 모델의 입력 데이터의 크기에 맞도록 조정된 이미지를 병합할 수 있다. 또한, 각 축(X축, Y축 또는 Z축)에 따른 가속도 스펙트로그램과 각속도 스펙트로그램을 병합하고, 동일 평면에 나란한 방향으로 위치시키고, 도 4b와 같이, 일정 크기, 해상도를 가진 입력 데이터 이미지를 생성할 수 있다. 여기서, 입력 데이터 이미지는 각 센서(S)에 대응하여 생성될 수 있다. 즉, 하나의 센서(S)에서 생성된 신호 각각은 스펙트로그램으로 변환되며, 하나의 이미지로 병합되어 일정 크기의 입력 데이터 이미지로 생성될 수 있다.As shown in Figure 4a, the size of the acceleration spectrogram and the angular velocity spectrogram along each axis (X-axis, Y-axis, or Z-axis) is adjusted to be the same, and the image adjusted to fit the size of the input data of the health state model is merged. can In addition, the acceleration spectrogram and the angular velocity spectrogram along each axis (X-axis, Y-axis, or Z-axis) are merged, placed in a direction parallel to the same plane, and as shown in FIG. 4B, an input data image having a certain size and resolution can create Here, the input data image may be generated corresponding to each sensor S. That is, each signal generated by one sensor S is converted into a spectrogram, and may be merged into one image to generate an input data image of a predetermined size.

건강 상태 학습부(120)는 상기 스펙트로그램에 대한 대상자의 건강 상태를 기계 학습하여 보행 특성 신호에 기초한 건강 상태 모델을 구축한다.The health state learning unit 120 machine-learns the health state of the subject with respect to the spectrogram to construct a health state model based on the gait characteristic signal.

복수의 대상자로부터 각각 취득한 스펙트로그램을 입력 값으로, 상기 복수의 대상자 각각의 건강 상태를 출력 값으로 설정하고, 이들 사이의 관계를 결정하는 추상화된 모델을 건강 상태 학습부(120)는 학습할 수 있다.The health state learning unit 120 can learn an abstract model that sets a spectrogram obtained from a plurality of subjects as an input value, sets the health state of each of the plurality of subjects as an output value, and determines a relationship between them. there is.

건강 상태 학습부(120)는 인간의 두뇌가 수많은 데이터 속에서 패턴을 발견한 뒤 사물을 구분하는 정보처리 방식을 모방해 컴퓨터가 사물을 분별하도록 기계 학습을 수행시키는 딥 러닝(deep learning)을 통해서 보행 특성 신호에 기초한 건강 상태 모델을 구축할 수 있다. 건강 상태 학습부(120)는 입력된 스펙트로그램과 결과로써 제공된 대상자의 건강 상태 사이의 관계를 결정하는 추상화된 모델을 구축할 수 있다. 건강 상태 학습부(120)는 컨볼루션 신경망(Convolutional Neural Network) 기반의 기계 학습 모델을 포함할 수 있으며, 입력층과 출력층 사이에 다중의 은닉층(hidden layer)이 존재하는 심층(deep) 신경망 모델, 동물의 시각 피질의 구조와 유사하게 뉴런 사이의 연결 패턴을 형성하는 컨볼루셔널(convolutional) 신경망 모델, 시간에 따라 매순간 신경망을 쌓아올리는 재귀(recurrent) 신경망 모델, 입력 집합에 대한 확률 분포를 학습할 수 있는 제한 볼츠만 머신(restricted Boltzmann machine) 중 하나의 딥 러닝 모델을 사용할 수 있다. 다만, 상술한 방법은 일 예시일 뿐 본 발명의 일 실시예에 따른 기계 학습 방법이 이에 한정되는 것은 아니다.The health state learning unit 120 uses deep learning to perform machine learning so that the human brain discovers patterns in numerous data and then imitates the information processing method of classifying objects so that the computer can distinguish objects through deep learning. It is possible to build a health state model based on the gait characteristic signal. The health state learning unit 120 may build an abstract model that determines a relationship between the input spectrogram and the health state of the subject provided as a result. The health state learning unit 120 may include a machine learning model based on a convolutional neural network, and a deep neural network model in which multiple hidden layers exist between an input layer and an output layer; A convolutional neural network model that forms a connection pattern between neurons similar to the structure of an animal's visual cortex, a recurrent neural network model that builds up a neural network at every moment over time, and a probability distribution for an input set. You can use a deep learning model of one of the available restricted Boltzmann machines. However, the above-described method is only an example, and the machine learning method according to an embodiment of the present invention is not limited thereto.

건강 상태 학습부(120)는 보행 특성 신호 변환부(110)에서 생성된 스펙트로그램을 입력 값으로 사용하고, 대상자의 건강 상태를 출력 값으로 사용하여 기계 학습을 수행할 수 있다. 여기서, 대상자의 건강 상태는 대상자의 병적 요소에 대한 현재 상태 정보를 포함할 수 있다. 여기서, 대상자의 병적 요소는 외상(trauma), 신경질환(neurological diseases), 근골격계 질환(musculoskeletal diseases) 및 정신질환(psychiatric diseases)에 대한 정보를 포함할 수 있다. 예시적으로, 병적 요소는 기형(Deformity), 근육 약화(Muscle weakness), 감각 상실(Sensory loss), 통증(Pain), 운동 조절 손상 중 적어도 하나 이상에 대한 대상자의 현재 상태 정보를 포함할 수 있다. 대상자의 병적 요소는 상기 질환의 유무 및 정도에 대한 수치 값으로 구성될 수 있으나, 이에 한정되는 것은 아니다. The health state learner 120 may perform machine learning by using the spectrogram generated by the walking characteristic signal converter 110 as an input value and using the health state of the subject as an output value. Here, the health state of the subject may include current state information on the pathological element of the subject. Here, the pathological element of the subject may include information on trauma, neurological diseases, musculoskeletal diseases, and psychiatric diseases. For example, the pathological element may include information on the subject's current state regarding at least one of deformity, muscle weakness, sensory loss, pain, and movement control impairment. . The pathological component of the subject may consist of numerical values for the presence and severity of the disease, but is not limited thereto.

몇몇 실시예에서, 대상자의 건강 상태는 대상자의 전반적인 운동 능력에 대한 평가도 포함할 수 있다. 즉, 기본적인 운동 능력을 규정할 수 있는 근력, 민첩성, 지구력에 대한 평가도 포함할 수 있다. In some embodiments, the subject's health status may also include an assessment of the subject's overall athletic ability. That is, it may also include evaluation of strength, agility, and endurance that can define basic athletic ability.

또한, 몇몇 실시예에서, 상기 건강 상태 모델은 대상자의 신체 부위에 부착된 센서(S)에 대응하여 생성될 수 있다. 예시적으로, 대상자(H)의 골반(Pelvis), 허벅지(Right Thigh, Left Thigh), 정강이(Right Shank, Left Shank) 및 발(Right Foot, Left Foot) 각각에 해당하는 건강 상태 모델이 개별적으로 생성될 수 있다. 다만, 이에 한정되는 것은 아니며 건강 상태 모델 구축시 입력되는 입력 값은 각 신체 부위에서 생성된 신호 또는 신호가 변환된 스펙트로그램이 병합된 데이터일 수 있으며, 건강 상태 모델은 복수의 신체 부위에 부착된 복수의 센서에 기초하여 구축될 수도 있다. Also, in some embodiments, the health state model may be generated in response to a sensor S attached to a body part of the subject. Illustratively, the health state model corresponding to each of the pelvis (Pelvis), thigh (Right Thigh, Left Thigh), shin (Right Shank, Left Shank) and foot (Right Foot, Left Foot) of the subject (H) is individually can be created However, the present invention is not limited thereto, and the input value input when constructing the health state model may be data obtained by merging signals generated from each body part or signal-converted spectrograms, and the health state model is attached to a plurality of body parts. It may be built based on a plurality of sensors.

또한, 몇몇 실시예에서, 건강 상태 모델은 대상자의 고유 요소(gender, age)를 고려해서, 성별에 따라 달리 구축되거나, 연령대에 따라 달리 구축될 수도 있다. In addition, in some embodiments, the health state model may be constructed differently according to gender or differently according to age in consideration of a subject's unique factors (gender, age).

이와 같은 기계 학습 과정을 거쳐 건강 상태 학습부(120)는 보행 특성 신호에 기초한 건강 상태 모델을 구축할 수 있다. 구축된 건강 상태 모델은 데이터 베이스부(140)에 저장될 수 있다. 데이터 베이스부(140)는 건강 상태 모델 및 이에 기초가 되는 스펙트로그램 및/또는 보행 특성 신호 등과 같은 기초 데이터를 임시적으로 저장하거나 보관하도록 구성될 수 있다. Through this machine learning process, the health state learner 120 may build a health state model based on the walking characteristic signal. The constructed health state model may be stored in the database unit 140 . The database unit 140 may be configured to temporarily store or store basic data such as a health state model and a spectrogram and/or a gait characteristic signal based thereon.

건강 상태 예측부(130)는 건강 상태 학습부(120)에서 구축된 건강 상태 모델을 활용하여 새로운 대상자의 건강 상태를 예측할 수 있다. 여기서, 새로운 대상자는 상기 모델의 구축에 사용되지 않은 다른 대상자를 의미할 수 있다. 새로운 대상자 또한 센서(S)를 본인의 신체 일부에 부착하고 일정 거리를 보행하게 된다. 보행 특성 신호 취득부(100)는 센서(S)로부터 새로운 대상자의 보행에 따른 보행 특성 신호를 수신하고, 보행 특성 신호 변환부(110)는 보행 특성 신호를 스펙트로그램으로 변환할 수 있다. 변환된 새로운 대상자의 스펙트로그램은 건강 상태 예측부(130)로 제공되어 상기 건강 상태 모델의 입력 값으로 제공될 수 있으며, 건강 상태 모델은 새로운 대상자의 건강 상태를 출력 값으로 제공할 수 있다. 즉, 건강 상태 예측부(130)는 새로운 대상자의 스펙트로그램에 기초하여 새로운 대상자의 병적 요소에 대한 예측 및 운동 능력에 대한 예측 데이터를 제공할 수 있다.The health state prediction unit 130 may predict the health state of a new subject by using the health state model built by the health state learning unit 120 . Here, the new subject may refer to another subject not used in the construction of the model. A new subject also attaches the sensor (S) to a part of his or her body and walks a certain distance. The gait characteristic signal acquisition unit 100 may receive a gait characteristic signal according to the gait of a new subject from the sensor S, and the gait characteristic signal conversion unit 110 may convert the gait characteristic signal into a spectrogram. The transformed spectrogram of the new subject may be provided to the health state prediction unit 130 and provided as an input value of the health state model, and the health state model may provide the health state of the new subject as an output value. That is, the health state prediction unit 130 may provide prediction data for the new subject's pathological factors and exercise ability based on the spectrogram of the new subject.

도 5는 본 발명의 일 실시예에 따른 건강 상태 예측 시스템의 건강 상태 학습부의 예시적인 기계 학습 모델 구조를 도시한 것이다.5 is a diagram illustrating an exemplary machine learning model structure of a health state learning unit of a health state prediction system according to an embodiment of the present invention.

컨볼루션 신경망 기반의 기계 학습 모델은 복수의 컨볼루션(convolution) 단계와 복수의 풀링(pooling) 단계로 구성되어, 각 단계를 반복 수행하는 과정에서 입력 이미지의 특징을 반영할 수 있는 필터의 값을 자동으로 학습할 수 있고, 학습된 필터에 따라 이미지 분석 및 판별을 수행할 수 있다. 도 5의 예시적인 모델에서의 출력 값은 대상자의 보행 능력의 정상 여부(Normal foot, Abnormal foot)와 일반인과 다른 운동 능력을 가진 운동 선수 여부(Athlete foot)를 판별하는 것이다. 출력되는 값, 판별하려는 결과에 따라 복수의 컨볼루션(convolution) 단계와 복수의 풀링(pooling) 단계는 도 5와 상이하게 구성될 수도 있다.A machine learning model based on a convolutional neural network consists of a plurality of convolution steps and a plurality of pooling steps. It can learn automatically, and image analysis and discrimination can be performed according to the learned filter. The output value in the exemplary model of FIG. 5 is to determine whether the subject's walking ability is normal (Normal foot, Abnormal foot) and whether or not an athlete has different athletic ability from the general public (Athlete foot). According to an output value and a result to be determined, a plurality of convolution steps and a plurality of pooling steps may be configured differently from FIG. 5 .

또한, 도 5에 따른 기계 학습 모델은 다양한 신체 부위에 장착된 센서를 기초로 구축될 수 있다. i) 발(Feet), ii) 허벅지(Thigh), iii) 정강이(Shank), iv) 골반과 발(Pelvis and Feet), v) 골반과 허벅지(Pelvis and Thigh), vi) 골반과 정강이(Pelvis and Shank) 및 vii) 골반, 발, 허벅지 및 정강이(Full sensors)에 장착된 센서를 기초로 기계 학습 모델을 구축하였다. 도 6은 도 5의 예시적인 모델에 따른 분석 결과를 도시한 그래프이다. 구체적으로, 도 6은 이러한 건강 상태 모델의 구축에 기초가 되는 센서의 부착 위치에 따른 정확성을 도시한 그래프이다. 모델의 구축 이후, 새로운 대상자들로부터 획득한 스펙트로그램을 상기 모델에 입력시켜 새로운 대상자들에 대한 모델의 출력 값과 실제 대상자의 상태(Normal foot, Abnormal foot, Athlete foot)를 비교하는 검증 과정을 수행하였으며, 도 6에 도시된 정확성(Accuracy, %)이 높을수록 모델의 출력 값과 실제 대상자의 상태가 동일한 결과인 것을 나타낸다.In addition, the machine learning model according to FIG. 5 may be built based on sensors mounted on various body parts. i) Feet, ii) Thigh, iii) Shank, iv) Pelvis and Feet, v) Pelvis and Thigh, vi) Pelvis and Pelvis and Shank) and vii) built a machine learning model based on sensors mounted on the pelvis, feet, thighs and shins (Full sensors). 6 is a graph illustrating an analysis result according to the exemplary model of FIG. 5 . Specifically, FIG. 6 is a graph showing the accuracy according to the attachment position of the sensor, which is the basis for the construction of such a health state model. After the model is built, the spectrogram obtained from the new subjects is input to the model, and the output value of the model for the new subjects and the actual subject's state (Normal foot, Abnormal foot, Athlete foot) are compared with the verification process is performed. The higher the accuracy (Accuracy, %) shown in FIG. 6, the more the output value of the model and the actual state of the subject are the same result.

도 6에 도시된 바와 같이, 단일 센서를 이용하여 모델을 구축하는 것보다 다른 위치에 부착된 복수의 센서를 이용하는 경우에 정확성이 높아지는 것을 확인할 수 있으며, 모든 센서(Full sensors)를 이용한 경우 가장 높은 정확성을 나타내는 것을 확인할 수 있다. 또한, 단일 센서를 이용하더라도 보행과 가장 직접적인 연관성을 나타내는 발(Feet)에 장착된 센서를 기초로 건강 예측 모델을 구축하였을 때, 다른 신체 부위보다 높은 정확성을 나타내는 것을 알 수 있다. As shown in FIG. 6 , it can be confirmed that the accuracy increases when using a plurality of sensors attached to different locations rather than building a model using a single sensor, and when using all sensors (Full sensors), the highest It can be seen that the accuracy is indicated. In addition, even if a single sensor is used, it can be seen that when a health prediction model is built based on the sensor mounted on the foot, which is most directly related to walking, it shows higher accuracy than other body parts.

이와 같이, 본 발명의 실시예에 따른 건강 상태 예측 시스템은 대상자의 보행에 따른 특성을 관성 측정 센서와 같은 간단한 장치만으로 획득할 수 있으며, 획득된 보행 특성 신호를 스펙트로그램으로 변환하여 보행 특성 신호에 기초한 건강 상태 예측 모델의 구축에 활용한다.As such, the health state prediction system according to an embodiment of the present invention can acquire characteristics according to the subject's gait using only a simple device such as an inertial measurement sensor, and converts the acquired gait characteristic signal into a spectrogram to add the gait characteristic signal to the gait characteristic signal. It is used to build a health condition prediction model based on it.

또한, 본 발명의 실시예에 따른 건강 상태 예측 시스템은 구축된 건강 상태 모델을 통해 간단한 장치로 획득한 새로운 대상자의 보행 특성을 기초로 새로운 대상자의 건강 상태를 용이하게 예측할 수 있다.In addition, the health state prediction system according to an embodiment of the present invention can easily predict the health state of a new subject based on the walking characteristics of the new subject acquired with a simple device through the constructed health state model.

이하, 본 발명의 일 실시예에 따른 건강 상태 예측 방법에 대해 설명하도록 한다.Hereinafter, a method for predicting a health state according to an embodiment of the present invention will be described.

도 7은 본 발명의 일 실시예에 따른 건강 상태 예측 방법의 순서도이다. 상기 방법은 상술한 도 1 내지 도 4b의 시스템에서 수행될 수 있고, 본 실시예에 설명을 위해 도 1 내지 도 4b가 참조될 수 있다. 7 is a flowchart of a method for predicting a health state according to an embodiment of the present invention. The method may be performed in the system of FIGS. 1 to 4B described above, and FIGS. 1 to 4B may be referred to for explanation in this embodiment.

도 7을 참조하면, 본 발명의 일 실시예에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법은 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 단계(S100), 평가 대상자로부터 스펙트로그램을 획득하는 단계(S110) 및 평가 대상자의 건강 상태를 예측하는 단계(S120)를 포함한다.Referring to FIG. 7 , the health state prediction method based on walking time-frequency analysis according to an embodiment of the present invention includes the steps of constructing a health state model based on a gait characteristic signal (S100), and obtaining a spectrogram from the subject to be evaluated. It includes a step (S110) and a step (S120) of predicting the health status of the subject to be evaluated.

보행 특성 신호에 기초한 건강 상태 모델을 구축한다(S100).A health state model based on the gait characteristic signal is constructed (S100).

먼저, 다수의 대상자로부터 보행에 따른 보행 특성 신호를 대상자의 신체에 부착된 적어도 하나 이상의 센서로부터 수신한다. First, a gait characteristic signal according to gait from a plurality of subjects is received from at least one sensor attached to the subject's body.

대상자(H)는 센서(S)를 신체 부위에 장착한 상태로 정해진 거리를 보행하게 되며, 센서(S)는 보행에 따라 변화하는 신호를 보행 특성 신호 취득부(100)에 제공할 수 있다. 즉, 센서(S)는 보행에 따른 대상자(H)의 신체 상태를 평가하는데 있어서 도구적인 역할을 수행한다. 보행 특성 신호 취득부(100)는 대상자(H)의 보행에 따라 변화하는 보행 특성 신호를 각 센서(S)로부터 수신할 수 있다. 센서(S)는 대상자(H)의 신체에 용이하게 탈, 부착 가능하며 휴대 가능하도록 소형 사이즈로 구성될 수 있다. 센서(S)는 관성 측정 센서(IMU)를 포함할 수 있다. 관성 측정 센서는 3차원 공간에서 자유로운 움직임을 측정하는 자이로스코프(gyroscope), 가속도계 및 지자계 센서를 포함하며, 대상자(H)의 속도와 방향, 가속도를 측정할 수 있다. 보행 특성 신호는 관성 측정 센서(IMU)로부터 제공되는 X축, Y축, Z축 각각에 대한 가속도 정보 및 X축, Y축, Z축 각각에 대한 각속도 정보를 포함할 수 있다.The subject H walks a predetermined distance with the sensor S mounted on a body part, and the sensor S may provide a signal that changes according to the walking to the walking characteristic signal acquisition unit 100 . That is, the sensor S performs a tool role in evaluating the physical state of the subject H according to walking. The gait characteristic signal acquisition unit 100 may receive a gait characteristic signal that changes according to the gait of the subject H from each sensor S. The sensor (S) may be of a small size so as to be easily removable, attachable, and portable to the body of the subject (H). The sensor S may include an inertial measurement sensor IMU. The inertial measurement sensor includes a gyroscope, an accelerometer, and a geomagnetic sensor that measures free movement in a three-dimensional space, and can measure the speed, direction, and acceleration of the subject H. The walking characteristic signal may include acceleration information for each of the X-axis, Y-axis, and Z-axis and angular velocity information for each of the X-axis, Y-axis, and Z-axis provided from the inertial measurement sensor (IMU).

다음으로, 상기 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환한다. Next, the received gait characteristic signal is converted into a spectrogram using time-frequency analysis.

보행 특성 신호 변환부(110)는 보행 특성 신호 취득부(100)에서 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환할 수 있다. 보행 특성 신호 변환부(110)는 이러한 시간에 따른 진폭 데이터를 시간-주파수 분석을 통해 시간-주파수(TF) 영역 신호로 변환할 수 있으며, 이러한 시간-주파수(TF) 영역 신호는 하나의 이미지와 같이 생성될 수 있다. 보행 특성 신호 변환부(110)는 국소 푸리에 변환(Short-time Fourier transform, STFT)을 통해 스펙트로그램을 생성할 수 있으나, 이에 한정되는 것은 아니며, 스톡웰 변환(Stockwell transform) 또는 연속 웨이브릿 변환(Continuous wavelet transform, CWT)도 적용될 수 있다. 여기서, 연속 웨이브릿 변환(Continuous wavelet transform, CWT)을 통해 보행 특성 신호는 보다 매끄러운(Smooth) 이미지의 스펙트로그램으로 변환될 수 있다. 이러한 매끄러운(Smooth) 이미지의 스펙트로그램은 국소 푸리에 변환(Short-time Fourier transform, STFT)에서 시간 해상도 설정에 따라 발생하는 주파수 및 시간 정보 손실을 방지할 수 있기 때문에, 딥 러닝(deep learning)에 보다 더 적합한 입력 데이터일 수 있다.The walking characteristic signal conversion unit 110 may convert the walking characteristic signal received by the walking characteristic signal acquisition unit 100 into a spectrogram using time-frequency analysis. The walking characteristic signal conversion unit 110 may convert the amplitude data according to time into a time-frequency (TF) domain signal through time-frequency analysis, and this time-frequency (TF) domain signal is a single image and can be created together. The walking characteristic signal converter 110 may generate a spectrogram through a local Fourier transform (Short-time Fourier transform, STFT), but is not limited thereto, and a Stockwell transform or a continuous wavelet transform (Continuous). wavelet transform (CWT) may also be applied. Here, the gait characteristic signal may be converted into a spectrogram of a smoother image through continuous wavelet transform (CWT). The spectrogram of such a smooth image is more suitable for deep learning because it can prevent the loss of frequency and temporal information that occurs depending on the temporal resolution setting in the local Short-time Fourier transform (STFT). It may be more suitable input data.

보행 특성 신호 변환부(110)는 관성 측정 센서(IMU)로부터 제공되는 X축, Y축, Z축 각각에 대한 가속도 정보 및 X축, Y축, Z축 각각에 대한 각속도 정보를 각각 스펙트로그램으로 변환할 수 있다. 또한, 보행 특성 신호 변환부(110)는 변환된 스펙트로그램을 후술할 건강 상태 학습부(120)에 입력될 수 있도록 스펙트로그램을 조정할 수 있다. 여기서, 스펙트로그램의 조정은 건강 상태 학습부(120)에서 구축되는 건강 상태 모델의 입력 데이터의 크기에 맞도록 스펙트로그램의 이미지 크기를 조절하거나, 다른 스펙트로그램과 병합하는 과정일 수도 있다.The walking characteristic signal conversion unit 110 converts acceleration information for each of the X-axis, Y-axis, and Z-axis provided from the inertial measurement sensor (IMU) and angular velocity information for each of the X-axis, Y-axis, and Z-axis into a spectrogram, respectively. can be converted Also, the walking characteristic signal conversion unit 110 may adjust the spectrogram so that the converted spectrogram may be input to the health state learning unit 120 to be described later. Here, the adjustment of the spectrogram may be a process of adjusting the image size of the spectrogram to fit the size of input data of the health state model built by the health state learning unit 120 or merging the image with other spectrograms.

상기 스펙트로그램에 대한 상기 대상자의 건강 상태를 기계 학습하여 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축한다. By machine learning the health state of the subject with respect to the spectrogram, a health state model based on the walking characteristic signal is constructed.

상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 단계는, 상기 스펙트로그램을 입력 값으로 사용하고, 상기 대상자의 건강 상태를 출력 값으로 사용하여 기계 학습을 수행할 수 있다. 또한, 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 단계는, 복수의 컨볼루션(convolution) 단계와 복수의 풀링(pooling) 단계로 구성되는 컨볼루션 신경망 기반의 기계 학습 모델을 통해 상기 건강 상태 모델을 구축할 수 있다. Building a health state model based on the walking characteristic signal may include performing machine learning by using the spectrogram as an input value and using the health state of the subject as an output value. In addition, the step of building a health state model based on the gait characteristic signal includes a convolutional neural network-based machine learning model comprising a plurality of convolution steps and a plurality of pooling steps. can be built

복수의 대상자로부터 각각 취득한 스펙트로그램을 입력 값으로, 상기 복수의 대상자 각각의 건강 상태를 출력 값으로 설정하고, 이들 사이의 관계를 결정하는 추상화된 모델을 건강 상태 학습부(120)는 학습할 수 있다. 건강 상태 학습부(120)는 보행 특성 신호 변환부(110)에서 생성된 스펙트로그램을 입력 값으로 사용하고, 대상자의 건강 상태를 출력 값으로 사용하여 기계 학습을 수행할 수 있다. 여기서, 대상자의 건강 상태는 대상자의 병적 요소에 대한 현재 상태 정보를 포함할 수 있다. 여기서, 대상자의 병적 요소는 외상(trauma), 신경 질환(neurological diseases), 근골격계 질환(musculoskeletal diseases) 및 정신질환(psychiatric diseases)에 대한 정보를 포함할 수 있다. 예시적으로, 병적 요소는 기형(Deformity), 근육 약화(Muscle weakness), 감각 상실(Sensory loss), 통증(Pain), 운동 조절 손상 중 적어도 하나 이상에 대한 대상자의 현재 상태 정보를 포함할 수 있다. 대상자의 병적 요소는 상기 질환의 유무 및 정도에 대한 수치 값으로 구성될 수 있으나, 이에 한정되는 것은 아니다.The health state learning unit 120 can learn an abstract model that sets a spectrogram obtained from a plurality of subjects as an input value, sets the health state of each of the plurality of subjects as an output value, and determines a relationship between them. there is. The health state learner 120 may perform machine learning by using the spectrogram generated by the walking characteristic signal converter 110 as an input value and using the health state of the subject as an output value. Here, the health state of the subject may include current state information on the pathological element of the subject. Here, the pathological element of the subject may include information on trauma, neurological diseases, musculoskeletal diseases, and psychiatric diseases. For example, the pathological element may include information on the subject's current state regarding at least one of deformity, muscle weakness, sensory loss, pain, and movement control impairment. . The pathological component of the subject may consist of numerical values for the presence and severity of the disease, but is not limited thereto.

다음으로, 평가 대상자로부터 스펙트로그램을 획득한다(S110).Next, a spectrogram is obtained from the subject to be evaluated (S110).

평가 대상자 또한 센서(S)를 본인의 신체 일부에 부착하고 일정 거리를 보행하게 된다. 보행 특성 신호 취득부(100)는 센서(S)로부터 평가 대상자의 보행에 따른 보행 특성 신호를 수신하고, 보행 특성 신호 변환부(110)는 보행 특성 신호를 스펙트로그램으로 변환할 수 있다.The subject to be evaluated also attaches the sensor (S) to a part of the person's body and walks a certain distance. The gait characteristic signal acquisition unit 100 may receive a gait characteristic signal according to the gait of the subject to be evaluated from the sensor S, and the gait characteristic signal conversion unit 110 may convert the gait characteristic signal into a spectrogram.

평가 대상자의 건강 상태를 예측한다(S120).The health status of the subject to be evaluated is predicted (S120).

변환된 새로운 대상자의 스펙트로그램은 건강 상태 예측부(130)로 제공되어 구축된 건강 상태 모델의 입력 값으로 제공될 수 있으며, 건강 상태 모델은 새로운 대상자의 건강 상태를 출력 값으로 제공할 수 있다. 즉, 건강 상태 예측부(130)는 새로운 대상자의 스펙트로그램에 기초하여 새로운 대상자의 병적 요소에 대한 예측 및 운동 능력에 대한 예측 데이터를 제공할 수 있다.The transformed spectrogram of the new subject may be provided to the health state prediction unit 130 and provided as an input value of the constructed health state model, and the health state model may provide the health state of the new subject as an output value. That is, the health state prediction unit 130 may provide prediction data for the new subject's pathological factors and exercise ability based on the spectrogram of the new subject.

이와 같이, 본 발명의 실시예에 따른 건강 상태 예측 방법은 대상자의 보행에 따른 특성을 관성 측정 센서와 같은 간단한 장치만으로 획득할 수 있으며, 획득된 보행 특성 신호를 스펙트로그램으로 변환하여 보행 특성 신호에 기초한 건강 상태 모델 구축에 활용한다. As such, the health state prediction method according to an embodiment of the present invention can acquire characteristics according to the subject's gait using only a simple device such as an inertial measurement sensor, and converts the acquired gait characteristic signal into a spectrogram to obtain the gait characteristic signal. It is used to build a health condition model based on it.

또한, 본 발명의 실시예에 따른 건강 상태 예측 방법은 구축된 건강 상태 모델을 통해 간단한 장치로 획득한 새로운 대상자의 보행 특성을 기초로 새로운 대상자의 건강 상태를 용이하게 예측할 수 있다.In addition, the health state prediction method according to an embodiment of the present invention can easily predict the health state of a new subject based on the walking characteristics of the new subject acquired with a simple device through the constructed health state model.

이상에서 설명한 실시예들에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법에 의한 동작은, 적어도 부분적으로 컴퓨터 프로그램으로 구현되고 컴퓨터로 읽을 수 있는 기록매체에 기록될 수 있다. 실시예들에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법에 의한 동작을 구현하기 위한 프로그램이 기록되고 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수도 있다. 또한, 본 실시예를 구현하기 위한 기능적인 프로그램, 코드 및 코드 세그먼트(segment)들은 본 실시예가 속하는 기술 분야의 통상의 기술자에 의해 용이하게 이해될 수 있을 것이다.The operation of the method for predicting a health state based on walking time-frequency analysis according to the embodiments described above may be at least partially implemented as a computer program and recorded in a computer-readable recording medium. A program for implementing an operation by a health state prediction method based on walking time-frequency analysis according to embodiments is recorded and a computer-readable recording medium is any type of recording device in which computer-readable data is stored includes Examples of the computer-readable recording medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, and optical data storage device. In addition, the computer-readable recording medium may be distributed in a network-connected computer system, and the computer-readable code may be stored and executed in a distributed manner. In addition, functional programs, codes, and code segments for implementing the present embodiment may be easily understood by those skilled in the art to which the present embodiment belongs.

이상에서는 실시예들을 참조하여 설명하였지만 본 발명은 이러한 실시예들 또는 도면에 의해 한정되는 것으로 해석되어서는 안 되며, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the above has been described with reference to the embodiments, the present invention should not be construed as being limited by these embodiments or drawings, and those skilled in the art will appreciate the spirit and scope of the present invention described in the claims below. It will be understood that various modifications and variations of the present invention can be made without departing from the scope of the present invention.

10: 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템
100: 보행 특성 신호 취득부
110: 보행 특성 신호 변환부
120: 건강 상태 학습부
130: 건강 상태 예측부
140: 데이터 베이스부
10: Health state prediction system based on walking time-frequency analysis
100: walking characteristic signal acquisition unit
110: walking characteristic signal conversion unit
120: Health State Learning Department
130: health state prediction unit
140: database unit

Claims (15)

대상자의 보행에 따른 보행 특성 신호를 대상자의 발을 포함하는 하반신에 부착된 적어도 하나 이상의 관성 측정 센서로부터 수신하는 보행 특성 신호 취득부;
상기 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환하는 보행 특성 신호 변환부;
상기 스펙트로그램을 입력 값으로 사용하고, 상기 대상자의 건강 상태 및 운동 능력을 출력값으로 사용하여 기계 학습을 수행하여 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 건강 상태 학습부; 및
새로운 대상자로부터 획득한 스펙트로그램을 상기 건강 상태 모델에 입력시켜 상기 새로운 대상자의 건강 상태를 예측하는 건강 상태 예측부를 포함하고,
상기 시간-주파수 분석은 연속 웨이브릿 변환(Continuous wavelet transform, CWT)이며, 상기 스펙트로그램은 연속 웨이브릿 변환을 통해 매끄러운(Smooth) 이미지로 생성되고,
상기 보행 특성 신호는 상기 관성 측정 센서로부터 제공되는 각 축에 대한 가속도 정보 및 각 축에 대한 각속도 정보를 포함하고,
상기 각 축에 대한 가속도 정보는 각 축에 대한 가속도 스펙트로그램으로 변환되고, 상기 각 축에 대한 각속도 정보는 각 축에 대한 각속도 스펙트로그램으로 변환되며,
상기 각 축에 대한 가속도 스펙트로그램과 상기 각 축에 대한 각속도 스펙트로그램은 상기 입력 값의 크기에 대응하여 각각 사이즈가 조절된 후 병합되고,
상기 대상자의 건강 상태는 상기 대상자의 병적 요소에 대한 현재 상태 정보를 포함하고,
상기 운동 능력은 상기 대상자의 근력, 민첩성, 지구력 및 일반인과 다른 운동 능력을 가진 운동 선수 여부(Athlete foot)에 대한 정보를 포함하는 것을 특징으로 하는 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템.
a gait characteristic signal acquisition unit for receiving a gait characteristic signal according to the subject's gait from at least one or more inertial measurement sensors attached to the lower body including the subject's feet;
a gait characteristic signal converter converting the received gait characteristic signal into a spectrogram using time-frequency analysis;
a health state learning unit configured to construct a health state model based on the walking characteristic signal by performing machine learning using the spectrogram as an input value and using the health state and exercise ability of the subject as output values; and
A health state prediction unit for predicting the health state of the new subject by inputting the spectrogram obtained from the new subject into the health state model,
The time-frequency analysis is a continuous wavelet transform (CWT), and the spectrogram is generated as a smooth image through continuous wavelet transform,
The walking characteristic signal includes acceleration information for each axis and angular velocity information for each axis provided from the inertial measurement sensor,
The acceleration information for each axis is converted into an acceleration spectrogram for each axis, and the angular velocity information for each axis is converted into an angular velocity spectrogram for each axis,
The acceleration spectrogram for each axis and the angular velocity spectrogram for each axis are merged after each size is adjusted corresponding to the size of the input value,
The subject's health status includes current status information about the subject's pathological component,
The exercise ability is a walking time-frequency analysis-based health state prediction system, characterized in that it includes information on the subject's muscle strength, agility, endurance, and whether an athlete has an athletic ability different from that of the general public (Athlete foot).
삭제delete 삭제delete 삭제delete 제1 항에 있어서,
상기 건강 상태 학습부는, 복수의 컨볼루션(convolution) 단계와 복수의 풀링(pooling) 단계로 구성되는 컨볼루션 신경망 기반의 기계 학습 모델을 통해 상기 건강 상태 모델을 생성하는 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템.
According to claim 1,
The health state learning unit generates the health state model through a convolutional neural network-based machine learning model consisting of a plurality of convolution steps and a plurality of pooling steps - a walking time-frequency analysis based on health State Prediction System.
삭제delete 삭제delete 보행 시간-주파수 분석에 기초한 건강 상태 예측 시스템에서 수행되는 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법으로, 상기 방법은: 다수의 대상자로부터 보행에 따른 보행 특성 신호를 대상자의 발을 포함하는 하반신에 부착된 적어도 하나 이상의 관성 측정 센서로부터 수신하고, 상기 수신된 보행 특성 신호를 시간-주파수 분석을 이용하여 스펙트로그램으로 변환하며, 상기 스펙트로그램을 입력 값으로 사용하고, 상기 대상자의 건강 상태를 출력 값으로 사용하여 기계 학습을 수행하여 상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 단계;
평가 대상자로부터 스펙트로그램을 획득하는 단계; 및
상기 평가 대상자의 스펙트로그램을 상기 구축된 건강 상태 모델에 입력시켜 상기 평가 대상자의 건강 상태 및 운동 능력을 예측하는 단계를 포함하고,
상기 시간-주파수 분석은 연속 웨이브릿 변환(Continuous wavelet transform, CWT)이며, 상기 스펙트로그램은 연속 웨이브릿 변환을 통해 매끄러운(Smooth) 이미지로 생성되고,
각 축에 대한 가속도 정보는 각 축에 대한 가속도 스펙트로그램으로 변환되고, 상기 각 축에 대한 각속도 정보는 각 축에 대한 각속도 스펙트로그램으로 변환되며,
상기 각 축에 대한 가속도 스펙트로그램과 상기 각 축에 대한 각속도 스펙트로그램은 상기 입력 값의 크기에 대응하여 각각 사이즈가 조절된 후 병합되고,
상기 대상자의 건강 상태는 상기 대상자의 병적 요소에 대한 현재 상태 정보를 포함하고,
상기 운동 능력은 상기 대상자의 근력, 민첩성, 지구력 및 일반인과 다른 운동 능력을 가진 운동 선수 여부(Athlete foot)에 대한 정보를 포함하는 것을 특징으로 하는 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법.
A health state prediction method based on walking time-frequency analysis performed in a health state prediction system based on walking time-frequency analysis, the method comprising: a gait characteristic signal according to gait from a plurality of subjects to the lower body including the subject's feet Receives from at least one attached inertial measurement sensor, converts the received gait characteristic signal into a spectrogram using time-frequency analysis, uses the spectrogram as an input value, and sets the health status of the subject as an output value constructing a health state model based on the gait characteristic signal by performing machine learning using
obtaining a spectrogram from the subject to be evaluated; and
and inputting the spectrogram of the subject to be evaluated into the built-up health state model to predict the health state and exercise ability of the subject to be evaluated,
The time-frequency analysis is a continuous wavelet transform (CWT), and the spectrogram is generated as a smooth image through continuous wavelet transform,
The acceleration information for each axis is converted into an acceleration spectrogram for each axis, and the angular velocity information for each axis is converted into an angular velocity spectrogram for each axis,
The acceleration spectrogram for each axis and the angular velocity spectrogram for each axis are merged after each size is adjusted corresponding to the size of the input value,
The subject's health status includes current status information about the subject's pathological component,
The exercise ability is a walking time-frequency analysis-based health state prediction method, characterized in that it includes information about the subject's muscle strength, agility, endurance, and whether an athlete having an athletic ability different from that of the general public (Athlete foot).
삭제delete 삭제delete 삭제delete 제8 항에 있어서,
상기 보행 특성 신호에 기초한 건강 상태 모델을 구축하는 단계는,
복수의 컨볼루션(convolution) 단계와 복수의 풀링(pooling) 단계로 구성되는 컨볼루션 신경망 기반의 기계 학습 모델을 통해 상기 건강 상태 모델을 구축하는 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법.
9. The method of claim 8,
The step of constructing a health state model based on the walking characteristic signal comprises:
A health state prediction method based on walking time-frequency analysis for constructing the health state model through a machine learning model based on a convolutional neural network comprising a plurality of convolution steps and a plurality of pooling steps.
삭제delete 삭제delete 하드웨어와 결합되어 제8항 또는 제12항에 따른 보행 시간-주파수 분석에 기초한 건강 상태 예측 방법을 실행하도록 매체에 저장된 컴퓨터 프로그램.A computer program stored on a medium in combination with hardware to execute the method for predicting health conditions based on walking time-frequency analysis according to claim 8 or 12.
KR1020190068669A 2019-06-11 2019-06-11 Health state prediction method and system based on gait time-frequency analysis KR102395937B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190068669A KR102395937B1 (en) 2019-06-11 2019-06-11 Health state prediction method and system based on gait time-frequency analysis

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190068669A KR102395937B1 (en) 2019-06-11 2019-06-11 Health state prediction method and system based on gait time-frequency analysis

Publications (2)

Publication Number Publication Date
KR20200141751A KR20200141751A (en) 2020-12-21
KR102395937B1 true KR102395937B1 (en) 2022-05-11

Family

ID=74090472

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190068669A KR102395937B1 (en) 2019-06-11 2019-06-11 Health state prediction method and system based on gait time-frequency analysis

Country Status (1)

Country Link
KR (1) KR102395937B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022235129A1 (en) * 2021-05-07 2022-11-10 주식회사 엑소시스템즈 Sarcopenia diagnosis system and functional electrical stimulation treatment system using electromyographic signal
KR102538154B1 (en) * 2021-05-07 2023-05-31 주식회사 엑소시스템즈 Functional electrical stimulation generate system using electromyogram signal

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017215272A (en) * 2016-06-02 2017-12-07 沖電気工業株式会社 Information processing device, information processing method and program
JP2018009970A (en) 2016-07-01 2018-01-18 株式会社リコー Diagnostic device, diagnostic system, diagnostic method and program
JP2018517448A (en) 2015-04-20 2018-07-05 レスメッド センサー テクノロジーズ リミテッド Human detection and identification from characteristic signals
JP6456574B1 (en) 2018-04-04 2019-01-23 三菱電機株式会社 Diagnostic device, sensor data collecting device, diagnostic method, diagnostic program, and diagnostic system

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2455316B (en) 2007-12-04 2012-08-15 Sony Corp Image processing apparatus and method
FR2942388B1 (en) * 2009-02-26 2012-10-12 Movea SYSTEM AND METHOD FOR DETECTING THE MARKET OF A PERSON
KR101427365B1 (en) * 2012-10-23 2014-08-07 이인택 Motion Capture System for using AHRS
KR102486699B1 (en) * 2014-12-15 2023-01-11 삼성전자주식회사 Method and apparatus for recognizing and verifying image, and method and apparatus for learning image recognizing and verifying

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018517448A (en) 2015-04-20 2018-07-05 レスメッド センサー テクノロジーズ リミテッド Human detection and identification from characteristic signals
JP2017215272A (en) * 2016-06-02 2017-12-07 沖電気工業株式会社 Information processing device, information processing method and program
JP2018009970A (en) 2016-07-01 2018-01-18 株式会社リコー Diagnostic device, diagnostic system, diagnostic method and program
JP6456574B1 (en) 2018-04-04 2019-01-23 三菱電機株式会社 Diagnostic device, sensor data collecting device, diagnostic method, diagnostic program, and diagnostic system

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
국제학회지 Ito, Chihiro, et al. Application of CNN for human activity recognition with FFT spectrogram of acceleration and gyro sensors. Proceedings of the 2018 ACM International Joint Conference and 2018*

Also Published As

Publication number Publication date
KR20200141751A (en) 2020-12-21

Similar Documents

Publication Publication Date Title
Eltoukhy et al. Prediction of ground reaction forces for Parkinson's disease patients using a kinect-driven musculoskeletal gait analysis model
Aşuroğlu et al. Parkinson's disease monitoring from gait analysis via foot-worn sensors
Doukas et al. Advanced patient or elder fall detection based on movement and sound data
KR102107379B1 (en) Method for Prediction Frailty Using Triple Axis Motion Meter, Prediction Frailty System using Triple Axis Motion Meter and Wearable Prediction Frailty Device
AU2010286471B2 (en) Characterizing a physical capability by motion analysis
US11589781B2 (en) Assessing diseases by analyzing gait measurements
KR102128267B1 (en) Method and system for walking ability prediction using stepping characteristics information
US20220287651A1 (en) Method and system for analyzing biomechanical activity and exposure to a biomechanical risk factor on a human subject in a context of physical activity
Saad et al. Detection of freezing of gait for Parkinson’s disease patients with multi-sensor device and Gaussian neural networks
AU2008288697A1 (en) Body movement analysis method and apparatus
Khandelwal et al. Identification of gait events using expert knowledge and continuous wavelet transform analysis
CN115349857B (en) Dynamic rehabilitation evaluation method and system based on fNIRS brain functional map
KR102395937B1 (en) Health state prediction method and system based on gait time-frequency analysis
JPWO2018066422A1 (en) Cognitive function evaluation device, cognitive function evaluation method and program
KR20210045555A (en) Method and system for evaluating elderly health status using characteristics of walk-in-place
Gordienko et al. Deep learning for fatigue estimation on the basis of multimodal human-machine interactions
Ferrari et al. Gait-based diplegia classification using lsmt networks
MejiaCruz et al. Walking speed measurement technology: a review
Nguyen et al. IMU-based spectrogram approach with deep convolutional neural networks for gait classification
Baroudi et al. Estimating walking speed in the wild
Suriani et al. Optimal accelerometer placement for fall detection of rehabilitation patients
KR20190120923A (en) Method and system for walking ability prediction using foot characteristics information
Krutaraniyom et al. Pilot Study on Gait Classification Using Machine Learning
Gaud et al. Human gait analysis and activity recognition: A review
JP6638860B2 (en) Information processing system, information processing apparatus, and information processing method

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E90F Notification of reason for final refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)