KR20210015219A

KR20210015219A - 높은 정확도를 가진 심전도 부정맥 감지기의 하드웨어 뉴럴 네트워크 구현

Info

Publication number: KR20210015219A
Application number: KR1020190093738A
Authority: KR
Inventors: 황현상
Original assignee: 포항공과대학교 산학협력단
Priority date: 2019-08-01
Filing date: 2019-08-01
Publication date: 2021-02-10
Also published as: KR102445743B1

Abstract

본 발명의 실시예에 따른 높은 정확도를 가진 심전도 부정맥 감지기의 하드웨어 뉴럴 네트워크 구현은, 미리 프로그래밍 된 시냅스 장치와 임계 스위칭 기반 진동 뉴런을 사용하여 심전도 분류를 위한 매우 신뢰성 있는 에지 추론 시스템을 구현한다.

Description

높은 정확도를 가진 심전도 부정맥 감지기의 하드웨어 뉴럴 네트워크 구현 {HARDWARE NEURAL NETWORK IMPLEMENTATION OF ECG-ARRHYTHMIA DETECTOR WITH HIGH ACCURACY}

본원은 초저전력(~nW) 에지추론 시스템을 위한 2단자 (4F2) 저항시냅스 어레이와 IMT 발진 뉴런을 이용한 고정밀(~97%) 심전도 부정맥 감지기의 하드웨어 뉴럴 네트워크 구현에 관한 것이다.

인공신경망(NNs)은 영상과 신호 인식에 무수히 응용되어 상당한 주목을 받고 있다.

완전자율적인 학습시스템이 최종 목표지만, 현장학습 중 데이터 전송에 드는 막대한 에너지 비용과 시냅스 웨이트 최적화를 위한 오랜 시간이 여전히 주요 문제로 남아 있다. 대안으로, 저전력, 고속 및 저비용 추론 신경망(INN, Inference Neural Networks)이 최근 활발하게 연구되고 있다. 이러한 INN 하드웨어 시스템의 시장이 웨어러블 기기를 통한 생물학적 신호 모니터링 시스템과 같은 헬스케어 분야에서 급격히 증가하고 있고, 이러한 웨어러블 기기는 큰 의학적 영향을 미칠 가능성이 있다(도1). 예를 들어 지금까지 연구된 대부분의 심전도(ECG) 분류 시스템은 소프트웨어 기반 시스템으로, 매트릭스 연산의 순전히 양으로 인해 큰 계산력이 필요하다. 웨어러블 시스템의 잠재적 응용을 고려할 때 실시간으로 심전도 이상을 감지하는 저전력 하드웨어 기반 시스템의 개발이 필수적이다.

본원에 의하면, 사전에 프로그램된 시냅스 장치(SD)와 발진 뉴런 기반 임계값 스위칭을 이용하여 심전도(ECG) 분류를 위한 신뢰성이 높은 에지 추론 시스템을 제공할 수 있다. WOx 필름의 증착 조건을 최적화하여 전도성 균일성(μ/μ=0.023)과 전도성 선형성(α=1.07)이 우수한 시냅스 장치를 달성할 수 있다. 또한 Vth 드리프트 특성 없이 신뢰할 수 있는 뉴런 작동을 위한 NbO2 기반 절연체-금속 전환(IMT) 장치가 개발될 수 있다. DWT(discrete wavelet transform) 기능이 있는 신경망(Neural Network)을 사용하여 고성능 하드웨어 시스템을 검증할 수 있다. 제안된 하드웨어 시스템은 심장 부정맥 분류 작업에서 소프트웨어 신경망에 해당하는 높은 정확도(> 97%)를 달성할 수 있다.

본원에 의하면, 시냅스 배열과 발진 뉴런을 사용하여 에지 추론 시스템의 하드웨어 신경망 시스템을 실현 가능하다. WOx 기반 시냅스 장치를 전도성 균일성(μ/μ=0.023), 선형성(α=1.07)으로 최적화하여 신뢰성이 높은 ECG-부정맥 검출 시스템을 구축할 수 있다. 또한 드리프트 없는 특성(drift-free)을 가진 NbO2 발진 뉴런의 안정적 작동이 가능하다. 소프트웨어 기반 심전도 검출 시스템과 비교했을 때 본원의 일 실시예에 따른 하드웨어 INN 시스템은 소프트웨어 시스템(표3)과 동등한 수준으로 전체 정확도(97.7%)가 높다. 대규모 매트릭스 오퍼레이션을 위해 초저전력소비(~nW) 어레이에서 실시간 신호를 모니터링해 비상사태를 사전에 피할 수 있다.

도1은 응용 프로그램 시스템을 위한 에지 장치의 개념을 나타낸 도면이다.
도2는 본원의 목적을 나타낸 도면이다.
도3은 a) 선형 및 균일한 DC I-V 곡선 b) 전류 밀도 대 전압을 나타낸 도면이다.
도4는 SD의 최적 공정 조건을 나타내는 흐름도이다.
도5는 a) 시험장치 면적 10um에서 WO3-x 증착 조건에 따른 SD의 전도성 선형성 및 전도성 수준 b)W 4f 코어레벨 및 c)밸런스 밴드를 나타낸 도면이다.
도6은 a)전극 재료에 따른 SD의 CU 및 CL 개선 b) 선형성 (α)에 따른 DC I-V 곡선을 나타낸 도면이다.
도7은 a) 크기가 다른 각 SD의 전도성 수준. b) 전압과 함께 각 장치의 상수 및 선형 저항 특성을 나타낸 도면이다.
도8은a) RON 장치에 기반하여 행렬 곱셉을 수행하는 동안의 어레이 전력 소모량을 나타낸 SPICE 시뮬레이션 결과 b) CU에 따른 ECG 분류 시스템의 정확도 손실 및 c) CL에 따른 ECG 분류 시스템의 정확도 손실을 나타낸 도면이다.
도9는 NbO2 기반 진동 뉴런 회로 및 작동 사이클을 나타낸 도면이다.
도10은 NbO2 기반 IMT 장치의 I-V 특성을 나타낸 도면이다.
도11은 NbO2의 Pielers 단계 전환을 나타낸 개략도이다.
도12는 다양한 입력 전류 진폭에 따른 NbO2 기반 진동 뉴런의 측정 파형을 나타낸 도면이다.
도13은 NbO2 기반 진동 뉴런의 진동 주파수 대 입력 전류 진폭을 나타낸 도면이다.
도14는 진동 주파수 대 NbO2의 Vth를 나타낸 도면이다.
도15는 다양한 a) 램프 시간 및 b) 대기 시간에서 NbO2의 Vth 변경을 나타낸 도면이다.
도16은 ECG 분류 시스템의 프로세스 흐름을 나타낸 도면이다.
도17은Discrete Wavelet Transform 기법을 나타낸 도면이다.
도18은 a) 시스템 구조 b) 시뮬레이션 결과를 나타낸 도면이다.
도19는 패키지화된 1k비트 어레이 및 측정된 컨덕턴스 맵을 나타낸 도면이다.
도20은 a) PVC 이상 비트의 경우를 위한 심전도 이상 감지 시스템의 하드웨어 구현 사진 b) 예상 Vout 대 24비트 라인에서 측정한 Vout 데이터. c) 각 발진 뉴런의 출력 주파수를 나타낸 도면이다.

본원에 의하면, 사전에 프로그램된 시냅스 장치(SD)(110)와 임계값 전환 기반 발진 뉴런(120)을 이용한 심전도(ECG) 분류를 위한 신뢰성이 높은 에지 추론 시스템을 제공할 수 있다. WOx 필름의 증착 조건을 최적화하여 전도성 균일성(μ/μ=0.023)과 전도성 선형성(α=1.07)이 우수한 시냅스 장치(110)를 포함할 수 있다. 또한 Vth 드리프트 특성 없이 신뢰할 수 있는 뉴런 작동을 위한 NbO2 기반 절연체-금속 전환(IMT) 장치를 포함할 수 있다. Discrete wavelet transform(DWT)기능이 있는 신경망(Neural Network)을 사용하여 고성능 하드웨어 시스템(100)을 포함할 수 있다. 제안된 하드웨어 시스템(100)은 심장 부정맥 분류 작업에서 소프트웨어 신경망에 해당하는 높은 정확도(> 97%)를 달성할 수 있다.

I. 개요

완전자율적인 학습시스템이 최종 목표지만, 현장학습 중 데이터 전송에 드는 막대한 에너지 비용과 시냅스 웨이트 최적화를 위한 오랜 시간이 여전히 주요 문제로 남아 있다. 대안으로, 저전력, 고속 및 저비용 추론 신경망(INN, Inference Neural Networks)이 최근 활발하게 연구되고 있다. 이러한 INN 하드웨어 시스템(100)의 시장이 웨어러블 기기를 통한 생물학적 신호 모니터링 시스템과 같은 헬스케어 분야에서 급격히 증가하고 있고, 이러한 웨어러블 기기는 큰 의학적 영향을 미칠 가능성이 있다(도1). 예를 들어 지금까지 연구된 대부분의 심전도(ECG) 분류 시스템은 소프트웨어 기반 시스템으로, 매트릭스 연산의 순전히 양으로 인해 큰 계산력이 필요하다. 웨어러블 시스템의 잠재적 응용을 고려할 때 실시간으로 심전도 이상을 감지하는 저전력 하드웨어 기반 시스템의 개발이 필수적이다.

본원에서 전도성 균일성(CU) 및 전도성 선형성(CL) 측면에서 이전의 저항성 장치와 구별되는 2단자(4F2) WOx 기반의 저항성 시냅스를 제공한다. 또한 신뢰할 수 있는 발진 뉴런(120) 응용을 위해 Vth 드리프트 프리 NbO2 기반의 임계값 전환(TS) 장치를 개시한다(도 2). 마지막으로 실험을 통해 저항성 시냅스 배열과 IMT 발진 뉴런(120)을 통합하여 고성능 하드웨어 기반의 ECG-부정맥 탐지 장치를 개시한다.

II. 실험

A. WOx 기반의 시냅스 소자(110)

W-하단 전극(BE)은 Ti 접착층과 함께 무선주파수(RF) 스퍼터링 시스템을 사용하여 증착될 수 있다. 반응성 이온 에칭에 의해 Si3N4 절연층에 유효 소자 영역을 패터닝 한 후, Ar과 O2의 혼합물에서 WOx 증착 후 RF 스퍼터링 시스템을 사용하여 W-top 전극 (TE)이 이어질 수 있다.

B. NbO2기반의 임계값 전환 장치

NbO2 필름은 활성 소자 크기가 30 x 30 nm2 인 TiN-BE에 RF 반응성 스퍼터링을 사용하여 제작될 수 있다. 그 후, W-TE는 RF 스퍼터링에 의해 증착될 수 있다.

III. 결과 및 논의 A. ECG 분류 시스템

비정상적인 ECG 신호의 실시간 감지 및 분류는 잠재적으로 치명적인 심장 부정맥을 조기에 감지하는 데 큰 도움이 될 수 있다. 모바일 장치 애플리케이션 용 NN 하드웨어의 전력 소비 및 분류 시간 지연을 최소화하기 위해 본원에 따르면 에지 추론 시스템에 대한 높은 신뢰성과 정확도를 보여주는 사전 프로그래밍 된 시냅스 어레이 장치 및 TS 기반 뉴런을 제공할 수 있다.

B. 사전 프로그래밍된 시냅스 소자(110)

도 3a는 WOx 기반 저항성 시냅스의 선형 CL 및 CU 특성을 보여준다. 도3b에서 모든 장치의 동일한 전류 밀도 수준 대 전압은 유효 장치 영역에 따라 컨덕턴스 수준을 정확하게 변조 할 수 있음을 나타낸다(도 3c). 도4는 전체 최적화 프로세스와 샘플의 다양한 조건을 나타낸다. 아래 표 1은 샘플의 다양한 증착 조건을 포함한다.

먼저 도5a와 같이 WOx 증착 조건의 O2 / Ar 비율을 조절하여 SD의 전기적 특성을 조정할 수 있다. 회로 전력 손실을 제한하기에 충분히 낮은 선형 CL 및 컨덕턴스 값 (~ μS)으로 최적의 스퍼터링 조건 (O2/Ar = 20 %)을 찾을 수 있다. 도5b에서, X-선 광전자 분광법 (XPS) 분석은 WOx 필름의 전기적 특성이 W5 + 및 W4 + 상태로 인해 낮은 결합 에너지 측면에서 추가 기능을 만드는 산소 결핍과 밀접한 관련이 있음을 나타낸다. 이전 연구에 따르면 비 화학양론적 WO2.8은 SD에 대한 최적 조건이다. 도6a에서, Pt (2.2eV) 전극이있는 SD에 비해 W 전극이 있는 SD는 동질의 물질들 사이에 균일한 W-WOx 접촉을 생성하는 W (1.7eV)의 낮은 전기 음성도로 인해 향상된 CU (σ / μ = 0.023)를 나타낸다. 또한 낮아진 금속-산화물 경계면 사이의 장벽 높이가 CL을 1.07로 향상시킬 수 있다(도6b). 공정 조건을 최적화 한 후, 몇 킬로 옴에서 메가 옴에 이르는 광범위한 저항을 가진 나노미터 규모의 선형적이고 균일한 SD를 확인할 수 있다(도7a 및 도7b).

표 2는 연결 저항 (RON), CU 및 CL과 같은 주요 요구 사항을 기반으로 이전에 보고된 저항성 시냅스와의 비교를 정리한 표이다.

도 8a에서 SPICE 시뮬레이션 결과는 100nm 스케일 SD를 사용하여 1k 비트 어레이 중 다른 것에 비해 가장 낮은 전력 소비 (40μW)를 나타낸다. SD를 10nm 크기로 확장하면 초 저전력 작동 (~ 47nW)에 접근 할 수 있다. 또한 SD의 균일하고 선형적인 성능은 제안된 DWT 기반 ECG 분류 NN의 정확도 손실을 현저하게 줄일 수 있다(도8b 및 도8c).

C. NbO2 기반 발진 뉴런(120)

NbO2 기반 발진 뉴런(120) 회로는 NbO2 기반 임계 스위칭(TS) 장치와 커패시터로 구성될 수 있다(도9). NbO2 장치의 전압 히스테릭 I-V 특성(도10)으로 인해 뉴런 회로는 오프 상태에서 충전하고 온 상태에서 방전을 통해 임계 전압 (Vth)과 홀드 전압 (Vhold) 사이에서 발진 할 수 있다. IMT 기반 NbO2 장치의 스위칭 메커니즘은 Peierls 상전이이기 때문에(도11), NbO2는 금속 루틸 NbO2의 저항인 고유 온 저항을 가지며 발진 뉴런(120)의 안정적인 방전을 촉진할 수 있다.

낮은 입력 전류 영역에서 충전 속도는 상대적으로 느리지만 방전 속도는 빠르다 (도12a 및b). 따라서 발진 주파수는 충전 속도를 결정하는 입력 전류에 비례할 수 있다(도13). 그러나 높은 입력 전류 영역에서는 빠른 충전 시간이 방전 시간과 비슷 해져 발진 주파수가 점진적으로 증가할 수 있다(도12c).

발진 주파수는 Vth 시프트에 민감하다(도14). 결과적으로, 어떤 조건에서든지 안정적인 Vth는 안정적인 발진 동작에 필수적일 수 있다. 매우 짧은 범위의 원자 재 배열이 스위칭에 포함되기 때문에 빠른 스위칭 속도와 드리프트 없는 특성이 NbO2에서 관찰된다 (도15a 및 b). 따라서 NbO2는 Vth 드리프트 문제가 있는 다른 유형의 TS 장치보다 발진 뉴런(120) 애플리케이션에 더 적합하다.

D. ECG 부정맥 감지 시스템의 평가

평가 프레임 워크에서, Physiobank에서 제공하는 MIT-BIH 부정맥 데이터베이스를 사용하였다. 이 데이터 세트는 30 분 동안 48 명의 환자로부터 ECG 신호를 측정하여 얻은 것이다. 중점을 두는 심장 박동은 왼쪽 묶음 가지 차단 (LBBB), 오른쪽 묶음 가지 차단 (RBBB), 조기 심실 수축 (PVC), 정상 신호로, 그것은 4 가지의 가장 큰 부정맥 유형이다. 각 부정맥 유형에 대해 1000 개의 훈련 데이터와 200 개의 테스트 데이터가 무작위로 선택되었다. 도16에 하드웨어 시스템(100)을 구현하는 프로세스 흐름이 도시되어 있다.

ECG 신호의 숨겨진 특징을 보다 효과적으로 추출하기 위해 DWT 기법을 도입할 수 있다(도17). ECG 신호가 DWT 매트릭스에 공급되면 DWT는 신호를 다른 주파수로 분해하여 숨겨진 정보를 추출할 수 있다. 저주파 영역의 두드러진 특징은 심장 이상을 식별하는데 중요하기 때문에 다음 NN 분류를 위해 ECG 신호의 저주파 범위를 사용할 수 있다. 도18에 시뮬레이션 결과로 4 개의 분류 인자 (민감도(sensitivity), 특이성(specificity), 정확도(accuracy), 긍정적인 예측값(Positive Predictive Value))가 계산되었다. 추출된 가중치 맵은 NbO2 기반 발진 뉴런(120)을 사용한 하드웨어 구현을 위해 실수 행렬 값의 교차점 배열로 변환될 수 있다(도19).

E. 하드웨어 구현

WOx 기반 SD와 IMT 기반 진동 뉴런을 결합한 ECG 분류 하드웨어 시스템(100)을 테스트한다. 실험 결과의 예로 4 가지 다른 종류의 ECG 신호 중 PVC 이상 신호가 하드웨어 시스템(100)에 적용될 수 있다(도20a). DWT 어레이(130)에서 측정된 출력이 INN 하드웨어에 대한 SD의 우수한 특성을 나타내는 예상 출력과 일치함을 확인할 수 있다(도20b). DWT 처리된 신호는 피드 포워드 NN에서 4 개의 개별 ECG 신호로 분류될 수 있다(도20c). PVC 클래스에 해당하는 출력 뉴런의 주파수는 다른 출력 뉴런의 주파수보다 크다.

IV. 결론

에지 추론 시스템을 위해 시냅스 배열과 발진 뉴런(120)을 사용하는 하드웨어 신경망 시스템의 타당성을 확인할 수 있다. 뛰어난 컨덕턴스 균일성(σ / μ = 0.023)과 선형성 (α = 1.07)을 가진 WOx 기반 시냅스 장치(110)를 최적화하여 매우 안정적인 ECG- 부정맥 검출 시스템을 구현할 수 있다. 또한 드리프트 없는 특성을 가진 NbO2 발진 뉴런(120)의 안정적인 작동을 확인할 수 있다. 소프트웨어 기반 ECG 감지 시스템과 비교하여 하드웨어 INN 시스템은 소프트웨어 시스템에 해당하는 높은 전체 정확도 (97.7 %)를 가진다([표 3]). [표 3]은 본원의 DWT 기반 NN 하드웨어와 다른 소프트웨어 시스템의 ECG 분류 성능을 보여주는 비교표이다.

대량의 매트릭스 동작을 위해 초저전력 (~ nW) 어레이에서 실시간 신호를 모니터링하여 비상 상황을 사전에 피할 수있는 좋은 가능성을 보여준다.

100: 하드웨어 시스템
110: 시냅스 소자, 시냅스 장치
120: 발진 뉴런
130: DWT 어레이

Claims

심전도 부정맥 감지기의 하드웨어 뉴럴 네트워크에 있어서,
심전도 데이터를 입력 받는 입력부;
1개 이상의 WOx 기반의 시냅스 소자를 포함하는 복수의 NN레이어를 포함하고, 상기 심전도 데이터의 특성에 기초하여 상기 심전도 데이터를 입력 받아 크기가 다른 출력값을 출력하는 NN(Neural Network) 어레이; 및
상기 출력값의 크기에 기초하여 발진 주파수를 달리하는 발진 신호를 출력하는 발진 뉴런,
을 포함하는 하드웨어 뉴럴 네트워크.
제1항에 있어서,
상기 심전도 데이터의 특성은,
정상, LBBB(left bundle branch block), RBBB(right bundle branch block), PVC(premature ventricular contractions) 중 적어도 어느 하나를 포함하는 것인, 하드웨어 뉴럴 네트워크.
제1항에 있어서,
상기 시냅스 소자는,
W 하단 전극(bottom electrode), 절연층, RF 스퍼터링을 이용하여 증착된 WOx층, W 상단 전극(top electrode)를 포함하는 것인, 하드웨어 뉴럴 네트워크.
제3항에 있어서,
상기 RF 스퍼터링은,
O2, Ar 혼합물을 이용하는 것이고, 상기 O2는 상기 Ar의 0.13배 내지0.27배인 것인, 하드웨어 뉴럴 네트워크.
제1항에 있어서,
상기 발진 뉴런은,
드리프트가 발생하지 않는 NbO2 기반 임계값 전환 장치(threshold switch)와 커패시터를 포함하는 것인, 하드웨어 뉴럴 네트워크.
제1항에 있어서,
상기 복수의 NN 레이어의 활성화와 관련한 ReLU(Rectified Linear Unit) 활성화 신호를 생성하는 ReLU 뉴런을 더 포함하는 것인, 하드웨어 뉴럴 네트워크.
제1항에 있어서,
1개 이상의 상기 시냅스 소자를 포함하고, DWT(discrete wavelet transform)에 기초하여 상기 심전도 데이터를 입력하여 주파수 데이터를 출력하는 DWT 어레이를 더 포함하고,
상기 NN 어레이는,
상기 주파수 데이터를 입력 받아 크기가 다른 상기 출력값을 출력하는 것인, 하드웨어 뉴럴 네트워크.
제7항에 있어서,
상기 DWT 어레이 및 상기 NN 어레이에 포함되는 상기 복수의 시냅스 소자 각각에 가중치를 사전 프로그래밍한 것인, 하드웨어 뉴럴 네트워크.
제8항에 있어서,
상기 가중치는,
DWT에 기반한 시뮬레이션을 이용하여 얻은 가중치 맵에 기초한 것인, 하드웨어 뉴럴 네트워크.
절연층;
상기 절연층의 하면에Ti 접착층과 함께 RF 스퍼터링을이용하여 증착된 W 하단 전극;
상기 절연층의 상면에 반응성 이온 에칭을 이용하여 유효 소자 영역을 패터닝하고, Ar과 O2 혼합물에서 RF 스퍼터링을 이용하여 증착된 WOx층; 및
상기 WOx층 상면에 RF 스퍼터링을 이용하여 증착된 W 상단 전극,
을 포함하는 WOx 기반 시냅스 소자.
제10항에 있어서,
상기 Ar과 O2 혼합물은,
상기 O2는 상기 Ar의 0.13배 내지0.27배인 것인, WOx 기반 시냅스 소자.
TiN 하단 전극;
상기 TiN 하단 전극 상면에 RF 반응성 스퍼터링을 이용하여 형성되는 NbO2 필름; 및
상기 NbO2 필름 상면에 RF 스퍼터링에 의해 증착된 W 상단 전극,
을 포함하는, NbO2 기반 임계 스위치.