KR102515084B1 - 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 - Google Patents
딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 Download PDFInfo
- Publication number
- KR102515084B1 KR102515084B1 KR1020220048009A KR20220048009A KR102515084B1 KR 102515084 B1 KR102515084 B1 KR 102515084B1 KR 1020220048009 A KR1020220048009 A KR 1020220048009A KR 20220048009 A KR20220048009 A KR 20220048009A KR 102515084 B1 KR102515084 B1 KR 102515084B1
- Authority
- KR
- South Korea
- Prior art keywords
- sensor
- signal
- neural network
- gas
- gas signal
- Prior art date
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 39
- 238000004458 analytical method Methods 0.000 title claims abstract description 10
- 238000013135 deep learning Methods 0.000 title abstract description 11
- 238000013528 artificial neural network Methods 0.000 claims abstract description 53
- 238000000034 method Methods 0.000 claims abstract description 31
- 239000013598 vector Substances 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 8
- 230000000306 recurrent effect Effects 0.000 claims description 6
- 239000007787 solid Substances 0.000 claims description 2
- 230000035945 sensitivity Effects 0.000 abstract description 3
- 238000012545 processing Methods 0.000 abstract description 2
- 239000007789 gas Substances 0.000 description 28
- KDLHZDBZIXYQEI-UHFFFAOYSA-N palladium Substances [Pd] KDLHZDBZIXYQEI-UHFFFAOYSA-N 0.000 description 19
- VLKZOEOYAKHREP-UHFFFAOYSA-N n-Hexane Chemical compound CCCCCC VLKZOEOYAKHREP-UHFFFAOYSA-N 0.000 description 18
- 229910052751 metal Inorganic materials 0.000 description 16
- 239000002184 metal Substances 0.000 description 16
- BASFCYQUMIYNBI-UHFFFAOYSA-N platinum Substances [Pt] BASFCYQUMIYNBI-UHFFFAOYSA-N 0.000 description 13
- YXFVVABEGXRONW-UHFFFAOYSA-N Toluene Chemical compound CC1=CC=CC=C1 YXFVVABEGXRONW-UHFFFAOYSA-N 0.000 description 9
- 239000010931 gold Substances 0.000 description 9
- PXHVJJICTQNCMI-UHFFFAOYSA-N nickel Substances [Ni] PXHVJJICTQNCMI-UHFFFAOYSA-N 0.000 description 9
- 238000012360 testing method Methods 0.000 description 9
- 239000010949 copper Substances 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 239000013076 target substance Substances 0.000 description 8
- 238000012549 training Methods 0.000 description 8
- 230000008859 change Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000009826 distribution Methods 0.000 description 6
- 229910052763 palladium Inorganic materials 0.000 description 6
- 229910052697 platinum Inorganic materials 0.000 description 6
- IJGRMHOSHXDMSA-UHFFFAOYSA-N Atomic nitrogen Chemical compound N#N IJGRMHOSHXDMSA-UHFFFAOYSA-N 0.000 description 5
- 229910052802 copper Inorganic materials 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 229910052737 gold Inorganic materials 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 229910052750 molybdenum Inorganic materials 0.000 description 5
- 229910052759 nickel Inorganic materials 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 239000000126 substance Substances 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 4
- 229910001873 dinitrogen Inorganic materials 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 239000012855 volatile organic compound Substances 0.000 description 4
- WSFSSNUMVMOOMR-UHFFFAOYSA-N Formaldehyde Chemical compound O=C WSFSSNUMVMOOMR-UHFFFAOYSA-N 0.000 description 3
- UFHFLCQGNIYNRP-UHFFFAOYSA-N Hydrogen Chemical compound [H][H] UFHFLCQGNIYNRP-UHFFFAOYSA-N 0.000 description 3
- 239000012491 analyte Substances 0.000 description 3
- 239000000427 antigen Substances 0.000 description 3
- 102000036639 antigens Human genes 0.000 description 3
- 108091007433 antigens Proteins 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 238000002965 ELISA Methods 0.000 description 2
- 239000000090 biomarker Substances 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000001704 evaporation Methods 0.000 description 2
- 230000008020 evaporation Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 239000001257 hydrogen Substances 0.000 description 2
- 229910052739 hydrogen Inorganic materials 0.000 description 2
- 238000003780 insertion Methods 0.000 description 2
- 230000037431 insertion Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 150000002739 metals Chemical class 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000011540 sensing material Substances 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- ZOKXTWBITQBERF-UHFFFAOYSA-N Molybdenum Chemical compound [Mo] ZOKXTWBITQBERF-UHFFFAOYSA-N 0.000 description 1
- 239000004809 Teflon Substances 0.000 description 1
- 229920006362 Teflon® Polymers 0.000 description 1
- 235000009499 Vanilla fragrans Nutrition 0.000 description 1
- 244000263375 Vanilla tahitensis Species 0.000 description 1
- 235000012036 Vanilla tahitensis Nutrition 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 238000003915 air pollution Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000000635 electron micrograph Methods 0.000 description 1
- 239000003256 environmental substance Substances 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 150000002431 hydrogen Chemical class 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- WSFSSNUMVMOOMR-NJFSPNSNSA-N methanone Chemical compound O=[14CH2] WSFSSNUMVMOOMR-NJFSPNSNSA-N 0.000 description 1
- 239000011733 molybdenum Substances 0.000 description 1
- 239000002086 nanomaterial Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000013207 serial dilution Methods 0.000 description 1
- 238000001179 sorption measurement Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000004416 surface enhanced Raman spectroscopy Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/0004—Gaseous mixtures, e.g. polluted air
- G01N33/0009—General constructional details of gas analysers, e.g. portable test equipment
- G01N33/0062—General constructional details of gas analysers, e.g. portable test equipment concerning the measuring method or the display, e.g. intermittent measurement or digital display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G01N2033/0068—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Food Science & Technology (AREA)
- Medicinal Chemistry (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Investigating Or Analyzing Materials By The Use Of Fluid Adsorption Or Reactions (AREA)
- Investigating Or Analyzing Materials By The Use Of Electric Means (AREA)
Abstract
본 발명은 딥러닝 기반의 이상징후 감지 기법을 통해 센서의 노이즈 신호 분석을 통해 표적신호를 초고감도로 검출하는 방법 및 장치에 관한 것으로, 보다 구체적으로는 센서로부터 노이즈 신호를 수신한 다음, 데이터를 정상 노이즈 신호를 학습한 인공신경망에 입력하여 표적신호의 존재 유무를 판정하는 방법 및 장치에 관한 것이다. 본 발명에 따른 표적신호 검출 방법은 기존의 센서로는 감지할 수 없는 매우 낮은 농도의 표적신호를 감지할 수 있으므로, 초고감도 센서 개발에 유용하다.
Description
본 발명은 딥러닝 기반의 이상징후 감지 기법을 통해 센서의 노이즈 신호 분석을 통해 표적신호를 초고감도로 검출하는 방법 및 장치에 관한 것으로, 보다 구체적으로는 센서로부터 노이즈 신호를 수신한 다음, 데이터를 정상 노이즈 신호를 학습한 인공신경망에 입력하여 표적신호의 존재 유무를 판정하는 방법 및 장치에 관한 것이다.
화학 및 생물학적 감지 기술은 보이지 않지만 유해한 환경 물질을 추적하는 것이 중요하기 때문에 4 차 산업 혁명 운동에서 언급 된 주요 주제 중 하나이다(K. Lorincz, et al., IEEE Pervasive Comput. 3, 16-23, 2004). 특히, 가스 또는 기상 화학 분석 물질을 감지하는 센서는 의료 환자의 호흡 분석, 스마트 홈 시스템, 산업 안전 기술 및 대기 오염 추적을 포함한 다양한 응용 분야에서 활용 될 수 있다(H.M. Fahad et al., ACS Nano 12, 2948-2954, 2018). 이러한 모든 어플리케이션에서 측정된 신호 대 노이즈 비율은 감지가 실제로 발생했는지 확인하기에 충분해야 한다(A. Shrivastava et al., Chron. Young. Sci. 2, 21-25, 2011). 이와 같이 검출 한계(Limit of Detection, LOD)의 개념은 분석 화학에서 검출시 표적물질의 존재와 부재를 구별하기 위해 사용된다. 센싱 어플리케이션의 많은 부분에서 분석물의 양은 매우 적으므로 최첨단 기술 감지 장치로도 탐지할 수 없는 경우가 있는 실정이다. 새로운 표적물질 검출 기술의 연구 개발은 분자 수준에서 표적물질을 검출하는 능력을 향상시키기 위해, 현재 LOD를 넘어서고자 진행되고 있다(S.J. Kim et al., ACS Nano 12, 986-993, 2018).
반면에 신호가 존재하는 경우에도 신호가 손실되는 노이즈 변동 레벨 내에서 LOD 근처 또는 아래에서 발생하는 것에 대해서는 별다른 연구가 진행되지 않았다. 감지 기술 분야 외의 탐지 이론은 무작위 노이즈 중에 정보를 담고 있는 신호 패턴을 식별하는 데 중점을 둔 분야이다. 대표적으로 FECS (fluctuation enhanced chemical sensing) 및 Langmuir / Wolkenstein 흡착 모델 등이 노이즈 수준에서 화학적 지문을 검출하는데 널리 사용되고 있다(J.L. Solis et al., IEEE. Sens. J. 5, 1338-1345, 2005; T. Contaret et al., Procedia Eng. 25, 375-378, 2011).
이상징후 감지 기법(anomaly detection)은 정상 상태를 벗어난 비정상 상태를 구분하는 기법을 통칭하며, 오래전부터 여러 수학적 기법이 연구되어 사용되어왔다. 하지만 기존 기법들은 여러 가스 센서들과 다양한 타겟 가스로부터 나오는 불안정하고, 복잡한 데이터들에 유연하게 대처하기가 쉽지 않다. 최근 머신러닝 기반 알고리즘들이 이 분야에 적용이 되고 있으나, 타겟으로 하는 위험 가스나 폭발 가스의 샘플을 확보하기가 어려워 기존 지도학습 알고리즘으로는 한계가 있다.
가스 센서로는 고체센서, 전기화학센서, 적외선 센서, 광이온 센서 등의 여러 타입이 존재하나, 많은 정보를 다양한 공간에서 획득하기 위해서는 가격이 저렴해야 하며, 전력 사용량이 적고, IT device 에 쉽게 접목이 되어야 한다. 이에 적합한 가스 센서는 전기의 저항 변화를 이용한 센서 방식이 적합하다.
극미량의 가스를 감지하기 위해, 기존 연구들은 가스 센서를 이루는 나노 물질/표면화학구조 등을 조절하여 저항 변화를 초래하면서 센서 감도를 높이려고 하였다. 하지만 이는 재연성, 범용성의 저하를 초래하였고, 또한 공정 비용의 증가로 실용화에 제약이 있다.
더 나아가, 기존에는 타겟 가스로 인한 시그널이 노이즈 대비 3배 이하의 신호를 가졌을 때에 센싱 시그널로 판단하는 Limit of Detection(LOD) 개념을 사용하였다. 하지만 이 개념은, 통계적 확신을 기반으로 이루어진 것으로, LOD 이하의 초극미량의 가스로 인한 미세한 시그널을 판단하기에 한계가 있다.
이러한 기술배경하에, 본 발명자들은 기존의 검출한계를 초과하는 초고감도의 센서 시스템을 개발하기 위해 예의 노력한 결과, 인공신경망을 이용하여 노이즈 신호를 분석할 경우, 기존 센서로는 검출할 수 없었던 농도에서 표적신호를 검출할 수 있음을 확인하고, 본 발명을 완성하였다.
본 발명의 목적은 딥러닝 기반 표적신호 검출 방법을 제공하는 것이다.
본 발명의 다른 목적은 딥러닝 기반 표적신호 검출 장치를 제공하는 것이다.
본 발명의 또 다른 목적은 상기 장치를 포함하는 표적신호 검출용 센서를 제공하는 것이다.
본 발명의 또 다른 목적은 딥러닝 기반 표적신호 검출 방법을 포함하는 컴퓨터 판독 가능한 저장 매체를 제공하는 것이다.
상기 목적을 달성하기 위하여, 본 발명은 (a) 센서로부터 노이즈 신호를 수신하는 단계; 및 (b) 상기 노이즈 신호를 표적신호의 존재 유무를 판단할 수 있는 인공 신경망에 입력하여 표적신호의 존재 유무를 판정하는 단계를 포함하는, 딥러닝 기반 표적신호 검출 방법을 제공한다.
본 발명은 또한, 노이즈 신호를 수신하는 신호 수신부; 상기 신호를 인공신경망에 입력하는 입력부; 인공 신경망을 이용하여 표적신호의 존재 유무를 판정하는 판단부; 및 표적신호의 존재 유무를 출력하는 출력부;를 포함하는 표적신호 검출 장치를 제공한다.
본 발명은 또한, 상기 장치를 포함하는 표적신호 검출용 센서를 제공한다.
본 발명은 또한, 컴퓨터 판독 가능한 저장 매체로서, 표적신호를 검출하는 프로세서에 의해 실행되도록 구성되는 명령을 포함하되, (a) 센서로부터 노이즈 신호를 수신하는 단계; 및 (b) 상기 노이즈 신호를 표적신호의 존재 유무를 판단할 수 있는 인공 신경망에 입력하여 표적신호의 존재 유무를 판정하는 단계를 통하여, 표적신호을 검출하는 프로세서에 의해 실행되도록 구성되는 명령을 포함하는 컴퓨터 판독 가능한 저장 매체를 제공한다.
본 발명에 따른 표적신호 검출 방법은 기존의 센서로는 감지할 수 없는 매우 낮은 농도의 표적신호를 감지할 수 있으므로, 초고감도 센서 개발에 유용하고, 빠르고 간결한 학습모델로서 다양한 표적에 적용이 가능하다.
도 1은 인공신경망 기반의 노이즈 신호 분석방법에 대한 개략도이다.
도 2는 본 발명의 일 실시예에 따른 가스 신호 노이즈 분석을 위한 센서 장치의 개략도(a) 및 실제 사진(b)이다.
도 3은 본 발명의 일 실시예에 따른 노이즈 신호 측정 장치에 관한 것으로 (a)는 클린룸에서 실제 수행되는 실험실을 촬영한 사진이며, (b)는 전체 가스 전달 시스템의 개략도이다.
도 4는 본 발명의 일 실시예에 따른 금속 센서의 노이즈 프로파일 측정 결과를 나타낸 것으로 (a)는 각 금속 센서별 N2 환경에서의 노이즈 프로파일을 나타낸 것이고, (b)는 2.5-100ppm H2 노출에 따른 Au, Cu, Mo, Ni 금속 센서 별 실시간 노이즈 프로파일을 측정한 결과이며, (c)는 Pt 센서, (d)는 Pd 센서의 결과를 나타내고, (e)는 각 금속 센서의 Maximum signal amplitudes (Δb)max를 LOD와 함께 나타낸 그래프이다.
도 5는 본 발명의 일 실시예에 따른 오토인코더를 이용한 반지도 학습 기반 이상징후 검출방법의 흐름도이다.
도 6은 본 발명의 일 실시예에 따른 인공신경망의 정확도 등을 계산하기 위한 매트릭스를 나타낸 개념도이다.
도 7은 본 발명의 일 실시예에 따른 인공신경망의 신뢰도를 평가하기 위한 그래프의 정의를 나타낸 개념도이다.
도 8은 본 발명의 일 실시예에 따른 딥러닝 기반의 노이즈 신호 분석 결과를 나타낸 것으로, (a)는 시간 또는 빈도 도메인 신호를 나타낸 개략도이고, (b)는 Pd 센서의 저항신호를 기본 데이터로 학습한 GRU-AE 인공신경망의 재구축 에러(Reconstruction Error, RE)들이 가지고 있는 분포를 모사한 커널 밀도 함수(Kernel density plot) 그래프와 오토인코더 내 잠재 공간에서 얻은 t-SNE component 의 분산 그래프이며, (c)는 Pd 센서의 빈도(frequencies)를 학습한 FFT-GRU-AE 인공신경망으로 얻은 재구축 에러들이 가지는 분포를 모사한 커널 밀도 함수 그래프와, 오토인코더 내 잠재 공간에서 얻은 t-SNE component 의 분산 그래프이며, (d)는 GRU-AE 및 FFT-GRU-AE 인공신경망의 이상 징후 분류 정확도를 최고로 높일 수 있는 RE의 임계값를 최적화한 후 얻은 모든 금속 센서의 성능을 나타낸 그래프이다.
도 9는 본 발명의 일 실시예에 따른 특성 추출의 통계적 분석에 대한 것으로 (a)는 GRU-AE 인공신경망의 4000개 Pd 샘플에서 정규화된 RE 값과 정규화된 표준편차의 관계를 나타낸 그래프이며, (b)는 FFT-GRU-AE 인공신경망의 정규화된 RE 값과 FFT 빈도의 정규화된 평균 강도의 관계를 나타낸 그래프이다.
도 10은 본 발명의 일 실시예에 따른 H2 이외의 표적 물질(헥산, Hexane)을 Pd 센서에서 검출한 결과를 나타낸 그래프로서, (a)는 5ppm 헥산, (b)는 10ppm H2에서의 노이즈 분석 결과를 나타낸 것이다.
도 11은 본 발명의 일 실시예에 따른 휘발성 유기 화합물(volatile organic compounds, VOCs) 검출 방법 및 결과를 나타낸 것으로 (a)는 금속 산화 반도체 센서의 일종인 CuO 센서의 전자현미경 사진이며, (b)는 상기 센서를 이용하여 본 발명의 방법으로 톨루엔을 검출한 결과를 나타낸 것이다.
도 12는 본 발명의 일 실시예에 따른 장치를 포함하는 표적신호 검출용 센서를 나타낸 개념도이다.
도 2는 본 발명의 일 실시예에 따른 가스 신호 노이즈 분석을 위한 센서 장치의 개략도(a) 및 실제 사진(b)이다.
도 3은 본 발명의 일 실시예에 따른 노이즈 신호 측정 장치에 관한 것으로 (a)는 클린룸에서 실제 수행되는 실험실을 촬영한 사진이며, (b)는 전체 가스 전달 시스템의 개략도이다.
도 4는 본 발명의 일 실시예에 따른 금속 센서의 노이즈 프로파일 측정 결과를 나타낸 것으로 (a)는 각 금속 센서별 N2 환경에서의 노이즈 프로파일을 나타낸 것이고, (b)는 2.5-100ppm H2 노출에 따른 Au, Cu, Mo, Ni 금속 센서 별 실시간 노이즈 프로파일을 측정한 결과이며, (c)는 Pt 센서, (d)는 Pd 센서의 결과를 나타내고, (e)는 각 금속 센서의 Maximum signal amplitudes (Δb)max를 LOD와 함께 나타낸 그래프이다.
도 5는 본 발명의 일 실시예에 따른 오토인코더를 이용한 반지도 학습 기반 이상징후 검출방법의 흐름도이다.
도 6은 본 발명의 일 실시예에 따른 인공신경망의 정확도 등을 계산하기 위한 매트릭스를 나타낸 개념도이다.
도 7은 본 발명의 일 실시예에 따른 인공신경망의 신뢰도를 평가하기 위한 그래프의 정의를 나타낸 개념도이다.
도 8은 본 발명의 일 실시예에 따른 딥러닝 기반의 노이즈 신호 분석 결과를 나타낸 것으로, (a)는 시간 또는 빈도 도메인 신호를 나타낸 개략도이고, (b)는 Pd 센서의 저항신호를 기본 데이터로 학습한 GRU-AE 인공신경망의 재구축 에러(Reconstruction Error, RE)들이 가지고 있는 분포를 모사한 커널 밀도 함수(Kernel density plot) 그래프와 오토인코더 내 잠재 공간에서 얻은 t-SNE component 의 분산 그래프이며, (c)는 Pd 센서의 빈도(frequencies)를 학습한 FFT-GRU-AE 인공신경망으로 얻은 재구축 에러들이 가지는 분포를 모사한 커널 밀도 함수 그래프와, 오토인코더 내 잠재 공간에서 얻은 t-SNE component 의 분산 그래프이며, (d)는 GRU-AE 및 FFT-GRU-AE 인공신경망의 이상 징후 분류 정확도를 최고로 높일 수 있는 RE의 임계값를 최적화한 후 얻은 모든 금속 센서의 성능을 나타낸 그래프이다.
도 9는 본 발명의 일 실시예에 따른 특성 추출의 통계적 분석에 대한 것으로 (a)는 GRU-AE 인공신경망의 4000개 Pd 샘플에서 정규화된 RE 값과 정규화된 표준편차의 관계를 나타낸 그래프이며, (b)는 FFT-GRU-AE 인공신경망의 정규화된 RE 값과 FFT 빈도의 정규화된 평균 강도의 관계를 나타낸 그래프이다.
도 10은 본 발명의 일 실시예에 따른 H2 이외의 표적 물질(헥산, Hexane)을 Pd 센서에서 검출한 결과를 나타낸 그래프로서, (a)는 5ppm 헥산, (b)는 10ppm H2에서의 노이즈 분석 결과를 나타낸 것이다.
도 11은 본 발명의 일 실시예에 따른 휘발성 유기 화합물(volatile organic compounds, VOCs) 검출 방법 및 결과를 나타낸 것으로 (a)는 금속 산화 반도체 센서의 일종인 CuO 센서의 전자현미경 사진이며, (b)는 상기 센서를 이용하여 본 발명의 방법으로 톨루엔을 검출한 결과를 나타낸 것이다.
도 12는 본 발명의 일 실시예에 따른 장치를 포함하는 표적신호 검출용 센서를 나타낸 개념도이다.
다른 식으로 정의되지 않는 한, 본 명세서에서 사용된 모든 기술적 및 과학적 용어들은 본 발명이 속하는 기술 분야에서 숙련된 전문가에 의해서 통상적으로 이해되는 것과 동일한 의미를 갖는다. 일반적으로 본 명세서에서 사용된 명명법 및 이하에 기술하는 실험 방법은 본 기술 분야에서 잘 알려져 있고 통상적으로 사용되는 것이다.
제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 해당 구성요소들은 상기 용어들에 의해 한정되지는 않으며, 단지 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 이하 설명하는 기술의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
본 명세서에서 사용되는 용어에서 단수의 표현은 문맥상 명백하게 다르게 해석되지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함한다" 등의 용어는 설시된 특징, 개수, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 의미하는 것이지, 하나 또는 그 이상의 다른 특징들이나 개수, 단계 동작 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 배제하지 않는 것으로 이해되어야 한다.
도면에 대한 상세한 설명을 하기에 앞서, 본 명세서에서의 구성부들에 대한 구분은 각 구성부가 담당하는 주기능 별로 구분한 것에 불과함을 명확히 하고자 한다. 즉, 이하에서 설명할 2개 이상의 구성부가 하나의 구성부로 합쳐지거나 또는 하나의 구성부가 보다 세분화된 기능별로 2개 이상으로 분화되어 구비될 수도 있다. 그리고 이하에서 설명할 구성부 각각은 자신이 담당하는 주기능 이외에도 다른 구성부가 담당하는 기능 중 일부 또는 전부의 기능을 추가적으로 수행할 수도 있으며, 구성부 각각이 담당하는 주기능 중 일부 기능이 다른 구성부에 의해 전담되어 수행될 수도 있음은 물론이다.
또, 방법 또는 동작 방법을 수행함에 있어서, 상기 방법을 이루는 각 과정들은 문맥상 명백하게 특정 순서를 기재하지 않은 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 과정들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.
본 발명에서는, 정상 노이즈 신호를 학습한 인공신경망에 LOD 미만의 농도를 가진 표적 물질이 함유된 센서의 노이즈 신호를 입력할 경우, 표적물질의 존재 유무를 판단할 수 있는지 확인하고자 하였다.
즉, 본 발명의 일 실시예에서는 금(Au), 구리(Cu), 몰리브데넘(Mo), 니켈(Ni), 백금(Pt) 및 팔라듐(Pd) 금속 센서의 질소(N2) 가스가 100%인 상태의 노이즈 신호를 학습한 인공신경망에 상기 금속 센서에 2.5 내지 10 ppm 농도의 수소(H2) 가스가 포함된 질소 가스 혼합물을 주입한 다음, 측정한 노이즈 신호 데이터를 입력할 경우, 통상적으로 수소를 잘 센싱한다고 알려진 Pt, Pd 뿐만 아니라 다른 금속 센서에서도 기존의 공지된 검출 한계값 미만의 수소 가스를 검출할 수 있다는 것을 확인하였다(도 1 내지 도 3, 도 8).
따라서, 본 발명은 일 관점에서,
(a) 센서로부터 노이즈 신호를 수신하는 단계; 및
(b) 상기 노이즈 신호를 표적신호의 존재 유무를 판단할 수 있는 인공 신경망에 입력하여 표적신호의 존재 유무를 판정하는 단계를 포함하는 딥러닝 기반 표적신호 검출 방법에 관한 것이다.
본 발명에 있어서, 상기 센서는 표적신호를 탐지할 수 있는 종류의 센서이면 제한없이 이용가능하나, 바람직하게는 고체센서, 전기화학센서, 적외선 센서 또는 광이온 센서인 것을 특징으로 할 수 있으나, 이에 한정되는 것은 아니다.
본 발명에서 상기 표적신호는 시간 별로 표적의 존재유무에 따라 변하는 종류의 신호이면 모두 이용 가능하다.
예를 들어, 가스 감지 센서로서, 전기화학센서의 경우, 표적물질(예를 들어 CO2)이 검출한계 이상으로 존재하게 될 경우, 센서 표면의 저항변화가 표적물질의 농도에 비례하여 발생하게 되고 이를 센서가 감지하여 표적신호를 발생하게 된다.
예를 들어, 항원-항체 반응을 이용하여 샘플 내 표적 항원의 존재 유무를 효소면역 측정법(ELISA)으로 판단할 경우, 표적 항원이 존재하게 되면, 형광 세기가 표적신호로서 시간에 따라 증가하여 표적 항원이 존재하는 것을 판정하게 된다.
예를 들어, 휘발성 유기 화합물(volatile organic compounds, VOCs)의 일종인 포름알데하이드를 검출하는 전기화학센서의 경우, 공기 중의 포름알데하이드 농도가 검출한계 값을 넘어갈 경우, 시간에 따라 센서 표면의 저항값이 변화하여 표적신호를 발생한다.
예를 들어, 영상 이미지 분석을 통해 불꽃을 감지하는 화재감지 센서의 경우, 시간이 흐름에 따라 기준값을 초과하는 영상 내 불꽃 이미지를 감지하여 표적신호를 발생하여 화재를 감지한다.
예를 들어, 혈액 내 특정 바이오 마커를 검출하는 센서의 경우, 바이오 마커와 반응할 수 있는 물질의 형광/전기 신호 변화를 시간의 흐름에 따라 감지하여 표적신호를 발생한다.
예를 들어, 방사선 감지 센서의 경우, 측정되는 방사선의 양에 따라 표적 신호를 발생하여 방사선의 존재 유무를 감지한다.
예를 들어, 누수 감지 센서의 경우, 감지선에 누수 물질이 일정량 이상 누적되거나 감지되면 표적신호를 발생하여 누수 여부를 감지한다.
예를 들어, 가스터빈에 사용되는 화염 감지 센서는 가스터빈 연소실 내의 화염을 광다이오드로 감지하여 일정값 이상이 되면 표적신호를 발생한다.
예를 들어, 변형 감지센서의 경우, 눌림, 굽힘 및 비틀림 등의 다양한 장치의 변형 상태에 따라 저항값등의 변화를 이용하여 표적신호를 발생한다.
본 발명에 있어서, 상기 노이즈 신호는 센서의 검출한계(Limit of Detection, LOD)이하의 신호인 것을 특징으로 할 수 있다.
즉, 상시 센서에서 발생하는 신호가 표적신호의 존재유무를 판단하기 위해서는 일정한 기준값 이상으로 신호강도가 변화해야 하며, 이러한 기준값을 LOD라 할 수 있다. 본 발명은 LOD 미만의 신호 즉, 기존 센서 시스템에서는 노이즈로 분류하는 신호를 분석하여 표적신호의 존재 유무를 판단할 수 있는 것이다.
본 발명에 있어서, 상기 인공 신경망은 표적신호가 포함되지 않은 노이즈 신호를 학습한 것을 특징으로 할 수 있다.
예를 들어, 본 발명의 일 실시예에서는 100% 질소 가스를 금속 센서에 주입하여 발생한 노이즈 신호를 인공신경망에 학습시켰다. 그 후, LOD 값 미만의 표적물질(수소 가스)이 포함된 가스 혼합물을 금속 센서에 주입하여 발생한 노이즈 신호를 상기 학습된 인공신경망에 입력하여 인공신경망이 입력된 노이즈 신호가 100% 질소 가스가 맞는지 아닌지를 판단하게 하였다(도 4 내지 도 6).
그 결과, 모든 금속 센서에서 발생한 노이즈 신호에서 100%의 질소 가스가 아니라고 높은 정확도로 인공신경망이 판정하는 것을 확인한 것이다.
본 발명에 있어서, 상기 인공신경망은 입력된 데이터가 정상인지 유무를 판단할 수 있도록 학습된 인공신경망이면 제한없이 이용가능하나, 바람직하게는 가우시안 혼합 모델(Gaussian mixture model), 히스토그램 기반 모델(Histogram-based model), 클러스터 기반 모델(Cluster-based model), 및 오토인코더(auto encoder)로 구성된 군에서 선택되는 것을 특징으로 할 수 있다.
본 발명에 있어서, 상기 오토인코더는 적층 오토인코더(stacked autoencoder), 잡음제거 오토인코더(denoising autoencoder), 적층잡음제거 오토인코더(stacked denoising autoencoder), 희소 오토인코더(sparse autoencoder), 변이 오토인코더(variational autoencoder), 수축 오토인코더(contractive autoencoder), LSTM(Long-short term memory) 기반 오토인코더, GRU(gated recurrent units) 기반 오토인코더, 합성곱 신경망(convolutional neural network, CNN) 기반 오토인코더, 생성적 적대 신경망(generative adversarial neural network), 바닐라 순환 신경망(Vanilla recurrent neural network) 및 집중적 순환 신경망(attentive recurrent neural network)으로 구성된 군에서 선택되는 것을 특징으로 할 수 있으나, 이에 한정되는 것은 아니다.
본 발명에 있어서, 상기 표적신호의 존재 유무를 판정하는 단계는 상기 인공 신경망이 입력된 상기 노이즈 신호를 재구축한 다음, 이를 분석하여 판정하는 것을 특징으로 할 수 있다.
본 발명에 있어서, 상기 분석은 표적신호가 포함되지 않은 노이즈 신호의 재구축 에러율과 입력된 노이즈 신호의 재구축 에러율을 비교하여 기준값(cut-off value) 초과일 경우, 표적신호가 포함된 것으로 판정하는 것을 특징으로 할 수 있다.
기준값을 결정하기 위해, 평가 데이터셋에 대하여 동일한 과정을 거친 후, 평가 데이터셋에 대해 이상 징후 성능(정확도)을 가장 좋게 만드는 기준값을 정하여, 이를 기준으로 실제 센서에 적용할 수 있다.
본 발명에서, 상기 재구축 에러율은 오토인코더의 손실함수로 사용될 수 있으며, 하기 식 1로 계산하는 것을 특징으로 할 수 있다:
여기서 N은 시계열 샘플의 벡터 길이이고, Yi는 주어진 입력 벡터에 대한 시간 i의 샘플 값이며, Yi는 재구축된 출력 값이다.
본 발명의 일 실시예에서 오토인코더는 정상 시퀀스만을 사용하여 최적화 되었기 때문에 RE 수집과 분포(예: 커널 밀도 추정 플롯 또는 KDE)를 사용하여 정상 사례와 비정상 사례를 구별할 수 있는 것이다.
본 발명은 다른 관점에서, 노이즈 신호를 수신하는 신호 수신부; 상기 신호를 인공신경망에 입력하는 입력부; 인공 신경망을 이용하여 표적신호의 존재 유무를 판정하는 판단부; 및 표적신호의 존재 유무를 출력하는 출력부;를 포함하는 표적신호 검출 장치에 관한 것이다.
본 발명은 또 다른 관점에서, 상기 장치를 포함하는 표적신호 검출용 센서에 관한 것이다.
본 발명은 또 다른 관점에서, 컴퓨터 판독 가능한 저장 매체로서, 표적신호를 검출하는 프로세서에 의해 실행되도록 구성되는 명령을 포함하되,
(a) 센서로부터 노이즈 신호를 수신하는 단계; 및
(b) 상기 노이즈 신호를 표적신호의 존재 유무를 판단할 수 있는 인공 신경망에 입력하여 표적신호의 존재 유무를 판정하는 단계를 통하여, 표적신호를 검출하는 프로세서에 의해 실행되도록 구성되는 명령을 포함하는 컴퓨터 판독 가능한 저장 매체에 관한 것이다.
실시예
이하, 실시예를 통하여 본 발명을 더욱 상세히 설명하고자 한다. 이들 실시예는 오로지 본 발명을 예시하기 위한 것으로서, 본 발명의 범위가 이들 실시예에 의해 제한되는 것으로 해석되지는 않는 것은 당업계에서 통상의 지식을 가진 자에게 있어서 자명할 것이다.
<실험 방법>
센서 제조 및 측정 데이터 생산
Au, Pd, Pt, Ni, Cu 및 Mo의 노이즈 프로파일 및 감지 신호를 측정하기 위해, 6 개 금속의 20 nm 두께 막이 e- 빔 증발을 사용하여 SiO2 / Si 기판의 미리 정의 된 영역 상에 증착한 뒤, 사전 증착된 5nm 두께의 Ti 접착층과 100μm 간격 및 너비를 가진 70nm 두께의 Au 전극을 맞춤형 SERS 마스크를 사용하여 e- 빔 증발로 증착하였다. 제조한 센서를 데이터 수집 모듈 (Agilent 34970A)을 사용하여 저항 신호를 측정하도록 설계된 감지 챔버에 장착하였다.
H2 가스를 감지 챔버에 통과시켰다. 내부에 설계된 가스 전달 시스템을 사용하여 감지 챔버로의 가스 흐름을 제어하여 분석물에 대한 센서 반응을 측정하였다. H2 농도를 2.5ppm에서 3 %로 제어하는 데 사용되는 연속 희석 시스템은 질량 유량 제어기 (MFC, Brooks 5850E), 테프론 튜브 (PFA, 1/8")Lok 유형 피팅 및 밸브 시스템으로 구성하였다. 기준 가스로서 N2를 사용하였고, 기준 가스 및 시험 된 H2의 총 유량을 400 sccm으로 유지 하였다. H2 및 N2를 6-12 시간 동안 주입 하였다. 밀봉 된 가스 감지 챔버의 크기는 대략 10 cm (폭) x 5 cm (높이) x 8 mm (높이)였다(도 3).
분석에 사용된 지표
특정 임계값이 AE로부터 계산된 재구축 에러(RE)로부터 설정되면, 임계값보다 낮은 재구축 에러를 갖는 샘플이 정상으로 라벨링되고 임계값보다 높은 재구측 에러를 갖는 샘플이 비정상으로 라벨링 되도록 설정하였다. 예측된 레이블과 실제 레이블을 사용하면 AE 분류 성능을 평가하기 위해 다양한 지표를 적용하였다. 본 발명에서, 정확도, 정밀도, 리콜 및 f-1점수를 도 6에 개시한 바와 같이 계산하였다.
분류기의 성능을 종합적으로 분석하기 위해 수신기 작동 특성 (ROC) 곡선과 정밀 리콜 곡선을 선택하였다. ROC 곡선은 분류기의 잠재적 성능을 예측하는 데 사용되는 잘 알려진 기준이다. ROC 곡선은 다양한 임계 값에서 진 양성 비율 (TPR) 대 거짓 양성률 (FPR)을 플로팅하여 생성된다. ROC- 커브 아래 영역을 0 ~ 1 범위의 AUC 점수라고 하며, 점수가 1에 가까우면 표본이 잘 분류되어 이상 탐지의 성능이 향상되었음을 의미한다. 마찬가지로 정밀 회수 곡선도 자주 사용되며 정밀과 회수의 균형을 나타낸다. 곡선은 정밀도로 표시되고 다양한 임계 값으로 호출된다. ROC-AUC 점수와 마찬가지로 곡선 아래 영역을 사용하여 분류 기가 정확한 결과를 얼마나 잘 제공하고 모든 긍정적 인 결과의 대부분 (평균 정밀도 리콜 점수)을 반환하는지 평가할 수 있다.
데이터 수집
안정적이고 깨끗한 N2 저항 샘플을 얻기 위해 N2를 12 시간 이상 퍼지하고 H2 2.5 ppm 삽입 전의 최신 저항을 트레이닝 및 테스트에 사용하였다. N2 (트레이닝) 및 N2 (테스트)는 슬라이딩 윈도우 기술을 사용한 랜덤 간격 샘플링 전략으로 준비하였다. 샘플링에서 N2 (트레이닝) 영역과 N2 (테스트) 영역 사이에 임의의 간격이 삽입되었으므로 중복이 없다. 슬라이딩 윈도우 샘플링을 두 영역에 적용하여 신경망에 공급되는 서열을 수득 하였다. H2 (2.5ppm)의 경우, H2 (2.5ppm) 삽입으로부터 200 초 후에 샘플링을 시작 하였다. 이 영역의 입력 시퀀스 역시 슬라이딩 윈도우 방법으로 준비하였다. H2 (10 ppm)의 제조는 H2 (2.5 ppm)의 제조와 완전히 동일하다. 시퀀스의 변동에 집중하기 위해, 파이썬 라이브러리인 NumPy에 포함된 poly1d 함수로부터 계산된 기울기 정보를 빼서 모든 시퀀스의 기울기를 제거하였다.
최적의 입력 시퀀스 길이를 찾기 위해 5 가지 다양한 시간 길이 (즉, T = 128, 256, 512, 1024, 2048 초)를 사용하여 이상 감지 성능을 추정하였다. 4 개의 서로 다른 샘플 중 하나의 Pd 센서를 선택하고 GRU-AE를 개발하였다. 성능을 평가하기 위해, 128, 256, 512, 1024, 2048 초에서 N2 (테스트) 및 H2 (2.5ppm)에 대해 ROC-AUC 점수 점수를 계산하였고 각각 0.533, 0.599, 0.512, 0.544, 0.817이었다. 128, 256, 512, 1024, 2048 초의 N2 (테스트) 및 H2 (10ppm)의 경우 ROC-AUC 점수는 각각 0.557, 0.617, 0.566, 0.593, 0.874이었으므로, 2048 초를 선택하여 모든 학습 과정에 적용하였다.
FFT-GRU-AE의 경우 수학, 과학 및 엔지니어링에 널리 사용되는 오픈 소스 Python 라이브러리 인 Scipy의 fftpack을 사용하여 최적화 된 길이 2,048 및 샘플링 속도 16,384로 각 시퀀스에 1 차원 이산 푸리에 변환을 적용하였다. 계산된 주파수 데이터는 대칭 (양의 주파수 및 음의 주파수)이며, 주파수의 절반 (음의 주파수)이 제거하였으며, 마지막으로, FFT-GRU-AE의 입력은 해당 주파수의 진폭으로 구성된 벡터로 입력 길이는 1024로 설정되어 최적의 시간 시퀀스 길이의 1/2이다.
인공신경망 선정
이 가스 감지 응용 분야의 고성능 접근 방식을 결정하기 위해 Pd 센서에서 ROC-AUC 점수 H2 (2.5ppm) 및 H2 (10ppm)를 딥러닝 알고리즘을 사용하는 다양한 이상 감지 방법에 대해 Pd 센서에서 계산하였다.
(i) 가우시안 혼합 모델(Gaussian mixture model): 정규 데이터는 가우스 분포에서 나온 것으로 가정하므로, 정규 상태에 대한 가우시안은 분포의 모수를 최적화하여 최대 우도 추정에 따라 적합하다. 추정된 가우스 모형에서 정상 상태는 확률이 높고 비정상은 확률이 낮다. 확률로 정상과 비정상을 구별할 수 있다
(ii) 히스토그램 기반 모델(Histogram-based model): 정상에 대한 히스토그램 및 빈(bins)은 각 피처에 대한 정규 분포를 근사하기 위해 계산한 다음, 정상 및 비정상의 빈 데이터 인스턴스가 어떤 빈 데이터 인스턴스에 포함되는지 확인한다. 빈의 높이를 예외 점수로 사용하여 분류하고, 점수가 낮으면 일반 히스토그램 빈에서 데이터가 빈번하지 않으며 이를 예외로 판정한다.
(iii) 클러스터 기반 모델(Cluster-based model): 특정 알고리즘을 사용하여 모든 데이터에서 클러스터를 찾았다. 사용하기 쉬운 것으로 유명한 k-means 알고리즘을 선택하였다. 이 알고리즘은 동일한 클러스터의 데이터 포인트 사이의 거리의 변동을 최소화함으로써 2 개의 클러스터 (정상 및 비정상)가 취득하는 것이다. 클러스터를 사용하여 예측 라벨이 가져온 진정한 레이블과 비교되어 이상 검출 성능이 예상된다. 또한 학습 이전의 시계열의 노이즈 제거도 높은 분류 성능을 얻기위한 일반적인 방법이기 때문에 다양한 노이즈 제거 방법을 전처리의 입력 데이터에 적용하였다.
(iv) 오토인코더(auto-encoder): 변이 오토인코더(variational autoencoder), LSTM(Long-short term memory) 기반 오토인코더, GRU(gated recurrent units) 기반 오토인코더, 합성곱 신경망(convolutional neural network, CNN) 기반 오토인코더, 생성적 적대 신경망(generative adversarial neural network) 등을 테스트 하였다.
인공신경망 구조
N2 패턴을 캡처하기 위하여, 대칭 다운-컴플리트 GRU 기반 오토인코더를 Keras python 심층 학습 라이브러리를 사용하여 개발하였다. 신경망의 시작 부분에 배치 정규화 레이어가 삽입되어 입력이 정규화 된다. 인코딩 레이어는 두 GRU 레이어로 구성되어 각 레이어의 세 번째 차원은 이전 레이어에 비해 절반으로 줄일 수 있다. 잠재적 층(hidden layer)의 길이는 GRU-AE와 FFT-GRU-AE 모두 256이다. 디코딩 층(decoding layer)은 2 개의 GRU layer로 구성되어 있으며, 각 층의 세 번째 차원은 전 층의 2 배이다. GRU-AE 매개 변수의 총수는 36,739,328에서 FFT-GRU-AE 매개 변수의 총수는 21,000,448이다.
Name of layer | Type | Shape | Number of parameters |
Input layer | Input | (None, 1, 2048) | None |
BN layer | BatchNormalization | (None, 1, 2048) | 8,192 |
Encoding layer 1 | GRU | (None, 1, 1024) | 9,443,328 |
Encoding layer 2 | GRU | (None, 1, 512) | 2,362,368 |
Latent layer | Dense | (None, 256) | 131,328 |
Decoding layer 1 | GRU | (None, 1, 512) | 1,182,720 |
Decoding layer 2 | GRU | (None, 1, 1024) | 4,724,736 |
Output layer | GRU | (None, 1, 2048) | 18,886,656 |
Name of layer | Type | Shape | Number of parameters |
Input layer | Input | (None, 1, 2048) | None |
BN layer | BatchNormalization | (None, 1, 2048) | 4,096 |
Encoding layer 1 | GRU | (None, 1, 1024) | 6,297,600 |
Encoding layer 2 | GRU | (None, 1, 512) | 2,362,368 |
Latent layer | Dense | (None, 256) | 131,328 |
Decoding layer 1 | GRU | (None, 1, 512) | 1,182,720 |
Decoding layer 2 | GRU | (None, 1, 1024) | 4,724,736 |
Output layer | GRU | (None, 1, 2048) | 6,297,600 |
인공신경망 학습
모든 학습은 2000 에폭(epochs)동안 수행하였다. 배치 크기는 128에서 Adam optimizer를 사용하여 신경망의 가중치를 최적화하였다. 학습 비율은 10-3에서 1 차 모멘트 추정의 지수 적 감쇠 비율, β1는 0.9,2 차 모멘트 추정의 지수 적 감쇠 비율, β2는 0.999 엡실론은 10-8 (keras 라이브러리의 기본 설정)이었다. N2 (테스트)를 검증 데이터로 사용하고 조기 종료 방식을 채택하였다. 이것은 검증의 손실을 모니터링하고 최근 60 에폭에서 손실이 감소하지 않는 경우에 훈련을 중지하는 것이다. 모든 학습은 NVIDIA GTX 1080 Ti를 사용하여 실시하였으며, 시계열의 연속성에서 불필요한 오류를 줄이기 위해 일괄 샘플은 무작위로 섞어서 수행하였다. 신경망 전체를 최적화하는 백엔드는 Google이 만든 딥러닝 프레임 워크 Tensorflow 이다.
실시예 1. 노이즈 신호 측정
센서 제조 및 측정 데이터 생산에 기재된 방법으로 가스 센싱 챔버에서 노이즈 신호를 측정하고 수집하였다.
그 결과, 도 4a에 기재된 바와 같이 N2 환경의 6 개 센서의 실시간 노이즈 프로파일은 시간에 따라 변동없이 매우 균일하고 안정적인 실시간 기준선을 나타내며, 확대된 프로파일은 6 개의 금속 채널이 몇 mΩ 레벨 (0.001 % 스케일)에서 유사한 잡음 변동을 보이며, 이는 높은 전도성 금속 채널 특성(도 4a, 오른쪽)으로 인한 것이다.
N2 환경에서 2.5ppm에서 100ppm으로 증가하는 분석 물질 (H2) 농도를 갖는 Au, Cu, Mo, Ni 센서의 프로파일의 경우(1 카운트; 1 초). 시스템 내부로 H2를 흐르는 신호 프리/포스트의 눈에 띄는 변화는 높은 H2 농도 (100ppm)에서도 감지 할 수 없는 반면(도 5b), Pt의 경우 신호는 50ppm H2 노출에서 저항 기준선이 감소하기 시작하는 것을 확인하였다(도 5c).
마지막으로, Pd 센서의 경우, 10 ppm H2 노출에서 저항의 기준선 변화가 발생하였으며(도 4d), 2.5-100 ppm H2 노출에 대한 Au, Cu, Mo, Ni, Pt, Pd 센서의 최대 신호 진폭 (Δ/ Rb) 최대 값을 도 5e에 개시하였다.
센서의 신호는 각각 50 ppm 및 10 ppm H2 이상의 Pt 및 Pd 채널에서만 관찰되며, 이는 Pt 및 Pd는 표면 산란 메커니즘과 α에서 β상전이를 이용한 잘 알려진 H2 감지 물질이라는 사전 관찰과 일치한다.
실시예 2. 인공신경망 선정
다양한 종류의 인공신경망에서의 성능을 평가하였으며, 그 결과는 하기 표 3 및 4와 같다.
그 결과, 다양한 인공신경망 학습 모델 중, GRU-기반 오토인코더가 가장 성능이 뛰어난 것을 확인하였다.
실시예 2. 학습 모델 성능 검증
오토인코더의 성능을 재구축 에러율(Reconstruction error)을 하기 수식 1로 계산하여 확인하였다.
여기서 N은 시계열 샘플의 벡터 길이이고, Yi는 주어진 입력 벡터에 대한 시간 i의 샘플 값이며, Yi는 재구축된 출력 값이다.
입력 데이터는 (1) raw 저항값으로 구성된 데이터 집합(GRU-AE 모델용), 및 (2) 고속 푸리에 변환을 수행하여 얻은 주파수의 진폭 벡터로 구성된 데이터 집합(FFT-GRU-AE 모델용)으로 구분하여 구성하였다.
학습한 RE (train N2) 를 제외한 테스트셋 (test N2, test H2) 의 전체 RE 값의 범위 내에서 연속적인 기준값을 적용하여, 최고의 정확도를 내게 하는 기준값을 가지고 모든 금속 센서 경우에 대하여 정확도를 계산하였다.그 결과, 도 8에 기재된 바와 같이 H2 (2.5ppm) 및 H2 (10ppm)에 대한 GRU-AE의 평균 정확도 값은 각각 70.0 ± 3.0 % 및 66.2 ± 8.9 % 이고, H2 (2.5ppm) 및 H2 (10ppm)에 대한 FFT-GRU-AE의 경우 64.4 ± 5.0 %와 70.9 ± 8.3 %로 두 신경망간에 유사한 성능을 나타내는 것을 확인하였다.
H2 (2.5ppm)의 경우, 사용한 신경망에 관계없이 최고 정확도 점수는 Pd (73.8 ± 4.3 %), Cu (73.1 ± 12.0 %), Au (70.2 ± 5.3 %), Ni (69.7 ± 4.7 %), Mo (67.6 ± 3.6 %) 및 Pt (65.5 ± 6.6 %) 순이었다.
H2 (10ppm)의 경우, 최고 정확도 점수는 Mo (84.1 ± 9.0 %), Pd (79.0 ± 6.7 %), Ni (76.8 ± 7.9 %), Cu (73.9 ± 10.6 %), Au (67.8 ± 6.7 %) 및 Pt (60.2 ± 5.3 %) 순이었다.
분류에서 랜덤 추측에 대한 정확도 점수로서 50 %의 기준값을 갖는 경우, 신경망 중 하나 (또는 둘 다)를 사용하여 H2의 숨겨진 신호가 모든 금속에서 추출 될 수 있음을 알 수 있다. 잘 알려진 H2 감지 물질 인 Pt는 이러한 낮은 ppm 값에서 숨겨진 신호와 관련하여 가장 적은 정보를 가지고 있는 것으로 확인 되었다.
실시예 3. 학습 모델 활용
Pd 센서에 헥산(C6H14, hexane)을 포함한 가스를 흘려 주고, 측정한 노이즈 신호를 분석하였다.
그 결과, 도 10에 기재된 바와 같이 5ppm의 헥산을 높은 정확도로 검출 할 수 있다는 것을 확인하였다.
또한, 금속 산화 반도체인 CuO 필름(20nm) 센서에 톨루엔 가스를 흘려 주고, 측정한 노이즈 신호를 분석한 별과, 측정 한계 미만인 0.5 ppm의 톨루엔을 노이즈 신호 분석을 통해 검출할 수 있다는 것을 확인하였다(도 11).
이상으로 본 발명 내용의 특정한 부분을 상세히 기술하였는 바, 당업계의 통상의 지식을 가진 자에게 있어서 이러한 구체적 기술은 단지 바람직한 실시 양태일 뿐이며, 이에 의해 본 발명의 범위가 제한되는 것이 아닌 점은 명백할 것이다. 따라서, 본 발명의 실질적인 범위는 첨부된 청구항들과 그것들의 등가물에 의하여 정의된다고 할 것이다.
Claims (15)
- 센서로부터 검출한계(Limit of Detection, LOD) 이하의 노이즈 신호를 수신하는 신호 수신부;
상기 노이즈 신호를 벡터 데이터로 변환하여 인공신경망에 입력하는 입력부;
인공 신경망을 이용하여 가스 신호의 존재 유무를 판정하는 판단부; 및
가스 신호의 존재 유무를 출력하는 출력부;를 포함하는 가스 신호 검출 장치를 포함하는 가스 신호 검출용 센서로서,
상기 센서의 LOD는 상기 가스 신호 검출 장치가 없는 센서에 비해 낮은 것을 특징으로 하고,
상기 인공 신경망은 GRU(gated recurrent units) 기반 오토인코더인 것을 특징으로 하는 가스 신호 검출용 센서.
- 제1항에 있어서, 상기 센서는 고체센서, 전기화학센서, 적외선 센서 또는 광이온 센서인 것을 특징으로 하는 가스 신호 검출용 센서.
- 삭제
- 제1항에 있어서, 상기 인공 신경망은 가스 신호가 포함되지 않은 노이즈 신호를 학습한 것을 특징으로 하는 가스 신호 검출용 센서.
- 삭제
- 삭제
- 제1항에 있어서, 상기 가스 신호의 존재 유무를 판정하는 판단부는 상기 인공 신경망이 입력된 상기 노이즈 신호를 재구축한 다음, 이를 분석하여 판정하는 것을 특징으로 하는 가스 신호 검출용 센서.
- 제7항에 있어서, 상기 분석은 가스 신호가 포함되지 않은 노이즈 신호의 재구축 에러율과 입력된 노이즈 신호의 재구축 에러율을 비교하여 기준값(cut-off value) 초과일 경우, 가스 신호가 존재하는 것으로 판정하는 것을 특징으로 하는 가스 신호 검출용 센서.
- 삭제
- 삭제
- 삭제
- 삭제
- 컴퓨터 판독 가능한 저장 매체로서, 가스 신호를 검출하는 프로세서에 의해 실행되도록 구성되는 명령을 포함하되,
(a) 센서로부터 검출한계(Limit of Detection, LOD) 이하의 노이즈 신호를 수신하는 단계;
(b) 상기 노이즈 신호를 벡터 데이터로 변환하는 단계; 및
(b) 상기 벡터 데이터를 가스 신호의 존재 유무를 판단할 수 있는 인공 신경망에 입력하여 가스 신호의 존재 유무를 판정하는 단계를 통하여, 가스 신호를 검출하는 프로세서에 의해 실행되도록 구성되는 명령을 포함하는 컴퓨터 판독 가능한 저장 매체로,
상기 인공 신경망은 GRU(gated recurrent units) 기반 오토인코더인 것을 특징으로 하는 컴퓨터 판돈 가능한 저장 매체. - 삭제
- 삭제
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220048009A KR102515084B1 (ko) | 2019-12-16 | 2022-04-19 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190167641A KR20210076438A (ko) | 2019-12-16 | 2019-12-16 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
KR1020220048009A KR102515084B1 (ko) | 2019-12-16 | 2022-04-19 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190167641A Division KR20210076438A (ko) | 2019-12-16 | 2019-12-16 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20220051325A KR20220051325A (ko) | 2022-04-26 |
KR102515084B1 true KR102515084B1 (ko) | 2023-03-29 |
Family
ID=76607108
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190167641A KR20210076438A (ko) | 2019-12-16 | 2019-12-16 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
KR1020220048009A KR102515084B1 (ko) | 2019-12-16 | 2022-04-19 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190167641A KR20210076438A (ko) | 2019-12-16 | 2019-12-16 | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20210216877A1 (ko) |
KR (2) | KR20210076438A (ko) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113807447B (zh) * | 2021-09-23 | 2024-07-26 | 兰州理工大学 | 一种基于fc-sae的多源异构数据融合方法 |
EP4455675A1 (en) * | 2021-12-23 | 2024-10-30 | Seegene, Inc. | Method for predicting performance of detection device |
KR20230126168A (ko) * | 2022-02-22 | 2023-08-29 | 주식회사 마키나락스 | 오토 인코더 모델의 선택 및 최적화 방법 |
CN115081331A (zh) * | 2022-06-30 | 2022-09-20 | 重庆邮电大学 | 一种基于状态参数重构误差的风电机组运行状态异常检测方法 |
CN115345527B (zh) * | 2022-10-18 | 2023-01-03 | 成都西交智汇大数据科技有限公司 | 化学实验异常操作检测方法、装置、设备及可读存储介质 |
KR102654240B1 (ko) * | 2022-10-26 | 2024-04-04 | 주식회사 에이아이네이션 | 딥러닝, 머신러닝 및 통계 모델을 이용한 산업설비 이상 감지 장치 및 시스템 |
CN115876475B (zh) * | 2023-02-06 | 2023-06-09 | 山东大学 | 一种故障诊断方法、系统、设备及存储介质 |
CN116146190B (zh) * | 2023-02-24 | 2024-07-19 | 西南石油大学 | 一种基于双向流量测量的井下漏失或溢流预警装置及方法 |
KR20240149581A (ko) | 2023-04-06 | 2024-10-15 | 한국생산기술연구원 | 압축센싱 및 동적신경망 기반 이상 신호 검출 시스템 및 그 방법 |
CN116499607B (zh) * | 2023-06-27 | 2023-09-08 | 之江实验室 | 一种光纤传感信号降噪方法、装置和存储介质 |
CN117407663B (zh) * | 2023-12-15 | 2024-03-26 | 山东科技大学 | 一种基于卷积神经网络的全波形数据去噪方法 |
CN118345334B (zh) * | 2024-06-17 | 2024-08-23 | 华兴源创(成都)科技有限公司 | 膜层厚度的校正方法、装置、计算机设备 |
-
2019
- 2019-12-16 KR KR1020190167641A patent/KR20210076438A/ko active Application Filing
-
2020
- 2020-12-14 US US17/120,914 patent/US20210216877A1/en active Pending
-
2022
- 2022-04-19 KR KR1020220048009A patent/KR102515084B1/ko active IP Right Grant
Non-Patent Citations (2)
Title |
---|
Chuxu Zhang et al., "A Deep Neural Network for Unsupervised Anomaly Detection and Diagnosis in Multivariate Time Series Data," arXiv:1811.08055v1 [cs.LG] (2018.11.20.)* |
이대식 외 6명, "지능형 후각센서," ETRI Electronics and Telecommunications Trends (2019.08.01.)* |
Also Published As
Publication number | Publication date |
---|---|
KR20220051325A (ko) | 2022-04-26 |
US20210216877A1 (en) | 2021-07-15 |
KR20210076438A (ko) | 2021-06-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102515084B1 (ko) | 딥러닝 기반 이상징후 감지 기법을 이용한 노이즈 분석 기반 초고감도 표적신호 검출 방법 및 시스템 | |
US11428658B2 (en) | Gas sensing device and method for operating a gas sensing device | |
Steffen et al. | A comparison of data quality control protocols for atmospheric mercury speciation measurements | |
Wilson et al. | Array optimization and preprocessing techniques for chemical sensing microsystems | |
CN105466927B (zh) | 一种比浊法异常反应曲线的识别、修正及报警方法 | |
Li et al. | Prediction of egg storage time and yolk index based on electronic nose combined with chemometric methods | |
Lambert et al. | Nondetects, detection limits, and the probability of detection | |
Barriault et al. | Classification and regression of binary hydrocarbon mixtures using single metal oxide semiconductor sensor with application to natural gas detection | |
CN116128260B (zh) | 基于数据样本的重点企业环境分析方法 | |
CN102944583A (zh) | 基于漂移补偿的金属氧化物气体传感器阵列浓度检测方法 | |
US11635416B2 (en) | Gas sensing device and method for operating a gas sensing device | |
US11971397B2 (en) | Gas sensing device for sensing one or more gases in a mixture of gases | |
Li et al. | Optimization of the mixed gas detection method based on neural network algorithm | |
Das et al. | Signal processing for single biomolecule identification using nanopores: a review | |
Palaparthy et al. | Hybrid pattern recognition for rapid explosive sensing with comprehensive analysis | |
Henriquez et al. | Low‐Power, Multi‐Transduction Nanosensor Array for Accurate Sensing of Flammable and Toxic Gases | |
Das et al. | Intelligent quantification of picomolar protein concentration in serum by functionalized nanopores | |
Di Lecce et al. | Discriminating gaseous emission patterns in low-cost sensor setups | |
Miranda et al. | Automatic detection of indoor air pollution-related activities using metal-oxide gas sensors and the temporal intrinsic dimensionality estimation of data | |
Neumann et al. | Nanomechanical mass measurements through feature-based time series clustering | |
Saeed et al. | Experimental use of electronic nose for analysis of volatile organic compound (VOC) | |
Kuchmenko et al. | Substantiation of the operating life of gas piezosensors in detection of vapors of organic compounds | |
Zou et al. | Prediction of the effects of process informatics parameters on platinum, palladium, and gold-loaded tin oxide sensors with an artificial neural network | |
Kriz et al. | Unveiling the Smell Inspector and Machine Learning Methods for Smell Recognition | |
Barriault et al. | Quantitative Natural Gas Discrimination For Pipeline Leak Detection Through Time-Series Analysis of an MOS Sensor Response |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A107 | Divisional application of patent | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |