TW202040439A - 用以預測血糖水平的循環神經網路以及系統 - Google Patents

用以預測血糖水平的循環神經網路以及系統 Download PDF

Info

Publication number
TW202040439A
TW202040439A TW109108340A TW109108340A TW202040439A TW 202040439 A TW202040439 A TW 202040439A TW 109108340 A TW109108340 A TW 109108340A TW 109108340 A TW109108340 A TW 109108340A TW 202040439 A TW202040439 A TW 202040439A
Authority
TW
Taiwan
Prior art keywords
input
radiation data
infrared radiation
output
term memory
Prior art date
Application number
TW109108340A
Other languages
English (en)
Inventor
埃勒姆 薩克易
喬治斯 喬治亞迪斯
劉留
巍然 鄧
Original Assignee
南韓商三星電子股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 南韓商三星電子股份有限公司 filed Critical 南韓商三星電子股份有限公司
Publication of TW202040439A publication Critical patent/TW202040439A/zh

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/145—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/14532—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue for measuring glucose, e.g. by tissue impedance measurement
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/145—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203—Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235—Details of waveform analysis
    • A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235—Details of waveform analysis
    • A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271—Specific aspects of physiological measurement analysis
    • A61B5/7275—Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Theoretical Computer Science (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Psychiatry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physiology (AREA)
  • Optics & Photonics (AREA)
  • Emergency Medicine (AREA)
  • Fuzzy Systems (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Databases & Information Systems (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本發明提供一種預測血糖水平的循環神經網路。循環神經網路包括第一長短期記憶（LSTM）網路及第二長短期記憶網路。第一長短期記憶網路可包括用以接收近紅外線（NIR）輻射資料的輸入，且包括輸出。第二長短期記憶網路可包括：輸入，用以接收第一長短期記憶網路的輸出；以及輸出，用以基於輸入至第一長短期記憶網路的近紅外線輻射資料而輸出血糖水平資料。

Description

用以預測血糖水平的循環神經網路以及系統
本文中所揭露的標的是有關於神經網路。更具體而言，本文中所揭露的標的是有關於一種基於所接收的近紅外線輻射資料而預測血糖水平的循環神經網路。
定期監測及維持血糖水平對於預防由糖尿病引起的併發症可為至關重要的。大多數商業上可獲得的血糖量測裝置是侵入性的或微創性的，並且是不方便的且可能會令人疼痛。近紅外線（near-infrared，NIR）輻射的偵測可用作血糖水平的指標，且可被認為是非侵入性方法的資料來源。
示例性實施例提供一種用以預測血糖水平的循環神經網路（recurrent neural network），其可包括第一長短期記憶（long short-term memory，LSTM）網路及第二LSTM。所述第一長短期記憶（LSTM）網路可包括用以接收近紅外線（NIR）輻射資料的輸入且包括輸出。所輸入的所述NIR輻射資料可包括多頻道NIR輻射資料。在一個實施例中，所輸入的所述NIR輻射資料可包括第一泛音（overtone）NIR輻射資料。所述第二LSTM網路可包括：輸入，用以接收所述第一LSTM網路的所述輸出；以及輸出，用以基於輸入至所述第一LSTM網路的所述NIR輻射資料而輸出血糖水平資料。在一個實施例中，所述循環神經網路可包括與所述第一LSTM網路的所述輸入耦接的去雜訊濾波器（denoiser filter），所述去雜訊濾波器接收所述NIR輻射資料並將經去雜訊的NIR輻射資料輸出至所述第一LSTM網路的所述輸入。在一個實施例中，所述去雜訊濾波器可包括薩維茨基-戈萊濾波器（Savitzky-Golay filter）。
示例性實施例提供一種用以預測血糖水平的系統，所述系統可包括輸入介面及循環神經網路。所述輸入介面可接收多頻道近紅外線（NIR）輻射資料。在一個實施例中，所輸入的所述NIR輻射資料可包括第一泛音NIR輻射資料。所述循環神經網路可耦接至所述輸入介面，且可包括第一長短期記憶（LSTM）網路及第二LSTM網路。所述第一長短期記憶（LSTM）網路可包括用以接收近紅外線（NIR）輻射資料的輸入且包括輸出。所述第二LSTM網路可包括：輸入，用以接收所述第一LSTM網路的所述輸出；以及輸出，用以基於輸入至所述第一LSTM網路的所述NIR輻射資料而輸出血糖水平資料。在一個實施例中，所述循環神經網路可包括與所述第一LSTM網路的所述輸入耦接的去雜訊濾波器，所述去雜訊濾波器接收所述NIR輻射資料並將經去雜訊的NIR輻射資料輸出至所述第一LSTM網路的所述輸入。在一個實施例中，所述去雜訊濾波器可包括薩維茨基-戈萊濾波器。
在以下詳細說明中，闡述眾多具體細節來提供對本發明的透徹理解。然而，熟習此項技術者應理解，無需該些具體細節亦可實踐所揭露的各個態樣。在其他情形中，未詳細闡述眾所周知的方法、程序、組件及電路，以免使本文中所揭露的標的模糊不清。
本說明書通篇中所提及的「一個實施例（one embodiment）」或「實施例（an embodiment）」意指結合所述實施例所闡述的特定特徵、結構或特性可包含於本文中所揭露的至少一個實施例中。因此，在本說明書通篇中各處出現的片語「在一個實施例中（in one embodiment）」或「在實施例中（in an embodiment）」或者「根據一個實施例（according to one embodiment）」（或具有相似含義的其他片語）可能未必均指同一實施例。此外，在一或多個實施例中，特定特徵、結構或特性可採用任何適合的方式進行組合。就此而言，本文所用的詞「示例性（exemplary）」意指「用作實例、例子或例示」。本文被闡述為「示例性」的任何實施例不應被視為與其他實施例相較必定是較佳的或有利的。另外，在一或多個實施例中，特定特徵、結構或特性可採用任何適合的方式進行組合。此外，根據本文中的論述的上下文而定，單數用語可包括對應的複數形式且複數用語可包括對應的單數形式。相似地，帶連字符的用語（例如，「二維（two-dimensional）」、「預定（pre-determined）」、「畫素專有（pixel-specific）」等）偶爾可與對應的未帶連字符的版本（例如，「二維（two dimensional）」、「預定（predetermined）」、「畫素專有（pixel specific）」等）可互換地使用，且大寫詞條（例如，「計數器時脈（Counter Clock）」、「列選擇（Row Select）」、「PIXOUT」等）可與對應的非大寫版本（例如，「計數器時脈（counter clock）」、「列選擇（row select）」、「pixout」等）可互換地使用。此種偶爾的可互換使用不應被視為彼此不一致。
此外，視本文中的論述的上下文而定，單數用語可包括對應的複數形式且複數用語可包括對應的單數形式。更應注意，本文中所示及所論述的各個圖（包括組件圖）僅是出於例示目的，而並非按比例繪製。相似地，示出各種波形及時序圖僅是用於例示目的。舉例而言，為清晰起見，可相對於其他元件誇大元件中的一些元件的尺寸。此外，在適當情況下，在各個圖中重複使用參考編號來指示對應的元件及/或類似元件。
本文所用術語僅是用於闡述一些示例性實施例的目的，而非旨在限制所主張的標的。除非上下文另外清楚地指明，否則本文所用單數形式「一（a、an）」及「所述（the）」旨在亦包括複數形式。更應理解，當在本說明書中使用用語「包括（comprises及/或comprising）」時，是指明所陳述特徵、整數、步驟、操作、元件及/或組件的存在，但不排除一或多個其他特徵、整數、步驟、操作、元件、組件及/或其群組的存在或添加。
應理解，當將元件或層稱為位於另一元件或層上、「連接至」或「耦接至」另一元件或層時，所述元件或層可直接位於所述另一元件或層上、直接連接或耦接至所述另一元件或層，或者可存在中間元件或層。對比之下，當將元件稱為「直接位於」另一元件或層上、「直接連接至」或「直接耦接至」另一元件或層時，不存在中間元件或層。在通篇中，相同的編號指代相同的元件。本文所用的用語「及/或」包括相關聯列舉項中的一或多者的任意及所有組合。
本文所用用語「第一（first）」、「第二（second）」等被用作位於所述用語後面的名詞的標籤，且除非明確定義，否則所述用語並不暗示任何類型的次序（例如，空間、時間、邏輯等）。此外，在二或更多個圖中可使用相同的參考編號來指代具有相同或相似的功能的部件、組件、區塊、電路、單元或模組。然而，此種用法僅是為了使例示簡潔且易於論述起見；所述用法並不暗示此類組件或單元的構造細節或架構細節在所有實施例中是相同的或者此類通常提及的部件/模組是實施本文所揭露示例性實施例中的一些的唯一方式。
除非另外定義，否則本文所用所有用語（包括技術及科學用語）的含義均與本標的所屬技術中具有通常知識者所通常理解的含義相同。更應理解，用語（例如在常用詞典中所定義的用語）應被解釋為具有與其在相關技術的上下文中的含義一致的含義，且除非在本文中明確定義，否則不應將其解釋為具有理想化或過於正式的意義。
本文所用用語「模組」是指被配置成結合模組提供本文所述功能的軟體、韌體及/或硬體的任何組合。軟體可被實施為軟體封裝、碼及/或指令集或指令，且在本文所述任何實施方案中所用的用語「硬體」可例如以單獨形式或以任何組合的形式包括硬佈線電路系統、可程式化電路系統、狀態機電路系統及/或儲存由可程式化電路系統執行的指令的韌體。各模組可共同地或單獨地實施為形成較大系統（例如但不限於積體電路（integrated circuit，IC）、系統晶片（system on-chip，SoC）等等）一部分的電路系統。本文所揭露的各種組件及/或功能區塊可被實施為可包括軟體、韌體及/或硬體的模組，所述軟體、韌體及/或硬體結合所述各種組件及/或功能區塊來提供本文所述的功能。
基於NIR輻射資料而預測血糖水平可被公式化為迴歸問題（regression problem），其中NIR資料（向量時間序列）可用作輸入，且血糖水平（標量時間序列）是所預測輸出。NIR資料可作為多頻帶資料及/或多頻道資料來收集。在每一時間戳，一個NIR資料輸入向量對應於所預測的輸出血糖水平。
可收集訓練資料（配對的NIR資料與對應血糖水平）來用於訓練循環神經網路。通常，訓練資料可能很難收集，且數量可能有限。先前，已使用偏最小平方（partial least square，PLS）迴歸將神經網路擬合至訓練資料。PLS可對乾淨的資料（無雜訊）很有效；然而，對於包含雜訊的真實世界資料（real-world data），PLS可能表現不佳。另外，PLS迴歸未明確地將先前迴歸的資料中所包含的資訊考量在內，藉此使得基於趨勢的預測（例如血糖水平預測）不太可靠。
本文中所揭露的標的提供一種用於葡萄糖水平預測的基於深度學習的循環解決方案，其使用包括二個堆疊式長短期記憶（LSTM）網路的迴歸器網路配置。在一個實施例中，出於去雜訊的目的，可在迴歸網路的輸入處使用自動編碼器（autoencoder）。在另一實施例中，作為自動編碼器的補充或替代方案，可使用去雜訊濾波器。在另一實施例中，若自動編碼器耦接至去雜訊濾波器的輸入，則自動編碼器接收NIR輻射資料並輸出與NIR輻射資料對應的資料編碼（data coding），其中去雜訊濾波器接收與NIR輻射資料對應的資料編碼。另外，可藉由對訓練資料進行內插來擴充訓練資料，以提供可與在此揭露的迴歸器網路配置一起使用的經增強訓練資料集。
圖1繪示根據本文中所揭露的標的用以預測血糖水平的系統100的第一示例性實施例的方塊圖。在一個實施例中，系統100可被配置為循環神經網路，其包括第一長短期記憶（LSTM）網路101及第二LSTM網路102。第一LSTM網路101接收NIR輻射資料X ，NIR輻射資料X 可為多頻帶NIR資料及/或多頻道NIR資料。第一LSTM網路101的輸出被輸入至第二LSTM網路102。在103處，將第一LSTM網路101的胞元狀態的一部分保留於第一LSTM網路101中。相似地，在104處，將第二LSTM網路102的胞元狀態的一部分保留於第二LSTM網路102中。在此，第二LSTM網絡102基於輸入到第一LSTM網絡101的NIR輻射資料而輸出血糖水平資料。第二LSTM網路102的輸出是丟棄（dropout）105的輸入。丟棄105可用作正則化項（regularizer）。在訓練期間，丟棄105可將啟動（activation）的隨機子集設定為零，以幫助網路更好地一般化（generalize）。丟棄105的輸出被輸入至全連接層FC 106，全連接層FC 106可用於執行葡萄糖水平的迴歸。FC 106的輸出Y 是對與所輸入NIR輻射資料對應的血糖水平的單維（single-dimensional）預測（即，數值）。在一個實施例中，所輸入NIR輻射資料X 的維度是131，第一層的維度小於41，且第二層的維度小於20。
圖2是根據本文中所揭露的標的的系統100的第一示例性實施例的另一方塊圖。圖2是繪示為在時域中展開的系統100。最左邊的系統100示出處於時間
Figure 02_image001
的系統100。系統100的輸入是向量
Figure 02_image003
，且輸出是向量
Figure 02_image005
。圖2中心的系統100示出處於時間
Figure 02_image007
的系統100。系統100的輸入是
Figure 02_image009
，且輸出是
Figure 02_image011
。圖2的最右邊的系統100示出處於時間
Figure 02_image013
的系統100。系統100的輸入是
Figure 02_image015
，且輸出是
Figure 02_image017
。在103處，將處於時間
Figure 02_image019
的第一LSTM網路101的胞元狀態的一部分保留於處於時間
Figure 02_image020
的第一LSTM網路101中，且將處於時間
Figure 02_image007
的第一LSTM網路101的胞元狀態的一部分保留於處於時間
Figure 02_image021
的第一LSTM網路101中。相似地，在104處，將處於時間
Figure 02_image022
的第二LSTM網路102的胞元狀態的一部分保留於處於時間
Figure 02_image007
的第二LSTM網路102中，且將處於時間
Figure 02_image007
的第二LSTM網路102的胞元狀態的一部分保留於處於時間
Figure 02_image021
的第二LSTM網路102中。
圖3繪示根據本文中所揭露的標的的LSTM網路300的示例性實施例的方塊圖。第一LSTM網路101及第二LSTM網路102可被配置為LSTM網路300的示例性實施例。LSTM網路300可包括三個閘層301至303及
Figure 02_image023
層304。
閘層301用作遺忘閘層（forget gate layer），以決定胞元狀態
Figure 02_image025
中何種資訊將被遺忘。遺忘閘層301可包括σ（sigmoid）層，其接收LSTM網路300的前一輸出
Figure 02_image027
及當前輸入
Figure 02_image029
。遺忘閘層301輸出
Figure 02_image030
，對於前一胞元狀態
Figure 02_image032
中的每一值，
Figure 02_image030
包括介於0與1之間的值
Figure 02_image030
，其中0代表前一胞元狀態的值的完全遺忘動作，且1代表前一胞元狀態的值的完全保留。由乘法器305將輸出
Figure 02_image030
的值與前一胞元狀態
Figure 02_image034
的值相乘。可如下確定輸出
Figure 02_image030
Figure 02_image035
（1） 其中
Figure 02_image037
是輸入閘單元（input gate unit）的σ函數，
Figure 02_image039
是第一隱藏層（即，第一LSTM網路101）的大小乘以輸入特徵大小
Figure 02_image041
，
Figure 02_image043
是第一隱藏層的大小的平方，且
Figure 02_image045
是與遺忘閘單元相關聯的常數。在一個實施例中，第一隱藏層的大小可為41。
閘層302用作輸入閘層，以決定在當前胞元狀態
Figure 02_image047
中將儲存何種新資訊。輸入閘層302可包括σ層，其接收LSTM網路300的前一輸出
Figure 02_image049
及當前輸入
Figure 02_image051
並輸出向量
Figure 02_image052
，即
Figure 02_image054
（2） 其中
Figure 02_image037
是輸入閘單元的σ函數，
Figure 02_image056
是第一隱藏層（即，第一LSTM網路101）的大小乘以輸入特徵大小
Figure 02_image041
= 131，
Figure 02_image058
是第一隱藏層的大小的平方，且
Figure 02_image059
是偏差值（bias value）。
層304接收LSTM網路300的前一輸出
Figure 02_image061
及當前輸入
Figure 02_image062
作為輸入。層304輸出中間胞元狀態向量
Figure 02_image063
，即
Figure 02_image065
（3） 其中
Figure 02_image067
是σ函數，
Figure 02_image069
是權重的可學習參數矩陣，其是第一隱藏層（即，第一LSTM網路101）的大小乘以輸入特徵大小
Figure 02_image071
= 131，
Figure 02_image072
是第一隱藏層的大小的平方，且
Figure 02_image074
是偏差值常數。
由乘法器306將輸入閘層302的輸出
Figure 02_image076
與自層304輸出的中間胞元狀態向量
Figure 02_image077
相乘。由求和器307將乘法器305的輸出與乘法器306的輸出相加，以形成LSTM網路300的當前胞元狀態
Figure 02_image078
，即
Figure 02_image079
（4）
閘層303用作輸出閘，以確定將自LSTM網路300輸出何種輸出
Figure 02_image081
。輸出閘層303接收LSTM 300的前一輸出
Figure 02_image083
及當前輸入
Figure 02_image084
作為輸入，並輸出
Figure 02_image085
，即
Figure 02_image087
（5） 其中
Figure 02_image089
是輸入閘單元的σ函數，
Figure 02_image090
是第一隱藏層（即，LSTM網路101）的大小乘以輸入特徵大小
Figure 02_image092
= 131，
Figure 02_image093
是第一隱藏層的大小的平方，且
Figure 02_image095
是偏差值常數。
對胞元狀態
Figure 02_image097
應用
Figure 02_image099
函數。由乘法器308將輸出閘層303的輸出
Figure 02_image100
與
Figure 02_image099
函數的輸出相乘以形成輸出
Figure 02_image101
，輸出
Figure 02_image101
是與啟動函數（activation function）的輸出特徵圖（output feature map）相似的經編碼表示，即
Figure 02_image102
（6）
為了訓練系統100，可使用具有配對的NIR資料與對應血糖水平的訓練資料。可對訓練資料進行預處理以提供更好品質的資料來擬合被純資料驅動的系統100的模型。另外，可將原始NIR資料去雜訊以防止系統100過擬合雜訊。在一個實施例中，可使用薩維茨基-戈萊濾波器來對NIR資料進行平滑。在又一實施例中，出於訓練目的，可提供正規化（normalization）以提供更好的資料分佈並提供更容易的梯度下降（gradient descent）。可在反向傳播（backpropagation）期間使用隨機梯度下降（stochastic gradient descent，SGD）來最佳化L2損失函數。圖4繪示系統100的一部分，其中資料正規化器107及去雜訊器108是系統100的一部分。訓練資料可包括131個頻道，且可包括第一泛音資料。第一LSTM網路101的輸出是h1個頻道，且第二LSTM網路102的輸出是h2個頻道。其中h1以及h2為正整數。
在一個實施例中，為了藉由增加訓練資料集的大小及種類來進一步改良模型一般化的效能及能力，可藉由對NIR資料與血糖水平對（NIR data and blood glucose level pair）進行內插來擴充所輸入訓練資料。
如熟習此項技術者將認識到，可在廣大範圍的應用中對本文所述創新概念進行修改及變化。因此，所主張標的的範圍不應僅限於以上所論述的任何具體示例性教示內容，而是由以下申請專利範圍來界定。
100:系統 101:第一長短期記憶（LSTM）網路/LSTM網路 102:第二LSTM網路 103、104:操作 105:丟棄 106:全連接層FC 107:資料正規化器 108:去雜訊器 300:LSTM網路 301:閘層/遺忘閘層 302:閘層/輸入閘層 303:閘層 304:
Figure 02_image104
層/層 305、306、308:乘法器 307:求和器
Figure 02_image106
:前一胞元狀態
Figure 02_image108
:當前胞元狀態
Figure 02_image110
、
Figure 02_image111
、
Figure 02_image112
、Y 、
Figure 02_image113
、
Figure 02_image114
、
Figure 02_image115
:輸出
Figure 02_image116
:LSTM網路的前一輸出
Figure 02_image117
:向量
Figure 02_image118
、σ:函數X:近紅外線（NIR）輻射資料
Figure 02_image119
、
Figure 02_image121
、
Figure 02_image122
:輸入
在以下部分中，將參照各圖中所示的示例性實施例來闡述本文中所揭露的標的的各個態樣，在各圖中： 圖1繪示根據本文中所揭露的標的用以預測血糖水平的系統的第一示例性實施例的方塊圖。 圖2是根據本文中所揭露的標的的系統的第一示例性實施例的另一方塊圖。 圖3繪示根據本文中所揭露的標的的LSTM網路的示例性實施例的方塊圖。 圖4繪示圖1中所示系統的一部分，其中資料正規化器（data normalizer）及去雜訊器是所述系統的一部分。
100:系統
101:第一長短期記憶(LSTM)網路/LSTM網路
102:第二LSTM網路
103、104:操作
105:丟棄
106:全連接層FC
X:近紅外線(NIR)輻射資料
Y:輸出

Claims (16)

  1. 一種用以預測血糖水平的循環神經網路，所述循環神經網路包括： 第一長短期記憶（LSTM）網路，包括用以接收近紅外線（NIR）輻射資料的輸入且包括輸出；以及 第二長短期記憶網路，包括：輸入，用以接收所述第一長短期記憶網路的所述輸出；以及輸出，用以基於輸入至所述第一長短期記憶網路的所述近紅外線輻射資料而輸出血糖水平資料。
  2. 如請求項1所述的循環神經網路，更包括與所述第一長短期記憶網路的所述輸入耦接的去雜訊濾波器，所述去雜訊濾波器接收所述近紅外線輻射資料並將經去雜訊的所述近紅外線輻射資料輸出至所述第一長短期記憶網路的所述輸入。
  3. 如請求項2所述的循環神經網路，其中所述去雜訊濾波器包括薩維茨基-戈萊濾波器。
  4. 如請求項2所述的循環神經網路，更包括與所述去雜訊濾波器的輸入耦接的自動編碼器，所述自動編碼器接收所述近紅外線輻射資料並輸出與所述近紅外線輻射資料對應的資料編碼， 其中所述去雜訊濾波器接收與所述近紅外線輻射資料對應的所述資料編碼。
  5. 如請求項1所述的循環神經網路，更包括與所述第一長短期記憶網路的所述輸入耦接的自動編碼器，所述自動編碼器接收所述近紅外線輻射資料並將經去雜訊的所述近紅外線輻射資料輸出至所述第一長短期記憶網路的所述輸入。
  6. 如請求項1所述的循環神經網路，其中所輸入的所述近紅外線輻射資料包括多頻道近紅外線輻射資料。
  7. 如請求項6所述的循環神經網路，其中所輸入的所述近紅外線輻射資料包括131個頻道。
  8. 如請求項1所述的循環神經網路，其中所輸入的所述近紅外線輻射資料包括第一泛音近紅外線輻射資料。
  9. 一種用以預測血糖水平的系統，所述系統包括： 輸入介面，用以接收近紅外線（NIR）輻射資料；以及 循環神經網路，耦接至所述輸入介面，所述循環神經網路包括： 第一長短期記憶（LSTM）網路，包括用以接收所述近紅外線輻射資料的輸入且包括輸出；以及 第二長短期記憶網路，包括：輸入，用以接收所述第一長短期記憶網路的所述輸出；以及輸出，用以基於輸入至所述第一長短期記憶網路的所述近紅外線輻射資料而輸出血糖水平資料。
  10. 如請求項9所述的系統，更包括與所述第一長短期記憶網路的所述輸入耦接的去雜訊濾波器，所述去雜訊濾波器接收所述近紅外線輻射資料並將經去雜訊的所述近紅外線輻射資料輸出至所述第一長短期記憶網路的所述輸入。
  11. 如請求項10所述的系統，其中所述去雜訊濾波器包括薩維茨基-戈萊濾波器。
  12. 如請求項10所述的系統，更包括與所述去雜訊濾波器的輸入耦接的自動編碼器，所述自動編碼器接收所述近紅外線輻射資料並輸出與所述近紅外線輻射資料對應的資料編碼， 其中所述去雜訊濾波器接收與所述近紅外線輻射資料對應的所述資料編碼。
  13. 如請求項9所述的系統，更包括與所述第一長短期記憶網路的所述輸入耦接的自動編碼器，所述自動編碼器接收所述近紅外線輻射資料並將經去雜訊的所述近紅外線輻射資料輸出至所述第一長短期記憶網路的所述輸入。
  14. 如請求項9所述的系統，其中所輸入的所述近紅外線輻射資料包括多頻道近紅外線輻射資料。
  15. 如請求項14所述的系統，其中所輸入的所述近紅外線輻射資料包括131個頻道。
  16. 如請求項9所述的系統，其中所輸入的所述近紅外線輻射資料包括第一泛音近紅外線輻射資料。
TW109108340A 2019-03-15 2020-03-13 用以預測血糖水平的循環神經網路以及系統 TW202040439A (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962819493P 2019-03-15 2019-03-15
US62/819,493 2019-03-15
US16/402,204 US20200293882A1 (en) 2019-03-15 2019-05-02 Near-infrared spectroscopy (nir) based glucose prediction using deep learning
US16/402,204 2019-05-02

Publications (1)

Publication Number Publication Date
TW202040439A true TW202040439A (zh) 2020-11-01

Family

ID=69137740

Family Applications (1)

Application Number Title Priority Date Filing Date
TW109108340A TW202040439A (zh) 2019-03-15 2020-03-13 用以預測血糖水平的循環神經網路以及系統

Country Status (5)

Country Link
US (1) US20200293882A1 (zh)
EP (1) EP3708080A1 (zh)
KR (1) KR20200110606A (zh)
CN (1) CN111685775A (zh)
TW (1) TW202040439A (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110459324B (zh) * 2019-06-27 2023-05-23 平安科技（深圳）有限公司 基于长短期记忆模型的疾病预测方法、装置和计算机设备
US20230355109A1 (en) * 2020-09-25 2023-11-09 The Trustees Of Dartmouth College System and method to detect the presence and progression of diseases characterized by systemic changes in the state of the vasculature

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10085642B2 (en) * 2010-06-04 2018-10-02 Mclean Hospital Corporation Multi-modal imaging of blood flow
US9633306B2 (en) * 2015-05-07 2017-04-25 Siemens Healthcare Gmbh Method and system for approximating deep neural networks for anatomical object detection
US10922604B2 (en) * 2016-09-09 2021-02-16 Cylance Inc. Training a machine learning model for analysis of instruction sequences
AU2016432163A1 (en) * 2016-12-14 2019-04-18 Landmark Graphics Corporation Automatic classification of drilling reports with deep natural language processing
US10241684B2 (en) * 2017-01-12 2019-03-26 Samsung Electronics Co., Ltd System and method for higher order long short-term memory (LSTM) network
US10980484B2 (en) * 2017-03-27 2021-04-20 Samsung Electronics Co., Ltd. Method of enabling feature extraction for glucose monitoring using near-infrared (NIR) spectroscopy
JP2019056957A (ja) * 2017-09-19 2019-04-11 キヤノン株式会社 情報処理装置、情報処理方法、コンピュータプログラム、及び記憶媒体
CN107961007A (zh) * 2018-01-05 2018-04-27 重庆邮电大学 一种结合卷积神经网络和长短时记忆网络的脑电识别方法

Also Published As

Publication number Publication date
EP3708080A1 (en) 2020-09-16
KR20200110606A (ko) 2020-09-24
CN111685775A (zh) 2020-09-22
US20200293882A1 (en) 2020-09-17

Similar Documents

Publication Publication Date Title
De Brouwer et al. GRU-ODE-Bayes: Continuous modeling of sporadically-observed time series
Singh et al. Deep ConvLSTM with self-attention for human activity decoding using wearable sensors
US11625577B2 (en) Method and apparatus for neural network quantization
Yu Stability
US20190034497A1 (en) Data2Data: Deep Learning for Time Series Representation and Retrieval
US10238337B2 (en) In mouth wearables for environmental safety
US20180089586A1 (en) Artificial neural networks for human activity recognition
CN111370084B (zh) 基于BiLSTM的电子健康记录表示学习方法及系统
TW202040439A (zh) 用以預測血糖水平的循環神經網路以及系統
US20210012902A1 (en) Representation learning for wearable-sensor time series data
CN109698017B (zh) 医疗病历数据生成方法及装置
Fadlullah et al. On delay-sensitive healthcare data analytics at the network edge based on deep learning
US20210201117A1 (en) Method and apparatus with neural network parameter quantization
CN111387936B (zh) 一种睡眠阶段识别方法、装置及设备
Chiang et al. Offline and online learning techniques for personalized blood pressure prediction and health behavior recommendations
Simoncelli Optimal estimation in sensory systems
Shah et al. Evaluating contrastive learning on wearable timeseries for downstream clinical outcomes
US20220240864A1 (en) System and method for wearable medical sensor and neural network based diabetes analysis
CN117012388A (zh) 一种糖尿病血糖预测方法、装置、电子设备及存储介质
CN112270996B (zh) 一种可用于多变量医疗传感数据流的分类方法
CN116530952A (zh) 基于智能穿戴设备的生命安全监测系统及其方法
Rojas-Muñoz et al. On-line evaluation and monitoring of security features of an RO-based PUF/TRNG for IoT devices
Cofré et al. Large deviations properties of Maximum entropy Markov chains from spike trains
US20210383194A1 (en) Using negative evidence to predict event datasets
Zhang et al. Drawing from hats by noise-based logic