TW201618509A - 用於基於閾値的信號編碼的非同步脈衝調制 - Google Patents

用於基於閾値的信號編碼的非同步脈衝調制 Download PDF

Info

Publication number
TW201618509A
TW201618509A TW104116147A TW104116147A TW201618509A TW 201618509 A TW201618509 A TW 201618509A TW 104116147 A TW104116147 A TW 104116147A TW 104116147 A TW104116147 A TW 104116147A TW 201618509 A TW201618509 A TW 201618509A
Authority
TW
Taiwan
Prior art keywords
signal
output signal
threshold
input signal
filter
Prior art date
Application number
TW104116147A
Other languages
English (en)
Inventor
庸永春
Original Assignee
高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 高通公司 filed Critical 高通公司
Publication of TW201618509A publication Critical patent/TW201618509A/zh

Links

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M3/00Conversion of analogue values to or from differential modulation
    • H03M3/30Delta-sigma modulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M3/00Conversion of analogue values to or from differential modulation
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M3/00Conversion of analogue values to or from differential modulation
    • H03M3/02Delta modulation, i.e. one-bit differential modulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00Baseband systems
    • H04L25/02Details ; arrangements for supplying electrical power along data transmission lines
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00Baseband systems
    • H04L25/02Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/06Dc level restoring means; Bias distortion correction ; Decision circuits providing symbol by symbol detection
    • H04L25/067Dc level restoring means; Bias distortion correction ; Decision circuits providing symbol by symbol detection providing soft decisions, i.e. decisions together with an estimate of reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00Baseband systems
    • H04L25/02Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/06Dc level restoring means; Bias distortion correction ; Decision circuits providing symbol by symbol detection
    • H04L25/069Dc level restoring means; Bias distortion correction ; Decision circuits providing symbol by symbol detection by detecting edges or zero crossings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L7/00Arrangements for synchronising receiver with transmitter
    • H04L7/0016Arrangements for synchronising receiver with transmitter correction of synchronization errors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L7/00Arrangements for synchronising receiver with transmitter
    • H04L7/04Speed or phase control by synchronisation signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Power Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Dc Digital Transmission (AREA)

Abstract

一種信號處理方法包括:將輸入信號與一或多個正閾值以及一或多個負閾值作比較。該方法亦包括基於輸入信號與(諸)正閾值和(諸)負閾值的比較來產生輸出信號。該方法進一步包括將輸出信號回饋至衰退重構濾波器以建立經重構信號並將經重構信號與輸入信號組合。

Description

用於基於閾值的信號編碼的非同步脈衝調制 【相關申請案的交叉引用】
本專利申請案主張於2014年6月23日提出申請且題為「ASYNCHRONOUS PULSE MODULATION FOR THRESHOLD-BASED SIGNAL CODING(用於基於閾值的信號編碼的非同步脈衝調制)」的美國臨時專利申請案第62/015,739號的權益,其公開內容經由援引全部明確納入於此。
本案的某些態樣一般係關於信號處理,尤其係關於用於基於閾值的信號編碼的非同步脈衝調制方案。
信號編碼在包括電信、感測器、信號處理晶片和網路設計的各種系統中採用。例如,信號編碼可在音訊和視覺處理器中、在分散式網路中的節點之間、或者在神經網路中互連的人工神經元(亦即,神經元模型)之間採用。神經網路是計算設備或表示要由計算設備執行的方法。人工神經網路可具有生物學神經網路中的對應的結構及/或功能。然而, 人工神經網路可為其中傳統計算技術是麻煩的、不切實際的、或不勝任的一些應用提供創新且有用的計算技術。
許多系統採用時鐘或定時設備來取樣資料。此類系統可被稱為「同步」系統,因為資料被「同步」至時鐘脈衝或時鐘速度。其他系統可以在沒有時鐘的情況下執行,並且此類系統可被稱為「非同步」,因為資料不以週期性方式移動穿過此類系統。一些網路(諸如人工神經網路)能從觀察中推斷功能,並且在它們可以非同步方式來設計的情況下可以是更為計算高效的或者使用較低的功率系統。
在本案的一態樣,提供了一種信號處理方法。該方法包括將輸入信號與一或多個正閾值以及一或多個負閾值作比較。該方法亦包括基於輸入信號與(諸)正閾值和(諸)負閾值的比較來產生輸出信號。該方法進一步包括將輸出信號回饋至衰退重構濾波器以建立經重構信號。此外,該方法包括將經重構信號與輸入信號組合。
在本案的另一態樣,提供了一種用於信號處理的裝置。該裝置包括記憶體以及耦合至該記憶體的一或多個處理器。(諸)處理器被配置成將輸入信號與一或多個正閾值以及一或多個負閾值作比較。(諸)處理器亦被配置成基於輸入信號與(諸)正閾值和(諸)負閾值的比較來產生輸出信號。(諸)處理器被進一步配置成將輸出信號回饋至衰退重構濾波器以建立經重構信號。此外,(諸)處理器被配置成將經重構信號與輸入信號組合。
在本案的又一態樣,提供了一種用於信號處理的設備。該設備包括用於將輸入信號與一或多個正閾值以及一或多個負閾值作比較的裝置。該設備亦包括用於基於輸入信號與(諸)正閾值和(諸)負閾值的比較來產生輸出信號的裝置。該設備進一步包括用於將輸出信號回饋至衰退重構濾波器以建立經重構信號的裝置。此外,該設備包括用於將經重構信號與輸入信號組合的裝置。
在本案的再另一態樣,提供了一種用於信號處理的電腦程式產品。該電腦程式產品包括其上編碼有程式碼的非瞬態電腦可讀取媒體。該程式碼包括用於將輸入信號與一或多個正閾值以及一或多個負閾值作比較的程式碼。該程式碼亦包括用於基於輸入信號與(諸)正閾值和(諸)負閾值的比較來產生輸出信號的程式碼。該程式碼進一步包括用於將輸出信號回饋至衰退重構濾波器以建立經重構信號的程式碼。此外,該程式碼包括用於將經重構信號與輸入信號組合的程式碼。
在本案的一態樣,提供了一種信號處理方法。該方法包括將輸入信號與一或多個閾值作比較。該方法亦包括基於輸入信號與(諸)閾值的比較來產生輸出信號。該方法進一步包括將輸出信號回饋至衰退重構濾波器以建立經重構信號。衰退重構濾波器並非單個衰退指數。此外,該方法包括將經重構信號與輸入信號組合。
在本案的另一態樣,提供了一種用於信號處理的裝置。該裝置包括記憶體以及耦合至該記憶體的一或多個處理 器。(諸)處理器被配置成將輸入信號與一或多個閾值作比較。(諸)處理器亦被配置成基於輸入信號與(諸)閾值的比較來產生輸出信號。(諸)處理器被進一步配置成將輸出信號回饋至衰退重構濾波器以建立經重構信號。衰退重構濾波器並非單個衰退指數。此外,(諸)處理器被配置成將經重構信號與輸入信號組合。
在本案的又一態樣,提供了一種用於信號處理的設備。該設備包括用於將輸入信號與一或多個閾值作比較的裝置。該設備亦包括用於基於輸入信號與(諸)閾值的比較來產生輸出信號的裝置。該設備進一步包括用於將輸出信號回饋至衰退重構濾波器以建立經重構信號的裝置。衰退重構濾波器並非單個衰退指數。此外,該設備包括用於將經重構信號與輸入信號組合的裝置。
在本案的再另一態樣,提供了一種用於信號處理的電腦程式產品。該電腦程式產品包括其上編碼有程式碼的非瞬態電腦可讀取媒體。該程式碼包括用於將輸入信號與一或多個閾值作比較的程式碼。該程式碼亦包括用於基於輸入信號與(諸)閾值的比較來產生輸出信號的程式碼。該程式碼進一步包括用於將輸出信號回饋至衰退重構濾波器以建立經重構信號的程式碼。衰退重構濾波器並非單個衰退指數。此外,該程式碼包括用於將經重構信號與輸入信號組合的程式碼。
這已較寬泛地勾勒出本案的特徵和技術優勢以便下面的詳細描述可以被更好地理解。本案的其他特徵和優點將 在下文描述。本發明所屬領域中熟習此項技術者應該領會,本案可容易地被用作修改或設計用於實施與本案相同的目的的其他結構的基礎。本發明所屬領域中熟習此項技術者亦應認識到,此類等效構造並不脫離所附請求項中所闡述的本案的教導。被認為是本案的特性的新穎特徵在其組織和操作方法兩態樣連同進一步的目的和優點在結合附圖來考慮以下描述時將被更好地理解。然而,要清楚理解的是,提供每一幅附圖均僅用於圖示和描述目的,且無意作為對本案的限定的定義。
10‧‧‧系統
12‧‧‧輸入
14‧‧‧編碼器
16‧‧‧輸出
18‧‧‧通道
20‧‧‧輸出
22‧‧‧解碼器
24‧‧‧輸出
200‧‧‧人工神經系統
202‧‧‧神經元級
204‧‧‧突觸連接網路
2081‧‧‧輸入信號
2082‧‧‧輸入信號
208N‧‧‧輸入信號
2101‧‧‧輸出尖峰
2102‧‧‧輸出尖峰
210M‧‧‧輸出尖峰
300‧‧‧示圖
302‧‧‧神經元
3041‧‧‧輸入信號
304i‧‧‧輸入信號
304N‧‧‧輸入信號
3061‧‧‧可調節突觸權重
306i‧‧‧可調節突觸權重
306N‧‧‧可調節突觸權重
308‧‧‧輸出信號
402‧‧‧編碼器
404‧‧‧非同步脈衝調制器(APM)
406‧‧‧傳送信號
408‧‧‧估計
410‧‧‧通道
412‧‧‧解碼器
414‧‧‧收到信號
416‧‧‧LTI預濾波器
418‧‧‧經濾波信號
420‧‧‧量化器
422‧‧‧信號產生器
424‧‧‧重構濾波器
426‧‧‧本端重構信號
428‧‧‧加法器
430‧‧‧信號
500‧‧‧示圖
600‧‧‧APM
602‧‧‧編碼器
604‧‧‧解碼器
606‧‧‧通道
608‧‧‧預濾波器
610‧‧‧非同步△調制器(ADM)
612‧‧‧上限閾值量化器
616‧‧‧重構濾波器
618‧‧‧反向濾波器
620‧‧‧平滑濾波器
622‧‧‧脈衝產生器
700‧‧‧上部示圖
702‧‧‧正弦輸入信號
704‧‧‧重構信號
710‧‧‧中部示圖
712‧‧‧差信號
720‧‧‧底部示圖
722‧‧‧脈衝
800‧‧‧APM
820‧‧‧量化器
900‧‧‧上部示圖
902‧‧‧正弦輸入信號
904‧‧‧重構信號
910‧‧‧中部示圖
912‧‧‧差信號
914‧‧‧線
920‧‧‧底部示圖
922‧‧‧輸出脈衝函數序列
1000‧‧‧APM
1020‧‧‧雙側量化器
1100‧‧‧上部示圖
1102‧‧‧正弦輸入信號
1104‧‧‧重構信號
1110‧‧‧中部示圖
1112‧‧‧差信號
1114‧‧‧線
1116‧‧‧線
1120‧‧‧底部示圖
1122‧‧‧輸出脈衝函數序列
1200‧‧‧簡化APM
1300‧‧‧APM
1400‧‧‧方法
1402‧‧‧方塊
1404‧‧‧方塊
1406‧‧‧方塊
1408‧‧‧方塊
1500‧‧‧方法
1502‧‧‧方塊
1504‧‧‧方塊
1506‧‧‧方塊
1508‧‧‧方塊
在結合附圖理解下面闡述的詳細描述時,本案的特徵、本質和優點將變得更加明顯,在附圖中,相同元件符號始終作相應標識。
圖1圖示了根據本案的某些態樣的實例網路。
圖2圖示了根據本案的某些態樣的實例神經元網路。
圖3圖示了根據本案的某些態樣的計算網路(神經系統或神經網路)的處理單元(神經元)的實例。
圖4圖示了根據本案的一態樣的非同步脈衝調制器(APM)。
圖5是圖示根據本案的各態樣的沒有衰退的示例性多閾值量化辦法的示圖。
圖6是圖示根據本案的一態樣的示例性APM的方塊圖。
圖7示出了圖示根據本案的各態樣的具有上限閾值 量化器的示例性APM的操作的示圖。
圖8是圖示根據本案的各態樣的示例性APM的方塊圖。
圖9示出了圖示根據本案的各態樣的具有下限閾值量化器的示例性APM的操作的示圖。
圖10是圖示根據本案的各態樣的示例性APM的方塊圖。
圖11示出了圖示根據本案的各態樣的具有雙側量化器的示例性APM的操作的示圖。
圖12是圖示根據本案的各態樣的簡化APM的方塊圖。
圖13是圖示根據本案的各態樣的包括復位機制的示例性APM的方塊圖。
圖14-15是圖示根據本案的一態樣的用於信號編碼的方法的流程圖。
以下結合附圖闡述的詳細描述意欲作為各種配置的描述,而無意表示可實踐本文中所描述的概念的僅有的配置。本詳細描述包括具體細節以便提供對各種概念的透徹理解。然而,對於本發明所屬領域中熟習此項技術者將顯而易見的是,沒有這些具體細節亦可實踐這些概念。在一些實例中,以方塊圖形式示出眾所周知的結構和元件以避免湮沒此類概念。
基於本教導,本發明所屬領域中熟習此項技術者應 領會,本案的範疇意欲覆蓋本案的任何態樣,不論其是與本案的任何其他態樣相獨立地還是組合地實現的。例如,可以使用所闡述的任何數目個態樣來實現本案或實踐方法。另外,本案的範疇意欲覆蓋使用作為所闡述的本案的各個態樣的補充或者與之不同的其他結構、功能性、或者結構及功能性來實踐的此類裝置或方法。應當理解,所揭示的本案的任何態樣可由請求項的一或多個元素來實施。
措辭「示例性」在本文中用於表示「用作實例、例子或圖示」。本文中描述為「示例性」的任何態樣不必被解釋為優於或勝過其他態樣。
儘管本文描述了特定態樣,但這些態樣的眾多變體和置換落在本案的範疇之內。儘管提到了優選態樣的一些益處和優點,但本案的範疇並非意欲被限定於特定益處、用途或目標。相反,本案的各態樣意欲能寬泛地應用於不同的技術、系統組態、網路和協定,其中一些作為實例在附圖以及以下對優選態樣的描述中圖示。詳細描述和附圖僅僅圖示本案而非限定本案,本案的範疇由所附請求項及其等效技術方案來定義。
非同步脈衝調制
至神經網路以及其他網路的輸入資料串流本質上可以是連續的。基於時鐘的系統規律地(週期性地)取樣連續時間信號,這可導致即使在信號中缺少變化的情況下亦進行信號取樣。此種辦法可能使用額外功率或限制此類系統的整體速度。
本案的各態樣涉及用非同步脈衝調制進行信號處理。在一些態樣,信號處理可以在不使用時鐘信號的情況下進行。
圖1圖示了根據本案的某些態樣的實例網路。
在通訊系統(包括電腦、蜂巢式電話、網路等)中,編碼是將輸入信號或序列置於不同格式以供傳送或儲存的程序。例如,系統10可以經由編碼器14處理輸入12(例如,x(t))。輸入12可以是類比信號、數位信號、相位或脈衝調制信號、或者其他類型的信號。作為實例,類比音訊信號可經由類比數位轉換器被編碼成數位信號。來自編碼器14的輸出16被傳送經由通道18,該通道18可以是無線的或經由線路、光纖、或其他傳輸媒體。
通道18的輸出20可隨後被提供給解碼器22,該解碼器22將輸出20轉換回原始輸入12。解碼器22具有作為輸入12的再現的輸出24。取決於編碼器14的精度、通道18中的損耗或雜訊、以及解碼器22與編碼器14的匹配,輸出24可隨輸入12變化。例如,若通道18是有雜訊的,則輸出24可能不是輸入12的準確再現。
可以使用許多不同的編碼/解碼方案。正交移相鍵控(QPSK)碼、差分信號、假性隨機(PN)編碼、時分、和其他信號編碼方案可被編碼器14和解碼器22採用。在資料通訊中,可以使用Manchester編碼,其中二進位數位(位元)表示高邏輯狀態與低邏輯狀態之間的轉變。
本案解決了實現或實行採用脈衝調制來將連續時間 信號編碼為事件及/或將事件解碼回連續時間信號的估計的非同步系統的問題。本案在一態樣描述了用於時鐘可任選且高效信號編碼的非同步脈衝調制(APM)設計。無時鐘設計在連續時間中操作。其中時鐘存在或可用的設計可以在離散時間中操作。
根據本案的各態樣的設計使得在一般化框架中實現新編碼器。例如,正單極、負單極、雙極和多值訊號傳遞、衰退重構(△)濾波器、用於信號整形的預(Σ)濾波器以及其中在解碼器處僅使用抗混疊濾波器的簡化設計在本案內皆是可能的。
本案提供了通道上的連續時間信號更為高效的編碼。例如,在沒有雜訊或信號衰減的理想通道中,連續時間信號可被直接傳送(類似於神經元中的間隙聯結)。然而,在實踐中,這一直接辦法的保真度受到遭受非理想情形的給定通道的影響並且收到信號可被畸變。
實例神經系統、訓練及操作
圖2圖示根據本案的某些態樣的具有多級神經元的實例人工神經系統200。圖1中示出的系統10的類型可以是具有安排成「級」或「層」的若干輸入、若干通道和若干輸出的神經系統。神經系統200可具有神經元級202,該神經元級202經由突觸連接網路204(亦即,前饋連接)來連接到另一神經元級206。為簡單起見,圖2中僅圖示了兩級神經元,儘管神經系統中可存在更少或更多級神經元。應注意,一些神經元可經由側向連接來連接至同層中的其他神經元。此外, 一些神經元可經由回饋連接來後向連接至先前層中的神經元。
如圖2所圖示的,級202中的每一個神經元可以接收可由前級的神經元(未在圖2中示出)產生的輸入信號208。輸入信號208可表示級202的神經元的輸入電流。該電流可在神經元膜上累積以對膜電位進行充電。當膜電位達到其閾值時,該神經元可激發並產生輸出尖峰,該輸出尖峰將被傳遞到下一級神經元(例如,級206)。在一些建模辦法中,神經元可以連續地向下一級神經元傳遞信號。該信號通常是膜電位的函數。此類行為可在硬體及/或軟體(包括類比和數位實現,諸如以下所述那些實現)中進行模擬或模仿。
在生物學神經元中,在神經元激發時產生的輸出尖峰被稱為動作電位。該電信號是相對迅速、瞬態的神經脈衝,其具有約為100mV的振幅和約為1ms的歷時。在具有一系列連通的神經元(例如,尖峰從圖2中的一級神經元傳遞至另一級神經元)的神經系統的特定實施例中,每個動作電位皆具有基本上相同的振幅及歷時,並且因此該信號中的資訊可僅由尖峰的頻率和數目、或尖峰的時間來表示,而不由振幅來表示。動作電位所攜帶的資訊可由尖峰、發放了尖峰的神經元、以及該尖峰相對於一個或數個其他尖峰的時間來決定。尖峰的重要性可由向各神經元之間的連接所應用的權重來決定,如以下所解釋的。
尖峰從一級神經元向另一級神經元的傳遞可經由突觸連接(或簡稱「突觸」)網路204來達成,如圖2中所圖示的 。相對於突觸204,級202的神經元可被視為突觸前神經元,而級206的神經元可被視為突觸後神經元。突觸204可接收來自級202的神經元的輸出信號(亦即,尖峰),並根據可調節突觸權重、...、來按比例縮放那些信號,其中P是級202的神經元與級206的神經元之間的突觸連接的總數,並且「i」是神經元級的指示符。在圖2的實例中,i表示神經元級202並且i+1表示神經元級206。此外,經按比例縮放的信號可被組合以作為級206中每個神經元的輸入信號。級206之每一者神經元可基於對應的組合輸入信號來產生輸出尖峰210。可使用另一突觸連接網路(圖1中未圖示)將這些輸出尖峰210傳遞到另一級神經元。
生物學突觸可以仲裁突觸後神經元中的興奮性或抑制性(超級化)動作,並且亦可用於放大神經元信號。興奮性信號使膜電位去極化(亦即,相對於靜息電位增大膜電位)。若在某個時間段內接收到足夠的興奮性信號以使膜電位去極化到高於閾值,則在突觸後神經元中發生動作電位。相反,抑制性信號一般使膜電位超極化(亦即,降低膜電位)。抑制性信號若足夠強則可抵消掉興奮性信號之和並阻止膜電位到達閾值。除了抵消掉突觸興奮以外,突觸抑制亦可對自發活躍神經元施加強力的控制。自發活躍神經元是指在沒有進一步輸入的情況下(例如,由於其動態或回饋而)發放尖峰的神經元。經由壓制這些神經元中的動作電位的自發產生,突觸抑制可對神經元中的激發模式進行定形,這一般被稱為雕刻。取決於期望的行為,各種突觸104可充當興奮性或抑制 性突觸的任何組合。
神經系統200可由通用處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA)或其他可程式設計邏輯裝置(PLD)、個別閘或電晶體邏輯、個別的硬體元件、由處理器執行的軟體模組、或其任何組合來模擬。神經系統200可用在大範圍的應用中,諸如影像和模式辨識、機器學習、電機控制、及類似應用等。神經系統200中的每一神經元可被實現為神經元電路。被充電至發起輸出尖峰的閾值的神經元膜可被實現為例如對流經其的電流進行積分的電容器。
在一態樣,電容器作為神經元電路的電流積分裝置可被除去,並且可使用較小的憶阻器元件來替代它。這種辦法可應用於神經元電路中,以及其中大容量電容器被用作電流積分器的各種其他應用中。另外,每個突觸204可基於憶阻器元件來實現,其中突觸權重變化可與憶阻器電阻的變化有關。使用奈米特徵尺寸的憶阻器,可顯著地減小神經元電路和突觸的面積,這可使得實現大規模神經系統硬體實現更為切實可行。
對神經系統200進行模擬的神經處理器的功能性可取決於突觸連接的權重,這些權重可控制神經元之間的連接的強度。突觸權重可儲存在非揮發性記憶體中以在掉電之後保留該處理器的功能性。在一態樣,突觸權重記憶體可實現在與主神經處理器晶片分開的外部晶片上。突觸權重記憶體可與神經處理器晶片分開地封裝成可更換的儲存卡。這可向 神經處理器提供多種多樣的功能性,其中特定功能性可基於當前附連至神經處理器的儲存卡中所儲存的突觸權重。
圖3圖示根據本案的某些態樣的計算網路(例如,神經系統或神經網路)的處理單元(例如,神經元或神經元電路)302的示例性示圖300。例如,神經元302可對應於來自圖2的級202和206的任何神經元。神經元302可接收多個輸入信號3041-304N,這些輸入信號可以是該神經系統外部的信號、或是由同一神經系統的其他神經元所產生的信號、或這兩者。輸入信號可以是電流、電導、電壓、實數值的及/或複數值的。輸入信號可包括具有定點或浮點表示的數值。可經由突觸連接將這些輸入信號遞送到神經元302,該等突觸連接根據可調節突觸權重3061-306N(W1-WN)對這些信號進行按比例縮放,其中N可以是神經元302的輸入連接總數。
神經元302可組合這些經按比例縮放的輸入信號,並且使用組合的經按比例縮放的輸入來產生輸出信號308(亦即,信號Y)。輸出信號308可以是電流、電導、電壓、實數值的及/或複數值的。輸出信號可以是具有定點或浮點表示的數值。隨後該輸出信號308可作為輸入信號傳遞至同一神經系統的其他神經元、或作為輸入信號傳遞至同一神經元302、或作為該神經系統的輸出來傳遞。
處理單元(神經元)302可由電路來模擬,並且其輸入和輸出連接可由具有突觸電路的電連接來模擬。處理單元302及其輸入和輸出連接亦可由軟體代碼來模擬。處理單元302亦可由電路來模擬,而其輸入和輸出連接可由軟體代碼來 模擬。在一態樣,計算網路中的處理單元302可以是類比電路。在另一態樣,處理單元302可以是數位電路。在又一態樣,處理單元302可以是具有類比和數位元件兩者的混合信號電路。計算網路可包括任何前述形式的處理單元。使用此類處理單元的計算網路(神經系統或神經網路)可用在大範圍的應用中,諸如影像和模式辨識、機器學習、電機控制、及類似應用等。
在神經網路的訓練程序期間,突觸權重(例如,來自圖2的權重、...、及/或來自圖3的權重3061-306N)可用隨機值來初始化並根據學習規則而被增大或減小。本發明所屬領域中熟習此項技術者將領會,學習規則的實例包括但不限於尖峰定時依賴可塑性(STDP)學習規則、Hebb規則、Oja規則、Bienenstock-Copper-Munro(BCM)規則等。在一些態樣,這些權重可穩定或收斂至兩個值(亦即,權重的雙峰分佈)之一。該效應可被用於減少每個突觸權重的位數、提高從/向儲存突觸權重的記憶體讀取和寫入的速度、以及降低突觸記憶體的功率及/或處理器消耗。
突觸類型
在神經網路的硬體和軟體模型中,突觸相關功能的處理可基於突觸類型。突觸類型可以是非可塑突觸(權重和延遲沒有改變)、可塑突觸(權重可改變)、結構化延遲可塑突觸(權重和延遲可改變)、全可塑突觸(權重、延遲和連通性可改變)、以及基於此的變型(例如,延遲可改變,但在權重或連通性態樣沒有改變)。多種類型的優點在於處理可以被 細分。例如,非可塑突觸不會使用待執行的可塑性功能(或等待此類功能完成)。類似地,延遲和權重可塑性可被細分成可一起或分開地、順序地或並行地運作的操作。不同類型的突觸對於適用的每一種不同的可塑性類型可具有不同的查閱資料表或公式以及參數。因此,這些方法將針對該突觸的類型來存取相關的表、公式或參數。
亦進一步牽涉到以下事實:尖峰定時依賴型結構化可塑性可獨立於突觸可塑性地來執行。結構化可塑性即使在權重幅值沒有改變的情況下(例如,若權重已達最小或最大值、或者其由於某種其他原因而不被改變)亦可被執行,因為結構化可塑性(亦即,延遲改變的量)可以是前-後尖峰時間差的直接函數。替換地,結構化可塑性可被設為權重變化量的函數或者可基於與權重或權重變化的界限有關的條件來設置。例如,突觸延遲可僅在權重變化發生時或者在權重到達0的情況下才改變,但在這些權重為最大值時則不改變。然而,具有獨立函數以使得這些程序能被並行化從而減少記憶體存取的次數和交疊可能是有利的。
圖4圖示了根據本案的一態樣的非同步脈衝調制器(APM)。圖4圖示了APM 400採用編碼器402來將輸入信號z(t)404編碼為傳送信號s(t)406並在解碼器412處跨通道410重構輸入信號404的估計(t)408。為了便於解釋,通道410可被假定為理想通道以使得解碼器412處的收到信號414 γ(t)=s(t),理解到可能引入通道雜訊和畸變(例如多徑通道、時變衰減)並影響系統設計。
在一些態樣,編碼器402可包括用於對輸入信號404z(t)預整形並產生經濾波信號418的線性時變(LTI)預濾波器416 g(t):y(t)=z(t)* g(t)。 (1)
LTI預濾波器416亦可稱為「Σ」或積分濾波器。若存在LTI預濾波器416,則APM 400可被稱為非同步脈衝Σ-△調制器(APSDM)。若不存在LTI預濾波器416,則y(t)=z(t)且APM可被稱為非同步脈衝△調制器(APDM)。
編碼器402亦包括量化器420、信號產生器422(其可以是脈衝產生器)和重構濾波器424。量化器420、信號產生器422和重構濾波器424組合起來可被稱為對經濾波信號418 y (t)中的變化或「△」進行編碼的一般化非同步脈衝△調制器(APDM)編碼器。經濾波信號418 y(t)被提供給加法器428並被減去本端重構信號426 (t)以產生差信號:
該差信號的振幅被量化器420量化,從而產生信號430:
儘管信號e(t)可以是連續值,但在一些態樣,它可以取一或多個離散值。量化器420亦可以採取數種形式。例如,如稍後更為詳細地描述的,量化器可以具有一個、兩個或兩個以上閾值。經量化差信號430 (t)隨後被傳遞經由信號產生器422以產生傳送信號406: 其中M表示由編碼器產生的輸出脈衝的總數,p(t)表示具有單位能量的發射脈衝形狀,T m 是與(t)中第m個正變化(達到或超過上限閾值)及/或負變化(達到或超過下限閾值)的出現相關聯的時刻,其中m [1,M]且T 1<T 2<…<T M ,且a(m)是與第m個脈衝相關聯的縮放值或因數。例如,a(m)可以表示1或者任何正或負值集(例如±1、±2)。
在一個態樣,脈衝可以具有與脈衝函數δ(t)相似的大頻寬。這些脈衝包括類似以下脈衝:sinc(Bt),其中B»1,稍後描述的升餘弦脈衝(其中B»1且滾動因數為β)以及細矩形脈衝,其中T(p)«1且us(t)是單位階躍函數:
在一些態樣,當針對一串脈衝達到各閾值時,傳送信號406可被視為時刻序列{T 1,T 2,...,T M }的變換。傳送信號406亦可被認為是脈衝時間調制,其中每個時刻決定產生該脈衝的時刻。
傳送信號406可隨後被回饋回重構濾波器424 h(t)(亦稱為△濾波器)以產生重構信號426:
對於連續時間系統,不使用時鐘並且訊號傳遞時刻{T m |m [1,M]}是連續值。另一態樣,對於使用時鐘的離散時間系統,信號時刻{T m |m [1,M]}可被量化(例如,量化到最靠近的1ms)。這產生了APM 400的離散時間版本。
在一些態樣,量化器420和信號產生器422可視需要 組合。此外,平滑濾波器432(例如,抗混疊濾波器(AAF))可在預濾波器之前被插入以移除帶外雜訊。例如,平滑濾波器432可以是低通濾波器(LPF)或帶通濾波器(BPF)。在一些態樣,平滑濾波器432的頻寬可被設為近似z(t)的頻寬。
量化器420可按各種配置提供。例如,量化器420可以是單側或雙側的。單側量化器例如可包括上限閾值量化器(圖6中示出)或下限閾值量化器(圖8中示出)。
上限閾值量化器可對具有最小值的信號進行編碼,該最小值例如可以是零。上限閾值量化器可具有用於量化輸入信號的單個閾值或多個閾值。
差信號經由下式被映射至經量化差信號: 以使得ê(t){0,a},若e(t)△/2,則ê(t)=a,否則ê(t)=0,其中a>0表示經量化值。為了便於解釋而非限制,縮放因數a可被設為1。因此,量化器420可以產生以單正值脈衝序列被縮放因數a的形式的傳送信號(例如,類似於尖峰神經網路中的尖峰),其亦可被稱為單極訊號傳遞或點處理。傳送信號可由下式提供:
在一些態樣,閾值的設計影響重構濾波器設計。在 一個實例中,稍後定義的閾值△/2和h(t)[0,△]可以產生。在另一實例中,閾值△和h(t)[0,△]可以產生e(t)[0,△]。第一種辦法導致差信號的較小絕對值。這一註釋不僅應用於上限閾值量化器,而且應用於本文件中描述的所有量化器。
時刻{Tm|m=1,...,M}對應於ê(t)高於或等於閾值的時刻。
可引入多個正閾值以處置具有快速正值變化的輸入信號,其中e(t)»△/2,其可在故障時間期間或者在編碼器可能不傳送(例如,因為電源充電)的不應期期間e(t)快速變化的情況下發生。以下描述了雙閾值單側量化器的實例。
差信號經由下式被映射至經量化差信號: 以使得ê(t){0,a,2a}。這一量化器導致兩個離散值脈衝序列形式的傳送信號。這些產生以下形式的傳送信號: 其中a(m){a,2a}。時刻{Tm|m=1,...,M}對應於ê(t)高於閾值的時刻。
下限閾值量化器意欲對低於最大值的信號進行編碼。為了方便解釋,假定最大值為0,以使得編碼針對非正信號。下限閾值量化器亦可以具有用於量化輸入信號的一或多個閾值。
差信號可經由下式被映射至經量化差信號: 以使得ê(t){0,-a},並且若e(t)-△/2,則ê(t)=a,否則ê(t)-0。值a表示經量化值(例如,a=1)。這一量化器產生可由下式提供的單負值脈衝序列形式的傳送信號: 其中時刻{Tm|m=1,...,M}對應於ê(t)低於或等於閾值的時刻。
如同上限閾值的閾值量化器那樣,可引入多個下限閾值的閾值以處置具有快速負值變化的輸入信號,其中e(t)«-^/2。
差信號經由下式被映射至經量化差信號:
這產生以下形式的傳送信號: 其中a(m){-a,-2a}。時刻{Tm|m=1,...,M}對應於ê(t)低於或等於閾值的時刻。
雙側量化器(例如,圖10中示出)可以對可能不具有最小值或最大值的信號進行編碼。雙側量化器可以具有漸增和漸減值的閾值兩者。此類量化器可以支援無界信號的量化以及需要的情況下支援上限閾值及/或下限閾值。圖10中圖示雙側單閾值對量化器。
差信號經由下式被映射至經量化差信號: 以使得ê(t){-a,0,a}。這一量化器產生單極脈衝序列形式的傳送信號: 其中a(m){-a,a}。時刻{Tm|m=1,...,M}對應於ê(t)高於或等於正值閾 值或者低於或等於負值閾值的時刻。
可以引入多個閾值對以處置|e(t)|»△/2情況下快速變化的輸入信號。以下描述了雙側雙閾值對量化器的實例。
差信號經由下式被映射至經量化差信號: 以使得ê(t){0,a,2a}。這一量化器產生雙極脈衝序列形式的傳送信號: 其中a(m){-2a,-a,a,2a}。時刻{Tm|m=1,...,M}對應於ê(t)或高於或等於正值閾值、或者低於或等於負值閾值的時刻。
若量化器420是單側的,則重構濾波器424可以是衰退濾波器。非衰退重構濾波器可以產生或針對上限閾值量化器單調遞增或針對下限閾值量化器單調遞減的重構信號426。若量化器420是雙側的,則可以使用或衰退或非衰退重構濾波器424。衰退重構濾波器424可以具有連續值或離散值。
非衰退重構濾波器可以取以下脈衝回應: 其中縮放因數1/a可被用於移除傳送(或接收)信號中的因數a,而縮放因數△可被用於追蹤輸入信號達與由量化器定義的量相匹配的量。在一些態樣,△=a=1以使得h(t)=us(t)。
在一些配置中,可以使用具有連續值脈衝回應的任意衰退濾波器。例如,任意衰退濾波器可在信號(例如,輸入信號)逐漸下降至零時使用。在一些態樣,重構濾波器可基於輸入信號類型的衰退行為來選擇。例如,對於快速衰退輸入信號,可以使用具有快速衰退至零的重構濾波器。否則,可以使用具有慢衰退的重構濾波器。對於具有快速上升的信號而言,可以採用具有快速上升的重構濾波器。否則,可以使用具有慢上升的重構濾波器。
簡單的衰退重構濾波器是衰退指數: 其中τd表示衰退時間常數,並且其中us(t)表示單位階躍函數以使得若t 0,則us(t)=1,否則us(t)=0。
在一些態樣,可以使用具有雙指數的重構濾波器。例如,對於平滑上升而非陡峭跳躍,雙指數濾波器可由下式提供: 其中τr表示上升時間常數且縮放係數A2exp是: 其中A2exp,峰值表示雙指數的峰值振幅(例如,A2exp,峰值=1)且:
在一些態樣,可以採用具有離散值的衰退濾波器。在一個實例中,重構濾波器具有帶有均勻分隔開的離散值的 線性衰退階梯函數形式。
重構濾波器亦可具有非均勻分隔開的離散值和針對每個離散值的非均勻歷時。在一個實例中,可以使用具有以縮短方式(因數為1/2)調整的漸減步長大小的重構濾波器,其可被比作衰退指數的離散值版本。
在又一態樣,重構濾波器可具有初始上升和後續衰退。例如,重構濾波器可最初上升並隨後具有衰退階梯函數,其可被比作雙指數的離散值版本。
若通道410是理想的(亦即,沒有損耗或雜訊),則解碼器412看到收到信號414等效於傳送信號406以使得r(t)=s(t)。
在具有用於編碼有界信號的APDM和單側量化器的情況下,重構信號(或濾波器脈衝回應)一般可趨近於零。否則,信號編碼或許是不可能的。例如,具有上限閾值量化器的APDM和被設為單位階躍函數的重構濾波器可以僅編碼隨時間增大的信號並且可以不編碼亦隨時間減小的信號。另一態樣,具有足夠快速地趨近於零的回應的重構濾波器可以編碼亦衰退的信號。
解碼器412可包括重構濾波器(類似於重構濾波器424)、反向濾波器、和平滑濾波器432(例如,抗混疊濾波器(AAF)),它們在一些態樣可以不同次序及/或組合來配置。
在本案的APM 400中,對於解碼器412存在顯式解決方案,而非對於脈衝回應的估計數值解決方案。
圖5是圖示根據本案的各態樣的具有帶有單位階躍 函數脈衝回應的重構濾波器的示例性多閾值量化辦法的示圖500。參照圖5,可變輸入信號y(t)在不同時刻跨越各個閾值(例如,502a、502b、502c和502d)。當輸入信號y(t)跨越閾值時,在該跨越時刻(例如,Tn[1]-Tn[6])觸發對輸入信號的取樣的等級跨越事件發生。亦即,當輸入信號在時間Tn[1]到Tn[6]跨越各個閾值時,輸入信號y(t)變成經量化信號(t)。若未偵測到其中一個閾值跨越,則經量化信號將出差錯,並且該差錯將是不可校正的,因為非衰退重構濾波器424將不會使經量化信號返回至輸入信號。
圖6是圖示根據本案的一態樣的示例性APM 600的方塊圖。示例性APM 600可包括編碼器602和解碼器604。編碼器602包括預濾波器608(例如,Σ濾波器)和非同步△調制器(ADM)610。ADM 610包括上限閾值量化器612、脈衝產生器622和重構濾波器616。
編碼器602接收輸入信號z(t)。輸入信號可經由預濾波器608來濾波並提供給ADM 610。經濾波輸入信號y(t)被提供給加法器428。加法器產生差信號e(t),該差信號e(t)提供給上限閾值量化器612。在圖6的實例中,上限閾值量化器612配置有單個閾值。然而,如前述,亦可包括額外閾值。
當差信號(e(t))跨越單個閾值水平時,量化器向脈衝產生器提供經量化信號,脈衝產生器進而產生脈衝(s(t))(例如,尖峰)。所產生的脈衝(s(t))可經由通道606被傳送給解碼器604。在一些態樣,所傳送的脈衝可以是正值變化。注意,脈衝是在事件基礎上(例如,當差信號達到閾值水平 時)傳送的,並且因此APM可在不使用時鐘的情況下操作。因此,APM可有益地提供計算複雜度和功耗的減少。
所產生的脈衝亦提供給重構濾波器616(h(t)),其產生經重構輸入信號(t)。經重構輸入信號進而作為回饋提供給ADM 610並用於計算差信號e(t)。
解碼器604包括重構濾波器616、反向濾波器618和平滑濾波器620。平滑濾波器620例如可以是抗混疊濾波器。平滑濾波器620可以在輸入信號的量化期間減少由量化器612引入的諧波。
圖7示出了圖示根據本案的各態樣的具有上限閾值量化器的示例性APM的操作的示圖。在圖7的上部示圖700中,正弦輸入信號702與重構信號704相疊置。輸入信號y(t)例如可以採取由下式提供的正值正弦的形式:
重構信號(t)704可經由雙指數重構濾波器來產生(諸如舉例而言在式(22)中提供的)。
中部示圖710圖示基於輸入信號702和重構信號704計算出的差信號e(t)712。在這一實例中,上限閾值量化器包括單個閾值(),其藉由線714來示出。當差信號712達到閾值714時,產生經量化差信號並將其提供給脈衝產生器(例如,622)。在底部示圖720中,圖示由脈衝產生器產生的脈衝。如此,當差信號712達到閾值時,脈衝產生器產生脈衝722形式的相應傳送信號。
圖8是圖示根據本案的各態樣的示例性APM 800的 方塊圖。APM 800包括與圖6中示出的那些元件和組件相似的元件和組件。注意,APM 800包括下限閾值量化器820。量化器820包括單個閾值。當然,如以上所論述的,亦可使用額外閾值。
在這一示例性APM 800中,量化器820對差信號e(t)中的負變化進行編碼以產生負值的發射脈衝。在一些態樣,正值發射脈衝可經由將閾值設為負值來產生並且重構濾波器h(t)可被設為從下方逐漸減為零的負值脈衝函數。
圖9示出了圖示根據本案的各態樣的具有下限閾值量化器的示例性APM的操作的示圖。在圖9的上部示圖900中,正弦輸入信號902與重構信號904相疊置。輸入信號y(t)例如可以採取由下式提供的負值正弦的形式:
重構信號(t)904可經由雙指數重構濾波器來產生(諸如舉例而言在式(22)中提供的)。
中部示圖910圖示基於輸入信號902和重構信號904計算出的差信號e(t)912。在這一實例中,下限閾值量化器包括單個閾值(),其藉由線914來示出。當差信號912達到閾值線914時,產生經量化差信號並將其提供給脈衝產生器(例如,622)。在底部示圖920中,圖示由脈衝產生器產生的輸出脈衝序列。如此,當差信號912達到閾值時,脈衝產生器產生脈衝922形式的相應傳送信號。在這一實例中,經重構信號(t)(904)和輸出脈衝函數序列(例如922)是負值,其能夠追 蹤負值輸入信號y(t)(902)。
圖10是圖示根據本案的各態樣的示例性APM 1000的方塊圖。APM 1000包括與圖6中示出的那些元件和組件相似的元件和組件。在圖10的實例中,APM 1000包括雙側量化器1020。在使用雙側量化器的情況下,發射脈衝可以是導致雙極傳送信號的或正值或負值。在一些態樣,衰退重構濾波器的額外特徵可促成或從上(當輸入信號為正並衰退時)或從下(當輸入信號為負且朝零衰退時)朝向零的衰退。如此,此種APM 1000的一個潛在應用是超聲信號振幅在正值區和負值區兩者中具有指數衰退的超聲應用。
關於誤檢或丟失傳輸提供了使用衰退類型的重構濾波器(代替單位階躍函數)的額外益處。在這些情形中,在解碼器處誤檢的影響僅持續達重構濾波器回應的時間歷時。在單位階躍函數的情形中,誤差無限期地持續(或直至系統發生重定),而對於有限歷時濾波器回應或具有無限歷時的那些濾波器回應、但是其中大多數(例如,99%)能量具有有限歷時(諸如衰退指數函數),該差錯有效地持續有限時間。
例如,若輸入信號在正區域中,則衰退濾波器和負值發射脈衝的組合將經重構信號值朝零減小。相反,在使用非衰退重構濾波器的情況下,僅負發射脈衝將能夠降低經重構信號。僅正值發射脈衝將經重構信號向上推。同樣,若輸入信號在負區域中,則衰退濾波器和正值發射脈衝的組合將經重構信號值朝零增大。僅負值發射脈衝將經重構信號遠離零地向下推。
圖11示出了圖示根據本案的各態樣的具有雙側量化器的示例性APM的操作的示圖。在圖11的上部示圖1100中,正弦輸入信號1102與重構信號1104相疊置。輸入信號y(t)例如可以採取由下式提供的正值正弦的形式:
重構信號(t)1104可經由雙指數重構濾波器來產生(諸如舉例而言在式(22)中提供的)。注意,經重構信號朝零衰退。
中部示圖1110圖示基於輸入信號1102和重構信號1104計算出的差信號e(t)1112。在這一實例中,雙側量化器包括第一閾值()和第二閾值(),其分別藉由線1114和1116來示出。儘管被示為具有相同的絕對值,但各閾值並不限於-△/2和△/2。例如,各閾值可被差分地設置(例如,-△/2,△)或者可被設為不同值(例如,-,)。此外,一側或雙側亦可被配置有多個閾值(若需要)。當差信號1112達到閾值1114時,產生經量化差信號並將其提供給脈衝產生器(例如,622)。類似地,當差信號1112達到第二閾值1116時,產生經量化差信號並將其提供給脈衝產生器(例如,622)。
在底部示圖1120中,圖示由脈衝產生器產生的輸出雙極脈衝序列。如此,當差信號1112達到閾值(例如,1114和1116)時,脈衝產生器產生脈衝1122形式的相應傳送信號。在這一實例中,經重構信號(t)(1104)和輸出脈衝函數序列(例如1122)是雙極的。亦即,與或下限閾值量化(圖6) 或上限閾值量化(圖8)辦法相反,在這一示例性配置中,APM產生正傳送信號和負傳送信號兩者。因此,信號位準中的變化由重構濾波器的衰退特徵以及正和負傳送信號兩者來管理。
圖12是圖示根據本案的各態樣的簡化APM 1200的方塊圖。與圖4中示出的APM 400形成對比,當h(t)=g(t)時,預濾波器g(t)和重構濾波器h(t)因線性度可被移動到加法器之後。另外,在解碼器處,因為h(t)等於g(t),所以重構濾波器和反向濾波器彼此消去(例如,),僅留下平滑濾波器。如此,用於比較輸入信號z(t)和輸出信號s(t)的時間可被減少,因為APM在無需重構輸入信號的情況下工作。
圖13是圖示根據本案的各態樣的包括復位機制的示例性APM 1300的方塊圖。如圖13中所示,包括與圖4中示出的元件和元件相似的元件和元件的APM 1300被進一步配置成接收重定(reset)輸入(例如,sreset和rreset)。sreset輸入在被啟動(例如,設為1達某個時間段)時清除了編碼器處的預濾波器(例如416)、本端重構濾波器(例如424)和脈衝產生器(例如422)的內容及/或記憶體。例如,若重構濾波器是電阻器-電容器(RC)電路形式的單個衰退指數,則電容器可被短路以清除其任何電荷。rreset輸入在被啟動時清除解碼器412處的重構濾波器(h(t))、反向預濾波器和平滑濾波器的內容及/或記憶體。
圖14圖示了根據本案的一態樣的用於信號處理的方法1400。在方塊1402,將輸入信號與一或多個正閾值以及一 或多個負閾值作比較。在一些態樣,輸入信號可以在與閾值作比較之前經歷預濾波器(例如,Σ濾波器)。
在方塊1404,基於該比較來產生輸出信號。在方塊1406,將輸出信號回饋至重構濾波器以建立重構信號。在一些態樣,重構濾波器可以是衰退重構濾波器。在方塊1408,將重構信號與輸入信號組合。
圖15圖示了根據本案的一態樣的用於信號處理的方法1500。在方塊1502,將輸入信號與一或多個閾值作比較。在一些態樣,輸入信號可以在與閾值作比較之前經歷預濾波器(例如,Σ濾波器)。
在方塊1504,基於該比較來產生輸出信號。在方塊1506,將輸出信號回饋至衰退重構濾波器以建立重構信號。重構濾波器並非單個衰退指數。在方塊1508,將重構信號與輸入信號組合。
以上所描述的方法的各種操作可由能夠執行相應功能的任何合適的裝置來執行。根據本案的一態樣的設備包括用於將輸入信號與一或多個正閾值以及一或多個負閾值作比較的裝置。該比較裝置例如可以是編碼器14、量化器420、量化器1020、和量化器1320。此種設備亦包括用於基於該比較來產生輸出信號的裝置。該產生裝置例如可以是如圖4中所示的信號產生器422。此種設備亦包括用於將輸出信號回饋至衰退重構濾波器以建立衰退的經重構信號的裝置。該回饋裝置例如可包括如圖4中所示的重構濾波器424。該設備亦包括用於將衰退的經重構信號與輸入信號組合的裝置。該組合裝置 可以是圖4中所示的求和方塊(加法器428)。其他設備可以執行所描述的裝置的功能。這些裝置可包括各種硬體及/或軟體元件及/或模組,包括但不限於電路、特殊應用積體電路(ASIC)、或處理器。一般而言,在附圖中有圖示的操作的場合,那些操作可具有帶相似編號的相應配對手段功能元件。
在另一配置中,根據本案的一態樣的設備包括用於將輸入信號與一或多個閾值作比較的裝置。該比較裝置例如可以是編碼器14、量化器420、量化器612、量化器820、量化器1020和量化器1320。此種設備亦包括用於基於該比較來產生輸出信號的裝置。該產生裝置例如可以是如圖4中所示的信號產生器422。此種設備亦包括用於將輸出信號回饋至衰退重構濾波器以建立衰退的經重構信號的裝置。該回饋裝置例如可包括如圖4中所示的重構濾波器424。該設備亦包括用於將衰退的經重構信號與輸入信號組合的裝置。該組合裝置可以是圖4中所示的求和方塊(加法器)。其他設備可以執行所描述的裝置的功能。這些裝置可包括各種硬體及/或軟體元件及/或模組,包括但不限於電路、特殊應用積體電路(ASIC)、或處理器。一般而言,在附圖中有圖示的操作的場合,那些操作可具有帶相似編號的相應配對手段功能元件。
可任選地,解碼器412在其接收收到信號414時可以發回波或另行將信號返回至編碼器402,例如在反向通道上返回「確收」。該確收可被配置成在未接收到信號(即靜默)的時段後僅對第一收到信號414操作達預定或週期性時間量(例如,>2秒)。該確收信號亦可由編碼器402來請求。
閾值△可由編碼器402和解碼器412來改變以調整期望的準確度位準(亦稱為「重構誤差」)。若閾值被設為較大值,則輸入信號404與輸出信號408之間將存在較小相關。該閾值亦可經由管理負擔訊號傳遞訊息在編碼器402與解碼器412之間交換。
輸出信號亦可以是位址事件表示(AER)封包的形式,其可包括事件(閾值跨越)的時間戳記資訊及/或哪個閾值被輸入信號跨越。例如,在雙極量化器中,可以指示是正閾值亦是負閾值被跨越。
如本文所使用的,術語「決定」涵蓋各種各樣的動作。例如,「決定」可包括演算、計算、處理、推導、研究、檢視(例如,在表、資料庫或其他資料結構中檢視)、探知及諸如此類。另外,「決定」可包括接收(例如接收資訊)、存取(例如存取記憶體中的資料)、及類似動作。而且,「決定」可包括解析、選擇、選取、確立及類似動作。
如本文中所使用的,引述一列項目中的「至少一個」的短語是指這些專案的任何組合,包括單個成員。作為實例,「a、b或c中的至少一個」意欲涵蓋:a、b、c、a-b、a-c、b-c和a-b-c。
結合本案所描述的各種說明性邏輯區塊、模組、以及電路可用設計成執行本文所描述功能的通用處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、現場可程式設計閘陣列信號(FPGA)或其他可程式設計邏輯裝置(PLD)、個別閘或電晶體邏輯、個別的硬體元件或其任何組合來實 現或執行。通用處理器可以是微處理器,但在替換方案中,該處理器可以是任何市售的處理器、控制器、微控制器、或狀態機。處理器亦可以被實現為計算設備的組合(例如DSP與微處理器的組合、複數個微處理器、與DSP核協調的一或多個微處理器、或任何其他此類配置)。
結合本案所描述的方法或演算法的步驟可直接在硬體中、在由處理器執行的軟體模組中、或在這兩者的組合中體現。軟體模組可常駐在本發明所屬領域所知的任何形式的儲存媒體中。可使用的儲存媒體的一些實例包括隨機存取記憶體(RAM)、唯讀記憶體(ROM)、快閃記憶體、可抹除可程式設計唯讀記憶體(EPROM)、電子可抹除可程式設計唯讀記憶體(EEPROM)、暫存器、硬碟、可移除磁碟、CD-ROM,等等。軟體模組可包括單一指令、或許多指令,且可分佈在若干不同的代碼片段上,分佈在不同的程式間以及跨多個儲存媒體分佈。儲存媒體可被耦合到處理器以使得該處理器能從/向該儲存媒體讀寫資訊。替換地,儲存媒體可以被整合到處理器。
本文所揭示的方法包括用於實現所描述的方法的一或多個步驟或動作。這些方法步驟及/或動作可以彼此互換而不會脫離請求項的範疇。換言之,除非指定了步驟或動作的特定次序,否則具體步驟及/或動作的次序及/或使用可以改動而不會脫離請求項的範疇。
所描述的功能可在硬體、軟體、韌體或其任何組合中實現。若以硬體實現,則實例硬體設定可包括設備中的處 理系統。處理系統可以用匯流排架構來實現。取決於處理系統的具體應用和整體設計約束,匯流排可包括任何數目的互連匯流排和橋接器。匯流排可將包括處理器、機器可讀取媒體、以及匯流排介面的各種電路連結在一起。匯流排介面可用於尤其將網路介面卡等經由匯流排連接至處理系統。網路介面卡可用於實現信號處理功能。對於一些態樣,使用者介面(例如,按鍵板、顯示器、滑鼠、操縱桿,等等)亦可以被連接到匯流排。匯流排亦可以連結各種其他電路,諸如定時源、周邊設備、穩壓器、功率管理電路以及類似電路,它們在本發明所屬領域中是眾所周知的,因此將不再進一步描述。
處理器可負責管理匯流排和一般處理,包括執行儲存在機器可讀取媒體上的軟體。處理器可用一或多個通用及/或專用處理器來實現。實例包括微處理器、微控制器、DSP處理器、以及其他能執行軟體的電路系統。軟體應當被寬泛地解釋成意指指令、資料、或其任何組合,無論是被稱作軟體、韌體、中間軟體、微代碼、硬體描述語言、或其他。作為實例,機器可讀取媒體可包括隨機存取記憶體(RAM)、快閃記憶體、唯讀記憶體(ROM)、可程式設計唯讀記憶體(PROM)、可抹除可程式設計唯讀記憶體(EPROM)、電可抹除可程式設計唯讀記憶體(EEPROM)、暫存器、磁碟、光碟、硬驅動器、或者任何其他合適的儲存媒體、或其任何組合。機器可讀取媒體可被實施在電腦程式產品中。該電腦程式產品可以包括包裝材料。
在硬體實現中,機器可讀取媒體可以是處理系統中與處理器分開的一部分。然而,如本發明所屬領域中熟習此項技術者將容易領會的,機器可讀取媒體、或其任何部分可在處理系統外部。作為實例,機器可讀取媒體可包括傳輸線、由資料調制的載波、及/或與設備分開的電腦產品,所有這些皆可由處理器經由匯流排介面來存取。替換地或補充地,機器可讀取媒體、或其任何部分可被整合到處理器中,諸如快取記憶體及/或通用暫存器檔可能就是這種情形。儘管所論述的各種元件可被描述為具有特定位置,諸如局部元件,但它們亦可按各種方式來配置,諸如一些元件被配置成分散式計算系統的一部分。
處理系統可以被配置為通用處理系統,該通用處理系統具有一或多個提供處理器功能性的微處理器、和提供機器可讀取媒體中的至少一部分的外部記憶體,它們皆經由外部匯流排架構與其他支援電路系統連結在一起。替換地,該處理系統可以包括一或多個神經元形態處理器以用於實現本文所述的神經元模型和神經系統模型。作為另一替換方案,處理系統可以用帶有整合在單塊晶片中的處理器、匯流排介面、使用者介面、支援電路系統、和至少一部分機器可讀取媒體的特殊應用積體電路(ASIC)來實現,或者用一或多個現場可程式設計閘陣列(FPGA)、可程式設計邏輯裝置(PLD)、控制器、狀態機、閘控邏輯、個別硬體元件、或者任何其他合適的電路系統、或者能執行本案通篇所描述的各種功能性的電路的任何組合來實現。取決於具體應用和加諸於整體 系統上的總設計約束,本發明所屬領域中熟習此項技術者將認識到如何最佳地實現關於處理系統所描述的功能性。
機器可讀取媒體可包括數個軟體模組。這些軟體模組包括當由處理器執行時使處理系統執行各種功能的指令。這些軟體模組可包括傳輸模組和接收模組。每個軟體模組可以常駐在單個存放裝置中或者跨多個存放裝置分佈。作為實例,當觸發事件發生時,可以從硬驅動器中將軟體模組載入到RAM中。在軟體模組執行期間,處理器可以將一些指令載入到快取記憶體中以提高存取速度。隨後可將一或多個快取記憶體行載入到通用暫存器檔中以供由處理器執行。在以下談及軟體模組的功能性時,將理解此類功能性是在處理器執行來自該軟體模組的指令時由該處理器來實現的。
若以軟體實現,則各功能可作為一或多個指令或代碼儲存在電腦可讀取媒體上或藉其進行傳送。電腦可讀取媒體包括電腦儲存媒體和通訊媒體兩者,這些媒體包括促成電腦程式從一地向另一地轉移的任何媒體。儲存媒體可以是能被電腦存取的任何可用媒體。作為示例而非限定,此類電腦可讀取媒體可包括RAM、ROM、EEPROM、CD-ROM或其他光碟儲存、磁碟儲存或其他磁存放裝置、或能被用來攜帶或儲存指令或資料結構形式的期望程式碼且能被電腦存取的任何其他媒體。另外,任何連接亦被正當地稱為電腦可讀取媒體。例如,若軟體是使用同軸電纜、光纖電纜、雙絞線、數位用戶線(DSL)、或無線技術(諸如紅外(IR)、無線電、以及微波)從web網站、伺服器、或其他遠端源傳送而來,則該 同軸電纜、光纖電纜、雙絞線、DSL或無線技術(諸如紅外、無線電、以及微波)就被包括在媒體的定義之中。如本文中所使用的盤(disk)和碟(disc)包括壓縮光碟(CD)、鐳射光碟、光碟、數位多功能光碟(DVD)、軟碟、和藍光®光碟,其中盤(disk)常常磁性地再現資料,而碟(disc)用鐳射來光學地再現資料。因此,在一些態樣,電腦可讀取媒體可包括非瞬態電腦可讀取媒體(例如,有形媒體)。另外,對於其他態樣,電腦可讀取媒體可包括瞬態電腦可讀取媒體(例如,信號)。上述的組合應當亦被包括在電腦可讀取媒體的範疇內。
因此,一些態樣可包括用於執行本文中提供的操作的電腦程式產品。例如,此類電腦程式產品可包括其上儲存(及/或編碼)有指令的電腦可讀取媒體,這些指令能由一或多個處理器執行以執行本文中所描述的操作。對於一些態樣,電腦程式產品可包括包裝材料。
此外,應當領會,用於執行本文中所描述的方法和技術的模組及/或其他合適裝置能由使用者終端及/或基地台在適用的場合下載及/或以其他方式獲得。例如,此類設備能被耦合至伺服器以促成用於執行本文中所描述的方法的裝置的轉移。替換地,本文所述的各種方法能經由儲存裝置(例如,RAM、ROM、諸如壓縮光碟(CD)或軟碟等實體儲存媒體等)來提供,以使得一旦將該儲存裝置耦合至或提供給使用者終端及/或基地台,該設備就能獲得各種方法。此外,可利用適於向設備提供本文中所描述的方法和技術的任何其他 合適的技術。
將理解,請求項並不被限定於以上所圖示的精確配置和元件。可在以上所描述的方法和設備的佈局、操作和細節上作出各種改動、更換和變形而不會脫離請求項的範疇。
1400‧‧‧方法
1402‧‧‧方塊
1404‧‧‧方塊
1406‧‧‧方塊
1408‧‧‧方塊

Claims (36)

  1. 一種信號處理方法,包括以下步驟:將一輸入信號與至少一個正閾值和至少一個負閾值作比較;至少部分地基於該比較來產生一輸出信號;將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號;及將該經重構信號與該輸入信號組合。
  2. 如請求項1之方法,其中產生該輸出信號包括:當該輸入信號跨越該至少一個正閾值或該至少一個負閾值時產生該輸出信號。
  3. 如請求項1之方法,其中該產生是在一神經網路中執行的。
  4. 如請求項1之方法,進一步包括解碼該輸出信號。
  5. 如請求項4之方法,其中解碼該輸出信號包括將該輸出信號輸入到一衰退濾波器中以建立一經解碼信號;及用具有至少與該輸入信號一樣寬的一頻寬的一濾波器來濾波該經解碼信號。
  6. 如請求項5之方法,進一步包括在一編碼器處預濾波該輸 入信號,以及在一解碼器處反向預濾波該輸出信號。
  7. 如請求項1之方法,其中該輸出信號進一步包括一位址事件表示(AER)封包。
  8. 如請求項7之方法,其中該AER封包包括時間戳記資訊和由該輸入信號跨越的一閾值的一指示中的至少一者。
  9. 一種信號處理方法,包括以下步驟:將一輸入信號與至少一個閾值作比較;至少部分地基於該比較來產生一輸出信號;將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號,其中該衰退重構濾波器並非一單個衰退指數;及將該經重構信號與該輸入信號組合。
  10. 如請求項9之方法,其中產生該輸出信號包括:當該輸入信號跨越該至少一個閾值時產生該輸出信號。
  11. 如請求項9之方法,其中該產生是在一神經網路中執行的。
  12. 如請求項9之方法,進一步包括解碼該輸出信號。
  13. 如請求項12之方法,其中解碼該輸出信號包括將該輸出 信號輸入到一衰退濾波器中以建立一經解碼信號;及用具有至少與該輸入信號一樣寬的一頻寬的一濾波器來濾波該經解碼信號。
  14. 如請求項13之方法,進一步包括在一編碼器處預濾波該輸入信號,以及在一解碼器處反向預濾波該輸出信號。
  15. 如請求項9之方法,其中該輸出信號進一步包括一位址事件表示(AER)封包。
  16. 如請求項15之方法,其中該AER封包包括時間戳記資訊和由該輸入信號跨越的一閾值的一指示中的至少一者。
  17. 一種用於信號處理的裝置,包括:一記憶體;及耦合到該記憶體的至少一個處理器,該至少一個處理器被配置成:將一輸入信號與至少一個正閾值和至少一個負閾值作比較;至少部分地基於該比較來產生一輸出信號;將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號;及將該經重構信號與該輸入信號組合。
  18. 如請求項17之裝置,其中該至少一個處理器被進一步配置成當該輸入信號跨越該至少一個正閾值或該至少一個負閾值時產生該輸出信號。
  19. 如請求項17之裝置,其中該至少一個處理器被進一步被配置成在一神經網路中產生該輸出信號。
  20. 如請求項17之裝置,其中該至少一個處理器被進一步配置成解碼該輸出信號。
  21. 如請求項20之裝置,其中該至少一個處理器被進一步配置成:將該輸出信號輸入至一衰退重構濾波器以建立一經解碼信號;及用具有至少與該輸入信號一樣寬的一頻寬的一濾波器來濾波該經解碼信號。
  22. 如請求項21之裝置,其中該至少一個處理器被進一步配置成在一編碼器處預濾波該輸入信號,以及在一解碼器處反向預濾波該輸出信號。
  23. 如請求項17之裝置,其中該輸出信號進一步包括一位址事件表示(AER)封包。
  24. 如請求項23之裝置,其中該AER封包包括時間戳記資訊和由該輸入信號跨越的一閾值的一指示中的至少一者。
  25. 一種用於信號處理的裝置,包括:一記憶體;及耦合到該記憶體的至少一個處理器,該至少一個處理器配置成:將一輸入信號與至少一個閾值作比較;至少部分地基於該比較來產生一輸出信號;將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號,其中該衰退重構濾波器並非一單個衰退指數;及將該經重構信號與該輸入信號組合。
  26. 如請求項25之裝置,其中該至少一個處理器被進一步配置成當該輸入信號跨越該至少一個閾值時產生該輸出信號。
  27. 如請求項25之裝置,其中該至少一個處理器被進一步被配置成在一神經網路中產生該輸出信號。
  28. 如請求項25之裝置,其中該至少一個處理器被進一步配置成解碼該輸出信號。
  29. 如請求項28之裝置,其中該至少一個處理器被進一步配置成: 將該輸出信號輸入至一衰退重構濾波器以建立一經解碼信號;及用具有至少與該輸入信號一樣寬的一頻寬的一濾波器來濾波該經解碼信號。
  30. 如請求項29之裝置,其中該至少一個處理器被進一步配置成在一編碼器處預濾波該輸入信號,以及在一解碼器處反向預濾波該輸出信號。
  31. 如請求項25之裝置,其中該輸出信號進一步包括一位址事件表示(AER)封包。
  32. 如請求項31之裝置,其中該AER封包包括時間戳記資訊和由該輸入信號跨越的一閾值的一指示中的至少一者。
  33. 一種用於信號處理的設備,包括:用於將一輸入信號與至少一個正閾值和至少一個負閾值作比較的裝置;用於至少部分地基於該比較來產生一輸出信號的裝置;用於將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號的裝置;及用於將該經重構信號與該輸入信號組合的裝置。
  34. 一種用於信號處理的設備,包括: 用於將一輸入信號與至少一個閾值作比較的裝置;用於至少部分地基於該比較來產生一輸出信號的裝置;用於將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號的裝置,其中該衰退重構濾波器並非一單個衰退指數;及用於將該經重構信號與該輸入信號組合的裝置。
  35. 一種用於信號處理的電腦程式產品,包括:其上編碼有程式碼的一非瞬態電腦可讀取媒體,該程式碼包括:用於將一輸入信號與至少一個正閾值和至少一個負閾值作比較的程式碼;用於至少部分地基於該比較來產生一輸出信號的程式碼;用於將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號的程式碼;及用於將該經重構信號與該輸入信號組合的程式碼。
  36. 一種用於信號處理的電腦程式產品,包括:其上編碼有程式碼的一非瞬態電腦可讀取媒體,該程式碼包括:用於將一輸入信號與至少一個閾值作比較的程式碼;用於至少部分地基於該比較來產生一輸出信號的程式碼; 用於將該輸出信號回饋至一衰退重構濾波器以建立一經重構信號的程式碼,其中該衰退重構濾波器並非一單個衰退指數;及用於將該經重構信號與該輸入信號組合的程式碼。
TW104116147A 2014-06-23 2015-05-20 用於基於閾値的信號編碼的非同步脈衝調制 TW201618509A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201462015739P 2014-06-23 2014-06-23
US14/513,997 US20150372805A1 (en) 2014-06-23 2014-10-14 Asynchronous pulse modulation for threshold-based signal coding

Publications (1)

Publication Number Publication Date
TW201618509A true TW201618509A (zh) 2016-05-16

Family

ID=54870631

Family Applications (1)

Application Number Title Priority Date Filing Date
TW104116147A TW201618509A (zh) 2014-06-23 2015-05-20 用於基於閾値的信號編碼的非同步脈衝調制

Country Status (8)

Country Link
US (1) US20150372805A1 (zh)
EP (1) EP3158697A1 (zh)
JP (1) JP2017526224A (zh)
KR (1) KR20170021258A (zh)
CN (1) CN106663220A (zh)
BR (1) BR112016030050A2 (zh)
TW (1) TW201618509A (zh)
WO (1) WO2015199844A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11625588B2 (en) 2019-11-18 2023-04-11 Industrial Technology Research Institute Neuron circuit and artificial neural network chip

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10020968B1 (en) * 2015-03-18 2018-07-10 National Technology & Engineering Solutions Of Sandia, Llc Coherent radar receiver that comprises a sigma delta modulator
KR102399548B1 (ko) * 2016-07-13 2022-05-19 삼성전자주식회사 뉴럴 네트워크를 위한 방법 및 그 방법을 수행하는 장치
US10949737B2 (en) * 2016-07-13 2021-03-16 Samsung Electronics Co., Ltd. Method for neural network and apparatus performing same method
US10979030B2 (en) 2017-08-25 2021-04-13 Mediatek Inc. System improving signal handling
US10424370B2 (en) 2017-10-24 2019-09-24 International Business Machines Corporation Sensor device with resistive memory for signal compression and reconstruction
KR102589303B1 (ko) 2017-11-02 2023-10-24 삼성전자주식회사 고정 소수점 타입의 뉴럴 네트워크를 생성하는 방법 및 장치
JP7118930B2 (ja) * 2019-08-19 2022-08-16 株式会社東芝 スパイキングニューラルネットワーク装置およびその学習方法
KR20210063721A (ko) * 2019-11-25 2021-06-02 삼성전자주식회사 뉴로모픽 장치 및 이를 포함하는 뉴로모픽 시스템
US10862505B1 (en) * 2020-02-27 2020-12-08 Nxp Usa, Inc. Arbitrary rate decimator and timing error corrector for an FSK receiver
CN111461302B (zh) * 2020-03-30 2024-04-19 嘉楠明芯(北京)科技有限公司 一种基于卷积神经网络的数据处理方法、设备及存储介质
CN115842555B (zh) * 2023-02-23 2023-04-21 北京大学 一种可用于处理生理信号的基于忆阻器的异步脉冲编码器

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2715411B2 (de) * 1977-04-06 1979-02-01 Licentia Patent-Verwaltungs-Gmbh, 6000 Frankfurt Elektrisches Verfahren zum Bestimmen der Grundperiode eines Sprachsignals
US5149972A (en) * 1990-01-18 1992-09-22 University Of Massachusetts Medical Center Two excitation wavelength video imaging microscope
US5708389A (en) * 1996-03-15 1998-01-13 Lucent Technologies Inc. Integrated circuit employing quantized feedback
US5774505A (en) * 1996-04-04 1998-06-30 Hewlett-Packard Company Intersymbol interference cancellation with reduced complexity
KR100596043B1 (ko) * 1997-09-09 2006-07-05 코닌클리케 필립스 일렉트로닉스 엔.브이. 불신뢰도 검출장치 및 이 불신뢰도 검출장치를 구비한 재생장치
US7860205B1 (en) * 2001-09-18 2010-12-28 Ciena Corporation Clock synchronization using a weighted least squares error filtering technique
US7483508B2 (en) * 2001-11-27 2009-01-27 Texas Instruments Incorporated All-digital frequency synthesis with non-linear differential term for handling frequency perturbations
US7020791B1 (en) * 2002-09-19 2006-03-28 Nortel Networks Limited Clock recovery using a double-exponential smoothing process
US6888484B2 (en) * 2003-05-22 2005-05-03 Agere Systems Inc. Stable high-order delta-sigma error feedback modulators, and noise transfer functions for use in such modulators
US7480234B1 (en) * 2003-10-31 2009-01-20 Cisco Technology, Inc. Initial timing estimation in a wireless network receiver
WO2005099098A1 (en) * 2004-04-09 2005-10-20 Audioasics A/S Sigma delta modulator
GB2425668B (en) * 2005-01-17 2009-02-25 Wolfson Microelectronics Plc Pulse width modulator quantisation circuit
US8139654B2 (en) * 2005-08-08 2012-03-20 University Of Florida Research Foundation Device and methods for biphasic pulse signal coding
US7629912B2 (en) * 2005-12-06 2009-12-08 Nxp B.V. Analog-to-digital converter of the sigma delta type
US7366575B2 (en) * 2005-12-30 2008-04-29 Intel Corporation Wafer polishing control
WO2009006405A1 (en) * 2007-06-28 2009-01-08 The Trustees Of Columbia University In The City Of New York Multi-input multi-output time encoding and decoding machines
US8396503B2 (en) * 2007-10-19 2013-03-12 Telefonaktiebolaget L M Ericsson (Publ) Updating a signal quality target for uplink power control in a radio communication system responsive to estimated required signal quality for changing transmission formats
US7746257B2 (en) * 2008-05-07 2010-06-29 Cirrus Logic, Inc. Delta-sigma analog-to-digital converter circuit having reduced sampled reference noise
US20120207400A1 (en) * 2011-02-10 2012-08-16 Hisao Sasai Image coding method, image coding apparatus, image decoding method, image decoding apparatus, and image coding and decoding apparatus
US8595157B2 (en) * 2011-06-02 2013-11-26 Hrl Laboratories, Llc High-order time encoder based neuron circuit using a hysteresis quantizer, a one bit DAC, and a second order filter
US8909576B2 (en) * 2011-09-16 2014-12-09 International Business Machines Corporation Neuromorphic event-driven neural computing architecture in a scalable neural network
US9331721B2 (en) * 2012-04-30 2016-05-03 The Trustees Of Columbia University In The City Of New York Systems, devices, and methods for continuous time signal processing

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11625588B2 (en) 2019-11-18 2023-04-11 Industrial Technology Research Institute Neuron circuit and artificial neural network chip

Also Published As

Publication number Publication date
WO2015199844A1 (en) 2015-12-30
JP2017526224A (ja) 2017-09-07
KR20170021258A (ko) 2017-02-27
US20150372805A1 (en) 2015-12-24
CN106663220A (zh) 2017-05-10
EP3158697A1 (en) 2017-04-26
BR112016030050A2 (pt) 2017-08-22

Similar Documents

Publication Publication Date Title
TW201618509A (zh) 用於基於閾値的信號編碼的非同步脈衝調制
KR20170041724A (ko) 비동기 펄스 변조를 이용한 인공 뉴런들 및 스파이킹 뉴런들
US10748064B2 (en) Deep neural network training with native devices
TWI762719B (zh) 用於混和訊號運算的系統及方法
JP5680751B2 (ja) 離散順位シナプス及び確率的なstdpによるデジタル神経処理のための方法及びシステム
KR101594724B1 (ko) 스파이킹 신경망들에서의 구조적 지연 가소성에 대한 방법 및 장치
US20150212861A1 (en) Value synchronization across neural processors
US20140351190A1 (en) Efficient hardware implementation of spiking networks
US10140573B2 (en) Neural network adaptation to current computational resources
US9652711B2 (en) Analog signal reconstruction and recognition via sub-threshold modulation
TW201531965A (zh) 配置用於實現低尖峰發放率的神經網路
TW201539335A (zh) 實現神經網路處理器
WO2012006465A1 (en) Methods and systems for cmos implementation of neuron synapse
WO2013119861A1 (en) Methods and apparatus for spiking neural computation
Yoon LIF and simplified SRM neurons encode signals into spikes via a form of asynchronous pulse sigma–delta modulation
KR20160062158A (ko) 의사-랜덤 넘버들의 프로그래머블 확률 분포 함수를 생성하기 위한 방법 및 장치
TW201503001A (zh) 定義多個神經元的動態
EP3092605A2 (en) Simultaneous latency and rate coding for automatic error correction
EP3042343A2 (en) Methods and apparatus for implementing a breakpoint determination unit in an artificial nervous system
CN114912608A (zh) 一种适用于双场量子密钥分发系统的全局相位跟踪预测方法
US20200150927A1 (en) Sum-of-products operator, sum-of-products operation method, logical operation device, and neuromorphic device
Feizi et al. Time-stampless adaptive nonuniform sampling for stochastic signals
JP2023535679A (ja) ニューラル・ネットワークのオンライン・トレーニング
US9418332B2 (en) Post ghost plasticity
US20150213356A1 (en) Method for converting values into spikes