CN101873138A - 浮点量化数字信号的降位转换方法及转换器 - Google Patents
浮点量化数字信号的降位转换方法及转换器 Download PDFInfo
- Publication number
- CN101873138A CN101873138A CN201010204869A CN201010204869A CN101873138A CN 101873138 A CN101873138 A CN 101873138A CN 201010204869 A CN201010204869 A CN 201010204869A CN 201010204869 A CN201010204869 A CN 201010204869A CN 101873138 A CN101873138 A CN 101873138A
- Authority
- CN
- China
- Prior art keywords
- floating
- point
- quantizer
- word length
- digital signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明涉及一种浮点量化数字信号的降位转换方法及转换器。本发明针对广泛使用的均匀量化的数字信号,通过选择和比较,在数值动态范围相当的前提下按步骤设定浮点量化器的指数字长n和尾数的小数位字长p,使得量化器对低幅值的数字信号保持原均匀量化特性,而对高幅值的数字信号采用浮点量化进行存储。本发明既可以大幅节省信号存储所需的空间和计算资源,又可以估算和保证转换后数字信号的平均信噪比,可以广泛应用于数字信号处理、计算机控制和高速数据传输等领域。
Description
技术领域
本发明涉及一种浮点量化数字信号的降位转换方法及转换器,具体地说是一种将均匀量化的数字信号降位转换为浮点量化数字信号及转换器,属于数字信号处理的技术领域。
背景技术
在数字信号处理领域中,目前广泛使用的是基于AD/DA转换器及其采样、量化技术,并且普遍采用均匀量化的方式和使用定点数据的表示方法,所述均匀量化的量化器输入输出特性如图1所示,其中标称量Δ为量化步长q0的整数倍。众所周知,计算机通常采用浮点数的计算格式,特别是二进制的浮点数表示形式。针对二进制的浮点量化方式,所述浮点数量化器输入输出特性如图2所示。由于信号的量化方式存在差异,当外部均匀量化后的定点数据输入计算机处理以及输出时都存在数据量化的转换过程,而其中以均匀量化向浮点量化的转换最为关键。这类应用的典型范例如音频数据的采集、处理和转换,计算机控制系统设计等等。
在数字信号处理系统中,信号是由长度有限的二进制数来表示,这个表示过程也就是一种信号的量化过程,信号的量化不仅存在于数据的采集和传送中,科学计算和数据的转换中都有量化过程。按信号量化方式的不同,分为均匀量化和非均匀量化两种。均匀量化是目前应用最广泛的一种方式,其量化步长q0始终是不变的,量化误差服从区间[-q0/2 q0/2]上的均匀分布,是一种简单可靠的数据表示方法。均匀量化的特点是对所有信号保持相同的量化噪声特性,量化计算方式简单。
非均匀量化是指量化区间不均匀分布的量化方式,常用的有对数量化区间方法,二进制的浮点量化就是一种对数量化方式,如图2所示,设信号字长为NF,所述信号字长NF包括尾数字长p+1和指数字长n,如IEEE标准单、双精度浮点数的p和n分别为23位(不含藏首位)、8位和52位(不含藏首位)、11位。设浮点量化器的最小量化步长为q,一般q选为字长NF所能表示的最小浮点数,Δ=2p+1q为量化器的单位标称数。浮点量化是一个强非线性映射过程,其量化误差不再满足均匀分布,只能近似地估计量化误差的各阶矩,如其中x为输入信号,C为常数,约为0.18,因此浮点量化器的量化噪声功率与输入信号的功率成正比。非均匀量化的实现是通过对输入信号的压缩(compression)、均匀量化和扩展(expansion)三个环节达到,特别是在数字通信领域,存在着两种标准:欧洲的A-律和美国的μ-律。
通过比较均匀量化器和浮点量化器的特征可知,均匀量化器的量化范围一般要比浮点量化器的范围小,量化过程简单易实现,能提供相同量化噪声的统计特征。但均匀量化器的缺点也很明显:由于量化区间和步长是常数,对低幅值的信号量化效果不佳,如一般的音频信号,通常50%以上的时间音量较低,幅值小,使用均匀量化器后有许多量化电压没有用上,而浮点量化器对低幅值信号可以提供更精细的量化结果,同时可以保证信号的量化信噪比维持不变。
目前的AD/DA转换器在采样和量化过程中使用的基本上是均匀量化方式,如音频和图像数据的采集、计算机控制系统中物理信号的检测和监控等,很少直接使用非均匀量化器,然而这些数字信号在进一步处理、计算和转换过程中需要用浮点数形式来完成,因此要将这些均匀量化的数字信号转换为浮点表示的数字信号。通常最直接的方法就是采用补零或移位等技术生成与计算机软件字长相匹配的浮点数,完成浮点量化过程。为进一步发挥浮点量化的优势,减少数字信号转换和计算中的开销,应当考虑根据信噪比或转换条件的需求,将均匀量化的数字信号降位转换为浮点量化的数字信号,在信噪比足够高的情形下达到高效、科学地节省转换空间的目的。
发明内容
本发明的目的是克服现有技术中存在的不足,提供一种浮点量化数字信号的降位转换方法及转换器,其能够节省信号转换所需的空间和计算资源,且能够保证数字信号降位后的信噪比。
按照本发明提供的技术方案,所述浮点量化数字信号的降位转换方法,所述降位转换方法包括如下步骤:
a、检测均匀量化器输出的均匀量化数字信号,得到所述均匀量化数字信号相对应的字长N和量化步长q0;
b、设定浮点量化器的字长NF,使浮点量化器的字长NF≤N-1;
c、设定浮点量化器尾数的小数位字长p的范围,使浮点量化器尾数的小数位字长p满足0<p≤min{N-1,NF-2},其中p为整数,min{N-1,NF-2}表示N-1和NF-2中取值最小的那个;
d、设定浮点量化器步长比k的范围,使所述浮点量化器步长比k与浮点量化器的指数字长n满足n+k+2≤2n,其中浮点量化器步长比k与浮点量化器的指数字长n均为整数;
e、根据步骤c和步骤d中给定的浮点量化器尾数的小数位字长p、浮点量化器步长比k和浮点量化器的指数字长n间的关系,确定浮点量化器步长比k和浮点量化器的指数字长n的值,并且在满足要求的n取值范围内,使浮点量化器对数字信号量化后的平均信噪比最大;
f、由NF=p+n+1,计算得到浮点量化器尾数的小数位字长p;
g、根据步骤b~步骤f得到浮点量化器,估算所述浮点量化器输出对应的浮点量化数字信号的平均信噪比;
h、对均匀量化器输出的均匀量化数字信号进行浮点量化,得到降位的浮点量化数字信号。
所述均匀量化数字信号的量化步长q0与浮点量化器的最小步长q的关系满足q0/q=2k,其中k为浮点量化器步长比,k为整数。所述均匀量化器与浮点量化器的动态表示范围相同时,得到浮点量化器步长比k与浮点量化器的指数字长n满足n+k+2≤2n,其中浮点量化器步长比k与浮点量化器的指数字长n均为整数。
所述浮点量化数字信号的降位转换器,包括量化参数设置单元,接收均匀量化器输出的均匀量化数字信号,并检测所述均匀量化数字信号相对应的字长N和量化步长q0,根据均匀量化数字信号的字长N、量化步长q0,设置浮点量化器字长NF、尾数的小数位字长p和量化器步长比参数k的范围;浮点量化参数查询单元,根据量化参数设置单元设定的浮点量化器字长NF、尾数的小数位字长p和量化器步长比参数k的范围,选择和判断浮点量化器步长比k和指数字长n,使浮点量化器输出的浮点量化数字信号在n的取值范围内平均信噪比最大;确认和量化单元,确认浮点量化参数查询单元的量化器步长比k和指数字长n,得到浮点量化器尾数的小数位字长p和指数字长n,对均匀量化器输出的均匀量化数字信号进行浮点量化,得到浮点量化数字信号。
本发明的优点:通过设置浮点量化器尾数的小数位字长p、指数字长n和量化器步长比k,使浮点量化器输出的浮点量化数字信号在n的取值范围内平均信噪比最大,能够保证浮点量化器对低幅值均匀量化数字信号的量化噪声不超过其对应的均匀量化噪声,对高幅值数字信号的量化信噪比与信号幅值无关,可以节省大量的浮点数字信号的存储空间。
附图说明
图1为现有均匀量化的输入输出特性示意图。
图2为现有浮点量化器的输入输出特性示意图。
图3为本发明降位转换方法的流程图。
图4为本发明转换器的结构示意图。
图5为实施例2对应的均匀量化的音频信号仿真示意图。
图6为实施例2对应的转换误差的仿真示意图。
具体实施方式
下面结合具体附图和实施例对本发明作进一步说明。
本发明将均匀量化数字信号转换为浮点量化数字信号,浮点量化数字信号的字长NF要小于均匀量化数字信号的字长N,能够保证浮点量化器对低幅值均匀量化设置信号的量化噪声不超过其对应的均匀量化噪声,对高幅值数字信号的量化信噪比与信号幅值无关,可以节省大量的浮点数字信号的存储空间;且能够被计算机等数字信号处理设备直接进行信号处理。
所述浮点量化数字信号的降位转换器,包括量化参数设置单元;所述量化参数设置单元接收均匀量化器输出的均匀量化数字信号,并检测所述均匀量化数字信号相对应的字长N和量化步长q0,根据均匀量化数字信号的字长N、量化步长q0、低幅值信号的量化要求和信噪比要求,设置浮点量化器字长NF、尾数的小数位字长p和量化器步长比参数k的范围;
浮点量化参数查询单元,根据量化参数设置单元设定的浮点量化器字长NF、尾数的小数位字长p和量化器步长比参数k的范围,选择和判断浮点量化器步长比k和指数字长n,使浮点量化器输出的浮点量化数字信号在n的取值范围内平均信噪比最大;
确认和量化单元,确认浮点量化参数查询单元的量化器步长比k和指数字长n,得到浮点量化器的小数位字长p和指数字长n,对均匀量化器输出的均匀量化数字信号进行浮点量化,得到浮点量化数字信号。
上述结构的浮点量化数字信号的降位转换器,采用下述步骤的降位转换方法获得,所述降位转换方法包括如下步骤:
a、检测均匀量化器输出的均匀量化数字信号,得到所述均匀量化数字信号相对应的字长N和量化步长q0;所述均匀量化器的数字信号通常由AD转换模块的输出获得;当采集的模拟信号进行AD转换或处理时,均会生成对应的均匀量化数字信号,因此浮点量化器处理的全部数字信号为均匀量化数字信号。
b、根据均匀量化数字信号相对应的字长N,设定浮点量化器的字长NF,且NF=p+n+1,使浮点量化器的字长NF≤N-1,实现对均匀量化数字信号降位转换;所述浮点量化器字长NF可以根据现实存储条件和存储容量进行相对应的设置,能够节省存储空间;
c、浮点量化器在对均匀量化数字信号进行浮点量化时,按照给定的信噪比性能要求设定浮点量化器尾数的小数位字长p;浮点量化器的整数位部分按照二进制处理方法进行处理,处理过程采用现有技术;设定浮点量化器尾数的小数位字长p的范围,使浮点量化器尾数的小数位字长p满足0<p≤min{N-1,NF-2},其中p为整数,min{N-1,NF-2}表示N-1和NF-2中取值最小的那个;所述给定的信噪比性能要求是指使所述浮点量化器输出的浮点量化数字信号能够满足指定的信噪比性能;所述浮点量化器尾数的小数位字长p根据给定的信噪比性能要求进行设置,保证要求的信噪比;
d、所述浮点量化器采用二进制的对数量化器,二进制的数据与计算机等数字信号处理设备能够相匹配,且对数量化器为常用的浮点量化器;浮点量化器将均匀量化数字信号转换为浮点量化数字信号;根据对低幅值信号的量化要求设定浮点量化器步长比k的范围,使所述浮点量化器步长比k与浮点量化器的指数字长n满足n+k+2≤2n,其中浮点量化器步长比k与浮点量化器的指数字长n均为整数;
令均匀量化器与浮点量化器表示的动态范围相等,得到如下关系式:
其中等式左边为浮点量化器的动态表示范围,等式右边表示均匀量化器的动态表示范围;M和m分别表示浮点量化器的最大、最小指数值,q为浮点量化器的最小量化步长,q0为均匀量化器的量化步长M=2n-1-1,m=-(M-1)。
所述浮点量化器步长比k与浮点量化器的最小量化步长q、均匀量化器的量化步长q0间的关系满足
由公式(1)可得,
k=M-m+p-N+2 (3)
浮点量化器步长比k取整数;
根据浮点量化器的字长NF=p+n+1≤N-1,推知
p≤N-n-2 (4)
将公式(4)代入公式(3)中,得到浮点量化器的指数字长n与浮点量化器步长比k的约束关系
n+k+2≤2n (5)
其中浮点量化器的指数字长n与浮点量化器步长比k均为整数;为求解公式(5)的约束不等式及考虑浮点量化器的指数字长n与浮点量化器步长比k均为整数的情况,可以联立得到如下方程
所述浮点量化器的指数字长n与浮点量化器步长比k的取值可以参照表1得到;由于浮点量化器指数有一个比特符号位,因此n≥2;当浮点量化器步长比k≥120时,由于指数位不低于8,采用本发明的浮点量化器的浮点量化对存储空间的影响有限,因此浮点量化器可以直接设置为IEEE标准的单精度浮点数格式或双精度浮点数格式。若找到的量化器的步长比k与表1中给出的参考范围有偏移时,则将找到的量化器步长比k与表1给出的参考范围进行取交集,交集范围最大的为浮点量化器步长比k的范围,从而找到浮点量化器的指数字长n的取值范围。
表1
k的取值 | 对应于k的n值 |
k=0 | n≥2 |
1≤k<4 | n≥3 |
4≤k<11 | n≥4 |
11≤k<26 | n≥5 |
26≤k<57 | n≥6 |
57≤k<120 | n≥7 |
120≤k<247 | n≥8 |
e、根据步骤c和步骤d中给定的浮点量化器尾数的小数位字长p、浮点量化器步长比k和浮点量化器的指数字长n间的关系,确定浮点量化器步长比k和浮点量化器的指数字长n的值,使浮点量化器对数字信号量化后在n的取值范围内平均信噪比最大;
利用确定的浮点量化器步长比k和浮点量化器的指数字长n范围,根据浮点量化后的平均信噪比最大的原则确定浮点量化器的指数字长n与尾数的小数位的字长p;所述均匀量化数字信号与浮点量化的数字信号的平均信噪比分别为
其中SNR1与SNR2分别表示均匀量化的平均信噪比、浮点量化的平均信噪比;x表示输入信号;由公式(6)与公式(7)可知,浮点量化信号的信噪比只与浮点量化的尾数字长p+1有关,因此当字长NF给定时,为使浮点量化的信噪比最大,在步骤d中所得到的浮点量化器步长比k和浮点量化器的指数字长n范围中,必须取浮点量化器的指数字长n的下界值以使SNR2取得最大值。
f、步骤e根据浮点量化的信噪比最大的原则,确定了浮点量化器的指数字长n的值,由NF=p+n+1,计算得到浮点量化器尾数的小数位字长p;
g、根据步骤(b)~步骤(f)得到浮点量化器,估算所述浮点量化器输出对应的浮点量化数字信号的平均信噪比;
经过步骤(b)~步骤(f)后,得到了降位转换器对应的浮点量化器的字长NF、尾数的小数位字长p和指数字长n的值,因此能够唯一确定对应的二进制对数浮点量化器。由q0/q=2k和k取值整数可知,在低幅值区域,浮点量化器的最小量化步长q远小于均匀量化器的步长q0,但随着输入信号幅值的增大,浮点量化器的量化步长按对数规律2p+1q增加,因此,存在一个输入幅值点x0,在所述输入幅值点x0所在的量化区间上均匀量化器步长与浮点量化器步长相等,因此点x0可作为低幅值信号和高幅值信号的区分点。故上述的浮点量化器参数取值,保证了对低幅值数字信号的量化噪声不超过其原有的均匀量化噪声,对高幅值数字信号的量化信噪比与信号幅值无关。
h、对均匀量化器输出的均匀量化数字信号进行浮点量化,得到降位的浮点量化数字信号。
实施例1
设有采样速率44.1KHz,字长N=16比特的标准CD音频数据格式,为均匀量化数据流,为了在计算机中进一步处理和存储,现欲转换为二进制浮点量化数据形式,所述浮点量化器采用对数量化。
检测均匀量化数据字长为N=16比特,根据存储条件设定浮点量化器字长NF=12比特;根据设定的浮点量化器字长NF=12并参照原均匀量化信号的字长N=16,假设要求量化后的信噪比不少于45dB,则由7.44+6.02(p+1)≥45dB,得到浮点量化器尾数的小数位字长p的范围为5≤p≤NF-2=10。假设根据低幅值音频信号的量化精度要求,取浮点量化器的步长比k的范围为0.5NF≤k<NF,即6≤k<12。根据表1中提供的浮点量化器的步长比k和指数字长n的取值关系,确定浮点量化器的步长比k的范围。因为设定浮点量化器的步长比k的范围为6<k<12,与表1中4≤k<11的交集最大,故取4≤k<11,n≥4。
按信噪比最大化原则,得到n=4,由尾数的小数位字长p的范围和公式NF=p+n+1计算出p=7,根据公式k=M-m+p-N+2,得到k=6。
估算浮点量化转换后的平均信噪比为:
若输入为正弦波信号,则浮点量化转换后的信噪比为:
若上述浮点量化后的信噪比不符合要求,则可重新按上述步骤设置浮点量化器各参数值。
确定浮点量化参数NF=p+n+1=12,即尾数字长p+1=8,指数字长n=4(包括符号位),将原均匀量化的16位音频数字信号降位存储为12位的浮点量化数字信号,节省存储空间比率为100%×(16-12)/16=25%;同时由于使浮点量化的平均信噪比最大,保证了对低幅值数字信号的量化噪声不超过对应的均匀量化噪声,对高幅值数字信号的量化信噪比与信号幅值无关。
实施例2
如图5所示为一段音乐在均匀量化后生成的字长N=16比特的数字信号,利用浮点量化器对其进行浮点量化降位转换。
检测均匀量化数据字长为N=16比特,根据现实条件设定浮点量化器字长NF=13比特。
由字长NF=13并参照原均匀量化信号的字长N=16,假设要求量化后的信噪比不少于50dB,则由7.44+6.02(p+1)≥50dB,得到浮点量化器尾数的小数位字长p的范围为6≤p≤NF-2=11。假设根据低幅值音频信号的量化精度要求,取k≥4,即浮点量化器低幅值区的量化步长最大为均匀量化器步长的1/16。根据表1找到浮点量化器步长比k与浮点量化指数字长n的对应关系值,由k≥4,故取n≥4。
按平均信噪比最大化原则,得到n=4,由尾数的小数位字长p的范围和公式NF=p+n+1计算出p=8,根据公式k=M-m+p-N+2得到k=7。
检查验证信噪比和量化精度要求,若得到的浮点量化器参数值不满足性能要求,则可重新按上述步骤设置浮点量化器各参数值。
图6所示为采用字长NF=13比特的浮点数后得到的与原N=16比特均匀量化数字信号的误差曲线。为便于比较,对N=16比特均匀量化信号同时量化转换为NF=16比特的浮点数字信号,其中尾数字长为p+1=12,指数字长n=4,直接从量化前、后得到的信号序列计算出转换后信号的信噪比为SNR3=79.48dB。
将原16位均匀量化音频信号量化转换为字长NF=13比特的浮点数表示后,直接从量化前、后得到的信号序列计算出转换后信号序列的信噪比为SNR4=61.46dB。
因此,得到同位转换与降位转换间相对应的信噪比差值为SNR3-SNR4=79.48-61.46=18.02dB。根据理论计算式SNR2(7)式可知,上述两种量化转换后的信噪比差为ΔSNR=6.02(11-8)=18.06dB,由此可以看出本发明使用的分析方法是有效的。从实际效果来看,将原N=16比特均匀量化数字信号转换为字长NF=13比特的浮点量化信号后,人耳感觉不到音频质量上存在本质上的差异。
本发明通过设置浮点量化器尾数的小数位字长p、指数字长n和量化器步长比k,使浮点量化器输出的浮点量化数字信号在n的取值范围内平均信噪比最大,能够保证浮点量化器对低幅值均匀量化信号的量化噪声不超过其对应的均匀量化噪声,对高幅值数字信号的量化信噪比与信号幅值无关,可以节省大量的浮点数字信号的存储空间。
Claims (4)
1.一种浮点量化数字信号的降位转换方法,其特征是:所述降位转换方法包括如下步骤:
(a)、检测均匀量化器输出的均匀量化数字信号,得到所述均匀量化数字信号相对应的字长N和量化步长q0;
(b)、设定浮点量化器的字长NF,使浮点量化器的字长NF≤N-1;
(c)、设定浮点量化器尾数的小数位字长p的范围,使浮点量化器尾数的小数位字长p满足0<p≤min{N-1,NF-2},其中p为整数,min{N-1,NF-2}表示N-1和NF-2中取值最小的那个;
(d)、设定浮点量化器步长比k的范围,使所述浮点量化器步长比k与浮点量化器的指数字长n满足n+k+2≤2n,其中浮点量化器步长比k与浮点量化器的指数字长n均为整数;
(e)、根据步骤(c)和步骤(d)中给定的浮点量化器尾数的小数位字长p、浮点量化器步长比k和浮点量化器的指数字长n间的关系,确定浮点量化器步长比k和浮点量化器的指数字长n的值,并且在满足要求的n取值范围内,使浮点量化器对数字信号量化后的平均信噪比最大;
(f)、由NF=p+n+1,计算得到浮点量化器尾数的小数位字长p;
(g)、根据步骤(b)~步骤(f)得到浮点量化器,估算所述浮点量化器输出对应的浮点量化数字信号的平均信噪比;
(h)、对均匀量化器输出的均匀量化数字信号进行浮点量化,得到降位的浮点量化数字信号。
2.根据权利要求1所述的浮点量化数字信号的降位转换方法,其特征是:所述均匀量化数字信号的量化步长q0与浮点量化器的最小步长q的关系满足q0/q=2k,其中k为浮点量化器步长比,k为整数。
3.根据权利要求1所述的浮点量化数字信号的降位转换方法,其特征是:所述均匀量化器与浮点量化器的动态表示范围相同时,得到浮点量化器步长比k与浮点量化器的指数字长n满足n+k+2≤2n,其中浮点量化器步长比k与浮点量化器的指数字长n均为整数。
4.一种浮点量化数字信号的降位转换器,其特征是,包括:
量化参数设置单元,接收均匀量化器输出的均匀量化数字信号,并检测所述均匀量化数字信号相对应的字长N和量化步长q0,根据均匀量化数字信号的字长N、量化步长q0,设置浮点量化器字长NF、尾数的小数位字长p和量化器步长比参数k的范围;
浮点量化参数查询单元,根据量化参数设置单元设定的浮点量化器字长NF、尾数的小数位字长p和量化器步长比参数k的范围,选择和判断浮点量化器步长比k和指数字长n,使浮点量化器输出的浮点量化数字信号在n的取值范围内平均信噪比最大;
确认和量化单元,确认浮点量化参数查询单元的量化器步长比k和指数字长n,得到浮点量化器尾数的小数位字长p和指数字长n,对均匀量化器输出的均匀量化数字信号进行浮点量化,得到浮点量化数字信号。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201010204869A CN101873138A (zh) | 2010-06-11 | 2010-06-11 | 浮点量化数字信号的降位转换方法及转换器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201010204869A CN101873138A (zh) | 2010-06-11 | 2010-06-11 | 浮点量化数字信号的降位转换方法及转换器 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN101873138A true CN101873138A (zh) | 2010-10-27 |
Family
ID=42997827
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201010204869A Pending CN101873138A (zh) | 2010-06-11 | 2010-06-11 | 浮点量化数字信号的降位转换方法及转换器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101873138A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107395211A (zh) * | 2017-09-12 | 2017-11-24 | 郑州云海信息技术有限公司 | 一种基于卷积神经网络模型的数据处理方法及装置 |
CN108388420A (zh) * | 2017-02-02 | 2018-08-10 | 英特尔公司 | 使用浮点功能块来实行定点正规化的方法和装置 |
CN108903962A (zh) * | 2018-04-27 | 2018-11-30 | 沈阳东软医疗系统有限公司 | 一种数据处理方法和装置 |
CN111930670A (zh) * | 2020-08-10 | 2020-11-13 | 中国科学院计算技术研究所 | 异构智能处理量化装置、量化方法、电子设备及存储介质 |
CN111930673A (zh) * | 2020-08-10 | 2020-11-13 | 中国科学院计算技术研究所 | 异构智能处理量化装置、量化方法、电子设备及存储介质 |
CN113791756A (zh) * | 2021-09-18 | 2021-12-14 | 中科寒武纪科技股份有限公司 | 转数方法、存储介质、装置及板卡 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09186592A (ja) * | 1995-12-27 | 1997-07-15 | Victor Co Of Japan Ltd | フロ−ティングa/d変換装置 |
CN2362237Y (zh) * | 1997-12-31 | 2000-02-02 | 中国科学院成都计算机应用研究所 | 高精度应变信号浮点量化模块 |
-
2010
- 2010-06-11 CN CN201010204869A patent/CN101873138A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09186592A (ja) * | 1995-12-27 | 1997-07-15 | Victor Co Of Japan Ltd | フロ−ティングa/d変換装置 |
CN2362237Y (zh) * | 1997-12-31 | 2000-02-02 | 中国科学院成都计算机应用研究所 | 高精度应变信号浮点量化模块 |
Non-Patent Citations (2)
Title |
---|
张乐平等: "基于霍夫曼编码的SAR浮点图像数据压缩", 《江西理工大学学报》 * |
谢林柏等: "基于状态观测的量化系统稳定性分析", 《控制理论与应用》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108388420A (zh) * | 2017-02-02 | 2018-08-10 | 英特尔公司 | 使用浮点功能块来实行定点正规化的方法和装置 |
CN108388420B (zh) * | 2017-02-02 | 2023-10-03 | 英特尔公司 | 使用浮点功能块来实行定点正规化的方法和装置 |
CN107395211A (zh) * | 2017-09-12 | 2017-11-24 | 郑州云海信息技术有限公司 | 一种基于卷积神经网络模型的数据处理方法及装置 |
CN107395211B (zh) * | 2017-09-12 | 2020-12-01 | 苏州浪潮智能科技有限公司 | 一种基于卷积神经网络模型的数据处理方法及装置 |
CN108903962A (zh) * | 2018-04-27 | 2018-11-30 | 沈阳东软医疗系统有限公司 | 一种数据处理方法和装置 |
CN108903962B (zh) * | 2018-04-27 | 2022-02-11 | 东软医疗系统股份有限公司 | 一种数据处理方法和装置 |
CN111930670A (zh) * | 2020-08-10 | 2020-11-13 | 中国科学院计算技术研究所 | 异构智能处理量化装置、量化方法、电子设备及存储介质 |
CN111930673A (zh) * | 2020-08-10 | 2020-11-13 | 中国科学院计算技术研究所 | 异构智能处理量化装置、量化方法、电子设备及存储介质 |
CN111930673B (zh) * | 2020-08-10 | 2024-03-05 | 中国科学院计算技术研究所 | 异构智能处理量化装置、量化方法、电子设备及存储介质 |
CN113791756A (zh) * | 2021-09-18 | 2021-12-14 | 中科寒武纪科技股份有限公司 | 转数方法、存储介质、装置及板卡 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101873138A (zh) | 浮点量化数字信号的降位转换方法及转换器 | |
CN108306649B (zh) | 一种用于测距传感器的数据处理的方法及设备 | |
CN102113050B (zh) | 音频信号的瞬态检测方法及设备 | |
CN111310890B (zh) | 深度学习模型的优化方法、装置及终端设备 | |
CN1997988B (zh) | 在音频编码过程中根据mdct数据进行视窗类型判定的方法 | |
WO2021096641A1 (en) | Recurrent neural networks and systems for decoding encoded data | |
CN102984711A (zh) | 基于单比特压缩感知技术的多用户协作频谱感知方法 | |
WO2020113945A1 (zh) | 一种极化码构造方法、装置、电子设备及可读存储介质 | |
CN110874625B (zh) | 一种数据处理方法及装置 | |
CN100521549C (zh) | 音频编解码系统和使用该音频编解码系统的编码方法 | |
CN102467910A (zh) | 编码设备、编码方法和程序 | |
CN103544957A (zh) | 音频信号的比特分配的方法和装置 | |
CN103778918A (zh) | 音频信号的比特分配的方法和装置 | |
CN103299548A (zh) | 执行增强的σ-δ调制 | |
CN115987296A (zh) | 基于霍夫曼编码的交通能源数据压缩传输方法 | |
CN102748011A (zh) | 一种应用于工业监控设备的音频监控终端及音频处理方法 | |
CN101562015A (zh) | 音频处理方法及装置 | |
CN104104390A (zh) | 一种信号压缩方法和重构方法及相关装置和系统 | |
EP2793228A1 (en) | Stereo encoding method, stereo encoding device, and encoder | |
Nicodemo et al. | Memory requirement reduction of deep neural networks for field programmable gate arrays using low-bit quantization of parameters | |
CN101101755A (zh) | 一种音频编码的比特分配及量化方法及音频编码装置 | |
CN105103226A (zh) | 低复杂度音调自适应音频信号量化 | |
Velimirovi'c et al. | Optimization of Quantizer’s Segment Threshold Using Spline Approximations for Optimal Compressor Function | |
CN101377926B (zh) | 加速量化循环程序功能的音频编码方法 | |
CN103794219A (zh) | 一种基于m码字分裂的矢量量化码本生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20101027 |