CN102110078A - 用于获取幂函数Xp的近似运算结果的方法和系统 - Google Patents
用于获取幂函数Xp的近似运算结果的方法和系统 Download PDFInfo
- Publication number
- CN102110078A CN102110078A CN2009102620629A CN200910262062A CN102110078A CN 102110078 A CN102110078 A CN 102110078A CN 2009102620629 A CN2009102620629 A CN 2009102620629A CN 200910262062 A CN200910262062 A CN 200910262062A CN 102110078 A CN102110078 A CN 102110078A
- Authority
- CN
- China
- Prior art keywords
- operation result
- result
- look
- value
- preliminary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Complex Calculations (AREA)
Abstract
公开了一种用于获取幂函数Xp的近似运算结果的方法和系统。该方法包括:通过利用X1 p和(X1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果,其中,X1 p和(X1+2-m)p的运算结果分别是利用x1x2…xm和x1x2…xm+1作为索引从第一查找表中查找得到的,第一查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时[1.x1x2…xm]p的运算结果,m是自然数,p是实常数;以及通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果,其中,运算结果修正值是根据利用x1x2…xm作为索引从第二查找表中查找得到的Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值计算得出的,第二查找表中包含有当x1x2…xm取[0,22m-1]中的任意值时Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值。
Description
技术领域
本发明涉及信号处理领域,更具体地涉及一种用于获取幂函数Xp的近似运算结果的方法和系统。
背景技术
幂函数被广泛用在信号处理领域中。例如,在诸如高级音频编码(AAC)和动态影像专家压缩标准MPEG1/2 Layer 3(MP3)的音频算法中,反量化模块需要获取的运算结果。在频谱复制(SBR)算法中,需要获取均方函数X0.5的运算结果。由于上述函数的运算结果将大大影响最终解码声音质量,所以需要尽可能精确地得出它们的运算结果。在定点数字信号处理器(DSP)或硬件上实现上述函数的精确计算是非常困难的。
最常用的近似得出上述函数的运算结果的方法是,利用线性内插的查表法。然而,为了达到较高的计算精度水平,需要非常大的查找表。另外,一些方法将整个X区间划分为若干个区间,并且每区间使用不同阶的泰勒(Taylor)展开函数。其中,一些区间可能需要4次或者更高阶的Taylor展开系数。对于不同区间,Taylor展开的阶次及系数都将相差很大。
例如,对于任意的Xp,(1≤X<2,p∈R),假设操作数X是1≤X<2区间内的n+1比特的二进制数。X可以表示为[1.x1x2…xn](xi∈{0,1}),并且可以被划分为两个部分,在前部分[1.x1x2…xm]和在后部分[0.xm+1xm+2…xn]×2-m。
获取幂函数Xp的运算结果的最常用的方法是利用线性内插的查找法。在一些利用线性内插的查表法中,通过以X1+2-m-1为基础进行一阶Taylor展开来获取幂函数Xp的运算结果。而在另外一些利用线性内插的查表法中,直接在查找表中找出X1 p的运算结果,然后使用X2来进行线性内插。
下面给出了以X1+2-m-1为基础进行二阶Taylor展开而获取的幂函数Xp的运算结果:
其中,以上计算得出的Xp的运算结果与利用标准C库函数(Visualstudio 2005,Windows XP professional平台,下同)得出的Xp的理论运算结果之间的误差大约为:
由于以上误差是(X2-2-m-1)的三阶函数,所以当X2与2-m-1的距离增大时,Xp的运算结果的误差增大的更快。
由以上所述可见,利用Taylor展开方法获取的Xp的运算结果误差随着(X2-2-m-1)绝对值的增大而迅速增大,从而将极大地影响音频信号的处理性能,进而影响声音质量。
发明内容
鉴于以上所述的一个或多个问题,本发明提供了一种新颖的用于获取幂函数Xp的近似运算结果的方法和系统。
根据本发明实施例的用于获取幂函数Xp的近似运算结果的方法(其中X是n+1位的二进制数,且X=[1.x1x2…xn]=X1+X2,X1=[1.x1x2…xm],X2=[0.xm+1xm+2…xn]×2-m),包括:通过利用X1 p和(X1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果,其中,X1 p和(X1+2-m)p的运算结果分别是利用x1x2…xm和x1x2…xm+1作为索引从第一查找表中查找得到的,第一查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时[1.x1x2…xm]p的运算结果,m和n均是自然数,p是实常数;以及通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果,其中,运算结果修正值是根据利用x1x2…xm作为索引从第二查找表中查找得到的Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值计算得出的,第二查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值。
根据本发明实施例的用于获取幂函数Xp的近似运算结果的系统(其中X是n+1位的二进制数,且X=[1.x1x2…xn]=X1+X2,X1=[1.x1x2…xm],X2=[0.xm+1xm+2…xn]×2-m),包括:初步结果获取单元,被配置为通过利用X1 p和(x1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果,其中,X1 p和(X1+2-m)p的运算结果分别是利用x1x2…xm和x1x2…xm+1作为索引从第一查找表中查找得到的,第一查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时[1.x1x2…xm]p的运算结果,m和n均是自然数,p是实常数;以及修正结果获取单元,被配置为通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果,其中,运算结果修正值是根据利用x1x2…xm作为索引从第二查找表中查找得到的Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值计算得出的,第二查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值。
通过本发明,可以利用很小的查找表实现高精度的幂函数运算结果,从而可以节省实现幂函数运算的计算装置的容量,提高运算性能。
附图说明
从下面结合附图对本发明的具体实施方式的描述中可以更好地理解本发明,其中:
图1是根据本发明实施例的用于获取幂函数的近似运算结果的方法的流程图;
图2是根据本发明实施例的用于获取幂函数的近似运算结果的系统的框图;
图3是在p=4/3,m=4且n=12情况下,利用线性内插方法获取的幂函数的初步运算结果与利用标准C库函数得出的幂函数的理论运算结果之间的误差的曲线图;
图4是在m=4,n=12的情况下,p从-3变化到3的过程中利用图2所示装置获取的幂函数的修正运算结果与利用标准C库函数得出的幂函数的理论运算结果之间的最大相对误差的曲线图;
图5是在m=4,n=10且p=4/3的情况下,利用图2所示装置获取的幂函数的修正运算结果与利用标准C库函数得出的幂函数的理论运算结果之间的误差的曲线图;
图6是利用传统的2阶Taylor展开方法获取的幂函数的运算结果与利用标准C库函数得出的幂函数的理论运算结果之间的误差的曲线图;
图7是根据本发明另一实施例的用于获取幂函数的近似运算结果的系统的框图。
具体实施方式
下面将详细描述本发明各个方面的特征和示例性实施例。下面的描述涵盖了许多具体细节,以便提供对本发明的全面理解。但是,对于本领域技术人员来说显而易见的是,本发明可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本发明的示例来提供对本发明更清楚的理解。本发明绝不限于下面所提出的任何具体配置和算法,而是在不脱离本发明的精神的前提下覆盖了相关元素、部件和算法的任何修改、替换和改进。
图1是根据本发明实施例的用于获取幂函数的近似运算结果的方法的流程图。如图1所示,用于获取幂函数Xp的近似运算结果的方法(其中X是n+1位的二进制数,且X=[1.x1x2…xn]=X1+X2,X1=[1.x1x2…xm],X2=[0.xm+1xm+2…xn]×2-m)包括:S102,通过利用X1 p和(X1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果;S104,通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果。
图2是根据本发明实施例的用于获取幂函数的近似运算结果的系统的框图。其中,图2所示的系统用于实现图1所示的方法,并且包括初步结果获取单元202和修正结果获取单元204。初步结果获取单元202通过利用X1 p和(X1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果(即,执行步骤S102)。修正结果获取单元204通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果(即,执行步骤S204)。
其中,X1 p和(X1+2-m)p的运算结果分别是利用x1x2…xm和x1x2…xm+1作为索引从第一查找表中查找得到的,第一查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时[1.x1x2…xm]p的运算结果,m和n均是自然数,p是实常数;运算结果修正值是根据利用x1x2…xm作为索引从第二查找表中查找得到的Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值计算得出的,第二查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值。
这里,Xp的初步运算结果和Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值可以由初步结果获取单元202和修正结果获取单元204自身直接从第一和第二查找表中获取,也可以由专用的查表单元获取并提供给初步结果获取单元202和修正结果获取单元204。下面对本发明的具体实施方式进行详细描述。
假设用于线性内插的查找表(即,第一查找表)是查找表A。由于查找表A中保存了当x1x2…xm取[0,2m-1]中的任意值时 的运算结果,所以该表中总共包含2m个元素,x1x2…xm可以被直接用作用于查找表A的索引。可以根据两个连续的索引x1x2…xm和x1x2…xm+1从查找表A中找出X1 p和(X1+2-m)p的运算结果(分别记做Ai和Ai+1)。然后,可以根据X2到两个索引x1x2…xm和x1x2…xm+1的距离计算内插值作为Xp的初步运算结果:
在以上等式中,i=x1x2…xm,Ai表示查找表A中的第i个值。
虽然以上的线性内插方法非常简单,但是它不能实现高精确水平。例如,对于p=4/3,m=4且n=12的情况,利用以上方法获取的Xp的初步运算结果相对于利用标准C库函数得到的Xp的理论运算结果的最大相对误差是0.020419%(这个数据是在Visual studio 2005的平台上的实验得到的,并且下面的所有数据都是在该平台上实验得到的。)如果要实现高精确水平,则需要很大的查找表。
如果对通过线性内插方法得出的Xp的初步运算结果和通过标准C库函数得到的Xp的理论运算结果进行比较,会发现它们之间的绝对差值具有某种特性。图3示出了在p=4/3,m=4且n=12情况下,通过线性内插方法获取的Xp的初步运算结果与利用标准C库函数得出的Xp的理论运算结果之间的误差的曲线图。在图3中,横轴表示X值,纵轴表示绝对差值。假设横轴上以q(在图中,从0到4500)来表示X的大小,真实的X值为X=1+q*1.0/4096。
如图3中所示,随着X值的变化,Xp的初步运算结果与理论运算结果之间的绝对差值的变化趋势呈二次函数的形状。在图3的情况中,在X从1变化到1.999755859375(1+4095/4096)的过程中,Xp的初步运算结果与理论运算结果之间的绝对差值的变化形成了16(=2m)个脉冲,即出现了16个峰值。如果当前X正好为X1=[1.x1x2…xm],则Xp的初步运算结果与理论运算结果之间的绝对差值将为0。
从图3中可以看出,所有16脉冲几乎具有相同的形状,除了幅度不同以外。并且这16个脉冲的形状非常类似于函数f(x)=x2的形状。如果使用x2来计算添加到Xp的初歨运算结果的运算结果修正值,则可以大大减小Xp的初步运算结果与理论运算结果之间的绝对差值。也就是说,对于2m个脉冲中的每一个,可以使用简单的x2来计算运算结果修正值。由于每个脉冲具有不同的幅度,所以需要将每个脉冲的峰值幅度值保存到另一个查找表B(即,第二查找表)中。查找表B中总共包含2m个元素。
在本发明中,可以根据以下等式获取Xp的修正运算结果:
在以上等式中,i=x1x2…xm,Ai表示查找表A中的第i个值,Bi表示查找表B中的第i个值。
显然,查找表A和B的总大小为2m+1。这两个查找表共享的索引x1x2…xm。除了的线性内插处理以外,根据本发明的方法和装置还需要进行从查找表B获取Bi的处理和乘法处理。虽然,根据本发明的方法和装置相对于简单的线性内插方法慢大约2倍,但是对于具有强大的乘法计算功能的中央处理单元,可以仅以小的计算时间增量而大大改善精确水平。
为了计算根据本发明获取的Xp的修正运算结果与利用C库函数得出的Xp的理论运算结果之间的绝对差值,进一步限定X3=X2×2m=[0.xm+1xm+2…xn]。显然,X3属于[0,1)。可以使用基于X1的3阶Taylor展开来计算该绝对差值:
在p=4/3,m=4且n=12的情况下,利用根据本发明的方法获取的Xp的修正运算结果相对于利用标准C库函数得到的Xp的理论运算结果的最大相对误差是0.000055%,其大约比简单的线性内插方法精确371倍。为了实现0.00005%的相同精确度,简单的线性内插方法所需的查找表大小为512,其大约是根据本发明的方法所需的查找表的16倍。
尽管根据本发明的方法适用于任何p值,但是对于不同的p值性能不同。图4是在m=4,n=12的情况下,p从-3变化到3的过程中利用图2所示装置获取的Xp的修正运算结果与理论运算结果之间的最大相对误差的曲线图。显然,根据本发明的方法可以实现非常高的精确水平。从图4可以看出,精确结果以0.5的中间点p值对称。从图4中还可以看出,当p处于0至2的区间中时,根据本发明的方法可以实现最好的性能。所以,优选将大p或小p划分成若干部分。例如,p=3.45可以被划分为p1=1.45,P2=2。
假设p=4/3,m=4且n=10。然后,用于简单的线性内插的查找表A的大小为2m=16。用于计算运算结果修正值的查找表B的大小也为2m=16。两个查找表的总大小为2m+1=32。
表1
i | Ai |
0 | 1.000000 |
1 | 1.084190 |
2 | 1.170047 |
3 | 1.257510 |
4 | 1.346522 |
5 | 1.437030 |
6 | 1.528986 |
7 | 1.622347 |
8 | 1.717071 |
9 | 1.813121 |
10 | 1.910459 |
11 | 2.009054 |
12 | 2.108874 |
13 | 2.209890 |
14 | 2.312074 |
15 | 2.415399 |
表2
i | Bi*10000000000 |
0 | 2126254 |
1 | 2044442 |
2 | 1970073 |
3 | 1902118 |
4 | 1839736 |
5 | 1782229 |
6 | 1729016 |
7 | 1679604 |
8 | 1633579 |
9 | 1590582 |
10 | 1550307 |
11 | 1512489 |
12 | 1476896 |
13 | 1443325 |
14 | 1411600 |
15 | 1381562 |
图5是在m=4,n=10且p=4/3的情况下,利用图2所示装置获取的Xp的修正运算结果与利用标准C库函数得出的Xp的理论运算结果之间的误差的曲线图。在图5中,横轴表示X值。纵轴表示绝对差值。假设横轴以q(在图中,从0到1200)来表示X的大小,真实的X值为X=1+q*1.0/1024。由于绝对差值太小,所以在图5中,纵轴的值被放大10000000倍。相对于图3,可以看出根据本发明的方法可以大大改善精确水平。
对于相同的X值,使用相同的平台并获取利用2阶Taylor展开方法获取的Xp的修正运算结果与利用标准C库函数得出的Xp的理论运算结果之间的绝对差值。图6是利用传统的2阶Taylor展开方法获取的Xp的运算结果与利用标准C库函数得出的Xp的理论运算结果之间的误差的曲线图。显然,当X2与2-m-1之间的距离增加时,误差迅速增大。在这种情况下最大相对误差为0.000132%。
图7是根据本发明另一实施例的用于获取幂函数Xp的近似运算结果的系统的框图。如图7所示,该用于获取幂函数Xp的近似运算结果的系统包含两个部分:数据处理部分702和查找表存储部分704。其中,数据处理部分702包括三个单元:操作数划分单元7022、线性内插处理单元(即,初步结果获取单元)7024、以及运算结果修正单元(修正结果获取单元)7026。查找表存储部分704保存有用于线性内插的查找表(即,第一查找表)和用于修正的查找表(即,第二查找表)。操作数划分单元7022将操作数X划分为X1和X2两部分。线性内插处理单元7024通过简单的线性内插处理,获取Xp的初步运算结果。运算结果修正单元7026利用从第二查找表中获取的数据对线性内插得出的初步运算结果进行修正。
通过本发明,可以利用很小的查找表实现高精度的幂函数运算结果,从而可以节省实现幂函数运算的计算装置的容量,提高运算性能。
以上已经参考本发明的具体实施例来描述了本发明,但是本领域技术人员均了解,可以对这些具体实施例进行各种修改、组合和变更,而不会脱离由所附权利要求或其等同物限定的本发明的精神和范围。
根据需要可以用硬件或软件来执行步骤。注意,在不脱离本发明范围的前提下,可向本说明书中给出的流程图添加步骤、从中去除步骤或修改其中的步骤。一般来说,流程图只是用来指示用于实现功能的基本操作的一种可能的序列。
本发明的实施例可利用编程的通用数字计算机、利用专用集成电路、可编程逻辑器件、现场可编程门阵列、光的、化学的、生物的、量子的或纳米工程的系统、组件和机构来实现。一般来说,本发明的功能可由本领域已知的任何手段来实现。可以使用分布式或联网系统、组件和电路。数据的通信或传送可以是有线的、无线的或者通过任何其他手段。
还将意识到,根据特定应用的需要,附图中示出的要素中的一个或多个可以按更分离或更集成的方式来实现,或者甚至在某些情况下被去除或被停用。实现可存储在机器可读介质中的程序或代码以允许计算机执行上述任何方法,也在本发明的精神和范围之内。
此外,附图中的任何信号箭头应当被认为仅是示例性的,而不是限制性的,除非另有具体指示。当术语被预见为使分离或组合的能力不清楚时,组件或者步骤的组合也将被认为是已经记载了。
Claims (8)
1.一种用于获取幂函数Xp的近似运算结果的方法,其中X是n+1位的二进制数,且X=[1.x1x2…xn]=X1+X2,X1=[1.x1x2…xm],X2=[0.xm+1xm+2…xn]×2-m,所述方法包括:
通过利用X1 p和(X1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果,其中,X1 p和(X1+2-m)p的运算结果分别是利用x1x2…xm和x1x2…xm+1作为索引从第一查找表中查找得到的,所述第一查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时[1.x1x2…xm]p的运算结果,m和n均是自然数,p是实常数;以及
通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果,其中,所述运算结果修正值是根据利用x1x2…xm作为索引从第二查找表中查找得到的Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值计算得出的,所述第二查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值。
2.根据权利要求1所述的用于获取幂函数Xp的近似运算结果的方法,其特征在于,根据以下等式进行线性内插处理:
5.一种用于获取幂函数Xp的近似运算结果的系统,其中X是n+1位的二进制数,且X=[1.x1x2…xn]=X1+X2,X1=[1.x1x2…xm],X2=[0.xm+1xm+2…xn]×2-m,所述系统包括:
初步结果获取单元,被配置为通过利用X1 p和(X1+2-m)p的运算结果以及X2进行线性内插处理,获取Xp的初步运算结果,其中,X1 p和(X1+2-m)p的运算结果分别是利用x1x2…xm和x1x2…xm+1作为索引从第一查找表中查找得到的,所述第一查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时[1.x1x2…xm]p的运算结果,m和n均是自然数,p是实常数;以及
修正结果获取单元,被配置为通过利用运算结果修正值对Xp的初步运算结果进行修正,获取Xp的修正运算结果,其中,所述运算结果修正值是根据利用x1x2…xm作为索引从第二查找表中查找得到的Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值计算得出的,所述第二查找表中包含有当x1x2…xm取[0,2m-1]中的任意值时Xp的初步运算结果与Xp的理论运算结果之间的误差幅值极大值。
6.根据权利要求5所述的用于获取幂函数Xp的近似运算结果的系统,其特征在于,所述初步结果获取单元根据以下等式进行线性内插处理:
7.根据权利要求5所述的用于获取幂函数Xp的近似运算结果的系统,其特征在于,所述误差幅值极大值为
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009102620629A CN102110078A (zh) | 2009-12-23 | 2009-12-23 | 用于获取幂函数Xp的近似运算结果的方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009102620629A CN102110078A (zh) | 2009-12-23 | 2009-12-23 | 用于获取幂函数Xp的近似运算结果的方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102110078A true CN102110078A (zh) | 2011-06-29 |
Family
ID=44174241
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009102620629A Pending CN102110078A (zh) | 2009-12-23 | 2009-12-23 | 用于获取幂函数Xp的近似运算结果的方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102110078A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021217647A1 (zh) * | 2020-04-30 | 2021-11-04 | 华为技术有限公司 | 一种图像色彩处理方法及装置 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101589610A (zh) * | 2007-01-25 | 2009-11-25 | 高通Mems科技公司 | 使用对数查找表的任意幂函数 |
-
2009
- 2009-12-23 CN CN2009102620629A patent/CN102110078A/zh active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101589610A (zh) * | 2007-01-25 | 2009-11-25 | 高通Mems科技公司 | 使用对数查找表的任意幂函数 |
Non-Patent Citations (1)
Title |
---|
李琳: "音频感知编码模型及关键技术的研究", 《中国博士学位论文全文数据库》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021217647A1 (zh) * | 2020-04-30 | 2021-11-04 | 华为技术有限公司 | 一种图像色彩处理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Lüscher | A portable high-quality random number generator for lattice field theory simulations | |
KR101867567B1 (ko) | Dpd 시스템 | |
CA3097137A1 (en) | Enabling constant plaintext space in bootstrapping in fully homomorphic encryption | |
US9337863B1 (en) | Methods and apparatus for rational compression and decompression of numbers | |
CN101427472A (zh) | 用于熵编码和解码的方法和设备 | |
CN102163972A (zh) | 对adc中非线性的修正 | |
CN111178514A (zh) | 神经网络的量化方法及系统 | |
JPWO2020065874A1 (ja) | ネットワーク量子化方法、推論方法及びネットワーク量子化装置 | |
CN104836760A (zh) | 一种信道估计方法及装置 | |
Langroudi et al. | Alps: Adaptive quantization of deep neural networks with generalized posits | |
KR102213835B1 (ko) | 동형암호 기법으로 암호화된 데이터의 지수 함수 연산 서버 및 방법 | |
Wang et al. | Further relaxations of the SDP approach to sensor network localization | |
US20030191788A1 (en) | Method of performing quantization within a multimedia bitstream utilizing division-free instructions | |
Kosolobov | Lempel-Ziv factorization may be harder than computing all runs | |
RU2010109431A (ru) | Способ передачи данных | |
CN102110078A (zh) | 用于获取幂函数Xp的近似运算结果的方法和系统 | |
Madras | A lower bound for the end-to-end distance of the self-avoiding walk | |
CN111598227A (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
KR20000047546A (ko) | 효율적인 해싱법 | |
Ballet et al. | On the bounds of the bilinear complexity of multiplication in some finite fields | |
CN109756291A (zh) | 一种基于查表法的混沌扩频码生成方法及系统 | |
CN101931419B (zh) | 一种turbo码内交织器的计算方法及装置 | |
Iliopoulos et al. | Linear-time computation of cyclic roots and cyclic covers of a string | |
CN110276448B (zh) | 一种模型压缩方法及装置 | |
JP2018013924A (ja) | 移動体経路検索装置、記号列検索装置、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20110629 |
|
RJ01 | Rejection of invention patent application after publication |