CN1284300C - 概率运算元件、其驱动方法和使用它的识别处理装置 - Google Patents

Abstract

本发明的概率运算元件，具有：输出具有波动的模拟量的波动发生器(15)；波动差分运算部件(401)，输出将所述波动发生器的输出增加到2个数据的模拟的差分后的波动差分数据；通过阈值处理所述波动差分运算部件的输出来输出脉冲的阈值处理器(47)；检测从所述阈值处理器输出的脉冲的脉冲检测部件。

Description

概率运算元件、其驱动方法和使用它的识别处理装置

技术领域

本发明涉及一种基于新颖的操作原理的概率运算元件，特别地，本发明提供一种能够高速运算作为识别处理所必须的运算的矢量匹配的概率运算元件，和使用它的识别处理装置。

背景技术

可看见，近些年来个人计算机(PC)得到普及，运算元件在家庭内的使用也大幅增加，不仅数值运算，而且因特网、邮件和图像处理等个人的用途的使用领域也增加。

但是，在能够这样高速运算的PC中，对于全部的运算并不能得到充分的速度。例如，识别人发出的声音或者语言，或者识别摄像机所摄像的人是谁这样的处理需要进行庞大的运算，所以实时(realtime)处理是困难的。

这样的识别处理的基本内容是，将存储的声音或者面孔等信息矢量化存储，将输入信息同样矢量化，检测它们的近似度，进行哪个是最接近这样的运算。这样的矢量比较处理是联想存储或者矢量量子化、动态预测等的图形识别，或者数据压缩等宽广的信息处理中能够使用的基本处理。

这样的矢量比较中任何一种的用途都需要庞大的运算量，另外在已有的PC为代表的诺伊曼型计算机中，在原理上，如果还没有结束全部的矢量比较运算，就不能提取出哪个是最近，结果非常需要时间。

另一方面，人们能够毫不费力地立即进行这些识别处理。由此考虑到，通过创造出与已有的计算机不同的处理原理的计算机，来高速进行这些处理，补充已有的计算机。

作为基于这样新颖的运算原理的运算元件的一个例子，可举出特开2001-313386号公报中所记载的“信息处理构造体”。

图40是示意性表示该已有的运算元件的构造的斜视图。如图40所示，在该已有的运算元件220中，配置电源电极214，使得与细微的MISFET211的栅电极212相对，在两电极212，214之间形成纳米级大小的多个量子点213，221。具体地说，在栅电极212的宽度方向(栅宽度方向)以一定的间距配置一对信息电极222，在各对信息电极222之间列状配置多个量子点221。符号301表示配置信息电极222和量子点221的假想平面。在配置成该列状的量子点221和栅电极212之间还配置量子点213。通过这样，在各量子点221和栅电极212之间形成电子可直接通过的能垒。

图41(a)，(b)是表示该现有的运算元件220的运算原理的等价电路的示意图。

在图41(a)，(b)中，对各对信息电极222输入分别与输入图案(输入矢量)和参照图案(参照矢量)对应的电压。这些电压是取1和0这两个值中的任何一个的数字电压。如果这样的电压分别输入到夹着量子点221的各对信息电极222，就通过由各对信息电极222确定的电位，概率地产生电子停留在中央附近(图41(a))或者移动(图41(b))，由此MISFET(金属绝缘场效应晶体管)的漏极电流变化。

而且，通过连续观测漏极电流，与时间一起提高了概率，所以能够得到接近严密的运算结果的解。

但是，上述现有的运算元件220，由于第一使用了量子点213，221，首先必须等待量子点213，221的制造工艺的确立，需要现在的半导体工艺技术之外的技术，这一点是烦杂的。

另外，在矢量的比较中，是所谓的2值信息比较，所以求出加重平均距离是有效的，但是具有在实际的信息处理中计算频繁使用的曼哈顿距离(差的绝对值)等是困难的这样的问题。

此外，在上述现有的运算元件220中，对各对信息电极222输入与比较的2个矢量(输入矢量和参照矢量)的各个要素(源)对应的电压，各对信息电极222中各个要素的差分运算是模拟的且概率地进行，其各个要素的差分的总和作为MISFET211的漏极电流而表现。而且，根据该漏极电流的大小来判断2个矢量的差异，换句话说是近似度。因此，这样比较的矢量的要素多，需要高精度检测漏极电流，具有近似度的判断是困难的这样的问题。

发明内容

本发明的第一目的在于，提供一种利用现有的半导体加工技术能制造的概率运算元件，其驱动方法和使用它的识别处理装置。

本发明的第二目的在于，提供一种能够运算曼哈顿距离的概率运算元件，其驱动方法和使用它的识别处理装置。

本发明的第三目的在于，提供一种既使比较的矢量的要素多，也能容易地判断近似度的概率运算元件，其驱动方法和使用它的识别处理装置。

然后，为了实现这些目的，本发明的概率运算元件具有：输出具有波动的模拟量的波动发生器；波动差分运算部件，输出将所述波动发生器的输出增加到2个数据的模拟的差分的波动差分数据；通过阈值处理所述波动差分运算部件的输出来输出脉冲的阈值处理器；和检测从所述阈值处理器输出的脉冲的脉冲检测部件。如按照这样的构成，由于运算2个数据的模拟差分，所以能够运算曼哈顿距离。另外，由于阈值处理对2个数据的模拟差分增加了波动的波动差分数据，输出脉冲，所以能够高速运算2个数据的差。另外，由于能够以现有的电路元件来构成，所以能够利用现有的半导体加工技术来制造。

所述波动差分运算部件还可以具有：运算模拟的所述2个数据的差分的距离运算器；将所述距离运算器的输出和所述波动发生器的输出相加的加法器。

所述波动差分运算部件还可以具有：将模拟的所述输入矢量的要素数据和所述波动发生器的输出相加的加法器；运算所述加法器的输出和模拟的所述参照矢量的要素数据的差分的距离运算器。

所述脉冲检测部件还可以具有对所述脉冲计数的计数器。如按照这样的构成，能够通过脉冲数更高精度地检测2个数据的差。

所述脉冲检测部件还可以具有对所述脉冲的电荷量进行积分的积分器。如按照这样的构成，如仅有脉冲数也能够检测其宽度，所以能够更高精度地检测2个数据的差。

所述2个数据可以是表示2个矢量的各个要素的要素数据。

所述2个矢量是从外部输出的参照矢量和输入矢量，具有与所述参照矢量和输入矢量的要素对应的多个概率运算电路，各个所述概率运算电路具有：用于存储所述输入的参照矢量的要素数据的存储器；所述波动差分运算部件，输出对存储在所述存储器中的参照矢量的要素数据和所述输入的输入矢量的要素数据的模拟差分增加所述波动发生器的输出后的波动差分数据；和所述阈值处理器，所述脉冲检测部件可以检测从所述多个所述概率运算电路输出的脉冲。如按这样的构成，由于并联地进行矢量要素间的差的运算，所以能够高速检测输入矢量和参照矢量的距离，即所谓的近似度。而且，输入矢量和参照矢量的要素间的差以脉冲输出，输入矢量和参照矢量的近似度作为其脉冲总和来检测，所以即使比较对象的矢量要素多，也能够容易地判断近似度。

所述多个概率运算电路的脉冲输出端，互相并列连接到一端与所述脉冲检测部件连接的共同布线上，在所述共同的布线的、与所述多个概率运算电路的脉冲输出端的连接部之间的部分，可分别设置延迟电路。如按照这样的构成，即使从各个概率运算电路以相同的定时输出脉冲，也能够更高精度地检测脉冲的总和。

也可以具有多个包括所述多个概率运算电路和所述脉冲检测部件的矢量列比较电路。如按照这样的构成，能够将输入矢量一次与多个参照矢量进行比较。

所述存储器是模拟存储器，模拟的所述参照矢量的要素数据也可以存储到所述模拟存储器中。如按照这样的构成，能够预先写入参照矢量，将输入矢量与其进行比较。

所述模拟存储器具有：强电介质电容器与栅电极连接的源极输出器电路，模拟的所述参照矢量的要素数据可输入并且存储到所述强电介质电容器中。

在所述源极输出器电路的栅电极，还可以连接常电介质电容器。如果按照这样的构成，由于能够将源极输出器电路的尺寸形成为与周边电路的尺寸相等，所以容易制造。

所述波动差分运算部件具有：将所述2个数据的模拟的差分或者模拟的所述输入矢量的要素数据和所述波动发生器的输出进行相加的加法器，所述加法器具有：第一和第二电容器并列连接到栅电极的源极输出器电路，对所述第一电容器，输入所述波动发生器的输出，对所述第二电容器，可输入所述两个数据的模拟的差分或者模拟的所述两个数据的一个。

所述加法器的源极输出器电路的栅电极也可以通过开关元件与接地端子连接。如按这样的构成，能够除去源极输出器电路的栅电极的电荷。

所述计数器可以是脉动计数器。如按照这样的构成，不仅能够简单地计数脉冲数，而且能将脉动计数器的高位比特作为标记，由此能够容易地将前面确立了标记的矢量列确定。

所述波动也可以是无序波动。

所述波动也可以是增大噪音得到的波动。

所述波动发生器，可产生周期的输出，作为具有波动的输出，而且所述周期的输出的一个周期的输出的直方图值相等。

所述距离运算器具有减法元件，所述减法元件具有与栅电极并列的两个电容器连接的源极输出器电路，而且所述两个电容器的电容是相等的C₁，构成所述源极输出器电路的NMIS和PMIS的电容分别是C_N，C_P，在向所述源极输出器电路输入电压时，从低电压侧的电压源的电位开始上升电位的电压是V_LOW时，通过公式V_Z＝V_LOW/[2C₁/(2C₁+C_N+C_P)]来运算电压V_Z，而且所述两个数据分别由电压表示且其电压为V_a和V_b时，将V₁＝V_Z-V_a的电压和V₂＝V_Z+V_b的电压分别对不与所述两个电容器的源极输出器电路的栅电极连接的电极施加，由此在V_a-V_b的运算中，在V_a≥V_b的情况下实行减法。

所述距离运算器具有两个所述减法元件，在所述两个数据分别是V_in、V_ref时，在所述两个减法元件的一个得到输出V_M1作为V_a＝V_in，V_b＝V_ref，在所述两个减法元件的另一个得到输出V_M2作为V_a＝V_ref，V_b＝V_in，而且通过将电压V_M1和V_M2向所述加法器输入，可运算V_in和V_ref的差的绝对值。

所述阈值处理器也可以由CMIS逆变器来构成。

在所述阈值处理器之前可设置开关元件。

还可以具有：检测所述阈值处理器的电源供给布线的电流的电流检测器；基于所述电流检测器的输出，控制所述波动发生器的输出的波动发生器控制电路。如果按照这样的构成，通过检查是否发生脉冲，对应于该结果调整波动，能够有效率且高精度地进行概率运算。

所述波动发生器控制电路，在通过所述电流检测器检测出的电流比规定值小的情况下，可增加所述波动发生器的波动幅度。

所述波动发生器控制电路，在通过所述电流检测器检测的电流比规定值小的情况下，对所述波动发生器的输出，也可附加正或负的偏压，使得其平均值接近所述阈值处理器的阈值。

另外，本发明的概率运算元件的驱动方法，该概率运算元件具有：与从外部输入的参照矢量和输入矢量的要素对应的多个概率运算电路；脉冲检测部件；具有所述多个概率运算电路和所述脉冲检测部件的规定数的矢量列比较电路，各个所述概率运算电路具有：输出具有波动的模拟量的波动发生器；用于存储所述输入的参照矢量的要素数据的存储器；波动差分运算部件，输出对存储在所述存储器中的参照矢量的要素数据和所述输入的输入矢量的要素数据的模拟差分增加所述波动发生器的输出的波动差分数据；和阈值处理器，通过阈值处理所述波动差分运算部件的输出来输出脉冲，所述脉冲检测部件，检测从所述多个概率运算电路的阈值处理器输出的脉冲，通过这样，检测所述输入矢量和所述参照矢量的距离，该概率运算元件的驱动方法包括如下的步骤，在所述矢量列比较电路的列数比参照矢量的列数少的情况下，提取出k个(k是自然数)与所述输入矢量的距离近的所述参照矢量时，将所述矢量列比较电路的列数以下的数的所述参照矢量写入所述矢量列比较电路的多个概率运算电路的存储器中，从该写入的参照矢量中提取所述高位k个参照矢量，接着，向提取出该参照矢量的矢量列比较电路以外的矢量列比较电路，写入剩余的所述参照矢量的至少一部分，进行所述提取。如按照这样的构成，既使在矢量列比较电路的列数比参照矢量的列数少的情况下，也能够高速地提取出规定数的与输入矢量的距离近的参照矢量，通过这样，能够修正元件数的有限性。

可以进一步重复所述参照矢量的写入和所述提取操作。

另外，本发明的识别处理装置，具有：如权利要求1所述的概率运算元件；特征提取电路，提取从外部输入的识别对象信息的特征，将该提取的特征作为所述输入矢量输入所述概率运算元件；和存储器，存储将所述识别对象信息的特征矢量化的参照矢量组，所述概率运算元件，通过从存储在所述存储器中的参照矢量组中确定与所述输入矢量对应的参照矢量，来识别识别对象信息。如按照这样的构成，概率运算元件高速地进行矢量的比较运算，所以能够高速进行识别处理。

所述识别对象信息可以是声音。

所述参照矢量组，由声音的特征量配置成时间系列的矢量组构成，而且具有对人们来说认为是相同的声音的特征量相互以时间系列错开配置的多列矢量。

所述识别对象信息可以是图像。

所述参照矢量组也可以由对人们来说认为是相同的但数值不同的图像的特征量矢量化后的矢量组构成的。

所述对人们来说认为相同的图像是人的部位，所述数值不同的图像特征量可以是所述人的部位间的距离。

所述识别对象信息是人的行动，可以输出所述识别过的行动。

所述参照矢量组可以由将人的活动信息数值化的数据进行矢量化的矢量组构成。

对所述输出的行动的反应是好意的情况下，改变该参照矢量值的至少一部分，使得与所述输出的行动对应的参照矢量容易选择，在所述反应是否定的情况下，可改变该参照矢量的值的至少一部分，使得与所述输出的行动对应的参照矢量难于选择。

所述活动信息可包含下列中的至少一个：电器件的操作历史、红外线传感器输出、室温传感器输出、温度传感器输出、体温传感器输出、脑电波传感器输出、脉搏传感器输出、视线传感器输出、发汗传感器输出、筋电位传感器输出、日期信息、星期信息、和识别处理装置的输出。

本发明的上述目的、其它目的、特点和优点根据参照附图的下面的适当实施方式的详细说明可明白。

附图说明

图1是表示本发明实施方式1的概率运算元件的构成的电路图。

图2是表示图1的波动发生器的构成例子的方框图。

图3是表示图1的计数器的构成例子的电路图。

图4是更详细地表示图1的概率运算电路的构造的方框图。

图5是表示图4的数据存储部的构成例子的方框图。

图6是表示本实施方式的模拟存储器单元阵列的构成的一个例子的电路图。

图7是表示图5的模拟存储器的第一构成例子的电路图。

图8是表示图5的模拟存储器所使用的源极输出器电路的输入一输出特性的曲线图。

图9是表示图5的模拟存储器的第二构成例子的电路图。

图10是表示图7和图9的强电介质电容器的磁滞特性的曲线图。

图11是表示构成图1的距离运算器的运算元件的构成的一个例子的电路图。

图12是表示构成图11的运算元件的源极输出器电路的输入-输出特性的曲线图。

图13是表示参照矢量电压是1[V]的情况下V_SS＝0[V]、V_DD＝1[V]且α＝0.45时减法元件的输入-输出特性的曲线图。

图14是表示图13的情况下的其它减法元件的输入-输出特性的曲线图。

图15是表示应用图13和图14所示的减法元件的特性来进行绝对值运算的电路之构成的电路图。

图16是表示图4的距离运算器的输入-输出特性的曲线图。

图17是表示图4的加法器的构成例子的电路图。

图18是表示图4的阈值处理器的构成例子的电路图。

图19是表示图1的波动发生器的输出的曲线图。

图20是表示在参照矢量电压和输入矢量电压的差比较大的情况下加法器的输出的一部分的曲线图。

图21是表示来自加法器的图20所示的输出被输入的情况下的阈值处理器的输出的曲线图。

图22是表示在参照矢量电压和输入矢量电压的差小的情况下来自加法器的输出的一部分的曲线图。

图23是表示来自加法器的图22所示的输出被输入的情况下的阈值处理器的输出的曲线图。

图24是表示将参照矢量数据和输入矢量数据的近似度作为参数来表示相对波动电压的波动次数的脉冲发生数的曲线图。

图25是表示本发明的实施方式2的概率运算元件的概率运算电路的方框图。

图26是表示本发明的实施方式3的概率运算元件的概率运算电路的方框图。

图27是表示本发明的实施方式4的概率运算元件的减法元件的构成例子的电路图。

图28是表示本发明的实施方式5的概率运算元件的概率运算电路的方框图。

图29是表示本发明的实施方式6的概率运算元件的构成的电路图。

图30是表示图29的积分器的构成例的电路图。

图31是表示本发明的实施方式7的概率运算元件的阈值处理器的构成的电路图。

图32是表示施加高的偏置电压时的波动发生器的输出的曲线图。

图33是表示从图32的状态慢慢降低偏置电压时的波动发生器的输出的曲线图。

图34是表示本发明的实施方式8的概率运算元件的波动发生器的输出的曲线图。

图35是示意性表示本发明的实施方式9的声音识别装置的构成的方框图。

图36是说明本发明的实施方式10的存储在声音识别装置的存储器中的参照矢量数据组的特征的图。

图37是示意性表示实施方式11的图像识别装置的构成的方框图。

图38是表示识别人的面孔的情况下的特征量的示意图。

图39是表示本实施方式的行动识别装置的构成的方框图。

图40是示意性表示现有的运算元件的构造的斜视图。

图41(a)、(b)是以等价电路来表示图40的已有的运算元件的运算原理的示意图。

具体实施方式

下面，参照附图来说明本发明的实施方式。

实施方式1

图1是表示本发明的实施方式1的概率运算元件的构成的电路图。

本实施方式的概率运算元件1是这样的元件：将能够改变对应于输入矢量和参照矢量的2个矢量的对应的要素间的距离而发生的脉冲数或者脉冲宽度的矢量列比较电路Cn作为基本单元，对于相同的矢量列，计数来自基本单元的脉冲输出，由此并列地高速运算矢量间的距离。

特别在本实施方式中，例示了这种情况，为了得到来自基本单元的脉冲输出，例如重叠无序地看到的随机信号。而且，在本实施方式中，说明了使用电压作为表示矢量数据的物理量的情况。另外，关于矢量间不同的距离，说明了曼哈顿距离的情况。即，说明了将矢量要素的差的绝对值作为距离来运算的情况。

在图1中，概率运算元件1具有：矢量列比较电路Cp；输入电压输出器13；波动发生器15；计数值获得器19；标记检测器17。

矢量列比较电路Cp设置m列(在本实施方式中，例如1000列)。下面，在特定指出y(y是1～m的自然数)列矢量列比较电路Cp的情况下，附加额外的字母y表示为Cpy，在指任意矢量列比较电路Cp的情况下，不附加额外的字母表示为Cp。

各个矢量列比较电路Cp具有：n个(在本实施方式中，例如14个)概率运算电路Cc；延迟电路7；开关S；计数器Ct。一个矢量列比较电路Cp中的概率运算电路Cc对应于应该比较的矢量的要素来设置。因此，利用该概率运算元件1能够比较具有2个以上n个以下的要素的矢量。而且，如后面所述，在矢量列比较电路Cp1～Cpm的整体写入m个输入矢量，将写入某矢量列比较电路Cp的输入矢量称为矢量列。

概率运算电路Cc，在m列矢量列比较电路Cp的整体中，配置成n行m列矩阵状，所以如图1所示，一个矢量列比较电路Cp由行确定，在特指x(x是1～n的自然数)行的概率运算电路Cc的情况下，附加额外的字母x来表示为Ccx，在指任意的概率运算元件Cc的情况下，不附加额外的字母表示为Cc。另外，在特指y列开关S和计数器Ct的情况下，分别附加额外的字母y表示为Sty和Cty，在指任意的开关S和计数器Ct的情况下，不附加额外的字母表示为S和Ct。

延迟电路7例如由逆变器构成。而且，相邻的概率运算电路Cc的输出端子通过延迟电路7相互连接，最终行的概率运算电路Ccn输出端子通过开关S与计数器Ct连接。

输入电压输出器13分别将由输入矢量和参照矢量的要素构成的输入数据变换成电压，将它们分别输出到矢量要素的每个、与该要素对应的概率运算电路Cc1～Ccn。输入电压输出器13利用后面的公式来计算输入数据并且输出。

波动发生器15具有输出具有波动的电压(下面称为波动电压)的功能，将它们分别输出到整列矢量列比较电路Cp1～Cpm的整行的概率运算电路Cc1～Ccn。

利用各个矢量列比较电路Cp，概率运算电路Cc1～Ccn分别输出后面描述的脉冲。从该概率运算电路Cc1～Ccn输出的脉冲，通过延迟电路7，调整为相互不重复。即，开关S是接通(On)状态时，某波动电压向矢量列比较电路Cp输入，由此，既使在全行概率运算电路Cc1～Ccn输出脉冲的情况下，向计数器Ct以规定的间隔输入n个(在本实施方式中是14个)脉冲列。

计数器Ct计数该脉冲数。在本实施方式中，作为计数器Ct，使用例如后面描述的使用D触发器的非同步脉动计数器。

计数器Ct例如向标记检测器17输出该最上位比特。通过这样，标记检测器17能够检测属于全部的矢量列比较电路Cp1～Cpm的计数器Ct1～Ctm中的达到最初规定的计数的计数器Ct1～Ctm，进而检测矢量列比较电路Cp1～Cpm。通过这样，能够高速提取出输入矢量中的与参照矢量的近似度为规定程度以上高的输入矢量。

另一方面，计数器Ct的计数向计数值获得器19输出，计数值获得器19获得全部的矢量列比较电路Cp1～Cpm的输出。

在与其要求精度还不如要求直到解的输出时间短的情况下，例如，利用未图示的比较器来比较通过计数值获得器19获得的各个矢量列比较电路Cp1～Cpm的计数，通过这样，使得顺序提取与参照矢量的近似度高的输入矢量。与概率运算电路Cc相比，矢量列比较电路Cp的数量绝对地少，所以这样的比较既使利用现有的计算机也能够非常高速地进行。

下面，说明本实施方式的构成概率运算元件的单独元件的构成例子。

图2是表示图1的波动发生器15的构成例子的方框图。

如图2所示，波动发生器15具有运算器21和延迟电路23。本发明的波动是模拟量(物理量)的不规则或者规则的变动，满足下面的条件。在不规则变动的情况下，对于该变动的模拟量的平均值，需要在时间轴上实质不存在偏离。在规则变动的情况下，周期变动的变动幅度以规定的周期变动，对于该周期地变动的模拟量的该规定周期内的平均值，需要在时间轴上实质上不存在偏离。在下面，说明不规则波动，利用实施方式8来说明规则的波动。

这样的发生波动的电路，近些年来，对随机数发生电路或无序发生电路等进行了广泛的研究，例如能够使用下面所记载的Morie等的无序发生电路等：IEEE Transactions on Circuits and Systems-I：Fundamental theory and applications，Vol.47，No.11，November 2000，pp.1652-1657，“CMOS circuits generating arbitrary chaos by usingpulsewidth modulation techniques”。

对混乱已报告了几种，但是图2表示了发生逻辑混乱的构成例子。图2的运算器21对输入矢量数据x(t)按照下面的公式来进行运算。

x(t+1)＝a·x(t)·[1-x(t)]        …(1)

这里a是常数，例如是3.96。在某时刻输入电压V为x(t)，根据公式(1)对其进行运算的结果是输出电压x(t+1)。此外，该x(t+1)通过延迟电路23成为下一步的输入，由此能够产生无序波动的电压。

而且，虽然没有图示，但既使不使用这样的无序发生电路，例如增大在半导体基板上产生的热噪声也能够同样得到随机电压。

图3是表示图1的计数器Ct的构成例子的电路图。

在图3中，符号25表示D触发器。在本实施方式中，计数器Ct使用所谓的D触发器，由非同步计数器构成。如电压脉冲Vpul输入到计数器Ct，二进制的D₀、D₁……D_n的高(high)输出进行切换。这里，例如如果想检测达到最大计数的矢量列，将D_n的输出与标记检测器17连接，可检测最初D_n为高(high)的矢量列。另外，在想从全部的矢量列中提取多个接近参照矢量的情况下，在标记检测器17，可经常计数为高(high)的标记数。

另外将最上位比特(位)不作为标记，进而如检测下位比特的输出，概率的标记更早地为高(high)，能够提高运算速度。

而且，如前面所述，既使不使用这样的标记检测17，也可以通过计数值获得器19获得计数，利用未图示的比较器来比较。

图4是更详细表示图1的概率运算电路Cc的构造的方框图。

在图4中，概率运算电路Cc具有：数据存储部41；距离运算器43；加法器45；阈值处理器47。而且，距离运算器43和加法器45构成波动差分运算部件401。对数据存储部41，通过未图示的布线来写入1个参照矢量数据(正确来说是参照矢量要素的数据)。距离运算器43输出与从输入电压输出器13输出的输入矢量数据(正确来说是输入矢量要素数据)和存储在数据存储部41的输入矢量数据的差的绝对值成比例的电压。加法器45输出与距离运算器43的输出和波动发生器15的输出之和的大小成比例的电压，即输出重叠电压。

这里，本发明的加法，是这样运算与多个模拟量的和成比例的模拟量。

阈值处理器47对加法器45的输出进行阈值处理。如图1所示那样，阈值处理器47的输出直接或者通过延迟电路7向开关9输出。

图5是表示图4的数据存储部41的构成例子的方框图。在图5中，数据存储部41具有：运算、D/A变换器53；开关55；模拟存储器57。符号51表示数字参照矢量数据(正确来说是参照矢量要素数据)。该参照矢量数据，例如存储在DRAM或者闪速存储器中，此外存储到硬盘等外部存储装置等中。

数据存储部41，对于数字参照矢量数据51，在运算、D/A变换器53利用数字地进行后面描述的简单的运算，同时，将它们变换成利用物理量(在本实施方式中是电压)表示的模拟的参照矢量数据，将该模拟的参照矢量数据通过开关55脉冲地输入到模拟存储器57，由此存储模拟的参照矢量数据。这里模拟存储器57也具有输入重置信号的部件。在本发明中，模拟是使用连续的物理量(例如电压)来表示数据(例如数值)。

图6是表示本实施方式的模拟存储器单元阵列的构成的一个例子的电路图。

在图6中，符号59(1)、59(2)…表示布线。图5的模拟存储器57分别具有1个配置成矩阵状的图1的概率运算电路Cc。因此，模拟存储器57对应于概率运算电路Cc配置成矩阵状，通过配置成该矩阵状的模拟存储器57，构成图6的存储器单元阵列。

图6表示矢量列数是i，矢量要素数是j的情况下的存储器单元阵列。这种情况下，存储器单元阵列具有j行i列的模拟存储器57。图6是其一部分，仅表示了4行4列的部分。另外省略了进行重置的布线。

在该存储器单元阵列中，对应于模拟存储器57的列(矢量列)，分别设置用于接通/关闭开关55的布线59(1)、59(2)…。另外，对于模拟存储器57的每行(矢量要素)，设置运算、D/A变换器53。

在这样构成的模拟单元阵列中，选择布线59(1)，59(2)…中的任何一个，设为例如高(high)，该列的全部开关55设为接通(on)状态，通过这样，数字的参照矢量数据51利用运算、D/A变换器53变换为数字参照矢量数据，并列地写入所选择列的模拟存储器57。然后，对于全部的模拟存储器57的列，依次进行该列选择和写入操作，由此能够高速写入参照矢量数据。

这样的矩阵写入中，模拟存储器57象后面所描述的那样，能够具有非易失性。

而且，在图6中，构成为，将具有j个要素的i列矢量组以每个矢量列，顺序写入存储单元阵列，但也可以构成为，将该矢量组以每个矢量要素，顺序写入存储单元阵列。在这种情况下，对应于模拟存储器57的行(矢量要素)，分别设置布线59(1)、59(2)…，而且，可对于模拟存储器57的每个列(矢量列)，设置运算、D/A变换器53。

图7是表示图5的模拟存储器57的第一构成例子的电路图，图8是表示图5的模拟存储器57所使用的源极输出器电路的输入-输出特性的曲线图。

如图7所示那样，本例子中的模拟存储器57具有：源极输出器电路63；与构成该源极输出器电路63的CMISFET(互补MISFET，下面简记为CMIS)的栅电极(下面称为浮动栅电极)63a连接的强电介质电容器65。

源极输出器电路63，如图8所示，具有输出遍及作为电源电压V_DD范围内的范围而与输入电压V_FG成比例的电压V_out1的特性。

下面，说明这样构成的模拟存储器57的操作。

如果写入电压V_W(与模拟的参照矢量数据相对应的电压)施加到强电介质电容器65上，该强电介质就产生极化，浮动栅电极63a的电位V_FG就变化。如果这样，源极输出器电路63，就根据该特性，输出与该变化的电位V_FG对应的电压V_out1。这里，强电介质电容器65的强电介质的残留极化保持非易失性。通过这样，电压V_W非易失性存储到模拟存储器57中，即为写入情况。另外，与此同时，与该写入的电压V_W对应的电压V_out1通过源极输出器电路63输出。另外，模拟存储器57具有非易失性，所以能够进行适当切换运算、D/A变换器53的输出以及写入操作，而且，能够大幅降低运算、D/A变换器53的占有面积和用于写入的布线。

这样，强电介质电容器65的强电介质的极化值能够根据写入的电压V_W的大小或历史得到多值，所以强电介质电容器65具有模拟存储器的功能。特别该构造是2晶体管-1电容器的构成，所以具有单元占有面积小的优点。

图9是表示图5的模拟存储器57的第二构成例子的电路图。

如图9所示，本例子的模拟存储器57具有：源极输出器电路63；与构成该源极输出器电路63的CMIS的浮动栅电极63a分别互相并列连接的强电介质电容器65和常电介质电容器73。

利用这样构成的本例子的模拟存储器57，通过在强电介质电容器65的上部电极N1和常电介质电容器73的上部电极N2之间施加写入电压V_W，与第一构成例子相同，浮动栅电极的电位V_FG的值发生变化，由此具有作为模拟存储器的功能。

由于通常情况下，强电介质的介电常数大，所以图7那样的强电介质电容器65和构成源极输出器电路63的MISFET的栅电极电容器是串联构造，在强电介质侧难于分配电压，所以需要加大构成源极输出器63的MISFET。另一方面，在本例子的构造中，能够由强电介质电容器65和常电介质电容器73的电容平衡来决定电位V_FG，该MISFET的尺寸可与周边电路相等，所以容易制造。特别是，希望常电介质电容器73也使用高电介质材料，例如使用钛酸钡/锶(BST)等，能够形成与强电介质电容器相同尺寸的电容器。

图10是表示图7和图9的强电介质电容器的磁滞特性的曲线图。

在图10中，横轴表示强电介质的分配电压。该分配电压在图7的模拟存储器57的情况下，由[V_W]-[V_FG]来计算，表示对强电介质的分配电压。另外，在图9的模拟存储器57的情况下，表示施加写入电压V_W时对强电介质分配的电压。

如图10所示，由于强电介质具有磁滞特性，所以既使施加相同的电压，由于至此的电压施加的历史，获得不同的残留极化值。为此，在本实施方式中，一旦施加重置脉冲V_res，就从负和正任何一个饱和极化开始施加写入电压V_W，得到与写入电压V_W很好对应的V_FG。即，在施加重置脉冲V_res后，如果施加V_w1，强电介质的极化就移动到饱和曲线上，残留极化是P_r1，在施加重置脉冲V_res后施加V_w2时，同样残留极化为P_r2。即，同样道理地定义相对写入电压V_w1、V_w2的残留极化P_r1、P_r2。通过该残留极化值决定浮动电极的电位V_FG，通过源极输出器电路63的特性，输出模拟电压V_out1。这样，本实施方式所使用的模拟存储器57，具有元件数少且非易失性的特性，所以本实施方式的概率运算元件是非常有效的模拟存储器。

图11是表示构成图1的距离运算器43的减法元件的构成的一个例子的电路图。

在图11中，减法元件72具有源极输出器电路73；与构成该源极输出器电路73的CMIS的栅电极(浮动栅电极)73a分别相互并列地连接的第一电容器75和第二电容器77。对第一电容器75输入电压V₁。对第二电容器77输入电压V₂。后面描述电压V₁、V₂的定义。

下面说明以上这样构成的减法元件72的操作。

将源极输出器电路73的浮动栅电极73a的电位设为V_FG2，将第一电容器的电容设为C₁，将第二电容器的电容设为C₂，将P沟道CMIS(下面简记为PCMIS)73P和N沟道CMIS(下面简记为NCMIS)73N的电容分别设为C_P、C_N，那么根据电荷的保存规则下面的公式成立：Q＝C₁(V₁-V_FG2)+C₂(V₂-V_FG2)＝V_FG2(C_P+C_N)          …(2)

这里，设C₁＝C₂，α由下面的公式定义。

$\mathrm{\α}=\frac{C_1}{2C_1+C_N+C_P}=\frac{1}{2+\left[\frac{C_N+C_P}{C_1}\right]}---\left(3\right)$

根据公式(2)和公式(3)得到下面的公式。

V_FG2＝α(V₁+V₂)         …(4)

与该电位V_FG2对应的电压V_M1根据源极输出器电路的特性输出。即，得到与V₁和V₂的和成比例的输出。这里在公式(3)中，在C₁相对于(C_N+C_P)大的情况下，即MISFET的栅电极电容非常小的情况下，α的值接近0.5，本减法元件72表示了输出与输入的电压平均值接近的值的特性。

这里，例如，对于V₁和V₂输入由下面的公式给予的电压。

V₁＝VZ+V_ref    …(5)

V₂＝Vz-V_in     …(6)

这里，V_Z是修正电压，利用后面描述的公式来运算。另外，V_in与输入矢量数据相对应，图4的输入电压输出器13将公式(6)的运算结果作为电压来输出。另外，V_ref与参照矢量数据相对应，同样的，图4的概率运算电路Cc的数据存储部41的输出要输出与公式(5)的运算结果相当的电压。

根据这些公式和公式(4)，下面的公式成立。

V_FG2＝2αV_Z+α(V_ref-V_in)    …(7)

即对与参照矢量数据相对应的电压(下面，称为参照矢量电压)V_ref和与输入矢量数据相对应的电压(下面，称为输入矢量电压)V_in的差偏移2·V_Z偏压的电压，得到V_FG2，能够进行实际的差运算。

图12是表示构成图11的减法元件72的源极输出器电路73的输入-输出特性的曲线图。

如图12所示，源极输出器电路73，对于从V_Low到V_High范围的输入电压V_FG2，输出V_SS到V_DD范围的电压V_M。

这里，使用作为源极输出器电路73的输出线性增加的开始起点V_Low，来确定上述V_Z，使得满足下面的公式。

            V_low＝2αV_Z      …(8)

这样，关于V_ref和V_in的差，也具有下面这样的输出特性。

$V_{\mathrm{out}2}=\left\{\begin{array}{cc}0& (V_{\mathrm{ref}}-V_{\mathrm{in}}<V_{\mathrm{SS}})\\ V_{\mathrm{FG}2}-2\mathrm{\&alpha;}{V}_z& (V_{\mathrm{DD}}+2\mathrm{\&alpha;}{V}_z\&GreaterEqual;V_{\mathrm{ref}}-V_{\mathrm{in}}\&GreaterEqual;V_{\mathrm{SS}})\\ V_{\mathrm{DD}}& (V_{\mathrm{ref}}-\stackrel{}{V_{\mathrm{in}}}\&GreaterEqual;V_{\mathrm{DD}}+2\mathrm{\&alpha;}{V}_z)\end{array}\right.----\left(9\right)$

图13表示参照矢量电压V_ref＝1[V]的情况下，V_SS＝0[V]、V_DD＝1[V]、且α＝0.45时减法元件72的输入-输出特性。能够理解，参照矢量电压V_ref和输入矢量电压V_in的差是正时比例增加输出电压，能够进行仅为正的差运算。

同样的，若按照下面公式，能够对V₁，V₂进行相反方向的差运算。

V₁＝Vz-V_ref    …(10)

V₂＝Vz+V_in     …(11)

图14表示了这种情况下的减法元件73的输入-输出特性。这种情况下，在输入矢量电压V_in和参照矢量电压V_ref的差为正时，比例增加输出电压。

图15表示了应用以上的特性来进行绝对值运算的电路。在图15中，符号81表示减法器。该减法器81构成为，并列配置一对减法元件82a，82b，将该输出向加法器83输入。减法元件82a和82b都由图11的减法元件72构成。

这里，如对减法元件82a的输入是V₁₁、V₂₁，对减法元件82b的输入是V₁₂、V₂₂，那么根据公式(5)，(6)来决定V₁₁、V₁₂，根据公式(10)、(11)来决定V₂₁、V₂₂，减法元件82a和减法元件82b的输入-输出特性分别为图13和图14所示的特性。加法器83根据公式(4)和源极输出器电路83a的特性输出与该输入电压V_M1和V_M2的和成比例的电压V_out3。图4的距离运算器43由该减法器81构成。

图16是表示图4的距离运算器43的输入-输出特性的曲线图。如图16所示，该距离运算器43能够输出与参照矢量电压和输入矢量电压的差的绝对值成比例的电压。

而且，在该距离运算器43中，需要用于将来自图4所示的输入电压输出器13和数据存储部41的输出分别输入到减法元件82a和减法元件82b的2个系统，但在图4中省略了它们来表示。

图17是表示图4的加法器45的构成例子的电路图。

如图17所示那样，加法器45具有：源极输出器电路93；与构成该源极输出器电路93的CMIS的栅电极(浮动栅电极)93a相互并列连接的第一电容器95和第二电容器97。对第一电容器95输入距离运算器43的输出(下面称为距离电压)V_out3。对第二电容器97，输入波动发生器15的输出电压(下面，称为波动电压)V_cao。

加法器45的操作与图15的加法器83相同，但特别是为了模拟地进行波动电压V_cao和距离电压V_out3的加法，作为该输出V_out4，得到对距离电压V_out3重叠波动的输出。

图18是表示图4的阈值处理器47的构成例子的电路图。

如图18所示那样，作为阈值处理器47，在本实施方式中，例如使用CMIS逆变器。

利用该阈值处理器47，对CMIS逆变器的栅电极47a输入加法器23的输出V_out4。CMIS逆变器中，加法器45的输出V_out4处于该阈值电压以上之间，反转之和放大来输出。加法器45的输出电压V_out4是对具有平坦的波形的距离电压V_out3重叠具有波动波形的波动电压V_cao，所以，CMIS逆变器输出脉冲状的电压V_pul。

下面，说明上述这样构成的概率运算元件1的操作。

在图1、图4和图6中，规定列数(这里是1000列)的数字参照矢量数据，对每个要素，利用运算、D/A变换器53顺序变换成模拟数据，作为参照矢量电压V_ref分别写入各个矢量列比较电路Cp1～Cp的各个概率运算电路Cc1～Ccn的数据存储部41，利用数据存储41进行规定的运算，输出到距离运算器43。另一方面，数字输入矢量数据利用未图示的D/A变换器变换为模拟输入矢量电压V_in，利用输入电压输出电路13进行规定的运算，输出到距离运算器43。

距离运算器43基于这些输入电压来运算参照矢量电压V_ref和输入矢量电压V_in的差的绝对值(参照矢量要素和输入矢量要素的曼哈顿距离)，将它们作为距离电压V_out3输出到加法器45。

加法器45对该距离电压V_out3和从波动发生器15输入的波动电压V_cao进行相加，将对距离电压V_out3重叠波动电压V_cao的电压V_out4输出到阈值处理器47。

阈值处理器47阈值处理加法器45的输出电压V_out4，输出脉冲状的电压V_pul。

从各概率运算电路Cc输出的该脉冲状电压V_pul通过计数器Ct对每个矢量列比较电路Cp进行计数，该计数利用计数值获得器19或者标记检测器来检测，基于该检测结果，判断各参照矢量数据和输入矢量数据的近似度。

下面，详细说明从阈值处理器47输出的脉冲数及参照矢量数据和输入矢量数据相互之间的近似度的关系。

在参照矢量电压V_ref和输入矢量电压V_in的值接近时，距离运算器43的输出为小电压。结果，加法器45的波动被重叠后的输出电压V_out4也在小电压范围内振动。结果，作为阈值处理器47的逆变器的输出容易输出高电平(＝V_DD)。即，利用上面这样的电路构成，参照矢量数据和输入矢量数据的值接近程度高，即脉冲输出容易进行。

图19是表示图1的波动发生器15的输出的曲线图。横轴表示波动发生次数。

如图19所示那样，波动发生器15的输出乍一看发生随机的混乱的波动。

图20是表示参照矢量电压和输入矢量电压的差比较大的情况下(大致1.5[V])加法器45的输出的一部分的曲线图。

如果将这种情况下加法器45的输出，利用这些阈值处理器47例如进行2值化(该情况下阈值电压＝0.5[V])，就得到图21所示那样的输出。即，对每个产生超过阈值的脉冲。

图22是表示在参照矢量电压和输入矢量电压的差小的情况下(大致是0.8[V])从加法器45输出的一部分的曲线图。图23表示这种情况下从阈值处理器47的输出。从图21和图23的比较可判断出，阈值处理器47具有这样的特性，在参照矢量电压和输入矢量电压的差的绝对值越小的情况下，就发生越多的脉冲。

图24表示了对该特性进行更详细讨论的结果。

图24是将参照矢量数据和输入矢量数据的近似度作为参数，表示相对于波动电压V_cao的波动次数的脉冲发生数的曲线图。

在图24中，作为近似度，定义为从1中减去利用电源电压标准化的参照矢量电压和输入矢量电压的差的绝对值得到的值。即，近似度程度越高，表示两个矢量越近似。

如图24所示，例如，近似度是0时，由于没有超过阈值，所以对于100次的波动，脉冲发生数是零。但是，可理解，随着近似度变大，脉冲发生概率上升。由于这些脉冲发生是概率地发生，没有表示直线地增加，但可理解，波动次数越增加，近似度的差越稳定。

该波动和阈值处理的概率的脉冲发生是本发明的概率运算元件的本质，已有的计算机缺少严密性，但波动次数越增加，概率的精度就越提高。这意味着，在既使精度低却急于得到运算结果的信息处理或者既使延长运算时间却重视精度的情况下，能够非常灵活地进行矢量的差运算，提供了这种完全不同于现有技术的新概念的元件。

下面，说明本实施方式的概率运算元件1中，矢量列比较电路Ct的列数不到运算的矢量的列数的情况下的驱动方法。概率运算元件1的面积是有限的，另一方面，如考虑软件中矩阵的宣布是假想的，考虑到这样的事情多发生。

例如，在本实施方式中，矢量列数是1000，但在比较对照的列数是5000的情况下，相对输入矢量，从参照矢量列中抽出最相似的100列，以这种情况为例进行说明。

在图1、图4和图6中，首先，利用概率运算元件1，将1000列参照矢量象图6说明的那样存储。这种情况下，例如也可以通过运算、D/A53顺序写入参照矢量数据。

接着，输入输入矢量，之后，从波动发生器15输入波动电压，由此从阈值处理器47顺序输出脉冲。脉冲数通过计数器Ct1～Ctm来顺序计数，例如着眼于从图3的D₈开始输出的情况下，如果输入256(＝2⁸)的脉冲，D₈线就输出高(high)。利用标记检测器17来监视为高(high)的矢量列的数，这种情况下达到100列就停止来自波动发生器15的波动电压的输出。接着，写入900列参照矢量，使得输出该高(high)的矢量列扩散。

如重复以上的操作，最终能够在参照矢量整体中提取出最相似的矢量列。

象上述说明的那样，本实施方式的概率运算元件1多数并列地进行矢量比较运算，所以其比较速度，特别是矢量数增加，因此，与现有的计算机相比，能够非常高速地运算。

另外，利用一般的模拟电路，难于进行严密的运算，但本概率运算元件1的运算原理一开始就是以概率为前提的，所以，其制造能够具有设计上的自由度，具有容易制造的特点。

另外，如按照本实施方式，由于能够利用晶体管或者电容器等已有的电路元件来构成概率运算元件1，所以能够通过半导体加工技术来制造它们。

另外，能够运算曼哈顿距离。

此外，参照矢量和输入矢量的每个要素的差(距离)作为脉冲输出，基于该脉冲的总和来判断参照矢量和输入矢量的近似度，所以既使这样比较的矢量的要素多，也能够容易地判断近似度。

总之，本实施方式的概率运算元件1，既不是现有的数字运算也不是模拟运算，能够提供第三运算方法的运算元件。

本发明提供了不适于严密的逻辑运算，但可非常高速地进行特别是识别处理等常进行的矢量匹配，辅助现有的半导体元件的非常有用的元件。

而且，在本实施方式中，关于在源极输出器的栅电极配置多个电容器之构造的元件的情况对各个构成电路进行了说明，但如果是能够执行同样的运算的元件，不用说可得到希望的操作。

另外，要重复进行，但对于波动如果不特别需要使用混乱，另外对于混乱，不特别限定于逻辑混乱，如果是得到长期均等的概率的方法，就能够期待同样的效果。

对于计数器，在本实施方式中描述了D触发器的情况，但既使使用其它的计数器也没有任何问题。

另外，说明了使用强电介质作为模拟存储器的情况，但如果使用具有将模拟量作为物理性质的东西就能够得到同样的效果。例如，可使用相变材料的电阻变化，或者使用利用对电容的充电等的方法。

对阈值处理，说明了简单的逆变器的情况，但它们既使是其它电路也是一样的，这一点不用说。

另外，作为表示参照矢量和输入矢量的数据的模拟物理量，使用电压，但不限于此，使用其它物理量，例如电流也可以。

实施方式2

图25是表示本发明的实施方式2的概率运算元件的概率运算电路的方框图。对于图25中与图4相同或者相当的部分赋予相同的符号，省略说明。

如图25所示那样，本实施方式的概率运算元件，在利用数字电路来进行矢量要素间的距离运算这一点与实施方式1是不同的。概率运算电路301相当于实施方式1的概率运算电路Cc。其它方面与实施方式1相同。

具体地说，数字的输入矢量数据303输入到数字距离运算电路305。数字距离运算电路305使用输入的数字输入矢量数据303和数字参照矢量数据51，运算例如参照矢量和输入矢量的要素间的距离的绝对值。该运算结果利用D/A变换器307变换成模拟数据，存储到模拟存储器57中。模拟存储器57的模拟输出通过加法器45与波动发生器15的输出重叠，该输出通过阈值处理器47进行阈值处理，作为脉冲输出。通过这样，进行与实施方式1相同的运算。

本实施方式的概率运算元件，需要为了利用数字进行差运算的运算时间，但图4的距离运算器43不需要。由图6的距离运算器43配置成矩阵，相反，本实施方式的数字距离运算电路305在每行配置，所以这能够减少芯片面积。

另外，如图6的运算、D/A变换器53具有本实施方式2的数据距离运算电路305和D/A变换器307的功能，就能够在矢量要素方向排列多个，进行这些距离运算，而且能够向模拟存储器57矩阵地写入距离的模拟信息，所以能够实现面积效率非常高的概率运算元件。

(实施方式3)

图26是表示本发明的实施方式3的概率运算元件的概率运算电路的方框图。图26中与图4相同或者相当的部分赋予相同的符号，省略了说明。

如图26所示，本实施方式3的概率运算电路99，与实施方式1不同，在对输入矢量电压重叠波动电压后，运算与参照矢量电压的距离。其它方面与实施方式1相同。

既使是这样的运算顺序也与实施方式1相同，能够实现概率地产生脉冲的概率运算元件。

(实施方式4)

图27是表示本发明的实施方式4的概率运算元件的减法元件的构成例子的电路图。

在图27中，符号100表示开关元件。本实施方式4的减法元件72具有这种构成，在构成实施方式1的减法元件72的源极输出器电路的栅电极上还设置开关元件100，将开关元件100的另一端例如接地。另外，与此相同，在本实施方式4中，加法器和模拟存储器具有这种构成：在实施方式1的加法器45和模拟存储器57的源极输出器电路的栅电极上还设置开关元件，将开关元件的另一端例如接地。通过这样的构成，实施方式1的源极输出器电路的栅电极处于没有布线或者连线的浮动状态，与此相对，在本实施方式4中，对开关元件100施加重置电压V_res1，由此能够例如将浮动电极的电位暂时接地。

通过这样，能够除去制造元件时的干蚀刻工序等所残留的电荷。另外，在长期使用本实施方式的概率运算元件的情况下，例如能够除去从构成源极输出器电路的MISFET的栅电极流入的电荷。

而且，在这种构造的情况下，如果对重置用的开关元件100使用MISFET，通过所谓的结漏，可长期衰减运算时浮动电极所保持的电位，但本发明的概率运算元件的运算时间既使长也就是1秒左右，完全不是问题，能够进行运算。

(实施方式5)

图28是表示本发明的实施方式5的概率运算元件的概率运算电路的方框图。在图28中，与图4和图26相同或者相当的部分赋予相同的符号，省略了其说明。

如图28所示，在本实施方式3的概率运算电路111中，在阈值处理器47之前设置开关113。其它方面与实施方式3相同。

例如，象从图22的操作说明可理解的那样，本发明的概率运算元件，仅在具有波动的电压跨过阈值时才发生脉冲，所以，例如，在矢量的绝对值差绝对小的情况下，就有发生不跨过阈值的情况的担心。

这里，在本实施方式中，输出信号113a不向开关113输入时，例如，如果输出高(high)，输出信号113a输入，此时输出来自距离运算器43的输出，既使来自距离运算器43的输出连续为低，不跨过阈值的情况下，通过强制跨过阈值，能够发生脉冲。

(实施方式6)

图29是表示本发明的实施方式6的概率运算元件的构成的电路图。在图29中，与图1相同或者相当的部分赋予相同的符号，省略了其说明。

如图29所示，在本实施方式中，设置积分器It和比较器153，代替实施方式1的计数器Ct、标记检测器17和计数值获得器19。积分器It1～Itm存储从概率运算电路Cc所输出的脉冲中所包含的电荷量，将与该存储的电荷量相对应的电压输出到各个比较器153。比较器153比较积分器It1～Itm1的输出电压的大小，提取该上位的积分器It(更进一步是矢量列)。其它方面与实施方式1相同。

如按照这样的构成，与实施方式1相同，能够从参照矢量中高速提取与输入矢量近似的矢量列，不仅其数量而且也包含其幅度来评价从概率运算电路Cc输出的脉冲，基于它们来判断参照矢量和输入矢量的近似度，所以能够更好地判断近似度。

图30表示这样的积分器It的构成例子。

如图30所示那样，积分器It具有FET160。FET160的栅电极与图29的开关S连接。另一方面，在FET160的源极连接电容器159，FET160的源极和电容器159的连接点通过第二开关157与比较器153连接。

利用这样构成的积分器It，在开关S为接通(ON)状态且开关157为断开(OFF)状态时，如在布线上传送脉冲，FET160的ON/OFF进行切换，仅在FET160为接通(ON)的时间向电容器159上存储电荷。接着，如果开关S为断开且开关157为接通，相当于先前存储的电荷的电压输出到比较器153。即，输出相当于脉冲幅度和数量的电压。这种情况下，随着存储电荷量的增加慢慢存储的电位不是线性的，但能够明确检测出其大小的不同，所以对矢量列间的比较是非常适用的。

本实施方式的概率运算元件，如实施方式5所述那样，在长期发生跨过阈值的波动的情况下，作为脉冲幅度的信息也能够存储，所以能够更高精度地进行矢量列的比较。

(实施方式7)

下面，说明本发明的实施方式7。

图31是表示本发明的实施方式7的概率运算元件的阈值处理器的构成的电路图。在图31中，对与图1相同或者相当的部分赋予相同的符号，省略了其说明。

在图31中，符号101表示电流检测器，符号102表示波动发生器控制电路。

如实施方式5所述的那样，本发明的概率运算元件，如果产生矢量间的差小、连续不跨过阈值的状态，就不产生脉冲，尽管矢量接近计数却不增加。

本实施方式的概率运算元件，为了防止这种情况，其特征在于，慢慢增大波动发生器15的电压的波动幅度或者平均电压。

波动发生器控制电路102一点一点加大波动发生器15的输出电压的波动。结果，如果波动达到阈值，就频繁地发生脉冲。此时，由于本实施方式的阈值处理器47由逆变器构成，所以在高(high)/低(low)反转的瞬间，从PMIS47P向NMIS47N流过贯通电流。如果电流检测器101检测到该贯通电流，波动发生器控制电路102判断为开始发生脉冲，将波动发生器15的电压的波动幅度或平均电压维持为该时刻的值。通过这样，能够防止波动极端地变大。

图32、图33更详细地表示该操作。图32是表示对波动发生器15施加高偏置电压(约1[V])时向阈值处理器47的输入电压的图。这种情况下，在比作为阈值的1[V]高的电压范围电压波动，所以没有达到阈值，阈值处理器47不发生脉冲。即，逆变器47连续输出很低的电平，反转时观察的贯通电流不变化。

接着，图33表示从图32的状态慢慢降低偏置电压约0.5[V]时向阈值处理器27的输入电压。这种情况下，由于多发生跨过阈值的电压波动，所以如前述那样多输出脉冲。这样，通过重复逆变器的接通/断开，可增加逆变器的贯通电流，利用电流检测器101来检测到这些。

而且，这样的调整也可以象这次说明的那样进行，通过对波动发生器15的波动施加偏置电压，来改变平均输出电压，不言而喻，既使加大波动振幅也能得到同样的功能。

(实施方式8)

本发明的实施方式8的概率运算元件具有在波动发生电路15中发生波动的特点，下面，仅说明其波动特性。

图34是表示本实施方式的概率运算元件的波动发生器的输出的曲线图。

在实施方式1～7的概率运算元件中，波动发生器的输出，使用无序或者热噪音，使用显现出随机动作的输出来进行运算。

如图34所示那样，其特征在于，本实施方式8的波动发生器15的输出产生规则的输出。这里，控制产生输出的大小，使得特别是输出的直方图尽可能地相等。如果使得以一定时间间隔来采样斜波形的电压，就能够得到如图34那样慢慢增加的脉冲列。

尽管使用这样的波动电压，也能够得到与实施方式1～7同样的效果。

而且，在本实施方式中，作为规则地增加电压的脉冲列，既使不是这样的特性，如果输出值的直方图不偏离，就能够得到同样的效果，这是不言而喻的。

(实施方式9)

本发明的实施方式9例示了作为使用实施方式1～8的概率运算元件的识别处理装置的声音识别装置。

图35是示意性表示本实施方式的声音识别装置的构成的方框图。在图35中，对与图1相同或者相当的部分赋予相同的符号，省略了其说明。

如图35所示那样，声音识别装置具有：麦克风123；提取从麦克风123输入的声音数据的特征的特征提取处理部121；存储参照矢量组的存储器122；概率运算元件1，比较利用特征提取处理部121所提取的特征数据和存储在存储器122中的参照矢量数据组，识别声音。

利用这样构成的声音识别装置，参照矢量数据组例如作为数字信息存储在存储器122中。在参照矢量数据组中，预先存储声音的基本特征数据，另外，在需要的情况下，能够存储利用特征提取处理部121得到的特征数据。特征提取处理部121，对于从麦克风123输入的模拟声音信息，例如，通过进行矢量分布或者其时间变化等的处理，提取其特征数据。

该特征数据作为输入矢量输入到概率运算元件1。概率运算元件1将该特征数据与参照矢量数据组进行比较，从其中确定(矢量匹配)最近似的参照矢量数据，将与输入的特征数据对应的声音作为与该确定的参照矢量数据对应的声音来识别。

通过这样，能够非常高速地识别输入到麦克风123中的声音。例如，如果输入到麦克风123中的声音是日语，就可进行五十音的识别。

(实施方式10)

本发明实施方式10表示了实施方式9的声音识别装置的改进例。

图36是说明存储在本实施方式的声音识别装置的存储器中的参照矢量数据组的特征的图。在图36中，对与图36或者图35相同或者相当的部分赋予相同的符号，省略了其说明。

本实施方式的声音识别装置，是在实施方式9的声音识别装置中，对参照矢量数据组进行了研究得到的结果。

具体地说，如图36所示，本实施方式的参照矢量数据51具有从前面开始按时间系列配置声音的矢量信息的数据构造。在图36中，对数字参照矢量数据51的一部分表示字母A～D，但它们表示对应相同声音的特征信息。

本实施方式的声音识别装置的特征在于，利用参照矢量数据组，相互错开配置相同的数据。

在人说话的情况下，不仅限于在时间上相同的时刻说用文字书写相同的内容，而且具有个体差异。

本发明的概率运算元件能够非常高速地进行大量矢量匹配，所以考虑这样的声音的伸缩，如果预先准备在时间上有偏差的数据，既使有时间的伸缩，也能够判断与其对应的矢量列是最接近的，输入的声音相当于哪个文字。

(实施方式11)

本发明的实施方式11例示了作为使用实施方式1～8的概率运算元件的识别处理装置的图像识别装置。

图37是示意性表示实施方式11的图像识别装置的构成的方框图。在图37中，对于同图35相同或者相当的部分赋予相同的符号，省略了其说明。

如图37所示那样，图像识别装置具有：由CCD等摄像元件构成的摄像机143；提取从摄像机143输入的图像数据的特征的特征提取处理部141；存储参照矢量组的存储器122；比较利用特征提取处理部141提取的特征数据和存储在存储器122中的参照矢量数据组、识别图像的概率运算元件1。

利用这样构成的图像识别装置，将由图像得到的特征量作为参照矢量数据组，和与其对应的标记，例如其对象的名称等作为数据存储到存储器122中。

在这样的图像识别中，具有各种方法，但是在图38中，特别表示了识别人的面孔的情况。

利用这种方法，从摄像机143所摄像的图像，首先取得眼睛和鼻子、口等部件(部位)的位置，接着提取这些部位间的距离151作为特征量。

利用特征提取部141提取这样的特征量151，这些特征量151作为输入矢量输入到概率运算元件1。概率运算元件1将这些特征量151与参照矢量数据组进行比较，从中确定最相似的参照矢量数据，将与输入的特征量对应的图像识别为与该确定的参照矢量数据相对应的图像。

通过这样，能够非常高速地识别输入到摄像机143中的图像。

一直以来，这样的识别处理是利用个人计算机来进行的，所以作为特征量，充其量几十个左右，但是本发明的概率运算元件1可高速进行更多的矢量比较，所以能够取得更多的特征量来进行比较。

例如，面孔的朝向变化或者周围的亮度变化的情况下等，通过存储几种状态改变情况下的特征量，能够极大地提高识别人的精度。

而且，在本实施方式中，说明了人的面孔的识别，但对于工厂生产线上的基板上的部件的识别，或者来自汽车等的标识的识别等其它用途，也能够实行同样的图像识别处理，这是不言而喻的。

(实施方式12)

本发明的实施方式12例示了作为使用实施方式1～8的概率运算元件的识别处理装置的行动识别装置。

图39是表示本实施方式的行动识别装置的构成的方框图。在图39中与图35相同或者相当的部分赋予相同的符号，省略了其说明。

在图39中，符号171表示行动信息存储矢量。行动信息存储矢量中存储了将人的行动矢量化的数据。符号173表示加权系数附加电路。加权系数附加电路173根据被试验者的反应来改变矢量的加权。符号175表示行动信息输入矢量。行动信息输入矢量175是将被试验者的状态矢量化的矢量。

行动信息输入矢量175表示：例如被试验者的室内或者室外的电器件的操作历史、在家里配置的红外线传感器输出、室温传感器输出、湿度传感器输出、在人体附近设置的体温传感器输出、脑电波传感器输出、脉搏传感器输出、视线传感器输出、发汗传感器输出、筋电位传感器输出、此外还有日期信息、星期信息等状况的数据。此外实施方式10或者实施方式11所描述的声音输入或者图像输入的特征量也能够用作这样状况的数据。

对于行动信息存储矢量171，还附加该状况数据，此时，被试验者采取的行动，或者此时机器的操作作为数据附加。

如果输入行动信息输入矢量175，就提取概率运算元件1中过去的状况相似的状况，决定与之对应的行动。对应于该决定，被试验者作出反应。例如，如果对提供的操作不犹豫地移动到下一操作，能够对提供操作判断为具有好印象，如果立即移动到否定提供操作的操作，能够判断为对低强操作具有坏印象。另外，也可以利用是/否来直接回答。

通过加权系数附加电路173将这样的被试验者的反应进行数值化，来改变行动信息输入矢量175中的加权系数的数值。

这样的加权系数，若在本发明的概率运算元件中，例如设置发生比其它矢量还多的脉冲的机构等，能够控制该矢量列的选择难易。

通过将本实施方式的行动识别装置组装到设备中，提高了用户感到舒服的设备自动操作所出现的概率，相反减少了感到不舒服的自动操作的出现概率，能够提供与被试验者个人的爱好相匹配的服务。

从上述说明中，由技术人员能够知道本发明的较大改进和其它实施形式。因此，上述说明应该是仅作为例示的解释，执行本发明的最佳方式是作为对本领域技术人员的教导目的来提供的。在不脱离本发明的精神的情况下，能够实质性改变其构造和/或功能的细节。

产业上的可利用性

本发明的概率运算元件，作为识别处理装置的识别处理用的元件等是有用的。

本发明的概率运算元件的驱动方法，作为识别处理装置的识别处理用的元件等的驱动方法是有用的。

本发明的识别处理装置，作为声音识别装置、图像识别装置、行动识别装置等是有用的。

Claims (35)

1.一种概率运算元件，其特征在于，具有：

输出具有波动的模拟量的波动发生器；

波动差分运算部件，输出将所述波动发生器的输出增加到2个数据的模拟的差分后的波动差分数据；

通过阈值处理所述波动差分运算部件的输出来输出脉冲的阈值处理器；和

检测从所述阈值处理器输出的脉冲的脉冲检测部件，

所述2个数据是表示2个矢量的各个要素的要素数据。

所述2个矢量是从外部输出的参照矢量和输入矢量，

具有与所述参照矢量和输入矢量的要素对应的多个概率运算电路，

各个所述概率运算电路具有：

用于存储所述输入的参照矢量的要素数据的存储器；

所述波动差分运算部件，输出对存储在所述存储器中的参照矢量的要素数据和所述输入的输入矢量的要素数据的模拟差分增加所述波动发生器的输出后的波动差分数据；和

所述阈值处理器，

所述脉冲检测部件检测从所述多个所述概率运算电路输出的脉冲。

2.根据权利要求1所述的概率运算元件，其特征在于，

所述波动差分运算部件具有：运算模拟的所述2个数据的差的距离运算器；将所述距离运算器的输出和所述波动发生器的输出相加的加法器。

3.根据权利要求1所述的概率运算元件，其特征在于，

所述波动差分运算部件具有：将模拟的所述输入矢量的要素数据和所述波动发生器的输出相加的加法器；计算所述加法器的输出和模拟的所述参照矢量的要素数据的差的距离运算器。

4.根据权利要求1所述的概率运算元件，其特征在于，

所述脉冲检测部件具有对所述脉冲计数的计数器。

5.根据权利要求1所述的概率运算元件，其特征在于，

所述脉冲检测部件具有对所述脉冲的电荷量进行积分的积分器。

6.根据权利要求1所述的概率运算元件，其特征在于，

所述多个概率运算电路的脉冲输出端，互相并列连接到一端与所述脉冲检测部件连接的共同布线上，在所述共同的布线的与所述多个概率运算电路的脉冲输出端的连接部之间的部分，可分别设置延迟电路。

7.根据权利要求1所述的概率运算元件，其特征在于，

具有多个包括所述多个概率运算电路和所述脉冲检测部件的矢量列比较电路。

8.根据权利要求1所述的概率运算元件，其特征在于，

所述存储器是模拟存储器，模拟的所述参照矢量的要素数据存储到所述模拟存储器中。

9.根据权利要求8所述的概率运算元件，其特征在于，

所述模拟存储器具有：强电介质电容器与栅电极连接的源极输出器电路，模拟的所述参照矢量的要素数据输入并且存储到所述强电介质电容器中。

10.根据权利要求9所述的概率运算元件，其特征在于，

在所述源极输出器电路的栅电极，还连接常电介质电容器。

11.根据权利要求1所述的概率运算元件，其特征在于，

所述波动差分运算部件具有：将所述2个数据的模拟差分或者模拟的所述输入矢量的要素数据和所述波动发生器的输出进行相加的加法器，

所述加法器具有：第一和第二电容器并列连接到栅电极的源极输出器电路，

对所述第一电容器，输入所述波动发生器的输出，对所述第二电容器，输入所述两个数据的模拟的差分或者模拟的所述两个数据的一个。

12.根据权利要求11所述的概率运算元件，其特征在于，

所述加法器的源极输出器电路的栅电极通过开关元件与接地端子连接。

13.根据权利要求1所述的概率运算元件，其特征在于，

所述计数器可以是脉动计数器。

14.根据权利要求1所述的概率运算元件，其特征在于，

所述波动是无序波动。

15.根据权利要求1所述的概率运算元件，其特征在于，

所述波动是增大噪音得到的波动。

16.根据权利要求1所述的概率运算元件，其特征在于，

所述波动发生器，产生周期的输出，作为具有波动的输出，而且所述周期的输出的一个周期的输出的直方图值相等。

17.根据权利要求2所述的概率运算元件，其特征在于，

所述距离运算器具有减法元件，

所述减法元件具有两个电容器与栅电极并列连接的源极输出器电路，而且所述两个电容器的电容是相等的C₁，构成所述源极输出器电路的NMIS和PMIS的电容分别是C_N、C_P，在向所述源极输出器电路输入电压时，电位从低电压侧的电压源的电位开始上升的电压是V_Low时，

通过公式V_z＝V_Low/[2C₁/(2C₁+C_N+C_P)]来计算电压V_Z，而且所述两个数据分别由电压表示且其电压为V_a和V_b时，将V₁＝V_Z-V_a的电压和V₂＝V_Z+V_b的电压分别对所述两个电容器的不与源极输出器电路的栅电极连接的电极施加，由此在V_a-V_b的运算中，在V_a≥V_b的情况下实行减法。

18.根据权利要求17所述的概率运算元件，其特征在于，

所述距离运算器具有两个所述减法元件，在所述两个数据分别是V_in、V_ref时，在所述两个减法元件的一个作为V_a＝V_in、V_b＝V_ref得到输出V_M1，在所述两个减法元件的另一个作为V_a＝V_ref、V_b＝V_in得到输出V_M2，而且通过将电压V_M1和V_M2向所述加法器输入，可计算V_in和V_ref的差的绝对值。

19.根据权利要求1所述的概率运算元件，其特征在于，

所述阈值处理器由CMIS逆变器来构成。

20.根据权利要求1所述的概率运算元件，其特征在于，

在所述阈值处理器之前设置开关元件。

21.根据权利要求19所述的概率运算元件，其特征在于，

还具有：检测所述阈值处理器的电源供给布线的电流的电流检测器；

基于所述电流检测器的输出，控制所述波动发生器的输出的波动发生器控制电路。

22.根据权利要求21所述的概率运算元件，其特征在于，

所述波动发生器控制电路，在通过所述电流检测器检测出的电流比规定值小的情况下，可增加所述波动发生器的波动幅度。

23.根据权利要求21所述的概率运算元件，其特征在于，

所述波动发生器控制电路，在通过所述电流检测器检测的电流比规定值小的情况下，对所述波动发生器的输出，附加正或负的偏压，使得其平均值接近所述阈值处理器的阈值。

24.一种概率运算元件的驱动方法，其特征在于，该概率运算元件具有：

与从外部输出的参照矢量和输入矢量的要素对应的多个概率运算电路；

脉冲检测部件；和

具有所述多个概率运算电路和所述脉冲检测部件的规定数的矢量列比较电路，

各个所述概率运算电路具有：

输出具有波动的模拟量的波动发生器；

用于存储所述输入的参照矢量的要素数据的存储器；

波动差分运算部件，输出对存储在所述存储器中的参照矢量的要素数据和所述输入的输入矢量的要素数据的模拟的差分增加所述波动发生器的输出后的波动差分数据；和

阈值处理器，通过阈值处理所述波动差分运算部件的输出来输出脉冲，

所述脉冲检测部件，检测从所述多个概率运算电路的阈值处理器输出的脉冲，通过这样，检测所述输入矢量和所述参照矢量的距离，

其中，该概率运算元件的驱动方法具有如下的步骤：

在所述矢量列比较电路的列数比参照矢量的列数少的情况下，提取出k个与所述输入矢量的距离近的所述参照矢量时，

将所述矢量列比较电路的列数以下的数的所述参照矢量写入所述矢量列比较电路的多个概率运算电路的存储器中，从该写入的参照矢量中提取所述高位k个参照矢量，接着，向提取该参照矢量后的矢量列比较电路以外的矢量列比较电路，写入剩余的所述参照矢量的至少一部分，进行所述提取，其中k是自然数。

25.根据权利要求24所述的概率运算元件的驱动方法，其特征在于，

进一步重复所述参照矢量的写入和所述提取操作。

26.一种识别处理装置，其特征在于，具有：

如权利要求1所述的概率运算元件；

特征提取电路，提取从外部输入的识别对象信息的特征，将该提取的特征作为所述输入矢量输入所述概率运算元件；和

存储器，存储将所述识别对象信息的特征矢量化的参照矢量组，

所述概率运算元件，通过从存储在所述存储器中的参照矢量组中确定与所述输入矢量对应的参照矢量，来识别识别对象信息。

27.根据权利要求26所述的识别处理装置，其特征在于，

所述识别对象信息是声音。

28.根据权利要求27所述的识别处理装置，其特征在于，

所述参照矢量组，由声音的特征量配置成时间系列的矢量组构成，而且具有对人们来说认为是相同的声音的特征量以时间系列错开配置的多列矢量。

29.根据权利要求26所述的识别处理装置，其特征在于，

所述识别对象信息是图像。

30.根据权利要求29所述的识别处理装置，其特征在于，

所述参照矢量组由对人们来说认为是相同的但数值不同的图像特征量矢量化后的矢量组构成。

31.根据权利要求30所述的识别处理装置，其特征在于，

所述对人们来说认为是相同的图像是人的部位，所述数值上不同的图像的特征量是所述人的部位间的距离。

32.根据权利要求26所述的识别处理装置，其特征在于，

所述识别对象信息是人的行动，输出所述识别后的行动。

33.根据权利要求32所述的识别处理装置，其特征在于，

所述参照矢量组由将人的活动信息数值化的数据进行矢量化后的矢量组构成。

34.根据权利要求33所述的识别处理装置，其特征在于，

对所述输出的行动的反应是好意的情况下，改变该参照矢量值的至少一部分，使得与所述输出的行动对应的参照矢量容易选择，在所述反应是否定的情况下，可改变该参照矢量的值的至少一部分，使得与所述输出的行动对应的参照矢量难于选择。

35.根据权利要求34所述的识别处理装置，其特征在于，

所述活动信息可包含下列中的至少一个：电器件的操作历史、红外线传感器输出、室温传感器输出、湿度传感器输出、体温传感器输出、脑电波传感器输出、脉搏传感器输出、视线传感器输出、发汗传感器输出、筋电位传感器输出、日期信息、星期信息、和识别处理装置的输出。

Images