CN107660288B - 一种用于决策辅助系统的分数解释方法 - Google Patents

Abstract

本发明提供一种分数解释方法，该方法包括至少以下步骤：a1)提供与第一向量相关的第一分数，所述第一向量包含参数的第一数值；b)生成列表的第一集合，每个列表包括第二数量的指示符；c)根据列表生成至少一个第三向量，其中每个参数具有第三数值，当列表不包含对应参数的指示符时，第三数值与对应的第一数值相等，而在相反的情况下，所述第三数值与对应的第一数值不同；d)计算至少一个第三向量的分数；e)根据第三向量的分数，评估每个参数的重要性指标；f)设计对第一分数的解释。

Description

一种用于决策辅助系统的分数解释方法

本发明涉及一种分数解释方法，用于解释分数，该分数通过函数与向量相关。本发明还涉及一种相关的计算机程序产品和一种信息介质，该计算机程序产品在该信息介质上编码。本发明还涉及一种系统，用于解释分数，该分数通过函数与向量相关。

在许多领域中，决策辅助系统用于评估提供给决策者的选项。例如，银行业者根据客户的月薪、之前的贷款情况或资本等信息来评估客户的偿还能力。这些数据通过决策辅助系统进行整合，系统根据这些数据计算出一个分数。然后，银行业者根据客户的分数，决定是否对其提供贷款，并且如果有必要，确定其贷款利率。

决策辅助系统使用基于相关应用领域内专家的知识建立的数学模型来计算分数。因此，通过这样的决策辅助系统，可以快速地做出一个可能很复杂的决策，尤其是在每个备选方案都包含大量参数的情况下。实际上，决策者不必考虑全部参数，因为其中一些参数可能是有利的，而另一些参数可能是不利的，因此决策者只需要考虑所计算的分数即可。进一步地，此类数学模型通常是根据多位专家的知识而建立的。

然而，所使用的数学模型不能以相同的方式应用于所有情况，并且其复杂性可能会使决策者无法理解全局分数。如果相关参数的数量很大，就更是如此了。因此，知道哪些参数在分数的计算中发挥了最重要的作用，以便能够据此做出相应的决策，对于决策者来说可能是很重要的。

因此，一些可以对分数进行解释的方法就产生了。然而，此类方法的应用需要进行大量的计算，而且对于某些应用领域来说，对详细解释所需的时间可能太长了。如果计算时间减少，那么方法的准确性会降低。

此外，生成的解释不一定都是相关的。

此外，此类方法通常与所使用的决策辅助系统相关。这些解释是根据所使用的数学模型生成的。所以，很难使现有的方法适用于使用其他数学模型的系统。因此，现有的解释方法对其将要使用的数学模型知识进行了假定。

因此，需要具有一种解释方法，对通过已知或未知的函数获得的分数进行解释，其在解释的相关性方面能够表现出更好的性能要素。

为此，本发明提供一种分数解释方法，用于解释分数，所述分数通过函数与向量相关，所述向量具有第一数量的参数，其中，每个参数按照从1到所述第一数量变化的指示符进行排序，所述第一数量为严格大于1的整数，所述方法至少包括以下步骤：

a1)提供与第一向量相关的第一分数，所述第一向量包含所述参数的第一数值；

b)生成列表的第一集合，每个列表包括第二数量的指示符，所述第二数量为严格小于所述第一数量并且严格大于零的整数；

c)根据列表生成至少一个第三向量，其中每个参数具有第三数值，

当所述列表不包含对应参数的指示符时，所述第三数值与对应的第一数值相等，而在相反的情况下，所述第三数值与对应的第一数值不同；

d)计算至少一个第三向量的分数；

e)根据为每个第三向量计算的分数，评估每个参数的重要性指标；以及

f)根据评估出的所述重要性指标，对所述第一分数进行详细解释。

根据一个具体实施例，所述方法包括至少一个以下特征，这些特征单独考虑或根据任何技术上可能的组合进行考虑：

-在步骤e中计算的所述重要性指标为Shapley值或Sobol’指数。

-所述第一集合包括总数量的列表，所述总数量满足以下数学不等式：

Nt≤Co*2^N1

其中，Co是预定系数；

-步骤b包括根据概率定律，生成所述第一集合的至少一部分列表，所述概率定律与所述第二数量或所述列表中包含的指示符有关；

-步骤b包括生成所有列表，其中所述第二数量小于等于第二预定整数，所述第二预定整数严格小于所述第一数量；

-所述方法另外还包括步骤a2：提供与第二向量相关的第二分数，所述第二向量包含所述参数的第二数值；

并且其中，在步骤c中，当所述列表包括对应参数的指示符时，所述第三数值等于对应的第二数值。

本发明还提供一种解释方法，用于解释分数，所述分数通过函数与向量相关，所述函数具有与第一极向量相关的全局最大值以及与第二极向量相关的全局最小值，所述方法包括：

g1)根据所述第一分数和所述全局最大值，应用上述解释方法中的步骤b至e，得到第一重要性指标；

g2)根据所述第一分数和所述全局最小值，应用上述解释方法中的步骤b至e，得到第二重要性指标；以及

h)根据所述第一重要性指标和第二重要性指标，生成对所述第一分数的解释。

还提出一种计算机程序产品，包括软件指令，所述软件指令被计算机执行时实现根据上述解释方法。

还提出一种信息介质，用于在内存中存储上述计算机程序产品。

还提出一种系统，用于解释使分数与向量相关联的函数，所述向量具有第一数量的参数，其中，每个参数按照从1到所述第一数量变化的指示符进行排序，所述第一数量为严格大于1的整数，所述系统能够：

-提供与第一向量相关的第一分数，所述第一向量包含所述参数的第一数值；

-生成列表的第一集合，每个列表包括第二数量的指示符，所述第二数量为严格小于所述第一数量并且严格大于零的整数；

-根据列表生成至少一个第三向量，其中每个参数具有第三数值，

当所述列表不包含对应参数的指示符时，所述第三数值与对应的第一数值相等，而在相反的情况下，第三数值与对应的第一数值不同，

-计算至少一个第三向量的分数，

-根据为每个第三向量计算的分数，评估每个参数的重要性指标，

-根据评估出的所述重要性指标，对所述第一分数进行详细解释。

本发明的特点和优点将在下文中进行解释，仅作为非限制性示例并参照附图给出，其中：

-图1为可以应用解释方法的示例性系统的示意图；

-图2为解释方法的第一示例性应用的流程图；

-图3为图2的解释方法所使用和/或生成的向量的图示说明；

-图4为解释方法的另一示例性应用的流程图；

-图5为解释方法的另一示例性应用的流程图；

系统10和计算机程序产品12示于图1。

通过计算机程序产品12与系统10之间的交互，可以应用方法。

系统10为计算机。

更一般地，系统10为电子计算机，能够将系统10的寄存器和/或内存中的以电子或物理量形式表示的数据处理和/或转换为与内存、寄存器或其他类型的显示、传输或内存存储设备中的物理数据对应的其他类似的数据。

系统10包括数据处理单元14，数据处理单元14包括处理器16、内存18和信息介质的读写器20。系统10还包括键盘22和显示单元24。

计算机程序产品12包括可读信息介质20。

可读信息介质20是一种系统10可读的介质，通常由信息处理单元14读取。可读信息介质20适用于在内存中存储电子指令并且能够与计算机系统的总线耦合。

例如，可读信息介质20可以是光盘、CD-ROM、磁光盘、ROM存储器、RAM存储器、EPROM存储器、EEPROM存储器、磁卡或光卡。

可读信息介质20在内存中存储包含程序指令的程序。

计算机程序可以被加载到数据处理单元14上，并且，当该计算机程序应用在处理器16上时，其实现用于解释通过函数与向量相关的分数的方法的应用。

现参照图2，对系统10与计算机程序产品12交互的操作进行描述，图2示出了用于解释通过函数与向量相关的分数的方法的示例性应用。

下面仅作为一个示例，根据两辆汽车之间的对比，通过简化的案例来阐述该方法。

在下文中，该函数以U表示。函数U将分数与向量相关联。

例如，函数U为Choquet积分。Choquet积分是由数学家Gustave Choquet于1953 年定义的积分。在20世纪80年代，应用于决策理论之前，Choquet积分最初被应用在统计力学和位势理论的范畴中。通过Choquet积分，可以说明进行复杂决策的策略，如自行车标准、优选标准、标准之间的协同效应以及标准之间的冗余。

可选地，函数U为广义可加独立性模型。广义可加独立性模型由Fishburn于197 0年提出，其通过添加效用函数U来建立函数U，每个效用函数U与参数子集有关。通过广义可加独立性模型，可以对决策进行建模，其中参数不是各自独立的，而是在参数的子集之间观察独立性(不一定是分离的)。因此，当一个参数存在于多个子集中时，该参数可以用于多个效用函数U。因此，参数在所得到的分数中的重要性很难确定。

可选地，函数U是加权和。

将每个分数记为Uv，其中V是向量的名称。因此，对于第一向量X，第一相关分数记为Ux，以及对于第二向量Y，第二相关分数记为Uy。

分数Ux、Uy是通过函数U与向量X、Y相关的单个数值。

优选地，分数Ux、Uy为实数。

每个向量X、Y为一组数值xi、yi，每个数值xi、yi与参数相关。

优选地，每个参数都各不相同。

每个向量X、Y包含第一数量N₁的参数数值xi、yi。

每个数值xi、yi都由索引i定位，索引i代表数值xi、yi在每个向量X、Y中的位置。

例如，每个向量X、Y假设为数值xi、yi的N1-元组形式。每个向量X、Y包括每个参数的单个数值xi、yi。

优选地，每个向量X、Y假设为数值xi、yi的N1-元组形式，并且，与参数Xi相关的数值xi、yi在每个向量X、Y中占据相同的位置。

第一数量N1为严格大于1的整数。例如，第一数量N1大于等于3，优选地，第一数量N1大于等于10，优选地，第一数量N1大于等于15，优选地，第一数量N1大于等于20，优选地，第一数量N1大于等于50，优选地，第一数量N1大于等于100。

每个参数为实体的特征。

参数记为Xi，其中i代表与参数Xi相关的数值xi、yi在每个向量X、Y中的位置的索引。

索引i是参数Xi的指示符。这就是说，每个索引i与单一参数Xi相关，反之亦然。

因此，通过索引i对参数Xi进行排序。

索引i是一个整数。一方面，索引i大于等于1，另一方面，索引i小于等于第一数量N1。

例如，上述实体是物理对象、概念、动作或者动作列表或物理对象列表。

例如，上述实体包括按以下顺序的五个参数：第一参数X1、第二参数X2、第三参数X3、第四参数X4和第五参数X5。

例如，上述实体是一辆汽车。在这种情况下，第一参数X1是该汽车的欧元价格，第二参数X2是该汽车的座位数，第三参数X3是该汽车的车门数，第四参数X4是百公里范围内的油耗(以升计)，第五参数X5是发动机的马力。

每个参数X_i可以假设多个数值xi、yi，该数值xi、yi包含在各自的范围Pi中。

举例来说，范围Pi是连续的。例如，第四参数X4(“油耗”)的每个数值x4、 y4是严格大于2且严格小于15的实数。

根据另一个示例，范围Pi是一个离散范围。例如，第二参数X2(“座位数”) 的每个数值x2、y2是大于等于1且小于等于8的整数。

该解释方法包括提供步骤100，用于生成列表Lj的第一集合E1的步骤110，初始化步骤120，用于选择列表Lj的步骤130，用于生成第三向量的步骤140，计算步骤15 0，评估步骤160，用于选择一组参数Xi的步骤170，以及用于详细解释的步骤180。

在提供步骤100中，提供第一分数Ux和第二分数Uy。

第一分数Ux通过函数U与第一向量X相关。第一向量X包含第一数量N1的参数Xi 的第一数值xi。

第二分数Uy通过函数U与第二向量Y相关。

例如，第一分数Ux严格大于第二个分数Uy。

第二向量Y包含第一数量N1的参数Xi的第二数值yi。

当每个实体都是汽车时，第一向量X和第二向量Y代表待比较的两辆汽车A和B。

第一向量X(10,000；5；3；4，5；75)代表汽车A，第二向量Y(12,000；6；5； 4，8；80)代表汽车B。

例如，第一向量X和第二向量Y由系统10外部的采集装置生成，并由采集装置发送给系统10，系统10根据第一向量X计算第一分数Ux并根据第二向量Y计算第二分数U y。

在上面的示例中，用户通过键盘22将第一向量X发送给系统10。

用户首先输入第一数值x1，该第一数值x1等于10,000，代表汽车A的价格。

然后，用户输入第一数值x2，该第一数值x2等于5，代表汽车A中的座位数。

然后，用户输入第一数值x3，该第一数值x3等于3，代表汽车A的车门数。

然后，用户发送第一数值x4，该第一数值x4等于4，5，代表汽车A的油耗。

最后，用户输入第一数值x5，该第一数值x5等于75，代表汽车A的发动机功率。

可选地，第一分数Ux和第二分数Uy由系统10外部的设备提供。

在生成步骤110结束时，生成列表的第一集合E1。

每个列表记为Lj，其中j是在第一集合E1中定位列表Lj的位置的索引。

该列表Lj包括至少一个参数Xi的指示符。

列表Lj中包含的每个指示符记为ij。实际上，每个指示符ij都与参数Xi相关，并且包含在列表Lj中。

每个指示符与单一参数Xi相关，反之亦然。

因此，每个列表Lj都能够限定参数Xi的子集SE2j。这意味着，当且仅当列表Lj 包含与参数Xi相关的指示符ij时，参数Xi位于与该列表Lj相关的子集SE2j中。

每个列表Lj包括第二数量N2j的参数Xi的指示符ij。

第二数量N2j为严格大于零的整数。第二数量N2j严格小于第一数量N1。

例如，第一集合E1包含第一列表L1、第二列表L2和第三列表L3。

第一列表L1包含第一参数X1的指示符11、第三参数X3的指示符31和第五参数X5的指示符51。

第二列表L2包含第二参数X2的指示符22和第四参数X4的指示符42。

第三列表L3包含第一参数X1的指示符13和第二参数X2的指示符23。

例如，列表Lj是指示符ij的N2j-元组，其中列表Lj的每个指示符ij都是整数并且等于对应的参数Xi的索引i。

根据该示例，第一列表L1是(1、3、5)，第二列表L2是(2、4)，第三列表L 3是(1、2)。

在优选的示例中，每个指示符ij都是等于1的整数。列表Lj是包含N2j个指示符 ij和元素ei，j的N1-元组。每个元素ei，j都是等于零的整数。

与参数Xi相关的指示符ij位于列表Lj中的第i个位置。

根据该优选示例，第一列表L1是5-元组(1；0；1；0；1)，第二列表L2是5- 元组(0；1；0；1；0)，第三列表L3是5-元组(1；1；0；0；0)。

在另一个示例中，每个指示符ij是对应参数Xi的名称。

第一集合E1包括多个第一子集SE1，每个第一子集SE1包括第三数量N3的列表Lj。每个第一子集SE1将包括相同第二数量N2j的指示符ij的所有列表Lj集合在一起。

第一集合E1包括总数量Nt的列表Lj。

列表Lj的总数量Nt大于等于第一数量N1的平方。

例如，每个所生成的列表Lj包含最多两个指示符ij。

列表Lj的总数量Nt小于等于系数Co与可能的列表Lj的最大数量Nm的乘积。

最大数量Nm等于2的第一数量N1次幂。

因此，该不等式用数学表示为：Nt≤Co*2^N1

系数Co为预先确定的实数。

例如，系数Co严格小于1。优选地，系数Co等于1/10。

第一集合E1的至少一部分列表Lj根据概率定律P生成。

例如，概率定律P与每个列表Lj中包含的指示符ij有关。

例如，列表Lj是根据拉丁超立方体算法随机生成的。这意味着，每个第一子集 SE1的第三数量N3等于第一预定数量Np，第一预定数量Np是每个第一子集SE1共用的，并且每个第一子集SE1的列表Lj都是随机生成的。

这表明，每个列表的指示符ij根据概率定律P生成，其中每个指示符ij的概率与列表Lj中包含的其他指示符ij的概率相等。

在第一预定数量Np等于3的情况下，第一集合E1包括三个分别包含单个指示符i j的列表Lj、三个分别包含两个指示符ij的列表，等等。

根据另一个示例，概率定律P与每个列表的第二数量N2j有关。这意味着，系统 10使用概率定律P来确定每个第一子集SE1中的列表Lj的数量，并且每个第一子集SE1 中的列表Lj是随机生成的。

优选地，在用于生成第一集合E1的步骤110中，根据高斯定律(也称为“正态定律”)计算每个第一子集SE1的第三数量N3。

高斯定律是一种概率定律，其概率密度f(N3)由以下等式给出：

其中：

·σ是高斯定律的标准差，

·μ是高斯定律的平均值，

·π是圆的周长与其直径之比，以及

·e指的是指数函数。

可选地，概率定律P是均匀定律或正态定律，与列表的总数量Nt有关。

可选地，系数Co等于1。这意味着生成所有可能的列表Lj。

在初始化步骤120结束时，生成每个参数Xi的重要性指标Ri。

重要性指标Ri是用于表示参数Xi在计算第一分数Ux和第二分数Uy时所发挥的重要性的量。优选地，该重要性指标Ri表示参数Xi在第一分数Ux和第二分数Uy之间的差值方面发挥的重要性。

该重要性指标Ri为全有序空间的一个元素。这意味着每个重要性指标Ri都可以与每个重要性指标Ri进行比较。

优选地，重要性指标Ri为实数。

例如，重要性指标Ri为Shapley值。

Shapley值是在博弈论范畴中产生的量。在合作博弈中，参与者必须组成联盟来达成目标，根据包括参与者并且如果该参与者退出该联盟则成为失败方的获胜联盟的数量，为每个参与者评估Shapley值。因此，通过Shapley值，可以评估参与者发挥的力量(即他/她影响最终结果的能力)，特别是用于在获胜的情况下确定利益的分配。

在我们的案例中，为每个参数Xi评估其Shapley值Ri，同时，能够评估出参数X i在第一分数Ux和第二分数Uy之间的差值方面发挥的重要性。

可选地，重要性指标Ri为Sobol’指数。

Sobol’指数为具有至少一个参数的函数对该参数的变化的敏感性的估计量。函数U对参数Xi的一阶敏感性指数根据函数U的方差V(U)来定义，等式如下：

其中，E(U|Xi)是参数Xi设定时函数U的平均值。

每个重要性指标Ri的值设置为等于零。

在选择步骤130结束时，选择出列表Lj。

例如，如果在之前的选择步骤130中没有选择出列表Lj，则选择索引j等于1的列表L1。

例如，列表Lj的索引j存储在内存18中。

在上文给出的比较两辆汽车的示例中，选择出列表L1(1；0；1；0；1)。

在生成步骤140结束时，生成第三向量Cj和至少一个第四向量Di，j。

第三向量Cj包含参数Xi的第三数值ci，j。

第三向量Cj是根据所选择的列表Lj并且至少根据第一向量X生成的。

当列表Lj不包含对应参数Xi的指示符ij时，每个第三数值ci，j与对应的第一数值xi相等。

而在相反的情况下，第三数值ci，j与第一数值xi不同。

优选地，当列表Lj包含参数Xi的指示符ij时，对应的第三数值ci，j与对应的第二数值yi相等。

在上文的比较两辆汽车的案例中，根据第一向量X(10000；5；3；4，5；75) 和第二向量Y(12000；6；5；4，8；80)的列表L1(1；0；1；0；1)生成第三向量C 1(12000；5；5；4，5；80)。

在图3中，第一向量X、第二向量Y和第三向量C1在三维图中示出。为清晰起见，仅示出第一参数X1、第二参数X2和第三参数X3。

在生成步骤140结束时，还根据第三向量Cj为每个参数Xi生成第四向量。

第四向量用Di，j表示，并通过第三向量Cj的索引j和参数Xi的索引i进行标记识别。

每个第四向量Di，j包括参数Xi的第四数值。

第四向量Di，j的每个第四数值用di，j，m表示，其中m是整数索引，用于识别第四数值di，j，m在第四向量Di，j中的位置。第四数值di，j，m的索引m大于或等于1，且小于或等于第一数量N1。

如果第四数值di，j，m的索引m与参数Xi的索引i不同，则每个第四值di，j，m等于对应的第三数值ci，j。

而在相反的情况下，第四数值di，j，m与对应的第三数值ci，j不同。优选地，如果第三数值ci，j等于第二数值yi，则第四数值di，j，m等于第一数值xi；如果第三数值ci，j等于第一数值xi，则第四数值di，j，m等于第二数值yi。

换句话说，根据第三向量Cj，并且根据情况，通过用第一数值xi或对应的第二数值yi替代索引i的第三数值ci，j，来构建与具有索引i的参数Xi相关的第四向量Di， j，从而使第四向量Di，j与第三向量Cj不同。

在比较两辆汽车的示例中，根据第三向量C1(12000；5；5；4，5；80)生成五个第四向量Di，1。

为第一参数X1生成第四向量D1，1(10000；5；5；4，5；80)。只有等于1的第四索引数值m与对应的第三数值C1，1不同。

为第二参数X2生成第四向量D2，1(12000；6；5；4，5；80)。只有等于2的第四索引数值m与对应的第三数值C3，2不同。

为第三参数X3生成第四向量D3，1(12000；5；3；4，5；80)。只有等于3的第四索引数值m与对应的第三数值c3，1不同。

为第四参数X4生成第四向量D4，1(12000；5；5；4，8；80)。只有等于4的第四索引数值m与对应的第三数值C4，1不同。

为第五参数X5生成第四向量D5，1(12000；5；5；4，5；75)。只有等于5的第四索引数值m与对应的第三数值c5，1不同。

在计算步骤150结束时，根据第三向量Cj计算出第三分数Ucj，并根据每个第四向量Di，j计算出第四分数Udi，j。

例如，第三分数Ucj和第四分数Udi，j由信息处理单元14计算得出。

根据另一个示例，第三向量Cj和第四向量Di，j被发送到外部计算设备，信息处理单元14能够控制该外部计算设备。该计算设备向系统10返回第三分数Ucj和第四分数Udi，j。

在评估步骤160结束时，对每个参数Xi的重要性指标Ri进行评估。

优选地，根据第三分数Ucj和第四分数Udi，j评估重要性指标Ri。

为此，计算与参数Xi相关的第三分数Ucj和第四分数Udi，j之间差值的绝对值。由此，重要性指标Ri的数值增加了量Q，该量Q等于计算出的绝对值除以第一集合E1 中的列表Lj的总数量Nt。

用数学表示如下：

因此，所评估出的重要性指标Ri是Shapley值的近似值。

不同地，在评估步骤160中，仅考虑其第一数值xi与第二数值yi不同的参数Xi。这表明，当第一数值xi和第二数值yi相等时，在评估步骤160中，对应参数Xi的重要性指标Ri没有被评估。

如果所有的列表Lj都未被选择，则重复选择步骤130。在图2中，用箭头165表示重复操作。

然后，按照上文所述的顺序，为另一列表Lj重复执行用于选择列表Lj的步骤13 0、用于生成第三向量Cj的步骤140、用于计算至少一个分数的步骤150以及用于评估至少一个重要性指标Ri的步骤160。

例如，已保存和存储的索引j增加1，然后为对应的列表Lj，执行用于选择列表 Lj的步骤130、用于生成第三向量Cj的步骤140、用于计算至少一个分数的步骤150以及用于评估至少一个重要性指标Ri的步骤160。

当对每个列表Lj都已经执行过用于选择列表Lj的步骤130、用于生成第三向量C j的步骤140、用于计算至少一个分数的步骤150以及用于评估至少一个重要性指标Ri 的步骤160时，在评估步骤160之后执行用于选择至少一个参数Xi的步骤170。

例如，当列表Lj的索引j等于列表Lj的总数量Nt时，在评估步骤160之后执行用于选择至少一个参数Xi的步骤170。

以给出的示例为例，在每个评估步骤160执行完之后，评估出第一重要性指标R 1、第二重要性指标R2、第三重要性指标R3、第四重要性指标R4和第五重要性指标R5。

第一重要性指标R1与第一参数X1相关，第二重要性指标R2与第二参数X2相关，以此类推。

第一重要性指标R1等于0.5，第二重要性指标R2等于0.05，第三重要性指标R3 等于0.10，第四重要性指标R4等于0.30，以及第五重要性指标R5等于0.05。

这意味着，对第一分数Ux和第二分数Uy之间的差值具有重要性最大的参数Xi是第一参数X1。对第一分数Ux和第二分数Uy之间的差值具有重要性最小的参数Xi是第二参数X2和第五参数X5。

在用于选择至少一个参数Xi的步骤170结束时，选择出参数Xi的第四集合E4。

第四集合E4包括第四数量N4的参数Xi。例如，第四数量N4是预先确定的。

不同地，根据所评估的重要性指标Ri，在用于选择至少一个参数Xi的步骤170 中确定第四数量N4。

在用于选择至少一个参数Xi的步骤170中，所选择的参数Xi是具有最高重要性指标Ri的参数Xi。

在上文给出的示例中，第四数量N4等于2，选择与等于0.5的第一重要性指标R1 相关的第一参数X1，以及与等于0.30的第四重要性指标R4相关的第四参数X4。

在详细解释步骤180结束时，进行详细解释Ex。

解释Ex可以向决策者解释第一分数Ux。

例如，解释Ex是第一分数Ux与第二分数Uy相比较的相关解释。

这意味着，解释Ex能够向决策者解释第一分数Ux与第二分数Uy之间的差值。特别地，解释Ex能够向决策者解释为什么分数Ux、Uy优于另一分数Ux、Uy。

根据所选择的参数Xi来进行详细解释Ex。例如，解释Ex包括所选参数Xi的列表。

例如，解释Ex包括解释性的“填写空白型”短语或句子，如：“由于-，[1]优于[2]：_”其中[1]是与最高分数相关的实体的名称。解释性的“填写空白型”短语或句子之后是所选参数Xi的列表。

在比较汽车A与汽车B的示例中解释Ex是这样的：“由于其价格和油耗，A优于 B。”

该解释在显示单元24中显示。

在用于解释分数Ux的解释方法中，未假设函数U是已知的。因此，该解释方法可以与外部设备结合使用，用于计算操作细节未知的分数。只有第一分数Ux和第二分数Uy以及相关的第一向量x和第二向量y是已知的。

此外，由于解释方法不与特定函数相关，因此具有可适应性。不采用与函数U 有关的任何假设。

在第二个实施例中，如果所有列表Lj都未被选择，并且，在评估步骤160中，量Q严格小于预定阈值S，则在评估步骤160之后执行用于选择至少一个参数Xi步骤17 0。

用数学表示如下：

该解释方法未考虑某些非重要性列表Lj(其量Q小于阈值S)。因此，该解释方法可以更快速地执行。

图4示出解释方法的第三个实施方式。

与图2中所示的第一个示例相同的元素不再描述。仅突出有差异的地方。

函数U具有与第一极向量G相关的全局最大值Ug，以及与第二极向量B相关的全局最小值Ub。

函数U的全局最大值Ug和全局最小值Ub保存并存储在内存存储器18中。

例如，通过对函数U的数学分析，得到函数U的全局最大值Ug和全局最小值Ub。

不同地，通过实验方法，得到函数U的全局最大值Ug和全局最小值Ub。例如，生成所有可能的向量X、Y，并计算与向量X、Y中的每一个向量相关的分数Ux、Uy。

现在，对第三个示例的操作进行描述。

在用于提供第一分数的步骤100结束时，仅提供第一分数Ux。不提供第二分数U y。

进而，根据第一向量x和第一极向量G，执行用于生成第一集合E1的步骤110、初始化步骤120、用于选择列表Lj的步骤130；用于生成第三向量Cj的步骤140；用于计算至少一个分数的步骤150、用于评估至少一个重要性指标Ri的步骤160以及用于选择一组参数Xi的步骤170。

这意味着，在执行用于生成第一集合E1的步骤110、初始化步骤120、用于选择列表Lj的步骤130；用于生成第三向量Cj的步骤140；用于计算至少一个分数的步骤1 50、用于评估至少一个重要性指标Ri的步骤160以及用于选择一组参数Xi的步骤170 的过程中，使用全局最大值Ug代替第二分数Uy，以及使用第一极向量G代替第二向量 Y。

在评估步骤160结束时，得到每个参数Xi的第一重要性指标Rpi。

在用于选择至少一个参数Xi的步骤170结束时，根据所评估的第一重要性指标Rpi，选择出参数Xi的第五集合E5。

随后，根据第一向量x和第二极向量B，执行用于生成第一集合E1的步骤110、初始化步骤120、用于选择列表Lj的步骤130；用于生成第三向量Cj的步骤140；用于计算至少一个分数的步骤150、用于评估至少一个重要性指标Ri的步骤160以及用于选择一组参数Xi的步骤170。

这意味着，在执行用于生成第一集合E1的步骤110、初始化步骤120、用于选择列表Lj的步骤130；用于生成第三向量Cj的步骤140；用于计算至少一个分数的步骤1 50、用于评估至少一个重要性指标Ri的步骤160以及用于选择一组参数Xi的步骤170 的过程中，使用全局最小值Ub代替第二分数Uy，以及使用第二极向量B代替第二向量 Y。

在评估步骤160结束时，得到每个参数Xi的第二重要性指标Rdi。

在用于选择至少一个参数Xi的步骤170结束时，根据所评估的第二重要性指标Rdi，选择出参数Xi的第六集合E6。

在详细解释步骤180结束时，基于第五集合E5和第六集合E6来进行详细解释Ex。

然后，通过该解释方法，可以以绝对值方式解释第一分数Ux。这意味着，该方法能够在不需将第一分数Ux与第二分数Uy相比较的情况下，对第一分数Ux进行解释。

图5为解释方法的第四个实施方式的流程图。

与图2中所示的第一个示例相同的元素不再描述。仅突出有差异的地方。

莫比乌斯系数为通过莫比乌斯反演公式基于第一序列获得的元素。莫比乌斯反演公式在十九世纪由奥古斯特·费迪南德·莫比乌斯(August Ferdinand M□bius) 引入到数论中。

根据莫比乌斯反演公式，通过以下等式为每个列表Lj定义莫比乌斯系数m(L j)：

其中：

·T为二级列表，其包含指示符ij并包括在列表Lj中；

·|Lj\T|为包含在列表Lj中但不包含在二级列表T中的指示符ij的数量；以及

·v(t)为与第三向量Cj相关的第三分数Ut与第一分数Ux之间的差值，该第三向量Cj是基于二级列表T计算的。

函数U为k型增函数。

这意味着，存在第二预定数量k，如果列表Lj的第二数量N2j严格大于第二预定数量k，则每个列表Lj的莫比乌斯系数m(Lj)等于零。

第二预定数量k是严格大于1且严格小于第一数量N1的整数。

例如，第二个预定数量k等于3。优选地，第二个预定数量k等于2。

在用于生成第一集合E1的步骤110结束时，生成了第二数量N2j小于等于第二预定数量k的所有列表Lj。

不生成第二数量N2j严格大于第二预定数量k的列表。

因此，只生成与小于或等于第二预定数量k的第二数量N2j相关的第一子集SE1。

同时，为每个参数Xi定义列表Lj的第三子集SE3i。第三子集SE3i各自包括列表Lj，列表Lj包含参数Xi的指示符ij。每个第三子集SE3i包含在第一集合E1中。

初始化步骤120和选择步骤130不执行。

在用于生成一个第三向量Cj的步骤140结束时，生成了与每个列表Lj相关的第三向量。

不生成第四向量Di，j。

在计算步骤150结束时，只计算出每个第三向量Cj的第三分数Ucj。

评估步骤160包括初始化子步骤162，之后是用于计算至少一个莫比乌斯系数的子步骤165，然后是子用于评估至少一个重要性指标Ri的步骤167。

系数m(Lj)是实数，其等于第三分数Ucj与第一分数Ux之间的差值，其中该第三分数Ucj与根据列表Lj生成的第三向量Cj相关。用数学表示如下：

m(Lj)＝Ucj-Ux

还生成了迭代子n。迭代子n固定等于零。

在计算子步骤165结束时，迭代子n增加1。用数学表示如下：

n：＝n+1

如果列表Lj包含索引等于迭代子n的参数Xn的指示符ij，则为每个列表Lj生成精简列表Lrj；

通过删除与索引等于迭代子n的参数Xn相关的指示符ij，根据列表Lj构建精简列表Lrj。这就是说，除了等于迭代子n的指示符ij外，精简列表Lrj包括列表Lj中的每个指示符ij。

例如，在第一计算子步骤165结束时，根据列表L1(1；0；1；0；1)生成精简列表Lr1(0；0；1；0；1)。

每个列表的系数m(Lj)固定等于系数m(Lj)和系数m(Lr，j)之间的差值，其中该系数m(Lj)与列表Lj相关，并且系数m(Lr，j)与精简列表Lrj相关。用数学表示如下：

m(Lj)：＝m(Lj)-m(Lrj)

如果列表Lj不包含等于迭代子n的指示符ij，那么系数m(Lj)不变。

如果迭代子n严格小于第一数量N1，则重复第一计算子步骤165。在图5中，用箭头190表示重复操作。

否则，第一计算子步骤165之后，执行第二计算子步骤167。

在第二计算子步骤167结束时，评估出与每个参数Xi相关的重要性指标Ri。

对于包含参数Xi的指标ij的每个列表Lj，每个重要性指标Ri等于系数m(Lj)与列表Lj中的第二数量N2j之间的比值之和，其中系数m(Lj)的索引与列表Lj相关。

可以用数学表示为：

当第二计算子步骤167完成时，执行用于选择至少一个参数Xi的步骤170。

当函数U为k型增函数时，那么与每个参数相关的重要性指标Ri是Shapley值，而不是Shapley值的近似值。

因此，该用于解释分数Ux的解释方法更加精确。因而，生成的解释Ex相关性更高。

由于该解释方法不与特定的函数相关，因此具有可适应性。该解释方法只假设已知函数U是k型增函数。

在解释方法的第五个示例中，当用于选择至少一个参数Xi的步骤170结束时，选择出参数的至少两个第四子集SE4m。

与图2中所示的第一个示例相同的元素不再描述。仅突出有差异的地方。

在选择步骤170结束时，基于收到的重要性指标Ri，生成第五数量N5的第四子集SE4。

在以下描述部分中，通过索引m对每个第四子集SE4进行标记识别，并且标示为SE4m。

每个第四子集SE4m包括至少一个参数Xi。

优选地，根据数据划分法生成第四子集SE4m。

数据划分(或作为可接受的术语，数据聚类)是进行数据分析的统计方法之一。数据划分的目的是将一个数据集划分为各种不同的同构子集，从这种意义上来说，每个子集中的数据具有共同的特征，这通常与对象之间的接近标准相对应。

至于第四子集SE4m，所使用的接近标准是重要性指标Ri之间的差值。

在第四子集SE4m中，根据所计算的重要性指标Ri的升序对参数Xi进行分类。这意味着，对于与索引m等于1的第四子集SE41中的每个参数Xi相关的重要性指标Ri大于与索引m等于2的第四子集SE42中的参数Xi相关的每个重要性指标Ri，依此类推。

在详细解释步骤180结束时，基于生成的参数Xi的第四子集SE4m来进行详细解释Ex。

例如，解释Ex采用解释性的“填写空白型”短语或句子形式：“汽车A优于汽车B，首先是因为参数[1]，其次是因为参数[2]，最后是因为参数[3]”，其中[1]是第四子集SE41中的参数Xi的列表，[2]是第四子集SE42中的参数Xi的列表，以及[3] 是第四子集SE43中的参数Xi的列表。

该解释方法将解释Ex中使用的参数Xi的数量自动调整为所评估的重要性指标Ri。因此，该详细解释Ex相关性更高。

该解释方法提供的上述每个示例都可以通过非精确已知的函数U来执行。

该解释方法不依赖于所使用的函数U。因此，该解释方法适用于大量的函数U。

此外，根据与每个参数Xi相关的Shapley值来进行详细解释Ex。因此，解释Ex 相关性更高。

最后，在实施该解释方法时，仅生成精简数量的列表Lj。因此，该解释方法表现出良好的性能要素，特别是在计算时间方面。

Claims (9)

1.一种用于决策辅助系统的分数解释方法，由所述决策辅助系统的包括处理器(16)的数据处理单元执行，用于解释分数Ux，所述分数Ux通过未知函数U与向量x相关，所述向量x具有第一数量N1的参数Xi，其中，每个参数Xi按照从1到所述第一数量N1变化的指示符ij进行排序，所述第一数量N1为严格大于1的整数，所述方法至少包括以下步骤：

a1)由处理器(16)将第一向量x输入给由外部设备提供的未知函数U，接收由未知函数U输出的与第一向量x相关的第一分数Ux，所述第一向量x包含所述参数Xi的第一数值x_i；

a2)由处理器(16)将第二向量Y输入给所述由外部设备提供的未知函数U，接收由未知函数U输出的与第二向量Y相关的第二分数Uy，所述第二向量Y包含所述参数Xi的第二数值y_i；

b)由处理器(16)在内存(18)中生成列表L_j的第一集合E1，每个列表L_j包括第二数量N2j的指示符ij，所述第二数量N2j为严格小于所述第一数量N1并且严格大于零的整数；

c)由处理器(16)在内存(18)中根据列表L_j生成至少一个第三向量Cj，其中每个参数Xi具有第三数值c_i,j，当所述列表L_j不包含对应参数Xi的指示符ij时，所述第三数值c_i,j与对应的第一数值x_i相等，而当所述列表L_j包含对应参数Xi的指示符ij时，所述第三数值c_i,j等于对应的第二数值y_i；

d)由处理器(16)将所述至少一个第三向量Cj输入给所述由外部设备提供的未知函数U，接收由未知函数U输出的与所述至少一个第三向量Cj相关的至少一个第三分数UCj；

e)由处理器(16)根据所述至少一个第三分数UCj评估每个参数Xi的重要性指标R_i；以及

f)由处理器(16)根据评估出的所述重要性指标R_i选择至少一个所述参数Xi，以在内存(18)中生成所选参数Xi的列表并由处理器(16)基于所述列表来对所述第一分数Ux进行详细解释E，从而为决策辅助系统做出决策提供依据。

2.根据权利要求1所述的方法，其中，在步骤e中计算的所述重要性指标R_i为Shapley值或Sobol’指数。

3.根据权利要求1所述的方法，其中，所述第一集合E1包括总数量Nt的列表L_j，所述总数量Nt满足以下数学不等式：

Nt≤Co*2^N1

其中，Co是预定系数。

4.根据权利要求1所述的方法，其中，步骤b包括根据概率定律P，生成所述第一集合E1的至少一部分列表L_j，所述概率定律P与所述第二数量N2j或所述列表L_j中包含的指示符ij有关。

5.根据权利要求1所述的方法，其中，步骤b包括生成所有列表L_j，其中所述第二数量N2j小于或等于第二预定整数k，所述第二预定整数k严格小于所述第一数量N1。

6.一种用于决策辅助系统的分数解释方法，由所述决策辅助系统的包括处理器(16)的数据处理单元执行，用于解释分数Ux，所述分数Ux通过未知函数U与向量x相关，所述未知函数U具有与第一极向量G相关的全局最大值Ug以及与第二极向量B相关的全局最小值Ub，所述方法包括：

g1)根据所述第一分数Ux和所述全局最大值Ug，由处理器(16)应用根据权利要求1所述的解释方法中的步骤b至e，以在内存(18)中得到第一重要性指标Rg_i；

g2)根据所述第一分数Ux和所述全局最小值Ub，由处理器(16)应用根据权利要求1所述的解释方法中的步骤b至e，以在内存(18)中得到第二重要性指标Rb_i；以及

h)由处理器(16)根据所述第一重要性指标Rg_i和第二重要性指标Rb_i选择至少一个参数Xi，以生成对所述第一分数Ux的解释E，从而为决策辅助系统做出决策提供依据。

7.一种计算机程序产品，包括软件指令，所述软件指令被计算机执行时实现根据权利要求1至6任一项所述的方法。

8.一种信息介质，用于在内存中存储根据权利要求7所述的计算机程序产品。

9.一种用于决策辅助系统的分数解释系统(10)，具有包括处理器(16)的数据处理单元，用于解释使分数Ux与向量x相关联的未知函数U，所述向量x具有第一数量N1的参数Xi，其中，每个参数Xi按照从1到所述第一数量N1变化的指示符ij进行排序，所述第一数量N1为严格大于1的整数，所述系统(10)的数据处理单元被设置为用于：

-将第一向量x输入给由外部设备提供的未知函数U，接收由未知函数U输出的与第一向量x相关的第一分数Ux，所述第一向量x包含所述参数Xi的第一数值x_i；

-将第二向量Y输入给所述由外部设备提供的未知函数U，接收由未知函数U输出的与第二向量Y相关的第二分数Uy，所述第二向量Y包含所述参数Xi的第二数值y_i；

-在内存(18)中生成列表L_j的第一集合E1，每个列表L_j包括第二数量N2j的指示符ij，所述第二数量N2j为严格小于所述第一数量N1并且严格大于零的整数；

-在内存(18)中根据列表L_j生成至少一个第三向量Cj，其中每个参数Xi具有第三数值c_i,j，当所述列表L_j不包含对应参数Xi的指示符ij时，所述第三数值c_i,j与对应的第一数值x_i相等，而当所述列表L_j包含对应参数Xi的指示符ij时，所述第三数值c_i,j等于对应的第二数值y_i；

-将第三向量Cj输入给所述由外部设备提供的未知函数U，接收由未知函数U输出的与第三向量Cj相关的第三分数UCj；

-基于所述第三分数UCj评估每个参数Xi的重要性指标R_i；以及

-根据评估出的所述重要性指标R_i选择至少一个所述参数Xi，以在内存(18)中生成所选参数Xi的列表并基于所述列表来对所述第一分数Ux进行详细解释E，从而为决策辅助系统做出决策提供依据。

Images