CN114723239A - 一种多方协同建模方法、装置、设备、介质及程序产品 - Google Patents
一种多方协同建模方法、装置、设备、介质及程序产品 Download PDFInfo
- Publication number
- CN114723239A CN114723239A CN202210273242.2A CN202210273242A CN114723239A CN 114723239 A CN114723239 A CN 114723239A CN 202210273242 A CN202210273242 A CN 202210273242A CN 114723239 A CN114723239 A CN 114723239A
- Authority
- CN
- China
- Prior art keywords
- client
- server
- collaborative modeling
- evaluation index
- modeling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0635—Risk analysis of enterprise or organisation activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Physics & Mathematics (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Theoretical Computer Science (AREA)
- Marketing (AREA)
- General Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- Educational Administration (AREA)
- Tourism & Hospitality (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Game Theory and Decision Science (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Technology Law (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种多方协同建模方法、装置、设备、介质及程序产品。本方明涉及大数据技术领域。该方法包括:客户端向至少两个服务端分别发送数据对齐指令,以对各服务端客户信息进行对齐操作;并向各服务端分别发送协同建模请求;各服务端分别基于各自的客户特征计算并返回计算结果;客户端基于各服务端的计算结果确定评估指标,以得到各服务端通过进化算法基于评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代;若满足迭代终止条件,则各服务端分别向客户端确认服务端的半模型,以得到多方协同建模结果。本方案可以解决基于进化计算协同建模框架仅支持两方建模的问题,扩展了多方协同建模框架的应用场景,有利于提升模型识别准确率。
Description
技术领域
本发明涉及大数据技术领域,尤其涉及一种多方协同建模方法、装置、设备、介质及程序产品。
背景技术
金融信用风险控制领域,通常采用协同建模方法,对客户样本数据进行加工处理,并基于逻辑回归算法等算法进行模型训练,实现特征选择。在保证模型的可解释性基础上,利用模型预测客户信用等级,区分客户的信用好坏。
目前,在基于进化计算的协同建模框架中,服务端是以进化计算为主框架,客户端以自定义模型训练算法为基础,进行协同建模。首先,服务端通过进化计算对单变量特征数据进行随机标签化,在客户端,获取此计算结果后,通过客户端自定义的训练算法,完成建模。
但是,现有技术中的协同建模框架仅支持两方建模,在两方以上参与情况下,无法完成有效建模,因此,现有方案只能利用单一数据源,得到的模型识别准确率较低,难以达到理想效果。。
发明内容
本发明提供了一种多方协同建模方法、装置、设备、介质及程序产品,以解决基于进化计算协同建模框架仅支持两方建模的问题,扩展了多方协同建模框架的应用场景,有利于实现对多数据源的充分利用,进而提升模型识别准确率。
根据本发明的一方面,提供了一种多方协同建模方法,所述方法由客户端执行,所述客户端与至少两个服务端交互;所述方法包括:
向所述至少两个服务端分别发送数据对齐指令,以对所述至少两个服务端的客户信息进行对齐操作;
向所述至少两个服务端分别发送协同建模请求,并接收由各服务端分别基于各自的客户特征计算得到的计算结果;
基于各服务端的计算结果确定评估指标,并向各服务端发送所述评估指标,以得到各服务端通过进化算法基于所述评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代;
若满足迭代终止条件,则接收各服务端发送的服务端的半模型确认信息,以得到多方协同建模结果。
根据本发明的另一方面,提供了一种多方协同建模方法,所述方法服务端执行,所述服务端为至少两个,并分别与客户端交互;所述方法包括:
接收所述客户端发送的数据对齐指令,以对客户信息进行对齐操作;
接收所述客户端发送协同建模请求,分别向所述客户端返回基于各自的客户特征计算得到的计算结果;
接收所述客户端基于所述计算结果确定的评估指标,通过进化算法基于所述评估指标衍生出的计算结果,并再度发送至所述客户端以确定评估指标,以进行迭代;
若满足迭代终止条件,则向所述客户端发送服务端的半模型确认信息,以得到多方协同建模结果。
根据本发明的另一方面,提供了一种多方协同建模装置,所述装置配置于客户端,所述客户端与至少两个服务端交互;所述装置包括:
数据对齐指令发送模块,用于向所述至少两个服务端分别发送数据对齐指令,以对所述至少两个服务端的客户信息进行对齐操作;
协同建模请求发送模块,用于向所述至少两个服务端分别发送协同建模请求,并接收由各服务端分别基于各自的客户特征计算得到的计算结果;
评估指标发送模块,用于基于各服务端的计算结果确定评估指标,并向各服务端发送所述评估指标,以得到各服务端通过进化算法基于所述评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代;
半模型确认信息接收模块,用于若满足迭代终止条件,则接收各服务端发送的服务端的半模型确认信息,以得到多方协同建模结果。
根据本发明的另一方面,提供了一种多方协同建模装置,所述装置配置于服务端,所述服务端为至少两个,并分别与客户端交互;所述装置包括:
数据对齐指令接收模块,用于接收所述客户端发送的数据对齐指令,以对客户信息进行对齐操作;
协同建模请求接收模块,用于接收所述客户端发送协同建模请求,分别向所述客户端返回基于各自的客户特征计算得到的计算结果;
评估指标接收模块,用于接收所述客户端基于所述计算结果确定的评估指标,通过进化算法基于所述评估指标衍生出的计算结果,并再度发送至所述客户端以确定评估指标,以进行迭代;
半模型确认信息发送模块,用于若满足迭代终止条件,则向所述客户端发送服务端的半模型确认信息,以得到多方协同建模结果。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的多方协同建模方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的多方协同建模方法。
根据本发明的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如本发明实施例中任一所述的多方协同建模方法。
本发明实施例的技术方案,通过各服务端分别基于各自的客户特征计算并返回计算结果,客户端可以通过进化算法基于各服务端的计算结果确定评估指标。各服务端可以基于评估指标衍生出的计算结果,并由客户端再度确定评估指标,以进行迭代。在迭代终止条件满足时得到多方协同建模结果。该方案可以解决基于进化计算协同建模框架中仅支持两方建模的问题,扩展了多方协同建模框架的应用场景,有利于实现对多数据源的充分利用,进而提升模型识别准确率。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种多方协同建模方法的流程图;
图2是根据本发明实施例二提供的一种多方协同建模方法的流程图;
图3是根据本发明实施例三提供的多方协同建模的信令图;
图4是根据本发明实施例四提供的一种多方协同建模装置的结构示意图;
图5是根据本发明实施例五提供的一种多方协同建模装置的结构示意图;
图6是实现本发明实施例的多方协同建模方法的电子设备结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请技术方案中对数据的获取、存储、使用、处理等均符合国家法律法规的相关规定。
实施例一
图1为本发明实施例一提供了一种多方协同建模方法的流程图,本实施例可适用于多方协同建模情况,该方法可以由配置于客户端的多方协同建模装置来执行,该装置可以采用硬件和/或软件的形式实现,该装置可配置于电子设备中。如图1所示,该方法包括:
S110、向所述至少两个服务端分别发送数据对齐指令,以对所述至少两个服务端的客户信息进行对齐操作。
本方案可以由协同建模框架中的客户端执行,所述协同建模是为了克服数据壁垒实现良好的问题解决的建模方式。协同建模往往存在多个数据源,其中,多个数据源之间存在难以打破的壁垒,数据以孤岛的形式存在。例如客户A向银行A请求贷款,仅凭借银行A内部的数据无法对客户A的贷款风险进行全面的评估。如果可以结合客户A在银行B的信贷数据,政府部门关于客户A的信用数据,以及电商企业关于客户A的消费数据等信息,银行A可以利用丰富的数据对客户A的贷款风险进行更加可靠的评估。由于隐私安全、行业竞争等复杂因素的影响,银行A很难获得上述丰富的数据。为了解决上述问题,银行A可以联合银行B、政府部门以及电商企业等单位,在不泄露各自数据的前提下,进行协同建模,利用构建好的模型对客户A进行贷款风险评估,以解决上述问题。
可以理解的,所述协同建模框架可以是建模参与方为解决某一问题而制定的建模方式框架。所述协同建模框架可以包括一个客户端和至少两个服务端;其中,所述客户端与所述至少两个服务端交互。所述客户端可以是建模方,即需要通过协同建模利用其他数据源以解决问题的一方或多方,例如可以是为对客户信贷行为进行风险评估的银行、保险等金融机构。所述服务端可以是数据提供方,即为建模方提供参考数据源的一方或多方。
客户端可以向各服务端分别发送数据对齐指令,以保证客户端、多个服务端在数据格式等方面的一致性。
S120、向所述至少两个服务端分别发送协同建模请求,并接收由各服务端分别基于各自的客户特征计算得到的计算结果。
客户端还可以向各个服务端分别发送协同建模请求,以通知各服务端为协同建模做好准备,实现对数据的预处理等操作。其中,数据可以是客户信息,所述客户信息可以包括客户姓名、客户性别、客户年龄以及身份证号等基本信息。
在接收到客户端发送的协同建模请求之后,服务端可以利用各自的客户信息,进行各自的客户特征计算。所述客户特征计算可以是对客户信息进行加密或编码。将客户信息进行编码或加密之后可以得到计算结果。客户端可以接收服务端发送来的计算结果。
在一个优选的方案中,各服务端配置有协同重置算子;
相应的,在迭代过程中,所述方法还包括:
向各服务端中任意一个服务端发送重置请求,供服务端基于所述协同重置算子对当前服务端的半模型进行重置。
一些情况下,各服务端在迭代过程中容易陷入半模型的局部最优解,此时,多次迭代不仅很难改善进化算法的训练走向,而且浪费了大量的硬件资源,例如计算力和存储空间。因此,可以为各服务端配置协同重置算子以进行模型重置。
客户端可以记录各服务端计算结果的评估指标,当不满足需求的评估指标达到预设个数时,则向服务端发送重置请求。如果存在服务端接收到客户端的重置请求,该服务端可以基于协同重置算子对服务端训练的半模型进行重置,以使服务端重新训练半模型,进而得到全局最优解。
本方案可以解决迭代过程中半模型陷入局部最优解的情况,加快半模型的训练过程,进而提高协同建模的效率。
在上述方案的基础上,在各服务端中任意一个服务端接收到客户端的重置请求之前,所述客户端可以通过对比各服务端的评价指标,确定是否存在满足重置条件服务端。若满足,则向满足重置条件的服务端发出重置请求。
容易理解的,客户端可以通过比较各个服务端的评价指标,确定异常的评价指标。例如共存在服务端A、服务端B、服务端C以及服务端D四个服务端.其中,服务端A的评价指标数值为51,服务端B的评价指标数值为52,服务端C的评价指标数值为49,而服务端D的评价指标数值为2。此时,服务端A、服务端B和服务端C三个服务端的评价指标差距不大,服务端D的评价指标明显与其他服务端的评价指标存在较大差异。因此,可以确定服务端D满足重置条件,客户端可以向服务端D发出重置请求,要求服务端D对半模型进行重置训练。
本方案通过各服务端的评价指标比较结果,确定需要重置的服务端,可以实现多个服务端的良好协调,进而实现最优的协同建模效果。
在另一个可行的方案中,可选的,在接收由各服务端分别基于各自的客户特征计算并返回计算结果之后,所述方法还包括:
对各服务端返回的计算结果分别确定建模变量编码索引标识;其中,所述建模变量编码索引标识包括服务端编号、协同批次号以及数据编号;其中,所述数据编号是由服务端生成,并告知客户端的。
由于多个服务端可能存在数据量、运行不同步等方面的差异,客户端可以要求服务端再返回的计算结果中确定建模变量编码索引标识,以实现对于服务端、迭代次数以及数据等方面信息的标识。其中,所述服务端编号可以用于标记服务端,所述协同批次号可以用于标记迭代次数和训练批次,所述数据编号可以用于保证训练数据的一致性。
针对多个服务端,该方案可以对服务端、协同批次以及数据进行标识,进而保证对半模型训练过程中计算结果评价的一致性,进而实现真正的协同建模。
S130、基于各服务端的计算结果确定评估指标,并向各服务端发送所述评估指标,以得到各服务端通过进化算法基于所述评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代。
客户端可以根据模型所要达到的目标,对各服务端的计算结果进行评估,并得到评估指标,发送给各服务端。假设客户端想要实现信贷风险评估,则可以使用区分度评估指标(KS)对服务端的计算结果进行评估。
服务端在得到各自的评估指标之后,可以依据评估指标,利用进化算法衍生出新的计算结果,新的计算结果可以是一个或多个。服务端可以将新的计算结果反馈给客户端,由客户端再次进行评估。以此往复,直到满足迭代终止条件。
其中,所述进化算法是智能计算中涉及到组合优化问题的一个子域。进化算法是受生物进化过程中“优胜劣汰”的自然选择机制和遗传信息的传递规律的影响,通过程序迭代模拟这一过程,把要解决的问题看作环境,在一些可能的解组成的种群中,通过自然演化寻求最优解。所述进化算法可以包括遗传算法、进化策略和进化规划等。
本方案中,可选的,在得到多方协同建模结果之后,所述方法还包括:
获取待识别客户的客户信息;
调用所述多方协同建模结果,基于所述客户信息确定客户类型的识别结果。在得到多方协同建模结果之后,客户端可以获取待识别客户的客户信息,通过多方协同建模结果,输入客户信息,得到客户类型的识别结果。假设所述多方协同建模结果为客户信贷风险评估模型,输入客户A的信息,可以得到客户A为高风险客户。客户端可以根据识别结果,确定是否向客户授信。
本方案利用多方协同建模结果,识别客户类型,具有较高的识别准确率,进而实现高质量的业务处理。
S140、若满足迭代终止条件,则接收各服务端发送的服务端的半模型确认信息,以得到多方协同建模结果。
当客户端基于各服务端返回的计算结果确定的评价指标满足迭代终止条件时,说明各服务端训练的半模型已满足客户端所要解决的问题的需要。各服务端可以分别向客户端确认各自的半模型,客户端可以整合多个服务端的半模型,组合成客户端所需要的模型,例如客户信贷风险评估模型。该模型即为多方协同建模结果,可以用于解决客户端的问题。
本发明实施例的技术方案,通过各服务端分别基于各自的客户特征计算并返回计算结果,客户端可以通过进化算法基于各服务端的计算结果确定评估指标。各服务端可以基于评估指标衍生出的计算结果,并由客户端再度确定评估指标,以进行迭代。在迭代终止条件满足时得到多方协同建模结果。该方案可以解决基于进化计算协同建模框架仅支持两方建模的问题,扩展了多方协同建模框架的应用场景,有利于实现对多数据源的充分利用,进而提升模型识别准确率。
实施例二
图2为本发明实施例二提供了一种多方协同建模方法的流程图,本实施例可适用于多方协同建模情况,该方法可以由配置于服务端的多方协同建模装置来执行,该装置可以采用硬件和/或软件的形式实现,该装置可配置于电子设备中。如图2所示,该方法包括:
S210、接收所述客户端发送的数据对齐指令,以对客户信息进行对齐操作。
本方案可以由协同建模框架中的服务端执行,所述服务端为至少两个,并分别与客户端交互。所述服务端可以是数据提供方,即为建模方提供参考数据源的一方或多方。服务端在接收到客户端发送的数据对齐指令之后,可以按照预先制定的数据对齐规则规范各自数据。
S220、接收所述客户端发送协同建模请求,分别向所述客户端返回基于各自的客户特征计算得到的计算结果。
对于不同的服务端,客户信息可以存在不同信息,例如服务端A为电商企业,其客户信息可以包括消费记录、商品喜好等信息;服务端B为政府部门,其客户信息可以包括家庭住址、所有房产以及犯罪记录等信息。
服务端可以利用各自的客户信息,进行各自的客户特征计算。所述客户特征计算可以是对客户信息进行加密或编码。将客户信息进行编码或加密之后可以得到计算结果。服务端可以将计算结果反馈给客户端。
在一个可行的方案中,可选的,基于各自的客户特征计算得到计算结果的过程,包括:
基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征进行基因编码得到计算结果。
可以理解的,针对不同的服务端,其具有的客户特征可能是不同的。因此,各服务端可以分别基于各自的客户特征,按照预先设置的基因编码方式,对客户特征进行基因编码。所述基因编码方式可以是预先设定的计算方式。服务端可以将基因编码后得到的计算结果反馈至客户端。
具体的,所述基因编码方式可以包括确定特征编号以及特征计算系数;
相应的,基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征进行基因编码得到计算结果,包括:
分别基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征按照特征编号以及特征计算系数进行计算得到特征量化值;
按照所述基因编码方式中的映射规则,基于所述特征量化值映射得到计算结果。
其中,所述特征编号用于对客户特征进行标记,例如可以是按照客户特征获取的先后顺序进行标记,也可以按照客户特征的重要程度进行标记,还可以随机进行标记。所述特征计算系数可以是该客户特征在选取的全部特征中所占有的比重。服务端可以基于客户特征对模型的影响程度确定比重大小。
各服务端可以根据选定的客户特征,按照特征编号以及特征计算系数进行计算得到特征量化值。服务端可以是将客户特征与对应的特征计算系数进行相乘,再将选定的全部客户特征对应的乘积结果相加,来得到特征量化值。
各服务端可以按照基因编码方式中的映射规则,将所述特征量化值映射到计算结果。所述映射规则可以是根据特征量化值所处的范围,给定一个预设数值。
在本方案中,基因编码方式可以将多个特征进行整合,而不是采用单变量标签的方式,可以满足法律法规对于去标签化的要求,保证客户信息的安全信息性。
在一个优选的方案中,各服务端配置有协同重置算子;
相应的,在迭代过程中,所述方法还包括:
若接收到客户端的重置请求,则基于所述协同重置算子对当前服务端的半模型进行重置。
一些情况下,各服务端在迭代过程中容易陷入半模型的局部最优解,此时,多次迭代不仅很难改善进化算法的训练走向,而且浪费了大量的硬件资源,例如计算力和存储空间。因此,可以为各服务端配置协同重置算子以进行模型重置。
客户端可以记录各服务端计算结果的评估指标,当不满足需求的评估指标达到预设个数时,则向服务端发送重置请求。如果存在服务端接收到客户端的重置请求,该服务端可以基于协同重置算子对服务端训练的半模型进行重置,以使服务端重新训练半模型,进而得到全局最优解。
本方案可以解决迭代过程中半模型陷入局部最优解的情况,加快半模型的训练过程,进而提高协同建模的效率。
S230、接收所述客户端基于所述计算结果确定的评估指标,通过进化算法基于所述评估指标衍生出的计算结果,并再度发送至所述客户端以确定评估指标,以进行迭代。
服务端在得到各自的评估指标之后,可以依据评估指标,利用进化算法衍生出新的计算结果,新的计算结果可以是一个或多个。服务端可以将新的计算结果反馈给客户端,由客户端再次进行评估。以此往复,直到满足迭代终止条件。
S240、若满足迭代终止条件,则向所述客户端发送服务端的半模型确认信息,以得到多方协同建模结果。
各服务端返回的计算结果确定的评价指标满足迭代终止条件时,说明各服务端训练的半模型已满足客户端所要解决的问题的需要。各服务端可以分别向客户端确认各自的半模型,以供客户端整合多个服务端的半模型,组合成客户端所需要的模型,进而解决客户端的问题。
本发明实施例的技术方案,通过各服务端分别基于各自的客户特征计算并返回计算结果,客户端可以通过进化算法基于各服务端的计算结果确定评估指标。各服务端可以基于评估指标衍生出的计算结果,并由客户端再度确定评估指标,以进行迭代。在迭代终止条件满足时得到多方协同建模结果。该方案可以解决基于进化计算协同建模框架仅支持两方建模的问题,扩展了多方协同建模框架的应用场景,有利于实现对多数据源的充分利用,进而提升模型识别准确率。
实施例三
图3是根据本发明实施例三提供的多方协同建模的信令图,本实施例是以上述实施例为基础的一个具体例子。
在本方案中,可以通过如下方式进行进化计算的基因编码,以两个特征为例,基因编码涉及对象为:n1,n2,a1,a2,X1,X2,X3,X4,D1,D2,D3,D4,D5;其中,n1和n2分别表示特征1和特征2;需要说明的是,特征1和特征2不同;a1和a2分别表示特征1的计算系数和特征1的计算系数,其中,特征计算系数的取值范围可以设置在[-1,1]内;X1,…,X4,表示计算结果取值范围边界值,计算结果取值范围边界值可以在[0,1]范围内;D1,…,D5,表示映射输出值,其中,映射输出值的取值范围可以是为[0,100]内的整数。
基因编码计算公式为:A1×Vn1+A2×Vn2=Dn,其中,Vn1表示特征1的特征归一化值,Vn2同理;A1表示a1的实例化数值,A2同理;Dn为计算结果。基因编码方式中的映射规则可以是:
如果Dn≤X1,则编码取值为D1;
如果X1<Dn≤X2,则编码取值为D2;
如果X2<Dn≤X3,则编码取值为D3;
如果X3<Dn≤X4,则编码取值为D4;
如果X4<Dn≤X5,则编码取值为D5。
由于上述基因编码方式是通过不等式完成对原始数据的隐藏处理,因此,无法通过等式反向破解原始数据。通过上述基因编码示例,采用本方案的编码方式,可以对客户信息实现强保护。
采用上述基因编码方式,在协同建模框架基础上实现的多方协同建模流程可以如图3所示。客户端(建模方)可以增加对获取数据的分类标识,对数据特征的自动筛选方法。服务端(数据提供方),可以完成断点重跑,输出数据标识的功能。具体流程如下:
(1)对于获取的数据项,客户端提供的建模变量编码索引标识可以为Sn+Bn+In的形式。其中,Sn表示参与建模的建模服务端编号;Bn表示协同批次号,由客户端分配,并提供给参与建模的服务端;In表示数据编号,由服务端自行生成,并告知客户端。
(2)服务端增加协同重置算子,完成服务端变量评估重置。
(3)服务端增加半模型确认算子,完成建模变量确认。需要说明的是,确认过程需要利用建模变量编码索引标识完成最终各方变量的确认。
本方案在进化计算的协同建模框架基础上,完成多方协同建模。服务端以进化计算为主框架,客户端以自定义模型训练算法为基础,进行协调建模。首先,客户端发起建模数据对齐的服务端,需要完成与多方服务端对齐。需要说明的是多方对齐数据算法可以是多部对齐法。服务端通过进化计算得出启发式的计算结果,该结果可以认为是一个黑盒模型结果数据,在客户端是无法破解服务端数据明细的,因为,客户端并不知道服务端使用了多少特征,什么特征,特征如何组合,以及特征的取值范围等,也就无法确认服务端提供数据的具体明细,保证服务端提供客户端数据的安全性和可用性。
客户端在获取此计算结果之后,通过自定义的训练算法,无需任何加密修改,组合服务端的计算结果,并计算相关统计评估指标,将评估指标返回服务端。
为了支持多方使用协同进化计算算法,需要在服务端支持协同重置算法,否则进化计算算法失效。在此过程中,由于仅获取了服务端的统计指标,客户端的评估指标对服务端来说也是黑盒,服务端也无法知道客户端使用了多少特征,什么特征,特征如何组合,其他特征的取值范围等,也同样无法确认客户端的样本数据明细。通过这样的交换模式,保证了双方基础数据的安全性,同时基于进化计算,会逐步得出适合客户端的协同模型。
本发明实施例的技术方案,通过各服务端分别基于各自的客户特征计算并返回计算结果,客户端可以通过进化算法基于各服务端的计算结果确定评估指标。各服务端可以基于评估指标衍生出的计算结果,并由客户端再度确定评估指标,以进行迭代。在迭代终止条件满足时得到多方协同建模结果。该方案可以解决基于进化计算协同建模框架仅支持两方建模的问题,扩展了多方协同建模框架的应用场景,有利于实现对多数据源的充分利用,进而提升模型识别准确率。
实施例四
图4为本发明实施例四提供的一种多方协同建模装置的结构示意图。所述装置配置于客户端,所述客户端与至少两个服务端交互;如图4所示,该装置包括:
数据对齐指令发送模块410,用于向所述至少两个服务端分别发送数据对齐指令,以对所述至少两个服务端的客户信息进行对齐操作;
协同建模请求发送模块420,用于向所述至少两个服务端分别发送协同建模请求,并接收由各服务端分别基于各自的客户特征计算得到的计算结果;
评估指标发送模块430,用于基于各服务端的计算结果确定评估指标,并向各服务端发送所述评估指标,以得到各服务端通过进化算法基于所述评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代;
半模型确认信息接收模块440,用于若满足迭代终止条件,则接收各服务端发送的服务端的半模型确认信息,以得到多方协同建模结果。
在本方案中,可选的,各服务端配置有协同重置算子;
相应的,所述评估指标发送模块430,还用于:
向各服务端中任意一个服务端发送重置请求,供服务端基于所述协同重置算子对当前服务端的半模型进行重置。
在一个可行的方案中,所述协同建模请求发送模块420,还用于:
对各服务端返回的计算结果分别确定建模变量编码索引标识;其中,所述建模变量编码索引标识包括服务端编号、协同批次号以及数据编号;其中,所述数据编号是由服务端生成,并告知客户端的。
在一个优选的方案中,所述半模型确认信息接收模块440还用于:
获取待识别客户的客户信息;
调用所述多方协同建模结果,基于所述客户信息确定客户类型的识别结果。
本发明实施例所提供的多方协同建模装置可执行本发明任意实施例所提供的多方协同建模方法,具备执行方法相应的功能模块和有益效果。
实施例五
图5为本发明实施例五提供的一种多方协同建模装置的结构示意图。所述装置配置于服务端,所述服务端为至少两个,并分别与客户端交互;如图5所示,该装置包括:
数据对齐指令接收模块510,用于接收所述客户端发送的数据对齐指令,以对客户信息进行对齐操作;
协同建模请求接收模块520,用于接收所述客户端发送协同建模请求,分别向所述客户端返回基于各自的客户特征计算得到的计算结果;
评估指标接收模块530,用于接收所述客户端基于所述计算结果确定的评估指标,通过进化算法基于所述评估指标衍生出的计算结果,并再度发送至所述客户端以确定评估指标,以进行迭代;
半模型确认信息发送模块540,用于若满足迭代终止条件,则向所述客户端发送服务端的半模型确认信息,以得到多方协同建模结果。
在本方案中,可选的,所述协同建模请求接收模块520,包括:
计算结果生成单元,用于基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征进行基因编码得到计算结果。
在上述方案的基础上,可选的,所述基因编码方式,包括确定特征编号以及特征计算系数;
相应的,所述计算结果生成单元,具体用于:
分别基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征按照特征编号以及特征计算系数进行计算得到特征量化值;
按照所述基因编码方式中的映射规则,基于所述特征量化值映射得到计算结果。
在一个可行的方案中,各服务端配置有协同重置算子;
相应的,所述评估指标接收模块530,还用于:
若接收到客户端的重置请求,则基于所述协同重置算子对当前服务端的半模型进行重置。
本发明实施例所提供的多方协同建模装置可执行本发明任意实施例所提供的多方协同建模方法,具备执行方法相应的功能模块和有益效果。
实施例六
图6示出了可以用来实施本发明的实施例的电子设备610的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图6所示,电子设备610包括至少一个处理器611,以及与至少一个处理器611通信连接的存储器,如只读存储器(ROM)612、随机访问存储器(RAM)613等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器611可以根据存储在只读存储器(ROM)612中的计算机程序或者从存储单元618加载到随机访问存储器(RAM)613中的计算机程序,来执行各种适当的动作和处理。在RAM 613中,还可存储电子设备610操作所需的各种程序和数据。处理器611、ROM 612以及RAM 613通过总线614彼此相连。输入/输出(I/O)接口615也连接至总线614。
电子设备610中的多个部件连接至I/O接口615,包括:输入单元616,例如键盘、鼠标等;输出单元617,例如各种类型的显示器、扬声器等;存储单元618,例如磁盘、光盘等;以及通信单元619,例如网卡、调制解调器、无线通信收发机等。通信单元619允许电子设备610通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器611可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器611的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器611执行上文所描述的各个方法和处理,例如多方协同建模方法。
在一些实施例中,多方协同建模方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元618。在一些实施例中,计算机程序的部分或者全部可以经由ROM 612和/或通信单元619而被载入和/或安装到电子设备610上。当计算机程序加载到RAM 613并由处理器611执行时,可以执行上文描述的多方协同建模方法的一个或多个步骤。备选地,在其他实施例中,处理器611可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行多方协同建模方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
实施例七
本发明实施例还提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现如本申请任一实施例所提供的多方协同建模方法。
计算机程序产品在实现的过程中,可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言,诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (13)
1.一种多方协同建模方法,其特征在于,所述方法由客户端执行,所述客户端与至少两个服务端交互;所述方法包括:
向所述至少两个服务端分别发送数据对齐指令,以对所述至少两个服务端的客户信息进行对齐操作;
向所述至少两个服务端分别发送协同建模请求,并接收由各服务端分别基于各自的客户特征计算得到的计算结果;
基于各服务端的计算结果确定评估指标,并向各服务端发送所述评估指标,以得到各服务端通过进化算法基于所述评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代;
若满足迭代终止条件,则接收各服务端发送的服务端的半模型确认信息,以得到多方协同建模结果。
2.根据权利要求1所述的方法,其特征在于,各服务端配置有协同重置算子;
相应的,在迭代过程中,所述方法还包括:
向各服务端中任意一个服务端发送重置请求,供服务端基于所述协同重置算子对当前服务端的半模型进行重置。
3.根据权利要求1所述的方法,其特征在于,在接收由各服务端分别基于各自的客户特征计算并返回计算结果之后,所述方法还包括:
对各服务端返回的计算结果分别确定建模变量编码索引标识;其中,所述建模变量编码索引标识包括服务端编号、协同批次号以及数据编号;其中,所述数据编号是由服务端生成,并告知客户端的。
4.根据权利要求1所述的方法,其特征在于,在得到多方协同建模结果之后,所述方法还包括:
获取待识别客户的客户信息;
调用所述多方协同建模结果,基于所述客户信息确定客户类型的识别结果。
5.一种多方协同建模方法,其特征在于,所述方法由服务端执行,所述服务端为至少两个,并分别与客户端交互;所述方法包括:
接收所述客户端发送的数据对齐指令,以对客户信息进行对齐操作;
接收所述客户端发送协同建模请求,分别向所述客户端返回基于各自的客户特征计算得到的计算结果;
接收所述客户端基于所述计算结果确定的评估指标,通过进化算法基于所述评估指标衍生出的计算结果,并再度发送至所述客户端以确定评估指标,以进行迭代;
若满足迭代终止条件,则向所述客户端发送服务端的半模型确认信息,以得到多方协同建模结果。
6.根据权利要求5所述的方法,其特征在于,基于各自的客户特征计算得到计算结果的过程,包括:
基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征进行基因编码得到计算结果。
7.根据权利要求6所述的方法,其特征在于,所述基因编码方式,包括确定特征编号以及特征计算系数;
相应的,基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征进行基因编码得到计算结果,包括:
分别基于各自的客户特征,以及预先设定的基因编码方式,分别选择至少两个特征按照特征编号以及特征计算系数进行计算得到特征量化值;
按照所述基因编码方式中的映射规则,基于所述特征量化值映射得到计算结果。
8.根据权利要求5所述的方法,其特征在于,各服务端配置有协同重置算子;
相应的,在迭代过程中,所述方法还包括:
若接收到客户端的重置请求,则基于所述协同重置算子对当前服务端的半模型进行重置。
9.一种多方协同建模装置,其特征在于,所述装置配置于客户端,所述客户端与至少两个服务端交互;所述装置包括:
数据对齐指令发送模块,用于向所述至少两个服务端分别发送数据对齐指令,以对所述至少两个服务端的客户信息进行对齐操作;
协同建模请求发送模块,用于向所述至少两个服务端分别发送协同建模请求,并接收由各服务端分别基于各自的客户特征计算得到的计算结果;
评估指标发送模块,用于基于各服务端的计算结果确定评估指标,并向各服务端发送所述评估指标,以得到各服务端通过进化算法基于所述评估指标衍生出的计算结果,并再度确定评估指标,以进行迭代;
半模型确认信息接收模块,用于若满足迭代终止条件,则接收各服务端发送的服务端的半模型确认信息,以得到多方协同建模结果。
10.一种多方协同建模装置,其特征在于,所述装置配置于服务端,所述服务端为至少两个,并分别与客户端交互;所述装置包括:
数据对齐指令接收模块,用于接收所述客户端发送的数据对齐指令,以对客户信息进行对齐操作;
协同建模请求接收模块,用于接收所述客户端发送协同建模请求,分别向所述客户端返回基于各自的客户特征计算得到的计算结果;
评估指标接收模块,用于接收所述客户端基于所述计算结果确定的评估指标,通过进化算法基于所述评估指标衍生出的计算结果,并再度发送至所述客户端以确定评估指标,以进行迭代;
半模型确认信息发送模块,用于若满足迭代终止条件,则向所述客户端发送服务端的半模型确认信息,以得到多方协同建模结果。
11.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4或5-8中任一项所述的多方协同建模方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-4或5-8中任一项所述的多方协同建模方法。
13.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-4或5-8中任一项所述的多方协同建模方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210273242.2A CN114723239A (zh) | 2022-03-18 | 2022-03-18 | 一种多方协同建模方法、装置、设备、介质及程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210273242.2A CN114723239A (zh) | 2022-03-18 | 2022-03-18 | 一种多方协同建模方法、装置、设备、介质及程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114723239A true CN114723239A (zh) | 2022-07-08 |
Family
ID=82237062
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210273242.2A Pending CN114723239A (zh) | 2022-03-18 | 2022-03-18 | 一种多方协同建模方法、装置、设备、介质及程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114723239A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117113942A (zh) * | 2023-10-24 | 2023-11-24 | 杭州百子尖科技股份有限公司 | 一种模型同步方法、装置、电子设备以及存储介质 |
-
2022
- 2022-03-18 CN CN202210273242.2A patent/CN114723239A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117113942A (zh) * | 2023-10-24 | 2023-11-24 | 杭州百子尖科技股份有限公司 | 一种模型同步方法、装置、电子设备以及存储介质 |
CN117113942B (zh) * | 2023-10-24 | 2024-02-20 | 杭州百子尖科技股份有限公司 | 一种模型同步方法、装置、电子设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111667267B (zh) | 一种区块链交易风险识别方法及装置 | |
CN107909178B (zh) | 电子装置、失联修复率预测方法和计算机可读存储介质 | |
WO2020073727A1 (zh) | 风险预测方法、装置、计算机设备和存储介质 | |
CN111369344A (zh) | 一种动态生成预警规则的方法和装置 | |
CN116204773A (zh) | 一种因果特征的筛选方法、装置、设备及存储介质 | |
CN114723239A (zh) | 一种多方协同建模方法、装置、设备、介质及程序产品 | |
CN116432040B (zh) | 基于联邦学习的模型训练方法、装置、介质以及电子设备 | |
CN113298121A (zh) | 基于多数据源建模的消息发送方法、装置和电子设备 | |
CN114862282B (zh) | 一种基于数据分析的业财协同管理方法及系统 | |
CN115630078A (zh) | 基于数字孪生的用户数据处理方法、装置、设备及介质 | |
CN111291196B (zh) | 知识图谱的完善方法及装置、数据处理方法及装置 | |
CN113570207A (zh) | 用户策略分配方法、装置及电子设备 | |
CN114091815A (zh) | 资源请求处理方法、装置、系统及电子设备 | |
CN115170179B (zh) | 贸易政策不确定性指数确定方法、装置、设备及介质 | |
CN116187895B (zh) | 一种智能仓储货流规划方法、系统及电子设备 | |
CN111626882B (zh) | 数据检测方法、装置、计算机可读介质及电子设备 | |
CN115293266A (zh) | 信用评级方法、装置、电子设备以及计算机可读存储介质 | |
CN113743906A (zh) | 一种确定业务处理策略的方法和装置 | |
CN114239985A (zh) | 汇率预测方法、装置、电子设备及存储介质 | |
CN115599998A (zh) | 一种信息生成方法、装置、存储介质、电子设备及产品 | |
CN116226240A (zh) | 业务数据的展示方法、装置、电子设备及存储介质 | |
CN115860408A (zh) | 任务推荐方法、模型训练方法、装置和设备 | |
CN112862608A (zh) | 一种交易数据匹配方法和装置 | |
CN114820164A (zh) | 信用卡额度评估方法、装置、设备及介质 | |
CN117078340A (zh) | 一种订单处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |