CN112100145B - 数字化模型共享学习系统及方法 - Google Patents
数字化模型共享学习系统及方法 Download PDFInfo
- Publication number
- CN112100145B CN112100145B CN202010908596.0A CN202010908596A CN112100145B CN 112100145 B CN112100145 B CN 112100145B CN 202010908596 A CN202010908596 A CN 202010908596A CN 112100145 B CN112100145 B CN 112100145B
- Authority
- CN
- China
- Prior art keywords
- model
- module
- fusion
- registration information
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
- G06N5/025—Extracting rules from data
Abstract
本申请实施例提供一种数字化模型共享学习系统及方法,系统包括:包括至少一个模型管理中心节点和多个参与方节点,所述模型管理中心节点与所述参与方节点通过网络连接;所述模型管理中心节点包括:资源目录模块、融合策略模块、融合计算模块、协作控制模块以及第一认证模块;所述参与方节点包括:注册模块、学习模块以及第二认证模块;本申请能够通过对以人的智慧为主建立的规则模型和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
Description
技术领域
本申请涉及数据共享领域,具体涉及一种数字化模型共享学习系统及方法。
背景技术
随着大数据技术逐步发展,数据孤岛问题日益突出,数据共享日益重要,但其中存在买卖、泄露和滥用等问题。公众和政府日益重视数据安全和隐私保护,随着欧盟GDPR(General Data Protection Regulation,通用数据保护条例)法案正式实施及多国效仿,注重数据安全及隐私保护成为发展趋势。如何在满足数据安全、隐私保护和监管合规要求的前提下,设计一个机器学习框架,实现数据的多方协同和授权共享,得到更准确高效的模型和决策,进一步释放数据价值,是当前人工智能技术发展的一个难题。
现有技术中提出的共享学习正是解决这一难题的技术方案。共享学习是基于数据安全和隐私保护,在多个参与方之间通过共享模型或共享数据来进行机器学习的方案。共享学习方案包括:多方数据在可信执行环境(Trusted Execution Environment)中进行共享和融合学习的TEE方案,和多个参与方基于既定协议下通过交换不泄露隐私的非原始数据来进行共享学习的MPC(Multi Party Computation,多方计算)方案。在TEE方案中,各个参与方的通过将本地数据加密后上传到可信执行环境中进行计算来实现数据安全和隐私保护;在MPC方案中,各方数据都保留在本地,通过交换不泄露隐私的非原始数据,来实现数据安全和隐私保护。在这两种方案中,数据都无法被平台或者其他参与方窥探,只能按照约定好的行为进行使用。
发明人发现,现有技术中的以上方法,重点是通过对数据的加密保护,实现可信交换来保护隐私,实现数据利用,是数据层面的学习而不是模型层面的学习,无法实现模型层面的信息交换融合。
发明内容
针对现有技术中的问题,本申请提供一种数字化模型共享学习系统及方法,能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
为了解决上述问题中的至少一个,本申请提供以下技术方案:
第一方面,本申请提供一种数字化模型共享学习系统,包括:至少一个模型管理中心节点和多个参与方节点,所述模型管理中心节点与所述参与方节点通过网络连接;
所述模型管理中心节点包括:资源目录模块、融合策略模块、融合计算模块、协作控制模块以及第一认证模块;
所述资源目录模块用于存储各参与方节点的模型注册信息并提供模型注册信息的存取功能,其中,所述模型注册信息包括模型的结构信息、模型的参数信息和模型的元数据信息;
所述融合计算模块用于对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型,其中,所述模型融合计算包括特征层面、参数层面以及模型层面;
所述融合策略模块用于确定执行所述模型融合计算时所使用的融合策略,其中,所述融合策略包括:同一所有者HI模型和HI模型融合、同一所有者的AI模型和AI模型融合、同一所有者的HI模型和AI模型融合、不同所有者HI模型和HI模型融合、不同所有者的AI模型和AI模型融合、不同所有者的HI模型和AI模型融合;
所述协作控制模块用于控制模块间交互,并协调控制与各参与方进行通信;
所述第一认证模块用于对计算和传输过程进行认证加密;
所述参与方节点包括:注册模块、学习模块以及第二认证模块;
所述注册模块用于解析模型获得所述模型注册信息,并与所述模型管理中心进行通信,完成所述模型注册信息的发送;
所述学习模块用于将基于本地数据进行训练或与其他参与方完成联合训练;
所述第二认证模块用于对计算和传输过程进行认证加密。
第二方面,本申请提供一种数字化模型共享学习方法,包括:
参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;
其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型。
所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型。
所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
进一步地,所述模型元数据信息包含有与所述本地模型所对应唯一解决问题域ID,其中,所述唯一解决问题域ID用于查询用来解决同一个业务问题域的不同参与方节点的不同模型。
第三方面,本申请提供一种数字化模型共享学习装置,包括:
参与方节点监测模块,用于参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
参与方节点加密模块,用于所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
模型管理中心节点解密模块,用于所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
融合策略确定模块,用于所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
融合计算模块,用于所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型。
模型管理中心节点加密模块,用于所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
参与方节点解密模块,用于所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型。
适配训练模块,用于所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
第四方面,本申请提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现所述的数字化模型共享学习方法的步骤。
第五方面,本申请提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现所述的数字化模型共享学习方法的步骤。
由上述技术方案可知,本申请提供一种数字化模型共享学习系统及方法,通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例中的数字化模型共享学习方法的流程示意图;
图2为本申请实施例中的数字化模型共享学习系统的结构图之一;
图3为本申请实施例中的数字化模型共享学习装置的结构图;
图4为本申请实施例中的数字化模型共享学习系统的结构图之二;
图5为本申请一具体实施例中的数字化模型共享学习方法的流程示意图;
图6为本申请实施例中的电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
考虑到现有技术重点是通过对数据的加密保护,实现可信交换来保护隐私,实现数据利用,是数据层面的学习而不是模型层面的学习,无法实现模型层面的信息交换融合的问题,本申请提供一种数字化模型共享学习系统及方法,通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
为了能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用,本申请提供一种数字化模型共享学习方法的实施例,参见图1,所述数字化模型共享学习方法具体包含有如下内容:
步骤S101:参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;
其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
步骤S101:所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
步骤S102:所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
步骤S103:所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
步骤S104:所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型。
步骤S105:所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
步骤S106:所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型。
步骤S107:所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
从上述描述可知,本申请实施例提供的数字化模型共享学习方法,能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
在本申请的数字化模型共享学习方法的一实施例中,还可以具体包含如下内容:
所述模型元数据信息包含有与所述本地模型所对应唯一解决问题域ID,其中,所述唯一解决问题域ID用于查询用来解决同一个业务问题域的不同参与方节点的不同模型。
为了能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用,本申请提供一种用于实现所述数字化模型共享学习方法的全部或部分内容的数字化模型共享学习系统的实施例,参见图2,所述数字化模型共享学习系统具体包含至少一个模型管理中心节点和多个参与方节点,所述模型管理中心节点与所述参与方节点通过网络连接;
所述模型管理中心节点包括:资源目录模块、融合策略模块、融合计算模块、协作控制模块以及第一认证模块;
所述资源目录模块用于存储各参与方节点的模型注册信息并提供模型注册信息的存取功能,其中,所述模型注册信息包括模型的结构信息、模型的参数信息和模型的元数据信息;
所述融合计算模块用于对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型,其中,所述模型融合计算包括特征层面、参数层面以及模型层面;
所述融合策略模块用于确定执行所述模型融合计算时所使用的融合策略,其中,所述融合策略包括:同一所有者HI模型和HI模型融合、同一所有者的AI模型和AI模型融合、同一所有者的HI模型和AI模型融合、不同所有者HI模型和HI模型融合、不同所有者的AI模型和AI模型融合、不同所有者的HI模型和AI模型融合;
所述协作控制模块用于控制模块间交互,并协调控制与各参与方进行通信;
所述第一认证模块用于对计算和传输过程进行认证加密;
所述参与方节点包括:注册模块、学习模块以及第二认证模块;
所述注册模块用于解析模型获得所述模型注册信息,并与所述模型管理中心进行通信,完成所述模型注册信息的发送;
所述学习模块用于将基于本地数据进行训练或与其他参与方完成联合训练;
所述第二认证模块用于对计算和传输过程进行认证加密。
从上述描述可知,本申请实施例提供的数字化模型共享学习系统,能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
为了能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用,本申请提供一种用于实现所述数字化模型共享学习方法的全部或部分内容的数字化模型共享学习装置的实施例,参见图3,所述数字化模型共享学习装置具体包含:
参与方节点监测模块10,用于参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
参与方节点加密模块20,用于所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
模型管理中心节点解密模块30,用于所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
融合策略确定模块40,用于所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
融合计算模块50,用于所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型。
模型管理中心节点加密模块60,用于所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
参与方节点解密模块70,用于所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型。
适配训练模块80,用于所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
从上述描述可知,本申请实施例提供的数字化模型共享学习装置,能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
为了更进一步说明本方案,本申请还提供一种应用上述数字化模型共享学习系统实现数字化模型共享学习方法的具体应用实例,参加图4和图5,具体包含有如下内容:
实施例一:一种模型共享学习系统,包括网络中联通的三个节点:管理中心节点A,参与方节点B,参与方节点C。
管理中心节点部署在南京,包括模块:
资源目录:用于存储各参与方的模型注册信息并提供模型注册信息的存取功能,所述模型注册信息包括模型的结构信息、模型的参数信息和模型的元数据信息。
融合计算:用于执行模型融合计算,基于不少于两个模型的模型注册信息,融合成为一个新的模型,融合计算可以包括特征层面、参数层面、模型层面。
融合策略:用于确定执行模型融合计算时,使用的融合策略,所述融合策略包括:同一所有者HI模型和HI模型融合、同一所有者的AI模型和AI模型融合、同一所有者的HI模型和AI模型融合、不同所有者HI模型和HI模型融合、不同所有者的AI模型和AI模型融合、不同所有者的HI模型和AI模型融合。
协作控制:控制各模块交互,并负责协调控制与各参与方进行通信。
认证模块:用于对计算和传输过程进行认证加密。
参与方节点B部署在南京,参与方节点C部署在包头,分别包括模块:
注册模块:用于解析模型获得模型注册信息,并与模型管理中进行通信,完成模型注册信息的发送。
学习模块:用于将基于本地数据或与其他参与方完成联合训练。
认证模块:用于对计算和传输过程进行认证加密。
在本实施例中,当参与方(节点C)发生模型新增或修改时,执行以下步骤:
步骤S1,该参与方(节点C)通过注册模块解析发生改动的本地模型Model1,获得模型的注册信息,结构信息、模型的参数信息、模型的元数据信息。
本实施例中,模型结构信息为一个浅层神经网络,其中输入层为3个神经元,第一层为10个神经元节点,第二层为2个神经元节点,他们之间为全连接,激活函数使用Relu和SoftMax函数。
模型参数信息为网络结构中,各层参数的值的集合。模型元数据信息包括:模型名称、模型对应唯一解决问题域ID、模型特征信息、模型的描述信息、模型使用到的数据表信息、模型使用数据集的分布情况;
其中,该模型包含三个特征feature1,feature2,feature3;模型对应唯一解决问题域ID为此模型用来解决的实际业务问题域ID,用来检索同问题下不同模型。
模型注册信息以结构体存储:{model,params,metadata},此实施例中,Model1的注册信息为:{Model:{模型:AI模型,类型:神经网络,网络层:[{Id:dense_1,方式:全连接,神经元数量:10,激活函数:relu,输入Shape:[null,3]},{Id:dense_2,方式:全连接,神经元数量:2,激活函数:softmax,}]},Params:{dense_1:{param_1:0.123,...param_30:1.234},dense_2:{param_31:0.123,...param_50:1.234}}MetaData:{模型名称
:Model1,模型对应问题域ID:1,模型特征集合:feature1,feature2,feature3模型描述,模型使用数据表元数据,模型数据集分布}}。
步骤S2,参与方(节点C)从注册模块从认证模块获取证书,特别的,认证模块获取到的证书为模型管理中心提供的公钥信息。注册模块将上述模型注册信息加密序列化为加密文本,发送到模型管理中心(节点A)的协作控制模块。
步骤S3,模型管理中心(节点A)协作控制模块接收到模型注册信息,从认证模块获取证书解密后,得到参与方(节点C)的模型Model1注册信息,并将模型注册信息存储到资源目录中。存储信息包括结构体存储:{model,params,metadata}
步骤S4,模型管理中心(节点A)融合策略模块查询资源目录,根据模型对应唯一解决问题域ID,查询获取已注册的同类模型,得到参与方(节点B)此前注册的Model2。Model2的网络结构为浅层神经网络,其中第一层为5个神经元节点,第二层为2个神经元节点,他们之间为全连接,激活函数使用Relu函数。Model2包含三个特征feature1,feature3,feature4。Model2的注册信息为:{Model:{模型:AI模型,类型:神经网络,网络层:[{Id:dense_1,方式:全连接,神经元数量:5,激活函数:relu,输入Shape:[null,3]},{Id:dense_2,方式:全连接,神经元数量:2,激活函数:softmax,}]},Params:{dense_1:{param_1:0.33,...param_15:0.24},dense_2:{param_16:0.31,...param_25:0.45}}MetaData:{模型名称:Model2,模型对应问题域ID:1,模型特征集合:feature1,feature3,feature4模型描述,模型使用数据表元数据,模型数据集分布}}。
步骤S5,模型管理中心(节点A)融合策略模块,基于待融合模型Model1和Model2的注册信息,确认选择确定策略“不同所有者的AI模型和AI模型融合”,特别的,将进行特征层面的融合。
步骤S6,模型管理中心(节点A)模型计算模块执行融合计算,将Model1的特征feature1,feature2,feature3,结合Model2的特征feature1,feature3,feature4,得到并集feature1,feature2,feature3,feature4。网络结构选择Model1的网络结构,并调整输入层以适配4个特征,模型参数设置为随机值,得到融合后模型Model3。Model3的注册信息为:{Model:{模型:AI模型,类型:神经网络,网络层:[{Id:dense_1,方式:全连接,神经元数量:10,激活函数:relu,输入Shape:[null,4]},{Id:dense_2,方式:全连接,神经元数量:2,激活函数:softmax,}]},Params:{dense_1:{param_1:0,...param_40:0},dense_2:{param_51:0,...param_60:0}}MetaData:{模型名称:Model3,模型对应问题域ID:1,模型特征集合:feature1,feature2,feature3,feature4模型描述,模型使用数据表元数据,模型数据集分布}}。
步骤S7,模型管理中心(节点A)协作控制模块从认证模块获取证书(节点C的公钥信息),将融合模型Model3加密序列化后,下发到参与方(节点C)。
步骤S8,参与方(节点C)注册模块接收加密模型,从认证模块获取证书解密后(使用节点C的私钥信息),得到融合模型Model3。
步骤S9,参与方(节点C)学习模块对融合模型Model3进行适配,选择模型训练方式。此实施例中,Model3引入了新的特征feature4,使用本地数据进行重新学习训练。
有上述内容可知,本申请至少还可以实现如下技术效果:通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
从硬件层面来说,为了能够通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用,本申请提供一种用于实现所述数字化模型共享学习方法中的全部或部分内容的电子设备的实施例,所述电子设备具体包含有如下内容:
处理器(processor)、存储器(memory)、通信接口(Communications Interface)和总线;其中,所述处理器、存储器、通信接口通过所述总线完成相互间的通信;所述通信接口用于实现数字化模型共享学习系统与核心业务系统、用户终端以及相关数据库等相关设备之间的信息传输;该逻辑控制器可以是台式计算机、平板电脑及移动终端等,本实施例不限于此。在本实施例中,该逻辑控制器可以参照实施例中的数字化模型共享学习方法的实施例,以及数字化模型共享学习系统的实施例进行实施,其内容被合并于此,重复之处不再赘述。
可以理解的是,所述用户终端可以包括智能手机、平板电子设备、网络机顶盒、便携式计算机、台式电脑、个人数字助理(PDA)、车载设备、智能穿戴设备等。其中,所述智能穿戴设备可以包括智能眼镜、智能手表、智能手环等。
在实际应用中,数字化模型共享学习方法的部分可以在如上述内容所述的电子设备侧执行,也可以所有的操作都在所述客户端设备中完成。具体可以根据所述客户端设备的处理能力,以及用户使用场景的限制等进行选择。本申请对此不作限定。若所有的操作都在所述客户端设备中完成,所述客户端设备还可以包括处理器。
上述的客户端设备可以具有通信模块(即通信单元),可以与远程的服务器进行通信连接,实现与所述服务器的数据传输。所述服务器可以包括任务调度中心一侧的服务器,其他的实施场景中也可以包括中间平台的服务器,例如与任务调度中心服务器有通信链接的第三方服务器平台的服务器。所述的服务器可以包括单台计算机设备,也可以包括多个服务器组成的服务器集群,或者分布式装置的服务器结构。
图6为本申请实施例的电子设备9600的系统构成的示意框图。如图6所示,该电子设备9600可以包括中央处理器9100和存储器9140;存储器9140耦合到中央处理器9100。值得注意的是,该图6是示例性的;还可以使用其他类型的结构,来补充或代替该结构,以实现电信功能或其他功能。
一实施例中,数字化模型共享学习方法功能可以被集成到中央处理器9100中。其中,中央处理器9100可以被配置为进行如下控制:
步骤S101:参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;
其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
步骤S101:所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
步骤S102:所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
步骤S103:所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
步骤S104:所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型。
步骤S105:所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
步骤S106:所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型。
步骤S107:所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
从上述描述可知,本申请实施例提供的电子设备,通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
在另一个实施方式中,数字化模型共享学习系统可以与中央处理器9100分开配置,例如可以将数字化模型共享学习系统配置为与中央处理器9100连接的芯片,通过中央处理器的控制来实现数字化模型共享学习方法功能。
如图6所示,该电子设备9600还可以包括:通信模块9110、输入单元9120、音频处理器9130、显示器9160、电源9170。值得注意的是,电子设备9600也并不是必须要包括图6中所示的所有部件;此外,电子设备9600还可以包括图6中没有示出的部件,可以参考现有技术。
如图6所示,中央处理器9100有时也称为控制器或操作控件,可以包括微处理器或其他处理器装置和/或逻辑装置,该中央处理器9100接收输入并控制电子设备9600的各个部件的操作。
其中,存储器9140,例如可以是缓存器、闪存、硬驱、可移动介质、易失性存储器、非易失性存储器或其它合适装置中的一种或更多种。可储存上述与失败有关的信息,此外还可存储执行有关信息的程序。并且中央处理器9100可执行该存储器9140存储的该程序,以实现信息存储或处理等。
输入单元9120向中央处理器9100提供输入。该输入单元9120例如为按键或触摸输入装置。电源9170用于向电子设备9600提供电力。显示器9160用于进行图像和文字等显示对象的显示。该显示器例如可为LCD显示器,但并不限于此。
该存储器9140可以是固态存储器,例如,只读存储器(ROM)、随机存取存储器(RAM)、SIM卡等。还可以是这样的存储器,其即使在断电时也保存信息,可被选择性地擦除且设有更多数据,该存储器的示例有时被称为EPROM等。存储器9140还可以是某种其它类型的装置。存储器9140包括缓冲存储器9141(有时被称为缓冲器)。存储器9140可以包括应用/功能存储部9142,该应用/功能存储部9142用于存储应用程序和功能程序或用于通过中央处理器9100执行电子设备9600的操作的流程。
存储器9140还可以包括数据存储部9143,该数据存储部9143用于存储数据,例如联系人、数字数据、图片、声音和/或任何其他由电子设备使用的数据。存储器9140的驱动程序存储部9144可以包括电子设备的用于通信功能和/或用于执行电子设备的其他功能(如消息传送应用、通讯录应用等)的各种驱动程序。
通信模块9110即为经由天线9111发送和接收信号的发送机/接收机9110。通信模块(发送机/接收机)9110耦合到中央处理器9100,以提供输入信号和接收输出信号,这可以和常规移动通信终端的情况相同。
基于不同的通信技术,在同一电子设备中,可以设置有多个通信模块9110,如蜂窝网络模块、蓝牙模块和/或无线局域网模块等。通信模块(发送机/接收机)9110还经由音频处理器9130耦合到扬声器9131和麦克风9132,以经由扬声器9131提供音频输出,并接收来自麦克风9132的音频输入,从而实现通常的电信功能。音频处理器9130可以包括任何合适的缓冲器、解码器、放大器等。另外,音频处理器9130还耦合到中央处理器9100,从而使得可以通过麦克风9132能够在本机上录音,且使得可以通过扬声器9131来播放本机上存储的声音。
本申请的实施例还提供能够实现上述实施例中的执行主体为服务器或客户端的数字化模型共享学习方法中全部步骤的一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中的执行主体为服务器或客户端的数字化模型共享学习方法的全部步骤,例如,所述处理器执行所述计算机程序时实现下述步骤:
步骤S101:参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;
其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
步骤S101:所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
步骤S102:所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
步骤S103:所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
步骤S104:所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型。
步骤S105:所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
步骤S106:所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型。
步骤S107:所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
从上述描述可知,本申请实施例提供的计算机可读存储介质,通过对以人的智慧为主建立的规则模型(HI模型)和数据驱动的AI模型,进行模型层面而不是数据层面的学习,来实现模型层面的信息交换融合,实现模型承载的知识的利用。
本领域内的技术人员应明白,本发明的实施例可提供为方法、装置、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(装置)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (6)
1.一种数字化模型共享学习系统,其特征在于,包括至少一个模型管理中心节点和多个参与方节点,所述模型管理中心节点与所述参与方节点通过网络连接;
所述模型管理中心节点包括:资源目录模块、融合策略模块、融合计算模块、协作控制模块以及第一认证模块;
所述资源目录模块用于存储各参与方节点的模型注册信息并提供模型注册信息的存取功能,其中,所述模型注册信息包括模型的结构信息、模型的参数信息和模型的元数据信息;
所述融合计算模块用于对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型,其中,所述模型融合计算包括特征层面、参数层面以及模型层面;
所述融合策略模块用于确定执行所述模型融合计算时所使用的融合策略,其中,所述融合策略包括:同一所有者HI模型和HI模型融合、同一所有者的AI模型和AI模型融合、同一所有者的HI模型和AI模型融合、不同所有者HI模型和HI模型融合、不同所有者的AI模型和AI模型融合、不同所有者的HI模型和AI模型融合;
所述协作控制模块用于控制模块间交互,并协调控制与各参与方进行通信;
所述第一认证模块用于对计算和传输过程进行认证加密;
所述参与方节点包括:注册模块、学习模块以及第二认证模块;
所述注册模块用于解析模型获得所述模型注册信息,并与所述模型管理中心进行通信,完成所述模型注册信息的发送;
所述学习模块用于将基于本地数据进行训练或与其他参与方完成联合训练;
所述第二认证模块用于对计算和传输过程进行认证加密。
2.一种根据权利要求1所述的数字化模型共享学习系统实现的数字化模型共享学习方法,其特征在于,所述方法包括:
参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;
其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型;
所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型;
所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
3.根据权利要求2所述的数字化模型共享学习方法,其特征在于,所述模型元数据信息包含有与所述本地模型所对应唯一解决问题域ID,其中,所述唯一解决问题域ID用于查询用来解决同一个业务问题域的不同参与方节点的不同模型。
4.一种数字化模型共享学习装置,其特征在于,所述装置包括:
参与方节点监测模块,用于参与方节点监测自身发生的模型新增或者修改,以使所述参与方节点通过注册模块解析发生改动的本地模型,获得所述本地模型的模型注册信息;其中,所述模型注册信息包括模型的结构信息、模型的参数信息以及模型的元数据信息;
参与方节点加密模块,用于所述参与方节点的注册模块从第二认证模块种获取证书,将所述模型注册信息加密后,发送到模型管理中心节点;
模型管理中心节点解密模块,用于所述模型管理中心节点的协作控制模块接收到所述模型注册信息,并从第一认证模块中获取对应的证书进行解密后,将所述模型注册信息存储到资源目录中;
融合策略确定模块,用于所述模型管理中心节点的融合策略模块查询所述资源目录,并根据与所述本地模型所对应唯一解决问题域ID获取已注册的同类模型的模型注册信息,并基于模型注册信息选择确定策略;
融合计算模块,用于所述模型管理中心节点的融合计算模块对多个模型的所述模型注册信息进行模型融合计算,得到一个新的模型;
模型管理中心节点加密模块,用于所述模型管理中心节点的协作控制模块从第一认证模块获取证书,将所述新的模型加密后下发到对应的参与方节点;
参与方节点解密模块,用于所述参与方节点的注册模块接收经过所述模型加密后的新的模型,从认证模块获取证书解密后,得到融合模型;
适配训练模块,用于所述参与方节点的学习模块对所述融合模型进行适配,并确定模型训练方式。
5.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求2所述的数字化模型共享学习方法的步骤。
6.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求2所述的数字化模型共享学习方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010908596.0A CN112100145B (zh) | 2020-09-02 | 2020-09-02 | 数字化模型共享学习系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010908596.0A CN112100145B (zh) | 2020-09-02 | 2020-09-02 | 数字化模型共享学习系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112100145A CN112100145A (zh) | 2020-12-18 |
CN112100145B true CN112100145B (zh) | 2023-07-04 |
Family
ID=73757123
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010908596.0A Active CN112100145B (zh) | 2020-09-02 | 2020-09-02 | 数字化模型共享学习系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112100145B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112738061B (zh) * | 2020-12-24 | 2022-06-21 | 四川虹微技术有限公司 | 信息处理方法、装置、管理平台、电子设备及存储介质 |
CN114866496B (zh) * | 2022-03-30 | 2023-06-20 | 清华大学 | 一种智能网络协作装置及方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109685104A (zh) * | 2018-11-15 | 2019-04-26 | 同盾控股有限公司 | 一种识别模型的确定方法和装置 |
CN109993308A (zh) * | 2019-03-29 | 2019-07-09 | 深圳先进技术研究院 | 基于云平台共享学习系统及方法、共享平台及方法、介质 |
CN110378423A (zh) * | 2019-07-22 | 2019-10-25 | 腾讯科技(深圳)有限公司 | 特征提取方法、装置、计算机设备及存储介质 |
CN110399742A (zh) * | 2019-07-29 | 2019-11-01 | 深圳前海微众银行股份有限公司 | 一种联邦迁移学习模型的训练、预测方法及装置 |
CN110796267A (zh) * | 2019-11-12 | 2020-02-14 | 支付宝(杭州)信息技术有限公司 | 数据共享的机器学习方法和机器学习装置 |
CN111047190A (zh) * | 2019-12-12 | 2020-04-21 | 广西电网有限责任公司 | 一种基于交互式学习技术的多元化业务建模框架系统 |
CN111310208A (zh) * | 2020-02-14 | 2020-06-19 | 云从科技集团股份有限公司 | 数据处理方法、系统、平台、设备及机器可读介质 |
WO2020168761A1 (zh) * | 2019-02-22 | 2020-08-27 | 华为技术有限公司 | 训练模型的方法和装置 |
-
2020
- 2020-09-02 CN CN202010908596.0A patent/CN112100145B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109685104A (zh) * | 2018-11-15 | 2019-04-26 | 同盾控股有限公司 | 一种识别模型的确定方法和装置 |
WO2020168761A1 (zh) * | 2019-02-22 | 2020-08-27 | 华为技术有限公司 | 训练模型的方法和装置 |
CN109993308A (zh) * | 2019-03-29 | 2019-07-09 | 深圳先进技术研究院 | 基于云平台共享学习系统及方法、共享平台及方法、介质 |
CN110378423A (zh) * | 2019-07-22 | 2019-10-25 | 腾讯科技(深圳)有限公司 | 特征提取方法、装置、计算机设备及存储介质 |
CN110399742A (zh) * | 2019-07-29 | 2019-11-01 | 深圳前海微众银行股份有限公司 | 一种联邦迁移学习模型的训练、预测方法及装置 |
CN110796267A (zh) * | 2019-11-12 | 2020-02-14 | 支付宝(杭州)信息技术有限公司 | 数据共享的机器学习方法和机器学习装置 |
CN111047190A (zh) * | 2019-12-12 | 2020-04-21 | 广西电网有限责任公司 | 一种基于交互式学习技术的多元化业务建模框架系统 |
CN111310208A (zh) * | 2020-02-14 | 2020-06-19 | 云从科技集团股份有限公司 | 数据处理方法、系统、平台、设备及机器可读介质 |
Non-Patent Citations (2)
Title |
---|
Feature learning using Stacked Autoencoder for Multimodal Fusion, Shared and Cross Learning on Medical Images;Zeeshan Ul Islam 等;《2019 IEEE Bombay Section Signature Conference (IBSSC)》;第1-2页 * |
多模态学习方法综述;陈鹏 等;《工程科学学报》;第42卷(第5期);第557-569页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112100145A (zh) | 2020-12-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109165957A (zh) | 基于区块链的发票数据报销方法、系统及相关设备 | |
CN109034793A (zh) | 基于区块链的数字货币交易方法及数字货币钱包硬件 | |
CN113127916A (zh) | 数据集合处理方法、数据处理方法、装置及存储介质 | |
CN110535833A (zh) | 一种基于区块链的数据共享控制方法 | |
CN108234443A (zh) | 签约方法、系统及计算机可读存储介质 | |
CN112100145B (zh) | 数字化模型共享学习系统及方法 | |
CN106603508A (zh) | 一种无线加密通信方法及智能家电、服务器及终端 | |
Mawgoud et al. | Security threats of social internet of things in the higher education environment | |
CN114154194A (zh) | 信息共享方法、装置及系统 | |
CN103178961A (zh) | 一种安全信息交互方法及相关装置 | |
CN108268799A (zh) | 数据查询系统和方法、存储介质、终端 | |
CN110445840A (zh) | 一种基于区块链技术的文件存储和读取的方法 | |
CN112235294A (zh) | 区块链协同权限控制方法及装置 | |
He et al. | Privacy and incentive mechanisms in people-centric sensing networks | |
CN113901512A (zh) | 数据共享方法及系统 | |
CN105022965B (zh) | 一种数据加密方法及装置 | |
CN112651049B (zh) | 一种基于区块链的隐私数据分享方法及系统 | |
CN114168295A (zh) | 混合架构系统及基于历史任务效果的任务调度方法 | |
CN111709053B (zh) | 基于松散耦合交易网络的作业方法及作业装置 | |
CN113365264A (zh) | 一种区块链无线网络数据传输方法、装置及系统 | |
CN114760602B (zh) | 全息通信方法、装置、系统及计算机可读存储介质 | |
CN106254226A (zh) | 一种信息同步方法及装置 | |
CN115860741A (zh) | 区块链数据加密验证方法、装置及系统 | |
CN110324374A (zh) | 一种用于信息安全备份的移动设备及其工作方法 | |
CN114157425A (zh) | 一种响应业务请求的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |