CN111292722B - 异步联合架构的模型训练方法、终端、服务器及存储装置 - Google Patents

异步联合架构的模型训练方法、终端、服务器及存储装置 Download PDF

Info

Publication number
CN111292722B
CN111292722B CN201911285291.2A CN201911285291A CN111292722B CN 111292722 B CN111292722 B CN 111292722B CN 201911285291 A CN201911285291 A CN 201911285291A CN 111292722 B CN111292722 B CN 111292722B
Authority
CN
China
Prior art keywords
model
private
model parameters
vehicle
private model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911285291.2A
Other languages
English (en)
Other versions
CN111292722A (zh
Inventor
李朝冉
王鲁佳
须成忠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Institute of Advanced Technology of CAS
Priority to CN201911285291.2A priority Critical patent/CN111292722B/zh
Publication of CN111292722A publication Critical patent/CN111292722A/zh
Application granted granted Critical
Publication of CN111292722B publication Critical patent/CN111292722B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063—Training
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Abstract

本发明公开一种异步联合架构的模型训练方法、装置以及存储装置，该方法包括获取用户基于车载终端的执行事件的反馈信息；根据反馈信息对所述车载终端的私有模型进行更新；将更新后的私有模型的私有模型参数发送给服务器，以使服务器根据私有模型参数对服务器中与私有模型关联的共享模型进行更新。通过上述方式，本发明能够保护用户的反馈信息，以使得整个训练过程更为安全。

Description

异步联合架构的模型训练方法、终端、服务器及存储装置
技术领域
本发明涉及模型训练领域，特别是涉及一种异步联合架构的模型训练方法、终端、服务器及存储装置。
背景技术
车载语音系统一般用于接收用户的语言，并根据语言生成导航、放歌等等适用于车辆的指令，进而根据指令控制车载系统执行。但是由于现有的车载语言系统大部分是基于智能音响实现，由于应用场景的不同，导致车载语言系统无法准备识别用户语言，因此需要对车载语言系统进行深一步的训练。
现有的训练过程一般通过让用户输入数据，随后车载语言系统将数据传入云端服务器，然后在云端进行模型的更新，但与此同时用户的数据可能存在泄露的风险。
发明内容
本发明提供一种异步联合架构的模型训练方法、终端、服务器及存储装置，以解决现有技术需要模型训练可能出现数据泄露的问题。
为解决上述技术问题，本发明采用的一个技术方案是：提供一种异步联合架构的模型训练方法，所述方法包括：获取用户基于车载终端的执行事件的反馈信息；根据所述反馈信息对所述车载终端的私有模型进行更新；将更新后的所述私有模型的私有模型参数发送给服务器，以使所述服务器根据所述私有模型参数对所述服务器中与所述私有模型关联的共享模型进行更新。
为解决上述技术问题，本发明采用的另一个技术方案是：提供一种车载终端，所述车载终端包括处理器与存储器，所述存储器与所述存储器连接，所述存储器中存储有计算机程序，所述处理器用于执行所述计算机程序以实现如上述中任一项所述方法的步骤。
为解决上述技术问题，本发明采用的另一个技术方案是：提供一种异步联合架构的模型训练方法，所述方法包括：获取车载终端发送的私有模型的私有模型参数；其中，所述私有模型参数是所述车载终端根据用户基于车载终端的执行事件的反馈信息更新后所生成的；根据所述私有模型参数对与所述私有模型相关联的共享模型进行更新。
为解决上述技术问题，本发明采用的另一个技术方案是：提供一种服务器，所述服务器包括处理器与存储器，所述存储器与所述存储器连接，所述存储器中存储有计算机程序，所述处理器用于执行所述计算机程序以实现如上述中任一项所述方法的步骤。
为解决上述技术问题，本发明采用的另一个技术方案是提供一种存储装置，其中存储有计算机程序，计算机程序被执行时实现上述异步联合架构的模型训练方法的步骤。
区别于现有技术，本发明通过根据反馈信息对车载终端的私有模型进行更新，随后将更新后的私有模型的私有模型参数发送给服务器，以使得服务器根据私有模型参数对于私有模型关联的共享模型进行更新。一方面实现车载终端的私有模型进行更新，且由于是将私有模型参数发送给服务器而不是将反馈信息发送给服务器，从而使得反馈信息仅仅在车载终端这一层，不会被上传到服务器中，从而极大提高用户数据的隐私性，不会出现用户数据被盗用的情况，且使得服务器根据私有模型参数对于私有模型关联的共享模型进行更新，由于共享模型绑定有多个私有模型，即保证共享模型能够根据大量的私有模型参数进行更新，保证训练集的数量，从而可以提高共享模型的质量。且进一步的，通过在私有模型根据反馈信息进行更新，随后才共享模型才根据私有模型参数进行更新，即反馈信息在私有模型则已经被处理过形成更为简便有价值的私有模型参数，使得共享模型的工作量极大的降低，从而提高整个训练的效率。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明异步联合架构的模型训练方法第一实施例的流程示意图；
图2是图1步骤S12的子步骤流程示意图；
图3是本发明车载终端的一实施例的结构示意图；
图4是本发明异步联合架构的模型训练方法第二实施例的流程示意图；
图5是图4步骤S22的子步骤流程示意图；
图6是本发明服务器一实施例的结构示意图；
图7是本发明存储装置一实施例的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
具体请参阅图1，图1是本发明异步联合架构的模型训练方法第一实施例的流程示意图，本实施例异步联合架构的模型训练方法包括以下步骤。
S11，获取用户基于车载终端的执行事件的反馈信息。
车载终端为安装于车辆上的系统终端，服务器为云端，车载终端可以通过车联网、蓝牙、无线网络或者数据网络等与服务器进行网络通信。
获取用户基于车载终端的执行事件的反馈信息。
即在具体场景中，用户基于车载终端的执行事件的情况给车载终端相关的反馈信息。
在一具体场景中，车载终端可以用于获取用户的语言信息，随后将语音信息输入至车载终端的私有模型，并输出用于响应语音信息的执行事件。即私有模型可以对语言信息进行处理，从而可以输出响应该语言信息的执行事件。
具体地，私有模型可以是深度模型，在获取到语言信息后，可以对语言信息进行去噪处理，进而提高识别准确度，随后私有模型对去噪处理后的语言信息进行语义分析，从而获取到语言信息中的语义信息，随后车载模型根据语义信息输出用于响应语音信息的执行事件。具体地，私有模型或者车载系统可以根据语义信息生成相关的指令，随后车载系统以根据指令执行事件。
在一具体实施例中，例如用户的语言信息包括“调下空调温度，调到17度”私有模型对该语言信息进行语义分析，并获取到语义信息，随后私有模型或者车载系统可以根据该语义信息生成将“空调温度调至17度”这一指令，随后车载系统根据指令对空调进行调整，从而完成一次响应语音信息的执行事件。
在具体场景中，私有模型可能会出现误差，如将“调下空调温度，调到17度”的语义信息解析为“关闭空调”等指令，如果车载系统根据该指令对空调进行关闭，虽然完成一次响应语音信息的执行事件，但是由于执行事件与实际的语言信息不匹配，则用户可以进行反馈。
在具体场景中，可以是用户主动进行反馈，并提供反馈信息。也可以是车载模型在完成一次执行事件后，对用户进行问询，是否需要反馈，随后用户根据实际的执行事件的情况进行反馈或不反馈。
若用户进行反馈，则车载终端获取用户的反馈信息。
S12，根据反馈信息对车载终端的私有模型进行更新。
随后可以根据反馈信息对车载终端的私有模型进行更新，具体地，车载模型是一个基于深度学习的训练模型，因此可以根据反馈信息对车载终端的私有模型进行训练，即进行更新。
请参阅图2，图2是图1步骤S12的子步骤，具体包括如下步骤：
S121，根据反馈信息获取私有模型参数。
具体地，在获取到反馈信息后，可以根据私有模型对反馈信息进行处理，从而获取私有模型参数。
S122，根据私有模型参数获取私有模型的损失值。
在具体实施例中，具体可以通过公式(1)来获取到私有模型的损失值。
其中，fj为节点j处的模型的损失值，Pj为节点j处的数据，P＝∪Pj为所有数据的并集，||表示数据的大小，Wj为节点j处的私有模型参数。
S123，根据损失值对私有模型进行更新。
在具体实施例中，具体可以通过公式(2)来根据损失值对私有模型进行更新。
其中，α为学习率，为节点j处在私有模型更新之后的参数，若未发生更新则t表示当前时刻，t-1表示上一时刻。/>为梯度符号。
在其他实施例中，也可以采取迭代算法，如牛顿法，基于动量的方法等。这里不做限定。
S13，将更新后的私有模型的私有模型参数发送给服务器，以使服务器根据私有模型参数对服务器中与私有模型关联的共享模型进行更新。
随后可以将更新后的私有模型的私有模型参数发送给服务器，从而使得服务器根据私有模型参数对服务器中与私有模型关联的共享模型进行更新。
在具体实施例中，这个私有模型参数也可以是通过步骤S121后，即通过反馈信息计算得到私有模型参数后，直接发送给服务器，而无需等私有模型更新后在进行发送，这里不做限定。
具体地，共享模型与多个车载终端的私有模型进行关联，当有私有模型进行更新后，则可以将更新后的私有模型的私有模型参数发送给服务器，从而使得服务器根据私有模型参数对共享模型进行更新。
在具体实施例中，在将更新后的私有模型的私有模型参数发送给与本机模型关联的共享模型之前还可以进一步将私有模型参数进行加密，从而保证数据的安全性。
上述实施例中，通过根据反馈信息对车载终端的私有模型进行更新，随后将更新后的私有模型的私有模型参数发送给服务器，以使得服务器根据私有模型参数对于私有模型关联的共享模型进行更新。一方面实现车载终端的私有模型进行更新，且由于是将私有模型参数发送给服务器而不是将反馈信息发送给服务器，从而使得反馈信息仅仅在车载终端这一层，不会被上传到服务器中，从而极大提高用户数据的隐私性，不会出现用户数据被盗用的情况，且使得服务器根据私有模型参数对于私有模型关联的共享模型进行更新，由于共享模型绑定有多个私有模型，即保证共享模型能够根据大量的私有模型参数进行更新，保证训练集的数量，从而可以提高共享模型的质量。且进一步的，通过在私有模型根据反馈信息进行更新，随后才共享模型才根据私有模型参数进行更新，即反馈信息在私有模型则已经被处理过形成更为简便有价值的私有模型参数，使得共享模型的工作量极大的降低，从而提高整个训练的效率。
在具体实施例中，异步联合架构的模型训练方法还包括：
S14，接收服务器发送的更新后的共享模型的共享模型参数，并根据共享模型参数对私有模型进行更新。
在具体实施例中，车载终端可以进一步接收服务器所发送的更新后的共享模型的共享模型参数，并根据共享模型参数对私有模型进行更新。
即在具体实施例中，对于一个车载终端而言，随后其更新后的私有模型的私有模型参数会影响到共享模型的更新，但是在实际场景中，共享模型的更新其实是根据多个更新后的私有模型的私有模型参数而更新的，由于训练集更多，则共享模型具有更好的质量。因此可以进一步接收服务器发送的更新后的共享模型的共享模型参数，并根据共享模型参数对私有模型进行更新，从而可以满足私有模型与共享模型的同步，以确保私有模型的质量。
上述异步联合架构的模型训练方法一般由车载终端实现，因而本发明还提出一种车载终端。请参阅图3，图3是本发明异步联合架构的模型训练装置一实施例的结构示意图。本实施例异步联合架构的模型训练装置100包括处理器12和存储器11；存储器11中存储有计算机程序，处理器12用于执行计算机程序以实现如上述异步联合架构的模型训练方法的步骤。
具体请参阅图4，图4是本发明异步联合架构的模型训练方法第一实施例的流程示意图，本实施例异步联合架构的模型训练方法包括以下步骤。
S21，获取车载终端发送的私有模型的私有模型参数；其中，私有模型参数是车载终端根据用户基于车载终端的执行事件的反馈信息更新后所生成的。
具体地，服务器可以获取车载终端发送的私有模型的私有模型参数；其中，私有模型参数是车载终端根据用户基于车载终端的执行事件的反馈信息更新后所生成的。
其私有模型参数的具体生成步骤上述实施例已经有具体说明，这里不再赘述。
在具体实施例中，当服务器获取车载终端发送的私有模型的私有模型参数之后，还需要对私有模型参数进行解密，具体地，服务器与车载终端包括有相对应的秘钥，车载终端可以根据秘钥对私有模型参数进行加密，随后服务器可以根据对应的秘钥对私有模型参数进行解密，进而保证数据的安全性。
且在具体实施例中，若私有模型参数的陈旧值大于或等于陈旧值阈值，则舍弃私有模型参数。
即在具体场景中，如果该私有模型参数所对应的车载终端反馈的次数太多或者频率太高，可以认为该车载终端想要对共享模型进行恶意的更新，则可以判断私有模型参数的陈旧值是否大于或等于陈旧值阈值，若私有模型参数的陈旧值大于或等于陈旧值阈值，则舍弃该私有模型参数，不利用该私有模型参数对共享模型进行更新，从而保证整个共享模型的质量。
具体地，该陈旧值阈值与次数或者频率有关，这里不做具体限定。
S22，根据私有模型参数对与私有模型相关联的共享模型进行更新。
随后服务器可以根据私有模型参数对与私有模型相关联的共享模型进行更新。
具体地，共享模型可以关联有多个私有模型，因此共享模型可以获取有多个车载终端所发送的私有模型参数。
在具体场景中，可以设置一个时间间隔，共享模型根据该时间间隔内服务器所接收到所有私有模型参数进行更新，进而减少共享模型的更新次数，从而可以极大的减少共享模型的计算量。如在具体实施例中，时间间隔为第一天的中午12点-第二天的中午12点，则在该时间段内所有的私有模型参数作为一个训练集，共享模型可以根据该训练集进行更新。
请参阅图5，图5是图4步骤S22的子步骤，其具体步骤包括：
S221，根据私有模型参数获取所述共享模型参数。
在获取到私有模型参数后，可以根据共享模型对私有模型参数进行聚合处理，从而获取到共享模型参数。
具体可以通过如下公式(3)获取到共享模型参数；
其中，W(t)为共享模型参数，Pj为节点j处的数据，P＝∪Pj为所有数据的并集，||表示数据的大小，Wj为节点j处的私有模型参数。
S222，根据共享模型参数获取共享模型的损失值。
具体可以通过如下公式(4)获取到共享模型参数；
其中，f(W)为共享模型的损失值，W为共享模型的参数。
S223，根据所述损失值对所述共享模型进行更新。
具体可以通过如下公式(5)共享模型进行更新；
其中，W(t)代表t适合共享模型的参数。
在具体实施例中，异步联合架构的模型训练方法还包括：
S23，将更新后的共享模型的共享模型参数发送给车载终端，以使车载终端根据共享模型参数对私有模型进行更新。
服务器进一步将更新后的共享模型的共享模型参数发送给车载终端，以使车载终端根据共享模型参数进行更新对私有模型进行更新。
相似的，当服务器通过步骤S221计算得到共享模型参数后，可以直接先发给车载终端，以使得车载终端根据共享模型参数进行更新对私有模型进行更新，而无需等共享模型更新后在进行发送，这里不做限定。
在具体场景中，服务器也可以设置一个时间间隔，每隔一个时间间隔后将最新的共享模型参数发送给多个车载终端，从而使得多个车载终端可以根据最新的共享模型参数对私有模型进更新。例如可以时间间隔为一周，服务器可以在该周的最后一分钟将共享模型参数发送给车载终端，以使车载终端根据共享模型参数进行更新对私有模型进行更新。从而可以减少服务器与车载终端的交换频率，进而减少交互成本与计算量。
在具体实施例中，这个时间间隔也可以是由车载终端进行设置，以满足各个车载终端对应客户要求。即车载终端可以设置为一天，一个月或者其他时间，以使得服务器每隔一天或一个月将最新的共享模型参数发送该该车载终端。
上述异步联合架构的模型训练方法一般由服务器实现，因而本发明还提出一种服务器。请参阅图6，图6是本发明服务器一实施例的结构示意图。本实施例异步联合架构的模型训练装置300包括处理器32和存储器31；存储器31中存储有计算机程序，处理器32用于执行计算机程序以实现如上述异步联合架构的模型训练方法的步骤。
上述异步联合架构的模型训练方法的逻辑过程以计算机程序呈现，在计算机程序方面，若其作为独立的软件产品销售或使用时，其可存储在存储装置中，因而本发明提出一种存储装置。请参阅图7，图7是本发明存储装置一实施例的结构示意图，本实施例存储装置200中存储有计算机程序21，计算机程序被处理器执行时实现上述配网方法或控制方法。
该存储装置200具体可以为U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory，)、磁碟或者光盘等可以存储计算机程序的介质，或者也可以为存储有该计算机程序的服务器，该服务器可将存储的计算机程序发送给其他设备运行，或者也可以自运行该存储的计算机程序。该存储装置200从物理实体上来看，可以为多个实体的组合，例如多个服务器、服务器加存储器、或存储器加移动硬盘等多种组合方式。
综上所述，本发明通过根据反馈信息对车载终端的私有模型进行更新，随后将更新后的私有模型的私有模型参数发送给服务器，以使得服务器根据私有模型参数对于私有模型关联的共享模型进行更新。一方面实现车载终端的私有模型进行更新，且由于是将私有模型参数发送给服务器而不是将反馈信息发送给服务器，从而使得反馈信息仅仅在车载终端这一层，不会被上传到服务器中，从而极大提高用户数据的隐私性，不会出现用户数据被盗用的情况，且使得服务器根据私有模型参数对于私有模型关联的共享模型进行更新，由于共享模型绑定有多个私有模型，即保证共享模型能够根据大量的私有模型参数进行更新，保证训练集的数量，从而可以提高共享模型的质量。且进一步的，通过在私有模型根据反馈信息进行更新，随后才共享模型才根据私有模型参数进行更新，即反馈信息在私有模型则已经被处理过形成更为简便有价值的私有模型参数，使得共享模型的工作量极大的降低，从而提高整个训练的效率。且进一步的，通过判断私有模型参数的陈旧值是否大于或等于陈旧值阈值，若私有模型参数的陈旧值大于或等于陈旧值阈值，则舍弃该私有模型参数，不利用该私有模型参数对共享模型进行更新，从而保证整个共享模型的质量，以防止对共享模型进行恶意更新。
以上所述仅为本发明的实施方式，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (11)

1.一种异步联合架构的模型训练方法，其特征在于，所述方法包括：
获取用户基于车载终端的执行事件的反馈信息；
根据所述反馈信息获取私有模型参数；
根据所述私有模型参数获取所述私有模型的损失值；其中，所述私有模型的损失值根据得到，其中，/>为节点/>处的模型的损失值，/>为节点/>处的数据，/>为所有数据的并集，||表示数据的大小，/>为节点/>处的私有模型参数；
通过来根据所述损失值对所述私有模型进行更新；其中，/>为学习率，/>为节点/>处在所述私有模型更新后的参数，若所述私有模型未发生更新则/>，/>表示当前时刻，/>表示上一时刻，/>为梯度；
将更新后的所述私有模型的私有模型参数发送给服务器，以使所述服务器根据所述私有模型参数对所述服务器中与所述私有模型关联的共享模型进行更新；其中，所述服务器用于对所述私有模型参数进行解密；若所述私有模型参数的陈旧值大于或等于陈旧值阈值，则舍弃所述私有模型参数。
2.根据权利要求1所述的方法，其特征在于，
所述方法还包括：
接收所述服务器发送的更新后的所述共享模型的共享模型参数，并根据所述共享模型参数对所述私有模型进行更新。
3.根据权利要求1所述的方法，其特征在于，
所述获取用户基于车载终端执行事件的反馈信息之前，还包括：
获取用户的语音信息；
将所述语音信息输入至车载终端的私有模型，并输出用于响应所述语音信息的执行事件。
4.根据权利要求3所述的方法，其特征在于，
所述将所述语音信息输入至车载终端的私有模型，并输出用于响应所述语音信息的执行事件，包括：
对所述语音信息进行去噪处理；
对去噪处理后的所述语音信息进行语义分析，以获取语义信息；
根据所述语义信息输出用于响应所述语音信息的执行事件。
5.根据权利要求1所述的方法，其特征在于，
所述将更新后的私有模型的私有模型参数发送给服务器之前还包括：
将所述私有模型参数进行加密。
6.一种车载终端，所述车载终端包括处理器与存储器，所述存储器与所述存储器连接，所述存储器中存储有计算机程序，所述处理器用于执行所述计算机程序以实现如权利要求1-5中任一项所述方法的步骤。
7.一种异步联合架构的模型训练方法，其特征在于，所述方法包括：
获取车载终端发送的私有模型的私有模型参数；其中，所述私有模型参数是所述车载终端根据用户基于车载终端的执行事件的反馈信息更新后所生成的；
根据所述私有模型参数对与所述私有模型相关联的共享模型进行更新；
所述获取车载终端发送的私有模型的私有模型参数之后，还包括：
对所述私有模型参数进行解密；
若所述私有模型参数的陈旧值大于或等于陈旧值阈值，则舍弃所述私有模型参数。
8.根据权利要求7所述的方法，其特征在于，
所述方法还包括：
将更新后的所述共享模型的共享模型参数发送给所述车载终端，以使所述车载终端根据所述共享模型参数对所述私有模型进行更新。
9.根据权利要求8所述的方法，其特征在于，
所述根据所述私有模型参数对与所述私有模型相关联的共享模型进行更新，包括：
根据所述私有模型参数获取所述共享模型参数；其中，所述共享模型参数根据得到，其中，/>为共享模型参数，/>为节点/>处的数据，/>为所有数据的并集，||表示数据的大小，/>为节点/>处的私有模型参数；
根据所述共享模型参数获取所述共享模型的损失值；其中，所述共享模型的损失值根据，其中，/>为所述共享模型的损失值，/>为所述共享模型的参数；
通过来根据所述损失值对所述共享模型进行更新。
10.一种服务器，所述服务器包括处理器与存储器，所述存储器与所述存储器连接，所述存储器中存储有计算机程序，所述处理器用于执行所述计算机程序以实现如权利要求7-9中任一项所述方法的步骤。
11.一种存储装置，其特征在于，所述存储装置存储有计算机程序，所述计算机程序被执行时实现如权利要求1-5或7-9中任一项所述方法的步骤。
CN201911285291.2A 2019-12-13 2019-12-13 异步联合架构的模型训练方法、终端、服务器及存储装置 Active CN111292722B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911285291.2A CN111292722B (zh) 2019-12-13 2019-12-13 异步联合架构的模型训练方法、终端、服务器及存储装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911285291.2A CN111292722B (zh) 2019-12-13 2019-12-13 异步联合架构的模型训练方法、终端、服务器及存储装置

Publications (2)

Publication Number Publication Date
CN111292722A CN111292722A (zh) 2020-06-16
CN111292722B true CN111292722B (zh) 2023-08-15

Family

ID=71029873

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911285291.2A Active CN111292722B (zh) 2019-12-13 2019-12-13 异步联合架构的模型训练方法、终端、服务器及存储装置

Country Status (1)

Country Link
CN (1) CN111292722B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114626539A (zh) * 2020-12-10 2022-06-14 中国科学院深圳先进技术研究院 一种分布式slam系统及其学习方法
CN113360514B (zh) * 2021-07-02 2022-05-17 支付宝(杭州)信息技术有限公司 联合更新模型的方法、装置及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106601235A (zh) * 2016-12-02 2017-04-26 厦门理工学院 一种半监督多任务特征选择的语音识别方法
CN109147804A (zh) * 2018-06-05 2019-01-04 安克创新科技股份有限公司 一种基于深度学习的音质特性处理方法及系统
CN109492420A (zh) * 2018-12-28 2019-03-19 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法、终端、系统及介质
CN109784190A (zh) * 2018-12-19 2019-05-21 华东理工大学 一种基于深度学习的自动驾驶场景关键目标检测提取方法
CN110245743A (zh) * 2019-05-23 2019-09-17 中山大学 一种异步分布式深度学习训练方法、装置及系统
CN110288990A (zh) * 2019-06-12 2019-09-27 深圳康佳电子科技有限公司 一种语音控制优化方法、存储介质及智能终端
CN110288094A (zh) * 2019-06-10 2019-09-27 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法及装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150019348A1 (en) * 2013-07-09 2015-01-15 Google Inc. Determining whether to send a call-out to a bidder in an online content auction
US20150278763A1 (en) * 2014-03-26 2015-10-01 International Business Machines Corporation Intelligent Social Business Productivity
US10540957B2 (en) * 2014-12-15 2020-01-21 Baidu Usa Llc Systems and methods for speech transcription

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106601235A (zh) * 2016-12-02 2017-04-26 厦门理工学院 一种半监督多任务特征选择的语音识别方法
CN109147804A (zh) * 2018-06-05 2019-01-04 安克创新科技股份有限公司 一种基于深度学习的音质特性处理方法及系统
CN109784190A (zh) * 2018-12-19 2019-05-21 华东理工大学 一种基于深度学习的自动驾驶场景关键目标检测提取方法
CN109492420A (zh) * 2018-12-28 2019-03-19 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法、终端、系统及介质
CN110245743A (zh) * 2019-05-23 2019-09-17 中山大学 一种异步分布式深度学习训练方法、装置及系统
CN110288094A (zh) * 2019-06-10 2019-09-27 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法及装置
CN110288990A (zh) * 2019-06-12 2019-09-27 深圳康佳电子科技有限公司 一种语音控制优化方法、存储介质及智能终端

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Supervisory fuzzy model control for magnetic levitation system;Kuo-Ho Su;《2016 IEEE 13th International Conference on Networking, Sensing, and Control (ICNSC)》;全文 *

Also Published As

Publication number Publication date
CN111292722A (zh) 2020-06-16

Similar Documents

Publication Publication Date Title
CN110245510B (zh) 用于预测信息的方法和装置
CN110399742B (zh) 一种联邦迁移学习模型的训练、预测方法及装置
CN110955907B (zh) 一种基于联邦学习的模型训练方法
CN111611610B (zh) 联邦学习信息处理方法、系统、存储介质、程序、终端
CN109002861B (zh) 联邦建模方法、设备及存储介质
CN111612167B (zh) 机器学习模型的联合训练方法、装置、设备及存储介质
WO2021092980A1 (zh) 纵向联邦学习优化方法、装置、设备及存储介质
CN111292722B (zh) 异步联合架构的模型训练方法、终端、服务器及存储装置
CN114186256B (zh) 神经网络模型的训练方法、装置、设备和存储介质
CN111258602A (zh) 信息更新方法和装置
WO2021139467A1 (zh) 联邦学习方法、系统、计算机设备和存储介质
CN114696990A (zh) 基于全同态加密的多方计算方法、系统及相关设备
CN112633409A (zh) 预测方法、纵向联邦学习和横向联邦学习的模型训练方法
CN116032667B (zh) 支持高效更新的在线匿踪查询方法、系统及相关设备
CN114785556B (zh) 加密通信方法、装置、计算机设备以及存储介质
CN114964296A (zh) 车辆行驶路径规划方法、装置、设备和计算机可读介质
CN112818369A (zh) 一种联合建模方法及装置
CN106888213B (zh) 云密文访问控制方法及系统
CN114223175A (zh) 在防止获取或操控时间数据的同时生成网络数据的序列
CN113221153B (zh) 图神经网络训练方法、装置、计算设备及存储介质
US11449352B2 (en) Systems and methods for converting record formats
CN115409095B (zh) 多方泊松回归隐私计算模型训练方法、装置和存储介质
CN110390516B (zh) 用于数据处理的方法、装置和计算机存储介质
WO2019223759A1 (zh) 用于显示无线接入点信息的方法和装置
CN115033645B (zh) 一种基于区块链技术的电力数据存储方法、系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant