CN107662617B - 基于深度学习的车载交互控制算法 - Google Patents

基于深度学习的车载交互控制算法 Download PDF

Info

Publication number
CN107662617B
CN107662617B CN201710873933.5A CN201710873933A CN107662617B CN 107662617 B CN107662617 B CN 107662617B CN 201710873933 A CN201710873933 A CN 201710873933A CN 107662617 B CN107662617 B CN 107662617B
Authority
CN
China
Prior art keywords
natural language
vector
knowledge
answer
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710873933.5A
Other languages
English (en)
Other versions
CN107662617A (zh
Inventor
李嫄源
朱庆元
朱智勤
李鹏华
王冠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN201710873933.5A priority Critical patent/CN107662617B/zh
Publication of CN107662617A publication Critical patent/CN107662617A/zh
Application granted granted Critical
Publication of CN107662617B publication Critical patent/CN107662617B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367—Ontology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Abstract

本发明涉及一种基于深度学习的车载交互控制算法，属于车联网智能控制技术领域。该算法包括：多特征融合下的自然语言数据稀疏表示，使词、句子等多层次结构中的词向量与词性、依存关系等语境向量深度融合，且稀疏表示融合生成的词向量；半监督学习下的自然语言深度学习模型优化，使深度学习模型与自然语言任务匹配，并按不同训练环境快速切换梯度学习机制；表示学习下的自然语言张量知识图构建与推理，使知识图中的实体、概念、类别以及语义关系转换为同一语义空间的数值向量，利用多列卷积神经网络学习获取知识特征向量，通过目标问句向量与知识特征向量的相似度得分计算实现知识推理。本发明能有效应答用户交互的自然语言信息，满足用户的行车需求。

Description

基于深度学习的车载交互控制算法
技术领域
本发明属于车联网智能控制技术领域，涉及一种基于深度学习的车载交互控制算法。
背景技术
随着汽车行业的快速发展，汽车不断深入进人们的生活之中。与此同时，由于车载智能设备为驾驶者提供了诸多便利与舒适体验，消费者对于车载设备的需求量越来越大，对其性能要求也逐渐提高。
现有技术中，通过按钮或键盘进行操作控制的系统只能实现基本控制功能，在短信与导航方面需要反复操作，不利于行车安全并给用户带来了较差的使用体验。而当前使用语音识别控制则多采用类似字符串匹配的方法进行用户交互控制的系统，驾驶员需要记忆并准确呼叫特定语音信息才能实现控制功能，缺乏人性化的人机交互设计，对于行车体验显得复杂而繁琐，降低了用户体验且不利于行车安全。
对于目前存在的情况，迫切需要开发一种新型车载交互控制技术，而深度学习近年来在自然语言处理方向迅猛发展为车载交互控制提供了新的思路。
发明内容
有鉴于此，本发明的目的在于提供一种基于深度学习的车载交互控制算法，旨在提供用户快捷舒适的操作体验与安全的行车环境。
为达到上述目的，本发明提供如下技术方案：
一种基于深度学习的车载交互控制算法，包括以下步骤：
S1：获取行车过程相关控制命令与行车自然语言的训练文本；
S2：采用词向量表征方式融合多语境描述进行数据稀疏表示；
S3：构建优化型卷积神经网络学习模型；
S4：在同一语义空间中利用相似度得分机制实现知识图推理。
进一步，由网络爬虫获取互联网行车自然语言，辅以人工整合方式过滤冗杂信息并归类控制命令作所述训练文本。
进一步，用HanLP中CRF句法分析器与最大熵依存句法分析器划分文本短语并获取语境量化描述；采用word2vec将其融合成词向量，借助无监督最大释然学习实现所述数据稀疏表示。
进一步，构造条件函数来优化切换SGD、LBFGS、CG学习机制构成所述不同梯度学习机制；选择合适的梯度表示完成学习模型检查，对所述稀疏表示的训练数据进行无监督学习预训练进而获取其训练权值；按照适当比例将人工知识注入部分训练数据进行再学习构成所述神经网络模型。
进一步，通过表示学习捕获文本分布式语义信息并设计带有语义信息的三维张量来表征知识图中的三元组；构造表征语义关系的映射向量或映射矩阵将知识图中的实体你、概念、类别以及关系转换为同一语义空间的数值向量；利用人工设定模板对已有三元组进行扩展，按照弱监督方式标定训练数据，采用随机破坏方式获取负样本；将稀疏表示的三元组数值向量提交给多列卷积神经网络，通过哈希、卷积、池化和语义映射运算后得到所述答案相关特征向量。
本发明的有益效果在于：本发明能有效应答用户交互的自然语言信息，提供用户快捷舒适的操作体验与安全的行车环境，满足用户的行车需求。
附图说明
为了使本发明的目的、技术方案和有益效果更加清楚，本发明提供如下附图进行说明：
图1为车载交互控制算法流程示意图；
图2为车载交互控制算法结构示意图；
图3为多特征融合下的词向量稀疏编码表示；
图4为深度学习下的自然语言理解模型；
图5为表示学习下的知识图构建，(a)为三维张量知识表征；(b)为知识实体的语义关系映射。
具体实施方式
下面将结合附图，对本发明的优选实施例进行详细的描述。
如图1、图2所示，本发明提供一种基于深度学习的车载交互控制算法。该算法通过HanLP与Stanfordparser中的CRF句法分析器与最大熵依存句法分析器将文本划分为词或短语，并获取词性、词序、关键词、依存关系等量化描述。
本发明采用word2vec将划分的词或短语转化为词向量，并与获取的量化描述融合成新的词向量。根据不同自然语言处理任务的需要，词向量融合方式可采取拼接、加权、或者哈希计算。词向量融合效果由随后进行的无监督学习下稀疏表示过程的参数进行综合评判。
如图3所示，本发明通过在深置信度神经网络的隐藏层神经元中引入稀疏限制和正则项，推导相应的损失函数和惩罚函数，构建稀疏边缘降噪自动编码器；将融合词序、词序、依存关系等语境特征的词向量提交给该编码器，借助损失函数的更新完成深度神经网络的预训练，微调神经网络的权值、偏置、稀疏限制和正则限制项等参数，完成自然语言数据的稀疏表示。
如图4所示，本发明根据自然语言处理任务，综合考虑Sigmoid、Tanh、Hard、Softsign、Rectifier等非线性函数特性，选取能有效降低深度网络训练复杂度的非线性过程，构建面向自然语言的深度学习模型。通过选择合适的梯度表示，对学习模型进行交叉验证，检查学习模型是否存在缺陷。
本发明依据选择的基本表示结构，将稀疏表征下自然语言训练数据全集(未进行人工知识标注)，提交给构建的深度学习模型进行无监督学习预训练，获得预训练权值。其中，设置深度神经网络隐藏层偏置为0，输出层的偏置为假定权值时的最优值。权值设置为w∈(-r,r)，这里的fanin为前一层网络节点数，fanout为后一层网络节点数。完成预训练后，对训练数据中的部分数据集(不超过整体的20％)进行人工知识标注，将这些数据按照同样的表示结构提交给带有预训练权值的深度学习模型进行有监督训练。为提高训练速度，在多核机驱动下，构建关于学习率的切换函数实现SGD、LBFGS、CG学习机制的优化切换。
如图5(a)所示，本发明通过定义三元组(h,r,t)生成三维张量来构建语义知识图，其中，代表头语义实体，代表语义关系，代表尾语义实体。通过张量分解，得到一个核心张量和一个因子矩阵，核心张量中每个二维矩阵切片代表一种语义关系，因子矩阵中每一行代表一个语义实体。由核心张量和因子矩阵还原的结果可看作对应三元组成立的概率。
如图5(b)所示，假设和经过某种与相关的映射后所得的向量相似或相等，在定义能量函数fr(h,t)前提下，构建学习目标函数来保证知识图中出现的三元组获得较高学习目标值，同时对未出现的三元组进行惩罚。语义关系采用映射向量或映射矩阵来表示，通过设定映射函数将三元组的头实体和尾实体映射到与目标关系相关的语义空间中来实现知识“1-to-1”、“1-to-N”、“N-to-N”的转换。
本发明利用人工设定的模板对已有的三元组进行扩展,生成自然语言问句,以弱监督的方式标定大量的训练数据，并采用随机破坏已有“问句--答案”三元组对中元素的方式获取负样本。引入词嵌入概念将获取的知识图训练样本转换为为低维空间向量,使知识推理转化为通过构建深度神经网络处理自然语言问句的问题，从而找到“问句实体--知识图实体”的对应关系，以及“问句自然语言描述--知识图语义关系”的对应关系。
本发明对词嵌入学习得到的知识图三元组数值向量采用Recursive sentence基本表示结构，在稀疏化表示后提交给多列卷积神经网络模型(Multi-column CNN)。通过该神经网络模型的哈希、卷积、最大池化和语义映射运算之后得到答案类型、答案路径、答案周围实体三种特征向量。将这三种特征向量分别与问句向量做相似度计算，最终的推理得分由三种相似度求和而得。即，S(q,a)＝f1(q)Tg1(a)+f2(q)Tg2(a)+f3(q)Tg3(a)。其中，f1(q)Tg1(a)表示答案类型的相似度，f2(q)Tg2(a)表示答案路径的相似度，f3(q)Tg3(a)表示答案周围实体的相似度。
通过以上的实施方式的描述，所述功能如果以软件功能单元的形式实现并作为独立的产品销售或者使用时，可以存储在计算机或车机可读存储介质中执行各个实施例或者实施例的某些部分所述的方法。
最后说明的是，以上优选实施例仅用以说明本发明的技术方案而非限制，尽管通过上述优选实施例已经对本发明进行了详细的描述，但本领域技术人员应当理解，可以在形式上和细节上对其作出各种各样的改变，而不偏离本发明权利要求书所限定的范围。

Claims (1)

1.一种基于深度学习的车载交互控制算法，其特征在于：该算法包括以下步骤：
S1：获取行车过程相关控制命令与行车自然语言的训练文本；
S2：采用词向量表征方式融合多语境描述进行数据稀疏表示；
S3：构建优化型卷积神经网络学习模型；
S4：在同一语义空间中利用相似度得分机制实现知识图推理；
所述步骤S1具体为：由网络爬虫从互联网获取行车自然语言数据；过滤冗余信息并人工整合行车控制命令与行车自然语言数据；获取训练文本；
所述步骤S2具体为：用最大熵依存句法分析器划分文本短语并获取语境量化描述；采用word2vec将其融合成词向量，借助无监督最大释然学习实现所述数据稀疏表示；
所述步骤S3具体为：构造条件函数来优化切换多学习机制；对稀疏表示的训练数据进行无监督学习预训练进而获取其训练权值；按照适当比例将人工知识注入部分训练数据进行再学习构成所述神经网络学习模型；
所述学习模型通过训练文本稀疏表示进行重复迭代训练更新权重至误差在预设的误差范围之内；
所述步骤S4具体为：根据人类知识表征结构构造附有语义信息的三维张量定义知识图三元组；通过多列卷积神经网络生成知识实体与所需答案相关特征向量；通过哈希、卷积、池化和语义映射运算后得到所述答案相关特征向量；
相似度得分机制为：对词嵌入学习得到的知识图三元组数值向量采用Recursivesentence基本表示结构，在稀疏化表示后提交给多列卷积神经网络模型CNN；通过该神经网络模型的哈希、卷积、最大池化和语义映射运算之后得到答案类型、答案路径、答案周围实体三种特征向量；将这三种特征向量分别与问句向量做相似度计算，最终的推理得分由三种相似度求和而得；即，S(q,a)＝f1(q)Tg1(a)+f2(q)Tg2(a)+f3(q)Tg3(a)；其中，S(q,a)表示推理得分，f1(q)Tg1(a)表示答案类型的相似度，f2(q)Tg2(a)表示答案路径的相似度，f3(q)Tg3(a)表示答案周围实体的相似度。
CN201710873933.5A 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法 Active CN107662617B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710873933.5A CN107662617B (zh) 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710873933.5A CN107662617B (zh) 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法

Publications (2)

Publication Number Publication Date
CN107662617A CN107662617A (zh) 2018-02-06
CN107662617B true CN107662617B (zh) 2019-11-05

Family

ID=61097470

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710873933.5A Active CN107662617B (zh) 2017-09-25 2017-09-25 基于深度学习的车载交互控制算法

Country Status (1)

Country Link
CN (1) CN107662617B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509519B (zh) * 2018-03-09 2021-03-09 北京邮电大学 基于深度学习的通用知识图谱增强问答交互系统及方法
CN108717574B (zh) * 2018-03-26 2021-09-21 浙江大学 一种基于连词标记和强化学习的自然语言推理方法
CN110427484A (zh) * 2018-04-26 2019-11-08 上海意仕腾教育科技有限公司 一种基于深度学习的中文自然语言处理方法
CN109388801B (zh) * 2018-09-30 2023-07-14 创新先进技术有限公司 相似词集合的确定方法、装置和电子设备
CN109902186B (zh) * 2019-03-12 2021-05-11 北京百度网讯科技有限公司 用于生成神经网络的方法和装置
CN110825462A (zh) * 2019-09-23 2020-02-21 苏州车付通信息科技有限公司 智能逻辑分析系统
CN111858883A (zh) * 2020-06-24 2020-10-30 北京百度网讯科技有限公司 三元组样本的生成方法、装置、电子设备及存储介质
CN112001182B (zh) * 2020-07-20 2024-02-13 北京百度网讯科技有限公司 多语言语义表示模型的训练方法、装置、设备及存储介质
CN116804691B (zh) * 2023-06-28 2024-02-13 国网安徽省电力有限公司青阳县供电公司 一种用于电力系统的调度自动化设备故障监测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5632007A (en) * 1994-09-23 1997-05-20 Actv, Inc. Interactive system and method for offering expert based interactive programs
CN104867356A (zh) * 2015-06-04 2015-08-26 重庆邮电大学 一种基于DSRC和Telematics的车辆威胁评估系统
CN106055722A (zh) * 2016-07-26 2016-10-26 重庆兆光科技股份有限公司 网页爬虫抓取方法及系统
CN107133349A (zh) * 2017-05-24 2017-09-05 北京无忧创新科技有限公司 一种对话机器人系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8150872B2 (en) * 2005-01-24 2012-04-03 The Intellection Group, Inc. Multimodal natural language query system for processing and analyzing voice and proximity-based queries

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5632007A (en) * 1994-09-23 1997-05-20 Actv, Inc. Interactive system and method for offering expert based interactive programs
CN104867356A (zh) * 2015-06-04 2015-08-26 重庆邮电大学 一种基于DSRC和Telematics的车辆威胁评估系统
CN106055722A (zh) * 2016-07-26 2016-10-26 重庆兆光科技股份有限公司 网页爬虫抓取方法及系统
CN107133349A (zh) * 2017-05-24 2017-09-05 北京无忧创新科技有限公司 一种对话机器人系统

Also Published As

Publication number Publication date
CN107662617A (zh) 2018-02-06

Similar Documents

Publication Publication Date Title
CN107662617B (zh) 基于深度学习的车载交互控制算法
CN108009285B (zh) 基于自然语言处理的林业生态环境人机交互方法
CN109992783B (zh) 中文词向量建模方法
US11514305B1 (en) Intelligent control with hierarchical stacked neural networks
Wang et al. Research on Web text classification algorithm based on improved CNN and SVM
CN105938485B (zh) 一种基于卷积循环混合模型的图像描述方法
Yue et al. Sentiment analysis using word2vec-cnn-bilstm classification
CN109783666B (zh) 一种基于迭代精细化的图像场景图谱生成方法
CN110321563B (zh) 基于混合监督模型的文本情感分析方法
CN108874878A (zh) 一种知识图谱的构建系统及方法
CN112860908A (zh) 基于多源异构电力设备数据的知识图谱自动化构建方法
CN110580288B (zh) 基于人工智能的文本分类方法和装置
CN105512209A (zh) 一种基于特征自动学习的生物医学事件触发词识别方法
CN108197294A (zh) 一种基于深度学习的文本自动生成方法
CN112905795A (zh) 文本意图分类的方法、装置和可读介质
CN106959946A (zh) 一种基于深度学习的文本语义特征生成优化方法
CN111898374A (zh) 文本识别方法、装置、存储介质和电子设备
CN112364132A (zh) 基于依存句法的相似度计算模型和系统及搭建系统的方法
Sun et al. Multi-channel CNN based inner-attention for compound sentence relation classification
CN112966523A (zh) 基于语义关系约束的词向量修正方法及计算系统
CN106021402A (zh) 用于跨模态检索的多模态多类Boosting框架构建方法及装置
CN115496072A (zh) 一种基于对比学习的关系抽取方法
Yu et al. Policy text classification algorithm based on BERT
CN112948588B (zh) 一种用于情报快速整编的中文文本分类方法
Arora et al. Comparative question answering system based on natural language processing and machine learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant