CN111583924A - 一种工程机械的控制方法、装置、电子设备及存储介质 - Google Patents

一种工程机械的控制方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111583924A
CN111583924A CN202010350916.5A CN202010350916A CN111583924A CN 111583924 A CN111583924 A CN 111583924A CN 202010350916 A CN202010350916 A CN 202010350916A CN 111583924 A CN111583924 A CN 111583924A
Authority
CN
China
Prior art keywords
control
voice
mode
instruction
engineering machinery
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010350916.5A
Other languages
English (en)
Inventor
张乃健
许金栋
刘存波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shantui Chutian Construction Machinery Co Ltd
Original Assignee
Shantui Chutian Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shantui Chutian Construction Machinery Co Ltd filed Critical Shantui Chutian Construction Machinery Co Ltd
Priority to CN202010350916.5A priority Critical patent/CN111583924A/zh
Publication of CN111583924A publication Critical patent/CN111583924A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/20Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Operation Control Of Excavators (AREA)

Abstract

本发明实施例公开了一种工程机械的控制方法、装置、电子设备及存储介质,该方法包括:在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别;于语音识别结果中包含预设语音时,确定与预设语音匹配的控制指令,并根据控制指令控制工程机械执行对应动作;响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。在语音模式下,可根据识别的预设语音智能控制工程机械执行动作,并且当操纵硬件触发操纵指令时,可立即退出语音模式,能够在保证安全作业的基础上实现工程机械的智能控制,减少了操作难度,减轻了操作员的作业疲劳感。

Description

一种工程机械的控制方法、装置、电子设备及存储介质
技术领域
本发明实施例涉及工程机械技术领域,尤其涉及一种工程机械的控制方法、装置、电子设备及存储介质。
背景技术
工程机械是装备工业的重要组成部分。概括地说,凡土石方施工工程、路面建设与养护、流动式起重装卸作业和各种建筑工程所需的综合性机械化施工工程所必需的机械装备,可皆称为工程机械。现有技术中工程机械的控制方法通常为操作员人为操控,而由于工程机械一般作业工况比较恶劣,操纵难度大,该操作方法的不足之处至少包括长时间的人为操控非常容易导致操作员疲劳。
发明内容
有鉴于此,本发明实施例提供一种工程机械的控制方法、装置、电子设备及存储介质,能够在保证安全作业的基础上实现工程机械的智能控制,减少了操纵难度,减轻了操作员的作业疲劳感。
第一方面,本发明实施例提供了一种工程机械的控制方法,包括:
在所述工程机械的控制模式为语音模式时,采集环境音,并对所述环境音进行语音识别;
于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;
判断所述至少一个控制指令是否存在控制逻辑互斥;
若否,则根据控制指令的类型选择以总线或电缆的方式向所述工程机械发送至少一个控制指令,以使所述工程机械执行与所述至少一个控制指令对应的动作;
响应于操纵硬件触发的操纵指令,将所述工程机械的控制模式由语音模式切换为手动模式,并根据所述操纵指令控制所述工程机械执行对应动作。
可选的,所述对所述环境音进行语音识别,包括:对所述环境音进行噪音过滤,并对过滤噪音的环境音进行声纹识别和语义识别。
可选的,在所述判断所述至少一个控制指令是否存在控制逻辑互斥之后,还包括:若是,则进行指令逻辑互斥的提示。
可选的,所述将所述工程机械的控制模式由语音模式切换为手动模式,包括:停止采集和识别所述环境音,以及停止根据所述控制指令控制所述工程机械执行对应动作。
可选的,在所述根据控制指令的类型选择以总线或电缆的方式向所述工程机械发送至少一个控制指令之后,还包括:
当根据所述控制指令控制所述工程机械执行对应动作失败时,将所述工程机械的控制模式由语音模式切换为手动模式。
可选的,工程机械的控制方法,还包括:
响应于控制模式切换指令,将所述工程机械的控制模式在所述语音模式和所述手动模式之间切换。
可选的,所述工程机械包括挖掘机械、铲土机械、起重机械、压实机械和桩工机械,所述执行对应动作包括执行行走动作和执行工作动作。
第二方面,本发明实施例提供了一种工程机械的控制装置,包括:
声音采集识别模块,用于在所述工程机械的控制模式为语音模式时,采集环境音,并对所述环境音进行语音识别;
中央控制模块,用以于语音识别结果中包含预设语音时,确定与所述预设语音匹配的控制指令,并根据所述控制指令控制所述工程机械执行对应动作;
操纵硬件,用于触发操纵指令;
相应的,中央控制模块还用以响应于操纵硬件触发的操纵指令,将所述工程机械的控制模式由语音模式切换为手动模式,并根据所述操纵指令控制所述工程机械执行对应动作。
第三方面,本发明实施例提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的工程机械的控制方法。
第四方面,本发明实施例提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时实现如上述第一方面所述的工程机械的控制方法。
本发明实施例提供的一种工程机械的控制方法、装置、电子设备及存储介质,其中该方法包括:在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别;于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;于判断至少一个控制指令不存在控制逻辑互斥时,根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作;响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。控制装置在工程机械的控制模式为语音模式下,可根据识别的预设语音智能控制工程机械执行动作,并且在语音模式下接收到操纵硬件触发的操纵指令时,可立即退出语音模式,能够在保证安全作业的基础上,实现工程机械的语音智能化控制,减少了操作难度,解放了操作员的双手双脚,减轻了操作员的作业疲劳感。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对本发明实施例描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据本发明实施例的内容和这些附图获得其他的附图。
图1为本发明实施例一提供的一种工程机械的控制方法流程示意图;
图2为本发明实施例二提供的一种工程机械的控制方法流程示意图;
图3为本发明实施例三提供的一种工程机械的控制装置结构示意图;
图4为本发明实施例三提供的一种工程机械的控制系统结构示意图;
图5为本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
为使本发明解决的技术问题、采用的技术方案和达到的技术效果更加清楚,下面将结合附图对本发明实施例的技术方案作进一步的详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。下述各实施例中,每个实施例中同时提供了可选特征和示例,实施例中记载的各个特征可进行组合,形成多个可选方案,不应将每个编号的实施例仅视为一个技术方案。
实施例一
图1为本发明实施例一提供的一种工程机械的控制方法流程示意图,本实施例可适用于对工业机械进行控制的情况,例如是对挖掘机、推土机、压路机或起重机等工业机械进行控制的情况。该方法可以由本发明实施例提供的工程机械的控制装置来执行,该控制装置采用软件和/或硬件的方式实现,优选是配置于电子设备中,例如工程机械的控制计算机中。
参见图1,本发明实施例中提供的工程机械的控制方法,具体包括如下步骤:
S110、在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别。
本发明实施例中,工程机械的控制模式可以包括语音模式和手动模式,且控制装置在语音模式下可以根据识别到的操作员的语音来智能控制工程机械,在手动模式下可以根据操作员对操纵硬件的操作来人为控制工程机械。当控制装置确定当前的工程机械的控制模式为语音模式时,可进行环境音采集与识别,具体的可以通过至少一个麦克风装置采集环境音。控制装置对环境音进行语音识别,至少包括对环境音进行语义识别,通过进行语义识别可确定环境音中符合自然语言的语义信息,以为处理得到控制指令打下基础。
可选的,对环境音进行语音识别,包括:对环境音进行噪音过滤,并对过滤噪音的环境音进行声纹识别和语义识别。
本实施例中,由于工程机械的作业环境通常比较嘈杂,在对环境音进行噪音过滤有利于提高对操作员语音的识别概率。其中,对环境音进行噪音过滤,例如可以是,预先采集大量的工程机械作业环境中不包含操作员语音的背景音,并根据大量的背景音确定特征背景音;在语音模式下采集到环境音后,可从环境音中将特征背景音滤除,以实现对环境音的噪音过滤。其中,对环境音进行语音识别还可以是进行声纹识别和语义识别,若只进行语义识别,则可识别到环境音中任意操作人员语音中的符合自然语言的语义信息,进一步增加行声纹识别之后,则可识别到环境音中具备操作权限的操作员语音中的符合自然语言的语义信息,从而起到了操作权限验证的作用。
在另一种实施方式中,控制装置在对环境音进行语音识别的同时,还可以通过图像采集模块(例如摄像头)采集操作员图像,并识别操作员图像中操作员是否使用手持通信设备(例如手持手机或手持对讲机等);若是,则可以由语音模式切换为手动模式,以避免对操作员接打电话过程中或利用对讲机呼叫过程中的语音进行误识别,从而在一定程度上避免工程机械误操作,保证了操作员的安全。
S120、于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令。
本发明实施例中,可预先设置预设语音,具体可以是在按下录制某指令的按钮,开始录入该按钮对应的指令的用户语音,并于录入完毕后再次按压该按钮停止录入。而录制不同指令时,按压的按钮可以为不同按钮。例如,按钮1对应一档前进指令,按压按钮1时可以开始录入“一档前进”或“一档冲”等用户语音;按钮2对应二挡前进指令,按压按钮2时可以开始录入“二挡前进”等用户语音;按钮3对应后退指令,按压按钮3时可以开始录入“后退”等用户语音;按钮4对应启动指令,按压按钮4时可以开始录入“启动”等语音指令;按钮5对应熄火指令,按压按钮5可以录入“熄火”等语音指令。也就是在录入语音的同时,可以通过硬件按压设置与控制指令的对应关系。此外,还可以先录入各用户语音,并通过软件方式将各用户语音与控制指令建立对应关系。上述按钮对应指令,以及录入的具体语音仅为示例性举例,在此不做具体限制。
在设置预设语音的同时,可翻译并存储预设语音的文本信息,和/或存储预设语音的波形信息。进一步的,可将预设语音的波形信息和/或文本信息统一存储至预设语音库中,且可基于第一更新指令对预设语音库中的预设语音的波形信息和/或文本信息进行实时更新。在预设语音库后,还可通过软件方式设置预设语音与控制指令的一一对应关系,即设置语音-指令对应关系,该对应关系可以以表的形式或其他形式进行存储,且可基于第三更新指令对对应关系进行实时更新。
本实施例中,语音识别结果可以认为是识别得到的语义信息。判断语义信息中是否包含预设语音,可以是若识别得到的语义信息中包含预设语音的文本信息,则认为语音识别结果中包含预设语音;也可以是若识别得到的语音信息对应的环境音片段的波形信息与预设语音的波形信息匹配,则认为语音识别结果中包含预设语音。例如,若识别得到的语义信息与某一预设语音的文本信息一致,则认为语音识别结果中包含预设语音;又如若识别得到的语音信息对应的环境音片段的波形信息与某一预设语音的波形信息一致,则认为语音识别结果中包含预设语音。此外,其他判断语义信息中是否包含预设语音的方法也可应用于本实施例中,在此不做穷举。其中,在识别到语义信息后还可以通过显示屏和/或扬声器对识别到的语义信息进行显示和/或播放,以使用户确认识别结果是否正确,且在识别错误时,用户可进行人为修改,或者放弃本次识别再次输入语音,从而保证了语义信息识别准确性。
本实施例中,语音识别结果中包含的预设语音的数量可以为一个或多个,基于预设的语音-指令对应关系查找到的相应控制指令的数量可以为一个或多个。以压路机为例,控制指令可以为一个“一档前进”指令,也可以为“一档前进+一级振动”两个指令。此外,在语音识别结果中不包含预设语音时,可以对语音进行重新识别,也可以通过显示屏和/或扬声器进行指令识别失败的提示,以使操作员重新输入语音,在此不做限定。
S130、判断至少一个控制指令是否存在控制逻辑互斥。
本实施例中,判断至少一个控制指令是否存在控制逻辑互斥,具体可以是:当控制指令数量为一个时,则直接判断不存在控制逻辑互斥;当控制指令数量为两个以上时,若两个以上的控制指令中存在不能同时执行的控制指令,则认为存在控制逻辑互斥;若两个以上的控制指令皆可同时执行,则认为不存在逻辑互斥。其中,可预先设置不能同时执行的控制指令的互斥关系,根据该互斥关系可确定两个以上的控制指令是否可同时执行。示例性的,前进指令和停止前进指令、后退指令具备互斥关系。
具体的,确定两个以上的控制指令是否可同时执行的步骤例如可以是,从两个以上的控制指令中随机选取任一控制指令,依次遍历其余控制指令,根据预设的互斥关系判断当前选取的控制指令和当前遍历的控制指令是否互斥;若是,则两个以上的控制指令不可同时执行;若否,则将选取的控制指令删除后,从剩余控制指令中再次选取任一控制指令,依次遍历其余控制指令,再次根据预设的互斥关系判断当前选取的控制指令和当前遍历的控制指令是否互斥;循环上述操作,直到只剩一个控制指令没有删除时,可判断两个以上的控制指令可同时执行。
S140、若否,则根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作。
本实施例中,当判断至少一个控制指令不存在控制逻辑互斥时,可以将至少一个控制指令发送给工程机械,以使工程机械根据至少一个控制指令执行对应的动作。当判断至少一个控制指令存在控制逻辑互斥时,则可以对控制指令进行重新确定,也可以进行指令逻辑互斥的提示,以使操作员根据提示再次输入语音,或者对控制指令进行核对修改,在此不做限定。其中进行指令逻辑互斥的提示,例如可以通过显示屏和/或扬声器进行指令逻辑互斥的提示。
本实施例中,控制指令的类型例包括但不限于数据信号和电信号,可预先对控制指令相应的数据包或电信号特征进行存储,且可基于第二更新指令对控制指令相应的数据包或电信号特征进行实时更新。当控制指令的类型为数据信号时,可以通过总线的方式向工程机械的控制模块发送控制指令,以使工程机械的控制模块可控制相应模块(例如行走模块)的开关、电磁阀或电磁比例阀,执行与控制指令对应的动作;当控制指令的类型为电信号时,可以通过电缆的方式向工程机械的相应模块(例如工作模块)的开关、电磁阀或电磁比例阀发送控制指令,以通过控制开关、电磁阀或电磁比例阀控制该模块执行对应的动作。
通过判断至少一个控制指令是否存在控制逻辑互斥,并于不存在控制逻辑互斥时将控制指令发送给工程机械,能够满足多个控制装置得到多个控制指令后,对控制指令进行逻辑校验,避免了将互斥的控制指令发送至工程机械后,工程机械执行动作报错,有利于工程机械的正规使用,避免造成机械破坏和工程事故。
S150、响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。
本发明实施例中,操纵硬件例如为人工操纵的手柄、摇杆、旋钮、按键和脚踏板等硬件。当操作员人为操作操纵硬件时可触发操纵指令,控制装置响应于该操纵指令,可将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。可以认为,在控制模式为语音模式期间,若操作员人工操纵了工程机械,则语音控制功能将不再起作用,并且会立即切换至手动模式,也就是说操纵指令优先级比控制指令高。这样的设计有利于提高工程机械的安全性能,例如当人遇到危险时,会无暇思考,本能地进行身体动作,即对操纵硬件进行人工操纵,此时操纵指令可立即替代控制指令来控制工程机械,可以在很大程度上避免危险。
当控制模式为语音模式时,根据接收的操纵指令切换为手动模式,可停止采集和识别环境音,以及停止根据控制指令控制工程机械执行对应动作。示例性的,当控制模式为语音模式下,操作员发出“一档前进”的指令,压路机则以一档速度向前行进。此时,若操作员人工操作压路机后退,则压路机可立即后退,即使操作员再发出“一档前进”指令,也不再执行,只有重新进入语音模式才会实现语音控制功能。
此外,预设语音中还可以包括紧急停止语音。在控制模式为语音模式时,若从环境音中识别到的语音信息与紧急停止语音一致,也可以停止采集和识别环境音,以及停止根据控制指令控制工程机械执行对应动作。通过根据识别的预设语音智能控制工程机械执行动作,并且在语音模式下接收到操纵硬件触发的操纵指令时,和/或接收到紧急停止语音时,立即退出语音模式,从而实现了语音智能控制的双重保险,大大提高了工程机械的语音智能控制的安全度。
可选的,工程机械包括挖掘机械、铲土机械、起重机械、压实机械和桩工机械,执行对应动作包括执行行走动作和执行工作动作。
本发明实施例中,挖掘机械包括但不限于履带式/轮胎式单斗挖掘机、轮斗式/链斗式多斗挖掘机、分轮斗/链斗式多斗挖沟机、滚动挖掘机、铣切挖掘机和隧洞掘进机等;铲土机械包括但不限于履带式/轮胎式推土机、履带自行式/轮胎自行式/拖式铲运机、履带式/轮胎式装载机和自行式/拖式平地机、运输车等;起重机包括但不限于塔式起重机、自行式起重机、桅杆起重机和抓斗起重机等;压实机包括但不限于轮胎/光面轮/单足式/振动压路机、夯实机和捣固机等;桩工机械包括但不限于钻孔机、柴油/振动打桩机和破碎锤等。示例性的,基于上述提供的工程机械,行走动作例如可以为履带式行走动作和轮式行走动作等;工作动作例如可以为挖掘机挖掘臂动作、铲斗动作,推土机铲刀动作、松土器动作,压路机钢轮振动动作等。此外,其他工程机械也可包含于本发明实施例中,并可通过本实施例提供的控制方法进行控制。
本实施例提供的一种工程机械的控制方法,在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别;于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;于判断至少一个控制指令不存在控制逻辑互斥时,根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作;响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。控制装置在工程机械的控制模式为语音模式下,可根据识别的预设语音智能控制工程机械执行动作,并且在语音模式下接收到操纵硬件触发的操纵指令时,可立即退出语音模式,能够在保证安全作业的基础上,实现工程机械的语音智能化控制,减少了操作难度,解放了操作员的双手双脚,减轻了操作员的作业疲劳感。
实施例二
本实施例在上述实施例基础上,对语音模式和手动模式之间的切换方式进行了优化,能够实现语音模式和手动模式之间更加灵活的切换。本实施例与上述实施例提出的工程机械的控制方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例。
图2为本发明实施例二提供的一种工程机械的控制方法流程示意图。参见图2,本发明实施例中提供的工程机械的控制方法,包括:
S210、响应于控制模式切换指令,将工程机械的控制模式在语音模式和手动模式之间切换。
本发明实施例中,控制装置可为操作员提供用于进行控制模式切换的物理切换模块,该物理切换模块例如可以是船型开关、钮子开关、拨动开关、按钮开关或案件开关等。当操作员操作物理切换模块时,物理切换模块可以触发切换指令;控制装置在接收到切换指令时,可将工程机械的控制模式在语音模式和手动模式之间切换。可以认为,若当前控制模式为手动模式,则控制装置可根据切换指令将控制模式切换为语音模式;若当前控制模式为语音模式,则控制装置可根据切换指令将控制模式切换为手动模式。
本实施例中,可在设置控制装置开机时的默认控制模式,且该默认控制模式例如可以是语音模式。控制装置开机后,若用户想要保持默认的语音模式,则无需操纵物理切换模块触发切换指令,且也不能操作操纵硬件,以防止切换为手动模式。当用户不小心操作操纵硬件,退出语音模式时,若要使控制装置再次切换为语音模式,则用户需停止操作操纵硬件,且需要操作物理切换模块,以使控制装置响应于控制模式切换指令,将工程机械的控制模式由手动模式切换为语音模式。
S220、在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别。
S230、于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令。
S240、判断至少一个控制指令是否存在控制逻辑互斥。
S250、若否,则根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作。
S261、响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。
S262、当根据控制指令控制工程机械执行对应动作失败时,将工程机械的控制模式由语音模式切换为手动模式。
本发明实施例中,为了增加语音智能控制的安全性,还设定了程序自反馈校验功能。控制装置确定根据控制指令控制工程机械执行对应动作失败时,例如工程机械未按照控制指令工作时,则可强制停止工程机械当前执行的动作,并退出语音模式,转为手动模式,以使工程机械按照操纵指令进行工作,保证了工程机械的控制安全性。
本发明实施例在上述实施例基础上,对语音模式和手动模式之间的切换方式进行了优化,能够实现语音模式和手动模式之间更加灵活的切换。此外,本发明实施例与上述实施例提出的工程机械的控制方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,且本实施例与上述实施例具有相同的有益效果。
实施例三
图3为本发明实施例三提供的一种工程机械的控制装置结构示意图,本实施例可适用于对工业机械进行控制的情况,例如是对挖掘机、推土机、压路机或起重机等工业机械进行控制的情况。应用该控制装置可以实现本发明任一实施例所提供的工程机械的控制方法。
参见图3所示,本发明实施例中提供的工程机械的控制装置包括:
声音采集识别模块310,用于在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别;
中央控制模块320,用以于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;判断至少一个控制指令是否存在控制逻辑互斥;若否,则根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作;
操纵硬件330,用于触发操纵指令;
相应的,中央控制模块320还用以响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。
可选的,声音采集识别模块,具体用于:对环境音进行噪音过滤,并对过滤噪音的环境音进行声纹识别和语义识别。
可选的,中央控制模块,还用于:若至少一个控制指令存在控制逻辑互斥,则进行指令逻辑互斥的提示。
可选的,将工程机械的控制模式由语音模式切换为手动模式,包括:停止采集和识别环境音,以及停止根据控制指令控制工程机械执行对应动作。
可选的,中央控制模块,还用于当根据控制指令控制工程机械执行对应动作失败时,将工程机械的控制模式由语音模式切换为手动模式。
可选的,工程机械的控制装置,还包括:物理切换模块,用于触发控制模式切换指令;相应的,中央控制模块还用以响应于控制模式切换指令,将工程机械的控制模式在语音模式和手动模式之间切换。
其中,物理切换模块例如可以是船型开关、钮子开关、拨动开关、按钮开关或案件开关等等。示例性的,当物理切换模块为可复位的按钮时,操作员按压按钮可触发控制模式切换指令(例如为电流信号),中央控制模块接收控制模式切换指令时,可将工程机械的控制模式在语音模式和手动模式之间切换。
可选的,工程机械包括挖掘机械、铲土机械、起重机械、压实机械和桩工机械,执行对应动作包括执行行走动作和执行工作动作。
示例性的,图4为本发明实施例三提供的一种工程机械的控制系统结构示意图,控制系统可包括控制装置400和执行装置500,且控制装置400通常可配置于工程机械的控制计算机中,而执行装置500通常配置于工程机械上。
参见图4,控制装置400中的声音采集识别模块410可以包括声音采集子模块411和声音识别子模块412,声音采集子模块411和声音识别子模块412可以通过总线连接,例如通过CAN总线连接。声音采集子模块411例如可以是过滤噪音的麦克风装置,用于采集环境音;声音识别子模块412,用于对声音采集子模块采集并发送的环境音进行噪音过滤,并对过滤噪音的环境音进行声纹识别和语义识别,得到语音识别结果并发送至中央控制模块,即实现了对采集到的环境音进行处理,变成新的信号发送给中央控制模块。
控制装置400中的中央控制模块420,例如为CPU,能够对接收到的语音识别结果进行处理,得到控制指令,并通过总线或电缆的方式向工程机械的执行装置500发送该控制指令;执行装置500可根据接收的控制指令执行相应动作,例如控制工作模块510的开关、电磁阀或电磁比例阀执行工作动作,通过变速箱控制模块520控制行走模块530的开关、电磁阀或电磁比例阀执行行走动作,或控制其他可控制模块540(例如空调、照明或雨刷等)的开关、电磁阀或电磁比例阀,以执行相应动作。
控制装置400中的操纵硬件430可以包括操纵行走动作的子模块431和操纵工作动作的子模块432,且操纵行走动作的子模块431和操纵工作动作的子模块432例如为人工操纵的手柄、摇杆、旋钮、按键和脚踏板等硬件。操纵行走动作的子模块431和操纵工作动作的子模块432皆可通过总线(例如CAN总线)与中央控制模块420连接,当操作员人为操作操纵行走动作的子模块431和操纵工作动作的子模块432时,两模块可触发操纵指令,并通过总线传输至中央控制模块420;此时,中央控制模块420可用以响应于操纵硬件430触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。
控制装置400中的物理切换模块440,例如为复位的按钮,可通过总线(例如CAN总线)与中央控制模块420连接。该按钮可在操作员按压时触发控制模式切换指令,并通过总线发送至中央控制模块420;相应的,中央控制模块420可响应于控制模式切换指令,将工程机械的控制模式在语音模式和手动模式之间切换。
本发明实施例所提供的工程机械的控制装置可执行本发明任一实施例所提供的工程机械的控制方法,具备执行方法相应的功能模块和有益效果。未详尽描述的技术细节,可参见本发明任一实施例所提供的工程机械的控制方法。
实施例四
图5为本发明实施例四提供的一种电子设备的结构示意图。图5示出了适于用来实现本发明任一实施方式的示例性电子设备12的框图。图5显示的电子设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。设备12典型的是承担信息加密、解密功能的电子设备。
如图5所示,电子设备12以通用计算设备的形式表现。电子设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,存储器28,连接不同组件(包括存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture,ISA)总线,微通道体系结构(Micro Channel Architecture,MCA)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
电子设备12典型地包括多种计算机可读介质。这些介质可以是任何能够被电子设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储器28可以包括易失性存储器形式的计算机装置可读介质,例如随机存取存储器(Random Access Memory,RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory,CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品40,该程序产品40具有一组程序模块42,这些程序模块被配置以执行本发明各实施例的功能。程序产品40,可以存储在例如存储器28中,这样的程序模块42包括但不限于一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
电子设备12也可以与一个或多个外部设备14(例如键盘、鼠标、摄像头等和显示器)通信,还可与一个或者多个使得用户能与该电子设备12交互的设备通信,和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网WideArea Network,WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与电子设备12的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks,RAID)装置、磁带驱动器以及数据备份存储装置等。
处理器16通过运行存储在存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明上述实施例所提供的工程机械的控制方法,该方法包括:
在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别;于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;判断至少一个控制指令是否存在控制逻辑互斥;若否,则根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作;响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。
当然,本领域技术人员可以理解,处理器还可以实现本发明任一实施例所提供的工程机械的控制方法。
实施例五
本发明实施例五还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例所提供的工程机械的控制方法,该方法包括:
在工程机械的控制模式为语音模式时,采集环境音,并对环境音进行语音识别;于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;判断至少一个控制指令是否存在控制逻辑互斥;若否,则根据控制指令的类型选择以总线或电缆的方式向工程机械发送至少一个控制指令,以使工程机械执行与至少一个控制指令对应的动作;响应于操纵硬件触发的操纵指令,将工程机械的控制模式由语音模式切换为手动模式,并根据操纵指令控制工程机械执行对应动作。
当然,本发明实施例所提供的一种计算机可读存储介质,其上存储的计算机程序不限于如上的方法操作,还可以执行本发明任一实施例所提供的工程机械的控制方法中的相关操作。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种工程机械的控制方法,其特征在于,包括:
在所述工程机械的控制模式为语音模式时,采集环境音,并对所述环境音进行语音识别;
于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;
判断所述至少一个控制指令是否存在控制逻辑互斥;
若否,则根据控制指令的类型选择以总线或电缆的方式向所述工程机械发送至少一个控制指令,以使所述工程机械执行与所述至少一个控制指令对应的动作;
响应于操纵硬件触发的操纵指令,将所述工程机械的控制模式由语音模式切换为手动模式,并根据所述操纵指令控制所述工程机械执行对应动作。
2.根据权利要求1所述的方法,其特征在于,所述对所述环境音进行语音识别,包括:对所述环境音进行噪音过滤,并对过滤噪音的环境音进行声纹识别和语义识别。
3.根据权利要求1所述的方法,其特征在于,在所述判断所述至少一个控制指令是否存在控制逻辑互斥之后,还包括:若是,则进行指令逻辑互斥的提示。
4.根据权利要求1所述的方法,其特征在于,所述将所述工程机械的控制模式由语音模式切换为手动模式,包括:停止采集和识别所述环境音,以及停止根据所述控制指令控制所述工程机械执行对应动作。
5.根据权利要求1所述的方法,其特征在于,在所述根据控制指令的类型选择以总线或电缆的方式向所述工程机械发送至少一个控制指令之后,还包括:
当根据所述控制指令控制所述工程机械执行对应动作失败时,将所述工程机械的控制模式由语音模式切换为手动模式。
6.根据权利要求1所述的方法,其特征在于,还包括:
响应于控制模式切换指令,将所述工程机械的控制模式在所述语音模式和所述手动模式之间切换。
7.根据权利要求1-6任一所述的方法,其特征在于,所述工程机械包括挖掘机械、铲土机械、起重机械、压实机械和桩工机械,所述执行对应动作包括执行行走动作和执行工作动作。
8.一种工程机械的控制装置,其特征在于,包括:
声音采集识别模块,用于在所述工程机械的控制模式为语音模式时,采集环境音,并对所述环境音进行语音识别;
中央控制模块,用以于语音识别结果中包含预设语音库中至少一个预设语音时,基于预设的语音-指令对应关系,查找与至少一个预设语音对应的至少一个控制指令;判断所述至少一个控制指令是否存在控制逻辑互斥;若否,则根据控制指令的类型选择以总线或电缆的方式向所述工程机械发送至少一个控制指令,以使所述工程机械执行与所述至少一个控制指令对应的动作;
操纵硬件,用于触发操纵指令;
相应的,中央控制模块还用以响应于操纵硬件触发的操纵指令,将所述工程机械的控制模式由语音模式切换为手动模式,并根据所述操纵指令控制所述工程机械执行对应动作。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-7中任一项所述的工程机械的控制方法。
10.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时实现如权利要求1-7中任一项所述的工程机械的控制方法。
CN202010350916.5A 2020-04-28 2020-04-28 一种工程机械的控制方法、装置、电子设备及存储介质 Pending CN111583924A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010350916.5A CN111583924A (zh) 2020-04-28 2020-04-28 一种工程机械的控制方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010350916.5A CN111583924A (zh) 2020-04-28 2020-04-28 一种工程机械的控制方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN111583924A true CN111583924A (zh) 2020-08-25

Family

ID=72126208

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010350916.5A Pending CN111583924A (zh) 2020-04-28 2020-04-28 一种工程机械的控制方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111583924A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112576261A (zh) * 2020-12-28 2021-03-30 三一重型装备有限公司 一种掘进机操作台及掘进机
CN114400001A (zh) * 2021-12-20 2022-04-26 上海华兴数字科技有限公司 作业机械语音交互方法、系统及作业机械

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000355484A (ja) * 1999-06-16 2000-12-26 Tadano Ltd 作業機のボイスコントロール装置
CN101430545A (zh) * 2008-12-08 2009-05-13 三一重工股份有限公司 一种用于工程机械的远程语音控制系统及方法
CN107021036A (zh) * 2017-03-21 2017-08-08 合肥极友软件开发有限公司 一种嵌入式车载电器语音控制系统
CN107977002A (zh) * 2017-11-24 2018-05-01 北京益康生活智能科技有限公司 一种手自一体的移动平台控制系统及方法
CN109801626A (zh) * 2019-01-22 2019-05-24 广东美的制冷设备有限公司 家用电器的控制方法及家用电器
CN110085230A (zh) * 2019-04-30 2019-08-02 徐州重型机械有限公司 控制工程机械的方法、装置、系统及计算机可读存储介质
CN110397108A (zh) * 2019-06-28 2019-11-01 三一重机有限公司 挖掘机控制方法、装置、服务器、车载设备及存储介质
CN110782889A (zh) * 2019-08-22 2020-02-11 腾讯科技(深圳)有限公司 一种语音操作方法及相关设备
CN111020982A (zh) * 2019-12-20 2020-04-17 长虹美菱股份有限公司 一种语音洗衣机控制系统及其方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000355484A (ja) * 1999-06-16 2000-12-26 Tadano Ltd 作業機のボイスコントロール装置
CN101430545A (zh) * 2008-12-08 2009-05-13 三一重工股份有限公司 一种用于工程机械的远程语音控制系统及方法
CN107021036A (zh) * 2017-03-21 2017-08-08 合肥极友软件开发有限公司 一种嵌入式车载电器语音控制系统
CN107977002A (zh) * 2017-11-24 2018-05-01 北京益康生活智能科技有限公司 一种手自一体的移动平台控制系统及方法
CN109801626A (zh) * 2019-01-22 2019-05-24 广东美的制冷设备有限公司 家用电器的控制方法及家用电器
CN110085230A (zh) * 2019-04-30 2019-08-02 徐州重型机械有限公司 控制工程机械的方法、装置、系统及计算机可读存储介质
CN110397108A (zh) * 2019-06-28 2019-11-01 三一重机有限公司 挖掘机控制方法、装置、服务器、车载设备及存储介质
CN110782889A (zh) * 2019-08-22 2020-02-11 腾讯科技(深圳)有限公司 一种语音操作方法及相关设备
CN111020982A (zh) * 2019-12-20 2020-04-17 长虹美菱股份有限公司 一种语音洗衣机控制系统及其方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112576261A (zh) * 2020-12-28 2021-03-30 三一重型装备有限公司 一种掘进机操作台及掘进机
CN114400001A (zh) * 2021-12-20 2022-04-26 上海华兴数字科技有限公司 作业机械语音交互方法、系统及作业机械

Similar Documents

Publication Publication Date Title
CN111583924A (zh) 一种工程机械的控制方法、装置、电子设备及存储介质
KR100928836B1 (ko) 굴삭기용 굴삭시스템 및 이에 의한 굴삭기의 굴삭방법
CN113631779A (zh) 挖土机及施工系统
CN110344467B (zh) 挖掘机测量和控制逻辑电路
EP3228760A1 (en) Travel control system and method for a work machine
WO2019217674A1 (en) Sound dampening and pass through filtering
CN114692514B (zh) 一种抗滑桩的设计方法、装置、设备及可读存储介质
US20160104391A1 (en) Method of training an operator of machine
JP7484401B2 (ja) 作業機械の遠隔操作支援システム
WO2021200798A1 (ja) 検出システムおよび検出方法
US11987949B2 (en) Method and apparatus for machine operator command attenuation
CN103646644A (zh) 一种获取语音识别业务信息认可度的方法和装置
EP3228761B1 (en) Control system for a work machine
WO2021215198A1 (ja) 作業機械の障害物報知システムおよび作業機械の障害物報知方法
JP2002023791A (ja) 建設機械における音声認識システム
JP7367568B2 (ja) 自動操作システム、自動操作プログラム、および自動操作方法
JP2002019583A (ja) 建設機械における音声盗難防止装置
JP7400425B2 (ja) 作業機械の遠隔操作支援システム
WO2021131228A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
EP4142302A1 (en) Remote operation assistance device and remote operation assistance method
JP7450492B2 (ja) 無人作業機械
JP7415480B2 (ja) 作業支援サーバおよび作業支援システム
EP4332709A1 (en) Controlling a mobile mining vehicle
DE102004063908B4 (de) Mobile(s) Kommunikationsvorrichtung und -verfahren mit Diktierfunktion für humanbedingte Daten
US20230046110A1 (en) Disaster countermeasure support server, disaster countermeasure support system, and disaster countermeasure support method

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20200825