CN111354241A - 一种教育可编程的人工智能机器人系统及控制方法 - Google Patents

一种教育可编程的人工智能机器人系统及控制方法 Download PDF

Info

Publication number
CN111354241A
CN111354241A CN202010130138.9A CN202010130138A CN111354241A CN 111354241 A CN111354241 A CN 111354241A CN 202010130138 A CN202010130138 A CN 202010130138A CN 111354241 A CN111354241 A CN 111354241A
Authority
CN
China
Prior art keywords
robot
tracking target
motion
video
instructions
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202010130138.9A
Other languages
English (en)
Inventor
刘建波
李俊
梁旭
翟玮
王迎军
法永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN202010130138.9A priority Critical patent/CN111354241A/zh
Publication of CN111354241A publication Critical patent/CN111354241A/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/0053Computers, e.g. programming

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Computer Hardware Design (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Manipulator (AREA)

Abstract

根据本公开的示例实施例,提供了一种教育可编程的人工智能机器人系统及控制方法。该方法包括:电子设备接收用户在所述编程界面上输入的运动指令的列表,将运动指令的所述列表发送给机器人;机器人基于所接收的运动指令的列表控制机器人的运动装置进行运动;所述机器人在运动过程中拍摄关于前方环境的视频;将关于前方环境的视频发送给电子设备;电子设备接收用户在视频的一帧中标记的跟踪目标;将跟踪目标的图像发送给机器人;机器人在拍摄的视频中跟踪所接收的跟踪目标,以预测跟踪目标的运动轨迹;以及基于运动轨迹,控制运动装置跟随跟踪目标。由此,本发明能够实现可编程的机器人运动和跟踪功能。

Description

一种教育可编程的人工智能机器人系统及控制方法
技术领域
本公开的实施例总体涉及信息处理领域,具体涉及教育可编程的人工智能机器人系统及控制方法。
背景技术
随着技术的发展,教育行业也开始采用机器人来提供教育的辅助。目前的可编程教育机器人往往只能实现简单的指令,缺少较为复杂和结合实际环境的功能。
发明内容
本公开的实施例提供了一种教育可编程的人工智能机器人系统及控制方法,由此能够实现可编程的机器人运动和跟踪功能。
在本公开的第一方面,提供了一种用于教育可编程的人工智能机器人的控制方法,包括:电子设备经由电子设备的触摸显示器显示用于机器人的编程界面;电子设备接收用户在编程界面上输入的运动指令的列表,运动指令包括前进、后退、左转、右转中的任一项;电子设备响应于确定接收到用户在编程界面输入的发送指令,将运动指令的列表发送给机器人;电子设备将编程界面切换为机器人视角界面;以及机器人基于所接收的运动指令的列表控制机器人的运动装置进行运动,运动装置包括4个马达和4个轮子;机器人在运动过程中经由机器人的相机拍摄关于前方环境的视频;机器人将关于前方环境的视频发送给电子设备;电子设备在机器人视角界面上显示所接收的视频;电子设备接收用户在视频的一帧中标记的跟踪目标;电子设备将跟踪目标的图像发送给机器人;机器人在拍摄的视频中跟踪所接收的跟踪目标,以预测跟踪目标的运动轨迹;以及基于运动轨迹,控制运动装置跟随跟踪目标。
在本公开的第二方面,提供了一种教育可编程的人工智能机器人系统,包括电子设备和机器人,电子设备包括第一处理器、与第一处理器耦合的第一存储器、触摸显示屏、第一通信模块,第一存储器存储用于由第一处理器执行的第一指令,第一指令当由第一处理器执行时,使得电子设备执行以下步骤:经由触摸显示器显示用于机器人的编程界面;接收用户在编程界面上输入的运动指令的列表,运动指令包括前进、后退、左转、右转中的任一项;响应于确定接收到用户在编程界面输入的发送指令,将运动指令的列表发送给机器人;将编程界面切换为机器人视角界面;机器人包括第二处理器、与第二处理器耦合的第二存储器、第二通信模块、相机、麦克风和运动装置,运动装置包括4个马达和4个轮子,第二存储器存储用于由第二处理器执行的第二指令,第二指令当由第二处理器执行时,使得机器人执行以下步骤:基于所接收的运动指令的列表控制机器人的运动装置进行运动;在运动过程中经由相机拍摄关于前方环境的视频;将关于前方环境的视频发送给电子设备;所述第一指令当由第一处理器执行时,还使得电子设备执行以下步骤:在机器人视角界面上显示所接收的视频;接收用户在视频的一帧中标记的跟踪目标;将跟踪目标的图像发送给机器人;第二指令当由第二处理器执行时,还使得机器人执行以下步骤:在拍摄的视频中跟踪所接收的跟踪目标,以预测跟踪目标的运动轨迹;以及基于运动轨迹,控制运动装置跟随跟踪目标。
提供发明内容部分是为了以简化的形式来介绍对概念的选择,它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或必要特征,也无意限制本公开的范围。
附图说明
通过结合附图对本公开示例性实施例进行更详细的描述,本公开的上述以及其它目的、特征和优势将变得更加明显,其中,在本公开示例性实施例中,相同的参考标号通常代表相同部件。
图1示出了根据本公开的实施例的教育可编程的人工智能机器人系统100的示例的示意图;
图2示出了根据本公开的实施例的用于教育可编程的人工智能机器人的控制方法200的示例的示意图;以及
图3示意性示出了适于用来实现本公开实施例的电子设备300的框图。
在各个附图中,相同或对应的标号表示相同或对应的部分。
具体实施方式
下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例,然而应该理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了使本公开更加透彻和完整,并且能够将本公开的范围完整地传达给本领域的技术人员。
如上所述,目前的可编程机器人功能比较单一,往往只能实现简单的运动功能,缺少较为复杂和结合实际环境的功能。
为了解决上述问题或未说明的其他问题,本公开提供了教育可编程的人工智能机器人系统及其控制方法。该方法包括:电子设备经由电子设备的触摸显示器显示用于机器人的编程界面;电子设备接收用户在编程界面上输入的运动指令的列表,运动指令包括前进、后退、左转、右转中的任一项;电子设备响应于确定接收到用户在编程界面输入的发送指令,将运动指令的列表发送给机器人;电子设备将编程界面切换为机器人视角界面;以及机器人基于所接收的运动指令的列表控制机器人的运动装置进行运动,运动装置包括4个马达和4个轮子;机器人在运动过程中经由机器人的相机拍摄关于前方环境的视频;机器人将关于前方环境的视频发送给电子设备;电子设备在机器人视角界面上显示所接收的视频;电子设备接收用户在视频的一帧中标记的跟踪目标;电子设备将跟踪目标的图像发送给机器人;机器人在拍摄的视频中跟踪所接收的跟踪目标,以预测跟踪目标的运动轨迹;以及基于运动轨迹,控制运动装置跟随跟踪目标。
在本方案中,通过将电子设备接收的用户输入的运动指令和跟踪目标发送给机器人,可以控制机器人按照该运动指令运动并且在运动过程中跟随该跟踪目标,实现了在运动过程中根据用户指示跟踪目标的功能,提高了可编程机器人的趣味性。
图1显示出了根据本公开的实施例的一种教育可编程的人工智能机器人系统100,包括电子设备110和机器人120,电子设备110包括第一处理器、与第一处理器耦合的第一存储器、触摸显示屏、第一通信模块,第一存储器存储用于由第一处理器执行的第一指令,第一指令当由第一处理器执行时,使得电子设备110执行以下步骤:经由触摸显示器显示用于机器人的编程界面;接收用户在编程界面上输入的运动指令的列表,运动指令包括前进、后退、左转、右转中的任一项;响应于确定接收到用户在编程界面输入的发送指令,将运动指令的列表发送给机器人;将编程界面切换为机器人视角界面;机器人120包括第二处理器、与第二处理器耦合的第二存储器、第二通信模块、相机、麦克风和运动装置,运动装置包括4个马达和4个轮子,第二存储器存储用于由第二处理器执行的第二指令,第二指令当由第二处理器执行时,使得机器人执行以下步骤:基于所接收的运动指令的列表控制机器人的运动装置进行运动;在运动过程中经由相机拍摄关于前方环境的视频;将关于前方环境的视频发送给电子设备;所述第一指令当由第一处理器执行时,还使得电子设备执行以下步骤:在机器人视角界面上显示所接收的视频;接收用户在视频的一帧中标记的跟踪目标;将跟踪目标的图像发送给机器人;第二指令当由第二处理器执行时,还使得机器人执行以下步骤:在拍摄的视频中跟踪所接收的跟踪目标,以预测跟踪目标的运动轨迹;以及基于运动轨迹,控制运动装置跟随跟踪目标。
电子设备110可以是具备无线收发能力并且可以接入互联网的电子设备。电子设备1120例如但不限于是移动电话、智能电话、膝上型计算机、平板计算机、个人数字助理(PDA)、可穿戴设备等。
在一些实施例中,第一通信模块和第二通信模块可以通过诸如蓝牙、wifi、zigbee、近场通信(NFC)的任何通信技术来彼此进行通信。
图2显示出了根据本公开的实施例的一种用于教育可编程的人工智能机器人的控制方法200的示意流程图。
在202处,电子设备110经由电子设备110的触摸显示器显示用于机器人120的编程界面。
在204处,电子设备110接收用户在编程界面上输入的运动指令的列表,运动指令包括前进、后退、左转、右转中的任一项。
在206处,电子设备110响应于确定接收到用户在编程界面输入的发送指令,将运动指令的列表发送给机器人120。
在208处,电子设备110将编程界面切换为机器人视角界面。
在210处,机器人120基于所接收的运动指令的列表控制机器人120的运动装置进行运动,运动装置包括4个马达和4个轮子。
在212处,机器人120在运动过程中经由机器人120的相机拍摄关于前方环境的视频。
在214处,机器人120将关于前方环境的视频发送给电子设备110。
在216处,电子设备110在机器人视角界面上显示所接收的视频。
在218处,电子设备110接收用户在视频的一帧中标记的跟踪目标。
在220处,电子设备110将跟踪目标的图像发送给机器人120。
在222处,机器人120在拍摄的视频中跟踪所接收的跟踪目标,以预测跟踪目标的运动轨迹。
在224处,机器人120基于运动轨迹,控制运动装置跟随跟踪目标。
由此,通过将电子设备接收的用户输入的运动指令和跟踪目标发送给机器人,可以控制机器人按照该运动指令运动并且在运动过程中跟随该跟踪目标,实现了在运动过程中根据用户指示跟踪目标的功能,提高了可编程机器人的趣味性。
在一些实施例中,机器人120在拍摄的视频中跟踪所接收的跟踪目标包括:机器人120从跟踪目标的图像中获取127x127x3的目标图像;机器人120从拍摄的视频的视频帧中获取255x255x3的待搜索图像;机器人120将127x127x3的目标图像和255x255x3的待搜索图像输入到相同的神经网络模型中,得到15x15x256的目标图像的特征图
Figure BDA0002395563760000062
和31x31x256的待搜索图像的特征图
Figure BDA0002395563760000063
机器人120对目标图像的特征图
Figure BDA0002395563760000065
和待搜索图像的特征图
Figure BDA0002395563760000064
进行卷积,得到17x17x256的响应得分图,响应得分图的每个像素值就代表了待搜索图像中每个位置与目标图像的相似程度,像素值越高,证明两者越相似;以及机器人120将像素值最大的位置乘以预定步长即可得到跟踪目标的当前位置。
在一些实施例中,神经网络模型是通过以下过程训练的:
利用正负样本来训练所述神经网络模型,训练时采用所有候选位置的平均损失来表示,公式如下:
Figure BDA0002395563760000061
其中D表示最后得到的响应得分图,u表示响应图得分中的所有位置,其中l(y,v)=log(1+exp(-yv)),其中y∈(+1,-1)表示真值,v表示样本–搜索图像的实际得分,正样本的概率为sigmoid函数,负样本的概率为1-sigmoid函数;以及通过随机梯度下降最小化所述平均损失来确定神经网络模型中的参数。
由此,能够使得待搜索图像不需要与样本图像具有相同尺寸,可以为网络提供更大的搜索图像作为输入,使得定位过程能够一次进行,使得运行时帧率满足实时性的要求,提高了机器人的目标跟踪效率。
在一些实施例中,方法200还包括:机器人120响应于确定在拍摄的视频中未跟踪到跟踪目标,识别跟踪目标;确定识别出的跟踪目标是否为狗;如果确定识别出的跟踪目标为狗,则获取周围环境中的声音;在所获取的声音中识别狗的叫声;如果在声音中识别出狗的叫声,则确定狗的叫声的方位;以及控制机器人120的运动装置转向所确定的方位,以便机器人120的相机拍摄到包含狗的视频。
由此,能够使得机器人在未跟踪到目标的情况下,通过识别目标为狗,以及获取周围环境的声音,识别狗叫的方位来控制机器人转向,从而能够继续跟踪目标,提高了机器人的目标跟踪能力。
在一些实施例中,方法200还包括:机器人120响应于确定在拍摄的视频中未跟踪到跟踪目标,转动机器人的可转动相机;以及在转动机器人的可转动相机的同时,捕获关于周围环境的视频,以便重新跟踪跟踪目标。
由此,能够使得机器人在未跟踪到目标时,通过转动相机来重新跟踪目标,提高了机器人的跟踪能力。
在一些实施例中,方法200还包括:机器人120在拍摄的视频中识别障碍物;机器人120计算以下公式:
F=Fatt+Frep
Fatt=-katt(q-qg);
Figure BDA0002395563760000071
其中,Fatt和Frep表示所述机器人受到的引力和斥力,F为引力和斥力的合力,krep和katt为正的比例因子,q为所述机器人的当前位置,qg为跟踪目标所在位置,qo为障碍物所在位置,ρ(q)为所述机器人的所述当前位置距离所述障碍物所在位置的欧式距离;以及机器人120基于合力F的方向和大小,控制机器人的运动装置。
在一些实施例中,基于合力F的方向和大小,控制机器人的运动装置包括:机器人120控制机器人的运动装置朝向合力F的方向运动;以及机器人120控制机器人的运动装置按照以下速度运动:
V*(1-cos(a)),其中a为所述斥力Frep与所述机器人的当前运动方向之间的夹角,V为所述机器人的最大直线速度。
由此,能够使得机器人在跟踪目标的过程中有效避免出现的障碍物,提高机器人的避障能力。
图3示意性示出了适于用来实现本公开实施例的电子设备300的框图。例如图1所示的电子设备110和机器人120中的处理器和存储器可以由电子设备330实现。如图所示,设备300包括中央处理单元(CPU)301,其可以根据存储在只读存储器(ROM)302中的计算机程序指令或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序指令,来执行各种适当的动作和处理。在RAM303中,还可存储设备300操作所需的各种程序和数据。CPU301、ROM 302以及RAM303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
设备300中的多个部件连接至I/O接口305,包括:输入单元306,例如键盘、鼠标等;输出单元307,例如各种类型的显示器、扬声器等;存储单元308,例如磁盘、光盘等;以及通信单元309,例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理单元301执行上文所描述的各个方法和处理,例如执行方法200。例如,在一些实施例中,方法200可被实现为计算机软件程序,其被存储于机器可读介质,例如存储单元308。在一些实施例中,计算机程序的部分或者全部可以经由ROM302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由CPU 301执行时,可以执行上文描述的方法200的一个或多个操作。备选地,在其他实施例中,CPU 301可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200的一个或多个动作。
本公开可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于执行本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (14)

1.一种用于教育可编程的人工智能机器人的控制方法,包括:
电子设备经由所述电子设备的触摸显示器显示用于机器人的编程界面;
所述电子设备接收用户在所述编程界面上输入的运动指令的列表,所述运动指令包括前进、后退、左转、右转中的任一项;
所述电子设备响应于确定接收到用户在所述编程界面输入的发送指令,将所述运动指令的所述列表发送给机器人;
所述电子设备将所述编程界面切换为机器人视角界面;以及
所述机器人基于所接收的所述运动指令的所述列表控制所述机器人的运动装置进行运动,所述运动装置包括4个马达和4个轮子;
所述机器人在运动过程中经由所述机器人的相机拍摄关于前方环境的视频;
所述机器人将关于所述前方环境的所述视频发送给所述电子设备;
所述电子设备在所述机器人视角界面上显示所接收的所述视频;
所述电子设备接收用户在所述视频的一帧中标记的跟踪目标;
所述电子设备将所述跟踪目标的图像发送给所述机器人;
所述机器人在拍摄的视频中跟踪所接收的跟踪目标,以预测所述跟踪目标的运动轨迹;以及
基于所述运动轨迹,控制所述运动装置跟随所述跟踪目标。
2.根据权利要求1所述的方法,其中所述机器人在拍摄的所述视频中跟踪所接收的所述跟踪目标包括:
所述机器人从所述跟踪目标的图像中获取127x127x3的目标图像;
所述机器人从所述拍摄的视频的视频帧中获取255x255x3的待搜索图像;
所述机器人将127x127x3的目标图像和255x255x3的待搜索图像输入到相同的神经网络模型中,得到15x15x256的目标图像的特征图
Figure FDA0002395563750000022
和31x31x256的待搜索图像的特征图
Figure FDA0002395563750000023
所述机器人对目标图像的特征图
Figure FDA0002395563750000024
和待搜索图像的特征图
Figure FDA0002395563750000025
进行卷积,得到17x17x256的响应得分图,响应得分图的每个像素值就代表了待搜索图像中每个位置与目标图像的相似程度,像素值越高,证明两者越相似;以及
所述机器人将像素值最大的位置乘以预定步长即可得到跟踪目标的当前位置。
3.根据权利要求2所述的方法,其中神经网络模型是通过以下过程训练的:
利用正负样本来训练所述神经网络模型,训练时采用所有候选位置的平均损失来表示,公式如下:
Figure FDA0002395563750000021
其中D表示最后得到的响应得分图,u表示响应图得分中的所有位置,其中l(y,v)=log(1+exp(-yv)),其中y∈(+1,-1)表示真值,v表示样本–搜索图像的实际得分,正样本的概率为sigmoid函数,负样本的概率为1-sigmoid函数;以及
通过随机梯度下降最小化所述平均损失来确定所述神经网络模型中的参数。
4.根据权利要求1所述的方法,还包括:
所述机器人响应于确定在所述拍摄的视频中未跟踪到所述跟踪目标,识别所述跟踪目标;
确定识别出的所述跟踪目标是否为狗;
如果确定识别出的所述跟踪目标为狗,则获取周围环境中的声音;
在所获取的所述声音中识别狗的叫声;
如果在所述声音中识别出狗的叫声,则确定所述狗的所述叫声的方位;以及
控制所述机器人的所述运动装置转向所确定的所述方位,以便所述机器人的相机拍摄到包含狗的视频。
5.根据权利要求1所述的方法,还包括:
所述机器人响应于确定在所述拍摄的视频中未跟踪到所述跟踪目标,转动所述机器人的可转动相机;以及
在转动所述机器人的所述可转动相机的同时,捕获关于周围环境的视频,以便重新跟踪所述跟踪目标。
6.根据权利要求1所述的方法,还包括:
所述机器人在拍摄的视频中识别障碍物;
所述机器人计算以下公式:
F=Fatt+Frep
Fatt=-katt(q-qg);
Figure FDA0002395563750000031
其中,Fatt和Frep表示所述机器人受到的引力和斥力,F为引力和斥力的合力,krep和katt为正的比例因子,q为所述机器人的当前位置,qg为跟踪目标所在位置,qo为障碍物所在位置,ρ(q)为所述机器人的所述当前位置距离所述障碍物所在位置的欧式距离;
所述机器人基于所述合力F的方向和大小,控制所述机器人的所述运动装置。
7.根据权利要求6所述的方法,其中基于所述合力F的方向和大小,控制所述机器人的所述运动装置包括:
所述机器人控制所述机器人的所述运动装置朝向所述合力F的所述方向运动;以及
所述机器人控制所述机器人的所述运动装置按照以下速度运动:
V*(1-cos(a)),其中a为所述斥力Frep与所述机器人的当前运动方向之间的夹角,V为所述机器人的最大直线速度。
8.一种教育可编程的人工智能机器人系统,包括电子设备和机器人,
所述电子设备包括第一处理器、与所述第一处理器耦合的第一存储器、触摸显示屏、第一通信模块,所述第一存储器存储用于由所述第一处理器执行的第一指令,所述第一指令当由所述第一处理器执行时,使得所述电子设备执行以下步骤:
经由所述触摸显示器显示用于机器人的编程界面;
接收用户在所述编程界面上输入的运动指令的列表,所述运动指令包括前进、后退、左转、右转中的任一项;
响应于确定接收到用户在所述编程界面输入的发送指令,将所述运动指令的所述列表发送给所述机器人;
将所述编程界面切换为机器人视角界面;
所述机器人包括第二处理器、与所述第二处理器耦合的第二存储器、第二通信模块、相机、麦克风和运动装置,所述运动装置包括4个马达和4个轮子,所述第二存储器存储用于由所述第二处理器执行的第二指令,所述第二指令当由所述第二处理器执行时,使得所述机器人执行以下步骤:
基于所接收的所述运动指令的所述列表控制所述机器人的运动装置进行运动;
在运动过程中经由所述相机拍摄关于前方环境的视频;
将关于所述前方环境的所述视频发送给所述电子设备;
所述第一指令当由所述第一处理器执行时,还使得所述电子设备执行以下步骤:
在所述机器人视角界面上显示所接收的所述视频;
接收用户在所述视频的一帧中标记的跟踪目标;
将所述跟踪目标的图像发送给所述机器人;
所述第二指令当由所述第二处理器执行时,还使得所述机器人执行以下步骤:
在拍摄的视频中跟踪所接收的跟踪目标,以预测所述跟踪目标的运动轨迹;以及
基于所述运动轨迹,控制所述运动装置跟随所述跟踪目标。
9.根据权利要求8所述的系统,其中在拍摄的所述视频中跟踪所接收的所述跟踪目标包括:
从所述跟踪目标的图像中获取127x127x3的目标图像;
从所述拍摄的视频的视频帧中获取255x255x3的待搜索图像;
将127x127x3的目标图像和255x255x3的待搜索图像输入到相同的神经网络模型中,得到15x15x256的目标图像的特征图
Figure FDA0002395563750000052
和31x31x256的待搜索图像的特征图
Figure FDA0002395563750000053
对目标图像的特征图
Figure FDA0002395563750000054
和待搜索图像的特征图
Figure FDA0002395563750000055
进行卷积,得到17x17x256的响应得分图,响应得分图的每个像素值就代表了待搜索图像中每个位置与目标图像的相似程度,像素值越高,证明两者越相似;以及
将像素值最大的位置乘以预定步长即可得到跟踪目标的当前位置。
10.根据权利要求9所述的系统,其中神经网络模型是通过以下过程训练的:
利用正负样本来训练所述神经网络模型,训练时采用所有候选位置的平均损失来表示,公式如下:
Figure FDA0002395563750000051
其中D表示最后得到的响应得分图,u表示响应图得分中的所有位置,其中l(y,v)=log(1+exp(-yv)),其中y∈(+1,-1)表示真值,v表示样本–搜索图像的实际得分,正样本的概率为sigmoid函数,负样本的概率为1-sigmoid函数;以及
通过随机梯度下降最小化所述平均损失来确定所述神经网络模型中的参数。
11.根据权利要求8所述的系统,其中所述第二指令当由所述第二处理器执行时,还使得所述机器人执行以下步骤:
响应于确定在所述拍摄的视频中未跟踪到所述跟踪目标,识别所述跟踪目标;
确定识别出的所述跟踪目标是否为狗;
如果确定识别出的所述跟踪目标为狗,则获取周围环境中的声音;
在所获取的所述声音中识别狗的叫声;
如果在所述声音中识别出狗的叫声,则确定所述狗的所述叫声的方位;以及
控制所述机器人的所述运动装置转向所确定的所述方位,以便所述机器人的相机拍摄到包含狗的视频。
12.根据权利要求8所述的系统,其中所述第二指令当由所述第二处理器执行时,还使得所述机器人执行以下步骤:
响应于确定在所述拍摄的视频中未跟踪到所述跟踪目标,转动所述机器人的相机;以及
在转动所述机器人的所述相机的同时,捕获关于周围环境的视频,以便重新跟踪所述跟踪目标。
13.根据权利要求8所述的系统,其中所述第二指令当由所述第二处理器执行时,还使得所述机器人执行以下步骤:
在拍摄的视频中识别障碍物;
计算以下公式:
F=Fatt+Frep
Fatt=-katt(q-qg);
Figure FDA0002395563750000061
其中,Fatt和Frep表示所述机器人受到的引力和斥力,F为引力和斥力的合力,krep和katt为正的比例因子,q为所述机器人的当前位置,qg为跟踪目标所在位置,qo为障碍物所在位置,ρ(q)为所述机器人的所述当前位置距离所述障碍物所在位置的欧式距离;
基于所述合力F的方向和大小,控制所述运动装置。
14.根据权利要求13所述的系统,其中基于所述合力F的方向和大小,控制所述机器人的所述运动装置包括:
控制所述运动装置朝向所述合力F的所述方向运动;以及
控制所述运动装置按照以下速度运动:
V*(1-cos(a)),其中a为所述斥力Frep与所述机器人的当前运动方向之间的夹角,V为所述机器人的最大直线速度。
CN202010130138.9A 2020-02-24 2020-02-24 一种教育可编程的人工智能机器人系统及控制方法 Withdrawn CN111354241A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010130138.9A CN111354241A (zh) 2020-02-24 2020-02-24 一种教育可编程的人工智能机器人系统及控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010130138.9A CN111354241A (zh) 2020-02-24 2020-02-24 一种教育可编程的人工智能机器人系统及控制方法

Publications (1)

Publication Number Publication Date
CN111354241A true CN111354241A (zh) 2020-06-30

Family

ID=71197300

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010130138.9A Withdrawn CN111354241A (zh) 2020-02-24 2020-02-24 一种教育可编程的人工智能机器人系统及控制方法

Country Status (1)

Country Link
CN (1) CN111354241A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112317164A (zh) * 2020-10-29 2021-02-05 北京曲线智能装备有限公司 一种喷涂机器人轨迹控制方法、装置及电子设备
CN113910267A (zh) * 2021-08-30 2022-01-11 淄博师范高等专科学校 一种机器人系统及控制方法
KR20220083038A (ko) * 2020-12-11 2022-06-20 (주)프로보에듀 코딩 학습교구

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112317164A (zh) * 2020-10-29 2021-02-05 北京曲线智能装备有限公司 一种喷涂机器人轨迹控制方法、装置及电子设备
KR20220083038A (ko) * 2020-12-11 2022-06-20 (주)프로보에듀 코딩 학습교구
CN113910267A (zh) * 2021-08-30 2022-01-11 淄博师范高等专科学校 一种机器人系统及控制方法

Similar Documents

Publication Publication Date Title
CN111354241A (zh) 一种教育可编程的人工智能机器人系统及控制方法
CN109614613B (zh) 图像的描述语句定位方法及装置、电子设备和存储介质
WO2018102717A1 (en) Determining structure and motion in images using neural networks
CN111694429A (zh) 虚拟对象驱动方法、装置、电子设备及可读存储
CN110348418B (zh) 目标跟踪方法及装置、智能移动设备和存储介质
WO2021035833A1 (zh) 姿态预测方法、模型训练方法及装置
WO2021218282A1 (zh) 场景深度和相机运动预测方法及装置、设备、介质和程序
CN111783986A (zh) 网络训练方法及装置、姿态预测方法及装置
CN111462238B (zh) 姿态估计优化方法、装置及存储介质
KR102572986B1 (ko) 사용자 지정 초기화 포인트에 기반한 개체 추적
US10200618B2 (en) Automatic device operation and object tracking based on learning of smooth predictors
CN112991381A (zh) 图像处理方法及装置、电子设备和存储介质
CN113052874B (zh) 目标跟踪方法及装置、电子设备和存储介质
US20210158031A1 (en) Gesture Recognition Method, and Electronic Device and Storage Medium
CN113781518A (zh) 神经网络结构搜索方法及装置、电子设备和存储介质
CN111311588B (zh) 重定位方法及装置、电子设备和存储介质
CN116518973A (zh) 一种适用于现实室内环境的机器人视觉语言导航方法
CN113910267A (zh) 一种机器人系统及控制方法
CN114359808A (zh) 目标检测方法及装置、电子设备和存储介质
CN110443363B (zh) 图像特征学习方法及装置
CN109543544B (zh) 跨光谱图像匹配方法及装置、电子设备和存储介质
Gatesichapakorn et al. ROS-based mobile robot pose planning for a good view of an onboard camera using costmap
CN111199667A (zh) 一种智能教育机器人系统及控制方法
US20240005530A1 (en) Locked-on target based object tracking method and portable terminal therefor
CN112731919B (zh) 一种基于人群密度估计的指引机器人方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication
WW01 Invention patent application withdrawn after publication

Application publication date: 20200630