CN105912980B - 无人机以及无人机系统 - Google Patents
无人机以及无人机系统 Download PDFInfo
- Publication number
- CN105912980B CN105912980B CN201610199878.1A CN201610199878A CN105912980B CN 105912980 B CN105912980 B CN 105912980B CN 201610199878 A CN201610199878 A CN 201610199878A CN 105912980 B CN105912980 B CN 105912980B
- Authority
- CN
- China
- Prior art keywords
- unmanned plane
- target
- processor
- rgbd
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/08—Control of attitude, i.e. control of roll, pitch, or yaw
- G05D1/0808—Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
Abstract
本发明公开了一种无人机以及无人机系统。无人机包括:RGBD相机、飞行控制器以及处理器,处理器与RGBD相机以及飞行控制器连接,其中:飞行控制器用于控制无人机的飞行姿态;RGBD相机,用于在飞行过程中实时获取目标的RGBD图像信息,RGBD图像中每个像素点包括R、G、B像素信息和对应的深度信息;处理器用于实时对R、G、B像素信息进行处理,并获取目标的轮廓以用于识别目标。通过以上方式,本发明能够在无人机则直接进行RGBD图像的处理,实现高效的数据传输。
Description
技术领域
本发明涉及无人机领域,特别是涉及一种无人机以及无人机系统。
背景技术
随着微电子技术和计算机视觉技术的不断发展,使得目标跟踪得以实时实现,尤其是将目标跟踪装置安装到无人机上,可以实现对目标的灵活动态跟踪,在军事和民用领域具有较高的使用价值。
传统无人机的目标跟踪技术中,通常使用激光、雷达和超声等主动环境感知方法,其缺点为并不能直接获得目标的未知信息,并且多个无人机检测时会相互干扰,更为弊端的是在战场环境中隐蔽性差,被敌方发现的概率大的增加。
现有的无人机主要致力于增大航时,提高速度,隐身机体,缩小体积,高度智能,加载武器,增强传输可靠性和通用性,使无人机能够按照指令或者预先编制的程序来完成预定的作战任务。而现有的无人机上的相机一般应用2D相机来拍摄2D图像,图像中每个像素点只包括红(Red,R)、绿(Green,G)、蓝(Blue,B)像素,不包括深度信息D。如此现有的无人机无法根据拍摄2D图像来自动实现目标跟踪拍摄等。
发明内容
本发明实施例提供了一种无人机以及无人机系统,能够在无人机则直接进行RGBD图像的处理,实现高效的数据传输。
本发明提供一种无人机,无人机包括RGBD相机、飞行控制器以及处理器,处理器与RGBD相机以及飞行控制器连接,其中:飞行控制器用于控制无人机的飞行姿态和/或拍摄模式;RGBD相机,用于在飞行过程中实时获取目标的RGBD图像,其中RGBD图像中每个像素点包括R、G、B像素信息和深度信息;
处理器,用于实时对R、G、B像素信息和/或对应的深度信息进行处理,并获取目标的轮廓以用于识别目标。
其中,处理器根据RGBD图像中像素点的深度信息获取目标至RGBD相机的实时距离;飞行控制器根据实时距离调整无人机的飞行姿态。
其中,RGBD相机还用于拍摄用户输入的不同手势,处理器根据不同手势产生对应的控制指令,飞行控制器根据控制指令选择拍摄模式。
其中,无人机还包括语音获取模块,语音获取模块用于获取用户输入的语音,处理器还根据用户输入的语音产生控制指令,飞行控制器根据控制指令选择拍摄模式。
其中,处理器利用深度信息去除背景,提取出目标。
其中,处理器根据R、G、B像素信息和对应的深度信息识别目标特征。
其中,处理器根据R、G、B像素信息和对应的深度信息识别目标为刚体或非刚体。
其中,处理器还利用RGB色彩信息对目标的进行特征识别。
其中,目标为特定的人体,处理器根据R、G、B像素信息检测人体的脸部特征以识别人体。
其中,无人机还包括语音传感器,用于获取目标的语音信息,处理器进一步根据多帧RGBD图像以及语音信息进行身份识别,并进行目标的动态行为分析。
其中,无人机还包括无线通讯单元,与处理器连接,用于实现与远端服务器进行通讯,其中远端服务器包括云端服务器和/或地面终端服务器。
本发明提供一种无人机系统,包括前述的无人机,以及远端服务器,远端服务器用于接收无人机发送的RGBD图像以用于对RGBD进行处理;其中远端服务器包括云端服务器和/或地面终端服务器。
通过上述方案,本发明的有益效果是:飞行控制器用于控制无人机的飞行姿态和/或拍摄模式;通过RGBD相机在无人机飞行过程中实时获取目标的RGBD图像,RGBD图像中每个像素点包括R、G、B像素信息和对应的深度信息;处理器实时对R、G、B像素信息和/或对应的深度信息进行处理,并获取目标的轮廓以用于以识别目标,能够在无人机则直接进行RGBD图像的处理,实现高效的数据传输。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。其中:
图1是本发明第一实施例的无人机的结构示意图;
图2a是本发明第二实施例的无人机的结构示意图;
图2b是图2a中的无人机剖面的结构示意图;
图2c是图2a中的无人机的RGBD相机旋转的结构示意图;
图3是本发明第三实施例的无人机的结构示意图;
图4是本发明实施例的三维传感芯片的结构示意图;
图5是本发明第一实施例的无人机系统的结构示意图;
图6是本发明第二实施例的无人机系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性的劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1是本发明第一实施例的无人机的结构示意图。如图1所示,无人机(unmannedair vehicle,UAV)10包括:RGBD相机11、飞行控制器12以及处理器13。处理器13与RGBD相机11以及飞行控制器12与处理器13连接。飞行控制器12用于控制所述无人机的飞行姿态和/或拍摄模式。RGBD相机11用于在无人机10飞行过程中实时获取目标的RGBD图像。RGBD图像中每个像素点包括R、G、B像素信息和对应的深度信息。其中像素点的深度信息构成场景的二维像素矩阵,简称深度图。每个像素点与其在场景中的位置相对应,并具有表示从某个参考位置到其场景位置的距离的像素值。换言之,深度图具有图像的形式,像素值指出场景的物体的形貌信息,而不是亮度和/或颜色。处理器13用于实时对R、G、B像素信息和/或对应的深度信息进行处理,并获取所述目标的轮廓以用于识别目标。
在本发明实施例中,处理器13根据RGBD图像中像素点的深度信息获取目标至RGBD相机的实时距离;飞行控制器根据实时距离调整无人机10的飞行姿态。具体地,飞行控制器12可以接收通过遥控器,语音、手势等控制单元发出的指令,并根据指令调整无人机10的飞行姿态。其中,无人机10的飞行姿态包括起飞、悬停、俯仰、滚转、偏航、降落的至少之一。
如图2a所示,无人机20可以包括至少两个RGBD相机210、211,并且还包括飞行组件24和云台25(图未示)。RGBD相机210、211设置在云台25上,云台25用于测量载体的姿态变化做出反应以稳定云台上的RGBD相机210、111,以方便RGBD相机210、211对目标进行跟踪拍摄。云台25上设置有旋转杆26,RGBD相机210、211沿旋转杆26的竖直方向设置。无人机20的剖面图如图2b所示,在无人机20内部设置电路板,处理器23设置在电路板上。飞行组件24可以包括旋翼或固定翼,以用于确保无人机的正常飞行以及飞行过程中飞行姿态的稳定。优选地,以四旋翼无人机为例,四个螺旋桨呈十字形交叉结构,相对的四旋翼具有相同的旋转方向,分两组,两组的旋转方向不同。与传统的直升机不同,四旋翼飞行器只能通过改变螺旋桨的速度来实现各种动作。无人机20中RGBD相机210、211是相互独立设置的,即RGBD相机210、211相互独立进行拍摄,相互不受影响。图2c为无人机20中RGBD相机211旋转60度的结构示意图。在本发明实施例中,无人机20的RGBD相机数量不限于2台,具体可以延长旋转杆26,在其长度方向上增加RGBD相机。当然在本发明的其他实施例中,也可以将至少两个RGBD相机水平独立地设置在云台25上,如可以在云台25上设置多个旋转杆以分别设置RGBD相机。
在本发明实施例中,处理器13根据各像素点的深度信息可以识别目标的轮廓,进而可识别目标的特征。在RGBD图像中,深度信息与RGB像素信息一一对应,处理器13还可利用RGB像素信息对目标进行特征识别,识别物体的轮廓、色彩信息,提取更多目标的特征,提高目标的识别准确率。识别方法不限于常用的训练方法,如机器学习,深度学习等算法。例如利用RGB信息,对动态生物目标进行肤色识别,或符合人体肤色特征,则识别目标是否为人体,否则为非人体。处理器13还可以兼容处理声音、红外传感器等其他传感器的信息,用于识别和检测目标及其特征,提高准确率。具体地,处理器13可以应用彩色图像分割方法,利用背景纹理分割出背景图像,然后利用原始图像减去背景图像得到目标图像。当然在本发明其他实施例中,也可以应用其他方法识别目标。目标为特定的人体。
在本发明实施例中,处理器13根据R、G、B像素信息和对应的深度信息识别目标为刚体或非刚体。具体可以利用深度信息对目标的轮廓进行识别,辨别轮廓为刚体还是非刚体,辨别出目标为动态生物(如人体)还是非刚体的物体。若为刚体则识别为物体,以及目标是否发生主动的运动。其中刚体是指三维结构不会随着运动发生改变的物体,而非刚体则相反,其三维结构会随着运动发生改变。
如果识别到目标为人体,则处理器13标识出人体躯干、四肢、手部、脸部等人体部位,提取出身高、臂长、肩宽、手掌大小、脸部大小、脸部表情特征等信息。由于人体是非刚体,在较长时间的跟踪拍摄过程中,人体不可能保持同一个姿势,容易发生非刚性变化,需要进行模型重建,避免数据的非刚性变化。处理器13首先对RGBD相机11拍摄的目标的深度图像去除背景部分,由于背景像素点的深度值比人体部位的深度值大,处理器13可以选择一个适当的阈值,当像素点的深度值大于这个阈值时,将此像素点标记为背景点,从深度图像中去除,得到人体点云数据。处理器13再将点云数据转化为三角网格数据,具体可以利用深度图像上的四领域作为连接的拓扑关系,点云数据根据该拓扑关系生成三角网格数据。处理器13进一步对点去数据进行去噪处理,具体可以将每个视角的多帧点云数据分别求和平均去除大噪声,再用双边滤波去除微小噪声。处理器13最后将多个视角的三角网格数据拼接在一起形成一个整体,以用于进行模型重建。处理器13可以采用迭代算法重建三维人体模型。在迭代算法中,先找出标准模型与采集到的数据之间的对应点,以用作后面的变化约束点。然后将约束点作为能量项,最小化目标函数,从而将标准模型变形到解决扫描数据,最后求出变形后的标准模型在人体空间中的参数,计算得到的人体参数用于下一次迭代中,如此进行多次迭代后完成三维人体模型的重建。进而可以标识出人体躯干、四肢、手部、脸部等人体部位,提取出身高、臂长、肩宽、手掌大小、脸部大小、脸部表情特征等信息,也可以进一步区分目标人群中各人的特征,并对其特征进行标记,认证身份,区分目标为老人、小孩、青年人。
RGBD相机11根据处理器13重建的人体模型跟踪人体目标,及人体各部位的运动轨迹。处理器13进而用以分析目标的姿态动作,并根据目标的姿态动作、行为模式等分析提取身份信息。具体地,无人机还包括语音传感器,用于获取目标的语音信息。处理器13进一步根据多帧RGBD图像以及语音信息进行身份识别,并进行目标的动态行为分析。处理器13进而可以识别目标的动作速度,可以判断到目标运动的加速度是否大于一定阈值,并在目标运动的加速度大于一定阈值时进行预警提示。例如,将无人机应用于安防系统中,处理器13根据RGBD相机获取的RGBD图像判断到一个疑似恐怖分子发生突然加速的动作速率时,向系统提出警示。又比如处理器13根据RGBD相机获取的RGBD图像判断到老人或小孩跌倒,则可以对其动作做出判断,并向系统反馈。
如果识别到目标为动物,则处理器13可以利用类似人体目标的RGBD识别方法,及RGBD图像序列目标跟踪方法进行识别和目标特征识别提取,在此不再赘述。
如果识别到目标为非生物物体,处理器13利用深度信息D识别目标的轮廓尺寸。具体地,处理器13可以分割深度图以找出目标的轮廓。处理器13进而利用目标的RGB信息,进行物体检测,识别其色彩,或二维码等信息。处理器13进一步根据连续多帧RGBD图像进行目标的动态行为分析。以汽车为例,处理器可以根据连续多帧RGBD图像分析汽车是否偏离原来的轨道,或运行速度是否过快,并在偏离原来的轨道或运行速度是否过快时进行报警提示。
在本发明实施例中,目标可以为多个。即无人机10可以同时对多个目标进行识别。此时,在无人机10飞行过程中,如果需要识别的多个目标相距不远,RGBD相机可以在拍摄的一个RGBD图像中同时包括该多个目标。如果多个目标之间相距甚远,RGBD相机无法保证同一个RGBD图像中包括多个目标,则RGBD相机进行位移或旋转以能够依次拍摄该多个目标。无人机10还包括存储单元,用于RGBD相机11拍摄的RGBD图像和2D视频、以及处理器13初步处理的目标3D模型、3D视频等。其中2D视频是由RGBD相机11对某地目标连续拍摄的RGBD图像构成的RGBD图像序列构成。当然也可以通过多个RGBD相机11从对不同的目标分别进行拍摄。单个RGBD相机11在拍摄的过程中,RGBD相机11的移动可以认为是视角的移动,拍摄时如果RGBD相机11进行水平移动,则能够拍摄到更大的场景。RGBD相机11也可以围绕目标旋转进行拍摄,以拍摄到同一目标的不同视角的RGBD图像。
在本发明实施例中,由于无人机10内部的存储单元的存储容量有限,不可能存储大容量的数据,因此参见图3,无人机10还包括无线通讯单元14。无线通讯单元14与处理器13连接,用于实现与远端服务器进行通讯。其中远端服务器包括云端服务器和/或地面终端服务器。远端服务器用于处理通过无线通讯单元14传输的RGBD图像序列,并处理高清RGBD,生成高清高分辨率的目标3D模型,目标3D视频或3D动画等。RGBD获得的视频包括2D视频和RGBD图像序列,如果2D视频和RGBD图像序列的数据量太大,则无线通讯单元14可以将2D视频和RGBD图像序列发送至远端服务器,以使得远端服务器根据2D视频和RGBD图像序列生成3D视频,如此能够处理大数据的RGBD图像序列,方便飞行控制器12继续对目标进行拍摄。无线通讯单元14还用于实时将处理器13初步处理的目标3D模型、3D视频等传输至远端服务器。
在本发明实施例中,RGBD相机11还用于拍摄用户输入的不同手势,处理器13根据不同手势产生对应的控制指令,飞行控制器12根据控制指令选择拍摄模式以识别目标。其中,拍摄模式包括无人机10启停、目标类型选定以及跟踪拍摄方式选定,其中目标类型包括人体。手势包括五指张合手势,五指张合手势包括五指张开手势和五指闭合手势。用户的手势还可以包括但不限于抓握、自然抬手、前推、上、下、左右摆手。不同的手势对应不同的控制指令,如自然抬手表示启动无人机10,上、下、左右摆手表示调整无人机10飞行方向的控制指令等,在此不再详述。
在本发明实施例中,无人机10还包括语音获取模块,语音获取模块用于获取用户输入的语音,处理器13还根据用户输入的语音产生控制指令,飞行控制器12根据控制指令选择拍摄模式以识别目标。具体地,遥控装置进行人脸识别并进行声纹识别。人脸识别时,人脸数据库中预先保存有人脸信息(例如通过红外信号检测人脸图像并留存人眼间隔、人眼长度等生理特征),在采集时,通过红外信号采集到人脸数据与人脸数据库中的数据作比较。如果通过人脸识别,则对接收到的语音进一步判断是否为具有语音控制的权限的语音,确定该语音所对应的权限,并进行语音识别。遥控装置进一步根据人脸识别的结果,判断是否接收语音。每位具有发出语音控制指令的人员均上传一段训练语音,进而得到声纹库。进行声纹比较时,语音指令发出者发出语音指令,该语音指令被与声纹数据库进行声纹对比。通过声纹和人脸信息查找声纹数据库和人脸数据库中对应的身份信息,从而确认其权限。遥控装置进一步将语音指令发送到无人机的语音获取模块。语音获取模块将语音指令的安全性验证,并在通过验证后处理器13根据语音指令产生控制指令,传送到无人机的飞行控制器12。飞行控制器12将接收到的指令的代码查询对应的指令所需的运行时间,然后在该条语音指令(实际上为代码)之后添加该运行时间。飞行控制器12根据控制指令选择拍摄模式控制无人机10的飞行姿态,如飞行速度、飞行高度、飞行轨迹与周围障碍物之间的距离等。
在本发明实施例中,处理器13、无线通讯单元14以及存储单元都集成在三维传感芯片中。参见图4,三维传感芯片包括DEPTH ENGINE模块、REGISTER PROCESSOR模块、控制器模块、寄存器模块、RGB CMOS驱动模块、IR CMOS驱动模块、AXI总线接口模块、APB总线接口模块、AXI/APB桥模块和外部存储驱动模块、开关模块、I2S接口模块、USB接口模块和电源管理模块。
DEPTH ENGINE模块的信号输入端和IR CMOS驱动模块连接,DEPTH ENGINE模块的控制信号端和控制器模块连接,DEPTH ENGINE模块的数据端和AXI总线接口模块连接,REGISTER PROCESSOR模块的信号输入端和RGB CMOS驱动模块连接,REGISTER PROCESSOR模块的控制信号端和控制器模块连接,控制器杠杆懒觉分别与寄存器模块、AXI总线接口模块连接,寄存器模块还和AXI总线接口模块连接,AXI总线接口模块通过AXI/APB桥模块与APB总线接口模块连接,RGB CMOS驱动模块还分别与AXI总线接口模块连接,外部存储驱动模块分别与AXI总线接口模块、APB总线接口模块连接。
外部存储驱动模块包括与外部Flash存储器连接的Flash存储驱动模块、与外部DDR3存储器连接的DDR3存储驱动模块。当处理光学三维数据时,控制器模块发出第一指令以便同时接通外部Flash存储器和Flash存储驱动模块的连接,外部DDR3存储器器模块发出第二指令以便接通外部Flash存储器和Flash存储驱动模块的连接,用以处理非光学三维数据,并断开外部DDR3存储器和DDR3存储驱动模块的连接。
DEPTH ENGINE模块为深度引擎电路,REGISTER PROCESSOR模块为处理缓存电路,RGB CMOS驱动模块为红绿蓝感光传感器驱动电路,IR CMOS驱动模块为红外感光传感器驱动电路,AXI总线接口模块为符合AXI总线协议的AXI接口电路,APB总线接口模块为符合APB总线协议的APB接口电路,AXI/APB桥模块为AXI总线协议和APB总线协议相互转换的AXI/APB桥模块。上述各种电路,本领域技术人员可以根据公知常识,在本技术方案的技术背景下,选用不同的电路连接方式和不同参数的元器件以实现各电路对应的功能,此处不再举例赘述。
RGB CMOS驱动模块的信号输入端与外部的彩色摄像机连接。I R CMOS驱动模块的信号输入端与外部的红外摄像机连接。在处理光学三维数据时,同时与外部的Flash存储器和DDR3存储器连接,以便快速处理高精度的光学三维数据,处理获得的光学三维深度图像的分辨率高且延迟短。
开关模块和控制器模块连接,当开关模块通过开关器件闭合或通过控制器模块发出第三指令闭合,则接通外部DDR3存储器和DDR3存储驱动模块的连接,当开关模块通过开关器件或通过控制器模块发出第四指令断开,则断开外部DDR3存储器和DDR3存储驱动模块的连接。开关模块可以配合软开关、如程序指令可硬开关,如单刀双掷开关器件使用,以实现开关模块闭合或断开的效果,具体形式根据实际应用的场合确定。
I2S接口模块的信号输入端与外部的音频传感器连接,I2S接口模块的信号输出端分别与AXI总线接口模块、APB总线接口模块连接。I2S接口模块即集成电路内置音频总线电路,是为数字音频设备之间的音频数据传输而制定的一种总线标准,该总线采用了沿独立的导线传输时钟与数据信号的设计,通过将数据和时钟信号分享,避免了因时差诱发的失真,专责于音频设备之间的数据传输。
USB接口模块的数据输入端与AXI总线接口模块连接,USB接口模块的数据输出端和外部的图像处理器连接。其中,USB接口模块包括USB3.0控制器模块和USB接口,USB3.0控制器模块和USB接口连接。USB接口模块是通用串行总线电路,是一种快速、双向、可同步传输、廉价并可进行热拔插的串行接口电路。USB接口模块使用方便,可以连接多个不同的设备。USB3.0控制器模块需要两个信道的新实体层来为数据传输分流,以达到预期的高速率,所采用的封包路由(Packet-routing)技术,将只在终端设备需要传送数据传输时才允许数据传输。该规格支持单设备的多个数据流,并可为每个数据流保留各自的优先权。
电源管理模块和APB总线接口模块连接。电源管理模块主要负责识别待供电电路的供电幅值,以便产生相应的短矩波推动后级电路进行功率输出。常用电源管理芯片有HIP6301、IS6537、RT9237、ADP3168、KA7500、TL494等型号。
RGB CMOS驱动模块包括RGB CMOS接口,IR CMOS驱动模块包括IR CMOS接口,Flash存储驱动模块包括Flash接口,DDR3存储驱动模块包括DDR3接口。上述RGB CMOS接口、IRCMOS接口、Flash接口和DDR3接口皆集成于三维传感芯片的硬件结构实现,体积小巧。
参见图5,本发明还提供一种无人机系统,无人机系统包括前述的无人机10以及远端服务器20。远端服务器20用于接收无人机10发送的RGBD图像以用于对RGBD进行处理;其中远端服务器20包括云端服务器21和/或地面终端服务器22。地面终端服务器22也即上位机。具体地,可以在无人机10上设置USB等接口与地面终端服务器22进行通讯,在无人机10上设置无线通讯单元与云端服务器21进行通讯。在RGBD图像序列和/或2D/3D视频数据量庞大时,云端服务器21和/或地面终端服务器22接收无人机10发送的RGBD图像和/或2D/3D视频以进行进一步的处理。无人机10包括多个RGBD相机时,可以分别将多个RGBD相机拍摄的RGBD图像传输至远端服务器20,远端服务器20可以根据多个RGBD相机拍摄的RGBD图像实时输出3D视频。
图6是本发明第二实施例的无人机系统的结构示意图。如图5所示,无人机系统包括至少一个无人机10,远端服务器20以及手势输出端40。远端服务器20用于接收无人机10发送的RGBD图像以用于对RGBD进行处理;其中远端服务器20包括云端服务器21和/或地面终端服务器22。无人机10通过RGBD相机获取手势输出端30输出的手势,并根据获取的手势生成控制指令,控制无人机10的飞行姿态和/或拍摄模式以对目标进行跟踪拍摄。手势输出端30为人体,且目标40也为人体时,两者可以是相同的,此时无人机中包括至少两个RGBD相机,一个RGBD相机用于获取手势,一个RGBD相机用于拍摄目标。手势输出端30和目标40也可以不相同,此时可以是一个RGBD相机进行拍摄,手势输出端30和目标40在同一个视野中。无人机系统包括多个无人机时,手势输出端40可以同时控制多台无人机。具体可以用手势激活其中一个或多个无人机,然后对激活的无人机进行手势控制,当然也可以用一个手势激活全部的无人机,此时手势输出端输出一个手势即可对所有激活的无人机进行同步控制。
综上所述,本发明通过RGBD相机在飞行过程中实时获取目标的RGBD图像信息,RGBD图像信息包括R、G、B像素信息和对应的深度信息;处理器实时对R、G、B像素信息进行处理,以识别目标,并根据目标对应的深度信息获取与目标的实时距离;飞行控制器根据实时距离调整无人机的飞行姿态和/或拍摄模式,使得RGBD相机对目标进行跟踪拍摄,如此在无人机则直接进行RGBD图像的处理,实现高效的数据传输。
以上所述仅为本发明的实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (12)
1.一种无人机,其特征在于,所述无人机包括RGBD相机、飞行控制器以及处理器,所述处理器与所述RGBD相机以及所述飞行控制器连接,其中:
所述飞行控制器用于控制所述无人机的飞行姿态和/或拍摄模式;
所述RGBD相机,用于在所述无人机飞行过程中实时获取目标的RGBD图像,其中所述RGBD图像中每个像素点包括R、G、B像素信息和深度信息;
所述处理器,用于实时对所述R、G、B像素信息和/或对应的深度信息进行处理,并获取所述目标的轮廓以用于识别目标;
其中,所述处理器根据所述RGBD图像中像素点的深度信息获取所述目标至所述RGBD相机的实时距离;所述飞行控制器根据所述实时距离调整所述无人机的飞行姿态。
2.根据权利要求1所述的无人机,其特征在于,所述RGBD相机还用于拍摄用户输入的不同手势,所述处理器根据不同手势产生对应的控制指令,所述飞行控制器根据所述控制指令选择拍摄模式。
3.根据权利要求1所述的无人机,其特征在于,所述无人机还包括语音获取模块,所述语音获取模块用于获取用户输入的语音,所述处理器还根据用户输入的语音产生控制指令,所述飞行控制器根据所述控制指令选择拍摄模式。
4.根据权利要求1所述的无人机,其特征在于,所述处理器利用所述深度信息去除背景,提取出所述目标。
5.根据权利要求1所述的无人机,其特征在于,所述处理器根据所述R、G、B像素信息和对应的深度信息识别所述目标特征。
6.根据权利要求5所述的无人机,其特征在于,所述处理器根据所述R、G、B像素信息和对应的深度信息识别目标为刚体或非刚体。
7.根据权利要求1所述的无人机,其特征在于,所述处理器还利用RGB色彩信息对目标进行特征识别。
8.根据权利要求1所述的无人机,其特征在于,所述目标为特定的人体,所述处理器根据所述R、G、B像素信息检测所述人体的脸部特征以识别所述人体。
9.根据权利要求6所述的无人机,其特征在于,所述无人机还包括语音传感器,用于获取所述目标的语音信息,所述处理器进一步根据多帧所述RGBD图像以及所述语音信息进行身份识别,并进行目标的动态行为分析。
10.根据权利要求1所述的无人机,其特征在于,所述无人机还包括无线通讯单元,与所述处理器连接,用于实现与远端服务器进行通讯,其中所述远端服务器包括云端服务器和/或地面终端服务器。
11.一种无人机系统,其特征在于,所述系统包括如权利要求1-10所述的无人机,以及远端服务器,所述远端服务器用于接收所述无人机发送的所述RGBD图像以用于对所述RGBD进行处理;其中所述远端服务器包括云端服务器和/或地面终端服务器。
12.根据权利要求11所述的无人机系统,其特征在于,所述无人机系统还包括手势输出端,所述无人机获取所述手势输出端输出的手势,并根据获取的所述手势生成控制指令,控制所述无人机的飞行姿态和/或拍摄模式。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610199878.1A CN105912980B (zh) | 2016-03-31 | 2016-03-31 | 无人机以及无人机系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610199878.1A CN105912980B (zh) | 2016-03-31 | 2016-03-31 | 无人机以及无人机系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105912980A CN105912980A (zh) | 2016-08-31 |
CN105912980B true CN105912980B (zh) | 2019-08-30 |
Family
ID=56744750
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610199878.1A Active CN105912980B (zh) | 2016-03-31 | 2016-03-31 | 无人机以及无人机系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105912980B (zh) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106411389A (zh) * | 2016-09-14 | 2017-02-15 | 芜湖扬展新材料科技服务有限公司 | 一种无人机巡检数据链路通信系统 |
WO2018058264A1 (zh) * | 2016-09-27 | 2018-04-05 | 深圳市大疆创新科技有限公司 | 一种基于影像的控制方法、装置及飞行器 |
US20180365839A1 (en) * | 2016-09-27 | 2018-12-20 | SZ DJI Technology Co., Ltd. | Systems and methods for initialization of target object in a tracking system |
CN106275410B (zh) * | 2016-11-17 | 2018-11-23 | 湖南科瑞特科技有限公司 | 一种防风扰无人机 |
CN106529500A (zh) * | 2016-11-28 | 2017-03-22 | 中控智慧科技股份有限公司 | 一种信息处理方法和系统 |
CN107221327A (zh) * | 2017-05-23 | 2017-09-29 | 成都鼎智汇科技有限公司 | 无人机操纵权限辨识方法 |
CN107479574B (zh) * | 2017-08-17 | 2020-11-10 | 中国电子科技集团公司第二十九研究所 | 一种基于移动通信技术的无人机管控方法及装置 |
CN108780568A (zh) * | 2017-10-31 | 2018-11-09 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、装置及飞行器 |
CN108153325A (zh) * | 2017-11-13 | 2018-06-12 | 上海顺砾智能科技有限公司 | 智能无人机的控制方法及装置 |
CN107831791B (zh) * | 2017-11-17 | 2020-12-15 | 深圳意动航空科技有限公司 | 一种无人机的操控方法、装置、操控设备及存储介质 |
CN108052901B (zh) * | 2017-12-13 | 2021-05-25 | 中国科学院沈阳自动化研究所 | 一种基于双目的手势识别智能无人机远程操控方法 |
CN107958144A (zh) * | 2017-12-18 | 2018-04-24 | 王军 | 无人机身份识别系统、识别方法以及控制装置 |
CN108280395B (zh) * | 2017-12-22 | 2021-12-17 | 中国电子科技集团公司第三十研究所 | 一种对低小慢无人机飞控信号的高效识别方法 |
CN108346260A (zh) * | 2018-01-24 | 2018-07-31 | 上海歌尔泰克机器人有限公司 | 一种用于无人机的监控方法、装置、无人机及监控系统 |
CN109270564A (zh) * | 2018-10-23 | 2019-01-25 | 河南工业职业技术学院 | 一种高精度gnss测量装置及其测量方法 |
CN109920436A (zh) * | 2019-01-28 | 2019-06-21 | 武汉恩特拉信息技术有限公司 | 一种提供辅助服务的装置及方法 |
CN110160520A (zh) * | 2019-04-25 | 2019-08-23 | 林奎靖 | 一种基于无人机的呼叫导航系统及方法 |
CN110519564B (zh) * | 2019-08-12 | 2021-01-26 | 苏州凌犀物联网技术有限公司 | 基于智能服务平台的定制化智能制造信息交互系统及方法 |
CN112204567A (zh) * | 2019-09-17 | 2021-01-08 | 深圳市大疆创新科技有限公司 | 基于机器视觉的树木种类识别方法及装置 |
CN110703790A (zh) * | 2019-10-16 | 2020-01-17 | 一飞智控(天津)科技有限公司 | 基于云端大数据的无人机飞行安全保护方法及保护系统 |
CN112306096B (zh) * | 2020-11-04 | 2023-06-23 | 苏州臻迪智能科技有限公司 | 一种无人机自动跟随方法、系统、设备及存储介质 |
CN112783154A (zh) * | 2020-12-24 | 2021-05-11 | 中国航空工业集团公司西安航空计算技术研究所 | 一种多智能任务处理方法及系统 |
CN114671021B (zh) * | 2022-03-22 | 2023-04-07 | 东南大学 | 一种基于手势控制的无人机 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1916801A (zh) * | 2005-10-28 | 2007-02-21 | 南京航空航天大学 | 无人机自主着陆的合作目标识别方法 |
CN101567046A (zh) * | 2009-06-11 | 2009-10-28 | 北京航空航天大学 | 一种基于最小覆盖圆匹配的无人机目标识别方法 |
CN102779347A (zh) * | 2012-06-14 | 2012-11-14 | 清华大学 | 一种用于飞行器的目标跟踪与定位方法和装置 |
TW201339903A (zh) * | 2012-03-26 | 2013-10-01 | Hon Hai Prec Ind Co Ltd | 無人飛行載具控制系統及方法 |
CN103926933A (zh) * | 2014-03-29 | 2014-07-16 | 北京航空航天大学 | 一种无人飞行器室内同时定位与环境建模方法 |
CN104808799A (zh) * | 2015-05-20 | 2015-07-29 | 成都通甲优博科技有限责任公司 | 一种能够识别手势的无人机及其识别方法 |
-
2016
- 2016-03-31 CN CN201610199878.1A patent/CN105912980B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1916801A (zh) * | 2005-10-28 | 2007-02-21 | 南京航空航天大学 | 无人机自主着陆的合作目标识别方法 |
CN101567046A (zh) * | 2009-06-11 | 2009-10-28 | 北京航空航天大学 | 一种基于最小覆盖圆匹配的无人机目标识别方法 |
TW201339903A (zh) * | 2012-03-26 | 2013-10-01 | Hon Hai Prec Ind Co Ltd | 無人飛行載具控制系統及方法 |
CN102779347A (zh) * | 2012-06-14 | 2012-11-14 | 清华大学 | 一种用于飞行器的目标跟踪与定位方法和装置 |
CN103926933A (zh) * | 2014-03-29 | 2014-07-16 | 北京航空航天大学 | 一种无人飞行器室内同时定位与环境建模方法 |
CN104808799A (zh) * | 2015-05-20 | 2015-07-29 | 成都通甲优博科技有限责任公司 | 一种能够识别手势的无人机及其识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN105912980A (zh) | 2016-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105912980B (zh) | 无人机以及无人机系统 | |
CN105786016B (zh) | 无人机以及rgbd图像的处理方法 | |
CN205693767U (zh) | 无人机系统 | |
US11749124B2 (en) | User interaction with an autonomous unmanned aerial vehicle | |
CN105892474A (zh) | 无人机以及无人机控制方法 | |
CN105847684A (zh) | 无人机 | |
US11861892B2 (en) | Object tracking by an unmanned aerial vehicle using visual sensors | |
CN205453893U (zh) | 无人机 | |
CN109145680A (zh) | 一种获取障碍物信息的方法、装置、设备和计算机存储介质 | |
KR20190041504A (ko) | 딥 러닝 센서들을 갖는 증강 현실 디스플레이 디바이스 | |
CN109218619A (zh) | 图像获取方法、装置和系统 | |
Natarajan et al. | Hand gesture controlled drones: An open source library | |
WO2019006760A1 (zh) | 一种姿态的识别方法、设备及可移动平台 | |
US20200372715A1 (en) | Real-world object recognition for computing device | |
CN112198959A (zh) | 虚拟现实交互方法、装置及系统 | |
US20190378287A1 (en) | System and method for object recognition using depth mapping | |
CN112292690A (zh) | 增强现实深度手势网络 | |
CN111966217A (zh) | 基于手势和眼动的无人机控制方法和系统 | |
CN106471523A (zh) | 使用红外成像的颜色标识 | |
CN113228103A (zh) | 目标跟踪方法、装置、无人机、系统及可读存储介质 | |
WO2023072175A1 (zh) | 点云数据的处理方法、神经网络的训练方法以及相关设备 | |
Chang et al. | Accuracy improvement of autonomous straight take-off, flying forward, and landing of a drone with deep reinforcement learning | |
Nahar et al. | Autonomous UAV forced graffiti detection and removal system based on machine learning | |
CN105930766A (zh) | 无人机 | |
CN111126411A (zh) | 一种异常行为识别方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP01 | Change in the name or title of a patent holder | ||
CP01 | Change in the name or title of a patent holder |
Address after: 518057 Guangdong city of Shenzhen province Nanshan District Hing Road three No. 8 China University of Geosciences research base in building A808 Patentee after: Obi Zhongguang Technology Group Co., Ltd Address before: 518057 Guangdong city of Shenzhen province Nanshan District Hing Road three No. 8 China University of Geosciences research base in building A808 Patentee before: SHENZHEN ORBBEC Co.,Ltd. |