CN109656259A - 一种用于确定目标对象的图像位置信息的方法与设备 - Google Patents
一种用于确定目标对象的图像位置信息的方法与设备 Download PDFInfo
- Publication number
- CN109656259A CN109656259A CN201811397307.4A CN201811397307A CN109656259A CN 109656259 A CN109656259 A CN 109656259A CN 201811397307 A CN201811397307 A CN 201811397307A CN 109656259 A CN109656259 A CN 109656259A
- Authority
- CN
- China
- Prior art keywords
- equipment
- information
- target object
- image information
- described image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 180
- 230000003190 augmentative effect Effects 0.000 claims abstract description 418
- 230000015654 memory Effects 0.000 claims description 42
- 230000005540 biological transmission Effects 0.000 claims description 39
- 230000002708 enhancing effect Effects 0.000 claims description 20
- 238000009877 rendering Methods 0.000 claims description 12
- 230000009471 action Effects 0.000 abstract description 8
- 230000000875 corresponding effect Effects 0.000 description 299
- 238000004891 communication Methods 0.000 description 30
- 238000004422 calculation algorithm Methods 0.000 description 26
- 238000012545 processing Methods 0.000 description 16
- 230000003993 interaction Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 10
- 239000011521 glass Substances 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 230000003068 static effect Effects 0.000 description 9
- 238000013459 approach Methods 0.000 description 8
- 239000003086 colorant Substances 0.000 description 8
- 241000406668 Loxodonta cyclotis Species 0.000 description 7
- 239000000284 extract Substances 0.000 description 7
- 230000001965 increasing effect Effects 0.000 description 7
- 230000005291 magnetic effect Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 238000012544 monitoring process Methods 0.000 description 5
- 238000012937 correction Methods 0.000 description 4
- 230000002596 correlated effect Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 235000003143 Panax notoginseng Nutrition 0.000 description 2
- 241000180649 Panax notoginseng Species 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000003933 intellectual function Effects 0.000 description 2
- 210000000554 iris Anatomy 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000005294 ferromagnetic effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- -1 smart phone Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/08—Control of attitude, i.e. control of roll, pitch, or yaw
- G05D1/0808—Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
Landscapes
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请的目的是提供一种用于确定目标对象的图像位置信息的方法,具体包括:通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;向所述第一协作设备发送所述图像位置信息。本申请可以为其他人员提供较为直观的目标对象相关信息,提高了团队协作的效率和行动效率。
Description
技术领域
本申请涉及通信领域,尤其涉及一种用于确定目标对象的图像位置信息的技术。
背景技术
随着技术的发展,无人机逐渐得到广泛应用。一般而言,一组无人机设备包括无人机(本体)以及用于控制无人机的无人机控制设备。由于行动灵活,无人机经常被用于拍摄场景画面,通常由操作无人机控制设备的用户(或称为无人机“飞手”)根据无人机拍摄的场景画面(或称为“航拍画面”)向其他人员提供行动指引,例如飞手向其他人员描述周围环境、提供行动路线建议等。其中无人机飞手和其他人员可通过无线电等手段联络。
虽然无人机丰富了其他人员能够获得的信息,但是其他人员获得的信息仍具有较大的局限性,这就降低了其他人员做出决策的效率,进而降低了团队的行动效率。
发明内容
本申请的一个目的是提供一种确定目标对象的图像位置信息的方法与设备。
根据本申请的第一个方面,提供了一种用于通过无人机控制设备确定目标对象的图像位置信息的方法,该方法包括:
通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;
基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;
向所述第一协作设备发送所述图像位置信息。
根据本申请的第二个方面,提供了一种用于通过增强现实设备确定目标对象的图像位置信息的方法,该方法包括:
接收第二协作设备发送的关于目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
在当前屏幕中呈现所述图像信息;
接收所述第二协作设备发送的所述目标对象在所述图像信息中的图像位置信息;
基于所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第三个方面,提供了一种用于通过指挥设备确定目标对象的图像位置信息的方法,该方法包括:
接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
呈现所述图像信息;
接收所述无人机控制设备发送的、所述目标对象在所述图像信息中对应的图像位置信息;
基于所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第四个方面,提供了一种用于通过无人机控制设备确定目标对象的图像信息的方法,其中,该方法包括:
通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。
根据本申请第五个方面,提供了一种用于通过增强现实设备确定目标对象的图像信息的方法,其中,该方法包括:
接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
在当前屏幕中呈现所述图像信息。
根据本申请的第六个方面,提供了一种用于通过指挥设备确定目标对象的图像信息的方法,其中,该方法包括:
接收无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
呈现所述图像信息。
根据本申请的第七个方面,提供了一种用于确定目标对象的图像位置信息的无人机控制设备,其中,该设备包括:
一一模块,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
一二模块,用于向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;
一三模块,用于基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;
一四模块,用于向所述第一协作设备发送所述图像位置信息。
根据本申请的第八个方面,提供了一种用于确定目标对象的图像位置信息的增强现实设备,其中,该设备包括:
二一模块,用于接收第二协作设备发送的关于目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
二二模块,用于在当前屏幕中呈现所述图像信息;
二三模块,用于接收所述第二协作设备发送的所述目标对象在所述图像信息中的图像位置信息;
二四模块,用于基于所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第九个方面,提供了一种用于确定目标对象的图像位置信息的指挥设备,其中,该设备包括:
三一模块,用于接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
三二模块,用于呈现所述图像信息;
三三模块,用于接收所述无人机控制设备发送的、所述目标对象在所述图像信息中对应的图像位置信息;
三四模块,用于基于所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第十个方面,提供了一种用于确定目标对象的图像信息的无人机控制设备,其中,该设备包括:
四一模块,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
四二模块,用于将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。
根据本申请的第十一个方面,提供了一种用于确定目标对象的图像信息的增强现实设备,其中,该设备包括:
五一模块,用于接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
五二模块,用于在当前屏幕中呈现所述图像信息。
根据本申请的第十二个方面,提供了一种用于确定目标对象的图像信息的指挥设备,其中,该设备包括:
六一模块,用于接收无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
六二模块,用于呈现所述图像信息。
根据本申请的第十三个方面,提供了一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备发送所述图像信息,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备发送所述图像位置信息;
所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第十四个方面,提供了一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备和指挥设备发送所述图像信息,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
所述指挥设备接收所述图像信息,并呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备和所述对应的指挥设备发送所述图像位置信息;
所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第十五个方面,提供了一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的指挥设备发送所述图像信息,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收并呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述指挥设备发送所述图像位置信息;
所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
所述指挥设备将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备、所述无人机控制设备处于所述同一协作事件;
所述增强现实设备接收并呈现所述图像信息,并基于接收到的所述图像位置信息在所述图像信息中呈现叠加信息。
根据本申请的第十六个方面,提供了一种用于确定目标对象的图像信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
根据本申请的第十七个方面,提供了一种用于确定目标对象的图像信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至对应的增强现实设备和指挥设备,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收所述图像信息,呈现所述图像信息;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息。
根据本申请的第十八个方面,提供了一种用于确定目标对象的图像信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至指挥设备,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收所述图像信息,呈现所述图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
根据本申请的第十九个方面,提供了一种用于确定目标对象的图像位置信息的系统,其中,该系统包括如上所述任一的无人机控制设备及任一所述增强现实设备。
根据本申请的第二十个方面,提供了一种用于确定目标对象的图像位置信息的系统,其中,该系统包括如上所述任一无人机控制设备、如上所述任一增强现实设备以及如上所述任一指挥设备。
根据本申请的二十一个方面,提供了一种用于确定目标对象的图像位置信息的设备,其中,该设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行如上任一项用于确定目标对象的图像位置信息的所述方法的操作。
根据本申请的二十二个方面,提供了一种用于确定目标对象的图像信息的设备,其中,该设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行如上任一项用于确定目标对象的图像信息的所述方法的操作。
根据本申请第二十二个方面,提供了一种包括指令的计算机可读介质,所述指令在被执行时使得系统进行如上所述任一项的方法的操作。
与现有技术相比,本申请通过无人机飞手控制无人机控制设备,获取目标对象的在拍摄的图像信息中图像位置信息,结合与其他设备(如增强现实设备或者指挥中心控制的指挥设备等)的交互,将该图像位置信息发送至其他设备,可以为其他人员提供较为直观的目标对象相关信息,提高了团队协作的效率和行动效率。在此基础上,无人机控制设备基于目标对象的模板信息对目标对象进行目标识别,能够精确的获取目标对象的图像位置信息,进而实现精准定位,极大地提升了定位的精度,有利于精准、效率的完成协作事件,提升了用户使用体验。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的系统拓扑图;
图2示出根据本申请第一个方面一个实施例的一种通过无人机控制设备确定目标对象的图像位置信息的方法流程图;
图3示出根据本申请第二个方面一个实施例的一种通过增强现实设备确定目标对象的图像位置信息的方法流程图;
图4示出根据本申请第三个方面一个实施例的一种通过指挥设备确定目标对象的图像位置信息的方法流程图;
图5示出根据本申请第四个方面一个实施例的一种通过无人机控制设备确定目标对象的图像信息的方法流程图;
图6示出根据本申请第五个方面一个实施例的一种通过增强现实设备确定目标对象的图像信息的方法流程图;
图7示出根据本申请第六个方面一个实施例的一种通过指挥设备确定目标对象的图像信息的方法流程图;
图8示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的无人机控制设备的功能模块;
图9示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的增强现实设备的功能模块;
图10示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的指挥设备的功能模块;
图11示出根据本申请一个实施例的一种用于确定目标对象的图像信息的无人机控制设备的功能模块;
图12示出根据本申请一个实施例的一种用于确定目标对象的图像信息的增强现实设备的功能模块;
图13示出根据本申请一个实施例的一种用于确定目标对象的图像信息的指挥设备的功能模块;
图14示出根据本申请一个方面一个实施例的一种用于确定目标对象的图像位置信息的系统方法图;
图15示出根据本申请另一个方面一个实施例的一种用于确定目标对象的图像位置信息的系统方法图;
图16示出根据本申请另一个方面一个实施例的一种用于确定目标对象的图像位置信息的系统方法图;
图17示出根据本申请另一个方面一个实施例的一种用于确定目标对象的图像信息的系统方法图;
图18示出根据本申请一个方面一个实施例的一种用于确定目标对象的图像信息的系统方法图;
图19示出根据本申请另一个方面一个实施例的一种用于确定目标对象的图像信息的系统方法图;
图20示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的系统示意图;
图21示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的系统示意图;
图22示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的系统示意图;
图23示出根据本申请一个实施例的一种用于确定目标对象的图像位置信息的系统示意图;
图24示出可被用于实施本申请中所述的各个实施例的示例性系统。
附图中相同或相似的附图标记代表相同或相似的部件。
具体实施方式
下面结合附图对本申请作进一步详细描述。
在本申请一个典型的配置中,终端、服务网络的设备和可信方均包括一个或多个处理器(例如,中央处理器(Central Processing Unit,CPU))、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RandomAccess Memory,RAM)和/或非易失性内存等形式,如只读存储器(Read Only Memory,ROM)或闪存(Flash Memory)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(Phase-Change Memory,PCM)、可编程随机存取存储器(Programmable Random Access Memory,PRAM)、静态随机存取存储器(Static Random-Access Memory,SRAM)、动态随机存取存储器(Dynamic Random AccessMemory,DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)、数字多功能光盘(Digital Versatile Disc,DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。
本申请所指设备包括但不限于用户设备、网络设备、或用户设备与网络设备通过网络相集成所构成的设备。所述用户设备包括但不限于任何一种可与用户进行人机交互(例如通过触摸板进行人机交互)的移动电子产品,例如智能手机、平板电脑等,所述移动电子产品可以采用任意操作系统,如Android操作系统、iOS操作系统等。其中,所述网络设备包括一种能够按照事先设定或存储的指令,自动进行数值计算和信息处理的电子设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific IntegratedCircuit,ASIC)、可编程逻辑器件(Programmable Logic Device,PLD)、现场可编程门阵列(Field Programmable Gate Array,FPGA)、数字信号处理器(Digital Signal Processor,DSP)、嵌入式设备等。所述网络设备包括但不限于计算机、网络主机、单个网络服务器、多个网络服务器集或多个服务器构成的云;在此,云由基于云计算(Cloud Computing)的大量计算机或网络服务器构成,其中,云计算是分布式计算的一种,由一群松散耦合的计算机集组成的一个虚拟超级计算机。所述网络包括但不限于互联网、广域网、城域网、局域网、VPN网络、无线自组织网络(Ad Hoc网络)等。优选地,所述设备还可以是运行于所述用户设备、网络设备、或用户设备与网络设备、网络设备、触摸终端或网络设备与触摸终端通过网络相集成所构成的设备上的程序。
当然,本领域技术人员应能理解上述设备仅为举例,其他现有的或今后可能出现的设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在本申请的描述中,“多个”的含义是两个或者更多,除非另有明确具体的限定。
图1示出了根据本申请的两个典型场景,如图1中(a)所示,增强现实设备、无人机控制设备和指挥设备间存在通信连接,无人机控制设备采集目标对象相关的图像信息,通过与增强现实设备及指挥设备间的通信连接,确定图像信息对应的图像位置信息,并将该图像位置信息发送至其他方,其中,该方法可以仅有无人机控制设备和增强现实设备配合完成,此时图像信息的处理过程在无人机控制设备端完成;该方法还可以是无人机控制设备、增强现实设备以及指挥设备三端配合完成,此时,指挥设备可以是实现无人机控制设备和增强现实设备间信息的转达,或者还可以进行图像信息相关的数据处理,此时,关于图像信息数据处理获取图像位置信息的过程,可以在无人机控制设备端完成,也可以在指挥设备端完成。
如图1中(b)所示,无人机控制设备、增强现实设备以及指挥设备通过云端进行交互,与(a)相似,无人机控制设备采集目标对象相关的图像信息,无人机控制设备可以直接将该图像信息发送至云端,由云端将该图像信息发送至其他方,若此时包括指挥中心在内的三方交互,指挥设备可以基于该图像信息获取目标对象在图像信息中的图像位置信息,进一步的通过云端传达至增强现实设备;或者无人机控制设备先对图像信进行数据处理后获取目标对象在图像信息中的图像位置信息,再将该图像位置信息发送至云端,由云端将该图像位置信息发送至其他方,其中,该过程可以仅有无人机控制设备、云端以及增强现实设备配合完成,也可以是无人机控制设备、增强现实设备、云端以及指挥设备等配合完成,关于图像信息数据处理获取图像位置信息的过程,可以在无人机控制设备端完成,也可以在指挥设备端完成,还可以在云端完成。经由云端的通讯方式可以实现各方的信息共享,如存在多个协作方的情况下,各协作均可以通过云端获取相关信息。
本申请所指的无人机控制设备包括但不限于集成了计算机、飞行操作软件、软件操作监视器、微波图像监视器、图像接收电台、双向数据收发电台、电源管理器、高容量电池和天线等设备的无人机地面控制站,无人机控制设备可以向无人机发送关于无人机飞行或者拍摄的相关指令,无人机基于该指令拍摄对应的图像信息后,通过无线电或者其他通信连接将该图像信息返回至无人机控制设备。为方便用户进行操作,在一些实施例中,所述无人机控制设备还包括显示装置,用于向用户呈现和/或用于设置相关内容;其中,该显示装置在一些实施例中为触控屏幕,该触控屏幕不仅能用于输出图形画面,还可用作无人机控制设备的输入装置以接收用户的操作指令(如用户基于触摸控制、语音控制、手势识别等操作指令)。同时,无人机控制设备和其他人员的设备(如增强现实设备或者指挥设备)间可建立通信连接或者通过云端进行通信,以供无人机控制设备向其他设备发送相关信息(如目标对象相关的图像信息或者根据无人机控制的第一用户的操作确定的其他信息),并由其他人员呈现对应的对应信息,以辅助其他人员进行协作事件。其中,无人机可搭载多种传感器,这些传感器用于感测无人机自身的方位、姿态等数据或者用于采集外部环境的相关信息。例如,无人机基于GPS传感器、气压传感器、RTK模块、激光测距仪、陀螺仪、电子罗盘等采集自身的角速率、姿态、位置、加速度、高度、空速、距离等信息,并基于图像传感器拍摄场景画面,该场景画面可传输至无人机控制设备。在一些情形下,可在无人机上设置云台以安装相机,以隔离无人机姿态变化、机体震动和外界风阻力矩等外部扰动对拍摄工作带来的不利影响,保证机载相机的视轴稳定。
本申请所指的增强现实设备包括但不限于手机、平板、增强现实头盔、增强现实眼镜等计算设备。在一些实施例中,该增强现实设备可以采集当前用户前方相关的画面,用于向用户呈现和/或用于设置增强现实内容,其中,在一些实施例中,该增强现实内容叠加显示与增强现实设备的屏幕中。
指挥设备包括但不限于移动设备(如智能手机、平板电脑、笔记本电脑等)、PC设备、智能眼镜或头盔以及集成式服务器等计算设备。为方便用户进行操作,在一些实施例中,所述指挥设备还包括显示装置,用于向用户呈现和/或用于设置相关内容;其中,该显示装置在一些实施例中为触控屏幕,该触控屏幕不仅能用于输出图形画面,还可用作指挥设备的输入装置以接收用户的操作指令。当然,本领域技术人员应能理解,指挥设备的输入装置不仅限于触控屏幕,其他现有的输入技术如能适用于本申请,也包含在本申请的保护范围内,并以引用的方式包含于此。
仍然参考图1中(a)、(b)所示的系统拓扑,(a)中所示的系统拓扑与(b)中所示的系统区别在于通过云端转达进行交互或者云端进行数据处理,在此,我们仅以图a所示系统拓扑图为例阐述以下实施例,本领域技术人员应能理解,该等实施例同样适用于图b所示的系统。
参考图14,根据本申请的一个方面,提供了一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备发送所述图像信息,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
3)所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备发送所述图像位置信息;
4)所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
以下将分别从无人机控制设备、增强现实设备两个角度,对本申请的具体实施方式进行介绍。
图2示出根据本申请第一个方面的一种用于通过无人机控制设备确定目标对象的图像位置信息的方法,该方法可被应用图1所述的系统,其中,该方法包括步骤S11、步骤S12、步骤S13和步骤S14。在步骤S11中,无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;在步骤S12中,无人机控制设备向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;在步骤S13中,无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;在步骤S14中,无人机控制设备向所述第一协作设备发送所述图像位置信息。
具体而言,在步骤S11中,无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息。例如,所述图像信息包括但不限于无人机摄像装置拍摄的静态图像信息(如图片等)和动态图像信息(如视频等),其中,所述摄像装置包括但不限于摄像头等,所述目标对象包括当前协作事件关注的目标,如抓捕事件中的疑犯、交通监控事件中的车辆等。
在步骤S12中,无人机控制设备向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。其中,第一协作设备可以是增强现实设备,或者是指挥设备,或者是增强现实设备和指挥设备。在此,无人机控制设备仅与增强现实设备进行直接交互或者通过云端交互,第一协作设备仅包含对应的处于同一协作事件的增强现实设备。无人机控制设备将该图像信息发送至增强现实设备。例如,无人机控制设备包括通信装置,用于建立无人机控制设备与增强现实设备或云端的通信连接,无人机控制设备基于此通信连接将拍摄到的目标对象的图像信息传输至增强现实设备。
在步骤S13中,无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息。在此,图像位置信息包括但不限于所述目标对象在所述图像信息中的像素坐标等,如以每一帧图像的左上角为原点,图像的上边缘作为X轴,左边缘为Y轴,每一个像素值为一个单位长度,建立对应的图像坐标系,该图像位置信息包含目标对象在该一帧图像信息中对应所有像素或者目标对象外框像素的像素坐标信息以及像素灰度值等信息。
例如,所述无人机控制设备呈现当前拍摄到的图像信息,无人机控制设备对应的第一用户在当前图像信息的基础上框选或者通过触屏操作等圈出对应的目标对象的图像位置信息。又如,所述无人机控制设备根据所述图像信息通过计算机视觉算法对图像信息进行图像识别确定目标对象在图像信息中的图像位置信息,在图像识别过程中,无人机控制设备可以根据图像信息在模板数据库中匹配查询确定对应的目标对象的目标相关信息,其中,所述目标相关信息包括但不限于基于目标对象的图像提取的、用于识别目标对象的特征序列,或者包含目标对象相关特征的图像信息等;此处的模板数据库可以是无人机控制设备本地存储的(如根据历史数据建立或更新的)或者云端下发的模板信息数据包相关的多个模板信息,或者无人机控制设备将该图像信息发送至云端。
在步骤S14中,无人机控制设备向所述第一协作设备发送所述图像位置信息。例如,无人机控制设备与第一协作设备处于同一协作事件(如抓捕疑犯等事件等),无人机控制设备与第一协作设备间建立了通信连接,或者通过云端实现数据传输等,无人机控制设备将对应的图像位置信息发送至对应的第一协作设备。
其中,上述无人机控制设备包括但不限于无人机地面控制站等计算设备;在一些情形下,以上所述的无人机控制设备可用于接收无人机通过摄像装置拍摄的图像信息,该图像信息可以是静态的图片信息或者动态的视频信息,该图片信息或者视频信息中包含了协作事件对应的目标对象或者能够用于搜索协作事件对应的目标对象。该无人机控制设备还可以包括显示装置,用于呈现该图像信息,如通过在屏幕上显示图像信息,供无人机控制设备对应的第一用户(如“无人机飞手”)根据当前拍摄的图像信息做出对应的调整指令,实时调整无人机的拍摄姿态(如无人机飞行高度、拍摄角度等),获取视野良好、清晰显示关于目标对象的图像信息。所述无人机控制设备还包括数据处理装置,用于处理所述图像信息,获取目标对象在图像信息中的图像位置信息,如根据第一用户的操作,在所述图像信息中标出目标对象的位置作为图像位置信息,标出方式包括但不限于目标对象的图像位置信息周围不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等形式;又如,根据图像信息及目标对象的目标相关信息,利用计算机视觉算法,对图像信息中的目标对象进行目标识别,并在后续图像信息中实时跟踪该目标对象,获取对应的图像位置信息。无人机控制设备还包括通信装置,用于建立与增强现实设备的通信连接,或者通过云端实现与增强现实设备间的数据通信,如无人机控制设备将目标对象相关的图像信息、图像位置信息等通过无线连接发送至增强现实设备,或者通过云端共享至增强现实设备。当然,本领域技术人员应能理解上述增强现实设备仅为举例,其他现有的或今后可能出现的增强现实设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,如图2所示的方法还包括步骤S15(未示出),在步骤S15中,无人机控制设备接收所述第一协作设备发送的、与所述目标对象对应的目标相关信息。其中,所述目标相关信息包括但不限于基于目标对象的图像提取的、用于识别目标对象的特征序列,或者包含目标对象相关特征的图像信息等。例如,无人机控制设备获取的关于目标对象对应的目标相关信息仅在于步骤S12中计算图像位置信息之前,与步骤S11获取图像信息在顺序上无必要联系。在此,无人机控制设备接收所述第一协作设备中至少一个设备发送的所述目标对象对应的目标相关信息,其中,此时接收的目标相关信息可以是增强现实设备预先存储的关于目标对象的目标相关信息或者增强现实设备根据自身拍摄的相关图像获取的目标相关信息(如根据图像获取目标对象的模板特征信息或者获取关于目标对象的图像信息等)。无人机控制设备接收增强现实设备发送的关于目标对象的目标相关信息,将该目标相关信息用于确定对应的图像位置信息。此时,增强现实设备甚至可以是在无人机拍摄相关目标对象之前将该目标相关信息发送至无人机控制设备,有助于无人机飞手通过无人机控制设备调整无人机的姿态,获取较好的图像信息。
又如,步骤S12对应的图像信息的发送过程可以是在步骤S11与步骤S13之间,或者在步骤S11之后、与步骤S13的执行在顺序上没有必要联系。在一些实施方式中,无人机控制设备根据目标相关信息计算得到目标的图像位置信息,并将图像位置信息和无人机拍摄的图像信息发送至第一协作设备,在此,步骤S12的执行在步骤S13执行之后,与步骤S14可以同时进行,也可以分开执行,但步骤S12执行顺序在步骤S14执行之前或者同时执行。在一些实施方式中,图像信息发送至增强现实设备后,增强现实设备基于该图像信息获取对应的目标相关信息,并将目标相关信息返回至无人机控制设备,供无人机控制设备执行图像识别等计算机视觉算法。在一些实施方式中,所述目标相关信息由所述第一协作设备根据所述图像信息确定。例如,无人机控制设备通过摄像装置拍摄关于目标对象的图像信息后,将该图像信息发送至增强现实设备,增强现实设备接收该图像信息后,基于该图像信息确定对应的目标相关信息,如增强现实设备接收对应的第二用户的操作指令信息(如框选等),选中目标对象的相关图像信息,将该目标相关信息返回至无人机控制设备,辅助无人机控制设备进一步在图像信息中识别目标对象从而确定目标对象的图像位置信息,甚至在后续图像信息中进行目标跟踪,实时获取目标对象的图像位置信息,使得协作事件中能够高效获取目标对象的实时位置,有助于协作事件的高效、顺利的完成。
在一些实施方式中,无人机控制设备无需增强现实设备发送的目标相关信息,可以通过自身存储的相关目标对象信息或者云端下发的目标相关信息,执行对应的计算机视觉算法获取图像信息中关于目标对象的图像位置信息。如在上述步骤S13包括子步骤S131(未示出)和子步骤S132(未示出),在步骤S131中,无人机控制设备基于所述图像信息获取所述目标对象对应的目标相关信息;在步骤S132中,无人机控制设备根据所述目标对象的目标相关信息以及所述图像信息确定所述目标对象在图像信息中的图像位置信息。例如,所述无人机控制设备通过调用本地历史记录获取关于目标对象的目标相关信息(如目标对象的图像信息或者模板特征信息等),或者所述无人机控制设备接收云端下发的关于此次协作事件对应目标对象的目标相关信息,随后,无人机控制设备通过数据处理装置,获得图像信息中目标对象对应的图像位置信息。在另一些实施方式中,无人机控制设备还可以根据第一用户的输入指令信息(如关于图像信息的框选信息等)获取对应的目标对象的图像信息。如在步骤S131中,无人机控制设备基于所述无人机控制设备对应的第一用户的输入指令,获取所述图像信息中对应所述目标对象的目标相关信息。例如,无人机控制设备包括输入装置,该输入装置在一些实施例中为触控屏幕或者键盘等,该触控屏幕或者键盘不仅能用于输入用户的触摸、框选以及文字组合功能等,同时还能通过语音控制、手势识别等操作输入用户指令信息。当然,本领域技术人员应能理解上述输入设备仅为举例,其他现有的或今后可能出现的输入设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,所述协作事件包括监控某区域,并搜查相关可疑分子;此时,无人机控制设备还可以在模板数据库中基于图像信息进行匹配,从而确定对应的目标对象的目标相关信息以及图像位置信息。如在上述步骤S13中,无人机控制设备基于所述图像信息在模板数据库中进行匹配查询,确定所述目标对象的目标相关信息以及所述目标对象的图像信息中的图像位置信息。例如,无人机控制设备可以根据图像信息从图像左上角像素开始,以滑动窗口的方式与模板数据库中目标对象进行匹配,从而确定对应的目标对象的目标相关信息和图像位置信息。又如,所述模板数据库包括无人机控制设备基于云端下发的多个目标对象的目标相关信息建立的用于匹配可疑对象的数据库,所述模板数据库还可以是云端存储的关于多个目标对象的目标相关信息的用于匹配可疑对象的数据库,此处使用的模板数据库可以是根据协作事件具体情况临时建立的数据库,还可以是基于数据联网建立的所有可疑对象的数据库等。在一些实施方式中,无人机控制设备基于拍摄的监控区域的图像信息,通过计算机视觉算法,如轮廓识别或者滑动窗口匹配的方式等提取出图像信息中的一个或多个可疑目标对象的目标相关信息以及对应的可疑目标对象的图像位置信息;随后,无人机控制设备在本地模板数据库或者云端模板数据库中匹配,将可疑目标对象的目标相关信息与数据库中模板匹配,若其相似特征超过一定的相似度阈值,则确定该可疑目标对象为协作事件的目标对象,将该可疑目标对象的图像位置信息发送作为目标对象的图像位置信息。例如,在上述步骤S13中,无人机控制设备基于所述图像信息确定所述图像信息对应的一个或多个可疑目标对象对应的可疑目标相关信息和图像位置信息,根据所述一个或多个可疑目标对象的可疑目标相关信息在模板数据库中进行匹配查询,确定对应的目标对象以及所述目标对象的目标相关信息和图像位置信息。其中,无人机控制设备可以将该图像信息发送至云端,经由云端数据库匹配查询后,接收云端返回的结果信息。
在一些实施方式中,无人机控制设备从云端获取到关于目标对象的目标相关信息或者通过数据库匹配、自身调取存储的历史记录等方式获取目标对象的目标相关信息,随后,无人机控制设备将该目标相关信息发送至增强现实设备,辅助增强现实设备的第二用户辨识目标对象,进一步的在增强现实设备中进行识别跟踪等,有利于协作事件的开展,极大地提升了协作事件的协作效率等。图2所示的方法还包括步骤S16(未示出),在步骤S16中,无人机控制设备将所述目标对象的目标相关信息发送至所述第一协作设备。例如,增强现实设备端未获取协作事件对应目标对象的目标相关信息,无人机控制设备可以将自身获取的目标相关信息发送至增强现实设备,协助增强现实设备的第二用户了解协作事件中目标对象;又如,增强现实设备已有此处协作事件对应目标对象的目标相关信息,无人机控制设备可以将自身获取的目标对相关信息发送至增强现实,供增强现实设备对应的第二用户参考或者校对双方的目标对象,保持双方协作的一致性。
在一些实施方式中,无人机控制设备还可以根据图像位置信息确定目标对象的空间位置信息等,如图2所示的方法还包括步骤S17(未示出),在步骤S17中,无人机控制设备根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述第一协作设备。例如,无人机控制设备包括数据处理模块,用于计算目标对象的空间位置信息,如利用计算机视觉算法,通过连续多帧的图像信息中目标对象的图像位置信息确定对应的目标对象的空间位置信息。该空间位置信息包括用户在大地坐标系中的坐标位置,如目标对象的经纬度信息、海拔高度等;又如,无人机控制设备根据目标对象在无人机画面中的方位(如计算机视觉算法等),利用激光测距仪测量,获取目标对象距离无人机的距离,随后,无人机控制设备通过目标距离、无人机高度以及无人机对应的经纬度信息(如根据GPS系统或者北斗系统等定位获得),计算跟踪目标的经纬度信息。无人机控制设备获取该空间位置信息后,将该空间位置信息发送至增强现实设备,供增强现实设备参考或者进一步处理等,获取目标对象进一步详细位置信息,或者根据该空间位置引导对应的第二用户(增强现实设备对应的用户)快速接近目标对象等。
为进一步说明本申请实施例的方案,下面结合图3,从增强现实设备的角度,进行举例介绍。
图3示出根据本申请第二个方面的一个实施例的一种用于通过增强现实设备确定目标对象的图像位置信息的方法,该方法同样适用于图1所示的系统,其中,该方法包括步骤S21、步骤S22、步骤S23和步骤S24。在步骤S21中,增强现实设备接收第二协作设备发送的关于目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备和指挥设备中至少一个设备;在步骤S22中,增强现实设备在当前屏幕中呈现所述图像位置信息;在步骤S23中,增强现实设备接收所述第二协作设备发送的所述目标对象在所述图像信息中的图像位置信息;在步骤S24中,增强现实设备基于所述图像位置信息在所述图像信息中呈现叠加信息。其中,步骤S21执行顺序可以是在步骤S23之前,或者与步骤S23同时执行,例如,增强现实设备可以先接收对应的图像信息,后续在接收对应的图像位置信息,或者,增强现实设备同时接收对应的图像信息和图像位置信息。
例如,在此,增强现实设备仅与无人机控制设备进行直接交互或者通过云端交互,第二协作设备仅包含对应的处于同一协作事件的无人机控制设备。其中,增强现实设备接收无人机控制设备发送图像信息和图像位置信息的方式包括:1)无人机控制设备通过有线或者无线的方式直接通过与增强现实的通信连接发送的;2)无人机控制设备通过云端转发的,其中,该无人机控制设备与增强现实设备在云端处于同一协作事件(如同一频段等)。叠加信息包括但不限于在目标对象的图像位置信息对应屏幕中呈现不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等方式的标注,用于标出所述目标对象。
其中,上述增强现实设备包括但不限于智能眼镜/头盔等头戴式智能设备;在一些情形下,以上所述的增强现实设备可用于接收无人机控制设备发送的图像位置信息,该增强现实设备包括显示装置,用于呈现目标对象的图像信息以及对应的图像位置信息,如通过在屏幕上叠加显示小窗,在小窗中显示图像信息,并在图像信息中标出目标对象的图像位置信息,标出方式包括但不限于目标对象的图像位置信息周围不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等形式呈现,用于对识别的目标对象进行静态或者动态的指示,辅助增强现实对应的第二用户快速准确的注意图像中的目标对象;进一步地,该图像位置信息还可以用于增强现实设备对目标对象的模板特征的提取操作等。在一些实施方式中,增强现实设备可获取第二用户的第一视角画面、与其他用户的互动信息(如无人机控制设备发送的图像位置信息等),增强现实设备根据第二用户的第一视角画面以增强现实的方式在增强现实设备的屏幕中叠加呈现该图像位置信息,例如基于透射式眼镜在眼镜屏幕中对应位置叠加呈现,从而在现实世界相关区域叠加虚拟信息,以实现虚实结合的增强现实体验。
当然,本领域技术人员应能理解上述增强现实设备仅为举例,其他现有的或今后可能出现的增强现实设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,图3所示的方法还包括步骤S25(未示出),在步骤S25中,增强现实设备将所述目标对象对应的目标相关信息返回至所述第二协作设备。其中,步骤S25可以是将基于步骤S22呈现的图像信息获取的目标相关信息发送至无人机控制设备,此时步骤S25执行顺序处于步骤S22和步骤S23之间;步骤S25还可以是将增强现实设备本地存储的目标相关信息、根据自身拍摄的图像信息,或者根据自身拍摄的图像信息利用计算机视觉算法获取的目标相关信息发送至无人机控制设备,此时步骤S25执行顺序仅要求在步骤S23之前。在一些实施方式中,所述目标相关信息包括但不限于:
1)所述增强现实设备本地存储的所述目标相关信息;
2)所述增强现实设备基于本地拍摄的图像信息确定的关于目标对象的目标相关信息;
3)所述增强现实设备基于所述图像信息确定的关于目标对象的目标相关信息。
如上所述的目标相关信息获取的三种方式,在1)中,增强现实设备本地存储(如协作事件历史记录信息等)了多个目标对象相关的目标相关信息或者建立对应的模板数据库,增强现实设备基于第二用户的操作指令(如选中,调取等),将对应的目标对象的目标相关信息发送至无人机控制设备。在2)中,增强现实设备包括摄像装置,用于拍摄用户第一视角对应的图像信息,基于此图像信息,增强现实设备可以根据计算机视觉算法提取图像信息中的目标对象的目标相关信息;或者,基于此图像信息,增强现实设备基于第二用户的操作指令信息(如在图像信息中框选目标等),在图像信息中对应位置确定对应的目标相关信息。又或者,增强现实设备拍摄目标的图像信息,作为目标相关信息。在3)中,增强现实设备接收并呈现无人机控制设备发送的图像信息,并基于此图像信息获取对应的目标相关信息,方法与2)中类似,在此不再赘述。显然,上述1)和2)获取的目标相关信息,步骤S25仅要求在步骤S23之前发送至无人机控制设备;3)对应的步骤S25的发送过程在步骤S22和步骤S23之间。
在另一些实施方式中,图3所示的方法还包括步骤S26(未示出),在步骤S26中,增强现实设备接收所述第二协作设备发送的关于所述目标对象的目标相关信息,基于所述目标相关信息在所述增强现实设备的屏幕中识别跟踪所述目标对象。例如,增强现实设备端接收到无人机控制设备端发送的目标相关信息,其中,增强现实设备端若从本地获取到目标相关信息,可以基于无人机控制设备发送的目标相关信息进行补充校对等,若增强现实设备本地未获取到目标相关信息,可以以此作为此次协作事件目标对象的目标相关信息。基于增强现实设备获取的目标相关信息,若该增强现实设备距离目标对象位置较近,增强现实设备基于本地摄像装置拍摄的图像信息,在本地拍摄的图像信息中进行识别跟踪,在当前屏幕中实时跟踪目标对象,能够极大的提升协作事件的完成效率。在一些实施方式中,当无人机拍摄的图像信息中未包含目标对象时(如目标对象处于被遮挡状态),无人机控制设备可以将该目标相关信息发送至增强现实设备,辅助第二用户继续对目标对象进行跟踪。
在一些实施方式中,所述协作事件包括抓捕事件;图3所示方法还包括步骤S27(未示出)。在步骤S27中,增强现实设备基于所述目标相关信息在抓捕所述目标对象后,对所述目标对象进行匹配认证,若通过认证,确定所述协作事件完成。例如,协作事件对应的抓捕事件,增强现实设备对应的第二用户为警员用户,目标对象为非法人员,当警员用户抓捕到非法人员后,警员通过启动增强现实设备的认证程序,对该非法人员身份机型进一步认证,增强现实设备拍摄该非法人员正面图像,并将该图像与非法人员在数据库中存储的模板特征进行认证,若非法人员正面图像与模板特征的相似度不低于匹配相似度阈值,确定该非法人员即为对应的目标对象,认证通过,协作事件完成;若所述非法人员正面图像与模板特征的相似度低于相似度阈值,确定抓捕到的非法人员不是目标对象,协作设备继续识别目标对象,继续执行协作事件。
在一些实施方式中,图3所示方法还包括步骤S28(未示出),在步骤S28中,增强现实设备接收所述第二协作设备发送的关于目标对象的空间位置信息,并呈现所述空间位置信息。例如,目标对象的空间位置信息包括但不限于目标对象的经纬度信息等,增强现实设备包括定位装置,用于获取当前增强现实设备所在位置信息(如根据经纬度信息等),基于增强现实设备的所在位置信息呈现对应的目标对象的空间位置信息,如根据两个经纬度坐标,确定目标对象所在位置相对于增强现实设备当前位置的一个方位,在增强现实当前屏幕中呈现对应的标注(如箭头指向,文字提示)等,辅助第二用户快速赶往目标对象所在地。在一些实施方式中,增强现实设备可以根据该空间位置信息,以及当前所在地的地图信息,确定赶往目标对象所在地的导航路线信息,并在当前屏幕中呈现所述导航路线信息。例如,图3所示方法还包括步骤S29(未示出)。在步骤S29中,增强现实设备根据所述空间位置信息以及所述增强现实设备的当前位置信息确定对应的导航路线信息,并呈现所述导航路线信息。例如,导航路线信息包括但不限于根据增强现实设备当前位置信息与目标对象的空间位置信息以及地图包数据等确定的导航路线的文字信息、标注信息或者语音信息等。增强现实设备基于路径规划算法(如Dijkstra、A*算法等),确定对应的导航路线信息,并在增强现实设备的当前屏幕中呈现对应的导航路线信息,如在屏幕中呈现最短路线的每个道路的箭头指向或者语音提示方向等,又或者,增强现实设备调用本地的地图接口(百度地图等),根据增强现实设备当前位置信息与目标对象的空间位置信息,在屏幕中呈现所述导航路线信息。
参考图15,根据本申请的另一个方面,提供了一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备和指挥设备发送所述图像信息,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述增强现实设备接收所述图像位置信息,并在当前屏幕中呈现所述图像位置信息;
3)所述指挥设备接收所述图像信息,并呈现所述图像信息;
4)所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备和所述对应的指挥设备发送所述图像位置信息;
5)所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
6)所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
其中,图15所示方法从无人机控制设备、增强现实设备以及指挥设备三个角度阐述了本申请的具体实施例,在此三方交互方法中,增强现实设备对应的实施方式与上述图14中增强现实设备对应的方法相同,在此不再赘述,以下将从无人机控制设备、指挥设备的角度,结合图15所示的方法,对本申请的具体实施方式进行介绍。
图4示出根据本申请第三个方面的一种用于通过指挥设备确定目标对象的图像位置信息的方法,该方法同样可应用于图1所示系统,其中,该方法包括步骤S31、步骤S32、步骤S33和步骤S34。在步骤S31中,指挥设备接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;在步骤S32中,指挥设备呈现所述图像信息;在步骤S33中,指挥设备接收所述无人机控制设备发送的、所述目标对象在所述图像信息中对应的图像位置信息;在步骤S34中,指挥设备基于所述图像位置信息在所述图像信息中呈现叠加信息。其中,步骤S31执行顺序可以是在步骤S33之前,或者与步骤S33同时执行,例如,指挥设备可以先接收对应的图像信息,后续在接收对应的图像位置信息,或者,指挥设备同时接收对应的图像信息和图像位置信息。
例如,指挥设备包括但不限于移动设备、PC设备、智能眼镜或头盔、集成式服务器等计算设备;指挥设备与无人机控制设备通过有线或无线的方式进行直接交互或者通过云端交互,指挥设备包括显示装置,用于呈现目标对象的图像信息以及对应的图像位置信息,如通过在屏幕上呈现所述图像信息或者叠加显示小窗,在小窗中显示图像信息,随后,在图像信息中标出目标对象的图像位置信息,如呈现对应的叠加信息,叠加信息包括但不限于目标对象的图像位置信息周围不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等形式,该叠加信息用于对识别的目标对象进行静态或者动态的指示,指挥设备对应的第三用户快速准确的注意图像中的目标对象;进一步地,该图像位置信息还可以用于指挥设备对目标对象的模板特征的提取操作等。指挥设备包括输入装置,用于输入第三用户的操作指令,如指挥设备呈现所述图像信息时,第三用户基于呈现的图像信息可以框选出对应的目标对象等。
当然,本领域技术人员应能理解上述指挥设备仅为举例,其他现有的或今后可能出现的指挥设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,所述指挥设备基于所述图像信息确定对应的目标对象的目标相关信息,将该目标相关信息返回至无人机控制设备,辅助无人机控制设备进一步确定目标对象的图像位置信息。在一些实施方式中,指挥设备根据所述图像位置信息确定所述目标对象的空间位置信息,将所述空间位置信息发送至所述增强现实设备,辅助增强现实设备快速赶往目标对象所在地,提高协作事件的协作效率。
在图15所示的系统方法中,图2所示的无人机控制设备与图4所示的指挥设备间存在数据交互。如步骤S12中,无人机控制设备将所述图像信息发送至增强现实设备的同时,还将该图像信息发送至指挥设备;在步骤S14中,无人机控制设备将所述图像位置信息发送至所述增强现实设备和所述指挥设备。在一些实施方式中,在步骤S15中,无人机控制设备接收增强现实设备发送的目标相关信息之外,还可以接收指挥设备发送的目标相关信息,其中,指挥设备获取目标相关信息的方式包括从云端获取、本地数据库中调取或者基于所述图像信息确定(如基于第三用户框选、或者目标识别等)等方式。无人机控制设备可以结合两方发送的目标相关信息相互补充,相互验证。在另一些实施例中,无人机控制设备从云端获取到关于目标对象的目标相关信息或者通过数据库匹配、自身调取存储的历史记录等方式获取目标对象的目标相关信息,随后,无人机控制设备将该目标相关信息发送至增强现实设备和指挥设备。例如,指挥设备可以基于接收的目标相关信息建立或更新模板数据库等。在一些实施例中,在步骤S17中,根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述增强现实设备和指挥设备。例如,指挥设备获取到该空间位置信息后,根据地图包数据等,确定对应的导航路线信息,进一步指导第一用户或第二用户高效完成协作事件。
参考图16,根据本申请的另一个方面,提供了一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的指挥设备发送所述图像信息,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收并呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述指挥设备发送所述图像位置信息;
所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
所述指挥设备将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备、所述无人机控制设备处于所述同一协作事件;
所述增强现实设备接收并呈现所述图像信息,并基于接收到的所述图像位置信息在所述图像信息中呈现叠加信息。
其中,图16所示方法从无人机控制设备、增强现实设备以及指挥设备三个角度阐述了本申请的具体实施例,以下将从无人机控制设备、增强现实设备以及指挥设备的角度,结合图2、图3和图4所示的方法,对本申请的具体实施方式进行介绍。
相比于图14和图15所示的系统方法,图2中示出的通过无人机控制设备确定目标对象的图像位置信息的方法,在步骤S12中,无人机控制设备向对应的指挥设备发送所述图像信息;在步骤S14中,无人机控制设备向对应的指挥设备发送所述图像位置信息。在此,无人机控制设备将图像信息和图像位置信息仅发送至指挥设备,指挥设备将其转发至处于同一协作事件的增强现实设备。
在一些实施方式中,在步骤S15中,无人机控制设备接收所述指挥设备发送的对应的目标相关信息。其中,目标相关信息的获取方式包括:
1)所述指挥设备将所述增强现实设备端获取的目标相关信息转发至所述无人机控制设备,其中,所述目标相关信息基于所述增强现实设备根据所述图像信息或者本地拍摄的图像信息基于第二用户的操作指令等获取;
2)所述指挥设备根据所述图像信息以及所述增强现实设备拍摄的发送至指挥设备的其他图像信息,基于第三用户操作指令或者在模板数据库中匹配获取对应的目标识别信息;
3)所述指挥设备调用的本地存储的目标相关信息发送至所述无人机控制设备。
在一些实施方式中,在步骤S17中,无人机控制设备根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述增强现实设备和指挥设备。例如,指挥设备获取到该空间位置信息后,根据地图包数据等,确定对应的导航路线信息,进一步指导第一用户或第二用户高效完成协作事件。
在一些实施方式中,步骤S18中,无人机控制设备根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述指挥设备。随后,指挥设备将该空间位置信息转发至所述增强现实设备,实现对增强现实设备对应的第二用户的合理调度等。
相对应的,图3所示的方法中,在步骤S21中,增强现实设备接收指挥设备发送的关于目标对象的图像信息,其中,所述指挥设备与所述增强现实设备处于所述目标对象对应的同一协作事件;在步骤S23中,增强现实设备接收所述指挥设备发送的所述目标对象在所述图像信息中的图像位置信息。
在一些实施方式中,在步骤S25中,增强现实设备将所述目标对象对应的目标相关信息返回至所述指挥设备,由所述指挥设备转发至所述无人机控制设备。在步骤S26中,增强现实设备接收所述指挥设备发送的目标相关信息,用于当前拍摄的图像信息中对应目标对象进行识别跟踪。在步骤S27中,增强现实设备拍摄到对应的非法人员的图像信息后,可以将该图像信息发送至指挥设备,由指挥设备完成对应的认证过程。在步骤S28中,增强现实设备接收指挥设备确定的或者从无人机控制设备转发的空间位置信息。
相对应的,图4所示的方法还包括步骤S35(未示出)。继步骤S31至步骤S34之后,在步骤S35中,指挥设备将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件。例如,指挥设备将无人机控制设备发送的图像信息和图像位置信息转发至对应的增强现实设备。
在一些实施方式中,图4所示的方法还包括步骤S36(未示出)。在步骤S36中,指挥设备将所述目标对象对应的目标相关信息发送至所述增强现实设备和所述无人机控制设备。其中,所述目标相关信息包括指挥设备基于此次协作事件确定的,从模板数据库中调取的关于目标对象的目标相关信息。
在一些实施方式中,图4所示的方法还包括步骤S37(未示出)。在步骤S37中,指挥设备根据所述图像位置信息确定所述目标对象的空间位置信息,将所述空间位置信息发送至所述增强现实设备。例如,指挥设备包括数据处理模块,用于计算目标对象的空间位置信息,如利用计算机视觉算法,通过连续多帧的图像信息中目标对象的图像位置信息确定对应的目标对象的空间位置信息。该空间位置信息包括用户在大地坐标系中的坐标位置,如目标对象的经纬度信息、海拔高度等;又如,指挥设备根据目标对象在无人机画面中的方位(如计算机视觉算法等),利用无人机控制设备端发送的激光测距仪测量的目标对象距离无人机的距离,根据目标距离、无人机高度以及无人机对应的经纬度信息(如根据GPS系统或者北斗系统等定位获得),计算跟踪目标的经纬度信息。指挥设备获取该空间位置信息后,将该空间位置信息发送至增强现实设备,供增强现实设备参考或者进一步处理等,获取目标对象进一步详细位置信息,或者根据该空间位置引导对应的第二用户快速接近目标对象等。
上文主要结合图1所示的系统以及可应用于图1所示系统的方法对本申请的方案进行了介绍,除上文所述方案外,本申请还提供了另一种可应用于图1所示系统的方法,下面结合图17至图19进行介绍。
参考图17,根据本申请的一个方面,提供了一种用于确定目标对象的图像信息的方法,其中,该方法包括:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
图5示出根据本申请的一个实施例的一种通过无人机控制设备确定目标对象的图像信息的方法,该方法可被应用于图1所示的系统,其中,该方法包括步骤S41和步骤S42。在步骤S41中,无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;在步骤S42中,无人机控制设备将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。在此,第一协作设备包括增强现实设备,无人机控制设备与增强现实设备直接交互或者通过云端进行交互。
相应地,图6示出根据本申请的一个实施例的一种通过增强现实设备确定目标对象的图像信息的方法,该方法可被应用于图1所示的系统,其中,该方法包括步骤S51和步骤S52。在步骤S51中,增强现实设备接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;在步骤S52中,增强现实设备在当前屏幕中呈现所述图像信息。在此,第二协作设备包括无人机控制设备,增强现实设备与无人机控制设备进行直接交互或者通过云端进行交互。增强现实设备基于该图像信息,可以提取对应的目标对象的目标相关信息,甚至进一步获取对应的图像位置信息和空间位置信息,并获取导航路线信息,实现了多方协作信息的高效利用。
参考图18,根据本申请的另一个方面,提供了一种用于确定目标对象的图像信息的方法,其中,该方法包括:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至对应的增强现实设备和指挥设备,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述指挥设备接收所述图像信息,呈现所述图像信息;
3)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息。
图5所示方法中,在步骤S42中,无人机控制设备将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。在此,第一协作设备包括增强现实设备和指挥设备。
相应地,图6所示方法中,在步骤S51中,增强现实设备接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备。在此,第二协作设备包括无人机控制设备或指挥设备。
相应地,图7示出一种通过指挥设备确定目标对象的图像信息的方法,其中,该方法同样可被应用于图1所示系统,该方法包括步骤S61和步骤S62。在步骤S61中,指挥设备接收无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;在步骤S62中,指挥设备呈现所述图像信息。
参考图19,根据本申请的又一个方面,提供了一种用于确定目标对象的图像信息的方法,其中,该方法包括:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至指挥设备,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述指挥设备接收所述图像信息,呈现所述图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件;
3)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
图5所示方法中,在步骤S42中,无人机控制设备将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。在此,第一协作设备包括指挥设备。
相应地,图6所示方法中,在步骤S51中,增强现实设备接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备。在此,第二协作设备包括指挥设备。
相应地,图7所示方法中还包括步骤S63(未示出)。在步骤S63中,指挥设备将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件。在此,指挥设备将对应的图像信息转发至对应的增强现实设备。在一些实施例中,指挥设备还会向增强现实设备和无人机控制设备发送至对应的目标对象的目标相关信息,用于对所述图像信息进行目标跟踪,对应的第一用户和第二用户可以交换双方的识别结果,提高协作事件的效率。进一步地,增强现实设备还可以基于该目标对象的相关信息在增强现实设备拍摄的图像中对对应的目标对象进行目标识别等。
上文主要从各种设备交互的角度对本申请的实施提供的方法进行了介绍,相对应的,本申请还提供了能够执行上述各方法对应的设备,下面结合图20至图23对进行介绍。
参考图20,根据本申请的一个方面,提供了一种用于确定目标对象的图像位置信息的系统700,其中,该系统用于:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备发送所述图像信息,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
3)所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备发送所述图像位置信息;
4)所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
以下将分别从无人机控制设备、增强现实设备两个角度,对本申请的具体实施方式进行介绍。
图8示出根据本申请第七个方面的一种用于确定目标对象的图像位置信息的无人机控制设备100,该设备可被应用图1所述的系统,其中,该设备包括一一模块11、一二模块12、一三模块13和一四模块14。一一模块11,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;一二模块12,用于向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;一三模块13,用于基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;一四模块14,用于向所述第一协作设备发送所述图像位置信息。
具体而言,一一模块11,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息。例如,所述图像信息包括但不限于无人机摄像装置拍摄的静态图像信息(如图片等)和动态图像信息(如视频等),其中,所述摄像装置包括但不限于摄像头等,所述目标对象包括当前协作事件关注的目标,如抓捕事件中的疑犯、交通监控事件中的车辆等。
一二模块12,用于向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。其中,第一协作设备可以是增强现实设备,或者是指挥设备,或者是增强现实设备和指挥设备。在此,无人机控制设备仅与增强现实设备进行直接交互或者通过云端交互,第一协作设备仅包含对应的处于同一协作事件的增强现实设备。无人机控制设备将该图像信息发送至增强现实设备。例如,无人机控制设备包括通信装置,用于建立无人机控制设备与增强现实设备或云端的通信连接,无人机控制设备基于此通信连接将拍摄到的目标对象的图像信息传输至增强现实设备。
一三模块13基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息。在此,图像位置信息包括但不限于所述目标对象在所述图像信息中的像素坐标等,如以每一帧图像的左上角为原点,图像的上边缘作为X轴,左边缘为Y轴,每一个像素值为一个单位长度,建立对应的图像坐标系,该图像位置信息包含目标对象在该一帧图像信息中对应所有像素或者目标对象外框像素的像素坐标信息以及像素灰度值等信息。
例如,所述无人机控制设备呈现当前拍摄到的图像信息,无人机控制设备对应的第一用户在当前图像信息的基础上框选或者通过触屏操作等圈出对应的目标对象的图像位置信息。又如,所述无人机控制设备根据所述图像信息通过计算机视觉算法对图像信息进行图像识别确定目标对象在图像信息中的图像位置信息,在图像识别过程中,无人机控制设备可以根据图像信息在模板数据库中匹配查询确定对应的目标对象的目标相关信息,其中,所述目标相关信息包括但不限于基于目标对象的图像提取的、用于识别目标对象的特征序列,或者包含目标对象相关特征的图像信息等;此处的模板数据库可以是无人机控制设备本地存储的(如根据历史数据建立或更新的)或者云端下发的模板信息数据包相关的多个模板信息,或者无人机控制设备将该图像信息发送至云端。
一四模块14,用于向所述第一协作设备发送所述图像位置信息。例如,无人机控制设备与第一协作设备处于同一协作事件(如抓捕疑犯等时间等),无人机控制设备与第一协作设备间建立了通信连接,或者通过云端实现数据传输等,无人机控制设备将对应的图像位置信息发送至对应的第一协作设备。
其中,上述无人机控制设备包括但不限于无人机地面控制站等计算设备;在一些情形下,以上所述的无人机控制设备可用于接收无人机通过摄像装置拍摄的图像信息,该图像信息可以是静态的图片信息或者动态的视频信息,该图片信息或者视频信息中包含了协作事件对应的目标对象或者能够用于搜索协作事件对应的目标对象。该无人机控制设备还可以包括显示装置,用于呈现该图像信息,如通过在屏幕上显示图像信息,供无人机控制设备对应的第一用户(如“无人机飞手”)根据当前拍摄的图像信息做出对应的调整指令,实时调整无人机的拍摄姿态(如无人机飞行高度、拍摄角度等),获取视野良好、清晰显示关于目标对象的图像信息。所述无人机控制设备还包括数据处理装置,用于处理所述图像信息,获取目标对象在图像信息中的图像位置信息,如根据第一用户的操作,在所述图像信息中标出目标对象的位置作为图像位置信息,标出方式包括但不限于目标对象的图像位置信息周围不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等形式;又如,根据图像信息及目标对象的目标相关信息,利用计算机视觉算法,对图像信息中的目标对象进行目标识别,并在后续图像信息中实时跟踪该目标对象,获取对应的图像位置信息。无人机控制设备还包括通信装置,用于建立与增强现实设备的通信连接,或者通过云端实现与增强现实设备间的数据通信,如无人机控制设备将目标对象相关的图像信息、图像位置信息等通过无线连接发送至增强现实设备,或者通过云端共享至增强现实设备。当然,本领域技术人员应能理解上述增强现实设备仅为举例,其他现有的或今后可能出现的增强现实设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,如图8所示的设备100还包括一五模块15(未示出),一五模块15,用于接收所述第一协作设备发送的、与所述目标对象对应的目标相关信息。其中,所述目标相关信息包括但不限于基于目标对象的图像提取的、用于识别目标对象的特征序列,或者包含目标对象相关特征的图像信息等。例如,无人机控制设备获取的关于目标对象对应的目标相关信息仅在于一二模块12中计算图像位置信息之前,与一一模块11的执行在顺序上无必要联系。在此,无人机控制设备接收所述第一协作设备中至少一个设备发送的所述目标对象对应的目标相关信息,其中,此时接收的目标相关信息可以是增强现实设备预先存储的关于目标对象的目标相关信息或者增强现实设备根据自身拍摄的相关图像获取的目标相关信息(如根据图像获取目标对象的模板特征信息或者获取关于目标对象的图像信息等)。无人机控制设备接收增强现实设备发送的关于目标对象的目标相关信息,将该目标相关信息用于确定对应的图像位置信息。此时,增强现实设备甚至可以是在无人机拍摄相关目标对象之前将该目标相关信息发送至无人机控制设备,有助于无人机飞手通过无人机控制设备调整无人机的姿态,获取较好的图像信息。
又如,一二模块12对应的图像信息的发送过程可以是在一一模块11与一三模块13执行顺序之间,或者在一一模块11之后、与一三模块13的执行在顺序上没有必要联系。在一些实施方式中,无人机控制设备根据目标相关信息计算得到目标的图像位置信息,并将图像位置信息和无人机拍摄的图像信息发送至第一协作设备,在此,一二模块12的执行在一三模块13执行之后,与一四模块14可以同时进行,也可以分开执行,但一二模块12执行顺序在一四模块14执行之前或者同时执行。在一些实施方式中,图像信息发送至增强现实设备后,增强现实设备基于该图像信息获取对应的目标相关信息,并将目标相关信息返回至无人机控制设备,供无人机控制设备执行图像识别等计算机视觉算法。在一些实施方式中,所述目标相关信息由所述第一协作设备根据所述图像信息确定。例如,无人机控制设备通过摄像装置拍摄关于目标对象的图像信息后,将该图像信息发送至增强现实设备,增强现实设备接收该图像信息后,基于该图像信息确定对应的目标相关信息,如增强现实设备接收对应的第二用户的操作指令信息(如框选等),选中目标对象的相关图像信息,将该目标相关信息返回至无人机控制设备,辅助无人机控制设备进一步在图像信息中识别目标对象从而确定目标对象的图像位置信息,甚至在后续图像信息中进行目标跟踪,实时获取目标对象的图像位置信息,使得协作事件中能够高效获取目标对象的实时位置,有助于协作事件的高效、顺利的完成。
在一些实施方式中,无人机控制设备无需增强现实设备发送的目标相关信息,可以通过自身存储的相关目标对象信息或者云端下发的目标相关信息,执行对应的计算机视觉算法获取图像信息中关于目标对象的图像位置信息。如在上述一三模块13包括一三一单元131(未示出)和一三二单元132(未示出),一三一单元131,用于基于所述图像信息获取所述目标对象对应的目标相关信息;一三二单元132,用于根据所述目标对象的目标相关信息以及所述图像信息确定所述目标对象在图像信息中的图像位置信息。例如,所述无人机控制设备通过调用本地历史记录获取关于目标对象的目标相关信息(如目标对象的图像信息或者模板特征信息等),或者所述无人机控制设备接收云端下发的关于此次协作事件对应目标对象的目标相关信息,随后,无人机控制设备通过数据处理装置,获得图像信息中目标对象对应的图像位置信息。在另一些实施方式中,无人机控制设备还可以根据第一用户的输入指令信息(如关于图像信息的框选信息等)获取对应的目标对象的图像信息。如一三一单元131,用于基于所述无人机控制设备对应的第一用户的输入指令,获取所述图像信息中对应所述目标对象的目标相关信息。例如,无人机控制设备包括输入装置,该输入装置在一些实施例中为触控屏幕或者键盘等,该触控屏幕或者键盘不仅能用于输入用户的触摸、框选以及文字组合功能等,同时还能通过语音控制、手势识别等操作输入用户指令信息。当然,本领域技术人员应能理解上述输入设备仅为举例,其他现有的或今后可能出现的输入设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,所述协作事件包括监控某区域,并搜查相关可疑分子;此时,无人机控制设备还可以在模板数据库中基于图像信息进行匹配,从而确定对应的目标对象的目标相关信息以及图像位置信息。如在上述一三模块13,用于基于所述图像信息在模板数据库中进行匹配查询,确定所述目标对象的目标相关信息以及所述目标对象的图像信息中的图像位置信息。例如,无人机控制设备可以根据图像信息从图像左上角像素开始,以滑动窗口的方式与模板数据库中目标对象进行匹配,从而确定对应的目标对象的目标相关信息和图像位置信息。又如,所述模板数据库包括无人机控制设备基于云端下发的多个目标对象的目标相关信息建立的用于匹配可疑对象的数据库,所述模板数据库还可以是云端存储的关于多个目标对象的目标相关信息的用于匹配可以对象的数据库,此处使用的模板数据库可以是根据协作事件具体情况临时建立的数据库,还可以是基于数据联网建立的所有可疑对象的数据库等。在一些实施方式中,无人机控制设备基于拍摄的监控区域的图像信息,通过计算机视觉算法,如轮廓识别或者滑动窗口匹配的方式等提取出图像信息中的一个或多个可疑目标对象的目标相关信息以及对应的可疑目标对象的图像位置信息;随后,无人机控制设备在本地模板数据库或者云端模板数据库中匹配,将可疑目标对象的目标相关信息与数据库中模板匹配,若其相似特征超过一定的相似度阈值,则确定该可疑目标对象为协作事件的目标对象,将该可疑目标对象的图像位置信息发送作为目标对象的图像位置信息。例如,在上述一三模块13,用于基于所述图像信息确定所述图像信息对应的一个或多个可疑目标对象对应的可疑目标相关信息和图像位置信息,根据所述一个或多个可疑目标对象的可疑目标相关信息在模板数据库中进行匹配查询,确定对应的目标对象以及所述目标对象的目标相关信息和图像位置信息。其中,无人机控制设备可以将该图像信息发送至云端,经由云端数据库匹配查询后,接收云端返回的结果信息。
在一些实施方式中,无人机控制设备从云端获取到关于目标对象的目标相关信息或者通过数据库匹配、自身调取存储的历史记录等方式获取目标对象的目标相关信息,随后,无人机控制设备将该目标相关信息发送至增强现实设备,辅助增强现实设备的第二用户辨识目标对象,进一步的在增强现实设备中进行识别跟踪等,有利于协作事件的开展,极大地提升了协作事件的协作效率等。图8所示的设备100还包括一六模块16(未示出),一六模块16,用于将所述目标对象的目标相关信息发送至所述第一协作设备。例如,增强现实设备端未获取协作事件对应目标对象的目标相关信息,无人机控制设备可以将自身获取的目标相关信息发送至增强现实设备,协助增强现实设备的第二用户了解协作事件中目标对象;又如,增强现实设备已有此处协作事件对应目标对象的目标相关信息,无人机控制设备可以将自身获取的目标对相关信息发送至增强现实,供增强现实设备对应的第二用户(增强现实设备对应的用户)参考或者校对双方的目标对象,保持双方协作的一致性。
在一些实施方式中,无人机控制设备还可以根据图像位置信息确定目标对象的空间位置信息等,如图8所示的设备100还包括一七模块17(未示出),一七模块17,用于根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述第一协作设备。例如,无人机控制设备包括数据处理模块,用于计算目标对象的空间位置信息,如利用计算机视觉算法,通过连续多帧的图像信息中目标对象的图像位置信息确定对应的目标对象的空间位置信息。该空间位置信息包括用户在大地坐标系中的坐标位置,如目标对象的经纬度信息、海拔高度等;又如,无人机控制设备根据目标对象在无人机画面中的方位(如计算机视觉算法等),利用激光测距仪测量,获取目标对象距离无人机的距离,随后,无人机控制设备通过目标距离、无人机高度以及无人机对应的经纬度信息(如根据GPS系统或者北斗系统等定位获得),计算跟踪目标的经纬度信息。无人机控制设备获取该空间位置信息后,将该空间位置信息发送至增强现实设备,供增强现实设备参考或者进一步处理等,获取目标对象进一步详细位置信息,或者根据该空间位置引导对应的第二用户快速接近目标对象等。
为进一步说明本申请实施例的方案,下面结合图9,从增强现实设备的角度,进行举例介绍。
图9示出根据本申请第八个方面的一个实施例的一种用于确定目标对象的图像位置信息的增强现实设备200,该设备同样适用于图1所示的系统,其中,该设备包括二一模块21、二二模块22、二三模块23和二四模块24。二一模块21,用于接收第二协作设备发送的关于目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备和指挥设备中至少一个设备;二二模块22,用于在当前屏幕中呈现所述图像位置信息;二三模块23,用于接收所述第二协作设备发送的所述目标对象在所述图像信息中的图像位置信息;二四模块24,用于基于所述图像位置信息在所述图像信息中呈现叠加信息。其中,二一模块21执行顺序可以是在二三模块23之前,或者与二三模块23同时执行,例如,增强现实设备可以先接收对应的图像信息,后续在接收对应的图像位置信息,或者,增强现实设备同时接收对应的图像信息和图像位置信息。
例如,在此,增强现实设备仅与无人机控制设备进行直接交互或者通过云端交互,第二协作设备仅包含对应的处于同一协作事件的无人机控制设备。其中,增强现实设备接收无人机控制设备发送图像信息和图像位置信息的方式包括:1)无人机控制设备通过有线或者无线的方式直接通过与增强现实的通信连接发送的;2)无人机控制设备通过云端转发的,其中,该无人机控制设备与增强现实设备在云端处于同一协作事件(如同一频段等)。叠加信息包括但不限于在目标对象的图像位置信息对应屏幕中呈现不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等方式的标注,用于标出所述目标对象。
其中,上述增强现实设备包括但不限于智能眼镜/头盔等头戴式智能设备;在一些情形下,以上所述的增强现实设备可用于接收无人机控制设备发送的图像位置信息,该增强现实设备包括显示装置,用于呈现目标对象的图像信息以及对应的图像位置信息,如通过在屏幕上叠加显示小窗,在小窗中显示图像信息,并在图像信息中标出目标对象的图像位置信息,标出方式包括但不限于目标对象的图像位置信息周围不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等形式呈现,用于对识别的目标对象进行静态或者动态的指示,辅助增强现实对应的第二用户快速准确的注意图像中的目标对象;进一步地,该图像位置信息还可以用于增强现实设备对目标对象的模板特征的提取操作等。在一些实施方式中,增强现实设备可获取第二用户的第一视角画面、与其他用户的互动信息(如无人机控制设备发送的图像位置信息等),增强现实设备在第二用户的第一视角画面中以增强现实的方式在增强现实设备的屏幕中叠加呈现该图像位置信息,例如基于透射式眼镜在眼镜屏幕中对应位置叠加呈现,从而在现实世界相关区域叠加虚拟信息,以实现虚实结合的增强现实体验。
当然,本领域技术人员应能理解上述增强现实设备仅为举例,其他现有的或今后可能出现的增强现实设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,图9所示的设备200还包括二五模块25(未示出),二五模块25,用于将所述目标对象对应的目标相关信息返回至所述第二协作设备。其中,二五模块25可以是将基于二二模块22呈现的图像信息获取的目标相关信息发送至无人机控制设备,此时二五模块25执行顺序处二二模块22和二三模块23的执行顺序之间;二五模块25还可以是将增强现实设备本地存储的目标相关信息、根据自身拍摄的图像信息,或者根据自身拍摄的图像信息利用计算机视觉算法获取的目标相关信息发送至无人机控制设备,此时二五模块25执行顺序仅要求在二三模块23之前。在一些实施方式中,所述目标相关信息包括但不限于:
1)所述增强现实设备本地存储的所述目标相关信息;
2)所述增强现实设备基于本地拍摄的图像信息确定的关于目标对象的目标相关信息;
3)所述增强现实设备基于所述图像信息确定的关于目标对象的目标相关信息。
如上所述的目标相关信息获取的三种方式,在1)中,增强现实设备本地存储(如协作事件历史记录信息等)了多个目标对象相关的目标相关信息或者建立对应的模板数据库,增强现实设备基于第二用户的操作指令(如选中,调取等),将对应的目标对象的目标相关信息发送至无人机控制设备。在2)中,增强现实设备包括摄像装置,用于拍摄用户第一视角对应的图像信息,基于此图像信息,增强现实设备可以根据计算机视觉算法提取图像信息中的目标对象的目标相关信息;或者,基于此图像信息,增强现实设备基于第二用户的操作指令信息(如在图像信息中框选目标等),在图像信息中对应位置确定对应的目标相关信息。又或者,增强现实设备拍摄目标的图像信息,作为目标相关信息。在3)中,增强现实设备接收并呈现无人机控制设备发送的图像信息,并基于此图像信息获取对应的目标相关信息,方式与2)中类似,在此不再赘述。显然,上述1)和2)获取的目标相关信息,二五模块25仅要求在二三模块23之前发送至无人机控制设备;3)对应的二五模块25的发送过程在二二模块22和二三模块23执行顺序之间。
在另一些实施方式中,图9所示的设备200还包括二六模块26(未示出),二六模块26,用于接收所述第二协作设备发送的关于所述目标对象的目标相关信息,基于所述目标相关信息在所述增强现实设备的屏幕中识别跟踪所述目标对象。例如,增强现实设备端接收到无人机控制设备端发送的目标相关信息,其中,增强现实设备端若从本地获取到目标相关信息,可以基于无人机控制设备发送的目标相关信息进行补充校对等,若增强现实设备本地未获取到目标相关信息,可以以此作为此次协作事件目标对象的目标相关信息。基于增强现实设备获取的目标相关信息,若该增强现实设备距离目标对象位置较近,增强现实设备基于本地摄像装置拍摄的图像信息,在本地拍摄的图像信息中进行识别跟踪,在当前屏幕中实时跟踪目标对象,能够极大的提升协作事件的完成效率。在一些实施方式中,当无人机拍摄的图像信息中未包含目标对象时(如目标对象处于被遮挡状态),无人机控制设备可以将该目标相关信息发送至增强现实设备,辅助第二用户继续对目标对象进行跟踪。
在一些实施方式中,所述协作事件包括抓捕事件;图9所示设备200还包括二七模块27(未示出)。二七模块27,用于基于所述目标相关信息在抓捕所述目标对象后,对所述目标对象进行匹配认证,若通过认证,确定所述协作事件完成。例如,协作事件对应的抓捕事件,增强现实设备对应的第二用户为警员用户,目标对象为非法人员,当警员用户抓捕到非法人员后,警员通过启动增强现实设备的认证程序,对该非法人员身份机型进一步认证,增强现实设备拍摄该非法人员正面图像,并将该图像与非法人员在数据库中存储的模板特征进行认证,若非法人员正面图像与模板特征的相似度不低于匹配相似度阈值,确定该非法人员即为对应的目标对象,认证通过,协作事件完成;若所述非法人员正面图像与模板特征的相似度低于相似度阈值,确定抓捕到的非法人员不是目标对象,协作设备继续识别目标对象,继续执行协作事件。
在一些实施方式中,图9所示设备200还包括二八模块28(未示出),二八模块28,用于接收所述第二协作设备发送的关于目标对象的空间位置信息,并呈现所述空间位置信息。例如,目标对象的空间位置信息包括但不限于目标对象的经纬度信息等,增强现实设备包括定位装置,用于获取当前增强现实设备所在位置信息(如根据经纬度信息等),基于增强现实设备的所在位置信息呈现对应的目标对象的空间位置信息,如根据两个经纬度坐标,确定目标对象所在位置相对于增强现实设备当前位置的一个方位,在增强现实当前屏幕中呈现对应的标注(如箭头指向,文字提示)等,辅助第二用户快速赶往目标对象所在地。在一些实施方式中,增强现实设备可以根据该空间位置信息,以及当前所在地的地图信息,确定赶往目标对象所在地的导航路线信息,并在当前屏幕中呈现所述导航路线信息。例如,图9所示设备200还包括二九模块29(未示出)。二九模块29,用于根据所述空间位置信息以及所述增强现实设备的当前位置信息确定对应的导航路线信息,并呈现所述导航路线信息。例如,导航路线信息包括但不限于根据增强现实设备当前位置信息与目标对象的空间位置信息以及地图包数据等确定的导航路线的文字信息、标注信息或者语音信息等。增强现实设备基于路径规划算法(如Dijkstra、A*算法等),确定对应的导航路线信息,并在增强现实设备的当前屏幕中呈现对应的导航路线信息,如在屏幕中呈现最短路线的每个道路的箭头指向或者语音提示方向等,又或者,增强现实设备调用本地的地图接口(百度地图等),根据增强现实设备当前位置信息与目标对象的空间位置信息,在屏幕中呈现所述导航路线信息。
参考图21,根据本申请的另一个方面,提供了一种用于确定目标对象的图像位置信息的系统800,其中,该系统用于:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备和指挥设备发送所述图像信息,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
3)所述指挥设备接收所述图像信息,并呈现所述图像信息;
4)所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备和所述对应的指挥设备发送所述图像位置信息;
5)所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
6)所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
其中,图21所示系统800从无人机控制设备、增强现实设备以及指挥设备三个角度阐述了本申请的具体实施例,在此三方交互中,增强现实设备对应的实施方式与上述图20中增强现实设备对应的设备200对应实施方式相同,在此不再赘述,以下将从无人机控制设备、指挥设备的角度,结合图21所示的系统,对本申请的具体实施方式进行介绍。
图10示出根据本申请第三个方面的一种用于确定目标对象的图像位置信息的指挥设备300,该设备300同样可应用于图1所示系统,其中,该设备包括三一模块31、三二模块32、三三模块33和三四模块34。三一模块31,用于接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;三二模块32,用于呈现所述图像信息;三三模块33,用于接收所述无人机控制设备发送的、所述目标对象在所述图像信息中对应的图像位置信息;三四模块34,用于基于所述图像位置信息在所述图像信息中呈现叠加信息。其中,三一模块31执行顺序可以是在三三模块33之前,或者与三三模块33同时执行,例如,指挥设备可以先接收对应的图像信息,后续在接收对应的图像位置信息,或者,指挥设备同时接收对应的图像信息和图像位置信息。
例如,指挥设备包括但不限于移动设备、PC设备、智能眼镜或头盔、集成式服务器等计算设备;指挥设备与无人机控制设备通过有线或无线的方式进行直接交互或者通过云端交互,指挥设备包括显示装置,用于呈现目标对象的图像信息以及对应的图像位置信息,如通过在屏幕上呈现所述图像信息或者叠加显示小窗,在小窗中显示图像信息,随后,在图像信息中标出目标对象的图像位置信息,如呈现对应的叠加信息,叠加信息包括但不限于目标对象的图像位置信息周围不同颜色框选、轮廓凸显、箭头指示、图片/视频呈现等形式,该叠加信息用于对识别的目标对象进行静态或者动态的指示,指挥设备对应的第三用户快速准确的注意图像中的目标对象;进一步地,该图像位置信息还可以用于指挥设备对目标对象的模板特征的提取操作等。指挥设备包括输入装置,用于输入第三用户的操作指令,如指挥设备呈现所述图像信息时,第三用户基于呈现的图像信息可以框选出对应的目标对象等。
当然,本领域技术人员应能理解上述指挥设备仅为举例,其他现有的或今后可能出现的指挥设备如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。
在一些实施方式中,所述指挥设备基于所述图像信息确定对应的目标对象的目标相关信息,将该目标相关信息返回至无人机控制设备,辅助无人机控制设备进一步确定目标对象的图像位置信息。在一些实施方式中,指挥设备根据所述图像位置信息确定所述目标对象的空间位置信息,将所述空间位置信息发送至所述增强现实设备,辅助增强现实设备快速赶往目标对象所在地,提高协作事件的协作效率。
在图21所示的系统中,图8所示的无人机控制设备与图10所示的指挥设备间存在数据交互。如一二模块12,用于将所述图像信息发送至增强现实设备的同时,还将该图像信息发送至指挥设备;一四模块14,用于将所述图像位置信息发送至所述增强现实设备和所述指挥设备。在一些实施方式中,一五模块15,用于接收增强现实设备发送的目标相关信息之外,还可以接收指挥设备发送的目标相关信息,其中,指挥设备获取目标相关信息的方式包括从云端获取、本地数据库中调取或者基于所述图像信息确定(如基于第三用户框选、或者目标识别等)等方式。无人机控制设备可以结合两方发送的目标相关信息相互补充,相互验证。在另一些实施例中,无人机控制设备从云端获取到关于目标对象的目标相关信息或者通过数据库匹配、自身调取存储的历史记录等方式获取目标对象的目标相关信息,随后,无人机控制设备将该目标相关信息发送至增强现实设备和指挥设备。例如,指挥设备可以基于接收的目标相关信息建立或更新模板数据库等。在一些实施例中,一七模块17,用于根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述增强现实设备和指挥设备。例如,指挥设备获取到该空间位置信息后,根据地图包数据等,确定对应的导航路线信息,进一步指导第一用户或第二用户高效完成协作事件。
参考图21所示的系统800,根据本申请的另一个方面,该系统还用于:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的指挥设备发送所述图像信息,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收并呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述指挥设备发送所述图像位置信息;
所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
所述指挥设备将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备、所述无人机控制设备处于所述同一协作事件;
所述增强现实设备接收并呈现所述图像信息,并基于接收到的所述图像位置信息在所述图像信息中呈现叠加信息。
其中,系统800从无人机控制设备、增强现实设备以及指挥设备三个角度阐述了本申请的具体实施例,以下将从无人机控制设备、增强现实设备以及指挥设备的角度,结合图8、图9和图10所示的设备,对本申请的具体实施方式进行介绍。
相比于前述的系统700,图8中示出的通过无人机控制设备确定目标对象的图像位置信息的设备100,其中,一二模块12,用于向对应的指挥设备发送所述图像信息;一四模块14,用于向对应的指挥设备发送所述图像位置信息。在此,无人机控制设备将图像信息和图像位置信息仅发送至指挥设备,指挥设备将其转发至处于同一协作事件的增强现实设备。
在一些实施方式中,一五模块15,用于接收所述指挥设备发送的对应的目标相关信息。其中,目标相关信息的获取方式包括:
1)所述指挥设备将所述增强现实设备端获取的目标相关信息转发至所述无人机控制设备,其中,所述目标相关信息基于所述增强现实设备根据所述图像信息或者本地拍摄的图像信息基于第二用户的操作指令等获取;
2)所述指挥设备根据所述图像信息以及所述增强现实设备拍摄的发送至指挥设备的其他图像信息,基于第三用户操作指令或者在模板数据库中匹配获取对应的目标识别信息;
3)所述指挥设备调用的本地存储的目标相关信息发送至所述无人机控制设备。
在一些实施方式中,一七模块17,用于根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述增强现实设备和指挥设备。例如,指挥设备获取到该空间位置信息后,根据地图包数据等,确定对应的导航路线信息,进一步指导第一用户或第二用户高效完成协作事件。
在一些实施方式中,一八模块18,用于根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述指挥设备。随后,指挥设备将该空间位置信息转发至所述增强现实设备,实现对增强现实设备对应的第二用户的合理调度等。
相对应的,图9所示的增强现实设备200中,二一模块21,用于接收指挥设备发送的关于目标对象的图像信息,其中,所述指挥设备与所述增强现实设备处于所述目标对象对应的同一协作事件;二三模块23,用于接收所述指挥设备发送的所述目标对象在所述图像信息中的图像位置信息。
在一些实施方式中,二五模块25,用于将所述目标对象对应的目标相关信息返回至所述指挥设备,由所述指挥设备转发至所述无人机控制设备。二六模块26,用于接收所述指挥设备发送的目标相关信息,用于当前拍摄的图像信息中对应目标对象进行识别跟踪。二七模块27,用于拍摄到对应的非法人员的图像信息后,可以将该图像信息发送至指挥设备,由指挥设备完成对应的认证过程。二八模块28,用于接收指挥设备确定的或者从无人机控制设备转发的空间位置信息。
相对应的,图10所示的指挥设备300还包括三五模块35(未示出)。继三一模块31至三四模块34之后,在三五模块35中,指挥设备将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件。例如,指挥设备将无人机控制设备发送的图像信息和图像位置信息转发至对应的增强现实设备。
在一些实施方式中,图10所示的设备300还包括三六模块36(未示出)。三六模块36,用于将所述目标对象对应的目标相关信息发送至所述增强现实设备和所述无人机控制设备。其中,所述目标相关信息包括指挥设备基于此次协作事件确定的,从模板数据库中调取的关于目标对象的目标相关信息。
在一些实施方式中,图10所示的设备还包括三七模块37(未示出)。三七模块37,用于根据所述图像位置信息确定所述目标对象的空间位置信息,将所述空间位置信息发送至所述增强现实设备。例如,指挥设备包括数据处理模块,用于计算目标对象的空间位置信息,如利用计算机视觉算法,通过连续多帧的图像信息中目标对象的图像位置信息确定对应的目标对象的空间位置信息。该空间位置信息包括用户在大地坐标系中的坐标位置,如目标对象的经纬度信息、海拔高度等;又如,指挥设备根据目标对象在无人机画面中的方位(如计算机视觉算法等),利用无人机控制设备端发送的激光测距仪测量的目标对象距离无人机的距离,根据目标距离、无人机高度以及无人机对应的经纬度信息(如根据GPS系统或者北斗系统等定位获得),计算跟踪目标的经纬度信息。指挥设备获取该空间位置信息后,将该空间位置信息发送至增强现实设备,供增强现实设备参考或者进一步处理等,获取目标对象进一步详细位置信息,或者根据该空间位置引导对应的第二用户快速接近目标对象等。
上文主要结合图1所示的系统以及可应用于图1所示系统的设备对本申请的方案进行了介绍,除上文所述各种设备外,本申请还提供了另一种可应用于图1所示系统的设备,下面结合图22和图23进行介绍。
参考图22,根据本申请的一个方面,提供了一种用于确定目标对象的图像信息的系统900,其中,该系统用于:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
图11示出根据本申请的一个实施例的一种通过无人机控制设备确定目标对象的图像信息的无人机控制设备400,该设备可被应用于图1所示的系统,其中,该设备包括四一模块41和四二模块42。四一模块41,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;四二模块42,用于将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。在此,第一协作设备包括增强现实设备,无人机控制设备与增强现实设备直接交互或者通过云端进行交互。
相应地,图12示出根据本申请的一个实施例的一种确定目标对象的图像信息的增强现实设备500,该设备可被应用于图1所示的系统,其中,该设备包括五一模块51和五二模块52。五一模块51,用于接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;五二模块52,用于在当前屏幕中呈现所述图像信息。在此,第二协作设备包括无人机控制设备,增强现实设备与无人机控制设备进行直接交互或者通过云端进行交互。增强现实设备基于该图像信息,可以提取对应的目标对象的目标相关信息,甚至进一步获取对应的图像位置信息和空间位置信息,并获取导航路线信息,实现了多方协作信息的高效利用。
参考图23,根据本申请的另一个方面,提供了一种用于确定目标对象的图像信息的系统1000,其中,该系统用于:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至对应的增强现实设备和指挥设备,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述指挥设备接收所述图像信息,呈现所述图像信息;
3)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息。
图11所示设备400中,四二模块42,用于将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。在此,第一协作设备包括增强现实设备和指挥设备。
相应地,图12所示设备500中,五一模块51,用于接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备。在此,第二协作设备包括无人机控制设备。
相应地,图13示出一种确定目标对象的图像信息的指挥设备600,其中,该设备同样可被应用于图1所示系统,该设备包括六一模块61和六二模块62。六一模块61,用于接收无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;六二模块62,用于呈现所述图像信息。
参考图23所示的系统1000,其中,该系统还可用于:
1)无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至指挥设备,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
2)所述指挥设备接收所述图像信息,呈现所述图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件;
3)所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
图11所示方法中,四二模块42,用于将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。在此,第一协作设备包括指挥设备。
相应地,图12所示设备500中,五一模块51,用于接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备。在此,第二协作设备包括指挥设备。
相应地,图13所示设备600中,还包括六三模块63(未示出)。六三模块63,用于将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件。在此,指挥设备将对应的图像信息转发至对应的增强现实设备。在一些实施例中,指挥设备还会向增强现实设备和无人机控制设备发送至对应的目标对象的目标相关信息,用于对所述图像信息进行目标跟踪,对应的第一用户和第二用户可以交换双方的识别结果,提高协作事件的效率。进一步地,增强现实设备还可以基于该目标对象的相关信息在增强现实设备拍摄的图像中对对应的目标对象进行目标识别等。
本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机代码,当所述计算机代码被执行时,如前任一项所述的方法被执行。
本申请还提供了一种计算机程序产品,当所述计算机程序产品被计算机设备执行时,如前任一项所述的方法被执行。
本申请还提供了一种计算机设备,所述计算机设备包括:
一个或多个处理器;
存储器,用于存储一个或多个计算机程序;
当所述一个或多个计算机程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如前任一项所述的方法。
图24示出了可被用于实施本申请中所述的各个实施例的示例性系统;
如图24所示在一些实施例中,系统1100能够作为各所述实施例中的任意一个上述设备。在一些实施例中,系统1100可包括具有指令的一个或多个计算机可读介质(例如,系统存储器或NVM/存储设备1120)以及与该一个或多个计算机可读介质耦合并被配置为执行指令以实现模块从而执行本申请中所述的动作的一个或多个处理器(例如,(一个或多个)处理器1105)。
对于一个实施例,系统控制模块1110可包括任意适当的接口控制器,以向(一个或多个)处理器1105中的至少一个和/或与系统控制模块1110通信的任意适当的设备或组件提供任意适当的接口。
系统控制模块1110可包括存储器控制器模块1130,以向系统存储器1115提供接口。存储器控制器模块1130可以是硬件模块、软件模块和/或固件模块。
系统存储器1115可被用于例如为系统1100加载和存储数据和/或指令。对于一个实施例,系统存储器1115可包括任意适当的易失性存储器,例如,适当的DRAM。在一些实施例中,系统存储器1115可包括双倍数据速率类型四同步动态随机存取存储器(DDR4SDRAM)。
对于一个实施例,系统控制模块1110可包括一个或多个输入/输出(I/O)控制器,以向NVM/存储设备1120及(一个或多个)通信接口1125提供接口。
例如,NVM/存储设备1120可被用于存储数据和/或指令。NVM/存储设备1120可包括任意适当的非易失性存储器(例如,闪存)和/或可包括任意适当的(一个或多个)非易失性存储设备(例如,一个或多个硬盘驱动器(HDD)、一个或多个光盘(CD)驱动器和/或一个或多个数字通用光盘(DVD)驱动器)。
NVM/存储设备1120可包括在物理上作为系统1100被安装在其上的设备的一部分的存储资源,或者其可被该设备访问而不必作为该设备的一部分。例如,NVM/存储设备1120可通过网络经由(一个或多个)通信接口1125进行访问。
(一个或多个)通信接口1125可为系统1100提供接口以通过一个或多个网络和/或与任意其他适当的设备通信。系统1100可根据一个或多个无线网络标准和/或协议中的任意标准和/或协议来与无线网络的一个或多个组件进行无线通信。
对于一个实施例,(一个或多个)处理器1105中的至少一个可与系统控制模块1110的一个或多个控制器(例如,存储器控制器模块1130)的逻辑封装在一起。对于一个实施例,(一个或多个)处理器1105中的至少一个可与系统控制模块1110的一个或多个控制器的逻辑封装在一起以形成系统级封装(SiP)。对于一个实施例,(一个或多个)处理器1105中的至少一个可与系统控制模块1110的一个或多个控制器的逻辑集成在同一模具上。对于一个实施例,(一个或多个)处理器1105中的至少一个可与系统控制模块1110的一个或多个控制器的逻辑集成在同一模具上以形成片上系统(SoC)。
在各个实施例中,系统1100可以但不限于是:服务器、工作站、台式计算设备或移动计算设备(例如,膝上型计算设备、手持计算设备、平板电脑、上网本等)。在各个实施例中,系统1100可具有更多或更少的组件和/或不同的架构。例如,在一些实施例中,系统1100包括一个或多个摄像机、键盘、液晶显示器(LCD)屏幕(包括触屏显示器)、非易失性存储器端口、多个天线、图形芯片、专用集成电路(ASIC)和扬声器。
需要注意的是,本申请可在软件和/或软件与硬件的组合体中被实施,例如,可采用专用集成电路(ASIC)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中,本申请的软件程序可以通过处理器执行以实现上文所述步骤或功能。同样地,本申请的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中,例如,RAM存储器,磁或光驱动器或软磁盘及类似设备。另外,本申请的一些步骤或功能可采用硬件来实现,例如,作为与处理器配合从而执行各个步骤或功能的电路。
另外,本申请的一部分可被应用为计算机程序产品,例如计算机程序指令,当其被计算机执行时,通过该计算机的操作,可以调用或提供根据本申请的方法和/或技术方案。本领域技术人员应能理解,计算机程序指令在计算机可读介质中的存在形式包括但不限于源文件、可执行文件、安装包文件等,相应地,计算机程序指令被计算机执行的方式包括但不限于:该计算机直接执行该指令,或者该计算机编译该指令后再执行对应的编译后程序,或者该计算机读取并执行该指令,或者该计算机读取并安装该指令后再执行对应的安装后程序。在此,计算机可读介质可以是可供计算机访问的任意可用的计算机可读存储介质或通信介质。
通信介质包括藉此包含例如计算机可读指令、数据结构、程序模块或其他数据的通信信号被从一个系统传送到另一系统的介质。通信介质可包括有导的传输介质(诸如电缆和线(例如,光纤、同轴等))和能传播能量波的无线(未有导的传输)介质,诸如声音、电磁、RF、微波和红外。计算机可读指令、数据结构、程序模块或其他数据可被体现为例如无线介质(诸如载波或诸如被体现为扩展频谱技术的一部分的类似机制)中的已调制数据信号。术语“已调制数据信号”指的是其一个或多个特征以在信号中编码信息的方式被更改或设定的信号。调制可以是模拟的、数字的或混合调制技术。
作为示例而非限制,计算机可读存储介质可包括以用于存储诸如计算机可读指令、数据结构、程序模块或其它数据的信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动的介质。例如,计算机可读存储介质包括,但不限于,易失性存储器,诸如随机存储器(RAM,DRAM,SRAM);以及非易失性存储器,诸如闪存、各种只读存储器(ROM,PROM,EPROM,EEPROM)、磁性和铁磁/铁电存储器(MRAM,FeRAM);以及磁性和光学存储设备(硬盘、磁带、CD、DVD);或其它现在已知的介质或今后开发的能够存储供计算机系统使用的计算机可读信息/数据。
在此,根据本申请的一个实施例包括一个装置,该装置包括用于存储计算机程序指令的存储器和用于执行程序指令的处理器,其中,当该计算机程序指令被该处理器执行时,触发该装置运行基于前述根据本申请的多个实施例的方法和/或技术方案。
对于本领域技术人员而言,显然本申请不限于上述示范性实施例的细节,而且在不背离本申请的精神或基本特征的情况下,能够以其他的具体形式实现本申请。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本申请的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。装置权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
Claims (43)
1.一种用于通过无人机控制设备确定目标对象的图像位置信息的方法,其中,该方法包括:
通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;
基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;
向所述第一协作设备发送所述图像位置信息。
2.根据权利要求1所述的方法,其中,所述方法还包括:
接收所述第一协作设备发送的、所述目标对象对应的目标相关信息。
其中,所述基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,包括:
基于所述目标对象的目标相关信息和所述图像信息,确定所述目标对象在图像信息中的图像位置信息。
3.根据权利要求2所述的方法,其中,所述目标相关信息由所述第一协作设备根据所述图像信息确定。
4.根据权利要求1所述的方法,其中,所述基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,包括:
基于所述图像信息获取所述目标对象对应的目标相关信息;
根据所述目标对象的目标相关信息以及所述图像信息确定所述目标对象在图像信息中的图像位置信息。
5.根据权利要求4所述的方法,其中,所述基于所述图像信息获取所述目标对象对应的目标相关信息,包括:
基于所述无人机控制设备对应的第一用户的输入指令,获取所述图像信息中对应所述目标对象的目标相关信息。
6.根据权利要求1所述的方法,其中,所述基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,包括:
基于所述图像信息在模板数据库中进行匹配查询,确定所述目标对象的目标相关信息以及所述目标对象在图像信息中的图像位置信息。
7.根据权利要求6所述的方法,其中,所述基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,包括:
基于所述图像信息确定所述图像信息对应的一个或多个可疑目标对象对应的可疑目标相关信息和图像位置信息;
根据所述一个或多个可疑目标对象的可疑目标相关信息在模板数据库中进行匹配查询,确定对应的目标对象以及所述目标对象的目标相关信息和图像位置信息。
8.根据权利要求4至7中任一项所述的方法,其中,所述方法还包括:
将所述目标对象的目标相关信息发送至所述第一协作设备。
9.根据权利要求1至8中任一项所述的方法,其中,所述方法还包括:
根据所述图像位置信息确定所述目标对象的空间位置信息,并将该空间位置信息发送至所述第一协作设备。
10.一种用于通过增强现实设备确定目标对象的图像位置信息的方法,其中,该方法包括:
接收第二协作设备发送的关于目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
在当前屏幕中呈现所述图像信息;
接收所述第二协作设备发送的所述目标对象在所述图像信息中的图像位置信息;
基于所述图像位置信息在所述图像信息中呈现叠加信息。
11.根据权利要求10所述的方法,其中,所述方法还包括:
将所述目标对象对应的目标相关信息返回至所述第二协作设备。
12.根据权利要求10所述的方法,其中,所述目标相关信息包括以下至少任一项:
所述增强现实设备本地存储的所述目标相关信息;
所述增强现实设备基于本地拍摄的图像信息确定的关于目标对象的目标相关信息;
所述增强现实设备基于所述图像信息确定的关于目标对象的目标相关信息。
13.根据权利要求10所述的方法,其中,所述方法还包括:
接收所述第二协作设备发送的关于所述目标对象的目标相关信息;
基于所述目标相关信息在所述增强现实设备的屏幕中识别跟踪所述目标对象。
14.根据权利要求11至13中任一项所述的方法,其中,所述协作事件包括抓捕事件;其中,所述方法还包括:
基于所述目标相关信息在抓捕所述目标对象后,对所述目标对象进行匹配认证,若通过认证,确定所述协作事件完成。
15.根据权利要求10至14中任一项所述的方法,其中,所述方法还包括:
接收所述第二协作设备发送的关于目标对象的空间位置信息,并呈现所述空间位置信息。
16.根据权利要求15所述的方法,其中,所述方法还包括:
根据所述空间位置信息以及所述增强现实设备的当前位置信息确定对应的导航路线信息,并呈现所述导航路线信息。
17.一种用于通过指挥设备确定目标对象的图像位置信息的方法,其中,该方法包括:
接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
呈现所述图像信息;
接收所述无人机控制设备发送的、所述目标对象在所述图像信息中对应的图像位置信息;
基于所述图像位置信息在所述图像信息中呈现叠加信息。
18.根据权利要求17所述的方法,其中,所述方法还包括:将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件。
19.根据权利要求18所述的方法,其中,所述方法还包括:
将所述目标对象对应的目标相关信息发送至所述增强现实设备和所述无人机控制设备。
20.根据权利要求18中任一项所述的方法,其中,所述方法还包括:
根据所述图像位置信息确定所述目标对象的空间位置信息;
将所述空间位置信息发送至所述增强现实设备。
21.一种用于通过无人机控制设备确定目标对象的图像信息的方法,其中,该方法包括:
通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。
22.一种用于通过增强现实设备确定目标对象的图像信息的方法,其中,该方法包括:
接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
在当前屏幕中呈现所述图像信息。
23.一种用于通过指挥设备确定目标对象的图像信息的方法,其中,该方法包括:
接收无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
呈现所述图像信息。
24.根据权利要求23所述的方法,其中,所述方法还包括:
将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件。
25.一种用于确定目标对象的图像位置信息的无人机控制设备,其中,该设备包括:
一一模块,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
一二模块,用于向对应的第一协作设备发送所述图像信息,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备;
一三模块,用于基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息;
一四模块,用于向对应的第一协作设备发送所述图像位置信息。
26.一种用于确定目标对象的图像位置信息的增强现实设备,其中,该设备包括:
二一模块,用于接收第二协作设备发送的关于目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
二二模块,用于在当前屏幕中呈现所述图像信息;
二三模块,用于接收所述第二协作设备发送的所述目标对象在所述图像信息中的图像位置信息;
二四模块,用于基于所述图像位置信息在所述图像信息中呈现叠加信息。
27.一种用于确定目标对象的图像位置信息的指挥设备,其中,该设备包括:
三一模块,用于接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
三二模块,用于呈现所述图像信息;
三三模块,用于接收所述目标对象在所述图像信息中对应的图像位置信息;
三四模块,用于基于所述图像位置信息在所述图像信息中呈现叠加信息。
28.一种用于确定目标对象的图像信息的无人机控制设备,其中,该设备包括:
四一模块,用于通过对应的无人机的摄像装置拍摄关于目标对象的图像信息;
四二模块,用于将所述图像信息发送至第一协作设备,其中,所述第一协作设备与所述无人机控制设备处于所述目标对象对应的同一协作事件,所述第一协作设备包括增强现实设备和指挥设备中的至少一个设备。
29.一种用于确定目标对象的图像信息的增强现实设备,其中,该设备包括:
五一模块,用于接收第二协作设备发送的关于所述目标对象的图像信息,其中,所述第二协作设备与所述增强现实设备处于所述目标对象对应的同一协作事件,所述第二协作设备包括无人机控制设备或指挥设备;
五二模块,用于在当前屏幕中呈现所述图像信息。
30.一种用于确定目标对象的图像信息的指挥设备,其中,该设备包括:
六一模块,用于接收所述无人机控制设备发送的关于目标对象的图像信息,其中,所述无人机控制设备与所述指挥设备处于所述目标对象对应的同一协作事件;
六二模块,用于呈现所述图像信息。
31.一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备发送所述图像信息,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向对应的增强现实设备发送所述图像位置信息;
所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
32.一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的增强现实设备和指挥设备发送所述图像信息,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息;
所述指挥设备接收所述图像信息,并呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述增强现实设备和所述指挥设备发送所述图像位置信息;
所述增强现实设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息。
33.一种用于确定目标对象的图像位置信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,向对应的指挥设备发送所述图像信息,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收并呈现所述图像信息;
所述无人机控制设备基于所述图像信息确定所述目标对象在所述图像信息中的图像位置信息,向所述指挥设备发送所述图像位置信息;
所述指挥设备接收所述图像位置信息,并基于所述图像位置信息在所述图像信息中呈现叠加信息;
所述指挥设备将所述图像信息和所述图像位置信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备、所述无人机控制设备处于所述同一协作事件;
所述增强现实设备接收并呈现所述图像信息,并基于接收到的所述图像位置信息在所述图像信息中呈现叠加信息。
34.一种用于确定目标对象的图像位置的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
35.一种用于确定目标对象的图像信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至对应的增强现实设备和指挥设备,其中,所述增强现实设备、所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收所述图像信息,呈现所述图像信息;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像信息。
36.一种用于确定目标对象的图像信息的方法,其中,该方法包括:
无人机控制设备通过对应的无人机的摄像装置拍摄关于目标对象的图像信息,并将所述图像信息发送至指挥设备,其中,所述指挥设备与所述无人机控制设备处于所述目标对象对应的同一协作事件;
所述指挥设备接收所述图像信息,呈现所述图像信息,并将所述图像信息发送至增强现实设备,其中,所述增强现实设备与所述指挥设备处于所述同一协作事件;
所述增强现实设备接收所述图像信息,并在当前屏幕中呈现所述图像位置信息。
37.一种用于确定目标对象的图像位置信息的系统,其中,该系统包括如权利要求25所述的无人机控制设备及所述权利要求26所述的增强现实设备。
38.一种用于确定目标对象的图像位置信息的系统,其中,该系统包括如权利要求25所述的无人机控制设备、如权利要求26所述的增强现实设备以及如权利要求27所述的指挥设备。
39.一种用于确定目标对象的图像信息的系统,其中,该系统包括如权利要求28所述的无人机控制设备及所述权利要求29所述的增强现实设备。
40.一种用于确定目标对象的图像信息的系统,其中,该系统包括如权利要求28所述的无人机控制设备、所述权利要求29所述的增强现实设备以及如权利要求30所述的指挥设备。
41.一种用于确定目标对象的图像位置信息的设备,其中,该设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行如权利要求1至20中任一项所述方法的操作。
42.一种用于确定目标对象的图像信息的方法,其中,该设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行如权利要求21至24中任一项所述方法的操作。
43.一种包括指令的计算机可读介质,所述指令在被执行时使得系统进行如权利要求1至24中任一项所述方法的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811397307.4A CN109656259A (zh) | 2018-11-22 | 2018-11-22 | 一种用于确定目标对象的图像位置信息的方法与设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811397307.4A CN109656259A (zh) | 2018-11-22 | 2018-11-22 | 一种用于确定目标对象的图像位置信息的方法与设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109656259A true CN109656259A (zh) | 2019-04-19 |
Family
ID=66111285
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811397307.4A Pending CN109656259A (zh) | 2018-11-22 | 2018-11-22 | 一种用于确定目标对象的图像位置信息的方法与设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109656259A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110264523A (zh) * | 2019-06-25 | 2019-09-20 | 亮风台(上海)信息科技有限公司 | 一种确定测试图像中的目标图像的位置信息的方法与设备 |
CN110674696A (zh) * | 2019-08-28 | 2020-01-10 | 珠海格力电器股份有限公司 | 一种监控方法、装置、系统、监控设备及可读存储介质 |
CN111176309A (zh) * | 2019-12-31 | 2020-05-19 | 北京理工大学 | 一种基于球面成像的多无人机自组群互感理解方法 |
CN115439635A (zh) * | 2022-06-30 | 2022-12-06 | 亮风台(上海)信息科技有限公司 | 一种呈现目标对象的标记信息的方法与设备 |
CN115460539A (zh) * | 2022-06-30 | 2022-12-09 | 亮风台(上海)信息科技有限公司 | 一种获取电子围栏的方法、设备、介质及程序产品 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101461482B1 (ko) * | 2012-04-25 | 2014-11-18 | 한국항공우주산업 주식회사 | 무인 항공기의 위치 추적 방법 |
CN104796611A (zh) * | 2015-04-20 | 2015-07-22 | 零度智控(北京)智能科技有限公司 | 移动终端遥控无人机实现智能飞行拍摄的方法及系统 |
CN204498252U (zh) * | 2015-01-29 | 2015-07-22 | 公安部第三研究所 | 一种警用空中视频侦查系统 |
CN105100728A (zh) * | 2015-08-18 | 2015-11-25 | 零度智控(北京)智能科技有限公司 | 无人机视频跟踪拍摄系统及方法 |
CN108200415A (zh) * | 2018-03-16 | 2018-06-22 | 广州成至智能机器科技有限公司 | 基于增强现实技术的无人机图像画面处理系统及其方法 |
CN108257145A (zh) * | 2017-12-13 | 2018-07-06 | 北京华航无线电测量研究所 | 一种基于ar技术的无人机智能侦察处理系统及方法 |
CN108769517A (zh) * | 2018-05-29 | 2018-11-06 | 亮风台(上海)信息科技有限公司 | 一种基于增强现实进行远程辅助的方法与设备 |
-
2018
- 2018-11-22 CN CN201811397307.4A patent/CN109656259A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101461482B1 (ko) * | 2012-04-25 | 2014-11-18 | 한국항공우주산업 주식회사 | 무인 항공기의 위치 추적 방법 |
CN204498252U (zh) * | 2015-01-29 | 2015-07-22 | 公安部第三研究所 | 一种警用空中视频侦查系统 |
CN104796611A (zh) * | 2015-04-20 | 2015-07-22 | 零度智控(北京)智能科技有限公司 | 移动终端遥控无人机实现智能飞行拍摄的方法及系统 |
CN105100728A (zh) * | 2015-08-18 | 2015-11-25 | 零度智控(北京)智能科技有限公司 | 无人机视频跟踪拍摄系统及方法 |
CN108257145A (zh) * | 2017-12-13 | 2018-07-06 | 北京华航无线电测量研究所 | 一种基于ar技术的无人机智能侦察处理系统及方法 |
CN108200415A (zh) * | 2018-03-16 | 2018-06-22 | 广州成至智能机器科技有限公司 | 基于增强现实技术的无人机图像画面处理系统及其方法 |
CN108769517A (zh) * | 2018-05-29 | 2018-11-06 | 亮风台(上海)信息科技有限公司 | 一种基于增强现实进行远程辅助的方法与设备 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110264523A (zh) * | 2019-06-25 | 2019-09-20 | 亮风台(上海)信息科技有限公司 | 一种确定测试图像中的目标图像的位置信息的方法与设备 |
CN110264523B (zh) * | 2019-06-25 | 2021-06-18 | 亮风台(上海)信息科技有限公司 | 一种确定测试图像中的目标图像的位置信息的方法与设备 |
CN110674696A (zh) * | 2019-08-28 | 2020-01-10 | 珠海格力电器股份有限公司 | 一种监控方法、装置、系统、监控设备及可读存储介质 |
CN111176309A (zh) * | 2019-12-31 | 2020-05-19 | 北京理工大学 | 一种基于球面成像的多无人机自组群互感理解方法 |
CN111176309B (zh) * | 2019-12-31 | 2021-01-12 | 北京理工大学 | 一种基于球面成像的多无人机自组群互感理解方法 |
CN115439635A (zh) * | 2022-06-30 | 2022-12-06 | 亮风台(上海)信息科技有限公司 | 一种呈现目标对象的标记信息的方法与设备 |
CN115460539A (zh) * | 2022-06-30 | 2022-12-09 | 亮风台(上海)信息科技有限公司 | 一种获取电子围栏的方法、设备、介质及程序产品 |
CN115460539B (zh) * | 2022-06-30 | 2023-12-15 | 亮风台(上海)信息科技有限公司 | 一种获取电子围栏的方法、设备、介质及程序产品 |
WO2024000733A1 (zh) * | 2022-06-30 | 2024-01-04 | 亮风台(上海)信息科技有限公司 | 一种呈现目标对象的标记信息的方法与设备 |
CN115439635B (zh) * | 2022-06-30 | 2024-04-26 | 亮风台(上海)信息科技有限公司 | 一种呈现目标对象的标记信息的方法与设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109656259A (zh) | 一种用于确定目标对象的图像位置信息的方法与设备 | |
AU2018450490B2 (en) | Surveying and mapping system, surveying and mapping method and device, and apparatus | |
CN109561282B (zh) | 一种用于呈现地面行动辅助信息的方法与设备 | |
KR101583286B1 (ko) | 공간 정보를 제공하기 위한 증강 현실 제공 방법과 시스템, 그리고 기록 매체 및 파일 배포 시스템 | |
CN108769517A (zh) | 一种基于增强现实进行远程辅助的方法与设备 | |
US20210223040A1 (en) | Method and apparatus for planning sample points for surveying and mapping, control terminal, and storage medium | |
CN109459029B (zh) | 一种用于确定目标对象的导航路线信息的方法与设备 | |
CN109596118A (zh) | 一种用于获取目标对象的空间位置信息的方法与设备 | |
CN109656319B (zh) | 一种用于呈现地面行动辅助信息方法与设备 | |
AU2018449839B2 (en) | Surveying and mapping method and device | |
KR101600456B1 (ko) | 공간 정보를 제공하기 위한 증강 현실 제공 방법과 시스템, 그리고 기록 매체 및 파일 배포 시스템 | |
EP3748533A1 (en) | Method, apparatus, and storage medium for obtaining object information | |
CN107084740A (zh) | 一种导航方法和装置 | |
CN109618131B (zh) | 一种用于呈现决策辅助信息的方法与设备 | |
CN110248157B (zh) | 一种进行执勤调度的方法与设备 | |
AU2018450016B2 (en) | Method and apparatus for planning sample points for surveying and mapping, control terminal and storage medium | |
AU2018450271B2 (en) | Operation control system, and operation control method and device | |
CN106203279A (zh) | 一种增强现实中目标对象的识别方法、装置及移动终端 | |
CN115439635B (zh) | 一种呈现目标对象的标记信息的方法与设备 | |
CN117930982A (zh) | 任务执行方法、装置,设备及计算机介质 | |
CN115760964A (zh) | 一种获取目标对象的屏幕位置信息的方法与设备 | |
CN117115244A (zh) | 云端重定位方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 201210 7th Floor, No. 1, Lane 5005, Shenjiang Road, China (Shanghai) Pilot Free Trade Zone, Pudong New Area, Shanghai Applicant after: HISCENE INFORMATION TECHNOLOGY Co.,Ltd. Address before: Room 501 / 503-505, 570 shengxia Road, China (Shanghai) pilot Free Trade Zone, Pudong New Area, Shanghai, 201203 Applicant before: HISCENE INFORMATION TECHNOLOGY Co.,Ltd. |
|
CB02 | Change of applicant information |