CN113938648B - 用于塔吊辅助操作的现场全景视频采集方法 - Google Patents

用于塔吊辅助操作的现场全景视频采集方法 Download PDF

Info

Publication number
CN113938648B
CN113938648B CN202111070940.4A CN202111070940A CN113938648B CN 113938648 B CN113938648 B CN 113938648B CN 202111070940 A CN202111070940 A CN 202111070940A CN 113938648 B CN113938648 B CN 113938648B
Authority
CN
China
Prior art keywords
tower crane
central control
control room
video
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111070940.4A
Other languages
English (en)
Other versions
CN113938648A (zh
Inventor
陈德木
蒋云
陆建江
陈曦
赵晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Dajie Intelligent Transmission Technology Co Ltd
Original Assignee
Hangzhou Dajie Intelligent Transmission Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dajie Intelligent Transmission Technology Co Ltd filed Critical Hangzhou Dajie Intelligent Transmission Technology Co Ltd
Priority to CN202111070940.4A priority Critical patent/CN113938648B/zh
Publication of CN113938648A publication Critical patent/CN113938648A/zh
Application granted granted Critical
Publication of CN113938648B publication Critical patent/CN113938648B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本申请实施例提供一种用于塔吊辅助操作的现场全景视频采集方法和系统。该方法包括:在塔吊中控室内安装至少两个摄像头,用于采集中控室内不同方向的视频并发送给全景视频模拟器,根据中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备;用户根据模拟的塔吊中控室的驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给程控计算机;将塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;塔吊中控室的控制器根据塔吊操作指令控制塔吊,以执行相应的塔吊施工任务。本申请现场全景视频采集方式使得远在施工现场之外的操作人员现场体验感强,得到类似实际现场操作的效果。

Description

用于塔吊辅助操作的现场全景视频采集方法
技术领域
本申请涉及智能塔吊技术领域,尤其涉及一种用于塔吊辅助操作的现场全景视频采集方法和系统。
背景技术
目前的塔吊,基本都是人员在塔吊上的中控室进行操控。对于塔吊行业来说,目前的发展方向是无人塔吊、智能塔吊,那么在产业升级的过程中会遇到很多的技术问题。
目前的远程控制塔吊,控制人员只能根据肉眼远远观看施工效果,无法达到身临驾驶室、中控室的控制感觉,可能导致操作不准确甚至失误等问题。
发明内容
有鉴于此,本申请的目的在于提出一种用于塔吊辅助操作的现场全景视频采集方法和系统,本申请能够针对性的解决现有的遥控塔吊的问题。
基于上述目的,本申请提出了一种用于塔吊辅助操作的现场全景视频采集方法,包括:
在塔吊中控室内安装至少两个摄像头,用于采集所述中控室内不同方向的视频并发送给全景视频模拟器;
所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备;
所述用户根据所述模拟的塔吊中控室的驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给程控计算机;
所述程控计算机将所述塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;
塔吊中控室的控制器根据所述塔吊操作指令控制所述塔吊,以执行相应的塔吊施工任务。
优选地,所述塔吊进一步包括运输车,所述运输车能够承载所述塔吊的主体并根据所述程控计算机的指令进行相应移动,以执行相应的塔吊任务。
优选地,所述在塔吊中控室内安装至少两个摄像头,用于采集所述中控室内不同方向的视频并发送给全景视频模拟器,包括:
在塔吊中控室内安装至少六个摄像头,所述六个摄像头分别对准驾驶座位的前、后、左、右、上、下六个方位;
所述六个摄像头采集所述六个方位的视频并通过有线或者无线的方式发送给全景视频模拟器。
优选地,所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备,包括:
通过六个摄像头的视频在深度为无穷远处的六个图像,计算图像变换矩阵,获得深度为无穷远处的参考平面图像变换矩阵;
将其它深度信息值标定多个不同的深度等级,获得每个深度等级所对应的深度信息值处的平面图像变换矩阵;其中,深度信息值是指物体到成像平面的距离;
利用所述的参考平面图像变换矩阵,将六个视频在深度为无穷远处的六个图像进行几何变换,获得合成图像,作为参考全景图像;
计算六个视频的重叠区域的当前深度信息值,根据所述的当前深度信息值对应所述的深度等级以及对应的平面图像变换矩阵,获得合成图像,作为重叠区域全景图像;
将所述重叠区域全景图像和所述参考全景图像进行混合渲染,形成当前的全景视频图像;
将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
优选地,所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备,包括:
采用同态滤波、直方图均衡化和最小二乘法滤波算法对所述中控室内不同方向的视频图像进行图像增强处理;
根据预设查找表文件和图像增强后的所述中控室内不同方向的视频图像进行图像拼接;根据所述查找表文件,以所述中控室正前方的摄像头图像为基准建立坐标系,将其他方向的摄像头图像变换到所述坐标系中,完成图像的拼接;
根据拼接后的所述中控室内不同方向的视频图像和预设融合算法,对相邻摄像头的图像拼接接缝处进行融合;
将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
优选地,所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备,包括:
(1)对系统进行初始化,系统使用同一配置线同时对多个摄像头的每个进行配置;(2)通过FPGA分时段分别读取每块摄像头的视频数据;(3)进行图像畸变校正;(4)通过FPGA进行图像配准拼接;(5)进行图像融合;(6)将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
优选地,所述塔吊操作模拟器,包括模拟塔吊操作的开关、按键、仪表、指示灯及操纵杆。
基于上述目的,本申请还提出了一种用于塔吊辅助操作的现场全景视频采集系统,包括:
电动受控塔吊,所述电动受控塔吊至少包括塔吊主体、主横梁、挂钩、夹具及中控室;
至少两个摄像头,实时采集所述电动受控塔吊中控室在不同方向上的视频,并输入全景视频模拟器;
全景视频模拟器,根据所述电动受控塔吊的中控室的视频进行全景拼接,模拟塔吊驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备;
虚拟现实设备,由用户佩戴,将所述模拟塔吊驾驶现场视频图像播放给所述用户;
塔吊操作模拟器,包括模拟塔吊操作的开关、按键、仪表、指示灯及操纵杆;所述用户根据所述模拟的塔吊驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给所述程控计算机;
程控计算机,将所述塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;
所述中控室包括控制器,根据所述塔吊操作指令控制所述塔吊,以执行相应的塔吊施工任务。
总的来说,本申请的优势及给用户带来的体验在于:
本申请现场全景视频采集方式使得远在施工现场之外的操作人员现场体验感强,得到类似实际现场操作的效果,获得了身临其境的塔吊远程操作体验。
附图说明
在附图中,除非另外规定,否则贯穿多个附图相同的附图标记表示相同或相似的部件或元素。这些附图不一定是按照比例绘制的。应该理解,这些附图仅描绘了根据本申请公开的一些实施方式,而不应将其视为是对本申请范围的限制。
图1示出本申请的系统架构原理示意图。
图2示出根据本申请实施例的用于塔吊辅助操作的现场全景视频采集方法的流程图。
图3示出根据本申请实施例的用于塔吊辅助操作的现场全景视频采集系统的构成图。
图4示出了本申请一实施例所提供的一种电子设备的结构示意图;
图5示出了本申请一实施例所提供的一种存储介质的示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出本申请的系统架构原理示意图。本申请的实施例中,设备包括电动受控塔吊(含塔吊中控室)、至少2个摄像头、全景视频模拟器、虚拟现实VR头盔、塔吊操作模拟器、程控计算机、无线命令发射模块、无线命令接收模块等。电动受控塔吊至少包括塔吊主体、主横梁、挂钩、夹具及中控室,中控室内包含控制器,能够接收远程塔吊操作指令并执行相应的操作,控制塔吊执行相应的任务。
图2示出根据本申请实施例的用于塔吊辅助操作的现场全景视频采集方法的流程图。如图2所示,该用于塔吊辅助操作的现场全景视频采集方法包括:
步骤101:在塔吊中控室内安装至少两个摄像头,用于采集所述中控室内不同方向的视频并发送给全景视频模拟器;
本实施例中,在塔吊中控室内安装至少六个摄像头,所述六个摄像头分别对准驾驶座位的前、后、左、右、上、下六个方位;
所述六个摄像头采集所述六个方位的视频并通过有线或者无线的方式发送给全景视频模拟器。
为了使得操作员的远程操作可以比拟真实场景,本申请提出通过采集电动受控塔吊中控室驾驶座上的多个方位上的视频图像并进行全景拼接,模拟现实施工环境视频场景并呈现给用户,可以使得用户产生身临其境的感觉,从而更加准确的进行塔吊辅助施工。
在本实施例中,由于现实塔吊包括多种类型,对于移动型塔吊来说,所述电动受控塔吊还可以进一步包括运输车,所述运输车能够承载所述塔吊主体模型并进行根据所述程控计算机的指令进行相应移动,以执行现实的塔吊任务。
步骤102:所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备。
在本发明中,设计了三种全景视频拼接算法来实现驾驶室多角度视频的拼接,从而产生360度全景感受。
第一种全景拼接算法包括:
通过六个摄像头的视频在深度为无穷远处的六个图像,计算图像变换矩阵,获得深度为无穷远处的参考平面图像变换矩阵;
将其它深度信息值标定多个不同的深度等级,获得每个深度等级所对应的深度信息值处的平面图像变换矩阵;其中,深度信息值是指物体到成像平面的距离;
利用所述的参考平面图像变换矩阵,将六视频在深度为无穷远处的六个图像进行几何变换,获得合成图像,作为参考全景图像;
计算六个视频的重叠区域的当前深度信息值,根据所述的当前深度信息值对应所述的深度等级以及对应的平面图像变换矩阵,获得合成图像,作为重叠区域全景图像;
将所述重叠区域全景图像和所述参考全景图像进行混合渲染,形成当前的全景视频图像;
将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
第二种全景拼接算法包括:
采用同态滤波、直方图均衡化和最小二乘法滤波算法对所述中控室内不同方向的视频图像进行图像增强处理;
根据预设查找表文件和图像增强后的所述中控室内不同方向的视频图像进行图像拼接;根据所述查找表文件,以所述中控室正前方的摄像头图像为基准建立坐标系,将其他方向的摄像头图像变换到所述坐标系中,完成图像的拼接;
根据拼接后的所述中控室内不同方向的视频图像和预设融合算法,对相邻摄像头的图像拼接接缝处进行融合;
将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
第三种全景拼接算法包括:(1)对系统进行初始化,系统使用同一配置线同时对多个摄像头的每个进行配置;(2)通过FPGA分时段分别读取每块摄像头的视频数据;(3)进行图像畸变校正;(4)通过FPGA进行图像配准拼接;(5)进行图像融合;(6)将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
上面的三种全景拼接算法,可以根据施工现场的具体情况、复杂程度、并考虑硬件和软件的实施成本,选择其中一种实施即可。
步骤103:所述用户根据所述模拟的塔吊中控室的驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给程控计算机;所述塔吊操作模拟器包括模拟塔吊操作的开关、按键、仪表、指示灯及操纵杆。
在其他实施例中,塔吊操作模拟器可以是模拟现实各种类型型号的塔吊操作室。
例如,塔吊操作模拟器可以是联动控制台,由保护式的左、右控制箱,活动式座椅和脚踏开关组成。右箱装有紧急开关,左箱装有电锁,起动按钮和指示灯,或其它元件。操纵手柄是球形。为避免由于起重机震动和意外碰撞使操纵机构误动作,该手柄带有零位自锁装置。手柄由上下两半球组成,只有提握下半球时,才能使手柄离开零位,操动机构。当手柄离开零位时,即可将下半球松开,继续操作。若经常采用反接制动停车,感到操纵不便时,可将手柄下半球提起再顺时针旋转,让下半球固定在提起位置,使零位自锁装置不起作用。六机构后手柄有下按式的零位自锁装置。机械传动部份装在箱体上部的罩内,该传动机构分为单手柄联动操纵机构、抓斗双手柄操纵机构、主付钩双手柄操纵机构、单手柄操纵机构以及单手柄水平操纵机构。手柄运动都是用直齿齿轮传动凸轮轴的。控制器的凸轮轴均为立式布置,传动部份各支点全部用滚动轴承,以降低功率损耗。
步骤104:所述程控计算机将所述塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;
无线命令发射模块和无线命令接收模块可以是wifi、蓝牙、zigbee、GPRS等无线信号传输方式中的任意一种,本申请在此不做限制。
塔吊的操作指令可以以加密传输的方式进行发送和接收,以防止外部无授权信号控制或干扰塔吊的正常运行。加密传输的算法可以采用MD5等常见编码传输算法,本申请在此不做限制。
步骤105:塔吊中控室的控制器根据所述塔吊操作指令控制所述塔吊,以执行相应的塔吊施工任务。
无线命令接收模块收到塔吊操作指令后,发送给中控室控制器,控制器解析所述指令,并按照指令的要求控制主横梁、挂钩的转动、移动或提升等动作,从而完成吊起、转移、落下物料的施工操作。
例如,操作者戴着VR头盔,根据操作规程进行操作,可以通过VR头盔直接观看塔吊现场施工过程,结合操作模拟器的操作,能够产生身临其境的操作感受。
本申请现场全景视频采集方式使得远在施工现场之外的操作人员现场体验感强,得到类似实际现场操作的效果,获得了身临其境的塔吊远程操作体验。
申请实施例提供了一种用于塔吊辅助操作的现场全景视频采集系统,该系统用于执行上述实施例所述的用于塔吊辅助操作的现场全景视频采集方法,如图3所示,该系统包括:
电动受控塔吊501,所述电动受控塔吊至少包括塔吊主体、主横梁、挂钩、夹具及中控室;
至少两个摄像头502,实时采集所述电动受控塔吊中控室在不同方向上的视频,并输入全景视频模拟器;
全景视频模拟器503,根据所述电动受控塔吊的中控室的视频进行全景拼接,模拟塔吊驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备;
虚拟现实设备504,由用户佩戴,将所述模拟塔吊驾驶现场视频图像播放给所述用户;
塔吊操作模拟器505,包括模拟塔吊操作的开关、按键、仪表、指示灯及操纵杆;所述用户根据所述模拟的塔吊驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给所述程控计算机;
程控计算机506,将所述塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;
所述中控室包括控制器,根据所述塔吊操作指令控制所述塔吊,以执行相应的塔吊施工任务。
本申请的上述实施例提供的用于塔吊辅助操作的现场全景视频采集系统与本申请实施例提供的用于塔吊辅助操作的现场全景视频采集方法出于相同的发明构思,具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。
本申请实施方式还提供一种与前述实施方式所提供的用于塔吊辅助操作的现场全景视频采集方法对应的电子设备,以执行上用于塔吊辅助操作的现场全景视频采集方法。本申请实施例不做限定。
请参考图4,其示出了本申请的一些实施方式所提供的一种电子设备的示意图。如图4所示,所述电子设备2包括:处理器200,存储器201,总线202和通信接口203,所述处理器200、通信接口203和存储器201通过总线202连接;所述存储器201中存储有可在所述处理器200上运行的计算机程序,所述处理器200运行所述计算机程序时执行本申请前述任一实施方式所提供的用于塔吊辅助操作的现场全景视频采集方法。
其中,存储器201可能包含高速随机存取存储器(RAM:Random Access Memory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口203(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网、广域网、本地网、城域网等。
总线202可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。其中,存储器201用于存储程序,所述处理器200在接收到执行指令后,执行所述程序,前述本申请实施例任一实施方式揭示的所述用于塔吊辅助操作的现场全景视频采集方法可以应用于处理器200中,或者由处理器200实现。
处理器200可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器200中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器200可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器201,处理器200读取存储器201中的信息,结合其硬件完成上述方法的步骤。
本申请实施例提供的电子设备与本申请实施例提供的用于塔吊辅助操作的现场全景视频采集方法出于相同的发明构思,具有与其采用、运行或实现的方法相同的有益效果。
本申请实施方式还提供一种与前述实施方式所提供的用于塔吊辅助操作的现场全景视频采集方法对应的计算机可读存储介质,请参考图5,其示出的计算机可读存储介质为光盘30,其上存储有计算机程序(即程序产品),所述计算机程序在被处理器运行时,会执行前述任意实施方式所提供的用于塔吊辅助操作的现场全景视频采集方法。
需要说明的是,所述计算机可读存储介质的例子还可以包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他光学、磁性存储介质,在此不再一一赘述。
本申请的上述实施例提供的计算机可读存储介质与本申请实施例提供的用于塔吊辅助操作的现场全景视频采集方法出于相同的发明构思,具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。
需要说明的是:
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备有固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本申请也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本申请的内容,并且上面对特定语言所做的描述是为了披露本申请的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本申请的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本申请并帮助理解各个发明方面中的一个或多个,在上面对本申请的示例性实施例的描述中,本申请的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本申请要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本申请的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本申请的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本申请实施例的虚拟机的创建系统中的一些或者全部部件的一些或者全部功能。本申请还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者系统程序(例如,计算机程序和计算机程序产品)。这样的实现本申请的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本申请进行说明而不是对本申请进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干系统的单元权利要求中,这些系统中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到其各种变化或替换,这些都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (8)

1.一种用于塔吊辅助操作的现场全景视频采集方法,其特征在于,包括:
在塔吊中控室内安装至少两个摄像头,用于采集所述中控室内不同方向的视频并发送给全景视频模拟器;
所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备;
所述用户根据所述模拟的塔吊中控室的驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给程控计算机;
所述程控计算机将所述塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;
塔吊中控室的控制器根据所述塔吊操作指令控制所述塔吊,以执行相应的塔吊施工任务;
所述在塔吊中控室内安装至少两个摄像头,用于采集所述中控室内不同方向的视频并发送给全景视频模拟器,包括:
在塔吊中控室内安装至少六个摄像头,所述六个摄像头分别对准驾驶座位的前、后、左、右、上、下六个方位;
所述六个摄像头采集所述六个方位的视频并通过有线或者无线的方式发送给全景视频模拟器;
所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备,包括:
通过六个摄像头的视频在深度为无穷远处的六个图像,计算图像变换矩阵,获得深度为无穷远处的参考平面图像变换矩阵;
将其它深度信息值标定多个不同的深度等级,获得每个深度等级所对应的深度信息值处的平面图像变换矩阵;其中,深度信息值是指物体到成像平面的距离;
利用所述的参考平面图像变换矩阵,将六视频在深度为无穷远处的六个图像进行几何变换,获得合成图像,作为参考全景图像;
计算六个视频的重叠区域的当前深度信息值,根据所述的当前深度信息值对应所述的深度等级以及对应的平面图像变换矩阵,获得合成图像,作为重叠区域全景图像;
将所述重叠区域全景图像和所述参考全景图像进行混合渲染,形成当前的全景视频图像;
将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
2.根据权利要求1所述的方法,其特征在于,
所述塔吊进一步包括运输车,所述运输车能够承载所述塔吊的主体并根据所述程控计算机的指令进行相应移动,以执行相应的塔吊任务。
3.根据权利要求1所述的方法,其特征在于,
所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备,包括:
采用同态滤波、直方图均衡化和最小二乘法滤波算法对所述中控室内不同方向的视频图像进行图像增强处理;
根据预设查找表文件和图像增强后的所述中控室内不同方向的视频图像进行图像拼接;根据所述查找表文件,以所述中控室正前方的摄像头图像为基准建立坐标系,将其他方向的摄像头图像变换到所述坐标系中,完成图像的拼接;
根据拼接后的所述中控室内不同方向的视频图像和预设融合算法,对相邻摄像头的图像拼接接缝处进行融合;
将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
4.如权利要求1所述的方法,其特征在于,
所述全景视频模拟器根据所述中控室内不同方向的视频进行全景拼接,模拟塔吊中控室的驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备,包括:
(1)对全景视频模拟器进行初始化,全景视频模拟器使用同一配置线同时对多个摄像头的每个进行配置;(2)通过现成可编程门阵列分时段分别读取每块摄像头的视频数据;(3)进行图像畸变校正;(4)通过现成可编程门阵列进行图像配准拼接;(5)进行图像融合;(6)将全景拼接后的视频发送给用户佩戴的虚拟现实设备。
5.根据权利要求1-4任一项所述的方法,其特征在于,
所述塔吊操作模拟器,包括模拟塔吊操作的开关、按键、仪表、指示灯及操纵杆。
6.一种用于塔吊辅助操作的现场全景视频采集系统,所述现场全景视频采集系统用于执行权利要求1-4中任一项的方法,其特征在于,包括:
电动受控塔吊,所述电动受控塔吊至少包括塔吊主体、主横梁、挂钩、夹具及中控室;
至少两个摄像头,实时采集所述电动受控塔吊中控室在不同方向上的视频,并输入全景视频模拟器;
全景视频模拟器,根据所述电动受控塔吊的中控室的视频进行全景拼接,模拟塔吊驾驶现场视频图像,并发送给用户佩戴的虚拟现实设备;
虚拟现实设备,由用户佩戴,将所述模拟塔吊驾驶现场视频图像播放给所述用户;
塔吊操作模拟器,包括模拟塔吊操作的开关、按键、仪表、指示灯及操纵杆;所述用户根据所述模拟的塔吊驾驶现场视频图像,操作和控制塔吊操作模拟器,以将塔吊操作指令发送给程控计算机;
程控计算机,将所述塔吊操作指令通过无线命令发射模块发送给无线命令接收模块,并传输给塔吊中控室的控制器;
所述中控室包括控制器,根据所述塔吊操作指令控制所述塔吊,以执行相应的塔吊施工任务。
7.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序以实现如权利要求1-4任一项所述的方法。
8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行实现如权利要求1-4中任一项所述的方法。
CN202111070940.4A 2021-09-13 2021-09-13 用于塔吊辅助操作的现场全景视频采集方法 Active CN113938648B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111070940.4A CN113938648B (zh) 2021-09-13 2021-09-13 用于塔吊辅助操作的现场全景视频采集方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111070940.4A CN113938648B (zh) 2021-09-13 2021-09-13 用于塔吊辅助操作的现场全景视频采集方法

Publications (2)

Publication Number Publication Date
CN113938648A CN113938648A (zh) 2022-01-14
CN113938648B true CN113938648B (zh) 2023-06-02

Family

ID=79275859

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111070940.4A Active CN113938648B (zh) 2021-09-13 2021-09-13 用于塔吊辅助操作的现场全景视频采集方法

Country Status (1)

Country Link
CN (1) CN113938648B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114572837B (zh) * 2022-01-24 2023-06-02 杭州大杰智能传动科技有限公司 驾驶舱下置的智能塔吊控制方法和系统
CN114604760B (zh) * 2022-01-24 2023-06-02 杭州大杰智能传动科技有限公司 驾驶舱下置的智能塔吊结构及其控制方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012030948A (ja) * 2010-07-30 2012-02-16 Sumitomo Heavy Ind Ltd 画像生成システム
CN206654664U (zh) * 2017-03-20 2017-11-21 河南师范大学 一种基于虚拟现实技术的控制塔吊
JP2019014584A (ja) * 2017-07-07 2019-01-31 株式会社タダノ クレーン車
CN110817713A (zh) * 2019-11-15 2020-02-21 徐州康博智能控制仪表有限公司 一种基于vr技术的塔式起重机远程作业系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012030948A (ja) * 2010-07-30 2012-02-16 Sumitomo Heavy Ind Ltd 画像生成システム
CN206654664U (zh) * 2017-03-20 2017-11-21 河南师范大学 一种基于虚拟现实技术的控制塔吊
JP2019014584A (ja) * 2017-07-07 2019-01-31 株式会社タダノ クレーン車
CN110817713A (zh) * 2019-11-15 2020-02-21 徐州康博智能控制仪表有限公司 一种基于vr技术的塔式起重机远程作业系统

Also Published As

Publication number Publication date
CN113938648A (zh) 2022-01-14

Similar Documents

Publication Publication Date Title
CN113938648B (zh) 用于塔吊辅助操作的现场全景视频采集方法
Georg et al. An adaptable and immersive real time interface for resolving system limitations of automated vehicles with teleoperation
CA2926861C (en) Fiducial marker patterns, their automatic detection in images, and applications thereof
CN113938647B (zh) 用于智慧工地的智能塔吊作业全景监控还原方法和系统
JP7126995B2 (ja) 運転支援方法、設備、無人運転設備及び読み取り可能な記憶媒体
CN103596812A (zh) 停车辅助装置
CN111683840B (zh) 可移动平台的交互方法、系统、可移动平台及存储介质
JP6614754B2 (ja) 車両上に配置された全方向カメラからの全方向画像をレクティリニア画像に変換する方法
DE102018133011A1 (de) Fahrzeugfernsteuerungsvorrichtung und fahrzeugfernsteuerungsverfahren
US20220174243A1 (en) Vehicle display device, vehicle control system, vehicle control method, and storage medium
WO2021124654A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
JP7452038B2 (ja) 作業支援システム
CN113734981B (zh) 智能塔吊物料运输路径设置方法和装置
Schwab et al. Consistent test method for assistance systems
CN114604760B (zh) 驾驶舱下置的智能塔吊结构及其控制方法
KR102669491B1 (ko) 원격 지원을 위한 방법 및 디바이스
CN113920242B (zh) 基于驾驶场景虚拟现实的智能塔吊视频辅助教学方法
JPH01271804A (ja) ロボットのミラーイメージ方法
Sugasawa et al. Visualization of Dump Truck and Excavator in Bird’s-eye View by Fisheye Cameras and 3D Range Sensor
Bavelos et al. Augmented reality‐based method for road maintenance operators in human–robot collaborative interventions
CN114572837B (zh) 驾驶舱下置的智能塔吊控制方法和系统
US20230281354A1 (en) System and method for providing autonomous driving simulation architecture with switchable models
JP7238542B2 (ja) 解体システム
Schaub et al. Simulation of artificial intelligence agents using Modelica and the DLR visualization library
DE102017216134B4 (de) Verfahren zum Identifizieren eines Roboters, tragbares Roboterbedienhandgerät und Roboterarbeitsplatz

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant