CN113246991A - 用于无人车的远程驾驶端的数据传输方法和装置 - Google Patents
用于无人车的远程驾驶端的数据传输方法和装置 Download PDFInfo
- Publication number
- CN113246991A CN113246991A CN202110723312.5A CN202110723312A CN113246991A CN 113246991 A CN113246991 A CN 113246991A CN 202110723312 A CN202110723312 A CN 202110723312A CN 113246991 A CN113246991 A CN 113246991A
- Authority
- CN
- China
- Prior art keywords
- image
- surrounding environment
- unmanned vehicle
- remote driving
- video image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/0098—Details of control systems ensuring comfort, safety or stability not otherwise provided for
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/45—External transmission of data to or from the vehicle
- B60W2556/55—External transmission of data to or from the vehicle using telemetry
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Mechanical Engineering (AREA)
- Signal Processing (AREA)
- Transportation (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Mathematical Physics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Traffic Control Systems (AREA)
Abstract
本公开涉及远程驾驶技术领域,提供了一种用于无人车的远程驾驶端的数据传输方法和装置。该方法包括:在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;实时检测无人车的当前网络带宽;当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示模拟出的图像。本公开提高了远程驾驶的安全性。
Description
技术领域
本公开涉及远程驾驶技术领域,尤其涉及一种用于无人车的远程驾驶端的数据传输方法、装置、计算机设备及存储介质。
背景技术
远程驾驶是智能驾驶与4G/5G网络的融合应用。远程驾驶技术通过网络通信的方式,把车端的感知数据传输给云端控制器,由人类驾驶员来远程控制,如果汽车内部底层自动驾驶系统遇到问题,该技术将允许远程操作人员接管车辆,可有效解决在业内被称为机器“边缘”情况的难题。
目前,远程驾驶端对车辆的控制主要依赖于安装在车辆上的摄像装置所采集的视频图像,而视频图像的传输主要依赖于网络带宽,因此,稳定的网络带宽是远程驾驶的安全保障。现有技术中,在网络带宽下降(即,弱网)的情况下,可以通过调整视频图像发送时的码率来确保画面的流畅性。然而,在网络带宽继续下降的情况下,一味地降低所传输视频的码率会导致画面的清晰度不足,进而导致远程驾驶的安全性低。
发明内容
有鉴于此,本公开实施例提供了一种用于无人车的远程驾驶端的数据传输方法、装置、计算机设备及存储介质,以解决现有技术中在网络带宽下降的情况下,降低所传输视频的码率导致画面的清晰度不足,进而导致远程驾驶的安全性低的问题。
本公开实施例的第一方面,提供了一种用于无人车的远程驾驶端的数据传输方法,包括:在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;实时检测无人车的当前网络带宽;当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示该模拟出的图像。
本公开实施例的第二方面,提供了一种用于无人车的远程驾驶端的数据传输装置,包括:第一采集模块,被配置为在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;检测模块,被配置为实时检测无人车的当前网络带宽;第一传输模块,被配置为当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;第二传输模块,被配置为当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;显示模块,被配置为远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示该模拟出的图像。
本公开实施例的第三方面,提供了一种计算机设备,包括存储器、处理器以及存储在存储器中并且可以在处理器上运行的计算机程序,该处理器执行计算机程序时实现上述方法的步骤。
本公开实施例的第四方面,提供了一种存储介质,该存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述方法的步骤。
本公开实施例与现有技术相比存在的有益效果是:通过在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;实时检测无人车的当前网络带宽;当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示模拟出的图像,使得远程驾驶端的驾驶员能够依据该图像为驾驶视野控制无人车行驶,因此,实现了在网络带宽相对低的弱网条件下,由远程驾驶端基于文本信息模拟出的无人车的周围环境的图像来控制无人车行驶,减少了数据传输量,节省了网络带宽,提高了传输速度,并进一步提高了远程驾驶的安全性。
附图说明
为了更清楚地说明本公开实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1是本公开实施例的应用场景的场景示意图;
图2是本公开实施例提供的一种用于无人车的远程驾驶端的数据传输方法的流程图;
图3是本公开实施例提供的另一种用于无人车的远程驾驶端的数据传输方法的流程图;
图4是本公开实施例提供的一种用于无人车的远程驾驶端的数据传输装置的示意图;
图5是本公开实施例提供的一种计算机设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本公开实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本公开的描述。
下面将结合附图详细说明根据本公开实施例的一种数据传输方法和装置。
图1是本公开实施例的应用场景的场景示意图。该应用场景可以包括终端设备1、无人车2、服务器3以及网络4。
终端设备1可以是硬件,也可以是软件。当终端设备1为硬件时,其可以是具有显示屏且支持与服务器3通信的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等;当终端设备1为软件时,其可以安装在如上所述的电子设备中。终端设备1可以实现为多个软件或软件模块,也可以实现为单个软件或软件模块,本公开实施例对此不作限制。进一步地,终端设备1上可以安装有各种应用,例如,数据处理应用、即时通信工具、社交平台软件、远程控制软件、搜索类应用、购物类应用等。
无人车2可以是支持无人驾驶、自动驾驶和远程驾驶中的任一功能的车辆。这里,车辆可以是现有的交通工具,也可以是应用在不同领域的运输工具。例如,无人车2可以是支持无人驾驶的移动餐车,该移动餐车可以通过自动驾驶程序来实现自动驾驶,也可以通过网络4连接至远程驾驶端,并由用户在远程驾驶端对移动餐车进行远程控制,例如,远程驾驶端可以是如上所述的终端设备1。
服务器3可以是提供各种服务的服务器,例如,对与其建立通信连接的终端设备发送的请求进行接收的后台服务器,该后台服务器可以对终端设备发送的请求进行接收和分析等处理,并生成处理结果。服务器3可以是一台服务器,也可以是由若干台服务器组成的服务器集群,或者还可以是一个云计算服务中心,本公开实施例对此不作限制。
需要说明的是,服务器3可以是硬件,也可以是软件。当服务器3为硬件时,其可以是为终端设备1提供各种服务的各种电子设备。当服务器3为软件时,其可以实现为为终端设备1提供各种服务的多个软件或软件模块,也可以实现为为终端设备1提供各种服务的单个软件或软件模块,本公开实施例对此不作限制。
网络4可以是采用同轴电缆、双绞线和光纤连接的有线网络,也可以是无需布线就能实现各种通信设备互联的无线网络,例如,蓝牙(Bluetooth)、近场通信(Near FieldCommunication,NFC)、红外(Infrared)等,本公开实施例对此不作限制。
需要说明的是,终端设备1、服务器3以及网络4的具体类型、数量和组合可以根据应用场景的实际需求进行调整,本公开实施例对此不作限制。
图2是本公开实施例提供的一种用于无人车的远程驾驶端的数据传输方法的流程图。图2的用于无人车的远程驾驶端的数据传输方法可以由图1的无人车2或服务器3执行。如图2所示,该用于无人车的远程驾驶端的数据传输方法包括:
S201,在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;
S202,实时检测无人车的当前网络带宽;
S203,当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;
S204,当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;
S205,远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示模拟出的图像。
具体地,以服务器为例,在无人车进入远程驾驶模式的情况下,服务器开启摄像装置以采集无人车的周围环境的视频图像;进一步地,服务器实时检测无人车的当前网络带宽,并在检测到的网络带宽大于或等于预设阈值的情况下,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;以及在检测到的网络带宽小于预设阈值的情况下,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端,从而根据远程驾驶端基于文本信息模拟出的无人车的周围环境的图像,控制无人车行驶。
这里,无人车是指支持无人驾驶、自动驾驶和远程驾驶中的任一功能的车辆。进一步地,车辆可以是能够实现无人驾驶的各种设备,例如,无人驾驶飞机、无人驾驶船舶、自动配送设备、机器人等;也可以是具有自动巡航控制功能的车辆,例如,轿车、房车、卡车、越野车、运动型实用汽车(Sport Utility Vehicle,SUV)、电动车、自行车等,本公开实施例对此不作限制。
远程驾驶模式是借助于无线网络将无人车的信息与控制中心有效地连接起来,以实现远程驾驶人员对无人车的远程观察和远程控制指挥,即,远程驾驶人员通过查看无人车上传的信息来发出控制命令,从而控制无人车行驶。
视频图像可以由安装在无人车上的摄像装置来采集。摄像装置可以是用来拍摄无人车在行驶方向上的行驶区域的图像信息的各种设备,包括但不限于广角摄像头、双目摄像头、电荷耦合器件(Charge Coupled Device,CCD)摄像头、无线摄像头、变焦摄像机、枪型摄像机、半球摄像机、宽动态摄像机等。摄像装置可以安装在无人车上的任何位置,例如,车头、车身、车尾等,本公开实施例对此不作限制。进一步地,摄像装置内设置有无线通信模块,以经由网络向设置在无人车中的处理器或服务器或者远程驾驶端传送所拍摄的图像信息。
带宽是指在规定时间内从一端流到另一端的信息量,即数据传输率。带宽越大,通行能力越强。网络带宽是指在单位时间(一般指的是1秒钟)内能传输的数据量。上行速率是指用户电脑向网络发送信息时的数据传输速率,即,无人车向远程驾驶端传输数据的速率;下行速率是指网络向用户电脑发送信息时的传输速率。进一步地,可以利用诸如iperf、ping等网络带宽测试工具来检测网络带宽,也可以利用WebRTC来控制网络拥塞,本公开实施例对此不作限制。这里,拥塞控制是实时流媒体应用质量保证(QoS)的重要手段之一,其在缓解网络拥堵、减小网络延迟、平滑数据传输等质量保证方面发挥重要作用。WebRTC采用谷歌提出的拥塞控制算法GCC(Google Congestion Control)来控制发送端码率,通过控制发送端数据发送码率来达到控制网络拥塞的目的。
预设阈值可以是用户根据经验数据预先设置的阈值,也可以是用户根据所传输的视频图像的清晰度对已设置的间隔进行调整后得到的阈值,本公开实施例对此不作限制。例如,网络带宽的预设阈值的范围可以为80Kbps(千比特每秒)至120Kbps。优选地,在本公开实施例中,预设阈值为100Kbps。
文本是指书面语言的表现形式从文学角度说通常是具有完整、系统含义的一个句子或多个句子的组合。一个文本可以是一个句子、一个段落或者一个篇章。文本信息,也称文本文件,是指以ASCII码方式(也称文本方式)存储的文件。
模拟是指基于文本中的信息构建出与所采集的视频图像对应或一致的图像。基于文本信息模拟出图像的实现方式可以利用图像重构软件根据文本信息的内容来构建对应的图像,也可以是根据文本信息中记载的内容,从图像数据库中调用与该内容对应的图像,本公开实施例对此不作限制。
需要说明的是,在网络带宽相对稳定且能够满足视频传输需要的情况下,可以直接将所采集的周围环境的视频图像传输至无人车的远程驾驶端,而无需降低所传输视频的码率。
根据本公开实施例提供的技术方案,通过在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;实时检测无人车的当前网络带宽;当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示模拟出的图像,使得远程驾驶端的驾驶员能够依据该图像为驾驶视野控制无人车行驶,因此,实现了在网络带宽相对低的弱网条件下,由远程驾驶端基于文本信息模拟出的无人车的周围环境的图像来控制无人车行驶,减少了数据传输量,节省了网络带宽,提高了传输速度,并进一步提高了远程驾驶的安全性。
在一些实施例中,文本信息可以包括周围环境中的目标物体的特征信息和位置信息。
具体地,目标物体可以包括但不限于道路标志、车道线、交通信号灯、行人、动物、树木、无人车周围的车辆、建筑物、障碍物等。目标物体的特征信息可以包括目标物体的类型、大小、形状、颜色等,目标物体的位置信息可以包括目标物体的经纬度、实时状态、运动趋势、目标物体与无人车之间的距离值中的一个或多个。
具体地,基于文本信息模拟出图像的实现方式可以是根据文本信息中的道路标志、车道线、交通信号灯、行人、动物、树木、无人车周围的车辆、建筑物、障碍物的目物体的标记信息,以及目标物体的类型、大小、形状、颜色这些信息中一种或多种的组合,从预设的图像数据库中选取与一种或多种组合的信息相对应图像;或者,基于文本信息模拟出图像的实现方式也可以是根据文本信息中记载的目标物体的位置信息,在预设的地图中找到与该位置信息相对应的地图信息,将该地图信息作为模拟出图像。
在一些实施例中,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,包括:通过图像识别算法对所采集的视频图像中的目标物体进行识别;根据像素值的特征对所采集的视频图像进行分割,得到多个图像块;通过图像识别算法对多个图像块中的每个图像块进行识别,以确定图像块中是否存在目标物体。
具体地,服务器可以通过图像识别算法对所采集的视频图像中的目标物体进行识别,并根据像素值的特征对所采集的视频图像进行分割,得到多个图像块,多个图像块中的每个图像块与周围相邻图像块的像素值的差别值超过预设阈值;进一步地,服务器通过图像识别算法对每个图像块进行识别,以分别确定每个图像块中是否存在目标物体。
这里,图像识别是指利用计算机对图像进行处理、分析和理解,以识别各种不同模式的目标和对象的技术,是应用深度学习算法的一种实践应用。图像识别算法可以是特征识别算法、机器学习算法或深度学习算法等,本公开实施例对此不作限制。利用图像识别算法可以识别出视频图像中的目标物体。
图像分割是指将图像分成若干个特定的、具有独特性质的区域并提出感兴趣目标的技术和过程。图像分割是图像识别和计算机视觉至关重要的预处理。图像分割方法可以包括基于阈值的分割方法、基于区域的分割方法、基于边缘的分割方法、直方图法、基于诸如聚类分析、模糊集理论、基因编码、小波变换等的特定理论的分割方法等,本公开实施例对此不作限制。
像素值是原稿图像被数字化时由计算机赋予的值,它代表了原稿某一小方块的平均亮度信息,或者说是该小方块的平均反射(透射)密度信息。在将数字图像转化为网目调图像时,网点面积率(网点百分比)与数字图像的像素值(灰度值)有直接的关系,即网点以其大小表示原稿某一小方块的平均亮度信息。
在一些实施例中,通过图像识别算法对多个图像块中的每个图像块进行识别,以确定图像块中是否存在目标物体,包括:获取用于识别目标物体的神经网络模型,其中,神经网络模型为以预设的采集数据作为训练样本进行训练得到的神经网络模型;将图像块输入神经网络模型,得到图像块中是否存在目标物体的识别结果。
具体地,在通过图像识别算法对每个图像块进行识别时,服务器获取用于识别目标物体的至少一个神经网络模型,该至少一个神经网络模型中的每个神经网络模型用于识别一种目标物体,每个神经网络模型为通过训练样本集所训练出的神经网络模型。训练样本集为用于训练神经网络模型识别对应的目标物体的样本集,训练样本集可以包括多个样本对,每个样本对可以包括一张存在对应的目标物体的训练图像以及目标物体在训练图像中的轮廓,其中,训练图像用于作为神经网络模型的输入,目标物体在训练图像中的轮廓用于作为神经网络模型的输出,训练目标为能够使每个训练图像对应的输出为目标物体在图像中的轮廓。进一步地,在获取到至少一个神经网络模型之后,服务器将图像快分别输入每个神经网络模型,得到图像块中是否存在目标物体的识别结果。
在一些实施例中,该用于无人车的远程驾驶端的数据传输方法还包括:开启激光雷达以采集无人车的周围环境的点云数据,其中,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,包括:基于所采集的视频图像和点云数据计算得到周围环境的文本信息。
具体地,服务器开启激光雷达,以采集无人车的周围环境的点云数据;进一步地,服务器基于所采集的视频图像和点云数据计算得到周围环境的文本信息。
这里,激光雷达是一种光学传感器,其使用红外激光束确定传感器与附近物体之间的距离。在本公开实施例中,激光雷达用于采集无人车在行驶方向上的点云数据。激光雷达可以安装在无人车的任何位置,例如,车头、车身、车尾等,本公开实施例对此不作限制。
点云数据是指在一个三维坐标系统中的一组向量的集合。点云数据除了具有几何位置以外,有的还有颜色信息,颜色信息通常是通过相机获取彩色影像,然后将对应位置的像素的颜色信息(RGB)赋予点云中对应的点。
上述所有可选技术方案,可以采用任意结合形成本申请的可选实施例,在此不再一一赘述。
图3是本公开实施例提供的另一种用于无人车的远程驾驶端的数据传输方法的流程图。图3的用于无人车的远程驾驶端的数据传输方法可以由图1的无人车2或服务器3执行。如图3所示,该用于无人车的远程驾驶端的数据传输方法包括:
S301,在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;
S302,实时检测无人车的当前网络带宽;
S303,确定当前网络带宽是否小于预设阈值,如果是,则执行S304;否则,执行S307;
S304,停止周围环境的视频图像的传输;
S305,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;
S306,远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示该模拟出的图像;
S307,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像。
根据本公开实施例提供的技术方案,通过在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;实时检测无人车的当前网络带宽;当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示模拟出的图像,使得远程驾驶端的驾驶员能够依据该图像为驾驶视野控制无人车行驶,因此,实现了在网络带宽相对低的弱网条件下,由远程驾驶端基于文本信息模拟出的无人车的周围环境的图像来控制无人车行驶,减少了数据传输量,节省了网络带宽,提高了传输速度,并进一步提高了远程驾驶的安全性。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本公开实施例的实施过程构成任何限定。
下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
图4是本公开实施例提供的一种用于无人车的远程驾驶端的数据传输装置的示意图。如图4所示,该用于无人车的远程驾驶端的数据传输装置包括:
第一采集模块401,被配置为在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;
检测模块402,被配置为实时检测无人车的当前网络带宽;
第一传输模块403,被配置为当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;
第二传输模块404,被配置为当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;
显示模块405,被配置为远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示该模拟出的图像。
根据本公开实施例提供的技术方案,通过在无人车进入远程驾驶模式的情况下,开启摄像装置以采集无人车的周围环境的视频图像;实时检测无人车的当前网络带宽;当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至无人车的远程驾驶端,以使远程驾驶端显示周围环境的视频图像;当检测到的网络带宽小于预设阈值时,停止周围环境的视频图像的传输,基于所采集的视频图像计算得到与视频图像关联的周围环境的文本信息,并将文本信息传输至远程驾驶端;远程驾驶端基于文本信息模拟出车辆周围环境的图像,并显示模拟出的图像,使得远程驾驶端的驾驶员能够依据该图像为驾驶视野控制无人车行驶,因此,实现了在网络带宽相对低的弱网条件下,由远程驾驶端基于文本信息模拟出的无人车的周围环境的图像来控制无人车行驶,减少了数据传输量,节省了网络带宽,提高了传输速度,并进一步提高了远程驾驶的安全性。
在一些实施例中,文本信息包括周围环境中的目标物体的特征信息和位置信息。
在一些实施例中,图4的第二传输模块404通过图像识别算法对所采集的视频图像中的目标物体进行识别,根据像素值的特征对所采集的视频图像进行分割得到多个图像块,并通过图像识别算法对多个图像块中的每个图像块进行识别以确定图像块中是否存在目标物体。
在一些实施例中,图4的第二传输模块404获取用于识别目标物体的神经网络模型,其中,神经网络模型为以预设的采集数据作为训练样本进行训练得到的神经网络模型,并将图像块输入神经网络模型,得到图像块中是否存在目标物体的识别结果。
在一些实施例中,目标物体的特征信息包括目标物体的类型、目标物体的大小、目标物体的形状,目标物体的位置信息包括目标物体的坐标、目标物体的实时状态、目标物体的运动趋势、目标物体与车辆之间的距离值中的一个或多个。
在一些实施例中,该用于无人车的远程驾驶端的数据传输装置还包括:第二采集模块406,被配置为开启激光雷达以采集无人车的周围环境的点云数据;其中,图4的第二传输模块404基于所采集的视频图像和点云数据计算得到周围环境的文本信息。
在一些实施例中,预设阈值为100千比特每秒。
图5是本公开实施例提供的一种计算机设备5的示意图。如图5所示,该实施例的计算机设备5包括:处理器501、存储器502以及存储在该存储器502中并且可以在处理器501上运行的计算机程序503。处理器501执行计算机程序503时实现上述各个方法实施例中的步骤。或者,处理器501执行计算机程序503时实现上述各装置实施例中各模块/单元的功能。
示例性地,计算机程序503可以被分割成一个或多个模块/单元,一个或多个模块/单元被存储在存储器502中,并由处理器501执行,以完成本公开。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序503在计算机设备5中的执行过程。
计算机设备5可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算机设备。计算机设备5可以包括但不仅限于处理器501和存储器502。本领域技术人员可以理解,图5仅仅是计算机设备5的示例,并不构成对计算机设备5的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如,计算机设备还可以包括输入输出设备、网络接入设备、总线等。
处理器501可以是中央处理单元(Central Processing Unit,CPU),也可以是其它通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器502可以是计算机设备5的内部存储单元,例如,计算机设备5的硬盘或内存。存储器502也可以是计算机设备5的外部存储设备,例如,计算机设备5上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器502还可以既包括计算机设备5的内部存储单元也包括外部存储设备。存储器502用于存储计算机程序以及计算机设备所需的其它程序和数据。存储器502还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本公开的范围。
在本公开所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本公开实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,计算机程序可以存储在计算机可读存储介质中,该计算机程序在被处理器执行时,可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是,计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如,在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本公开的技术方案,而非对其限制;尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围,均应包含在本公开的保护范围之内。
Claims (10)
1.一种用于无人车的远程驾驶端的数据传输方法,其特征在于,包括:
在所述无人车进入远程驾驶模式的情况下,开启摄像装置以采集所述无人车的周围环境的视频图像;
实时检测所述无人车的当前网络带宽;
当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至所述无人车的所述远程驾驶端,以使所述远程驾驶端显示所述周围环境的视频图像;
当检测到的网络带宽小于所述预设阈值时,停止所述周围环境的视频图像的传输,基于所采集的视频图像计算得到与所述视频图像关联的所述周围环境的文本信息,并将所述文本信息传输至所述远程驾驶端;
所述远程驾驶端基于所述文本信息模拟出车辆周围环境的图像,并显示所述模拟出的图像。
2.根据权利要求1所述的方法,其特征在于,所述文本信息包括所述周围环境中的目标物体的特征信息和位置信息。
3.根据权利要求2所述的方法,其特征在于,所述基于所采集的视频图像计算得到与所述视频图像关联的所述周围环境的文本信息,包括:
通过图像识别算法对所采集的视频图像中的所述目标物体进行识别;
根据像素值的特征对所采集的视频图像进行分割,得到多个图像块;
通过所述图像识别算法对所述多个图像块中的每个图像块进行识别,以确定所述图像块中是否存在所述目标物体。
4.根据权利要求3所述的方法,其特征在于,所述通过所述图像识别算法对所述多个图像块中的每个图像块进行识别,以确定所述图像块中是否存在所述目标物体,包括:
获取用于识别所述目标物体的神经网络模型,其中,所述神经网络模型为以预设的采集数据作为训练样本进行训练得到的神经网络模型;
将所述图像块输入所述神经网络模型,得到所述图像块中是否存在所述目标物体的识别结果。
5.根据权利要求2所述的方法,其特征在于,所述目标物体的特征信息包括所述目标物体的类型、所述目标物体的大小、所述目标物体的形状,所述目标物体的位置信息包括所述目标物体的坐标、所述目标物体的实时状态、所述目标物体的运动趋势、所述目标物体与所述无人车之间的距离值中的一个或多个。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述方法还包括:
开启激光雷达以采集所述无人车的所述周围环境的点云数据;
其中,所述基于所采集的视频图像计算得到与所述视频图像关联的所述周围环境的文本信息,包括:
基于所采集的视频图像和点云数据计算得到所述周围环境的文本信息。
7.根据权利要求1至5中任一项所述的方法,其特征在于,所述预设阈值为100千比特每秒。
8.一种用于无人车的远程驾驶端的数据传输装置,其特征在于,包括:
第一采集模块,被配置为在所述无人车进入远程驾驶模式的情况下,开启摄像装置以采集所述无人车的周围环境的视频图像;
检测模块,被配置为实时检测所述无人车的当前网络带宽;
第一传输模块,被配置为当检测到的网络带宽大于或等于预设阈值时,将所采集的周围环境的视频图像传输至所述无人车的所述远程驾驶端,以使所述远程驾驶端显示所述周围环境的视频图像;
第二传输模块,被配置为当检测到的网络带宽小于所述预设阈值时,停止所述周围环境的视频图像的传输,基于所采集的视频图像计算得到与所述视频图像关联的所述周围环境的文本信息,并将所述文本信息传输至所述远程驾驶端;
显示模块,被配置为所述远程驾驶端基于所述文本信息模拟出车辆周围环境的图像,并显示所述模拟出的图像。
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器中并且可以在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
10.一种存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110723312.5A CN113246991B (zh) | 2021-06-29 | 2021-06-29 | 用于无人车的远程驾驶端的数据传输方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110723312.5A CN113246991B (zh) | 2021-06-29 | 2021-06-29 | 用于无人车的远程驾驶端的数据传输方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113246991A true CN113246991A (zh) | 2021-08-13 |
CN113246991B CN113246991B (zh) | 2021-11-30 |
Family
ID=77190132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110723312.5A Active CN113246991B (zh) | 2021-06-29 | 2021-06-29 | 用于无人车的远程驾驶端的数据传输方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113246991B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113607184A (zh) * | 2021-09-15 | 2021-11-05 | 新石器慧通(北京)科技有限公司 | 车辆导航方法、装置、电子设备及存储介质 |
CN114255252A (zh) * | 2022-02-28 | 2022-03-29 | 新石器慧通(北京)科技有限公司 | 障碍物轮廓获取方法、装置、设备及计算机可读存储介质 |
CN114454889A (zh) * | 2022-04-14 | 2022-05-10 | 新石器慧通(北京)科技有限公司 | 用于远程驾驶的行驶路面状况反馈方法、装置和无人车 |
CN117082303A (zh) * | 2023-10-16 | 2023-11-17 | 深圳金语科技有限公司 | 流媒体行车监控方法及其设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006020305A (ja) * | 2004-06-30 | 2006-01-19 | Lg Electronics Inc | 移動通信端末機の映像信号伝送方法 |
CN103473950A (zh) * | 2012-06-06 | 2013-12-25 | 刘鉵 | 一种停车场车位监控方法 |
CN104010166A (zh) * | 2014-06-05 | 2014-08-27 | 厦门雅迅网络股份有限公司 | 一种车载设备无线远程视频监控自适应传输的方法 |
CN204217064U (zh) * | 2014-11-11 | 2015-03-18 | 深圳市视晶无线技术有限公司 | 一种低码率视频编码传输重构系统 |
CN105678702A (zh) * | 2015-12-25 | 2016-06-15 | 北京理工大学 | 一种基于特征跟踪的人脸图像序列生成方法及装置 |
CN106559636A (zh) * | 2015-09-25 | 2017-04-05 | 中兴通讯股份有限公司 | 一种视频通信方法、装置及系统 |
CN106845547A (zh) * | 2017-01-23 | 2017-06-13 | 重庆邮电大学 | 一种基于摄像头的智能汽车定位与道路标识识别系统及方法 |
-
2021
- 2021-06-29 CN CN202110723312.5A patent/CN113246991B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006020305A (ja) * | 2004-06-30 | 2006-01-19 | Lg Electronics Inc | 移動通信端末機の映像信号伝送方法 |
CN103473950A (zh) * | 2012-06-06 | 2013-12-25 | 刘鉵 | 一种停车场车位监控方法 |
CN104010166A (zh) * | 2014-06-05 | 2014-08-27 | 厦门雅迅网络股份有限公司 | 一种车载设备无线远程视频监控自适应传输的方法 |
CN204217064U (zh) * | 2014-11-11 | 2015-03-18 | 深圳市视晶无线技术有限公司 | 一种低码率视频编码传输重构系统 |
CN106559636A (zh) * | 2015-09-25 | 2017-04-05 | 中兴通讯股份有限公司 | 一种视频通信方法、装置及系统 |
CN105678702A (zh) * | 2015-12-25 | 2016-06-15 | 北京理工大学 | 一种基于特征跟踪的人脸图像序列生成方法及装置 |
CN106845547A (zh) * | 2017-01-23 | 2017-06-13 | 重庆邮电大学 | 一种基于摄像头的智能汽车定位与道路标识识别系统及方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113607184A (zh) * | 2021-09-15 | 2021-11-05 | 新石器慧通(北京)科技有限公司 | 车辆导航方法、装置、电子设备及存储介质 |
CN113607184B (zh) * | 2021-09-15 | 2024-05-24 | 新石器慧通(北京)科技有限公司 | 车辆导航方法、装置、电子设备及存储介质 |
CN114255252A (zh) * | 2022-02-28 | 2022-03-29 | 新石器慧通(北京)科技有限公司 | 障碍物轮廓获取方法、装置、设备及计算机可读存储介质 |
CN114454889A (zh) * | 2022-04-14 | 2022-05-10 | 新石器慧通(北京)科技有限公司 | 用于远程驾驶的行驶路面状况反馈方法、装置和无人车 |
CN117082303A (zh) * | 2023-10-16 | 2023-11-17 | 深圳金语科技有限公司 | 流媒体行车监控方法及其设备 |
CN117082303B (zh) * | 2023-10-16 | 2024-01-30 | 深圳金语科技有限公司 | 流媒体行车监控方法及其设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113246991B (zh) | 2021-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113246991B (zh) | 用于无人车的远程驾驶端的数据传输方法和装置 | |
US11747809B1 (en) | System and method for evaluating the perception system of an autonomous vehicle | |
CN110019570B (zh) | 用于构建地图的方法、装置及终端设备 | |
CN107274695B (zh) | 智能照明系统、智能车辆及其车辆辅助驾驶系统和方法 | |
EP3944213A2 (en) | Method and apparatus of controlling traffic, roadside device and cloud control platform | |
WO2020083024A1 (zh) | 障碍物的识别方法和装置、存储介质、电子装置 | |
EP3252658B1 (en) | Information processing apparatus and information processing method | |
CN108068817A (zh) | 一种无人驾驶汽车自动变道装置及方法 | |
CN113607184B (zh) | 车辆导航方法、装置、电子设备及存储介质 | |
CN113127583A (zh) | 一种数据传输方法和装置 | |
CN110738251A (zh) | 图像处理方法、图像处理装置、电子设备及存储介质 | |
CN112270309A (zh) | 一种车辆卡口设备抓拍质量评估方法、装置及可读介质 | |
CN113525228A (zh) | 遮挡信息显示方法、装置、电子设备及存储介质 | |
CN112769877A (zh) | 团雾预警方法、云端服务器及车辆和介质 | |
CN109903308B (zh) | 用于获取信息的方法及装置 | |
CN111277956A (zh) | 车辆盲区信息的采集方法及装置 | |
CN113852795A (zh) | 视频画面调整方法、装置、电子设备及存储介质 | |
CN113496163B (zh) | 障碍物识别方法和装置 | |
CN112509321A (zh) | 一种基于无人机的城市复杂交通情景的驾驶控制方法、系统及可读存储介质 | |
CN112926415A (zh) | 一种行人避让系统和行人监测方法 | |
CN113409393B (zh) | 用于识别交通标志牌的方法及装置 | |
CN112435475B (zh) | 一种交通状态检测方法、装置、设备及存储介质 | |
JP7505596B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
CN114454889B (zh) | 用于远程驾驶的行驶路面状况反馈方法、装置和无人车 | |
KR102680900B1 (ko) | 파노라마 영상데이터에서 이웃차량탐지데이터와 위치측정데이터로 이루어진 실시간 자율협력주행 지원데이터 생성·전송장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |