CN112640332A - 一种通信方法及装置 - Google Patents
一种通信方法及装置 Download PDFInfo
- Publication number
- CN112640332A CN112640332A CN202080004095.8A CN202080004095A CN112640332A CN 112640332 A CN112640332 A CN 112640332A CN 202080004095 A CN202080004095 A CN 202080004095A CN 112640332 A CN112640332 A CN 112640332A
- Authority
- CN
- China
- Prior art keywords
- sensors
- time synchronization
- clock
- time
- target sensors
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 102
- 238000004891 communication Methods 0.000 title claims abstract description 77
- 230000004927 fusion Effects 0.000 claims abstract description 169
- 230000015654 memory Effects 0.000 claims description 35
- 230000005540 biological transmission Effects 0.000 claims description 28
- 230000001934 delay Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 10
- 102100028082 Tapasin Human genes 0.000 claims description 7
- 108010059434 tapasin Proteins 0.000 claims description 7
- 230000001360 synchronised effect Effects 0.000 abstract description 8
- 230000006870 function Effects 0.000 description 40
- 230000008569 process Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 17
- 238000004458 analytical method Methods 0.000 description 15
- 238000005259 measurement Methods 0.000 description 15
- 238000004364 calculation method Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 238000001514 detection method Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 9
- 238000007499 fusion processing Methods 0.000 description 9
- 230000008447 perception Effects 0.000 description 9
- 230000002829 reductive effect Effects 0.000 description 9
- 230000002093 peripheral effect Effects 0.000 description 8
- 230000007613 environmental effect Effects 0.000 description 6
- 230000003993 interaction Effects 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 5
- 230000006399 behavior Effects 0.000 description 5
- 230000000737 periodic effect Effects 0.000 description 5
- 230000010267 cellular communication Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000001960 triggered effect Effects 0.000 description 4
- 206010039203 Road traffic accident Diseases 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- ATUOYWHBWRKTHZ-UHFFFAOYSA-N Propane Chemical compound CCC ATUOYWHBWRKTHZ-UHFFFAOYSA-N 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 239000002253 acid Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 238000001556 precipitation Methods 0.000 description 1
- 239000001294 propane Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000979 retarding effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/02—Details
- H04L12/12—Arrangements for remote connection or disconnection of substations or of equipment thereof
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04J—MULTIPLEX COMMUNICATION
- H04J3/00—Time-division multiplex systems
- H04J3/02—Details
- H04J3/06—Synchronising arrangements
- H04J3/0635—Clock or time synchronisation in a network
- H04J3/0638—Clock or time synchronisation among nodes; Internode synchronisation
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0011—Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请实施例公开了一种通信方法及装置,其中,该方法应用于智能设备,该智能设备包括多个传感器。该方法包括:从多个传感器中确定N个目标传感器,N为大于1的整数。将N个目标传感器各自的第二时刻修正为第一时钟的第一时刻。采用本申请实施例,可以将智能设备内不同传感器的时间进行同步,从而保证不同传感器采集的数据的准确融合。
Description
技术领域
本申请实施例涉及时间同步技术领域,尤其涉及一种通信方法及装置。
背景技术
在自动驾驶和辅助驾驶中,智能车辆往往需要通过各类传感器对周边的环境进行感知。其中,较为典型的传感器包括毫米波雷达、摄像机和激光雷达等。智能车辆可以通过这些传感器对车辆周边的环境进行检测、分类,并将获取到的信息传输到规划和控制模块,形成对车辆未来行驶路径的决策,并最终通过执行器来执行,从而完成整个辅助驾驶或自动驾驶的过程。
不同类型的传感器往往有着不同的特点和优缺点。例如,毫米波雷达可以全天候工作,同时具备较高的测距精度和测速精度,但是其分类效果较差。而摄像机具有强大的分辨率,有着很强的目标分类效果,但是因为丧失了深度信息,所以摄像机的测距和测速等能力较差。此外,激光雷达具有较好的深度信息,同时也可以进行测距和测速,但是其能够检测的距离较短。如上所述,由于不同类型的传感器具备不同的特征,因此,在不同的功能需求下,往往需要将各类传感器采集到的数据进行融合处理,从而得到更高精度、更全面的数据,以实现更好的环境感知和路况分析等。
因此如何实现各个传感器采集数据的准确融合是亟待解决的问题。
发明内容
本申请实施例提供一种通信方法及装置,可以将同一设备内的不同传感器的时间进行同步,从而保证不同传感器采集的数据的准确融合。
第一方面,本申请实施例提供了一种通信方法,应用于智能设备,所述智能设备包括多个传感器。所述方法包括:从所述多个传感器中确定N个目标传感器,N为大于1的整数,将所述N个目标传感器各自的第二时刻修正为第一时钟的第一时刻。
通过第一方面提供的方法,在包括多个传感器的智能设备(例如具备自动驾驶功能的智能车辆或者智能机器人等等)中,可以基于一个基准时钟(第一时钟),对其中的部分或者全部传感器各自的本地时钟进行时间同步,以修正各个传感器的时刻,从而得到基于该基准时钟进行时间同步后的时刻。如此,在该部分或者全部传感器采集到的数据需要进行数据融合或者数据比对的情况下,由于各个传感器的时间已同步,从而可以保证各个传感器采集到的数据的时间信息(例如该数据的采集完成时刻)的准确性,进而可以保证其数据融合或者数据比对的准确性,比如可以保证其数据融合为针对同一场景的有效融合。若在利用多个传感器的数据进行融合时,不考虑各个传感器之间的时间是否同步,则容易导致实际同一时间采集的数据在不同传感器上的时间不同,或者实际不同时间采集的数据在不同传感器上的时间相同,从而无法将实际同一时间的数据顺利地进行融合,或者导致将不同时间的数据进行错误融合,等等,继而引发智能车辆产生目标虚警和非必要的自动紧急制动等,危害驾驶安全。综上,在一些可能的实施例中,例如在自动驾驶的场景中,本申请实施例可以对时间同步后的多个传感器的数据进行准确、有效的融合处理,从而可以得到更加全面、精准的路况分析和环境感知等,提高驾驶的舒适性和安全性。
在一种可能的实现方式中,该方法还可以包括:基于预设的时间同步协议,确定所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及确定所述N个目标传感器各自的传输时延。基于所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及所述N个目标传感器各自的传输时延,对所述N个目标传感器进行时间同步。
在本申请实施例中,可以基于预设的时间同步协议(例如较为常见的广义精确时钟协议(generalized precision time protocol,gPTP)和网络时间协议(network timeprotocol,NTP)等等),确定多个传感器各自的时钟与基准时钟之间的时钟频率偏差,以及确定该多个传感器各自的传输时延。然后,基于该多个传感器各自的时钟与基准时钟之间的时钟频率偏差,以及该多个传感器各自的传输时延,对该多个传感器进行时间同步。从而可以修正该多个传感器各自的时刻,例如具体可以基于该时间同步,确定多个传感器各自时钟的快慢,然后对各自的时刻进行相应的加减。进一步地还可以将多个传感器各自时钟的时钟频率与该基准时钟的时钟频率调整至一致的频率。如此,后续在将该多个时间同步后的传感器采集到的数据进行融合时,可以基于时间同步后各个数据准确的时间信息,进行准确的数据融合。在一些可能的实施例中,该基准时钟可以为控制器的时钟,或者任意一个传感器的时钟。
在一种可能的实现方式中,该方法还可以还包括:
获取所述智能设备当前的状态信息,该状态信息包括速度信息、方向信息和场景信息中的至少一种;
基于状态信息,确定所述预设的时间同步协议;所述预设的时间同步协议属于一个时间同步协议集合,所述时间同步协议集合包括广义精准时钟协议gPTP、网络时间协议NTP、传感器网络时间同步协议TPSN和参考广播同步RBS中的至少一种。
在本申请实施例中,还可以基于智能设备当前的速度信息(例如智能车辆当前的时速)、方向信息(例如智能车辆的左转、右转或者掉头等信息)和场景信息(例如左转弯道、右转弯道、U型弯道、桥面、泥路和高速路等等场景)等等中的一种或多种,确定本次时间同步所要使用的时间同步协议。该时间同步协议可以属于一个时间同步协议集合,该时间同步协议集合中可以包括较为常见的广义精准时钟协议gPTP和网络时间协议NTP,还可以包括其他可行的时间同步协议,例如,传感器网络时间同步协议(time-syc protocol forsensor network,TPSN),参考广播同步(references broadcast synchronization,RBS)等,本申请实施例对此不作具体限定。如此,例如在弯道,尤其是U型弯等对时间同步的精度要求比较高的场景中,不符合要求的时间同步往往会导致目标检测位置的检测偏差较大,此时可以选择时间同步精度较高的广义精准时钟协议gPTP对多个传感器进行时间同步。又例如,车辆速度较快的时候对于时间同步的要求较高,不符合要求的时间同步会导致目标车辆速度融合效果较差,此时可以选择时间同步精度较高的广义精准时钟协议gPTP对多个传感器进行时间同步。还例如,车道居中控制(lane centering control,LCC)等横向控制功能比自适应巡航控制(adaptive cruise control,ACC)等纵向控制功能对于时间同步的要求较高,不符合要求的时间同步会导致无法进行横向功能控制,如此,在检测到当前智能车辆为车道居中控制时,可以选择时间同步精度较高的广义精准时钟协议gPTP对多个传感器进行时间同步,而在检测到当前智能车辆为自适应巡航控制时,可以选择时间同步精度较低的网络时间协议NTP对多个传感器进行时间同步。如此可以满足不用情况下对时间同步精度的实际需求,并且在精度要求较低的情况下可以通过使用精度较低的时间同步协议减少计算量、降低成本。
在一种可能的实现方式中,该方法还可以包括:
基于预设的时间同步周期,获取所述第一时钟。
在本申请实施例中,可以通过设置一定的时间同步周期,在该周期的触发下,获取用于时间同步的基准时钟,以进行周期性的时间同步。如此,可以避免在进行时间同步一段时间后,各个传感器的时间又再次失步的情况,保证该多个传感器的时间可以实时的同步,从而在需要对该多个传感器采集的数据进行融合时,保证其数据融合的准确性。
在一种可能的实现方式中,该方法还可以包括:
接收所述多个传感器中的M个目标传感器各自发送的同步请求消息;所述同步请求消息为所述M个目标传感器在各自的第二时刻采集数据后发送的消息;所述M个目标传感器属于所述N个目标传感器,M为大于或者等于1的整数;
基于所述M个目标传感器各自发送的所述同步请求消息,获取所述第一时钟。
在本申请实施例中,还可以通过事件触发的方式,获取基准时钟,以进行时间同步。例如可以基于一个或多个传感器在采集完数据后发送的同步请求消息,触发获取该基准时钟,以进行时间同步。可以理解的是,该一个或多个传感器可以为有数据融合需求的传感器,其在采集完数据后,明确该数据需与其他的传感器进行数据融合,并在该融合前需要与其他传感器进行时间同步,以保证数据融合的准确性。从而可以在采集完数据后触发其发送同步请求消息,从而进一步触发进行时间同步。也即,本申请实施例可以在传感器有时间同步需求的情况下,触发进行时间同步,从而减少非必要的时间同步,减少计算量等等。与此同时,还可以保证每次融合前都已进行时间同步,进而可以保证每次融合的准确性。
在一种可能的实现方式中,所述从所述多个传感器中确定N个目标传感器,包括:
基于所述M个目标传感器和预设的融合规则,从所述多个传感器中确定用于与所述M目标传感器进行数据融合的N-M个目标传感器,所述N-M个目标传感器属于所述N个目标传感器。
在本申请实施例中,可以在接收到该一个或多个传感器(也即有数据融合需求的传感器)发送的同步请求后,根据该一个或多个传感器以及预设的融合规则,从该智能设备包括的多个传感器中确定用于与该一个或多个传感器进行数据融合的其他传感器。例如该发送同步请求消息的传感器为智能车辆内的摄像机,需要说明的是,摄像机具备强大的分辨率,以及优秀的目标分类效果,但是其丧失了深度信息,无法进行准确的距离测量和速度测量。但是,智能车辆内的毫米波雷达具备较高精度的测距和测速能力,但是其分类效果较差。摄像机和毫米波雷达两者之间具备互补的功能,如此,可以基于数据互补的融合规则,确定该智能车辆中的毫米波雷达可以用于与该摄像机进行数据融合。从而后续可以对该摄像机以及毫米波雷达进行时间同步,保证两者数据融合的准确性,进而为智能车辆提供更加全面的路况分析和环境感知,提升驾驶舒适性和安全性。
在一种可能的实现方式中,其特征在于,所述时间同步为相对时间同步或者绝对时间同步;若所述时间同步为相对时间同步,则所述第一时钟为相对时钟;若所述时间同步为绝对时间同步,则所述第一时钟为绝对时钟。
在本申请实施例中,在对多个传感器进行时间同步时,可以是相对时间同步,也可以是绝对时间同步。若时间同步为相对时间同步,则获取的基准时钟可以为相对时钟(例如可以为智能车辆内部的时钟,该相对时钟显示的时间可以与实际的时间不同,还可以显示为简单的第32分钟、第60分钟,或者1小时1分钟前、5分钟前等等形式的相对时间);若时间同步为绝对时间同步,则获取的基准时钟可以为绝对时钟(例如可以为标准的世界时间,例如为北京时间等等)。一般情况,在智能设备内部,只需保证各个传感器的相对时间同步即可,但在需要进行外部通信时,例如将本智能设备的多个传感器的数据与其他智能设备内的多个传感器的数据进行融合或者分析比对时,往往可以进行绝对时间同步,保证其数据融合或者分析比的准确性。
在一种可能的实现方式中,该方法还可以包括:
将所述N个目标传感器各自采集的数据进行数据融合。
在本申请实施例中,例如在自动驾驶的场景中,本申请实施例可以对时间同步后的多个传感器采集的数据进行准确、有效的融合处理,从而可以得到更加全面、精准的路况分析和环境感知等,提高驾驶的舒适性和安全性。在一些可能的实施例中,还可以是将智能机器人内的多个传感器进行时间同步,然后对该时间同步后的多个传感器采集到的数据进行融合,从而使得智能机器人能够更好的感知环境,进行避障等操作。需要说明的是,本申请实施例还可以用于除上述所述的场景之外的其他场景,例如将多个传感器采集到的数据进行分析比对,检测各个传感器的性能,等等,本申请实施例对此不作具体限定。
第二方面,本申请实施例提供了一种通信装置,应用于智能设备,所述智能设备包括多个传感器;所述装置包括:
第一确定单元,用于从所述多个传感器中确定N个目标传感器,N为大于1的整数;
修正单元,用于基于第一时钟,将所述N个目标传感器各自的第二时刻修正为所述第一时钟的第一时刻。
在一种可能的实现方式中,所述装置还包括:
第二确定单元,用于基于预设的时间同步协议,确定所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及确定所述N个目标传感器各自的传输时延;
时间同步单元,用于基于所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及所述N个目标传感器各自的传输时延,对所述N个目标传感器进行时间同步。
在一种可能的实现方式中,所述装置还包括:
第一获取单元,用于获取所述智能设备当前的状态信息,所述状态信息包括速度信息、方向信息和场景信息中的至少一种;
第三确定单元,用于基于所述状态信息,确定所述预设的时间同步协议;所述预设的时间同步协议属于一个时间同步协议集合,所述时间同步协议集合包括广义精准时钟协议gPTP、网络时间协议NTP、传感器网络时间同步协议TPSN和参考广播同步RBS中的至少一种。
在一种可能的实现方式中,所述装置还包括:
第二获取单元,用于基于预设的时间同步周期,获取所述第一时钟。
在一种可能的实现方式中,所述装置还包括:
接收单元,用于接收所述多个传感器中的M个目标传感器各自发送的同步请求消息;所述同步请求消息为所述M个目标传感器在各自的第二时刻采集数据后发送的消息;所述M个目标传感器属于所述N个目标传感器,M为大于或者等于1的整数;
第三获取单元,用于基于所述M个目标传感器各自发送的所述同步请求消息,获取所述第一时钟。
在一种可能的实现方式中,所述第一确定单元,具体用于:
基于所述M个目标传感器和预设的融合规则,从所述多个传感器中确定用于与所述M目标传感器进行数据融合的N-M个目标传感器,所述N-M个目标传感器属于所述N个目标传感器。
在一种可能的实现方式中,所述时间同步为相对时间同步或者绝对时间同步;若所述时间同步为相对时间同步,则所述第一时钟为相对时钟;若所述时间同步为绝对时间同步,则所述第一时钟为绝对时钟。
在一种可能的实现方式中,所述装置还包括:
融合单元,用于将所述N个目标传感器各自采集的数据进行数据融合。
第三方面,本申请提供一种通信装置,该装置包括处理器,该处理器被配置为支持该通信装置实现第一方面提供的通信方法中相应的功能。该通信装置还可以包括存储器,存储器用于与处理器耦合,其保存程序指令和/或数据。该装置还可以包括通信接口,用于该装置与其它设备或通信网络通信。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述第一方面中任意一项所述的通信方法。
第五方面,本申请实施例提供了一种计算机程序,该计算机程序包括指令,当该指令被计算机执行时,使得计算机可以执行上述第一方面中任意一项所述的通信方法。
第六方面,本申请实施例提供了一种芯片系统,该芯片系统包括上述第二方面中任意一项所述的通信装置,用于实现上述第一方面中任意一项所述的通信方法所涉及的功能。在一种可能的设计中,所述芯片系统还包括存储器,所述存储器,用于保存程序指令和/或数据。该芯片系统,可以由芯片构成,也可以包含芯片和其他分立器件。
第七方面,本申请实施例提供了一种通信系统,包括第二方面中任意一项所述的通信装置,第三方面所述的通信装置,或者第六方面所述的芯片系统中的至少一个,以及多个传感器。
附图说明
图1a为一种数据融合示意图。
图1b为另一种数据融合示意图。
图1c为又一种数据融合示意图。
图2a为本申请实施例提供的一种智能车辆的功能框图。
图2b为本申请实施例提供的一种计算机系统的结构示意图。
图2c为本申请实施例提供的一种通信方法的系统架构示意图。
图3为本申请实施例提供的一种应用场景示意图。
图4a为本申请实施例提供的另一种应用场景示意图。
图4b为本申请实施例提供的又一种应用场景示意图。
图5为本申请实施例提供的一种通信方法的流程示意图。
图6为本申请实施例提供的另一种通信方法的流程示意图。
图7为本申请实施例提供的又一种通信方法的流程示意图。
图8为本申请实施例提供的又一种通信方法的流程示意图。
图9为本申请实施例提供的又一种通信方法的流程示意图。
图10为本申请实施例提供的一种通信装置的结构示意图。
图11为本申请实施例提供的一种智能设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例进行描述。
本申请的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选的还包括没有列出的步骤或单元,或可选的还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。可以理解的,在不冲突的情况下,本文所描述的实施例可以与其它实施例相结合。
在本说明书中使用的术语“部件”、“模块”、“系统”等用于表示计算机相关的实体、硬件、固件、硬件和软件的组合、软件、或执行中的软件。例如,部件可以是但不限于,在处理器上运行的进程、处理器、对象、可执行文件、执行线程、程序和/或计算机。通过图示,在计算设备上运行的应用和计算设备都可以是部件。一个或多个部件可驻留在进程和/或执行线程中,部件可位于一个计算机上和/或分布在2个或更多个计算机之间。此外,这些部件可从在上面存储有各种数据的各种计算机可读介质执行。部件可例如根据具有一个或多个数据分组(例如来自与本地系统、分布式系统和/或网络间的另一部件交互的二个部件的数据,例如通过信号与其它系统交互的互联网)的信号通过本地和/或远程进程来通信。
首先,对本申请中的部分用语进行解释说明,以便于本领域技术人员理解。
(1)时间同步,是指通过对本地时钟的某些操作,达到为分布式系统提供一个统一时间标度的过程。在集中式系统中,由于所有进程或者模块都可以从系统唯一的全局时钟中获取时间,因此系统内任何两个事件都有着明确的先后关系。而在分布式系统中,由于物理上的分散性,系统无法为彼此间相互独立的模块提供一个统一的全局时钟,而由各个进程或模块各自维护它们的本地时钟。由于这些本地时钟的计时速率、运行环境存在不一致性,因此即使所有本地时钟在某一时刻都被校准,一段时间后,这些本地时钟也会出现不一致。为了这些本地时钟再次达到相同的时间值,必须进行时间同步操作。一般情况下,所谓系统中各时钟的同步,并不要求各时钟完全与系统标准时钟对齐。只要求知道各时钟与系统标准时钟在比对时刻的钟差以及比对后它相对系统标准时钟的漂移修正参数即可,无需拨钟。在本申请实施例中,可以根据获取到的第一时钟(可以为上述的系统标准时钟)对智能设备内的多个传感器的时钟进行时间同步,根据存在的偏差对各个传感器的时间进行修正。
(2)广义精确时钟协议(generalized precision time protocol,gPTP),是一种用来保障数据收发的终端之间进行时间同步的标准,可以达到纳秒级之间的同步精度。gPTP的用途是将车载网络中各个节点的时钟进行同步,因为各个节点的时钟都是互相独立运行的,而有些应用需要各个节点步调一致地执行。比如播放音频和视频的任务可能在不同的节点上实现,那么这两个设备必须要有相同的时钟基准,否则可能出现画面和声音对不上的情况。
(3)网络时间协议(network time protocol,NTP),是一种基于用户数据报协议(user datagram protocol,UDP),用于网络时间同步的协议,使网络中的终端设备时钟同步到协调世界时间(coordinated universal time,UTC),再配合各个时区的偏移调整就能实现精准同步对时功能。利用NTP服务器提供的时间同步功能,可以使设备时钟系统能够正确运行,满足融合系统的时间同步需求。
为了便于理解本申请实施例,进一步分析并提出本申请所具体要解决的技术问题,以下示例性的列举关于多传感器的数据融合技术的一种方案。
基于多个传感器各自采集到的数据的时间信息,将多个数据对齐到融合模块的同一时间,从而对该多个数据进行融合处理。
首先,需要说明的是,例如在智能车辆的自动驾驶等领域中,智能车辆内的多个传感器的数据进行融合的前提条件为,该多个传感器的数据为该多个传感器针对同一场景采集到的数据,否则无法进行有效融合。而判断多个传感器采集的数据是否针对同一场景的一个重要标准便是数据的时间信息,例如可以为数据的采集完成时刻,或者说传感器输出数据的时刻。假设,在理想的情况下,智能车辆内的多个传感器采集数据的频率相同,且该多个传感器针对同一场景同时开始采集,并同时采集完成,则在采集完成后,该多个传感器可以基于各自的时钟为其采集到的数据添加对应的时间信息(例如根据数据采集完成的时刻打上对应的时间戳)。在理想的情况下,该多个传感器各自采集到的数据的时刻均相同,则融合模块在接收到该多个传感器各自采集到的数据后,基于其相同的时刻,确定其满足数据融合的前提条件,然后可以将该多个传感器各自采集到的数据进行融合,以提供更加全面、精准的路况分析和环境感知。
可以理解的是,在实际情况下,智能车辆内的多个传感器往往无法同时进行数据采集,也无法同时完成数据采集,如此,多个传感器采集到的数据的时刻往往无法完全相同。例如,请参阅图1a,图1a为一种数据融合示意图。如图1a所示,以摄像机和雷达两个传感器为例,其中摄像机、雷达的采集频率以及融合模块的融合频率相同。如图1a所示,摄像机在T4时刻(T4时刻为基于摄像机本地的时钟确定的时刻)完成对目标场景的采集,并且对该数据添加对应的时间戳(如为T4),然后将该采集到的数据输出至融合模块。如图1a所示,雷达在T7时刻(T7时刻为基于雷达本地的时钟确定的时刻)完成对目标场景的采集,并且对该数据添加对应的时间戳(如为T7),然后将该采集到的数据输出至融合模块。T4与T7不相同,T4在T7之后。如图1a所示,当融合模块基于其固定的融合频率在T1时刻进行数据融合时,融合模块可以将该T1时刻之前最近的多个数据均对应到T1时刻,从而可以顺利地对该多个数据进行融合,该融合过程需要消耗一定的时间,融合完成后,该融合模块可以输出相应的融合目标信息,以供智能车辆制定更好的路径规划等。如图1a所示,T4与T7为T1之前最近的时刻,则融合模块可以将摄像机和雷达各自采集到的数据均对应到融合模块的T1时刻,也即将原本不同时刻的数据作为同一时刻的数据,以便后续可以将该多个数据进行数据融合。在一些可能的实现方式中,还可以基于各个传感器采集到的数据的时间戳、各个传感器的传输时延(该传输时延为传感器到融合模块的传输时延)等等,将各个传感器的数据计算到融合模块时间轴上的同一时刻,以进行数据融合。
如图1a所示,例如,可以将T4与T7通过计算对应到T1,以在T1时刻对该摄像头在T4采集到的数据与雷达在T7采集到的数据进行数据融合,一种具体的融合方法可以通过目标级融合方法,对这两个数据进行数据关联(或者称之为目标关联)以及跟踪等处理,最后融合模块可以输出对应的融合目标信息等等,还可以对路况进行预测等等,此处不再进行赘述。又例如,如图1a所示,可以将T5与T8通过计算对应到T2,以在T2时刻对该摄像头在T5采集到的数据与雷达在T8采集到的数据进行数据融合;还例如,可以将T6与T9通过计算对应到T3,以在T3时刻对该摄像头在T6采集到的数据与雷达在T9采集到的数据进行数据融合,等等,此处不再进行赘述。
此外,在实际情况下,智能车辆内的各个传感器的采集频率也可能不同。请参阅图1b,图1b为另一种数据融合示意图。如图1b所示,以摄像机和雷达两个传感器为例,其中摄像机、雷达的采集频率以及融合模块的融合频率据均不相同。因此,如上所述,可以基于各个传感器采集到的数据的时间戳、各个传感器的传输时延(该传输时延为传感器到融合模块的传输时延)以及一定的时间补偿(例如可以考虑到融合模块、摄像机以及雷达各自的周期,等等,此处不作过多的叙述),将各个传感器的数据计算到融合模块时间轴上的同一时刻,以进行数据融合。如图1b所示,例如,可以将T4与T8通过计算对应到T1,以在T1时刻对该摄像头在T4采集到的数据与雷达在T8采集到的数据进行数据融合;又例如,可以将T5与T9通过计算对应到T2,以在T2时刻对该摄像头在T5采集到的数据与雷达在T9采集到的数据进行数据融合;还例如,可以将T6、T7与T9通过计算对应到T3,以在T3时刻对该摄像头在T6、T7采集到的数据与雷达在T9采集到的数据进行数据融合,或者选取离T3最近的T7,将T7通过计算对应到T3,以在T3时刻对该摄像头在T7采集到的数据与雷达在T9采集到的数据进行数据融合,等等,此处不再进行赘述。
该方案的缺点:
如上所述,在将不同传感器的数据进行融合时,时间信息往往是数据融合的基准信息,无论是理想情况下的数据融合,还是实际情况下需要通过将各个传感器的数据进行时间对齐,以实现将各个传感器采集的数据进行数据关联,从而保证准确、顺利地进行数据融合,都是基于各个传感器依据本地时钟为其采集到的数据所添加的时间戳。如此,若该多个传感器本地时钟不同,则不同传感器在采集数据并记录时间时所依据的时钟不同,如此,原本同一时刻采集的数据在不同传感器上的时刻不同,从而无法进行数据融合。或者在各个传感器本地时钟不同的情况下,且不同传感器在输出数据时会存在一定的时延,则容易导致融合模块无法准确地将各个传感器采集的数据对应到融合模块时间轴上的同一时间。例如,原本可以对齐到同一时刻的数据由于传感器本地时钟快了300毫秒,从而使其添加的时间戳也快了300毫秒,最终无法与其他传感器的数据对齐到同一时刻,进而对融合模块的数据关联及后续融合处理产生重大影响,例如无法将多个传感器采集的数据进行融合或者导致进行错误的融合,从而使得智能车辆产生目标虚警和非必要的自动紧急制动等,危害驾驶安全。
请参阅图1c,图1c为又一种数据融合示意图。如图1c所示,由于雷达本地时钟快了,从而使得原本实际T7时刻采集到的数据,其时间戳为T7’时刻,导致融合模块在T1时刻选择之前最近的数据进行数据融合时,无法使用该时间戳为T7’的数据,而在下一次融合时,也即在T2时刻,融合模块会使用该时间戳为T7’的数据与摄像机在T5时刻采集到的数据进行融合,导致融合效果差,或者由于两者数据的差异过大从而无法进行目标关联,使得智能车辆出现目标虚警,从而可能导致相关智能驾驶功能出错,例如产生了非必要的自动紧急制动(automatic emergency braking,AEB)误触发等,危害驾驶安全。
综上,上述方案中的多个传感器持有各自的本地时钟,多个传感器之间时间不同步,无法满足数据融合准确性的要求。因此,为了解决多传感器的数据处理技术中不满足实际业务需求的问题,本申请实际要解决的技术问题包括如下方面:实现多传感器之间的时间同步,保证多传感器之间数据融合的准确性。此外,由于多传感器融合架构存在多种形式,包括分布式架构和集中式架构等。在不同的多传感器融合架构下,因为控制器和传感器及融合模块部署的不同,导致对于时间同步的要求也不一致。不同的场景对于时间同步的精度要求也不一样,如弯道、U型弯等场景中对于时间同步的要求较高。本申请还提供一种灵活的多传感器融合下的时间同步方法,能够针对灵活架构下的各种传感器的配置以及传输方法进行时间同步,满足不同的融合架构需求,满足不同的场景需求。
请参阅图2a,图2a为本申请实施例提供的一种智能车辆的功能框图。本申请实施例提供的一种通信方法可以应用于如图2a所示的智能车辆100中,在一个实施例中,智能车辆100可以配置为完全或部分地自动驾驶模式。在智能车辆100处于自动驾驶模式中时,可以将智能车辆100置为在没有和人交互的情况下操作。
智能车辆100可包括各种系统,例如行进系统102、传感器系统104、控制系统106、一个或多个外围设备108以及电源110、计算机系统112和用户接口116。可选的,智能车辆100可包括更多或更少的系统,并且每个系统可包括一个或多个元件。另外,智能车辆100的每个系统和元件可以通过有线或者无线互连。
行进系统102可包括为智能车辆100提供动力的组件。在一个实施例中,行进系统102可包括引擎118、能量源119、传动装置120和车轮121。引擎118可以是内燃引擎、电动机、空气压缩引擎或其他类型的引擎组合,例如气油发动机和电动机组成的混动引擎,内燃引擎和空气压缩引擎组成的混动引擎。引擎118将能量源119转换成机械能量。
能量源119的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源119也可以为智能车辆100的其他系统提供能量。
传动装置120可以将来自引擎118的机械动力传送到车轮121。传动装置120可包括变速箱、差速器和驱动轴。在一个实施例中,传动装置120还可以包括其他器件,比如离合器。其中,驱动轴可包括可耦合到一个或多个车轮121的一个或多个轴。
传感器系统104可包括感测关于智能车辆100周边的环境的信息的若干个传感器。例如,传感器系统104可包括定位系统122(定位系统可以是全球定位系统(globalpositioning system,GPS),也可以是北斗系统或者其他定位系统)、惯性测量单元(inertial measurement unit,IMU)124、雷达126、激光测距仪128以及摄像机130。传感器系统104还可包括被监视智能车辆100的内部系统的传感器(例如,车内空气质量监测器、燃油量表、机油温度表等)。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性(位置、形状、方向、速度等)。这种检测和识别是自主智能车辆100的安全操作的关键功能。
定位系统122可用于估计智能车辆100的地理位置。IMU 124用于基于惯性加速度来感测智能车辆100的位置和朝向变化。在一个实施例中,IMU 124可以是加速度计和陀螺仪的组合。
雷达126可利用无线电信号来感测智能车辆100的周边环境内的物体。在一些实施例中,除了感测物体以外,雷达126还可用于感测物体的速度和/或前进方向。
激光测距仪128可利用激光来感测智能车辆100所位于的环境中的物体。在一些实施例中,激光测距仪128可包括一个或多个激光源、激光扫描器以及一个或多个检测器,以及其他系统组件。
摄像机130可用于捕捉智能车辆100的周边环境的多个图像。摄像机130可以是静态相机或视频相机。
在一些可能的实施例中,传感器系统104还可以包括用于对传感器系统104内的多个传感器采集到的数据进行数据融合的组件,从而输出更加全面、精准的数据,用于智能车辆100的自动驾驶。
控制系统106为控制智能车辆100及其组件的操作。控制系统106可包括各种元件,其中包括转向系统132、油门134、制动单元136、传感器融合算法138、计算机视觉系统140、路线控制系统142以及障碍规避系统144。
转向系统132可操作来调整智能车辆100的前进方向。例如在一个实施例中可以为方向盘系统。
油门134用于控制引擎118的操作速度并进而控制智能车辆100的速度。
制动单元136用于控制智能车辆100减速。制动单元136可使用摩擦力来减慢车轮121。在其他实施例中,制动单元136可将车轮121的动能转换为电流。制动单元136也可采取其他形式来减慢车轮121转速从而控制智能车辆100的速度。
计算机视觉系统140可以操作来处理和分析由摄像机130捕捉的图像以便识别智能车辆100周边环境中的物体和/或特征。所述物体和/或特征可包括交通信号、道路边界和障碍物。计算机视觉系统140可使用物体识别算法、运动中恢复结构(Structure fromMotion,SFM)算法、视频跟踪和其他计算机视觉技术。在一些实施例中,计算机视觉系统140可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。
路线控制系统142用于确定智能车辆100的行驶路线。在一些实施例中,路线控制系统142可结合来自传感器系统104和一个或多个预定地图的数据以为智能车辆100确定行驶路线。
障碍规避系统144用于识别、评估和避免或者以其他方式越过车辆100的环境中的潜在障碍物。
当然,在一个实例中,控制系统106可以增加或替换地包括除了所示出和描述的那些以外的组件。或者也可以减少一部分上述示出的组件。在一些可能的实施例中,控制系统106还可以包括用于对传感器系统104内的多个传感器进行时间同步的组件。
智能车辆100通过外围设备108与外部传感器、其他车辆、其他计算机系统或用户之间进行交互。外围设备108可包括无线通信系统146、车载电脑148、麦克风150和/或扬声器152。
在一些实施例中,外围设备108提供智能车辆100的用户与用户接口116交互的手段。例如,车载电脑148可向智能车辆100的用户提供信息。用户接口116还可操作车载电脑148来接收用户的输入。车载电脑148可以通过触摸屏进行操作。在其他情况中,外围设备108可提供用于智能车辆100与位于车内的其它设备通信的手段。例如,麦克风150可从智能车辆100的用户接收音频(例如,语音命令或其他音频输入)。类似地,扬声器152可向智能车辆100的用户输出音频。
无线通信系统146可以直接地或者经由通信网络来与一个或多个设备无线通信。例如,无线通信系统146可使用3G蜂窝通信,例如CDMA、EVD0、GSM/GPRS,或者4G蜂窝通信,例如LTE。或者5G蜂窝通信,或者其它蜂窝通信。无线通信系统146可利用WiFi与无线局域网(wireless local area network,WLAN)通信。在一些实施例中,无线通信系统146可利用红外链路、蓝牙或ZigBee与设备直接通信。其他无线协议,例如各种车辆通信系统,例如,无线通信系统146可包括一个或多个专用短程通信(dedicated short range communications,DSRC)设备,这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
电源110可向智能车辆100的各种组件提供电力。在一个实施例中,电源110可以为可再充电锂离子或铅酸电池。这种电池的一个或多个电池组可被配置为电源为智能车辆100的各种组件提供电力。在一些实施例中,电源110和能量源119可一起实现,例如一些全电动车中那样。
智能车辆100的部分或所有功能受计算机系统112控制。计算机系统112可包括至少一个处理器113,处理器113执行存储在例如存储器114这样的非暂态计算机可读介质中的指令115。计算机系统112还可以是采用分布式方式控制智能车辆100的个体组件或子系统的多个计算设备。
处理器113可以是任何常规的处理器,诸如商业可获得的中央处理器(CentralProcessing Unit,CPU)。可选的,该处理器可以是诸如特定应用集成电路(application-specific integrated circuit,ASIC),或其它基于硬件的处理器的专用设备。尽管图2a功能性地图示了处理器、存储器和在相同块中的计算机系统112的其它元件,但是本领域的普通技术人员应该理解该处理器、计算机或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机或存储器。例如,存储器可以是硬盘驱动器或其它存储介质。因此,对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤,诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器,所述处理器只执行与特定于组件的功能相关的计算。
在此处所描述的各个方面中,处理器可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中,此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行,包括采取执行单一操纵的必要步骤。
在一些实施例中,存储器114可包含指令115(例如,程序代码),指令115可被处理器113执行来执行智能车辆100的各种功能,包括以上描述的那些功能。存储器114也可包含额外的指令,包括向行进系统102、传感器系统104、控制系统106和外围设备108中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令115以外,存储器114还可存储数据,例如道路地图、路线信息,车辆的位置、方向、速度以及其它这样的车辆数据,以及其他信息。这种信息可在智能车辆100在自主、半自主和/或手动模式中操作期间被智能车辆100和计算机系统112使用。
用户接口116,用于向智能车辆100的用户提供信息或从其接收信息。可选的,用户接口116可包括在外围设备108的集合内的一个或多个输入/输出设备,例如无线通信系统146、车载电脑148、麦克风150和扬声器152。
计算机系统112可基于从各种系统(例如,行进系统102、传感器系统104和控制系统106)以及从用户接口116接收的输入来控制智能车辆100的功能。例如,计算机系统112可利用来自控制系统106的输入以便控制转向系统132来避免由传感器系统104和障碍规避系统144检测到的障碍物。在一些实施例中,计算机系统112可操作来对智能车辆100及其系统的许多方面提供控制。
可选的,计算机系统112还可以从其它计算机系统接收信息,或者将信息转移到其它计算机系统。例如,计算机系统112可以将从智能车辆100的传感器系统104收集的传感器数据转移到远程的另一个计算机系统,并交由另一个计算机系统对此数据进行处理,比如由另一个计算机系统对传感器系统104中各个传感器采集的数据进行数据融合,然后再将融合后得到的数据或者分析结果返回至计算机系统112。可选的,来自计算机系统112的数据可以经由网络被传送到云侧的计算机系统用于进一步的处理。网络以及中间节点可以包括各种配置和协议,包括因特网、万维网、内联网、虚拟专用网络、广域网、局域网、使用一个或多个公司的专有通信协议的专用网络、以太网、WiFi和HTTP、以及前述的各种组合。这种通信可以由能够传送数据到其它计算机和从其它计算机传送数据的任何设备,诸如调制解调器和无线接口。
如上所述,在一些可能的实施例中,与该智能车辆100中的计算机系统112进行交互的远程计算机系统可以包括具有多个计算机的服务器,例如负载均衡服务器群,为了从计算机系统112接收、处理并传送数据的目的,其与网络的不同节点交换信息。该服务器可以有处理器、存储器、指令和数据等等。例如,在本申请的一些实施例中,该服务器的数据可以包括提供天气相关的信息。例如,服务器可以接收、监视、存储、更新、以及传送与天气相关的各种信息。该信息可以包括例如以报告形式、雷达信息形式、预报形式等的降水、云、和/或温度信息。该服务器的数据还可以包括高精度地图数据、前方路段的交通信息(例如实时的交通拥挤状况和交通事故发生情况等等),服务器可以将该高精度地图数据和交通信息等发送给计算机系统112,从而可以辅助智能车辆100更好地进行自动驾驶,保证驾驶安全。
可选的,上述这些系统中的一个或多个可与智能车辆100分开安装或关联。例如,存储器114可以部分或完全地与车辆100分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选的,上述系统只是一个示例,实际应用中,上述各个系统有可能根据实际需要增添或者删除,图2a不应理解为对本申请实施例的限制。
在道路行进的自动驾驶汽车,如上面的智能车辆100,可以识别其周围环境内的物体以确定对当前速度的调整。所述物体可以是其它车辆、交通控制设备(例如红绿灯等交通信号指示灯)、或者其它类型的物体。在一些示例中,可以独立地考虑每个识别的物体,并且基于物体的各自的特性,诸如它的当前速度、加速度、与车辆的间距等,可以用来确定自动驾驶汽车所要调整的速度。
可选的,自动驾驶汽车智能车辆100或者与自动驾驶智能车辆100相关联的计算设备(如图2a的计算机系统112、计算机视觉系统140、存储器114)可以基于所识别的物体的特性和周围环境的状态(例如,交通、雨、道路上的冰、等等)来预测所述识别的物体的行为。可选的,每一个所识别的物体都依赖于彼此的行为,因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。智能车辆100能够基于预测的所述识别的物体的行为来调整它的速度。换句话说,自动驾驶汽车能够基于所预测的物体的行为来确定车辆将需要调整到(例如,加速、减速、或者停止)什么稳定状态。在这个过程中,也可以考虑其它因素来确定智能车辆100的速度,诸如,智能车辆100在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外,计算设备还可以提供修改智能车辆100的转向角的指令,以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体(例如,道路上的相邻车道中的轿车)的安全横向和纵向距离。
上述智能车辆100可以为轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、割草机、娱乐车、游乐场车辆、施工设备、电车、高尔夫球车、火车、和手推车等,本申请实施例不做特别的限定。
请参阅图2b,图2b为本申请实施例提供的一种计算机系统的结构示意图。该计算机系统101可以为上述图2a所示的智能车辆100内的计算机系统112。如图2b所示,计算机系统101可以包括处理器103,处理器103和系统总线105耦合。处理器103可以是一个或者多个处理器,其中每个处理器都可以包括一个或多个处理器核。如图2b所示,计算机系统101还可以包括显示适配器(video adapter)107,显示适配器可以驱动显示器109,显示器109和系统总线105耦合。系统总线105通过总线桥111和输入输出(input/output,I/O)总线113耦合。I/O接口115和I/O总线耦合。I/O接口115可以和多种I/O设备进行通信,比如输入设备117(例如键盘,鼠标,触摸屏等),媒体盘(media tray)163,(例如CD-ROM和多媒体接口等)。如图2b所示,计算机系统101还可以包括收发器123(可以发送和/或接受无线电通信号),摄像头155(可以捕捉静态和动态数字视频图像)和外部通用串行总线(universal serialbus,USB)接口125。其中,可选的,和I/O接口115相连接的接口可以是USB接口。
其中,处理器103可以是任何传统处理器,包括精简指令集计算(“RISC”)处理器、复杂指令集计算(“CISC”)处理器或上述的组合。可选的,处理器可以是诸如专用集成电路(“ASIC”)的专用装置。可选的,处理器103可以是神经网络处理器或者是神经网络处理器和上述传统处理器的组合。
可选的,在本文所述的各种实施例中,计算机系统101可位于远离自动驾驶智能车辆100的地方,并且可与自动驾驶智能车辆100无线通信。在其它方面,本文所述的一些过程在设置在自动驾驶车辆内的处理器上执行,其它由远程处理器执行,包括采取执行单个操纵所需的动作。
计算机系统101可以通过网络接口129和软件部署服务器149通信。网络接口129是硬件网络接口,比如,网卡。网络127可以是外部网络,比如因特网,也可以是内部网络,比如以太网或者虚拟私人网络(virtual private network,VPN)。可选的,网络127还尅是无线网络,比如WiFi网络,蜂窝网络等。
硬盘驱动接口和系统总线105耦合。硬件驱动接口和硬盘驱动器相连接。系统内存135和系统总线105耦合。运行在系统内存135的数据可以包括计算机101的操作系统137和应用程序143。
操作系统包括Shell 139和内核(kernel)141。Shell 139是介于使用者和操作系统之内核(kernel)间的一个接口。shell是操作系统最外面的一层。shell管理使用者与操作系统之间的交互,包括等待使用者的输入,向操作系统解释使用者的输入,并且处理各种各样的操作系统的输出结果。
内核141由操作系统中用于管理存储器、文件、外设和系统资源的那些部分组成。直接与硬件交互,操作系统内核通常运行进程,并提供进程间的通信,提供CPU时间片管理、中断、内存管理、IO管理等等。
应用程序143包括控制汽车自动驾驶相关的程序,比如,管理自动驾驶的汽车和路上障碍物交互的程序,控制自动驾驶汽车路线或者速度的程序,控制自动驾驶汽车和路上其他自动驾驶汽车交互的程序。应用程序143也存在于deploying server 149的系统上。在一个实施例中,在需要执行应用程序147时,计算机系统101可以从deploying server14下载应用程序143。
其中,传感器153和计算机系统101关联。传感器153可以包括多个传感器,可以为上述图2a所示的传感器系统104。传感器153可以用于探测计算机系统101周围的环境。举例来说,传感器153可以探测动物,汽车,障碍物,人行横道和交通信号指示灯等。进一步地,传感器153还可以探测上述动物,汽车,障碍物,人行横道和交通信号指示灯等物体周围的环境。例如,动物周围的环境,比如,动物周围出现的其他动物,天气条件,周围环境的光亮度等。
可选的,如果计算机101位于自动驾驶的智能车辆上,传感器153可以包括摄像头,红外线感应器,化学检测器,麦克风,惯性测量单位和雷达等,可参考上述图2a所示的传感器系统104。可选的,在本申请的一些实施例中,以智能车辆的自动驾驶场景为例,为了得到更加全面的路况分析和环境感知,可以将上述摄像头,红外线感应器,惯性测量单位和雷达等多个传感器采集到的数据进行融合,从而得到更加全面和精准的数据,保证驾驶安全。
此外,可选的,在本申请的一些实施例中,上述应用程序143还可以包括用于将该多个传感器进行时间同步的程序。从而可以保证各个传感器数据在时间上的严谨和可靠性,避免同一时间采集的数据在不同传感器上的时间不同等此类情况,从而提高数据融合的准确性,进一步保障驾驶安全。
请参阅图2c,图2c为本申请实施例提供的一种通信方法的系统架构示意图,本申请实施例的技术方案可以在图2c举例所示的系统架构或者类似的系统架构中具体实施。如图2c所示,该系统架构可以包括智能车辆100,该智能车辆100可以包括多个传感器,例如可以包括图2c所示的传感器1001、1002和1003。该智能车辆100还可以包括controller(控制器)1005、绝对时间授时设备1006和融合模块1004。其中,控制器1005可以通过有线或者无线网络(例如无线保真(Wireless-Fidelity,WiFi)、蓝牙和移动网络等)等方式与传感器1001、1002和1003建立通信连接,并将对传感器1001、1002和1003中的部分或者全部进行时间同步。其中,控制器1005也可以通过有线或者无线网络(例如无线保真(Wireless-Fidelity,WiFi)、蓝牙和移动网络等)等方式与绝对时间授时设备1006建立通信连接,以通过绝对时间授时设备1006获取绝对时间信息。可以理解的,控制器1005、绝对时间授时设备1006和融合模块1004中的部分或全部也可以集成在一起,本申请实施例不作限制。
下面,将以传感器1001和传感器1002为例,对本申请实施例提供的一种通信方法进行详细阐述。如图2c所示,用户启动智能车辆100,若该智能车辆100内的传感器1001和传感器1002各自的采集的数据需要进行数据融合,以提供更加全面的路况分析和环境感知,为了保证其数据融合的准确性,可以通过控制器1005对该传感器1001和传感器1002进行时间同步。第一种实施方式中,控制器1005可以基于预设的时间同步周期(例如为每10分钟、每30分钟或者每1小时进行一次时间同步),周期性的获取用于时间同步的基准时钟(例如为控制器1005的本地时钟),然后基于该基准时钟将该传感器1001和传感器1002各自的第二时刻修正为该基准时钟的第一时刻。第二种实施方式中,传感器1001和传感器1002中的至少一个传感器在采集完数据后,基于数据融合以及时间同步的需求,也可以向控制器1005发送同步请求消息。然后控制器1005可以基于接收到的同步请求消息,触发时间同步的流程,获取用于时间同步的基准时钟。进一步地,例如,控制器1005在接收到传感器1001发送的同步请求消息后,还可以根据预设的融合规则,确定用于与该传感器1001进行数据融合的传感器1002,从而对该传感器1001和传感器1002进行时间同步,以保证传感器1001和传感器1002之间数据融合的准确性。进一步地,在上述两种实施方式中,即使控制器1005是在时间同步周期的触发下进行周期性的时间同步(针对上述第一种实施方式),或者即使没有接收到传感器1001发送的同步请求消息(针对上述第二种实施方式),控制器1005也可以根据实际的融合需求,直接确定需要进行时间同步的传感器1001和传感器1002,等等,本申请实施例对此不作具体限定。在时间同步后,融合模块1004可以对传感器1001和传感器1002采集到的数据进行融合等处理。其中,控制器1005也可以基于该基准时钟同时对融合模块1004进行时间同步,等等。
如图2c所示,本申请实施例设计了一种灵活的时间同步系统。其中,控制器的部分为主时钟(也即上述用于时间同步的基准时钟),而每个传感器则可以接受授时,来实现整体的时间同步。
其中,如上所述,在控制器1005以及传感器1001、1002和1003之间的具体通信方法可以是预测式(Proactive),也即上述周期性的时间同步,也可以是反应式(Reactive),也即上述通过传感器在采集完数据后发送的同步请求消息触发进行时间同步。其中,时间同步具体使用的时间同步协议可以采用常用的gPTP和NTP等相关协议,此处不再进行赘述。
时间同步可以包括绝对时间同步,或者相对时间同步。如果控制器1005连接到了GPS,也即可以为连接到了图2c所示的绝对时间授时设备1006,则可以为时间同步提供绝对时间,从而可以实现绝对时间的同步。一般情况下,多个传感器进行数据融合需要的时间同步往往是相对时间同步,可以满足数据融合中数据关联等需求。而绝对时间同步在多个传感器进行数据融合过程中不是必需的。
如上所述,其中,智能车辆100可以为具备上述功能的轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、割草机、娱乐车、游乐场车辆、施工设备、电车、高尔夫球车、火车和手推车等,本申请实施例对此不作具体限定。此外,本申请实施例还可以应用于除智能车辆外的包括多个传感器的智能设备中,例如智能机器人,等等,本申请实施例对此不作具体限定。其中,传感器1001、1002和1003可以为具备上述功能的各类传感器,比如可以是摄像机(例如包括单目摄像机、双目摄像机和红外摄像机等等)、毫米波雷达、激光雷达、惯性测量单元和车姿传感器等多种传感器,还可以是如图2a所示的惯性测量单元124和激光测距仪128,等等,本申请实施例对此不作具体限定。其中,控制器1005可以是具备上述进行时间同步功能的控制设备,可以部署在车载网关设备(gateway)中,也可以是电子控制单元(Electronic Control Unit,ECU),或者是域控制器(Multi-Domain Control Unit,MDC)等等。可选的,控制器1005可以部署在上述图2a所示的控制系统106中,或者传感器系统104中,或者还可以部署在上述图2a所示的计算机系统112中,等等,本申请实施例对此不作具体限定。其中,融合模块1004作为软件模块,可以部署在单独的硬件设备上,也可以部署在单个传感器上(例如传感器1001、1002和1003中的任意一个,比如可以部署在上述图2a所示的惯性测量单位124中),还可以部署在控制器1005中,等等,本申请实施例对此不作具体限定。
可以理解的是,图2c所示的一种通信方法的系统架构只是本申请实施例中的部分示例性的实施方式,本申请实施例中通信方法的系统架构包括但不仅限于以上通信方法的系统架构,也可以推广到其他融合单元和自动驾驶或者辅助驾驶功能的架构和接口中,包括多层次的时间同步架构、分布式的时间同步架构和混合式的时间同步架构等,本申请实施例对此不作具体限定。
为了便于理解本申请实施例,以下示例性列举本申请中一种通信方法所适用的应用场景,可以包括如下2个场景。
场景一,对智能机器人内的多个传感器进行时间同步。
请参阅图3,图3为本申请实施例提供的一种应用场景示意图。如图3所示,该应用场景可以为室内的餐厅,包括智能设备200(图3中以智能机器人为例)、监控摄像机、桌子、植物和多名客人。可选的,如图3所示,该智能设备200中可以内置传感器系统,包括多个传感器,例如可以包括摄像机(例如单目摄像机、双目摄像机和红外摄像机等等)、毫米波雷达和激光雷达等等。该多个传感器采集到的数据可以进行数据融合,从而为该智能设备200提供更加全面和精准的数据,进而使得该智能设备200可以更好的进行主动避障(例如避开该应用场景内的桌子、植物和客人等)、路线规划和向客人提供服务等等。可选的,该智能设备200还可以与该应用场景中的监控摄像机通过蓝牙或者无线网络的方式建立通信连接,从而获取该监控摄像机采集到的数据,并且还可以将该监控摄像机采集到的图像数据与该智能设备200内的多个传感器的数据进行融合,从而进一步获取更加全面的数据,等等,本申请实施例对此不作具体限定。
在本申请实施例中,在该智能设备200将其中多个传感器的数据进行融合前,可以通过本申请实施例提供的一种通信方法,通过该智能设备200内的控制器对该多个进行数据融合的传感器进行时间同步,以保证其数据融合的准确性。如此,通过本申请实施例提供的一种通信方法,可以有效避免在多个传感器时间不同步,从而无法进行数据融合或者将实际采集时刻差距较大的数据进行错误的融合的情况下导致的紧急制动,或者路线规划错误,甚至导致严重碰撞,损伤公共设施和危害人身安全。
如上所述,该智能设备200可以为如图3所示的具备上述功能的智能机器人,也可以是智能车辆(比如轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、割草机、娱乐车、游乐场车辆、施工设备、电车、高尔夫球车、火车和手推车等)或者其他的包括多个传感器的设备。可选的,该智能设备200还可以与远端的服务器建立连接,从而由该服务器提供数据融合处理以及之后的路线规划等计算功能。其中,该服务器可以是具备上述功能的一台服务器,也可以是由多台服务器组成的服务器集群,或者是一个云计算服务中心,等等,本申请实施例对此不作具体限定。
场景二,对智能车辆内的多个传感器进行时间同步。
请参阅图4a,图4a为本申请实施例提供的另一种应用场景示意图。如图4a所示,该应用场景可以为多车道的路面,包括智能设备300(图中以具备自动驾驶功能或者辅助驾驶功能的智能车辆为例)、其他行驶车辆和绿化带等等。可选的,如图4a所示,该智能设备300中可以内置传感器系统,包括多个传感器,例如可以包括摄像机(例如单目摄像机、双目摄像机和红外摄像机等等)、毫米波雷达、激光雷达、惯性测量仪(Inertial MeasurementUnit,IMU)和车姿传感器等多种传感器。该多个传感器采集到的数据可以进行数据融合,从而得到更加全面和精准的数据,进而为该智能设备300提供更加全面、有效和准确的路况分析以及环境感知等等,以进行更好的路线规划和行驶决策,提升智能设备300的驾驶舒适性和安全性,满足用户对自动驾驶功能的实际需求。
此外,该智能设备200还可以与该应用场景中的其他的行驶车辆通过蓝牙或者无线网络的方式建立通信连接,从而获取其他行驶车辆内的一个或多个传感器采集到的数据,并且还可以结合该智能设备200内的多个传感器融合后的数据,为智能设备200的自动驾驶提供更加全面、多方位的数据。可选的,智能设备200还可以通过网络获取前方路段实时的交通信息(包括实时的交通拥挤程度,交通事故发生情况和交通指示灯的情况)等等,并且结合该智能设备200内的多个传感器融合后的数据,为自动驾驶提供更加全面、多方位的数据,等等,本申请实施例对此不作具体限定。
例如,请参阅图4b,图4b为本申请实施例提供的又一种应用场景示意图。如图4b所示,智能车辆(也即智能设备300)可以通过网络与远端的服务器400建立通信连接。然后,服务器400可以通过网络获取智能车辆内的多个传感器采集到的数据或者其它信息。可选的,该服务器400可以是具备上述功能的一台服务器,也可以为一个由多个服务器构成的服务器集群,该服务器400还可以是一个云服务中心,等等,本申请实施例对此不作具体限定。
可选的,服务器400可以根据接收到的该智能车辆内的多个传感器采集到的数据,运行其存储的控制智能车辆自动驾驶相关的程序,以对自动驾驶的智能车辆进行控制。其中,控制智能车辆自动驾驶相关的程序可以为,管理自动驾驶的智能车辆和路上障碍物交互的程序,控制自动驾驶智能车辆的路行驶路线或者行驶速度的程序,控制自动驾驶智能车辆和路上其他自动驾驶智能车辆交互的程序。
在一些可能的实施例中,服务器400还可以在接收到的该智能车辆内的多个传感器采集的数据后,首先对其中的部分或者全部的传感器数据进行融合处理。然后,服务器400可以根据该融合处理后得到的更加精确、全面的路况分析,从而更好地向自动驾驶的车辆发送关于环境内可能的出现的驾驶情况,以及所建议的解决方案(例如,告知智能车辆前方障碍物,并告知如何绕开该障碍物)。例如,服务器400可以辅助智能车辆确定当面对环境内的特定障碍时如何行进,比如服务器400向智能车辆发送指示该智能车辆应当在当前场景中如何行进的响应。又例如,服务器400可以基于收集到的传感器数据,以及将该多个传感器数据进行融合后得到的数据,确认道路前方具有临时停车标志或者“车道封闭”标志等的存在。相应地,服务器400可以向智能车辆发送建议操作,以使得智能车辆通过障碍(例如规划行驶路线,指示智能车辆变道到另一条道路上),等等,此处不再进行赘述。
在本申请实施例中,在该智能设备200将其中多个传感器的数据进行融合前,或者在将多个传感器采集到的数据发送至服务器400之前,可以通过本申请实施例提供的一种通信方法,通过该智能设备300内的控制器对该多个进行数据融合的传感器进行时间同步,以保证其数据融合的准确性。从而避免在多个传感器时间不同步,从而无法进行数据融合或者将实际采集时刻差距较大的数据进行错误的融合的情况下导致的目标虚警,自动紧急制动,或者路线规划错误等,甚至导致严重交通事故,损坏公共基础设施和危害人身安全,等等。
可选的,如图4b所示,在该智能设备300将其中多个传感器的数据进行融合前,或者在将多个传感器采集到的数据发送至服务器400之前,智能设备300还可以通过云端的服务器获取用于进行时间同步的基准时钟,并将各个传感器的时钟信息发送至服务器400,然后可以通过该服务器400对该智能设备300内的多个传感器进行时间同步,从而可以提高时间同步的精度,与此同时减少智能车辆300本地端的计算量,以使得智能设备300更好地执行其他任务。
如上所述,该智能设备300可以为包括多个传感器且具备上述功能的智能车辆,该智能车辆可以为具备全自动驾驶功能的车辆,也可以为具备辅助驾驶功能的车辆等,比如轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、割草机、娱乐车、游乐场车辆、施工设备、电车、高尔夫球车、火车和手推车等。该智能设备200还可以是包括多个传感器的其他设备,等等,本申请实施例对此不作具体限定。
需要说明的是,本申请提供的一种通信方法还可以应用于除上述智能机器人和智能车辆内多个传感器进行数据融合的应用场景外的其他场景。例如还可以应用于通过对多个传感器进行时间同步,从而保证在将该多个传感器采集到的数据进行分析比对时的准确性等应用场景,例如还可以将绝对时间同步应用于视频数据的保存,从而可以与外部其他场景进行对比等,此处不再进行赘述。
请参阅图5,图5为本申请实施例提供的一种通信方法的流程示意图,该方法可应用于上述图2c所述的系统架构,以及上述图3、图4a或者图4b所述的应用场景中,以及具体可应用于上述图3、图4a或者图4b所述的智能设备200或者智能设备300中,该智能设备200或者智能设备300可以包括多个传感器。下面结合附图5以执行主体为上述图2c中的控制器1005为例进行描述。该方法可以包括以下步骤S501-步骤S502。
步骤S501,从多个传感器中确定N个目标传感器。
具体的,控制器从智能设备的多个传感器中确定N个目标传感器,N为大于1的整数。其中,该N个目标传感器中的每一个目标传感器可以为用于进行数据融合等处理,从而需要进行时间同步的传感器。
步骤S502,将所述N个目标传感器各自的第二时刻修正为第一时钟的第一时刻。
具体的,控制器基于第一时钟,对该N个目标传感器各自的第二时刻进行修正,得到与每个第二时刻对应的第一时刻。其中,每个第一时刻为基于该第一时钟进行时间同步后的时刻,每个第二时刻为基于所述第一时钟进行时间同步前的时刻。以传感器1001和传感器1002为例,假设第一时钟(即系统标准时钟)的第一时刻为T1,1时,传感器1001的第二时刻为T1,2,传感器1002的第二时刻为T2,2,则将传感器1001和传感器1002的T1,2和T2,2修正为T1,1。
通过该方法,可以实现智能设备中的多个传感器的时间同步,从而保证不同传感器采集的数据的准确融合。
下面结合附图6、图7、图8、图9,进行详细举例描述。
图6为本申请实施例提供的另一种通信方法的流程示意图。本申请实施例中涉及的时间同步模式可以为反应(reactive)模式,也即如图6所示,传感器可以在采集数据后向控制器发送时间同步请求消息,从而触发控制器进行时间同步。如图6所示,该方法可以包括如下步骤:
步骤S601,采集数据。
具体的,该智能设备的多个传感器中的M个目标传感器可以在各自的第二时刻完成数据采集。
步骤S602,发送同步请求消息至控制器。相应的,控制器接收同步请求消息。
具体的,该智能设备的多个传感器中的M个目标传感器可以在各自的第二时刻完成数据采集后,向控制器发送时间同步请求消息。
步骤S603,控制器获取第一时钟。
具体的,控制器在接收到M个目标传感器发送的同步请求消息,从而触发时间同步流程后,首先可以获取用于进行时间同步的第一时钟。该第一时钟可以为控制器的时钟。
步骤S604,从多个传感器中确定N个目标传感器。
具体的,该M个目标传感器可以属于上述N个目标传感器。M为大于或者等于1的整数。控制器在接收到该M个目标传感器发送的时间同步请求消息后,可以基于该M个目标传感器和预设的融合规则,从智能车辆的多个传感器中确定用于与该M目标传感器进行数据融合的N-M个目标传感器。其中,该N-M个目标传感器属于该N个目标传感器,也即最终实现了从智能车辆的多个传感器中确定N个目标传感器。例如,M等于1,该M个目标传感器比如为一个摄像机,一般情况下,摄像机具备强大的分辨率,以及优秀的目标分类效果,但是其丧失了深度信息,无法进行准确的距离测量和速度测量。但是,智能车辆内的毫米波雷达具备较高精度的测距和测速能力,但是其分类效果较差。摄像机和毫米波雷达两者之间具备互补的功能,如此,可以基于数据互补的融合规则,确定该智能车辆中的毫米波雷达可以用于与该摄像机进行数据融合(该毫米波雷达以及该摄像机即为上述的N个目标传感器)。从而后续可以对该摄像机以及毫米波雷达进行时间同步,保证两者数据融合的准确性,进而为智能车辆提供更加全面的路况分析和环境感知,提升驾驶舒适性和安全性。
本申请实施例中,可以在传感器有时间同步需求的情况下,触发进行时间同步,从而减少非必要的时间同步,减少计算量等等。与此同时,还可以保证每次数据融合前都已进行时间同步,进而可以保证每次数据融合的准确性。此外,传感器还可以维护时间同步的周期,在超过一定的时间同步周期后,即使传感器未采集到数据也可以向控制器发送同步请求消息,以触发控制器进行时间同步,从而可以有效避免长期未进行时间同步所带来的风险,等等,本申请实施例对此不作具体限定。
需要说明的是,传感器数据采集完成的时间根据不同的传感器而有不同的设置,例如,对于摄像机而言,数据采集完成的时间一般是曝光完成的时间;而对于毫米波雷达而言,数据采集完成的时间则是采集到有效雷达散射截面(Radar Cross section,RCS)点的时间。传感器在采集完数据后,可以为该数据添加对应的时间戳,表明当前传感器数据的采集时刻(或者说采集完成时刻)。例如上述M目标传感器各自的第二时刻即为M目标传感器各自采集到数据的时刻。可以理解的是,由于此时M目标传感器还未进行时间同步,因此该M个目标传感器各自的第二时刻为时间同步前基于该M个目标传感器各自的时钟确定的时刻。
需要说明的是,本申请实施例对图6中的步骤S603和步骤S604的执行先后顺序不作具体限定。下述图7、图8和图9中相应的步骤同理,此处不再进行赘述。
步骤S605a,控制器基于该第一时钟以及预设的时间同步协议(比如gPTP和NTP等时间同步协议),通过消息收发对融合模块进行时间同步。
步骤S605b,控制器基于该第一时钟以及预设的时间同步协议(比如gPTP和NTP等时间同步协议),通过消息收发对该N个目标传感器进行时间同步。
具体的,控制器可以基于该预设的时间同步协议,首先确定该N个目标传感器各自的时钟与该第一时钟之间的时钟频率偏差,以及确定该N个目标传感器各自的传输时延,其中,该传输时延为该N个目标传感器到控制器的传输时延。然后,控制器可以基于该N个目标传感器各自的时钟与该第一时钟之间的时钟频率偏差,以及该N个目标传感器各自的传输时延,对该N个目标传感器进行时间同步。融合模块的时间同步同理,此处不在进行赘述。例如,以采用gPTP时间同步协议为例,控制器可以先向该N个目标传感器发送第一同步消息(sync消息),该N个目标传感器接收到该第一同步消息后,可以基于各自的本地时钟确定该第一同步消息的第一接收时刻t1,然后控制器再发送一个follow_up(随后消息),以告知该N个目标传感器该第一同步消息的第一发送时刻t2(该第一发送时刻t2由控制器的时钟确定,也即由第一时钟确定)。然后,控制器可以再向该N个目标传感器发送第二同步消息,该N个目标传感器接收到该第二同步消息后,可以基于各自的本地时钟确定该第二同步消息的第二接收时刻t3,然后控制器再发送一个follow_up,以告知该N个目标传感器该第二同步消息的第二发送时刻t4(该第二发送时刻由控制器的时钟确定,也即由第一时钟确定)此处不再进行赘述。最终,可以通过公式R=(t4-t2)/(t3-t1),计算得到第一时钟与目标传感器的本地时钟之间的时钟频率偏差,其中,R即为第一时钟与目标传感器的本地时钟之间的时钟频率偏差。有关传输时延的测量此处不再进行详述,可参考具体的时间同步协议。
可选的,该融合模块可以作为软件模块,可以集成在该控制器内,或者还可以集成在单个传感器内(例如该N个目标传感器中的任意一个)。可以理解的是,若该融合模块集成在该控制器内,则该融合模块可以直接使用该控制器的第一时钟,从而无需进行时间同步,等等,本申请实施例对此不作具体限定。
需要说明的是,步骤S605a和步骤S605b的执行先后顺序不作具体限定,步骤S605a和步骤S605b也可以同时执行。下述图7、图8和图9中相应的步骤同理,此处不再进行赘述。
如上所述,该N个目标传感器中的该M个目标传感器各自的第二时刻为时间同步前基于该M个目标传感器各自的时钟确定的时刻。该N个目标传感器中的该N-M个目标传感器各自的第二时刻可以为在该时间同步过程中,由该N-M个目标传感器各自的时钟确定的时刻。也即该N-M个目标传感器各自的第二时刻为基于该第一时钟进行时间同步前的时刻。如上所述,该M个目标传感器可以先于该N-M个目标传感器完成数据采集,且在本次时间同步前完成数据采集,而该N-M个目标传感器可以在本次时间同步后完成数据采集,则该N-M个目标传感器采集到的数据各自对应的时间戳即为时间同步后的数据采集时刻。例如,该N-M个目标传感器在各自的第三时刻完成数据采集,则每个第三时刻为基于第一时钟进行时间同步后的时刻。
步骤S606,N个目标传感器发送各自采集的数据至融合模块。
步骤S607,融合模块将N个目标传感器各自采集的数据进行数据融合。
如此,将该N个目标传感器进行时间同步后,再将该N个目标传感器的数据进行数据融合,有效保证了数据融合的准确性。
图7为本申请实施例提供的又一种通信方法的流程示意图。如图7所示,该方法可以包括如下步骤:
步骤S701,控制器获取第一时钟。
具体的,本申请实施例中涉及的时间同步模式可以为预测(proactive)模式,也即如图7所示,无需传感器进行发送时间同步请求,控制器可以根据预设的时间同步周期,周期性的触发时间同步流程。可选的,控制器中可以记录每次进行时间同步的时间,从而在经过一周期后再次触发进行时间同步,等等,本申请实施例对此不作具体限定。如此,周期性的时间同步,可以避免在传感器较长一段时间内未发送同步请求消息,或者控制器未接收到传感器发送的同步请求消息,从而导致长期未进行时间同步所带来的风险。并且,一次时间同步往往能维持一段时间,因而在传感器采集数据频率较高,也即在传感器发送同步请求较为频繁的情况下,周期性的时间同步可以减少不必要的时间同步。
可选的,控制器在基于预设的时间同步周期,周期性的触发时间同步流程后。首先可以获取用于进行时间同步的第一时钟。该第一时钟可以为控制器的时钟。
步骤S702,从多个传感器中确定N个目标传感器。
具体的,如上所述,该方案不需要传感器发送时间同步请求来触发进行时间同步,而是通过控制器周期性的进行时间同步,控制器可以根据预设的融合需求(或者其他需要事先进行时间同步的需求),从智能设备的多个传感器中确定该N个目标传感器。例如预先设置摄像机与毫米波雷达的数据需要进行数据融合,则为了保证两者的数据融合的准确性,需要对其进行时间同步,也即可以确定该摄像机与毫米波雷达即为该N个目标传感器。可选的,步骤S702具体还可以参考上述步骤S604的描述,此处不再进行赘述。
需要说明的是,本申请实施例对图7中的步骤S701和步骤S702的执行先后顺序不作具体限定,也即本申请实施例对获取第一时钟和确定N个目标传感器的执行先后顺序不作具体限定,下述图8和图9中相应的步骤同理,此处不再进行赘述。
可选的,步骤S703a和步骤S703b分别可以参考步骤S605a和S605b。在此不作赘述。对图7中的步骤S703a和步骤S703b的执行先后顺序不作具体限定,步骤S703a和步骤S703b也可以同时执行,等等。
步骤S704和步骤S705分别可以参考步骤S606和S607。在此不作赘述。对图7中的步骤S704和步骤S705的执行先后顺序不作具体限定,步骤S704和步骤S705也可以同时执行,等等。
本申请实施例中涉及的时间同步可以为相对时间同步或者绝对时间同步;若所述时间同步为相对时间同步,则所述第一时钟为相对时钟;若所述时间同步为绝对时间同步,则所述第一时钟为绝对时钟。上述图5、图6和图7中进行的时间同步可以为相对时间同步,该第一时钟可以为相对时钟。
请参阅图8,图8为本申请实施例提供的又一种通信方法的流程示意图。图8以反应(reactive)模式为例,如图8所示,该方法可以包括如下步骤:
步骤S801和S802分别可以参考步骤S601和步骤S602,在此不作赘述。
步骤S803,控制器通过绝对时间授时设备获取第一时钟。
具体的,控制器可以通过与绝对时间授时设备连接来获取第一时钟,该第一时钟即为绝对时钟。例如,在根据检测特性来进行绝对时间禁行等操作的场景中,往往需要考虑不同传感器之间的检测数据的绝对时间同步需求,则控制器可以通过绝对时间授时设备(例如为GPS)获取绝对时钟,以对该N个目标传感器进行绝对时间同步。可选的,可以由控制器向该绝对时间授时设备发送请求,以获取用于进行绝对时间同步的绝对时钟。可选的,控制器也可以保存该N个目标传感器,以及该融合模块每次进行绝对时间同步的时间(可以为由该绝对时钟确定的绝对时间),并按照一定的绝对时间同步周期,周期性的对该N个目标传感器以及该融合模块进行绝对时间同步,从而避免一段时间后,各个传感器之间的时间再次失步的情况,减少长期未进行时间同步带来的风险。
步骤S804、步骤S805a,步骤805b,S806,S807分别可以参考步骤S604、步骤S605a,步骤605b,S606,S607,在此不作赘述。
需要说明的是,图8相关步骤中与图6的区别是,在图8中时间同步是绝对时间同步。
请参阅图9,图9为本申请实施例提供的又一种通信方法的流程示意图,图9以反应(reactive)模式为例。如图9所示,该方法可以包括如下步骤:
步骤S901,S902分别可以参考步骤S801,S802。在此不作赘述。
步骤S903,控制器获取智能设备当前的状态信息,该状态信息可以包括速度信息、方向信息和场景信息中的至少一种。
具体的,控制器在接收到同步请求消息,从而触发时间同步流程后,可以通过智能设备内的车姿传感器以及场景检测模块等,获取当前智能设备的状态信息。
可选的,控制器可以通过向车姿传感器以及场景检测模块发送请求消息,以获取相应的车姿信息(比如包括上述的速度信息和方向信息)和场景信息。例如,以智能车辆为例,该速度信息可以包括该智能车辆当前行驶的时速和档位等等信息;该方向信息可以包括该智能车辆当前的车轮角度、左转、右转或者掉头等信息;该场景信息例如可以为该智能车辆当前所处的驾驶环境,比如直道、左转弯道、右转弯道、U型弯道、桥面、泥路和高速公路等等信息。可选的,例如在直道场景中,智能车辆大多采取自适应巡航控制ACC(纵向控制功能),而在左转弯道、右转弯道或者U型弯道的场景中,智能车辆大多采取车道居中控制LCC(横向控制功能)。
步骤S904和S905分别可以参考步骤S604和S605,在此不作赘述。
步骤S906,控制器根据智能设备当前的状态信息,确定预设的时间同步协议。
具体的,在获取到智能设备当前的状态信息,比如速度信息、方向信息和场景信息中的至少一种后,可以根据该速度信息、方向信息和场景信息中的至少一种确定预设的时间同步协议,也即确定本次时间同步所要使用的时间同步协议。可选的,该时间同步协议可以属于一个时间同步协议集合,该时间同步协议集合中可以包括较为常见的广义精准时钟协议gPTP和网络时间协议NTP,还可以包括传感器网络时间同步协议TPSN和参考广播同步等其他可行的时间同步协议,本申请实施例对此不作具体限定。
以智能车辆为例,可以理解的是,在不同的驾驶场景或者驾驶状态下,智能设备对时间同步精度的要求往往不同。例如,在弯道,尤其是U型弯等对时间同步的精度要求比较高的场景中,不符合要求的时间同步往往会导致目标检测位置的检测偏差较大,此时可以选择时间同步精度较高的广义精准时钟协议gPTP对多个传感器进行时间同步。又例如,车辆速度较快或者档位较高的时候对于时间同步的要求较高,不符合要求的时间同步会导致目标车辆速度融合效果较差,此时可以选择时间同步精度较高的广义精准时钟协议gPTP对多个传感器进行时间同步。还例如,车道居中控制等横向控制功能(大多出现在弯道场景中)比自适应巡航控制等纵向控制功能(大多出现在直道场景中)对于时间同步的要求较高,不符合要求的时间同步会导致无法进行横向功能控制,如此,在检测到当前智能车辆为车道居中控制时,可以选择时间同步精度较高的广义精准时钟协议gPTP对多个传感器进行时间同步,而在检测到当前智能车辆为自适应巡航控制时,可以选择时间同步精度较低的网络时间协议NTP对多个传感器进行时间同步。如此,可以满足不用情况下对时间同步精度的实际需求,并且在精度要求较低的情况下可以通过使用精度较低的时间同步协议减少计算量、降低成本。
可选的,控制器除了可以根据速度信息、方向信息和场景信息中的至少一种确定预设的时间同步协议外,在一些可能的实施例中,控制器还可以根据传感器进行数据融合的精度需求,确定使用的时间同步协议。可选的,若对该N个目标传感器进行数据融合的精度要求较高(例如将摄像机和毫米波雷达的数据进行融合,其要求的融合进度较高),则为了保证其数据融合的准确性,可以选择时间同步精度较高的时间同步协议(例如gPTP)。可选的,若对该N个目标传感器进行数据融合的精度要求较低,则为了在保证其数据融合的准确性的同时降低不必要的成本和计算量,可以选择时间同步精度较低的时间同步协议(例如NTP),等等,此处不再进行赘述。
需要说明的是,本申请实施例对图9中的步骤S904、步骤S905和步骤S906的执行先后顺序不作具体限定。在一些可能的实施例中,可以首先执行步骤S906,也即可以先根据智能设备当前的速度信息、方向信息和场景信息中的至少一种,确定本次时间同步所使用的时间同步协议,然后再获取用于时间同步的第一时钟,以及确定进行时间同步的N个目标传感器,等等,本申请实施例对此不作具体限定。
综上,可选的,在一些可能的实施例中,还可以直接对该智能设备内的多个传感器全部进行时间同步,例如,在智能车辆的场景中,在用户启动该智能车辆后,为了保证提供自动驾驶所需的准确数据,该智能车辆内的控制器可以立刻对该智能车辆内的全部传感器或者部分用语进行数据融合的传感器进行时间同步,等等,本申请实施例对此不作具体限定。可选的,在一些可能的实施例中,还可以对该N个目标传感器中的一个或多个时间失步的传感器进行时间同步,等等。此外,若一段时间后需要进行数据融合的目标传感器存在更改,新增或者剔除了一个或多个目标传感器,则可以对更改后确定的多个目标传感器进行时间同步,等等,本申请实施例对此不作具体限定。
步骤S907a、步骤907b,S908,S909分别可以参考步骤S805a,步骤805b,S806,S807,在此不作赘述。
本申请实施例提供了一种通信方法,可以在包括多个传感器的智能设备中,基于一个基准时钟,对其中的部分或者全部传感器各自的本地时钟进行时间同步。如此,在该部分或者全部传感器采集到的数据需要进行数据融合或者数据比对的情况下,由于各个传感器的时间已同步,从而可以保证各个传感器采集到的数据的时间信息的准确性,进而可以保证其数据融合或者数据比对的准确性,比如可以保证其数据融合为针对同一场景的有效融合。例如在前述的自动驾驶的场景中,本申请实施例可以对时间同步后的多个传感器的数据进行准确、有效的融合处理,从而可以得到更加全面、精准的路况分析和环境感知等,提高驾驶的舒适性和安全性。
需要说明的是,本申请旨在提供一种通信方法,通过将多个传感器进行时间同步,从而保证各个传感器的数据在时间上的严谨和可靠,进而保证在将该多个传感器各自采集的数据进行处理时的有效和准确。本申请实施例对实际的应用场景不作具体限定,时间同步后的各个传感器的数据可以用于进行数据融合、数据对比分析或者其他任何可能的处理,等等,本申请实施例对此不作具体限定。
请参阅图10,图10为本申请实施例提供的一种通信装置的结构示意图,该通信装置可以应用于智能设备,所述智能设备可以包括多个传感器。该通信装置可以包括装置30,如图10所示,该装置30可以包括第一确定单元304和修正单元309,其中,各个单元的详细描述如下。
第一确定单元304,用于从所述多个传感器中确定N个目标传感器,N为大于1的整数;
修正单元309,用于基于第一时钟,将所述N个目标传感器各自的第二时刻修正为所述第一时钟的第一时刻。
在一种可能的实现方式中,所述装置还包括:
第二确定单元307,用于基于预设的时间同步协议,确定所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及确定所述N个目标传感器各自的传输时延;
时间同步单元308,用于基于所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及所述N个目标传感器各自的传输时延,对所述N个目标传感器进行时间同步。
在一种可能的实现方式中,所述装置还包括:
第一获取单元305,用于获取所述智能设备当前的状态信息,所述状态信息包括速度信息、方向信息和场景信息中的至少一种;
第三确定单元306,用于基于所述状态信息,确定所述预设的时间同步协议;所述预设的时间同步协议属于一个时间同步协议集合,所述时间同步协议集合包括广义精准时钟协议gPTP、网络时间协议NTP、传感器网络时间同步协议TPSN和参考广播同步RBS中的至少一种。
在一种可能的实现方式中,所述装置还包括:
第二获取单元303,用于基于预设的时间同步周期,获取所述第一时钟。
在一种可能的实现方式中,所述装置还包括:
接收单元301,用于接收所述多个传感器中的M个目标传感器各自发送的同步请求消息;所述同步请求消息为所述M个目标传感器在各自的第二时刻采集数据后发送的消息;所述M个目标传感器属于所述N个目标传感器,M为大于或者等于1的整数;
第三获取单元302,用于基于所述M个目标传感器各自发送的所述同步请求消息,获取所述第一时钟。
在一种可能的实现方式中,所述第一确定单元304,具体用于:
基于所述M个目标传感器和预设的融合规则,从所述多个传感器中确定用于与所述M目标传感器进行数据融合的N-M个目标传感器,所述N-M个目标传感器属于所述N个目标传感器。
在一种可能的实现方式中,所述时间同步为相对时间同步或者绝对时间同步;若所述时间同步为相对时间同步,则所述第一时钟为相对时钟;若所述时间同步为绝对时间同步,则所述第一时钟为绝对时钟。
在一种可能的实现方式中,所述装置还包括:
融合单元310,用于将所述N个目标传感器各自采集的数据进行数据融合。
需要说明的是,本申请实施例中所描述的通信装置中各功能单元的功能可参见上述图5中所述的方法实施例中步骤S501-步骤S502以及图6至图9所述方法实施例中的相关描述,此处不再进行赘述。
图10中每个单元可以以软件、硬件、或其结合实现。以硬件实现的单元可以包括路及电炉、算法电路或模拟电路等。以软件实现的单元可以包括程序指令,被视为是一种软件产品,被存储于存储器中,并可以被处理器运行以实现相关功能,具体参见之前的介绍。
可以理解的,图10中各个单元之间的连线只是一种示意性举例,并不对本申请实施中的各单元之间的连接关系形成限制。任何可以实现本申请实施例的功能的连接关系均在本申请实施例保护范围之内。
基于上述方法实施例以及装置实施例的描述,本申请实施例还提供一种智能设备。该智能设备可以为上述图3所示的智能机器人或者上述图4a和图4b所示的智能车辆等等,可以包括多个传感器。请参阅图11,图11是为申请实施例提供的一种智能设备的结构示意图,该智能设备至少包括处理器401,输入设备402、输出设备403和计算机可读存储介质404,该智能设备还可以包括其他通用部件如数据库405,在此不再详述。其中,智能设备内的处理器401,输入设备402、输出设备403和计算机可读存储介质404可通过总线或其他方式连接。该输入设备402可以包括各类传感器,例如可以包括摄像机(比如红外摄像机或者双目摄像机等等)、激光雷达和毫米波雷达,等等,本申请实施例对此不作具体限定。
处理器401可以是通用中央处理器(CPU),微处理器,特定应用集成电路(application-specific integrated circuit,ASIC),或一个或多个用于控制以上方案程序执行的集成电路。
该智能设备内的存储器可以是只读存储器(read-only memory,ROM)或可存储静态信息和指令的其他类型的静态存储设备,随机存取存储器(random access memory,RAM)或者可存储信息和指令的其他类型的动态存储设备,也可以是电可擦可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器可以是独立存在,通过总线与处理器相连接。存储器也可以和处理器集成在一起。
计算机可读存储介质404可以存储在智能设备的存储器中,所述计算机可读存储介质404用于存储计算机程序,所述计算机程序包括程序指令,所述处理器401用于执行所述计算机可读存储介质404存储的程序指令。处理器401(或称CPU(Central ProcessingUnit,中央处理器))是智能设备的计算核心以及控制核心,其适于实现一条或一条以上指令,具体适于加载并执行一条或一条以上指令从而实现相应方法流程或相应功能;在一个实施例中,本申请实施例所述的处理器401可以用于进行时间同步等一系列处理,包括:从多个传感器中确定N个目标传感器,N为大于1的整数;将N个目标传感器各自的第二时刻修正为第一时钟的第一时刻,等等。
需要说明的是,本申请实施例中所描述的智能设备中各功能单元的功能可参见上述图5中所述的方法实施例中的步骤S501-步骤S502的相关描述,以及图6至图9所述方法实施例中的相关描述,此处不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
本申请实施例还提供了一种计算机可读存储介质(Memory),所述计算机可读存储介质是智能设备中的记忆设备,用于存放程序和数据。可以理解的是,此处的计算机可读存储介质既可以包括智能设备中的内置存储介质,当然也可以包括智能设备所支持的扩展存储介质。计算机可读存储介质提供存储空间,该存储空间存储了智能设备的操作系统。并且,在该存储空间中还存放了适于被处理器401加载并执行的一条或一条以上的指令,这些指令可以是一个或一个以上的计算机程序(包括程序代码)。需要说明的是,此处的计算机可读存储介质可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatilememory),例如至少一个磁盘存储器;可选的还可以是至少一个位于远离前述处理器的计算机可读存储介质。
本申请实施例还提供一种计算机程序,该计算机程序包括指令,当该计算机程序被计算机执行时,使得计算机可以执行任意一种活体检测方法的部分或全部步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可能可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置,可通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以集成在一个处理单元中(比如各确定单元,时间同步单元,修正单元,融合单元可以集合在一个处理单元,比如处理器中,各个获取单元可以集成在一个收发单元,比如收发器中等),也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以为个人计算机、服务端或者网络设备等,具体可以是计算机设备中的处理器)执行本申请各个实施例上述方法的全部或部分步骤。其中,而前述的存储介质可包括:U盘、移动硬盘、磁碟、光盘、只读存储器(Read-OnlyMemory,缩写:ROM)或者随机存取存储器(RandomAccessMemory,缩写:RAM)等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (19)
1.一种通信方法,其特征在于,应用于智能设备,所述智能设备包括多个传感器;所述方法包括:
从所述多个传感器中确定N个目标传感器,N为大于1的整数;
基于第一时钟,将所述N个目标传感器各自的第二时刻修正为所述第一时钟的第一时刻。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
基于预设的时间同步协议,确定所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及确定所述N个目标传感器各自的传输时延;
基于所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及所述N个目标传感器各自的传输时延,对所述N个目标传感器进行时间同步。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
获取所述智能设备当前的状态信息,所述状态信息包括速度信息、方向信息和场景信息中的至少一种;
基于所述状态信息,确定所述预设的时间同步协议;所述预设的时间同步协议属于一个时间同步协议集合,所述时间同步协议集合包括广义精准时钟协议gPTP、网络时间协议NTP、传感器网络时间同步协议TPSN和参考广播同步RBS中的至少一种。
4.根据权利要求1-3任意一项所述的方法,其特征在于,所述方法还包括:
基于预设的时间同步周期,获取所述第一时钟。
5.根据权利要求1-3任意一项所述的方法,其特征在于,所述方法还包括:
接收所述多个传感器中的M个目标传感器各自发送的同步请求消息;所述同步请求消息为所述M个目标传感器在各自的第二时刻采集数据后发送的消息;所述M个目标传感器属于所述N个目标传感器,M为大于或者等于1的整数;
基于所述M个目标传感器各自发送的所述同步请求消息,获取所述第一时钟。
6.根据权利要求5所述的方法,其特征在于,所述从所述多个传感器中确定N个目标传感器,包括:
基于所述M个目标传感器和预设的融合规则,从所述多个传感器中确定用于与所述M目标传感器进行数据融合的N-M个目标传感器,所述N-M个目标传感器属于所述N个目标传感器。
7.根据权利要求2-6任意一项所述的方法,其特征在于,所述时间同步为相对时间同步或者绝对时间同步;若所述时间同步为相对时间同步,则所述第一时钟为相对时钟;若所述时间同步为绝对时间同步,则所述第一时钟为绝对时钟。
8.根据权利要求1-7任意一项所述的方法,其特征在于,所述方法还包括:
将所述N个目标传感器各自采集的数据进行数据融合。
9.一种通信装置,其特征在于,应用于智能设备,所述智能设备包括多个传感器;所述装置包括:
第一确定单元,用于从所述多个传感器中确定N个目标传感器,N为大于1的整数;
修正单元,用于基于第一时钟,将所述N个目标传感器各自的第二时刻修正为所述第一时钟的第一时刻。
10.根据权利要求9所述的装置,其特征在于,所述装置还包括:
第二确定单元,用于基于预设的时间同步协议,确定所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及确定所述N个目标传感器各自的传输时延;
时间同步单元,用于基于所述N个目标传感器各自的时钟与所述第一时钟之间的时钟频率偏差,以及所述N个目标传感器各自的传输时延,对所述N个目标传感器进行时间同步。
11.根据权利要求10所述的装置,其特征在于,所述装置还包括:
第一获取单元,用于获取所述智能设备当前的状态信息,所述状态信息包括速度信息、方向信息和场景信息中的至少一种;
第三确定单元,用于基于所述状态信息,确定所述预设的时间同步协议;所述预设的时间同步协议属于一个时间同步协议集合,所述时间同步协议集合包括广义精准时钟协议gPTP、网络时间协议NTP、传感器网络时间同步协议TPSN和参考广播同步RBS中的至少一种。
12.根据权利要求9-11任意一项所述的装置,其特征在于,所述装置还包括:
第二获取单元,用于基于预设的时间同步周期,获取所述第一时钟。
13.根据权利要求9-11任意一项所述的装置,其特征在于,所述装置还包括:
接收单元,用于接收所述多个传感器中的M个目标传感器各自发送的同步请求消息;所述同步请求消息为所述M个目标传感器在各自的第二时刻采集数据后发送的消息;所述M个目标传感器属于所述N个目标传感器,M为大于或者等于1的整数;
第三获取单元,用于基于所述M个目标传感器各自发送的所述同步请求消息,获取所述第一时钟。
14.根据权利要求13所述的装置,其特征在于,所述第一确定单元,具体用于:
基于所述M个目标传感器和预设的融合规则,从所述多个传感器中确定用于与所述M目标传感器进行数据融合的N-M个目标传感器,所述N-M个目标传感器属于所述N个目标传感器。
15.根据权利要求10-14任意一项所述的装置,其特征在于,所述时间同步为相对时间同步或者绝对时间同步;若所述时间同步为相对时间同步,则所述第一时钟为相对时钟;若所述时间同步为绝对时间同步,则所述第一时钟为绝对时钟。
16.根据权利要求9-15任意一项所述的装置,其特征在于,所述装置还包括:
融合单元,用于将所述N个目标传感器各自采集的数据进行数据融合。
17.一种通信装置,其特征在于,包括处理器,所述处理器和存储器耦合,其中,所述处理器用于调用所述存储器存储的程序代码,以执行如权利要求1至8中任意一项所述的方法。
18.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1至8中任意一项所述的方法。
19.一种计算机程序,其特征在于,所述计算机程序包括指令,当所述指令被处理器执行时,使得所述处理器执行如权利要求1至8中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210278073.1A CN114745069A (zh) | 2020-12-01 | 2020-12-01 | 一种通信方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2020/133133 WO2022116000A1 (zh) | 2020-12-01 | 2020-12-01 | 一种通信方法及装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210278073.1A Division CN114745069A (zh) | 2020-12-01 | 2020-12-01 | 一种通信方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112640332A true CN112640332A (zh) | 2021-04-09 |
CN112640332B CN112640332B (zh) | 2022-04-12 |
Family
ID=75291521
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210278073.1A Pending CN114745069A (zh) | 2020-12-01 | 2020-12-01 | 一种通信方法及装置 |
CN202080004095.8A Active CN112640332B (zh) | 2020-12-01 | 2020-12-01 | 一种通信方法及装置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210278073.1A Pending CN114745069A (zh) | 2020-12-01 | 2020-12-01 | 一种通信方法及装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230305138A1 (zh) |
EP (1) | EP4246837A4 (zh) |
CN (2) | CN114745069A (zh) |
WO (1) | WO2022116000A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113497663A (zh) * | 2021-05-28 | 2021-10-12 | 中国航空工业集团公司沈阳飞机设计研究所 | 一种分布式网络架构及其时间同步方法 |
CN113839732A (zh) * | 2021-09-18 | 2021-12-24 | 阿里巴巴达摩院(杭州)科技有限公司 | 时钟同步方法、装置及设备 |
CN114115444A (zh) * | 2021-11-30 | 2022-03-01 | 上海有个机器人有限公司 | 机器人对齐时间轴方法及相关产品 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115167612B (zh) * | 2022-07-14 | 2023-06-16 | 北京中科心研科技有限公司 | 同步数据的墙上时间和增补包方法、装置及设备和介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060245454A1 (en) * | 2005-04-27 | 2006-11-02 | Rockwell Automation Technologies, Inc. | Time synchronization, deterministic data delivery and redundancy for cascaded nodes on full duplex ethernet networks |
CN101949715A (zh) * | 2010-08-10 | 2011-01-19 | 武汉武大卓越科技有限责任公司 | 高精度时空数据获取的多传感器集成同步控制方法和系统 |
EP2983324A1 (en) * | 2013-04-22 | 2016-02-10 | Huawei Technologies Co., Ltd. | Timestamp generating method, device and system |
CN109905194A (zh) * | 2019-02-21 | 2019-06-18 | 初速度(苏州)科技有限公司 | 一种车载终端系统和同步数据获取方法、装置 |
CN111381487A (zh) * | 2018-12-29 | 2020-07-07 | 阿里巴巴集团控股有限公司 | 多传感器同步授时系统、方法、装置及电子设备 |
CN111740800A (zh) * | 2020-07-30 | 2020-10-02 | 浙江工商大学 | 基于sdn架构5g智能节点的多精度时钟同步方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016123009A (ja) * | 2014-12-25 | 2016-07-07 | ルネサスエレクトロニクス株式会社 | 半導体装置、電子デバイス・モジュール、及びネットワークシステム |
JP6626015B2 (ja) * | 2017-01-04 | 2019-12-25 | 株式会社東芝 | 同期装置、同期方法、同期プログラム、および同期システム |
CN111756463B (zh) * | 2019-03-29 | 2021-09-24 | 北京航迹科技有限公司 | 用于车辆的时间同步系统和方法 |
CN111585682B (zh) * | 2020-05-09 | 2022-10-04 | 森思泰克河北科技有限公司 | 传感器时间同步方法、装置及终端设备 |
CN111917709A (zh) * | 2020-06-09 | 2020-11-10 | 上海黑默丁格智能科技有限公司 | 车载时序同步系统 |
-
2020
- 2020-12-01 WO PCT/CN2020/133133 patent/WO2022116000A1/zh unknown
- 2020-12-01 EP EP20963848.5A patent/EP4246837A4/en active Pending
- 2020-12-01 CN CN202210278073.1A patent/CN114745069A/zh active Pending
- 2020-12-01 CN CN202080004095.8A patent/CN112640332B/zh active Active
-
2023
- 2023-05-30 US US18/325,566 patent/US20230305138A1/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060245454A1 (en) * | 2005-04-27 | 2006-11-02 | Rockwell Automation Technologies, Inc. | Time synchronization, deterministic data delivery and redundancy for cascaded nodes on full duplex ethernet networks |
CN101949715A (zh) * | 2010-08-10 | 2011-01-19 | 武汉武大卓越科技有限责任公司 | 高精度时空数据获取的多传感器集成同步控制方法和系统 |
EP2983324A1 (en) * | 2013-04-22 | 2016-02-10 | Huawei Technologies Co., Ltd. | Timestamp generating method, device and system |
CN111381487A (zh) * | 2018-12-29 | 2020-07-07 | 阿里巴巴集团控股有限公司 | 多传感器同步授时系统、方法、装置及电子设备 |
CN109905194A (zh) * | 2019-02-21 | 2019-06-18 | 初速度(苏州)科技有限公司 | 一种车载终端系统和同步数据获取方法、装置 |
CN111740800A (zh) * | 2020-07-30 | 2020-10-02 | 浙江工商大学 | 基于sdn架构5g智能节点的多精度时钟同步方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113497663A (zh) * | 2021-05-28 | 2021-10-12 | 中国航空工业集团公司沈阳飞机设计研究所 | 一种分布式网络架构及其时间同步方法 |
CN113839732A (zh) * | 2021-09-18 | 2021-12-24 | 阿里巴巴达摩院(杭州)科技有限公司 | 时钟同步方法、装置及设备 |
CN114115444A (zh) * | 2021-11-30 | 2022-03-01 | 上海有个机器人有限公司 | 机器人对齐时间轴方法及相关产品 |
Also Published As
Publication number | Publication date |
---|---|
US20230305138A1 (en) | 2023-09-28 |
CN112640332B (zh) | 2022-04-12 |
CN114745069A (zh) | 2022-07-12 |
EP4246837A4 (en) | 2024-01-03 |
EP4246837A1 (en) | 2023-09-20 |
WO2022116000A1 (zh) | 2022-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112640332B (zh) | 一种通信方法及装置 | |
US10783789B2 (en) | Lane change estimation device, lane change estimation method, and storage medium | |
EP3644294B1 (en) | Vehicle information storage method, vehicle travel control method, and vehicle information storage device | |
EP3547215A1 (en) | Systems and methods for automatically training neural networks | |
WO2021103511A1 (zh) | 一种设计运行区域odd判断方法、装置及相关设备 | |
CN112543876B (zh) | 用于自动驾驶车辆中的传感器同步性数据分析的系统 | |
CN114255606A (zh) | 辅助驾驶提醒、地图辅助驾驶提醒方法、装置和地图 | |
CN108974002B (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
CN109795500B (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
US11456890B2 (en) | Open and safe monitoring system for autonomous driving platform | |
US20230245564A1 (en) | System and Method for Intersection Collision Avoidance | |
US20200394424A1 (en) | Vehicle control system, sensing device and sensing data processing method | |
CN113859265A (zh) | 一种驾驶过程中的提醒方法及设备 | |
WO2021189373A1 (en) | Time determination of an inertial navigation system in autonomous driving systems | |
CN115348657B (zh) | 用于车辆时间同步的系统、方法及车辆 | |
US20230282112A1 (en) | System and Method for Intersection Collision Avoidance | |
CN114764980B (zh) | 一种车辆转弯路线规划方法及装置 | |
CN110462338B (zh) | 车辆控制系统、服务器装置、车辆控制方法及存储介质 | |
CN113022573B (zh) | 道路结构检测方法及装置 | |
JP2021068315A (ja) | 車線状態の推定方法及び推定システム | |
JP7348942B2 (ja) | 車両制御装置、車両制御方法、およびプログラム | |
WO2022149302A1 (ja) | 制御システム、車載装置、および管制装置 | |
US20240051569A1 (en) | Long-term evolution computing platform for autonomous vehicles based on shell and nut architecture | |
CN115139946B (zh) | 车辆落水检测方法、车辆、计算机可读存储介质及芯片 | |
WO2021035735A1 (zh) | 一种用于定位可移动物体的方法、系统及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |