CN117705094A - 导航定位方法及终端设备 - Google Patents
导航定位方法及终端设备 Download PDFInfo
- Publication number
- CN117705094A CN117705094A CN202310558584.3A CN202310558584A CN117705094A CN 117705094 A CN117705094 A CN 117705094A CN 202310558584 A CN202310558584 A CN 202310558584A CN 117705094 A CN117705094 A CN 117705094A
- Authority
- CN
- China
- Prior art keywords
- equal
- terminal device
- threshold
- terminal equipment
- parallax
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 101
- 230000001133 acceleration Effects 0.000 claims abstract description 199
- 230000003068 static effect Effects 0.000 claims abstract description 64
- 238000005259 measurement Methods 0.000 claims description 28
- 238000004422 calculation algorithm Methods 0.000 claims description 26
- 238000006073 displacement reaction Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 12
- 238000001914 filtration Methods 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 11
- 230000005484 gravity Effects 0.000 claims description 10
- 230000003190 augmentative effect Effects 0.000 claims description 6
- 230000008093 supporting effect Effects 0.000 claims description 6
- 230000033001 locomotion Effects 0.000 abstract description 27
- 230000001976 improved effect Effects 0.000 abstract description 23
- 238000001514 detection method Methods 0.000 abstract description 13
- 238000004891 communication Methods 0.000 description 38
- 230000006854 communication Effects 0.000 description 38
- 230000000007 visual effect Effects 0.000 description 37
- 239000010410 layer Substances 0.000 description 34
- 230000006870 function Effects 0.000 description 30
- 238000012545 processing Methods 0.000 description 22
- 238000007726 management method Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 15
- 230000005236 sound signal Effects 0.000 description 13
- 238000010295 mobile communication Methods 0.000 description 12
- 210000000988 bone and bone Anatomy 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 7
- 230000001965 increasing effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000005457 optimization Methods 0.000 description 5
- 230000002572 peristaltic effect Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 101100268665 Caenorhabditis elegans acc-1 gene Proteins 0.000 description 2
- 101100268668 Caenorhabditis elegans acc-2 gene Proteins 0.000 description 2
- 101100268670 Caenorhabditis elegans acc-3 gene Proteins 0.000 description 2
- 101100268671 Caenorhabditis elegans acc-4 gene Proteins 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000003416 augmentation Effects 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000002138 osteoinductive effect Effects 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本申请提供了一种导航定位方法及终端设备,应用于终端技术领域,该导航定位方法包括:利用通过IMU检测获得的多组IMU数据、通过测速单元检测获得的当前时刻下终端设备的速度,以及基于多个第一图像和第二图像得到的视差数据,判断终端设备在第一时刻至当前时刻之间是否处于静止状态;若终端设备在第一时刻至当前时刻之间处于静止状态,确定当前时刻下终端设备的位置和第三图像,并通过AR导航界面显示第三图像,有利于提升零速更新方案的鲁棒性,满足用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升用户体验。
Description
技术领域
本申请涉及终端技术领域,尤其涉及一种导航定位方法及终端设备。
背景技术
用户使用终端设备中的导航应用进行导航定位时,终端设备需要对惯性测量单元(inertial measurement unit,IMU)测量得到角速度和加速度进行多次积分,以实现当前定位点的更新修正。在使用增强现实(augmented reality,AR)导航模式时,由于用户可能存在较长时间静止等待的情况,例如驻足观赏,此时IMU数据可能存在长时间的测量误差累计,导致终端设备在导航应用中的位置偏离其实际位置,需要通过零速更新方案进行优化。
零速更新方案是在判断终端设备当前为静止状态后,利用观测方程对终端设备在导航应用中的位置进行更新修正。目前,零速更新方案主要包括单目视觉惯性里程计(lightweight accurate robust visual inertial odometry,LARVIO)和开源的视觉惯性导航系统(open visual inertial navigation system,OPENVINS)两种方案,其中,LARVIO方案基于视觉数据判断终端设备当前为静止状态后,利用速度、位移和角度(VPQ)为观测值的观测方程对终端设备在导航应用中的位置进行更新修正;OPENVINS方案通过IMU数据或者视觉数据判断终端设备当前为静止状态后,利用角速度和加速度(ωA)为观测值的观测方程对终端设备在导航应用中的位置进行更新修正。
但是,现有的零速更新方案鲁棒性较低,无法满足用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,用户体验感较差。
发明内容
本申请提供了一种导航定位方法及终端设备,有利于提升零速更新方案的鲁棒性,满足用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升用户体验。
第一方面,提供了一种导航定位方法,包括:通过所述IMU在第一时刻至当前时刻之间持续进行检测,获得多组IMU数据;通过所述测速单元在所述当前时刻进行检测,获得所述当前时刻下所述终端设备的速度;在所述多组IMU数据的组数大于或等于第一阈值的情况下,基于多个第一图像和所述第一时刻下所述终端设备的位置对应的第二图像,得到视差数据,所述多个第一图像是通过所述摄像头在所述第一时刻至所述当前时刻之间持续采集到的;利用所述多组IMU数据、所述当前时刻下所述终端设备的速度和所述视差数据,判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态;若所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态,确定所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,并通过AR导航界面显示所述第三图像。
本申请实施例通过使用IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据、测速单元在当前时刻下进行检测获得的终端设备的速度、以及视差数据,对终端设备在第一时刻至当前时刻之间是否处于静止状态进行判断,进而确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像,细化了静止状态的判断条件,能够更加精确的区分用户在使用AR导航模式时的不同场景,避免终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,上述导航定位方法的执行主体可以是支持增强现实AR导航模式的终端设备,所述终端设备上设有惯性测量单元IMU、测速单元和摄像头。
应理解,在上述应用启动时刻至上述AR导航模式启动时刻之间,以及在上述AR导航模式退出时刻至上述应用退出时刻之间,对通过IMU在上述应用启动时刻至上述AR导航模式启动时刻之间持续进行检测获得的多组IMU数据进行积分,以及对通过IMU在上述AR导航模式退出时刻至上述应用退出时刻之间持续进行检测获得的多组IMU数据进行积分,得到终端设备的位置。
还应理解,在上述AR导航模式启动时刻至上述AR导航模式退出时刻之间,若终端设备未处于静止状态,判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件;若终端设备在第一时刻至当前时刻之间满足视觉更新条件,利用视觉更新确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像;若终端设备在第一时刻至当前时刻之间未满足视觉更新条件,对通过IMU在上述AR导航模式启动时刻至上述AR导航模式退出时刻之间持续进行检测获得的多组IMU数据进行积分,确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像。
结合第一方面,在第一方面的某些实现方式中,所述多组IMU数据包括多个第一加速度和多个第一角速度,所述视差数据包括平均视差和视差占比;所述利用所述多组IMU数据、所述当前时刻下所述终端设备的速度和所述视差数据,判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,包括:基于所述多个第一加速度、所述多个第一角速度、所述当前时刻下所述终端设备的速度、所述平均视差以及所述视差占比,判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态。
应理解,上述第一加速度是通过IMU在终端设备坐标系检测得到的三轴加速度的模长,同理,上述第一角速度是通过IMU在终端设备坐标系检测得到的三轴角速度的模长。
还应理解,上述多个第一加速度和多个第一角速度之间存在对应关系。
本申请实施例通过使用IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据、测速单元在当前时刻下进行检测获得的终端设备的速度、以及视差数据,对终端设备在第一时刻至当前时刻之间是否处于静止状态进行判断,进而确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像,细化了静止状态的判断条件,能够更加精确的区分用户在使用AR导航模式时的不同场景,避免终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,所述视差占比包括第一视差占比和第二视差占比,所述第一视差占比为多个视差中大于或等于第二阈值的视差的个数在所述多个视差的个数中的比例,所述第二视差占比为多个视差中大于或等于第三阈值的视差的个数在所述多个视差的个数中的比例;所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,包括:在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:所述多个第一加速度均小于或等于第四阈值、所述多个第一角速度均小于或等于第五阈值、所述平均视差小于或等于第六阈值、所述第一视差占比小于或等于第七阈值、所述第二视差占比小于或等于第八阈值、且所述当前时刻下所述终端设备的速度小于或等于第九阈值。
应理解,在不满足多个第一加速度均小于或等于第四阈值、且多个第一角速度均小于或等于第五阈值时,可能满足下述三个条件中的任意一个:
条件1:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度均小于或等于第五阈值。
条件2:多个第一加速度均小于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
条件3:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
其中,在满足条件2或者条件3的情况下,将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
还应理解,在不满足平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、且第二视差占比小于或等于第八阈值时,或者,在不满足当前时刻下终端设备的速度小于或等于第九阈值时,也将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
这样,本申请实施例能够通过限制平均视差和视差占比,避免用户在进行匀速运动的特殊场景下终端设备误使用零速更新方案进行导航定位,同时通过限制当前时刻下终端设备的速度,防止终端设备在具有较大速度时使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动的特殊场景下的需求,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,所述视差数据还包括:平均特征匹配数;所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,还包括:在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:所述多个第一加速度中存在至少一个第一加速度大于或等于所述第四阈值、所述多个第一角速度均小于或等于所述第五阈值、所述平均特征匹配数大于或等于第十阈值、所述平均视差小于或等于第十一阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值;或者,所述多个第一加速度中存在至少一个第一加速度大于或等于所述第四阈值、所述多个第一角速度均小于或等于所述第五阈值、所述平均特征匹配数小于或等于所述第十阈值且大于或等于第十二阈值、所述平均视差小于或等于第十三阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值。
应理解,在不满足多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度均小于或等于第五阈值时,可能满足下述三个条件中的任意一个:
条件1:多个第一加速度均小于或等于第四阈值、且多个第一角速度均小于或等于第五阈值。
条件2:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
条件3:多个第一加速度均小于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
其中,在满足条件2或者条件3的情况下,将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
还应理解,在不满足平均特征匹配数大于或等于第十阈值、且平均视差小于或等于第十一阈值时,将继续判断平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、且平均视差小于或等于第十三阈值是否成立,在平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、且平均视差小于或等于第十三阈值时,再判断当前时刻下终端设备的速度小于或等于第九阈值是否成立。在不满足平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、且平均视差小于或等于第十三阈值时,或者,在不满足当前时刻下终端设备的速度小于或等于第九阈值时,也将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
应理解,上述第十一阈值和上述第六阈值可以相等,也可以不等,本申请在此不做限定。上述第十三阈值和上述第六阈值可以相等,也可以不等,本申请在此也不做限定。上述第十二阈值应大于或等于上述第十阈值。
这样,本申请实施例能够通过限制第一角速度,避免用户在进行小范围慢速转动的特殊场景下终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动的特殊场景下的需求,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,所述视差占比包括第一视差占比和第二视差占比,所述第一视差占比为多个视差中大于或等于所述第二阈值的视差的个数在所述多个视差的个数中的比例,所述第二视差占比为多个视差中大于或等于所述第三阈值的视差的个数在所述多个视差的个数中的比例;所述方法还包括:基于所述多个第一加速度和所述多个第一角速度,得到多个第二加速度和多个第二角速度;所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,包括:在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:所述多个第二加速度均小于或等于所述第四阈值、所述多个第二角速度均小于或等于所述第五阈值、所述平均视差小于或等于所述第六阈值、所述第一视差占比小于或等于所述第七阈值、所述第二视差占比小于或等于所述第八阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值。
应理解,多个第二加速度和多个第二角速度也存在对应关系,类似于多个第一加速度和多个第一角速度之间的对应关系,此处不做过多赘述。
结合第一方面,在第一方面的某些实现方式中,所述视差数据还包括:平均特征匹配数;所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,还包括:在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:所述多个第二加速度中存在至少一个第二加速度大于或等于所述第四阈值、所述多个第二角速度均小于或等于所述第五阈值、所述平均特征匹配数大于或等于第十阈值、所述平均视差小于或等于第十一阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值;或者,所述多个第二加速度中存在至少一个第二加速度大于或等于所述第四阈值、所述多个第二角速度均小于或等于所述第五阈值、所述平均特征匹配数小于或等于所述第十阈值且大于或等于第十二阈值、所述平均视差小于或等于第十三阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值。
这样,本申请实施例能够通过对多组IMU数据分别进行优化得到多个第二加速度和多个第二角速度,并使用多个第二加速度、多个第二角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态,弥补了IMU的测量误差,增加了判断结果的准确性。
结合第一方面,在第一方面的某些实现方式中,所述多组IMU数据还包括多个重力加速度;所述基于所述多个第一加速度和所述多个第一角速度,得到多个第二加速度和多个第二角速度,包括:计算所述多个第一加速度中每个第一加速度与所述每个第一加速度对应的重力加速度作差后的绝对值,得到多个绝对值,将所述多个绝对值确定为所述多个第二加速度;将所述多个第一角速度确定为所述多个第二角速度。
这样,本申请实施例能够减小因IMU中的加速度传感器测量不准造成的判断结果误差,同时,还能够避免终端设备在重力加速度不为9.81m/s2的特殊场景下无法使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动的特殊场景下的需求,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,所述若所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态,确定所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,包括:若所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态,基于AR导航应用的启动时刻至所述当前时刻之间所述终端设备是否移动和所述多个第一图像的个数,确定更新参数;基于所述更新参数构造方程,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像。
应理解,上述AR导航应用的启动时刻至当前时刻之间终端设备是否移动也可以理解为AR导航应用的初始化状态。具体地,终端设备发生移动对应的AR导航应用的初始化状态为动态初始化,终端设备未发生移动对应的AR导航应用的初始化状态为静态初始化。
结合第一方面,在第一方面的某些实现方式中,所述基于AR导航应用的启动时刻至所述当前时刻之间所述终端设备是否移动和所述多个第一图像的个数,确定更新参数,包括:在所述启动时刻至所述当前时刻之间所述终端设备没有移动、且所述多个第一图像的个数大于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度、位移以及角度,以及所述第二图像和在所述第一时刻采集的第一图像之间的速度、位移以及角度确定为所述更新参数。
应理解,滤波算法包括多种类型,本申请实施例对具体采用的滤波算法不做限定。示例性地,滤波算法可以是扩展卡尔曼滤波器(extended kalman filter,EKF)算法。
结合第一方面,在第一方面的某些实现方式中,所述基于AR导航应用的启动时刻至所述当前时刻之间所述终端设备是否移动和所述多个第一图像的个数,确定更新参数,还包括:在所述启动时刻至所述当前时刻之间所述终端设备发生移动,或者,所述多个第一图像的个数小于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度,以及所述第二图像和在所述第一时刻采集的第一图像之间的速度确定为所述更新参数。
应理解,启动时刻至当前时刻之间终端设备发生移动,或者,多个第一图像的个数小于或等于第十四阈值,具体包括下述三个情况:
情况1:启动时刻至当前时刻之间终端设备发生移动、且多个第一图像的个数小于或等于第十四阈值。
情况2:启动时刻至当前时刻之间终端设备发生移动、且多个第一图像的个数大于或等于第十四阈值。
情况3:启动时刻至当前时刻之间终端设备没有移动、且多个第一图像的个数小于或等于第十四阈值。
这样,本申请实施例能够根据不同场景确定不同的更新参数,进而确定终端设备的位置,提高了导航定位的准确性与零速更新方案的鲁棒性,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,所述基于所述更新参数构造方程,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,包括:利用滤波算法对所述方程进行求解,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像。
这样,本申请实施例能够根据不同场景确定不同的更新参数,进而确定终端设备的位置,提高了导航定位的准确性与零速更新方案的鲁棒性,从而提升了用户体验。
结合第一方面,在第一方面的某些实现方式中,所述基于多个第一图像和所述第一时刻下所述终端设备的位置对应的第二图像,得到视差数据,包括:基于所述多个第一图像和所述第二图像,得到多个特征匹配数和多个视差;将所述多个特征匹配数的平均值确定为所述平均特征匹配数;将所述多个视差的平均值确定为所述平均视差;将所述多个视差中大于或等于所述第二阈值的视差的个数在所述多个视差的个数中的比例确定为所述第一视差占比;将所述多个视差中大于或等于所述第三阈值的视差的个数在所述多个视差的个数中的比例确定为所述第二视差占比。
结合第一方面,在第一方面的某些实现方式中,所述基于所述多个第一图像和所述第二图像,得到多个特征匹配数和多个视差,包括:利用特征提取算法,对所述多个第一图像和所述第二图像分别进行特征提取,得到所述多个第一图像中每个第一图像的多个特征和所述第二图像的多个特征;对采集顺序相邻的两个第一图像的多个特征分别进行匹配,并对所述第二图像的多个特征和在所述第一时刻采集的第一图像的多个特征分别进行匹配,得到多组匹配特征;将所述多组匹配特征中每组匹配特征的个数确定为所述多个特征匹配数;将所述每组匹配特征中多个匹配特征的平均匹配距离确定为所述多个视差。
应理解,特征提取算法包括多种类型,本申请实施例对具体采用的特征提取算法不做限定。示例性地,特征提取算法可以是稀疏光流(Kanade-Lucas-Tomasi,KTL)算法。
这样,本申请实施例通过使用第一时刻下终端设备的位置对应的第二图像和通过摄像头在第一时刻至当前时刻之间持续采集到的多个第一图像之间的视差数据判断终端设备在第一时刻至当前时刻之间是否处于静止状态,能够避免终端设备在用户进行蠕动或者波峰波谷的特殊场景下误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行蠕动的特殊场景下的需求,从而提升了用户体验。
第二方面,提供了一种终端设备,包括:惯性测量单元IMU、测速单元、摄像头和处理器,处理器与存储器耦合,存储器用于存储计算机程序,当处理器调用计算机程序时,使得该终端设备通过IMU、测速单元、以及摄像头执行第一方面或第一方面的任意一种可能的实现方式中描述的方法。
第三方面,提供了一种处理器,包括:输入电路、输出电路和处理电路。处理电路用于通过输入电路接收信号,并通过输出电路发射信号,使得处理器执行上述第一方面或第一方面中任一种可能实现方式中的方法。
在具体实现过程中,上述处理器可以为芯片,输入电路可以为输入管脚,输出电路可以为输出管脚,处理电路可以为晶体管、门电路、触发器和各种逻辑电路等。输入电路所接收的输入的信号可以是由例如但不限于接收器接收并输入的,输出电路所输出的信号可以是例如但不限于输出给发射器并由发射器发射的,且输入电路和输出电路可以是同一电路,该电路在不同的时刻分别用作输入电路和输出电路。本申请实施例对处理器及各种电路的具体实现方式不做限定。
第四方面,本申请实施例提供一种计算机可读存储介质,计算机可读存储介质用于存储计算机程序,计算机程序包括用于实现第一方面或第一方面的任意一种可能的实现方式中描述的方法的指令。
第五方面,本申请实施例提供一种计算机程序产品,计算机程序产品中包括计算机程序代码,当计算机程序代码在计算机上运行时,使得计算机实现第一方面或第一方面的任意一种可能的实现方式中描述的方法。
附图说明
图1为本申请实施例提供的终端设备的结构示意图;
图2为本申请实施例提供的终端设备的软件结构示意图;
图3为本申请实施例提供的一种导航定位方法的示意性流程图;
图4为本申请实施例提供的又一种导航定位方法的示意性流程图;
图5为本申请实施例提供的又一种导航定位方法的示意性流程图;
图6为本申请实施例提供的又一种导航定位方法的示意性流程图;
图7为本申请实施例提供的一种终端设备的示意性框图。
具体实施方式
下面将结合附图,对本申请中的技术方案进行描述。
为了便于清楚描述本申请实施例的技术方案,在本申请的实施例中,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
需要说明的是,本申请实施例中,“示例性地”或者“例如”等词用于表示作例子、例证或说明。本申请中被描述为“示例性地”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言,使用“示例性地”或者“例如”等词旨在以具体方式呈现相关概念。
本申请实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a--c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
为了能够更好地理解本申请实施例,下面对本申请实施例所涉及的终端设备进行介绍。
图1示出了终端设备100的结构示意图。
终端设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195,测速单元196等。其中,传感器模块180可以包括压力传感器180A,惯性测量单元(inertial measurement unit,IMU)180B,气压传感器180C,磁传感器180D,骨传导传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L等。其中,IMU 180B可以包括陀螺仪传感器180B1和加速度传感器180B2。
可以理解的是,本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从上述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现终端设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。上述I2S接口和上述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现终端设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他终端设备,例如AR设备等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其他设备通信。上述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。上述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
终端设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,终端设备100可以包括1个或N个显示屏194,N为大于1的正整数。
终端设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将上述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,上述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行终端设备100的各种功能应用以及数据处理。
终端设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中,终端设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动终端设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180A检测上述触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B1可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B1确定终端设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B1可以用于拍摄防抖。示例性地,当按下快门,陀螺仪传感器180B1检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180B1还可以用于导航,体感游戏场景。
加速度传感器180B2可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别终端设备姿态,应用于横竖屏切换,计步器等应用。
气压传感器180C用于测量气压。在一些实施例中,终端设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
骨传导传感器180E可以获取振动信号。在一些实施例中,骨传导传感器180E可以获取人体声部振动骨块的振动信号。骨传导传感器180E也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180E也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于上述骨传导传感器180E获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于上述骨传导传感器180E获取的血压跳动信号解析心率信息,实现心率检测功能。
距离传感器180F,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测终端设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,终端设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,终端设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,终端设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于终端设备100的表面,与显示屏194所处的位置不同。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。上述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在终端设备100中,不能和终端设备100分离。
测速单元196用于检测速度。在一些实施例中,终端设备100利用测速单元196检测的速度,辅助定位和导航。
终端设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的Android系统为例,示例性说明终端设备100的软件结构。
图2示出了本申请实施例的终端设备100的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为五层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,硬件抽象(hardwareabstraction layer,HAL)层以及内核层。
应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。上述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供终端设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,终端设备振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
HAL层是位于内核层与上层之间抽象出来的接口层,为上层提供统一接口。HAL层可以包含多个功能接口。例如:上层软件接口,内部通信接口,内部以太网接口,用户接入口等。
上述应用程序层可以通过应用程序框架层、Android Runtime和系统库对上述HAL层进行调用。具体地,应用程序层对用户作用于终端设备中应用程序的信息进行检测后,将检测到的用户作用于终端设备中应用程序的信息发送至HAL层,HAL层基于接收到的上述信息,确定与上述应用程序相对应的硬件模块,并基于接收到的上述信息,对上述硬件模块进行操作。
应理解,在实际应用过程中,应用程序框架层、Android Runtime和系统库仅为上述应用程序层与上述HAL层之间的交互过程提供通道。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动,传感器驱动至少包含IMU驱动。
本申请实施例的终端设备可以为设有摄像头和IMU的任意电子设备,例如可以为手机、平板电脑等。应理解,本申请的实施例对终端设备所采用的具体技术和具体设备形态不做限定。
用户使用终端设备中的导航应用进行导航定位时,终端设备需要对IMU测量得到角速度和加速度进行多次积分,以实现当前定位点的更新修正。在使用增强现实(augmented reality,AR)导航模式时,由于用户可能存在较长时间静止等待的情况,例如驻足观赏,此时IMU数据可能存在长时间的测量误差累计,导致终端设备在导航应用中的位置偏离其实际位置,需要通过零速更新方案进行优化。
在一种可能的实现方式中,终端设备中的导航应用是基于扩展卡尔曼滤波器(extended kalman filter,EKF)的同时定位与地图构建(simulation localization andmapping,SLAM)方案进行导航定位的,其中,SLAM可以包括数据采集模块、视觉里程计(visual odometry)模块、后端优化模块、建图(mapping)模块以及闭环检测(loop closuredetection)模块等五个模块。具体地,终端设备通过视觉里程计模块对IMU数据和一个图像序列(也可以是一个视频流)进行滤波融合得到估计位姿,再通过后端优化模块利用EKF对估计位姿进行优化得到最终位姿,在最终位姿通过闭环检测模块的检测后再通过建图模块进行建图和定位。由于IMU数据往往有很多噪声,且终端设备中各相关硬件存在误差、错误匹配等问题,使得建图和定位不够准确,因此需要通过零速更新方案进行优化。
零速更新方案是在判断终端设备当前为静止状态后,利用观测方程对终端设备在导航应用中的位置进行更新修正。目前,零速更新方案主要包括单目视觉惯性里程计(lightweight accurate robust visual inertial odometry,LARVIO)和开源的视觉惯性导航系统(open visual inertial navigation system,OPENVINS)两种方案,其中,LARVIO方案在当前图像帧中已追踪特征点数>20且第11个最大特征点匹配距离<归一化平面阈值2e-3时,判断终端设备当前为静止状态,再利用速度、位移和角度(VPQ)为观测值的观测方程对终端设备在导航应用中的位置进行更新修正;OPENVINS方案在满足下列任意一项时:当前图像帧中已追踪特征点数>20且当前图像帧与次新图像帧之间的视差<阈值(例如:1.5像素),或者,IMU数据的卡方检验值<阈值(例如:5倍卡方理论值)且次新帧速度<阈值(例如:0.1米每秒),判断终端设备当前为静止状态后,再利用角速度和加速度(ωA)为观测值的观测方程对终端设备在导航应用中的位置进行更新修正。
但是,现有的零速更新方案鲁棒性较低,无法满足用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,用户体验感较差。
有鉴于此,本申请实施例通过使用多组IMU数据、当前时刻下终端设备的速度和视差数据,判断终端设备在第一时刻至当前时刻之间是否处于静止状态,细化了静止状态的判断条件,能够更加精确的区分用户在使用AR导航模式时的不同场景,避免终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升了用户体验。
应理解,上述特殊场景仅为示例,除此之外,还可以包括终端设备抖动、用户在进行蠕动、终端设备周围存在动态物体干扰、用户在进行小范围慢速转动、以及终端设备处于弱纹理区域等特殊场景。特殊场景的具体场景可以根据实际情况进行调整,而不应对本申请实施例的实施过程构成任何限定。
为了能够更好的理解,下面先对本申请实施例提供的导航定位方法所涉及到的多个时刻,以及导航界面做出说明。
本申请实施例提供的导航定位方法所涉及到的多个时刻可以包括:应用启动时刻、AR导航模式启动时刻、第一时刻、当前时刻、AR导航模式退出时刻以及应用退出时刻。应理解,上述多个时刻仅为示例,在实际应用过程中,还可以涉及到其他时刻,本申请实施例在此不做限定。下面结合IMU、摄像头、测速单元以及处理器等硬件之间的交互过程,对上述多个时刻分别进行详细说明。
1、应用启动时刻,即用户通过终端设备启动用于导航定位的某一应用的时刻。响应于用户的操作,IMU开始并持续进行检测得到不同时刻下的IMU数据、摄像头开始并持续进行采集得到不同时刻下的第一图像、同时测速单元开始并持续进行检测得到不同时刻下终端设备的速度。
可选地,上述用于导航定位的某一应用可以包括多种导航模式,其中,导航模式的具体种类和个数本申请在此不做限定。示例性地,上述导航模式可以包括:普通导航模式和AR导航模式。
2、AR导航模式启动时刻,即当用户通过终端设备启动上述某一应用中的AR导航模式的时刻。响应于用户的操作,IMU向处理器发送在应用启动时刻至AR导航模式启动时刻之间持续检测到的多组IMU数据、摄像头向处理器发送在应用启动时刻至AR导航模式启动时刻之间持续采集到的多个第一图像、同时测速单元向处理器发送检测到的AR导航模式启动时刻下终端设备的速度。对应地,处理器接收该多组IMU数据、该多个第一图像、以及该AR导航模式启动时刻下终端设备的速度。
应理解,具体的导航模式需要用户启动应用后再进行选择,因此,AR导航模式启动时刻在应用启动时刻之后。
可选地,上述用于导航定位的某一应用可以仅包括AR导航模式,此时,AR导航模式启动时刻即应用启动时刻。
3、第一时刻,即用户通过终端设备使用AR导航模式的某一时刻。此时,AR导航界面显示的是第一时刻下终端设备的位置对应的第二图像。
4、当前时刻,第一时刻的后一时刻。此时,AR导航界面显示的仍是第一时刻下终端设备的位置对应的第二图像,且即将显示当前时刻下终端设备的位置对应的第三图像。IMU向处理器发送在第一时刻至当前时刻之间持续检测到的多组IMU数据、摄像头向处理器发送在第一时刻至当前时刻之间持续采集到的多个第一图像、同时测速单元向处理器发送检测到的当前时刻下终端设备的速度。对应地,处理器接收该多组IMU数据、该多个第一图像、以及该当前时刻下终端设备的速度。
5、AR导航模式退出时刻,即当用户通过终端设备退出上述某一应用中的AR导航模式的时刻。响应于用户的操作,IMU停止向处理器发送多组IMU数据、摄像头停止向处理器发送多个第一图像、同时测速单元停止向处理器发送终端设备的速度。
6、应用退出时刻,即用户通过终端设备退出用于导航定位的某一应用的时刻。响应于用户的操作,IMU停止检测、摄像头停止采集、同时测速单元停止检测。
应理解,退出AR导航模式或由AR导航模式切换为其他导航模式需要用户在应用运行过程中进行选择,因此,应用退出时刻在AR导航模式退出时刻之后。
可选地,用户可在使用AR导航模式时直接退出应用,此时,应用退出时刻即AR导航模式退出时刻。
图3示出了本申请实施例提供的一种导航定位方法300的示意性流程图。该方法300可以应用于支持AR导航模式的终端设备,该终端设备上设有IMU、测速单元和摄像头,该终端设备的硬件结构可以如图1所示,该终端设备的软件结构可以如图2所示,但本申请实施例不限于此。如图3所示,该方法300可以包括下列步骤:
S301、通过IMU在第一时刻至当前时刻之间持续进行检测,获得多组IMU数据。
S302、通过测速单元在当前时刻进行检测,获得当前时刻下终端设备的速度。
S303、在多组IMU数据的组数大于或等于第一阈值的情况下,基于多个第一图像和第一时刻下终端设备的位置对应的第二图像,得到视差数据,多个第一图像是通过摄像头在第一时刻至当前时刻之间持续采集到的。
应理解,上述S301和S302不限制先后顺序。
S304、利用多组IMU数据、当前时刻下终端设备的速度和视差数据,判断终端设备在第一时刻至当前时刻之间是否处于静止状态。
S305、若终端设备在第一时刻至当前时刻之间处于静止状态,确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像。
本申请实施例通过使用IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据、测速单元在当前时刻下进行检测获得的终端设备的速度、以及视差数据,对终端设备在第一时刻至当前时刻之间是否处于静止状态进行判断,进而确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像,细化了静止状态的判断条件,能够更加精确的区分用户在使用AR导航模式时的不同场景,避免终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升了用户体验。
应理解,在上述应用启动时刻至上述AR导航模式启动时刻之间,以及在上述AR导航模式退出时刻至上述应用退出时刻之间,对通过IMU在上述应用启动时刻至上述AR导航模式启动时刻之间持续进行检测获得的多组IMU数据进行积分,以及对通过IMU在上述AR导航模式退出时刻至上述应用退出时刻之间持续进行检测获得的多组IMU数据进行积分,得到终端设备的位置。
还应理解,在上述AR导航模式启动时刻至上述AR导航模式退出时刻之间,若终端设备未处于静止状态,判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件;若终端设备在第一时刻至当前时刻之间满足视觉更新条件,利用视觉更新确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像;若终端设备在第一时刻至当前时刻之间未满足视觉更新条件,对通过IMU在上述AR导航模式启动时刻至上述AR导航模式退出时刻之间持续进行检测获得的多组IMU数据进行积分,确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像。
作为一个可选的实施例,多组IMU数据包括多个第一加速度和多个第一角速度,视差数据包括平均视差和视差占比,上述S304包括:基于多个第一加速度、多个第一角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态。
应理解,上述第一加速度是通过IMU在终端设备坐标系检测得到的三轴加速度的模长,上述第一加速度与三轴加速度之间的关系可以用公式表示为:
同理,上述第一角速度是通过IMU在终端设备坐标系检测得到的三轴角速度的模长,上述第一角速度与三轴角速度之间的关系可以用公式表示为:
还应理解,上述多个第一加速度和多个第一角速度之间存在对应关系。
示例性地,IMU每隔1s检测一次,在第1s至第5s之间IMU共检测了5次得到了5组IMU数据,其中,多个第一加速度和多个第一角速度之间的对应关系,具体如表一所示:
表一
应理解,如表一所示的acc_1、acc_2、acc_3、acc_4以及acc_5可以是大于或等于0的数值,每个大于或等于0的数值分别指示不同检测时刻下通过IMU在终端设备坐标系检测得到的三轴加速度的模长;或者,acc_1、acc_2、acc_3、acc_4以及acc_5也可以是向量,向量中每个元素分别指示通过IMU在终端设备坐标系检测得到的每轴加速度。
同理,如表一所示的gyo_1、gyo_2、gyo_3、gyo_4以及gyo_5可以是大于或等于0的数值,每个大于或等于0的数值分别指示不同检测时刻下通过IMU在终端设备坐标系检测得到的三轴角速度的模长;或者,gyo_1、gyo_2、gyo_3、gyo_4以及gyo_5也可以是向量,向量中每个元素分别指示通过IMU在终端设备坐标系检测得到的每轴角速度。
本申请实施例通过使用IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据、测速单元在当前时刻下进行检测获得的终端设备的速度、以及视差数据,对终端设备在第一时刻至当前时刻之间是否处于静止状态进行判断,进而确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像,细化了静止状态的判断条件,能够更加精确的区分用户在使用AR导航模式时的不同场景,避免终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升了用户体验。
其中,基于多个第一加速度、多个第一角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态,包括以下两种可能的实现方式:
在第一种可能的实现方式中,视差占比包括第一视差占比和第二视差占比,在多个第一加速度均小于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、第二视差占比小于或等于第八阈值、且当前时刻下终端设备的速度小于或等于第九阈值的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态。
示例性地,先对多个第一加速度和多个第一角速度进行判断,在多个第一加速度均小于或等于第四阈值、且多个第一角速度均小于或等于第五阈值时,再对平均视差、第一视差占比和第二视差占比进行判断,在平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、且第二视差占比小于或等于第八阈值时,最终对当前时刻下终端设备的速度进行判断,在当前时刻下终端设备的速度小于或等于第九阈值时,确定终端设备在第一时刻至当前时刻之间处于静止状态。
应理解,在不满足多个第一加速度均小于或等于第四阈值、且多个第一角速度均小于或等于第五阈值时,可能满足下述三个条件中的任意一个:
条件1:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度均小于或等于第五阈值。
条件2:多个第一加速度均小于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
条件3:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
其中,满足条件1的情况将在下述第二种可能的实现方式中进行详细说明,在满足条件2或者条件3的情况下,将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
还应理解,在不满足平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、且第二视差占比小于或等于第八阈值时,或者,在不满足当前时刻下终端设备的速度小于或等于第九阈值时,也将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
其中,上述第一视差占比为多个视差中大于或等于第二阈值的视差的个数在该多个视差的个数中的比例,上述第二视差占比为多个视差中大于或等于第三阈值的视差的个数在该多个视差的个数中的比例。上述第一视差占比和上述第二视差占比可以相等,也可以不等,本申请在此不做限定。
示例性地,上述多个视差分别为2像素(pixel,px)、4px、8px,其中大于或等于6px的视差占比为
这样,本申请实施例能够通过限制平均视差和视差占比,避免用户在进行匀速运动的特殊场景下终端设备误使用零速更新方案进行导航定位,同时通过限制当前时刻下终端设备的速度,防止终端设备在具有较大速度时使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动的特殊场景下的需求,从而提升了用户体验。
在第二种可能的实现方式中,视差占比包括第一视差占比和第二视差占比,视差数据还包括平均特征匹配数,在满足下列条件的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均特征匹配数大于或等于第十阈值、平均视差小于或等于第十一阈值、且当前时刻下终端设备的速度小于或等于第九阈值;或者,多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、平均视差小于或等于第十三阈值、且当前时刻下终端设备的速度小于或等于第九阈值。
示例性地,先对多个第一加速度和多个第一角速度进行判断,在多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度均小于或等于第五阈值时,再对平均特征匹配数和平均视差进行判断,在平均特征匹配数大于或等于第十阈值、且平均视差小于或等于第十一阈值时,最终对当前时刻下终端设备的速度进行判断,在当前时刻下终端设备的速度小于或等于第九阈值时,确定终端设备在第一时刻至当前时刻之间处于静止状态。
应理解,在不满足多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度均小于或等于第五阈值时,可能满足下述三个条件中的任意一个:
条件1:多个第一加速度均小于或等于第四阈值、且多个第一角速度均小于或等于第五阈值。
条件2:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
条件3:多个第一加速度均小于或等于第四阈值、且多个第一角速度中存在至少一个第一角速度大于或等于第五阈值。
其中,满足条件1的情况已在上述第一种可能的实现方式中进行详细说明,在满足条件2或者条件3的情况下,将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
还应理解,在不满足平均特征匹配数大于或等于第十阈值、且平均视差小于或等于第十一阈值时,将继续判断平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、且平均视差小于或等于第十三阈值是否成立,在平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、且平均视差小于或等于第十三阈值时,再判断当前时刻下终端设备的速度小于或等于第九阈值是否成立。在不满足平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、且平均视差小于或等于第十三阈值时,或者,在不满足当前时刻下终端设备的速度小于或等于第九阈值时,也将继续判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件。
应理解,上述第十一阈值和上述第六阈值可以相等,也可以不等,本申请在此不做限定。上述第十三阈值和上述第六阈值可以相等,也可以不等,本申请在此也不做限定。上述第十二阈值应大于或等于上述第十阈值。
这样,本申请实施例能够通过限制第一角速度,避免用户在进行小范围慢速转动的特殊场景下终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动的特殊场景下的需求,从而提升了用户体验。
上述两种可能的实现方式均将IMU检测得到的IMU数据直接用于判断终端设备在第一时刻至当前时刻之间是否处于静止状态,存在IMU检测误差导致的判断结果不够精准的问题。因此,可以对多组IMU数据分别进行优化得到多个第二加速度和多个第二角速度,并使用多个第二加速度、多个第二角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态。
本申请实施例使用多个第二加速度、多个第二角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态的具体方法如下。
作为一个可选的实施例,多组IMU数据包括多个第一加速度和多个第一角速度,视差数据包括平均视差和视差占比,上述方法300还包括:基于所述多个第一加速度和所述多个第一角速度,得到多个第二加速度和多个第二角速度,上述S304还包括:基于多个第二加速度、多个第二角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态。
应理解,多个第二加速度和多个第二角速度也存在对应关系,类似于多个第一加速度和多个第一角速度之间的对应关系,此处不做过多赘述。
其中,基于多个第二加速度、多个第二角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态,包括以下两种可能的实现方式:
在第一种可能的实现方式中,视差占比包括第一视差占比和第二视差占比,在多个第二加速度均小于或等于第四阈值、多个第二角速度均小于或等于第五阈值、平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、第二视差占比小于或等于第八阈值、且当前时刻下终端设备的速度小于或等于第九阈值的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态。
应理解,此实现方式中的细节可以参照上述基于多个第一加速度、多个第一角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态中第一种可能的实现方式中的描述,此处不再赘述。
在第二种可能的实现方式中,视差占比包括第一视差占比和第二视差占比,视差数据还包括平均特征匹配数,在满足下列条件的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态:多个第二加速度中存在至少一个第一加速度大于或等于第四阈值、多个第二角速度均小于或等于第五阈值、平均特征匹配数大于或等于第十阈值、平均视差小于或等于第十一阈值、且当前时刻下终端设备的速度小于或等于第九阈值;或者,多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、平均视差小于或等于第十三阈值、且当前时刻下终端设备的速度小于或等于第九阈值。
应理解,此实现方式中的细节可以参照上述基于多个第一加速度、多个第一角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态中第二种可能的实现方式中的描述,此处不再赘述。
这样,本申请实施例能够通过对多组IMU数据分别进行优化得到多个第二加速度和多个第二角速度,并使用多个第二加速度、多个第二角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态,弥补了IMU的测量误差,增加了判断结果的准确性。
本申请实施例对多组IMU数据分别进行优化得到多个第二加速度和多个第二角速度的具体方法如下。
作为一个可选的实施例,多组IMU数据包括多个第一加速度、多个第一角速度和多个重力加速度,上述方法300还包括:计算多个第一加速度中每个第一加速度与每个第一加速度对应的重力加速度作差后的绝对值,得到多个绝对值,将多个绝对值确定为多个第二加速度;将多个第一角速度确定为多个第二角速度。
上述第二加速度和第一加速度之间的关系可以用公式表示为:
第二加速度=|第一加速度-重力加速度|
示例性地,第一加速度分别为11米每秒的平方(m/s2)、14m/s2、15m/s2,其对应的重力加速度分别为9.8m/s2、9.9m/s2、9.8m/s2,故第二加速度分别为1.2m/s2、4.1m/s2、5.2m/s2。
上述第二角速度和第一角速度之间的关系可以用公式表示为:
第二角速度=第一角速度
示例性地,第一角速度分别为0.3转每秒(rad/s)、0.1rad/s、0.4rad/s,故第二角速度分别为0.3rad/s、0.1rad/s、0.4rad/s。
应理解,上述多个第一加速度和多个重力加速度之间存在对应关系。
示例性地,IMU每隔1s检测一次,在第1s至第5s之间IMU共检测了5次得到了5组IMU数据,其中,多个第一加速度和多个重力加速度之间的对应关系,具体如表二所示:
表二
这样,本申请实施例能够减小因IMU中的加速度传感器测量不准造成的判断结果误差,同时,还能够避免终端设备在重力加速度不为9.81m/s2的特殊场景下无法使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动的特殊场景下的需求,从而提升了用户体验。
作为一个可选的实施例,上述S306包括:若终端设备在第一时刻至当前时刻之间处于静止状态,基于AR导航应用的启动时刻至当前时刻之间终端设备是否移动和多个第一图像的个数,确定更新参数;基于更新参数构造方程,得到当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像。
应理解,上述AR导航应用的启动时刻至当前时刻之间终端设备是否移动也可以理解为AR导航应用的初始化状态。具体地,终端设备发生移动对应的AR导航应用的初始化状态为动态初始化,终端设备未发生移动对应的AR导航应用的初始化状态为静态初始化。
可选地,基于所述更新参数构造方程,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,包括:利用滤波算法对所述方程进行求解,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像。
应理解,滤波算法包括多种类型,本申请实施例对具体采用的滤波算法不做限定。示例性地,滤波算法可以是扩展卡尔曼滤波器(extended kalman filter,EKF)算法。
本申请实施例对更新参数的确定包括以下两种可能的实现方式:
在第一种可能的实现方式中,在启动时刻至当前时刻之间终端设备没有移动、且多个第一图像的个数大于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度、位移以及角度,以及第二图像和在第一时刻采集的第一图像之间的速度、位移以及角度确定为更新参数。
在第二种可能的实现方式中,在启动时刻至当前时刻之间终端设备发生移动,或者,多个第一图像的个数小于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度,以及第二图像和在第一时刻采集的第一图像之间的速度确定为更新参数。
应理解,上述启动时刻至当前时刻之间终端设备发生移动,或者,多个第一图像的个数小于或等于第十四阈值的情况,具体包括下述三个情况:
情况1:启动时刻至当前时刻之间终端设备发生移动、且多个第一图像的个数小于或等于第十四阈值。
情况2:启动时刻至当前时刻之间终端设备发生移动、且多个第一图像的个数大于或等于第十四阈值。
情况3:启动时刻至当前时刻之间终端设备没有移动、且多个第一图像的个数小于或等于第十四阈值。
这样,本申请实施例能够根据不同场景确定不同的更新参数,进而确定终端设备的位置,提高了导航定位的准确性与零速更新方案的鲁棒性,从而提升了用户体验。
作为一个可选的实施例,视差数据包括:平均特征匹配数、平均视差、第一视差占比以及第二视差占比,上述S303包括:在多组IMU数据的组数大于或等于第一阈值的情况下,基于多个第一图像和第二图像,得到多个特征匹配数和多个视差;将多个特征匹配数的平均值确定为平均特征匹配数;将多个视差的平均值确定为平均视差;将多个视差中大于或等于第二阈值的视差的个数在多个视差的个数中的比例确定为第一视差占比;将多个视差中大于或等于第三阈值的视差的个数在多个视差的个数中的比例确定为第二视差占比。
示例性地,多个特征匹配数分别为:4、5、6,故平均特征匹配数为5;多个视差分别为:3px、6px、3px,故平均视差为4px。
可选地,上述基于多个第一图像和第二图像,得到多个特征匹配数和多个视差,包括:利用特征提取算法,对多个第一图像和第二图像分别进行特征提取,得到多个第一图像中每个第一图像的多个特征和第二图像的多个特征;对采集顺序相邻的两个第一图像的多个特征分别进行匹配,并对第二图像的多个特征和在第一时刻采集的第一图像的多个特征分别进行匹配,得到多组匹配特征;将多组匹配特征中每组匹配特征的个数确定为多个特征匹配数;将所述每组匹配特征中多个匹配特征的平均匹配距离确定为所述多个视差。
示例性地,对3个第一图像(分别为图像A、图像B和图像C)和第二图像按照采集顺序由前至后进行排序分别为:第二图像、图像A、图像B、图像C,利用特征提取算法分别得到第二图像的多个特征为:a、b、c;图像A的多个特征为:a、b、d、e;图像B的多个特征为:a、c、e、f;图像C的多个特征为e、f,对第二图像的多个特征和图像A的多个特征进行匹配,得到第一组匹配特征:a、b,对应的特征匹配数为2;对图像A的多个特征和图像B的多个特征进行匹配,得到第二组匹配特征:a、e,对应的特征匹配数为2;对图像B的多个特征和图像C的多个特征进行匹配,得到第三组匹配特征:e、f,对应的特征匹配数为2。
应理解,特征提取算法包括多种类型,本申请实施例对具体采用的特征提取算法不做限定。示例性地,特征提取算法可以是稀疏光流(Kanade-Lucas-Tomasi,KTL)算法。
这样,本申请实施例通过使用第一时刻下终端设备的位置对应的第二图像和通过摄像头在第一时刻至当前时刻之间持续采集到的多个第一图像之间的视差数据判断终端设备在第一时刻至当前时刻之间是否处于静止状态,能够避免终端设备在用户进行蠕动或者波峰波谷的特殊场景下误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行蠕动的特殊场景下的需求,从而提升了用户体验。
下面,结合上述终端设备上设有的IMU、测速单元和摄像头等硬件结构之间的交互过程,对本申请实施例的导航定位方法进行详细说明。
图4示出了本申请实施例提供的导航定位方法400的示意性流程图。该方法400可以应用于支持AR导航模式的终端设备,该终端设备上设有IMU、测速单元和摄像头,该终端设备的硬件结构可以如图1所示,该终端设备的软件结构可以如图2所示,但本申请实施例不限于此。如图4所示,该方法400可以包括下列步骤:
S401、IMU向处理器发送多组IMU数据。对应地,处理器接收该多组IMU数据。
S402、摄像头向处理器发送多个第一图像。对应地,处理器接收该多个第一图像。
S403、测速单元向处理器发送终端设备的速度。对应地,处理器接收该终端设备的速度。
应理解,上述S401至S403在上述应用启动时刻之后执行,上述S401至S403不限制先后顺序。
在上述AR导航模式启动时刻至上述AR导航模式退出时刻之间,以上述第一时刻至上述当前时刻之间为例,方法400还可以包括S404至S406:
S404、处理器在多组IMU数据的组数大于或等于第一阈值的情况下,基于多个第一图像和第一时刻下终端设备的位置对应的第二图像,得到视差数据。
应理解,上述S404中的多组IMU数据是通过IMU在第一时刻至当前时刻之间持续检测到的,上述S404中的多个第一图像是通过摄像头在第一时刻至当前时刻之间持续采集到的,上述S404中的终端设备的速度是当前时刻下终端设备的速度。
S405、处理器利用多组IMU数据、当前时刻下终端设备的速度和视差数据,判断终端设备在第一时刻至当前时刻之间是否处于静止状态。
S406、若终端设备在第一时刻至当前时刻之间处于静止状态,处理器确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像。
应理解,在上述应用启动时刻至上述AR导航模式启动时刻之间,以及在上述AR导航模式退出时刻至上述应用退出时刻之间,处理器对接收到的多组IMU数据进行积分得到终端设备的位置。在上述AR导航模式启动时刻至上述AR导航模式退出时刻之间,若终端设备未处于静止状态,处理器判断终端设备在第一时刻至当前时刻之间是否满足视觉更新条件;若终端设备在第一时刻至当前时刻之间满足视觉更新条件,处理器利用视觉更新确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像;若终端设备在第一时刻至当前时刻之间未满足视觉更新条件,处理器对接收到的多组IMU数据进行积分确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像。
本申请实施例通过使用IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据、测速单元在当前时刻下进行检测获得的终端设备的速度、以及视差数据,对终端设备在第一时刻至当前时刻之间是否处于静止状态进行判断,进而确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像,细化了静止状态的判断条件,能够更加精确的区分用户在使用AR导航模式时的不同场景,避免终端设备误使用零速更新方案进行导航定位,进而增加了零速更新方案的鲁棒性,满足了用户在进行匀速运动、加速度波动较大、以及终端设备被遮挡等一些特殊场景下的需求,从而提升了用户体验。
其中,图4所示的方法400与图3所示的方法300并无实质性差异,仅仅是为了便于理解,故在此处不做过多赘述。
下面,结合图5和图6对本申请实施例的导航定位方法进行详细说明。
图5示出了本申请实施例提供的导航定位方法500的示意性流程图。该方法500可以应用于支持AR导航模式的终端设备,该终端设备上设有IMU、测速单元和摄像头,该终端设备的硬件结构可以如图1所示,该终端设备的软件结构可以如图2所示,但本申请实施例不限于此。如图5所示,该方法500可以包括下列步骤:
S501、用户通过终端设备启动用于导航定位的某一应用后,通过IMU进行检测得到多组IMU数据,通过摄像头进行采集获得多个第一图像,通过测速单元进行检测得到终端设备的速度。
S502、终端设备对多组IMU数据进行积分,得到终端设备的位置。
用户通过终端设备启动AR导航模式后,上述S502可以替换成S503:
S503、终端设备判断是否满足下列条件:IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据的组数大于或等于第一阈值。
若终端设备在S503中得到的判断结果为满足条件,终端设备在上述S503后继续执行S504,具体地:
S504、终端设备判断是否满足视觉更新条件。
若终端设备在S504中得到的判断结果为满足视觉更新条件,终端设备在上述S504后继续执行S505,具体地:
S505、终端设备利用视觉更新得到终端设备的位置。
若终端设备在S504中得到的判断结果为不满足视觉更新条件,终端设备在上述S504后直接返回执行S502。
在上述S502之后,方法500还包括S506和S507:
S506、终端设备基于通过摄像头在第一时刻至当前时刻之间持续进行采集获得的多个第一图像和第一时刻下终端设比的位置对应的第二图像,得到视差数据。
S507、终端设备基于视差数据,得到平均视差、第一视差占比、第二视差占比和平均特征匹配数。
上述S503,若终端设备得到的判断结果为不满足条件,终端设备在上述S503后可以直接执行S509,可选地,终端设备在上述S503后也可以直接执行S508,具体地:
S508、终端设备对通过IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据中的多个加速度和多个角速度均进行优化。可选地,终端设备计算多组IMU数据中每个加速度与每个加速度对应的重力加速度作差后的绝对值得到多个绝对值,将多个绝对值确定为优化后的多个加速度;将多组IMU数据中每个角速度确定为优化后的多个角速度。
S509、终端设备判断是否满足下列条件:多个加速度均小于或等于第四阈值、且多个角速度均小于或等于第五阈值。
应理解,若终端设备在上述S503后直接执行S509,则S509中的多个加速度和多个角速度分别为多组IMU数据中的多个加速度和多组IMU数据中的多个角速度,若终端设备在上述S503后直接执行S508,则S509中的多个加速度和多个角速度分别为S508中优化后的多个加速度和S508中优化后的多个角速度。
若终端设备在S509中得到的判断结果为满足条件,终端设备在上述S509后继续执行S510,具体地:
S510、终端设备判断是否满足下列条件:平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、且第二视差占比小于或等于第八阈值。
若终端设备在S510中得到的判断结果为满足条件,终端设备在上述S510后继续执行S511,具体地:
S511、终端设备判断是否满足下列条件:当前时刻下终端设备的速度小于或等于第九阈值。
若终端设备在S511中得到的判断结果为满足条件,终端设备在上述S511后继续执行S512,具体地:
S512、终端设备判断是否满足下列条件:在启动时刻至当前时刻之间终端设备没有移动、且通过摄像头在第一时刻至当前时刻之间持续进行采集获得的多个第一图像的个数大于或等于第十四阈值。
若终端设备在S512中得到的判断结果为满足条件,终端设备在上述S512后继续执行S513,具体地:
S513、终端设备将采集顺序相邻的两个第一图像之间的速度、位移以及角度,以及第二图像和通过摄像头在第一时刻采集的第一图像之间的速度、位移以及角度确定为更新参数,基于更新参数构造方程,得到终端设备的位置。
若终端设备在S512中得到的判断结果为不满足条件,终端设备在上述S512后直接执行S514,具体地:
S514、终端设备将采集顺序相邻的两个第一图像之间的速度,以及第二图像和通过摄像头在第一时刻采集的第一图像之间的速度确定为更新参数,基于更新参数构造方程,得到终端设备的位置。
上述S509,若终端设备得到的判断结果为不满足条件,终端设备在上述S509后直接执行S515,具体地:
S515、终端设备判断是否满足下列条件:平均特征匹配数大于或等于第十阈值、且平均视差小于或等于第十一阈值,或者,平均特征匹配数小于或等于第十二阈值且大于或等于第十阈值、且平均视差小于或等于第十三阈值。
若终端设备在S515中得到的判断结果为满足条件,终端设备在上述S515后继续执行S516,具体地:
S516、终端设备判断是否满足下列条件:多个角速度均小于或等于第五阈值。
若终端设备在S516中得到的判断结果为满足条件,终端设备在上述S516后返回执行S511。
若终端设备在S516中得到的判断结果为不满足条件,终端设备在上述S516后返回执行S504。
上述S510,若终端设备得到的判断结果为不满足条件,终端设备在上述S510后返回执行S504。
上述S511,若终端设备得到的判断结果为不满足条件,终端设备在上述S511后返回执行S504。
上述S515,若终端设备得到的判断结果为不满足条件,终端设备在上述S515后返回执行S504。
图6示出了本申请实施例提供的导航定位方法600的示意性流程图。该方法600可以应用于支持AR导航模式的终端设备,该终端设备上设有IMU、测速单元和摄像头,该终端设备的硬件结构可以如图1所示,该终端设备的软件结构可以如图2所示,但本申请实施例不限于此。如图6所示,该方法600可以包括下列步骤:
S601、用户通过终端设备启动用于导航定位的某一应用后,通过IMU进行检测得到多组IMU数据,通过摄像头进行采集获得多个第一图像,通过测速单元进行检测得到终端设备的速度。
S602、终端设备对多组IMU数据进行积分,得到终端设备的位置。
用户通过终端设备启动AR导航模式后,上述S602可以替换成S603:
S603、终端设备判断是否满足下列条件:IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据的组数是否大于或等于第一阈值。
S604、终端设备判断是否满足视觉更新条件。
S605、终端设备利用视觉更新得到终端设备的位置。
在上述S602之后,方法500还包括S606和S607:
S606、终端设备基于通过摄像头在第一时刻至当前时刻之间持续进行采集获得的多个第一图像和第一时刻下终端设比的位置对应的第二图像,得到视差数据。
S607、终端设备基于视差数据,得到平均视差、第一视差占比、第二视差占比和平均特征匹配数。
上述S603,若终端设备得到的判断结果为不满足条件,终端设备在上述S603后可以直接执行S609,可选地,终端设备在上述S603后也可以直接执行S608,具体地:
S608、终端设备对通过IMU在第一时刻至当前时刻之间持续进行检测获得的多组IMU数据中的多个加速度和多个角速度均进行优化。可选地,终端设备计算多组IMU数据中每个加速度与每个加速度对应的重力加速度作差后的绝对值得到多个绝对值,将多个绝对值确定为优化后的多个加速度;将多组IMU数据中每个角速度确定为优化后的多个角速度。
S609、终端设备判断是否满足下列条件:多个角速度均小于或等于第五阈值。
上述S601~S608可以参照上述S501~S508的描述,此处不再赘述。
应理解,若终端设备在上述S603后直接执行S609,则S609中的多个角速度分别为多组IMU数据中的多个角速度,若终端设备在上述S603后直接执行S608,则S609中的多个角速度分别为S608中优化后的多个角速度。
若终端设备在S609中得到的判断结果为满足条件,终端设备在上述S609后继续执行S610,具体地:
S610、终端设备判断是否满足下列条件:多个加速度均小于或等于第四阈值。
应理解,若终端设备在上述S603后直接执行S609,则S610中的多个加速度分别为多组IMU数据中的多个加速度,若终端设备在上述S603后直接执行S608,则S610中的多个加速度分别为S608中优化后的多个加速度。
若终端设备在S610中得到的判断结果为满足条件,终端设备在上述S610后继续执行S611,具体地:
S611、终端设备判断是否满足下列条件:平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、且第二视差占比小于或等于第八阈值。
S612、终端设备判断是否满足下列条件:当前时刻下终端设备的速度小于或等于第九阈值。
S613、终端设备判断是否满足下列条件:在启动时刻至当前时刻之间终端设备没有移动、且通过摄像头在第一时刻至当前时刻之间持续进行采集获得的多个第一图像的个数大于或等于第十四阈值。
S614、终端设备将采集顺序相邻的两个第一图像之间的速度、位移以及角度,以及第二图像和通过摄像头在第一时刻采集的第一图像之间的速度、位移以及角度确定为更新参数,基于更新参数构造方程,得到终端设备的位置。
S615、终端设备将采集顺序相邻的两个第一图像之间的速度,以及第二图像和通过摄像头在第一时刻采集的第一图像之间的速度确定为更新参数,基于更新参数构造方程,得到终端设备的位置。
上述S611~S615可以参照上述S510~S514的描述,此处不再赘述。
上述S609,若终端设备得到的判断结果为不满足条件,终端设备在上述S609后返回执行S604。
上述S610,若终端设备得到的判断结果为不满足条件,终端设备在上述S610后继续执行S616,具体地:
S616、终端设备判断是否满足下列条件:平均特征匹配数大于或等于第十阈值、且平均视差小于或等于第十一阈值,或者,平均特征匹配数小于或等于第十二阈值且大于或等于第十阈值、且平均视差小于或等于第十三阈值。
若终端设备在S616中得到的判断结果为满足条件,终端设备在上述S616后直接执行S612。
若终端设备在S616中得到的判断结果为不满足条件,终端设备在上述S616后返回执行S604。
应理解,图5和图6均仅为示例,除此之外,方法300中多组IMU数据、当前时刻下终端设备的速度、视差数据等数据和对应的阈值进行大小比较的具体顺序还可以包括其他可能的实现方式,本申请实施例对此不做限定。
可以理解的是,在本申请的实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
上文中结合图1至图6,详细描述了本申请实施例的方法,下面将结合图7,详细描述本申请实施例的终端设备。
图7示出了本申请实施例提供的一种终端设备700的示意性框图。该终端设备700支持AR导航模式,该终端设备700包括IMU 701、测速单元702、摄像头703、处理器704和存储器705。其中,IMU 701用于持续检测多组IMU数据,测速单元702用于检测终端设备的速度,摄像头703用于持续采集多个图像,处理器704和存储器705通过内部连接通路互相通信,该存储器705用于存储指令,该处理器704用于执行该存储器705存储的指令。
具体地,IMU 701用于:在第一时刻至当前时刻之间持续进行检测,获得多组IMU数据;测速单元702用于:在当前时刻进行检测,获得当前时刻下终端设备的速度;摄像头703用于:在第一时刻至当前时刻之间持续进行采集,获得多个第一图像;处理器704用于:在多组IMU数据的组数大于或等于第一阈值的情况下,基于多个第一图像和第一时刻下终端设备的位置对应的第二图像,得到视差数据;处理器704还用于:利用多组IMU数据、当前时刻下终端设备的速度和视差数据,判断终端设备在第一时刻至当前时刻之间是否处于静止状态;处理器704还用于:若终端设备在第一时刻至当前时刻之间处于静止状态,确定当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像,并通过AR导航界面显示第三图像。
可选地,多组IMU数据包括多个第一加速度和多个第一角速度,视差数据包括平均视差和视差占比;处理器704还用于:基于多个第一加速度、多个第一角速度、当前时刻下终端设备的速度、平均视差以及视差占比,判断终端设备在第一时刻至当前时刻之间是否处于静止状态。
可选地,视差占比包括第一视差占比和第二视差占比,第一视差占比为多个视差中大于或等于第二阈值的视差的个数在多个视差的个数中的比例,第二视差占比为多个视差中大于或等于第三阈值的视差的个数在多个视差的个数中的比例;处理器704还用于:在满足下列条件的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态:多个第一加速度均小于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、第二视差占比小于或等于第八阈值、且当前时刻下终端设备的速度小于或等于第九阈值。
可选地,视差数据还包括:平均特征匹配数;处理器704还用于:在满足下列条件的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态:多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均特征匹配数大于或等于第十阈值、平均视差小于或等于第十一阈值、且当前时刻下终端设备的速度小于或等于第九阈值;或者,多个第一加速度中存在至少一个第一加速度大于或等于第四阈值、多个第一角速度均小于或等于第五阈值、平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、平均视差小于或等于第十三阈值、且当前时刻下终端设备的速度小于或等于第九阈值。
可选地,视差占比包括第一视差占比和第二视差占比,第一视差占比为多个视差中大于或等于第二阈值的视差的个数在多个视差的个数中的比例,第二视差占比为多个视差中大于或等于第三阈值的视差的个数在多个视差的个数中的比例;处理器704还用于:基于多个第一加速度和多个第一角速度,得到多个第二加速度和多个第二角速度;处理单元802,还用于:在满足下列条件的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态:多个第二加速度均小于或等于第四阈值、多个第二角速度均小于或等于第五阈值、平均视差小于或等于第六阈值、第一视差占比小于或等于第七阈值、第二视差占比小于或等于第八阈值、且当前时刻下终端设备的速度小于或等于第九阈值。
可选地,视差数据还包括:平均特征匹配数;处理器704还用于:在满足下列条件的情况下,确定终端设备在第一时刻至当前时刻之间处于静止状态:多个第二加速度中存在至少一个第二加速度大于或等于第四阈值、多个第二角速度均小于或等于第五阈值、平均特征匹配数大于或等于第十阈值、平均视差小于或等于第十一阈值、且当前时刻下终端设备的速度小于或等于第九阈值;或者,多个第二加速度中存在至少一个第二加速度大于或等于第四阈值、多个第二角速度均小于或等于第五阈值、平均特征匹配数小于或等于第十阈值且大于或等于第十二阈值、平均视差小于或等于第十三阈值、且当前时刻下终端设备的速度小于或等于第九阈值。
可选地,多组IMU数据还包括多个重力加速度;处理器704还用于:计算多个第一加速度中每个第一加速度与每个第一加速度对应的重力加速度作差后的绝对值,得到多个绝对值,将多个绝对值确定为多个第二加速度;将多个第一角速度确定为多个第二角速度。
可选地,处理器704还用于:若终端设备在第一时刻至当前时刻之间处于静止状态,基于AR导航应用的启动时刻至当前时刻之间终端设备是否移动和多个第一图像的个数,确定更新参数;基于更新参数构造方程,得到当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像。
可选地,处理器704还用于:在启动时刻至当前时刻之间终端设备没有移动、且多个第一图像的个数大于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度、位移以及角度,以及第二图像和在第一时刻采集的第一图像之间的速度、位移以及角度确定为更新参数。
可选地,处理器704还用于:在启动时刻至当前时刻之间终端设备发生移动,或者,多个第一图像的个数小于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度,以及第二图像和在第一时刻采集的第一图像之间的速度确定为更新参数。
可选地,处理器704还用于:利用滤波算法对方程进行求解,得到当前时刻下终端设备的位置和当前时刻下终端设备的位置对应的第三图像。
可选地,处理器704还用于:基于多个第一图像和第二图像,得到多个特征匹配数和多个视差;将多个特征匹配数的平均值确定为平均特征匹配数;将多个视差的平均值确定为平均视差;将多个视差中大于或等于第二阈值的视差的个数在多个视差的个数中的比例确定为第一视差占比;将多个视差中大于或等于第三阈值的视差的个数在多个视差的个数中的比例确定为第二视差占比。
可选地,处理器704还用于:利用特征提取算法,对多个第一图像和第二图像分别进行特征提取,得到多个第一图像中每个第一图像的多个特征和第二图像的多个特征;对采集顺序相邻的两个第一图像的多个特征分别进行匹配,并对第二图像的多个特征和在第一时刻采集的第一图像的多个特征分别进行匹配,得到多组匹配特征;将多组匹配特征中每组匹配特征的个数确定为多个特征匹配数;将每组匹配特征中多个匹配特征的平均匹配距离确定为多个视差。
应理解,处理器704、存储器705还可以和收发器通过内部连接通路互相通信,该处理器704还用于通过执行该存储器705存储的指令以控制该收发器接收和/或发送信号。
应理解,终端设备700可以具体为上述实施例中的终端设备,并且可以用于执行上述方法中的各个步骤和/或流程。可选地,该存储器705可以包括只读存储器和随机存取存储器,并向处理器704提供指令和数据。存储器的一部分还可以包括非易失性随机存取存储器。例如,存储器705还可以存储设备类型的信息。该处理器704可以用于执行存储器705中存储的指令,并且当该处理器704执行存储器中存储的指令时,该处理器704用于执行上述方法700的各个步骤和/或流程。该收发器可以包括发射器和接收器,该发射器可以用于实现上述收发器对应的用于执行发送动作的各个步骤和/或流程,该接收器可以用于实现上述收发器对应的用于执行接收动作的各个步骤和/或流程。
应理解,在本申请实施例中,该处理器可以是中央处理单元(central processingunit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器执行存储器中的指令,结合其硬件完成上述方法的步骤。为避免重复,这里不再详细描述。
本申请还提供了一种计算机可读存储介质,该计算机可读存储介质用于存储计算机程序,该计算机程序用于实现上述实施例中的方法。
本申请还提供了一种计算机程序产品,该计算机程序产品包括计算机程序(也可以称为代码,或指令),当该计算机程序在计算机上运行时,该计算机可以执行上述实施例中的方法。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的模块及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请实施例的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请实施例揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请实施例的保护范围之内。因此,本申请实施例的保护范围应所述以权利要求的保护范围为准。
Claims (16)
1.一种导航定位方法,其特征在于,应用于支持增强现实AR导航模式的终端设备,所述终端设备上设有惯性测量单元IMU、测速单元和摄像头,所述方法包括:
通过所述IMU在第一时刻至当前时刻之间持续进行检测,获得多组IMU数据;
通过所述测速单元在所述当前时刻进行检测,获得所述当前时刻下所述终端设备的速度;
在所述多组IMU数据的组数大于或等于第一阈值的情况下,基于多个第一图像和所述第一时刻下所述终端设备的位置对应的第二图像,得到视差数据,所述多个第一图像是通过所述摄像头在所述第一时刻至所述当前时刻之间持续采集到的;
利用所述多组IMU数据、所述当前时刻下所述终端设备的速度和所述视差数据,判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态;
若所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态,确定所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,并通过AR导航界面显示所述第三图像。
2.根据权利要求1所述的方法,其特征在于,所述多组IMU数据包括多个第一加速度和多个第一角速度,所述视差数据包括平均视差和视差占比;
所述利用所述多组IMU数据、所述当前时刻下所述终端设备的速度和所述视差数据,判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,包括:
基于所述多个第一加速度、所述多个第一角速度、所述当前时刻下所述终端设备的速度、所述平均视差以及所述视差占比,判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态。
3.根据权利要求2所述的方法,其特征在于,所述视差占比包括第一视差占比和第二视差占比,所述第一视差占比为多个视差中大于或等于第二阈值的视差的个数在所述多个视差的个数中的比例,所述第二视差占比为多个视差中大于或等于第三阈值的视差的个数在所述多个视差的个数中的比例;
所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,包括:
在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:
所述多个第一加速度均小于或等于第四阈值、所述多个第一角速度均小于或等于第五阈值、所述平均视差小于或等于第六阈值、所述第一视差占比小于或等于第七阈值、所述第二视差占比小于或等于第八阈值、且所述当前时刻下所述终端设备的速度小于或等于第九阈值。
4.根据权利要求3所述的方法,其特征在于,所述视差数据还包括:平均特征匹配数;
所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,还包括:
在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:
所述多个第一加速度中存在至少一个第一加速度大于或等于所述第四阈值、所述多个第一角速度均小于或等于所述第五阈值、所述平均特征匹配数大于或等于第十阈值、所述平均视差小于或等于第十一阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值;或者,
所述多个第一加速度中存在至少一个第一加速度大于或等于所述第四阈值、所述多个第一角速度均小于或等于所述第五阈值、所述平均特征匹配数小于或等于所述第十阈值且大于或等于第十二阈值、所述平均视差小于或等于第十三阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值。
5.根据权利要求2所述的方法,其特征在于,所述视差占比包括第一视差占比和第二视差占比,所述第一视差占比为多个视差中大于或等于所述第二阈值的视差的个数在所述多个视差的个数中的比例,所述第二视差占比为多个视差中大于或等于所述第三阈值的视差的个数在所述多个视差的个数中的比例;
所述方法还包括:
基于所述多个第一加速度和所述多个第一角速度,得到多个第二加速度和多个第二角速度;
所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,包括:
在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:
所述多个第二加速度均小于或等于第四阈值、所述多个第二角速度均小于或等于第五阈值、所述平均视差小于或等于第六阈值、所述第一视差占比小于或等于第七阈值、所述第二视差占比小于或等于第八阈值、且所述当前时刻下所述终端设备的速度小于或等于第九阈值。
6.根据权利要求5所述的方法,其特征在于,所述视差数据还包括:平均特征匹配数;
所述判断所述终端设备在所述第一时刻至所述当前时刻之间是否处于静止状态,还包括:
在满足下列条件的情况下,确定所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态:
所述多个第二加速度中存在至少一个第二加速度大于或等于所述第四阈值、所述多个第二角速度均小于或等于所述第五阈值、所述平均特征匹配数大于或等于第十阈值、所述平均视差小于或等于第十一阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值;或者,
所述多个第二加速度中存在至少一个第二加速度大于或等于所述第四阈值、所述多个第二角速度均小于或等于所述第五阈值、所述平均特征匹配数小于或等于所述第十阈值且大于或等于第十二阈值、所述平均视差小于或等于第十三阈值、且所述当前时刻下所述终端设备的速度小于或等于所述第九阈值。
7.根据权利要求5或6所述的方法,其特征在于,所述多组IMU数据还包括多个重力加速度;
所述基于所述多个第一加速度和所述多个第一角速度,得到多个第二加速度和多个第二角速度,包括:
计算所述多个第一加速度中每个第一加速度与所述每个第一加速度对应的重力加速度作差后的绝对值,得到多个绝对值,将所述多个绝对值确定为所述多个第二加速度;
将所述多个第一角速度确定为所述多个第二角速度。
8.根据权利要求1至7中任一项所述的方法,其特征在于,所述若所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态,确定所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,包括:
若所述终端设备在所述第一时刻至所述当前时刻之间处于静止状态,基于AR导航应用的启动时刻至所述当前时刻之间所述终端设备是否移动和所述多个第一图像的个数,确定更新参数;
基于所述更新参数构造方程,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像。
9.根据权利要求8所述的方法,其特征在于,所述基于AR导航应用的启动时刻至所述当前时刻之间所述终端设备是否移动和所述多个第一图像的个数,确定更新参数,包括:
在所述启动时刻至所述当前时刻之间所述终端设备没有移动、且所述多个第一图像的个数大于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度、位移以及角度,以及所述第二图像和在所述第一时刻采集的第一图像之间的速度、位移以及角度确定为所述更新参数。
10.根据权利要求8所述的方法,其特征在于,所述基于AR导航应用的启动时刻至所述当前时刻之间所述终端设备是否移动和所述多个第一图像的个数,确定更新参数,还包括:
在所述启动时刻至所述当前时刻之间所述终端设备发生移动,或者,所述多个第一图像的个数小于或等于第十四阈值的情况下,将采集顺序相邻的两个第一图像之间的速度,以及所述第二图像和在所述第一时刻采集的第一图像之间的速度确定为所述更新参数。
11.根据权利要求8至10中任一项所述的方法,其特征在于,所述基于所述更新参数构造方程,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像,包括:
利用滤波算法对所述方程进行求解,得到所述当前时刻下所述终端设备的位置和所述当前时刻下所述终端设备的位置对应的第三图像。
12.根据权利要求1至11中任一项所述的方法,其特征在于,所述基于多个第一图像和所述第一时刻下所述终端设备的位置对应的第二图像,得到视差数据,包括:
基于所述多个第一图像和所述第二图像,得到多个特征匹配数和多个视差;
将所述多个特征匹配数的平均值确定为所述平均特征匹配数;
将所述多个视差的平均值确定为所述平均视差;
将所述多个视差中大于或等于所述第二阈值的视差的个数在所述多个视差的个数中的比例确定为所述第一视差占比;
将所述多个视差中大于或等于所述第三阈值的视差的个数在所述多个视差的个数中的比例确定为所述第二视差占比。
13.根据权利要求12所述的方法,其特征在于,所述基于所述多个第一图像和所述第二图像,得到多个特征匹配数和多个视差,包括:
利用特征提取算法,对所述多个第一图像和所述第二图像分别进行特征提取,得到所述多个第一图像中每个第一图像的多个特征和所述第二图像的多个特征;
对采集顺序相邻的两个第一图像的多个特征分别进行匹配,并对所述第二图像的多个特征和在所述第一时刻采集的第一图像的多个特征分别进行匹配,得到多组匹配特征;
将所述多组匹配特征中每组匹配特征的个数确定为所述多个特征匹配数;
将所述每组匹配特征中多个匹配特征的平均匹配距离确定为所述多个视差。
14.一种终端设备,其特征在于,包括:惯性测量单元IMU、测速单元、摄像头和处理器;
所述处理器与存储器耦合,所述存储器用于存储计算机程序,当所述处理器调用所述计算机程序时,使得所述终端设备通过所述IMU、所述测速单元、以及所述摄像头执行如权利要求1至13中任一项所述的方法。
15.一种计算机可读存储介质,其特征在于,用于存储计算机程序,所述计算机程序包括用于实现如权利要求1至13中任一项所述的方法的指令。
16.一种计算机程序产品,其特征在于,所述计算机程序产品中包括计算机程序代码,当所述计算机程序代码在计算机上运行时,使得所述计算机实现如权利要求1至13中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310558584.3A CN117705094A (zh) | 2023-05-16 | 2023-05-16 | 导航定位方法及终端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310558584.3A CN117705094A (zh) | 2023-05-16 | 2023-05-16 | 导航定位方法及终端设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117705094A true CN117705094A (zh) | 2024-03-15 |
Family
ID=90150335
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310558584.3A Pending CN117705094A (zh) | 2023-05-16 | 2023-05-16 | 导航定位方法及终端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117705094A (zh) |
-
2023
- 2023-05-16 CN CN202310558584.3A patent/CN117705094A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113641271B (zh) | 应用窗口的管理方法、终端设备及计算机可读存储介质 | |
CN112637758B (zh) | 一种设备定位方法及其相关设备 | |
CN115798390B (zh) | 屏幕显示方法和终端设备 | |
CN116048358B (zh) | 悬浮球的控制方法和相关装置 | |
CN114727220B (zh) | 一种设备搜寻方法以及电子设备 | |
CN115150542B (zh) | 一种视频防抖方法及相关设备 | |
CN115914461B (zh) | 位置关系识别方法和电子设备 | |
CN116389884B (zh) | 缩略图显示方法及终端设备 | |
CN113542574A (zh) | 变焦下的拍摄预览方法、终端、存储介质及电子设备 | |
CN114812381B (zh) | 电子设备的定位方法及电子设备 | |
CN117009005A (zh) | 一种显示方法、汽车和电子设备 | |
CN115032640A (zh) | 手势识别方法和终端设备 | |
CN114283195A (zh) | 生成动态图像的方法、电子设备及可读存储介质 | |
CN117705094A (zh) | 导航定位方法及终端设备 | |
CN116320880B (zh) | 音频处理方法和装置 | |
CN116592756B (zh) | 折叠屏夹角的检测方法及电子设备 | |
CN116095223B (zh) | 通知显示方法和终端设备 | |
CN114205318B (zh) | 头像显示方法及电子设备 | |
CN116709023B (zh) | 视频处理方法和装置 | |
CN116737294B (zh) | 动效绘制方法和装置 | |
CN116095224B (zh) | 通知显示方法和终端设备 | |
CN116709018B (zh) | 一种变焦条分割方法及电子设备 | |
CN116382728B (zh) | 传播名显示方法和终端设备 | |
CN118264784A (zh) | 一种用于增强现实协同的系统及方法 | |
CN116339569A (zh) | 分屏显示的方法、折叠屏设备和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |