CN114755670A - 用于协助驾驶员和乘客彼此定位的系统和方法 - Google Patents

用于协助驾驶员和乘客彼此定位的系统和方法 Download PDF

Info

Publication number
CN114755670A
CN114755670A CN202111620701.1A CN202111620701A CN114755670A CN 114755670 A CN114755670 A CN 114755670A CN 202111620701 A CN202111620701 A CN 202111620701A CN 114755670 A CN114755670 A CN 114755670A
Authority
CN
China
Prior art keywords
passenger
driver
mobile device
arrival
location
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111620701.1A
Other languages
English (en)
Inventor
S·穆尼尔
V·简
S·达斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of CN114755670A publication Critical patent/CN114755670A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/02Reservations, e.g. for tickets, services or events
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/13Receivers
    • G01S19/14Receivers specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/02Systems for determining distance or velocity not using reflection or reradiation using radio waves
    • G01S11/04Systems for determining distance or velocity not using reflection or reradiation using radio waves using angle measurements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/02Systems for determining distance or velocity not using reflection or reradiation using radio waves
    • G01S11/06Systems for determining distance or velocity not using reflection or reradiation using radio waves using intensity measurements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42Determining position
    • G01S19/48Determining position by combining or switching between position solutions derived from the satellite radio beacon positioning system and position solutions derived from a further system
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/02Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using radio waves
    • G01S3/14Systems for determining direction or deviation from predetermined direction
    • G01S3/46Systems for determining direction or deviation from predetermined direction using antennas spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
    • G01S3/48Systems for determining direction or deviation from predetermined direction using antennas spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems the waves arriving at the antennas being continuous or intermittent and the phase difference of signals derived therefrom being measured
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/0009Transmission of position information to remote stations
    • G01S5/0072Transmission between mobile stations, e.g. anti-collision systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0257Hybrid positioning
    • G01S5/0258Hybrid positioning by combining or switching between measurements derived from different systems
    • G01S5/02585Hybrid positioning by combining or switching between measurements derived from different systems at least one of the measurements being a non-radio measurement
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0278Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves involving statistical or probabilistic considerations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B7/00Radio transmission systems, i.e. using radiation field
    • H04B7/02Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
    • H04B7/04Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
    • H04B7/06Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas at the transmitting station
    • H04B7/0613Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas at the transmitting station using simultaneous transmission
    • H04B7/0615Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas at the transmitting station using simultaneous transmission of weighted versions of same signal
    • H04B7/0619Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas at the transmitting station using simultaneous transmission of weighted versions of same signal using feedback from receiving side
    • H04B7/0621Feedback content
    • H04B7/0626Channel coefficients, e.g. channel state information [CSI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/023Services making use of location information using mutual or relative location information between multiple location based services [LBS] targets or of distance thresholds
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/029Location-based management or tracking services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/16Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using electromagnetic waves other than radio waves

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Theoretical Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Probability & Statistics with Applications (AREA)
  • Human Computer Interaction (AREA)
  • Navigation (AREA)
  • Telephone Function (AREA)
  • Traffic Control Systems (AREA)

Abstract

用于协助驾驶员和乘客彼此定位的系统和方法。提供了一种用于在叫车服务中协助驾驶员和乘客找到彼此的系统。驾驶员设备可以与乘客设备通信。驾驶员设备可以接收乘客设备的GPS坐标,使得可以经由GPS确定乘客设备的相对位置。响应于乘客设备在距驾驶员设备的阈值距离内,乘客设备和驾驶员设备可以经由Wi‑Fi连接以共享数据,从而改进系统的定位能力。至少一个处理器可以从乘客设备接收Wi‑Fi数据分组,从Wi‑Fi数据分组测量并提取信道状态信息(CSI),执行到达角度(AoA)应用以基于CSI确定到达角度,以及基于从CSI确定的到达角度显示乘客的位置。

Description

用于协助驾驶员和乘客彼此定位的系统和方法
技术领域
本公开涉及用于协助驾驶员和乘客彼此定位的系统和方法。
背景技术
多年来,叫车服务(ride-hailing)越来越受欢迎。这些服务允许乘客通过乘客的移动设备和驾驶员的移动设备二者上的应用招呼驾驶员。当前的叫车应用依赖于全球定位系统(GPS)信号来帮助驾驶员定位乘客,并且反之亦然。在像大型建筑可能阻挡或干扰GPS信号的市中心城市区域之类的地方、在驾驶员需要进入室内搭载乘客的地方或者在像机场、体育场和剧院之类的拥挤地方,这可能困难。
发明内容
根据实施例,一种用于协助驾驶员和乘客找到彼此的系统包括用户界面;存储装置,被配置为维护到达角度(AoA)应用,该到达角度(AoA)应用当被执行时,确定传入的Wi-Fi信号的到达角度;以及与用户界面和存储装置通信的至少一个处理器,该至少一个处理器。该至少一个处理器被编程为经由GPS接收乘客的移动设备的位置,并且响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内,执行以下步骤:在驾驶员的移动设备处接收来自乘客的移动设备的Wi-Fi数据分组,从接收的Wi-Fi数据分组测量并提取信道状态信息(CSI),执行AoA应用以基于CSI确定到达角度,以及基于确定的到达角度在用户界面上显示乘客的粗粒度位置。
根据实施例,一种用于协助驾驶员和乘客找到彼此的方法包括:经由GPS在驾驶员设备处接收乘客设备的位置,并且响应于乘客设备的位置在距驾驶员设备的阈值距离内,执行以下步骤:利用驾驶员设备处的Wi-Fi天线来检测从乘客设备发出的Wi-Fi信号,从乘客设备接收Wi-Fi数据分组,从接收的Wi-Fi数据分组提取信道状态信息(CSI),基于CSI确定到达角度,以及基于确定的到达角度在用户界面上显示乘客设备的位置。
根据实施例,一种用于在叫车环境中协助驾驶员和乘客找到彼此的行车记录仪显示器包括:一个或多个Wi-Fi天线,被配置为从乘客的移动设备接收Wi-Fi数据分组;无线收发器,被配置为与驾驶员的移动设备通信;存储装置,被配置为维护到达角度(AoA)应用,该到达角度(AoA)应用当被执行时,确定来自乘客的移动设备的传入Wi-Fi信号的到达角度;以及耦合到存储装置和无线收发器的处理器。处理器被编程为:从乘客的移动设备接收Wi-Fi数据分组,从接收到的Wi-Fi数据分组测量并提取信道状态信息(CSI),执行AoA应用以基于CSI确定到达角度,以及使得无线收发器向驾驶员的移动设备发送信号以基于确定的到达角度显示乘客的位置。
附图说明
图1图示了根据实施例的具有用于在叫车应用中查看乘客位置的移动设备的车辆的内部车厢。
图2是根据实施例的行车记录仪显示器。
图3图示了根据实施例的用于协助驾驶员和乘客彼此定位的系统的示例。
图4图示了根据实施例的从乘客的移动设备到驾驶员的移动设备的信号处理流程图。
图5是根据实施例的用于协助驾驶员和乘客彼此定位的流程图。
图6是根据实施例的用于协助驾驶员和乘客彼此定位的流程图。
图7是根据实施例的用于协助驾驶员和乘客彼此定位的流程图。
图8是根据实施例的用于协助驾驶员和乘客彼此定位的流程图。
图9图示了根据实施例的具有移动设备的车辆的内部车厢,该移动设备用于在叫车应用中查看具有细粒度位置的乘客的位置。
图10是根据实施例的用于协助驾驶员和乘客彼此定位的流程图,在该实施例中,无线数据和图像检测的信号处理被融合或匹配以增强位置确定。
图11图示了根据实施例的将边界框放置在检测到的人类周围的人类检测应用的示例输出。
图12图示了根据实施例的将人类检测应用和无线数据的信号处理融合以在标识的人周围放置边界框的示例输出。
图13图示了根据实施例的乘客用提供给乘客的信息(诸如到达角度和到驾驶员车辆的距离)招呼驾驶员的俯视图。
图14图示了根据实施例的可以在乘客设备上可查看的乘客和驾驶员位置的俯视地图视图。
图15是根据实施例的增强现实实施例的透视图,其中乘客可以举起他/她的移动设备来查看环境,并且驾驶员的车辆可以被突出显示。
具体实施方式
本文描述了本公开的实施例。然而,将理解,公开的实施例仅仅是示例,并且其他实施例可以采取各种形式和替代形式。各图不一定是按比例的;一些特征可以被放大或最小化以示出特定组件的细节。因此,本文公开的具体结构和功能细节不应被解释为限制性的,而仅仅是作为用于教导本领域技术人员以各种方式采用实施例的代表性基础。如本领域普通技术人员将理解的,参考任一图所图示和描述的各种特征可以与一个或多个其他图中图示的特征相组合,以产生未被明确图示或描述的实施例。图示的特征的组合提供了典型应用的代表性实施例。然而,对于特定的应用或实现,可能期望与本公开的教导一致的特征的各种组合和修改。
随着人们正在依赖于叫车服务(例如,UBER、LYFT),驾驶员和乘客找到彼此变得越来越重要。目前,驾驶员和乘客使用移动设备(例如,智能电话)通过叫车服务提供的应用找到彼此。驾驶员和乘客可以基于全球定位系统(GPS)信号彼此定位。然而,在城市和像市中心之类的存在大型建筑和摩天大楼的区域中,GPS信号不总是可靠的。还存在诸如机场之类的地方,其中驾驶员可能不得不进入内部来搭载乘客并且GPS可能在内部不起作用。此外,在像体育场、机场、剧院和酒吧之类的拥挤的环境中,可能也难以在也站在街道或人行道上的许多其他人当中定位在街道或人行道上的真正乘客。这在能见度降低的时候也变得糟糕,诸如在夜间或恶劣天气(例如,下雨、下雪等)期间。
乘客关于定位被招呼的驾驶员的能力或者驾驶员定位乘客的能力进行抱怨。这可能浪费驾驶员和乘客的时间,从而迫使他们彼此打电话讨论他们到底在哪里。该浪费的时间转化为驾驶员收入的损失。如果驾驶员在搭载期间每次行程可以节省一分钟,则在一天的历程内这可以转化为驾驶员工作的一个或多个完整行程。这引起挫败感,并可能造成坏的用户体验。这也造成了市中心区域中拥挤的路边。
根据本文描述的各种实施例,本公开提出了新奇的技术,以使得叫车服务驾驶员能够更好地定位叫车服务乘客,并且反之亦然。在实施例中,驾驶员在他/她的车辆中具有移动设备,当驾驶员和乘客在彼此一定距离内时,该移动设备能够经由Wi-Fi与乘客的移动设备通信。这可以补充或替换当前由叫车服务提供商采用的基于GPS的定位系统。例如,驾驶员和乘客可以各自通过GPS信号和基于地图的特征彼此定位,直到驾驶员在乘客的Wi-Fi范围内。然后,驾驶员的移动设备可以经由Wi-Fi直接发起与驾驶员的移动设备的连接,并发起从乘客到驾驶员的数据分组传送。在另一个实施例中,驾驶员的移动设备监听所有传入的Wi-Fi分组,而不与乘客的移动设备建立直接连接。然后,经由Wi-Fi连接接收的数据被用于估计Wi-Fi接收分组的距离和到达角度(AoA)。在实施例中,提供在驾驶员的移动设备上或车辆中的其他地方的相机捕获周围的图像。利用目标检测,以及每个被检测人的角度和距离估计。基于图像的数据与基于Wi-Fi的数据相融合,并且匹配结果允许确定乘客的细粒度位置。
图1图示了移动设备100的示例,该移动设备100用于向驾驶员通知已经招呼乘坐的乘客的位置。移动设备100可以是蜂窝电话、智能电话、平板计算机、可穿戴技术(例如,智能手表)、GPS地图设备或任何其他这样的设备,其使得用户(例如,驾驶员)能够查看正在招呼乘坐的乘客的位置。为了与招呼乘坐的乘客通信,移动设备100可以配备有无线通信能力,诸如5G、LTE、Wi-Fi、蓝牙、GPS/GNSS等。可以在移动设备100中为该特定无线通信协议提供对应的接收器或收发器。例如,如果在本文描述的系统中使用Wi-Fi,则移动设备可以被提供有IEEE 802.11收发器。
移动设备100被示出安装到车辆104的仪表板102。该安装可以经由保持器进行,从而允许移动设备100从更牢固地附接到仪表板102的机架中移除。
移动设备也可以是图2中总体示出的行车记录仪显示器200(也称为行车记录仪)的形式。行车记录仪显示器200可以包括移动设备的所有通信能力,诸如Wi-Fi、蓝牙、LTE、蜂窝等。行车记录仪显示器200可以包括面向车辆挡风玻璃以捕获车辆前方环境的图像的相机202。行车记录仪显示器200还可以包括Wi-Fi天线204或者接收器或收发器。Wi-Fi天线可以在外部安装,使得它们是从行车记录仪显示器200的主外壳突出的突起。在行车记录仪显示器200与相机202相对的一侧,可以是向驾驶员提供与移动设备100类似的信息(诸如例如乘客的位置)的显示器。具有显示器的行车记录仪显示器200的侧还可以包括第二相机,该第二相机这次面向车辆内部以监视和捕获车辆内驾驶员和乘客的图像和/或视频。这样的信息可能对于叫车服务和其驾驶员有帮助。麦克风也可以提供在行车记录仪显示器200中。在另一个实施例中,如图1中所示,行车记录仪显示器200可以定位乘客,并且然后使用蓝牙或Wi-Fi与驾驶员的智能电话通信,以在驾驶员的智能电话中示出乘客的位置。在这样的实施例中,行车记录仪显示器200可以包括无线收发器(例如,蓝牙收发器、Wi-Fi收发器等),该无线收发器(例如,蓝牙收发器、Wi-Fi收发器等)被配置为在行车记录仪显示器200上处理诸如乘客的位置之类的信息之后,将这样的信息无线发送到驾驶员的智能电话。
图3图示了用于协助驾驶员和乘客彼此定位的示例系统300。一般而言,系统300使能驾驶员的移动设备(“驾驶员设备”)和叫车乘客的移动设备(“乘客设备”)之间通过无线通信网络通信。如将解释的,驾驶员设备可以经由GPS数据看到乘客设备的位置,并且然后一旦在某个范围内,就可以经由Wi-Fi直接与乘客设备通信,以便乘客设备的位置的更准确确定。在图示的实施例中,该系统还使得至少驾驶员设备能够基于驾驶员设备和乘客设备之间经由Wi-Fi传送的数据访问被配备来执行数据处理的服务器,所述数据处理诸如是机器学习、信号处理、到达角度确定和距离确定。
在一个或多个实施例中,系统300包括能够通过网络306来和回传送数据的驾驶员设备302和乘客设备304。驾驶员设备302和乘客设备304可以各自包括网络接口卡308,该网络接口卡308使得相应的设备302、304能够连接,以通过网络306在彼此之间以及与其他外部设备(诸如下面解释的服务器324)发送和/或接收数据。驾驶员设备302和乘客设备304可以各自是具有本文描述的无线通信技术的移动设备(例如,移动设备100),诸如被配置为传送Wi-Fi分组的Wi-Fi收发器。此外,驾驶员设备302可以是具有前述无线通信技术的行车记录仪。
驾驶员设备302还包括处理器310,处理器310可操作地连接到存储装置312、显示设备314、相机316、人机界面(HMI)控件318和网络设备308。相机316拍摄的图像或视频可以作为图像数据320存储在存储装置312中。存储装置312当被处理器310访问时,可以被配置为使能诸如图像数据320的处理或者执行AoA和/或距离应用322之类的各种应用和信号处理的执行。用于确定乘客设备304的位置的所有公开的功能可以在驾驶员设备本地执行。替代地,如图3中图示的,驾驶员设备302可以被配置为连接到服务器324,服务器324执行这样的信号处理,并经由网络306向驾驶员设备302提供所述处理的输出。可以通过网络客户端326向驾驶员设备302提供该数据,网络客户端326可以是由驾驶员设备302执行的网络浏览器或应用。服务器324可以托管其自己的AoA和/或距离应用328,驾驶员设备302经由网络306可访问该AoA和/或距离应用328。服务器324还包括处理器330,该处理器330可操作地连接到存储装置332和网络设备334。服务器324还可以包括图像数据336,该图像数据336经由网络306从驾驶员设备302的相机316发送到那里。服务器324还可以托管使得机器学习模型能够被处理器330利用的指令。该机器学习模型可以由驾驶员设备302的处理器330和/或处理器310可访问。
应当注意,示例系统300是一个示例,并且可以使用由多个100个单元组成的其他系统。例如,虽然仅示出了一个驾驶员设备302,但是预期本文公开的包括多个驾驶员设备302的系统。作为另一种可能性,虽然示例实现被示为基于网络的应用,但是替代系统可以被实现为独立系统、本地系统或者具有厚客户端软件的客户端-服务器系统。诸如相机316和相关联的图像数据320的各种组件可以由处理器310在驾驶员设备302本地接收和处理,或者可以经由网络被发送到服务器324以由处理器330处理,其结果可以被发送回到驾驶员设备302。
驾驶员设备302的处理器310和服务器324的处理器330中的每一个可以包括实现中央处理单元(CPU)和/或图形处理单元(GPU)的功能的一个或多个集成电路。在一些示例中,处理器310、330是集成了CPU和GPU的功能的片上系统(SoC)。SoC可以可选地包括到单个集成设备中的其他组件,诸如例如存储装置312或332以及网络设备308或334。在其他示例中,CPU和GPU经由外围连接设备(诸如PCI express或其他合适的外围数据连接)彼此连接。在一个示例中,CPU是商业上可获得的中央处理设备,其实现诸如x86、ARM、Power或MIPS指令集家族之一的指令集。
不管具体情况如何,在操作期间,处理器310、330执行分别从存储装置312、332检索的存储程序指令。相应地,存储程序指令包括控制处理器310、330的操作以执行本文描述的操作的软件。存储装置312、332可以包括非易失性存储器和易失性存储器设备二者。非易失性存储器包括固态存储器,诸如NAND闪存、磁和光存储介质,或者当系统300被去激活或者失去电力时保留数据的任何其他合适的数据存储设备。易失性存储器包括静态和动态随机存取存储器(RAM),其在系统100的操作期间存储程序指令和数据。
驾驶员设备302的GPU可以包括用于向驾驶员设备302的显示设备314显示至少二维(2D)和可选的三维(3D)图形的硬件和软件。显示设备314可以包括诸如LED、LCD、OLED等之类的电子显示屏。在一些示例中,驾驶员设备302的处理器310使用GPU中的硬件功能来执行软件程序,以加速机器学习或本文描述的其他计算操作的性能。
在其他实施例中,显示设备314包括平视显示器(HUD),该平视显示器(HUD)被配置为将信息显示在车辆的挡风玻璃上。HUD可以是车辆系统而不是驾驶员设备302的一部分,但是仍然可以与驾驶员设备302通信以显示这样的信息。例如,驾驶员设备302可以执行AoA和/或距离应用322,用于如本文解释的乘客设备304的粗粒度或细粒度位置确定,并且可以将位置信息发送到车辆的HUD,使得乘客的位置可以显示在车辆的挡风玻璃上,以便于驾驶员查看。车辆可包括其自身的对象检测传感器(例如,LIDAR、RADAR等)和由车辆处理器可执行的相关联软件,用于确定人类的存在;该信息可以与图像数据320和/或AoA和/或距离应用322的结果融合,使得HUD系统可以确定或验证为乘坐招呼驾驶员的乘客的位置,并在挡风玻璃上突出显示或以其他方式指示该乘客的位置。
驾驶员设备302的HMI控件318可以包括使得系统300的驾驶员设备302能够从驾驶员接收控制输入的各种设备中的任一个。接收人机界面输入的合适输入设备的示例可以包括驾驶员设备302上的触摸屏,但是也可以包括键盘、鼠标、轨迹球、语音输入设备、图形平板计算机等。如本文所述,用户界面可以包括显示设备314和HMI控件318中的任一个或两者。
网络设备308、334可以各自包括使得驾驶员设备302和服务器324能够分别通过网络306从外部设备发送和/或接收数据的各种设备中的任一个。合适的网络设备308、334的示例包括从另一个计算机或移动设备或者外部数据存储设备接收数据的网络适配器或外围互连设备,这对于以高效的方式接收大数据集可以是有用的。
AoA和/或距离应用322存在于驾驶员设备302上,并且由处理器310可执行。替代地或组合地,AoA和/或距离应用328存在于服务器324上,使得可以由访问应用328的处理器330执行离场处理(例如,远离驾驶员设备302)。在任一实施例中,AoA和/或距离应用322、328可以使用各种算法来执行本文描述的操作的各方面。在示例中,AoA和/或距离应用322、328可以包括由相应处理器310、330可执行的指令。AoA和/或距离应用322、328可以包括存储到相应存储器3312、332的由相应处理器310、330可执行的指令。计算机可执行指令可以从使用多种编程语言和/或技术创建的计算机程序编译或解释,所述多种编程语言和/或技术在没有限制的情况下并且单独或组合地包括JAVA、C、C++、C#、VISUAL BASIC、JAVASCRIPT、PYTHON、PERL、PL/SQL等。一般而言,处理器310、330例如从相应的存储装置或存储器312、332、计算机可读介质等接收指令并执行这些指令,从而执行包括本文描述的一个或多个过程的一个或多个过程。这样的指令和其他数据可以使用多种计算机可读介质来存储和传输。
AoA和/或距离应用322、328当由相应的处理器310、330执行时,可以使用根据从乘客设备304传输到驾驶员设备302的Wi-Fi分组提取的信道状态信息(CSI)来确定到达角度和/或驾驶员设备302和乘客设备304之间的距离。简而言之,可以使用几个方法来估计距离和/或到达角度,所述几个方法诸如是信号处理(例如,MUSIC算法、SpotFi算法、合成孔径方法、多普勒频移估计等)或机器学习(例如,长短期记忆(LSTM),或基于神经网络的方法,其基于神经网络训练通过在先前步骤中收集附加数据并将当前数据与先前收集的数据进行比较来估计AoA和距离)。本文提供了对AoA和/或距离应用322、328的另外解释。
在人工智能(AI)或机器学习系统中,基于模型的推理是指基于待分析世界观的机器学习模型进行操作的推理方法。如本文所述,机器学习模型可以使用AoA和/或距离应用322在驾驶员设备302处直接被访问和执行,或者可以使用AoA和/或距离应用328在服务器324处被执行并经由网络306被访问。这两个实施例在图3中示出。通常,如AoA和/或距离应用322、328使用的机器学习被训练来学习在输入值和输出值之间提供精确相关性的函数。在运行时,机器学习引擎针对观察到的数据使用机器学习模型中编码的知识,以导出诸如诊断或预测之类的结论。一个示例机器学习系统可以包括由加利福尼亚州山景城的Alphabet有限公司可获得的TensorFlow AI引擎,尽管可以附加地或替代地使用其他机器学习系统。如本文详细讨论的,AoA和/或距离应用322、328可以利用本文描述的机器学习模型,并且被配置为识别包含在传输的Wi-Fi分组(例如,RF信道信息)内以供在确定乘客设备304的细粒度位置中使用的特征和信息。简而言之,机器学习模型可以从Wi-Fi分组获得RF信道信息(包括:对于整个信道或个体子信道的信道估计参数,诸如接收信号强度、峰值功率或平均功率、相位等;对于宽带信道的脉冲响应等),并利用基于神经网络的方法来估计Wi-Fi接收到的分组的AoA和/或方向。
存储装置312还可以包括射频(RF)信道信息338。同样,如果由服务器324执行诸如AoA和/或距离应用的处理,则存储装置332可以包括RF信道信息340。如本文解释的,一旦驾驶员设备302和乘客设备304能够经由Wi-Fi进行通信,Wi-Fi分组就从乘客设备304传输到驾驶员设备302。当在驾驶员设备302处接收到Wi-Fi分组时,从物理层提取相关联的信道状态信息(CSI)。CSI提供了关于无线信号如何从Wi-Fi发射器(例如,乘客设备)传播到接收器(例如,驾驶员设备)的丰富信息,并且捕获了信号散射、衰落和功率衰减与距离的组合效应。RF信道信息338也从驾驶员设备接收的分组可确定。RF信道信息可以包括对于整个信道或个体子信道的信道估计参数,诸如接收信号强度、峰值功率或平均功率、相位等;对于宽带信道的脉冲响应等。AoA和/或距离应用322、328可以利用CSI来使用如本文所述的信号处理或机器学习来估计距离和/或到达角度。在AoA和/或距离估计之后,基于RF信道信息338、340,使用分类器来估计乘客的粗粒度位置。粗粒度位置可以是乘客是在车辆的前面还是后面,以及乘客是在车辆的左侧还是右侧。作为分类器,可以使用神经网络或者可以使用诸如支持向量机(SVM)的其他分类器。
网络客户端326可以是由驾驶员设备302执行的驾驶员设备302上的应用或“app”或者网络浏览器或其他基于网络的客户端。网络客户端326当被执行时可以提供界面以允许驾驶员查看乘客的位置、直接与乘客通信、访问用于驾驶车辆的GPS方向信息等。在机器学习、信号处理和/或AoA和/或距离应用在服务器324或由处理器330执行的情况下,网络客户端326可以访问AoA和/或距离应用328以接收这样的处理或机器学习模型的结果。在实际示例中,网络客户端326可以是由叫车服务提供商控制的驾驶员设备302上的app(例如,UBER app或LYFT app),其访问经处理的信息并在驾驶员设备302上显示这样的信息,所述信息诸如是乘客设备304的位置。网络客户端326可以进一步通过网络306向服务器324的AoA和/或距离应用328和/或机器学习模型提供经由HMI控件318接收的输入。
图4是用于将Wi-Fi分组从乘客传输到驾驶员以协助驾驶员更好地定位乘客的示例系统400。框404可以是接收来自乘客的WiFi分组的行车记录仪(诸如行车记录仪 200)或移动智能电话。虽然该描述和附图图示了从乘客设备304到驾驶员设备302的数据传输,但是应当理解,相同的系统可以用于将数据从驾驶员设备302传输到乘客设备304,以协助驾驶员更好地定位驾驶员。
在标准的叫车服务中,乘客期望从驾驶员乘坐,并通过访问叫车服务提供商的app或网站来招呼乘坐。进行了驾驶员和乘客之间的连接,并且乘客和驾驶员二者都可以经由GPS查看彼此的位置。然而,如本文所述,GPS具有其局限性和缺点,特别是在具有高建筑物或大量人群的城市区域中,这可能干扰GPS信号强度。本文描述的系统描述了一旦在阈值距离内就在驾驶员和乘客之间建立Wi-Fi连接。一旦进行了这样的连接,本文描述并在图4中以简化形式图示的系统就可以发生。
当GPS指示驾驶员正在达到接近乘客并进入阈值距离(例如,0.5英里半径)内时,乘客设备304开始传输Wi-Fi分组。同时,驾驶员设备302开始经由其Wi-Fi收发器或接收器监听传入的Wi-Fi信号。该阈值距离可以由服务提供商设置,并且可以基于情况而变化。例如,在GPS信号质量可能低的时间或位置,阈值距离可能增加,使得即使是微弱的Wi-Fi信号传输也可以被监听和建立。同样,在GPS信号质量强的时间或位置,阈值距离可以降低,使得GPS信号可以被依赖,直到驾驶员和乘客由于良好的GPS信号而非常接近。
应该理解的是,驾驶员设备302可以包括两个设备,诸如行车记录仪设备200和驱动器的智能电话。在该实施例中,行车记录仪200可以监听传入的Wi-Fi分组,执行本文描述的提取和信号处理和/或模型,并将粗粒度或细粒度位置传送到智能电话,以显示在驾驶员的智能电话上。在其他实施例中,这些功能全部由诸如行车记录仪设备200或智能电话之类的单个设备来执行。
在402总体示出,一旦驾驶员设备302检测到从乘客设备304发出的Wi-Fi信号,就可以发生Wi-Fi传输。驾驶员设备302的收发器或天线接收由乘客设备304生成的一个或多个Wi-Fi分组。在框404,驾驶员设备302执行诸如提取CSI和确定到乘客设备304的AoA和/或距离之类的各种动作。首先,在实施例中,乘客设备304的MAC地址与驾驶员设备302共享,使得驾驶员设备302知道要监听哪些消息,或者哪些消息出自乘客设备304。为了确保符合规程,在共享MAC地址之前,可能获得乘客的批准。此外,为了保护安全和隐私,还可以为乘客分配用于创建这些消息的临时MAC地址。临时MAC地址可以用至少两个方式生成。在一个方式中,叫车服务提供商的app创建临时MAC地址,其与乘客设备和驾驶员设备二者共享。并且在另一个方式中,乘客设备304可以创建临时MAC地址并通知app,该app进而通知驾驶员设备302。
当在驾驶员设备302处接收到Wi-Fi分组时,相关联的信道状态信息(CSI)被测量并从物理层被提取,如在406总体示出。信道状态信息表示无线链路的信道特性。它提供了关于无线信号如何从发射器传播到接收器的丰富信息,并捕获了信号散射、衰落和功率衰减与距离的组合效应。
然后,CSI值被用于估计经由Wi-Fi传输402从乘客设备304接收的分组的到乘客设备304的距离和/或的到达角度(AoA)。这在408总体示出。这可以使用信号处理方法或机器学习方法来完成,如将在下面进一步描述。该步骤的输出是到乘客设备304的距离和/或AoA的确定,其在410总体示出。在408,使用信号处理算法(例如,SpotFi、MUSIC、合成孔径方法、多普勒频移估计)或通过使用基于AI的技术(例如,LSTM、神经网络)来分析CSI值,以确定到达角度(AoA)并估计乘客的范围。它可以使用信号处理和基于AI的方法的组合。例如,SpotFi的多径输出可以用作基于AI的方法的输入,该基于AI的方法最终确定乘客的AoA或粗粒度定位。在410示出了AoA和/或距离确定的结果,其是AoA和/或距离应用322、328的输出。
参考图5,图示了用于确定乘客设备的粗粒度位置的流程图500。该流程图图示了502处的RF信道信息、504处的信号处理和/或机器学习、506处的AoA和/或距离、508处的分类器以及510处的粗粒度位置。这些步骤并入上面进行的描述,并将在下面进一步描述。
在502,一旦驾驶员设备302从乘客设备304接收到Wi-Fi分组,就从来自乘客设备304的Wi-Fi分组获得RF信道信息(例如,CSI数据)。这可以存储在312、332处的存储装置中,以供相关联的处理器访问。当在驾驶员设备302处接收到Wi-Fi分组时,从物理层提取相关联的CSI,并提供关于无线信号如何从发射器传播到接收器的丰富信息,并捕获信号散射、衰落和功率衰减与距离的组合效应。RF信道信息可以包括对于整个信道或个体子信道的信道估计参数,诸如接收信号强度、峰值功率或平均功率、相位等;对于宽带信道的脉冲响应等。CSI可以描述信号如何从乘客设备304传播到驾驶员设备302,并且表示例如散射、衰落和功率衰减与距离的组合效应。可以从Wi-Fi分组提取两个级别的CSI:瞬时CSI(也称为短期CSI)或统计CSI(也称为长期CSI)。统计CSI中的描述可以包括例如衰落分布的类型、平均信道增益、视线分量和空间相关性。可以从Wi-Fi分组确定一个或两个类型的CSI。
在504,CSI值用于估计驾驶员设备302和乘客设备之间的AoA和/或距离。这可以利用AoA和/或距离应用322、328来执行,并且也在408处示出。这样的确定的输出在506示出。在504,可以使用几个方法来估计距离和AoA。一旦这样的方法是信号处理方法。信号处理方法的一个示例包括利用多信号分类(MUSIC)算法进行无线电测向。MUSIC使用特征空间方法估计信号或自相关矩阵的频率含量。408处的图像表示用MUSIC估计AoA的示例。由于不同的传播路径具有不同的AoA,并且当跨天线阵列之上接收来自传播路径的信号时,AoA然后将跨阵列中的天线之上引入对应的相移。引入的相移是天线和AoA之间距离二者的函数。在408,示出了包括M个天线的均匀线性阵列。对于
Figure 817318DEST_PATH_IMAGE001
的AoA,与第一个天线相比,目标信号到阵列中第二个天线行进了
Figure 265617DEST_PATH_IMAGE002
的附加距离。这导致在第二天线处
Figure 950414DEST_PATH_IMAGE003
的附加相位,其中c是光速,并且f是发射信号的频率。
SpotFi算法也可以用于估计AoA和/或距离。驾驶员设备302和乘客设备304之间的距离可以使用接收的信号强度来估计。诸如SpotFi之类的复杂算法可以给出两个设备之间的角度信息和距离二者。SpotFi可以并入超分辨率算法,即使接入点具有多个天线(至少两个),该超分辨率算法也可以准确计算多径分量的AoA。SpotFi还可以并入新奇的过滤和估计技术,通过取决于特定路径是直接路径多么可能来为每个路径分配值,来标识乘客设备304和驾驶员设备302之间的直接路径的AoA。也可以使用接收到的分组的RSSI和使用对数距离路径损耗模型来估计距离。
估计距离和AoA的另一个这样的方法是利用机器学习。基于神经网络的方法可以用于估计由乘客设备304接收的Wi-Fi分组的AoA。该方法可能需要神经网络的训练,通过收集附加的数据作为先前步骤来估计AoA和距离。机器学习算法可以将原始CSI值取作输入,以便估计AoA并执行粗粒度定位,如图6中所示。替代地,机器学习算法可以将信号处理算法的输出(例如SpotFi的多径AOA)取作输入,并且在不看到原始CSI值的情况下执行粗粒度定位,如图5中所示。在另一个实施例中,机器学习算法可以取得原始CSI值和信号处理算法输出的组合的输入,以便执行粗粒度定位,如图7中所示。
在506处使用Wi-Fi的AoA和距离估计产生结果之后,然后在508处使用分类器来估计乘客的粗粒度位置。粗粒度位置可以是乘客是在驾驶员车辆的前面还是后面,以及乘客是在车辆的左侧还是右侧。作为分类器,可以使用神经网络或者可以使用其他分类器,例如支持向量机(SVM)。当然,粗粒度位置可以由AoA和/或距离应用322在驾驶员设备302处估计,或者由AoA和/或距离应用328在服务器324处估计。分类器捕获对于乘客设备的无线发射器的不同位置、即基于先前观察到的样本的乘客的位置,CSI值或AOA将如何改变的模型,并使用该模型来基于未来Wi-Fi接收到的分组确定乘客的位置。在510,输出是粗粒度位置。在另一个实施例中,当执行粗粒度定位分类时,分类器采用分层分类,而不是进行基于4向象限的分类。首先,它对乘客是在汽车的前面还是后面进行分类。然后,它确定乘客是在汽车的左侧还是右侧。
当驾驶员的车辆(并且因此驾驶员设备302)移动并且从乘客设备304接收到更新的Wi-Fi分组时,位置信息可以被连续实时更新。
图6图示了用于确定乘客设备的粗粒度位置的流程图600的另一个实施例。在该实施例中,使用分类器608(基于神经网络、基于SVM或其他技术)在不估计到达角度(AoA)的情况下从CSI值602直接估计粗粒度位置610。
图7图示了用于确定乘客设备的粗粒度位置的流程图600的另一个实施例。在该实施例中,CSI值702的RF信道信息直接馈送到在708的分类器,以及在704的信号处理或机器学习。使用分类器708(基于神经网络、基于SVM或其他技术)来估计粗粒度位置710,分类器708使用AoA估计706(如上面提及所估计的)和原始CSI值702二者。
在另一个实施例中,分类器还可以从GPS获得AoA &距离估计,并基于来自GPS和Wi-Fi数据的估计的组合或融合来决定位置。
还可以估计乘客设备304的细粒度位置。图8的流程图800中示出了细粒度估计的示例。在该实施例中,再次获得CSI数据或RF信道信息702,由处理器执行信号处理或机器学习704,基于接收到的Wi-Fi分组在706产生AoA和/或距离。在估计AoA之后,在808,处理器使从多个Wi-Fi分组捕获的多个AoA的序列平滑。平滑808可以使用移动平均、LOESS(局部估计的散点图平滑)、LOWESS(局部加权的散点图平滑)、另一个神经网络或其他平滑技术来执行。平滑导致细粒度位置810。
在图9中示出乘客的粗粒度位置的示例。驾驶员设备302(例如,行车记录仪单元200)再次被示出安装在车辆内。驾驶员设备302可以显示在同一显示器314上重叠的粗粒度和细粒度位置二者。这里,粗粒度位置由总体圆的楔形物902图示。该楔形物示出了乘客设备所在的总体方向。在其他实施例中,楔形物902是箭头、线或其他类型的指示器,以示出总体方向。此外,箭头或楔形物可以在与乘客设备304的距离相对应的大小或强度方面变更。粗粒度位置独立示出在图1中,没有提供细粒度位置。粗粒度位置由点904图示。在该实施例中,乘客的位置相对于乘客设备304的Wi-Fi天线向侧面和前方大约45度。
细粒度位置还可以与用于在驾驶员设备302上产生地图的GPS数据融合。例如,显示在驾驶员设备302的显示器上的服务提供商的app可以包括用于导航目的的地图。如从Wi-Fi分组确定的细粒度位置可以覆盖在基于GPS的地图上,该基于GPS的地图向驾驶员给出乘客位置的准确视图。
在一些实施例中,驾驶员可以使用两个移动设备,诸如行车记录仪 200和智能电话。在这样的实施例中,智能电话可能更适合于向驾驶员显示诸如GPS地图等之类的信息,而行车记录仪200可以执行AoA和/或距离应用以及本文描述的其他处理。附加地,行车记录仪200可以执行经由Wi-Fi与驾驶员设备的通信,执行位置处理,并向驾驶员的智能电话发送关于驾驶员的确定位置的信号。从行车记录仪发送到智能电话的信号可以经由蓝牙或Wi-Fi(例如,经由无线收发器)或有线连接进行。在由行车记录仪200在驾驶员侧估计乘客的粗粒度或细粒度位置之后,可以使用直接连接或无线连接(蓝牙、Wi-Fi、蜂窝等)与驾驶员和/或乘客的智能电话共享该信息。然后,该信息可以在驾驶员的智能电话上以示出车辆相对于乘客设备的相对位置的方式可视化。
在驾驶员设备302估计了乘客设备304的粗粒度或细粒度位置之后,该信息可以与乘客设备304共享。这样的信息传送可以经由已建立的Wi-Fi连接或其他无线连接(例如,LTE、蜂窝、4G、5G等)进行。该信息可以在乘客设备304处以示出驾驶员的车辆相对于乘客设备304的相对位置的方式可视化。
如上面解释的,驾驶员设备302可以被配备成经由相机316捕获图像,以产生由处理器310可访问的图像数据320。该相机316可以是智能电话的相机,或者是行车记录仪200的相机202。相机316也可以是安装在车辆周围的一个或多个相机,以捕获车辆周围环境的图像。在实施例中,本文公开的系统可以将图像数据与从Wi-Fi分组提取的数据融合,以进一步帮助驾驶员和乘客彼此定位。
图10图示了用于基于与图像数据融合的无线分组信息来确定乘客设备的细粒度位置的系统的流程图1000的实施例。该系统在1002获得CSI数据或RF信道信息,在1004执行信号处理和/或机器学习,以在1006估计到乘客设备的AoA和/或距离,如在本文描述的先前实施例中所解释的。如参考图8所解释的,系统还可以执行平滑1008。这产生了基于Wi-Fi的数据集,或者是准备好与基于图像的数据相匹配的无线数据集。
为了获得基于图像的数据,相机316获得视野的图像1010。如果相机316面向挡风玻璃之外,则获得的图像将是透过挡风玻璃的驾驶员视图的图像。在其他实施例中,一个或多个其他相机被放置在其他位置,诸如面向车辆的侧面或后面。车辆本身可以配备有相机,作为其主动安全系统或自主驾驶系统的一部分。从那些系统获得的图像可以经由无线或直接传输与系统100共享。
根据包括相机图像1010的图像数据320,一个或多个处理器可以实现对象检测技术1012来检测图像中的人类。各种对象和人类检测技术和模型是已知的,诸如例如你只看一次(YOLO),单射多框检测器(SSD),更快的R-CNN。利用YOLO,单个神经网络在一个评估中直接从完整图像预测边界框和类概率。由于整个检测流水线是单个网络,因此可以直接在检测性能上进行端到端优化。利用SSD,使用单个深度神经网络,针对每个特征地图位置的不同纵横比和比例,该单个深度神经网络将边界框的输出空间离散化为默认框集。神经网络对于每个默认框中每个对象类别的存在生成分数,并产生对框的调整以更好地匹配对象形状。附加地,该网络组合了来自具有不同分辨率的多个特征地图的预测,以自然地处理各种大小的对象。利用更快的R-CNN,首先在卷积层中训练滤波器,以提取图像(例如,人类)的适当特征,并对这些特征进行滤波;接下来,小的神经网络在卷积层的特征地图上滑动,并预测是否存在对象,并且还预测这些对象的边界框;并且最后全连接神经网络基于RPN提出的区域来预测对象类(分类)和边界框(回归)。这些人类检测技术仅仅是示例性的,并且当然也可以使用其他技术,尤其是随着该领域中技术继续改进。
在1014,人类检测技术的输出在每个检测到的人类周围提供边界框。这方面的示例在图11中示出,其中边界框1102放置在每个检测到的人类1104周围。
在1016,处理器找到每个边界框的相对角度。换句话说,针对每个边界框1102估计相对于相机316的相应角度。结果,在相机图像中看到的每个人都与一角度相关联。在实施例中,系统可以假设A是由相机检测到的N个人的角度集
Figure 876782DEST_PATH_IMAGE004
。这可以存储为图像数据320或336。
由于相机316和Wi-Fi收发器都在相同的驾驶员设备302上,它们都共享相同的坐标系,并且可以因此可以比较在1006和1016计算的角度。在一组人中,可以通过在步骤1018找到在1006确定的AoA和在1016确定的角度A之间的最接近匹配来标识乘客。为了找到AoA之间的最接近匹配,可以使用欧几里德距离。这导致在1020的乘客标识。因此,在1022呈现所标识乘客的细粒度位置。
一旦标识数据乘客,就可以在驾驶员设备302上突出显示、标记或以其他方式标识乘客。这在图12中示出,其中单个边界框1202覆盖或放置在所标识乘客1204上。图12中所示的图像可以显示在驾驶员设备302的屏幕上,使得驾驶员可以在屏幕上可视地标识乘客。
图10中将基于Wi-Fi的数据与基于图像的数据融合的系统也可以产生在车辆的平视显示器(HUD)中示出的可视化标识。如上所述,车辆可以配备有HUD系统。可以使用来自连续监视周围环境的安装到车辆的相机的图像经由本文描述的系统进行乘客1204的标识。一旦乘客1204通过车辆的挡风玻璃被查看到,HUD系统就可以与本文描述的系统通信,并在所标识乘客1204上放置框或其他类型的指示。
虽然本文描述了对Wi-Fi的引用,但是应该理解,本公开不限于Wi-Fi。可以使用其他无线通信技术,诸如蓝牙、超宽带、专用短程通信(DSRC)等或者它们的组合。对于超宽带,可以使用信道脉冲响应(CIR)来代替CSI。对于其他技术,提出的系统可能需要使用多个天线来捕获无线信道的幅度和相位。
在另一个实施例中,代替如图2中所示将天线放置成线性阵列,可以将它们放置成三角形或矩形阵列。在另一个实施例中,代替使用单个无线芯片组,可以使用多个无线芯片组。
还应该理解,这样的定位信息可以被发送到乘客设备,以使得乘客能够更准确地定位驾驶员。如果街道上挤满了许多不同的车辆并且难以告知哪个车辆是被招呼乘坐的真正的驾驶员,则这样的情形可能有帮助。在一个实施例中,在驾驶员设备302如本文所公开的那样(通过粗粒度或细粒度)估计乘客的位置之后,该位置信息可以通过蜂窝连接或通过使用Wi-Fi或蓝牙传输到乘客设备304。作为示例,图13示出了一种情况,在该情况中汽车正在接近驾驶员,其中驾驶员设备302估计驾驶员设备在车辆的前部和右侧象限。它还估计来自乘客设备的传入Wi-Fi信号的AoA与驾驶员设备成45度。它还可以估计从乘客设备到驾驶员设备距离“X”。然后,如图14和15中所示,该信息可以示出在乘客设备中的app中。图14为驾驶员提供了静态地图上汽车位置的俯视图。图15使用增强现实向乘客设备提供车辆的位置。在图14和图15二者中,app都可以向乘客示出,驾驶员的汽车正在以X米的范围从乘客的左侧并且以沿着虚线的角度接近。随着汽车前进,角度和距离被更新并示出在乘客设备304的app中。如果使用增强现实,则乘客可以如图15中所示举起他/她的设备,使得相机正在捕获环境的图像,并且然后类似于上述实施例突出显示环境中驾驶员的位置,例如,将来自乘客设备的相机的图像数据与传输到乘客设备的数据融合。
本文公开的过程、方法或算法可以可递送到处理设备、控制器或计算机/由处理设备、控制器或计算机实现,所述处理设备、控制器或计算机可以包括任何现有的可编程电子控制单元或专用电子控制单元。类似地,过程、方法或算法可以以多种形式存储为可由控制器或计算机执行的数据和指令,包括但不限于永久存储在诸如ROM设备的不可写存储介质上的信息和可变更地存储在诸如软盘、磁带、CD、RAM设备以及其他磁性和光学介质的可写存储介质上的信息。过程、方法或算法也可以在软件可执行对象中实现。替代地,可以使用诸如专用集成电路(ASIC)、现场可编程门阵列(FPGA)、状态机、控制器之类的合适的硬件组件,或其他硬件组件或设备,或者硬件、软件和固件组件的组合,来整体或部分地体现过程、方法或算法。
虽然上面描述了示例性实施例,但是不旨在这些实施例描述权利要求所包含的所有可能的形式。说明书中使用的词语是描述的词语,而不是限制的词语,并且理解,可以在不脱离本公开的精神和范围的情况下做出各种改变。如先前描述的,各种实施例的特征可以被组合以形成可能未被明确描述或图示的本发明的另外的实施例。虽然各种实施例可能已经被描述为在一个或多个期望的特性方面提供了优于其他实施例或现有技术实现的优点或者比其他实施例或现有技术实现优选,但是本领域的普通技术人员认识到,一个或多个特征或特性可以取决于具体的应用和实现被折衷以实现期望的总体系统属性。这些属性可以包括但不限于成本、强度、耐用性、生命周期成本、适销性、外观、包装、大小、适用性、重量、可制造性、组装容易性等。照此,在任何实施例都被描述为在一个或多个特性方面与其他实施例或现有技术实现相比不太合期望的程度上,这些实施例不在本公开的范围之外,并且对于特定应用可以是合期望的。

Claims (20)

1.一种用于协助驾驶员和乘客找到彼此的系统,所述系统包括:
用户界面;
存储装置,被配置为维护到达角度(AoA)应用,所述到达角度(AoA)应用当被执行时,确定传入的Wi-Fi信号的到达角度;和
与用户界面和存储装置通信的至少一个处理器,所述至少一个处理器被编程为:
经由GPS接收乘客的移动设备的位置,
响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内:
在驾驶员的移动设备处接收来自乘客的移动设备的Wi-Fi数据分组,
从接收的Wi-Fi数据分组测量并提取信道状态信息(CSI),
执行AoA应用以基于CSI确定到达角度,以及
基于确定的到达角度在用户界面上显示乘客的粗粒度位置。
2.根据权利要求1所述的系统,其中,用户界面是驾驶员设备的一部分。
3.根据权利要求1所述的系统,进一步包括通信连接到驾驶员的移动设备的智能电话,其中所述至少一个处理器进一步被编程为响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内,将乘客的粗粒度位置从驾驶员的移动设备传输到智能电话,使得乘客的粗粒度位置显示在智能电话上。
4.根据权利要求1所述的系统,其中,所述至少一个处理器进一步被编程为,响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内,从至少包括信号强度信息的Wi-Fi分组获得射频(RF)信道信息。
5.根据权利要求1所述的系统,其中,所述至少一个处理器进一步被编程为向驾驶员的移动设备传输包括所确定的到达角度的信号,使得驾驶员的设备可以显示驾驶员的移动设备的位置。
6.根据权利要求1所述的系统,其中,所述至少一个处理器进一步被编程为,响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内,基于预训练的基于神经网络的分类器来确定粗粒度位置,所述基于神经网络的分类器对模型进行操作,所述模型比较对于乘客设备的各种位置而言CSI或到达角度如何不同。
7.根据权利要求1所述的系统,其中,所述至少一个处理器进一步被配置为,响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内,基于所确定的到达角度来确定乘客的细粒度位置。
8.根据权利要求7所述的系统,进一步包括被配置为捕获环境图像的相机,其中所述存储装置被配置为维护与捕获的图像相关的图像数据,并且所述至少一个处理器进一步被编程为响应于乘客的移动设备的位置在距驾驶员的移动设备的阈值距离内:
基于图像数据执行对象检测模型以检测环境中的一个或多个人类,
将检测到的人类与所确定的到达角度进行匹配,以及
在用户界面上显示如从相机捕获的环境图像,所述环境图像具有覆盖在环境上的指示,所述指示基于匹配标识乘客。
9.一种用于协助驾驶员和乘客找到彼此的方法,所述方法包括:
经由GPS在驾驶员设备处接收乘客设备的位置;
响应于乘客设备的位置在距驾驶员设备的阈值距离内:
利用驾驶员设备处的Wi-Fi天线来检测从乘客设备发出的Wi-Fi信号,
从乘客设备接收Wi-Fi数据分组,
从接收的Wi-Fi数据分组提取信道状态信息(CSI),
基于CSI确定到达角度,以及
基于确定的到达角度在用户界面上显示乘客设备的位置。
10.根据权利要求9所述的方法,其中显示的步骤在驾驶员设备处执行。
11.根据权利要求9所述的方法,进一步包括:
将所确定的到达角度从驾驶员设备传输到智能电话,并且其中在智能电话处执行显示的步骤。
12.根据权利要求9所述的方法,进一步包括:
向乘客设备发送包括数据的信号,所述数据包括所确定的到达角度,以及
基于所述数据在乘客设备用户界面上显示驾驶员的位置。
13.根据权利要求9所述的方法,进一步包括:
捕获环境的图像,
基于来自图像的图像数据执行对象检测模型以检测环境中的一个或多个人类,
将检测到的人类在环境内的位置与到达角度进行匹配以标识乘客,
在用户界面上显示环境的图像,以及
在显示的环境图像上叠加指示,所述指示基于检测到的人类与到达角度的匹配位置来标识乘客。
14.根据权利要求9所述的方法,其中确定到达角度的步骤包括执行到达角度(AoA)应用以执行提取的CSI的信号处理。
15.根据权利要求9所述的方法,其中确定到达角度的步骤包括执行到达角度(AoA)应用,所述到达角度(AoA)应用利用预训练的机器学习模型,所述预训练的机器学习模型将CSI信息与设备的估计位置相关联。
16.一种用于在叫车环境中协助驾驶员和乘客找到彼此的行车记录仪显示器,所述行车记录仪显示器包括:
一个或多个Wi-Fi天线,被配置为从乘客的移动设备接收Wi-Fi数据分组;
无线收发器,被配置为与驾驶员的移动设备通信;
存储装置,被配置为维护到达角度(AoA)应用,所述到达角度(AoA)应用当被执行时,确定来自乘客的移动设备的传入Wi-Fi信号的到达角度;和
耦合到存储装置和无线收发器的处理器,所述处理器被编程为:
从乘客的移动设备接收Wi-Fi数据分组,
从接收到的Wi-Fi数据分组测量并提取信道状态信息(CSI),
执行AoA应用以基于CSI确定到达角度,以及
使得无线收发器向驾驶员的移动设备发送信号以基于确定的到达角度显示乘客的位置。
17.根据权利要求16所述的行车记录仪显示器,进一步包括被配置为捕获车辆外部环境的图像的相机,其中所述处理器进一步被编程为:
利用相机捕获车辆外部环境的图像,
基于来自图像的图像数据执行对象检测模型,以检测环境中的一个或多个人类,以及
将检测到的人类在环境内的位置与到达角度进行匹配以标识乘客,
其中显示在驾驶员的移动设备上的乘客的位置基于匹配。
18.根据权利要求17所述的行车记录仪显示器,其中所述处理器进一步被编程为:
向驾驶员的移动设备发送信号,以使得驾驶员的移动设备显示由相机捕获的环境图像,以及
向驾驶员的移动设备发送信号,以使得驾驶员的移动设备在显示的环境图像上叠加指示,所述指示基于匹配来标识乘客。
19.根据权利要求16所述的行车记录仪显示器,其中所述一个或多个Wi-Fi天线是多个天线,并且所述AoA应用使用Wi-Fi天线之间的距离作为输入来确定到达角度。
20.根据权利要求16所述的行车记录仪显示器,其中,所述处理器进一步被编程为基于预训练的基于神经网络的分类器来确定乘客的位置,所述基于神经网络的分类器对模型进行操作,所述模型比较对于乘客设备的各种位置而言CSI或到达角度如何不同。
CN202111620701.1A 2020-12-28 2021-12-28 用于协助驾驶员和乘客彼此定位的系统和方法 Pending CN114755670A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/135290 2020-12-28
US17/135,290 US20220210605A1 (en) 2020-12-28 2020-12-28 Systems and methods for assisting drivers and riders to locate each other

Publications (1)

Publication Number Publication Date
CN114755670A true CN114755670A (zh) 2022-07-15

Family

ID=81972228

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111620701.1A Pending CN114755670A (zh) 2020-12-28 2021-12-28 用于协助驾驶员和乘客彼此定位的系统和方法

Country Status (3)

Country Link
US (1) US20220210605A1 (zh)
CN (1) CN114755670A (zh)
DE (1) DE102021214580A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220262164A1 (en) * 2021-02-10 2022-08-18 Robert Bosch Gmbh Apparatus, method and system for person detection and identification utilizing wireless signals and images
US20230044015A1 (en) * 2021-08-05 2023-02-09 Gm Cruise Holdings Llc Systems and methods for improving accuracy of passenger pick-up location for autonomous vehicles
DE102023001079A1 (de) 2023-03-20 2024-09-26 Mercedes-Benz Group AG lnnenraumkamerasystem für ein Fahrzeug

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9965960B1 (en) * 2017-08-07 2018-05-08 Lyft, Inc. Facilitating transportation services by generating a directional indicator between a requester and a transportation vehicle
JP7393748B2 (ja) * 2017-12-01 2023-12-07 オリジン ワイヤレス, インコーポレイテッド 無線信号に基づく転倒検出のための装置、システム及び方法

Also Published As

Publication number Publication date
US20220210605A1 (en) 2022-06-30
DE102021214580A1 (de) 2022-06-30

Similar Documents

Publication Publication Date Title
CN111554088B (zh) 一种多功能v2x智能路侧基站系统
JP6763448B2 (ja) 視覚強化ナビゲーション
JP6428876B2 (ja) 車載拡張現実システム向けの遮蔽調整システム
US11315420B2 (en) Moving object and driving support system for moving object
US11450026B2 (en) Information processing apparatus, information processing method, and mobile object
US20220210605A1 (en) Systems and methods for assisting drivers and riders to locate each other
CN105989728B (zh) 车辆及其控制方法
CN111284487B (zh) 车道线显示方法以及执行该方法的电子设备
KR101502013B1 (ko) 이동 단말기 및 이동 단말기의 위치기반서비스 제공방법
US20220357441A1 (en) Radar and camera data fusion
CN108139202A (zh) 图像处理装置、图像处理方法和程序
JP2016048550A (ja) ドライバの注意評価に基づく空間情報の提示
WO2019022774A1 (en) SYSTEM AND METHOD FOR IMAGE AND LOCATION CAPTURE BASED ON NEEDS
JP2016048552A (ja) 外部情報のドライバへの提供
JP6826940B2 (ja) 電子機器、路側機、動作方法および制御プログラムならびに交通システム
CN108028883A (zh) 图像处理装置、图像处理方法和程序
US20180232868A1 (en) Image processing apparatus and image processing method
CN112595728B (zh) 一种道路问题确定方法和相关装置
CN115205384A (zh) 导盲方法、装置及可读存储介质
US20240040332A1 (en) Vehicle road side location of a target via unwrapped differential phase rf signals
US20240040349A1 (en) Vehicle to target range finder via rf power
US20240045016A1 (en) Mobile device range finder via rf power
US20240040480A1 (en) Remotely activated mobile device beacon
US20240035831A1 (en) Vehicle road side identification of a target via differential amplitude rf signals
US11636693B2 (en) Robust lane-boundary association for road map generation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination