CN117157552A - 利用射频感测标签进行被动式定位 - Google Patents
利用射频感测标签进行被动式定位 Download PDFInfo
- Publication number
- CN117157552A CN117157552A CN202280027207.0A CN202280027207A CN117157552A CN 117157552 A CN117157552 A CN 117157552A CN 202280027207 A CN202280027207 A CN 202280027207A CN 117157552 A CN117157552 A CN 117157552A
- Authority
- CN
- China
- Prior art keywords
- data
- location
- radio frequency
- sensing
- wireless device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 claims abstract description 202
- 238000000034 method Methods 0.000 claims abstract description 147
- 238000010801 machine learning Methods 0.000 claims description 56
- 238000013527 convolutional neural network Methods 0.000 claims description 38
- 230000009471 action Effects 0.000 claims description 32
- 230000004807 localization Effects 0.000 claims description 32
- 238000013507 mapping Methods 0.000 claims description 29
- 238000001514 detection method Methods 0.000 abstract description 50
- 230000033001 locomotion Effects 0.000 description 89
- 230000006870 function Effects 0.000 description 58
- 230000000875 corresponding effect Effects 0.000 description 44
- 230000008569 process Effects 0.000 description 40
- 238000010586 diagram Methods 0.000 description 34
- 238000011176 pooling Methods 0.000 description 33
- 238000004891 communication Methods 0.000 description 30
- 238000013528 artificial neural network Methods 0.000 description 29
- 238000005259 measurement Methods 0.000 description 25
- 230000004913 activation Effects 0.000 description 22
- 238000001994 activation Methods 0.000 description 22
- 230000011664 signaling Effects 0.000 description 18
- 238000004422 calculation algorithm Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 13
- 230000000694 effects Effects 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 8
- 241001465754 Metazoa Species 0.000 description 7
- 230000001815 facial effect Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 238000013500 data storage Methods 0.000 description 5
- 230000001360 synchronised effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 230000003542 behavioural effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013478 data encryption standard Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000002310 reflectometry Methods 0.000 description 2
- 230000029058 respiratory gaseous exchange Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 239000004606 Fillers/Extenders Substances 0.000 description 1
- 241000289581 Macropus sp. Species 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000010411 cooking Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013501 data transformation Methods 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000009022 nonlinear effect Effects 0.000 description 1
- 239000005022 packaging material Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
- G01S7/417—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/309—Measuring or estimating channel quality parameters
- H04B17/318—Received signal strength
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W16/00—Network planning, e.g. coverage or traffic planning tools; Network deployment, e.g. resource partitioning or cells structures
- H04W16/18—Network planning tools
- H04W16/20—Network planning tools for indoor coverage or short range network deployment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W64/00—Locating users or terminals or network equipment for network management purposes, e.g. mobility management
- H04W64/006—Locating users or terminals or network equipment for network management purposes, e.g. mobility management with additional information processing, e.g. for direction or speed determination
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/003—Transmission of data between radar, sonar or lidar systems and remote stations
- G01S7/006—Transmission of data between radar, sonar or lidar systems and remote stations using shared front-end circuitry, e.g. antennas
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Quality & Reliability (AREA)
- Electromagnetism (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Mobile Radio Communication Systems (AREA)
- Radar Systems Or Details Thereof (AREA)
- Image Analysis (AREA)
Abstract
公开了用于执行射频感测检测操作的系统、方法和非瞬态介质。例如,可以接收与至少一个无线设备相关联的射频数据。该射频数据可以基于从第一对象反射并由该至少一个无线设备接收的射频信号。还可以(例如,从打标设备、从该至少一个无线设备等)获得训练标签数据。该训练标签数据可以至少部分地基于第一对象和(例如,由该打标设备、该至少一个无线设备等接收的)输入数据。可以基于该射频数据和该训练标签数据来生成感测模型。
Description
公开领域
本公开的各方面一般涉及无线定位等。在一些实现中,描述了用于利用射频(RF)感测标签来提供被动式定位的示例。
公开背景
无线感测设备能够提供可用于在给定环境中检测对象的射频特征。例如,射频感测设备可以包括可以分布在整个环境中并且可被配置成跟踪在整个环境中移动的用户的软件和硬件组件。为了实现各种电信功能,无线感测设备可以包括被配置成传送和接收射频(RF)信号的硬件和软件组件。例如,无线设备可以被配置成经由Wi-Fi、5G/新无线电(NR)、蓝牙TM和/或超宽带(UWB)等进行通信。
概述
以下给出了与本文所公开的一个或多个方面相关的简化概述。由此,以下概述既不应被认为是与所有构想的方面相关的详尽纵览,以下概述也不应被认为标识与所有构想的方面相关的关键性或决定性要素或描绘与任何特定方面相关联的范围。相应地,以下概述的唯一目的是在以下给出的详细描述之前以简化形式呈现与关于本文所公开的机制的一个或多个方面相关的某些概念。
公开了用于感测视频信号的系统、装置(装备)、方法和计算机可读介质。根据至少一个示例,提供了一种用于训练一个或多个感测模型的方法。该方法可包括:接收与至少一个无线设备相关联的射频数据,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;获得训练标签数据,该训练标签数据至少部分地基于第一对象和输入数据;以及基于该射频数据和该训练标签数据来生成感测模型。
在另一示例中,提供了一种用于训练一个或多个感测模型的装置,其包括至少一个网络接口、至少一个存储器、以及耦合到该至少一个存储器的至少一个处理器(例如,配置在电路系统中)。该至少一个处理器被配置成:经由该至少一个网络接口接收与至少一个无线设备相关联的射频数据,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;获得训练标签数据,该训练标签数据至少部分地基于第一对象和输入数据;以及基于该射频数据和该训练标签数据来生成感测模型。
在另一示例中,提供了一种非瞬态计算机可读存储介质,其包括使得计算机或处理器执行以下操作的至少一条指令:接收与至少一个无线设备相关联的射频数据,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;获得训练标签数据,该训练标签数据至少部分地基于第一对象和输入数据;以及基于该射频数据和该训练标签数据来生成感测模型。
在另一示例中,提供了一种用于训练一个或多个感测模型的装备。该装备包括:用于接收与至少一个无线设备相关联的射频数据的装置,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;用于获得训练标签数据的装置,该训练标签数据至少部分地基于第一对象和输入数据;以及用于基于该射频数据和该训练标签数据来生成感测模型的装置。
在一些方面,该装备(装置)是无线设备(诸如移动电话或所谓的“智能电话”或其他移动设备)、可穿戴设备、扩展现实设备(例如,虚拟现实(VR)设备、增强现实(AR)设备或混合现实(MR)设备)、平板设备、个人计算机、膝上型计算机、服务器计算机、无线接入点、交通工具或交通工具组件、或具有RF接口的任何其他设备或是这些设备的一部分。
本概述既非旨在标识出要求保护的主题内容的关键特征或必要特征,亦非旨在单独用于确定要求保护的主题内容的范围。本主题内容应当参考本专利的整个说明书的合适部分、任何或所有附图、以及每项权利要求来理解。
基于附图和详细描述,与本文所公开的各方面相关联的其他目标和优点对本领域技术人员而言将是显而易见的。
附图简述
给出附图以帮助对本公开的各方面进行描述,且提供附图仅用于解说各方面而非对其进行限定。
图1是解说根据一些示例的用户设备的计算系统的示例的框图;
图2是解说根据一些示例的利用射频(RF)感测技术来检测用户存在和执行面部识别的无线设备的示例的示图;
图3是解说根据一些示例的包括用于检测用户存在和执行面部识别的无线设备的环境的示例的示图;
图4是解说根据一些示例的分布式感测系统的示例的示图。
图5A-图5C是解说根据一些示例的利用分布式感测系统的对象检测的示例的示图;
图6是解说根据一些示例的信号强度对信号空间定位的示例图表的示图;
图7是解说根据一些示例的用于雷达截面测量的示例框图的示图;
图8是解说根据一些示例的分布式感测系统的示例的示图。
图9是解说根据一些示例的打标规程的示例的示图。
图10是解说根据一些示例的由分布式感测系统执行的示例打标操作的示图。
图11是解说根据一些示例的深度学习神经网络的示例的框图;
图12是解说根据一些示例的卷积神经网络(CNN)的示例的框图;
图13解说了根据一些示例的用于训练一个或多个感测模型的过程的示例流程图;以及
图14解说了根据一些示例的示例计算系统。
详细描述
出于解说性目的,以下提供了本公开的某些方面和实施例。可设计替换方面而不脱离本公开的范围。另外,本公开中众所周知的元素将不被详细描述或将被省去以免湮没本公开的相关细节。本文中所描述的一些方面和实施例可以独立应用并且它们中的一些可以组合应用,这对本领域技术人员来说是显而易见的。在下面的描述中,出于解释的目的,阐述了具体细节以便提供对本申请的实施例的透彻理解。然而,显然的是,可以在没有这些具体细节的情况下实践各实施例。各附图和描述不旨在是限制性的。
以下描述仅提供了示例实施例,并且并不旨在限定本公开的范围、适用性或配置。相反,对示例性实施例的以下描述将向本领域技术人员提供用于实现示例性实施例的赋能描述。应当理解,在不脱离所附权利要求书中阐述的本申请的精神和范围的情况下,可以对元件的功能和布置作出各种改变。
术语“示例性”和/或“示例”在本文中用于意指“用作示例、实例或解说”。本文中描述为“示例性”和/或“示例”的任何方面不必被解释为优于或胜过其他方面。同样地,术语“本公开的各方面”不要求本公开的所有方面都包括所讨论的特征、优点或操作模式。
许多感测设备(例如,便携式电子设备、智能电话、平板设备、膝上型设备、和WiFi网状接入点)能够执行射频感测(也称为RF感测)。例如,感测设备可以利用RF感测技术来执行对象检测(例如,确定入侵者已进入场所)。RF感测具有许多应用,诸如跟踪对象移动、提供家庭和企业安防等。
在一些示例中,射频感测可以利用信号(例如,WiFi信号、3GPP信号、蓝牙TM信号等)来检测和表征环境变化,诸如人的被动式定位或运动以及活动表征。例如,如本文中所描述的射频感测系统可以分析与无线设备(例如,WiFi接入点或其他设备)(其可被称为感测设备)相关联的通信,以提供对环境中一个或多个移动对象(例如,人或其他对象)的准确检测。感测检测操作的示例包括检测运动(例如,存在运动或缺乏运动或无运动)、运动模式(例如,行走、跌倒、姿势或其他运动)、运动位置(例如,定位)、运动跟踪(例如,对象(诸如人)随时间的移动)、人或动物的生命体征(例如,呼吸、心率等)、其任何组合和/或其他信息)等。在一个解说性示例中,可以在多房间环境中确定移动对象的定位。
在一些情形中,基于机器学习的系统可被用于执行各种感测检测操作,诸如定位检测、运动检测、运动跟踪等。使用标签和测试或训练数据,可以训练机器学习系统来执行感测检测操作。然而,可能难以获得足够的标签来高效地训练此类机器学习系统。例如,可能存在其中关于检出对象和环境的可用信息不足的实例。
本文描述了用于有效且高效地提供用于执行射频感测检测操作(例如,检测运动或无运动、检测运动模式、检测对象或人的定位/位置、运动跟踪、检测人或动物的生命体征和/或其他操作)的标签的系统、装置、过程(也称为方法)和计算机可读介质(统称为“系统和技术”)。例如,这些系统和技术使得射频感测系统能够提供和/或获得可被用于训练机器学习系统来执行射频感测操作的标签。射频感测系统可以被称为分布式感测系统并且可以包括在整个环境中部署的分布式感测设备。分布式感测系统可以在分布式感测系统的训练阶段期间确定和/或接收标签(例如,训练标签)以及射频感测测量。在一些情形中,如本文中所描述的,与用户相关联的无线设备(例如,移动电话、相机系统、平板设备、计算机或用户的其他设备)(称为打标设备)和/或感测设备(例如,接入点和/或可以接收RF信号和/或提供RF感测数据的其他设备)可以向分布式感测系统提供实时标签,诸如手动提供的用户输入,其可以与生成标签时的估计信道状况相关联。在一些情形中,分布式感测系统可以自动确定无线设备的定位信息,其可被用于生成标签,这些标签与生成标签时的估计信道状况(例如,射频(RF)感测测量数据)相关联。在一些情形中,标签可以通过分布式感测系统与RF感测数据同步(例如,以允许RF感测数据准确地与标签相关联)。
例如,分布式感测系统可以被配置成:从打标设备(例如,移动电话、相机系统、平板设备、计算机或用户的其他设备)接收输入标签,并且还接收由分布式感测系统的一个或多个感测设备接收的RF感测数据。如以上所提及的,在一些情形中,一个或多个感测设备可以向分布式感测系统(作为打标设备的补充或替代)提供标签。一个或多个感测设备可以包括接入点(例如,Wi-Fi接入点)和/或可以接收RF信号和/或提供RF感测数据的其他设备。分布式感测系统可以将所收集的标签与射频感测数据进行同步,从而使得射频感测数据准确地与标签相关联。一旦使用从打标设备接收到的标签训练机器学习系统,分布式感测系统就可以利用一个或多个机器学习模型(例如,神经网络)来执行感测操作(例如,定位、运动等)。虽然这些系统和技术在本文中关于执行有生命对象(例如,人)的射频感测检测操作进行描述,但是这些系统和技术可被用于执行对其他对象(诸如无生命对象(例如,墙、家具、门等))的射频感测。
如以上所提及的,分布式感测系统可以包括一个或多个打标设备或与该一个或多个打标设备处于通信,和/或该一个或多个感测设备可以提供标签。在一些示例中,一个或多个打标设备和/或感测设备可以包括静态相机系统,其可以被用于生成和/或确定标签。例如,相机可以被配置成捕获环境(诸如家庭或公司建筑物)中感兴趣的位置和对象的图像(例如,图片或视频)。在一些方面,静态相机系统可以利用本文中所描述的算法(诸如举例而言图6和图7中所解说的那些算法)来检测感兴趣的对象、人和活动(例如,对象的移动)并生成针对检测到的目标和感兴趣的活动的对应标签。例如,当在建筑物的厨房中检测到人时,可以指派标签“厨房”。在一些方面,标签可以包括检测到的人相对于为建筑物定义的参考系统的坐标(例如,以米为单位)。在一些方面,静态相机系统可以对所生成的标签(例如,训练标签)加时间戳并且出于感测目的向分布式感测系统提供标签,如本文中所描述的。标签可以与由分布式感测系统的一个或多个感测设备获得的RF感测数据相关联。例如,继续以上的示例,标签“厨房”可以与当人位于厨房中时由一个或多个感测设备接收的RF感测数据相关联。
在一些实现中,在分布式感测系统的机器学习系统的部署训练阶段期间,分布式感测系统可以出于感测目的利用一个或多个惯性测量单元(IMU)传感器(例如,加速计、陀螺仪等)和/或同时定位和映射(SLAM)技术(例如,其中可以组合地使用IMU数据和图像数据)来确定设备的定位,如本文中所描述的。在一些方面,该设备可以由用户或由作为感测检测目标的对象携带,从而提供目标的位置以用作用于训练机器学习模型的标签。在一些情形中,分布式感测系统可以利用视觉同时定位和映射(VSLAM),其是在带有相机的设备(诸如机器人、头戴式显示器(HMD)、移动手持机和自主交通工具)中使用的一种计算几何技术。由设备确定的定位可以被用作训练标签数据,例如以执行对由分布式感测系统用以执行射频感测检测操作的机器学习系统的训练操作。
在一些实现中,在分布式感测系统的机器学习系统的部署训练阶段期间,用户可以利用无线设备(例如,感测测量设备或打标设备,诸如移动设备)来映射给定空间的拓扑(例如,通过走过各个房间来映射建筑物的平面图)。在一些方面,与用户相关联的无线设备可以被配置成:传送和接收RF感测信号,基于RF感测信号(例如,收到信号强度指示符(RSSI)数据、信道状态信息(CSI)数据和/或其他RF感测数据(诸如本文中所描述的往返时间测量))来确定RF感测测量,并且向分布式感测系统提供RF感测测量和位置标签以用于如本文中所描述的感测目的。
在分布式感测系统的机器学习系统的训练期间,可以使用称为反向传播的训练过程来调谐或调整机器学习系统的节点的权重和/或其他参数。如下面参考图11和图12更详细地描述的,反向传播过程可以包括前向传递、损失函数、后向传递和权重更新。该前向传递、损失函数、后向传递和参数更新是针对一次训练迭代执行的。对于每组训练数据(例如,包括以上所描述的训练标签数据),该过程可以重复达一定次数的迭代,直到机器学习系统被训练得足够好以使得权重和/或其他参数被准确地调谐。
本文所描述的系统和技术的各个方面在下文参考各附图来讨论。图1解说了用户设备107的计算系统170的示例。用户设备107是可由端用户使用的设备的示例。例如,用户设备107可包括移动电话、路由器、平板计算机、膝上型计算机、跟踪设备、可穿戴设备(例如,智能手表、眼镜、XR设备等)、物联网(IoT)设备、交通工具(或交通工具的计算设备)、和/或用户用来通过无线通信网络进行通信的其他设备。在一些情形中,设备可被称为站(STA)(诸如当指被配置成使用Wi-Fi标准进行通信的设备时)。在一些情形中,设备可被称为用户装备(UE)(诸如当指被配置成使用5G/新无线电(NR)、长期演进(LTE)或其他电信标准进行通信的设备时)。
计算系统170包括可经由总线189来电耦合或通信地耦合(或者可以恰适地以其他方式处于通信)的软件和硬件组件。例如,计算系统170包括一个或多个处理器184。一个或多个处理器184可以包括一个或多个CPU、ASIC、FPGA、AP、GPU、VPU、NSP、微控制器、专用硬件、其任何组合和/或其他处理设备和/或系统。总线189可以由一个或多个处理器184用于在内核之间和/或与一个或多个存储器设备186通信。
计算系统170还可以包括一个或多个存储器设备186、一个或多个数字信号处理器(DSP)182、一个或多个订户身份模块(SIM)174、一个或多个调制解调器176、一个或多个无线收发机178、一个或多个天线187、一个或多个输入设备172(例如,相机、鼠标、键盘、触敏屏幕、触摸板、小键盘、麦克风等)和一个或多个输出设备180(例如,显示器、扬声器、打印机等)。
一个或多个无线收发机178可以经由天线187从一个或多个其他设备接收无线信号(例如,信号188),该一个或多个其他设备诸如其他用户设备、网络设备(例如,基站(诸如eNB和/或gNB)、WiFi接入点(AP)(诸如路由器、射程扩展器等))、云网络等等。在一些示例中,计算系统170可包括可促成同时传送和接收功能性的多个天线或天线阵列。天线187可以是全向天线,以使得RF信号可在所有方向上被接收和传送。无线信号188可以经由无线网络来传送。无线网络可以是任何无线网络,诸如蜂窝或电信网络(例如,3G、4G、5G等)、无线局域网(例如,WiFi网络)、蓝牙TM网络和/或其他网络。在一些示例中,一个或多个无线收发机178可包括RF前端,其包括一个或多个组件,诸如放大器、用于信号下变频的混频器(也被称为信号乘法器)、向混频器提供信号的频率合成器(也被称为振荡器)、基带滤波器、模数转换器(ADC)、一个或多个功率放大器以及其他组件。RF前端一般可以处理无线信号188的选择和到基带或中频的转换,并且可以将RF信号转换到数字域。
在一些情形中,计算系统170可以包括被配置成对使用一个或多个无线收发机178传送和/或接收的数据进行编码和/或解码的编码-解码设备(或CODEC)。在一些情形中,计算系统170可以包括被配置成加密和/或解密(例如,根据高级加密标准(AES)和/或数据加密标准(DES)标准)由一个或多个无线收发机178传送和/或接收的数据的加密-解密设备或组件。
一个或多个SIM 174可各自安全地存储指派给用户设备107的用户的国际移动订户身份(IMSI)号码和相关密钥。当接入由与一个或多个SIM 174相关联的网络服务提供商或运营商提供的网络时,IMSI和密钥可用于标识和认证订户。一个或多个调制解调器176可以调制一个或多个信号以编码用于使用一个或多个无线收发机178传送的信息。一个或多个调制解调器176还可以解调由一个或多个无线收发机178接收到的信号以对所传送的信息进行解码。在一些示例中,一个或多个调制解调器176可包括WiFi调制解调器、4G(或LTE)调制解调器、5G(或NR)调制解调器、和/或其他类型的调制解调器。一个或多个调制解调器176和一个或多个无线收发机178可被用于针对一个或多个SIM 174传达数据。
计算系统170还可以包括(和/或与之处于通信)一个或多个非瞬态机器可读存储介质或存储设备(例如,一个或多个存储器设备186),其可包括但不限于本地和/或网络可访问存储,磁盘驱动器、驱动器阵列、光学存储设备、固态存储设备(诸如RAM和/或ROM),它们可以是可编程的、可快闪更新的、等等。此类存储设备可被配置成实现任何恰适的数据存储,包括但不限于各种文件系统、数据库结构等等。
在各种实施例中,功能可以作为一个或多个计算机程序产品(例如,指令或代码)存储在(诸)存储器设备186中,并由一个或多个(诸)处理器184和/或一个或多个DSP 182执行。计算系统170还可包括软件元素(例如,位于一个或多个存储器设备186内),包括例如操作系统、设备驱动器、可执行库和/或其他代码,诸如一个或多个应用程序,其可包括实现由各个实施例提供的功能的计算机程序,和/或可被设计成实现方法和/或配置系统,如本文中所描述的。
图2是解说无线设备200的示例的示图,该无线设备200利用RF感测技术来执行一个或多个功能,诸如检测用户202的存在、检测用户的取向特性、执行运动检测、其任何组合、和/或执行其他功能。在一些示例中,无线设备200可以是用户设备107,诸如移动电话、平板计算机、可穿戴设备、或包括至少一个RF接口的其他设备。在一些示例中,无线设备200可以是为用户设备(例如,为用户设备107)提供连通性的设备,诸如无线接入点(AP)、基站(例如,gNB、eNB等)、或包括至少一个RF接口的其他设备。
在一些方面,无线设备200可以包括用于传送RF信号的一个或多个组件。无线设备200可以包括数模转换器(DAC)204,其能够(例如,从微处理器,未解说)接收数字信号或波形并将该信号或波形转换为模拟波形。作为DAC 204的输出的模拟信号可以被提供给RF发射机206。RF发射机206可以是Wi-Fi发射机、5G/NR发射机、蓝牙TM发射机或能够传送RF信号的任何其他发射机。
RF发射机206可以耦合到一个或多个发射天线,诸如TX天线212。在一些示例中,TX天线212可以是能够在所有方向上发射RF信号的全向天线。例如,TX天线212可以是能够以360度辐射模式辐射Wi-Fi信号(例如,2.4GHz、5GHz、6GHz等)的全向Wi-Fi天线。在另一示例中,TX天线212可以是在特定方向上发射RF信号的定向天线。
在一些示例中,无线设备200还可以包括用于接收RF信号的一个或多个组件。例如,无线设备200中的接收机阵容可以包括一个或多个接收天线,诸如RX天线214。在一些示例中,RX天线214可以是能够从多个方向接收RF信号的全向天线。在其他示例中,RX天线214可以是被配置成从特定方向接收信号的定向天线。在进一步示例中,TX天线212和RX天线214两者可以包括被配置为天线阵列的多个天线(例如,振子)。
无线设备200还可以包括耦合到RX天线214的RF接收机210。RF接收机210可以包括用于接收RF波形(诸如Wi-Fi信号、蓝牙TM信号、5G/NR信号、或任何其他射频信号)的一个或多个硬件组件。RF接收机210的输出可以耦合到模数转换器(ADC)208。ADC 208可以被配置成将收到模拟RF波形转换成可被提供给处理器(诸如数字信号处理器(未解说))的数字波形。
在一个示例中,无线设备200可以通过使TX波形216从TX天线212发射来实现RF感测技术。虽然TX波形216被解说为单条线,但在一些情形中,TX波形216可以通过全向TX天线212在所有方向上被发射。在一个示例中,TX波形216可以是由无线设备200中的Wi-Fi发射机传送的Wi-Fi波形。在一些情况下,TX波形216可以对应于与Wi-Fi数据通信信号或Wi-Fi控制功能信号(例如,信标传输)同时或几乎同时被传送的Wi-Fi波形。在一些示例中,TX波形216可以使用与Wi-Fi数据通信信号或Wi-Fi控制功能信号(例如,信标传输)相同或相似的频率资源来传送。在一些方面,TX波形216可以对应于与Wi-Fi数据通信信号和/或Wi-Fi控制信号分开被传送的Wi-Fi波形(例如,TX波形216可以在不同时间和/或使用不同的频率资源被传送)。
在一些示例中,TX波形216可以对应于与5G NR数据通信信号或5G NR控制功能信号同时或几乎同时被传送的5G NR波形。在一些示例中,TX波形216可以使用与5G NR数据通信信号或5G NR控制功能信号相同或相似的频率资源来传送。在一些方面,TX波形216可以对应于与5G NR数据通信信号和/或5G NR控制信号分开被传送的5G NR波形(例如,TX波形216可以在不同时间和/或使用不同的频率资源被传送)。
在一些方面,可以修改与TX波形216相关联的一个或多个参数,这些参数可以被用于增加或减少RF感测分辨率。这些参数可以包括频率、带宽、空间流的数目、被配置成传送TX波形216的天线数、被配置成接收与TX波形216相对应的反射RF信号的天线数、空间链路的数目(例如,空间流的数目乘以被配置成接收RF信号的天线数)、采样率或其任何组合。
在进一步示例中,TX波形216可以被实现为具有拥有完美或几乎完美的自相关属性的序列。例如,TX波形216可以包括单载波Zadoff序列或者可以包括与正交频分复用(OFDM)长训练字段(LTF)码元类似的码元。在一些情形中,TX波形216可以包括例如在调频连续波(FM-CW)雷达系统中使用的啁啾信号。在一些配置中,啁啾信号可以包括其中信号频率以线性和/或指数方式周期性增加和/或减少的信号。
在一些方面,无线设备200可进一步通过执行并发的传送和接收功能来实现RF感测技术。例如,无线设备200可以使其RF接收机210能够在其使得RF发射机206传送TX波形216的同时或几乎同时进行接收。在一些示例中,被包括在TX波形216中的序列或模式的传输可以持续地重复,以使得该序列被传送特定次数或达特定时间历时。在一些示例中,如果在RF发射机206之后启用RF接收机210,则在TX波形216的传输中将模式进行重复可以用于避免错过任何反射信号的接收。在一个示例实现中,TX波形216可以包括被传送两次或更多次的具有序列长度L的序列,这可以允许RF接收机210在小于或等于L的时间被启用,以便接收对应于整个序列的反射而不会错过任何信息。
通过实现同时传送和接收功能性,无线设备200可以接收与TX波形216相对应的任何信号。例如,无线设备200可以接收从TX波形216的射程内的对象或人反射的信号,诸如从用户202反射的RX波形218。无线设备200还可以接收从TX天线212直接耦合到RX天线214而不从任何对象反射的漏泄信号(例如,TX漏泄信号220)。例如,漏泄信号可以包括从无线设备上的发射机天线(例如,TX天线212)传递到无线设备上的接收天线(例如,RX天线214)而不从任何对象反射的信号。在一些情形中,RX波形218可以包括与TX波形216中所包括的序列的多个副本相对应的多个序列。在一些示例中,无线设备200可以组合由RF接收机210接收的多个序列以改善信噪比(SNR)。
无线设备200可进一步通过获得与对应于TX波形216的每个收到信号相关联的RF感测数据来实现RF感测技术。在一些示例中,RF感测数据可以包括与TX波形216的直接路径(例如,漏泄信号220)相关的信道状态信息(CSI)数据,连同与对应于TX波形216的反射路径(例如,RX波形218)有关的数据。
在一些方面,RF感测数据(例如,CSI数据)可包括可被用于确定RF信号(例如,TX波形216)从RF发射机206传播到RF接收机210的方式的信息。RF感测数据可包括与由于散射、衰落和/或随距离的功率衰减或其任何组合而对所传送RF信号产生的影响相对应的数据。在一些示例中,RF感测数据可以包括与特定带宽上的频域中的每个频调相对应的虚数数据和实数数据(例如,I/Q分量)。
在一些示例中,RF感测数据可被用于计算对应于反射波形(诸如RX波形218)的距离和抵达角。在进一步示例中,RF感测数据还可被用于检测运动、确定位置、检测位置变化或运动模式、获得信道估计或其任何组合。在一些情形中,反射信号的距离和抵达角可被用于标识周围环境中的用户(例如,用户202)的大小、定位、移动或取向,以便检测对象存在/邻近度、检测对象注意力、和/或执行运动检测。
无线设备200可以通过利用信号处理、机器学习算法、使用任何其他合适的技术或其任何组合来计算与反射波形相对应的距离和抵达角(例如,与RX波形218相对应的距离和抵达角)。在其他示例中,无线设备200可以将RF感测数据发送到另一计算设备(诸如服务器),该另一计算设备可以执行计算以获得与RX波形218或其他反射波形相对应的距离和抵达角。
在一个示例中,RX波形218的距离可以通过测量从接收到漏泄信号到接收到反射信号的时间差来计算。例如,无线设备200可以确定为零的基线距离,该基线距离基于从无线设备200传送TX波形216的时间到其接收漏泄信号220的时间的差(例如,传播延迟)。随后,无线设备200可以基于从无线设备200传送TX波形216的时间到其接收RX波形218的时间的差(例如,飞行时间)来确定与RX波形218相关联的距离,该距离随后可以根据与漏泄信号220相关联的传播延迟来被调整。通过这样做,无线设备200可以确定RX波形218行进的距离,该距离可以被用于确定导致反射的用户(例如,用户202)存在和移动。
在进一步示例中,可以通过测量RX波形218在接收天线阵列(诸如天线214)的个体振子之间的抵达时间差来计算RX波形218的抵达角。在一些示例中,抵达时间差可以通过测量接收天线阵列中每个振子处的接收相位差来计算。
在一些情形中,RX波形218的距离和抵达角可用于确定无线设备200与用户202之间的距离以及用户202相对于无线设备200的定位。RX波形218的距离和抵达角还可用于确定用户202的存在、移动、邻近度、注意力、身份或其任何组合。例如,无线设备200可以利用所计算出的与RX波形218相对应的距离和抵达角来确定用户202正走向无线设备200。基于用户202与无线设备200的邻近度,无线设备200可以激活面部认证以便解锁该设备。在一些方面,可以基于用户202在无线设备200的阈值距离内来激活面部认证。阈值距离的示例可以包括2英尺、1英尺、6英寸、3英寸或任何其他距离。
如以上所提及的,无线设备200可以包括移动设备(例如,智能电话、膝上型设备、平板设备、接入点等)或其他类型的设备。在一些示例中,无线设备200可以被配置成获得设备位置数据和设备取向数据以及RF感测数据。在一些实例中,设备位置数据和设备取向数据可用于确定或调整反射信号(诸如RX波形218)的距离和抵达角。例如,无线设备200在用户202在RF感测过程期间走向面向天花板的桌子时可被设置在该桌子上。在该实例中,无线设备200可以使用其位置数据和取向数据以及RF感测数据来确定用户202行走的方向。
在一些示例中,无线设备200可以使用包括往返时间(RTT)测量、被动式定位、抵达角、收到信号强度指示符(RSSI)、CSI数据在内的技术、使用任何其他合适的技术、或其任何组合来收集设备定位数据。在进一步示例中,设备取向数据可以从无线设备200上的电子传感器获得,诸如陀螺仪、加速计、指南针、磁力计、气压计、任何其他合适的传感器或其任何组合。
图3是解说包括无线设备302、接入点(AP)304和用户308的环境300的示图。无线设备302可以包括用户设备(例如,图1的用户设备107,诸如移动设备或任何其他类型的设备)。在一些示例中,AP 304还可被称为感测设备、射频感测设备或无线设备。如所示出的,用户308(例如,与无线设备302一起)可以移动到不同的定位,包括第一用户定位309a、第二用户定位309b和第三用户定位309c。在一些方面,无线设备302和AP 304可各自被配置成执行RF感测,以便检测用户308的存在、检测用户308的移动、其任何组合、和/或执行关于用户308的其他功能。
在一些方面,AP 304可以是Wi-Fi接入点,其包括可以被配置成同时传送和接收RF信号的硬件和软件组件,诸如本文中关于图2的无线设备200所描述的组件。例如,AP 304可包括可被配置成传送RF信号的一个或多个天线以及可被配置成接收RF信号的一个或多个天线(例如,天线306)。如关于图2的无线设备200所提及的,AP 304可以包括被配置成从任何方向传送和接收信号的全向天线或天线阵列。
在一些方面,AP 304和无线设备302可以被配置成实现双基地配置,其中传送和接收功能由不同设备执行。例如,AP 304可传送可包括信号310a和信号310b的全向RF信号。如所解说的,信号310a可以从AP 304直接(例如,无反射地)行进到无线设备302,并且信号310b可以在定位309a处从用户308反射并且导致对应的反射信号312被无线设备302接收到。
在一些示例中,无线设备302可以利用与信号310a和信号310b相关联的RF感测数据来确定用户308在定位309a处的存在、位置、取向和/或移动。例如,无线设备302可以获得、检索和/或估计与AP 304相关联的位置数据。在一些方面,无线设备302可以使用与AP304相关联的位置数据、以及RF感测数据(例如,CSI数据)来确定由AP 304传送的相关联信号(例如,直接路径信号(诸如信号310a)和反射路径信号(诸如信号312))的飞行时间、距离和/或抵达角。在一些情形中,AP 304和无线设备302可以进一步传送和/或接收通信,该通信可以包括与RF信号310a和/或反射信号312相关联的数据(例如,传输时间、序列/模式、抵达时间、抵达角等等)。
在一些示例中,无线设备302可以被配置成:使用单基地配置来执行RF感测,在这种情形中,无线设备302执行传送和接收功能两者(例如,结合无线设备200讨论的同时TX/RX)。例如,无线设备302可以通过传送RF信号314来检测定位309b处的用户308的存在或移动,这可以使得来自定位309b处的用户308的反射信号316被无线设备302接收到。
在一些方面,无线设备302可以获得与反射信号316相关联的RF感测数据。例如,RF感测数据可以包括与反射信号316相对应的CSI数据。在进一步方面,无线设备302可以使用RF感测数据来计算与反射信号316相对应的距离和抵达角。例如,无线设备302可以通过基于漏泄信号(未解说)和反射信号316之间的差计算反射信号316的飞行时间来确定距离。在进一步示例中,无线设备302可以通过利用天线阵列接收反射信号并测量天线阵列的每个振子处的接收相位差来确定抵达角。
在一些示例中,无线设备302可以获得以CSI数据形式的RF感测数据,其可以被用于制定基于频率的数目(表示为“K”)(例如,频调)和天线阵列振子的数目(表示为“N”)的矩阵。在一种技术中,可以根据由式(1)给出的关系来制定CSI矩阵:
CSI Matrix:H=[hik],i=1,...,N,k=1,...,K (1)
在制定CSI矩阵之际,无线设备302可以通过利用二维傅里叶变换来计算直接信号路径(例如,漏泄信号)以及反射信号路径(例如,反射信号316)的抵达角和飞行时间。在一个示例中,傅立叶变换可以由下式(2)给出的关系来定义,其中K对应于频域中的频调的数目;N对应接收天线的数目;hik对应于在第i个天线和第k个频调上捕获的CSI数据(例如,具有实部和虚部的复数);f0对应于载波频率;l对应天线间距;c对应于光速;并且Δf对应于两个毗邻频调之间的频率间隔。式(2)的关系提供如下:
在一些方面,可以通过使用迭代消除方法来消除漏泄信号(例如,漏泄信号220和/或其他漏泄信号)。
在一些情形中,无线设备302可以利用与反射信号316相对应的距离和抵达角来检测定位309b处的用户308的存在或移动。在其他示例中,无线设备302可以检测用户308到第三定位309c的进一步移动。无线设备302可以传送RF信号318,其导致来自定位309c处的用户308的反射信号320。基于与反射信号320相关联的RF感测数据,无线设备302可以确定定位309c处的用户308的存在、检测用户头部的存在和/或取向、并且执行面部识别以及面部认证。
在一些实现中,无线设备302可以利用人工智能或机器学习算法来执行运动检测、对象分类和/或检测与用户308相关的头部取向。在一些示例中,机器学习技术可以包括监督机器学习技术,诸如利用神经网络、线性和逻辑回归、分类树、支持向量机、任何其他合适的监督机器学习技术或其任何组合的那些技术。例如,可以选择样本RF感测数据的数据集来训练机器学习算法或人工智能。
在一些方面,无线设备302和AP 304可以执行RF感测技术,而不管它们彼此之间或与Wi-Fi网络的关联如何。例如,当无线设备302不与任何接入点或Wi-Fi网络相关联时,无线设备302可以利用其Wi-Fi发射机和Wi-Fi接收机来执行如本文中所讨论的RF感测。在进一步的示例中,AP 304可以执行RF感测技术,而不管它是否具有与其相关联的任何无线设备。
当利用标签连同感测数据来设置射频感测系统时,射频感测系统的部署可以更加有效和高效。由射频感测系统进行感测检测的可行性或准确性可以因变于射频感测系统的各种感测设备(例如,接入点)的定位。例如,如果用户旨在出于定位目的而在其家中部署感测设备,则可能需要向用户提供一种简单的方式来确定感测设备的放置是否恰适用于覆盖感兴趣区域以及如何重定位感测设备和/或添加新感测设备,以为基于射频感测的对象检测(例如,定位、运动检测、生命体征检测等)提供最佳覆盖。此外,可能存在其中关于检出对象和环境的可用信息不足的实例。通过提供标签,射频感测系统可以将附加信息连同感测数据一起提供给与用户相关联的无线设备。
图4是解说分布式感测系统400的示例的示图,该分布式感测系统400可以包括多个感测设备,诸如接入点410和无线设备412。分布式感测系统400可以基于由感测设备接收的射频信号来执行各种基于射频感测的检测(例如,检测存在运动或缺乏运动、检测运动模式(诸如行走、跌倒、手势或其他运动)、检测一个或多个对象的定位、执行对象或人随着时间的运动跟踪、检测人或动物的生命体征、其任何组合、和/或其他检测)。由感测设备接收的射频感测信号可包括直接从一个或多个其他感测设备接收的信号和/或可包括从环境中的一个或多个对象(例如,人、动物、家具)和/或结构(例如,墙壁、天花板、柱子等)反射的信号。
无线设备412可以包括用户设备(例如,图1的用户设备107,诸如移动设备或任何其他类型的设备)、物联网(IoT)设备、扩展器、复制器、其任何组合、和/或任何其他无线设备。接入点410可以作为射频感测设备、启用Wi-Fi感测的接入点、以及利用至少一个收发机(或单独的发射机和接收机)的无线设备来操作,如本文中所描述的。接入点410和无线设备412可以分布在整个环境中,以为分布式感测系统400提供分布式感测覆盖以用于执行以上所描述的基于射频感测的检测操作。例如,如图4中所示,接入点410位于住宅402的两层和两端上,而无线设备412仅位于二楼。接入点410和无线设备412的放置和定位确定分布式感测系统400的覆盖,分布式感测系统400可以被重定位以提供最佳感测覆盖,如本文中所描述的。
分布式感测系统400在图4中被解说为位于住宅402内。然而,本文中所描述的系统和技术可用于任何环境,包括室内和室外环境(例如,商业建筑物、军事设施、室内或室外购物设施、室外公园、户外音乐会场地等)。如图4中所解说的,分布式感测系统400可以检测对象,诸如入侵者420。在一些实现中,当入侵者420进入住宅402时,分布式感测系统400可以检测到未标识/未授权的对象(例如,入侵者420)并且随后开始跟踪入侵者420在整个住宅402中的定位。在其他实现中,分布式感测系统400可以提供警报(例如,向授权机构(诸如警察或家庭防卫公司)、向与该入侵者相关联的人的用户装备等等)提供关于检测到的入侵者420的存在的警报。基于从感测设备(例如,接入点410和/或无线设备412)接收的数据,分布式感测系统400还可以确定对象何时是入侵者、宠物、经授权人员等。
在一些实现中,分布式感测系统400可以通过利用射频信号(诸如Wi-Fi信号)来检测和表征环境变化。一般而言,射频信号被位于住宅402中的对象(例如,墙壁、柱子、家具、动物等)和/或人反射。与射频反射相关的数据包括:当对象/人在给定空间移动时射频信号的幅度和相位变化。分布式感测系统400可被配置成:检测运动(例如,存在运动或缺乏运动或无运动)、运动模式(例如,行走、跌倒、姿势或其他运动)、运动位置(例如,定位)、运动跟踪(例如,对象或人随时间的移动)、人或动物的生命体征(例如,呼吸、心率等)、其任何组合和/或其他信息)。如图4中所示,分布式感测系统400可以提供住宅402中的运动检测和房间级定位。
如本文中所描述的算法可以被分布式感测系统400用来检测运动、运动位置和运动类型。在一些实现中,分布式感测系统400可以利用机器学习(例如,使用诸如图12和图13中所描述和解说的那些机器学习系统)和检测算法,这些检测算法可以被训练以检测期望的特征,诸如定位、运动、运动位置或运动类型。分布式感测系统400可被用于提供用于训练的过程,该过程包括生成大量测试数据以及将真值标签与每个数据点相关联。在射频感测上下文中,数据可以由所收集的射频通道签名来表示,并且标签可以包括每数据点的运动位置和运动类型。打标可以包括手动输入或提供真值的检测系统(例如,使用相机系统连同计算机视觉算法)。
参考图4,分布式感测系统400可进一步包括向用户的无线设备(例如,移动设备430)提供包括运动检测和运动位置信息的一个或多个消息或警报(例如,运动警报432)。在图4中,入侵者420被分布式感测系统400检测到,该分布式感测系统400可随后向用户的移动设备430提供运动警报432。此类警报可以包括表示警报的图标(例如,入侵者的图标)和运动警报432的简要描述(例如,“在前厅检测到运动”)。分布式感测系统400可进一步向用户的无线设备(例如,移动设备430)提供包括信息(例如,指示、指令、描述等)的感测覆盖输出数据。感测覆盖输出数据可以提供与感测设备(例如,接入点410和/或无线设备412)的放置和/或添加相关联的信息,以在给定环境中提供最佳感测覆盖。例如,与不计及提供可用于基于射频感测的检测操作的感测数据的能力的典型网络覆盖(例如,由一个或多个Wi-FI接入点提供的Wi-Fi覆盖)不同,分布式感测系统400可以从感测设备(例如,接入点410和/或无线设备412)接收感测数据(例如,RSSI/CSI数据)并且可以确定特定感测设备是否处于优化分布式感测系统400的感测覆盖的位置。
在一些实现中,分布式感测系统400可以利用RF信号来确定在住宅402内检测到的对象的特性(例如,定位和移动)。例如,RF信号可以首先由感测设备(例如,接入点410和/或无线设备412之一)或感测设备的一个发射天线进行传送。随后,取决于分布式感测系统400的配置,可以在另一感测设备(例如,接入点410和/或无线设备412中的另一者)或感测设备的接收天线处接收RF信号。分布式感测系统400可进一步基于RSSI数据、CSI数据和/或从感测设备接收的其他数据来确定住宅402内的环境如何影响RF信号的传播。分布式感测系统400还可以基于感测设备所经历的RF信号的传播来确定检测和干扰。
分布式感测系统400可以包括许多不同的应用。图4的示例解说了(诸如出于家庭安全目的)使用分布式感测系统400来检测对象或人的示例。如所示出的,图4的分布式感测系统包括住宅402中的多个感测设备(例如,接入点410和/或无线设备412),它们是分布式感测系统400的传感器网络的部分。感测设备(例如,接入点410和/或无线设备412)被配置成:提供可由分布式感测系统400用来检测对象的特性(诸如入侵者420的存在和/或运动)的感测测量。例如,分布式感测系统400可检测对象在住宅402中逐位置的移动、以及该对象的移动的具体特性,诸如速度和方向。分布式感测系统400进一步从感测设备收集大量感测数据,诸如RSSI数据、CSI数据和/或其他数据。通过利用机器学习,分布式感测系统400可以基于从感测设备所收集的感测测量数据(例如,RSSI/CSI数据)来分析对象检测。
图5A-5C是解说利用分布式感测系统的对象检测的示例的示图510、520、530。图5A-图5C可以进一步解说跨建筑物502的运动检测和定位。例如,在图5A的示图510中,对象512(例如,人)被分布式感测系统(例如,图4的分布式感测系统400)检测到,如本文中所描述的。对象512在建筑物502的西部部分的走廊514中被检测到。如图5B的示图520中所示,随着对象512在向东方向上移动,对象512进入建筑物502的房间524。通过利用分布在整个建筑物502中的感测设备,分布式感测系统可以确定对象512位于哪里。此后,如图5C的示图530中所示,对象512从房间524移动到走廊514中,并移动到另一房间534中。在房间534中,分布式感测系统可以检测对象512在房间534中的定位。例如,图5C的示图530中的对象512,对象512被检测到位于房间534的东南角。
分布式感测系统的感测设备(诸如举例而言接入点和/或无线设备)还可以被用于从感测设备接收和收集信道估计信息和数据。在一些示例中,分布式感测系统可以包括同步的相机、电话应用或用于接收和收集所检测到的对象的对应标签的其他设备或应用。如本文中所讨论的,分布式感测系统可以利用大量感测数据和针对每个对应数据点的相关联的真值标签。例如,在射频感测上下文中,感测数据可以由所收集的射频通道签名来表示,并且标签可以包括每数据点的运动位置和运动类型。打标可以包括手动输入或提供真值的检测系统,该真值可以连同损失函数一起用来训练机器学习系统以执行一个或多个基于射频感测的检测操作(例如,以检测目标对象的定位和/或运动等)。在一些情形中,相机系统可以包括对象定位的自动检测和映射。
在一些实现中,为了通过分布式感测系统检测环境中的事件,可能需要存在足够强的信号以使得反射信号能够到达分布式感测系统的感测设备的接收机。如图6中所解说的,信号的强度可以至少取决于:感测设备的发射功率,感测设备的天线增益,以及发射机、目标与接收机之间的距离。例如,发射功率越大,反射信号就越有可能会到达对应感测设备的接收机。如果发射功率太低,则反射RF信号可能太低而无法被感测设备的接收机检测到。类似地,如果天线增益太低,则接收机可能无法充分地接收到反射RF信号。距离也会影响所传送信号和反射信号的质量。例如,取决于分布式感测系统的配置,两个感测设备之间的距离(例如,路径损耗)或相同感测设备的发射机和接收机之间的距离越大,RF信号和反射RF信号的信号强度就越低。路径损耗(例如,图6的空间损耗614、618)或路径衰减是电磁波随着信号传播通过空间的功率密度降低。信号的强度还可以取决于目标的类型。例如,如果目标大小较小(例如,直径1英寸、直径3英寸、直径6英寸等),则目标的表面积可能较小,并且因此仅少量RF信号可能会从目标反射。如果目标大小较大,则目标将具有反射大量RF信号的较大表面积。目标的反射率可以被称为雷达截面。分布式感测系统可以测量从不同对象反射的信号的强度。基于信号、反射信号和这些信号的强度,分布式感测系统可以预测目标的各方面,诸如目标的位置和移动。然而,如果目标远离感测设备,则分布式感测系统接收到的信号可能太弱而无法检测目标的位置或目标的其他方面。如果目标与感测设备较近,则由目标反射的信号可具有足够的信号强度以使分布式感测系统进行准确检测。
图6是解说关于检测对象的信号强度602对信号空间定位604的示例图表600的示图。在一些实现中,分布式感测系统(例如,图4的分布式感测系统400)可以检测环境中的事件,该事件可以被表示为因变于由感测设备接收到的(例如,射频信号的)信号强度。射频信号可以由目标感测设备生成为反射射频信号。在一些实现中,射频信号的信号强度可以基于:发射功率;天线增益;发射机与反射器之间因变于感测设备和目标位置的路径损耗;反射器和接收机之间因变于感测设备和目标位置的路径损耗;目标的反射率(例如,雷达截面(RCS));接收机规格;其任何组合;和/或其他因素。在一些情形中,RCS可以被确定为因变于目标大小和/或形状。在一些情形中,天线增益可以通过分布式感测系统来近似。分布式感测系统可以诸如基于收到信号强度指示符(RSSI)、路径损耗测量和/或其他因素来预测由处于给定位置的目标引起的收到感测信号。
参考图6,图表600解说了发射机功率(PT)610、发射天线增益(Gt)612、逼近目标的空间损耗(α)614、目标增益因子(Gσ)616、从目标返回的空间损耗(α)618、接收机天线增益(Gr)620和接收机功率(Pr)622。分布式感测系统可以进一步确定有效辐射功率(ERP)。例如,如果在区域A(例如,逼近目标的空间损耗614)或区域B(例如,从目标返回的空间损耗618)中测量功率,则该功率可以以功率密度(mW/cm2)或场强(V/m)来表述。
图6的信号强度对信号空间定位可以通过下式定义:10log Pt+10log Gt–α+Gσ–α+10log Gr=10log Pr。
图7是解说用于雷达截面测量700的示例框图的示图。例如,雷达截面测量可以包括:发射机功率(PT)710、发射天线增益(Gt)712、自由空间损耗714、716接收机天线增益(Gr)718以及接收机功率(Pr)720(例如,/>)。雷达截面测量700可进一步利用以下各式:PtGtλ2/(4πR)2、(4·π·σ)/λ2、PtGtλ2/4πR2、以及PtGtσλ2/(4π)3(R1 2R2 2)。λ指射频信号的波长。Ri指从发射机或接收机到目标的距离。例如,R1指发射机与目标之间的距离,并且R2指目标与接收机之间的距离。σ指雷达截面(RCS)。分布式感测系统还可以调整射频信号的功率和波长,以优化射频信号的质量和射程。
图8是解说根据本公开的一些方面的可以被配置成执行对象检测和打标的分布式感测系统800的示例的示图。在一些方面,分布式感测系统800可以包括计算设备810、打标设备(诸如相机814和移动设备816)、以及各种感测设备812和818(其在一些情形中可以提供标签)。感测设备812和818可以包括发射机和/或接收机(例如,收发机)并且可以包括接入点、无线设备(例如,移动电话等)、和/或其他设备。应当理解,分布式感测系统800可以利用各种数目的其他计算设备、打标设备和/或感测设备来执行对象检测/感测操作,而不会脱离所公开的技术的范围。
在一些方面,计算设备810可以包括中央处理单元(CPU)和/或图形处理单元(GPU),以用于如本文中所描述地训练机器学习模型并执行对象检测算法。在一些方面,分布式感测系统800的计算设备810可进一步集成到无线设备中,诸如感测设备812、818和/或打标设备(例如,相机814、移动设备816等)中的一者或多者。如此,由计算设备810执行的处理功能可以利用分立设备的硬件来执行,或者可以按分布式方式来执行(例如,通过利用多个分立设备的硬件资源和/或功能性)。
在一些实现中,分布式感测系统800可以包括同步服务,这些同步服务可以确保所接收到的RF信号(例如,来自感测设备812、818)和所接收到的训练标签(例如,来自打标设备(诸如相机814、移动设备816等)和/或来自感测设备812、818)之间的同步(例如,时间同步,诸如网络时间协议)。分布式感测系统800可进一步包括经由无线通信信道(例如,Wi-Fi、蓝牙等)或有线通信信道(例如,以太网)跨感测设备812、818和打标设备交换信息的通信服务。分布式感测系统800、以及分布式感测系统800的感测设备812、818和打标设备(例如,相机814、移动设备816等)可以包括图形用户界面,以基于所接收到的RF信号(例如,来自感测设备812、818)和标签(例如,来自打标设备和/或来自感测设备812、818)(诸如可以通过利用如本文中所描述的机器学习模型来指示相关联对象的位置或动作的推断标签)来显示结果。
在一些方面,分布式感测系统800的感测设备812、818可以被配置成:传送和接收RF信号和波形,这些RF信号和波形可以由分布式感测系统800用来标识在感测设备812、818附近的各种对象的特性。可检测对象可以包括能够反射RF信号或波形的任何物体,包括但不限于:无生命对象(诸如墙、地板、交通工具或家具等)和/或有生命对象(诸如人(例如,人802)和/或宠物等)。在一些示例中,感测系统800可以被配置成:确定对象位置和/或定位特征,诸如对象位置、取向、或姿势。在一些示例中,感测系统800可以被配置成:确定与对象相关联的动作,诸如运动简档或移动特性。
为了执行感测操作,分布式感测系统800可以被配置成:使用所接收的射频数据和标签数据(例如,来自打标设备和/或感测设备812、818)来如本文中所描述地生成和/或训练感测模型。附加地,分布式感测系统800可以被配置成:利用感测模型基于射频数据和标签数据来生成关于被感测对象(诸如人802)的定位置和/或运动特性的推论。
在一些方面,感测模型的训练和生成可以使用由分布式感测系统800检测到和/或接收到的数据的组合来执行。例如,分布式感测系统800可以被配置成:生成和/或训练感测模型(例如,机器学习模型),其被配置成当被呈现基于从一个或多个各种对象反射的RF信号的RF数据时生成打标推断。在一些方面,感测模型的训练和/或生成可以基于:从一个或多个无线设备(例如,感测设备812、818)接收到的RF数据,以及从打标设备(例如,相机814、移动设备816等)和/或从感测设备812、818接收到的对应训练标签数据,该训练标签数据例如包括针对在感测设备812、818和/或打标设备附近的一个或多个对象的(例如,定位、位置、地点或运动等的)描述。
作为示例,感测设备812的发射机可以在给定领域内传送RF信号/波形,随后这些RF信号/波形可以从相同领域中的一个或多个有生命或无生命对象(诸如人802)反射。随后,反射波形可以由感测设备818的接收机接收,该接收机可以将射频数据(例如,RSSI/CSI数据)传达给分布式感测系统800的计算设备810。射频数据(例如,波形测量数据)可以与反射对象的各种特性相对应。例如,波形测量数据可以基于人802的位置、人802的大小、和/或人802与感测设备812、感测设备818和/或其他设备的距离。
并发地,训练标签数据可以从分布式感测系统800的各种有线和/或无线设备提供给计算设备810。例如,训练标签数据可以包括:由打标设备(例如,相机、视频、位置、加速度计等)和/或感测设备812、818所收集的数据,以及用户经由无线设备(诸如移动设备)提供的数据,例如文本串(诸如所选择的文本)、音频等。在一些实现中,标签数据可以包括位置数据,诸如位置指示。位置指示可以按照环境的区域(例如,房间)或者按照相对于针对感兴趣环境所定义的参考系的坐标来指定。此类打标数据可以表示针对待检测的目标的定位的“真值”。例如,检测的目标可以包括定位环境内的人。相关联的标签可以表示人的真值定位。在该示例中,人可以携带能够被配置成生成标签的设备,以使得由该设备测得的定位或者由人经由该设备输入的定位代表人的定位。
在一些实现中,打标设备(例如,相机814、移动设备816等)和/或感测设备812、818可以生成可以与所接收到的RF数据(例如,表示为信道状况信息)相关联的标签(例如,训练标签数据)。作为示例,相机814和输入设备(诸如移动设备816)可以向分布式感测系统800提供训练标签数据。在一些方面,用户可以携带移动设备,该移动设备可以被用于生成与用户的特性相关联的标签。移动设备816可以包括传感器(例如,GPS单元),以确定移动设备816的定位,并因此确定用户的定位。例如,移动设备816和接入点可以利用Wi-Fi往返时间(RTT)(例如,出于定位目的的距离测量)来确定移动设备816在建筑物内的位置。在一些方面,打标设备(例如,相机814、移动设备816等)可以与分布式感测系统800的感测设备812、818同步,以使得由打标设备提供的训练标签可以与所收集到的RF信号数据同步。随后,训练标签和RF信号数据可以被分布式感测系统800用于训练目的。
在一些示例中,打标设备(诸如移动设备816)和/或感测设备812、818可以接收例如由用户作为输入提供的训练标签数据。在此类示例中,训练标签数据可以包括文本输入(例如,经由设备键盘(诸如屏幕键盘)提供的)和/或作为音频输入(例如,作为通过移动设备816的麦克风检测到的言语提供的)。在一些方面,文本输入可以包括一个或多个文本串,其描述或指示对象位置、对象类型、运动信息,诸如运动是否正在发生、正在执行哪个动作(例如,跑步或跳跃)、和/或运动正发生的位置。在一些方面,包括所提供的文本串数据的训练标签数据可以包括标识一个或多个人或有生命对象的信息(诸如通过提供关于人802的身份的信息)。作为进一步示例,标识个体的信息可以包括生物测定数据或其他生物测定标识符,诸如指纹、面部模式、语音识别数据等。作为示例,生物测定数据可以包括:可以用于促成身份验证过程的物理或行为特性(例如,其对于授予对系统、设备或数据的访问而言是必需的)。
在一些方面,分布式感测系统800可以利用一个或多个相机(诸如相机814)来生成训练标签数据,该训练标签数据例如包括帮助标识各种对象特性(诸如对象类型、对象大小、对象位置、和/或与对象(例如,人802)相关联的行为特性(运动)。在一些方面,分布式感测系统800的(例如,预安装或所部署的)相机814可被用于标识感兴趣事件(例如,对象运动、接近度、以及位置)。作为示例,使用图像处理技术,由相机814记录的图像和/或视频反馈可被用于解析图像数据以标识可作为训练标签数据提供的事件或行为。
在一些方面,各种打标设备和/或感测设备812、818可以一起操作以生成和/或编辑打标数据。例如,相机814可以与一个或多个其他打标设备(诸如移动设备816)相结合地操作,以使得人802能够输入或编辑用于感兴趣事件的训练标签,诸如当人802在建筑物的平面图周围的不同位置(例如,各房间)之间物理地移动时,确定所检测到的对象的定位。在一些方面,分布式感测系统800中的一个或多个设备可以利用定位系统(诸如GPS和Wi-Fi定位设备(未解说))来确定所检测到的对象、分布式感测系统800的计算设备810、感测设备812、818、相机814和/或移动设备816的更准确的位置。
在一些方面,分布式感测系统800可以被配置成:基于所接收到的训练标签数据和/或射频数据来训练和/或更新感测模型。感测模型的训练和生成可以使用由分布式感测系统800检测到和/或接收到的数据的组合来执行。例如,分布式感测系统800可以被配置成:生成和/或训练感测模型(诸如机器学习模型),其可被配置成当被呈现基于从一个或多个不同对象反射的RF信号的RF数据时生成打标推断。作为示例,训练标签数据可被用于使用机器学习模型来执行监督学习,该机器学习模型被配置成接收作为输入的RF数据,以及基于RF数据来提供一个或多个标签作为输出。
在一些方面,感测模型的训练和/或生成可以基于从一个或多个无线设备(例如,感测设备812、818)接收的RF数据以及从打标设备(例如,相机814、移动设备816或其他打标设备)和/或感测设备(例如,感测设备812、818)接收的对应训练标签数据。训练标签数据可以包括针对在无线设备812、814、816、818附近的一个或多个对象的(例如,定位、位置或运动等的)描述。在一些示例中,分布式感测系统800可以提供关于(例如,机器学习、感测模型的)训练过程是否足够或者是否需要从环境中的某些位置收集更多训练标签的指示。作为示例,对训练充分性或完整性的指示可以例如经由屏幕上显示、可听通知等提供给与移动设备816相关联的用户。
在一些示例中,分布式感测系统800可以包括部署规程,例如以促成感测设备812、818的放置。作为示例,感测系统800可被操作以做出关于将感测设备812、818放置在要执行对象感测的环境内的推荐。
一旦被训练,感测模型就可被配置成:针对新颖或后续的RF数据输入提供打标推断,这些打标推断例如表示各种对象特征,例如,对象类型、对象大小、位置、发源(或姿势)和/或对象运动简档。在一些办法中,感测模型可以是(或可以包括)深度学习网络,诸如关于图11和图12所描述的卷积神经网络,如以下所提供的。
图9是解说打标规程的示例的示图,该打标规程可以由分布式感测系统900执行。在一些方面,分布式感测系统900可以包括处理器910(例如,网络时间协议(NTP)服务器,其可以同步分布式感测系统900的设备912、920、922的时间)、存储设备912、感测设备920(例如,接入点和无线设备)以及打标设备922(例如,移动设备和相机)。在一些方面,打标设备922可以通过表述性状态转移(“REST”)应用编程接口(API)与处理器910进行通信。
在一些实现中,分布式感测系统900可以被配置成将标签(例如,从打标设备(诸如图8的相机814和/或移动设备816)和/或感测设备812、818接收到的训练标签)存储在存储设备912中和/或将标签实时提供给处理器910以用于机器学习模型训练。在一些方面,从打标设备922接收到的训练标签可以根据由打标设备922和RF感测设备920(例如,图8的感测设备812、818)利用的共用定时器来加时间戳。处理器910可以是分布式感测系统900的服务器(例如,网络时间协议(NTP)服务器或其他类型的服务器)的一部分,其在一些情形中可被用于同步感测设备920与打标设备922的时间。例如,服务器(例如,使用过程910)可以将感测设备920的RF感测信号和感测测量与由打标设备922捕获的训练标签进行时间同步。训练标签和感测信号和/或测量可被用于训练机器学习模型以执行射频感测检测操作(例如,检测运动或无运动、检测运动模式、检测对象或人的定位、运动跟踪、检测人或动物的生命体征、和/或其他操作)。
在一些示例中,在部署分布式感测系统900的初始设立操作之后并且在分布式感测系统900的正常操作期间,分布式感测系统900可以输出数据(例如,一个或多个推断标签),该数据包括或描述与所检测到的对象相相关联的特性。例如,分布式感测系统900的推断标签输出可以包括:描述所检测到的对象的定位/位置和/或动作的一个或多个文本串、可听通知、图形和/或图片。
图10是解说根据所公开的技术的一些方面的由分布式感测系统100执行的示例打标操作的示图。在一些方面,分布式感测系统1000可以包括移动设备1020、定时服务器1030、存储设备1035以及感测设备1050、1060。取决于所期望的实现,由定时服务器1030和存储设备执行的功能1035可以在分开的设备上执行。替换地,由定时服务器1030和存储设备1035执行的一个或多个功能可以在共用设备(诸如服务器1040)上执行。
如本文中所描述的,分布式感测系统1000可以利用NTP服务器或定时器(例如,定时服务器1030)来同步各种设备,诸如一个或多个打标设备(例如,移动设备1020)和一个或多个感测设备1050、1060。在一些办法中,可以利用时间同步来将所接收到的RF数据与训练标签数据相关,例如以促成感测模型(例如,机器学习模型)的训练和/或更新,如以上所讨论的。
在一些实现中,分布式感测系统1000的感测设备1050、1060可以传送RF信号和波形,并且接收反射的RF信号和波形(例如,参考信号1072),这对于执行对象检测而言是必需的。得到的RF数据(其可以基于从一个或多个对象(未解说)反射的RF信号和/或波形)可随后作为RF数据提供给例如存储设备1035。在一些示例中,感测分布式感测系统1000的设备1050、1060可以将RF频率数据作为信道状态信息(CSI数据1074)传送给存储设备1035。在一些方面,由感测设备1050、1060测量的RF感测数据(CSI数据1074)可以包括与传输波形(例如,感测信号)的直接路径(例如,漏泄信号)有关的信息以及与对应于该传输波形的反射路径(例如,反射波形/感测信号)有关的数据。
如图10的示例中所解说的,存储设备1035还可以被配置成:接收与由存储设备1035接收到的RF数据(例如,CSI 1074)相对应的训练标签(例如,标签1078)。取决于所期望的实现,CSI数据1074和/或标签1078可以例如实时或近实时地被并发接收。在一些方面,CSI数据1074和/或标签1078可以在不定量的时间段内被本地存储在相关联的设备(诸如分别是感测设备1050、106或移动设备1020中的一者或多者)上。在一些方面,由定时服务器1030提供的时间同步功能可被用于确保标签1078与其对应的CSI数据正确地相关。作为示例,网络时间协议(NTP)时间同步功能(例如,NTP同步1070)可被用于确保移动设备1020与感测设备1050、1060之间的时间同步。
如本文中所描述的,标签1078可以基于由一个或多个打标设备(诸如移动设备1020和/或感测设备)接收和/或捕获的各种各样的数据。作为示例,标签1078可以基于由用户1010提供的一个或多个数据输入,例如基于文本的输入、和/或作为手动标签1076提供的可听输入。如关于图8所讨论的,手动标签1076可被用于提供关于对象特性的信息,诸如指示对象大小、位置、取向和/或运动、或其组合的信息。在一些方面,标签1078可以包括由打标设备(诸如移动设备1020)和/或由感测设备自动捕获的数据。作为示例,标签1078可以包含与移动设备1020相关联的位置和/或取向信息。
作为进一步示例,标签1076可以包括各种其他类型的手动输入或手动捕获的信息,诸如所检测到的对象的图片、或描述情境上下文的文本输入(诸如“进入厨房”)。在此类示例中,手动标签1076可以被输入到与用户1010相关联的无线设备(例如,移动设备1020)中或由其捕获,并且随后可以被提供给分布式感测系统1000的存储设备1035。
在一些示例中,分布式感测系统1000可以包括各种其他打标设备,诸如被配置成提供打标服务以执行对象检测和打标的一个或多个相机和/或相机系统。例如,分布式感测系统1000可以包括一个或多个静态相机(未解说),其可以被配置成捕获环境(诸如家庭或公司建筑物)中的感兴趣位置的图像(例如,图片或视频)。随后,分布式感测系统1000的静态相机系统可以利用本文中所描述的算法(例如,诸如图6和7中所解说的那些算法)来检测感兴趣的对象、人和/或活动(例如,对象的移动),以及针对所检测到的感兴趣的对象和活动生成对应的训练标签,以用于如本文中所描述地训练和/或生成感测模型。在一些方面,静态相机系统可以对所生成的标签加时间戳,并将这些标签提供给分布式感测系统1000,以如本文中所描述地执行对象检测和打标。
在一些实现中,分布式感测系统1000可以利用移动设备1020的相机来执行视觉捕获(例如,捕获图片和视频)、惯性里程表和/或同时定位和映射(SLAM)以确定移动设备1020的定位,以如本文中所描述地执行对象检测和打标。所确定的移动设备1020的位置还可以被用作用于由分布式感测系统1000执行对象检测和打标的标签。分布式感测系统1000可进一步利用视觉同时定位和映射(VSLAM),其是在带有相机的设备(诸如机器人、头戴式显示器(HMD)、移动手持机和自主交通工具)中使用的一种计算几何技术。在VSLAM中,设备可以基于由设备的相机捕获的图像来构建和更新未知环境的映射。当设备更新映射时,设备可以跟踪设备在环境内的姿势(例如,位置和/或取向)。例如,该设备可以在建筑物的特定房间中被激活,并且可以在整个建筑物内部移动,从而捕获图像。该设备可以映射环境,并基于跟踪环境中不同对象在不同图像中出现的位置来跟踪该设备在环境中的位置。
在一些示例中,分布式感测系统1000可以同时同步从打标设备1020(和/或感测设备1050、1060)接收到的所收集的训练标签和从感测设备1050、1060接收到的RF感测测量数据。例如,(例如,由打标设备1020接收的)训练标签可以由分布式感测系统1000的处理器(例如,图8的计算设备810和图9的处理器910)实时地接收。
在一些方面,所捕获的训练标签可以连同对应的时间戳(例如,由Wi-Fi定时同步功能(TSF)定时器提供的时间戳)一起被存储在打标设备1020和/或感测设备1050、1060的存储设备中,这允许打标设备1020(和/或感测设备1050、1060)以及分布式感测系统1000将RF感测测得的数据与对应的训练标签相关。在一些示例中,分布式感测系统1000的NTP同步1070可被进一步用于将从打标设备1020捕获的训练标签与由感测设备1050、1060捕获和确定的RF感测信号和测量进行同步,以如本文中所描述地执行对象检测和打标。
在一些示例中,分布式感测系统1000可以被配置成例如使用训练标签数据(例如,手动标签1076和标签1078)和RF数据(诸如由存储设备1035作为信道状态信息(CSI)数据1074接收到的数据)来执行训练规程1080。如本文中所描述的,训练规程1080可以包括基于从一个或多个无线设备(例如,感测设备1050、1060)接收到的RF数据训练和/或从与用户1010相关联的打标设备(诸如移动设备1020)接收到的对应训练标签数据来训练和/或生成感测模型(诸如机器学习模型)。
作为示例,在分布式感测系统1000的部署训练阶段期间,用户1010可以利用无线设备(例如,感测测量设备或打标设备)或移动设备1020,并且走过各个房间并对整个平面图进行映射和打标,以执行对象检测和打标。在一些方面,与用户1010相关联的无线设备可以被配置成:传送和接收RF感测信号,基于RF感测信号(例如,RSSI/CSI数据)来确定RF感测测量,以及向分布式感测系统1000提供RF感测测量和训练标签,以如本文所描述地执行对象检测和打标。
作为训练规程1080的结果,分布式感测系统可以生成(经训练的)感测模型,该感测模型例如被配置成:接收RF数据输入(例如,作为CSI 1074),以及做出关于对应的对象特性(诸如位置、大小或运动等)的推断1082。例如,所推断出的特性可以被表示为对象标签,其标识特定对象特征1084或用户1010可能感兴趣的其他显著信息
在一些示例中,分布式感测系统1000可以被配置成提供所检测到的对象的Wi-Fi定位的自动打标,以执行对象检测和打标。例如,与用户1010相关联的无线设备或移动设备1020可以被配置成:传送和接收RF感测信号。在其他方面,RF感测信号可以由分布式感测系统1000从不同的RF分布式感测系统接收并且被用于生成自动标签以用于学习算法(例如,802.11/WFA“Wi-Fi位置”和蓝牙)。在一些方面,分布式感测系统1000利用的RF感测信号可以包括GPS数据,该GPS数据可以包括所检测到的对象的定位数据。
在一些实现中,分布式感测系统1000可以被配置成:基于训练和/或生成感测模型(如本文中所描述的)来输出表述性标签(例如,推断标签)。例如,表述性标签可以基于从一个或多个无线设备(例如,感测设备)接收到的RF数据和从打标设备(和/或感测设备)接收到的对应训练标签数据,以执行对象检测和打标。在一些方面,与所检测到的对象的运动、位置或动作相对应的图片或视频可以被提供给与用户1010相关联的无线设备,其可以被显示(1086)在无线设备上以向用户1010呈现表述性标签。在一个示例中,如果表述性标签包括在厨房中发生的所检测到的运动,则分布式感测系统1000可以输出厨房的图片,该图片是在分布式感测系统1000的部署训练过程中当用户1010在厨房中时拍摄的并且最初用打标设备(例如,与用户1010相关联的无线设备的移动设备1020)捕获该图片。在一些方面,分布式感测系统1000可进一步输出与文本标签的对应位置相关联的文本标签以及与声音标签的对应位置相关联的声音标签。
在一些示例中,由分布式感测系统1000推断位置可以包括:对RF感测信号(例如,Wi-Fi感测信号)运行动作分类器,以及基于所检测到的动作来确定检出对象(例如,人)的对应位置,以执行对象检测和打标。例如,动作分类器可以被预训练并与动作的数据集相关联(例如,“打字”运动可以将位置标识为办公室,并且“烹饪”动作可以将位置标识为厨房)。优点是在分布式感测系统1000的部署训练规程期间的手动用户输入被最小化,因为不需要定义预设标签列表并向每个标签提供对应描述。
图11是可用于实现以上所描述的分布式感测系统的深度学习神经网络1100的解说性示例。输入层1120包括输入数据。在一个解说性示例中,输入层1120可包括表示输入视频帧的像素的数据。神经网络1100包括多个隐藏层1122a、1222b至1222n。隐藏层1122a、1222b至1222n包括“n”个隐藏层,其中“n”是大于或等于1的整数。可以使隐藏层的数目包括给定应用所需要的尽可能多的层。神经网络1100进一步包括输出层1121,其提供由隐藏层1122a、1222b至1222n所执行的处理所产生的输出。在一个解说性示例中,输出层1121可以提供针对输入视频帧中的对象的分类。该分类可以包括标识活动类型(例如,踢足球、弹钢琴、听钢琴、弹吉他等)的类别。
神经网络1100是互连节点的多层神经网络。每个节点可表示信息片段。与这些节点相关联的信息在不同的层之间共享,并且每个层在处理信息时保留信息。在一些情形中,神经网络1100可以包括前馈网络,在该情形中不存在网络的输出被反馈给自己的反馈连接。在一些情形中,神经网络1100可以包括递归神经网络,其可以具有允许在读进输入时跨节点携带信息的环路。
可以在各节点之间通过各个层之间的节点到节点互连来交换信息。输入层1120的节点可以激活第一隐藏层1122a中的一组节点。例如,如图所示,输入层1120的每个输入节点连接到第一隐藏层1122a的每个节点。第一隐藏层1122a的节点可以通过向每个输入节点的信息应用激活函数来转换该输入节点的信息。从转换中导出的信息可以随后被传递到并且可以激活下个隐藏层1122b的节点,这些节点可以执行它们自己指定的函数。示例函数包括卷积、上采样、数据变换、和/或任何其他合适的函数。隐藏层1122b的输出可以随后激活下个隐藏层的节点,依此类推。最后的隐藏层1122n的输出可以激活输出层1121的一个或多个节点,在该处提供输出。在一些情形中,虽然神经网络1100中的节点(例如,节点1126)被示为具有多个输出线,但节点具有单个输出并且所有线被示为从表示相同输出值的节点输出。
在一些情形中,每个节点或各节点之间的互连可以具有权重,该权重是从神经网络1100的训练推导出的参数集。一旦神经网络1100被训练,其就可被称为经训练神经网络,该经训练神经网络可被用于将一个或多个活动分类。例如,各节点之间的互连可以表示习得的与互连节点有关的信息片段。互连可以具有可以调谐(例如,基于训练数据集)的可调数值权重,从而允许神经网络1100对输入自适应并且能够随着处理越来越多数据进行学习。
对神经网络1100进行预训练以使用不同的隐藏层1122a、1122b到1122n来处理来自输入层1120中的数据的特征,以便通过输出层1121来提供输出。在神经网络1100被用于标识由驾驶员在帧中执行的活动的示例中,可以使用包括帧和标签两者的训练数据来训练神经网络1100,如以上所描述的。例如,可以将训练帧输入到网络中,其中每个训练帧具有指示帧中的特征的标签(对于特征提取机器学习系统)或指示每个帧中的活动的类别的标签。在出于解说目的而使用对象分类的一个示例中,训练帧可以包括数字2的图像,在这种情形中,图像的标签可以是[0 0 1 0 0 0 0 0 0 0]。
在一些情形中,神经网络1100可以使用称为反向传播的训练过程来调整节点的权重。如以上所提及的,反向传播过程可以包括前向传递、损失函数、反向传递和权重更新。对一次训练迭代执行前向传递、损失函数、后向传递和参数更新。对于每组训练图像,该过程可以重复达某个次数的迭代,直到神经网络1100被训练得足够好,以使得层的权重被准确地调谐。
对于将帧中的对象进行分类的示例,前向传递可以包括将训练帧传递通过神经网络1100。权重在训练神经网络1100之前被初始随机化。作为解说性示例,帧可包括表示图像的像素的数字数组。数组中的每个数字可包括从0到255的值,其描述了数组中该位置的像素强度。在一个示例中,数组可包括具有28行和28列像素以及3个颜色分量(例如,红色、绿色和蓝色、或者亮度和两个色度分量,等等)的28×28×3数字数组。
如以上所提及的,对于神经网络1100的第一次训练迭代,输出将很可能包括由于在初始化时随机选择权重而不会给予任何特定类别偏好的值。例如,如果输出是具有对象包括不同类别的概率的向量,则针对每个不同类别的概率值可以相等或至少非常相似(例如,对于十个可能的类别,每个类别可具有0.1的概率值)。利用初始权重,神经网络1100无法确定低级特征,并且由此不能准确地确定对象的分类可能是什么。损失函数可用于分析输出中的误差。可以使用任何合适的损失函数定义,诸如交叉熵损失。损失函数的另一示例包括均方误差(MSE),定义为损失可被设置为等于E_总共的值。
对于第一训练图像,损失(或误差)将是高的,因为实际值将与预测输出大不相同。训练的目标是最小化损失量,以使得预测输出与训练标签相同。神经网络1100可以通过确定哪些输入(权重)对网络的损失贡献最大来执行后向传递,并且可以调整权重以使损失减少并最终最小化。可以计算损失相对于权重的导数(表示为dL/dW,其中W是特定层的权重),以确定对网络损失贡献最大的权重。在计算导数后,可以通过更新所有过滤器的权重来执行权重更新。例如,可以更新权重,以使得其沿梯度的相反方向变化。权重更新可被表示为w=w_i-ηdL/dW,其中w表示权重,wi表示初始权重,并且η表示学习率。学习率可被设置为任何合适的值,其中高学习率包括较大的权重更新,而较低值指示较小的权重更新。
神经网络1100可包括任何合适的深度网络。一个示例包括卷积神经网络(CNN),其包括输入层和输出层,其中在输入层与输出层之间具有多个隐藏层。CNN的隐藏层包括一系列卷积层、非线性层、池化层(用于下采样)和全连通层。神经网络1100可包括除CNN之外的任何其他深度网络,诸如自动编码器、深度置信网络(DBN)、递归神经网络(RNN)等。
图12是卷积神经网络(CNN)1200的解说性示例。CNN 1200的输入层1220包括表示图像或帧的数据。例如,该数据可包括表示图像的像素的数字的数组,其中该数组中的每个数字包括从0到255的值,其描述了在数组中该位置处的像素强度。使用来自以上的先前示例,数组可包括具有28行和28列像素以及3个颜色分量(例如,红色、绿色和蓝色、或者亮度和两个色度分量,等等)的28×28×3数字数组。该图像可以传递通过卷积隐藏层1222a、可任选的非线性激活层、池化隐藏层1222b和全连通隐藏层1222c,以在输出层1224处获得输出。虽然在图12中仅示出了每个隐藏层中的一者,但普通技术人员将领会,多个卷积隐藏层、非线性层、池化隐藏层和/或全连通层可被包括在CNN 1200中。如先前所描述的,输出可以指示单个类别的对象或可以包括最能描述图像中对象的类别的概率。
CNN 1200的第一层是卷积隐藏层1222a。卷积隐藏层1222a分析输入层1220的图像数据。卷积隐藏层1222a的每个节点连接到输入图像的节点(像素)区域(被称为感受野)。卷积隐藏层1222a可以被认为是一个或多个过滤器(每个过滤器对应于不同的激活或特征图),其中过滤器的每个卷积迭代是卷积隐藏层1222a的节点或神经元。例如,过滤器在每个卷积迭代时覆盖的输入图像区域将是该过滤器的感受野。在一个解说性示例中,如果输入图像包括28×28数组,并且每个过滤器(以及对应的感受野)是5×5数组,则在卷积隐藏层1222a中将存在24×24个节点。节点和该节点的感受野之间的每个连接学习权重,并且在一些情形中,学习总体偏置,以使得每个节点学习分析其在输入图像中的特定局部感受野。隐藏层1222a的每个节点将具有相同的权重和偏置(被称为共享权重和共享偏置)。例如,过滤器具有权重(数字)数组和与输入相同的深度。对于视频帧示例,过滤器将具有深度3(根据输入图像的三种颜色分量)。过滤器数组的解说性示例大小为5×5×3,其对应于节点的感受野的大小。
卷积隐藏层1222a的卷积性质是由于卷积层的每个节点被施加到其对应的感受野。例如,卷积隐藏层1222a的过滤器可以从输入图像数组的左上角开始并且可以围绕输入图像进行卷积。如以上提及的,过滤器的每个卷积迭代可以被认为是卷积隐藏层1222a的节点或神经元。在每个卷积迭代中,过滤器的值与图像的对应数目的原始像素值相乘(例如,5×5过滤器数组与输入图像数组左上角的输入像素值的5×5数组相乘)。来自每个卷积迭代的乘法可以相加在一起,以获得针对该迭代或节点的总和。接下来,根据卷积隐藏层1222a中的下一节点的感受野,在输入图像中的下一位置处继续该过程。例如,过滤器可以移动一个步长(称为步幅)到下一个感受野。步幅可被设置为1或其他合适的量。例如,如果步长被设置为1,则过滤器将在每个卷积迭代时向右移动1个像素。在输入量的每个唯一位置处处理过滤器产生表示针对该位置的过滤器结果的数字,从而导致针对卷积隐藏层1222a的每个节点确定总和值。
从输入层到卷积隐藏层1222a的映射被称为激活映射(或特征图)。激活映射包括每个节点的值,表示输入量的每个位置处的过滤结果。激活映射可以包括一数组,该数组包括由输入量上的过滤器的每个迭代产生的各种总和值。例如,如果将5x5过滤器应用于28x28输入图像的每个像素(步幅为1),则激活映射将包括24x24数组。卷积隐藏层1222a可包括若干个激活图,以便标识图像中的多个特征。图12中所示的示例包括三个激活图。通过使用三个激活映射,卷积隐藏层1222a可以检测三种不同类型的特征,其中每个特征跨整个图像是可检测的。
在一些示例中,可以在卷积隐藏层1222a之后应用非线性隐藏层。非线性层可以被用于将非线性引入一直在计算线性运算的系统。非线性层的一个解说性示例是修正的线性单元(ReLU)层。ReLU层可以将函数f(x)=max(0,x)应用于输入量中的所有值,这将所有负激活改变为0。因此,ReLU可以增加CNN 1200的非线性属性而不会影响卷积隐藏层1222a的感受野。
池化隐藏层1222b可以被应用在卷积隐藏层1222a之后(并且在非线性隐藏层之后(在使用时))。池化隐藏层1222b用于简化来自卷积隐藏层1222a的输出中的信息。例如,池化隐藏层1222b可以获取从卷积隐藏层1222a输出的每个激活映射并使用池化函数生成压缩的激活图(或特征图)。最大池化是由池化隐藏层执行的函数的一个示例。其他形式的池化函数(诸如平均池化、L2范数池化或其他合适的池化函数)可由池化隐藏层1222a使用。将池化函数(例如,最大池化过滤器、L2范数过滤器或其他合适的池化过滤器)应用于卷积隐藏层1222a中包括的每个激活图。在图12中所示的示例中,三个池化过滤器被用于卷积隐藏层1222a中的三个激活图。
在一些示例中,可以通过将具有步幅(例如,等于过滤器的尺寸,诸如步幅为2)的最大池化过滤器(例如,具有2x2的大小)应用于从卷积隐藏层1222a的输出的激活图来使用最大池化。来自最大池过滤器的输出包括过滤器卷积的每个子区域中的最大数目。使用2x2过滤器作为示例,池化层中的每个单元可以总结前一层中2×2节点的区域(其中每个节点是激活图中的一值)。例如,激活图中的四个值(节点)将在过滤器的每次迭代中由2×2最大池化过滤器进行分析,其中这四个值中的最大值作为“最大”值被输出。如果将此类最大池化过滤器应用于来自具有24×24节点尺寸的卷积隐藏层1222a的激活过滤器,则来自池化隐藏层1222b的输出将是12×12节点的数组。
在一些示例中,也可以使用L2范数池化过滤器。L2范数池化过滤器包括:计算激活图的2×2区域(或其他合适区域)中的值的平方和的平方根(而不是像最大池化中那样计算最大值)),并使用算得的值作为输出。
直观地,池化函数(例如,最大池化、L2范数池化或其他池化函数)确定给定特征是否在图像的区域中的任何地方被发现,并且丢弃确切的位置信息。这可以在不影响特征检测结果的情况下完成,因为一旦发现了特征,该特征的确切位置就不如其相对于其他特征的近似位置重要。最大池化(以及其他池化方法)的益处是池化特征少得多,从而减少了CNN1200后续各层中所需的参数数目。
网络中的连接的最后层是全连通层,其将来自池化隐藏层1222b中的每个节点连接到输出层1224中的每个输出节点。使用上面的示例,输入层包括28×28个节点,其对输入图像的像素强度进行编码;卷积隐藏层1222a包括3×24×24个隐藏特征节点,其基于将(用于过滤器的)5×5局部感受野应用到三个激活图;以及池化隐藏层1222b包括3×12×12隐藏特征节点层,其基于将最大池化过滤器应用于跨三个特征图中的每一者的2×2区域。扩展该示例,输出层1224可包括十个输出节点。在该示例中,3x12x12池化隐藏层1222b的每个节点被连接到输出层1224的每个节点。
全连通层1222c可以获得前一池化隐藏层1222b的输出(其应该表示高级特征的激活图)并且确定与特定类别最相关的特征。例如,全连通层1222c层可以确定与特定类别最强烈相关的高级特征,并且可以包括高级特征的权重(节点)。可以计算全连通层1222c和池化隐藏层1222b的权重之间的乘积以获得不同类别的概率。例如,如果CNN 1200被用于预测视频帧中的对象是人,则在激活图中将出现表示人的高级特征(例如,两条腿存在、脸存在于对象的顶部、两只眼睛存在于脸的左上和右上、鼻子存在于脸的中间、嘴存在于脸的底部、和/或人共有的其他特征)的较高值。
在一些示例中,来自输出层1224的输出可以包括M维向量(在现有示例中,M=10)。M指示CNN 1200在对图像中的对象进行分类时必须选择的类别的数目。还可以提供其他示例输出。M维向量中的每个数字都可以表示该对象属于特定类别的概率。在一个解说性示例中,如果表示十个不同类别的对象的10维输出向量是[0 0 0.05 0.8 0 0.15 0 0 0 0],则该向量指示关于图像是第三类别的对象(例如,狗)存在5%的概率,关于图像是第四类别的对象(例如,人)存在80%的概率,并且关于图像是第六类别的对象(例如,袋鼠)存在15%的概率。针对一类别的概率可以被认为是对象是该类别的一部分的置信度水平。
图13解说了根据本公开的一些示例的用于训练一个或多个感测模型的过程1300的示例流程图。在操作1302,过程1300可以包括接收与至少一个无线设备相关联的射频数据。该射频数据基于从第一对象反射并由至少一个无线设备接收的射频信号。
在操作1304,过程1300可以包括(例如,从打标设备和/或从至少一个无线设备)获得(例如,接收)训练标签数据。该训练标签数据至少部分地基于第一对象和(例如,由该打标设备和/或由该至少一个无线设备接收的)输入数据。在一些方面,该训练标签数据可以包括指示与第一对象相关联的动作、与第一对象相关联的位置、或其组合中的至少一者的信息。在一些情形中,(例如,由打标设备和/或由至少一个无线设备接收的)输入数据可以包括用户对文本的选择、用户提供的音频输入、或其组合。在一些情形中,输入数据可以包括:(例如,与打标设备和/或至少一个无线设备相关联的)用户的生物测定数据、用户的身份数据、或其组合中的至少一者。在一些示例中,可以在该无线设备与打标设备之间维持时间同步。在一个解说性示例中,可以使用网络时间协议(NTP)来维持时间同步。
如以上所提及的,训练标签数据可以从打标设备和/或从至少一个无线设备接收。在一些实现中,该打标设备和/或至少一个无线设备可以包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。在一些实现中,该打标设备和/或至少一个无线设备可以包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定该打标设备的位置。
在操作1306,过程1300可以包括基于该射频数据和该训练标签数据(例如,通过训练)来生成感测模型。在一些方面,感测模型可以包括机器学习模型。该机器学习模型可以是卷积神经网络(CNN)。
在一些实现中,过程1300可进一步包括接收与第二对象相关联的射频数据;向该感测模型提供该射频数据;以及从该感测模型接收与第二对象相关联的一个或多个推断标签。在一些方面,该一个或多个推断标签可以包括指示与第二对象相关联的位置、与第二对象相关联的动作、或其组合的信息。
在一些示例中,本文中所描述的过程(例如,过程1300和/或本文中所描述的其他过程)可由计算设备或装置执行。在一个示例中,过程1300可由计算设备或图14中示出的计算系统1400执行。
计算设备可以包括任何合适的UE或设备,诸如移动设备(例如,移动电话)、桌面计算设备、平板计算设备、可穿戴设备(例如,VR头戴设备、AR头戴设备、AR眼镜、联网手表或智能手表、或其他可穿戴设备)、服务器计算机、自主交通工具或自主交通工具的计算设备、机器人设备、电视和/或具有资源能力来执行本文描述的过程(包括过程1300)的任何其他计算设备。在一些情形中,计算设备或装置可包括各种组件,诸如一个或多个输入设备、一个或多个输出设备、一个或多个处理器、一个或多个微处理器、一个或多个微型计算机、一个或多个相机、一个或多个传感器和/或被配置成执行本文所描述的过程的各步骤的(诸)其他组件。在一些示例中,计算设备可包括显示器、被配置成传达和/或接收数据的网络接口、其任何组合、和/或(诸)其他组件。网络接口可被配置成传达和/或接收基于网际协议(IP)的数据或其他类型的数据。
计算设备的各组件可以用电路系统来实现。例如,各组件可包括和/或可使用电子电路或其他电子硬件(其可包括一个或多个可编程电子电路(例如,微处理器、图形处理单元(GPU)、数字信号处理器(DSP)、中央处理单元(CPU)、视觉处理单元(VPU),网络信号处理器(NSP),微控制器(MCU)和/或其他合适的电子电路))来实现,和/或可包括和/或可使用计算机软件、固件、或其任何组合来实现,以执行本文描述的各种操作。
过程1300被解说为逻辑流程图,该逻辑流程图的操作表示能够以硬件、计算机指令、或其组合来实现的操作序列。在计算机指令的上下文中,各操作表示存储在一个或多个计算机可读存储介质上的计算机可执行指令,这些指令在由一个或多个处理器执行时执行所叙述的操作。一般而言,计算机可执行指令包括执行特定功能或实现特定数据类型的例程、程序、对象、组件、数据结构等。描述各操作的顺序并不旨在被理解为是限制,并且任何数目的所描述操作可以按任何顺序被组合和/或并行进行以实现各过程。
附加地,过程1300和/或本文描述的其他过程可以在配置有可执行指令的一个或多个计算机系统的控制下执行,并且可被实现为在一个或多个处理器上共同执行的代码(例如,可执行指令、一个或多个计算机程序、或一个或多个应用)、由硬件或其组合来实现。如以上提及的,代码可以被存储在计算机可读或机器可读存储介质上,例如以包括可由一个或多个处理器执行的多条指令的计算机程序的形式。计算机可读或机器可读存储介质可以是非瞬态的。
图14是解说用于实现本文技术的某些方面的系统的示例的示图。具体而言,图14解说了计算系统1400的示例,该计算系统1400可以是例如构成内部计算系统的任何计算设备、远程计算系统、相机、或其任何组件,其中该系统的各组件使用连接1405彼此处于通信。连接1405可以是使用总线的物理连接,或至处理器1410的直接连接(诸如在芯片组架构中)。连接1405还可以是虚拟连接、联网连接、或逻辑连接。
在一些实施例中,计算系统1400是分布式系统,其中本公开中所描述的功能可以分布在数据中心、多个数据中心、对等网络等等内。在一些实施例中,本文所描述的系统组件中的一个或多个系统组件表示许多此类组件,每个组件执行为该组件描述的一些或全部功能。在一些实施例中,各组件可以是物理或虚拟设备。
示例系统1400包括至少一个处理单元(CPU或处理器)1410和连接1405,其将包括系统存储器1415(诸如只读存储器(ROM)1420和随机存取存储器(RAM)1425)的各种系统组件耦合至处理器1410。计算系统1400可以包括与处理器1410直接连接、紧邻处理器1410、或集成为处理器1410的一部分的高速存储器的高速缓存1412。
处理器1410可包括任何通用处理器和硬件服务或软件服务,诸如存储在存储设备1430中、被配置成控制处理器1410的服务1432、1434和1436,以及专用处理器,其中软件指令被纳入实际处理器设计中。处理器1410可以基本上是完全自包含计算系统,包含多个核或处理器、总线、存储器控制器、高速缓存等。多核处理器可以是对称的或非对称的。
为了实现用户交互,计算系统1400包括可以表示任何数目的输入机构的输入设备1445,诸如用于语音的话筒、用于姿势或图形输入的触敏屏、键盘、鼠标、运动输入、语音等等。计算系统1400还可以包括输出设备1435,该输出设备1435可以是数个输出机构中的一者或多者。在一些实例中,多模态系统可使得用户能够提供多种类型的输入/输出以与计算系统1400通信。计算系统1400可以包括通信接口1440,其一般可以管控和管理用户输入和系统输出。
通信接口可执行或促成使用有线和/或无线收发机接收和/或传输有线或无线通信,包括利用音频插孔/插头、话筒插孔/插头、通用串行总线(USB)端口/插头、端口/插头、以太网端口/插头、光纤端口/插头、专用有线端口/插头、无线信号传输、/>低能量(BLE)无线信号传输、/>无线信号传输、射频标识(RFID)无线信号传输、近场通信(NFC)无线信号传输、专用短程通信(DSRC)无线信号传输、802.11Wi-Fi无线信号传输、无线局域网(WLAN)信号传输、可见光通信(VLC)、微波接入全球互通(WiMAX)、红外(IR)通信无线信号传输、公共交换电话网(PSTN)信号传输、综合服务数字网(ISDN)信号传输、3G/4G/5G/LTE蜂窝数据网络无线信号传输、自组织网络信号传输、无线电波信号传输、微波信号传输、红外信号传输、可见光信号传输、紫外光信号传输、沿电磁频谱的无线信号传输、或其某种组合的那些通信。
通信接口1440还可包括一个或多个全球导航卫星系统(GNSS)接收机或收发机,其被用于基于从与一个或多个GNSS系统相关联的一个或多个卫星接收到一个或多个信号来确定计算系统1400的位置。GNSS系统包括但不限于基于美国的全球定位系统(GPS)、基于俄罗斯的全球导航卫星系统(GLONASS)、基于中国的北斗导航卫星系统(BDS)、以及基于欧洲的伽利略GNSS。对在任何特定硬件布置上进行操作不存在任何限制,并且因此可以容易地替换此处的基础特征以随着它们被开发而获得改进的硬件或固件布置。
存储设备1430可以是非易失性和/或非瞬态和/或计算机可读存储器设备,并且可以是能够存储可由计算机访问的数据的硬盘或其他类型的计算机可读介质,诸如盒式磁带、闪存卡、固态存储器设备、数字多功能碟、卡带、软磁盘、软盘、硬盘、磁带、磁条/磁性条、任何其他磁存储介质、闪存、忆阻器存储器、任何其他固态存储器、压缩碟只读存储器(CD-ROM)光碟、可重写压缩碟(CD)光碟、数字视频盘(DVD)光碟、蓝光碟(BDD)光碟、全息光盘、另一光学介质、安全数字(SD)卡、微型安全数字(microSD)卡、Memory Stick(存储器棒)卡、智能卡芯片、EMV芯片、订户身份模块(SIM)卡、迷你/微型/纳米/微微SIM卡、另一集成电路(IC)芯片/卡、随机存取存储器(RAM)、静态RAM(SRAM)、动态RAM(DRAM)、只读存储器(ROM)、可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、闪存EPROM(FLASHEPROM)、高速缓存存储器(L1/L2/L3/L4/L5/L#)、电阻式随机存取存储器(RRAM/ReRAM)、相变存储器(PCM)、自旋转移扭矩RAM(STT-RAM)、另一存储器芯片或盒、和/或其组合。
存储设备1430可以包括软件服务、服务器、服务等等,当定义此类软件的代码由处理器1410执行时其使得系统执行功能。在一些实施例中,执行特定功能的硬件服务可包括存储在与必要的硬件组件(诸如处理器1410、连接1405、输出设备1435等)连接的计算机可读介质中的软件组件以执行功能。术语“计算机可读介质”包括但不限于便携式或非便携式存储设备、光存储设备、以及能够存储、包含或携带(诸)指令和/或数据的各种其他介质。计算机可读介质可包括其中可存储数据并且不包括载波和/或无线地或通过有线连接传播的瞬态电子信号的非瞬态介质。
非瞬态介质的示例可包括但不限于磁盘或磁带、光学存储介质(诸如压缩碟(CD)或数字多功能碟(DVD))、闪存、存储器或存储器设备。计算机可读介质可具有存储于其上的代码和/或机器可执行指令,它们可表示规程、功能、子程序、程序、例程、子例程、模块、软件包、类、或者指令、数据结构或程序语句的任何组合。可通过传递和/或接收信息、数据、自变量、参数或存储器内容来将代码段耦合至另一代码段或硬件电路。信息、自变量、参数、数据等可以经由任何合适的手段来传递、转发或传送,这些手段包括存储器共享、消息传递、令牌传递、网络传输等。
在上述描述中提供了具体细节以提供对本文中所提供的各实施例和各示例的透彻理解,但是本领域技术人员将认识到本申请并不限于此。因而,尽管本申请的解说性实施例已经在本文中详细描述,但是要理解,各个发明概念可以以其他各种方式被实施和采用,并且所附权利要求书不旨在被解释为包括这些变型,除非受到现有技术的限制。上述申请的各个特征和方面可以单独地或联合地使用。此外,各实施例可以在超出本文所描述的那些环境和应用的任何数目的环境和应用中来利用而不背离本说明书的更宽泛的精神和范围。相应地,本说明书和附图应被认为是解说性的而非限定性的。出于解说的目的,按照特定顺序来描述各方法。应当领会,在替换实施例中,各方法可以按与所描述的不同顺序来执行。
为了清楚说明,在一些实例中,本发明的技术可以被呈现为包括各个功能框,它们包括设备、设备组件、以软件或者硬件和软件的组合实施的方法中的步骤或例程。可使用除了附图中示出和/或本文所描述的那些组件之外的附加组件。例如,电路、系统、网络、过程和其他组件可以用框图形式示为组件以避免使这些实施例湮没在不必要的细节中。在其他实例中,可以在没有必要的细节的情况下示出公知的电路、过程、算法、结构和技术以避免混淆各实施例。
此外,本领域技术人员将领会,结合本文中所公开的方面描述的各种解说性逻辑块、模块、电路、和算法步骤可被实现为电子硬件、计算机软件、或两者的组合。为清楚地解说硬件与软件的这一可互换性,各种解说性组件、块、模块、电路、以及步骤在上面是以其功能性的形式作一般化描述的。此类功能性是被实现为硬件还是软件取决于具体应用和施加于整体系统的设计约束。技术人员可针对每种特定应用以不同方式来实现所描述的功能性,但此类实现决策不应被解读为致使脱离本公开的范围。
各个实施例在上文可被描述为过程或方法,该过程或方法被描绘为流程图、流程图示、数据流图、结构图或框图。尽管流程图可以将操作描述为顺序过程,但很多操作可以并行地或并发地执行。另外,可以重新排列操作的次序。当过程的操作完成时过程被终结,但是过程可具有附图中未包括的附加步骤。过程可对应于方法、函数、规程、子例程、子程序等。当过程对应于函数时,它的终止对应于该函数返回调用方函数或主函数。
根据上述示例的过程和方法可使用被存储的计算机可执行指令或以其他方式从计算机可读介质可用的计算机可执行指令来实现。这些指令可包括例如致使或以其他方式将通用计算机、专用计算机或处理设备配置成执行某一功能或功能群的指令和数据。所使用的计算机资源的各部分可通过网络访问。计算机可执行指令可以是例如二进制文件、中间格式指令(诸如汇编语言)、固件、源代码。可用于存储指令、在根据所描述的示例的方法期间所使用的信息和/或所创建的信息的计算机可读介质的示例包括磁盘或光盘、闪存、提供有非易失性存储器的USB设备、联网存储设备等。
在一些实施例中,计算机可读存储设备、介质和存储器可包括包含比特流等的线缆或无线信号。然而,在被提及时,非瞬态计算机可读存储介质明确排除诸如能量、载波信号、电磁波以及信号本身等介质。
本领域技术人员将领会,信息和信号可使用各种不同技术和技艺中的任何一种来表示。例如,贯穿以上描述可能被述及的数据、指令、命令、信息、信号、位(比特)、码元以及码片可在一些情形中部分地取决于具体应用、部分地取决于所期望的设计、部分地取决于对应技术等而由电压、电流、电磁波、磁场或磁粒子、光场或光粒子、或其任何组合表示。
结合本文中所公开的各方面来描述的各种解说性逻辑块、模块和电路可使用硬件、软件、固件、中间件、微代码、硬件描述语言、或其任何组合来实现或执行,并且可采用各种形状因子中的任何形状因子。当以软件、固件、中间件或微代码实现时,用于执行必要任务的程序代码或代码段(例如,计算机程序产品)可被存储在计算机可读或机器可读介质中。处理器可执行必要任务。各形状因子的示例包括:膝上型设备、智能电话、移动电话、平板设备、或其他小形状因子的个人计算机、个人数字助理、机架式设备、自立设备等。本文描述的功能性还可用外围设备或插卡来实施。作为进一步的示例,此类功能性还可被实现在在单个设备上执行的不同芯片或不同过程之中的电路板上。
指令、用于传达这些指令的介质、用于执行它们的计算资源、以及用于支持此类计算资源的其他结构是用于提供本公开中所描述的功能的示例装置。
本文所描述的技术还可用电子硬件、计算机软件、固件、或其任何组合来实现。这些技术可以用各种设备中的任一种来实现,诸如通用计算机、无线通信设备手持机、或具有多种用途的集成电路设备,这些用途包括无线通信设备手持机和其他设备中的应用。被描述为模块或组件的任何特征可以一起被实现在集成逻辑器件中或被单独实现为分立但可相互操作的逻辑器件。如果以软件来实现,则这些技术可至少部分地由包括程序代码的计算机可读数据存储介质来实现,这些程序代码包括指令,这些指令在被执行时执行上述方法、算法、和/或操作中的一者或多者。计算机可读数据存储介质可形成计算机程序产品的一部分,其可包括封装材料。计算机可读介质可包括存储器或数据存储介质,诸如随机存取存储器(RAM)(诸如同步动态随机存取存储器(SDRAM))、只读存储器(ROM)、非易失性随机存取存储器(NVRAM)、电可擦除可编程只读存储器(EEPROM)、闪存、磁性或光学数据存储介质等等。这些技术附加地或替换地可至少部分地由携带或传达指令或数据结构形式的程序代码的计算机可读通信介质来实现,这些指令或数据结构可由计算机访问、读取、和/或执行,诸如传播的信号或波。
程序代码可由处理器执行,该处理器可包括一个或多个处理器,诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)、或其他等效的集成或分立逻辑电路系统。此类处理器可被配置成执行本公开中所描述的任何技术。通用处理器可以是微处理器,但在替换方案中,该处理器可以是任何常规的处理器、控制器、微控制器、或状态机。处理器还可以被实现为计算设备的组合,例如,DSP与微处理器的组合、多个微处理器、与DSP核心协同的一个或多个微处理器、或任何其他此类配置。相应地,如本文所使用的术语“处理器”可以指任何上述结构、上述结构的任何组合、或适于实现本文所描述的技术的任何其他结构或装置。
普通技术人员将领会,本文所使用的小于(“<”)和大于(“>”)符号或术语可以分别用小于等于(“≤”)和大于等于(“≥”)符号来代替而不背离本说明书的范围。
在各组件被描述为“被配置成”执行某些操作的情况下,可例如通过设计电子电路或其他硬件来执行操作、通过对可编程电子电路(例如,微处理器、或其他合适的电子电路)进行编程来执行操作、或其任何组合来实现此类配置。
短语“耦合到”指任何组件直接或间接地物理连接到另一组件,和/或任何组件直接或间接地与另一组件处于通信(例如,通过有线或无线连接和/或其他合适的通信接口连接到该另一组件)。
权利要求语言或叙述集合中的“至少一者”和/或集合中的“一者或多者”的其他语言指示该集合中的一个成员或该集合中的多个成员(以任何组合)满足该权利要求。例如,叙述“A和B中的至少一者”或“A或B中的至少一者”的权利要求语言意指A、B或者A和B。在另一示例中,叙述“A、B和C中的至少一者”或“A、B或C中的至少一者”的权利要求语言意指A、B、C、或A和B、或A和C、或B和C、或A和B和C。集合中的“至少一者”和/或集合中的“一者或多者”的语言并不将该集合限于该集合中所列举的项目。例如,叙述“A和B中的至少一者”或“A或B中的至少一者”的权利要求语言可以意指A、B或A和B,并且可附加地包括未在A和B的集合中列举的项目。
本公开的解说性方面包括以下方面:
方面1:一种用于训练一个或多个感测模型的装置,该装置包括:至少一个网络接口;至少一个存储器;以及耦合到该至少一个存储器的至少一个处理器。该至少一个处理器被配置成:经由该至少一个网络接口接收与至少一个无线设备相关联的射频数据,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;获得训练标签数据,该训练标签数据至少部分地基于第一对象和输入数据;以及基于该射频数据和该训练标签数据来生成感测模型。
方面2:如方面1的装置,其中该训练标签数据包括指示与第一对象相关联的动作、与第一对象相关联的位置、或其组合中的至少一者的信息。
方面3:如方面1或2中任一者的装置,其中该输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
方面4:如方面1至3中任一者的装置,其中该输入数据包括用户的生物测定数据、用户的身份数据或其组合中的至少一者。
方面5:如方面1至4中任一者的装置,其中在该无线设备与打标设备之间维持时间同步。
方面6:如方面1至5中任一者的装置,其中该训练标签数据是从打标设备接收的。
方面7:如方面6的装置,其中该打标设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面8:如方面6或7中任一者的装置,其中该打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定该打标设备的位置。
方面9:如方面1至8中任一者的装置,其中该训练标签数据是从该至少一个无线设备接收的。
方面10:如方面9的装置,其中该至少一个无线设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面11:如方面9或10中任一者的装置,其中该至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定打标设备的位置。
方面12:如方面1至11中任一者的装置,其中该感测模型包括机器学习模型。
方面13:如方面12的装置,其中该机器学习模型是卷积神经网络(CNN)。
方面14:如方面1至13中任一者的装置,其中该至少一个处理器被进一步配置成:接收与第二对象相关联的射频数据;向该感测模型提供该射频数据;以及从该感测模型接收与第二对象相关联的一个或多个推断标签。
方面15:如方面14的装置,其中该一个或多个推断标签包括指示与第二对象相关联的位置、与第二对象相关联的动作、或其组合的信息。
方面16:一种用于训练一个或多个感测模型的方法,该方法包括:接收与至少一个无线设备相关联的射频数据,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;获得训练标签数据,该训练标签数据至少部分地基于第一对象和输入数据;以及基于该射频数据和该训练标签数据来生成感测模型。
方面17:如方面16的方法,其中该训练标签数据包括指示与第一对象相关联的动作、与第一对象相关联的位置、或其组合中的至少一者的信息。
方面18:如方面16或17中的任一者的方法,其中该输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
方面19:如方面16至18中任一者的方法,其中该输入数据包括用户的生物测定数据、用户的身份数据或其组合中的至少一者。
方面20:如方面16至19中任一者的方法,其中在该无线设备与打标设备之间维持时间同步。
方面21:如方面16至20中任一者的方法,其中该训练标签数据是从打标设备接收的。
方面22:如方面21的方法,其中该打标设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面23:如方面21或22中的任一者的方法,其中该打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定该打标设备的位置。
方面24:如方面16至23中任一者的方法,其中该训练标签数据是从该至少一个无线设备接收的。
方面25:如方面24的方法,其中该至少一个无线设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面26:如方面24或25中的任一者的方法,其中该至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定打标设备的位置。
方面27:如方面16至26中任一者的方法,其中该感测模型包括机器学习模型。
方面28:如方面27的方法,其中该机器学习模型是卷积神经网络(CNN)。
方面29:如方面16至28中任一者的方法,进一步包括:接收与第二对象相关联的射频数据;向该感测模型提供该射频数据;以及从该感测模型接收与第二对象相关联的一个或多个推断标签。
方面30:如方面29的方法,其中该一个或多个推断标签包括指示与第二对象相关联的位置、与第二对象相关联的动作、或其组合的信息。
方面31:一种非瞬态计算机可读存储介质,所述非瞬态计算机可读存储介质包括用于使得计算机或处理器执行以下操作的至少一条指令:接收与至少一个无线设备相关联的射频数据,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;获得训练标签数据,该训练标签数据至少部分地基于第一对象和输入数据;以及基于该射频数据和该训练标签数据来生成感测模型。
方面32:如方面31的非瞬态计算机可读存储介质,其中该训练标签数据包括与第一对象相关联的动作、与第一对象相关联的位置、或其组合中的至少一者。
方面33:如方面31或32中任一者的非瞬态计算机可读存储介质,其中该输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
方面34:如方面31至33中任一者的非瞬态计算机可读存储介质,其中该输入数据包括用户的生物测定数据、用户的身份数据或其组合中的至少一者。
方面35:如方面31至34中任一者的非瞬态计算机可读存储介质,其中在该无线设备与打标设备之间维持时间同步。
方面36:如方面31至35中任一者的非瞬态计算机可读存储介质,其中该训练标签数据是从打标设备接收的。
方面37:如方面36的非瞬态计算机可读存储介质,其中该打标设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面38:如方面36或37中任一者的非瞬态计算机可读存储介质,其中该打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定该打标设备的位置。
方面39:如方面31至38中任一者的非瞬态计算机可读存储介质,其中该训练标签数据是从该至少一个无线设备接收的。
方面40:如方面39的非瞬态计算机可读存储介质,其中该至少一个无线设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面41:如方面39或40中任一者的非瞬态计算机可读存储介质,其中该至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定打标设备的位置。
方面42:如方面31至42中任一者的非瞬态计算机可读存储介质,其中该感测模型包括机器学习模型。
方面43:如方面42的非瞬态计算机可读存储介质,其中该机器学习模型是卷积神经网络(CNN)。
方面44:如方面31至43中任一者的非瞬态计算机可读存储介质,进一步包括用于使得该计算机或该处理器执行以下操作的至少一条指令:接收与第二对象相关联的射频数据;向该感测模型提供该射频数据;以及从该感测模型接收与第二对象相关联的一个或多个推断标签。
方面45:如方面44的非瞬态计算机可读存储介质,其中该一个或多个推断标签包括指示与第二对象相关联的位置、与第二对象相关联的动作、或其组合的信息。
方面46:一种用于训练一个或多个感测模型的装备,该装备包括:用于接收与至少一个无线设备相关联的射频数据的装置,该射频数据基于从第一对象反射并由该至少一个无线设备接收的射频信号;用于获得训练标签数据的装置,该训练标签数据至少部分地基于第一对象和输入数据;以及用于基于该射频数据和该训练标签数据来生成感测模型的装置。
方面47:如方面46的装备,其中该训练标签数据包括指示与第一对象相关联的动作、与第一对象相关联的位置、或其组合的信息。
方面48:如方面46或47中任一者的装备,其中该输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的一者或多者。
方面49:如方面46至48中任一者的装备,其中该输入数据包括用户的生物测定数据、身份数据或其组合中的一者或多者。
方面50:如方面46至49中任一者的装备,其中在该无线设备与打标设备之间维持时间同步。
方面51:如方面46至50中任一者的装备,其中该训练标签数据是从打标设备接收的。
方面52:如方面51的装备,其中该打标设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面53:如方面51或52中任一者的装备,其中该打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定该打标设备的位置。
方面54:如方面46至53中任一者的装备,其中该训练标签数据是从该至少一个无线设备接收的。
方面55:如方面54的装备,其中该至少一个无线设备包括相机,该相机被配置成捕获与第一对象相关联的感兴趣位置的一个或多个图像、与第一对象相关联的该感兴趣位置的一个或多个视频、或其组合。
方面56:如方面54或55中任一者的装备,其中该至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用该相机生成该训练标签数据并确定打标设备的位置。
方面57:如方面46至56中任一者的装备,其中该感测模型包括机器学习模型。
方面58:如方面57的装备,其中该机器学习模型是卷积神经网络(CNN)。
方面59:如方面46至58中任一者的装备,进一步包括:用于接收与第二对象相关联的射频数据的装置;用于向该感测模型提供该射频数据的装置;以及用于从该感测模型接收与第二对象相关联的一个或多个推断标签的装置。
方面60:如方面59的装备,其中该一个或多个推断标签包括指示与第二对象相关联的位置、与第二对象相关联的动作、或其组合的信息。
权利要求书(按照条约第19条的修改)
1.一种用于训练一个或多个感测模型的装置,所述装置包括:
至少一个网络接口;
至少一个存储器;以及
耦合至所述至少一个存储器的至少一个处理器,所述至少一个处理器被配置成:
经由所述至少一个网络接口接收与至少一个无线设备相关联的射频数据,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
获得训练标签数据,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
基于所述射频数据和所述训练标签数据来生成感测模型。
2.如权利要求1所述的装置,其中所述训练标签数据包括指示与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合中的至少一者的信息。
3.如权利要求1所述的装置,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
4.如权利要求1所述的装置,其中所述输入数据包括用户的生物测定数据、所述用户的身份数据或其组合中的至少一者。
5.如权利要求1所述的装置,其中在所述无线设备与打标设备之间维持时间同步。
6.如权利要求1所述的装置,其中所述训练标签数据是从打标设备接收的。
7.如权利要求6所述的装置,其中所述打标设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
8.如权利要求6所述的装置,其中所述打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定所述打标设备的位置。
9.如权利要求1所述的装置,其中所述训练标签数据是从所述至少一个无线设备接收的。
10.如权利要求9所述的装置,其中所述至少一个无线设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
11.如权利要求9所述的装置,其中所述至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定打标设备的位置。
12.如权利要求1所述的装置,其中所述感测模型包括机器学习模型。
13.如权利要求12所述的装置,其中所述机器学习模型是卷积神经网络(CNN)。
14.如权利要求1所述的装置,其中所述至少一个处理器被进一步配置成:
接收与第二对象相关联的射频数据;
向所述感测模型提供该射频数据;以及
从所述感测模型接收与所述第二对象相关联的一个或多个推断标签。
15.如权利要求14所述的装置,其中所述一个或多个推断标签包括指示与所述第二对象相关联的位置、与所述第二对象相关联的动作、或其组合的信息。
16.一种用于训练一个或多个感测模型的方法,所述方法包括:
接收与至少一个无线设备相关联的射频数据,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
获得训练标签数据,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
基于所述射频数据和所述训练标签数据来生成感测模型。
17.如权利要求16所述的方法,其中所述训练标签数据包括指示与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合中的至少一者的信息。
18.如权利要求16所述的方法,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
19.如权利要求16所述的方法,其中所述输入数据包括用户的生物测定数据、所述用户的身份数据或其组合中的至少一者。
20.如权利要求16所述的方法,其中在所述无线设备与打标设备之间维持时间同步。
21.如权利要求16所述的方法,其中所述训练标签数据是从打标设备接收的。
22.如权利要求21所述的方法,其中所述打标设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
23.如权利要求21所述的方法,其中所述打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定所述打标设备的位置。
24.如权利要求16所述的方法,其中所述训练标签数据是从所述至少一个无线设备接收的。
25.如权利要求24所述的方法,其中所述至少一个无线设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
26.如权利要求24所述的方法,其中所述至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定打标设备的位置。
27.如权利要求16所述的方法,其中所述感测模型包括机器学习模型。
28.如权利要求27所述的方法,其中所述机器学习模型是卷积神经网络(CNN)。
29.如权利要求16所述的方法,进一步包括:
接收与第二对象相关联的射频数据;
向所述感测模型提供该射频数据;以及
从所述感测模型接收与所述第二对象相关联的一个或多个推断标签。
30.如权利要求29所述的方法,其中所述一个或多个推断标签包括指示与所述第二对象相关联的位置、与所述第二对象相关联的动作、或其组合的信息。
31.一种非瞬态计算机可读存储介质,所述非瞬态计算机可读存储介质包括用于使得计算机或处理器执行以下操作的至少一条指令:
接收与至少一个无线设备相关联的射频数据,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
获得训练标签数据,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
基于所述射频数据和所述训练标签数据来生成感测模型。
32.如权利要求31所述的非瞬态计算机可读存储介质,其中所述训练标签数据包括与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合中的至少一者。
33.如权利要求31所述的非瞬态计算机可读存储介质,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
34.如权利要求31所述的非瞬态计算机可读存储介质,其中所述输入数据包括用户的生物测定数据、所述用户的身份数据或其组合中的至少一者。
35.如权利要求31所述的非瞬态计算机可读存储介质,其中在所述无线设备与打标设备之间维持时间同步。
Claims (60)
1.一种用于训练一个或多个感测模型的装置,所述装置包括:
至少一个网络接口;
至少一个存储器;以及
耦合至所述至少一个存储器的至少一个处理器,所述至少一个处理器被配置成:
经由所述至少一个网络接口接收与至少一个无线设备相关联的射频数据,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
获得训练标签数据,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
基于所述射频数据和所述训练标签数据来生成感测模型。
2.如权利要求1所述的装置,其中所述训练标签数据包括指示与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合中的至少一者的信息。
3.如权利要求1所述的装置,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
4.如权利要求1所述的装置,其中所述输入数据包括用户的生物测定数据、所述用户的身份数据或其组合中的至少一者。
5.如权利要求1所述的装置,其中在所述无线设备与打标设备之间维持时间同步。
6.如权利要求1所述的装置,其中所述训练标签数据是从打标设备接收的。
7.如权利要求6所述的装置,其中所述打标设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
8.如权利要求6所述的装置,其中所述打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定所述打标设备的位置。
9.如权利要求1所述的装置,其中所述训练标签数据是从所述至少一个无线设备接收的。
10.如权利要求9所述的装置,其中所述至少一个无线设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
11.如权利要求9所述的装置,其中所述至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定打标设备的位置。
12.如权利要求1所述的装置,其中所述感测模型包括机器学习模型。
13.如权利要求12所述的装置,其中所述机器学习模型是卷积神经网络(CNN)。
14.如权利要求1所述的装置,其中所述至少一个处理器被进一步配置成:
接收与第二对象相关联的射频数据;
向所述感测模型提供该射频数据;以及
从所述感测模型接收与所述第二对象相关联的一个或多个推断标签。
15.如权利要求14所述的装置,其中所述一个或多个推断标签包括指示与所述第二对象相关联的位置、与所述第二对象相关联的动作、或其组合的信息。
16.一种用于训练一个或多个感测模型的方法,所述方法包括:
接收与至少一个无线设备相关联的射频数据,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
获得训练标签数据,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
基于所述射频数据和所述训练标签数据来生成感测模型。
17.如权利要求16所述的方法,其中所述训练标签数据包括指示与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合中的至少一者的信息。
18.如权利要求16所述的方法,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
19.如权利要求16所述的方法,其中所述输入数据包括用户的生物测定数据、所述用户的身份数据或其组合中的至少一者。
20.如权利要求16所述的方法,其中在所述无线设备与打标设备之间维持时间同步。
21.如权利要求16所述的方法,其中所述训练标签数据是从打标设备接收的。
22.如权利要求21所述的方法,其中所述打标设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
23.如权利要求21所述的方法,其中所述打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定所述打标设备的位置。
24.如权利要求16所述的方法,其中所述训练标签数据是从所述至少一个无线设备接收的。
25.如权利要求24所述的方法,其中所述至少一个无线设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
26.如权利要求24所述的方法,其中所述至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定打标设备的位置。
27.如权利要求16所述的方法,其中所述感测模型包括机器学习模型。
28.如权利要求27所述的方法,其中所述机器学习模型是卷积神经网络(CNN)。
29.如权利要求16所述的方法,进一步包括:
接收与第二对象相关联的射频数据;
向所述感测模型提供该射频数据;以及
从所述感测模型接收与所述第二对象相关联的一个或多个推断标签。
30.如权利要求29所述的方法,其中所述一个或多个推断标签包括指示与所述第二对象相关联的位置、与所述第二对象相关联的动作、或其组合的信息。
31.一种非瞬态计算机可读存储介质,所述非瞬态计算机可读存储介质包括用于使得计算机或处理器执行以下操作的至少一条指令:
接收与至少一个无线设备相关联的射频数据,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
获得训练标签数据,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
基于所述射频数据和所述训练标签数据来生成感测模型。
32.如权利要求31所述的非瞬态计算机可读存储介质,其中所述训练标签数据包括与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合中的至少一者。
33.如权利要求31所述的非瞬态计算机可读存储介质,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的至少一者。
34.如权利要求31所述的非瞬态计算机可读存储介质,其中所述输入数据包括用户的生物测定数据、所述用户的身份数据或其组合中的至少一者。
35.如权利要求31所述的非瞬态计算机可读存储介质,其中在所述无线设备与打标设备之间维持时间同步。
36.如权利要求31所述的非瞬态计算机可读存储介质,其中所述训练标签数据是从打标设备接收的。
37.如权利要求36所述的非瞬态计算机可读存储介质,其中所述打标设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
38.如权利要求36所述的非瞬态计算机可读存储介质,其中所述打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定所述打标设备的位置。
39.如权利要求31所述的非瞬态计算机可读存储介质,其中所述训练标签数据是从所述至少一个无线设备接收的。
40.如权利要求39所述的非瞬态计算机可读存储介质,其中所述至少一个无线设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
41.如权利要求39所述的非瞬态计算机可读存储介质,其中所述至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定打标设备的位置。
42.如权利要求31所述的非瞬态计算机可读存储介质,其中所述感测模型包括机器学习模型。
43.如权利要求42所述的非瞬态计算机可读存储介质,其中所述机器学习模型是卷积神经网络(CNN)。
44.如权利要求31所述的非瞬态计算机可读存储介质,进一步包括用于使得所述计算机或所述处理器执行以下操作的至少一条指令:
接收与第二对象相关联的射频数据;
向所述感测模型提供该射频数据;以及
从所述感测模型接收与所述第二对象相关联的一个或多个推断标签。
45.如权利要求44所述的非瞬态计算机可读存储介质,其中所述一个或多个推断标签包括指示与所述第二对象相关联的位置、与所述第二对象相关联的动作、或其组合的信息。
46.一种用于训练一个或多个感测模型的装备,所述装备包括:
用于接收与至少一个无线设备相关联的射频数据的装置,所述射频数据基于从第一对象反射并由所述至少一个无线设备接收的射频信号;
用于获得训练标签数据的装置,所述训练标签数据至少部分地基于所述第一对象和输入数据;以及
用于基于所述射频数据和所述训练标签数据来生成感测模型的装置。
47.如权利要求46所述的装备,其中所述训练标签数据包括指示与所述第一对象相关联的动作、与所述第一对象相关联的位置、或其组合的信息。
48.如权利要求46所述的装备,其中所述输入数据包括用户对文本的选择、用户提供的音频输入、或其组合中的一者或多者。
49.如权利要求46所述的装备,其中所述输入数据包括用户的生物测定数据、身份数据或其组合中的一者或多者。
50.如权利要求46所述的装备,其中在所述无线设备与打标设备之间维持时间同步。
51.如权利要求46所述的装备,其中所述训练标签数据是从打标设备接收的。
52.如权利要求51所述的装备,其中所述打标设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
53.如权利要求51所述的装备,其中所述打标设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定所述打标设备的位置。
54.如权利要求46所述的装备,其中所述训练标签数据是从所述至少一个无线设备接收的。
55.如权利要求54所述的装备,其中所述至少一个无线设备包括相机,所述相机被配置成捕获与所述第一对象相关联的感兴趣位置的一个或多个图像、与所述第一对象相关联的所述感兴趣位置的一个或多个视频、或其组合。
56.如权利要求54所述的装备,其中所述至少一个无线设备包括相机以及同时定位和映射(SLAM)系统,以同时利用所述相机生成所述训练标签数据并确定打标设备的位置。
57.如权利要求46所述的装备,其中所述感测模型包括机器学习模型。
58.如权利要求57所述的装备,其中所述机器学习模型是卷积神经网络(CNN)。
59.如权利要求46所述的装备,进一步包括:
用于接收与第二对象相关联的射频数据的装置;
用于向所述感测模型提供该射频数据的装置;以及
用于从所述感测模型接收与所述第二对象相关联的一个或多个推断标签的装置。
60.如权利要求59所述的装备,其中所述一个或多个推断标签包括指示与所述第二对象相关联的位置、与所述第二对象相关联的动作、或其组合的信息。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/229,805 US11755886B2 (en) | 2021-04-13 | 2021-04-13 | Passive positioning with radio frequency sensing labels |
US17/229,805 | 2021-04-13 | ||
PCT/US2022/018796 WO2022220947A1 (en) | 2021-04-13 | 2022-03-03 | Passive positioning with radio frequency sensing labels |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117157552A true CN117157552A (zh) | 2023-12-01 |
Family
ID=80819862
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280027207.0A Pending CN117157552A (zh) | 2021-04-13 | 2022-03-03 | 利用射频感测标签进行被动式定位 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11755886B2 (zh) |
EP (1) | EP4323797A1 (zh) |
KR (1) | KR20230169969A (zh) |
CN (1) | CN117157552A (zh) |
TW (1) | TW202307458A (zh) |
WO (1) | WO2022220947A1 (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102531755B1 (ko) * | 2020-03-12 | 2023-05-12 | 한국전자통신연구원 | 레이더 영상 생성 방법 및 이를 수행하는 장치 |
EP4017034A1 (en) * | 2020-12-21 | 2022-06-22 | Deutsche Telekom AG | 5g positioning slam tags |
US11871299B2 (en) * | 2021-04-13 | 2024-01-09 | Qualcomm Incorporated | Self-supervised passive positioning using wireless data |
US11575452B2 (en) | 2021-04-13 | 2023-02-07 | Qualcomm Incorporated | Passive positioning with radio frequency sensing |
CN115238717B (zh) * | 2022-08-16 | 2023-07-04 | 中国建筑一局(集团)有限公司 | 一种区域人口走向计算系统及方法 |
US20240144098A1 (en) * | 2022-10-28 | 2024-05-02 | Mediatek Inc. | Artificial intelligence (ai)-channel state information (csi) automated labeling method |
CN116047399B (zh) * | 2023-04-03 | 2023-06-27 | 深圳市成为信息股份有限公司 | Uhf手持终端精确定位标签的方法及相关装置 |
CN117473880B (zh) * | 2023-12-27 | 2024-04-05 | 中国科学技术大学 | 样本数据生成方法及无线跌倒检测方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10460596B2 (en) | 2014-10-31 | 2019-10-29 | Siemens Schweiz Ag | Method, digital tool, device and system for detecting movements of objects and/or living beings in a radio range, in particular of an indoor area |
US9964468B1 (en) | 2014-12-08 | 2018-05-08 | Bentley Systems, Incorporated | Optimizing sensor placement for structural health monitoring |
US10366183B2 (en) | 2015-12-01 | 2019-07-30 | The United States Of America As Represented By The Secretary Of The Army | System for modeling intelligent sensor selection and placement |
US10112300B2 (en) | 2016-02-25 | 2018-10-30 | King Faud University Of Petroleum And Minerals | Apparatus and method of sensor deployment |
US10591586B2 (en) | 2017-07-07 | 2020-03-17 | Infineon Technologies Ag | System and method for identifying a target using radar sensors |
WO2020185209A1 (en) * | 2019-03-11 | 2020-09-17 | Plato Systems, Inc. | Radar data collection and labeling for machine-learning |
US11675066B2 (en) | 2019-08-08 | 2023-06-13 | Syracuse University | Motion detection and classification using ambient wireless signals |
JP2022545969A (ja) | 2019-09-02 | 2022-11-01 | アイキュー、ワークス、リミテッド | イベント認識のためのシステム及び方法 |
US11575452B2 (en) | 2021-04-13 | 2023-02-07 | Qualcomm Incorporated | Passive positioning with radio frequency sensing |
-
2021
- 2021-04-13 US US17/229,805 patent/US11755886B2/en active Active
-
2022
- 2022-03-03 CN CN202280027207.0A patent/CN117157552A/zh active Pending
- 2022-03-03 WO PCT/US2022/018796 patent/WO2022220947A1/en active Application Filing
- 2022-03-03 KR KR1020237034246A patent/KR20230169969A/ko unknown
- 2022-03-03 EP EP22711799.1A patent/EP4323797A1/en active Pending
- 2022-03-03 TW TW111107733A patent/TW202307458A/zh unknown
Also Published As
Publication number | Publication date |
---|---|
TW202307458A (zh) | 2023-02-16 |
US11755886B2 (en) | 2023-09-12 |
EP4323797A1 (en) | 2024-02-21 |
WO2022220947A1 (en) | 2022-10-20 |
KR20230169969A (ko) | 2023-12-18 |
US20220327360A1 (en) | 2022-10-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11755886B2 (en) | Passive positioning with radio frequency sensing labels | |
US10833912B2 (en) | Methods, devices, servers, apparatus, and systems for wireless internet of things applications | |
Alhomayani et al. | Deep learning methods for fingerprint-based indoor positioning: A review | |
US11575452B2 (en) | Passive positioning with radio frequency sensing | |
JP2022070874A (ja) | 無線測位システム | |
US11871299B2 (en) | Self-supervised passive positioning using wireless data | |
US20220329973A1 (en) | Self-supervised passive positioning using wireless data | |
WO2017155634A1 (en) | Methods, devices, servers, apparatus, and systems for wireless internet of things applications | |
US20230273291A1 (en) | Method, apparatus, and system for wireless monitoring with improved accuracy | |
Li et al. | Wireless localisation in WiFi using novel deep architectures | |
EP4302211A1 (en) | Facial recognition using radio frequency sensing | |
Luo et al. | Indoor smartphone slam with learned echoic location features | |
EP4295760A1 (en) | Method, apparatus, and system for wireless motion monitoring based on classified sliding time windows | |
CN117355763A (zh) | 使用无线数据的自监督式被动定位 | |
Luo et al. | Indoor Smartphone SLAM With Acoustic Echoes | |
Tian | Practical indoor localization system using GSM fingerprints and embedded sensors | |
Tiku | Secure, accurate, real-time, and heterogeneity-resilient indoor localization with smartphones | |
Shi et al. | Design and Implementation of Non-intrusive Stationary Occupancy Count in Elevator with WiFi | |
Mamede | A Machine Learning Approach to Indoor Localization Using Bluetooth and Video Data | |
Alhomayani | Deep Learning Methods for Fingerprint-Based Indoor and Outdoor Positioning | |
WO2024064468A1 (en) | Voice user interface assisted with radio frequency sensing | |
Quyum | Guidelines for Indoor Positioning | |
Cao et al. | Wireless Sensing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |