TW202303179A - 基於射頻感測來控制設備和處理設置 - Google Patents
基於射頻感測來控制設備和處理設置 Download PDFInfo
- Publication number
- TW202303179A TW202303179A TW111119267A TW111119267A TW202303179A TW 202303179 A TW202303179 A TW 202303179A TW 111119267 A TW111119267 A TW 111119267A TW 111119267 A TW111119267 A TW 111119267A TW 202303179 A TW202303179 A TW 202303179A
- Authority
- TW
- Taiwan
- Prior art keywords
- image capture
- objects
- capture device
- image
- fov
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims description 33
- 238000000034 method Methods 0.000 claims abstract description 161
- 230000009471 action Effects 0.000 claims abstract description 52
- 230000001960 triggered effect Effects 0.000 claims description 26
- 230000003190 augmentative effect Effects 0.000 claims description 12
- 238000010801 machine learning Methods 0.000 claims description 11
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000005457 optimization Methods 0.000 abstract description 5
- 230000000875 corresponding effect Effects 0.000 description 99
- 238000004891 communication Methods 0.000 description 51
- 230000001276 controlling effect Effects 0.000 description 37
- 230000006870 function Effects 0.000 description 35
- 230000008569 process Effects 0.000 description 31
- 230000005540 biological transmission Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 19
- 230000033001 locomotion Effects 0.000 description 14
- 238000005516 engineering process Methods 0.000 description 13
- 239000000463 material Substances 0.000 description 13
- 230000036961 partial effect Effects 0.000 description 12
- 230000008054 signal transmission Effects 0.000 description 12
- 238000007635 classification algorithm Methods 0.000 description 10
- 238000005259 measurement Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 238000009877 rendering Methods 0.000 description 7
- 230000004044 response Effects 0.000 description 7
- 230000011664 signaling Effects 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000001413 cellular effect Effects 0.000 description 5
- 238000013500 data storage Methods 0.000 description 5
- 238000003491 array Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 239000011521 glass Substances 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 239000004984 smart glass Substances 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 239000000523 sample Substances 0.000 description 3
- 238000001228 spectrum Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- VYLDEYYOISNGST-UHFFFAOYSA-N bissulfosuccinimidyl suberate Chemical compound O=C1C(S(=O)(=O)O)CC(=O)N1OC(=O)CCCCCCC(=O)ON1C(=O)C(S(O)(=O)=O)CC1=O VYLDEYYOISNGST-UHFFFAOYSA-N 0.000 description 2
- 239000000872 buffer Substances 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000005562 fading Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 239000004606 Fillers/Extenders Substances 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000002301 combined effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- -1 etc.) Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 230000001976 improved effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000006249 magnetic particle Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000005022 packaging material Substances 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
- G01S7/52017—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00 particularly adapted to short-range imaging
- G01S7/52096—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00 particularly adapted to short-range imaging related to power management, e.g. saving power or prolonging life of electronic components
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/04—Systems determining presence of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/06—Systems determining position data of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/003—Transmission of data between radar, sonar or lidar systems and remote stations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/003—Transmission of data between radar, sonar or lidar systems and remote stations
- G01S7/006—Transmission of data between radar, sonar or lidar systems and remote stations using shared front-end circuitry, e.g. antennas
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
- G01S7/52017—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00 particularly adapted to short-range imaging
- G01S7/52046—Techniques for image enhancement involving transmitter or receiver
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3234—Power saving characterised by the action undertaken
- G06F1/325—Power saving in peripheral device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W52/00—Power management, e.g. TPC [Transmission Power Control], power saving or power classes
- H04W52/02—Power saving arrangements
- H04W52/0209—Power saving arrangements in terminal devices
- H04W52/0212—Power saving arrangements in terminal devices managed by the network, e.g. network or access point is master and terminal is slave
- H04W52/0216—Power saving arrangements in terminal devices managed by the network, e.g. network or access point is master and terminal is slave using a pre-established activity schedule, e.g. traffic indication frame
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W52/00—Power management, e.g. TPC [Transmission Power Control], power saving or power classes
- H04W52/02—Power saving arrangements
- H04W52/0209—Power saving arrangements in terminal devices
- H04W52/0251—Power saving arrangements in terminal devices using monitoring of local events, e.g. events related to user activity
- H04W52/0254—Power saving arrangements in terminal devices using monitoring of local events, e.g. events related to user activity detecting a user operation or a tactile contact or a motion of the device
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Geophysics And Detection Of Objects (AREA)
- Radar Systems Or Details Thereof (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
揭示用於使用射頻(RF)感測的擴展現實最佳化的系統和技術。一種示例方法可以包括:獲得RF感測資料;基於RF感測資料決定一或多個反射RF信號的反射路徑,每個反射RF信號包括來自物理空間中的一或多個物件的發送信號的反射;將一或多個反射路徑與設備的圖像感測器的視場(FOV)進行比較;並且基於該比較,觸發設備及/或圖像感測器的動作。
Description
本案大體上係關於射頻感測。例如,本案的態樣係關於基於射頻感測來控制設備及/或處理設置。
無線電子設備可以提供各種無線服務諸如,例如地理定位、地圖繪製和路線搜尋等。為了實現各種無線功能,無線電子設備可以包括被配置為發送和接收射頻(RF)信號的硬體和軟體元件。例如,無線電子設備可以被配置為經由Wi-Fi、5G/新無線電(NR)、藍芽
TM及/或超寬頻(UWB)等進行通訊。
在一些情況下,無線電子設備還可以實現數位相機以擷取視訊及/或圖像。例如,諸如電話、聯網車輛、電腦、遊戲系統、可穿戴設備、智慧家居助理等的無線設備通常配備有相機。相機允許電子設備擷取視訊及/或圖像。視訊及/或圖像可以被擷取用於娛樂用途、專業攝影、監視、擴展現實和自動化以及其他應用。此外,相機越來越多地配備有特定功能,用於針對各種效果及/或應用來修改及/或操縱視訊及/或圖像。例如,許多相機配備有視訊/影像處理能力,用於偵測被擷取圖像上的物件、產生不同的圖像及/或視訊效果等。
以下呈現了與本文揭露的一或多個態樣相關的簡化概述。因此,以下概述不應被視為與所有預期態樣相關的廣泛概述,也不應被視為標識與所有預期態樣相關的關鍵或重要元素或圖示與任何特定態樣相關的範圍。因此,以下概述的唯一目的是在下面提供的詳細描述之前,以簡化的形式提供與在此揭露的機構的一或多個態樣相關的某些概念。
揭示用於基於射頻(RF)感測控制設備及/或處理設置的系統、方法、裝置和電腦可讀取媒體。根據至少一個示例,提供了一種用於基於RF感測來控制設備及/或處理設置的方法。該方法可以包括:獲得射頻(RF)感測資料;基於RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括發送RF信號從物理空間中的一或多個物件的反射;將一或多個反射路徑與和行動設備相關聯的圖像擷取裝置的視場(FOV)進行比較;及基於該比較,由圖像擷取設備和行動設備中的至少一個觸發動作。
根據至少一個示例,提供了一種用於基於RF感測來控制設備及/或處理設置的非暫時性電腦可讀取媒體。非暫時性電腦可讀取媒體可以包括指令,這些指令當由一或多個處理器執行時,使得一或多個處理器:獲得射頻(RF)感測資料;基於RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括發送RF信號從物理空間中的一或多個物件的反射;將一或多個反射路徑與和裝置相關聯的圖像擷取裝置的視場(FOV)進行比較;及基於該比較,觸發圖像擷取裝置和裝置中的至少一個的動作。
根據至少一個示例,提供了一種用於基於RF感測來控制設備及/或處理設置的裝置。該裝置可以包括記憶體以及與記憶體耦合的一或多個處理器,該一或多個處理器被配置為:獲得射頻(RF)感測資料;基於RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括發送RF信號從物理空間中的一或多個物件的反射;將一或多個反射路徑與和裝置相關聯的圖像擷取裝置的視場(FOV)進行比較;及基於該比較,觸發圖像擷取裝置和裝置中的至少一個的動作。
根據至少一個示例,提供了一種用於基於RF感測來控制設備及/或處理設置的另一裝置。該裝置可以包括用於執行以下方法的構件:獲得射頻(RF)感測資料;基於RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括發送RF信號從物理空間中的一或多個物件的反射;將一或多個反射路徑與和裝置相關聯的圖像擷取裝置的視場(FOV)進行比較;及基於該比較,由圖像擷取設備和裝置中的至少一個觸發動作。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:基於該比較,決定一或多個物件在圖像擷取裝置的FOV之外;及基於決定一或多個物件在圖像擷取裝置的FOV之外,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取設備的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:決定一或多個物件正朝著與圖像擷取裝置的FOV相對應的場景的一部分移動;及基於決定一或多個物件正朝著對應於圖像擷取裝置的FOV的場景的該部分移動,將圖像擷取裝置的功率設置調整到不同的功率狀態。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋;及基於決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取裝置的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態,其中觸發動作還基於決定圖像擷取裝置對一或多個物件的視角被阻擋。
在一些示例中,決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋還包括:基於該比較,決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內;及基於一或多個物件的位置來決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋。
在一些示例中,圖像擷取裝置包括複數個圖像感測器。在一些情況下,觸發動作包括控制圖像擷取裝置的功率設置,並且其中控制圖像擷取裝置的功率設置還包括控制複數個圖像感測器的單獨功率設置。
在一些示例中,控制複數個圖像感測器的單獨功率設置還可以包括:基於決定手在複數個圖像感測器中的特定一個的FOV內,將行動設備的複數個處理器中的至少一個專用於複數個圖像感測器中的特定一個以用於影像處理。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:基於決定一或多個物件在圖像擷取裝置的FOV之外,控制行動設備的複數個處理器對行動設備的複數個圖像擷取裝置的使用,複數個圖像擷取裝置包括圖像擷取裝置。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取裝置的FOV的場景的一部分移動;及回應於決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取設備的FOV的場景的該部分移動,將活動相機設置從圖像擷取裝置切換到不同圖像擷取裝置。在一些情況下,切換的活動相機設置可以觸發行動設備使用不同圖像擷取裝置來擷取一或多個圖像。
在一些示例中,一或多個物件中的至少一個包括與行動設備的使用者相關聯的手。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:決定RF信號的路徑,該路徑包括經發送RF信號的直接路徑;及基於RF信號的路徑決定一或多個物件相對於行動設備的位置。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以基於一或多個反射路徑決定一或多個物件相對於行動設備的位置。在一些態樣中,決定一或多個物件的位置還包括決定與一或多個反射路徑相關聯的相應距離、相應方位角和相應仰角中的至少一個。
在一些態樣中,觸發動作包括控制圖像擷取裝置的功率設置。在一些示例中,控制圖像擷取裝置的功率設置還基於光位准低於閾值。在一些示例中,控制圖像擷取裝置的功率設置還基於隱私設置。在一些示例中,隱私設置基於使用者輸入、應用資料及/或全球導航衛星系統(GNSS)資料。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:基於RF感測資料和一或多個反射路徑,決定一或多個物件的大小和形狀中的至少一個。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:基於RF感測資料和一或多個反射路徑,決定來自一或多個物件中的物件的形狀;基於物件的形狀,決定物件包括與行動設備的使用者相關聯的手;及使用由圖像擷取裝置擷取的圖像產生手的裁剪圖像。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以基於一或多個反射路徑來決定一或多個物件相對於行動設備的位置。在一些情況下,裁剪圖像是基於所述一或多個物件的位置產生的,並且一或多個物件的位置包括手部位置。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以基於相關聯物件的相應距離在距離閾值內,從一或多個反射路徑中選擇一或多個反射路徑中的至少一個。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以向目的地設備發送裁剪圖像。在一些示例中,目的地設備包括伺服器和行動設備中的至少一個。在一些情況下,行動設備包括擴展現實設備。
在一些示例中,一或多個物件中的至少一個包括行動設備的使用者的手。在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以:基於RF感測資料和一或多個反射路徑,決定物理空間的地圖和與使用者的手相關聯的手勢中的至少一個。
在一些情況下,觸發的動作包括提取圖像的包含一或多個物件的一部分。在一些情況下,觸發的動作包括決定是否擷取一或多個物件的一或多個圖像。在一些示例中,觸發的動作還基於決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內。
在一些態樣中,上述方法、非暫時性電腦可讀取媒體和裝置可以使用機器學習演算法來偵測與行動設備的使用者相關聯的手和圖像擷取裝置的視角對手的阻礙中的至少一個。在一些示例中,手包括一或多個物件中的至少一個。
在一些態樣中,該裝置是行動設備(例如,行動電話或「智慧型電話」或其他行動設備)、可穿戴設備(例如,頭戴式顯示器)、擴展現實設備(例如,虛擬實境(VR)設備、增強現實(AR)設備或混合現實(MR)設備)、平板電腦、個人電腦、膝上型電腦、伺服器電腦、無線存取點或具有RF介面的任何其他設備,或者是這些設備的一部分。在一些態樣中,上述裝置可以包括用於擷取一或多個圖像的一或多個相機。在一些態樣中,該裝置還包括用於顯示一或多個圖像、通知及/或其他可顯示資料的顯示器。在一些態樣中,上述裝置可以包括一或多個感測器,這些感測器可以用於決定裝置的位置、裝置的方位及/或用於任何其他目的。
參考以下說明書、申請專利範圍和附圖,前述內容以及其他特徵和實施例將變得更加明顯。
出於說明的目的,下面提供了本案的某些態樣和實施例。可在不脫離本案的範圍的情況下設計替代態樣。此外,本案的已知元件將不再詳細描述或將被省去以免混淆本案的相關細節。本文描述的一些態樣和實施例可以獨立應用,並且它們中的一些可以組合應用,這對熟習此項技術者來說是顯而易見的。在以下描述中,出於解釋的目的,闡述了具體細節,以便提供對本案的實施例的全面理解。然而,顯而易見的是,可以在沒有這些具體細節的情況下實踐各種實施例。附圖和描述並非旨在限制。
隨後的描述提供示例實施例,並且不旨在限制本案的範圍、適用性或配置。相反,示例性實施例的隨後描述將為熟習此項技術者提供用於實現示例性實施例的使能描述。應當理解,在不脫離如所附請求項中闡述的本案的範圍的情況下,可以對元件的功能和佈置進行各種改變。
如前述,無線電子設備可以提供各種無線和其他服務,諸如但不限於地理定位、地圖繪製、擴展現實、影像處理和路線搜尋等。無線電子設備的非限制性示例可以包括行動電話、可穿戴設備、智慧家居助理、電視、聯網車輛、遊戲系統、物聯網路(IoT)設備、相機、平板電腦、膝上型電腦等。為了實現無線功能,無線電子設備可以包括配置為發送和接收射頻(RF)信號的硬體和軟體元件。例如,無線電子設備可以被配置為經由Wi-Fi、5G/新無線電(NR)、藍芽
TM及/或超寬頻(UWB)等進行通訊。在一些情況下,無線電子設備還可以實現數位相機以擷取視訊及/或圖像。
例如,無線設備(例如行動電話、可穿戴設備、聯網車輛、膝上型電腦、平板電腦、IoT設備、遊戲系統、智慧家居助理、相機等)通常配備有相機。相機允許電子設備擷取視訊及/或圖像。可以擷取視訊及/或圖像用於娛樂用途、專業攝影、監視、擴展現實和自動化以及其他應用。此外,相機設備越來越多地配備有用於針對各種效果及/或應用來修改及/或操縱視訊及/或圖像的功能。例如,相機設備可以被配備有視訊/影像處理能力,用於偵測被擷取圖像上的物件、產生圖像及/或視訊效果、渲染視訊/圖像等。
在一些示例中,相機可以在電子設備中實現用於擴展現實(XR)。XR技術可以包括增強現實(AR)、虛擬實境(VR)、混合現實(MR)等。XR技術可以組合來自物理世界(例如,真實世界)的真實環境和虛擬環境或內容,以向使用者提供XR體驗。XR體驗允許使用者與由虛擬內容加強或增強的真實或物理環境進行互動,反之亦然。可以實現XR技術來在諸如例如醫療保健、零售、教育、社交媒體、娛樂等的廣泛的環境中提供功能及/或增強使用者體驗。
為了提供真實的XR體驗,XR技術可以將虛擬內容與實體世界相結合。在一些示例中,這可以涉及產生真實世界環境的地圖,並且決定或計算使用者的XR設備相對於真實世界環境的地圖的特定姿態,以便以令人信服的方式將虛擬內容錨定到真實世界環境。姿態資訊可用於將虛擬內容與使用者感知的運動和真實世界環境的時空狀態相匹配。
XR設備和諸如例如智慧手機、平板電腦、膝上型電腦等的其他電子設備可以包括無線能力,並且通常可以執行諸如地理定位、地圖繪製及/或路線搜尋等的功能。在一些情況下,XR設備可以向與XR設備相關聯的目的地設備(諸如行動設備(例如,智慧手機)、伺服器(例如,邊緣伺服器、雲端伺服器等)及/或其他設備)發送在XR設備處擷取的追蹤訊框和感測器測量值(例如,慣性測量單元(IMU)測量值等)。XR設備可以是被配置為由使用者穿戴的可穿戴設備。在一些態樣中,XR設備可以被配置為被穿戴在使用者的頭部,諸如頭戴式顯示器(HMD)、智能眼鏡、XR或AR眼鏡等。追蹤訊框可以包括由XR設備處的相機例如藉由將相機指向,即將XR設備處的相機佈置成指向使用者視覺的大致方向擷取的圖像,該圖像與使用者的視場相關聯。目的地設備(例如,行動設備或伺服器)可以使用追蹤訊框來偵測手勢、執行手和控制器追蹤等。
然而,擷取追蹤訊框並向目的地設備發送追蹤訊框的過程會消耗大量的網路和設備資源。例如,擷取和發送追蹤訊框的過程會增加XR設備處的功耗。此外,來自XR設備的追蹤訊框可能很大,並且可能顯著增加到目的地設備(例如,行動設備或伺服器)的(UL)傳輸的上行鏈路(UL)傳輸量需求/使用。
在一些情況下,使用追蹤訊框來偵測手勢並追蹤手和其他物件可能具有若干挑戰及/或限制。例如,當手在XR設備處的相機的視場(FOV)之外時,諸如當手在使用者的身體後面或在使用者的口袋中時,追蹤訊框可能不啟用手追蹤。然而,在這種情況下,即使對手部位置的粗略估計也將有助於預測未來的手部位置並執行更平滑的手追蹤。
減小追蹤訊框的大小可以減少UL廣播時間、XR設備功耗、與下行鏈路(DL)傳輸量的爭用、及/或其他改進。在一些示例中,可以使用電腦視覺來處理追蹤訊框並估計手在追蹤訊框中的(粗略)位置,從而減小追蹤訊框的大小。利用這種方法,XR設備可以藉由僅發送包含手的部分訊框來減小向目的地設備發送的追蹤訊框的大小。然而,在XR設備處實現電腦視覺來估計手在追蹤訊框中的(粗略)位置會顯著增加XR設備處的功耗。
此外,由電子設備實現以擷取圖像(也稱為訊框)的相機設備元件會增加電子設備的功耗。在許多情況下,一些電子設備,諸如行動設備(例如,XR 設備、網際網路協定(IP)相機、智慧手機、可穿戴設備、智慧家居助理、平板電腦、膝上型電腦、物聯網設備等),可能比其他設備具有更有限的電池/功率容量,並且可能更顯著地受到相機設備元件的功耗的影響。在電子設備執行額外的及/或更多計算密集型操作的情況下,電子設備的功耗通常會對電子設備的電池壽命產生更大的影響。例如,在一些情況下,XR設備可能不向目的地設備發送圖像資料(例如,追蹤訊框等)或感測器測量值以卸載如前述的某些操作(例如,手勢偵測、物件偵測、手追蹤、控制器追蹤等),而是使用圖像資料和感測器測量來在XR設備處執行這些操作。在這種情況下,在XR設備處執行的附加操作(例如,相對於這些操作被卸載到目的地設備的實施方式)會增加XR設備處的功耗,從而增加XR設備處的電池/功率約束/限制的影響。
如本文進一步描述的,在一些示例中,電子設備可以藉由減少及/或限制相機設備元件的不必要的功率及/或資源使用來減少其功耗。這種功耗的降低可以增加電子設備的電池壽命,並且在給定電子設備的有限電池/功率容量的情況下(諸如在電子設備是XR設備並且不卸載(或卸載較少)操作到如前述的目的地設備的情況下)可能是有利的。例如,為了減少XR設備處的功耗,XR設備可以控制XR設備處的相機設備元件的設置,以便根據相機設備是否可以看到場景中的感興趣的物件來減少及/或增加它們的功耗位准。
為了說明,如果感興趣的物件對於XR設備的相機設備不可見(例如,在相機設備的視場之外及/或被另一個物件遮擋等),XR設備可以關閉相機設備或降低相機設備的功率模式,以避免相機設備在相機設備不能擷取物件的圖像時的不必要的功率消耗。如果感興趣的物件在相機設備的視場內(或接近在閾值估計的時間訊框、接近度及/或軌跡內)並且沒有被另一個物件遮擋,則XR設備可以打開相機設備或增加相機設備的功率模式,以允許(或更好地允許)相機設備擷取物件的圖像。
本文描述了用於在諸如例如XR、自動化、圖像/視訊處理等的多種應用中減少諸如XR設備(例如,頭戴式顯示器、智慧眼鏡等)的設備所使用的網路及/或設備資源量的系統和技術。在一些示例中,本文描述的系統和技術可以減少從XR設備到諸如行動設備或伺服器的目的地設備的UL傳輸量的數量/大小。例如,本文描述的系統和技術可以在沒有來自XR設備的完整追蹤訊框的情況下實現手勢偵測及/或手和物件追蹤。
在一些示例中,XR設備可以使用射頻(RF)感測來偵測使用者的至少一隻手的位置。XR設備可以使用偵測到的使用者的手的位置來建立包含使用者的手的部分訊框,即擷取的(完整)追蹤訊框的僅一部分,並向目的地設備發送該部分訊框,而不是發送完整追蹤訊框。目的地設備可以使用該部分訊框來偵測手勢、追蹤使用者的手、及/或偵測場景中的任何其他物件,諸如XR控制器。部分訊框可以小於完整追蹤訊框。因此,藉由發送部分訊框而不是完整追蹤訊框,XR設備可以減少去往目的地設備的UL傳輸量的大小以及整體網路使用。
RF感測可以使用RF資料來產生空間(諸如場景中的空間或室內空間)的地圖。在一些情況下,使用單站(monostatic)配置,無線設備(例如,XR設備、智慧手機等)可以使用能夠執行發送和接收功能的無線介面來獲得RF感測資料。在一些示例中,無線設備可以實現Wi-Fi雷達以獲得RF感測資料。Wi-Fi雷達可以實現能夠執行發送和接收功能的RF介面。Wi-Fi雷達(及/或實現Wi-Fi雷達的無線設備)可以使用無線電傳輸的信號強度來決定一或多個物件的位置/定位。例如,無線設備可以利用(例如,Wi-Fi雷達的)無線介面來發送RF信號並擷取從周圍環境中的物件反射的任何信號。無線介面還可以接收直接從發送器天線耦合到接收器天線而不會從任何物件反射的洩漏信號。在一些示例中,無線設備可以以與發送信號的直接路徑(洩漏信號)相關的通道狀態資訊(CSI)資料和與對應於發送信號的接收信號的反射路徑相關的資料的形式收集RF感測資料。在一些情況下,可以使用雙站配置,其中發送和接收功能由不同的設備執行。例如,第一設備可以發送從場景中的一或多個物件反射的無線信號,並且第二設備的無線介面可以接收反射的信號及/或直接來自第一設備的信號。在一些情況下,信號可以是使用全向天線發送的全向信號,並且信號可以以360度輻射模式發送。
CSI資料可以描述無線信號如何從發送器傳播到接收器。CSI資料可以表示散射、衰落和功率隨距離衰減的組合效應,並且可以顯示通訊鏈路的通道屬性。由於其頻率分集,收集的CSI資料可以反映由任何移動物件引起的變化的多徑反射。在一些示例中,CSI資料可以包括頻寬的頻域中每個音調的I/Q數。某些CSI屬性的變化可以用於偵測運動、估計位置的變化、決定運動模式的變化等。
在一些示例中,CSI資料可以用於決定或計算反射信號的距離以及到達角。在一些情況下,CSI資料可用於決定一或多個反射信號的一或多個路徑的距離、方位角及/或仰角。一或多個反射信號的一或多個路徑的距離、方位角及/或仰角可以用於辨識周圍環境中一或多個物件的大小、形狀及/或定位。一或多個物件的大小、形狀及/或定位可用於控制設備的一或多個資源(例如,電源、感測器資源、處理器資源等)、產生室內地圖、追蹤一或多個物件等。在一個示例中,可以藉由測量從接收洩漏信號到接收反射信號的時間差來決定反射信號的距離。在另一個示例中,可以藉由使用天線陣列接收反射信號並測量天線陣列的每個元件處的接收相位差來決定反射角。
在一些情況下,利用RF感測,系統可以使用信號處理來提取反射並聚焦在距離短(例如,在閾值距離內,諸如1.5m或1m,因為某些感興趣的物件諸如手大體靠近XR設備)及/或相對於直接路徑距離短的反射路徑上,以降低XR設備處的計算複雜度及/或功耗。RF感測可用於估計引起反射的物件的尺寸。物件分類演算法(例如,信號處理、機器學習等)可以用於對偵測到的物件進行分類。例如,物件分類演算法可以用於將偵測到的物件分類為手或非手(或者分類為具有除手之外的一或多個分類)。發送全向信號時,RF感測可以360度追蹤並且不受相機視場限制。因此,RF感測可以用於追蹤在相機視場之外的物件(例如,手等)。在一些示例中,RF感測甚至可以在沒有追蹤訊框的情況下追蹤物件,並且可以提供對物件位置的估計。XR設備可以向目的地設備(例如,智慧手機或伺服器)發送RF感測資訊,以説明預測未來的物件位置及/或實現平滑的物件追蹤。
在一些示例中,XR設備可以從目的地設備(例如,智慧手機、伺服器等)接收包括下行鏈路實體層協定資料單元(DL-PPDU)的RF感測訊框或Wi-Fi雷達信號。XR設備可以根據RF感測訊框來估計CSI資訊。XR設備可以處理CSI資訊,並提取與RF感測訊框相關聯的RF信號的直接路徑和反射路徑。即使沒有視線(LOS),也可以提取直接路徑,甚至可以藉由某些障礙物(諸如物件或牆壁)偵測到直接路徑。在一些情況下,DL-PPDU的直接路徑可以是從目的地設備(例如,智慧手機或伺服器)到XR設備。在一些情況下,Wi-Fi雷達信號的直接路徑可以是從XR設備中的Tx天線到Rx天線(單站配置)。在其他情況下,Wi-Fi雷達信號的直接路徑可以是從目的地設備或另一設備的Tx天線到XR設備的Rx天線(雙站配置)。
在一些示例中,XR設備可以選擇距離相對於直接路徑更短的反射路徑(例如,或者在閾值距離內,諸如1.5m或1m),並且估計每個選定反射路徑相對於RF感測座標系的距離、方位角和仰角。XR設備可以使用每個選定反射路徑的距離、方位角和仰角來偵測物理空間中的物件,並測量每個偵測到的物件的尺寸。在一些示例中,可以基於與每個反射路徑相關聯的反射信號的估計飛行時間和估計到達角來決定或計算每個選定反射路徑的距離、方位角和仰角(及/或其角度)。
在一些態樣中,XR設備可以使用物件分類演算法(例如,信號處理、機器學習)來對偵測到的物件進行分類。例如,XR設備可以使用物件分類演算法來將偵測到的物件分類為身體部分(例如,手、手指、腿、腳等)、輸入裝置(例如,觸筆、控制器、戒指、手套、滑鼠、鍵盤、操縱桿、旋鈕、緊身衣褲、墊子或跑步機、球等)、或任何其他物件。在一些情況下,XR設備可以偵測物件(諸如輸入裝置)上的一或多個視覺標記(例如,視覺特徵、圖案、代碼、屬性等),並使用該一或多個視覺標記來使用物件分類演算法對物件進行分類。在一些示例中,XR設備可以使用物件分類演算法來分類偵測到的物件是否是手。XR設備可以執行相機校準以將相機圖像座標系與RF感測座標系對準。基於XR設備的相機位置和姿態,相機圖像座標系可以來自XR設備處的相機的視場(FOV)。在一些示例中,XR設備可以使用感測器資料(伴隨有或無其他資料),諸如來自慣性測量單元(IMU)的資料,來計算XR設備的姿態。在一些情況下,XR設備可以使用XR設備的姿態來計算XR設備的FOV的參考座標及/或細化使用RF感測計算的物件的位置(例如,手的位置、輸入裝置的位置等)。
RF感測座標系可以基於天線位置和XR設備的姿態。在RF感測元件(例如,XR設備處的Rx天線)和相機(大體都安裝在XR設備上)之間的固定空間關係的情況下,當匯出上述座標系時,可以省去XR設備的姿態。XR設備可以決定被分類為手的偵測到的物件的位置,並且使用手的位置來產生擷取/包含偵測到的手的部分圖像。在一些示例中,XR設備可以使用手的位置來裁剪由相機擷取的手的圖像,以產生部分圖像(例如,手的裁剪圖像)。XR設備可以向目的地設備發送UL封包中的部分圖像。目的地設備可以使用該部分圖像來偵測手勢、追蹤手及/或追蹤諸如一或多個輸入裝置(例如,控制器、指示筆、戒指、手套、滑鼠、鍵盤、操縱桿、旋鈕、緊身衣褲、墊子或跑步機、球等)的其他物件。
在一些示例中,XR設備可以使用RF感測資料來決定偵測到的手是否被一或多個物件遮擋及/或偵測到的手是否在XR設備的相機的FOV之外。例如,XR設備可以決定偵測到的手是否位於將手從相機的FOV中遮擋的桌子下方。作為另一個示例,XR設備可以決定手是否在使用者的背後並且在相機的FOV之外。在一些情況下,當決定手被遮擋及/或在相機的FOV之外時,XR設備可以控制相機的功率設置以降低XR設備的功耗。例如,當手被遮擋或在相機的FOV之外時,XR設備可以關閉相機或將相機置於低功率模式。如果XR設備隨後決定手不再被遮擋或不在相機的FOV之外,它可以重新打開相機或將相機置於更高功率模式。在一些情況下,XR設備可以使用RF感測來偵測手的運動,並且如果該運動指示手正在接近相機的FOV時,則使相機準備拍攝一或多個圖像來擷取手勢。在一些情況下,當決定手被遮擋或者在相機的FOV之外時,XR設備可以使用RF感測資料來產生與XR設備相關聯的物理空間的稀疏地圖。
在一些情況下,XR設備可以決定並儲存裝置位置資料和設備方位資料。在一些情況下,如果設備在運動中,XR設備位置資料和設備方位資料可以用於調整(使用CSI資料決定的)反射信號的反射距離和角度的計算。例如,定位和方位資料可用於將一或多個反射信號和與其對應的發送信號相關聯。在一些示例中,可以使用測量往返時間(RTT)、被動定位、到達角(AoA)、接收信號強度指示符(RSSI)的技術、使用CSI資料、使用任何其他合適的技術或其任何組合來收集設備位置或定位資料。設備方位資料可以從XR設備上的電子感測器獲得,諸如一或多個陀螺儀、加速度計、羅盤、任何其他合適的感測器或其任何組合。
下文將參照附圖討論本文描述的技術的各個態樣。圖1是示例通訊系統100的方塊圖。根據一些態樣中,通訊系統100可以包括無線區域網路(WLAN)108,諸如Wi-Fi網路。例如,WLAN 108可以是實現IEEE 802.11系列無線通訊協定標準中的至少一個標準(諸如由IEEE 802.11-2016規格或其修訂版定義的標準,包括但不限於802.11ay、802.11ax、802.11az、802.11ba和802.11be)的網路。
WLAN 108可以包括許多無線通訊設備,諸如存取點(AP)102和使用者設備(UE)104a、104b、104c和104d(統稱為「UE 104」)。雖然僅圖示一個AP 102,但是WLAN 108也可以包括多個AP 102。一般而言,UE可以是由使用者使用以經由無線通訊網路進行通訊的任何無線通訊設備(例如,行動電話、路由器、平板電腦、膝上型電腦、可穿戴設備(例如,智慧手錶、眼鏡、擴展現實(XR)設備(諸如虛擬實境(VR)耳機、增強現實(AR)耳機或眼鏡、或者混合現實(MR)耳機等)、交通工具(例如汽車、摩托車、自行車等)、物聯網路(IoT)設備等)。UE可以是行動的或可以(例如,在某些時間)是靜止的,並且可與無線電存取網路(RAN)通訊。如本文所使用的,術語「UE」可互換地稱為「存取終端」或「AT」、「使用者設備」、「使用者終端」或UT、「客戶端設備」、「無線設備」、「用戶設備」、「用戶終端」、「用戶站」、「行動設備」、「行動終端」、「行動站」或其變體。大體上,UE可藉由RAN與核心網路通訊,並且藉由核心網路,UE可與諸如網際網路的外部網路以及與其他UE連接。如本文所述,UE還可以與其他UE及/或其他設備進行通訊。
AP 102和相關聯的一組UE 104可以被稱為基本服務集(BSS),其由相應的AP 102管理。可以藉由服務集辨識符(SSID)向使用者標識BSS,以及藉由基本服務集辨識符(BSSID)向其他設備標識BSS,其可以是AP 102的媒體存取控制(MAC)位址。AP 102週期性地廣播包括BSSID的信標訊框(「信標」),以使AP 102的無線範圍內的任何UE 104能夠與AP 102「關聯」或重新關聯,以建立相應的通訊鏈路106(下文中也稱為「Wi-Fi鏈路」),或者維持與AP 102的通訊鏈路106。例如,信標可以包括由相應AP 102使用的主通道的標識以及用於建立或維持與AP 102的時序同步的時序同步功能。AP 102可以經由各自的通訊鏈路106向WLAN中的各個UE 104提供對外部網路的存取。
為了建立與AP 102的通訊鏈路106,每個UE 104被配置為在一或多個頻帶(例如,2.4 GHz、5 GHz、6 GHz或60 GHz頻帶)中的頻道上執行被動或主動掃瞄操作(「掃瞄」)。為了執行被動掃瞄,UE 104監聽信標,這些信標是由相應的AP 102以被稱為目的地信標傳輸時間(TBTT)的週期性時間間隔發送的(以時間單位(TU)來測量,其中一個TU可以等於1024微秒(µs))。為了執行主動掃瞄,UE 104在要掃瞄的每個通道上產生並順序發送探測請求,並監聽來自AP 102的探測回應。每個UE 104可被配置為基於藉由被動或主動掃瞄獲得的掃瞄資訊來辨識或選擇要關聯的AP 102,並執行認證和關聯操作以建立與選定AP 102的通訊鏈路106。在關聯操作的頂點,AP 102向UE 104分配關聯辨識符(AID),AP 102使用該關聯辨識符來追蹤UE 104。
鑒於無線網路的日益普遍,UE 104可能有機會選擇UE範圍內的許多BSS之一,或者在一起形成包括多個連接的BSS的擴展服務集(ESS)的多個AP 102中進行選擇。與WLAN 108相關聯的擴展網路站可以連接到有線或無線分佈系統,該分佈系統可以允許多個AP 102在這種ESS中連接。這樣,UE 104可以被一個以上的AP 102覆蓋,並且可以在不同的時間與不同的AP 102相關聯用於不同的傳輸。此外,在與AP 102關聯之後,UE 104還可以被配置為週期性地掃瞄其周圍環境,以找到更合適的AP 102來關聯。例如,相對於其相關聯的AP 102移動的UE 104可以執行「漫遊」掃瞄,以找到具有更理想的網路特性(諸如更大的接收信號強度指示符(RSSI)或減少的傳輸量負載)的另一個AP 102。
在一些情況下,UE 104可以在沒有AP 102或除了UE 104本身之外的其他設備的情況下形成網路。這種網路的一個示例是自組織網路(或無線自組織網路)。自組織網路也可以稱為網狀網路或同級間(P2P)網路。在一些情況下,自組織網路可以在諸如WLAN 108的更大的無線網路中實現。在這種實施方式中,雖然UE 104能夠使用通訊鏈路106藉由AP 102彼此通訊,但是UE 104也可以經由直接無線鏈路110彼此直接通訊。此外,兩個UE 104可以經由一或多個設備到設備(D2D)同級間(P2P)鏈路進行通訊,這些鏈路被稱為「側行鏈路」。在圖1的示例中,UE 104b具有與UE 104a的直接無線鏈路110(例如,D2D P2P鏈路),其連接到一或多個基地台160,並允許UE 104b間接獲得蜂巢連接。雖然圖1中圖示單個基地台160,但是通訊系統100可以包括與UE 104通訊的多個基地台。在一個示例中,直接無線鏈路110可以由任何眾所周知的D2D RAT(諸如LTE Direct(LTE-D)、Wi-Fi Direct(WiFi-D)、藍芽®、UWB等)支持。
AP 102和UE 104可以根據IEEE 802.11系列無線通訊協定標準中的至少一個標準(諸如由IEEE 802.11-2016規格或其修訂版定義的標準,包括但不限於802.11ay、802.11ax、802.11az、802.11ba和802.11be)運行和通訊(經由各自的通訊鏈路106)。這些標準為PHY和媒體存取控制(MAC)層定義了WLAN無線和基頻協定。AP 102和UE 104以PHY協定資料單元(PPDU)(或實體層彙聚協定(PLCP)PDU)的形式相互發送和接收無線通訊(以下也稱為「Wi-Fi通訊」)。WLAN 108中的AP 102和UE 104可以在未授權的頻譜上發送PPDU,該頻譜可以是包括傳統上由Wi-Fi技術使用的頻帶的頻譜的一部分,諸如2.4 GHz頻帶、5 GHz頻帶、60 GHz頻帶、3.6 GHz頻帶和900 MHz頻帶。本文描述的AP 102和UE 104的一些實施方式也可以在其他頻帶中通訊,諸如6 GHz頻帶,其可以支援經授權和未授權通訊。AP 102和UE 104還可以被配置為藉由諸如共享經授權頻帶的其他頻帶進行通訊,其中多個服務供應商可以具有在相同或重疊的一或多個頻帶中操作的許可。
每個頻帶可以包括多個子頻帶或頻道。例如,符合IEEE 802.11n、802.11ac、802.11ax和802.11be標準修正案的PPDU可以在2.4、5 GHz或6 GHz頻帶上發送,其中每個頻帶被分成多個20 MHz通道。這樣,這些PPDU經由具有20 MHz最小頻寬的實體通道發送,但是更大的通道可以經由通道拘束來形成。例如,藉由將多個20 MHz通道拘束在一起,可以在具有40 MHz、80 MHz、160 MHz或200 MHz頻寬的實體通道上發送PPDU。
在一些示例中,通訊系統100可以包括一或多個基地台160。一或多個基地台160可包括巨集細胞基地台(高功率蜂巢基地台)及/或小型細胞基地台(低功率蜂巢基地台)。在一個態樣中,巨集細胞基地台可包括對應於4G/LTE網路的eNB及/或ng-eNB、或者對應於5G/NR網路的gNB、或兩者的組合,而小型細胞基地台可包括毫微微細胞、微微細胞、微細胞等。
一或多個基地台160可以共同形成RAN,並經由回載鏈路122與核心網路170(例如,演進封包核心(EPC)或5G核心(5GC))介面,並經由核心網路170到達一或多個伺服器172(其可以是核心網路170的一部分或可以在核心網路170外部)。除了其他功能以外,一或多個基地台160還可以執行與以下一或多個相關的功能:發送使用者資料、無線電通道加密和解密、完整性保護、標頭壓縮、行動性控制功能(例如,交遞、雙連接)、細胞間干擾協調、連接建立和釋放、負載平衡、非存取層(NAS)訊息的分發、NAS節點選擇、同步、RAN共享、多媒體廣播多播服務(MBMS)、用戶和設備追蹤、RAN資訊管理(RIM)、傳呼、定位和警告訊息的傳送。
一或多個基地台160可以經由通訊鏈路120與諸如UE 104a的UE進行無線通訊。一或多個基地台160和UE 104之間的通訊鏈路120可以包括從UE(例如UE 104a、104b、104c及/或104d)到基地台160的上行鏈路(也稱為反向鏈路)傳輸及/或從基地台160到一或多個UE 104的下行鏈路(也稱為前向鏈路)傳輸。通訊鏈路120可以使用MIMO天線技術,包括空間多工、波束成形及/或發送分集。通訊鏈路120可以經由一或多個載波頻率。
通訊系統100之每一者UE 104可以被配置為執行用於產生室內地圖的RF感測功能。RF感測功能可以使用UE 104中存在的能夠同時發送和接收RF信號的任何RF介面來實現。UE 104可以藉由利用通訊系統100傳送與室內繪圖相關的資料(例如,RF感測資料、部分地圖資料、位置資料、方位資料等)。
在一些示例中,作為一或多個服務及/或功能的一部分,UE 104可以與一或多個伺服器(諸如伺服器172)進行通訊。例如,作為XR體驗的一部分,UE 104可以與伺服器172進行通訊。伺服器172可以協助一或多個功能,諸如追蹤、繪圖、渲染等。與伺服器172的通訊可以經由核心網路170進行,UE 104可以藉由利用與基地台160或AP 102的通訊鏈路來存取核心網路170。AP 102可以經由通訊鏈路112存取核心網路,包括伺服器172。
圖2是示出使用者設備210的示例計算系統220的示意圖。在一些示例中,使用者設備210可以是示例UE。例如,使用者設備210可以包括行動電話、路由器、平板電腦、膝上型電腦、可穿戴設備(例如,智慧手錶、眼鏡、XR設備等)、物聯網路(IoT)設備及/或由使用者用來藉由無線通訊網路進行通訊的另一設備。
計算系統220包括軟體和硬體元件,它們可以經由匯流排238(或者可以以其他方式通訊,視情況而定)電性耦合或通訊耦合。例如,計算系統220可以包括一或多個處理器234。一或多個處理器234可以包括一或多個中央處理單元(CPU)、圖像信號處理器(ISP)、專用積體電路(ASIC)、現場可程式化閘陣列(FPGA)、應用處理器(AP)、圖形處理單元(GPU)、數位訊號處理器(DSP)、視覺處理單元(VPU)、神經網路信號處理器(NSP)、微控制器、專用硬體、其任意組合及/或其他處理設備或系統。一或多個處理器234可以使用匯流排238來在核心之間及/或與一或多個記憶體設備236通訊。
計算系統220還可以包括一或多個記憶體設備236、一或多個數位訊號處理器(DSP)232、一或多個用戶辨識模組(SIM)224、一或多個數據機226、一或多個無線收發器228、一或多個天線240、一或多個輸入裝置222(例如,相機、滑鼠、鍵盤、觸摸感應屏、觸控板、小鍵盤、麥克風等等)及/或一或多個輸出設備230(例如,顯示器、揚聲器、印表機等等)。
一或多個無線收發器228可以經由天線240從一或多個其他設備接收無線信號(例如,信號242),這些其他設備諸如其他使用者設備、網路設備(例如,諸如eNB及/或gNB的基地台、諸如路由器的Wi-Fi存取點(AP)、範圍擴展器等等)、雲端網路等等。在一些示例中,計算系統220可以包括多個天線或天線陣列,其可以促進同時發送和接收功能。在一些情況下,天線240可以是全向天線,使得可以從所有方向接收和發送RF信號。無線信號242可以經由無線網路發送。無線網路可以是任何無線網路,諸如蜂巢或電信網路(例如,3G、4G、5G等)、無線區域網路(例如,Wi-Fi網路)、藍芽
TM網路及/或其他網路。
在一些示例中,一或多個無線收發器228可以包括RF前端,該RF前端包括一或多個元件,諸如放大器、用於信號降頻轉換的混頻器(也稱為信號乘法器)、向混頻器提供信號的頻率合成器(也稱為振盪器)、基頻濾波器、類比數位轉換器(ADC)、一或多個功率放大器以及其他元件。RF前端大體可以處理無線信號242的選擇和到基頻或中頻的轉換,並且可以將RF信號轉換到數位域。
在一些情況下,計算系統220可以包括編碼-解碼設備(或CODEC),其被配置為對使用一或多個無線收發器228發送及/或接收的資料進行編碼及/或解碼。在一些情況下,計算系統220可以包括加密-解密設備或元件,其被配置為對由一或多個無線收發器228發送及/或接收的資料(例如,根據AES及/或DES標準)進行加密及/或解密。
一或多個SIM 224可以各自安全地儲存分配給使用者設備210的使用者的國際移動用戶辨識(IMSI)號碼和相關金鑰。當存取由與一或多個SIM 224相關聯的網路服務提供商或服務供應商提供的網路時,IMSI和金鑰可以用於辨識和認證用戶。一或多個數據機226可以調變一或多個信號以編碼資訊,用於使用一或多個無線收發器228進行傳輸。一或多個數據機226還可以解調由一或多個無線收發器228接收的信號,以便解碼所發送的資訊。在一些示例中,一或多個數據機226可以包括Wi-Fi數據機、4G(或LTE)數據機、5G(或NR)數據機及/或其他類型的數據機。一或多個數據機226和一或多個無線收發器228可以用於一或多個SIM 224的資料通訊。
計算系統220還可以包括(及/或與之通訊)一或多個非暫時性機器可讀儲存媒體或記憶體設備(例如,一或多個記憶體設備236),其可以包括但不限於本地及/或網路可存取儲存、磁碟機、驅動器陣列、光儲存設備、諸如RAM及/或ROM的固態記憶體設備,其可以是可程式化的、可快閃記憶體更新等等。這種記憶體設備可以被配置為實現任何適當的資料儲存器,包括但不限於各種檔案系統、資料庫結構等。
在一些示例中,功能可以作為一或多個電腦程式產品(例如,指令或代碼)儲存在記憶體設備236中,並由一或多個處理器234及/或一或多個DSP 232執行。計算系統220還可以包括(例如,位於一或多個記憶體設備236內的)軟體元件,包括例如作業系統、裝置驅動程式、可執行庫及/或其他代碼,諸如一或多個應用程式,其可以包括實現由各種實施例提供的功能的電腦程式及/或可以被設計為實現方法及/或配置系統,如本文所述。
如前述,本文描述了使用射頻(RF)感測進行XR最佳化(例如,最佳化XR操作/功能、設備/資源、設置、能力等)的系統和技術。圖3是圖示無線設備300的示例的圖,該無線設備300利用RF感測技術來偵測物件302,以便執行本文所述的一或多個XR最佳化。在一些示例中,無線設備300可以是XR設備(例如,HMD、智慧眼鏡等)、行動電話、無線存取點或包括至少一個RF介面的一些其他設備。
在一些態樣中,無線設備300可以包括用於發送RF信號的一或多個元件。無線設備300可以包括數位類比轉換器(DAC)304,其能夠(例如,從微處理器,未示出)接收數位信號或波形並將數位信號轉換成類比波形。作為DAC 304輸出的類比信號可以被提供給RF發送器306。RF發送器306可以是Wi-Fi發送器、5G/NR發送器、藍芽
TM發送器或能夠發送RF信號的任何其他發送器。
RF發送器306可以耦合到一或多個發送天線,諸如TX天線312。在一些示例中,TX天線312可以是能夠在所有方向上發送RF信號的全向天線。例如,TX天線312可以是能夠呈360度輻射模式輻射Wi-Fi信號(例如,2.4 GHz、5 GHz、6 GHz等)的全向Wi-Fi天線。在另一示例中,TX天線312可以是在特定方向上發送RF信號的定向天線。
在一些示例中,無線設備300也可以包括用於接收RF信號的一或多個元件。例如,無線設備300中的接收器佇列可以包括一或多個接收天線,諸如RX天線314。在一些示例中,RX天線314可以是能夠從多個方向接收RF信號的全向天線。在其他示例中,RX天線314可以是被配置為從特定方向接收信號的定向天線。在進一步的示例中,TX天線312和RX天線314都可以包括被配置為天線陣列的多個天線(例如,元件)。
無線設備300還可以包括耦合到RX天線314的RF接收器310。RF接收器310可以包括用於接收RF波形(例諸如Wi-Fi信號、藍芽
TM信號、5G/NR信號或任何其他RF信號)的一或多個硬體元件。RF接收器310的輸出可以耦合到類比數位轉換器(ADC)308。ADC 308可以被配置為將接收到的類比RF波形轉換成數位波形,該數位波形可以被提供給諸如數位訊號處理器(未示出)的處理器。
在一個示例中,無線設備300可以藉由從TX天線312發送TX波形316來實現RF感測技術。儘管TX波形316被示為單線,但是在一些示例中,TX波形316可以由TX天線312(例如,經由波束成形)在所有方向(例如,360度)或多個方向上發送。在一個示例中,TX波形316可以是由無線設備300中的Wi-Fi發送器發送的Wi-Fi波形。在一些示例中,TX波形316可以被實現為具有完美或幾乎完美的自相關屬性的序列。例如,TX波形316可以包括單載波Zadoff序列,或者可以包括類似於正交分頻多工(OFDM)長訓練欄位(LTF)符號的符號。
在一些情況下,無線設備300可以藉由同時執行發送和接收功能來實現RF感測技術。例如,無線設備300可以使其RF接收器310在使RF發送器306能夠發送TX波形316的同時或接近同時進行接收。在一些示例中,包括在TX波形316中的序列或樣式的傳輸可以連續重複,使得該序列被發送特定次數或特定持續時間。在一些示例中,如果在RF發送器306之後啟用RF接收器310,則可以使用重複TX波形316的傳輸中的模式來避免錯過任何反射信號的接收。在一些示例中,TX波形316可以包括被發送兩次或更多次的序列長度為L的序列,這可以允許RF接收器310在小於或等於L的時間被啟用,以便接收對應於整個序列的反射而不丟失任何資訊。
藉由實現同時發送和接收功能,無線設備300可以接收對應於TX波形316的任何信號。例如,無線設備300可以接收從TX波形316範圍內的物件反射的信號,諸如從物件302反射的RX波形318。無線設備300可以接收從TX天線312直接耦合到RX天線314而不從任何物件反射的洩漏信號(例如,TX洩漏信號320)。在一些情況下,RX波形318可以包括與TX波形316中包括的序列的多個副本相對應的多個序列。在一些示例中,無線設備300可以組合由RF接收器310接收的多個序列,以提高訊雜比(SNR)。
儘管在圖3中顯示為單站配置,但是本案不限於單站配置。在一些示例中,TX波形316可以由在空間上分離的發送設備(諸如目的地設備)處提供的對應發送鏈(DAC、RF TX、天線)來發送。例如來自無線設備300的定位程序的關於無線設備300和單獨發送設備的相對定位及/或方位的資訊可以在無線設備300處被決定及/或被傳送到無線設備300,以實現根據本案的RF感測技術。
在一些示例中,無線設備300可以藉由獲得與對應於TX波形316的每個接收信號相關聯的RF感測資料來實現RF感測技術。在一些示例中,RF感測資料可以包括與TX波形316的直接路徑(例如,洩漏信號320或視線路徑)相關的通道狀態資訊(CSI)資料以及與對應於TX波形316的反射路徑(例如,RX波形318)相關的資料。
在一些情況下,RF感測資料(例如,CSI資料)可以包括用於決定RF信號(例如,TX波形316)從RF發送器306傳播到RF接收器310的方式的資訊。RF感測資料可以包括對應於由於散射、衰落、功率隨距離衰減或其任意組合而對發送的RF信號產生的影響的資料。在一些示例中,RF感測資料可以包括對應於特定頻寬上的頻域之每一者音調的虛資料和實資料(例如,I/Q分量)。
在一些示例中,RF感測資料可用於決定(例如,計算)對應於反射波形(諸如,RX波形318)的距離和到達角。在一些示例中,RF感測資料可用於偵測運動、決定位置、偵測位置或運動模式的變化、獲得通道估計、決定反射波形的反射路徑的特徵(例如,仰角、方位角、距離等),或其任意組合。在一些情況下,反射信號的到達距離和角度可以用於辨識周圍環境中的物件(例如,物件302)的大小、形狀及/或定位。在一些情況下,反射信號的反射路徑相對於RF感測座標系的距離、方位角及/或仰角可用於決定尺寸(例如,形狀、大小等)及/或物件(例如,物件302)在周圍環境中的定位。在一些情況下,無線設備300可以執行相機校準以將相機設備的相機圖像座標系與RF感應座標系對準。在一些示例中,相機圖像座標系可以來自無線設備300處的相機設備的FOV,並且可以基於相機設備的位置和無線設備300的姿態。在一些示例中,無線設備300可以使用感測器資料(伴隨有或無其他資料),諸如IMU資料,來計算無線設備300的姿態。在一些示例中,無線設備300可以使用XR設備的姿態來計算無線設備300的參考座標及/或細化使用RF感測計算的物件的定位(例如,手的定位、輸入裝置的定位等)。
在一些示例中,物件的尺寸及/或定位可用於決定物件對於無線設備300的圖像擷取裝置(例如,相機設備、圖像感測器等)是否可見(例如,在FOV內,未被遮擋等)。在一些情況下,如果物件對於圖像擷取裝置不可見,則無線設備300可以將圖像擷取裝置關閉或斷電(例如,進入較低功率模式)。無線設備300可以保持圖像擷取裝置關閉或斷電,直到物件(或另一個感興趣的物件)對圖像擷取裝置可見。這樣,在圖像擷取裝置不能擷取感興趣的物件的圖像的期間,圖像擷取裝置不消耗額外的功率(或消耗較少的功率)。感興趣的物件可以是例如使用者的手、輸入裝置(例如,觸控筆、控制器、手套等)等等。在其他示例中,如果無線設備300包括比ISP(或任何其他處理器或設備資源)更多的圖像感測器,並且物件對於圖像擷取裝置不可見,則無線設備300可以智慧地決定使用(例如,啟動、利用等)哪個圖像感測器及/或哪個圖像感測器專用於或與特定ISP(或任何其他處理器或設備資源)共享。在一些情況下,這可以藉由智慧地使用圖像感測器的某個子集而不是總是使用所有圖像感測器(例如,總是讓所有圖像感測器打開/啟動或通電)來減少功率及/或其他計算資源。
在一些情況下,無線設備300可以使用信號處理、機器學習演算法、任何其他合適的技術或其任何組合來決定(例如,計算)對應於反射波形的距離和到達角(例如,對應於RX波形318的距離和到達角)。在其他示例中,無線設備300可以將RF感測資料發送到另一計算設備,諸如伺服器(例如,伺服器172),該計算設備可以決定(例如,執行計算以決定)對應於RX波形318或其他反射波形的距離和到達角。
在一些示例中,RX波形318的距離可以藉由測量從接收洩漏信號320到接收反射信號的時間差來決定。例如,無線設備300可以基於從無線設備300發送TX波形316的時間到其接收到洩漏信號320的時間的差值(例如,傳播延遲)來決定基線距離為零。無線設備300隨後可以基於從無線設備300發送TX波形316的時間到其接收RX波形318的時間的差值來決定與RX波形318相關聯的距離,然後可以根據與洩漏信號320相關聯的傳播延遲來調整該差值。這樣,無線設備300可以決定RX波形318行進的距離,該距離可以用於決定引起反射的物件(例如,物件302)的距離。
在一些示例中,RX波形318的到達角可以藉由測量接收天線陣列(諸如天線314)的各個元件之間的RX波形318的到達時間差來決定。在一些示例中,到達時間差可以藉由測量接收天線陣列中每個單元的接收相位差來決定。
在一些情況下,RX波形318的距離和到達角可用於決定無線設備300和物件302之間的距離以及物件302相對於無線設備300的定位。RX波形318的到達距離和角度也可以用於決定引起反射的物件302的大小和形狀。例如,無線裝置300可利用對應於RX波形318的所決定的距離和到達角來決定TX波形316從物件302反射的點。無線設備300可以聚集各種反射信號的反射點,以決定物件302的大小和形狀。
出於說明和解釋的目的,物件302在整個揭露內容中被描述為人手。然而,本領域一般熟習此項技術者將從本案中認識到,物件302可以包括任何其他類型的物件。例如,物件302可以包括不同的身體部位、人、動物、設備、結構或任何其他一或多個物件。
如前述,無線設備300可以包括行動設備(諸如可穿戴設備(諸如頭戴式設備(例如,XR設備等)))、智慧手機、膝上型電腦、平板電腦等。在一些示例中,無線設備300可以被配置為獲得設備位置資料和設備方位資料以及RF感測資料。在一些情況下,設備位置資料和設備方位資料可以用於決定或調整反射信號(諸如RX波形318)的距離和到達角。例如,在RF感測程序中,使用者可能正拿著無線設備300在房間中走動。在這種情況下,無線設備300在發送TX波形316時可以具有第一位置和第一方位,在接收RX波形318時可以具有第二位置和第二方位。當無線設備300處理RF感測資料以決定到達的距離和角度時,它可以考慮位置的變化和方位的變化。例如,可以基於與每個資料元素相關聯的時間戳記來關聯位置資料、方位資料和RF感測資料。在一些技術中,位置資料、方位資料和RF感測資料的組合可用於決定物件302的大小和位置。
在一些示例中,無線設備300可以使用包括往返時間(RTT)測量、被動定位、到達角、接收的信號強度指示符(RSSI)、CSI資料的技術、使用任何其他合適的技術或其任何組合來收集設備定位資料。在一些示例中,設備方位資料可以從無線設備300上的電子感測器(諸如陀螺儀、加速度計、羅盤、磁力計、氣壓計、任何其他合適的感測器或其任意組合)獲得。例如,無線設備300上的陀螺儀可用於偵測或測量無線設備300的方位變化(例如,相對方位),羅盤可用於偵測或測量無線設備300的絕對方位。
圖4是示出室內環境400的示意圖,該室內環境400可以包括被配置為執行RF感測的一或多個無線設備。在一些示例中,室內環境400可以包括一或多個行動無線設備(例如,行動設備402),其可以被配置為執行RF感測以最佳化XR操作/功能及/或資源使用,如本文進一步描述的。在一些情況下,室內環境400可以包括可以被配置為執行RF感測的一或多個固定無線設備(例如,存取點(AP) 404)。
在一些態樣中,AP 404可以是在室內環境400中具有靜態或固定位置的Wi-Fi存取點。儘管室內環境400被示為具有存取點(例如,AP 404),但是任何類型的固定無線設備(例如,桌上型電腦、無線印表機、相機、智慧電視、智慧電器等)可以被配置為執行本文描述的技術。在一些示例中,AP 404可以包括可以被配置為同時發送和接收RF信號的硬體和軟體元件,諸如本文針對無線設備300所描述的元件。例如,AP 404可以包括一或多個可以被配置為發送RF信號的天線(例如,TX天線406)和一或多個可以被配置為接收RF信號的天線(例如,RX天線408)。如關於無線設備300所提到的,AP 404可以包括被配置為從任何方向發送和接收信號的全向天線及/或天線陣列。
在一個態樣中,AP 404可以發送RF信號410,該RF信號410可以從位於室內環境400中的一或多個物件(例如,位於場景、牆壁或其他障礙物、設備、人、身體部位、結構及/或其他物件內的一或多個物件)反射。例如,RF信號410可以從牆壁422反射,並使得AP 404經由RX天線408接收反射信號412。作為另一個示例,RF信號可以從行動設備(例如,行動設備402)的使用者的手反射,並且可以使得AP 404及/或行動設備經由相應的RX天線接收反射信號。在發送RF信號410之後,AP 404還可以接收與從TX天線406到RX天線408的直接路徑相對應的洩漏信號414。
在一些示例中,AP 404可以獲得與反射信號412相關聯的RF感測資料。例如,RF感測資料可以包括對應於反射信號412的CSI資料。在其他態樣中,AP 404可以使用RF感測資料來決定對應於反射信號412的距離D
1和到達角θ
1。例如,AP 404可以藉由基於洩漏信號414和反射信號412之間的差計算反射信號412的飛行時間來決定距離D
1。在進一步的示例中,AP 404可以藉由利用天線陣列(例如,天線408)接收反射信號並測量天線陣列的每個元件處的接收相位差來決定到達角θ
1。
在一些示例中,AP 404可以利用對應於反射信號412的距離D
1和到達角θ
1來辨識牆壁422。在一些態樣中,AP 404可以基於對應於反射信號412的距離D
1和到達角θ
1來辨識牆壁422的定位、形狀及/或大小。在一些態樣中,AP 404可以與伺服器(例如,伺服器172)通訊,以提供關於牆壁422的定位、形狀及/或大小的資料。在一些示例中,AP 404可以收集RF感測資料並將RF感測資料提供給伺服器,用於處理反射信號的飛行時間和到達角的計算。
在一些示例中,室內環境400可以包括行動設備402。儘管被示為頭戴式XR設備,但是行動設備402可以包括任何類型的行動設備,諸如智慧手機、平板電腦、膝上型電腦、智慧手錶等。根據一些示例,行動設備402可以被配置為執行RF感測,以便辨識室內環境400中的一或多個物件的定位、形狀及/或大小。
在一些情況下,行動設備402可以使RF波形416a經由其RF發送器之一(諸如RF發送器306)被發送。如圖所示,RF波形416a在時間t=0時被發送。在一些情況下,行動設備402可以在執行RF感測的同時移動,使得它在稍後的時間(這在該示例中被示為t=0+Δt1)處於不同的位置。
在一些示例中,RF波形416a可以從物件420反射,並使得行動設備402在時間t=0+Δt1接收到反射波形418a。在一些情況下,RF波形416a的波長可以被配置為允許其穿透及/或穿過物件420(在穿透物件420之後顯示為RF波形416b)並從牆壁424反射。來自牆壁424的反射418b可以穿過物件420,並導致行動設備402在稍後的時間(例如,t=0+Δt2)接收到第二反射波形418c。
在一些示例中,行動設備402可以收集對應於反射波形418a和418c的RF感測資料。行動設備402還可以擷取與發送RF波形416a的時間(例如,t=0)以及接收反射波形418a(例如,t=0+Δt1)和418c(例如,t=0+Δt2)的時間相對應的設備位置資料和設備方位資料。
在一些態樣中,行動設備402可以利用RF感測資料來決定每個反射波形418a和418c的飛行時間和到達角。在一些示例中,行動設備402可以利用位置資料和方位資料來考慮設備在RF感測程序中的移動。例如,可以分別基於設備朝著物件420及/或牆壁424的移動來調整反射波形418a和418c的飛行時間。在另一個示例中,可以基於行動設備發送RF波形416a的時間相對於行動設備402接收反射波形418a和418c的時間的移動和方位來調整反射波形418a和418c的到達角。
在一些情況下,行動設備402可以利用飛行時間、到達角、位置資料及/或方位資料來決定物件420及/或牆壁424的大小、形狀及/或位置。圖5A是基於可由行動設備402執行的RF感測來圖示物件420和牆壁424的寬度和距離的圖形表示500的示例。
如圖所示,圖形表示500可以包括x軸上以度為單位的方位角和y軸上以厘米為單位的距離。圖形表示500可以進一步包括對物件420和牆壁424的參考,其基於反射信號的方位角和飛行時間。圖形表示500圖示RF感測技術可以用於偵測來自彼此後面的物件或牆壁的反射。在此示例中,RF波形416a產生來自物件420的第一反射和來自牆壁424的第二反射,其由行動裝置402接收。
行動設備402可以利用距離和方位資料來辨識物件420和牆壁424的距離和寬度。在一些技術中,行動設備402可以使用距離、方位角和仰角資料來建立包括對物件420和牆壁424的參考的室內環境400的地圖。在其他技術中,行動設備402可以使用RF感測資料來修改其從諸如伺服器172的伺服器接收的部分地圖。在其他態樣中,行動設備402可以向伺服器發送RF感測資料,用於處理和建立室內環境400的室內地圖。
在一些示例中,AP 404和行動設備402可以被配置為實現雙站配置,其中發送和接收功能由不同的設備來執行。例如,AP 404(及/或室內環境400中靜態或靜止的其他設備)可以發送包括信號415a和415b的全向RF信號。如圖所示,信號415a可以從AP 404直接傳播(例如,沒有反射)到行動設備402。信號415b可以從牆壁426反射,並使得對應的反射信號415c被行動設備402接收。
在一些情況下,行動設備402可以利用與直接信號路徑(例如,信號415a)和反射信號路徑(例如,信號415c)相關聯的RF感測資料來辨識反射體(例如,牆壁426)的大小和形狀。例如,行動設備402可以獲得、擷取及/或估計與AP 404相關聯的位置資料。在一些態樣中,行動設備402可以使用與AP 404相關聯的位置資料和RF感測資料(例如,CSI資料)來決定與AP 404發送的信號(例如,諸如信號415a的直接路徑信號和諸如信號415c的反射路徑信號)相關聯的飛行時間、距離及/或到達角。在一些情況下,行動設備402和AP 404還可以發送及/或接收通訊,該通訊可以包括與RF信號415a及/或反射信號415c相關聯的資料(例如,傳輸時間、序列/模式、到達時間、飛行時間(TOF)、到達角等)。
在一些示例中,行動設備402及/或AP 404可以獲得CSI資料形式的RF感測資料,該CSI資料可用於公式化基於表示為「K」(例如,音調)的頻率數量和表示為「N」的天線陣列元件數量的矩陣。
在公式化CSI矩陣之後,行動設備402及/或AP 404可以藉由利用二維傅立葉轉換來計算直接信號路徑以及反射信號路徑的距離、方位角及/或仰角。
在一些示例中,行動設備402和AP 404可以執行RF感測技術,而不管它們彼此的關聯或者與Wi-Fi網路的關聯。例如,當行動設備402不與任何存取點或Wi-Fi網路相關聯時,行動設備402可以利用其Wi-Fi發送器和Wi-Fi接收器來執行如本文所討論的RF感測。在進一步的示例中,AP 404可以執行RF感測技術,而不管它是否具有與之相關聯的任何無線設備。
圖5B是圖示藉由如本文所述的RF感測決定的物件522、524和526的大小(例如,寬度、高度等)和定位的圖形表示520的另一個示例。在一些示例中,行動設備402可以使用RF感測來決定物件522、524和526的大小和定位。在其他示例中,物件522、524和526的大小和定位可以由使用RF感測的另一設備(諸如伺服器172或包括至少一個RF介面的任何其他設備)來決定。
如圖所示,圖形表示520可以包括x軸(和y軸)上的到達角(AOA)和仰角以及z軸上的TOF/範圍。圖形表示520可以包括對物件522、524和526的參考,其基於信號的方位角、仰角和TOF/範圍。圖形表示520圖示可以使用RF感測技術來偵測來自物件的反射,以便決定這種物件的大小、形狀及/或定位。在該示例中,物件相對於行動設備402具有不同的大小和不同的定位。
物件522的大小、形狀及/或定位可以基於針對發送或洩漏信號的直接路徑530計算的方位角、仰角和TOF/範圍來表示。在雙站配置的一些示例中,物件522可以表示行動設備402及/或行動設備402的一或多個元件。類似地,可以基於針對與一或多個反射信號相關聯的選定反射路徑532計算的方位角、仰角和TOF/範圍來決定物件524的大小、形狀及/或定位。選定反射路徑532可以包括基於一或多個反射信號路徑相對於直接路徑530的距離而選擇的一或多個反射信號路徑。例如,選定路徑532可以包括反射路徑,該反射路徑的距離在高於與直接路徑530相關聯的距離的閾值內。
在一些情況下,用於選擇選定路徑532的距離及/或閾值距離可以取決於感興趣的物件。例如,如果感興趣的物件是佩戴XR設備(例如,行動設備402)的使用者的手,則選定路徑532的距離可以比對應於從沒有附著到使用者的一或多個其他物件(例如,牆壁、結構等)反射的一或多個信號的一或多個其他反射路徑的距離短,因為可以預期使用者的手在使用者(以及使用者佩戴的XR設備)的特定距離內,諸如1.5m或1m,而一或多個其他物件可以在相對於使用者(以及使用者佩戴的XR設備)的更大距離範圍內的任何地方,包括超過使用者的手和使用者(及/或使用者佩戴的XR設備、使用者手持的設備等)之間的典型距離的距離,諸如1.5m或者1m。
此外,可以基於針對與從物件526反射的一或多個信號相關聯的反射路徑534計算的方位角、仰角和TOF/範圍來決定物件526的大小、形狀及/或定位。在該示例中,物件526比物件522和物件524處於更大的相對距離。在該示例中,該更大的相對距離超過了用於選擇選定反射路徑532而決定的閾值。在一些示例中,閾值可以關於直接路徑的TOF和相應反射路徑的TOF之間的差來表示。
在一些示例中,為了偵測物件524的大小、形狀及/或定位,行動設備402(或另一設備)可以選擇相對於直接路徑530在閾值距離內的一或多個反射路徑(例如,反射信號的路徑),並估計每個選定反射路徑的方位角和仰角以測量物件524的尺寸。例如,在說明性示例中,如果感興趣的物件是手並且閾值距離是一米,則行動設備402可以選擇相對於直接路徑530的距離小於或等於一米的一或多個反射路徑。
在一些情況下,可以實現物件分類演算法(例如,信號處理、機器學習等)來對物件524進行分類。例如,如果感興趣的物件是手,則可以實現物件分類演算法來將物件524分類為手或者不是手。
在一些示例中,RF感測技術可以實現信號處理來提取反射並聚焦於距離較短(例如,在距離閾值內)的反射,以偵測靠近行動設備402的物件(諸如使用者的手、控制器等),以降低計算複雜度及/或降低行動設備402的功耗。在一些情況下,RF感測可用於估計引起反射的物件的位置及/或尺寸。在一些示例中,物件分類演算法(例如,信號處理、機器學習等)可以用於執行物件的二元分類,以指示該物件是否是特定類型的物件。例如,物件分類演算法可以執行二元分類以指示物件是否是手。
RF感測可以360度追蹤並且不受相機視場的限制。在一些示例中,RF感測可以追蹤相機視場之外的物件。例如,當使用者的手在相機視場之外或被相機視場遮擋時,RF感測可以追蹤使用者的手。在一些情況下,RF感測可以提供對物件位置的估計。諸如行動設備402的電子設備可以使用該估計來預測物件的未來位置及/或實現平滑的物件追蹤。在一些情況下,諸如行動設備402的電子設備可以向諸如伺服器或另一電子設備的另一設備提供該估計,以幫助預測物件的未來定位及/或實現平滑的物件追蹤。在一些示例中,電子設備可以向目的地設備(例如,伺服器或任何其他設備)發信號通知(例如,使用RF感測來計算的)物件的位置,而不管物件是否在相機視場之外(或被相機視場遮擋)。例如,如前述,即使使用者的手在電子設備上的相機設備的FOV之外,電子設備也可以使用RF感測來計算使用者的手的定位。無論使用者的手是否在相機設備的FOV中,電子設備都可以將使用者的手的計算位置發信號通知給目的地設備(諸如伺服器或行動電話)。
在一些示例中,可以使用RF感測來決定物件的大小、形狀及/或定位,以便決定此類物件對於行動設備(例如,行動設備402)的圖像擷取裝置是否可見。例如,可以使用RF感測來決定物件的大小、形狀及/或定位,以決定物件是否在圖像擷取裝置的FOV內及/或物件是否被遮擋(例如,圖像擷取裝置對物件的視場是否被阻擋)。在一些情況下,如果感興趣的物件的定位不對應於圖像擷取裝置的FOV(例如,物件不在圖像擷取裝置的FOV內),或者如果物件的定位確實對應於圖像擷取裝置的FOV、但是物件以其他方式從圖像擷取裝置的視場/可見性被遮擋/阻擋,則與圖像擷取裝置相關聯的行動設備可以關閉圖像擷取裝置或者將圖像擷取裝置的功率設置設置為較低功率模式。在一些示例中,如果行動設備關閉圖像擷取裝置,則行動設備可以使用RF感測來監視手的移動,並在手接近圖像擷取裝置的FOV時(例如,在閾值時間訊框、距離等內接近FOV)提前打開圖像擷取裝置,從而當手處於圖像擷取裝置的FOV中時,圖像擷取裝置可以擷取手的圖像。一旦手在圖像擷取裝置的FOV內,行動設備就可以使用圖像來決定手勢。
由於當物件被遮擋或在圖像擷取裝置的FOV之外時,圖像擷取裝置不能擷取感興趣的物件的圖像,所以行動設備可以關閉圖像擷取裝置或使其斷電以節省電力。如果感興趣的物件隨後進入圖像擷取裝置的FOV內,或者如果物件不再被遮擋/阻擋,則行動設備可以打開圖像擷取裝置或將圖像擷取裝置的功率設置設置為較高功率模式,以允許圖像擷取裝置擷取物件的圖像及/或較高品質的圖像,因為物件現在對圖像擷取裝置可見,從而允許圖像擷取裝置擷取物件的圖像。
在一些示例中,為了降低功耗及/或最佳化行動設備處的資源使用,當感興趣的物件不在行動設備處的一或多個圖像感測器的FOV內或者被遮擋使得一或多個圖像感測器不能擷取物件的圖像時,行動設備可以控制行動設備處的哪些圖像感測器被行動設備處的哪些處理器使用。例如,在一些情況下,行動設備可以包括多個圖像感測器和用於處理來自圖像感測器的圖像資料的多個ISP。在一些情況下,如果圖像感測器的數量超過ISP的數量,則多個圖像感測器可以共享處理來自這些圖像感測器的圖像資料的同一ISP。
然而,如果感興趣的物件在圖像感測器的FOV內、並且沒有被圖像感測器的視場遮擋,則行動設備可以將ISP專用於該圖像感測器,用於處理來自該圖像感測器的圖像資料。如果感興趣的物件被遮擋或者在多個圖像感測器的FOV之外,則行動設備可以改為允許這些圖像感測器共享同一ISP。在一些情況下,行動設備可以智慧地將圖像感測器分配給ISP(反之亦然),以根據感興趣的物件是在一或多個圖像感測器的FOV內還是從一或多個圖像感測器的視角被遮擋,來增加或減少某些圖像感測器的影像處理能力(或來自某些圖像感測器的圖像資料)。行動設備可以使用如本文所述的RF感測來決定物件是否在FOV內、在FOV外、被遮擋並因此對圖像感測器不可見等。
在其他示例中,可以使用RF感測來決定物件的大小、形狀及/或定位,以便減小發送到特定設備(諸如伺服器)的用於追蹤操作的上行鏈路訊框的大小。例如,在一些情況下,行動設備402可以擷取場景中的物件的圖像,並向目的地設備發送所擷取的圖像,該目的地設備使用這些圖像來追蹤場景中的物件。為了減少頻寬使用、等待時間等,行動設備402可以藉由裁剪圖像以包括圖像中的物件並排除圖像的其他部分來減小向目的地設備發送的圖像的大小。行動設備402可以使用RF感測來偵測物件並決定物件的定位。行動設備402可以使用所決定的物件的定位來決定如何/在哪裡裁剪擷取物件的圖像。裁剪圖像可以更小,從而允許行動設備402減少包括向目的地設備發送的裁剪圖像的上行鏈路傳輸量的大小。
例如,圖6圖示使用RF感測來減少從XR設備620到目的地設備610的上行鏈路傳輸量的示例用例600。上行鏈路傳輸量可以包括由包括XR設備620上的一或多個圖像感測器的圖像擷取裝置擷取的追蹤訊框,目的地設備610可以使用該追蹤訊框來追蹤場景中的一或多個物件(例如,手、設備等)。在一些情況下,目的地設備610可以附加地或替代地將追蹤訊框用於其他操作諸如,例如繪製場景及/或場景中的特徵。在一些情況下,目的地設備610可以是伺服器諸如,例如雲端網路上的邊緣伺服器。在其他情況下,目的地設備610可以是使用者電子設備諸如,例如智慧手機、平板電腦、膝上型電腦、遊戲控制台等。
如圖所示,目的地設備610可以根據如前述的無線通訊協定標準向XR設備620發送下行鏈路(DL)訊框622、624和626。XR設備620可以使用DL訊框622至626來使用RF感測來偵測附近的反射體(例如,使得目的地設備610所發送的信號的反射的物件)。XR設備620可以使用RF感測來偵測附近反射體的位置、形狀及/或大小。在一些示例中,XR設備620可以使用在DL訊框622至626中擷取的CSI來提取/辨識反射資訊,諸如反射路徑/信號的方位角、仰角及/或距離。
在方塊630處,XR設備620可以基於反射資訊來估計附近反射體的位置(以及可選地,附近反射體的大小及/或形狀)。例如,XR設備620可以決定與附近反射體相關聯的反射路徑的方位角、仰角和TOF/範圍,以計算附近反射體在物理空間中的三維(3D)定位。
在方塊632處,XR設備620可以使用感興趣的反射體的決定的位置來提取擷取感興趣的反射體的部分圖像。例如,XR設備620可以(例如,經由XR設備620的圖像擷取裝置)擷取感興趣的反射體的圖像。XR設備620可以使用反射體的決定位置來決定如何裁剪圖像以產生包括反射體但排除了所擷取圖像的其他部分的較小/部分圖像。XR設備620然後可以裁剪圖像以產生包括反射體的較小/部分圖像。
XR設備620可以在UL訊框640中向目的地設備610發送包括反射體的較小/部分圖像。因為包含反射體的圖像已經被裁剪/縮小,所以UL訊框640可以比XR設備620在沒有如前述首先裁剪圖像而發送所擷取圖像的情況下要小。結果,XR設備620可以減小去往目的地設備610的UL傳輸量的大小、UL傳輸量的等待時間等。
在一些實施方式中,如果XR設備620支援多鏈路操作(MLO),則XR設備620可以使用Wi-Fi雷達來擷取CSI並執行RF感測。例如,XR設備620可以使用一條鏈路向目的地設備610發送Wi-Fi探測信號,同時在另一條鏈路中維持DL/UL傳輸量,以避免給XR設備620造成額外的開啟時間。在其他情況下,如果XR設備620不支援MLO,則XR設備620可以稍微增加Wi-Fi開啟時間以覆蓋Wi-Fi雷達廣播時間。例如,XR設備620可以在設備資料TX/RX視窗的開始或結束時增加Wi-Fi開啟時間。
在一些情況下,XR設備620可以用單個接收訊框來執行RF感測,並且可以使用該單個接收訊框來瞭解周圍環境。在其他情況下,XR設備620可以可選地使用多個接收訊框進行RF感測,以改善偵測精度(例如,使用現有的可用DL資料訊框)。
圖7A和7B是示出用於涉及目的地設備702、行動設備704和XR設備706之間的通訊的XR的示例渲染場景的圖。圖7A圖示XR的渲染場景700,其中與XR應用相關聯的虛擬內容由行動設備704渲染。
在該示例中,目的地設備702可以向行動設備704發送DL資料710,並且可以從行動設備704接收UL資料720。在一些情況下,目的地設備702和行動設備704之間的鏈路可以從行動設備704和XR設備706之間的鏈路去耦合。DL資料710可以包括例如但不限於:與XR體驗/應用相關聯的虛擬內容、追蹤資訊、繪製資訊及/或任何其他XR資料。UL資料720可以包括例如但不限於:追蹤訊框、位置資訊、資料請求等。
在一些情況下,目的地設備702可以是伺服器,例如雲端網路上的邊緣伺服器。在其他情況下,目的地設備702可以是任何電子設備諸如,例如膝上型電腦、桌上型電腦、平板電腦、遊戲控制台等。行動設備704可以包括任何電子設備諸如,例如智慧手機、平板電腦、膝上型電腦、物聯網設備、遊戲控制台等。XR設備706可以包括XR(例如,AR、VR等)可穿戴設備諸如,例如HMD、智慧眼鏡等。
行動設備704可以接收DL資料710並向XR設備706發送DL資料712,XR設備706可以將DL資料712用於XR呈現/體驗。在一些示例中,DL資料712可以包括渲染的虛擬內容。例如,行動設備704可以渲染來自目的地設備702的虛擬內容,並向XR設備706發送所渲染的虛擬內容。在一些情況下,DL資料712可以包括XR相關資料諸如,例如深度圖、眼緩衝區(例如,渲染紋理、眼緩衝區解析度等)、追蹤資訊及/或任何其他XR資料。
XR設備706可以獲得感測器資料,諸如慣性測量、圖像資料等,並向行動設備704提供這些資料。例如,XR設備706可以向行動設備704發送UL資料722,UL資料722包括來自一或多個慣性測量單元(IMU)的資料和來自XR設備706處的圖像擷取裝置的追蹤訊框。在一些情況下,行動設備704可以根據XR設備706及/或場景中的一或多個物件的位置使用UL資料722來渲染虛擬內容。
圖7B圖示另一示例渲染場景725,其中虛擬內容在目的地設備702處被渲染。在該示例中,目的地設備702可以向行動設備704發送DL資料730以及從行動設備704接收UL資料740。行動設備704可以向XR設備706發送DL資料732以及從XR設備706接收UL資料742。在該示例中,行動設備704可以被用作目的地設備702和XR設備706之間對XR資料進行最少或較低處理的通道。
在一些情況下,來自XR設備706的UL資料722和UL資料742可以包括如先前參考圖6所述產生的部分訊框。例如,UL資料722和UL資料742可以包括藉由裁剪感興趣的物件的圖像而產生的追蹤訊框。可以基於使用RF感測估計的感興趣物件的位置來裁剪圖像。例如,XR設備706可以擷取物件的圖像,使用RF感測來估計物件的位置,並且使用物件的位置來裁剪物件的圖像以減小其大小,同時仍然擷取感興趣的物件。XR設備706可以提供UL資料722或UL資料742中的裁剪圖像。目的地設備702可以使用裁剪圖像來幫助追蹤物件及/或預測物件的未來定位。
圖8是示出使用RF感測來執行XR最佳化的示例程序800的流程圖。在方塊802處,程序800可以包括獲得RF感測資料。在一些示例中,感測資料可以包括通道狀態資訊(CSI)。在一些情況下,RF感測資料可以包括與接收波形相關聯的一組資料,該接收波形是從物件反射的發送波形的反射。在一些示例中,發送波形可以包括由天線從諸如XR設備(例如,XR設備620、XR設備706)的無線設備發送的信號(例如,Wi-Fi信號)。
在一些情況下,RF感測資料可以包括對應於回應於信號傳輸而接收到的反射的CSI資料。在一個說明性示例中,RF感測資料可以包括對應於回應於Wi-Fi信號的傳輸而接收到的反射的Wi-Fi CSI資料。在其他示例中,RF感測資料可以包括使用5G NR、藍芽
TM、UWB、60 GHz毫米波、其任意組合或其他類型的信號獲得的CSI資料。
在一些示例中,RF感測資料可以包括與對應於發送波形的接收洩漏波形相關聯的資料及/或與對應於一或多個反射RF信號的一或多個反射波形相關聯的資料。
在方塊804處,程序800可以包括基於RF感測資料決定一或多個反射RF信號的一或多個反射路徑。在一些示例中,每個反射的RF信號可以包括發送RF信號從物理空間中的一或多個物件的反射。在一些情況下,一或多個物件中的至少一個可以包括與諸如XR設備、智慧手機等行動設備的使用者相關聯的手。
在一些示例中,決定一或多個反射RF信號的一或多個反射路徑可以包括決定包括發送RF信號的直接路徑的RF信號的路徑,以及基於RF信號的路徑決定一或多個物件相對於行動設備的位置。
在方塊806處,程序800可以包括將一或多個反射路徑與和行動設備相關聯的圖像擷取裝置的FOV進行比較。在一些情況下,將一或多個反射路徑與圖像擷取裝置的FOV進行比較可以包括基於一或多個反射路徑來決定一或多個物件是否在對應於與行動設備相關聯的圖像擷取裝置的FOV的場景的一部分內。在一些態樣中,程序800可以包括決定一或多個物件相對於行動設備的位置。在一些情況下,可以基於RF信號的決定路徑來決定一或多個物件的位置,RF信號的決定路徑包括所發送RF信號的直接路徑及/或一或多個反射RF信號的一或多個反射路徑。
在一些示例中,決定一或多個物件的位置可以包括決定與一或多個反射路徑相關聯的相應距離、相應反射角及/或相應仰角。在一些情況下,可以基於相應的距離、相應的反射角及/或相應的仰角來決定一或多個物件的位置。
在一些情況下,決定一或多個物件的位置可以包括決定行動設備和一或多個物件中的每一個之間的路徑的相應距離、方位角及/或仰角。在一些情況下,可以基於相應距離、方位角及/或仰角來決定一或多個物件的位置。
在方塊808處,程序800可以包括基於該比較,觸發行動設備及/或與該行動設備相關聯的圖像擷取裝置的動作。在一些情況下,觸發動作可以基於決定一或多個物件是否在與圖像擷取裝置的FOV相對應的場景的一部分內。在一些示例中,可以基於該比較決定一或多個物件是否在對應於圖像擷取裝置的FOV的場景的該部分內。
在一些示例中,觸發動作可以包括控制圖像擷取裝置的功率設置。在一些情況下,控制圖像擷取裝置的功率設置還可以基於光位准低於閾值及/或隱私設置。在一些示例中,隱私設置可以基於使用者輸入、應用資料及/或全球導航衛星系統(GNSS)資料。
在一些示例中,觸發動作可以包括提取圖像的包含一或多個物件的一部分。在一些情況下,觸發動作可以包括決定是否擷取一或多個物件的一或多個圖像。在一些示例中,觸發動作還可以基於決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內。在一些示例中,可以基於該比較決定一或多個物件在對應於圖像擷取裝置的FOV的場景的該部分內。
在一些情況下,決定一或多個物件是否在對應於圖像擷取裝置的FOV的場景的一部分內可以基於與一或多個反射路徑及/或一或多個反射RF信號相關聯的相應距離、相應方位角及/或相應仰角。
在一些示例中,決定手是否在對應於圖像擷取裝置的FOV的場景的一部分內可以包括基於該比較決定一或多個物件在圖像擷取裝置的FOV之外。在一些情況下,程序800可以包括:基於一或多個物件在圖像擷取裝置的FOV之外的決定,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取裝置的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態。在一些情況下,經調整的功率狀態可以是關閉狀態。在其他情況下,當一或多個物件在對應於圖像擷取裝置的FOV的場景的該部分內時,經調整的功率狀態可以是與比圖像擷取裝置的功率模式更低的功率模式相關聯的開啟狀態。
在一些示例中,程序800可以包括基於該比較來決定一或多個物件是否在對應於圖像擷取裝置的FOV的場景的一部分內。在一些情況下,決定一或多個物件是否在對應於圖像擷取裝置的FOV的場景的一部分可以包括決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋(例如,圖像擷取裝置對其的視角被遮擋)。
在一些態樣中,程序800可以包括決定一或多個物件正朝著與圖像擷取裝置的FOV相對應的場景的一部分移動;及基於決定一或多個物件正朝著對應於圖像擷取裝置的FOV的場景的該部分移動,將圖像擷取裝置的功率設置調整到不同的功率狀態。
在一些態樣中,程序800可以包括基於一或多個反射路徑來決定一或多個物件的大小及/或形狀。
在一些態樣中,程序800可以包括決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋。在一些情況下,決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋包括:決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內,以及基於一或多個物件的位置來決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋。
在一些情況下,圖像擷取裝置可以包括複數個圖像感測器。在一些示例中,觸發動作可以包括控制圖像擷取裝置的功率設置。在一些情況下,控制圖像擷取裝置的功率設置可以包括控制複數個圖像感測器的單獨功率設置。在一些情況下,控制複數個圖像感測器的單獨功率設置可以包括:基於決定手在複數個圖像感測器中的特定一個的FOV內,將裝置的複數個處理器中的至少一個專用於複數個圖像感測器中的特定一個以用於影像處理。
在一些態樣中,程序800可以包括:基於該比較,決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內;及基於一或多個物件的位置,決定圖像擷取裝置對手的視角被至少一個物件阻擋。在一些態樣中,程序800可以包括基於決定手在圖像擷取裝置的FOV之外,控制行動設備的複數個處理器(例如,ISP等)對行動設備的複數個圖像擷取裝置的使用。在一些情況下,控制複數個處理器對複數個圖像擷取裝置的使用可以包括將複數個圖像擷取裝置中先前由複數個處理器中的兩個或更多個共享的特定一個專用於複數個處理器中的一個。
在一些態樣中,程序800可以包括:基於決定一或多個物件在圖像擷取裝置的FOV之外,控制行動設備的複數個處理器對行動設備的複數個圖像擷取裝置的使用。在一些示例中,複數個圖像擷取裝置可以包括圖像擷取裝置。在一些情況下,控制複數個處理器對複數個圖像擷取裝置的使用可以包括將複數個圖像擷取裝置中先前由複數個處理器中的兩個或更多個共享的特定一個專用於複數個處理器中的一個。在一些示例中,複數個處理器中的每一個可以包括圖像信號處理器,並且複數個圖像擷取裝置中的每一個可以包括圖像感測器。
在一些態樣中,程序800可以包括:決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取裝置的FOV的場景的一部分移動;及回應於決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取設備的FOV的場景的該部分移動,將活動相機設置從圖像擷取裝置切換到不同圖像擷取裝置,切換的活動相機設置觸發該裝置使用不同圖像擷取裝置來擷取一或多個圖像。
在一些態樣中,程序800可以包括:基於一或多個反射路徑,決定來自一或多個物件中的物件的形狀;基於物件的形狀,決定物件是與使用者相關聯的手。在一些態樣中,程序800可以包含使用由圖像擷取裝置擷取的圖像產生手的裁剪圖像,並向目的地設備(例如,目的地設備702、行動設備704)發送裁剪圖像。在一些情況下,程序800可以包括向目的地設備發送裁剪圖像和對物理空間的地圖內的手的被追蹤姿勢及/或手的姿勢的請求。在一些示例中,可以基於一或多個物件的位置來產生裁剪圖像。在一些示例中,一或多個物件的位置包括手部位置。在一些情況下,目的地設備可以包括伺服器(例如,伺服器172)及/或行動設備(例如,UE 104、使用者設備210、無線設備300、行動設備402、行動設備704)。
在一些態樣中,程序800可以包括基於一或多個反射路徑來決定一或多個物件相對於行動設備的位置。在一些情況下,可以基於一或多個物件的位置來產生裁剪圖像。在一些示例中,一或多個物件的位置可以包括手部位置。在一些態樣中,程序800可以包括基於關聯物件的相應距離在距離閾值內來選擇一或多個反射路徑中的至少一個。
在一些示例中,行動設備可以是XR設備(例如,XR設備620、XR設備706)。在一些情況下,行動設備可以包括頭戴式顯示器。
在一些態樣中,程序800可以包括使用機器學習演算法來偵測與行動設備的使用者相關聯的手及/或圖像擷取裝置的視角對手的阻礙。在一些情況下,手可以包括一或多個物件中的至少一個。
在一些態樣中,程序800可以包括基於一或多個反射路徑來決定物理空間的地圖及/或與使用者的手相關聯的手勢。
在一些示例中,本文描述的程序(例如,程序800及/或本文描述的其他程序)可以由計算設備或裝置(例如,UE、XR設備等)來執行。在一個示例中,程序800可以由圖2的使用者設備210來執行。在另一示例中,程序800可以由具有圖9所示的計算系統900的計算設備來執行。例如,具有圖9所示的計算體系結構的計算設備可以包括圖2的使用者設備210的元件,並且可以實現圖8的操作。
在一些情況下,計算設備或裝置可以包括各種元件,諸如一或多個輸入裝置、一或多個輸出設備、一或多個處理器、一或多個微處理器、一或多個微型電腦、一或多個相機、一或多個感測器及/或被配置為執行本文描述的程序的步驟的其他元件。在一些示例中,計算設備可以包括顯示器、被配置為傳送及/或接收資料的一或多個網路介面、其任意組合及/或其他元件。一或多個網路介面可以被配置為傳送及/或接收有線及/或無線資料,包括根據3G、4G、5G及/或其他蜂巢標準的資料、根據Wi-Fi (802.11x)標準的資料、根據藍芽
TM標準的資料、根據網際網路協定(IP)標準的資料及/或其他類型的資料。
計算設備的元件可以在電路中實現。例如,元件可以包括及/或可以使用電子電路或其他電子硬體來實現,電子電路或其他電子硬體可以包括一或多個可程式化電子電路(例如,微處理器、圖形處理單元(GPU)、數位訊號處理器(DSP)、中央處理單元(CPU)及/或其他合適的電子電路),及/或可以包括及/或使用電腦軟體、韌體或其任意組合來實現,以執行本文描述的各種操作。
程序800被示為邏輯流程圖,其動作表示可以用硬體、電腦指令或其組合來實現的一系列操作。在電腦指令的上下文中,操作表示儲存在一或多個電腦可讀取儲存媒體上的電腦可執行指令,當由一或多個處理器執行時,執行所述操作。大體上,電腦可執行指令包括執行特定功能或實現特定資料類型的常式、程式、物件、元件、資料結構等。描述操作的順序不旨在被解釋為限制,並且任何數量的所描述的操作可以以任何順序及/或並行組合來實現這些程序。
此外,程序800及/或本文描述的其他程序可以在配置有可執行指令的一或多個電腦系統的控制下執行,並且可以藉由硬體或其組合實現為在一或多個處理器上共同執行的代碼(例如,可執行指令、一或多個電腦程式或一或多個應用程式)。如前述,代碼可以例如以包括可由一或多個處理器執行的複數個指令的電腦程式的形式儲存在電腦可讀或機器可讀儲存媒體上。電腦可讀或機器可讀儲存媒體可以是非暫時性的。
圖9是示出用於實現本技術的某些態樣的系統的示例的圖。具體而言,圖9圖示計算系統900的示例,該計算系統可以是例如構成內部計算系統的任何計算設備、遠端計算系統、相機或其任何元件,其中該系統的元件使用連接905彼此通訊。連接905可以是諸如在晶片組架構中使用匯流排的實體連接或者直接連接到處理器910。連接905也可以是虛擬連接、網路連接或邏輯連接。
在一些實施例中,計算系統900是分散式系統,其中本案中描述的功能可以分佈在資料中心、多個資料中心、同級點網路等內。在一些實施例中,所描述的系統元件中的一或多個表示許多此類元件,每個元件執行描述該元件的部分或全部功能。在一些實施例中,元件可以是實體設備或虛擬裝置。
示例系統900包括至少一個處理單元(CPU或處理器)910和連接905,該連接將包括系統記憶體915(諸如唯讀記憶體(ROM)920和隨機存取記憶體(RAM)925)的各種系統元件耦合到處理器910。計算系統900可以包括高速記憶體的快取記憶體912,該高速記憶體直接與處理器910連接、靠近處理器910或整合為處理器910的一部分。
處理器910可以包括任何通用處理器和硬體服務或軟體服務,諸如儲存在儲存裝置930中的服務932、934和936,其被配置為控制處理器910以及其中軟體指令被結合到實際處理器設計中的專用處理器。處理器910基本上可以是包含多個核或處理器、匯流排、記憶體控制器、快取記憶體等的完全自包含的計算系統。多核處理器可以是對稱的或不對稱的。
為了實現使用者互動,計算系統900包括輸入裝置945,其可以表示任何數量的輸入機制,諸如用於語音的麥克風、用於手勢或圖形輸入的觸敏螢幕、鍵盤、滑鼠、動作輸入、語音等。計算系統900還可以包括輸出設備935,其可以是多種輸出機制中的一或多個。在一些情況中,多模式系統可使使用者能夠提供多種類型的輸入/輸出以與計算系統900通訊。
計算系統900可以包括通訊介面940,其大體可以控制和管理使用者輸入和系統輸出。通訊介面可以經由有線及/或無線收發器執行或促進有線或無線通訊的接收及/或傳輸,包括那些使用音訊插孔/插頭、麥克風插孔/插頭、通用序列匯流排(USB)埠/插頭、蘋果
TM閃電
TM埠/插頭、乙太網路埠/插頭、光纖埠/插頭、專有有線埠/插頭、藍芽
TM無線信號傳輸、藍芽
TM低功耗(BLE)無線信號傳輸、IBEACON
TM無線信號傳輸、射頻辨識(RFID)無線信號傳輸,近場通訊(NFC)無線信號傳輸、專用短程通訊(DSRC)無線信號傳輸、902.11 Wi-Fi無線信號傳輸、無線區域網路(WLAN)信號傳輸、可見光通訊(VLC)、全球互通微波存取性(WiMAX)、紅外(IR)通訊無線信號傳輸、公用交換電話網路(PSTN)信號傳輸、整合式服務數位網路(ISDN)信號傳輸、自組織網路信號傳輸、無線電波信號傳輸、微波信號傳輸、紅外信號傳輸、可見光信號傳輸、紫外光信號傳輸、沿電磁頻譜的無線信號傳輸,或其某些組合。
通訊介面940還可以包括一或多個全球導航衛星系統(GNSS)接收器或收發器,用於基於從與一或多個GNSS系統相關聯的一或多個衛星接收到一或多個信號來決定計算系統900的位置。GNSS系統包括但不限於基於美國的全球定位系統(GPS)、基於俄羅斯的全球導航衛星系統(GLONASS)、基於中國的北斗導航衛星系統(BDS)和基於歐洲的伽利略GNSS。對於在任何特定硬體設定上的操作沒有限制,因此本文的基本特徵可以容易地被替換為改進的硬體或韌體配置,因為它們正在開發。
儲存裝置930可以是非揮發性及/或非暫時性及/或電腦可讀記憶體設備,並且可以是硬碟或可以儲存電腦可存取的資料的其他類型的電腦可讀取媒體,例如磁盒式磁帶、快閃記憶卡、固態記憶體設備、數位多功能磁碟、盒式磁帶、軟碟、軟碟、硬碟、磁帶、磁條/條,任何其他磁儲存媒體、快閃記憶體、憶阻器記憶體、任何其他固態記憶體、光碟唯讀記憶體(CD-ROM)光碟、可重寫光碟(CD)光碟、數位視訊光碟(DVD)光碟、藍光光碟、全息光碟、另一種光學媒體、安全數位(SD)卡、微型安全數位(microSD)卡、記憶棒®卡、智慧卡晶片、Europay萬事達卡和Visa(EMV)晶片、用戶辨識模組(SIM)卡、迷你/微/納/微微SIM卡、另一積體電路(IC)晶片/卡、隨機存取記憶體(RAM)、靜態RAM(SRAM)、動態RAM(DRAM)、唯讀記憶體(ROM)、可程式化唯讀記憶體(PROM)、可抹除可程式化唯讀記憶體(EPROM)、電擦除可程式化唯讀記憶體(EEPROM)、快閃記憶體EPROM(FLASHEPROM)、快取記憶體(例如,1級(L1)快取記憶體、2級(L2)快取記憶體、3級(L3)快取記憶體、4級(L4)快取記憶體、5級(L5)高速緩存或其他(L#)快取記憶體)、電阻隨機存取記憶體(RRAM/ReRAM)、相變記憶體(PCM)、自旋轉移轉矩RAM(STT-RAM)、另一種儲存晶片或盒式磁帶,及/或其組合。
儲存裝置930可以包括軟體服務、伺服器、服務等,當定義這種軟體的代碼由處理器910執行時,它使系統執行功能。在一些實施例中,執行特定功能的硬體服務可以包括儲存在電腦可讀取媒體中的軟體元件,該軟體元件與諸如處理器910、連接905、輸出設備935等的必要的硬體元件相結合,以執行功能。術語「電腦可讀取媒體」包括但不限於可攜式或非可攜式記憶體設備、光學記憶體設備和能夠儲存、包含或攜帶指令及/或資料的各種其他媒體。
電腦可讀取媒體可以包括可以儲存資料的非暫時性媒體,並且不包括無線或經由有線連接傳播的載波及/或暫時性電子信號。非暫時性媒體的示例可以包括但不限於磁碟或磁帶,諸如光碟(CD)或數位通用磁碟(DVD)的光學儲存媒體、快閃記憶體、記憶體或儲存。電腦可讀取媒體可以在其上儲存有代碼及/或機器可執行指令,這些指令可以表示程序、函數、副程式、程式、常式、子常式、模組、套裝軟體、軟體組件或指令、資料結構或程式語句的任何組合。程式碼片段可以藉由傳遞及/或接收資訊、資料、引數、參數或記憶體內容來耦合到另一程式碼片段或硬體電路。可以經由任何合適的方式(包括記憶體共享、訊息傳遞、符記傳遞、網路發送等)傳遞、轉發或發送資訊、引數、參數、資料等。
在上述描述中提供了具體細節,以提供對本文提供的實施例和示例的徹底理解,但是本領域一般熟習此項技術者將理解本案並不局限於此。因此,儘管本文已經詳細描述了本案的說明性實施例,但是應當理解,本發明的概念可以以不同的方式實施和使用,並且所附請求項旨在被解釋為包括這些變化,除了由先前技術限制的以外。上述應用的各種特徵和態樣可以單獨或聯合使用。此外,在不脫離本說明書的更廣泛的精神和範圍的情況下,實施例可以用於本文描述的環境和應用之外的任何數量的環境和應用中。因此,說明書和附圖應被視為說明性的而非限制性的。為了說明的目的,以特定的順序描述了方法。應當理解,在替代實施例中,這些方法可以以不同於所描述的順序來執行。
為了說明清楚起見,在某些情況下,本技術可以被呈現為包括單獨的功能方塊,該單獨的功能方塊包括以軟體或硬體和軟體的組合體現的方法來包括設備、設備元件、步驟或常式的功能方塊。除了圖中所示及/或本文所述的元件之外,還可以使用其他元件。例如,電路、系統、網路、程序和其他元件可以以方塊圖形式被示出為元件,以便不會在不必要的細節上使實施例模糊。在其他情況下,可以在沒有不必要的細節的情況下示出已知的電路、程序、演算法、結構和技術,以避免使實施例模糊。
此外,熟習此項技術者將理解,結合本文揭露的態樣描述的各種說明性邏輯區塊、模組、電路和演算法步驟可以實現為電子硬體、電腦軟體或兩者的組合。為了清楚地說明硬體和軟體的這種可互換性,各種說明性的元件、方塊、模組、電路和步驟已經在上面根據它們的功能性進行了一般性的描述。將這些功能性實現為硬體或軟體取決於特定的應用和施加在整個系統上的設計約束。熟習此項技術者可以針對每個特定應用以不同的方式實現所描述的功能,但是這種實現決策不應被解釋為導致脫離本案的範圍。
各個實施例可以在上文被描述為程序或方法,該程序和方法被圖示為流程圖、流圖、資料流圖、結構圖或方塊圖。雖然流程圖可以將操作描述為順序程序,但許多操作可以並行或併發地執行。此外,可以重新安排操作順序。程序在其操作完成時終止,但可能有其他步驟未包含在圖中。程序可以對應於方法、函數、程序、子常式、副程式等。當程序對應於函數時,其終止可以對應於函數返回到調用函數或主函數。
可以使用儲存在電腦可讀取媒體中或以其他方式從電腦可讀取媒體中獲得的電腦可執行指令來實施根據上述示例的程序和方法。這些指令可以包括,例如,使得或以其他方式配置通用電腦、專用電腦或處理設備以執行某一功能或功能組的指令和資料。可以經由網路存取使用的部分電腦資源。電腦可執行指令可以是例如二進位檔案、中間格式指令(諸如組合語言、韌體、原始程式碼等)。可用於儲存指令、所使用的資訊、及/或在根據所述示例的方法期間建立的資訊的電腦可讀取媒體的示例包括磁碟或光碟、快閃記憶體、設置有非揮發性記憶體的USB設備、網路記憶體設備等。
在一些實施例中,電腦可讀記憶體設備、媒體和記憶體可以包括包含位元串流等的有線或無線信號。然而,當提及時,非暫時性電腦可讀取儲存媒體明確地排除諸如能量、載波信號、電磁波和信號本身的媒體。
熟習此項技術者將理解,資訊和信號可以使用各種不同的技術和製程中的任何一種來表示。例如,在上述描述中可能被引用的資料、指令、命令、資訊、信號、位元、符號和晶片可以由電壓、電流、電磁波、磁場或磁性粒子、光場或光學粒子、或其任何組合來表示,在一些情況下,這部分取決於特定的應用,部分取決於所需的設計,部分取決於對應的技術等。
結合本文揭露的態樣描述的各種說明性的邏輯區塊、模組和電路可以使用硬體、軟體、韌體、仲介軟體、微碼、硬體描述語言或其任意組合來實現或執行,並且可以採用各種外形尺寸中的任意一種。當在軟體、韌體、仲介軟體或微代碼中實施時,執行必要任務的程式碼或程式碼片段(例如,電腦程式產品)可以儲存在電腦可讀或機器可讀取媒體中。處理器可以執行必要的任務。外形尺寸的示例包括膝上型電腦、智慧手機、行動電話、平板電腦設備或其他小外形尺寸個人電腦、個人數位助理、機架安裝設備、獨立設備等。本文描述的功能還可以體現在週邊設備或外掛程式卡中。進一步舉例,這種功能還可以在不同晶片之間的電路板上實施,或者在單個設備中執行的不同程序上實施。
指令、用於傳送此類指令的媒體、用於執行該指令的計算資源以及用於支援此類計算資源的其他結構是用於提供本案中描述的功能的示例構件。
本文描述的技術也可以在電子硬體、電腦軟體、韌體或其任意組合中實現。這種技術可以在多種設備中的任何一種中實現,諸如通用電腦、無線通訊設備手機或具有多種用途的積體電路設備,包括在無線通訊設備手機和其他設備中的應用。被描述為模組或元件的任何特徵可以在整合邏輯裝置中一起實現,或者作為個別但可交互動操作的邏輯裝置單獨實現。如果在軟體中實現,則技術可以至少部分地由包括程式碼的電腦可讀取資料儲存媒體來實現,該程式碼包括指令,當被執行時,執行上述方法、演算法及/或操作中的一或多個。電腦可讀取資料儲存媒體可以形成電腦程式產品的一部分,該電腦程式產品可以包括包裝材料。電腦可讀取媒體可以包括記憶體或資料儲存媒體,諸如隨機存取記憶體(RAM)(諸如同步動態隨機存取記憶體(SDRAM))、唯讀記憶體(ROM)、非揮發性隨機存取記憶體(NVRAM)、電子可抹除可程式化唯讀記憶體(EEPROM)、快閃記憶體、磁或光資料儲存媒體等。附加地或替代地,這些技術可以至少部分地由電腦可讀通訊媒體來實現,該電腦可讀通訊媒體承載或傳送指令或資料結構形式的程式碼,並且可以由電腦存取、讀取及/或執行,諸如傳播的信號或波。
該程式碼可由處理器執行,處理器可包括一或多個處理器,諸如一或多個數位訊號處理器(DSP)、通用微處理器、專用積體電路(ASIC)、現場可程式化邏輯陣列(FPGA)或其他等效整合或離散邏輯電路。此類處理器可以被配置為執行本案中描述的任何技術。通用處理器可以是微處理器,但是可選地,處理器可以是任何習知的處理器、控制器、微控制器或狀態機。處理器也可以被實現為計算裝置的組合,例如DSP和微處理器的組合、複數個微處理器、與DSP核心結合的一或多個微處理器、或者任何其他此類配置。因此,本文使用的術語「處理器」可以指任何前述結構、前述結構的任何組合、或者適於實現本文描述的技術的任何其他結構或裝置。
一般熟習此項技術者將理解,本文中使用的小於(「<」)和大於(「>」)符號或術語可以分別替換為小於或等於(「≦」)和大於或等於(「≧」)符號,而不脫離本說明書的範圍。
在將元件描述為被「配置為」執行某些操作的情況下,可以例如藉由設計電子電路或其他硬體來執行操作,藉由程式化可程式化電子電路(例如微處理器,或其他合適的電子電路)來執行操作,或其任何組合來實現這種配置。
短語「耦合到」或「通訊耦合到」是指直接或間接實體連接到另一個元件的任何元件、及/或直接或間接與另一個元件通訊(例如,藉由有線或無線連接及/或其他合適的通訊介面連接到另一個元件)的任何元件。
請求項語言或其他語言列舉的集合「中的至少一個」及/或集合中的「一或多個」指示集合中的一個成員或集合中的多個成員(在任何組合中)滿足該請求項。例如,請求項語言列舉的「A和B中的至少一個」是指A、B或A和B。在另一示例中,請求項語言列舉的「A、B和C中的至少一個」是指A、B、C、或A和B、或A和C、或B和C、或A和B和C。語言集合「中的至少一個」及/或集合中的「一或多個」不將集合限制為集合中列出的項目。例如,申請專利範圍語言列舉的「A和B中的至少一個」或「A或B中的至少一個」可以表示A、B或A和B,並且可以另外包括A和B集合中未列出的項目。
本案的說明性示例包括:
態樣1:一種裝置,包括:至少一個記憶體;及一或多個處理器,與至少一個記憶體耦合並且被配置為:獲得射頻(RF)感測資料;基於RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括發送RF信號從物理空間中的一或多個物件的反射;將一或多個反射路徑與和裝置相關聯的圖像擷取裝置的視場(FOV)進行比較;及基於該比較,觸發該裝置和圖像擷取裝置中的至少一個的動作。
態樣2:根據態樣1中任一所述的裝置,其中一或多個處理器被配置為:基於該比較,決定一或多個物件在圖像擷取裝置的FOV之外;及基於決定一或多個物件在圖像擷取裝置的FOV之外,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取設備的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態。
態樣3:根據態樣2之裝置,其中一或多個處理器被配置為:決定一或多個物件正朝著與圖像擷取裝置的FOV相對應的場景的一部分移動;及基於決定一或多個物件正朝著對應於圖像擷取裝置的FOV的場景的該部分移動,將圖像擷取裝置的功率設置調整到不同的功率狀態。
態樣4:根據態樣1至3中任一項所述的裝置,其中一或多個處理器被配置為:決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋;及基於決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取裝置的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態,其中觸發動作還基於決定圖像擷取裝置對一或多個物件的視角被阻擋。
態樣5:根據態樣4之裝置,其中為了決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋,一或多個處理器還被配置為:基於該比較,決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內;及基於一或多個物件的位置來決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋。
態樣6:根據態樣1至5中任一項所述的裝置,其中圖像擷取裝置包括複數個圖像感測器,其中觸發的動作包括控制圖像擷取裝置的功率設置,並且其中為了控制圖像擷取裝置的功率設置,一或多個處理器被配置為控制複數個圖像感測器的單獨功率設置。
態樣7:根據態樣6之裝置,其中為了控制複數個圖像感測器的單獨功率設置,一或多個處理器被配置為:基於決定手在複數個圖像感測器中的特定一個的FOV內,將裝置的複數個處理器中的至少一個專用於複數個圖像感測器中的特定一個以用於影像處理。
態樣8:根據態樣1至7中任一項所述的裝置,其中一或多個處理器被配置為:基於決定一或多個物件在圖像擷取裝置的FOV之外,控制裝置的複數個處理器對裝置的複數個圖像擷取裝置的使用,複數個圖像擷取裝置包括圖像擷取裝置。
態樣9:根據態樣7之裝置,其中為了控制複數個處理器對複數個圖像擷取裝置的使用,一或多個處理器被配置為:將複數個圖像擷取裝置中先前由複數個處理器中的兩個或更多個共享的特定一個專用於複數個處理器中的一個。
態樣10:根據態樣7之裝置,其中複數個處理器中的每一個可以包括圖像信號處理器,並且其中複數個圖像擷取裝置中的每一個包括圖像感測器。
態樣11:根據態樣1至10中任一項所述的裝置,其中一或多個處理器被配置為:基於該比較,決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取裝置的FOV的場景的一部分移動;及回應於決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取設備的FOV的場景的該部分移動,將活動相機設置從圖像擷取裝置切換到不同圖像擷取裝置,切換的活動相機設置觸發該裝置使用不同圖像擷取裝置來擷取一或多個圖像。
態樣12:根據態樣1至11中任一項所述的裝置,其中一或多個物件中的至少一個包括與裝置的使用者相關聯的手。
態樣13:根據態樣1至12中任一項所述的裝置,其中一或多個處理器被配置為:決定RF信號的路徑,該路徑包括發送RF信號的直接路徑;及基於RF信號的路徑決定一或多個物件相對於裝置的位置。
態樣14:根據態樣1至13中任一項所述的裝置,其中一或多個處理器被配置為:決定與一或多個反射路徑相關聯的相應距離、相應方位角和相應仰角中的至少一個;及基於相應的距離、相應的方位角和相應的仰角中的至少一個,決定一或多個物件相對於裝置的位置。
態樣15:根據態樣1至14中任一項所述的裝置,其中觸發的動作包括控制圖像擷取裝置的功率設置,並且其中控制圖像擷取裝置的功率設置還基於光位准低於閾值。
態樣16:根據態樣1至14中任一項所述的裝置,其中觸發的動作包括控制圖像擷取裝置的功率設置,並且其中控制圖像擷取裝置的功率設置還基於隱私設置,其中隱私設置基於使用者輸入、應用資料和全球導航衛星系統(GNSS)資料中的至少一個。
態樣17:根據態樣1至16中任一項所述的裝置,其中一或多個處理器被配置為:基於RF感測資料和一或多個反射路徑,決定一或多個物件的大小和形狀中的至少一個。
態樣18:根據態樣1至17中任一項所述的裝置,其中一或多個處理器被配置為:基於RF感測資料和一或多個反射路徑,決定來自一或多個物件中的物件的形狀;基於物件的形狀,決定物件包括與裝置的使用者相關聯的手;及使用由圖像擷取裝置擷取的圖像產生手的裁剪圖像。
態樣19:根據態樣18之裝置,其中一或多個處理器被配置為:基於一或多個反射路徑決定一或多個物件相對於裝置的位置;其中裁剪圖像是基於一或多個物件的位置產生的,並且其中一或多個物件的位置包括手部位置。
態樣20:根據態樣18之裝置,其中一或多個處理器被配置為:基於相關聯物件的相應距離在距離閾值內,從一或多個反射路徑中選擇一或多個反射路徑中的至少一個。
態樣21:根據態樣18之裝置,其中一或多個處理器被配置為:向目的地設備發送裁剪圖像。
態樣22:根據態樣21之裝置,其中目的地設備包括伺服器和行動設備中的至少一個,並且其中裝置包括擴展現實設備。
態樣23:根據態樣1至22中任一項所述的裝置,其中一或多個物件中的至少一個包括裝置的使用者的手,並且其中一或多個處理器被配置為:基於RF感測資料和一或多個反射路徑,決定物理空間的地圖和與使用者的手相關聯的手勢中的至少一個。
態樣24:根據態樣1至23中任一項所述的裝置,其中觸發的動作包括提取圖像的包含一或多個物件的一部分。
態樣25:根據態樣1至24中任一項所述的裝置,其中觸發的動作包括決定是否擷取一或多個物件的一或多個圖像,觸發的動作還基於決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內。
態樣26:根據態樣1至25中任一項所述的裝置,其中該裝置包括增強現實設備。
態樣27:根據態樣26之裝置,其中該增強現實設備包括頭戴式顯示器。
態樣28:根據態樣1至27中任一項所述的裝置,其中一或多個處理器被配置為:使用機器學習演算法來偵測與裝置的使用者相關聯的手和圖像擷取裝置的視角對手的阻礙中的至少一個,其中手包括一或多個物件中的至少一個。
態樣29:根據態樣1至28中任一項所述的裝置,其中RF感測資料包括通道狀態資訊(CSI)資料。
態樣30:根據態樣1至29中任一項所述的裝置,其中該裝置包括行動設備。
態樣31:根據態樣1至30中任一項所述的裝置,其中行動設備包括可穿戴設備。
態樣32:根據態樣1至31中任一項所述的裝置,其中發送RF信號包括來自目的地設備的下行鏈路實體層協定資料單元(DL-PPDU)。
態樣33:根據態樣1至32中任一項所述的裝置,其中發送RF信號包括Wi-Fi雷達信號。
態樣34:一種方法,包括:獲得射頻(RF)感測資料;基於RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括發送RF信號從物理空間中的一或多個物件的反射;將一或多個反射路徑與和行動設備相關聯的圖像擷取裝置的視場(FOV)進行比較;及基於該比較,由圖像擷取設備和行動設備中的至少一個觸發動作。
態樣35:根據態樣34之方法,還包括:基於該比較,決定一或多個物件在圖像擷取裝置的FOV之外;及基於決定一或多個物件在圖像擷取裝置的FOV之外,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取設備的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態。
態樣36:根據態樣35之方法,還包括:決定一或多個物件正朝著與圖像擷取裝置的FOV相對應的場景的一部分移動;及基於決定一或多個物件正朝著對應於圖像擷取裝置的FOV的場景的該部分移動,將圖像擷取裝置的功率設置調整到不同的功率狀態。
態樣37:根據態樣34至36中任一項所述的方法,還包括:決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋;及基於決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋,當一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內時,將圖像擷取裝置的功率設置設置為低於與圖像擷取裝置相關聯的不同功率狀態的經調整的功率狀態,其中觸發動作還基於決定圖像擷取裝置對一或多個物件的視角被阻擋。
態樣38:根據態樣37之方法,其中決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋還包括:基於該比較,決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內;及基於一或多個物件的位置來決定圖像擷取裝置對一或多個物件的視角被至少一個物件阻擋。
態樣39:根據態樣34至38中任一項所述的方法,其中圖像擷取裝置包括複數個圖像感測器,其中觸發的動作包括控制圖像擷取裝置的功率設置,並且其中控制圖像擷取裝置的功率設置還包括控制複數個圖像感測器的單獨功率設置。
態樣40:根據態樣34至39中任一項所述的方法,其中控制複數個圖像感測器的單獨功率設置還包括:基於決定手在複數個圖像感測器中的特定一個的FOV內,將行動設備的複數個處理器中的至少一個專用於複數個圖像感測器中的特定一個以用於影像處理。
態樣41:根據態樣34至40中任一項所述的方法,還包括:基於決定一或多個物件在圖像擷取裝置的FOV之外,控制行動設備的複數個處理器對行動設備的複數個圖像擷取裝置的使用,複數個圖像擷取裝置包括圖像擷取裝置。
態樣42:根據態樣41之裝置,其中為了控制複數個處理器對複數個圖像擷取裝置的使用,一或多個處理器被配置為:將複數個圖像擷取裝置中先前由複數個處理器中的兩個或更多個共享的特定一個專用於複數個處理器中的一個。
態樣43:根據態樣41之方法,其中複數個處理器中的每一個可以包括圖像信號處理器,並且其中複數個圖像擷取裝置中的每一個包括圖像感測器。
態樣44:根據態樣34至43中任一項所述的方法,還包括:決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取裝置的FOV的場景的一部分移動;及回應於決定一或多個物件在圖像擷取裝置的FOV之外並且朝著對應於圖像擷取設備的FOV的場景的該部分移動,將活動相機設置從圖像擷取裝置切換到不同圖像擷取裝置,切換的活動相機設置觸發行動設備使用不同圖像擷取裝置來擷取一或多個圖像。
態樣45:根據態樣34至44中任一項所述的方法,其中一或多個物件中的至少一個包括與行動設備的使用者相關聯的手。
態樣46:根據態樣34至45中任一項所述的方法,還包括:決定RF信號的路徑,該路徑包括發送RF信號的直接路徑;及基於RF信號的路徑決定一或多個物件相對於行動設備的位置。
態樣47:根據態樣34至46中任一項所述的方法,還包括:決定與一或多個反射路徑相關聯的相應距離、相應方位角和相應仰角中的至少一個;及基於相應的距離、相應的方位角和相應的仰角中的至少一個,決定一或多個物件相對於行動設備的位置。
態樣48:根據態樣34至47中任一項所述的方法,其中觸發的動作包括控制圖像擷取裝置的功率設置,並且其中控制圖像擷取裝置的功率設置還基於光位准低於閾值。
態樣49:根據態樣34至47中任一項所述的方法,其中觸發的動作包括控制圖像擷取裝置的功率設置,並且其中控制圖像擷取裝置的功率設置還基於隱私設置,其中隱私設置基於使用者輸入、應用資料和全球導航衛星系統(GNSS)資料中的至少一個。
態樣50:根據態樣34至49中任一項所述的方法,還包括:基於RF感測資料和一或多個反射路徑,決定一或多個物件的大小和形狀中的至少一個。
態樣51:根據態樣34至50中任一項所述的方法,還包括:基於RF感測資料和一或多個反射路徑,決定來自一或多個物件中的物件的形狀;基於物件的形狀,決定物件包括與行動設備的使用者相關聯的手;及使用由圖像擷取裝置擷取的圖像產生手的裁剪圖像。
態樣52:根據態樣51之方法,還包括:基於一或多個反射路徑決定一或多個物件相對於行動設備的位置;其中裁剪圖像是基於一或多個物件的位置產生的,並且其中一或多個物件的位置包括手部位置。
態樣53:根據態樣51之方法,還包括:基於相關聯物件的相應距離在距離閾值內,從一或多個反射路徑中選擇一或多個反射路徑中的至少一個。
態樣54:根據態樣51之方法,還包括:向目的地設備發送裁剪圖像。
態樣55:根據態樣54之方法,其中目的地設備包括伺服器和行動設備中的至少一個,並且其中行動設備包括擴展現實設備。
態樣56:根據態樣34至55中任一項所述的方法,其中一或多個物件中的至少一個包括行動設備的使用者的手,該方法還包括:基於RF感測資料和一或多個反射路徑,決定物理空間的地圖和與使用者的手相關聯的手勢中的至少一個。
態樣57:根據態樣34至55中任一項所述的方法,其中觸發的動作包括提取圖像的包含一或多個物件的一部分。
態樣58:根據態樣34至57中任一項所述的方法,其中觸發的動作包括決定是否擷取一或多個物件的一或多個圖像,觸發的動作還基於決定一或多個物件在對應於圖像擷取裝置的FOV的場景的一部分內。
態樣59:根據態樣34至58中任一項所述的方法,還包括:使用機器學習演算法來偵測與行動設備的使用者相關聯的手和圖像擷取裝置的視角對手的阻礙中的至少一個,其中手包括一或多個物件中的至少一個。
態樣60:一種其上儲存有指令的非暫時性電腦可讀取媒體,當由一或多個處理器執行時,該等指令使得一或多個處理器執行根據態樣34至58中任一項所述的方法。
態樣61:一種裝置,包括用於執行根據態樣34至58中任一項的方法的構件。
態樣62:根據態樣61之裝置,其中該裝置包括增強現實設備。
態樣63:根據態樣62之裝置,其中該增強現實設備包括頭戴式顯示器。
態樣64:根據態樣61之裝置,其中該裝置包括行動設備。
態樣65:根據態樣61之裝置,其中該裝置包括可穿戴設備。
100:示例通訊系統
102:存取點(AP)
104a:使用者設備(UE)
104b:使用者設備(UE)
104c:使用者設備(UE)
104d:使用者設備(UE)
106:通訊鏈路
108:WLAN
110:直接無線鏈路
112:通訊鏈路
120:通訊鏈路
122:回載鏈路
160:基地台
170:核心網路
172:伺服器
210:使用者設備
220:示例計算系統
222:輸入裝置
224:SIM
226:數據機
228:無線收發器
230:輸出設備
232:DSP
234:處理器
236:記憶體設備
238:匯流排
240:天線
242:信號
300:無線設備
302:物件
304:數位類比轉換器(DAC)
306:RF發送器
308:類比數位轉換器(ADC)
310:RF接收器
312:TX天線
314:RX天線
316:TX波形
318:RX波形
320:洩漏信號
400:室內環境
402:行動設備
404:存取點(AP)
406:TX天線
408:RX天線
410:RF信號
412:反射信號
414:洩漏信號
415a:信號
415b:信號
415c:反射信號
416a:RF波形
416b:RF波形
418a:反射波形
418b:反射
418c:反射波形
420:物件
422:牆壁
424:牆壁
426:牆壁
500:圖形表示
520:圖形表示
522:物件
524:物件
526:物件
530:直接路徑
532:選定反射路徑
534:反射路徑
600:示例用例
610:目的地設備
620:XR設備
622:下行鏈路(DL)訊框
624:下行鏈路(DL)訊框
626:下行鏈路(DL)訊框
630:方塊
632:方塊
640:UL訊框
700:渲染場景
702:目的地設備
704:行動設備
706:XR設備
710:DL資料
712:DL資料
720:UL資料
722:UL資料
725:另一示例渲染場景
730:DL資料
732:DL資料
740:UL資料
742:UL資料
800:示例程序
802:方塊
804:方塊
806:方塊
808:方塊
900:計算系統
905:連接
910:處理器
912:快取記憶體
915:系統記憶體
920:系統記憶體
925:隨機存取記憶體(RAM)
930:儲存裝置
932:服務
934:服務
935:輸出設備
936:服務
940:通訊介面
945:輸入裝置
D
1:距離
θ
1:到達角
下面參考以下附圖詳細描述本案的說明性實施例:
圖1圖示根據本案的一些示例的無線通訊網路的示例;
圖2是示出根據本案的一些示例的使用者設備的計算系統的示例的方塊圖;
圖3是示出根據本案的一些示例的利用射頻感測技術來偵測環境中的物件及/或物件特徵的無線設備的示例的圖;
圖4是示出根據本案的一些示例的包括用於偵測物件及/或物件特徵的無線設備的環境的示例的圖;
圖5A是根據本案的一些示例的基於射頻感測圖示物件和牆壁的大小和位置的圖形表示的示例;
圖5B是根據本案的一些示例的圖示由射頻感測決定的物件的大小和位置的圖形表示的另一個示例;
圖6是示出根據本案的一些示例的使用射頻感測來減少從擴展現實設備到目的地設備的上行鏈路傳輸量的示例用例的圖;
圖7A和7B是示出根據本案的一些示例的示例擴展現實渲染場景的圖;
圖8是示出根據本案的一些示例的使用射頻感測的擴展現實最佳化的示例程序的流程圖;及
圖9是示出根據本案的一些示例的計算系統的示例的方塊圖。
國內寄存資訊(請依寄存機構、日期、號碼順序註記)
無
國外寄存資訊(請依寄存國家、機構、日期、號碼順序註記)
無
400:室內環境
402:行動設備
404:存取點(AP)
406:TX天線
408:RX天線
410:RF信號
412:反射信號
414:洩漏信號
415a:信號
415b:信號
415c:反射信號
416a:RF波形
416b:RF波形
418a:反射波形
418b:反射
418c:反射波形
420:物件
422:牆壁
424:牆壁
426:牆壁
Claims (51)
- 一種裝置,包括: 至少一個記憶體;及 一或多個處理器,與該至少一個記憶體耦合並且被配置為: 獲得射頻(RF)感測資料; 基於該RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括一發送RF信號從一物理空間中的一或多個物件的一反射; 將該一或多個反射路徑與和該裝置相關聯的一圖像擷取裝置的一視場(FOV)進行比較;及 基於該比較,觸發該裝置和該圖像擷取裝置中的至少一個的一動作。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 基於該比較,決定該一或多個物件在該圖像擷取裝置的FOV之外;及 基於決定該一或多個物件在該圖像擷取裝置的FOV之外,當該一或多個物件在對應於該圖像擷取裝置的FOV的場景的一部分內時,將該圖像擷取設備的一功率設置設置為一關閉狀態或低於與該圖像擷取裝置相關聯的一不同功率狀態的一經調整的功率狀態。
- 根據請求項2之裝置,其中該一或多個處理器被配置為: 基於該比較,決定該一或多個物件正朝著該圖像擷取裝置的FOV移動;及 基於決定該一或多個物件正朝著該圖像擷取裝置的FOV移動,將該圖像擷取裝置的功率設置調整為該不同功率狀態。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 決定該圖像擷取裝置對該一或多個物件的視角被至少一個物件阻擋;及 基於決定該圖像擷取裝置對該一或多個物件的視角被至少一個物件阻擋,當該一或多個物件在對應於該圖像擷取裝置的FOV的一場景的一部分內時,將該圖像擷取裝置的一功率設置設置為低於與該圖像擷取裝置相關聯的一不同功率狀態的經調整的功率狀態,其中觸發該動作還基於決定該圖像擷取裝置對該一或多個物件的視角被阻擋。
- 根據請求項4之裝置,其中為了決定該圖像擷取裝置對該一或多個物件的視角被至少一個物件阻擋,該一或多個處理器還被配置為: 基於該比較,決定該一或多個物件在對應於該圖像擷取裝置的FOV的場景的一部分內;及 基於該一或多個物件的一位置,決定該圖像擷取裝置對該一或多個物件的一視角被該至少一個物件阻擋。
- 根據請求項1之裝置,其中該圖像擷取裝置包括複數個圖像感測器,其中觸發的動作包括控制該圖像擷取裝置的一功率設置,並且其中為了控制該圖像擷取裝置的該功率設置,該一或多個處理器被配置為控制該複數個圖像感測器的單獨功率設置。
- 根據態樣6之裝置,其中為了控制該複數個圖像感測器的單獨功率設置,該一或多個處理器被配置為基於決定該手在該複數個圖像感測器中的特定一個的一FOV內,將該裝置的複數個處理器中的至少一個專用於該多個圖像感測器中的特定一個以用於影像處理。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 基於決定該一或多個物件在該圖像擷取裝置的FOV之外,控制該裝置的複數個處理器對該裝置的複數個圖像擷取裝置的一使用,該複數個圖像擷取裝置包括該圖像擷取裝置。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 基於該比較,決定該一或多個物件在該圖像擷取裝置的該FOV之外並且朝著對應於該圖像擷取裝置的該FOV的一場景的一部分移動;及 回應於決定該一或多個物件在該圖像擷取裝置的該FOV之外並且朝著對應於該圖像擷取設備的該FOV的該場景的一部分移動,將一活動相機設置從該圖像擷取裝置切換到一不同圖像擷取裝置,該切換的活動相機設置觸發該裝置使用該不同圖像擷取裝置來擷取一或多個圖像。
- 根據請求項1之裝置,其中該一或多個物件中的至少一個包括與該裝置的一使用者相關聯的一手。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 決定包括該發送RF信號的一直接路徑的RF信號的路徑;及 基於該等RF信號的路徑,決定該一或多個物件相對於該裝置的一位置。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 基於該比較,決定與該一或多個反射路徑相關聯的一相應距離、一相應方位角和一相應仰角中的至少一個;及 決定該一或多個物件相對於該裝置的該位置。
- 根據請求項1之裝置,其中觸發的動作包括控制該圖像擷取裝置的一功率設置,並且其中控制該圖像擷取裝置的該功率設置還基於一光位准低於一閾值。
- 根據請求項1之裝置,其中觸發的動作包括控制該圖像擷取裝置的一功率設置,並且其中控制該圖像擷取裝置的該功率設置還基於隱私設置,其中該隱私設置基於全球導航衛星系統(GNSS)資料。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 基於該RF感測資料和該一或多個反射路徑,決定該一或多個物件的一大小和形狀中的至少一個。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 基於該RF感測資料和該一或多個反射路徑,決定來自該一或多個物件中的一物件的一形狀; 基於該物件的形狀,決定該物件包括與該裝置的一使用者相關聯的一手;及 使用該圖像擷取裝置擷取的一圖像產生該手的一裁剪圖像。
- 根據請求項16之裝置,其中該一或多個處理器被配置為: 基於該一或多個反射路徑,決定該一或多個物件相對於該裝置的一位置; 其中該裁剪圖像是基於該一或多個物件的該位置產生的,並且其中該一或多個物件的該位置包括一手部位置。
- 根據請求項16之裝置,其中該一或多個處理器被配置為: 基於一相關聯物件的一相應距離在一距離閾值內,從該一或多個反射路徑中選擇該一或多個反射路徑中的至少一個。
- 根據請求項16之裝置,其中該一或多個處理器被配置為: 向一目的地設備發送該裁剪圖像。
- 根據請求項19之裝置,其中該目的地設備包括伺服器和一行動設備中的至少一個,並且其中該裝置包括一擴展現實設備。
- 根據請求項1之裝置,其中該一或多個物件中的至少一個包括該裝置的一使用者的一手,並且其中該一或多個處理器被配置為: 基於該RF感測資料和該一或多個反射路徑,決定該物理空間的一地圖和與該使用者的該手相關聯的一手勢中的至少一個。
- 根據請求項1之裝置,其中該觸發的動作包括提取一圖像的包含該一或多個物件的一部分。
- 根據請求項1之裝置,其中該觸發的動作包括決定是否擷取該一或多個物件的一或多個圖像,該觸發的動作還基於決定該一或多個物件在對應於該圖像擷取裝置的該FOV的一場景的一部分內。
- 根據請求項1之裝置,其中該裝置包括一增強現實設備。
- 根據請求項24之裝置,其中該增強現實設備包括一頭戴式顯示器。
- 根據請求項1之裝置,其中該一或多個處理器被配置為: 使用一機器學習演算法來偵測與該裝置的一使用者相關聯的一手和該圖像擷取裝置的一視角對該手的一阻礙中的至少一個,其中該手包括該一或多個物件中的至少一個。
- 一種方法,包括: 至少一個記憶體;及 一或多個處理器,與該至少一個記憶體耦合並且被配置為: 獲得射頻(RF)感測資料; 基於該RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括一發送RF信號從一物理空間中的一或多個物件的一反射; 將該一或多個反射路徑與和一行動設備相關聯的一圖像擷取裝置的一視場(FOV)進行比較;及 基於該比較,觸發該圖像擷取裝置和該行動設備中的至少一個的一動作。
- 根據請求項27之方法,還包括: 基於該比較,決定該一或多個物件在該圖像擷取裝置的該FOV之外;及 基於決定該一或多個物件在該圖像擷取裝置的FOV之外,當該一或多個物件在對應於該圖像擷取裝置的一FOV的一場景的一部分內時,將該圖像擷取設備的一功率設置設置為低於與該圖像擷取裝置相關聯的一不同功率狀態的一經調整的功率狀態。
- 根據請求項28之方法,還包括: 決定該一或多個物件正朝著對應於該圖像擷取裝置的該FOV的該場景的該部分移動;及 基於決定該一或多個物件正朝著對應於該圖像擷取裝置的該FOV的該場景的該部分移動,將該圖像擷取裝置的該功率設置調整為該不同功率狀態。
- 根據請求項27之方法,還包括: 決定該圖像擷取裝置對該一或多個物件的一視角被至少一個物件阻擋;及 基於決定該圖像擷取裝置對該一或多個物件的視角被至少一個物件阻擋遮擋,當該一或多個物件在對應於該圖像擷取裝置的該FOV的一場景的一部分內時,將該圖像擷取裝置的一功率設置設置為低於與該圖像擷取裝置相關聯的一不同功率狀態的一經調整的功率狀態,其中觸發該動作還基於決定該圖像擷取裝置對該一或多個物件的視角被阻擋。
- 根據請求項30之方法,其中決定該圖像擷取裝置對該一或多個物件的視角被至少一個物件阻擋還包括: 基於該比較,決定該一或多個物件在對應於該圖像擷取裝置的該FOV的該場景的該部分內;及 基於該一或多個物件的一位置,決定該圖像擷取裝置對該一或多個物件的一視角被該至少一個物件阻擋。
- 根據請求項27之方法,其中該圖像擷取裝置包括複數個圖像感測器,其中該觸發的動作包括控制該圖像擷取裝置的一功率設置,並且其中控制該圖像擷取裝置的該功率設置還包括控制該複數個圖像感測器的單獨功率設置。
- 根據請求項32之方法,其中控制該複數個圖像感測器的單獨功率設置還包括基於決定該手在該複數個圖像感測器中的特定一個的一FOV內,將該行動設備的複數個處理器中的至少一個專用於該複數個圖像感測器中的特定一個以用於影像處理。
- 根據請求項27之方法,還包括: 基於決定該一或多個物件在該圖像擷取裝置的該FOV之外,控制該行動設備的複數個處理器對該行動設備的複數個圖像擷取裝置的一使用,該複數個圖像擷取裝置包括該圖像擷取裝置。
- 根據請求項27之方法,還包括: 決定該一或多個物件在該圖像擷取裝置的該FOV之外並且朝著對應於該圖像擷取裝置的該FOV的一場景的一部分移動;及 回應於決定該一或多個物件在該圖像擷取裝置的該FOV之外並且朝著對應於該圖像擷取設備的FOV的該場景的該部分移動,將一活動相機設置從該圖像擷取裝置切換到一不同圖像擷取裝置,該切換的活動相機設置觸發該行動設備使用該不同圖像擷取裝置來擷取一或多個圖像。
- 根據請求項27之方法,其中該一或多個物件中的至少一個包括與該行動設備的一使用者相關聯的一手。
- 根據請求項27之方法,還包括: 決定包括該發送RF信號的一直接路徑的RF信號的路徑;及 基於該等RF信號的該等路徑,決定該一或多個物件相對於該行動設備的一位置。
- 根據請求項37之方法,其中決定該一或多個物件的該位置還包括決定與一或多個反射路徑相關聯的一相應距離、一相應方位角和一相應仰角中的至少一個。
- 根據請求項27之方法,其中該觸發的動作包括控制該圖像擷取裝置的一功率設置,並且其中控制該圖像擷取裝置的該功率設置還基於一光位准低於一閾值。
- 根據請求項27之方法,其中觸發的動作包括控制該圖像擷取裝置的一功率設置,並且其中控制該圖像擷取裝置的該功率設置還基於一隱私設置,其中該隱私設置基於全球導航衛星系統(GNSS)資料。
- 根據請求項27之方法,還包括: 基於該RF感測資料和該一或多個反射路徑,決定該一或多個物件的一大小和形狀中的至少一個。
- 根據請求項27之方法,還包括: 基於該RF感測資料和該一或多個反射路徑,決定來自該一或多個物件中的一物件的一形狀; 基於該物件的形狀,決定該物件包括與該行動設備的一使用者相關聯的一手;及 使用該圖像擷取裝置擷取的一圖像產生該手的裁剪圖像。
- 根據請求項42之方法,還包括: 基於該一或多個反射路徑,決定該一或多個物件相對於該行動設備的一位置; 其中該裁剪圖像是基於該一或多個物件的該位置產生的,並且其中該一或多個物件的該位置包括一手部位置。
- 根據請求項42之方法,還包括: 基於一相關聯物件的一相應距離在一距離閾值內,從該一或多個反射路徑中選擇該一或多個反射路徑中的至少一個。
- 根據請求項42之方法,還包括: 向一目的地設備發送該裁剪圖像。
- 根據請求項45之方法,其中該目的地設備包括伺服器和一行動設備中的至少一個,並且其中該行動設備包括一擴展現實設備。
- 根據請求項27之方法,其中該一或多個物件中的至少一個包括該行動設備的一使用者的一手,該方法還包括: 基於該RF感測資料和該一或多個反射路徑,決定該物理空間的一地圖和與該使用者的該手相關聯的一手勢中的至少一個。
- 根據請求項27之方法,其中觸發的動作包括提取一圖像的包含該一或多個物件的一部分。
- 根據請求項27之方法,其中該觸發的動作包括決定是否擷取該一或多個物件的一或多個圖像,該觸發的動作還基於決定該一或多個物件在對應於該圖像擷取裝置的該FOV的一場景的一部分內。
- 根據請求項27之方法,還包括: 使用一機器學習演算法來偵測與該行動設備的一使用者相關聯的一手和該圖像擷取裝置的一視角對該手的一阻礙中的至少一個,其中該手包括該一或多個物件中的至少一個。
- 一種其上儲存有指令的非暫時性電腦可讀取媒體,當由一或多個處理器執行時,該等指令使得該一或多個處理器: 獲得射頻(RF)感測資料; 基於該RF感測資料,決定一或多個反射RF信號的一或多個反射路徑,其中每個反射RF信號包括一發送RF信號從一物理空間中的一或多個物件的一反射; 將該一或多個反射路徑與一圖像擷取裝置的一視場(FOV)進行比較;及 基於該比較,觸發該圖像擷取裝置和與該圖像擷取裝置相關聯的一電子設備中的至少一個的一動作。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/336,106 US20220381898A1 (en) | 2021-06-01 | 2021-06-01 | Controlling device and processing settings based on radio frequency sensing |
US17/336,106 | 2021-06-01 |
Publications (1)
Publication Number | Publication Date |
---|---|
TW202303179A true TW202303179A (zh) | 2023-01-16 |
Family
ID=82492460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW111119267A TW202303179A (zh) | 2021-06-01 | 2022-05-24 | 基於射頻感測來控制設備和處理設置 |
Country Status (8)
Country | Link |
---|---|
US (1) | US20220381898A1 (zh) |
EP (1) | EP4348289A1 (zh) |
JP (1) | JP2024523130A (zh) |
KR (1) | KR20240015074A (zh) |
CN (1) | CN117377886A (zh) |
BR (1) | BR112023024359A2 (zh) |
TW (1) | TW202303179A (zh) |
WO (1) | WO2022256203A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11470017B2 (en) * | 2019-07-30 | 2022-10-11 | At&T Intellectual Property I, L.P. | Immersive reality component management via a reduced competition core network component |
US11539393B2 (en) * | 2020-08-07 | 2022-12-27 | Apple Inc. | Radio-frequency front end modules with leakage management engines |
US12035201B2 (en) * | 2022-01-19 | 2024-07-09 | Qualcomm Incorporated | Determining communication nodes for radio frequency (RF) sensing |
US11778503B1 (en) * | 2022-04-25 | 2023-10-03 | Hewlett Packard Enterprise Development Lp | Association identifier assignment for compact traffic indication map |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9749823B2 (en) * | 2009-12-11 | 2017-08-29 | Mentis Services France | Providing city services using mobile devices and a sensor network |
GB201012178D0 (en) * | 2010-07-20 | 2010-09-01 | Telemactics Technology Llp | Indicia identifying system |
US20120280900A1 (en) * | 2011-05-06 | 2012-11-08 | Nokia Corporation | Gesture recognition using plural sensors |
US9384402B1 (en) * | 2014-04-10 | 2016-07-05 | Google Inc. | Image and video compression for remote vehicle assistance |
US11086418B2 (en) * | 2016-02-04 | 2021-08-10 | Douzen, Inc. | Method and system for providing input to a device |
WO2018057839A1 (en) * | 2016-09-22 | 2018-03-29 | Apple Inc. | Vehicle Video System |
CN113853567B (zh) * | 2019-07-26 | 2024-03-29 | 谷歌有限责任公司 | 基于imu和雷达降低状态 |
-
2021
- 2021-06-01 US US17/336,106 patent/US20220381898A1/en active Pending
-
2022
- 2022-05-24 CN CN202280037647.4A patent/CN117377886A/zh active Pending
- 2022-05-24 WO PCT/US2022/030753 patent/WO2022256203A1/en active Application Filing
- 2022-05-24 BR BR112023024359A patent/BR112023024359A2/pt unknown
- 2022-05-24 KR KR1020237040143A patent/KR20240015074A/ko unknown
- 2022-05-24 EP EP22741029.7A patent/EP4348289A1/en active Pending
- 2022-05-24 JP JP2023572215A patent/JP2024523130A/ja active Pending
- 2022-05-24 TW TW111119267A patent/TW202303179A/zh unknown
Also Published As
Publication number | Publication date |
---|---|
JP2024523130A (ja) | 2024-06-28 |
CN117377886A (zh) | 2024-01-09 |
KR20240015074A (ko) | 2024-02-02 |
US20220381898A1 (en) | 2022-12-01 |
WO2022256203A1 (en) | 2022-12-08 |
BR112023024359A2 (pt) | 2024-02-06 |
EP4348289A1 (en) | 2024-04-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220381898A1 (en) | Controlling device and processing settings based on radio frequency sensing | |
EP3016442A2 (en) | Method for scanning neighboring devices and electronic device thereof | |
US20140323161A1 (en) | Adaptive passive scanning and/or active probing techniques for mobile device positioning | |
US12058585B2 (en) | Indoor map generation using radio frequency sensing | |
TWI550300B (zh) | 精細時序量測叢發管理技術 | |
JP7306407B2 (ja) | 無線通信システムにおけるユーザー機器、電子機器、方法及び記憶媒体 | |
US20240155394A1 (en) | Sensing method and apparatus, terminal, and network device | |
US10139484B2 (en) | Apparatus and method for wireless distance measurement | |
CN118541621A (zh) | 确定用于射频(rf)感测的通信节点 | |
US20230300689A1 (en) | Communication method for terminal device and network side device, and terminal device | |
US20230377273A1 (en) | Method for mirroring 3d objects to light field displays | |
Xiong | Pushing the limits of indoor localization in today’s Wi-Fi networks | |
TW202405758A (zh) | 擴展和增強現實中的視覺內容驗證 | |
WO2024131760A1 (zh) | 移动性管理方法、装置、通信设备及可读存储介质 | |
WO2024131758A1 (zh) | 感知融合方法、装置及通信设备 | |
WO2024131761A1 (zh) | 感知协作方法、装置及通信设备 | |
WO2023061346A1 (zh) | 侧链路通信方法、终端及网络侧设备 | |
WO2024074067A1 (en) | Apparatus, method and computer program | |
WO2024156079A1 (en) | Positioning of passive devices based on differential carrier phase estimation at harmonic frequencies | |
US20240094334A1 (en) | Accurate angle-of-arrival estimation in linear antenna arrays | |
WO2024131757A1 (zh) | 感知协作方法、装置及通信设备 | |
TW202429928A (zh) | 基於可重新配置智慧表面(ris)的感測中的功率節省 | |
WO2024005903A1 (en) | Power optimization for smartwatch | |
WO2024064466A1 (en) | Accurate angle-of-arrival estimation in linear antenna arrays |