TW202416107A - 基於使用者輸入之在線學習 - Google Patents
基於使用者輸入之在線學習 Download PDFInfo
- Publication number
- TW202416107A TW202416107A TW112137354A TW112137354A TW202416107A TW 202416107 A TW202416107 A TW 202416107A TW 112137354 A TW112137354 A TW 112137354A TW 112137354 A TW112137354 A TW 112137354A TW 202416107 A TW202416107 A TW 202416107A
- Authority
- TW
- Taiwan
- Prior art keywords
- gesture
- user
- computing device
- radar
- ambiguous
- Prior art date
Links
- 238000000034 method Methods 0.000 claims abstract description 340
- 238000012549 training Methods 0.000 claims description 109
- 238000010801 machine learning Methods 0.000 claims description 101
- 238000001514 detection method Methods 0.000 claims description 88
- 230000004044 response Effects 0.000 claims description 65
- 238000004891 communication Methods 0.000 claims description 35
- 238000003860 storage Methods 0.000 claims description 16
- 238000013527 convolutional neural network Methods 0.000 claims description 15
- 230000033001 locomotion Effects 0.000 description 123
- 230000000875 corresponding effect Effects 0.000 description 44
- 230000002452 interceptive effect Effects 0.000 description 41
- 230000002123 temporal effect Effects 0.000 description 34
- 238000005516 engineering process Methods 0.000 description 29
- 230000009471 action Effects 0.000 description 25
- 230000001066 destructive effect Effects 0.000 description 25
- 230000015654 memory Effects 0.000 description 23
- 230000003190 augmentative effect Effects 0.000 description 22
- 239000011159 matrix material Substances 0.000 description 22
- 238000013528 artificial neural network Methods 0.000 description 21
- 230000005540 biological transmission Effects 0.000 description 21
- 238000006073 displacement reaction Methods 0.000 description 20
- 230000003993 interaction Effects 0.000 description 20
- 230000004069 differentiation Effects 0.000 description 17
- 238000012545 processing Methods 0.000 description 15
- 230000000295 complement effect Effects 0.000 description 14
- 230000002596 correlated effect Effects 0.000 description 14
- 210000004247 hand Anatomy 0.000 description 14
- 230000003287 optical effect Effects 0.000 description 14
- 238000011176 pooling Methods 0.000 description 14
- 230000003416 augmentation Effects 0.000 description 12
- 230000008859 change Effects 0.000 description 11
- 210000002569 neuron Anatomy 0.000 description 11
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 10
- 230000005236 sound signal Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 230000002441 reversible effect Effects 0.000 description 9
- 230000003044 adaptive effect Effects 0.000 description 8
- 230000006399 behavior Effects 0.000 description 8
- 239000002131 composite material Substances 0.000 description 8
- 238000002474 experimental method Methods 0.000 description 8
- 238000005096 rolling process Methods 0.000 description 8
- 238000001228 spectrum Methods 0.000 description 8
- 230000001815 facial effect Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 241000282326 Felis catus Species 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 6
- 230000003203 everyday effect Effects 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 238000011161 development Methods 0.000 description 5
- 230000018109 developmental process Effects 0.000 description 5
- 238000009826 distribution Methods 0.000 description 5
- 230000001965 increasing effect Effects 0.000 description 5
- 238000010606 normalization Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000001976 improved effect Effects 0.000 description 4
- 230000002829 reductive effect Effects 0.000 description 4
- 239000000470 constituent Substances 0.000 description 3
- 230000001276 controlling effect Effects 0.000 description 3
- 238000010411 cooking Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000000670 limiting effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 239000013589 supplement Substances 0.000 description 3
- 230000000153 supplemental effect Effects 0.000 description 3
- 238000002604 ultrasonography Methods 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 230000002354 daily effect Effects 0.000 description 2
- 238000013434 data augmentation Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 210000003811 finger Anatomy 0.000 description 2
- 235000013305 food Nutrition 0.000 description 2
- 230000005021 gait Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 230000001939 inductive effect Effects 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 210000003813 thumb Anatomy 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- VCGRFBXVSFAGGA-UHFFFAOYSA-N (1,1-dioxo-1,4-thiazinan-4-yl)-[6-[[3-(4-fluorophenyl)-5-methyl-1,2-oxazol-4-yl]methoxy]pyridin-3-yl]methanone Chemical compound CC=1ON=C(C=2C=CC(F)=CC=2)C=1COC(N=C1)=CC=C1C(=O)N1CCS(=O)(=O)CC1 VCGRFBXVSFAGGA-UHFFFAOYSA-N 0.000 description 1
- MOWXJLUYGFNTAL-DEOSSOPVSA-N (s)-[2-chloro-4-fluoro-5-(7-morpholin-4-ylquinazolin-4-yl)phenyl]-(6-methoxypyridazin-3-yl)methanol Chemical compound N1=NC(OC)=CC=C1[C@@H](O)C1=CC(C=2C3=CC=C(C=C3N=CN=2)N2CCOCC2)=C(F)C=C1Cl MOWXJLUYGFNTAL-DEOSSOPVSA-N 0.000 description 1
- ABDDQTDRAHXHOC-QMMMGPOBSA-N 1-[(7s)-5,7-dihydro-4h-thieno[2,3-c]pyran-7-yl]-n-methylmethanamine Chemical compound CNC[C@@H]1OCCC2=C1SC=C2 ABDDQTDRAHXHOC-QMMMGPOBSA-N 0.000 description 1
- HCDMJFOHIXMBOV-UHFFFAOYSA-N 3-(2,6-difluoro-3,5-dimethoxyphenyl)-1-ethyl-8-(morpholin-4-ylmethyl)-4,7-dihydropyrrolo[4,5]pyrido[1,2-d]pyrimidin-2-one Chemical compound C=1C2=C3N(CC)C(=O)N(C=4C(=C(OC)C=C(OC)C=4F)F)CC3=CN=C2NC=1CN1CCOCC1 HCDMJFOHIXMBOV-UHFFFAOYSA-N 0.000 description 1
- WNEODWDFDXWOLU-QHCPKHFHSA-N 3-[3-(hydroxymethyl)-4-[1-methyl-5-[[5-[(2s)-2-methyl-4-(oxetan-3-yl)piperazin-1-yl]pyridin-2-yl]amino]-6-oxopyridin-3-yl]pyridin-2-yl]-7,7-dimethyl-1,2,6,8-tetrahydrocyclopenta[3,4]pyrrolo[3,5-b]pyrazin-4-one Chemical compound C([C@@H](N(CC1)C=2C=NC(NC=3C(N(C)C=C(C=3)C=3C(=C(N4C(C5=CC=6CC(C)(C)CC=6N5CC4)=O)N=CC=3)CO)=O)=CC=2)C)N1C1COC1 WNEODWDFDXWOLU-QHCPKHFHSA-N 0.000 description 1
- KVCQTKNUUQOELD-UHFFFAOYSA-N 4-amino-n-[1-(3-chloro-2-fluoroanilino)-6-methylisoquinolin-5-yl]thieno[3,2-d]pyrimidine-7-carboxamide Chemical compound N=1C=CC2=C(NC(=O)C=3C4=NC=NC(N)=C4SC=3)C(C)=CC=C2C=1NC1=CC=CC(Cl)=C1F KVCQTKNUUQOELD-UHFFFAOYSA-N 0.000 description 1
- CYJRNFFLTBEQSQ-UHFFFAOYSA-N 8-(3-methyl-1-benzothiophen-5-yl)-N-(4-methylsulfonylpyridin-3-yl)quinoxalin-6-amine Chemical compound CS(=O)(=O)C1=C(C=NC=C1)NC=1C=C2N=CC=NC2=C(C=1)C=1C=CC2=C(C(=CS2)C)C=1 CYJRNFFLTBEQSQ-UHFFFAOYSA-N 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 230000005355 Hall effect Effects 0.000 description 1
- 101000827703 Homo sapiens Polyphosphoinositide phosphatase Proteins 0.000 description 1
- 208000005408 Metatarsus Varus Diseases 0.000 description 1
- AYCPARAPKDAOEN-LJQANCHMSA-N N-[(1S)-2-(dimethylamino)-1-phenylethyl]-6,6-dimethyl-3-[(2-methyl-4-thieno[3,2-d]pyrimidinyl)amino]-1,4-dihydropyrrolo[3,4-c]pyrazole-5-carboxamide Chemical compound C1([C@H](NC(=O)N2C(C=3NN=C(NC=4C=5SC=CC=5N=C(C)N=4)C=3C2)(C)C)CN(C)C)=CC=CC=C1 AYCPARAPKDAOEN-LJQANCHMSA-N 0.000 description 1
- 102100023591 Polyphosphoinositide phosphatase Human genes 0.000 description 1
- 101100233916 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) KAR5 gene Proteins 0.000 description 1
- 206010041349 Somnolence Diseases 0.000 description 1
- LXRZVMYMQHNYJB-UNXOBOICSA-N [(1R,2S,4R)-4-[[5-[4-[(1R)-7-chloro-1,2,3,4-tetrahydroisoquinolin-1-yl]-5-methylthiophene-2-carbonyl]pyrimidin-4-yl]amino]-2-hydroxycyclopentyl]methyl sulfamate Chemical compound CC1=C(C=C(S1)C(=O)C1=C(N[C@H]2C[C@H](O)[C@@H](COS(N)(=O)=O)C2)N=CN=C1)[C@@H]1NCCC2=C1C=C(Cl)C=C2 LXRZVMYMQHNYJB-UNXOBOICSA-N 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 235000014121 butter Nutrition 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000003750 conditioning effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000013601 eggs Nutrition 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 210000003414 extremity Anatomy 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000012010 growth Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 210000002414 leg Anatomy 0.000 description 1
- 244000144972 livestock Species 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 235000013336 milk Nutrition 0.000 description 1
- 239000008267 milk Substances 0.000 description 1
- 210000004080 milk Anatomy 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000007430 reference method Methods 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- XGVXKJKTISMIOW-ZDUSSCGKSA-N simurosertib Chemical compound N1N=CC(C=2SC=3C(=O)NC(=NC=3C=2)[C@H]2N3CCC(CC3)C2)=C1C XGVXKJKTISMIOW-ZDUSSCGKSA-N 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Abstract
本文件描述用於基於使用者輸入之在線學習之技術及裝置。透過在線學習,一運算裝置可基於來自一使用者之後續命令來儲存模糊手勢之特性。例如,該模糊手勢可與一或多個已知手勢相關聯,但該模糊手勢不能以用於手勢辨識之足夠置信度被辨識為該等已知手勢之一者。當該運算裝置未能辨識該模糊手勢時,該使用者可執行或請求執行一命令。此命令可經判定為與該模糊手勢所相關聯之該等已知手勢之一第一手勢相關聯之一第一命令。因而,該運算裝置可將該模糊手勢之一特性與該第一手勢一起儲存以改良未來對該第一手勢之辨識。
Description
年復一年,運算裝置在人們的生活中發揮愈來愈大的作用。然而,此較大作用對人與其等裝置之間的無縫及通用的互動具有一對應更大需求。僅只有一實體鍵盤進行互動之桌上型電腦之時代已一去不復返。為解決此需求,已開發與裝置互動之新方式。然而,此等互動方式中之許多方式包含伴隨的設計困難。例如,一些運算裝置使用手勢辨識來讓使用者能夠控制其等裝置,而無需使用者實體地接觸裝置或其週邊設備。歸因於手勢辨識之複雜性,運算裝置可能無法辨識由一使用者執行之一手勢,從而令使用者沮喪,此隨時間可引起使用者避免利用手勢來控制裝置。
本文件描述用於基於使用者輸入之在線學習之技術及裝置。透過在線學習,一運算裝置可基於來自一使用者之後續命令來儲存模糊手勢之特性。例如,該模糊手勢可與一或多個已知手勢相關聯,但該模糊手勢不能以用於手勢辨識之足夠置信度被辨識為該等已知手勢之一者。當該運算裝置未能辨識該模糊手勢時,該使用者可執行或請求執行一命令。此命令可經判定為與該模糊手勢所相關聯之該等已知手勢之一第一手勢相關聯之一第一命令。因而,該運算裝置可將該模糊手勢之一特性與該第一手勢一起儲存以改良未來對該第一手勢之辨識。
下文描述之態樣包含基於使用者輸入之在線學習之一方法、系統、設備及手段。該方法可包含一運算裝置使用一雷達系統來偵測由一使用者執行之一模糊手勢。可比較該模糊手勢之一雷達信號特性與一或多個經儲存雷達信號特性以將該模糊手勢與各具有一對應命令之一或多個已知手勢相關聯。該關聯可低於足以將該模糊手勢辨識為該一或多個已知手勢之一者之辨識臨限值準則。該運算裝置接著可(例如)透過一非雷達使用者輸入接收一命令之執行或所請求執行之一指示。該經指示命令可經判定為與該一或多個已知手勢之一第一已知手勢相關聯之對應命令之一第一命令,該比較有效地將該模糊手勢與該第一已知手勢相關聯。
亦描述一種設備,其包含能夠發射及接收雷達信號之一雷達系統。該設備亦包含儲存指令之至少一個電腦可讀儲存媒體,該等指令在藉由至少一個處理器執行時,根據上文描述之方法基於使用者輸入來執行在線學習。亦描述執行該方法之手段。
概述
隨著發現運算裝置在日常生活中的應用愈來愈多,使用者選擇依靠此等裝置來支援各種各樣的任務。例如,使用虛擬助理(VA)技術之家庭自動化作為增加一家庭之安全性、舒適性及便利性之一方法愈來愈受歡迎。佔用者可利用配備有VA技術之一運算裝置來輕鬆控制(例如)照明、氣候、娛樂系統、電器、警報等。為增加此等裝置之可用性及使用者滿意度,製造商旨在為使用者提供與其等運算裝置互動之便利方式,以在執行此等功能時提供對裝置之高效及準確控制。隨著運算裝置之能力擴展為在愈來愈複雜的案例中變得有用,開發額外互動方法以讓使用者能夠與其等裝置進行通訊。
在運算裝置中變得愈來愈普遍之一種此互動形式係無觸碰手勢辨識。在此情況下,不需要一使用者與一裝置進行實體接觸以控制該裝置。代替性地,一使用者可使用其等整個身體或其等身體之一部分來執行一手勢(例如,在空中進行之一手運動),且運算裝置可將此手勢辨識為引起運算裝置執行一特定功能之一特定命令。如此做時,一使用者即使在其等之手臟時(例如,在烹飪時),或在其等定位成遠離運算裝置一定距離時仍可能夠控制運算裝置。因此,在一運算裝置上實現無觸碰手勢辨識可改良使用者與裝置互動之一能力,且繼而改良使用者滿意度。
雖然手勢辨識可讓使用者能夠更方便地與其等裝置互動,但運算裝置可能無法準確地辨識手勢,從而令使用者沮喪且使其等不太可能使用手勢與其等裝置互動。不同使用者可略微不同地執行手勢,且一些手勢可比其他手勢更難以辨識。歸因於使用者或一個使用者之反覆之間的略微執行差異,一些手勢辨識系統未能辨識此等手勢,從而引起使用者對其等裝置感到沮喪且隨時間避免使用此等特徵。為解決此等挑戰,本發明描述用於基於雷達之手勢辨識之基於使用者輸入之在線學習,此更佳地使基於雷達之系統能夠透過與使用者之互動來改良手勢辨識之準確度。
例如,假定一運算裝置之一雷達系統偵測一模糊手勢,該雷達系統判定該模糊手勢對應於與不同命令相關聯之多個已知手勢。明確言之,雷達系統可能無法以用於手勢辨識之所需置信度將模糊手勢與多個已知手勢之任一者相關。基於系統未能辨識手勢,使用者可代替性地選取自身執行命令或透過一不同輸入方法(例如,透過觸碰或語音命令)請求執行命令。回應於使用者輸入,雷達系統可判定經執行或所請求之命令對應於與多個已知手勢之一者相關聯之一命令。鑒於使用者在雷達系統未能辨識手勢之後執行或請求執行命令,模糊手勢有可能與命令所相關聯之已知手勢相同,或使用者意欲其與命令所相關聯之已知手勢相同。以此方式,運算裝置可儲存模糊手勢之一特性且將其與已知手勢相關聯。如此做時,運算裝置可隨時間連續更新與甚至最難以偵測手勢相關聯之特性且改良手勢辨識準確度。
藉由更新經儲存用於已知手勢之特性,手勢辨識可隨著裝置之使用而改良,而無需在與裝置之正常使用者互動之外進行單獨訓練。以此方式,一使用者可變得更佳信賴手勢辨識且更頻繁地依靠手勢來控制其等裝置。因此,用於基於使用者輸入之在線學習之技術可改良手勢辨識之準確度且增加使用者滿意度。
應注意,此僅為本文件中描述之基於使用者輸入之在線學習之一個實例,且下文將描述其他實例。本發明現將轉向一實例性操作環境,接著為一實例性運算裝置,基於雷達之手勢偵測及辨識之實例,以及用於利用及改良基於雷達之手勢辨識之各種技術的一描述。
實例性環境
圖1繪示其中一啟用雷達之運算裝置102執行本文件中描述之技術之一實例性環境100,該等技術諸如偵測及區分使用者及使用者參與,偵測及辨識手勢,及引起執行命令,以及改良此等技術之任何者。啟用雷達之運算裝置102 (運算裝置102)可用於透過與命令相關聯之手勢之辨識來引起任務(例如,關閉燈、降低音樂之音量、開啟一烤箱、改變電視頻道)之執行。一使用者之手之一滑移可指示用以改變正在播放之歌曲之一命令,而一推拉手勢可指示用以檢查一廚房中之一計時器之狀態之一命令。運算裝置102可容許多個使用者104,在一些情況下,各使用者能夠透過藉由運算裝置102區分來享受一經定製體驗。此外,多個運算裝置(例如,運算裝置102-X,其中X表示1、2、3、4、…等之一整數值)可經連接(例如,無線地,諸如藉由至一或多個無線網路之連接及/或藉由直接無線通訊)以創建如關於圖3及圖4所描述之雷達系統之一互連網路。例如,運算裝置之此網路可經配置以偵測及辨識由一住所之任一或多個房間中之一使用者104 (諸如一第一使用者104-1、一第二使用者104-2,或一不同使用者104-X,其中X表示3、4、5、…等之一整數值)正在執行之手勢。
特定言之,技術可包含(1)偵測運算裝置102之一鄰近區106內之一使用者104之存在,(2)區分該使用者與其他使用者以實現一經定製體驗,且接著(3)在辨識已執行一已知手勢時,引導運算裝置102、與運算裝置102相關聯之一應用程式或另一裝置執行一命令。此外或代替(3),運算裝置102可基於使用者之訓練歷史來提示使用者104開始或繼續手勢訓練。
運算裝置102可隨時間離散地或連續地發射雷達發射信號(例如,無需一「喚醒觸發器」)以偵測鄰近區106內之使用者存在及/或一手勢之執行。此等雷達發射信號之任一或多者可從鄰近區106中之一物體(例如,進行一運動之使用者104或一靜止物體)反射,從而導致一或多個雷達接收信號。運算裝置102可基於雷達接收信號來判定一雷達信號特性(例如,物體或運動之時間資訊或拓撲資訊)。若經判定之雷達信號特性與一或多個經儲存雷達信號特性相關,則運算裝置102可對物體或運動進行分類。藉由如此做,運算裝置102可判定運動有可能為一手勢,而非某一其他移動或非移動物體。在此實例中,技術比較雷達信號特性與經註冊或未註冊之使用者或已知手勢所相關聯之一或多個經儲存雷達信號特性,且藉此嘗試偵測及區分進行移動之使用者且偵測及辨識正在執行之手勢。
例如,假定使用者104-1用其等之手進行一運動。運算裝置102可基於從使用者之手反射之一或多個雷達接收信號而偵測到基於雷達接收信號之雷達信號特性,此運動係一手勢,而非一非手勢移動。與偵測手勢同時或在偵測手勢之後,運算裝置102將雷達信號特性之一或多者與一已知手勢(例如,與開啟燈之一命令相關聯之一揮手手勢)之一或多個經儲存雷達信號特性相關。若經判定之雷達信號特性與一所要置信度位準(例如,一臨限值準則)相關,則裝置可判定揮手手勢已被執行且引起燈開啟。
在另一實例中,運算裝置102可藉由接收從第一使用者104-1反射之一或多個雷達接收信號來偵測鄰近區106內之一第一使用者之存在(如圖1中所描繪)。裝置可判定此第一使用者104-1之至少一個雷達信號特性(例如,一身高、外形、移動)且將其與一「經註冊使用者」之一或多個經儲存雷達信號特性相關。若經判定之雷達信號特性與一所要置信度位準相關,則裝置可判定第一使用者104-1係經註冊使用者且該使用者當前定位於鄰近區106內。
在本發明中,一「經註冊使用者」通常將指與至少一個經儲存雷達信號特性相關聯及/或具有運算裝置102可存取之一帳戶或其他註冊之一使用者104。一帳戶可手動地(例如,由經註冊使用者或裝置之另一使用者)或自動地(例如,在與裝置互動時)設定。帳戶可包含一或多個經儲存雷達信號特性、使用者設定、偏好、手勢訓練歷史、使用者習慣等(其等可或可不依靠存取個人可識別資訊)或使其等與帳戶相關聯。憑藉一帳戶,一經註冊使用者可具有修改、儲存或存取與運算裝置相關聯之一定量之資訊(例如,該使用者之設定或偏好)之權利。此等權利可被授予給經註冊使用者但不授予給(依據預設)未向裝置註冊之使用者。
對於一些態樣,經註冊使用者註冊之帳戶對應於其等在一虛擬助理提供者(諸如Google® (其提供一「Hey Google®」或「OK Google®」語音助理服務)或Amazon® (其提供一「Alexa®」語音助理服務))之一基於雲端之智慧家庭服務平台之帳戶。在此等實例中,經註冊使用者可為與一特定住所之基於雲端之服務平台相關聯之一帳戶之一主要使用者,有時取決於平台之性質被稱為主要使用者、計費使用者、監督使用者、管理員使用者、超級使用者、主控使用者或類似者。爸爸、媽媽、另一戶主、「家庭技術大師」或另一經指定人員通常扮演主要使用者之角色。替代性地,一經註冊使用者可為與基於雲端之服務平台相關聯之帳戶之一次要使用者(或三級使用者等),諸如一青少年或一非主要使用者成年人,其享有為基於雲端之服務平台所知之至少一些益處,但通常具有一組更有限的特權或能力。然而,應瞭解,與基於雲端之服務平台之使用者註冊不同之其他種類之使用者註冊係在本教示之範疇內,包含(但不限於)利用具有其等自身種類之本地帳戶建立及經註冊使用者建立之裝置之獨立、離線或離網分組建立的使用者帳戶。
更明確言之,運算裝置102使用一雷達系統108 (如圖1中所識別)來發射一或多個雷達發射信號(例如,在一射頻(RF)範圍內之經調變電磁(EM)波)以針對使用者存在探測鄰近區106。當在鄰近區106內偵測到一物體(例如,一使用者104)時,一雷達發射信號可從使用者104反射且基於使用者104之形貌及/或運動而變為經修改(例如,在振幅、相位及/或頻率上)。此經修改雷達發射信號(例如,一雷達接收信號)可由雷達系統108接收且含有用於區分使用者104與其他使用者之資訊,例如,參見圖6及隨附描述。雷達系統108使用雷達接收信號來判定使用者104之一速率、大小、外形、表面平滑度或材料,因為經接收信號將針對物體中之差異而具有不同雷達信號特性,諸如一物體之速率(例如,透過都卜勒)、大小(參見圖6)、外形(參見圖6)等。雷達系統108亦可諸如透過一飛行時間分析來判定使用者104與運算裝置102之間的一距離及/或使用者104相對於運算裝置102之一定向。
雖然實例性環境100之鄰近區106經描繪為一半球體,但一般而言,鄰近區106並不限於所展示之形貌。鄰近區106之形貌亦可受附近障礙物(例如,墻壁、大型物體)影響。一般而言,運算裝置102可定位於大於鄰近區106之一實體區(例如,一住所、一環境)之鄰近區106 (例如,臥室)內。此外,雷達系統108可探測及偵測實例性環境100中所描繪之鄰近區106之外的使用者及/或手勢。鄰近區106之邊界對應於一準確度臨限值,在該準確度臨限值中,在此邊界內偵測到之使用者及/或手勢分別比在此邊界之外偵測到之使用者或手勢更有可能被準確區分或辨識。取決於雷達系統108之功率使用、所要置信度及雷達系統108是否經組態用於偵測使用者、區分使用者、偵測手勢、辨識手勢及/或偵測使用者參與,實例性鄰近區106係一公分至八公尺。
例如,運算裝置102將一第一雷達發射信號發送至鄰近區106中且接著接收與一物體(例如,一第一使用者104-1)之存在相關聯之一第一雷達接收信號(例如,一經反射雷達發射信號)。此第一雷達接收信號包含可用於區分第一使用者104-1與其他使用者104之一或多個雷達信號特性(例如,雷達橫截面(RCS)資料、運動簽章、手勢執行等)。特定言之,雷達系統108可比較第一雷達接收信號與經註冊使用者之經儲存雷達信號特性以判定第一使用者104-1是否係先前與裝置互動及/或向裝置建立一帳戶之一經註冊使用者。如此做之實例性方式包含分別使用圖7及圖8中所描述之機器學習模型,以及拓撲、時間、手勢及情境區別600-1、600-2、600-3及600-4。在此實例中,使用利用一經註冊使用者之一或多個經儲存雷達信號特性訓練之機器學習模型700且藉由自使用者104之一者反射之第一雷達接收信號之雷達信號特性作為輸入,將第一雷達接收信號之雷達信號特性與該等經儲存雷達信號特性相關至一所要置信度。
一般而言,一雷達發射信號可係指隨時間自運算裝置102之一或多個天線發射之一單個(離散)信號、一信號叢發或一連續信號串流。雷達發射信號可在任何時間發射,而無需一「喚醒」觸發事件(關於圖8更詳細描述)。雷達接收信號可由相同發射天線、運算裝置102之一不同天線,或運算系統(下文關於圖3及圖4更詳細描述)之另一裝置之一天線接收。
實例性環境100中之運算裝置102可(但不必)在判定經偵測物體係經註冊使用者時放棄「個人識別」第一使用者104-1 (例如,第一使用者104-1之私人或個人可識別資訊)。例如,運算裝置102可在無需個人可識別資訊的情況下判定第一使用者104-1係經註冊使用者,該個人可識別資訊可包含合法可識別資訊(例如,一合法名稱)。此外,運算裝置102可在基於一使用者之偏好或設定判定第一使用者104-1係經註冊使用者時放棄識別第一使用者104-1之一個人裝置(例如,一行動電話、配備有一電子標籤之一裝置),收集面部辨識資訊,或執行潛在私人對話之語音至文字。代替個人識別第一使用者104-1,運算裝置102可使用不含有個人可識別及/或機密資訊之雷達信號特性來「區分」第一使用者104-1與另一使用者(例如,一第二使用者104-2),如下文關於圖4所描述。
可對一使用者104提供控制,從而容許使用者104關於本文中所描述之技術是否以及何時可實現使用者資訊(例如,關於使用者之一社群網路、社會行動、社會活動或一職業、由使用者拍攝之照片、由使用者製作之音訊記錄、使用者之偏好、使用者之一當前位置等之資訊)之收集及是否自一伺服器向使用者104發送內容或通訊兩者作出選擇。另外,在儲存或使用特定資料之前可以一或多種方式處理該特定資料,使得個人可識別資訊被移除。例如,可處理使用者之一識別碼,使得無法針對使用者104判定個人可識別資訊,或可一般化獲得位置資訊之使用者之一地理位置(例如,至一城市、郵遞區號或州級),使得無法判定使用者104之一特定位置。因此,使用者104可控制收集關於使用者104之什麼資訊,如何使用該資訊及向使用者104提供什麼資訊。
手勢訓練
手勢訓練係指一互動式使用者體驗,藉由該互動式使用者體驗,一啟用雷達之運算裝置幫助一使用者學習如何向裝置做出手勢命令或輸入。手勢訓練可涉及(例如)裝置執行以下步驟:(i)向使用者傳達關於如何做出一或多個特定手勢命令或輸入之資訊;(ii)建議/提議使用者嘗試做出該手勢;(iii)在進行嘗試時監視使用者;及(iv)向使用者提供關於該嘗試是否成功與其等是否可不同地再次嘗試之評估回饋。在一個例示性案例中,裝置係具有使用60 GHz範圍內之雷達信號之基於FMCW (經頻率調變之連續波)雷達之無觸碰手勢(例如,空中手勢)辨識之一智慧家庭顯示助理(例如,一Google® NEST HUB
TM)。此智慧家庭助理能夠辨識(例如)諸如左滑移、向右滑移、向上滑移、向下滑移、空氣旋鈕轉動及向內推動之手勢。智慧家庭助理可藉由以下操作提供關於一向左滑移手勢之手勢訓練:(i)在顯示或說話時向使用者展示一向左滑移運動之一短動畫或視訊:「此係一向左滑移」;(ii)顯示或說:「現在你嘗試」;(iii)在使用者嘗試手勢時執行基於雷達之監視,且若成功;(iv)顯示或說:「太棒了,你做到了!」。若手勢自左至右之距離太短,則(例如)智慧家庭助理可說:「使用一更長滑移運動再試一次」等。其他手勢訓練方法可與一般方法類似,但表現在更有趣的活動中,諸如讓使用者在一類遊戲設定中控制或導引一螢幕上角色或其他螢幕上物體。在不脫離本教示之範疇的情況下,可提供用於手勢訓練之其他種類之互動式使用者體驗。出於使用者便利性,鼓勵及繼續參與裝置,通常希望避免需要其中所有手勢訓練同時完成之一次性的、單事件手勢訓練會期,除非使用者公開請求此單事件手勢訓練會期。實情係,通常希望隨時間在適當時刻建議並提供較小模組化課程(例如,在一第一天之一適當時間之向左滑移之一第一課程、在一第二天之一適當時間之空氣旋鈕轉動之一第二課程等)。
因此,根據一個態樣,在判定第一使用者104-1係經註冊使用者(或未註冊,但具有一經儲存雷達信號特性)之前、之後或同時,運算裝置102可提示第一使用者104-1開始或繼續手勢訓練。例如,第一使用者104-1可在訓練中途,已完成對一第一手勢之訓練(例如,在先前段落之前述實例中之向左滑移)。運算裝置102可能已將關於第一使用者104-1在訓練期間執行第一手勢之一方式之資訊儲存於一訓練歷史中。當偵測到第一使用者104-1時,運算裝置102可存取訓練歷史且提示第一使用者104-1繼續對一第二手勢(例如,空氣旋鈕轉動)進行訓練,而非重複對第一手勢進行訓練。因此,判定第一使用者104-1係經註冊使用者或存在一經儲存雷達信號特性之一未註冊人可容許運算裝置102改良手勢訓練之效率。第一使用者104-1之區別可容許運算裝置102啟動經註冊使用者或未註冊人員之設定(例如,隱私設定、偏好)以對第一使用者104-1提供一經定製體驗。
對於圖1,假定一第二使用者104-2加入鄰近區106內之一沙發上之第一使用者104-1。運算裝置102可使用雷達系統108來發送一第二雷達發射信號以偵測另一物體(例如,第二使用者104-2)之存在。雷達系統108接著可比較第二雷達接收信號與經註冊使用者之經儲存雷達信號特性,以判定第二使用者104-2是否係另一經註冊使用者。在此實例中,未發現第二雷達接收信號與另一經註冊使用者之一或多個經儲存雷達信號特性相關。因此,第二使用者104-2被區分為一「未註冊人員」。
在本發明中,一「未註冊人員」通常將指未向裝置註冊且因此不與一或多個帳戶相關聯之一使用者104。不同於一經註冊使用者,一未註冊人員可能不具有修改、儲存或存取運算裝置之資訊之權利。例如,一新訪客(例如,不與裝置之一或多個帳戶相關聯之一客人)可被視為一未註冊人員。此新訪客可能之前未與運算裝置102互動且因此不與一或多個經儲存雷達信號特性相關聯,或該訪客可能已如此做且與一經儲存雷達信號特性相關聯,但不具有一帳戶或其他特殊權利。因此,一先前訪客(例如,一保姆、管家、園丁)可與一或多個經儲存雷達信號特性相關聯,但缺少該裝置之一帳戶。根據一或多項態樣,運算裝置102仍可儲存此使用者之雷達信號特性以改良其等使用者體驗。然而,裝置可防止先前訪客(未註冊人員)行使提供給一經註冊使用者之權利,諸如修改、存取或儲存裝置之資訊。
在判定第二使用者104-2係一未註冊人員之後,運算裝置102將一未註冊使用者識別(例如,假識別碼、偽識別碼)指派給此未註冊人員,該未註冊使用者識別可與第二雷達接收信號之一或多個雷達信號特性(諸如藉由其稍後識別未註冊使用者之一唯一隨機數)相關聯。未註冊使用者識別可經儲存以在一未來時間實現第二使用者104-2之區別。特定言之,未註冊使用者識別可用於將一未來接收之雷達接收信號與未註冊人員之一或多個相關聯之雷達信號特性相關。運算裝置102亦可提示第二使用者104-2向運算裝置102註冊。
運算裝置102可或可不需要第二使用者104-2之個人可識別資訊來判定另一物體係未註冊人員。在已區分第二使用者104-2與第一使用者104-1之後,運算裝置102可判定需要調適(例如,修改、限制)第一使用者104-1之隱私設定以確保第一使用者之資訊保持私有。例如,在第二使用者104-2存在時,第一使用者104-1可能希望裝置避免宣告行事曆提醒(例如,醫生預約)。此外,運算裝置102可提示第二使用者104-2開始可記錄於第二使用者104-2之另一訓練歷史(例如,與未註冊使用者識別相關聯)中之手勢訓練。
在一稍後時間(未描繪),運算裝置102可再次使用雷達系統108來發送一第三雷達發射信號,以偵測一使用者104是否在鄰近區106內。若此時存在一使用者104 (例如,第一使用者104-1、第二使用者104-2),則第三雷達發射信號可從使用者104反射且運算裝置102可接收包含一或多個雷達信號特性之一第三雷達接收信號。雷達系統108可比較此等雷達信號特性與(例如)第一使用者104-1 (經註冊使用者)及第二使用者104-2 (與未註冊使用者識別相關聯之未註冊人員)之經儲存雷達信號特性,以判定是否存在第一使用者104-1或第二使用者104-2。基於此判定,運算裝置102可相應地定製設定及訓練提示。
在一實例中,雷達系統108使用第三雷達接收信號以基於與第一使用者104-1相關聯之經儲存雷達信號特性來判定第一使用者104-1 (經註冊使用者)再次存在於鄰近區106內。運算裝置102接著可提示第一使用者104-1基於其等訓練歷史完成其等手勢訓練及/或啟動其等之使用者設定。替代性地,若雷達系統108判定第二使用者104-2 (未註冊人員)再次存在於鄰近區106內,則運算裝置102可提示第二使用者104-2繼續其等之手勢訓練及/或啟動預定使用者設定。參考圖2進一步描述運算裝置102及雷達系統108。
實例性運算裝置
圖2繪示作為運算裝置102之部分之雷達系統108之一實例性實施方案200。運算裝置102經繪示為具有各種非限制性實例性裝置202,包含一家庭自動化及控制系統202-1、與一家庭自動化及控制系統相關聯之一智慧型顯示器202-2、一桌上型電腦202-3、一平板電腦202-4、一膝上型電腦202-5、一電視機202-6、一運算手錶202-7、運算眼鏡202-8、一遊戲系統202-9、一微波爐202-10、一智慧型恆溫器介面202-11及具有運算能力之一汽車202-12。亦可使用其他裝置,諸如一安全攝影機、一嬰兒監視器、一Wi-Fi
®路由器、一無人機、一軌跡墊、一繪圖板、一小筆電、一電子閱讀器、其他形式之一家庭自動化及控制系統、一壁掛顯示器、一虛擬實境耳機、另一運載工具(例如,一電動自行車或飛機)及其他家用電器,僅舉幾個實例。應注意,運算裝置102可為可佩戴的、不可佩戴但行動的,或相對固定的(例如,桌上型電腦及電器),其等全部不脫離本教示之範疇。
運算裝置102可包含一或多個處理器204及可包含記憶體媒體及儲存媒體之一或多個電腦可讀媒體(CRM) 206。體現為CRM 206上之電腦可讀指令之應用程式及/或一作業系統 (未展示)可藉由處理器204執行以提供本文中所描述之一些功能性。CRM 206亦可包含一基於雷達之應用程式208,基於雷達之應用程式208使用藉由雷達系統108產生之資料來執行諸如基於手勢之控制、人類生命徵象通知、自動駕駛之碰撞避免等之功能。例如,雷達系統108可辨識由一使用者104執行之指示關閉一房間中之燈之一命令之一手勢。此命令資料可由基於雷達之應用程式208使用以發送關閉房間中之燈之控制信號(例如,觸發器)。
運算裝置102亦可包含用於經由有線、無線或光學網路傳達資料之一網路介面210。對於多個運算裝置102-X之一互連系統,各運算裝置102可透過網路介面210與另一運算裝置102通訊。例如,網路介面210可經由一區域網路(LAN)、一無線區域網路(WLAN)、一個人區域網路(PAN)、一廣域網路(WAN)、一企業內部網路、網際網路、一同級間網路、一點對點網路、一網狀網路及類似者傳達資料。多個運算裝置102-X可使用如下文關於圖3所描述之一通訊網路彼此通訊。運算裝置102亦可包含一顯示器。
雷達系統108可用作一獨立雷達系統或與許多不同運算裝置或週邊設備一起使用,或嵌入於許多不同運算裝置或週邊設備內,諸如在控制家用電器及系統之控制面板中,在汽車中控制內部功能(例如,音量、巡航控制或甚至汽車駕駛),或作為一膝上型電腦之一附件來控制該膝上型電腦上之運算應用程式。
雷達系統108可包含用以向一遠端裝置傳輸雷達資料(例如,雷達信號特性)之一通訊介面212,儘管當雷達系統108整合於運算裝置102內時,此可不被使用。一般而言,藉由通訊介面212提供之雷達資料可呈可用於偵測、區分及/或辨識一使用者、使用者參與或手勢之一格式,諸如雷達信號特性(例如,對應於複距離都卜勒圖之訊框之值,參見圖8及圖12至圖14)或運算裝置102對偵測或辨識之一判定。通訊介面212亦可或代替性地與基於雷達之應用程式208之一遠端例項,諸如與一經辨識手勢相關聯之一命令或該經辨識手勢之一識別(例如,向一遠端運算裝置上之基於雷達之應用程式208指示已執行一推拉手勢)通訊。
雷達系統108亦可包含用於發射及/或接收雷達信號之至少一個天線214。在一些情況下,雷達系統108可包含實施為一天線陣列之天線元件之多個天線214。天線陣列可包含至少一個發射天線元件及至少一個接收天線元件。在一些情境下,天線陣列可包含用以實施能夠在一給定時間發射多個相異波形(例如,每發射天線元件一不同波形)之一多輸入多輸出(MIMO)雷達之多個發射天線元件。對於包含三個或更多個接收天線元件之實施方案,接收天線元件可定位成一維形狀(例如,線)或二維形狀(例如,三角形、矩形或L形)。一維形狀可使雷達系統108能夠量測一個角維度(例如,一方位角或一仰角),而二維形狀可能夠量測兩個角維度(例如,一方位角及一仰角兩者)。替代性地,各天線214可經組態為一傳感器或收發器。此外,任一或多個天線214可經圓極化、水平極化或垂直極化。
使用天線陣列,雷達系統108可形成經操縱或未經操縱、寬或窄(例如,1度至45度、15度至90度)或經塑形(例如,塑形為一半球體、立方體、扇形、圓錐或圓柱體)之波束。一或多個發射天線元件可具有一未經操縱全向輻射型樣或可能夠產生一寬的可操縱波束。此等技術之任一者可使雷達系統108能夠對一大體積之空間進行雷射照明。為達成目標角準確度及角解析度,可使用接收天線元件以藉由數位波束成形產生數千個窄經操縱波束(例如,2000個波束、4000個波束或6000個波束)。以此方式,雷達系統108可針對使用者及手勢高效地監視一環境。
雷達系統108亦可包含含有用於使用至少一個天線214發射及接收雷達信號之電路系統及邏輯之至少一個類比電路216。類比電路216之組件可包含用於調節雷達信號之放大器、混頻器、切換器、類比轉數位轉換器、濾波器等。類比電路216亦可包含用以執行同相/正交(I/Q)操作(諸如調變或解調變)之邏輯。可使用各種調變來產生雷達信號,包含線性頻率調變、三角頻率調變、步進頻率調變或相位調變。類比電路216可經組態以支援連續波或脈衝雷達操作。
類比電路216可在一頻譜(例如,頻率範圍)內產生雷達信號(例如,雷達發射信號),該頻譜包含在1千兆赫(GHz)與400 GHz、1 GHz與24 GHz之間、2 GHz與6 GHz、4 GHz與100 GHz或57 GHz與63 GHz之間的頻率。在一些情況下,頻譜可被劃分成具有相似或不同頻寬之多個子頻譜。實例性頻寬可為大約500兆赫(MHz)、1 GHz、2 GHz等。不同子頻譜可包含(例如)在近似57 GHz與59 GHz、59 GHz與61 GHz或61 GHz與63 GHz之間的頻率。儘管上文描述之實例性子頻譜係連續的,但其他子頻譜可並非連續的。為達成相干性,可藉由類比電路216使用具有一相同頻寬之多個子頻譜(連續或不連續)以產生多個雷達信號,該等雷達信號被同時發射或在時間上分離。在一些情境下,可使用多個連續子頻譜以發射一單個雷達信號,從而使該雷達信號具有一寬頻寬。
雷達系統108亦可包含一或多個系統處理器218及一系統媒體220 (例如,一或多個電腦可讀儲存媒體)。例如,系統處理器218可在類比電路216內實施為一數位信號處理器或一低功率處理器(或兩者)。系統處理器218可執行儲存於系統媒體220內之電腦可讀指令。藉由系統處理器218執行之實例性數位操作可包含快速傅立葉變換(FFT)、濾波、調變或解調變、數位信號產生、數位波束成形等。
系統媒體220可視需要包含可使用硬體、軟體、韌體或其等之一組合實施之一使用者模組222及一手勢模組224。使用者模組222及手勢模組224可使雷達系統108能夠處理雷達接收信號(例如,在類比電路216處接收之電信號)以偵測一使用者104之存在及區分一使用者104且偵測及辨識一手勢,以及其他能力,諸如物體(非使用者)偵測及使用者參與之偵測。
使用者模組222及手勢模組224可分別包含一或多個機器學習演算法及/或機器學習模型,諸如人工神經網路(在本文中被稱為神經網路)以改良使用者區別及手勢辨識。一神經網路可包含組織成一或多個層之經連接節點(例如,神經元或感知元)之一群組。作為一實例,使用者模組222及手勢模組224可包含一深度神經網路,該深度神經網路包含一輸入層、一輸出層及定位於該輸入層與該輸出層之間的多個隱藏層。深度神經網路之節點可部分連接或完全連接於層之間。
在一些情況下,深度神經網路可為一遞歸深度神經網路(例如,一長短期(LSTM)遞歸深度神經網路),其中節點之間的連接形成一循環以針對一輸入資料序列之一後續部分保持來自該輸入資料序列之一先前部分之資訊。在其他情況下,深度神經網路可為其中節點之間的連接不形成一循環之一前饋深度神經網路。下文關於圖7及圖8描述實例性深度神經網路。使用者模組222及手勢模組224亦可包含能夠執行叢集化(例如,使用無監督式學習進行訓練)、異常偵測或迴歸之模型,諸如一單個線性迴歸模型、多個線性迴歸模型、邏輯迴歸模型、逐步迴歸模型、多變量自適應迴歸樣條、局部估計之散佈圖平滑化模型等。
通常,可基於可用功率、可用記憶體或運算能力定製一機器學習架構。對於使用者模組222,亦可基於雷達系統108經設計以辨識之雷達信號特性之一數量來定製機器學習架構。對於手勢模組224,可另外基於手勢之一數量及/或雷達系統108經設計以辨識之手勢之各種版本來定製機器學習架構。
運算裝置102可視需要(未描繪)包含至少一個額外感測器(不同於天線214)以改良使用者模組222及/或手勢模組224之保真度。在一些情況下,例如,使用者模組222可以低置信度(例如,低於一臨限值之置信度及/或準確度之一量)偵測一使用者104之存在。例如,當使用者104遠離運算裝置102時或當存在遮擋使用者104之大物體(例如,家具)時,可發生此偵測。為增加使用者偵測及區別及/或手勢偵測及辨識之準確度,運算裝置102可使用一或多個額外感測器(例如,關於圖19所描述之感測器)來驗證一低置信度結果。此等感測器可為被動的、主動的、遠端的及/或基於觸碰。實例性感測器(其中一些感測器可以被動、主動、遠端及觸碰方式之多於一種方式進行感測)包含一麥克風、一超音波感測器、一周圍光感測器、一攝影機、一健康感測器及/或生物識別感測器、一氣壓計、一慣性量測單元(IMU)及/或加速度計、一陀螺儀、一磁性感測器(例如,磁力計或霍爾效應)、一近接感測器、一壓力感測器、一觸碰感測器、一恆溫器/溫度感測器、一光學感測器等。
使用者模組222亦可使用情境資訊來區分使用者104 (例如,一第一使用者104-1與一第二使用者104-2)。此情境資訊亦可改良對模糊手勢(例如,不能在一所要置信度位準被識別)之解譯,諸如關於圖24所描述之模糊手勢。例如,各使用者104通常可基於其等之個性、身體、能力/無能力、情緒或等等來執行一已知手勢的其等自身版本。可藉由手勢模組224存取此情境資訊以改良手勢辨識。
在一實例中,第一使用者104-1執行一手勢,且手勢模組224判定第一使用者104-1意外地執行與一已知手勢不相關(在一所要置信度位準)之一模糊手勢。然而,若使用者模組222判定第一使用者104-1 (而非第二使用者104-2或另一使用者)執行模糊手勢,則手勢模組224可另外存取關於該使用者之先前手勢執行之經儲存雷達信號特性之情境資訊。使用此情境資訊,手勢模組224可能夠將模糊手勢與經區分使用者所相關聯之一或多個經儲存雷達信號特性相關,以更佳地將其辨識為已知手勢。以此方式,運算裝置102之使用者模組222可改良手勢辨識之保真度。
實例性運算系統
圖3繪示其中多個運算裝置102-1及102-2透過一通訊網路302連接以形成一運算系統之一實例性環境300。實例性環境300描繪具有一第一房間304-1 (一客廳)及一第二房間304-2 (一廚房)之一住所。第一房間304-1配備有包含一第一雷達系統108-1之一第一運算裝置102-1,且第二房間304-2配備有包含一第二雷達系統108-2之一第二運算裝置102-2。在此實例中,第一房間304-1與第二房間304-2分離,但透過住宅之一門連接。第一房間304-1中之第一運算裝置102-1可偵測一第一鄰近區106-1內之使用者104及手勢,而第二房間304-2中之第二運算裝置102-2可偵測一第二鄰近區106-2內之使用者104及手勢。
實例性環境300之住所可不限於所展示之運算裝置102之配置及數目。一般而言,一環境(例如,一住宅、建築物、工作場所、汽車、飛機、公共空間)可包含跨一或多個相異區域(例如,房間304)分佈之一或多個運算裝置102。例如,房間304可含有彼此靠近或遠離定位之兩個或更多個運算裝置102 (或與一單個運算裝置102相關聯之雷達系統108)。雖然實例性環境300中描繪之第一鄰近區106-1在空間上未與第二鄰近區106-2重疊,且因此各區域之運算裝置不能感測另一區域之雷達接收信號,但一般而言,鄰近區106亦可經定位為部分重疊。雖然圖3中描繪之環境係一住宅,但一般而言,環境可包含私有或公共之任何室內及/或室外空間,諸如一圖書館、一辦公室、一工作場所、一工廠、一花園、一餐廳、一庭院、一飛機或一汽車。
對於具有兩個或更多個運算裝置102之一環境,該等裝置可透過一或多個通訊網路302彼此通訊。通訊網路302可為一LAN、一WAN、一行動或蜂巢式通訊網路,諸如一4G或5G網路、一商際網路、一企業內部網路、網際網路、一Wi-Fi
®網路等。在一些實例中,運算裝置102可使用諸如近場通訊(NFC)、射頻識別(RFID)、Bluetooth
®等之短距離通訊進行通訊。
此外,一運算系統可包含與構成運算裝置102-1及102-2之一或多者分離或整合至構成運算裝置102-1及102-2之一或多者中之一或多個記憶體。在一個實例中,第一運算裝置102-1及第二運算裝置102-2可分別包含一第一記憶體及一第二記憶體,其中使用通訊網路302在裝置之間共用各記憶體之內容。在另一實例中,一記憶體可與第一運算裝置102-1及第二運算裝置102-2分離(例如,雲端儲存器),但可供兩個裝置存取。一記憶體可用於儲存(例如)一經註冊使用者之雷達信號特性、使用者偏好、安全設定、訓練歷史、未註冊使用者識別及雷達信號特性等。
在一實例中,第一運算裝置102-1可使用一網路介面210 (參見圖2)連接至通訊網路302以與第二運算裝置102-2交換資訊。使用此通訊網路302,運算裝置102可交換關於一或多個使用者104之經儲存資訊(其可包含雷達信號特性、訓練歷史、使用者設定等)。此外,運算裝置102可交換關於進展中之操作之資訊(例如,計時器、正在播放之音樂)以保持操作之一連續性及/或關於跨各個房間304之操作之資訊。此等操作可藉由一或多個運算裝置102基於(例如)一房間304中之一使用者之存在之偵測來同時或獨立地執行。各運算裝置102亦可使用雷達系統108來將與裝置之位置相關聯之通常偵測到之使用者及命令相關聯(且儲存至記憶體)。關於圖4進一步描述雷達系統108。
啟用雷達之使用者偵測及區別
圖4繪示其中藉由一運算裝置102使用一雷達系統108以偵測一使用者104之存在且區分一使用者104之一實例性環境400。實例性環境400描繪具有一第一雷達系統108-1之一第一運算裝置102-1及具有一第二雷達系統108-2之一第二運算裝置102-2。第一雷達系統108-1及第二雷達系統108-2可分別發射一或多個雷達發射信號402 (例如,402-Y,其中Y表示1、2、3、…等之一整數值)以針對使用者(及/或手勢)探測一第一鄰近區106-1及一第二鄰近區106-2。應注意,為簡潔起見,此等區之各者經繪示為呈圓錐形,但具有由一雷達場之一振幅及品質規定之輪廓,其中雷達接收信號可由該區之對應雷達系統108接收。各雷達發射信號402-Y可被稱為一合成雷達發射信號402-Y,其表示在一給定時間自各自天線214 (參見圖2)發射之多個經疊加雷達發射信號。使用一雷達發射信號402-1,第一雷達系統108-1可用在1千兆赫至100千兆赫(GHz;例如,60 GHz)之頻率下操作之一寬150°雷達脈衝波束(例如,一或多個雷達發射信號)照明進入第一鄰近區106-1之一物體(例如,使用者104)。雖然在本發明中可參考一雷達發射信號402,但應理解,一或多個雷達發射信號402可在一時間段內發射及/或包含一或多個雷達脈衝。
在遇到使用者104時,與雷達發射信號402-Y相關聯之能量之一部分可在一或多個雷達接收信號404-Z (其中Z可表示1、2、3、…之一整數值)中反射回朝向第一雷達系統108-1及/或第二雷達系統108-2。各雷達接收信號404-Z可被稱為一合成雷達接收信號404-Z,其表示在一給定時間在一或多個天線214處之雷達發射信號402-Y之多個反射之一疊加。在實例性環境400中,兩個雷達接收信號404-1及404-2經描繪為分別由雷達系統108-1及108-2接收。雷達接收信號404-1及404-2可自使用者104之一或多個離散動態散射中心反射。各雷達接收信號404可表示其對應雷達發射信號402之一經修改版本,其中藉由一或多個動態散射中心修改一振幅、相位及/或頻率。此等雷達接收信號404可容許雷達系統108-1及108-2之一或多者使用(例如)一徑向距離、幾何結構(例如,大小、形狀、高度)、定向、表面紋理、材料組合物等來區分使用者104及/或辨識一手勢。對於關於如何執行此之額外細節,至少參見本文中之圖7至圖18。
雖然實例性環境400之第一運算裝置102-1及第二運算裝置102-2可獨立地偵測及區分使用者104及/或辨識一手勢執行,但其等亦可一起工作(例如,具有相依性,串聯)。例如,若各裝置單獨地不能區分使用者104及/或在一所要置信度位準辨識手勢執行,則此可為特別有用的。在此情況下,兩個裝置可交換自在各裝置處接收之雷達接收信號判定之雷達信號特性。在一實例中,第一運算裝置102-1可偵測第一鄰近區106-1內之與一第一雷達信號特性相關聯之一模糊使用者。同時或在一單獨時間,第二運算裝置102-2亦可偵測此模糊使用者且判定與使用者之存在相關聯之一第二雷達信號特性。若第一及第二雷達信號特性單獨地不足以在所要準確度位準區分模糊使用者,則裝置可一起工作及/或交換資訊以實現使用者區別。
在一第一案例中,第一運算裝置102-1可存取第二雷達信號特性且接著比較第一及第二雷達信號特性與一或多個經儲存雷達信號特性以區分模糊使用者。在一第二案例中,第二運算裝置102-2可存取第一雷達信號特性且接著比較第一及第二雷達信號特性與一或多個經儲存雷達信號特性以區分模糊使用者(例如,透過使用圖7或圖8之機器學習模型)。在一第三案例中,第一運算裝置102-1及第二運算裝置102-2可串聯、合作地、一致地等工作以區分模糊使用者。此技術亦可應用於模糊手勢命令。關於圖5更詳細描述雷達系統108。
圖5繪示包含雷達系統108之天線214、類比電路216及系統處理器218之一實例性實施方案500。在所描繪之組態中,類比電路216可耦合於天線214與系統處理器218之間以實現使用者偵測及區別以及手勢偵測及辨識兩者之技術。類比電路216可包含配備有一波形產生器504之一發射器502,及包含至少一個接收通道508之一接收器506。波形產生器504及接收通道508可各耦合於天線214與系統處理器218之間。
雖然在實例性實施方案500中描繪一個天線214,但一般而言,雷達系統108可包含一或多個天線以形成一天線陣列。當利用一天線陣列時,波形產生器504可針對各天線214產生類似或相異波形以發射至一鄰近區106中。此外,雖然在實例性實施方案500中描繪一個接收通道508,但一般而言,雷達系統108可包含一或多個接收通道。各接收通道508可經組態以在任何給定時間接受雷達接收信號404-Z之一單個或多個版本。
在操作期間,發射器502可將電信號傳遞至可發射一或多個雷達發射信號402-Y以針對使用者存在及/或手勢探測鄰近區106之天線214。特定言之,波形產生器504可產生具有一經指定波形(例如,經指定振幅、相位及頻率)之電信號。波形產生器504可另外向系統處理器218傳達關於電信號之資訊以用於數位信號處理。若雷達發射信號402-Y與一使用者104互動,則雷達系統108可在接收通道508上接收雷達接收信號404-Z。雷達接收信號404-Z (或其多個版本)可被發送至系統處理器218以實現使用者偵測(使用系統媒體220之使用者模組222)及/或手勢偵測(使用手勢模組224)。使用者模組222可判定使用者104是否定位於鄰近區106內且接著區分使用者104與其他使用者。可基於一或多個雷達接收信號404-Z來區分使用者104,如關於圖6進一步描述。
圖6繪示其中使用者模組222可區分使用者104之實例性實施方案600-1至600-4。使用者模組222可在個人識別或無需個人識別一第一使用者104-1或一第二使用者104-2的情況下,部分利用一或多個雷達接收信號404來區分(例如)第一使用者104-1與第二使用者104-2。藉由區分使用者104,使用者模組222可使運算裝置102能夠為各使用者104提供重新叫用(例如)訓練歷史、偏好、隱私設定等之一經定製體驗。以此方式,運算裝置102可藉由滿足各使用者之隱私及/或功能性預期來改良一些配備虛擬助理(VA)之裝置。
為區分使用者104,使用者模組222可分析雷達接收信號404以判定一使用者104之(1)拓撲區別、(2)時間區別、(3)手勢區別及/或(4)情境區別。在本發明中,可部分基於一或多個雷達信號特性及在一些情況中來自非雷達感測器之非雷達資料來判定拓撲、時間、手勢及情境區別。使用者模組222並不限於圖6中所描繪之四個區別類別且可包含未展示之其他類別。此外,四個區別類別經展示為實例性類別且可經組合及/或修改以包含實現本文中描述之技術之子類別。關於圖6所描述之技術亦可應用於如本文中所描述之手勢模組224 (例如,在關於圖25之一類似描繪中)。
在實例性實施方案600-1中,使用者模組222可部分使用拓撲資訊來區分一使用者104。此拓撲資訊可包含雷達橫截面(RCS)資料,諸如一使用者104之一身高、外形或大小。例如,一第一使用者104-1 (例如,一父親)可顯著大於一第二使用者104-2 (例如,一兒童)。當父親及兒童進入一鄰近區106時,雷達系統108可獲得指示各使用者之存在之雷達接收信號404。此等雷達接收信號404可部分包含與指示各使用者之身高、外形或大小之拓撲資訊相關聯之雷達信號特性。在此實例中,父親之雷達信號特性可相異於兒童之雷達信號特性。使用者模組222接著可比較各使用者之雷達信號特性與經註冊使用者之經儲存雷達信號特性以判定父親及兒童是否係經註冊使用者(或具有一相關聯雷達信號特性之未註冊人員)。
在此實例中,使用者模組222可判定第一使用者104-1 (父親)係一經註冊使用者。特定言之,使用者模組222可將父親之經儲存雷達信號特性(例如,保存至由多個運算裝置102-X共用之一記憶體)與一或多個雷達接收信號404相關以判定他係一經註冊使用者。在判定第一使用者104-1係一經註冊使用者時,運算裝置102可啟動父親之設定,提示父親繼續手勢訓練(基於父親之訓練歷史)等。
使用者模組222亦可判定第二使用者104-2 (兒童)係不具有運算裝置102之一帳戶之一未註冊人員。特定言之,使用者模組222可比較經註冊使用者之經儲存雷達信號特性與含有第二使用者104-2之雷達信號特性之一或多個雷達接收信號404。在判定與第二使用者104-2之雷達信號特性相關聯之拓撲資訊不與經註冊使用者之經儲存雷達信號特性之一或多者相關(例如,假定某一保真度位準)時,使用者模組222判定兒童係一未註冊人員。雷達系統108可為兒童指派含有兒童之雷達信號特性之一未註冊使用者識別,使得可在一未來時間使用拓撲資訊區分兒童與其他使用者(例如,父親)。此未註冊使用者識別可包含諸如圖12至圖15中所展示之資料,或自該資料判定之資訊(諸如兒童之一身高範圍、運動資料或閘門等)。運算裝置102亦可提示兒童開始手勢訓練及/或實施預定設定(例如,標準偏好、由運算裝置102之一所有者程式化之設定)。
一般而言,可一或多次收集及保存經註冊使用者之經儲存雷達信號特性。例如,每當一使用者104與運算裝置102互動時,雷達系統108可儲存雷達信號特性以改良使用者辨識。雷達系統108亦可隨時間連續地儲存雷達信號特性以改良使用者及/或手勢偵測。一使用者104之經儲存雷達信號特性可包含自與該使用者104相關聯之一或多個雷達接收信號404推斷之拓撲、時間、手勢及/或情境資訊。此外,雷達系統108可利用藉由使用者模組222使用之一或多個模型以基於使用者104之對應雷達信號特性來區分各使用者104。此等一或多個模型可包含用以改良使用者區別之一機器學習(ML)模型、謂詞邏輯、滯後邏輯等。
在實例性實施方案600-2中,使用者模組222可部分使用時間資訊來區分一使用者104。不同於可能需要高空間解析度之傳統雷達偵測器,本發明之雷達系統108可更多地依靠時間解析度(而非空間解析度)來偵測及區分一使用者104及/或辨識一手勢執行。以此方式,雷達系統108可藉由接收一運動簽章(例如,使用者104通常移動之一相異方式)來區分移動至一鄰近區106中之一使用者104。一運動簽章可包含一步態(在實例性實施方案600-2之繪圖中描繪)、肢體運動(例如,對應手臂移動)、重量分佈、呼吸特性、獨特習慣等。一使用者之運動簽章可包含一跛行、一精力充沛的步伐、一內八字腳行走、膝外翻、弓形腿等。使用此資訊,使用者模組222可能夠在無需識別可被視為私有的細節(例如,面部特徵)的情況下偵測使用者之運動(例如,其等之手之一移動)。藉由雷達系統108偵測運動簽章可讓使用者能夠維持比藉由使用(例如)執行面部辨識或語音至文字技術之裝置更大之匿名性。
雖然在區分一使用者與一或多個其他使用者之情境中進行描述,或作為特定經註冊使用者描述,但此等技術亦可結合偵測一使用者而使用。因此,自一使用者反射之一雷達接收信號之一雷達信號特性既用於偵測到存在一使用者(例如,任何人員)且亦用於偵測到該經偵測使用者係一特定使用者。因此,偵測使用者存在及區分一使用者之此等操作可單獨執行或作為一個操作執行。
在實例性實施方案600-3中,使用者模組222亦可部分使用手勢執行資訊來區分一使用者104。當利用與手勢執行相關聯之雷達信號特性時,使用者模組222可與手勢模組224通訊。一使用者可以可幫助區分該使用者104之一獨特方式(或以某一部分方式獨特) (當然,同時仍充分符合一推拉手勢範例以可辨識為一推拉手勢)執行一手勢(例如,一推拉手勢)。例如,一推拉手勢可包含在一方向上推使用者之手,緊接著在相反方向上拉使用者之手。雖然雷達系統108可預期推及拉運動為互補的(例如,在運動範圍上相等,在速度上相等),但使用者104可以不同於預期之方式執行運動。各使用者可以記錄於裝置上以用於使用者區別及手勢辨識之一獨特方式執行此手勢。
如實例性實施方案600-3中所描繪,一第一使用者104-1 (例如,一父親)可以不同於一第二使用者104-2 (例如,一兒童)之一方式執行一推拉手勢。例如,第一使用者104-1可以一第一速度將其等之手推至一第一程度(例如,距離),但以一第二速度將其等之手拉回至一第二程度。該第二程度可包含比該第一程度更短之一距離,且該第二速度可比該第一速度慢得多。雷達系統108可經組態以基於第一使用者之訓練歷史(若可用)來辨識此獨特或部分獨特的推拉手勢。
當區分第一使用者104-1時,雷達系統108可接收包含第一使用者104-1之與其等推拉手勢執行相關聯之雷達信號特性之一或多個雷達接收信號404。使用者模組222可比較此等雷達信號特性與經註冊使用者之經儲存雷達信號特性以判定是否存在一相關性(對於執行此之方式,參見圖7至圖17及圖25以及隨附描述)。若存在一相關性(例如,假定某一保真度位準),則使用者模組222可基於推拉手勢之執行來判定第一使用者104-1係一經註冊使用者(父親)。類似於上文關於實例性實施方案600-1之教示,運算裝置102接著可啟動父親之設定,提示父親繼續手勢訓練等。在此實例中,假定父親在過去至少一次執行推拉手勢,且該執行之雷達信號特性係記錄於父親之訓練歷史中以稍後部分實現父親之存在與其他使用者之存在之區別。
亦如實例性實施方案600-3中所描繪,第二使用者104-2 (兒童)可嘗試執行推拉手勢。第二使用者104-2可以第一速度將其等之手推至第一程度,但以第三速度將其等之手拉回至更大第三程度。特定言之,雷達系統108可接收包含第二使用者104-2之與此推拉手勢之執行相關聯之雷達信號特性之一或多個雷達接收信號404。使用者模組222可比較此等雷達信號特性與經註冊使用者之經儲存雷達信號特性以判定是否存在一相關性。類似於上文關於實例性實施方案600-1之教示,使用者模組222可判定第二使用者104-2之推拉手勢與經註冊使用者之經儲存雷達信號特性不相關。因此,使用者模組222可判定兒童係一未註冊人員且為兒童指派一未註冊使用者識別。然而,與兒童之推拉手勢相關聯之雷達信號特性可包含於未註冊使用者識別中以實現未來區別。
使用者模組222亦可部分使用情境資訊來區分一使用者104。情境資訊可由使用者模組222使用(例如)天線214、運算裝置102之另一感測器、儲存於一記憶體上之資料(例如,使用者習慣)、本地資訊(例如,一時間、一相對位置)等來判定。在實例性實施方案600-4中,使用者模組222可使用一本地時間作為情境來實現一特定使用者之區別。若一使用者104 (例如,父親)每天下午5:30一直坐在一客廳沙發上,則使用者模組222可注意到此習慣以改良使用者區別。每當在下午5:30偵測到使用者104在沙發上時,雷達系統108可部分使用此情境資訊來將該使用者104區分為父親。在另一實例中,若運算裝置102定位於一兒童房間中,則雷達系統108可隨時間判定兒童係該房間中之最常見使用者。該情境資訊可用於實現使用者區別。類似地,若運算裝置102定位於一共用空間(例如,後院、入口)中,則雷達系統108可隨時間判定未註冊人員(例如,客人、保姆、管家、園丁、承包商、自由職業助手)在該區域中係常見的。應瞭解,雖然本教示之範疇並不一定限於無攝影機環境,且因此對於一些實施例,可使用(若干)攝影機及面部辨識來擴增情境資訊,但藉由本文中描述之無攝影機實施例提供之一個有利特徵在於,在不使用攝影機的情況下確實可導出所要情境資訊,因為在家庭環境中,尤其在住宅之更敏感區域中,攝影機之存在可帶來不安感及對隱私之妥協感。
藉由使用者模組222蒐集之情境資訊可單獨用於區分一使用者104或結合拓撲資訊、時間資訊及/或手勢資訊一起用於區分一使用者104。一般而言,使用者模組222可在任何時間以任何組合使用所描繪之區別類別之任一或多者來區分一使用者104。例如,雷達系統108可收集關於已進入一鄰近區106之一使用者104之拓撲及時間資訊,但缺少手勢及情境資訊。在此情況下,使用者模組222可基於拓撲及時間資訊之分析來區分使用者104。在另一情況下,雷達系統108可收集拓撲及時間資訊,但判定該資訊不足以正確地區分使用者104 (例如,在一所要置信度位準)。若情境資訊可用,則雷達系統108可利用該情境來區分使用者104 (與在實例性實施方案600-4中類似地)。圖6中描繪之任一或多個類別可優先於另一類別。
使用者模組222可利用一或多個邏輯系統(例如,包含謂詞邏輯、滯後邏輯等)來改良使用者區別。邏輯系統可用於將特定使用者區別技術優先於其他使用者區別技術(例如,偏袒時間區別勝過情境資訊),在依靠兩個或更多個區別類別時對特定結果增加權重(例如,置信度)等。例如,使用者模組222可以低置信度判定一第一使用者104-1可為一經註冊使用者。一邏輯系統可判定低置信度低於一容許臨限值準則(例如,極限)且代替性地提示雷達系統108發送出一第二雷達發射信號402-2 (或在一時間段內發射之信號組)以再次探測鄰近區106。使用者模組222亦可包含一或多個機器學習模型以改良使用者區別,如關於圖7進一步描述。
圖7繪示用於區分使用者104及/或辨識手勢之一機器學習模型700之一實例性實施方案。機器學習模型700可執行分類,其中機器學習模型700對於一或多個類別之各者提供描述認為輸入資料應被分類至對應類別中之一程度之一數值。在一些例項中,藉由機器學習模型700提供之數值可被稱為指示與將輸入分類至各自類別中相關聯之一各自置信度之概率或「置信度評分」。在一些實施方案中,可比較置信度評分與一或多個臨限值準則以呈現一離散分類預測。在一些實施方案中,可選擇僅特定數目個具有相對最大置信度評分之類別(例如,一個)以呈現一離散分類預測。
在實例性實施方案中,機器學習模型700可提供一概率分類。例如,在給定一樣本輸入的情況下,機器學習模型700可預測一組類別上之一概率分佈。因此,機器學習模型700可針對各類別輸出樣本輸入屬於此類別之一概率,而非僅輸出樣本輸入應屬於之最可能類別。在一些實施方案中,所有可能類別上之概率分佈可求和為1。
機器學習模型700可使用監督式學習技術進行訓練。例如,可在包含標記為屬於(或不屬於)一或多個類別之訓練實例之一訓練資料集上訓練機器學習模型700。可執行訓練之至少一部分以在一使用者購買運算裝置102之前初始化機器學習模型700。此類型之訓練被稱為離線訓練。在離線訓練期間,訓練資料集不一定與使用者相關聯。在一些實施方案中,運算裝置102讓使用者能夠執行使用者手勢訓練。在使用者手勢訓練期間,機器學習模型700可收集特定於使用者之一新訓練資料集且藉由使用與使用者相關聯之訓練資料執行即時訓練來作為一永久學習機器操作。以此方式,機器學習模型700可適應使用者之一獨特雷達簽章及使用者執行手勢之方式以改良效能。此類型之訓練被稱為線上或在線訓練。
在所描繪之組態中,機器學習模型700經實施為一深度神經網路且包含一輸入層702、多個隱藏層704及一輸出層706。輸入層702包含多個輸入708-1、708-2、…、708-N,其中N表示等於與一或多個雷達接收信號404相關聯之雷達信號特性710之一數量之一正整數。多個隱藏層704可包含層704-1、704-2、…、704-M,其中M表示一正整數。各隱藏層704可包含多個神經元,諸如神經元712-1、712-2、…、712-Q,其中Q表示一正整數。各神經元712可連接至一先前隱藏層704或下一隱藏層704中之至少一個其他神經元712。神經元712之一數量在不同隱藏層704之間可為類似或不同的。在一些情況下,一隱藏層704可為一先前層之一複本(例如,層704-2可為層704-1之一複本)。輸出層706可包含與可能已在鄰近區106內偵測到之一經區分使用者716 (例如,一經註冊使用者、一未註冊人員)相關聯之輸出714-1、714-2、…、714-N。
一般而言,各種不同深度神經網路可用各種數量之輸入708、隱藏層704、神經元712及輸出714來實施。機器學習模型700內之層之一數量可基於雷達信號特性及/或區別或辨識類別(如圖6中所描繪)之數量。作為一實例,機器學習模型700可包含四個層(例如,一個輸入層702、一個輸出層706及兩個隱藏層704)以將一第一使用者104-1與一第二使用者104-2區分,如關於實例性環境100及實例性實施方案600所描述。替代性地,隱藏層之數量可為大約100個。
當由使用者模組222利用時,機器學習模型700可改良使用者區別之保真度。機器學習模型700可隨時間收集包含關於一使用者104之拓撲、時間、手勢及/或情境資訊之多個輸入708 (例如,與一或多個雷達接收信號404相關聯之雷達信號特性710)。例如,第二使用者104-2 (例如,一兒童)可在與運算裝置102之一第一互動期間遠離雷達系統108定位,從而導致用於將該兒童區分為一未註冊人員之一第一組輸入708。該第一組輸入708可包含於被指派給兒童之一未註冊使用者識別中。在一第二互動上,兒童可靠近雷達系統108就坐,從而導致相異於第一組且亦可包含於兒童之未註冊使用者識別中之用於區分兒童之一第二組輸入708。此程序可隨時間繼續,以對機器學習模型700提供更多輸入708以在一未來時間更佳區分(例如,以更高準確度、更大速度)兒童。
當由使用者模組222利用時,機器學習模型700分析複雜雷達資料(例如,相位及/或振幅資料)且產生概率。一些概率係與雷達系統108可辨識之各種手勢相關聯。概率之另一者可與一背景任務(例如,未由雷達系統108辨識之背景雜訊或手勢)相關聯。儘管關於手勢進行描述,但機器學習模型700可經擴展以指示其他事件(諸如一使用者是否存在於一給定距離內)。
手勢模組224亦可收集在使用者手勢訓練期間一使用者104之手勢執行資訊作為至機器學習模型700之一輸入,以讓使用者模組222能夠基於手勢執行來區分使用者。若第一使用者104-1在使用者手勢訓練期間執行推拉手勢四次,則可存在至機器學習模型700之至少四個輸入708-1、708-2、708-3及708-4。使用者模組222可部分利用機器學習模型700之一或多個輸出714以在第一使用者104-1 (例如,父親)在一未來時間執行推拉手勢時區分第一使用者104-1。
一般而言,機器學習模型700可整合至使用者模組222、雷達系統108或運算裝置102中或獨立於運算裝置102 (例如,一共用伺服器)定位。手勢模組224亦可包含可改良由使用者104正在執行之手勢之偵測及辨識之一類似機器學習模型700。例如,手勢模組224可偵測與由第一使用者104-1正在執行之一手勢相關聯之一或多個雷達信號特性710。手勢模組224可利用機器學習模型700輸出714來將手勢辨識為與一命令(例如,開啟一烤箱)相關聯之一已知手勢(例如,一推拉手勢)。手勢模組224之操作可與藉由使用者模組222執行之操作同時執行或在與藉由使用者模組222執行之操作分開之一時間執行。手勢模組224可另外包含諸如一卷積神經網路(CNN)之一或多個深度學習演算法以改良手勢之偵測及辨識。關於圖8進一步描述CNN至手勢模組224中之一實例性整合。
雖然上文圖7及下文圖8之機器學習模型被描述為區分使用者及辨識手勢,但偵測一使用者或手勢可分別與區分該使用者或辨識該手勢作為一個操作執行。然而,在一些情況下,使用多個或更複雜的操作,諸如當偵測一手勢及辨識一手勢兩者之一嘗試由於足以偵測但不足以辨識該手勢而失敗時(例如,其中與已知手勢之相關性太低而無法辨識執行哪一手勢,諸如在一低置信度位準,但足以將手勢判定為某種手勢而非一非手勢運動)。因此,自一使用者反射之一或多個雷達接收信號之一或多個雷達信號特性既可用於偵測到執行一手勢且亦可用於辨識該經偵測手勢係一已知手勢。
實例性空間 - 時間機器學習模型
圖8繪示包含一手勢模組224之一實例性實施方案800,手勢模組224利用一空間-時間機器學習模型802 (例如,一或多個CNN)來改良手勢之偵測及辨識。此空間-時間機器學習模型802可使運算裝置102能夠在長距離現存距離(諸如四公尺)以及近距離(諸如幾公分)處在一所要置信度位準偵測及辨識手勢。手勢模組224經描繪為具有一信號處理模組804、一訊框模型806、一時間模型808及一手勢去除抖動器810。
空間-時間機器學習模型802具有一多級架構,該多級架構包含一第一級(例如,訊框模型806)及一第二級(例如,時間模型808)。在該第一級中,空間-時間機器學習模型802跨一空間域處理複雜雷達資料(例如,一複距離都卜勒圖),此涉及在一逐叢發基礎上處理複雜雷達資料。在第二級中,空間-時間機器學習模型802跨多個叢發串接訊框模型806之結果。藉由串接結果,第二級跨一時間域處理複雜雷達資料。藉由多級架構,空間-時間機器學習模型802之一總體大小及推斷時間相較於其他類型之機器學習模型之彼等可顯著減少。此屬性可使空間-時間機器學習模型802能夠在具有有限運算資源之一運算裝置102上運行。
手勢模組224並不限於實例性實施方案800中所描繪之配置且可包含如所展示之額外或更少組件。例如,一手勢模組224可缺少一手勢去除抖動器810,但包含配置於訊框模型806之前、時間模型808之前及/或時間模型808之後的多個信號處理模組804。此外,手勢模組224之所描繪組件之任一或多者可獨立於手勢模組224配置。例如,時間模型808之輸出可被發送至與手勢模組224分離之一手勢去除抖動器810。空間-時間機器學習模型802亦可與與手勢模組224分離。在一個實例中,空間-時間機器學習模型802可配置於雷達系統108內但與手勢模組224分離。在另一實例中,空間-時間機器學習模型802可與運算裝置102分離(例如,定位於一遠端伺服器上)。本文中諸如關於圖25描述關於手勢辨識之進一步細節。
在實例性實施方案800中,分別使用天線214-1、214-2及214-3發射三個雷達發射信號812-1、812-2及812-3。三個雷達發射信號812-1、812-2及812-3表示可在傳播期間疊加以形成一合成發射信號402-Y之分量信號。合成發射信號402-Y傳播至一周圍環境(例如,一住所)中。合成發射信號402-Y諸如從一環境814及/或由一使用者104正在執行之一手勢816反射。例如,環境814可包含一固定環境,諸如靜止物體(例如,家具),及一不固定環境,諸如不與手勢相關聯之物體之運動(例如,使用者104行走及/或與其等之環境814互動、一吊扇、一家畜之移動等)。在圖8中,合成發射信號402-Y之至少一部分從環境814及手勢816 (例如,使用者之一手)反射,從而產生一合成雷達接收信號404-Z。天線214-1、214-2及214-3各接收合成雷達接收信號404-Z之一版本,該版本由雷達接收信號818-1、818-2及818-3表示。雷達接收信號818-1、818-2及818-3對應於至少三個各自雷達信號特性且在被發送至信號處理模組804之前被發送至類比電路216 (參考圖5)。類比電路216可修改(例如,數位化)雷達接收信號818 (與雷達信號特性相關聯)以實現信號處理模組804之操作。
在圖8之一個實例中,運算裝置102以3千赫(kHz)之一高脈衝重複率(PRF)將合成雷達發射信號402-Y作為16個線性調頻脈衝(chirp)之一叢發發射。各叢發包含頻率調變之連續波之一寬150度雷達波束以照明一鄰近區106之周圍環境(例如,環境814及手勢816)。隨時間(以30 Hz之一速率)週期性地發射各叢發以實現手勢之未分段偵測。各天線214捕獲來自一長距離範圍(例如,四公尺,儘管亦設想諸如約兩公尺、六公尺或八公尺之其他距離)內之鄰近區106內之散射表面之反射之一疊加(對應於雷達接收信號404-Z)。一般而言,雷達發射信號可在並非一固定時間段之一可變時間段(例如,經分段之偵測時段)內發射。
雖然在實例性實施方案800中描繪三個雷達發射信號812,但一般而言,運算裝置102可同時發射來自一或多個天線214之一或多個信號。一般而言,運算裝置102可在延伸至一長距離範圍(例如,一公尺至四公尺之一線性距離)之鄰近區106內之一或多個位置處偵測及辨識手勢。本發明之運算裝置102不需要使用者104在鄰近區106內之任何特定位置處(例如,在裝置之一介面上方)執行一手勢,此可容許使用者104自由地自(例如)其等住宅內之各個位置舒適地執行手勢命令,而不必行走至裝置之介面。
在實例性實施方案800中,藉由信號處理模組804處理雷達接收信號818-1、818-2及818-3,信號處理模組804應用一高通濾波器以移除來自靜止物體之反射。此高通濾波器可包含(例如)一或多個電阻器、電容器、電感器、操作放大器(op amps)等。替代性地或此外,各雷達接收信號818-1、818-2及818-3可用快速傅立葉變換(FFT)之多個級處理以產生一或多個複距離都卜勒圖820-A (關於圖12描述一實例)。
一複距離都卜勒圖820可為包含一距離維度(例如,一傾斜距離維度)及一都卜勒維度之一二維表示。距離維度可對應於手勢816之一散射表面(例如,使用者之手之一表面)自運算裝置102之一位移,且都卜勒維度可對應於散射表面相對於運算裝置102之一距離變率。因此,一或多個複距離都卜勒圖820可使雷達系統108能夠判定一物體(例如,一手勢816)在其鄰近區106內之相對位置及運動。雷達系統108可判定隨時間具有相似或相異FFT窗大小之一或多個複距離都卜勒圖820。例如,一FFT窗大小可經設定為128 x 16,分別對應於距離及都卜勒資料之筐(bin)大小。在此實例中,距離解析度
係0.027公尺(m),而都卜勒解析度
係0.38公尺/秒(m/s),如由以下方程式定義:
其中
表示光速,
係設定為5.5 GHz之發射頻寬,
係設定為3 kHz之脈衝重複頻率,
係設定為60.75 GHz之中心頻率,且
係設定為16之每叢發之線性調頻脈衝之數目。
信號處理模組804接著將一或多個複距離都卜勒圖820發送至訊框模型806。如實例性實施方案800中所描繪,信號處理模組804將三個複距離都卜勒圖820-1、820-2及820-3發送至訊框模型806。雖然描繪一個訊框模型806,但手勢模組224可包含各利用CNN (卷積神經網路)技術之一或多個訊框模型806。參考先前實例,訊框模型806可接收格式化為大小128 (距離筐之數目) x 16 (都卜勒筐之數目) x 6 (3個天線x 2個值)之一張量之複距離都卜勒圖820-1至820-3,其中「2個值」對應於作為一浮動表示之實值或虛值。若鄰近區106減小至一較小大小(例如,1.5 m),則可減小張量大小。在此情況下,可在第64筐處剪裁距離筐之數目以對應於站在距運算裝置102 1.7 m處且在距裝置1.5 m之一距離處用其等之手執行手勢816之使用者104。
訊框模型806可輸出包含已針對各叢發處理之複距離都卜勒圖820-A之一維表示之訊框結果822-B。在此情況下,與不同叢發相關聯之訊框結果822-1、822-2及822-3可被發送至時間模型808以沿著時域連接且使用一類似或相異CNN技術進行處理。時間模型808可針對一或多個手勢類別(例如,已知手勢)及/或一背景類別(例如,背景運動、不與已知手勢相關聯之物體)運算一或多個手勢可能性(例如,時間結果824-C,其中變量C表示藉由時間模型808分析之類別之數量)以發送至手勢去除抖動器810。例如,手勢去除抖動器810可經組態以辨識五個可能手勢類別(例如,一輕觸、一向上滑移、一向下滑移、一向右滑移及一向左滑移)及一個背景類別(例如,與五個可能手勢類別不相關之運動及物體)。
手勢去除抖動器810可使運算裝置102能夠執行未分段手勢偵測,此可使裝置能夠在未首先接收到將要執行一手勢之一指示及/或在不具有將要執行一手勢之先驗知識的情況下偵測手勢。例如,運算裝置102可在無需使用者104用一「喚醒」觸發器提示裝置的情況下偵測一手勢816。一喚醒觸發器可包含由使用者104做出之一口頭、視覺或手勢提示以向運算裝置102指示一手勢816執行即將發生。喚醒觸發器可由運算裝置102之任一或多個感測器(諸如一天線214、一麥克風、一周圍光感測器、一壓力感測器、一攝影機等)偵測。藉由無需一喚醒觸發器事件,雷達系統108在任何時間連續地(例如,以一未分段方式)掃描且偵測手勢816。
為防止一手勢816之一錯誤偵測或辨識,手勢去除抖動器810可對時間結果824-C應用一或多種啟發法。一錯誤辨識可包含(例如)將手勢816不正確地與一已知手勢或多個已知手勢相關。一第一啟發法可包含一時間結果824-C (例如,空間-時間機器學習模型802之一結果)應具有大於最後三個連續訊框內之一上臨限值準則(例如,一設定值)之值的要求,即,關於結果之一置信度之一最大臨限值要求。當在一時間段內偵測到多個手勢時,一第二啟發法可要求一時間結果824-C具有小於一下臨限值準則之值,即,對在手勢執行之間經過之時間之一最小臨限值要求。若由使用者104在執行一第一手勢(例如,手勢816)之後快速執行一第二手勢(例如,手勢816),則手勢去除抖動器810可依靠兩個手勢816係在該時間段內正在執行之單獨動作之一指示。例如,在已偵測到第一手勢之後,在偵測到第二手勢之前的一經過時間內,時間結果824-C可具有小於下臨限值之值。此等上臨限值及下臨限值可基於使用者需求及效能而用實驗判定或定製。
手勢去除抖動器810可應用此等一或多種啟發法來判定一手勢結果826。此手勢結果826可為藉由雷達系統108偵測之物體及/或運動之最可能分類之一指示(例如,雷達信號特性之相關性)。若手勢模組224可對多達六個類別進行分類,則手勢去除抖動器810將指示已偵測到此六個類別之哪一者。
在一第一實例中,假定一第一雷達發射信號402-1被發送至一運算裝置102-1之一鄰近區106-1且從跨一房間行走之一貓反射(在圖4中部分展示,貓未繪示)。一第一雷達接收信號404-1在被發送至信號處理模組804 (圖8)之前在一所繪示之雷達系統108-1之類比電路216 (參見圖2)處接收。信號處理模組804藉由應用一高通濾波器以移除與靜止物體(例如,地板上之一玩具,未繪示)相關聯之信號來清潔第一雷達接收信號404-1。一第一複距離都卜勒圖820-1被發送至執行一或多個CNN技術且將該圖變換成一維陣列(一第一訊框結果822-1)之訊框模型806。第一訊框結果822-1被發送至時間模型808 (參見圖8),其中裝置計算移動貓為六個類別(五個手勢類別及一背景類別)之任一者之概率。時間模型808判定針對五個手勢類別之各者之概率係0.01 (在0至1.00之一尺度上)且針對背景類別之概率係0.95。此六個值(例如,一第一時間結果824-1)被發送至手勢去除抖動器810。手勢去除抖動器810應用第一啟發法,要求一類別之概率具有大於0.80之一上臨限值之值。由於背景類別之概率係0.95,因此手勢去除抖動器810發送指示貓屬於背景類別之一第一手勢結果(例如,手勢結果826),從而暗示貓之運動不與五個手勢類別之一者相關聯。儘管本教示之範疇並不如此受限,但在此實例中假定六個類別係互斥的且所有六個概率之總和等於1.00。
在圖4中展示之一第二實例中,一第二雷達發射信號402-2被發送至一運算裝置102-2之一鄰近區106-2中且從藉由揮動其等之手來問候一家庭成員之一使用者104 (定位成與裝置相距四公尺)反射。一第二雷達接收信號404-2藉由一雷達系統108-2接收(使用先前實例中描述之一組類似技術,且在類比電路216處),且一第二訊框結果822-1被發送至時間模型808。裝置判定揮動其等之手之使用者104之運動對於一向上滑移具有0.2之一概率,對於一向下滑移具有0.2之一概率,對於一向左滑移具有0.2之一概率,對於一向右滑移具有0.2之一概率,對於一輕觸具有0.1之一概率且對於背景類別具有0.1之一概率。一第二時間結果824-2被發送至手勢去除抖動器810,手勢去除抖動器810判定六個類別皆不具有大於設定於0.8之上臨限值之一概率值。代替輸出一第二手勢結果(例如,手勢結果826),手勢去除抖動器810可例如(向手勢模組224、雷達系統108及/或運算裝置102)傳達關於使用者之揮手是否係一手勢或一背景運動之資訊不足。基於此指示,手勢模組224可指示裝置發射一第三雷達發射信號402-3 (圖4中未展示)以獲得一額外雷達信號特性(例如,使用類似於上文實例之一第三複距離都卜勒圖820-3、一第三訊框結果822-3及一第三時間結果824-3)。如所提及,技術可使用一或多個額外感測器(例如,一麥克風)來收集補充資料及/或可利用額外資訊(例如,情境資訊)來辨別使用者之揮手是否旨在為用於裝置之一命令。一種此方式包含不一定係語音辨識之音訊。例如,即使使用者104未被區分且因此運算裝置102尚未知道哪一使用者正在執行手勢,音訊及其他補充資料亦可用於變更或建立正在執行一特定手勢之一概率。在下文圖19之描述中闡述實例。
在實例性實施方案800中,訊框模型806及時間模型808可共同形成利用CNN技術、人工智慧、邏輯系統、殘差神經網路(ResNet)、緻密層等之一「空間-時間機器學習模型」(以802識別)。可視需要重複、重新配置或忽略空間-時間機器學習模型之任一或多個組件。圖9中描繪訊框模型806之一實例性結構。
圖9繪示藉由訊框模型806利用之空間-時間機器學習技術之一實例性實施方案900。此等技術可利用具有如所描繪配置之若干層之一神經網路(參考圖7)。可重新配置、移除或重複所描繪層之任一或多者以形成亦可在長距離範圍內實現手勢之偵測及辨識之替代神經網路。
如所描繪,一複距離都卜勒圖820 (例如,一輸入張量)首先被發送至一平均池化層902以減小該圖之大小及跟隨之後續層之運算成本。平均池化層902可用於藉由平均化與複距離都卜勒圖820相關聯之一值集來減小圖之大小,作為至可分離二維(2D)殘差區塊904之一輸入。雖然在實例性實施方案900中描繪可分離卷積層,但訊框模型806可替代性地或另外利用標準卷積層。可分離卷積層係用於將一矩陣劃分為該矩陣之構成(兩個)內核部分。例如,一3x3複距離都卜勒圖820可能需要具有9次乘法之一個卷積,而矩陣之構成內核部分(一1x3及一3x1內核)可能僅需要具有三(3)次乘法之兩個卷積,從而減少運算時間。
一般而言,一殘差區塊可與可跳過一神經網路內之連接(例如,層)之一ResNet相關聯。在圖9之虛線框中描繪具有兩個實例性路徑之一實例性可分離2D殘差區塊904。在一第一路徑上,將來自平均池化層902之結果輸入至一可分離2D卷積層906中。一濾波器可在此等輸入上方滑動,以在各位置處執行一逐元素乘法及求和。在一實例中,空間-時間機器學習模型802可將一2x2濾波器應用於可分離2D卷積層906之一3x3輸入矩陣。此2x2濾波器可在輸入矩陣之值上方滑動,從而導致一2x2矩陣輸出。替代性地,可在可分離2D卷積層906處填補3x3輸入矩陣之邊緣以輸出一3x3矩陣而非一2x2矩陣。此外,可在可分離2D卷積層906處執行一跨步(例如,在濾波器跨輸入矩陣滑動時跳過一或多個位置)。
可將可分離2D卷積層906之輸出矩陣發送至一批次正規化層908,其中標準化輸出矩陣之值以改良空間-時間機器學習模型802之穩定性及速度。例如,可藉由計算各值之平均值及標準偏差來標準化輸出矩陣之值。在另一實例中,可藉由計算平均值及標準偏差之一運行平均數來標準化值。可將此等標準化之結果發送至一整流器(ReLU) 910,ReLU 910係定義為其引數之正部分之一啟動函數。ReLU 910可用於防止可分離2D殘差區塊904同時啟動所有神經元712,從而防止運算需求之指數增長。ReLU 910可包含(例如)一線性(例如,參數)或非線性(例如,高斯、S型、分析、邏輯)函數。可將來自ReLU 910之經修改結果發送至類似於或相異於先前卷積層之另一可分離2D卷積層906。彼等結果可在被發送至一求和節點912 (其中此第一路徑之結果與可分離2D殘差區塊904之一第二路徑之結果相加)之前在另一批次正規化層908處進行處理。
在第二路徑上,來自平均池化層902之結果繞過第一路徑之層且代替性地被發送至一2D卷積層914,2D卷積層914可包含不將矩陣分離成構成內核之一二維標準卷積層。來自2D卷積層914之輸出矩陣可被發送至求和節點912,其中來自第一及第二路徑之結果經相加且發送至另一ReLU 910。
訊框模型806接下來可實施一系列可分離2D殘差區塊904及最大池化層916 (由918共同標記)。各可分離2D殘差區塊904可利用相異或類似演算法以處理資料。例如,各區塊可使用一相異或類似濾波器大小(例如,1x1、2x2、3x3等)及/或步幅(例如,以每1、2、3或等等值進行濾波)。不同於在平均池化層902處,可在最大池化層916處判定來自一輸入集之一或多個最大值。在最大池化層916處,例如,可藉由在矩陣上方滑動一2x2窗來計算一4x4矩陣之最大值。雖然此實例使用一2x2窗,但一般而言,最大池化層916可利用一1x1窗、一3x3窗等。實例性實施方案900中所描繪之各最大池化層916可包含相異或類似於另一最大池化層916之窗之一窗。
在訊框模型806結束時,將資料發送至一最終可分離2D卷積層906及接著一平坦化層920。平坦化層920可將資料減少為一維陣列(例如,一訊框概述922)。此訊框概述922可被發送至時間模型808以用於如關於圖10所描述般進一步處理。
圖10繪示藉由時間模型808利用之機器學習技術之一實例性實施方案1000。類似於訊框模型806,該等技術可包含具有如所描繪配置之若干層之一神經網路。可重新配置、移除或重複所描繪層之任一或多者以形成亦可在長距離範圍內實現手勢之偵測及辨識之替代神經網路。
如所描繪,可將一訊框概述922發送至時間模型808以在時域內使雷達接收信號404之訊框相關。可首先在一維(1D)殘差區塊1002處處理訊框概述922。1D殘差區塊1002可類似於可分離2D殘差區塊,惟用標準卷積(例如,不使用可分離卷積)在一個維度中執行計算除外。在圖10之虛線框中描繪具有兩個可能路徑之一實例性1D殘差區塊1002。在一第一路徑上,將訊框概述922輸入至一1D卷積層1004中。1D卷積層1004可類似於可分離2D卷積層906,惟用標準卷積在一個維度中執行計算除除外。可將此等結果發送至一批次正規化層908,接著一ReLU 910。可藉由類似或相異於先前1D卷積層1004之另一1D卷積層1004處理資料。彼等結果可在被發送至一求和節點912 (其中此第一路徑之結果與1D殘差區塊1002之一第二路徑之結果相加)之前在另一批次正規化層908處進行處理,。
在第二路徑上,訊框概述922繞過第一路徑之層且被發送至一1D卷積層1004,1D卷積層1004可類似或相異於第一路徑之1D卷積層1004。來自第一及第二路徑之結果係在求和節點912處求和且被發送至另一ReLU 910。
時間模型808接下來可實施一系列1D殘差區塊1002及最大池化層916 (由1006共同標記)。參考關於圖9之論述,各1D殘差區塊1002可利用相異或類似演算法以處理資料。在時間模型808結束時,將資料發送至一緻密層1008及接著一softmax層1010。在緻密層1008 (例如,一完全連接層)處,各神經元可接收來自先前層之所有神經元之資料。該資料之大小可在緻密層1008處改變且反映可用於對一手勢進行分類之類別之數目。例如,若手勢模組224具有五個手勢類別及一個背景類別,則來自緻密層1008之輸出可反映六個類別。可將此輸出發送至softmax層1010,在softmax層1010處,將一softmax函數應用於此資料以將概率指派給各類別。例如,若存在六個類別,則該六個類別之各者可被指派0至1之一概率值。所有六個類別概率之總和可加起來為1。接著將手勢概率1012自時間模型808發送至手勢去除抖動器810 (參考關於圖8之論述)以實現手勢之偵測及辨識。
用於基於雷達之手勢辨識之離線訓練
可使用離線監督式訓練技術來訓練手勢模組224。在此情況下,一記錄裝置記錄藉由一雷達系統108產生之資料。該記錄裝置耦合至雷達系統108以擷取複雜雷達資料。記錄裝置可為連接至雷達系統108之一獨立單元。替代性地,記錄裝置可整合於雷達系統108或運算裝置102內。
對於離線訓練,雷達系統108在一參與者執行手勢時收集正像記錄,諸如使用一左手之一向右滑移及使用一右手之一向左滑移。一般而言,正像記錄表示在參與者執行與手勢類別相關聯之手勢之時間段期間藉由雷達系統108或記錄裝置記錄之複雜雷達資料。
可使用具有不同身高及慣用手類型(例如,右撇子、左撇子或雙手通用)之參與者來收集正像記錄。又,可在參與者定位於相對於雷達系統108之各個位置處的情況下收集正像記錄。例如,參與者可相對於雷達系統108以各種角度執行手勢,包含近似-45度與45度之間之角度。作為另一實例,參與者可在距雷達系統108各種距離(包含近似0.3公尺與2公尺之間的距離)處執行手勢。此外,可在參與者採用各種姿勢(例如,坐、站或躺下),不同記錄裝置放置(例如,在一桌子上或在參與者之一手中)及記錄裝置之各種定向(例如,縱向或橫向)的情況下收集正像記錄。
對於離線訓練,雷達系統108亦在一參與者執行背景任務時收集負像記錄。背景任務可包含參與者操作一電腦或運算裝置102。另一背景任務可包含參與者在雷達系統108周圍行走。一般而言,負像記錄表示在參與者執行與背景類別相關聯之背景任務(或不與一手勢類別相關聯之任務)之時間段期間藉由雷達系統108記錄之複雜雷達資料。
參與者可執行類似於與手勢類別之一或多者相關聯之手勢之背景運動。例如,參與者可在電腦與一滑鼠之間移動其等之手,此可類似於一方向性滑移手勢。作為另一實例,參與者可將一杯子放在靠近記錄裝置之一桌子上且將該杯子拾起,此可類似於一輕觸手勢。藉由在負像記錄中擷取此等類手勢背景運動,手勢模組224可經訓練以偵測具有類手勢運動之背景任務與意欲控制運算裝置102之有意手勢之間的一差異。
負像記錄可在各種環境中收集,包含一廚房、一臥室或一客廳。一般而言,負像記錄擷取雷達系統108周圍之自然行為,該等自然行為可包含參與者伸手拾起運算裝置102、在附近跳舞、行走、清潔一桌子(在該桌子上具有運算裝置102)或在運算裝置102處於一固持件中時轉動一汽車之方向盤。負像記錄亦可擷取類似於滑移手勢之手移動之重複,諸如將一物體自雷達系統108之一側移動至另一側。出於訓練目的,負像記錄被指派一背景標記,該背景標記將負像記錄與正像記錄區分開。為進一步改良手勢模組224之效能,可視需要對負像記錄進行濾波以提取與具有高於一預定義臨限值準則之速率之運動相關聯之樣本。
正像記錄及負像記錄經分裂或劃分以形成一訓練資料集、一開發資料集及一測試資料集。可判定各資料集中之正像記錄與負像記錄之一比率以最大化效能。在實例性訓練程序中,比率係1:6或1:8。
記錄裝置可細化正像記錄內之手勢片段之時序。為此,記錄裝置偵測一正像記錄之一手勢片段內之一手勢運動之一中心。作為一實例,記錄裝置在一給定手勢片段內偵測一零都卜勒交叉。零都卜勒交叉可係指其中手勢之運動在一正像都卜勒筐與一負像都卜勒筐之間改變之一時間例項。換言之,零都卜勒交叉可係指其中都卜勒判定之距離變率在一正值與一負值之間改變之一時間例項。此指示其中手勢運動之一方向變得實質上垂直於雷達系統108之一時間,諸如在一滑移手勢期間。其亦可指示其中手勢運動之一方向反轉且手勢運動變得實質上靜止之一時間,諸如在一輕觸手勢之執行期間。其他指示符可用於偵測其他類型之手勢之一中心點。
記錄裝置基於一手勢運動之一經偵測中心來對準一時序窗。該時序窗可具有一特定持續時間。此持續時間可與特定數量之叢發(諸如12個或30個叢發)相關聯。一般而言,叢發之數量足以擷取與手勢類別相關聯之手勢。在一些情況下,時序窗內包含一額外偏移。該偏移可與一或多個叢發之一持續時間相關聯。時序窗之一中心可與手勢運動之經偵測中心對準。
記錄裝置基於其經對準時序窗對一給定手勢片段重新設定大小以產生預分段資料。例如,減小手勢片段之大小以包含與經對準之時序窗相關聯之樣本。預分段資料可作為訓練資料集、開發資料集及測試資料集之一部分提供。
可使用訓練資料集及監督式學習來訓練手勢模組224。如上文所描述,訓練資料集可包含預分段資料。此訓練實現手勢模組224之內部參數(包含權重及偏差)之最佳化。
首先,使用開發資料集最佳化手勢模組224之超參數。如上文所描述,開發資料集可包含預分段資料。一般而言,超參數表示在訓練期間不變之外部參數。一第一類型之超參數包含與手勢模組224之一架構相關聯之參數,諸如層之一數量或各層中之節點之一數量。一第二類型之超參數包含與訓練資料之處理相關聯之參數,諸如一學習率或時期(epoch)之一數目。超參數可經手動選擇或可使用諸如一網格搜尋、一黑盒最佳化技術、一基於梯度之最佳化等之技術來自動選擇。
其次,使用測試資料集來評估手勢模組224。特定言之,執行一兩階段評估程序。一第一階段包含使用手勢模組224及測試資料集內之預分段資料執行一分段式分類任務。在不使用手勢去除抖動器810來判定是否發生一手勢的情況下,基於藉由時間模型808提供之最高概率來判定手勢。藉由分段式分類任務之執行,可評估手勢模組224之一準確度、精度及重新叫用。
一第二階段包含使用手勢模組224及手勢去除抖動器810來執行一未分段辨識任務。使用連續時間序列資料(或一連續資料串流)來執行未分段辨識任務,而非使用測試資料集內之預分段資料。藉由未分段辨識任務之執行,可評估手勢模組224之一辨識率及/或一誤判率。特定言之,可使用正像記錄來執行未分段辨識任務以評估辨識率且使用負像記錄來執行未分段辨識任務以評估誤判率。未分段辨識任務利用手勢去除抖動器810,此實現臨限值準則之進一步調諧以更佳達成一所要辨識率及一所要誤判率。
若分段式分類任務及/或未分段辨識任務之結果不令人滿意,則可調整手勢模組224之一或多個元素。此等調整可擴展至手勢模組224之整體架構、訓練資料及/或超參數。藉由此等調整,手勢模組224之訓練可重複。可擴增正像記錄及/或負像記錄以進一步增強手勢模組224之訓練,如下文進一步描述。
資料擴增技術
可使用資料擴增來增強空間-時間機器學習模型802之資料集(例如,與雷達信號特性相關聯之複距離都卜勒圖820、訊框結果822及/或時間結果824),以增加經儲存雷達信號特性之數量,而無需使用者104與運算裝置102之間的大量互動(例如,50次或更多次互動)來進行離線或在線訓練。本發明中描述之雷達擴增技術包含判定對應於一或多個雷達信號特性之資料之隨機或預定相位旋轉及/或量值縮放。藉由實施此等雷達擴增技術,運算裝置102可將準確地辨識手勢所需之手勢訓練之量減少至一所要置信度位準。例如,運算裝置102可能需要僅收集執行一滑移手勢之一使用者104之三個雷達信號特性,而非十個,以準確地辨識一命令。因此,一使用者104可快速地享受使用運算裝置102,而不必經歷耗時的手勢訓練。
對於複距離都卜勒圖820,絕對相位可受一距離筐解析度下之表面位置、相位雜訊、取樣時序之誤差等影響。此外,複距離都卜勒圖820之量值可受一天線214之性質、運算裝置102之間的連續性(當利用一運算系統時)、來自散射表面之信號反射率、散射表面之定向等影響。對於一大資料集,此等絕對相位及量值可均勻地分佈。然而,對於一小資料集(例如,對應於開始手勢訓練之一新使用者),此等絕對相位及量值可能有偏差,從而降低手勢偵測及/或辨識之準確度。
為在不需要使用者104經歷耗時的手勢訓練的情況下解決此等問題,運算裝置102可基於以下關係利用雷達擴增技術來擴增複距離都卜勒圖820 M之相位及/或量值:
其中
係一經擴增複距離都卜勒圖,
係一距離筐索引,
係一都卜勒筐索引,
係一通道索引(參考圖8),
係自具有1之一平均值之一常態分佈選取之一隨機或預定縮放因數,且
係自
與
之間的一均勻分佈選取之一隨機或預定旋轉相位。自此方程式,可用各種相位值及/或縮放因數來旋轉複值以增加可用於辨識手勢之經儲存雷達信號特性之數量。在實體方面,相位值可表示一手勢自運算裝置102之一角位移。特定言之,此等相位值可表示使用者之手(假定手勢係用使用者之手執行)之一散射中心相對於運算裝置102之一天線214之一正面或零度定向之一角定向。相關地,量值可表示手勢自運算裝置102之一線性位移。若使用者104在裝置附近(例如,一英尺遠)執行手勢,則量值可具有比在使用者104遠離(例如,四公尺遠)裝置執行手勢的情況下更大之值。用於擴增之隨機或預定旋轉相位及縮放因數可分別相異於一經偵測及/或經儲存雷達信號特性之旋轉相位及縮放因數。以此方式,經擴增資料可補充(而非複製)儲存於運算裝置102上之雷達信號特性。
在一實例中,一第一使用者104-1 (例如,一未註冊人員)在一第一時間內與運算裝置102互動且開始對一滑移手勢進行手勢訓練。運算裝置102指示使用者104用其等之手執行滑移手勢。雷達系統108發射從使用者之手之一散射表面反射之一第一雷達發射信號402-1,從而產生一第一雷達接收信號404-1。一第一天線214-1接收此信號且在由手勢模組224之信號處理模組804接收該信號之前將其發送至類比電路216。第一雷達接收信號404-1之一第一複距離都卜勒圖820-1或M
1經擴增以包含兩個額外相位值及兩個額外量值,從而導致四個經擴增複距離都卜勒圖(A
1、A
2、A
3、A
4)。空間-時間機器學習模型820可利用此五個圖M
1、A
1、A
2、A
3及A
4來改良手勢(及背景運動)之偵測及辨識。
圖11繪示指示在利用雷達擴增技術時在手勢辨識方面之一經改良效能之實驗結果1100。在此實驗中,手勢模組224在一Keras層內擴增複距離都卜勒圖820。一經擴增資料集1102包含經偵測、經儲存及經擴增之雷達信號特性,而一原始資料集1104包含經偵測及經儲存雷達信號特性。實驗結果1100之x軸表示隨時間針對一手勢訓練集執行之手勢之一數目。對於此實驗,每小時之誤判數目等於2.0。該等結果指示,與原始資料集1104相比,經擴增資料集1102使運算裝置102能夠在訓練期間的更早時間更頻繁地辨識已知手勢。此意謂,當利用雷達擴增技術來準確地辨識已知手勢時,本發明之運算裝置102可能夠準確地辨識已知手勢同時需要與使用者104之更少互動。
此等雷達擴增技術可經修改以用於及/或應用於使用者104之偵測及區別且並不限於手勢偵測及辨識之技術。特定言之,運算裝置102可擴增用於區分一使用者104且改良使用者存在之偵測之一組一或多個雷達信號特性。在一實例中,在距運算裝置102兩公尺(2 m)之一距離處且以相對於裝置之正面(0度定向)成90度之一角度偵測一第一使用者104-1 (例如,一新的未註冊人員)。在使用者之位置處,運算裝置102偵測第一使用者104-1之一個雷達信號特性,該雷達信號特性可用於區分第一使用者104-1與另一使用者。然而,在雷達系統108可判定一第二雷達信號特性之前,第一使用者104-1離開運算裝置102之鄰近區106。對於一些裝置,一個雷達信號特性可能不足以在一未來時間在一高置信度位準區分第一使用者104-1之存在。然而,本發明之運算裝置102可擴增此第一雷達信號特性以在未來時間實現第一使用者104-1之一準確區別。特定言之,擴增可包含對應於0.5 m、1 m及4 m之線性位移之0度、180度及270度之旋轉相位角
以及量值
。
此等經擴增複距離都卜勒圖(對應於經擴增雷達信號特性)可連同第一雷達信號特性一起儲存以在未來時間實現第一使用者104-1之區別。當第一使用者104-1在未來時間重新進入鄰近區106時,使用者模組222可使用十個經儲存雷達信號特性(九個經擴增雷達信號特性及一個經偵測雷達信號特性)而非僅一個雷達信號特性來區分此使用者。運算裝置102可另外使用關於圖3所描述之通訊網路302而在一運算系統之裝置之間交換經擴增雷達信號特性。以此方式,一組運算裝置102-X (形成一運算系統)可藉由共用經擴增資料來改良手勢之辨識。
使用空間 - 時間機器學習模型之實驗資料
圖12繪示一使用者104針對運算裝置102執行一輕觸手勢之實驗資料1200。輕觸手勢可涉及使用者104將其等之手推向裝置且接著將其等之手拉回至其初始起始位置。對於此實驗,使用者104在距運算裝置102 1.5 m之一距離及零度之一角位移處執行輕觸手勢。實驗資料1200包含複距離都卜勒圖820之實值及虛值。一第一列1202-1、第三列1202-3及第五列1202-5各包含如分別藉由一第一、第二及第三接收通道(例如,圖5中之接收通道508)收集之30個訊框(對應於30個複距離都卜勒圖820)之實值。一第二列1202-2、第四列1202-4及第六列1202-6各包含如分別藉由一第一、第二及第三接收通道收集之30個訊框(對應於30個複距離都卜勒圖820)之虛值。各訊框經展示具有對應於一手勢之一距離變率之一水平軸(x軸),其中在中心具有一零距離變率,在左側具有負距離變率且在右側具有正距離變率。各訊框亦經展示具有對應於一手勢之一位移之一垂直軸(y軸),其中在底部處具有一零位移(例如,天線214之位置)且在頂部處具有2 m之一範圍。此等位移及距離變率係相對於運算裝置102之一接收天線之一位置獲取。對於各列1202,30個訊框隨著時間自左至右增加而循序地配置。
自實驗資料1200,在每個訊框中偵測到使用者104站在1.5 m處,如由在各訊框之頂部處始終可見之一第一圓形特徵證實。當使用者104執行輕觸手勢時,在訊框13至19中可見其等之手運動1204。在使用者104開始將其等之手移動朝向裝置(在訊框13處)時,一第二圓形特徵開始出現。此第二圓形特徵繼續移動朝向訊框14及15之底部(在使用者104將其等之手推向裝置時),直至使用者104已在訊框16處完全伸展其等之手臂。在訊框17處,使用者104開始將其等之手拉向其等之身體且遠離運算裝置102。截至訊框20,輕觸手勢已完成。手勢模組224可自此資料判定使用者104已執行輕觸手勢且接著判定待由運算裝置102執行之一對應命令。
當儲存與執行輕觸手勢之使用者104相關聯之一或多個雷達信號特性時,手勢模組224可包含(例如)在實驗資料1200中展示之訊框之任一或多者。在一第一實例中,裝置可選擇列1202-1之訊框13至19 (在1204識別)以儲存以供未來參考。在一第二實例中,裝置可儲存列1202-1之訊框1至30作為輕觸手勢之一雷達信號特性。在一第三實例中,裝置可儲存列1202-1至1202-6之各者之所有30個訊框作為輕觸手勢之雷達信號特性。關於圖13描述關於輕觸手勢之額外實驗資料。
圖13繪示一使用者104針對運算裝置102執行一輕觸、向右滑移、強向左滑移及弱向左滑移之實驗資料1300。圖13中展示之資料類似於圖12之實驗資料1200配置,除了以下方式之外。列1302-1、1302-3、1302-5及1302-7分別對應於輕觸手勢、向右滑移、強向左滑移及弱向左滑移之絕對距離都卜勒圖。可藉由獲取一對應複距離都卜勒圖820之平均量值來產生各絕對距離都卜勒圖。列1302-2、1302-4、1302-6及1302-8分別對應於輕觸手勢、向右滑移、強向左滑移及弱向左滑移之干涉量測距離都卜勒圖。可藉由運算與兩個或更多個接收通道508相關聯之複距離都卜勒圖820之間的相位差來產生各干涉量測距離都卜勒圖。
在此實驗資料1300中,在訊框13至19處可見到具有一清晰的第二圓形特徵之列1302-5及1302-6之強向左滑移。然而,列1302-7及1302-8之弱向左滑移缺少一清晰的第二圓形特徵,此可使此手勢之分類具有挑戰性。在一些情況下,手勢模組224可利用空間-時間機器學習模型802、情境資訊、在線學習技術等來改良對此手勢之辨識。在其他情況下,此弱向左滑移可被分類為「負資料」或一「錯誤手勢」,其不能在一所要置信度位準映射至一手勢類別(例如,一滑移、輕觸)。代替忽略負資料,手勢模組224可儲存此資訊(例如,作為一背景運動)以改良一未來時間之手勢辨識。
負資料收集
本發明之運算裝置102可儲存一或多個雷達信號特性以實現手勢及/或使用者之偵測、區別及/或辨識。此等經儲存雷達信號特性並不限於「正資料」且亦可包含「負資料」。正資料可包含用於在一所要置信度位準辨識一手勢(例如,具有一相關聯命令之一已知手勢)及/或區分一使用者之雷達信號特性。正資料之實例可包含與一手勢類別(例如,輕觸、滑移、輕擊、指向)或基於(例如)雷達橫截面(RCS)資料之一特定使用者相關之雷達信號特性。另一方面,負資料可包含在所要置信度位準與一手勢或使用者104之一或多個經儲存雷達信號特性不相關之雷達信號特性。負資料之實例可包含人員行走、扭轉其等之軀幹、拾起一物體等之運動。負資料亦可包含動物(例如,家貓)、清潔裝置(例如,自動化真空吸塵器)等之運動。手勢模組224可將此負資料分類在不與已知手勢(例如,運算裝置102經程式化或教示以辨識之手勢命令)相關聯之雷達信號特性之一背景類別內。
在一實例中,在運算裝置102之鄰近區106中偵測一運動,且雷達系統108偵測該運動之一第一雷達信號特性。若該第一雷達信號特性與一輕觸手勢之一或多個經儲存雷達信號特性相關(在一所要置信度位準),則手勢模組224可儲存此第一雷達信號特性作為正資料以改良在一未來時間對輕觸手勢之辨識。若第一雷達信號特性與一已知手勢之一或多個經儲存雷達信號特性不相關,則手勢模組224可判定運動與一命令不相關。代替摒棄此資料,手勢模組224可儲存第一雷達信號特性作為負資料以改良來自背景運動(例如,可由一使用者104或物體進行之不旨在為手勢命令所做出之移動)之手勢之偵測或辨識。可使用類似技術來改良使用者存在之偵測及一個使用者與另一使用者之區別。
圖14繪示可經儲存以改良來自背景運動之手勢之偵測之三個負資料集之實驗資料1400。負資料類似於圖13之實驗資料1300配置,除了以下方式之外。列1402-1、1402-3及1402-5分別對應於一使用者在運算裝置102附近說話時移動其等之手、一使用者104在裝置前面扭轉其等之軀幹及一使用者104在裝置附近拾起及放下一物體之絕對距離都卜勒圖。列1402-2、1402-4及1402-6分別對應於與列1402-1、1402-3及1402-5相關聯之干涉量測距離都卜勒圖。
圖15繪示在存在背景運動的情況下關於手勢偵測及辨識之準確度之實驗結果1500。在此實驗中,在運算裝置102之鄰近區106內發生背景運動(使用者104之自然運動或來自其他物體之運動)時,一使用者104隨時間執行一滑移手勢1502及一輕觸手勢1504。使用正資料及負資料兩者,手勢模組224準確地偵測到一手勢係一手勢(即使未始終辨識哪一已知手勢),在此情況下,亦以近似0.88之一偵測及辨識率辨識滑移手勢1502及輕觸手勢1504,而每小時的誤判係在近似0.10之一比率下進行。誤判表示其中手勢模組224將一背景運動不正確地判定為一手勢,此處亦將背景運動辨識為一滑移或輕觸手勢之例項。每小時之誤判可受如先前關於圖8所描述之手勢去除抖動器810之上及/或下臨限值影響。
為計算偵測及辨識率,一般而言,手勢模組224將運動事件標記為「正確」或「錯誤」。當手勢模組224僅輸出與使用者104意欲執行之一命令(例如,一偵測及一辨識兩者)相關聯之一個準確手勢判定時,發生一正確手勢偵測及辨識。當手勢模組224未偵測到一手勢(即使一手勢係由使用者104執行),偵測到一手勢但判定一不準確手勢(與使用者104之預期命令不相關之一個手勢),或偵測且判定用於一單個手勢執行之多個手勢時,發生一不正確手勢偵測。偵測及辨識率係藉由將正確事件之數目除以事件之總數(正確事件與錯誤事件之一總和)來判定。
圖16繪示在另外使用對抗負資料時關於手勢之偵測及辨識率之實驗結果1600。在此實驗中,一使用者104執行手勢及類似於(但不相同於)該等手勢之對抗運動。此等對抗運動包含使用者104在運算裝置102附近拾起及放回物體、與裝置之觸控螢幕互動、開啟及關閉開關以及在裝置附近說話時移動其等之手之運動。在鄰近區106中執行對抗運動時,實驗結果1600相對於不使用對抗負資料之結果1602指示,手勢模組224在以較低誤判及穩健結果(以穩健結果1604展示)準確地辨識以較高等級展示之手勢方面之穩健效能。
未分段手勢偵測及辨識
雖然本發明之運算裝置102可提供手勢訓練(例如,手勢執行之分段式學習),但該裝置亦可使用未分段學習技術來隨時間改良手勢之偵測。對於分段式學習,手勢模組224可提示使用者104在一時間段內執行(例如)一輕觸手勢。運算裝置102可能夠基於使用者104將要在經指定時間段內執行輕觸手勢(而非另一手勢)之「先驗知識」來偵測此輕觸手勢。相比而言,未分段學習不以此方式利用先驗知識。對於未分段學習,手勢模組224不一定知道使用者104是否及何時可針對運算裝置102執行任一或多個手勢。此外,未分段學習可容許運算裝置102隨時間連續偵測手勢,而無需使用者104在執行一手勢之前提示裝置(例如,提供一喚醒觸發器)。因此,手勢執行之未分段辨識可比分段式辨識更難。
為改良手勢之未分段辨識之準確度,手勢模組224可利用一或多個手勢去除抖動器810且視需要調整上臨限值及下臨限值以改良效能。此外,手勢模組224可藉由在一組兩個或更多個訊框內沿著一速率軸(x軸)偵測資料之一或多個零交叉(例如,參考實驗資料1200之圓形特徵)來暫時識別手勢。例如,圖12中執行之手運動1204 (一輕觸運動)產生一第二圓形特徵,該第二圓形特徵在訊框13至15處移動朝向左側(一負速率),在訊框16處返回至中心(零速率)且在訊框17至19處移動朝向右側(一正速率)。此運動之零交叉在訊框16處發生,且手勢模組224可將此訊框識別為運動之中心。運算裝置102可另外選擇訊框16周圍之一或多個資料訊框(例如,訊框1至15及訊框17至30)以形成用於將此運動與輕觸手勢相關之一資料集。
圖17繪示與未分段手勢偵測之準確度有關之實驗結果1700 (一混淆矩陣)。在此實驗中,一使用者104隨時間執行6個手勢,該6個手勢包含一背景運動1702 (例如,使用者104或物體之不與手勢命令相關聯之移動)、向左滑移1704、向右滑移1706、向上滑移1708、向下滑移1710及輕觸1712。此混淆矩陣之x軸(經執行手勢1714)表示使用者104之預期手勢命令,且y軸(經辨識手勢1716)表示藉由手勢模組224對手勢執行進行之分類。實驗結果1700包含根據一時間段內之分類率量化(正規化為1)之36個可能結果。該等結果指示手勢模組224能夠以0.831至0.994之一準確度判定各經執行手勢1714。在此實驗中,手勢去除抖動器810利用0.9之一上臨限值。
圖18繪示對應於在自運算裝置102之各種線性及角位移處之未分段手勢辨識之準確度的實驗結果1800。此等結果利用類似於圖17之實驗結構1700之一資料集且包含在時間段內之手勢之經正規化偵測率之另一混淆矩陣。該矩陣包含關於在自運算裝置102之各種角位移(在自-45度至+45度之範圍內)及線性位移(在自0.3 m至1.5 m之範圍內)之未分段手勢辨識之準確度的29個結果。圖17及圖18中表示之資料表示數百個運動,包含由一使用者104執行之手勢及背景運動。
用以改良使用者區別之保真度之額外感測器
圖19繪示使用一額外感測器(例如,一麥克風1902)來改良使用者區別及/或手勢辨識以及使用者參與之保真度之一運算裝置102之一實例性實施方案1900。在一些情境下,與一附近物體(例如,一經註冊使用者或未註冊人員)或運動(例如,手勢執行、背景運動)相關聯之雷達信號特性可能不提供足以在一所要置信度位準區分一使用者104及/或辨識一手勢之資訊。如實例性實施方案1900中所描繪,使用者模組222可能無法僅基於雷達信號特性以置信度判定一第一使用者104-1係一經註冊使用者(例如,父親)。在此情境下,運算裝置102可自舉啟動音訊信號1904 (例如,由第一使用者104-1產生之聲波)以使雷達系統108能夠判定父親存在。
如實例性實施方案1900中所描繪,使用者模組222可透過麥克風1902接收音訊信號1904且分析此等聲波之特性(例如,波長、振幅、時間段、頻率、速率、速度)以判定哪一使用者存在於鄰近區106中。此分析可在經觸發時自動地執行或與雷達信號特性之分析同時執行或在雷達信號特性之分析之後執行。音訊信號1904可在由使用者模組222接收之前藉由額外電路系統及/或組件來修改。
在存取或不存取私有資訊(例如,對話內容)的情況下,使用者模組222可分析音訊1904以區分使用者。例如,雷達系統108可在識別或不識別所說之字詞(例如,執行語音至文字)的情況下特性化音訊信號1904,以區分第一使用者104-1之存在,因為諸如一低音調或快節奏語音之特性可用於區分一特定使用者。雷達系統108可根據音調、響度、聲調、音色、節奏、和諧、不和諧、型樣等來特性化音訊信號1904。因此,取決於使用者之設定及偏好,使用者104可在運算裝置102附近舒適地論述私有資訊,而不必擔心該裝置是否在識別所說之字詞、句子、想法等。
運算裝置102可儲存一或多個使用者104之音訊偵測之特徵(例如,在一共用記憶體上)以實現一使用者之存在之區別。當一經註冊使用者(例如,父親)進入雷達系統108之鄰近區106時,使用者模組222接著可部分利用父親之經儲存之音訊偵測之特性來區分他與裝置之其他使用者。當一未註冊人員進入鄰近區106時,使用者模組222接著可部分利用經註冊使用者之經儲存之音訊偵測之特性來判定此係(例如)尚未向運算裝置102提供音訊信號1904之一未註冊人員。雷達系統108接著可針對此未註冊人員產生一未註冊使用者識別,該未註冊使用者識別包含與由未註冊人員產生之一或多個音訊信號1904相關聯之音訊偵測之特性。因此,雷達系統108可能夠在一稍後時間使用儲存於其等之未註冊使用者識別中之音訊偵測之特性來區分此未註冊人員。
雖然實例性實施方案1900之額外感測器經描繪為麥克風1902,但一般而言,可使用本文中描述之各種感測器來執行關於圖19描述之技術。應瞭解,對於其中隱私並非一功能問題或以其他方式提供方法以避免隱私問題之境況或環境,實例性實施方案1900之額外感測器為一照相機或視訊攝影機,此不在本教示之範疇之外。此外,額外感測器可用於改良手勢偵測及辨識。例如,運算裝置102可另外利用與一周圍光感測器相關聯之資料來偵測及辨識由第一使用者104-1執行之手勢。例如,若第一使用者104-1執行僅使用雷達信號特性不能在一所要置信度位準被辨識之一模糊手勢,則此動作可為特別有用的。在另一實例中,運算裝置102可另外利用來自一超音波感測器之資料來改良由第一使用者104-1執行之一模糊手勢之辨識。因此,藉由非雷達感測器感測之補充資料可用於幫助手勢辨識以及其他判定,諸如使用者存在、使用者區別及使用者參與。
一般而言,一額外感測器輸入(例如,來自一麥克風1902之音訊信號1904)係選用的,且一使用者104可被提供隱私控制以限制此等額外感測器之使用。例如,使用者104可修改其等之個人設定、一般設定、預設設定等以包含及/或排除一額外感測器(例如,除了用於雷達之天線214之外)。此外,使用者模組222可在區分一使用者之存在時實施此等個人設定。關於圖20進一步描述隱私控制。
自適應隱私及其他設定
圖20繪示其中基於使用者存在來修改隱私設定之實例性環境2000-1及2000-2。在實例性環境2000-1中,運算裝置102之使用者模組222偵測到一第一使用者104-1存在於鄰近區106內。雷達系統108可回應於偵測到一使用者或人員之存在而實施第一使用者104-1之一第一隱私設定2002。此第一隱私設定2002可包含關於(例如)所容許之感測器(參考圖19)、音訊提醒、行事曆資訊、音樂、媒體、家用物體之設定(例如,光偏好)等之使用者偏好。例如,當已實施第一隱私設定2002時,第一使用者104-1可接收日曆事件之音訊提醒。
在實例性環境2000-2中,除了第一使用者104-1之持續存在之外,運算裝置102亦可稍後偵測一第二使用者104-2 (例如,另一經註冊使用者)之存在。雷達系統108基於第二使用者之存在實施一第二隱私設定2004以調適第一使用者104-1之隱私。實施方案可為自動的或基於來自第一使用者104-1之一命令觸發。例如,第二隱私設定2004可限制音訊提醒以防止在存在其他人的情況下宣告私有資訊。第二隱私設定2004可基於(例如)預設條件、使用者輸入等。
第二隱私設定2004亦可經實施以保護第一使用者之資訊之隱私且基於房間中之使用者來調適。例如,另一經註冊使用者(例如,一家庭成員)之存在可能比一未註冊人員(例如,一客人)之存在需要更少隱私限制。亦可為各使用者104定製自適應隱私設定。例如,第一使用者104-1可具有更具限制性的隱私設定(例如,在存在其他人的情況下限制音訊提醒),而第二使用者104-2可具有較少限制性的隱私設定(例如,在存在其他人的情況下不限制音訊提醒)。
除了自適應隱私之外,技術亦可以一類似方式採用其他設定。如以上自適應隱私,此等自適應設定可取決於其他使用者之存在,諸如接近於正在或已與運算裝置102互動之一使用者(例如,第一使用者104-1)之彼等使用者(例如,第二使用者104-2)。自適應設定可應用於進展中之操作,諸如在其中第一使用者104-1命令在一立體聲上播放音樂之一情況下。若區分第二使用者104-2,或若第二使用者104-2與第一使用者104-1說話(或反之亦然),則技術可在無明確使用者互動的情況下由第一使用者104-1調低音樂(例如,調低音樂之一手勢)。自適應設定亦可應用於進展中之操作。在一實例中,一第一使用者104-1 (例如,一父親)可起動一烤箱且將一計時器設定為20分鐘。若一第二使用者104-2 (例如,一兒童)試圖在該計時器期滿之前關閉烤箱或計時器,則本發明之技術可防止兒童如此做。此調適容許父親在彼等20分鐘期間控制烤箱及計時器之操作以防止對其等烘焙之破壞。特定言之,運算裝置102可將進展中之操作與執行一命令以防止另一使用者修改該操作之一使用者104相關聯。在另一實例中,一母親可執行在晚上9:00關閉臥室燈之一命令以確保她的孩子按時睡覺。若一兒童執行在其等就寢時間之後保持燈亮之一命令,則運算裝置102可防止該兒童修改母親之命令。
一運算系統之實例性實施方案
圖21繪示其中可使用形成一運算系統之多個運算裝置102-1及102-2來實施使用者區別之技術(例如,關於圖1及圖20所描述)之一實例性環境2100。在實例性環境2100中,一實例性住宅經描繪具有一第一房間304-1及一第二房間304-2。配備有一第一雷達系統108-1之一第一運算裝置102-1定位於第一房間304-1中,而配備有一第二雷達系統108-2之一第二運算裝置102-2定位於第二房間304-2中。第一及第二運算裝置102-1及102-2能夠藉助於一通訊網路302交換資訊(例如,儲存至一本端或共用記憶體)且部分形成一運算系統。出於此闡釋性實例之目的,一第一鄰近區106-1不與一第二鄰近區106-2重疊。
實例性環境2100之第一運算裝置102-1可使用第一雷達系統108-1來發送一第一雷達發射信號402-1 (參見上文圖4)以偵測一或多個使用者之存在。第一雷達發射信號402-1可從一物體(例如,一第一使用者104-1)反射且在第一運算裝置102-1處被接收之前在振幅、相位或頻率上經修改。第一雷達系統108-1可比較此第一雷達接收信號404-1 (參見上文圖4) (含有至少一個雷達信號特性)與經註冊使用者之一或多個經儲存雷達信號特性以判定第一使用者104-1是否係一經註冊使用者或一未註冊人員。在此實例中,第一雷達接收信號404-1與一經註冊使用者之一或多個經儲存雷達信號特性不相關。因此,在2102將第一使用者104-1區分為一未註冊人員。
在2102判定第一使用者104-1係一未註冊人員之後,第一運算裝置102-1產生一未註冊使用者識別(例如,假識別碼、偽識別碼)並將其指派給該未註冊人員,如在2104所繪示。未註冊使用者識別可包含與第一雷達接收信號404-1相關聯之一或多個雷達信號特性,該一或多個雷達信號特性可用於在一未來時間區分未註冊人員與其他使用者(例如,一第二使用者104-2)。未註冊使用者識別可儲存於一本端或共用記憶體上,且運算系統之各運算裝置(例如,第二運算裝置102-2)可存取未註冊使用者識別,即使該裝置未直接偵測到未註冊人員。例如,第二運算裝置102-2可存取與未註冊使用者識別相關聯之經儲存之第一雷達信號特性,即使第二運算裝置102-2從未偵測到未註冊人員。
在未來時間,第一使用者104-1行走至第二房間304-2中且在2106藉由第二運算裝置102-2偵測。特定言之,第二運算裝置102-2之第二雷達系統108-2發送一第二雷達發射信號402-2以偵測一或多個使用者之存在。第二雷達發射信號402-2從一物體(例如,第一使用者104-1)反射且在第二運算裝置102-2處被接收之前在振幅、相位或頻率上經修改。第二雷達系統108-2比較此第二雷達接收信號404-2 (含有至少一個雷達信號特性)與經註冊使用者之一或多個經儲存雷達信號特性及指派給未註冊人員之未註冊使用者識別以判定物體是否係一經註冊使用者或未註冊人員。在此實例中,第二雷達接收信號404-2之至少一個雷達信號特性與未註冊人員之一或多個經儲存雷達信號特性相關。因此,基於未註冊使用者識別將第一使用者104-1再次區分(在2106)為未註冊人員。可儲存第二雷達信號特性且將其與未註冊使用者識別相關聯。
雖然在圖21中未描繪,但相同技術可應用於區分一經註冊使用者。例如,第一運算裝置102-1可發射一第三雷達發射信號402-3以區分一或多個額外使用者。第三雷達發射信號402-3可從另一物體(例如,相異於先前偵測之未註冊人員之第二使用者104-2)反射且在第一運算裝置102-1處被接收之前經修改。第一雷達系統108-1可比較此第三雷達接收信號404-3 (含有至少一個雷達信號特性)與經註冊使用者之一或多個經儲存雷達信號特性及未註冊使用者識別。在此實例中,第三雷達接收信號404-3之至少一個雷達信號特性係與一經註冊使用者之一或多個經儲存雷達信號特性相關。因此,可將第二使用者104-2區分為一經註冊使用者。可儲存第三雷達信號特性以改良在一稍後時間經註冊使用者之區別。第一雷達系統108-1可另外存取經註冊使用者之經儲存設定、偏好、訓練歷史、習慣等以提供一經定製體驗。
在此實例中,第二使用者104-2 (經註冊使用者)可稍後移動至第二房間304-2且進入第二鄰近區106-2。第二運算裝置102-2之第二雷達系統108-2可發射一第四雷達發射信號402-4以區分經註冊使用者。第四雷達發射信號402-4從經註冊使用者反射且在第二運算裝置102-2處被接收之前經修改。第二雷達系統108-2比較此第四雷達接收信號404-4 (含有至少一個雷達信號特性)與經註冊使用者之一或多個經儲存雷達信號特性以區分經註冊使用者。在此實例中,第二運算裝置102-2自第一運算裝置102-1之一本端記憶體及/或一共用記憶體存取一或多個經儲存特性。此處,至少一個雷達信號特性與經註冊使用者之一或多個經儲存雷達信號特性相關,且第二雷達系統108-2判定在第二運算裝置102-2之第二鄰近區106-2內存在經註冊使用者。關於圖22進一步描述作為一運算系統之部分之運算裝置102之應用。
跨一運算系統之操作之連續性
圖22繪示其中跨一運算系統之多個運算裝置102-1及102-2連續地執行一操作之一實例性環境2200。一第一運算裝置102-1經描繪為定位於一臥室2202中,臥室2202與一第二運算裝置102-2所處之一辦公室2204分離。第一運算裝置102-1及第二運算裝置102-2係兩個或更多個裝置(例如,關於圖3及圖21描述之裝置)之一運算系統之部分。
在一第一時間,在一實例性環境2200-1中,一使用者104執行一滑移手勢以命令第一運算裝置102-1大聲讀出最新新聞標題。使用者104可在臥室2202中時收聽新聞,且一第一雷達系統108-1可指示第一運算裝置102-1在偵測到使用者104之存在時繼續播放新聞。
在一第二時間,在一實例性環境2200-2中,使用者104自臥室2202移動至辦公室2204且新聞在第二運算裝置102-2上繼續播放。特定言之,第一雷達系統108-1可偵測到在臥室2202之一第一鄰近區106-1內缺少使用者之存在且暫停新聞。一旦使用者104移動至辦公室2204中,第二運算裝置102-2便可偵測及區分此使用者在(例如)一第二鄰近區106-2內之存在。接著,一第二雷達系統108-2可自動地(例如,無使用者輸入)繼續播放先前由第一雷達系統108-1暫停之新聞。以此方式,使用者104可享受跨一住宅之多個房間自動化之一無縫體驗。
進展中之操作可跟隨執行手勢之使用者104。例如,若實例性環境2200-1之使用者104離開臥室2202,則第一運算裝置102-1可偵測到此使用者104 (例如,而非另一使用者)之不存在且暫停新聞。當辦公室2204中之第二運算裝置102-2稍後偵測及區分使用者104時,接著可繼續大聲閱讀新聞。除了實例性環境2200-1之使用者104之外,在臥室2202中仍可存在已由第一運算裝置102-1偵測到之一或多個其他使用者。第一雷達系統108-1可判定此等其他使用者並非執行手勢命令之使用者104,從而推導新聞應跟隨執行手勢之使用者104。替代性地,當存在其他使用者時,除了在臥室2202中播放之外,新聞亦可跟隨執行手勢之使用者104。
各雷達系統108-1及108-2可基於使用者104之位置調整進展中之操作。例如,若使用者104靠近第一運算裝置102-1躺下(如在實例性環境2200-1中描繪),則第一雷達系統108-1可偵測此較短距離且降低一揚聲器音量。替代性地,若使用者104移動至臥室2202之一遠側(例如,更遠離第一運算裝置102-1),則第一雷達系統108-1可偵測此較大距離且增加揚聲器音量。
在另一實例(圖22中未描繪)中,一使用者104執行與用以(1)開始大聲播放新聞標題及(2)停止播放新聞標題之一兩部分命令相關聯之手勢。在配備有一第一運算裝置102-1之一第一房間中,使用者104執行與該命令之一第一部分(開始播放新聞)相關聯之一第一手勢。使用者104接著移動至配備有一第二運算裝置102-2之一第二房間且繼續在此房間中收聽新聞(跟隨圖22之論述)。在一稍後時間,使用者104執行與命令之一第二部分(結束播放新聞)相關聯之一第二手勢。在此實例中,第一及第二運算裝置102-1及102-2利用一通訊網路302來跨一住宅之多個房間協調一兩部分命令。相同技術亦可應用於藉由第一或第二運算裝置102-1或102-2之一麥克風感測之一音訊輸入之一第一及/或第二部分。
在一額外實例(圖22中未描繪)中,一使用者104可執行與藉由第一及第二運算裝置102-1及102-2兩者偵測之一單個命令相關聯之一手勢(參考關於圖4之論述)。在此實例中,使用者可在兩個房間之間移動時提供一詳細命令。使用者104開始在第一房間(配備有第一運算裝置102-1)中闡釋其等單個命令(為與其等之醫生之一預約進行排程),且第一雷達系統108-1辨識命令之一第一部分。然而,使用者104移動至第二房間(以獲得其等之醫療記錄)且藉由向第二運算裝置102-2提供命令之一第二部分來繼續為其等預約進行排程。在此實例中,第一及第二運算裝置102-1及102-2再次利用通訊網路302來跨一住宅之多個房間協調一單個命令。相同技術亦可應用於藉由第一或第二運算裝置102-1或102-2之一麥克風感測之一音訊輸入之一第一及/或第二部分。
在一額外實例(圖22中未描繪)中,一使用者104可執行可藉由第一及第二運算裝置102-1及102-2兩者連續偵測到之一可暫停(能夠暫停且接著繼續)持續雷達偵測手勢,以獲得在房間之間繼續一間歇性可持續活動之一有利效應。一可暫停持續手勢之一實例可為一語音清單手勢,其中使用者可開始在穿過自身及裝置之一大致垂直平面內以一滾動圓周運動移動其等之手(在下文中為「滾動其等之手」–直觀地,吾人可設想由一電影導演對一攝影師做出之一「保持電影滾動」手勢之一類比)。在一個實例中,在第一房間(配備有具有第一雷達系統108-1之第一運算裝置102-1)中,使用者開始滾動其等之手,且在連續滾動其等之手時,說:「此係我的購物清單:牛奶、蛋、黃油…」且裝置102-1將使用第一雷達系統108-1來辨識該手勢,且只要使用者保持滾動其等之手,便引起彼等被指名之物品與該使用者之購物清單相關聯。若使用者停止滾動其等之手,則即使使用者繼續說話,清單製作亦被暫停。(例如,若使用者被打斷且需要關於與其等之購物清單無關之一主題與另一人員交談,則可發生此暫停)。若使用者接著繼續滾動其等之手,則繼續清單製作且其等所說的事物將繼續被添加至購物清單。(使用者可藉由一「推拉」手勢及/或一合適語音命令隨時終止清單製作)。在其等在第一房間中之(未終止)清單製作程序期間,若使用者停止滾動其等之手且接著行走至第二房間中,則使用者可在第二房間中繼續滾動其等之手且繼續說出其等購物清單物品,具有第二雷達系統108-2之第二裝置102-2將辨識該手勢,只要使用者保持滾動其等之手,便將繼續向購物清單添加所說的物品,等等。
關於圖22所描述之技術並不限於進展中之操作且可應用於隨時間週期性地執行之操作,如關於圖23進一步描述。
圖23繪示其中一運算系統實現跨多個運算裝置102-1及102-2之操作之一連續性之一實例性環境2300。在一實例性環境2300-1中,藉由定位於一廚房2302中之一運算系統之一第一運算裝置102-1偵測一使用者104。一第一雷達系統108-1判定使用者104係一未註冊人員且為其等指派一未註冊使用者識別,從而區分使用者104與其他使用者。在此實例中,第一運算裝置102-1提示未註冊人員開始對一第一手勢進行手勢訓練。在訓練期間,儲存與未註冊人員執行該第一手勢之一方式相關聯之雷達信號特性並將其與未註冊使用者識別相關聯。此未註冊使用者識別可儲存於一記憶體上及/或藉由運算系統之任一或多個裝置(例如,一第二運算裝置102-2)存取。
在一稍後時間,在一實例性環境2300-2中所描繪,在一餐廳2304中藉由作為運算系統之部分之第二運算裝置102-2偵測使用者之存在。一第二雷達系統108-2基於雷達信號特性將使用者104區分為未註冊人員且使用未註冊使用者識別存取此使用者之訓練歷史。第二運算裝置102-2接著可提示使用者104繼續對一第二手勢進行訓練。特定言之,第二雷達系統108-2可判定其等已完成對第一手勢之訓練。此序列可隨時間使用運算系統之各種運算裝置102繼續(儘管圖23中未描繪),直至未註冊人員已完成其等之手勢訓練。
然而,一使用者104可基於該使用者在一房間中之行為或身體位置而針對運算系統之一些運算裝置102不同地執行手勢。當一使用者104以不同於(例如)在訓練期間教示手勢之一方式之一方式執行一手勢時,一運算裝置102可判定已執行一模糊手勢。此模糊手勢可類似於可藉由裝置辨識但可能缺少與一單個已知手勢之足夠類似性以容許一高置信度辨識之一或多個手勢。因此,各運算裝置102可利用情境資訊來改良對模糊手勢之解譯,如關於圖24進一步描述。
模糊手勢解 譯 之實例
圖24繪示使用情境資訊之基於雷達之模糊手勢判定之技術。一實例性環境2400描繪一使用者104執行藉由一運算裝置102之一雷達系統108偵測之一模糊手勢2402。此處假定使用者104意欲執行可藉由裝置辨識且與調低自運算裝置102播放之音樂之音量之一第一命令相關聯之一第一手勢2404。然而,使用者104意外地執行類似於第一手勢2404及一第二手勢2406 (與開啟一車庫門之一第二命令相關聯)兩者但不能在一所要置信度位準被辨識之一模糊手勢2402。因此,雷達系統108不能判定模糊手勢2402係第一手勢2404而非第二手勢2406。
特定言之,模糊手勢2402可與第一及第二手勢2404及2406相關達大於一無置信度位準但小於一高置信度位準之一量。例如,與各手勢之相關性可具有40%之一置信度(例如,模糊手勢2402 40%可能為第一手勢2404且40%可能為第二手勢2406)。若無置信度位準經設定為10%且高置信度位準經設定為80%,則模糊手勢2402與第一或第二手勢2404或2406之相關性高於無置信度位準且低於高置信度位準。一般而言,可修改或調適無置信度及高置信度位準以改良手勢偵測之品質。在本發明中,一「所要置信度位準」將統稱為對於各使用案例(例如,各手勢、各使用者、手勢之破壞性)可為相異或類似之此等無置信度及高置信度位準。
為避免提示使用者104重複手勢之執行直至成功,雷達系統108使用情境資訊2408來改良模糊手勢2402之解譯。在此實例中,雷達系統108判定情境資訊2408包含在一當前時間正在運算裝置102上播放之音樂。一般而言,情境資訊可包含進展中之操作、過去或經計劃操作、前景或背景操作、裝置之一位置、常見使用者或手勢之一歷史、運行之應用程式、運算裝置102外部之條件等。外部條件可包含(例如)一天中的時間、照明、一鄰近區106內之音訊等。
運算裝置102可基於情境資訊2408來判定模糊手勢2402最有可能係第一手勢2404。在此實例中,雷達系統108將在當前時間正在裝置上播放之音樂與第一手勢2404之第一命令相關。由於開啟車庫門之第二命令與正在裝置上播放之音樂無關,因此雷達系統108判定第一手勢2404更有可能係使用者104之預期手勢。此判定可使用正式邏輯、非正式邏輯、數學邏輯、滯後邏輯、演繹推理、歸納推理、反繹推理等來執行。該判定亦可使用一機器學習模型來執行,諸如機器學習模型700 (參考圖7)及/或空間-時間機器學習模型802 (參考圖8)。
在一實例中,雷達系統108利用歸納推理來判定雷達系統108可推導模糊手勢2402係第一手勢2404所藉助之一般關聯。如此做時,雷達系統108可根據以下論點進行:
(1) 模糊手勢2402係第一手勢2404或第二手勢2406。
(2) 第一手勢2404與調低音樂音量之第一命令相關聯。
(3) 第二手勢2406與開啟車庫門之第二命令相關聯。
(4) 在當前時間正在播放音樂(情境資訊2408)。
(5) 第一命令與在當前時間正在播放之音樂有關。
(6) 第二命令與在當前時間正在播放之音樂無關。
(7) 模糊手勢通常與在一當前時間執行之操作相關聯。
因此,模糊手勢2402最有可能係第一手勢2404。
在偵測一模糊手勢2402時,一雷達系統108可判定模糊手勢2402在一所要置信度位準與一已知手勢(例如,一或多個經儲存雷達信號特性)不相關。所要置信度位準可為正確地辨識一手勢所需之置信度(例如,準確度)之一定量或定性評估,或另一類似符號、基於向量或基於矩陣之臨限值準則或臨限值準則之組合。
在實例性環境2400中,模糊手勢2402之雷達信號特性40%可能與第一手勢2404之經儲存雷達信號特性相關,40%可能與第二手勢2406之經儲存雷達信號特性相關,且20%可能與一第三手勢之經儲存雷達信號特性相關。若所要置信度位準經設定為50%,則雷達系統108可能無法準確地判定哪一已知手勢在該所要置信度位準與模糊手勢2402相關。然而,雷達系統108可判定第一手勢2404及第二手勢2406比第三手勢更有可能與模糊手勢2402有關。特定言之,雷達系統108可考量超過35%或更多之一最小置信度位準(例如,臨限值)之手勢。由於第三手勢僅20%可能為模糊手勢2402,因此雷達系統108可消除此可能性。代替性地,雷達系統108可判定第一手勢2404及第二手勢2406兩者具有超過最小置信度位準之40%之一可能性。
為將模糊手勢2402辨識為第一手勢2404 (例如,一已知手勢)或第二手勢2406 (例如,另一已知手勢),雷達系統108可利用情境資訊2408。特定言之,雷達系統108可判定第一手勢2404之第一命令或第二手勢2406之第二命令是否與情境資訊2408相關聯。該關聯可基於一嚴格的是/否關聯(例如,二元)、一變化之關聯尺度、一邏輯或推理、一機器學習模型(700、802)等來量化或限定。例如,雷達系統108可判定調低音樂音量之第一命令與在當前時間正在播放之音樂之情境資訊2408相關聯。另一方面,雷達系統108亦可判定打來車庫門之第二命令不與正在播放之音樂相關聯。基於此判定,雷達系統108可判定模糊手勢2402係第一手勢2404。
在一些情境下,雷達系統108可能無法使用情境資訊準確地辨識模糊手勢2402。代替性地,若第一手勢2404之第一命令與起動一計時器相關聯,則雷達系統108可判定第一命令及第二命令兩者不與在當前時間正在播放之音樂相關聯。代替額外資訊,雷達系統108可判定第一命令或第二命令皆不應藉由運算裝置102執行。此外,運算裝置102可提示使用者104重複手勢及/或提供額外輸入(例如,一語音命令)。
啟用雷達之手勢辨識
圖25繪示其中手勢模組224可辨識由一使用者104執行之手勢之實例性實施方案2500-1至2500-3。為辨識手勢,雷達系統108之手勢模組224可分析雷達接收信號404以判定(1)拓撲特徵、(2)時間特徵及/或(3)情境特徵。此等特徵之各者可與藉由一運算裝置102偵測之一或多個雷達信號特性相關聯。運算裝置102並不限於圖25中描繪之三個類別之特徵,且可包含未展示之其他雷達信號特性及/或類別。此外,三個類別之特徵經展示為實例性類別且可經組合及/或修改以包含實現本文中所描述之技術之子類別。可另外包含參考圖7至圖18所論述之技術且該等技術不與圖25中呈現之技術互斥。圖25之手勢辨識論述類似於圖6之使用者區別論述,除了其等對手勢執行之應用之外。
在實例性實施方案2500-1中,手勢模組224可部分使用拓撲資訊來辨識手勢。類似於上文關於圖6之實例性實施方案600-1之教示,拓撲特徵可包含與一使用者104之一身高、外形、定向、距離、衣料、大小或等等相關聯之RCS資料。例如,使用者104可藉由形成一筆直的、平坦手來執行一揮手手勢2502,但藉由將其等之拇指與食指捏在一起(例如,在其等之拇指與食指之間進行接觸)來執行一捏手勢2504。當相較於與捏手勢2504相關聯之拓撲特徵時,與揮手手勢2502相關聯之拓撲特徵可包含一更大表面積、一正交定向、一更平坦表面等。另一方面,如相較於與揮手手勢2502相關聯之拓撲特徵,與捏手勢2504相關聯之拓撲特徵可包含一更小表面積、一較不均勻(例如,較不平坦)表面、手之位置之一更大深度等。
在實例性實施方案2500-2中,參考實例性實施方案600-2,手勢模組224可部分使用時間資訊來辨識手勢。雷達系統108可藉由接收及分析(例如)一運動簽章(例如,使用者104在執行一手勢時移動之一相異方式)來辨識一手勢。在一實例中,一使用者104執行一滑移手勢來對其等正在閱讀之書進行翻頁。雷達系統108偵測該滑移手勢之一或多個雷達信號特性(例如,一時間輪廓,如所描繪)且比較其等與一或多個經儲存雷達信號特性。一時間輪廓可包含如使用圖5之類比電路216隨時間偵測之一或多個雷達接收信號404之一振幅。滑移手勢之時間輪廓可具有相異於(例如)一揮手手勢或一捏手勢之特性。揮手手勢可包含兩個互補運動(例如,導致兩個振幅峰值),而滑移手勢可包含一個運動(例如,導致一個振幅峰值)。捏手勢可隨時間比滑移手勢更慢執行,從而導致雷達接收信號404之一更寬振幅峰值。
在實例性實施方案2500-3中,參考上文圖6之實例性實施方案600-3及600-4,手勢模組224亦可使用情境資訊來辨識手勢。情境資訊並不限於圖25中描繪之實例,且參考圖24至圖32描述各種其他實例。在本發明中,「情境資訊」係指對由雷達系統108接收之信號添加情境(例如,額外細節)之資訊。情境資訊可包含使用者偏好、使用者習慣、運算裝置102之一位置、通常執行之手勢及/或經偵測使用者之一歷史、一房間之常見活動、一或多個運算裝置102上之進展中之操作、過去及經計劃操作、前景及背景操作等。
實例性實施方案2500-3描繪使用者存在可如何提供額外情境來辨識手勢。運算裝置102可經組態以辨識一推拉手勢,該推拉手勢涉及使用者104以一速度將其等之手推至一定程度且以相同速度將其等之手拉回一類似程度(例如,具有相等距離但在一相反方向上)。以此方式,當一使用者104執行一推拉手勢時,裝置可預期互補的推及拉運動。然而,若在無互補的推及拉運動的情況下執行推拉手勢(如所描繪),則手勢模組224可判定已執行一模糊手勢。
為改良對模糊手勢之解譯,使用者模組222可對手勢模組224提供關於使用者存在之額外細節(例如,情境資訊)。若手勢模組224可判定哪一使用者執行手勢,則其可更佳地解譯模糊手勢。
在一實例中,一第一使用者104-1以非互補的推及拉運動執行一推拉手勢且手勢模組224判定該手勢與一推拉手勢不相關(例如,在一所要置信度位準)。第一使用者104-1可能已以一速度將其等之手推至一定程度,但以一顯著更慢的速度且在一更短程度上將其等之手拉回。手勢模組224判定該手勢係可為一推拉或一推手勢之一模糊手勢。代替提示第一使用者104-1再次執行手勢,手勢模組224利用來自使用者模組222之使用者存在資訊來判定一第一經註冊使用者執行手勢。此第一經註冊使用者可能已在過去(例如,在手勢訓練期間)執行此手勢且通常可以此經修改方式來執行推拉手勢。手勢模組224接著可存取與執行手勢之第一經註冊使用者之一歷史(例如,手勢訓練歷史)相關聯之一或多個經儲存雷達信號特性。此額外資訊可容許運算裝置102判定模糊手勢係如通常由第一經註冊使用者執行之推拉手勢。
又如實例性實施方案2500-3中所描繪,一第二使用者104-2亦可以一獨特方式執行推拉手勢。第二使用者104-2可以一速度將其等之手推至一定程度,但以一顯著更快速度且在一更長程度上將其等之手拉回。歸因於互補的推及拉運動,手勢模組222可判定手勢係可為一推拉或一拉手勢之一模糊手勢。手勢模組224可再次利用來自使用者模組222之使用者存在資訊來判定一經註冊使用者是否執行手勢。在此實例中,第二使用者104-2係先前未針對運算裝置102執行手勢之一未註冊人員。因此,手勢模組224可利用其他情境資訊(如關於圖26至圖32進一步描述),提示未註冊人員再次執行手勢及/或起始手勢訓練。
在此實例中,雷達系統108可接收包含執行其等版本之此推拉手勢(例如,另一模糊手勢)之第二使用者104-2之雷達信號特性之一或多個雷達接收信號404。手勢模組224可比較此等雷達信號特性與經儲存雷達信號特性以判定另一模糊手勢可為推拉手勢(一第一已知手勢)或拉手勢(一第二已知手勢)。特定言之,經執行版本之推拉手勢與各已知手勢之相關性超過無置信度位準(例如,最小臨限值),但裝置判定該相關性亦低於高置信度位準。
一般而言,情境資訊可包含使用(例如)一天線214、運算裝置102之一額外感測器、儲存於一記憶體上之資料(例如,使用者習慣)、本地資訊(例如,一時間、相對位置)、操作狀態等來判定之細節。在另一實例(未描繪)中,手勢模組224可使用一本地時間作為情境來實現一模糊手勢之辨識。若一使用者104在每天早上6:00持續地執行開啟燈之一手勢,則運算裝置102可注意到此習慣以改良手勢辨識。若使用者104在上午6:00意外地執行一模糊手勢(例如,其可與開啟燈或大聲閱讀新聞相關聯),則裝置可使用此情境資訊來判定使用者104最有可能意欲執行開啟燈之一手勢。在另一實例中,若運算裝置102定位於一廚房中,則手勢模組224可隨時間判定廚房相關手勢(例如,開啟一烤箱)在該房間中係常見的。若一使用者104在廚房中執行一模糊手勢(例如,其可與開啟一洗碗機或開啟一客廳中之一安全系統相關聯),則裝置可使用廚房相關手勢之情境資訊來判定使用者104最有可能意欲執行開啟洗碗機之一手勢。
手勢模組224可另外利用一或多個邏輯系統(例如,包含謂詞邏輯、滯後邏輯等)來改良手勢辨識。邏輯系統可用於將特定手勢辨識技術優先於其他手勢辨識技術(例如,偏袒時間特徵勝過情境資訊),在依靠兩個或更多個特徵時對特定結果增加權重(例如,置信度)等。手勢模組224亦可包含一機器學習模型(例如,700、802)以改良手勢辨識(例如,模糊手勢之解譯),如先前分別關於圖7及圖8所描述。
雷達系統108可單獨或結合雷達信號特性之拓撲或時間資訊使用情境資訊來辨識手勢。一般而言,手勢模組224可以任何組合且在任何時間使用圖25中所描繪之類別之任一或多者來辨識一手勢。例如,雷達系統108可收集關於一經執行手勢之拓撲及時間資訊,但缺少情境資訊。在另一情況下,雷達系統108可收集拓撲及時間資訊,但判定該資訊不足以辨識一模糊手勢。若情境資訊可用,則雷達系統108可利用該情境資訊來辨識模糊手勢。圖25中描繪之任一或多個類別可優先於另一類別。關於圖26進一步描述關於實例性環境2500-3所描述之情境特徵之一應用。
與使用者習慣相關聯之情境資訊
圖26繪示其中運算裝置102-1及102-2可利用一使用者之習慣之情境資訊來改良手勢辨識之一實例性環境2600。在實例性環境2600中,一第一房間304-1 (餐廳2304)含有一第一運算裝置102-1,且一第二房間304-2 (臥室2202)含有一第二運算裝置102-2。各運算裝置102可基於(例如)一相對位置或其他裝置、使用者輸入、使用者行為、一命令頻率、命令類型、使用者存在等來判定其在一住宅中之位置。此外,各運算裝置102可利用一或多個感測器來執行(例如)地理圍欄、多點定位(multilateration)、真實距離多點定位、航位推算、大氣壓力調整、真實距離慣性多點定位、到達角計算、飛行時間計算等以判定裝置之位置。
使用者可在一住宅之各房間中基於其等在該房間中之典型行為或身體位置來不同地執行手勢。如實例性環境2600中所描繪,定位於餐廳2304內之一使用者104通常可在筆直坐在一椅子中時執行手勢,而定位於臥室2202內之一使用者104通常可在水平躺在一床上時執行手勢。例如,當使用者104在餐廳2304中執行一推拉手勢時,第一運算裝置102-1可偵測到該推拉手勢已用如在手勢訓練期間教示之互補的推及拉運動來執行。明確言之,如使用實例性環境2600中之互補箭頭所描繪,使用者104通常可在類似(但相反)程度上且以類似速度推及拉。另一方面,使用者104通常可在臥室2202中自一平躺位置以非互補的推及拉運動來執行推拉手勢。例如,使用者104通常可以一較大速度且在與拉運動不共線之一方向上推至一較大程度,亦如在實例性環境2600中使用非互補箭頭所描繪。
代替要求使用者104在各運算裝置102-1及102-2處完美地(例如,一致地,如預期,如訓練期間所教示般)執行推拉手勢,各裝置可隨時間獲知使用者之習慣作為情境資訊以改良對模糊手勢之辨識。在實例性環境2600中,第一運算裝置102-1可隨時間獲知使用者104通常在餐廳2304中以互補的推及拉運動執行推拉手勢之一第一版本,而第二運算裝置102-2可隨時間獲知使用者104通常在臥室2202中以非互補的推及拉運動來執行推拉手勢之一第二版本。因此,第一運算裝置102-1及第二運算裝置102-2可在分別在餐廳2304及臥室2202中嘗試辨識一模糊手勢時利用此情境資訊(關於使用者104通常在一房間中執行手勢之一方式)。
在一實例中,使用者104被一警報聲喚醒且執行一推拉手勢以命令第二運算裝置102-2關閉警報。然而,在其等疲勞狀態下,使用者104以非互補的推及拉運動執行推拉手勢之第二版本。第二運算裝置102-2可偵測與手勢之空間及/或時間特徵相關聯之一或多個雷達信號特性且判定使用者已執行一模糊手勢。特定言之,使用者對推拉手勢之執行類似於一第一已知手勢(推拉手勢)及一第二已知手勢(一揮手手勢)兩者。若裝置不能在一所要置信度位準辨識經執行手勢,則第二運算裝置102-2判定使用者執行可為第一已知手勢或第二已知手勢之一模糊手勢。為辨識此模糊手勢,第二運算裝置102-2考量關於使用者在臥室2202中之習慣之情境資訊且判定使用者104通常以一疲勞方式用非互補的推及拉運動來執行推拉手勢。因此,模糊手勢之雷達信號特性更緊密類似於通常由使用者104在臥室2202中執行之推拉手勢之第二版本之雷達信號特性。裝置判定模糊手勢更有可能係第一已知手勢(推拉手勢)且繼續進行以執行關閉警報之操作。在實例性環境2600中,假定兩個裝置偵測且隨時間在一或多個記憶體上儲存與推拉手勢之各版本相關聯之多個雷達信號特性(例如,經儲存之雷達信號特性)。
此外,第一運算裝置102-1可隨時間學習以基於第一裝置在餐廳2304內之位置來預測(例如,預期、判定其更常見)推拉手勢之第一版本。類似地,第二運算裝置102-2可隨時間學習以基於第二裝置在臥室2202中之位置來預測推拉手勢之第二版本。若將第一運算裝置102-1自餐廳2304移動至臥室2202,則第一運算裝置102-1可經重新組態以(例如,在偵測到重新定位時自動地,由一使用者104手動地)預測推拉手勢之第二版本而非第一版本。類似地,若將第二運算裝置102-2自臥室2202移動至餐廳2304,則第二運算裝置102-2可經重新組態以預測推拉手勢之第一版本。雖然實例性環境2600之情境資訊包含使用者104在一位置中執行手勢之常見方式,但情境資訊亦可包含通常與一位置(例如,一房間304)相關聯之使用者104。因此,一運算裝置102基於裝置之位置來預測使用者可為有用的,如關於圖27進一步描述。
圖27繪示基於一運算裝置之位置對使用者存在之預測。在一實例性環境2700中,一第一運算裝置102-1可隨時間獲知一第一使用者104-1 (例如,一女兒)通常存在於臥室2202內,此可容許裝置在2702預測第一使用者之存在。若第一運算裝置102-1偵測到一使用者之存在但不能準確地將其與其他使用者進行區分,則裝置可依靠對第一使用者之存在之預測來區分使用者104。例如,若在臥室2202內之一大距離處偵測到一模糊使用者(例如,不能在一所要置信度位準被區分之一使用者),則第一運算裝置102-1可判定此模糊使用者係第一使用者104-1 (女兒)或一第二使用者104-2 (母親)。若隨時間在臥室2202內主要偵測到女兒(當相較於母親之存在時),則第一運算裝置102-1可判定模糊使用者有可能係女兒。
類似地,一第二運算裝置102-2可隨時間獲知第二使用者104-2 (母親)主要存在於另一房間(例如,辦公室2204)內,此可容許第二運算裝置102-2在2704預測第二使用者(此處母親)之存在。若將第二運算裝置102-2移動至臥室2202,則第二運算裝置102-2可經重新組態以基於裝置之重新定位來預測女兒之存在。特定言之,第二運算裝置102-2可存取藉由第一運算裝置102-1偵測之使用者之一歷史以實現對女兒之存在之預測。類似地,若將第一運算裝置102-1移動至辦公室2204,則第一運算裝置102-1可經重新組態以預測母親之存在。各運算裝置102-1及102-2亦可隨時間獲知通常在各位置處偵測特定手勢,如關於圖28進一步描述,此可改良對模糊手勢之解譯。
與裝置之位置相關聯之情境資訊
圖28繪示房間相關情境可如何改良模糊手勢之辨識。在一實例性環境2800中,一第一運算裝置102-1可獲知臥室相關手勢在臥室2202中更常見(臥室相關情境2802)且廚房相關手勢在廚房2302中更常見(廚房相關情境2804)。臥室相關手勢可包含用以控制一鬧鐘、照明、個人護理、行事曆事件等之命令,而廚房相關手勢可包含用以控制一烤箱、洗碗機、爐灶、計時器等之命令。當一運算裝置102判定已執行一模糊手勢時,手勢模組224可利用關於一房間之典型命令之情境資訊(例如,情境2802、2804)來辨識該模糊手勢。
在一第一實例中,一第一使用者104-1被一警報喚醒且嘗試執行一推拉手勢以將其關閉。由於第一使用者104-1很困乏,因此其等以(例如)不同於如手勢訓練期間教示之推拉手勢之一疲勞方式執行該手勢。第一運算裝置102-1偵測正在執行之手勢且判定其係推拉手勢(關閉警報)或一揮手手勢(開啟一烤箱),但不能在一所要置信度位準辨識該手勢。因此,手勢模組224判定已執行一模糊手勢。
手勢模組224使用臥室相關情境2802 (例如,在臥室2202中通常執行之手勢)來辨識模糊手勢,而非在警報繼續響起時提示第一使用者104-1重複手勢。在此實例中,第一運算裝置102-1判定模糊手勢係推拉手勢且發送控制信號以結束警報。更明確言之,第一運算裝置102-1判定推拉手勢(關閉警報)比揮手手勢(開啟烤箱)更常在臥室2202中執行。該判定可基於(例如)如儲存(例如,記錄)至一記憶體之在臥室2202中執行之手勢之一歷史。
在一第二實例中,一第二使用者104-2行走至廚房2302中且嘗試執行開啟一烤箱之一揮手手勢。由於第二使用者104-2正在行走,因此其等以不同於(例如)如自一靜止位置執行之揮手手勢之一方式執行手勢。一第二運算裝置102-2偵測正在執行之手勢且判定其係揮手手勢(開啟烤箱)或一推拉手勢(關閉一鬧鐘),但不能在一所要置信度位準辨識其。因此,手勢模組224判定已執行一模糊手勢且使用廚房相關情境2804 (例如,在廚房2302中通常執行之手勢)來辨識該模糊手勢。如在先前實例中,第二運算裝置102-2判定揮手手勢(開啟烤箱)比一推拉手勢(關閉警報)更常在廚房2302中執行。裝置可繼續進行以開啟烤箱。
實例性環境2800之技術可包含類似於空間-時間機器學習模型802及/或一機器學習模型700 (參考圖8及圖7)之一模型,其中輸入層702另外接收情境資訊以改良對手勢之解譯。雖然關於圖26至圖28之技術係使用在過去一或多個時間偵測之手勢及使用者習慣之一歷史進行描述,但情境資訊亦可包含即時資訊,諸如在一當前時間執行之操作(例如,進展中之操作)之一狀態。
與進展中之操作相關聯之情境資訊
圖29繪示在一當前時間執行之操作之一狀態可如何改良模糊手勢之辨識。在一實例性環境2900中描述之技術可藉由一運算裝置102 (參考圖24)或形成一運算系統之一組運算裝置102-X來執行。一第一運算裝置102-1經描繪處於一第一房間304-1 (廚房2302)中,且一第二運算裝置102-2經描繪處於一第二房間304-2 (餐廳2304)中。在此實例中,假定第一運算裝置102-1及第二運算裝置102-2係一運算系統之部分。因而,各運算裝置102-1及102-2可交換(例如)與由一使用者104執行之一手勢相關聯之情境資訊及/或雷達信號特性。
在實例性環境2900中,一使用者104執行起動一廚房烤箱之一計時器之一手勢。第一運算裝置102-1之一第一雷達系統108-1偵測該手勢,判定其與一操作(起動計時器)相關聯,且開始廚房2302中之一計時器。使用者104接著離開廚房2302以在餐廳2304中等待其等之食物烹飪。在一稍後時間,使用者104想要知道食物是否完成烘烤,因此其等嘗試針對一第二運算裝置102-2執行一已知手勢以查看計時器之狀態。然而,使用者104執行可為該已知手勢(查看計時器之狀態)或另一已知手勢(關閉一電視機)但不能在一所要置信度位準被辨識之一模糊手勢。特定言之,第二運算裝置102-2之手勢模組224比較模糊手勢之雷達信號特性(例如,時間及/或拓撲特徵)與一或多個經儲存雷達信號特性以判定模糊手勢可為彼等已知手勢之任一者。
因此,第二運算裝置102-2利用關於在一當前時間藉由運算系統之運算裝置102-1或102-2正在執行之操作之一狀態之情境資訊。在此實例中,第一運算裝置102-1當前正在運行烤箱之一計時器。第二運算裝置102-2偵測此進展中操作且判定已知手勢(查看計時器之狀態)與第一運算裝置102-1之進展中之操作(運行計時器)相關聯。此外,手勢模組224判定另一已知手勢(關閉電視機)不與運算系統之任何裝置(包含第一運算裝置102-1)之進展中之操作相關聯,因為電視機未開啟。因此,第二運算裝置102-2判定模糊手勢最有可能係第一已知手勢(而非另一已知手勢)且將計時器之狀態報告為「剩餘10分鐘」。
然而,在一些情境中,當前時間之操作狀態可包含兩個或更多個操作。當發生此一狀態時,運算裝置102可能需要藉由(例如)將前景操作優先於背景操作來限定進展中之操作,如關於圖30進一步描述。
與前景及背景操作相關聯之情境資訊
圖30繪示可如何基於在一當前時間執行之前景及背景操作來辨識模糊手勢。在本發明中,前景操作3002將係指一使用者主動參與之操作(例如,與一螢幕互動、向一螢幕提供輸入、在一螢幕上顯示)且背景操作3004將係指使用者被動地參與之操作(例如,其在無使用者輸入之一持續時間內發生)。例如,前景操作3002可包含電話通話、視訊通話、使用觸覺輸入捲動一網站、在一顯示器上打字等。背景操作3004可包含正在播放之音樂、一計時器、一電器之一操作狀態(例如,一烤箱被開啟)等。
在一實例性環境3000中,一運算裝置102偵測到一使用者104已執行可為一第一已知手勢或一第二已知手勢但不能在一所要置信度位準被辨識之一模糊手勢3006。雖然使用者104可能意欲執行第一已知手勢(例如,調高一電話通話之音量之一滑移手勢),但使用者104執行與類似於第一已知手勢及第二已知手勢(例如,停止一計時器之一揮手手勢)兩者之雷達信號特性相關聯之模糊手勢3006。若雷達系統108不能基於雷達信號特性在一置信度位準判定模糊手勢3006係第一已知手勢(而非第二手勢),則雷達系統108可利用情境資訊來判定預期手勢。
實例性環境3000之情境資訊包含在一當前時間藉由運算裝置102正在執行之前景操作3002 (例如,給Sally之一電話通話)及背景操作3004 (例如,剩餘1:05分鐘之一計時器)。在偵測到模糊手勢3006時,雷達系統108可判定第一已知手勢(例如,調高電話通話之音量)與前景操作3002相關聯且第二已知手勢(例如,停止計時器)與背景操作3004相關聯。使用者104主動地參與給Sally之電話通話且被動地參與背景中之計時器運行。裝置接著可基於此情境資訊來判定模糊手勢3006最有可能係第一已知手勢而非第二已知手勢。
一般而言,情境資訊並不限於在一當前時間執行之操作之一狀態且亦可包含在過去執行或經排程以在未來執行之操作,如關於圖31進一步描述。
與過去或未來操作相關聯之情境資訊
圖31繪示情境資訊可如何包含一運算裝置102之過去及/或未來操作。使用者可常規地(例如,每天)執行與待由一運算裝置102操作(或由一運算裝置102引起)之操作相關聯之手勢。一實例性環境3100描繪以下操作:(1)已在一過去時段3102期間執行;(2)在一當前時間3104正在執行;及(3)經排程或預測在一未來時段3106內執行。一第一命令係指每天早上關閉一警報3108,且一第二命令包含緊接著開啟燈3110 (且使其等開啟持續一時間段)。一運算裝置102可利用包含在過去時段3102中執行之操作及/或待在未來時間段3106中執行之操作之情境資訊以在當前時間3104辨識模糊手勢。未來時段3106之操作可(例如)由裝置基於房間相關之情境或一使用者習慣來排程或預測(例如,參考圖26至圖28)。
在一第一實例中,情境資訊包含在過去時段3102中執行之操作。一使用者104通常在每天早上6:00被一警報喚醒且執行一推拉手勢以關閉警報3108。接著使用者104執行一滑移手勢以開啟燈3110,燈3110保持開啟直至就寢時間。已藉由運算裝置102記錄此等操作(在過去時段3102中描繪)以改良一未來時間之手勢辨識。一天,使用者104必須早起趕飛機且設定一提前警報3112以在凌晨4:00醒來。在被警報喚醒之後,使用者104執行推拉手勢以關閉警報且接著嘗試執行滑移手勢(在當前時間3104)以提前開啟燈(例如,提前燈3114)。然而,使用者104很疲勞且意外地執行可為滑移手勢或一輕觸手勢(開啟一收音機)之一模糊手勢。
為辨識此模糊手勢,手勢模組224可參考關於過去操作之情境資訊以判定使用者104意欲執行滑移手勢,如在實例性環境3100中所描繪。特定言之,手勢模組224可判定(1)每天早上通常在使用者104執行推拉手勢以關閉警報3108之後開啟燈,(2)使用者104最近關閉一提前警報3112,(3)使用者104執行可為滑移手勢或輕觸手勢之一模糊手勢,且(4)滑移手勢(開啟燈)與再發生的過去操作(例如,情境資訊)相關聯,且輕觸手勢(開啟收音機)不與過去操作相關聯。由於模糊手勢可與過去操作相關聯,因此手勢模組224判定模糊手勢最有可能係滑移手勢且開啟臥室中之燈。在此實例中,手勢模組224使過去操作(關閉警報3108且開啟燈3110)相關以改良手勢辨識。
在一第二實例中,情境資訊包含待在未來時段3106中執行(例如,排程)之操作。一使用者104將一警報3108排程在每天早上6:00且將燈3110程式化為在上午6:05自動開啟。在一典型的早上,使用者104被警報3108喚醒且執行推拉手勢以將其關閉。不同於先前實例中,燈3110在不使用一手勢的情況下在上午6:05自動地開啟(如經排程)。一天,使用者104必須早起趕飛機且手動地設定一提前警報3112以在凌晨4:00醒來。然而,使用者104忘記調整燈以更早地(例如,在凌晨4:05)自動開啟。提前警報3112在凌晨4:00響起,但提前燈3114截至凌晨4:05仍未自動開啟。使用者104嘗試在黑暗中執行一滑移手勢以提前開啟燈3114,但意外地執行可為滑移手勢或輕觸手勢(開啟收音機)之一模糊手勢。
在此實例中,手勢模組224可參考關於未來操作之情境資訊以判定使用者104意欲執行滑移手勢。特定言之,手勢模組224可判定(1)燈經排程以在每天早上6:05自動開啟,(2)使用者104在凌晨4:05執行可為滑移手勢或輕觸手勢之一模糊手勢,且(3)滑移手勢(開啟燈)與經排程之未來操作(例如,在每天早上6:05開啟燈)相關聯,且輕觸手勢(開啟收音機)不與任何經排程操作相關聯。因此,手勢模組224判定模糊手勢最有可能係滑移手勢且開啟臥室中之燈。
雖然圖26至圖31之實例利用與在一當前、過去或未來時間執行之操作相關聯之情境資訊,但在一些情況下,此資訊可能不足以辨識一模糊手勢。若手勢模組224不能基於情境資訊辨識一模糊手勢(例如,在一置信度位準) (或忘記基於情境操作如此做),則運算裝置102可判定執行一破壞性較小的操作,如關於圖32進一步描述。
一破壞性較小的操作之判定
圖32繪示可如何基於一破壞性較小的操作來辨識一模糊手勢。在本文件中通常可提及破壞性較小的操作及破壞性較小的命令以描述一操作或與該操作相關聯之一命令破壞性較小。以此方式,將一操作分類為破壞性較小可擴展至引導一裝置執行該操作之一命令。
在一實例性環境3200中,一使用者104被一警報喚醒且意外地執行意欲為一小睡手勢3204 (例如,一揮手手勢)之一模糊手勢3202以在一稍後時間內重設警報。由於使用者104以一疲勞方式執行此手勢,因此模糊手勢3202之雷達信號特性類似於小睡手勢3204及關閉警報之一解除手勢3206 (例如,一推拉手勢)兩者之雷達信號特性。在圖26至圖31之實例中,手勢模組224利用情境資訊來辨識模糊手勢。然而,在此實例中,情境資訊(例如,警報在當前時間響起)可與小睡手勢3204及解除手勢3206兩者之操作有關。因此,情境資訊不足以辨識此模糊手勢3202。儘管關於一單個應用程式進行描述,但模糊手勢3202可能對應於之可能手勢可與影響同一應用程式或不同應用程式之操作相關聯。以此方式,情境資訊在將模糊手勢3202判定為一特定已知手勢時可能或多或少有幫助。
代替提示使用者104正確地執行小睡手勢3204或除了提示使用者104正確地執行小睡手勢3204之外,雷達系統108可判定要執行之一破壞性較小的操作。一破壞性較小的操作可經限定為損害性較小、永久性較小、後果較小、可逆性更大等之一動作。例如,使一電話通話靜音可經限定為比結束一電話通話破壞性更小。在實例性環境3200中,使一警報小睡可經限定為比解除一警報破壞性更小。因此,雷達系統108可判定模糊手勢3202更有可能係小睡手勢3204且在一稍後時間內重設警報。破壞性較小的操作可基於預設條件、一或多個邏輯、使用者行為之一歷史、一或多個使用者輸入(例如,偏好)等限定。可透過本文中描述之各種技術(包含使用一機器學習模型(例如,700、802)或本文件中描述之基於情境及基於使用者歷史之技術)來判定破壞性較小的操作。
在態樣中,判定一破壞性較小的操作可判定一操作係一臨時操作或一最終操作。一臨時操作可描述可逆的且不終止一程序之一例項之一操作。例如,使一通話靜音或延遲一通知之一操作可被描述為一臨時操作,因為其僅影響通話或通知之一特性而不終止通話或通知。相比而言,一最終操作可描述終止或不可逆之一操作。例如,一最終操作可終止運算裝置內之一例項且阻止對該例項之未來操作。因而,在已執行一最終操作之後,該最終操作可阻止一系統針對一特定例項執行臨時操作。在給定一最終操作之最終性的情況下,相較於一最終操作,一臨時操作可經判定為一破壞性較小的操作。
除了基於操作自身判定一破壞性較小的操作之外或作為其替代,運算裝置102可利用在執行一手勢之後接收之命令來判定一破壞性較小的命令。明確言之,運算裝置102可執行一命令且使用者104可藉由執行一手勢或向運算裝置提供一使用者輸入來作出回應。在一些例項中,此手勢或使用者輸入可引起運算裝置102執行一不同命令或反轉在運算裝置上執行之一原始命令。例如,使用者104可回應於一通話被終止而重撥一電話號碼或接收來自一先前通話者之一回撥。經執行以反轉一操作(例如,重撥電話)之一命令可提供操作之一破壞性之一指示(例如,重播一跳過之歌曲可能比重新開啟一未保存且終止之應用程式更容易)。
雖然一些破壞性判定可基於對在運算裝置102上執行之一命令之當前回應,但運算裝置102可利用命令之先前執行來判定一破壞性較小的操作。例如,在一先前時間,運算裝置102可能在與模糊手勢3202 (例如,未被辨識為一個已知手勢而是被辨識為兩個已知手勢且因此係模糊的但與潛在許多已知手勢之兩者相關聯的一手勢)相關之一或多個命令之執行之後接收來自一使用者104之一特定回應。基於該回應,運算裝置102可判定一操作的破壞性程度。在一個實例中,運算裝置102可能先前已執行終止一通話或應用程式之一命令,使用者104藉由重新起始該應用程式或通話來對該命令作出回應。由一使用者回應於(例如,在一時間段內)藉由運算裝置102接收之一命令或執行之一操作而採取之此歷史動作可在各情境中提供一使用者之預期命令之一指示,從而使該命令破壞性較小。若運算裝置102判定使用者104可能預期一操作(此可自先前行為判定),則該操作可被視為破壞性較小的。因此,依靠過去偵測及回應可使一系統能夠改良對一破壞性較小的操作之判定。
當使用者104執行操作或向運算裝置102提供一命令以反轉一先前操作時,可儲存使用者干預之指示以在一未來發生時增加模糊手勢辨識之準確度。例如,當使用者104用以反轉由於模糊手勢3202而執行之一命令時,運算裝置102可判定不正確地辨識模糊手勢3202且儲存此判定以改良一未來時間之手勢辨識。此儲存可包含儲存模糊手勢3202之一雷達信號特性使得將該特性與模糊手勢3202不正確地相關於之一手勢解除關聯。
代替執行反轉一不正確執行之命令之一手勢或命令或除此之外,使用者104可重複執行模糊手勢3202以指示不正確地辨識模糊手勢3202。模糊手勢3202之此另一執行可經判定為與模糊手勢3202之第一執行類似或相同。因此,運算裝置102可判定使用者104試圖校正運算裝置102對模糊手勢3202之一不正確辨識。藉由基於手勢類似性判定使用者104正重新執行模糊手勢3202,運算裝置102可判定模糊手勢之一先前辨識係不正確的。一旦運算裝置102判定模糊手勢3202之先前辨識係不正確的,其便可分析模糊手勢3202之另一執行以判定與一不同已知手勢之一匹配。因此,可將模糊手勢3202辨識為不同於不正確辨識之手勢之一手勢。在態樣中,不同手勢可為模糊手勢最初相關於之已知手勢之一者。
回應於判定模糊手勢3202之原始辨識係不正確的,運算裝置102可反轉或停止與不正確辨識之模糊手勢3202相關聯之一命令之執行。替代性地或此外,運算裝置102可執行與一不同已知手勢相關聯之一命令,該不同已知手勢與模糊手勢正確地相關。如同運算裝置102之其他校正,可儲存此判定以使運算裝置102能夠更準確地將一手勢之一未來執行辨識為不同手勢,此可包含儲存與該不同手勢相關聯之第一或隨後執行之模糊手勢3202之一特性。
雖然可完全或部分地基於在模糊手勢3202之後的手勢或命令來判定一破壞性較小的操作,但使用者104之偏好可用於判定一破壞性較小的命令。明確言之,使用者104可儲存與哪些命令或操作應被特性化為破壞性較小有關之資料。此資料可包含與各命令/操作之一相對破壞性有關之特定使用者指定之決策或可用於判定任一組命令/操作之間的一破壞性較小的操作之通用資料。使用者偏好可類似地判定如何判定一模糊手勢3202 (例如,應對情境、破壞性等給予更高權重)。例如,使用者104可選取在更大程度上依靠情境來判定一模糊手勢3202之可能相關性,而另一使用者可在更大程度上依靠破壞性來避免意外執行破壞性操作。
透過所描述之技術,可判定一破壞性較小的操作,此可使一運算系統能夠以一損害性較小或最小的方式將一模糊手勢辨識為一已知手勢。因此,即使當一運算裝置未能準確地將一模糊手勢判定為一已知手勢時,判定一破壞性較小的操作仍可增加使用者對手勢控制之滿意度。
連續在線學習
圖33繪示一使用者執行一模糊手勢。在一實例性環境3300中,一使用者104執行使用者預期為一第一手勢(例如,一已知手勢)之一模糊手勢3302。運算裝置102偵測模糊手勢3302且嘗試將模糊手勢3302與一已知手勢相關。明確言之,運算裝置102之一雷達系統可嘗試判定與模糊手勢3302相關聯之一或多個雷達信號特性。在此例項中,雷達系統判定一第一雷達信號特性3304與模糊手勢3302相關聯。一般而言,當一使用者執行一手勢時,歸因於一使用者(或不同使用者)在手勢之每次執行(或相對於雷達系統之定向或距離等)中之略微差異,該手勢之雷達信號特性可在手勢之不同執行當中改變。因此,由使用者104執行之一手勢之一例項可具有不同於與一已知手勢相關聯之經儲存雷達信號特性之雷達信號特性且引起手勢模組3306無法判定使用者104已執行哪一手勢。
在此情況下,模糊手勢3302經判定為具有第一雷達信號特性3304。可比較第一雷達信號特性3304與一或多個經儲存雷達信號特性。在態樣中,經儲存雷達信號特性可實施於運算裝置102之一儲存媒體、雷達系統、手勢模組3306或可由手勢模組3306存取之一外部儲存媒體內。經儲存雷達信號特性可為(例如)基於手勢之先前執行、一先前校準或類似者而與第一手勢相關之雷達信號特性。歸因於模糊手勢3302之此例項中之一差異,第一雷達信號特性3304與一或多個經儲存特性之比較對於將模糊手勢3302與第一手勢相關可為無效的。例如,第一雷達信號特性3304可不同於一或多個經儲存特性,使得兩個或更多個手勢(或無手勢)經判定為與模糊手勢3302之可能相關性。
在一些實施方案中,手勢模組3306可判定模糊手勢3302有可能與第一手勢相關(例如,第一手勢具有最高相關性)但該相關性不能以一所需置信度判定。在其他實施方案中,手勢模組3306可判定模糊手勢3302對應於多個經儲存手勢(包含第一手勢),但該多個經儲存手勢之另一者具有高於第一手勢之一相關性。回應於未能以所需置信度辨識手勢,運算裝置102可能不對模糊手勢3302作出回應(例如,運算裝置102不執行與第一手勢相關聯之一命令)。
當運算裝置102未能執行與第一手勢相關聯之命令時,使用者104通常選取再次執行命令。例如,在圖33中繪示之實例中,使用者104執行藉由運算裝置102偵測之另一手勢3308。在一些實例中,運算裝置102可顯示提示使用者104重複手勢之一通知。在其他實施方案中,可透過其他方式(例如,使用觸覺或可聽通知)將通知傳達給使用者104。如同模糊手勢3302,雷達系統可判定另一手勢3308之一或多個雷達信號特性。如所繪示,雷達系統可判定另一手勢3308具有特定雷達信號特性,諸如一第二雷達信號特性3310。第二雷達信號特性3310可被提供至手勢模組3306,其中類似於第一雷達信號特性3304,比較第二雷達信號特性3310與一或多個經儲存雷達信號特性。此處假定當相較於第一雷達信號特性3304時,例如,由於使用者104回應於運算裝置102未能辨識模糊手勢3302而花費時間來更仔細地執行另一手勢3308,因此第二雷達信號特性3310更緊密對應於經儲存雷達信號特性。此處亦假定第二雷達信號特性3310與經儲存特性之比較可使手勢模組3306能夠將另一手勢3308與第一手勢相關。藉由將另一手勢3308與一已知手勢相關(例如,將另一手勢3308辨識為第一手勢),運算裝置102可執行與該已知手勢相關聯之一命令。實例性命令包含停止一計時器,暫停/播放在裝置上執行之媒體,對顯示於裝置上之內容作出反應及本文中描述之其他命令。
鑒於運算裝置102 (例如,使用雷達系統108之手勢模組3306或224)能夠判定另一手勢3308與藉由運算裝置102儲存之第一手勢相關,模糊手勢3302亦可能意欲為第一手勢。因而,運算裝置102或手勢模組3306可比較模糊手勢3302與另一手勢3308以判定該兩個手勢是否類似。明確言之,手勢模組3306可比較模糊手勢3302之第一雷達信號特性3304與另一手勢3308之第二雷達信號特性3310以判定該兩個手勢是否類似。對於關於本文中揭示之如此做之許多方式中之一些方式之資訊,參見伴隨圖7至圖18之詳細描述。若經判定兩個手勢係類似的(例如,在可低於用於手勢辨識之一所需置信度之一所需置信度位準),則運算裝置102可判定模糊手勢3302係第一手勢。為改良在一未來時間偵測第一手勢之執行之準確度,藉由運算裝置102將模糊手勢3302之第一雷達信號特性3304與第一手勢相關並儲存模糊手勢3302之第一雷達信號特性3304。如此做時,運算裝置102可連續增加手勢辨識之準確度。
一般而言,可併入其他因素來判定模糊手勢3302是否係第一手勢。例如,可判定在模糊手勢3302與另一手勢3308之執行之間經過之一時間量,且經過之此時間量可用於判定模糊手勢3302是否係第一手勢。在態樣中,經過之一縮短時間段(例如,兩秒或更少)可指示模糊手勢3302係第一手勢之一更高可能性,而經過之一更高時間段可指示模糊手勢3302係第一手勢之一更低可能性。在一些實施方案中,經過之時間可為其中在模糊手勢與另一手勢之間未偵測到一額外手勢之一時間段。在此情況下,若緊接在模糊手勢之後執行另一手勢3308而未在其等之間執行一額外手勢,則模糊手勢3302可更有可能為第一手勢。此處,使用者104在運算裝置102未辨識模糊手勢3302之後重複手勢。
雖然一些實施方案可僅儲存雷達信號特性且將其等與經辨識手勢相關,但其他實施方案可利用或儲存其他資料以及雷達信號特性自身。例如,可針對藉由運算裝置102儲存之一或多個雷達信號特性判定一權重。當第一雷達信號特性3304或第二雷達信號特性3310藉由運算裝置儲存且與第一手勢相關,則可儲存或變更一權重以指示各特性與第一手勢之相關性之一置信度。
此外,關於手勢之情境或其他資料可用於判定第一雷達信號特性3304或第二雷達信號特性3310之權重。例如,模糊手勢3302與另一手勢3308之間的一經過的較短時間量可指示模糊手勢3302有可能係第一手勢。因此,用於第一雷達信號特性3304或第二雷達信號特性3310之權重值可指示第一雷達信號特性3304或第二雷達信號特性3310與第一手勢之相關性之一較高置信度。當模糊手勢3302與另一手勢3308之間已經過一較大時間量時,模糊手勢3302可不太可能為第一手勢。因此,用於第一雷達信號特性3304或第二雷達信號特性3310之權重值可指示第一雷達信號特性3304或第二雷達信號特性3310與第一手勢之相關性之一較低置信度。在一些例項中,將權重連同第一雷達信號特性3304或第二雷達信號特性3310一起儲存可改良第一手勢之未來偵測。根據圖7至圖10及本文個別處之描述,亦可或代替性地使用機器學習來判定如何對各種時序、情境及雷達信號特性類似性進行加權。
當將模糊手勢3302與第一手勢相關時,可使用或儲存情境資訊。例如,運算裝置102可判定關於模糊手勢3302之執行之情境資訊(例如,自執行模糊手勢3302時之情境資訊)。情境資訊可包含(例如)相對於運算裝置102之使用者104之一位置或使用者104之定向,或本文件中(例如,關於圖25至圖31)描述之任何其他類型之情境資訊。情境資訊可包含在模糊手勢之執行期間感測之模糊手勢3302之一非雷達信號特性。作為非限制性實例,其他非雷達感測器可包含一超音波偵測器、攝影機、周圍光感測器、壓力感測器、氣壓計、麥克風或生物識別感測器,以及本文中描述之其他感測器。情境資訊可與第一雷達信號特性3304或第二雷達信號特性3310一起儲存以使運算裝置102能夠在未來更準確地辨識第一手勢。例如,運算裝置102可儲存在使用者104相對於運算裝置102之不同定向或位置中之第一手勢之特性。以此方式,可藉由比較一手勢與其中執行該手勢之一當前情境之適當特性來進行更準確比較。此外或替代性地,情境資訊可用於調整與雷達信號特性一起儲存之權重值。
運算裝置102亦可比較模糊手勢3302與另一手勢3308以判定該等手勢是否類似且因此模糊手勢3302是否有可能係第一手勢。例如,手勢模組3306可比較第一雷達信號特性3304與第二雷達信號特性3310且判定第一雷達信號特性3304與第二雷達信號特性3310具有高於一置信度臨限值之一相關性。雖然此臨限值可能不足以辨識手勢,但其足以指示該等手勢相關之某一合理的概率(例如,用以辨識一手勢之一40%、50%或60%可能性與一80%或90%或95%臨限值)。在判定第一雷達信號特性3304與第二雷達信號特性3310相關時,運算裝置102判定模糊手勢3302係第一手勢。
除了手勢之外,運算裝置102可使用非手勢命令來與第一手勢相關。例如,在辨識另一手勢3308 (例如,將另一手勢3308與第一手勢相關)之後,運算裝置102可查詢模糊手勢3302是否係與第一手勢相關聯之命令。使用者104可不使用手勢(例如,透過觸碰或聲音)來作出回應以確認模糊手勢3302意欲傳達之預期手勢。在其他例項中,使用者可向運算裝置102提供回饋以幫助透過一非手勢命令來識別模糊手勢3302,而無需由運算裝置102提示。
雖然實例係關於一單個運算裝置102進行繪示,但應注意,連續在線學習可使用多個運算裝置來執行。例如,可在一第一運算裝置處偵測模糊手勢3302且可在一第二運算裝置處偵測另一手勢3308。該第一運算裝置及該第二運算裝置可經組態以跨一通訊網路傳達資訊。以此方式,可藉由第一運算裝置在接近於第一運算裝置之一第一區中偵測模糊手勢3302,且可藉由第二運算裝置在接近於第二運算裝置之一第二區中偵測另一手勢3308。因而,即使當定位於不同區域(例如,一住宅內之不同房間)中時,運算裝置仍可利用連續在線學習。
此外,其他手勢可能不使用一雷達系統來辨識,但仍提供可用於將模糊手勢之雷達信號特性與第一手勢相關的資訊。假定運算裝置102未將模糊手勢辨識為第一手勢。使用者104可藉由運算裝置102使用不與雷達系統相關聯之另一感測器(在本文中別處列出之實例)來執行經偵測(且以另一非雷達方式辨識為第一手勢)之一額外手勢。基於在另一感測器處接收之額外手勢之指示,運算裝置102可判定額外手勢係第一手勢。類似於在上文描述之連續在線學習中,運算裝置102可基於額外手勢為第一手勢來判定模糊手勢3302與第一手勢相關。因而,運算裝置102可將模糊手勢之一雷達信號特性與第一手勢一起儲存,從而實現經改良辨識。
應注意,可使用各種形式之手勢辨識來辨識經執行手勢。例如,存在其中可使用未分段辨識來辨識模糊手勢之實施方案。特定言之,可在不使用先驗知識或指示使用者將執行模糊手勢之一喚醒觸發器事件的情況下實施未分段手勢辨識。然而,無關於實施方案,連續在線學習可使運算裝置102能夠連續改良手勢辨識之準確度,即使對於最難辨識手勢。
此外,雖然使用術語「連續」及「連續地」來描述連續在線學習,但應注意,不需要一直或永遠使用該等技術,而是該等技術在使用時可操作以連續及/或遞增地改良未來手勢辨識。亦在本文中使用術語「在線」來描述技術「學習」以更佳辨識及/或偵測手勢等之一種方式。此「在線」術語意欲傳達技術學習如何更佳偵測或辨識手勢,作為偵測及/或辨識手勢之程序之部分,伴隨該程序或透過該程序。相比而言,一明確訓練程式(例如,其中裝置訓練一使用者以依一特定方式執行一手勢)並非「在線」學習。因此,用於連續在線學習之此等技術可改良手勢辨識,而無需超出與裝置之正常使用者互動之單獨訓練。單獨訓練可結合此等技術使用,或在此等技術之前使用,但技術並不要求此。
基於使用者輸入之在線學習
圖34繪示用以改良模糊手勢辨識之基於使用者輸入之在線學習之一實例。在一實例性環境3400中,一使用者104定位於一運算裝置102之視野中。運算裝置102可包含向一手勢模組224提供雷達資料之一雷達系統108。在所繪示實例中,使用者104執行經識別為具有一或多個特定雷達信號特性之一模糊手勢3402。手勢模組224嘗試將模糊手勢3402辨識為一已知手勢(例如,透過未分段偵測,而無指示使用者104將要執行手勢之一喚醒觸發器事件),此可能需要手勢在預定置信度臨限值準則內與該已知手勢相關聯。
在此實例中,未滿足置信度臨限值準則,且因此,模糊手勢3402不能被辨識為一特定手勢,但代替性地與一或多個已知手勢(例如,一第一手勢3404及一第二手勢3406)相關聯。明確言之,手勢模組224可比較模糊手勢3402之一或多個雷達信號特性與一或多個已知特性所相關聯之經儲存特性。若在模糊手勢及一經儲存手勢之一或多個雷達信號特性之間判定一相關性,則模糊手勢3402可與經儲存手勢相關聯(對於可如何執行相關性,參見圖7至圖17、圖25及隨附描述)。一模糊手勢可歸因於與多個經儲存手勢之各者具有類似性而與該多個經儲存手勢相關聯,且手勢模組224可能無法將模糊手勢辨識為一特定已知手勢。一模糊手勢可代替性地與僅一個經儲存手勢相關聯,但未被辨識為足以滿足預定置信度臨限值準則。
一般而言,若運算裝置102不能將模糊手勢3402辨識為已知手勢之一者,則模糊手勢3402可不引起運算裝置102執行一命令。例如,在圖34中,模糊手勢3402與對應於一播放音樂命令3408之第一手勢3404及對應於一撥打電話給爸爸命令3410之第二手勢3406相關聯。鑒於運算裝置102不能將模糊手勢3402辨識為具有對應命令之兩個經辨識手勢之一者,運算裝置102可不執行任一命令。代替性地,運算裝置102可保持閒置,直至使用一手勢或另一形式之輸入請求命令。
在一些情況下,運算裝置102可提供未辨識模糊手勢3402之一指示,諸如透過使用一顯示器或揚聲器對使用者104之一通知。然而,在一些例項中,使用者104可在未由運算裝置102提示(例如,請求)的情況下執行命令或請求執行命令。當運算裝置102不回應於模糊手勢3402執行所要命令時,使用者104可選取自身執行命令或透過一不同輸入類型(例如,一非雷達輸入、透過一觸敏顯示器或鍵盤之一觸碰輸入,或透過一語音辨識系統之一音訊輸入)起始命令。
如所繪示,使用者104使用一語音命令3412來請求運算裝置102「播放今天的熱門歌曲」。因此,運算裝置102可接收來自使用者104之語音命令3412且開始播放音樂(例如,使用儲存於裝置上之一應用程式或透過至一媒體服務之一網路連接)。一般而言,一使用者輸入可改變運算裝置102或任何其他經連接裝置之一操作狀態。例如,運算裝置102可開始播放音樂,維持一計時器或執行任何其他操作。操作狀態之任何此等變化可指示使用者104已執行或已請求執行一命令。
在實例性環境3400中,使用者104在運算裝置102未能對模糊手勢3402作出回應之後執行語音命令3412,且因此使用者104可能預期模糊手勢3402引起運算裝置102執行與語音命令3412相同之動作。因而,運算裝置102可判定藉由語音命令3412執行或回應於語音命令3412之一命令是否與對應於模糊手勢3402所相關聯之手勢(例如,第一手勢3404及第二手勢3406)之一命令相同或類似。例如,運算裝置102可判定語音命令3412與對應於第一手勢3404之播放音樂命令3408相同或類似,因為兩個命令皆引起運算裝置播放音樂。
在判定語音命令3412與相關聯手勢所相關之一命令相同之後,運算裝置102可儲存與第一手勢3404相關聯之模糊手勢3402之一或多個雷達信號特性以使手勢模組224能夠更佳地辨識第一手勢3404之一未來執行。因此,手勢模組224可利用與一或多個卷積神經網路相關聯之一空間-時間機器學習模型來改良模糊手勢3402之偵測。在態樣中,在儲存與已知手勢相關聯之雷達信號特性之前,運算裝置102可提示使用者104確認模糊手勢3402係已知手勢(例如,藉由在顯示器上提供一通知及接受來自使用者104之一確認)。以此方式,運算裝置102可消除雷達信號特性與已知手勢之錯誤關聯。在一些實例中,與模糊手勢3402相關聯之雷達信號特性可與已知手勢之一特定經儲存雷達信號特性相關聯以使手勢模組224能夠增加特定雷達信號特性與一已知手勢之間的關聯之置信度(例如,權重)。
在一些實施方案中,運算裝置102可判定模糊手勢3402之執行與指示執行或請求執行一命令(例如,語音命令3412)之使用者輸入之間的一時間段。此時間段可用於判定由於使用者輸入而執行之命令是否與模糊手勢3402所相關聯之已知手勢之一者相關聯之一命令相同。此外或替代性地,此時間段可用於判定與已知手勢相關聯之雷達信號特性之一權重,如圖33中所描述。
在態樣中,運算裝置102可判定是否在模糊手勢3402之執行與指示執行或請求執行一命令之使用者輸入之間的時間段內執行或請求執行一不同命令(例如,如在圖33中所描述)。該不同命令可不同於對應於模糊手勢3402所相關聯之已知手勢(例如,第一手勢3404及第二手勢3406)之命令(例如,播放音樂命令3408及撥打電話給爸爸命令3410)。因而,若判定在模糊手勢3402之執行與指示執行或請求執行語音命令3412之使用者輸入之間的時間段內未執行或請求不同命令,則可儲存模糊手勢3402之一或多個雷達信號特性。
應注意,語音命令3412僅為可用於在線學習之一使用者輸入之一個實例,且技術可代替性地或另外利用其他形式之使用者輸入,諸如觸碰命令(例如,使用者104觸碰運算裝置102之一觸敏顯示器,使用者104透過運算系統102之一語音辨識系統使用其等語音來控制運算裝置102,或使用者104在一實體或數位鍵盤上鍵入一命令)。亦為重要的是,應注意使用者輸入可能並不限於在運算裝置102處接收。例如,使用者輸入可在運算裝置102可與其通訊之任何其他裝置(例如,其他智慧家庭裝置)處接收。作為一非限制性實例,另一裝置上之一使用者輸入可包含設定一智慧電器上之一計時器,致動一智慧燈開關或智慧門鎖,或調整一智慧恆溫器。
一般而言,手勢模組224可繼續改良一使用者之獨特手勢執行之手勢辨識,從而改良使用者在手勢辨識中之置信度且增加使用者滿意度。用於在線學習之技術可使手勢模組224能夠在不使用一手勢訓練事件進行分段式教示的情況下進行訓練。例如,手勢模組224可在無需運算裝置102明確地教示使用者104一手勢或請求使用者104執行該手勢的情況下改良手勢辨識。因此,技術可能不需要對使用者104構成一額外負擔來訓練運算裝置102。
在線學習
圖35繪示用於啟用雷達之運算裝置之新手勢之在線學習之技術。在一環境3500中,使用者104定位於運算裝置102之一視野中。使用者104執行藉由運算裝置102之雷達系統108偵測之一手勢3502,且藉由手勢模組224 (例如,如上文所描述)自手勢3502判定一雷達信號特性。在此實例中,使用者104旋轉其等之手以模仿倒咖啡之一動作以指示使用者104希望運算裝置102起動一咖啡機。在偵測到手勢3502時,運算裝置102可判定手勢3502係由使用者104執行之一有意運動而非與預期用於運算裝置102之一特定手勢不相關之一背景運動。
比較手勢3502之雷達信號特性與一或多個已知手勢所相關聯之一或多個經儲存雷達信號特性。在環境3500中,該比較有效地判定缺少手勢3502與一或多個已知手勢之間的相關性。明確言之,該比較對於在一所要置信度位準(例如,在一低置信度臨限值而非一高置信度臨限值)將手勢3502或相關聯雷達信號特性與一或多個已知手勢相關可為無效的。例如,相關聯之雷達信號特性可能不足以滿足待與經儲存雷達信號特性之任何者相關之置信度臨限值準則。
鑒於手勢3502缺少與一或多個已知手勢之相關性,則運算裝置102未能辨識手勢3502且對其作出回應。如所展示,使用者104提供命令3504 (例如,一語音命令),命令3504指示使用者104希望運算裝置102起動咖啡機。在一些情況下,運算裝置102可判定命令3504不與對應於一或多個已知手勢之一或多個已知命令相同或類似。雖然命令3504經展示為使用者104使用其等之語音來要求運算裝置102「起動咖啡機」,但可包含其他命令,諸如透過運算裝置102或另一經連接裝置之一觸敏顯示器或鍵盤或透過使用者實體地執行命令(例如,實體地起動咖啡機)輸入之命令。
回應於判定缺少手勢3502與一或多個已知手勢之間的相關性及接收命令3504,運算裝置102可判定手勢3502係尚未由運算裝置102學習或與一特定命令相關聯之一新手勢3506。在一些情況下,運算裝置102可向使用者104提供此判定之某一指示,諸如藉由顯示詢問使用者該手勢是否係一新手勢(例如,尚未對運算裝置102教示或指派至一特定命令之一手勢)之一訊息。使用者可藉由指示手勢係一新手勢來作出回應。
運算裝置102可判定手勢3502係新手勢3506且接著儲存與手勢3502相關聯之雷達信號特性以使運算裝置102能夠在未來辨識手勢3502之一執行。又,運算裝置102將新手勢3506與起動咖啡機之一命令3508相關聯。以此方式,運算裝置102可在使用者104方便時無縫學習新手勢。又,藉由如此做,運算裝置102可不限於在一手勢訓練時段期間學習新手勢。
儘管在環境3500中展示一特定實施方案,但應注意,其他實施方案應被辨識為在本發明之範疇內。例如,可不要求在執行手勢3502之後執行命令3504。一般而言,命令3504可在時間上接近手勢3502而執行,諸如在兩秒、五秒、十秒或三十秒之一預定時間限制內執行。類似地,命令3504可在手勢3502之執行之前、之後或同時執行。作為特定實例,使用者104可在執行手勢3502之前執行命令3504,或使用者104可與執行手勢3502同時執行命令3504 (例如,藉由在執行手勢3502時說出命令3504)。在一些實施方案中,在運算裝置102未偵測由使用者104起始之一干預手勢或另一命令的情況下,將由運算裝置102接收命令3504。
在一些實例中,運算裝置102可針對不同使用者獨立地學習新手勢。例如,當運算裝置102儲存手勢3502之雷達信號特性時,運算裝置102可將雷達信號特性及新手勢3506與一特定使用者相關聯。以此方式,在未來辨識手勢3502可包含區分相關聯使用者及辨識手勢之執行。為實現此判定,運算裝置102可判定與使用者之存在相關聯之可用於將使用者判定為一經註冊使用者之另一雷達信號特性。當判定一新手勢且儲存其雷達信號特性時,亦可儲存與使用者之存在相關聯之另一雷達信號特性以使運算裝置能夠在一未來時間辨識使用者。藉由獨立地學習與各使用者相關聯之新手勢,運算裝置102可基於使用者將不同手勢與不同命令相關聯。例如,運算裝置102判定手勢3502係使用者104之一新手勢但係另一使用者之一已知或未知手勢。以此方式,運算裝置102可實現一使用者可客製的手勢控制技術。
情境敏感的感測器組態
圖36繪示用於組態具有一主要感測器之一運算裝置之實例性技術。一實例性環境3600繪示兩個不同運算裝置:實施於一廚房3602內之一運算裝置102-1及實施於一辦公室3604內之一運算裝置102-2。在廚房3602內,一使用者104-1定位於運算裝置102-1之一視野內。類似地,一使用者104-2係繪示在運算裝置102-2之一視野內。運算裝置102-1可判定與由使用者104-1執行一手勢之條件相關聯之一第一情境3606,而運算裝置102-2可判定與由使用者104-2執行一手勢之條件相關聯之一第二情境3608。
使用者104-1可在廚房3602內之一區中執行一手勢。運算裝置102-1可使用經組態以量測該區中之活動之一或多個感測器來偵測該手勢。使用各感測器之方式或各感測器偵測及辨識手勢之一準確度或精度可基於與其中執行手勢之區相關聯之一情境而改變。例如,運算裝置可判定與其中使用者執行一手勢之區相關聯之一情境。可自與其中執行手勢之區有關之任何數目個細節判定該情境。例如,可根據參考圖25至圖31描述之情境判定之一或多個態樣來判定情境。
在一些實施方案中,可基於在其中執行手勢之區內之周圍條件來判定情境。例如,運算裝置可判定與區內之光、聲音、干擾、物體之一配置或移動有關之條件。一些感測器可更能夠在一組特定條件下辨識手勢。例如,一光學感測器(例如,一攝影機)可更能夠在一光線充足的環境中辨識一手勢。相較於一光學感測器,一雷達感測器在一光線不良的環境中可經歷更少降級。因此,在其中照明條件不良之一環境中,一攝影機不太能夠成功地用於辨識一手勢。
在另一實例中,當一環境內存在大量移動時,一雷達感測器對於辨識一手勢可為無效的。例如,一雷達感測器可能無法區分一環境內之不同移動。在其中存在大量移動之一非常活躍的環境中,一非雷達感測器(例如,一攝影機)可更能夠辨識一手勢。
在另一實例中,當一環境中存在大量干擾時,一雷達感測器可能無法辨識一手勢。例如,彼此接近地實施之多個雷達裝置可歸因於裝置之間的交叉傳訊而引起干擾。當一運算裝置嘗試辨識一手勢時,此干擾可增加雷達接收信號中之一雜訊底限(floor)且降低雷達感測器辨識一手勢之能力。
一麥克風可用於補充手勢辨識(例如,判定與手勢之執行有關之其他細節)。然而,在高雜訊環境中,此等音訊感測器在提供關於一手勢之情境細節時可能不太有效。因此,音訊感測器在一高雜訊環境中不太能夠補充手勢辨識。
替代性地或此外,情境可基於運算裝置所駐留之一位置。例如,運算裝置可判定其定位於一廚房內。基於此判定,運算裝置可能夠判定哪一特定使用者可能執行一手勢、可能執行之手勢之類型或可能存在之周圍條件。此等細節可用於判定哪一感測器最有可能辨識一手勢。例如,在廚房中,使用者可最有可能執行與烹飪有關之手勢(例如,控制電器、起動計時器或搜尋配方)。運算裝置可判定哪些感測器最能夠偵測此等特定手勢(例如,基於過去執行及辨識)。
位置可提供關於在其中執行手勢之區中可能存在之周圍條件之資訊。例如,定位於一臥室中之一運算裝置可能存在於一弱光條件下,定位於一客廳中之一運算裝置可能在一高雜訊或高移動環境中等。此外或替代性地,運算裝置之位置可提供與哪些使用者可能執行一手勢或哪些手勢可能被執行有關之資訊。例如,一特定使用者或一組特定使用者更有可能存在於一房子、一辦公室或另一環境之特定區域中。
作為使用位置來判定哪一使用者正在執行手勢之替代或除了使用位置來判定哪一使用者正在執行手勢之外,使用者偵測(例如,如本文件中所描述)可用於識別執行手勢之特定使用者。如所繪示,運算裝置102-1可判定特定使用者104-1正在執行手勢。如此做時,第一情境3606可包含與使用者104-1有關之資訊,諸如與手大小、手勢執行速度、手勢執行清晰度等有關之資料。此等細節可用於判定一特定感測器辨識由使用者104-1執行之一手勢之能力。例如,一雷達感測器不太能夠辨識由具有較小手之一使用者執行之一手勢。作為另一實例,特定感測器可更能夠基於由一特定使用者執行之手勢之先前執行及偵測來準確地辨識來自該使用者之手勢。在一些實施方案中,使用者可最有可能執行特定感測器可更能夠辨識之特定手勢(例如,基於使用者之手勢之過去執行及偵測)。
可基於一天中執行手勢之一時間來判定情境。此資訊可提供與任何其他情境相關資料有關之資料。例如,在晚上,一運算裝置可更有可能處於一弱光條件下,手勢可更有可能與晚上事件(例如,烹飪)有關,或一組特定使用者可更有可能存在。類似地,一天中的其他時間可具有可對情境判定有益之其他特性。
情境可與運算裝置之前景或背景操作有關。裝置之操作可提供可能被執行之手勢或可能執行手勢之使用者之有用指示。調整環境內之條件(例如,照明、音訊等)之最近操作可提供其中執行手勢之區中之周圍條件之一指示。此資料可用於判定區內之情境。
應注意,此等僅係判定情境之方式及可如何使用一經判定情境來判定感測器能力之一些實例。因此,情境判定之其他實例可用於判定感測器能力,諸如關於圖25至圖31之任何者描述之情境。資料與情境或情境與感測器能力之間的相關性可透過包含本文件中描述之任何機器學習技術之任何數目種技術來判定。
參考廚房3602之所繪示實例,運算裝置102-1可判定一特定區之第一情境3606。第一情境3606可與其中執行手勢之一位置(例如,廚房3602)、執行手勢之一特定使用者(例如,使用者104-1)、其中執行手勢之環境之周圍條件、運算裝置102-1相對於使用者104-1之一定向或位置及反之亦然(例如,若使用者104-1在一特定感測器之一視野內)、一天中的時間、運算裝置之背景或前景操作(例如,如關於圖30所描述)等有關。基於第一情境3606,運算裝置102-1可判定運算裝置102-1之一或多個感測器之一能力以提供對辨識手勢有用之資料。運算裝置可包含多個感測器,諸如一雷達感測器3610及一非雷達感測器(例如,一光學感測器3612)或相同類型之多個感測器。儘管感測器之特定組態係關於圖36進行描述,但可實施本文中別處列出之其他感測器。
運算裝置102-1可判定一第一感測器辨識在一特定區中執行之一手勢之一能力。例如,運算裝置102-1可判定雷達感測器3610能夠基於第一情境來辨識手勢。感測器辨識手勢之能力可在一漸進尺度上,使得不同感測器能力可互相比較。可自情境與手勢辨識之間的先前相關性(例如,自具有特定情境之一環境中之手勢辨識)判定能力。除了判定第一感測器辨識在區中執行之手勢之能力之外,亦可判定一第二感測器辨識手勢之一能力。
一旦判定一或多個感測器之能力,便可比較該等能力以判定哪一感測器更能夠辨識區內之手勢之執行。可將更有能力的感測器判定為主要感測器,且運算裝置可經組態以優先於其他感測器來使用主要感測器。在態樣中,運算裝置可藉由對藉由主要感測器收集之資料進行更重加權來優先地使用主要感測器。運算裝置可經組態以藉由透過減少供應至其他非主要感測器之電力且在一些情況下增加供應至主要感測器之電力來組態具有主要感測器之裝置來節省電力。
在所繪示之特定實例中,雷達感測器3610經組態為主要感測器。在態樣中,歸因於可引起區具有不足以照明該區之一光量且容許一光學感測器辨識手勢之一弱光條件,可將雷達感測器3610判定為更有能力或最有能力的感測器。在一些實施方案中,雷達感測器3610可更能夠提供資料以基於使用者104-1之特定偏好、在區中最常執行之手勢之類型或雷達感測器3610及其他感測器相對於區或相對於彼此之定向來辨識手勢。一般而言,應瞭解,可基於經判定情境或一特定情境與一感測器用於在該情境中辨識一手勢之一特定能力之間的任何相關性之任何者來判定主要感測器。
由於將雷達感測器3610組態為運算裝置102-1之主要感測器,因此相較於藉由其他感測器收集之資料,可優先使用藉由雷達感測器3610收集之資料。例如,藉由雷達感測器3610收集之資料在手勢偵測或辨識期間可比藉由其他感測器收集之資料更重地加權。此外或替代性地,藉由在手勢之偵測期間或之後變更運算裝置102-1之設定,運算裝置102-1可經組態具有一主要感測器,諸如具有不同於雷達感測器3610之一主要感測器。
如同藉由運算裝置102-1判定之第一情境3606,運算裝置102-2可判定與其中使用者104-2執行一手勢之環境有關之第二情境3608。第二情境3608可用於判定運算裝置102-2之一或多個感測器偵測由使用者104-2在辦公室3604之一特定區內執行之手勢的能力。可比較一或多個感測器之能力以判定一最有能力的感測器,且該最有能力的感測器可經組態為運算裝置102-2中之一主要感測器。
如所繪示,光學感測器3612經判定為主要感測器。在態樣中,用主要感測器組態運算裝置102-2可在對手勢之辨識之前、期間或之後執行。回應於組態運算裝置,可通知使用者運算裝置已經組態具有主要感測器。例如,運算裝置可向使用者提供一通知,該通知可包含一聲調、光、文字、介面通知或振動。
在態樣中,光學感測器3612可經判定為主要感測器,因為第二情境3608指示其中執行手勢之區係光線充足的,使用者104-2偏好光學感測器3612作為主要感測器,基於周圍條件或使用者特性之手勢辨識需要一精細解析度,存在大量雷達干擾,一特定類型之手勢最有可能在一當前或未來時間在區中執行,或存在可偏袒光學感測器3612之任何其他情境。運算裝置102-2可經組態使得光學感測器3612優先於運算裝置102-2內之其他感測器使用以改良手勢偵測及/或辨識之準確度。
透過所描述之技術,一運算裝置可經組態以基於其中執行手勢之一情境來最佳地偵測一手勢。如此做時,運算裝置可適應各環境以準確地偵測及辨識手勢,即使在對手勢辨識造成顯著困難之環境中亦如此。
偵測使用者參與
圖37繪示其中可執行用於偵測使用者對一互動裝置之參與之技術之一實例性環境。儘管繪示(及提及)為運算裝置102,但互動裝置可為耦合至運算裝置102且實施一使用者介面以實現與使用者104之互動之另一裝置。在一些例項中,運算裝置102判定使用者104是否有可能與運算裝置102互動可為有益的。例如,當使用者104與運算裝置102之間的互動即將發生時,運算裝置102可顯示可與使用者104相關之資訊,諸如時間資訊、裝置狀態資訊、通知及類似者。運算裝置102可藉由判定使用者對運算裝置102之一當前或經計劃(例如,未來,在時間上接近)參與來判定使用者104將與裝置互動之可能性。
運算裝置102可利用與使用者104或環境3700有關之資訊來判定使用者對裝置之參與。運算裝置102可利用一雷達系統(例如,雷達系統108)或裝置之任何其他感測器系統來判定可在偵測使用者參與時有用之關於使用者104或環境3700之資訊。運算裝置102可發射雷達信號且接收從使用者104或周圍環境反射之此等雷達信號之反射。可處理此等接收信號以判定使用者104或環境3700之特性,該等特性可用於判定使用者104對運算裝置102之參與。例如,運算裝置102可判定使用者相對於運算裝置102之一接近度3702,且經判定接近度3702可提供使用者對裝置之參與之指示。
在一些例項中,當使用者定位於裝置之一特定接近度(例如,小於或等於一接近度臨限值準則)內時,運算裝置102可判定使用者104更有可能參與裝置。例如,運算裝置102或可用於與使用者104互動之一感測器系統(例如,雷達系統、觸控顯示器、語音命令及類似者)可具有一特定距離,在該特定距離處,其可有效地偵測或辨識使用者與裝置之互動。因此,當使用者遠離裝置時,使用者104不太可能預期與裝置互動。以此方式,接近度可用於判定使用者對裝置之參與,諸如藉由在使用者更靠近裝置時判定一更高使用者參與。
然而,僅接近度可能不足以準確地判定使用者對裝置之參與。在一些案例中,使用者104可碰巧接近於運算裝置102,而從未預期與運算裝置102互動,諸如當與定位在運算裝置102附近之另一裝置或人員互動時,或當走過運算裝置102時。因此,當接近度用作判定使用者參與之唯一因素時,運算裝置102可能無法準確地偵測使用者參與,從而引起運算裝置次優地執行。
為增加使用者參與之偵測之準確度,可使用任何數目個因素來判定使用者參與,例如,包含使用者相對於運算裝置102之經計劃接近度或使用者相對於運算裝置102之身體定向。使用者相對於運算裝置102之經計劃接近度可包含判定使用者104與運算裝置102之接近度正在改變的速率。在一些例項中,判定經計劃接近度可包含判定指示使用者104移動之一方向之一路徑3704。路徑3704可被表示為指示使用者相對於運算裝置之移動之方向及在一些情況下量值(例如,速度)之一向量。藉由判定使用者104之一路徑,與一簡單接近度變化相比,運算裝置102可更準確地判定使用者104是否期望參與運算裝置102。
當使用者104移動朝向運算裝置102時,使用者可能期望與裝置互動且因此移動朝向裝置以進入裝置之一視野內或查看顯示於裝置上之內容。然而,其中使用者104接近裝置之其他例項可能與使用者與裝置互動之意圖無關,諸如當使用者104移動以拾起靠近運算裝置102定位之一物體時。因此,判定使用者104之路徑3704可為有益的,路徑3704可用於判定使用者104可能移動至何處。若路徑3704經引導朝向運算裝置102 (例如,直接地或接近直接地朝向裝置,如圖37中所展示),則使用者104更有可能參與裝置且可能與裝置互動。然而,若路徑3704未經引導朝向裝置(例如,移動遠離裝置或朝向裝置但未直接地引導朝向),則使用者接近裝置更可能為巧合的且不指示使用者對裝置之參與(例如,使用者僅僅移動經過運算裝置)。
可以許多方式判定使用者104之路徑3704,諸如使用後續位置量測或都卜勒量測。在一些情況下,可藉由比較使用者104之一當前位置與使用者104之一或多個歷史位置來判定路徑3704。可自使用者104之可包含一方向或速率之一或多個歷史移動來判定路徑3704。可比較當前方向或速度(例如,當經組合時為速率)與歷史移動以判定使用者之路徑3704朝向或遠離運算裝置102之一準確表示。此等歷史移動可緊接在使用者之當前位置之前(例如,使用者之路徑3704之一先前部分)或可自先前移動記錄,諸如當使用者在前一天走過運算裝置102時。此類歷史可透過構建如下文提及之一機器學習模型或透過啟發法或其他方式來使用。因此,若一使用者過去走過一路徑且在遵循該歷史路徑時重複地未與運算裝置102互動(或已與運算裝置102互動),則此資訊可用於判定使用者104參與運算裝置102或與運算裝置102互動之一意圖之一低(或高)概率。
除了接近度3702或經計劃接近度之外或作為其替代,運算裝置102可判定使用者104之一身體定向3706以判定使用者對運算裝置102之參與。在一個實例中,身體定向3706可基於使用者104之一面部輪廓。一雷達系統或其他感測器系統可用於判定使用者之面部指向之位置(例如,面部輪廓是否面向或背對裝置)。身體定向3706可基於使用者之視線(例如,使用者正看向運算裝置102或從運算裝置102移開視線之一判定)。
可自使用者之身體定位(諸如使用者104之軀幹或頭部朝向或遠離運算裝置102之一定向)來判定身體定向3706。雷達系統或其他感測器系統可收集與使用者有關之資訊(例如,雷達接收信號)以(例如)藉由收集雷達資料以判定使用者104之一正面輪廓(例如,諸如胃部、胸部、軀幹、肩部及類似者之平坦表面)是否面向運算裝置102來判定使用者104之身體定向。身體定向3706可用於判定使用者身體之受關注之一大致方向,該大致方向可朝向或遠離運算裝置102。
身體定向3706亦可或替代性地包含使用者104之手勢之辨識。例如,運算裝置102可判定使用者是否指向或伸向運算裝置102,此可指示一使用者參與裝置或與裝置互動之意圖。手勢可包含由運算裝置102儲存或未儲存之任何數目個手勢。在一些例項中,當運算裝置102偵測或辨識由使用者104執行之一手勢時,使用者104可能參與裝置。運算裝置102可判定手勢是否係一已知手勢(例如,一經儲存手勢)。若手勢對應於一已知手勢,則使用者可能參與裝置(例如,此並非係並非一「手勢」之一無關使用者移動)。運算裝置102可判定此等手勢之方向以判定該等手勢是否可能預期用於運算裝置102。若手勢經引導朝向運算裝置102,則使用者104可經判定為具有對運算裝置102之更高參與。
運算裝置102可使用因素之任何組合(例如,包含一個或全部)以估計使用者對裝置之參與或經計劃(例如,未來,在時間上接近)參與。可對該等因素進行不同地加權以使各因素能夠對使用者之參與之判定具有更大或更小影響。在一些例項中,運算裝置102可利用至少兩個因素來估計使用者對運算裝置102之參與。運算裝置102可根據任何機器學習技術(包含本文中描述之技術)利用一機器學習模型(例如,700、802)。可監督機器學習,使得使用者104與運算裝置102互動(例如,透過觸碰輸入、手勢輸入、語音命令或任何其他輸入方法)以確認使用者相對於裝置之接近度、經計劃接近度或身體定向,或此等判定之任何者與使用者之參與之間的關聯。
運算裝置102可進一步使對使用者之參與之一估計基於運算裝置102相對於使用者104之方向。例如,若運算裝置102之一感測器系統(例如,雷達系統)之一顯示器或一視野經引導朝向使用者104,則使用者104更有可能參與裝置。然而,若顯示器指向遠離使用者104或使用者在裝置之感測器系統之視野之外,則使用者104不太可能參與裝置。在一些例項中,運算裝置102之方向可結合使用者之接近度3702、經計劃接近度或身體定向3706一起用於判定使用者參與。例如,若運算裝置102判定使用者104正移動朝向運算裝置102 (例如,在一足夠近的接近度內),則使用者104可經判定為對裝置具有一高參與位準。若運算裝置102經引導在一特定方向上且使用者104在裝置對面且在一相反方向上定向(例如,使得運算裝置102及使用者104朝向彼此定向),則使用者可能參與裝置。替代性地,若使用者104移動遠離顯示器之方向性定向,則運算裝置102可判定使用者104對運算裝置102具有一低參與位準。
使用者之參與可用於判定藉由其組態運算裝置102之適當設定。例如,若使用者104經判定為參與裝置(例如,判定一高參與),則對使用者104有用之內容可顯示於裝置上。類似地,若使用者104參與且因此可能與裝置互動,則可增加一或多個感測器系統之一電力使用以更佳偵測、辨識或解譯使用者與運算裝置102之互動。運算裝置可判定使用者104之識別碼以針對各參與位準判定一適當設定。例如,當一經授權或經辨識使用者參與裝置時,運算裝置可減小裝置之一隱私設定以使裝置之應用程式或內容對使用者104更可用(例如,圖20之第一隱私設定2002)。然而,若一未經授權使用者經判定為參與裝置,則可將隱私設定變更為一更具限制性的設定以防止敏感內容被顯露給未經授權或未經辨識使用者(例如,圖20之第二隱私設定2004)。在其他情況下,可在不區分使用者104的情況下基於使用者參與來調整運算裝置102之隱私設定。
當使用者經判定為不參與裝置(例如,判定一低參與)時,可類似地調整運算裝置以基於使用者之低參與位準來組態。例如,運算裝置之感測器系統可被關閉或在一低功率模式中操作。類似地,可調暗或關閉運算裝置102之顯示器以節省裝置上之電力。當使用者104不參與裝置時,可將裝置資源重導引至其他任務,諸如維護任務(例如,更新軟體或韌體)。在一些情況下,可增加裝置之一隱私設定以降低敏感內容被顯露給一未經授權使用者之可能性。應瞭解,儘管描述特定實例,但可基於使用者參與調整其他設定。類似地,運算裝置102可自在判定一使用者與一運算裝置互動之可能性時可能有用之其他因素判定使用者參與。以此方式,藉由偵測使用者參與,可基於一使用者對裝置之一當前或經計劃參與來變更一運算裝置以在任何數目個情境中最佳地執行。
實例性方法
圖38繪示用於多個啟用雷達之運算裝置之一系統之一實例性方法3800。方法3800經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在3802,自一運算系統之一第一運算裝置發射一第一雷達發射信號。例如,可自一第一運算裝置102-1之一第一雷達系統108-1發射一第一雷達發射信號402-1以偵測一使用者104是否存在於一第一鄰近區106-1內(例如,圖1及圖20)。參考圖3、圖4、圖21至圖23、圖26至圖29及圖36,第一運算裝置102-1可為包括兩個或更多個運算裝置102-X之一運算系統之一部分。運算系統之各運算裝置102可藉助於一通訊網路302與系統之另一裝置交換資訊(例如,雷達信號特性、經儲存資訊、進展中之操作)。此外,此資訊可儲存至可為本端的、共用的、遠端的或等等之一或多個記憶體。如參考圖4所描述,第一雷達發射信號402-1可包含一單個信號、類似或相異之多個信號、一信號叢發、連續信號等。
在3804,在第一運算裝置處接收一第一雷達接收信號。例如,可藉由第一運算裝置102-1之第一雷達系統108-1接收一第一雷達接收信號404-1。第一雷達接收信號404-1可與已從第一鄰近區106-1內之一物體(例如,使用者104)反射之第一雷達發射信號402-1相關聯。此經反射信號(第一雷達接收信號404-1)可表示第一雷達發射信號402-1在時間、振幅、相位或頻率方面之一修改。
在3806,基於第一雷達接收信號之一第一雷達信號特性來判定一經註冊使用者之一存在。例如,可基於第一雷達接收信號404-1之一第一雷達信號特性來判定經註冊使用者之一存在(參考圖1及圖21)。此第一雷達接收信號404-1可從一物體(例如,經註冊使用者)反射且含有可用於將此物體區分為經註冊使用者之一或多個雷達信號特性(例如,與時間、拓撲及/或手勢資訊相關聯)。特定言之,第一雷達接收信號404-1之第一雷達信號特性可與一經註冊使用者之一第一經儲存雷達信號特性相關。該相關性可指示第一鄰近區106-1內之經註冊使用者之一存在。此等經儲存雷達信號特性可儲存於可藉由運算系統之任何運算裝置102-X存取之一本端、共用或遠端記憶體上。此外,第一雷達信號特性可儲存至該記憶體以改良在一未來時間對經註冊使用者之偵測及區別。如本文中所提及,亦可使用情境及其他資訊來幫助偵測一使用者及區分一使用者兩者。
在3808,自運算系統之一第二運算裝置發射一第二雷達發射信號。例如,參考圖1及圖21,可自一第二運算裝置102-2之一第二雷達系統108-2發射一第二雷達發射信號402-2以偵測一使用者104是否存在於一第二鄰近區106-2內。第二運算裝置102-2可為至少包含第一運算裝置102-1之運算系統之一部分。
在3810,在第二運算裝置處接收一第二雷達接收信號。例如,可藉由第二運算裝置102-2之第二雷達系統108-2接收一第二雷達接收信號404-2。第二雷達接收信號404-2可與已從第二鄰近區106-2內之一物體(例如,一使用者104)反射之第二雷達發射信號402-2相關聯。
在3812,基於第二雷達接收信號之一第二雷達信號特性與一或多個經儲存雷達信號特性之一相關性來判定經註冊使用者之存在。例如,可基於第二雷達接收信號404-2再次判定經註冊使用者之存在。特定言之,第二雷達接收信號404-2之第二雷達信號特性可與經註冊使用者之第一經儲存雷達信號特性或一第二經儲存雷達信號特性相關。該相關性指示第二鄰近區106-2內之經註冊使用者之存在,以區分使用者與一或多個其他使用者或潛在使用者。第二運算裝置102-2可替代性地比較第二雷達信號特性與第一雷達信號特性(藉由第一運算裝置102-1判定)以判定經註冊使用者之存在。以此方式,藉由第一運算裝置102-1偵測、判定及/或儲存之資訊可由運算系統之任一或多個裝置(例如,第二運算裝置102-2)使用以區分(例如)經註冊使用者。
圖39繪示使用情境資訊之基於雷達之模糊手勢判定之一實例性方法3900。方法3900經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在3902,一運算裝置偵測由一使用者執行之一模糊手勢。例如,一運算裝置102利用一雷達系統108來偵測由一使用者104執行之一模糊手勢之一或多個雷達信號特性。一模糊手勢(例如,模糊手勢2402)可係指不能由裝置在一所要置信度位準辨識之一手勢。上文描述偵測及分析與手勢(或使用者)相關聯之雷達信號特性之技術。一手勢可以足夠置信度被偵測及判定為一手勢而非一非手勢身體移動、動物、靜止物體等,但具有不足以被辨識之一置信度,諸如低於一高置信度位準且高於一無置信度位準。在此情況下,經偵測之手勢係一模糊手勢。
在3904,將一模糊手勢與一第一手勢及一第二手勢相關。例如,運算裝置102比較模糊手勢之一或多個雷達信號特性與一或多個經儲存雷達信號特性。一手勢模組224將模糊手勢與第一(已知)手勢(例如,第一手勢2404)或第二(已知)手勢(例如,第二手勢2406)相關。第一手勢及第二手勢可分別對應於待藉由運算裝置102執行之一第一命令及一第二命令。若手勢模組224不能在一所要置信度位準將模糊手勢辨識為第一或第二手勢,則運算裝置102可利用額外資訊(情境資訊2408),如關於圖24至圖31及圖36所描述。特定言之,參考關於圖8之論述,一手勢去除抖動器810可使用一或多個啟發法來判定模糊手勢與第一或第二手勢不充分相關。
在3906,運算裝置基於情境資訊判定模糊手勢係第一手勢。例如,運算裝置102之手勢模組224基於情境資訊(例如,情境資訊2408)判定模糊手勢係第一手勢。情境資訊可係指在一當前時間、過去時間或未來時間藉由運算裝置102執行之操作之一狀態。此外,情境資訊可包含使用者習慣、房間相關情境、背景及前景操作、裝置之位置、一當前時間、使用者存在、一或多個訓練歷史等。此判定可透過本文中描述之一機器學習模型及其他技術進行。因此,該等技術可使用情境、基於相關雷達信號特性之一置信度位準、使用者識別碼(經註冊、未註冊等)等來辨識模糊手勢。
在3908,雷達系統引起執行對應於第一手勢之第一命令。例如,雷達系統108可發送一或多個控制信號(使用基於雷達之應用程式208)以引導運算裝置102、與運算裝置102相關聯之一應用程式,或與運算裝置102相關聯之另一裝置(例如,一第二運算裝置102-2)來執行對應於第一手勢之第一命令。
圖40繪示用於基於雷達之手勢辨識之連續在線學習之一實例性方法4000。方法4000經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4002,在一運算裝置102處偵測由一使用者104執行之一模糊手勢。可透過運算裝置102之一雷達系統108偵測該模糊手勢。可在鄰近於運算裝置102之一區域中執行模糊手勢。雷達系統108可判定與模糊手勢相關聯之一或多個雷達信號特性。例如,模糊手勢可與一第一雷達信號特性相關聯。
在4004,可比較第一雷達信號特性與一第一手勢之一或多個經儲存雷達信號特性。一或多個經儲存雷達信號特性可基於作為手勢偵測及辨識之部分藉由雷達系統108接收之雷達信號之先前偵測。經儲存雷達信號特性可儲存於運算裝置102、雷達系統108、一手勢模組224、與運算裝置102通訊之一伺服器,或與運算裝置102相關聯且運算裝置102經組態以與其通訊之任何其他裝置。在態樣中,歸因於模糊手勢之一執行差異、雷達系統108之一變更或其他原因,第一雷達信號特性可不同於第一手勢之一或多個經儲存雷達信號特性。因而,手勢模組224可能無法將模糊手勢辨識為第一手勢或將第一雷達信號特性與第一手勢相關。
在4006,由使用者執行另一手勢且藉由運算裝置102 (諸如藉由雷達系統108)偵測該另一手勢。替代性地,可藉由使用一通訊網路302與運算裝置102通訊之另一運算裝置偵測另一手勢。可在鄰近於運算裝置102或另一運算裝置之一區域中執行另一手勢。在態樣中,在運算裝置102未能辨識模糊手勢且對其作出回應之後,可由使用者104執行另一手勢。在一些實施方案中,運算裝置102可提示使用者重新執行手勢,要求一替代輸入類型(例如,音訊或觸碰輸入),或僅等待手勢之另一執行。雷達系統108可判定與另一手勢相關聯之一或多個雷達信號特性(諸如一第二雷達信號特性)。
在4008,比較第二雷達信號特性與一或多個經儲存雷達信號特性。一或多個經儲存雷達信號特性可與在4004描述之一或多個經儲存雷達信號特性相同或不同。第二雷達信號特性與一或多個經儲存雷達信號特性之比較可有效地將另一手勢辨識為第一手勢。在態樣中,由於使用者104在執行一準確手勢時更加小心或僅以運算裝置102辨識之另一方式重新執行手勢,因此第二雷達信號特性可更佳對應於一或多個經儲存特性。以此方式,手勢模組224可將另一手勢辨識為第一手勢且執行與第一手勢相關聯之一命令。
在4010,運算裝置102判定模糊手勢係第一手勢。可基於另一手勢與模糊手勢在時間上接近地執行及辨識而將模糊手勢判定為第一手勢。在一些情況下,可比較第一雷達信號特性與第二雷達信號特性以判定模糊手勢與另一手勢是否類似。若是,則可將模糊手勢辨識為第一手勢。此外或替代性地,將模糊手勢辨識為第一手勢可取決於在運算裝置102偵測模糊手勢與偵測另一手勢之間經過的一時間段。在態樣中,若該時間段為短或在該時間段內未偵測到額外手勢,則可將模糊手勢判定為第一手勢。
在4012,將第一雷達信號特性與第一手勢相關地儲存。例如,可藉由運算裝置102儲存第一雷達信號特性以與藉由雷達系統108偵測之未來手勢進行比較。除了雷達信號特性之外,情境及其他資料可與第一雷達信號特性一起儲存。例如,在模糊手勢之偵測與另一手勢之偵測之間經過的時間段可用於判定與第一雷達信號特性一起儲存之一權重,該權重指示第一雷達信號特性與第一手勢相關之一置信度。在一些實施方案中,可將執行模糊手勢時之情境資訊與第一雷達信號特性一起儲存以改良第一手勢之未來辨識。
圖41繪示用於長距離之基於雷達之手勢偵測之一實例性方法4100。方法4100經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4102,自一運算裝置之一雷達系統發射雷達發射信號。例如,一運算裝置102之一雷達系統108利用一或多個天線214將雷達發射信號402-Y發射至一鄰近區106中。參考關於圖4及圖5之論述。此等雷達發射信號402-Y可隨時間以一週期性或連續方式發射。例如,運算裝置102可隨時間以10 Hz之一速率發射多個信號之一叢發。
在4104,在雷達系統或與運算裝置相關聯之另一雷達系統處接收雷達接收信號。例如,在雷達系統108或與運算裝置102相關聯之另一雷達系統處接收雷達接收信號404-Z。此等雷達接收信號404-Z從(例如)用其等之手執行一手勢之一使用者之一散射表面反射。所接收之雷達接收信號404-Z之一數量並不一定對應於所發射之雷達發射信號402-Y之一數量。例如,雷達系統108可發射四個信號且接收僅一個經反射信號。雷達系統108亦可發射四個信號且歸因於一運算系統之多個運算裝置102而接收五個經反射信號(例如,參見關於圖4至圖8之論述)。對於配備有多個天線214之一運算裝置102,一經反射雷達接收信號404不一定必需由將其發射至鄰近區106中之對應天線214接收。
在4106,使用雷達接收信號之一或多者以連續地嘗試判定一使用者已在一長距離範圍內執行一手勢。例如,可由雷達系統108或另一雷達系統使用雷達接收信號404-Z之一或多者以連續地嘗試判定一使用者104已在一長距離範圍內執行一手勢。可在不分段或縮小其中基於使用者預期執行手勢之一指示來分析一或多個雷達接收信號之一時框的情況下執行該等連續嘗試。因此,連續嘗試不一定係連續的,意謂無結束或暫停,而是多次執行,歸因於使用者預期執行手勢之一指示,該等嘗試無需用於分析之一時框之分段或縮小。在一些情況下,嘗試係基於何時偵測到一使用者、何時偵測到移動,或一使用者存在之某一其他指示,但方法無需使用者預期或將要執行一手勢(例如,使用者靠近且定向朝向一運算裝置)之一指示。由於一要求之此缺少,運算及計算可能比依靠此一指示之運算及計算更困難。雖然長距離範圍可為四公尺,但一般而言,運算裝置102可偵測在鄰近區106內之位置處之手勢,鄰近區106在一或多個徑向方向上自一天線214延伸至長距離範圍之一長度(諸如小於一公尺至八公尺)。
在4108,回應於判定使用者已執行手勢,將一或多個雷達接收信號之一雷達信號特性與一已知手勢之一或多個經儲存雷達信號特性相關。例如,回應於判定使用者104已執行手勢,將一或多個雷達接收信號404-Z之一雷達信號特性(例如,與時間、拓撲或情境特徵相關聯)與一已知手勢之一或多個經儲存雷達信號特性相關。已知手勢可係指一手勢類別(例如,參考圖8),且實例包含一輕觸、滑移或揮手手勢。已知手勢可為運算裝置102經程式化或經教示以辨識之一手勢命令。雷達信號特性亦可與一或多個複距離都卜勒圖820相關聯。
在4110,對運算裝置、一應用程式或另一裝置給予執行與已知手勢相關聯之一命令之引導。例如,回應於判定經執行手勢係已知手勢,一手勢模組224 (或雷達系統108之另一模組)可引導運算裝置102、與運算裝置102相關聯之一應用程式或與運算裝置102相關聯之另一裝置執行與已知手勢相關聯之一命令。例如,基於判定經執行手勢係滑移手勢,可(例如,使用觸發器或控制信號)指示運算裝置102跳過在當前時間由裝置正在播放之一歌曲。替代性地,雷達系統108可指示運算系統之一第二運算裝置102-2執行命令。
圖42繪示基於使用者輸入之在線學習之一實例性方法4200。方法4200經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4202,一運算裝置102利用一雷達系統108來偵測由一使用者104執行之一模糊手勢。該模糊手勢可包含基於藉由雷達系統108在模糊手勢之執行期間收集之雷達資料之一或多個雷達信號特性。
在4204,比較與模糊手勢相關聯之雷達信號特性與經儲存雷達信號特性以將模糊手勢與各具有一對應命令之一或多個已知手勢相關聯。該關聯可低於將模糊手勢辨識為一或多個已知手勢之一者所需之一置信度臨限值。該關聯可基於模糊手勢之雷達信號特性與一或多個已知手勢之經儲存雷達信號特性之間的一類似性。
在4206,運算裝置102接收執行或請求執行一命令之一指示。該指示可基於一非雷達使用者輸入,諸如在運算裝置102或一經連接裝置處接收之一音訊或觸碰輸入。使用者輸入可引起運算裝置102或一經連接裝置執行命令。鑒於在運算裝置102未能辨識模糊手勢且對其作出回應之後請求或執行命令,則模糊手勢可能係使用者預期引起運算裝置102執行命令。
在4208,運算裝置102判定所指示命令係一或多個已知手勢(比較有效地將模糊手勢與其相關聯)之對應命令之一第一命令。例如,運算裝置102可判定所指示命令引起運算裝置102或一經連接裝置執行與對應於一或多個已知手勢之一第一手勢之一命令相同之一命令。因而,使用者104可能預期模糊手勢為第一手勢。
在4210,將與模糊手勢相關聯之一或多個雷達信號特性與第一手勢一起儲存以改良在一未來時間對第一手勢之一執行之辨識。例如,可儲存一或多個雷達信號特性以使手勢模組224能夠比較一或多個雷達信號特性與第一手勢之一未來執行。以此方式,運算裝置102可繼續更新與各手勢相關聯之雷達信號特性以實現經改良手勢辨識。
圖43繪示用於啟用雷達之運算裝置之新手勢之在線學習之一實例性方法4300。方法4300經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4302,一運算裝置102利用一雷達系統108來偵測由一使用者104執行之一手勢。偵測該手勢可包含偵測該手勢之一相關聯雷達信號特性。
在4304,比較手勢之雷達信號特性與一或多個已知手勢所相關聯之一或多個經儲存雷達信號特性。該比較可有效地判定經偵測手勢與一或多個已知手勢之間的相關性之缺少。例如,該比較可判定雷達信號特性未以一所需置信度(例如,一置信度臨限值)對應於經儲存雷達信號特性之任何者。
在4306,自使用者104接收一新命令。該命令可在運算裝置102或任何其他經連接運算裝置處接收。該命令可以許多方式提供,諸如透過一語音命令及使用一語音辨識系統,透過一觸敏顯示器處之一觸碰命令,透過在一實體或數位鍵盤上打字,或由使用者在一適當裝置處實體地執行命令。新命令可經判定為不同於對應於已知手勢之任何已知命令。替代性地,新命令可與已知命令之一或多者相同。
在4308,運算裝置102判定經偵測手勢係與新命令相關聯之一新手勢。在態樣中,該判定可基於在手勢之執行與新命令之接收之間的一時間段。在一些實施方案中,判定可包含判定使用者在手勢之執行與新命令之接收之間的時間段期間未執行干預命令或手勢。
在4310,運算裝置102儲存經偵測手勢之雷達信號特性以使運算裝置102能夠在未來辨識手勢之一執行且藉由執行新命令來作出回應。在態樣中,新手勢可與一特定使用者相關聯且在該特定使用者執行該手勢時被辨識。以此方式,可儲存與特定使用者之存在相關聯之一額外雷達信號特性以使運算裝置102能夠辨識該特定使用者何時執行新手勢。藉由執行新手勢之在線學習,一啟用雷達之運算裝置可實施一持續開發、使用者可客製的手勢控制系統。
雖然在一新命令之情境中進行繪示及描述,但技術亦設想其他情境。例如,一經接收命令可為相對於與已知手勢相關聯之命令並不新但代替性地對於特定使用者(例如,不具有指示該命令與已知手勢之使用之一歷史之一經註冊使用者)而言為新的之一命令。在此一情況下,方法4300可操作以針對經接收命令創建一新的已知手勢,即使與同一命令相關聯之一當前已知手勢係已知的。因此,方法4300可進一步包含將所創建之新的已知手勢與僅針對該特定使用者之經接收命令相關聯。替代性地或此外,方法4300可藉由移除或不使用該命令之舊已知手勢(上文提及之當前已知手勢)且用新的已知手勢將其替換來覆寫手勢。
在另一態樣中,基於與已知手勢相關聯之命令,經接收命令可並非為新的,且對於特定使用者而言亦並非為新的。技術仍可創建新手勢,將其儲存為具有來自操作4304之經接收雷達信號特性之一已知手勢。在此一情況下,可移除及替換或可保留舊手勢,從而允許兩個不同已知手勢可用於引起命令被執行。
當前描述之發明(諸如參考方法4000、4200及4300描述之發明)之動機在於以下事實:雷達偵測之主體手勢源自於真實的人類,具有使其等成為人類的所有個人怪癖、長處及弱點,且周圍機器之經設計回應最終旨在改善此等人類的生活。根據本教示之使用者體驗之提供可有利地使用一手勢偵測智慧家庭系統帶來一豐富且熟悉的使用者體驗,即,可由使用者感知為提供寬恕感或寬恕適應性,認識到並非一真人之所有實體輸入手勢在所有時候都將係完美的按規定執行,且此等手勢可取決於任何特定使用者之傾向或殘疾(暫時或永久)而具有變動之一體驗。因此,例如,考量一簡單的「圓圈」手勢,其包括平行於一使用者之一額平面,在軀幹區域前面之某個空域中作出之一隻手之一圓形軌跡。在一現實世界實例中,在嘗試做出一圓圈手勢時,一使用者可首先做出該手勢之一「尷尬」版本,因為其等的手臂可能有點殘疾,或可僅為疲勞,其等手勢可能不被辨識,且其等可接收來自接收裝置之聽起來像「拒絕」(如一「反彈」聲音或「悲傷的喇叭」聲音)之一回饋。
如大多數人,使用者自然將嘗試第二次。但此第二次,使用者將可能投入更多精力-更多活力至圓圈手勢努力中,且此次,圓圈滑移手勢將更有可能被辨識,且手勢偵測系統將相應地繼續進行。又,類似於自然人類行為,使用者可嘗試自身執行命令或嘗試使用另一輸入類型來輸入命令。同時,根據一或多個實施例,手勢偵測系統有效地經設計以「記住」失敗嘗試之量測讀數且「獲知」此使用者將傾向於給出不完全「按照規定」之圓圈手勢,且隨時間,系統將開始將來自該使用者之圓圈手勢之「尷尬」版本辨識為實際圓圈手勢,從而個別地適應該使用者。有利的是,整個程序對於使用者而言非常自然,以許多方式類似於一典型的聚會對話案例,其中若一人員的聆聽者向前傾身且指示其等第一次未完全聽到或理解一片語,則該人員將更大聲、更緩慢且更刻意地說出該片語。隨後,聆聽者通常更能夠在對話中由該人員第三次及接下來幾次說出該片語時辨識該片語,即使並未完全如該人員第二次說出該片語時般大聲、緩慢及故意地明確表達。
兩次失敗手勢嘗試(諸如上文圓圈手勢),接著為手勢成功之第三次同樣在本教示之範疇內。換言之,使用者嘗試一次圓圈手勢且失敗;接著使用者用更多精力及活力第二次嘗試圓圈手勢且亦失敗。如許多或大多數人,使用者將第三次嘗試圓圈手勢,此次具有真正決心、清晰度、精力及活力,且此次圓圈手勢被辨識。此處,手勢偵測系統將記住兩次失敗嘗試之量測讀數,使用其等來學習使用者之圓圈手勢之「尷尬」版本,且辨識其等並宛如做出實際圓圈手勢般作出回應。
以類似於可學習手勢之「尷尬」版本之方式之一方式,手勢偵測系統可在藉由儲存失敗辨識嘗試之量測讀數未辨識一經執行手勢時學習新手勢。如在上文描述之情境中,此等技術可使手勢辨識系統能夠根據各使用者之特定個性來「學習」手勢。透過此等技術,手勢辨識系統藉由辨識一手勢何時係新的且「學習」該手勢以改良與使用者之互動來模仿自然人類學習。此外,此互動可經個人化以使手勢辨識系統能夠針對各特定使用者定製操作。
圖44繪示用一主要感測器組態一運算裝置之一實例性方法。方法4400經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4402,判定一第一感測器辨識在一當前時間執行或待在一未來時間執行之一手勢之一第一能力。手勢可在一特定區內執行。可基於與其中執行手勢之區相關聯之情境資訊來判定第一感測器之第一能力。情境資訊可與區內之條件、在區內執行手勢之一使用者104、在區內執行之手勢之特性等有關。
在4404,判定一第二感測器辨識在當前時間執行或待在未來時間執行之手勢之一第二能力。該第二感測器可為不同於第一感測器之一類型之感測器或與第一感測器相同之一類型之感測器。在態樣中,第一感測器可為一雷達感測器且第二感測器可為一非雷達感測器(本文中別處列出之實例)。基於在區中執行之手勢之情境,第一感測器及第二感測器辨識手勢之能力可為不同的。
在4406,比較第一能力及第二能力以判定第一感測器比第二感測器更能夠辨識手勢。該比較可包含基於情境判定第一及第二能力之哪一者更有可能辨識在區內執行之一手勢。
在4408,可將第一感測器組態為運算裝置之一主要感測器。該主要感測器可優先於第二感測器使用來辨識手勢。回應於判定第一感測器相較於第二感測器更能夠辨識手勢,第一感測器可經組態為主要感測器。藉由對由主要感測器收集之資料比對由第二感測器收集之資料進行更重加權,第一感測器可經組態為主要感測器。例如,主要感測器可被指派應用於在主要感測器處收集之資料之一第一加權值,且另一感測器可被指派應用於在另一感測器處收集之資料之一第二加權值。為辨識經偵測手勢,第一加權值可應用於在主要感測器處收集之資料以優先依靠此資料而非在另一感測器處收集之資料。如此做時,與經辨識手勢相關聯之一操作可在運算裝置、運算裝置上之一應用程式或一相關聯運算裝置處執行。
替代性地或此外,可僅依靠主要感測器進行手勢偵測或辨識(例如,藉由設定與主要感測器及其他感測器相關聯之一或多個布林值)。在一些實施方案中,主要感測器可用於判定經偵測手勢可對應於之可能手勢之一子集,且次要感測器可用於區分可能手勢,或反之亦然。
此外或替代性地,組態可包含調整第一感測器或第二感測器之電力消耗(例如,增加第一感測器之電力消耗或減少第二感測器之電力消耗)。第一感測器可經組態為主要感測器,使得當手勢在未來被辨識時,其係用第一感測器而非第二感測器辨識。替代性地,當在未來執行手勢時,可藉由第一感測器及第二感測器來辨識手勢。雖然在辨識一手勢之情境中提及,但方法4400亦可或代替性地用於判定使用之感測器或進行加權以用於偵測一使用者參與、偵測或區分一使用者或偵測一手勢。
圖45繪示基於一破壞性較小的操作來辨識一模糊手勢之一實例性方法4500。方法4500經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4502,藉由一運算裝置使用一雷達系統來偵測由一使用者執行之一模糊手勢,諸如使用者104、運算裝置102及雷達系統108。模糊手勢可與可藉由一手勢模組224判定之一特定雷達信號特性相關聯。
在4504,可比較與模糊手勢相關聯之雷達信號特性與一或多個經儲存雷達信號特性以有效地將模糊手勢與一第一手勢及一第二手勢相關。第一手勢及第二手勢可分別與一第一命令及一第二命令相關聯。基於與第一手勢及第二手勢相關聯之一或多個經儲存雷達信號特性類似於與模糊手勢相關聯之雷達信號特性,可將模糊手勢與第一手勢及第二手勢相關。
在4506,運算裝置102判定與第一手勢相關聯之第一命令比與第二手勢相關聯之第二命令破壞性更小。基於與第一命令相關聯之一操作及與第二命令相關聯之一操作,可將第一命令或第二命令判定為破壞性較小。基於第一命令為一臨時命令,第一命令為可逆的,由使用者104回應於第一或第二命令之先前執行而採取之先前動作,或在第一或第二命令之執行之後的一使用者輸入,可將第一命令判定為破壞性較小的命令。
在4508,引導運算裝置102、與運算裝置102相關聯之一應用程式,或與運算裝置102相關聯之另一裝置回應於判定第一命令係破壞性較小的命令而執行第一命令。如此做時,技術辨識原本模糊但用一較小損害性方式的手勢。此辨識減少運算裝置未能準確地辨識一手勢或根本無法辨識一手勢的情況下使用者的沮喪情緒。
圖46繪示偵測使用者參與之一實例性方法4600。方法4600經展示為經執行之操作(或動作)組,並不一定限於本文中展示操作之順序或組合,且可全部或部分與本文中描述之其他方法一起執行。此外,可重複、組合、重新組織或連結此等方法之操作之任一或多者以提供廣泛的額外及/或替代方法。在以下論述之部分中,可參考圖1至圖37之實例性環境、實驗資料或實驗結果,對其等之參考僅作為實例。技術並不限於藉由在一個運算裝置102上操作或與一個運算裝置102相關聯之一個實體或多個實體之執行。
在4602,基於雷達接收信號判定一使用者相對於與一運算裝置相關聯之一互動裝置之一當前接近度、使用者相對於該互動裝置之一經計劃接近度,或使用者相對於互動裝置之一身體定向之兩者或更多者。如圖37中所繪示,一使用者104相對於互動裝置(例如一顯示器)之一接近度3702可經判定為互動裝置與使用者104之間的一線性距離。一經計劃接近度可包含基於使用者104之當前移動及使用者104之歷史移動對一路徑3704 (行進路徑)之判定。一身體定向3706可基於使用者之身體相對於互動裝置之角度、使用者104相對於互動裝置之一聚焦方向、使用者104相對於互動裝置之一頭部定向,或相對於互動裝置之一手勢方向。
在4604,基於使用者相對於互動裝置之接近度、經計劃接近度或身體定向來估計使用者對互動裝置之一參與或經計劃參與。參與或經計劃參與可使用包含本文件中描述之機器學習模型之一或多者之一機器學習模型來判定。可使用監督式訓練基於使用者關於各種因素與使用者之參與之關聯之輸入來創建機器學習模型。例如,互動裝置可提供詢問使用者104其等是否參與裝置(例如,其等是否正看向裝置,其等是否將與裝置互動等)之一使用者介面(例如,圖形、音訊等)。使用者104可對使用者介面作出回應,且可基於使用者對關聯之確認或校正來開發機器學習模型。在記錄關於使用者之接近度、經計劃接近度或身體定向之資訊(即使並非明確地確認)之後,亦可使用使用者先前對參與裝置之選擇來開發模型。
在4606,基於經估計參與或潛在參與來變更互動裝置之一設定。可變更互動裝置使得降低裝置之電力使用,諸如藉由降低裝置之一感測器系統或顯示器之電力使用。變更可包含基於使用者之參與來調整一隱私設定(例如,如在圖20中所描述)。使用者之參與可經分類為高參與或一低參與(例如,基於一參與臨限值),且可基於使用者之參與被分類為高或低來調整設定。如此做時,互動裝置可調整至使用者之當前或經計劃參與以改良各種案例中之效能。又,如本文中別處所提及,使用者參與之判定可用於幫助辨識手勢,諸如藉由使用其作為一情境以幫助辨識技術(例如,圖36及圖39)。
總結
儘管已用特定於特徵及/或方法之語言來描述用於基於使用者輸入之在線學習之技術及設備,但應理解,隨附發明申請專利範圍之標的並不一定限於所描述之特定特徵或方法。實情係,特定特徵及方法被揭示為基於使用者輸入之在線學習之實例性實施方案。
下文描述一些實例。
實例1:一種方法,其包括:自一運算系統之一第一啟用雷達之運算裝置發射一第一雷達發射信號,該第一啟用雷達之運算裝置在一實體區之一第一鄰近區內,該實體區大於該第一鄰近區;在該第一啟用雷達之運算裝置處接收一第一雷達接收信號;比較該第一雷達接收信號之一第一雷達信號特性與一或多個經儲存雷達信號特性,該比較有效地將該第一雷達信號特性與一經註冊使用者之一第一經儲存雷達信號特性相關,該相關性指示該第一鄰近區內之該經註冊使用者之一存在;自該運算系統之一第二啟用雷達之運算裝置發射一第二雷達發射信號,該第二啟用雷達之裝置在該實體區之一第二鄰近區內,該第二啟用雷達之運算裝置可存取該一或多個經儲存雷達信號特性;在該第二啟用雷達之運算裝置處接收一第二雷達接收信號;及比較該第二雷達接收信號之一第二雷達信號特性與該一或多個經儲存雷達信號特性,該比較有效地判定該第二雷達信號特性與該經註冊使用者之該第一經儲存雷達信號特性或一第二經儲存雷達信號特性相關,該相關性指示該第二鄰近區內之該經註冊使用者之存在。
實例2:如實例1之方法,其中該實體區係一住所,該第一鄰近區係該住所之一第一房間,且該第二鄰近區係該住所之一第二房間。
實例3:如實例1或2之方法,其進一步包括:在一第一時間且在該第一啟用雷達之運算裝置處接收來自該經註冊使用者之一命令之一第一部分;在一第二、稍後時間且在該第二啟用雷達之運算裝置處接收來自該經註冊使用者之命令之一第二部分;及基於在該第一時間在該第一鄰近區內之該經註冊使用者之存在及在該第二、稍後時間在該第二鄰近區內之該經註冊使用者之存在來判定該命令之該第一部分及該第二部分相關聯。
實例4:如實例3之方法,其進一步包括:回應於判定該命令之該第一部分及該第二部分相關聯,引起該命令之執行。
實例5:如實例3或4之方法,其中:該命令係一兩部分命令;該命令之該第一部分係透過藉由與該第一啟用雷達之運算裝置相關聯之一第一雷達系統辨識之一第一手勢接收或透過藉由與該第一啟用雷達之運算裝置相關聯之一第一音訊系統辨識之一第一音訊輸入接收;該命令之該第二部分係透過藉由與該第二啟用雷達之運算裝置相關聯之一第二雷達系統辨識之一第二手勢接收或透過藉由與該第二啟用雷達之運算裝置相關聯之一第二音訊系統辨識之一第二音訊輸入接收;且該命令之該第一部分與該命令之該第二部分之關聯係基於該命令係該兩部分命令。
實例6:如實例3或4之方法,其中:該命令係一單個命令;該命令之該第一部分係透過藉由與該第一啟用雷達之運算裝置相關聯之一第一雷達系統辨識之一手勢之一第一部分接收或透過藉由與該第一啟用雷達之運算裝置相關聯之一第一音訊系統辨識之一音訊輸入之一第一部分接收;且該命令之該第二部分係透過藉由與該第二啟用雷達之運算裝置相關聯之一第二雷達系統辨識之手勢之一第二部分接收或透過藉由與該第二啟用雷達之運算裝置相關聯之一第二音訊系統辨識之該音訊輸入之一第二部分接收。
實例7:如實例3至6中任一項之方法,其進一步包括:回應於該第二鄰近區內之該經註冊使用者之存在之判定,組態該第二啟用雷達之運算裝置以判定該命令之該等第一及第二部分之一關聯。
實例8:如實例7之方法,其中該組態包含將關於該命令之該第一部分之資訊傳遞至與該運算系統相關聯之可藉由該第二啟用雷達之運算裝置存取之一實體。
實例9:如實例1或2之方法,其中在與執行該方法之一或多個元素有關的第一鄰近區內執行一或多個操作或應用程式,且進一步包括,回應於指示該第二鄰近區內之經註冊使用者之存在之相關性,在引起在第二鄰近區內執行或繼續執行該一或多個操作或應用程式。
實例10:如實例9之方法,其中該一或多個操作或應用程式係該第一鄰近區內之一媒體呈現且引起執行或繼續執行引起在該第二鄰近區內執行或繼續執行該媒體呈現。
實例11:如任何前述實例之方法,其中:該第一啟用雷達之運算裝置經組態以基於該第一啟用雷達之運算裝置定位於該第一鄰近區內來預測經註冊使用者;在第一運算裝置處判定存在一模糊使用者,該模糊使用者為經註冊使用者、另一經註冊使用者或一未註冊人員;及基於該第二啟用雷達之運算裝置經組態以預測經註冊使用者來判定該模糊使用者係經註冊使用者。
實例12:如實例11之方法,該方法進一步包括偵測該第二啟用雷達之運算裝置已移動至該第一鄰近區;及組態該第二啟用雷達之運算裝置以預測偵測到經註冊使用者。
實例13:如任何前述實例之方法,其中該第一啟用雷達之運算裝置經組態以基於該第一啟用雷達之運算裝置定位於該第一鄰近區中來預測一已知手勢,該方法進一步包括:在該第一啟用雷達之運算裝置處偵測一模糊手勢;及基於該第一啟用雷達之運算裝置經組態以預測已知手勢來判定該模糊手勢係已知手勢。
實例14:如任何前述實例之方法,該方法進一步包括,回應於判定經註冊使用者之存在:在該第一啟用雷達之運算裝置處提供訓練以教示經註冊使用者執行一或多個特定已知手勢;針對經註冊使用者維持包括如由經註冊使用者在訓練期間執行之該一或多個特定已知手勢之一第一訓練歷史,該第二啟用雷達之運算裝置進一步經組態以存取該第一訓練歷史;及回應於在第二運算裝置處判定經註冊使用者之存在,在該第二啟用雷達之運算裝置處基於第一訓練歷史繼續訓練。
實例15:一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以:使該第一運算裝置或該第二運算裝置能夠執行如實例1至14之方法之任一者;及實現該第一運算裝置與該第二運算裝置之間的一資訊交換,該資訊包含以下至少一者:一或多個經判定雷達信號特性;一或多個經儲存雷達信號特性;情境資訊;或一或多個音訊輸入。
實例16:一種方法,其包括:在一運算裝置處偵測由一使用者執行之一模糊手勢,該模糊手勢與一雷達信號特性相關聯;比較該經偵測雷達信號特性與一或多個經儲存雷達信號特性,該比較有效地將該模糊手勢與一第一手勢及一第二手勢相關,該第一手勢及該第二手勢分別對應於一第一命令及一第二命令;基於該情境資訊判定該模糊手勢係該第一手勢;及回應於該判定,引導該運算裝置、與該運算裝置相關聯之一應用程式或與該運算裝置相關聯之另一裝置執行該第一命令。
實例17:如實例16之方法,其中該情境資訊包括當前與使用者相關聯之一活動,該活動由該運算裝置偵測或由該運算裝置推斷。
實例18:如實例16及17中任一項之方法,其中該情境資訊包括在一當前時間藉由該運算裝置執行之操作之一狀態,該等操作與該第一命令有關,或能夠受該第一命令影響。
實例19:如實例18之方法,其中:該第二命令亦與在當前時間執行之操作有關或能夠影響在當前時間執行之操作;該情境資訊進一步包括藉由該運算裝置在一過去時段期間執行之操作之一歷史,該第一命令先前已經執行且記錄於操作之該歷史內,且該第二命令先前已經執行且記錄於操作之該歷史內,該第一命令比該第二命令記錄的頻率更高或時間更晚;且該模糊手勢係該第一手勢之判定係進一步基於操作之該歷史。
實例20:如實例16至19中任一項之方法,其中:該情境資訊包括經排程或預測被執行之未來操作;該第一命令係與未來操作相關聯;該第二命令不與該等未來操作相關聯;且該模糊手勢係該第一手勢之該判定係進一步基於該等未來操作。
實例21:如實例16或17之方法,其中該情境資訊包括在該運算裝置之一前景及一背景中執行之操作之一狀態,該前景與使用者在一當前時間主動參與之操作相關聯,該背景與使用者在該當前時間被動參與之操作相關聯,且其中判定該模糊手勢係該第一手勢係進一步基於該第一命令能夠影響在該前景中執行之操作。
實例22:如實例16至21中任一項之方法,其中藉由與該運算裝置相關聯之另一裝置進一步偵測該模糊手勢,該另一裝置接收該模糊手勢之經偵測雷達信號特性或另一雷達信號特性,該另一裝置可組態以存取該運算裝置之該情境資訊。
實例23:如實例16至22中任一項之方法,該方法進一步包括:回應於判定該模糊手勢係該第一手勢,將該經偵測雷達信號特性與該第一手勢相關聯;及儲存該相關聯雷達信號特性以在一未來時間實現該第一手勢之偵測。
實例24:如實例16至23中任一項之方法,該方法進一步包括:在該運算裝置處偵測包括一第二雷達信號特性之一第二模糊手勢;比較該第二經偵測雷達信號特性與該一或多個經儲存雷達信號特性,該比較有效地將該第二模糊手勢與該第一手勢及該第二手勢相關;基於該情境資訊或該相關聯雷達信號特性來判定該第二模糊手勢係該第二手勢;及回應於該判定,引導該運算裝置、與運算裝置相關聯之該應用程式或該另一裝置執行該第二命令。
實例25:如實例16至24中任一項之方法,其中該模糊手勢係該第一手勢之該判定係使用利用一或多個雷達信號特性之一機器學習模型來執行。
實例26:如實例16至25中任一項之方法,其中該情境資訊包括使用者之一歷史、使用者習慣、常見活動或藉由該運算裝置偵測之手勢。
實例27:如實例16至26中任一項之方法,其中該情境資訊包括額外非雷達感測器資料,該額外非雷達感測器資料包含與該使用者所駐留之一區相關聯之環境照明條件、與該雷達信號特性之接收同時接收之一音訊信號,或來自該應用程式、該運算裝置或與該運算裝置相關聯之該另一裝置之一通知,該通知為其中該第一命令而非該第二命令經判定為足以解決該通知之一命令之通知。
實例28:如實例16至27中任一項之方法,其中回應於該比較導致該模糊手勢與該第一手勢及該第二手勢兩者之間的相關性高於一無置信度位準且低於一高置信度位準來執行該判定。
實例29:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號,該雷達接收信號具有雷達信號特性;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例16至28之方法之任一者的指令。
實例30:一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以:使該第一運算裝置或該第二運算裝置能夠執行如實例16至28之方法之任一者;及實現該第一運算裝置與該第二運算裝置之間的一資訊交換,該資訊包含以下至少一者:一或多個經偵測雷達信號特性;一或多個經儲存雷達信號特性;或情境資訊。
實例31:一種方法,其包括:在一運算裝置處且使用一雷達系統來偵測由一使用者執行之一模糊手勢,該模糊手勢與一第一雷達信號特性相關聯;比較該第一雷達信號特性與一或多個經儲存雷達信號特性,該比較對於將該模糊手勢辨識為一第一手勢係無效的;偵測由該使用者執行之另一手勢,該另一手勢與一第二雷達信號特性相關聯;比較該另一手勢之該第二雷達信號特性與該一或多個經儲存雷達信號特性,該比較有效地將該另一手勢與該第一手勢相關;及回應於該比較:判定該模糊手勢係該第一手勢;及儲存該第一雷達信號特性,該經儲存之第一雷達信號特性可用於在一未來時間判定該第一手勢之一執行。
實例32:如實例31之方法,其中判定該模糊手勢係該第一手勢係進一步基於在偵測該模糊手勢與偵測該另一手勢之間的一時間量。
實例33:如實例32之方法,其中該時間量係:兩秒或更少;或其中在該模糊手勢與該另一手勢之間未偵測到一額外手勢之一經過的時間段。
實例34:如實例32或33之方法,該方法進一步包括:判定該時間量內之一經過時間量;及回應於該判定該模糊手勢係該第一手勢,對該等第一及第二雷達信號特性應用一加權值,該加權值:基於該經過之時間量判定;可用於針對經過之較低時間量增加該等第一及第二雷達信號特性之一置信度;可用於針對經過之較大時間量減小該等第一及第二雷達信號特性之置信度;及經儲存以改良在未來時間對第一手勢之偵測。
實例35:如實例31至34中任一項之方法,該方法進一步包括藉由比較該第一雷達信號特性與該第二雷達信號特性來判定該另一手勢類似於該模糊手勢,該比較有效地判定該第一雷達信號特性與該第二雷達信號特性具有高於一高置信度臨限值之一相關性。
實例36:如實例31至35中任一項之方法,其中該第一雷達信號特性與該一或多個經儲存雷達信號特性之比較將該模糊手勢與多個手勢相關,該模糊手勢與多個手勢之該相關性對於在高於該多個手勢之至少另一者之一置信度將該模糊手勢與該第一手勢相關係無效的。
實例37:如實例31至36中任一項之方法,其中該判定該模糊手勢係該第一手勢係進一步基於接收由該使用者執行之一經提示手勢,該接收回應於向使用者提供重複該模糊手勢之一提示。
實例38:如實例31至37中任一項之方法,其中該判定該模糊手勢係該第一手勢係進一步基於接收一非手勢命令。
實例39:如實例38之方法,其中接收該非手勢命令係回應於自該使用者查詢該模糊手勢是否係該第一手勢。
實例40:如實例31至39中任一項之方法,其中:藉由一運算系統之一第二運算裝置偵測該另一手勢,該運算系統包含該運算裝置及一通訊網路,該通訊網路使該運算裝置與該第二運算裝置能夠交換資訊;該模糊手勢係在該運算裝置之一第一鄰近區內偵測;且該另一手勢係在該第二運算裝置之一第二鄰近區內偵測。
實例41:如實例31至40中任一項之方法,該方法進一步包括,回應於判定該模糊手勢係該第一手勢,判定關於該模糊手勢之執行之情境資訊且儲存該情境資訊,該經儲存情境資訊可用於幫助判定在未來時間對該第一手勢之執行。
實例42:如實例41之方法,其中該情境資訊包含在該模糊手勢之該執行期間該使用者相對於該運算裝置之一位置或定向。
實例43:如實例41或42之方法,其中該情境資訊包含在另一感測器處偵測之模糊手勢之至少一個非雷達信號特性。
實例44:如實例43之方法,其中該另一感測器包含以下一或多者:一超音波偵測器、攝影機、周圍光感測器、壓力感測器、氣壓計、麥克風或生物識別感測器。
實例45:如實例31至44中任一項之方法,其中:該雷達系統利用未分段偵測來偵測該模糊手勢;且在無先驗知識或指示該使用者將要執行該模糊手勢之一喚醒觸發器事件的情況下進行該未分段偵測。
實例46:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例31至45之方法之任一者的指令。
實例47:一種方法,其包括:自與一運算裝置相關聯之一雷達系統發射雷達發射信號;在該雷達系統或與該運算裝置相關聯之另一雷達系統處接收雷達接收信號;連續嘗試基於該等雷達接收信號之一或多者來判定一使用者已在一長距離範圍內執行一手勢,該連續嘗試在不分段或縮小其中基於該使用者預期執行該手勢之一指示來分析該一或多個雷達接收信號之一時框的情況下執行;回應於判定該使用者已執行該手勢,將該一或多個雷達接收信號之一雷達信號特性與一已知手勢之一或多個經儲存雷達信號特性相關;及回應於判定該經執行手勢係該已知手勢,引導該運算裝置、與該運算裝置相關聯之一應用程式,或與該運算裝置相關聯之另一裝置來執行與該已知手勢相關聯之一命令。
實例48:如實例47之方法,其中該一或多個雷達接收信號從以相對於與該運算裝置相關聯之該雷達系統兩公尺至四公尺之一線性位移執行手勢之使用者反射。
實例49:如實例47及48中任一項之方法,其中該指示包含該使用者預期執行一手勢之一經感測動作,該經感測動作由該使用者執行且藉由與該運算裝置相關聯之一或多個感測器辨識。
實例50:如實例47至49中任一項之方法,其中該運算裝置經組態以辨識由該使用者在該雷達系統之一鄰近區內之一或多個位置處執行之手勢,該辨識在無需該使用者在該鄰近區內之一經指定位置或定向處執行該手勢的情況下進行。
實例51:如實例47至50中任一項之方法,該方法進一步包括:回應於將該雷達信號特性與該一或多個經儲存雷達信號特性相關,使用一手勢去除抖動器驗證相關性之一初步結果,該初步結果包括將經執行手勢分類為與該命令相關聯之已知手勢,該初步結果滿足該手勢去除抖動器之以下要求之至少一者:對在手勢執行之間經過的時間之一最小臨限值要求;關於一置信度位準之一最大臨限值要求;或一或多個啟發法。
實例52:如實例47至51中任一項之方法,該方法進一步包括:在該雷達系統或該另一雷達系統處接收從該使用者之另一手勢反射之一第二雷達接收信號;自該第二雷達接收信號判定一第二雷達信號特性;比較該第二雷達信號特性與該一或多個經儲存雷達信號特性,該比較有效地判定該使用者之該另一手勢並非已知手勢或另一已知手勢;及回應於判定該使用者之該另一手勢並非已知手勢或另一已知手勢:將該第二雷達信號特性分類為負資料,該負資料對應於背景運動之一類別;及儲存該第二雷達信號特性,該經儲存之第二雷達信號特性可用於在一未來時間將一未來接收之雷達接收信號與該使用者之該另一手勢相關,該未來接收之雷達接收信號從該使用者之一額外手勢反射且具有類似或相同於該第二雷達信號特性之雷達信號特性,該相關性指示該使用者之該額外手勢對應於背景運動之該類別而非已知手勢或另一已知手勢。
實例53:如實例47至52中任一項之方法,該方法進一步包括:回應於判定該經執行手勢係已知手勢,在儲存該雷達信號特性之前擴增該經執行手勢之雷達信號特性,該擴增包含在無需一或多個額外雷達接收信號的情況下對雷達信號特性之一內插或外推。
實例54:如實例53之方法,其中該雷達信號特性與至少一個複距離都卜勒圖相關聯,該至少一個複距離都卜勒圖包括:對應於該經執行手勢相對於該雷達系統之一位移之一距離維度,該位移在該經執行手勢之一散射中心處獲取;及對應於該經執行手勢相對於該雷達系統之一速率之一都卜勒維度。
實例55:如實例54之方法,其中:該雷達信號特性之該擴增包含該至少一個複距離都卜勒圖之一旋轉;該旋轉係藉由將一隨機或預定相位值代入該至少一個複距離都卜勒圖中以產生該經執行手勢之一經擴增雷達信號特性來達成,該隨機或預定相位值相異於與該雷達信號特性相關聯之一相位值;且該經擴增雷達信號特性表示該經執行手勢相對於該雷達系統之一額外角位移,該經擴增雷達信號特性在無需使用者以該額外角位移執行手勢的情況下判定。
實例56:如實例54之方法,其中:該雷達信號特性之該擴增包含該至少一個複距離都卜勒圖之一量值之一或多個縮放;該一或多個縮放係使用一常態分佈之一或多個隨機或預定縮放值來達成以產生該經執行手勢之一經擴增雷達信號特性;且該經擴增雷達信號特性表示該經執行手勢相對於該雷達系統之一額外線性位移,該經擴增雷達信號特性在無需該使用者以該額外線性位移執行手勢的情況下判定。
實例57:如實例47至52中任一項之方法,該方法進一步包括:擴增與在該長距離範圍內且針對一短距離範圍執行之手勢相關聯之雷達信號特性,該短距離範圍對應於比該長距離範圍更小之自雷達系統之一線性位移;及儲存該經擴增之雷達信號特性以在一未來時間實現在該短距離範圍內執行之手勢之辨識。
實例58:如實例47至57中任一項之方法,其中使用一機器學習模型執行該雷達信號特性與該一或多個經儲存雷達信號特性之相關性,該機器學習模型與一或多個卷積神經網路相關聯,該機器學習模型包括一訊框模型,該訊框模型經組態以使用一或多個卷積層來修改該雷達信號特性之一或多個訊框,該一或多個訊框藉由該雷達系統收集一或多次,且該訊框模型包括以下一或多者:一可分離卷積層;或一殘差神經網路。
實例59:如實例58之方法,其中:該機器學習模型包括經組態以沿著一時域使一或多個經修改訊框相關之一時間模型,該時間模型包含一或多個殘差神經網路;且該一或多個經修改訊框之相關性有效地判定經執行手勢與一組可能類別相關聯之一概率,該組可能類別包括以下至少一者:對應於已知手勢或另一已知手勢之一手勢類別;或對應於並非已知手勢或另一已知手勢之一或多個背景運動之一背景類別。
實例60:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例47至59之方法之任一者的指令。
實例61:一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以:使該第一運算裝置或該第二運算裝置能夠執行如實例47至60之方法之任一者;及實現該第一運算裝置與該第二運算裝置之間的一資訊交換,該資訊包含以下至少一者:一或多個經判定雷達信號特性;或一或多個經儲存雷達信號特性。
實例62:一種方法,其包括:判定一第一感測器感測在一區內在一當前時間執行或待在一未來時間執行之一手勢之一第一能力,該判定該第一能力基於與該區相關聯之情境資訊;判定一第二感測器感測在該區內在該當前時間執行或待在該未來時間執行之該手勢之一第二能力,該判定該第二能力基於與該區相關聯之情境資訊;比較該第一能力與該第二能力,該比較有效地判定該第一感測器比該第二感測器更能夠感測該手勢;及回應於該比較,將該第一感測器組態為一手勢辨識裝置之主要感測器,該主要感測器優先於該第二感測器使用以在該當前或未來時間感測該手勢。
實例63:如實例62之方法,其中:該第一感測器係與一雷達系統相關聯之一天線且該第二感測器係一攝影機;該情境資訊包含可用於照明在該區內執行之手勢之一光量,該光量係不足以光學照明手勢以足以由該攝影機之一光學感測器捕獲之一光量;且基於該低光量將該第一感測器判定為比該攝影機更能夠感測該手勢。
實例64:如實例62之方法,其中該情境資訊包含該區之一或多個條件,該一或多個條件與物體之一光、聲音、運動或配置相關聯。
實例65:如實例62至64中任一項之方法,其中將該第一感測器組態為該主要感測器有效地藉由降低該第二感測器之一電力設定或一電力使用來節省電力。
實例66:如實例62至65中任一項之方法,其中該情境資訊包含先前由一使用者在該區內執行之手勢之一樣式或類型。
實例67:如實例66之方法,其中該手勢之樣式或類型係在該當前或未來時間在該區中最常執行之一特定手勢,且其中判定該第一或第二能力係分別基於該第一或第二感測器感測該特定手勢之一能力。
實例68:如實例62至67中任一項之方法,其中該情境資訊包含一使用者或該區內之該使用者之一位置或一定向。
實例69:如實例62至68中任一項之方法,其中該情境資訊包含一特定已知使用者之一存在,該特定已知使用者影響該第一能力或該第二能力。
實例70:如實例62至69中任一項之方法,其中該情境資訊包含一天中的時間、儲存於與該第一或第二感測器相關聯之一裝置上之資訊、裝置之前景或背景操作,或裝置之一位置。
實例71:如實例62至70中任一項之方法,其中該第一或第二感測器與一雷達系統相關聯且該第一或第二感測器之另一者不與該雷達系統相關聯,該第一或第二感測器之該另一者為一麥克風、攝影機、超音波感測器、生物識別感測器、溫度感測器、健康感測器或一光學感測器。
實例72:如實例62至71中任一項之方法,其中判定該等第一及第二能力利用包含至少一個卷積神經網路之一機器學習模型。
實例73:如實例62至72中任一項之方法,該方法進一步包括在該當前或未來時間使用以下各者來辨識手勢:藉由主要感測器及第二感測器感測之資料;或藉由主要感測器而非第二感測器感測之資料。
實例74:如實例73之方法,其中辨識手勢使用藉由該主要感測器及該第二感測器感測之該資料,且該辨識手勢使用針對該主要感測器之一第一加權值及針對該第二感測器之一第二加權值,該第一加權值大於該第二加權值。
實例75:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例62至74之方法之任一者的指令。
實例76:一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以:使該第一運算裝置或該第二運算裝置能夠執行如實例62至74之方法之任一者;及實現該第一運算裝置與該第二運算裝置之間的一資訊交換。
實例77:一種方法,其包括:在一運算裝置處且使用一雷達系統來偵測由一使用者執行之一模糊手勢,該模糊手勢與一雷達信號特性相關聯;比較該雷達信號特性與一或多個經儲存雷達信號特性,該比較有效地將該模糊手勢與一或多個已知手勢相關聯,該一或多個已知手勢各具有一對應命令,與該一或多個已知手勢之該關聯低於足以將該模糊手勢辨識為該一或多個已知手勢之一者之辨識臨限值準則;在偵測該模糊手勢之後,接收執行或請求執行一命令之一指示;判定該經指示命令係與該一或多個已知手勢之一第一已知手勢相關聯之對應命令之一第一命令,該比較有效地將該模糊手勢與該一或多個已知手勢相關聯;及將該雷達信號特性與該第一已知手勢一起儲存以實現在一未來時間對該第一手勢之辨識。
實例78:如實例77之方法,其中接收該指示並非回應於基於該雷達系統對一手勢之辨識來執行或請求執行命令。
實例79:如實例77及78中任一項之方法,其中接收該指示係回應於由使用者透過非雷達輸入來選擇命令。
實例80:如實例77至79中任一項之方法,其中該非雷達輸入係透過一語音辨識系統之音訊輸入、透過一觸敏顯示器之一觸碰輸入或透過一實體鍵盤之打字輸入。
實例81:如實例77至80中任一項之方法,其進一步包括:接收來自該使用者之確認該模糊手勢預期為第一已知手勢之一輸入,其中儲存該雷達信號特性係回應於接收來自該使用者之該輸入。
實例82:如實例77至81中任一項之方法,其中偵測該模糊手勢係在不存在一手勢訓練事件的情況下執行,該手勢訓練事件包括針對該使用者之一或多個手勢之分段式教示。
實例83:如實例77至82中任一項之方法,其中接收執行或請求執行命令之該指示包括基於該運算裝置之一操作狀態之一或多個變化來判定該執行或請求執行。
實例84:如實例77至83中任一項之方法,其中偵測模糊手勢利用一機器學習模型來改良對該模糊手勢之偵測,該機器學習模型與一或多個卷積神經網路相關聯。
實例85:如實例77至84中任一項之方法,其中儲存該雷達信號特性係進一步回應於或基於在偵測該模糊手勢與接收執行或請求執行命令之該指示之間的一時間段。
實例86:如實例77至85中任一項之方法,其進一步包括基於該時間段相對於該一或多個經儲存特性對雷達信號特性進行加權。
實例87:如實例77至86中任一項之方法,其中儲存該雷達信號特性係進一步回應於或基於是否在接收該指示之前指示執行或請求執行另一命令之一指示。
實例88:如實例77至87中任一項之方法,其中儲存該雷達信號特性係回應於判定在接收執行或請求執行命令之該指示之前未指示執行或請求執行另一命令之指示。
實例89:如任何實例77至88之方法,其中回應於該判定,將該模糊手勢之雷達信號特性與該一或多個經儲存雷達信號特性之一第一經儲存雷達信號特性相關聯,該第一經儲存雷達信號特性與該第一已知手勢相關聯。
實例90:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例77至89之方法之任一者的指令。
實例91:一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以:使該第一運算裝置或該第二運算裝置能夠執行如實例77至89之方法之任一者;及實現該第一運算裝置與該第二運算裝置之間的一資訊交換,該資訊包含以下至少一者:一或多個經偵測雷達信號特性;或一或多個經儲存雷達信號特性。
實例92:一種方法,其包括:在一運算裝置處且使用一雷達系統來偵測由一使用者執行之一模糊手勢,該模糊手勢與一雷達信號特性相關聯;比較該雷達信號特性與一或多個經儲存雷達信號特性,該比較有效地將該模糊手勢與一第一手勢及一第二手勢相關,該第一手勢及該第二手勢分別與一第一命令及一第二命令相關聯;判定該第一命令將比該第二命令破壞性更小;及回應於該判定,引導該運算裝置、與該運算裝置相關聯之一應用程式或與該運算裝置相關聯之另一裝置執行該第一命令。
實例93:如實例92之方法,其中判定該第一命令將為破壞性較小的判定該第一命令係一臨時命令且該第二命令係一最終命令。
實例94:如實例92及93中任一項之方法,其中判定該第一命令將為破壞性較小的判定該第一命令可經反轉且第二命令不能經反轉。
實例95:如實例92至94中任一項之方法,其中判定該第一命令比該第二命令破壞性更小係進一步基於由該使用者在該第一或該第二命令之一先前執行之後的一時間段內採取之一先前動作。
實例96:如實例92至95中任一項之方法,該方法進一步包括:回應於該第一命令之執行,在該運算裝置或與該運算裝置相關聯之另一裝置處偵測引導該運算裝置執行一第三命令以撤銷該第一命令之一使用者輸入,該使用者輸入不包含另一手勢執行;回應於偵測該使用者輸入命令,判定該模糊手勢並非該第一手勢;及儲存該模糊手勢之該判定以改良在未來時間對該第一手勢之偵測。
實例97:如實例92至96中任一項之方法,該方法進一步包括:回應於該第一命令之執行,在該運算裝置或與該運算裝置相關聯之另一裝置處偵測由該使用者執行之另一手勢;及回應於判定該另一手勢類似或相同於該模糊手勢:判定該使用者並未預期執行該第一命令,該非預期執行指示該另一手勢及該模糊手勢並非該第一手勢;且判定該另一手勢及該模糊手勢係該第二手勢,該判定有效地將該另一手勢與該第二命令相關。
實例98:如實例92至97中任一項之方法,該方法進一步包括,回應於將該另一手勢與該第二命令相關:引導該運算裝置、與該運算裝置相關聯之該應用程式或與該運算裝置相關聯之該另一裝置:停止執行該第一命令;或執行該第二命令;及儲存與該另一手勢相關聯之另一雷達信號特性以實現在未來時間對該第二手勢之偵測。
實例99:如實例92至98中任一項之方法,其中該判定該第一命令係破壞性較小的係基於一當前條件、一邏輯、使用者行為之一歷史或一使用者輸入。
實例100:如實例92至99中任一項之方法,其中該第一命令及該第二命令兩者能夠影響一單個應用程式之一操作,該操作可藉由該運算裝置或與該運算裝置相關聯之該另一裝置執行。
實例101:如實例92至100中任一項之方法,其中:該單個應用程式係一電話應用程式;該第一命令係使一電話通話靜音;且該第二命令係結束該電話通話。
實例102:如實例92至101中任一項之方法,其中:該單個應用程式係一通知應用程式;該第一命令係使一通知靜音、暫停或延遲一通知;且該第二命令係停用該通知。
實例103:如實例92至102中任一項之方法,其中該第一命令及該第二命令能夠影響與該運算裝置相關聯之不同、各自應用程式或裝置之一操作。
實例104:如實例92至103中任一項之方法,其中該運算裝置利用執行手勢執行之無監督式學習之一機器學習模型,該無監督式學習可用於將該手勢執行與一或多個命令相關,而無需利用關於該相關性之預定條件或演算法。
實例105:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例92至104之方法之任一者的指令。
實例106:一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以:使該第一運算裝置或該第二運算裝置能夠執行如實例92至104之方法之任一者;及實現該第一運算裝置與該第二運算裝置之間的一資訊交換。
實例107:一種方法,其包括:基於一或多個雷達接收信號判定以下兩者或更多者:一使用者相對於與一運算裝置相關聯之一互動裝置之一當前接近度;該使用者相對於與該運算裝置相關聯之該互動裝置之一經計劃接近度;或該使用者相對於與該運算裝置相關聯之該互動裝置之一身體定向;基於該當前接近度、該經計劃接近度或該身體定向之該兩者或更多者,估計該使用者對與該運算裝置相關聯之該互動裝置之一參與或經計劃參與;及基於該使用者對與該運算裝置相關聯之該互動裝置之該經估計參與或該經估計之經計劃參與,變更該運算裝置或與該運算裝置相關聯之一互動裝置之一設定。
實例108:如技術方案107之方法,其中變更該設定將互動裝置自一第一設定變更為一第二設定,該第一設定為一第一隱私設定且該第二設定為一第二隱私設定。
實例109:如實例107及108中任一項之方法,其中該判定係至少基於該當前接近度,且其中該當前接近度經判定為在使該互動裝置偵測來自該使用者之輸入之一有效距離內。
實例110:如實例107至109中任一項之方法,其中該判定係至少基於該經計劃接近度,且其中該經計劃接近度係基於一經計劃路徑來判定,該經計劃路徑基於該使用者之一當前位置及該使用者之先前移動之一歷史或該使用者之一當前速率來判定。
實例111:如實例107至110中任一項之方法,其中該判定係至少基於該身體定向,且其中該身體定向係基於使用者之一面部輪廓來判定。
實例112:如實例107至111中任一項之方法,其中該判定係至少基於該身體定向,且其中該身體定向係基於該使用者之身體之一角度來判定,該角度指示朝向或遠離與該運算裝置相關聯之該互動裝置之一受關注方向。
實例113:如實例107至112中任一項之方法,其中估計該使用者對與該運算裝置相關聯之該互動裝置之參與或經計劃參與使用一機器學習模型。
實例114:如技術方案113之方法,其中該機器學習模型係使用監督式訓練來構建,該監督式訓練包含與該互動裝置互動之使用者選擇,該使用者選擇具有相關聯之先前當前接近度、先前經計劃接近度或先前身體定向。
實例115:如實例107至114中任一項之方法,其中該估計該使用者對與該運算裝置相關聯之該互動裝置之參與或經計劃參與對該當前接近度、該經計劃接近度或該身體定向之兩者或更多者進行加權。
實例116:如實例107至115中任一項之方法,其中該估計該使用者對與該運算裝置相關聯之該互動裝置之參與或經計劃參與係進一步基於該互動裝置之一方向性定向。
實例117:如技術方案116之方法,其中該基於該互動裝置之該方向性定向來估計該使用者對該互動裝置之參與或經計劃參與使用該經計劃接近度及該方向性定向來判定經估計參與或經估計之經計劃參與。
實例118:如技術方案117之方法,其中該基於該互動裝置之該方向性定向來估計該使用者對該互動裝置之參與或經計劃參與基於該身體定向與該方向性定向之一相反方向來判定該經估計參與或該經估計之經計劃參與。
實例119:如實例107至118中任一項之方法,其中該估計該使用者對與該運算裝置相關聯之該互動裝置之參與或經計劃參與基於判定該使用者正在走過或計劃走過該互動裝置來估計一低參與或一低經計劃參與。
實例120:如實例107至118中任一項之方法,其中該估計該使用者對與該運算裝置相關聯之該互動裝置之參與或經計劃參與基於判定該使用者正直接走向該互動裝置來估計一高參與或一高經計劃參與。
實例121:一種運算裝置,其包括:至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例107至120之方法之任一者的指令。
實例122:一種方法,其包括:使用與一運算裝置相關聯之一雷達系統來偵測由一使用者執行之一手勢,該手勢與一雷達信號特性相關聯;比較與由該使用者執行之該手勢相關聯之該雷達信號特性與一或多個經儲存雷達信號特性,該比較有效地判定缺少與該一或多個經儲存雷達信號特性所相關聯之一或多個已知手勢之相關性,該一或多個已知手勢與一或多個已知命令相關聯;與偵測該手勢接近地接收一新命令;回應於該比較有效地判定缺少相關性且該接收該新命令,判定該手勢係與該新命令相關聯之一新手勢;及儲存該相關聯雷達信號特性以實現在一未來時間對該新手勢之辨識以有效地引起該新命令之執行。
實例123:如實例122之方法,其中該偵測該手勢係在與該雷達系統相關聯之該運算裝置處執行且其中該接收新命令係藉由該運算裝置執行。
實例124:如實例122及123中任一項之方法,其中該比較有效地判定缺少與該一或多個經儲存雷達信號特性所相關聯之該一或多個已知手勢之相關性基於未能滿足置信度臨限值準則來判定該相關性缺少。
實例125:如實例122至124中任一項之方法,其中該置信度臨限值準則與一低置信度相關聯,且其中該比較針對該一或多個經儲存雷達信號特性之各者處於或低於該置信度臨限值準則。
實例126:如實例122至125中任一項之方法,其中偵測與該雷達信號特性相關聯之該手勢進一步包括判定該雷達信號特性。
實例127:如實例122至126中任一項之方法,其中在偵測由該使用者執行之該手勢之前接收該新命令。
實例128:如實例122至127中任一項之方法,其中與偵測該手勢接近地接收該新命令使接收該新命令及偵測該手勢在彼此五秒內。
實例129:如實例122至128中任一項之方法,其中與偵測該手勢接近地接收該新命令在不存在由該使用者起始之一干預手勢嘗試或另一命令的情況下接收該新命令及偵測該手勢。
實例130:如實例122至129中任一項之方法,其中偵測該手勢判定該手勢之雷達信號特性與由該使用者執行之一有意運動相關聯,該有意運動對應於一背景運動。
實例131:如實例122至130中任一項之方法,該方法進一步包括:使用該雷達系統且在該運算裝置處偵測與該使用者之一存在相關聯之一第二雷達信號特性,該第二雷達信號特性可用於判定該使用者係一經註冊使用者;及回應於判定該使用者係該經註冊使用者,將新手勢與該經註冊使用者相關。
實例132:如實例122至131中任一項之方法,其中該新手勢與該經註冊使用者而非一不同使用者相關,該方法進一步包括至少部分基於使用該第二雷達信號特性偵測該經註冊使用者之存在來辨識在未來時間對該新手勢之執行。
實例133:如實例123至132中任一項之方法,其中該新命令與兩個或更多個手勢相關聯,該兩個或更多個手勢包含:在由該經註冊使用者執行時之新手勢;及在由不同使用者執行時之一不同手勢。
實例134:如實例124至133中任一項之方法,其中與該雷達系統相關聯之該運算裝置利用一機器學習模型來改良對該新手勢之辨識,該機器學習模型與一或多個卷積神經網路相關聯。
實例135:如實例125至134中任一項之方法,其中該新命令不與該一或多個已知命令相關聯。
實例136:一種運算裝置,其包括:至少一個天線;一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號;至少一個處理器;及一電腦可讀儲存媒體,其包括回應於藉由該處理器執行用於引導該運算裝置執行如實例125至135之方法之任一者的指令。
100:環境
102:啟用雷達之運算裝置/運算裝置
102-1:第一運算裝置
102-2:第二運算裝置
104:使用者
104-1:第一使用者
104-2:第二使用者
106:鄰近區
106-1:第一鄰近區
106-2:第二鄰近區
108:雷達系統
108-1:第一雷達系統
108-2:第二雷達系統
200:實施方案
202-1:家庭自動化及控制系統
202-2:智慧型顯示器
202-3:桌上型電腦
202-4:平板電腦
202-5:膝上型電腦
202-6:電視機
202-7:運算手錶
202-8:運算眼鏡
202-9:遊戲系統
202-10:微波爐
202-11:智慧型恆溫器介面
202-12:汽車
204:處理器
206:電腦可讀媒體(CRM)
208:基於雷達之應用程式
210:網路介面
212:通訊介面
214:天線
214-1:天線
214-2:天線
214-3:天線
216:類比電路
218:系統處理器
220:系統媒體
222:使用者模組
224:手勢模組
300:環境
302:通訊網路
304-1:第一房間
304-2:第二房間
400:環境
402-1:第一雷達發射信號
402-2:第二雷達發射信號
402-Y:合成雷達發射信號
404-1:第一雷達接收信號
404-2:雷達接收信號
404-Z:合成雷達接收信號
500:實施方案
502:發射器
504:波形產生器
506:接收器
508:接收通道
600-1:拓撲區別/實施方案
600-2:時間區別/實施方案
600-3:手勢區別/實施方案
600-4:情境區別/實施方案
700:機器學習模型
702:輸入層
704:隱藏層
704-1至704-M:層
706:輸出層
708-1至708-N:輸入
710:雷達信號特性
712-1至712-Q:神經元
714-1至714-N:輸出
716:經區分使用者
800:實施方案
802:空間-時間機器學習模型
804:信號處理模組
806:訊框模型
808:時間模型
810:手勢去除抖動器
812-1:雷達發射信號
812-2:雷達發射信號
812-3:雷達發射信號
814:環境
816:手勢
818-1:雷達接收信號
818-2:雷達接收信號
818-3:雷達接收信號
820-1:第一複距離都卜勒圖
820-2:複距離都卜勒圖
820-3:第三複距離都卜勒圖
822-1:第一訊框結果
822-2:第二訊框結果
822-3:第三訊框結果
824-1:第一時間結果
824-2:第二時間結果
824-3:第三時間結果
826:手勢結果
900:實施方案
902:平均池化層
904:可分離二維(2D)殘差區塊
906:可分離二維(2D)卷積層
908:批次正規化層
910:整流器(ReLU)
912:求和節點
914:二維(2D)卷積層
916:最大池化層
920:平坦化層
922:訊框概述
1000:實施方案
1002:一維(1D)殘差區塊
1004:一維(1D)卷積層
1008:緻密層
1010:softmax層
1012:手勢概率
1100:實驗結果
1102:經擴增資料集
1104:原始資料集
1200:實驗資料
1202-1:第一列
1202-2:第二列
1202-3:第三列
1202-4:第四列
1202-5:第五列
1202-6:第六列
1204:手運動
1300:實驗資料
1302-1:列
1302-2:列
1302-3:列
1302-4:列
1302-5:列
1302-6:列
1302-7:列
1302-8:列
1400:實驗資料
1402-1:列
1402-2:列
1402-3:列
1402-4:列
1402-5:列
1402-6:列
1500:實驗結果
1502:滑移手勢
1504:輕觸手勢
1600:實驗結果
1602:結果
1604:穩健結果
1700:實驗結果
1702:背景運動
1704:向左滑移
1706:向右滑移
1708:向上滑移
1710:向下滑移
1712:輕觸
1714:經執行手勢
1716:經辨識手勢
1800:實驗結果
1900:實施方案
1902:麥克風
1904:音訊信號
2000-1:環境
2000-2:環境
2002:第一隱私設定
2004:第二隱私設定
2100:環境
2102:操作
2104:操作
2106:操作
2200-1:環境
2200-2:環境
2202:臥室
2204:辦公室
2300-1:環境
2300-2:環境
2302:廚房
2304:餐廳
2400:環境
2402:模糊手勢
2404:第一手勢
2406:第二手勢
2408:情境資訊
2500-1:實施方案
2500-2:實施方案
2500-3:實施方案
2502:揮手手勢
2504:捏手勢
2600:環境
2700:環境
2702:操作
2704:操作
2800:環境
2802:臥室相關情境
2804:廚房相關情境
2900:環境
3000:環境
3002:前景操作
3004:背景操作
3006:模糊手勢
3100:環境
3102:過去時間段
3104:當前時間
3106:未來時間段
3108:警報
3110:燈
3112:提前警報
3114:提前燈
3200:環境
3202:模糊手勢
3204:小睡手勢
3206:解除手勢
3300:環境
3302:模糊手勢
3304:第一雷達信號特性
3306:手勢模組
3308:另一手勢
3310:第二雷達信號特性
3400:環境
3402:模糊手勢
3404:第一手勢
3406:第二手勢
3408:播放音樂命令
3410:撥打電話給爸爸命令
3412:語音命令
3500:環境
3502:手勢
3504:命令
3506:新手勢
3508:起動咖啡機之命令
3602:廚房
3604:辦公室
3606:第一情境
3608:第二情境
3610:雷達感測器
3612:光學感測器
3700:環境
3702:接近度
3704:路徑
3706:身體定向
3800:方法
3802:操作
3804:操作
3806:操作
3808:操作
3810:操作
3812:操作
3900:方法
3902:操作
3904:操作
3906:操作
3908:操作
4000:方法
4002:操作
4004:操作
4006:操作
4008:操作
4010:操作
4012:操作
4100:方法
4102:操作
4104:操作
4106:操作
4108:操作
4110:操作
4200:方法
4202:操作
4204:操作
4206:操作
4208:操作
4210:操作
4300:方法
4302:操作
4304:操作
4306:操作
4308:操作
4310:操作
4400:方法
4402:操作
4404:操作
4406:操作
4408:操作
4500:方法
4502:操作
4504:操作
4506:操作
4508:操作
4600:方法
4602:操作
4604:操作
4606:操作
參考以下圖式描述用於基於使用者輸入之在線學習之設備及技術。貫穿圖式使用相同數字來引用相同特徵及組件:
圖1繪示具有一啟用雷達之運算裝置、使用者、一鄰近區及一雷達系統之一實例性環境;
圖2繪示圖1之啟用雷達之運算裝置之一實例性實施方案;
圖3繪示其中多個啟用雷達之運算裝置透過一通訊網路連接以形成一運算系統之一實例性環境;
圖4繪示其中藉由一運算裝置使用一雷達系統以偵測、區分及/或辨識一使用者或正由該使用者執行之手勢之一實例性環境;
圖5繪示一雷達系統之一天線、類比電路及系統處理器之一實例性實施方案;
圖6繪示其中使用者模組可區分使用者之實例性實施方案;
圖7繪示用於區分一運算裝置之使用者之一機器學習(ML)模型之一實例性實施方案;
圖8繪示一手勢模組之一實例性實施方案,該手勢模組利用一空間-時間機器學習模型來改良對手勢之偵測及辨識;
圖9繪示藉由一訊框模型利用之深度學習技術之一實例性實施方案;
圖10繪示藉由一時間模型利用之深度學習技術之一實例性實施方案;
圖11繪示指示在利用雷達擴增技術時在手勢辨識方面之一經改良效能之實驗結果;
圖12繪示一使用者執行一輕觸手勢之實驗資料;
圖13繪示一使用者執行一輕觸手勢、向右滑移、強向左滑移及弱向左滑移之實驗資料;
圖14繪示可經儲存以改良對來自背景運動之手勢之偵測及辨識之三個負資料集之實驗資料;
圖15繪示在存在背景運動的情況下關於手勢辨識之準確度之實驗結果;
圖16繪示在另外使用對抗負資料時關於手勢偵測及辨識之準確度之實驗結果;
圖17繪示與手勢辨識之準確度有關之實驗結果(一混淆矩陣);
圖18繪示對應於在自雷達系統之一天線之各種線性及角位移處之手勢辨識之準確度之實驗結果;
圖19繪示使用一額外感測器來改良使用者偵測及區別之保真度之一啟用雷達之運算裝置之一實例性實施方案;
圖20繪示其中基於使用者存在來修改隱私設定之一實例性環境;
圖21繪示其中可使用形成一運算系統之多個運算裝置來實施使用者區別之技術之一實例性環境;
圖22繪示其中跨一運算系統之多個運算裝置連續地執行一操作之一實例性環境;
圖23繪示其中一運算系統實現跨多個運算裝置之操作之一連續性之一實例性環境;
圖24繪示使用情境資訊之基於雷達之模糊手勢判定之技術;
圖25繪示其中手勢模組可辨識由一使用者執行之手勢之實例性實施方案;
圖26繪示其中運算裝置可利用一使用者之習慣之情境資訊來改良手勢辨識之一實例性環境;
圖27繪示基於一運算裝置之位置對使用者存在之預測;
圖28繪示使用房間相關情境來改良對模糊手勢之辨識之技術;
圖29繪示使用在一當前時間執行之操作之一狀態來改良對模糊手勢之辨識之技術;
圖30繪示用於基於在一當前時間執行之前景及背景操作來區分模糊手勢之技術;
圖31繪示使用包含一運算裝置之過去及/或未來操作之情境資訊之技術;
圖32繪示用於基於一破壞性較小的操作來辨識一模糊手勢之技術;
圖33繪示一使用者執行該使用者意欲作為一第一手勢(例如,一已知手勢)之一模糊手勢;
圖34繪示用以改良模糊手勢辨識之基於使用者輸入之在線學習之一實例性方法;
圖35繪示用於啟用雷達之運算裝置之新手勢之在線學習之實例性技術;
圖36繪示用於組態具有一情境敏感的主要感測器之一運算裝置之實例性技術;
圖37繪示其中可實施用於偵測使用者對一裝置之參與之技術之一環境;
圖38繪示用於判定一經註冊使用者之存在之一實例性方法;
圖39繪示使用情境資訊之基於雷達之模糊手勢判定之一實例性方法;
圖40繪示用於基於雷達之手勢辨識之連續在線學習之一實例性方法;
圖41繪示用於長距離之基於雷達之手勢偵測之一實例性方法;
圖42繪示基於使用者輸入之在線學習之一實例性方法;
圖43繪示用於啟用雷達之運算裝置之新手勢之在線學習之一實例性方法;
圖44繪示用於感測器能力判定之一實例性方法;
圖45繪示基於一破壞性較小的操作來辨識一模糊手勢之一實例性方法;及
圖46繪示偵測使用者參與之一實例性方法。
102:啟用雷達之運算裝置/運算裝置
104:使用者
108:雷達系統
224:手勢模組
3400:環境
3402:模糊手勢
3404:第一手勢
3406:第二手勢
3408:播放音樂命令
3410:撥打電話給爸爸命令
3412:語音命令
Claims (15)
- 一種方法,其包括: 在一運算裝置處且使用一雷達系統來偵測由一使用者執行之一模糊手勢,該模糊手勢與一雷達信號特性相關聯; 比較該雷達信號特性與一或多個經儲存雷達信號特性,該比較有效地將該模糊手勢與一或多個已知手勢相關聯,該一或多個已知手勢各具有一對應命令,與該一或多個已知手勢之該關聯低於足以將該模糊手勢辨識為該一或多個已知手勢之一者之辨識臨限值準則; 在偵測該模糊手勢之後,接收執行或請求執行一命令之一指示; 判定該經指示命令係與該一或多個已知手勢之一第一已知手勢相關聯之該對應命令之一第一命令,該比較有效地將該模糊手勢與該一或多個已知手勢相關聯;及 將該雷達信號特性與該第一已知手勢一起儲存以實現在一未來時間對該第一手勢之辨識。
- 如請求項1之方法,其中接收該指示並非回應於基於該雷達系統對一手勢之辨識來執行或請求執行該命令。
- 如請求項1及2中任一項之方法,其中接收該指示係回應於由該使用者透過非雷達輸入來選擇該命令。
- 如請求項3之方法,其中該非雷達輸入係透過一語音辨識系統之音訊輸入、透過一觸敏顯示器之一觸碰輸入或透過一實體鍵盤之打字輸入。
- 如請求項1之方法,其進一步包括: 接收來自該使用者之確認該模糊手勢意欲為該第一已知手勢之一輸入,其中儲存該雷達信號特性係回應於接收來自該使用者之該輸入。
- 如請求項1及2中任一項之方法,其中偵測該模糊手勢係在不存在一手勢訓練事件的情況下執行,該手勢訓練事件包括針對該使用者之一或多個手勢之分段式教示。
- 如請求項1之方法,其中接收執行或請求執行該命令之該指示包括基於該運算裝置之一操作狀態之一或多個變化來判定該執行或請求執行。
- 如請求項1及2中任一項之方法,其中偵測該模糊手勢利用一機器學習模型來改良該模糊手勢之該偵測,該機器學習模型與一或多個卷積神經網路相關聯。
- 如請求項1及2中任一項之方法,其中儲存該雷達信號特性係進一步回應於或基於在偵測該模糊手勢與接收該命令之該執行或請求執行之該指示之間的一時間段。
- 如請求項9之方法,其進一步包括基於該時間段相對於該一或多個經儲存雷達信號特性對該雷達信號特性進行加權。
- 如請求項1及2中任一項之方法,其中儲存該雷達信號特性係進一步回應於或基於是否在接收該指示之前指示執行或請求執行另一命令之一指示。
- 如請求項1及2中任一項之方法,其中儲存該雷達信號特性係回應於判定在接收執行或請求執行該命令之該指示之前未指示執行或請求執行該另一命令之指示。
- 如請求項1及2中任一項之方法,其中回應於該判定,將該模糊手勢之該雷達信號特性與該一或多個經儲存雷達信號特性之一第一經儲存雷達信號特性相關聯,該第一經儲存雷達信號特性與該第一已知手勢相關聯。
- 一種運算裝置,其包括: 至少一個天線; 一雷達系統,其經組態以使用該至少一個天線來發射一雷達發射信號且接收一雷達接收信號; 至少一個處理器;及 一電腦可讀儲存媒體,其包括回應於藉由該處理器執行而引導該運算裝置執行如請求項1至13之方法之任一者的指令。
- 一種運算系統,其包括一第一運算裝置及一第二運算裝置,該第一運算裝置及該第二運算裝置連接至一通訊網路以: 使該第一運算裝置或該第二運算裝置能夠執行如請求項1至13之方法之任一者;及 實現該第一運算裝置與該第二運算裝置之間的一資訊交換,該資訊包含以下至少一者: 一或多個經偵測雷達信號特性;或 一或多個經儲存雷達信號特性。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
WOPCT/US22/77437 | 2022-09-30 |
Publications (1)
Publication Number | Publication Date |
---|---|
TW202416107A true TW202416107A (zh) | 2024-04-16 |
Family
ID=
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11017217B2 (en) | System and method for controlling appliances using motion gestures | |
EP3714454B1 (en) | Variable latency device coordination | |
CN110313153B (zh) | 智能数字助理系统 | |
KR102078495B1 (ko) | 지능형 목록 읽기 | |
CN107430501B (zh) | 对语音触发进行响应的竞争设备 | |
CN108885485A (zh) | 基于存在性检测的数字助理体验 | |
DK201670578A1 (en) | Intelligent automated assistant in a home environment | |
CN107490971B (zh) | 家庭环境中的智能自动化助理 | |
WO2018006374A1 (zh) | 一种基于主动唤醒的功能推荐方法、系统及机器人 | |
CN111602382A (zh) | 电子设备及控制该电子设备的方法 | |
EP3776173A1 (en) | Intelligent device user interactions | |
TW202416107A (zh) | 基於使用者輸入之在線學習 | |
TW202418049A (zh) | 判定破壞性較小的命令 | |
WO2024072463A1 (en) | Radar-based gesture determination at long ranges | |
WO2024072467A1 (en) | Detecting user engagement | |
WO2024072468A1 (en) | In-line learning of new gestures for radar-enabled computing devices | |
WO2024072459A1 (en) | System of multiple radar-enabled computing devices | |
WO2024072466A1 (en) | Determination of a less-destructive command | |
WO2024072464A1 (en) | Sensor capability determination for radar-based computing devices | |
WO2024072461A1 (en) | Ambiguous gesture determination using contextual information | |
WO2024072465A1 (en) | In-line learning based on user inputs | |
WO2024072462A9 (en) | Continual in-line learning for radar-based gesture recognition | |
KR20230047434A (ko) | 어시스턴트 디바이스(들)의 주변 감지에 기초한 어시스턴트 액션(들) 추론하기 | |
KR20190128244A (ko) | 개인 정보의 프라이버시를 유지하기 위한 자연 언어 입력의 클라이언트 서버 프로세싱 | |
Surie et al. | The easy ADL home: A physical-virtual approach to domestic living |