TWI836498B - 用於配件配對的方法、系統以及記錄介質 - Google Patents
用於配件配對的方法、系統以及記錄介質 Download PDFInfo
- Publication number
- TWI836498B TWI836498B TW111125254A TW111125254A TWI836498B TW I836498 B TWI836498 B TW I836498B TW 111125254 A TW111125254 A TW 111125254A TW 111125254 A TW111125254 A TW 111125254A TW I836498 B TWI836498 B TW I836498B
- Authority
- TW
- Taiwan
- Prior art keywords
- accessory
- user
- body part
- type
- image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 29
- 230000004044 response Effects 0.000 claims abstract description 11
- 210000000707 wrist Anatomy 0.000 description 27
- 230000006870 function Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 3
- 101001121408 Homo sapiens L-amino-acid oxidase Proteins 0.000 description 2
- 102100026388 L-amino-acid oxidase Human genes 0.000 description 2
- 101100233916 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) KAR5 gene Proteins 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 101000827703 Homo sapiens Polyphosphoinositide phosphatase Proteins 0.000 description 1
- 102100023591 Polyphosphoinositide phosphatase Human genes 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Abstract
本發明提供一種用於配件配對的方法、系統和記錄介質。方法包括:基於配件的標識信息而決定配件的類型;根據圖像識別用戶身體部位的類型;響應於根據配件的類型和用戶身體部位的類型配件適用於用戶身體部位,獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置;以及根據配件的第一位置和用戶身體部位的第二位置將配件配置成與用戶身體部位配對。
Description
本發明是有關於一種用於虛擬現實的方法和系統,且特別是有關於一種用於配件配對的方法、系統以及記錄介質。
虛擬現實(virtual reality;VR)爲使用計算機模擬技術來在三維(three-dimensional;3D)空間中産生虛擬世界的技術。虛擬現實系統一般與若干配件(例如控制器、傳感器或揚聲器)兼容以檢測用戶的運動或産生沉浸式環境。虛擬現實系統包含頭戴式顯示器和計算裝置。計算裝置耦合到頭戴式顯示器且與配件通信。計算裝置可從配件收集數據,且使得用戶能够基於收集的數據而與虛擬世界中的虛擬對象交互。
對於可穿戴或手持型配件。如果配件自身首先未設定成與特定身體部位(例如左手或右手)相關聯,那麽一般需要手動地將配件設定成與由用戶操作配件的身體部位相關聯。另一方面,如果配件初始設定爲與特定身體部位相關聯但用戶將其穿戴在錯誤位置上,那麽有必要由用戶改變穿戴配件的位置。然而,對於需要固定(用腕帶或魔鬼氈)的一些配件,改變穿戴位置爲尤其不便的。
有鑒於此,本發明提供一種用於配件配對的方法、系統以及記錄介質,其檢測配件的位置和用戶身體部位的位置以用於配件與用戶身體部位配對,從而改良配件設定的便利。
本發明的實施例提供一種配件配對方法。方法包括:基於配件的標識信息而決定配件的類型;根據圖像識別用戶身體部位的類型;響應於根據配件的類型和用戶身體部位的類型配件適用於用戶身體部位,獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置;以及根據配件的第一位置和用戶身體部位的第二位置將配件配置成與用戶身體部位配對。
在本發明的實施例中,基於標識信息而決定配件的類型步驟的包括:從配件的標識信息獲得配件類型信息,其中配件類型信息指示配件的功能;以及基於配件類型信息而決定配件的類型。
在本發明的實施例中,識別圖像中的用戶身體部位的類型的步驟包括:對圖像執行圖像識別以識別圖像中的用戶身體部位的類型。
在本發明的實施例中,方法進一步包括:定義圖像中對應於用戶的用戶身體部位的候選區域;以及基於候選區域而定義指示用戶身體部位在環境內的位置的參考點。
在本發明的實施例中,方法進一步包括:將圖像中的參考點的坐標轉換爲用戶身體部位在環境內的位置。
在本發明的實施例中,配件的第一位置包括配件的位置和配件的定向中的至少一個,且用戶身體部位的第二位置包括用戶身體部位的位置和用戶身體部位的定向中的至少一個。
在本發明的實施例中,預設條件指示配件與用戶身體部位之間的相對位置關係和相對定向關係中的至少一個。
在本發明的實施例中,在獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置的步驟之後,方法進一步包括:計算配件的位置與用戶身體部位的位置之間的距離。
在本發明的實施例中,在獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置的步驟之後,方法進一步包括:計算在配件與用戶身體部位之間配件的定向與用戶身體部位的定向之間的相對角度。
本發明的實施例提供一種用於配件配對的顯示系統,包括頭戴式顯示器(head-mounted display;HMD)、至少一個配件以及計算裝置。計算裝置耦合到HMD和配件。計算裝置配置成基於配件的標識信息而決定配件的類型。計算裝置配置成根據圖像識別用戶身體部位的類型。響應於根據配件的類型和用戶身體部位的類型配件適用於用戶身體部位,計算裝置配置成獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置。計算裝置配置成將配件配置成與用戶身體部位配對。
在本發明的實施例中,計算裝置配置成從配件的標識信息獲得配件類型信息,其中配件類型信息指示配件的功能。計算裝置配置成基於配件類型信息而決定配件的類型。
在本發明的實施例中,計算裝置配置成對圖像執行圖像識別以識別圖像中的用戶身體部位的類型。
在本發明的實施例中,計算裝置配置成定義圖像中對應於用戶的用戶身體部位的候選區域。計算裝置配置成基於候選區域而定義指示用戶身體部位在環境內的位置的參考點。
在本發明的實施例中,計算裝置配置成將圖像中的參考點的坐標轉換爲用戶身體部位在環境內的位置。
在本發明的實施例中,顯示系統進一步包括圖像擷取裝置,耦合到計算裝置,其中圖像擷取配置成擷取圖像且將圖像傳輸到計算裝置。
在本發明的實施例中,配件的第一位置包括配件的位置和配件的定向中的至少一個,且用戶身體部位的第二位置包括用戶身體部位的位置和用戶身體部位的定向中的至少一個。
在本發明的實施例中,預設條件指示配件與用戶身體部位之間的相對位置關係和相對定向關係中的至少一個。
在本發明的實施例中,在獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置之後,計算裝置配置成計算配件的位置與用戶身體部位的位置之間的距離。
在本發明的實施例中,在獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置之後,計算裝置配置成計算在配件與用戶身體部位之間配件的定向與用戶身體部位的定向之間的相對角度。
本發明的實施例提供一種非暫時性計算機可讀記錄介質,配置成記錄程序,其中程序由處理器載入計算裝置中以執行以下步驟:基於配件的標識信息而決定配件的類型;根據圖像識別用戶身體部位的類型;響應於根據配件的類型和用戶身體部位的類型配件適用於用戶身體部位,獲得配件在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置;以及根據配件的第一位置和用戶身體部位的第二位置將配件配置成與用戶身體部位配對。
本發明的部份實施例接下來將會配合附圖來詳細描述,以下的描述所引用的元件符號,當不同附圖出現相同的元件符號將視為相同或相似的元件。這些實施例只是本發明的一部份,並未揭示所有本發明的可實施方式。更確切的說,這些實施例只是本發明的專利申請範圍的範例。凡可能之處,在圖式及實施方式中使用相同標號的元件/構件/步驟代表相同或類似部分。不同實施例中使用相同標號或使用相同用語的元件/構件/步驟可以相互參照相關說明。
圖1爲根據本發明的實施例的用於配件配對的顯示系統的框圖。參考圖1,本實施例的顯示系統100包含計算裝置110、頭戴式顯示器(HMD)120、圖像擷取裝置130以及配件140,且以下分別描述其功能。
計算裝置110可爲例如服務器(例如文件服務器、數據庫服務器或應用程序服務器)、工作站、個人計算機或具有計算能力的膝上型計算機且包含處理器。處理器爲例如中央處理單元(central processing unit;CPU)、圖形處理單元(graphics processing unit;GPU)或通用或專用的任何其它可編程微處理器、數字信號處理器(digital signal processor;DSP)、可編程控制器、專用集成電路(application specific integrated circuit;ASIC)、可編程邏輯裝置(programmable logic device;PLD)、或其它類似裝置、或這些裝置的組合。
HMD 120爲例如液晶顯示器(liquid-crystal display;LCD)、發光二極管(light-emitting diode;LED)顯示器或其它合適類型的顯示器,其以頭盔或鏡片形式製造供用戶穿戴於頭上。在本實施例中,HMD 120耦合到計算裝置110。在實施例中,顯示系統100可進一步包含定位穿戴HMD 120的用戶在環境內的位置且追踪用戶的移動位置的至少一個定位器(未示出)。定位器包含例如激光或紅外(infrared;IR)發射器和接收器,采用所述定位器以在3D空間中檢測對象的距離,且與多個校準器合作,可定位3D空間中對象的位置,所述校準器配置於對象(例如HMD 120)上。然而,顯示系統100可使用其它定位技術以在環境中定位HMD 120和其它對象。
應提及的是,在實施例中,計算裝置110與HMD 120分開設置,且以有綫或無綫方式耦合到HMD 120以用於數據傳輸。在另一實施例中,計算裝置110也可集成在HMD 120中,且與HMD 120通過傳輸綫連接以用於數據傳輸,此不受本發明限制。
圖像擷取裝置130耦合到計算裝置110。圖像擷取裝置130爲例如配備有電荷耦合裝置(charge coupled device;CCD)透鏡、互補金屬氧化物半導體(complementary metal-oxide semiconductor;CMOS)透鏡、紅外透鏡或其它種類的透鏡的攝影機。替代地,圖像擷取裝置130可爲具有深度信息功能的攝影機,例如深度攝像機或立體攝影機,其不受本發明限制。應提及,在實施例中,圖像擷取裝置130可與HMD 120分開安置或集成在HMD 120中,其不受本發明限制。
顯示系統100與若干不同配件兼容。配件中的每一個可具有不同功能且産生與顯示系統100相關的不同輸入和輸出數據。舉例來說,配件140將爲輸入裝置,例如配備有運動傳感器和紅外(IR)光源(例如紅外LED)的手持型控制器或手腕控制器、鼠標、操縱杆、導航球、觸控板和/或准許用戶與虛擬世界中的環境、對象或化身交互的按鈕。在另一實施例中,配件140將爲可檢測三維(3D)空間中的對象且使用安置在對象(例如HMD 120)上的校準器定位對象在3D空間中的位置的定位器。下文描述的用於本發明的配件配對的方法的詳細步驟。
圖2爲示出根據本發明的實施例的用於配件配對的方法的流程圖。參考圖2,本實施例的方法適用於圖1的顯示系統100,用於本發明的配件配對的方法的詳細步驟參考顯示系統100的各種組件在下文描述。
首先,計算裝置110從配件140接收標識信息。計算裝置110基於配件140的標識信息而決定配件140的類型(步驟S202)。在實施例中,計算裝置110從每一配件的標識信息獲得配件類型識別。配件類型標識信息可指示對應於配件的功能,使得具有不同功能的配件將具有不同配件類型識別。計算裝置110可基於配件類型信息而決定配件的類型。在實施例中,標識信息可以藍牙協議或藍牙低能量(Bluetooth low energy;BLE)協議的標準包格式從配件140傳輸到計算裝置110,其不受本發明限制。
返回圖2中的流程圖,計算裝置110接收圖像。計算裝置110根據圖像識別用戶身體部位的類型(步驟S204)。圖像擷取裝置130可擷取用戶的周圍環境的圖像。在實施例中,因爲圖像擷取裝置130可集成在由用戶穿戴的HMD 120中,因此圖像擷取裝置130擷取用戶的視場(field of view;FOV)的圖像。在另一實施例中,如果圖像擷取裝置130與HMD 120分開安置,那麽圖像擷取裝置130可擷取用戶的圖像。所擷取的圖像可從圖像擷取裝置130傳輸到計算裝置110。
用戶身體部位可爲用戶身體的手、腿、頭或其它身體部位。在實施例中,計算裝置110可檢測和/或跟踪接收到的圖像中對應於用戶身體部位的用戶身體部位圖像。具體來說,計算裝置110讀取圖像流中的連續圖像,且檢測和跟踪圖像中對應於用戶身體部位的候選區域。計算裝置110可對圖像執行圖像識別以定義圖像中對應於用戶身體部位的候選區域,且識別圖像中的用戶身體部位的類型。可通過訓練的深度學習模型、神經網絡模型或類似人工智能模型執行圖像識別。舉例來說,深度學習模型由學習網絡(例如卷積類神經網絡(convolution neural network;CNN))實施,其不受本發明限制。
舉例來說,圖3示出根據本發明的實施例的穿戴頭戴式顯示器和控制器的用戶的實例。圖4示出根據本發明的實施例的檢測圖像中的用戶身體部位的實例。參考圖3,現實世界環境中的用戶32將HMD 34穿戴在頭上且將手腕控制器38穿戴在右手上。用戶32穿戴具有圖像擷取裝置36的HMD 34,所述圖像擷取裝置36具有邊界311到邊界314內的視場。在此實施例中,當在顯示系統的手腕控制器38與計算裝置110之間建立連接時,計算裝置110可從手腕控制器38收集標識信息且基於標識信息而決定手腕控制器38的類型。在這種情况下,計算裝置110可根據手腕控制器38的標識信息決定對應於手腕控制器38的類型“手腕控制器”。
在這一實施例中,場景320包含手腕控制器38和用戶32的右手,且圖像擷取裝置36可擷取對應於場景320的圖像。如圖4中所繪示,圖像VR用作詳細描述的實例。圖像VR爲可由圖像擷取裝置36擷取的圖像,且圖像VR可作爲虛擬現實圖像顯示給用戶32。在這一實施例中,圖像VR包含手圖像40和手腕控制器圖像50。在檢測圖像VR中的手的手圖像40之後,計算裝置110可定義對應於手圖像40的候選區域且基於候選區域而定義指示用戶身體部位的位置的參考點,例如用戶32的右手。參考點可爲候選區域的中心點、候選區域的上部邊界的中心點或候選區域中的任一點,其不受本發明限制。如圖4中所繪示,計算裝置110可將邊界框定義爲候選區域,且候選區域的大小至少足够大以圍封對應於候選區域的用戶身體部位。計算裝置110可將候選區域41設定成與手圖像40相關聯,且將候選區域41的中心點設定成指示用戶32的右手的位置的參考點P1。
另外,計算裝置110將識別手圖像40的類型,且將類型設定成與候選區域41相關聯。舉例來說,在這一實施例中,計算裝置110可識別對應於候選區域41的手圖像40且獲得對應於手圖像40的類型“右手”。
返回圖2中的流程圖,計算裝置110基於配件的類型和用戶身體部位的類型而決定配件是否爲匹配圖像中的用戶身體部位的候選裝置。具體地,計算裝置110根據配件的類型和用戶身體部位的類型決定配件是否適用於用戶身體部位(步驟S206)。當配件不適用於用戶身體部位時,程序將返回到步驟S204,使得計算裝置110將繼續從圖像擷取裝置130接收圖像。詳細地說,配件的多個類型和對應於配件的每個類型的用戶身體部位的類型存儲在顯示系統100中的存儲器(未示出)中。計算裝置110可通過配件的類型與用戶身體部位的類型之間的對應關係決定配件是否爲候選裝置。
舉例來說,計算裝置110可建立查詢表,且配件的多個類型和用戶身體部位的對應類型記錄在查詢表中。查詢表可存儲在顯示系統100中的存儲器中。下表1爲示範性實施例中的查詢表的實例,其用以記錄配件的類型與用戶身體部位的類型之間的對應關係。
表1
配件 | 用戶身體部位 |
手腕控制器 | 左手 |
右手 | |
手持控制器 | 左手 |
右手 |
另一方面,當配件適用於用戶身體部位時配件決定爲候選裝置。具體地,響應於根據配件的類型和用戶身體部位的類型配件適用於用戶身體部位,計算裝置110獲得配件140在環境內的第一位置以及獲得用戶身體部位在環境內的第二位置(步驟S208)。舉例來說,根據圖3、圖4以及表1,計算裝置110可將對應於手腕控制器38的類型“手腕控制器”和對應於手圖像40的類型“右手”輸入到表1,且決定手腕控制器38是否爲匹配手圖像40的候選裝置。在表1中,類型“手腕控制器”記錄爲與類型“右手”相關。因此,計算裝置110將決定手腕控制器38和手圖像40具有對應關係,且將手腕控制器38設定成候選裝置。
在一個實施例中,配件140的第一位置可包含配件140在環境內的位置。舉例來說,可由計算裝置110基於圖像擷取裝置130與配件140之間的空間關係而獲得配件140在環境內的位置。圖像擷取裝置130可檢測從配件140發射的紅外光,且計算裝置110可基於由圖像擷取裝置130獲得的紅外光、圖像擷取裝置130的位置、圖像擷取裝置130的外在參數、圖像擷取裝置130的內部參數和/或其它信息而計算配件140在環境內的位置。配件的位置可爲與特定裝置(例如圖像擷取裝置130或HMD 120)相關的相對位置或對應於3D空間中的坐標系的絕對位置。
在另一實施例中,配件140的第一位置可進一步包含配件的定向。舉例來說,可通過使用加速度計獲得配件140在環境內的定向。可進一步基於由一或多個額外傳感器組件(未示出)接收的信息而獲得配件140在環境內的位置和配件140的定向,例如可跟踪配件140的位置和/或定向的其它位置傳感器(例如運動傳感器、GPS傳感器等)和/或定向傳感器(例如陀螺儀等)。
在一個實施例中,用戶身體部位的第二位置可包含用戶身體部位在環境內的位置和/或用戶身體部位的定向。舉例來說,可由計算裝置110基於HMD 120與用戶身體部位之間的空間關係而獲得用戶身體部位在環境內的位置。如上文所提及,計算裝置110可對由圖像擷取裝置130擷取的圖像執行圖像識別,從而定義圖像中的用戶身體部位的參考點。在這一實施例中,計算裝置110可進一步將圖像中的參考點的坐標轉換爲環境內的位置。
另外,計算裝置110可對由圖像擷取裝置130擷取的圖像執行圖像識別,從而決定用戶身體部位的定向。應提及在實施例中,位置和定向可爲與特定裝置(例如HMD 120)相關的相對位置或對應於3D空間中的坐標系的絕對位置。
在另一實施例中,可進一步基於由一或多個額外傳感器組件接收的骨架信息或其它信息而獲得用戶身體部位在環境內的第二位置,其不受本發明限制。詳細地說,計算裝置110可對接收到的圖像執行骨架檢測或其它用戶身體部位識別方法以檢測用戶的骨架信息,且基於骨架信息而定義圖像中的用戶身體部位的候選區域。隨後,計算裝置110可進一步將圖像中的候選區域的坐標轉換爲用戶身體部位在環境內的位置。此外,計算裝置110可基於骨架信息和逆動力學(inverse kinematics;IK)而計算用戶身體部位的定向。
最後,計算裝置110決定第一位置與第二位置之間的相對位置關係是否符合預設條件(步驟S210)。響應於決定爲不符合預設條件的相對位置關係,程序將返回到步驟S204,使得計算裝置110將繼續從圖像擷取裝置130接收圖像。
另一方面,響應於決定爲符合預設條件的相對位置關係,計算裝置110配置成根據配件的第一位置和用戶身體部位的第二位置將配件140與用戶身體部位配對(步驟S212)。在此,預設條件可指示例如配件140與用戶身體部位之間的相對位置關係和/或相對定向關係。然而,將由相對位置關係符合的條件不限於此。詳細地說,計算裝置110可計算配件140的位置與用戶身體部位的位置之間的距離以決定相對位置關係,且決定相對位置關係是否符合預設條件。然而,預設條件可爲配件140與用戶身體部位之間的距離或距離範圍。
在實施例中,假定預設條件包含“手腕控制器的位置在右手後方10厘米”和/或“手腕控制器的定向與右手的定向相同”。參考圖3和圖4,參考點P1表示對應於用戶32的右手的手圖像40的位置,且參考點P2表示手腕控制器38的位置。計算裝置110將計算參考點P1與參考點P2之間的距離以決定參考點P1與參考點P2之間的相對位置關係,且決定相對位置關係是否符合預設條件。如圖3和圖4所示,參考點P1與參考點P2之間的距離爲距離d1。假定距離d1爲10厘米。根據在這一實施例中相對位置關係可決定爲符合預設條件,計算裝置110可將手腕控制器38與用戶32的右手配對。
在另一實施例中,進一步考慮相對定向。計算裝置110可計算在配件與用戶身體部位之間配件的定向與用戶身體部位的定向之間的相對角度。具體地,計算裝置110計算配件的定向與用戶的定向之間的相對角度以決定配件與用戶身體部位之間的相對定向,且決定相對定向是否符合預設條件。然而,預設條件可爲配件140與用戶身體部位之間的相對角度或相對角度範圍。
如圖3和圖4所示,計算裝置110可計算相對角度以決定對應於用戶32的右手的手圖像40與手腕控制器38之間的相對位置,且決定用戶32的右手和手腕控制器38是否具有相同定向。假定手腕控制器38和用戶32的右手的兩個定向在第一方向D1上,那麽計算裝置110可將手腕控制器38與用戶32的右手配對。
本發明進一步針對一種非暫時性計算機可讀記錄介質,配置成記錄由處理器載入計算裝置110中的程序以執行用於配件配對的方法的每個步驟。計算機程序由多個程序部分(例如構造組織圖式程序部分,批准列表程序部分,設定程序部分且部署程序部分等)構成。在程序部分載入計算裝置110中且執行之後,可完成用於配件配對的方法的步驟。
鑒於前述描述,用於配件配對的所提議方法、系統以及計算機可讀記錄介質允許基於配件和用戶身體部位的類型和位置而對配件和用戶身體部位進行配對。基於對應於其中穿戴配件的位置和配件的定位信息而標識圖像追踪或骨架追踪的結果,推斷在哪個身體部位上穿戴配件。隨後,配件可身體部位配對,在所述身體部位上穿戴所述配件。因此,不需要用戶設定與每個配件相關聯的配對身體部位,從而改良配件設定的便利和靈活性。
雖然本發明已以實施例揭露如上,然其並非用以限定本發明,任何所屬技術領域中具有通常知識者,在不脫離本發明的精神和範圍內,當可作些許的更動與潤飾,故本發明的保護範圍當視後附的申請專利範圍所界定者為準。
32:用戶
34、120:頭戴式顯示器
36、130:圖像擷取裝置
38:手腕控制器
40:手圖像
41:候選區域
50:手腕控制器
100:顯示系統
110:計算裝置
140:配件
311、314:邊界
320:場景
d1:距離
D1:第一方向
P1、P2:參考點
S202、S204、S206、S208、S210、S212:步驟
圖1爲根據本發明的實施例的用於配件配對的顯示系統的框圖。
圖2爲根據本發明的實施例的用於配件配對的方法的流程圖。
圖3爲根據本發明的實施例的穿戴頭戴式顯示器和控制器的用戶的實例。
圖4爲根據本發明的實施例的檢測圖像中的用戶身體部位的實例。
爲了使本發明的以上特徵及優勢更好理解,如下詳細地描述附有圖式的若干實施例。
100:顯示系統
110:計算裝置
120:頭戴式顯示器
130:圖像擷取裝置
140:配件
Claims (7)
- 一種配件配對方法,包括:基於配件的標識信息而決定所述配件的類型;根據圖像識別用戶身體部位的類型;響應於根據所述配件的所述類型和所述用戶身體部位的所述類型而決定所述配件適用於所述用戶身體部位,獲得所述配件在環境內的第一位置以及獲得所述用戶身體部位在所述環境內的第二位置;以及根據所述配件的所述第一位置和所述用戶身體部位的所述第二位置將所述配件配置成與所述用戶身體部位配對,其中基於所述標識信息而決定所述配件的所述類型的步驟包括:從所述配件的所述標識信息獲得配件類型信息,其中所述配件類型信息指示所述配件的功能;以及基於所述配件類型信息而決定所述配件的所述類型,其中識別所述圖像中的所述用戶身體部位的所述類型的步驟包括:對所述圖像執行圖像識別以識別所述圖像中的所述用戶身體部位的所述類型,其中所述配件配對方法進一步包括:定義所述圖像中對應於用戶的所述用戶身體部位的候選區域;基於所述候選區域而定義指示所述用戶身體部位在所述環境內的位置的第一參考點;定義所述配件在所述環境內的位置的第二參考點;以及基於所述第一參考點以及所述第二參考點的距離與一預設距離的比較 進行配對。
- 如請求項1所述的配件配對方法,進一步包括:將所述圖像中的所述參考點的坐標轉換為所述用戶身體部位在所述環境內的所述位置。
- 如請求項1所述的配件配對方法,其中所述配件的所述第一位置包括所述配件的位置和所述配件的定向中的至少一個,且所述用戶身體部位的所述第二位置包括所述用戶身體部位的位置和所述用戶身體部位的定向中的至少一個。
- 如請求項3所述的配件配對方法,其中在獲得所述配件在所述環境內的所述第一位置以及獲得所述用戶身體部位在所述環境內的所述第二位置的步驟之後,進一步包括:計算所述配件的所述位置與所述用戶身體部位的所述位置之間的距離。
- 如請求項3所述的配件配對方法,其中在獲得所述配件在所述環境內的所述第一位置以及獲得所述用戶身體部位在所述環境內的所述第二位置的所述步驟之後,進一步包括:計算在所述配件與所述用戶身體部位之間所述配件的所述定向與所述用戶身體部位的所述定向之間的相對角度。
- 一種用於配件配對的顯示系統,包括:頭戴式顯示器(HMD);至少一個配件;以及計算裝置,耦合到所述頭戴式顯示器和所述配件, 其中所述計算裝置配置成基於所述配件的標識信息而決定所述配件的類型,所述計算裝置配置成根據圖像識別用戶身體部位的類型,響應於根據所述配件的所述類型和所述用戶身體部位的所述類型而決定所述配件適用於所述用戶身體部位,所述計算裝置配置成獲得所述配件在環境內的第一位置以及獲得所述用戶身體部位在所述環境內的第二位置,且所述計算裝置配置成根據所述配件的所述第一位置和所述用戶身體部位的所述第二位置將所述配件配置成與所述用戶身體部位配對,其中基於所述標識信息而決定所述配件的所述類型的步驟包括:從所述配件的所述標識信息獲得配件類型信息,其中所述配件類型信息指示所述配件的功能;以及基於所述配件類型信息而決定所述配件的所述類型,其中識別所述圖像中的所述用戶身體部位的所述類型的步驟包括:對所述圖像執行圖像識別以識別所述圖像中的所述用戶身體部位的所述類型,其中所述計算裝置進一步配置成:定義所述圖像中對應於用戶的所述用戶身體部位的候選區域;基於所述候選區域而定義指示所述用戶身體部位在所述環境內的位置的第一參考點;定義所述配件在所述環境內的位置的第二參考點;以及基於所述第一參考點以及所述第二參考點的距離與一預設距離的比較 進行配對。
- 一種非暫時性計算機可讀記錄介質,配置成記錄程序,其中所述程序通過處理器載入計算裝置中以執行以下步驟:基於配件的標識信息而決定所述配件的類型;根據圖像識別用戶身體部位的類型;響應於根據所述配件的所述類型和所述用戶身體部位的所述類型而決定所述配件適用於所述用戶身體部位,獲得所述配件在環境內的第一位置以及獲得所述用戶身體部位在所述環境內的第二位置;以及根據所述配件的所述第一位置和所述用戶身體部位的所述第二位置將所述配件配置成與所述用戶身體部位配對,其中基於所述標識信息而決定所述配件的所述類型的步驟包括:從所述配件的所述標識信息獲得配件類型信息,其中所述配件類型信息指示所述配件的功能;以及基於所述配件類型信息而決定所述配件的所述類型,其中識別所述圖像中的所述用戶身體部位的所述類型的步驟包括:對所述圖像執行圖像識別以識別所述圖像中的所述用戶身體部位的所述類型,其中所述程序通過所述處理器載入所述計算裝置中以進一步執行以下步驟:定義所述圖像中對應於用戶的所述用戶身體部位的候選區域;基於所述候選區域而定義指示所述用戶身體部位在所述環境內的位置的第一參考點; 定義所述配件在所述環境內的位置的第二參考點;以及基於所述第一參考點以及所述第二參考點的距離與一預設距離的比較進行配對。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163274963P | 2021-11-03 | 2021-11-03 | |
US63/274,963 | 2021-11-03 | ||
US17/826,173 | 2022-05-27 | ||
US17/826,173 US20230140030A1 (en) | 2021-11-03 | 2022-05-27 | Method, system and recording medium for accessory pairing |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202319892A TW202319892A (zh) | 2023-05-16 |
TWI836498B true TWI836498B (zh) | 2024-03-21 |
Family
ID=
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210239993A1 (en) | 2019-04-15 | 2021-08-05 | Magic Leap, Inc. | Sensor fusion for electromagnetic tracking |
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210239993A1 (en) | 2019-04-15 | 2021-08-05 | Magic Leap, Inc. | Sensor fusion for electromagnetic tracking |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110647237B (zh) | 在人工现实环境中基于手势的内容共享 | |
EP3469458B1 (en) | Six dof mixed reality input by fusing inertial handheld controller with hand tracking | |
CN112513711B (zh) | 用于使用位置向量解析半球模糊度的方法和系统 | |
TWI722280B (zh) | 用於多個自由度之控制器追蹤 | |
WO2014071254A4 (en) | Wireless wrist computing and control device and method for 3d imaging, mapping, networking and interfacing | |
US20130169682A1 (en) | Touch and social cues as inputs into a computer | |
CN106575437B (zh) | 信息处理装置、信息处理方法以及程序 | |
CN114761909A (zh) | 针对头戴式显示器的内容稳定 | |
CN111353355B (zh) | 动作追踪系统及方法 | |
US10838515B1 (en) | Tracking using controller cameras | |
WO2019155840A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
TW202029127A (zh) | 物體追蹤系統及物體追蹤方法 | |
WO2020110659A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
CN109668545A (zh) | 用于头戴式显示装置的定位方法、定位器以及定位系统 | |
US20230362573A1 (en) | Audio enhanced augmented reality | |
US20230140030A1 (en) | Method, system and recording medium for accessory pairing | |
JPWO2018146922A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
US11944897B2 (en) | Device including plurality of markers | |
TWI836498B (zh) | 用於配件配對的方法、系統以及記錄介質 | |
JP7405083B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2017163648A1 (ja) | 頭部装着装置 | |
EP3971683A1 (en) | Human body portion tracking method and human body portion tracking system | |
US11863963B2 (en) | Augmented reality spatial audio experience | |
WO2017163647A1 (ja) | 頭部装着装置 | |
Plopski et al. | Tracking systems: Calibration, hardware, and peripherals |