TWI825982B - 用於提供視覺內容的方法、主機以及電腦可讀儲存媒體 - Google Patents
用於提供視覺內容的方法、主機以及電腦可讀儲存媒體 Download PDFInfo
- Publication number
- TWI825982B TWI825982B TW111133991A TW111133991A TWI825982B TW I825982 B TWI825982 B TW I825982B TW 111133991 A TW111133991 A TW 111133991A TW 111133991 A TW111133991 A TW 111133991A TW I825982 B TWI825982 B TW I825982B
- Authority
- TW
- Taiwan
- Prior art keywords
- point
- reference line
- location
- host
- visual content
- Prior art date
Links
- 230000000007 visual effect Effects 0.000 title claims abstract description 62
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000012790 confirmation Methods 0.000 claims description 20
- 230000004044 response Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 12
- 230000007246 mechanism Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Abstract
本發明的實施例提供用於提供視覺內容的方法、主機以及電腦可讀儲存媒體。所述方法包含:在第一地點提供參考物件以瞄準第一點且據以判定與第一點相關的第一參考線,其中第一點與外部相機相關聯;在第二地點提供參考物件以瞄準第一點且據以判定與第一點相關的第二參考線;基於第一參考線和第二參考線判定外部相機的相機位置;取得由外部相機擷取的特定影像;以及經由基於相機位置將特定影像與虛擬場景組合而產生特定視覺內容。
Description
本發明是有關於一種用於提供內容的機制,且特別是有關於一種用於提供視覺內容的方法、主機以及電腦可讀儲存媒體。
混合實境擷取(mixed reality capture;MRC)技術可用以向虛擬實境(virtual reality;VR)使用者提供第三人稱視角。在MRC中,需要設置外部相機以用於取得對應於第三人稱視角的影像。
在VR應用的影像呈現處理中,基於應用相機(其具有與外部相機相同的視角)呈現的應用影像可與由外部相機擷取的相機影像組合成用於(即時)廣播的混合影像。
然而,如果外部相機的位置不正確,那麼應用相機和外部相機的視角可能不同。在這種情況下,產生的混合影像的品質將降低。
舉例來說,如果外部相機所拍攝的使用者正持有基於應用相機的視角渲染的虛擬物件,那麼使用者在混合影像中應當看起來像是持有上述虛擬物件。如果外部相機的位置不正確,那麼混合影像中的虛擬物件可能偏離使用者的手,這可能導致令人不滿意的視覺體驗。
因此,取得外部相機的正確位置實屬重要。
因此,本發明涉及一種用於提供視覺內容的方法、主機以及電腦可讀儲存媒體,其可用於解決以上技術問題。
本發明的實施例提供一種用於提供適用於主機的視覺內容的方法。方法包含:在第一地點提供參考物件以瞄準第一點且據以判定與第一點相關的第一參考線,其中第一點與外部相機相關聯;在第二地點提供參考物件以瞄準第一點且據以判定與第一點相關的第二參考線;基於第一參考線和第二參考線判定外部相機的相機位置;取得由外部相機擷取的特定影像;以及經由基於相機位置將特定影像與虛擬場景組合而產生特定視覺內容。
本發明的實施例提供包含儲存電路和處理器的主機。儲存電路儲存程式碼。處理器耦接到儲存電路,所述處理器存取程式碼以執行:在第一地點提供參考物件以瞄準第一點且據以判定與第一點相關的第一參考線,其中第一點與外部相機相關聯;在第二地點提供參考物件以瞄準第一點且據以判定與第一點相關的第二參考線;基於第一參考線和第二參考線判定外部相機的相機位置;取得由外部相機擷取的特定影像;以及經由基於相機位置將特定影像與虛擬場景組合而產生特定視覺內容。
本發明的實施例提供電腦可讀儲存媒體,所述電腦可讀儲存媒體記錄可執行電腦程式,所述可執行電腦程式由主機載入以執行以下步驟:在第一地點提供參考物件以瞄準第一點且據以判定與第一點相關的第一參考線,其中第一點與外部相機相關聯;在第二地點提供參考物件以瞄準第一點且據以判定與第一點相關的第二參考線;基於第一參考線和第二參考線判定外部相機的相機位置;取得由外部相機擷取的特定影像;以及經由基於相機位置將特定影像與虛擬場景組合而產生特定視覺內容。
參見圖1,其繪示根據本發明的實施例的主機的示意圖。在各種實施例中,主機100可為任何電子裝置,例如智慧型裝置和/或電腦裝置。在一些實施例中,主機100可為實境系統(例如,VR系統、擴增實境(augmented reality;AR)系統、混合實境(mixed reality;MR)系統等)的頭戴式顯示器(head-mounted display;HMD)。在一些實施例中,主機100可為提供視覺內容(例如,VR內容)以供使用者/佩戴者觀看的(獨立)HMD,但本發明不限於此。
在圖1中,主機100包含儲存電路102和處理器104。儲存電路102為以下中的一個或組合:靜態或移動隨機存取記憶體(random access memory;RAM)、唯讀記憶體(read-only memory;ROM)、快閃記憶體、硬碟或任何其它類似裝置,且所述儲存電路102記錄可由處理器104執行的程式碼和/或多個模組。
處理器104與儲存電路102耦接,且處理器104可為例如通用處理器、專用處理器、常規處理器、數位訊號處理器(digital signal processor;DSP)、多個微處理器、與DSP核心相關聯的一或多個微處理器、控制器、微控制器、專用積體電路(Application Specific Integrated Circuit;ASIC)、現場可程式設計閘陣列(Field Programmable Gate Array;FPGA)電路、任何其它類型的積體電路(integrated circuit;IC)、狀態機等。
在一些實施例中,主機100可配置成執行例如由內向外追蹤和/或由外向內追蹤的追蹤功能,以追蹤主機100的姿態。在一些實施例中,主機100可裝設有一或多個相機(例如,前置相機)以用於擷取主機100地點的環境的影像。在一個實施例中,主機100可透過執行例如同時定位與地圖構建(simultaneous localization and mapping;SLAM)而基於擷取的影像以追蹤主機100的姿態。在一些實施例中,主機100的姿態可由主機100在例如主機100的所謂的6DOF的一或多個自由度(degree of freedom,DOF)上的一或多個成分表徵,但本發明不限於此。
在本發明的實施例中,主機100可用於MRC應用情境。參見圖2,其繪示根據本發明的實施例的MRC應用情境的示意圖。在圖2中,主機100可為由使用者299穿戴的HMD。另外,外部相機210可裝設在追蹤區域220的外部以用於擷取第三人稱視角中的使用者299和/或主機100的影像。在實施例中,追蹤區域229為允許主機100和/或使用者299移動的區域。由於外部相機210既不在追蹤區域200中也不接近於追蹤區域200,因此使用者299難以用常規方式,例如用與主機100連接的手持式控制器物理地觸摸外部相機210來判定外部相機210的相機位置。因此,本發明的實施例提供即使外部相機210遠離使用者299和/或主機100,亦可用以判定外部相機210的相機位置的機制。
在實施例中,綠幕230可裝設在使用者299的背景中。在這種情況下,一旦外部相機210擷取到使用者299和/或主機100的影像,主機100可對來自外部相機210的影像執行一些影像預處理(例如,去除背景)。在一個實施例中,主機100可將預處理的影像與虛擬場景(例如,VR場景)組合成用於例如直播的視覺內容,但本發明不限於此。
在本發明的實施例中,處理器104存取儲存於儲存電路102中的模組和/或程式碼以實施本發明中所提供的用於提供視覺內容的方法,這將在下文中進一步論述。
參見圖3,其繪示根據本發明的實施例的用於提供視覺內容的方法的流程圖。此實施例的方法可由圖1中的主機100執行,且下文將用圖1中所繪示的組件來描述圖3中的各步驟的細節。另外,為了較好解釋本發明的概念,圖2和圖4A到圖4E將用作實例,其中圖4A到圖4E繪示根據本發明的實施例的判定相機地點的示意圖。
在本發明的實施例中,在圖3的方法開始之前,處理器104可提供指令以指示使用者299將外部相機210水平地放置同時面向追蹤區域220的中心,且可指示使用者299站在追蹤區域220內的第一地點L1,但本發明不限於此。在其它實施例中,可根據設計者的要求以不同方式放置外部相機210。
在一個實例中,第一地點L1可為追蹤區域220的中心。在其它實施例中,根據設計者的要求,第一地點L1可為追蹤區域220內的另一地點。
在本發明的實施例中,在取得外部相機210的相機位置期間,主機100可以通透模式操作。也就是說,主機100可用例如前置相機擷取使用者299前方的環境的影像,且將擷取的影像作為視覺內容顯示給使用者299。在這種情況下,使用者299在穿戴主機100時可看見所述環境,這意味著使用者299可在由主機100提供的視覺內容中看見外部相機210。
在一些實施例中,在取得外部相機210的相機位置期間,主機100可以透視模式操作。也就是說,使用者在穿戴主機100時可經由例如主機100的透明顯示面板直接看見所述環境,但本發明不限於此。
在圖4A中,假設處理器104在以通透模式或透視模式操作時在特定視野中向使用者299顯示視覺內容400,使用者299可看見視覺內容400中的外部相機210。在實施例中,特定視野對應於由主機100提供的特定眼睛影像(例如,左眼影像或右眼影像)。也就是說,僅使用者299的一隻眼睛可看見視覺內容400。在這種情況下,處理器104可執行一些步驟以便於使用者299判定外部相機210的相機位置。在下文中將提供詳細論述。
在步驟S310中,處理器104在第一地點L1提供參考物件411以瞄準第一點P1且據以判定與第一點P1相關的第一參考線RL1,其中第一點P1與外部相機210相關聯。
在圖4A中,反應於判定主機100在第一地點L1(例如,追蹤區域220的中心),處理器104在特定視野中的特定位置處顯示參考物件411。在不同實施例中,用於顯示參考物件411的特定位置可為特定視野的中心或其它所需位置。
在本發明的實施例中,參考物件411可為從使用者的眼睛向前發出的參考射線。在一個實施例中,如圖4A所繪示,由於參考射線可平行於使用者的視線,因此參考射線對使用者來說就像一個點。為了便於使用者看見參考物件411,處理器104可產生視覺輔助(例如,具有對應於參考物件411的中心的十字形準心)以供使用者觀看,但本發明不限於此。
在一個實施例中,參考物件411可為從連接到主機100的手持式控制器發出的參考射線。在這種情況下,使用者可看見視覺內容400中的參考射線,但本發明不限於此。
在一個實施例中,為了判定外部相機210的相機位置,可假設所考慮的第一點P1對應於外部相機210的鏡頭的中心。
在一個實施例中,當主機100在第一地點L1時,處理器104可指示使用者299用參考物件411瞄準第一點P1。在參考物件411對應於從手持式控制器發出的參考射線的實施例中,參考物件411可反應於與主機100連接的手持式控制器的移動而移動。因此,使用者299可四處移動手持式控制器以嘗試將參考物件411與第一點P1對準。
在參考物件411對應於從使用者的眼睛發出的參考射線的實施例中,參考物件411的位置可固定在特定視野中,且視覺內容400可反應於使用者的頭部的移動而變化。因此,使用者299可移動他的/她的頭部以嘗試將參考物件411與第一點P1對準,但本發明不限於此。
一旦使用者299判定參考物件411已與第一點P1(例如,外部相機210的鏡頭的中心)對準,使用者299可執行例如按壓手持式控制器或主機100上的特定按鈕的確認操作以用於通知主機100。
在圖4B中,反應於判定在第一地點L1提供參考物件411期間偵測到確認操作,處理器104取得代表物件的當前代表位置和對應於參考物件411的當前位置。
接下來,處理器104判定第一參考線RL1,其中第一參考線RL1穿過當前代表位置和當前位置。
在一個實施例中,如果參考物件411反應於主機100的移動而移動,那麼代表物件可為主機100。在這種情況下,處理器104可產生穿過主機100的當前代表位置和對應於參考物件411的當前位置的線作為第一參考線RL1。
在另一實施例中,如果參考物件411反應於手持式控制器的移動而移動,那麼代表物件可為手持式控制器。在這種情況下,處理器104可產生穿過手持式控制器的當前代表位置和對應於參考物件411的當前位置的線作為第一參考線RL1。
在步驟S320中,處理器104在第二地點L2提供參考物件411且據以判定與第一點P1相關的第二參考線RL2。
在一個實施例中,在判定第一參考線L1之後,處理器104可指示使用者299移動到追蹤區域220內的另一地點。在一個實施例中,使用者299可選擇追蹤區域220中的第一地點L1以外的任何地點作為第二地點L2。
如圖4C中所繪示,反應於判定主機100在第二地點L2,處理器104在特定視野中的特定位置處顯示參考物件411。
在一個實施例中,由於追蹤區域220內的任何地點都可被視為第二地點L2,處理器104可在使用者299移動主機100期間顯示參考物件411,但本發明不限於此。
在一個實施例中,當主機100在第二地點L2時,處理器104可指示使用者299用參考物件411瞄準第一點P1。因此,使用者299可四處移動他的/她的頭部和/或四處遊移動手持式控制器以嘗試將參考物件411與第一點P1對準。
一旦使用者299判定參考物件411已與第一點P1(例如,外部相機210的鏡頭的中心)對準,使用者299可執行例如按壓手持式控制器或主機100上的特定按鈕的確認操作以用於通知主機100。
在圖4D中,反應於判定在第二地點L2提供參考物件411期間偵測到確認操作,處理器104取得代表物件的第二代表位置和對應於參考物件411的當前位置。
接下來,處理器104判定第二參考線RL2,其中第二參考線RL2穿過第二代表位置和當前位置。
在一個實施例中,如果參考物件411反應於主機100的移動而移動,那麼代表物件可為主機100。在這種情況下,如圖4E中所繪示,處理器104可產生穿過主機100的當前代表位置和對應於參考物件411的當前位置的線作為第二參考線RL2。
在另一實施例中,如果參考物件411反應於手持式控制器的移動而移動,那麼代表物件可為手持式控制器。在這種情況下,處理器104可產生穿過手持式控制器的當前代表位置和對應於參考物件411的當前位置的線作為第二參考線RL2。
在一個實施例中,如果第一參考線RL1與第二參考線RL2之間的角度較大,那麼相機位置的判定的準確性將會更好。
因此,在主機100在追蹤區域220內移動期間,處理器104在主機100的移動期間取得與第一點P1相關的瞬時參考線。在一個實施例中,瞬時參考線可基於與判定第一參考線RL1類似的原理而判定,但不需要來自使用者299的確認操作。也就是說,不論參考物件411何時移動,穿過代表物件的當前代表位置和對應於參考物件411的參考位置的線將用作瞬時參考線,但本發明不限於此。
在這種情況下,處理器104判定第一參考線RL1與瞬時參考線之間的角度是否小於角度閾值(例如,15度)。反應於判定第一參考線RL1與瞬時參考線之間的角度小於角度閾值,處理器104可指示使用者299從第一地點L1移動得更遠以實現更好的位置判定結果。
另一方面,反應於判定第一參考線RL1與瞬時參考線之間的角度不小於角度閾值,處理器104可指示使用者299當前地點適合於視為第二地點L2,但本發明不限於此。
在步驟S330中,處理器104基於第一參考線RL1和第二參考線RL2判定外部相機210的相機位置。
在一個實施例中,處理器104可判定第一參考線RL1和第二參考線RL2的交點的位置作為外部相機210的相機位置。
在其它實施例中,可能不存在第一參考線RL1和第二參考線RL2的交點。在這種情況下,圖5中介紹的機制可用以判定相機位置。
參見圖5,其繪示根據本發明的實施例的基於第一參考線和第二參考線判定相機位置的示意圖。如圖5所繪示,第一參考線RL1和第二參考線RL2可為不具有交點的歪斜線。
在一個實施例中,處理器104可取得連接於第一參考線RL1與第二參考線RL2之間的第一特定線段510,其中第一特定線段510對應於第一參考線RL1與第二參考線RL2之間的最短距離。在這種情況下,處理器104可判定第一特定線段510上的第一位置點511(其可為但不限於第一特定線段510的中間點)的位置作為外部相機210的相機位置。
基於以上,即使外部相機210遠離使用者299、主機100以及/或追蹤區域220,本發明的實施例可取得外部相機210的精確相機位置(例如,外部相機210的鏡頭的中心的位置)。
在步驟S340中,處理器104取得由外部相機210擷取的特定影像。在一個實施例中,特定影像可為由外部相機210對主機100和/或使用者299拍攝的影像,且處理器104可經由其間的連接從外部相機210接收特定影像,但本發明不限於此。
在步驟S350中,處理器104經由基於相機位置將特定影像與虛擬場景組合而產生特定視覺內容。在一個實施例中,處理器104可首先對特定影像執行影像預處理(例如,去除背景)且基於相機位置將(經預處理的)特定影像疊加到虛擬場景上以產生特定視覺內容。基於相機位置將特定影像與虛擬場景組合成特定視覺內容的細節可參考與MRC技術相關的技術文件。
在本發明的實施例中,由於可精確且方便地取得的相機位置,因此可讓基於相機位置產生的特定視覺內容提供更令人滿意的視覺體驗。
另外,本發明的實施例也提供用於取得外部相機210的定向的機制,這可用以提高所產生的特定視覺內容的品質。在下文中將提供詳細論述。
在一個實施例中,外部相機210的定向可用外部相機210的鏡頭的定向表徵。在這種情況下,外部相機210的鏡頭的法向平面可用以判定外部相機210的鏡頭的定向。
在一個實施例中,外部相機210可實施為具有後置相機的智慧型裝置(例如,智慧手機),且所考慮的鏡頭可為後置相機的鏡頭。在這種情況下,智慧型裝置的背部面板可用以表徵外部相機210的鏡頭的法向平面。因此,主機100可使用用於判定外部相機210的相機位置(其可被理解為第一點P1的位置)的概念以判定法向平面(例如,背部面板)上的其它點(例示性地稱為第二點P2和第三點P3)的位置。在取得背部面板上的其它點的位置之後,主機100可據以判定外部相機210的鏡頭的法向平面且據以取得其定向。
在其它實施例中,由於外部相機210可能不具有可用於表徵法向平面的合適的平面,處理器104可指示使用者299在外部相機210附近放置實體物(例如,平坦面板)以用於表徵外部相機210的鏡頭的法向平面,但本發明不限於此。
參見圖6,其繪示根據本發明的實施例的判定外部相機的定向的示意圖。
在圖6中,假設外部相機210為使用後置相機擷取使用者299的影像的智慧型裝置(例如,平板電腦)。在這種情況下,智慧型裝置的背部面板可用以表徵智慧型裝置的後置相機的鏡頭的法向平面。
在一個實施例中,當使用者299和/或主機100在第一地點L1時,處理器104可基於以上的教示內容取得第一參考線RL1。
在一個實施例中,處理器104可根據在第一地點L1提供的參考物件411判定與第二點P2相關的第三參考線RL3,其中第二點P2與外部相機210相關聯。在實施例中,處理器104可以與判定第一參考線RL1類似的方式判定第三參考線RL3。舉例來說,當使用者299和/或主機100在第一地點L1時,處理器104可指示使用者299挑選用於表徵後置相機的法向平面的背部面板和/或實體物上的所需的點作為第二點P2(例如,背部面板的角落中的一個)。接下來,處理器104可要求使用者299用圖3中的參考物件411瞄準第二點P2且執行確認操作。在偵測到使用者299已執行確認操作之後,處理器104可產生穿過主機100的當前代表位置和對應於參考物件411的當前位置的線作為第三參考線RL3。
在一個實施例中,處理器104可根據在第一地點L1提供的參考物件411判定與第三點P3相關的第五參考線RL5,其中第三點P3與外部相機210相關聯。在實施例中,處理器104可以與判定第一參考線RL1類似的方式判定第五參考線RL5。舉例來說,當使用者299和/或主機100在第一地點L1時,處理器104可指示使用者299挑選用於表徵後置相機的法向平面的背部面板和/或實體物上的另一所需的點作為第三點P3(例如,背部面板的另一角落)。接下來,處理器104可要求使用者299用圖3中的參考物件411瞄準第三點P3且執行確認操作。在偵測到使用者299已執行確認操作之後,處理器104可產生穿過主機100的當前代表位置和對應於參考物件411的當前位置的線作為第五參考線RL5。
在一個實施例中,當使用者299和/或主機100在第一地點L1時,處理器104可要求使用者299用參考物件411依序瞄準第一點P1、第二點P2以及第三點P3。具體來說,當使用者299和/或主機100在第一地點L1時,處理器104可依次要求使用者299:(1)用參考物件411瞄準第一點P1且執行確認操作;(2)用參考物件411瞄準第二點P2且執行確認操作;以及(3)用參考物件411瞄準第三點P3且執行確認操作。在這種情況下,處理器104可依序取得第一參考線RL1、第三參考線RL3以及第五參考線RL5。
在一個實施例中,當處理器104指示使用者299用參考物件411依序瞄準第一點P1、第二點P2以及第三點P3時,處理器104可進一步提供第一點P1、第二點P2以及第三點P3中的每一個的對應的序列編號。舉例來說,第一點P1可標記為點編號1,第二點P2可標記為點編號2,且第三點P3可標記為點編號3,但本發明不限於此。
在一個實施例中,處理器104可指示使用者299移動到第二地點L2。當使用者299和/或主機100在第二地點L2時,處理器104可基於以上的教示內容取得第二參考線RL2。
在一個實施例中,處理器104可根據在第二地點L2提供的參考物件411判定與第二點P2相關的第四參考線RL4。在實施例中,處理器104可以與判定第一參考線RL1類似的方式判定第四參考線RL4。舉例來說,當使用者299和/或主機100在第二地點L2時,處理器104可指示使用者299用圖3中的參考物件411瞄準第二點P2且執行確認操作。在偵測到使用者299已執行確認操作之後,處理器104可產生穿過主機100的當前代表位置和對應於參考物件411的當前位置的線作為第四參考線RL4。
在一個實施例中,處理器104可根據在第二地點L2提供的參考物件411判定與第三點P3相關的第六參考線RL6,其中第三點P3與外部相機210相關聯。在實施例中,處理器104可以與判定第一參考線RL1類似的方式判定第六參考線RL6。舉例來說,當使用者299和/或主機100在第二地點L2時,處理器104可指示使用者299用圖3中的參考物件411瞄準第三點P3且執行確認操作。在偵測到使用者299已執行確認操作之後,處理器104可產生穿過主機100的當前代表位置和對應於參考物件411的當前位置的線作為第六參考線RL6。
在一個實施例中,當使用者299和/或主機100在第二地點L2時,處理器104可要求使用者299用參考物件411依序瞄準第一點P1、第二點P2以及第三點P3。具體來說,當使用者299和/或主機100在第二地點L2時,處理器104可依序要求使用者299:(1)用參考物件411瞄準第一點P1且執行確認操作;(2)用參考物件411瞄準第二點P2且執行確認操作;以及(3)用參考物件411瞄準第三點P3且執行確認操作。在這種情況下,處理器104可依序取得第二參考線RL2、第四參考線RL4以及第六參考線RL6。
在一個實施例中,處理器104可基於第一參考線RL1和第二參考線RL2判定第一點P1的位置(即,相機位置),如以上所教示的。類似地,處理器104可基於第三參考線RL3和第四參考線RL4判定第二點P2(例如,背部面板上的角落中的一個)的位置且基於第五參考線RL5和第六參考線RL6判定第三點P3(例如,背部面板上的另一角落)的位置。判定第二點P2和第三點P3的位置的細節可參考圖5的描述。
在取得第一點P1、第二點P2以及第三點P3的位置之後,處理器104可據以判定外部相機210的鏡頭的法向平面,且從而可判定外部相機210的定向。
在一個實施例中,處理器104可經由基於相機位置和外部相機210的定向將特定影像與虛擬場景組合而產生特定視覺內容,且細節可參考與MRC技術相關的技術文件。
參見圖7,其繪示根據本發明的實施例的應用情境的示意圖。在圖7中,假設由外部相機210拍攝給使用者299的影像已預處理為特定影像710,且特定影像710將與虛擬場景720組合為特定視覺內容。
在實施例中,虛擬場景720可例示性地設計為具有在所產生的特定視覺內容中應看起來由使用者299的手持有的兩個光劍。
在一個實施例中,如果外部相機210的相機位置(例如,虛擬的場景中的應用相機的位置)不精確,那麼使用者299與光劍之間的距離和/或方向可能為不正確的,從而在所產生的特定視覺內容731和所產生的特定視覺內容733中,光劍可能看起來未握持在使用者299的手中。
然而,由於本發明的實施例可取得外部相機210的精確相機位置,特定影像710和虛擬場景720可恰當組合,從而在所產生的特定視覺內容732中,光劍能夠看起來握持在使用者299的手中。
本發明進一步提供用於執行提供視覺內容的方法的電腦可讀儲存媒體。電腦可讀儲存媒體由本文中體現的多個程式指令(例如,設置程式指令和部署程式指令)構成。這些程式指令可載入到主機100中且由主機100執行,以執行用於提供視覺內容的方法和上文所描述的主機100的功能。
綜上所述,本發明的實施例提供新穎、精確以及方便的方式以判定相機位置和外部相機的定向。因此,經由基於相機位置和/或外部相機的定向將擷取的影像與虛擬場景組合而產生的特定視覺內容的品質可提高。
雖然本發明已以實施例揭露如上,然其並非用以限定本發明,任何所屬技術領域中具有通常知識者,在不脫離本發明的精神和範圍內,當可作些許的更動與潤飾,故本發明的保護範圍當視後附的申請專利範圍所界定者為準。
100:主機
102:儲存電路
104:處理器
210:外部相機
220:追蹤區域
230:綠幕
299:使用者
400:視覺內容
411:參考物件
510:第一特定線段
511:第一位置點
710:特定影像
720:虛擬場景
731, 732, 733:特定視覺內容
L1:第一地點
L2:第二地點
P1:第一點
P2:第二點
P3:第三點
RL1:第一參考線
RL2:第二參考線
RL3: 第三參考線
RL4:第四參考線
RL5:第五參考線
RL6:第六參考線
S310, S320, S330, S340, S350:步驟
圖1繪示根據本發明的實施例的主機的示意圖。
圖2繪示根據本發明的實施例的MRC應用情境的示意圖。
圖3繪示根據本發明的實施例的用於提供視覺內容的方法的流程圖。
圖4A到圖4E繪示根據本發明的實施例的判定相機地點的示意圖。
圖5繪示根據本發明的實施例的基於第一參考線和第二參考線判定相機位置的示意圖。
圖6繪示根據本發明的實施例的判定外部相機的定向的示意圖。
圖7繪示根據本發明的實施例的應用情境的示意圖。
S310, S320, S330, S340, S350:步骤
Claims (20)
- 一種用於提供視覺內容的方法,適用於主機,包括: 在第一地點提供參考物件以瞄準第一點且據以判定與所述第一點相關的第一參考線,其中所述第一點與外部相機相關聯; 在第二地點提供所述參考物件以瞄準所述第一點且據以判定與所述第一點相關的第二參考線; 基於所述第一參考線和所述第二參考線判定所述外部相機的相機位置; 取得由所述外部相機擷取的特定影像;以及 經由基於所述相機位置將所述特定影像與虛擬場景組合而產生特定視覺內容。
- 如請求項1所述的用於提供視覺內容的方法,更包括: 根據在所述第一地點提供的所述參考物件判定與第二點相關的第三參考線,其中所述第二點與所述外部相機相關聯; 根據在所述第一地點提供的所述參考物件判定與第三點相關的第五參考線,其中所述第三點與所述外部相機相關聯; 根據在所述第二地點提供的所述參考物件判定與所述第二點相關的第四參考線; 根據在所述第二地點提供的所述參考物件判定與所述第三點相關的第六參考線; 基於所述第一點、所述第二點以及所述第三點判定所述外部相機的定向。
- 如請求項2所述的用於提供視覺內容的方法,其中所述第一點、所述第二點以及所述第三點位於所述外部相機的鏡頭的法向平面上。
- 如請求項3所述的用於提供視覺內容的方法,更包括: 指示在所述外部相機附近放置實體物以用於表徵所述外部相機的所述鏡頭的所述法向平面。
- 如請求項2所述的用於提供視覺內容的方法,其中所述第一點、所述第二點以及所述第三點中的每一個具備對應的序列編號。
- 如請求項2所述的用於提供視覺內容的方法,其中經由基於所述相機位置將所述特定影像與所述虛擬場景組合而產生所述特定視覺內容的步驟包括: 經由基於所述相機位置和所述外部相機的所述定向將所述特定影像與所述虛擬場景組合而產生所述特定視覺內容。
- 如請求項1所述的用於提供視覺內容的方法,包括: 反應於判定所述主機在所述第一地點,在特定視野中的特定位置處顯示所述參考物件,其中所述特定視野對應於由所述主機提供的特定眼睛影像; 反應於判定所述主機在所述第二地點,在所述特定視野中的所述特定位置處顯示所述參考物件。
- 如請求項1所述的用於提供視覺內容的方法,其中判定與所述第一點相關的所述第一參考線的步驟包括: 反應於判定在於所述第一地點提供所述參考物件的期間偵測到確認操作,取得代表物件的當前代表位置和對應於所述參考物件的當前位置; 判定所述第一參考線,其中所述第一參考線穿過所述當前代表位置和所述當前位置。
- 如請求項8所述的用於提供視覺內容的方法,更包括: 指示用所述參考物件瞄準所述第一點。
- 如請求項8所述的用於提供視覺內容的方法,其中所述代表物件為所述主機或連接到所述主機的手持式控制器。
- 如請求項1所述的用於提供視覺內容的方法,其中基於所述第一參考線和所述第二參考線判定所述外部相機的所述相機位置的步驟包括: 取得連接於所述第一參考線與所述第二參考線之間的第一特定線段,其中所述第一特定線段對應於所述第一參考線與所述第二參考線之間的最短距離; 判定所述第一特定線段上的第一位置點的位置作為所述外部相機的所述相機位置。
- 如請求項1所述的用於提供視覺內容的方法,其中所述特定影像為由所述外部相機對所述主機拍攝的影像,且經由基於所述相機位置將所述特定影像與所述虛擬場景組合而產生所述特定視覺內容的所述步驟包括: 對所述特定影像執行影像預處理; 基於所述相機位置將所述特定影像疊加到所述虛擬場景上。
- 如請求項1所述的用於提供視覺內容的方法,其中所述主機為頭戴式顯示器且所述主機在通透模式下提供所述參考物件。
- 如請求項1所述的用於提供視覺內容的方法,更包括: 指示將所述主機從所述第一地點移動到另一地點; 在移動所述主機的期間取得與所述第一點相關的瞬時參考線; 反應於判定所述第一參考線與所述瞬時參考線之間的角度小於角度閾值,指示從所述第一地點移動得更遠; 反應於判定所述第一參考線與所述瞬時參考線之間的所述角度不小於所述角度閾值,指示當前地點適合於視為所述第二地點。
- 如請求項1所述的用於提供視覺內容的方法,其中所述第一點對應於所述外部相機的鏡頭的中心。
- 一種主機,包括: 儲存電路,儲存程式碼;以及 處理器,耦接到所述儲存電路,存取所述程式碼以執行: 在第一地點提供參考物件以瞄準第一點且據以判定與所述第一點相關的第一參考線,其中所述第一點與外部相機相關聯; 在第二地點提供所述參考物件以瞄準所述第一點且據以判定與所述第一點相關的第二參考線; 基於所述第一參考線和所述第二參考線判定所述外部相機的相機位置; 取得由所述外部相機擷取的特定影像;以及 經由基於所述相機位置將所述特定影像與虛擬場景組合而產生特定視覺內容。
- 如請求項16所述的主機,其中所述處理器更執行: 根據在所述第一地點提供的所述參考物件判定與第二點相關的第三參考線,其中所述第二點與所述外部相機相關聯; 根據在所述第一地點提供的所述參考物件判定與第三點相關的第五參考線,其中所述第三點與所述外部相機相關聯; 根據在所述第二地點提供的所述參考物件判定與所述第二點相關的第四參考線; 根據在所述第二地點提供的所述參考物件判定與所述第三點相關的第六參考線; 基於所述第一點、所述第二點以及所述第三點判定所述外部相機的定向。
- 如請求項17所述的主機,其中所述第一點、所述第二點以及所述第三點中的每一個具備對應的序列編號。
- 如請求項17所述的主機,其中所述處理器執行: 經由基於所述相機位置和所述外部相機的所述定向將所述特定影像與所述虛擬場景組合而產生所述特定視覺內容。
- 一種電腦可讀儲存媒體,其特徵在於,所述電腦可讀儲存媒體記錄可執行電腦程式,所述可執行電腦程式由主機載入以執行以下步驟: 在第一地點提供參考物件以瞄準第一點且據以判定與所述第一點相關的第一參考線,其中所述第一點與外部相機相關聯; 在第二地點提供所述參考物件以瞄準所述第一點且據以判定與所述第一點相關的第二參考線; 基於所述第一參考線和所述第二參考線判定所述外部相機的相機位置; 取得由所述外部相機擷取的特定影像;以及 經由基於所述相機位置將所述特定影像與虛擬場景組合而產生特定視覺內容。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202263335229P | 2022-04-27 | 2022-04-27 | |
US63/335,229 | 2022-04-27 | ||
US17/869,798 US20230351632A1 (en) | 2022-04-27 | 2022-07-21 | Method for providing visual content, host, and computer readable storage medium |
US17/869,798 | 2022-07-21 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202344045A TW202344045A (zh) | 2023-11-01 |
TWI825982B true TWI825982B (zh) | 2023-12-11 |
Family
ID=88512411
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW111133991A TWI825982B (zh) | 2022-04-27 | 2022-09-08 | 用於提供視覺內容的方法、主機以及電腦可讀儲存媒體 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230351632A1 (zh) |
CN (1) | CN117011495A (zh) |
TW (1) | TWI825982B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201743165A (zh) * | 2016-06-04 | 2017-12-16 | Bravo Ideas Digital Co Ltd | 混合實境的互動方法及其系統 |
TW202022319A (zh) * | 2018-12-05 | 2020-06-16 | 晶睿通訊股份有限公司 | 資訊量測方法及資訊量測系統 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6265027B2 (ja) * | 2014-04-22 | 2018-01-24 | 富士通株式会社 | 表示装置、位置特定プログラム、および位置特定方法 |
CA3163137A1 (en) * | 2020-01-31 | 2021-08-05 | William Castillo | Techniques for enhanced image capture using a computer-vision network |
US11640679B2 (en) * | 2020-12-04 | 2023-05-02 | Arutility, Llc | Augmented or virtual reality calibration and alignment system and method |
US20220254125A1 (en) * | 2021-08-13 | 2022-08-11 | Facebook Technologies, Llc | Device Views and Controls |
US20230079388A1 (en) * | 2021-09-08 | 2023-03-16 | Standard Cognition, Corp. | Systems and methods for trigger-based updates to camograms for autonomous checkout in a cashier-less shopping |
-
2022
- 2022-07-21 US US17/869,798 patent/US20230351632A1/en active Pending
- 2022-09-08 TW TW111133991A patent/TWI825982B/zh active
- 2022-09-23 CN CN202211166289.5A patent/CN117011495A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201743165A (zh) * | 2016-06-04 | 2017-12-16 | Bravo Ideas Digital Co Ltd | 混合實境的互動方法及其系統 |
TW202022319A (zh) * | 2018-12-05 | 2020-06-16 | 晶睿通訊股份有限公司 | 資訊量測方法及資訊量測系統 |
Also Published As
Publication number | Publication date |
---|---|
TW202344045A (zh) | 2023-11-01 |
US20230351632A1 (en) | 2023-11-02 |
CN117011495A (zh) | 2023-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10948993B2 (en) | Picture-taking within virtual reality | |
US9196093B2 (en) | Information presentation device, digital camera, head mount display, projector, information presentation method and non-transitory computer readable medium | |
US10539797B2 (en) | Method of providing virtual space, program therefor, and recording medium | |
KR20170031733A (ko) | 디스플레이를 위한 캡처된 이미지의 시각을 조정하는 기술들 | |
US20120319949A1 (en) | Pointing device of augmented reality | |
US20200265633A1 (en) | Image processing apparatus, image processing method, and storage medium | |
CN102959616A (zh) | 自然交互的交互真实性增强 | |
KR20160094190A (ko) | 시선 추적 장치 및 방법 | |
KR101690646B1 (ko) | 시 스루 디스플레이를 위한 카메라 구동 장치 및 그 방법 | |
JP5791434B2 (ja) | 情報処理プログラム、情報処理システム、情報処理装置および情報処理方法 | |
US20230334617A1 (en) | Camera-based Transparent Display | |
TW202025719A (zh) | 圖像處理方法及裝置、電子設備及儲存介質 | |
WO2020042494A1 (zh) | Vr场景截图方法、设备及存储介质 | |
CN110895433B (zh) | 用于增强现实中用户交互的方法和装置 | |
US11380063B2 (en) | Three-dimensional distortion display method, terminal device, and storage medium | |
TWI669703B (zh) | 適於多人觀看的資訊顯示方法及資訊顯示裝置 | |
CN113870213A (zh) | 图像显示方法、装置、存储介质以及电子设备 | |
CN108282650B (zh) | 一种裸眼立体显示方法、装置、系统及存储介质 | |
TWI825982B (zh) | 用於提供視覺內容的方法、主機以及電腦可讀儲存媒體 | |
JP6164780B2 (ja) | 動画像処理装置、動画像処理方法、動画像処理プログラム及び動画像処理表示システム。 | |
US10345595B2 (en) | Head mounted device with eye tracking and control method thereof | |
CN113485547A (zh) | 一种应用于全息沙盘的交互方法及装置 | |
JP2020187557A (ja) | 温度画像表示装置、温度画像表示システムおよび温度画像表示プログラム | |
TW202040425A (zh) | 姿勢改變通知的方法及相關互動影像處理系統 | |
Kim et al. | AR timewarping: A temporal synchronization framework for real-Time sensor fusion in head-mounted displays |