TW200828098A - Interacting with 2D content on 3D surfaces - Google Patents

Interacting with 2D content on 3D surfaces Download PDF

Info

Publication number
TW200828098A
TW200828098A TW096139918A TW96139918A TW200828098A TW 200828098 A TW200828098 A TW 200828098A TW 096139918 A TW096139918 A TW 096139918A TW 96139918 A TW96139918 A TW 96139918A TW 200828098 A TW200828098 A TW 200828098A
Authority
TW
Taiwan
Prior art keywords
input device
content
scene
point
hidden
Prior art date
Application number
TW096139918A
Other languages
English (en)
Inventor
Kurt Berglund
Daniel R Lehenbauer
Greg D Schechter
Dwayne R Need
Adam M Smith
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of TW200828098A publication Critical patent/TW200828098A/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Or Creating Images (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Description

200828098 九、發明說明: 【發明所屬之技術領域】 本發明是有關於在3D表面上與2D内容進行互動的電 腦可讀取媒體和方法。 【先前技術】 〇 在二維(2D)環境裡,一系統可知悉使用者既已選定哪 一區域,或另為僅藉由決定該活動的X及γ座標以與其互 動。然在三維(3D)世界裡,在該3D表面上找到相對於該 互動2D構件的X/Y座標卻並非總是直觀易行。例如,可 將一像是使用者介面之2D物件放置在像是一球體的3]〇表 面上。而當將此等2 £)物件放置在3 D 用者與現經投射於該3D内之2D物件 行。 表面上時,要處理使 的互動可能會窒礙難 【發明内容】 現將揭示各種可供與經放置在一 3D表面上之21)内容 進行互動的技術及技巧。該系統決定將一輸入裝置放置在 相對於一 3D表面的何處。若該輸入裝置撞擊到一 3d表 則在2D中δ又置一隱藏内容,因此一代表該撞擊到該 3D表面上之區域的點處可線連於一在該2d内之隱藏内容 上的相對應點處。在一實作裡,當收到一對於該輸入襞置 置之咕求時,可在當於一場景裡一位置處偵測到一並未 超過該互動2D構件之邊界上的輸入裝置時,將該3d表面 5 f
200828098 投射至二維。在該經投射3D表面上計算出一最接 輸入裝置之一 2 D位置的點處。而回應於此,可提 接近點處,藉以運用於定位出具該3 D表面之相對 的隱藏内容。 在一實作裡,可根據一特定3D表面是否具有 後續以不同的處理程序。例如,若在該3 D場景裡以 面並未具有捕捉,並且若該輸入裝置撞擊到一 3D 則會在一 3 D三角上運用紋理座標以決定哪一點處 在2D中的該隱藏内容。然後,將該隱藏内容移動 置,使得該隱藏内容能夠線連於該3 D表面上之一 點處。類似地,若在該3 D場景内之3 D表面具有捕 且若該輸入裝置經決定為撞擊到具該捕捉内容的 面,則利用紋理座標及前述之處理程序以線連於該 容。 在另一實作裡,若在該3D場景内的3D表面 捉,並且若該輸入裝置經決定為並未撞擊到具該捕 的3 D表面,則該系統計算出該捕捉内容的邊界, 在該邊界上最接近於該輸入裝置的點處,並且將該 的最接近點處放置在該輸入裝置之位置下。 本「概述」係經提供以介紹一種按一較簡化形 在後文「詳細說明」所進一步描述的選擇概念。本 並非為以識別所主張之主題項目的各項關鍵特黠或 性,亦非為以用於決定所主張主題項目之範圍的輔: 近於該 供該最 應點處 捕捉而 丨3D表 表面, 撞擊到 至一位 相對應 捉,並 3D表 隱藏内 具有捕 捉内容 找到一 邊界上 式,而 ^既述」 基本特 6 200828098 【實施方式] 為促進瞭解本發明原理之目的,現將參照於圖式中所 • 說明的具體實施例與特定語言以描述本發明。然應瞭解並 非為以藉此限制其範圍。在所述具體實施例中之任何替代 及進一步修改,以及任何本揭所述原理的進一步應用,皆 被視為是熟諳本項技藝之人士可正常構思者。 該系統可按如一應用程式之一般情境所描述,此者提 供與經放置在3 D表面上之2D内容的互動,然該系統亦可 〇 用於除此等以外之其他目的。在一實作裡,可將一或更多 之本揭所述技術實作如一圖形顯析程式内的多項特性,像 是該等經納入在即如MICROSOFT® WINDOWS®的作業系 統環境之内者,或是自其他類型而用於處置圖形顯析處理 的程式或服務。在另一實作裡,可將一或更多之本揭所述 技術實作如多項特性而連同於可處置以將2D内容運用於 3D表面的應用程式。 在一實作裡,該系統可藉由利用隱藏2D内容以提供 與3D表面的互動。真實的互動2E)内容保持為隱藏,然該 D 隱藏2£>内容的外觀被令為非隱藏且經放置在3D上。放襄 該隱藏内容之方式係可為藉以攔截該使用者為與該内容在 該3 D表面上之經顯析外觀進行互動的嘗試。即如本揭中 所使用者,該詞彙「隱藏内容」係為納入未受該使用者法 " 意到的2D内容,其原因可為非屬可見、大小經調整而使 得無法被觀知、位於另一物件的後方等等。在另一實作裡, 當該2D内容的任何部分請求該輸入裝置的位置或是請求 7 200828098 捕捉時,會將該2D内容的3D表示招私 ^射回到2D。然後, 利用此經投射内容之邊界以決定如 之…“ 17 口應於來自該經捕捉 之3D表面的任何輸入請求。該捕 俅田本立 捕捉」,即如本揭所 :用者,意思是當2…請求告知該輪入裝置狀態變化 :如帛!圖所示,-用以實作本系統之—或更多部分 的-範性電腦系統包含一計算裝i,像是該計算裝置 L〇〇。在其最基本的組態裡’該計算裝置1GG通常包含:少 -處理單A102及系統記憶體104β根據計算裝置的精確 組態及類型而定,該系統記憶體1 04可Α括拉 為揮發性(像是 RAM)、非揮發性(像是R〇M、快閃記 肪'哥),或是一些該 等二者之組合。此最基本組態可如在第 所標示者。 1圖中由虛線1〇6
U 此外,該計算裝置1〇〇亦可具備額外的特點/功能性。 例如,該裝置1〇〇亦可含有額外儲存物(可移除及/或非可 移除)’這些包含,但不限於此’磁性或光學碟片或磁帶。 此等額外儲存物在第1圖中係按如可移除儲存物1〇8及非 可移除儲存物110所述。電腦儲存媒體包含按任何用以儲 存=如電腦可讀取指令、資料結構、程式模組或其他資料 之資訊的方法或技術所實作之揮發性及非揮發性、可移除 及非可移除媒體。記憶體1 04、可移除儲存物丨〇8及非可 移除儲存物110皆為電腦儲存媒體的範例。電腦儲存媒體 θ ’但不限於此,RAM、ROM、EEPROM、快閃記憶體 或其他記憶體技術、CD-ROM、數位光碟片(DVD)或其他光 8 200828098 學儲存、 者任何其 β 取的媒體 部分。 該計 可讓該計 訊。該裝 滑鼠、點 亦可納入 置 111。 在一實作 200。第 200 〇 現續 計算裝置 式3D應, 用程式的 另替地或 令,及/或 地或另增 可為該系 • 程式1 1 5 體技藝之 該互 磁匣、磁帶、磁碟儲存或其他磁性儲存裝置,或 他可用以儲存所欲資訊並且可由該裝置100所存 。任何此等電腦儲存媒體皆可為該裝置1 00之一 算裝置100含有一或更多的通訊連接114,此等 算裝置1 00能夠與其他電腦/應用程式1 1 5進行通 置100亦可具有(多個)輸入裝置112,像是鍵盤、 筆(stylus)、語音輸入裝置、觸控輸入裝置等等。 像是顯示器、喇A、印表機等等的(多個)輸出裝 這些裝置屬業界眾知者,且無需在此詳細敘述。 裡,該計算裝置 100含有互動式 3D應用程式 2圖中將進一步詳細描述該互動式3D應用程式 於參照該第1圖以參照第2圖,其中說明一在該 100之上運作的互動式3D應用程式200。該互動 闬程式200係多個常駐於該計算裝置100内之應 其一者。然可暸解該互動式3D應用程式200可 另增地嵌入如在一或更多電腦上的電腦可執行指 按異於第1圖上所顯示之不同變化方式者。另替 地,該互動式3D應用程式200之一或更多部分 統記憶體1 04之一部分、位在其他電腦及/或應用 上或者是其他的該等變化方式,即如熟諳電腦軟 人士所能慮及者。 動式3D應用程式200含有程式邏輯204,此者係 9
Ο 200828098 負責執行本揭所述的部份 含用以決定確存在有_更新:有技術。該程式邏輯204 δ -請求時或按程式設計方气而?内容之需要(即如當收到 中私 式而決定)的邏輯206 ; —用以決 疋一輸入裝置(即如滑氣、點 ^ ^ y ^ 聿專專)是位在相對於一 3D表 面之何處的邏輯208· 一田 一 ,用以決定該輸入裝置是否撞擊到 表面的邏輯210; —用LV + 用以在右該糸統決定該輸入裝置 並未4里擊到一 3 D表面(即如將兮隍兹 〜 、 如將5亥隱藏内谷移離於該輸入裝 二或者另a丨以移&或令其為非作肖巾❿使得使用者^ 會意外地與其互動)’則將該隱藏内容轉為非 212, 一用以定位該2〇物件,因而若該系統 心成輸入裝 置確撞擊一 3D表面,則在該3D表面上撞擊於該輪入裝置 的點處可與該經隱藏之2D物件線連(即如移動田二1 " 鄆因而相同點 處線連)的邏輯214; —用以等待需要更新隱藏内容之另 表示(即如收到一請求或按程式設計方式而決定)並且 回應的邏輯216;以及其他用以操作該應用程^ 。 八的邏輯 220。在一實作裡,該程式邏輯204可運作以自另_ 程式而 按程式設計方式所呼叫,像是利用一對該程式邏輯2〇4内 之一程序的單一呼叫。 現續參照於第1 - 2圖而參照第3 _ 5圖,在此進 + 詳細說明用以實作該互動式3D應用程式2〇〇之一斗 、一或更多 實作的多個階段。第3圖係一對於該互動式3 D應用* 程式 200的高階處理流程圖。在一形式裡,第3圖之處理程序 係至少部分地在該計算裝置1 〇〇之操作邏輯中所實作。: 程序起始於一開始點240’而選擇性地決定是否存在有更 10 200828098
Ο 新隱藏内容的需要(即如在當收到一請求時或者按程式設 計方式所決定)(階段242)。該系統決定一輸入裝置(即如 滑鼠、點筆等等)位在相對於一 3D表面之何處(階段244)。 若該輸入裝置並未撞擊(即如接觸)到一 3D表面(即如 3D 空間内的一般範圍)(決策點246),則會令該隱藏表面為非 作用中(即如被移離於該輸入裝置或另為予以移除或被令 非作用中,因而使得該使用者不會意外地與其互動)(階段 24 8)。若該輸入裝置確撞擊到一 3D表面(決策點246),則 可放置該2D物件,因而在該3D表面上撞擊於該輸入裝置 之點處可線連於該經隱藏的2 D物件(即如移動因而該等相 同點處線連)(階段25 0)。該系統可選擇性地等待存在有更 新隱藏内容之需要的另一表示,並且據以回應(階段2 5 2)。 該處理結束於結束點2 5 6處。 第4圖說明一牽涉到提供一相對於一 3 D表面之輸入 裝置位置的多個階段之實作。在一形式裡,第4圖處理程 序係至少部分地在該計算系統1 00的操作邏輯中所實作。 該程序起始於開始點 2 7 0,而當在一場景之任處偵測到一 輸入裝置時,收到一對於一輸入裝置位置的請求或詢查(即 如來自一範圍,像是一任意 3 D幾何、球體等等)(階段 2 72)。採定該3D表面,並予投射至二維裡(階段274)。計 算出在此投射上對該輸入裝置之2D位置的最接近點(階段 2 7 6)。在該投射物件上之最接近點即為回應於該請求或詢 查而送返(即如對在 3 D空間内之請求物件)的位置(階段 2 7 8)。該處理結束於結束點2 8 0處。 11 200828098 第5圖說明一牽涉到可供以與經放置在一 3D表面上 之2D内容互動的更詳細階段之實作。在一形式裡,第5 - 圖之處理程序係至少部分地實作於該計算裝置1 0 0的操作 邏輯内。該程序起始於開始點 3 1 0,而選擇性地決定確存 在有一更新隱藏内容之需要(「On」事件等等)(階段3 1 2)。 若該系統決定一 3 D表面並未具有捕捉(決策點3 1 4 ),則可 執行一撞擊測試3 D場景,藉以決定該輸入裝置位在相對 於一 3D表面之何處(階段316)。若一 3D表面並未撞擊(決 (] 策點320),則自該輸入裝置移離該隱藏内容(階段324)。 若一 3 D表面撞擊(決策點3 2 0 ),則在利用3 D三角上的紋 理座標以尋得哪一點處撞擊到該2 D内容上(階段3 2 6)。將 該2D内容放置在一隱藏疊層内,並且移動該隱藏疊層以 使得該等點處能夠線連(階段326)。 若該系統決定一 3 D表面確實具有捕捉(決策點3 1 4), 則可執行一撞擊測試3 D場景,藉以決定該輸入裝置位在 相對於一 3 D表面之何處(階段3 1 8)。該系統決定一 3 D表 面是否撞擊於捕捉内容(即如藉由該輸入裝置)(決策點
Cj / 322)。若是,則在一 3D三角上利用紋理座標,藉以尋得 哪一點處撞擊到該2D内容上(階段326)。將該2D内容放 . 置在一隱藏疊層内,並且移動該隱藏疊層以使得該等點處 能夠線連(階段326)。若該系統決定該3D表面並未撞擊於 該捕捉内容(決策點 3 22),則計算出該所捕捉内容的邊界 (階段3 2 8)。定位出在該邊界上對於該輸入裝置位置的最 接近點,並且將在該邊界上之最接近點放置在該輸入裝置 12
ϋ 200828098 位置的下方(階段3 2 8 )。該處理結束於結束點3 3 0處。 現參照於第6 - 1 3圖,其中是利用模擬影像以進一 詳細說明第3 - 5圖的階段。在第6 - 8圖裡,利用一些 範性模擬影像以說明在當該3 D表面並未具有捕捉時的 些可能情境。這些模擬影像及其伴隨說明可供進一步地 述第 5圖之階段314、316、320、324及326,及/或本 所敘述的一些其他技術。第6圖係一對於第1圖系統之 實作的模擬影像 4 0 0,其中說明在當並無捕捉時一隱藏 容的2D表示。該模擬影像5 00含有經對映至該球體的 容。第7圖含有一模擬影像500,其中顯示第6圖之影 4 0 0係經對映至該球體(即如3 D)。第8圖含有一模擬影 6 0 0,其中顯示如何地對齊該隱藏内容,因此該輸入裝置 滑動器位在該3 D表面上方的部分係與在2 D内者相同。 按該輸入裝置將即能與手指控制進行互動。由於此一對 係經維護,所以可正確地通知這些3 D表面該輸入裝置 時進入並離出該等3D表面,以及該等是在該等本身的 一部分之上。這可產生出一能夠在3D上以與2D内容進 互動的結果。在一實作裡,可追蹤該輸入裝置移動,藉 作為需要更新該隱藏内容的信號。 現將利用一些非限制性範裡以描述如何將2 D内容 映至該3D表面,藉以達到第6-8圖所示之結果。當該 入裝置並不在該3D表面的上方時,可將該隱藏疊層放 在任意處,使得該輸入裝置不在其上方。在一實作裡, 欲行為係在該3 D表面上之2 D内容的行為並非宛如該輸 步 示 敘 揭 内 内 像 像 之 點 映 何 哪 行 以 對 輸 置 所 入 13 200828098 裝置位於其上方般,並且任何其他事件亦不應對其產生影 響。將該隱藏疊層置離於該輸入裝置可使得不會向其告知 該移動或點按等等。 f
為範例之故,假定所有的3 D表面皆由三角所組成, 並且所有的三角都擁有與該等相關聯的紋理座標。紋理座 標可標定出應將一影像(紋理)的哪一部分顯示在該三角 上。例如,假定該紋理座標是在(0,0)到(1,1)的範圍内, 其中(0,0)為該影像的左上角,而(1,1)為該影像的右下 角。然後,若該紋理座標為(0, 0)、(1,0)及(0,1),則會在 該三角上顯示出該影像的左上半部。此外,假定可將經顯 示於該3D表面上之2D内容表示如一影像,並且假定該影 像係經施用於該3 D表面的紋理。例如,可將第6圖視為 該紋理,並且該等紋理座標即為可令其裹繞於該球體上 者,即如第7圖所示者。 此時,當該輸入裝置位在該 3D表面之上時,將一光 線發射至該3D場景内,藉此觀看該者交會於該3D表面的 哪一部分。這可藉由許多標準技術而達成。一旦系統知悉 所交會者為何之後,即可決定該三角上被撞擊的點處以及 對其之紋理座標。一旦決定該紋理座標之後,由於該紋理 亦為已知,因此該系統可自該紋理座標對映至該2 D内容 上的一位置。此位置即為在該3 D表面之上方的精確點處。 為正確地定位,該系統可移動該隱藏内容,使得在先前部 分所計算出之位置是位在該輸入裝置位置的正下方。在該 3D表面上方的點處為在該隱藏内容上之相同位置的正下 14 200828098 方,而該等二者係在該輸入裝置的正下方。因此,若該使 用者自此位置點按或另輸入,則將會是在該隱藏内容上以 及在該3D上之2D内容兩者上的精確相同位置處進行點按 /輸入。再者,當移動該輸入裝置時,由於定位之故,因此 會對該隱藏内容及其在3D上的2D表示二者告知在精確相 同點處上方的輸入裝置移動。
現參照第9 - 1 3圖,其中顯示一些示範性模擬影像, 藉以說明一些其中該3D表面具有捕捉的可能情境。這些 模擬影像及其伴隨說明可供進一步地敘述第 5圖之階段 314、318、322、326及328,及/或本揭所敘述的一些其他 技術。在一實作裡,當一在3 D上的2 D構件獲得捕捉時, 正確的隱藏内容定位可能變得更為複雜。即如一範例,在 3D裡,由於3D至一 2D平面上的投射之故,該輸入裝置 的位置實際上是對應於3 D空間内的一直線。此外,具捕 捉的 3 D表面亦可對映至任何任意幾何。如此,當該輸入 裝置在該3 D表面上方時,撞擊測試可表示出該輸入裝置 係位在相對於該2 D視圖的何處。當此者離於該 3 D表面 時,由於上述討論之故,對此問題即不再有一直觀答案: 該2D點處對應於一 3D直線,並且該2D内容可為位在任 何任意幾何上。再者,由於一 3D表面具有捕捉,因此該 者會希望收到所有的事件。在此之前,當並未牽涉到捕捉 時,該系統僅需確定該輸入裝置是隨時都在該正確物件的 上方。然現在具有捕捉,該系統需要定位該隱藏内容而因 此該者會在相對於該具有捕捉之物件的適當位置處。第9 - 15 200828098 1 1圖中所顯示之模擬影像對此進一步詳細說明。 在一實作裡,對此問題的一種可能解決方式是將該3 D - 問題降減返回至2D。在正常的2D情況下,可利用經施用 於該内容之轉換作業,藉以將該輸入裝置位置轉換至該内 容的本地座標系統。然後,該經轉換位置讓該内容獲知該 輸入裝置係相對於此而位在何處。在3 D裡,由於該幾何 的眾多指向以及紋理座標佈置之故,有時會難以斷定一 3 D 點是位於3 D上之2 D内容的相對座標系統内之何處。在一 實作裡,為逼近此者,會在既經投射至螢幕空間之後計算 出該3 D上之2 D内容的外框,然後根據此投射以放置該輸 入裝置。第9 - 1 1圖對此進一步詳細說明。 第9圖之模擬影像700顯示3D上的2D内容。第10 圖上的模擬影像7 5 0顯示出既經選定文字,並且將該輸入 裝置移至一離於該物件的點處。第11圖顯示一具文字盒 (亦即具有捕捉之物件)之外框的模擬影像 8 0 0。然後利用 此外框以定位該隱藏内容。 / 在可獲用該外框之後,計算出在此外框上對該輸入裝 ϋ 置的最接近點,然後將在該外框上的此一點處視為「撞擊」 處,並且將其放置在該輸入裝置位置處的下方。在所示範 . 例裡,會進行強調而達該影像7 5 0之中間處的「Τ」。由於 是依該最接近點處以放置該輸入裝置,因此該互動的行為 會傾向於像似在2D般,原因在於是根據在3 D上之2D内 容裡最接近於該輸入裝置處以放置該隱藏内容。藉由將該 隱藏内容放置在該最接近邊緣點處,該系統表示出該者預 16 200828098 期該輸入裝置會在3D表面之指向上相對於該2D 為實際地執行參照於第9 - 1 1圖所述之處理 系統計算出該具捕捉之物件相對於此者其内所含 内容之邊界。即如一範例,考量第1 2 - 1 3圖所示 容。假定該文字盒具有捕捉。在第12圖裡,一 中所含有之文字盒的邊界係按粗線所框註。可將 轉換成紋理座標,這是因為該具捕捉之3D表面 已知,並且該 2D内容按如一整體之大小亦為已 該等紋理座標,接著該系統可檢視該3 D表面上 每一三角,並且尋找那些含有與該邊界座標相交 座標的三角。例如,假設存在有一三角,並且該 如第1 2圖中該2 D内容上所繪的紋理座標。該系 查以瞭解該三角的邊緣是否與該具捕捉之3D表 相交會,這在本例中確為如此(該等與該文字盒-而該文字盒具有捕捉)。若該三角面朝該觀看者, 邊界邊緣之任者係與其相交會,則可將該邊界邊 角相交會處的邊緣增入至一最終列表。可獲增入 如第1 3圖的影像9 5 0所示。而藉由執行這些步驟 定出與該經捕捉3D表面之邊界相交會的可見邊緣 在一實作裡,該系統亦追蹤哪些三角面朝該 及面向於背離者。若有兩個三角係共享一邊緣, 面朝該使用者然另一者為面朝遠離,則該系統亦 位在該經捕捉3 D表面之邊界内的共享邊緣部份 最終列表。這可為必要而供以計算出該可見邊界 的何處。 程序,該 有的 2D 之2D内 影像 900 這些邊界 的邊界為 知。藉由 之網絡的 會之紋理 三角具有 統進行檢 面的邊界 相交會-並且該等 緣與該三 之邊緣係 ,即可決 〇 觀看者以 而其一者 可將此一 增入至該 。即如該 17 200828098 及 捕 則 外 這 算 有 定 捕 3D 作 之 反 的 中 予 如 者 多 外
情況之一非限制性範例,考量在第9圖内的球體。左方 右方兩者邊緣皆為剪影邊緣(亦即一邊緣具有一可見及 非可見三角兩者)。該系統將這些增入,藉以計算出該經 捉之3D表面的整個可見外框(即如第11圖中所示)。否 會漏失最左方及最右方的影像,並且無法計算出完整的 框。一旦決定邊緣列表之後,接著將該等投射回到2D。 可按2D方式提供在3D上之2D内容的外框。然後,計 出在這些邊緣上最接近於該輸入裝置的點處。此點處具 一其本身的紋理座標,並且接著如前利用此紋理座標以 位該隱藏内容。根據所欲行為而定,若有必要可將該經 捉之3 D表面的邊界厚化,藉以進一步移離於該經捕捉 表面。 本發明標的雖既已按特定於結構特性及/或方法動 之語言所描述,然應瞭解在後載申請專利範圍中所定義 主題項目並非必然地受限於前述的特定特性或動作。相 地,前述之特定特性及動作係按如實作該申請專利範圍 範例形式所揭示。所有歸屬於按如本揭說明及/或由後載 請專利範圍所實作之精神的等同、變化及修改項目皆意 加以保護。 例如,一熟諳電腦軟體技藝之人士將可知曉確能將 本文所述範例中討論到的客戶端及/或伺服器排置、使用 介面螢幕内容及/或資料佈置按不同方式組織於一或更 的電腦上,藉以納入相較於範例中所繪述者為更少或額 的選項或特性。 18
1 200828098 【圖式簡單說明】 第1圖係一實作之電腦系統的概略視圖。 第2圖係一在該第1圖電腦系統上運作之實作 式3 D應用程式概略視圖。 第3圖係一對於一第1圖系統之實作的高階處 圖。 第4圖係一對於一第1圖系統之實作的處理流 其中說明牽涉到提供一具一 3 D位件之輸入裝置位 個階段。 第5圖係一對於一第1圖系統之實作的處理流 其中說明牽涉到供以與經放置在一 3D表面上之2D 行互動的更詳細階段。 第6圖係一對於第1圖系統之一實作的模擬影 中說明在當並無捕捉時一隱藏内容的2D表示。 第7圖係一對於第1圖系統之一實作的模擬影 中說明在當並無捕捉時一與該隱藏内容進行互動的 面。 第8圖係一對於第1圖系統之一實作的模擬影 中說明在當並無捕捉時經疊置於該3D表面上的2D 第9圖係一對於第1圖系統之一實作的模擬影 中說明在當有捕捉時一顯示有一按鍵及文字的3D表 第1 0圖係一對於第1圖系統之一實作的模擬景 中說明在當有捕捉時一如第9圖所顯示而選擇一部 的互動 理流程 程圖, 置的數 程圖, 内容進 像,其 像,其 3D表 像,其 表示。 像,其 .面。 多像,其 分文字 19 200828098 的3D表面。 第1 1圖係一對於第1圖系統之一實作的模擬影像,其 中說明一在此可預期該輸入裝置係在該 3D表面之指向 上, 處。 即如第1 0圖所示者,相對於該2 D而為最接近邊緣點 第1 2圖係一對於第1圖系統之一實作的模擬影像,其 中說明一具有捕捉的2D文字盒。 第1 3圖係一對於第1圖系統之一實作的模擬影像,其 中說明獲得該第1 2圖影像的邊緣,並且將這些邊緣投射回 到2D内,藉以在3D上按2D方式提供該2D内容的外框。 【主要元件符號說明】 100 計算裝置 102 處理單元 104 系統記憶體 106 基本組態(虛線) 108 可移除儲存物 110 非可移除儲存物 111 (多個)輸出裝置 . 112 (多個)輸入裝置 114 (多個)通訊連接 115 其他電腦/應用程式 200 互動式3 D應用程式 204 程式邏輯 20 200828098 邏輯 邏輯 邏輯 邏輯 邏輯 邏輯 邏輯 Ο 模擬影像 模擬影像 模擬影像 模擬影像 模擬影像 模擬影像 影像 影像

Claims (1)

  1. 200828098 一對於一輸入裝置位置的請求; 在該場景中將一 3 D表面投射至二維内; - 在該經投射3D表面上計算出一至該輸入裝置之一 2D ^ 位置的最接近點處;以及 回應於該請求以送返該最接近點處。 5. 如申請專利範圍第4項所述之方法,其中該輸入裝置 p 係一滑鼠。 6. 如申請專利範圍第4項所述之方法,其中該輸入裝置 係一點筆(s t y 1 u s )。 7. 如申請專利範圍第4項所述之方法,其中該請求係接 收自一範圍。 / 8. 如申請專利範圍第7項所述之方法,其中該範圍係一 〇 任意3 D幾何。 * 9. 一種電腦可讀取媒體,此者具有用以令一電腦執行如 . 申請專利範圍第4項所述之各步驟的電腦可執行指令。 10. —種用以提供與經放置在一 3D表面上之2D内容進行 互動的方法,其中包含下列步驟: 23 200828098
    決定一在2D中之隱藏内容,此者在一 3D場景裡需 予以更新; 決定該輸入裝置在該3D場景裡的一位置;以及 若在該3 D場景内的一 3 D表面並未具有捕捉,則決 該輸入裝置是否撞擊到在該3D場景内的3D表面,並且 該輸入裝置確撞擊到該3 D表面,則利用在一 3 D三角上 紋理座標以決定複數個點處中之哪一點處撞擊到在2 D 的該隱藏内容,並且將該隱藏内容移動至一位置,以致 該隱藏内容可線連於一在該3 D表面上的相對應點處。 要 定 若 的 中 使 11.如申請專利範圍第10項所述之方法,其進一步包令 若在該3 D場景内之3 D表面具有捕捉,則決定該輸 裝置是否撞擊到該具一捕捉内容的3 D表面。 入
    12.如申請專利範圍第1 1項所述之方法,其進一步包令 若在該3D場景内之3D表面具有捕捉,並且若該輸 裝置係經決定為撞擊到該具捕捉内容的3 D表面,則利 在該三角上的紋理座標以決定複數個點處中的哪一點處 擊到在2 D中的該隱藏内容,並且將該隱藏内容移動至 位置,使得該隱藏内容線連於在該3 D表面上的相對應 處。 入 用 撞 該 點 13.如申請專利範圍第1 1項所述之方法,其進一步包 24 200828098 若在該3D場景内的3D表面具有捕捉,並且若該輸入 裝置經決定為並未撞擊到具該捕捉内容的3 D表面,則接 著計算出該捕捉内容的邊界,找到一在該邊界上至該輸入 裝置的最接近點處,並且將該邊界上的最接近點處放置在 該輸入裝置之位置下。 14 .如申請專利範圍第10項所述之方法,其中當自該輸入 (") 裝 置出現一 on_move事件時,即決定該隱藏内容需要更新。 15 .如申請專利範圍第10項所述之方法,其中該輸入裝置 係一滑鼠。 16 .如申請專利範圍第10項所述之方法,其中該輸入裝置 係 一點筆。 〇 17 .如申請專利範圍第10項所述之方法,其中是在當自一 範 圍收到一對於該輸入裝置之位置的請求時決定需要更新 該 隱藏内容。 • 18 •如申請專利範圍第1 7項所述之方法,其中該範圍係一 任 意3 D幾何。 19 .如申請專利範圍第10項所述之方法,其進一步包含: 25 200828098 若在該3D場景内的3D表面並未具有捕捉,並且若該 輸入裝置經決定為並未撞擊到該3 D場景内的3 D表面,則 將該隱藏内容移離於該輸入裝置的位置。 20. 一種電腦可讀取媒體,此者具有用以令一電腦執行如 申請專利範圍第1 〇項所述之步驟的電腦可執行指令。 26
TW096139918A 2006-11-28 2007-10-24 Interacting with 2D content on 3D surfaces TW200828098A (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US11/605,183 US20080122839A1 (en) 2006-11-28 2006-11-28 Interacting with 2D content on 3D surfaces

Publications (1)

Publication Number Publication Date
TW200828098A true TW200828098A (en) 2008-07-01

Family

ID=39463202

Family Applications (1)

Application Number Title Priority Date Filing Date
TW096139918A TW200828098A (en) 2006-11-28 2007-10-24 Interacting with 2D content on 3D surfaces

Country Status (8)

Country Link
US (1) US20080122839A1 (zh)
EP (1) EP2095326A1 (zh)
JP (1) JP2010511228A (zh)
KR (1) KR20090084900A (zh)
CN (1) CN101553843A (zh)
MX (1) MX2009004894A (zh)
TW (1) TW200828098A (zh)
WO (1) WO2008067330A1 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101416235B1 (ko) * 2008-02-12 2014-07-07 삼성전자주식회사 3차원 위치 입력 방법 및 장치
US8436816B2 (en) 2008-10-24 2013-05-07 Apple Inc. Disappearing button or slider
US8854357B2 (en) 2011-01-27 2014-10-07 Microsoft Corporation Presenting selectors within three-dimensional graphical environments
CN102915232B (zh) * 2011-08-01 2016-08-10 华为技术有限公司 一种3d控件的交互方法及通信终端
US9361283B2 (en) 2011-11-30 2016-06-07 Google Inc. Method and system for projecting text onto surfaces in geographic imagery
US9167999B2 (en) 2013-03-15 2015-10-27 Restoration Robotics, Inc. Systems and methods for planning hair transplantation
US9320593B2 (en) 2013-03-15 2016-04-26 Restoration Robotics, Inc. Systems and methods for planning hair transplantation
CN103529943B (zh) * 2013-10-17 2016-05-04 合肥金诺数码科技股份有限公司 一种基于流体物理模拟系统的人体投影交互方法
CN109087402B (zh) * 2018-07-26 2021-02-12 上海莉莉丝科技股份有限公司 在3d场景的特定表面上覆盖特定表面形态的方法、系统、设备和介质
JP2024502701A (ja) 2020-12-20 2024-01-23 ルムス エルティーディー. 空間光変調器上のレーザ走査による画像プロジェクタ
KR20220120141A (ko) 2021-02-23 2022-08-30 이동건 혼합 현실 입출력 확장 시스템
WO2022056499A1 (en) * 2021-10-13 2022-03-17 Innopeak Technology, Inc. 3d rendering and animation support for ui controls

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6037936A (en) * 1993-09-10 2000-03-14 Criticom Corp. Computer vision system with a graphic user interface and remote camera control
US5511157A (en) * 1993-12-13 1996-04-23 International Business Machines Corporation Connection of sliders to 3D objects to allow easy user manipulation and viewing of objects
JPH0869274A (ja) * 1994-08-30 1996-03-12 Sega Enterp Ltd 画像処理装置およびその方法
US5903271A (en) * 1997-05-23 1999-05-11 International Business Machines Corporation Facilitating viewer interaction with three-dimensional objects and two-dimensional images in virtual three-dimensional workspace by drag and drop technique
KR20010087256A (ko) * 2000-03-03 2001-09-15 김종민 3차원 사이버 공간 제공 시스템
US6556227B1 (en) * 2000-03-16 2003-04-29 Autodesk, Inc. Visualization techniques for constructive systems in a computer-implemented graphics system
JP2001276420A (ja) * 2000-03-30 2001-10-09 Namco Ltd ゲーム装置および情報記憶媒体
JP4167390B2 (ja) * 2000-11-20 2008-10-15 日本電気株式会社 物体照合方法,物体照合装置,およびそのプログラムを記録した記録媒体
FR2820269A1 (fr) * 2001-01-30 2002-08-02 Koninkl Philips Electronics Nv Procede de traitement d'images en 2d appliquees sur des objets en 3d
JP2005502936A (ja) * 2001-04-30 2005-01-27 アクティブマップ エルエルシー 双方向性電子提示地図
US7236178B2 (en) * 2001-07-19 2007-06-26 Autodesk, Inc. Dynamically adjusted brush for direct paint systems on parameterized multi-dimensional surfaces
JP2005502111A (ja) * 2001-08-31 2005-01-20 ソリッドワークス コーポレイション 2dおよび3dモデリングデータの同時使用法
US7554541B2 (en) * 2002-06-28 2009-06-30 Autodesk, Inc. Widgets displayed and operable on a surface of a volumetric display enclosure
AU2003303099A1 (en) * 2002-11-29 2004-08-13 Bracco Imaging, S.P.A. System and method for managing a plurality of locations of interest in 3d data displays
US7480873B2 (en) * 2003-09-15 2009-01-20 Sun Microsystems, Inc. Method and apparatus for manipulating two-dimensional windows within a three-dimensional display model
JP2005339060A (ja) * 2004-05-25 2005-12-08 Nec Electronics Corp クロストーク計算装置およびクロストーク計算方法
US7540866B2 (en) * 2004-06-04 2009-06-02 Stereotaxis, Inc. User interface for remote control of medical devices
US7178111B2 (en) * 2004-08-03 2007-02-13 Microsoft Corporation Multi-planar three-dimensional user interface
US20060177133A1 (en) * 2004-11-27 2006-08-10 Bracco Imaging, S.P.A. Systems and methods for segmentation of volumetric objects by contour definition using a 2D interface integrated within a 3D virtual environment ("integrated contour editor")

Also Published As

Publication number Publication date
WO2008067330A1 (en) 2008-06-05
MX2009004894A (es) 2009-05-19
KR20090084900A (ko) 2009-08-05
US20080122839A1 (en) 2008-05-29
EP2095326A1 (en) 2009-09-02
JP2010511228A (ja) 2010-04-08
CN101553843A (zh) 2009-10-07

Similar Documents

Publication Publication Date Title
TW200828098A (en) Interacting with 2D content on 3D surfaces
CN107852573B (zh) 混合现实社交交互
US9836889B2 (en) Executable virtual objects associated with real objects
CN107810465B (zh) 用于产生绘制表面的系统和方法
US10532271B2 (en) Data processing method for reactive augmented reality card game and reactive augmented reality card game play device, by checking collision between virtual objects
CN103914876B (zh) 用于在3d地图上显示视频的方法和设备
US6853383B2 (en) Method of processing 2D images mapped on 3D objects
US20060107229A1 (en) Work area transform in a graphical user interface
JP5295416B1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
WO2017113732A1 (zh) 用户界面控件的布局方法及系统、控制方法及系统
US8938093B2 (en) Addition of immersive interaction capabilities to otherwise unmodified 3D graphics applications
CN102253711A (zh) 使用深度传感相机来增强演示
JP2020522809A (ja) 仮想基体として使用するための平面及び/又は四分木を検出するための方法及びデバイス
US11532138B2 (en) Augmented reality (AR) imprinting methods and systems
KR20140081840A (ko) 모션으로 제어되는 리스트 스크롤 방법
US20190369938A1 (en) Information processing method and related electronic device
US8988467B2 (en) Touchscreen selection visual feedback
CN110276794B (zh) 信息处理方法、信息处理装置、终端设备及服务器
CN110286906B (zh) 用户界面显示方法、装置、存储介质与移动终端
EP3956752B1 (en) Semantic-augmented artificial-reality experience
CN112929685B (zh) Vr直播间的互动方法、装置、电子设备和存储介质
CN114442888A (zh) 对象确定方法、装置及电子设备
CN105745688B (zh) 动态工作平面3d渲染环境
JP7432130B2 (ja) 方向提示装置、方向提示方法、プログラム
US20220245887A1 (en) Image processing device and image processing method