TW202123025A - System and method for content control in augmented reality and computer readable storage medium - Google Patents
System and method for content control in augmented reality and computer readable storage medium Download PDFInfo
- Publication number
- TW202123025A TW202123025A TW108145320A TW108145320A TW202123025A TW 202123025 A TW202123025 A TW 202123025A TW 108145320 A TW108145320 A TW 108145320A TW 108145320 A TW108145320 A TW 108145320A TW 202123025 A TW202123025 A TW 202123025A
- Authority
- TW
- Taiwan
- Prior art keywords
- augmented reality
- electronic device
- command
- content
- reality content
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/20—Software design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
- G06F8/33—Intelligent editors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
- G06F8/34—Graphical or visual programming
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本發明係關於一種擴增實境之控制技術,特別是指一種擴增實境之內容控制系統、方法及電腦可讀儲存媒介。 The present invention relates to a control technology for augmented reality, and in particular to a content control system, method and computer-readable storage medium for augmented reality.
「擴增實境」顧名思義就是要在實境上擴增一些資訊,而擴增方式或所擴增之內容則會因需求不同而千變萬化。因此,為了滿足不同的擴增實境需求,現有技術已出現有Wikitude GmbH的Wikitude Studio、PTC的ThingWorx物聯網平台、Facebook的Camera Effects等擴增實境內容設計工具模組,讓使用者能自行設計及產製各式各樣的擴增實境應用。 "Amplified reality", as its name implies, is to augment some information in reality, and the methods of augmentation or the content of augmentation will be ever-changing due to different needs. Therefore, in order to meet the needs of different augmented reality, existing technologies include Wikitude Studio of Wikitude GmbH, ThingWorx IoT platform of PTC, Camera Effects of Facebook and other augmented reality content design tool modules, allowing users to make their own Design and produce various augmented reality applications.
在技術文獻方面,亦有一些技術與擴增實境之應用有關,其中,現有技術各有不同功用,但皆未指出如何藉由在擴增實境內容設計工具模組中,客製化地將素材之內容與命令綁定,並在電子裝置之擴增實境應用中,用命令來操作素材或滿足多個電子裝置之同步需求。 In terms of technical literature, there are also some technologies related to the application of augmented reality. Among them, the existing technologies have different functions, but none of them pointed out how to customize them in the augmented reality content design tool module. Bind the content of the material with the command, and use the command to manipulate the material or meet the synchronization requirements of multiple electronic devices in the augmented reality application of the electronic device.
因此,如何提供一種新穎或創新之擴增實境之控制技術,實已成為本領域技術人員之一大研究課題。 Therefore, how to provide a novel or innovative augmented reality control technology has actually become a major research topic for those skilled in the art.
本發明提供一種新穎或創新之擴增實境之內容控制系統、方法及電腦可讀儲存媒介,例如能允許使用者透過擴增實境內容設計工具模組來自定義擴增實境內容之命令以利客製化擴增實境內容之操控方式,或者能提供使用者用命令來操作擴增實境內容以降低擴增實境內容之控制複雜度。 The present invention provides a novel or innovative augmented reality content control system, method, and computer-readable storage medium, for example, allowing users to customize augmented reality content commands through an augmented reality content design tool module Customize the control method of augmented reality content, or provide users with commands to manipulate augmented reality content to reduce the control complexity of augmented reality content.
本發明中擴增實境之內容控制系統包括:一擴增實境內容設計工具模組,係用以載入素材,且擴增實境內容設計工具模組具有一使用者介面以透過使用者介面新增至少一命令,其中,擴增實境內容設計工具模組將命令與素材之內容的至少一部分兩者綁定,以將命令與素材之內容的至少一部分兩者的綁定結果儲存至一擴增實境設定資料,再將擴增實境設定資料置放或上傳至雲端;以及一第一電子裝置與至少一第二電子裝置,係分別從雲端接收或下載擴增實境設定資料,其中,當第一電子裝置與第二電子裝置連線時,第一電子裝置或第二電子裝置取得一輸入資訊,以從輸入資訊中識別出另一命令,若另一命令相同或相應於擴增實境設定資料所儲存之命令,則第一電子裝置或第二電子裝置依據命令與素材之內容的至少一部分兩者的綁定結果運用素材之內容中被綁定之部分來呈現擴增實境效果。 The augmented reality content control system of the present invention includes: an augmented reality content design tool module for loading materials, and the augmented reality content design tool module has a user interface to communicate with the user At least one command is added to the interface, where the augmented reality content design tool module binds both the command and at least a part of the content of the material to store the binding result of the command and at least a part of the content of the material to An augmented reality setting data, and then placing or uploading the augmented reality setting data to the cloud; and a first electronic device and at least one second electronic device, respectively receiving or downloading the augmented reality setting data from the cloud , Wherein when the first electronic device is connected to the second electronic device, the first electronic device or the second electronic device obtains input information to identify another command from the input information, if the other command is the same or corresponds to For the command stored in the augmented reality setting data, the first electronic device or the second electronic device uses the bound part of the content of the material to present the augmentation according to the binding result of the command and at least a part of the content of the material Realistic effect.
本發明中擴增實境之內容控制方法包括:提供一擴增實境內容設計工具模組以載入素材,且擴增實境內容設計工具模組具有一使用者介面以透過使用者介面新增至少一命令,其中,擴增實境內容設計工具模 組將命令與素材之內容的至少一部分兩者綁定,以將命令與素材之內容的至少一部分兩者的綁定結果儲存至一擴增實境設定資料,再將擴增實境設定資料置放或上傳至雲端;以及由一第一電子裝置與至少一第二電子裝置分別從雲端接收或下載擴增實境設定資料,以於第一電子裝置與第二電子裝置連線時,令第一電子裝置或第二電子裝置取得一輸入資訊,俾從輸入資訊中識別出另一命令,若另一命令相同或相應於擴增實境設定資料所儲存之命令,則第一電子裝置或第二電子裝置依據命令與素材之內容的至少一部分兩者的綁定結果運用素材之內容中被綁定之部分來呈現擴增實境效果。 The augmented reality content control method of the present invention includes: providing an augmented reality content design tool module to load materials, and the augmented reality content design tool module has a user interface to update through the user interface Add at least one command, among which, the augmented reality content design tool model The group binds both the command and at least a part of the content of the material, so as to store the binding result of the command and at least a part of the content of the material in an augmented reality setting data, and then set the augmented reality setting data Upload or upload to the cloud; and receive or download the augmented reality setting data from the cloud by a first electronic device and at least one second electronic device, so that when the first electronic device and the second electronic device are connected, the first electronic device An electronic device or a second electronic device obtains an input information to identify another command from the input information. If the other command is the same or corresponds to the command stored in the augmented reality configuration data, the first electronic device or the second electronic device 2. The electronic device uses the bound part of the content of the material to present the augmented reality effect according to the binding result of both the command and at least a part of the content of the material.
再者,本發明另提供一種電腦可讀儲存媒介,應用於電腦中,係儲存有指令,以執行如上所述之擴增實境之內容控制方法。 Furthermore, the present invention also provides a computer-readable storage medium, which is used in a computer and stores instructions to execute the above-mentioned augmented reality content control method.
為讓本發明之上述特徵和優點能更明顯易懂,下文特舉實施例,並配合所附圖式作詳細說明。在以下描述內容中將部分闡述本發明之額外特徵及優點,且此等特徵及優點將部分自所述描述內容可得而知,或可藉由對本發明之實踐習得。本發明之特徵及優點借助於在申請專利範圍中特別指出的元件及組合來認識到並達到。應理解,前文一般描述與以下詳細描述二者均僅為例示性及解釋性的,且不欲約束本發明所欲主張之範圍。 In order to make the above-mentioned features and advantages of the present invention more comprehensible, embodiments are specifically described below in conjunction with the accompanying drawings. In the following description, the additional features and advantages of the present invention will be partially explained, and these features and advantages will be partly known from the description, or can be learned by practicing the present invention. The features and advantages of the present invention are realized and achieved by means of the elements and combinations specifically pointed out in the scope of the patent application. It should be understood that both the foregoing general description and the following detailed description are only illustrative and explanatory, and are not intended to limit the scope of the present invention.
1‧‧‧擴增實境之內容控制系統 1. A content control system for augmented reality
10‧‧‧擴增實境內容設計工具模組 10‧‧‧Amplified reality content design tool module
11‧‧‧使用者介面 11‧‧‧User Interface
12‧‧‧資源檔案 12‧‧‧Resource File
13‧‧‧素材 13‧‧‧Materials
14‧‧‧設定檔 14‧‧‧Configuration File
15‧‧‧命令 15‧‧‧Command
16‧‧‧命令識別子 16‧‧‧Command identifier
20‧‧‧第一電子裝置 20‧‧‧The first electronic device
21‧‧‧擴增實境應用程式 21‧‧‧Augmented Reality Application
22‧‧‧網頁瀏覽器元件 22‧‧‧Web browser components
30‧‧‧第二電子裝置 30‧‧‧Second electronic device
A‧‧‧三維立體空間 A‧‧‧Three-dimensional space
B‧‧‧按鈕 B‧‧‧ button
B1‧‧‧儲存按鈕 B1‧‧‧Save button
C‧‧‧雲端 C‧‧‧Cloud
D‧‧‧擴增實境設定資料 D‧‧‧Amplified reality setting data
E‧‧‧編輯區 E‧‧‧Edit area
F‧‧‧擴增實境內容 F‧‧‧Amplified reality content
H‧‧‧控件 H‧‧‧Control
L1‧‧‧下拉式清單 L1‧‧‧Dropdown list
L2‧‧‧元件列表 L2‧‧‧Component List
M1‧‧‧語音辨識模組 M1‧‧‧Voice recognition module
M2‧‧‧影像辨識模組 M2‧‧‧Image recognition module
P‧‧‧圖片 P‧‧‧Picture
R‧‧‧識別標的 R‧‧‧Identification subject
S1至S6‧‧‧步驟 Steps S1 to S6‧‧‧
U‧‧‧使用者 U‧‧‧User
第1圖為本發明中擴增實境之內容控制系統的架構示意圖; Figure 1 is a schematic diagram of the architecture of the augmented reality content control system in the present invention;
第2圖為本發明中擴增實境之內容控制方法的流程示意圖; Figure 2 is a schematic flow diagram of the content control method of augmented reality in the present invention;
第3圖為本發明中擴增實境之內容元素的位置布局圖; Figure 3 is a layout diagram of the content elements of the augmented reality in the present invention;
第4圖為本發明中擴增實境內容設計工具模組的示意圖; Figure 4 is a schematic diagram of the augmented reality content design tool module of the present invention;
第5圖為本發明中在電子裝置中載入素材(資源檔案)之模型檔與輸入命令的示意圖;以及 Fig. 5 is a schematic diagram of the model file and input commands for loading materials (resource files) in the electronic device according to the present invention; and
第6圖為本發明中二個電子裝置進行擴增實境(AR)視訊之連線的示意圖。 Figure 6 is a schematic diagram of the augmented reality (AR) video connection between two electronic devices in the present invention.
以下藉由特定的具體實施形態說明本發明之實施方式,熟悉此技術之人士可由本說明書所揭示之內容了解本發明之其他優點與功效,亦可因而藉由其他不同的具體等同實施形態加以施行或應用。 The following describes the implementation of the present invention with specific specific embodiments. Those familiar with this technology can understand the other advantages and effects of the present invention from the contents disclosed in this specification, and can also implement other different specific equivalent embodiments. Or apply.
第1圖為本發明中擴增實境之內容控制系統1的架構示意圖,且擴增實境之內容控制系統1之主要內容如下,其餘內容相同於第2圖至第6圖之內容,於此不再重覆敘述。如第1圖所示,擴增實境之內容控制系統1可包括一擴增實境內容設計工具模組10、一第一電子裝置20、至少一第二電子裝置30、一語音辨識模組M1與影像辨識模組M2。
Figure 1 is a schematic diagram of the architecture of the augmented reality
擴增實境內容設計工具模組10可以載入素材13,且擴增實境內容設計工具模組10具有一使用者介面11以透過使用者介面11新增至少一命令15,其中,擴增實境內容設計工具模組10將命令15與素材13之內容的至少一部分兩者綁定,以將命令15與素材13之內容的至少一部分兩者的綁定結果儲存至一擴增實境設定資料D,再將擴增實境設定資料
D置放或上傳至雲端C。第一電子裝置20與第二電子裝置30可分別從雲端C接收或下載擴增實境設定資料D以於第一電子裝置20與第二電子裝置30連線(即為處在已連線狀態)時,令第一電子裝置20或第二電子裝置30取得一輸入資訊,俾從輸入資訊中識別出另一命令,若另一命令相同或相應於擴增實境設定資料D所儲存之命令15,則第一電子裝置20或第二電子裝置30依據命令15與素材13之內容的至少一部分兩者的綁定結果運用素材13之內容中被綁定之部分來呈現擴增實境效果。
The augmented reality content
例如,擴增實境內容設計工具模組10可為具有使用者介面11且能運行於網際網路瀏覽器上之應用程式(APP)。第一電子裝置20或第二電子裝置30可為行動裝置(如智慧型手機)、電腦(如筆記型電腦/平板電腦/桌上型電腦)、智慧型眼鏡等。語音辨識模組M1可為硬體之語音辨識器、軟體之語音辨識程式、具人工智慧(Artificial Intelligence;AI)之語音辨識模組等。影像辨識模組M2可為硬體之影像辨識器、軟體之影像辨識程式、具人工智慧(AI)之影像辨識模組等。但是,本發明並不以此為限。
For example, the augmented reality content
擴增實境之內容控制系統1可藉由擴增實境內容設計工具模組10上傳一擴增實境內容F(見第4圖)並綁定擴增實境內容F之命令15(如控制命令),以供使用者U(見第5圖至第6圖)在例如擴增實境(AR)視訊通話的過程中,能透過至少一命令15來操控第一電子裝置20或第二電子裝置30上的擴增實境內容F,甚至進一步使被操控的擴增實境內容F在互相視訊通話的第一電子裝置20與第二電子裝置30上同步。
The augmented reality
本發明透過在擴增實境內容設計工具模組10中提供素材13之內容與命令15(如控制命令)的綁定介面,讓使用者U能在擴增實境內容
設計工具模組10中自行依據不同需求來設計命令15與素材13之內容的關係,能將使用者U自行客製擴增實境內容F之命令15(如控制命令)導入於第一電子裝置20或第二電子裝置30之擴增實境應用中。
The present invention provides a binding interface between the content of the
第2圖為本發明中擴增實境之內容控制方法的流程示意圖,第3圖為本發明中擴增實境之內容元素的位置布局圖,第4圖為本發明中擴增實境內容設計工具模組10的示意圖,第5圖為本發明中在第一電子裝置20中載入素材13(或資源檔案12)之模型檔與輸入命令15的示意圖,第6圖為本發明中二個電子裝置(如第一電子裝置20與第二電子裝置30)進行擴增實境(AR)視訊之連線的示意圖。
Figure 2 is a schematic flow diagram of the content control method of the augmented reality of the present invention, Figure 3 is the location layout diagram of the content elements of the augmented reality of the present invention, and Figure 4 is the augmented reality content of the present invention A schematic diagram of the
同時,第2圖所示擴增實境之內容控制方法可包括下列步驟S1至步驟S6,且參照第1圖與第3圖至第6圖予以說明。 At the same time, the augmented reality content control method shown in Fig. 2 may include the following steps S1 to S6, which are described with reference to Figs. 1 and 3 to 6.
在第2圖之步驟S1中,提供具有使用者介面11之擴增實境內容設計工具模組10(見第1圖或第4圖),例如具有使用者介面11(如圖形使用者介面)且能運行於網際網路瀏覽器上之應用程式(APP)。使用者U(見第5圖)透過例如第一電子裝置20登入擴增實境內容設計工具模組10後,可藉由擴增實境內容設計工具模組10之上傳介面將一資源檔案12(例如:.mp3-音檔、.jpg-圖片檔、.fbx-3D模型檔等)上傳至雲端C中保存,且擴增實境內容設計工具模組10載入資源檔案12之內容以供使用者U預覽。使用者U可用命令15控制資源檔案12之播放行為,例如資源檔案12中之音檔的快轉、跳至指定時間點播放音檔、圖片檔的旋轉、3D模型檔的模型動作或姿態切換等。又,使用者U亦可透過擴增實境內容設計工具模組10之資源連結功能,使擴增實境內容設計工具模組10從網路上載入資
源檔案12。
In step S1 in Figure 2, an augmented reality content
擴增實境內容設計工具模組10可編輯各擴增實境之內容元素的位置布局。例如,在第3圖之三維立體空間A中,R為可用影像辨識之一識別標的,B處放有一個按鈕,P處擺上一張圖片,且擴增實境內容設計工具模組10的位置布局的設計結果可存放在雲端C,以供後續再次將位置布局的設計結果載入擴增實境內容設計工具模組10中進行編輯。
The augmented reality content
本發明可於第一電子裝置20(如行動裝置)上提供一內嵌有網頁瀏覽器元件(Web View)22之擴增實境應用程式(APP)21,並透過網頁瀏覽器元件22載入擴增實境內容設計工具模組10的位置布局的設計結果至第一電子裝置20。又,依據擴增實境內容設計工具模組10所設計之位置布局的方位資訊,當擴增實境應用程式21辨識出第一電子裝置20(如行動裝置)之畫面中有R時,即在B處擺上一個按鈕且在P處擺上一張圖片,並將網頁背景設為透明,再將識別標的R、按鈕B、圖片P與網頁背景設等套疊於擴增實境應用程式21中的攝像機畫面元件(Camera View)上,藉此達成擴增實境之效果,亦達成設計期間與執行期間之視覺效果一致。
The present invention can provide an augmented reality application (APP) 21 embedded with a web browser component (Web View) 22 on the first electronic device 20 (such as a mobile device), and load it through the
在第2圖之步驟S2中,使用者U可透過擴增實境內容設計工具模組10之使用者介面11自定義或新增至少一命令15(如控制命令),例如跳躍、順旋90度、1分30秒、右移等命令。通常可以簡單用文字欄位來取得使用者U之輸入資訊,並利用文字型態或檔案(如音軌檔案或影像檔)來保存使用者U之輸入資訊,例如可利用一檔案(如音軌檔案)錄下使用者U之輸入資訊為語音「右移」,再將檔案(如音軌檔案)上傳至擴增實境內容設計工具模組10中,俾由擴增實境內容設計工具模組10透過一語音
辨識模組M1(如具人工智慧之語音辨識模組)以識別出檔案(如音軌檔案)所代表的命令為「右移」。同理,亦可上傳一段錄有「向右揮動之手勢」的檔案(如影像檔)至擴增實境內容設計工具模組10中,再由擴增實境內容設計工具模組10將檔案(如影像檔)串接一個影像辨識模組M2(如具人工智慧之影像辨識模組),以利用影像辨識模組M2識別出檔案(如影像檔)所代表的命令15為「右移」。另外,擴增實境內容設計工具模組10可提供一命令修改功能以供使用者U調整或修改命令15,亦可在無法識別出命令15時提供手動標示所代表的命令15之功能。
In step S2 in Figure 2, the user U can customize or add at least one command 15 (such as a control command) through the
在第2圖之步驟S3中,使用者U可在擴增實境內容設計工具模組10上定義出素材13之內容的至少一部分,並透過使用者介面11找出該部分素材13之內容位置,且擴增實境內容設計工具模組10可將上述命令15與素材13之內容的至少一部分兩者綁定,再將命令15與素材13之內容的至少一部分兩者的綁定結果(或綁定資訊)儲存至一擴增實境設定資料D(設定檔14),以供第一電子裝置20(如行動裝置)之擴增實境應用程式21載入擴增實境設定資料D(設定檔14)及執行命令15。
In step S3 in Figure 2, the user U can define at least a part of the content of the material 13 on the augmented reality content
本發明可將素材13或資源檔案12區分為影音檔、圖片檔、模型檔等類別。針對素材13或資源檔案12之影音檔,「素材的一部分」可以用檔案的播放時間點來定義,例如「1分30秒」藉由綁定關係,可以使擴增實境應用程式21直接跳至播放時間點來播放內容。針對素材13或資源檔案12之圖片檔,可由擴增實境內容設計工具模組10提供一切分或框選工具,並由使用者U透過切分或框選工具選出一部份的圖片內容以藉此定義「素材的一部分」,例如對於一張含有一隻蝴蝶的圖片,「放大蝴
蝶」藉由綁定關係,可以使擴增實境應用程式21找到蝴蝶的那一部分,並將蝴蝶中部分之圖片內容放大。針對素材13或資源檔案12之模型檔(例如一FBX格式之3D模型檔),因模型檔可以包括多種模型的姿態或動作,「素材的一部分」則可以用至少一模型的姿態或動作來定義,例如對於一個包括揮拳動作的猩猩模型,「揮拳」之命令15藉由綁定關係,可以使擴增實境應用程式21於載入模型檔之模型後,播放猩猩揮拳的樣子。
The present invention can classify the material 13 or the
在第2圖之步驟S4中,由具有攝像機的第一電子裝置20(如行動裝置)與具有攝像機的第二電子裝置30(如筆記型電腦)分別透過網路從雲端C下載或接收擴增實境設定資料D(設定檔14)後,再利用第一電子裝置20上所安裝的擴增實境應用程式21載入擴增實境設定資料D(設定檔14),以提供擴增實境之功能。
In step S4 in Figure 2, the first
在第2圖之步驟S5中,當第一電子裝置20與第二電子裝置30連線時(例如可擴增實境的視訊連線或可擴增實境的語音通話連線),第一電子裝置20或第二電子裝置30可接收得到語音(聲音)、手勢影像等輸入資訊,例如輸入資訊為(1)使用者U口說的一段語音、(2)透過麥克風收取第一電子裝置20或第二電子裝置30周邊的一段聲音、(3)透過第一電子裝置20或第二電子裝置30之攝像機拍攝使用者U揮出的手勢影像等。
In step S5 of Figure 2, when the first
在第2圖之步驟S6中,第一電子裝置20之擴增實境應用程式21取得輸入資訊後,可進一步識別出輸入資訊所包括的命令,並將命令與擴增實境設定資料D(設定檔14)所記載之命令15進行比對。若命令符合擴增實境設定資料D(設定檔14)中所記載之命令15,則依據命令15載入所綁定的那一部分素材13之內容,並將素材13之內容套疊在實景影
像上以執行或播放素材13之內容,俾提供使用者U基於部分素材13之內容的擴增實境資訊。上述第一電子裝置20之擴增實境應用程式21之識別方式可包括:以語音辨識模組M1(如具人工智慧之語音辨識模組)識別一音檔是否含有語音命令,並以聲音特徵方式識別一音檔是否含有特定聲音或音檔錄製時所處之環境狀態,俾以特定聲音或環境狀態所對應之一命令識別子16作為命令15;或者,以影像辨識模組M2(如具人工智慧之影像辨識模組)識別從第一電子裝置20或第二電子裝置30之攝像機所取得之影像資料是否含有一手勢,俾以手勢所對應之一命令識別子16作為命令15。
In step S6 in Figure 2, after the
本發明亦可建置一影像辨識模組M2(如具人工智慧之影像辨識模組)來處理從影像資料識別出手勢命令這部分,亦即影像辨識模組M2(如具人工智慧之影像辨識模組)可依據傳入之影像資料輸出一命令識別子16作為結果。因此,擴增實境應用程式21在取得輸入資訊後,可將輸入資訊傳遞給影像辨識模組M2(如具人工智慧之影像辨識模組),並從影像辨識模組M2(如具人工智慧之影像辨識模組)取回一命令識別子16,再將命令識別子16與擴增實境設定資料D(設定檔14)所記載之命令15進行比對,之後再繼續進行剩餘工作。
The present invention can also build an image recognition module M2 (such as an image recognition module with artificial intelligence) to process the part of recognizing gesture commands from image data, that is, the image recognition module M2 (such as an image recognition module with artificial intelligence). The module can output a
本發明可依據擴增實境設定資料D(設定檔14)找出被綁定的那一部分素材13之內容,再將部分素材13之內容(如影像或聲音)呈現在可接收輸入資訊之第一電子裝置20(如行動裝置)上,甚至可以同步地在第一電子裝置20及其他參與連線的第二電子裝置30上呈現該部分素材13之內容。例如,同步的方法可包括:使各參與連線之第一電子裝置20與第二電子裝置30兩者皆識別出命令15及執行命令15,以同步呈現該部分素
材13之內容;或者,使第一電子裝置20與第二電子裝置30其中一者先依據命令15呈現該綁定的素材13之內容,再將呈現前後所形成之內容的異動部分同步至參與連線之第一電子裝置20與第二電子裝置30其中另一者,以同步呈現該部分素材13之內容而滿足同步效果。
The present invention can find out the content of the part of the material 13 that is bound based on the augmented reality setting data D (configuration file 14), and then present the content of the part of the material 13 (such as images or sounds) in the first place where the input information can be received. On an electronic device 20 (such as a mobile device), the content of the part of the material 13 can even be presented simultaneously on the first
若以人工智慧辨識模組(如具人工智慧之語音辨識模組M1或影像辨識模組M2)來處理命令15之識別問題,無論是影像或聲音,本發明皆可在上述步驟S2中將擴增實境內容設計工具模組10介接人工智慧辨識模組(如具人工智慧之語音辨識模組M1或影像辨識模組M2),並將使用者U輸入之一含有命令資訊之資料傳遞給人工智慧辨識模組(如具人工智慧之語音辨識模組M1或影像辨識模組M2)以識別出及取回一命令識別子16,讓使用者U能在擴增實境內容設計工具模組10上將命令識別子16與素材13的內容兩者綁定,並將兩者的綁定結果存入擴增實境設定資料D(設定檔14)中,使步驟S6中能有擴增實境設定資料D(設定檔14)得以依循。
If an artificial intelligence recognition module (such as a voice recognition module M1 or an image recognition module M2 with artificial intelligence) is used to handle the recognition problem of the
舉例而言,在第一電子裝置20(如行動裝置)上,依據自行定義的命令15(如語音命令),當擴增實境出一黑猩猩之模型後,用命令15來操控黑猩猩之模型,例如下列所述。
For example, on the first electronic device 20 (such as a mobile device), according to a self-defined command 15 (such as a voice command), after a chimpanzee model is displayed in the augmented reality, the
如第4圖及第5圖所示,先在網頁式的擴增實境內容設計工具模組10中載入一個FBX格式(.fbx)之黑猩猩的模型檔(即素材13),在擴增實境內容設計工具模組10中的專屬屬性視窗中,有一個下拉式清單L1(選擇動畫)羅列出此模型檔可以呈現的動畫態樣,且下拉式清單L1中有一個黑猩猩跑步的動畫態樣(gorillishArmature|gorrillishRUN),故可以選定此動畫態樣,並在下拉式清單L1下方的文字欄位(即命令15之欄位)中
輸入命令「Run」以代表將命令「Run」與此動畫態樣綁定。接著,在第一電子裝置20(如行動裝置)上,透過擴增實境應用程式21載入黑猩猩的FBX模型檔,且可以想像此黑猩猩是當擴增實境應用程式21辨識出某一標的後,在標的上套疊顯示出來的。然後,當使用者U對第一電子裝置20說「Run」時,就可以在第一電子裝置20上看見黑猩猩跑步的樣子。
As shown in Figures 4 and 5, first load a chimpanzee model file (that is, material 13) in FBX format (.fbx) into the web-based augmented reality content
詳言之,在第4圖中,使用者U可先在擴增實境內容設計工具模組10之元件列表L2中選用與拖拉一個模型元件之控件H至編輯區E中,並載入一模型至擴增實境內容設計工具模組10之編輯區E中,以令擴增實境內容設計工具模組10將模型與模型元件之控件H進行綁定以產生綁定結果,再由使用者U按下儲存按鈕B1將綁定結果以擴增實境設定資料D的方式保存或儲存至雲端C。
In detail, in Figure 4, the user U can first select and drag a control H of a model component from the component list L2 of the augmented reality content
如第6圖所示,本發明可透過第一電子裝置20(如行動裝置)上的擴增實境應用程式21(見第1圖)從雲端C下載擴增實境設定資料D,並啟動擴增實境(AR)視訊之連線,以使第一電子裝置20擷取實景至第二電子裝置30(如筆記型電腦),並由第二電子裝置30依據擴增實境設定資料D繪出擴增實境內容F。接著,透過第二電子裝置30的麥克風(Mic)接收命令15(如語音命令),當第二電子裝置30識別出命令15為「Run」時,第二電子裝置30繪出猩猩奔跑之擴增實境動畫。最後,第二電子裝置30將命令「Run」傳至第一電子裝置20,使第一電子裝置20識別及繪出同樣的擴增實境動畫。
As shown in Figure 6, the present invention can download the augmented reality setting data D from the cloud C through the augmented reality application 21 (see Figure 1) on the first electronic device 20 (such as a mobile device), and start it The connection of augmented reality (AR) video, so that the first
除上述技術內容外,本發明亦可提供下列相關技術,例如[1]語音辨識、[2]擴增實境內容之同步方式、[3]手勢命令等。 In addition to the above technical content, the present invention can also provide the following related technologies, such as [1] voice recognition, [2] synchronization mode of augmented reality content, [3] gesture commands, etc.
[1]語音辨識:可在第一電子裝置20或第二電子裝置30中設置一語音側錄器(圖未示),以透過語音側錄器側錄第一電子裝置20與第二電子裝置30之擴增實境視訊通話中的語音,亦可將語音轉換成文字,並通過下述方式對文字進行識別。例如,先辨識出文字中之喚醒語,再對後接之文字做命令15比對;或者,無需辨識出文字中之喚醒語,直接在文字之串流中比對出命令15。
[1] Voice recognition: A voice recorder (not shown) can be set in the first
[2]擴增實境內容F之同步方式:使第一電子裝置20與第二電子裝置30兩者皆識別出命令15及執行命令15以達成兩者之同步效果;或者,可由第一電子裝置20與第二電子裝置30其中一者使用麥克風來接收命令15(如語音命令),並依據命令15變更擴增實境內容F後,再將擴增實境內容F中的異動部分同步至第一電子裝置20與第二電子裝置30其中另一者,據以調整異動部分來達成第一電子裝置20與第二電子裝置30兩者之同步效果。
[2] The synchronization method of the augmented reality content F: make the first
[3]手勢命令:在擴增實境視訊通話中,各參與連線之第一電子裝置20與第二電子裝置30基本上皆具有麥克風,因此可以實施語音命令的方式來操作擴增實境內容F。又,若要實施手勢命令來操作擴增實境內容F,則具有攝像機之第一電子裝置20或第二電子裝置30才能用手勢命令,未具有攝像機者無法使用手勢命令來操作擴增實境內容F。
[3] Gesture commands: In an augmented reality video call, each of the first
本發明另提供一種電腦可讀儲存媒介,應用於具有處理器及/或記憶體的電腦或計算裝置中,係儲存有指令,電腦或計算裝置透過處理器(例如,CPU、GPU等)及/或記憶體透過指令執行如上所述之擴增實境之內容控制方法。 The present invention also provides a computer-readable storage medium, which is used in a computer or computing device with a processor and/or memory. The computer or computing device stores instructions through the processor (for example, CPU, GPU, etc.) and/ Or the memory executes the above-mentioned augmented reality content control method through commands.
綜上,本發明中擴增實境之內容控制系統、方法及電腦可讀儲存媒介係至少具有下列特色、優點或技術功效。 In summary, the augmented reality content control system, method, and computer-readable storage medium of the present invention have at least the following characteristics, advantages, or technical effects.
一、本發明能允許使用者透過擴增實境內容設計工具模組來自定義擴增實境內容之命令,以利使用者客製化擴增實境內容之操控方式。 1. The present invention can allow the user to customize the command of the augmented reality content through the augmented reality content design tool module, so that the user can customize the control method of the augmented reality content.
二、本發明能結合人工智慧辨識技術(如具人工智慧之語音辨識模組或影像辨識模組)來使命令更具有彈性。 2. The present invention can combine artificial intelligence recognition technology (such as a voice recognition module or an image recognition module with artificial intelligence) to make commands more flexible.
三、本發明能提供使用者用命令(如語音命令或手勢命令)來操作擴增實境內容,以利降低擴增實境內容之控制複雜度。 3. The present invention can provide users with commands (such as voice commands or gesture commands) to operate augmented reality content, so as to reduce the control complexity of augmented reality content.
四、本發明之操控方式可使用語音命令(聲控方式)、手勢命令、文字命令等,以增加操控方式之選擇性或便利性。 4. The control method of the present invention can use voice commands (voice control methods), gesture commands, text commands, etc., to increase the selectivity or convenience of the control methods.
五、本發明可用於多個(如至少二個)電子裝置之連線模式,亦能滿足多個電子裝置之內容操控後之同步效果。 5. The present invention can be used in the connection mode of multiple (such as at least two) electronic devices, and can also satisfy the synchronization effect after content manipulation of multiple electronic devices.
六、本發明可能應用之產業為例如擴增實境(AR)應用產業、物聯網(IOT)等,且可能應用之產品為例如行動裝置(如智慧型手機)、電腦(如筆記型電腦/平板電腦)、智慧型眼鏡等電子裝置。 6. The possible applications of the present invention are, for example, augmented reality (AR) application industries, Internet of Things (IOT), etc., and possible applications of products are, for example, mobile devices (such as smart phones), computers (such as laptops) Tablet PC), smart glasses and other electronic devices.
上述實施形態僅例示性說明本發明之原理、特點及其功效,並非用以限制本發明之可實施範疇,任何熟習此項技藝之人士均能在不違背本發明之精神及範疇下,對上述實施形態進行修飾與改變。任何使用本發明所揭示內容而完成之等效改變及修飾,均仍應為申請專利範圍所涵蓋。因此,本發明之權利保護範圍,應如申請專利範圍所列。 The above embodiments are only illustrative of the principles, features and effects of the present invention, and are not intended to limit the scope of implementation of the present invention. Anyone familiar with the art can comment on the above without departing from the spirit and scope of the present invention. Modifications and changes to the implementation form. Any equivalent changes and modifications made using the content disclosed in the present invention should still be covered by the scope of the patent application. Therefore, the protection scope of the present invention should be as listed in the scope of the patent application.
1‧‧‧擴增實境之內容控制系統 1. A content control system for augmented reality
10‧‧‧擴增實境內容設計工具模組 10‧‧‧Amplified reality content design tool module
11‧‧‧使用者介面 11‧‧‧User Interface
12‧‧‧資源檔案 12‧‧‧Resource File
13‧‧‧素材 13‧‧‧Materials
14‧‧‧設定檔 14‧‧‧Configuration File
15‧‧‧命令 15‧‧‧Command
16‧‧‧命令識別子 16‧‧‧Command identifier
20‧‧‧第一電子裝置 20‧‧‧The first electronic device
21‧‧‧擴增實境應用程式 21‧‧‧Augmented Reality Application
22‧‧‧網頁瀏覽器元件 22‧‧‧Web browser components
30‧‧‧第二電子裝置 30‧‧‧Second electronic device
C‧‧‧雲端 C‧‧‧Cloud
D‧‧‧擴增實境設定資料 D‧‧‧Amplified reality setting data
M1‧‧‧語音辨識模組 M1‧‧‧Voice recognition module
M2‧‧‧影像辨識模組 M2‧‧‧Image recognition module
Claims (21)
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW108145320A TWI744737B (en) | 2019-12-11 | 2019-12-11 | System and method for content control in augmented reality and computer readable storage medium |
CN202010076630.2A CN112947901A (en) | 2019-12-11 | 2020-01-23 | Augmented reality content control system, method and computer storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW108145320A TWI744737B (en) | 2019-12-11 | 2019-12-11 | System and method for content control in augmented reality and computer readable storage medium |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202123025A true TW202123025A (en) | 2021-06-16 |
TWI744737B TWI744737B (en) | 2021-11-01 |
Family
ID=76234493
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW108145320A TWI744737B (en) | 2019-12-11 | 2019-12-11 | System and method for content control in augmented reality and computer readable storage medium |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN112947901A (en) |
TW (1) | TWI744737B (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI804294B (en) * | 2022-04-28 | 2023-06-01 | 中華電信股份有限公司 | Remote device control system, method and computer readable medium for augmented reality collaboration |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140168261A1 (en) * | 2012-12-13 | 2014-06-19 | Jeffrey N. Margolis | Direct interaction system mixed reality environments |
TWI503785B (en) * | 2013-12-02 | 2015-10-11 | Chunghwa Telecom Co Ltd | Augmented reality system, application method thereof and non-temporary computer readable medium containing augmented reality application program |
CN106033333A (en) * | 2015-03-10 | 2016-10-19 | 沈阳中云普华科技有限公司 | A visual augmented reality scene making system and method |
US9846972B2 (en) * | 2015-04-06 | 2017-12-19 | Scope Technologies Us Inc. | Method and apparatus for sharing augmented reality applications to multiple clients |
TWI596378B (en) * | 2015-12-14 | 2017-08-21 | 技嘉科技股份有限公司 | Portable virtual reality system |
CN105719522A (en) * | 2016-01-25 | 2016-06-29 | 成都趣动力教育科技有限公司 | Dual-client-terminal speech communication method, device and system |
DK180470B1 (en) * | 2017-08-31 | 2021-05-06 | Apple Inc | Systems, procedures, and graphical user interfaces for interacting with augmented and virtual reality environments |
US10937240B2 (en) * | 2018-01-04 | 2021-03-02 | Intel Corporation | Augmented reality bindings of physical objects and virtual objects |
CN108269307B (en) * | 2018-01-15 | 2023-04-07 | 歌尔科技有限公司 | Augmented reality interaction method and equipment |
US20190251750A1 (en) * | 2018-02-09 | 2019-08-15 | Tsunami VR, Inc. | Systems and methods for using a virtual reality device to emulate user experience of an augmented reality device |
US10838717B2 (en) * | 2018-02-16 | 2020-11-17 | Accenture Global Solutions Limited | Representing a software application using extended reality |
TWI656447B (en) * | 2018-04-13 | 2019-04-11 | 中華電信股份有限公司 | Method and system for augmenting reality |
KR102102994B1 (en) * | 2019-01-03 | 2020-05-29 | 고상혁 | Augmented reality editing system to make and edit augmented reality contents, and augmented reality processing system |
CN109960872B (en) * | 2019-03-22 | 2023-02-03 | 南京可居网络科技有限公司 | AR virtual soft package matching management system and working method thereof |
-
2019
- 2019-12-11 TW TW108145320A patent/TWI744737B/en active
-
2020
- 2020-01-23 CN CN202010076630.2A patent/CN112947901A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI804294B (en) * | 2022-04-28 | 2023-06-01 | 中華電信股份有限公司 | Remote device control system, method and computer readable medium for augmented reality collaboration |
Also Published As
Publication number | Publication date |
---|---|
CN112947901A (en) | 2021-06-11 |
TWI744737B (en) | 2021-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102543988B1 (en) | Video production method and apparatus, computer device and storage medium | |
WO2020083021A1 (en) | Video recording method and apparatus, video playback method and apparatus, device, and storage medium | |
US10499004B2 (en) | Method and terminal for reproducing content | |
US8325192B2 (en) | Creating animations | |
TW201327226A (en) | Electronic device and method thereof for offering mood services according to user expressions | |
US11445144B2 (en) | Electronic device for linking music to photography, and control method therefor | |
WO2022223029A1 (en) | Avatar interaction method, apparatus, and device | |
KR101831802B1 (en) | Method and apparatus for producing a virtual reality content for at least one sequence | |
TWI744737B (en) | System and method for content control in augmented reality and computer readable storage medium | |
US11095938B2 (en) | Online video editor | |
KR20150129926A (en) | Online study contents system and the supply method for Infant and Children | |
US11902690B2 (en) | Machine learning driven teleprompter | |
TWI328768B (en) | System and method for recording and executing the operation process of a cursor device | |
WO2023075909A1 (en) | Machine learning driven teleprompter | |
JP2004325941A (en) | Drawing processor, drawing method, drawing program, and electronic conference system provided with them | |
KR101553272B1 (en) | Control method for event of multimedia content and building apparatus for multimedia content using timers | |
CN112805685A (en) | Method, apparatus, and computer-readable medium for propagating rich note data objects over web socket connections in a web collaborative workspace | |
KR20150083475A (en) | Media editing method and device using the touch input | |
TWM560053U (en) | Editing device for integrating augmented reality online | |
WO2023241719A1 (en) | Virtual gift-based interaction method, and related device | |
CN114363549B (en) | Intelligent script running and showing recording processing method, device and system | |
WO2022262560A1 (en) | Image display method and apparatus, device, and storage medium | |
George | Using Object Recognition on Hololens 2 for Assembly | |
CN116405706A (en) | Driving method and device of 3D model, electronic equipment and readable storage medium | |
KR20120076609A (en) | A method and apparatus for authoring multimedia contents to set the layout for each time interval or slide page |