TWI505135B - 顯示畫面的控制系統、輸入裝置及控制方法 - Google Patents
顯示畫面的控制系統、輸入裝置及控制方法 Download PDFInfo
- Publication number
- TWI505135B TWI505135B TW102129870A TW102129870A TWI505135B TW I505135 B TWI505135 B TW I505135B TW 102129870 A TW102129870 A TW 102129870A TW 102129870 A TW102129870 A TW 102129870A TW I505135 B TWI505135 B TW I505135B
- Authority
- TW
- Taiwan
- Prior art keywords
- display screen
- virtual operation
- operation plane
- sensing space
- initial sensing
- Prior art date
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
- G06F3/0325—Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
Description
本發明是有關於一種顯示畫面的控制機制,且特別是有關於一種可於立體空間進行操作之顯示畫面的控制系統、輸入裝置及控制方法。
傳統電子產品大多只具備遙控器、鍵盤、滑鼠等輸入裝置以供使用者利用進行操作。而隨著科技的進步,越來越多的開發與研究致力於操作介面的改善。新一代的操作介面越來越人性化且越來越方便。近年來,電子產品的傳統輸入裝置已漸漸被其他輸入裝置取代,而其中以手勢操作來取代傳統的輸入裝置最受歡迎。
手勢操作廣泛地應用於各式各樣的人機互動介面,例如機器人遙控、電器遙控、投影片簡報操作等。使用者能夠於立體空間中直接以手勢來操控使用者介面,而不必接觸鍵盤、滑鼠、遙控器等輸入裝置,以直覺式的動作就能驅動電子產品。據此,如何於立體空間中使得控制顯示畫面的方式更為簡便並符合多元
化的使用情境,則為目前發展的重要一環。
舉例來說,美國專利US 20120223882公開一種三維使用者介面游標控制的方法,其是擷取使用者的影像,並針對使用者的手勢(gesture)予以辨識,讓使用者能以手勢操控電腦。上述美國專利US 20120223882公開底下技術:偵測使用者的手腕、手肘、肩膀的位置,並依此作為判定手勢的參考點,並依據使用者手勢位置座標軸與畫面中游標座標軸的轉換技術,此外還公開了手勢誤操作的過濾功能與手勢自動校正技術。
另外,美國專利US 8194038公開一種多方向性遠端控制系統與游標速度的控制方法,其提供一種影像辨識技術,應用於電視機上盒、多媒體系統、網路瀏覽器等。上述美國專利US 8194038所公開的遙控器上具有發光二極體(Light Emitting Diode,LED),並於螢幕上方安置攝影機,在取像後找出LED的位置,偵測其像素大小,並作去背景的程序,藉以確認LED位於空間中的位置。而在上述美國專利US 8194038還公開一個公式藉此來提高X、Y座標軸的位置數值精確性。
本發明提供一種顯示畫面的控制系統、輸入裝置及控制方法,可藉由影像分析的方式於立體空間中操控顯示畫面的內容。
本發明的顯示畫面的控制方法,包括:透過取像單元往顯示裝置的顯示畫面所面向的第一側持續擷取影像,並藉由處理
單元對取像單元所擷取的影像執行影像分析程序。上述影像分析程序包括:偵測是否有物件進入初始感測空間,其中初始感測空間位於上述第一側,且初始感測空間位於取像單元的取像範圍內;當偵測到物件進入初始感測空間時,依據物件的位置,建立虛擬操作平面,其中虛擬操作平面的尺寸與顯示畫面的尺寸成一比例;以及偵測物件在虛擬操作平面的移動資訊,藉以透過移動資訊來控制顯示畫面的內容。
在本發明的一實施例中,當偵測到物件進入初始感測空間時,在建立虛擬操作平面之前,可判定是否由物件取得顯示畫面的控制權。上述判定是否由物件取得顯示畫面的控制權的步驟包括:基於進入初始感測空間的物件獲得一特徵區塊;判斷特徵區塊的面積是否大於預設面積;若特徵區塊的面積大於預設面積,判定物件取得顯示畫面的控制權。
在本發明的一實施例中,上述依據物件的位置,建立虛擬操作平面的步驟包括:以特徵區塊的邊界位置作為基準,並以一指定範圍來決定物件的質心計算區塊;計算質心計算區塊的質心;以及以上述質心為中心點,以與顯示畫面的尺寸成比例的方式,建立虛擬操作平面。
在本發明的一實施例中,在偵測物件在虛擬操作平面的移動資訊之後,傳送移動資訊至顯示裝置的計算裝置,而透過計算裝置將質心在虛擬操作平面的虛擬座標轉換為顯示畫面中對應的顯示座標。
在本發明的一實施例中,在偵測物件在虛擬操作平面的移動資訊之後,將質心在虛擬操作平面的虛擬座標轉換為顯示畫面中對應的顯示座標。
在本發明的一實施例中,判定是否由物件取得顯示畫面的控制權的步驟更包括:當同時偵測到另一物件進入初始感測空間,且另一物件的特徵區塊的面積亦大於預設面積時,計算兩個物件分別與顯示畫面之間的距離,藉以判定以距離顯示畫面最近的一物件取得顯示畫面的控制權。
在本發明的一實施例中,在建立虛擬操作平面之後,可將顯示畫面的游標移至顯示畫面的中央。
在本發明的一實施例中,在建立虛擬操作平面之後,當偵測到物件離開虛擬操作平面超過預設時間時,可進一步解除物件的控制權,以移除虛擬操作平面的設定。
在本發明的一實施例中,上述方法更包括依據取像單元的校正資訊,定義初始感測空間,並對初始感測空間執行去背動作。
本發明的輸入裝置,其包括取像單元、處理單元以及傳輸單元。取像單元用以往顯示裝置的顯示畫面所面向的第一側持續擷取影像。處理單元耦接至取像單元,其藉由分析取像單元所擷取的影像,偵測是否有物件進入初始感測空間;並且,在偵測到物件進入初始感測空間時,依據物件的位置,建立虛擬操作平面,以偵測物件在虛擬操作平面上的移動資訊,其中初始感測空
間位於上述第一側,且初始感測空間位於取像單元的取像範圍內,而虛擬操作平面的尺寸與顯示畫面的尺寸成比例,且虛擬操作平面與顯示畫面相互平行。傳輸單元耦接至處理單元,其傳送移動資訊至顯示裝置對應的計算裝置,藉以控制顯示畫面的內容。
本發明的顯示畫面的控制系統,包括顯示裝置、計算裝置以及輸入裝置。顯示裝置用以顯示一顯示畫面。計算裝置耦接至顯示裝置,其控制顯示畫面的內容。輸入裝置耦接至計算裝置,其包括取像單元、處理單元以及傳輸單元。取像單元用以往顯示裝置的顯示畫面所面向的第一側持續擷取影像。處理單元耦接至取像單元,藉由分析取像單元所擷取的影像,偵測是否有物件進入初始感測空間,並且,在偵測到物件進入初始感測空間時,依據物件的位置,建立虛擬操作平面,以偵測物件在虛擬操作平面上的移動資訊,其中初始感測空間位於上述第一側,且初始感測空間位於取像單元的取像範圍內,而虛擬操作平面的尺寸與顯示畫面的尺寸成比例,且虛擬操作平面與顯示畫面相互平行。傳輸單元耦接至處理單元,並傳送移動資訊至計算裝置,使得計算裝置依據移動資訊來控制顯示畫面的內容。
本發明的顯示畫面的控制系統,其包括顯示裝置、取像單元以及計算裝置。顯示裝置用以顯示一顯示畫面。取像單元往顯示畫面所面向的第一側持續擷取影像。計算裝置耦接至取像單元與顯示裝置,藉由分析取像單元所擷取的影像,偵測是否有物件進入初始感測空間,並且,在偵測到物件進入初始感測空間時,
依據物件的位置,建立虛擬操作平面,以偵測物件在虛擬操作平面上的移動資訊,藉以透過移動資訊來控制顯示畫面的內容。
基於上述,本發明在利用初始感測空間而判定物件取得控制權之後,再依據物件的位置來建立虛擬操作平面。據此,任一使用者皆可利用任一物件而於立體空間中對顯示畫面的內容進行操控,進而增加了使用上的便利性。
為讓本發明的上述特徵和優點能更明顯易懂,下文特舉實施例,並配合所附圖式作詳細說明如下。
11‧‧‧輸入裝置
12、820‧‧‧計算裝置
13、830‧‧‧顯示裝置
20‧‧‧初始感測空間
21、21a~21e‧‧‧位置
23‧‧‧桌面
24‧‧‧顯示畫面
40、70‧‧‧虛擬操作平面
41、72、73‧‧‧物件
42‧‧‧游標
51‧‧‧特徵區塊
52‧‧‧邊界位置
53‧‧‧質心計算區塊
100、800‧‧‧控制系統
110、810‧‧‧取像單元
120、821‧‧‧處理單元
130‧‧‧傳輸單元
140‧‧‧供電單元
150、823‧‧‧儲存單元
C‧‧‧質心
D、Da~De‧‧‧取像方向
N‧‧‧法線方向
Ty‧‧‧指定範圍
S305~S320‧‧‧顯示畫面的控制方法各步驟
S605~S635‧‧‧另一顯示畫面的控制方法各步驟
圖1是依照本發明一實施例的顯示畫面的控制系統的方塊圖。
圖2是依照本發明一實施例的關於輸入裝置的配置示意圖。
圖3是依照本發明一實施例的顯示畫面的控制方法的流程圖。
圖4是依照本發明一實施例的顯示畫面的控制方法的立體示意圖。
圖5A及圖5B是依照本發明一實施例的用以說明建立虛擬操作平面的示意圖。
圖6是依照本發明另一實施例的顯示畫面的控制方法的流程圖。
圖7是依照本發明另一實施例的顯示畫面的控制方法的立體示意圖。
圖8是依照本發明另一實施例的顯示畫面的控制系統的方塊圖。
因此,本發明提出一種顯示畫面的控制系統、輸入裝置及控制方法,其利用取像單元擷取影像,並利用處理單元對所擷取的影像進行影像分析程序,藉由分析結果來控制顯示畫面的內容。
圖1是依照本發明一實施例的顯示畫面的控制系統的方塊圖。請參照圖1,控制系統100包括輸入裝置11、計算裝置12以及顯示裝置13。在此,計算裝置12可利用有線或無線的方式與輸入裝置11及顯示裝置13進行資料傳輸與溝通。而在本實施例中,計算裝置12可透過輸入裝置11來控制顯示裝置13的顯示畫面。關於各構件的說明如下所述。
計算裝置12例如為桌上型電腦、膝上型電腦、平板電腦等具有運算能力的主機,其利用有線或無線方式耦接至顯示裝置13,藉以將欲顯示的內容透過顯示裝置13進行顯示,並且計算裝置12具有控制顯示內容的能力。
顯示裝置13可為任一類型的顯示器,例如為平面顯示器、投影顯示器或軟性顯示器(soft display)等。倘若顯示裝置
13為液晶顯示器(Liquid Crystal Display,LCD)或發光二極管(Light Emitting Diode,LED)等平面顯示器或軟性顯示器,則顯示畫面為顯示器上的顯示區(display area)。若顯示裝置13為投影顯示器,則顯示畫面例如為投影畫面。
輸入裝置11包括取像單元110、處理單元120、傳輸單元130、供電單元140以及儲存單元150。在本實施例中,輸入裝置11未設置於計算裝置12內,而為獨立運算的裝置,其透過供電單元140來供電以驅動取像單元110持續擷取影像,並使得處理單元120能夠針對所擷取的影像來進行影像分析程序。上述處理單元120耦接至取像單元110、傳輸單元130、供電單元140以及儲存單元150。
取像單元110例如為深度攝影機(depth camera)或立體攝影機,或任何具有電荷耦合元件(Charge coupled device,CCD)鏡頭、互補式金氧半電晶體(Complementary metal oxide semiconductor transistors,CMOS)鏡頭、或紅外線鏡頭的攝影機、照相機。取像單元110用以往顯示裝置13的顯示畫面所面向的第一側持續擷取影像。例如,取像單元110是以朝向顯示畫面的前方來進行設置。而關於取像單元110所朝向的方向(取像方向),隨著取像單元110配置的位置不同,取像方向可與顯示畫面24的法線方向平行,或者取像方向與顯示畫面24的法線方向垂直,亦或者取像方向與顯示畫面24的法線方向之間的角度介於角度範圍(例如45度至135度)內。底下舉一例來說明輸入裝置11的配
置。
圖2是依照本發明一實施例的關於輸入裝置的配置示意圖。請同時參照圖1及圖2,在本實施例中,以輸入裝置11設置於位置21來進行說明。另外,輸入裝置11亦可設置於其他位置,例如位置21a~21e等其中一處,只要將取像單元110以朝向顯示畫面24前方的方式來進行設置即可。而圖2中以虛線所繪示的輸入裝置11是用以說明輸入裝置11亦可設置於不同位置,而並非同時在位置21、21a~21e中設置輸入裝置11。
以設置於位置21的輸入裝置11而言,其取像單元110朝向顯示裝置13的顯示畫面24所面向的第一側來擷取影像。取像單元110的鏡頭的取像方向D是朝向顯示畫面24的前方來擷取影像。在本實施例中,取像方向D與顯示畫面24的法線方向N之間的角度介於角度範圍(例如45度至135度)內。
另外,以位置21c的輸入裝置11而言,其取像方向Dc是與顯示畫面24的法線方向N垂直。而以位置21d的輸入裝置11而言,其取像方向Dd與顯示畫面24的法線方向N平行。而位置21a、位置21b、位置21e的輸入裝置11各自的取像方向Da、取像方向Db、取像方向De與顯示畫面24的法線方向N之間的角度介於45度至135度的角度範圍內。然可以知道的是,上述位置21與位置21a~21e即上述各取像方向僅為舉例說明,並不以此為限。只要取像單元110可朝向顯示畫面24所面向的第一側(顯示畫面24的前方)來擷取影像即可。
處理單元120例如是中央處理單元(Central Processing Unit,CPU),或是其他可程式化之一般用途或特殊用途的微處理器(Microprocessor)、數位訊號處理器(Digital Signal Processor,DSP)、可程式化控制器、特殊應用積體電路(Application Specific Integrated Circuits,ASIC)、可程式化邏輯裝置(Programmable Logic Device,PLD)或其他類似裝置或這些裝置的組合。處理單元120藉由分析取像單元110所擷取的影像來偵測是否有物件進入初始感測空間20,並且,在偵測到物件進入初始感測空間20時,依據物件的位置,建立虛擬操作平面,以偵測物件在虛擬操作平面上的移動資訊。
上述初始感測空間20位於顯示畫面24所面向的第一側,且初始感測空間20位於取像單元110的取像範圍內。在初次使用輸入裝置11時,在設定好輸入裝置11的所在位置以及取像單元110所面向的方向(即,取像方向)之後,處理單元120可先依據取像單元110的校正資訊,而在顯示畫面24的前方建立此初始感測空間20。並且,對初始感測空間20執行去背動作。以圖2來說,初始感測空間20以桌面23為基準,並且在與桌面23距離約高度D處而建立。而在其他實施例中,亦可不需桌面23作為基準,而可直接依據取像單元110的校正資訊來定義初始感測空間。
上述校正資訊例如可事先儲存於輸入裝置11中的儲存單元150,或者由使用者進行手動設定。例如,使用者可透過點擊欲
作為操作區域的多個點(大於或等於4個點)的方式,而令處理單元120獲取包含多個選取點的影像,並且以這些影像作為校正資訊來定義出適合的初始感測空間20。
儲存單元150例如是任意型式的固定式或可移動式隨機存取記憶體(Random Access Memory,RAM)、唯讀記憶體(Read-Only Memory,ROM)、快閃記憶體(Flash memory)、硬碟或其他類似裝置或這些裝置的組合,而用以記錄可由處理單元120執行的多個模組,進而來實現控制顯示畫面的功能。
傳輸單元130例如為有線傳輸介面或無線傳輸介面。舉例來說,有線傳輸介面例如是能使輸入裝置11經由非對稱數位用戶線路(Asymmetric Digital Subscriber Line,ADSL)連接網路的介面。而無線傳輸介面例如是能使輸入裝置11連接第三代行動通訊(Third Generation Telecommunication,3G)網路、無線相容認證(Wireless Fidelity,Wi-Fi)網路、全球互通微波存取(Worldwide Interoperability for Microwave Access,WiMAX)網路,以及通用封包無線服務(General Packet Radio Service,GPRS)網路其中之一或其組合者的介面。另外,傳輸單元130亦可以為藍芽模組、紅外線模組等。而計算裝置130中亦具有相對應的傳輸單元,據此輸入裝置11可透過傳輸單元130與計算裝置130相互傳遞資料。
以下即舉實施例說明利用輸入裝置11來控制顯示畫面的詳細步驟。圖3是依照本發明一實施例的顯示畫面的控制方法的流程圖。請同時參照圖1~圖3,在步驟S305中,透過取像單元110
往顯示畫面24所面向的一側(第一側)持續擷取影像。接著,藉由處理單元120對取像單元110所擷取的影像執行影像分析程序。在此,影像分析程序包括步驟S310~S320。
在步驟S310中,處理單元120偵測是否有物件進入初始感測空間20。取像單元110持續地擷取影像,並將影像傳送至處理單元120進行判斷是否有物件進入。處理單元120在偵測到物件進入初始感測空間20時,執行步驟S315,依據物件的位置,建立虛擬操作平面。在此,虛擬操作平面的尺寸與顯示裝置13的顯示畫面的尺寸成比例,並且虛擬操作平面與顯示畫面20大致相互平行。
舉例來說,圖4是依照本發明一實施例的顯示畫面的控制方法的立體示意圖。圖4例如為圖2的立體示意圖,在桌面23的上方具有一初始感測空間20。處理單元120在偵測到物件41進入初始感測空間20內之後,依據物件41的位置,並且以與顯示畫面24的尺寸成比例的方式,來建立與顯示畫面24大致成平行的虛擬操作平面40。
而在建立虛擬操作平面40之後,在步驟S320中,處理單元120偵測物件41在虛擬操作平面40的移動資訊,藉以透過移動資訊來控制顯示畫面24的內容。例如,輸入裝置11透過傳輸單元130傳送移動資訊至計算裝置12,而透過計算裝置12將虛擬操作平面40的移動資訊轉換為顯示畫面24對應的移動資訊。或者,亦可由輸入裝置11的處理單元120將虛擬操作平面40的
移動資訊轉換為顯示畫面24對應的移動資訊後,再透過傳輸單元130將轉換後的移動資訊傳送至計算裝置12。
另外,在建立虛擬操作平面40之後,計算裝置12還可進一步將顯示畫面24的游標42移至顯示畫面24的中央,如圖4所示。例如,處理單元120在建立虛擬操作平面40之後,可透過傳輸單元130來通知計算裝置12,使得計算裝置12移動游標42至顯示畫面24的中央。而在建立虛擬操作平面40之後,使用者還可透過物件41(如手掌)在虛擬操作平面40上執行各種手勢操作。
關於虛擬操作平面40的建立底下再舉例來進一步說明。圖5A及圖5B是依照本發明一實施例的用以說明建立虛擬操作平面的示意圖。
參照圖5A,在處理單元120判斷有物件41進入初始感測空間20時,進一步基於進入初始感測空間20的物件41來獲得特徵區塊51(圖5A中以斜線繪製的區塊)。例如,處理單元120以區塊偵測(blob detect)演算法來找出特徵區塊51。
在獲得特徵區塊51之後,為了避免誤判斷的情形產生,處理單元120會判斷特徵區塊51的面積是否大於預設面積。在判定特徵區塊51的面積大於預設面積的情況下,處理單元120會認定使用者要對顯示畫面24進行操控,因而判定物件41取得顯示畫面24的控制權。若特徵區塊51的面積小於預設面積,則認定使用者並未要對顯示畫面24進行操控,而忽略物件41,藉以避免
誤動作。
在特徵區塊51的面積大於預設面積時,如圖5B所示,以特徵區塊51的邊界位置52(例如為特徵區塊51最上方的一點)作為基準,並以指定範圍Ty來決定物件41的質心計算區塊53(圖5B中以斜線繪製的區塊)。質心計算區塊53屬於物件41的其中一部分。在本實施例中,以邊界位置52為基準,往下方(物件41的根部)取一指定範圍Ty,藉此決定質心計算區塊53。之後,處理單元120計算質心計算區塊53的質心C。然後,處理單元120以質心C為中心點,以與顯示畫面24的尺寸成比例的方式,建立虛擬操作平面40。也就是說,質心C為虛擬操作平面40的中心點。在此,虛擬操作平面40的尺寸與顯示畫面24的尺寸例如為1:5的比例。
而在處理單元120計算出物件41的質心C之後,持續分析取像單元110所擷取的影像來獲得質心C的移動資訊,並透過傳輸單元130將移動資訊傳送至計算裝置12,而由計算裝置12將質心C在虛擬操作平面40的虛擬座標轉換為顯示畫面24中對應的顯示座標。另外,亦可由輸入裝置11來進行座標的轉換。即,處理單元120在獲得質心C後,便將質心C在虛擬操作平面40的虛擬座標轉換為顯示畫面24中對應的顯示座標。
而當處理單元120偵測到物件41離開虛擬操作平面40超過一預設時間(例如為2秒)時,便會解除物件41的控制權,並移除虛擬操作平面40的設定。
在上述實施例中,虛擬操作平面40並非完全位於初始感測空間20。而在其他實施例中,根據使用者的操作,虛擬操作平面40亦可完全位於初始感測空間20內。在此並不限定虛擬操作平面40的位置。
另外,倘若在同一時間偵測到多個物件進入初始感測空間20時,可依照與顯示畫面24之間的距離來決定由哪一個物件取得控制權。底下再舉另一實施例來詳細說明。
圖6是依照本發明另一實施例的顯示畫面的控制方法的流程圖。圖7是依照本發明另一實施例的顯示畫面的控制方法的立體示意圖。底下實施例搭配圖1及圖2來進行說明。
在步驟S605,透過取像單元110往顯示畫面24所面向的一側(第一側)持續擷取影像。而處理單元120對取像單元110所擷取的影像執行影像分析程序。在此,影像分析程序包括步驟S610~S630。
接著,在步驟S610中,處理單元120依據取像單元110的校正資訊,定義初始感測空間20。並且,對初始感測空間20執行去背動作。在定義了初始感測空間20之後,取像單元110持續地擷取影像,並將影像傳送至處理單元120,使得處理單元120偵測是否有物件進入初始感測空間,如步驟S615所示。
在此,以圖7而言,假設處理單元120偵測到物件72與物件73進入初始感測空間20,並且假設物件72與物件73的特徵區塊的面積亦大於預設面積。藉此,處理單元120進一步計算物
件72與物件73分別與顯示畫面24之間的距離,藉以判定以距離顯示畫面24最近的一者(即物件72)取得顯示畫面24的控制權。
之後,在步驟S625中,處理單元120依據取得控制權的物件72的位置,建立虛擬操作平面70。在此,虛擬操作平面70的建立說明可參照圖5A及圖5B,在此不再贅述。另外,在建立虛擬操作平面70之後,輸入裝置11會去通知計算裝置12,使得計算裝置12將顯示畫面24的游標42移至其中央。
之後,在步驟S630中,處理單元120偵測物件72在虛擬操作平面70的移動資訊。例如,處理單元120會持續偵測物件72的質心的移動資訊,而由質心的座標位置來對游標42進行相對應的控制。
最後,在步驟S635中,透過傳輸單元130傳送移動資訊至計算裝置12,而由計算裝置12來控制顯示畫面24的內容。而依據由計算裝置12或由輸入裝置11來進行座標的轉換,上述傳送移動資訊可以是虛擬操作平面70的座標資訊,亦可以是轉換後的顯示畫面24的座標資訊。另外,當處理單元120偵測到物件72離開虛擬操作平面70超過一預設時間(例如為2秒)時,便會解除物件72的控制權,並移除虛擬操作平面70的設定。
而在其他實施例中,亦可不額外設置獨立的輸入裝置11,而直接利用計算裝置12來析取像單元110的影像。底下再舉一實施例來說明。
圖8是依照本發明另一實施例的顯示畫面的控制系統的
方塊圖。請參照圖8,控制系統800包括取像單元810、計算裝置820以及顯示裝置830。本實施例是透過計算裝置820來分析取像單元810所擷取的影像,再依據分析結果來控制顯示裝置830所顯示的內容。
在圖8中,取像單元810的功能與上述取像單元110相似。顯示裝置830可為任一類型的顯示器。計算裝置820例如為桌上型電腦、膝上型電腦、平板電腦等,其包括處理單元821與儲存單元823,其利用有線或無線方式來耦接至顯示裝置830,藉以將欲顯示的內容透過顯示裝置830進行顯示,並且計算裝置820具有控制顯示內容的能力。而在本實施例中,將可由處理單元120執行的多個模組(其用以實現控制顯示畫面的功能)記錄於計算裝置820的儲存單元823。而取像單元810負責朝向顯示畫面24所面向的第一側持續擷取影像,並利用有線或無線的方式將所擷取的影像傳送至計算裝置820,而由計算裝置820的處理單元821來對影像執行影像分析程序,藉以控制顯示裝置830的顯示畫面的內容。據此,在本實施例中便可不用額外設置獨立的輸入裝置11。關於處理單元821所執行的影像分析程序的說明可參照上述步驟S310~S320或步驟S610~S630,在此省略不提。
綜上所述,在上述實施例中,先於初始感測空間來決定是否有物件取得顯示畫面控制權,之後再依據物件的位置來建立虛擬操作平面,以依據物件在虛擬操作平面上的移動資訊來控制顯示畫面的內容。據此,藉由初始感測空間可避免產生誤動作的
情形。並且,以與顯示畫面的尺寸成比例的方式來建立與顯示畫面大致平行的虛擬操作平面,進而可提供直覺性的操作方式。另外,倘若有多個物件同時進入初始感測空間,還可在這些物件中判斷取得控制權的優先權之後,再依據取得控制權的物件的位置來建立虛擬操作平面。據此,透過上述實施方式,可在不限定使用者數量、物件種類的情形下,於立體空間中來控制顯示畫面的內容。
雖然本發明已以實施例揭露如上,然其並非用以限定本發明,任何所屬技術領域中具有通常知識者,在不脫離本發明的精神和範圍內,當可作些許的更動與潤飾,故本發明的保護範圍當視後附的申請專利範圍所界定者為準。
S305~S320‧‧‧顯示畫面的控制方法各步驟
Claims (18)
- 一種顯示畫面的控制方法,包括:透過一取像單元往一顯示裝置的一顯示畫面所面向的第一側持續擷取一影像;以及藉由一處理單元對該取像單元所擷取的該影像執行一影像分析程序,其中該影像分析程序包括:偵測是否有一物件進入一初始感測空間,其中該初始感測空間位於該第一側,且該初始感測空間位於該取像單元的取像範圍內;當偵測到該物件進入該初始感測空間時,依據該物件的位置,建立一虛擬操作平面,其中該虛擬操作平面的尺寸與該顯示畫面的尺寸成一比例;以及偵測該物件在該虛擬操作平面的一移動資訊,藉以透過該移動資訊來控制該顯示畫面的內容。
- 如申請專利範圍第1項所述的方法,其中當偵測到該物件進入該初始感測空間時,在建立該虛擬操作平面的步驟之前,更包括:判定是否由該物件取得該顯示畫面的一控制權,包括:基於進入該初始感測空間的該物件獲得一特徵區塊;判斷該特徵區塊的面積是否大於一預設面積;以及若該特徵區塊的面積大於該預設面積,判定該物件取得該顯示畫面的該控制權。
- 如申請專利範圍第2項所述的方法,其中依據該物件的位置,建立該虛擬操作平面的步驟包括:以該特徵區塊的一邊界位置作為基準,並以一指定範圍來決定該物件的一質心計算區塊;計算該質心計算區塊的質心;以及以該質心為一中心點,以與該顯示畫面的尺寸成該比例的方式,建立該虛擬操作平面。
- 如申請專利範圍第3項所述的方法,其中在偵測該物件在該虛擬操作平面的該移動資訊的步驟之後,更包括:傳送該移動資訊至該顯示裝置的一計算裝置,而透過該計算裝置將該質心在該虛擬操作平面的一虛擬座標轉換為該顯示畫面中對應的一顯示座標。
- 如申請專利範圍第3項所述的方法,其中在偵測該物件在該虛擬操作平面的該移動資訊的步驟之後,更包括:將該質心在該虛擬操作平面的一虛擬座標轉換為該顯示畫面中對應的一顯示座標。
- 如申請專利範圍第2項所述的方法,其中判定是否由該物件取得該顯示畫面的該控制權的步驟更包括:當同時偵測到另一物件進入該初始感測空間,且該另一物件的該特徵區塊的面積亦大於該預設面積時,計算該物件及該另一物件分別與該顯示畫面之間的距離,藉以判定以距離該顯示畫面最近的一者取得該顯示畫面的該控制權。
- 如申請專利範圍第1項所述的方法,其中在建立該虛擬操作平面的步驟之後,更包括:將該顯示畫面的一游標移至該顯示畫面的中央。
- 如申請專利範圍第1項所述的方法,其中在建立該虛擬操作平面的步驟之後,更包括:當偵測到該物件離開該虛擬操作平面超過一預設時間時,解除該物件的控制權,以移除該虛擬操作平面的設定。
- 如申請專利範圍第1項所述的方法,更包括;依據該取像單元的一校正資訊,定義該初始感測空間;以及對該初始感測空間執行一去背動作。
- 一種輸入裝置,包括:一取像單元,往一顯示裝置的一顯示畫面所面向的第一側持續擷取一影像;一處理單元,耦接至該取像單元,藉由分析該取像單元所擷取的該影像,偵測是否有一物件進入一初始感測空間,並且,在偵測到該物件進入該初始感測空間時,依據該物件的位置,建立一虛擬操作平面,以偵測該物件在該虛擬操作平面上的移動資訊,其中該初始感測空間位於該第一側,且該初始感測空間位於該取像單元的取像範圍內,而該虛擬操作平面的尺寸與該顯示畫面的尺寸成一比例,且該虛擬操作平面與該顯示畫面相互平行;以及一傳輸單元,耦接至該處理單元,傳送該移動資訊至該顯示 裝置對應的一計算裝置,藉以控制該顯示畫面的內容。
- 如申請專利範圍第10項所述的輸入裝置,其中該處理單元基於進入該初始感測空間的該物件獲得一特徵區塊,並在該特徵區塊的面積大於該預設面積時,判定該物件取得該顯示畫面的一控制權。
- 如申請專利範圍第11項所述的輸入裝置,其中該處理單元以該特徵區塊的一邊界位置作為基準,並以一指定範圍來決定該物件的一質心計算區塊,並且計算該質心計算區塊的質心,進而以該質心為一中心點,以與該顯示畫面的尺寸成該比例的方式,建立該虛擬操作平面。
- 如申請專利範圍第12項所述的輸入裝置,其中該處理單元將該質心在該虛擬操作平面的一虛擬座標轉換為該顯示畫面中對應的一顯示座標,而該傳輸單元傳送該顯示座標至該計算裝置。
- 如申請專利範圍第12項所述的輸入裝置,其中該傳輸單元傳送該質心在該虛擬操作平面的一虛擬座標至該計算裝置。
- 如申請專利範圍第11項所述的輸入裝置,其中當該處理單元在偵測到該物件進入該初始感測空間的同時,亦偵測到另一物件進入該初始感測空間,且該物件與該另一物件各自的該特徵區塊的面積大於該預設面積時,計算該物件及該另一物件分別與該顯示畫面之間的距離,藉以判定以距離該顯示畫面最近的一者取得該顯示畫面的該控制權。
- 如申請專利範圍第10項所述的輸入裝置,其中當該處理 單元偵測到該物件離開該虛擬操作平面超過一預設時間時,解除該物件的控制權,並移除該虛擬操作平面的設定。
- 一種顯示畫面的控制系統,包括:一顯示裝置,顯示一顯示畫面;一計算裝置,耦接至該顯示裝置,控制該顯示畫面的內容;以及一輸入裝置,耦接至該計算裝置,包括:一取像單元,往該顯示裝置的該顯示畫面所面向的第一側持續擷取一影像;一處理單元,耦接至該取像單元,藉由分析該取像單元所擷取的該影像,偵測是否有一物件進入一初始感測空間,並且,在偵測到該物件進入該初始感測空間時,依據該物件的位置,建立一虛擬操作平面,以偵測該物件在該虛擬操作平面上的移動資訊,其中該初始感測空間位於該第一側,且該初始感測空間位於該取像單元的取像範圍內,而該虛擬操作平面的尺寸與該顯示畫面的尺寸成一比例,且該虛擬操作平面與該顯示畫面相互平行;以及一傳輸單元,耦接至該處理單元,傳送該移動資訊至該計算裝置,使得該計算裝置依據該移動資訊來控制該顯示畫面的內容。
- 一種顯示畫面的控制系統,包括:一顯示裝置,顯示一顯示畫面; 一取像單元,往該顯示畫面所面向的第一側持續擷取一影像;以及一計算裝置,耦接至該取像單元與該顯示裝置,藉由分析該取像單元所擷取的該影像,偵測是否有一物件進入一初始感測空間,並且,在偵測到該物件進入該初始感測空間時,依據該物件的位置,建立一虛擬操作平面,以偵測該物件在該虛擬操作平面上的移動資訊,藉以透過該移動資訊來控制該顯示畫面的內容;其中,該初始感測空間位於該第一側,且該初始感測空間位於該取像單元的取像範圍內,而該虛擬操作平面的尺寸與該顯示畫面的尺寸成一比例,且該虛擬操作平面與該顯示畫面相互平行。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW102129870A TWI505135B (zh) | 2013-08-20 | 2013-08-20 | 顯示畫面的控制系統、輸入裝置及控制方法 |
CN201310488183.1A CN104423568A (zh) | 2013-08-20 | 2013-10-17 | 显示画面的控制系统、输入装置及控制方法 |
US14/154,190 US20150058811A1 (en) | 2013-08-20 | 2014-01-14 | Control system for display screen, input apparatus and control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW102129870A TWI505135B (zh) | 2013-08-20 | 2013-08-20 | 顯示畫面的控制系統、輸入裝置及控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201508546A TW201508546A (zh) | 2015-03-01 |
TWI505135B true TWI505135B (zh) | 2015-10-21 |
Family
ID=52481577
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW102129870A TWI505135B (zh) | 2013-08-20 | 2013-08-20 | 顯示畫面的控制系統、輸入裝置及控制方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20150058811A1 (zh) |
CN (1) | CN104423568A (zh) |
TW (1) | TWI505135B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9454235B2 (en) * | 2014-12-26 | 2016-09-27 | Seungman KIM | Electronic apparatus having a sensing unit to input a user command and a method thereof |
EP3364270A4 (en) * | 2015-10-15 | 2018-10-31 | Sony Corporation | Information processing device and information processing method |
JP6791994B2 (ja) * | 2017-02-02 | 2020-11-25 | マクセル株式会社 | 表示装置 |
CN113961106A (zh) * | 2020-07-06 | 2022-01-21 | 纬创资通(重庆)有限公司 | 预测控制方法、输入系统及计算机可读取记录媒体 |
CN114063821A (zh) * | 2021-11-15 | 2022-02-18 | 深圳市海蓝珊科技有限公司 | 一种非接触式屏幕交互方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6788809B1 (en) * | 2000-06-30 | 2004-09-07 | Intel Corporation | System and method for gesture recognition in three dimensions using stereo imaging and color vision |
TW201104494A (en) * | 2009-07-20 | 2011-02-01 | J Touch Corp | Stereoscopic image interactive system |
US20110102570A1 (en) * | 2008-04-14 | 2011-05-05 | Saar Wilf | Vision based pointing device emulation |
TW201301877A (zh) * | 2011-06-17 | 2013-01-01 | Primax Electronics Ltd | 以影像感測器為基礎之具有多輸入模式之多維度遙控器 |
Family Cites Families (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5594469A (en) * | 1995-02-21 | 1997-01-14 | Mitsubishi Electric Information Technology Center America Inc. | Hand gesture machine control system |
TW554293B (en) * | 2002-03-29 | 2003-09-21 | Ind Tech Res Inst | Method for extracting and matching hand gesture features of image |
US8745541B2 (en) * | 2003-03-25 | 2014-06-03 | Microsoft Corporation | Architecture for controlling a computer using hand gestures |
US7665041B2 (en) * | 2003-03-25 | 2010-02-16 | Microsoft Corporation | Architecture for controlling a computer using hand gestures |
US8560972B2 (en) * | 2004-08-10 | 2013-10-15 | Microsoft Corporation | Surface UI for gesture-based interaction |
US20060095867A1 (en) * | 2004-11-04 | 2006-05-04 | International Business Machines Corporation | Cursor locator on a display device |
US8086971B2 (en) * | 2006-06-28 | 2011-12-27 | Nokia Corporation | Apparatus, methods and computer program products providing finger-based and hand-based gesture commands for portable electronic device applications |
KR100776801B1 (ko) * | 2006-07-19 | 2007-11-19 | 한국전자통신연구원 | 화상 처리 시스템에서의 제스처 인식 장치 및 방법 |
KR100783552B1 (ko) * | 2006-10-11 | 2007-12-07 | 삼성전자주식회사 | 휴대 단말기의 입력 제어 방법 및 장치 |
JP2010515170A (ja) * | 2006-12-29 | 2010-05-06 | ジェスチャー テック,インコーポレイテッド | 機能強化したインタラクティブシステムを用いた仮想オブジェクトの操作 |
WO2008102767A1 (ja) * | 2007-02-23 | 2008-08-28 | Sony Corporation | 撮像装置、表示撮像装置および撮像処理装置 |
EP2153377A4 (en) * | 2007-05-04 | 2017-05-31 | Qualcomm Incorporated | Camera-based user input for compact devices |
WO2009018314A2 (en) * | 2007-07-30 | 2009-02-05 | Perceptive Pixel, Inc. | Graphical user interface for large-scale, multi-user, multi-touch systems |
US9952673B2 (en) * | 2009-04-02 | 2018-04-24 | Oblong Industries, Inc. | Operating environment comprising multiple client devices, multiple displays, multiple users, and gestural control |
US9218116B2 (en) * | 2008-07-25 | 2015-12-22 | Hrvoje Benko | Touch interaction with a curved display |
CN102165396B (zh) * | 2008-07-25 | 2014-10-29 | 高通股份有限公司 | 挥动约定姿态的增强检测 |
US8624836B1 (en) * | 2008-10-24 | 2014-01-07 | Google Inc. | Gesture-based small device input |
US9317128B2 (en) * | 2009-04-02 | 2016-04-19 | Oblong Industries, Inc. | Remote devices used in a markerless installation of a spatial operating environment incorporating gestural control |
US20100306716A1 (en) * | 2009-05-29 | 2010-12-02 | Microsoft Corporation | Extending standard gestures |
EP3470963B1 (en) * | 2009-07-07 | 2021-03-10 | Elliptic Laboratories AS | Control using movements |
US8907894B2 (en) * | 2009-10-20 | 2014-12-09 | Northridge Associates Llc | Touchless pointing device |
US9244533B2 (en) * | 2009-12-17 | 2016-01-26 | Microsoft Technology Licensing, Llc | Camera navigation for presentations |
US8320621B2 (en) * | 2009-12-21 | 2012-11-27 | Microsoft Corporation | Depth projector system with integrated VCSEL array |
US9477324B2 (en) * | 2010-03-29 | 2016-10-25 | Hewlett-Packard Development Company, L.P. | Gesture processing |
US8488888B2 (en) * | 2010-12-28 | 2013-07-16 | Microsoft Corporation | Classification of posture states |
US20120200486A1 (en) * | 2011-02-09 | 2012-08-09 | Texas Instruments Incorporated | Infrared gesture recognition device and method |
US9182838B2 (en) * | 2011-04-19 | 2015-11-10 | Microsoft Technology Licensing, Llc | Depth camera-based relative gesture detection |
US8937588B2 (en) * | 2011-06-15 | 2015-01-20 | Smart Technologies Ulc | Interactive input system and method of operating the same |
TWI436241B (zh) * | 2011-07-01 | 2014-05-01 | J Mex Inc | 遙控裝置及將其用於校正螢幕的控制系統及方法 |
KR101962445B1 (ko) * | 2011-08-30 | 2019-03-26 | 삼성전자 주식회사 | 터치 스크린을 갖는 휴대 단말기 및 그의 사용자 인터페이스 제공 방법 |
WO2013036621A1 (en) * | 2011-09-09 | 2013-03-14 | Thales Avionics, Inc. | Controlling vehicle entertainment systems responsive to sensed passenger gestures |
US8693731B2 (en) * | 2012-01-17 | 2014-04-08 | Leap Motion, Inc. | Enhanced contrast for object detection and characterization by optical imaging |
US8854433B1 (en) * | 2012-02-03 | 2014-10-07 | Aquifi, Inc. | Method and system enabling natural user interface gestures with an electronic system |
EP2639690B1 (en) * | 2012-03-16 | 2017-05-24 | Sony Corporation | Display apparatus for displaying a moving object traversing a virtual display region |
JP6095283B2 (ja) * | 2012-06-07 | 2017-03-15 | キヤノン株式会社 | 情報処理装置、およびその制御方法 |
US9389420B2 (en) * | 2012-06-14 | 2016-07-12 | Qualcomm Incorporated | User interface interaction for transparent head-mounted displays |
US9785228B2 (en) * | 2013-02-11 | 2017-10-10 | Microsoft Technology Licensing, Llc | Detecting natural user-input engagement |
US9829984B2 (en) * | 2013-05-23 | 2017-11-28 | Fastvdo Llc | Motion-assisted visual language for human computer interfaces |
US9846486B2 (en) * | 2013-06-27 | 2017-12-19 | Eyesight Mobile Technologies Ltd. | Systems and methods of direct pointing detection for interaction with a digital device |
US9377866B1 (en) * | 2013-08-14 | 2016-06-28 | Amazon Technologies, Inc. | Depth-based position mapping |
-
2013
- 2013-08-20 TW TW102129870A patent/TWI505135B/zh not_active IP Right Cessation
- 2013-10-17 CN CN201310488183.1A patent/CN104423568A/zh active Pending
-
2014
- 2014-01-14 US US14/154,190 patent/US20150058811A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6788809B1 (en) * | 2000-06-30 | 2004-09-07 | Intel Corporation | System and method for gesture recognition in three dimensions using stereo imaging and color vision |
US20110102570A1 (en) * | 2008-04-14 | 2011-05-05 | Saar Wilf | Vision based pointing device emulation |
TW201104494A (en) * | 2009-07-20 | 2011-02-01 | J Touch Corp | Stereoscopic image interactive system |
TW201301877A (zh) * | 2011-06-17 | 2013-01-01 | Primax Electronics Ltd | 以影像感測器為基礎之具有多輸入模式之多維度遙控器 |
Also Published As
Publication number | Publication date |
---|---|
CN104423568A (zh) | 2015-03-18 |
TW201508546A (zh) | 2015-03-01 |
US20150058811A1 (en) | 2015-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI464640B (zh) | 手勢感測裝置及具有手勢輸入功能的電子系統 | |
TWI505135B (zh) | 顯示畫面的控制系統、輸入裝置及控制方法 | |
TWI540461B (zh) | 手勢輸入的方法及系統 | |
EP2928199A2 (en) | Television interface focus control method, apparatus and system | |
CN111857457A (zh) | 云手机的操控方法、装置、电子设备及可读存储介质 | |
TWI403922B (zh) | 徒手人機介面操作系統及其方法 | |
JP2009265709A (ja) | 入力装置 | |
WO2013149475A1 (zh) | 一种用户界面的控制方法及装置 | |
TW201617755A (zh) | 電子裝置及其重力感測校正方法 | |
TWI486815B (zh) | 顯示設備及其控制系統和方法 | |
WO2016131364A1 (en) | Multi-touch remote control method | |
TWI499938B (zh) | 觸控系統 | |
WO2015127731A1 (zh) | 软键盘布局调整方法及装置 | |
TWI536259B (zh) | 手勢辨識模組及手勢辨識方法 | |
US20190163342A1 (en) | Information processing system, information processing method, and program | |
JP6008904B2 (ja) | 表示制御装置、表示制御方法、及び、プログラム | |
KR20100081664A (ko) | 입력 장치 및 디스플레이 장치 | |
WO2014033722A1 (en) | Computer vision stereoscopic tracking of a hand | |
WO2017016269A1 (zh) | 手持式电子装置与电子相框的控制方法 | |
CN108255317B (zh) | 光标控制方法和装置 | |
JP2013109538A (ja) | 入力方法及び入力装置 | |
TW201528049A (zh) | 基於圖樣的校正方法及電子裝置 | |
US20130321243A1 (en) | Displaying Method of Integrating Multiple Electronic Devices in a Display Device and a Display Device Thereof | |
WO2019100547A1 (zh) | 投影控制方法、装置、投影交互系统及存储介质 | |
TW201621651A (zh) | 滑鼠模擬系統及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
MM4A | Annulment or lapse of patent due to non-payment of fees |