TWI514324B - 影像目標區域追蹤系統與方法及電腦程式產品 - Google Patents

影像目標區域追蹤系統與方法及電腦程式產品 Download PDF

Info

Publication number
TWI514324B
TWI514324B TW099141563A TW99141563A TWI514324B TW I514324 B TWI514324 B TW I514324B TW 099141563 A TW099141563 A TW 099141563A TW 99141563 A TW99141563 A TW 99141563A TW I514324 B TWI514324 B TW I514324B
Authority
TW
Taiwan
Prior art keywords
picture
image
target area
tracking
buffer
Prior art date
Application number
TW099141563A
Other languages
English (en)
Other versions
TW201222478A (en
Inventor
Ming Yu Shih
I Wei Wu
Sung Fei Yang
Chin Chung Nien
Original Assignee
Ind Tech Res Inst
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ind Tech Res Inst filed Critical Ind Tech Res Inst
Priority to TW099141563A priority Critical patent/TWI514324B/zh
Priority to CN201010597473.6A priority patent/CN102480615B/zh
Priority to US13/025,326 priority patent/US8854473B2/en
Publication of TW201222478A publication Critical patent/TW201222478A/zh
Application granted granted Critical
Publication of TWI514324B publication Critical patent/TWI514324B/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

影像目標區域追蹤系統與方法及電腦程式產品
本揭露係關於一種影像目標區域追蹤系統與方法及電腦程式產品。
當天災發生時,往往會伴隨著地面交通與通訊的中斷,此時救災指揮單位需要即時掌握災區資訊。第一圖是移動式大範圍救災資訊及時蒐集系統的一範例示意圖。如第一圖的範例所示,藉由使用無人飛行載具(Unmanned Aerial Vehicle,UAV)或其他行動裝置(後稱行動端110),即時拍攝與傳輸影像,搭配即時影像串流(video stream)模組與即時點選放大影像(zoom-in picture)快速回傳模組120,取得特定目標區域的放大影像,來讓後端(如地面導控站130)的救災指揮單位(如透過一中央管制系統140),可快速且即時地取得災區的影像資料,藉此精確掌握災區的現況150。即時影像串流模組與即時點選放大影像快速回傳模組是行動端110的裝置,例如即時影像串流模組可採用一廣角攝影機來取得災區地面廣域的即時影像;而即時點選放大影像快速回傳模組例如可採用一移動變焦式(Pan/Tilt/Zoom,PTZ)攝影機來取得特定目標區域的放大影像。
也就是說,移動式大範圍救災資訊及時蒐集系統主要包含行動端與地面導控站端。行動端是系統的核心,負責影像的拍攝與傳輸;地面導控站端是一操作介面,來讓地面操作人員可以根據目前拍攝的廣域即時影像來選取目標區域,並顯示目標區域之放大影像。而移動式大範圍救災資訊及時蒐集系統中,即時點選放大影像快速回傳模組主要用來取得目標區域的放大影像,藉此讓救災指揮單位可以掌握特定區域的現況。
由於行動端與後端導控站間的網路傳輸與影像編解碼延遲,導致後端導控站目前所看到的串流影像畫面會落後行動端現在拍攝的影像畫面。第二圖是一範例示意圖,說明行動端與地面導控站間的畫面不同步。如第二圖的範例所示,地面導控站的操作人員在時間點為i+n時所點選的目標區域230的位置(x,y)跟此目標區域在行動端現在(例如時間點為i+2n)所拍攝畫面240中的位置260會存在一定的位移量(offset)262。因此,如果要讓行動端正確地追蹤操作人員所點選的目標區域,則系統必須能精確地計算出位移量262的大小,並根據計算出的位移量262來判斷地面導控站所點選的目標區域在行動端現在拍攝畫面中的相對位置。
習知技術中,第三圖是一種及時物件追蹤系統的一個範例示意圖,此物件追蹤系統300將數張影像畫面(video)305輸入至緩衝區310後,從數個追蹤模組(tracking module)中選擇一個追蹤模組320來對舒緩衝區內的影像進行正向追蹤(track forward)330與反向追蹤(track backward)340。完成正向與反向追蹤後,可得到一追蹤錯誤值(tracking error)350,當追蹤錯誤值350小於閾值(threshold)360時,清空緩衝區(empty buffer)370來對後續的影像進行追蹤;反之,當錯誤值大於閾值360時,重新選擇另一個追蹤模組(selecting another tracking module)380來進行追蹤。
追蹤延遲影像畫面的另一習知技術如第四圖的範例。此技術是一種物件追蹤系統400,用來追蹤遠端所拍攝的物件。當操作者在控制站410上點選畫面中的物件後,控制端追蹤器412便透過存於控制站410之過往影像開始進行追蹤。控制端追蹤器412根據追蹤的結果產生控制移動指令(control movement instructions)來表示所要追蹤物件的行動方向,並把此指令傳回給感測端420。感測端420根據收到的指令驅動遠端追蹤器422來調整影像感測器424的位置來拍攝所要追蹤之物件。
時下飛行載具上物體追蹤技術往往需要借重不少昂貴的量測設備(如高精度GPS與姿態儀等)及複雜的計算,來推估行動端目前與目標區域間的相對高度、速度與方向等,以精確地計算出位移量的大小。增加這些量測設備也同時意謂行動端的成本、體積、重量及耗能也會隨之提昇。所以,物件追蹤的機制需要運算速度快並且有效率,包括如成本低、準確度高、及解決網路傳輸延遲所造成影像畫面不同步的問題等。
本揭露的實施例可提供一種影像目標區域追蹤系統與方法及電腦程式產品。
所揭露之一實施例是關於一種影像目標區域追蹤系統。此系統包含一目標區域追蹤與取像模組(object region tracking and picturing module)及一遠端操控模組(remote control module)。此目標區域追蹤與取像模組係建置在一行動端的一移動平台上,此遠端操控模組係建置在一另一平台上,此兩模組之間係透過一數位網路來傳遞所需的資訊。此目標區域追蹤與取像模組以一即時回溯式影像搜尋技術,將過往在此移動平台上所拍攝的至少一影像畫面儲存至一畫面緩衝區,及自此遠端操控模組所點選的一目標區域的位置開始進行追蹤,並找出此目標區域在此移動平台上最新拍攝之影像畫面中的一相對位置。
所揭露之另一實施例是關於一種影像目標區域追蹤方法。此方法包含:以一即時回溯式影像搜尋技術,將過往在一移動平台上所拍攝的至少一影像畫面儲存至一畫面緩衝區;藉由儲存在此畫面緩衝區中的至少一影像畫面,將自一遠端操控模組所點選的一目標區域的位置開始進行追蹤:以及找出此目標區域在此移動平台上最新拍攝之影像畫面中的一相對位置。
所揭露之又一實施例是關於一種影像目標區域追蹤的電腦程式產品。此電腦程式產品包含一記憶體以及儲存於此記憶體的一可執行的電腦程式。此電腦程式藉由一處理器來執行:以一即時回溯式影像搜尋技術,將過往在一移動平台上所拍攝的至少一影像畫面儲存至一畫面緩衝區;藉由儲存在此畫面緩衝區中的至少一影像畫面,將自一遠端操控模組所點選的一目標區域的位置開始進行追蹤:以及找出此目標區域在此移動平台上最新拍攝之影像畫面中的一相對位置。
茲配合下列圖示、實施例之詳細說明及申請專利範圍,將上述及本發明之其他目的與優點詳述於後。
本揭露實施範例提出一種影像目標區域追蹤技術,此實施範例結合畫面緩衝區(frame buffer)及畫面緩衝區控制(frame buffer control),以即時回溯式影像搜尋技術,將過往拍攝之影像畫面儲存至特定之緩衝區(buffer),並且藉由使用此緩衝區讓目標區域追蹤演算法可從被點選之目標區域的位置開始進行目標區域的追蹤,來避免因為網路傳輸延遲所造成行動端與地面導控站間的影像不同步問題。依此,本揭露實施範例之目標區域追蹤演算法則無須使用位移量來找出地面導控站之操作人員所點選的目標區域在行動端目前拍攝影像中的位置,藉此減少整套追蹤系統之建構成本。所點選之目標區域例如是移動物體(moving object)、或是固定背景(background)、或是同時含有移動物體及固定背景。移動物體例如是行駛中的汽機車、船等,固定背景例如是地貌、建築物等。
承上述,本揭露實施範例所採用的即時回溯影像搜尋技術主要用於行動端上的即時點選放大影像快速回傳模組中。而本揭露實施範例之影像目標區域追蹤系統的示意圖如第五圖的範例所示,與所揭露的某些實施範例一致。第五圖的範例中,影像目標區域追蹤系統500可包含一目標區域追蹤與取像模組510與一遠端操控模組520。
目標區域追蹤與取像模組510是建置在一行動端的一移動平台515上,例如無人飛行載具;遠端操控模組520則建置在另一平台599上,例如地面導控站。目標區域追蹤與取像模組510及遠端操控模組520之間係透過一數位網路555來傳遞所需的資訊。例如目標區域追蹤與取像模組510可備有一資料通訊元件(data communication device)514,遠端操控模組520也備有一資料通訊元件524。資料通訊元件514與資料通訊元件524之間透過數位網路550分別來傳遞目標區域追蹤與取像模組510及遠端操控模組520所需的資訊。另一平台599也可以在行動端上。
目標區域追蹤與取像模組510以一即時回溯式影像搜尋技術,藉由將過往在移動平台515所拍攝之至少一影像畫面儲存至一畫面緩衝區512,從遠端操控模組520所點選的一目標區域的位置開始進行追蹤,例如在一顯示元件(display device)526上點選目標區域522,並找出目標區域522在移動平台515最新所拍攝之影像畫面中的一相對位置。如此,目標區域追蹤與取像模組510就無須算出位移量,就可找出在遠端操控模組520所點選的目標區域522在移動平台515最新拍攝之影像畫面中的相對位置566,因此可減少建構整套影像目標區域追蹤系統500的成本。
目標區域追蹤與取像模組510採用的即時回溯式影像搜尋技術主要包含畫面緩衝區512及一畫面緩衝區控制器(frame buffer controller)。畫面緩衝區512用來暫時儲存在移動平台515所拍攝之目前拍攝的影像及過往至少一影像畫面,用來作為目標區域追蹤時使用。畫面緩衝區控制器是用來決定哪些影像畫面(image frame)該被存放在畫面緩衝區512中、哪些影像畫面該從畫面緩衝區512中移除。換句話說,畫面緩衝區控制器是用來控制畫面緩衝區的大小及決定該儲存哪些畫面。本揭露實施範例之影像目標區域追蹤系統500也可以包括此畫面緩衝區控制器來控制畫面緩衝區的大小及決定哪些畫面該儲放於畫面緩衝區512。緩衝區控制器可判斷畫面可取代性,來減少畫面緩衝區512的記憶體需求。
第六圖是一流程圖,說明畫面緩衝區控制器如何決定畫面緩衝區的運作,與所揭露的某些實施範例一致。如第六圖的範例所示,首先,畫面緩衝區控制器從一影像感測器(image sensor)擷取一新影像畫面(步驟610),然後,檢查此新影像畫面是否可存放在畫面緩衝區512中(步驟620)。當此新影像畫面不可存放在畫面緩衝區512時,則回至步驟610。當此新影像畫面可存放在畫面緩衝區512時,檢查畫面緩衝區512是滿的(full)嗎?(步驟630)。當畫面緩衝區512是滿的時,畫面緩衝區控制器將最早存入畫面緩衝區的畫面移除(步驟640)。當畫面緩衝區512未滿時,將此新影像畫面存放在畫面緩衝區512中(步驟650)。也就是說,當所儲存的畫面張數大於畫面緩衝區的空間時,畫面緩衝區控制器會將最早進入畫面緩衝區的畫面移除,畫面緩衝區可視為是一個先進先出(first-in-first-out,FIFO)的佇列(queue)。
第七圖是一流程圖,說明即時回溯式影像搜尋技術的運作,與所揭露的某些實施範例一致。如第七圖的範例所示,首先,擷取影像畫面i並存放至畫面緩衝區512中(步驟710),並且即時將影像畫面i傳送至遠端操控模組520(步驟720),例如可透過一影像串流(video streaming)模組來傳送影像串流。當遠端操控模組520點選影像畫面i中的一目標區域(步驟730)後,遠端操控模組520將畫面楨碼(frame index)i與目標區域在影像畫面i中的座標回傳給畫面緩衝區控制器(步驟740)。此時,畫面緩衝區控制器便會通知移動平台上的一追蹤元件從影像畫面i開始追蹤至在移動平台上目前最新拍攝的畫面(即影像畫面i +N)(步驟750)。因為採用畫面緩衝區的因素,所以此追蹤元件無須算出位移量,就可找出遠端操控模組520所點選的目標區域位置在在移動平台上最新拍攝影像畫面i+N中的相對位置。
承上述,第八圖是移動式大範圍救災資訊及時蒐集系統使用影像目標區域追蹤技術之應用場景的一個範例示意圖,與所揭露的某些實施範例一致。第八圖的範例中,當行動端開始運行後,行動端上的廣角取像模組拍攝地面影像(即廣域影像),並將此廣域影像利用無線網路送至地面導控站。地面導控站則會將壓縮的影像解碼後,顯示至螢幕畫面中。此時,地面導控站的操作人員根據回傳的串流影像來點選出目標區域後,地面導控站接著將目標區域在串流影像畫面中的座標(x,y)及畫面楨碼i回傳至行動端。
行動端上的目標區域追蹤與取像模組510中的一追蹤元件在收到目標區域的座標(x1,y1)及畫面楨碼i後,立即針對此目標區域從影像畫面i開始追蹤至行動端目前最新拍攝的影像畫面i+N,找出目標區域在行動端最新拍攝影像畫面i+N中的相對位置(x2,y2),並且同時驅動取像模組連續拍攝此目標區域之放大影像,並將拍攝之放大影像回傳至地面導控站。地面導控站將收集到的影像資訊透過網路即時回傳至中央管制系統,藉此讓後端的救災指揮單位即時且精準地掌握災區的現況。
除了第八圖的應用場景外,此影像目標區域追蹤技術還可應用在遠端目標區域追蹤、移動目標區域鎖定與追蹤以及雙動態目標區域鎖定與追蹤皆有其高度應用潛力等。
第九圖是目標區域追蹤與取像模組510及遠端操控模組520之內部結構的一範例示意圖,與所揭露的某些實施範例一致。承上述,第九圖的範例中,目標區域追蹤與取像模組510可包括畫面緩衝區512、一影像感測器914、一追蹤元件916、以及資料通訊元件514。遠端操控模組520可包括資料通訊元件524、顯示元件526、以及一指標控制元件928。以下搭配圖式來說明影像目標區域追蹤500及其模組的運作。
承上述,第十圖是一範例示意圖,說明影像目標區域追蹤方法的運作流程,與所揭露的某些實施範例一致。參考第十圖,以一即時回溯式影像搜尋技術,將過往在一移動平台上所拍攝的至少一影像畫面儲存至一畫面緩衝區,如步驟1010所示。步驟1010中,可透過目標區域追蹤與取像模組510來執行即時回溯式影像搜尋技術;而此至少一影像畫面可自影像感測器914中擷取出,並同時存放在畫面緩衝區512中。
再藉由儲存在畫面緩衝區512中的至少一影像畫面,將自一遠端操控模組所點選的一目標區域的位置開始進行追蹤,如步驟1020所示。步驟1020中,可透過遠端操控模組上的顯示元件526來點選此目標區域;而目標區域在一影像畫面的位置可透過指標控制元件928來取得,並透過資料通訊元件524,將此影像畫面的畫面楨碼及此位置傳送給目標區域追蹤與取像模組510的追蹤元件916,以開始進行追蹤此目標區域。然後,找出此目標區域在此移動平台上最新拍攝之影像畫面中的一相對位置,如步驟1030所示。追蹤元件916可傳送此追蹤結果來驅動取像模組連續拍攝此目標區域之放大影像,並透過資料通訊元件514,將所拍攝之放大影像回傳至遠端操控模組520。
為了不影響目標區域追蹤演算法的精確性與速度,存放於畫面緩衝區中畫面都未經過任何壓縮處理。因此,畫面緩衝區會需要不小的記憶體空間來存放過往所拍攝的畫面。例如,一張24-位元未壓縮的VGA(640×480)影像畫面所需的儲存空間為0.9216MB(921600位元組)。假設傳輸延遲為1秒時,則畫面緩衝區必須儲存60張以上的影像。換句話說,在這樣的情況下,畫面緩衝區最少需要約55MB的記憶體空間。並且,為了增加追蹤的準確度與串流影像的品質,影像畫面的解析度也會不斷地增加。如此,畫面緩衝區所需的記憶體空間也會隨之增加。
所以,本揭露實施例針對畫面緩衝區提出一套有效的管控機制,來降低畫面緩衝區所需的記憶體空間。此畫面緩衝區的管控機制是透過畫面可取代性的判斷,來減少畫面緩衝區的記憶體需求。此畫面可取代性的判斷可用於前述步驟1010中,或是前述畫面緩衝區控制器中,藉以過濾影像,來減少畫面緩衝器的記憶體需求。
本揭露實施例的畫面可取代性的判斷是要找出哪些畫面具有高度的重複性,例如高於一特定比例,然後從畫面緩衝區中移除這些具有高度重複性的畫面,來減少畫面緩衝區所需的記憶體空間。而每張畫面的可取代性是取決於某一畫面在其他畫面中殘留影像(residual image)大小是否高於一特定比例。殘留影像的定義是目前已存於畫面緩衝區的畫面,其特定區域的子畫面(sub-frame)與參考畫面(reference frame)中相似的部份就是殘留影像。舉例來說,若畫面A可被畫面B所取代,則在畫面A裡的影像資料有超過一定比例會出現在畫面B中,也就是畫面A在畫面B中的殘留影像值超過一個定值。倘若畫面A可被畫面B所取代,則只儲存畫面B,以節省畫面緩衝區所需的記憶體空間。
目前已存於畫面緩衝區的畫面可以是取像模組目前或先前所拍攝的畫面;而參考畫面可以是一組或單張畫面,用來做為畫面比對時用,可以是取像模組目前或先前所拍攝的畫面。而儲存在畫面緩衝區中的所有畫面皆可作為參考畫面。在目前畫面中特定區域的子畫面,定義為目前子畫面(current sub-frame);使用目前子畫面在參考畫面中找出相似的畫面區塊定義為參考子畫面(reference sub-frame),也就是殘留影像。
根據上述定義,第十一圖說明畫面可取代性的判斷,與所揭露的某些實施範例一致。首先,根據目前子畫面的位置與大小設定,將目前子畫面從目前畫面中取出(步驟1110)。接著,使用目前子畫面在參考畫面中進行搜尋與比對(步驟1120)。在參考畫面中,當找到與目前子畫面相似的畫面區塊時,將此畫面區塊標記為參考子畫面,並比對目前子畫面與參考子畫面間的差異性(步驟1130)。當殘留影像的大小與目前子畫面相同時,無須儲存目前畫面於畫面緩衝器中(步驟1140)。當殘留影像小於目前子畫面時,根據參考子畫面大小的下限來判斷(步驟1150)。當殘留影像的大小小於參考子畫面大小的下限時,將目前畫面儲存於畫面緩衝器中;反之,無須儲存目前畫面於畫面緩衝器中(步驟1160)。
當影像目標區域追蹤系統運行時,取像模組會不斷地進行拍攝,經過畫面緩衝區控制器篩選後,將部份的畫面存入畫面緩衝區。因此,在進行目標區域追蹤時,一旦新畫面儲存至畫面緩衝區的速度大於目標區域追蹤的速度,則會發生無法完成目標區域追蹤的情況。本揭露實施例設計一種自動停止目標區域追蹤的機制。此機制是一超過及停(over-then-stop)的機制。也就是說,當目標區域追蹤超過一定時間或目前處理的畫面離目前拍攝的畫面只有數張的差異時,就停止目標區域追蹤。
因此,本揭露實施例可使用一時間計數器(time counter)來計算目標區域追蹤所耗費的時間,及一畫面差異計數器(frame difference counter)來計算目前處理的畫面與目前拍攝的畫面的數張差異。當啟動目標區域追蹤時,同時設定此兩計數器。一旦時間計數器大於一個值,或畫面差異計數器小於一個值時,就自動停止目標區域追蹤。也就是說,本揭露之影像目標區域追蹤系統還可包括一時間計數器及一畫面差異計數器,並根據算出的目標區域追蹤所耗費的時間及目前處理的畫面與目前拍攝的畫面的數張差異,來進行自動停止目標區域追蹤的偵測。
本揭露之實施範例也可以用一電腦程式產品(computer program product)來實現。如第十二圖的範例所示,電腦程式產品1200至少包含一記憶體1210以及儲存於此記憶體的一可執行的電腦程式(executable computer program)1220。此電腦程式可藉由一處理器1230或一電腦系統來執行第十圖之影像目標區域追蹤方法的步驟1010至步驟1030。處理器1230還可包括目標區域追蹤與取像模組510,藉由此模組來執行步驟1010至步驟1030。如前所述,目標區域追蹤與取像模組與遠端操控模組之間係透過一數位網路來傳遞所需的資訊。
處理器1230可包括一畫面緩衝區控制器,透過畫面可取代性的判斷,來減少該畫面緩衝器的記憶體需求。並且,處理器1230還可包括一時間計數器及一畫面差異計數器,來進行自動停止目標區域追蹤的偵測,來避免發生無法完成目標區域追蹤的情況。第十二圖的範例中,處理器或電腦系統1230也可結合取像模組來拍攝及放大影像如第八圖之應用場景,來進行資料傳輸與前述之影像目標區域追蹤。
綜上所述,本揭露之實施範例可提供一種影像目標區域的追蹤技術,包括影像目標區域追蹤系統與方法及電腦程式產品。其結合畫面緩衝區及畫面緩衝區控制,以一即時回溯式影像搜尋技術,可從被點選之目標區域的位置開始進行目標區域的追蹤,來避免因為網路傳輸延遲所造成行動端與另一平台間的影像不同步問題。也無須使用位移量來找出所點選的目標區域在行動端目前拍攝影像中的位置,藉此減少整套追蹤系統之建構成本。
以上所述者僅為本揭露之實施範例,當不能依此限定發明實施之範圍。即大凡申請專利範圍所作之均等變化與修飾,皆應仍屬本發明專利涵蓋之範圍。
110...行動端
130...地面導控站
120...即時點選放大影像快速回傳模組
140...中央管制系統
150...災區的現況
230...時間點為i+n時所點選的目標區域
240...行動端在時間點為i+2n所拍攝畫面
260...行動端在時間點為i+2n所拍攝畫面中的位置
262...位移量
300...物件追蹤系統
305...影像畫面
310...緩衝區
320...追蹤模組
330...正向追蹤
340...反向追蹤
350...追蹤錯誤值
360...閾值
370...清空緩衝區
380...選擇另一個追蹤模組
400...物件追蹤系統
410...控制站
412...控制端追蹤器
420...感測端
422...遠端追蹤器
424...影像感測器
500...影像目標區域追蹤系統
510...目標區域追蹤與取像模組
512...畫面緩衝區
515...移動平台
520...遠端操控模組
522...目標區域
514、524...資料通訊元件
526...顯示元件
599...另一平台
555...數位網路
566...最新拍攝之影像畫面中的相對位置
610...從一影像感測器擷取一新影像畫面
620...檢查此新影像畫面是否可存放在畫面緩衝區中?
630...檢查畫面緩衝區512是滿的嗎?
640...將最早存入畫面緩衝區的畫面移除
650...將此新影像畫面存放在畫面緩衝區中
710...擷取影像畫面i並存放至畫面緩衝區中
720...即時將影像畫面i傳送至遠端操控模組
730...遠端操控模組點選影像畫面i中的一目標區域
740...將畫面楨碼i與目標區域在影像畫面i中的座標回傳給畫面緩衝區控制器
750...畫面緩衝區控制器便會通知移動平台上的一追蹤元件,從影像畫面i開始追蹤至在移動平台上目前最新拍攝的畫面i +N
914...影像感測器
916...追蹤元件
928...指標控制元件
1010...以一即時回溯式影像搜尋技術,將過往在一移動平台上所拍攝的至少一影像畫面儲存至一畫面緩衝區
1020...藉由儲存在畫面緩衝區中的至少一影像畫面,將自一遠端操控模組所點選的一目標區域的位置開始進行追蹤
1030...找出此目標區域在此移動平台上最新拍攝之影像畫面中的一相對位置
1110...根據目前子畫面的位置與大小設定,將目前子畫面從目前畫面中取出
1120...使用目前子畫面在參考畫面中進行搜尋與比對
1130...在參考畫面中,當找到與目前子畫面相似的畫面區塊時,將此畫面區塊標記為參考子畫面,並比對目前子畫面與參考子畫面間的差異性
1140...當殘留影像的大小與目前子畫面相同時,無須儲存目前畫面於畫面緩衝器中
1150...當殘留影像的大小小於目前子畫面時,根據參考子畫面大小的下限來判斷
1160...當殘留影像的大小小於參考子畫面大小的下限時,將目前畫面儲存於畫面緩衝器中;反之,無須儲存目前畫面於畫面緩衝器中
1200...電腦程式產品
1210...記憶體
1220...電腦程式
1230...處理器
第一圖是一範例示意圖,說明移動式大範圍救災資訊及時蒐集系統的一種應用情境。
第二圖是一範例示意圖,說明行動端與地面導控站間的畫面不同步。
第三圖是一種及時物件追蹤系統的一範例示意圖。
第四圖是一種物件追蹤系統的一範例示意圖。
第五圖是一影像目標區域追蹤系統的一範例示意圖,與所揭露的某些實施範例一致。
第六圖是一流程圖,說明畫面緩衝區控制器如何決定畫面緩衝區的運作,與所揭露的某些實施範例一致。
第七圖是一流程圖,說明即時回溯式影像搜尋技術的運作,與所揭露的某些實施範例一致。
第八圖是影像目標區域追蹤技術之應用場景的一範例示意圖,與所揭露的某些實施範例一致。
第九圖是目標區域追蹤與取像模組及遠端操控模組之內部結構的一範例示意圖,與所揭露的某些實施範例一致。
第十圖是一範例示意圖,說明影像目標區域追蹤方法的運作流程,與所揭露的某些實施範例一致。
第十一圖說明畫面可取代性的判斷,與所揭露的某些實施範例一致。
第十二圖是一範例示意圖,說明影像目標區域追蹤的電腦程式產品及其應用場景,與所揭露的某些實施範例一致。
500...影像目標區域追蹤系統
510...目標區域追蹤與取像模組
512...畫面緩衝區
515...移動平台
520...遠端操控模組
522...目標區域
514、524...資料通訊元件
526...顯示元件
599...另一平台
555...數位網路
566...最新拍攝之影像畫面中的相對位置

Claims (8)

  1. 一種影像目標區域追蹤系統,該系統包含:一目標區域追蹤與取像模組,係建置在一行動端上的一移動平台;以及一遠端操控模組,係建置在一另一平台上,該遠端操控模組與該目標區域追蹤與取像模組之間係透過一數位網路來傳遞所需的資訊;其中,該目標區域追蹤與取像模組以一即時回溯式影像搜尋技術,將過往在該移動平台上所拍攝之至少一影像畫面儲存至一畫面緩衝區,及自該遠端操控模組所點選的一目標區域的位置開始進行追蹤,並找出該目標區域在該移動平台上最新拍攝之影像畫面中的一相對位置;其中該系統還包括一畫面緩衝區控制器,透過畫面可取代性的判斷,來減少該畫面緩衝器的記憶體需求;其中該畫面緩衝區中該至少一影像畫面皆為未壓縮的;並且該畫面可取代性的判斷還包括:根據一目前子畫面的位置與大小設定,將該目前子畫面從一目前畫面中取出,使用該目前子畫面在一參考畫面中進行搜尋與比對;在該參考畫面中,當找到與該目前子畫面相似的畫面區塊時,將該畫面區塊標記為一參考子畫面,並比對該目前子畫面與該參考子畫面間的差異性;當一殘留影像的大小與目前子畫面相同時,無須儲存該目前畫面於該畫面緩衝器中;當該殘留影像小於該目前子畫面時,根據該參考子畫面 的大小的一下限來判斷,當該殘留影像的大小小於該參考子畫面的大小的該下限時,將該目前畫面儲存於該畫面緩衝器中;反之,無須儲存該目前畫面於該畫面緩衝器中。
  2. 如申請專利範圍第1項所述之系統,其中該兩模組各自備有一資料通訊元件,並且該兩資料通訊元件之間透過該數位網路,分別來傳遞該目標區域追蹤與取像模組及該遠端操控模組所需的資訊。
  3. 如申請專利範圍第1項所述之系統,其中該另一平台為一地面導控站。
  4. 如申請專利範圍第1項所述之系統,該系統還包括一時間計數器及一畫面差異計數器,來進行一自動停止目標區域追蹤的偵測。
  5. 如申請專利範圍第1項所述之系統,該系統還包括該畫面緩衝區及一影像感測器,並且該至少一影像畫面係自該影像感測器中擷取出,並同時存放在該畫面緩衝區中。
  6. 一種影像目標區域追蹤方法,運作在一目標追蹤系統上,該方法包含:以一即時回溯式影像搜尋技術,將過往在一移動平台上所拍攝的至少一影像畫面儲存至一畫面緩衝區;藉由儲存在該畫面緩衝區中的至少一影像畫面,將自一遠端操控模組所點選的一目標區域的位置開始進行追蹤;以及找出該目標區域在該移動平台上最新拍攝之影像畫面 中的一相對位置;其中該即時回溯式影像搜尋技術的運作流程包括:擷取一影像畫面並存放至該畫面緩衝區;即時將該影像畫面傳送至該遠端操控模組;該遠端操控模組點選該影像畫面中的該目標區域;該遠端操控模組將所點選的畫面楨碼與該目標區域在影像畫面i中的座標回傳給一畫面緩衝區控制器;以及該畫面緩衝區控制器通知該移動平台上的一追蹤元件,從該影像畫面開始追蹤至在該移動平台上目前最新拍攝的畫面;該方法還包括:對該畫面緩衝區的管控,並透過畫面可取代性的判斷,來減少該畫面緩衝區的記憶體需求;其中該畫面緩衝區中該至少一影像畫面皆為未壓縮的;並且該畫面可取代性的判斷還包括:根據一目前子畫面的位置與大小設定,將該目前子畫面從一目前畫面中取出,使用該目前子畫面在一參考畫面中進行搜尋與比對;在該參考畫面中,當找到與該目前子畫面相似的畫面區塊時,將該畫面區塊標記為一參考子畫面,並比對該目前子畫面與該參考子畫面間的差異性;當一殘留影像的大小與目前子畫面相同時,無須儲存該目前畫面於該畫面緩衝器中;當該殘留影像小於該目前子畫面時,根據該參考子畫面的大小的一下限來判斷,當該殘留影像的大小小於該參 考子畫面的大小的該下限時,將該目前畫面儲存於該畫面緩衝器中;反之,無須儲存該目前畫面於該畫面緩衝器中。
  7. 如申請專利範圍第6項所述之方法,該方法還包括:根據目標區域追蹤所耗費的時間及目前處理的影像畫面離目前拍攝的影像畫面的張數差異,來進行一自動停止目標區域追蹤的偵測。
  8. 如申請專利範圍第6項所述之方法,其中當所儲存的影像畫面張數大於該畫面緩衝區的空間時,將最早進入該畫面緩衝區的影像畫面移除。
TW099141563A 2010-11-30 2010-11-30 影像目標區域追蹤系統與方法及電腦程式產品 TWI514324B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
TW099141563A TWI514324B (zh) 2010-11-30 2010-11-30 影像目標區域追蹤系統與方法及電腦程式產品
CN201010597473.6A CN102480615B (zh) 2010-11-30 2010-12-16 图像目标区域追踪系统与方法
US13/025,326 US8854473B2 (en) 2010-11-30 2011-02-11 Remote tracking system and method for image object region using image-backward search

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW099141563A TWI514324B (zh) 2010-11-30 2010-11-30 影像目標區域追蹤系統與方法及電腦程式產品

Publications (2)

Publication Number Publication Date
TW201222478A TW201222478A (en) 2012-06-01
TWI514324B true TWI514324B (zh) 2015-12-21

Family

ID=46093077

Family Applications (1)

Application Number Title Priority Date Filing Date
TW099141563A TWI514324B (zh) 2010-11-30 2010-11-30 影像目標區域追蹤系統與方法及電腦程式產品

Country Status (3)

Country Link
US (1) US8854473B2 (zh)
CN (1) CN102480615B (zh)
TW (1) TWI514324B (zh)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8805009B1 (en) * 2012-01-17 2014-08-12 Verint Systems Inc. Trajectory matching across disjointed video views
US9160982B1 (en) * 2012-01-17 2015-10-13 Verint Systems Ltd. Trajectory matching across disjointed video views
IL219639A (en) * 2012-05-08 2016-04-21 Israel Aerospace Ind Ltd Remote object tracking
IL224273B (en) * 2013-01-17 2018-05-31 Cohen Yossi Delay compensation during remote sensor control
EP4093019A1 (en) 2013-01-17 2022-11-23 Canon Kabushiki Kaisha Image pickup apparatus, remote control apparatus, and methods of controlling image pickup apparatus and remote control apparatus
JP6103948B2 (ja) * 2013-01-17 2017-03-29 キヤノン株式会社 撮像装置、遠隔操作端末、カメラシステム、撮像装置の制御方法およびプログラム、遠隔操作端末の制御方法およびプログラム
US9070289B2 (en) * 2013-05-10 2015-06-30 Palo Alto Research Incorporated System and method for detecting, tracking and estimating the speed of vehicles from a mobile platform
US9025825B2 (en) 2013-05-10 2015-05-05 Palo Alto Research Center Incorporated System and method for visual motion based object segmentation and tracking
KR102104409B1 (ko) * 2013-11-14 2020-05-29 한화테크윈 주식회사 영상저장시스템 및 오픈플랫폼기반 영상저장시스템에서 프로토콜 변환 방법
CN107577247B (zh) 2014-07-30 2021-06-25 深圳市大疆创新科技有限公司 目标追踪系统及方法
KR20160024143A (ko) * 2014-08-25 2016-03-04 삼성전자주식회사 영상 처리 방법 및 전자 장치
CN107851176A (zh) 2015-02-06 2018-03-27 阿克伦大学 光学成像系统及其方法
US9471059B1 (en) * 2015-02-17 2016-10-18 Amazon Technologies, Inc. Unmanned aerial vehicle assistant
JP6604019B2 (ja) * 2015-04-14 2019-11-13 ソニー株式会社 画像処理装置、画像処理方法、および画像処理システム
CN105120136A (zh) * 2015-09-01 2015-12-02 杨珊珊 基于无人飞行器的拍摄装置及其拍摄处理方法
CN105407330A (zh) * 2015-12-21 2016-03-16 中国航天空气动力技术研究院 减小链路延时对光电载荷目标锁定影响的方法
CN109190728B (zh) * 2018-08-15 2022-04-29 国网山东省电力公司莱芜供电公司 一种电网物资质检系统
TWI719591B (zh) * 2019-08-16 2021-02-21 緯創資通股份有限公司 物件追蹤方法及其電腦系統
US11722705B2 (en) * 2020-03-26 2023-08-08 Toyota Motor Engineering & Manufacturing North America, Inc. Camera support by a vehicular micro cloud for remote driving

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6002385A (en) * 1994-03-11 1999-12-14 Canon Kabushiki Kaisha Computer display system controller
US7184574B1 (en) * 1999-02-03 2007-02-27 Elbit Systems Ltd. Delayed video tracking
WO2008154742A1 (en) * 2007-06-19 2008-12-24 Vantrix Corporation A buffer-based rate control exploiting frame complexity, buffer level and position of intra frames in video coding

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3908082A (en) * 1972-11-13 1975-09-23 Martin Marietta Corp Dim object enhancement technique in video signal producing system
AU622208B2 (en) * 1988-08-12 1992-04-02 Digital Equipment Corporation Frame removal mechanism for token ring networks
JP3847353B2 (ja) * 1994-09-29 2006-11-22 日本テキサス・インスツルメンツ株式会社 同期検出回路
KR960028124A (ko) * 1994-12-30 1996-07-22 이몬 제이. 월 필름 소스에 의해 생성된 비디오 필드 식별 방법 및 장치
JP3454396B2 (ja) * 1995-10-11 2003-10-06 株式会社日立製作所 動画像の変化点検出制御方法とそれに基づく再生停止制御方法およびそれらを用いた動画像の編集システム
US5999905A (en) * 1995-12-13 1999-12-07 Sony Corporation Apparatus and method for processing data to maintain continuity when subsequent data is added and an apparatus and method for recording said data
US5917958A (en) * 1996-10-31 1999-06-29 Sensormatic Electronics Corporation Distributed video data base with remote searching for image data features
US6275818B1 (en) * 1997-11-06 2001-08-14 International Business Machines Corporation Cost based optimization of decision support queries using transient views
US6122666A (en) * 1998-02-23 2000-09-19 International Business Machines Corporation Method for collaborative transformation and caching of web objects in a proxy network
US6359647B1 (en) * 1998-08-07 2002-03-19 Philips Electronics North America Corporation Automated camera handoff system for figure tracking in a multiple camera system
US20010008561A1 (en) * 1999-08-10 2001-07-19 Paul George V. Real-time object tracking system
US6650333B1 (en) * 1999-06-09 2003-11-18 3Dlabs Inc., Ltd. Multi-pool texture memory management
JP2002085642A (ja) * 2000-09-18 2002-03-26 Marukin:Kk スロット遊戯機およびスロット遊戯機付パチンコ機
GB2371936A (en) * 2001-02-03 2002-08-07 Hewlett Packard Co Surveillance system for tracking a moving object
US6828977B2 (en) * 2001-02-15 2004-12-07 Sony Corporation Dynamic buffer pages
US20020188945A1 (en) * 2001-06-06 2002-12-12 Mcgee Tom Enhanced EPG to find program start and segments
US20040238732A1 (en) * 2001-10-19 2004-12-02 Andrei State Methods and systems for dynamic virtual convergence and head mountable display
JP4217174B2 (ja) * 2004-02-13 2009-01-28 パナソニック株式会社 動画符号化装置および動画符号化方法
JP2005278152A (ja) * 2004-02-25 2005-10-06 Matsushita Electric Ind Co Ltd 映像音声再生装置及び映像音声再生方法
JP2006014121A (ja) * 2004-06-29 2006-01-12 Sanyo Electric Co Ltd 画像符号化方法、画像符号化装置および撮像装置
US7369135B2 (en) * 2004-10-29 2008-05-06 Nvidia Corporation Memory management system having a forward progress bit
US7720257B2 (en) * 2005-06-16 2010-05-18 Honeywell International Inc. Object tracking system
US7512279B2 (en) * 2005-06-22 2009-03-31 General Electric Company System, method and computer instructions for compression of four dimensional data
US7860162B2 (en) * 2005-09-29 2010-12-28 Panasonic Corporation Object tracking method and object tracking apparatus
US9182228B2 (en) * 2006-02-13 2015-11-10 Sony Corporation Multi-lens array system and method
US20080028181A1 (en) * 2006-07-31 2008-01-31 Nvidia Corporation Dedicated mechanism for page mapping in a gpu
US7756296B2 (en) * 2007-03-27 2010-07-13 Mitsubishi Electric Research Laboratories, Inc. Method for tracking objects in videos using forward and backward tracking
TWI355615B (en) * 2007-05-11 2012-01-01 Ind Tech Res Inst Moving object detection apparatus and method by us
US8395629B1 (en) * 2007-11-09 2013-03-12 Lucasfilm Entertainment Company Ltd. Reducing data stored in a deep-frame buffer
US8786675B2 (en) * 2008-01-23 2014-07-22 Michael F. Deering Systems using eye mounted displays
JP5076932B2 (ja) * 2008-02-01 2012-11-21 富士通株式会社 フレームカウンタ補正装置及び対向装置
US8654756B2 (en) * 2008-07-18 2014-02-18 Panasonic Corporation Transmission device, reception device, transmission method, reception method, and transmission/reception system
TWI382762B (zh) * 2008-11-17 2013-01-11 Ind Tech Res Inst 移動物體的追蹤方法
US20100265260A1 (en) * 2009-04-17 2010-10-21 Jerzy Wieslaw Swic Automatic Management Of Buffer Switching Using A Double-Buffer
US8903798B2 (en) * 2010-05-28 2014-12-02 Microsoft Corporation Real-time annotation and enrichment of captured video

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6002385A (en) * 1994-03-11 1999-12-14 Canon Kabushiki Kaisha Computer display system controller
US7184574B1 (en) * 1999-02-03 2007-02-27 Elbit Systems Ltd. Delayed video tracking
WO2008154742A1 (en) * 2007-06-19 2008-12-24 Vantrix Corporation A buffer-based rate control exploiting frame complexity, buffer level and position of intra frames in video coding

Also Published As

Publication number Publication date
TW201222478A (en) 2012-06-01
CN102480615B (zh) 2015-01-21
CN102480615A (zh) 2012-05-30
US8854473B2 (en) 2014-10-07
US20120133778A1 (en) 2012-05-31

Similar Documents

Publication Publication Date Title
TWI514324B (zh) 影像目標區域追蹤系統與方法及電腦程式產品
CN103118230B (zh) 一种全景图像采集方法、装置以及系统
US8170277B2 (en) Automatic tracking apparatus and automatic tracking method
CN104639916A (zh) 一种大场景多目标跟踪拍摄视频监控系统及其监控方法
AU2021326016B2 (en) Motion based pre-processing of two-dimensional image data prior to three-dimensional object tracking with virtual time synchronization
US9418299B2 (en) Surveillance process and apparatus
CN108734655B (zh) 空中多节点实时侦查的方法及系统
EP2754288A2 (en) System and method of tracking an object in an image captured by a moving device
GB2559196A (en) Determining a position of a vehicle on a track
CN110929669A (zh) 数据标注方法及装置
JP2006270404A (ja) 撮影制御装置、撮影制御方法および撮影制御プログラム
JPWO2020174916A1 (ja) 撮影システム
TWI726536B (zh) 影像擷取方法及影像擷取設備
CN108206940B (zh) 视频串流的接合与传输方法、网关装置及观看装置
CN103595958A (zh) 一种视频追踪分析方法及系统
WO2022034245A1 (en) Motion based pre-processing of two-dimensional image data prior to three-dimensional object tracking with virtual time synchronization
JP2005268972A (ja) 映像表示システム、及び映像表示方法
JP6284203B2 (ja) 監視装置
KR102646190B1 (ko) 복수개의 차량을 관제하는 방법, 서버 및 시스템
JP2012209843A (ja) 広域撮影制御システム
CN206696896U (zh) 一种基于tld的行人跟踪设备
JP2023167049A (ja) 異常判定管理装置、異常判定管理方法及び異常判定管理システム
CN117804428A (zh) 泊车地图构建方法、装置、设备及存储介质
JP2022023396A (ja) 撮像装置及び撮像システム
CN116573178A (zh) 无人机复检方法、无人机及存储介质