TWI444593B - 地面目標定位系統與方法 - Google Patents

地面目標定位系統與方法 Download PDF

Info

Publication number
TWI444593B
TWI444593B TW100138374A TW100138374A TWI444593B TW I444593 B TWI444593 B TW I444593B TW 100138374 A TW100138374 A TW 100138374A TW 100138374 A TW100138374 A TW 100138374A TW I444593 B TWI444593 B TW I444593B
Authority
TW
Taiwan
Prior art keywords
ground target
aircraft
image
ground
target
Prior art date
Application number
TW100138374A
Other languages
English (en)
Other versions
TW201317544A (zh
Inventor
Cheng Chuan Chou
Tai Hui Huang
Chung Hsien Huang
Original Assignee
Ind Tech Res Inst
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ind Tech Res Inst filed Critical Ind Tech Res Inst
Priority to TW100138374A priority Critical patent/TWI444593B/zh
Publication of TW201317544A publication Critical patent/TW201317544A/zh
Application granted granted Critical
Publication of TWI444593B publication Critical patent/TWI444593B/zh

Links

Landscapes

  • Position Fixing By Use Of Radio Waves (AREA)
  • Navigation (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

地面目標定位系統與方法
本揭露係關於一種地面目標定位(ground target geolocation)系統與方法。
智慧型監控系統逐漸崛起,近年來興起的研究探討之一為如何藉由高空載具(例如熱氣球、無人駕駛飛機等)架設攝影機俯視地面攝影並分析影像偵測事件,輔助地面監控系統進行大範圍區域的偵測,達到無死角的全面性監控。無人機空拍影像串流的應用例如是僅限於對空拍影像串流不做定位的影像處理,或是將無人機影像與地面座標進行整合來達到對地面目標點更精確的定位。以目前飛行器可搭載的感測儀器精度不足,加上飛行器太小容易受到風力影響而產生搖晃,因此採用數值處理方法來加強估算結果。常見的相關技術例如是基於空載感測器資訊的地理位置估算法、或是基於影像追蹤以提高飛行姿態參數精確度的地理位置估算法、或是基於影像樣板比對之地理位置估算法等。
基於空載感測器資訊的地理位置估算法利用飛行器的全球定位系統(Global Positioning System,GPS)座標和氣壓式高度計、陀螺儀、羅盤等所提供的飛行高度與姿態資訊,根據三角函數關係推算地面目標的位置座標。此技術可採用視角可調的攝影機為來使觀測的範圍更寬廣。也可採用遞迴最小平方(Recursive Least Squares,RLS)演算法來處理原始估測值以得到較為精確的結果。此技術可提高飛行姿態參數的精確度。
基於影像追蹤以提高飛行姿態參數精確度之地理位置估算法使用高精度的感測器,並利用地面影像特徵點追蹤結果和GPS座標資訊,根據慣性導航系統(Inertial Navigation System,INS)運作方程式迴授修正飛行姿態參數。基於影像樣板比對之地理位置估算法採用垂直拍攝的飛行器取得空拍影像串流,並且以龐大的計算量來將目標區域的空拍影像串流與已標定座標之地面圖資進行比對。最近似之圖資影像所屬的座標即為目標區域的地面座標,例如,以較高飛行高度的地面空照圖為比對圖資。
與上述技術相關的文獻中,例如,其中一篇文獻的技術使用兩台無人飛行器,在較高空的無人飛行器作為較低空飛行器的參考點,較低空的飛行器可利用觀測此參考點進而提高對地面目標的定位精度。其中一篇文獻的技術藉由投射結構光至地面,作為空拍攝影機校正變形的參考,從而提高空中定位的精度。其中一篇文獻的技術加快由空中定位的速度,對所有可用來定位的地面目標點分別計算其定位所需時間,再透過權重分配的方式訂出最終一組地面定位目標點。其中一篇文獻的技術利用空照圖中所帶的座標將特定區域辨識為道路區域且對應至道路名稱,分析空照圖中的道路區域之影像以取得交通資訊。
在空拍影像串流的應用技術中,如何能夠不需使用任何地面圖資、不需精確量測飛行器距離地面的高度、受地表紋理區域影響程度低、以及受外在通訊條件影響程度低,而能在多種不同的搜索監視的場景中,可即時估算地面目標的地理位置,且能明顯提升地面座標精確度,是非常值得研究與發展的。
本揭露實施例可提供一種地面目標定位系統與方法。
所揭露的一實施例是關於一種地面目標定位系統,搭配一飛行器來運作。此飛行器擷取並傳回所擷取的空拍影像串流及其位置與姿態資料。此系統包含一使用者點選裝置、一影像暫存區、一點選目標影像追蹤模組、一影像與感測器資料序列同步化模組、以及一地面目標座標估測模組。此影像暫存區儲存此空拍影像串流。透過此使用者點選裝置,地面使用者從空拍影像串流中選定一地面目標(ground target),並傳送含有此地面目標的一點選區域給此點選目標影像追蹤模組來追蹤此點選區域,以得到此地面目標在空拍影像串流中的移動軌跡。此系統在獲得每一時間區間一筆飛行器的姿態資料後,此影像與感測器資料序列同步化模組利用此地面目標的移動軌跡來消除飛行器姿態資訊時間差。此地面目標座標估測模組利用此地面目標的移動軌跡,從包含此地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出此地面目標的一地理位置。
所揭露的一實施例是關於一種地面目標定位方法,搭配一飛行器來運作。此方法包含:此飛行器以無線傳輸傳回空拍影像串流及飛行器的飛行資訊;由使用者透過一使用者點選裝置,從傳回的空拍影像串流中選定一地面目標;追蹤此點選區域,以得到此地面目標在該空拍影像串流中的移動軌跡;在獲得每一時間區間的一筆飛行器的飛行資訊後,將此飛行資訊平滑化內插至空拍影像的影格,並且利用此地面目標的移動軌跡,將空拍影像與飛行器的飛行資訊序列同步化;以及利用此地面目標的移動軌跡,從包含此地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出此地面目標的一地理位置。
茲配合下列圖示、實施例之詳細說明及申請專利範圍,將上述及本發明之其他優點詳述於後。
在本揭露之地面目標定位系統與方法的實施例中,係基於感測器資訊與結合影像特徵點追蹤,來進行即時地理位置估算。此實施例沒有使用任何地面圖資、不需要精確量測飛行器距離地面的高度、受地表紋理區域影響程度低、以及受外在通訊條件影響程度低,可應用在多種不同的搜索監視的場景中,例如空中搜救、災情調查、農漁牧觀測、資源研究、水土保持、邊境巡邏等。第一圖是一示意圖,說明本揭露實施例的一應用場景範例。
在第一圖的應用場景範例中,在一飛行器110上架設一攝影機負責監控一範圍區域115,並將其所取得的影像串流與一空載感測器(airborne sensor),例如GPS、陀螺儀、加速儀、磁羅盤、氣壓計等,所感測的飛行資訊同時傳回一地面導控站120。地面導控站120由傳回的串流影像中選取一地面目標後,即時估算出此地面目標的座標位置,以進行後續動作的參考,也可送出如一飛控指令,來讓飛行器110對該地面目標自動進行定點盤旋監控,以獲得更為精細的即時資訊。
依此,第二圖是搭配一飛行器,根據本揭露一實施例,說明一地面目標定位系統之資料傳輸流程。參考第二圖之資料傳輸流程,在飛行器端,例如一空中飛行器210,一即時影像擷取裝置如攝影機等即時影像擷取並將所擷取的影像串流回傳至地面導控站端,例如一地表伺服器220。空中飛行器210上的一空載感測器215同時將所感測的飛行器210的飛行資訊傳回地表伺服器220端。地表伺服器220端的使用者可進行地面目標點選225。有了地面目標與飛行資訊後,地表伺服器220端再追蹤目標區域並與飛行資訊整合運算230,然後估算出地面目標座標240。在地表伺服器220端,地面目標點選225例如可透過一使用者點選裝置來點選由影像串流形成的一即時空拍影像串流上的地面目標;所擷取的影像串流例如可儲存在一影像暫存區(image buffer)。
雖然整合飛行器的飛行姿態、飛行器的距地高度、空拍影像中目標點的座標等資訊,可推估出空拍影像相對應的大地座標,即地面目標點的相對位置。然而,各項量測值的誤差會造成估算的誤差過大,特別是飛行器距離地端的高度是影響估測精度最大的。並且,空載感測器,例如慣性感測器等,的機械特性也會影響飛行器之飛行姿態參數的精確度。在本揭露之地面目標定位系統的實施例中,採用目標影像追蹤來修正飛行姿態參數的時間延遲效應。並且,採用目標追蹤點移動距離來取代飛行器距地高度作為估測地面座標的基礎。換句話說,消除飛行器的姿態資訊時間差之後,採用追蹤此地面目標的移動距離來做為估測此地面目標之地面座標的基礎。
例如,根據本揭露的一實施例,可採用如GPS資訊中較準確的水平方向座標,來取代無法精確量測的距地高度,其中,以多張在不同時間點且飛行器俯仰角角度接近的地面目標影像來估算出地面目標與飛行器的水平相對距離,再根據飛行器的位置記錄資訊,估算出地面目標的實際座標。在實際的應用中,由於受限於所採用的感測器規格及無線傳輸,無法在每秒傳輸的30個影格(image frame)中都得到相對應的飛行資訊,因此在後續估測地面目標座標時無法選擇適當的影像做計算。
通常在地表伺服器220端只能收到每一時間區間(例如一秒)一筆資訊。因此,根據本揭露的一實施例,在獲取到每秒的飛行器資訊後,透過平滑內插法,估計出每一影格中飛行器的狀態。在本揭露的一實施例中,採用卡曼濾波器的預測,估計的狀態為慣性感測器(如陀螺儀)的資訊如俯仰角(pitch)與側傾角(bank)。可先將飛行姿態平滑化內插至目標區域的每一影格,再調整平滑內插後的每一影格中的姿態數值,使空拍影像與感測器資料序列得以同步化。
依此,第三圖是根據本揭露的一實施例,說明一地面目標定位系統的各模組與各模組之間的運作。參考第三圖,地面目標定位系統300搭配一飛行器310來運作。其中飛行器310可即時影像擷取並傳回所擷取的空拍影像串流312、以及回傳其即時的位置資料314與姿態資料316。地面目標定位系統300可包含一使用者點選裝置321、一影像暫存區323、一點選目標影像追蹤模組325、一影像與感測器資料序列同步化模組327、以及一地面目標座標估測模組329。影像暫存區323儲存空拍影像串流312。
透過使用者點選裝置321,地面使用者可從空拍影像串流312中選定一地面目標(ground target),並傳送含有此地面目標的一點選區域321a給點選目標影像追蹤模組325來追蹤此點選區域321a。在本發明的實施例中,可採用特徵點偵測及光流法追蹤點選區域,配合單應性轉換矩陣估測、卡曼濾波器追蹤以及粗差點去除技術,可穩定且平滑的鎖定追蹤地面目標。得到此地面目標在空拍影像串流中的移動軌跡325a。
另一方面,地面目標定位系統300在獲得每一短暫時間區間的一筆飛行器資訊後,透過影像與感測器資料序列同步化模組327,來消除飛行器姿態資訊時間差並且將修正後的飛行器姿態資訊327a傳送給地面目標座標估測模組329。此筆飛行器資訊包括飛行器的位置資料314(例如GPS資料)與姿態資料316(例如飛行器的兩個姿態資訊,即俯仰角與側傾角。地面目標定位系統300在獲得每一時間區間(例如一秒)的一筆飛行器資訊後,也可以先採用一誤差縮減濾波器333來提升飛行姿態參數(飛行器姿態資訊)的精確度,例如可採用低通濾波器或卡曼濾波器來縮減慣性感測器的輸出值誤差。再將飛行器的位置資料314與已提升精確度的飛行姿態參數傳送給影像與感測器資料序列同步化模組327。在本揭露實施例中,地面目標定位系統300採用此誤差縮減濾波器與否只是隨意的(optional),當不能依此限定本揭露實施之範圍。
影像與感測器資料序列同步化模組327進行的運作包含飛行器姿態資料平滑內插、以及感測器資料修正。地面目標座標估測模組329利用此地面目標的移動軌跡325a,從包含此地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出此地面目標的一地理位置329a。地理位置329a是地表上的一地理位置,可以使用大地基準(Datum)+座標格式(Format/Grid)兩個參數來標示。此標示簡稱為大地座標。大地基準例如常聽到的TWD67、TWD97、WGS84等。座標格式例如經緯度、UTM(六度分帶)、TM2(二度分帶)、電力座標等。
依此,第四圖是根據本揭露的一實施例,說明一地面目標定位方法的運作流程。此地面目標定位方法搭配一飛行器來運作。參考第四圖,此飛行器以無線傳輸傳回空拍影像串流及飛行器的飛行資訊,如步驟410所示。由使用者透過一使用者點選裝置,從傳回的空拍影像串流中選定一地面目標後並點選包含該地面目標的一點選區域,如步驟420所示。然後,追蹤此點選區域,以得到此地面目標在該空拍影像串流中的移動軌跡,如步驟430所示。在獲得每一時間區間的一筆飛行器的飛行資訊後,將此飛行資訊平滑化內插至空拍影像的影格,並且利用此地面目標的移動軌跡,將空拍影像與飛行器的飛行資訊序列同步化,如步驟440所示。之後,可透過一地面目標座標估測模組,利用此地面目標的移動軌跡,從包含此地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出此地面目標的一地理位置,如步驟450所示。
承上述,在地面使用者點選空拍影像中的地面目標之後,本揭露的實施例可採用特徵點追蹤方法,先向前逐影格的追蹤,再向後逐影格追蹤點選的地面目標,可得到地面目標在空拍影片中的完整移動軌跡。利用此移動軌跡,可消除先前平滑飛行器姿態時所造成的時間差。在本揭露實施例中,先將飛行器側傾角值經由平滑內插至每一空照影格,再以地面目標的移動軌跡進行時間修正後,來消除姿態資訊時間差,進而得到較為精確的姿態資訊(如側傾角)的估計值。
第五圖是根據本揭露一實施例的示意圖,說明將飛行姿態平滑化內插至每一空照影格。在第五圖中,飛行器傳回空照影格1至空照影格32,在實際環境中,由於受限感測器規格及無線傳輸,地面伺服器端例如只能收到每秒一筆資訊,如圖中實際姿態510所示,地面伺服器端於時間t收到的實際姿態對應到空照影格1,於下一時間t+1收到的實際姿態對應到空照影格31。因此將飛行姿態平滑化內插至每一影格,如圖中平滑後姿態520所示。
由於慣性感測器(如陀螺儀)量測值會有時間延遲,同時量測資料經平滑內插處理,因此必然會產生姿態資訊與影格的時間差,內插至某一影格的姿態數值並不會是該時間點的飛行器姿態。在本揭露的實施例中,可利用先前追蹤地面目標的移動軌跡與平滑後的側傾角值變化,來進行匹配,如此可消除姿態資訊時間差,因而有效提升感測器對於飛行器姿態的估測精確度。
在空拍影片中,地面目標點的橫向(水平方向)移動,主要是由飛行器的側傾角所造成。第六圖是根據本揭露一實施例的示意圖,說明以特徵點追蹤地面目標的移動軌跡與平滑內插後側傾角數值變化進行匹配。其中,利用地面目標移動軌跡中的x方向移動(△x)與卡曼濾波器平滑後的側傾角姿態數值變化(△bank)作匹配。此移動軌跡包含8個空照影格,符號“→”代表地面目標朝x方向右移,符號“←”代表地面目標朝x方向左移。符號“+”代表飛行器的飛行側傾角姿態數值增加,也就是等於地面目標朝水平方向右移;反之,符號“-”代表飛行器的飛行側傾角姿態數值減少,也就是等於地面目標朝水平方向左移。從第六圖的地面目標點移動△x與修正後側傾角姿態數值可以看出,利用地面目標的移動軌跡與平滑內插後的側傾角數值變化進行匹配後,將空拍影像與飛行器的飛行資訊序列同步化,如此,消除了姿態資訊時間差。
如前所述,地面目標定位系統與方法的實施例是搭配一飛行器來運作,並且採用目標追蹤點移動距離來取代飛行器距地高度作為估測地面座標的基礎。在本揭露實施例中,此飛行器備有一空照影像擷取裝置以即時影像擷取、一GPS感測器以即時獲取飛行器的位置資料、以及一慣性感測器(如陀螺儀)以獲取飛行器的姿態資訊。而估測地面座標的設計以第七圖與第八圖來說明。
將空照影像擷取裝置(如攝影機)固定在一定俯仰角的情況下,透過一透視轉換方法,可以將攝影機視角中的每一點的影像座標值,轉換為相對應於攝影機的距地高度h的比例值。所以,為了轉換實際影像座標,根據本揭露實施例的設計是,將攝影機位置設定為大地座標原點上,並拍攝一水平棋盤格。透過透視轉換方法,得到一轉換矩陣,即可將原本斜視的影像投射到地面。投射完成後,根據實際量測的結果,即可得到原始影像中的的各個影像點座標相對應的大地座標。
依此,第七圖是根據本揭露一實施例的示意圖,說明(如攝影機)的座標轉換。先將空照影像擷取裝置(如攝影機)固定在一定俯仰角,透過棋盤格將斜視影像710轉換為上視影像720並記錄此俯仰角的轉換矩陣。然後,變化不同的俯仰角並記錄各俯仰角的轉換矩陣。從第七圖可以看出,斜視影像710中的x軸與y軸座標可投影至上視影像720中的x軸與y軸座標。也就是說,空照影像中的x軸與y軸座標可投影至地面的x軸與y軸座標。
當攝影機維持固定俯仰角,並前進一段距離時,在影像中會發現地面的目標物向畫面下方移動。利用此移動量等於攝影機前進距離的特性,即可用飛行器的水平位置記錄資訊來取代飛行器距地高度h,並作為本揭露之地面目標估測的依據。第八A圖與第八B圖是根據本揭露一實施例的示意圖,說明地面目標相對距離估測。以第八A圖與第八B圖為例,其中第八A圖是飛行器上的攝影機的初始狀態,第八B圖是飛行器上的攝影機前進後的狀態。
攝影機(以菱形表示)由第八A圖的位置前進0.4h到達第八B圖的位置,飛行器前進方向即為攝影機前進方向。而空照影像投影為上視影像後,地面目標(以三角形表示)由1.2h的初始狀態(如箭頭810所指)移動到0.8h(如箭頭820所指)。攝影機的移動量0.4h可由飛行器的位置記錄中得到,因此可得出飛行器距地高度h。以下以影像y軸的數值為例,說明如何得出飛行器距地高度h。
當攝影機高度在h時,影像中的y軸座標值可用透過下式轉換為投影至地平面的y軸座標projected_y:
Projected_y=(a*y+b)*h
其中a,b為轉換的參數,並且已針對不同俯仰角度的攝影機預先量測。
若攝影機往前水平移動一段距離,空照影像中的地面目標會朝向影像畫面的下方移動。假設在移動前地面目標的y軸座標為project_y1 ,移動後地面目標的y軸座標為project_y2 ,則可由地面目標的移動量得到攝影機的實際高度h。在此例中地面目標的移動等於攝影機的移動,因此
Δ(UAV_loc1 ,UAV_loc2 )=Δ(Projected_y1 ,Projected_y2 )=(a-b)*h
其中UAV_loc1 為初始狀態時攝影機的y軸位置,UAV_loc2 為移動後攝影機的y軸位置。
得到攝影機高度h後,可推算出地面目標與攝影機在水平方向的相對距離Target_distance如下:
Target_distance=Projected_y1 =a*h
再將此相對距離與初始狀態時攝影機的y軸位置相加即可得到地面目標實際的y軸座標Target_location如下:
Target_location=UAV_loc1 +Target_distance
x軸座標也可以使用相同的方式來計算。不再重述。
以第八A圖的位置前進0.4h到達第八B圖的位置為例,
特徵點的移動量(1.2h-0.8h)
=0.4h=攝影機水平移動量
=飛行器移動距特徵點的移動量(1.2h-0.8h)
=0.4h=攝影機水平移動量
=飛行器移動距離
而飛行器移動距離可從飛行器的水平位置記錄資訊得知,因此可以得出h,得到h後,就可以計算出地面目標的座標。
換句話說,選取兩張側傾角值近似相同,且包含地面目標的影像,即可計算出地面目標與飛行器(兩張影像之首張影像被擷取時)的相對距離。再將此相對距離加上擷取首張影像時飛行器的一地理位置座標(如GPS座標),即可估算出地面目標的座標。在包含地面目標的影像中,也可以選出多組側傾角值的差距在一誤差範圍內的影像並估算地面目標的座標。再整合此多組影像所估算出的座標結果。
根據上述實施範例,本揭露搭配一飛行器如無人機水平飛行,並於地面導控站錄製影片並同步紀錄飛行資訊進行實驗。以程式驗證上述地面目標定位方法,同步顯示空拍畫面及飛行軌跡,點選播放畫面中地面目標,可快速得到座標估算結果。在地面目標的影像中,也選出多組側傾角值差距在一預定之誤差範圍內的影像並計算地面目標座標,以及整合此多組影像所計算出的座標結果,實驗結果顯示整合後的座標結果更加穩定。本揭露也重複播放空拍影片並點選同一地面目標,來驗證此地面目標座標估測的重現性,實驗結果顯示此地面目標座標估測也具有重現性。本揭露地面目標座標估測的準確度也與使用GPS及陀螺儀資訊並透過三角函數估測地面點座標的結果進行比較,從第九圖的範例表可看出,本揭露之地面目標座標估測的結果,其平均誤差為2.86公尺,相較於三角函數估測結果的41.54公尺,本揭露之地面點座標的估測結果明顯更要精準。
綜上所述,本揭露實施例的地面目標定位技術係於使用者點選空拍影像中的地面目標後,會由點選的影格向前及向後進行特徵點追蹤,以得到完整的目標軌跡。目標軌跡包含的各個影格,其側傾角值先經由平滑內插,再以地面目標的移動軌跡進行時間修正,得到較為精確的側傾角估計值。由目標軌跡起始影格開始,尋找側傾角值近似相同的兩張影格組合。若有多組影格有近似相同的側傾角值,則任意兩張影格的組合皆可列入計算。側傾角值近似相同的兩張影格組合即可估測出一個地面目標的座標數值,最後將所有估測出的結果以統計方法整合,即可得到更為精確的地面目標的座標。本揭露實施例採用平均方式整合所有影格估測的座標。
所以,本揭露實施例是基於感測器資訊與影像特徵點追蹤之即時地理位置估算技術,並且其特點至少包含不需以任何地面圖資來進行比對、不受限於地表是否有明顯紋理的區域、低精密度的量測儀器即可提供足夠資訊、不受限於飛行器姿態更新頻率的高或低、受外在通訊條件影響程度低、以及不受限於飛行器所搜索監控之區域範圍的大小,飛行器之機載的影像擷取裝置可以斜前方的方向來擷取影像等。
以上所述者僅為本揭露實施例,當不能依此限定本揭露實施之範圍。即大凡本發明申請專利範圍所作之均等變化與修飾,皆應仍屬本發明專利涵蓋之範圍。
110...飛行器
115...範圍區域
120...地面導控站
210...空中飛行器
215...空載感測器
220...地表伺服器
225...地面目標點選
230...追蹤目標區域與飛行資訊整合運算
240...地面目標座標
300...地面目標定位系統
310...飛行器
312...影像串流
314...位置資料
316...姿態資料
321...使用者點選裝置
321a...點選區域
323...影像暫存區
325...點選目標影像追蹤模組
325a...移動軌跡
327...影像與感測器資料序列同步化模組
327a...修正後的飛行器姿態資訊
329...地面目標座標估測模組
329a...即時地理位置
333...誤差縮減濾波器
410...飛行器以無線傳輸傳回空拍影像串流及飛行器的飛行資訊
420...由使用者透過一使用者點選裝置,從傳回的空拍影像串流中選定一地面目標後並點選包含該地面目標的一點選區域
430...追蹤此點選區域,以得到此地面目標在該空拍影像串流中的移動軌跡
440...在獲得每一時間區間的一筆飛行器的飛行資訊後,將此飛行資訊平滑化內插至空拍影像的影格,並且利用此地面目標的移動軌跡,將空拍影像與飛行器的飛行資訊序列同步化
450...利用此地面目標的移動軌跡,從包含此地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出此地面目標的一地理位置
510...實際姿態
520...平滑後姿態
710...斜視影像
720...上視影像
h...飛行器距地高度
810...地面目標的初始狀態
820...地面目標的移動狀態
第一圖是一示意圖,說明本揭露實施例的一應用場景範例。
第二圖是根據本揭露一實施例,說明一地面目標定位系統之資料傳輸流程。
第三圖是根據本揭露的一實施例,說明一地面目標定位系統的各模組與各模組之間的運作。
第四圖是根據本揭露的一實施例,說明一地面目標定位方法的運作流程。
第五圖是根據本揭露一實施例的示意圖,說明將飛行姿態平滑化內插至地面目標的移動軌跡包含的每一影格。
第六圖是根據本揭露一實施例的示意圖,說明以特徵點追蹤地面目標的移動軌跡與平滑內插後側傾角數值變化進行匹配。
第七圖是根據本揭露一實施例的示意圖,說明攝影機座標轉換。
第八A圖與第八B圖是根據本揭露一實施例的示意圖,說明地面目標相對距離估測。
第九圖是本揭露的地面目標座標估測與習知的三角函數估測地面點座標,兩者的估測結果的一比較圖。
300...地面目標定位系統
310...飛行器
312...影像串流
314...位置資料
316...姿態資料
321...使用者點選裝置
321a...點選區域
323...影像暫存區
325...點選目標影像追蹤模組
325a...移動軌跡
327...影像與感測器資料序列同步化模組
327a...修正後的飛行器姿態資訊
329...地面目標座標估測模組
329a...即時地理位置
333...誤差縮減濾波器

Claims (15)

  1. 一種地面目標定位系統,搭配一飛行器來運作,該飛行器擷取並傳回空拍影像串流及其本身的位置與姿態資料,該系統包含:一影像暫存區,用來儲存該空拍影像串流;一使用者點選裝置,透過該使用者點選裝置,從該空拍影像串流中選定一地面目標後,傳送出包含該地面目標的一點選區域;一點選目標影像追蹤模組,追蹤該點選區域以得到該地面目標在該空拍影像串流中的移動軌跡;一影像與感測器資料序列同步化模組,在獲得每一時間區間的一筆飛行器的姿態資料後,利用該地面目標的移動軌跡來消除飛行器姿態資訊時間差;以及一地面目標座標估測模組,利用該地面目標的移動軌跡,從包含該地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出該地面目標的一地理位置;其中該飛行器的姿態資料包含該飛行器的俯仰角與翻轉的姿態資訊。
  2. 如申請專利範圍第1項所述之地面目標定位系統,該系統採用一誤差縮減濾波器來提升飛行器姿態資訊的精確度,再將飛行器的位置資料與已提升精確度的飛行器姿態資訊傳送給該影像與感測器資料序列同步化模組。
  3. 如申請專利範圍第1項所述之地面目標定位系統,其中該影像與感測器資料序列同步化模組執行飛行器姿態 資料平滑內插以及感測器資料修正。
  4. 如申請專利範圍第1項所述之地面目標定位系統,其中該點選目標影像追蹤模組採用特徵點偵測及光流法追蹤該點選區域,並配合單應性轉換矩陣估測、卡曼濾波器追蹤以及粗差點去除技術,來穩定且平滑的鎖定追蹤該地面目標。
  5. 如申請專利範圍第1項所述之地面目標定位系統,其中該飛行器裝有一空照影像擷取裝置以即時影像擷取、一全球定位系統感測器以即時獲取該飛行器的位置資料、以及一慣性感測器以獲取該飛行器的姿態資料。
  6. 如申請專利範圍第1項所述之地面目標定位系統,其中該地理位置是地表上的一地理位置,係使用大地基準及座標格式兩個參數來標示。
  7. 如申請專利範圍第5項所述之地面目標定位系統,其中該空照影像擷取裝置以斜前方的方向來擷取影像。
  8. 一種地面目標定位方法,搭配一飛行器來運作,該方法包含:該飛行器以無線傳輸傳回空拍影像串流及該飛行器的飛行資訊;由使用者透過一使用者點選裝置,從傳回的空拍影像串流中選定一地面目標後並點選包含該地面目標的一點選區域;追蹤該點選區域,以得到該地面目標在該空拍影像串流中的移動軌跡;在獲得每一時間區間的一筆飛行器的飛行資訊後,將該 飛行資訊平滑化內插至空拍影像的影格,並且利用該地面目標的移動軌跡,將空拍影像與飛行器的飛行資訊序列同步化;以及利用該地面目標的移動軌跡,從包含該地面目標的影像中,選出多組飛行器姿態值差距在一誤差範圍內的影像並估算出該地面目標的一地理位置。
  9. 如申請專利範圍第8項所述之地面目標定位方法,其中該飛行器的飛行資訊包含該飛行器的姿態資料與位置資料。
  10. 如申請專利範圍第9項所述之地面目標定位方法,其中該空拍影像與飛行器的飛行資訊序列同步化包含:利用先前追蹤地面目標的移動軌跡與平滑後的側傾角值變化,來進行匹配,以消除飛行器的姿態資訊時間差。
  11. 如申請專利範圍第8項所述之地面目標定位方法,其中該估算出該地面目標的一地理位置包含:選取兩張側傾角值近似相同,且包含該地面目標的影像,以計算出兩張影像之首張影像被擷取時,該地面目標與飛行器的相對距離;以及將該相對距離加上該首張影像被擷取時,該飛行器的一地理位置座標,以估算出該地面目標的該地理位置。
  12. 如申請專利範圍第9項所述之地面目標定位方法,其中該飛行器裝有一空照影像擷取裝置以即時影像擷取、一全球定位系統感測器以即時獲取該飛行器的位置資料、以及一慣性感測器以獲取該飛行器的姿態資料。
  13. 如申請專利範圍第12項所述之地面目標定位方法,其 中該估算出該地面目標的一地理位置包含:將該空照影像擷取裝置固定在一定俯仰角的情況下,透過一透視轉換方法,將該空照影像擷取裝置視角中的每一點的影像座標值,轉換為相對應於該空照影像擷取裝置之距地高度的比例值;以及由該地面目標的移動量得到該空照影像擷取裝置之距地高度。
  14. 如申請專利範圍第10項所述之地面目標定位方法,其中消除飛行器的姿態資訊時間差之後,該方法採用追蹤該地面目標的移動距離來做為估測該地面目標之地面座標的基礎。
  15. 如申請專利範圍第8項所述之地面目標定位方法,該方法使用大地座標來表示該地理位置是地表上的一地理位置,該大地座標以大地基準及座標格式兩個參數來標示。
TW100138374A 2011-10-21 2011-10-21 地面目標定位系統與方法 TWI444593B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
TW100138374A TWI444593B (zh) 2011-10-21 2011-10-21 地面目標定位系統與方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW100138374A TWI444593B (zh) 2011-10-21 2011-10-21 地面目標定位系統與方法

Publications (2)

Publication Number Publication Date
TW201317544A TW201317544A (zh) 2013-05-01
TWI444593B true TWI444593B (zh) 2014-07-11

Family

ID=48871841

Family Applications (1)

Application Number Title Priority Date Filing Date
TW100138374A TWI444593B (zh) 2011-10-21 2011-10-21 地面目標定位系統與方法

Country Status (1)

Country Link
TW (1) TWI444593B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10009518B2 (en) 2015-10-30 2018-06-26 Industrial Technology Research Institute Detachable aerial photographic apparatus
US10200574B2 (en) 2016-11-11 2019-02-05 Industrial Technology Research Institute Method and system for generating a video frame
TWI657011B (zh) * 2017-11-30 2019-04-21 財團法人工業技術研究院 無人機、無人機控制系統及控制方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201709000A (zh) * 2015-08-26 2017-03-01 Nat Chin-Yi Univ Of Tech 無人飛行載具帶位服務管理方法及系統
TWI571717B (zh) * 2015-08-26 2017-02-21 國立勤益科技大學 無人飛行器大樓監控管理方法及系統
TWI579671B (zh) * 2015-08-27 2017-04-21 國立虎尾科技大學 結合無人飛行載具的行動式追蹤紀錄系統
TWI626425B (zh) * 2016-05-10 2018-06-11 國立高雄大學 具備高機動性的夜間機動地形掃瞄裝置及方法
TWI640931B (zh) * 2017-11-23 2018-11-11 財團法人資訊工業策進會 影像目標追蹤方法及裝置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10009518B2 (en) 2015-10-30 2018-06-26 Industrial Technology Research Institute Detachable aerial photographic apparatus
US10200574B2 (en) 2016-11-11 2019-02-05 Industrial Technology Research Institute Method and system for generating a video frame
TWI657011B (zh) * 2017-11-30 2019-04-21 財團法人工業技術研究院 無人機、無人機控制系統及控制方法
US10703479B2 (en) 2017-11-30 2020-07-07 Industrial Technology Research Institute Unmanned aerial vehicle, control systems for unmanned aerial vehicle and control method thereof

Also Published As

Publication number Publication date
TW201317544A (zh) 2013-05-01

Similar Documents

Publication Publication Date Title
TWI444593B (zh) 地面目標定位系統與方法
US20210012520A1 (en) Distance measuring method and device
US10605601B2 (en) Surveying system
CN110675450B (zh) 基于slam技术的正射影像实时生成方法及系统
US8078396B2 (en) Methods for and apparatus for generating a continuum of three dimensional image data
US10789673B2 (en) Post capture imagery processing and deployment systems
CN108335337B (zh) 一种正射影像图的生成方法及装置
CN108810473B (zh) 一种在移动平台上实现gps映射摄像机画面坐标的方法及系统
WO2022077296A1 (zh) 三维重建方法、云台负载、可移动平台以及计算机可读存储介质
CN112634370A (zh) 一种无人机打点方法、装置、设备及存储介质
CN113029128B (zh) 视觉导航方法及相关装置、移动终端、存储介质
CN106643670A (zh) 一种无人机航摄站点坐标求解装置及方法
CN110986888A (zh) 一种航空摄影一体化方法
CN109146936A (zh) 一种图像匹配方法、装置、定位方法及系统
CN114429515A (zh) 一种点云地图构建方法、装置和设备
CN114494984B (zh) 基于无人机航拍数据的随遇静目标三维重建与定位的方法
JP2004177362A (ja) 位置計測方法、位置計測装置、位置計測方法のプログラム、およびこのプログラムを記録した記録媒体
KR20130055447A (ko) 모자이크 영상 생성 장치 및 방법
JP3759712B2 (ja) カメラパラメータ推定方法、装置、プログラム、および記録媒体
Kong et al. Diseased Crop Removal Assistance System Using Augmented Reality and Drones
Yingcai Multi-Sensor State Estimation for Micro Aerial Vehicles in Complex Environments
CN116977400A (zh) 一种面积测算方法及装置
JP2023110400A (ja) 情報処理装置、情報処理方法及び情報処理プログラム
Sambolek et al. Determining the Geolocation of a Person Detected in an Image Taken with a Drone
CN113532390A (zh) 一种基于人工智能技术的目标定位方法、装置及存储介质