TWI740565B - 改善遙測影像品質的方法、電腦程式產品及系統 - Google Patents

改善遙測影像品質的方法、電腦程式產品及系統 Download PDF

Info

Publication number
TWI740565B
TWI740565B TW109122673A TW109122673A TWI740565B TW I740565 B TWI740565 B TW I740565B TW 109122673 A TW109122673 A TW 109122673A TW 109122673 A TW109122673 A TW 109122673A TW I740565 B TWI740565 B TW I740565B
Authority
TW
Taiwan
Prior art keywords
image
telemetry
small
tiles
overlap
Prior art date
Application number
TW109122673A
Other languages
English (en)
Other versions
TW202203080A (zh
Inventor
張菀珊
蔡坤龍
顧正偉
孫嘉陽
李柏穎
張宏生
Original Assignee
財團法人國家實驗研究院國家高速網路與計算中心
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 財團法人國家實驗研究院國家高速網路與計算中心 filed Critical 財團法人國家實驗研究院國家高速網路與計算中心
Priority to TW109122673A priority Critical patent/TWI740565B/zh
Application granted granted Critical
Publication of TWI740565B publication Critical patent/TWI740565B/zh
Publication of TW202203080A publication Critical patent/TW202203080A/zh

Links

Images

Landscapes

  • Image Processing (AREA)

Abstract

一種改善遙測影像品質的方法包括:利用對應於第一遙測影像之多個切割圖磚透過一影像生成模組進行推論,以產生多個推論影像,其中任二個相鄰的切割圖磚具有局部相同的地理位置;以及,羽化合成多個推論影像,並產生一理想遙測影像。

Description

改善遙測影像品質的方法、電腦程式產品及系統
本發明是有關一種改善影像品質的方法、電腦程式產品及系統,特別是一種適於產生理想品質影像的改善遙測影像品質的方法、電腦程式產品及系統。
透過衛星設備所取得之遙測影像可能有雜訊、失焦、波紋等品質不佳的問題,從而影響到例如但不限於偵測地表物件等後續相關應用的成果。如欲改良硬體以提升影像品質,對衛星設備而言,其所費不貲。相較之下,透過軟體處理品質不佳的遙測影像是較常用的解決方案,例如:透過深度學習演算法改善遙測影像品質不佳的問題。
發明人認識到,在深度學習演算法的訓練中常會因為硬體限制而無法達到理想的訓練結果,例如:受限於有限的記憶體容量或僅使用單一尺寸影像進行深度學習訓練。倘若考量單一影像尺寸太大,需要先切割為多個區塊、再進行深度學習訓練,後續合成影像時,將導致成果影像在接縫處出現明顯的格線而具有較差影像品質,並產生影像細節失真及顏色不均勻的問題。有鑑於此,本發明之一些實施例提供一種改善遙測影像品質的方法、電腦程式產品及系統,特別是一種適於產生理想品質影像的改善遙測影像品質的方法、電腦程式產品及系統。
依據本發明一些實施例,一種改善遙測影像品質的方法包括:利用對應於第一遙測影像之多個切割圖磚,透過一影像生成模組進行推論,以產生多個推論影像,其中相鄰之二個切割圖磚具有局部相同的地理位置;以及羽化合成多個推論影像,並產生一理想遙測影像。
依據本發明一些實施例,更包括:分別依據第一重疊規則及一第二重疊規則,切割該第一遙測影像及一第二遙測影像,以分別產生多個大訓練組及多個小訓練組,其中每一個大訓練組包含對應於相同地理位置且皆具有一大解析度尺寸的一第一大圖磚及一第二大圖磚,且每一個小訓練組包含對應於相同地理位置且皆具有一小解析度尺寸的一第一小圖磚及一第二小圖磚;以及利用多個大訓練組及該多個小訓練組,訓練一生成對抗網路之一生成器,以產生影像生成模型。
依據本發明一些實施例,分別依據第一重疊規則及第二重疊規則,切割第一遙測影像及第二遙測影像之步驟包含:依據第一重疊規則,以局部像素重疊的方式切割第一遙測影像及第二遙測影像,並輸出對應於第一遙測影像之多個第一大圖磚及對應於第二遙測影像之多個第二大圖磚,其中相鄰之二個第一大圖磚具有局部相同的地理位置,且相鄰之二個第二大圖磚具有局部相同的地理位置;以及依據第二重疊規則,以局部像素重疊的方式切割第一遙測影像及第二遙測影像,並輸出對應於第一遙測影像之多個第一小圖磚及對應於第二遙測影像之多個第二小圖磚,其中相鄰之二個第一小圖磚具有局部相同的地理位置,且相鄰之二個第二小圖磚具有局部相同的地理位置。
依據本發明一些實施例,其中在利用對應於第一遙測影像之多個切割圖磚,透過該影像生成模組進行推論之步驟前,更包含:依據局部像素重疊的方式切割第一遙測影像,並輸出多個切割圖磚。
依據本發明一些實施例,其中生成對抗網路利用多個大訓練組及多個小訓練組訓練一生成器之步驟包含:依據一第一放大率,將第一大圖磚及第二大圖磚由大解析度尺寸放大至一模型解析度尺寸;以及依據一第二放大率,將第一小圖磚及第二小圖磚由小解析度尺寸放大至模型解析度尺寸,其中第二放大率大於第一放大率。
依據本發明一些實施例,其中在切割第一遙測影像及第二遙測影像之步驟前,更包含:取得對應於相同地理位置的第一遙測影像及第二遙測影像。
依據本發明一些實施例,一種電腦程式產品,包括一組指令,當電腦載入並執行該組指令後能完成如前所述之方法。
依據本發明一些實施例,一種適於改善遙測影像品質的電腦系統包含:一生成對抗網路以及一影像處理模組。生成對抗網路用以利用對應於第一遙測影像之多個切割圖磚進行推論,以產生多個推論影像。其中相鄰之二個切割圖磚具有局部相同的地理位置。影像處理模組電性連接於生成對抗網路。影像處理模組用以羽化合成多個推論影像,並產生一理想遙測影像。
依據本發明一些實施例,其中生成對抗網路更包含一生成器。生成對抗網路用以利用多個大訓練組及多個小訓練組,訓練生成器,以產生影像生成模型。電腦系統更包括一影像切割模組,電性連接於影像處理模組。影像切割模組用以分別依據一第一重疊規則及一第二重疊規則,切割第一遙測影像及一第二遙測影像,以分別產生多個大訓練組及多個小訓練組。其中每一個大訓練組包含對應於相同地理位置且皆具有一大解析度尺寸的一第一大圖磚及一第二大圖磚,且每一個小訓練組包含對應於相同地理位置且皆具有一小解析度尺寸的一第一小圖磚及一第二小圖磚。
依據本發明一些實施例,其中影像切割模組用以依據第一重疊規則,以局部像素重疊的方式切割第一遙測影像及第二遙測影像,並輸出對應於第一遙測影像之多個第一大圖磚及對應於第二遙測影像之多個第二大圖磚,其中相鄰之二個第一大圖磚具有局部相同的地理位置,且相鄰之二個第二大圖磚具有局部相同的地理位置,以及依據第二重疊規則,以局部像素重疊的方式切割第一遙測影像及第二遙測影像,並輸出對應於第一遙測影像之多個第一小圖磚及對應於第二遙測影像之多個第二小圖磚,其中相鄰之二個第一小圖磚具有局部相同的地理位置,且相鄰之二個第二小圖磚具有局部相同的地理位置。
依據本發明一些實施例,其中影像切割模組更用以依據局部像素重疊的方式切割第一遙測影像,並輸出多個切割圖磚。
依據本發明一些實施例,其中生成對抗網路更用以依據一第一放大率,將第一大圖磚及第二大圖磚由大解析度尺寸放大至一模型解析度尺寸,以及依據一第二放大率,將第一小圖磚及第二小圖磚由小解析度尺寸放大至模型解析度尺寸,其中第二放大率大於第一放大率。
依據本發明一些實施例,其中影像處理模組更用以取得對應於相同地理位置的第一遙測影像及第二遙測影像。
藉此,依據一些實施例,改善遙測影像品質的方法預先將待提升品質影像(即第一遙測影像)和理想品質影像(即第二遙測影像)進行影像資料前處理以分批切割,產生解析度尺寸相異而地理位置局部相同的多批影像訓練資料(即大訓練組及小訓練組),可供高效率地訓練生成對抗網路,使生成對抗網路針對圖磚邊緣影像特徵及細節的生成與判別能力更佳。於此,透過影像生成模型產生多個推論影像,再進行合成而生成理想遙測影像,該理想遙測影像具有理想影像品質但保有第一遙測影像之既有影像特徵及細節,改善接縫處的格線問題;由於該理想遙測影像是一次性根據影像特徵所生成,更進一步解決顏色不均問題或實施顏色校正,並針對遙測影像進行風格轉換。此外,相較於先前技術僅利用單一解析度尺寸及單一放大率來進行深度學習訓練的缺陷,本發明之一些實施例透過不同解析度尺寸及不同放大率來改善推論影像品質,並保有既有影像特徵及細節。
以下藉由具體實施例配合所附的圖式詳加說明,當更容易瞭解本發明之目的、技術內容、特點及其所達成之功效。
以下將詳述本發明之各實施例,並配合圖式作為例示。在說明書的描述中,為了使讀者對本發明有較完整的瞭解,提供了許多特定細節;然而,本發明可能在省略部分或全部特定細節的前提下仍可實施。圖式中相同或類似之元件將以相同或類似符號來表示。特別注意的是,圖式僅為示意之用,並非代表元件實際之尺寸或數量,有些細節可能未完全繪出,以求圖式之簡潔。
圖1為依據本發明一些實施例之電腦系統的功能方塊圖。圖2為圖1所示實施例之生成對抗網路的功能方塊圖。圖3為依據本發明一些實施例之方法流程示意圖。圖4為依據本發明一些實施例之第一遙測影像及第二遙測影像按第一重疊規則之切割示意圖。圖5為依據本發明一些實施例之第一遙測影像及第二遙測影像按第二重疊規則之切割示意圖。
請一併參照圖1至圖3,顯示本發明任一實施例之改善遙測影像品質的方法可由一電腦程式實現,以致於當如圖1所例示之電腦系統,亦即,包含影像切割模組1、生成對抗網路2及影像處理模組3之任意電子裝置(例如:伺服器或雲端主機)載入程式並執行後可完成任一實施例之改善遙測影像品質的方法。在一些實施例中,生成對抗網路2包含生成網路20及對抗網路22,兩者相互博弈對抗直到達到均衡,其中生成網路20包含用於產生影像生成模型的生成器200。
請參照圖4,在一些實施例中,影像切割模組1依據第一重疊規則,切割第一遙測影像A1,產生具有相同尺寸大小的多個第一大圖磚B11、B12;另一方面,影像切割模組1依據第一重疊規則,切割第二遙測影像A2,產生具有相同尺寸大小的多個第二大圖磚B21、B22,其中相鄰的二個第一大圖磚B11、B12的影像邊緣部分相互重疊,相鄰的二個第二大圖磚B21、B22的影像邊緣部分相互重疊,而且多個第一大圖磚B11、B12及多個第二大圖磚B21、B22均具有相同的大解析度尺寸,亦即該些大圖磚具有相同的面積大小,所述大解析度尺寸是指對應於第一重疊規則所產生之圖磚尺寸大小,簡言之,第一重疊規則是指將遙測影像切割為具有相同的大解析度尺寸且邊緣影像部分相互重疊的多個圖磚。舉例而言,相鄰的第一大圖磚B11及另一第一大圖磚B12在重疊區域R中的邊緣影像彼此相互重疊,且經切割所產生的多個第一大圖磚B11、B12皆具有相同的圖磚尺寸。
於此,對應於同一地理位置的一第一大圖磚B11及一第二大圖磚B21配對湊為一批訓練影像資料,而對應於另一地理位置的另一第一大圖磚B12及另一第二大圖磚B22配對湊為另一批訓練影像資料,本揭露將依據第一重疊規則所獲得之多批訓練影像資料定義為多個大訓練組,亦即大訓練組是指按第一重疊規則分別切割第一遙測影像A1及第二遙測影像A2所產生的且地理位置相對應的多組訓練影像資料。因此,每一個大訓練組包含對應於相同地理位置且皆具有一大解析度尺寸的一第一大圖磚B11及一第二大圖磚B21,其中所述地理位置可為但不限於:全球衛星定位(GPS)座標、透過光學/影像處理設備或目視判斷影像邊界(視覺化邊界限定)。
請參照圖5,在一些實施例中,影像切割模組1依據第二重疊規則,切割第一遙測影像A1,產生具有相同尺寸大小的多個第一小圖磚B31、B32;另一方面,影像切割模組1依據第二重疊規則,切割第二遙測影像A2,產生具有相同尺寸大小的多個第二小圖磚B41、B42,其中相鄰的二個第一小圖磚B31、B32的影像邊緣部分相互重疊,相鄰的二個第二小圖磚B41、B42的影像邊緣部分相互重疊,而且多個第一小圖磚B31、B32及多個第二小圖磚B41、B42均具有相同的小解析度尺寸,亦即該些小圖磚具有相同的面積大小,所述小解析度尺寸是指對應於第二重疊規則所產生之圖磚尺寸大小,其中小解析度尺寸的面積小於大解析度尺寸的面積,簡言之,第二重疊規則是指將遙測影像切割為具有相同的小解析度尺寸且邊緣影像部分相互重疊的多個圖磚。舉例而言,相鄰的第一小圖磚B31及另一第一小圖磚B32在重疊區域R中的邊緣影像彼此相互重疊,且經切割所產生的多個第一小圖磚B31、B32皆具有相同的圖磚尺寸。
於此,對應於同一地理位置的一第一小圖磚B31及一第二小圖磚B41配對湊為一批訓練影像資料,而對應於另一地理位置的另一第一小圖磚B32及另一第二小圖磚B42配對湊為另一批訓練影像資料,本揭露將依據第二重疊規則所獲得之多批訓練影像資料定義為多個小訓練組,亦即小訓練組是指按第二重疊規則分別切割第一遙測影像A1及第二遙測影像A2所產生的且地理位置相對應的多組訓練影像資料。因此,每一個小訓練組包含對應於相同地理位置且皆具有一小解析度尺寸的一第一小圖磚及一第二小圖磚。需說明的是,前述大解析度尺寸的面積大於小解析度尺寸的面積,詳言之,第一大圖磚B11、B12的面積等於第二大圖磚B21、B22的面積,第一小圖磚B31、B32的面積等於第二小圖磚B41、B42的面積,且第一大圖磚B11、B12的面積大於第一小圖磚B31、B32的面積。
承前所述,影像切割模組1分別依據一第一重疊規則及一第二重疊規則,切割一第一遙測影像A1及一第二遙測影像A2,以分別產生多個大訓練組及多個小訓練組,其中每一個大訓練組包含對應於相同地理位置且皆具有大解析度尺寸的第一大圖磚B11及第二大圖磚B21,且每一個小訓練組包含對應於相同地理位置且皆具有小解析度尺寸的第一小圖磚B31及第二小圖磚B41(步驟S1)。亦即,影像切割模組1對第一遙測影像A1及第二遙測影像A2進行影像資料前處理,切割成:(一)相鄰影像間邊緣地理位置局部重疊,以及(二)不同解析度尺寸的多個圖磚。
隨後,生成對抗網路2利用上述大訓練組及多個小訓練組,分批訓練兩個相互競爭的神經網路,即生成網路(GENERATOR)20與對抗網路(DISCRIMINATOR)22,同時也將訓練到生成網路20中的生成器200,其中生成器200可用於產生影像生成模型。簡言之,利用多個大訓練組及多個小訓練組,訓練生成對抗網路2之生成器200,以產生影像生成模型(步驟S2)。
接著,取得待提升品質影像(即第一遙測影像A1)所對應的多個切割圖磚,並將多個切割圖磚輸入影像生成模型,以產生多個推論影像,其中相鄰之二個切割圖磚具有局部相同的地理位置,亦即相鄰的切割圖磚的邊緣影像彼此相互重疊。在一些實施例中,該些切割圖磚可以是從外部獲得,而無需經影像切割模組1處理。在一些實施例中,該些切割圖磚是前述多個第一大圖磚B11、B12以外尚未被用於訓練生成對抗網路2的其餘第一大圖磚,但不限於此。換言之,影像生成模型利用對應於第一遙測影像A1之多個切割圖磚(無論是否曾被使用於訓練生成對抗網路2程序)進行推論,以產生多個推論影像,其中相鄰之二個切割圖磚具有局部相同的地理位置(步驟S3)。需注意者,進行推論僅需使用生成網路20的生成器200及其影像生成模型,暫無需使用對抗網路22。
最後,羽化合成多個推論影像,並產生一理想遙測影像A3(步驟S4)。由於影像生成模組對於圖磚邊緣影像特徵及細節的生成能力較佳,因此,經由多個推論影像拼接出的理想遙測影像A3仍能保留第一遙測影像A1的既有特徵及細節。
舉例而言,請參照圖6,第一遙測影像A1及第二遙測影像A2是對應於相同地理位置的衛星遙測影像,惟二者具有不同的影像品質,其中第一遙測影像A1有雜訊、失焦、波紋等品質不佳的問題,稱為待提升品質的影像資料,而第二遙測影像A2具有較佳的影像品質,稱為理想品質的影像資料。第一遙測影像A1可由第一號衛星所拍攝,第二遙測影像A2可由第二號衛星所拍攝,除了拍攝影像的衛星設備有所不同外,拍攝時間也可以有所不同,例如:第一遙測影像A1的拍攝日期晚於第二遙測影像A2。進一步言,觀察在不同時期所拍攝遙測影像,由對應於相同地理位置的第一區塊Z1及第二區塊Z2可知,較晚拍攝所得之第一區塊Z1顯示3棟地表建物,而較早拍攝所得之第二區塊Z2僅顯示1棟地表建物。經合成推論影像所得之理想遙測影像A3,其具有相同或近似於第二遙測影像A2的理想影像品質,且仍保有第一遙測影像A1的既有影像特徵及細節,更明顯改善第一遙測影像A1的雜訊、失焦、波紋等問題。如圖6所示,理想遙測影像A3中理想區塊Z3顯示3棟地表建物保留第一遙測影像A1中第一區塊Z1既有的3棟地表建物,而不會在切割、推論、合成等過程中流失影像特徵及細節,且不會產生接縫格線。
依據上述方法流程,在一些實施例中,改善遙測影像品質的方法預先將待提升品質影像(即第一遙測影像A1)和理想品質影像(即第二遙測影像A2)進行影像資料前處理以分批切割,產生解析度尺寸相異而地理位置局部相同的多批影像訓練資料(即大訓練組和小訓練組),可供高效率地訓練生成對抗網路2,使生成對抗網路2針對圖磚邊緣影像特徵及細節的生成與判別能力更佳。於此,透過影像生成模型產生多個推論影像,再進行合成而生成理想遙測影像A3,該理想遙測影像A3具有理想影像品質但保有第一遙測影像A1之既有影像特徵及細節,改善接縫處的格線問題;由於該理想遙測影像A3是一次性根據影像特徵所生成,更進一步解決顏色不均問題或實施顏色校正,並針對遙測影像進行風格轉換。
請繼續參照圖4及圖5,在一些實施例中,第一重複規則及第二重複規則適用於切割第一遙測影像及第二遙測影像的相關實施細節說明如下。影像切割模組1依據第一重疊規則,以局部像素重疊的方式切割第一遙測影像A1及第二遙測影像A2,並輸出對應於第一遙測影像A1之多個第一大圖磚B11、B12及對應於第二遙測影像A2之多個第二大圖磚B21、B22,其中相鄰之二個第一大圖磚B11、B12具有局部相同的地理位置。舉例而言,相鄰的第一大圖磚B11及另一第一大圖磚B12在重疊區域R中的邊緣影像彼此相互重疊,亦即相鄰的二個第一大圖磚B11、B12的邊緣影像在重疊區域R中具有相同的地理位置座標,其中重疊區域R的寬度可為但不限於具有10個像素大小的距離,且經切割所產生的多個第一大圖磚B11、B12皆具有相同的面積大小,例如但不限於:影像邊長250(pixel)*250(pixel)的大解析度尺寸。
另一方面,影像切割模組1依據第二重疊規則,以局部像素重疊的方式切割第一遙測影像A1及第二遙測影像A2,並輸出對應於第一遙測影像A1之多個第一小圖磚B31、B32及對應於第二遙測影像A2之多個第二小圖磚B41、B42,其中相鄰之二個第一小圖磚B31、B32具有局部相同的地理位置。舉例而言,相鄰的第一小圖磚B31及另一第一小圖磚B32在重疊區域R中的邊緣影像彼此相互重疊,亦即相鄰的二個第一小圖磚B31、B32位於重疊區域R中的局部影像皆具有相同的地理位置座標,其中重疊區域R的寬度可為但不限於具有10個像素大小的距離,且經切割所產生的多個第一小圖磚B31、B32皆具有相同的面積大小,例如但不限於:影像邊長150(pixel)*150(pixel)的小解析度尺寸。
在一些實施例中,影像生成模型可供設定一模型解析度尺寸,用於調控推論影像的解析度尺寸,亦即,影像生成模型所產生的推論影像大小符合模型解析度尺寸,例如但不限於:影像邊長300(pixel)*300(pixel)的模型解析度尺寸。據此,生成對抗網路2依據第一放大率,將第一大圖磚B11、B12及第二大圖磚B21、B22由大解析度尺寸(如:250*250 像素平方)放大至模型解析度尺寸(如:300*300 像素平方),另一方面,生成對抗網路2依據第二放大率,將第一小圖磚B31、B32及第二小圖磚B41、B42由小解析度尺寸(如:150*150 像素平方)放大至模型解析度尺寸(如:300*300 像素平方)。整體而言,生成對抗網路2利用多個大訓練組及多個小訓練組,依據訓練生成器200之步驟包含:依據第一放大率,將第一大圖磚B11、B12及第二大圖磚B21、B22由大解析度尺寸放大至模型解析度尺寸;以及依據第二放大率,將第一小圖磚B31、B32及第二小圖磚B41、B42由小解析度尺寸放大至模型解析度尺寸,其中第二放大率大於第一放大率。藉此,相較於先前技術僅利用單一解析度尺寸及單一放大率來進行深度學習訓練的缺陷,上述實施例透過不同解析度尺寸及不同放大率來改善推論影像品質,並保有既有影像特徵及細節。
請參照圖7為依據本發明一些實施例之改善遙測影像品質的方法的步驟流程示意圖。倘若第一遙測影像A1的原始尺寸大於第二遙測影像A2的原始尺寸,則在後續流程中,可能會出現無法完整配對並產生大/小訓練組的現象,反之亦然。因此,在切割第一遙測影像A1及第二遙測影像A2之步驟前,更包含:取得對應於相同地理位置的第一遙測影像A1及第二遙測影像A2(步驟S10)。
在一些實施例中,第一遙測影像A1是大型遙測影像,受限於電腦系統的記憶體/儲存單元有限,難以直接使用完整的大型遙測影像利用影像生成模型進行推論。因此,可依照影像生成模型的需求,將第一遙測影像A1先切割為較小的多個切割圖磚,但要注意的是,相鄰之二個切割圖磚仍須符合局部地理位置相同之條件,即彼此影像邊緣局部相互重疊。於此,在輸入第一遙測影像A1並依據影像生成模型進行推論之步驟前,更包含:依據局部像素重疊的方式切割第一遙測影像A1,並輸出多個切割圖磚(步驟S30),並將該些切割圖磚輸入影像生成模組,以產生對應的該些推論影像。
在一些實施例中,適於改善遙測影像品質的電腦程式產品是由一組指令所組成,當諸如電腦系統等電子裝置載入並執行該組指令後能完成上述任一實施例之改善遙測影像品質的方法。
請繼續參照圖1及圖2,顯示本發明一實施例之適於改善遙測影像品質的電腦系統的功能方塊圖。如前所述,電腦系統可為包含前述之影像切割模組1、前述之生成對抗網路2及前述之影像處理模組3之任意電子裝置,例如:伺服器或雲端主機。
生成對抗網路2電性連接於影像切割模組1。生成對抗網路2包含一生成器200。
影像處理模組3電性連接於影像切割模組1及生成對抗網路2。在一些實施例中,影像切割模組1與影像處理模組3可整合為同一運算模組,如:積體電路,加以實現。
在一些實施例中,影像切割模組1、生成對抗網路2與影像處理模組3可由一個或多個諸如微處理器、微控制器、數位信號處理器、微型計算機、中央處理器、場編程閘陣列、可編程邏輯設備、狀態器、邏輯電路、類比電路、數位電路和/或任何基於操作指令操作信號(類比和/或數位)的處理元件來執行對應演算法,加以實現。
綜合上述,依據一些實施例,改善遙測影像品質的方法預先將待提升品質的第一遙測影像A1和具有理想影像品質的第二遙測影像A2分批切割進行影像資料前處理,產生具有不同的解析度尺寸大小且邊緣影像局部重疊的多批影像訓練資料(即大訓練組及小訓練組),可供高效率地訓練生成對抗網路2,使生成對抗網路2針對圖磚邊緣影像特徵及細節的生成與判別能力更佳。於此,透過影像生成模型產生多個推論影像,再進行合成而獲得理想遙測影像A3,其具有理想影像品質但保有第一遙測影像A1之既有影像特徵。相較於先前技術僅利用單一解析度尺寸及單一放大率來進行深度學習訓練的缺陷,上述諸多實施例透過不同解析度尺寸及不同放大率來改善推論影像品質,並透過相鄰影像間邊緣地理位置(或像素)局部重疊方式來保有既有影像特徵及細節。由於推論影像邊緣彼此重疊,可以幫助推論時完整推論影像邊緣理想的樣子,進行合成後,可進一步將邊緣平滑,讓拼接處不會出現明顯的格線。藉此,合成的理想遙測影像A3能保留第一遙測影像A1的既有影像細節及特徵,改善接縫處的格線問題,並且一次性根據影像特徵去生成理想遙測影像A3,可解決顏色不均的問題或進行顏色校正,並針對遙測影像進行風格轉換。
以上所述之實施例僅是為說明本發明之技術思想及特點,其目的在使熟習此項技藝之人士能夠瞭解本發明之內容並據以實施,當不能以此限定本發明之專利範圍,即大凡依本發明所揭示之精神所作之均等變化或修飾,仍應涵蓋在本發明之專利範圍內。
S1~S4,S10,S30:步驟 A1:第一遙測影像 A2:第二遙測影像 A3:理想遙測影像 B11,B12:第一大圖磚 B21,B22:第二大圖磚 B31,B32:第一小圖磚 B41,B42:第二小圖磚 R:重疊區域 Z1:第一區塊 Z2:第二區塊 Z3:理想區塊 1:影像切割模組 2:生成對抗網路 20:生成網路 200:生成器 22:對抗網路 3:影像處理模組
[圖1]為依據本發明一些實施例之電腦系統的功能方塊圖。 [圖2]為圖1所示實施例之生成對抗網路的功能方塊圖。 [圖3]為依據本發明一些實施例之方法流程示意圖。 [圖4]為依據本發明一些實施例之第一遙測影像及第二遙測影像按第一重疊規則之切割示意圖。 [圖5]為依據本發明一些實施例之第一遙測影像及第二遙測影像按第二重疊規則之切割示意圖。 [圖6]為依據本發明一些實施例之遙測影像品質改善之比對示意圖。 [圖7]為依據本發明一些實施例之改善遙測影像品質的方法的步驟流程示意圖。
S1~S4:步驟

Claims (9)

  1. 一種改善遙測影像品質的方法,包括:分別依據一第一重疊規則及一第二重疊規則,切割一第一遙測影像及一第二遙測影像,以分別產生多個大訓練組及多個小訓練組,其中每一該大訓練組包含對應於相同地理位置且皆具有一大解析度尺寸的一第一大圖磚及一第二大圖磚,且每一該小訓練組包含對應於相同地理位置且皆具有一小解析度尺寸的一第一小圖磚及一第二小圖磚;利用該多個大訓練組及該多個小訓練組,訓練一生成對抗網路之一生成器,以產生一影像生成模型;利用對應於一待提升品質影像之多個切割圖磚,透過該影像生成模組進行推論,以產生多個推論影像,其中相鄰之該二個切割圖磚具有局部相同的地理位置;以及將各該推論影像的邊緣影像之局部相同地理位置彼此相互重疊,羽化及拼接該多個推論影像,以產生一理想遙測影像。
  2. 如請求項1所述之方法,其中分別依據該第一重疊規則及該第二重疊規則,切割該第一遙測影像及該第二遙測影像之步驟包含:依據該第一重疊規則,以局部像素重疊的方式切割該第一遙測影像及該第二遙測影像,並輸出對應於該第一遙測影像之該多個第一大圖磚及對應於該第二遙測影像之該多個第二大圖磚,其中相鄰之該二個第一大圖磚具有局部相同的地理位置,且相鄰之該二個第二大圖磚具有局部相同的地理位置;以及 依據該第二重疊規則,以局部像素重疊的方式切割該第一遙測影像及該第二遙測影像,並輸出對應於該第一遙測影像之該多個第一小圖磚及對應於該第二遙測影像之該多個第二小圖磚,其中相鄰之該二個第一小圖磚具有局部相同的地理位置,且相鄰之該二個第二小圖磚具有局部相同的地理位置。
  3. 如請求項1所述之方法,其中該生成對抗網路利用該多個大訓練組及該多個小訓練組,訓練該生成器之步驟包含:依據一第一放大率,將該第一大圖磚及該第二大圖磚由該大解析度尺寸放大至一模型解析度尺寸;以及依據一第二放大率,將該第一小圖磚及該第二小圖磚由該小解析度尺寸放大至該模型解析度尺寸,其中該第二放大率大於該第一放大率。
  4. 如請求項1所述之方法,其中在切割該第一遙測影像及該第二遙測影像之步驟前,更包含:取得對應於相同地理位置的該第一遙測影像及該第二遙測影像。
  5. 一種電腦程式產品,包括一組指令,當電腦載入並執行該組指令後能完成如請求項1至4中之任一項所述之方法。
  6. 一種適於改善遙測影像品質的電腦系統,包含:一生成對抗網路,用以利用對應於一待提升品質影像之多個切割圖磚,透過一影像生成模組進行推論,以產生多個推論影像,其中相鄰之該二個切割圖磚具有局部相同的地理位置,該生成對抗網路更包含一生成器,該生成對抗網路用以利用該多個大訓練組及該多個小訓練組,訓練該生成器,以產生該影像生成模型; 一影像處理模組,電性連接於該生成對抗網路,用以將各該推論影像的邊緣影像之局部相同地理位置彼此相互重疊,羽化及拼接該多個推論影像,以產生一理想遙測影像;以及一影像切割模組,電性連接於影像處理模組,用以分別依據一第一重疊規則及一第二重疊規則,切割一第一遙測影像及一第二遙測影像,以分別產生多個大訓練組及多個小訓練組,其中每一該大訓練組包含對應於相同地理位置且皆具有一大解析度尺寸的一第一大圖磚及一第二大圖磚,且每一該小訓練組包含對應於相同地理位置且皆具有一小解析度尺寸的一第一小圖磚及一第二小圖磚。
  7. 如請求項6所述之電腦系統,其中該影像切割模組用以依據該第一重疊規則,以局部像素重疊的方式切割該第一遙測影像及該第二遙測影像,並輸出對應於該第一遙測影像之該多個第一大圖磚及對應於該第二遙測影像之該多個第二大圖磚,其中相鄰之該二個第一大圖磚具有局部相同的地理位置,且相鄰之該二個第二大圖磚具有局部相同的地理位置,以及依據該第二重疊規則,以局部像素重疊的方式切割該第一遙測影像及該第二遙測影像,並輸出對應於該第一遙測影像之該多個第一小圖磚及對應於該第二遙測影像之該多個第二小圖磚,其中相鄰之該二個第一小圖磚具有局部相同的地理位置,且相鄰之該二個第二小圖磚具有局部相同的地理位置。
  8. 如請求項6所述之電腦系統,其中該生成對抗網路更用以依據一第一放大率,將該第一大圖磚及該第二大圖磚由該大解析度尺寸放大至一模型解析度尺寸,以及依據一第二放大率,將該第一小圖磚及該第 二小圖磚由該小解析度尺寸放大至該模型解析度尺寸,其中該第二放大率大於該第一放大率。
  9. 如請求項6所述之電腦系統,其中該影像處理模組更用以取得對應於相同地理位置的該第一遙測影像及該第二遙測影像。
TW109122673A 2020-07-03 2020-07-03 改善遙測影像品質的方法、電腦程式產品及系統 TWI740565B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
TW109122673A TWI740565B (zh) 2020-07-03 2020-07-03 改善遙測影像品質的方法、電腦程式產品及系統

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW109122673A TWI740565B (zh) 2020-07-03 2020-07-03 改善遙測影像品質的方法、電腦程式產品及系統

Publications (2)

Publication Number Publication Date
TWI740565B true TWI740565B (zh) 2021-09-21
TW202203080A TW202203080A (zh) 2022-01-16

Family

ID=78778053

Family Applications (1)

Application Number Title Priority Date Filing Date
TW109122673A TWI740565B (zh) 2020-07-03 2020-07-03 改善遙測影像品質的方法、電腦程式產品及系統

Country Status (1)

Country Link
TW (1) TWI740565B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101388043A (zh) * 2008-09-26 2009-03-18 北京航空航天大学 一种基于小块图片的ogc高性能遥感图像地图服务方法
CN105512661A (zh) * 2015-11-25 2016-04-20 中国人民解放军信息工程大学 一种基于多模态特征融合的遥感影像分类方法
CN106503093A (zh) * 2016-10-13 2017-03-15 华东师范大学 一种适用于分布式计算环境的大型遥感影像重构方法
CN107798731A (zh) * 2017-11-10 2018-03-13 泰瑞数创科技(北京)有限公司 一种基于卫星影像自动建模的方法
CN108304873A (zh) * 2018-01-30 2018-07-20 深圳市国脉畅行科技股份有限公司 基于高分辨率光学卫星遥感影像的目标检测方法及其系统
CN108491757A (zh) * 2018-02-05 2018-09-04 西安电子科技大学 基于多尺度特征学习的光学遥感图像目标检测方法
CN108564109A (zh) * 2018-03-21 2018-09-21 天津大学 一种基于深度学习的遥感图像目标检测方法
CN109886106A (zh) * 2019-01-15 2019-06-14 浙江大学 一种基于深度学习的遥感图像建筑物变化检测方法
CN109903299A (zh) * 2019-04-02 2019-06-18 中国矿业大学 一种条件式生成对抗网络的异源遥感图像配准方法及装置
CN109978897A (zh) * 2019-04-09 2019-07-05 中国矿业大学 一种多尺度生成对抗网络的异源遥感图像配准方法及装置
CN110728295A (zh) * 2019-09-02 2020-01-24 深圳中科保泰科技有限公司 半监督式的地貌分类模型训练和地貌图构建方法
CN110866494A (zh) * 2019-11-14 2020-03-06 三亚中科遥感研究所 一种基于光学遥感影像的城镇群提取方法及系统
TW202024612A (zh) * 2018-09-21 2020-07-01 美商科磊股份有限公司 透過生成對抗網路之超解析度缺陷視察影像生成

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101388043A (zh) * 2008-09-26 2009-03-18 北京航空航天大学 一种基于小块图片的ogc高性能遥感图像地图服务方法
CN105512661A (zh) * 2015-11-25 2016-04-20 中国人民解放军信息工程大学 一种基于多模态特征融合的遥感影像分类方法
CN106503093A (zh) * 2016-10-13 2017-03-15 华东师范大学 一种适用于分布式计算环境的大型遥感影像重构方法
CN107798731A (zh) * 2017-11-10 2018-03-13 泰瑞数创科技(北京)有限公司 一种基于卫星影像自动建模的方法
CN108304873A (zh) * 2018-01-30 2018-07-20 深圳市国脉畅行科技股份有限公司 基于高分辨率光学卫星遥感影像的目标检测方法及其系统
CN108491757A (zh) * 2018-02-05 2018-09-04 西安电子科技大学 基于多尺度特征学习的光学遥感图像目标检测方法
CN108564109A (zh) * 2018-03-21 2018-09-21 天津大学 一种基于深度学习的遥感图像目标检测方法
TW202024612A (zh) * 2018-09-21 2020-07-01 美商科磊股份有限公司 透過生成對抗網路之超解析度缺陷視察影像生成
CN109886106A (zh) * 2019-01-15 2019-06-14 浙江大学 一种基于深度学习的遥感图像建筑物变化检测方法
CN109903299A (zh) * 2019-04-02 2019-06-18 中国矿业大学 一种条件式生成对抗网络的异源遥感图像配准方法及装置
CN109978897A (zh) * 2019-04-09 2019-07-05 中国矿业大学 一种多尺度生成对抗网络的异源遥感图像配准方法及装置
CN110728295A (zh) * 2019-09-02 2020-01-24 深圳中科保泰科技有限公司 半监督式的地貌分类模型训练和地貌图构建方法
CN110866494A (zh) * 2019-11-14 2020-03-06 三亚中科遥感研究所 一种基于光学遥感影像的城镇群提取方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
A *

Also Published As

Publication number Publication date
TW202203080A (zh) 2022-01-16

Similar Documents

Publication Publication Date Title
WO2022041548A1 (zh) 一种模型的渲染方法和装置
JP3650578B2 (ja) 画像の歪みを補正するためのニューラル・ネットワークを用いたパノラマ画像ナビゲーションシステム
EP3882862A1 (en) Picture rendering method and apparatus, and storage medium and electronic apparatus
WO2018120011A1 (zh) 投影图像校正方法、校正装置及机器人
CN108769578A (zh) 一种基于多路摄像头的实时全景成像系统及方法
Ou et al. A novel rank learning based no-reference image quality assessment method
US20170061685A1 (en) Producing three-dimensional representation based on images of an object
CN112017222A (zh) 视频全景拼接与三维融合方法及装置
CN106303497A (zh) 一种虚拟现实内容生成方法和装置
CN110009567A (zh) 用于鱼眼镜头的图像拼接方法和装置
JP2020118536A (ja) 風速分布推定装置及び風速分布推定方法
WO2020024485A1 (zh) 用于插入图像的方法和装置
CN108846861A (zh) 图像单应矩阵计算方法、装置、移动终端及存储介质
WO2016029515A1 (zh) 一种基于缩减像素采样处理的显示方法及设备
TWI740565B (zh) 改善遙測影像品質的方法、電腦程式產品及系統
JP6980913B2 (ja) 学習装置、画像生成装置、学習方法、画像生成方法及びプログラム
WO2024002064A1 (zh) 三维模型构建方法、装置、电子设备及存储介质
US11341611B2 (en) Automatic generation of perceived real depth animation
CN114452646A (zh) 虚拟对象透视处理方法、装置及计算机设备
CN116152121B (zh) 基于畸变参数的曲面屏生成方法、矫正方法
CN106488106A (zh) 一种图像处理方法及装置
CN113256777B (zh) 一种基于计算机图形学实现的球幕播放及调整方法
CN109461116B (zh) 一种基于opengl的720全景展开监控方法
JP2007102478A (ja) 画像処理装置、画像処理方法、及び半導体集積回路
JP6892557B2 (ja) 学習装置、画像生成装置、学習方法、画像生成方法及びプログラム