TWI485648B - 影像空洞填補方法、立體影像產生方法及其裝置 - Google Patents
影像空洞填補方法、立體影像產生方法及其裝置 Download PDFInfo
- Publication number
- TWI485648B TWI485648B TW101107964A TW101107964A TWI485648B TW I485648 B TWI485648 B TW I485648B TW 101107964 A TW101107964 A TW 101107964A TW 101107964 A TW101107964 A TW 101107964A TW I485648 B TWI485648 B TW I485648B
- Authority
- TW
- Taiwan
- Prior art keywords
- pixel unit
- target
- priority value
- cavity
- region
- Prior art date
Links
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
本發明是有關於一種影像空洞填補方法、立體影像產生方法及其裝置,且特別是有關於一種經由估計各畫素單位空洞之優先值來進行空洞填補之空洞填補方法、立體影像產生方法及其裝置。
在科技發展日新月異的現今時代中,影像修補(Image Inpainting)技術逐漸被業界所重視。過去影像修補係指經由程式人員針對圖像中缺漏之部份進行修復之動作;在數位時代中,影像修補係指應用特定之演算法,來針對影像資料中局部缺漏之區域進行修補回復之動作。
一般來說,影像修補技術具有資料運算複雜度較高之問題。據此,如何設計出具有計算運算複雜度較低之影像修補方法為業界不斷致力的方向之一。
根據本發明之第一方面,提出一種影像空洞填補方法,用以針對輸入影像資料進行空洞填補,其中輸入影像資料包括多個畫素單位空洞。影像空洞填補方法包括下列步驟。首先針對輸入影像資料之畫素單位空洞進行優先值估算,以估算出分別對應至此些畫素單位空洞之複數筆優先值,其中此些畫素單位空洞中之目標畫素單位空洞對應之目標優先值滿足特定條件。接著針對此目標畫素單位空洞進行空洞填補,使得此目標畫素單位空洞由與其對應之填補畫素資料所填補。然後在針對此目標畫素單位空洞進行空洞填補之後,於此目標畫素單位空洞周圍框選一搜尋範圍,並設定此搜尋範圍為第一區域。接著於此第一區域中找出一第一目標鄰近畫素單位空洞,其對應地具有一第一區域最大優先值。然後判斷此第一區域最大優先值是否滿足一篩選條件;若是,則針對此第一目標鄰近畫素單位空洞進行空洞填補,使得此第一目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
根據本發明之第二方面,提出一種立體影像產生方法包括下列之步驟。首先根據原始視角影像資料及深度資料找出差補視角輸入影像資料,其中此差補視角輸入影像資料包括複數個畫素單位空洞。接著針對此差補視角輸入影像資料進行優先值估算,以估算出分別對應至此些畫素單位空洞之複數筆優先值,其中此些畫素單位空洞中之一目標畫素單位空洞對應之一目標優先值滿足一特定條件。然後針對此目標畫素單位空洞進行空洞填補,使得此目標畫素單位空洞由與其對應之填補畫素資料所填補。接著再針對此目標畫素單位空洞進行空洞填補之後,於此目標畫素單位空洞周圍框選一搜尋範圍,並設定此搜尋範圍為第一區域。然後於此第一區域中找出一第一目標鄰近畫素單位空洞,其對應地具有一第一區域最大優先值。接著判斷此第一區域最大優先值與此是否滿足一篩選條件;若是,則針對此第一目標鄰近畫素單位空洞進行空洞填補,使得此第一目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
為了對本發明之上述及其他方面有更佳的瞭解,下文特舉較佳實施例,並配合所附圖式,作詳細說明如下:
第一實施例
第一實施例之影像空洞填補裝置及方法例如針對輸入影像資料Vdi進行空洞填補,其中輸入影像資料Vdi包括多個以畫素為單位之空洞。舉例來說,輸入影像資料Vdi之示意圖可如第1A及1B圖所示,其中斜線標示之區域A為資料遺失影像區域,其中包括多個畫素單位空洞PH。
舉例來說,本實施例之影像空洞填補裝置可為處理器,其係用以存取記憶體中之程式碼,來執行本實施例之影像空洞填補方法。在其他例子中,本實施例之影像空洞填補裝置亦可為可編程之實體電路,例如是積體電路,其係被編程來執行本實施例之影像空洞填補方法。接下來係舉例,來針對本實施例之空洞填補方法做進一步的說明。
請參照第2圖,其繪示依照本發明第一實施例之影像空洞填補方法的流程圖。舉例來說,本實施例之影像空洞填補方法包括下列之步驟。首先如步驟(a),影像空洞填補裝置針對輸入影像資料Vdi進行優先值估算,以對應至此些畫素單位空洞PH分別估算對應之多筆優先值Pr。在此些畫素單位空洞PH中,對應之優先值Pr滿足一個特定條件之畫素單位空洞係被選擇為目標畫素單位空洞PH_T。舉例來說,此特定條件例如是多筆優先值中具有最大數值者;換言之,目標畫素單位空洞PH_T例如對應地具有最大優先值Pr_max。
請參照第3圖,其繪示乃第2圖之步驟(a)的詳細流程圖。舉例來說,步驟(a)包括子步驟(a1)及(a2)。於子步驟(a1)中,影像空洞填補裝置係針對各畫素單位空洞PH,找出其與對應之相鄰影像物件邊緣(Edge)的點到線距離資訊。舉例來說,步驟(a1)中係估測出影像物件邊緣之線性方程式,並根據各畫素單位空洞PH之座標與此影像物件邊緣之線性方程式,來找出各畫素單位空洞PH與影像物件邊緣之點到線距離。
於子步驟(a2)中,影像空洞填補裝置更對應至各畫素單位空洞PH,參考點到線距離資訊、畫素單位空洞PH位置之影像梯度(Gradient)資訊及結構可靠度(Credibility)資訊,來找出對應之優先值Pr。舉例來說,優先值Pr可以下列方程式表示:
Pr(g
)=g(p
)×d(p
)×cp(p
)
其中Pr(g)為對應至第g個畫素單位空洞PH之優先值;g(p)、d(p)及cp(p)分別為對應之梯度資訊、距離資訊及結構可靠度資訊。換言之,於本實施例中,該多筆優先值Pr係考量梯度資訊、距離資訊及結構可靠度資訊三種資訊所產生,然並不以此為限。
於完成步驟(a)後,則進入階段,如步驟(b),影像空洞填補裝置針對目標畫素單位空洞PH_T進行空洞填補,使得目標畫素單位空洞PH_T由與其對應之填補畫素資料所填補。舉例來說,於步驟(b)中係經由區塊基準(Block-based)快速搜尋法,來經由區塊比對的方式找出與目標畫素單位空洞PH_T相對應之填補畫素資料,並據以對目標畫素單位空洞PH_T進行填補。換言之,於此實施例中,針對目標畫素單位空洞PH_T進行空洞填補時,係以比對成功之區塊,來針對目標畫素單位空洞PH_T周圍之多個畫素空洞(含目標畫素單位空洞PH_T)同時進行填補。請參照第7圖,其繪示乃本實施例之影像空洞填補方法的操作示意圖。以此例來說,在步驟(b)的操作中,影像空洞填補裝置係基於區塊基準快速搜尋法,來針對目標畫素單位空洞PH_T找出與其所屬之區塊A比對成功之填補區塊資料D。而後,影像空洞填補裝置將填補區塊資料D取代區塊A,換言之,即是針對目標畫素單位空洞PH_T所屬之區塊整體來進行資料覆蓋,藉此來針對目標畫素單位空洞PH_T進行空洞填補,然此例中雖是以區塊整體進行資料覆蓋,然,亦可僅針對區塊中之畫素空洞進行覆蓋。
然後如步驟(c),影像空洞填補裝置針對目標畫素單位空洞PH_T進行空洞填補之後,以目標畫素單位空洞PH_T為中心框選搜尋範圍SA。於此實施例中,搜尋範圍SA之大小可為系統預設值,然並不以此為限,換言之,該搜尋範圍SA之大小亦可由使用者自行決定。
接著如步驟(d),影像空洞填補裝置針對搜尋範圍SA所框選到之多個鄰近畫素單位空洞,找出目標鄰近畫素單位空洞PH_T_SA,其對應地具有區域最大優先值Pr(SA)_max。舉一個操作實例來說,在步驟(d)中,影像空洞填補裝置係參考步驟(a)中針對各畫素單位空洞PH所估算得到之優先值Pr,以從搜尋範圍SA所框選到之多個鄰近畫素單位空洞中找出對應具有區域最大優先值Pr(SA)_max之目標鄰近畫素單位空洞PH_T_SA。
舉另一個操作實例來說,影像空洞填補裝置係針對搜尋範圍SA所框選到之多個鄰近畫素單位空洞來重新進行優先值估算,以對應至此些鄰近畫素單位空洞找出多筆更新優先值Pr_up。而後,影像空洞填補裝置更參考此些更新優先值Pr_up,以從搜尋範圍SA所框選到之多個鄰近畫素單位空洞中找出對應具有區域最大優先值Pr(SA)_max之目標鄰近畫素單位空洞PH_T_SA。
然後如步驟(e),影像空洞填補裝置判斷區域最大優先值Pr(SA)_max是否滿足篩選條件,於此實施例中,係判斷區域最大優先值Pr(SA)_max與最大優先值Pr_max兩者之差值D是否滿足篩選條件,而此篩選條件為區域最大值Pr(SA)_max與最大優先值Pr_max之差值D小於或等於下限臨界值threshold之條件。
當區域最大優先值Pr(SA)_max滿足此篩選條件時,則執行步驟(f),影像空洞填補裝置針對目標鄰近畫素單位空洞PH_T_SA進行空洞填補,使得目標鄰近畫素單位空洞PH_T_SA由與其對應之填補畫素資料進行填補,如步驟(b),步驟(f)亦可使用區塊比對之方式進行空洞填補,然並不以此為限。
於此實施例中,在步驟(f)之後更進一步包括步驟(g),影像空洞填補裝置將目標鄰近畫素單位空洞PH_T_SA設定為目標畫素單位空洞PH_T,並重複執行步驟(c)-(d),以再次執行框選搜尋範圍SA及針對其中之畫素單位空洞進行優先值更新之操作。換言之,當區域最大優先值Pr(SA)_max滿足篩選條件的情況下,即毋需對輸入影像資料Vdi中所有之畫素單位空洞進行全面性之優先值更新操作,本實施例之影像空洞填補方法及裝置係可持續地針對畫素單位空洞進行填補操作。
於步驟(e)之後,當差值D不滿足此篩選條件時,本實施例之影像空洞填補裝置係重新執行步驟(a),以針對輸入影像資料Vdi中所有之畫素單位空洞再次地進行全面性之優先值估算。
在另一個例子中,本實施例之影像空洞填補方法於步驟(a)之前更應用中值濾波器來對輸入影像資料Vdi進行預先處理(Pre-processing)。舉例來說,預處理操作係將畫素單位空洞視為影像雜訊,而以中值濾波器參考此畫素單位空洞周圍之有效畫素資料來估測其之畫素資料,藉此進行資料填補。
在本實施例中,雖僅針對影像空洞填補方法及其裝置的內容進行揭露,然,本實施例前述相關流程步驟並不侷限於空洞填補之應用。在其他例子中,前述相關流程步驟亦可被用以實現立體影像產生方法及相關之立體影像產生裝置。
請參照第4圖,其繪示依照本發明第一實施例之立體影像產生方法的流程圖。參考第2圖及第4圖可知,本實施例之立體影像產生方法與本實施例之影像空洞填補方法有些許不同之處,如步驟(a”),於其中立體影像產生裝置係根據原始視角影像資料Da1及深度資料Dd找出差補視角輸入影像資料Da2,其中差補視角輸入影像資料Da2包括多個畫素單位空洞;而於其後之步驟(a’)-(g’)係針對差補視角輸入影像資料Da2中之畫素單位空洞進行填補操作。進一步的說,步驟(a’)-(g’)係與影像空洞填補方法中對應之步驟(a)-(g)具有相近之操作細節,於此係不再對其進行贅述。
在另一個實施例中,於本實施例之立體影像產生方法的步驟(d’)中,係係參考原始視角影像資料Da1及深度資料Dd的視角對應關係來決定搜尋範圍SA。舉一個操作實例來說,原始視角影像資料Da1例如是對應至右眼視角的影像資料;換言之,在這個應用情形中,立體影像產生方法欲根據原始視角影像資料Da1及深度資料Dd,來產生對應至另一視角(例如是左眼視角)的差補視角輸入影像資料Da2。
在根據原始視角影像資料Da1及深度資料Dd來產生差補視角輸入影像資料Da2的相關操作中,差補視角輸入影像資料Da2中將出現許多空洞;且此些空洞是基於視角的不同而產生,此些空洞最適合的填補資料內容往往落在原始視角影像資料Da1中垂直位置相同,但沿水平方向移動一個視差值的位置。據此,在這樣的操作實例中,可參照原始視角影像資料Da1及深度資料Dd的視角對應關係來決定該搜尋圍SA;這樣一來,將可使本實施例之立體影像產生方法可以針對一個特定方向,來更有效率地搜尋目標鄰近畫素單位空洞PH_T_SA。
本實施例之影像空洞填補方法、立體影像產生方法及其裝置係針對包括多個畫素單位空洞之輸入影像資料進行空洞填補。本實施例之影像空洞填補方法、立體影像產生方法及其裝置係對應至畫素單位空洞分別估算多筆優先值,並對其中之極值所對應之目標畫素單位空洞進行空洞填補。本實施例之影像空洞填補方法、立體影像產生方法及其裝置更在前述空洞填補後,以目標畫素單位空洞為中心框選搜尋範圍,判斷針對其中之至少一個目標鄰近畫素單位空洞對應之至少一筆區域最大優先值與最大優先值之差值是否滿足一篩選條件;若是,則針對此至少一目標鄰近畫素單位空洞進行空洞填補。據此,相較於傳統影像修補方法,本實施例之影像空洞填補方法、立體影像產生方法及其裝置係具有可在未進行優先值重新估算的情況下,優先針對目標畫素單位空洞周圍具有較高優先值之目標鄰近畫素單位空洞進行填補及可降低優先值估計之計算量的優點。
第二實施例
本實施例之影像空洞填補方法與第一實施例之影像空洞填補方法不同之處在於當區域最大優先值Pr(SA)_max與最大優先值Pr_max之差值D不滿足篩選條件時,本實施例之影像空洞填補方法更針對搜尋範圍SA之範圍進行調整。
請參照第5圖,其繪示依照本發明第二實施例之影像空洞填補方法的流程圖。在第5圖中,操作步驟(a)-(g)係相似於與第2圖中各對應之步驟,於此,係不再對其進行贅述。步驟(e)之後,當差值D不滿足篩選條件時,本實施例之影像空洞填補方法係執行步驟(g”)、(d”)、(e”)及(f”)。
進一步的說,如步驟(g”),影像空洞填補裝置係將搜尋範圍SA調整為放大搜尋範圍SA’。舉例來說,放大搜尋範圍SA’之大小可選擇性地為系統預設值,或由使用者自行決定。然後如步驟(d”),影像空洞填補裝置針對放大搜尋範圍SA’所框選到之多個鄰近畫素單位空洞,找出一個目標鄰近畫素單位空洞PH_T_SA’,其對應地具有區域最大優先值Pr(SA’)_max。舉一個操作實例來說,在步驟(d”)中,影像空洞填補裝置係參考步驟(a)中針對各畫素單位空洞PH所估算得到之優先值Pr,以從搜尋範圍SA’所框選到之多個鄰近畫素單位空洞中找出對應具有區域最大優先值Pr(SA’)_max之目標鄰近畫素單位空洞PH_T_SA’。
舉另一個操作實例來說,影像空洞填補裝置係針對搜尋範圍SA’所框選到之多個鄰近畫素單位空洞來重新進行優先值估算,以對應至此些鄰近畫素單位空洞找出多筆更新優先值Pr_up’。而後,影像空洞填補裝置更參考於此些更新優先值Pr_up’,以從搜尋範圍SA’所框選到之多個鄰近畫素單位空洞中找出對應具有區域最大優先值Pr(SA’)_max之目標鄰近畫素單位空洞PH_T_SA’。
接著如步驟(e”),影像空洞填補裝置判斷區域最大優先值Pr(SA’)_max與最大優先值Pr_max之差值D’是否滿足篩選條件;若是,則執行步驟(f”),於其中影像空洞填補裝置針對此目標鄰近畫素單位空洞進行空洞填補,使得其對應至第三填補畫素資料。
在步驟(e”)之後,當差值D’仍不滿足篩選條件時,本實施例之影像空洞填補方法例如可執行相似於步驟(g”)、(d”)、(e”)及(f”)之操作,以再次地針對搜尋範圍SA'進行放大,並再次進行相關之操作。
然,於本實施例中,亦可進一步針對放大該搜尋範圍SA'進行一上限值設定,如設定放大該搜尋範圍SA'不超過N次,其中N為一常數值,亦或為,設定放大該搜尋範圍SA'不大於輸入影像資料Vdi之一定比例時,如為二分之一,如上所述,當放大該搜尋範圍SA'差值至上限值時,該差值D’均不滿足篩選條件時,本實施例之影像空洞填補裝置係重新執行步驟(a),以針對輸入影像資料Vdi中所有之畫素單位空洞再次地進行全面性之優先值估算。
在本實施例中,雖僅針對影像空洞填補方法及其裝置的內容進行揭露,然,本實施例前述相關流程步驟並不侷限於空洞填補之應用。在其他例子中,前述相關流程步驟亦可被用以實現立體影像產生方法及相關之立體影像產生裝置,如第6A、6B圖所示。
本實施例之影像空洞填補方法、立體影像產生方法及其裝置係針對包括多個畫素單位空洞之輸入影像資料進行空洞填補。本實施例之影像空洞填補方法、立體影像產生方法及其裝置係對應至畫素單位空洞分別估算多筆優先值,並對其中之極值所對應之目標畫素單位空洞進行空洞填補。本實施例之影像空洞填補方法、立體影像產生方法及其裝置更在前述空洞填補後,以目標畫素單位空洞為中心框選搜尋範圍,判斷針對其中之至少一個目標鄰近畫素單位空洞對應之至少一筆區域最大優先值與最大優先值之第一差值是否滿足一篩選條件;若是,則針對此至少一目標鄰近畫素單位空洞進行空洞填補。據此,相較於傳統影像修補方法,本實施例之影像空洞填補方法、立體影像產生方法及其裝置係具有可在優先值不需全部重新估算的情況下,優先針對目標畫素單位空洞周圍具有較高優先值之目標鄰近畫素單位空洞進行填補及可降低優先值估計之計算量的優點。
綜上所述,雖然本發明已以較佳實施例揭露如上,然其並非用以限定本發明。本發明所屬技術領域中具有通常知識者,在不脫離本發明之精神和範圍內,當可作各種之更動與潤飾。因此,本發明之保護範圍當視後附之申請專利範圍所界定者為準。
Vdi...輸入影像資料
A...資料遺失影像區域
PH_T...目標畫素單位空洞
SA...搜尋範圍
D...填補區塊資料
第1A及1B圖繪示依照輸入影像資料Vdi的示意圖。
第2圖繪示依照本發明第一實施例之影像空洞填補方法的流程圖。
第3圖繪示乃第2圖之步驟(a)的詳細流程圖。
第4圖繪示依照本發明第一實施例之立體影像產生方法的流程圖。
第5A及5B圖繪示依照本發明第二實施例之影像空洞填補方法的流程圖。
第6A及6B圖繪示依照本發明第二實施例之立體影像產生方法的流程圖。
第7圖繪示乃本發明第一實施例之影像空洞填補方法的操作示意圖。
(a)-(g)...流程步驟
Claims (21)
- 一種影像空洞填補方法,用以針對一輸入影像資料進行空洞填補,其中該輸入影像資料包括複數個畫素單位空洞,該影像空洞填補方法包括:(a) 針對該輸入影像資料之畫素單位空洞進行優先值估算,以估算出分別對應至該些畫素單位空洞之複數筆優先值,其中該些畫素單位空洞中之一目標畫素單位空洞對應之一目標優先值滿足一特定條件;(b) 針對該目標畫素單位空洞進行空洞填補,使得該目標畫素單位空洞由與其對應之填補畫素資料所填補;(c) 在針對該目標畫素單位空洞進行空洞填補之後,於該目標畫素單位空洞周圍框選一搜尋範圍,並設定該搜尋範圍為第一區域;(d) 於該第一區域中找出一第一目標鄰近畫素單位空洞,其對應地具有一第一區域最大優先值;(e) 判斷該第一區域最大優先值是否滿足一篩選條件;以及(f) 當該第一區域最大優先值滿足該篩選條件時,針對該第一目標鄰近畫素單位空洞進行空洞填補,使得該第一目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
- 如申請專利範圍第1項所述之影像空洞填補方法,更包括:在步驟(e)的判斷中,當該第一區域最大優先值不滿足該篩選條件時,重新執行步驟(a)以針對該輸入影像資料再次地進行優先值估算。
- 如申請專利範圍第1項所述之影像空洞填補方法,更包括:(g)於步驟(f)之後,將該第一目標鄰近畫素單位空洞設定為該目標畫素單位空洞;其中,於步驟(g)之後係重複執行步驟(c)-(d),以再次執行框選該搜尋範圍及優先值更新操作。
- 如申請專利範圍第1項所述之影像空洞填補方法,更包括:(g’)當該第一區域最大優先值不滿足該篩選條件時,將該搜尋範圍調整為一放大搜尋範圍,並設定該放大搜尋範圍為第二區域;(d’)於該第二區域中找出一第二目標鄰近畫素單位空洞,其對應地具有一第二區域最大優先值;(e’)判斷該第二區域最大優先值是否滿足該篩選條件;及(f’)當該第二區域最大優先值滿足該篩選條件時,針對該至少一第二目標鄰近畫素單位空洞進行空洞填補,使得該至少一第二目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
- 如申請專利範圍第1項所述之影像空洞填補方 法,其中於步驟(a)更包括:(a1)針對各該些畫素單位空洞,找出各該些畫素單位空洞與對應之一相鄰影像物件邊緣(Edge)的一點到線距離資訊;及(a2)針對各該些畫素單位空洞,參考該點到線距離資訊進行該些優先值之估算。
- 如申請專利範圍第5項所述之影像空洞填補方法,其中各該些優先值更與各該些畫素單位空洞的一梯度資訊及一結構資訊相關。
- 如申請專利範圍第1項所述之影像空洞填補方法,其中步驟(b)係經由區塊基準(Block-based)快速搜尋法,來計算該填補畫素資料,並據以對該目標畫素單位空洞進行填補。
- 如申請專利範圍第1項或第4項所述之影像空洞填補方法,其中該篩選條件為該第一區域優先值/該第二區域優先值與目標優先值之差值,該差值係小於或等於一下限臨界值。
- 如申請專利範圍第1項所述之影像空洞填補方法,其中步驟(a)之特定條件係為該些優先值中之最大值。
- 一種影像空洞填補裝置,其係經由一種影像空洞 填補方法,用以針對一輸入影像資料進行空洞填補,其中該輸入影像資料包括複數個畫素單位空洞,該影像空洞填補方法包括:(a)針對該輸入影像資料之畫素單位空洞進行優先值估算,以估算出分別對應至該些畫素單位空洞之複數筆優先值,其中該些畫素單位空洞中之一目標畫素單位空洞對應之一目標優先值滿足一特定條件;(b)針對該目標畫素單位空洞進行空洞填補,使得該目標畫素單位空洞由與其對應之填補畫素資料所填補;(c)在針對該目標畫素單位空洞進行空洞填補之後,於該目標畫素單位空洞周圍框選一搜尋範圍,並設定該搜尋範圍為第一區域;(d)於該第一區域中找出一第一目標鄰近畫素單位空洞,其對應地具有一第一區域最大優先值;(e)判斷該第一區域最大優先值是否滿足一篩選條件;以及(f)當該第一區域最大優先值滿足該篩選條件時,針對該第一目標鄰近畫素單位空洞進行空洞填補,使得該第一目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
- 一種立體影像產生方法,包括:(a)根據一原始視角影像資料及一深度資料找出一差補視角輸入影像資料,其中該差補視角輸入影像資料包括複數個畫素單位空洞; (b)針對該差補視角輸入影像資料進行優先值估算,以估算出分別對應至該些畫素單位空洞之複數筆優先值,其中該些畫素單位空洞中之一目標畫素單位空洞對應之一目標優先值滿足一特定條件;(c)針對該目標畫素單位空洞進行空洞填補,使得該目標畫素單位空洞由與其對應之填補畫素資料所填補;(d)在針對該目標畫素單位空洞進行空洞填補之後,於該目標畫素單位空洞周圍框選一搜尋範圍,並設定該搜尋範圍為第一區域;(e)於該第一區域中找出一第一目標鄰近畫素單位空洞,其對應地具有一第一區域最大優先值;(f)判斷該第一區域最大優先值與是否滿足一篩選條件;以及(g)當該第一區域最大優先值滿足該篩選條件時,針對該第一目標鄰近畫素單位空洞進行空洞填補,使得該第一目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
- 如申請專利範圍第11項所述之立體影像產生方法,更包括:在步驟(f)的判斷中,當該第一區域最大優先值不滿足該篩選條件時,重新執行步驟(b)以針對該輸入影像資料再次地進行優先值估算。
- 如申請專利範圍第11項所述之立體影像產生方 法,更包括:(h)於步驟(g)之後,將該第一目標鄰近畫素單位空洞設定為該目標畫素單位空洞;其中,於步驟(h)之後係重複執行步驟(d)-(e),以再次執行框選該搜尋範圍及優先值更新操作。
- 如申請專利範圍第11項所述之立體影像產生方法,更包括:(h’)當該第一區域最大優先值不滿足該篩選條件時,將該搜尋範圍調整為一放大搜尋範圍,並設定該放大搜尋範圍為第二區域;(e’)於該第二區域中找出一第二目標鄰近畫素單位空洞,其對應地具有一第二區域最大優先值;(f’)判斷該第二區域最大優先值是否滿足該篩選條件;及(g’)當該第二區域最大優先值滿足該篩選條件時,針對該至少一第二目標鄰近畫素單位空洞進行空洞填補,使得該至少一第二目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
- 如申請專利範圍第11項所述之立體影像產生方法,其中於步驟(a)更包括:(a1)針對各該些畫素單位空洞,找出各該些畫素單位空洞與對應之一相鄰影像物件邊緣(Edge)的一點到線距離資訊;及 (a2)針對各該些畫素單位空洞,參考該點到線距離資訊進行該些優先值之估算。
- 如申請專利範圍第15項所述之立體影像產生方法,其中各該些優先值更與各該些畫素單位空洞的一梯度資訊及一結構資訊相關。
- 如申請專利範圍第11項所述之立體影像產生方法,其中步驟(b)係經由區塊基準(Block-based)快速搜尋法,來計算該填補畫素資料,並據以對該目標畫素單位空洞進行填補。
- 如申請專利範圍第11或第14項項所述之立體影像產生方法,其中該篩選條件為該第一區域優先值/該第二區域優先值與目標優先值之差值,該差值係小於或等於一下限臨界值。
- 如申請專利範圍第11項所述之立體影像產生方法,其中該特定條件係為該些優先值中之最大值。
- 如申請專利範圍第11項所述之立體影像產生方法,其中該原始視角影像資料及該差補視角輸入影像資料用以決定一雙視域影像資料,而於步驟(d)中,係參考該原始視角影像資料及該深度資料的視角對應關係來決定該搜尋範圍,藉此針對一特定方向來搜尋該第一目標鄰近畫 素單位空洞。
- 一種立體影像產生裝置,其係經由一種立體影像產生方法,用以找出一差補視角輸入影像資料,該立體影像產生方法包括:(a)根據一原始視角影像資料及一深度資料找出該差補視角輸入影像資料,其中該差補視角輸入影像資料包括複數個畫素單位空洞;(b)針對該差補視角輸入影像資料進行優先值估算,以估算出分別對應至該些畫素單位空洞之複數筆優先值,其中該些畫素單位空洞中之一目標畫素單位空洞對應之一目標優先值滿足一特定條件;(c)針對該目標畫素單位空洞進行空洞填補,使得該目標畫素單位空洞由與其對應之填補畫素資料所填補;(d)在針對該目標畫素單位空洞進行空洞填補之後,於該目標畫素單位空洞周圍框選一搜尋範圍,並設定該搜尋範圍為第一區域;(e)於該第一區域中找出一第一目標鄰近畫素單位空洞,其對應地具有一第一區域最大優先值;(f)判斷該第一區域最大優先值與是否滿足一篩選條件;以及(g)當該第一區域最大優先值滿足該篩選條件時,針對該第一目標鄰近畫素單位空洞進行空洞填補,使得該第一目標鄰近畫素單位空洞由與其對應之填補畫素資料所填補。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW101107964A TWI485648B (zh) | 2012-03-08 | 2012-03-08 | 影像空洞填補方法、立體影像產生方法及其裝置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW101107964A TWI485648B (zh) | 2012-03-08 | 2012-03-08 | 影像空洞填補方法、立體影像產生方法及其裝置 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201337834A TW201337834A (zh) | 2013-09-16 |
TWI485648B true TWI485648B (zh) | 2015-05-21 |
Family
ID=49627938
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW101107964A TWI485648B (zh) | 2012-03-08 | 2012-03-08 | 影像空洞填補方法、立體影像產生方法及其裝置 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI485648B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW200834471A (en) * | 2007-02-15 | 2008-08-16 | Ind Tech Res Inst | Image filling methods, and machine readable medium thereof |
US20090089017A1 (en) * | 2007-09-28 | 2009-04-02 | Harris Corporation | Geospatial modeling system providing inpainting and error calculation features and related methods |
TW201113831A (en) * | 2009-10-02 | 2011-04-16 | Univ Nat Chunghsing | Image inpainting method based on Bezier curves |
TW201115486A (en) * | 2009-08-19 | 2011-05-01 | Harris Corp | Automatic identification of fingerprint inpainting target areas |
-
2012
- 2012-03-08 TW TW101107964A patent/TWI485648B/zh not_active IP Right Cessation
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW200834471A (en) * | 2007-02-15 | 2008-08-16 | Ind Tech Res Inst | Image filling methods, and machine readable medium thereof |
US20090089017A1 (en) * | 2007-09-28 | 2009-04-02 | Harris Corporation | Geospatial modeling system providing inpainting and error calculation features and related methods |
TW201115486A (en) * | 2009-08-19 | 2011-05-01 | Harris Corp | Automatic identification of fingerprint inpainting target areas |
TW201113831A (en) * | 2009-10-02 | 2011-04-16 | Univ Nat Chunghsing | Image inpainting method based on Bezier curves |
Also Published As
Publication number | Publication date |
---|---|
TW201337834A (zh) | 2013-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9153032B2 (en) | Conversion method and apparatus with depth map generation | |
US9495755B2 (en) | Apparatus, a method and a computer program for image processing | |
CN108432244A (zh) | 处理图像的深度图 | |
US20150097827A1 (en) | Target Region Fill Utilizing Transformations | |
US20140313188A1 (en) | Target Region Filling Involving Source Regions, Depth Information, or Occlusions | |
US9342867B2 (en) | Apparatus and method for reconstructing super-resolution three-dimensional image from depth image | |
WO2008018331A1 (en) | Method, apparatus and integrated circuit capable of reducing image ringing noise | |
JP4796072B2 (ja) | 画像セグメンテーションに基づく画像レンダリング | |
CN112967381B (zh) | 三维重建方法、设备和介质 | |
EP3465611A1 (en) | Apparatus and method for performing 3d estimation based on locally determined 3d information hypotheses | |
JP2019204193A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2010152521A (ja) | 画像立体化処理装置及び方法 | |
KR20130067474A (ko) | 홀 채우기 방법 및 장치 | |
KR101875532B1 (ko) | 계층적 스테레오 매칭 장치 및 방법 | |
KR101766431B1 (ko) | 계층적 스테레오 정합을 이용한 변이 추출 방법 및 그 장치 | |
CN108986155B (zh) | 多视点图像的深度估计方法和深度估计设备 | |
JP5200042B2 (ja) | 視差推定装置およびそのプログラム | |
TWI485648B (zh) | 影像空洞填補方法、立體影像產生方法及其裝置 | |
JP6156922B2 (ja) | 三次元データ生成装置、三次元データ生成方法、及びプログラム | |
US20170294021A1 (en) | Depth refinement method and system of sparse depth image in multi-aperture camera | |
CN112150532A (zh) | 图像处理的方法、装置、电子设备和计算机可读介质 | |
JP2009134350A (ja) | 画像の高品質化方法及び装置 | |
RU2470368C2 (ru) | Способ обработки изображений | |
CN116993796B (zh) | 深度图估计中的多级空间传播方法和装置 | |
US20140245231A1 (en) | Primitive fitting apparatus and method using point cloud |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
MM4A | Annulment or lapse of patent due to non-payment of fees |