TWI556645B - 相機的透鏡陰影校正 - Google Patents
相機的透鏡陰影校正 Download PDFInfo
- Publication number
- TWI556645B TWI556645B TW102147149A TW102147149A TWI556645B TW I556645 B TWI556645 B TW I556645B TW 102147149 A TW102147149 A TW 102147149A TW 102147149 A TW102147149 A TW 102147149A TW I556645 B TWI556645 B TW I556645B
- Authority
- TW
- Taiwan
- Prior art keywords
- camera module
- module
- complex
- generating
- shadow
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
Description
影像擷取裝置,例如相機模組,通常被整合至多種其它行動運算裝置當中,例如智慧型手機或平板電腦。典型而言被整合到行動運算裝置中的相機模組係實作成一或多個實質上立方體狀的模組。目前需要最小化該等基本行動運算裝置之寬度或厚度的趨勢已經造成必須最小化該等整合相機模組的高度之類似趨勢。
可惜的是,由於該等整合相機模組之縮小的高度,相對於較大的系統而言,會接收到以更為極端角度入射的光束。如此會造成不良的效應(稱之為透鏡陰影),其中所產生的影像在中央處亮度提高,而朝向邊緣則實質地亮度較低。
現今的攝影技術已經能夠處理並減輕此種效應。典型而言,透鏡陰影修正的執行係藉由程式化係數到每個製造出的相機模組,接著應用到影像資料中。但是,因為透鏡陰影的量係根據在該場景中偵測到的光源(或發光體)而定(其通常透過白平衡的程序決定),經程式化的係數數量會很多。
再者,該等係數之實際校正傳統上需要大量的測量以及針對每一相機模組所特定的校正。也就是說,係數決定傳統上需要產生數個相機模組「表面」(surfaces)的模型,以及可被捕捉到影像的發光體數目的實際表面數量。產生這些表面之習用技術包括在複數照明條件之下利用每一相機模組產生複數影像。如此每個模組單元會包含多到十個或更多的影像,並需要設備來產生每一個該等支援的照明條件。因此,傳統的透鏡陰影校正技術是一種非常沒有效率的程序,其需要實質上大量的時間與工作量,特別是針對大量生產的單元。
此發明內容說明係用來介紹在以簡化型式中所選出的觀念,其在以下的詳細說明中會進一步說明。此發明內容說明並非用來指定申請專利範圍之標的的關鍵特徵或基本特徵,也並非用於限制申請專利範圍。
本發明之具體實施例係關於使用模組特定的校正執行自動透鏡陰影修正的方法與系統。根據本發明一種態樣,提供在三個主要階段執行的方法。
在一第一階段期間,決定徑向對稱成分資料,其係來自要被校正的該類型的相機模組所共通的測試結果。根據多種具體實施例,此階段可在離線實施(例如在一實驗室中),並且獨立於該個別模組廠區(factory-floor)測量與校正程序(即該第二階段)。該經擷取的資料用於針對一組場景發光體產生該等影像擷取組件(例如透鏡、濾光鏡、感測器)的
基本表面測量,並共用於該相機模組類型的該等相機模組。此資料可儲存在一記憶體中或包括在所載入的一軟體中(例如一驅動程式),並用於與該等相機模組之每一者進行互動。
在該第二階段期間,執行一或多個特定相機模組之陰影輪廓的實際測量。根據具體實施例,此測量可於生產期間進行,例如做為每一相機模組的校正程序之一部份。在每一特定相機模組中由所得到的測量資料產生一校正表面。該校正表面可儲存在該模組的記憶體中(例如在該模組的一個一次性程式化記憶體中),或是藉由某種其它方法使其可為該相機驅動程式使用。根據多種具體實施例,此校正表面可表示成在一預定光源或發光體之下的一模組特定的伯濟耳修正表面。
第三與最後階段為外插(extrapolation)階段。在此階段中,以該第二階段的該模組特定的伯濟耳修正表面與校正資料,將該第一階段中決定的一相機模組類型的該等基本測量表面做外插與修正。根據一具體實施例,第三與最後階段在該相機模組本身進行(例如藉由一驅動程式)。在其它具體實施例中,此階段可於該相機模組或該基本運算裝置(例如行動電話)的開機程序期間進行。此階段的該等輸出表面用於根據該光源估計來修正在該相機模組中的該陰影輪廓。例如,一旦一場景的一影像被該相機模組捕捉時,存在於該場景中的該等發光體即被決定(通常透過一白平衡的程序)。一旦偵測到存在的該發光體,對應於該等偵測到的發光體之該經修正的透鏡陰影表面即被參照,且將來自該經修正的透鏡陰影表面之係數應用到該等像素值來修正透鏡陰影效應。
藉由初始時決定一整個模組類型的基本測量表面並應用自
單一捕捉的影像取得的模組特定的校正,本發明之多種具體實施例能夠避免習用技術中所必須的針對個別模組之大量、繁複與耗時的校正,而仍然能夠維持對於經捕捉的影像資料之有效的透鏡陰影修正。
100‧‧‧影像捕捉裝置
101‧‧‧相機模組
103‧‧‧透鏡
105‧‧‧影像感測器
107‧‧‧基板
109‧‧‧電路
200‧‧‧行動運算裝置
201‧‧‧智慧型手機
203‧‧‧相機模組
205‧‧‧上方透鏡
300‧‧‧數位系統
301‧‧‧透鏡
303‧‧‧感測器
305‧‧‧影像訊號處理器
307‧‧‧記憶體
309‧‧‧輸入模組
311‧‧‧中央處理單元
313‧‧‧顯示器
315‧‧‧通訊匯流排
316‧‧‧電源
附屬圖面係加入到本說明書中,並形成為其一部份,其例示本發明之具體實施例,並連同該說明用於解釋本發明的原理:
圖1所示為根據本發明一具體實施例之一種影像捕捉裝置的示例。
圖2所示為根據本發明一具體實施例之設置在一行動運算裝置中一相機模組的示例。
圖3所示為根據本發明之多種具體實施例在其中可執行本發明之多種具體實施例的一示例性作業環境。
圖4所示為根據本發明之多種具體實施例用於產生複數發光體的基本表面測量之示例性電腦實作程序的流程圖。
圖5所示為根據本發明之多種具體實施例用於在廠區校正期間測量一特定模組之陰影輪廓的示例性程序之流程圖。
圖6所示為根據本發明之多種具體實施例用於使用一校正表面與一基本表面產生一任意光源的一透鏡陰影表面之示例性程序的流程圖。
現在將詳細說明本發明之數種具體實施例該。雖然本發明之
標的將配合各種具體實施例說明,然應瞭解到此等內容並非將本發明之標的限制到這些具體實施例。相反地,本發明之標的涵蓋其它選項、修正及均等者,其包括在所附申請專利範圍的精神及範圍之內。
再者,在以下的詳細說明中,為了提供對於本發明之標的完整瞭解,其提出許多特定細節。但是,本技藝專業人士將可瞭解到具體實施例可不使用這些特定細節或其同等者來實施。在其它實例中,並未詳細說明熟知的處理、程序、組件及電路,藉以避免不必要地混淆所本發明標的的態樣及特徵。
以下的詳細說明之部份係以一程序的型式來呈現及討論。雖然其步驟及其順序係以描述此程序之作業在此處的圖面中做揭示,這些步驟及順序僅為範例性。具體實施例可良好地適用於執行多種其它步驟及與此處圖面之流程圖中所述之該等步驟之變化,且可以與此處所述及說明的為不同順序。
該詳細說明的一些部份係以程序、步驟、邏輯方塊、處理,以及其它可在電腦記憶體上執行對於資料位元之作業的符號表示。這些說明及表示為在資料處理技術中那些專業人士所使用的手段來最佳地傳遞他們工作的實質內容到本技術中其他專業人士。概言之,在此處的程序、電腦可執行步驟、邏輯方塊及程序等,其應視為可達到所想要結果之步驟或指令的一自我符合的順序。該等步驟為那些需要實體的實體操縱。通常但非必要,這些數量可採取電子或磁性信號之型式,其能夠被儲存、轉換、組合、比較,及另可在一電腦系統中操縱。其已隨時間證明了主要為了慣常用法的理由,可方便地稱這些訊號為位元、數值、元件、符號、字元、
術語、數目或類似者。
但是應要注意到所有這些及類似術語係要關聯於該等適當實體數量,並僅為應用到這些數量的便利標記。除非除了在以下討論中可瞭解者之外特定地陳述,其將可瞭解到在整個討論中利用的術語,例如「存取」、「寫入」、「包括」、「儲存」、「傳送」、「移動」、「關聯」、「辨識」或類似者,皆代表一電腦系統或類似的電子運算裝置之作業及處理,其可操縱及轉換表示成該電腦系統之暫存器及記憶體內實體(電子)數量的資料成為類似地表示成在電腦系統記憶體、或暫存器、或其它像是資訊儲存器、傳輸或顯示裝置內的實體數量之其它資料。
示例性相機模組與作業環境
本發明標的之具體實施例係關於針對使用一影像捕捉裝置捕捉的影像執行模組特定的自動透鏡陰影修正的方法與系統。圖1所示為根據本發明一具體實施例之一種影像捕捉裝置100的示例。如圖1所示,影像捕捉裝置100可實作成一相機模組類型的一相機模組101,其可包括複數透鏡103、一安裝在一基板107上的影像感測器105、與一電路109。根據多種具體實施例,相機模組101可整個或部份地包覆在一較大的行動運算裝置之內,例如數位相機、智慧型手機、個人資料助理、電子閱讀器、平板或筆記型電腦等。如所示,相機模組101顯示具有串聯配置的複數透鏡103。在其它具體實施例中,一或多個濾光鏡(例如紅外線濾光鏡)可設置在該複數透鏡103其中兩者或更多者之下、之上及/或之間。如圖1所示,該系列的透鏡103設置在一影像感測器105之上,其設置成接收通過該透
鏡的入射輸入(光線)。影像感測器105本身可實作成例如一光二極體,並可設置在一基板107之上。在一些具體實施例中,基板107實際上由二氧化矽(SiO2)構成。在一些具體實施例中,電路109可實作成一連接終端,資料可藉此在影像感測器105與其它組件(未示出,例如一記憶體及/或處理器)之間做傳輸。
圖2所示為根據本發明一具體實施例之設置在一行動運算裝置200中一相機模組的示例。如圖2所示,行動運算裝置200實作成行動電話,例如智慧型手機201。根據多種具體實施例,智慧型手機201裝設有一相機模組203,例如前述的影像捕捉裝置100。如所示述,相機模組203的一實質部份(由虛線部份表示)被包覆在智慧型手機201的結構內部。在一些具體實施例中,僅有相機模組203的一上方透鏡205可露出來允許存取到輸入(光束)。相機模組203的所有其它部份,例如一影像感測器(未示出)或連接終端207,可由智慧型手機201包覆,或反而因為智慧型手機201而實質上不能外部存取。如圖200所示,智慧型手機201可用於經由相機模組203捕捉攝影影像。相機模組203的控制可透過智慧型手機201的使用者介面做管理,例如透過實體按鈕,或是智慧型手機201的顯示器上所示之螢幕上圖形化使用者介面。在又其它具體實施例中,在智慧型手機201中某些硬體資源的使用,例如記憶體及/或一或多個處理器,皆可與相機模組203共用於影像擷取與產生的目的。
圖3所示為根據本發明一具體實施例之一種示例性作業環境的示意圖。數位系統300描述根據本發明之具體實施例一基本系統之該等組件,其可提供某些硬體為主及軟體為主之功能的執行平台。雖然在系
統300中揭示特定的組件,必須瞭解到這些組件僅為示例。也就是說,本發明之具體實施例將良好適用於具有多種其它組件或在系統300中所列舉的該等組件之變化。其可瞭解到系統300中的該等組件可利用所呈現者之外的其它組件來操作,且並不需要所有系統300之組件來達到系統300之目的。
在一種典型的具體實施例中,系統300包括感測器303、影像訊號處理器(ISP,“Image signal processor”)305、記憶體307、輸入模組309、中央處理單元(CPU,“Central processing unit”)311、顯示器313、通訊匯流排315與電源316。電源316供應電力給系統300,並可為例如一DC或AC電源。CPU 311與ISP 305亦可整合到一單一積體電路晶粒中,且CPU 311與ISP 305可以共用多種資源,例如指令邏輯、緩衝器、功能性單元等,或是可提供分開的資源用於圖形處理與通用作業。系統300可實作成例如一數位相機、一平板電腦、行動電話相機、攜帶式裝置(例如音訊裝置、娛樂裝置、掌上型裝置)、網路攝影機、視訊裝置(例如攝影機)與類似者。
感測器303經由一透鏡301接收光線,並轉換接收的光線成為一訊號(例如數位或類比)。根據一些具體實施例,透鏡301可永久性地附接於系統300。另外,透鏡301可被拆卸,並與其它特性的透鏡互相交換。這些特性可包括例如焦距、光圈與分類。在典型的具體實施例中,透鏡301可由玻璃構成,雖然亦可使用其它材料,例如石英或成型用塑膠。感測器303可為多種光學感測器中任何一種,其包括但不限於互補金氧半導體(CMOS,“Complementary metal-oxide-semiconductor”)或電荷耦合元件
(CCD,“Charge-coupled device”)。感測器303耦接於通訊匯流排315,並可提供於通訊匯流排315之上收到的影像資料。在其它具體實施例中,感測器303包括光線強度感測能力,且該收到的影像資料可包括對應於在一場景或影像中該光線之被決定的強度之資料。
影像訊號處理器(ISP)305耦接於通訊匯流排315,並處理由感測器303產生的該資料。更特定而言,影像訊號處理器305處理來自感測器303的資料來儲存在記憶體307中。例如,影像訊號處理器305可以壓縮一影像,並決定其要被儲存在記憶體307內的一檔案格式。
輸入模組309允許使用者輸入進入到系統300當中,除此之外另可控制由感測器303進行的資料取樣,以及後續ISP 305的處理。輸入模組309可包括但不限於導航板、鍵盤(例如QWERTY)、按鈕、觸控螢幕控制(例如經由顯示器313)與類似者。
中央處理單元(CPU)311經由輸入模組309接收命令,並可控制多種作業,其包括但不限於感測器的取樣與組態、ISP 305的處理、及來自記憶體307的影像及/或視訊之管理(例如加入、轉移、與移除)。
圖4所示為根據本發明之多種具體實施例用於產生複數發光體的基本表面測量之示例性電腦實作程序的流程圖400。在一具體實施例中,該程序可在一實驗室中離線執行,並且獨立於個別模組的廠區測量與校正程序。步驟401-413描述包含根據此處所述之多種具體實施例之流程圖200的示例性步驟。此階段的目的為產生基本表面測量,用於表示對於某個
類型之所有模組所共通的最為徑向對稱(即具有相同的陰影輪廓、除了生產變異之外)的反應。
在步驟401,取得一些典型的模組並做分析。該等模組可自該生產線的一組取得,並可代表生產中的標準變異。根據一些具體實施例,一統計上有意義的數目(例如50-100個模組)於此步驟期間被取得並做分析。
在步驟403,取得該(預定)光源的光譜掃描,用於在廠區校正期間測量該等模組(例如該「校正發光體」)。同樣地在步驟405,取得該等光源的光譜掃描,其為一陰影修正表面(目標發光體)所需要。這些光源可以對應於一預定組合的發光體,其可被決定並用於在一影像捕捉裝置中執行的一自動白平衡程序期間調整在一經取得的影像之色彩值。根據多種具體實施例,該組發光體可以包括(但不限於)自然的陽光、螢光發光體、鎢發光體、或結合兩個或更多的發光體之複合光源。在另一具體實施例中,對應於該等校正照明與目標照明的該等光譜掃描可在先前產生,並於程序400之外執行,並當做資料被儲存在一資料儲存裝置中(例如一資料庫)。根據這些實作,來自該等光譜掃描對應於該校正照明與目標發光體之資料另可分別在步驟403與405被參照。
根據其它具體實施例,該模組類型的每一模組在步驟407由一單光儀做掃描,以產生具有充份波長解析度的該模組之光譜掃描。一掃描可包括例如該黑階偏置的測量,並由300[nm]掃描到800[nm],並具有5nm的解析度。一旦該等相機模組的該等掃描可由該單光儀取得,在步驟409可產生每一模組的一組態。該組態可藉由例如經由軟體實作的工具執行
每一模組的一自動校正程序,並決定該模組後校正之組態來產生。在步驟411,每一相機模組即用於在被模擬來對應於該校正照明的條件之下且針對每一種目標發光體來產生一影像。然後該等經產生的影像被儲存成資料(例如成為一檔案)。在一些具體實施例中,該資料可被儲存成一原始影像(或RAW)檔案。
在步驟413,平均化於步驟411中針對複數模組所產生的影像來產生每一種照明的基本表面。在一些具體實施例中,平均的產生亦經由軟體實作的工具來自動地執行。在一具體實施例中,平均可經由執行目標發光體與相機模組資料(例如在一目錄中)之循環的小程式(script)來計算,且針對每一模組,載入對應於每一發光體的該經產生的影像,加總來自其它模組的相同影像的影像資料,並儲存該結果為一測量資料表面。該得到的表面為該特定發光體的該基本表面。
根據多種具體實施例,代表該基本表面的該資料可被儲存在對應於該相機模組的一記憶體中及/或該相機模組中。在其它具體實施例中,該基本表面資料可被寫入到該等軟體驅動程式用於與在一行動運算裝置中該相機模組進行互動,例如一數位相機、智慧型手機、個人資料助理、電子閱讀器、平板或筆記型電腦等。針對每一基本表面,藉由特定於每一模組來校正該等基本表面而產生一伯濟耳表示。在一具體實施例中,該等校正結果的一輸出能夠計算一種照明的伯濟耳係數,並在以下更為詳細地說明。
圖5所示為根據本發明之多種具體實施例用於在廠區校正期間測量一特定模組之陰影輪廓的示例性程序之流程圖500。在一具體實施例中,於一相機模組的一製造生產期間執行該程序。步驟501-507描述包含根據此處所述之多種具體實施例之流程圖500的示例性步驟。根據一種態樣,流程圖500於被執行於三個階段之第二階段期間,以產生一相機模組的模組特定的經修正表面測量,用於自動透鏡陰影修正。此階段目的係於廠區校正期間在一光源之下產生一特定模組的一伯濟耳陰影修正。根據一些具體實施例,步驟501-507可使用在一運算系統中執行的軟體實作的工具來執行。
如圖5所示,在流程圖500中所述之程序開始於步驟501,其在一已知的光源(參照圖4所述之該校正照明)接收一均勻平面場景的一影像做為輸入,該影像係執行校正的一特定模組所捕捉。在一些具體實施例中,該影像可參照自外部來源(例如由一資料庫)。在又其它具體實施例中,可預處理該影像來呈現某些特性。這些特性可包括例如在該影像中減少黑階,及/或自該影像中消除「壞」的像素或其它感測器之人為效應。又在其它具體實施例中,該影像可附有完整解析度版本的次取樣(sub-sampled)版本。
在步驟503,收到該相機模組的該陰影輪廓。在一些具體實施例中,該相機模組的該陰影輪廓可被儲存在該模組本身的記憶體中。另外,該模組的該陰影輪廓可參照自可存取的儲存裝置,例如一資料庫。在一些具體實施例中,相機模組的陰影輪廓可模型化成兩個組件的組合。第
一組件為徑向且大部份旋轉對稱性。對於徑向組件形狀之主要影響因素有透鏡的相對照明(RI,“Relative illumination”)特性、與入射角有函數關係的感測器的主光線角度(CRA,“Chief ray angle”)輪廓及該紅外線(IR)濾光鏡光譜反應。因此,此組件強烈地取決於該照明的類型,且理想上在生產中不會顯著地改變。第二組件在性質上並非徑向,並可包括一水平/對角線強度梯度,其針對每一色彩通道並不相同,造成橫跨該觀視域的色彩陰影效應。此組件大多數為u透鏡對位不準確的結果(相較於該透鏡的主光線角度輪廓),且亦某種程度而言為像素反應中不均勻性的結果。此組件係假設為大部份無關於良好的近似度的照明。
在步驟505,從步驟503接收相機模組陰影輪廓,產生步驟501所接收影像中每一色彩通道的修正表面。在一具體實施例中,藉由尋找在每一色彩通道中的最大值且針對該影像中每一像素,並將其除以該像素值的色彩值而產生一修正表面。在一些具體實施例中,視需要可應用下降(fall-off)因子來修改該修正表面。在一些具體實施例中,下降因子可被實作成與該影像的中心之距離(或該半徑)的二次函數。在又另外的具體實施例中,另可微調選用的色彩不平衡。例如,為了修正綠色通道不平衡,在該陰影輪廓中一較低的綠色通道可乘以該較高綠色通道與該較低者之間的比例。
在步驟507,計算這些表面的一伯濟耳係數表示。為此目的,該表面首先被分成複數次區段,其大小基於該相機模組的組態來決定(在流程圖400的步驟409決定)。接著,在每一次區段中執行一最小平方
最佳化來決定描述該表面的一或多個伯濟耳係數。決定該等伯濟耳係數可由以下的步驟(但不限於此)來執行:
a.計算該等次區段的大小。典型而言,選擇標準的次區段大小。
b.計算在該影像中每一像素處的該色度(例如u、v)值,其對應於該等貼片大小。
c.由該等色度值計算該等第三階伯濟耳多項式。
d.針對每一色彩通道,建構一過度限制的線性系統,其中100個伯濟耳係數為變數(該向量x),且該等公式的數目為在該修正表面中像素的數目(該向量b)。在一具體實施例中,該系統可被表示成Ax=b,其中該矩陣A保持該第三階伯濟耳多項式元素,其被乘以該等伯濟耳係數,藉以近似該表面。A係假設為不足與完整等級(即有比伯濟耳係數更多的表面點,且其為不足)。
e.由該公式Ax=b,該最佳化問題藉由計算該最小平方近似解來定義與求解。
f.調整該等係數的整數與分數部份來符合所需要的輸出解析度。
一旦計算出來,該等伯濟耳係數可被儲存成資料(例如成為一組態檔案),並被程式化在該相機模組的一記憶體中。根據一些具體實施例,此資料儲存在該相機模組的一次性可程式化記憶體中。除了該等陰影表面之外,每一色彩通道的最大值可對自動白平衡做計算與使用。
圖6所示為根據本發明之多種具體實施例用於使用一校正表面與一基本表面產生一任意光源的一透鏡陰影表面之示例性程序的流程圖600。步驟601-607描述包含根據此處所述之多種具體實施例之流程圖600的示例性步驟。根據一種態樣,流程圖600於被執行來產生一相機模組的模組特定的經修正表面測量用於自動透鏡陰影修正的三個階段之最後階段期間來執行。此階段的目的為使用前兩個階段中收集的資料產生一目標照明(一目標伯濟耳表面)的一模組特定的伯濟耳陰影修正表面(或數個表面),即在該廠區校正階段期間在校正照明之下所測量的一模組特定的校正表面(一校正伯濟耳表面),及至少兩個基本表面,即在該第一階段中計算的該等校正照明與該目標照明的表面。
在一具體實施例中,該程序藉由在其中包含一相機模組的一行動運算裝置的開機程序期間由一驅動程式執行。對於該相機模組為唯一的該校正資料於步驟601的開機期間由該驅動程式讀取。在步驟603,該驅動程式亦讀取符合該校正照明(基本照明表面)的該基本表面資料,以及(在步驟605)符合該目標照明(基本目標表面)的該基本表面,兩者皆以伯濟耳係數表示,並燒製到可由該驅動程式存取的記憶體當中。
該目標伯濟耳表面的產生使用根據以下的數學式在圖400中決定的該等基本表面測量來針對該等伯濟耳係數之每一者來執行,其計算如下(在伯濟耳域中):
在一些具體實施例中,可組態的下降因子可被應用來控制該最終目標伯濟耳表面所需要的光線下降。為了實現在該伯濟耳域中的該下降,該驅動程式可產生一對稱性陰影輪廓,其可符合在該觀視域之上該等伯濟耳係數的該等空間位置,並將每一係數乘以一適當的下降因子。這些因子可藉由在每一伯濟耳係數的每一空間位置(相對於該影像的中央)處該平方的半徑來產生,然後計算:
所得到的輸出藉由將該下降因子乘以該校正伯濟耳表面的每一係數來應用,並可表示成:
此第三與最後階段的該等輸出表面用於根據該光源估計來修正在該相機模組中的該陰影輪廓。例如,一旦一場景的一影像被該相機模組捕捉時,存在於該場景中的該等發光體即被決定(通常透過一白平衡的程序)。一旦偵測到存在的該發光體,對應於該等偵測到的發光體之該經修正的透鏡陰影表面即被參照,且將來自該經修正的透鏡陰影表面之係數應用到該等像素值來修正透鏡陰影效應。
因此,如此處所述之本發明的具體實施例提供替代傳統方式的一種有效率的方式來執行自動透鏡陰影校正與修正。藉由初始時決定一整個模組類型的基本測量表面並應用自單一捕捉的影像取得的模組特定的校正,本發明之多種具體實施例能夠避免習用技術中所必須的針對個別模
組之大量、繁複與耗時的校正,而仍然能夠維持對於經捕捉的影像資料之有效的透鏡陰影修正。
雖然本發明之標的已經以特定於結構化特徵及/或處理邏輯動作的語言來描述,其應瞭解在附屬申請專利範圍中所定義本發明之標的並不限制於上述之特定特徵或動作。上述的特定特徵與動作係以實施該等申請專利範圍之範例型式來揭露。
100‧‧‧影像捕捉裝置
101‧‧‧相機模組
103‧‧‧透鏡
105‧‧‧影像感測器
107‧‧‧基板
Claims (27)
- 一種執行透鏡陰影修正的方法,該方法包括以下步驟:產生一相機模組類型的複數基本表面測量;接收該相機模組類型的每一相機模組所特定的一陰影輪廓,該陰影輪廓包括一徑向組件和一非徑向組件;基於一對應陰影輪廓來計算一模組特定的校正表面;及基於該相機模組類型的該複數基本表面測量與該模組特定的校正表面,產生該複數發光體之每一發光體的一模組特定的經修正之表面測量;其中該複數相機模組中每一相機模組可操作成用於一行動運算裝置中;且其中,該複數基本表面測量係基於複數光譜掃描而經產生;而在複數模擬條件下的複數影像係基於一目標發光體及一校正發光體而經產生。
- 如申請專利範圍第1項之方法,另包括:利用該複數相機模組中一第一相機模組捕捉一場景;決定由該第一相機模組捕捉的該場景中一發光體;及將對應於該經決定的發光體之該模組特定的經修正之表面測量應用到對應於該場景的影像資料。
- 如申請專利範圍第1項之方法,其中該產生該基本表面測量係離線地(offline)執行,並獨立於該相機模組類型的每一相機模組所特定的一陰影輪廓之測量。
- 如申請專利範圍第1項之方法,其中該基本表面測量係儲存在一記憶 體中,該記憶體可由在一處理器中執行的一相機驅動程式來存取,並組態成與該相機模組進行互動。
- 如申請專利範圍第1項之方法,其中該陰影輪廓的該徑向組件包含下列中至少一者:該相機模組所包含的一透鏡的複數相對照明特性;該相機模組所包含的一感測器的一主光線角度的一輪廓;該相機模組所包含的一紅外線濾光鏡的一光譜反應。
- 如申請專利範圍第1項之方法,其中該陰影輪廓係在該相機模組類型的一相機模組的廠區(factory floor)校正期間量測。
- 如申請專利範圍第1項之方法,其中該徑向組件實質上係旋轉對稱(rotationally-symmetric)。
- 如申請專利範圍第1項之方法,其中該徑向組件係根據該複數發光體的照明類型而定。
- 如申請專利範圍第1項之方法,其中該非徑向組件實質上係獨立於該複數發光體的照明類型。
- 如申請專利範圍第1項之方法,其中該陰影輪廓的該非徑向組件包括一水平/對角線強度梯度,其針對複數色彩通道的每一色彩通道係不相同。
- 如申請專利範圍第1項之方法,其中該產生該基本表面測量更包括下列中至少一者: 得到該相機模組類型的複數相機模組;決定一校正照明資料;決定該複數發光體的一目標照明資料;產生該複數光譜掃描;基於一光譜掃描產生每一相機模組的一組態;產生在該複數模擬條件下的該複數影像,該複數模擬條件係基於該目標照明資料及該校正照明資料;及平均化該複數相機模組的該複數影像。
- 如申請專利範圍第11項之方法,其中該產生該相機模組的該複數光譜掃描包括利用一單光儀掃描該複數相機模組。
- 如申請專利範圍第11項之方法,其中該複數影像係經儲存成一原始影像格式(RAW)的檔案。
- 如申請專利範圍第11項之方法,其中該複數光譜掃描包含用於在一廠區校正期間測量該複數相機模組的一校正光源的一光譜掃描。
- 如申請專利範圍第14項之方法,其中該複數光譜掃描包含該複數發光體之每一發光體的一光譜掃描。
- 如申請專利範圍第15項之方法,其中該產生一模組特定的經修正之表面測量包括:接收該模組特定的校正表面;接收對應於該校正發光體的一基本表面測量資料;接收對應於一目標發光體的該基本表面測量資料;及 基於該模組特定的校正表面計算該目標發光體的該模組特定的經修正之表面測量,該基本表面測量資料對應於該校正發光體,且該基本表面測量資料對應於該目標發光體。
- 如申請專利範圍第16項之方法,其中該模組特定的校正表面包含一伯濟耳陰影修正表面測量,另外其中測量該相機模組類型的每一相機模組所特定的一陰影輪廓包括產生在該校正發光體之下該相機模組的該伯濟耳陰影修正表面。
- 如申請專利範圍第17項之方法,其中該測量每一相機模組所特定的一陰影輪廓係於該相機模組的一廠區校正期間來執行。
- 如申請專利範圍第17項之方法,其中該產生該伯濟耳陰影修正表面包括接收利用該相機模組所捕捉的一均勻平面域場景的一影像做為輸入,該均勻平面域場景的該影像包含複數像素,該複數像素之每一像素具有針對複數色彩通道之每一者的一像素值。
- 如申請專利範圍第19項之方法,其中一相機模組的該陰影輪廓包含針對該複數色彩通道之每一者的一強度梯度。
- 如申請專利範圍第19項之方法,其中該產生該伯濟耳陰影修正表面包括:接收該相機模組的該陰影輪廓;基於該陰影輪廓產生複數修正表面,該複數修正表面之每一修正表面對應於該複數色彩通道之一色彩通道;及計算該複數修正表面之一伯濟耳係數表示。
- 如申請專利範圍第21項之方法,其中該產生複數修正表面包括:尋找在該複數色彩通道之每一色彩通道中的一最大值;及針對複數像素之每一像素,將該最大值除以該像素的該色彩值。
- 如申請專利範圍第21項之方法,其中該產生該伯濟耳陰影修正表面更包括藉由將該複數色彩通道之一較低的綠色通道乘以該複數色彩通道之一較高的綠色通道與該較低的綠色通道之一比例,來針對綠色通道中的一不平衡進行修正。
- 如申請專利範圍第21項之方法,其中該計算該複數修正表面之一伯濟耳係數表示包括:區分每一修正表面成為複數次分區;在該複數次分區之每一者中執行一最小平方最佳化;及由該等最小平方最佳化決定一組伯濟耳係數。
- 如申請專利範圍第24項之方法,其中該計算該目標發光體之該模組特定的經修正之表面測量,係針對該組伯濟耳係數之每一者來執行。
- 如申請專利範圍第24項之方法,其中該計算該目標發光體之該模組特定的經修正之表面測量包括:產生一對稱性陰影輪廓,其可符合對應於該組伯濟耳係數的複數空間位置;計算對應於該組伯濟耳係數的複數下降因子;及將該組伯濟耳係數之每一伯濟耳係數乘以該複數下降因子中之一相對應下降因子。
- 如申請專利範圍第26項之方法,其中該計算對應於該組伯濟耳係數的複數下降因子包括:相對於該影像的一中央,計算該組伯濟耳係數中每一伯濟耳係數的一空間位置處的一平方半徑。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/732,211 US9451187B2 (en) | 2012-12-31 | 2012-12-31 | Lens shading calibration for cameras |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201444367A TW201444367A (zh) | 2014-11-16 |
TWI556645B true TWI556645B (zh) | 2016-11-01 |
Family
ID=50928593
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW102147149A TWI556645B (zh) | 2012-12-31 | 2013-12-19 | 相機的透鏡陰影校正 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9451187B2 (zh) |
DE (1) | DE102013114631B4 (zh) |
TW (1) | TWI556645B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI802831B (zh) * | 2020-12-14 | 2023-05-21 | 大陸商北京集創北方科技股份有限公司 | 特徵圖像擴展方法及利用其之控制晶片和觸控顯示裝置及手持裝置 |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9432647B2 (en) | 2013-09-09 | 2016-08-30 | Apple Inc. | Adaptive auto exposure and dynamic range compensation |
US9300888B2 (en) * | 2013-10-03 | 2016-03-29 | Amlogic Co., Ltd. | Methods and systems for lens shading correction |
KR102159991B1 (ko) * | 2013-12-27 | 2020-09-25 | 삼성전자주식회사 | 렌즈 쉐이딩 보정 방법, 그것을 이용하는 영상 신호 처리 장치 및 이미지 센서 시스템 |
US10904535B2 (en) | 2017-04-01 | 2021-01-26 | Intel Corporation | Video motion processing including static scene determination, occlusion detection, frame rate conversion, and adjusting compression ratio |
US10506255B2 (en) | 2017-04-01 | 2019-12-10 | Intel Corporation | MV/mode prediction, ROI-based transmit, metadata capture, and format detection for 360 video |
US10882453B2 (en) | 2017-04-01 | 2021-01-05 | Intel Corporation | Usage of automotive virtual mirrors |
US11054886B2 (en) | 2017-04-01 | 2021-07-06 | Intel Corporation | Supporting multiple refresh rates in different regions of panel display |
US10506196B2 (en) | 2017-04-01 | 2019-12-10 | Intel Corporation | 360 neighbor-based quality selector, range adjuster, viewport manager, and motion estimator for graphics |
US10574995B2 (en) | 2017-04-10 | 2020-02-25 | Intel Corporation | Technology to accelerate scene change detection and achieve adaptive content display |
US10453221B2 (en) | 2017-04-10 | 2019-10-22 | Intel Corporation | Region based processing |
US10638124B2 (en) | 2017-04-10 | 2020-04-28 | Intel Corporation | Using dynamic vision sensors for motion detection in head mounted displays |
US10587800B2 (en) | 2017-04-10 | 2020-03-10 | Intel Corporation | Technology to encode 360 degree video content |
US10623634B2 (en) | 2017-04-17 | 2020-04-14 | Intel Corporation | Systems and methods for 360 video capture and display based on eye tracking including gaze based warnings and eye accommodation matching |
US10726792B2 (en) | 2017-04-17 | 2020-07-28 | Intel Corporation | Glare and occluded view compensation for automotive and other applications |
US10547846B2 (en) | 2017-04-17 | 2020-01-28 | Intel Corporation | Encoding 3D rendered images by tagging objects |
US10456666B2 (en) | 2017-04-17 | 2019-10-29 | Intel Corporation | Block based camera updates and asynchronous displays |
US10402932B2 (en) | 2017-04-17 | 2019-09-03 | Intel Corporation | Power-based and target-based graphics quality adjustment |
US10424082B2 (en) | 2017-04-24 | 2019-09-24 | Intel Corporation | Mixed reality coding with overlays |
US10643358B2 (en) | 2017-04-24 | 2020-05-05 | Intel Corporation | HDR enhancement with temporal multiplex |
US10158833B2 (en) | 2017-04-24 | 2018-12-18 | Intel Corporation | High dynamic range imager enhancement technology |
US10525341B2 (en) | 2017-04-24 | 2020-01-07 | Intel Corporation | Mechanisms for reducing latency and ghosting displays |
US10475148B2 (en) | 2017-04-24 | 2019-11-12 | Intel Corporation | Fragmented graphic cores for deep learning using LED displays |
US10565964B2 (en) | 2017-04-24 | 2020-02-18 | Intel Corporation | Display bandwidth reduction with multiple resolutions |
US10908679B2 (en) | 2017-04-24 | 2021-02-02 | Intel Corporation | Viewing angles influenced by head and body movements |
US10939038B2 (en) | 2017-04-24 | 2021-03-02 | Intel Corporation | Object pre-encoding for 360-degree view for optimal quality and latency |
US10979728B2 (en) | 2017-04-24 | 2021-04-13 | Intel Corporation | Intelligent video frame grouping based on predicted performance |
DE102020107965B3 (de) | 2020-03-23 | 2021-09-09 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung eingetragener Verein | Verfahren zur optischen Bestimmung einer Intensitätsverteilung |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201004370A (en) * | 2008-06-30 | 2010-01-16 | Sony Corp | Image signal correcting device, imaging device, image signal correcting method, and program |
US20100165144A1 (en) * | 2008-12-31 | 2010-07-01 | Ji Soo Lee | Scene illumination adaptive lens shading correction for imaging devices |
US20100271503A1 (en) * | 2009-04-24 | 2010-10-28 | Ati Technologies Ulc | Digital Camera Module White Balance Calibration Method and Apparatus Using Only Single Illumination Source Data |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7961973B2 (en) * | 2004-09-02 | 2011-06-14 | Qualcomm Incorporated | Lens roll-off correction method and apparatus |
EP2279612B1 (en) | 2008-05-22 | 2013-03-20 | Hewlett-Packard Development Company, L.P. | Camera sensor correction |
US8749662B2 (en) * | 2009-04-16 | 2014-06-10 | Nvidia Corporation | System and method for lens shading image correction |
US20120314086A1 (en) * | 2011-06-08 | 2012-12-13 | Apple Inc. | Camera test and calibration based on spectral monitoring of light |
-
2012
- 2012-12-31 US US13/732,211 patent/US9451187B2/en active Active
-
2013
- 2013-12-19 TW TW102147149A patent/TWI556645B/zh not_active IP Right Cessation
- 2013-12-20 DE DE102013114631.7A patent/DE102013114631B4/de active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201004370A (en) * | 2008-06-30 | 2010-01-16 | Sony Corp | Image signal correcting device, imaging device, image signal correcting method, and program |
US20100165144A1 (en) * | 2008-12-31 | 2010-07-01 | Ji Soo Lee | Scene illumination adaptive lens shading correction for imaging devices |
US20100271503A1 (en) * | 2009-04-24 | 2010-10-28 | Ati Technologies Ulc | Digital Camera Module White Balance Calibration Method and Apparatus Using Only Single Illumination Source Data |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI802831B (zh) * | 2020-12-14 | 2023-05-21 | 大陸商北京集創北方科技股份有限公司 | 特徵圖像擴展方法及利用其之控制晶片和觸控顯示裝置及手持裝置 |
Also Published As
Publication number | Publication date |
---|---|
TW201444367A (zh) | 2014-11-16 |
DE102013114631A1 (de) | 2014-07-03 |
US20140184813A1 (en) | 2014-07-03 |
US9451187B2 (en) | 2016-09-20 |
DE102013114631B4 (de) | 2017-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI556645B (zh) | 相機的透鏡陰影校正 | |
WO2016112704A1 (zh) | 调节投影仪焦距的方法和装置、计算机存储介质 | |
US11336876B2 (en) | Projection system and image uniformity compensation method thereof | |
WO2019039771A1 (en) | ELECTRONIC DEVICE FOR STORING DEPTH INFORMATION IN RELATION TO AN IMAGE BASED ON DEPTH INFORMATION PROPERTIES OBTAINED USING AN IMAGE, AND ITS CONTROL METHOD | |
US20130021484A1 (en) | Dynamic computation of lens shading | |
JP2013125270A (ja) | 電子ディスプレイ設定を自動的に調整するためのシステム及び方法 | |
WO2019059562A1 (ko) | 롤링 셔터 방식을 이용한 복수의 카메라를 포함하는 전자 장치 | |
Kordecki et al. | Practical vignetting correction method for digital camera with measurement of surface luminance distribution | |
US20190124248A1 (en) | Dynamic range extension to produce images | |
CN112262565B (zh) | 图像传感器后处理 | |
TWI697872B (zh) | 色差調整影像資料生成方法、色差調整影像顯示方法、色差調整影像資料生成裝置及色差調整影像顯示系統 | |
Juang et al. | Photometric self-calibration of a projector-camera system | |
Kordecki | Practical testing of irradiance-independent camera color calibration | |
TWI524279B (zh) | 影像擷取裝置及其暗角補償方法 | |
JP2010190741A (ja) | 測定装置、測定方法および撮像装置 | |
Kordecki et al. | A study of vignetting correction methods in camera colorimetric calibration | |
Tian et al. | Automatically designing an image processing pipeline for a five-band camera prototype using the local, linear, learned (L3) method | |
Kordecki et al. | Local polynomial model: A new approach to vignetting correction | |
Guarnera et al. | Absolute colorimetric characterization of a dslr camera | |
JP2007221624A (ja) | 照度取得装置、照度取得方法および照度取得プログラム | |
McCann | ColorChecker at the beach: dangers of sunburn and glare | |
CN110636212A (zh) | 信息选择配置装置和信息选择配置方法 | |
US20240071275A1 (en) | Calibration system for display apparatus and operating method thereof | |
WO2024051418A1 (zh) | 基于光谱信息的拍照方法和电子设备 | |
Nicol | Image sensor characterisation using SMIA standard |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
MM4A | Annulment or lapse of patent due to non-payment of fees |