TWI737979B - 圖像去馬賽克裝置及方法 - Google Patents

圖像去馬賽克裝置及方法 Download PDF

Info

Publication number
TWI737979B
TWI737979B TW108111554A TW108111554A TWI737979B TW I737979 B TWI737979 B TW I737979B TW 108111554 A TW108111554 A TW 108111554A TW 108111554 A TW108111554 A TW 108111554A TW I737979 B TWI737979 B TW I737979B
Authority
TW
Taiwan
Prior art keywords
pixel
red
channel
pixel values
green channel
Prior art date
Application number
TW108111554A
Other languages
English (en)
Other versions
TW201944773A (zh
Inventor
沙爾維斯 史汪米
段宇波
劉成明
Original Assignee
美商豪威科技股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商豪威科技股份有限公司 filed Critical 美商豪威科技股份有限公司
Publication of TW201944773A publication Critical patent/TW201944773A/zh
Application granted granted Critical
Publication of TWI737979B publication Critical patent/TWI737979B/zh

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4015Demosaicing, e.g. colour filter array [CFA], Bayer pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction

Abstract

一種用於將原始圖像去馬賽克的方法包括:(1)由多個主像素值B g (x,y) g 形成的一綠色通道進行水平內插以產生包括主像素值B g (x,y) g 和非主像素值I gh (x,y) r,b 的一經水平內插綠色通道;(2)藉由多個像素值水平相鄰化修正每個非主像素值I gh (x,y) r,b 以產生一經精緻化水平內插綠色通道;(3)垂直內插該綠色通道以產生包括像素值I gv (x,y) r,b 的一經垂直內插綠色通道;(4)藉由多個像素值垂直相鄰化修正每個I gv (x,y) r,b 以產生一經精緻化垂直內插綠色通道;(5)根據該經精緻化內插綠色通道及其梯度產生一全解析度綠色通道;(6)藉由從相鄰像素值的局部紅色均值和該全解析度綠色通道確定紅色像素值來產生一全解析度紅色通道;(7)藉由從相鄰像素值的局部藍色均值和該全解析度綠色通道確定像素值產生全解析度藍色通道;以及(8)組合該等全解析度通道以產生去馬賽克的原始圖像。

Description

圖像去馬賽克裝置及方法
許多消費性電子產品包括至少一個相機。這些產品包括平板電腦、行動電話和智慧手錶。在這些產品中,及在其自身中之數位靜物相機,於弱光環境中擷取的圖像和影片會遭受低信噪比,而限制了圖像和影片的品質。高動態範圍圖像也面臨此問題,例如在圖像的低亮度區域中。
本文公開的實施方式改進了由相對低亮度導致的圖像品質問題。在一個方面,公開了一種用於將由圖像感測器擷取的原始圖像去馬賽克的方法。該圖像感測器包括一像素陣列和一Bayer模式濾色器陣列(CFA),該Bayer模式濾色器陣列(CFA)具有多個紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 以分別覆蓋所述像素陣列的多個像素子陣列中的對應像素子陣列。該像素陣列包括位於一多個座標(x,y) α 中的對應座標處且位於濾色器CF α 下方的多個像素p(x,y) α ,及每個像素p(x,y) α 產生多個主像素值B α (x,y) α 中的對應主像素值,其中αrgb的其中一個。該方法包括下面由1-8表示的步驟:(1)將該由所述多個主像素值B α (x,y) α 中的主像素值B g (x,y) g 形成原始圖像的綠色通道進行水平內插處理,以產生包括主像素值B g (x,y) g 和非主像素值I gh (x,y) r,b 的一經水平內插綠色通道;(2)藉由多個水平相鄰的非主像素值I gh (x,y) r,b 修改每個非主像素值I gh (x,y) r,b 來產生一經精緻化水平內插綠色通道; (3)將該綠色通道進行垂直內插處理以產生包括主像素值B g (x,y) g 和非主像素值I gv (x,y) r,b 的一經垂直內插綠色通道;(4)藉由多個垂直相鄰的非主像素值I gv (x,y) r,b 修改每個非主像素值I gv (x,y) r,b 來產生一經精緻化垂直內插綠色通道;(5)根據該經精緻化水平內插綠色通道、該經精緻化垂直內插綠色通道、該水平內插綠色通道的水平梯度和該垂直內插綠色通道的垂直梯度產生一全解析度綠色通道;(6)藉由從相鄰的紅色主像素值B r (x,y) r 的局部紅色均值和所述全解析度綠色通道確定多個非主紅色像素值I r (x t ,y t ) g,b 產生一全解析度紅色通道,其中每個非主紅色像素值I r (x t ,y t ) g,b 對應於多個座標(x t ,y t ) g,b 中的對應座標;(7)藉由從相鄰的藍色主像素值B b (x,y) b 的局部藍色均值和該全解析度綠色通道確定多個非主藍色像素值I b (x t ,y t ) g,r 產生一全解析度藍色通道,其中每個非主藍色像素值I b (x t ,y t ) g,r 對應於多個座標(x t ,y t ) g,r 中的對應座標;以及(8)組合該全解析度紅色通道、該全解析度綠色通道和該全解析度藍色通道以產生去馬賽克的原始圖像。
在第二方面,用於對原始圖像去馬賽克處理的一圖像去馬賽克裝置包括一記憶體和一微處理器。該原始圖像由前述方法所述的圖像感測器擷取。該記憶體儲存非暫時性電腦可讀指令且適於儲存該原始圖像。該微處理器適於執行所述指令以執行前述方法的步驟1-8。
100‧‧‧相機
102‧‧‧微處理器
104‧‧‧記憶體
120‧‧‧場景
121‧‧‧人
122‧‧‧視窗
123‧‧‧晴天場景
130‧‧‧圖像感測器
132‧‧‧像素
132A‧‧‧像素陣列
138‧‧‧電路
139‧‧‧顯示器
140‧‧‧濾色器陣列
190‧‧‧原始圖像
198‧‧‧去馬賽克的圖像
200‧‧‧圖像感測器
209‧‧‧座標系統
236‧‧‧像素子陣列
240‧‧‧CFA
390‧‧‧原始圖像
400‧‧‧紅色通道
500‧‧‧綠色通道
600‧‧‧藍色通道
700‧‧‧圖像去馬賽克裝置
702‧‧‧微處理器
704‧‧‧記憶體
720‧‧‧軟體
722‧‧‧綠色通道內插器
723‧‧‧解析度恢復器
724‧‧‧梯度濾波器
727‧‧‧組合器
728‧‧‧紅色通道內插器
729‧‧‧藍色通道內插器
732‧‧‧組合器
740‧‧‧中間輸出
742H‧‧‧水平內插綠色通道
742V‧‧‧垂直內插綠色通道
743H‧‧‧經精緻化綠色通道
743V‧‧‧經精緻化綠色通道
744H‧‧‧梯度圖像
744V‧‧‧梯度圖像
747‧‧‧全解析度綠色通道
748‧‧‧全解析度紅色通道
749‧‧‧全解析度藍色通道
790‧‧‧原始圖像
791‧‧‧色彩通道
792‧‧‧色彩通道
793‧‧‧色彩通道
798‧‧‧去馬賽克的圖像
800‧‧‧水平內插綠色通道
801‧‧‧綠色像素值
803‧‧‧綠色像素值
900‧‧‧垂直內插綠色通道
901‧‧‧綠色像素值
903‧‧‧綠色像素值
1000‧‧‧經精緻化水平內插綠色通道
1001‧‧‧綠色像素值
1003‧‧‧綠色像素值
1100‧‧‧經精緻化垂直內插綠色通道
1101‧‧‧綠色像素值
1103‧‧‧綠色像素值
1600‧‧‧水平梯度圖像
1610‧‧‧內核
1700‧‧‧垂直梯度圖像
1800‧‧‧全解析度綠色通道
1802‧‧‧像素值
1900‧‧‧經分箱化原始圖像
1901‧‧‧經分箱化紅色像素值
1902‧‧‧經分箱化綠色像素值
1903‧‧‧經分箱化藍色像素值
2000‧‧‧經分箱化綠色通道
2001‧‧‧經分箱化像素值
2002‧‧‧經分箱化像素值
2003‧‧‧經分箱化像素值
2100‧‧‧去馬賽克的圖像
2200‧‧‧方法
2210H‧‧‧步驟
2210V‧‧‧步驟
2220H‧‧‧步驟
2220V‧‧‧步驟
2230‧‧‧步驟
2240B‧‧‧步驟
2240R‧‧‧步驟
2250‧‧‧步驟
B‧‧‧藍色濾色器
B b ‧‧‧主像素值
B g ‧‧‧主像素值
B r ‧‧‧主像素值
G‧‧‧綠色濾色器
H r ‧‧‧紅色水平補充
H b ‧‧‧藍色水平補充
R‧‧‧紅色濾色器
V b ‧‧‧藍色垂直補充
V r ‧‧‧紅色垂直補充
圖1描繪由一相機所擷取的一場景,該相機包含一圖像感測器,該圖像感測器包含一像素陣列。
圖2是在一實施例中,一圖像感測器之一區域之一示意圖,該圖像感測器包含圖1之像素陣列及一四單元Bayer型濾色器陣列(CFA)在於其上。
圖3是與圖2說明的像素陣列的區域,其所對應的原始圖像區域的一示意圖。
圖4、圖5和圖6分別說明實施方式中從圖3的原始圖像產生的紅色通道、綠色通道和藍色通道的示意圖。
圖7為一圖像去馬賽克裝置隻示意性功能框圖,該圖像去馬賽克裝置被組態成自圖3之原始圖像產生一去馬賽克圖像。
圖8和圖9說明在一實施例中,分別由圖7的圖像去馬賽克裝置產生的經水平內插綠色通道和經垂直內插綠色通道。
圖10和圖11說明在一實施例中分別由圖7的圖像去馬賽克裝置產生的圖8和圖9的經內插綠色通道的精緻版本。
圖12至圖15用圖表說明在一實施例中在計算用於產生圖10和圖11的經精緻化綠色通道的水平補充和垂直補充時牽涉的像素值。
圖16和圖17分別說明在一實施例中一水平梯度圖像和一垂直梯度圖像,其均為由圖7的圖像去馬賽克裝置產生的梯度圖像的對應範例。
圖18說明在一實施例中一全解析度綠色通道,其係經圖16和圖17的梯度圖像加權處理後之圖10和圖11的精緻內插綠色通道的平均。
圖19說明在一實施例中從圖3的原始圖像產生的經分格化原始圖像的區域。
圖20說明在一實施例中從圖18的全解析度通道產生的經分格化綠色通道的區域。
圖21是一實施例中一去馬賽克圖像的區域的示意圖,其為由圖7的圖像去馬賽克裝置產生去馬賽克圖像的範例。
圖22是在一實施例中說明用於將原始圖像去馬賽克的方法的流程圖。
圖1描繪正對一具有高動態亮度範圍的場景120進行成像的一相機100。場景120包括視窗122前面的人121,藉由視窗122可以看到晴天場景123。相機100包括一成像鏡頭(未顯示)、一圖像感測器130、一記憶體104和通信耦合至圖像感測器130的一微處理器102。圖像感測器130包括一像素陣列132A,像素陣列132A的上面可以有濾色器陣列(CFA)140。像素陣列132A包括多個像素132,為了清楚起見在圖1中未顯示。CFA 140中的每個濾色器可以與像素陣列132A的對應像素132對齊或與像素陣列132A的對應像素子陣列的中心對齊。像素子陣列例如是一組m×n的像素132,其中mn是整數,它們中的至少一個大於1。成像鏡頭將場景120成像到圖像感測器130上。圖像感測器130還包括電路138,電路138包括至少一個類比轉數位轉換器。
每個像素132具有一對應像素電荷,對應與從場景120成像到像素陣列132A的對應光的光強度。電路138將每個像素電荷轉換為原始圖像190的第一多個像素值中的對應像素值,該對應像素值儲存在記憶體104中。 相機100可以包括顯示器139,顯示器139被配置為顯示原始圖像190的去馬賽克版本而為去馬賽克圖像198。
在場景120中,當陽光照射晴天場景123時,室內照明(未顯示)照射至面向相機的人121的正面。因此,人121和晴天場景123具有各自不同的亮度。由於直接陽光通常明顯亮於室內照明,所以晴天場景123的亮度遠遠超過人121的亮度以致場景120具有一高動態亮度範圍。標準數位成像技術允許使用針對人121或晴天場景123(而非兩者)的亮度最佳化的單一曝光時間來擷取場景120。即使當曝光時間是針對人121的亮度而最佳化時,曝光時間也可能會太長而不能擷取人121的清晰圖像,例如,如果人121正在移動的情況下。
圖2為一圖像感測器中一部分之一示意平面圖,包括一像素陣列132A和其上的四單元型Bayer CFA 240(Four-cell Bayer CFA,下文稱為CFA 240)。圖像感測器200和CFA 240分別是圖像感測器130和CFA 140的示例。紅色濾色器區域、綠色濾色器區域和藍色濾色器區域的2×2組使得圖像感測器200具有弱光反應,而與具有更大像素的圖像感測器的弱光反應類似,因而需要較短曝光時間用於使人121充分曝光。然而,這種濾光器陣列的缺點是喪失圖像解析度。本文所公開的實施例能回復了該喪失的圖像解析度。
圖像感測器200和CFA 240依照x-y座標系統209被定位。座標(x,y)表示每個濾色器和其下方的像素的位置,其中該座標系統209的原點(x=y=0)可以對應於像素陣列132A內的任意像素。在本文中,所有座標都被表示成(x,y)座標,即首先列出x值。而且,在本文中符號α(i,j)指座標(i,j)處的濾色器,其中α表示一濾色器的透射譜,ij是整數。例如,αr、g、b、c、m、y和k中的一個,分別表示紅色、綠色、藍色、青色、洋紅、黃色和透明(全色)濾色器。座標對的下標指示覆蓋該座標處的像素132的CFA 240的濾色器類型。例如,像素p(x,y) α 表示位於座標(x,y)處的像素132,其被具有由α表示的透射譜的濾色器覆蓋。像素p(x,y) α 產生主像素值B α (x,y)。
CFA 240包括在一四單元Bayer模式中排列的多個紅色(R)、綠色(G)和藍色(B)濾色器。在與一像素陣列對齊的傳統Bayer模式CFA中,每個濾色器與像素陣列的對應像素對齊。傳統Bayer模式可以被視為一“單一單元Bayer模式”。在具有四單元Bayer模式的CFA中,像素陣列的四像素子陣列可以位於相同顏色的一個濾色器下方。
在CFA 240中,每個濾色器可以與像素陣列132A中的2×2像素子陣列對齊。例如,像素陣列132A具有由分別位於下文稱為座標C 1 的四個座標(5,5)、(6,5)、(5,6)、(6,6)處的四個像素132形成的像素子陣列236。CFA 240包括與構成像素子陣列236的像素132對齊的一藍色濾色器。此藍色濾色器可為單一連續光學元件,或者包括多個光學元件例如以2×2陣列排列的四個獨立光學元件。類似地,CFA 240包括分別與像素陣列132A的對應的2×2像素子陣列對齊的紅色濾色器和綠色濾色器。
圖3為一原始圖像390中一區域之一平面示意圖,對應至圖2中說明的像素陣列132A。原始圖像390是原始圖像190的示例,並且包括多個主像素值B r 、多個主像素值B g 和多個主像素值B b
每個主像素值B r 由位於CFA 140的紅色濾色器下方的對應像素132產生。每個主像素值B g 由位於CFA 140的綠色濾色器下方的對應像素132產生。每個主像素值B b 由位於CFA 140的藍色濾色器下方的對應像素132產生。例如,位於對應座標(3,4)、(3,6)和(5,6)處的主像素值B r B g B b 係由圖像感測器200的位於相同對應座標(3,4)、(3,6)和(5,6)處的對應像素產生。更簡潔地表達和介紹本文中使用的符號約定,主像素值B r (3,4)、B b (3,6)和B g (5,6)由圖像感測器200的對應像素p(3,4) r p(3,6) g p(5,6) b 產生。
圖4至圖6分別示出了從原始圖像390產生的紅色通道400、綠色通道500和藍色通道600的示意圖。通道400、500和600均以x-y座標系 統209被表示。紅色通道400包括原始圖像390的主像素值B r ,其位於與CFA 240的紅色濾色器對應的位置處。綠色通道500包括原始圖像390的主像素值B g ,其位於與CFA 240的綠色濾色器對應的位置處。藍色通道600包括原始圖像390的主像素值B b ,其位於與CFA 240的藍色濾色器對應的位置處。
圖7是一圖像去馬賽克裝置700之一示意性功能框圖,其被配置為能從原始圖像790產生去馬賽克的圖像798。圖像去馬賽克裝置700可以在相機100內設置。圖3的原始圖像390是原始圖像790的示例。
圖像去馬賽克裝置700包括微處理器702和儲存包含電腦可讀指令的軟體720的記憶體704。微處理器702可為如影像處理器的一數位訊號處理器。記憶體704可為暫時性和/或非暫時性的,並且可以包括揮發性記憶體(例如,SRAM、DRAM、VRAM或其任意組合)和非揮發性記憶體(例如,FLASH、ROM、磁性媒體、光學媒體或其任意組合)中的一者或二者。
記憶體704和微處理器702可以分別做為圖1的相機100的記憶體104和微處理器102。微處理器702適於執行指令以執行本文中所描述的圖像去馬賽克裝置700的功能。記憶體704可以儲存原始圖像790、軟體720和中間輸出740中的至少一個。
原始圖像790包括色彩通道791、792和793。紅色通道400、綠色通道500和藍色通道600分別是色彩通道791、792和793的範例。軟體720包括在由微處理器702執行時產生對應的資料輸出的以下軟體模組中的一個或多個:綠色通道內插器722、解析度恢復器723、梯度濾波器724、組合器727、紅色通道內插器728、藍色通道內插器729和組合器732。
綠色通道內插器722被配置為對色彩通道792進行內插以產生水平內插綠色通道742H和垂直內插綠色通道742V。解析度恢復器723分別根據水平內插綠色通道742H和垂直內插綠色通道742V產生一經精緻化綠色 通道743H和一經精緻化綠色通道743V。梯度濾波器724分別根據水平內插綠色通道742H和垂直內插綠色通道742V產生一梯度圖像744H和一梯度圖像744V。梯度圖像744H和744V可以藉由將梯度濾波器分別套用於通道743H和743V來獲得。替代地,梯度圖像744H和744V可以藉由將梯度濾波器分別套用於742H和742V來獲得。組合器727根據該經精緻化綠色通道743H和743V產生一全解析度綠色通道747。紅色通道內插器728根據全解析度綠色通道747和色彩通道791產生全解析度紅色通道。藍色通道內插器729根據全解析度通道747和色彩通道793產生一全解析度藍色通道。組合器732將全解析度通道747、748和749組合以形成去馬賽克的圖像798。
亮度內插
圖8和圖9分別是水平內插綠色通道800和垂直內插綠色通道900的區域的示意性平面圖。內插通道800和900分別是內插通道742H和742V的示例。內插通道800包括多個主像素值B g (x,y) g 、多個綠色像素值801(x,y) r 和多個綠色像素值803(x,y) b 。座標(x,y) r 和(x,y) b 分別對應於CFA 240的紅色濾色器和藍色濾色器的位置。綠色像素值801(x,y) r 和803(x,y) b 是從綠色通道500的水平相鄰主像素值B g (x,y) g 內插的。例如,非主像素值803(6,5) b 是從至少兩個主像素值B g (6,y≠5) g 內插的。綠色像素值801(x,y) r 和803(x,y) b 均是非主像素值的示例,這是因為它們是內插綠色通道800中處於非綠色濾色器下方的座標(x,y)處的部分。
內插通道900包括多個主像素值B g (x,y) g 、多個綠色像素值901(x,y) r 和多個綠色像素值903(x,y) b 。綠色像素值901(x,y) r 和903(x,y) b 是從垂直相鄰主像素值B g (x,y) g 內插的。例如,綠色像素值903(6,5) b 是從至少兩個主像素值B g (x≠6,5) g 內插的。綠色像素值901(x,y) r 和903(x,y) b 均是非主像素值的示例,這是因為它們是內插綠色通道900中處於非綠色濾色器下方的座標(x,y)處的部分。
內插通道800和900可以從綠色通道500以對數方式進行內插。例如,經內插處理的像素值801、803、901和903的對數可由綠色通道500的主像素值B g (x,y) g 的對數內插的。對數內插法可致精確內插效果而不需要與原始圖像390相關聯的白平衡和亮度有關的資訊。相較於內插像素值本身,利用像素值之對數值進行內插之方法,將給予較小像素值較大權重,這有助於免受高像素值雜訊擾亂的精確梯度檢測。
圖10和圖11分別是經精緻化水平內插綠色通道1000和經精緻化垂直內插綠色通道1100的區域的示意性平面圖。經精緻化綠色通道1000和1100分別是經精緻化綠色通道743H和743V的示例。
經精緻化綠色通道1000包括下面的綠色像素值:原始圖像390的主像素值B g (x,y) g 、多個綠色像素值1001(x,y) r 和多個綠色像素值1003(x,y) b 。每個綠色像素值1001(x,y) r 可以等於綠色像素值801(x,y) r 和紅色水平補充H r (x,y)的總和,如等式1所示。每個綠色像素值1003(x,y) b 可以等於綠色像素值803(x,y) b 和藍色水平補充H b (x,y)的總和,如等式2所示。
1001(x,y) r =801(x,y) r +H r (x,y) (1)
1003(x,y) b =803(x,y) b +H b (x,y) (2)
經精緻化綠色通道1100包括以下的綠色像素值:原始圖像390的多個主像素值B g (x,y) g 、多個綠色像素值1101(x,y) r 和多個綠色像素值1103(x,y) b 。每個綠色像素值1101(x,y) r 可以等於綠色像素值901(x,y) r 和紅色垂直補充V r (x,y)的總和,如等式3所示。每個綠色像素值1003(x,y) b 可以等於綠色像素值903(x,y) b 和藍色垂直補充V b (x,y)的總和,如等式4所示。
1101(x,y) r =901(x,y) r +V r (x,y) (3)
1103(x,y) b =903(x,y) b +V b (x,y) (4)
水平補充H(x,y)和垂直補充V(x,y)的座標(x,y)對應於像素陣列132A的m×n像素子陣列,如前文關於CFA 240的圖像感測器200的討論。例如,圖10和圖11包括綠色像素值1001和1101的位於(x,y)=({7,8},{7,8})處的由粗框包圍的一2×2子陣列。圖12至圖15用圖表說明分別在計算紅色水平補充H r (x,y)、紅色垂直補充V r (x,y)、藍色水平補充H b (x,y)和藍色垂直補充V b (x,y)時牽涉的像素值。
如圖12所示,紅色水平補充H r (x,y)是下面各項的線性組合:(a)B r (x,y),(b)目標像素子陣列下方的水平相鄰像素p(x,y 1 )的主像素值B r (x,y 1 ),以及(c)一對相鄰源像素子陣列的紅色濾色器下方的水平共線像素p(x,y 2 )的主像素值B r (x,y 2 )。
水平座標y 1 y 2 可以滿足|y-y 1 |<n和|y-y 2 |
Figure 108111554-A0101-12-0010-31
n
水平補充H r (x,y)的以下示例套用於座標(x 1 ,y 1 ) r ,對應於CFA 240的紅色濾色器下方的像素p(x 1 ,y 1 ) r 。水平補充H r (x 1 ,y 1 ) r 可以被表示成:
Figure 108111554-A0101-12-0010-24
綠色像素值1001(x 1 ,y 1 ) r 可以等於綠色像素值801(x 1 ,y 1 ) r 和水平補充H r (x 1 ,y 1 ) r 的總和。係數α 0-5例如為:α 0=4,α 1-4=1,α 5=0。圖12用圖表說明水平補充H r (x 1 ,y 1 ) r 的上述等式,其中x 1 =8和y 1 =7。
如圖13所示,紅色垂直補充V r (x,y)是下面各項的線性組合:(a)B r (x,y),(b)目標像素子陣列下方的垂直相鄰像素p(x 1 ,y)的主像素值B r (x 1 ,y),以及(c)一對相鄰源像素子陣列的紅色濾色器下方的垂直共線像素p(x 2 ,y)的主像素值B r (x 2 ,y)。
垂直座標x 1 x 2 可以滿足|x-x 1 |<m和|x-x 2 |
Figure 108111554-A0101-12-0011-32
m
垂直補充V r (x,y)的以下示例套用於座標(x 1 ,y 1 ) r 。垂直補充V r (x 1 ,y 1 ) r 可以被表示成:
Figure 108111554-A0101-12-0011-23
綠色像素值1101(x 1 ,y 1 ) r 可以等於綠色像素值901(x 1 ,y 1 ) r 和垂直補充V r (x 1 ,y 1 ) r 的總和。係數c 0-5例如為:c 0=4,c 1=0,c 2-5=1。圖13用圖表示出了垂直補充V r (x 1 ,y 1 ) r 的上面表達,其中,和圖12一樣,x 1 =8和y 1 =7。
在不偏離本文揭露範圍的前提下,補充H r (x,y)和H r (x,y)可以為比上述更遠離座標(x 1 ,y 1 )的像素值B r (x,y) r 包括一非零項。
如圖14所示,藍色水平補充H b (x,y)是下面各項的線性組合:(a)B b (x,y), (b)目標像素子陣列下方的水平相鄰像素p(x,y 1 )的主像素值B b (x,y 1 ),以及(c)水平共線像素p(x,y 2 )的主像素值B b (x,y 2 )。
水平座標y 1 y 2 可以滿足|y-y 1 |<n和|y-y 2 |
Figure 108111554-A0101-12-0012-33
n
水平補充H b (x,y)的以下示例套用於座標(x 2 ,y 2 ) b ,對應於CFA 240的藍色濾色器下方的像素p(x 2 ,y 2 ) b 。水平補充H b (x 2 ,y 2 ) b 可以被表示成:
Figure 108111554-A0101-12-0012-25
綠色像素值1001(x 2 ,y 2 ) b 可以等於綠色像素值803(x 2 ,y 2 ) b 和水平補充H b (x 2 ,y 2 ) b 的總和。係數α 0-5例如為:α 0=4,α 1-4=1,α 5=0。圖14用圖表示出了水平補充H b (x 2 ,y 2 ) b 的上述等式,其中x 2 =9和y 2 =6。
如圖15所示,藍色垂直補充V b (x,y)是下面各項的線性組合:(a)B b (x,y),(b)目標像素子陣列下方的垂直相鄰像素p(x 1 ,y)的主像素值B b (x 1 ,y),以及(c)一對相鄰源像素子陣列的藍色濾色器下方的垂直共線像素p(x 2 ,y)的主像素值B b (x 2 ,y)。
垂直座標x 1 x 2 可以滿足|x-x 1 |<m和|x-x 2 |
Figure 108111554-A0101-12-0012-34
m
垂直補充V b (x,y)的以下示例套用於座標(x 2 ,y 2 ) b 。垂直補充 V b (x 2 ,y 2 ) b 可以被表示成:
Figure 108111554-A0101-12-0013-26
綠色像素值1101(x 2 ,y 2 ) b 可以等於綠色像素值901(x 2 ,y 2 ) b 和垂直補充V b (x 2 ,y 2 ) b 的總和。係數c 0-5例如為:c 0=4,c 1=0,c 2-5=1。圖15用圖表示出了垂直補充V b (x 2 ,y 2 ) b 的上面表達,其中,和圖14一樣,x 2 =9和y 2 =6。
圖16和圖17示出了對應的梯度圖像1600和1700,分別是水平梯度圖像744H和垂直梯度圖像744V的對應範例。水平梯度圖像1600是經精緻化水平內插綠色通道1000與原始圖像390之間的差。垂直梯度圖像1700是經精緻化垂直內插綠色通道1100與原始圖像390之間的差。由此,CFA 240的綠色濾色器下方的梯度圖像1600和1700的值等於0,因為兩個通道1000和1100都包括這些位置處的主像素值B g 。色彩梯度和亮度梯度中的至少一個可以被應用於梯度圖像1600和1700。
梯度圖像1600和1700可以例如經由卷積濾波器在一組像素上被空間平均,使得其解析度小於通道1000、1100和原始圖像390的解析度。例如,梯度圖像1600和1700可以在加權的或未加權的q x ×q y 內核上求平均,其中q x q y 均超過mn,其中m×n是圖像感測器200中的相同濾色器下方的像素子陣列的大小。例如,圖16示出了q x =q y =5的內核1610,內核1610以(x,y)=(4,4)為中心。座標(x,y)處的平均水平梯度▽h可以用等式5表達。
1600(x,y)=|〈1001 B r L |〈B g B r G | | |{1003 B b L |〈B g B b G | (5)
其中右手側的每項都在座標(x,y)處被評估,〈.〉 L 和〈.〉 G 分別表示例如內核1610的內核內的局部平均和整個原始圖像390上的全域平均。等式1和等式2是像素值1001和1003的示例表達。類似地,座標(x,y)處的梯度圖像1700的平均垂直梯度▽v可以用等式(6)表達。
1700(x,y〕=|〈1101 B r L |〈B g B r G | | |〈1103 B b L |〈B g B b G| (6)
在等式(6)中,右手側的每項在座標(x,y)處被評估。等式3和等式4是像素值1101和1103的範例等式。
梯度濾波器724還可以抑制梯度圖像744H和744V中的雜訊。例如,梯度濾波器可以減小梯度圖像1600和1700在區別小於預定門檻值的座標(x,y)處的像素值。這種小的區別表示雜訊,因而不會對精確的梯度值產生影響。
圖18說明一全解析度綠色通道1800,其為全解析度綠色通道747的示例。在像素座標(x,y) r,b 處,即在與非綠色濾色器下方的像素對應的座標處,全解析度綠色通道1800可分別由梯度圖像1700和1600加權且由梯度圖像1600和1700的和歸一化的經精緻化內插綠色通道1000和1100的平均。等式7和等式8分別總體地表達這種關係和被應用於通道1000、1100以及梯度圖像1600和1700的這種關係。在等式7中,▽h和▽v表示分別表示梯度圖像744H和744V。在等式8中,像素值1802(x,y)表示全解析度綠色通道1800在座標(x,y)處的像素值。
Figure 108111554-A0101-12-0014-27
Figure 108111554-A0101-12-0014-28
在與CFA 240的綠色濾色器對應的像素座標(x,y) g 處,全解析度綠色通道1800具有等於主像素值B g 的像素值。例如,在座標(x,y)=(4,2)處,像素值1802(4,2)=B g (4,2)。
色度內插
圖19說明從原始圖像390產生的經分箱化(binned)原始圖像1900的區域。圖20說明從全解析度綠色通道1800產生的經分箱化綠色通道2000的區域。將原始圖像390和全解析度綠色通道1800進行分箱化處理能允許色度內插過程具有減少的色彩混疊和增加速度。
經分箱化原始圖像1900包括多個分箱後像素值:經分箱化紅色像素值1901、經分箱化綠色像素值1902和經分箱化藍色像素值1903。每個經分箱化像素值可為像素陣列132A的像素子陣列下方原始圖像390像素值的平均。例如,經分箱化紅色像素值1901(1)是座標(3,3)、(3,4)、(4,3)和(4,4)處的紅色主像素值B r 的平均;經分箱化綠色像素值1902(1)是座標(3,5)、(3,6)、(4,5)和(4,6)處的綠色主像素值B g 的平均;以及經分箱化藍色像素值1903(1)是座標(5,5)、(5,6)、(6,5)和(6,6)處的藍色主像素值B b 的平均。
經分箱化綠色通道2000包括經分箱化綠色像素值2001、2002和2003,其由像素陣列132A中分別位於CFA 240的紅色濾色器、綠色濾色器和藍色濾色器下方的像素子陣列產生。每個經分箱化像素值2001-2003可為像素陣列132A的像素子陣列下方全解析度綠色通道1800的像素值的平均。例如,經分箱化綠色像素值2001(1)是像素值1802(3,3)、1802(4,4)、1802(3,4)、和1802(4,3)的平均;經分箱化綠色像素值2002(1)是綠色主像素值B g (3,5)、B g (3,6)、B g (4,5)、和B g (4,6)的平均;以及經分箱化綠色像素值2003(1)是像素值1802(5,5)、1802(5,6)、1802(6,5)、和1802(6,6)的平均。
圖21是去馬賽克圖像2100的區域的示意性圖,它說明與像素陣列132A的每個像素132的位置所對應的一個主像素值B α 和兩個非主像素值V α 。在每個座標(x,y)處的填充圖案代表與座標處的像素132對齊的CFA 240的濾色器類型:垂直線表示紅色、對角線表示綠色以及水平線表示藍色。去馬賽克圖像2100是由圖7圖像去馬賽克裝置700產生的去馬賽克圖像798的示例。
以下範例說明在紅色濾色器下方的座標處的藍色像素值和在藍色濾色器下方的座標處的紅色像素值的計算方式。紅色濾色器位於(x,y)=(7,7) 處;藍色濾色器位於(x,y)=(5,5)處。在這些座標處的像素值被圖21中的虛線框包圍,下文所計算在虛線框中的像素值將以粗字體給出。以下等式係指經分箱化原始圖像1900和經分箱化綠色通道2000的像素值,它們的位置由圖21中的實線框指示。
在像素座標(x,y)=(5,5)處,去馬賽克圖像2100包括紅色像素值I r (5,5)、綠色像素值I g (5,5)和藍色主像素值B b (5,5)。綠色像素值I g (5,5)等於圖18中全解析度綠色通道1800的像素值1802(5,5)。
紅色像素值I r (5,5)可以藉由色度內插等式(21r-1)至(21r-8)計算得到。按照等式(21r-1),R avg 是經分箱化原始圖像1900的經分箱化紅色像素值1901(1-4)的平均。按照等式(21r-2),G avg 是經分箱化綠色通道2000的與CFA 240的紅色濾色器下方的像素132所對應的分箱的像素值2001(1-4)的平均。按照等式(21r-3),RG avg R avg G avg 的加數乘法的平均。按照等式(21r-4),GG avg G avg G avg 的加數乘法的平均。等式(21r-5)至(21r-7)得到一權值,係基於R avg G avg 之間的共變數和變異數。
R avg =1/4(1901(1)+1901(2)+1901(3)+1901(4)) (21r-1)
G avg =1/4(2001(1)+2001(2)+2001(3)+2001(4)) (21r-2)
RG avg =1/4(1901(1).2001(1)+1901(2).2001(2)+1901(3).2001(3)+1901(4).2001(4)) (21r-3)
GG avg =1/4(2001(1)2+2001(2)2+2001(3)2+2001(4)2) (21r-4)
共變數=RG avg -R avg G avg (21r-5)
Figure 108111554-A0305-02-0019-8
權值=共變數/變異數 (21r-7)
I r (5,5)=(I g (5,5)-G avg ).權值+R avg (21r-8)
紅色通道內插器728可以產生用於去馬賽克圖像2100中所有座標(x,y) αr 的紅色像素值I r (x,y),其中紅色像素值I r (x,y)包括全解析度紅色通道748的示例。
在像素座標(x,y)=(7,7)處,去馬賽克的圖像2100包括原始圖像390的紅色主像素值B r (7,7)、綠色像素值I g (7,7)和藍色像素值I b (7,7)。綠色像素值I g (7,7)等於圖18全解析度綠色通道1800的像素值1802(7,7)。
藍色像素值I b (7,7)可以藉由色度內插等式(21b-1)至(21b-8)計算得到,例如由圖像去馬賽克裝置700的藍色通道內插器729計算得到。按照等式(21b-1),B avg 是經分箱化原始圖像1900的經分箱化藍色像素值1903(1-4)的平均。按照等式(21b-2),G avg 是經分箱化綠色通道2000的與CFA 240的藍色濾色器下方的像素132所對應的分箱的像素值2003(1-4)的平均。按照等式(21b-3),BG avg B avg G avg 的加數乘法的平均。按照等式(21b-4),GG avg G avg G avg 的加數乘法的平均。等式(21b-5)至(21b-7)得到一權值,係基於B avg G avg 之間的共變數和變異數。
B avg =1/4(1903(1)+1903(2)+1903(3)+1903(4)) (21b-1)
G avg =1/4(2003(1)+2003(2)+2003(3)+2003(4)) (21b-2)
BG avg =1/4(1903(1).2003(1)+1903(2).2003(2)+1903(3).2003(3)+1903(4).2003(4)) (21b-3)
GG avg =1/4(2003(1)2+2003(2)2+2003(3)2+2003(4)2) (21b-4)
共變數=BG avg -B avg G avg (21b-5)
Figure 108111554-A0305-02-0020-9
權值=共變數/變異數 (21b-7)
I b (7,7)=(I g (7,7)-G avg ).權值+B avg (21b-8)
藍色通道內插器729可以產生用於去馬賽克圖像2100中所有座標(x,y) αb 的藍色像素值I b (x,y),其中藍色像素值I b (x,y)包括全解析度藍色通道749的示例。
在實施方式中,等式(21r-8)和(21b-8)的權值至少部分藉由將引導濾波器套用於全解析度綠色通道1800和原始圖像390和/或從其得到的圖像來確定。引導濾波器例如可以被套用於原始圖像390的全解析度綠色通道1800、紅色通道400和藍色通道600,從而根據通道1800、400和600之間的相關性得到權值。使用引導濾波器減少了可能在色度內插期間出現的色彩混疊。引導濾波器之例子如K.He、J.Sun和X.Tang在IEEE Transactions on Pattern Analysis and Machine Intelligence第35卷第6期第1397-1409頁的“引導圖像濾波(Guided Image Filtering)”中描述的引導濾波器。
圖22說明將圖像感測器擷取的原始圖像去馬賽克的方法2200的流程圖,其中圖像感測器包括像素陣列和Bayer模式CFA,Bayer模式CFA具有分別覆蓋像素陣列的多個m×n像素子陣列中的對應像素子陣列的多個紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 。像素陣列包括位於多個座標(x,y) α 中的對應座標處且位於濾色器CF α 下方的多個像素p(x,y) α 。每個像素p(x,y) α 產生多個主像素值B α (x,y) α 中的對應主像素值,其中αrgb中的一個。方法2200可以由處理原始圖像390的圖像去馬賽克裝置700實現,例如以微處理器702執行電腦可讀指令實現。方法2200包括步驟2210H、2210V、2220H、2220V、2230、2240R、2240B和2250中的至少一個。
步驟2210H包括水平內插原始圖像的綠色通道,該綠色通道由多個主像素值B α (x,y) α 中的主像素值B g (x,y) g 形成,以產生包括主像素值B g (x,y) g 和非主像素值I gh (x,y) r,b 的水平內插綠色通道。在步驟2210H的示例中,綠色通道內插器722內插綠色通道500以產生水平內插綠色通道800。例如,綠色通道內插器722可以內插綠色通道500的對數以產生通道800的對數,還對其套用反對數函數以產生水平內插綠色通道800。
步驟2210V包括垂直內插原始圖像的綠色通道,該綠色通道由多個主像素值B α (x,y) α 中的主像素值B g (x,y) g 形成,以產生包括主像素值B g (x,y) g 和非主像素值I gv (x,y) r,b 的垂直內插綠色通道。在步驟2210V的示例中,綠色通道內插器722內插綠色通道500以產生垂直內插綠色通道900。例如,綠色 通道內插器722可以內插綠色通道500的對數以產生通道900的對數,還對其套用反對數函數以產生垂直內插綠色通道900。
步驟2220H包括藉由用多個水平相鄰的非主像素值I gh (x,y) r,b 修改每個非主像素值I gh (x,y) r,b 來恢復水平內插綠色通道的解析度,以產生經精緻化水平內插綠色通道。在步驟2220H的示例中,解析度恢復器723根據水平內插綠色通道800產生經精緻化水平內插綠色通道1000。
步驟2220V包括藉由用多個垂直相鄰的非主像素值I gh (x,y) r,b 修改每個非主像素值I gh (x,y) r,b 來恢復垂直內插綠色通道的解析度,以產生經精緻化垂直內插綠色通道。在步驟2220V的示例中,解析度恢復器723根據垂直內插綠色通道900產生經精緻化垂直內插綠色通道1100。
步驟2230包括根據水平內插綠色通道、垂直內插綠色通道、水平內插綠色通道的水平梯度和垂直內插綠色通道的垂直梯度產生全解析度綠色通道。在步驟2230的示例中,組合器727根據經精緻化水平內插綠色通道1000和經精緻化垂直內插綠色通道1100產生全解析度綠色通道1800。
步驟2240R包括藉由根據相鄰紅色主像素值B r (x,y) r 的局部紅色均值和全解析度綠色通道確定多個非主紅色像素值I r (x t ,y t ) g,b 來產生全解析度紅色通道,其中每個非主紅色像素值I r (x t ,y t ) g,b 對應於多個座標(x t ,y t ) g,b 中的對應座標。在步驟2240H的示例中,紅色通道內插器728例如藉由執行等式(21r-1)至(21r-8)中的一個或多個產生去馬賽克圖像2100的紅色像素值I r (x,y)。如之前所陳述的,全解析度紅色通道748的範例包括紅色像素值I r (x,y)。
步驟2240B包括藉由根據相鄰藍色主像素值B b (x,y) b 的局部藍色均值和全解析度綠色通道確定多個非主藍色像素值I b (x t ,y t ) g,r 來產生全解析度藍色通道,其中每個非主藍色像素值I b (x t ,y t ) g,r 對應於多個座標(x t ,y t ) g,r 中的 對應座標。在步驟2240B的示例中,藍色通道內插器729例如藉由執行等式(21b-1)至(21b-8)中的一個或多個產生去馬賽克圖像2100的藍色像素值I b (x,y)。如之前所陳述的,全解析度藍色通道749的示例包括藍色像素值I b (x,y)。
步驟2250包括組合全解析度紅色通道、全解析度綠色通道和全解析度藍色通道以產生去馬賽克原始圖像。在步驟2250的示例中,組合器732組合全解析度紅色通道748、全解析度綠色通道1800和全解析度藍色通道749以產生去馬賽克的圖像2100。
特徵的組合
於不偏離本公開範圍下,以上描述的特徵以及以下宣稱的特徵可以以各種方式組合。以下示例說明一些可能但非限制的組合:
(A1)表示將由圖像感測器擷取的原始圖像去馬賽克的一種方法。該圖像感測器包括一像素陣列和具有分別覆蓋該像素陣列的多個像素子陣列中的對應像素子陣列的多個紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 的一Bayer模式濾色器陣列(CFA)。該像素陣列包括位於多個座標(x,y) α 中的對應座標處且位於一濾色器CF α 下方的多個像素p(x,y) α ,每個像素p(x,y) α 產生多個主像素值B α (x,y) α 中的對應主像素值,其中αrgb中的一個。方法(A1)包括下面由1-8表示的步驟:(1)將該原始圖像中由多個主像素值B α (x,y) α 中的主像素值B g (x,y) g 所形成的綠色通道進行水平內插,以產生包括主像素值B g (x,y) g 和非主像素值I gh (x,y) r,b 的一水平內插綠色通道;(2)藉由用多個水平相鄰的非主像素值I gh (x,y) r,b 修正每個非主像素值I gh (x,y) r,b 來產生一經精緻化水平內插綠色通道; (3)將該綠色通道進行垂直內插以產生包括主像素值B g (x,y) g 和非主像素值I gv (x,y) r,b 的一垂直內插綠色通道;(4)藉由用多個垂直相鄰的非主像素值I gv (x,y) r,b 修改每個非主像素值I gv (x,y) r,b 來產生一經精緻化垂直內插綠色通道;(5)根據該經精緻化水平內插綠色通道、該經精緻化垂直內插綠色通道、該水平內插綠色通道的一水平梯度和該垂直內插綠色通道的一垂直梯度產生一全解析度綠色通道;(6)藉由從相鄰紅色主像素值B r (x,y) r 之一局部紅色均值和該全解析度綠色通道確定多個非主紅色像素值I r (x t ,y t ) g,b 以產生一全解析度紅色通道,其中該非主紅色像素值I r (x t ,y t ) g,b 之每一者對應於多個座標(x t ,y t ) g,b 中的一對應座標;(7)藉由從相鄰藍色主像素值B b (x,y) b 之一局部藍色均值和該全解析度綠色通道確定多個非主藍色像素值I b (x t ,y t ) g,r 以產生一全解析度藍色通道,其中該非主藍色像素值I b (x t ,y t ) g,r 之每一者對應於多個座標(x t ,y t ) g,r 中的一對應座標;以及(8)組合該全解析度紅色通道、該全解析度綠色通道和該全解析度藍色通道以產生一去馬賽克原始圖像。
(A2)在由(A1)表示的任意方法中,該水平內插綠色通道和該垂直內插綠色通道皆可包括對主像素值B g (x,y) g 的對數進行線性內插。
(A3)在由(A1)和(A2)之一表示的任意方法中,該多個像素子陣列中之每一者具有維度m×n,修改每個非主像素值I gh (x,y) r,b 的步驟可 以包括對於該多個像素子陣列中位於一對水平相鄰源像素子陣列之間的一目標像素子陣列的一紅色濾色器下方的每個像素p(x,y),其中該對水平相鄰源像素子陣列均位於該CFA的該對應紅色濾色器下方且與目標像素子陣列水平共線:將一紅色水平補充H r (x,y)確定為B r (x,y) r 、該目標像素子陣列下方的水平相鄰像素p(x,y 1)的主像素值B r (x,y 1) r 、以及該對水平相鄰源像素子陣列的紅色濾色器下方的水平共線像素p(x,y 2)的主像素值B r (x,y 2) r 的線性組合,其中|y-y 1|<n和|y-y 2|
Figure 108111554-A0101-12-0022-35
n
(A4)在由(A1)至(A3)之一表示的任意方法中,多個像素子陣列中的每個具有維度m×n,修改每個非主像素值I gv (x,y) r,b 的步驟可以包括對於該多個像素子陣列中位於一對垂直相鄰源像素子陣列之間的一目標像素子陣列的一紅色濾色器下方的每個像素p(x,y),其中該對垂直相鄰源像素子陣列均位於該CFA的該對應紅色濾色器下方且與目標像素子陣列垂直共線:將一紅色垂直補充V r (x,y)確定為B r (x,y) r 、該目標像素子陣列下方的垂直相鄰像素p(x 1,y)的主像素值B r (x 1,y) r 、以及該對垂直相鄰源像素子陣列的紅色濾色器下方的垂直共線像素p(x 2,y)的主像素值B r (x 2,y) r 的線性組合,其中|x-x 1|<m和|x-x 2|
Figure 108111554-A0101-12-0022-36
m
(A5)由(A1)至(A4)之一表示的任意方法還可以包括藉由下面步驟確定該水平梯度和該垂直梯度:(a)從該經精緻化水平內插綠色通道減去該原始圖像;(b)從該經精緻化垂直內插綠色通道減去該原始圖像。
(A6)在由(A1)至(A5)之一表示的任意方法中,(i)產生該全解析度紅色通道和(ii)產生該全解析度藍色通道中的至少一個可以包括將該全解析度綠色通道進行分箱和將原始圖像進行分箱。
(A7)在由(A6)表示的任意方法中,(i)產生該全解析度紅色通道和(ii)產生該全解析度藍色通道中的至少一個可以包括:計算一經分箱化全解析度綠色通道的一共變數以及(a)該經分箱化全解析度綠色通道 和(b)該經分箱化原始圖像的一共變數。
(A8)在由(A6)和(A7)之一表示的任意方法中:(a)將該全解析度綠色通道進行分箱可產生包括多個經分箱化綠色像素值的經分箱化綠色通道;以及(b)將原始圖像進行分箱產生一經分箱化原始圖像,該經分箱化原始圖像包括基於多個主像素值B r 的多個經分箱化紅色像素值和基於多個主像素值B b 的多個經分箱化藍色像素值,該局部紅色均值是經分箱化紅色像素值的一平均,該局部藍色均值是經分箱化藍色像素值的一平均。
(A9)在由(A8)表示的任意方法中,該多個非主紅色像素值I r (x t ,y t ) g,b 中每一者可具有一強度值以隨經分箱化紅色像素值之該平均和經分箱化綠色像素值之該平均之共變數增大而增大;該多個非主藍色像素值I b (x t ,y t ) g,r 中每一者可具有一強度值以隨經分箱化藍色像素值之該平均和經分箱化綠色像素值之該平均之共變數增大而增大。
(A10)在由(A8)和(A9)之一表示的任意方法中,多個非主紅色像素值I r (x t ,y t ) g,b 中每一者可具有一強度值以隨經分箱化綠色像素值之該平均之變異數增大而減小;以及多個非主藍色像素值I b (x t ,y t ) g,r 中每一者可具有一強度值以隨經分箱化綠色像素值之該平均之變異數增大而減小。
一種用於將原始圖像去馬賽克的圖像去馬賽克裝置(B1)包括一記憶體和一微處理器。該原始圖像由前述方法的圖像感測器擷取。該記憶體儲存非暫時性電腦可讀指令並適於儲存該原始圖像。該微處理器適於執行指令以執行(A1)至(A10)表示的方法中的任一個。
可以在不偏離本公開範圍的前提下改變上述圖像去馬賽克裝置和去馬賽克方法。應該注意到,以上說明中包含和附圖中顯示之內容應該被解釋為具例示說明含義而非具限制含義。以下申請專利範圍旨在覆蓋本文中描述的所有上位和下位特徵,以及現有圖像去馬賽克裝置和去馬賽克方法的專利 範圍中所有闡述可在語言上被認為落入其間。
130‧‧‧圖像感測器
700‧‧‧圖像去馬賽克裝置
702‧‧‧微處理器
704‧‧‧記憶體
720‧‧‧軟體
722‧‧‧綠色通道內插器
723‧‧‧解析度恢復器
724‧‧‧梯度濾波器
727‧‧‧組合器
728‧‧‧紅色通道內插器
729‧‧‧藍色通道內插器
732‧‧‧組合器
740‧‧‧中間輸出
742H‧‧‧水平內插綠色通道
742V‧‧‧垂直內插綠色通道
743H‧‧‧經精緻化綠色通道
743V‧‧‧經精緻化綠色通道
744H‧‧‧梯度圖像
744V‧‧‧梯度圖像
747‧‧‧全解析度綠色通道
748‧‧‧全解析度紅色通道
749‧‧‧全解析度藍色通道
790‧‧‧原始圖像
791‧‧‧色彩通道
792‧‧‧色彩通道
793‧‧‧色彩通道
798‧‧‧去馬賽克的圖像

Claims (18)

  1. 一種將一圖像感測器擷取之一原始圖像去馬賽克之方法,該圖像感測器包括一像素陣列和具有多個紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 的一Bayer模式濾色器陣列(CFA),該等紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 分別覆蓋該像素陣列的多個像素子陣列中的一對應像素子陣列,該像素陣列包括位於多個座標(x,y) α 中的一對應座標處且位於一濾色器CF α 下方的多個像素p(x,y) α ,該多個像素p(x,y) α 之每一者產生多個主像素值B α (x,y) α 中的一對應主像素值,其中αrgb中的一個,該方法包括:將該原始圖像中由該多個主像素值B α (x,y) α 中的主像素值B g (x,y) g 所形成的一綠色通道進行水平內插,以產生包括該主像素值B g (x,y) g 和非主像素值I gh (x,y) r,b 的一水平內插綠色通道;藉由用多個水平相鄰的非主像素值I gh (x,y) r,b 修正每個非主像素值I gh (x,y) r,b 來產生一經精緻化水平內插綠色通道;將該綠色通道進行垂直內插以產生包括主像素值B g (x,y) g 和非主像素值I gv (x,y) r,b 的一垂直內插綠色通道;藉由用多個垂直相鄰的非主像素值I gv (x,y) r,b 修改每個非主像素值I gv (x,y) r,b 來產生一經精緻化垂直內插綠色通道;根據該經精緻化水平內插綠色通道、該經精緻化垂直內插綠色通道、該水平內插綠色通道的一水平梯度和該垂直內插綠色通道的一垂直梯度產生一全解析度綠色通道,其中該水平內插綠色通道和該垂直內插綠色通道皆可包括對該主像素值B g (x,y) g 的一對數進行線性內插; 藉由從相鄰紅色主像素值B r (x,y) r 之一局部紅色均值和該全解析度綠色通道確定多個非主紅色像素值I r (x t ,y t ) g,b 以產生一全解析度紅色通道,其中該非主紅色像素值I r (x t ,y t ) g,b 之每一者對應於該多個座標(x t ,y t ) g,b 中的一對應座標;藉由從相鄰藍色主像素值B b (x,y) b 之一局部藍色均值和該全解析度綠色通道確定多個非主藍色像素值I b (x t ,y t ) g,r 以產生一全解析度藍色通道,其中該非主藍色像素值I b (x t ,y t ) g,r 之每一者對應於該多個座標(x t ,y t ) g,r 中的一對應座標;以及組合該全解析度紅色通道、該全解析度綠色通道和該全解析度藍色通道以產生一去馬賽克原始圖像。
  2. 如申請專利範圍第1項所述之方法,其中該多個像素子陣列中之每一者具有維度m×n,該修改每個非主像素值I gh (x,y) r,b 的步驟可以包括:對於該多個像素子陣列中位於一對水平相鄰源像素子陣列之間的一目標像素子陣列的一紅色濾色器下方的每個像素p(x,y),其中該對水平相鄰源像素子陣列均位於該CFA的該對應紅色濾色器下方且與目標像素子陣列水平共線,將一紅色水平補充H r (x,y)確定為B r (x,y) r 、該目標像素子陣列下方的水平相鄰像素p(x,y 1)的主像素值B r (x,y 1) r 、以及該對水平相鄰源像素子陣列的紅色濾色器下方的水平共線像素p(x,y 2)的主像素值B r (x,y 2) r 的線性組合,其中|y-y 1|<n和|y-y 2|
    Figure 108111554-A0305-02-0032-4
    n
  3. 如申請專利範圍第1項所述之方法,其中該多個像素子陣列中之每一者具有維度m×n,該修改每個非主像素值I gh (x,y) r,b 的步驟可以包 括:對於該多個像素子陣列中位於一對垂直相鄰源像素子陣列之間的一目標像素子陣列的一紅色濾色器下方的每個像素p(x,y),其中該對垂直相鄰源像素子陣列均位於該CFA的該對應紅色濾色器下方且與目標像素子陣列垂直共線;將一紅色垂直補充V r (x,y)確定為B r (x,y) r 、該目標像素子陣列下方的垂直相鄰像素p(x 1,y)的主像素值B r (x 1,y) r 、以及該對垂直相鄰源像素子陣列的紅色濾色器下方的垂直共線像素p(x 2,y)的主像素值B r (x 2,y) r 的線性組合,其中|x-x 1|<m和|x-x 2|
    Figure 108111554-A0305-02-0033-5
    m
  4. 如申請專利範圍第1項所述之方法,其中更包括藉由下面步驟確定該水平梯度和該垂直梯度:從該經精緻化水平內插綠色通道減去該原始圖像,以及;從該經精緻化垂直內插綠色通道減去該原始圖像。
  5. 如申請專利範圍第1項所述之方法,其中(i)產生該全解析度紅色通道和(ii)產生該全解析度藍色通道中的至少一個包括:將該全解析度綠色通道進行分箱,以及;將該原始圖像進行分箱。
  6. 如申請專利範圍第5項所述之方法,(i)產生該全解析度紅色通道和(ii)產生該全解析度藍色通道中的至少一個包括:計算一經分箱化全解析度綠色通道的一共變數以及(a)該經分箱化全解析度綠色通道和(b)該經分箱化原始圖像的一共變數。
  7. 如申請專利範圍第5項所述之方法,其中更包含:將該全解析度綠色通道進行分箱以產生包括多個經分箱化綠色 像素值的經分箱化綠色通道,以及;將該原始圖像進行分箱產生一經分箱化原始圖像,該經分箱化原始圖像包括基於該多個主像素值B r 的多個經分箱化紅色像素值和基於該多個主像素值B b 的多個經分箱化藍色像素值,該局部紅色均值是經分箱化紅色像素值的一平均,該局部藍色均值是經分箱化藍色像素值的一平均。
  8. 如申請專利範圍第7項所述之方法,其中更包含:該多個非主紅色像素值I r (x t ,y t ) g,b 中每一者可具有一強度值以隨經分箱化紅色像素值之該平均和經分箱化綠色像素值之該平均之共變數增大而增大,以及;該多個非主藍色像素值I b (x t ,y t ) g,r 中每一者可具有一強度值以隨經分箱化藍色像素值之該平均和經分箱化綠色像素值之該平均之共變數增大而增大。
  9. 如申請專利範圍第7項所述之方法,其中更包含:該多個非主紅色像素值I r (x t ,y t ) g,b 中每一者可具有一強度值以隨經分箱化綠色像素值之該平均之變異數增大而減小,以及;該多個非主藍色像素值I b (x t ,y t ) g,r 中每一者可具有一強度值以隨經分箱化綠色像素值之該平均之變異數增大而減小。
  10. 一種將一圖像感測器擷取之一原始圖像去馬賽克之圖像去馬賽克裝置,該圖像感測器包括一像素陣列和具有多個紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 的一Bayer模式濾色器陣列(CFA),該等紅色濾色器CF r 、綠色濾色器CF g 和藍色濾色器CF b 分別覆蓋該像素陣列的多個像素子陣列中的一對應像素子陣列,該 像素陣列包括位於多個座標(x,y) α 中的一對應座標處且位於一濾色器CF α 下方的多個像素p(x,y) α ,該多個像素p(x,y) α 之每一者產生多個主像素值B α (x,y) α 中的一對應主像素值,其中αrgb中的一個,該圖像去馬賽克裝置包括:一記憶體儲存非暫時性電腦可讀指令並適於儲存該原始圖像,以及;一微處理器適於執行指令以達成:將該原始圖像中由該多個主像素值B α (x,y) α 中的主像素值B g (x,y) g 所形成的一綠色通道進行水平內插,以產生包括該主像素值B g (x,y) g 和非主像素值I gh (x,y) r,b 的一水平內插綠色通道;藉由用多個水平相鄰的非主像素值I gh (x,y) r,b 修正每個非主像素值I gh (x,y) r,b 來產生一經精緻化水平內插綠色通道;將該綠色通道進行垂直內插以產生包括主像素值B g (x,y) g 和非主像素值I gv (x,y) r,b 的一垂直內插綠色通道;藉由用多個垂直相鄰的非主像素值I gv (x,y) r,b 修改每個非主像素值I gv (x,y) r,b 來產生一經精緻化垂直內插綠色通道;根據該經精緻化水平內插綠色通道、該經精緻化垂直內插綠色通道、該水平內插綠色通道的一水平梯度和該垂直內插綠色通道的一垂直梯度產生一全解析度綠色通道,其中該微處理器更適於執行指令以使水平內插綠色通道和該垂直內插綠色通道皆可包括對該主像素值B g (x,y) g 的一對數進行線性內插;藉由從相鄰紅色主像素值B r (x,y) r 之一局部紅色均值和該全解析度綠色通道確定多個非主紅色像素值I r (x t ,y t ) g,b 以產生一 全解析度紅色通道,其中該非主紅色像素值I r (x t ,y t ) g,b 之每一者對應於該多個座標(x t ,y t ) g,b 中的一對應座標;藉由從相鄰藍色主像素值B b (x,y) b 之一局部藍色均值和該全解析度綠色通道確定多個非主藍色像素值I b (x t ,y t ) g,r 以產生一全解析度藍色通道,其中該非主藍色像素值I b (x t ,y t ) g,r 之每一者對應於該多個座標(x t ,y t ) g,r 中的一對應座標;以及組合該全解析度紅色通道、該全解析度綠色通道和該全解析度藍色通道以產生一去馬賽克原始圖像。
  11. 如申請專利範圍第10項所述之圖像去馬賽克裝置,其中該多個像素子陣列中之每一者具有維度m×n,當恢復該水平內插綠色通道的解析度時且對於該等像素子陣列中位於一對水平相鄰源像素子陣列之間的一目標像素子陣列的紅色濾色器下方的每個像素p(x,y),其中該對水平相鄰源像素子陣列均位於該CFA的對應紅色濾色器下方且與該目標像素子陣列水平共線,該微處理器更適於執行該指令以達成:將一紅色水平補充H r (x,y)確定為B r (x,y) r 、該目標像素子陣列下方的水平相鄰像素p(x,y 1)的主像素值B r (x,y 1) r 、以及該對水平相鄰源像素子陣列的紅色濾色器下方的水平共線像素p(x,y 2)的主像素值B r (x,y 2) r 的線性組合,其中|y-y 1|<n和|y-y 2|
    Figure 108111554-A0305-02-0036-6
    n
  12. 如申請專利範圍第10項所述之圖像去馬賽克裝置,其中該多個像素子陣列中之每一者具有維度m×n,當恢復該垂直內插綠色通道的解析度時且對於該等像素子陣列中位於一對垂直相鄰源像素子陣列之間的一目標像素子陣列的紅色濾色器下方的每個像素p(x,y),其中 該對垂直相鄰源像素子陣列均位於該CFA的對應紅色濾色器下方且與該目標像素子陣列垂直共線,該微處理器更適於執行該指令以達成:將一紅色垂直補充V r (x,y)確定為B r (x,y) r 、該目標像素子陣列下方的垂直相鄰像素p(x 1,y)的主像素值B r (x 1,y) r 、以及該對垂直相鄰源像素子陣列的紅色濾色器下方的垂直共線像素p(x 2,y)的主像素值B r (x 2,y) r 的線性組合,其中|x-x 1|<m和|x-x 2|
    Figure 108111554-A0305-02-0037-7
    m
  13. 如申請專利範圍第10項所述之圖像去馬賽克裝置,其中該微處理器更適於執行指令以下面步驟確定該水平梯度和該垂直梯度:從該經精緻化水平內插綠色通道減去該原始圖像,以及;從該經精緻化垂直內插綠色通道減去該原始圖像。
  14. 如申請專利範圍第10項所述之圖像去馬賽克裝置,其中該微處理器更適於執行指令以當(i)產生該全解析度紅色通道和(ii)產生該全解析度藍色通道中的至少一個時,達成:將該全解析度綠色通道進行分箱,以及;將該原始圖像進行分箱。
  15. 如申請專利範圍第14項所述之圖像去馬賽克裝置,其中該微處理器更適於執行指令以當產生該全解析度紅色通道時計算一經分箱化全解析度綠色通道的一共變數以及(a)該經分箱化全解析度綠色通道和(b)該經分箱化原始圖像的一共變數。
  16. 如申請專利範圍第14項所述之圖像去馬賽克裝置,其中更包含:將該全解析度綠色通道進行分箱以產生包括多個經分箱化綠色像素值的一經分箱化綠色通道,以及; 將該原始圖像進行分箱化產生一經分箱化原始圖像,該經分箱化原始圖像包括基於該多個主像素值B r 的多個經分箱化紅色像素值和基於該多個主像素值B b 的多個經分箱化藍色像素值,該局部紅色均值是經分箱化紅色像素值的一平均,該局部藍色均值是經分箱化藍色像素值的一平均。
  17. 如申請專利範圍第16項所述之圖像去馬賽克裝置,其中更包含:該多個非主紅色像素值I r (x t ,y t ) g,b 中每一者可具有一強度值以隨經分箱化紅色像素值之該平均和經分箱化綠色像素值之該平均之共變數增大而增大,以及;該多個非主藍色像素值I b (x t ,y t ) g,r 中每一者可具有一強度值以隨經分箱化藍色像素值之該平均和經分箱化綠色像素值之該平均之共變數增大而增大。
  18. 如申請專利範圍第16項所述之圖像去馬賽克裝置,其中更包含:該多個非主紅色像素值I r (x t ,y t ) g,b 中每一者可具有一強度值以隨經分箱化綠色像素值之該平均之變異數增大而減小,以及;該多個非主藍色像素值I b (x t ,y t ) g,r 中每一者可具有一強度值以隨經分箱化綠色像素值之該平均之變異數增大而減小。
TW108111554A 2018-04-11 2019-04-01 圖像去馬賽克裝置及方法 TWI737979B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/950,845 US10572974B2 (en) 2018-04-11 2018-04-11 Image demosaicer and method
US15/950,845 2018-04-11

Publications (2)

Publication Number Publication Date
TW201944773A TW201944773A (zh) 2019-11-16
TWI737979B true TWI737979B (zh) 2021-09-01

Family

ID=68162011

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108111554A TWI737979B (zh) 2018-04-11 2019-04-01 圖像去馬賽克裝置及方法

Country Status (3)

Country Link
US (1) US10572974B2 (zh)
CN (1) CN110365961B (zh)
TW (1) TWI737979B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10922802B2 (en) * 2018-09-04 2021-02-16 Richard H. Vollmerhausen Fusion of thermal and reflective imagery
RU2712436C1 (ru) * 2019-08-09 2020-01-28 Самсунг Электроникс Ко., Лтд. Способ обработки rccb-изображения
KR102610671B1 (ko) * 2019-10-02 2023-12-06 한화비전 주식회사 색 보간 장치 및 그 방법
CN110852953B (zh) * 2019-11-15 2022-09-02 展讯通信(上海)有限公司 图像插值方法及装置、存储介质、图像信号处理器、终端
TWI743628B (zh) * 2019-12-18 2021-10-21 瑞昱半導體股份有限公司 影像過曝修正方法與電路系統
CN113781349A (zh) * 2021-09-16 2021-12-10 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、电子设备及存储介质
CN116896688B (zh) * 2023-09-11 2023-12-26 归芯科技(深圳)有限公司 Bayer图像的处理方法、装置、芯片及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110090242A1 (en) * 2009-10-20 2011-04-21 Apple Inc. System and method for demosaicing image data using weighted gradients
US20170085818A1 (en) * 2015-09-17 2017-03-23 Sony Semiconductor Solutions Corporation Power reduction for image sensor with raw image scaler

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1111904A3 (en) * 1999-12-20 2005-03-16 Texas Instruments Incorporated Digital camera system and method
US6791609B2 (en) * 1999-12-20 2004-09-14 Texas Instruments Incorporated Digital still camera system and method
US7502505B2 (en) * 2004-03-15 2009-03-10 Microsoft Corporation High-quality gradient-corrected linear interpolation for demosaicing of color images
US8165389B2 (en) * 2004-03-15 2012-04-24 Microsoft Corp. Adaptive interpolation with artifact reduction of images
CN101411205A (zh) * 2006-03-27 2009-04-15 Nxp股份有限公司 用于产生彩色视频信号的方法和装置
US8724895B2 (en) * 2007-07-23 2014-05-13 Nvidia Corporation Techniques for reducing color artifacts in digital images
US7825965B2 (en) * 2007-09-07 2010-11-02 Seiko Epson Corporation Method and apparatus for interpolating missing colors in a color filter array
KR101324198B1 (ko) * 2007-10-05 2013-11-06 삼성전자주식회사 고체 촬상 장치, 고체 촬상 장치의 픽셀 배열 방법 및 고체촬상 장치의 신호 처리 방법
US8170331B2 (en) * 2008-04-02 2012-05-01 Himax Imaging, Inc. Apparatus and method for pattern interpolation
US9077943B2 (en) * 2012-05-31 2015-07-07 Apple Inc. Local image statistics collection
CN102938843B (zh) * 2012-11-22 2014-12-03 华为技术有限公司 图像处理方法、装置以及成像设备
CN103595980B (zh) * 2013-10-25 2015-08-05 西安电子科技大学 基于轮廓非局部均值的色彩滤波阵列图像去马赛克方法
CN103595981B (zh) * 2013-10-25 2015-09-30 西安电子科技大学 基于非局部低秩的色彩滤波阵列图像去马赛克方法
JP6435275B2 (ja) * 2013-12-20 2018-12-05 オリンパス株式会社 内視鏡装置
CN103905802B (zh) * 2014-04-21 2016-07-13 浙江宇视科技有限公司 一种基于p模式色彩滤镜阵列的去马赛克方法及装置
CN104159091B (zh) * 2014-07-30 2016-08-24 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种基于边缘检测的颜色插值方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110090242A1 (en) * 2009-10-20 2011-04-21 Apple Inc. System and method for demosaicing image data using weighted gradients
US20170085818A1 (en) * 2015-09-17 2017-03-23 Sony Semiconductor Solutions Corporation Power reduction for image sensor with raw image scaler

Also Published As

Publication number Publication date
US20190318451A1 (en) 2019-10-17
TW201944773A (zh) 2019-11-16
CN110365961B (zh) 2021-09-21
US10572974B2 (en) 2020-02-25
CN110365961A (zh) 2019-10-22

Similar Documents

Publication Publication Date Title
TWI737979B (zh) 圖像去馬賽克裝置及方法
JP6725613B2 (ja) 撮像装置および撮像処理方法
US10614603B2 (en) Color normalization for a multi-camera system
KR101263888B1 (ko) 화상처리장치 및 화상처리방법과 컴퓨터·프로그램
JP5451782B2 (ja) 画像処理装置および画像処理方法
CN103856767B (zh) 用于处理图像的方法和设备
US20140078247A1 (en) Image adjuster and image adjusting method and program
EP2529554B1 (en) Iteratively denoising color filter array images
EP2529555B1 (en) Denoising cfa images using weighted pixel differences
WO2021047345A1 (zh) 图像降噪方法、装置、存储介质及电子设备
US20120287286A1 (en) Image processing device, image processing method, and program
KR20190003524A (ko) 컬러 및 모노 이미지들의 쉬프트 및 매칭 융합
US20180330529A1 (en) Image processing apparatus, image processing method, and computer readable recording medium
KR20170074602A (ko) 영상 출력 장치 및 영상 출력 방법
EP3891693A1 (en) Image processor
WO2016047240A1 (ja) 画像処理装置、撮像素子、撮像装置および画像処理方法
TWI703872B (zh) 影像色彩還原與增強電路
CN101335900A (zh) 图像处理装置、图像处理方法、程序和摄像装置
CN111970432A (zh) 一种图像处理方法及图像处理装置
CN104410786A (zh) 图像处理设备和图像处理设备的控制方法
CN113632134A (zh) 使用预组合去噪的高动态范围图像生成
CN113068011A (zh) 图像传感器、图像处理方法及系统
CN115802183B (zh) 图像处理方法及其相关设备
CN111988592B (zh) 影像色彩还原与增强电路
JP7183015B2 (ja) 画像処理装置、画像処理方法、及びプログラム