TWI387352B - 畫素插補電路、畫素插補方法及記錄媒體 - Google Patents
畫素插補電路、畫素插補方法及記錄媒體 Download PDFInfo
- Publication number
- TWI387352B TWI387352B TW097128554A TW97128554A TWI387352B TW I387352 B TWI387352 B TW I387352B TW 097128554 A TW097128554 A TW 097128554A TW 97128554 A TW97128554 A TW 97128554A TW I387352 B TWI387352 B TW I387352B
- Authority
- TW
- Taiwan
- Prior art keywords
- pixel
- value
- correlation
- difference
- reference image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 16
- 238000012545 processing Methods 0.000 claims description 46
- 230000002093 peripheral effect Effects 0.000 claims description 13
- 230000008569 process Effects 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 9
- 239000000203 mixture Substances 0.000 description 9
- 238000000605 extraction Methods 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000015654 memory Effects 0.000 description 4
- 102220030750 rs7987664 Human genes 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 238000003780 insertion Methods 0.000 description 2
- 230000037431 insertion Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 102220091140 rs140663277 Human genes 0.000 description 1
- 102220052284 rs150334659 Human genes 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
Description
本發明係關於一種用於採用單板式之彩色攝像方式的攝像裝置等之畫素插補電路、畫素插補方法及記錄媒體。
數位相機以使用拜爾排列之畫素排列的攝像元件之單板式攝像方式為主流。從藉由拜爾排列之攝像元件所攝像之景物影像資料的拜爾資料獲得圖像信號時,需要插補配置於拜爾資料中之各畫素的濾色器以外的色資訊(畫素值)。特別是因為G畫素之資訊影響亮度資訊,所以G畫素之資訊影響圖像信號之解像度及輪廓的銳度。
在此,先前在拜爾資料中,對插補對象畫素(G畫素之資訊未存在的R畫素及B畫素)插補G畫素者,有記載於日本專利公開公報特開2000-278703號公報及特開2006-135564號公報的技術。此等先前技術係考慮拜爾資料中之在插補對象畫素周邊的畫素之相關性,而在插補對象畫素中插補G畫素。
但是,此等先前技術均係對拜爾資料中之插補對象畫素插補G畫素時,僅參考在插補對象畫素周邊之G畫素。因而,在插補對象畫素中插補G畫素時,參照之畫素的資訊少。結果無法正確地判定在插補對象畫素周邊之畫素的相關性,而有無法在插補對象畫素中插補正確之G畫素的問
題。
因此,本發明之目的為對拜爾資料正確地插補G畫素之資訊。
本發明之1個態樣,係具備:相關性算出部,其係使用前述拜爾資料中R畫素、G畫素及B畫素各自的畫素值,算出插補對象畫素在周邊區域之水平方向的相關性與垂直方向之相關性,該插補對象畫素屬未存在有G畫素的畫素;及畫素值決定部,其係在藉由前述相關性算出部所算出之各相關性中相關性強的方向,依據與前述插補對象畫素鄰接之畫素的畫素值,決定插補於前述插補對象畫素之G畫素的畫素值;對依據前述拜爾資料之圖像信號,插補藉前述畫素值決定部所決定之畫素值所構成的G畫素。
本發明其他1個態樣,係包含:第1步驟,其係使用拜爾資料中R畫素、G畫素及B畫素各自的畫素值,算出屬未存在有G畫素之畫素的插補對象畫素在周邊區域之水平方向的相關性與垂直方向之相關性;第2步驟,其係在前述第1步驟所算出之各相關性中相關性強的方向,依據與前述插補對象畫素鄰接之畫素的畫素值,來決定插補於前述插補對象畫素之G畫素的畫素值;及第3步驟,其係對依據前述拜爾資料之圖像信號,插補在前述第2步驟中決定之畫素值的G畫素。
本發明其他1個態樣,係使電腦執行:第1處理,其係使用拜爾資料中R畫素、G畫素及B畫素各自的畫素值,
算出屬未存在有G畫素之畫素的插補對象畫素在周邊區域之水平方向的相關性與垂直方向之相關性;第2處理,其係在藉由前述第1處理所算出之各相關性中相關性強的方向,依據與前述插補對象畫素鄰接之畫素的畫素值,決定插補於前述插補對象畫素之G畫素的畫素值;及第3處理,其係對依據前述拜爾資料之圖像信號,插補藉由前述第2處理所決定之畫素值的G畫素。
採用本發明,可對拜爾資料正確地插補G畫素之資訊。
就本發明之實施形態作說明。首先,參照第1圖說明本實施形態之數位相機100的全體結構。
攝像透鏡62包含:聚焦透鏡及變焦透鏡,且連接於透鏡驅動區塊63。此透鏡驅動區塊63係由使無圖示之聚焦透鏡及變焦透鏡分別驅動於與攝像面平行之光軸方向的聚焦馬達及變焦馬達,與按照來自CPU70之控制信號,使聚焦馬達及變焦馬達分別驅動之聚焦驅動器及變焦驅動器而構成。
光圈兼用快門64包含無圖示之驅動電路,此驅動電路按照從CPU70送達之控制信號使光圈兼用快門動作。另外,此光圈兼用快門64發揮光圈與快門之功能。
在攝像元件之CCD50中,於受光面上設有拜爾排列之濾色器。CCD50將經由攝像透鏡62及光圈兼用快門64而投影之景物的光變換成電信號,並將變換後之電信號作為
攝像信號而輸出至圖像處理部20。此外,CCD50按照TG66按照來自CPU70之控制信號所產生的特定頻率之時序信號而驅動。
卡I/F76中可裝卸地連接記憶卡80。
記憶體69儲存藉由CPU70控制數位相機100之各部時需要的程式及資料。
DRAM68用作藉由CCD50攝像後,暫時記憶送達CPU70之圖像資料的緩衝記憶體,並且亦用作CPU70之工作記憶體。
圖像顯示部71由液晶顯示器與其驅動電路而構成。數位相機100在攝影待機狀態時,將藉由CCD50所拍攝之景物作為通過圖像而顯示於液晶顯示器。圖像顯示部71於數位相機100再生圖像時,將從記憶卡80讀取之圖像顯示於液晶顯示器。
鍵輸入部72包含:快門按鈕、模式鍵、SET鍵、十字鍵、攝影模式選擇鍵等複數的操作鍵,並將依使用者之鍵操作的操作信號輸出至CPU70。
CPU70控制數位相機100之全體。CPU70藉由與從記憶體69讀取之程式合作,而執行各種動作。
其次,參照第2圖,就圖像處理部20之結構作說明。圖像處理部20係由類比處理部(CDS、AGC、A/D)21、黑位準調整部22、白平衡調整部23、γ修正部24、畫素插補單元30、YUV變換處理部27及JPEG變換部28而構成。
圖像處理部20中,相關雙重抽樣電路(CDS)減少從
CCD50輸出之類比信號之攝像信號中包含的雜訊。自動增益控制電路(AGC)調整雜訊減低後之攝像信號的增益。A/D變換器(A/D)將增益調整後之攝像信號變換成數位信號,也就是,變換成依濾色器之拜爾排列的R(顯示紅色資訊之畫素資料)、G(顯示綠色資訊之畫素資料)、B(顯示藍色資訊之畫素資料)的畫素資料之拜爾資料。
黑位準調整部22將拜爾資料夾入特定之黑位準。白平衡調整部23對夾入後之拜爾資料,每R,G,B進行增益調整,而執行白平衡之調整。γ修正部24於白平衡調整後,進行對拜爾資料之γ特性(灰階特性)修正。畫素插補單元30對γ特性修正後之拜爾資料插補畫素值之資訊,而產生圖像信號。就畫素插補單元30之詳細內容於後述。
YUV變換處理部27從插補了畫素資訊之圖像信號產生由亮度信號(Y)與色差信號(U、V)構成的圖像信號。JPEG變換部28以JPEG形式將圖像信號壓縮編碼。並將壓縮編碼後之圖像信號記錄於記憶卡80。
其次,參照第3圖,就畫素插補單元30詳細地說明。畫素插補單元30係由第一電路部30a、第二電路部30b之2個電路部、LPF(低通濾波器)26、及加法器36而構成。第一電路部30a係由寬頻帶LPF31、G插補電路32、R插補電路33及B插補電路34而構成。第二電路部30b係由G畫素抽出電路40及HPF(高通濾波器)37而構成。
在第一電路部30a中,對於從γ修正部24送達之拜爾資料,實施插補欠缺之畫素的資訊之信號處理,而產生成
為在畫素插補單元30中產生之圖像信號的基準之彩色圖像信號。
在此,第一電路部30a中之信號處理,係與日本公開專利公報:特開2006-135564號公報所揭示之信號處理相同者。也就是,在第一電路部30a中實施信號處理時,在拜爾資料中,於未存在G畫素之資訊的R畫素及B畫素(以下稱「插補對象畫素」)中插補G畫素之畫素值時,僅參照在插補對象畫素周邊之G畫素的畫素值。因而,在插補對象畫素中插補G畫素之畫素值時,參照之畫素值的資訊變少。結果,無法正確地判定在插補對象畫素周邊之畫素值的相關性,而無法在插補對象畫素中插補G畫素之正確的畫素值。
而該不適切之G畫素成為孤立點,有時在圖像信號中發生雜訊。因而,為了除去此雜訊成分,係藉由使此圖像信號通過低通濾波器之LPF26,而除去圖像信號之高頻成分(雜訊成分等)。但是,使圖像信號通過LPF26時,雖可除去雜訊成分,但是亦造成圖像信號中之輪廓的銳度降低,依據圖像信號之再生圖像會變成模糊。
因此,藉由第二電路部30b,從γ修正部24送達之拜爾資料另行抽出G畫素之正確資訊。而後,在加法器36中,對通過LPF26之圖像信號加上抽出之G畫素的資訊。因為G畫素之資訊影響輪廓在再生圖像中的銳度,所以藉由此種方式強調依據拜爾資料之再生圖像的輪廓,再生圖像不致模糊。
其次,就第二電路部30b中之信號處理詳細地說明。第二電路部30b中之G畫素抽出電路40係用於抽出應對拜爾資料中之插補對象畫素(G畫素之資訊未存在的R畫素、B畫素)插補之G畫素的資訊(畫素值)之電路。如第4圖所示,G畫素抽出電路40係由水平方向基準圖像產生部41、垂直方向基準圖像產生部42、水平方向相關度算出部43、垂直方向相關度算出部44、畫素值決定部45及畫素抽出部46而構成。
水平方向基準圖像產生部41對拜爾資料進行使用鄰接於水平方向之畫素的畫素值的運算,而產生水平方向基準圖像。水平方向基準圖像係用於在拜爾資料之各插補對象畫素的周邊求出像素之相關性強的方向之資訊。
具體而言,水平方向基準圖像產生部41就拜爾資料之在各插補對象畫素周邊的各畫素,藉由依序執行其次之(A1)至(A4)的任何一個處理,而產生水平方向基準圖像。
(A1)就在水平方向鄰接於G畫素之R畫素,從該R畫素之畫素值減去在水平方向鄰接於該R畫素之G畫素的畫素值之平均值的處理
(A2)就在水平方向鄰接於R畫素之G畫素,從在水平方向鄰接於該G畫素之R畫素的畫素值之平均值,減去該G畫素之畫素值的處理
(A3)就在水平方向鄰接於B畫素之G畫素,從在水平方向鄰接於該G畫素之B畫素的畫素值之平均值,減去
該G畫素之畫素值的處理
(A4)就在水平方向鄰接於G畫素之B畫素,從該B畫素之畫素值減去在水平方向鄰接於該B畫素之G畫素的畫素值之平均值的處理
第5圖顯示拜爾資料中之各畫素的畫素值之例。第5圖中,B0、B2、...B48等以B註記之位置,係在拜爾資料中配置有B畫素之位置。G1、G3、...G47等以G註記之位置,係在拜爾資料中配置有G畫素之位置。R8、R10、...R40等以R註記之位置,係在拜爾資料中配置有R畫素之位置。
此外,在第5圖中,B0、B2、...B48顯示有各B畫素之畫素值。G1、G3、...G47顯示有各G畫素之畫素值。R8、R10、...R40顯示有各R畫素之畫素值。
產生水平方向基準圖像時,著眼於拜爾資料中之各插補對象畫素的周邊區域。第6圖中顯示水平方向基準圖像之例的水平方向基準圖像40H。水平方向基準圖像40H係就在第5圖所示之「R24」的位置之畫素(插補對象畫素)的水平方向基準圖像。
如產生水平方向基準圖像40H時,著眼於由在第5圖所示之「R24」位置的畫素周邊區域之7×7個畫素的B0、G1、B2、...B48之位置的各畫素構成的區域。另外,著眼之周邊區域亦可並非是由7×7個畫素構成的區域。
其次,水平方向基準圖像中之各成分之例,就水平方向基準圖像40H中之各成分作說明。
水平方向基準圖像40H中之成分「h8」,藉由使用第5圖所示之G7、R8、G9之畫素值的(A1)之處理,而成為以下之值。
h8=R8-(G7+G9)/2
水平方向基準圖像40H中之成分「h9」,藉由使用第5圖所示之R8、G9、R10之畫素值的(A2)之處理,而成為以下之值。
h9=(R8+R10)/2-G9
水平方向基準圖像40H中之成分「h15」,藉由使用第5圖所示之B14、G15、B16之畫素值的(A3)之處理,而成為以下之值。
h15=(B14+B16)/2-G15
水平方向基準圖像40H中之成分「h16」,藉由使用第5圖所示之G15、B16、G17之畫素值的(A4)之處理,而成為以下之值。
h16=B16-(G15+G17)
同樣地,就水平方向基準圖像40H中之其他成分,可藉由執行(A1)至(A4)之處理而求出。
除了(A1)至(A4)之處理外,就拜爾資料之在插補對象畫素周邊的各畫素,亦可藉由依序執行其次之(A5)至(A8)的任何一個處理,而產生水平方向基準圖像。
(A5)就在水平方向鄰接於G畫素之R畫素,從在水平方向鄰接於該R畫素之G畫素的畫素值之平均值,減去該R畫素之畫素值的處理
(A6)就在水平方向鄰接於R畫素之G畫素,從該G畫素之畫素值減去在水平方向鄰接於該G畫素之R畫素的畫素值之平均值的處理
(A7)就在水平方向鄰接於B畫素之G畫素,從該G畫素之畫素值減去在水平方向鄰接於該G畫素之B畫素的畫素值之平均值的處理
(A8)就在水平方向鄰接於G畫素之B畫素,從在水平方向鄰接於該B畫素之G畫素的畫素值之平均值,減去該B畫素之畫素值的處理
另外,垂直方向基準圖像產生部42對拜爾資料進行使用鄰接於垂直方向之畫素的畫素值的運算,而產生垂直方向基準圖像。垂直方向基準圖像係用於在拜爾資料之各插補對象畫素的周邊求出像素之相關性強的方向之資訊。具體而言,垂直方向基準圖像產生部42就拜爾資料之在插補對象畫素周邊的各畫素,藉由依序執行其次之(B1)至(B4)的任何一個處理,而產生垂直方向基準圖像。
(B1)就在垂直方向鄰接於G畫素之R畫素,從該R畫素之畫素值減去在垂直方向鄰接於該R畫素之G畫素的畫素值之平均值的處理
(B2)就在垂直方向鄰接於R畫素之G畫素,從在垂直方向鄰接於該G畫素之R畫素的畫素值之平均值,減去該G畫素之畫素值的處理
(B3)就在垂直方向鄰接於B畫素之G畫素,從在垂直方向鄰接於該G畫素之B畫素的畫素值之平均值,減去
該G畫素之畫素值的處理
(B4)就在垂直方向鄰接於G畫素之B畫素,從該B畫素之畫素值減去在垂直方向鄰接於該B畫素之G畫素的畫素值之平均值的處理
第7圖中,顯示垂直方向基準圖像40V作為垂直方向基準圖像之例。在此,就垂直方向基準圖像40V中之各成分作說明。
垂直方向基準圖像40V中之成分「v8」,藉由使用第5圖所示之G1、R8、G15之畫素值的(B1)之處理,而成為以下之值。
v8=R8-(G1+G15)/2
垂直方向基準圖像40V中之成分「v15」,藉由使用第5圖所示之R8、G15、R22之畫素值的(B2)之處理,而成為以下之值。
v15=(R8+R22)/2-G15
垂直方向基準圖像40V中之成分「v9」,藉由使用第5圖所示之B2、G9、B16之畫素值的(B3)之處理,而成為以下之值。
v9=(B2+B16)/2-G9
垂直方向基準圖像40V中之成分「v16」,藉由使用第5圖所示之G9、B16、G23之畫素值的(B4)之處理,而成為以下之值。
v16=B16-(G9+G23)/2
同樣地,就垂直方向基準圖像40V中之其他成分,可
藉由執行(B1)至(B4)之處理而求出。
除了(B1)至(B4)之處理外,就拜爾資料之在插補對象畫素周邊的各畫素,亦可藉由依序執行其次之(B5)至(B8)的任何一個處理,而產生垂直方向基準圖像。
(B5)就在垂直方向鄰接於G畫素之R畫素,從在垂直方向鄰接於該R畫素之G畫素的畫素值之平均值,減去該R畫素之畫素值的處理
(B6)就在垂直方向鄰接於R畫素之G畫素,從該G畫素之畫素值減去在垂直方向鄰接於該G畫素之R畫素的畫素值之平均值的處理
(B7)就在垂直方向鄰接於B畫素之G畫素,從該G畫素之畫素值減去在垂直方向鄰接於該G畫素之B畫素的畫素值之平均值的處理
(B8)就在垂直方向鄰接於G畫素之B畫素,從在垂直方向鄰接於該B畫素之G畫素的畫素值之平均值,減去該B畫素之畫素值的處理
水平方向相關度算出部43就拜爾資料中之各插補對象畫素,從水平方向基準圖像算出水平方向之相關度的水平相關度Hr。水平方向相關度算出部43藉由執行其次(C1)至(C3)之處理,而算出水平相關度Hr。
(C1)求出水平方向基準圖像中之各成分間的差分值。
(C2)求出(C1)中求出之各差分值的絕對值。
(C3)算出(C2)中求出之各絕對值乘上特定係數之總和,作為水平相關度Hr。
列舉(C1)至(C3)之處理例時,關於在第5圖所示之「R24」位置的畫素之水平相關度Hr如下。
Hr=abs(h8-h9)+2×abs(h9-h10)+2×abs(h10-h11)÷abs(h11-h12)+2×{abs(h15-h16)+2×abs(h16-h17)+2×abs(h17-h18)+abs(h18-h19)}+2×{abs(h22-h23)+2×abs(h23-h24)+2×abs(h24-h25)+abs(h25-h26)}+2×{abs(h29-h30)+2×abs(h30-h31)+2×abs(h31-h32)+abs(h32-h33)}+abs(h36-h37)+2×abs(h37-h38)+2×abs(h38-h39)+abs(h39-h40)
其中,abs( )表示求出絕對值之運算。
水平相關度Hr之值愈小,水平方向之相關性愈強。
垂直方向相關度算出部44就拜爾資料中之各插補對象畫素,從垂直方向基準圖像算出垂直方向之相關度的垂直相關度Vd。垂直方向相關度算出部44藉由執行其次(D1)至(D3)之處理,而算出垂直相關度Vd。
(D1)求出垂直方向基準圖像中之各成分間的差分值。
(D2)求出(D1)中求出之各差分值的絕對值。
(D3)算出(D2)中求出之各絕對值乘上特定係數之總和,作為垂直相關度Vd。
列舉(D1)至(D3)之處理例時,關於在第5圖所示之「R24」位置的畫素之垂直相關度Vd如下。
Vd=abs(v8-v15)+2×abs(v15-v22)+2×abs(v22-v29)+abs(v29-v36)+2×{abs(v9-v16)+2×abs(v16-v23)+2×abs(v23-v30)+abs(v30-v37)}+2×{abs(v10-v17)+2×abs(v17-v24)+2×abs(v24-v31)+abs(v31-v38))+2×(abs(v11-v18)+2×abs(v18-v25)+2×abs(v25-v32)+abs(v32-v39)}÷abs(v12-v19)+2×abs(v19-v25)+2×abs(v26-v33)+abs(v33-v40)
其中,abs( )表示求出絕對值之運算。
垂直相關度Vd之值愈小,垂直方向之相關性愈強。
畫素值決定部45依據水平相關度Hr與垂直相關度Vd決定對插補對象畫素之插補的G畫素之畫素值。
水平相關度Hr比垂直相關度Vd小,換言之,水平方向之相關性比垂直方向之相關性強時,畫素值決定部45決定在插補對象畫素之水平方向鄰接的G畫素之畫素值之平均值,作為對插補對象畫素插補之G畫素的畫素值。
此時,如畫素值決定部45就對第5圖所示之「R24」位置的畫素(插補對象畫素)插補之G畫素的畫素值「G24」,係使用在水平方向鄰接於在「R24」位置之畫素的G畫素之畫素值「G23」、「G25」,決定以下之畫素值。
G24=(G23+G25)/2
另外,垂直相關度Vd比水平相關度Hr小時,換言之,垂直方向之相關性比水平方向之相關性強時,畫素值決定部45決定在插補對象畫素之垂直方向鄰接的G畫素之畫素值之平均值,作為對插補對象畫素插補之G畫素的畫素值。
此時,如畫素值決定部45就對第5圖所示之「R24」位置的畫素(插補對象畫素)插補之G畫素的畫素值「G24」,係使用在垂直方向鄰接於在「R24」位置之畫素的G畫素之畫素值「G17」、「G31」,決定以下之畫素值。
G24=(G17+G31)/2
畫素抽出部46抽出畫素值決定部所決定之畫素值,作為須對拜爾資料中之插補對象畫素插補的G畫素之畫素
值。
G畫素抽出電路40除了在「R24」位置之畫素外,亦就拜爾資料中之全部插補對象畫素(G畫素之資訊未存在的R畫素、B畫素),實施上述說明之處理,抽出須對各插補對象插補之G畫素的畫素值。也就是G畫素抽出電路40就拜爾資料中之全部插補對象畫素之各個,產生水平方向基準圖像與垂直方向基準圖像,使用此等水平方向基準圖像與垂直方向基準圖像中之成分,算出在水平方向之畫素值的相關性與在垂直方向之畫素值的相關性,而抽出須對各插補對象插補的G畫素之畫素值。藉由此處理,而獲得僅由從拜爾資料抽出之正確的G畫素資訊構成的圖像信號(以下稱為「G圖像信號」)。
回到第3圖,在第二電路部30b中,使G畫素抽出電路40獲得之G圖像信號通過高通濾波器之HPF37,而除去G圖像信號之低頻成分。
而後,在加法器36中,加上對於在第一電路部30a中實施信號處理,通過LPF(低通濾波器)26之彩色圖像信號,除去低頻成分之G圖像信號,也就是實施插補。
如以上之說明,採用本實施形態時,除了在插補對象畫素周邊之G畫素外,亦參照在插補對象畫素周邊之R畫素及B畫素,決定對拜爾資料插補之G畫素的畫素值。如此,對拜爾資料插補G畫素時,參照之畫素的資訊多。結果,可對圖像信號插補G畫素之正確的畫素值。
此外,採用本實施形態時,係使用在插補對象畫素周
邊之G畫素、R畫素、B畫素的各個畫素值,產生水平方向基準圖像與垂直方向基準圖像,並使用此等水平方向基準圖像與垂直方向基準圖像中之成分,算出在水平方向之畫素值的相關性與在垂直方向之畫素值的相關性。如此,算出關於畫素值之相關性時,參照之畫素的資訊多。結果,可減低誤判關於畫素值之相關性強的方向之可能性。
此外,採用本實施形態時,係對於在第一電路部30a中實施信號處理,而通過LPF(低通濾波器)26之彩色圖像信號,插補在第二電路部30b中抽出之G畫素的正確之資訊。因為G畫素之資訊影響再生圖像中之輪廓的銳度,所以,如此可強調依據拜爾資料之再生圖像的輪廓,而使再生圖像之畫質提高。
其次,就本實施形態之改良例作說明。就在插補對象畫素周邊之畫素,有時水平方向之相關性與垂直方向之相關性的差異微小。也就是在插補對象畫素之周邊,有時灰階層次緩和。此時,藉由第一種實施形態之處理,對拜爾資料之插補對象畫素插補G畫素時,插補對象畫素之畫素值形成明顯之值(孤立點),而有依據圖像信號之再生圖像的畫質惡化之問題。本改良例係對應該問題者。
此改良例中,如第8圖所示,與上述實施形態不同之處僅為在G畫素抽出電路40中設置了混合比決定部47。其他結構及處理係與上述之實施形態相同。
混合比決定部47係從水平方向相關度算出部43算出
之水平相關度Hr與從垂直方向相關度算出部44算出之垂直相關度Vd中,決定混合比。
水平相關度Hr比垂直相關度Vd小,也就是水平方向之相關性比垂直方向之相關性強時,混合比決定部47決定Hr/Vd之值作為混合比。另外,垂直相關度Vd比水平相關度Hr小,也就是垂直方向之相關性比水平方向之相關性強時,混合比決定部47決定Vd/Hr之值作為混合比。
水平方向之相關性比垂直方向之相關性強時,畫素值決定部45決定以依據混合比之比率相加在水平方向鄰接於插補對象畫素之G畫素的畫素值之平均值,與在水平方向及垂直方向鄰接於插補對象畫素之4個G畫素之平均值的畫素值之G畫素,作為對插補對象畫素插補之G畫素的畫素值。
此時,如對於在第5圖所示之「R24」位置的畫素插補之G畫素的畫素值「G24」,成為以下之畫素值。
G24=(1.0-(Hr/Vd))×(G23+G25)/2+(Hr/Vd)×(G17+G31+G23+G25)/4
垂直方向之相關性比水平方向之相關性強時,畫素值決定部45決定以依據混合比之比率相加在垂直方向鄰接於插補對象畫素之G畫素的畫素值之平均值,與在水平方向及垂直方向鄰接於插補對象畫素之4個G畫素之平均值的畫素值之G畫素,作為對插補對象畫素插補之G畫素的畫素值。
此時,如對於在第5圖所示之「R24」位置的畫素插補
之G畫素的畫素值「G24」,成為以下之畫素值。
G24=(1.0-(Vd/Hr))×(G17+G31)/2+(Vd/Hr)×(G17+G31+G23+G25)/4
畫素抽出部46抽出畫素值決定部所決定之畫素值,作為須對拜爾資料中之插補對象畫素插補的G畫素之畫素值。如此獲得僅由從拜爾資料抽出之正確的G畫素之資訊構成的圖像信號(G圖像信號)。
而後,回到第3圖,在加法器36中,對於在第一電路部30a中實施信號處理,並通過LPF(低通濾波器)26之彩色圖像信號加上G圖像信號,也就是實施插補。
採用以上說明之改良例,於決定對拜爾資料插補之G畫素的畫素值時,除了在相關性強的方向鄰接於插補對象畫素之2個畫素之平均值之外,亦使用在水平方向及垂直方向鄰接於插補對象畫素之4個畫素的平均值。如此,即使水平方向之相關性與垂直方向之相關性之差異微小時,插補對象畫素之畫素值不致成為明顯之值(孤立點),而可防止依據圖像信號之再生圖像的畫質惡化。
本發明並非限定於上述實施形態及改良例者,亦包含在不脫離本發明之要旨的範圍內之設計變更。
20‧‧‧圖像處理部
21‧‧‧類比處理部
22‧‧‧黑位準調整部
23‧‧‧白平衡調整部
24‧‧‧γ修正部
26‧‧‧LPF(低通濾波器)
27‧‧‧YUV變換處理部
28‧‧‧JPEG變換部
30‧‧‧畫素插補單元
30a‧‧‧第一電路部
30b‧‧‧第二電路部
31‧‧‧寬頻帶LPF
32‧‧‧G插補電路
33‧‧‧R插補電路
34‧‧‧B插補電路
36‧‧‧加法器
37‧‧‧HPF
38‧‧‧減法器
40‧‧‧G畫素抽出電路
40‧‧‧畫素插補電路
41‧‧‧水平方向基準圖像產生部
42‧‧‧垂直方向基準圖像產生部
43‧‧‧水平方向相關度算出部
44‧‧‧垂直方向相關度算出部
45‧‧‧畫素值決定部
46‧‧‧畫素抽出部
47‧‧‧混合比決定部
50‧‧‧CCD
62‧‧‧攝像透鏡
63‧‧‧透鏡驅動區塊
64‧‧‧光圈兼用快門
66‧‧‧TG
68‧‧‧DRAM
69‧‧‧記憶體
70‧‧‧CPU
71‧‧‧圖像顯示部
72‧‧‧鍵輸入部
80‧‧‧記憶卡
100‧‧‧數位相機
R、G、B‧‧‧畫素、信號
76‧‧‧卡I/F
40H‧‧‧水平方向基準圖像
Hr‧‧‧水平相關度
Vd‧‧‧垂直相關度
Y‧‧‧亮度信號
U、V‧‧‧色差信號
CDS‧‧‧相關雙重抽樣電路
AGC‧‧‧自動增益控制電路
A/D‧‧‧A/D變換器
第1圖係顯示數位相機100之全體結構圖。
第2圖係顯示圖像處理部20之結構圖。
第3圖係顯示畫素插補單元30之結構圖。
第4圖係G畫素抽出電路40之結構圖。
第5圖係顯示拜爾排列之例圖。
第6圖係顯示水平基準圖像之例圖。
第7圖係顯示垂直基準圖像之例圖。
第8圖係改良例中之G畫素抽出電路40的結構圖。
40‧‧‧G畫素抽出電路
41‧‧‧水平方向基準圖像產生部
42‧‧‧垂直方向基準圖像產生部
43‧‧‧水平方向相關度算出部
44‧‧‧垂直方向相關度算出部
45‧‧‧畫素值決定部
46‧‧‧畫素抽出部
Claims (7)
- 一種畫素插補電路,具備:第1基準圖像產生部,其係對於一插補對象畫素之周邊區域,取得一第1畫素的畫素值與一平均值的差分值,並依據所取得之各差分值產生第1基準圖像,其中,該插補對象畫素為拜爾資料中之G畫素不存在的畫素,該第1畫素係R畫素、G畫素、B畫素之中作為注目畫素之畫素,該平均值係在水平方向上鄰接該第1畫素之與該第1畫素之色成分相異之色成分的第2畫素與第3畫素各自之畫素值的平均值;第2基準圖像產生部,其係對於前述插補對象畫素之周邊區域,取得前述第1畫素的畫素值與另一平均值的差分值,並依據所取得之各差分值產生第2基準圖像,其中,該另一平均值係在垂直方向上鄰接該第1畫素之與該第1畫素之色成分相異之色成分的第4畫素與第5畫素各自之畫素值的平均值;相關性算出部,其係依據藉前述第1基準圖像產生部所產生的第1基準圖像、及藉前述第2基準圖像產生部所產生的第2基準圖像,算出前述插補對象畫素之周邊區域之水平方向上的相關性與垂直方向上的相關性;及 畫素值決定部,其係依據在藉前述相關性算出部所算出之各相關性中相關性強的方向上與前述插補對象畫素鄰接之畫素的畫素值,決定插補於前述插補對象畫素之G畫素的畫素值;其中,對依照前述拜爾資料之圖像信號,插補具有藉前述畫素值決定部所決定之畫素值的G畫素。
- 如申請專利範圍第1項之畫素插補電路,其中前述第1基準圖像產生部具備:第1水平差分運算部,其係取得R畫素之畫素值與在水平方向上鄰接該R畫素之G畫素的畫素值之平均值的差分值;第2水平差分運算部,其係取得B畫素之畫素值與在水平方向上鄰接該B畫素之G畫素的畫素值之平均值的差分值;第3水平差分運算部,其係取得在水平方向上鄰接G畫素之R畫素的畫素值之平均值與該G畫素之畫素值的差分值;及第4水平差分運算部,其係取得在水平方向上鄰接G畫素之B畫素的畫素值之平均值與該G畫素之畫素值的差分值;且,該第1基準圖像產生部係依據藉前述第1至第4水平差分運算部所取得之各差分值,產生前述第1基準圖像,前述第2基準圖像產生部具備: 第1垂直差分運算部,其係取得R畫素之畫素值與在垂直方向上鄰接該R畫素之G畫素的畫素值之平均值的差分值;第2垂直差分運算部,其係取得B畫素之畫素值與在垂直方向上鄰接該B畫素之G畫素的畫素值之平均值的差分值;第3垂直差分運算部,其係取得在垂直方向上鄰接G畫素之R畫素的畫素值之平均值與該G畫素之畫素值的差分值;及第4垂直差分運算部,其係取得在垂直方向上鄰接G畫素之B畫素的畫素值之平均值與該G畫素之畫素值的差分值;且,該第2基準圖像產生部係依據藉由前述第1至第4垂直差分運算部所取得之各差分值,產生前述第2基準圖像。
- 如申請專利範圍第2項之畫素插補電路,其中相關性算出部具備:第1算出部,其係算出第1相關值,該第1相關值係對藉前述第1至第4水平差分運算部所取得之各差分值的絕對值各者乘上特定係數之值後的總和;及第2算出部,其係算出第2相關值,該第2相關值係對藉前述第1至第4垂直差分運算部所取得之各差分值的絕對值各者乘上特定係數之值後的總和;依據藉前述第1算出部所算出之第1相關值與藉前 述第2算出部所算出之第2相關值,算出水平方向上之相關性與垂直方向上之相關性。
- 如申請專利範圍第1項之畫素插補電路,其中前述畫素值決定部係將在藉前述相關性算出部所算出之各相關性中相關性強的方向上與前述各插補對象畫素鄰接之畫素的畫素值之平均值,決定為插補於前述插補對象畫素的G畫素之畫素值。
- 如申請專利範圍第1項之畫素插補電路,其中前述畫素決定部係將在藉前述相關性算出部所算出之各相關性中相關性強的方向上與前述各插補對象畫素鄰接之畫素的畫素值之平均值與在水平方向及垂直方向上鄰接前述各插補對象畫素之畫素的平均值按特定比例相加後之畫素值,決定為插補於前述插補對象畫素的G畫素之畫素值。
- 一種畫素插補方法,包含以下步驟:對於一插補對象畫素之周邊區域,取得一第1畫素的畫素值與一平均值的差分值,並依據所取得之各差分值產生第1基準圖像,其中,該插補對象畫素為拜爾資料中之G畫素不存在的畫素,該第1畫素係R畫素、G畫素、B畫素之中作為注目畫素之畫素,該平均值係在水平方向上鄰接該第1畫素之與該第1畫素之色成分相異之色成分的第2畫素與第3畫素各自之畫素值的平均值;對於前述插補對象畫素之周邊區域,取得前述第1畫素的畫素值與另一平均值的差分值,並依據所取得之 各差分值產生第2基準圖像,其中,該另一平均值係在垂直方向上鄰接該第1畫素之與該第1畫素之色成分相異之色成分的第4畫素與第5畫素各自之畫素值的平均值;依據前述所產生的第1基準圖像、及前述所產生的第2基準圖像,算出前述插補對象畫素之周邊區域之水平方向上的相關性與垂直方向上的相關性;依據前述所算出之各相關性中相關性強的方向上與前述插補對象畫素鄰接之畫素的畫素值,決定插補於前述插補對象畫素之G畫素的畫素值;及對依照前述拜爾資料之圖像信號,插補具有前述所決定之畫素值的G畫素。
- 一種記錄媒體,係記憶有電腦可讀取之程式,其係使電腦執行以下處理:對於一插補對象畫素之周邊區域,取得一第1畫素的畫素值與一平均值的差分值,並依據所取得之各差分值產生第1基準圖像,其中,該插補對象畫素為拜爾資料中之G畫素不存在的畫素,該第1畫素係R畫素、G畫素、B畫素之中作為注目畫素之畫素,該平均值係在水平方向上鄰接該第1畫素之與該第1畫素之色成分相異之色成分的第2畫素與第3畫素各自之畫素值的平均值;對於前述插補對象畫素之周邊區域,取得前述第1畫素的畫素值與另一平均值的差分值,並依據所取得之 各差分值產生第2基準圖像,其中,該另一平均值係在垂直方向上鄰接該第1畫素之與該第1畫素之色成分相異之色成分的第4畫素與第5畫素各自之畫素值的平均值;依據前述所產生的第1基準圖像、及前述所產生的第2基準圖像,算出前述插補對象畫素之周邊區域之水平方向上的相關性與垂直方向上的相關性;依據前述所算出之各相關性中相關性強的方向上與前述插補對象畫素鄰接之畫素的畫素值,決定插補於前述插補對象畫素之G畫素的畫素值;及對依照前述拜爾資料之圖像信號,插補具有前述所決定之畫素值的G畫素。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007197117 | 2007-07-30 | ||
JP2008141945A JP4497233B2 (ja) | 2007-07-30 | 2008-05-30 | 画素補間回路、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
TW200913729A TW200913729A (en) | 2009-03-16 |
TWI387352B true TWI387352B (zh) | 2013-02-21 |
Family
ID=40332569
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW101114057A TWI387353B (zh) | 2007-07-30 | 2008-07-29 | 畫素插補電路、畫素插補方法及記錄媒體 |
TW097128554A TWI387352B (zh) | 2007-07-30 | 2008-07-29 | 畫素插補電路、畫素插補方法及記錄媒體 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW101114057A TWI387353B (zh) | 2007-07-30 | 2008-07-29 | 畫素插補電路、畫素插補方法及記錄媒體 |
Country Status (4)
Country | Link |
---|---|
JP (1) | JP4497233B2 (zh) |
KR (2) | KR101003605B1 (zh) |
CN (1) | CN101360248B (zh) |
TW (2) | TWI387353B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5169994B2 (ja) * | 2009-05-27 | 2013-03-27 | ソニー株式会社 | 画像処理装置、撮像装置及び画像処理方法 |
KR101634141B1 (ko) | 2009-11-18 | 2016-06-28 | 삼성전자주식회사 | 방향에 따른 참조블록을 이용한 영상 보간 방법 및 장치 |
JP5353945B2 (ja) * | 2011-05-13 | 2013-11-27 | 株式会社ニコン | 画像処理装置および画像処理プログラム並びに電子カメラ |
JP5877931B2 (ja) * | 2013-05-23 | 2016-03-08 | 富士フイルム株式会社 | 画素補間装置およびその動作制御方法 |
JP6598507B2 (ja) * | 2015-05-11 | 2019-10-30 | キヤノン株式会社 | 撮像装置、撮像システム、信号処理方法 |
KR102276006B1 (ko) | 2021-01-14 | 2021-07-13 | 주식회사 에머스 | Qr코드를 이용한 재활용쓰레기 회수장치 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000069492A (ja) * | 1998-08-26 | 2000-03-03 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP2000175208A (ja) * | 1998-06-01 | 2000-06-23 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP2004229055A (ja) * | 2003-01-24 | 2004-08-12 | Pentax Corp | 画像処理装置 |
JP2005159957A (ja) * | 2003-11-28 | 2005-06-16 | Mega Chips Corp | 色補間方法 |
TW200534700A (en) * | 2004-04-09 | 2005-10-16 | Mstar Semiconductor Inc | Pixel interpolation method and related pixel interpolation device |
JP2006135564A (ja) * | 2004-11-05 | 2006-05-25 | Casio Comput Co Ltd | 画素補間装置、画素補間方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4303525B2 (ja) | 2003-06-09 | 2009-07-29 | 富士フイルム株式会社 | 補間画素生成装置および方法 |
JP4352331B2 (ja) | 2004-09-09 | 2009-10-28 | 富士フイルム株式会社 | 信号処理装置、信号処理方法及び信号処理プログラム |
-
2008
- 2008-05-30 JP JP2008141945A patent/JP4497233B2/ja active Active
- 2008-07-23 KR KR1020080071433A patent/KR101003605B1/ko active IP Right Grant
- 2008-07-29 TW TW101114057A patent/TWI387353B/zh active
- 2008-07-29 TW TW097128554A patent/TWI387352B/zh active
- 2008-07-30 CN CN2008101301462A patent/CN101360248B/zh active Active
-
2010
- 2010-04-29 KR KR1020100039858A patent/KR101003681B1/ko active IP Right Grant
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000175208A (ja) * | 1998-06-01 | 2000-06-23 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP2000069492A (ja) * | 1998-08-26 | 2000-03-03 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP2004229055A (ja) * | 2003-01-24 | 2004-08-12 | Pentax Corp | 画像処理装置 |
JP2005159957A (ja) * | 2003-11-28 | 2005-06-16 | Mega Chips Corp | 色補間方法 |
TW200534700A (en) * | 2004-04-09 | 2005-10-16 | Mstar Semiconductor Inc | Pixel interpolation method and related pixel interpolation device |
JP2006135564A (ja) * | 2004-11-05 | 2006-05-25 | Casio Comput Co Ltd | 画素補間装置、画素補間方法 |
Also Published As
Publication number | Publication date |
---|---|
TW201234866A (en) | 2012-08-16 |
TW200913729A (en) | 2009-03-16 |
KR20100057558A (ko) | 2010-05-31 |
KR101003605B1 (ko) | 2010-12-23 |
JP2009055595A (ja) | 2009-03-12 |
CN101360248A (zh) | 2009-02-04 |
JP4497233B2 (ja) | 2010-07-07 |
TWI387353B (zh) | 2013-02-21 |
CN101360248B (zh) | 2011-03-30 |
KR101003681B1 (ko) | 2010-12-23 |
KR20090013047A (ko) | 2009-02-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8797462B2 (en) | Image processing apparatus and image processing method | |
US8243158B2 (en) | Image processing device, imaging device, and medium storing image processing program for interpolating at an af pixel position | |
WO2011122283A1 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
WO2011121760A9 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
TWI387352B (zh) | 畫素插補電路、畫素插補方法及記錄媒體 | |
US20110187900A1 (en) | Digital image processing apparatus, an image processing method, and a recording medium storing the image processing method | |
US9019406B2 (en) | Imaging apparatus and image processing program for correcting dark area gradation | |
JP2004363853A (ja) | 画像信号のノイズ低減方法及びノイズ低減装置 | |
US8009935B2 (en) | Pixel interpolation circuit, pixel interpolation method, and recording medium | |
JP4333544B2 (ja) | 画像処理方法、及び画像処理装置、半導体装置、電子機器、画像処理プログラム、並びにコンピュータ読み取り可能な記録媒体 | |
JP4687454B2 (ja) | 画像処理装置および撮像装置 | |
JP2004242125A (ja) | 画像処理装置 | |
JP2004287794A (ja) | 画像処理装置 | |
JP5284183B2 (ja) | 画像処理装置およびその方法 | |
KR20100054703A (ko) | 촬영장치, 촬영장치의 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 | |
JP3965556B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP4385890B2 (ja) | 画像処理方法及び周波数成分補償部、当該周波数成分補償部を含む画像処理装置並びに画像処理プログラム | |
US9013606B2 (en) | Image processing apparatus and control method thereof | |
JP2012133492A (ja) | 画像処理装置およびプログラム | |
US8665351B2 (en) | Image processing device, electronic camera, and storage medium storing image processing program | |
JP2019068334A (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
JP4978669B2 (ja) | 画像処理装置、電子カメラ、および画像処理プログラム | |
JP4232509B2 (ja) | 信号処理装置および方法、ファインダ、撮像カメラ | |
JP2019197305A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009033304A (ja) | 画像フィルタ、画像処理装置、撮像装置、画像処理方法およびプログラム |