TW200915887A - System and method of static pattern removal from movies captured using a digital CCD camera - Google Patents

System and method of static pattern removal from movies captured using a digital CCD camera Download PDF

Info

Publication number
TW200915887A
TW200915887A TW097116610A TW97116610A TW200915887A TW 200915887 A TW200915887 A TW 200915887A TW 097116610 A TW097116610 A TW 097116610A TW 97116610 A TW97116610 A TW 97116610A TW 200915887 A TW200915887 A TW 200915887A
Authority
TW
Taiwan
Prior art keywords
image
correction map
pixel
underexposed
images
Prior art date
Application number
TW097116610A
Other languages
English (en)
Inventor
Kimball Thurston
Original Assignee
Dts Digital Images Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dts Digital Images Inc filed Critical Dts Digital Images Inc
Publication of TW200915887A publication Critical patent/TW200915887A/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

200915887 九、發明說明: 【發明所屬之技術領域】 發明領域 本發明與使用數位電荷耦合元件(CCD)相機拍攝影片 5有關,更加特別地,與對使用CCD相機時所拍攝數位影像 序列中由於曝光不足所產生的靜態圖案進行移除之系統 方法有關。 ' C先前技術】 發明背景 10 在歷史上,電影制類比軟>1滅被記錄,使賴比技 術被進行後期製作’以及以軟片形式被發行用於使用類比 軟片U幾放映。數量雖小但迅速增長的電影透過用數位 技術取代這些習知類比技術中的一或更多被發行。數位夺 院或“D-Cinema”指定用於發行電影以使用數位投影機· 5的-統-數位格式。—數位中間或“以,,處理
= 軟片相機被高解析度= CD(電何耗合科)相機所取代,後者在,例如 分做⑽8姻像她華細6 = 以-數位色彩影像序列拍攝電影。 )的同解析度 2。-咖相機是包含—積體電路的 體電路包含一個被連接或被 H ’該積 CCD成像_步驟被執行:⑴曝光二== 車列。 轉:成電子電荷。⑺電荷轉移,其移_基材中二:光 以及⑺電荷到電㈣換,並輪出放切讀出;;象的電當何入包射 5 200915887 先以光子形式照射在像素陣列上時,影像被獲得。與每— =子相關的能量被料收,並且引起發生—反應"該反庫 產生-電子-電洞電荷對。在每—像素所收集的電子的數目 線性地取決於曝光位準。 5 1〇 15 CCD遵循金屬氧化物半導體(M〇s)裝置的基本物理學 原理。-⑽刪結構簡單地包含被垂直堆疊的導電材料 摻雜型多晶外其疊加在—半導體⑻上面且被—高絕緣 柯料(二氧化石夕)分隔。透過將-電位施加到該多晶石夕或“間,, 極’石夕中的靜電位可被改變。—電位“井,,可用—合適電壓 ,成,該井能夠收集由人射光產生的定域電子。該等電子 ^透過形成更高電位、所謂的圍繞該井轉壁區域被限制 ,閘的下面。依據該電壓,每—閘可偏斜以形成一電位 :或對集成電荷的-傾度。—旦電荷被整合以及被像素架 祀圍局部地約束’則電荷包被傳❹,1實體上與該等像素 ,離的-感測放大器以讀出影像。基於料咖本質上是 =色的。色彩影像使用-單— CCD影像和—色彩輪或 凌器,或者使用三個分別被調為紅、綠和藍光譜的獨立咖 成像器被產生。 t ^明内-容.】 發明概要 本發明提供-種用於制—數位CCD相機所拍攝參片 進行靜態圖案移除之有效和穩健的方法與系統。 ' 這透過接收用-數位CCD相機所拍攝的—數位移動性 影像序列以及提供-曝光不足咖出錯像素修正圖被完 20 200915887 成。該修正圖被施加到該等數位移動性影像,以減小曝光 不足CCD出錯像素的影響。該修正圖可從影像序列本身或 被離線地產生且與被用來拍攝該等影像的特定相機相關。 該修正圖可包括要從該等影像中減去的實際出錯像素輸出 5 值,或可代表出錯或可能出錯像素且被用來在空間上濾除 該等出錯像素的一個二進制圖。一確認步驟可被執行以確 保在每一影像中被識別出的像素實際上出錯並且應被修 正。該整個過程在一電腦工作站上可以完全是自動化的。 決定處理哪些“照片”(影像序列)可被手動地或另外被自動 10 化地執行。 在一個實施例中,所接收到的數位移動性影像序列具 有一近似一致的曝光位準。每一影像被高通濾波,以較佳 地隔離表示影像細節或由於曝光不足的出錯像素引起之像 差的個別像素尖波。該等被濾波的影像一起被平均以為每 15 —色彩分量產生出錯像素的修正圖。像差在空間上是固定 的且在時間上持續,因此其透過平均被強化,而影像細節 一般地透過平均被減弱。影像内容可完全地或部分地遮蔽 在該影像的曝光位準會出錯的像素。因此,修正圖對應於 特定的數位移動性影像序列。然後修正圖被施加到該等數 20 位移動性影像,以減小曝光不足CCD出錯像素的影響。修 正圖透過從每一影像(每一色彩分量)中將其減去被施加。在 這之前可能有一個在修正圖和被濾波影像之間的修正步 驟,以決定修正哪些像素;因為在一給定影像中的一些像 素可能被較明亮的内容遮蔽。或者修正可透過比較像素值 200915887 與其最近的_像錄賴。轉㈣,郷正圖 示為和用作-個二進制圖,以識別可能曝光不足的出 素。再者,該圖可與每一被遽波的影像相關,以' 一影像中的實際出錯像素。,然後—局部空間濾波在每二 錯像素上被執行。而非或除了相_驟外,㈣波 10 15 值可與原始像素值進行比較。如果該差值大於某= 值’則該被觀的像素值被縣,㈣原始像素值被保持疋 在另外—個實施例中,所接收的數位移動序 與-特定咖相機相關。該特定咖相機的ccd曝= 出錯像素的修正圖從由該相機製造商產生的庫存擷取。^ 修正圖被用來選擇性也 5亥 轉數㈣職影像,以 取代«曝光不^CCD出錯像素 CCD相機之茸a , 正圖疋在該特定 相機之某-曝光不足位準出錯的所有像素的一個 制圖。因此,該修正圖—般包含過多實際上在—特 不足位準出錯的像素。—相關和 ,,、先 撂益史你丄 4雀0心v驟被用來淘汰選 擇母-影像中的實際出錯像素。 从、 由於以下結合所附圖式對較佳實施例的詳 ==及其他特徵和優點對於在本技術領域: 常知識者來說將是顧的,其中在該等圖式中: 圖式簡單說明 第1a和lb岐當—數位咖相機曝 靜態圖案的圖; 疋才所產生的
第2圖是~ ^ u ^ lL 〜之一二不同照片的曝光位準圖; 第祕3b圖是一工作站及—種對用一數位咖相機所 20 200915887 拍攝的-電影照片中由於曝光不足所引起的靜態圖案進行 移除之方法的流程圖; 第4圖是該方法之—個實施例的流程圖,其中修正圖從 未知相機及未知曝光位準的影像序列擷取; 5c圖疋呈現由於曝光不足所引起之靜態圖案的 一數位影像序列; ” 第6a-6c圖是被高通濾波影像的圖; 第7圖是從數位影像序列所擷取的一修正圖的圖; 第8 a和8 b圖是一些用於使用該修正圖修正數位影像的 10備選實施例; 第9圖是一個說明該修正圖與該第二被高通濾波影像 之間相關性的圖,用以識別出錯像素和被遮蔽的像素; 第10圖是一被修正的數位影像;以及 第U圖是該方法之一個備選實施例的流程圖,其中涵罢 15 —曝光不足位準範圍的一特定CCD相機的修正圖被產生。 【貧方式;J 較佳實施例之詳細說明 本發明描迷―顧於對數位⑽相機所拍攝影 靜恕圖案移除的有效和穩健的機制。提供了—個曝光丁 2〇 CCD出錯像素的修正圖及將其施加到受影響照片中的= 影像,以修正該等出錯像素。該修正圖可與—給定照= 的特定影像或輿—特,定CCD相機有關。可能除了決定要二 正哪些照片的初始步驟外的整個過程在―電腦工作站上: 完全自動化的。該電腦產生修正圖、將其施加到每一影^ 9 200915887 並確認修正。相較於技術人員 卩卜 項決定存在一個曝光不足 問喊、硪別母一圖框中的出錯偾 豕素以及手動地修正該等被 〜響像素之方法,這是—種更加有效的方法。 理想地,CCD相機中的所有 正常曝光位準中運行,帳現Μ素都是⑻良好的,當在 π 1 見衫像間統-,當每-像素以 同一 S品界值及斜率,(c)呈現内部心 以及⑷如果曝光不足,返回統―’沒有影像雜訊, ^ , 黑暗,,(零)附近的值,告 總的光量小於臨界值時。儘管材 田 10 15 20 但是橫跨-高解析度大區域中/和製造程序繼續改善’ 仍然是-個挑戰。有太多“不良^咖製造商像素格式 製造廠將u像素圖及修正圖^相機 她4,1由-苒建在影像中的擷取和傳送 機制中。衫像間和影像内的像 —— 制也是可修正的。 、&性藉由其他已知機 每一像素必須接收某一數量 以*邱八# (例如,大於臨界值), 以大4刀統—的方式進行回應 素被設計且它們巾社乡數^ ^㈣衫足,則像 丨Μ 為,,(精近的值。缺 而,少數像素可能不正確地回應且報告它們接收到的〇 於在黑暗背景中產生一明真禮丰& & 接收到的。像素曝 先不足夺,、則被施加到閘極的電壓太小(例如,小於臨界 值),不足%生在其線性區域巾可靠地操作的M〇s結構。 該結構不是穩定的,並且可_地切制_高輸出值;1CCD 像素在正常曝光情況下正確地運行,但是其在曝光不足的 清況下報Q ~錯誤讀數。這㈣式_訊被稱為“暗電流” 雜訊。出錯像素的百分比通常相當小,但當觀看移動影像 10 200915887 時由於“網格”效應及其相當的攻擊性,這種類型的假影普 遍容易地被注意到。傳統的軟片處理也遭受這種類型的雜 訊,但是可透過所謂的使軟片“閃光”處理迂迴工作,在該 處理中軟片最初被曝光於一接近臨界值的很低的光照量, 5 其中低光照條件在響應範圍内。如果用使用一“光圈”的 CCD相機,則這是可能的,然而該實施在實際上很難實現, 因此一後期製作解決方案被期望。 一給定小於臨界值的曝光位準的靜態圖案10在第la和 lb圖中被說明。在這種情況下,該靜態圖案透過在小於該 10 影像臨界值的一特定曝光位準拍攝一圖像(無内容)被產 生。如圖所示,少數隨機像素12返回一高輸出值14。該輸 出值14可隨像素和/或曝光位準而改變。一給定像素將典型 地根據同一曝光不足光照位準報告同一個不正確讀數。但 是在一曝光不足位準出錯的像素可能在一不同的曝光不足 15 位準不出錯。此外,由於在像素實際成像區域中的相對較 明亮内容,在影像之一給定曝光不足位準預計會出錯的像 素可能不出錯。因此,靜態圖案隨著相機、曝光位準以及 場景的局部内容而改變。 用一個或更多數位CCD相機所拍攝影片之一部分的曝 20 光位準20在第2圖中被說明。典型地,一特定照片的數位移 動性影像序列被單獨地接收和處理且不作為一單一序列, 曝光不足的發生率相當低,如說明不到百分之五十。為了 達到說明的目的,照片被連接,其他的每一個都曝光不足。 “照片突變”22是已知的或使用已知技術很容易被擷取。 11 200915887 —CCD相機中的曝光位準由以下三個因素決定:CCD 相機對可見光的敏感性、照明強度以及轉換為CCD所允許 的積分時間的拍攝率。照相術(DP)的指導者以及/或者相機 操作者將為一給定照片調整這些因素中的一個或更多,以 5 實現所期望的“樣子,,。視覺效應的高速照相術固有地降低 積分時間,其額外地增加暗電流雜訊圖案出現的可能性。 相機可提供一“曝光位準指示器,,作為這些因素的一個函數 來指示是否曝光正常、不足或過多。然而,這些指示器僅 是一個嚮導,可能並不反映DP期望的最佳條件。為了使正 10 在成像内容之動態範圍匹配於相機系統的靈敏度和動態回 應,提供正確曝光是很重要的。曝光也控制亮度位準、色 彩飽和度及所拍攝影像中的反差。 一旦這些因素被設定’則對於一給定照片來說,曝光 位準20將從影像到影像保持相對恒定。在最後的照片中, 15曝光位準由於,例如,照明條件或影像内容本身亮度的改 變而中途改變。一圖框中的亮度可隨内容改變,以及影像 到影像間一給定像素的亮度可隨内容變化而發生改變。當 —些照片被正常曝光而其他曝光不足,曝光位準2〇將典型 地從照片到照片發生改變。 2〇 因為在攝製電影中使用數位咖相機是相對較新的, 儘管如此,由於所期望的樣子或其他特效電影攝製,相機 的“曝光位準指示器”、DP及攝影師仍然被迫使在對於CCD 相機來說不理想的條件下拍攝影像,並且迄今尚未有處理 這些條件的工具。因此,照片偶爾將會曝光不足,即Γ片 12 200915887 的曝光位準20將小於CCD成像器正常運行所需的最小曝光 位準24。在一曝光不足照片的黑暗區域中,這些異常明亮 的像素非常顯然並且是不可接受的假影。如果該問題被及 時地發現’則在照明條件可被改變的情況下,該場景可被 5 重新拍攝。如果沒有被及時發現,則該照片每一影像中的 所有曝光不足的出錯像素必須被修正。手動地做到這—黑占 ' 將是非常消耗勞動的事。 對用數位CCD相機所拍攝影片進行靜態圖案移除的工 作站30及方法根據本發明在第3a和3b圖中被說明。靜態圖 10 案修正的目的是保持包括每一影像雜訊的影像結構及細 節,並且僅從影像中移除錯誤讀數。根據本發明的—個實 施例,由一數位CCD相機34所拍攝的一數位移動性影像序 列32被輸入到工作站30,該工作站30合適地包括一儲存單 元31、一處理器33、包括一鍵盤和/或滑鼠的輸入裝置35以 15 及一顯示器37。該工作站30將典型地包括用以組配該處理 器33自動地執行某些執行靜態圖案移除之步驟的一軟體應 用,以及用以組配該處理器33使使用者能夠選擇進行處理 之影像的軟體工具。該軟體應用和/或工具可被提供為被記 . 錄在一電腦可用媒體39上以及被下載到該儲存單元和處理 ' 20 器的電腦程式邏輯。 使用該工作站的工作站或技術人員將決定是否影像或 其一子集需要靜態圖案修正,即是照片曝光不足嗎?%步驟 36)。至於如何做出該決定有許多選擇。技術人員可以^規 速度觀看影像,尋找任何數目之不盡相同的假影,並且可 13 200915887 5 10 15 20 注意看上去曝光不足的照片且提出異常明亮像素的靜態圖 案。該工作站處理器可被組配以測量平均圖像位準作為來 自s亥等影像曝光位準的一個近似,並且決定是否處理。選 擇性地’在整個處理期間所有影像可被自動地饋入。對於 被正常地曝光的影像,修正圖將是空白的,並且將不對那 些影像施加修正。在第2圖中所示的最後一個照片情況下曝 光位準改變,技術人員或處理器可將序列分為兩個單獨序 歹J其中每一個具有一個近似一致的曝光位準。 一艾鄉疋為正在被處理的特定數位影像序列32或 被用來拍攝該等影像的特定CCD相機Μ提供修正圖38(步 )-亥修正圖可以是⑷二進制的,其+零指示正常運行 ,素’1指示由於曝光不;^錯或可能出錯的像素,或者⑻ 2的’其中零再—次指示正常運行像素,非零值代表該 可(每—色彩分量㈣間平均輸域。小的非零值 特二tr並且其可被狀為或不被設定為零。對於一 -影像序歹;Γ该圖將只是一個二進制圖,而所產生用於 -給==::,:::的,_用於 一成-個二進制二:::多:組合及臨界 色彩分量可以°亥夕值圖的一個單一 被合適地儲::::=來形成二進制圖。該_ -數2社作叫理11將歸正_加射序㈣ 二像32(步_),以減小曝光不伽;:的每 進制物值 =力 14 200915887 於該處理的計算資源的量,以及被修正的像素值是否被確 認(步驟44)。一般而言,處理器從原始影像中減去該多值 圖,以減小出錯像素的亮度或者使用該二進制圖識別出錯 像素,該等出錯像素然後在空間上被濾波以產生一個被修 5 正的輸出值。因為修正圖通常包含過多的任一單一影像, 整個圖到每一影像的應用可對由於局部明亮影像内容引起 的不正常運行的像素施加修正。該方法簡單,但是可包括 一些假影,儘管是具有較少攻擊性的一些假影;影像内容 中變暗的像素的攻擊性遠不及一黑暗背景中的一個單一明 10 亮的像素。選擇性地,該圖(或其包括該圖之一分量或一些 分量之組合的變形)可與每一影像(或其一被濾波版本)進行 相關,以僅識別那些在每一影像中實際出錯的像素。之後, 該減演算法或空間濾波可被限制於被識別出的出錯像素。 而非或除了該相關步驟外,工作站處理器可被組配以 15 確認每一出錯像素的修正(步驟44)。該修正演算法基於曝光 不足的出錯像素在黑暗背景中產生異常明亮的像素,以及 該演算法用相對黑暗的像素取代明亮像素之假定。因此, 被修正後的像素及其相鄰像素應具有相對黑暗的具有相似 值的輸出值。如果這些條件不都具備,則修正不被確認, 20 從而原始像素輸出值被保持。許多不同的度量標準可被用 來決定該等像素是否足夠黑暗,以及該等被修正的像素是 否足夠地接近其相鄰像素。 該工作站處理器輸出被適於適當地儲存回儲存單元 31(或一個不同的儲存單元)上的被修正後的數位移動性影 15 200915887 像序列46。這些在影片製作期間可能遭受進—步處理的影 像然後被編排格式以及被寫為—數位影像序顺,用於= 位影院分配,·被編排格式以及被寫成諸如磁片或脚〇的_ 實體媒體5HX及/或者被編排格式及被寫騎扣。諸如 -編碼器 ' 卿燒_或軟諸寫器的_合適機制可被用 來寫出被修正後的影像序列。 如上所述,該修正圖可從,如在第4_1〇圖所說明,於 正被施加到其_位景彡斜麻得,或者舞正圖可從如 10 15 20 在第U圖中所說明,在被用來拍攝目前影像之-特定相機 的不同曝光位準所拍攝的—測試影像序列取得。前一種方 法具有技術人W作站不必要知道用什麼相機拍攝影 像’ CCD相機不必要特徵化以產生—修正圖,以及該圖不 ^要被適#地追縱且使職術人員/工作站可得H驛 機(P〇St-h〇use)提供修正圖不受相機製造商的支配。此外, 該修正圖至少在某種程度上根據在要被修正之影像序列中 的實際上㈣不足的出錯像素被修改。後-種方法具有以 下優點.CCD相機—旦處於被謹慎控制條件下其可被評估 、生仏正圖,並且該圖被用來修正用該CCD相機在任何 曝光量所拍攝的任何影像。 如在第4-10圖中所示,工作站或技術人員決定三個數 ^移動性影⑽、52及54序列,該等影料光不足,並且 具有—近似—致的曝光位準,需要靜態圖案修正(步驟56)。 典型的序列將具有成千上萬的影像,但是三個影像足以說 X支術騎讀描述一人58相對—曝光不足背景60從 16 200915887 右向左移動。在該背景6G中的曝光位準低於最小曝光位 準’因此任何内容都被丢失。全部像素中的絕大部分如所 設計的那樣執行,輸出一黑暗或零值。然而,兩個像素62 和=出錯了’輸出一明亮或非零值。典型的咖元件將具 5有當觀看移動影像時暗電流雜訊被注意到的一個小百分比 ()仁疋兩個像素足以說明該技術。像素62在該等影 像之每一個中出錯。像素64僅在該第一和第三影像中出 錯;這個經由像素移動的人足夠明亮使該像素正確地運 行,即使該影像整體上曝光不足。工作站處理器高通濾波 1〇每一影像(步驟%、68及7〇),以形成濾波後的影像72、74 和76。§亥專被濾波的影像就每一色彩分量而言被積累和縮 放(步驟78),以形成一修正圖80。高通濾波移除影像中的低 頻結構,並且也估計高振幅、低頻率特徵可能影響均值的 ‘‘鬼影”。時間低通濾波操作之平均移除影像之間的高頻移 15動和高頻時間雜訊。這兩個步驟協力保持呈現為一高空間 頻率(例如,一黑暗背景中的明亮像素)及一低時間頻率(例 如’在整體影像中持續)之特徵。在整個序列中相對相機是 固定的影像内容可包含強邊緣,至少其部分可經受得住濾 波操作,因此在修正圖中產生“錯誤肯定”。這可透過選擇 20在一黑暗背景中尋找個別異常,特別是個別明亮像素的一 高通濾波器被改善。相鄰像素都出錯的可能性很低。此外, 一高通濾波器可透過低通濾波影像以及而後從原始影像中 減去該影像被實施。使用諸如在Nick Kingsbury的“雙樹複 小波變換(The Dual-Tree Complex Wavelet Transform): —種 17 200915887 用於影像復原及增強的新型有效工具(A New Efficient Tool for Image Restoration and Enhancement)” 中所描述的一個保 持邊緣低通濾波器核心將減弱在被高通濾波影像中的任何 邊緣内容。使用一保持邊緣LPF核心的單一像素HPF被用在 5這個例子中。人%穿過該場景的移動將足以移除這個人周 圍的邊緣。然而’如果一白色標杆在該背景中是固定的, 則3亥渡波器將在5玄被向通滤波的影像中,從而在修正圖中 將其移除或者至少極大地將其減弱。 10 15 20 如月ίΐ所述,修正圖80可以是一個單一的二進制圖或三 個多值圖,每一色彩分量一個。該高通濾波和平均過程為 每一色彩分量產生一個多值圖,其中出錯像素具有一明亮 值,所有其他像素具有一零或非常小的值。工作站可執行 -臨界化操作,以將某一臨界值以下的任何肢定為零, 以除去任何雜訊及真正地隔離出錯像素,儘管這是不需 的。緊接這個例子’假設當像素62和64出錯時在每一色彩 分量中都產生_輸出值128。這些值在咖操作期間被保 存’而後被求平均以在,黑暗背景巾形成明亮像素輪出值 8曰2和84。因為像素62在每一影像中都出錯,其平均值仍將 疋128因為像素64在該第二影像中被内容遮蔽,該聊操 作將其輸出值設定為零。因此,平均值將是128的三分之二 2說是85.3。為了產生—個二進制修正圖,卫作站簡單 =化—個分量多值修正圖或—個組合多值修正圖,然 大於該臨界值的值為1。選擇性地,工作站可僅將該 圖用作-個二進制圖’並且忽略特定的輸出值。 18 200915887 -旦修正圖從特;t的曝光不足影像序列被產生,則工 作站將該修正圖施加到數位影像5Q、52及56中的每—個(步 驟⑽,以形成如影像88所給定靜態圖案已經被移除的—被 修正數位影像序列。如前面之魏从如在恤鴻圖中 5關示,至少有兩種不同將修正圖施加到影像的方法。如 月)所述對每-影像的每一修正可被確認(步驟的)。 如在第關中所示,該多值修正圖的最簡單應用是對 每-像素及每一色彩分量從每一數位影像中的輸出值減去 該修正圖中的輸出值(步驟9〇),其中在該多值修正圖中,每 10出錯像素具有三個輸出值,而每—輸出值是為了每—個 色彩分篁。該方法的不利層面是在序列的某些影像中該圖 預4出錯的像素可能被相對明亮的内容遮蔽。儘管曝光位 準低於臨界值,但是該内容足夠明亮以至於像素正確地運 行。該過分簡單化的減演算法實際上將產生其中是_個正 I5確運行像素的一假影。這在某種程度上透過以下事實被改 善.(a)對於在某些影像中被遮蔽的像素而言,該圖中的時 間平均輪出值將會更小,以及(b)由不正確地減小像素亮度 所產生的假影對於一觀察者來說其攻擊性遠不及異常明亮 的像素。如在第9圖中所示首先透過使修正圖8〇與由第二影 2〇像74例示的每一被濾波的影像進行相關(步驟91),來覆蓋和 ’子準。玄修正圖與邊被濾、波的影像,產生的假影可以被消 除。如果一影像在該修正圖及該濾波器影像兩者中都是明 党或異常的’則減演算法被執行 。在這個例子中,減演算 法在左下角像素92而不是在右上角像素93上被執行,其中 19 200915887 “像素被明亮的影像内容所遮蔽 量、每一色彩分量或-組合影像上被執行闕可在一色彩分 如在第8b圖中所示,琴_ ^制& 料中的出錯像素,並且二局部來識別每-母—色彩分量尹被識別的像素(步驟=⑼加到 鄰像素的平均輸出值取代異常明亮的二 =器用相 以:八個被連接相鄰像素的—個簡單平均::= 一個内插濾、波器。如前所述 ’者其了以疋 被用來只淘汰選擇那^ …相闕處理(步驟96)可以 10 到,告使用4= 定影像中出錯的像素。注意 *以工間應波器技術時,過多地 問題。即使滹浊匕3不疋一個大 素的平均娜正的像素值也是其相鄰像 果今減、寅算法皮Γ有一點平滑也將相當接近。相反,如 ==則一相當大(明亮)的輪出值可能被錯 块地k 一像素中減掉。 15 y卜—種方法是產生與該被用來拍攝該數位影像序列 機相關的一修正圖。這需要製造商為這些相 像的識別。使用-特定一相機的多值: 正圖不疋非,實際的。製造商必須為每—曝光不足位準產 20生一圖,釋站必須使修正圖與影像序列匹配。從影像估計 曝先位準是困難,也是不可靠的過程。而我們的方法將為 可能曝先从位準__每—CCD_纽—個單 二進制修正圖,用於连在卢接 中被說明。、域-圖的—個實施例在第U圖 20 200915887 第—步是選擇並識別一數位CCD相機(步驟100)。一最 小曝光位準被設定(步驟1〇2),以及一或更多影像被拍攝(步 驟1〇4) °該等影像將沒有内容提供給大部分受控結果。多 個影像將拍攝可能出錯像素的任何時間不穩定性。出錯像 5素在邏輯上被積累(步驟1〇6)。一個與相機的最高解析度具 有一個一對—關係的圖被預置為零。如果一像素在任一所 拍攝影像中出錯(明亮),則該圖的值被設定為1。一旦達到 取小曝光位準(步驟108),則積累圖被輸出為二進制修正圖 110 ’並且該圖與該特定CCD相機相關(步驟112)。該曝光位 1〇準遞增(步驟114) ’以及步驟104和106被重複,直到最小曝 光位準被達到。邏輯積累的影像是“〇R”與每一曝光位準相 關的二進制修正圖。因為曝光不足的像素是不穩定的,所 以匕們可能在一些曝光位準正常操作,而在其他位準出 ^。OR的修正圖110一般在對任一特定曝光位準識別出錯 15像素中是完全包括在内的。但是先前所述的可被用來應用 該修正圖的相關及確認步驟,應對於在一特定曝光位準所 拍攝的任—影像序列以及對於某些像素被充分明亮的内容 遮蔽之序列中的任何影像消除完全被包括的像素。該過程 應由製造商對其CCD相機之中的每一個進行重複,並且被 2〇儲存在可被一驛站存取的庫存中。 工作站將使用諸如來自 所拍攝媒體檔案之元資料的一機制接收C C D相機的識別 石 1^^ 、 ' 以及藉由’例如’ 一網際網路可存取資料庫從製造商 庫存下載修正圖。 k ¥本%明的若干說明性實施例已經被顯示和描述, 21 200915887 但是本技術領域的那些通常知識者將想起許多修改及備選 實施例。該等修改及備選實施例被設想,並且如在不脫離 本發明之精神和範圍的情況下可使之如所附申請專利範圍 那樣被定義。 5 【圖式簡單說明】 第1 a和1 b圖是當一數位CCD相機曝光不足時所產生的 靜態圖案的圖; 第2圖是一影片之一些不同照片的曝光位準圖; 第3a和3b圖是-工作站及一種對用—數位CCD相機所 10 15 20 拍攝的-電影照片中由於曝光^足所叫的靜態圖案進行 移除之方法的流程圖; 第4圖是該方法之—個實施·流程圖,其中修正圖從 一未知相機及未知曝光位準的影像序列擷取; 第5a-5c圖是呈現由於曝光不足所弓丨起之靜態圖案的 一數位影像序列; 第6a_6c圖是被高通濾波影像的圖; ^圖是從數位影像序列所擷取的-修正圖的圖; 第糾8b圖疋些用於使用該修正圖修正數位影像 備選實施例; 的 第9圖是—個說明該修正圖與該第二 之間相關性的圖,用以缉^丨b 夂知像 識別出錯像素和被遮蔽的像素; 第10圖是-被修正的數位影像;以及 卜 X方法之一個備選實施例的流盆 —曝光不足位準範圍的盍 固的—特定CCD相機的修正圖被產生。 22 200915887 【主要元件符號說明】 10·· •靜態圖案 58."人 12·· •隨機像素 60…背景 14·· •南輸出值 62…像素 20.. •曝光位準 64…像素 24·· •最小曝光位準 66…步驟 30·· •工作站 68…步驟 31·· •儲存單元 70…步驟 32·· •數位移動性影像序列 72…影像(濾波後) 33.. •處理器 74…影像(濾波後) 34.. •數位CCD相機 76…影像(濾波後) 35" •輸入裝置 78…步驟 36.. •步驟 80…修正圖 37·· •顯示器 82…輸出值 38.. •修正圖 84·.·輸出值 39“ •電腦可用媒體 86…步驟 40.. •步驟 88…影像 42.· •步驟 89…步驟 44·. •步驟 90…步驟 46·· •數位移動性影像序列 91…步驟 48.. •數位影像序列 92…像素 50.· •實體媒體(數位影像) 93…像素 52·· ‘軟片(數位影像) 94…步驟 54.. •數位影像 96···步驟 56.. •步驟(數位影像) 100-114…處理步驟 23

Claims (1)

  1. 200915887 十、申請專利範圍: 1. 一種對用一數位CCD相機所拍攝影片進行靜態圖案移 除的方法,其包含以下步驟: 接收用一數位CCD相機所拍攝的一數位移動性影 像序列; 提供一曝光不足CCD出錯像素的修正圖;以及 將該修正圖施加到該等數位移動性影像,以減小曝 光不足CCD出錯像素的影響。 2. 如申請專利範圍第1項所述之方法,其中該等影像具有 一近似一致的曝光位準,該提供該修正圖之步驟包含以 下步驟: 高通濾波該序列中的每一影像,以提供被濾波的影像; 平均該等被濾波後的影像,以產生一多值修正圖。 3. 如申請專利範圍第2項所述之方法,其進一步包含以下 步驟: 臨界化該多值修正圖,以產生一個二進制修正圖。 4. 如申請專利範圍第1項所述之方法,其中該提供該修正 圖之步驟包含以下步驟: 為一 C C D相機庫存離線地產生一些二進制修正圖; 識別被用來拍攝該影像序列的特定CCD相機;以及 為該特定CCD相機下載該二進制修正圖。 5. 如申請專利範圍第1項所述之方法,其中該施加該修正 圖到每一影像之步驟包含以下步驟: 將該修正圖或其變形與該影像或該影像之一被高 24 200915887 通渡波版本進行相關,以識顺影像中曝光不足的出錯 像素;以及 a 空間濾、波在該影像中被識別出的該等曝光不足出 錯像素的每-個’以用—被修正的輪出值取代該像素的 輸出值。 6‘如申請專利範圍第】項所述之方法,其令該施加該修正 圖到每一影像之步驟包含以下步驟·· 空間濾波如透過該修正圖被識別出的在該影像中 f亥等曝光不^錯像相每m被修正的輸 出值取代該像素的輸出值。 7.如申請專利範圍第6項所述之方法,其中該修正圖是-個具有指示正常運行像素之—第—個二進制值,以及指 不曝光不足出錯像素之_第二個二進制值的二進制圖。 &如申請補範圍…韻述之方法,其中祕正圖是一 it 一些像素輸出值的多值圖,該等值是曝光不足出 錯像素之亮度的量值。 9·如申請專利範圍第8項 _ 之方法,其中該施加該修正 圖到母-影像的步驟包含以下步驟: 從該影像中減去該等 i〇,A ^ 寺曝先不足出錯像素的輸出值。 10.如申請專利範圍第9項所1 沾入 貝所述之方法,其中該整個修正圖 王稽出值《影像中被滅去。 1L如申請專利範圍第9貞 步員所迷之方法,其中在該減演算法 /驟之則還包含以下的步驟·· 將§亥修正圖或其—Μ 、’定形與該影像或該影像之一被 25 200915887 高通濾波版本進行相關,以識別該影像中曝光不足的出 錯像素。 12. —種用於對用一數位CCD相機所拍攝影片進行靜態圖 案移除的裝置,其包含: 第一電腦裝置,用於接收用一數位CCD相機所拍攝 的一數位移動性影像序列; 第二電腦裝置,用於提供一曝光不足CCD出錯像素 的修正圖;以及 第三電腦裝置,用於將該修正圖施加到該等數位移 動性影像,以減小曝光不足CCD出錯像素的影響。 13. 如申請專利範圍第12項所述之裝置,其中該第二和第三 電腦裝置在沒有使用者介入的情況下自動地提供並施 加該修正圖到該等數位移動性影像。 14. 如申請專利範圍第12項所述之裝置,其中該第二電腦裝 置高通濾波該序列中的每一影像,並且平均該等被濾波 後的影像,以產生具有曝光不足出錯像素亮度之量值的 像素輸出值的一多值修正圖,以及該第三電腦裝置從該 影像中減去該等曝光不足出錯像素的輸出值。 15. 如申請專利範圍第14項所述之裝置,其中該第三電腦裝 置從該影像中減去該整個修正圖的全部輸出值。 16. 如申請專利範圍第12項所述之裝置,其中該第二電腦裝 置識別被用來拍攝來自該序列中之資料的該影像序列 的特定CCD相機,以及為該特定CCD相機下載一個二進 制修正圖。 26 200915887 17. 如申請專利範圍第12項所述之裝置,其中該第三電腦裝 置將該修正圖或其變形與每一該影像或該影像之一被 高通濾波版本進行相關,以首先識別該影像中曝光不足 的出錯像素,然後修正該等被識別出的像素。 18. 如申請專利範圍第17項所述之裝置,其中該第三電腦裝 置空間濾波在每一該影像中被識別出的該等曝光不足 出錯像素的每一個,以用一被修正的輸出值取代該像素 的輸出值。 19. 一種對用一數位CCD相機所拍攝影片進行靜態圖案移 除的方法,其包含以下步驟: 接收用一 CCD相機在一近似一致的曝光位準所拍 攝的一數位移動性影像序列; 高通濾波該序列中的每一影像,以提供被濾波的影像; 平均該等被濾波後的影像,以產生一曝光不足CCD 出錯像素的修正圖,以及 將該修正圖施加到該等數位移動性影像,以減小曝 光不足CCD出錯像素的影響。 20. 如申請專利範圍第19項所述之方法,其中該施加該修正 圖到每一影像之步驟包含將該修正圖或其變形與該影 像或該影像之一被高通濾波版本進行相關,以識別該影 像中曝光不足的出錯像素。 21. 如申請專利範圍第20項所述之方法,其中該施加該修正 圖到每一影像之步驟還包含空間濾波在該影像中被識 別出的該等曝光不足出錯像素的每一個,以用一被修正 27 200915887 的輸出值取代該像素的輸出值。 22. 如申請專利範圍第20項所述之方法,其中該修正圖是一 個多值圖,其具有是曝光不足出錯像素亮度之量值的像 素輸出值,該施加該修正圖到每一影像的步驟還包含從 該影像中減去該等曝光不足出錯像素的輸出值。 23. —種對用一數位CCD相機所拍攝影片進行靜態圖案移 除的方法,其包含以下步驟: 接收用一已知CCD相機在一近似一致的曝光位準 所拍攝的一數位移動性影像序列; 擷取該已知CCD的一曝光不足CCD出錯像素的修 正圖; 使用該修正圖選擇性地空間濾波該等原始影像,以 取代該等曝光不足的CCD出錯像素。 24. 如申請專利範圍第23項所述之方法,其進一步包含以下 步驟: 為一 CCD相機庫存產生一些修正圖; 將該等修正圖儲存在一網際網路可存取資料庫中; 在該影像序列中插入識別該已知CCD相機的資 料;以及 從該網際網路可存取資料庫中為該被識別出的 CCD相機下載修正圖。 25. 如申請專利範圍第23項所述之方法,其進一步包含在空 間濾波之前將該修正圖或其變形與該影像或該影像之 一被高通濾波版本進行相關,以識別該影像中曝光不足 28 200915887 的出錯像素。 26. —種用於對用一數位CCD相機所拍攝影片進行靜態圖 案移除的裝置,其包含: 一儲存單元,用於儲存用一數位CCD相機所拍攝的 一數位移動性影像序列,以及一曝光不足CCD出錯像素 的修正圖;以及 一處理器,被組配將該修正圖施加到該等數位移動 性影像,以減小曝光不足CCD出錯像素的影響。 27. 如申請專利範圍第26項所述之裝置,其中該處理器被組 配以在沒有使用者介入的情況下自動地從該數位移動 性影像序列產生該修正圖,然後自動地將該修正圖施加 到每一該影像。 28. 如申請專利範圍第27項所述之裝置,其中該處理器被組 配以高通濾波該序列中的每一影像,以及平均該等被濾 波後的影像,以產生該修正圖。 29. 如申請專利範圍第28項所述之裝置,其中該修正圖具有 是曝光不足出錯像素亮度之量值的像素輸出值,該處理 器被組配以從每一該影像中減去該等曝光不足出錯像 素的輸出值。 30. 如申請專利範圍第28項所述之裝置,其中該處理器被組 配以空間濾波在每一該影像中被識別出的該等曝光不 足出錯像素的每一個,以用一被修正的輸出值取代該像 素的輸出值。 31. —種電腦程式產品,其包含一電腦可用媒體,該媒體具 29 200915887 有被記錄在它上面且用於致能一處理器對用一數位 CCD相機所拍攝影片執行靜態圖案移除的電腦程式邏 輯,該電腦程式包含: 一第一程序,其組配該處理器以對用一數位CCD相 機所拍攝的一數位移動性影像序列提供一曝光不足 CCD出錯像素的修正圖;以及 一第二程序,其組配該處理器以將該修正圖施加到 該等數位移動性影像,以減小曝光不足CCD出錯像素的 影響。 32. 如申請專利範圍第31項所述之電腦程式產品,其中該第 一和第二程序組配該處理器在沒有使用者介入的情況 下自動地從該數位移動性影像序列產生該修正圖,然後 將該修正圖施加到每一該影像。 33. 如申請專利範圍第32項所述之電腦程式產品,其中該第 一程序組配該處理器高通濾波該序列中的每一影像,以 及平均該等被濾波後的影像,以產生該修正圖。 34. 如申請專利範圍第32項所述之電腦程式產品,其中該修 正圖具有是曝光不足出錯像素免度之量值的像素輸出 值,該第二程序組配該處理器從每一該影像中減去該等 曝光不足出錯像素的輸出值。 35. 如申請專利範圍第32項所述之電腦程式產品,其中該第 二程序組配該處理器空間濾波在每一該影像中被識別 出的該等曝光不足出錯像素的每一個,以用一被修正的 輸出值取代該像素的輸出值。 30
TW097116610A 2007-05-18 2008-05-06 System and method of static pattern removal from movies captured using a digital CCD camera TW200915887A (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US11/804,416 US20080284854A1 (en) 2007-05-18 2007-05-18 System and method of static pattern removal from movies captured using a digital CCD camera

Publications (1)

Publication Number Publication Date
TW200915887A true TW200915887A (en) 2009-04-01

Family

ID=40027071

Family Applications (1)

Application Number Title Priority Date Filing Date
TW097116610A TW200915887A (en) 2007-05-18 2008-05-06 System and method of static pattern removal from movies captured using a digital CCD camera

Country Status (6)

Country Link
US (1) US20080284854A1 (zh)
EP (1) EP2156676A4 (zh)
JP (1) JP2010528530A (zh)
CA (1) CA2688777A1 (zh)
TW (1) TW200915887A (zh)
WO (1) WO2008143764A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009109416A (ja) * 2007-10-31 2009-05-21 Hitachi Ltd 組立品の検査方法及び検査システム
EP2435983A4 (en) * 2009-05-28 2017-08-23 Hewlett-Packard Development Company, L.P. Image processing
US20110157089A1 (en) * 2009-12-28 2011-06-30 Nokia Corporation Method and apparatus for managing image exposure setting in a touch screen device
CN102129148A (zh) * 2010-01-20 2011-07-20 鸿富锦精密工业(深圳)有限公司 相机及照片拍摄与处理方法
US20140340511A1 (en) * 2013-05-14 2014-11-20 Android Industries Llc Uniformity Testing System and Methodology for Utilizing the Same
US11080835B2 (en) 2019-01-09 2021-08-03 Disney Enterprises, Inc. Pixel error detection system
US11508143B2 (en) 2020-04-03 2022-11-22 Disney Enterprises, Inc. Automated salience assessment of pixel anomalies
US11317137B2 (en) * 2020-06-18 2022-04-26 Disney Enterprises, Inc. Supplementing entertainment content with ambient lighting
US11765475B2 (en) * 2021-10-20 2023-09-19 Microsoft Technology Licensing, Llc Systems and methods for obtaining dark current images

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5606365A (en) * 1995-03-28 1997-02-25 Eastman Kodak Company Interactive camera for network processing of captured images
US5925875A (en) * 1996-04-26 1999-07-20 Lockheed Martin Ir Imaging Systems Apparatus and method for compensating for fixed pattern noise in planar arrays
JPH10126796A (ja) * 1996-09-12 1998-05-15 Eastman Kodak Co デュアル・モード・ソフトウェア処理を用いた動画・静止画像用デジタル・カメラ
US5982941A (en) * 1997-02-07 1999-11-09 Eastman Kodak Company Method of producing digital image with improved performance characteristic
IT1294043B1 (it) * 1997-02-21 1999-03-15 Esaote Spa Procedimento di filtratura passa-alto per la messa a fuoco di immagini, in particolare di immagini digitali.
US6035072A (en) * 1997-12-08 2000-03-07 Read; Robert Lee Mapping defects or dirt dynamically affecting an image acquisition device
US6943919B1 (en) * 2000-06-29 2005-09-13 Eastman Kodak Company Method and apparatus for correcting defects in a spatial light modulator based printing system
JP4485087B2 (ja) * 2001-03-01 2010-06-16 株式会社半導体エネルギー研究所 半導体装置の動作方法
US6987892B2 (en) * 2001-04-19 2006-01-17 Eastman Kodak Company Method, system and software for correcting image defects
JP2002354340A (ja) * 2001-05-24 2002-12-06 Olympus Optical Co Ltd 撮像装置
US7102669B2 (en) * 2002-04-02 2006-09-05 Freescale Semiconductor, Inc. Digital color image pre-processing
US7224849B2 (en) * 2003-02-07 2007-05-29 Eastman Kodak Company Method for determining an optimum gain response in a spatial frequency response correction for a projection system
US7369712B2 (en) * 2003-09-30 2008-05-06 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on multiple occurrences of dust in images
US7295233B2 (en) * 2003-09-30 2007-11-13 Fotonation Vision Limited Detection and removal of blemishes in digital images utilizing original images of defocused scenes
US7391925B2 (en) * 2003-12-04 2008-06-24 Lockheed Martin Missiles & Fire Control System and method for estimating noise using measurement based parametric fitting non-uniformity correction
US7437013B2 (en) * 2003-12-23 2008-10-14 General Instrument Corporation Directional spatial video noise reduction
JP2005311746A (ja) * 2004-04-22 2005-11-04 Olympus Corp 動画像補正装置
US7570831B2 (en) * 2004-04-29 2009-08-04 Hewlett-Packard Development Company, L.P. System and method for estimating image noise
GB0504913D0 (en) * 2005-03-10 2005-04-13 Eastman Kodak Co Method and apparatus for digital processing of images

Also Published As

Publication number Publication date
EP2156676A1 (en) 2010-02-24
EP2156676A4 (en) 2011-03-23
JP2010528530A (ja) 2010-08-19
WO2008143764A1 (en) 2008-11-27
US20080284854A1 (en) 2008-11-20
CA2688777A1 (en) 2008-11-27

Similar Documents

Publication Publication Date Title
TW200915887A (en) System and method of static pattern removal from movies captured using a digital CCD camera
US9955071B2 (en) Using captured high and low resolution images
TWI496463B (zh) 形成全彩色影像之方法
US8462221B2 (en) Method for producing high dynamic range images
TWI462055B (zh) 具有合成全色影像之彩色濾光器陣列影像
Battiato et al. Exposure correction for imaging devices: an overview
US8466976B2 (en) Digital camera providing high dynamic range images
JP5756099B2 (ja) 撮像装置、画像処理装置、画像処理方法、および画像処理プログラム
US20110216210A1 (en) Providing improved high resolution image
US8737755B2 (en) Method for creating high dynamic range image
US20110149111A1 (en) Creating an image using still and preview
US20090091645A1 (en) Multi-exposure pattern for enhancing dynamic range of images
US20110205381A1 (en) Tone mapping for low-light video frame enhancement
CN104168403B (zh) 基于拜尔颜色滤波阵列的高动态范围视频录制方法和装置
US8237822B2 (en) Image processing method and apparatus for reducing noise in an image
WO2020210472A1 (en) High-dynamic-range image generation with pre-combination denoising
JP2012199774A (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
US10972676B2 (en) Image processing method and electronic device capable of optimizing hdr image by using depth information
JP4389671B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2011135379A (ja) 撮像装置、撮像方法及びプログラム
JP2009089228A (ja) 撮像装置
Deever Improved image capture using liveview images
JP2013115490A (ja) 情報処理装置及び情報処理方法