TWI559764B - 虛擬化影像信號處理器 - Google Patents

虛擬化影像信號處理器 Download PDF

Info

Publication number
TWI559764B
TWI559764B TW102116281A TW102116281A TWI559764B TW I559764 B TWI559764 B TW I559764B TW 102116281 A TW102116281 A TW 102116281A TW 102116281 A TW102116281 A TW 102116281A TW I559764 B TWI559764 B TW I559764B
Authority
TW
Taiwan
Prior art keywords
camera
image
digital camera
data
image sensor
Prior art date
Application number
TW102116281A
Other languages
English (en)
Other versions
TW201412105A (zh
Inventor
里卡多J 莫達
Original Assignee
輝達公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 輝達公司 filed Critical 輝達公司
Publication of TW201412105A publication Critical patent/TW201412105A/zh
Application granted granted Critical
Publication of TWI559764B publication Critical patent/TWI559764B/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)

Description

虛擬化影像信號處理器 【相關申請案】
本申請案係主張美國專利臨時申請案案號61/647,433之優先權,其於2012年5月15日提出申請,且其整體內容係併入本文作為參考。
本發明係關於一種虛擬化影像信號處理器。
數位相機使用各種影像感測器(CCD、CMOS等)以將經由光學組件(如鏡片)所接收的光轉換為電子信號。電子信號接著經由相機上的處理管線傳送,最後產生儲存於相機上的可交換格式影像。影像可顯示於相機的顯示螢幕,且影像可手動地轉移到另一裝置,如桌上型電腦、膝上型電腦、平板電腦或其他計算裝置。可交換格式影像為與裝置無關的格式,其可共享於計算裝置之間,如JPEG、GIF等。處理管線包含影像信號處理器(ISP),其主要實施於相機內的硬體中。專屬的硬體實施係由於ISP中處理操作的高計算強度,並致能相對快速地產生高品質可交換格式影像。相機上處理操作可包含範圍校正、缺陷畫素校正(DPC)、鏡片遮蔽校正、色彩插補等。
發明人已理解到一般機載ISP的幾個缺點,如上文所討論。舉例來說,經由硬體組件來實施ISP降低了ISP的適用性且抑制了效能升級及處理操作的改良。此外,可能需要相當長的時間來開發機載ISP的改良硬體,延長了迭代改良的期間並增加了新的創新進入市場的時間。再者,可能希望在進行曝光後以小量的遲滯及小量的功率耗費將影像顯示於相機上。換言之,也可能希望產生高品質影像,這可能增加機載系統的複雜度並消耗更多的功率。前述目標(即遲滯、功率消耗、及影像品質)通常並不一致。因此,經由相機上ISP產生影像可能需要在遲滯、功率消耗、及影像品質之間做出取捨。
本文描述用以自動地將相機專屬影像來源資料轉移至相機外影像信號處理器(ISP)以供處理的數位照相系統。將處理卸載至遠端資源係提供了ISP中更大的彈性,並致能利用大量的計算功率於影像處理。因此,相較於經由相機上ISP可獲得的影像品質,當利用相機外ISP時,將增加所處理影像的影像品質。此外,當使用相機外ISP,處理操作可基於從相機、從工廠所接收之資料(例如元資料)而更新、調整,及/或基於使用者的偏好而調整以進一步增強影像品質。此外,相機外ISP可產生並傳送上行控制信號至數位相機以改善影像品質及整體相機效能。
10‧‧‧數位照相系統
12‧‧‧數位相機
14‧‧‧相機外處理子系統
16‧‧‧相機外影像信號處理器
18‧‧‧通訊模組
20‧‧‧通訊模組
22‧‧‧致動器
24‧‧‧致動輸入
26‧‧‧控制器
28‧‧‧光學組件
30‧‧‧影像感測器
32‧‧‧影像感測器資料
34‧‧‧類比至數位轉換器
36‧‧‧相機上影像信號處理器
38‧‧‧處理操作
40‧‧‧影像
42‧‧‧顯示器
44‧‧‧影像來源資料
46‧‧‧元資料
48‧‧‧處理操作
50‧‧‧儲存裝置
200‧‧‧影像
202‧‧‧控制信號
204‧‧‧相機外元資料
250‧‧‧更新來源
252‧‧‧處理操作更新
300‧‧‧處理操作
302‧‧‧中間處理版本
304‧‧‧影像感測器資料
306‧‧‧範圍校正操作
308‧‧‧缺陷畫素校正操作
310‧‧‧透鏡遮蔽校正操作
312‧‧‧白平衡操作
314‧‧‧色彩插補操作
316‧‧‧色彩轉換矩陣操作
318‧‧‧銳化操作
320‧‧‧雜訊降低操作
322‧‧‧伽瑪校正操作
400‧‧‧方法
圖1及圖2顯示數位照相系統的示意描繪; 圖3顯示包含於圖1及圖2所示之數位照相系統中之處理操作管線的範例;以及圖4A-4B顯示用於在數位照相系統中之影像處理的方法。
本文描述用以自動地將相機專屬影像來源資料轉移至相機外影像信號處理器(ISP)以供處理的數位照相系統。將處理卸載至遠端資源係提供了ISP中更大的彈性,並致能利用大量的計算功率於影像處理。因此,相較於經由相機上ISP可獲得的影像品質,當利用相機外ISP時,將增加所處理影像的影像品質。此外,當使用相機外ISP,處理操作可基於從相機、從工廠所接收之資料(例如元資料)而更新、調整,及/或基於使用者的偏好而調整以進一步增強影像品質。此外,相機外ISP可產生並傳送上行控制信號至數位相機以改善影像品質及整體相機效能。
圖1及圖2為顯示使用自動化遠端ISP處理之數位照相系統各態樣的示意描繪。圖3顯示可由包含於圖1及圖2所示之數位照相系統中之相機上ISP及相機外ISP所執行的複數個處理操作。圖4A-4B顯示用於數位照相系統中之影像處理的方法。
圖1繪示數位照相系統10,其組態以由經由數位相機12進行的曝光拍攝而產生數位影像。數位照相系統10包含數位相機12,其與包含相機外ISP 16的相機外處理子系統14電性通訊。將理解到,在某些具體實施例中,數位相機12可設置為遠離相機外處理子系統14。網路(例如網際網路)可幫助數位相機12及相機外處理子系統14之間的電子通訊。如此,相機外 ISP 16可經由雲端計算平台而存取,增加了ISP的可存取性。因此,相機外ISP 16可經由位於在數位相機12具有對網際網路的連接性之任何位置的數位相機而存取。
包含於數位相機12中的通訊模組18係組態以提供無線連接性至相機外處理子系統14以及(特別是)相機外ISP 16。將理解到,無線連接性可透過一或多個適合的通訊平台而達成,例如行動通訊網路(如3G、4G等)、藍芽、Wi-Fi等。此外,在某些範例中,通訊模組18可包含應用程式設計介面(API)。相機外處理子系統14也可包含通訊模組20,以致能電子通訊。然而,在其他具體實施例中,相機外處理子系統14的電子通訊功能可整合至相機外ISP 16中。
數位相機12也可包含致動器22。範例性致動器包含快門按鍵、觸控介面、電子開關、動作感測器、計時器、通訊信號等。致動器22可經由致動輸入24而啟動,使數位相機12至少進行一次曝光或其他適當的影像補捉操作。在一範例中,致動器可使相機進行複數次曝光。此外,在另一範例中,曝光可設計為一視頻序列。致動輸入24可為使用者輸入及/或可為來自包含於數位相機12中之控制器26的輸入信號。因此,致動輸入可為手動或自動。當進行曝光時,光通過一或多個光學組件28並導向至影像感測器30。光學組件28可包含透鏡、過濾器、鏡片等。將理解到,在其他具體實施例中,數位相機可包含複數個影像感測器。
影像感測器30回應於接收經由光學組件所投射的光而產生影像感測器資料32。影像感測器資料32可包含對應一或多個曝光及/或視頻序列(其可包含複數個訊框)的資料。影像感測器資料32可為原始(RAW)資 料。在所繪示的具體實施例中,影像感測器資料32經由類比至數位轉換器34而傳送,其將來自影像感測器的類比資料轉換為數位資料。然而,在其他具體實施例中,影像感測器的輸出可為數位或是轉換器可整合至影像感測器30中。感測器直接出來的信號並非RAW格式化資料,RAW格式化資料可從某些相對少量的相機上處理操作產生。在任何情況下,RAW資料為裝置相依且非為可在不同裝置範圍間共享及觀看的可交換格式。
繼續參照圖式,影像感測器資料32轉移到相機上ISP 36。相機上ISP 36係組態以對影像感測器資料32執行複數個處理操作38。處理操作可相繼地執行且每一處理操作可產生中間處理版本。中間處理版本為裝置相依且可不為可交換格式。在一範例中,裝置相依中間處理版本可在系統中以專屬格式交換。此外,中間處理版本不同於致能關聯於曝光之影像的跨平台觀看的任何可交換格式影像種類。可交換格式可包括JPEG、GIF等。
相機上ISP 36也組態以執行複數個處理操作38,其最終產生影像40(例如可交換影像)。影像40傳送至數位相機12中的顯示器42以供顯示。如此,使用者可在進行曝光後以機載顯示預覽影像。
通訊模組18更組態以將從相機上ISP 36及/或影像感測器30所接收之影像來源資料44傳送至相機外ISP 16。影像來源資料44可包括影像感測器資料32以及在處理操作可相繼執行之處理管線中的其中一中間處理版本的其中至少一者。在本文中將參照圖3更詳細的描述處理操作。影像來源資料44係裝置相依。亦即,影像來源資料44可能不能與其他組態以觀看可交換格式影像(如JPEG、GIF等)的計算裝置、數位相機等交換。此外,影像來源資料44可在轉移前經由相機上ISP 36壓縮。因此,相機外ISP 16也可 功能性地組態以解壓縮影像來源資料44。壓縮影像來源資料可降低將影像來源資料從數位相機轉移到相機外ISP的時間量。
此外,通訊模組18係組態以傳送相機上元資料46到相機外ISP 16。將理解到,在其他具體實施例中,元資料46可與影像來源資料44結合並同時地傳送到相機外ISP。相機上元資料46可包括對應數位相機之校準資料、識別資料(如硬體規格資料、工廠資訊資料)、及局部設定資料的其中至少一者。舉例來說,識別資料可包括有關相機模型的識別數字及/或文字、相機中的硬體(如影像感測器)、及/或相機中的光學組件。識別資料可更包含關聯於曝光的標籤(例如描述性關鍵字)。局部設定資料可包含快門速度、ISO設定資料、感測器增益資料、相機上處理操作資料(例如在相機上施行的處理操作、在相機上施行之處理操作的順序等)、缺陷畫素資料、透鏡遮蔽資料、透鏡焦點資料、及/或透鏡孔徑。校準資料可包含缺陷畫素列表、暗信號資料、透鏡遮蔽校正函數、及光譜敏感度特性。如此,相機特定硬體及設定可被識別,以用於相機外影像處理。在一範例中,相機特定識別數字及/或影像感測器識別數字可包含於元資料中,其致能相機外ISP 16基於識別數字而調整影像處理。
相機外ISP 16係組態以執行複數個處理操作48。相機外處理操作可由硬體及/或軟體施行。在某些範例中,至少一部份的處理操作48係經由在計算裝置(如遠端伺服器)中的軟體模組所執行。因此,在某些範例中,至少一部份的相機外ISP可儲存於記憶體中作為可由處理器執行的指令程式碼。如此,處理操作可虛擬化,從而增加相機外處理操作的彈性及適用性。因此,相機外處理操作可基於來自數位相機的資料、使用者偏好、 相機製造者更新等而更新及/或調整,以增加相機外產生影像的影像品質及/或提供更佳的處理客製化(若有需要的話)。此外,相機外ISP 16可具有比相機上ISP 36更大的處理功率,其致能影像之額外的影像品質增強(若有需要的話)。相機外處理子系統14也可包含儲存裝置50,用以儲存由上述相機外處理子系統所接收的任何資料。在相機外改變係以硬體修改/升級而施行的情況下,可獲得這些改變的好處而不需對局部硬體(如數位相機10)有任何改變。
圖2顯示在影像來源資料44及元資料46(顯示於圖1)由相機外ISP 16所接收後的數位照相系統10。相機外ISP 16係組態以對影像來源資料施行至少一部份的處理操作48。影像處理操作將於圖3中進一步指明。
在某些範例中,處理操作係基於元資料46(顯示於圖1)而控制或調整。舉例來說,影像感測器識別數字可包含於元資料中。在此一範例中,處理操作可基於儲存於相機外處理子系統14之關聯於所識別影像感測器之影像感測器資料而調整(例如針對特定感測器類型、或來自特定製造者之感測器而調整)。因此,相機外處理子系統14可具有儲存於其中(例如雲端儲存資料)且關聯於特定影像感測器、數位相機等的相機外元資料204。相機外元資料可由相機供應者及組件(例如感測器)製造者所提供或是在工廠的校準過程中取得。如此,程序操作可基於相機的模式、影像感測器的種類等而調整,藉此增加相機外ISP 16的適用性。此外,離線處理可基於在相機所做的選擇而調整。舉例來說,基於由相機所報告的曝光測量、或使用者選擇,可自動地選擇更詳細且更長的重建,其將影像導向至能夠施行此操作的一組特定伺服器及資源。
此外,在一範例中,可基於影像來源資料44而控制或調整處理操作。舉例來說,包含於影像來源資料中的中間處理版本可觸發在經由相機上ISP 36所執行之中間處理版本前的處理操作之後的管線中處理操作被執行。此外,在另一範例,若僅有影像感測器資料32(顯示於圖1)傳送至相機外ISP 16,可選擇所有處理操作48以供執行。
此外,在某些範例中,相機外ISP可從外部來源接收相機外元資料。舉例來說,相機外元資料可為群體外包。特別地,在一範例中,使用者可能想要識別影像內容,在此情況中,影像可導向至能夠圖案識別的離線資源,其使用例如電腦視覺、或由觀看照片且鍵入描述之真人所操縱的群體外包服務。
經由相機外ISP 16而執行於影像信號資料上的處理操作48可產生可交換影像200。如所示,影像200可儲存於包含於相機外處理子系統上的儲存裝置50。影像可由使用者在一段時間後經由數位相機、桌上型電腦、膝上型電腦、平板電腦等存取。
此外,影像200也可傳輸至數位相機12、特別是至通訊模組18。在一範例中,影像200可為一檔案。然而,在其他範例中,影像資料可由其他適當的方式組織化。因此,通訊模組18係組態以接收影像200。接著,影像200可顯示及/或儲存於數位相機機上。
相機外ISP 16也可組態以產生並傳送控制信號202至數位相機12中的通訊模組18。因此,通訊模組18可組態以接收外來的控制信號202。
在一範例中,可基於影像來源資料44及/或元資料46(顯示於圖1)而產生控制信號202。舉例來說,可分析影像來源資料及/或元資料以判 定是否可調整數位相機的設定以改善影像品質。若判定相機設定的調整將改善影像品質,則可產生控制信號。
控制器26可操作以使用外來的控制信號202來控制數位相機對後續曝光的操作。控制數位相機的操作可包含調整針對後續曝光之焦點設定、曝光控制設定、感測器增益設定、白平衡設定、及閃光控制設定的其中至少一者。將理解到,控制信號可組態以改變數位相機內之任何不可逆的程序或設定。
此外,更新來源250(例如相機製造者、影像感測器製造者等)可提供處理操作更新252至相機外ISP 16。處理操作更新252可組態以改變一或多個相機外處理操作48。如此,相機外處理操作可週期地更新以反覆地改善處理操作。在某些範例中,更新來源250或其他合適的外部來源也可提供元資料至相機外ISP。
圖3顯示複數個處理操作300的實例,其可由相機上ISP 36及/或相機外ISP 16執行。如前文所討論,每一處理操作可提供由ISP所接收之影像感測器資料的中間處理版本302。處理操作300可相繼地以所繪示的順序執行。然而,已考量到處理操作的其他順序安排。此外,在其他具體實施例中,僅一部分的處理操作可由一或兩個ISP所執行。此外,二或更多處理操作可結合(例如演算上的結合)以形成單一處理操作。如此,可增加ISP中的處理效率。因此,操作可於處理管線中執行。處理管線在概念上可分為前端及後端。管線的前端顯示於圖3中。前端處理操作可組態以產生以客觀項目定義的可交換影像。管線的後端可組態以將所處理資料編碼、壓縮、呈現、及/或顏色改變,以產生具有可交換格式(如GIF、JPEG等)的影像。將 理解到,在某些具體實施例中,前述處理操作也可包含於相機上ISP及相機外ISP。
如前文有關圖1及圖2的討論,相機上及相機外ISP(分別為36及16)兩者可接收影像感測器資料。相機外ISP也可接收影像感測器資料的中間處理版本。特別地,在圖3所繪示的具體實施例中,影像感測器資料304傳送至包含於處理操作300中的範圍校正操作306。範圍校正操作306係施行於影像感測器資料304。範圍校正操作可將影像感測器資料中的數值範圍調整至所需的數值並產生影像感測器資料的中間處理版本。將理解到,每一操作後所產生的每一中間處理版本302彼此間可能並不相同。此外,中間處理版本可能不同於可交換影像200(顯示於圖2)。此外,中間處理版本可能不同於致能關聯於曝光之影像之跨平台觀看的任何可交換格式影像種類。將理解到,在其他具體實施例中,圖3所示操作的至少一部份可能並未按所繪示的順序執行。此外,在某些具體實施例中,至少一部份操作可在重疊的時間間隔執行。
接著,對影像感測器資料的中間處理版本施行缺陷畫素校正(DPC)操作308,並產生資料的另一中間處理版本。DPC操作308可識別影像感測器30(顯示於圖1及圖2)中的缺陷畫素,並改變影像感測器資料以校正缺陷畫素。此外,在一具體實施例中,DPC操作308也可包含串擾校正及/或非線性校正。DPC操作可稱作感測器介面塊。圖3所示的DPC操作308可產生另一中間處理版本。
繼續參照圖3,對影像感測器資料的中間處理版本施行透鏡遮蔽校正操作310,並產生影像感測器資料的另一中間處理版本。透鏡遮蔽 校正操作可針對行經相機中透鏡之光量的變化而校正。此外,電路、玻璃板、塑膠板等可能位於影像感測器前方。因此,透鏡遮蔽校正操作也可針對阻擋透鏡或其他光學組件之相機中電路的遮蔽而校正。特別地,操作中的演算法可使透鏡的表面符合畫素的數值。可使用貝塞爾內插器(Bessel interpolator)以施行此功能。在一具體實施例中,貝塞爾內插器可即時地執行。
接著,對影像感測器資料的中間處理版本施行白平衡操作312,並經由操作的執行而產生影像感測器資料的另一中間處理版本。白平衡操作312可組態以標準化資料中的紅、藍、綠(RGB)數值。舉例來說,影像感測器30針對一白色物體可能具有不相等的RGB數值,其可能由過濾器的穿透率及/或光的顏色所造成。白平衡操作也可包含增益操作,其可組態以調整相機對光的敏感度。
接著,對影像感測器資料的中間處理版本施行色彩插補操作314,並經由操作的執行產生影像感測器資料的另一中間處理版本。色彩插補操作可組態以針對影像感測器資料中的每一點內插一組RGB數值。因此,色彩插補操作可基於人類的光度感知而改變資料。在一範例中,色彩插補操作可基於貝爾圖案而內插。此外,在某些範例中,內插可經由迴旋或直接計算而施行。
接著,對影像感測器資料的中間處理版本施行色彩轉換矩陣(CCM)操作316,並經由操作的執行產生影像感測器資料的另一中間處理版本。CCM操作316可組態以針對相機過濾器中的變化而校正。舉例來說,相機過濾器的特性在製造者、生產運行等之間可能不同。此外,可針對特 定物件使用過濾器標準。因此,在某些具體實施例中,可使用3乘3轉換以在CCM操作中產生可預期的RGB數值。
接著,對影像感測器資料的中間處理版本施行銳化操作318,並經由操作的執行產生影像感測器資料的另一中間處理版本。可使用銳化操作以銳化及/或模糊化影像資料的各種態樣。
接著,對影像感測器資料的中間處理版本施行雜訊降低操作320,並經由操作的執行產生影像感測器資料的另一中間處理版本。雜訊降低操作可組態以移除資料中的假影,以降低資料中的雜訊而改善影像品質。
接著,對影像感測器資料的中間處理版本施行伽瑪校正操作322。伽瑪校正操作322可組態以施加對數函數至影像感測器資料,以藉由改善現存位元如何分配至感知上不同的光等級而基於人類對光度的感知而編碼光度,以降低影像資料的整體尺寸。在相機上ISP及/或相機外ISP,在施行伽瑪校正操作之後,資料可編碼為可交換格式及/或壓縮以產生可交換格式影像。
圖4A及圖4B顯示用於數位照相系統中之影像處理的方法400。如所示,方法係經由數位相機及相機外ISP而施行。在某些具體實施例中,顯示於方法400中的數位相機及相機外SIP係類似於包含於數位照相系統10(上文中有關圖1-3的討論)中之數位相機12及相機外ISP 16。在其他具體施施例中,數位相機及相機外ISP可包含於其他適當的數位照相系統中。
方法包含在402(顯示於圖4A中)致動一致動器。接著,在404,方法包含回應於將致動器致動而進行一曝光。進行一曝光可包含允許 光線行經複數個光學組件(例如透鏡、過濾器等)至影像感測器。
接著,在406,方法包含回應於進行曝光而產生影像感測器資料。將理解到,步驟406可由影像感測器實現。在408,方法包含將影像感測器資料轉移至相機上ISP。此外,在某些範例中,影像感測器資料可在步驟408之前從類比轉換至數位資料。
在410,方法包含施行複數個相機上處理操作,以產生影像感測器資料的複數個中間處理版本。如前文所討論,中間處理版本係不同於致能關聯於曝光之影像之跨平台觀看的任何可交換格式影像種類。如所示,步驟402-410係於數位相機施行。
在412,方法包含回應於進行曝光及/或產生影像感測器資料而自動地將影像來源資料傳輸至相機外影像信號處理器(ISP)。自動地傳輸影像來源資料至相機外可包含從數位相機將影像來源資料傳送至相機外ISP並在相機外ISP接收來自數位相機的影像來源資料。
接著,在414,方法可包含將元資料從數位相機傳輸至相機外ISP。將理解到,步驟414可回應於進行曝光及/或產生影像感測器資料而自動地施行。無線地傳輸元資料至相機外ISP可包含從將元資料從數位相機傳送至相機外ISP並於相機外ISP接收來自數位相機的元資料。
在416(其繪示於圖4B中),方法可包含經由相機上ISP對影像來源資料施行複數個相機上處理操作,以產生可交換格式影像。如此,可產生預覽影像,供顯示於相機上。接著,在418,方法包含顯示可交換格式的影像。步驟416-418係經由數位相機施行。
在420,方法可包含基於元資料而控制一或多個相機外處理 操作。如此,可基於數位相機的特定特性(例如數位相機中之影像感測器的種類、數位相機中之光學組件部份的種類、數位相機中之影像感測器內的缺陷畫素、數位相機中的設定資料(例如快門速度、閃光設定、增益設定、及/或焦點設定))而選擇及/或調整相機外處理操作。增益設定(如ISO設定)可包含從感測器施加至資料的感測器增益,藉此而調整感測器對光的敏感度。
接著,在422,方法可包含基於影像感測器資料而控制一或多個相機外處理操作。舉例來說,選擇性地施加至影像來源資料的相機外處理操作可基於傳輸至相機外ISP之影像感測器資料的中間處理版本而選擇。特別地,在一具體實施例中,接續在中間處理版本(其包含於傳送至相機外ISP之影像來源資料中)之後的處理操作可選擇以供相機外ISP執行。
接著,在424,方法可包含對影像來源資料施行複數個相機外處理操作,以產生可交換影像。在某些範例中,可交換影像可為一專屬格式。然而,在其他範例中,可交換影像可為標準格式。將理解到,影像可具有比在相機上所產生的影像更高的品質,其係由於在相機外ISP可得到較大量的處理功率以及相機外ISP的適用性。因此,可利用雲端計算的強度以提供更高品質的影像給數位相機的使用者。此外,在某些具體實施例中,在施行相機外處理操作之前,可更新相機外處理操作。舉例來說,數位相機製造者可週期地更新相機外處理演算法,以反覆地改善處理操作。
接著,在426,方法可包含在本地或在遠端伺服器/資源儲存可交換影像。如此,影像可儲存以在一段時間後供使用者遠端觀看。舉例來說,使用者可經由個人電腦(例如桌上型電腦、膝上型電腦、及/或平板電腦)存取影像。步驟420-426係經由相機外ISP所施行。
接著,在428,方法可包含將可交換格式影像(例如可交換標準格式影像)傳輸至數位相機。將理解到,步驟428可回應於產生可交換格式影像而自動地施行。接著,影像可由使用者經由相機上的顯示而觀看。在某些範例中,若數位相機與相機外ISP之間有高速連接,則可交換格式影像可顯示於數位相機上作為對應曝光及/或影像感測器資料的預覽影像。
在430,方法可包含產生一控制信號。控制信號可組態以控制數位相機的各種態樣,例如針對後續曝光的焦點設定、曝光控制設定(如快門速度及光圈)、感測器增益設定、白平衡設定、及/或閃光控制設定。將理解到,控制信號可調整數位相機中的任何不可逆程序或設定。如此,相機外ISP可調整數位相機所進行之後續曝光的設定,其致能後續曝光設定以改善由後續曝光所產生之影像的品質。
接著,在432,方法可包含將控制信號傳輸至數位相機。在434,方法包含基於控制信號而在進行後續曝光的過程中控制數位相機的操作。步驟434可經由包含於數位相機中的控制器而施行。此外,數位相機的控制操作可包含調整針對後續曝光的曝光控制設定(如快門速度及光圈)、感測器增益設定、白平衡設定、焦點設定、及閃光控制設定的其中一或多者。將理解到,在離線組件及相機之間的此交互控制也可延伸至一組相機。舉例來說,當在一特定位置的一相機提供有效的光等級讀取之後,相同的數值在足夠接近的時間或空間下可接著由其他相機所使用。
將理解到,本文所述之方法僅用以作為說明目的且不意欲作為限制。因此,將理解到,在某些具體實施例中,本文所述的方法可包含額外或替代的程序,而在某些具體實施例中,本文所述的方法可包含被 重新排序、並行地施行或省略的某些程序,而不會偏離本發明範疇。此外,將理解到,本文所述方法可使用包含本文所述之特定範例之任何合適的軟體及硬體來施行。
此書面說明使用範例來揭露本發明,其包含最佳模式,也致能熟習相關領域技藝者實行本發明,包括製造及使用任何裝置或系統並實施任何結合的方法。本發明的可專利範疇係由申請專利範圍所定義,且可能包括熟此技藝者所理解的其他範例。這些其他範例係意欲在申請專利範圍的範疇內。
10‧‧‧數位照相系統
12‧‧‧數位相機
14‧‧‧相機外處理子系統
16‧‧‧相機外影像信號處理器
18‧‧‧通訊模組
20‧‧‧通訊模組
22‧‧‧致動器
24‧‧‧致動輸入
26‧‧‧控制器
28‧‧‧光學組件
30‧‧‧影像感測器
32‧‧‧影像感測器資料
34‧‧‧類比至數位轉換器
36‧‧‧相機上影像信號處理器
38‧‧‧處理操作
40‧‧‧影像
42‧‧‧顯示器
44‧‧‧影像來源資料
46‧‧‧元資料
48‧‧‧處理操作
50‧‧‧儲存裝置

Claims (10)

  1. 一種數位相機,包含:至少一影像感測器,組態以產生影像感測器資料;一影像信號處理器,組態以接收並對該影像感測器資料施行複數個相機上處理操作,其中此類相機上處理操作產生該影像感測器資料的複數個中間處理版本,其不同於致能關聯於該影像感測器資料之一影像的跨平台觀看的任何可交換格式影像類型;以及一通訊模組,組態以無線地傳輸影像來源資料至一相機外影像信號處理器,該影像來源資料包含以下至少其中一者:(i)該影像感測器資料以及(ii)該影像感測器資料之該中間處理版本的其中一者,其中此類傳輸係自動地施行以回應影像感測器資料的產生。
  2. 如申請專利範圍第1項所述之數位相機,其中該相機上處理操作係組態以產生一可交換格式影像,該數位相機更包含組態以顯示該可交換格式影像的一顯示器,且其中該通訊模組係組態以從該相機外影像信號處理器接收在格式上不同於所有該中間處理版本的一可交換格式影像。
  3. 如申請專利範圍第1項所述之數位相機,其中該通訊模組係操作以從相機外影像信號處理器接收一外來的控制信號,其係由該相機外影像信號處理器基於該影像來源資料而產生,該數位相機更包含一控制器,該控制器係操作以使用該外來的控制信號以控制該數位相機對一後續曝光的操作, 且其中該控制器係操作以使用該外來的控制信號以調整針對該後續曝光之一焦點設定、一曝光控制設定、一感測器增益設定、一白平衡設定、及一閃光控制設定的其中至少一者。
  4. 如申請專利範圍第1、2或3項所述之數位相機,其中該通訊模組係組態以無線地傳輸元資料至該相機外影像信號處理器。
  5. 如申請專利範圍第4項所述之數位相機,其中該元資料包含對應該數位相機之校準資料、識別資料、及局部設定資料的其中至少一者。
  6. 如申請專利範圍第4項所述之數位相機,其中該通訊模組係操作以從該相機外影像信號處理器接收一外來的控制信號,其係由該相機外影像信號處理器基於該元資料而產生,該數位相機更包含操作以使用該外來的控制信號以控制該數位相機對一後續曝光之操作的一控制器。
  7. 如申請專利範圍第6項所述之數位相機,其中由該相機外影像信號處理器所產生且從該相機外影像信號處理器所接收之該外來的信號係進一步基於該影像來源資料,使得該後續曝光係基於該影像來源資料及該元資料兩者而控制。
  8. 一種用於在一數位照相系統中之影像處理的方法,包含:在該數位相機,經由一影像感測器產生影像感測器資料; 將該影像感測器資料轉移至一相機上影像信號處理器;施行複數個相機上處理操作以產生該影像感測器資料的複數個中間處理版本,該中間處理版本不同於致能關聯於該影像感測器資料之一影像的跨平台觀看的任何可交換格式影像類型;回應於產生該影像感測器資料,自動地將影像來源資料傳輸至一相機外影像信號處理器,該影像來源資料包含以下至少其中一者:(i)該影像感測器資料以及(ii)該影像感測器資料之該中間處理版本的其中一者;以及在該相機外影像信號處理器,對該影像來源資料施行複數個相機外處理操作,以產生一可交換格式影像。
  9. 如申請專利範圍第8項所述之方法,更包含:(i)從該數位相機傳輸元資料至該相機外影像信號處理器,以及(ii)在該相機外影像信號處理器,基於該元資料控制一或多個該相機外處理操作。
  10. 如申請專利範圍第8或9項所述之方法,更包含:(i)在該相機外影像信號處理器,基於該影像來源資料產生一控制信號;(ii)將該控制信號傳輸至該數位相機;(iii)基於該控制信號而在進行一後續曝光過程中控制該數位相機的操作,且其中在進行該後續曝光過程中控制該數位相機的操作係包含基於該控制信號而控制針對該後續曝光之一焦點設定、一曝光控制設定、一白平衡設定、一感測器增益設定、及一閃光控制設定的其中一或多者。
TW102116281A 2012-05-15 2013-05-07 虛擬化影像信號處理器 TWI559764B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US201261647433P 2012-05-15 2012-05-15

Publications (2)

Publication Number Publication Date
TW201412105A TW201412105A (zh) 2014-03-16
TWI559764B true TWI559764B (zh) 2016-11-21

Family

ID=49511147

Family Applications (1)

Application Number Title Priority Date Filing Date
TW102116281A TWI559764B (zh) 2012-05-15 2013-05-07 虛擬化影像信號處理器

Country Status (4)

Country Link
US (1) US9389678B2 (zh)
CN (1) CN103428507A (zh)
DE (1) DE102013208879A1 (zh)
TW (1) TWI559764B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9918017B2 (en) 2012-09-04 2018-03-13 Duelight Llc Image sensor apparatus and method for obtaining multiple exposures with zero interframe time
US10558848B2 (en) 2017-10-05 2020-02-11 Duelight Llc System, method, and computer program for capturing an image with correct skin tone exposure
CN104702906B (zh) * 2014-01-29 2018-06-22 杭州海康威视数字技术股份有限公司 高清监控视频系统及其控制方法
CN105827957A (zh) * 2016-03-16 2016-08-03 上海斐讯数据通信技术有限公司 一种图像处理的系统和方法
EP3507765A4 (en) * 2016-09-01 2020-01-01 Duelight LLC SYSTEMS AND METHODS FOR FOCUS ADJUSTMENT BASED ON TARGET DEVELOPMENT INFORMATION
CN111343386B (zh) * 2018-12-19 2022-03-25 北京小米移动软件有限公司 图像信号处理方法及装置、电子设备、存储介质
WO2020206539A1 (en) 2019-04-09 2020-10-15 Michael Brown System and method of processing of a captured image to facilitate post-processing modification
JP7414564B2 (ja) * 2020-02-04 2024-01-16 キヤノン株式会社 情報処理装置及び方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101582963A (zh) * 2008-04-22 2009-11-18 索尼株式会社 从便携式数码相机卸载对图像的处理

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09261519A (ja) * 1996-03-22 1997-10-03 Canon Inc 撮像装置
US6535243B1 (en) * 1998-01-06 2003-03-18 Hewlett- Packard Company Wireless hand-held digital camera
US8237801B2 (en) * 2005-08-05 2012-08-07 The Innovation Science Fund I, LLC Image processing system and communication method
US20070104479A1 (en) * 2005-11-10 2007-05-10 Akihiro Machida Correcting photographs obtained by a handheld device
US8310556B2 (en) 2008-04-22 2012-11-13 Sony Corporation Offloading processing of images from a portable digital camera
JP2011055170A (ja) * 2009-08-31 2011-03-17 Canon Inc 情報処理装置及びその制御方法
JP2011216948A (ja) * 2010-03-31 2011-10-27 Sony Corp カメラシステム、映像処理装置及びカメラ装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101582963A (zh) * 2008-04-22 2009-11-18 索尼株式会社 从便携式数码相机卸载对图像的处理

Also Published As

Publication number Publication date
US20130307999A1 (en) 2013-11-21
DE102013208879A1 (de) 2013-11-21
US9389678B2 (en) 2016-07-12
CN103428507A (zh) 2013-12-04
TW201412105A (zh) 2014-03-16

Similar Documents

Publication Publication Date Title
TWI559764B (zh) 虛擬化影像信號處理器
JP6911202B2 (ja) 撮像制御方法および撮像装置
WO2020057199A1 (zh) 成像方法、装置和电子设备
KR102146855B1 (ko) 촬영 설정 값을 공유하는 촬영 장치 및 방법 및 공유 시스템
US20130314559A1 (en) Camera having reconfigurable logic blocks in integrated circuit embedded thereon and system having the camera
JP2004343519A (ja) 撮像装置および画像処理装置
CN101019416A (zh) 成像设备
US10600170B2 (en) Method and device for producing a digital image
US11601600B2 (en) Control method and electronic device
US9723194B2 (en) Photographing apparatus providing image transmission based on communication status, method of controlling the same, and non-transitory computer-readable storage medium for executing the method
US20140192246A1 (en) Digital photographing apparatus, method of controlling the same, and computer-readable recording medium
CN104221364A (zh) 成像装置和图像处理方法
JP2004282686A (ja) 撮像装置
JP5127638B2 (ja) 画像処理装置およびその方法
US10805526B2 (en) Imaging apparatus, imaging method, and computer program product
JP6210772B2 (ja) 情報処理装置、撮像装置、制御方法、及びプログラム
US9288461B2 (en) Apparatus and method for processing image, and computer-readable storage medium
JP2016076771A (ja) 撮像装置
US9538071B2 (en) Electronic apparatus having a photographing function and method of controlling the same
KR102589856B1 (ko) 촬영 장치, 촬영 방법 및 컴퓨터 프로그램 제품
WO2017096855A1 (zh) 伽马参数的动态调整方法及装置
JP5627252B2 (ja) 撮像装置及びその制御方法
JP2008048168A (ja) 色処理パラメータ設定方法及びデジタル撮像機器
JP2006279459A (ja) 画像撮影装置、画像撮影方法、画像撮影プログラムおよび記録媒体
JP5549282B2 (ja) 画像処理装置、撮像装置、コンピュータ読み取り可能なプログラム

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees