TWI463866B - An image processing apparatus, an image processing method, an image pickup apparatus, and an image processing program - Google Patents
An image processing apparatus, an image processing method, an image pickup apparatus, and an image processing program Download PDFInfo
- Publication number
- TWI463866B TWI463866B TW100108981A TW100108981A TWI463866B TW I463866 B TWI463866 B TW I463866B TW 100108981 A TW100108981 A TW 100108981A TW 100108981 A TW100108981 A TW 100108981A TW I463866 B TWI463866 B TW I463866B
- Authority
- TW
- Taiwan
- Prior art keywords
- change
- pixel value
- amount
- value
- motion estimation
- Prior art date
Links
- 238000003672 processing method Methods 0.000 title claims description 12
- 238000000034 method Methods 0.000 claims description 85
- 239000013598 vector Substances 0.000 claims description 54
- 238000004364 calculation method Methods 0.000 claims description 44
- 238000003384 imaging method Methods 0.000 claims description 15
- 230000003287 optical effect Effects 0.000 claims description 4
- 238000001914 filtration Methods 0.000 claims description 2
- 239000000284 extract Substances 0.000 claims 1
- 230000006870 function Effects 0.000 description 13
- 230000015654 memory Effects 0.000 description 9
- 230000014509 gene expression Effects 0.000 description 7
- 238000009499 grossing Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000003381 stabilizer Substances 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 229910002056 binary alloy Inorganic materials 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Description
本發明係關於一種推斷圖像序列中之2個圖像間的全域運動量之運動向量估計(ME：Motion Estimation)之圖像處理裝置、圖像處理方法、攝像裝置及程式。
作為進行運動推斷之最常用之方法，有區塊比對。
以區塊比對來推斷圖像間之全域運動時，基本上係取針對每個經分割之區塊所生成之運動向量(MV：局部MV)的跨及整個畫面之加權平均值。
此時，可將局部MV不可靠之區塊之權重減小，從而可提高穩健性(例如參照專利文獻1、2)。
作為另一運動推斷方法，已知有Lucas-Kanade法(LK法)(參照非專利文獻1)。
尤其若使用跨及全體畫面之LK法，則可進行計算執行效率遠優於區塊比對之全域ME。
[專利文獻1]日本專利特開平5-289159號公報
[專利文獻2]日本專利特開2006-222933號公報
[非專利文獻1][1] An Iterative Image Registration Technique with an Application to Stereo Vision,B. D. Lucas,T. Kanade,Intl. Joint Conf. on AI,pp. 674-679,1981
然而，上述專利文獻1、2中所揭示之技術中，必須對每個區塊求出MV之區塊比對因需要較多之計算資源，從而一般為執行效率較差之處理。
LK法可進行計算執行效率大幅優於區塊比對之全域ME，但另一方面，跨及全體畫面之LK法由於不計算局部MV，因而無法以與上述專利文獻1、2相同之方法來提高穩健性。
本發明之目的在於提供一種可一方面保持較高之計算執行效率，一方面對局部之動態被攝體或照度變化等進行穩健之全域運動估計(ME)之圖像處理裝置、圖像處理方法、攝像裝置及程式。
本發明之第1觀點之圖像處理裝置包含對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計裝置；上述全域運動估計裝置包含運動估計處理部，以進行當前圖像與參照圖像間之全域運動估計，該運動估計處理部具有執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上之功能；上述運動估計處理部係於第1次運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；於第2次運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果重新求出一組運動向量並輸出。
本發明之第2觀點之圖像處理方法係於進行對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計時，為了進行當前圖像與參照圖像間之全域運動估計，執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上；於第1次運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；於2次運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件來進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
本發明之第3觀點之攝像裝置包括：固體攝像元件；將被攝體像成像於上述固體攝像元件上之光學系統、與對藉由上述固體攝像元件而得之圖像進行圖像處理之圖像處理裝置，且包含對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計裝置；上述全域運動估計裝置包含運動估計處理部，以進行當前圖像與參照圖像間之全域運動估計，該運動估計處理部具有執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上之功能，且，上述運動估計處理部係於第1次運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；於第2次運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
本發明之第4觀點係一種程式，其使電腦執行如下之圖像處理，即，於進行對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計時，為了進行當前圖像與參照圖像間之全域運動估計，執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上；於第1次運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；於第2次運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
根據本發明，可一方面保持較高之計算執行效率，一方面對局部之動態被攝體或照度變化等進行穩健之全域運動估計(ME)。
以下，結合圖式說明本發明之實施形態。
再者，說明係按照以下之順序進行。
1.作為圖像處理裝置之全域運動估計(ME)裝置
2.全域ME裝置之具體處理
3.攝像裝置(攝像機系統)之構成例
<1.作為圖像處理裝置之全域運動估計(ME)裝置>
圖1係表示本發明之實施形態之圖像處理裝置中所包含之全域運動估計裝置之圖。
圖2係圖1之全域運動估計裝置之基本功能方塊圖。
本實施形態之圖像處理裝置1包含全域運動估計(或運動推斷：ME)裝置10。
全域ME裝置10基本上如圖1所示，進行輸入當前圖像CIM與參照圖像RIM該2個圖像並輸出1組運動向量(MV)的全域ME處理。
全域ME裝置10係基本上作為功能區塊，且如圖2所示，包含第1ME處理部11、ME判定部12、第2ME處理部13及記憶體14。
於本實施形態中，全域ME裝置10具有為了進行圖像序列I(x，y，t)中2個圖像間之全域ME，如下所述執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上的功能。
[第1次之ME]
第1次之ME係，除了要以LK法求出MV所需之Σ(Ix)2
、Σ(Iy)2
、ΣIxIy、ΣIxIt、ΣIyIt之外，僅以特定之數量(n個)亦將包含Ix、Iy、It之項的相加值ΣFn(Ix，Iy，It)作為變數保持於記憶體14中。
並且，藉由第1ME處理部11計算一組MV(vx
，vy
)作為第1次之LK法之結果。
[ME結果之有效無效判定]
藉由ME判定部12判定第1ME處理部11之ME有效或者無效。
若藉由ME判定部12判定出有效，則由第2ME處理部13進行第2次之ME。於無效之情形時，如後所述MV係輸出為0。
[第2次之ME]
第2次之ME係，當求取要以LK法求出MV所需之Σ(I'x)2
、Σ(I'y)2
、ΣI'xI'y、ΣI'xI't、ΣI'yI't時，對每個像素進行是否相加之判斷。
此處，進行條件判斷時，使用包含以下之變數之條件式：
第1為該像素中之I'x、I'y、I't。
第2為於第1次中所求得之Σ(Ix)2
、Σ(Iy)2
、ΣIxIy、ΣIxIt、ΣIyIt與MV(vx
，vy
)。
第3為於第1次中所求得之相加值ΣFn(Ix，Iy，It)。
第4為閾值參數。
作為第2次之LK法之結果而重新計算一組MV(v'x
，v'y
)並予以輸出。
於上述說明中，Ix、Iy、It分別係指該像素中之「水平方向之像素值變化量」「垂直方向之像素值變化量」「時間方向之像素值變化量」。Σ指「跨及整個畫面進行相加」。
因此，ΣFn(Ix，Iy，It)可表示「跨及整個畫面而對於包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果進行相加」。
為了區別第1次之計算與第2次之計算，對於第2次讀入之圖像附上記號I'，但因僅對相同之圖像對執行2次LK法，故而實際上I=I'。但是(vx
，vy
)與(v'x
，v'y
)為不同之值。
[ME結果之有效無效判定之具體例]
ME判定部12接收第1ME處理部11之MV(vx
，vy
)，於判斷出全域ME之難度較高之情形時，將ME作為無效(MV為0)。
此時，無需由第2ME處理部13執行第2次之LK法。
此處，進行條件判斷時，使用包含以下之變數之條件式。
第1變數係，於第1次中所求得之Σ(Ix)2
、Σ(Iy)2
、ΣIxIy、ΣIxIt、ΣIyIt與MV(vx
，vy
)。
第2變數係，於第1次中所求得之相加值ΣFn(Ix，Iy，It)。
第3變數係閾值參數。
此處，作為相加值ΣFn(Ix，Iy，It)，導入ΣIx、ΣIy、ΣIt、Σ(It)2
該4個值，計算LK法中之誤差函數值之跨及整個畫面的分佈之平均值與標準偏差。
並且，將該計算結果是否超過某個閾值作為上述條件式中之1個，其成立時將ME作為無效。
又，作為相加值ΣFn(Ix，Iy，It)，導入ΣIt，計算每1個像素之時間方向之像素值變化之絕對值，將該計算結果是否超過某個閾值作為上述條件式中之1個，其成立時將ME作為無效。
又，於上述第2ME處理中，亦可進行以下之處理。
作為相加值ΣFn(Ix，Iy，It)，導入ΣIx、ΣIy、ΣIt、Σ(It)2
該4個，計算LK法中之誤差函數值之跨及整個畫面的分佈之平均值與標準偏差。
並且，基於該平均值與標準偏差，根據各像素中之誤差函數值計算偏差度，將其是否超過某個閾值作為上述條件式中之1個，其成立時不對該像素進行MV之計算。
又，於上述第2ME處理中，亦可進行以下之處理。
作為相加值ΣFn(Ix，Iy，It)，導入ΣIt、Σ(It)2
該2個，計算時間方向之像素值變化之跨及整個畫面的分佈之平均值與標準偏差。
並且，基於該平均值與標準偏差，根據各像素中之像素值變化計算偏差度，將其是否超過某個閾值作為上述條件式中之1個，其成立時不對該像素進行MV之計算。
<2.全域ME裝置之具體處理>
以下，結合圖3至圖7說明全域ME裝置10之具體處理。
圖3係表示本實施形態之全域ME處理過程之全部概要之流程圖。
[步驟ST1]
首先，於步驟ST1中，進行第1次之ME。
[步驟ST2、ST3]
於步驟ST2及ST3中，根據第1次ME之結果判定全域ME之難度或可靠性，判定ME有效或者無效。
[步驟ST4]
於步驟ST3中ME為無效之情形時，產生分支，將MV輸出為0，且結束。於ME為有效之情形時，於步驟ST4中進行第2次之ME，輸出其結果之MV且結束。
ME為無效時不進行第2次之ME，從而可防止誤用不理想之MV，並且可削減處理量。
圖4係表示本實施形態之第1次之ME之過程之流程圖。
圖4之ME處理係增補LK(Lucas-Kanade)法者，基本上按照下式求出MV。
上式中Σ表示跨及整個畫面之總和。又Ix、Iy、It係如上所述圖像序列I(x，y，t)之水平‧垂直‧時間方向之偏微分值，有多種計算方法，作為一例，如圖5之流程圖所示般進行計算。
為了於以後之ME無效判定或第2次之ME中使用，將作為中途之計算結果的Σ(Ix)2
、Σ(Iy)2
、ΣIxIy、ΣIxIt、ΣIyIt保存於任意之儲存區域中(圖4之Axx、Ayy、Axy、Axt、Ayt)。
又，亦同樣地計算本來LK法中無需之ΣIx、ΣIy、ΣIt、Σ(It)2
，並進行保存(圖4之Ax、Ay、At、Att)。
[步驟ST101]
於步驟ST101中，輸入當前圖像排列I與參照圖像排列J，獲取圖像之寬度W及圖像之高度H。
[步驟ST102]
於步驟ST102中，將相當於Σ(Ix)2
、Σ(Iy)2
、ΣIxIy、ΣIxIt、ΣIyIt之參數Axx、Ayy、Axy、Axt、Ayt設定為初始值0。
[步驟ST103]
於步驟ST103中，將相當於ΣIx、ΣIy、ΣIt、Σ(It)2
之參數Ax、Ay、At、Att設定為初始值0。
[步驟ST104]
於步驟ST104中，將座標x設為0~W-2，將座標y設為0~H-2，開始2次元循環。
[步驟ST105]
於步驟ST105中，求出座標(x，y)上之當前圖像I與參照圖像J之偏微分Ix、Iy、It。
圖5係表示圖4之步驟ST105之偏微分計算例的圖。
獲取座標(x，y)上之當前圖像I與參照圖像J(ST1051)，求出該偏微分Ix、Iy、It(ST1052)。
此時，變成Ix=I[y][x+1]-I[y][x]。
變成Iy=I[y+1][x]-I[y][x]。
變成It=I[y][x]-I[y][x]。
[步驟ST106]
於步驟ST106中，以Axx=Axx+Ix×Ix求出相當於Σ(Ix)2
之參數Axx。
以Ayy=Ayy+Iy×Iy求出相當於Σ(Iy)2
之參數Ayy。
以Axy=Axy+Ix×Iy求出相當於ΣIxIy之參數Axy。
以Axt=Axt+Ix×It求出相當於ΣIxIt之參數Axt。
以Ayt=Ayt+Iy×It求出相當於ΣIyIt之參數Ayt。
[步驟ST107]
於步驟ST107中，以Ax=Ax+Ix求出相當於ΣIx之參數Ax。
以Ay=Ay+Iy求出相當於ΣIy之參數Ay。
以At=At+It求出相當於ΣIt之參數At。
以Att=Att+It＊It求出相當於Σ(It)2
之參數Att。
[步驟ST108]
於步驟ST108中，判定x，y循環是否結束，於未結束之情形時返回至步驟ST104，於結束之情形時轉移至步驟ST109之處理。
[步驟ST109]
於步驟ST109中，求出MV(vx
，vy
)，並輸出至ME判定部12。此時，根據vx
=(Axy+Ayt-Ayy×Axt)/div求出MV(vx
)。
根據vy
=(Axy+Axt-Axx×Ayt)/div求出MV(vy
)。
其中，div=Axx×Axt-Axx×Axy。
圖6係表示本實施形態之ME有效無效判定之過程的流程圖。
[步驟ST201]
於步驟ST201中，獲取圖像之寬度W及圖像之高度H之資訊。
[步驟ST202]
於步驟ST202中，獲得第1次之ME之MV(vx
，vy
)，第1次之ME之參數值Axt(ΣIxIt)、Ayt(ΣIyIt)、Ax(ΣIx)、Ay(ΣIy)、At(ΣIt)、Att(Σ(It)2
)之累計值。
[步驟ST203]
於步驟ST203中，使用以上之第1次之ME處理結果，求出標準偏差σe(Se)及絕對值δ(D)。
再者，σe表示LK法中之誤差函數值之跨及整個畫面的分佈之標準偏差，絕對值δ(D)表示每1個像素之時間方向之像素值變化的絕對值。
[步驟ST204]
於步驟ST204中，根據對標準偏差σe(Se)預先所設定之閾值參數進行閾值判定。
[步驟ST205]
於步驟ST205中，當閾值判定之結果係判定出高於閾值之情形時，將ME作為無效且結束。
[步驟ST206]
於步驟ST206中，於低於閾值之情形時，根據對絕對值δ(D)預先所設定之閾值參數進行閾值判定。
[步驟ST207]
於步驟ST207中，當閾值判定之結果係判定出高於閾值之情形時，將ME作為無效且結束。
於低於閾值之情形時，判定第1次之ME為有效。
藉由標準偏差σe(Se)之閾值判定，可防止誤用畫面內之局部運動過大時容易出現的不理想之MV。
同樣地，藉由絕對值δ(D)之閾值判定，可防止誤用畫面之照度變化過大時容易出現的不理想之MV。
再者，當進行閾值判定時，若亦使用過去之標準偏差σe(Se)(關於絕對值δ(D)亦同樣)且經平均過濾器處理後與閾值相比，可獲得更加理想之結果。進而，若與具有遲滯性之閾值相比可獲得更加理想之結果。
圖7係表示本實施形態之第2次之ME之過程的流程圖。
第2次之ME與第1次之ME同樣係增補LK(Lucas-Kanade)法者，其基本上係求出MV(vx
，vy
)之處理，但不同點在於：在特定之像素中，未採用Σ即「跨及整個畫面而進行相加」。
為了判斷未進行該計算之特定之像素，首先使用第1次之ME之結果(vx
，vy
)、ΣIx、ΣIy、ΣIt、Σ(It)2
，求出以下值(ST403)。
求出LK法中之誤差函數值之跨及整個畫面的分佈之平均值μe(Me)、LK法中之誤差函數值之跨及整個畫面的分佈之標準偏差σe(Se)。進而，求出時間方向之像素值變化之跨及整個畫面的分佈之平均值μi(Mi)、時間方向之像素值變化之跨及整個畫面的分佈之標準偏差Si。
並且，於重新求出Σ(I'x)2
、Σ(I'y)2
、ΣI'xI'y、ΣI'xI't、ΣI'yI't之循環(ST405~ST410)中，導入評估以下之條件式之條件分支(ST407、ST408)。
偏微分計算後，基於分佈之平均值μe(Me)與標準偏差σe(Se)，根據各像素中之誤差函數值計算偏差度。
並且，判斷該計算結果是否超過某個閾值。
又，基於分佈之平均值μi(Mi)與分佈之標準偏差Si，根據各像素中之像素值變化計算偏差度。
並且，判斷該計算結果是否超過某個閾值。
此處I'x、I'y、I't並非第1次之ME，而是第2次ME之循環內的步驟ST406中所求得之各像素中之偏微分值。
但是因僅對相同圖像對執行2次LK法，故而實際上I=I'。
如步驟ST407、ST408所示，於任何一者成立或者兩者均成立之情形時，不採用Σ而進入下一像素。
藉此，可除去某種程度之局部運動或雜訊式之亮度變化，作為全域MV可獲得理想之結果。
再者，以下係可容易思及之變化，其包含於本發明中。
將ME之重複次數限定為2次，即使進一步增加重複次數亦可應用。
亦可應用不僅適用於僅並進移動成分之MV推斷，而且適用於包括旋轉放大在內之仿射參數推斷或者投影轉換矩陣推斷的版本。
如以上說明所述，根據本實施形態，可一面保持LK(Lucas-Kanade)法之較高之計算執行效率，一面對局部之動態被攝體或照度變化等進行穩健之全域ME。
尤其，當應用於DIS之情形時，僅以輸入圖像之縮小圖像便可進行全域ME，故而可以更少之計算資源而實現。
於採用區塊比對方法之情形時，通常多具有專用之硬體，若採用本方法，只要有普通之圖像縮小電路、通用記憶體與處理器即可。
具有上述之效果之固體攝像元件可用作數位相機或攝像機之攝像裝置。
<3.攝像裝置(攝像機系統)之構成例>
圖8係表示採用本發明之實施形態之圖像處理裝置的攝像裝置(攝像機系統)之構成例之圖。
本攝像裝置100係應用本實施形態之全域ME裝置110。
進而，攝像裝置100包含將入射光導引至CMOS(Complementary Metal Oxide Semiconductor，互補金氧半導體)影像感測器等之攝像裝置120的像素區域之(成像被攝體像)光學系統，例如係使入射光(像光)成像於攝像面上之透鏡230。
攝像裝置100進而包含前段信號處理裝置140及後段信號處理裝置150。
於攝像裝置100中，係由前段信號處理裝置140對藉由透鏡系統130、攝像裝置120所拍攝之圖像信號進行信號處理並生成雙系統之像素值信號。
於前段信號處理裝置140中，自1個像素值信號逐次將當前圖像與參照圖像傳輸至全域ME裝置110並輸出運動向量。使用該運動向量由後段信號處理裝置150對另一像素值信號進行信號處理，從而輸出為影像信號。
圖9係表示將本發明之實施形態之全域ME裝置應用於具有畫面晃動修正(DIS：Digital Image Stabilizer，數字圖像穩定器)功能的圖像處理裝置中之情形時之構成例的圖。
本圖像處理裝置1A中，除了全域ME裝置10之外，亦包含前段信號處理裝置20及後段信號處理裝置30。
前段信號處理裝置20包含記憶體21、22以及縮小及平滑化電路23。
後段信號處理裝置30包含運動向量(MV)過濾器31及截取部32。
於圖像處理裝置1A中，首先，自輸入端子T11獲得圖像序列。
逐個地輸入圖像，於一個路徑上直接存儲於記憶體21中。
其主要原因在於實現ME路徑之時間滯後與輸出之同步。於另一路徑上，藉由縮小及平滑化電路23進行縮小與平滑化處理後存儲於記憶體22中。
藉由縮小使得全域ME之計算量減少，且藉由與平滑化進行組合可獲得抗雜訊且精度非常良好之MV。
並且，自記憶體22取出最新輸入圖像之縮小平滑化圖像(當前圖像)與1個過去之圖像之縮小平滑化圖像(參照圖像)，輸入至上述之全域ME裝置10中。
進行全域ME之後所獲得之MV經過運動向量過濾器31而轉換為修正向量。
作為過濾器31，於最簡單之箱體中進行積分過濾(僅依序相加所輸入之MV之序列)。
最終，自記憶體21取出最新輸入圖像，按照修正向量藉由截取部32進行截取放大(或者僅截取)，生成經畫面晃動修正之穩定化圖像序列，並自端子T12予以輸出。
再者，本發明為圖9之樣式，除DIS以外，亦可應用於進行整個畫面之運動推斷‧位置對準等所有功能中。
例如，可應用於立體匹配、超解像、3維降噪、全景縫合、移攝(動態物體之靜態化)、視頻編碼等中。
並不限定於上述之本實施形態，只要不脫離本發明之主旨，當然可進行適當之變更。
又，以上詳細說明之方法亦可構成為，形成為與上述過程對應之程式，且藉由CPU等電腦而執行。
又，上述之程式可構成為：藉由裝有半導體記憶體、磁碟、光碟、floppy(登錄商標)磁碟等記錄媒體之電腦進行存取來執行上述程式。
1、1A．．．圖像處理裝置
10．．．全域ME裝置
11．．．第1ME處理部
12．．．ME判定部
13．．．第2ME處理部
14、21、22．．．記憶體
20、140．．．前段信號處理裝置
23．．．縮小及平滑化電路
30、150．．．後段信號處理裝置
31．．．運動向量(MV)過濾器
32．．．截取部
100、120．．．攝像裝置
110．．．全域ME裝置
130．．．光學系統(透鏡系統)
MV．．．運動向量
T11．．．輸入端子
T12．．．端子
圖1係表示本發明之實施形態之圖像處理裝置中所包含的全域運動估計裝置之圖。
圖2係圖1之全域運動估計裝置之基本功能方塊圖。
圖3係表示本實施形態之全域ME處理過程之概要的流程圖。
圖4係表示本實施形態之第1次ME之過程的流程圖。
圖5係表示圖4之步驟ST105之偏微分計算例的圖。
圖6係表示本實施形態之ME有效無效判定之過程的流程圖。
圖7係表示本實施形態之第2次ME之過程之流程圖。
圖8係表示採用本發明之實施形態之圖像處理裝置的攝像裝置(攝像機系統)之構成例之圖。
圖9係表示將本發明之實施形態之全域ME裝置應用於具有畫面晃動修正(DIS：Digital Image Stabilizer，數字圖像穩定器)功能的圖像處理裝置中之情形時之構成例之圖。
Claims (20)
- 一種圖像處理裝置，其包含對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計裝置；上述全域運動估計裝置包含運動估計處理部，以進行當前圖像與參照圖像間之全域運動估計，該運動估計處理部具有執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上之功能；上述運動估計處理部係於第1次之運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；且於第2次之運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
- 如請求項1之圖像處理裝置，其中對上述第2次之運動估計中之每個像素進行是否相加之判斷的設定條件，至少包括以下任一者：與該像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊；與第1次之運動估計所求得的水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值、及運動向量；以及所設定之閾值參數。
- 如請求項1之圖像處理裝置，其中上述全域運動估計裝置包含判定上述第1次之運動估計結果為有效或者無效之判定部；上述判定部判斷出全域運動估計之難度較高之情形時，使第1次之運動估計無效。
- 如請求項3之圖像處理裝置，其中上述判定部判定上述第1次之運動估計結果為有效或者無效之條件，至少包括以下任一者：與第1次之運動估計所求得的水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值、及運動向量；以及所設定之閾值參數。
- 如請求項4之圖像處理裝置，其中 上述判定部係採用作為判定條件之跨及整個畫面之與水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的相加值；求出LK法中之誤差函數值之跨及整個畫面的分佈之標準偏差；且將該標準偏差是否超過所設定之閾值作為上述條件中之1個，當該條件成立時使第1次之運動估計無效。
- 如請求項4之圖像處理裝置，其中上述判定部係採用作為判定條件之與時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值；求出每1個像素之時間方向之像素值變化的絕對值；且將該絕對值是否超過所設定之閾值作為上述條件中之1個，當該條件成立時使第1次之運動估計無效。
- 如請求項4至6中任一項之圖像處理裝置，其中於第1次之運動估計為無效之情形時，上述全域運動估計裝置不進行第2次之運動估計。
- 如請求項1至6中任一項之圖像處理裝置，其中上述運動估計處理部係於第2次之運動估計中，採用與水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值； 求出LK法中之誤差函數值之跨及整個畫面之分佈的平均值與標準偏差；且基於所求得之平均值與標準偏差，根據各像素中之誤差函數值求出偏差度，將所求得之偏差度值是否超過所設定之閾值作為上述條件中之1個，當該條件成立時不對該像素進行運動向量之計算。
- 如請求項1至6中任一項之圖像處理裝置，其中上述運動估計處理部係於第2次之運動估計中，採用與時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值；求出LK法中之像素值變化之跨及整個畫面的分佈之平均值與標準偏差；且基於所求得之平均值與標準偏差，根據各像素中之誤差函數值求出偏差度，將所求得之偏差度值是否超過所設定之閾值作為上述條件中之1個，當該條件成立時不對該像素進行運動向量之計算。
- 如請求項1至6中任一項之圖像處理裝置，其包括：前段信號處理部，其將經前段信號處理而縮小及平滑化之像素值信號輸出至上述全域運動估計裝置；及後段信號處理部，其對上述全域運動估計裝置之運動向量輸出之時間序列施行數位濾波而成為修正向量，按照修正向量所示之位置，自原始之輸入圖像中截取一定之比例大小的部分。
- 一種圖像處理方法，其係於進行對當前圖像與參照圖像 進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計時，為了進行當前圖像與參照圖像間之全域運動估計，而執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上；於第1次之運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；且於第2次之運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
- 如請求項11之圖像處理方法，其中對上述第2次之運動估計中之每個像素進行是否相加之判斷的設定條件，至少包括以下任一者：與該像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊； 與第1次之運動估計所求得的水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值、及運動向量；以及所設定之閾值參數。
- 如請求項11之圖像處理方法，其中判定上述第1次之運動估計結果為有效或者無效；且於判斷出全域運動估計之難度較高之情形時，使第1次之運動估計無效。
- 如請求項13之圖像處理方法，其中判定上述第1次之運動估計結果為有效或者無效之條件，至少包括以下任一者：與第1次之運動估計所求得之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值、及運動向量；及所設定之閾值參數。
- 如請求項14之圖像處理方法，其中採用作為判定條件之跨及整個畫面之與水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關的資訊之相加值；求出LK法中之誤差函數值之跨及整個畫面的分佈之標準偏差；且將該標準偏差是否超過所設定之閾值作為上述條件中之1個，當該條件成立時使第1次之運動估計無效。
- 如請求項14之圖像處理方法，其中採用作為判定條件之與時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值；且求出每1個像素之時間方向之像素值變化之絕對值，將該絕對值是否超過所設定之閾值作為上述條件中之1個，當該條件成立時使第1次之運動估計無效。
- 如請求項11至16中任一項之圖像處理方法，其中於第2次之運動估計中，採用與水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值；求出LK法中之誤差函數值之跨及整個畫面之分佈的平均值與標準偏差；且基於所求得之平均值與標準偏差，根據各像素中之誤差函數值求出偏差度，將所求得之偏差度值是否超過所設定之閾值作為上述條件中之1個，當該條件成立時不對該像素進行運動向量之計算。
- 如請求項11至16中任一項之圖像處理方法，其中於第2次之運動估計中，採用與時間方向之像素值變化量相關之資訊的跨及整個畫面之相加值；求出LK法中之像素值變化之跨及整個畫面的分佈之平均值與標準偏差；且基於所求得之平均值與標準偏差，根據各像素中之誤差函數值求出偏差度，將所求得之偏差度值是否超過所設定之閾值作為上述條件中之1個，當該條件成立時不 對該像素進行運動向量之計算。
- 一種攝像裝置，其包括：固體攝像元件；將被攝體像成像於上述固體攝像元件上之光學系統；及對藉由上述固體攝像元件而得之圖像進行圖像處理之圖像處理裝置；且上述攝像裝置包含對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計裝置，上述全域運動估計裝置包含運動估計處理部，以進行當前圖像與參照圖像間之全域運動估計，該運動估計處理部具有執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上之功能；其中上述運動估計處理部係於第1次之運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；且於第2次之運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化 量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
- 一種圖像處理用程式，其使電腦執行如下之圖像處理：於進行對當前圖像與參照圖像進行全域運動估計(ME)並輸出運動向量(MV)之全域運動估計時，為了進行當前圖像與參照圖像間之全域運動估計，執行跨及整個畫面之Lucas-Kanade法(以下稱為LK法)2次以上；於第1次之運動估計中，根據至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊，求出一組運動向量；且於第2次之運動估計中，在求取以LK法求出運動向量所需之至少與像素中之水平方向之像素值變化量、垂直方向之像素值變化量及時間方向之像素值變化量相關之資訊，及跨及整個畫面而將包含水平方向之像素值變化量、垂直方向之像素值變化量與時間方向之像素值變化量之任意計算式之計算結果相加而得之資訊時，對每個像素按照設定條件進行是否相加之判斷，於滿足條件之情形時，作為第2次之LK法之結果而重新求出一組運動向量並輸出。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010104353A JP2011233039A (ja) | 2010-04-28 | 2010-04-28 | 画像処理装置、画像処理方法、撮像装置、およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TW201206180A TW201206180A (en) | 2012-02-01 |
| TWI463866B true TWI463866B (zh) | 2014-12-01 |
Family
ID=44857968
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| TW100108981A TWI463866B (zh) | 2010-04-28 | 2011-03-16 | An image processing apparatus, an image processing method, an image pickup apparatus, and an image processing program |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US8390697B2 (zh) |
| JP (1) | JP2011233039A (zh) |
| KR (1) | KR20110120215A (zh) |
| CN (1) | CN102238332A (zh) |
| TW (1) | TWI463866B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI665916B (zh) * | 2017-12-14 | 2019-07-11 | 多方科技股份有限公司 | 降噪方法、降噪裝置及降噪電路系統 |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102012009876A1 (de) | 2011-11-10 | 2013-05-16 | Audi Ag | Verfahren zum Verarbeiten einer Bildsequenz und Testgerät für einen Kraftwagen |
| US8347391B1 (en) * | 2012-05-23 | 2013-01-01 | TrustPipe LLC | System and method for detecting network activity of interest |
| US11083344B2 (en) | 2012-10-11 | 2021-08-10 | Roman Tsibulevskiy | Partition technologies |
| US8856324B2 (en) | 2013-01-28 | 2014-10-07 | TrustPipe LLC | System and method for detecting a compromised computing system |
| JP6155087B2 (ja) * | 2013-05-01 | 2017-06-28 | 日本放送協会 | 動き推定装置及びプログラム |
| CN103618904B (zh) * | 2013-11-20 | 2017-02-22 | 华为技术有限公司 | 基于像素的运动估计方法及装置 |
| CN105550981A (zh) * | 2015-11-27 | 2016-05-04 | 中山大学 | 一种基于Lucas-Kanade算法的图像配准和拼接方法 |
| US10986367B2 (en) | 2016-11-04 | 2021-04-20 | Lg Electronics Inc. | Inter prediction mode-based image processing method and apparatus therefor |
| CN107274382B (zh) * | 2017-05-03 | 2020-08-21 | 国网湖北省电力公司 | 一种硬压板的状态辨识方法、装置及电子设备 |
| MX2020012885A (es) | 2018-05-29 | 2021-09-02 | Curiouser Products Inc | Aparato de pantalla de video reflectante para entrenamiento interactivo y demostración y métodos para utilizar el mismo. |
| US11497980B2 (en) | 2020-04-30 | 2022-11-15 | Curiouser Products Inc. | Reflective video display apparatus for interactive training and demonstration and methods of using same |
| US11167172B1 (en) | 2020-09-04 | 2021-11-09 | Curiouser Products Inc. | Video rebroadcasting with multiplexed communications and display via smart mirrors |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2007135376A2 (en) * | 2006-05-24 | 2007-11-29 | Sony Computer Entertainment Europe Ltd | Control of data processing using cumulative inter-frame motion |
| WO2008063616A2 (en) * | 2006-11-20 | 2008-05-29 | Rexee, Inc. | Apparatus for and method of robust motion estimation using line averages |
| US20100302347A1 (en) * | 2009-05-27 | 2010-12-02 | Sony Corporation | Image pickup apparatus, electronic device, panoramic image recording method, and program |
Family Cites Families (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3199834B2 (ja) | 1992-04-06 | 2001-08-20 | キヤノン株式会社 | 防振装置及び振れ検出装置 |
| EP1376471A1 (en) * | 2002-06-19 | 2004-01-02 | STMicroelectronics S.r.l. | Motion estimation for stabilization of an image sequence |
| JP4755490B2 (ja) | 2005-01-13 | 2011-08-24 | オリンパスイメージング株式会社 | ブレ補正方法および撮像装置 |
| EP1734767A1 (en) * | 2005-06-13 | 2006-12-20 | SONY DEUTSCHLAND GmbH | Method for processing digital image data |
| DE102006009774B4 (de) * | 2006-03-01 | 2007-10-18 | Siemens Ag | Bewegungsanalyse in digitalen Bildfolgen |
| JP2008203992A (ja) * | 2007-02-16 | 2008-09-04 | Omron Corp | 検出装置および方法、並びに、プログラム |
| JP5045320B2 (ja) * | 2007-09-05 | 2012-10-10 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
| JP4461165B2 (ja) * | 2007-09-26 | 2010-05-12 | 株式会社東芝 | 画像処理装置、方法およびプログラム |
| CN101281650B (zh) * | 2008-05-05 | 2010-05-12 | 北京航空航天大学 | 用于视频稳定的快速全局运动估计方法 |
| US9415723B2 (en) * | 2009-03-31 | 2016-08-16 | Konica Minolta Holdings, Inc. | Image integration unit and image integration method |
| CN101600106B (zh) * | 2009-06-22 | 2012-10-03 | 北京大学 | 一种全局运动估计方法及装置 |
| US8873798B2 (en) * | 2010-02-05 | 2014-10-28 | Rochester Institue Of Technology | Methods for tracking objects using random projections, distance learning and a hybrid template library and apparatuses thereof |
-
2010
- 2010-04-28 JP JP2010104353A patent/JP2011233039A/ja active Pending
-
2011
- 2011-03-11 US US13/064,216 patent/US8390697B2/en active Active
- 2011-03-16 TW TW100108981A patent/TWI463866B/zh not_active IP Right Cessation
- 2011-04-18 KR KR20110035526A patent/KR20110120215A/ko not_active Application Discontinuation
- 2011-04-21 CN CN2011101005390A patent/CN102238332A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2007135376A2 (en) * | 2006-05-24 | 2007-11-29 | Sony Computer Entertainment Europe Ltd | Control of data processing using cumulative inter-frame motion |
| WO2008063616A2 (en) * | 2006-11-20 | 2008-05-29 | Rexee, Inc. | Apparatus for and method of robust motion estimation using line averages |
| US20100302347A1 (en) * | 2009-05-27 | 2010-12-02 | Sony Corporation | Image pickup apparatus, electronic device, panoramic image recording method, and program |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI665916B (zh) * | 2017-12-14 | 2019-07-11 | 多方科技股份有限公司 | 降噪方法、降噪裝置及降噪電路系統 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20110120215A (ko) | 2011-11-03 |
| US8390697B2 (en) | 2013-03-05 |
| US20110267488A1 (en) | 2011-11-03 |
| JP2011233039A (ja) | 2011-11-17 |
| CN102238332A (zh) | 2011-11-09 |
| TW201206180A (en) | 2012-02-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| TWI463866B (zh) | An image processing apparatus, an image processing method, an image pickup apparatus, and an image processing program | |
| CN108833785B (zh) | 多视角图像的融合方法、装置、计算机设备和存储介质 | |
| Hu et al. | Low cost robust blur estimator | |
| JP4623111B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
| WO2021114868A1 (zh) | 降噪方法、终端及存储介质 | |
| KR102512889B1 (ko) | 이미지 융합 프로세싱 모듈 | |
| JP4760923B2 (ja) | 画像処理装置、画像処理方法および撮像装置 | |
| US9361704B2 (en) | Image processing device, image processing method, image device, electronic equipment, and program | |
| TW201123073A (en) | Image processing apparatus, image processing method, and program | |
| JP4639555B2 (ja) | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 | |
| KR20140015892A (ko) | 영상 정합 장치 및 방법 | |
| CN110969575B (zh) | 自适应图像拼接的方法及图像处理装置 | |
| Hossain et al. | High dynamic range imaging of non-static scenes | |
| KR102741038B1 (ko) | 이미지 데이터의 조합된 다운 샘플링 및 보정을 위한 회로 | |
| JP7025237B2 (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
| CN115035013A (zh) | 图像处理方法、图像处理装置、终端及可读存储介质 | |
| JP2009088884A (ja) | 撮像データにおける動きベクトル検出方法と装置 | |
| JP2018160024A (ja) | 画像処理装置、画像処理方法及びプログラム | |
| CN116266356A (zh) | 全景视频转场渲染方法、装置和计算机设备 | |
| JP2012085205A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
| Gevrekci et al. | Image acquisition modeling for super-resolution reconstruction | |
| US20220383516A1 (en) | Devices and methods for digital signal processing | |
| JP6873815B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
| TW202338734A (zh) | 用於處理影像資料的方法及影像處理器單元 | |
| JP2017108243A (ja) | 画像処理装置及び画像処理方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| MM4A | Annulment or lapse of patent due to non-payment of fees |