TWI493476B - 影像處理電路與方法 - Google Patents
影像處理電路與方法 Download PDFInfo
- Publication number
- TWI493476B TWI493476B TW103100009A TW103100009A TWI493476B TW I493476 B TWI493476 B TW I493476B TW 103100009 A TW103100009 A TW 103100009A TW 103100009 A TW103100009 A TW 103100009A TW I493476 B TWI493476 B TW I493476B
- Authority
- TW
- Taiwan
- Prior art keywords
- weight
- window
- absolute difference
- target
- search
- Prior art date
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/36—Applying a local operator, i.e. means to operate on image points situated in the vicinity of a given point; Non-linear local filtering operations, e.g. median filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Nonlinear Science (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Description
本發明是關於影像處理電路與方法,尤其是關於計算影像畫面之權重絕對差值和(weighted sum of absolute difference)的電路與方法。
請參考圖1,其係習知以視窗為基礎做影像相似度比對的示意圖。目標畫面110包含一個目標視窗115。比對程序在參考畫面120中先決定一個搜尋視窗123,再從搜尋視窗123中找出複數個比對候選(matching candidate)或稱為比對視窗(matching window)125來與目標視窗做絕對差值和(sum of absolute difference,SAD)的運算。搜尋視窗123的決定方式可以在參考畫面120中先找到一個與目標視窗115的中心點117相對應的對應點(corresponding point)127(也就是中心點117與對應點127在目標畫面110及參考畫面120上有相同的座標),來決定搜尋視窗123的位置,再依據欲比對的範圍決定搜尋視窗123的大小。搜尋視窗123決定之後,便可在其中找出複數個比對視窗125。比對視窗125與對應點127的相對關係如圖1中參考畫面120下方的比對視窗125-00~125-nk所示。如圖所示,比對視窗125的寬度為n+1個像素(pixel),高度為k+1個像素,每一個比對視窗125皆包含對應點127;而搜尋視窗123的寬度為2n+1個像素,高度為2k+1個像素;n及k皆為正整數。請參閱圖2,其係比對視窗125、目
標視窗115與權重係數之對應關係的示意圖。R及C分別代表比對視窗125及目標視窗115之像素的特徵值(例如亮度或色彩等資訊),而SAD的計算方式如下:
有時候比對視窗125中的某些位置是影像比對的重點,因此會在SAD的計算中加入權重,以加強該些位置的像素的重要性。而加入權重SAD計算方式便稱為權重SAD(weighted SAD)。如圖2所示的權重係數組210包含比對視窗125與目標視窗115中每一個畫素所對應的權重係數W。權重SAD的計算方式為:
相較於未加入權重的SAD(方程式1),權重SAD多了乘法的運算,對於不論是以硬體或軟體實作的影像處理電路而言,皆是額外的負擔。
為了說明方便起見,以下將以n與k都等於2為例來說明以權重SAD為基礎的視窗比對計算。請參閱圖3,其係習知以3x3之比對視窗為基礎做影像比對計算的示意圖。如圖所示,搜尋視窗323的大小為5x5,而且以對應點327為中心。對應點327與目標畫面110之目標視窗115的中心點117相對應。在搜尋視窗323中可以形成9個大小為3x3的比對視窗325,各個比對視窗325與對應點327的相對位置如參考畫面120下方的9個比對視窗325-00~325-22所示。目標畫面110的下方則呈現各個比對視窗325所對應的權重係數組310-00~310-22,所有的權重係數組構成一個權重係數集合。因此對於一個搜尋視窗大小為5x5且比對視窗大小為3x3的
視窗比對程序,方程式2必須經過9次的運算才能得到9個比對視窗325各自的權重SAD值,進而找出權重SAD值最小的比對視窗325。
在上述的說明中,對應點327對應到目標畫面110的目標視窗115的中心點117,然而在某些較複雜的演算法中,只取目標視窗115的中心點117,來找相對應的對應點無法滿足所有的情況,因此便產生更為複雜的視窗比對運算。請參考圖4,其係習知參考畫面中依據複數個對應點所產生之複數個搜尋視窗與目標畫面之相對關係圖。此例中比對視窗及目標視窗的大小同樣是以3x3為例。目標畫面480中的目標視窗482所包含的9個像素皆可在參考畫面460中找到相對應的對應點,因此圖4中包含9個子圖式,分別代表9種搜尋視窗、對應點以及與目標視窗482中之參考點484的對應關係。以最上方的子圖為例,參考點484位於目標視窗482的左上角,其在參考畫面460中可以找到相對應的對應點417,並且依據對應點417可以決定5x5的搜尋視窗413,搜尋視窗413可以進一步決定9個比對視窗415,每個比對視窗415都包含對應點417。比對視窗415與對應點417之相對關係可以參考圖3參考畫面120下方之9種相對位置。而參考點484在目標視窗482中的其餘數種變化及其在參考畫面460中之對應點及搜尋視窗之關係如其他子圖所示,不再贅述。圖中之搜尋視窗範圍410代表搜尋視窗413在9種變化中所移動之範圍,在本例中,搜尋視窗範圍410的大小為長及寬各為7個像素。
依據上述之權重SAD之計算方式,每個比對視窗皆對應一個權重係數組,而圖4所示的9種搜尋視窗的變化,各自又可決定出9個不同的比對視窗,因此對於圖4所示的視窗比對方式,在計算權重SAD時,
總共有9x9=81個權重係數組需要被納入計算。請同時參考圖5及圖6,圖5係參考畫面之搜尋視窗範圍內的像素及其在目標畫面中之對應像素的示意圖,圖6係習知權重SAD計算單元之電路圖。圖5的左半邊顯示圖4之參考畫面460中搜尋視窗範圍410所包含之像素,而圖5的右半邊顯示目標畫面480中用來跟搜尋視窗範圍410之像素做權重SAD運算之對應像素。首先計算搜尋視窗510之所有比對視窗的權重SAD。搜尋視窗510對應目標視窗510C,而搜尋視窗510左上角之比對視窗(x=0~2,y=0~2)的9個像素(R00
~R22
),與目標視窗510C中相對應之目標區塊(x=0~2,y=0~2)的9個像素(C00
~C22
),其特徵值將被輸入至圖6所示的權重SAD計算單元60中。權重SAD計算單元60包含9個絕對差值計算單元610,各別計算相對應之一組像素之特徵值之差的絕對值,其輸出為|Rij
-Cij
|,i=0~2,j=0~2。乘法單元620從權重係數集合中找到相對應的權重係數組,並且將前一級所產生之絕對差值乘上權重係數組以得到權重絕對差值,最後加法單元630將全部9個權重絕對差值相加,產生該比對視窗的權重SAD。
接下來依序計算搜尋視窗510左側中間之比對視窗(x=0~2,y=1~3)(對應目標視窗510C之左側中間的目標區塊,以下類推)、左側下方之比對視窗(x=0~2,y=2~4),而後繼續計算中間三個比對視窗(x=1~3,y=0~4)及右側三個比對視窗(x=2~4,y=0~4),直到完成搜尋視窗510之全部9個比對視窗的權重SAD。之後搜尋視窗520與目標視窗520C,以及搜尋視窗530與目標視窗530C依據同樣的方法計算各自的9個比對視窗的權重SAD,而圖5中搜尋視窗範圍410的中間(x=0~6,y=1~5)及下方(x=0~6,y=2~6)亦各包含3個搜尋視窗,因此搜尋視窗範圍410共包含9x9=81個
比對視窗。若要同時得到81個權重SAD,就需要81組圖6所示之權重SAD計算單元60,而每個權重SAD計算單元60尚包含9個絕對差值計算單元610,因此全部的邏輯閘數目相當可觀。而這僅僅是以3x3的比對視窗為例說明所需要的電路,如果比對視窗更大,則所需的硬體將更多,造成成本增加及電路面積過大等缺點。
鑑於先前技術之不足,本發明之一目的在於提供一種影像處理電路與一種影像處理方法,以節省計算影像畫面之權重SAD所需之電路。
本發明揭露了一種影像處理電路,用來計算一參考影像之一第一搜尋視窗與一目標影像中相對應之一第一目標視窗之一第一最小權重絕對差值和,以及計算該參考影像之一第二搜尋視窗與該目標影像中相對應之一第二目標視窗之一第二最小權重絕對差值和,包含:一計算模組,依據該第一搜尋視窗、該第一目標視窗及一權重係數集合產生複數個第一權重絕對差值和,並依據該第二搜尋視窗、該第二目標視窗及該權重係數集合產生複數個第二權重絕對差值和;以及一比較單元,用來比較該些第一權重絕對差值和及該些第二權重絕對差值和以分別產生該第一最小權重絕對差值和及該第二最小權重絕對差值和;其中,該第一搜尋視窗及該第二搜尋視窗係包含一共同比對視窗,且該第一目標視窗及該第二目標視窗係包含一共同目標區塊,該計算模組係依據該共同比對視窗、該共同目標區塊及該權重係數集合產生該些第一權重絕對差值和之其一及該些第二權重絕對差值和之其一。
本發明另揭露了一種影像處理方法,用來計算一參考影像之
一第一搜尋視窗與一目標影像中相對應之一第一目標視窗之一第一權重絕對差值和,以及計算該參考影像之一第二搜尋視窗與該目標影像中相對應之一第二目標視窗之一第二權重絕對差值和,其中該第一搜尋視窗及該第二搜尋視窗係包含一共同比對視窗,且該第一目標視窗及該第二目標視窗係包含一共同目標區塊,該方法包含:(a)計算該共同比對視窗之複數個像素與該共同目標區塊之相對應像素之複數個絕對差值;(b)自一權重係數集合中選取一第一權重係數組;(c)自該權重係數集合中選取一第二權重係數組;以及(d)共用步驟(a)所產生之該些絕對差值,分別將該些絕對差值乘上該第一權重係數組並加總以產生該第一權重絕對差值和,及將該些絕對差值乘上該第二權重係數組並加總以產生該第二權重絕對差值和。
本發明另揭露了一種影像處理電路,用來計算一參考影像之一第一搜尋視窗與一目標影像中相對應之一第一目標視窗之一第一權重絕對差值和,以及計算該參考影像之一第二搜尋視窗與該目標影像中相對應之一第二目標視窗之一第二權重絕對差值和,其中該第一搜尋視窗及該第二搜尋視窗係包含一共同比對視窗,該共同比對視窗包含複數像素,且該第一目標視窗及該第二目標視窗係包含一共同目標區塊,該共同目標視窗包含複數像素,該影像處理電路包含:複數個絕對差值計算單元,分別用來計算該共同比對視窗之一像素與該共同目標區塊之一對應像素之絕對差值;一第一乘法單元,用來將該些絕對差值乘上一權重係數集合之一第一權重係數組以產生複數個第一權重絕對差值;一第一加法單元,用來將該些第一權重絕對差值相加以得到該第一權重絕對差值和;一第二乘法單元,用來將該些絕對差值乘上該權重係數集合之一第二權重係數組以產生
複數個第二權重絕對差值;以及一第二加法單元,用來將該些第二權重絕對差值相加以得到該第二權重絕對差值和。
本發明之影像處理電路與方法能夠共用計算像素絕對差值之電路,以減少電路的邏輯閘數並節省成本。相較於習知技術,本發明的影像處理電路僅需一組絕對差值計算電路即可同時得到數個對應不同搜尋視窗的權重SAD,因此本發明的影像處理電路一方面減少硬體的需求,另一方面可提升計算效率。
有關本發明的特徵、實作與功效,茲配合圖式作較佳實施例詳細說明如下。
110、480‧‧‧目標畫面
115、482‧‧‧目標視窗
117‧‧‧中心點
120、460‧‧‧參考畫面
123、323、413‧‧‧搜尋視窗
125、325、415‧‧‧比對視窗
127、327、417‧‧‧對應點
210、310‧‧‧權重係數組
410‧‧‧搜尋視窗範圍
484‧‧‧參考點
520、520、530‧‧‧搜尋視窗
520C、520C、530C‧‧‧目標視窗
60、80‧‧‧權重SAD計算單元
610、810‧‧‧絕對差值計算單元
620、820‧‧‧乘法單元
630、830‧‧‧加法單元
901、902‧‧‧記憶體
903、904、905‧‧‧權重SAD計算模組
910‧‧‧延遲單元
920‧‧‧比較單元
1001、1002、1003‧‧‧像素點
S1110~S1160‧‧‧步驟
〔圖1〕為習知以視窗為基礎做影像相似度比對的示意圖;〔圖2〕為比對視窗、目標視窗與權重係數之對應關係的示意圖;〔圖3〕為習知以3x3之比對視窗為基礎做影像比對計算的示意圖;〔圖4〕為習知參考畫面中依據複數個對應點所產生之複數個搜尋視窗與目標畫面之相對關係圖;〔圖5〕為參考畫面之搜尋視窗範圍內的像素及其在目標畫面中之對應像素的示意圖;〔圖6〕為習知權重SAD計算單元之電路圖;〔圖7〕為本發明比對視窗與權重係數組之對應關係圖;〔圖8〕為本發明權重SAD計算單元之電路圖;〔圖9〕為本發明計算目標畫面與參考畫面之全搜尋權重SAD之電路圖;
〔圖10〕為本發明計算全搜尋權重SAD之像素讀取時序圖;以及〔圖11〕為本發明之影像處理方法之一實施例的流程圖。
以下說明內容之技術用語係參照本技術領域之習慣用語,如本說明書對部分用語有加以說明或定義,該部分用語之解釋係以本說明書之說明或定義為準。
本發明之揭露內容包含影像處理電路與方法,能夠節省計算權重SAD之電路的硬體。該電路與方法可應用於計算影像畫面的權重SAD,在實施為可能的前提下,本技術領域具有通常知識者能夠依本說明書之揭露內容來選擇等效之元件或步驟來實現本發明,亦即本發明之實施並不限於後敘之實施例。由於本發明之影像處理電路所包含之部分元件單獨而言可能為已知元件,因此在不影響該裝置發明之充分揭露及可實施性的前提下,以下說明對於已知元件的細節將予以節略。此外,本發明之影像處理方法可藉由本發明之影像處理電路或其等效電路來執行,在不影響該方法發之充分揭露及可實施性的前提下,以下方法發明之說明將著重於步驟內容而非硬體。
首先,為了說明方便起見,一個比對視窗所對應之權重係數組將被予以編號。請參閱圖7,其係本發明比對視窗與權重係數組之對應關係圖。請同時參閱圖5,本範例的7x7的像素中可以定義出9個搜尋視窗(x=0~6,y=0~4可定義出搜尋視窗510~530等三個搜尋視窗,同理,x=0~6,y=1~5及x=0~6,y=2~6也可分別定義出三個搜尋視窗),而每個搜尋視窗如
圖7所示可以決定9個比對視窗。權重係數組Weight(0,0)、Weight(1,0)、Weight(2,0)、...、Weight(2,2)分別對應不同比對視窗與搜尋視窗之相對位置,也就是說,圖5中的搜尋視窗510及520各自的左上角的比對視窗皆使用權重係數組Weight(0,0),而各自的正中間的比對視窗皆使用權重係數組Weight(1,1),其餘類推。每個權重係數組的構成與圖3所示之權重係數組310-00~310-22相似。這些權重係數組的集合稱為權重係數集合。
然而權重係數組也可以有不同的決定方式,例如,同一個搜尋視窗的所有比對視窗皆對應同一個權重係數組。更詳細地說,例如圖5的搜尋視窗510對應權重係數組Weight0,而搜尋視窗510中的9個比對視窗皆使用此權重係數組;同理,搜尋視窗520對應權重係數組Weight1;搜尋視窗530對應權重係數組Weight2;其餘類推。同樣的,每個權重係數組(Weight0~Weight8)的構成與圖3所示之權重係數組310-00~310-22相似。這些權重係數組的集合稱為權重係數集合。
請繼續參閱圖5,可以發現搜尋視窗510、520及530共用部分的像素,例如搜尋視窗510及520用共x=1~4,y=0~4範圍內的全部像素;搜尋視窗520及530用共x=2~5,y=0~4範圍內的全部像素,也就是相鄰的兩個5x5的搜尋視窗共用4x5個像素。搜尋視窗510、520及530三者用共x=2~4,y=0~4範圍內的全部像素。共用像素的部分由於所屬的搜尋視窗不同而對應不同的權重係數組,例如x=2~4,y=0~2所構成之比對視窗(黑點部分)其在搜尋視窗510、520及530中對應的權重係數組分別為Weight(2,0)、Weight(1,0)及Weight(0,0)(對應上述之第一種權重係數組決定方式),或是Weight0、Weight1及Weight2(對應上述之第二種權重係數組
決定方式),但是該些共用像素於計算絕對差值時所對應的目標畫面中的像素卻是相同的。更明確的說,搜尋視窗510及520包含3個共同比對視窗(分別為x=2~4,y=0~2;x=2~4,y=1~3;x=2~4,y=2~4),同理,其各自對應的目標視窗510C及520C也包含6個共同目標區塊(分別為x=1~3,y=0~2;x=1~3,y=1~3;x=1~3,y=2~4;x=2~4,y=0~2;x=2~4,y=1~3;x=2~4,y=2~4)。計算搜尋視窗510右上角的比對視窗時(即黑點部分),與計算搜尋視窗520中間上方的比對視窗時(亦即黑點部分),所使用的像素資料是相同的。也就是說,雖然同一個比對視窗在不同的搜尋視窗中對應不同的權重係數組,但其計算絕對差值時所參考的像素卻是相同的,因此計算權重SAD的電路中計算絕對差值的部分可以被共用。
請參閱圖8,其係本發明權重SAD計算單元之電路圖。圖8仍以3x3的比對視窗為例,權重SAD計算單元80包含9個絕對差值計算單元810、3個乘法單元820以及3個加法單元830。絕對差值計算單元810各別計算兩個相對應像素之特徵值的差值的絕對值。乘法單元820耦接絕對差值計算單元810,依據不同的搜尋視窗將前級產生的絕對差值乘上相對應的權重係數組,例如對應搜尋視窗510則乘上權重係數組Weight(2,0)或Weight0,對應搜尋視窗520則乘上權重係數組Weight(1,0)或Weight1,而對應搜尋視窗530則乘上權重係數組Weight(0,0)或Weight2。由於x=2~4,y=1~3所構成之比對視窗以及x=2~4,y=2~4所構成之比對視窗亦被搜尋視窗510、520及530共用,所以也可以使用圖8所示之權重SAD計算單元80,只是乘法單元820所採用之權重係數組需做調整。請注意,如果權重係數組相同,則權重SAD計算單元80可以進一步共用乘法單元820與加
法單元830。例如Weight0與Weight1相同,則權重SAD計算單元80只需兩個乘法單元820,一個的乘數為Weight0,另一個為Weight2,而乘以Weight0一路之計算結果可以同時作為搜尋視窗510及520之權重SAD。
請參閱圖9,其係本發明計算參考畫面與目標畫面之全搜尋權重SAD之電路圖。記憶體901及902分別用來儲存目標畫面及參考畫面的像素資料,兩者可以是同一實體記憶體的不同記憶體區塊或是不同的實體記憶體,而且可以利用動態隨機存取記憶體或靜態隨機存取記憶體來實作。本實施例仍延續前述之3x3之比對視窗為例。請同時參閱圖5,權重SAD計算模組903用來計算x=0~L,y=0~4所構成之參考畫面與其所對應之目標畫面之權重SAD(為了圖式簡潔及說明方便,圖中僅顯示x=0~6等像素,實際上x方向上包含L個像素,L為正整數,代表參考畫面及目標畫面中一條像素線(pixel line)所包含之像素個數)。而權重SAD計算模組904及905分別用來用來計算x=0~L,y=1~5及x=0~L,y=2~6所構成之參考畫面與其所對應之目標畫面之權重SAD。權重SAD計算模組903~905係為方便說明所做之區分,實際上其可視為同一個計算模組。權重SAD計算模組903~905分別包含9個權重SAD計算單元80,請同時參閱圖7,標示為WSAD(0,0)之權重SAD計算單元80代表用來計算一個搜尋視窗之左上角的比對視窗之權重SAD,也就是權重係數組Weight(0,0)所指的相對位置;同理,標示為WSAD(1,0)之權重SAD計算單元80代表用來計算一個搜尋視窗之中間上方的比對視窗之權重SAD,也就是權重係數組Weight(1,0)所指的相對位置;其餘類推。如圖8所示,每一個權重SAD計算單元80皆會產生三個輸出,以圖9的標示為WSAD(0,0)之權重SAD計算單元80為例,
其輸出為WSAD0(0,0)、WSAD1(0,0)、及WSAD2(0,0),分別代表權重SAD計算單元80對應三個不同搜尋視窗所產生之權重SAD。以圖5為例,假設目前正在計算搜尋視窗530,則權重SAD計算模組903的9個權重SAD計算單元80分別對應搜尋視窗530的9個比對視窗,標示為WSAD(0,0)之權重SAD計算單元80對應左上角之比對視窗(即黑點部分)。如前所述,該比對視窗為搜尋視窗510、520及530所共用,且三者的權重係數組分別為Weight0、Weight1及Weight2,因此WSAD0(0,0)實際上代表搜尋視窗510在其右上角之比對視窗的權重WSAD,WSAD1(0,0)實際上代表搜尋視窗520在其中間上方之比對視窗的權重WSAD,WSAD2(0,0)實際上代表搜尋視窗530在其左上角之比對視窗的權重WSAD。因此在同一個時間,可以得到同一個比對視窗對應數個搜尋視窗的權重SAD。
本發明之全搜尋(full search)的計算方式為在參考畫面或是目標畫面中由左往右依序計算,也就是圖5中x由低至高之順序。因此當得到WSAD0(0,0)時,實際上搜尋視窗510的其他比對視窗的權重SAD也已經得到,也就是說,得到WSAD0(0,0)時,即可以同時依據之前所得到的其他權重SAD來比較得出搜尋視窗510的最小權重SAD。而其餘兩個權重SAD:WSAD1(0,0)及WSAD2(0,0)則必須分別經過一次及兩次的延遲單元910來延遲一個時間單位及兩個時間單位,以待搜尋視窗520及530各別的其餘權重SAD完成後再由比較單元920比較以得到最小權重SAD。延遲單元910可以利用正反器(flip flop)來實作,但不以此為限。
請參閱圖10,其係本發明計算全搜尋權重絕對差值和之像素讀取時序圖。圖9的記憶體901及902儲存資料時是將目標畫面或參考
畫面上的像素線逐條寫入。因此在t=T0時,記憶體901或902中已存有x=0~L,y=0~5等6條像素線(為了圖式簡潔及說明方便,圖中僅顯示x=0~6等像素,實際上x方向上包含更多的像素),新進的像素點1001使x=0~4,y=0~6之區域內的像素完整,此時圖9的權重SAD計算模組903~905便利用該些像素資料來做計算。在t=T0,對搜尋視窗510而言,可以得到WSAD0(0,0)、WSAD0(0,1)及WSAD0(0,2)等3個權重SAD。當t=T1,新進的像素點1002使x=1~5,y=0~6之區域內的像素完整,此時圖9之權重SAD計算模組903~905利用x=1~5,y=0~6之區域內的像素來做計算,此時對搜尋視窗510而言,可以得到WSAD0(1,0)、WSAD0(1,1)及WSAD0(1,2)等3個權重SAD;對搜尋視窗520而言,可以得到WSAD1(0,0)、WSAD1(0,1)及WSAD(0,2)等3個權重SAD。當t=T2,新進的像素點1003使x=2~6,y=0~6之區域內的像素完整,此時圖9之權重SAD計算模組903~905利用x=2~6,y=0~6之區域內的像素來做計算,此時對搜尋視窗510而言,可以得到WSAD0(2,0)、WSAD0(2,1)及WSAD0(2,2)等3個權重SAD;對搜尋視窗520而言,可以得到WSAD1(1,0)、WSAD1(1,1)及WSAD1(1,2)等3個權重SAD;對搜尋視窗530而言,可以得到WSAD2(0,0)、WSAD2(0,1)及WSAD2(0,2)等3個權重SAD。也就是說,當t=T2時,搜尋視窗510所需的9個權重SAD已全部產生(x=0~4,y=1~5以及x=0~4,y=2~6所對應之搜尋視窗亦同),因此可以得到其最小權重SAD。以y=0~4而言,透過將部分的計算結果延遲,之後的每一個時間單位(T3、T4、T5...)皆會有一個搜尋視窗(520、530...)完整得到所需的9個權重SAD,進而得到其最小權重SAD;因此以y=0~6而言,之後的每一個時間單位(T3、T4、T5...)皆可
得到3個最小權重SAD。
然而習知不共用電路的情況下,t=T2時可以得到搜尋視窗510等3個搜尋視窗的最小權重SAD,而t=T3時,必須重新計算x=1~5,y=0~6的所有像素,t=T4時重新計算x=2~6,y=0~6的所有像素,t=T5時計算x=3~7,y=0~6的所有像素,然後得到搜尋視窗520等3個搜尋視窗的最小權重SAD。也就是說,習知不共用電路的情況下,必須間隔3個時間單位才能得到下一次的結果(本例中為3個最小權重SAD,然而一次結果可能包含數個最小權重SAD,視比對視窗及搜尋視窗的大小而定)。相較於習知技術,本發明每個時間單位皆可產生一次結果,因此可以大幅提升效率。
請參閱圖11,其係本發明之影像處理方法之一實施例的流程圖。除前述之影像處理電路外,本發明亦相對應地揭露了一種影像處理方法,應用於計算兩個影像畫面之權重SAD,能減少電路所需的邏輯閘數。本方法由前揭影像處理電路或其等效電路來執行。本方法是用來計算參考影像畫面的一個搜尋視窗(例如搜尋視窗510)與目標影像畫面中相對應的目標視窗(例如目標視窗510C)的權重SAD,以及計算參考影像畫面的另一個搜尋視窗(例如搜尋視窗520)與目標影像畫面中相對應的目標視窗(例如目標視窗520C)的權重SAD。如圖11所示,本發明之一實施例包含下列步驟:步驟S1110:以複數個絕對差值計算單元計算共同比對視窗之複數個像素與共同目標區塊之相對應像素之複數個絕對差值。如圖5所示,搜尋視窗510與搜尋視窗520的共同比對視窗(圖5左半邊黑點所構成
之比對視窗,包含像素R00
~R22
)對應目標視窗510C與目標視窗520C的共同比對區塊(圖5左右邊黑點所構成之區塊,包含像素C00
~C22
),因此這個例子中需要9個絕對差值計算單元來分別計算絕對差值|Rij
-Cij
|,i=0~2,j=0~2;步驟S1120:自權重係數集合中選取第一權重係數組。本實施例中搜尋視窗510及520分別包含9個比對視窗。權重係數集合有兩種決定方式,第一種為依據比對視窗與搜尋視窗之相對位置,決定9種權重係數組,即如圖7所示的9種情形,而權重係數集合包含這9種權重係數組。第二種權重係數集合的決定方式為,不同的搜尋視窗有各自的權重係數組,例如搜尋視窗510具有權重係數組Weight0,搜尋視窗520具有權重係數組Weight1,而搜尋視窗內的所有比對視窗皆使用同一個權重係數組。權重係數集合可以包含權重係數組Weight0及權重係數組Weight1,然而也可以包含更多搜尋視窗之權重係數組。以第一種權重係數集合來說,依據共同比對視窗與搜尋視窗510之相對位置,本步驟會決定使用權重係數組Weight(2,0);而以第二種權重係數集合來說,本步驟會依據搜尋視窗510決定使用權重係數組Weight0;步驟S1130:自權重係數集合中選取第二權重係數組。如上一步驟所述,以第一種權重係數集合來說,依據共同比對視窗與搜尋視窗520之相對位置,本步驟便會決定使用權重係數組Weight(1,0);而以第二種權重係數集合來說,本步驟便會依據搜尋視窗520決定使用權重係數組Weight1;步驟S1140:將複數個絕對差值乘上第一權重係數組並加總以產生第一
權重SAD(對應搜尋視窗510),同時將複數個絕對差值乘上第二權重係數組並加總以產生第二權重SAD(對應搜尋視窗520)。由此可見,計算第一權重SAD及第二權重SAD時,可以共用同樣的絕對差值,也就是步驟S1110中所使用的複數個絕對差值計算單元可以被共用。此外,如果第一權重係數組等於第二權重係數組,則此步驟只需一個乘法單元及一個加法單元即可同時計算出第一權重SAD及第二權重SAD(實際上兩者相等);然而如果第一權重係數組不等於第二權重係數組,則此步驟各需要一個乘法單元及一個加法單元來分別計算第一權重SAD及第二權重SAD。步驟S1150:延遲第二權重SAD。對搜尋視窗510而言,步驟S1140所得到的第一權重SAD可以與之前所得到的搜尋視窗510的其他權重SAD一起比較,而得到搜尋視窗510的最小權重SAD。更詳細地說,請參閱圖10,第一權重SAD於T2產生,而T0及T1已產生搜尋視窗510的其他權重SAD,所以T2可以得到搜尋視窗510的最小權重SAD。而另一方面,對搜尋視窗520而言,T2所得到的第二權重SAD只是搜尋視窗520所需的所有權重SAD的一部分,必項等到T3(未繪示)其他的權重SAD才會產生,所以第二權重SAD就必須被延遲一個時間單位;以及步驟S1160:參考延遲後的第二權重SAD以產生該第二搜尋視窗之一第二最小權重SAD。時間到達T3時,搜尋視窗520的所有權重SAD都已產生,因此可以參考步驟S1150所延遲的第二權重SAD以及其他的權重SAD來比較得到搜尋視窗520的最小權重SAD。
由於本技術領域具有通常知識者可藉由圖8至圖9之裝置發明的揭露內容輔以圖5、圖7以及圖10之說明來瞭解圖11之方法發明的實施細節與變化,因此,為避免贅文,在不影響該方法發明之揭露要求及可實施性的前提下,重複之說明在此予以節略。請注意,前揭圖示中,元件之形狀、尺寸、比例以及步驟之順序等僅為示意,係供本技術領域具有通常知識者瞭解本發明之用,非用以限制本發明。另外,本技術領域人士可依本發明之揭露內容及自身的需求選擇性地實施任一實施例之部分或全部技術特徵,或者選擇性地實施複數個實施例之部分或全部技術特徵之組合,藉此增加本發明實施時的彈性。再者,前揭實施例雖以3x3之比對視窗為例,然此並非對本發明之限制,本技術領域人士可依本發明之揭露適當地將本發明應用於其它尺寸的比對視窗。
雖然本發明之實施例如上所述,然而該些實施例並非用來限定本發明,本技術領域具有通常知識者可依據本發明之明示或隱含之內容對本發明之技術特徵施以變化,凡此種種變化均可能屬於本發明所尋求之專利保護範疇,換言之,本發明之專利保護範圍須視本說明書之申請專利範圍所界定者為準。
80‧‧‧權重SAD計算單元
810‧‧‧絕對差值計算單元
820‧‧‧乘法單元
830‧‧‧加法單元
Claims (16)
- 一種影像處理電路,用來計算一參考影像之一第一搜尋視窗與一目標影像中相對應之一第一目標視窗之一第一最小權重絕對差值和,以及計算該參考影像之一第二搜尋視窗與該目標影像中相對應之一第二目標視窗之一第二最小權重絕對差值和,包含:一計算模組,依據該第一搜尋視窗、該第一目標視窗及一權重係數集合產生複數個第一權重絕對差值和,並依據該第二搜尋視窗、該第二目標視窗及該權重係數集合產生複數個第二權重絕對差值和;以及一比較單元,用來比較該些第一權重絕對差值和及該些第二權重絕對差值和以分別產生該第一最小權重絕對差值和及該第二最小權重絕對差值和;其中,該第一搜尋視窗及該第二搜尋視窗係包含一共同比對視窗,且該第一目標視窗及該第二目標視窗係包含一共同目標區塊,該計算模組係依據該共同比對視窗、該共同目標區塊及該權重係數集合產生該些第一權重絕對差值和之其一及該些第二權重絕對差值和之其一。
- 如申請專利範圍第1項所述之影像處理電路,其中該計算模組包含:複數個絕對差值計算單元,分別用來計算該共同比對視窗之一像素與該共同目標區塊之一對應像素之絕對差值;一第一乘法單元,用來將該些絕對差值乘上該權重係數集合之一第一權重係數組以產生複數個第一權重絕對差值; 一第一加法單元,用來將該些第一權重絕對差值相加以得到該些第一權重絕對差值和之其一;一第二乘法單元,用來將該些絕對差值乘上該權重係數集合之一第二權重係數組以產生複數個第二權重絕對差值;以及一第二加法單元,用來將該些第二權重絕對差值相加以得到該些第二權重絕對差值和之其一。
- 如申請專利範圍第2項所述之影像處理電路,其中該第一權重係數組係依據該第一搜尋視窗而決定,以及該第二權重係數組係依據該第二搜尋視窗而決定。
- 如申請專利範圍第3項所述之影像處理電路,其中該第一權重係數組係依據該共同比對視窗與該第一搜尋視窗之相對位置而決定,並且該第二權重係數組係依據該共同比對視窗與該第二搜尋視窗之相對位置而決定。
- 如申請專利範圍第1項所述之影像處理電路,其中該權重係數集合係包含對應該第一搜尋視窗之一第一權重係數組,以及對應該第二搜尋視窗之一第二權重係數組,且該第一權重係數組等於該第二權重係數組,該計算模組係包含:複數個絕對差值計算單元,分別用來計算該共同比對視窗之一像素與該共同目標區塊之一對應像素之絕對差值;一乘法單元,用來將該些絕對差值乘上該第一權重係數組以產生複數個權重絕對差值;以及一加法單元,用來將該些權重絕對差值相加以得到一累加值,該累加值 係同時作為該些第一權重絕對差值之其一及該些第二權重絕對差值和之其一。
- 如申請專利範圍第1項所述之影像處理電路,其中該些第二權重絕對差值和係產生於不同時間點,且該影像處理電路更包含:一延遲單元,用來延遲該第二權重絕對差值和之其一;其中,該比較單元於產生該第二最小權重絕對差值和時係參考該延遲單元所延遲之該第二權重絕對差值和之其一。
- 如申請專利範圍第6項所述之影像處理電路,其中該延遲單元包含一正反器。
- 一種影像處理方法,用來計算一參考影像之一第一搜尋視窗與一目標影像中相對應之一第一目標視窗之一第一權重絕對差值和,以及計算該參考影像之一第二搜尋視窗與該目標影像中相對應之一第二目標視窗之一第二權重絕對差值和,其中該第一搜尋視窗及該第二搜尋視窗係包含一共同比對視窗,且該第一目標視窗及該第二目標視窗係包含一共同目標區塊,該方法包含:(a)計算該共同比對視窗之複數個像素與該共同目標區塊之相對應像素之複數個絕對差值;(b)自一權重係數集合中選取一第一權重係數組;(c)自該權重係數集合中選取一第二權重係數組;以及(d)共用步驟(a)所產生之該些絕對差值,分別將該些絕對差值乘上該第一權重係數組並加總以產生該第一權重絕對差值和,及將該些絕對差值乘上該第二權重係數組並加總以產生該第二權重絕對差值和。
- 如申請專利範圍第8項所述之影像處理方法,其中該第一權重係數組係依據該共同比對視窗與該第一搜尋視窗之相對位置而決定。
- 如申請專利範圍第8項所述之影像處理方法,其中該第一權重係數組等於該第二權重係數組,且該步驟(d)係利用同一乘法單元及同一加法單元產生該第一權重絕對差值和及該第二權重絕對差值和。
- 如申請專利範圍第8項所述之影像處理方法,其中該步驟(d)係利用一第一乘法單元及一第一加法單元產生該第一權重絕對差值和及利用一第二乘法單元及一第二加法單元產生該第二權重絕對差值和。
- 如申請專利範圍第8項所述之影像處理方法,更包含:(e)延遲該第二權重絕對差值和;以及(f)依據延遲後的該第二權重絕對差值和以產生該第二搜尋視窗之一最小權重絕對差值和。
- 一種影像處理電路,用來計算一參考影像之一第一搜尋視窗與一目標影像中相對應之一第一目標視窗之一第一權重絕對差值和,以及計算該參考影像之一第二搜尋視窗與該目標影像中相對應之一第二目標視窗之一第二權重絕對差值和,其中該第一搜尋視窗及該第二搜尋視窗係包含一共同比對視窗,該共同比對視窗包含複數像素,且該第一目標視窗及該第二目標視窗係包含一共同目標區塊,該共同目標視窗包含複數像素,該影像處理電路包含:複數個絕對差值計算單元,分別用來計算該共同比對視窗之一像素與該共同目標區塊之一對應像素之絕對差值;一第一乘法單元,用來將該些絕對差值乘上一權重係數集合之一第一權 重係數組以產生複數個第一權重絕對差值;一第一加法單元,用來將該些第一權重絕對差值相加以得到該第一權重絕對差值和;一第二乘法單元,用來將該些絕對差值乘上該權重係數集合之一第二權重係數組以產生複數個第二權重絕對差值;以及一第二加法單元,用來將該些第二權重絕對差值相加以得到該第二權重絕對差值和。
- 如申請專利範圍第13項所述之影像處理電路,其中該第一權重係數組係依據該第一搜尋視窗而決定,以及該第二權重係數組係依據該第二搜尋視窗而決定。
- 如申請專利範圍第14項所述之影像處理電路,其中該第一權重係數組係依據該共同比對視窗與該第一搜尋視窗之相對位置而決定,並且該第二權重係數組係依據該共同比對視窗與該第二搜尋視窗之相對位置而決定。
- 如申請專利範圍第13項所述之影像處理電路,其中當該第一權重係數組等於該第二權重係數組,該第一乘法單元及該第二乘法單元係為同一乘法單元。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW103100009A TWI493476B (zh) | 2014-01-02 | 2014-01-02 | 影像處理電路與方法 |
US14/587,102 US9747522B2 (en) | 2014-01-02 | 2014-12-31 | Image processing circuit and method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW103100009A TWI493476B (zh) | 2014-01-02 | 2014-01-02 | 影像處理電路與方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201528158A TW201528158A (zh) | 2015-07-16 |
TWI493476B true TWI493476B (zh) | 2015-07-21 |
Family
ID=53482163
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW103100009A TWI493476B (zh) | 2014-01-02 | 2014-01-02 | 影像處理電路與方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9747522B2 (zh) |
TW (1) | TWI493476B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180129868A1 (en) * | 2016-11-08 | 2018-05-10 | Qualcomm Incorporated | System and method associated with object verification |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6549658B1 (en) * | 1998-01-21 | 2003-04-15 | Xerox Corporation | Method and system for classifying and processing of pixels of image data |
US20110058106A1 (en) * | 2008-01-11 | 2011-03-10 | Joan Bruna Estrach | Sparse geometry for super resolution video processing |
TW201143449A (en) * | 2010-05-27 | 2011-12-01 | Mstar Semiconductor Inc | Video encoding system, motion estimation apparatus, and motion estimation method |
TW201247190A (en) * | 2011-05-30 | 2012-12-01 | Atex Co Ltd | Massage mechanism and massage device having the same |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6690728B1 (en) * | 1999-12-28 | 2004-02-10 | Sony Corporation | Methods and apparatus for motion estimation in compressed domain |
EP2667353B1 (en) * | 2011-01-20 | 2019-07-10 | Panasonic Intellectual Property Management Co., Ltd. | Feature extraction unit, feature extraction method, feature extraction program, and image processing device |
JP2013046082A (ja) * | 2011-08-22 | 2013-03-04 | Sony Corp | 映像信号処理装置及び映像信号処理方法、並びにコンピューター・プログラム |
-
2014
- 2014-01-02 TW TW103100009A patent/TWI493476B/zh not_active IP Right Cessation
- 2014-12-31 US US14/587,102 patent/US9747522B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6549658B1 (en) * | 1998-01-21 | 2003-04-15 | Xerox Corporation | Method and system for classifying and processing of pixels of image data |
US20110058106A1 (en) * | 2008-01-11 | 2011-03-10 | Joan Bruna Estrach | Sparse geometry for super resolution video processing |
TW201143449A (en) * | 2010-05-27 | 2011-12-01 | Mstar Semiconductor Inc | Video encoding system, motion estimation apparatus, and motion estimation method |
TW201247190A (en) * | 2011-05-30 | 2012-12-01 | Atex Co Ltd | Massage mechanism and massage device having the same |
Also Published As
Publication number | Publication date |
---|---|
US9747522B2 (en) | 2017-08-29 |
TW201528158A (zh) | 2015-07-16 |
US20150186749A1 (en) | 2015-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Chiu et al. | Fast SIFT design for real-time visual feature extraction | |
US9697587B2 (en) | Adaptive path smoothing for video stabilization | |
CN109791695B (zh) | 基于图像块的运动向量确定所述块的方差 | |
US10755394B2 (en) | Image processing method and device | |
US9569822B2 (en) | Removing noise from an image via efficient patch distance computations | |
US9953400B2 (en) | Adaptive path smoothing for video stabilization | |
WO2018214769A1 (zh) | 图像处理方法、装置和系统 | |
WO2019041842A1 (zh) | 一种图像处理方法及装置、存储介质和计算机设备 | |
JP7257781B2 (ja) | 構造化された光ベースの3dカメラシステムにおけるイメージの奥行の推定方法 | |
WO2018113224A1 (zh) | 一种图像缩小方法及装置 | |
CN108960012B (zh) | 特征点检测方法、装置及电子设备 | |
JP2010108205A (ja) | 超解像画像作成方法 | |
TWI493476B (zh) | 影像處理電路與方法 | |
CN116016807B (zh) | 一种视频处理方法、系统、可存储介质和电子设备 | |
TWI789158B (zh) | 影像處理方法、系統以及非暫態電腦可讀取記錄媒體 | |
CN110580880B (zh) | 一种基于rgb三角亚像素布局式的亚像素渲染方法、系统以及显示装置 | |
CN115170413A (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
KR101688435B1 (ko) | 블록 구조를 이용한 적분 영상 생성 장치 및 그 방법 | |
CN110009676B (zh) | 一种双目图像的本征性质分解方法 | |
EP3062288A1 (en) | Method, apparatus and computer program product for reducing chromatic aberrations in deconvolved images | |
JP5824937B2 (ja) | 動きベクトル導出装置および方法 | |
US9667960B1 (en) | Low complexity cost function for sub-pixel motion estimation | |
CN111383183A (zh) | 图像边缘增强方法、装置以及计算机存储介质 | |
CN104811584B (zh) | 影像处理电路与方法 | |
JPWO2019082283A1 (ja) | 画像解析装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
MM4A | Annulment or lapse of patent due to non-payment of fees | ||
MM4A | Annulment or lapse of patent due to non-payment of fees |