TWI813297B - 移動物體偵測方法與電路系統 - Google Patents

移動物體偵測方法與電路系統 Download PDF

Info

Publication number
TWI813297B
TWI813297B TW111118794A TW111118794A TWI813297B TW I813297 B TWI813297 B TW I813297B TW 111118794 A TW111118794 A TW 111118794A TW 111118794 A TW111118794 A TW 111118794A TW I813297 B TWI813297 B TW I813297B
Authority
TW
Taiwan
Prior art keywords
image
moving object
frame
humanoid
detected
Prior art date
Application number
TW111118794A
Other languages
English (en)
Other versions
TW202347263A (zh
Inventor
郭俊儀
吳俊賢
Original Assignee
瑞昱半導體股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 瑞昱半導體股份有限公司 filed Critical 瑞昱半導體股份有限公司
Priority to TW111118794A priority Critical patent/TWI813297B/zh
Priority to US18/319,497 priority patent/US20230377170A1/en
Application granted granted Critical
Publication of TWI813297B publication Critical patent/TWI813297B/zh
Publication of TW202347263A publication Critical patent/TW202347263A/zh

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Color Television Systems (AREA)

Abstract

一種移動物體偵測方法與電路系統,在方法中,當感知到一場景內有移動物體時,即取得連續幀影像,將各幀影像分割為多個區塊,再逐幀計算各區塊的亮度與色度,以與背景模型比對得出差異,據此辨識各幀影像中的動態事件,當有動態事件時,可根據偵測到有動態事件的一或多個區塊,建立感興趣區域,接著針對感興趣區域偵測其中的移動物體,其中可以採用神經網路演算的智能模型計算各幀影像中有移動物體機率的信任分數,以信任分數比對一判斷門檻,據此偵測移動物體。

Description

移動物體偵測方法與電路系統
說明書公開一種偵測移動物體的技術,其中特別指一種建立背景模型偵測動態事件,再利用神經網路技術執行移動物體偵測的方法與電路系統。
習知辨識移動物體的方法包括利用光遮斷原理的紅外光感測器實現移動感測,還可通過影像辨識技術解析一個空間內的影像與光影變化,藉此辨識其中移動物體。
其中利用影像變化辨識移動物體的影像辨識技術,習知技術包括先建立一個背景模型,也就是環境中固定不變的影像,在監視過程中錄製此環境的連續影像,通過強大的影像處理電路逐幀(frame)與此背景模型比對,再根據連續幀的影像變化辨識出移動物體。
更者,即便影像中持續沒有偵測出任何動態信息,但需要辨識影像中特定的物體,例如通常不會長時間維持靜止的人,當通過人形識別技術辨識出影像中的人時,即可觸發信息,不過,如果是人形立牌,這樣的立牌可能會導致持續觸發錯誤的信息。因此需要更為有效而準確的識別技術才能避免偵測錯誤的問題。
習知技術在影像處理電路中植入神經網路技術(Neural Network),使得相關影像處理電路通過神經網路運算更有智慧地判斷出環境中的移動物體,還能通過偵測影像變化判斷後續執行的動作。
利用神經網路演算法執行物體辨識時,需要輸入符合神經網路演算法中的模型所需的影像大小才能有效進行辨識。舉例來說,若模型設計是需要1:1比例的影像,但相機擷取到的影像比例為16:9,在影像轉換的過程會因為影像變形而導致辨識率下降的問題。
再者,需要辨識的物體在移動或轉動的過程中,難以保證每種姿態都能被類神經網路演算法建制的模型準確辨識,因此同樣物體所辨識出的信任分數可能會忽高忽低,若設置固定的信任分數門檻,當物體在連續幀間移動可能導致難以持續被追蹤。
從以上描述可以理解到神經網路演算法可以有效執行物體辨識,但習知的方法仍面臨一些困難,其中還因神經網路運算需要大量的運算資源,使得利用電池作為電源的感測裝置中的微控制器會面臨到嚴重的耗電問題。
為了能有效過濾掉產生誤判的信息,以及增加對特定目標的辨識率,揭露書提出一種移動物體偵測方法與電路系統,其中利用神經網路運算方式辨識影像中的移動物體,並採用動態調整門檻的機制,能準確判斷移動物體,並進行持續追蹤。
根據移動物體偵測方法的實施例,方法運行於一電路系統中,其中先通過攝影機取得一場景的連續幀影像,在辨識各幀影像中的動態事件時,可將各幀影像分割為多個區塊,再逐幀計算各區塊的亮度與色度,再比對背景模型,取得差異後可據此識別出是否有動態事件。
當辨識出各幀影像中的動態事件時,接續根據偵測到有動態事件的一或多個區塊,建立感興趣區域(ROI),即針對此感興趣區域偵測移動物體。其中,若偵測到移動物體,可根據移動物體的位置與影像特徵更新感興趣區域,使在後續幀影像中根據更新後的感興趣區域偵測移動物體;若沒有偵測到移動物體,即清除儲存在一記憶體中的感興趣區域的記錄。
根據一實施例,所述電路系統由一積體電路實作,設有運算電路,當採用電路系統的電子系統根據移動感知器感知到場景內的動態事件時,即觸發電子系統中的攝影機拍攝場景以取得連續幀影像。當辨識出動態事件,即觸發電路系統中的運算電路執行偵測各幀影像的移動物體的流程。
進一步地,所述移動物體可為一人形移動物體,運算電路運行神經網路演算法訓練得出人形辨識模型,據此執行人形辨識。當於感興趣區域中偵測人形移動物體時,以人形辨識模型計算各幀影像中有人形移動物體的機率的信任分數,以此信任分數比對一判斷門檻,確認人形移動物體。
優選地,當偵測到人形移動物體,可降低判斷門檻,以免較高門檻而過濾掉應該有人形移動物體的影像。
進一步地,在逐幀辨識各幀影像中的動態事件的步驟中,將各幀影像分割為多個區塊之後,取得各區塊的亮度與色度的影像特徵,根據前後幀的亮度與色度值建立所述的背景模型,再逐幀計算各區塊的亮度與色度與背景模型的差異值,經比對一門檻後,確認動態事件。
優選地,所述背景模型以色度與亮度值表示,背景模型的更新的方式包括,當前幀影像的色度與亮度值與背景模型的色度與亮度值採比例計算,得到更新後的背景模型。
進一步地,在初始化背景模型的步驟中,需確認該幀影像中的自動曝光數值是否穩定,若自動曝光數值不穩定,需待取得具有穩定自動曝光數值的影像,待自動曝光數值穩定,根據該幀影像色度與亮度的資訊初始化背景模型。
為使能更進一步瞭解本發明的特徵及技術內容,請參閱以下有關本發明的詳細說明與圖式,然而所提供的圖式僅用於提供參考與說明,並非用來對本發明加以限制。
以下是通過特定的具體實施例來說明本發明的實施方式,本領域技術人員可由本說明書所公開的內容瞭解本發明的優點與效果。本發明可通過其他不同的具體實施例加以施行或應用,本說明書中的各項細節也可基於不同觀點與應用,在不悖離本發明的構思下進行各種修改與變更。另外,本發明的附圖僅為簡單示意說明,並非依實際尺寸的描繪,事先聲明。以下的實施方式將進一步詳細說明本發明的相關技術內容,但所公開的內容並非用以限制本發明的保護範圍。
應當可以理解的是,雖然本文中可能會使用到“第一”、“第二”、“第三”等術語來描述各種元件或者訊號,但這些元件或者訊號不應受這些術語的限制。這些術語主要是用以區分一元件與另一元件,或者一訊號與另一訊號。另外,本文中所使用的術語“或”,應視實際情況可能包括相關聯的列出項目中的任一個或者多個的組合。
為了要改善於習知通過影像辨識技術執行移動物體偵測過程的問題,例如要辨識的物體在影像中佔據太少的像素還會導致辨識效果不佳的問題,以及需要有效過濾產生誤判的信息,本揭露書提出一種移動物體偵測方法與電路系統。其中主要的技術概念是,因為現行多數執行監控的攝影設備都可以提供高解析度的影像,並且影像的大小也遠大於執行於電路系統中的演算模型所需的影像尺寸,因此在進行移動物體辨識演算之前,對影像先進行裁切,以符合智能模型的需求,另可根據動態事件的區域建立有興趣的區域,僅需要對有興趣的區域進行辨識,改善辨識效果。
所述移動物體偵測方法可為執行於一電腦系統中的軟體手段,或是應用於一電路系統中,電路系統的實施例之一可為一積體電路,如特殊應用積體電路(application-specific integrated circuit,ASIC)或單晶片系統(system on chip,SoC),或為一整合型積體電路,其中至少整合了影像訊號處理器(image signal processor,ISP)、通訊電路、影像編解碼器與神經網路(neural network,NN)運算電路。
進一步地,電路系統可應用在執行移動物體偵測的電子系統中,如門禁系統、監視系統,或設有攝影機的電子門鈴的相關系統。根據實施例之一,可參考圖1顯示應用移動物體偵測方法的電子系統實施例示意圖,示意圖顯示的電子系統設有控制各電路元件運作的控制電路100,控制電路100電性連結各電路元件,包括電性連接一移動感知器101,移動感知器101可為利用光感應(如紅外光)技術或其他感應移動物體的技術的感知器,例如一種熱電紅外線感測器(pyro-electric infrared detector,簡稱PIR)。電子系統中設有一攝影機103,可為全時拍攝一場景以取得連續影像的攝影機103,或是可控制電路100根據移動感知器101感知到場景內任一動態事件,才觸發攝影機103啟動,動態事件一般表示為感知到某一移動物體。經觸發後的攝影機103即開始拍攝場景,取得畫面。電子系統設有電路系統105,用於運行移動物體偵測方法,經控制電路100取得由攝影機103拍攝得到的影像,電路系統105能逐幀(frame)處理影像,偵測影像中的動態事件,再觸發啟動電路系統105中的運算電路107以神經網路技術辨識影像中的人形或是特定目標。最後,將確認有移動物體的影像通過控制電路100以經輸出電路109輸出。
根據上述電路系統的應用實施例,可參考圖2顯示運行移動物體偵測方法的各階段示意圖,主要包括前端的移動感知階段201、動態事件偵測階段203、人形識別階段205,以及應用階段207。
在移動感知階段201,通過移動感知器101判斷一個場景內是否有任何動態事件,若有即進入動態事件偵測階段203,在此階段,啟動攝影機103拍攝所述場景的影像,利用電路系統105運行的方法以影像辨識技術偵測是否有任何動態事件。在一實施例中,先通過連續影像建立一背景模型,之後的影像即比對此背景模型以辨識出造成影像變動的動態事件。電路系統105可實現影像訊號處理器(Image Signal Processor,ISP),通過攝影機103收集到的連續影像數據進行移動偵測(Motion Detect,MD)。
若從各幀影像中辨識出動態事件,即繼續辨識其中移動物體,以人為例,進入所述人形識別階段205,可利用運算電路107應用神經網路演算法訓練得出的人形辨識模型執行人形辨識(Person Detect,PD),並將人形辨識結果經輸入電路109輸出給應用階段207,即根據所應用的系統將根據人形辨識的結果執行後續動作。根據實施例,其中以人形辨識模型判斷人形移動物體的步驟中,針對電路系統取得的多幀影像的感興趣區域套用人形辨識模型,計算其中各幀影像中有人形移動物體的信任分數,以此比對判斷門檻以確認是否有人形移動物體。
根據以上各階段的運作方式,以設有攝影機的電子門鈴系統為例,在移動感知階段201,利用移動感知器全時偵測門口附近的移動事件,當偵測到有移動事件時,即通過控制電路啟動後續步驟,進入動態事件偵測階段203,包括啟動攝影機進行拍攝,取得連續影像,通過電路系統執行移動物體偵測方法,判斷是否有動態事件,若有,進入人形識別階段205,識別影像中是否有人形,若經人形辨識模型判斷不是正要進入門內的人,即忽略本次偵測到的動態事件;若判斷出有人,在應用階段207即為觸發電子門鈴。
上述移動物體偵測方法可參考圖3顯示的實施例流程圖。
方法運行於電路系統中,一開始,將由所應用的電子系統取得一個場景內的影像(可經移動感知後觸發攝影機拍攝得出),在步驟S301中,電路系統接收連續幀影像,並能逐幀處理,包括先在步驟S303中,將影像分割為多個區塊,分割區塊的數量與大小影響辨識的準確度,可以依照電路系統的運算能力而定。在步驟S305中,根據前後幀的影像特徵建立背景模型,背景模型可以彩色圖、灰階圖或經二值化(binarization)的圖案建立此場景內靜止不動的影像特徵,如其中亮度與色度的影像特徵,可以根據方法中設定影像分割的各區塊對應的背景模型儲存在電路系統內或外部的記憶體中。在此除了取得初始化後的背景模型外,還能根據後續影像處理的結果更新背景模型。之後,以此背景模型為基礎,在步驟S307中,逐幀計算各區塊的亮度與色度與背景模型的差異值,比對設定為動態事件的亮度差異或色度差異的門檻,在步驟S309中,偵測各區是否有動態事件。
當某幀或是一定數量的連續幀的移動偵測都沒有得出動態事件時(否),步驟回到S301,重新執行以上流程,並且,還可以此偵測結果更新之前建立的背景模型(S323)。反之,當與背景模型比對下,偵測到其中之一或多個區塊有動態事件時(是),繼續步驟S311,根據偵測到有動態事件的一或多個區塊,對偵測到有動態事件的一或多幀影像進行裁切(crop),即動態裁切偵測到有動態事件發生的區域。繼續步驟S313,針對相關此動態事件建立一感興趣區域(region of interest,ROI),其中可以基於上述步驟分割影像為多個區塊的基礎上建立感興趣區域,或是更新根據前一次偵測結果所建立的感興趣區域,相關信息可儲存在記憶體中。
經建立感興趣區域(ROI)後,如步驟S315,利用神經網路運算方法辨識並偵測一或多幀影像中的感興趣區域中的移動物體,例如人形物體,相關神經網路運算方法可參考以下內容。值得一提的是,在電路系統的運作中,其中執行運算的電路,如圖1顯示的運算電路107,可以在建立感興趣區域後才被完全啟動運算能力以執行後續移動物體與人形辨識的演算,達到省電的目的。
在步驟S317中,根據偵測結果判斷感興趣區域中是否有移動物體,若沒有偵測到移動物體(否),即清除記憶體中儲存的感興趣區域(ROI)的記錄(步驟S325),流程回到步驟S301;若偵測到移動物體(是),繼續步驟S319,表示可以準確得出移動物體的位置與影像特徵,也就可以進一步更新之前步驟根據偵測到的動態事件所建立的感興趣區域,例如調整感興趣區域所涵蓋的區塊,使在後續幀影像中根據更新後的感興趣區域偵測移動物體。舉例來說,當偵測到人形,因為人接近攝影機、遠離攝影機或是任意走動,都會改變動態事件偵測的區域,因此感興趣區域也應隨著更新。接著如步驟S321,輸出偵測到移動物體的信息。之後流程可以根據電路系統所應用的功能繼續後續動作,而移動物體偵測流程則回到步驟S301。
在上述流程中描述偵測影像中的動態事件的步驟S309中,其中細節可參考圖4顯示的動態事件偵測(motion detection)實施例流程圖。
當取得攝影機拍攝的連續幀影像時(步驟S401),可先確認各幀影像中的自動曝光(automatic exposure,AE)數值是否穩定(步驟S403),若自動曝光數值仍不穩定,需要取得具有穩定自動曝光數值的影像,重新回到步驟S401。待取得穩定影像後,可視為所拍攝場域的背景值,即可從由電路系統實現的影像訊號處理器(ISP)取得將影像切割成多個特定尺寸的影像數值,如圖5顯示分割為5*5區塊的區塊影像500,取得每個區塊影像500中影像色度與亮度值(可以YRGB值為例),即在自動曝光數值穩定後,根據一或多幀影像色度與亮度的資訊初始化背景模型(步驟S405)。其中分割區塊的數量與大小影響辨識的準確度,若分割的更細,可以偵測到更細微的動態事件,相對地運算量也會增加。
舉例來說,以圖5為例,一幀分割為5*5區塊,形成多張區塊影像500,在初始化背景模型的過程中,計算每個區塊影像500中的YRGB(luminance RGB)值的平均值,因此每個區塊影像500都對應到一個平均影像色度與亮度值(如平均YRGB值)。當自動曝光的數值穩定後,視為沒有動態事件的背景,可將當下每個區塊影像500中的YRGB(luminance RGB)值的平均值視為背景值。此例中,分割整張影像形成的25個區塊對應到25個平均影像色度與亮度值,形成一個背景模型。
初始化背景模型之後,取得當下影像中各畫素的影像色度與亮度值(如YRGB數值)(步驟S407),並計算與背景模型的數值差異(步驟S409),以偵測是否有動態事件(步驟S411)。根據實施例,計算影像中的影像色度與亮度值(如YRGB數值)與背景模型的數值差異,以及比對整張影像的平均差異,將差異值比對系統設定判斷動態事件的門檻,以此判斷動態事件。
在步驟S411中,若沒有偵測到動態事件(否),根據計算的數值即時更新背景模型(步驟S413),流程回到步驟S401;若偵測到動態事件(是),可繼續執行移動物體偵測方法中建立感興趣區域以偵測移動物體(或人形辨識)的步驟(步驟S415)。
在此一提的是,當電路系統取得影像中的各區塊的影像色度與亮度值時,如上述5*5 YRGB數值,每一個數值對應到將影像切割成多個區域的內的平均值,如此執行移動物體偵測達成的效果包括,可以節省運算量,其中仍可保留影像中顏色變化的數據,還能濾除過小的動態,且相對距離較遠或較小的動態也會濾除掉。
在上述初始化或更新背景模型的步驟中,所述背景模型的數值會在圖4步驟中自動調整曝光的數值穩定後,由取得的影像資訊進行初始化。背景模型以影像色度與亮度值表示,更新背景模型的方式之一是,計算當前從電路系統取得每幀影像的影像色度與亮度值(即方程式一的BGmodel current)與所記錄之前背景模型的影像色度與亮度值(即方程式一的BGmodel previous)的平均值或利用一特定比例(Ratio1, Ratio2)調整後進行更新,得到更新後的背景模型(BGmodel),如方程式一。如此,可以增加對背景的記憶性,提升動態偵測的敏感度,即時更新背景模型也能夠避免背景變化造成誤觸的問題。
方程式一:
完成背景模型的初始化或更新後,即計算每幀影像與背景模型的差異值,先取得每幀影像的影像色度與亮度值,與背景模型的影像色度與亮度值計算差異值,以取得影像中的動態資訊。當數值差異大於設定的門檻,則判斷有動態事件,並進行後續移動物體的偵測。根據實施例,所述門檻並非固定數值,而會參考每幀的平均差異值進行設定。整張影像有相同差異通常是雜訊或光線變化所造成的,例如整張影像的自動曝光值(AE)與自動白平衡(AWB)等一致性的變化,可以透過計算一幀平均差異值的方式濾除掉整體一致性變化產生的誤觸,也濾除掉差異小於平均差異的區域,使得在較無光線變化的時候,平均差異值會趨近於零,不影響動態偵測的門檻。舉例來說,當偵測到整幀影像有一致性的亮度變化,如有開燈或關燈的情況,利用幀平均差異值的方式即可濾除掉此視為雜訊的變化。
當偵測到動態事件,流程進入移動物體偵測的階段中(如圖4的步驟S415),如人形識別階段,可根據偵測到動態事件的區域(此區域多數區塊的差異值大於門檻)進行裁切,對經動態裁切後的影像區域進行識別。根據實施例,可參考圖6A至圖6C所示通過影像裁切直接取得符合模型(如人形辨識模型)所需影像大小的圖例。圖6A顯示原始影像61,經偵測有動態事件時,如圖6B,得出具有動態事件的區域影像63,裁切出其中偵測出有移動事件的區域,此圖例顯示是裁切出影像靠近中間的部分,實際運行時可以根據判斷出動態事件裁切左半邊、右半邊,或是特定位置的區域。經裁切後得到如圖6C顯示的經裁切後的影像63’。如此,即將整張幀影像經過裁切調整符合人形辨識模型所需大小的影像,可以避免影像變形導致辨識效果不佳的問題。另外,經過裁切步驟,因為只擷取有動態的區域進行辨識,辨識移動物體在原始影像中所佔據的比例較大,而更容易辨識。另外,也不排除利用調整各幀影像比例以使得影像符合模型所需大小的方式。
進一步地,當根據一判斷門檻(機率、信任分數)而判斷偵測到有移動物體時,表示應在一有限的連續幀中應包括有此移動物體,此時方法將判斷移動物體的姿態。以人形辨識為例,在以神經網路建立的人形辨識模型執行人形辨識時,會以人形辨識模型計算各幀影像中具有人形移動物體的信任分數,以此信任分數比對系統設定的判斷門檻,以確認是否有人。當人在變換動作時,因應人形辨識的結果會有一些浮動,甚至在以神經網路演算法建立的人形辨識模型計算的信任分數會因為某些動作偵測分數低於判斷門檻而無法追蹤到人形,所以設置動態調整門檻的機制。動態調整門檻的目的之一是,當判斷出有人形移動物體時,可以確保此人在每個動作下,不論在影像中的尺寸變化,都能以較高的機率被偵測到。
例如,當移動物體改變姿態,通過人形辨識模型計算各幀影像中是否具有移動物體的信任分數可能產生變化,如臉部正面轉變為側面,計算移動物體的信任分數,此時將動態修正判斷門檻,以避免誤判,並可持續追蹤影像中的移動物體。
可參考圖7顯示動態修正判斷門檻的實施例流程,其中,在人形辨識的演算法中,設定有一預設門檻,初步即以此預設門檻(default threshold,例如threshold=0.6)判斷是否偵測到人,之後將依據偵測結果調整判斷門檻,也就是依照所偵測到人的信任分數,來計算下一次門檻可放寬的程度。另設有一個標準門檻(standard threshold),這是一個下限值,用來避免調整門檻過低而產生過多的誤判。其中調整判斷門檻的機制是,當以智能演算法得出的人形辨識模型計算偵測到人形移動物體的信任分數愈高,因為出現移動物體的情況應該是持續一段時間的,因此一旦偵測到移動物體(此例為人形移動物體),期望下一幀影像中依然有移動物體,即將判斷門檻降低,以免較高門檻而過濾掉應該有移動物體的影像。
根據實施例之一,調整判斷人形移動物體的門檻的方式如方程式二,根據方程式二,當次人形辨識要使用的門檻值(threshold current)等於前次門檻值(threshold previous)減去前次偵測到人形的信任分數(trustscore previous)與一標準門檻值(threshold standard)的差值的平方。
方程式二:
如圖示流程,引入神經網路演算法執行人形辨識,計算影像中偵測到人形的信任分數,其中採用動態調整門檻的機制。一開始使用的是預設門檻(步驟S701),根據人形辨識模型得出每幀偵測到人的信任分數比對此預設門檻以確認是否偵測到人形移動物體(步驟S703)。特別的是,在以偵測到人形的信任分數執行人形辨識的過程中,依據是否偵測到人的情況調整門檻,若沒有偵測到人(否),表示持續為沒有人的影像,在避免誤動作的情況下,增加門檻值(步驟S705)。
反之,若根據信任分數與判斷門檻的比對結果判斷有偵測到人(是),在動態調整門檻的機制下,會通過降低門檻值以確保下一幀影像也偵測到人,實施例可參考方程式二。相關流程先進行步驟S707,將信任分數比對系統設置的標準門檻,當信任分數並未超過標準門檻(否),同樣在避免誤動作的考量下,增加門檻值(步驟S705);若信任分數超過(或等於)標準門檻(是),即維持繼續使用預測門檻(步驟S709)。
根據移動物體偵測方法實施例,當有偵測到人形時,因為人在移動的過程中很難保障一個人的每個動作、大小都能以較高的信任分數偵測到,因此放寬信任分數的門檻,讓系統還能持續偵測到人形,也能持續追蹤人形移動物體;反之,當並未偵測到人形時,則增加門檻,可以避免影像整體變動產生的誤判。
根據移動物體偵測方法的實施例,在偵測移動物體的流程中,當偵測到的移動物體遠離或接近攝影機,會使得計算為移動物體的信任分數產生變化,又因為移動物體在影像中佔比會影響計算為移動物體的信任分數,因此可通過上述動態調整門檻的機制避免因為移動物體在影像中的大小變化而被誤判為消失,還可持續追蹤到影像中的移動物體。
綜上所述,在上述各實施例中,若不考慮省電的因素,則可在無動態事件觸發時,仍然持續進行識別。特別的是,在移動物體偵測方法中,當沒有偵測到動態事件時,繼續在上一次偵測到動態的區域進行辨識,以人形辨識為例,動態消失的區域可能是畫面中的人靜止不動,或者人從通道或入口離開的區域,是最有可能繼續偵測到人的區域。為了避免會在靜止不動物體造成誤觸的問題,可以藉由在提升以神經網路演算法中計算偵測到人的信任分數的臨界值,以濾除信任分數不夠高的誤觸,其中還可通過運算得到多個感興趣區域(ROI)來計算各區域有要偵測物件的信任分數,可以有效過濾不必處理的背景信息,並加強判斷是否有人或特定目標的準確度。
以上所公開的內容僅為本發明的優選可行實施例,並非因此侷限本發明的申請專利範圍,所以凡是運用本發明說明書及圖式內容所做的等效技術變化,均包含於本發明的申請專利範圍內。
100:控制電路 101:移動感知器 103:攝影機 105:電路系統 107:運算電路 109:輸出電路 201:移動感知階段 203:動態事件偵測階段 205:人形識別階段 207:應用階段 500:區塊影像 61:原始影像 63:區域影像 63’:裁切後的影像 步驟S301~S325:移動物體偵測流程 步驟S401~S415:更新背景模型的流程 步驟S701~S709:動態調整門檻的流程
圖1顯示應用移動物體偵測方法的電子系統實施例示意圖;
圖2顯示運行移動物體偵測方法的各階段示意圖;
圖3顯示移動物體偵測方法的實施例流程圖;
圖4顯示動態事件偵測實施例流程圖;
圖5顯示影像經分割後以各區塊影像資訊判斷動態事件的實施例示意圖;
圖6A至圖6C顯示通過影像裁切直接取得符合模型所需影像大小的實施例示意圖;以及
圖7顯示動態修正判斷門檻的實施例流程。
S301:接收影像
S303:分割影像為多區
S305:建立背景模型
S307:計算各區亮度與色度與背景模型的差異
S309:偵測各區是否有動態事件?
S311:裁切影像
S313:建立感興趣區域(ROI)
S315:移動物體偵測
S317:是否有偵測到有移動物體
S319:更新感興趣區域
S321:輸出偵測到移動物體的信息
S323:更新背景模型
S325:清除感興趣區域(ROI)

Claims (10)

  1. 一種移動物體偵測方法,運行於一電路系統中,包括: 取得一場景的連續幀影像; 辨識各幀影像中的一動態事件,其中將各幀影像分割為多個區塊,再逐幀計算各區塊的亮度與色度與一背景模型的差異,以識別出該動態事件; 當辨識出各幀影像中的該動態事件時,根據偵測到有該動態事件的一或多個區塊,建立一感興趣區域;以及 針對該一或多幀影像的該感興趣區域偵測一移動物體; 其中,若偵測到該移動物體,根據該移動物體的位置與影像特徵更新該感興趣區域,使在後續幀影像中根據更新後的該感興趣區域偵測該移動物體;若沒有偵測到該移動物體,即清除儲存在一記憶體中的該感興趣區域的記錄。
  2. 如請求項1所述的移動物體偵測方法,其中該電路系統由一積體電路實作,設有一運算電路,當採用該電路系統的一電子系統根據一移動感知器感知到該場景內的該動態事件時,觸發該電子系統中的一攝影機拍攝該場景以取得該連續幀影像。
  3. 如請求項2所述的移動物體偵測方法,其中,當辨識出該動態事件,即觸發該電路系統中的該運算電路執行偵測各幀影像的該移動物體的流程。
  4. 如請求項3所述的移動物體偵測方法,其中該移動物體為一人形移動物體,該運算電路運行一神經網路演算法訓練得出一人形辨識模型,據此執行人形辨識。
  5. 如請求項4所述的移動物體偵測方法,其中,還包括將該一或多幀影像進行裁切,使得各幀影像經過裁切調整符合該人形辨識模型所需大小的影像,或調整各幀影像比例以符合該人形辨識模型所需大小。
  6. 如請求項4所述的移動物體偵測方法,其中,於該感興趣區域中偵測該人形移動物體時,以該人形辨識模型計算各幀影像中有該人形移動物體的一信任分數,以該信任分數比對一判斷門檻,該判斷門檻為動態修正,其中,當偵測到該人形移動物體,降低該判斷門檻,以免較高門檻而過濾掉應該有該人形移動物體的影像。
  7. 如請求項1所述的移動物體偵測方法,其中,在逐幀辨識各幀影像中的該動態事件的步驟中,將各幀影像分割為多個區塊之後,取得各區塊的亮度與色度的影像特徵,根據前後幀的亮度與色度值建立該背景模型,再逐幀計算各區塊的亮度與色度與該背景模型的一差異值,經比對一門檻後,確認該動態事件。
  8. 如請求項7所述的移動物體偵測方法,其中該背景模型以色度與亮度值表示,該背景模型的更新的方式包括,計算當前幀影像的色度與亮度值與之前該背景模型的色度與亮度值的一平均值,得到更新後的該背景模型。
  9. 如請求項1至8中任一項所述的移動物體偵測方法,其中,於該識別出該動態事件的步驟中,當取得該連續幀影像時,先確認各幀影像中的一自動曝光數值是否穩定,若該自動曝光數值不穩定,需要取得具有穩定自動曝光數值的影像,若該自動曝光數值穩定,根據該一或多幀影像色度與亮度的資訊初始化該背景模型。
  10. 一種電路系統,應用於一電子系統中,該電路系統通過該電子系統的一攝影機取得一場景內的連續幀影像後,執行一移動物體偵測方法,包括: 取得該連續幀影像; 辨識各幀影像中的一動態事件,其中將各幀影像分割為多個區塊,再逐幀計算各區塊的亮度與色度與一背景模型的差異,以識別出該動態事件; 當辨識出各幀影像中的該動態事件時,根據偵測到有該動態事件的一或多個區塊,建立一感興趣區域;以及 針對該一或多幀影像的該感興趣區域偵測一移動物體; 其中,若偵測到該移動物體,根據該移動物體的位置與影像特徵更新該感興趣區域,使在後續幀影像中根據更新後的該感興趣區域偵測該移動物體;若沒有偵測到該移動物體,即清除儲存在一記憶體中的該感興趣區域的記錄。
TW111118794A 2022-05-20 2022-05-20 移動物體偵測方法與電路系統 TWI813297B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
TW111118794A TWI813297B (zh) 2022-05-20 2022-05-20 移動物體偵測方法與電路系統
US18/319,497 US20230377170A1 (en) 2022-05-20 2023-05-18 Method for motion detection and circuit system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW111118794A TWI813297B (zh) 2022-05-20 2022-05-20 移動物體偵測方法與電路系統

Publications (2)

Publication Number Publication Date
TWI813297B true TWI813297B (zh) 2023-08-21
TW202347263A TW202347263A (zh) 2023-12-01

Family

ID=88585798

Family Applications (1)

Application Number Title Priority Date Filing Date
TW111118794A TWI813297B (zh) 2022-05-20 2022-05-20 移動物體偵測方法與電路系統

Country Status (2)

Country Link
US (1) US20230377170A1 (zh)
TW (1) TWI813297B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201120807A (en) * 2009-12-10 2011-06-16 Ind Tech Res Inst Apparatus and method for moving object detection
US20190332889A1 (en) * 2016-11-09 2019-10-31 Konica Minolta Laboratory U.S.A., Inc. System and method of using multi-frame image features for object detection
TW202111662A (zh) * 2019-09-06 2021-03-16 瑞昱半導體股份有限公司 移動偵測方法及移動偵測系統
CN113259588A (zh) * 2021-04-26 2021-08-13 南京航煜智能科技有限公司 一种低功耗移动物体侦测系统及方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201120807A (en) * 2009-12-10 2011-06-16 Ind Tech Res Inst Apparatus and method for moving object detection
US20190332889A1 (en) * 2016-11-09 2019-10-31 Konica Minolta Laboratory U.S.A., Inc. System and method of using multi-frame image features for object detection
TW202111662A (zh) * 2019-09-06 2021-03-16 瑞昱半導體股份有限公司 移動偵測方法及移動偵測系統
CN113259588A (zh) * 2021-04-26 2021-08-13 南京航煜智能科技有限公司 一种低功耗移动物体侦测系统及方法

Also Published As

Publication number Publication date
TW202347263A (zh) 2023-12-01
US20230377170A1 (en) 2023-11-23

Similar Documents

Publication Publication Date Title
JP3812985B2 (ja) 自動監視装置
US8314854B2 (en) Apparatus and method for image recognition of facial areas in photographic images from a digital camera
US7916944B2 (en) System and method for feature level foreground segmentation
US20090310822A1 (en) Feedback object detection method and system
JP2004227160A (ja) 侵入物体検出装置
US20220366570A1 (en) Object tracking device and object tracking method
KR101712136B1 (ko) 열화상 카메라를 이용한 객체의 실신 상황 감지 방법 및 장치
US20220004748A1 (en) Video display method, device and system, and video camera
JP2013152669A (ja) 画像監視装置
JP4699056B2 (ja) 自動追尾装置及び自動追尾方法
JP6080572B2 (ja) 通行物体検出装置
KR20200060868A (ko) 객체 탐지 및 자동 추적이 가능한 다시점 영상 감시 시스템
JP6798609B2 (ja) 映像解析装置、映像解析方法およびプログラム
Zaman et al. Efficient human motion detection with adaptive background for vision-based security system
TWI813297B (zh) 移動物體偵測方法與電路系統
JP4740755B2 (ja) 画像を用いた監視装置
JP2021007055A (ja) 識別器学習装置、識別器学習方法およびコンピュータプログラム
WO2023231479A1 (zh) 瞳孔检测方法、装置、存储介质及电子设备
JP2004228770A (ja) 画像処理システム
JP3088880B2 (ja) 人物認識装置
JPH05300516A (ja) 動画処理装置
JP2020071717A (ja) 情報処理装置、情報処理方法及びプログラム
JP6124739B2 (ja) 画像センサ
CN117197181A (zh) 移动物体检测方法与电路系统
Chowdhury et al. Human surveillance system for security application