TWI438633B

TWI438633B - 記憶體管理之垃圾收集方法、其電腦程式產品，及其裝置

Info

Publication number: TWI438633B
Application number: TW097141142A
Authority: TW
Inventors: Anthony Howard Phillips; Andrew Dean Wharmby
Original assignee: Ibm
Priority date: 2007-11-29
Filing date: 2008-10-27
Publication date: 2014-05-21
Also published as: WO2009068597A1; EP2225646B1; US20090144349A1; US8346822B2; KR101183009B1; KR20100087138A; EP2225646A1; TW200935229A; CA2693592A1; JP2011505042A; CN101878472A; CN101878472B; JP4701321B2; ATE520080T1; CA2693592C

Description

記憶體管理之垃圾收集方法、其電腦程式產品，及其裝置

本發明係關於執行中之軟體應用程式的記憶體管理，具體而言，係關於垃圾收集程序中的殘存記憶體。

執行環境(runtime environments)下記憶體管理的設計，通常係為了軟體工程師的方便。因此，如Java(Java係昇陽微系統公司的註冊商標)的執行環境包含具有垃圾收集器的堆積記憶體。垃圾收集器係自動辨識並自記憶體內丟棄無效資料(如物件)，以釋放儲存空間的執行工具。垃圾收集係現代電腦系統之效率所享有的奢侈品，使軟體工程師不再需要以程式化的方式丟棄每個無效物件。

現代的垃圾收集演算法，係根據弱生假說(weak generational hypothesis)，即大部份被分配的物件係“短存”的(即物件建立後，在相對較短的時間內即可被丟棄)。為了使用此假說，物件會被分配在稱為“新代(nursery)”的記憶體堆積區。此新代比主要堆積區更常收集垃圾，其儲存較舊(年老)的物件，且一般係由稱為分配空間與殘存空間的二個區域組合而成。隨著物件被複製到連續記憶體中，新代會自動壓縮。複製垃圾收集演算法係負責將存活物件，自新代分配空間複製到同時進行壓縮的殘存記憶體(survivor memory)。殘存記憶體係新代堆積可組態大小的一部份。舉例而言，殘存記憶體最多可佔分配給新代之總記憶體的50%。

圖1a係在電腦系統中執行之軟體應用程式202的示意圖。每個軟體應用程式具有由記憶體管理器204所提供的相關堆積記憶體(heap memory)206。堆積記憶體206佔用一位址範圍，其可為記憶體管理器204將實體記憶體所映射至其處的一實體位址範圍或一邏輯位址範圍。舉例而言，堆積記憶體206係一新代堆積，屬一較大應用程式堆積的一部份。記憶體管理器204可將電腦系統的記憶體單元提供給軟體應用程式202。舉例而言，記憶體管理器204可為電腦系統中作業系統的一構件，如核心記憶體管理器。

堆積記憶體206的一部份208係專屬殘存記憶體，供垃圾收集程序期間使用。殘存記憶體部分208的特徵，係不可提供用程式202分配物件，且係專屬收集垃圾程序期間使用。圖1b係圖1a之軟體應用程式202之堆積記憶體206的示意圖。執行時，軟體應用程式202於堆積記憶體206儲存及擷取資料。堆積記憶體206包含對應儲存資料的分配部份(劃線及陰影部份)。此資料可包含例如分配的軟體物件、資料結構、紀錄、欄位或變數。垃圾收集演算法可週期性地處理堆積記憶體206，丟棄分配於堆積記憶體206中未使用資料項目。此演算法包含一複製垃圾收集演算法。在處理堆積記憶體206時，垃圾收集演算法辨識堆積記憶體206中有效的資料項目。有效的資料項目係軟體應用程式202正在使用的資料項目。反之，無效的資料項目係軟體應用程式202不再需要的資料項目。舉例而言，軟體應用程式202係透過例如記憶體指標或物件參考，來參照有效資料項目。垃圾收集演算法將辨識為有效的資料項目複製到殘存記憶體208。垃圾收集演算法可將辨識為有效的資料項目，複製到殘存記憶體208內連續的位置，以壓縮此資料項目。隨後，僅需保留殘存記憶體208中所紀錄的資料項目(因此為“殘存”)，堆積記憶體206中所有其他的資料項目(對應到無效的資料項目)皆可被丟棄。

複製垃圾收集器的一個問題，係即使沒有執行垃圾收集，每個應用程式皆維持其自身的殘存記憶體。對於具有大量執行中的軟體應用程式以及對應大量記憶體分配為殘存記憶體的系統而言，此問題係特別嚴重的。又，由於殘存記憶體係專屬垃圾收集程序期間使用，軟體應用程式202無法用此記憶體儲存資料。

因此，需要一種可提供殘存記憶體給垃圾收集，供複製垃圾收集器之用，而無需將堆積記憶體專屬於執行中之每個軟體應用程式。

本發明之第一面向，係提供一種在電腦系統中執行之軟體應用程式的記憶體管理方法。本方法包含以下步驟：記憶體管理器提供記憶體的第一單元給軟體應用程式，作為第一分配空間，此第一單元具有一預定大小；軟體應用程式將資料儲存於第一分配空間；以及透過以下步驟，丟棄第一分配空間中無效的資料：a)記憶體管理器提供記憶體的第二單元給軟體應用程式；b)辨識第一分配空間中的有效資料，以及複製此有效資料到記憶體的第二單元，此有效資料至少包含軟體應用程式正在使用的資料；c)在第一分配空間中，表示有效資料已成為無效；d)映射第一分配空間的一部份，以與記憶體之第二單元邏輯性地連續，以定義軟體應用程式的第二分配空間，其中第二分配空間的大小與預定大小相同；以及e)將第一分配的剩餘部份還給記憶體管理器，以作為記憶體可供重新使用的一單元。

在較佳的情況下，記憶體第二單元的特徵，係其大小至少等於第一分配空間中有效資料之聚集大小。

在較佳的情況下，記憶體管理器係電腦系統中作業系統內的核心記憶體管理器。

在較佳的情況下，至少步驟b)係由垃圾收集器軟體例行程式執行。

藉此，記憶體的第二單元可作為執行中的軟體應用程式的殘存記憶體，供垃圾收集之用，且完成垃圾收集後，軟體應用程式會釋放記憶體。藉此，軟體應用程式僅在垃圾收集程序期間，才消耗殘存記憶體，進而避免需要專屬堆積記憶體作為執行中每個軟體應用程式的殘存記憶體。

本發明之第二面向，係提供一種管理在電腦系統中執行之軟體應用程式的記憶體之裝置。本裝置包含：記憶體管理器，係負責提供記憶體的第一單元給軟體應用程式，作為第一分配空間，此第一單元具有一預定大小；儲存器，係負責讓軟體應用程式將資料儲存於第一分配空間；以及丟棄器，係負責透過以下步驟，丟棄第一分配空間中無效的資料：a)記憶體管理器之供應器，係負責提供記憶體的第二單元給軟體應用程式；b)識別器，係負責辨識第一分配空間中的有效資料，以及複製此有效資料到記憶體的第二單元，此有效資料包含軟體應用程式正在使用的至少一個資料；c)表示器，係負責在第一分配空間中，表示有效資料已成為無效；d)映射器，係負責映射第一分配空間的一部份，以與記憶體之第二單元邏輯性地連續，以定義軟體應用程式的第二分配空間，其中第二分配空間的大小與預定大小相同；以及e)記憶體取消分配器，係負責將第一分配的剩餘部份還給記憶體管理器，以作為記憶體可供重新使用的一單元。

本發明之第三面向，係提供一種裝置。此裝置包含中央處理單元；記憶體子系統；輸入/輸出子系統；以及匯流排子系統與中央處理單元、記憶體子系統、輸入/輸出子系統相連；以及如上述之該裝置。

本發明之第四面向，係提供一種電腦程式元件，其包含電腦程式碼，當載入電腦系統並執行於其中時，可導致電腦執行上述方法。

圖2係適用於本發明實施例的作業的電腦系統的方塊圖。中央處理單元(CPU)102係透過資料匯流排108，通訊連接儲存器104與輸入/輸出(I/O)介面106。儲存器104可為任何讀/寫儲存裝置，如隨機存取記憶體(RAM)、或非揮發性儲存裝置。非揮發性儲存裝置的一範例包含磁碟、磁帶儲存裝置。I/O介面106係與輸入或輸出資料的裝置、或輸入及輸出資料溝通的介面。可連接I/O介面106的I/O裝置包含鍵盤、滑鼠、顯示器(如監控器)及網路連線。

圖3a係本發明之一較佳實施例中，在電腦系統中執行之軟體應用程式302的示意圖。圖3a中的許多元件係與上述圖1a中的元件相同，爾後將不贅述。與圖1a的排列不同之處，係圖3a的軟體應用程式302包含堆積記憶體306(如新代堆積)，係完全供軟體應用程式儲存資料。沒有任何一部份的堆積記憶體306係專屬作殘存記憶體。堆積記憶體306係由記憶體管理器304提供給軟體應用程式302。因此，在圖3a的排列中，軟體應用程式302的記憶體僅限於應用程式堆積儲存應用程式資料所需之處。

使用時，記憶體管理器304可提供記憶體第二單元給軟體應用程式302，以因應軟體應用程式302中垃圾收集程序的初始。記憶體的第二單元係適用作為垃圾收集程序期間的殘存記憶體。此垃圾收集程序辨識堆積記憶體306中的有效資料，並將之複製於記憶體的第二單元作保存。此複製可包含複製到記憶體的第二單元的連續記憶體位置，以壓縮有效資料。完成垃圾收集器的複製程序時，堆積記憶體306的一部份會被軟體應用程式302所釋放，使得此部份可供記憶體管理器304作為記憶體的一部份，供重新使用。堆積記憶體306被釋放的部份，係具有對應記憶體之第二單元之大小的大小。因此，當垃圾收集程序需要殘存記憶體時，其可以記憶體的第二單元的形態，供軟體應用程式302使用。再者，完成垃圾收集程序時，軟體應用程式即釋放記憶體。藉此，殘存記憶體可供執行中的軟體應用程式302作垃圾收集之用，且垃圾收集完後，軟體應用程式即釋放記憶體。因此，軟體應用程式僅在垃圾收集程序期間，消耗殘存記憶體，進而避免堆積記憶體專屬作為執行中的每個軟體應用程式的殘存記憶體的需求。

圖3b到3d係本發明之一較佳實施例中，垃圾收集程序期間，圖3a之堆積記憶體306的示意圖。圖3b中，堆積記憶體306係繪示為具有儲存資料，位於陰影與劃線部份。儲存於堆積記憶體306中的資料可為有效或無效。有效資料係軟體應用程式302所使用的資料，例如軟體應用程式所參考、可取得或保留的資料。無效資料係軟體應用程式不再使用的資料，例如不再參考、取得或保留的資料。資料可基於物件或記憶體指標取消參考、或主動或被動丟棄堆積中的資料而變成無效。圖3b中的排列顯示四個有效的儲存資料，這部份係交叉劃線成陰影。

圖3c繪示本發明之一較佳實施例中，垃圾收集程序的第一部份期間，圖3b的堆積記憶體306。起初，記憶體管理器304將記憶體的第二單元提供為殘存空間308。殘存空間308的大小是可調整設定的。較佳地，殘存空間的大小係堆積記憶體306的大小的20%。或者，殘存空間係固定為一預定大小、或由一學習程序所決定的大小，以對應堆積之垃圾收集的適當大小。實作中，殘存空間308的大小較佳地係實質等於或大於堆積記憶體306中所有有效資料的聚集大小。垃圾收集器辨識堆積記憶體306中的有效資料項目，並將有效資料項目複製到殘存空間308。較佳地，垃圾收集器將有效資料複製到殘存空間308的連續位置，以壓縮有效資料(即避免複製作業期間發生記憶體分裂)。

圖3d繪示本發明之一實施例中，在垃圾收集程序的第二段的圖3b之堆積記憶體306。一旦有效資料已複製到殘存空間308，堆積記憶體306中所有的有效資料會標示為無效。藉此，整個堆積記憶體306即有效的缺乏資料(空的)。圖3d利用劃線作陰影處，表示堆積記憶體306中所儲存的所有資料皆為無效。

邏輯性地連續，進而定義新分配空間(堆積記憶體306’)。此部份312的映射，係可透過改變堆積記憶體306此部份312的儲存位置的邏輯位址，以邏輯性地持續執行至殘存空間308而達成，如熟此技藝者所知。舉例而言，始於位址U_low 且具有U_size 大小的堆積記憶體306的部份312，係可將未分配部份的邏輯位址映射為U_low =S_low +S_size 作映射，而得以邏輯性地持續執行至殘存空間，其始於位址S_low 且具有S_size 大小。此部份312可為堆積記憶體306的任何部份(由於堆積內的所有資料現在皆顯示為無效，堆積記憶體306的記憶體係有效的空著)。此堆積的部份312之大小係當其結合殘存空間308以形成新分配空間306’時，使得堆積記憶體306’的大小會等於堆積記憶體306之大小而定。因此，U_size +S_size =A_size 。藉此，定義堆積記憶體306的剩餘部份，即堆積記憶體306的該部份未映射形成新堆積之一部份，其大小等於殘存空間308的大小。

堆積記憶體306’所定義的新分配空間，隨後可供軟體應用程式302作儲存資料之用。新堆積記憶體306’的殘存部份308與自堆積記憶體306映射的部份312並無差別，且整個堆積記憶體306’係可作為軟體應用程式之分配空間。

圖4a係本發明之一較佳實施例中記憶體管理之方法的流程圖。起初，於步驟402，記憶體管理器304提供第一分配空間給軟體應用程式302作為堆積記憶體306。於步驟404，此應用程式將資料儲存於堆積記憶體306中。最後，於步驟406，垃圾收集程序丟棄堆積記憶體306中的無效資料。

圖4b係本發明之一較佳實施例中圖4a丟棄無效資料之步驟406的流程圖。起初，於步驟410，記憶體管理器304提供記憶體的第二單元給軟體應用程式302作為殘存空間308。於步驟412，垃圾收集程序辨識出儲存於堆積記憶體306之分配部份310的有效資料，並將辨識出的有效資料複製到殘存空間308。於步驟413，此方法將堆積記憶體306中的所有有效資料表明為無效，以表示堆積記憶體306現已實質清空(無有效資料)，因為所有的有效資料現已在殘存空間308。於步驟414，映射堆積記憶體306的此部份312，以邏輯性地連續殘存空間308，以定義新分配空間為堆積記憶體306’。此部份312係選作定義新堆積記憶體306’與堆積記憶體306具有相同大小之用。最後，於步驟416，堆積記憶體306未包含在新堆積記憶體306’的剩餘部份會被釋放，以供記憶體管理器304重新使用。

圖5係本發明之一實施例中一裝置之各構件的示意圖。本裝置包含一記憶體管理器204(如上述)，其適用於提供記憶體的第一單元給軟體應用程式作為記憶體堆積。本裝置更包含一儲存器構件502，負責將資料儲存於軟體應用程式的記憶體堆積，藉此定義堆積的一分配部份。本裝置更包含一丟棄器504，如垃圾收集構件，以丟棄分配部份中的無效資料。丟棄器504包含一供應器構件506，負責提供記憶體的第二單元給軟體應用程式，作為殘存記憶體。丟棄器504更包含一識別器，供辨識堆積中的有效資料，以及將有效資料複製到殘存記憶體。丟棄器504更包含一映射器構件510，負責映射堆積的未分配部份，以邏輯性地連續殘存空間，以及一記憶體取消分配構件512，負責將分配部份還給記憶體管理器204，作為適合重新使用的記憶體的一單元。丟棄器504亦包含一表示器514，負責在將有效資料複製到殘存空間308後，顯示堆積記憶體306中的所有資料為無效。

本發明在所描述之各實施例，至少可部份利用軟體控制的程式化處理裝置(如微處理器、數位信號處理器、或其他處理器)、資料處理裝置或系統實施，熟此技藝者當知，負責組態可程式化裝置、設備或系統的電腦程式，其實施上述方法者，亦屬本發明之一面向。電腦程式可實施為原始碼、或可進行編輯以實施於處理裝置、設備或系統、或可以例如物件碼的形式實施。

在較適當的情況下，電腦程式係以機器或裝置可讀取的形態，儲存於負載媒體，如固態記憶體、磁性記憶體(如磁片或磁帶)、光學或磁光可讀取記憶體(如光碟片或多功能數位碟片等)，而處理裝置利用此程式或其一部份，組態其裝置供執行。電腦程式可由通訊媒體中的遠端來源提供之，如電子信號、無線電載波、或光載波。此等負載媒體亦屬本發明之各面向。

熟此技藝者當知，雖然本發明已利用上述實施例作描述，但本發明並不限於此等實施例，許多可能的潤飾及修改亦在本發明之範疇。

本發明之範疇包含在此所揭露之任何新穎特徵或其結合。申請人在此表明在取得此申請案、或此申請案所衍生出之其他申請案之專利期間，可根據此等特徵或其結合者主張新的請求項。具體而言，參照以下專利請求項，附屬項的特徵可與獨立項的特徵作結合，以及各獨立項的特徵可以適當的方式作結合，而不僅係專利請求項所列之特定結合。

102．．．中央處理單元

104．．．儲存器

106．．．輸入/輸出介面

108．．．資料匯流排

202、202a、202b、202c．．．軟體應用程式

204．．．記憶體管理器

206、206a、206b、206c．．．堆積記憶體

208、208a、208b、208c．．．殘存記憶體

302．．．軟體應用程式

304．．．記憶體管理器

306、306’．．．堆積記憶體

308．．．殘存空間

312．．．部份

502．．．儲存器構件

504．．．丟棄器

506．．．供應器構件

510．．．映射器構件

512．．．記憶體取消分配構件

514．．．表示器

本發明之較佳實施例將僅以範例方式，參照伴隨圖式，詳述如下，其中：

圖1a係習知在電腦系統中執行之軟體應用程式的示意圖；

圖1b係習知圖1a之軟體應用程式的堆積的示意圖；

圖2係適用於本發明之實施例之作業的電腦系統之方塊圖；

圖3a係本發明之一較佳實施例中在電腦系統中執行之軟體應用程式的示意圖；

圖3b到3d係本發明之一較佳實施例中在垃圾收集程序期間圖3a之堆積的示意圖；

圖4a係本發明之一較佳實施例中記憶體管理之方法的流程圖；

圖4b係本發明之一較佳實施例中圖4a丟棄無效資料步驟的流程圖；以及

圖5係本發明之一較佳實施例中一裝置的構件示意圖。

Claims

一種執行於一電腦系統中之一軟體應用程式之記憶體管理的垃圾收集方法，該方法包含以下步驟：提供堆積記憶體之一第一單元給該軟體應用程式，作為一第一分配空間，該第一單元具有一預定大小且無殘存記憶體；將資料儲存於該第一分配空間；以及以下列步驟丟棄該第一分配空間中的無效資料以因應該堆積記憶體的垃圾收集：a)提供從該堆積記憶體區分出之記憶體之一第二單元給該軟體應用程式作為殘存記憶體；b)辨識出該第一分配空間中的有效資料，以及將該有效資料複製到記憶體的該第二單元，該有效資料至少包含該軟體應用程式正在使用之資料；c)在該第一分配空間中，表明該有效資料已成為無效；d)映射該第一分配空間之一部份，以與記憶體之該第二單元邏輯性地連續，以替該軟體應用程式定義一第二分配空間，其中該第二分配空間的一大小等於該預定大小；以及e)還給該第一分配空間的一剩餘部份，作為適合重新使用之記憶體之一單元。
如請求項1所述之方法，其中記憶體之該第二單元係具有至少與該第一分配空間中之該有效資料之一聚集大小(aggregated size)相等的一大小。
如請求項1所述之方法，其中該堆積記憶體係一新代堆積。
一種管理執行於一電腦系統中之一軟體應用程式之記憶體之垃圾收集裝置，該裝置包含：一具有記憶體管理器執行於其中之該電腦系統之一記憶體，提供堆積記憶體之一第一單元給該軟體應用程式，作為一第一分配空間，該第一單元具有一預定大小且無殘存記憶體；一儲存器，係供該軟體應用程式將資料儲存於該第一分配空間；以及一丟棄器，係以下列步驟因應該堆積記憶體的垃圾收集丟棄該第一分配空間中的無效資料：a)一供應器，係供該記憶體管理器提供從該堆積記憶體區分出之記憶體之一第二單元給該軟體應用程式作為殘存記憶體；b)一識別器，係辨識出該第一分配空間中的有效資料，以及將該有效資料複製到記憶體的該第二單元，該有效資料至少包含該軟體應用程式正在使用之資料；c)一表示器，係在該第一分配空間中，表明該有效資料已成為無效；d)一映射器，係供映射該第一分配空間之一部份，以與記憶體之該第二單元邏輯性地連續，以定義一第二分配空間給該軟體應用程式，其中該第二分配空間的一大小等於該預定大小；以及 e)一記憶體取消分配器，係將該第一分配空間的一剩餘部份還給該記憶體管理器，作為適合重新使用之記憶體之一單元。
如請求項4所述之裝置，其中記憶體之該第二單元的特徵係具有至少與該第一分配空間中之該有效資料之一聚集大小相等的一大小。
如請求項4所述之裝置，其中該記憶體管理器係該電腦系統之一作業系統中的一核心記憶體管理器。
如請求項4所述之裝置，其中該堆積記憶體係一新代堆積。
一種垃圾收集之記憶體管理裝置，包含：一中央處理單元；一記憶體子系統；一輸入/輸出子系統；以及一匯流排子系統，係與該中央處理單元、該記憶體子系統、該輸入/輸出子系統相連；以及一裝置，包含：一記憶體管理器，提供堆積記憶體之一第一單元給該軟體應用程式，作為一第一分配空間，該第一單元具有一預定大小且無殘存記憶體；一儲存器，係供該軟體應用程式將資料儲存於該第一分配空間；以及一丟棄器，係以下列步驟因應該堆積記憶體的垃圾收集丟棄該第一分配空間中的無效資料：a)一供應器，係供該記憶體管理器提供從該堆積記憶體區分出之記憶體之一第二單元給該軟體應用程式作為殘存記憶體；b)一識別器，係辨識出該第一分配空間中的有效資料，以及將該有效資料複製到記憶體的該第二單元，該有效資料至少包含該軟體應用程式正在使用之資料；c)一表示器，係在該第一分配空間中，表明該有效資料已成為無效；d)一映射器，係供映射該第一分配空間之一部份，以與記憶體之該第二單元邏輯性地連續，以定義一第二分配空間給該軟體應用程式，其中該第二分配空間的一大小等於該預定大小；以及e)一記憶體取消分配器，係將該第一分配空間的一剩餘部份還給該記憶體管理器，作為適合重新使用之記憶體之一單元。
一種電腦程式產品，包含電腦程式碼，當載入一電腦系統之記憶體並執行於其中時，會導致該電腦執行一種執行於一電腦系統中之一軟體應用程式之記憶體管理的方法，該方法包含：提供堆積記憶體之一第一單元給該軟體應用程式作為一第一分配空間，該第一單元具有一預定大小且無殘存記憶體，用以儲存來自一軟體應用程式的資料於該第一分配空間；以及以下列步驟丟棄該第一分配空間中的無效資料以因應該堆積記憶體的垃圾收集：a)提供從該堆積記憶體區分出之記憶體之一第二單元給該軟體應用程式作為殘存記憶體；b)辨識出該第一分配空間中的有效資料，以及將該有效資料複製到記憶體的該第二單元，該有效資料至少包含該軟體應用程式正在使用之資料；c)在該第一分配空間中，表明該有效資料已成為無效；d)映射該第一分配空間之一部份，以與記憶體之該第二單元邏輯性地連續，以替該軟體應用程式定義一第二分配空間，其中該第二分配空間的一大小等於該預定大小；以及e)還給該第一分配空間的一剩餘部份，作為適合重新使用之記憶體之一單元。