TWM599936U

TWM599936U - 管理資料快取的電腦程式產品和裝置

Info

Publication number: TWM599936U
Application number: TW109206051U
Authority: TW
Inventors: 陳瑞泰
Original assignee: 昕力資訊股份有限公司
Priority date: 2020-05-15
Filing date: 2020-05-15
Publication date: 2020-08-11

Abstract

本說明書涉及一種電腦程式產品，用於管理資料快取，包含能夠被伺服器的處理單元載入並執行的程式碼，用於：從客戶端接收到資料查詢請求；當資料查詢請求所請求的第一資料儲存在記憶體中的資料快取時，從資料快取獲得請求的第一資料，以及回覆第一資料給客戶端；以及在回覆第一資料給客戶端之後，睡至少一段預設時間後再從資料庫獲得相應於資料查詢請求的第二資料，以及將資料快取中的第一資料更新為第二資料。

Description

管理資料快取的電腦程式產品和裝置

本新型關連於一種資料存取技術，特別是一種管理資料快取的電腦程式產品和裝置。

常見的快取機制分為二大類：程序內存快取；以及內存伺服器。程序內存快取是在應用程式伺服器的記憶體中配置空間，作為資料快取（Data Cache）。內存伺服器則是單獨的伺服器，擁有大容量的記憶體，作為資料快取的空間，用於分享給多部應用程式伺服器使用。然而，以上兩種快取機制都存在以下缺點，資料快取的內容可能和資料庫系統中實際存在的資料不一致，造成客戶端從資料快取中獲得不正確的資料。這種情況可能發生在客戶端請求應用系統伺服器提供資料的當下，資料庫系統中的資料已經修改，但是資料快取中的相應資料還未更新。為了避免如上所述的問題，系統需要適時地更新資料快取中的資料，然而，頻繁地查詢資料庫系統來更新資料快取中的資料，也會造成資料庫伺服器出現瓶頸。因此，需要一種電腦程式產品和裝置，用於管理資料快取，解決如上所述的問題。

有鑑於此，如何減輕或消除上述相關領域的缺失，實為有待解決的問題。

本說明書另涉及一種管理資料快取的裝置，包含記憶體、通訊介面和處理單元。記憶體配置空間給資料快取、主要佇列和二級佇列。處理單元耦接記憶體和通訊介面，用於通過通訊介面從客戶端接收到資料查詢請求；當資料查詢請求所請求的第一資料儲存在資料快取時，從資料快取獲得第一資料，並回覆第一資料給客戶端；以及將快取更新工作入列到主要佇列，用於在一段預設時間後，從資料庫獲取相應於資料查詢請求的第二資料，並且將資料快取中的第一資料更新為第二資料。

本新型的其他優點將搭配以下的說明和圖式進行更詳細的解說。

以下說明為完成新型的較佳實現方式，其目的在於描述本新型的基本精神，但並不用以限定本新型。實際的新型內容必須參考之後的權利要求範圍。

必須了解的是，使用於本說明書中的“包含”、“包括”等詞，用以表示存在特定的技術特徵、數值、方法步驟、作業處理、元件以及/或組件，但並不排除可加上更多的技術特徵、數值、方法步驟、作業處理、元件、組件，或以上的任意組合。

於權利要求中使用如“第一”、“第二”、“第三”等詞是用來修飾權利要求中的元件，並非用來表示之間具有優先順序，前置關係，或者是一個元件先於另一個元件，或者是執行方法步驟時的時間先後順序，僅用來區別具有相同名字的元件。

必須了解的是，當元件描述為“連接”或“耦接”至另一元件時，可以是直接連結、或耦接至其他元件，可能出現中間元件。相反地，當元件描述為“直接連接”或“直接耦接”至另一元件時，其中不存在任何中間元件。使用來描述元件之間關係的其他語詞也可類似方式解讀，例如“介於”相對於“直接介於”，或者是“鄰接”相對於“直接鄰接”等等。

本新型實施例提出一種網路系統架構，包含伺服器（server）與多部客戶端（clients）。圖1是依據本新型實施例的網路系統架構圖。伺服器110、桌上型電腦151、平板電腦153以及手機155之間可透過網路100彼此通訊，網路100可為網際網路（Internet）、有線區域網路（wired Local Area Network，LAN）、無線區域網路，或以上的任意組合。桌上型電腦151、平板電腦153以及手機155可稱為客戶端，通過網路100向伺服器110請求資料。應用程式通常由服務提供者（Service Provider）開發並部署到伺服器110，包含各式各樣的業務邏輯，可涵蓋但不限於數位銀行管理、網路銀行、行動客服、企業內部流程管理、大數據存儲、大數據資料整合、大數據資料檢索等領域。

圖2是依據本新型實施例的運算裝置的系統架構圖。此系統架構可實施於伺服器110、桌上型電腦151、平板電腦153以及手機155中之任一者，至少包含處理單元210。處理單元210可使用多種方式實施，例如以專用硬體電路或通用硬體（例如，單一處理器、具平行處理能力的多處理器、圖形處理器或其他具運算能力的處理器），並且在執行程式碼或軟體時，提供之後所描述的功能。系統架構另包含記憶體250及儲存單元240，記憶體250儲存程式碼執行過程中需要的資料，例如，變數、資料表（Data Tables）等，儲存單元240儲存各式各樣的電子檔案，例如，網頁、文件、音訊檔、視訊檔等。系統架構另包含通訊介面260，讓處理單元210可藉以跟其他電子裝置進行溝通。通訊介面260可以是無線電信通訊模組（Wireless Telecommunications Module）、區域網路（Local Area Network, LAN）通訊模組或無線區域網路通訊模組（WLAN）。無線電信通訊模組（Wireless Telecommunications Module）可包含支援2G、3G、4G或以上技術世代的任意組合的調變解調器(Modem)。輸入裝置230可包含鍵盤、滑鼠、觸控面板等。使用者可按壓鍵盤上的硬鍵來輸入字元，藉由操作滑鼠來控制鼠標，或者是在觸控面板製造手勢來控制執行中的應用程式。手勢可包含單擊、雙擊、單指拖曳、多指拖曳等，但不限定於此。顯示單元220可包含顯示面板（例如，薄膜液晶顯示面板、有機發光二極體面板或其他具顯示能力的面板），用以顯示輸入的字元、數字、符號、拖曳鼠標的移動軌跡、繪製的圖案或應用程式所提供的畫面，提供給使用者觀看。

於一些實施例中，伺服器110可以是應用程式伺服器，包含程序內存存取，用於在記憶體250中配置空間，作為資料快取（Data Cache）。除此之外，伺服器110提供一個應用程式執行的環境，為每個應用程式提供多樣的服務，例如，請求分派與負載平衡、數位認證中心、應用程式介面（Application Programming Interface，API）授權管理、用戶授權/流量/網際網路通訊協定（Internet Protocol，IP）控制、組織階層管理、資安連線（SSL/TLS）管理、數位簽章驗證、機敏資料加密、單一登入主動目錄（Single Sign-On Active Directory，SSO AD）整合、跨站指令（Cross-Site Scripting，XSS）防駭攻擊、API熱部署、區段故障切換（Session Fail-over）、預防重複交易機制、貴賓API優先、異質部署/多版本運行、API偵錯、API軌跡紀錄、伺服器監控/告警、逐API/用戶報表、(Java)DC主機綁定管理、.NET站台綁定管理、註冊主機管理、API服務註冊、API模組佈署發佈、API組合與設計等。從另一面來說，這些功能也可以被多種不同的應用程式使用，因此，如上所述應用程式執行的環境又稱為共用服務平台（Shared Service Platform）。

於另一些實施例中，伺服器110可為獨立的資料快取伺服器，包含大量的記憶體空間來為應用程式伺服器提供資料快取服務。

舉例來說，由於使用者介面（User Interface，UI）的清單列表在資料庫中異動的頻率低，但每個畫面都需要存取，使得查詢清單列表的工作特別適合儲存在資料快取中。

為了解決傳統資料快取所發生的問題，本新型實施例的伺服器110提出一種機制，用於在客戶端查詢資料的一段時間後，主動更新資料快取的內容，避免資料快取的內容與資料庫系統中實際存在的資料發生不一致的情形。

為了將實際資料存取和快取更新的工作分開處理，伺服器110可在其記憶體250中提供兩個工作佇列：主要佇列和二級佇列。圖3是依據本新型實施例的佇列配置示意圖。舉例來說，記憶體250分別配置空間給主要佇列310和二級佇列330，主要佇列310和二級佇列330各包含多筆項目（Entry）形成的集合（Collection）。主要佇列310和二級佇列330中的每一筆項目可儲存一個工作。主要佇列310和二級佇列330的操作基本原則是由結束位置（如指標T所指的位置）新增工作（可稱為入列），並且由開始位置（如指標H所指的位置）移除工作（可稱為出列）。也就是說，第一個新增至主要佇列310或二級佇列330的工作，也將會是第一個被移出的，符合先進先出（First-In First-Out，FIFO）的原則。

圖4是依據本新型實施例的伺服器110中的記憶體250（以下簡稱記憶體250以求簡明）的空間配置示意圖。除了主要佇列310和二級佇列330外，處理單元210可在記憶體250中配置空間來當作資料快取410，用於儲存從特定資料庫查詢出的結果集（Result Set）。並且，處理單元210可在記憶體250中配置空間來儲存快取資料表430，包含多筆紀錄，每筆紀錄儲存快取識別碼（Cache ID）、結構化語言查詢字串（Structured Query Language，SQL Query String）、最後更新時間、起始記憶體位址、快取長度等資訊。處理單元210可比對資料查詢請求的查詢條件資訊和快取資料表430的紀錄來判斷欲查詢的資料是否已經存在於資料快取410之中。

圖5是依據本新型實施例的處理主要佇列中的工作的方法流程圖，由伺服器110的處理單元210（以下簡稱處理單元210以求簡明）於載入並執行特定軟體模組時實施，反覆執行一個迴圈（包含步驟S510至S590的操作），用於不斷地從主要佇列310的頂端取出工作，並且為此工作執行必要的操作。詳細說明如下：

步驟S510：從主要佇列310的頂端取出一個工作，可以是資料查詢工作等。

步驟S520：判斷主要佇列310中是否存在相同於取出工作的任何工作。如果是，則繼續進行步驟S530的處理；否則，繼續進行步驟S550的處理。詳細來說，處理單元210可判斷主要佇列310中是否存在任何一個工作，擁有相同的群組識別碼等。如果是，則代表主要佇列310中存在相同的工作。

在一些實施例中，從客戶端接收的請求中的特定查詢條件資訊可包含群組識別碼（Group ID），用以區分客戶端所發出的多個請求是否實質上是相同的。如果客戶端發出的多個資料查詢請求包含了相同的群組識別碼，代表這些資料查詢請求實質上是相同的。舉例來說，如果使用者在使用者介面上輸入完查詢條件，並且反覆按了查詢按鈕數次，則客戶端會發出包含相同的群組識別碼的多個資料查詢請求。相應於客戶端請求的不同的資料查詢工作可包含相同的群組識別碼。

在另一些實施例中，處理單元210可分析從客戶端接收的請求中的特定查詢條件資訊，在每一個工作附加適當的群組識別碼，用以區分這些工作是否實質上是相同的。如果處理單元210在多個資料查詢工作附加了相同的群組識別碼，代表這些資料查詢請求實質上是相同的。

步驟S530：丟棄此工作而不處理。由於相同的工作只要執行一次就可以，因此，處理單元210可以先將之前重複的工作丟棄，只執行最後一次的工作，用來避免伺服器110花費不必要的時間和資源來執行重複的工作。雖然之前重複的工作被丟棄，使用者依然可以獲得最後一次的工作執行結果。

步驟S540：判斷取出工作的是否需要處理。如果需要，則繼續進行步驟S550的處理；如果不需要，則繼續進行步驟S530的處理。處理單元210能夠依照需求為每一個工作賦予執行屬性，用於指出此工作需要執行，或者不需要執行。

步驟S550：判斷取出工作的類型是即時處理工作或者是批次處理工作。如果是即時處理工作，則繼續進行步驟S560的處理；如果是批次處理工作，則繼續進行步驟S590的處理。

步驟S560：依據取出工作中攜帶的資訊執行工作。例如，處理單元210從指定資料來源（如資料庫、資料快取510等）取得請求的資料。處理單元210可請求資料庫系統執行工作中攜帶的SQL字串來獲得請求資料。之後，處理單元210可通過伺服器110的通訊介面260回覆請求資料給客戶端。

步驟S590：將取出的快取更新工作遷移到二級佇列330的底端。

圖6是依據本新型實施例的處理二級佇列的工作的方法流程圖，由伺服器110的處理單元210（以下簡稱處理單元210以求簡明）於載入並執行特定軟體模組時實施，反覆執行一個迴圈（包含步驟S610至S660的操作），用於不斷地從二級佇列330的頂端取出工作，並為此工作執行必要的操作。詳細說明如下：

步驟S610：從二級佇列330的頂端取出一個工作，可以是資料查詢及更新快取工作等。

步驟S620：判斷二級佇列330中是否存在相同於取出工作的任何工作。如果是，則繼續進行步驟S630的處理；否則，繼續進行步驟S640的處理。詳細來說，處理單元210可判斷二級佇列330中是否存在任何一個工作，擁有相同於取出工作的群組識別碼等。如果是，則代表二級佇列330中存在相同的快取更新工作。

步驟S630：丟棄此工作而不處理。由於相同的工作只要執行一次就可以，因此，處理單元210可以先將之前重複的工作丟棄，只執行最後一次的工作，用來避免伺服器110花費不必要的時間和資源來執行重複的工作。舉例來說，雖然之前重複的工作被丟棄，資料快取410依然可以在執行最後一次的快取更新工作時獲得更新。

步驟S640：等待一段預設時間，例如5到7秒中的任意描述。

步驟S660：執行指定的工作。舉例來說，處理單元210依據取出的快取更新工作中攜帶的資訊從資料庫獲得相應資料查詢請求所請求的資料（指最新的資料），然後，將資料快取410中的相應資料查詢請求的原有資料更新為新獲得的資料。處理單元210更在更新完資料快取410的內容後，更新快取資料表430，用於反應資料快取410中的最新儲存內容的狀態。

以下舉幾個使用案例來說明如上所述的機制。圖7是依據本新型實施例的書籍搜尋的請求處理示意圖。假設使用者欲通過客戶端發送資料查詢請求給伺服器110，用於尋找具有特定關鍵字的書籍，並且伺服器110的資料快取410並沒有儲存搜尋結果。客戶端可使用超文本傳輸協定請求（Hypertext Transfer Protocol，HTTP Request）、超文本傳輸安全協定請求（Hypertext Transfer Protocol Secure，HTTPS Request）或其他通訊協定來發出資料查詢的請求，包含特定查詢條件的資訊，用於呼叫函數“findData()”。當伺服器110的處理單元210（以下簡稱處理單元210）執行函數“findData()”時，將相應於資料查詢請求的快取更新工作“X(Work)”入列到主要佇列310，其中的執行屬性指出此工作需要執行。接著，呼叫函數“findBook()”，用於尋找具有特定關鍵字的書籍。當處理單元210執行函數“findBook()”時，將相應於資料查詢請求的快取更新工作“X(NoWork)”入列到主要佇列310，其中的執行屬性指出此工作不需要執行。參考如圖8A所示的依據本新型實施例的主要佇列310和二級佇列330中儲存內容的示意圖。快取更新工作“X(Work)”儲存在主要佇列310的第0個項目，而快取更新工作“X(NoWork)”儲存在主要佇列310的第1個項目。接著，處理單元210執行函數“findBookFromDB()”來從資料庫獲得具有特定關鍵字的書籍的書目資料。除了將書目資料回覆給客戶端外，還將這些書目資料儲存到資料快取410。處理單元210可把書目資料儲存到資料快取410中的空閒空間（Empty Space），或者是把書目資料覆蓋掉資料快取410中最久沒有再被存取的資料。

參考如圖8B所示的依據本新型實施例的主要佇列310和二級佇列330中儲存內容的示意圖。接著，處理單元210從主要佇列310提取快取更新工作“X(Work)”，但因為主要佇列310還存在另一個相同的快取更新工作“X(NoWork)”（步驟S520中“是”的路徑），因此，快取更新工作“X(Work)”不執行（步驟S530）。接著，處理單元210從主要佇列310提取快取更新工作“X(NoWork)”，但因為其中的執行屬性指出此工作不需要執行（步驟S540中“否”的路徑），因此，快取更新工作“X(NoWork)”也不執行（步驟S530）。這樣一來，處理單元210不會在很短的時間中請求資料庫系統提供相同的書目資料，降低資料庫伺服器的負載。

圖9是依據本新型實施例的書籍搜尋的再次請求處理示意圖。假設使用者欲又通過客戶端發送相同的資料查詢請求給伺服器110，而伺服器110的資料快取410已經儲存了之前的搜尋結果。當伺服器110的處理單元210（以下簡稱處理單元210）執行函數“findData()”時，將相應於資料查詢請求的快取更新工作“X(Work)”入列到主要佇列310，其中的執行屬性指出此工作需要執行。接著，呼叫函數“findBook()”，用於尋找具有特定關鍵字的書籍。當處理單元210執行函數“findBook()”時，從資料快取410中獲得具有特定關鍵字的書籍的書目資料，並傳回給函數“findData()”，使得處理單元210能夠將書目資料回覆給客戶端。參考如圖10A所示的依據本新型實施例的主要佇列310和二級佇列330中儲存內容的示意圖。快取更新工作“X(Work)”儲存在主要佇列310的第0個項目。

參考如圖10B所示的依據本新型實施例的主要佇列310和二級佇列330中儲存內容的示意圖。接著，處理單元210從主要佇列310提取快取更新工作“X(Work)”，但因為此快取更新工作“X(Work)”是批次處理工作（步驟S550中“批次處理”的路徑），將快取更新工作“X(Work)”遷移到二級佇列330的第0個項目（步驟S590）。接著，處理單元210從二級佇列330提取快取更新工作“X(Work)”並執行，用於在睡一段預設時間後（步驟S640），處理單元210從資料庫獲得具有特定關鍵字的書籍的書目資料，並且將資料快取410中的原有資料更新為最新獲得的書目資料。

本新型所述的方法中的全部或部分步驟可以電腦程式實現，例如電腦的作業系統、電腦中特定硬體的驅動程式、或軟體應用程式。此外，也可實現於如上所示的其他類型程式。所屬技術領域具有通常知識者可將本新型實施例的方法撰寫成電腦程式，為求簡潔不再加以描述。依據本新型實施例方法實施的電腦程式，可儲存於適當的電腦可讀取資料載具，例如DVD、CD-ROM、USB碟、硬碟，亦可置於可通過網路（例如，網際網路，或其他適當載具）存取的網路伺服器。

雖然圖2中包含了以上描述的元件，但不排除在不違反新型的精神下，使用更多其他的附加元件，已達成更佳的技術效果。此外，雖然圖5和圖6的步驟採用指定的順序來執行，但是在不違反新型精神的情況下，熟習此技藝人士可以在達到相同效果的前提下，修改這些步驟間的順序，所以，本新型並不侷限於僅使用如上所述的順序。此外，熟習此技藝人士亦可以將若干步驟整合為一個步驟，或者是除了這些步驟外，循序或平行地執行更多步驟，本新型亦不因此而侷限。

雖然本新型使用以上實施例進行說明，但需要注意的是，這些描述並非用以限縮本新型。相反地，此新型涵蓋了熟習此技藝人士顯而易見的修改與相似設置。所以，申請權利要求範圍須以最寬廣的方式解釋來包含所有顯而易見的修改與相似設置。

100:網路 110:應用程式伺服器 151:桌上型電腦 153:平板電腦 155:手機 210:處理單元 220:顯示單元 230:輸入裝置 240:儲存裝置 250:記憶體 260:通訊介面 310:主要佇列 330:二級佇列 410:資料快取 430:快取資料表 S510~S590:方法步驟 S610~S660:方法步驟 X:資料查詢工作

圖1是依據本新型實施例的網路系統架構圖。圖2是依據本新型實施例的運算裝置的系統架構圖。圖3是依據本新型實施例的佇列配置示意圖。圖4是依據本新型實施例的伺服器中的記憶體的空間配置示意圖。圖5是依據本新型實施例的處理主要佇列的工作的方法流程圖。圖6是依據本新型實施例的處理二級佇列的工作的方法流程圖。圖7是依據本新型實施例的書籍搜尋的請求處理示意圖。圖8A和圖8B是依據本新型實施例的主要佇列和二級佇列中儲存內容的示意圖。圖9是依據本新型實施例的書籍搜尋的再次請求處理示意圖。圖10A和圖10B是依據本新型實施例的主要佇列和二級佇列中儲存內容的示意圖。

110:應用程式伺服器

151:桌上型電腦

153:平板電腦

155:手機

210:處理單元

220:顯示單元

230:輸入裝置

240:儲存裝置

250:記憶體

260:通訊介面

Claims

一種電腦程式產品，用於管理資料快取，包含能夠被一伺服器的一處理單元載入並執行的程式碼，用於：從一客戶端接收到一資料查詢請求；當上述資料查詢請求所請求的一第一資料儲存在一記憶體中的一資料快取時，從上述資料快取獲得請求的上述第一資料，以及回覆上述第一資料給上述客戶端；以及當上述資料查詢請求所請求的上述第一資料儲存在上述記憶體中的上述資料快取並且在回覆上述第一資料給上述客戶端之後，睡至少一段預設時間後再從一資料庫獲得相應於上述資料查詢請求的一第二資料，以及將上述資料快取中的上述第一資料更新為上述第二資料。
如請求項1所述的電腦程式產品，其中，上述預設時間為5到7秒間的任意秒數。
如請求項1所述的電腦程式產品，包含程式碼，用於：當上述資料查詢請求所請求的上述第一資料沒有儲存在上述記憶體中的上述資料快取時，從上述資料庫獲得相應於上述資料查詢請求的上述第一資料，回覆上述第一資料給上述客戶端，以及將上述第一資料儲存到上述資料快取之中。
一種管理資料快取的裝置，包含：一記憶體，用於配置空間給一資料快取、一主要佇列和一二級佇列；一通訊介面；以及一處理單元，耦接上述記憶體和上述通訊介面，用於通過上述通訊介面從一客戶端接收到一資料查詢請求；當上述資料查詢請求所請求的一第一資料儲存在上述資料快取時，從上述資料快取獲得上述第一資料，並回覆上述第一資料給上述客戶端；以及將一第一快取更新工作入列到上述主要佇列，用於在一段預設時間後，從一資料庫獲取相應於上述資料查詢請求的一第二資料，並且將上述資料快取中的上述第一資料更新為上述第二資料。
如請求項4所述的管理資料快取的裝置，其中，上述預設時間為5到7秒間的任意秒數。
如請求項4所述的管理資料快取的裝置，其中，上述處理單元從上述主要佇列取得上述第一快取更新工作；以及在判斷上述快取更新工作為批次處理工作後，將上述第一快取更新工作遷移到上述二級佇列。
如請求項6所述的管理資料快取的裝置，其中，上述處理單元從上述二級佇列取得上述第一快取更新工作；在一段預設時間後，從上述資料庫獲取相應於上述資料查詢請求的上述第二資料，並且將上述資料快取中的上述第一資料更新為上述第二資料。
如請求項4所述的管理資料快取的裝置，其中，當上述資料查詢請求所請求的上述第一資料沒有儲存在上述資料快取時，從一資料庫獲得上述第一資料，回覆上述第一資料給上述客戶端，將上述第一資料儲存於上述資料快取中；將一第二快取更新工作入列到上述主要佇列，其中上述第二快取更新工作包含一第一執行屬性，指出上述第二快取更新工作需要執行；以及將一第三快取更新工作入列到上述主要佇列，其中上述第三快取更新工作包含一第二執行屬性，指出上述第三快取更新工作不需要執行。
如請求項8所述的管理資料快取的裝置，其中，上述處理單元提取上述第二快取更新工作；以及在判斷上述主要佇列中存在實質相同的上述第三快取更新工作後，放棄上述第二快取更新工作而不執行。
如請求項9所述的管理資料快取的裝置，其中，上述處理單元提取上述第三快取更新工作；以及在判斷上述第三快取更新工作包含不需要執行的上述第二執行屬性後，放棄上述第三快取更新工作而不執行。