TW202316267A

TW202316267A - 判定快取存活時間之系統、方法及電腦可讀媒體

Info

Publication number: TW202316267A
Application number: TW110136466A
Authority: TW
Inventors: 嘉駿雷; 巫劭元; 鄭明哲
Original assignee: 日商Ｌｉｖｅ股份有限公司
Priority date: 2021-09-30
Filing date: 2021-09-30
Publication date: 2023-04-16

Abstract

本發明係關於一種用於判定一快取伺服器上之一資料物件之一存活時間(TTL)之系統、方法及電腦可讀媒體。該方法包含：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。本發明可向使用者提供最新資料物件且保護後端伺服器以免過載。

Description

判定快取存活時間之系統、方法及電腦可讀媒體

本發明係關於一網際網路上之資訊之儲存，且更特定言之，本發明係關於網際網路之一快取區上之資料物件之儲存。

快取區或快取技術在包含作業系統、網路層(包含內容遞送網路(CDN))、網域名稱系統(DNS)、網頁應用程式及資料庫之技術中得到應用及利用。吾人可使用快取來減少延時且改良諸多讀取密集型應用程式工作負載(諸如Q&A入口、遊戲、媒體分享、內容串流及社群網路)之每秒輸入/輸出操作(IOPS)。快取資訊可包含資料庫查詢結果、運算密集型計算、應用程式設計介面(API)請求/回應及網頁工件(諸如HTML、JavaScript及影像檔案)。

快取對於CDN服務而言至關重要。一CDN將一網站伺服器或一後端伺服器(諸如一應用程式之一後端伺服器)上之內容/資料物件或內容/資料物件之一副本移動至代理伺服器或快取伺服器，其中內容可由自一附近位置存取之應用程式之網站訪客或使用者快速存取。

存活時間(TTL)係一內容/資料物件(或內容/資料物件之一副本)在其被刪除或再新之前儲存於一快取系統(諸如一快取伺服器)中之時間。在CDN之背景中，TTL通常係指內容快取，其係將一網站或一應用程式伺服器上之資源之一副本(例如影像、價格、文字、串流內容)儲存於CDN快取伺服器上以提高頁面載入速度且減少源伺服器上之頻寬消耗及工作負載之程序。

一種根據本發明之一個實施例之方法係用於判定一快取伺服器上之一資料物件之一存活時間(TTL)之一方法，其由一個或複數個電腦執行且包含：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。

一種根據本發明之一個實施例之系統係用於判定包含一個或複數個處理器之一快取伺服器上之一資料物件之一TTL之一系統，且該一個或複數個電腦處理器執行一機器可讀指令以執行：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。

一種根據本發明之一個實施例之電腦可讀媒體係包含用於判定一快取伺服器上之一資料物件之一TTL之一程式之一非暫時性電腦可讀媒體，且該程式引起一個或複數個電腦執行：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。

一資料物件之一TTL控制一快取伺服器上之資料物件(或資料物件之一副本)之再新速率，理想情況下確保資料物件之「過時」版本不會提供給訪問其中可存取資料物件之應用程式或網站之訪客。一TTL直接影響一應用程式或一網站之一頁面載入時間(即，快取資料載入更快)，以及內容新鮮度(即，快取過久之資料可變成過時的)。

靜態檔案或資料物件(例如影像檔案、PDF等等)很少更新且因此通常具有一較長TTL。例如，一電子商務網站之產品影像集合表示靜態內容。由於其等很少再新，所以將其快取一延長時間段(例如幾天或幾週)係安全的。此使得設定其TTL可預測且易於維護。

相反地，動態內容或資料物件(例如HTML檔案)持續更新，使得準確設定TTL複雜化。例如，一產品下之一評論部分被視為動態，因為其頻繁變化。若將TTL設定太長，則評論無法及時反映。

TTL設定之另一關注點係存取資料物件之使用者之數目。若將一TTL設定太短，同時仍有很多使用者嘗試存取對應資料物件，則存在一風險：當TTL結束時，諸多使用者需要存取資料物件之源伺服器(可藉由直接存取源伺服器或藉由透過快取伺服器存取源伺服器來完成)，因為其等無法在快取伺服器上獲得回應。當源伺服器由超出源伺服器可支援之一最大容量之數目個使用者存取時，其通常導致源伺服器之每秒查詢數(QPS)過量或過載，伺服器會崩潰或部分使用者無法成功達成存取資料。

因此，如何根據諸如一資料物件之更新頻率或存取資料物件之使用者之數目之因數來判定一快取伺服器上之資料物件之TTL對於提供最新資料、防止使用者存取失敗或保護源伺服器以免失效而言至關重要。在一些實施例中，一資料物件可指稱一資源或一資源資料。

圖1展示根據本發明之一些實施例之一通信系統1之一示意組態。通信系統1可提供具有經由一內容之互動之一即時串流服務。此處，術語「內容」指代可在一電腦裝置上播放之一數位內容。換言之，通信系統1使一使用者能夠線上參與與其他使用者之即時互動。通信系統1包含複數個使用者終端機10、一後端伺服器30及一串流伺服器40。使用者終端機10、後端伺服器30及串流伺服器40經由一網路90 (其可為(例如)網際網路)連接。後端伺服器30可為用於同步使用者終端機及/或串流伺服器40之間的互動之一伺服器。在一些實施例中，後端伺服器30可指稱一應用程式(APP)提供者之源伺服器。串流伺服器40係用於處理或提供串流資料或視訊資料之一伺服器。在一些實施例中，後端伺服器30及串流伺服器40可為獨立伺服器。在一些實施例中，後端伺服器30及串流伺服器40可整合成一個伺服器。在一些實施例中，使用者終端機10係用於即時串流之用戶端裝置。在一些實施例中，使用者終端機10可指稱觀看者、直播主、主播、播客、觀眾、聽眾或其類似者。使用者終端機10、後端伺服器30及串流伺服器40之各者係一資訊處理裝置之一實例。在一些實施例中，串流可為即時串流或視訊重播。在一些實施例中，串流可為音訊串流及/或視訊串流。在一些實施例中，串流可包含諸如線上購物、脫口秀、選秀節目、娛樂事件、運動事件、音樂視訊、電影、喜劇、音樂會或其類似者之內容。

圖2展示通信系統1之一例示性功能組態。在圖2中，省略網路90且一CDN伺服器50經展示以連接使用者終端機10及後端伺服器30。CDN伺服器50可為網路90之部分。在一些實施例中，CDN伺服器50可充當一快取伺服器。

在此實施例中，使用者終端機10包含一UI單元11、一解碼器12、一渲染器13及一顯示器13。使用者終端機10可藉由(例如)發送API請求且接收API回應來透過CDN伺服器50針對其資料物件存取後端伺服器30及串流伺服器40。解碼器12解碼接收之資料物件(其可為一串流資料)以使渲染器13產生將顯示於顯示器14上之視訊。顯示器14將視訊表示或展示於使用者終端機10之電腦螢幕上。UI單元11經組態以與使用者終端機10之一使用者互動(例如)以接收使用者相對於應用程式之操作。在一些實施例中，使用者終端機10可包含用於編碼視訊以產生串流資料之一編碼器(圖中未展示)。

圖2中所展示之實施例中之CDN伺服器50包含一快取偵測器52、一快取儲存單元54及一TTL管理單元56。快取偵測器52經組態以檢查CDN伺服器50是否具有儲存有來自一先前提取或存取之一請求資料物件或資源。快取儲存單元54經組態以儲存先前由一使用者終端機10自後端伺服器30及/或串流伺服器40提取之資料物件(或資料物件之副本)。TTL管理單元55管理各資料物件之將儲存於快取儲存單元54中之TTL或時間段。

例如，當CDN伺服器50自使用者終端機10接收一請求(諸如一API請求)以將一資料物件存取於後端伺服器30中，快取偵測器52可執行一映射操作或一比較操作以偵測請求資料物件是否儲存於快取儲存單元54中。若請求資料物件可在快取儲存單元54中找到(其可指稱一快取命中)，則CDN伺服器50在無需存取後端伺服器30之情況下將儲存資料物件或快取資料物件傳輸至使用者終端機10。若請求資料物件無法在快取儲存單元54中找到(其可指稱一快取未中)，則CDN伺服器50可將請求傳遞至後端伺服器30以存取資料物件。一快取未中可在第一次請求資料物件或儲存於快取儲存單元54中之資料物件之TTL (自先前提取起)逾時時發生。

圖2中所展示之實施例中之後端伺服器30包含一處理單元31、一儲存單元32、一頻率偵測單元33及一使用者數目偵測單元34。後端伺服器30自CDN伺服器50接收請求且以對應資料物件回應。後端伺服器30可自CDN伺服器50接收一API請求且返回一API回應。API回應可包含請求資料物件及其對應TTL資訊。TTL資訊可在TTL管理單元56中用於設定儲存於快取儲存單元54中之資料物件之TTL。

儲存單元32可儲存各種資料及程式，包含將由使用者終端機10透過CDN伺服器50存取之資料物件。頻率偵測單元33經組態以偵測或接收一資料物件之一更新頻率。在一些實施例中，頻率偵測單元33可存取一外部統計系統(諸如Datadog)用於更新頻率，其可由一API請求完成。使用者數目偵測單元34經組態以偵測或接收存取一資料物件之使用者之一數目。在一些實施例中，使用者數目偵測單元34可存取一外部資料庫(諸如一Datadog資料庫)用於使用者之數目，其可由一API請求完成。在諸多其他功能中，處理單元31經組態以回應於來自CDN伺服器50之請求而判定將更新或回應於CDN伺服器50之一資料物件之一TTL。在一些實施例中，處理單元31基於資料物件之更新頻率及/或存取資料物件之使用者之數目來判定TTL。

在一些實施例中，處理單元31經組態為一CPU、一GPU或其類似者，讀取可為一APP之部分且儲存於儲存單元32中之各種程式，且執行包含於程式中之各種類型之命令或機器可讀指令。在一些實施例中，包含於後端伺服器30中之以上組件之各者可被視為一處理單元或一處理器。

在一些實施例中，後端伺服器30係用於提供即時串流服務之一應用程式之一源伺服器。在此情況中，後端伺服器30中之資料物件可包含表示或對應於直播主之一排行榜之一資料物件、表示或對應於一評論或訊息資訊之一資料物件及/或表示或對應於應用程式之一頁面(其可為由諸多使用者存取之一流行頁面或一熱頁)之一資料物件。串流伺服器40中之資料物件可包含來自直播主之串流資料。

圖3展示繪示根據本發明之一些實施例之一通信系統之一操作之一例示性序列圖。在一些實施例中，圖3表示一後端伺服器中之一資料物件如何回應於來自一使用者終端機之一請求而複製、更新或傳輸至一CDN伺服器。

在步驟S100中，使用者終端機10將一API請求傳輸至CDN伺服器50以請求(例如)可表示或對應於一應用程式或一網站之一頁面、一排行榜或一訊息區段之一資料物件或一資源。

在步驟S102中，CDN伺服器50判定是否儲存有請求資料物件。例如，快取偵測器52可執行一搜尋操作或一映射操作以判定請求資料物件是否儲存於快取儲存單元54中。在此實施例中，請求資料物件無法在快取儲存單元54中找到(其導致一快取未中)，且流程進入步驟S104。

在步驟S104中，CDN伺服器50針對由使用者終端機10請求之資料物件將一API請求傳輸(或將使用者終端機10之API請求傳遞)至後端伺服器30。

在步驟S106中，後端伺服器30準備或擷取請求資料物件且判定資料物件之一TTL，其控制資料物件將儲存於CDN伺服器50上多長的時間。稍後將描述有關TTL判定之細節。

在步驟S108中，後端伺服器30將一API回應(其至少包含請求資料物件(資料物件之副本)及對應TTL資訊)傳輸至CDN伺服器50。TTL資訊將由CDN伺服器50之TTL管理單元56用於管理資料物件之儲存時長。

在步驟S110中，CDN伺服器50自後端伺服器30接收API回應，其包含請求資料物件及其TTL資訊。CDN伺服器50可將資料物件儲存於快取儲存單元54中且根據TTL資訊來設定TTL管理單元56中之對應TTL。

在步驟S112中，CDN伺服器50將一API回應(其至少包含請求資料物件)傳輸至使用者終端機10。目前為止，已完成存取一資料物件之一例示性回合且使用者終端機10可將接收資料物件用於一應用程式中之一操作，例如用於檢查一排行榜，檢視應用程式之一頁面或獲得最新評論資訊。

在步驟S114中，使用者終端機10將一API請求再次傳輸至CDN伺服器50以存取相同資料物件，其可遵循應用程式中更新一頁面、一排行榜或一評論區段之一週期需要或觸發。

在步驟S116中，CDN伺服器50判定是否儲存有請求資料物件。例如，快取偵測器52可執行一搜尋操作或一映射操作以判定請求資料物件是否儲存於快取儲存單元54中。在此實例中，先前提取或存取之資料物件已在步驟S110中儲存於快取儲存單元54中，且對應TTL尚未逾時。因此，請求資料物件可在快取儲存單元54中找到(其導致一快取命中)，且流程在無需存取後端伺服器30之情況下進入步驟S118。

在步驟S118中，CDN伺服器50將一API回應(其至少包含儲存於快取儲存單元54中之請求資料物件)傳輸至使用者終端機10。在此情況中，資料物件之內容未改變。

圖4展示繪示根據本發明之一些實施例之一程序之一流程圖。圖4展示後端伺服器30在圖3之步驟S106中如何判定存取資料物件之TTL。

在步驟S200中，請求資料物件之一更新頻率(例如)由後端伺服器30之頻率偵測單元33偵測或接收。在一些實施例中，頻率偵測單元33可存取一外部資料庫(諸如一Datadog資料庫)用於更新頻率，其可由一API請求完成。資料物件可依各種方式更新。例如，對應於一排行榜或一評論區段之一資料物件可由來自各種使用者終端機之貼文或輸入資訊更新至管理或保存資料物件之一資料庫(其可為後端伺服器或一單獨資料庫)中。作為另一實例，對應於一應用程式之一熱頁或一流行頁面之一資料物件可由應用程式之後端伺服器更新，因此無需存取另一資料庫用於更新頻率。

在步驟S202中，一最大存活時間TTLmax係(例如)由後端伺服器30之處理單元31基於資料物件之更新頻率來判定。在一些實施例中，TTLmax經判定為在資料物件之更新頻率增加時越短。在一些實施例中，TTLmax與更新頻率成反比。在一些實施例中，TTLmax經判定為等於或小於資料物件之更新頻率之一倒數。例如，若更新頻率係每秒2次，則TTLmax可等於或小於1/2秒。又例如，若更新頻率係每5秒1次，則TTLmax可等於或小於5秒。在一些實施例中，可考量網際網路中之信號傳輸延時且TTLmax可經設定以具有自更新頻率之倒數之一預定偏移，其中預定偏移用於涵蓋或補償信號傳輸延時或一API回應時間且可根據諸如網路情況之實際應用來判定。例如，若更新頻率係每5秒1次，則TTLmax可等於(5-2)秒，其中5係頻率之倒數且2係預定偏移。

在步驟S204中，存取資料物件之使用者之一數目(例如)由後端伺服器30之使用者數目偵測單元34偵測或接收。在一些實施例中，使用者數目偵測單元34可存取一外部資料庫(諸如一Datadog資料庫)用於使用者數目，其可由一API請求完成。

在步驟S206中，一最小存活時間TTLmin (例如)由後端伺服器30之處理單元31基於存取資料物件之使用者之數目來判定。在一些實施例中，TTLmin經判定為在存取資料物件之使用者之數目增加時越長。在一些實施例中，TTLmin經判定使得TTLmin逾時之後來自到達提供資料物件之後端伺服器之使用者之數目之一估計QPS低於後端伺服器之一最大QPS容量。

在步驟S208中，資料物件之一TTL (例如)由後端伺服器30之處理單元31基於最大存活時間TTLmax及最小存活時間TTLmin來判定。在一些實施例中，TTL經判定為等於或大於TTLmin。在一些實施例中，TTL經判定為等於或小於TTLmax。在一些實施例中，TTL經判定為等於或小於TTLmax且等於或大於TTLmin。在一些實施例中，若TTLmax等於或小於TTLmin，則TTL經判定為TTLmin。

在一些實施例中，最大存活時間TTLmax設定TTL之一最大值，藉此確保使用者終端機始終獲得最新版本之資料物件。針對具有一較高更新頻率之一資料物件，對應TTLmax將設定為更短且資料物件將在CDN伺服器上存在一更短時間。因此，來自使用者終端機之資料物件之請求將需要通過CDN伺服器以依一較高頻率存取後端伺服器(一旦TTLmax逾時且資料物件無法在CDN伺服器上找到)以獲得最新版本之資料物件。在一些實施例中，針對具有一較低更新頻率之一資料物件，對應TTLmax將設定為更長且資料物件將在CDN伺服器上存在一更長時間。因此，來自使用者終端機之資料物件之請求將需要通過CDN伺服器以依一較低頻率存取後端伺服器(一旦TTLmax逾時且資料物件無法在CDN伺服器上找到)，其可減輕後端伺服器之一負擔。

在一些實施例中，資料物件之更新頻率可(例如)由圖2中之後端伺服器30之頻率偵測單元33持續或週期性地監測或追蹤。處理單元31可利用持續監測之更新頻率來持續判定TTLmax，且接著基於TTLmax及theTTLmin來判定TTL。在一些實施例中，後端伺服器30可將TTL資訊持續更新至CDN伺服器50以設定儲存於CDN伺服器50中之對應資料物件之TTL。在一些實施例中，一旦偵測到資料物件之一更新頻率變化，後端伺服器30即可將TTL資訊更新至CDN伺服器50以確保由使用者終端機存取之資料物件處於其最新版本。在一些實施例中，TTL更新無需來自CDN伺服器50之一請求。

在一些實施例中，最小存活時間TTLmin設定TTL之一最小值，藉此防止後端伺服器(例如)在TTLmin剛好逾時之後之一時間及/或在資料物件傳輸或複製至快取伺服器之前之一時間被來自使用者終端機之請求淹沒或過載。針對由較大數目個使用者終端機存取之一資料物件，對應TTLmin將設定為更長且資料物件可在CDN伺服器上存在一更長時間。因此，來自使用者終端機之資料物件之請求在存取資料物件之使用者之數目仍高時將無需通過CDN伺服器以存取後端伺服器一較長時間段，且後端伺服器崩潰或存取失敗之風險可降低。

在一些實施例中，TTLmin可由將在即將到來之一時間(其可為(例如) 10秒、30秒或1分鐘後)存取對應資料物件之使用者之一估計數目判定。估計使用者數目可由各種估計機制(其可包含由諸如使用者行為資料、應用程式事件資料及/或其相關性資料之歷史資料訓練之機器學習演算法)達成。例如，TTLmin可設定成其後估計或預期存取資料物件之使用者之數目減少至不會使後端伺服器處於一崩潰風險或不會引起存取失敗之一位準之一長度。

在一些實施例中，存取資料物件之使用者之數目可(例如)由圖2中之後端伺服器30之使用者數目偵測單元34持續或週期性地監測或追蹤。處理單元31利用持續監測之存取使用者數目來持續判定TTLmin，且接著基於TTLmax及TTLmin來判定TTL。在一些實施例中，後端伺服器30可將TTL資訊持續更新至CDN伺服器50以設定儲存於CDN伺服器50中之對應資料物件之TTL。在一些實施例中，TTL更新無需來自CDN伺服器50之一請求。例如，針對預期由較大數目個使用者存取之一資料物件(例如對應於一應用程式之一熱頁之一資料物件)，後端伺服器30可根據即時存取使用者數目來連續或持續更新TTL設定。如上文所描述，TTL之判定始終考量最新存取使用者數目且因此可最小化後端伺服器在CDN伺服器中之TTL逾時之後崩潰或存取失敗之風險。在一些實施例中，TTLmin (及因此TTL)可在對應資料物件由更多使用者終端機存取時更頻繁地判定及/或更新至CDN伺服器。

可存在其中TTLmax等於或小於TTLmin之一情形。例如，若一資料物件具有一高更新頻率且由較大數目個使用者存取，則資料物件可具有一短TTLmax及一長TTLmin。在一些實施例中，若TTLmax等於或小於TTLmin，則TTL將被判定為TTLmin。即，在一些實施例中，TTLmin可在判定TTL時具有比TTLmax高之優先級或重要性權重，因為TTLmin之一個目的係保護後端伺服器免於過載或崩潰。

基於TTLmin來判定TTL之另一益處在於可省略或簡化用於減輕後端伺服器之負擔之一複雜機制。例如，可節省一速率限制機制或額外後端伺服器之一實施。在一些實施例中，可節省會需要額外基礎設施實施之一伺服器負載平衡機制或具有高效分配或平衡後端伺服器之負載之能力之一複雜快取伺服器。因此，可節省操作對應應用程式之成本。

本發明中所描述之處理及程序可由除明確描述之內容之外之軟體、硬體、或軟體及硬體之任何組合實現。例如，本說明書中所描述之處理及程序可藉由實施一媒體(諸如一積體電路、一揮發性記憶體、一非揮發性記憶體、一非暫時性電腦可讀媒體及一磁碟)中對應於處理及程序之一邏輯來實現。此外，本說明書中所描述之處理及程序可實施為對應於處理及程序之一電腦程式，且可由各種類型之電腦執行。

此外，以上實施例中所描述之系統或方法可整合至儲存於一電腦可讀非暫時性媒體(諸如一固態記憶體裝置、一光碟儲存裝置或一磁碟儲存裝置)中之程式中。替代地，程式可經由網際網路自一伺服器下載且由處理器執行。

儘管上文描述本發明之技術內容及特徵，但具有本發明之技術領域中之常識的人仍可在不違背本發明之教示及揭示內容之情況下作出諸多變動及修改。因此，本發明之範疇不限於已揭示之實施例，而是包含不違背本發明之另一變動及修改，且係由專利申請範圍涵蓋之範疇。

1:通信系統 10:使用者終端機 11:UI單元 12:解碼器 13:渲染器 14:顯示器 30:後端伺服器 31:處理單元 32:儲存單元 33:頻率偵測單元 34:使用者數目偵測單元 40:串流伺服器 50:CDN伺服器 52:快取偵測器 54:快取儲存單元 56:TTL管理單元 90:網路 S100:步驟 S102:步驟 S104:步驟 S106:步驟 S108:步驟 S110:步驟 S112:步驟 S114:步驟 S116:步驟 S118:步驟 S200:步驟 S202:步驟 S204:步驟 S206:步驟 S208:步驟

圖1展示根據本發明之一些實施例之一通信系統之一示意組態。

圖2展示根據本發明之一些實施例之一通信系統之一例示性功能組態。

圖3展示繪示根據本發明之一些實施例之一通信系統之一操作之一例示性序列圖。

圖4展示繪示根據本發明之一些實施例之一程序之一流程圖。

S200:步驟

S202:步驟

S204:步驟

S206:步驟

S208:步驟

Claims

一種用於判定一快取伺服器上之一資料物件之一存活時間(TTL)之方法，其包括：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。
如請求項1之方法，其進一步包括基於存取該資料物件之使用者之該數目來判定一最小存活時間(TTLmin)，其中該TTLmin經判定為在存取該資料物件之使用者之該數目增加時越長，且該TTL經判定為等於或大於該TTLmin。
如請求項1之方法，其進一步包括基於該資料物件之該更新頻率來判定一最大存活時間(TTLmax)，其中該TTLmax經判定為在該資料物件之該更新頻率增加時越短，且該TTL經判定為等於或小於該TTLmax。
如請求項1之方法，其進一步包括：基於存取該資料物件之使用者之該數目來判定一最小存活時間(TTLmin)，其中該TTLmin經判定為在存取該資料物件之使用者之該數目增加時越長；及基於該資料物件之該更新頻率來判定一最大存活時間(TTLmax)，其中該TTLmax經判定為在該資料物件之該更新頻率增加時越短，且該TTL經判定為等於或小於該TTLmax且等於或大於該TTLmin。
如請求項4之方法，其中若該TTLmax等於或小於TTLmin，則該TTL經判定為TTLmin。
如請求項2之方法，其中該TTLmin經判定使得該TTLmin逾時之後來自到達提供該資料物件之一後端伺服器之使用者數目之一估計最大每秒查詢數(QPS)低於該後端伺服器之一最大QPS容量。
如請求項3之方法，其中該TTLmax經判定為等於或小於該資料物件之該更新頻率之一倒數。
如請求項1之方法，其中該資料物件對應於一應用程式之一頁面。
如請求項1之方法，其中該資料物件對應於一應用程式之一排行榜。
如請求項1之方法，其進一步包括：持續偵測存取該資料物件之使用者之該數目；基於該更新頻率及該持續偵測之使用者數目來持續判定該TTL；及將該TTL持續更新至該快取伺服器。
如請求項4之方法，其中持續偵測存取該資料物件之使用者之該數目且基於持續偵測之存取該資料物件之使用者之該數目來持續判定該TTLmin，該TTL經持續判定為等於或小於該TTLmax且等於或大於該TTLmin，且該TTL持續更新至該快取伺服器。
一種用於判定一快取伺服器上之一資料物件之一存活時間(TTL)之系統，其包括一個或複數個處理器，其中該一個或複數個處理器執行一機器可讀指令以執行：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。
如請求項12之系統，其中該一個或複數個處理器執行該機器可讀指令以進一步執行：基於存取該資料物件之使用者之該數目來判定一最小存活時間(TTLmin)，其中該TTLmin經判定為在存取該資料物件之使用者之該數目增加時越長，且該TTL經判定為等於或大於該TTLmin。
如請求項12之系統，其中該一個或複數個處理器執行該機器可讀指令以進一步執行：基於該資料物件之該更新頻率來判定一最大存活時間(TTLmax)，其中該TTLmax經判定為在該資料物件之該更新頻率增加時越短，且該TTL經判定為等於或小於該TTLmax。
如請求項12之系統，其中該一個或複數個處理器執行該機器可讀指令以進一步執行：基於存取該資料物件之使用者之該數目來判定一最小存活時間(TTLmin)，其中該TTLmin經判定為在存取該資料物件之使用者之該數目增加時越長；及基於該資料物件之該更新頻率來判定一最大存活時間(TTLmax)，其中該TTLmax經判定為在該資料物件之該更新頻率增加時越短，且該TTL經判定為等於或小於該TTLmax且等於或大於該TTLmin。
如請求項15之系統，其中若該TTLmax等於或小於TTLmin，則該TTL經判定為TTLmin。
如請求項12之系統，其中該一個或複數個處理器執行該機器可讀指令以進一步執行：持續偵測存取該資料物件之使用者之該數目；基於該更新頻率及該持續偵測之使用者數目來持續判定該TTL；及將該TTL持續更新至該快取伺服器。
如請求項15系統，其中持續偵測存取該資料物件之使用者之該數目且基於持續偵測之存取該資料物件之使用者之該數目來持續判定該TTLmin，該TTL經持續判定為等於或小於該TTLmax且等於或大於該TTLmin，且該TTL持續更新至該快取伺服器。
一種包含用於判定一快取伺服器上之一資料物件之一存活時間(TTL)之一程式之非暫時性電腦可讀媒體，其中該程式引起一個或複數個電腦執行：偵測該資料物件之一更新頻率；偵測存取該資料物件之使用者之一數目；及基於該更新頻率及該使用者數目來判定該TTL。
如請求項19之非暫時性電腦可讀媒體，其中該程式引起該一個或複數個電腦進一步執行：基於存取該資料物件之該使用者數目來判定一最小存活時間(TTLmin)，其中該TTLmin經判定為在存取該資料物件之使用者之該數目增加時越長；及基於該資料物件之該更新頻率來判定一最大存活時間(TTLmax)，其中該TTLmax經判定為在該資料物件之該更新頻率增加時越短，且該TTL經判定為等於或小於該TTLmax且等於或大於該TTLmin。