JP2021152833A - キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置 - Google Patents

キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置 Download PDF

Info

Publication number
JP2021152833A
JP2021152833A JP2020053621A JP2020053621A JP2021152833A JP 2021152833 A JP2021152833 A JP 2021152833A JP 2020053621 A JP2020053621 A JP 2020053621A JP 2020053621 A JP2020053621 A JP 2020053621A JP 2021152833 A JP2021152833 A JP 2021152833A
Authority
JP
Japan
Prior art keywords
request
response
cache
processes
management program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020053621A
Other languages
English (en)
Other versions
JP7143866B2 (ja
Inventor
博和 田中
Hirokazu Tanaka
博和 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2020053621A priority Critical patent/JP7143866B2/ja
Priority to EP21163168.4A priority patent/EP3910483B1/en
Priority to CN202110300670.5A priority patent/CN113449220A/zh
Priority to US17/208,149 priority patent/US11467958B2/en
Publication of JP2021152833A publication Critical patent/JP2021152833A/ja
Priority to JP2022146087A priority patent/JP7548281B2/ja
Application granted granted Critical
Publication of JP7143866B2 publication Critical patent/JP7143866B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0893—Caches characterised by their organisation or structure
    • G06F12/0897—Caches characterised by their organisation or structure with two or more cache hierarchy levels
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/957—Browsing optimisation, e.g. caching or content distillation
    • G06F16/9574—Browsing optimisation, e.g. caching or content distillation of access to content, e.g. by caching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0893—Caches characterised by their organisation or structure
    • G06F12/0895—Caches characterised by their organisation or structure of parts of caches, e.g. directory or tag array
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/60—Details of cache memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Memory System Of A Hierarchy Structure (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】キャッシュを用いて処理を効率化する技術を提供する。【解決手段】一実施形態に係る情報処理装置は、リクエストと、リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、リクエストに応じたレスポンスを生成するための複数の処理を実行する実行部と、複数の処理の実行結果に基づき生成したレスポンスを、リクエストと対応づけて第１キャッシュに格納する第１格納部と、複数の処理のそれぞれの処理の入力データと対応づけて、処理の実行結果を第２キャッシュに格納する第２格納部と、リクエストに対してレスポンスを返す返信部と、を含む。【選択図】図５

Description

本発明は、キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置に関する。
処理の高速化のためにキャッシュが利用されている。例えば、一度利用したデータなどをキャッシュとして保存しておくことで、その後また同じデータを利用する場合に高速に処理を実行することができる。例えば、ウェブ（Web）ブラウザでは、一度閲覧したウェブページやそのウェブページで使われている画像がキャッシュとして記憶装置に保存されている。それにより、同じウェブページを後から再表示する場合、改めてサーバと通信してデータを取得しなくても、キャッシュからデータを読み込むことができるため、表示を高速化することができる。
また、キャッシュの利用に関し、オフライン状態でもサーバと通信せずに応答を行うことに関連する技術が知られている（例えば、特許文献１）。
特開２０１１−１６４７４９号公報
しかしながら、近年、技術の発展に伴い、様々なウェブサービスが提供されるようになっており、それに応じて通信負荷や処理負荷が増大している。そのため、通信負荷や処理負荷を軽減することのできる更なる技術の提供が望まれている。
１つの側面では本発明は、キャッシュを用いて処理を効率化する技術を提供することを目的とする。
本発明の一つの態様の情報処理装置は、リクエストと、リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、リクエストに応じたレスポンスを生成するための複数の処理を実行する実行部と、複数の処理の実行結果に基づき生成したレスポンスを、リクエストと対応づけて第１キャッシュに格納する第１格納部と、複数の処理のそれぞれの処理の入力データと対応づけて、処理の実行結果を第２キャッシュに格納する第２格納部と、リクエストに対してレスポンスを返す返信部と、を含む。
キャッシュを用いて処理を効率化する技術を提供することができる。
実施形態に係るキャッシュ管理システムを例示する図である。 実施形態に係る情報処理装置のブロック構成を例示する図である。 実施形態に係る情報処理装置がリクエストに対して実行する処理の動作フローを例示する図である。 実施形態に係るリクエストと対応するレスポンスを生成する処理を実行するスレッドを例示する図である。 レスポンスの生成の流れを例示する図である。 第１キャッシュを例示する図である。 第１キャッシュに登録されるリクエストとレスポンスとを例示する図である。 第２キャッシュを例示する図である。 実施形態に係るレスポンスを生成する処理の動作フローを例示する図である。 実施形態に係る子スレッドがレスポンスを生成するために実行する処理の動作フローを例示する図である。 入力データと対応する処理の動作フローを例示する図である。 実施形態に係る異なる粒度のキャッシュの利用について説明する図である。 実施形態に係る情報処理装置を実現するためのコンピュータのハードウェア構成を例示する図である。
以下、図面を参照しながら、本発明のいくつかの実施形態について詳細に説明する。なお、複数の図面において対応する要素には同一の符号を付す。
例えば、リクエストと、そのリクエストに対するレスポンスとをキャッシュとして記憶しておくと、次に同じリクエストを受信した場合に、キャッシュに記憶されたレスポンスを読み出して利用することで、再度処理を実行しなくてもよく、高速に処理することができる。
ところで、リクエストに対するレスポンスを生成するために実行される複数の処理の実行結果の一部を、別のリクエストに対するレスポンスの生成に流用できることがある。この場合にも、レスポンスを生成するために実行される複数の処理の実行結果がキャッシュされていないと、別の処理で利用することができない。
そこで、以下で述べる実施形態では、リクエストに対するレスポンスを生成するために実行される複数の処理について、その処理の入力データと実行結果とを対応づけてキャッシュに保存する。そのため、例えば、別のリクエストを受信した際に、その別のリクエストに対するレスポンスを生成するために実行される処理に、キャッシュされた複数の処理と対応する処理が含まれていれば、キャッシュされた実行結果を用いて処理を高速化することができる。
なお、リクエストに対するレスポンスを生成するために実行される処理の実行結果を、別の処理で流用できる状況の例として、同じ処理であれば実行結果が常に同じになる処理が挙げられる。この様な処理の例として、数式処理が挙げられる。数式処理は、例えば、数式の演算結果を出力する処理、数式のグラフを描画する処理、数式およびグラフに対して接線等の別の数式およびグラフを求める処理、データ点群に対し方程式を求めたり、平均や分散などの統計値を求めたりする処理などを含んでよい。
近年、ユーザから入力されたリクエストに応じて数式処理を実行し、結果を表示画面に描画する関数電卓などの端末が提供されている。また、端末からウェブブラウザを介してサーバにアクセスし、数式処理のリクエストをサーバに送信すると、そのレスポンスとして数式と対応するグラフなどの演算結果をブラウザの表示領域に表示させるサービスも提供されている。しかしながら、例えば、数式処理を端末上で実行する場合、処理負荷が高く、処理遅延が発生してしまうことがある。また、例えば、ブラウザなどを介して数式処理をサーバに実行させる場合でも、数式処理によっては処理負荷が高く遅延が発生することがあり、或いは、端末とサーバとの間の通信時間により遅延が発生してしまうこともある。そのため、数式処理の処理負荷や通信負荷を低減することのできる更なる技術の提供が望まれている。
そして、例えば、こうした数式処理では、同じ数式の演算を実行する場合、演算結果が同じ値になる特性を有している。例えば、異なる数式の演算であっても数式の一部が一致している場合、その一致している部分については演算結果が同じ値になる。そのため、例えば、異なる数式を処理するリクエストであったとしても、数式に共通する部分があれば、その部分では一方のリクエストの演算結果を他方のリクエストの演算に流用することができる。しかしながら、単純にリクエストと、そのリクエストに対するレスポンスとを対応づけてキャッシュしている場合、異なるリクエストが受信された時点で、キャッシュにヒットしないため、一部の処理の演算結果を流用できる場合にもキャッシュにより処理を高速化することができない。以下に例を説明する。
例えば、ｙ＝ｘ２＋１という数式をグラフにプロットするリクエストを受信したとする。この場合に、単純にｙ＝ｘ２＋１をグラフにプロットするリクエストに対して、そのグラフの形状を表す座標値を含むレスポンスを対応づけてキャッシュしておくとする。この場合に、後にｙ＝ｘ２＋２０をグラフにプロットする別のリクエストを受信したとしても、ｙ＝ｘ２＋１をグラフにプロットするリクエストと異なるため、キャッシュにヒットせず、キャッシュを利用できない。
しかしながら、ｙ＝ｘ２＋１と、ｙ＝ｘ２＋２０とでは、ｘ２の部分の演算結果は同じになる。そのため、例えば、ｘ２の部分のグラフの形状を示す座標値をキャッシュに保存しておくと、その後にｙ＝ｘ２＋２０をグラフにプロットする別のリクエストを受信した場合にも、ｘ２の部分の座標値を流用することができる。それにより、ｙ＝ｘ２＋２０のグラフを描画する際の処理量を削減することができる。
なお、ここでは、数式処理を例に説明を行っているが、実施形態は数式処理への適用に限定されるものではない。別の実施形態では、文書などの文字列を処理する場合や画像を処理する場合などのその他の処理に実施形態が適用されてもよい。この場合にも、例えば、文字列や画像などの処理を依頼するリクエストと、そのレスポンスとを第１キャッシュ１１２に格納しつつ、レスポンスの生成のために実行される複数の処理のそれぞれについて、文字列や画像などの処理の入力データと処理の実行結果とを対応づけて第２キャッシュ１１３に格納するというように実施形態を適用することができる。以下、実施形態を更に詳細に説明する。
図１は、実施形態に係るキャッシュ管理システム１００を例示する図である。例えば、図１ではキャッシュ管理システム１００は、情報処理装置１０１、サービス提供サーバ１０２を含む。なお、サービス提供サーバ１０２は、例えば、サーバとして動作するコンピュータであってよい。サービス提供サーバ１０２は、別の実施形態では、複数のサーバで構成されていてもよい。そして、図１において、情報処理装置１０１は、例えば、ブラウザ１１１を介してサービス提供サーバ１０２と通信し、サービス提供サーバ１０２から数式処理に関するサービスを受けてよい。
情報処理装置１０１は、例えば、パーソナルコンピュータ（ＰＣ）、モバイルＰＣ、タブレット端末、スマートフォン、携帯電話機などのコンピュータであってよい。情報処理装置１０１は、リクエストと、リクエストに対するレスポンスとを対応づけて記憶する第１キャッシュ１１２と、リクエストに対するレスポンスを生成するために実行される複数の処理のそれぞれの、入力データと処理の実行結果とを対応づけて記憶する第２キャッシュ１１３とを含む。また、情報処理装置１０１は、例えば、公衆回線網およびインターネットなどのネットワーク１０５を介してサービス提供サーバ１０２と接続されていてよい。情報処理装置１０１は、例えば、ブラウザ１１１を介してユーザから数式と対応するグラフの描画などの数式処理を要求するリクエストを受け付けると、サービス提供サーバ１０２にリクエストを送信する。
サービス提供サーバ１０２は、情報処理装置１０１からリクエストを受信すると、リクエストに対するレスポンスがキャッシュに登録されていないか、第３キャッシュ１３１を参照する。サービス提供サーバ１０２は、リクエストと対応するレスポンスが第３キャッシュ１３１に登録されていれば、そのレスポンスを情報処理装置１０１に提供する。一方、サービス提供サーバ１０２は、リクエストと対応するレスポンスが第３キャッシュ１３１に登録されていなければ、リクエストに対するレスポンスを生成するために実行される複数の処理を、数式処理モジュール１４１を用いて実行し、得られた演算結果に基づいてレスポンスを生成し、情報処理装置１０１に返す。なお、数式処理モジュール１４１は、例えば、コンピュータを用いて数式を記号的に処理するソフトウェアであってよい。数式処理モジュール１４１の一例は、ＣＡＳ（Computer algebra system）などの数式処理システムである。
また、サービス提供サーバ１０２は、生成したレスポンスをリクエストと対応づけて第３キャッシュ１３１に登録する。それにより、以降、同じリクエストを受信した場合、第３キャッシュ１３１からレスポンスを取得することができるため、サービス提供サーバ１０２に高速にレスポンスを提供することができる。
情報処理装置１０１は、例えば、受信したレスポンスに基づいて、リクエストと対応する数式やグラフなどを、ブラウザの表示領域に表示させることができる。
しかしながら、以上のように、サービス提供サーバ１０２にリクエストを送信し、クラウド上でリクエストと対応するレスポンスを取得する場合、情報処理装置１０１とサービス提供サーバ１０２との間の通信時間などに起因して、レスポンスに基づくグラフの描画などに遅延が生じてしまうことがある。そこで、実施形態では情報処理装置１０１は、ローカルにおいてリクエストと対応するレスポンスの取得を試みる。以下、情報処理装置１０１が実行する処理について更に詳細に説明する。
図２は、実施形態に係る情報処理装置１０１のブロック構成を例示する図である。情報処理装置１０１は、例えば、制御部２０１、記憶部２０２、通信部２０３、および表示部２０４を含む。制御部２０１は、情報処理装置１０１の各部を制御してよい。実施形態では制御部２０１は、ブラウザ１１１、数式処理モジュール２１２、および処理モジュール２１３を含む。例えば、数式処理モジュール２１２は、コンピュータを用いて数式を記号的に処理するソフトウェアであってよく、一例では、ＣＡＳなどの数式処理システムである。処理モジュール２１３は、例えば、第１キャッシュ１１２および第２キャッシュ１１３への情報の読み書きを制御する処理を実行する。処理モジュール２１３は、例えば、実行部２３１、第１格納部２３２、第２格納部２３３、および返信部２３４などを含み、またその他の機能部を含んでもよい。記憶部２０２は、例えば、第１キャッシュ１１２および第２キャッシュ１１３などを含む。通信部２０３は、例えば、制御部２０１の指示に従って他の装置と通信する。例えば、通信部２０３は、サービス提供サーバ１０２と通信してよい。表示部２０４は、例えば、ディスプレイなどの表示装置であってよく、制御部２０１の指示に従って情報を表示する。これらの各部の詳細および記憶部２０２に格納されている情報の詳細については後述する。
図３は、実施形態に係る情報処理装置１０１の制御部２０１が、リクエストに対して実行する処理の動作フローを例示する図である。例えば、制御部２０１は、ユーザからブラウザ１１１を介してリクエストが入力されると、図３の動作フローを開始してよい。
ステップ３０１（以降、ステップを“Ｓ”と記載し、例えば、Ｓ３０１と表記する）において情報処理装置１０１の制御部２０１は、オンライン環境であるか否かを判定する。例えば、公衆回線網と接続するための基地局からの電波状況が悪かったり、インターネットとの接続状況が悪かったりなど、通信部２０３による通信がオフライン状態にある場合、制御部２０１は、Ｓ３０１においてＮＯと判定してよく、フローはＳ３０２に進む。
Ｓ３０２において制御部２０１は、オフライン処理が可能か否かを判定する。例えば、制御部２０１は、リクエストと対応するレスポンスを生成するために必要なモジュールやプログラムなどが記憶部２０２に記憶されているかなどに基づいて、オフライン処理が可能か否かを判定してよい。レスポンスの生成のため、ＷｅｂＡｓｓｅｍｂｌｙを利用して複数の処理を実行する場合、Ｓ３０２において制御部２０１は、一例では、ブラウザ１１１がＷｅｂＡｓｓｅｍｂｌｙに対応しているか否かを判定することで、オフライン処理が可能か否かを判定してよい。また、キャッシュ管理システム１００の実装によっては、所定のリクエストについてはサービス提供サーバ１０２でリクエストを処理するように構成されていることもある。一例として、一部の数式処理については、処理負荷が高かったり、特殊なモジュールを利用したりするため、サービス提供サーバ１０２でリクエストを処理するように構成されていることが考えられる。このような場合、制御部２０１は、所定のリクエストを受信した場合に、Ｓ３０２の処理をＮＯと判定してよい。
Ｓ３０２においてオフライン処理が可能でない場合（Ｓ３０２がＮＯ）、フローはＳ３０４に進む。この場合、オンライン接続できず、また、オフライン処理も実行できないため、制御部２０１は、エラーを通知して、本動作フローは終了してよい。
一方、Ｓ３０２においてオフライン処理が可能と判定した場合（Ｓ３０２がＹＥＳ）、フローはＳ３０３に進む。Ｓ３０３において制御部２０１は、リクエストと対応するレスポンスを生成する処理を実行する。レスポンスを生成する処理の詳細については、図９を参照して後述する。そして、Ｓ３０５において制御部２０１は、レスポンスを出力し、本動作フローは終了する。
また、Ｓ３０１においてネットワーク１０５に接続可能なオンライン環境である場合、制御部２０１はＹＥＳと判定し、フローはＳ３０６に進む。Ｓ３０６において制御部２０１は、オフライン処理が可能か否かを判定する。なお、Ｓ３０６では制御部２０１は、例えば、Ｓ３０２と同様の処理でオフライン処理が可能か否かを判定してよい。上述のように、オンラインでリクエストと対応するレスポンスをサービス提供サーバ１０２から取得しようとすると、サービス提供サーバ１０２との間の通信時間などに起因して処理に遅延が発生してしまうことがある。そのため、オフライン処理が可能である場合（Ｓ３０６がＹＥＳ）、フローはＳ３０７に進めて、オフラインでの処理を進めてよい。
Ｓ３０７において制御部２０１は、リクエストと対応するレスポンスを生成する処理を実行する。Ｓ３０７では、Ｓ３０３と同様の処理が実行されてよい。なお、レスポンスを生成する処理の詳細については、上述のように図９を参照して後述する。
Ｓ３０８において制御部２０１は、リクエストに対して生成したレスポンスがエラーを含むか否かを判定する。なお、エラーは例えば処理がクラッシュしたり、タイムアウトが発生したりなどのエラーであってよい。レスポンスがエラーを含まない場合（Ｓ３０８がＮＯ）、フローはＳ３０５に進み、制御部２０１は得られたレスポンスを出力する。
一方、Ｓ３０８においてレスポンスがエラーを含む場合、例えば、リクエストと対応するレスポンスを取得するための処理でエラーが発生しており、まだ正しいレスポンスを取得できていないことがある。この場合、サービス提供サーバ１０２でリクエストと対応するレスポンスを生成する処理を実行することでレスポンスの生成に成功する可能性がある。そのため、制御部２０１は、Ｓ３０８でＹＥＳと判定し、フローはＳ３０９に進む。また、Ｓ３０６においてオフライン処理が可能でない場合（Ｓ３０６がＮＯ）、オンライン環境であればサービス提供サーバ１０２にレスポンスの生成を依頼することができるため、フローはＳ３０９に進む。
Ｓ３０９において制御部２０１は、サービス提供サーバ１０２にリクエストを送信する。サービス提供サーバ１０２は、リクエストを受信すると、図１を参照して例示したように、第３キャッシュ１３１を参照したり、および数式処理モジュール１４１などに処理を実行させたりしてリクエストと対応するレスポンスを生成し、情報処理装置１０１に返信する。
Ｓ３１０において制御部２０１は、サービス提供サーバ１０２からレスポンスを受信する。Ｓ３１１において制御部２０１は、サービス提供サーバ１０２に送信したリクエストおよびサービス提供サーバ１０２からのレスポンスを対応づけて、第１キャッシュ１１２にレコードを登録する。なお、第１キャッシュ１１２についての詳細は後述する。それにより、オフライン処理においてエラーが返却される可能性があるリクエストを再度受け付けた場合に、オフライン処理によるエラーの可能性と、通信による遅延とを回避しつつ、正常なレスポンスを返却できる。なお、制御部２０１は、Ｓ３１１において、例えば、サービス提供サーバ１０２に送信したリクエストが、実行のたびに結果が変わるランダム関数、シャッフル関数などを含むリクエストである場合、第１キャッシュ１１２への登録を実行しなくてもよい。また、例えば、制御部２０１は、Ｓ３１１において、例えば、サービス提供サーバ１０２から受信したレスポンスが、処理クラッシュ、タイムアウトエラーなどのエラーを含むレスポンスである場合には、第１キャッシュ１１２への登録を実行しなくてもよい。Ｓ３１１の処理が終了すると、フローはＳ３０５に進む。この場合、Ｓ３０５で制御部２０１は、サービス提供サーバ１０２から受信したレスポンスを出力し、本動作フローは終了する。
以上で述べたように、図３の動作フローによれば、リクエストが入力された場合に、リクエストに応じたレスポンスの生成を情報処理装置１０１で実行するか、サービス提供サーバ１０２で実行するかを適切に振り分けることができる。
また、図３の動作フローでは、例えば、リクエストと対応するレスポンスの生成がオフライン処理で実行可能な場合には、オフラインで処理を実行する。それにより、情報処理装置１０１とサービス提供サーバ１０２との間での通信を減らすことができるため、通信時間に起因する遅延を低減することができる。
また、オンライン環境において、オフライン処理ができなかったり、オフライン処理でエラーが発生したりした場合には、制御部２０１は、サービス提供サーバ１０２にリクエストを送信する。それにより、オフライン処理でレスポンスを生成できなかった場合に、クラウド上でリクエストと対応するレスポンスの生成を実行することができる。なお、以上の図３の処理ではＳ３０８でエラーと判定された場合に、サービス提供サーバ１０２側にリクエストの処理を依頼しているが、実施形態はこれに限定されるものではない。例えば、別の実施形態では、Ｓ３０７においてローカルでリクエストと対応するレスポンスを生成する処理を実行するとともに、それに並行してＳ３０９の処理を実行し、サービス提供サーバ１０２にリクエストと対応するレスポンスの提供を依頼してもよい。それにより、ローカルでの処理にエラーが発生した後でサービス提供サーバ１０２にリクエストを送信する場合と比較して、早いタイミングでレスポンスを受信することができる。また、この場合も、受信したレスポンスがエラーでなければ、リクエストと受信したレスポンスとを対応させて、第１キャッシュへ格納してよい。
また、オフライン環境においてオフラインでレスポンスの生成を実行できない場合には、ユーザにエラーを通知するため、ユーザはリクエストと対応するレスポンスを生成できないことを知ることができる。
続いて、Ｓ３０３およびＳ３０７におけるリクエストと対応するレスポンスを生成する処理について説明する。なお、実施形態では、リクエストと対応するレスポンスを生成する処理は、ＪａｖａＳｃｒｉｐｔ（JavaScriptは登録商標）で実装されるメインスレッド４０１と、ＷｅｂＷｏｒｋｅｒを用いて実装される子スレッド４０２とによりマルチスレッド化されていてよい。
図４は、実施形態に係るリクエストと対応するレスポンスを生成する処理を実行するスレッドを例示する図である。図４（ａ）は、１つのスレッドでレスポンスを生成する場合を例示しており、スレッドは、例えば、ＪａｖａＳｃｒｉｐｔを用いて実装することができる。しかしながら、この場合、レスポンスを生成する処理と、グラフをブラウザ１１１の表示領域に描画する処理などのその他の処理とが１つのスレッドにおいて連続で順次実行されるため、前の処理が完了しなければ次の処理が始められず、例えば、描画の遅延などを招く恐れがある。
そのため、一実施形態では、図４（ｂ）に示すように、メインスレッド４０１に加えて、レスポンスを生成する処理を実行するための少なくとも１つの子スレッド４０２を実装している。子スレッド４０２は、例えば、ＷｅｂＷｏｒｋｅｒＡＰＩを用いて生成することができる。子スレッド４０２は、子スレッド４０２内にキャッシュ機構を持ち、メインスレッド４０１とメッセージイベント（非同期）で情報のやり取りを行うことができる。図４（ｂ）に示すように、マルチスレッド化することで、メインスレッド４０１は、子スレッド４０２にレスポンスを生成させつつ、子スレッド４０２のレスポンスの生成処理の結果を待たずに、描画などの他の処理を実行することができる。そのため、レスポンスの生成処理に起因して、描画などの他の処理に遅延が発生してしまうことを抑制することができる。なお、一実施形態においては、子スレッド４０２は、自スレッドに割り当てられたキャッシュを参照するが、他の子スレッド４０２に割り当てられたキャッシュを参照しなくてもよい。環境によってはＷｅｂＷｏｒｋｅｒを用いて実装される子スレッド４０２間でキャッシュの参照ができない場合もある。そのため、子スレッド４０２が他の子スレッド４０２のキャッシュを参照しないように構成することで、そうした幅広い環境に実施形態を適用することができる。
なお、制御部２０１は、Ｓ３０３およびＳ３０７において、例えば、ＡＰＩ（Application Programming Interface）を用いてＪａｖａＳｃｒｉｐｔで実装されたメインスレッド４０１を呼び出すことで、レスポンスを生成する処理を実行してよい。
以下、メインスレッド４０１と、子スレッド４０２により実行されるレスポンスの生成の流れについて説明する。図５は、レスポンスの生成の流れを例示する図である。リクエストに対して、例えば、上述のＳ３０３またはＳ３０７の処理で、メインスレッド４０１が呼び出されると（図５（１））、メインスレッド４０１は、リクエストと対応するレスポンスが、第１キャッシュ１１２に格納されているか否かを確認する（図５（２））。
図６は、第１キャッシュ１１２を例示する図である。図６に示す例では、第１キャッシュ１１２には、キャッシュキー、およびキャッシュキーと対応する値が対応づけて登録されている。第１キャッシュ１１２においてキャッシュキーにはリクエストが登録されており、値にはリクエストと対応するレスポンスが登録されている。なお、第１キャッシュ１１２のキャッシュキーには、リクエストそのものが登録されてもよいが、別の実施形態では、例えば、リクエストにハッシュ関数を用いた処理などの所定の処理を実行して得られた値が登録されてもよい。
また、図７は、第１キャッシュに登録される、リクエストとレスポンスとの対応関係を例示する図である。図７（ａ）にはリクエストが例示されており、図７（ｂ）にはリクエストと対応するレスポンスが例示されている。なお、リクエストとレスポンスは、一例では、ＪＳＯＮ（JavaScript Object Notation）形式のデータであってよい。図７（ａ）は、ブラウザの表示画面へのグラフの描画を要求するリクエストを例示しており、グラフを描画するための処理に必要な情報を含む。例えば、図７（ａ）では、リクエストは、リクエストを識別するための識別子と、描画を要求するグラフを指定するグラフ式と、グラフの範囲を指定する範囲指定とを含む。また、リクエストは、グラフを描画する処理に関する様々な設定情報を含む。設定情報は、例えば、処理において角度にラジアン、度（degree）、およびグラード（grade）のどれを用いるか、および小数点の何桁目を四捨五入するか、複素数が有効か否かなどの演算のオプションを指定する情報であってよい。また、リクエストは、グラフの描画範囲を指定する情報を含む。例えば、図７では、描画範囲として、Ｘ軸およびＹ軸のそれぞれについて、範囲の最大値と最小値、点を打つステップの間隔が指定されている。
図７（ｂ）は、リクエストと対応するグラフの描画に必要な情報を含むレスポンスを例示している。例えば、図７（ｂ）ではレスポンスは、グラフに関する情報と、グラフの座標点のリストとを含む。グラフに関する情報は、例えば、グラフのタイプや、レスポンスの生成のために実行される複数の処理でエラーが発生したか否かを示すエラーの有無の情報を含む。また、グラフの座標点のリストは、例えば、グラフの各点での座標の情報を含む。第１キャッシュ１１２には、例えば、以上のようなリクエストとレスポンスとの組が対応づけて記憶されていてよい。
そして、図５（２）では、メインスレッド４０１は、リクエストと対応するレスポンスが第１キャッシュ１１２に格納されていれば、第１キャッシュ１１２に格納されているリクエストと対応するレスポンスを読み出し、そのレスポンスを呼び出し元のブラウザ１１１に返す（図５（３））。
一方、リクエストと対応するレスポンスが第１キャッシュ１１２に格納されていない場合、メインスレッド４０１は、リクエストの処理を子スレッド４０２の処理モジュール２１３に依頼する（図５（４））。
子スレッド４０２の処理モジュール２１３は、リクエストを受信すると、第２キャッシュ１１３を参照したり、数式処理モジュール２１２に処理を依頼したりしながら、リクエストと対応するレスポンスを生成するための複数の処理を実行する（図５（５））。なお、レスポンスを生成するための複数の処理では、処理モジュール２１３は、リクエストに含まれる情報を用いて、例えば、数式判定、数式タイプの判定、グラフ点算出…などの複数の処理を実行してよい。これらの例示的な処理の更なる詳細については後述する。
そして、処理モジュール２１３は、例えば、レスポンスを生成するための複数の処理を実行する際に、処理の実行結果が第２キャッシュ１１３に記憶されていれば、その処理の実行結果を利用して複数の処理の次の処理へと進める。一方、処理の実行結果が第２キャッシュ１１３に記憶されていなければ、数式処理モジュール２１２に処理を依頼して処理の実行結果を取得する。なお、数式処理モジュール２１２に処理を依頼する場合、処理モジュール２１３は、その処理の入力データと実行結果との組を第２キャッシュ１１３に登録してよい（図５（６））。
図８は、第２キャッシュ１１３を例示する図である。第２キャッシュ１１３には、例えば、キャッシュキー、および値が対応づけて登録されている。キャッシュキーは、レスポンスを生成するために実行される複数の処理の処理ごとに、処理において入力される入力データであってよい。入力データは、例えば、リクエストから読み出した一部の情報、複数の処理のうち先に実行された処理の実行結果、それらに基づき生成された情報などを含んでよい。また、値は、その処理の結果であってよい。なお、第２キャッシュ１１３のキャッシュキーには、処理の入力データそのものが登録されてもよいが、別の実施形態では、例えば、入力データにハッシュ関数を用いた処理など所定の処理を実行して得られた値が登録されてもよい。
続いて、子スレッド４０２の処理モジュール２１３は、リクエストと対応するレスポンスを複数の処理の実行結果に基づき生成し、メインスレッド４０１に返す（図５（７））。メインスレッド４０１は、子スレッド４０２からレスポンスを受信すると、リクエストとレスポンスとを対応づけて、第１キャッシュ１１２に保存する（図５（８））。また、メインスレッド４０１は、子スレッド４０２から受信したレスポンスをリクエストに対する応答として呼び出し元のブラウザ１１１に返し（図５（９））、それにより図３のＳ３０３またはＳ３０７の処理は終了し、次の処理に進む。
なお、レスポンスの生成を実行する子スレッド４０２は、複数実装されていてよく、メインスレッド４０１は、例えば、タスクキューなどにリクエストを追加することで、複数の子スレッド４０２のうち空いている子スレッド４０２にリクエストを順番に処理させてよい。
以上の図５のレスポンス生成の流れで述べたように、第１キャッシュ１１２には、リクエストと、そのリクエストと対応するレスポンスとが対応づけて記憶される。一方、第２キャッシュ１１３には、リクエストと対応するレスポンスを生成するための実行される複数の処理のそれぞれについて、各処理の入力データと、その処理の実行結果とが対応づけて記憶される。
また、メインスレッド４０１では制御部２０１は、リクエストを受信した際に、そのリクエストが第１キャッシュ１１２に登録されているかを確認し、登録されていれば、第１キャッシュ１１２からリクエストと対応するレスポンスを取得してブラウザ１１１に返す。そのため、過去に同じリクエストを処理している場合には、第１キャッシュ１１２を用いて処理を高速化することができる。
また、子スレッド４０２では処理モジュール２１３として動作する制御部２０１は、リクエストに対応するレスポンスを生成するための複数の処理を実行する際に、その処理が第２キャッシュ１１３に登録されているかを確認する。そして、処理が第２キャッシュ１１３に登録されていれば、制御部２０１は、第２キャッシュ１１３から処理の結果を取得し、次の処理に進む。そのため、例えば、受信したリクエストに対して実行される複数の処理の一部が、過去に別のリクエストを処理した際に実行されていれば、第２キャッシュ１１３を用いて処理を高速化することができる。
なお、上述のように、数式処理において処理モジュール２１３は、リクエストに含まれる情報を用いて、例えば、数式判定、数式タイプの判定、グラフ点算出…などの複数の処理を、数式処理モジュール２１２に処理を依頼しながら実行する。そして、第２キャッシュ１１３には、それらの複数の処理の入力データと対応づけて、処理の実行結果が登録されてよい。以下、これらの複数の処理について簡単に例を述べる。
（１）数式判定処理
数式判定では処理モジュール２１３は、例えば、リクエストで指定されるグラフ式が、方程式であるか否かを判定する。例えば、処理モジュール２１３は、図７（ａ）のリクエストを受信した場合、リクエストのグラフ式：ｙ＝ｓｉｎ（ｘ）を読み出し、ｙ＝ｓｉｎ（ｘ）が方程式であるか否かをチェックしてよい。例えば、グラフ化対象の方程式をユーザに入力させる場合、ユーザがグラフ化できない文字列を入力することもある。その場合、処理モジュール２１３は、数式判定でエラーと判定してよい。グラフ化できない文字列としては、例えば、「３」などの定数項、「ｙ」などの変数項のみが入力された場合、およびイコール（＝）や不等式の記述に誤りがある場合などがあげられる。
そして、ここでは、ｙ＝ｓｉｎ（ｘ）は方程式であるため、以上の数式判定の結果、入力データ：ｙ＝ｓｉｎ（ｘ）と、その判定結果である「方程式」とが、図８の第２キャッシュ１１３の１段目のレコードに登録されている。
（２）数式タイプの判定処理
数式タイプの判定では処理モジュール２１３は、グラフ式“ｙ＝ｓｉｎ（ｘ）”が、例えば、直交座標系のｙ＝ｆ（ｘ）タイプ、またはｘ＝ｆ（ｙ）タイプ、極座標系のｒ＝ｆ（θ）タイプなどといったタイプのうちのどのグラフタイプに属するかを判定する。リクエストで指定されるグラフ式の左辺がｙであり、右辺がｘ以外の独立変数を含まない数式であれば、直交座標系のｙ＝ｆ（ｘ）タイプであると判定される。また、グラフ式の左辺がｙであり、右辺がｘ以外の独立変数を含まない数式であれば、直交座標系のｘ＝ｆ（ｙ）タイプであると判定される。さらに、左辺がｒであり、右辺がθ以外の独立変数を含まない数式であれば、極座標系のｒ＝ｆ（θ）タイプであると判定される。
そして、ここでは、ｙ＝ｓｉｎ（ｘ）は直交座標系のｙ＝ｆ（ｘ）タイプであるため、以上の数式タイプの判定の結果、入力データ：ｙ＝ｓｉｎ（ｘ）と、その判定結果である「ｙ＝ｆ（ｘ）タイプ」とが、図８の第２キャッシュ１１３の２段目のレコードに登録されている。
例えば、以上のように、処理モジュール２１３は、グラフ式のタイプを決定することができる。なお、以上の数式タイプの判定で述べた工程１から工程３の処理の入力データと、処理の実行結果とが図８の第２キャッシュ１１３の２段目のレコードに登録されている。
（３）グラフ点算出処理
グラフ点算出では処理モジュール２１３は、リクエストのグラフ式について、描画範囲に含まれるグラフ点の座標値を算出する。例えば、図７（ａ）のリクエストでは、グラフ式：ｙ＝ｓｉｎ（ｘ）と、グラフの範囲として、Ｘｍｉｎ：−７．５、Ｘｍａｘ：７．５、Ｘｓｔｅｐ：０．１、Ｙｍｉｎ：−７．５、Ｙｍａｘ：７．５、Ｙｓｔｅｐ：０．１が指定されている。制御部２０１は、グラフ点算出において指定された範囲にあるグラフ点の座標を求めてよい。図８の第２キャッシュ１１３の３段目のエントリには、グラフ点算出と対応するレコードが登録されている。レコードには、入力データとしてグラフ式：ｙ＝ｓｉｎ（ｘ）と、その描画範囲、および、値として処理の実行結果である各点の座標値が登録されている。
例えば、以上の（１）〜（３）に示したように、制御部２０１は、リクエストと対応するレスポンスを生成するための複数の処理を実行してよく、その処理の入力データと対応づけて、処理の実行結果が第２キャッシュ１１３に登録されてよい。なお、上述したレスポンスを生成するための複数な処理は、例示であり、実施形態はこれに限定されるものではない。例えば、実施形態によっては、上述した複数の処理の一部が実行されなくてもよいし、別に更なる処理が実行されてもよい。
続いて、以上で述べた、レスポンスの生成処理の流れについて、以下に動作フローを説明する。
図９は、実施形態に係るメインスレッド４０１として動作する制御部２０１が実行するレスポンスを生成する処理の動作フローを例示する図である。例えば、制御部２０１は、Ｓ３０３またはＳ３０７に進むと、ＡＰＩなどを介して図９の処理を呼び出して実行してよい。
Ｓ９０１においてメインスレッド４０１として動作する制御部２０１は、第１キャッシュ１１２を検索するためのキャッシュキーを生成する。例えば、第１キャッシュ１１２のキャッシュキーに過去のリクエストが登録されている場合には、制御部２０１は、キャッシュキーとしてリクエストをそのまま用いてよい。また、例えば、ハッシュ関数を用いた処理などの所定の処理を実行して得られた値が第１キャッシュ１１２のキャッシュキーに登録されている場合には、制御部２０１は、リクエストに同様の処理を実行しキャッシュキーを生成してよい。
Ｓ９０２において制御部２０１は、生成したキャッシュキーを用いて第１キャッシュ１１２を検索し、リクエストと対応するレコードが、第１キャッシュ１１２に登録されているか否かを判定する。リクエストと対応するレコードが第１キャッシュ１１２に登録されていない場合（Ｓ９０２がＮＯ）、フローはＳ９０６に進む。一方、リクエストと対応するレコードが第１キャッシュ１１２に登録されている場合（Ｓ９０２がＹＥＳ）、フローはＳ９０３に進む。
Ｓ９０３において制御部２０１は、リクエストが所定の条件を満たすＮＧリクエストであるか否かを判定する。ＮＧリクエストは、例えば、リクエストに対するレスポンスの内容が実行のたびに変わるリクエストであってよい。これは、例えば、リクエストに対するレスポンスの内容が実行のたびに変わる場合、同じリクエストが第１キャッシュ１１２に登録されていたとしても、その登録されているレスポンスと、今回のリクエストに対するレスポンスとで内容が変わる可能性があり、キャッシュされた値を流用できないためである。なお、実行のたびに結果が変わるリクエストの例としては、ランダム関数、シャッフル関数などを含むリクエストが挙げられる。
Ｓ９０３においてリクエストが所定の条件を満たすＮＧリクエストでない場合（Ｓ９０３がＮＯ）、フローはＳ９０４に進む。Ｓ９０４において制御部２０１は、第１キャッシュ１１２からリクエストと対応するレスポンスを取得し、Ｓ９０５において呼び出し元のＳ３０３またはＳ３０７の処理にレスポンスを返し、本動作フローは終了する。
一方、Ｓ９０３においてＮＧリクエストである場合（Ｓ９０３がＹＥＳ）、フローはＳ９０６に進む。Ｓ９０６において制御部２０１は、子スレッド４０２にリクエストの実行を依頼する。例えば、制御部２０１は、タスクキューにリクエストのタスクを登録し、子スレッド４０２にリクエストと対応する処理を実行させてよい。
Ｓ９０７において制御部２０１は、子スレッド４０２からレスポンスを受信する。Ｓ９０８において制御部２０１は、レスポンスが所定の条件を満たすＮＧレスポンスであるか否かを判定する。所定の条件を満たすＮＧレスポンスとしては、例えば、リクエストに対する正しいレスポンスが生成できていない状態を示すエラーレスポンスであってよい。エラーのレスポンスは、例えば、処理クラッシュ、タイムアウトエラーなどを含む。レスポンスがＮＧレスポンスである場合（Ｓ９０８でＹＥＳ）、フローはＳ９０５に進み、Ｓ９０５で制御部２０１はＮＧレスポンスと判定されたレスポンスを呼び出し元のＳ３０３またはＳ３０７の処理に返してよい。なお、Ｓ３０７にＮＧレスポンスを返す場合、Ｓ３０８でエラーと判定され、Ｓ３０９の処理でリクエストがサービス提供サーバ１０２に送信されてよい。それにより、サービス提供サーバ１０２で処理を行うことができ、リクエストに対する正しいレスポンスが得られる可能性を高めることができる。
一方、Ｓ９０８においてレスポンスがＮＧレスポンスでない場合（Ｓ９０８がＮＯ）、フローはＳ９０９に進む。Ｓ９０９において制御部２０１は、第１キャッシュ１１２にリクエストとレスポンスとを対応づけて登録し、フローはＳ９０５に進み、呼び出し元のＳ３０３またはＳ３０７の処理にレスポンスを返し、本動作フローは終了する。
以上、図９の動作フローによれば、メインスレッド４０１において制御部２０１は、リクエストと対応するレスポンスが第１キャッシュ１１２に登録されている場合、そのレスポンスを返すことができる。そのため、高速にリクエストに対するレスポンスを返すことができる。
また、図９の動作フローによれば、メインスレッド４０１において制御部２０１は、子スレッド４０２にリクエストと対応するレスポンスの生成を依頼した場合、子スレッド４０２から受信したレスポンスを、リクエストと対応づけて第１キャッシュ１１２に格納する。そのため、以降、同様のリクエストを受信した場合に、第１キャッシュ１１２に格納されたレスポンスを利用して高速に処理することができる。
なお、Ｓ９０９の処理において制御部２０１は、リクエストがランダム関数、シャッフル関数などを含むＮＧリクエストである場合、第１キャッシュ１１２にリクエストとレスポンスを格納しなくてもよい。
続いて、子スレッド４０２として動作する制御部２０１によるリクエストと対応するレスポンスの生成処理について説明する。図１０は、実施形態に係るリクエストと対応するレスポンスを生成するために実行される処理を示す動作フローを例示する図である。子スレッド４０２において制御部２０１は、例えば、リクエストと対応するタスクが登録されるタスクキューから、タスクを割り当てられると図１０の動作フローを開始してよい。
Ｓ１００１において子スレッド４０２として動作する制御部２０１は、割り当てられたタスクのリクエストに基づき、処理において利用される入力データを生成する。一例では制御部２０１は、リクエストに含まれる情報の一部（例えば、グラフ式など）を入力データとして抽出してよい。
Ｓ１００２において制御部２０１は、入力データに対して処理を実行する。なお、Ｓ１００２からＳ１００４の処理は繰り返し処理である。そして、制御部２０１はＳ１００２において、リクエストに対するレスポンスを生成するための一連の複数の処理を先頭から順に、繰り返しのたびに処理を次の処理に進めながら順次処理を実行してよい。例えば、数式処理であれば一連の複数の処理は、数式判定、数式タイプの判定、グラフ点算出などの処理などを含んでよい。そして、Ｓ１００３では制御部２０１は、リクエストに対するレスポンスを生成するための一連の複数の処理が完了しているか否かを判定する。リクエストに対するレスポンスを生成するための一連の複数の処理が完了していない場合（Ｓ１００３がＮＯ）、フローはＳ１００４に進む。
Ｓ１００４において制御部２０１は、次の入力データを生成する。例えば、制御部２０１は、リクエストから別の情報を読み出したり、Ｓ１００２の処理の実行結果を利用したりして次の入力データを生成してよい。次の入力データを生成するとフローはＳ１００２に戻り、制御部２０１は、生成した次の入力データを用いて、レスポンスを生成するための一連の複数の処理のうちの次の処理を実行してよい。
また、Ｓ１００３においてリクエストと対応するレスポンスを生成するための一連の複数の処理がすべて完了している場合（Ｓ１００３がＹＥＳ）、フローはＳ１００５に進む。
Ｓ１００５において制御部２０１は、一連の複数の処理の実行結果に基づいてレスポンスを生成し、生成したレスポンスを処理結果が登録されるキューに追加するなどして、メインスレッド４０１にレスポンスを返してよい。
続いて、Ｓ１００２で実行される処理について図１１を参照して説明する。図１１は、Ｓ１００２で実行される入力データと対応する処理の動作フローを例示する図である。例えば、子スレッド４０２として動作する制御部２０１は、Ｓ１００２の処理に進むと、図１１の動作フローを開始してよい。
Ｓ１１０１において子スレッド４０２として動作する制御部２０１は、入力データから第２キャッシュ１１３を検索するためのキャッシュキーを生成する。例えば、第２キャッシュ１１３のキャッシュキーに過去の入力データがそのまま登録されている場合には、制御部２０１は、キャッシュキーとして入力データをそのまま用いてよい。また、例えば、ハッシュ関数を用いた処理など所定の処理を実行して得た値が第２キャッシュ１１３にキャッシュキーに登録されている場合には、制御部２０１は、入力データに同様の処理を実行しキャッシュキーを生成してよい。
Ｓ１１０２において制御部２０１は、生成したキャッシュキーを用いて第２キャッシュ１１３を検索し、入力データと対応するレコードが第２キャッシュ１１３に登録されているか否かを判定する。入力データと対応するレコードが第２キャッシュ１１３に登録されている場合（Ｓ１１０２がＹＥＳ）、フローはＳ１１０３に進む。
Ｓ１１０３において制御部２０１は、入力データが第１の条件を満たすＮＧの処理を指定しているか否かを判定する。ＮＧの処理を指定する入力データは、例えば、実行のたびに結果が変わる処理を指定する入力データであってよい。これは、例えば、実行のたびに処理の実行結果が変わる場合、同じ入力データと対応するレコードが第２キャッシュ１１３に登録されていたとしても、次の実行で同じ処理の実行結果になるとは限らず、キャッシュされた値を流用できないためである。なお、実行のたびに結果が変わる処理を指定する入力データの例としては、ランダム関数、シャッフル関数などを含む処理を指定する入力データが挙げられる。
Ｓ１１０３において入力データが第１の条件を満たすＮＧの処理を指定していない場合（Ｓ１１０３がＮＯ）、フローはＳ１１０４に進む。Ｓ１１０４において制御部２０１は、第２キャッシュ１１３から入力データと対応する演算結果を取得し、Ｓ１１０５において演算結果を呼び出し元のＳ１００２の処理に返し、本動作フローは終了する。
一方、Ｓ１１０２において入力データと対応するレコードが第２キャッシュ１１３に登録されていない場合（Ｓ１１０２がＮＯ）、および、Ｓ１１０３において入力データがＮＧの処理を指定している場合（Ｓ１１０３がＹＥＳ）、フローはＳ１１０６に進む。この場合、第２キャッシュ１１３から処理の実行結果を取得できないため、Ｓ１１０６において制御部２０１は、入力データと対応する処理を数式処理モジュール２１２に処理を依頼する。なお、ＮＧの処理の場合に、Ｓ１１０６で数式処理モジュール２１２に処理を依頼することで、第２キャッシュ１１３に登録されている処理の実行結果を流用できない場合にもかかわらず流用してしまうことを回避することができる。また、Ｓ１１０６で数式処理モジュール２１２に依頼する処理は、例えば、入力データや、リクエストに対するレスポンスを生成するための一連の複数の処理のどの処理を実行するタイミングで図１１の処理が呼び出されたかに応じて異なってよい。数式処理モジュール２１２に依頼する処理は、例えば、数式判定、数式タイプの判定、グラフ点算出などの処理であってよい。
Ｓ１１０７において制御部２０１は、数式処理モジュール２１２から依頼した処理に対する実行結果を受信する。Ｓ１１０８において制御部２０１は、処理の実行結果が第２の条件を満たすＮＧの実行結果であるか否かを判定する。第２の条件を満たすＮＧの実行結果は、例えば、入力データに対する演算結果の取得に成功していない状態を示すエラーを含む結果であってよい。エラーは、例えば、処理クラッシュ、タイムアウトエラーなどを含む。処理の実行結果が、ＮＧの実行結果の場合（Ｓ１１０８がＹＥＳ）、Ｓ１１０５でＮＧの実行結果を呼び出し元のＳ１００２の処理に返してよい。それにより、実行結果を別の処理で流用できないにもかかわらず処理の実行結果を第２キャッシュ１１３に登録してしまうことを回避することができる。
一方、Ｓ１１０８において処理の実行結果がＮＧの実行結果でない場合（Ｓ１１０８がＮＯ）、フローはＳ１１０９に進む。Ｓ１１０９において制御部２０１は、第２キャッシュ１１３に入力データと処理の実行結果とを対応づけて登録し、フローはＳ１１０５に進み、呼び出し元のＳ１００２の処理に処理の実行結果を返し、本動作フローは終了する。なお、Ｓ１１０９において制御部２０１は、入力データがランダム関数、シャッフル関数などを含むＮＧの処理を対象としている場合、第２キャッシュ１１３に入力データと実行結果を格納しなくてもよい。
以上の図１０および図１１の動作フローによれば、子スレッド４０２において制御部２０１は、リクエストと対応するレスポンスを生成するための一連の複数の処理を実行する。そして、制御部２０１は、一連の複数の処理の実行の際に、処理の実行結果が第２キャッシュ１１３に登録されていれば、その処理の実行結果を利用するため、高速に処理を実行することができる。
一方、制御部２０１は、一連の複数の処理の実行の際に、処理の実行結果が第２キャッシュ１１３に登録されていなければ、数式処理モジュール２１２に処理を依頼し、その処理の入力データと処理の実行結果とを対応づけて第２キャッシュ１１３に格納する。そのため、以降、同様の処理が実行される場合に、第２キャッシュ１１３に格納された処理の実行結果を利用して高速に処理を実行することができる。
そして、以上で述べた実施形態によれば第１キャッシュ１１２と第２キャッシュ１１３には、異なる粒度のデータが登録される。例えば、上述の実施形態では、第１キャッシュ１１２に登録される情報の粒度は、第２キャッシュ１１３に登録される情報の粒度よりも大きい。
上述のように、第１キャッシュ１１２では、リクエストとレスポンスとが対応づけて登録される。そのため、入力されたリクエストが第１キャッシュ１１２に登録されている場合、レスポンスを第１キャッシュ１１２から読み出して即座に返すことができる。しかしながら、この場合、入力されたリクエストが、第１キャッシュ１１２に登録されているリクエストと完全に一致しないと処理を早めることができない。
一方で、例えば、数式処理のように、リクエストに対するレスポンスを生成するために実行される複数の処理の実行結果の一部を、別のリクエストに対するレスポンスを生成するための処理で流用できることがある。この場合に、上述の実施形態で述べるように、リクエストに応じて実行される複数の処理のそれぞれについて、処理の入力データと、その処理の実行結果とを第２キャッシュ１１３に登録しておくことで、別のリクエストに対するレスポンスを生成するための処理で実行結果を流用することが可能になる。その結果、リクエストに対するレスポンスを得るための処理を高速化したり、処理負荷を低減したりすることができる。
図１２は、実施形態に係る異なる粒度のキャッシュの利用について説明する図である。例えば、情報処理装置１０１において制御部２０１が、表示部２０４の表示画面に数式と対応するグラフを描画する処理を実行するものとする。そして、制御部２０１が、ｙ＝ｓｉｎ（ｘ）＋ａで、０≦ａ≦１０を範囲として、徐々にａの値を１ずつ増加させながら、各対応するグラフを連続的に描画するリクエストを受け付けたとする。
この場合に、制御部２０１は、まずａ＝０としてｙ＝ｓｉｎ（ｘ）のグラフを生成するための一連の複数の処理を実行し、得られたレスポンスに基づいて表示画面にグラフを表示する。また、制御部２０１は、ｙ＝ｓｉｎ（ｘ)のリクエストと、そのグラフの各点における座標値を含むレスポンスとを第１キャッシュ１１２に記録する。また更に、実施形態では、リクエストされたｙ＝ｓｉｎ（ｘ)のグラフの生成で実行される複数の処理の入力データと対応づけて、処理の実行結果を第２キャッシュ１１３に記録する。例えば、制御部２０１は、ｙ＝ｓｉｎ（ｘ)の一部の数式であるｙ＝ｓｉｎ（ｘ)を入力データとして、そのグラフの各点における座標値を第２キャッシュ１１３に記録してよい。
この場合に、例えば、次にａ＝１としてｙ＝ｓｉｎ（ｘ)＋１のグラフを生成する場合、第１キャッシュ１１２にはｙ＝ｓｉｎ（ｘ)のリクエストと対応するレスポンスしか登録されておらず、ｙ＝ｓｉｎ（ｘ)＋１とは異なるので第１キャッシュ１１２からグラフを生成に利用可能な情報を取得することはできない。しかしながら、第２キャッシュ１１３にはｙ＝ｓｉｎ（ｘ)を入力データとして、そのグラフの各点における座標値が登録されている。そのため、制御部２０１は、ｙ＝ｓｉｎ（ｘ)＋１のリクエストに対してグラフを生成する際に、ｙ＝ｓｉｎ（ｘ)＋１の数式の一部であるｓｉｎ（ｘ)については、第２キャッシュ１１３からグラフの座標値を読み出すことができる。そのため、全ての演算を実行する場合と比較して高速に処理を実行することができる。同様に、ａ＝２〜１０の範囲でｙ＝ｓｉｎ（ｘ)＋ａのグラフを描画する場合にも第２キャッシュ１１３からｙ＝ｓｉｎ（ｘ)のグラフの座標値を読み出すことで、処理負荷を低減しつつ、高速に処理することができる。
そして、制御部２０１が、ａ＝１０としてｙ＝ｓｉｎ（ｘ)＋１０のグラフまでを描画した後で、再びｙ＝ｓｉｎ（ｘ)のグラフを描画する場合には、第１キャッシュ１１２に対応するレスポンスが登録されているため、数式処理モジュール２１２を用いて演算を実行しなくてもよくなる。そのため、更なる処理負荷の低減と、処理の高速化を図ることができる。
なお、ここでは、数式の一部が共通する場合を例に、第２キャッシュ１１３の情報を利用する例を述べているが、第２キャッシュ１１３による効果が期待される例は、これに限定されるものではない。例えば、同じ数式で、異なる描画範囲のグラフの描画を指示するリクエストを受信したとする。この場合、数式が同じであるため、例えば、数式判定、数式タイプの判定などの判定結果を、第２キャッシュ１１３から取得することができ、それにより、処理負荷の低減と、処理の高速化を図ることができる。
以上で述べたように、例えば、数式処理などのように、同じ処理であれば実行結果が常に同じになる処理である場合、リクエストに対するレスポンスを生成するために実行される複数の処理の何れかと、別のリクエストに対するレスポンスを生成するために実行される第２の複数の処理の何れかとが、同じであれば、以前に行われた処理の実行結果を、後から行う処理で流用できることがある。この場合に、実施形態によれば、リクエストに対応するレスポンスをキャッシュするだけでなく、レスポンスを生成するために実行される複数の処理の入力データと処理の実行結果とを対応づけてキャッシュするため、処理負荷の低減と処理の高速化を図ることができる。
なお、上述の実施形態において、第１キャッシュ１１２および第２キャッシュ１１３は、情報処理装置１０１に記憶されているため、他の装置からのキャッシュの参照は、状況に応じて制限され得る。一方、サービス提供サーバ１０２の第３キャッシュ１３１は、サービス提供サーバ１０２が提供するサービスに接続する複数の情報処理装置１０１、およびサービスに登録する複数のアカウント間で共有することができる。そのため、第３キャッシュ１３１では、複数の情報処理装置１０１およびアカウントからのリクエストに対してレスポンスを提供する際に、多様なリクエストとレスポンスとをキャッシュすることができ、ヒット率を高めることができる。
以上において、実施形態を例示したが、実施形態はこれに限定されるものではない。例えば、上述の動作フローは例示であり、実施形態はこれに限定されるものではない。可能な場合には、動作フローは、処理の順番を変更して実行されてもよく、別に更なる処理を含んでもよく、または、一部の処理が省略されてもよい。
また、上述の実施形態では、情報処理装置１０１は、ブラウザ１１１からメインスレッド４０１や子スレッド４０２などを呼び出して、粒度の異なるキャッシュを利用する例を記載している。しかしながら、実施形態はこれに限定されるものではない。例えば、別の実施形態では第１キャッシュ１１２および第２キャッシュ１１３は、１つのキャッシュに統合されていてもよい。例えば、上述の図４（ａ）に示すように、リクエストに対する全ての処理をメインスレッド４０１で実行する場合に、制御部２０１は、第１キャッシュ１１２に、上述の実施形態で第２キャッシュ１１３に登録されていた処理の入力データと処理の実行結果の情報を登録してもよい。
また更に、別の実施形態では制御部２０１は、第１キャッシュ１１２と第２キャッシュ１１３との間で情報を同期する処理を実行してもよい。例えば、制御部２０１は、第１キャッシュ１１２に登録されているレコードを第２キャッシュ１１３に登録する処理を実行してもよく、また、第２キャッシュ１１３に登録されているレコードを第１キャッシュ１１２に登録する処理を実行してもよい。それにより、例えば、第１キャッシュ１１２においても、リクエストと対応するレスポンスを生成するための複数の処理の入力データと、演算結果とを参照することが可能になる。また、例えば、第２キャッシュ１１３においても、リクエストと、そのリクエストに対応するレスポンスとを参照することが可能になる。そして、このようにキャッシュを構成することで、実装によっては処理の高速化を図ることができる。例えば、上述の実施形態において、子スレッド４０２が実行する処理を、メインスレッド４０１にも実行させる場合、メインスレッド４０１の第１キャッシュ１１２で、レスポンスを生成するための複数の処理の実行結果を取得できるため、メインスレッド４０１での処理を高速に実行することが可能になる。
また、上述の実施形態では、子スレッド４０２ごとに第２キャッシュ１１３を備えさせる例を述べている。この場合、子スレッド４０２ごとに異なるデータが第２キャッシュ１１３に蓄積されるため、他の子スレッド４０２の第２キャッシュ１１３に登録されているデータを利用できないことがある。しかしながら、実施形態はこれに限定されるものではない。例えば、別の実施形態では制御部２０１は、或る子スレッド４０２の或る第２キャッシュ１１３に新規に登録されたデータを、他の子スレッド４０２の第２キャッシュ１１３にも登録して、子スレッド４０２間で第２キャッシュ１１３の内容を同期する処理を実行してもよい。或いは、複数の子スレッド４０２が共通の１つの第２キャッシュ１１３を参照するように実施形態が構成されてもよい。
更には、上述の実施形態では情報処理装置１０１はブラウザ１１１を介して処理を実行する例を述べている。そのため、ブラウザ１１１と関連するＪａｖａＳｃｒｉｐｔ、およびＷｅｂＷｏｒｋｅｒなどの仕様に起因して実装の形態が制限されることがある。しかしながら、実施形態はブラウザ１１１を介した処理に限定されるものではない。例えば、別の実施形態ではブラウザ１１１は利用されなくてもよい。例えば、実施形態は情報処理装置１０１において数式と対応するグラフの描画などを実行するアプリケーションに実装されてもよい。この場合、制御部２０１は、第１キャッシュ１１２および第２キャッシュ１１３の登録内容を１つのキャッシュに登録および管理して処理を実行してもよい。
また、上述の実施形態では、図９の処理で第１キャッシュ１１２にヒットし、リクエストがＮＧリクエストでもない場合には、子スレッド４０２にリクエストの処理を依頼せずに、処理を終了している。しかしながら、別の実施形態では、第１キャッシュ１１２にヒットし、リクエストがＮＧリクエストでもない場合にも子スレッド４０２にリクエストの処理を依頼してもよい。例えば、リクエストがそれほどなく、制御部２０１の処理能力に余裕がある場合に、このように子スレッド４０２に処理をさせることで、第２キャッシュ１１３に処理の入力データと実行結果を蓄積させることができる。
なお、上述の実施形態において、Ｓ１００２の処理で制御部２０１は、例えば、実行部２３１として動作する。また、Ｓ９０９の処理で制御部２０１は、例えば、第１格納部２３２として動作する。Ｓ１１０９の処理で制御部２０１は、例えば、第２格納部２３３として動作する。Ｓ９０５の処理で制御部２０１は、例えば、返信部２３４として動作する。
図１３は、実施形態に係る情報処理装置１０１を実現するためのコンピュータ１３００のハードウェア構成を例示する図である。図１３の情報処理装置１０１を実現するためのハードウェア構成は、例えば、プロセッサ１３０１、メモリ１３０２、記憶装置１３０３、読取装置１３０４、通信インタフェース１３０６、入出力インタフェース１３０７、入力装置１３１１および表示装置１３１２を備える。なお、プロセッサ１３０１、メモリ１３０２、記憶装置１３０３、読取装置１３０４、通信インタフェース１３０６、入出力インタフェース１３０７は、例えば、バス１３０８を介して互いに接続されている。
プロセッサ１３０１は、例えば、シングルプロセッサであっても、マルチプロセッサやマルチコアであってもよい。プロセッサ１３０１は、例えば、プログラムを読み出して実行することで、上述の実施形態の制御部２０１、ブラウザ１１１、数式処理モジュール２１２、メインスレッド４０１、子スレッド４０２（処理モジュール２１３）などとして動作してよい。また、プロセッサ１３０１は、メモリ１３０２を利用して例えば上述の動作フローの手順を記述したキャッシュ管理プログラムなどのプログラムを実行することにより、実行部２３１、第１格納部２３２、第２格納部２３３、および返信部２３４として動作する。
メモリ１３０２は、例えば半導体メモリであり、ＲＡＭ領域およびＲＯＭ領域を含んでいてよい。記憶装置１３０３は、例えばハードディスク、フラッシュメモリ等の半導体メモリ、または外部記憶装置である。なお、ＲＡＭは、Random Access Memoryの略称である。また、ＲＯＭは、Read Only Memoryの略称である。
読取装置１３０４は、プロセッサ１３０１の指示に従って着脱可能記憶媒体１３０５にアクセスする。着脱可能記憶媒体１３０５は、例えば、半導体デバイス、磁気的作用により情報が入出力される媒体、光学的作用により情報が入出力される媒体などにより実現される。なお、半導体デバイスは、例えば、ＵＳＢ（Universal Serial Bus）メモリである。また、磁気的作用により情報が入出力される媒体は、例えば、磁気ディスクである。光学的作用により情報が入出力される媒体は、例えば、ＣＤ−ＲＯＭ、ＤＶＤ、Blu-ray Disc等（Blu-rayは登録商標）である。ＣＤは、Compact Discの略称である。ＤＶＤは、Digital Versatile Diskの略称である。
記憶部２０２は、例えばメモリ１３０２、記憶装置１３０３、および着脱可能記憶媒体１３０５を含んでいる。例えば、記憶装置１３０３には、第１キャッシュ１１２、および第２キャッシュ１１３が格納されている。
通信インタフェース１３０６は、プロセッサ１３０１の指示に従って、他の装置と通信する。一例では、通信インタフェース１３０６は、有線または無線通信でネットワーク１０５を介してサービス提供サーバ１０２とデータを送受信してよい。通信インタフェース１３０６は、上述の通信部２０３の一例である。
入出力インタフェース１３０７は、例えば、入力および出力を行う装置との間のインタフェースであってよい。入出力インタフェース１３０７は、例えば、例えばユーザからの指示を受け付けるキーボード、マウス、タッチパネルなどの入力装置１３１１と接続されていてよい。また、入出力インタフェース１３０７は、例えば、表示装置１３１２と接続されている。表示装置１３１２は、例えば、ディスプレイおよびプロジェクタなどの情報を表示する装置であってよい。例えば、図１２の表示画面は、入出力インタフェース１３０７に接続された表示装置１３１２に描画されてよい。表示装置１３１２は、上述の表示部２０４の一例である。入出力インタフェース１３０７は、例えばスピーカなどの音声装置およびプリンタなどの印刷装置といったその他の出力装置と接続されていてもよい。
実施形態に係る各プログラムは、例えば、下記の形態で情報処理装置１０１に提供される。
（１）記憶装置１３０３に予めインストールされている。
（２）着脱可能記憶媒体１３０５により提供される。
（３）プログラムサーバなどのサーバ１３３０からネットワーク１０５を介して提供される。
なお、サーバ１３３０は、一例では、図１３のコンピュータ１３００のハードウェア構成を有していてよい。
なお、図１３を参照して述べた情報処理装置１０１を実現するためのコンピュータ１３００のハードウェア構成は、例示であり、実施形態はこれに限定されるものではない。例えば、上述の構成の一部が、削除されてもよく、また、新たな構成が追加されてもよい。また、別の実施形態では、例えば、上述の制御部２０１の一部または全部の機能がＦＰＧＡ、ＳｏＣ、ＡＳＩＣ、およびＰＬＤなどによるハードウェアとして実装されてもよい。なお、ＦＰＧＡは、Field Programmable Gate Arrayの略称である。ＳｏＣは、System-on-a-chipの略称である。ＡＳＩＣは、Application Specific Integrated Circuitの略称である。ＰＬＤは、Programmable Logic Deviceの略称である。
以上において、いくつかの実施形態が説明される。しかしながら、実施形態は上記の実施形態に限定されるものではなく、上述の実施形態の各種変形形態および代替形態を包含するものとして理解されるべきである。例えば、各種実施形態は、その趣旨および範囲を逸脱しない範囲で構成要素を変形して具体化できることが理解されよう。また、前述した実施形態に開示されている複数の構成要素を適宜組み合わせることにより、種々の実施形態が実施され得ることが理解されよう。更には、実施形態に示される全構成要素からいくつかの構成要素を削除して、または実施形態に示される構成要素にいくつかの構成要素を追加して種々の実施形態が実施され得ることが当業者には理解されよう。
以上の実施形態に関し、更に以下の付記を開示する。
［付記１］
リクエストと、前記リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行し、
前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を第２キャッシュに格納し、
前記複数の処理の実行結果に基づき生成した前記レスポンスを、前記リクエストと対応づけて前記第１キャッシュに格納し、
前記リクエストに対して前記レスポンスを返す、
処理をコンピュータに実行させるキャッシュ管理プログラム。
［付記２］
前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を前記第１キャッシュに格納する、
処理を更に前記コンピュータに実行させる、付記１に記載のキャッシュ管理プログラム。
［付記３］
第２のリクエストと、前記第２のリクエストに応じた第２のレスポンスとの対応関係が前記第１キャッシュに格納されている場合、前記第１キャッシュから読み出した前記第２のレスポンスを返し、
前記第２のリクエストと、前記第２のリクエストに応じた前記第２のレスポンスとの対応関係が前記第１キャッシュに格納されていない場合、前記第２のリクエストに応じた前記第２のレスポンスを生成するための複数の処理を実行する、
処理を更に前記コンピュータに実行させる、付記１または２に記載のキャッシュ管理プログラム。
［付記４］
前記第２のリクエストに応じた前記第２のレスポンスを生成するための複数の処理のうちの第１の処理の入力データと前記第１の処理の入力データと対応する処理の実行結果との対応関係が前記第２キャッシュに格納されている場合、前記第１の処理の実行結果を前記第２キャッシュから取得する、
処理を更に前記コンピュータに実行させる、付記３に記載のキャッシュ管理プログラム。
［付記５］
前記第２のリクエストに応じた前記第２のレスポンスを生成するための複数の処理のうちの第２の処理の入力データと前記第２の処理の入力データと対応する処理の実行結果との対応関係が前記第２キャッシュに格納されていても、前記第２の処理の入力データが第１の条件を満たす処理を指定している場合、前記第２の処理の実行結果を前記第２キャッシュから取得しない、
ことを特徴とする、付記３または４に記載のキャッシュ管理プログラム。
［付記６］
前記第２のリクエストは、数式処理に関するリクエストである、
付記３から５のいずれかに記載のキャッシュ管理プログラム。
［付記７］
前記第２キャッシュに格納する処理は、実行結果が第２の条件を満たす処理については当該処理の入力データと実行結果を前記第２キャッシュに格納しない、
ことを特徴とする、付記１から６のいずれかに記載のキャッシュ管理プログラム。
［付記８］
前記リクエストに応じた前記レスポンスを生成するための複数の処理は、複数のスレッドのうちのいずれか１つのスレッドが実行し、
前記１つのスレッドは、前記１つのスレッドに割り当てられた前記第２キャッシュに、前記複数の処理のそれぞれの処理の入力データと対応づけて前記処理の実行結果を格納する、
ことを特徴とする付記１から７のいずれかに記載のキャッシュ管理プログラム。
［付記９］
前記１つのスレッドは、前記複数のスレッドのうちの他のスレッドに割り当てられたキャッシュを参照しない、ことを特徴とする付記８に記載のキャッシュ管理プログラム。
［付記１０］
前記リクエストと、前記リクエストに応じた前記レスポンスとの対応関係が前記第１キャッシュに格納されている場合、前記リクエストに応じた前記レスポンスを前記第１キャッシュから取得する、
処理を更に前記コンピュータに実行させる、付記１から９のいずれかに記載のキャッシュ管理プログラム。
［付記１１］
前記リクエストに応じた前記レスポンスを生成するための複数の処理においてエラーが発生した場合、サーバに前記リクエストを送信し、
前記サーバから前記リクエストに応じた前記レスポンスを受信する、
処理を更に前記コンピュータに実行させる、付記１から１０のいずれかに記載のキャッシュ管理プログラム。
［付記１２］
前記リクエストを受信したことに応じて、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行し、かつ、サーバに前記リクエストを送信し、
前記サーバから前記リクエストに応じた前記レスポンスを受信する、
処理を更に前記コンピュータに実行させる、付記１から１１のいずれかに記載のキャッシュ管理プログラム。
［付記１３］
前記サーバから受信した前記レスポンスを前記第１キャッシュに格納する、
付記１１または１２に記載のキャッシュ管理プログラム。
［付記１４］
前記サーバは、前記リクエストに応じた複数の処理の実行結果に基づき生成した前記レスポンスを第３キャッシュに格納する、
付記１１から１３のいずれかに記載のキャッシュ管理プログラム。
［付記１５］
前記第３キャッシュには、他のコンピュータからの第３のリクエストに応じた複数の処理の実行結果から生成された第３のレスポンスが、前記第３のリクエストと対応づけて格納されており、
前記サーバは、前記コンピュータから前記リクエストを受信した場合に、前記リクエストと前記第３のリクエストとが合致すれば、前記リクエストに対する前記レスポンスとして、前記第３のレスポンスを前記コンピュータに通知する、
ことを特徴とする付記１４に記載のキャッシュ管理プログラム。
［付記１６］
前記リクエストは、数式処理に関するリクエストである、
付記１から１５のいずれかに記載のキャッシュ管理プログラム。
［付記１７］
付記１から１６のいずれかに記載のキャッシュ管理プログラムを配布するサーバ。
［付記１８］
リクエストと、前記リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行し、
前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を第２キャッシュに格納し、
前記複数の処理の実行結果に基づき生成した前記レスポンスを、前記リクエストと対応づけて前記第１キャッシュに格納し、
前記リクエストに対して前記レスポンスを返す、
ことを含む、コンピュータが実行するキャッシュ管理方法。
［付記１９］
リクエストと、前記リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行する実行部と、
前記複数の処理の実行結果に基づき生成した前記レスポンスを、前記リクエストと対応づけて前記第１キャッシュに格納する第１格納部と、
前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を第２キャッシュに格納する第２格納部と、
前記リクエストに対して前記レスポンスを返す返信部と、
を含む、情報処理装置。
１００ キャッシュ管理システム
１０１ 情報処理装置
１０２ サービス提供サーバ
１０５ ネットワーク
１１１ ブラウザ
１１２ 第１キャッシュ
１１３ 第２キャッシュ
１３１ 第３キャッシュ
１４１ 数式処理モジュール
２０１ 制御部
２０２ 記憶部
２０３ 通信部
２０４ 表示部
２１２ 数式処理モジュール
２１３ 処理モジュール
２３１ 実行部
２３２ 第１格納部
２３３ 第２格納部
２３４ 返信部
４０１ メインスレッド
４０２ 子スレッド
１３００ コンピュータ
１３０１ プロセッサ
１３０２ メモリ
１３０３ 記憶装置
１３０４ 読取装置
１３０５ 着脱可能記憶媒体
１３０６ 通信インタフェース
１３０７ 入出力インタフェース
１３０８ バス
１３１１ 入力装置
１３１２ 表示装置
１３３０ サーバ

Claims (19)

  1. リクエストと、前記リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行し、
    前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を第２キャッシュに格納し、
    前記複数の処理の実行結果に基づき生成した前記レスポンスを、前記リクエストと対応づけて前記第１キャッシュに格納し、
    前記リクエストに対して前記レスポンスを返す、
    処理をコンピュータに実行させるキャッシュ管理プログラム。
  2. 前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を前記第１キャッシュに格納する、
    処理を更に前記コンピュータに実行させる、請求項１に記載のキャッシュ管理プログラム。
  3. 第２のリクエストと、前記第２のリクエストに応じた第２のレスポンスとの対応関係が前記第１キャッシュに格納されている場合、前記第１キャッシュから読み出した前記第２のレスポンスを返し、
    前記第２のリクエストと、前記第２のリクエストに応じた前記第２のレスポンスとの対応関係が前記第１キャッシュに格納されていない場合、前記第２のリクエストに応じた前記第２のレスポンスを生成するための複数の処理を実行する、
    処理を更に前記コンピュータに実行させる、請求項１または２に記載のキャッシュ管理プログラム。
  4. 前記第２のリクエストに応じた前記第２のレスポンスを生成するための複数の処理のうちの第１の処理の入力データと前記第１の処理の入力データと対応する処理の実行結果との対応関係が前記第２キャッシュに格納されている場合、前記第１の処理の実行結果を前記第２キャッシュから取得する、
    処理を更に前記コンピュータに実行させる、請求項３に記載のキャッシュ管理プログラム。
  5. 前記第２のリクエストに応じた前記第２のレスポンスを生成するための複数の処理のうちの第２の処理の入力データと前記第２の処理の入力データと対応する処理の実行結果との対応関係が前記第２キャッシュに格納されていても、前記第２の処理の入力データが第１の条件を満たす処理を指定している場合、前記第２の処理の実行結果を前記第２キャッシュから取得しない、
    ことを特徴とする、請求項３または４に記載のキャッシュ管理プログラム。
  6. 前記第２のリクエストは、数式処理に関するリクエストである、
    請求項３から５のいずれか１項に記載のキャッシュ管理プログラム。
  7. 前記第２キャッシュに格納する処理は、実行結果が第２の条件を満たす処理については当該処理の入力データと実行結果を前記第２キャッシュに格納しない、
    ことを特徴とする、請求項１から６のいずれか１項に記載のキャッシュ管理プログラム。
  8. 前記リクエストに応じた前記レスポンスを生成するための複数の処理は、複数のスレッドのうちのいずれか１つのスレッドが実行し、
    前記１つのスレッドは、前記１つのスレッドに割り当てられた前記第２キャッシュに、前記複数の処理のそれぞれの処理の入力データと対応づけて前記処理の実行結果を格納する、
    ことを特徴とする請求項１から７のいずれか１項に記載のキャッシュ管理プログラム。
  9. 前記１つのスレッドは、前記複数のスレッドのうちの他のスレッドに割り当てられたキャッシュを参照しない、ことを特徴とする請求項８に記載のキャッシュ管理プログラム。
  10. 前記リクエストと、前記リクエストに応じた前記レスポンスとの対応関係が前記第１キャッシュに格納されている場合、前記リクエストに応じた前記レスポンスを前記第１キャッシュから取得する、
    処理を更に前記コンピュータに実行させる、請求項１から９のいずれか１項に記載のキャッシュ管理プログラム。
  11. 前記リクエストに応じた前記レスポンスを生成するための複数の処理においてエラーが発生した場合、サーバに前記リクエストを送信し、
    前記サーバから前記リクエストに応じた前記レスポンスを受信する、
    処理を更に前記コンピュータに実行させる、請求項１から１０のいずれか１項に記載のキャッシュ管理プログラム。
  12. 前記リクエストを受信したことに応じて、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行し、かつ、サーバに前記リクエストを送信し、
    前記サーバから前記リクエストに応じた前記レスポンスを受信する、
    処理を更に前記コンピュータに実行させる、請求項１から１１のいずれか１項に記載のキャッシュ管理プログラム。
  13. 前記サーバから受信した前記レスポンスを前記第１キャッシュに格納する、
    請求項１１または１２に記載のキャッシュ管理プログラム。
  14. 前記サーバは、前記リクエストに応じた複数の処理の実行結果に基づき生成した前記レスポンスを第３キャッシュに格納する、
    請求項１１から１３のいずれか１項に記載のキャッシュ管理プログラム。
  15. 前記第３キャッシュには、他のコンピュータからの第３のリクエストに応じた複数の処理の実行結果から生成された第３のレスポンスが、前記第３のリクエストと対応づけて格納されており、
    前記サーバは、前記コンピュータから前記リクエストを受信した場合に、前記リクエストと前記第３のリクエストとが合致すれば、前記リクエストに対する前記レスポンスとして、前記第３のレスポンスを前記コンピュータに通知する、
    ことを特徴とする請求項１４に記載のキャッシュ管理プログラム。
  16. 前記リクエストは、数式処理に関するリクエストである、
    請求項１から１５のいずれか１項に記載のキャッシュ管理プログラム。
  17. 請求項１から１６のいずれか１項に記載のキャッシュ管理プログラムを配布するサーバ。
  18. リクエストと、前記リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行し、
    前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を第２キャッシュに格納し、
    前記複数の処理の実行結果に基づき生成した前記レスポンスを、前記リクエストと対応づけて前記第１キャッシュに格納し、
    前記リクエストに対して前記レスポンスを返す、
    ことを含む、コンピュータが実行するキャッシュ管理方法。
  19. リクエストと、前記リクエストに応じたレスポンスとの対応関係が第１キャッシュに格納されていない場合、前記リクエストに応じた前記レスポンスを生成するための複数の処理を実行する実行部と、
    前記複数の処理の実行結果に基づき生成した前記レスポンスを、前記リクエストと対応づけて前記第１キャッシュに格納する第１格納部と、
    前記複数の処理のそれぞれの処理の入力データと対応づけて、前記処理の実行結果を第２キャッシュに格納する第２格納部と、
    前記リクエストに対して前記レスポンスを返す返信部と、
    を含む、情報処理装置。
JP2020053621A 2020-03-25 2020-03-25 キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置 Active JP7143866B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2020053621A JP7143866B2 (ja) 2020-03-25 2020-03-25 キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置
EP21163168.4A EP3910483B1 (en) 2020-03-25 2021-03-17 Cache management method, cache management system, and information processing apparatus
CN202110300670.5A CN113449220A (zh) 2020-03-25 2021-03-22 高速缓冲存储器管理方法及管理系统、以及信息处理装置
US17/208,149 US11467958B2 (en) 2020-03-25 2021-03-22 Cache management method, cache management system, and information processing apparatus
JP2022146087A JP7548281B2 (ja) 2020-03-25 2022-09-14 キャッシュ管理プログラム、キャッシュ管理方法、および情報処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020053621A JP7143866B2 (ja) 2020-03-25 2020-03-25 キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022146087A Division JP7548281B2 (ja) 2020-03-25 2022-09-14 キャッシュ管理プログラム、キャッシュ管理方法、および情報処理装置

Publications (2)

Publication Number Publication Date
JP2021152833A true JP2021152833A (ja) 2021-09-30
JP7143866B2 JP7143866B2 (ja) 2022-09-29

Family

ID=74947190

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020053621A Active JP7143866B2 (ja) 2020-03-25 2020-03-25 キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置
JP2022146087A Active JP7548281B2 (ja) 2020-03-25 2022-09-14 キャッシュ管理プログラム、キャッシュ管理方法、および情報処理装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022146087A Active JP7548281B2 (ja) 2020-03-25 2022-09-14 キャッシュ管理プログラム、キャッシュ管理方法、および情報処理装置

Country Status (4)

Country Link
US (1) US11467958B2 (ja)
EP (1) EP3910483B1 (ja)
JP (2) JP7143866B2 (ja)
CN (1) CN113449220A (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07234775A (ja) * 1991-08-09 1995-09-05 Lotus Dev Corp 数式プロセッサ
JP2010508581A (ja) * 2006-10-30 2010-03-18 マイクロソフト コーポレーション ウェブベースアプリケーションのオフライン実行
JP2011154539A (ja) * 2010-01-27 2011-08-11 Yahoo Japan Corp ブログサービス提供システム、方法及びプログラム
WO2017056310A1 (ja) * 2015-10-02 2017-04-06 株式会社日立製作所 計算機および計算機の制御方法
JP2018049495A (ja) * 2016-09-23 2018-03-29 カシオ計算機株式会社 計算装置、計算装置のグラフ表示方法、及びプログラム
JP2018049308A (ja) * 2016-09-20 2018-03-29 カシオ計算機株式会社 サーバ装置、計算方法およびプログラム
JP2019185687A (ja) * 2018-04-17 2019-10-24 カシオ計算機株式会社 プログラム、情報処理方法及び情報端末

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001014209A (ja) * 1999-06-25 2001-01-19 Sharp Corp 情報中継装置および情報中継方法、ならびに情報中継プログラムを記録したコンピュータ読み取り可能な記録媒体
US6938252B2 (en) * 2000-12-14 2005-08-30 International Business Machines Corporation Hardware-assisted method for scheduling threads using data cache locality
US6542963B2 (en) 2001-01-10 2003-04-01 Samsung Electronics Co., Ltd. Partial match partial output cache for computer arithmetic operations
US7246202B2 (en) * 2002-11-11 2007-07-17 Matsushita Electric Industrial Co., Ltd. Cache controller, cache control method, and computer system
US20040103251A1 (en) * 2002-11-26 2004-05-27 Mitchell Alsup Microprocessor including a first level cache and a second level cache having different cache line sizes
JP4744792B2 (ja) 2003-06-26 2011-08-10 ソフトバンクモバイル株式会社 キャッシングシステム
JP2005267008A (ja) * 2004-03-17 2005-09-29 Hitachi Ltd ストレージ管理方法およびストレージ管理システム
US7336284B2 (en) * 2004-04-08 2008-02-26 Ati Technologies Inc. Two level cache memory architecture
US20080263279A1 (en) * 2006-12-01 2008-10-23 Srinivasan Ramani Design structure for extending local caches in a multiprocessor system
JP2011164749A (ja) 2010-02-05 2011-08-25 Kddi Corp Ｗｅｂアプリケーション高可用化装置及びＷｅｂアプリケーション高可用化方法
US9400851B2 (en) 2011-06-23 2016-07-26 Incapsula, Inc. Dynamic content caching
JP6820892B2 (ja) 2018-09-28 2021-01-27 京セラ株式会社 印刷配線板および印刷配線板の製造方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07234775A (ja) * 1991-08-09 1995-09-05 Lotus Dev Corp 数式プロセッサ
JP2010508581A (ja) * 2006-10-30 2010-03-18 マイクロソフト コーポレーション ウェブベースアプリケーションのオフライン実行
JP2011154539A (ja) * 2010-01-27 2011-08-11 Yahoo Japan Corp ブログサービス提供システム、方法及びプログラム
WO2017056310A1 (ja) * 2015-10-02 2017-04-06 株式会社日立製作所 計算機および計算機の制御方法
JP2018049308A (ja) * 2016-09-20 2018-03-29 カシオ計算機株式会社 サーバ装置、計算方法およびプログラム
JP2018049495A (ja) * 2016-09-23 2018-03-29 カシオ計算機株式会社 計算装置、計算装置のグラフ表示方法、及びプログラム
JP2019185687A (ja) * 2018-04-17 2019-10-24 カシオ計算機株式会社 プログラム、情報処理方法及び情報端末

Also Published As

Publication number Publication date
US20210303465A1 (en) 2021-09-30
JP2022172396A (ja) 2022-11-15
US11467958B2 (en) 2022-10-11
JP7548281B2 (ja) 2024-09-10
CN113449220A (zh) 2021-09-28
EP3910483B1 (en) 2024-05-08
EP3910483A1 (en) 2021-11-17
JP7143866B2 (ja) 2022-09-29

Similar Documents

Publication Publication Date Title
CN106991154B (zh) 网页渲染方法、装置、终端及服务器
US9906626B2 (en) Resource demand-based network page generation
CN113204345A (zh) 页面生成方法、装置、电子设备及存储介质
CN111459364A (zh) 图标更新方法、装置和电子设备
CN110597602B (zh) 一种事务处理方法、装置、计算机设备及存储介质
CN111078900A (zh) 一种数据的风险识别方法及系统
CN113254819A (zh) 一种页面渲染方法、系统、设备和存储介质
JP2021152833A (ja) キャッシュ管理プログラム、サーバ、キャッシュ管理方法、および情報処理装置
CN114222317B (zh) 数据处理方法及装置、电子设备和存储介质
JP7101427B1 (ja) アクセス分散方法
CN110992131B (zh) 一种表单处理方法、装置及存储介质
CN112163176A (zh) 数据存储方法、装置、电子设备和计算机可读介质
CN116010725B (zh) 地图点位集合动态展示方法、装置、计算机设备及介质
CN111782333B (zh) 游戏中的界面显示方法、装置、存储介质与终端设备
JP7235363B1 (ja) アクセス分散方法
CN115079966B (zh) 无代码的页面打印方法、装置、电子设备和可读介质
CN111723263B (zh) 网页数据处理方法、装置、设备及存储介质
CN117194819A (zh) 页面显示方法、装置、电子设备以及存储介质
CN114925684A (zh) 变量名称生成方法、装置、电子设备以及计算机可读介质
CN111090485A (zh) 面向多集群的帮助数据处理方法及装置、介质和设备
CN115391706A (zh) 展示页面的生成方法及装置
CN117908736A (zh) 交互方法、装置、设备和存储介质
CN114942841A (zh) 基于消息驱动的微服务动态编排方法及相关设备
CN117033834A (zh) 页面渲染方法、装置、计算机可读介质及电子设备
CN118193875A (zh) 页面加载方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220318

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220816

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220829

R150 Certificate of patent or registration of utility model

Ref document number: 7143866

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150