JP7841161B2 - 中間記憶装置、計算機システム、及び計算機コマンドの前処理方法 - Google Patents
中間記憶装置、計算機システム、及び計算機コマンドの前処理方法Info
- Publication number
- JP7841161B2 JP7841161B2 JP2025098136A JP2025098136A JP7841161B2 JP 7841161 B2 JP7841161 B2 JP 7841161B2 JP 2025098136 A JP2025098136 A JP 2025098136A JP 2025098136 A JP2025098136 A JP 2025098136A JP 7841161 B2 JP7841161 B2 JP 7841161B2
- Authority
- JP
- Japan
- Prior art keywords
- model
- command
- access control
- control unit
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/604—Tools and structures for managing or administering access control systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/0223—User address space allocation, e.g. contiguous or non contiguous base addressing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9032—Query formulation
- G06F16/90332—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/93—Document management systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Bioethics (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Business, Economics & Management (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- General Business, Economics & Management (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Stored Programmes (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は中間記憶装置、計算機システム、及び計算機コマンドの前処理方法に関し、特に、言語モデルの呼び出しが速い中間記憶装置、計算機システム、及び計算機コマンドの前処理方法に関する。
人工知能（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ、以下、単に「ＡＩ」ともいう。）の台頭は、人間社会に多くの新たな可能性をもたらした。その中でも、ラージ言語モデル（Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ，以下、単に「ＬＬＭ」ともいう。）の開発は、ＡＩ技術の画期的な基礎を築いた。
ＬＬＭは、自然言語を処理して生成できるＡＩモデルであり、そのトレーニングには大量のデータとコンピューティングリソースが必要となる。したがって、ＬＬＭの記録問題もＡＩ技術の開発にとって重要な課題となっている。
現在の方式としては、ＬＬＭとユーザーとの間の対話型情報を、インターネットを介して送信することが行われているが、情報送信のプロセスは暗号化できるものの、個人情報や企業秘密が漏洩してしまうリスクが依然として存在する。
現在の方式としては、ＬＬＭとユーザーとの間の対話型情報を、インターネットを介して送信することが行われているが、情報送信のプロセスは暗号化できるものの、個人情報や企業秘密が漏洩してしまうリスクが依然として存在する。
上述の問題に鑑みて本発明は以下の構成を備える。
即ち、モデル記憶ユニットと、データ記憶ユニットと、ＡＩ選択ユニットと、アクセス制御ユニットを備えた中間記憶装置において、前記モデル記憶ユニットは複数の言語モデルを記憶し、前記データ記憶ユニットは複数のドキュメントを記憶し、前記ＡＩ選択ユニットは、モデル操作コマンドに基づいて前記言語モデルを選択し、選択された前記言語モデルにモデル操作コマンドを実行させて出力データを生成し、前記アクセス制御ユニットは、前記データ記憶ユニットと前記モデル記憶ユニットに接続され、前記アクセス制御ユニットは入力コマンドを受信し、前記アクセス制御ユニットは、前記入力コマンドが前記モデル操作コマンドであるか或いはデータアクセスコマンドであるかを判断し、前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、選択された前記言語モデルに前記出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスする。
即ち、モデル記憶ユニットと、データ記憶ユニットと、ＡＩ選択ユニットと、アクセス制御ユニットを備えた中間記憶装置において、前記モデル記憶ユニットは複数の言語モデルを記憶し、前記データ記憶ユニットは複数のドキュメントを記憶し、前記ＡＩ選択ユニットは、モデル操作コマンドに基づいて前記言語モデルを選択し、選択された前記言語モデルにモデル操作コマンドを実行させて出力データを生成し、前記アクセス制御ユニットは、前記データ記憶ユニットと前記モデル記憶ユニットに接続され、前記アクセス制御ユニットは入力コマンドを受信し、前記アクセス制御ユニットは、前記入力コマンドが前記モデル操作コマンドであるか或いはデータアクセスコマンドであるかを判断し、前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、選択された前記言語モデルに前記出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスする。
また、前記ＡＩ選択ユニットは更にリアルタイムオペレーティングシステムを含む。
また、前記アクセス制御ユニットは前記生成結果或いは選択された前記ドキュメントを上位オペレーティングシステムに送信する。
また、伝送インターフェースを更に含み、前記アクセス制御ユニットは前記伝送インターフェースに接続され、前記伝送インターフェースの種類は高度技術アタッチメント、シリアルエーティーアタッチメント、ユニバーサルシリアルバス、周辺コンポーネント相互接続拡張インターフェース、或いは、不揮発性メモリエクスプレスである。
また、複数のモデル記憶ユニットと、データ記憶ユニットと、ＡＩ選択ユニットと、アクセス制御ユニットを備えた中間記憶装置において、前記複数のモデル記憶ユニットは各前記モデル記憶ユニットが言語モデルを記憶し、前記データ記憶ユニットは複数のドキュメントを記憶し、前記ＡＩ選択ユニットは、前記モデル記憶ユニットに接続され、モデル操作コマンドに基づいて前記言語モデルを選択し、前記言語モデルは前記モデル操作コマンドを実行して出力データを生成し、前記アクセス制御ユニットは、前記データ記憶ユニットと前記ＡＩ選択ユニットに接続され、前記アクセス制御ユニットは入力コマンドを受信し、前記アクセス制御ユニットは、前記入力コマンドが前記モデル操作コマンドであるか或いはデータアクセスコマンドであるかを判断し、前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、選択された前記言語モデルに前記出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスする。
また、前記ＡＩ選択ユニットは更にリアルタイムオペレーティングシステムを含む。
また、前記アクセス制御ユニットは、前記生成結果或いは選択された前記ドキュメントを上位オペレーティングシステムに送信する。
また、伝送インターフェースを更に含み、前記アクセス制御ユニットは前記伝送インターフェースに接続され、前記伝送インターフェースの種類は高度技術アタッチメント、シリアルエーティーアタッチメント、ユニバーサルシリアルバス、周辺コンポーネント相互接続拡張インターフェース、或いは、不揮発性メモリエクスプレスである。
また、処理器と、中間記憶装置と、上位オペレーティングシステムを含んだ計算機システムにおいて、前記処理器は、上位オペレーティングシステムを実行し、前記処理器は前記上位オペレーティングシステムを介して入力コマンドを受信し、前記中間記憶装置は、前記処理器に接続され、前記中間記憶装置は少なくとも１つのモデル記憶ユニット、データ記憶ユニット、ＡＩ選択ユニット、及びアクセス制御ユニットを具備し、前記アクセス制御ユニットは、前記データ記憶ユニット、前記ＡＩ選択ユニット、及び各前記モデル記憶ユニットに接続され、各前記モデル記憶ユニットは、言語モデルを記憶し、前記データ記憶ユニットは複数のドキュメントを記憶し、前記上位オペレーティングシステムは、前記入力コマンドを前記アクセス制御ユニットに送信し、前記アクセス制御ユニットは、前記入力コマンドがモデル操作コマンドであるか或いはデータアクセスコマンドであるか判断し、前記入力コマンドが前記モデル操作コマンドのとき、前記アクセス制御ユニットは前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、前記ＡＩ選択ユニットは、前記モデル操作コマンドに基づいて前記言語モデルを選択し、選択された前記言語モデルに前記モデル操作コマンドを実行させて出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスする。
また、中間記憶装置のアクセス制御ユニットによって入力コマンドを受信し、前記アクセス制御ユニットが、前記入力コマンドがモデル操作コマンドであるか或いはデータアクセスコマンドであるか判断し、前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドをＡＩ選択ユニットに転送し、前記ＡＩ選択ユニットは、前記モデル操作コマンドに基づいて複数の言語モデルから何れか１つを選択し、選択された前記言語モデルは選択モデルであり、前記選択モデルは前記モデル操作コマンドに基づいて出力データを生成し、前記アクセス制御ユニットは前記出力データに基づいて生成結果を生成する。
前記ＡＩ選択ユニットは前記モデル操作コマンドに基づいて前記複数の言語モデルから何れか１つを選択し、選択された前記言語モデルは前記選択モデルであるステップは、前記ＡＩ選択ユニットは複数のモデル記憶ユニットから何れか１つを選択し、各前記モデル記憶ユニットは対応する前記言語モデルを記憶することを含む。
また、前記ＡＩ選択ユニットは前記モデル操作コマンドに基づいて、前記複数の言語モデルから何れか１つを選択し、選択された前記言語モデルは前記選択モデルであるステップは、モデル記憶ユニットに前記複数の言語モデルを記憶し、前記ＡＩ選択ユニットは前記モデル記憶ユニットから何れか１つの前記言語モデルを選択することを含む。
また、前記入力コマンドは前記データアクセスコマンドであり、前記アクセス制御ユニットは前記データアクセスコマンドに基づいて、データ記憶ユニットから対応するドキュメントにアクセスする。
本発明による中間記憶装置、計算機システム、及び計算機コマンドの前処理方法は、ローカルコンピュータで使用できる大規模な言語モデルを提供する。そして、ネットワークを介した通信時の情報漏洩のリスクを回避できるだけでなく、大規模な言語モデルの呼び出しを高速化し、情報の応答時間を短縮する。また、様々なアプリケーションシナリオに対応する大規模な言語モデルをコンピュータ（以下、「計算機」ともいう。）に展開できるため、同一のコンピュータで複数の異なるアプリケーションシナリオに関連するサービスを提供できる。
先ず、図１と図２Ａを参照して本発明の実施形態を説明する。ここで、図１は本発明の実施形態を説明するハードウェアのブロック図であり、図２Ａは本発明の実施形態による計算機に適用されるシステムのブロック図である。
中間記憶装置３００は処理器（プロセッサ）１００に接続されており、そして、処理器１００によって出力された入力コマンド２１０を受信する。計算機（コンピュータ）１０は、入力デバイス２００を介して入力コマンド２１０を出力することができ、また、処理器１００は、アプリケーションプログラムの実行時に入力コマンド２１０を中間記憶装置３００に出力することもできる。
計算機１０は、パーソナルコンピュータ、ノートブックコンピュータ、タブレットコンピュータ、携帯電話等の電子装置であっても良い。コンピュータ１０は、対応する上位オペレーティングシステム３２２（Ｏｐｅｒａｔｉｏｎ Ｓｙｓｔｅｍ，ＯＳ）を実行する。上位オペレーティングシステム３２２の種類は、マイクロソフト社（Ｍｉｃｒｏｓｏｆｔ（登録商標））のウインドウズ（Ｗｉｎｄｏｗｓ（登録商標））オペレーティングシステム、Ａｐｐｌｅ（登録商標）社のＯＳＸ（登録商標）オペレーティングシステム、又はＬｉｎｕｘ（登録商標）オペレーティングシステム等であってもよい。
計算機１０は、パーソナルコンピュータ、ノートブックコンピュータ、タブレットコンピュータ、携帯電話等の電子装置であっても良い。コンピュータ１０は、対応する上位オペレーティングシステム３２２（Ｏｐｅｒａｔｉｏｎ Ｓｙｓｔｅｍ，ＯＳ）を実行する。上位オペレーティングシステム３２２の種類は、マイクロソフト社（Ｍｉｃｒｏｓｏｆｔ（登録商標））のウインドウズ（Ｗｉｎｄｏｗｓ（登録商標））オペレーティングシステム、Ａｐｐｌｅ（登録商標）社のＯＳＸ（登録商標）オペレーティングシステム、又はＬｉｎｕｘ（登録商標）オペレーティングシステム等であってもよい。
中間記憶装置３００は、シリアル・アドバンスト・テクノロジー・アタッチメント（Ｓｅｒｉａｌ Ａｄｖａｎｃｅｄ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ，以下単に「ＳＡＴＡ」ともいう。）、シリアル・アタッチドＳＣＳＩＩ （Ｓｅｒｉａｌ Ａｔｔａｃｈｅｄ ＳＣＳＩ，以下単に「ＳＡＳ」ともいう。）、周辺コンポーネント相互接続高速パス（Ｐｅｒｉｐｈｅｒａｌ Ｃｏｍｐｏｎｅｎｔ Ｉｎｔｅｒｃｏｎｎｅｃｔ Ｅｘｐｒｅｓｓ，以下単に「ＰＣＩｅ」ともいう。）、不揮発性メモリ高速パス（Ｎｏｎ－Ｖｏｌａｔｉｌｅ Ｍｅｍｏｒｙ Ｅｘｐｒｅｓｓ，以下単に「ＮＶＭｅ」とも言う。）、ユニバーサルシリアルバス（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ，以下単に「ＵＳＢ」とも言う。）、外部シリアル先進技術アタッチメント（ｅｘｔｅｒｎａｌ Ｓｅｒｉａｌ Ａｄｖａｎｃｅｄ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ，以下単に「ｅＳＡＴＡ」とも言う。）、小型コンピュータシステムインターフェース（Ｓｍａｌｌ Ｃｏｍｐｕｔｅｒ Ｓｙｓｔｅｍ Ｉｎｔｅｒｆａｃｅ，以下単に「ＳＣＳＩ」とも言う。） 統合ディスクエレクトロニクス（Ｉｎｔｅｇｒａｔｅｄ Ｄｒｉｖｅ Ｅｌｅｃｔｒｏｎｉｃｓ，以下単に「ＩＤＥ」とも言う。）、次世代フォームファクタ（Ｎｅｘｔ Ｇｅｎｅｒａｔｉｏｎ Ｆｏｒｍ Ｆａｃｔｏｒ，以下単に「Ｍ．２」とも言う。）、ユニバーサルシリアルバス（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ，以下単に「ＵＳＢ」とも言う。）又はサンダーボルト（Ｔｈｕｎｄｅｒｂｏｌｔ）であっても良い。
中間記憶装置３００は、モデル記憶ユニット３１０と、データ記憶ユニット３２０と、人工知能選択ユニット（以下、ＡＩ選択ユニット３３０という）と、アクセス制御ユニット３４０を備える。アクセス制御ユニット３４０は、モデル記憶ユニット３１０、データ記憶ユニット３２０、及びＡＩ選択ユニット３３０に接続される。
中間記憶装置３００は、モデル記憶ユニット３１０と、データ記憶ユニット３２０と、人工知能選択ユニット（以下、ＡＩ選択ユニット３３０という）と、アクセス制御ユニット３４０を備える。アクセス制御ユニット３４０は、モデル記憶ユニット３１０、データ記憶ユニット３２０、及びＡＩ選択ユニット３３０に接続される。
モデル記憶ユニット３１０は、不揮発性メモリ（Ｎｏｎ－Ｖｏｌａｔｉｌｅ Ｍｅｍｏｒｙ、ＮＶＭ）又は他の記憶媒体内にあっても差し支えない。また、モデル記憶ユニット３１０は、複数の言語モデル３１１（Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ，以下単に「ＬＬＭ」とも言う。）を記憶する。
言語モデル３１１のタイプは、会話型アプリケーション用の言語モデル（Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ ｆｏｒ Ｄｉａｌｏｇｕｅ Ａｐｐｌｉｃａｔｉｏｎｓ，以下単に「ＬａＭＤＡ」とも言う。）３１１、メタラージ言語モデル（Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｍｅｔａ ＡＩ，以下単に「ＬＬａＭＡ」とも言う。）３１１、ＧＰＴ－３（登録商標）（Ｇｅｎｅｒａｔｉｖｅ Ｐｒｅ－ｔｒａｉｎｅｄ Ｔｒａｎｓｆｏｒｍｅｒ ３，以下単に「ＧＰＴ－３」とも言う。）、グーグル（Ｇｏｏｇｌｅ（登録商標））のＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒｓ，以下単に「ＢＥＲＴ」とも言う。）、ＧＰＴ－４（登録商標）（Ｇｅｎｅｒａｔｉｖｅ Ｐｒｅ－ｔｒａｉｎｅｄ Ｔｒａｎｓｆｏｒｍｅｒ ４，以下単に「ＧＰＴ－４」とも言う。）、Ｃｏｄｅｘ、ＤＡＬＬ・Ｅ（ＯｐｅｎＡＩ ＤＡＬＬ－Ｅ）、ＢＡＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ ａｎｄ Ａｕｔｏ－Ｒｅｇｒｅｓｓｉｖｅ Ｔｒａｎｓｆｏｒｍｅｒｓ，以下単に「ＢＡＲＴ」とも言う。）、ＲｏＢＥＲＴａ（Ｒｏｂｕｓｔｌｙ ｏｐｔｉｍｉｚｅｄ ＢＥＲＴ ａｐｐｒｏａｃｈ，以下単に「ＲｏＢＥＲＴａ」とも言う。）、Ｔ５（Ｔｅｘｔ－ｔｏ－Ｔｅｘｔ Ｔｒａｎｓｆｅｒ Ｔｒａｎｓｆｏｒｍｅｒ，以下単に「Ｔ５」とも言う。）、又はＰａＬＭ （Ｐａｔｈｗａｙｓ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ，以下単に「ＰａＬＭ」とも言う。）であっても良いが、これらに限定されない。
上述の言語モデル３１１に基づいて、モデル記憶ユニット３１０は、異なるシナリオの要件に基づいて、異なる要件を備えた言語モデル３１１を展開できる。たとえば、ＬＬａＭＡは英語の教育シナリオに適用でき、ＤＡＬＬ－Ｅは描画の教育シナリオに適用できる。
前述の種々の言語モデル３１１は、個人チャットシナリオ、個人知識ベース管理、文書整理、文書翻訳、ヘルスケア、金融投資、製造、小売、運輸又は農業等の分野にも適用できる。
言語モデル３１１のタイプは、会話型アプリケーション用の言語モデル（Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ ｆｏｒ Ｄｉａｌｏｇｕｅ Ａｐｐｌｉｃａｔｉｏｎｓ，以下単に「ＬａＭＤＡ」とも言う。）３１１、メタラージ言語モデル（Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｍｅｔａ ＡＩ，以下単に「ＬＬａＭＡ」とも言う。）３１１、ＧＰＴ－３（登録商標）（Ｇｅｎｅｒａｔｉｖｅ Ｐｒｅ－ｔｒａｉｎｅｄ Ｔｒａｎｓｆｏｒｍｅｒ ３，以下単に「ＧＰＴ－３」とも言う。）、グーグル（Ｇｏｏｇｌｅ（登録商標））のＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒｓ，以下単に「ＢＥＲＴ」とも言う。）、ＧＰＴ－４（登録商標）（Ｇｅｎｅｒａｔｉｖｅ Ｐｒｅ－ｔｒａｉｎｅｄ Ｔｒａｎｓｆｏｒｍｅｒ ４，以下単に「ＧＰＴ－４」とも言う。）、Ｃｏｄｅｘ、ＤＡＬＬ・Ｅ（ＯｐｅｎＡＩ ＤＡＬＬ－Ｅ）、ＢＡＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ ａｎｄ Ａｕｔｏ－Ｒｅｇｒｅｓｓｉｖｅ Ｔｒａｎｓｆｏｒｍｅｒｓ，以下単に「ＢＡＲＴ」とも言う。）、ＲｏＢＥＲＴａ（Ｒｏｂｕｓｔｌｙ ｏｐｔｉｍｉｚｅｄ ＢＥＲＴ ａｐｐｒｏａｃｈ，以下単に「ＲｏＢＥＲＴａ」とも言う。）、Ｔ５（Ｔｅｘｔ－ｔｏ－Ｔｅｘｔ Ｔｒａｎｓｆｅｒ Ｔｒａｎｓｆｏｒｍｅｒ，以下単に「Ｔ５」とも言う。）、又はＰａＬＭ （Ｐａｔｈｗａｙｓ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ，以下単に「ＰａＬＭ」とも言う。）であっても良いが、これらに限定されない。
上述の言語モデル３１１に基づいて、モデル記憶ユニット３１０は、異なるシナリオの要件に基づいて、異なる要件を備えた言語モデル３１１を展開できる。たとえば、ＬＬａＭＡは英語の教育シナリオに適用でき、ＤＡＬＬ－Ｅは描画の教育シナリオに適用できる。
前述の種々の言語モデル３１１は、個人チャットシナリオ、個人知識ベース管理、文書整理、文書翻訳、ヘルスケア、金融投資、製造、小売、運輸又は農業等の分野にも適用できる。
データ記憶ユニット３２０は、複数のドキュメント３２１を記憶し、ドキュメント３２１は、一般に、テキストファイル、画像ファイル、動画ファイル、音声ファイル、データベースファイル、圧縮ファイル、プレゼンテーションファイル、又はプログラムコードファイル等を指す。いくつかの実施形態では、上位オペレーティングシステム３２２は、中間記憶装置３００又は他の記憶装置に記憶され得る。
上位オペレーティングシステム３２２は、ユーザーによって生成された、又はアプリケーションプログラムによって生成された入力コマンド２１０に基づいて、処理器１００に入力コマンド２１０を中間記憶装置３００に出力させる。
このうち、入力コマンド２１０の種類は、データアクセスコマンド３３２又はモデル操作コマンド３３１に更に分けることができる。中間記憶装置３００は、入力コマンド２１０を受信すると、入力コマンド２１０がモデル操作コマンド３３１であるかデータアクセスコマンド３３２であるかを判断する。
上位オペレーティングシステム３２２は、ユーザーによって生成された、又はアプリケーションプログラムによって生成された入力コマンド２１０に基づいて、処理器１００に入力コマンド２１０を中間記憶装置３００に出力させる。
このうち、入力コマンド２１０の種類は、データアクセスコマンド３３２又はモデル操作コマンド３３１に更に分けることができる。中間記憶装置３００は、入力コマンド２１０を受信すると、入力コマンド２１０がモデル操作コマンド３３１であるかデータアクセスコマンド３３２であるかを判断する。
データアクセスコマンド３３２は、ドキュメント３２１の読み取り、書き込み、追加（ａｐｐｅｎｄ）、更新（ｕｐｄａｔｅ）、削除、移動、コピー、検索、ロック（ｌｏｃｋ）等の関連処理を含むことができる。
モデル操作コマンド３３１には、チャット対話コマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｃｈａｔ，ＡＩ ＬＬＭ ＣＨＡＴ）、モデル構成コマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｃｏｎｆｉｇｕｒａｔｉｏｎ Ｍｏｄｅｌ，ＡＩ ＬＬＭ ＣＯＮＦＩＧ ＭＯＤＥＬ）、モデル微調整コマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｆｉｎｅ Ｔｕｎｅ，ＡＩ ＬＬＭ ＦＩＮＥ ＴＵＮＥ）、言語モデル３１１認可コマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ａｕｔｈｏｒｉｚａｔｉｏｎ，ＡＩ ＬＬＭ ＡＵＴＨ）、モデル展開コマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｄｅｐｌｏｙ Ｍｏｄｅｌ，ＡＩ ＬＬＭ ＤＥＰＬＯＹ ＭＯＤＥＬ）、データセット読み込みコマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｌｏａｄ Ｄａｔａｓｅｔ，ＡＩ ＬＬＭ ＬＯＡＤ ＤＡＴＡＳＥＴ）、テキスト生成コマンド（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｇｅｎｅｒａｔｅ Ｔｅｘｔ，ＡＩ ＬＬＭ ＧＥＮＥＲＡＴＥ ＴＥＸＴ）、性能評価指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｅｖａｌｕａｔｅ Ｐｅｒｆｏｒｍａｎｃｅ，ＡＩ ＬＬＭ ＥＶＡＬＵＡＴＥ ＰＥＲＦＯＲＭＡＮＣＥ）、パラメータ更新指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｕｐｄａｔｅ Ｐａｒａｍｅｔｅｒｓ，ＡＩ ＬＬＭ ＵＰＤＡＴＥ ＰＡＲＡＭＥＴＥＲＳ）、モデル保存指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｓａｖｅ Ｍｏｄｅｌ，ＡＩ ＬＬＭ ＳＡＶＥ ＭＯＤＥＬ）、モデルテスト指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｔｅｓｔ Ｍｏｄｅｌ，ＡＩ ＬＬＭ ＴＥＳＴ ＭＯＤＥＬ）、モデルリセット指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｒｅｓｅｔ Ｍｏｄｅｌ，ＡＩ ＬＬＭ ＲＥＳＥＴ ＭＯＤＥＬ）、モデルトレーニング指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｔｒａｉｎ Ｍｏｄｅｌ，ＡＩ ＬＬＭ ＴＲＡＩＮ ＭＯＤＥＬ）又は権限設定指示（ＡＩ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ Ｓｅｔ Ｐｅｒｍｉｓｓｉｏｎｓ，ＡＩ ＬＬＭ ＳＥＴ ＰＥＲＭＩＳＳＩＯＮＳ）等が含まれる。
アクセス制御ユニット３４０が入力コマンド２１０を受信した後、アクセス制御ユニット３４０は、図３に示すように、入力コマンド２１０の種類に応じて以下のステップを実行する。ここで、図３は本実施形態による計算機コマンドの前処理方法のフローチャートである。
ステップＳ３１０：中間記憶装置３００のアクセス制御ユニット３４０によって入力コマンド２１０を受信する。
ステップＳ３２０：アクセス制御ユニット３４０は、入力コマンド２１０がモデル操作コマンド３３１であるか或いはデータアクセスコマンド３３２であるかを判断する。
ステップ３３０：入力コマンド２１０がモデル操作コマンド３３１であるとき、アクセス制御ユニット３４０はモデル操作コマンド３３１をＡＩ選択ユニット３３０に送信する。
ステップＳ３４０：ＡＩ選択ユニット３３０は、モデル操作コマンド３３１に基づいて言語モデル３１１の複数のグループのうちの何れか１つを選択し、選択された言語モデル３１１が選択モデル３１２となる。
ステップＳ３５０：選択モデル３１２は、モデル操作コマンド３３１に基づいて出力データ３３４を生成する。
ステップＳ３６０：アクセス制御ユニット３４０は、出力データ３３４に基づいて生成結果を生成する。
ステップＳ３７０：入力コマンド２１０がデータアクセスコマンド３３２のとき、アクセス制御ユニット３４０は、データ記憶ユニット３１０にデータアクセスコマンド３３２を送信する。
ステップＳ３２０：アクセス制御ユニット３４０は、入力コマンド２１０がモデル操作コマンド３３１であるか或いはデータアクセスコマンド３３２であるかを判断する。
ステップ３３０：入力コマンド２１０がモデル操作コマンド３３１であるとき、アクセス制御ユニット３４０はモデル操作コマンド３３１をＡＩ選択ユニット３３０に送信する。
ステップＳ３４０：ＡＩ選択ユニット３３０は、モデル操作コマンド３３１に基づいて言語モデル３１１の複数のグループのうちの何れか１つを選択し、選択された言語モデル３１１が選択モデル３１２となる。
ステップＳ３５０：選択モデル３１２は、モデル操作コマンド３３１に基づいて出力データ３３４を生成する。
ステップＳ３６０：アクセス制御ユニット３４０は、出力データ３３４に基づいて生成結果を生成する。
ステップＳ３７０：入力コマンド２１０がデータアクセスコマンド３３２のとき、アクセス制御ユニット３４０は、データ記憶ユニット３１０にデータアクセスコマンド３３２を送信する。
まず、計算機１０が有効化されて起動（ｂｏｏｔ）され、計算機１０は上位オペレーティングシステム３２２をロードする。上位オペレーティングシステム３２２は入力コマンド２１０を受信する。
一般的には、ユーザーは入力デバイス２００を通じて入力コマンド２１０を出力でき、たとえば、ユーザーがキーボードを介して入力コマンド２１０を入力すると、ユーザーは関連するオプションをマウスでクリックして入力コマンド２１０を形成することもできる。
上位オペレーティングシステム３２２が入力コマンド２１０を受信した後、上位オペレーティングシステム３２２は、入力コマンド２１０を対応する中間記憶装置３００に送信する（ステップＳ３１０に対応する。）。ここで、中間記憶装置３００は少なくとも１つであるが、図１では、一例として１つの中間記憶装置３００を挙げて説明する。
一般的には、ユーザーは入力デバイス２００を通じて入力コマンド２１０を出力でき、たとえば、ユーザーがキーボードを介して入力コマンド２１０を入力すると、ユーザーは関連するオプションをマウスでクリックして入力コマンド２１０を形成することもできる。
上位オペレーティングシステム３２２が入力コマンド２１０を受信した後、上位オペレーティングシステム３２２は、入力コマンド２１０を対応する中間記憶装置３００に送信する（ステップＳ３１０に対応する。）。ここで、中間記憶装置３００は少なくとも１つであるが、図１では、一例として１つの中間記憶装置３００を挙げて説明する。
中間記憶装置３００のアクセス制御ユニット３４０は、入力されたコマンド２１０がデータアクセスコマンド３３２であるか或いはモデル操作コマンド３３１であると判断する（ステップＳ３２０に対応する）。
アクセス制御ユニット３４０は、入力コマンド２１０がモデル操作コマンド３３１であると判定したとき、アクセス制御ユニット３４０は、モデル操作コマンド３３１をＡＩ選択ユニット３３０に送信する（ステップＳ３３０に対応する）。
次に、ＡＩ選択ユニット３３０は、モデル記憶ユニット３１０内の複数の言語モデル３１１から選択し、選択された言語モデル３１１を選択モデル３１２と呼ぶものとする（ステップＳ３４０に対応する。）。
アクセス制御ユニット３４０は、入力コマンド２１０がモデル操作コマンド３３１であると判定したとき、アクセス制御ユニット３４０は、モデル操作コマンド３３１をＡＩ選択ユニット３３０に送信する（ステップＳ３３０に対応する）。
次に、ＡＩ選択ユニット３３０は、モデル記憶ユニット３１０内の複数の言語モデル３１１から選択し、選択された言語モデル３１１を選択モデル３１２と呼ぶものとする（ステップＳ３４０に対応する。）。
本実施形態では、モデル記憶ユニット３１０は、複数の言語モデル３１１を有する。言語モデル３１１を選択する前に、ＡＩ選択ユニット３３０は、モデル操作コマンド３３１の内容に基づいて、対応するアプリケーションシナリオを決定する。ＡＩ選択ユニット３３０は、選択されたアプリケーションシナリオに基づいて、対応する言語モデル３１１を選択する。図２Ａでは、選択モデル３１２を一例として黒く太い線の枠で示している。
本実施形態では、図２Ｂに示すように、アクセス制御ユニット３４０は、選択モデル３１２をデータ記憶ユニット３２０にロードすることができる。選択モデル３１２は、モデル操作コマンド３３１を実行し、出力データ３３４を生成することができる。
本実施形態では、図２Ｂに示すように、アクセス制御ユニット３４０は、選択モデル３１２をデータ記憶ユニット３２０にロードすることができる。選択モデル３１２は、モデル操作コマンド３３１を実行し、出力データ３３４を生成することができる。
データ記憶ユニット３２０は、出力データ３３４をアクセス制御ユニット３４０に送信し、アクセス制御ユニット３４０が生成結果３３５を生成する。
一般的には、アクセス制御ユニット３４０は、出力データ３３４を上位アプリケーション或いはオペレーティングシステムに対応するＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ Ｐｒｏｇｒａｍｍｉｎｇ Ｉｎｔｅｒｆａｃｅ）インターフェース形式にカプセル化する。ＡＰＩインターフェースの形式は次のとおりである。
｛”ｐｒｏｍｐｔ”：”コンテンツ”，”ｍａｘ＿ｔｏｋｅｎｓ”：６０，”ｔｅｍｐｅｒａｔｕｒｅ”：０．５｝
ＡＩ選択ユニット３３０は、選択モデル３１２にモデル操作コマンド３３１を送信する。選択モデル３１２は、モデル操作コマンド３３１に基づいて、対応する出力データ３３４を生成する（ステップＳ３５０に対応する）。
例えば、モデル操作コマンド３３１が「次の英語の段落を繁体字の中国語に翻訳する」であるとき、ＡＩ選択ユニット３３０は、翻訳及び教育用の言語モデル３１１として、前述のＬＬａＭＡモデルを選択してもよい。
一般的には、アクセス制御ユニット３４０は、出力データ３３４を上位アプリケーション或いはオペレーティングシステムに対応するＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ Ｐｒｏｇｒａｍｍｉｎｇ Ｉｎｔｅｒｆａｃｅ）インターフェース形式にカプセル化する。ＡＰＩインターフェースの形式は次のとおりである。
｛”ｐｒｏｍｐｔ”：”コンテンツ”，”ｍａｘ＿ｔｏｋｅｎｓ”：６０，”ｔｅｍｐｅｒａｔｕｒｅ”：０．５｝
ＡＩ選択ユニット３３０は、選択モデル３１２にモデル操作コマンド３３１を送信する。選択モデル３１２は、モデル操作コマンド３３１に基づいて、対応する出力データ３３４を生成する（ステップＳ３５０に対応する）。
例えば、モデル操作コマンド３３１が「次の英語の段落を繁体字の中国語に翻訳する」であるとき、ＡＩ選択ユニット３３０は、翻訳及び教育用の言語モデル３１１として、前述のＬＬａＭＡモデルを選択してもよい。
ＬＬａＭＡモデルは、モデル操作コマンド３３１を実行し、変換された出力データ３３４「Ｔｒａｎｓｌａｔｅ ｔｈｅ ｆｏｌｌｏｗｉｎｇ Ｅｎｇｌｉｓｈ ｐａｒａｇｒａｐｈ ｉｎｔｏ Ｔｒａｄｉｔｉｏｎａｌ Ｃｈｉｎｅｓｅ」を生成する。
アクセス制御ユニット３４０は、生成結果３３５を上位オペレーティングシステム３２２に送信する。更に、ＡＩ選択ユニット３３０は、ＧＰＴ－３、ＧＰＴ－４、或いはＬａＭＤＡ等の投資関連の入力コマンド２１０に基づいて、関連する言語モデル３１１を呼び出すこともできる。
入力コマンド２１０がデータアクセスコマンド３３２であるとき、アクセス制御ユニット３４０は、データアクセスコマンド３３２をデータ記憶ユニット３２０に送信する（ステップＳ３７０に対応する。）。アクセス制御ユニット３４０は、データ記憶ユニット３２０から対応するドキュメント３２１にアクセスする。中間記憶装置３００は、選択されたファイル情報を上位オペレーティングシステム３２２に送信する。
入力コマンド２１０がデータアクセスコマンド３３２であるとき、アクセス制御ユニット３４０は、データアクセスコマンド３３２をデータ記憶ユニット３２０に送信する（ステップＳ３７０に対応する。）。アクセス制御ユニット３４０は、データ記憶ユニット３２０から対応するドキュメント３２１にアクセスする。中間記憶装置３００は、選択されたファイル情報を上位オペレーティングシステム３２２に送信する。
いくつかの実施形態では、ＡＩ選択ユニット３３０は、リアルタイムオペレーティングシステム３３３（Ｒｅａｌ－ｔｉｍｅ ｏｐｅｒａｔｉｎｇ ｓｙｓｔｅｍ、以下単に「ＲＴＯＳ」とも言う。）を更に含むが、具体的には図４を参照されたい。ここで、図４は本実施形態によるＡＩ選択ユニットのブロック図である。
リアルタイムオペレーティングシステム３３３は、中間記憶装置３００のタスク管理、リソース管理、通信或いは情報セキュリティ処理を提供する。リアルタイムオペレーティングシステム３３３は、出力データ３３４をアクセス制御ユニット３４０に送信し、アクセス制御ユニット３４０に生成結果３３５を生成させる。
リアルタイムオペレーティングシステム３３３は、中間記憶装置３００のタスク管理、リソース管理、通信或いは情報セキュリティ処理を提供する。リアルタイムオペレーティングシステム３３３は、出力データ３３４をアクセス制御ユニット３４０に送信し、アクセス制御ユニット３４０に生成結果３３５を生成させる。
中間記憶装置３００は更に伝送インターフェースを含み、詳しくは図４を参照されたい。アクセス制御部３４０は伝送インターフェースに接続されており、伝送インターフェースは計算機１００にも接続されている。
伝送インターフェースの種類には、アドバンストテクノロジーインターフェース（Ａｄｖａｎｃｅｄ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ，以下単に「ＡＴＡ」とも言う。）、シリアルエーティーアタッチメント（Ｓｅｒｉａｌ ＡＴ Ａｔｔａｃｈｍｅｎｔ，以下単に「ＳＡＴＡ」とも言う。）、ユニバーサルシリアルバス（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ，以下単に「ＵＳＢ」とも言う。）、周辺コンポーネント相互接続拡張インターフェース（Ｐｅｒｉｐｈｅｒａｌ Ｃｏｍｐｏｎｅｎｔ Ｉｎｔｅｒｃｏｎｎｅｃｔ Ｅｘｐｒｅｓｓ，以下単に「ＰＣＩｅ」とも言う。）、又は不揮発性メモリエクスプレス（Ｎｏｎ－Ｖｏｌａｔｉｌｅ Ｍｅｍｏｒｙ Ｅｘｐｒｅｓｓ，以下単に「ＮＶＭｅ」とも言う。）がある。
いくつかの実施形態では、計算機１０は、処理器１００と中間記憶装置３００を含む。図５を参照されたい。ここで、図５は本発明の他の実施形態による計算機に適用されるシステムのブロック図である。本実施形態の中間記憶装置３００は、複数のモデル記憶ユニット３１０、データ記憶ユニット３２０、ＡＩ選択ユニット３３０、アクセス制御ユニット３４０を備える。
伝送インターフェースの種類には、アドバンストテクノロジーインターフェース（Ａｄｖａｎｃｅｄ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ，以下単に「ＡＴＡ」とも言う。）、シリアルエーティーアタッチメント（Ｓｅｒｉａｌ ＡＴ Ａｔｔａｃｈｍｅｎｔ，以下単に「ＳＡＴＡ」とも言う。）、ユニバーサルシリアルバス（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ，以下単に「ＵＳＢ」とも言う。）、周辺コンポーネント相互接続拡張インターフェース（Ｐｅｒｉｐｈｅｒａｌ Ｃｏｍｐｏｎｅｎｔ Ｉｎｔｅｒｃｏｎｎｅｃｔ Ｅｘｐｒｅｓｓ，以下単に「ＰＣＩｅ」とも言う。）、又は不揮発性メモリエクスプレス（Ｎｏｎ－Ｖｏｌａｔｉｌｅ Ｍｅｍｏｒｙ Ｅｘｐｒｅｓｓ，以下単に「ＮＶＭｅ」とも言う。）がある。
いくつかの実施形態では、計算機１０は、処理器１００と中間記憶装置３００を含む。図５を参照されたい。ここで、図５は本発明の他の実施形態による計算機に適用されるシステムのブロック図である。本実施形態の中間記憶装置３００は、複数のモデル記憶ユニット３１０、データ記憶ユニット３２０、ＡＩ選択ユニット３３０、アクセス制御ユニット３４０を備える。
アクセス制御ユニット３４０は、データ記憶ユニット３２０及びＡＩ選択ユニット３３０に接続されている。各モデル記憶ユニット３１０は、それぞれ独自の言語モデル３１１を記憶する。言語モデル３１１の種類については、上述の通りである。或いは、異なるアプリケーションシナリオで使用される同一の言語モデル３１１が、それぞれのモデル記憶ユニット３１０に記憶される。
たとえば、２組のＬＬａＭＡモデルが英語教育とＰｙｔｈｏｎプログラミング言語教育に適用される。このため、英語教育ＬＬａＭＡモデルを独立したモデル記憶ユニット３１０に記憶し、Ｐｙｔｈｏｎプログラミング言語教育ＬＬａＭＡモデルを他のモデル記憶ユニット３１０に記憶できる。
たとえば、２組のＬＬａＭＡモデルが英語教育とＰｙｔｈｏｎプログラミング言語教育に適用される。このため、英語教育ＬＬａＭＡモデルを独立したモデル記憶ユニット３１０に記憶し、Ｐｙｔｈｏｎプログラミング言語教育ＬＬａＭＡモデルを他のモデル記憶ユニット３１０に記憶できる。
アクセス制御ユニット３４０は、受信した入力コマンド２１０がモデル操作コマンド３３１であるかデータアクセスコマンド３３２であるかを判断する。
入力コマンド２１０がデータアクセスコマンド３３２であるとき、アクセス制御ユニット３４０は、データアクセスコマンド３３２に基づいてデータ記憶ユニット３２０から対応するドキュメント３２１にアクセスし、そして、選択されたドキュメント３２１を上位オペレーティングシステム３２２に応答する。
データアクセスコマンド３３２がモデル操作コマンド３３１であるとき、アクセス制御ユニット３４０は、モデル操作コマンド３３１をＡＩ選択ユニット３３０に送信する。
ＡＩ選択ユニット３３０は、モデル操作コマンド３３１のアプリケーションシナリオに基づいて、対応するモデル記憶ユニット３１０と言語モデル３１１を選択する。選択モデル３１２によりモデル操作コマンド３３１が実行され、出力データ３３４が生成される。アクセス制御ユニット３４０は、生成結果３３５を上位オペレーティングシステム３２２に送信する。
入力コマンド２１０がデータアクセスコマンド３３２であるとき、アクセス制御ユニット３４０は、データアクセスコマンド３３２に基づいてデータ記憶ユニット３２０から対応するドキュメント３２１にアクセスし、そして、選択されたドキュメント３２１を上位オペレーティングシステム３２２に応答する。
データアクセスコマンド３３２がモデル操作コマンド３３１であるとき、アクセス制御ユニット３４０は、モデル操作コマンド３３１をＡＩ選択ユニット３３０に送信する。
ＡＩ選択ユニット３３０は、モデル操作コマンド３３１のアプリケーションシナリオに基づいて、対応するモデル記憶ユニット３１０と言語モデル３１１を選択する。選択モデル３１２によりモデル操作コマンド３３１が実行され、出力データ３３４が生成される。アクセス制御ユニット３４０は、生成結果３３５を上位オペレーティングシステム３２２に送信する。
中間記憶装置３００、計算機１０のシステム、及び計算機１０のコマンドの前処理方法は、ローカルの計算機１０によって使用され得る大規模な言語モデル３１１を提供する。
ネットワーク通信中の情報漏洩のリスクを回避することに加えて、大規模な言語モデル３１１の呼び出し速度を高速化し、それによって情報の応答時間を高速化することができる。更に、異なるアプリケーションシナリオに対する大規模な言語モデル３１１を計算機１０に展開することができるので、同じ計算機１０が複数の異なるアプリケーションシナリオに対して関連するサービスを提供できる。
ネットワーク通信中の情報漏洩のリスクを回避することに加えて、大規模な言語モデル３１１の呼び出し速度を高速化し、それによって情報の応答時間を高速化することができる。更に、異なるアプリケーションシナリオに対する大規模な言語モデル３１１を計算機１０に展開することができるので、同じ計算機１０が複数の異なるアプリケーションシナリオに対して関連するサービスを提供できる。
１０ 計算機
１００ 処理器
２００ 入力デバイス
２１０ 入力コマンド
３００ 中間記憶装置
３１０ モデル記憶ユニット
３１１ 言語モデル
３１２ 選択モデル
３２０ データ記憶ユニット
３２１ ドキュメント
３２２ 上位オペレーティングシステム
３３０ ＡＩ選択ユニット
３３１ モデル操作コマンド
３３２ データアクセスコマンド
３３３ リアルタイムオペレーティングシステム
３３４ 出力データ
３３５ 生成結果
３４０ アクセス制御ユニット
Ｓ３１０，Ｓ３２０，Ｓ３３０，Ｓ３４０，Ｓ３５０，Ｓ３６０，Ｓ３７０ ステップ
１００ 処理器
２００ 入力デバイス
２１０ 入力コマンド
３００ 中間記憶装置
３１０ モデル記憶ユニット
３１１ 言語モデル
３１２ 選択モデル
３２０ データ記憶ユニット
３２１ ドキュメント
３２２ 上位オペレーティングシステム
３３０ ＡＩ選択ユニット
３３１ モデル操作コマンド
３３２ データアクセスコマンド
３３３ リアルタイムオペレーティングシステム
３３４ 出力データ
３３５ 生成結果
３４０ アクセス制御ユニット
Ｓ３１０，Ｓ３２０，Ｓ３３０，Ｓ３４０，Ｓ３５０，Ｓ３６０，Ｓ３７０ ステップ
Claims (13)
- モデル記憶ユニットと、データ記憶ユニットと、ＡＩ選択ユニットと、アクセス制御ユニットを備えた中間記憶装置において、
前記モデル記憶ユニットは複数の言語モデルを記憶し、
前記データ記憶ユニットは複数のドキュメントを記憶し、
前記ＡＩ選択ユニットは、モデル操作コマンドに基づいて前記言語モデルを選択し、選択された前記言語モデルにモデル操作コマンドを実行させて出力データを生成し、
前記アクセス制御ユニットは、前記データ記憶ユニットと前記モデル記憶ユニットに接続され、前記アクセス制御ユニットは入力コマンドを受信し、前記アクセス制御ユニットは、前記入力コマンドが前記モデル操作コマンドであるか或いはデータアクセスコマンドであるかを判断し、
前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、選択された前記言語モデルに前記出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、
前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスすることを特徴とする、
中間記憶装置。 - 前記ＡＩ選択ユニットは更にリアルタイムオペレーティングシステムを含む
ことを特徴とする請求項１に記載の中間記憶装置。 - 前記アクセス制御ユニットは前記生成結果或いは選択された前記ドキュメントを上位オペレーティングシステムに送信する
ことを特徴とする請求項１に記載の中間記憶装置。 - 伝送インターフェースを更に含み、前記アクセス制御ユニットは前記伝送インターフェースに接続され、前記伝送インターフェースの種類は高度技術アタッチメント、シリアルエーティーアタッチメント、ユニバーサルシリアルバス、周辺コンポーネント相互接続拡張インターフェース、或いは、不揮発性メモリエクスプレスである
ことを特徴とする請求項１に記載の中間記憶装置。 - 複数のモデル記憶ユニットと、データ記憶ユニットと、ＡＩ選択ユニットと、アクセス制御ユニットを備えた中間記憶装置において、
前記複数のモデル記憶ユニットは各前記モデル記憶ユニットが言語モデルを記憶し、
前記データ記憶ユニットは複数のドキュメントを記憶し、
前記ＡＩ選択ユニットは、前記モデル記憶ユニットに接続され、モデル操作コマンドに基づいて前記言語モデルを選択し、前記言語モデルは前記モデル操作コマンドを実行して出力データを生成し、
前記アクセス制御ユニットは、前記データ記憶ユニットと前記ＡＩ選択ユニットに接続され、前記アクセス制御ユニットは入力コマンドを受信し、
前記アクセス制御ユニットは、前記入力コマンドが前記モデル操作コマンドであるか或いはデータアクセスコマンドであるかを判断し、
前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、
選択された前記言語モデルに前記出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、
前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスすることを特徴とする、
中間記憶装置。 - 前記ＡＩ選択ユニットは更にリアルタイムオペレーティングシステムを含む
ことを特徴とする請求項５に記載の中間記憶装置。 - 前記アクセス制御ユニットは、前記生成結果或いは選択された前記ドキュメントを上位オペレーティングシステムに送信する
ことを特徴とする請求項５に記載の中間記憶装置。 - 伝送インターフェースを更に含み、前記アクセス制御ユニットは前記伝送インターフェースに接続され、前記伝送インターフェースの種類は高度技術アタッチメント、シリアルエーティーアタッチメント、ユニバーサルシリアルバス、周辺コンポーネント相互接続拡張インターフェース、或いは、不揮発性メモリエクスプレスである
ことを特徴とする請求項５に記載の中間記憶装置。 - 処理器と、中間記憶装置と、上位オペレーティングシステムを含んだ計算機システムにおいて、
前記処理器は、上位オペレーティングシステムを実行し、前記処理器は前記上位オペレーティングシステムを介して入力コマンドを受信し、
前記中間記憶装置は、前記処理器に接続され、前記中間記憶装置は少なくとも１つのモデル記憶ユニット、データ記憶ユニット、ＡＩ選択ユニット、及びアクセス制御ユニットを具備し、
前記アクセス制御ユニットは、前記データ記憶ユニット、前記ＡＩ選択ユニット、及び各前記モデル記憶ユニットに接続され、
各前記モデル記憶ユニットは、言語モデルを記憶し、前記データ記憶ユニットは複数のドキュメントを記憶し、
前記上位オペレーティングシステムは、前記入力コマンドを前記アクセス制御ユニットに送信し、
前記アクセス制御ユニットは、前記入力コマンドがモデル操作コマンドであるか或いはデータアクセスコマンドであるか判断し、
前記入力コマンドが前記モデル操作コマンドのとき、前記アクセス制御ユニットは前記モデル操作コマンドを前記ＡＩ選択ユニットに転送し、前記ＡＩ選択ユニットは、前記モデル操作コマンドに基づいて前記言語モデルを選択し、選択された前記言語モデルに前記モデル操作コマンドを実行させて出力データを生成させ、且つ、前記アクセス制御ユニットに前記出力データに基づいて生成結果を生成させ、
前記入力コマンドが前記データアクセスコマンドであるとき、前記アクセス制御ユニットは、前記データアクセスコマンドに基づいて、前記データ記憶ユニットから対応する前記ドキュメントにアクセスすることを特徴とする、
計算機システム。 - 中間記憶装置のアクセス制御ユニットによって入力コマンドを受信し、
前記アクセス制御ユニットが、前記入力コマンドがモデル操作コマンドであるか或いはデータアクセスコマンドであるか判断し、
前記入力コマンドが前記モデル操作コマンドであるとき、前記アクセス制御ユニットは、前記モデル操作コマンドをＡＩ選択ユニットに転送し、
前記ＡＩ選択ユニットは、前記モデル操作コマンドに基づいて複数の言語モデルから何れか１つを選択し、選択された前記言語モデルは選択モデルであり、
前記選択モデルは前記モデル操作コマンドに基づいて出力データを生成し、
前記アクセス制御ユニットは前記出力データに基づいて生成結果を生成することを特徴とする、
計算機コマンドの前処理方法。 - 前記ＡＩ選択ユニットは前記モデル操作コマンドに基づいて前記複数の言語モデルから何れか１つを選択し、選択された前記言語モデルは前記選択モデルであるステップは、
前記ＡＩ選択ユニットは複数のモデル記憶ユニットから何れか１つを選択し、各前記モデル記憶ユニットは対応する前記言語モデルを記憶することを含む
ことを特徴とする請求項１０に記載の計算機コマンドの前処理方法。 - 前記ＡＩ選択ユニットは前記モデル操作コマンドに基づいて、前記複数の言語モデルから何れか１つを選択し、選択された前記言語モデルは前記選択モデルであるステップは、
モデル記憶ユニットに前記複数の言語モデルを記憶し、
前記ＡＩ選択ユニットは前記モデル記憶ユニットから何れか１つの前記言語モデルを選択することを含む
ことを特徴とする請求項１０に記載の計算機コマンドの前処理方法。 - 前記入力コマンドは前記データアクセスコマンドであり、前記アクセス制御ユニットは前記データアクセスコマンドに基づいて、データ記憶ユニットから対応するドキュメントにアクセスする
ことを特徴とする請求項１０に記載の計算機コマンドの前処理方法。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW113124434A TWI892734B (zh) | 2024-06-28 | 2024-06-28 | 中介儲存設備、計算機系統與計算機命令的預處理方法 |
| TW113124434 | 2024-06-28 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2026008828A JP2026008828A (ja) | 2026-01-19 |
| JP7841161B2 true JP7841161B2 (ja) | 2026-04-06 |
Family
ID=96014462
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2025098136A Active JP7841161B2 (ja) | 2024-06-28 | 2025-06-12 | 中間記憶装置、計算機システム、及び計算機コマンドの前処理方法 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20260003776A1 (ja) |
| EP (1) | EP4672015A1 (ja) |
| JP (1) | JP7841161B2 (ja) |
| KR (1) | KR20260002183A (ja) |
| TW (1) | TWI892734B (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110153324A1 (en) | 2009-12-23 | 2011-06-23 | Google Inc. | Language Model Selection for Speech-to-Text Conversion |
| CN114647369A (zh) | 2021-03-29 | 2022-06-21 | 深圳宏芯宇电子股份有限公司 | 一种存储控制方法和存储装置 |
| CN116976306A (zh) | 2023-08-01 | 2023-10-31 | 珠海市卓轩科技有限公司 | 一种基于大规模语言模型的多模型协作方法 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20230267285A1 (en) * | 2022-02-07 | 2023-08-24 | Nvidia Corporation | Using one or more neural networks to perform text translation |
| US11928438B1 (en) * | 2023-07-07 | 2024-03-12 | Northern Trust Corporation | Computing technologies for large language models |
| CN117009113A (zh) * | 2023-09-04 | 2023-11-07 | 平安银行股份有限公司 | 人工智能模型的调用方法、装置、计算机设备及存储介质 |
| CN117910458A (zh) * | 2024-01-19 | 2024-04-19 | 上海算法创新研究院 | 一种基于大语言模型的文本数据清洗系统 |
| CN117952078A (zh) * | 2024-02-01 | 2024-04-30 | 深圳威科未来科技有限公司 | 多源语言模型的管理方法、装置、计算机设备及存储介质 |
-
2024
- 2024-06-28 TW TW113124434A patent/TWI892734B/zh active
-
2025
- 2025-06-10 US US19/233,692 patent/US20260003776A1/en active Pending
- 2025-06-12 JP JP2025098136A patent/JP7841161B2/ja active Active
- 2025-06-16 KR KR1020250078502A patent/KR20260002183A/ko active Pending
- 2025-06-17 EP EP25183298.6A patent/EP4672015A1/en active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110153324A1 (en) | 2009-12-23 | 2011-06-23 | Google Inc. | Language Model Selection for Speech-to-Text Conversion |
| CN114647369A (zh) | 2021-03-29 | 2022-06-21 | 深圳宏芯宇电子股份有限公司 | 一种存储控制方法和存储装置 |
| CN116976306A (zh) | 2023-08-01 | 2023-10-31 | 珠海市卓轩科技有限公司 | 一种基于大规模语言模型的多模型协作方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2026008828A (ja) | 2026-01-19 |
| KR20260002183A (ko) | 2026-01-06 |
| TWI892734B (zh) | 2025-08-01 |
| TW202601369A (zh) | 2026-01-01 |
| EP4672015A1 (en) | 2025-12-31 |
| US20260003776A1 (en) | 2026-01-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10198425B2 (en) | Methods and apparatus for reusing report design components and templates | |
| TWI400652B (zh) | Dual operating system parallel processing methods, recording media and computer program products | |
| JP5845522B2 (ja) | クロスプラットフォームアプリケーションフレームワーク | |
| KR102684495B1 (ko) | 이더리움 가상머신의 트랜잭션 처리 방법, 장치, 설비, 프로그램 및 매체 | |
| US9244709B2 (en) | Automatic recognition of web application | |
| CN102938039B (zh) | 针对应用的选择性文件访问 | |
| CN111901294A (zh) | 一种构建在线机器学习项目的方法及机器学习系统 | |
| US11593113B2 (en) | Widening memory access to an aligned address for unaligned memory operations | |
| JP7291764B2 (ja) | イーサリアム仮想マシンのトランザクション処理方法、装置、機器、プログラムおよび媒体 | |
| JP2021507382A (ja) | ブロックチェーンネットワークのアカウント処理方法、装置、機器及び記憶媒体 | |
| EP2972801A2 (en) | Executable guidance experiences based on implicitly generated guidance models | |
| CN109408057B (zh) | 自动生成代码的方法、装置、介质和计算设备 | |
| JP7841161B2 (ja) | 中間記憶装置、計算機システム、及び計算機コマンドの前処理方法 | |
| CN113254888B (zh) | 获取硬件信息的方法、授权控制系统及计算设备 | |
| US10706225B2 (en) | Form management system and method | |
| US20230097765A1 (en) | Pseudorandom Thread Generation | |
| CN112947907A (zh) | 一种创建代码分支的方法 | |
| CN120909495A (zh) | 中介存储设备、计算机系统与计算机命令的预处理方法 | |
| CN110249305A (zh) | 浏览器崩溃或挂起时的shell操作浏览器扩展 | |
| CN109002984B (zh) | 数字资产的管理方法、装置、介质和计算设备 | |
| JP7824023B2 (ja) | 制御装置、及び制御方法 | |
| CN115455430B (en) | Safety protection method and system based on Kyverno safety strategy | |
| US20250348328A1 (en) | Enhanced platform capability description-based approach for power substation configuration management | |
| KR102908154B1 (ko) | 인공지능을 활용해 개발 코드의 요구 사항 충족 여부를 자동으로 검수하기 위한 전자 장치 및 그 동작 방법 | |
| CN111290701A (zh) | 数据读写控制方法、装置、介质和电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20250613 |
|
| A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20251208 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20251223 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20260309 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20260317 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260325 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7841161 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |