JP2022191637A - AI platform system - Google Patents
AI platform system Download PDFInfo
- Publication number
- JP2022191637A JP2022191637A JP2021099973A JP2021099973A JP2022191637A JP 2022191637 A JP2022191637 A JP 2022191637A JP 2021099973 A JP2021099973 A JP 2021099973A JP 2021099973 A JP2021099973 A JP 2021099973A JP 2022191637 A JP2022191637 A JP 2022191637A
- Authority
- JP
- Japan
- Prior art keywords
- learning
- model
- models
- user
- inference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
本発明は、AIモデルの利用・サービス技術に関する。 The present invention relates to AI model utilization/service technology.
近年、AIモデルの活用・導入が盛んに行われている。AIモデルは、AIエンジンが、所定のAIアルゴリズムで学習することで生成することができる。しかしながら、特許文献1に記載のように、器となるAIエンジン(機械学習、ディープラーニングなどを行うためのモジュール)にどのようなAIアルゴリズムを適用して学習させるのかは、専門的な知識を必要とする。
In recent years, AI models have been actively utilized and introduced. An AI model can be generated by an AI engine learning with a predetermined AI algorithm. However, as described in
特許文献1は、ユーザがAIエンジン及びアルゴリズムを選択し、チューニングパラメータであるハイパーパラメータを複数パターン適用してAIモデルを生成している。これにより、専門知識を持たないユーザであっても精度の高いハイパーパラメータが適用されたAIモデルを利用することができる。また、同じデータ分析手法に属する複数のAIエンジン及びアルゴリズムの間で比較することも提案している。
In
しかしながら、特許文献1は、前提として、ユーザがAIエンジン及びアルゴリズムを選択することが難しい課題がある。AIエンジン及びアルゴリズムの組み合わせは無数に存在し、かつ近年のAI関連技術の急速な発展に伴い、日々新しいアルゴリズムが登場している。このため、AIエンジン及びアルゴリズムの特性を把握し、ユーザがAIエンジン及びアルゴリズムの組み合わせを選択することは、容易ではない。
However,
したがって、選択したAIエンジン及びアルゴリズムの組み合わせに対し、単に、精度が高くなるハイパーパラメータを模索する仕組みがあっても(例えば、特許文献1,2)、AIモデルの導入を容易に行うことができないのが実情である。また、特許文献1では、同じデータ分析手法に属する複数のAIエンジン及びアルゴリズムの間で比較することも提案しているが、これも同様に、比較のために選択するAIエンジン及びアルゴリズムの選定自体も容易ではない。
Therefore, even if there is a mechanism for simply searching for hyperparameters that increase accuracy for the combination of the selected AI engine and algorithm (for example,
従来の仕組みでは、「AIの選定」という入口の部分で、全く知識を持ち合わせていないユーザを含め、ハードルが高く、AIモデルの導入・活用が進みにくい要因となっていた。 In the conventional system, the entrance part of "AI selection" was a high hurdle, including users who had no knowledge at all, and it was a factor that made it difficult to introduce and utilize AI models.
また、上述したように、特許文献1は、同じデータ分析手法に属する複数のAIエンジン及びアルゴリズムの間で比較することも提案している。しかしながら、当該特許文献1の仕組みは、AIエンジン及びアルゴリズムの組み合わせを選択してAIモデルを作成し、再度AIエンジン及びアルゴリズムの組み合わせを選択してAIモデルを作成する必要があり、ユーザは、比較のために、一つ一つ個別にそれぞれのAIモデルを生成しなければならず、非常に手間が掛かる。
In addition, as mentioned above, US Pat. No. 5,700,000 also proposes comparing between multiple AI engines and algorithms belonging to the same data analysis technique. However, in the mechanism of
AIモデルの導入・活用を促進するためには、AIモデルを「試しに作ってみる」という観点でのプラットフォーム環境が極めて重要であるが、従来は、システムエンジニア等のある一定の技術知識を有するユーザが、専門知識がなくてもAIモデルを作ることができたり、最適なチューニングパラメータを模索したりすることができる仕組みに留まっていた。 In order to promote the introduction and utilization of AI models, it is extremely important to have a platform environment from the perspective of "trying to create" AI models, but in the past, system engineers, etc. had a certain level of technical knowledge. It was limited to a mechanism that allows users to create AI models without specialized knowledge and to search for optimal tuning parameters.
特に、AI関連技術の急速な発展と共に、AIモデルを利用するユーザのニーズも多種多様となっており、学習用データもAIモデルに適用する推論用データも、短いタイムスパンで変化することがある。データが変化してしまえば、一度生成したAIモデルをそのまま使い続けることができないため、AIモデルを再評価して新たなAIモデルを生成する必要がある。しかしながら、従来は、現在使っているAIモデルの再評価し、新たなAIモデルを生成する環境を一元的に管理する仕組みがなかったため、ユーザによる管理負担が多かった。 In particular, with the rapid development of AI-related technologies, the needs of users who use AI models have become diverse, and both training data and inference data applied to AI models can change in a short time span. . If the data changes, the AI model once generated cannot be used as it is, so it is necessary to re-evaluate the AI model and generate a new AI model. However, conventionally, there was no mechanism for centrally managing the environment for re-evaluating the currently used AI model and generating a new AI model, so the management burden on the user was heavy.
そこで、本発明は、専門的な知識がないユーザが、それぞれのニーズに合ったAIモデルを作って試せる環境を実現するAIプラットフォームシステムを提供することを目的とする。 Accordingly, it is an object of the present invention to provide an AI platform system that realizes an environment in which users without specialized knowledge can create and test AI models that meet their needs.
(1)本発明は、AI利用ユーザがそれぞれのニーズに合ったAIモデルを作って試せるプラットフォームを提供するAIプラットフォームシステムである。本システムは、業種、用途及び利用シーンを含み、AIベンダーが提供するAIモデルそれぞれに関連付けられるAI選択タグ情報を記憶する第1記憶部と、AIベンダーから提供されるAIモデルの学習用プリセット情報であって、AIモデル毎に生成され、互いに異なる複数のハイパーパラメータを含むハイパーパラメータ群で構成されたハイパーパラメータプリセット情報を記憶する第2記憶部と、を有する。 (1) The present invention is an AI platform system that provides a platform for AI users to create and test AI models that meet their needs. This system includes a first storage unit that stores AI selection tag information associated with each AI model provided by an AI vendor, including industry types, applications, and usage scenes, and preset information for learning AI models provided by the AI vendor. and a second storage unit that stores hyperparameter preset information that is generated for each AI model and configured by a hyperparameter group including a plurality of hyperparameters that are different from each other.
また、AI利用ユーザがユーザ端末を通じて業種、用途及び利用シーンを選択可能に制御し、選択された業種、用途及び利用シーンを用いてAI選択タグ情報を検索し、該当するAIモデルを学習対象AIモデルとして複数抽出するAIモデル提案部と、AI利用ユーザが指定した学習用データを用い、学習対象AIモデルの学習処理を実行して学習済みAIモデルを生成する学習処理部と、AI利用ユーザが指定した推論用データを用い、学習済みAIモデルの推論処理を実行して推論結果を生成する推論処理部と、を有する。 In addition, the AI user controls to select the industry, application and usage scene through the user terminal, searches for AI selection tag information using the selected industry, application and usage scene, and selects the corresponding AI model as the learning target AI An AI model proposal unit that extracts multiple models as a model, a learning processing unit that generates a trained AI model by executing the learning process of the learning target AI model using the learning data specified by the AI user, and the AI user and an inference processing unit that executes inference processing of the trained AI model using designated inference data to generate an inference result.
そして、上記学習処理部は、学習対象AIモデルに紐付くハイパーパラメータ群の各ハイパーパラメータを学習パラメータとして設定し、ハイパーパラメータの数だけ学習処理を実行して、ハイパーパラメータ別学習済みAIモデルを複数生成する第1学習処理を行うとともに、第1学習処理を、複数抽出された学習対象AIモデル全てに対して実行する。AIモデル提案部は、複数の学習対象AIモデル毎に、第1学習処理に伴って生成される学習時精度に基づいて複数生成されたハイパーパラメータ別学習済みAIモデルの中から学習済みAIモデルを抽出し、抽出された学習済みAIモデルそれぞれの学習時精度を、複数の学習対象AIモデルそれぞれの学習結果としてAI利用ユーザに提供する。 Then, the learning processing unit sets each hyperparameter of the hyperparameter group linked to the learning target AI model as a learning parameter, executes the learning process by the number of hyperparameters, and creates a plurality of learned AI models for each hyperparameter. The first learning process to be generated is performed, and the first learning process is performed on all of the plurality of extracted learning target AI models. The AI model proposal unit selects a trained AI model from among a plurality of hyperparameter-specific trained AI models generated based on the learning accuracy generated along with the first learning process for each of the plurality of learning target AI models. The accuracy at the time of learning of each of the extracted learned AI models is provided to the AI user as the learning results of each of the plurality of learning target AI models.
(2)上記(1)において、上記AIモデル提案部は、AI選択タグ情報に基づいて、業種、用途及び利用シーンの各選択エリアを含む選択画面をユーザ端末に表示させるとともに、選択画面を通じた業種、用途及び利用シーンの各選択情報に基づいて抽出される複数の学習対象AIモデルに適用する学習用データを、AI利用ユーザから受け付けるアップロード画面をユーザ端末に提供することができる。そして、上記学習処理部は、アップロード画面を通じて指定された学習用データを用い、選択画面を通じて抽出された複数の学習対象AIモデルに対する学習処理を実行するように構成することができる。 (2) In (1) above, the AI model proposal unit causes the user terminal to display a selection screen including selection areas for each type of industry, application, and usage scene based on the AI selection tag information, and displays the selection screen through the selection screen. It is possible to provide a user terminal with an upload screen for accepting learning data to be applied to a plurality of learning target AI models extracted based on each selection information of industry type, application, and usage scene from an AI user. The learning processing unit can be configured to use the learning data designated through the upload screen and execute the learning process for the plurality of learning target AI models extracted through the selection screen.
(3)上記(1)又は(2)において、上記AIモデル提案部は、複数の学習対象AIモデルそれぞれの学習結果を、学習時精度が高い順に順位付けした学習結果画面を生成してユーザ端末に提供するように構成することができる。 (3) In (1) or (2) above, the AI model proposing unit generates a learning result screen in which the learning results of each of the plurality of learning target AI models are ranked in descending order of accuracy during learning, and generates a learning result screen for the user terminal. can be configured to provide
(4)上記(1)から(3)において、AIアルゴリズムの特性に基づく機能分類情報が、AIベンダーから提供される各AIモデルに関連付けられるように構成することができる。このとき、AIモデル提案部は、機能分類情報に基づく機能選択画面をユーザ端末に提供することができ、機能選択画面で選択された機能分類に紐付くAIモデルを学習対象AIモデルとして抽出するように構成することができる。 (4) In (1) to (3) above, the function classification information based on the characteristics of the AI algorithm can be configured to be associated with each AI model provided by the AI vendor. At this time, the AI model proposal unit can provide the user terminal with a function selection screen based on the function classification information, and extracts an AI model linked to the function classification selected on the function selection screen as a learning target AI model. can be configured to
(5)上記(1)から(4)において、AI利用ユーザからの学習用データに対するアノテーション依頼を受け付け、アノテーションを実施するサポート事業者に、アノテーション依頼を提供する外部サービス連携部をさらに備えるように構成することができる。外部サービス連携部は、AI利用ユーザから受け付けた学習用データをサポート事業者に提供するとともに、アノテーションが実施されたアノテーション済み学習用データをサポート事業者から受け付けて、ユーザ別に割り当てられる学習用データ格納領域に保存するように構成することができる。 (5) In (1) to (4) above, further include an external service cooperation unit that accepts annotation requests for learning data from AI users and provides annotation requests to support providers that implement annotations. Can be configured. The external service linking part provides the learning data received from the AI user to the support business operator, receives the annotated learning data that has been annotated from the support business business operator, and stores the learning data assigned to each user. Can be configured to save to a region.
(6)本発明のプログラムは、AI利用ユーザがそれぞれのニーズに合ったAIモデルを作って試せるプラットフォームを提供するコンピュータ装置によって実行されるプログラムであり、コンピュータ装置に以下の機能を実現させる。 (6) The program of the present invention is a program executed by a computer device that provides a platform for AI users to create and test AI models that meet their needs, and makes the computer device realize the following functions.
業種、用途及び利用シーンを含み、AIベンダーが提供するAIモデルそれぞれに関連付けられるAI選択タグ情報を記憶する第1機能、AIベンダーから提供されるAIモデルの学習用プリセット情報であって、AIモデル毎に生成され、互いに異なる複数のハイパーパラメータを含むハイパーパラメータ群で構成されたハイパーパラメータプリセット情報を記憶する第2機能、AI利用ユーザがユーザ端末を通じて業種、用途及び利用シーンを選択可能に制御し、選択された業種、用途及び利用シーンを用いてAI選択タグ情報を検索し、該当するAIモデルを学習対象AIモデルとして複数抽出する第3機能、AI利用ユーザが指定した学習用データを用い、学習対象AIモデルの学習処理を実行して学習済みAIモデルを生成する第4機能、及びAI利用ユーザが指定した推論用データを用い、学習済みAIモデルの推論処理を実行して推論結果を生成する第5機能。 A first function for storing AI selection tag information associated with each AI model provided by an AI vendor, including industry types, applications, and usage scenes; A second function that stores hyperparameter preset information that is generated every time and is composed of a group of hyperparameters that include multiple hyperparameters that are different from each other. , using the selected industry, application and usage scene to search for AI selection tag information, extracting multiple applicable AI models as learning target AI models, using learning data specified by the AI user, Using the fourth function that executes the learning process of the AI model to be learned and generates the trained AI model, and the inference data specified by the AI user, execute the inference process of the trained AI model and generate the inference result. 5th function.
そして、上記第4機能は、学習対象AIモデルに紐付くハイパーパラメータ群の各ハイパーパラメータを学習パラメータとして設定し、ハイパーパラメータの数だけ学習処理を実行して、ハイパーパラメータ別学習済みAIモデルを複数生成する第1学習処理を行うとともに、第1学習処理を複数抽出された前記学習対象AIモデル全てに対して実行し、上記第3機能は、複数の学習対象AIモデル毎に、第1学習処理に伴って生成される学習時精度に基づいて複数生成されたハイパーパラメータ別学習済みAIモデルの中から学習済みAIモデルを抽出し、抽出された学習済みAIモデルそれぞれの学習時精度を、複数の学習対象AIモデルそれぞれの学習結果としてAI利用ユーザに提供する。 Then, the fourth function sets each hyperparameter of the hyperparameter group linked to the learning target AI model as a learning parameter, executes the learning process by the number of hyperparameters, and creates a plurality of trained AI models for each hyperparameter. While performing the first learning process to generate, the first learning process is performed for all of the plurality of the extracted learning target AI models, and the third function performs the first learning process for each of the plurality of learning target AI models A trained AI model is extracted from a plurality of trained AI models by hyperparameter generated based on the learning accuracy generated along with Provide AI users with learning results for each AI model to be learned.
本発明は、業種、ロール、利用シーンからAI利用ユーザに適合するAIモデルを抽出するので、AI利用ユーザが専門的知識を持たなくても、自身にマッチングするAIモデルが自動的に提示される。 Since the present invention extracts an AI model that matches the AI user from the type of industry, role, and usage scene, the AI model that matches the AI user is automatically presented even if the user does not have specialized knowledge. .
そして、1つの学習対象AIモデルに対して、一度にハイパーパラメータが互いに異なる学習済みAIモデル(ハイパーパラメータ別学習済みAIモデル)を複数生成し、その中から学習時精度に基づいて学習済みAIモデルを抽出する。これをAI利用ユーザに提示される複数の学習対象AIモデルそれぞれで行い、複数の学習対象AIモデルの一括した学習結果を提供する。これにより、ハイパーパラメータの探索等に掛かる時間及びコストを低減させ、複数のAIモデルを競争させる環境を実現することができる。 Then, for one learning target AI model, a plurality of trained AI models with different hyperparameters (trained AI models by hyperparameters) are generated at once, and among them, a trained AI model is generated based on the accuracy at the time of learning. to extract This is performed for each of the plurality of learning target AI models presented to the AI user, and collective learning results of the plurality of learning target AI models are provided. As a result, it is possible to reduce the time and cost required for searching for hyperparameters, etc., and realize an environment in which a plurality of AI models compete with each other.
本発明によれば、AI利用ユーザが専門的知識を持たなくても、自身にマッチングするAIモデルが自動的に提示され、さらに、複数のAIモデルを競争させて様々なニーズに適合するAIモデルを提案し易くすることができる。したがって、専門的な知識がないユーザが、それぞれのニーズに合ったAIモデルを作って試せる環境を実現することができる。 According to the present invention, even if an AI user does not have specialized knowledge, an AI model that matches the user is automatically presented, and a plurality of AI models are competed to meet various needs. can make it easier to propose Therefore, it is possible to realize an environment in which users without specialized knowledge can create and test AI models that meet their needs.
(第1実施形態)
図1から図30は、第1実施形態を説明するための図である。図1は、AIプラットフォーム装置(以下、管理装置という)100が提供するAIプラットフォームシステムのネットワーク構成図である。
(First embodiment)
1 to 30 are diagrams for explaining the first embodiment. FIG. 1 is a network configuration diagram of an AI platform system provided by an AI platform device (hereinafter referred to as a management device) 100. As shown in FIG.
本システムは、管理装置100を中心に、AI利用ユーザ(ユーザ端末300)、AIベンダー(ベンダー端末500)、及びサポート事業者(サポート事業者端末600)がそれぞれ接続するプラットフォーム環境を実現する。
This system realizes a platform environment in which an AI user (user terminal 300), an AI vendor (vendor terminal 500), and a support provider (support provider terminal 600) are connected with a
管理装置100によって提供されるプラットフォームは、「探す」、「作れる」、「試せる」各環境を含み、「探す」環境としてAI情報ポータルサイトを、「作れる」、「試せる」環境としてAI開発プラットフォームを形成し、AIを導入しようとするユーザ(AIを利用しようとするユーザ、以下、AI利用ユーザという)に、総合的なAIプラットフォームを提供する。なお、「探す」環境のAI情報ポータルサイトとしての機能については、公知の情報ポータルサイトの技術を適用することができるので、詳細な説明は省略し、以下、「作れる」、「試せる」環境のAI開発プラットフォームを中心に説明する。
The platform provided by the
ここで、本実施形態で使用する用語について説明する。機械学習エンジンを一例に説明すると、機械学習エンジンは、決定木、ランダムフォレスト、ニューラルネットワーク、ロジスティック回帰、ナイーブベイズ分類器、サポートベクターマシンなどの各種アルゴリズムがその用途に応じて適用される。つまり、AIモデルとは、例えば、「ニューラルネットワークに基づく機械学習エンジン」のように、AIエンジンとアルゴリズムの組み合わせである。機械学習以外にもニューラルネットワークの階層を深くした深層学習などのAIモデルやその他の公知のAIモデルも本システムの対象であり、本実施形態で例示するAIモデルに限定されない。 Here, the terms used in this embodiment will be explained. Taking the machine learning engine as an example, various algorithms such as decision tree, random forest, neural network, logistic regression, naive Bayes classifier, support vector machine, etc. are applied to the machine learning engine according to its application. In other words, an AI model is a combination of an AI engine and an algorithm, such as a "neural network-based machine learning engine." In addition to machine learning, AI models such as deep learning with a deep neural network hierarchy and other known AI models are also targets of this system, and are not limited to the AI models exemplified in this embodiment.
次に、学習済みAIモデル(Learned AI model)は、学習前AIモデルに学習データを適用して学習させた結果、例えば、データのパターンやデータ内のオブジェクト識別、分類、分析等を行うことができるプログラムモジュールである。学習済みAIモデルは、主に、プログラム部分と学習パラメータ(ハイパーパラメータ)とを含む。 Next, the learned AI model is the result of applying the learning data to the pre-learning AI model and making it learn, for example, it is possible to identify, classify, and analyze data patterns and objects in the data. It is a program module that can A trained AI model mainly includes a program part and learning parameters (hyperparameters).
AIモデルは、上述のようにAIエンジンとアルゴリズムの組み合わせが存在し、様々な特性を持ち合わせる。例えば、識別系では、音声認識、画像認識、動画認識、言語解析があり、予測系では、数値予測、マッチング、意図予測、ニーズ予測などがある。そして、識別及び予測を組み合わせたAIモデルが構築され、物体検出、文字認識、顔認識、自動運転などの各種特性を有するAIモデルが提供される。 AI models are combinations of AI engines and algorithms as described above, and have various characteristics. For example, identification systems include speech recognition, image recognition, moving image recognition, and language analysis, and prediction systems include numerical prediction, matching, intention prediction, and needs prediction. Then, an AI model that combines identification and prediction is constructed, and an AI model with various characteristics such as object detection, character recognition, face recognition, and automatic driving is provided.
AIモデルは、1つのAIモデルに複数のアルゴリズムが適用された態様を含むことができる。また、識別系又は予測系の各単体のモデル以外にも、識別系と予測系それぞれ単体のモデルを連結して組み合わせた複合モデルの態様を含むことができる。複合モデルは、識別系が2つ以上含まれていたり、予測系が2以上含まれていたりしてもよく、単体のモデルが複数連結されたモデル群であればよい。なお、複合モデルは、アルゴリズム単位で捉えることができる。つまり、複数のAIモデルを連結したモデル群以外にも、複数のアルゴリズムで構成された1つのAIモデルも、複合モデルとして捉えることができる。 AI models can include aspects in which multiple algorithms are applied to a single AI model. In addition to the individual models of the discrimination system and the prediction system, it is possible to include a mode of a composite model in which individual models of the discrimination system and the prediction system are connected and combined. A composite model may include two or more discrimination systems or two or more prediction systems, and may be a model group in which a plurality of single models are connected. Note that the composite model can be understood in units of algorithms. In other words, in addition to a model group in which a plurality of AI models are connected, a single AI model composed of a plurality of algorithms can also be regarded as a composite model.
<システム構成>
図2は、管理装置100の構成ブロック図である。管理装置100は、通信装置110、制御装置120,130,140及び記憶装置150,160,170を含んで構成されている。通信装置110は、管理装置100に接続するユーザ端末300、ベンダー端末500及びサポート事業者端末600との間の接続制御及びデータ通信制御を行う。
<System configuration>
FIG. 2 is a configuration block diagram of the
制御装置120は、主に、AIベンダーによって提供されるAIモデルの登録管理、学習処理のためのプリセット情報の管理、学習処理及び推論(予測)処理を行う。AI登録部121は、ベンダー端末500との間で、ベンダー登録及びAIモデル登録の処理を行う。AI登録部121は、不図示のベンター登録画面を通じて入力されたベンダー情報を所定の記憶領域に格納すると共に、ベンター端末500からアップロードされたAIモデルを、登録AIモデル151に格納する。このとき、ベンター端末500からアップロードされるAIモデルは、学習前AIモデル及び学習済みAIモデルの双方又いずれか一方を含む。また、AIモデルのプログラムモジュールのデータ容量が大きい場合は、ベンター端末500からネットワークを通じたアップロードではなく、AIモデルが記憶された電子媒体(HDDやフラッシュメモリなど)を管理装置100の運営事業者に物理的に送付し、運営事業者が管理装置100に登録(格納)するように構成することもできる。
The
本実施形態のAI登録部121は、選択タグ生成部122を含む。選択タグ生成部122は、AI選択タグ情報154の生成、登録、管理を行う。AI選択タグ情報154の詳細については、後述する。なお、選択タグ生成部122は、AI登録部121とは個別の処理部として構成してもよい。
The
プリセット情報管理部123は、登録されたAIモデルのハイパーパラメータの生成、登録、管理を行う。ハイパーパラメータは、AIエンジンに適用されるアルゴリズムのチューニングパラメータであり、複数のパラメータ項目と各項目の設定値を含む。ハイパーパラメータは、AIベンダーがパラメータ項目と各項目の設定値を提供したり、AIベンダーから提供されるパラメータ項目に基づいて、管理装置100の運営事業者が各項目の設定値を生成したりすることができる。そして、本実施形態では、後述するように、登録された学習前AIモデルに対し、複数の異なるハイパーパラメータ情報を予め生成し、ハイパーパラメータプリセット情報152に記憶する。
The preset
学習処理部124は、プリセットされたハイパーパラメータを適用し、学習用データ162を用いて学習前AIモデルに学習処理を実行させる。推論処理部125は、推論用データ163を適用し、学習済みAIモデルによる推論処理を実行させる。学習処理部124及び推論処理部125は、学習実行処理における学習時精度(学習時正解率)及び推論実行処理における推論時精度(類論時正解率)を計算する、分析機能を備えることができる。計算された精度情報は、それぞれ学習時精度情報164及び推論時精度情報165として記憶装置160に記憶される。なお、学習処理、推論処理、学習時精度の算出処理、推論時精度の算出処理は、任意(公知)の手法を適用することができる。
The
制御装置130は、主に、ユーザ管理機能を提供する。ユーザ登録部131は、ユーザ端末300に所定のユーザ登録画面を提供し、AI利用ユーザのユーザ情報を受け付けて登録する。ユーザ情報161は、ユーザが所属する会社名、部署名、業種、会社規模、連絡先などが含まれる。また、ユーザ登録部131は、ユーザID及びパスワードなどのユーザ認証情報を発行してユーザ情報161に格納する。ユーザ登録部131は、所定のログイン画面におけるユーザID及びパスワードを用いたユーザ認証機能を備えることができる。
画面制御部132は、画面情報171に基づいて、ユーザ端末300、ベンダー端末500及びサポート事業者端末600に表示される画面を提供すると共に、各画面の制御を行う。また、各処理部と連携し、各処理部の機能に応じた画面を各端末300,500,600に提供する。
Based on the
アップロードデータ管理部133は、AI利用ユーザが用意した学習用データ162及び推論用データ163を受け付け、ユーザ別に記憶装置160に記憶する。
The upload
AIモデル提案部134は、登録されたAIモデルに関連付けられるAI選択タグ情報154を用いて、1つ又は複数のAIモデルを抽出する。また、AIモデル提案部134は、レコメンド制御部135を有することができる。レコメンド機能は、主に、AI利用ユーザ全体の各AIモデルの利用頻度や、ユーザ間の協調フィルタリング、コンテンツベースフィルタリングなどの各種情報を用いて、複数のAIモデルの中から上位のAIモデル、マッチング率が高いAIモデル、関連性が高いAIモデルなどを抽出する処理を行う。
The AI
AIモデル提供部136は、AI利用ユーザが用意した学習用データによる学習済みAIモデル又はAIベンダー側で学習処理が実行された学習済みAIモデルを、ユーザに提供する処理を行う。ネットワークを通じて、ユーザ端末300やAI利用ユーザ側のAI搭載用機器にダウンロードさせたり、HDDやフラッシュメモリ等の電子媒体に提供対象の学習済みAIモデルを記録させて物理的に送付したりすることができる。後者の場合、AIモデル提供部136は、AI利用ユーザによって選択された学習済みAIモデルを所定の電子媒体に記憶させる出力機能を備えることができる。なお、ネットワークを通じたダウンロード及び電子媒体への出力機能では、AI利用ユーザ側のAI搭載用機器において実行可能な形式で出力するエクスポート機能を備えるように構成することができる。
The AI
ユーザ別AI管理部137は、マイページ等のユーザ専用の管理画面を通じた各種管理機能を提供する。詳細については後述するが、例えば、図19から図25に示す各管理画面で、本プラットフォーム上で作成した又は/及び使用したAIモデル、アップロードした学習用データ、推論用データ、アノテーション依頼、商品・サービス購入などの管理を行うことができる。これらの管理画面を通じて入力等された情報や各種履歴(ダウンロード履歴や購入履歴、サービス利用履歴などのログ情報)は、ユーザ別AI管理情報166として記憶装置160に蓄積される。
The user-specific
制御装置140は、主に、サポート事業者が提供するサービスを、AI利用ユーザを紹介し、サポート事業者とAI利用ユーザとの間を仲介する機能を提供する。外部サービス連携部141は、一例として、アノテーションサービスを仲介する機能を提供する。アノテーションは、学習用データに教師データを付与する処理であり、必要に応じてセグメンテーション処理を含む。例えば、外部サービス提供部141は、見積機能、発注機能などを提供することができ、外部サービス連携情報172は、例えば、サポート事業者が提示する料金情報、見積書、発注書、領収書などの各種情報を保持することができる。
The
商取引仲介制御部142は、AIベンダーが提供するAIモデルやサービス、サポート事業者が提供するサービスを、ECサイトのように購入できる機能を提供する。つまり、各商品・サービスを表示する購入ページをAI利用ユーザに提供し、AI利用ユーザの購入操作に基づいて、決済を含めた商取引機能を提供する。商取引仲介情報173は、商品・サービスに関する情報、料金情報、見積書などの各種情報を含む情報である。商取引仲介制御部142は、AI利用ユーザが、AIベンダーやサポート事業者から、商品・サービスを直接購入することができる商取引プラットフォームを提供する。なお、サービスには、AI関連の教育などのセミナーや講義を含むことができる。
The commercial transaction
また、外部サービス連携部141及び商取引仲介制御部142は、本実施形態のAIプラットフォーム上で発生する商取引全般を管理することができる。例えば、本プラットフォームを利用するAI利用ユーザ、AIベンダー及びサポート事業者それぞれへの利用料、AI利用ユーザが実際にAIモデルを作る際に発生する料金、学習済みAIモデルの使用料金、学習済みAIモデルの購入料金などに対し、制御装置140が決済機能を提供することもできる。なお、本プラットフォーム上の無料/有料の設定は任意である。
In addition, the external
<画面及び各機能の説明>
AI利用ユーザのユーザ登録が完了すると、制御装置130は、ユーザ別の管理画面(マイページ)を生成し、AI利用ユーザは、本システムへのログイン後に表示される自身の管理画面から、「作れる」/「試せる」AI開発プラットフォームを利用することができる。
<Explanation of screen and each function>
When the user registration of the AI-using user is completed, the
図3は、ユーザ端末300に提供されるAIモデル提案画面の一例を示す図である。AIモデル提案画面は、「AIモデルを作ってみよう(学習)」と「AIモデルを使ってみよう(推論)」の2つのユーザインターフェース(以下、UIと称する)を含む。
FIG. 3 is a diagram showing an example of an AI model proposal screen provided to the
UI「AIモデルを作ってみよう(学習)」は、本システムによって提案された又はAI利用ユーザが選定した学習前AIモデルに対し、学習用データを適用して学習処理を実行し、学習済みAIモデルを作成することができる。学習用データは、AI利用ユーザが用意し、本システムにアップロードする。 The UI "Let's create an AI model (learning)" applies learning data to the pre-learning AI model proposed by this system or selected by the AI user, and executes the learning process to generate the learned AI. Models can be created. Learning data is prepared by AI users and uploaded to this system.
UI「AIモデルを使ってみよう(推論)」は、本システムによって提案された又はAI利用ユーザが選定した学習済みAIモデルに対し、推論用データを適用して推論処理を実行し、推論結果を得ることができる。推論用データは、AI利用ユーザが用意し、本システムにアップロードする。 The UI "Let's use an AI model (inference)" applies inference data to the trained AI model proposed by this system or selected by the AI user, executes inference processing, and outputs the inference result. Obtainable. Inference data is prepared by the AI user and uploaded to this system.
そして、本実施形態のAIモデル提案部134は、AI選択タグ情報154を利用した提案UI「業種/ロールの設定からはじめる」と、提案UI「使いたい機能選定からはじめる」を提供する。
Then, the AI
図4は、AI選択タグ情報154の一例である。AI選択タグ情報154は、AIベンダーによって登録された各AIモデルに関連付けられる情報であり、AIモデル名、AIアルゴリズム属性情報、業種、サブ業種、用途カテゴリ(ロール)を含んで構成されている。AIモデルに対するAI選択タグ情報154の紐付けは、AIベンターがAIモデルを登録する際に、AI選択タグ情報154の各項目を入力、選択したり、本システムの運営事業者が、登録されたAIモデルに対してAI選択タグ情報154の各項目を入力、選択したりすることで、行うことができる。
FIG. 4 is an example of the AI
図5は、業種の一例を示す図であり、例示として10の業種が設定されている。そして、各業種には、業種サブ分類が設定されている。図5の例では、業種サブ分類「電機、自動車、食品、繊維、化粧品、製薬」は、業種「製造業」に分類されることが規定されている。AI利用ユーザは、業種サブ分類を参考に、「業種」を選択することができる。 FIG. 5 is a diagram showing an example of industries, and 10 industries are set as an example. Each industry has an industry sub-classification. In the example of FIG. 5, it is stipulated that the industry sub-classification "electrical machinery, automobiles, food, textiles, cosmetics, pharmaceuticals" is classified into the industry "manufacturing industry". The AI-using user can select an “industry” by referring to the industry sub-classification.
図6は、用途カテゴリの一例を示す図である。用途カテゴリは、「ロール」に対応する情報であり、経営/管理、AI主管/先端、サービス/製品開発、研究、生産/品質管理、営業/マーケティング、CS、物流管理、セキュリティ、情報システム、人事/総務などを含む。用途カテゴリは、AI利用ユーザが、どのような用途(役割)をAIモデルに求めているのかを選択するための情報であり、例えば、AI利用ユーザ自身が属する部署や業務、AIモデルと活用する事業内容やプロジェクトなどを参考に、選択することができる。 FIG. 6 is a diagram showing an example of usage categories. Usage categories are information corresponding to "roles", such as management/management, AI supervision/advanced, service/product development, research, production/quality control, sales/marketing, CS, logistics management, security, information system, and personnel. / Including general affairs, etc. The usage category is information for selecting what kind of usage (role) the AI user wants the AI model to have. You can make a selection based on your business or project.
図7は、AIアルゴリズム属性情報の一例を示す図である。AIアルゴリズム属性情報は、利用シーン、カテゴリ、アルゴリズム種別、モデル構成を含む。利用シーンは、例えば、AIモデルがどのような利用シーンで使用されることを得意としているかを表す情報であり、物体検出を行うAIモデルであれば、利用シーンとして、人物の移動検知、入店・客数カウントなどの情報が紐付けられる。このとき、アルゴリズム種別として「Object Detection(物体検出)」が登録され、そのモデル構成として「Single」が登録される。 FIG. 7 is a diagram showing an example of AI algorithm attribute information. The AI algorithm attribute information includes usage scene, category, algorithm type, and model configuration. The usage scene is, for example, information indicating in what kind of usage scene the AI model is good at being used.・Information such as the number of customers is linked. At this time, "Object Detection" is registered as the algorithm type, and "Single" is registered as the model configuration.
モデル構成は、「Single」の他に、単体のAIモデルを複数連結させた態様や複数のアルゴリズムが適用されたAIモデルのモデル構成を表す「MIX」がある。例えば、図7の例において、顔/指紋認証(印鑑)を利用シーンとして活用できるAIモデルは、「Object Detection」と「Image Classification」の2つのAIアルゴリズムを含んでおり、モデル構成が「MIX」である。また、利用シーン「コールセンタ対応レコメンド」のAIモデルは、3つのAIアルゴリズムを含んでおり、モデル構成が「MIX」となる。 In addition to "Single", the model configuration includes "MIX", which represents a mode in which multiple single AI models are linked together and an AI model to which multiple algorithms are applied. For example, in the example of FIG. 7, the AI model that can utilize face/fingerprint authentication (seal) as a usage scene includes two AI algorithms, "Object Detection" and "Image Classification", and the model configuration is "MIX". is. Also, the AI model of the usage scene "recommendation for call center" includes three AI algorithms, and the model configuration is "MIX".
本システムに登録されるAIモデルは、AI選択タグ情報154が関連付けられ、AI利用ユーザが、業種、ロール(用途カテゴリ)、利用シーンの各タグを選択することで、自ずとAI利用ユーザに適したAIモデルが自動的に選定される仕組みを備えている。
The AI model registered in this system is associated with AI
なお、選定されるAIモデルは、1つ又は複数であるが、特に、本システムでは、「AIモデルを作ってみよう」において、AI利用ユーザが学習用データを用いてAIモデルを作る場合、本プラットフォームに登録された複数のAIモデルを競争させ、AI利用ユーザのニーズに最適なAIモデルを提示する環境を提供する。 Although one or more AI models are selected, in particular, in this system, when an AI user creates an AI model using learning data in "Let's create an AI model", this system It provides an environment in which multiple AI models registered on the platform compete with each other and the most suitable AI model for the needs of AI users is presented.
AI利用ユーザのニーズは多岐に渡り、AIモデルに求める評価基準も異なる。つまり、AIモデルを導入し、解決したい問題や改善・向上したい目的が異なれば、それぞれに異なる評価基準が存在する。このため、AIモデルを1つに絞り込んだり、一つ一つ作成して後から見比べたりする従来の仕組みでは、AI利用ユーザがAIモデルに求める「方向性」に対して複数のAIモデルを「競争」させることができず、最適なAIモデルを提示する環境の実現が難しかった。 The needs of AI users are diverse, and the evaluation criteria required for AI models are also different. In other words, if the problem to be solved and the purpose to be improved/improved by introducing an AI model are different, there are different evaluation criteria for each. For this reason, in the conventional mechanism of narrowing down the AI model to one or creating one by one and comparing them later, multiple AI models are " It was difficult to create an environment that presented the optimal AI model because it was not possible to "compete".
そこで、AIモデルが自動的に選定機能において、AIモデルが複数提示されるように、登録された各AIモデルにAI選択タグ情報154を関連付け、複数のAIモデルがAI利用ユーザに提示されるように、AI選択タグ情報154を構築することが好ましい。
Therefore, in order to automatically present a plurality of AI models in the AI model selection function, AI
そして、複数のAIモデルを対象とした学習処理を行いつつ、各AIモデルに対して複数の異なるプリセットされたハイパーパラメータを適用して、AIモデル毎に最適化された学習済みAIモデルそれぞれを、一括して比較・提示する「競争させる仕組み」を提供することで、AI利用ユーザがAIモデルに求める「方向性」に対し、最適なAIモデルを提示する環境を実現する。 Then, while performing learning processing for a plurality of AI models, applying a plurality of different preset hyperparameters to each AI model, each trained AI model optimized for each AI model is By providing a "competitive mechanism" that compares and presents them collectively, we will realize an environment that presents the optimal AI model for the "direction" that AI users want for AI models.
図8は、提案UI「業種/ロールの設定からはじめる」の画面例を示す図である。Section1の「あなたの業種」は、図5に示した業種(業種サブ分類を含む)に対応している。Section2の「あなたの業種」は、図6に示した用途カテゴリ(ロール)に対応している。Section3の「利用シーン」は、図7に示したAIアルゴリズム属性情報の利用シーンに対応している。Section4は、Section1から3を経て選定されたAIモデルが表示される領域である。
FIG. 8 is a diagram showing a screen example of the proposal UI "start from setting of industry/role". "Your Industry" in
まず、AIモデル提案部134は、Section1「業種」を選択可能に表示する。AI利用ユーザは、少なくとも1つの業種を選択し、確定ボタンを押す。Section1の確定ボタンの押下をトリガーに、AIモデル提案部134は、Section2の表示領域をアクティブにして、「用途カテゴリ」を選択可能に表示する。AI利用ユーザは、少なくとも1つの用途カテゴリを選択し、確定ボタンを押す。Section2の確定ボタンの押下をトリガーに、AIモデル提案部134は、Section3の表示領域をアクティブにして、「利用シーン」を選択可能に表示する。AI利用ユーザは、少なくとも1つの利用シーンを選択し、確定ボタンを押す。Section3の確定ボタンの押下をトリガーに、AIモデル提案部134は、Section1,2,3それぞれで選択された、少なくとも1つの業種、用途カテゴリ、利用シーンの3つを選定条件として用いて、AI選択タグ情報154を検索する。そして、3つの選定条件に該当するAIモデルを抽出し、Section4の表示領域をアクティブにして、抽出したAIモデルを表示する。
First, the AI
なお、Section2,3の各表示領域の制御は、例えば、前のSectionで選択された内容を選定条件として、次のSectionの表示内容を絞り込むように構成してもよい。例えば、AIモデル提案部134は、Section2に表示される「用途カテゴリ」は、Section1の確定ボタンの押下をトリガーに、Section1で選択された「業種」を検索条件としてAI選択タグ情報154を検索し、該当するAIモデルに紐付く用途カテゴリのみ抽出して表示するように制御することができる。Section3についても同様であり、Section2の確定ボタンの押下をトリガーに、Section1で抽出された業種であり、かつSection2で選択された用途カテゴリに紐付くAIモデルをAI選択タグ情報154から検索し、該当するAIモデルに紐付く利用シーンのみ抽出してSection3に選択可能に表示するように制御することもできる。
It should be noted that the control of each display area of
本実施形態では、AI利用ユーザが選択する3つの選定条件(業種、用途カテゴリ、利用シーン)を用いてAI選択タグ情報154を検索し、その検索結果として該当する複数のAIモデルを提示する。
In this embodiment, the AI
図9は、学習用データの登録画面を示す図である。AI利用ユーザは、AIモデルを作成するにあたり、学習用データを本システムにアップロードする。アップロードデータ管理部133は、図9に示す画面を通じて学習用データを受け付け、記憶装置160に格納する。このとき、AI利用ユーザは、アップロードした学習用データに対するアノテーション依頼を行うことができる。例えば、アノテーション依頼ボタンを押すと、アノテーションを行うサポート事業者リストや料金に関する情報をユーザ端末300に表示し、AI利用ユーザが、サポート事業者にアノテーション依頼を行うことができる。この場合、上述したように、見積、発注、決済等の商取引における各段階に応じたAI利用ユーザ及びサポート事業者間のやり取りを行うための機能を備えるように構成してもよい。
FIG. 9 is a diagram showing a registration screen for learning data. An AI user uploads learning data to this system when creating an AI model. The upload
また、図9の学習用データの登録画面は、学習処理を行うために学習用データを指定することを目的としているので、AI利用ユーザ(ユーザ端末300)からアップロードする以外に、本システム内(記憶装置160)に既に格納されている学習用データを指定することもできる。例えば、図21に示すData管理画面で学習用データを予めアップロードして登録することができる。なお、学習用データには、AI利用ユーザが予めアップロードして格納した学習用データと、アノテーション依頼を通じてアノテーションが施された学習用データと、が含まれる。 Also, since the learning data registration screen in FIG. 9 is intended to specify learning data for performing learning processing, it can be uploaded from the AI user (user terminal 300), and can also be uploaded within the system ( Learning data already stored in the storage device 160) can also be specified. For example, learning data can be uploaded in advance and registered on the Data management screen shown in FIG. The learning data includes learning data previously uploaded and stored by the AI user and learning data annotated through an annotation request.
図10は、作成中のAIモデルを表示する画面である。学習処理部124は、図9で学習用データが指定されると、学習処理を実行する。学習処理の実行状況は、図10で確認することができる。例えば、AIモデル作成に要する時間を表示したり、作成完了までの残り時間を表示したりすることができる。学習処理の実行状況は、学習処理部124から提供される。また、モデル作成を中止したりすることもできる。モデル作成の中止が選択された場合、学習処理部124は、学習処理を中止する。
FIG. 10 is a screen displaying an AI model being created. The
図11は、作成したAIモデルの学習結果を表示する画面の一例である。学習処理部124は、学習処理において学習時精度情報を生成する。AIモデル提案部134は、図11に示すように、学習した各AIモデルの学習時精度情報を表示する。AI利用ユーザは、学習済みAIモデルを選択することができ、選択された学習済みAIモデルの情報(学習時予測結果のグラフ、予測精度等)を表示することができる。また、学習で検証したモデルの総数(異なるハイパーパラメータのプリセット数)なども表示される。
FIG. 11 is an example of a screen displaying learning results of the created AI model. The
また、図11の画面は、「Summary」と「Detail」とをタブで切り替えて表示することができる。図12は、「Detail」が表示された態様を示す図であり、選択された学習済みAIモデルの詳細情報(学習結果表項目とその結果)が表示される。詳細情報は、elapsed、last_epoch、last_val_acc、last_val_loss、last_acc、last_loss、batch_size、learning_rate、patience、epochsなどの各種評価項目を含む。 The screen of FIG. 11 can be displayed by switching between "Summary" and "Detail" using tabs. FIG. 12 is a diagram showing a mode in which "Detail" is displayed, in which detailed information (learning result table items and their results) of the selected trained AI model is displayed. Detailed information includes various evaluation items such as elapsed, last_epoch, last_val_acc, last_val_loss, last_acc, last_loss, batch_size, learning_rate, patience, and epochs.
なお、学習時精度や、学習結果は、AIエンジン及びアルゴリズムに応じた任意の情報であり、公知の技術を適用することができる。なお、同じ画像処理を行うAIモデルであれば、画像処理に関する統一された評価項目及び学習結果を提供したり、同じ画像処理を行うAIモデルであっても、他のAIモデルと異なる評価項目を提供したりすることができる。一例として、後述する機能分類マスタ情報のカテゴリ別に、カテゴリ間で異なる評価項目及び学習結果を提供し、カテゴリ内に属する各AIモデルは、カテゴリによって統一された評価項目及び学習結果を提供することができる。 Note that the learning accuracy and the learning result are arbitrary information according to the AI engine and algorithm, and known techniques can be applied. For AI models that perform the same image processing, unified evaluation items and learning results regarding image processing are provided, and even for AI models that perform the same image processing, different evaluation items from other AI models can be provided. As an example, for each category of function classification master information described later, different evaluation items and learning results are provided between categories, and each AI model belonging to the category can provide evaluation items and learning results unified by category. can.
図13は、UI「AIモデルを作ってみよう(学習)」における提案UI「使いたい機能選定からはじめる」の画面例を示す図である。AIモデルのアルゴリズムは、機能で分類することができる。例えば、図7のAIアルゴリズム属性情報は、アルゴリズム種別に対して「カテゴリ」を含むように構成することができ、この「カテゴリ」が機能分類を表す。例えば、予め機能分類マスタ情報を設定し、AI選択タグ情報154において各AIモデルに関連付けるように制御することができる。
FIG. 13 is a diagram showing an example of a screen of a proposal UI "Start by selecting a function to use" in the UI "Let's create an AI model (learning)". Algorithms in AI models can be classified by function. For example, the AI algorithm attribute information in FIG. 7 can be configured to include "categories" for algorithm types, and the "categories" represent function classifications. For example, function classification master information can be set in advance and controlled to be associated with each AI model in the AI
機能分類マスタ情報は、例えば、CV(画像認識(Computer Vision))、NPL(自然言語処理(Natural Language Processing))、ASR(音声認識(Automatic Speech Recognition)、時系列処理などのカテゴリ区分を含むことができる。また、機能分類「CV」に属する各AIモデルは、画像認識をベースとした物体検出や画像分類、姿勢推定などの各アルゴリズムを有するので、例えば、機能分類「CV」に属するAIモデルを各アルゴリズム種別でさらにカテゴライズすることができる。図13の例では、機能分類「CV」において、「Semantic-Segmentation」、「Image Classification」、「Object Detection」、「Image Generation」、「Pose Estimation」の各アルゴリズム別に選択可能に構成することができる。他の機能分類についても同様である。 Functional classification master information, for example, CV (Computer Vision), NPL (Natural Language Processing), ASR (Automatic Speech Recognition), including category divisions such as time series processing In addition, each AI model belonging to the functional classification "CV" has algorithms for object detection, image classification, posture estimation, etc. based on image recognition, so for example, an AI model belonging to the functional classification "CV" can be further categorized by each algorithm type.In the example of FIG. The same applies to other function classifications.
AIモデル提案部134は、機能分類マスタ情報及びAI選択タグ情報154に基づいて、図13に示す機能別選択画面を提供し、選択された機能に属する複数のAIモデルを選定する。
Based on the function classification master information and the AI
そして、図13において機能が選択されると、提案UI「業種/ロールの設定からはじめる」と同様に、図9の学習用データの指定画面、図10の作成中のAIモデルを表示する画面、図11及び図12の学習結果表示画面の順に、各画面が提供され、対応する各処理が実行される。 Then, when a function is selected in FIG. 13, similarly to the proposal UI "start from setting of industry/role", the screen for specifying learning data in FIG. 9, the screen for displaying the AI model being created in FIG. Each screen is provided in order of the learning result display screen of FIG. 11 and FIG. 12, and each corresponding process is performed.
次に、UI「AIモデルを使ってみよう(推論)」について説明する。UI「AIモデルを使ってみよう(推論)」も、提案UI「業種/ロールの設定からはじめる」又は提案UI「使いたい機能選定からはじめる」から、推論に使用するAIモデルを選定することができるが、このとき選定されるAIモデルは、1つとするように制御することができる。 Next, the UI "Let's use an AI model (inference)" will be described. The AI model to be used for inference can also be selected from the UI "Let's use an AI model (inference)" and the proposal UI "Start by setting the industry/role" or the proposal UI "Start by selecting the functions you want to use". However, the AI model selected at this time can be controlled to be one.
この場合、提案UI「業種/ロールの設定からはじめる」又は提案UI「使いたい機能選定からはじめる」のインターフェースから選定された複数のAIモデルに対し、AI利用ユーザが複数のAIモデルの中から任意に1つのAIモデルを選べるように制御したり、AIモデル提案部134が1つのAIモデルを自動的に選定するように制御したりすることができる。
In this case, for multiple AI models selected from the interface of the proposal UI "start from industry/role setting" or the proposal UI "start from selection of functions you want to use", the AI user can select any of the multiple AI models. can be controlled so that one AI model can be selected by the AI
AI利用ユーザによる選択及び自動的に選定において、例えば、AI利用ユーザの利用頻度に基づくランキング、協調フィルタリング、コンテンツベースフィルタリングなどを適用することができ、利用頻度や他のAI利用ユーザの選択履歴等を参考情報として提示したり、利用頻度が一番高いAIモデルや嗜好類似度が最も高い他のAI利用ユーザが選択したAIモデルを、自動的に選定したりするように構成することができる。 In the selection and automatic selection by AI users, for example, ranking based on the usage frequency of AI users, collaborative filtering, content-based filtering, etc. can be applied, and usage frequency, selection history of other AI users, etc. can be presented as reference information, or an AI model with the highest usage frequency or an AI model selected by another AI user with the highest preference similarity can be automatically selected.
なお、UI「AIモデルを使ってみよう(推論)」においても、複数の学習済みAIモデルに、1つの推論用データを適用して、各学習済みAIモデルの複数の推論結果を得るように構成することもできる。 In addition, the UI "Let's use an AI model (inference)" is also configured to apply one inference data to multiple trained AI models and obtain multiple inference results for each trained AI model. You can also
図14は、UI「AIモデルを使ってみよう(推論)」における推論用データの指定画面を示す図である。図9に示した学習用データの登録画面と同様であり、AI利用ユーザは、AIモデルを使った推論を行うために、推論用データを本システムにアップロードする。なお、複数の異なる推論用データを指定し、学習済みAIモデルに推論処理を実行することもできる。 FIG. 14 is a diagram showing an inference data specification screen in the UI "Let's use an AI model (inference)". This is the same as the learning data registration screen shown in FIG. 9, and the AI user uploads inference data to this system in order to make an inference using the AI model. It is also possible to designate a plurality of different data for inference and perform inference processing on the trained AI model.
図15は、推論中の状態を表示する画面である。推論処理部125は、推論用データが指定されると、選定された学習済みAIモデルを用いた推論処理を実行する。推論用データが複数指定されている場合は、各推論用データの数だけ推論処理を行う。推論処理部125は、推論処理の実行状況(残り時間)を出力し、図15の例に示すように画面で確認することができるようにする。
FIG. 15 is a screen that displays the state during inference. When the inference data is designated, the
図16は、推論結果を表示する画面であり、指定された推論用データ毎に、精度情報(確信度など)が表示される。図16の例は、「Summary」画面であり、指定された推論用データ別の精度情報がリスト表示される。図17は、推論結果を表示する画面においてタブ切り替えで表示可能な「Detail」画面であり、1つの推論用データに対する詳細な推論結果が「Detail」画面に表示される。「Detail」画面は、例えば、画像データ内に認識された各オブジェクトを分析結果として表示したり、推論用データの画像を表示し、画像内に認識した各オブジェクトを枠(分析結果の分類色を使ったオブジェクト毎に異なる色の枠)で囲って表示したりすることができる。 FIG. 16 is a screen for displaying inference results, and accuracy information (certainty, etc.) is displayed for each designated inference data. The example of FIG. 16 is a "Summary" screen, which displays a list of accuracy information for each designated inference data. FIG. 17 shows a "Detail" screen that can be displayed by switching tabs on the screen that displays the inference results, and a detailed inference result for one piece of inference data is displayed on the "Detail" screen. The "Detail" screen, for example, displays each object recognized in the image data as the analysis result, displays the image of the inference data, and frames each recognized object in the image (using the classification color of the analysis result). It can be displayed by enclosing it with a frame of a different color for each object used.
図18は、アルゴリズム種別が時系列である又は時系列を含むAIモデルの推論結果を表示する画面である。時系列に入力された推論用データ順に、予測結果が表示される。なお、予測結果1と予測結果2が表示された態様を示しているが、これは、AIモデルのアルゴリズムの特性に応じて任意である。 FIG. 18 is a screen displaying the inference result of an AI model whose algorithm type is or includes time series. Prediction results are displayed in the order of inference data entered in chronological order. It should be noted that although the mode in which prediction result 1 and prediction result 2 are displayed is shown, this is arbitrary according to the characteristics of the algorithm of the AI model.
図19から図24の各図は、本システムを利用するAI利用ユーザに提供されるユーザ管理画面を示す図である。 19 to 24 are diagrams showing user management screens provided to AI users who use this system.
図19の画面左欄には、Project管理、Data管理、AI管理、オプションサービスの各メニューが表示されている。Project管理とは、どのような目的でどのようなAIモデルを利用するのかを整理するための管理画面であり、プロジェクト名やプロジェクトの概要(説明)を入力することができ、使用するAIモデルを紐付けることができる。 In the left column of the screen in FIG. 19, menus for project management, data management, AI management, and optional services are displayed. Project management is a management screen for organizing what kind of AI model is used for what purpose. can be tied.
図20は、各プロジェクトで使用するAIモデルの一覧画面である。AIモデル名、アルゴリズム、データ名(学習用データ名)、関連プロジェクト名、AIモデルのData容量などが表示される。 FIG. 20 is a list screen of AI models used in each project. AI model name, algorithm, data name (learning data name), related project name, data capacity of AI model, etc. are displayed.
図21は、Data管理画面の一例を示す図である。Data管理画面は、学習用データ及び推論用データのアップロード、削除、ダウンロードの各機能を提供する。また、上述した「AIモデルを作ってみよう」のUIから指定した学習用データ、「AIモデルを使ってみよう」のUIから指定した推論用データも、このData管理画面で管理することができる。 FIG. 21 is a diagram showing an example of a data management screen. The Data management screen provides functions for uploading, deleting, and downloading learning data and inference data. In addition, the learning data specified from the above-mentioned "Let's create an AI model" UI and the inference data specified from the "Let's use an AI model" UI can be managed on this Data management screen.
図21の例において、データ名、データの説明(概要)と共に、データの詳細として、推論用、学習用のどちらのデータであるか、登録した学習用データ及び推論用データがどのようなAIモデル(カテゴリ名やアルゴリズム種別)に適用されるものであるか、を選択、入力することができる。また、アノテーション依頼をしてサポート事業者から納品された学習用データ(又は推論用データ)であるかについてもログとして管理することができる。 In the example of FIG. 21, along with the data name and description (outline) of the data, as details of the data, whether the data is for inference or learning, and what kind of AI model the registered learning data and inference data are. You can select and enter whether it is applied to (category name or algorithm type). In addition, it is also possible to manage as a log whether or not the learning data (or inference data) has been delivered from the support company after an annotation request.
なお、Data管理画面は、本システム上でのAIモデルの学習処理及び推論処理で使用されるデータであるか否かを問わず、例えば、アノテーション依頼を目的としたデータ管理環境として利用することができる。本システム以外で動作するAIモデル(本システムで作成または購入したAIモデル、又は本システムとは関係なくAI利用ユーザが用意したAIモデルの如何を問わず)用の学習用データ及び推論用データをダウンロードして使用することができる。 The data management screen can be used as a data management environment for the purpose of requesting annotations, for example, regardless of whether the data is used in AI model learning processing and inference processing on this system. can. Training data and inference data for AI models that operate outside this system (irrespective of AI models created or purchased by this system, or AI models prepared by AI users independent of this system) You can download it and use it.
また、本システムでは、AI利用ユーザに対し、所定量の記憶領域を割り当て、学習用データ、推論用データ、AIモデルを管理装置100側で保存できるようにしている。図21の例では、ストレージ使用率が表示されており、必要に応じて削除したり、ダウンロードするなどして、ストレージ容量を超えないように管理する。なお、Data管理とAIモデル管理の各記憶領域の容量は、個別に設定したり、一括した合計で設定したりすることができる。
In addition, in this system, a predetermined amount of storage area is allocated to an AI user, so that learning data, inference data, and an AI model can be stored on the
図22は、AI管理画面である。図22の例では、本システムで作成したAIモデル及び使用したAIモデルが表示されている。AIモデル名、アルゴリズム、作成日、作成したユーザ名、データ名、関連プロジェクトなどの各種情報を入力することができる。また、AIモデル毎に、推論用のモデル、学習用のモデルであることをチェックすることができ、ステータスも表示される。ステータスは、学習中(利用不可)、モデルの利用可能などの状態が表示される。 FIG. 22 is an AI management screen. In the example of FIG. 22, an AI model created by this system and an AI model used are displayed. Various information such as AI model name, algorithm, creation date, created user name, data name, related project, etc. can be input. Also, for each AI model, it is possible to check whether it is a model for inference or a model for learning, and the status is also displayed. The status displays states such as learning (unavailable) and model available.
図23は、図22に示したAIモデル管理画面において、AIモデルをダウンロードして購入する際の購入画面例を示している。図22のダウンロードボタンが押下されると、図23の「ダウンロード有効残数」が表示される。有効残数は、ダウンロード可能な数の上限数である。「追加で購入する」を選択することで、購入(ダウンロード)することができる。また、1つ又は複数のAIモデルを指定して購入することもできる。 FIG. 23 shows an example of a purchase screen when downloading and purchasing an AI model on the AI model management screen shown in FIG. When the download button in FIG. 22 is pressed, the "valid download remaining number" in FIG. 23 is displayed. The remaining valid number is the upper limit of the number of downloads that can be made. It can be purchased (downloaded) by selecting "Additional purchase". It is also possible to specify and purchase one or more AI models.
図24は、図22に示したAIモデル管理において、作成中のモデルを表示したものである。「AIモデルを作ってみよう」のUIで作成しているAIモデルの学習状況を管理することができ、図24に示すように、AIモデル名、完了/作成中のステータス、作成開始時間、残り時間(残り時間バーを含む)などが含まれる。 FIG. 24 shows a model being created in the AI model management shown in FIG. You can manage the learning status of the AI model you are creating on the UI of "Let's create an AI model", and as shown in FIG. Time (including time remaining bar), etc.
また、学習済みのAIモデルに対しては、「学習結果を確認する」ボタンを押下することで、図11又は/及び図12に示した学習結果を表示させることができる。さらに、作成中(学習中)のAIモデルに対しては、「モデル作成を停止」ボタンが選択できるように制御され、AIモデル管理画面からモデル作成の停止を行うことができる。 For AI models that have already been trained, the learning results shown in FIG. 11 and/or FIG. 12 can be displayed by pressing the "Check learning results" button. Furthermore, the AI model being created (learning) is controlled so that a "stop model creation" button can be selected, and model creation can be stopped from the AI model management screen.
図25は、オプションサービス管理画面である。図25の例は、ECサイトの商品・サービス購入ページの態様で例示している。上述したように、AIベンダーやサポート事業者は、本プラットフォームを通じて、商品・サービスをAI利用ユーザに購入してもらうことができる。AIベンダーやサポート事業者が提供する、AIパッケージモデル、アノテーションサービス、教育サービスなどが表示されると共に、一番人気!などのおすすめ商品等を表示することもできる。また、購入履歴もユーザ別に管理することができ、オプションサービス管理画面で閲覧可能に制御することもできる。 FIG. 25 is an optional service management screen. The example of FIG. 25 is illustrated in the form of a product/service purchase page on an EC site. As described above, AI vendors and support providers can have AI users purchase products and services through this platform. AI package models, annotation services, education services, etc. provided by AI vendors and support companies are displayed, and the most popular! It is also possible to display recommended products such as Purchase histories can also be managed for each user, and can be controlled to be viewable on the optional service management screen.
<最適なAIモデルを提示する機能の説明>
本実施形態では、最適なAIモデルを提示する機能を備えている。本機能は、2つの要素で構成されており、1つ目は、上述したAI選択タグ情報154を用いた業種、ロール、利用シーンからAI利用ユーザに適合するAIモデルを抽出することである。これにより、AI利用ユーザが専門的知識を持たなくても、自身にマッチングするAIモデルが自動的に提示される。
<Description of the function that presents the optimal AI model>
This embodiment has a function of presenting an optimal AI model. This function consists of two elements. The first is to extract an AI model suitable for the AI user from the industry, role, and usage scene using the AI
2つ目は、AI利用ユーザがAIモデルに求める「方向性」に対し、複数のAIモデルを「競争」させる仕組みである。図26は、複数のAIモデルを「競争」させる仕組みを説明するための図である。図26に示すように、登録された学習前AIモデルに、複数の異なるハイパーパラメータ群を予め用意し、ハイパーパラメータプリセット情報152として保持する。例えば、機械学習やディープラーニングでは、バッチサイズ、イテレーション数、エポック数などのハイパーパラメータが知られている。
The second is a mechanism that allows multiple AI models to "compete" with respect to the "direction" that AI users want from AI models. FIG. 26 is a diagram for explaining a mechanism for "competing" a plurality of AI models. As shown in FIG. 26 , a plurality of different hyperparameter groups are prepared in advance for the registered pre-learning AI model and held as hyperparameter
バッチサイズは、データセットを複数のサブセットに分けた際の各サブセットに含まれるデータの数であり、例えば、80件のデータセットを10件ずつサブセットに分けると、バッチサイズは10となる。イテレーション数は、データセット内の各データが少なくとも1回は学習に用いられるのに必要な学習の回数であり、バッチサイズが決まることで、自動的に決まる。80件のデータセットでバッチサイズが10だと、イテレーション数は8となり、学習を8回繰り返すことになる。また、エポック数は、データセットをバッチサイズに従ってサブセットに分け、データセット内の各データが少なくとも1回は学習することを1サイクルとし、この1サイクルを何回実行するかを規定したのである。 The batch size is the number of data included in each subset when the data set is divided into a plurality of subsets. The number of iterations is the number of times of learning necessary for each data in the data set to be used for learning at least once, and is automatically determined by determining the batch size. If the batch size is 10 with 80 data sets, the number of iterations will be 8, and the learning will be repeated 8 times. In addition, the number of epochs defined how many times to divide the data set into subsets according to the batch size, set each data in the data set to learning at least once as one cycle, and how many times to execute this one cycle.
本実施形態では、複数の異なるハイパーパラメータ群として、バッチサイズ、イテレーション数、エポック数などがそれぞれ異なるハイパーパラメータ1~Nを予め用意し、1つの学習前AIモデル1に、ハイパーパラメータ1を適用して学習させた学習モデル1-1(プリセット1-1)、ハイパーパラメータ2を適用して学習させた学習モデル1-2(プリセット1-2)、・・・・・ハイパーパラメータNを適用して学習させた学習モデル1-N(プリセット1-N)をそれぞれ生成する。
In this embodiment, as a plurality of different hyperparameter groups,
これを、AI選択タグ情報154を用いた業種、ロール、利用シーンによって選定された複数の各AIモデルに適用し、1つのAIモデルに対して複数の異なる学習済みAIモデルを生成する。
This is applied to each of a plurality of AI models selected according to the type of industry, role, and usage scene using the AI
ここで、従来の仕組みと大きく相違する点について説明する。従来は、特許文献2に記載のように、最適なハイパーパラメータを「探索」するものであり、少しずつハイパーパラメータを変化させて性能が一番高い学習パラメータを模索している。しかしながら、このような従来の手法は、1つのAIモデルの最適化であり、自動化しても時間及びコストが掛かる。 Here, the major difference from the conventional mechanism will be described. Conventionally, as described in Patent Document 2, the optimum hyperparameter is “searched”, and the hyperparameter is gradually changed to search for the learning parameter with the highest performance. However, such a conventional method is an optimization of one AI model, and even if automated, it takes time and cost.
一方で、本システムは、AI利用ユーザがAIモデルに求める「方向性」に対し、複数のAIモデルを「競争」させる仕組みを提供するものであり、プリセットされた複数の異なるハイパーパラメータそれぞれを無条件に適用しつつ、かつ異なる複数のAIモデルそれぞれが、図26に示すように、プリセットされた複数の異なるハイパーパラメータの数だけ学習処理が行われる。つまり、1つのAIモデルに対して、一度に異なる学習パラメータの学習済みAIモデルを複数生成し、その中から性能が良い学習済みAIモデルを抽出する。そして、複数のAIモデルにおいて、性能が良い学習済みAIモデルを一括した学習結果を提供する。 On the other hand, this system provides a mechanism to make multiple AI models “compete” in response to the “direction” that AI users seek for AI models, and each of the multiple different preset hyperparameters is nullified. As shown in FIG. 26, each of a plurality of different AI models that are applied to conditions is subjected to learning processing for the number of different preset hyperparameters. That is, for one AI model, a plurality of trained AI models with different learning parameters are generated at once, and a trained AI model with good performance is extracted from among them. Then, in a plurality of AI models, the training results of the trained AI models with good performance are collectively provided.
本実施形態では、多岐に渡るAI利用ユーザのニーズに対し、1つのAIモデルを最適化するのではなく、AIモデルに求める評価基準を広く網羅する複数のAIモデルを「競争」環境を提供することで、AI利用ユーザがAIモデルに求める「方向性」に対する多くの選択肢を用意することができる。これにより、ハイパーパラメータの探索等に掛かる時間及びコストを低減させ、AI利用ユーザの様々なニーズに対し、複数のAIモデルを競争させる環境を提供することができる。 In this embodiment, instead of optimizing one AI model to meet the needs of a wide variety of AI users, multiple AI models that broadly cover the evaluation criteria required for AI models are provided in a “competitive” environment. By doing so, it is possible to prepare many options for the “direction” that the AI user wants for the AI model. As a result, it is possible to reduce the time and cost required to search for hyperparameters, etc., and to provide an environment in which multiple AI models compete with each other in response to various needs of AI users.
したがって、AI利用ユーザが専門的知識を持たなくても、自身にマッチングするAIモデルが自動的に提示され、さらに、複数のAIモデルを競争させて様々なニーズに適合するAIモデルを提案し易くすることができるので、専門的な知識がないユーザが、それぞれのニーズに合ったAIモデルを作って試せる環境を実現することができる。 Therefore, even if an AI user does not have specialized knowledge, an AI model that matches him/herself is automatically presented, and it is easy to propose an AI model that meets various needs by having multiple AI models compete. Therefore, it is possible to realize an environment in which users without specialized knowledge can create and test AI models that meet their needs.
<連携インターフェース機能の説明>
図27は、連携インターフェース機能を説明するための図である。連携インターフェース機能は、異なるAIモデルを連結した連結AIモデルを構築するためのサポート機能である。上述の複合モデルの態様に適用することができる。
<Description of the linkage interface function>
FIG. 27 is a diagram for explaining the cooperation interface function. The link interface function is a support function for constructing a linked AI model in which different AI models are linked. It can be applied to aspects of the composite model described above.
例えば、図30に示すように、物体検知のAIモデルと、物体識別のAIモデルが、個別に提供(登録)されている場合、各AIモデルは、アウトプットデータ及びインプットデータの形式がそれぞれ異なるため、単に連結することができない。そこで、制御装置120は、連携インターフェース制御部126を備え、連結上流のAIモデルのアウトプットデータを、連結下流のAIモデルのインプットデータに変換するインタフェースモジュールを提供する。これにより、任意の組み合わせでの連結AIモデルを作成することができる。
For example, as shown in FIG. 30, when an AI model for object detection and an AI model for object identification are separately provided (registered), each AI model has different output data and input data formats. So you can't simply concatenate. Therefore, the
連携情報として、記憶装置150は、AIベンダーから提供されたAIモデルのインプットデータ及びアウトプットデータの各データ形式に関する情報(インターフェース情報)を、モデル連携情報155として保持する。
As linkage information, the
連携インターフェース制御部126は、モデル連携情報155を参照し、連結する2つ以上のAIモデル間の上流から下流における連結順序に応じて、各AIモデル間のインタフェースモジュールを提供する。インタフェースモジュールは、予め生成してモデル連携情報155に格納しておいたり、連結AIモデルを生成するタイミングでその都度連携インターフェース制御部126が生成したりするように制御することができる。
The cooperation
<本システムの処理フローの説明>
図28から図30は、本システムの処理フローを示す図である。図28に示すように、AIベンダーは、ベンダー端末500を通じてベンダー登録を行う(S501)。管理装置100は、ベンダー登録の受け付け処理及ぶ登録処理を行う(S101)。AIベンダーは、登録後に、学習前AIモデル及び/又は学習済みAIモデルを、管理装置100にアップデートして登録を行う(S502)。
<Description of the processing flow of this system>
28 to 30 are diagrams showing the processing flow of this system. As shown in FIG. 28, the AI vendor performs vendor registration through the vendor terminal 500 (S501). The
管理装置100は、AIベンダーによるAIモデルの登録に伴い、AIモデルのプログラムモジュールを記憶装置150に格納する(S102)。AIベンダーが登録するAIモデルは、学習済みAIモデルや学習前AIモデルである。
When the AI vendor registers the AI model, the
管理装置100は、格納した(登録した)AIモデルのハイパーパラメータプリセット情報152を生成し、当該AIモデルと関連付けて保存する(S103)。このとき、上述したように、1つのAIモデルに複数の異なるハイパーパラメータ群がセッティングされる。つまり、セッティングされた互いに異なるハイパーパラメータの数だけ学習処理を繰り返し実行し、ハイパーパラメータの数に相応する複数の学習済みAIモデルを生成するための、ハイパーパラメータプリセット情報152が格納される。なお、上述のように、ハイパーパラメータ群を構成する各ハイパーパラメータは、本システムの運営事業者又はAIベンダーが生成して提供することができる。
The
一方、管理装置100は、登録されているAIモデルに対するAI選択タグ情報154の生成及び登録処理を行う(S104)。本システムに登録される全てのAIモデルは、AI選択タグ情報154によって、図4等に示したAIアルゴリズム属性情報、業種、サブ業種、用途カテゴリ(ロール)などでカテゴライズされる。
On the other hand, the
次に、AI利用ユーザは、本システムのユーザ登録を行う(S301,S105)。AI利用ユーザは、ユーザ端末300から本システムにサインインし、管理装置100は、ユーザ認証を行う(S302,S106)。
Next, the AI-using user performs user registration for this system (S301, S105). The AI-using user signs in to the system from the
管理装置100は、ユーザ認証後、例えば、図3に示すユーザ専用ページをユーザ端末300に表示させる(S107)。まず、学習処理を行うUI「AIモデルを作ってみよう(学習)」について説明する。図28に示すように、UI「AIモデルを作ってみよう(学習)」において提案UI「業種/ロールの設定からはじめる」が選択されると(S303,S304,S305)、管理装置100は、図8の画面を通じたAI提案処理を行う(S108)。
After user authentication, the
管理装置100は、AI利用ユーザによって選択された業種、用途カテゴリ、利用シーンに基づいて、AI選択タグ情報154を参照し、該当する複数のAIモデル(学習対象AIモデル)を選定する(S305,S108,S109)。管理装置100は、AI利用ユーザからアップロードされる学習用データを受け付ける(S306,図9参照)。
The
AI利用ユーザは、アップロードする学習用データに対し、サポート事業者が提供するアノテーションサービスを利用することができる。例えば、図9の画面例において、「アノテーション依頼」ボタンを押下することで、依頼することができる。管理装置100は、学習用データの受付処理において、アノテーション依頼の有無を判別し(S110)、アノテーション依頼がなければ、ステップS113に進み、受け付けた学習用データをユーザ別に格納する。
AI-using users can use annotation services provided by support providers for uploaded learning data. For example, in the screen example of FIG. 9, the request can be made by pressing the "Request Annotation" button. The
ステップS110において、アノテーション依頼ありと判別された場合、管理装置100は、アノテーション依頼処理を行う(S111)。アノテーション依頼処理は、サポート事業者への見積依頼、AI利用ユーザに対してサポート事業者から受領した見積を提示、AI利用ユーザによる発注を仲介する処理である(S307,S111,S601)。AI利用ユーザからの発注を受け付けると、管理装置100は、アップロードされた学習用データをサポート事業者に提供し、サポート事業者がアノテーションを実施する(S112,S602)。サポート事業者は、アノテーション済みの学習用データ(例えば、教師ラベルが付与された学習用データ)を管理装置100に送信する。管理装置100は、アノテーション済み学習用データを記憶装置160に格納する(S113)。なお、アノテーション依頼は、学習用データのアップロード後、管理画面において任意のタイミングで行うことができる(図21等参照)。
When it is determined in step S110 that there is an annotation request, the
図29は、図28に続く処理フローである。UI「AIモデルを作ってみよう(学習)」において、AI選択タグ情報154に基づいて複数のAIモデル(学習前AIモデル)が選定され、学習用データ(アノテーション済学習用データを含む)が用意されると、管理装置100が、学習処理を実行する。
FIG. 29 is a processing flow following FIG. In the UI "Let's create an AI model (learning)", multiple AI models (pre-learning AI models) are selected based on the AI
管理装置100は、選定された複数のAIモデル毎に学習処理を実行する(S151)。管理装置100が、学習対象のAIモデルに紐付くプリセットされたハイパーパラメータ群の中から、1つのハイパーパラメータを設定し(S152)、学習用データを適用した学習処理を行う(S153)。管理装置100が、学習処理に伴う学習時精度情報を生成し(S154)、学習済みAIモデルと学習時精度情報とを格納する(S155)。
The
管理装置100は、全てのハイパーパラメータで学習処理を実施したか否かを確認し(S156)、次のハイパーパラメータを設定し、ステップS152からステップS155を、プリセットされたハイパーパラメータの数だけ繰り返し実行する。そして、ステップS152からステップS157までの処理を、選定された複数のAIモデル全てに対して実行する。つまり、1つのAIモデルの学習処理が終わった後、ステップS158において、選定された他のAIモデルに対する学習処理が残っているか否かを確認し、次のAIモデルを学習対象として設定して(S159)、S152からステップS157までの処理を繰り返し実行する。
The
管理装置100は、1つのAIモデルに対して生成された互いに異なるハイパーパラメータ別の複数の学習済みAIモデルにおいて、学習時精度が一番高いAIモデルを抽出する。これを選定されたAIモデル(学習対象AIモデル)それぞれに対して行い、最適AIモデル群として抽出(する(S160,図26)。
The
そして、管理装置100は、選定された各AIモデルそれぞれから抽出された学習時精度が一番高いAIモデル群を含む学習結果(学習時精度情報を含む)を、ユーザ端末300に提供する(S161,図11等)。このとき、図11に示すように、学習時精度が高い順にランキング形式で順位付けを行ったり、学習時精度をグラフ化して表示したりすることができる(図11,図12)。
Then, the
AI利用ユーザは、学習結果に含まれる学習済みAIモデルを選択し、推論処理を実行することができる。AI利用ユーザは、選択した学習済みAIモデルに適用する推論用データをアップロードし(又は、予めアップロードしたあった推論用データを指定し)、推論処理の実行要求を管理装置100に送信する(S310,S311)。 The AI-using user can select a trained AI model included in the learning result and execute inference processing. The AI user uploads inference data to be applied to the selected trained AI model (or designates pre-uploaded inference data), and transmits an inference process execution request to the management device 100 (S310). , S311).
管理装置100は推論処理実行要求を受け付けると、選択された学習済みAIモデルに指定された推論用データを適用した推論処理を実行し、推論時精度情報を生成する(S162)。生成した推論時精度情報は、推論結果としてAI利用ユーザに提供する(S163)。
When receiving the inference processing execution request, the
管理装置100は、例えば、図11等のダウンロードボタンを選択したり、図23に示した管理画面でのダウンロード操作に応じて、AIモデルのダウンロード要求を受け付け、該当する学習済みAIモデル(推論AIモデル)を提供する(S312,S164)。
For example, the
図30は、UI「AIモデルを使ってみよう(推論)」における推論処理の流れを示す図であり、図28のステップS303からの分岐処理を示している。図30の示すように、UI「AIモデルを使ってみよう(推論)」において提案UI「使いたい機能選定からはじめる」が選択されると(S303a,S3051)、管理装置100は、図13の画面を通じたAI提案処理を行う(S1081)。
FIG. 30 is a diagram showing the flow of inference processing in the UI "Let's use an AI model (inference)", and shows branch processing from step S303 in FIG. As shown in FIG. 30 , when the proposal UI “start from selection of desired functions” is selected in the UI “Let’s use AI model (inference)” (S303a, S3051), the
管理装置100は、AI利用ユーザによって選択された機能に基づいて、AI選択タグ情報154を参照し、該当する複数の学習済みAIモデルを選定する(S3051,S1081)。選定した1つ又は複数の学習済みAIモデルは、AIモデル提案結果としてユーザ端末300に提供する(S1091)。このとき、提案される学習済みAIモデルが複数ある場合、AI利用ユーザは、提供されたAIモデル提案結果の中から1つ又は複数の学習済みAIモデルを選択することができる(S3052)。管理装置100は、AI利用ユーザによる選択情報を受け付け、推論処理を行う学習済みAIモデルを決定する(1092)。
The
次に、管理装置100は、AI利用ユーザからアップロードされる推論用データを受け付ける(S3110,図14参照)。
Next, the
管理装置100は、受け付けた推論用データを用いて選択された学習済みAIモデルによる推論処理を行い(図15参照)、推論時精度情報165を生成する(S1620)。管理装置100は、推論処理の結果として、推論時精度情報165をユーザ端末300に提供する(S1630,図16~図18参照)。
The
管理装置100は、例えば、図23に示した管理画面において、AIモデルのダウンロード要求を受け付けると、該当する学習済みAIモデル(推論AIモデル)を提供する(S3120,S1640)。
For example, on the management screen shown in FIG. 23, the
なお、図30の例は、提案UI「使いたい機能選定からはじめる」を一例に説明したが、図28で示した提案UI「業種/ロールの設定からはじめる」による学習済みAIモデルの選定処理を適用することができる。逆に、図28の例において、提案UI「使いたい機能選定からはじめる」によるUI「AIモデルを作ってみよう(学習)」を実行することもできる。 In the example of FIG. 30, the proposal UI "start from selection of functions you want to use" was explained as an example. can be applied. Conversely, in the example of FIG. 28, it is also possible to execute the UI ``Let's create an AI model (learning)'' by the proposed UI ``Start from selection of functions you want to use''.
<本システムによって実現されるAIプラットフォームについて>
本実施形態のAIプラットフォームシステムは、AI利用ユーザの利便性(みんなが使える)ことに特化したシステムであり、エンジニアではない、AIを活用したい現場の人が、それぞれのニーズに合ったAIモデルを作って試せる環境を実現することができる。
<About the AI platform realized by this system>
The AI platform system of this embodiment is a system that specializes in the convenience of AI users (everyone can use it). It is possible to realize an environment where you can create and try
(A)AI選択タグ情報154に基づいて、AI利用ユーザの業種・職種等から、最良なAIモデル(学習前AIモデル及び学習済みAIモデル)を自動選択することができる。これにより、エンジニアでなくても、またAIに関する知識をあまり持ち合わせていなくても、AI利用ユーザ自身の現場・事業等のニーズに合ったAIモデルを選定することができる。
(A) Based on the AI
(B)1つのAIカテゴリ(画像処理、物体検知など機能分類1つ1つ)に対し、多種多様なデータに対応すべく、複数のAIモデルが登録できるようにし、AI選択タグ情報154で管理する。言い換えれば、AI利用ユーザに提案されるAIモデルは、AI選択タグ情報154に基づいて複数抽出されるように制御し、複数のAIモデルを競争させて提供する環境が形成される。
(B) Multiple AI models can be registered for one AI category (one function classification such as image processing and object detection) to handle a wide variety of data, and managed by AI
(C)そして、複数のAIモデルを競争させる実環境として、互いに異なるハイパーパラメータ群を予めプリセットしておき、1つのAIモデルの学習処理において、ハイパーパラメータの数だけ複数の学習済みAIモデルを生成する。これにより、ハイパーパラメータ(学習パラメータ)の探索等に掛かる時間及びコストを低減させ、AIモデルの最適化を探求するのではなく、気軽にAIモデルを作れる環境を形成することができる。 (C) Then, as a real environment in which a plurality of AI models compete, different hyperparameter groups are preset in advance, and in the learning process of one AI model, a plurality of trained AI models corresponding to the number of hyperparameters are generated. do. As a result, it is possible to reduce the time and cost required to search for hyperparameters (learning parameters), etc., and create an environment where AI models can be created easily, rather than seeking optimization of AI models.
(D)本プラットフォームは、AIモデルを作って、試して、実用化するまでの全行程をサポートすることができる。例えば、AI教育紹介→データ前処理(アノテーション)対応→データ登録→AIモデル選定(職種や機能から選択)→学習結果から最適なAIモデルの選択→学習済AIモデル(推論用AIモデル)のダウンロード(ユーザ側の実装環境への適用を含む)といったステップを、本プラットフォームで一元的に管理し、運用することができる。なお、本プラットフォームは、ユーザ側の実装環境を構築するベンターを紹介したりする機能も備えるように構成し、実際の現場・事業での活用を含む全体的なサポートを提供することができる。 (D) The platform can support the entire process of creating an AI model, testing it, and putting it into practical use. For example, AI education introduction → data preprocessing (annotation) support → data registration → AI model selection (choose from job type and function) → selection of optimal AI model from learning results → download of trained AI model (AI model for inference) (including application to the implementation environment on the user side) can be centrally managed and operated on this platform. In addition, this platform can also be configured to have functions such as introducing vendors who build implementation environments on the user side, and can provide overall support including utilization in actual sites and businesses.
(E)特に、上記(D)においては、従来、AIを導入する際には、AIを理解し、データを準備し、AI活用構想の立ち上げからその利用シーンに応じたシステム開発を行う開発会社選定するなど、AI導入までに、時間を含む多大なコストを支払っていたが、本プラットフォームを利用することにより、時間やコストを掛ける必要がなく、AI導入に対するユーザの利便性が向上させることができる。 (E) In particular, in (D) above, conventionally, when introducing AI, we understand AI, prepare data, and develop systems according to the usage scene from the launch of the AI utilization concept. We used to pay a large amount of cost including time until AI introduction, such as selecting a company, but by using this platform, there is no need to spend time and money, and user convenience for AI introduction will be improved. can be done.
以上、本発明の実施形態について説明したが、管理装置100を構成する各制御装置及び各記憶装置は、1つ又は複数のコンピュータ装置で実現することができ、また、複数のコンピュータ装置に各処理部を任意に分散させて構築することもできる、 The embodiments of the present invention have been described above. It can also be constructed by distributing the parts arbitrarily,
また、ユーザ端末300,ベンダー端末500、サポート事業者端末600は、デスクトップ型コンピュータやタブレット型コンピュータであり、IP(Internet protocol)網又は移動通信回線網(Mobile communication network)を通じたデータ通信機能及び演算機能(CPU等)を備えている。また、ディスプレイ装置(又はタッチパネル方式の表示装置)及びキーボード等の入力手段、HDDやSSD(ソリッドステートドライブ)などの補助記憶装置を備えることができる。管理装置100と各端末300,500,600との間の接続態様は、無線通信及び有線通信のいずれかであればよいが、学習用データや推論用データ、AIモデルのプログラムモジュールなどを管理装置100との間でアップロード及びダウンロードするので、安定した通信環境が構築されていることが望ましい。
Also, the
また、管理装置100の各機能は、プログラムによって実現可能であり、各機能を実現するために予め用意されたコンピュータプログラムが補助記憶装置に格納され、CPU等の制御部が補助記憶装置に格納されたプログラムを主記憶装置に読み出し、主記憶装置に読み出された該プログラムを制御部が実行することで、各部の機能を動作させることができる。
Each function of the
また、上記プログラムは、コンピュータ読取可能な記録媒体に記録された状態で、コンピュータに提供することも可能である。コンピュータ読取可能な記録媒体としては、CD-ROM等の光ディスク、DVD-ROM等の相変化型光ディスク、MO(Magnet Optical)やMD(Mini Disk)などの光磁気ディスク、フロッピー(登録商標)ディスクやリムーバブルハードディスクなどの磁気ディスク、コンパクトフラッシュ(登録商標)、スマートメディア、SDメモリカード、メモリスティック等のメモリカードが挙げられる。また、本発明の目的のために特別に設計されて構成された集積回路(ICチップ等)等のハードウェア装置も記録媒体として含まれる。 The program can also be provided to the computer in a state recorded on a computer-readable recording medium. Examples of computer-readable recording media include optical discs such as CD-ROMs, phase-change optical discs such as DVD-ROMs, magneto-optical discs such as MO (Magnet Optical) and MD (Mini Disk), floppy (registered trademark) discs, and the like. Examples include magnetic disks such as removable hard disks, compact flash (registered trademark), smart media, SD memory cards, memory cards such as memory sticks. Further, a hardware device such as an integrated circuit (IC chip, etc.) specially designed and configured for the purpose of the present invention is also included as a recording medium.
100 AIプラットフォーム装置(管理装置)
110 通信装置
120 制御装置
121 AI登録部
122 選択タグ生成部
123 プリセット情報管理部
124 学習処理部
125 推論処理部
126 連携インターフェース制御部
130 制御装置
131 ユーザ登録部
132 画面制御部
133 アップロード管理部
134 AI提案部
135 レコメンド制御部
136 AIモデル提供部
137 ユーザ別AI管理部
140 制御装置
141 外部サービス連携部
142 商取引仲介制御部
150 記憶装置
151 登録AIモデルDB
152 ハイパーパラメータプリセット情報
153 学習済みAIモデル
154 AI選択タグ情報
155 モデル連携情報
160 記憶装置
161 ユーザ情報
162 学習用データ
163 推論用データ
164 学習時精度情報
165 推論時精度情報
166 ユーザ別AI管理情報
170 記憶装置
171 画面情報
172 外部サービス連携情報
173 商取引仲介情報
300 ユーザ端末
500 ベンダー端末
600 サポート事業者端末
100 AI platform device (management device)
110
152 Hyperparameter
Claims (6)
業種、用途及び利用シーンを含み、AIベンダーが提供するAIモデルそれぞれに関連付けられるAI選択タグ情報を記憶する第1記憶部と、
AIベンダーから提供されるAIモデルの学習用プリセット情報であって、AIモデル毎に生成され、互いに異なる複数のハイパーパラメータを含むハイパーパラメータ群で構成されたハイパーパラメータプリセット情報を記憶する第2記憶部と、
AI利用ユーザがユーザ端末を通じて業種、用途及び利用シーンを選択可能に制御し、選択された業種、用途及び利用シーンを用いて前記AI選択タグ情報を検索し、該当するAIモデルを学習対象AIモデルとして複数抽出するAIモデル提案部と、
AI利用ユーザが指定した学習用データを用い、前記学習対象AIモデルの学習処理を実行して学習済みAIモデルを生成する学習処理部と、
AI利用ユーザが指定した推論用データを用い、学習済みAIモデルの推論処理を実行して推論結果を生成する推論処理部と、を有し、
前記学習処理部は、
前記学習対象AIモデルに紐付く前記ハイパーパラメータ群の各ハイパーパラメータを学習パラメータとして設定し、前記ハイパーパラメータの数だけ学習処理を実行して、ハイパーパラメータ別学習済みAIモデルを複数生成する第1学習処理を行うとともに、前記第1学習処理を、複数抽出された前記学習対象AIモデル全てに対して実行し、
前記AIモデル提案部は、複数の前記学習対象AIモデル毎に、前記第1学習処理に伴って生成される学習時精度に基づいて複数生成されたハイパーパラメータ別学習済みAIモデルの中から学習済みAIモデルを抽出し、抽出された学習済みAIモデルそれぞれの学習時精度を、複数の前記学習対象AIモデルそれぞれの学習結果としてAI利用ユーザに提供することを特徴とするAIプラットフォームシステム。 An AI platform system that provides a platform for AI users to create and test AI models that meet their needs,
a first storage unit for storing AI selection tag information associated with each AI model provided by an AI vendor, including business type, application, and usage scene;
A second storage unit that stores hyperparameter preset information, which is AI model learning preset information provided by an AI vendor and is generated for each AI model and configured by a hyperparameter group including a plurality of mutually different hyperparameters. When,
The AI user controls the industry, application and usage scene to be selectable through the user terminal, searches the AI selection tag information using the selected industry, application and usage scene, and selects the corresponding AI model as the learning target AI model. an AI model proposal unit that extracts a plurality of as
a learning processing unit that generates a trained AI model by executing learning processing of the learning target AI model using learning data specified by an AI user;
an inference processing unit that uses inference data specified by an AI user to execute inference processing of a trained AI model to generate an inference result;
The learning processing unit
First learning for generating a plurality of trained AI models for each hyperparameter by setting each hyperparameter of the hyperparameter group linked to the learning target AI model as a learning parameter, and performing learning processing for the number of the hyperparameters. while performing processing, executing the first learning processing for all of the plurality of extracted learning target AI models,
The AI model proposing unit, for each of the plurality of learning target AI models, has learned from a plurality of hyperparameter-specific trained AI models generated based on the learning accuracy generated along with the first learning process. An AI platform system characterized by extracting an AI model and providing an AI user with an accuracy at the time of learning of each of the extracted trained AI models as a learning result of each of the plurality of learning target AI models.
前記学習処理部は、前記アップロード画面を通じて指定された学習用データを用い、前記選択画面を通じて抽出された複数の前記学習対象AIモデルに対する学習処理を実行することを特徴とする請求項1に記載のAIプラットフォームシステム。 The AI model proposing unit causes the user terminal to display a selection screen including selection areas for industry, application, and usage scene based on the AI selection tag information, and displays the selection screen for the industry, application, and usage scene through the selection screen. providing the user terminal with an upload screen for accepting learning data to be applied to the plurality of learning target AI models extracted based on each selection information of from the AI user,
2. The learning processing unit according to claim 1, wherein the learning data specified through the upload screen is used to perform learning processing on the plurality of learning target AI models extracted through the selection screen. AI platform system.
前記AIモデル提案部は、前記機能分類情報に基づく機能選択画面を前記ユーザ端末に提供するとともに、前記機能選択画面で選択された機能分類に紐付くAIモデルを前記学習対象AIモデルとして抽出することを特徴とする請求項1から3のいずれか1つに記載のAIプラットフォームシステム。 Functional classification information based on AI algorithm characteristics is associated with each AI model provided by the AI vendor,
The AI model proposing unit provides the user terminal with a function selection screen based on the function classification information, and extracts an AI model linked to the function classification selected on the function selection screen as the learning target AI model. The AI platform system according to any one of claims 1 to 3, characterized by:
前記外部サービス連携部は、AI利用ユーザから受け付けた学習用データをサポート事業者に提供するとともに、アノテーションが実施されたアノテーション済み学習用データをサポート事業者から受け付けて、ユーザ別に割り当てられる学習用データ格納領域に保存することを特徴とする請求項1から4のいずれか1つに記載のAIプラットフォームシステム。 Further comprising an external service cooperation unit that accepts annotation requests for learning data from AI users and provides the annotation requests to support providers that implement annotations,
The external service cooperation unit provides the learning data received from the AI user to the support business operator, and receives the annotated learning data from the support business operator and assigns learning data to each user. 5. The AI platform system according to any one of claims 1 to 4, wherein the AI platform system is stored in a storage area.
業種、用途及び利用シーンを含み、AIベンダーが提供するAIモデルそれぞれに関連付けられるAI選択タグ情報を記憶する第1機能と、
AIベンダーから提供されるAIモデルの学習用プリセット情報であって、AIモデル毎に生成され、互いに異なる複数のハイパーパラメータを含むハイパーパラメータ群で構成されたハイパーパラメータプリセット情報を記憶する第2機能と、
AI利用ユーザがユーザ端末を通じて業種、用途及び利用シーンを選択可能に制御し、選択された業種、用途及び利用シーンを用いて前記AI選択タグ情報を検索し、該当するAIモデルを学習対象AIモデルとして複数抽出する第3機能と、
AI利用ユーザが指定した学習用データを用い、前記学習対象AIモデルの学習処理を実行して学習済みAIモデルを生成する第4機能と、
AI利用ユーザが指定した推論用データを用い、学習済みAIモデルの推論処理を実行して推論結果を生成する第5機能と、を実現させ、
前記第4機能は、
前記学習対象AIモデルに紐付く前記ハイパーパラメータ群の各ハイパーパラメータを学習パラメータとして設定し、前記ハイパーパラメータの数だけ学習処理を実行して、ハイパーパラメータ別学習済みAIモデルを複数生成する第1学習処理を行うとともに、前記第1学習処理を、複数抽出された前記学習対象AIモデル全てに対して実行し、
前記第3機能は、複数の前記学習対象AIモデル毎に、前記第1学習処理に伴って生成される学習時精度に基づいて複数生成されたハイパーパラメータ別学習済みAIモデルの中から学習済みAIモデルを抽出し、抽出された学習済みAIモデルそれぞれの学習時精度を、複数の前記学習対象AIモデルそれぞれの学習結果としてAI利用ユーザに提供することを特徴とするプログラム。
A program executed by a computer device that provides a platform for AI users to create and try out AI models that meet their needs, wherein the computer device comprises:
a first function of storing AI selection tag information associated with each AI model provided by an AI vendor, including the type of business, application, and usage scene;
a second function of storing hyperparameter preset information, which is AI model learning preset information provided by an AI vendor and which is generated for each AI model and configured by a hyperparameter group including a plurality of mutually different hyperparameters; ,
The AI user controls the industry, application and usage scene to be selectable through the user terminal, searches the AI selection tag information using the selected industry, application and usage scene, and selects the corresponding AI model as the learning target AI model. A third function that extracts a plurality of as
a fourth function for generating a trained AI model by executing a learning process for the learning target AI model using learning data specified by an AI user;
a fifth function of generating an inference result by executing an inference process of the trained AI model using the inference data specified by the AI user;
The fourth function is
First learning for generating a plurality of trained AI models for each hyperparameter by setting each hyperparameter of the hyperparameter group linked to the learning target AI model as a learning parameter, and performing learning processing for the number of the hyperparameters. while performing processing, executing the first learning processing for all of the plurality of extracted learning target AI models,
The third function is a learned AI from among a plurality of hyperparameter-specific trained AI models generated based on learning accuracy generated along with the first learning process, for each of the plurality of learning target AI models. A program for extracting a model and providing an AI user with an accuracy at the time of learning of each of the extracted trained AI models as a learning result of each of the plurality of learning target AI models.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021099973A JP2022191637A (en) | 2021-06-16 | 2021-06-16 | AI platform system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021099973A JP2022191637A (en) | 2021-06-16 | 2021-06-16 | AI platform system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022191637A true JP2022191637A (en) | 2022-12-28 |
Family
ID=84624340
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021099973A Pending JP2022191637A (en) | 2021-06-16 | 2021-06-16 | AI platform system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022191637A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7487392B1 (en) | 2023-10-06 | 2024-05-20 | セーフィー株式会社 | System, method, and program |
-
2021
- 2021-06-16 JP JP2021099973A patent/JP2022191637A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7487392B1 (en) | 2023-10-06 | 2024-05-20 | セーフィー株式会社 | System, method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Patel et al. | Leveraging predictive modeling, machine learning personalization, NLP customer support, and AI chatbots to increase customer loyalty | |
CN110309119B (en) | System, method and apparatus for implementing data upload, processing and predictive query API disclosure | |
CN107622427B (en) | Deep learning method, device and system | |
CN109800885A (en) | Rule determination for black box machine learning model | |
Ngai et al. | Application of data mining techniques in customer relationship management: A literature review and classification | |
US20170220943A1 (en) | Systems and methods for automated data analysis and customer relationship management | |
US20040030741A1 (en) | Method and apparatus for search, visual navigation, analysis and retrieval of information from networks with remote notification and content delivery | |
US20210326312A1 (en) | Automatically improving data quality | |
KR20210112451A (en) | Method and apparatus for providing recommended item based on selection for item | |
CN115244547A (en) | Automatically and intelligently exploring design spaces | |
US20200320608A1 (en) | Analyzing user sentiment to dynamically modify communication sessions | |
US20140195463A1 (en) | System and methods for generating and displaying optimized solutions to complex problems | |
US20200293898A1 (en) | System and method for generating and optimizing artificial intelligence models | |
Al-Otaibi et al. | Hybrid immunizing solution for job recommender system | |
Shi et al. | Maximizing User Experience with LLMOps-Driven Personalized Recommendation Systems | |
Latha et al. | Product recommendation using enhanced convolutional neural network for e-commerce platform | |
JP2022191637A (en) | AI platform system | |
Brambilla et al. | An explorative approach for crowdsourcing tasks design | |
Salman et al. | Product recommendation system using deep learning techniques: CNN and NLP | |
Ehsani et al. | Customer purchase prediction in electronic markets from clickstream data using the Oracle meta-classifier | |
US11941076B1 (en) | Intelligent product sequencing for category trees | |
US20220027977A1 (en) | Self-improving, automated, intelligent product finder and guide | |
Verma et al. | A Smart Movie Recommendation System Using Machine Learning Predictive Analysis | |
US20240330381A1 (en) | User-Specific Content Generation Using Text-To-Image Machine-Learned Models | |
Afif | Exploring the quality of the higher educational institution website using data mining techniques |