JP2021163424A - Ai system development simulator and hyper parameter optimization method - Google Patents

Ai system development simulator and hyper parameter optimization method Download PDF

Info

Publication number
JP2021163424A
JP2021163424A JP2020067801A JP2020067801A JP2021163424A JP 2021163424 A JP2021163424 A JP 2021163424A JP 2020067801 A JP2020067801 A JP 2020067801A JP 2020067801 A JP2020067801 A JP 2020067801A JP 2021163424 A JP2021163424 A JP 2021163424A
Authority
JP
Japan
Prior art keywords
machine learning
content
learning algorithm
information input
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020067801A
Other languages
Japanese (ja)
Inventor
孝利 石井
Takatoshi Ishii
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JCC KK
Original Assignee
JCC KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JCC KK filed Critical JCC KK
Priority to JP2020067801A priority Critical patent/JP2021163424A/en
Publication of JP2021163424A publication Critical patent/JP2021163424A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

To provide an AI system development simulator configured to select a machine learning algorithm and optimize a hyper parameter thereof in a short time.SOLUTION: An AI system development simulator includes: a hyper parameter storage unit which stores optimized hyper parameters obtained in the past by repeating trial of machine learning; a machine learning algorithm selection unit which selects one of a plurality of machine learning algorithms on the basis of recognition object information and recognition content information; a hyper parameter extraction unit which extracts an optimized hyper parameter obtained in the past from the hyper parameter storage unit; and a simulation unit which sets the extracted optimized hyper parameter obtained in the past to an initial value of a hyper parameter of the selected machine learning algorithm, and simulates execution of trial of machine learning using the machine learning algorithm to optimize the hyper parameter of the machine learning algorithm.SELECTED DRAWING: Figure 1

Description

本発明は、AIシステムの開発を効率化するためのAIシミュレータ及びハイパーパラメータ最適化方法に関する。 The present invention relates to an AI simulator and a hyperparameter optimization method for streamlining the development of an AI system.

画像や音声など認識するAIシステムを開発するためには、認識対象(入力する情報の属性)や認識内容(識別したいクラス)に応じて適切な機械学習アルゴリズム(モデルを生成するためのプログラム)を選択する必要がある。また、採用する機械学習アルゴリズムが決まったならば、その機械学習アルゴリズムにデータを投入して通常のパラメータの機械学習(例えば深層学習における重みやバイアスの学習)を実行するに際し、ハイパーパラメータ(例えば深層学習におけるレイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数、等)を適切に設定する必要がある。 In order to develop an AI system that recognizes images and sounds, an appropriate machine learning algorithm (program for generating a model) is required according to the recognition target (attribute of information to be input) and recognition content (class to be identified). Must be selected. In addition, once the machine learning algorithm to be adopted is decided, when data is input to the machine learning algorithm and normal parameter machine learning (for example, learning of weights and biases in deep learning) is executed, hyperparameters (for example, deep layer) are executed. It is necessary to appropriately set the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, the number of epochs, etc. in learning.

ハイパーパラメータの自動調整方法は、既に数多く提案されている(非特許文献1)。 Many methods for automatically adjusting hyperparameters have already been proposed (Non-Patent Document 1).

「ハイパーパラメータ自動調整いろいろ」,URL:https://qiita.com/cvusk/items/1f3b178f34c39beb29ff"Various automatic adjustment of hyperparameters", URL: https://qiita.com/cvusk/items/1f3b178f34c39beb29ff

しかし、非特許文献1などに挙げられている従来の自動調整方法は、最適化すべきハイパーパラメータの範囲の指定を技術者が手動で行う必要があるため、必要以上に大きい範囲が指定されがちになる。また、機械学習アルゴリズムの選択も含めたハイパーパラメータの設定においては、機械学習の試行を繰り返してハイパーパラメータの最適化を行わざるを得ない。ハイパーパラメータの最適化を効率良く行うことができるかは、それを行う技術者のスキルの高さに依存する。このため、画像や音声など認識するAIシステムの開発においては、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化のために長時間が割かれることが多く、開発期間を短縮する上で大きな障害となっている。 However, in the conventional automatic adjustment method listed in Non-Patent Document 1 and the like, since it is necessary for an engineer to manually specify the range of hyperparameters to be optimized, a range larger than necessary tends to be specified. Become. In addition, in setting hyperparameters including selection of machine learning algorithms, it is necessary to repeat machine learning trials to optimize hyperparameters. Efficient optimization of hyperparameters depends on the skill level of the technician who does it. For this reason, in the development of AI systems that recognize images and sounds, a long time is often spent for selecting machine learning algorithms and optimizing their hyperparameters, which is a major obstacle to shortening the development period. It has become.

本発明は、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができるAIシステム開発シミュレータ及びハイパーパラメータ最適化方法を提供する。 The present invention provides an AI system development simulator and a hyperparameter optimization method capable of selecting a machine learning algorithm and optimizing its hyperparameters in a short time.

上記課題を解決するために、請求項1のAIシステム開発シミュレータは、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を行うAIシステム開発シミュレータであって、認識対象に関する情報を入力するための認識対象情報入力部と、認識内容に関する情報を入力するための認識内容情報入力部と、複数の機械学習アルゴリズムを記憶した機械学習アルゴリズム記憶部と、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータを、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶したハイパーパラメータ記憶部と、前記認識対象情報入力部により入力された情報と、前記認識内容情報入力部により入力された情報と、に基づいて、前記機械学習アルゴリズム情報記憶に記憶されている複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する機械学習アルゴリズム選択部と、前記認識対象情報入力部により入力された情報と、前記認識内容情報入力部により入力された情報と、前記機械学習アルゴリズム選択部により選択された機械学習アルゴリズムと、に基づいて、前記ハイパーパラメータ記憶部から前記過去に得られた最適化されたハイパーパラメータを抽出するハイパーパラメータ抽出部と、前記ハイパーパラメータ抽出部により抽出された前記過去に得られた最適化されたハイパーパラメータを、前記機械学習アルゴリズム選択部により選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化するシミュレーション部と、を有することを特徴とする。 In order to solve the above problem, the AI system development simulator according to claim 1 is an AI system development simulator that selects a machine learning algorithm and optimizes its hyper parameters, and recognizes for inputting information about a recognition target. A target information input unit, a recognition content information input unit for inputting information related to recognition content, a machine learning algorithm storage unit that stores a plurality of machine learning algorithms, and a machine learning algorithm storage unit obtained in the past by repeating machine learning trials. The hyper-parameter storage unit that stores the optimized hyper-parameters in association with the recognition target, recognition content, and machine learning algorithm used for the machine learning, the information input by the recognition target information input unit, and the recognition. A machine learning algorithm selection unit that selects one machine learning algorithm from a plurality of machine learning algorithms stored in the machine learning algorithm information storage based on the information input by the content information input unit, and the above-mentioned machine learning algorithm selection unit. From the hyper parameter storage unit based on the information input by the recognition target information input unit, the information input by the recognition content information input unit, and the machine learning algorithm selected by the machine learning algorithm selection unit. The machine learning algorithm selection unit uses the hyper parameter extraction unit for extracting the optimized hyper parameters obtained in the past and the optimized hyper parameters obtained in the past extracted by the hyper parameter extraction unit. A simulation unit that optimizes the hyperparameters of the machine learning algorithm by setting the initial values of the hyperparameters of the machine learning algorithm selected by It is characterized by having.

上記のように構成された請求項1のAIシステム開発シミュレータにおいては、認識対象に関する情報が認識対象情報入力部に入力され、認識内容に関する情報が認識内容情報入力部に入力される。機械学習アルゴリズム記憶部には、複数の機械学習アルゴリズムが記憶され、ハイパーパラメータ記憶部には、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータが、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶される。機械学習アルゴリズム選択部は、認識対象情報入力部により入力された情報と、認識内容情報入力部により入力された情報と、に基づいて、機械学習アルゴリズム記憶部に記憶されている複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する。ハイパーパラメータ抽出部は、認識対象情報入力部により入力された情報と、認識内容情報入力部により入力された情報と、機械学習アルゴリズム選択部により選択された機械学習アルゴリズムと、に基づいて、ハイパーパラメータ記憶部から過去に得られた最適化されたハイパーパラメータを抽出する。シミュレーション部は、ハイパーパラメータ抽出部により抽出された過去に得られた最適化されたハイパーパラメータを、機械学習アルゴリズム選択部により選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化する。 In the AI system development simulator of claim 1 configured as described above, information on the recognition target is input to the recognition target information input unit, and information on the recognition content is input to the recognition content information input unit. Multiple machine learning algorithms are stored in the machine learning algorithm storage unit, and the hyperparameters stored in the hyperparameter storage unit use the optimized hyperparameters obtained in the past by repeating machine learning trials for the machine learning. It is stored in association with the recognized recognition target, recognition content, and machine learning algorithm. The machine learning algorithm selection unit is a plurality of machine learning algorithms stored in the machine learning algorithm storage unit based on the information input by the recognition target information input unit and the information input by the recognition content information input unit. Select one machine learning algorithm from the list. The hyperparameter extraction unit is based on the information input by the recognition target information input unit, the information input by the recognition content information input unit, and the machine learning algorithm selected by the machine learning algorithm selection unit. Extract the optimized hyperparameters obtained in the past from the storage unit. The simulation unit sets the optimized hyperparameters obtained in the past extracted by the hyperparameter extraction unit to the initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection unit, and sets the machine. The hyperparameters of the machine learning algorithm are optimized by simulating machine learning trials using the learning algorithm.

請求項1のAIシステム開発シミュレータによれば、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 1, it is possible to select a machine learning algorithm and optimize its hyperparameters in a short time.

請求項2のAIシステム開発シミュレータにおいては、前記ハイパーパラメータには、レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかが含まれる。 In the AI system development simulator of claim 2, the hyperparameter includes any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs.

請求項2のAIシステム開発シミュレータによれば、機械学習アルゴリズムの選択及びそのハイパーパラメータに含まれるレイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 2, the selection of the machine learning algorithm and the optimization of any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs included in the hyperparameters thereof are optimized. It can be done in a short time.

請求項3のAIシステム開発シミュレータにおいては、前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータであり、前記認識内容は、前記コンテンツ画面内の画像要素である。 In the AI system development simulator of claim 3, the recognition target is the data of the content screen constituting the content video included in the broadcast content or the distribution content, and the recognition content is an image element in the content screen. ..

請求項3のAIシステム開発シミュレータによれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の画像要素を認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 3, selection of a machine learning algorithm that recognizes image elements in the content screen by targeting the data of the content screen constituting the content video included in the broadcast content or the distributed content, and the selection thereof. Hyperparameters can be optimized in a short time.

請求項4のAIシステム開発シミュレータにおいては、前記画像要素は、文字、人物の顔、番組セット、背景のうちのいずれかである。 In the AI system development simulator of claim 4, the image element is any one of characters, a person's face, a program set, and a background.

請求項4のAIシステム開発シミュレータによれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の文字、人物の顔、番組セット、背景のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 4, the data of the content screen constituting the content video included in the broadcast content or the distributed content is the recognition target, and among the characters, the face of the person, the program set, and the background in the content screen. It is possible to select a machine learning algorithm that recognizes any of the above and optimize its hyperparameters in a short time.

請求項5のAIシステム開発シミュレータにおいては、前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声であり、前記認識内容には、人物の声、楽音、効果音及び環境音のうちのいずれかが含まれる。 In the AI system development simulator of claim 5, the recognition target is the content sound included in the broadcast content or the distribution content, and the recognition content includes any of a person's voice, a musical sound, a sound effect, and an environmental sound. Is included.

請求項5のAIシステム開発シミュレータによれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声を認識対象とし、人物の声、楽音、効果音及び環境音のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 5, a machine learning algorithm that recognizes the content sound included in the broadcast content or the distributed content and recognizes any of a person's voice, a musical sound, a sound effect sound, and an environmental sound. Selection and optimization of its hyperparameters can be performed in a short time.

請求項6のハイパーパラメータ最適化方法は、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を行う方法であって、認識対象に関する情報を入力するための認識対象入力ステップと、認識内容に関する情報を入力するための認識内容情報入力ステップと、複数の機械学習アルゴリズムを記憶する機械学習アルゴリズム記憶ステップと、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータを、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶するハイパーパラメータ記憶ステップと、前記認識対象情報入力ステップにより入力された情報と、前記認識内容情報入力ステップにより入力された情報と、に基づいて、前記機械学習アルゴリズム記憶ステップにより記憶した複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する機械学習アルゴリズム選択ステップと、前記認識対象情報入力ステップにより入力された情報と、前記認識内容情報入力ステップにより入力された情報と、前記機械学習アルゴリズム選択ステップにより選択された機械学習アルゴリズムと、に基づいて、前記ハイパーパラメータ記憶ステップにより記憶した前記過去に得られた最適化されたハイパーパラメータを抽出するハイパーパラメータ抽出ステップと、前記ハイパーパラメータ抽出ステップにより抽出された前記過去に得られた最適化されたハイパーパラメータを、前記機械学習アルゴリズム選択ステップにより選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化するシミュレーションステップと、を有することを特徴とする。 The hyper-parameter optimization method of claim 6 is a method of selecting a machine learning algorithm and optimizing the hyper-parameters, and inputs a recognition target input step for inputting information on a recognition target and information on the recognition content. The machine learning of the recognition content information input step for input, the machine learning algorithm storage step for storing a plurality of machine learning algorithms, and the optimized hyperparameters obtained in the past by repeating the machine learning trial. The hyperparameter storage step that is stored in association with the recognition target, recognition content, and machine learning algorithm used in the above, the information input by the recognition target information input step, and the information input by the recognition content information input step. Based on the above, a machine learning algorithm selection step for selecting one machine learning algorithm from a plurality of machine learning algorithms stored by the machine learning algorithm storage step, information input by the recognition target information input step, and the above. Based on the information input by the recognition content information input step and the machine learning algorithm selected by the machine learning algorithm selection step, the optimized hyper obtained in the past stored by the hyper parameter storage step. The hyperparameter extraction step for extracting parameters and the optimized hyperparameters obtained in the past extracted by the hyperparameter extraction step are used as the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection step. It is characterized by having a simulation step of optimizing the hyperparameters of the machine learning algorithm by setting an initial value and simulating a machine learning trial by the machine learning algorithm.

請求項6のハイパーパラメータ最適化方法においては、認識対象入力ステップにより、認識対象に関する情報が入力され、認識内容情報入力ステップにより、認識内容に関する情報が入力される。機械学習アルゴリズム記憶ステップにより、複数の機械学習アルゴリズムが記憶され、ハイパーパラメータ記憶ステップにより、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータが、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶される。機械学習アルゴリズム選択ステップでは、認識対象情報入力ステップにより入力された情報と、認識内容情報入力ステップにより入力された情報と、に基づいて、機械学習アルゴリズム記憶ステップにより記憶した複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムが選択される。ハイパーパラメータ抽出ステップでは、認識対象情報入力ステップにより入力された情報と、認識内容情報入力ステップにより入力された情報と、機械学習アルゴリズム選択ステップにより選択された機械学習アルゴリズムと、に基づいて、ハイパーパラメータ記憶ステップにより記憶した過去に得られた最適化されたハイパーパラメータが抽出される。そして、シミュレーションステップにより、ハイパーパラメータ抽出ステップにより抽出された前記過去に得られた最適化されたハイパーパラメータを、機械学習アルゴリズム選択ステップにより選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化する処理が実行される。 In the hyperparameter optimization method of claim 6, information on the recognition target is input by the recognition target input step, and information on the recognition content is input by the recognition content information input step. The machine learning algorithm storage step stores multiple machine learning algorithms, and the hyperparameter storage step uses the optimized hyperparameters obtained in the past by repeating machine learning trials for the machine learning. It is stored in association with the recognition target, recognition content, and machine learning algorithm. In the machine learning algorithm selection step, among a plurality of machine learning algorithms stored in the machine learning algorithm storage step based on the information input in the recognition target information input step and the information input in the recognition content information input step. One machine learning algorithm is selected from. In the hyperparameter extraction step, hyperparameters are based on the information input by the recognition target information input step, the information input by the recognition content information input step, and the machine learning algorithm selected by the machine learning algorithm selection step. The optimized hyperparameters obtained in the past stored by the storage step are extracted. Then, in the simulation step, the optimized hyperparameters obtained in the past extracted by the hyperparameter extraction step are set as the initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection step. , The process of optimizing the hyperparameters of the machine learning algorithm is executed by simulating the trial of machine learning by the machine learning algorithm.

請求項6のハイパーパラメータ最適化方法によれば、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the hyperparameter optimization method of claim 6, the machine learning algorithm can be selected and the hyperparameters can be optimized in a short time.

請求項7のハイパーパラメータ最適化方法においては、前記ハイパーパラメータには、レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかが含まれる。 In the hyperparameter optimization method of claim 7, the hyperparameter includes any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs.

請求項7のハイパーパラメータ最適化方法によれば、機械学習アルゴリズムの選択及びそのハイパーパラメータに含まれるレイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかの最適化を短時間で行うことができる。 According to the hyperparameter optimization method of claim 7, selection of a machine learning algorithm and optimization of any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs included in the hyperparameters. Can be done in a short time.

請求項8のハイパーパラメータ最適化方法においては、前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータであり、前記認識内容は、前記コンテンツ画面内の画像要素である。 In the hyperparameter optimization method of claim 8, the recognition target is the data of the content screen constituting the broadcast content or the content video included in the distribution content, and the recognition content is an image element in the content screen. be.

請求項8のハイパーパラメータ最適化方法によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の画像要素を認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the hyperparameter optimization method of claim 8, selection of a machine learning algorithm that recognizes image elements in the content screen by targeting data on the content screen constituting the content video included in the broadcast content or the distributed content and selection of a machine learning algorithm. The hyperparameters can be optimized in a short time.

請求項9のハイパーパラメータ最適化方法においては、前記画像要素は、文字、人物の顔、番組セット、背景のうちのいずれかである。 In the hyperparameter optimization method of claim 9, the image element is any one of characters, a person's face, a program set, and a background.

請求項9のハイパーパラメータ最適化方法によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の文字、人物の顔、番組セット、背景のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the hyperparameter optimization method of claim 9, the data of the content screen constituting the content video included in the broadcast content or the distributed content is recognized, and the characters, the face of a person, the program set, and the background in the content screen are recognized. It is possible to select a machine learning algorithm that recognizes one of them and optimize its hyperparameters in a short time.

請求項10のハイパーパラメータ最適化方法においては、前記認識対象は、放送コンテンツに含まれるコンテンツ音声であり、前記認識内容には、人物の声、楽音、効果音及び環境音のうちのいずれかが含まれる。 In the hyperparameter optimization method of claim 10, the recognition target is the content voice included in the broadcast content, and the recognition content includes any one of a person's voice, a musical sound, a sound effect, and an environmental sound. included.

請求項10のハイパーパラメータ最適化方法によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声を認識対象とし、人物の声、楽音、効果音及び環境音のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the hyperparameter optimization method of claim 10, a machine learning algorithm that recognizes a person's voice, a musical sound, a sound effect, or an environmental sound by targeting the content sound included in the broadcast content or the distributed content. And its hyperparameters can be optimized in a short time.

請求項1のAIシステム開発シミュレータ及び請求項6のハイパーパラメータ最適化方法によれば、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。
その結果、より最適な結果を短時間で得られることとなり、AIシステム開発の速度を加速することが可能となる。また、得られたデータ等を開発者間で共有化することにより、よりハイパーパラメータの最適化の速度を上げることができる。従って、AI開発に伴うコストを低減することが可能となる。
According to the AI system development simulator of claim 1 and the hyperparameter optimization method of claim 6, it is possible to select a machine learning algorithm and optimize the hyperparameters in a short time.
As a result, more optimal results can be obtained in a short time, and the speed of AI system development can be accelerated. In addition, by sharing the obtained data and the like among developers, the speed of hyperparameter optimization can be further increased. Therefore, it is possible to reduce the cost associated with AI development.

請求項2のAIシステム開発シミュレータ及び請求項7のハイパーパラメータ最適化方法によれば、機械学習アルゴリズムの選択及びそのハイパーパラメータに含まれるレイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 2 and the hyperparameter optimization method of claim 7, the selection of the machine learning algorithm and the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the epoch included in the hyperparameters. Optimization of any of the numbers can be done in a short time.

請求項3のAIシステム開発シミュレータ及び請求項8のハイパーパラメータ最適化方法によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の画像要素を認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 3 and the hyperparameter optimization method of claim 8, the data of the content screen constituting the broadcast content or the content video included in the distributed content is recognized, and the image element in the content screen is recognized. It is possible to select a machine learning algorithm that recognizes the above and optimize its hyperparameters in a short time.

請求項4のAIシステム開発シミュレータ及び請求項9のハイパーパラメータ最適化方法によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の文字、人物の顔、番組セット、背景のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 4 and the hyperparameter optimization method of claim 9, the data of the content screen constituting the broadcast content or the content video included in the distributed content is recognized, and the characters in the content screen are recognized. It is possible to select a machine learning algorithm that recognizes a person's face, a program set, or a background and optimize its hyperparameters in a short time.

請求項5のAIシステム開発シミュレータ及び請求項10のハイパーパラメータ最適化方法によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声を認識対象とし、人物の声、楽音、効果音及び環境音のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 According to the AI system development simulator of claim 5 and the hyperparameter optimization method of claim 10, the content sound included in the broadcast content or the distributed content is the recognition target, and among the human voice, music sound, sound effect sound and environmental sound. It is possible to select a machine learning algorithm that recognizes any of the above and optimize its hyperparameters in a short time.

本発明のAIシステム開発シミュレータの一実施形態を示す機能ブロック図である。It is a functional block diagram which shows one Embodiment of the AI system development simulator of this invention. 図1に示すAIシステム開発シミュレータの動作内容を例示するフローチャートである。It is a flowchart which illustrates the operation content of the AI system development simulator shown in FIG.

以下、添付図面を参照して、一実施形態のAIシステム開発シミュレータについて説明する。このAIシステム開発シミュレータは、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を行うAIシステム開発シミュレータである。開発対象となるAIシステムの例として、映像と音声とからなる放送コンテンツ又は配信コンテンツのメタデータを自動生成するシステムを挙げることができる。放送コンテンツの代表例としてテレビ番組を挙げることができる。配信コンテンツには、インターネットに代表される情報通信網を介して配信される所謂動画コンテンツが含まれる。メタデータには、放送された多くの番組の中から、特定の人物が登場する番組、特定の内容の番組、等を検索するためのキーワードが含まれる。 Hereinafter, the AI system development simulator of one embodiment will be described with reference to the attached drawings. This AI system development simulator is an AI system development simulator that selects a machine learning algorithm and optimizes its hyperparameters. An example of an AI system to be developed is a system that automatically generates metadata of broadcast content or distribution content composed of video and audio. A television program can be mentioned as a typical example of broadcast content. The distributed content includes so-called video content distributed via an information communication network represented by the Internet. The metadata includes keywords for searching a program in which a specific person appears, a program having a specific content, and the like from many broadcasted programs.

[構成]
図1に示すように一実施形態のAIシステム開発シミュレータ100は、認識対象情報入力部110と、認識内容情報入力部120と、機械学習アルゴリズム記憶部130と、ハイパーパラメータ記憶部140と、機械学習アルゴリズム選択部150と、ハイパーパラメータ抽出部160と、シミュレーション部170と、を有する。このAIシステム開発シミュレータ100は、コンピュータに、本発明に係るAIシステム開発シミュレータを実現するためのプログラムをインストールし実行することにより実現される。当該プログラムには、本発明に係るハイパーパラメータ最適化方法を、コンピュータを用いて実行するためのプログラムが含まれる。
[composition]
As shown in FIG. 1, the AI system development simulator 100 of one embodiment includes a recognition target information input unit 110, a recognition content information input unit 120, a machine learning algorithm storage unit 130, a hyperparameter storage unit 140, and machine learning. It has an algorithm selection unit 150, a hyperparameter extraction unit 160, and a simulation unit 170. The AI system development simulator 100 is realized by installing and executing a program for realizing the AI system development simulator according to the present invention on a computer. The program includes a program for executing the hyperparameter optimization method according to the present invention using a computer.

認識対象情報入力部110は、認識対象に関する情報を入力するための機能ブロックである。認識対象に関する情報には、認識対象のデータ(入力データ)が画像データであるか音声データであるかといったデータ属性を示す情報の他、入力データのサイズ、チャンネル数、等が含まれる。認識対象の例として、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータ、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声のデータ、等を挙げることができる。 The recognition target information input unit 110 is a functional block for inputting information related to the recognition target. The information regarding the recognition target includes information indicating data attributes such as whether the data to be recognized (input data) is image data or audio data, as well as the size of the input data, the number of channels, and the like. Examples of the recognition target include data on the content screen constituting the content video included in the broadcast content or the distributed content, data of the content audio included in the broadcast content or the distributed content, and the like.

認識内容情報入力部120は、認識内容に関する情報を入力するための機能ブロックである。認識内容に関する情報には、クラス数が含まれる。認識内容の例として、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面内の画像要素を挙げることができる。当該画像要素の例として、文字、人物の顔、番組セット、背景、等を挙げることができる。例えば、認識内容が文字である場合、クラス数は認識(識別)すべき文字種の数となる。認識対象が放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声のデータである場合、認識内容の例として、人物の声、楽音、効果音、環境音、等を挙げることができる。例えば、認識内容が複数の特定の人物の声である場合、クラス数は認識(識別)すべき人物の数となる。 The recognition content information input unit 120 is a functional block for inputting information related to the recognition content. The information about the recognition content includes the number of classes. As an example of the recognized content, an image element in the content screen constituting the content video included in the broadcast content or the distributed content can be mentioned. Examples of the image element include characters, a person's face, a program set, a background, and the like. For example, when the recognition content is a character, the number of classes is the number of character types to be recognized (identified). When the recognition target is the data of the content voice included in the broadcast content or the distribution content, examples of the recognition content include a person's voice, a musical sound, a sound effect, an environmental sound, and the like. For example, when the recognition content is the voice of a plurality of specific persons, the number of classes is the number of persons to be recognized (identified).

機械学習アルゴリズム記憶部130は、複数の機械学習アルゴリズムを記憶した機能ブロックである。機械学習アルゴリズムは、モデルを生成するためのプログラムである。 The machine learning algorithm storage unit 130 is a functional block that stores a plurality of machine learning algorithms. A machine learning algorithm is a program for generating a model.

ハイパーパラメータ記憶部140は、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータを、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶した機能ブロックである。ハイパーパラメータ記憶部140に記憶されるハイパーパラメータには、レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかが含まれる。また、ハイパーパラメータ記憶部140には、画像認識や音声認識のために過去に使用された学習済みモデルに関する設定情報及びその際に使用したハードウエアに関する情報が蓄積されてもよい。学習済みモデルに関する設定情報には、当該学習済みモデルの生成に使用された機械学習アルゴリズムに関する情報が含まれる。ハードウエアに関する情報には、ハードウエアのスペック情報が含まれる。ハードウエアのスペック情報は、CPU(Central Processing Unit)のスペック情報、GPU(Graphics processing unit)のスペック情報、等である。 The hyperparameter storage unit 140 has a function of storing optimized hyperparameters obtained in the past by repeating machine learning trials in association with the recognition target, recognition content, and machine learning algorithm used for the machine learning. It is a block. The hyperparameter stored in the hyperparameter storage unit 140 includes any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs. Further, the hyperparameter storage unit 140 may store setting information regarding the learned model used in the past for image recognition and voice recognition, and information regarding the hardware used at that time. The configuration information about the trained model includes information about the machine learning algorithm used to generate the trained model. The hardware information includes hardware spec information. The hardware spec information includes CPU (Central Processing Unit) spec information, GPU (Graphics processing unit) spec information, and the like.

機械学習アルゴリズム選択部150は、認識対象情報入力部110により入力された情報と、認識内容情報入力部120により入力された情報と、に基づいて、機械学習アルゴリズム記憶130に記憶されている複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する機能ブロックである。 The machine learning algorithm selection unit 150 has a plurality of information stored in the machine learning algorithm storage 130 based on the information input by the recognition target information input unit 110 and the information input by the recognition content information input unit 120. It is a functional block that selects one machine learning algorithm from the machine learning algorithms.

ハイパーパラメータ抽出部160は、認識対象情報入力部110により入力された情報と、認識内容情報入力部120により入力された情報と、機械学習アルゴリズム選択部150により選択された機械学習アルゴリズムと、に基づいて、ハイパーパラメータ記憶部140から過去に得られた最適化されたハイパーパラメータを抽出する機能ブロックである。 The hyperparameter extraction unit 160 is based on the information input by the recognition target information input unit 110, the information input by the recognition content information input unit 120, and the machine learning algorithm selected by the machine learning algorithm selection unit 150. It is a functional block that extracts the optimized hyperparameters obtained in the past from the hyperparameter storage unit 140.

シミュレーション部170は、ハイパーパラメータ抽出部160により抽出された過去に得られた最適化されたハイパーパラメータを、機械学習アルゴリズム選択部150により選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化する機能ブロックである。シミュレーション部170は、機械学習を模擬的に試行する機械学習アルゴリズムのハイパーパラメータを自動的に変更しつつ当該機械学習アルゴリズムによる機械学習の模擬的試行を繰り返す。 The simulation unit 170 sets the optimized hyperparameters obtained in the past extracted by the hyperparameter extraction unit 160 as the initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection unit 150. , It is a functional block that optimizes the hyperparameters of the machine learning algorithm by simulating a machine learning trial by the machine learning algorithm. The simulation unit 170 repeats the simulated trial of machine learning by the machine learning algorithm while automatically changing the hyperparameters of the machine learning algorithm that tries the machine learning in a simulated manner.

シミュレーション部170には、機械学習に使用するハードウエアのスペック情報を、条件として入力可能である。シミュレーション部170は、一回のシミュレーション処理が終了する度に、設定した条件(ハイパーパラメータ、ハードウエアのスペック情報)と結果(認識精度、所要時間、消費したエネルギ、等)とを保存し、複数回実行したシミュレーションの条件及び結果に基づいて条件の最適化を行う。条件には、クラス数、学習データサイズ、ステップ数、バッチサイズ、イテレーション数、等が含まれてもよい。また、結果には、エラーにより学習不能であったことを示す情報が含まれてもよい。 Spec information of the hardware used for machine learning can be input to the simulation unit 170 as a condition. The simulation unit 170 saves the set conditions (hyperparameters, hardware spec information) and results (recognition accuracy, required time, consumed energy, etc.) each time one simulation process is completed, and a plurality of them. The conditions are optimized based on the conditions and results of the simulations executed once. The conditions may include the number of classes, the size of training data, the number of steps, the batch size, the number of iterations, and the like. In addition, the result may include information indicating that learning was not possible due to an error.

[動作]
図2に示すようにAIシステム開発シミュレータ100は、認識対象情報入力ステップS1と、認識内容情報入力ステップS2と、機械学習アルゴリズム記憶ステップS3と、ハイパーパラメータ記憶ステップS4と、機械学習アルゴリズム選択ステップS5と、ハイパーパラメータ抽出ステップS6と、シミュレーションステップS7と、実行する。
[motion]
As shown in FIG. 2, the AI system development simulator 100 includes a recognition target information input step S1, a recognition content information input step S2, a machine learning algorithm storage step S3, a hyperparameter storage step S4, and a machine learning algorithm selection step S5. And the hyperparameter extraction step S6 and the simulation step S7 are executed.

認識対象情報入力ステップS1は、認識対象に関する情報を入力するためのステップである。 The recognition target information input step S1 is a step for inputting information regarding the recognition target.

認識内容情報入力ステップS2は、認識内容に関する情報を入力するためのステップである。 The recognition content information input step S2 is a step for inputting information regarding the recognition content.

機械学習アルゴリズム記憶ステップS3は、複数の機械学習アルゴリズムを記憶するステップである。 The machine learning algorithm storage step S3 is a step of storing a plurality of machine learning algorithms.

ハイパーパラメータ記憶ステップS4は、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータ(レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数、等)を、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶するステップである。 In the hyperparameter storage step S4, the optimized hyperparameters (number of layers, number of nodes, batch size, learning rate, number of iterations, number of epochs, etc.) obtained in the past by repeating machine learning trials are stored. It is a step to memorize the recognition target, recognition content and machine learning algorithm used for machine learning in association with each other.

機械学習アルゴリズム選択ステップS5は、認識対象情報入力ステップS1により入力された情報と、認識内容情報入力ステップS2により入力された情報と、に基づいて、機械学習アルゴリズム記憶ステップS3により記憶した複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択するステップである。 The machine learning algorithm selection step S5 is a plurality of machines stored in the machine learning algorithm storage step S3 based on the information input in the recognition target information input step S1 and the information input in the recognition content information input step S2. This is the step of selecting one machine learning algorithm from the learning algorithms.

ハイパーパラメータ抽出ステップS6は、認識対象情報入力ステップS1により入力された情報と、認識内容情報入力ステップS2により入力された情報と、機械学習アルゴリズム選択ステップS5により選択された機械学習アルゴリズムと、に基づいて、ハイパーパラメータ記憶ステップにより記憶した過去に得られた最適化されたハイパーパラメータを抽出するステップである。 The hyperparameter extraction step S6 is based on the information input in the recognition target information input step S1, the information input in the recognition content information input step S2, and the machine learning algorithm selected in the machine learning algorithm selection step S5. This is a step of extracting the optimized hyperparameters obtained in the past stored by the hyperparameter storage step.

シミュレーションステップS7は、ハイパーパラメータ抽出ステップS6により抽出された過去に得られた最適化されたハイパーパラメータを、機械学習アルゴリズム選択ステップにより選択した機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化するステップである。 In the simulation step S7, the optimized hyperparameters obtained in the past extracted by the hyperparameter extraction step S6 are set as the initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection step. This is a step of optimizing the hyperparameters of the machine learning algorithm by simulating a machine learning trial by the machine learning algorithm.

[作用効果]
上記のように、一実施形態のAIシステム開発シミュレータ100においては、認識対象に関する情報が認識対象情報入力部110に入力され、認識内容に関する情報が認識内容情報入力部120に入力される。機械学習アルゴリズム記憶部130には、複数の機械学習アルゴリズムが記憶され、ハイパーパラメータ記憶部140には、機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータ(レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数、等)が、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶される。機械学習アルゴリズム選択部150は、認識対象情報入力部110により入力された情報と、認識内容情報入力部120により入力された情報と、に基づいて、機械学習アルゴリズム記憶部130に記憶されている複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する。ハイパーパラメータ抽出部160は、認識対象情報入力部110により入力された情報と、認識内容情報入力部120により入力された情報と、機械学習アルゴリズム選択部150により選択された機械学習アルゴリズムと、に基づいて、ハイパーパラメータ記憶部から過去に得られた最適化されたハイパーパラメータを抽出する。そして、シミュレーション部170が、ハイパーパラメータ抽出部160により抽出された過去に得られた最適化されたハイパーパラメータを、機械学習アルゴリズム選択部150により選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化する。
[Action effect]
As described above, in the AI system development simulator 100 of one embodiment, the information regarding the recognition target is input to the recognition target information input unit 110, and the information regarding the recognition content is input to the recognition content information input unit 120. A plurality of machine learning algorithms are stored in the machine learning algorithm storage unit 130, and the hyperparameter storage unit 140 stores optimized hyperparameters (number of layers, nodes) obtained in the past by repeating machine learning trials. Number, batch size, learning rate, number of iterations, number of epochs, etc.) are stored in association with the recognition target, recognition content, and machine learning algorithm used for the machine learning. The machine learning algorithm selection unit 150 is stored in the machine learning algorithm storage unit 130 based on the information input by the recognition target information input unit 110 and the information input by the recognition content information input unit 120. Select one machine learning algorithm from the machine learning algorithms of. The hyperparameter extraction unit 160 is based on the information input by the recognition target information input unit 110, the information input by the recognition content information input unit 120, and the machine learning algorithm selected by the machine learning algorithm selection unit 150. Then, the optimized hyperparameters obtained in the past are extracted from the hyperparameter storage unit. Then, the simulation unit 170 sets the optimized hyperparameters obtained in the past extracted by the hyperparameter extraction unit 160 as the initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection unit 150. Then, the hyperparameters of the machine learning algorithm are optimized by simulating the trial of machine learning by the machine learning algorithm.

このように、一実施形態のAIシステム開発シミュレータによれば、従来、技術者のスキルの高さに依存していた機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を、完全自動化し短時間で行うことができる。 In this way, according to the AI system development simulator of one embodiment, the selection of machine learning algorithms and the optimization of their hyperparameters, which conventionally depended on the skill level of engineers, are fully automated and in a short time. It can be carried out.

また、一実施形態のAIシステム開発シミュレータ100によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータを認識対象とし、コンテンツ画面内の画像要素(文字、人物の顔、番組セット、背景、等)を認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 Further, according to the AI system development simulator 100 of one embodiment, the data of the content screen constituting the broadcast content or the content video included in the distributed content is targeted for recognition, and the image elements (characters, person's face, etc.) in the content screen are recognized. It is possible to select a machine learning algorithm that recognizes a program set, background, etc. and optimize its hyperparameters in a short time.

また、一実施形態のAIシステム開発シミュレータ100によれば、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声を認識対象とし、人物の声、楽音、効果音及び環境音のうちのいずれかを認識する機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができる。 Further, according to the AI system development simulator 100 of one embodiment, a machine that recognizes a person's voice, a musical sound, a sound effect, or an environmental sound by targeting the content sound included in the broadcast content or the distributed content. It is possible to select a learning algorithm and optimize its hyperparameters in a short time.

このように、機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を短時間で行うことができることにより、映像と音声とからなる放送コンテンツ又は配信コンテンツのメタデータを自動生成するシステムの開発期間を従来よりも大幅に短縮できる。 In this way, by being able to select machine learning algorithms and optimize their hyperparameters in a short time, the development period of a system that automatically generates metadata of broadcast content or distribution content consisting of video and audio has been extended. Can be significantly shortened.

また、一実施形態のAIシステム開発シミュレータ100によれば、シミュレーションの条件としてハードウエア(CPU、GPU、等)のスペック情報を設定することにより、シミュレーションの結果として、認識精度、所要時間、消費したエネルギ、等を確認することができるので、画像認識や音声認識に使用するハードウエアに関する評価を行うことができる。たとえば、あるグレードのGPUを使用するとメモリ容量が不足するため、他のグレードのGPUを使用する必要があるといった評価をすることが可能となる。
その結果、CPU、GPU、メモリー等のハードウェア性能を含めてコストパフォーマンスの高いAIシステムを構築することができ、AIシステム開発に要する開発コストの低減を図ることが可能となる。
Further, according to the AI system development simulator 100 of one embodiment, by setting the spec information of the hardware (CPU, GPU, etc.) as the simulation conditions, the recognition accuracy, the required time, and the consumption are consumed as the result of the simulation. Since the energy, etc. can be confirmed, it is possible to evaluate the hardware used for image recognition and voice recognition. For example, if a GPU of a certain grade is used, the memory capacity is insufficient, so it is possible to evaluate that it is necessary to use a GPU of another grade.
As a result, it is possible to construct an AI system with high cost performance including the hardware performance of the CPU, GPU, memory, etc., and it is possible to reduce the development cost required for AI system development.

100 AIシステム開発シミュレータ
110 認識対象情報入力部
120 認識内容情報入力部
130 機械学習アルゴリズム記憶部
140 ハイパーパラメータ記憶部
150 機械学習アルゴリズム選択部
160 ハイパーパラメータ抽出部
170 シミュレーション部
S1 認識対象情報入力ステップ
S2 認識内容情報入力ステップ
S3 機械学習アルゴリズム記憶ステップ
S4 ハイパーパラメータ記憶ステップ
S5 機械学習アルゴリズム選択ステップ
S6 ハイパーパラメータ抽出ステップ
S7 シミュレーションステップ
100 AI system development simulator 110 Recognition target information input unit 120 Recognition content information input unit 130 Machine learning algorithm storage unit 140 Hyperparameter storage unit 150 Machine learning algorithm selection unit 160 Hyperparameter extraction unit 170 Simulation unit S1 Recognition target information input step S2 Recognition Content information input step S3 Machine learning algorithm storage step S4 Hyperparameter storage step S5 Machine learning algorithm selection step S6 Hyperparameter extraction step S7 Simulation step

Claims (10)

機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を行うAIシステム開発シミュレータであって、
認識対象に関する情報を入力するための認識対象情報入力部と、
認識内容に関する情報を入力するための認識内容情報入力部と、
複数の機械学習アルゴリズムを記憶した機械学習アルゴリズム記憶部と、
機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータを、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶したハイパーパラメータ記憶部と、
前記認識対象情報入力部により入力された情報と、前記認識内容情報入力部により入力された情報と、に基づいて、前記機械学習アルゴリズム情報記憶に記憶されている複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する機械学習アルゴリズム選択部と、
前記認識対象情報入力部により入力された情報と、前記認識内容情報入力部により入力された情報と、前記機械学習アルゴリズム選択部により選択された機械学習アルゴリズムと、に基づいて、前記ハイパーパラメータ記憶部から前記過去に得られた最適化されたハイパーパラメータを抽出するハイパーパラメータ抽出部と、
前記ハイパーパラメータ抽出部により抽出された前記過去に得られた最適化されたハイパーパラメータを、前記機械学習アルゴリズム選択部により選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化するシミュレーション部と、を有することを特徴とするAIシステム開発シミュレータ。
An AI system development simulator that selects machine learning algorithms and optimizes their hyperparameters.
A recognition target information input unit for inputting information about the recognition target,
A recognition content information input unit for inputting information related to recognition content,
A machine learning algorithm storage unit that stores multiple machine learning algorithms,
A hyperparameter storage unit that stores optimized hyperparameters obtained in the past by repeating machine learning trials in association with the recognition target, recognition content, and machine learning algorithm used for the machine learning.
Based on the information input by the recognition target information input unit and the information input by the recognition content information input unit, one of a plurality of machine learning algorithms stored in the machine learning algorithm information storage. Machine learning algorithm selection section that selects the machine learning algorithm of
The hyperparameter storage unit is based on the information input by the recognition target information input unit, the information input by the recognition content information input unit, and the machine learning algorithm selected by the machine learning algorithm selection unit. The hyperparameter extraction unit that extracts the optimized hyperparameters obtained in the past from
The optimized hyperparameters obtained in the past extracted by the hyperparameter extraction unit are set as initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection unit, and the machine learning is performed. An AI system development simulator characterized by having a simulation unit that optimizes hyperparameters of the machine learning algorithm by simulating a machine learning trial by the algorithm.
前記ハイパーパラメータには、レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかが含まれる、請求項1記載のAIシステム開発シミュレータ。 The AI system development simulator according to claim 1, wherein the hyperparameter includes any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs. 前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータであり、
前記認識内容は、前記コンテンツ画面内の画像要素である、請求項1又は2記載のAIシステム開発シミュレータ。
The recognition target is data on the content screen that constitutes the content video included in the broadcast content or the distributed content.
The AI system development simulator according to claim 1 or 2, wherein the recognition content is an image element in the content screen.
前記画像要素は、文字、人物の顔、番組セット、背景のうちのいずれかである、請求項3記載のAIシステム開発シミュレータ。 The AI system development simulator according to claim 3, wherein the image element is any one of characters, a person's face, a program set, and a background. 前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声であり、
前記認識内容には、人物の声、楽音、効果音及び環境音のうちのいずれかが含まれる、請求項3又は4記載のAIシステム開発シミュレータ。
The recognition target is content audio included in broadcast content or distribution content, and is
The AI system development simulator according to claim 3 or 4, wherein the recognition content includes any one of a person's voice, a musical sound, a sound effect, and an environmental sound.
機械学習アルゴリズムの選択及びそのハイパーパラメータの最適化を行う方法であって、
認識対象に関する情報を入力するための認識対象情報入力ステップと、
認識内容に関する情報を入力するための認識内容情報入力ステップと、
複数の機械学習アルゴリズムを記憶する機械学習アルゴリズム記憶ステップと、
機械学習の試行を繰り返すことにより過去に得られた最適化されたハイパーパラメータを、当該機械学習に使用された認識対象、認識内容及び機械学習アルゴリズムと関連付けて記憶するハイパーパラメータ記憶ステップと、
前記認識対象情報入力ステップにより入力された情報と、前記認識内容情報入力ステップにより入力された情報と、に基づいて、前記機械学習アルゴリズム記憶ステップにより記憶した複数の機械学習アルゴリズムの中から一の機械学習アルゴリズムを選択する機械学習アルゴリズム選択ステップと、
前記認識対象情報入力ステップにより入力された情報と、前記認識内容情報入力ステップにより入力された情報と、前記機械学習アルゴリズム選択ステップにより選択された機械学習アルゴリズムと、に基づいて、前記ハイパーパラメータ記憶ステップにより記憶した前記過去に得られた最適化されたハイパーパラメータを抽出するハイパーパラメータ抽出ステップと、
前記ハイパーパラメータ抽出ステップにより抽出された前記過去に得られた最適化されたハイパーパラメータを、前記機械学習アルゴリズム選択ステップにより選択された機械学習アルゴリズムのハイパーパラメータの初期値に設定して、当該機械学習アルゴリズムによる機械学習の試行を模擬的に実行することにより当該機械学習アルゴリズムのハイパーパラメータを最適化するシミュレーションステップと、を有することを特徴とするハイパーパラメータ最適化方法。
It is a method of selecting a machine learning algorithm and optimizing its hyperparameters.
The recognition target information input step for inputting information about the recognition target, and
Recognition content information input step for inputting information about recognition content,
Machine learning algorithm storage steps that store multiple machine learning algorithms,
A hyperparameter storage step that stores optimized hyperparameters obtained in the past by repeating machine learning trials in association with the recognition target, recognition content, and machine learning algorithm used for the machine learning.
One machine from a plurality of machine learning algorithms stored by the machine learning algorithm storage step based on the information input by the recognition target information input step and the information input by the recognition content information input step. Machine learning algorithm selection step to select learning algorithm and
The hyperparameter storage step is based on the information input by the recognition target information input step, the information input by the recognition content information input step, and the machine learning algorithm selected by the machine learning algorithm selection step. The hyperparameter extraction step for extracting the optimized hyperparameters obtained in the past, which was stored in
The optimized hyperparameters obtained in the past extracted by the hyperparameter extraction step are set as initial values of the hyperparameters of the machine learning algorithm selected by the machine learning algorithm selection step, and the machine learning is performed. A hyperparameter optimization method comprising: a simulation step for optimizing the hyperparameters of the machine learning algorithm by simulating a machine learning trial by the algorithm.
前記ハイパーパラメータには、レイヤ数、ノード数、バッチサイズ、学習率、イテレーション数、エポック数のうちのいずれかが含まれる、請求項6記載のハイパーパラメータ最適化方法。 The hyperparameter optimization method according to claim 6, wherein the hyperparameter includes any one of the number of layers, the number of nodes, the batch size, the learning rate, the number of iterations, and the number of epochs. 前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ映像を構成するコンテンツ画面のデータであり、
前記認識内容は、前記コンテンツ画面内の画像要素である、請求項6又は7記載のハイパーパラメータ最適化方法。
The recognition target is data on the content screen that constitutes the content video included in the broadcast content or the distributed content.
The hyperparameter optimization method according to claim 6 or 7, wherein the recognition content is an image element in the content screen.
前記画像要素は、文字、人物の顔、番組セット、背景のうちのいずれかである、請求項8記載のハイパーパラメータ最適化方法。 The hyperparameter optimization method according to claim 8, wherein the image element is any one of characters, a person's face, a program set, and a background. 前記認識対象は、放送コンテンツ又は配信コンテンツに含まれるコンテンツ音声であり、
前記認識内容には、人物の声、楽音、効果音及び環境音のうちのいずれかが含まれる、請求項8又は9記載のハイパーパラメータ最適化方法。
The recognition target is content audio included in broadcast content or distribution content, and is
The hyperparameter optimization method according to claim 8 or 9, wherein the recognition content includes any one of a person's voice, a musical sound, a sound effect, and an environmental sound.
JP2020067801A 2020-04-03 2020-04-03 Ai system development simulator and hyper parameter optimization method Pending JP2021163424A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020067801A JP2021163424A (en) 2020-04-03 2020-04-03 Ai system development simulator and hyper parameter optimization method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020067801A JP2021163424A (en) 2020-04-03 2020-04-03 Ai system development simulator and hyper parameter optimization method

Publications (1)

Publication Number Publication Date
JP2021163424A true JP2021163424A (en) 2021-10-11

Family

ID=78005068

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020067801A Pending JP2021163424A (en) 2020-04-03 2020-04-03 Ai system development simulator and hyper parameter optimization method

Country Status (1)

Country Link
JP (1) JP2021163424A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023189194A1 (en) * 2022-03-31 2023-10-05 ソニーグループ株式会社 Information processing device, information processing method, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023189194A1 (en) * 2022-03-31 2023-10-05 ソニーグループ株式会社 Information processing device, information processing method, and program

Similar Documents

Publication Publication Date Title
JP7084617B2 (en) Question answering device and computer program
US11907821B2 (en) Population-based training of machine learning models
US11507802B2 (en) Recursive learning for artificial intelligent agents
CN113806512A (en) Robot dialogue model training method, device, equipment and storage medium
CN116883545A (en) Picture data set expansion method, medium and device based on diffusion model
JP2021163424A (en) Ai system development simulator and hyper parameter optimization method
CN111950579A (en) Training method and training device for classification model
US11625880B2 (en) Machine-learning models for tagging video frames
CN112541570A (en) Multi-model training method and device, electronic equipment and storage medium
US11551440B1 (en) Continuous machine learning for extracting description of visual content
CN114530073B (en) Training method and device based on virtual reality
JP2020030674A (en) Information processing apparatus, information processing method, and program
KR102329611B1 (en) Pre-training modeling system and method for predicting educational factors
CN111538898B (en) Web service package recommendation method and system based on combined feature extraction
CN114546804A (en) Information push effect evaluation method and device, electronic equipment and storage medium
CN115130536A (en) Training method of feature extraction model, data processing method, device and equipment
US20210283505A1 (en) Video Game Content Provision System and Method
CN113946604A (en) Staged go teaching method and device, electronic equipment and storage medium
CN113191527A (en) Prediction method and device for population prediction based on prediction model
CN113590879A (en) System, method, computer and storage medium for shortening timestamp and solving multi-event video question-answering through network
CN106446524A (en) Intelligent hardware multimodal cascade modeling method and apparatus
JP7013329B2 (en) Learning equipment, learning methods and learning programs
Abd Rahim et al. Automated exam question set generator using utility based agent and learning agent
CN112446206A (en) Menu title generation method and device
JP7338858B2 (en) Behavior learning device, behavior learning method, behavior determination device, and behavior determination method

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220328