JP7479251B2 - 計算機システムおよび情報処理方法 - Google Patents

計算機システムおよび情報処理方法 Download PDF

Info

Publication number
JP7479251B2
JP7479251B2 JP2020150553A JP2020150553A JP7479251B2 JP 7479251 B2 JP7479251 B2 JP 7479251B2 JP 2020150553 A JP2020150553 A JP 2020150553A JP 2020150553 A JP2020150553 A JP 2020150553A JP 7479251 B2 JP7479251 B2 JP 7479251B2
Authority
JP
Japan
Prior art keywords
prediction
data
learning data
generating
prediction model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020150553A
Other languages
English (en)
Other versions
JP2022045064A (ja
Inventor
晋太郎 高田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2020150553A priority Critical patent/JP7479251B2/ja
Priority to US17/192,057 priority patent/US20220076161A1/en
Publication of JP2022045064A publication Critical patent/JP2022045064A/ja
Application granted granted Critical
Publication of JP7479251B2 publication Critical patent/JP7479251B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、事象を予測するモデルを生成する機械学習の技術に関する。
目的変数として割り当てられたタスクを予測する予測モデルの予測精度を高めることが重要となっている。予測モデルは、一つ以上の特徴量変数（説明変数）および一つ以上の目的変数の値を含む、複数のサンプルデータを用いた機械学習を実行することによって生成される。予測モデルの予測精度に関わる要素として、一般的に、（１）学習データの準備（データのクレンジングおよび特徴量変数の設計）、（２）学習データに含まれるサンプルデータの数（ノイズではない有効なサンプルデータができるだけ多いほうがよい）、（３）適用する機械学習アルゴリズム、等が挙げられる。
特許文献１には、「高精度情報抽出装置構築システムは、特徴量抽出式リストを生成する特徴量抽出式リスト生成部、各特徴量抽出式により教師データの特徴量を計算する特徴量計算部、教師データを供給する教師データ供給部、計算された教師データの特徴量と教師データとに基づいて情報抽出式を機械学習により生成するとともに各特徴抽出式の評価値を算出する評価値算出部、および、評価値算出部から出力されるＴ個の弱情報抽出部Ｆ（Ｘ）ｔとそれに対応する信頼度Ｃｔを用いて高精度情報抽出装置を構築する合成部から構成される。」ことが記載されている。
特開２０１３－１６４８６３号公報
特許文献１のように、学習データに対して複数の予測モデルを生成し、それらを統合し、最終的な予測値を得るアンサンブル学習によって、高い予測精度の予測モデルを生成することができる。
一方、学習データを構成する特徴量変数には様々な性質を持つ変数が存在する。例えば、学習データに含まれる全サンプルデータのうち大多数において、ノイズではない意味のある何らかの値を持つ変数と、少数のサンプルデータしか意味のある値を持たない変数とが存在する。前者の特徴量変数は事象の大域的な特徴を表し、後者の特徴量変数は事象の局所的な特徴を表す。本明細書では、事象の大域的な特徴を表す特徴量変数を大域的変数と記載し、事象の局所的な特徴を表す特徴量変数を局所的変数と記載する。
健康診断において取得される値から身長を予測するタスクを例とした場合、大域的変数は、年齢、体重、および性別等を表す変数が該当し、局所的変数は、男性かつ体重が７０Ｋｇ以上である、等の特定の条件に該当するか否かを表す変数等が該当する。
局所的変数は、全サンプルデータに対して、条件に該当するサンプルデータの数は必ずしも多くはないが、分析者が保有している知識を、予測モデルに反映させる目的で用いられることが多い。
一般的な機械学習では、サンプルデータの特徴量を用いて算出される予測値とサンプルデータの予測値との誤差の平均が小さくなるように予測モデルの学習が行われる。したがって、学習データを構成する特徴量変数の選択によって、予測モデルに反映される事象の特徴が異なる。しかし、通常、学習データを構成する特徴量変数は大域的変数および局所的変数等の区別がされずに、様々な特徴量変数が混在していることが多い。この場合、特定の変数（例えば、大域的変数）から得られる事象の特徴が強く反映され、他の変数（例えば、局所的変数）から得られる事象の特徴は反映されない傾向にある。
特許文献１に記載されているような従来のアンサンブル学習では、学習アルゴリズムに多様性を持たせているものの、特徴量変数が表す特徴の違いに着目した学習が行われていない。したがって、従来のアンサンブル学習における、予測モデルに反映される事象の特徴の偏りという課題は解消しない。
本発明は、予測モデルに反映される事象の特徴の偏りを解消するために、特徴量変数が表す特徴の違いを考慮したアンサンブル学習を実現する。
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、事象を予測する予測モデルを生成する計算機システムであって、演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ備え、複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数格納する記憶部と、前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する予測モデル生成部と、を備え、前記予測モデル生成部は、前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、前記複数の第一学習データは、前記事象の大域的な特徴が反映させた前記予測モデルを生成するための学習データと、前記事象の局所的な特徴が反映させた前記予測モデルを生成するための学習データと、を含む。
本発明によれば、特徴量変数の表す特徴の違いを考慮したアンサンブル学習を実行することによって、予測モデルの予測精度を向上できる。上記した以外の課題、構成および効果は、以下の実施例の説明により明らかにされる。
実施例１の情報処理装置のハードウェア構成およびソフトウェア構成の一例を示す図である。 実施例１の予測モデル管理情報のデータ構造の一例を示す図である。 実施例１の情報処理装置が実行する予測モデル生成処理の一例を説明するフローチャートである。 実施例１の学習データの一例を示す図である。 実施例１の学習データに含まれる特徴量変数の値の分布の一例を示すヒストグラムである。 実施例１の学習データの一例を示す図である。 実施例１の学習データに含まれる特徴量変数の値の分布の一例を示すヒストグラムである。 実施例１の第一階層学習データの一例を示す図である。 実施例１の第一階層学習データの一例を示す図である。 実施例１の第二階層学習データの一例を示す図である。 実施例２の計算機システムの一例を示す図である。 実施例２の情報処理装置のハードウェア構成およびソフトウェア構成の一例を示す図である。 実施例２の第一階層予測モデル管理情報のデータ構造の一例を示す図である。
以下、本発明の実施例を、図面を用いて説明する。ただし、本発明は以下に示す実施例の記載内容に限定して解釈されるものではない。本発明の思想ないし趣旨から逸脱しない範囲で、その具体的構成を変更し得ることは当業者であれば容易に理解される。
以下に説明する発明の構成において、同一または類似する構成または機能には同一の符号を付し、重複する説明は省略する。
本明細書等における「第一」、「第二」、「第三」等の表記は、構成要素を識別するために付するものであり、必ずしも、数または順序を限定するものではない。
本明細書では、特徴量変数（説明変数）に対応する値と、目的変数に対応する予測の正解値とから構成されるデータをサンプルデータと記載する。同一の特徴量変数および目的変数から構成されるサンプルデータの集合を学習データと記載する。
図１は、実施例１の情報処理装置１００のハードウェア構成およびソフトウェア構成の一例を示す図である。
情報処理装置１００は、学習データを用いて予測モデルを生成するための学習処理を実行し、また、予測用のサンプルデータに対して予測モデルを適用することによって事象の予測を行う。情報処理装置１００は、ハードウェア構成として、演算装置１０１、主記憶装置１０２、副記憶装置１０３、ネットワークインタフェース１０４、および入出力インタフェース１０５を備える。各ハードウェア構成は内部バスを介して互いに接続される。
演算装置１０１は、プロセッサ、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、およびＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）等であり、主記憶装置１０２に格納されるプログラムを実行する。演算装置１０１がプログラムにしたがって処理を実行することによって、特定の機能を実現する機能部（モジュール）として動作する。以下の説明では、モジュールを主語に処理を説明する場合、演算装置１０１が当該モジュールを実現するプログラムを実行していることを示す。
主記憶装置１０２は、ＤＲＡＭ（Ｄｙｎａｍｉｃ Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）等のメモリであり、演算装置１０１が実行するプログラムおよびプログラムが使用する情報を格納する。また、主記憶装置１０２は、プログラムが一時的に使用するワークエリアとしても使用される。なお、主記憶装置１０２は、揮発性の記憶素子から構成されてもよいし、また、不揮発性の記憶素子から構成されてもよい。主記憶装置１０２に格納されるプログラムおよび情報については後述する。
副記憶装置１０３は、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）およびＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等であり、データを永続的に格納する。なお、主記憶装置１０２に格納されるプログラムおよび情報は、副記憶装置１０３に格納されてもよい。この場合、演算装置１０１は、副記憶装置１０３からプログラムおよび情報を読み出し、主記憶装置１０２にロードし、ロードされたプログラムを実行する。
ネットワークインタフェース１０４は、ネットワークを介して外部装置と通信する。入出力インタフェース１０５は、キーボード、マウス、およびタッチパネル等のデータを入力するための装置、ならびに、ディスプレイ等のデータを出力または表示するための装置である。
主記憶装置１０２は、制御部１１０、第一階層学習データ処理部１１１、予測モデル生成部１１２、メタ特徴量生成部１１３、学習データ生成部１１４、学習処理組合決定部１１５を実現するプログラムを格納する。また、主記憶装置１０２は、第一階層学習データ１２０、第二階層学習データ１３０、第一階層予測モデル１４０、第二階層予測モデル１５０、予測モデル管理情報１６０、および予測処理パイプライン情報１７０を格納する。なお、各情報は、処理で用いる場合に主記憶装置１０２に格納され、処理が終了した後、副記憶装置１０３に格納されてもよい。
第一階層学習データ１２０は、後述する第一階層予測モデル１４０を生成するために用いられる学習データである。第一階層学習データ処理部１１１が、情報処理装置１００に入力された入力データを、加工または所定の形式に変換するデータ処理を実行することによって、複数の第一階層学習データ１２０を生成する。本実施例の主記憶装置１０２には、特徴量変数が異なる、複数の第一階層学習データ１２０が格納される。
第二階層学習データ１３０は、後述する第二階層予測モデル１５０を生成するために用いる学習データである。学習データ生成部１１４が、第一階層学習データ１２０の特徴量変数およびメタ特徴量生成部１１３によって生成された特徴量変数等を用いて、メタ特徴量変数から構成されるサンプルデータを複数含む第二階層学習データ１３０を生成する。
第一階層予測モデル１４０は、第一階層学習データ１２０に対して所定の学習アルゴリズムを適用することによって生成された予測モデルである。
第二階層予測モデル１５０は、第二階層学習データ１３０に対して所定の学習アルゴリズムを適用することによって生成された予測モデルである。第二階層予測モデル１５０から出力される予測値が最終的な予測値として出力される。
予測モデル管理情報１６０は、第一階層予測モデル１４０を管理するための情報である。予測モデル管理情報１６０のデータ構造の詳細は図２を用いて説明する。
予測処理パイプライン情報１７０は、予測処理において使用する予測モデルの種別、および処理方法等、予測処理の処理手順（パイプライン）を管理するための情報である。
制御部１１０は、情報処理装置１００の各モジュールの動作を制御する。
第一階層学習データ処理部１１１は、情報処理装置１００に入力された入力データに対して特定のデータ処理を実行することによって第一階層学習データ１２０を生成する。
予測モデル生成部１１２は、学習データに対して学習アルゴリズムを適用することによって、任意の説明変数の値から目的変数の値（予測値）を出力する予測モデルを生成する。予測モデル生成部１１２は、第一階層学習データ１２０を用いて第一階層予測モデル１４０を生成し、第二階層学習データ１３０を用いて第二階層予測モデル１５０を生成する。
メタ特徴量生成部１１３は、第一階層予測モデル１４０にサンプルデータを入力して得られた予測値を用いて、新たな特徴量変数の値（メタ特徴量）を生成する。
学習データ生成部１１４は、メタ特徴量生成部１１３によって生成されたメタ特徴量から第二階層学習データ１３０を生成する。
学習処理組合決定部１１５は、学習処理の組み合わせを決定する処理を行う。ここで、学習処理の組合せとは、以下で示す四つの組合せを意味する。
（１）第一階層学習データ１２０を生成するために入力データに対して実行するデータ処理の内容。
（２）第一階層予測モデル１４０を生成するために使用した機械学習アルゴリズムおよび第一階層学習データ１２０。
（３）第二階層予測モデル１５０を生成するために使用した機械学習アルゴリズム。
（４）第二階層予測モデル１５０を生成するために使用したメタ特徴量の種別。
なお、情報処理装置１００が有する各モジュールについては、複数のモジュールを一つのモジュールにまとめてもよいし、一つのモジュールを機能毎に複数のモジュールに分けてもよい。例えば、予測モデル生成部１１２および学習処理組合決定部１１５を一つにまとめてもよいし、また、メタ特徴量生成部１１３および学習データ生成部１１４を一つにまとめてもよい。
図２は、実施例１の予測モデル管理情報１６０のデータ構造の一例を示す図である。
予測モデル管理情報１６０は、モデルＩＤ２０１、学習データ２０２、機械学習アルゴリズム２０３、およびアドレス２０４から構成されるエントリを格納する。一つの第一階層予測モデル１４０に対して一つのエントリが存在する。
モデルＩＤ２０１は、第一階層予測モデル１４０のユニークなＩＤを格納するフィールドである。学習データ２０２は、使用した第一階層学習データ１２０の識別情報を格納するフィールドである。機械学習アルゴリズム２０３は、第一階層予測モデル１４０を生成するために使用した機械学習アルゴリズムの情報を格納するフィールドである。機械学習アルゴリズム２０３には、例えば、機械学習アルゴリズムの名称が格納される。アドレス２０４は、第一階層予測モデル１４０の実体データの格納場所を示すアドレスを格納するフィールドである。
図３は、実施例１の情報処理装置１００が実行する予測モデル生成処理の一例を説明するフローチャートである。
まず、情報処理装置１００は、入力データを受け付ける（ステップＳ３０１）。このとき、制御部１１０は受け付けた入力データを主記憶装置１０２に格納する。
ここでは、ユーザによって、特性の異なる複数の学習データが入力データとして入力されたものとする。ここで、学習データの特性が異なるとは、同一の機械学習アルゴリズムを用いて生成された予測モデルに反映される事象の特徴（予測の特性および傾向等）が異なることを意味する。より具体的には、学習データに含まれるサンプルデータを構成する特徴量変数が異なる。例えば、値が満遍なく分布する特徴量変数（広域的変数）から構成されるサンプルデータを含む学習データと、特定の条件に合致するか否かを表す特徴量変数（局所的変数）から構成されるサンプルデータを含む学習データとが入力される。なお、局所的変数に意味がある値を有するサンプルデータの数は少ない。
物流倉庫における商品および荷物の集荷準備に伴うピッキング作業に要する作業時間を予測する予測モデルを生成するための学習データは、例えば、図４Ａおよび図５Ａに示すようなデータとなる。図４Ａは、広域的変数から構成されるサンプルデータを含む学習データの一例を示し、図５Ａは、局所的変数から構成されるサンプルデータを含む学習データの一例を示す。
図４Ａに示す学習データ４０１は、サンプルＩＤ、作業時間、荷物個数、荷物総重量、運搬総移動距離、および作業者勤務歴から構成されるサンプルデータを格納する。
サンプルＩＤは、サンプルデータを一意に識別するためのＩＤを格納するフィールドである。各学習データの同一のサンプルデータには同一のＩＤが付与される。
作業時間は、目的変数に対応するフィールドである。本実施例では、作業時間の単位は「秒」であるものとする。荷物個数、荷物総重量、運搬総移動距離、および作業者勤務歴は、広域的変数に対応するフィールドである。各特徴量変数には任意の数値が格納される。図４Ｂは、特徴量変数「運搬総移動距離」の値の分布を示すヒストグラム４０２である。図４Ｂに示すように、広域的変数は、サンプルデータの性質を特徴づける情報を表す。
なお、広域的変数の値の分布は一例であってこれに限定されない。広域的変数の値の分布は、図４Ｂに示すように正規分布に類似する分布でもよいし、偏りのある分布でもよい。本実施例では、値がある広がりを持って分布する特徴量変数を広域的変数として扱う。
図５Ａに示す学習データ５０１は、サンプルＩＤ、作業時間、条件１、条件２、および条件３から構成されるサンプルデータを格納する。サンプルＩＤおよび作業時間は学習データ４０１のサンプルＩＤおよび作業時間と同一のフィールドである。条件１、条件２、および条件３は、局所的変数に対応するフィールドである。各特徴量変数には条件に合致するか否かを示す値が格納される。
例えば、条件１、条件２、条件３は以下のような条件である。
（条件１）作業者勤務歴が１２以上かつ荷物個数が４以上。
（条件２）荷物総重量が２以下かつ荷物個数が６以上。
（条件３）棚の高い位置に荷物がある。
上記の条件１および条件２は、全域特徴量の値または値の組合せが特定の範囲に該当するか否かを示す条件である。上記の条件３は、特定の事象に該当するか否かを示す条件である。本実施例では、特定の条件に該当するか否かを表す特徴量変数を局所的変数として扱う。
図５Ｂは、特徴量変数「条件１」の値の分布を示すヒストグラム５０２である。局所的変数は、図５Ｂに示すような性質を持つ。すなわち、多くのサンプルデータの局所的変数の値は条件１に該当しないことを示す「０」となり、小数のサンプルデータのみが局所的変数の値が条件１に該当することを示す「１」となる。
次に、情報処理装置１００は、入力データを用いて第一階層学習データ１２０の生成する（ステップＳ３０２）。
具体的には、制御部１１０が、第一階層学習データ処理部１１１に第一階層学習データ１２０の生成を指示する。第一階層学習データ処理部１１１は、入力データに対して所定のデータ処理を実行することによって複数の第一階層学習データ１２０を生成し、複数の第一階層学習データ１２０を主記憶装置１０２に格納する。このとき、第一階層学習データ処理部１１１は、各第一階層学習データ１２０に含まれる一部のサンプルデータを、予測モデルの精度評価に使用するために評価用のサンプルデータとして保存する。当該サンプルデータは予測モデルを生成するためのサンプルデータとしては用いられない。
データ処理は、例えば、種別の異なる複数の学習データを合成する処理が考えられる。具体的には、広域的変数のみから構成されるサンプルデータ群（学習データ４０１）と、局所的変数のみから構成されるサンプルデータ群（学習データ５０１）とが入力データとして入力された場合、第一階層学習データ処理部１１１は、広域的変数のみから構成されるサンプルデータを含む第一学習データと、広域的変数および局所的変数から構成されるサンプルデータを含む第二学習データを第一階層学習データ１２０として生成する。
図６Ａおよび図６Ｂは、学習データ４０１、５０１から生成された第一階層学習データ１２０－１、１２０－２の一例を示す。第一階層学習データ１２０－１は、学習データ４０１をそのまま第一階層学習データ１２０として保存したものである。第一階層学習データ１２０－２は、学習データ４０１、５０１を合成することによって生成されたデータである。
本実施例では、図６Ａおよび図６Ｂに示すように、特性が異なる第一階層学習データ１２０が複数生成される。
なお、上述した第一階層学習データ１２０の生成方法は一例であってこれに限定されない。例えば、第一階層学習データ処理部１１１は、入力データをそのまま、第一階層学習データ１２０として生成してもよいし、前述したデータ処理とは異なるデータ処理を実行することによって第一階層学習データ１２０を生成してもよい。
次に、情報処理装置１００は、第一階層学習データ１２０を用いて第一階層予測モデル１４０を生成する（ステップＳ３０３）。
具体的には、制御部１１０が、予測モデル生成部１１２に第一階層予測モデル１４０の生成を指示する。予測モデル生成部１１２は、各第一階層学習データ１２０に対して複数の機械学習アルゴリズムを適用することによって、複数の第一階層予測モデル１４０を生成する。予測モデル生成部１１２は、複数の第一階層予測モデル１４０を主記憶装置１０２に格納し、また、予測モデル管理情報１６０に、各第一階層予測モデル１４０のエントリを追加する。
適用する機械学習アルゴリズムとしては、Ｅｌａｓｔｉｃ Ｎｅｔおよびロジスティック回帰等の線形型の機械学習アルゴリズム、決定木、Ｒａｎｄｏｍ Ｆｏｒｅｓｔ、Ｇｒａｄｉｅｎｔ Ｂｏｏｓｔｉｎｇ Ｍａｃｈｉｎｅ、Ｄｅｅｐ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ等の非線形型の機械学習アルゴリズム、並びに、Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ等が一例としてあげられる。
一つの学習データから異なる種別の機械学習アルゴリズムを適用して生成された予測モデルは、予測精度だけではなく、反映される事象の特徴が異なることが期待できる。また、特徴量変数が異なる学習データを用いて生成された予測モデルも同様に、予測精度だけではなく、反映される事象の特徴が異なることが期待できる。このように、本実施例では、機械学習アルゴリズムだけではなく、学習データにも多様性を持たせていることに特徴を有する。
次に、情報処理装置１００は、第一階層予測モデル１４０の出力値を用いて第二階層学習データ１３０を生成する（ステップＳ３０４）。
具体的には、制御部１１０が、メタ特徴量生成部１１３にメタ特徴量の生成を指示する。メタ特徴量生成部１１３は、各第一階層予測モデル１４０に、生成元の第一階層学習データ１２０の任意のサンプルデータを入力することによって予測値を取得し、取得した予測値をメタ特徴量として生成する。制御部１１０は、学習データ生成部１１４に第二階層学習データ１３０の生成を指示する。学習データ生成部１１４は、メタ特徴量を用いて第二階層学習データ１３０を生成する。なお、第二階層学習データ１３０に含まれるサンプルデータの目的変数には、例えば、第一階層学習データ１２０に含まれるサンプルデータの目標変数の平均値等が設定される。学習データ生成部１１４は、の第二階層学習データ１３０を主記憶装置１０２に格納する。
図７に第二階層学習データ１３０の一例を示す。サンプルＩＤおよび作業時間は、第一階層学習データ１２０と同一のフィールドである。それ以外のフィールドは、メタ特徴量を表すフィールドである。例えば、「メタ特徴量１－１」には、モデルＩＤ２０１が「１－１」である第一階層予測モデル１４０に、当該第一階層予測モデル１４０を生成するために用いた第一階層学習データ１２０に含まれるサンプルデータを入力して得られた予測値が格納される。
次に、情報処理装置１００は、第二階層学習データ１３０を用いて第二階層予測モデル１５０を生成する（ステップＳ３０５）。
具体的には、制御部１１０が、予測モデル生成部１１２に第二階層予測モデル１５０の生成を指示する。予測モデル生成部１１２は、第二階層学習データ１３０に対して、使用可能な機械学習アルゴリズムの中から選択された任意の機械学習アルゴリズムを適用することによって、第二階層予測モデル１５０を生成する。予測モデル生成部１１２は、第二階層予測モデル１５０を主記憶装置１０２に格納する。
次に、情報処理装置１００は、第二階層予測モデル１５０の予測精度を評価する（ステップＳ３０６）。
具体的には、制御部１１０が、学習処理組合決定部１１５に予測精度の評価を指示する。学習処理組合決定部１１５は、各第一階層予測モデル１４０に評価用のサンプルデータを入力して予測値を算出し、さらに、当該予測値から生成されたメタ特徴量から構成されるデータを第二階層予測モデル１５０に入力する。学習処理組合決定部１１５は、第二階層予測モデル１５０から得られた予測値と、目標変数の値との誤差に基づいて、予測精度を評価する。
第二階層予測モデル１５０を生成した機械学習アルゴリズム毎に、予測処理の予測精度が評価される。これによって、学習処理組合決定部１１５は、評価結果に基づいて、第二階層予測モデル１５０を生成するために適した機械学習アルゴリズムを選択することができ、また、予測精度の高い第二階層予測モデル１５０を得ることができる。
次に、情報処理装置１００は、評価結果に基づいて学習処理の組合せを決定する（ステップＳ３０７）。
具体的には、学習処理組合決定部１１５が学習処理の組合せとして決定する。これによって、予測処理に使用する第二階層予測モデル１５０が一つ決定され、また、予測処理に使用する第一階層予測モデル１４０の組合せが決定される。学習処理組合決定部１１５は、学習処理の組合せをユーザに提示するための提示情報を生成する。提示情報をユーザに出力することによって、学習処理の理解を助けることができる。
次に、情報処理装置１００は、予測対象データから予測値を算出するための予測処理パイプラインに関する情報を予測処理パイプライン情報１７０として生成する（ステップＳ３０８）。その後、情報処理装置１００は予測モデル生成処理を終了する。
ここで、広域的変数および局所的変数から構成される予測対象データが入力された場合の予測処理を例に、予測処理パイプラインの具体例を説明する。
当該予測処理では以下のような処理が実行される。まず、制御部１１０は、予測対象データを、第一学習データおよび第二学習データに対応する第一階層予測モデル１４０に入力して予測値、すなわち、メタ特徴量を算出する。制御部１１０は、算出されたメタ特徴量を用いて第二階層学習データ１３０の特徴量変数に対応したサンプルデータを生成し、当該サンプルデータを第二階層予測モデル１５０に入力して最終的な予測値を算出する。
学習処理組合決定部１１５は、前述の予測処理を実現するための予測処理パイプラインを構築し、予測処理パイプライン情報１７０として主記憶装置１０２に記録する。予測処理パイプライン情報１７０には、入力データから第一階層学習データ１２０を生成するためのデータ処理の内容、第二階層学習データ１３０を生成するための処理の内容、および第二階層予測モデル１５０の情報等が含まれる。情報処理装置１００は、予測処理パイプライン情報１７０に基づいて、予測対象データに対して、本実施例の特徴的な学習によって生成された予測モデル（第一階層予測モデル１４０、第二階層予測モデル１５０）を用いた予測処理を実行することができる。
次に、入力データの取り扱いのバリエーションについて説明する。
（バリエーション１）図３では、種類の異なる第一学習データおよび第二学習データが入力データとして入力される場合を例に説明したが、種類が異なる学習データを三つ以上入力してもよい。
この場合、ステップＳ３０２では、情報処理装置１００は三つ以上の第一階層学習データ１２０を生成する。これに伴って、ステップＳ３０３において生成される第一階層予測モデル１４０の数が増加する。ステップＳ３０４では、各第一階層予測モデル１４０から得られたメタ特徴量から第二階層学習データ１３０が生成される。ステップＳ３０５以降の処理は同様である。
これによって、広域的変数および局所的変数とは異なる特徴の特徴量変数から構成されるサンプルデータを含む学習データを用いて予測モデルを生成することができる。生成される学習データとしては、例えば、局所的変数と類似する性質であるが、該当するサンプルデータの数が多い特徴量変数から構成されるサンプルデータを含む学習データがある。ユーザが有する様々な知識を取り込んだ予測モデルを生成することができる。
（バリエーション２）図３では、種類が異なる第一学習データおよび第二学習データが入力データとして入力される場合を例に説明したが、一つの学習データのみが入力されてもよい。例えば、広域的変数および局所的変数が混在した学習データが入力データとして入力される場合が考えられる。
第一階層学習データ１２０を生成する方法としては、以下の方法が考えられる。
（方法１）ユーザから、学習で使用する特徴量変数を明示的に示す情報を受け付けるように構成する。学習データにおける局所的変数を指定する情報は、例えば、変数の名称およびフィールドの番号等のリストが考えられる。
ステップＳ３０２では、情報処理装置１００は、ユーザから受け付けた情報に基づいて、学習データを分割および統合して、第一階層学習データ１２０を生成する。
方法１の場合、ユーザは、一種類の入力データを用いずればよいため、入力データの準備に要する手間を削減できる。
（方法２）情報処理装置１００が、自動的に、一種類の入力データを分割および統合することによって、第一階層学習データ１２０を生成するように構成する。
Ｓ３０２では、情報処理装置１００は、入力された学習データに含まれる各特徴量変数が、図５に示すような特性を有するか否かを判定し、または、サンプルデータの値の分布が偏っているか否かを判定する。情報処理装置１００は、演述のような判定の結果に基づいて、各特徴量変数が局所的変数であるか否かを判定する。情報処理装置１００は、ユーザが入力した情報の代わりに、前述判定結果に基づいて、学習データを分割および統合して、第一階層学習データ１２０を生成する。
方法２の場合、ユーザ自身が入力データの特性等を把握していない場合でも、情報処理装置１００が、自動的に特徴量変数の特性を判定し、判定結果に基づいて複数の第一階層学習データ１２０を生成できる。これによって、多様な特性を有する第一階層予測モデル１４０を生成することができる。
（方法３）情報処理装置１００が、一つの学習データから新たな特徴量変数を算出し、第一階層学習データ１２０を生成する用に構成する。
ステップＳ３０２では、情報処理装置１００は、入力された学習データに含まれる特徴量変数の中から連続値をとる特徴量変数を選択する。情報処理装置１００は特徴量変数の値域の区分を算出する。例えば、値域が１から９０であり、サンプルデータの値が一様に分布している場合、情報処理装置１００は、１から３０、３１から６０、６１から９０の三つの区分を算出する。情報処理装置１００は、選択した特徴量変数の区分の組合せを、条件を示す特徴量変数（局所的変数）として設定する。情報処理装置１００は、前述の特徴量変数から構成されるサンプルデータを生成し、サンプルデータの特徴量変数に条件に合致するか否かを示す値を格納する。
なお、機械的に生成された全ての区分の組合せを局所的変数と設定した場合、局所的変数の数は膨大となる。そこで、情報処理装置１００は、目的変数と区分の組合せとの間の関連性（例えば、相関）を分析し、関連性が高い区分の組合せのみを局所的変数として抽出してもよい。
方法３の場合、特徴が異なる特徴量変数が含まれない入力データから新たな特徴量変数を生成することによって、複数の種類の第一階層学習データ１２０を生成できる。これによって、多様な特性を有する第一階層予測モデル１４０を生成することができる。
なお、情報処理装置１００は、方法２、方法３の処理結果をユーザに提示するように構成してよい。ユーザに提示する情報としては、局所的変数と判定された特徴量変数の情報、およびサンプルデータの局所的変数の値の分布等である。特徴量変数の情報は、例えば、変数の名称、並びに、区分の基準および区分の組合せ等である。これによって、ユーザは、局所的変数として特定された特徴量変数の内容および値の分布等を把握でき、予測モデルの学習処理の理解を助けることができる。
なお、一つの入力データから第一階層学習データ１２０を生成する処理の内容は、ステップＳ３０７の学習処理の組合せ、およびステップＳ３０８の予測処理パイプライン情報１７０に含めてもよい。これによって、予測対象データから自動的に予測モデルに入力するサンプルデータを生成することができる。したがって、学習処理だけではなく、予測処理においてもユーザのデータ加工の手間を削減できる。
次に、機械学習アルゴリズムの管理方法のバリエーションについて説明する。
情報処理装置１００は、予測精度が高くなるように、第一階層予測モデル１４０を生成するために使用する機械学習アルゴリズム、第二階層学習データ１３０を生成するために使用するメタ特徴量、第二階層予測モデル１５０を生成するために使用する機械学習アルゴリズムの各々を最適化してもよい。最適可能方法としては以下のような方法が考えられる。
（最適化１）ステップＳ３０５において、情報処理装置１００は、複数の機械学習アルゴリズムを適用して複数の第二階層予測モデル１５０を生成し、予測精度が最も高い第二階層予測モデル１５０を選択する。
（最適化２）ステップＳ３０４において、情報処理装置１００は、第二階層学習データ１３０を生成するために使用するメタ特徴量を選択する。
各第一階層学習データ１２０にほとんど差異がなく、かつ、同一のアルゴリズムで生成されたメタ特徴量の性質にもほとんど差異がない場合、マルチコ（ｍｕｌｔｉｃｏｌｌｉｎｅａｒｉｔｙ）が発生し、第二階層予測モデル１５０の予測精度が劣化する。このような場合、使用するメタ特徴量を適切に選択することによって、第二階層予測モデル１５０の予測精度の劣化を防ぐことができる。
メタ特徴量の選択方法は前述のマルチコを防ぐことができるものであればよい。例えば、情報処理装置１００は、特徴量変数間の相関を分析し、相関値が高い特徴量変数についてはいずれかの特徴量変数のみを選択する。または、情報処理装置１００は、全ての特徴量変数の組合せを総試行する。
最適化２によれば、第二階層学習データ１３０の生成時に最適なメタ特徴量を選択することによって予測精度の側面では最適化が可能である。
（最適化３）ステップＳ３０３において、情報処理装置１００は、第二階層予測モデル１５０を生成するために使用する機械学習アルゴリズムを選択する。
具体的な方法としては、予め使用する機械学習アルゴリズムを設定し、または、ユーザからの入力に基づいて使用する機械学習アルゴリズムを設定する。例えば、ユーザは、第一学習データに対してはＧＢＭのみを適用し、第二学習データには全ての機械学習アルゴリズムを適用するように設定する。
なお、第二階層予測モデル１５０の生成時において使用する機械学習アルゴリズムを選択するようにしてもよい。
なお、ユーザによる機械学習アルゴリズムの指定を容易にする仕組みとして以下のようなものが考えられる。初回の処理では、情報処理装置１００は、全ての機械学習アルゴリズムを用いて、第一階層予測モデル１４０および第二階層予測モデル１５０を生成し、最適化を行う。情報処理装置１００は、ステップＳ３０７において、決定された学習処理の組合せをユーザに提示し、次回の処理で使用する機械学習アルゴリズムの組合せの初期値として設定するか否かを問い合わせる。
最適化３によれば、不要な予測モデルの生成を抑止することによって、情報処理装置１００の処理量および処理時間を削減できる。
次に、処理の複雑化および簡易化について説明する。
実施例１では、予測モデルの生成を二段階に分けていたが、三段階以上に分けてもよい。この場合、最下層では、それまでの階層で得られたメタ特徴量を統合して生成された学習データを用いて予測モデルを生成するように構成する。
ただし、中間の階層間の予測モデルの生成方法については実施例１で説明した方法でもよいし、その他の方法でもよい。例えば、最下層以外の階層でのメタ特徴量の統合を上位階層の任意の予測モデルの組み合わせで行うことによって、三階層以上の予測モデルを用いた予測処理を実現できる。
階層を多くすることによって、複雑かつ細やかな予測モデルの組合せを実現することができ、さらに、予測精度を高めることができる。
実施例１では、予測モデルの生成を二段階に分けていたが、一段階でもよい。この場合、予測時に、予測対象データの内容に応じて使用する予測モデルが切り替えられるように構成する。
例えば、予測対象データが第二学習データを構成する局所特徴量変数のいずれかに対応する特徴量変数を含む場合、第二学習データから生成された予測モデルの予測値を出力し、それ以外の場合、第一学習データから生成された予測モデルの予測値を出力する。
これによって、入力された予測対象データに対して使用した予測モデルおよび予測値がわかりやすいため、予測モデルの解釈性を増すことができる。
以上で説明したように実施例１によれば、予測モデルに反映される事象の特徴（予測の特性および傾向）が異なる学習データを用いて予測モデルを生成できる。これによって、予測モデルの多様性が向上する。このように生成された予測モデルを積み上げることによって予測精度を向上できる。
実施例２では、学習および予測を複数の計算機を用いて実行する点が実施例１と異なる。以下、実施例１等の差異を中心に実施例２について説明する。
図８は、実施例２の計算機システムの一例を示す図である。
計算機システムは、情報処理装置１００および機械学習実行システム８００から構成される。情報処理装置１００および機械学習実行システム８００は、直接またはＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）等のネットワークを介して互いに接続される。
機械学習実行システム８００は、情報処理装置１００と協力して、学習および予測を行うシステムである。機械学習実行システム８００は、情報処理装置１００から学習データを取得し、予測モデルを生成する。さらに、機械学習実行システム８００は、情報処理装置１００から予測対象データを取得し、予測対象データを予測モデルに入力することによって、予測値を出力する。
機械学習実行システム８００における学習方法および機械学習アルゴリズムは、予測モデルを生成し、また、予測値を出力できるものであればよい。
機械学習実行システム８００は、クラウド型のシステムでもよいし、オンプレミス型のシステムでもよい。機械学習実行システム８００がクラウド型のシステムである場合、システムの処理内容はユーザから隠蔽されたもの、すなわち、ユーザによる変更を受け付けない構成でもよい。機械学習実行システム８００がオンプレミス型のシステムである場合、機械学習実行システム８００は情報処理装置１００と同じ基盤上に存在してもよいし、異なる基盤上に存在してもよい。
図９は、実施例２の情報処理装置１００のハードウェア構成およびソフトウェア構成の一例を示す図である。
実施例２の情報処理装置１００のハードウェア構成は実施例１の情報処理装置１００と同一であるため説明を省略する。実施例２では、情報処理装置１００のソフトウェア構成が一部異なる。具体的には、主記憶装置１０２に、第一階層予測モデル管理情報９００および第二階層予測モデル管理情報９０１が格納される。
第一階層予測モデル管理情報９００は、第一階層予測モデル１４０を管理するための情報であり、第二階層予測モデル管理情報９０１は、第二階層予測モデル１５０を管理するための情報である。
図１０は、実施例２の第一階層予測モデル管理情報９００のデータ構造の一例を示す図である。
第一階層予測モデル管理情報９００は、モデルＩＤ１００１、学習データ１００２、機械学習アルゴリズム１００３、生成場所１００４、およびアドレス１００５から構成されるエントリを格納する。一つの第一階層予測モデル１４０に対して一つのエントリが存在する。
モデルＩＤ１００１、学習データ１００２、および機械学習アルゴリズム１００３は、モデルＩＤ２０１、学習データ２０２、および機械学習アルゴリズム２０３と同一のフィールドである。
生成場所１００４は、第一階層予測モデル１４０が生成されたシステムを示す情報を格納するフィールドである。本実施例では、情報処理装置１００によって生成された第一階層予測モデル１４０の場合、生成場所１００４には「自システム」が格納され、機械学習実行システム８００によって生成された第一階層予測モデル１４０の場合、生成場所１００４には「クラウド」が格納される。
アドレス１００５は、第一階層予測モデル１４０の実体データの格納場所を示すアドレスまたはＵＲＬを格納するフィールドである。情報処理装置１００によって生成された第一階層予測モデル１４０の場合、アドレス１００５には自システム内のアドレスが格納され、機械学習実行システム８００によって生成された第一階層予測モデル１４０の場合、アドレス１００５にはＷｅｂ ＡＰＩのＵＲＬ等が格納される。
第二階層予測モデル管理情報９０１は、第一階層予測モデル管理情報９００と同一のデータ構造でもよいし、モデルＩＤ１００１、生成場所１００４、およびアドレス１００５のみを含むデータ構造でもよい。
次に、実施例２の学習および予測について説明する。まず、実施例２の学習について説明する。
ステップＳ３０１およびステップＳ３０２は、実施例１と同一の処理である。
ステップＳ３０３では、情報処理装置１００は、予測モデル生成部１１２および機械学習実行システム８００の少なくともいずれかに第一階層予測モデル１４０の生成を指示する。
機械学習実行システム８００に第一階層予測モデル１４０の生成を指示する場合、使用する第一階層学習データ１２０を含む生成指示が機械学習実行システム８００に送信される。この場合、情報処理装置１００は、機械学習実行システム８００から第一階層予測モデル１４０のＵＲＬ等を含む応答を受信する。
例えば、機械学習実行システム８００に第一学習データを処理させて、第二学習データを自システムで処理するように設定することが考えられる。すなわち、特徴量変数の設計において大きく変更される可能性が低い学習データを機械学習実行システム８００に処理させ、大きく変更される可能性が高い学習データを自システムが処理する。これによって、クラウド型のシステムのリソースの使用量（例えば、従量課金型のシステムの使用量）を抑えつつ、本発明の処理を適用しながら最も有効な局所的変数を設計できる。
なお、機械学習実行システム８００に学習させる第一階層学習データ１２０は、ユーザが指定してもよいし、初期設定として設定してもよい。
ステップＳ３０４では、情報処理装置１００は、機械学習実行システム８００によって生成された第一階層予測モデル１４０については、第一階層予測モデル管理情報９００のアドレス１００５と、第一階層学習データ１２０とを含む出力指示を送信する。情報処理装置１００は、機械学習実行システム８００によって算出された予測値を応答として受信し、メタ特徴量として保存する。
ステップＳ３０５では、情報処理装置１００は、予測モデル生成部１１２および機械学習実行システム８００の少なくともいずれかに第二階層予測モデル１５０の生成を指示する。
機械学習実行システム８００に第二階層予測モデル１５０の生成を指示する場合、使用する第二階層学習データ１３０を含む生成指示が機械学習実行システム８００に送信される。この場合、情報処理装置１００は、機械学習実行システム８００から第二階層予測モデル１５０のＵＲＬ等を含む応答を受信する。
なお、局所的変数の値等、外部への公開を望まない情報は、自システム内で処理するように構成すればよい。本実施例では、情報処理装置１００が最終的にメタ特徴量を統合することになる。
実施例２によれば、情報処理装置１００は、他のシステムと連携して学習および予測を行うことができる。これによって、豊富な計算機資源を有するクラウド型のシステムを用いて高度な学習処理を実現できる。また、予測モデルの生成を分散させて実行させることによって、処理負荷の分散および処理の高速化が可能となる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。また、例えば、上記した実施例は本発明を分かりやすく説明するために構成を詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、各実施例の構成の一部について、他の構成に追加、削除、置換することが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、本発明は、実施例の機能を実現するソフトウェアのプログラムコードによっても実現できる。この場合、プログラムコードを記録した記憶媒体をコンピュータに提供し、そのコンピュータが備えるプロセッサが記憶媒体に格納されたプログラムコードを読み出す。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施例の機能を実現することになり、そのプログラムコード自体、およびそれを記憶した記憶媒体は本発明を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）、光ディスク、光磁気ディスク、ＣＤ－Ｒ、磁気テープ、不揮発性のメモリカード、ＲＯＭなどが用いられる。
また、本実施例に記載の機能を実現するプログラムコードは、例えば、アセンブラ、Ｃ／Ｃ＋＋、ｐｅｒｌ、Ｓｈｅｌｌ、ＰＨＰ、Ｐｙｔｈｏｎ、Ｊａｖａ（登録商標）等の広範囲のプログラムまたはスクリプト言語で実装できる。
さらに、実施例の機能を実現するソフトウェアのプログラムコードを、ネットワークを介して配信することによって、それをコンピュータのハードディスクやメモリ等の記憶手段またはＣＤ－ＲＷ、ＣＤ－Ｒ等の記憶媒体に格納し、コンピュータが備えるプロセッサが当該記憶手段や当該記憶媒体に格納されたプログラムコードを読み出して実行するようにしてもよい。
上述の実施例において、制御線や情報線は、説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。全ての構成が相互に接続されていてもよい。
１００ 情報処理装置
１０１ 演算装置
１０２ 主記憶装置
１０３ 副記憶装置
１０４ ネットワークインタフェース
１０５ 入出力インタフェース
１１０ 制御部
１１１ 第一階層学習データ処理部
１１２ 予測モデル生成部
１１３ メタ特徴量生成部
１１４ 学習データ生成部
１１５ 学習処理組合決定部
１２０ 第一階層学習データ
１３０ 第二階層学習データ
１４０ 第一階層予測モデル
１５０ 第二階層予測モデル
１６０ 予測モデル管理情報
１７０ 予測処理パイプライン情報
８００ 機械学習実行システム
９００ 第一階層予測モデル管理情報
９０１ 第二階層予測モデル管理情報

Claims (10)

  1. 事象を予測する予測モデルを生成する計算機システムであって、
    演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ備え、
    複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数格納する記憶部と、
    前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する予測モデル生成部と、を備え、
    前記予測モデル生成部は、
    前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、
    前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、
    前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、
    前記複数の第一学習データは、
    前記事象の大域的な特徴が反映させた前記予測モデルを生成するための学習データと、
    前記事象の局所的な特徴が反映させた前記予測モデルを生成するための学習データと、
    を含むことを特徴とする計算機システム。
  2. 事象を予測する予測モデルを生成する計算機システムであって、
    演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ備え、
    複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数格納する記憶部と、
    前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する予測モデル生成部と、
    学習データ生成部と、を備え、
    前記予測モデル生成部は、
    前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、
    前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、
    前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、
    前記学習データ生成部は、
    複数の変数の値から構成されるデータを複数含む入力データと、前記複数の第一学習データの各々に含まれる前記サンプルデータを構成する前記特徴量変数を示す情報とを受け付け、
    前記情報に基づいて、前記入力データから前記複数の第一学習データを生成することを特徴とする計算機システム。
  3. 請求項２に記載の計算機システムであって、
    前記予測モデル生成部は、予測対象データが入力された場合に実行される予測処理に使用する情報として、前記入力データから前記第一学習データを生成するための処理の内容、前記第二学習データを生成するための処理の内容、および前記第二階層予測モデルの情報を含む予測処理パイプライン情報を生成することを特徴とする計算機システム。
  4. 事象を予測する予測モデルを生成する計算機システムであって、
    演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ備え、
    複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数格納する記憶部と、
    前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する予測モデル生成部と、
    学習データ生成部と、を備え、
    前記予測モデル生成部は、
    前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、
    前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、
    前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、
    前記学習データ生成部は、
    複数の変数の値から構成されるデータを複数含む入力データを受け付け、
    前記入力データに含まれる前記データを構成する前記複数の変数を分析し、
    前記分析結果に基づいて、前記入力データから前記複数の第一学習データを生成し、
    さらに、前記予測モデル生成部は、予測対象データが入力された場合に実行される予測処理に使用する情報として、前記入力データから前記第一学習データを生成するための処理の内容、前記第二学習データを生成するための処理の内容、および前記第二階層予測モデルの情報を含む予測処理パイプライン情報を生成することを特徴とする計算機システム。
  5. 事象を予測する予測モデルを生成する計算機システムであって、
    演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ備え、
    複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数格納する記憶部と、
    前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する予測モデル生成部と、を備え、
    前記予測モデル生成部は、
    前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、
    前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、
    前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、
    前記第二階層予測モデルの予測精度を評価し、
    前記第二階層予測モデルの予測精度の評価結果に基づいて、予測精度が最も高くなる、前記第二階層予測モデルを学習するために使用する前記メタ特徴量の組合せ、および前記第二学習データに対して適用する前記機械学習アルゴリズムの種類を提示するための提示情報を生成し、
    前記提示情報を出力することを特徴とする計算機システム。
  6. 計算機システムが実行する、事象を予測する予測モデルを生成する情報処理方法であって、
    前記計算機システムは、演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ含み、
    前記情報処理方法は、
    前記演算装置が、複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数、前記記憶装置に格納する第１のステップと、
    前記演算装置が、前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する第２のステップと、を含み、
    前記第２のステップは、
    前記演算装置が、前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、前記複数の第一階層予測モデルを前記記憶装置に格納するステップと、
    前記演算装置が、前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、前記第二学習データを前記記憶装置に格納するステップと、
    前記演算装置が、前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、前記第二階層予測モデルを前記記憶装置に格納するステップと、を含み、
    前記複数の第一学習データは、
    前記事象の大域的な特徴が反映させた前記予測モデルを生成するための学習データと、
    前記事象の局所的な特徴が反映させた前記予測モデルを生成するための学習データと、
    を含むことを特徴とする情報処理方法。
  7. 計算機システムが実行する、事象を予測する予測モデルを生成する情報処理方法であって、
    前記計算機システムは、演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ含み、
    前記情報処理方法は、
    前記演算装置が、複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数、前記記憶装置に格納する第１のステップと、
    前記演算装置が、前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する第２のステップと、を含み、
    前記第２のステップは、
    前記演算装置が、前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、前記複数の第一階層予測モデルを前記記憶装置に格納するステップと、
    前記演算装置が、前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、前記第二学習データを前記記憶装置に格納するステップと、
    前記演算装置が、前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、前記第二階層予測モデルを前記記憶装置に格納するステップと、を含み、
    前記第１のステップは、
    前記演算装置が、複数の変数の値から構成されるデータを複数含む入力データと、前記複数の第一学習データの各々に含まれる前記サンプルデータを構成する前記特徴量変数を示す情報とを受け付けるステップと、
    前記演算装置が、前記情報に基づいて、前記入力データから前記複数の第一学習データを生成し、前記複数の第一学習データを前記記憶装置に格納するステップと、を含むことを特徴とする情報処理方法。
  8. 請求項７に記載の情報処理方法であって、
    前記演算装置が、予測対象データが入力された場合に実行される予測処理に使用する情報として、前記入力データから前記第一学習データを生成するための処理の内容、前記第二学習データを生成するための処理の内容、および前記第二階層予測モデルの情報を含む予測処理パイプライン情報を生成するステップと、
    前記演算装置が、前記予測処理パイプライン情報を前記記憶装置に格納するステップと、を含むことを特徴とする情報処理方法。
  9. 計算機システムが実行する、事象を予測する予測モデルを生成する情報処理方法であって、
    前記計算機システムは、演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ含み、
    前記情報処理方法は、
    前記演算装置が、複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数、前記記憶装置に格納する第１のステップと、
    前記演算装置が、前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する第２のステップと、を含み、
    前記第２のステップは、
    前記演算装置が、前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、前記複数の第一階層予測モデルを前記記憶装置に格納するステップと、
    前記演算装置が、前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、前記第二学習データを前記記憶装置に格納するステップと、
    前記演算装置が、前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、前記第二階層予測モデルを前記記憶装置に格納するステップと、を含み、
    前記第１のステップは、
    前記演算装置が、複数の変数の値から構成されるデータを複数含む入力データを受け付けるステップと、
    前記演算装置が、前記入力データに含まれるデータを構成する前記複数の変数を分析するステップと、
    前記演算装置が、前記分析結果に基づいて、前記入力データから前記複数の第一学習データを生成し、前記複数の第一学習データを前記記憶装置に格納するステップと、を含み、
    さらに、前記情報処理方法は、
    前記演算装置が、予測対象データが入力された場合に実行される予測処理に使用する情報として、前記入力データから前記第一学習データを生成するための処理の内容、前記第二学習データを生成するための処理の内容、および前記第二階層予測モデルの情報を含む予測処理パイプライン情報を生成するステップと、
    前記演算装置が、前記予測処理パイプライン情報を前記記憶装置に格納するステップと、を含むことを特徴とする情報処理方法。
  10. 計算機システムが実行する、事象を予測する予測モデルを生成する情報処理方法であって、
    前記計算機システムは、演算装置、記憶装置、および接続インタフェースを有する計算機を少なくとも一つ含み、
    前記情報処理方法は、
    前記演算装置が、複数の特徴量変数の値と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第一学習データを複数、前記記憶装置に格納する第１のステップと、
    前記演算装置が、前記複数の第一学習データを用いて複数の予測モデルを生成し、前記複数の予測モデルの予測値に基づいて最終的な予測値を算出する予測モデルを生成する第２のステップと、を含み、
    前記第２のステップは、
    前記演算装置が、前記複数の第一学習データの各々に、複数の機械学習アルゴリズムを適用することによって複数の第一階層予測モデルを生成し、前記複数の第一階層予測モデルを前記記憶装置に格納するステップと、
    前記演算装置が、前記複数の第一階層予測モデルの予測値から算出されるメタ特徴量と、前記事象の予測の正解値とから構成されるサンプルデータを複数含む第二学習データを生成し、前記第二学習データを前記記憶装置に格納するステップと、
    前記演算装置が、前記第二学習データに対して機械学習アルゴリズムを適用することによって、最終的な前記事象の予測値を出力する第二階層予測モデルを生成し、前記第二階層予測モデルを前記記憶装置に格納するステップと、を含み、
    さらに、前記情報処理方法は、
    前記演算装置が、前記第二階層予測モデルの予測精度を評価するステップと、
    前記演算装置が、前記第二階層予測モデルの予測精度の評価結果に基づいて、予測精度が最も高くなる、前記第二階層予測モデルを学習するために使用する前記メタ特徴量の組合せ、および前記第二学習データに対して適用する前記機械学習アルゴリズムの種類を提示するための提示情報を生成するステップと、
    前記演算装置が、前記提示情報を出力するステップと、を含むことを特徴とする情報処理方法。
JP2020150553A 2020-09-08 2020-09-08 計算機システムおよび情報処理方法 Active JP7479251B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020150553A JP7479251B2 (ja) 2020-09-08 2020-09-08 計算機システムおよび情報処理方法
US17/192,057 US20220076161A1 (en) 2020-09-08 2021-03-04 Computer system and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020150553A JP7479251B2 (ja) 2020-09-08 2020-09-08 計算機システムおよび情報処理方法

Publications (2)

Publication Number Publication Date
JP2022045064A JP2022045064A (ja) 2022-03-18
JP7479251B2 true JP7479251B2 (ja) 2024-05-08

Family

ID=80470744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020150553A Active JP7479251B2 (ja) 2020-09-08 2020-09-08 計算機システムおよび情報処理方法

Country Status (2)

Country Link
US (1) US20220076161A1 (ja)
JP (1) JP7479251B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11615330B2 (en) * 2020-03-18 2023-03-28 Kyndryl, Inc. Virtual subject matter expert provisioning
JP7366218B1 (ja) * 2022-09-16 2023-10-20 ラクテン アジア プライベート リミテッド 情報処理装置、方法及びプログラム
CN118468045B (zh) * 2024-07-12 2024-09-24 之江实验室 一种模型训练加速方法、装置及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001243210A (ja) 2000-03-02 2001-09-07 Kddi Corp 並列ニューラルネットワーク装置
US20190102684A1 (en) 2017-09-29 2019-04-04 Sony Interactive Entertainment Inc. Mobile and autonomous personal companion based on an artificial intelligence (ai) model for a user

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11100420B2 (en) * 2014-06-30 2021-08-24 Amazon Technologies, Inc. Input processing for machine learning

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001243210A (ja) 2000-03-02 2001-09-07 Kddi Corp 並列ニューラルネットワーク装置
US20190102684A1 (en) 2017-09-29 2019-04-04 Sony Interactive Entertainment Inc. Mobile and autonomous personal companion based on an artificial intelligence (ai) model for a user

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
保科学世、アクセンチュアビジネスコンサルティング本部ＡＩグループ，アクセンチュアのプロが教える ＡＩ時代の実践データ・アナリティクス ，１版１刷，日本，2020年08月21日，pp.117-139

Also Published As

Publication number Publication date
US20220076161A1 (en) 2022-03-10
JP2022045064A (ja) 2022-03-18

Similar Documents

Publication Publication Date Title
JP7479251B2 (ja) 計算機システムおよび情報処理方法
Deng Interpreting tree ensembles with intrees
Serban et al. A survey of intelligent assistants for data analysis
Deelman et al. The role of machine learning in scientific workflows
US8775338B2 (en) Computer-implemented systems and methods for constructing a reduced input space utilizing the rejected variable space
JP7000766B2 (ja) 学習データ選択プログラム、学習データ選択方法、および、学習データ選択装置
Jankovic et al. Towards feature-based performance regression using trajectory data
US20210342735A1 (en) Data model processing in machine learning using a reduced set of features
US11443238B2 (en) Computer system and presentation method of information
JP7232122B2 (ja) 物性予測装置及び物性予測方法
US11210444B1 (en) Timing assistant for dynamic voltage drop impact on setup/hold constraints
Gokilavani et al. Test case prioritization to examine software for fault detection using PCA extraction and K-means clustering with ranking
US11521077B1 (en) Automatic recommendation of predictor variable values for improving predictive outcomes
JP2019185591A (ja) 実験支援装置及び実験支援方法
Kumara et al. FOCloud: feature model guided performance prediction and explanation for deployment configurable cloud applications
CN111260142B (zh) 商品指标数据预测方法、装置、存储介质及电子设备
Carrizosa et al. Mathematical optimization modelling for group counterfactual explanations
Samreen et al. Transferable knowledge for low-cost decision making in cloud environments
Mohamed et al. End-to-end latency prediction of microservices workflow on kubernetes: A comparative evaluation of machine learning models and resource metrics
Sousa et al. Applying Machine Learning to Estimate the Effort and Duration of Individual Tasks in Software Projects
El Hajjami et al. Machine learning system for fraud detection. a methodological approach for a development platform
Shahmirzadi et al. Analyzing the impact of various parameters on job scheduling in the Google cluster dataset
JP2023064408A (ja) アンケート結果分析プログラム、アンケート結果分析方法、および情報処理装置
Arar et al. The Verification Cockpit–Creating the Dream Playground for Data Analytics over the Verification Process
CN116542511B (zh) 风控模型创建方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240423

R150 Certificate of patent or registration of utility model

Ref document number: 7479251

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150