JP2000250885A - 集合型予測装置 - Google Patents

集合型予測装置

Info

Publication number
JP2000250885A
JP2000250885A JP4818499A JP4818499A JP2000250885A JP 2000250885 A JP2000250885 A JP 2000250885A JP 4818499 A JP4818499 A JP 4818499A JP 4818499 A JP4818499 A JP 4818499A JP 2000250885 A JP2000250885 A JP 2000250885A
Authority
JP
Japan
Prior art keywords
prediction
weight
value
online
input data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4818499A
Other languages
English (en)
Other versions
JP3365490B2 (ja
Inventor
Kenji Yamanishi
健司 山西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Real World Computing Partnership
Original Assignee
NEC Corp
Real World Computing Partnership
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, Real World Computing Partnership filed Critical NEC Corp
Priority to JP04818499A priority Critical patent/JP3365490B2/ja
Publication of JP2000250885A publication Critical patent/JP2000250885A/ja
Application granted granted Critical
Publication of JP3365490B2 publication Critical patent/JP3365490B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

(57)【要約】 【課題】 用意された複数の予測関数のうちの最良の予
測関数の性能をも上回る予測精度をもつ、集合型のオン
ライン予測方式を実現する装置を提供する。 【解決手段】 データ空間を複数の領域に分割し、各分
割領域に対応させて予測値計算装置121〜12sを設
ける。また、各予測値計算装置に対応させて、重み情報
を記憶する重み記憶装置131〜13sと重み更新装置
141〜14sを設ける。領域判別装置11は、入力デ
ータがどの分割領域に属するか判別して、対応する予測
値計算装置及び重み更新装置へ入力データを供給する。
入力データを受け取った予測値計算装置は、重み記憶装
置に記憶された重みを複数の予測関数に適用して予測値
を求め、最終予測値計算装置15へ出力する。重み更新
装置は、入力データと正解値とに基づいて重み情報を更
新する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、未知データを予測
するための複数の予測関数を備えた集合型予測装置に関
する。
【0002】
【従来の技術】機械学習技術には、逐次入力されるデー
タに基づいて未知データを予測させ、その後、正解値を
与えることにより、予測方法を修正し、より精度の高い
予測を可能にするものがある。そして、未知データを予
測する予測法式としては、複数の予測関数を用意し、こ
れら予測関数に入力データを与えて複数の予測結果を求
め、これらの予測結果の組合せにより未来のデータを予
測する集合型予測方式と呼ばれるものがある。
【0003】この種の集合型予測方式としては、例えば
Haussler, Kivinen, Warmuthによる方式(Tight worst-
case loss bounds for predicting with expert advic
e, Computational Learning Theory: Second European
Conference, EuroCOLT'95, pp.69-83, Springer, (199
5))や、Vovkによる方式(Aggregating strategies, Pr
oceedings of the Third Annual Workshop on Computat
ional Learning Theory,pp.371-386, Morgan Kaufmann
(1990))や、Yamanishiによる方式(A decision-theore
tic extension of stochastic complexity and its app
roximation to learning, IEEE Transactions on Infor
mation Theory, vol.IT-44, 4(1998), 1424-1439.)等
が知られている。
【0004】これらの集合型予測方式は、いずれも、入
力データを複数の予測関数に与え、得られた複数の予測
結果を加重平均等して組み合わせ、予測値とするもので
ある。このような集合型予測方式では、例えば、求めた
予測値が正解値に近づくよう、加重平均に使用される重
みを調整することで、予測精度を向上させることができ
る。
【0005】
【発明が解決しようとする課題】しかしながら、従来の
集合型予測方式では、用意された複数の予測関数の各々
による累積損失のうち、最小のものより小さい累積予測
損失を達成できない、という意味で、用意された複数の
予測関数のうちの最良の予測関数の性能を上回ることが
出来ないという問題点がある。
【0006】本発明の目的は、用意された複数の予測関
数のうちの最良の予測関数の性能をも上回る予測精度を
もつ、集合型のオンライン予測方式を実現する装置を提
供することにある。
【0007】
【課題を解決するための手段】本発明によれば、複数の
予測関数を利用して、所定のデータ空間に属する入力デ
ータから予測値を求める集合型予測装置において、前記
データ空間を複数の分割領域に分割し、前記入力データ
が前記複数の分割領域のいずれに属するか判断して、前
記分割領域毎に、前記予測値を求めるようにしたことを
特徴とする集合型予測装置が得られる。
【0008】具体的には、上記集合型予測装置は、前記
複数の分割領域にそれぞれ対応し、各々が前記複数の予
測関数を備えた複数の予測値計算手段と、該複数の予測
値計算手段にそれぞれ対応し、各予測値計算手段におい
て使用される前記複数の予測関数にそれぞれ対応する第
1の重み情報を各々記憶する複数の第1の重み記憶手段
とを有し、前記複数の分割領域毎に、前記第1の重み情
報に基づいて、前記複数の予測関数に重み付けをするよ
うにしている。
【0009】また、上記集合型予測装置は、前記入力デ
ータが前記複数の分割領域のいずれに属するか判断し、
前記入力データが属する分割領域に対応する前記予測値
計算手段へ、当該入力データを供給する領域判別手段を
有している。
【0010】さらに、上記集合型予測装置は、前記複数
の第1の重み記憶手段にそれぞれ対応し、各々が前記入
力データと外部から新たに与えられる正解値とに基づい
て、前記第1の重み情報を更新する複数の第1の重み更
新手段を備えている。
【0011】また、本発明によれば、上記集合型予測装
置を複数備え、各集合型予測装置におけるデータ空間の
領域分割が互いに異なるようにし、全ての集合型予測装
置から出力される予測値を組み合わせて最終予測値を求
めるようにしたことを特徴とする階層的集合型予測装置
が得られる。
【0012】具体的には、上記階層的集合型予測装置
は、前記集合型予測装置から出力される予測値に重み付
けをするための第2の重み情報を記憶する第2の重み記
憶手段と、前記入力データと前記正解値とに基づいて、
前記第2の重み情報を更新する第2の重み更新手段とを
備えている。
【0013】前記第2の重み情報としては、重み関数を
用いることができる。
【0014】さらに、本発明によれば、データ空間の領
域分割と予測関数の集合が予め与えられているとして、
オンラインで与えられる入力データが該分割のどの領域
に属するかを判別する領域判別装置と、分割された領域
ごとに、該予測関数の各々に対する重みを記憶する重み
記憶装置と、該重み記憶装置に接続して、該重みを読み
出し、該予測関数の各々の予測損失の指数べきの該重み
に関する重み付き平均に基づいて予測値を算出する予測
値計算装置と、該予測値計算装置に接続して該予測値と
正解値とから該予測関数の各々の重みを乗算的に更新し
て、該重み記憶装置の記憶内容を書き換える重み更新装
置と、最終予測値計算装置を備えており、入力データが
属する分割領域に対応する予測値計算装置の出力値を予
測値として最終予測値計算装置が出力する、オンライン
集合型予測装置が得られる。
【0015】さらにまた、本発明によれば、データ空間
の領域分割と予測関数の集合が予め与えられているとし
て、 オンラインで与えられる入力データに対して異な
る領域分割に対応して、該予測関数の集合を用いて予測
値を出力する、複数の上記オンライン集合型予測装置
と、 該オンライン集合型予測装置の各々の重みを記憶
する重み記憶装置と、 該重み記憶装置と該オンライン
集合型予測装置の全てに接続して、該重みを読み出し、
該オンライン集合型予測装置の予測値の予測損失の指数
べきの該重みに関する重み付き平均に基づいて予測値を
算出する最終予測値計算装置と、該予測値計算装置に接
続して該予測値と正解値とから該オンライン集合型予測
装置の各々の重みを乗算的に更新して、該重み記憶装置
の記憶内容を書き換える重み更新装置とを備えており、
最終予測値計算装置の出力値を予測値として出力する、
オンライン階層的集合型予測装置が得られる。
【0016】また、本発明によれば、 データ空間の領
域分割と予測関数の集合が予め与えられているとして、
異なる領域分割に対応して、オンラインで与えられる入
力データに対して該予測関数の集合を用いて予測値を出
力する、複数の上記オンライン集合型予測装置と、該予
測値の線形結合係数の重み関数を記憶する重み関数記憶
装置と、該重み関数記憶装置と該オンライン集合型予測
装置の全てに接続して、該重み関数を読み出し、該オン
ライン集合型予測装置の全ての予測値の線形結合の予測
損失の指数べきの該重み関数に関する重み付き平均に基
づいて予測値を算出する最終予測値計算装置と、該予測
値計算装置に接続して該予測値と正解値とから該重み関
数を乗算的に更新して、該重み関数記憶装置の記憶内容
を書き換える重み関数更新装置とを備えており、最終予
測値算出装置の出力値を予測値として出力する、オンラ
イン階層的集合型予測装置が得られる。
【0017】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して詳細に説明する。
【0018】図1に、本発明の第1の実施の形態による
オンライン集合型予測装置の全体構成図を示す。この集
合型予測装置は、逐次入力データを供給する装置等にオ
ンライン接続された領域判別装置11、領域判別装置1
1に接続されたs個(s:2以上の整数)の予測値計算
装置121〜12s、予測値計算装置121〜12sに
それぞれ接続されたs個の重み記憶装置131〜13
s、領域判別装置11と各予測値計算装置121〜12
sとの間に接続されたs個の重み更新装置141〜14
s、及び全ての予測値計算装置121〜12sと出力端
子との間に接続された最終予測値計算装置15を有して
いる。
【0019】領域判別装置11には、予め、データ空間
をs個に分割するための情報が与えられている。例え
ば、データ空間が一次元領域[a,b]である場合に、
a=a_{0}<a_{1}<a_{2}<・・・<a_{s-2}<a_{s-1}
<a_{s}=b、が与えることにより、s個の分割領域[a
_{0},a_{1}],[a_{1},a_{2}],・・・,[a_{s-
2},a_{s-1}],及び[a_{s-1},a_{s}]、が定まる。
一例を挙げれば、データ空間が[0,1]の場合に、
0,0.5,及び1を与えれば、[0,0.5]及び[0.5,
1]がs=2の分割領域として定まる。なお、データ空
間の分割は、分割された領域がそれぞれ予測値計算装置
121〜12sに対応するように行われる。
【0020】この領域判別装置11は、入力された入力
データが、空間データのどの分割領域に属するか判別
し、その分割領域に対応する予測値計算装置12j(j
=1,2,・・・,s)及び重み更新装置14jへ出力
する。
【0021】予測値計算装置121〜12sは、全て
が、同一の予測関数の集合(即ち、複数の予測関数)を
有している。そして、各予測値計算装置121〜12s
は、領域判別装置11から入力データが与えられると、
複数の予測関数を用いて予測値を求める。なお、この予
測値を求める演算には、後述の重みが利用される。
【0022】重み記憶装置131〜13sは、各予測値
計算装置121〜12sが予測値を計算する際にそれぞ
れ使用する重みを表す重み情報を記憶している。重み記
憶装置131〜13sは、それぞれ独自に重み更新装置
141〜14sにより更新される。従って、各重み記憶
装置131〜13sが記憶する重み情報は、他の重み情
報装置が記憶する重み情報とは異なることのほうが多
い。
【0023】重み更新装置141〜14sは、領域判別
装置11から入力データが与えられると、それを記憶し
ておく。その後、領域判別装置11から正解値が与えら
れると、入力データ及び正解値を用いて所定の計算を行
い、新たな重み情報を生成する。新たな重み情報は、重
み記憶装置131〜13sに出力され、記憶される。
【0024】以下、このオンライン集合型予測装置の動
作について説明する。ここで、予測値のとり得る値の範
囲(データ空間)は、У=[0,1]とする。また、直
積集合У×Уから正の数への写像として、損失関数Lを
固定する。なお、L(y、z)は、yをzで予測したと
きの損失値である。
【0025】離散時刻tに、入力端子に入力データxt
が与えられると、領域判別装置11は、データ空間のど
の分割領域に属するのかを判定し、入力データxtをそ
の分割領域に対応する予測値計算装置12jと重み更新
装置14jに送る。
【0026】予測値計算装置12jは、入力データxt
が与えられると、複数個の予測関数からなる集合{f1
(x),・・・,fN(x)}、(Nは2以上の整数)
を用いて、重み記憶装置13jからそれぞれの予測関数
の重みω(i)、(i=1,2,・・・,N)を読み出
して、Δ(0)とΔ(1)とを数式1に基づいて計算す
る。なお、予測関数fi(x),(i=1,2,・・
・,N)は、それぞれ時間とともに変わるものであって
もよい。
【0027】
【数1】 ここで、λ*は、L0(z)=L(0、z)、かつL
1(z)=L(1、z)であるとして、数式2で与えら
れる定数である。
【0028】
【数2】 また、予測値計算装置12jは、求めたΔ(0)及びΔ
(1)の値を用いて、数式4を用いて予測値
【0029】
【数3】 を計算する。
【0030】
【数4】 求めた予測値
【0031】
【数5】 は、最終予測値計算装置15に送られ、このオンライン
集合型予測装置の出力値(最終予測値)として外部へ出
力される。
【0032】予測値出力後、領域判別装置11は、正解
値ytを入力データとして受け取り、先程の入力データ
tの出力先である重み更新装置14jに送る。重み更
新装置14jは、各予測関数の重みω(i)(i=1,
2,・・・,N)を数式6のように更新する。
【0033】
【数6】 なお、領域判別装置11及び重み更新装置14jにおけ
る、入力データxtと正解値ytとの識別は、これらのデ
ータに識別情報を含ませてもよいし、外部から切替え信
号を与えることにより識別するようにしてもよい。
【0034】更新された予測関数の重みω(i)は、重
み記憶装置13jに送られ、重み記憶装置13jは、記
憶する重みω(i)の値を書き換える。
【0035】今、長さmのデータ列Dm=D12・・・
m、(Dt=(xt,yt),(t=1,2,・・・,
m))と、領域分割
【0036】
【数7】 に対して、Dmの中でχuに属するデータの集合をD
m(u)と書く。また、与えられた予測関数の集合{fi
(x):i=1,2,・・・,N}に対して、そこに含
まれる予測関数fiに対するDm(u)に関する予測損失
をL(Dm(u):fi)と書く。即ち、予測損失L(D
m(u):fi)は、数式8で表わされる。
【0037】
【数8】 このとき、本実施の形態によるオンライン集合型予測装
置の累積予測損失は、数式9で上から抑えられる。
【0038】
【数9】 ここで、sは、領域分割における分割領域数である。
【0039】よって、この予測損失の上界は、十分大き
なデータ数に対しては、最良の予測損失min1iN
(yt,fi(xt))よりも小さくなる。従って、本実
施の形態によるオンライン集合型予測装置は、最良の予
測関数の性能をも上回るような予測精度を持つ。
【0040】次に、図2を参照して本発明の第2の実施
の形態によるオンライン階層的集合型予測装置について
説明する。このオンライン階層的集合型予測装置は、複
数のオンライン集合型予測装置211〜21Kを備えて
いる。各オンライン集合型予測装置は、図1の装置に相
当する。ただし、各オンライン集合型予測装置211〜
21Kは、他のオンライン集合型予測装置とは、互いに
異なる領域分割をもつ。即ち、データ空間の分割の仕方
が互いに異なる。例えば、データ空間を[0,1]とした
場合に、オンライン集合型予測装置211では、データ
空間を[0,0.5]と[0.5,1]の2つの領域に分割し
ており、オンライン集合型予測装置212では、[0,
0.3],[0.3,0.6]及び[0.6,1]の3つの領域に分
割してあるといった具合である。従って、各オンライン
集合型予測装置211〜21Kにおける分割領域数s
は、互いに異なるか、分割領域数sが同じでも、各領域
の範囲が異なる。
【0041】また、このオンライン階層的集合型予測装
置は、各オンライン集合型予測装置211〜21Kがそ
れぞれ備えている最終予測値計算装置15、重み更新装
置141〜14s、及び重み記憶装置131〜13sと
は異なる、最終予測値計算装置22、重み更新装置2
3、及び重み記憶装置24を有している。最終予測値計
算装置22及び重み更新装置23は、それぞれ全てのオ
ンライン集合型予測装置211〜21Kに接続されてい
る。また、重み記憶装置24は、重み更新装置23と最
終予測値計算装置22との間に接続されている。
【0042】以下、本実施の形態によるオンライン階層
的集合型予測装置の動作について説明する。ここで、予
測値のとり得る値の範囲はУ=[0、1]であるとす
る。
【0043】このオンライン階層的集合型予測装置に対
して、離散時刻tに、入力データxtが与えられると、
この入力データxtは、全てのオンライン集合型予測装
置211〜21Kに供給される。
【0044】各オンライン集合型予測装置21k(k=
1,2,・・・,K)は、データxtを入力として、第1
の実施の形態において説明したようにして、それぞれ予
測値zt,kを求め、最終予測値計算装置22へ出力す
る。
【0045】最終予測値計算装置22は、オンライン集
合型予測装置211〜21Kから送られてくる予測値z
t,1,zt,2,・・・,zt,Kを受け取ると、重み記憶装
置24から各オンライン集合型予測装置に対応する予測
関数の重みω(k)、(k=1,2,・・・,K)を読
み出し、数式10に基づいて、Δ(0)とΔ(1)とを
求める。
【0046】
【数10】 ここで、λ*は、数式2に同じである。
【0047】それから、最終予測値計算装置22は、Δ
(0)とΔ(1)との値を用いて、数式12に基づいて
最終予測値
【0048】
【数11】 を求める。
【0049】
【数12】 求めた最終予測値
【0050】
【数13】 は、このオンライン階層的集合型予測装置の出力とし
て、外部へ出力される。
【0051】その後、重み更新装置23には、正解値y
tが入力される。そして、重み更新装置23は、各オン
ライン集合型予測装置211〜21Kからの予測値と正
解値とに基づいて、各予測関数の重みω(k)、(k=
1,2,・・・,K)を数式14で表わされるように更
新し、重み記憶装置24へ出力する。
【0052】
【数14】 重み記憶装置24は、重み更新装置23の出力基づき、
記憶する重みω(k)の値を書き換える。
【0053】今、与えられた領域分割の集合をS={S
k:k=1,2,・・・,K}として、その中の分割Sk
に対して、長さmのデータ列Dm=D12・・・Dm
(Dt=(xt,yt),(t=1,2,・・・,m))
の中でχuに属するデータの集合をDm(u,k)と書
く。与えられた予測関数の集合{fi(x):i=1,
2,・・・,N}に対して、そこに含まれる予測関数f
iに対するDm(u,k)に関する予測損失をL(D
m(u,k):fi)と書く。即ち、予測損失L(D
m(u,k):fi)は、数式15で表わされる。
【0054】
【数15】 このとき、本実施の形態によるオンライン階層的集合型
予測装置の累積予測損失は、数式16で上から抑えられ
る。
【0055】
【数16】 ここで、skは、領域分割Skにおける分割領域数であ
る。よってこの予測損失の上界は、十分大きなデータ数
に対しては、最良の予測関数の予測損失min1iN
(yt,fi(xt))よりも小さくなる。したがって、
本実施の形態のよるオンライン階層的集合型予測装置
は、最良の予測関数の性能をも上回る予測精度を持つ。
【0056】次に、図3を参照して、本発明の第3の実
施の形態によるオンライン階層的集合型予測装置につい
て説明する。本実施の形態によるオンライン階層的集合
型予測装置は、図2の装置における最終予測値計算装置
22、重み更新装置23及び重み記憶装置24に代え
て、これらと異なる動作を行う最終予測値計算装置3
2、重み関数更新装置33及び重み関数記憶装置34を
備えている。
【0057】以下、本実施の形態によるオンライン階層
的集合型予測装置の動作について説明する。ここで、予
測値のとり得る値の範囲は、У=[0,1]であるとす
る。また、パラメータθ=(θ1,θ2,・・・,θK
は、コンパクト空間Θ上に値をとるとする。
【0058】離散時刻tにおいて、データxtが入力さ
れると、各オンライン集合型予測装置21k(k=1,
2,・・・,K)は、それぞれ、予測値zt,kを求め、
最終予測値計算装置32へ出力する。
【0059】最終予測値計算装置32は、全てのオンラ
イン集合型予測装置211〜21Kの出力、zt,1,z
t,2,・・・、及びzt,Kを入力とし、重み関数記憶装置
34から重み関数ω(θ)を読み出して、Δ(0)とΔ
(1)とを数式17に基づき計算する。
【0060】
【数17】 ここで、λ*は数式2と同じである。また、zt=(z
t,1,zt,2,・・・,zt,K)であり、θTtは、数式
18で与えられる。
【0061】
【数18】 また、最終予測値計算装置32は、上記のようにして求
めたΔ(0)とΔ(1)の値を用いて、数式20のよう
に最終予測値
【0062】
【数19】 を計算する。
【0063】
【数20】 こうして求めた最終予測値
【0064】
【数21】 は、このオンライン階層的集合型予測装置の出力として
外部へ出力される。
【0065】最終予測値出力後、重み関数更新装置33
には、正解値ytが与えられる。重み関数更新装置33
は、重み関数を数式22で示すように更新し、重み関数
記憶装置34へ出力する。
【0066】
【数22】 重み関数記憶装置34は、重み関数更新装置33の出力
に基づいて、記憶する重み関数ω(θ)を更新する。
【0067】本実施の形態によるオンライン集合型予測
装置の累積予測損失は、zt,kをオンライン集合型予測
装置21k(k=1,2,・・・,K)の出力とし、z
t=(zt,1,zt,2,・・・,zt,K)として、 数式2
3で上から抑えられる。
【0068】
【数23】 ここで、μは、LとΘとによって定まる数である。
【0069】このように、この予測損失の上界は、十分
大きなデータ数に対しては、最良の予測関数の予測損失
min1iNL(yt,fi(xt))よりも小さくなる。
したがって、本実施の形態によるオンライン階層的集合
型予測装置は、最良の予測関数の性能をも上回る予測精
度を持つ。
【0070】
【発明の効果】本発明によれば、データ空間を複数の領
域に分割し、各分割領域毎に予測値を求めるようにした
ことで、予め用意された複数の予測関数のうち最良の予
測関数の性能を上回る予測精度を実現できる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態によるオンライン集
合型予測装置の構成を示すブロック図である。
【図2】本発明の第2の実施の形態によるオンライン階
層型集合型予測装置の構成を示すブロック図である。
【図3】本発明の第3の実施の形態によるオンライン階
層型集合型予測装置の構成を示すブロック図である。
【符号の説明】
11 領域判別装置 121〜12s 予測値計算装置 131〜13s 重み記憶装置 141〜14s 重み更新装置 15 最終予測値計算装置 211〜21K オンライン集合型予測装置 22 最終予測値計算装置 23 重み更新装置 24 重み記憶装置 32 最終予測値計算装置 33 重み関数更新装置 34 重み関数記憶装置

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 複数の予測関数を利用して、所定のデー
    タ空間に属する入力データから予測値を求める集合型予
    測装置において、 前記データ空間を複数の分割領域に分割し、 前記入力データが前記複数の分割領域のいずれに属する
    か判断して、 前記分割領域毎に、前記予測値を求めるようにした、こ
    とを特徴とする集合型予測装置。
  2. 【請求項2】 前記複数の分割領域にそれぞれ対応し、
    各々が前記複数の予測関数を備えた複数の予測値計算手
    段と、 該複数の予測値計算手段にそれぞれ対応し、各予測値計
    算手段において使用される前記複数の予測関数にそれぞ
    れ対応する第1の重み情報を各々記憶する複数の第1の
    重み記憶手段とを有し、 前記複数の分割領域毎に、前記第1の重み情報に基づい
    て、前記複数の予測関数に重み付けをするようにした、
    ことを特徴とする請求項1の集合型予測装置。
  3. 【請求項3】 前記入力データが前記複数の分割領域の
    いずれに属するか判断し、前記入力データが属する分割
    領域に対応する前記予測値計算手段へ、当該入力データ
    を供給する領域判別手段を有することを特徴とする請求
    項2の集合型予測装置。
  4. 【請求項4】 前記複数の第1の重み記憶手段にそれぞ
    れ対応し、各々が前記入力データと外部から新たに与え
    られる正解値とに基づいて、前記第1の重み情報を更新
    する複数の第1の重み更新手段を備えていることを特徴
    とする請求項2又は3の集合型予測装置。
  5. 【請求項5】 請求項1,2,3又は4の集合型予測装
    置を複数備え、各集合型予測装置におけるデータ空間の
    領域分割が互いに異なるようにし、全ての集合型予測装
    置から出力される予測値を組み合わせて最終予測値を求
    めるようにしたことを特徴とする階層的集合型予測装
    置。
  6. 【請求項6】 前記集合型予測装置から出力される予測
    値に重み付けをするための第2の重み情報を記憶する第
    2の重み記憶手段と、前記入力データと前記正解値とに
    基づいて、前記第2の重み情報を更新する第2の重み更
    新手段とを備えていることを特徴とする請求項5の階層
    的集合型予測装置。
  7. 【請求項7】 前記重み情報が、前記集合型予測装置に
    それぞれ対応する重み関数を表すことを特徴とする請求
    項6の階層的集合型予測装置。
  8. 【請求項8】 データ空間の領域分割と予測関数の集合
    が予め与えられているとして、オンラインで与えられる
    入力データが該分割のどの領域に属するかを判別する領
    域判別装置と、分割された領域ごとに、該予測関数の各
    々に対する重みを記憶する重み記憶装置と、該重み記憶
    装置に接続して、該重みを読み出し、該予測関数の各々
    の予測損失の指数べきの該重みに関する重み付き平均に
    基づいて予測値を算出する予測値計算装置と、該予測値
    計算装置に接続して該予測値と正解値とから該予測関数
    の各々の重みを乗算的に更新して、該重み記憶装置の記
    憶内容を書き換える重み更新装置と、最終予測値計算装
    置を備えており、入力データが属する分割領域に対応す
    る予測値計算装置の出力値を予測値として最終予測値計
    算装置が出力する、オンライン集合型予測装置。
  9. 【請求項9】 データ空間の領域分割と予測関数の集合
    が予め与えられているとして、オンラインで与えられる
    入力データに対して異なる領域分割に対応して、該予測
    関数の集合を用いて予測値を出力する、複数の請求項8
    のオンライン集合型予測装置と、 該オンライン集合型
    予測装置の各々の重みを記憶する重み記憶装置と、該重
    み記憶装置と該オンライン集合型予測装置の全てに接続
    して、該重みを読み出し、該オンライン集合型予測装置
    の予測値の予測損失の指数べきの該重みに関する重み付
    き平均に基づいて予測値を算出する最終予測値計算装置
    と、該予測値計算装置に接続して該予測値と正解値とか
    ら該オンライン集合型予測装置の各々の重みを乗算的に
    更新して、該重み記憶装置の記憶内容を書き換える重み
    更新装置とを備えており、最終予測値計算装置の出力値
    を予測値として出力する、オンライン階層的集合型予測
    装置。
  10. 【請求項10】 データ空間の領域分割と予測関数の集
    合が予め与えられているとして、異なる領域分割に対応
    して、オンラインで与えられる入力データに対して該予
    測関数の集合を用いて予測値を出力する、複数の請求項
    8のオンライン集合型予測装置と、該予測値の線形結合
    係数の重み関数を記憶する重み関数記憶装置と、該重み
    関数記憶装置と該オンライン集合型予測装置の全てに接
    続して、該重み関数を読み出し、該オンライン集合型予
    測装置の全ての予測値の線形結合の予測損失の指数べき
    の該重み関数に関する重み付き平均に基づいて予測値を
    算出する最終予測値計算装置と、該予測値計算装置に接
    続して該予測値と正解値とから該重み関数を乗算的に更
    新して、該重み関数記憶装置の記憶内容を書き換える重
    み関数更新装置とを備えており、最終予測値算出装置の
    出力値を予測値として出力する、オンライン階層的集合
    型予測装置。
JP04818499A 1999-02-25 1999-02-25 集合型予測装置 Expired - Lifetime JP3365490B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP04818499A JP3365490B2 (ja) 1999-02-25 1999-02-25 集合型予測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP04818499A JP3365490B2 (ja) 1999-02-25 1999-02-25 集合型予測装置

Publications (2)

Publication Number Publication Date
JP2000250885A true JP2000250885A (ja) 2000-09-14
JP3365490B2 JP3365490B2 (ja) 2003-01-14

Family

ID=12796310

Family Applications (1)

Application Number Title Priority Date Filing Date
JP04818499A Expired - Lifetime JP3365490B2 (ja) 1999-02-25 1999-02-25 集合型予測装置

Country Status (1)

Country Link
JP (1) JP3365490B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004102357A (ja) * 2002-09-04 2004-04-02 Shiseido Co Ltd 生産量算定方法,生産量算定装置,生産量算定システム,生産量算定プログラムおよび記録媒体
JP2006221310A (ja) * 2005-02-09 2006-08-24 Fuji Electric Holdings Co Ltd 予測方法、予測装置、予測プログラムおよび記録媒体
JP2006308515A (ja) * 2005-05-02 2006-11-09 Fuji Electric Systems Co Ltd 油入電気機器の劣化診断方法
JP2019046293A (ja) * 2017-09-05 2019-03-22 株式会社Kmc 生産監視システム及び生産監視方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004102357A (ja) * 2002-09-04 2004-04-02 Shiseido Co Ltd 生産量算定方法,生産量算定装置,生産量算定システム,生産量算定プログラムおよび記録媒体
JP2006221310A (ja) * 2005-02-09 2006-08-24 Fuji Electric Holdings Co Ltd 予測方法、予測装置、予測プログラムおよび記録媒体
JP4661250B2 (ja) * 2005-02-09 2011-03-30 富士電機ホールディングス株式会社 予測方法、予測装置および予測プログラム
JP2006308515A (ja) * 2005-05-02 2006-11-09 Fuji Electric Systems Co Ltd 油入電気機器の劣化診断方法
JP2019046293A (ja) * 2017-09-05 2019-03-22 株式会社Kmc 生産監視システム及び生産監視方法
JP7134453B2 (ja) 2017-09-05 2022-09-12 株式会社Kmc 生産監視システム及び生産監視方法

Also Published As

Publication number Publication date
JP3365490B2 (ja) 2003-01-14

Similar Documents

Publication Publication Date Title
US9355067B1 (en) Distribution of parameter calculation for iterative optimization methods
EP0241271A2 (en) Methods and apparatus for efficient resource allocation
CN107480028B (zh) 磁盘可使用的剩余时长的获取方法及装置
CN110764714B (zh) 一种数据处理方法、装置、设备及可读存储介质
CN103729530B (zh) 对序列进行处理的装置和方法
JP2019204190A (ja) 学習支援装置および学習支援方法
JP4265296B2 (ja) 変化点検出装置,変化点検出方法および変化点検出用プログラム
CN111625196A (zh) 区块链节点扩容方法、装置、计算机设备及存储介质
CN112801231B (zh) 用于业务对象分类的决策模型训练方法和装置
JP2000250885A (ja) 集合型予測装置
CN111768246B (zh) 一种数据处理方法、模型建立方法、装置及电子设备
Bosnic et al. Evaluation of prediction reliability in regression using the transduction principle
CN113782092B (zh) 一种生存期预测模型的生成方法及装置、存储介质
US20220366101A1 (en) Information processing device, information processing method, and computer program product
CN110858355A (zh) 项目预算结余预测方法及装置
CN114528966A (zh) 一种本地学习方法、设备及介质
JP4820747B2 (ja) 旅行時間算出装置、プログラム、および記録媒体
JP2022088341A (ja) 機器学習装置及び方法
JP2004110300A (ja) データ予測方法、データ予測装置、コンピュータプログラム、及び記録媒体
JP2021174330A (ja) 異種機械学習のアンサンブル学習による予測装置
JPH10187660A (ja) コンピュータ演算方法
CN116384452B (zh) 动态网络模型构建方法、装置、设备及存储介质
WO2022137520A1 (ja) 学習装置、学習方法および学習プログラム
CN113780445B (zh) 癌症亚型分类预测模型的生成方法及装置、存储介质
CN115862087B (zh) 基于可靠性建模的无监督行人重识别方法及系统

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021002

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081101

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081101

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091101

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091101

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101101

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101101

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111101

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131101

Year of fee payment: 11

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term