JP3365490B2 - 集合型予測装置 - Google Patents

集合型予測装置

Info

Publication number
JP3365490B2
JP3365490B2 JP04818499A JP4818499A JP3365490B2 JP 3365490 B2 JP3365490 B2 JP 3365490B2 JP 04818499 A JP04818499 A JP 04818499A JP 4818499 A JP4818499 A JP 4818499A JP 3365490 B2 JP3365490 B2 JP 3365490B2
Authority
JP
Japan
Prior art keywords
prediction
weight
value
online
input data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP04818499A
Other languages
English (en)
Other versions
JP2000250885A (ja
Inventor
健司 山西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP04818499A priority Critical patent/JP3365490B2/ja
Publication of JP2000250885A publication Critical patent/JP2000250885A/ja
Application granted granted Critical
Publication of JP3365490B2 publication Critical patent/JP3365490B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、未知データを予測
するための複数の予測関数を備えた集合型予測装置に関
する。
【0002】
【従来の技術】機械学習技術には、逐次入力されるデー
タに基づいて未知データを予測させ、その後、正解値を
与えることにより、予測方法を修正し、より精度の高い
予測を可能にするものがある。そして、未知データを予
測する予測法式としては、複数の予測関数を用意し、こ
れら予測関数に入力データを与えて複数の予測結果を求
め、これらの予測結果の組合せにより未来のデータを予
測する集合型予測方式と呼ばれるものがある。
【0003】この種の集合型予測方式としては、例えば
Haussler, Kivinen, Warmuthによる方式(Tight worst-
case loss bounds for predicting with expert advic
e, Computational Learning Theory: Second European
Conference, EuroCOLT'95, pp.69-83, Springer, (199
5))や、Vovkによる方式(Aggregating strategies, Pr
oceedings of the Third Annual Workshop on Computat
ional Learning Theory,pp.371-386, Morgan Kaufmann
(1990))や、Yamanishiによる方式(A decision-theore
tic extension of stochastic complexity and its app
roximation to learning, IEEE Transactions on Infor
mation Theory, vol.IT-44, 4(1998), 1424-1439.)等
が知られている。
【0004】これらの集合型予測方式は、いずれも、入
力データを複数の予測関数に与え、得られた複数の予測
結果を加重平均等して組み合わせ、予測値とするもので
ある。このような集合型予測方式では、例えば、求めた
予測値が正解値に近づくよう、加重平均に使用される重
みを調整することで、予測精度を向上させることができ
る。
【0005】
【発明が解決しようとする課題】しかしながら、従来の
集合型予測方式では、用意された複数の予測関数の各々
による累積損失のうち、最小のものより小さい累積予測
損失を達成できない、という意味で、用意された複数の
予測関数のうちの最良の予測関数の性能を上回ることが
出来ないという問題点がある。
【0006】本発明の目的は、用意された複数の予測関
数のうちの最良の予測関数の性能をも上回る予測精度を
もつ、集合型のオンライン予測方式を実現する装置を提
供することにある。
【0007】
【課題を解決するための手段】本発明によれば、複数の
予測関数を利用して、所定のデータ空間に属する入力デ
ータから予測値を求める集合型予測装置において、前記
データ空間を複数の分割領域に分割したときの各分割領
域に対応し、各々が前記複数の予測関数を備える複数の
予測値計算装置と、該複数の予測値計算装置にそれぞれ
対応し、各予測値計算装置において使用される前記複数
の予測関数にそれぞれ対応する第1の重み情報を各々記
憶する複数の第1の重み記憶装置と、前記入力データが
前記複数の分割領域のいずれに属するか判断して、前記
入力データが属する分割領域に対応する前記予測値計算
装置へ当該入力データを供給する領域判別装置とを有
し、前記入力データが前記複数の分割領域のいずれに属
するか判断し、前記複数の分割領域毎に、前記第1の重
み情報に基づいて前記複数の予測関数に重み付けをし
て、前記予測値を求めるようにしたことを特徴とする集
合型予測装置が得られる。
【0008】
【0009】
【0010】上記集合型予測装置は、前記複数の第1の
重み記憶装置にそれぞれ対応し、各々が前記入力データ
と外部から新たに与えられる正解値とに基づいて、前記
第1の重み情報を更新する複数の第1の重み更新装置
備えている。
【0011】また、本発明によれば、上記集合型予測装
置を複数備え、各集合型予測装置におけるデータ空間の
領域分割が互いに異なるようにし、全ての集合型予測装
置から出力される予測値を組み合わせて最終予測値を求
めるようにしたことを特徴とする階層的集合型予測装置
が得られる。
【0012】具体的には、上記階層的集合型予測装置
は、前記集合型予測装置から出力される予測値に重み付
けをするための第2の重み情報を記憶する第2の重み記
装置と、前記入力データと前記正解値とに基づいて、
前記第2の重み情報を更新する第2の重み更新装置とを
備えている。
【0013】前記第2の重み情報としては、重み関数を
用いることができる。
【0014】さらに、本発明によれば、データ空間の領
域分割と予測関数の集合が予め与えられているとして、
オンラインで与えられる入力データが該分割のどの領域
に属するかを判別する領域判別装置と、分割された領域
ごとに、該予測関数の各々に対する重みを記憶する重み
記憶装置と、該重み記憶装置に接続して、該重みを読み
出し、該予測関数の各々の予測損失の指数べきの該重み
に関する重み付き平均に基づいて予測値を算出する予測
値計算装置と、該予測値計算装置に接続して該予測値と
正解値とから該予測関数の各々の重みを乗算的に更新し
て、該重み記憶装置の記憶内容を書き換える重み更新装
置と、最終予測値計算装置を備えており、入力データが
属する分割領域に対応する予測値計算装置の出力値を予
測値として最終予測値計算装置が出力する、オンライン
集合型予測装置が得られる。
【0015】さらにまた、本発明によれば、データ空間
の領域分割と予測関数の集合が予め与えられているとし
て、 オンラインで与えられる入力データに対して異な
る領域分割に対応して、該予測関数の集合を用いて予測
値を出力する、複数の上記オンライン集合型予測装置
と、 該オンライン集合型予測装置の各々の重みを記憶
する重み記憶装置と、 該重み記憶装置と該オンライン
集合型予測装置の全てに接続して、該重みを読み出し、
該オンライン集合型予測装置の予測値の予測損失の指数
べきの該重みに関する重み付き平均に基づいて予測値を
算出する最終予測値計算装置と、該予測値計算装置に接
続して該予測値と正解値とから該オンライン集合型予測
装置の各々の重みを乗算的に更新して、該重み記憶装置
の記憶内容を書き換える重み更新装置とを備えており、
最終予測値計算装置の出力値を予測値として出力する、
オンライン階層的集合型予測装置が得られる。
【0016】また、本発明によれば、 データ空間の領
域分割と予測関数の集合が予め与えられているとして、
異なる領域分割に対応して、オンラインで与えられる入
力データに対して該予測関数の集合を用いて予測値を出
力する、複数の上記オンライン集合型予測装置と、該予
測値の線形結合係数の重み関数を記憶する重み関数記憶
装置と、該重み関数記憶装置と該オンライン集合型予測
装置の全てに接続して、該重み関数を読み出し、該オン
ライン集合型予測装置の全ての予測値の線形結合の予測
損失の指数べきの該重み関数に関する重み付き平均に基
づいて予測値を算出する最終予測値計算装置と、該予測
値計算装置に接続して該予測値と正解値とから該重み関
数を乗算的に更新して、該重み関数記憶装置の記憶内容
を書き換える重み関数更新装置とを備えており、最終予
測値算出装置の出力値を予測値として出力する、オンラ
イン階層的集合型予測装置が得られる。
【0017】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して詳細に説明する。
【0018】図1に、本発明の第1の実施の形態による
オンライン集合型予測装置の全体構成図を示す。この集
合型予測装置は、逐次入力データを供給する装置等にオ
ンライン接続された領域判別装置11、領域判別装置1
1に接続されたs個(s:2以上の整数)の予測値計算
装置121〜12s、予測値計算装置121〜12sに
それぞれ接続されたs個の重み記憶装置131〜13
s、領域判別装置11と各予測値計算装置121〜12
sとの間に接続されたs個の重み更新装置141〜14
s、及び全ての予測値計算装置121〜12sと出力端
子との間に接続された最終予測値計算装置15を有して
いる。
【0019】領域判別装置11には、予め、データ空間
をs個に分割するための情報が与えられている。例え
ば、データ空間が一次元領域[a,b]である場合に、
a=a_{0}<a_{1}<a_{2}<・・・<a_{s-2}<a_{s-1}
<a_{s}=b、が与えることにより、s個の分割領域[a
_{0},a_{1}],[a_{1},a_{2}],・・・,[a_{s-
2},a_{s-1}],及び[a_{s-1},a_{s}]、が定まる。
一例を挙げれば、データ空間が[0,1]の場合に、
0,0.5,及び1を与えれば、[0,0.5]及び[0.5,
1]がs=2の分割領域として定まる。なお、データ空
間の分割は、分割された領域がそれぞれ予測値計算装置
121〜12sに対応するように行われる。
【0020】この領域判別装置11は、入力された入力
データが、空間データのどの分割領域に属するか判別
し、その分割領域に対応する予測値計算装置12j(j
=1,2,・・・,s)及び重み更新装置14jへ出力
する。
【0021】予測値計算装置121〜12sは、全て
が、同一の予測関数の集合(即ち、複数の予測関数)を
有している。そして、各予測値計算装置121〜12s
は、領域判別装置11から入力データが与えられると、
複数の予測関数を用いて予測値を求める。なお、この予
測値を求める演算には、後述の重みが利用される。
【0022】重み記憶装置131〜13sは、各予測値
計算装置121〜12sが予測値を計算する際にそれぞ
れ使用する重みを表す重み情報を記憶している。重み記
憶装置131〜13sは、それぞれ独自に重み更新装置
141〜14sにより更新される。従って、各重み記憶
装置131〜13sが記憶する重み情報は、他の重み情
報装置が記憶する重み情報とは異なることのほうが多
い。
【0023】重み更新装置141〜14sは、領域判別
装置11から入力データが与えられると、それを記憶し
ておく。その後、領域判別装置11から正解値が与えら
れると、入力データ及び正解値を用いて所定の計算を行
い、新たな重み情報を生成する。新たな重み情報は、重
み記憶装置131〜13sに出力され、記憶される。
【0024】以下、このオンライン集合型予測装置の動
作について説明する。ここで、予測値のとり得る値の範
囲(データ空間)は、У=[0,1]とする。また、直
積集合У×Уから正の数への写像として、損失関数Lを
固定する。なお、L(y、z)は、yをzで予測したと
きの損失値である。
【0025】離散時刻tに、入力端子に入力データxt
が与えられると、領域判別装置11は、データ空間のど
の分割領域に属するのかを判定し、入力データxtをそ
の分割領域に対応する予測値計算装置12jと重み更新
装置14jに送る。
【0026】予測値計算装置12jは、入力データxt
が与えられると、複数個の予測関数からなる集合{f1
(x),・・・,fN(x)}、(Nは2以上の整数)
を用いて、重み記憶装置13jからそれぞれの予測関数
の重みω(i)、(i=1,2,・・・,N)を読み出
して、Δ(0)とΔ(1)とを数式1に基づいて計算す
る。なお、予測関数fi(x),(i=1,2,・・
・,N)は、それぞれ時間とともに変わるものであって
もよい。
【0027】
【数1】 ここで、λ*は、L0(z)=L(0、z)、かつL
1(z)=L(1、z)であるとして、数式2で与えら
れる定数である。
【0028】
【数2】 また、予測値計算装置12jは、求めたΔ(0)及びΔ
(1)の値を用いて、数式4を用いて予測値
【0029】
【数3】 を計算する。
【0030】
【数4】 求めた予測値
【0031】
【数5】 は、最終予測値計算装置15に送られ、このオンライン
集合型予測装置の出力値(最終予測値)として外部へ出
力される。
【0032】予測値出力後、領域判別装置11は、正解
値ytを入力データとして受け取り、先程の入力データ
tの出力先である重み更新装置14jに送る。重み更
新装置14jは、各予測関数の重みω(i)(i=1,
2,・・・,N)を数式6のように更新する。
【0033】
【数6】 なお、領域判別装置11及び重み更新装置14jにおけ
る、入力データxtと正解値ytとの識別は、これらのデ
ータに識別情報を含ませてもよいし、外部から切替え信
号を与えることにより識別するようにしてもよい。
【0034】更新された予測関数の重みω(i)は、重
み記憶装置13jに送られ、重み記憶装置13jは、記
憶する重みω(i)の値を書き換える。
【0035】今、長さmのデータ列Dm=D12・・・
m、(Dt=(xt,yt),(t=1,2,・・・,
m))と、領域分割
【0036】
【数7】 に対して、Dmの中でχuに属するデータの集合をD
m(u)と書く。また、与えられた予測関数の集合{fi
(x):i=1,2,・・・,N}に対して、そこに含
まれる予測関数fiに対するDm(u)に関する予測損失
をL(Dm(u):fi)と書く。即ち、予測損失L(D
m(u):fi)は、数式8で表わされる。
【0037】
【数8】 このとき、本実施の形態によるオンライン集合型予測装
置の累積予測損失は、数式9で上から抑えられる。
【0038】
【数9】 ここで、sは、領域分割における分割領域数である。
【0039】よって、この予測損失の上界は、十分大き
なデータ数に対しては、最良の予測損失min1iN
(yt,fi(xt))よりも小さくなる。従って、本実
施の形態によるオンライン集合型予測装置は、最良の予
測関数の性能をも上回るような予測精度を持つ。
【0040】次に、図2を参照して本発明の第2の実施
の形態によるオンライン階層的集合型予測装置について
説明する。このオンライン階層的集合型予測装置は、複
数のオンライン集合型予測装置211〜21Kを備えて
いる。各オンライン集合型予測装置は、図1の装置に相
当する。ただし、各オンライン集合型予測装置211〜
21Kは、他のオンライン集合型予測装置とは、互いに
異なる領域分割をもつ。即ち、データ空間の分割の仕方
が互いに異なる。例えば、データ空間を[0,1]とした
場合に、オンライン集合型予測装置211では、データ
空間を[0,0.5]と[0.5,1]の2つの領域に分割し
ており、オンライン集合型予測装置212では、[0,
0.3],[0.3,0.6]及び[0.6,1]の3つの領域に分
割してあるといった具合である。従って、各オンライン
集合型予測装置211〜21Kにおける分割領域数s
は、互いに異なるか、分割領域数sが同じでも、各領域
の範囲が異なる。
【0041】また、このオンライン階層的集合型予測装
置は、各オンライン集合型予測装置211〜21Kがそ
れぞれ備えている最終予測値計算装置15、重み更新装
置141〜14s、及び重み記憶装置131〜13sと
は異なる、最終予測値計算装置22、重み更新装置2
3、及び重み記憶装置24を有している。最終予測値計
算装置22及び重み更新装置23は、それぞれ全てのオ
ンライン集合型予測装置211〜21Kに接続されてい
る。また、重み記憶装置24は、重み更新装置23と最
終予測値計算装置22との間に接続されている。
【0042】以下、本実施の形態によるオンライン階層
的集合型予測装置の動作について説明する。ここで、予
測値のとり得る値の範囲はУ=[0、1]であるとす
る。
【0043】このオンライン階層的集合型予測装置に対
して、離散時刻tに、入力データxtが与えられると、
この入力データxtは、全てのオンライン集合型予測装
置211〜21Kに供給される。
【0044】各オンライン集合型予測装置21k(k=
1,2,・・・,K)は、データxtを入力として、第1
の実施の形態において説明したようにして、それぞれ予
測値zt,kを求め、最終予測値計算装置22へ出力す
る。
【0045】最終予測値計算装置22は、オンライン集
合型予測装置211〜21Kから送られてくる予測値z
t,1,zt,2,・・・,zt,Kを受け取ると、重み記憶装
置24から各オンライン集合型予測装置に対応する予測
関数の重みω(k)、(k=1,2,・・・,K)を読
み出し、数式10に基づいて、Δ(0)とΔ(1)とを
求める。
【0046】
【数10】 ここで、λ*は、数式2に同じである。
【0047】それから、最終予測値計算装置22は、Δ
(0)とΔ(1)との値を用いて、数式12に基づいて
最終予測値
【0048】
【数11】 を求める。
【0049】
【数12】 求めた最終予測値
【0050】
【数13】 は、このオンライン階層的集合型予測装置の出力とし
て、外部へ出力される。
【0051】その後、重み更新装置23には、正解値y
tが入力される。そして、重み更新装置23は、各オン
ライン集合型予測装置211〜21Kからの予測値と正
解値とに基づいて、各予測関数の重みω(k)、(k=
1,2,・・・,K)を数式14で表わされるように更
新し、重み記憶装置24へ出力する。
【0052】
【数14】 重み記憶装置24は、重み更新装置23の出力基づき、
記憶する重みω(k)の値を書き換える。
【0053】今、与えられた領域分割の集合をS={S
k:k=1,2,・・・,K}として、その中の分割Sk
に対して、長さmのデータ列Dm=D12・・・Dm
(Dt=(xt,yt),(t=1,2,・・・,m))
の中でχuに属するデータの集合をDm(u,k)と書
く。与えられた予測関数の集合{fi(x):i=1,
2,・・・,N}に対して、そこに含まれる予測関数f
iに対するDm(u,k)に関する予測損失をL(D
m(u,k):fi)と書く。即ち、予測損失L(D
m(u,k):fi)は、数式15で表わされる。
【0054】
【数15】 このとき、本実施の形態によるオンライン階層的集合型
予測装置の累積予測損失は、数式16で上から抑えられ
る。
【0055】
【数16】 ここで、skは、領域分割Skにおける分割領域数であ
る。よってこの予測損失の上界は、十分大きなデータ数
に対しては、最良の予測関数の予測損失min1iN
(yt,fi(xt))よりも小さくなる。したがって、
本実施の形態のよるオンライン階層的集合型予測装置
は、最良の予測関数の性能をも上回る予測精度を持つ。
【0056】次に、図3を参照して、本発明の第3の実
施の形態によるオンライン階層的集合型予測装置につい
て説明する。本実施の形態によるオンライン階層的集合
型予測装置は、図2の装置における最終予測値計算装置
22、重み更新装置23及び重み記憶装置24に代え
て、これらと異なる動作を行う最終予測値計算装置3
2、重み関数更新装置33及び重み関数記憶装置34を
備えている。
【0057】以下、本実施の形態によるオンライン階層
的集合型予測装置の動作について説明する。ここで、予
測値のとり得る値の範囲は、У=[0,1]であるとす
る。また、パラメータθ=(θ1,θ2,・・・,θK
は、コンパクト空間Θ上に値をとるとする。
【0058】離散時刻tにおいて、データxtが入力さ
れると、各オンライン集合型予測装置21k(k=1,
2,・・・,K)は、それぞれ、予測値zt,kを求め、
最終予測値計算装置32へ出力する。
【0059】最終予測値計算装置32は、全てのオンラ
イン集合型予測装置211〜21Kの出力、zt,1,z
t,2,・・・、及びzt,Kを入力とし、重み関数記憶装置
34から重み関数ω(θ)を読み出して、Δ(0)とΔ
(1)とを数式17に基づき計算する。
【0060】
【数17】 ここで、λ*は数式2と同じである。また、zt=(z
t,1,zt,2,・・・,zt,K)であり、θTtは、数式
18で与えられる。
【0061】
【数18】 また、最終予測値計算装置32は、上記のようにして求
めたΔ(0)とΔ(1)の値を用いて、数式20のよう
に最終予測値
【0062】
【数19】 を計算する。
【0063】
【数20】 こうして求めた最終予測値
【0064】
【数21】 は、このオンライン階層的集合型予測装置の出力として
外部へ出力される。
【0065】最終予測値出力後、重み関数更新装置33
には、正解値ytが与えられる。重み関数更新装置33
は、重み関数を数式22で示すように更新し、重み関数
記憶装置34へ出力する。
【0066】
【数22】 重み関数記憶装置34は、重み関数更新装置33の出力
に基づいて、記憶する重み関数ω(θ)を更新する。
【0067】本実施の形態によるオンライン集合型予測
装置の累積予測損失は、zt,kをオンライン集合型予測
装置21k(k=1,2,・・・,K)の出力とし、z
t=(zt,1,zt,2,・・・,zt,K)として、 数式2
3で上から抑えられる。
【0068】
【数23】 ここで、μは、LとΘとによって定まる数である。
【0069】このように、この予測損失の上界は、十分
大きなデータ数に対しては、最良の予測関数の予測損失
min1iNL(yt,fi(xt))よりも小さくなる。
したがって、本実施の形態によるオンライン階層的集合
型予測装置は、最良の予測関数の性能をも上回る予測精
度を持つ。
【0070】
【発明の効果】本発明によれば、データ空間を複数の領
域に分割し、各分割領域毎に予測値を求めるようにした
ことで、予め用意された複数の予測関数のうち最良の予
測関数の性能を上回る予測精度を実現できる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態によるオンライン集
合型予測装置の構成を示すブロック図である。
【図2】本発明の第2の実施の形態によるオンライン階
層型集合型予測装置の構成を示すブロック図である。
【図3】本発明の第3の実施の形態によるオンライン階
層型集合型予測装置の構成を示すブロック図である。
【符号の説明】
11 領域判別装置 121〜12s 予測値計算装置 131〜13s 重み記憶装置 141〜14s 重み更新装置 15 最終予測値計算装置 211〜21K オンライン集合型予測装置 22 最終予測値計算装置 23 重み更新装置 24 重み記憶装置 32 最終予測値計算装置 33 重み関数更新装置 34 重み関数記憶装置
フロントページの続き (56)参考文献 特開 平9−259110(JP,A) 特開 平6−35889(JP,A) 特開 平7−36847(JP,A) 特開 平11−96132(JP,A) 寺邊正大、片井修・他,「学習エージ ェントを用いた協調学習に関する考 察」,第30回人工知能基礎論研究会資料 (SIG−FAI−9702),日本,社団 法人人工知能学会,1997年 9月29日, pp.37−42 山西健司,「データ圧縮と学習」,人 工知能学会誌,日本,社団法人人工知能 学会,1997年 3月 1日,Vol. 12,No.2,pp.204−215 山西健司,「拡張型確率的コンプレキ シティと情報論的学習理論」,応用数 理,日本,1998年,Vol.8,No. 3,pp.14−29,JST資料番号:L 1191A 井本文雄・他,「雨量情報に基づく数 時間先行のダム流入量のオンライン予測 法」,電気学会論文誌B,日本,社団法 人電気学会,1993年 3月20日,Vo l.113−B,No.3,pp.213− 220 (58)調査した分野(Int.Cl.7,DB名) G06N 1/00 - 7/08 G06F 19/00 G06F 17/60 G06F 17/10 G06F 9/44 JSTファイル(JOIS) CSDB(日本国特許庁)

Claims (8)

    (57)【特許請求の範囲】
  1. 【請求項1】 複数の予測関数を利用して、所定のデー
    タ空間に属する入力データから予測値を求める集合型予
    測装置において、 前記データ空間を複数の分割領域に分割したときの各分
    割領域に対応し、各々が前記複数の予測関数を備える複
    数の予測値計算装置と、 該複数の予測値計算装置にそれぞれ対応し、各予測値計
    算装置において使用される前記複数の予測関数にそれぞ
    れ対応する第1の重み情報を各々記憶する複数の第1の
    重み記憶装置と、 前記入力データが前記複数の分割領域のいずれに属する
    か判断して、前記入力データが属する分割領域に対応す
    る前記予測値計算装置へ当該入力データを供給する領域
    判別装置とを有し、 前記入力データが前記複数の分割領域のいずれに属する
    か判断し、前記複数の分割領域毎に、前記第1の重み情
    報に基づいて前記複数の予測関数に重み付けをして、
    記予測値を求めるようにした、 ことを特徴とする集合型予測装置。
  2. 【請求項2】 前記複数の第1の重み記憶装置にそれぞ
    れ対応し、各々が前記入力データと外部から新たに与え
    られる正解値とに基づいて、前記第1の重み情報を更新
    する複数の第1の重み更新装置を備えていることを特徴
    とする請求項1に記載の集合型予測装置。
  3. 【請求項3】 請求項1又はに記載の集合型予測装置
    を複数備え、各集合型予測装置におけるデータ空間の領
    域分割が互いに異なるようにし、全ての集合型予測装置
    から出力される予測値を組み合わせて最終予測値を求め
    るようにしたことを特徴とする階層的集合型予測装置。
  4. 【請求項4】 前記集合型予測装置から出力される予測
    値に重み付けをするための第2の重み情報を記憶する第
    2の重み記憶装置と、前記入力データと前記正解値とに
    基づいて、前記第2の重み情報を更新する第2の重み更
    装置とを備えていることを特徴とする請求項3に記載
    の階層的集合型予測装置。
  5. 【請求項5】 前記第2の重み情報が、前記集合型予測
    装置にそれぞれ対応する重み関数を表すことを特徴とす
    る請求項4に記載の階層的集合型予測装置。
  6. 【請求項6】 データ空間の領域分割と予測関数の集合
    が予め与えられているとして、オンラインで与えられる
    入力データが該分割のどの領域に属するかを判別する領
    域判別装置と、分割された領域ごとに、該予測関数の各
    々に対する重みを記憶する重み記憶装置と、該重み記憶
    装置に接続して、該重みを読み出し、該予測関数の各々
    の予測損失の指数べきの該重みに関する重み付き平均に
    基づいて予測値を算出する予測値計算装置と、該予測値
    計算装置に接続して該予測値と正解値とから該予測関数
    の各々の重みを乗算的に更新して、該重み記憶装置の記
    憶内容を書き換える重み更新装置と、最終予測値計算装
    置を備えており、入力データが属する分割領域に対応す
    る予測値計算装置の出力値を予測値として最終予測値計
    算装置が出力する、オンライン集合型予測装置。
  7. 【請求項7】 データ空間の領域分割と予測関数の集合
    が予め与えられているとして、オンラインで与えられる
    入力データに対して異なる領域分割に対応して、該予測
    関数の集合を用いて予測値を出力する、複数の請求項
    に記載のオンライン集合型予測装置と、 該オンライン
    集合型予測装置の各々の重みを記憶する重み記憶装置
    と、該重み記憶装置と該オンライン集合型予測装置の全
    てに接続して、該重みを読み出し、該オンライン集合型
    予測装置の予測値の予測損失の指数べきの該重みに関す
    る重み付き平均に基づいて予測値を算出する最終予測値
    計算装置と、該予測値計算装置に接続して該予測値と正
    解値とから該オンライン集合型予測装置の各々の重みを
    乗算的に更新して、該重み記憶装置の記憶内容を書き換
    える重み更新装置とを備えており、最終予測値計算装置
    の出力値を予測値として出力する、オンライン階層的集
    合型予測装置。
  8. 【請求項8】 データ空間の領域分割と予測関数の集合
    が予め与えられているとして、異なる領域分割に対応し
    て、オンラインで与えられる入力データに対して該予測
    関数の集合を用いて予測値を出力する、複数の請求項
    に記載のオンライン集合型予測装置と、該予測値の線形
    結合係数の重み関数を記憶する重み関数記憶装置と、該
    重み関数記憶装置と該オンライン集合型予測装置の全て
    に接続して、該重み関数を読み出し、該オンライン集合
    型予測装置の全ての予測値の線形結合の予測損失の指数
    べきの該重み関数に関する重み付き平均に基づいて予測
    値を算出する最終予測値計算装置と、該予測値計算装置
    に接続して該予測値と正解値とから該重み関数を乗算的
    に更新して、該重み関数記憶装置の記憶内容を書き換え
    る重み関数更新装置とを備えており、最終予測値算出装
    置の出力値を予測値として出力する、オンライン階層的
    集合型予測装置。
JP04818499A 1999-02-25 1999-02-25 集合型予測装置 Expired - Lifetime JP3365490B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP04818499A JP3365490B2 (ja) 1999-02-25 1999-02-25 集合型予測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP04818499A JP3365490B2 (ja) 1999-02-25 1999-02-25 集合型予測装置

Publications (2)

Publication Number Publication Date
JP2000250885A JP2000250885A (ja) 2000-09-14
JP3365490B2 true JP3365490B2 (ja) 2003-01-14

Family

ID=12796310

Family Applications (1)

Application Number Title Priority Date Filing Date
JP04818499A Expired - Lifetime JP3365490B2 (ja) 1999-02-25 1999-02-25 集合型予測装置

Country Status (1)

Country Link
JP (1) JP3365490B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4280045B2 (ja) * 2002-09-04 2009-06-17 株式会社資生堂 生産量算定方法,生産量算定装置,生産量算定システム,生産量算定プログラムおよび記録媒体
JP4661250B2 (ja) * 2005-02-09 2011-03-30 富士電機ホールディングス株式会社 予測方法、予測装置および予測プログラム
JP4857597B2 (ja) * 2005-05-02 2012-01-18 富士電機株式会社 油入電気機器の劣化診断方法
JP7134453B2 (ja) * 2017-09-05 2022-09-12 株式会社Kmc 生産監視システム及び生産監視方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
井本文雄・他,「雨量情報に基づく数時間先行のダム流入量のオンライン予測法」,電気学会論文誌B,日本,社団法人電気学会,1993年 3月20日,Vol.113−B,No.3,pp.213−220
寺邊正大、片井修・他,「学習エージェントを用いた協調学習に関する考察」,第30回人工知能基礎論研究会資料(SIG−FAI−9702),日本,社団法人人工知能学会,1997年 9月29日,pp.37−42
山西健司,「データ圧縮と学習」,人工知能学会誌,日本,社団法人人工知能学会,1997年 3月 1日,Vol.12,No.2,pp.204−215
山西健司,「拡張型確率的コンプレキシティと情報論的学習理論」,応用数理,日本,1998年,Vol.8,No.3,pp.14−29,JST資料番号:L1191A

Also Published As

Publication number Publication date
JP2000250885A (ja) 2000-09-14

Similar Documents

Publication Publication Date Title
US7333923B1 (en) Degree of outlier calculation device, and probability density estimation device and forgetful histogram calculation device for use therein
JP4661250B2 (ja) 予測方法、予測装置および予測プログラム
Byrd et al. Infeasibility detection and SQP methods for nonlinear optimization
Sleet et al. On the computation of value correspondences for dynamic games
Gautam et al. A novel moving average forecasting approach using fuzzy time series data set
JP2019204190A (ja) 学習支援装置および学習支援方法
Hoos et al. Local search methods
CN114610475A (zh) 一种智能资源编排模型的训练方法
JP3365490B2 (ja) 集合型予測装置
CN111209930A (zh) 一种生成授信策略的方法、装置和电子设备
Zusai Evolutionary dynamics in heterogeneous populations: a general framework for an arbitrary type distribution
CN112801231B (zh) 用于业务对象分类的决策模型训练方法和装置
CN111768246B (zh) 一种数据处理方法、模型建立方法、装置及电子设备
Burkard et al. Reverse 2-median problem on trees
US20110282801A1 (en) Risk-sensitive investment strategies under partially observable market conditions
Akbarzadeh et al. Online learning in limit order book trade execution
CN110648182A (zh) 商品自动定价方法、系统、介质和计算设备
Bosnic et al. Evaluation of prediction reliability in regression using the transduction principle
JP2022028611A (ja) 情報処理に用いられる方法、装置、デバイス及び記憶媒体
Olaru et al. Predictive control for hybrid systems. Implications of polyhedral pre-computations
JPH10187660A (ja) コンピュータ演算方法
Lifshits et al. Algorithms for project portfolio selection based on fuzzy multi-objective model
Verstraete et al. PRACTICAL ALGORITHMS OF STOCHASTIC ROUTE CHOICE FOR DTA: ESDTA
CN115225546B (zh) 一种网络流量的预测方法、装置及设备
CN116384452B (zh) 动态网络模型构建方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021002

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081101

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081101

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091101

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091101

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101101

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101101

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111101

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121101

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131101

Year of fee payment: 11

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term