JP4140915B2 - 利用者の行動を支援するシステム - Google Patents

利用者の行動を支援するシステム Download PDF

Info

Publication number
JP4140915B2
JP4140915B2 JP2005323404A JP2005323404A JP4140915B2 JP 4140915 B2 JP4140915 B2 JP 4140915B2 JP 2005323404 A JP2005323404 A JP 2005323404A JP 2005323404 A JP2005323404 A JP 2005323404A JP 4140915 B2 JP4140915 B2 JP 4140915B2
Authority
JP
Japan
Prior art keywords
action
function
cost
value
determination function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005323404A
Other languages
English (en)
Other versions
JP2007133477A (ja
Inventor
久嗣 鹿島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2005323404A priority Critical patent/JP4140915B2/ja
Priority to US11/550,846 priority patent/US7467120B2/en
Priority to US11/552,205 priority patent/US7792761B2/en
Publication of JP2007133477A publication Critical patent/JP2007133477A/ja
Priority to US12/060,384 priority patent/US7930258B2/en
Priority to US12/192,792 priority patent/US7716145B2/en
Application granted granted Critical
Publication of JP4140915B2 publication Critical patent/JP4140915B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、利用者の行動を支援するシステムに関する。特に、本発明は、行動決定関数の生成によって利用者の行動を支援するシステムに関する。
データマイニングの基礎技術として分類学習が研究されている。分類学習は、過去にある対象に対して採った行動の結果を示す情報(以下、訓練データという)に基づいて、その対象について将来採るべき行動を出力することを目的とする。この技術を応用すれば、過去の事象によれば統計的に最も適切な(例えば誤りの回数を最小化する)行動を利用者に示唆し、利用者の行動を支援することができる。
分類学習は、例えば、以下のように様々な技術分野に応用可能である。
(1)医療分野における診断
対象:患者の検査結果
行動:ある治療を行う、または、その治療を行わない
この例における訓練データは、ある検査結果を有する患者に対して過去にある治療を行った場合に治療が成功したか否かを示す情報となる。分類学習によれば、このような訓練データに基づいて、将来の患者に対する治療の適否を予測できる。
(2)金融分野における与信審査
対象:キャッシングの申込者のプロファイル
行動:融資を許可する、または、融資を拒否する
この例における訓練データは、あるプロファイルを有する申込者に対して過去に融資を行った場合に債権が回収できたか否かを示す情報となる。分類学習によれば、このような訓練データに基づいて、将来ある申込者に融資すべきか否かを判断できる。
(3)検索エンジンにおけるトピック分類
対象:ニュースのウェブ・ページ
行動:経済分野に分類、スポーツ分野に分類、または、政治分野に分類
この例における訓練データは、あるウェブ・ページを過去にある分野に分類した場合に、その分類が正しかったか否かを示す情報となる。分類学習によれば、このような訓練データに基づいて、将来作成されるウェブ・ページを適切に分類できる。
以上のような分類学習においては、通常、対象に対して採るべき行動を正しく予想することを目的とする。即ち、行動の誤り回数や誤り確率を最小化することを目的としている。
しかしながら、問題によっては、単に誤り回数を最小化するだけでは十分でない場合がある。例えば上述の(1)の例の場合、健康な患者を病気と判断して不要な治療を行った結果として生じる損失(以下、コストと呼ぶ)、病気の患者を放置して死に至らしめるコストとは、明らかに異なる。また、患者の社会的地位に応じてコストが異なる場合もあり得る。同様に、上述の(2)の例の場合、優良な申込者に対する融資を拒否した結果として生じるコストは利息のみであるが、不良な申込者に対する融資を許可した結果として生じるコストは融資額全体となり得る。この場合も、それぞれの融資額や不良度合いに応じて、コストは異なってくる。
このような、対象および行動毎にコストが異なり、かつ、それらが予測時に未知である場合に適用可能な技術として、従来、コスト考慮型学習(Cost-Sensitive Learning)が提案されている(非特許文献1から9を参照。)。コスト考慮型学習は、行動の誤り率を最小化するのではなく、コストの期待値を最小化することを目的としているので、より広範囲の問題を扱うことができる。
以下、コスト考慮型学習について更に具体的に述べる。まず、以下の(1)から(3)によって、コスト考慮型学習が対象とする問題を定義する。
(1)コスト関数
コストとは、例えば、ある対象に対して採った行動の結果として生じた損失を表す指標である。Xを対象の集合(たとえばX=RM)とし、Yをこれらに対して採り得る行動の集合とする。但し、Yは離散的で有限な集合とする。対象x∈Xに対し、行動y∈Yを採った結果として生じるコストをc(x,y)∈Rとおく。
例えば、ある検査結果xであった患者に、ある治療yを行なったときに引き起こされる結果の悪さがc(x,y)となる。正しい治療ならc(x,y)は小さく、誤った治療なら大きくなる。この患者に対する治療としてyが非常に不適切で、死に至った場合、そのコストは非常に大きくなる。なお、初期の研究段階における問題設定(非特許文献2を参照。)では、コストがxに直接依存せず、潜在変数としてクラスを設け、コストはクラスと行動に依存して、しかもコストの大きさは既知であるような簡単なケースが扱われている。ここでは、より一般的な、対象によってコストが異なり、かつ、真のコスト関数c(x,y)は未知であるようなケースを扱う(非特許文献7などを参照。)。
(2)行動決定モデル
Xを対象の集合(たとえばX=R)とし、Yをこれらに対して採りうる行動の集合(離散的で有限)とする。対象x∈Xに対し、行動y∈Yを決定するために用いる関数を、以下の式(1)とする。
Figure 0004140915
ここで、θはモデルのパラメータである。これを用いて通常、採るべき行動y´は、以下の式(2)によって択一的に決定される。h(x,y;θ)には、以下の式(3)のような確率的な制約が入っていてもよい。
Figure 0004140915
Figure 0004140915
即ち、対象x∈Xが与えられたとき、これに対してこの場合、行動の決定は式(2)に代えて、式(3)によって確率的に行われてもよい。また、行動の決定が資源分散型、即ち、実際に採ることのできる行動がひとつではなくてh(x,y;θ)に割合に応じて資源を分散投資できるような場合も考えられるが、本発明の実施の形態では式(2)によって行動が択一的に決定されるものとする。
また、c(x,h(θ))を、xに対してh(x,y;θ)を用いて行動を決定した場合に引き起こされるコストとする。択一的アクションの場合(1)には、c(x,h(θ))は、以下の式(4)となる。
Figure 0004140915
分散投資型のアクションの場合には、その定義は必ずしも自明ではないが、ここではもっとも簡単な場合としてc(x,h(θ))が、式(5)のように、それぞれのアクションからもたらされるコストが、投資量に比例するものとする。
Figure 0004140915
(3)訓練データ
対象とコストはX×RYで定義された確率分布Dから一様に発生すると考え、Dからサンプリングされた、N個のデータの集合Eが訓練データとして与えられるとする。ここで、Eのi番目の訓練データe(i) = (x(i),{c(i)(x(i),y)}y∈Y)とする。x(i)∈Xは訓練データのi番目の対象とし、これに対するそれぞれのアクションy∈Yに対し、コストc(i)(x(i),y)が与えられているとする。
以上のような問題について、従来、コストを考慮するような分類問題に対しては、コストの期待値を最小化することを目的とした手法が用いられてきた。具体的には、データの分布Dに対する期待コスト(式(6))を最小化するようにθを決定したいところではあるが、実際には分布Dは分からないので、経験期待コスト(式(7))を最小化するようにパラメータθを決定することになる(非特許文献1、6、および、7を参照。)。
Figure 0004140915
Figure 0004140915
なお、対象とコストはX×RYで定義された確率分布Dから互いに独立に発生すると考え、Dからサンプリングされた、N個のデータの集合Eが訓練データとして与えられるとする。ここで、Eのi番目の訓練データe(i) = (x(i), {c(i)(x(i), y)}y∈Y)とする。x(i)∈Xは訓練データのi番目の対象とし、それぞれの行動y∈Yを採った場合のコストc(i)(x(i),y)が与えられているとする。
N. Abe and B. Zadrozny. An iterative method for multi-class cost-sensitive learning. In Proceedings of ACM SIGKDD Conference, 2004. J. P. Bradford, C. Kunz, R. Kohavi, C. Brunk, and C. E. Brodley. Pruning decision trees with misclassification costs. In Proceedings of the 9th European Conference on Machine Learning (ECML), 1998. P. Domingos. MetaCost: A general method for making classifier cost sensitive. In Proceedings of the 5th International Conference on Knowledge Discovery and Data Mining, pages 155-164, 1999. C. Elkan. The foundations of cost-sensitive learning. In Proceedings of the 17th International Joint Conference on Artificial Intelligence (IJCAI), pages 973-978, 2001. W. Fan, S. J. Stolfo, J. Zhang, and P. K. Chan. Ada-Cost: Missclassification cost sensitive boosting. In Proceedings of the 16th International Conference on Machine Learning (ICML), pages 97-105, 1999. P. Geibel, U. Bredford, and F. Wysotzki. Perceptron and SVM learning with generalized cost models. Intelligent Data Analysis, 8(5):439-455, 2004. B. Zadrozny and C. Elkan. Learning and making decisions when costs and probabilities are both unknown.In Proceedings of ACM SIGKDD Conference, 2001. B. Zadrozny, J. Langford, and N. Abe. Cost-sensitive learning by cost-proportionate example weighting. In Proceedings of the 3rd International Conference on Data Mining (ICDM), pages 435-442, 2003. 鈴木. 正確な学習よりも得する学習- 誤分類コストを考慮する分類学習- (1)(2). 情報処理, 45(4-5), 2004. T. C. Cormen, C. E. Leiserson, and R. L. Rivest. Introduction to Algorithms. MIT Press, Cambridge, MA, 1990. R. T. Rockafellar and S. Uryasev. Optimization of conditional value-at-risk. Journal of Risk, 2(3):21-41, 2000.
しかしながら、リスク管理の立場から考えると、単に経験期待コストを最小化するというアプローチでは十分でない場合がある。訓練後、M個のデータに対して行動を採るものとする。Mが大きいときには、これらに対するコストの和はM・C(θ)に近づくため、CE(θ)を学習の目的関数とすることに問題はないように思える。しかしながら、Mが比較的少ないため上記の近似が成り立たず、また、大きなコストの発生が致命的になるような状況を考えてみる。例えば、資金をどこに投資するべきかを決定するような問題の場合、大きな失敗が何度か連続して起きるということは、破産のリスクに直結する重大な問題である。起こる確率は小さいが、許容できないほど大きなコストが発生してしまうような可能性がある場合、ユーザーはそのリスクをなるべく回避することを望むであろう。
また、たとえば、同じだけのコスト期待値が望める2つの決定関数h1とh2があったとする。h1によってもたらされるコストの確率分布は期待値の周りに高いピークをもつが、h2によってもたらされるコストの確率分布は高コストの領域に、なだらかで裾野が厚い形をもっているとする。この場合、期待コストは等しくとも、望ましいのは、高いコストが発生してしまう可能性がより小さいh1のほうであろう。このような場合においては、経験期待コスト最小化では目的を正しく反映しているとはいえず、コストの分布を考慮して、リスクをより積極的に回避するような学習手法が望まれる。
そこで本発明は、上記の課題を解決することのできるシステム、方法、および、プログラムを提供することを目的とする。この目的は特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。
上記課題を解決するために、本発明の実施形態においては、対象およびその対象に対して採る行動を入力し、その対象に対してその行動を採る妥当性の程度を数値化して出力する行動決定関数を定めるパラメータを算出することにより前記行動決定関数を生成するシステムであって、対象と、当該対象に対して既に採られた行動と、当該行動を当該対象に対して採った結果として生じたコストとを、前記行動決定関数を生成するための訓練データとして取得するデータ取得部と、前記対象に対して行動を採った結果として生じるコストの期待ショートフォールを最小化する前記行動決定関数を、前記訓練データに基づいて生成する関数生成部とを備え前記関数生成部は、与えられた値をコストのバリュー・アット・リスクとした場合において、前記訓練データにおける前記バリュー・アット・リスクを超えるコストの合計に基づく期待ショートフォールの上界を示す、前記パラメータに対して下に凸である指標値を最小化する前記パラメータを算出することにより前記行動決定関数を算出し、メモリに記憶する第1算出部と、前記第1算出部によって算出された行動決定関数を前記メモリから読み出して、前記行動決定関数によって示される行動を採った結果として生じるコストのバリュー・アット・リスクを、前記訓練データに基づいて算出して、前記第1算出部に与える第2算出部と、前記指標値に基づく期待ショートフォールが、予め定められた範囲内の値に収束したか否かを判定する収束判定部とを有し、前記期待ショートフォールが収束したことを条件に、前記第1算出部によって算出された前記行動決定関数の前記パラメータを出力するシステム、当該システムとして情報処理装置を機能させるプログラム、および、当該システムにより行動決定関数を生成する方法を提供する。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションもまた、発明となりうる。
本発明によれば、損失を低減するための行動を指示する行動決定関数を、効率的に算出することができる。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、行動支援システム10の機能構成を示す。行動支援システム10は、利用者がある対象について採るべき行動の決定を支援することを目的とする。一例として、行動支援システム10は、医師が、ある検査結果を有する患者に対する治療方針の決定を支援することを目的とする。
行動支援システム10は、訓練データDB100と、データ取得部110と、関数生成部120と、行動決定部130とを備える。訓練データDB100は、行動支援システム10が行動決定関数を生成するための訓練データを記憶している。この訓練データは、例えば、ある対象に対して既に採られた複数の行動のそれぞれについて、当該行動をその対象に対して採った結果として生じたコストを示す。訓練データは、過去にある対象に対して行動した履歴に基づいて生成されてもよいし、各種のシミュレーションや実験の結果に基づいて生成されてもよい。医療方針の決定支援の例では、訓練データとは、既に治療した複数の患者のそれぞれについて、当該患者において生じた損失の大きさを示すデータである。
データ取得部110は、訓練データを訓練データDB100から取得して関数生成部120に提供する。関数生成部120は、ある対象に対して行動を採った結果として得られるコストの期待ショートフォールを最小化する行動決定関数を、訓練データに基づいて生成する。医療方針の決定支援の例では、行動決定関数は、患者に対する治療方針を決定する関数である。そして、行動決定関数は、治療によって生じる損失の期待ショートフォールを最小化するように生成される。この関数は、ある対象が与えられた場合に一つの治療方針を一意に出力してもよいし、複数の治療方針のそれぞれが妥当である程度を示す指標値を出力してもよい。
行動決定部130は、ある行動の対象が与えられた場合に、関数生成部120によって生成された行動決定関数に基づいて、その対象に対して採るべき行動を決定し、利用者に通知する。これにより、利用者は、期待ショートフォールという、現実の事象に即した指標値を最小化するような行動を、行動の決定に先立って知ることができ、将来のリスクを低減することができる。即ち具体的には、医師は医療過誤によって重要な患者を死亡させるリスクを低減でき、融資実行者は貸し倒れ損失額を低減でき、また、投資家は破産のリスクを低減できる。
また、ある対象におけるコストの期待ショートフォールは、その対象に対して行動を採った結果として得られるコストのバリュー・アット・リスク(以下、VaR、非特許文献10を参照。)、および、行動決定関数のパラメータθの関数として表される。そして、本実施形態においては、期待ショートフォールの上界を示す指標値を採用する。この指標値は、VaRおよびパラメータθについて、下に凸の関数として表される。本実施例の関数生成部120は、この性質を利用して、まずVaRを固定して、この指標値を最小化するようなパラメータθを算出する。次に、関数生成部120は、パラメータθを固定して、この指標値を最小化するようなVaRを算出する。関数生成部120は、期待ショートフォールが収束するまでこれらの算出を繰り返す。このように、本実施例における行動支援システム10は、最小化するリスク指標を期待ショートフォールとし、その上界を凸関数で表す指標値を最小化することで、適切な行動決定関数を迅速に算出することができる。
図2は、訓練データDB100のデータ構造の一例を示す。訓練データDB100は、ある患者に対して治療を行った結果として生じた損失を、訓練データとして記憶している。図2の例では、行動の対象が検査結果に対応し、行動は治療方針に対応し、損失は治療によって生じた不利益に対応する。訓練データDB100に記憶された訓練データによれば、ある検査結果Aを有するある患者に対し、治療方針1に従って治療を行った場合における損失は10であり、治療方針2に従って治療を行った場合における損失は6である。一方で、同じ検査結果Aを有する他の患者に対し、治療方針1に従って治療を行った場合における損失は1であり、治療方針2に従って治療を行った場合における損失は5である。
この損失は、1から10によって正規化して示すが、実際には、例えば、治療の結果として表れた現象を数値化したものである。即ち例えば、10は、死亡やそれに準ずる状態を示し、1は、投薬の副作用が発生した状態を示す。これに代えて、この損失は、治療の結果として現れた現象を金銭の価値に置き換えたものであってもよい。
ここで、検査結果Aの患者に対して治療方針1に従って治療を行った場合の平均損失は5.5であり、治療方針2に従って治療を行った場合の平均損失も5.5である。このように、治療方針1と治療方針2とでは、共に、平均損失は5.5であるが、治療方針1の最大損失は10であり、治療方針2の最大損失は6である。死亡に相当する損失は避けるべきであるから、この例においては、例え平均損失が同じであっても、最大損失の少ない治療方針2を採用するべきと判断できる。このような判断は、より複雑な事例では困難な場合が多いが、本実施例においては、最小化すべき指標を期待ショートフォールとすることで、このような判断を適切に行うことができる。
同様に、検査結果Bを有するある患者に対し、治療方針1に従う治療を行った結果として生じる損失は8であり、治療方針2に従う治療を行った結果として生じる損失は6である。一方で、同じ検査結果Bを有する他の患者に対し、治療方針1に従う治療を行った結果として生じる損失は7であり、治療方針2に従う治療を行った結果として生じる損質は7である。
以上、図2に示すように、訓練データDB100は、ある対象に対してある行動を採った結果として生じるコストを記憶している。このコストは、その対象に対して過去に実際に行動を採った結果の履歴に基づいて定められてもよいし、各種の実験結果やシミュレーションの結果に基づいて定められてもよい。
図3は、関数生成部120の機能構成を示す。関数生成部120は、第1算出部300と、第3算出部305と、第2算出部310と、収束判定部330とを有する。第1算出部300は、与えられた値をコストのVaRとした場合において、そのVaRを超えるコストの合計に基づく指標値を最小化する行動決定関数を、訓練データに基づいて算出してメモリに記憶する。この指標値は、例えば、期待ショートフォールの上界を示す所定の値となっており、なおかつ、この指標値を最小化するときの行動決定関数が、期待ショートフォールを最小化することが予め分かっている。
第3算出部305は、訓練データに基づいて、コストの期待値を最小化する行動決定関数を算出する。コストの期待値を最小化する行動決定関数を効率的に算出する技術は、コスト考慮型アルゴリズム(cost-sensitive algorithm)と呼ばれている。この技術の実現方法は、例えば、非特許文献1、6、および、8に記載されており従来公知であるから説明を省略する。第1算出部300は、訓練データに含まれるそれぞれに行動に対応するコストから、与えられたVaRを差し引いて、新たな訓練データとして第3算出部305に与える。そして、第1算出部300は、第3算出部305によって、当該新たな訓練データにおけるコストの期待値を最小化する行動決定関数を算出させる。算出させた行動決定関数が、与えられたこの値をVaRとした場合における期待ショートフォールを最小化する行動決定関数となる。
第2算出部310は、第1算出部300によって算出された行動決定関数をメモリから読み出して、その行動決定関数によって示される行動を採った結果として生じるコストのVaRを、訓練データに基づいて算出して、第1算出部300に与える。収束判定部330は、第1算出部300によって最小化された指標値と、第2算出部310によって算出されたVaRとに基づいて、これらに基づいて算出される期待ショートフォールが、予め定められた範囲内の値に収束したか否かを判定する。関数生成部120は、期待ショートフォールが収束したことを条件に、第1算出部300によって算出された行動決定関数を出力する。
このように、関数生成部120によれば、期待ショートフォールをより小さくするような行動決定関数とVaRとを交互に算出して、期待ショートフォールを最小値に近づけていく。そして、期待ショートフォールが収束したことを条件に、その時点の行動決定関数を出力する。この際、期待ショートフォールの上界は、パラメータθおよびVaRについて下に凸の関数として表されることから、期待ショートフォールを最小化するパラメータθおよびVaRは、θおよびVaRに対しグリーディーなアルゴリズムによって算出することができる。これにより、行動決定関数を算出する毎に期待ショートフォールは最小値に近づき、目的の行動決定関数を効率的に算出することができる。更に、行動決定関数の算出においては、第3算出部305において、コストの期待値を算出する既存技術を利用することができ、既存技術の蓄積を利用して処理を効率化することができる。
以下、図4および図5を用いて、本実施例の処理の流れを説明する。処理の流れの説明に先立って、まず、期待ショートフォールを最小化する行動決定関数を算出するアルゴリズムを導く過程を説明する。このアルゴリズムは、行動決定関数のパラメータθを算出することによって行動決定関数を生成する。即ち、行動決定関数とは、対象x、行動y、および、パラメータθを入力として、その行動の妥当性の程度を数値化して出力するものとし、その行動決定関数の性質を定めるパラメータをθとする。
パラメータθを用いて、期待ショートフォールは、以下の式(8)によって表される。但し、式(8)において、[x]を、xが正の場合はxを、それ以外の場合には0を返す関数とする。
Figure 0004140915
この式において、コストの分布Dは未知であるので、分布Dに代えて、訓練データの分布Eを用いる。これにより、式(8)は式(9)のように書き換えられる。但し、式(9)において、訓練データにおける行動の対象を、x(1)からx(n)とする。また、行動決定関数を、対象xを入力として、パラメータθに応じて採るべき行動yを決定するための関数hとする。また、訓練データにおけるコストを、c(x(i),h(θ))とする。また、VaRを越えるコストが発生する確率を定数βとする。
Figure 0004140915
ここで、α β(θ)は、訓練データの分布Eに対するVaRであり、式(10)によって表される。但し、関数Iを、引数によって示される条件が満たされる場合に1を、当該条件が満たされない場合に0を採る関数とする。
Figure 0004140915
さて、式(9)において、仮にα β(θ)が既知の定数α´であるとすると、式(9)の第2項に含まれる以下の式(11)だけを最小化すればよいことになる。
Figure 0004140915
なお、関数[x]はxについて非減少な凸関数であるので、c(x(i),h(θ))がθについて凸であれば、式(11)も同様に凸になる。式(11)を最小化するアルゴリズムについては後述する。
次に、与えられたパラメータθについて、このθに対するVaRは、訓練データについて定義されているから、以下の式(12)および式(13)のように表すことができる。
Figure 0004140915
Figure 0004140915
これは、θによって発生するコストのなかで、(1−β)・N番目(端数は切り捨て)に大きいもの(c(x(k),h(θ))に等しいので、順序統計量を求めるアルゴリズムによって、O(N)時間で発見することができる(例えば、非特許文献10を参照。)。
以上の導出に基づき、以下、図4を用いて、期待ショートフォールを最小化する行動決定関数を算出する処理を説明する。
図4は、行動支援システム10が利用者の行動の決定を支援する処理のフローチャートを示す。データ取得部110は、訓練データを訓練データDB100から取得する(S400)。この訓練データに基づき、関数生成部120は、以下の処理を行う。まず、第1算出部300は、与えられた値をコストのVaRとした場合において、そのVaRを超えるコストの合計に基づく指標値を最小化する行動決定関数を、訓練データに基づいて算出する(S410)。与えられる値とは、第1回目の算出においては、予め定められた初期値(例えば、0)のあり、その後の算出においては、第2算出部310によって与えられるVaRである。詳細には、第1算出部300は、与えられたVaRをα´とし、上述の式(11)によって算出される指標値C α(θ)を最小化する行動決定関数のパラメータθ´を算出する。パラメータθ´の値を、新たなθの値とする。
次に、第2算出部310は、第1算出部300によって算出された行動決定関数によって示される行動を採った結果として生じるコストのVaRを、訓練データに基づいて算出する(S420)。詳細には、第2算出部310は、算出されたパラメータθに対し、上述の式(12)および式(13)によって算出されるα β(θ)をVaRとして算出する。そして、第2算出部310は、この値をα´として第1算出部300に与える。
次に、収束判定部330は、第1算出部300によって最小化された指標値C α´と、第2算出部310によって算出されたVaRに基づいて、期待ショートフォールの上界を示す指標値F β(θ,α)を算出する(S430)。この指標値は、例えば、第1算出部によって最小化された指標値C α´を、コストがバリュー・アット・リスク以下である確率(1−β)で除算した値を、VaRに加えた値であり、以下の式(14)によって表される。
Figure 0004140915
この式(14)については、非特許文献11において示されているように、以下の式(15)が満たされることが知られている。また、式(14)がαについて凸であり、更に、式(7)がθについて凸であるから、式(14)はθとαについて凸である。そして、更に、以下の式(16)が成立する。
Figure 0004140915
Figure 0004140915
以上より、式(16)の指標値が最小値に収束する場合には、期待ショートフォールも最小値に収束することがわかる。さらに、この指標値は、VaRおよびθの関数によって表され、VaRおよびθについて下に凸の関数となる。従って、収束判定部330は、式(16)の指標値が予め定められた範囲内の値に収束するか否かを判断することによって、期待ショートフォールが収束したか否かを判断する(S440)。なお、期待ショートフォールの収束に伴い、VaRおよびθも所定の値に収束していくことから、収束判定部330は、VaRの収束を判定することによって期待ショートフォールの収束を判定してもよいし、θの収束を判定することによって期待ショートフォールの収束を判定してもよい。
期待ショートフォールが収束していなければ(S440:NO)、関数生成部120は、S410に処理を戻す。この場合、第1算出部300は、S420において算出されたVaRを用いてパラメータθを再度算出する。一方で、期待ショートフォールが収束したことを条件に(S440:YES)、関数生成部120は、第1算出部300によって算出された行動決定関数のパラメータθを出力する(S450)。行動決定部130は、以上の処理によって算出された行動決定関数に基づいて、利用者の行動を支援する(S460)。
図5は、S410において、行動決定関数を算出処理の詳細を示す。行動決定関数によって行動が択一的に定まる場合において、コストは、[C(i)(x(i),y)−α´]+α´の形に限定される。上述の式(11)がα´を超えるコストの期待値になっていることに注意すると、以下の式(17)を、もともとのコストに置き換えることにより、式(7)は、以下の式(18)として表される。これは、式(7)と同じ形になるので、既存の事例依存コスト考慮型アルゴリズムに、式(17)のようにコストを変更した訓練例を与えることによって、期待ショートフォールを最小化することができる。
Figure 0004140915
Figure 0004140915
以上の考察により、第1算出部300は、以下の処理を行う。まず、第1算出部300は、式(17)によって、訓練データにおける対象x(i)および行動yに対するコストc(i)から、与えられたバリュー・アット・リスクα´を差し引くことにより、コストc´(i)を算出して第3算出部305に与える(S500)。そして、第3算出部305は、式(18)によって示されるコストC´ α´(θ)を最小化する行動決定関数のパラメータθを算出する(S510)。
この式(18)によって表されるコストC´ α´(θ)は、訓練データから求められるコストの期待値となる。コストの期待値を算出するアルゴリズムは、非特許文献1、6、および、8などによって従来から研究されており、その効率的な実行方法が知られている。本実施形態における第1算出部300は、訓練データに含まれる各コストから、与えられたVaRを差し引くことによって、期待ショートフォールを最小化させる問題をコストの期待値を最小化させる問題に帰着させることができる。これにより、従来から研究されている効率的なアルゴリズムを利用して、期待ショートフォールを効率的に最小化することができる。
図6は、本実施形態に係る行動支援システム10によって実験を行った結果を示す。実験データとして、非特許文献6で用いられているGerman Credit Dataを用いた。実験が対象とする問題は、顧客の信用リスクを予測する問題であり、顧客の情報をもとに、その人がよい顧客か悪い顧客かを分類するという問題である。顧客情報xの属性は、性別や職業、資金の使用目的や過去の履歴など、20の項目から構成される。
この実験では、データセットに付属している、すべての属性を24の数値属性に変換したものを用いた。行動は、融資を実行する、または、融資を実行しない、の2種類である。実行すべき融資を実行しないと、利息分の損失が発生する。一方で、実行すべきでない融資を実行すると、融資額の大部分に相当する損失が発生する。その他の条件は、非特許文献6に準ずる。
実験では、アクションを択一的に選択する場合のモデルh(x, y)および分散投資型のアクションの場合の弱仮説ft(x, y)として用いる。何れの場合においても、コスト考慮型学習器としてはコスト考慮型パーセプトロン(非特許文献6を参照。)をカーネル化したものを用いた。カーネル関数としてはガウシアンカーネル(σ= 50)を用いる。
本実験の結果は、データを3分割(訓練データ666個、テストデータ334個)した交差検定による値の平均値によって計測した。Cost-Sensitive の列は、期待コストを目的関数とするような従来のコスト考慮型パーセプトロンによる結果を、Risk-Sensitiveの列は、期待ショートフォールを目的関数とするような提案手法(β= 0.20, 0.10, 0.05, 0.01それぞれの場合)による結果を示した。
各行はテストデータにおける各βでの期待ショートフォールの3回の平均を示している。また、括弧内の数値はそれぞれの場合でのバリュー・アット・リスクを示している。Cost-Sentitiveの列の最下行のMean Cost の行は平均コストを示している。期待通り、コスト考慮型学習の場合には対応するβにおける期待ショートフォールを減少できていることがわかる。βが大きくなるほどリスク回避型による期待ショートフォールの減少分は著しくなくなっているが、これは、コスト分布が左側(0付近)に大きく偏っているため、期待ショートフォールと、期待コストの違いが小さくなっているためと思われる。また、β= 0.20 では、コスト考慮型のほうがリスク回避型よりも小さなバリュー・アット・リスクを実現していることがみてとれる。これはバリュー・アット・リスクが小さいことは、かならずしも小さな確率で起こる大きなコストそのものを抑えることにはならないことを示唆している。
図7は、行動支援システム10として機能する情報処理装置700のハードウェア構成の一例を示す。情報処理装置700は、ホストコントローラ1082により相互に接続されるCPU1000、RAM1020、及びグラフィックコントローラ1075を有するCPU周辺部と、入出力コントローラ1084によりホストコントローラ1082に接続される通信インターフェイス1030、ハードディスクドライブ1040、及びCD−ROMドライブ1060を有する入出力部と、入出力コントローラ1084に接続されるBIOS1010、フレキシブルディスクドライブ1050、及び入出力チップ1070を有するレガシー入出力部とを備える。
ホストコントローラ1082は、RAM1020と、高い転送レートでRAM1020をアクセスするCPU1000及びグラフィックコントローラ1075とを接続する。CPU1000は、BIOS1010及びRAM1020に格納されたプログラムに基づいて動作し、各部の制御を行う。グラフィックコントローラ1075は、CPU1000等がRAM1020内に設けたフレームバッファ上に生成する画像データを取得し、表示装置1080上に表示させる。これに代えて、グラフィックコントローラ1075は、CPU1000等が生成する画像データを格納するフレームバッファを、内部に含んでもよい。
入出力コントローラ1084は、ホストコントローラ1082と、比較的高速な入出力装置である通信インターフェイス1030、ハードディスクドライブ1040、及びCD−ROMドライブ1060を接続する。通信インターフェイス1030は、ネットワークを介して外部の装置と通信する。ハードディスクドライブ1040は、情報処理装置700が使用するプログラム及びデータを格納する。CD−ROMドライブ1060は、CD−ROM1095からプログラム又はデータを読み取り、RAM1020又はハードディスクドライブ1040に提供する。
また、入出力コントローラ1084には、BIOS1010と、フレキシブルディスクドライブ1050や入出力チップ1070等の比較的低速な入出力装置とが接続される。BIOS1010は、情報処理装置700の起動時にCPU1000が実行するブートプログラムや、情報処理装置700のハードウェアに依存するプログラム等を格納する。フレキシブルディスクドライブ1050は、フレキシブルディスク1090からプログラム又はデータを読み取り、入出力チップ1070を介してRAM1020またはハードディスクドライブ1040に提供する。入出力チップ1070は、フレキシブルディスク1090や、例えばパラレルポート、シリアルポート、キーボードポート、マウスポート等を介して各種の入出力装置を接続する。
情報処理装置700に提供されるプログラムは、フレキシブルディスク1090、CD−ROM1095、又はICカード等の記録媒体に格納されて利用者によって提供される。プログラムは、入出力チップ1070及び/又は入出力コントローラ1084を介して、記録媒体から読み出され情報処理装置700にインストールされて実行される。プログラムが情報処理装置700等に働きかけて行わせる動作は、図1から図6において説明した行動支援システム10における動作と同一であるから、説明を省略する。
以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク1090、CD−ROM1095の他に、DVDやPD等の光学記録媒体、MD等の光磁気記録媒体、テープ媒体、ICカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークやインターネットに接続されたサーバシステムに設けたハードディスク又はRAM等の記憶装置を記録媒体として使用し、ネットワークを介してプログラムを情報処理装置700に提供してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
図1は、行動支援システム10の機能構成を示す。 図2は、訓練データDB100のデータ構造の一例を示す。 図3は、関数生成部120の機能構成を示す。 図4は、行動支援システム10が利用者の行動の決定を支援する処理のフローチャートを示す。 図5は、S410において、行動決定関数を算出処理の詳細を示す。 図6は、本実施形態に係る行動支援システム10によって実験を行った結果を示す。 図7は、行動支援システム10として機能する情報処理装置700のハードウェア構成の一例を示す。
符号の説明
10 行動支援システム
100 訓練データDB
110 データ取得部
120 関数生成部
130 行動決定部
300 第1算出部
305 第3算出部
310 第2算出部
330 収束判定部
700 情報処理装置

Claims (7)

  1. 対象およびその対象に対して採る行動を入力し、その対象に対してその行動を採る妥当性の程度を数値化して出力する行動決定関数を定めるパラメータを算出することにより前記行動決定関数を生成するシステムであって、
    対象と、当該対象に対して既に採られた行動と、当該行動を当該対象に対して採った結果として生じたコストとを、前記行動決定関数を生成するための訓練データとして取得するデータ取得部と、
    前記対象に対して行動を採った結果として生じるコストの期待ショートフォールを最小化する前記行動決定関数を、前記訓練データに基づいて生成する関数生成部と
    を備え
    前記関数生成部は、
    与えられた値をコストのバリュー・アット・リスクとした場合において、前記訓練データにおける前記バリュー・アット・リスクを超えるコストの合計に基づく期待ショートフォールの上界を示す、前記パラメータに対して下に凸である指標値を最小化する前記パラメータを算出することにより前記行動決定関数を算出し、メモリに記憶する第1算出部と、
    前記第1算出部によって算出された行動決定関数を前記メモリから読み出して、前記行動決定関数によって示される行動を採った結果として生じるコストのバリュー・アット・リスクを、前記訓練データに基づいて算出して、前記第1算出部に与える第2算出部と、
    前記指標値に基づく期待ショートフォールが、予め定められた範囲内の値に収束したか否かを判定する収束判定部と
    を有し、前記期待ショートフォールが収束したことを条件に、前記第1算出部によって算出された前記行動決定関数の前記パラメータを出力する
    システム。
  2. 前記関数生成部は、前記訓練データに基づいて、コストの期待値を最小化する前記行動決定関数を算出する第3算出部を更に有し、
    前記第1算出部は、前記訓練データに含まれるそれぞれの行動に対応するコストから、与えられた前記バリュー・アット・リスクを差し引いて前記第3算出部に与えることにより、前記指標値を最小化する前記行動決定関数を算出する
    請求項に記載のシステム。
  3. 前記第1算出部は、与えられた前記バリュー・アット・リスクをα´とし、以下の式(1)によって算出される指標値C α´(θ)を最小化する前記行動決定関数のパラメータθを算出し、
    前記第2算出部は、算出された前記パラメータθに対し、以下の式(2)および式(3)によって算出されるα β(θ)をバリュー・アット・リスクとして算出して、前記第1算出部に与え、
    前記収束判定部は、以下の式(4)によって算出された値が、予め定められた範囲内の値に収束したか否かを判定する
    請求項に記載のシステム。
    但し、式(1)から式(4)を以下のように定義する。
    Figure 0004140915
    但し、前記訓練データにおける行動の対象を、x(1)からx(n)とし、前記行動決定関数を、対象xを入力として、パラメータθに応じて採るべき行動yを決定するための関数hとし、前記訓練データにおける前記コストを、c(x(i),h(θ))とし、[x]を、xが正の場合はxを、それ以外の場合には0を返す関数とする。
    Figure 0004140915
    Figure 0004140915
    Figure 0004140915
    但し、引数によって示される条件が満たされる場合に1を、当該条件が満たされない場合に0を採る関数を関数Iとし、バリュー・アット・リスクを越えるコストが発生する確率を定数βとする。
  4. 前記第1算出部は、以下の式(5)によって、前記訓練データにおける対象x(i)および行動yに対するコストc(i)から、与えられた前記バリュー・アット・リスクであるα´を差し引くことにより、コストc´(i)を算出して前記第3算出部に与え、
    前記第3算出部は、以下の式(6)によって示されるコストC´ α´(θ)を最小化する前記行動決定関数を算出する請求項に記載のシステム。但し、式(5)および式(6)を以下のように定義する。
    Figure 0004140915
    Figure 0004140915
  5. 前記システムは、ある検査結果を有する患者に対する治療方針の決定を支援するシステムであって、
    前記行動決定関数は、前記患者に対する治療方針を決定する関数であり、
    前記データ取得部は、既に治療した複数の患者のそれぞれについて、当該患者において生じた損失の大きさを、前記訓練データとして取得し、
    前記関数生成部は、治療によって生じる損失の期待ショートフォールを最小化する前記行動決定関数を、前記訓練データに基づいて生成する
    請求項1に記載のシステム。
  6. 対象およびその対象に対して採る行動を入力し、その対象に対してその行動を採る妥当性の程度を数値化して出力する行動決定関数を定めるパラメータを算出することにより前記行動決定関数を情報処理装置により生成する方法であって、
    前記情報処理装置が、対象と、当該対象に対して既に採られた行動と、当該行動を当該対象に対して採った結果として生じたコストとを、前記行動決定関数を生成するための訓練データとして取得するデータ取得ステップと、
    前記情報処理装置が、前記対象に対して行動を採った結果として生じるコストの期待ショートフォールを最小化する前記行動決定関数を、前記訓練データに基づいて生成する関数生成ステップと
    を備え
    前記関数生成ステップは、
    前記情報処理装置が、与えられた値をコストのバリュー・アット・リスクとした場合において、前記訓練データにおける前記バリュー・アット・リスクを超えるコストの合計に基づく期待ショートフォールの上界を示す、前記パラメータに対して下に凸である指標値を最小化する前記パラメータを算出することにより前記行動決定関数を算出し、メモリに記憶する第1算出ステップと、
    前記情報処理装置が、前記第1算出ステップによって算出された行動決定関数を前記メモリから読み出して、前記行動決定関数によって示される行動を採った結果として生じるコストのバリュー・アット・リスクを、前記訓練データに基づいて算出して、前記第1算出ステップに与える第2算出ステップと、
    前記情報処理装置が、前記指標値に基づく期待ショートフォールが、予め定められた範囲内の値に収束したか否かを判定する収束判定ステップ
    を有し、前記期待ショートフォールが収束したことを条件に、前記第1算出ステップによって算出された前記行動決定関数の前記パラメータを出力する
    方法。
  7. 対象およびその対象に対して採る行動を入力し、その対象に対してその行動を採る妥当性の程度を数値化して出力する行動決定関数を定めるパラメータを算出することにより前記行動決定関数を生成するシステムとして、情報処理装置を機能させるプログラムであって、
    前記情報処理装置を、
    対象と、当該対象に対して既に採られた行動と、当該行動を当該対象に対して採った結果として生じたコストとを、前記行動決定関数を生成するための訓練データとして取得するデータ取得部と、
    前記対象に対して行動を採った結果として生じるコストの期待ショートフォールを最小化する前記行動決定関数を、前記訓練データに基づいて生成する関数生成部と
    として機能させ
    前記関数生成部は、
    与えられた値をコストのバリュー・アット・リスクとした場合において、前記訓練データにおける前記バリュー・アット・リスクを超えるコストの合計に基づく期待ショートフォールの上界を示す、前記パラメータに対して下に凸である指標値を最小化する前記パラメータを算出することにより前記行動決定関数を算出し、メモリに記憶する第1算出部と、
    前記第1算出部によって算出された行動決定関数を前記メモリから読み出して、前記行動決定関数によって示される行動を採った結果として生じるコストのバリュー・アット・リスクを、前記訓練データに基づいて算出して、前記第1算出部に与える第2算出部と、
    前記指標値に基づく期待ショートフォールが、予め定められた範囲内の値に収束したか否かを判定する収束判定部と
    を有し、前記期待ショートフォールが収束したことを条件に、前記第1算出部によって算出された前記行動決定関数の前記パラメータを出力する
    プログラム。
JP2005323404A 2005-11-01 2005-11-08 利用者の行動を支援するシステム Expired - Fee Related JP4140915B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005323404A JP4140915B2 (ja) 2005-11-08 2005-11-08 利用者の行動を支援するシステム
US11/550,846 US7467120B2 (en) 2005-11-08 2006-10-19 System for supporting user's behavior
US11/552,205 US7792761B2 (en) 2005-11-01 2006-10-24 System for evaluating relevance between persons
US12/060,384 US7930258B2 (en) 2005-11-08 2008-04-01 System for supporting user's behavior
US12/192,792 US7716145B2 (en) 2005-11-08 2008-08-15 System for supporting user's behavior

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005323404A JP4140915B2 (ja) 2005-11-08 2005-11-08 利用者の行動を支援するシステム

Publications (2)

Publication Number Publication Date
JP2007133477A JP2007133477A (ja) 2007-05-31
JP4140915B2 true JP4140915B2 (ja) 2008-08-27

Family

ID=38004999

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005323404A Expired - Fee Related JP4140915B2 (ja) 2005-11-01 2005-11-08 利用者の行動を支援するシステム

Country Status (2)

Country Link
US (3) US7467120B2 (ja)
JP (1) JP4140915B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7493249B2 (en) * 2006-06-23 2009-02-17 International Business Machines Corporation Method and system for dynamic performance modeling of computer application services
US8344503B2 (en) 2008-11-25 2013-01-01 Freescale Semiconductor, Inc. 3-D circuits with integrated passive devices
US8918834B1 (en) * 2010-12-17 2014-12-23 Amazon Technologies, Inc. Creating custom policies in a remote-computing environment
US20170323385A1 (en) 2016-05-09 2017-11-09 Axioma, Inc. Methods and apparatus employing hierarchical conditional variance to minimize downside risk of a multi-asset class portfolio and improved graphical user interface
WO2019216427A1 (ja) * 2018-05-11 2019-11-14 株式会社 Preferred Networks リスク指標評価装置、リスク指標評価方法及びプログラム
CN110967566A (zh) * 2018-09-28 2020-04-07 珠海格力电器股份有限公司 电器故障检测方法及装置

Also Published As

Publication number Publication date
US7716145B2 (en) 2010-05-11
US7930258B2 (en) 2011-04-19
US20080306889A1 (en) 2008-12-11
US20070106625A1 (en) 2007-05-10
US20080319931A1 (en) 2008-12-25
US7467120B2 (en) 2008-12-16
JP2007133477A (ja) 2007-05-31

Similar Documents

Publication Publication Date Title
Pérez-Martín et al. Big Data techniques to measure credit banking risk in home equity loans
CN112055878B (zh) 基于第二组训练数据调整机器学习模型
US11048870B2 (en) Domain concept discovery and clustering using word embedding in dialogue design
JP2022527536A (ja) 強化学習を通じた公平性の改善
JP7206072B2 (ja) 改善された要求ハンドリング
JP7059458B2 (ja) 生成的敵対神経網ベースの分類システム及び方法
JP4140915B2 (ja) 利用者の行動を支援するシステム
US20240013919A1 (en) Supervised machine learning-based modeling of sensitivities to potential disruptions
EP3745325A1 (en) Data analysis apparatus, data analysis method, and data analysis program
Eddy et al. Credit scoring models: Techniques and issues
WO2016168464A1 (en) Scoring a population of examples using a model
US11551817B2 (en) Assessing unreliability of clinical risk prediction
JP7027359B2 (ja) ヘルスケアデータ分析装置及びヘルスケアデータ分析方法
Jaroszewicz et al. Székely regularization for uplift modeling
Saeedi et al. Knowledge distillation via constrained variational inference
Zenati et al. Counterfactual learning of continuous stochastic policies
JP2003323601A (ja) 信頼性尺度付き予測装置
Acito Logistic Regression
JP6975682B2 (ja) 医学情報処理装置、医学情報処理方法、及び医学情報処理プログラム
Olya et al. Multi-task Prediction of Patient Workload
Xing et al. Anytime neural architecture search on tabular data
Doumpos et al. Data analytics for developing and validating credit models
US20180253515A1 (en) Characterizing model performance using hierarchical feature groups
WO2022270163A1 (ja) 計算機システム及び介入効果予測方法
WO2024042736A1 (ja) 情報処理方法、情報処理システム、及び情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080118

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20080207

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20080229

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080508

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080603

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20080604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080606

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110620

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees