JP2004355236A - System and method for evaluating accuracy of credit risk evaluation model - Google Patents
System and method for evaluating accuracy of credit risk evaluation model Download PDFInfo
- Publication number
- JP2004355236A JP2004355236A JP2003150980A JP2003150980A JP2004355236A JP 2004355236 A JP2004355236 A JP 2004355236A JP 2003150980 A JP2003150980 A JP 2003150980A JP 2003150980 A JP2003150980 A JP 2003150980A JP 2004355236 A JP2004355236 A JP 2004355236A
- Authority
- JP
- Japan
- Prior art keywords
- model
- credit risk
- risk evaluation
- accuracy
- evaluation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、会社の倒産確率を評価するための信用リスク評価モデルの精度評価システムおよび精度評価方法に係り、更に詳しくは、信用リスク評価モデルを所有する所有者が信用リスク評価モデルの全体内容を開示することなく第3者に対して信用リスク評価モデルの精度を評価させるシステムおよび方法に関する。
【0002】
【従来の技術】
企業活動等において、取引先企業や融資先企業の財務状況が健全であるか否かを把握することが重要なことはいうまでもない。そこで、取引先企業や融資先企業の財務状況に基づいて、その企業の倒産確率を評価するための信用リスク評価モデルを有している企業(以下、「モデル保有者」と称する)もある。この種の信用リスク評価モデルとして例えば下記非特許文献1に示すようなCRAFTスコアリング法がある。
【0003】
この種の信用リスク評価モデルの精度は、一般に信用リスク評価モデルを構築してから時間が経過するほど劣化していく。したがって、精度がある値以下になれば、このモデルのリプレースを行い、常に信頼性の高い評価結果が得られるように維持していく必要がある。
【0004】
しかしながら、当然のことながら、モデルのリプレースにはコストの発生を伴う。通常、モデルリプレースのタイミングは年1回、すなわち決算書公表時である。しかし、客観的な視点でモデル精度の劣化が少ないこと、つまり十分な精度を有しているモデルであることが示されれば、モデルをリプレースする必要はなくなり、モデルリプレースに伴うコストの発生を回避することができる。
【0005】
したがって、第3者(以下、「モデル評価者」と称する)による客観的な視点からの信用リスク評価モデルの精度評価が求められている。
【0006】
【非特許文献1】
東芝レビュー Vol.57 No.4(2002) p.43−46
【0007】
【発明が解決しようとする課題】
しかしながら、このような第3者、すなわちモデル評価者による信用リスク評価モデルの精度評価を行う場合、以下のような問題がある。
【0008】
すなわち、モデル保有者がモデル評価者に対して、自己の保有する信用リスク評価モデルの精度評価を委託する場合、一般的に2つの方法がある。
【0009】
第1の方法は、モデル保有者が、自己の保有する信用リスク評価モデルを用いて、多くの企業を対象とした倒産確率の評価を行い、その結果をモデル評価者に渡す。そして、モデル評価者は、その評価結果に基づいて信用リスク評価モデルの精度評価を行う方法である。
【0010】
第2の方法は、モデル保有者がモデル評価者に対して信用リスク評価モデルのロジックを公開する。そしてモデル評価者は、この信用リスク評価モデルに種々の企業の実際の財務データを適用することによって企業の倒産確率の評価を行い、その評価結果に基づいて信用リスク評価モデルの精度評価を行う方法である。
【0011】
第1の方法では、モデル保有者が多くの企業を対象とした倒産確率の評価を行う必要があるために、これら企業の財務データを必要とする。しかしながら、一般的に、モデル保有者は、多くの企業の財務データを保有していないことが多い。このため、多くの企業についての倒産確率の評価結果をモデル評価者に提示できず、モデル評価者は、信頼性の高い精度評価を行うことができないという問題がある。
【0012】
第2の方法では、モデル保有者は、自己のノウハウである信用リスク評価モデルをモデル評価者に対して公開せねばならず、自己のノウハウが漏洩してしまうという問題がある。また、モデル評価者は、多くの企業を対象とした倒産確率の評価を行うために、多くの企業の財務データを保有していなければならないという問題がある。
【0013】
本発明はこのような事情に鑑みてなされたものであり、モデル保有者が信用リスク評価モデルを公開することなく、かつモデル評価者が多くの企業の財務データを保有することなく、モデル評価者がモデル保有者から委託された信用リスク評価モデルの精度評価を行うことが可能な信用リスク評価モデルの精度評価システムおよび精度評価方法を提供することを目的とする。
【0014】
【課題を解決するための手段】
上記の目的を達成するために、本発明では、以下のような手段を講じる。
【0015】
すなわち、請求項1の発明は、会社の倒産確率を評価するための信用リスク評価モデルを所有する所有者が、信用リスク評価モデルの精度評価を2つ以上の計算者と、1つの評価者に対して分担委託することによって、各計算者および評価者の何れに対しても信用リスク評価モデルの全体内容を開示することなく評価者に対して信用リスク評価モデルの精度を評価させる方法であって、まず、信用リスク評価モデルに使用されているモデル式を計算者と同数の部分モデル式に分割し、分割した各部分モデル式と、各部分モデル式に代入される信用リスク評価計算用のデータとを各計算者へそれぞれ与える。次に、各計算者に対し、部分モデル式にデータを代入させることによって信用リスク評価計算を実行させる。そして、評価者に対し、各計算者による信用リスク評価計算の結果と、予め定めた精度評価基準とを比較させ、この比較結果に基づいて信用リスク評価モデルの精度を評価させる。
【0016】
従って、請求項1の発明の信用リスク評価モデルの精度評価方法においては、以上のような手段を講じることにより、各計算者は部分モデル式しか与えられず、また、評価者にはモデル式が全く開示されない。したがって、所有者は、各計算者および評価者のいずれに対しても信用リスク評価モデルの全体内容を開示することなく精度評価を委託することが可能となる。
【0017】
請求項2の発明は、会社の倒産確率を評価するための信用リスク評価モデルを所有する所有者が、信用リスク評価モデルの精度評価を1つ以上の部分計算者と、1つの合計計算者と、1つの評価者に対して分担委託することによって、各計算者および評価者の何れに対しても信用リスク評価モデルの全体内容を開示することなく評価者に対して信用リスク評価モデルの精度を評価させる方法であって、まず、1つ以上の部分計算者に対して、信用リスク評価モデルに使用されているモデル式を構成している各項と、各項に対応する信用リスク評価計算用のデータとをそれぞれ与える。次に、各部分計算者に対し、各項にデータを代入させることによって各項の値を計算させる一方、合計計算者に対し、各項によって構成されてなるモデル式に、各部分計算者によって計算された各項の値を代入させることによって信用リスク評価計算を実行させる。更に、評価者に対し、信用リスク評価計算の結果と、予め定めた精度評価基準とを比較させ、この比較結果に基づいて信用リスク評価モデルの精度を評価させる。
【0018】
従って、請求項2の発明の信用リスク評価モデルの精度評価方法においては、以上のような手段を講じることにより、いずれの計算者に対してもモデル式の全体が開示されず、また、評価者にはモデル式に値が代入されてなる最終結果しか開示されない。したがって、所有者は、各計算者および評価者のいずれに対しても信用リスク評価モデルの全体内容を開示することなく精度評価を委託することが可能となる。
【0019】
請求項3の発明は、会社の倒産確率を評価するための信用リスク評価モデルを所有する所有者によって委託された信用リスク評価モデルの精度評価を、信用リスク評価モデルの全体内容を把握することなく行うシステムであって、取得手段と、統合手段と、比較手段と、評価手段とを備えている。取得手段は、信用リスク評価モデルに使用されているモデル式を構成している複数の部分モデル式のそれぞれについて、精度評価用のデータを代入することによってなされた信用リスク評価計算を取得する。統合手段は、取得手段によって取得された各信用リスク評価計算の結果を統合する。比較手段は、統合手段によって統合された結果と、予め定めた精度評価基準とを比較する。評価手段は、比較手段による比較結果に基づいて信用リスク評価モデルの精度を評価する。
【0020】
従って、請求項3の発明の信用リスク評価モデルの精度評価システムにおいては、以上のような手段を講じることにより、各計算者は部分モデル式しか与えられず、また、評価者にはモデル式が全く開示されない。したがって、所有者は、各計算者および評価者のいずれに対しても信用リスク評価モデルの全体内容を開示することなく精度評価を委託することが可能となる。
【0021】
請求項4の発明は、会社の倒産確率を評価するための信用リスク評価モデルを所有する所有者によって委託された信用リスク評価モデルの精度評価を、信用リスク評価モデルの全体内容を把握することなく行うシステムであって、信用リスク評価モデルに使用されているモデル式に精度評価用のデータを代入することによってなされた信用リスク評価計算を取得する取得手段と、取得手段によって統合された結果と予め定めた精度評価基準とを比較する比較手段と、比較手段による比較結果に基づいて信用リスク評価モデルの精度を評価する評価手段とを備えている。
【0022】
従って、請求項4の発明の信用リスク評価モデルの精度評価システムにおいては、以上のような手段を講じることにより、いずれの計算者に対してもモデル式の全体が開示されず、また、評価者にはモデル式に値が代入されてなる最終結果しか開示されない。したがって、所有者は、各計算者および評価者のいずれに対しても信用リスク評価モデルの全体内容を開示することなく精度評価を委託することが可能となる。
【0023】
【発明の実施の形態】
以下に、本発明の各実施の形態について図面を参照しながら説明する。
【0024】
(第1の実施の形態)
本発明の第1の実施の形態を図1から図4を用いて説明する。
【0025】
図1は、第1の実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの構成例を示す機能ブロック図である。
【0026】
すなわち、本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムは、会社の倒産確率を評価するための信用リスク評価モデルを所有する所有者が、信用リスク評価モデルの精度評価を2つ以上の計算者と、1つの評価者に対して分担委託することによって、各計算者および評価者の何れに対しても信用リスク評価モデルの全体内容を開示することなく評価者に対して信用リスク評価モデルの精度を評価させるシステムである。
【0027】
このシステムは、インターネットやLAN等からなる通信ネットワーク10によって互いに接続された所有者サーバ12と、複数の計算者サーバ14(#1,#2,・・・,#n)と、評価者サーバ16とから構成してなる。
【0028】
所有者サーバ12は所有者側に備えられ、モデル分割部18と、データ送信部20と、財務データ格納部22と、倒産情報格納部24と、評価結果取込部26とを備えている。
【0029】
計算者サーバ14は、各計算者側に備えられ、それぞれデータ取込部28と、格付等算出部30と、データ送信部32とを備えている。
【0030】
評価者サーバ16は、評価者側に備えられ、データ取込部34と、財務データ格納部36と、データ送信部38と、格付結果統合部40と、格付結果格納部42と、倒産情報格納部44と、モデル精度評価部46と、評価ルール格納部48と、評価結果送信部50とを備えている。
【0031】
モデル分割部18は、信用リスク評価モデルに使用されているモデル式を、計算を委託する2つ以上の計算者と同数の部分モデル式に分割し、分割した各部分モデル式の情報をデータ送信部20へと出力する(S1)。
【0032】
例えば、信用リスク評価モデルのモデル式が、図2に示すように収益性ポイントであるA指標とB指標とを計算するための部分モデル式(1)と、安全性ポイントであるC指標とD指標とを計算するための部分モデル式(2)とから構成している場合には、信用リスク評価モデルに使用されているモデル式を、部分モデル式(1)と部分モデル式(2)とに分割し、分割した部分モデル式(1)および部分モデル式(2)の情報をデータ送信部20へと出力する。
【0033】
更に、部分モデル式(1)を、A指標を計算する部分モデル式(1A)と、B指標を計算する部分モデル式(1B)とに分割できる場合には、この分割した部分モデル式(1A)および部分モデル式(1B)の情報をデータ送信部20に出力しても良い。同様に、部分モデル式(2)を、C指標を計算する部分モデル式(2C)と、D指標を計算する部分モデル式(2D)とに分割できる場合には、この分割した部分モデル式(2C)および部分モデル式(2D)の情報をデータ送信部20に出力しても良い。
【0034】
各計算者側にはそれぞれ計算者サーバ14(#1,#2,・・・,#n)が設けられているが、所有者は、n(n≧2)ある計算者のうちの任意の2つ以上の計算者に対して計算を委託することができる。したがって、図1に示す計算者サーバ14(#1,#2,・・・,#n)のうちの全てが必ずしも必要である訳ではなく、少なくとも2つ以上存在すれば本実施の形態に係る信用リスク評価モデル精度評価システムは動作可能である。たとえば、モデル分割部18が信用リスク評価モデルのモデル式を2つの部分モデル式(1,2)に分割した場合には、任意の2つの計算者に対して計算を委託し、モデル分割部18が信用リスク評価モデルのモデル式を4つの部分モデル式(1A,1B,2C,2D)に分割した場合には、任意の4つの計算者に対して計算を委託する。
【0035】
財務データ格納部22は、企業の財務データを、また倒産情報格納部24は、対応する企業の倒産情報データをそれぞれ予め格納している。財務データは、例えば図3に示すように、総資産事業利益率、株主資本当期利益率、売上総利益率、売上高経常利益率、総資産回転率、当座比率といった一般的な財務指標に対応したデータである。倒産情報データはその企業が倒産したか否かの情報である。
【0036】
データ送信部20は、モデル分割部18から各部分モデル式の情報が出力されると、各部分モデル式の情報を、委託先の各計算者サーバ14へ向けてそれぞれ送信する(S2)。また、財務データ格納部22に格納されている財務データの中から、精度評価に用いる企業の財務データを取得するとともに、この企業の倒産情報データを倒産情報格納部24からそれぞれ取得する(S3)。そして、通信ネットワーク10を介して、財務データおよび倒産情報データを評価者サーバ16へ向けて送信する(S4)。
【0037】
例えば、モデル分割部18においてモデル式が部分モデル式(1)と部分モデル(2)との2つの部分モデル式に分割され、部分モデル式(1)の計算を計算者サーバ14(#1)に委託する場合には部分モデル式(1)の情報を計算者サーバ14(#1)に向けて送信し、部分モデル式(2)の計算を計算者サーバ14(#2)に委託する場合には部分モデル式(2)の情報を計算者サーバ14(#2)に向けて送信する。同様に、モデル分割部18においてモデル式が部分モデル式(1A,1B,2C,2D)の4つの部分モデル式に分割され、部分モデル式(1A)の計算を計算者サーバ14(#1)に委託する場合には部分モデル式(1A)の情報を計算者サーバ14(#1)に向けて送信し、部分モデル式(1B)の計算を計算者サーバ14(#2)に委託する場合には部分モデル式(1B)の情報を計算者サーバ14(#2)に向けて送信し、部分モデル式(2C)の計算を計算者サーバ14(#3)に委託する場合には部分モデル式(2C)の情報を計算者サーバ14(#3)に向けて送信し、部分モデル式(2D)の計算を計算者サーバ14(#4)に委託する場合には部分モデル式(2D)の情報を計算者サーバ14(#4)に向けて送信する。
【0038】
データ取込部34は、データ送信部20から送信された財務データおよび倒産情報データを取り込み(S5)、財務データを財務データ格納部36へ(S6)、倒産情報データを倒産情報格納部44へ(S7)とそれぞれ格納する。
【0039】
データ送信部38は、財務データ格納部36に財務データが格納されると、格納された財務データを取得し(S8)、取得した財務データを、通信ネットワーク10を介して計算者サーバ14へと送信する(S9)。この場合、全ての計算者サーバ14(#1,#2,・・・,#n)に対して送信するようにしてもよいが、所有者サーバ12に対して問い合わせを行い、部分モデル式の情報が送信された計算者サーバ14にのみ送信するようにしてもよい。
【0040】
ステップS2において、データ送信部20から部分モデル式の情報が送信された各計算者サーバ14のそれぞれデータ取込部28は、ステップS2においてデータ送信部20から送信された部分モデル式の情報と、ステップS9においてデータ送信部38から送信された財務データとを受信する(S10)。そして、受信した部分モデル式の情報と、財務データとを格付等算出部30へと出力する(S11)。
【0041】
格付等算出部30は、データ取込部28から出力された部分モデル式に、データ取込部28から出力された財務データを代入した演算を行い、演算結果をデータ送信部32へと出力する(S12)。
【0042】
例えば、部分モデル式(1)が送信された計算者サーバ14の格付等算出部30では、部分モデル式(1)に財務データを代入することによってA指標およびB指標を演算し、各演算結果である収益性ポイント(A指標○○ポイント、B指標△△ポイント)の情報をデータ送信部32へと送信する。また、部分モデル式(2)が送信された計算者サーバ14の格付等算出部30では、部分モデル式(2)に財務データを代入することによってC指標およびD指標を演算し、各演算結果である安全性ポイント(C指標××ポイント、D指標□□ポイント)の情報をデータ送信部32へと送信する。
【0043】
このように、各計算者サーバ14には、部分モデル式のみしか送信されないようにしている。このため、いずれの計算者サーバ14においても、信用リスク評価モデルのモデル式の全容が開示されることがないようにしている。
【0044】
データ送信部32は、格付等算出部30から出力された演算結果を取得し、取得した演算結果を通信ネットワーク10を介して評価者サーバ16に向けて出力する(S13)。
【0045】
データ取込部34は、このようにして各計算者サーバ14のデータ送信部32からそれぞれ送信された各演算結果を通信ネットワーク10を介して受信する(S14)と、受信した各演算結果を格付結果統合部40へと出力する(S15)。
【0046】
格付結果統合部40は、データ取込部34から出力された各演算結果を統合することによって、モデル式に財務データを代入して演算結果を得ると、この演算結果を格付結果格納部42に書き込む(S16)。なお、格付結果統合部40は、計算を委託された各計算者サーバ14のデータ送信部32から送信された演算結果の統合処理を行うのみであり、モデル式の内容はおろか、部分モデル式の内容も知り得ない。
【0047】
例えば、データ取込部34は、計算者サーバ14(#1)のデータ送信部32から収益性ポイント(A指標○○ポイント、B指標△△ポイント)の情報を取り込むと、この収益性ポイントを格付結果統合部40に出力する。同様に、データ取込部34は、計算者サーバ14(#2)のデータ送信部32から安全性ポイント(C指標××ポイント、D指標□□ポイント)の情報を取り込むと、この安全性ポイントを格付結果統合部40に出力する。これによって、格付結果統合部40は、該企業の収益性ポイント(A指標○○ポイント、B指標△△ポイント)および安全性ポイント(C指標××ポイント、D指標□□ポイント)を把握する。しかしながら、格付結果統合部40は、該企業の収益性ポイント(A指標○○ポイント、B指標△△ポイント)および安全性ポイント(C指標××ポイント、D指標□□ポイント)を知ることはできるが、これらポイントがどのようなモデル式にどのような財務データが入力されることによって得られた結果であるものかを知ることはない。
【0048】
モデル精度評価部46は、格付結果格納部42に格納された演算結果と(S17)、倒産情報格納部44に格納されたこの企業の倒産情報データと(S18)をそれぞれ取得する。更に、評価ルール格納部48に予め格納されている評価ルールの情報を取得する(S19)。そして、ステップS17で取得した演算結果と、ステップS18で取得した倒産情報データと、ステップS19で取得した評価ルールとに基づいて、信用リスク評価モデルの精度を評価する。
【0049】
評価ルールとは、格付結果統合部40によって得られた演算結果に基づいて、信用リスク評価モデルの精度を評価するための評価基準である。
【0050】
この評価基準としては、例えば、収益性ポイント(A指標○○ポイント、B指標△△ポイント)と安全性ポイント(C指標××ポイント、D指標□□ポイント)とを加算してなる合計ポイントに基づく倒産確率がある。この場合、格付結果統合部40は、収益性ポイント(A指標○○ポイント、B指標△△ポイント)と安全性ポイント(C指標××ポイント、D指標□□ポイント)とを加算してなる合計ポイントと、ステップS18で取得した倒産情報データから分かる倒産か否かの結果のペアを評価基準と比較して、信用リスク評価モデルの精度を評価する。モデル精度評価部46は、評価結果データを評価結果送信部50へと出力する(S20)。
【0051】
評価結果送信部50は、モデル精度評価部46から評価結果データが出力されると、この評価結果データを通信ネットワーク10を介して所有者サーバ12に向けて送信する(S21)。
【0052】
このようにして評価者サーバ16の評価結果送信部50から送信された評価結果データは、所有者サーバ12に備えられた評価結果取込部26が受信する(S22)。そして、評価者は、評価結果取込部26によって受信された評価結果データを参照することにより、自己が所有する信用リスク評価モデルの精度を把握する。
【0053】
次に、以上のように構成した本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの動作について図4に示す処理フロー図を用いて説明する。
【0054】
まず、本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムによって、信用リスク評価モデルの精度評価を行う場合には、モデル分割部18において、信用リスク評価モデルに使用されているモデル式が、計算を委託する2つ以上の計算者と同数の部分モデル式に分割され、分割された各部分モデル式の情報がデータ送信部20へと出力される(S1)。
【0055】
ここでは、信用リスク評価モデルが図2に示すように収益性ポイントを評価する部分モデルと、安全性ポイントを評価する部分モデルとからなり、信用リスク評価モデルに使用されているモデル式を、部分モデル式(1)と部分モデル式(2)とに分割する場合を例に説明する。
【0056】
モデル分割部18から各部分モデル式の情報がデータ送信部20に出力されると、各部分モデル式の情報が、委託先の各計算者サーバ14へ向けてそれぞれ送信される(S2)。ここでは、部分モデル式(1)の情報が計算者サーバ14(#1)に、部分モデル式(2)の情報が計算者サーバ14(#2)にそれぞれ出力されるものとする。
【0057】
一方、財務データ格納部22に格納されている財務データの中から精度評価に用いる企業の財務データが、またこの企業の倒産情報データが倒産情報格納部24から、それぞれデータ送信部20によって取得される(S3)。これら取得されたデータは、通信ネットワーク10を介して評価者サーバ16側へと送信される(S4)。
【0058】
データ送信部20から送信された財務データおよび倒産情報データは、データ取込部34によって取り込まれる(S5)。そして、財務データは、データ取込部34から財務データ格納部36へ(S6)、倒産情報データは、データ取込部34から倒産情報格納部44へ(S7)とそれぞれ格納される。
【0059】
財務データ格納部36に財務データが格納されると、格納された財務データがデータ送信部38によって取得され(S8)、更に通信ネットワーク10を介して計算者サーバ14へと送信される(S9)。
【0060】
ステップS2において、データ送信部20から部分モデル式の情報が送信された各計算者サーバ14のそれぞれデータ取込部28では、ステップS2においてデータ送信部20から送信された部分モデル式の情報と、ステップS9においてデータ送信部38から送信された財務データとが受信される(S10)。そして、受信した部分モデル式の情報と、財務データとが格付等算出部30へと出力される(S11)。
【0061】
格付等算出部30では、データ取込部28から出力された部分モデル式に、データ取込部28から出力された財務データが代入される。この演算結果は、格付等算出部30からデータ送信部32へと出力される(S12)。
【0062】
このように、各計算者サーバ14には、部分モデル式のみしか送信されない。このため、いずれの計算者サーバ14においても、信用リスク評価モデルのモデル式の全容が開示されることがない。
【0063】
データ送信部32では、ステップS12で格付等算出部30から出力された演算結果が取得される。そして、この取得した演算結果が通信ネットワーク10を介して評価者サーバ16に向けて送信される(S13)。
【0064】
このようにして各計算者サーバ14のデータ送信部32からそれぞれ送信された各演算結果は、通信ネットワーク10を介してデータ取込部34によって受信される(S14)。更にこれら各演算結果は、データ取込部34から格付結果統合部40へと出力される(S15)。
【0065】
格付結果統合部40では、データ取込部34から出力された各演算結果が統合され、信用リスク評価モデルに適用されているモデル式に財務データが代入され、最終的な演算結果が得られる。更にこの演算結果は、格付結果格納部42へと格納される(S16)。
【0066】
このように、格付結果統合部40は、計算を委託された各計算者サーバ14のデータ送信部32から送信された演算結果の統合処理を行うのみであり、モデル式の内容はおろか、部分モデル式の内容も知り得ない。
【0067】
格付結果格納部42に格納された演算結果と、倒産情報格納部44に格納されたこの企業の倒産情報データとは、それぞれモデル精度評価部46によって取得される(S17,S18)。更に、評価ルール格納部48に予め格納されている評価ルールの情報が取得される(S19)。そして、ステップS17で取得した演算結果と、ステップS18で取得した倒産情報データから分かる倒産か否かの結果のペアを評価基準と比較して信用リスク評価モデルの精度が評価される。そしてこの評価結果データは、モデル精度評価部46から評価結果送信部50へと出力される(S20)。
【0068】
上述したようなモデル精度評価部46による評価を多くの企業を対象に行い、倒産情報データの結果と比較されることによって、信用リスク評価モデルの精度評価が行われる。
【0069】
モデル精度評価部46から出力された評価結果データは、評価結果送信部50によって通信ネットワーク10を介して所有者サーバ12に向けて送信される(S21)。
【0070】
ステップS21において評価結果送信部50から送信された評価結果データは、所有者サーバ12に備えられた評価結果取込部26によって受信される(S22)。そして、この評価結果データが評価者に参照されることにより、信用リスク評価モデルの精度が評価者によって把握される。
【0071】
上述したように、本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムにおいては、上記のような作用により、各計算者サーバ14には、部分モデル式のみしか送信されない。このため、いずれの計算者サーバ14においても、信用リスク評価モデルのモデル式の全容が開示されることがない。
【0072】
また、評価者サーバ16は、各計算者サーバ14のデータ送信部32から送信された演算結果の統合処理を行うのみであり、モデル式の内容はおろか、部分モデル式の内容も知り得ない。
【0073】
その結果、信用リスク評価モデルの所有者は、各計算者および評価者のいずれに対しても信用リスク評価モデルの全体内容を開示することなく精度評価を委託することが可能となる。
【0074】
(第2の実施の形態)
本発明の第2の実施の形態を図5から図8を用いて説明する。
【0075】
第1の実施の形態では、信用リスク評価モデルのモデル式が、図2に示すように収益性ポイントであるA指標とB指標とを計算するための部分モデル式(1)と、安全性ポイントであるC指標とD指標とを計算するための部分モデル式(2)とから構成している場合について説明したが、本実施の形態では、信用リスク評価モデルのモデル式が、例えば以下に示す(i)から(vii)に示す式で表される場合について説明する。
Z=KA1+KA2+KA3+KA4+KA5+KA6+C・・・(i)
KA1=a(1)*b(1) ・・・(ii)
KA2=a(2)*b(2) ・・・(iii)
KA3=a(3)*b(3) ・・・(iv)
KA4=a(4)*b(4) ・・・(v)
KA5=a(5)*b(5) ・・・(vi)
KA6=a(6)*b(6) ・・・(vii)
ここで、a(x):(x=1〜6)は、図5に示すように財務指標名x毎の係数である。また、b(x):(x=1〜6)は、図3に示すように財務指標名x毎の指標の値である。また、Cは図5に示すような定数項である。
【0076】
このように、本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムは、第1の実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの変形例であり、その構成を図1と同一としており、計算者サーバ14と評価者サーバ16との動作が一部異なるのみである。第1の実施の形態では、動作ステップをステップS1からステップS22の通り示したが、以下では、動作の異なるステップのみを説明し、同一動作のステップについてはその説明を省略する。
【0077】
すなわち、本実施の形態では、モデル分割部18は、上記各式を、式(i)と、式(ii)乃至(vii)とからなる2つのグループに分割し、分割した各グループをデータ送信部20へと出力する(S1’)。なお、ステップS1’とは、第1の実施の形態におけるステップS1の内容が、本実施の形態では異なっていることを示す。本実施の形態では、このような規則に則ってステップ番号を示すことにより、第1の実施の形態と同一であるステップと異なるステップとを明確にしている。
【0078】
データ送信部20は、モデル分割部18から各グループの式情報が出力されると、式(i)を例えば計算者サーバ14(#2)へ、式(ii)乃至(vii)を例えば計算者サーバ14(#1)へとそれぞれ送信する(S2’)。
【0079】
データ送信部38は、ステップS8において財務データ格納部36から財務データを取得すると、取得した財務データを、通信ネットワーク10を介して計算者サーバ14(#1)へと送信する(S9’)。
【0080】
ステップS2’において、データ送信部20から式(ii)乃至(vii)が送信された計算者サーバ14(#1)のデータ取込部28は、ステップS2’においてデータ送信部20から送信された式(ii)乃至(vii)と、ステップS9’においてデータ送信部38から送信された財務データとを受信する(S10’)。そして、受信した式(ii)乃至(vii)と、財務データとを格付等算出部30へと出力する(S11’)。
【0081】
計算者サーバ14(#1)の格付等算出部30は、データ取込部28から出力された式(ii)乃至(vii)に、データ取込部28から出力された財務データを代入した演算を行い、演算結果であるKA1〜KA6をデータ送信部32へと出力する(S12’)。
【0082】
上述したように、計算者サーバ14(#1)には式(ii)乃至(vii)が送信されるものの式(i)は送信されない。これによって計算者サーバ14(#1)には、信用リスク評価モデルのモデル式の全容が開示されることはない。また、自分が演算した結果であるKA1〜KA6がどのような計算に用いられるのかも分からない。
【0083】
計算者サーバ14(#1)のデータ送信部32は、格付等算出部30から出力された演算結果であるKA1〜KA6を取得し、この演算結果KA1〜KA6を通信ネットワーク10を介して計算者サーバ14(#2)に向けて出力する(S13’)。
【0084】
ステップS2’において、データ送信部20から式(i)が送信された計算者サーバ14(#2)のデータ取込部28は、ステップS2’においてデータ送信部20から送信された式(i)と、ステップS13’において計算者サーバ14(#1)のデータ送信部38から送信された演算結果KA1〜KA6とを受信する(S10’’)。そして、受信した式(i)と、演算結果KA1〜KA6とを格付等算出部30へと出力する(S11’’)。
【0085】
計算者サーバ14(#2)の格付等算出部30は、データ取込部28から出力された式(i)に、演算結果KA1〜KA6を代入した演算を行い、演算結果Zをデータ送信部32へと出力する(S12’’)。
【0086】
上述したように、計算者サーバ14(#2)側では、演算結果KA1〜KA6がどのような式によって、どのような財務データが用いられて得られたものであるか一切知ることができない。したがって、やはり計算者サーバ14(#2)にもまた信用リスク評価モデルのモデル式の全容が開示されることはない。
【0087】
計算者サーバ14(#2)のデータ送信部32は、格付等算出部30から出力された演算結果Zを取得し、この演算結果Zを通信ネットワーク10を介して評価者サーバ16に向けて出力する(S13’’)。
【0088】
データ取込部34は、このようにして計算者サーバ14(#2)のデータ送信部32から送信された演算結果Zを通信ネットワーク10を介して受信し(S14’)、格付結果統合部40を介して格付結果格納部42に書き込む(S16’)。すなわち、本実施の形態では、第1の実施の形態におけるステップS15およびステップS16に対応する動作は存在しない。
【0089】
そして、ステップS20’では、ステップS17’で取得した演算結果Zと、ステップS18で取得した倒産情報データと、ステップS19で取得した評価ルールとに基づいて、信用リスク評価モデルの精度を評価する。評価方法としては例えばAR値に基づく評価や、CRAFTスコアとの比較による評価がある。
【0090】
AR(Accuracy Rate)値に基づく評価は、ムーディーズ社によって提案された統計指標を用いた評価手法である。AR値に基づく評価方法について図6を用いて説明する。
【0091】
図6は、横軸に演算結果Zを、縦軸に企業の累積倒産率を示している。ここで、演算結果Zは、値が大きいほど倒産確率が低いことを示すパラメータであり、以下スコアと称する。すなわち、横軸における原点側が最も倒産確率が高い。多くの企業を対象にスコアZを求める一方、実際に倒産した企業数の累積割合は、理想的には図中R1に示すような傾向をとる。すなわち、ある低いスコアZ0までの企業は全て倒産するはずであるから、スコアZ0における累積倒産率は100%となる。したがって、図中R1に示すような傾向に近い信用リスク評価モデルほど精度が高い。逆に言うと、スコアZが低い値であるにもかかららず実際に倒産していないことを示している図中R3に示すような傾向をとる信用リスク評価モデルは判別能力が無く、極めて精度が低いことを示している。
【0092】
図中R1に示すような極めて高い精度、および図中R3に示すような極めて低い精度を除き、現実的にほとんどの信用リスク評価モデルは、これらの中間である図中R2に示すような傾向を取る。AR値に基づく評価では、図中R1と図中R3とに囲まれてなる面積(S1+S2)に対する図中R2と図中R3とに囲まれてなる面積(S2)の比が0.7以上(S2/(S1+S2)≧0.7)であれば十分な精度を有した信用リスク評価モデルであるものと判定している。
【0093】
CRAFTスコアとの比較による評価方法について図7を用いて説明する。なお、CRAFTスコアの詳細については、上述した非特許文献1に記載されている。
【0094】
ロジットモデルによれば、スコアZを用いて、企業の倒産確率pは下式のように表される。
p=1/(1+exp(−Z))
したがって、上記ロジットモデルにスコアZを代入することによって信用リスク評価モデルによって評価された倒産確率pを得ることができる。図7は、このようにして企業M1〜M5を対象に得られた倒産確率p2の結果例を示している。
【0095】
また、同じ企業M1〜M5を対象とした倒産確率を、上述した非特許文献1に記載されているCRAFTスコアによっても求める。図7には、CRAFTスコアによる倒産確率p1の結果例も示している。
【0096】
なお、図7に示す「倒産or非倒産」p0は、「1」は倒産を、「0」は非倒産をそれぞれ示している。倒産か非倒産かである情報は、ステップS18で取得した倒産情報データそのものである。
【0097】
図7に示すような結果に基づいて、倒産確率p1および倒産確率p2のそれぞれについて以下に示す式にしたがって尤度Lを求める。
【0098】
【数1】
【0099】
上記式にしたがって得られる尤度Lは、CRAFTスコアの場合
L=(1−0.1)×0.3×(1−0.2)×(1−0.1)×0.5=0.0972 であり、
信用リスク評価モデルの場合
L=(1−0.3)×0.2×(1−0.1)×(1−0.2)×0.3=0.03024 である。
【0100】
尤度が大きい方が優れたモデルであるので、この場合CRAFTスコアの方が優れたモデルであるものと判定することができる。
【0101】
次に、以上のように構成した本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの動作について図8に示す処理フロー図を用いて説明する。
【0102】
まず、本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムによって、信用リスク評価モデルの精度評価を行う場合には、モデル分割部18において、信用リスク評価モデルに使用されている例えば式(i)乃至(vii)からなるモデル式が、式(i)と、式(ii)乃至(vii)とからなる2つのグループに分割され、分割された各グループがデータ送信部20へと出力される(S1’)。
【0103】
モデル分割部18から各グループの式情報がデータ送信部20へと出力されると、式(i)が例えば計算者サーバ14(#2)へ、式(ii)乃至(vii)が例えば計算者サーバ14(#1)へとそれぞれ送信される(S2’)。
【0104】
一方、財務データ格納部22に格納されている財務データの中から精度評価に用いる企業の財務データが、またこの企業の倒産情報データが倒産情報格納部24から、それぞれデータ送信部20によって取得される(S3)。これら取得されたデータは、通信ネットワーク10を介して評価者サーバ16側へと送信される(S4)。
【0105】
データ送信部20から送信された財務データおよび倒産情報データは、データ取込部34によって取り込まれる(S5)。そして、財務データは、データ取込部34から財務データ格納部36へ(S6)、倒産情報データは、データ取込部34から倒産情報格納部44へ(S7)とそれぞれ格納される。
【0106】
財務データ格納部36に財務データが格納されると、格納された財務データがデータ送信部38によって取得され(S8)、取得された財務データが、通信ネットワーク10を介して計算者サーバ14(#1)へと送信される(S9’)。
【0107】
次に、ステップS2’において、データ送信部20から式(ii)乃至(vii)が送信された計算者サーバ14(#1)のデータ取込部28によって、ステップS2’においてデータ送信部20から送信された式(ii)乃至(vii)と、ステップS9’においてデータ送信部38から送信された財務データとが受信される(S10’)。そして、受信した式(ii)乃至(vii)と、財務データとが格付等算出部30へと出力される(S11’)。
【0108】
計算者サーバ14(#1)の格付等算出部30では、データ取込部28から出力された式(ii)乃至(vii)に、データ取込部28から出力された財務データを代入した演算が行われ、演算結果であるKA1〜KA6がデータ送信部32へと出力される(S12’)。
【0109】
上述したように、計算者サーバ14(#1)には式(ii)乃至(vii)が送信されるものの式(i)は送信されない。これによって計算者サーバ14(#1)には、信用リスク評価モデルのモデル式の全容が開示されることはない。また、自分が演算した結果であるKA1〜KA6がどのような計算に用いられるのかも分からない。
【0110】
計算者サーバ14(#1)のデータ送信部32では、格付等算出部30から出力された演算結果であるKA1〜KA6が取得される。そして、この演算結果KA1〜KA6が通信ネットワーク10を介して計算者サーバ14(#2)に向けて出力される(S13’)。
【0111】
ステップS2’において、データ送信部20から式(i)が送信された計算者サーバ14(#2)のデータ取込部28では、ステップS2’においてデータ送信部20から送信された式(i)と、ステップS13’において計算者サーバ14(#1)のデータ送信部38から送信された演算結果KA1〜KA6とが受信される(S10’’)。そして、受信した式(i)と、演算結果KA1〜KA6とが格付等算出部30へと出力される(S11’’)。
【0112】
計算者サーバ14(#2)の格付等算出部30では、データ取込部28から出力された式(i)に、演算結果KA1〜KA6を代入した演算が行われ、その演算結果Zがデータ送信部32へと出力される(S12’’)。
【0113】
上述したように、計算者サーバ14(#2)には式(i)が送信されるものの財務データは送信されない。これによって計算者サーバ14(#2)側では、演算結果KA1〜KA6がどのような式によって、どのような財務データが用いられて得られたものであるか一切知ることができない。したがって、やはり計算者サーバ14(#2)にもまた信用リスク評価モデルのモデル式の全容が開示されることはない。
【0114】
計算者サーバ14(#2)のデータ送信部32では、格付等算出部30から出力された演算結果Zが取得され、更に演算結果Zが通信ネットワーク10を介して評価者サーバ16に向けて出力される(S13’’)。
【0115】
データ取込部34は、このようにして計算者サーバ14(#2)のデータ送信部32から送信された演算結果Zが通信ネットワーク10を介して受信され(S14’)、格付結果統合部40を介して格付結果格納部42へと書き込まれる(S16’)。
【0116】
モデル精度評価部46では、格付結果格納部42に格納された演算結果と、倒産情報格納部44に格納されたこの企業の倒産情報データとがそれぞれ取得される(S17,S18)。更に、評価ルール格納部48に予め格納されている評価ルールの情報が取得される(S19)。
【0117】
そして、ステップS20’では、ステップS17’で取得した演算結果Zと、ステップS18で取得した倒産情報データと、ステップS19で取得した評価ルールとに基づいて、信用リスク評価モデルの精度が評価される(S20’)。評価方法としては例えばAR値に基づく評価や、CRAFTスコアとの比較による評価がある。上述したような評価結果に基づいて信用リスク評価モデルの精度評価が行われる。
【0118】
評価結果送信部50では、モデル精度評価部46から出力された評価結果データが、通信ネットワーク10を介して所有者サーバ12に向けて送信される(S21)。
【0119】
ステップS21において評価結果送信部50から送信された評価結果データは、所有者サーバ12に備えられた評価結果取込部26によって受信される(S22)。そして、この評価結果データが評価者に参照されることにより、信用リスク評価モデルの精度が評価者によって把握される。
【0120】
上述したように、本実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムにおいては、上記のような作用により、計算者サーバ14(#1)には式(ii)乃至(vii)が送信されるものの式(i)は送信されない。これによって計算者サーバ14(#1)には、信用リスク評価モデルのモデル式の全容が開示されることはない。また、自分が演算した結果であるKA1〜KA6がどのような計算に用いられるのかも分からない。
【0121】
一方、計算者サーバ14(#2)には式(i)が送信されるものの財務データは送信されない。これによって計算者サーバ14(#2)側では、演算結果KA1〜KA6がどのような式によって、どのような財務データが用いられて得られたものであるか一切知ることができない。したがって、やはり計算者サーバ14(#2)にもまた信用リスク評価モデルのモデル式の全容が開示されることはない。
【0122】
更に、評価者サーバ16は、計算者サーバ14(#2)から演算結果のみを知らさせ、この演算結果に基づいて信用リスク評価モデルの精度の評価を行う。したがって、やはり信用リスク評価モデル式の内容については全く知り得ることはない。
【0123】
その結果、信用リスク評価モデルの所有者は、各計算者および評価者のいずれに対しても信用リスク評価モデルの全体内容を開示することなく精度評価を委託することが可能となる。
【0124】
以上、本発明の好適な実施の形態について、添付図面を参照しながら説明したが、本発明はかかる構成に限定されない。特許請求の範囲の発明された技術的思想の範疇において、当業者であれば、各種の変更例及び修正例に想到し得るものであり、それら変更例及び修正例についても本発明の技術的範囲に属するものと了解される。
【0125】
【発明の効果】
以上説明したように、本発明によれば、モデル保有者が信用リスク評価モデルを公開することなく、かつモデル評価者が多くの企業の財務データを保有することなく、モデル評価者がモデル保有者から委託された信用リスク評価モデルの精度評価を行うことが可能な信用リスク評価モデルの精度評価システムおよび精度評価方法を実現することができる。
【図面の簡単な説明】
【図1】第1の実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの構成例を示す機能ブロック図。
【図2】収益性ポイントと安全性ポイントとによる指標を説明するための図。
【図3】財務データの一例を示す図。
【図4】第1の実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの動作を示す処理フロー図。
【図5】財務指標とその係数の一例を示す図。
【図6】AR値に基づく評価に用いられるスコアと累積倒産率との関係を示す図。
【図7】CRAFTスコアとの比較評価を説明するための図。
【図8】第2の実施の形態に係る信用リスク評価モデルの精度評価方法を適用した信用リスク評価モデル精度評価システムの動作を示す処理フロー図。
【符号の説明】
10…通信ネットワーク、12…所有者サーバ、14…計算者サーバ、16…評価者サーバ、18…モデル分割部、20…データ送信部、22…財務データ格納部、24…倒産情報格納部、26…評価結果取込部、28…データ取込部、30…付等算出部、32…データ送信部、34…データ取込部、36…財務データ格納部、38…データ送信部、40…付結果統合部、42…付結果格納部、44…倒産情報格納部、46…モデル精度評価部、48…評価ルール格納部、50…評価結果送信部[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an accuracy evaluation system and an accuracy evaluation method of a credit risk evaluation model for evaluating a bankruptcy probability of a company, and more specifically, an owner who owns a credit risk evaluation model reads the entire contents of the credit risk evaluation model. A system and method for allowing a third party to evaluate the accuracy of a credit risk assessment model without disclosing.
[0002]
[Prior art]
Needless to say, it is important in business activities and the like to ascertain whether or not the financial status of the business partner or the borrower is sound. Therefore, some companies (hereinafter, referred to as “model holders”) have a credit risk evaluation model for evaluating the bankruptcy probability of the company based on the financial situation of the business partner or the borrower. As a credit risk evaluation model of this type, there is, for example, a CRAFT scoring method shown in Non-Patent
[0003]
Generally, the accuracy of this type of credit risk evaluation model deteriorates as time elapses after the credit risk evaluation model is constructed. Therefore, when the accuracy falls below a certain value, it is necessary to replace this model and maintain it so that a highly reliable evaluation result is always obtained.
[0004]
However, it goes without saying that replacing the model involves costs. Normally, the model is replaced once a year, that is, when the financial statements are published. However, if it is shown from an objective point of view that the deterioration of the model accuracy is small, that is, the model has sufficient accuracy, there is no need to replace the model, and the cost associated with model replacement will be reduced. Can be avoided.
[0005]
Therefore, a third party (hereinafter, referred to as a “model evaluator”) is required to evaluate the accuracy of the credit risk evaluation model from an objective viewpoint.
[0006]
[Non-patent document 1]
Toshiba Review Vol. 57 No. 4 (2002) p. 43-46
[0007]
[Problems to be solved by the invention]
However, when the accuracy of the credit risk evaluation model is evaluated by such a third party, that is, the model evaluator, there are the following problems.
[0008]
That is, when a model holder entrusts a model evaluator to evaluate the accuracy of a credit risk evaluation model owned by the model evaluator, there are generally two methods.
[0009]
In the first method, a model holder evaluates bankruptcy probabilities for many companies using a credit risk evaluation model held by the model holder, and passes the result to a model evaluator. Then, the model evaluator is a method of evaluating the accuracy of the credit risk evaluation model based on the evaluation result.
[0010]
In the second method, the model holder discloses the logic of the credit risk evaluation model to the model evaluator. Then, the model evaluator evaluates the probability of bankruptcy of a company by applying actual financial data of various companies to this credit risk evaluation model, and based on the evaluation result, evaluates the accuracy of the credit risk evaluation model It is.
[0011]
In the first method, the model holder needs to evaluate the bankruptcy probability of many companies, and thus needs financial data of these companies. However, in general, model holders often do not have financial data for many companies. For this reason, the bankruptcy probability evaluation results of many companies cannot be presented to the model evaluator, and the model evaluator cannot perform highly reliable accuracy evaluation.
[0012]
In the second method, the model holder must disclose the credit risk evaluation model, which is his own know-how, to the model evaluator, and there is a problem that his own know-how leaks. Further, there is a problem that the model evaluator must have financial data of many companies in order to evaluate the bankruptcy probability of many companies.
[0013]
The present invention has been made in view of such circumstances, and has been developed without the model holder disclose the credit risk evaluation model and without the model evaluator holding financial data of many companies. Of the present invention is to provide a credit risk evaluation model accuracy evaluation system and an accuracy evaluation method capable of evaluating the accuracy of a credit risk evaluation model commissioned by a model holder.
[0014]
[Means for Solving the Problems]
In order to achieve the above object, the present invention takes the following measures.
[0015]
That is, according to the invention of
[0016]
Therefore, in the method for evaluating the accuracy of the credit risk evaluation model according to the first aspect of the present invention, by taking the above measures, each computer is given only a partial model expression, and the evaluator is provided with the model expression. Not disclosed at all. Therefore, the owner can outsource the accuracy evaluation to each of the calculators and the evaluator without disclosing the entire contents of the credit risk evaluation model.
[0017]
According to a second aspect of the present invention, the owner who owns the credit risk evaluation model for evaluating the bankruptcy probability of the company can evaluate the accuracy of the credit risk evaluation model by one or more partial calculators and one total calculator. By outsourcing to one evaluator, the evaluator can improve the accuracy of the credit risk evaluation model without disclosing the entire contents of the credit risk evaluation model to each evaluator and evaluator. A method of evaluating a credit risk by first providing one or more partial calculators with each term constituting a model formula used in a credit risk assessment model and a credit risk assessment calculation corresponding to each term. And data are given. Next, while allowing each partial calculator to calculate the value of each term by substituting data for each term, the total calculator is applied to the model formula composed of each term by each partial calculator. The credit risk evaluation calculation is executed by substituting the calculated values of the terms. Further, the evaluator causes the result of the credit risk evaluation calculation to be compared with a predetermined accuracy evaluation criterion, and the accuracy of the credit risk evaluation model is evaluated based on the comparison result.
[0018]
Therefore, in the method for evaluating the accuracy of the credit risk evaluation model according to the second aspect of the present invention, by taking the above measures, the entire model formula is not disclosed to any of the computer users. Discloses only the final result obtained by substituting a value into the model formula. Therefore, the owner can outsource the accuracy evaluation to each of the calculators and the evaluator without disclosing the entire contents of the credit risk evaluation model.
[0019]
According to the invention of
[0020]
Therefore, in the credit risk evaluation model accuracy evaluation system according to the third aspect of the present invention, by taking the above-described measures, each computer is given only a partial model expression, and the evaluator is provided with the model expression. Not disclosed at all. Therefore, the owner can outsource the accuracy evaluation to each of the calculators and the evaluator without disclosing the entire contents of the credit risk evaluation model.
[0021]
The invention according to
[0022]
Therefore, in the accuracy evaluation system for a credit risk evaluation model according to the fourth aspect of the present invention, by taking the above-described measures, the entire model formula is not disclosed to any of the calculators. Discloses only the final result obtained by substituting a value into the model formula. Therefore, the owner can outsource the accuracy evaluation to each of the calculators and the evaluator without disclosing the entire contents of the credit risk evaluation model.
[0023]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0024]
(First Embodiment)
A first embodiment of the present invention will be described with reference to FIGS.
[0025]
FIG. 1 is a functional block diagram showing a configuration example of a credit risk evaluation model accuracy evaluation system to which a credit risk evaluation model accuracy evaluation method according to the first embodiment is applied.
[0026]
That is, the credit risk evaluation model accuracy evaluation system to which the accuracy evaluation method of the credit risk evaluation model according to the present embodiment is applied is a method in which the owner who owns the credit risk evaluation model for evaluating the bankruptcy probability of a company has a credit risk evaluation model. Disclose the entire contents of the credit risk evaluation model to both each evaluator and each evaluator by delegating the accuracy evaluation of the evaluation model to two or more evaluators and one evaluator. This is a system that allows the evaluator to evaluate the accuracy of the credit risk evaluation model.
[0027]
This system includes an
[0028]
The
[0029]
The
[0030]
The evaluator server 16 is provided on the evaluator side, and includes a
[0031]
The
[0032]
For example, as shown in FIG. 2, the model formula of the credit risk evaluation model is a partial model formula (1) for calculating the A index and the B index which are profitability points, and the C index and D which are security points. When it is composed of the partial model formula (2) for calculating the index, the model formula used for the credit risk evaluation model is represented by the partial model formula (1) and the partial model formula (2). And outputs the information of the divided partial model formulas (1) and (2) to the
[0033]
Further, if the partial model equation (1) can be divided into a partial model equation (1A) for calculating the A index and a partial model equation (1B) for calculating the B index, the divided partial model equation (1A) ) And the information of the partial model formula (1B) may be output to the
[0034]
Each computer is provided with a computer server 14 (# 1, # 2,..., #N), and the owner is any one of n (n ≧ 2) computers. The calculation can be entrusted to two or more calculators. Accordingly, not all of the computer servers 14 (# 1, # 2,..., #N) shown in FIG. 1 are necessarily required, and if at least two exist, the present embodiment is applied. The credit risk evaluation model accuracy evaluation system is operable. For example, when the
[0035]
The financial
[0036]
When the information of each partial model formula is output from the
[0037]
For example, the
[0038]
The
[0039]
When the financial data is stored in the financial
[0040]
In step S2, the
[0041]
The
[0042]
For example, the
[0043]
Thus, only the partial model formula is transmitted to each
[0044]
The
[0045]
When the
[0046]
The rating
[0047]
For example, when the
[0048]
The model
[0049]
The evaluation rule is an evaluation criterion for evaluating the accuracy of the credit risk evaluation model based on the calculation result obtained by the rating
[0050]
As this evaluation criterion, for example, a total point obtained by adding a profitability point (A index XX point, B index △△ point) and a safety point (C index XX point, D index □□ point) is used. There is a bankruptcy probability based on: In this case, the rating
[0051]
When the evaluation result data is output from the model
[0052]
The evaluation result data transmitted from the evaluation
[0053]
Next, the operation of the credit risk evaluation model accuracy evaluation system to which the credit risk evaluation model accuracy evaluation method according to the present embodiment configured as described above is applied will be described with reference to the processing flowchart shown in FIG.
[0054]
First, when the accuracy evaluation of the credit risk evaluation model is performed by the credit risk evaluation model accuracy evaluation system to which the accuracy evaluation method of the credit risk evaluation model according to the present embodiment is applied, the credit risk evaluation model The model formula used in the model is divided into the same number of partial model formulas as two or more calculators entrusted with the calculation, and information on the divided partial model formulas is output to the data transmission unit 20 ( S1).
[0055]
Here, the credit risk evaluation model is composed of a partial model for evaluating profitability points and a partial model for evaluating security points as shown in FIG. The case of dividing into the model formula (1) and the partial model formula (2) will be described as an example.
[0056]
When the information of each partial model formula is output from the
[0057]
On the other hand, from the financial data stored in the financial
[0058]
The financial data and the bankruptcy information data transmitted from the
[0059]
When the financial data is stored in the financial
[0060]
In step S2, the
[0061]
In the rating etc. calculating
[0062]
Thus, only the partial model formula is transmitted to each
[0063]
The
[0064]
Each calculation result transmitted from the
[0065]
The rating
[0066]
As described above, the rating
[0067]
The calculation result stored in the rating result storage unit 42 and the bankruptcy information data of this company stored in the bankruptcy
[0068]
The evaluation by the model
[0069]
The evaluation result data output from the model
[0070]
The evaluation result data transmitted from the evaluation
[0071]
As described above, in the credit risk evaluation model accuracy evaluation system to which the credit risk evaluation model accuracy evaluation method according to the present embodiment is applied, each
[0072]
Further, the evaluator server 16 only performs the integration processing of the operation results transmitted from the
[0073]
As a result, the owner of the credit risk evaluation model can outsource the accuracy evaluation to each of the calculators and evaluators without disclosing the entire contents of the credit risk evaluation model.
[0074]
(Second embodiment)
A second embodiment of the present invention will be described with reference to FIGS.
[0075]
In the first embodiment, the model formula of the credit risk evaluation model is a partial model formula (1) for calculating the profitability points A and B as shown in FIG. Although a description has been given of the case where the model is composed of the partial model formula (2) for calculating the C index and the D index, in the present embodiment, for example, the model formula of the credit risk evaluation model is shown below. The case represented by the equations shown from (i) to (vii) will be described.
Z = KA1 + KA2 + KA3 + KA4 + KA5 + KA6 + C (i)
KA1 = a (1) * b (1) (ii)
KA2 = a (2) * b (2) (iii)
KA3 = a (3) * b (3) (iv)
KA4 = a (4) * b (4) (v)
KA5 = a (5) * b (5) (vi)
KA6 = a (6) * b (6) (vii)
Here, a (x): (x = 1 to 6) is a coefficient for each financial index name x as shown in FIG. B (x): (x = 1 to 6) is an index value for each financial index name x as shown in FIG. C is a constant term as shown in FIG.
[0076]
As described above, the credit risk evaluation model accuracy evaluation system to which the credit risk evaluation model accuracy evaluation method according to the present embodiment is applied is a credit risk evaluation model to which the credit risk evaluation model accuracy evaluation method according to the first embodiment is applied. This is a modified example of the risk evaluation model accuracy evaluation system, the configuration of which is the same as that of FIG. In the first embodiment, the operation steps are shown as steps S1 to S22. Hereinafter, only steps having different operations will be described, and description of steps having the same operation will be omitted.
[0077]
That is, in the present embodiment, the
[0078]
When the formula information of each group is output from the
[0079]
When acquiring the financial data from the financial
[0080]
In step S2 ', the
[0081]
The rating etc. calculating
[0082]
As described above, the formulas (ii) to (vii) are transmitted to the computer server 14 (# 1), but the formula (i) is not transmitted. As a result, the entire model formula of the credit risk evaluation model is not disclosed to the computer server 14 (# 1). Also, it is not clear what kind of calculation KA1 to KA6, which are the results of the calculation, are used.
[0083]
The
[0084]
In step S2 ', the
[0085]
The rating etc. calculating
[0086]
As described above, the computer server 14 (# 2) cannot know at all what kind of formulas and what kind of financial data the calculation results KA1 to KA6 are obtained. Therefore, the entire model formula of the credit risk evaluation model is not disclosed to the computer server 14 (# 2).
[0087]
The
[0088]
The
[0089]
In step S20 ', the accuracy of the credit risk evaluation model is evaluated based on the calculation result Z obtained in step S17', the bankruptcy information data obtained in step S18, and the evaluation rules obtained in step S19. Examples of the evaluation method include an evaluation based on an AR value and an evaluation based on a comparison with a CRAFT score.
[0090]
The evaluation based on the AR (Accuracy Rate) value is an evaluation method using a statistical index proposed by Moody's. An evaluation method based on the AR value will be described with reference to FIG.
[0091]
FIG. 6 shows the calculation result Z on the horizontal axis and the cumulative bankruptcy rate of the company on the vertical axis. Here, the calculation result Z is a parameter indicating that a larger value indicates a lower bankruptcy probability, and is hereinafter referred to as a score. That is, the probability of bankruptcy is highest on the origin side on the horizontal axis. While the score Z is obtained for many companies, the cumulative ratio of the number of companies that have actually gone bankrupt ideally takes a tendency as indicated by R1 in the figure. That is, a certain low score Z 0 All companies up to should be bankrupt, so score Z 0 , The cumulative bankruptcy rate becomes 100%. Therefore, the credit risk evaluation model closer to the tendency as indicated by R1 in the figure has higher accuracy. Conversely, the credit risk evaluation model having the tendency as indicated by R3 in the figure indicating that the score Z is a low value but has not actually gone bankrupt has no discriminating ability, and This indicates that the accuracy is low.
[0092]
Except for the extremely high precision shown in R1 in the figure and the extremely low precision shown in R3 in the figure, practically most credit risk evaluation models have the tendency shown in R2 in the figure, which is intermediate between these. take. In the evaluation based on the AR value, the area surrounded by R1 in the figure and R3 in the figure (S 1 + S 2 ), The area (S) surrounded by R2 in the figure and R3 in the figure. 2 ) Is 0.7 or more (S 2 / (S 1 + S 2 ) ≧ 0.7), it is determined that the credit risk evaluation model has sufficient accuracy.
[0093]
An evaluation method based on comparison with the CRAFT score will be described with reference to FIG. The details of the CRAFT score are described in
[0094]
According to the logit model, using the score Z, the bankruptcy probability p of the company is expressed by the following equation.
p = 1 / (1 + exp (-Z))
Therefore, the bankruptcy probability p evaluated by the credit risk evaluation model can be obtained by substituting the score Z into the logit model. FIG. 7 shows the bankruptcy probability p obtained for the companies M1 to M5 in this way. 2 3 shows an example of the result.
[0095]
Further, bankruptcy probabilities for the same companies M1 to M5 are also obtained from the CRAFT score described in
[0096]
Note that “bankruptcy or non-bankruptcy” shown in FIG. 0 Indicates that "1" indicates bankruptcy and "0" indicates non-bankruptcy. The information indicating bankruptcy or non-bankruptcy is the bankruptcy information data itself acquired in step S18.
[0097]
Based on the results as shown in FIG. 1 And bankruptcy probability p 2 Is calculated according to the following equation.
[0098]
(Equation 1)
[0099]
The likelihood L obtained according to the above equation is the case of the CRAFT score
L = (1-0.1) × 0.3 × (1-0.2) × (1-0.1) × 0.5 = 0.0972,
Credit risk assessment model
L = (1-0.3) × 0.2 × (1-0.1) × (1-0.2) × 0.3 = 0.03024
[0100]
Since a model with a higher likelihood is a better model, it can be determined in this case that the CRAFT score is a better model.
[0101]
Next, the operation of the credit risk evaluation model accuracy evaluation system to which the credit risk evaluation model accuracy evaluation method according to the present embodiment configured as described above is applied will be described with reference to the processing flowchart shown in FIG.
[0102]
First, when the accuracy evaluation of the credit risk evaluation model is performed by the credit risk evaluation model accuracy evaluation system to which the accuracy evaluation method of the credit risk evaluation model according to the present embodiment is applied, the credit risk evaluation model For example, a model formula including formulas (i) to (vii) used in the model is divided into two groups including formula (i) and formulas (ii) to (vii). Is output to the data transmission unit 20 (S1 ′).
[0103]
When the formula information of each group is output from the
[0104]
On the other hand, from the financial data stored in the financial
[0105]
The financial data and the bankruptcy information data transmitted from the
[0106]
When the financial data is stored in the financial
[0107]
Next, in step S2 ', the
[0108]
In the rating etc. calculating
[0109]
As described above, the formulas (ii) to (vii) are transmitted to the computer server 14 (# 1), but the formula (i) is not transmitted. As a result, the entire model formula of the credit risk evaluation model is not disclosed to the computer server 14 (# 1). Also, it is not clear what kind of calculation KA1 to KA6, which are the results of the calculation, are used.
[0110]
The
[0111]
In step S2 ', the
[0112]
In the rating etc. calculating
[0113]
As described above, the formula (i) is transmitted to the computer server 14 (# 2), but the financial data is not transmitted. As a result, the computer server 14 (# 2) cannot know at all what kind of formulas and financial data are used for the calculation results KA1 to KA6. Therefore, the entire model formula of the credit risk evaluation model is not disclosed to the computer server 14 (# 2).
[0114]
The
[0115]
The
[0116]
The model
[0117]
In step S20 ', the accuracy of the credit risk evaluation model is evaluated based on the calculation result Z obtained in step S17', the bankruptcy information data obtained in step S18, and the evaluation rule obtained in step S19. (S20 '). Examples of the evaluation method include an evaluation based on an AR value and an evaluation based on a comparison with a CRAFT score. The accuracy evaluation of the credit risk evaluation model is performed based on the evaluation result as described above.
[0118]
In the evaluation
[0119]
The evaluation result data transmitted from the evaluation
[0120]
As described above, in the credit risk evaluation model accuracy evaluation system to which the accuracy evaluation method of the credit risk evaluation model according to the present embodiment is applied, the above-described operation causes the computer server 14 (# 1) to use the expression Although (ii) to (vii) are transmitted, equation (i) is not transmitted. As a result, the entire model formula of the credit risk evaluation model is not disclosed to the computer server 14 (# 1). Also, it is not clear what kind of calculation KA1 to KA6, which are the results of the calculation, are used.
[0121]
On the other hand, although the formula (i) is transmitted to the computer server 14 (# 2), the financial data is not transmitted. As a result, the computer server 14 (# 2) cannot know at all what kind of formulas and financial data are used for the calculation results KA1 to KA6. Therefore, the entire model formula of the credit risk evaluation model is not disclosed to the computer server 14 (# 2).
[0122]
Further, the evaluator server 16 notifies only the calculation result from the calculator server 14 (# 2), and evaluates the accuracy of the credit risk evaluation model based on the calculation result. Therefore, there is no way to know the contents of the credit risk evaluation model formula at all.
[0123]
As a result, the owner of the credit risk evaluation model can outsource the accuracy evaluation to each of the calculators and evaluators without disclosing the entire contents of the credit risk evaluation model.
[0124]
Although the preferred embodiments of the present invention have been described with reference to the accompanying drawings, the present invention is not limited to such configurations. Within the scope of the invented technical concept of the claims, those skilled in the art will be able to conceive various changes and modifications, and those changes and modifications will be described in the technical scope of the present invention. It is understood that it belongs to.
[0125]
【The invention's effect】
As described above, according to the present invention, the model evaluator can use the model evaluator without releasing the credit risk evaluation model and without the model evaluator holding financial data of many companies. It is possible to realize a credit risk evaluation model accuracy evaluation system and an accuracy evaluation method capable of performing an accuracy evaluation of a credit risk evaluation model entrusted from a company.
[Brief description of the drawings]
FIG. 1 is a functional block diagram showing a configuration example of a credit risk evaluation model accuracy evaluation system to which a credit risk evaluation model accuracy evaluation method according to a first embodiment is applied.
FIG. 2 is a diagram for explaining indices based on profitability points and safety points.
FIG. 3 is a diagram showing an example of financial data.
FIG. 4 is a processing flowchart showing an operation of the credit risk evaluation model accuracy evaluation system to which the credit risk evaluation model accuracy evaluation method according to the first embodiment is applied.
FIG. 5 is a diagram showing an example of a financial index and its coefficient.
FIG. 6 is a diagram showing a relationship between a score used for evaluation based on an AR value and a cumulative bankruptcy rate.
FIG. 7 is a view for explaining comparative evaluation with a CRAFT score.
FIG. 8 is a processing flow chart showing an operation of a credit risk evaluation model accuracy evaluation system to which a credit risk evaluation model accuracy evaluation method according to a second embodiment is applied.
[Explanation of symbols]
DESCRIPTION OF
Claims (4)
前記信用リスク評価モデルに使用されているモデル式を前記計算者と同数の部分モデル式に分割し、分割した各部分モデル式と、各部分モデル式に代入される信用リスク評価計算用のデータとを前記各計算者へそれぞれ与え、
前記各計算者に対し、前記部分モデル式に前記データを代入させることによって信用リスク評価計算を実行させ、
前記評価者に対し、前記各計算者による信用リスク評価計算の結果と、予め定めた精度評価基準とを比較させ、この比較結果に基づいて前記信用リスク評価モデルの精度を評価させるようにした精度評価方法。An owner who owns a credit risk evaluation model for evaluating the bankruptcy probability of a company delegates the accuracy evaluation of the credit risk evaluation model to two or more calculators and one evaluator. A method for causing the evaluator to evaluate the accuracy of the credit risk evaluation model without disclosing the entire contents of the credit risk evaluation model for any of the calculators and evaluators,
The model formula used for the credit risk evaluation model is divided into the same number of partial model formulas as the calculator, each of the divided partial model formulas, and data for credit risk evaluation calculation substituted into each of the partial model formulas. Is given to each of the calculators,
For each of the calculators, by performing the credit risk evaluation calculation by substituting the data in the partial model formula,
The evaluator is configured to compare the result of the credit risk evaluation calculation by each of the evaluators with a predetermined accuracy evaluation criterion, and to evaluate the accuracy of the credit risk evaluation model based on the comparison result. Evaluation method.
前記1つ以上の部分計算者に対して、前記信用リスク評価モデルに使用されているモデル式を構成している各項と、前記各項に対応する信用リスク評価計算用のデータとをそれぞれ与え、
前記各部分計算者に対し、前記各項に前記データを代入させることによって前記各項の値を計算させ、
前記合計計算者に対し、前記各項によって構成されてなるモデル式に、前記各部分計算者によって計算された各項の値を代入させることによって信用リスク評価計算を実行させ、
前記評価者に対し、前記信用リスク評価計算の結果と、予め定めた精度評価基準とを比較させ、この比較結果に基づいて前記信用リスク評価モデルの精度を評価させるようにした精度評価方法。The owner of a credit risk assessment model for assessing the probability of bankruptcy of a company may assign the accuracy assessment of said credit risk assessment model to one or more partial calculators, one total calculator, and one evaluator. By allowing the evaluator to evaluate the accuracy of the credit risk evaluation model without disclosing the entire contents of the credit risk evaluation model to each of the evaluator and the evaluator, The method
To each of the one or more partial calculators, each of the terms constituting a model formula used in the credit risk evaluation model and data for calculating a credit risk corresponding to each of the terms is given. ,
For each of the partial calculators, the value of each item is calculated by substituting the data for each item,
For the total calculator, a credit risk evaluation calculation is performed by substituting the value of each term calculated by each of the partial calculators into a model formula constituted by the respective terms,
An accuracy evaluation method, wherein the evaluator compares the result of the credit risk evaluation calculation with a predetermined accuracy evaluation criterion, and evaluates the accuracy of the credit risk evaluation model based on the comparison result.
前記信用リスク評価モデルに使用されているモデル式を構成している複数の部分モデル式のそれぞれについて、精度評価用のデータを代入することによってなされた信用リスク評価計算を取得する取得手段と、
前記取得手段によって取得された各信用リスク評価計算の結果を統合する統合手段と、
前記統合手段によって統合された結果と、予め定めた精度評価基準とを比較する比較手段と、
前記比較手段による比較結果に基づいて前記信用リスク評価モデルの精度を評価する評価手段と
を備えた精度評価システム。A system for evaluating the accuracy of the credit risk evaluation model commissioned by an owner who owns a credit risk evaluation model for evaluating the probability of bankruptcy of a company without grasping the entire contents of the credit risk evaluation model, ,
Acquisition means for acquiring a credit risk evaluation calculation made by substituting data for accuracy evaluation, for each of a plurality of partial model expressions constituting a model expression used in the credit risk evaluation model,
Integrating means for integrating the results of each credit risk evaluation calculation obtained by the obtaining means,
A comparison unit that compares the result integrated by the integration unit with a predetermined accuracy evaluation criterion,
An evaluation means for evaluating the accuracy of the credit risk evaluation model based on a comparison result by the comparing means.
前記信用リスク評価モデルに使用されているモデル式に、精度評価用のデータを代入することによってなされた信用リスク評価計算を取得する取得手段と、
前記取得手段によって統合された結果と、予め定めた精度評価基準とを比較する比較手段と、
前記比較手段による比較結果に基づいて前記信用リスク評価モデルの精度を評価する評価手段と
を備えた精度評価システム。A system for evaluating the accuracy of the credit risk evaluation model commissioned by an owner who owns a credit risk evaluation model for evaluating the probability of bankruptcy of a company without grasping the entire contents of the credit risk evaluation model, ,
Acquisition means for acquiring a credit risk evaluation calculation made by substituting data for accuracy evaluation into a model formula used for the credit risk evaluation model,
A comparison unit that compares the result integrated by the acquisition unit with a predetermined accuracy evaluation criterion,
An evaluation means for evaluating the accuracy of the credit risk evaluation model based on a comparison result by the comparing means.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003150980A JP4373710B2 (en) | 2003-05-28 | 2003-05-28 | Credit risk evaluation model accuracy evaluation system and accuracy evaluation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003150980A JP4373710B2 (en) | 2003-05-28 | 2003-05-28 | Credit risk evaluation model accuracy evaluation system and accuracy evaluation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004355236A true JP2004355236A (en) | 2004-12-16 |
JP4373710B2 JP4373710B2 (en) | 2009-11-25 |
Family
ID=34046627
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003150980A Expired - Lifetime JP4373710B2 (en) | 2003-05-28 | 2003-05-28 | Credit risk evaluation model accuracy evaluation system and accuracy evaluation method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4373710B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008542860A (en) * | 2005-05-27 | 2008-11-27 | カム ルン レオン | System and method for risk assessment and presentation |
KR100974342B1 (en) * | 2008-02-28 | 2010-08-05 | 주식회사 나이스디앤비 | The system for company credit rating using the recommendation of professional group |
CN102663643A (en) * | 2012-03-16 | 2012-09-12 | 暨南大学 | Method of farmers' multi-layer one-way network piecewise linear credit rating |
-
2003
- 2003-05-28 JP JP2003150980A patent/JP4373710B2/en not_active Expired - Lifetime
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008542860A (en) * | 2005-05-27 | 2008-11-27 | カム ルン レオン | System and method for risk assessment and presentation |
KR100974342B1 (en) * | 2008-02-28 | 2010-08-05 | 주식회사 나이스디앤비 | The system for company credit rating using the recommendation of professional group |
CN102663643A (en) * | 2012-03-16 | 2012-09-12 | 暨南大学 | Method of farmers' multi-layer one-way network piecewise linear credit rating |
Also Published As
Publication number | Publication date |
---|---|
JP4373710B2 (en) | 2009-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10719888B2 (en) | Context search system | |
Shi et al. | Toward a better measure of business proximity | |
US7908194B2 (en) | Electronic enterprise analysis apparatus | |
Sturm et al. | Empirical research on the relationships between demand-and supply-side risk management practices and their impact on business performance | |
Ozmel et al. | Interorganizational imitation and acquisitions of high‐tech ventures | |
Ivanov et al. | Impact of user-generated internet content on hospital reputational dynamics | |
Dewi et al. | Firm characteristics and intellectual capital disclosure on service companies listed in Indonesia stock exchange period 2008-2012 | |
Ocampo | Decision modeling for manufacturing sustainability with fuzzy analytic hierarchy process | |
Sun et al. | Financial networks and interconnectedness in an advanced emerging market economy | |
US20040225583A1 (en) | Architecture and application return-on-investment metrics | |
Whiting et al. | Corporate governance and intellectual capital disclosure | |
JP2019160089A (en) | Information processor, information processing method and program | |
Dalziel et al. | Can we design an industry classification system that reflects industry architecture? | |
JP2004355236A (en) | System and method for evaluating accuracy of credit risk evaluation model | |
Gomwe et al. | Proposed framework for innovative business intelligence for competitive advantage in small, medium and micro-organisations in the North West province of South Africa | |
Ramamoorti et al. | The Gresham's law of measurement and audit quality indicators: Implications for policy making and standard-setting | |
Wiid et al. | SWOT analysis in the small business sector of South Africa: Friend or foe | |
Panday et al. | Factors Contributing to Talent Management and its Relation to Employee Retention in the Manufacturing Sector: A Study of Technical Employees in India. | |
Kimaru et al. | Conceptual Skills and Sustainable Competitive Advantage of Small and Medium Food Manufacturing Enterprises in Kenya | |
Retterath | Essays on machine learning and the value of data in venture capital | |
Ismail et al. | The influence of knowledge management and leveraging of intellectual capital on the organization performance: A case study of Telekom Malaysia | |
Riepl et al. | Risk management during the COVID-19 crisis: Insights from an exploratory case study of medium-sized family businesses | |
Hills et al. | Modeling Client Churn for Small Business-to-Business Firms | |
Karthikeyan et al. | Meta Analytical Literature Study on Business Intelligence and Its Applications; a Techno-Business Leadership Perspective | |
MAHMOUD et al. | Impact of relational capital on performance of public universities in north central nigeria |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060303 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090421 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090610 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090811 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090904 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120911 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4373710 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120911 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120911 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130911 Year of fee payment: 4 |
|
EXPY | Cancellation because of completion of term |