JP6822220B2 - 推論結果可視化装置、推論結果可視化方法、及びプログラム - Google Patents

Description

本発明は、計算機によって導出された推論の結論を可視化するための、推論結果可視化装置及び推論結果可視化方法に関し、更には、これらを実現するためのプログラムに関する。

従来より、予め作成されたルール、辞書に登録されている情報、観測された事実といった知識と、入力されたクエリとを用いて、計算機によって、論理的な推論（以下「論理推論」とも表記する。）を行なう技術の開発が行なわれている。また、近年においては、計算機の能力の向上に伴い、知識が非常に大量となった場合にも、高速に推論を実行できるようになっており、結果、人の代わりに、様々な判断又は洞察を行なうことが可能になってきている。

ところで、論理推論で用いられる知識は、計算機での利用を可能とするため、例えば、述語論理式で表現される。述語論理式は、述語記号（述語の名前）と項（変数）とで構成される。具体的には、述語論理式parent(x,y)は、述語記号parentと２つの項x及びyとで構成されている。この述語論理式parent(x,y)は、xがyの親であることを表す述語論理式として定義することができる。

このように、論理推論で用いられる知識（述語論理式）は、計算機で利用されるために、極めて記号的に表現されている。このような知識から計算機によって導出された結論及びその根拠も、知識と同じく記号的に表現される。従って、それらを一般的な人が視認して理解することは困難である。

ところで、特許文献１は、述語論理式で得られる結果を可視化する方法を開示している。具体的には、特許文献１に開示された方法では、まず、製品の製造工程に関する情報に基づいて、複数の数式で構成された数式群が生成され、更に、数式群から述語論理式が生成される。その後、生成された述語論理式に対して限定記号を除去する等の処理が行なわれ、更に、生産納期と生産時に消費する総エネルギーコスト又は総消費エネルギーコストとの関係式が求められ、求められた関係式が可視化される。このように、特許文献１に開示された方法によれば、述語論理式から導かれた結果がグラフ化されるので、人の視認による推論の理解は容易になると思われる。

特開２０１４−１６０３５９号公報

しかしながら、特許文献１に開示された方法では、数式から得られた述語論理式を用いて納期とコストとの関係が求められているに過ぎず、入力データと述語論理式とを用いた推論が行なわれているわけではない。特許文献１に開示された方法では、述語論理式のどの部分にどのような入力データが適用されて結論が導かれたのかを示す根拠は可視化されない。即ち、特許文献１に開示された方法によっても、上述した結論及びその根拠を人によって視認及び理解できるようにすることは困難である。

本発明の目的の一例は、上記問題を解消し、計算機による推論によって導出された結論に加え、その根拠をも可視化し得る、推論結果可視化装置、推論結果可視化方法、及びプログラムを提供することにある。

上記目的を達成するため、本発明の一側面における推論結果可視化装置は、
所定の単位の情報を要素として含む論理式をデータとして保持するデータベースと入力されたクエリとを用いた推論が行なわれた場合に、前記推論の結論を含む部分グラフを抽出する、部分グラフ抽出部と、
抽出された前記部分グラフに含まれる論理式を、それぞれの前記要素に分解する、要素分解部と、
分解によって得られた前記要素を用いて、新たな部分グラフを再構築する、部分グラフ再構築部と、
再構築された前記新たな部分グラフを、それを構成する要素毎に、画面上に表示する、表示部と、
を備えている、ことを特徴とする。

また、上記目的を達成するため、本発明の一側面における推論結果可視化方法は、
（ａ）所定の単位の情報を要素として含む論理式をデータとして保持するデータベースと入力されたクエリとを用いた推論が行なわれた場合に、前記推論の結論を含む部分グラフを抽出する、ステップと、
（ｂ）抽出された前記部分グラフに含まれる論理式を、それぞれの前記要素に分解する、ステップと、
（ｃ）分解によって得られた前記要素を用いて、新たな部分グラフを再構築する、ステップと
（ｄ）再構築された前記新たな部分グラフを、それを構成する要素毎に、画面上に表示する、ステップと、
を有する、ことを特徴とする。

更に、上記目的を達成するため、本発明の一側面におけるプログラムは、
コンピュータによって、
（ａ）所定の単位の情報を要素として含む論理式をデータとして保持するデータベースと入力されたクエリとを用いた推論が行なわれた場合に、前記推論の結論を含む部分グラフを抽出する、ステップと、
（ｂ）抽出された前記部分グラフに含まれる論理式を、それぞれの前記要素に分解する、ステップと、
（ｃ）分解によって得られた前記要素を用いて、新たな部分グラフを再構築する、ステップと
（ｄ）再構築された前記新たな部分グラフを、それを構成する要素毎に、画面上に表示する、ステップと、
を実行させることを特徴とする。

以上のように、本発明によれば、計算機による推論によって導出された結論に加え、その根拠をも可視化することができる。

図１は、本発明の実施の形態における推論結果可視化装置の構成を示すブロック図である。 図２は、本発明の実施の形態における推論結果可視化装置をより具体的に示すブロック図である。 図３は、本発明の実施の形態においてデータベースに保持されている論理式の一例を示す図である。 図４（ａ）及び（ｂ）は、図３に示す論理式と共にデータベースに保持されている表記テーブルの一例を示す図であり、それぞれ異なる例を示している。 図５は、本発明の実施の形態において推論実行部によって検索されたメールの一例を示す図である。 図６は、本発明の実施の形態において推論実行部によって生成された推論の結論と結論を導出するまでの推論ルールの適用過程との一例を示す図である。 図７は、本発明の実施の形態において得られる要素分解の結果の一例を示す図である。 図８は、本発明の実施の形態で行なわれる部分グラフの再構築処理の一連の主な段階を示す図である。 図９は、本発明の実施の形態で行なわれる部分グラフの再構築処理の一連の主な段階を示す図である。 図１０は、本発明の実施の形態で行なわれる部分グラフの再構築処理の一連の主な段階を示す図である。 図１１は、本発明の実施の形態で表示される新たな部分グラフの一例を示す図である。 図１２は、本発明の実施の形態で表示される新たな部分グラフの他の例を示す図である。 図１３は、本発明の実施の形態における推論結果可視化装置１０の動作を示すフロー図である。 図１４は、本発明の実施の形態における推論結果可視化装置を実現するコンピュータの一例を示すブロック図である。

（実施の形態）
以下、本発明の実施の形態における、推論結果可視化装置、推論結果可視化方法、及びプログラムについて、図１〜図１３を参照しながら説明する。

［装置構成］
最初に、本実施の形態における推論結果可視化装置の構成について説明する。図１は、本発明の実施の形態における推論結果可視化装置の構成を示すブロック図である。

図１に示す、本実施の形態における推論結果可視化装置１０は、推論が行なわれた場合に、その推論の結論を画面上に表示するための装置である。図１に示すように、推論結果可視化装置１０は、部分グラフ抽出部１１と、要素分解部１２と、部分グラフ再構築部１３と、表示部１４とを備えている。また、推論結果可視化装置１０には、液晶表示装置といった表示装置３０が接続されている。

部分グラフ抽出部１１は、データベースと入力されたクエリとを用いた推論が行なわれた場合に、推論の結論を含む部分グラフを抽出する。データベースは、所定の単位の情報を要素として含む論理式をデータとして保持している（後述の図２参照）。

要素分解部１２は、部分グラフ抽出部１１によって抽出された部分グラフに含まれる論理式を、それぞれの要素に分解する。部分グラフ再構築部１３は、分解によって得られた要素を用いて、新たな部分グラフを再構築する。表示部１３は、再構築された新たな部分グラフを、それを構成する要素毎に、表示装置３０の画面上に表示する。

このように、本実施の形態では、部分グラフから得られた要素を用いて、新たな部分グラフが作成され、それが表示される。また、部分グラフには、推論の結論だけでなく、結論に至る過程も含まれている。よって、本実施の形態によれば、計算機による推論によって導出された結論に加え、その根拠をも可視化することが可能となる。

続いて、図２〜図１２を用いて、本実施の形態における推論結果可視化装置の構成についてより具体的に説明する。図２は、本発明の実施の形態における推論結果可視化装置をより具体的に示すブロック図である。

図２に示すように、本実施の形態において、推論結果可視化装置１０は、推論を実行する推論装置２０の一部を構成している。また、推論装置２０は、コンピュータに推論を行なうためのプログラムを導入することによって構築されており、同様に、推論結果可視化装置１０も、このコンピュータに、後述する本実施の形態におけるプログラムを導入することによって構築されている。

また、推論装置２０は、推論結果可視化装置１０に加えて、推論実行部２１と、データベース２２と、クエリ入力受付部２３とを備えている。データベース２２は、上述したように、所定の単位の情報を要素として含む論理式をデータとして保持している。

図３は、本発明の実施の形態においてデータベースに保持されている論理式の一例を示す図である。図４（ａ）及び（ｂ）は、図３に示す論理式と共にデータベースに保持されている表記テーブルの一例を示す図であり、それぞれ異なる例を示している。図３に示す論理式は、推論ルールとも表記される。図３の例では、ｘ１とｘ２とが談合しているかどうかを推理するための推論ルールが含まれている。

また、図３において、丸印の中にバツのある記号は、ＡＮＤ条件を表している。具体的には、この記号は、その左側に接続された全ての論理式（conference(e1, t1, p1)など）が同時に成立する場合に、その右側に接続された論理式（contact(e1, x1, x2)など）が成立することを表している。

クエリ入力受付部２３は、外部から入力されたクエリを受け付ける。クエリ入力受付部２３は、例えば、クエリとして、「談合はあったか」といったテキストデータを受付ける。

推論実行部２１は、クエリ入力受付部２３によって受け付けられたクエリを、データベース２２に保持されている推論ルールに適用して、推論を実行する。具体的には、推論実行部２１は、まず、受け付けられたクエリに適用する推論ルールを抽出する。例えば、図４（ａ）の例では、破線で囲まれた部分が抽出される。

続いて、推論実行部２１は、例えば、メールサーバに蓄積されている大量のメールの中から、抽出した推論ルールに適合するメールの要素を検索する。図５は、本発明の実施の形態において推論実行部によって検索されたメールの一例を示す図である。

そして、推論実行部２１は、適合するメールの要素が検索できた場合は、推論の結論を生成する。また、推論実行部２１は、得られた推論の結論と、結論を導出するまでの推論ルールの適用過程とを部分グラフ抽出部１１に入力する。図６は、本発明の実施の形態において推論実行部によって生成された推論の結論と結論を導出するまでの推論ルールの適用過程との一例を示す図である。なお、図６に示す結論と推論ルールの適用過程とは部分グラフによって表されている。

部分グラフ抽出部１１は、本実施の形態では、図６に示す、推論実行部２１によって生成された部分グラフを抽出する。図６に示す部分グラフは、上述したクエリ「談合はあったか」が、図３に示した推論ルールに適用された場合に抽出される部分グラフを示している。

要素分解部１２は、本実施の形態では、図７に示すように、部分グラフ抽出部１１によって抽出された部分グラフに対して要素分解を行ない、帰結を導く直接のルール（図６において破線で囲まれたルール）に含まれている要素を抽出する。図７は、本発明の実施の形態において得られる要素分解の結果の一例を示す図である。また、図７の例では、抽出された述語と、それに関連する項とが結び付けられている。

部分グラフ再構築部１３は、本実施の形態では、まず、抽出された部分グラフに含まれる論理式の中から、即ち、分解によって得られた各要素の中から、推論の結論に含まれる要素と同一の要素を特定する。そして、部分グラフ再構築部１３は、特定した要素に関連している部分グラフ上の要素を、推論の結論に含まれる要素に結びつけることによって、新たな部分グラフを再構築する。

ここで、図８〜図１０を用いて、部分グラフ再構築部１３による再構築処理について具体的に説明する。図８〜図１０は、ぞれぞれ、本発明の実施の形態で行なわれる部分グラフの再構築処理の一連の主な段階を示す図である。図８〜図１０の例において、再構築の元になった部分グラフは、図６に示した部分グラフである。

図８に示すように、部分グラフ再構築部１３は、まず、要素分解部１２によって抽出された要素それぞれを、図４に示すような表記テーブルを用いて自然言語表現に変換する。続いて、図９に示すように、部分グラフ構築部１３は、図８に示された論理式の中から、推論の結論（最上段の論理式「談合」）に含まれる要素として、「イベント（ｉｄ１）」と、「個人（田中）」とを特定する。

そして、部分グラフ再構築部１３は、図９に示すように、推論の結論を示す最上段の論理式以外の論理式において、特定された「イベント（ｉｄ１）」及び「個人（田中）」と同一の要素を特定し、これらに関連している（これらとリンクで接続されている）部分グラフ上の要素を特定する。具体的には、部分グラフ再構築部１３は、「接触」、「競合関係」、「価格調整」を特定する。

そして、部分グラフ再構築部１３は、図１０に示すように、特定したこれらの要素を、推論の結論を示す、いずれか１つの代表とする論理式に含まれる要素「イベント（ｉｄ１）」及び「個人（田中）」に結び付ける。また、部分グラフ再構築部１３は、推論の結論以外に含まれる要素であって、２つ以上の論理式に存在する要素が存在する場合は、これらも特定し、互いに結び付ける。図１０の例では、論理式「接触」に存在する「個人（鈴木）」と、論理式「競合関係」に存在する「個人（鈴木）」とが結び付けられている。以上の処理により、部分グラフが再構築される。

そして、部分グラフ再構築部１３は、図１０に示す再構築した部分グラフを表示部１３に渡す。表示部１３は、本実施の形態では、部分グラフ再構築部１３によって再構築された部分グラフ（図８参照）を受け取ると、図１１に示すように、これを用いて、表示装置３０の画面上に部分グラフを表示させる。

図１１は、本発明の実施の形態で表示される新たな部分グラフの一例を示す図である。図１１の例は、図１０に示した部分グラフに対応している。また、本実施の形態では、部分グラフ再構築部１３によって、要素が自然言語表現に変換されているので、表示部１３は、自然言語表現を用いて、再構築された新たな部分グラフを表示する。

また、図１２は、本発明の実施の形態で表示される新たな部分グラフの他の例を示す図である。図１２の例では、帰結を導くための間接的な情報も部分グラフの一部として表示されている。また、この場合においては、要素分解部１２が、図７に示した例と異なり、要素分解を行なった後に、帰結を導く直接のルール（図６において破線で囲まれたルール）以外の要素も抽出することになる。

［装置動作］
次に、本発明の実施の形態における推論結果可視化装置１０の動作について図１３を用いて説明する。図１３は、本発明の実施の形態における推論結果可視化装置１０の動作を示すフロー図である。以下の説明においては、適宜図１〜図１２を参酌する。また、本実施の形態では、推論結果可視化装置１０を動作させることによって、推論結果可視化方法が実施される。よって、本実施の形態における推論結果可視化方法の説明は、以下の推論結果可視化装置１０の動作説明に代える。

まず、前提として、図２に示した推論装置２０において、クエリ入力受付部２３がクエリの入力を受け付け、推論実行部２１が、クエリに基づいて、データベース２２に保持されている推論ルールを用いて、推論を実行しているとする。

図１３に示すように、最初に、部分グラフ抽出部１１は、推論実行部２１によって、データベース２２に保持された推論ルールと入力されたクエリとを用いた推論が行なわれると、推論の結論を含む部分グラフ（図６参照）を抽出する（ステップＡ１）。

次に、要素分解部１２は、ステップＡ１で抽出された部分グラフに対して要素分解を行ない、帰結を導く直接のルール（図６において破線で囲まれたルール）に含まれている要素を抽出する（ステップＡ２）。その後、要素分解部１２は、得られた各要素を部分グラフ再構築部１３に渡す。

次に、部分グラフ再構築部１３は、まず、要素分解部１２によって抽出された要素それぞれを、自然言語表現（図５参照）を用いて表現する（ステップＡ３）。次に、部分グラフ構築部１３は、要素が自然言語表現に変換された論理式の中から、推論の結論（最上段の論理式）に含まれる要素を特定する（ステップＡ４）。

次に、部分グラフ再構築部１３は、推論の結論を示す最上段の論理式以外の論理式において、特定された要素と同一の要素を特定し、更に、これらに関連している部分グラフ上の要素を特定する（ステップＡ５）。

次に、部分グラフ再構築部１３は、ステップＡ５で特定したこれらの要素を、ステップＡ４で特定された最上段の論理式の要素に結び付け、新たな部分グラフを再構築する（ステップＡ６）。

その後、表示部１３は、部分グラフ再構築部１３から、ステップＡ６で再構築された部分グラフを受け取ると、これを表示装置３０の画面上（図１１及び図１２参照）に表示させる（ステップＡ７）。

このように、ステップＡ１〜Ａ７が実行されると、画面上には、推論の内容が、推論の結論だけでなく、結論に至る過程も含めて、自然言語によって表示される。本実施の形態によれば、計算機による推論によって導出された結論に加え、その根拠も可視化されるので、人の視認による推論の理解が容易となる。

［プログラム］
本実施の形態におけるプログラムは、コンピュータに、図１０に示すステップＡ１〜Ａ７を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態における推論結果可視化装置と推論結果可視化方法とを実現することができる。この場合、コンピュータのＣＰＵ（Central Processing Unit）は、部分グラフ抽出部１１、要素分解部１２、部分グラフ再構築部１３、及び表示部１４として機能し、処理を行なう。

また、本実施の形態におけるプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、部分グラフ抽出部１１、要素分解部１２、部分グラフ再構築部１３、及び表示部１４のいずれかとして機能しても良い。

ここで、本実施の形態におけるプログラムを実行することによって、推論結果可視化装置１０を実現するコンピュータについて図１４を用いて説明する。図１４は、本発明の実施の形態における推論結果可視化装置を実現するコンピュータの一例を示すブロック図である。

図１１に示すように、コンピュータ１１０は、ＣＰＵ１１１と、メインメモリ１１２と、記憶装置１１３と、入力インターフェイス１１４と、表示コントローラ１１５と、データリーダ／ライタ１１６と、通信インターフェイス１１７とを備える。これらの各部は、バス１２１を介して、互いにデータ通信可能に接続される。

ＣＰＵ１１１は、記憶装置１１３に格納された、本実施の形態におけるプログラム（コード）をメインメモリ１１２に展開し、これらを所定順序で実行することにより、各種の演算を実施する。メインメモリ１１２は、典型的には、ＤＲＡＭ（Dynamic Random Access Memory）等の揮発性の記憶装置である。また、本実施の形態におけるプログラムは、コンピュータ読み取り可能な記録媒体１２０に格納された状態で提供される。なお、本実施の形態におけるプログラムは、通信インターフェイス１１７を介して接続されたインターネット上で流通するものであっても良い。

また、記憶装置１１３の具体例としては、ハードディスクドライブの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス１１４は、ＣＰＵ１１１と、キーボード及びマウスといった入力機器１１８との間のデータ伝送を仲介する。表示コントローラ１１５は、ディスプレイ装置１１９と接続され、ディスプレイ装置１１９での表示を制御する。

データリーダ／ライタ１１６は、ＣＰＵ１１１と記録媒体１２０との間のデータ伝送を仲介し、記録媒体１２０からのプログラムの読み出し、及びコンピュータ１１０における処理結果の記録媒体１２０への書き込みを実行する。通信インターフェイス１１７は、ＣＰＵ１１１と、他のコンピュータとの間のデータ伝送を仲介する。

また、記録媒体１２０の具体例としては、ＣＦ（Compact Flash（登録商標））及びＳＤ（Secure Digital）等の汎用的な半導体記憶デバイス、フレキシブルディスク（Flexible Disk）等の磁気記録媒体、又はＣＤ−ＲＯＭ（Compact Disk Read Only Memory）などの光学記録媒体が挙げられる。

なお、本実施の形態における推論結果可視化装置１０は、プログラムがインストールされたコンピュータではなく、各部に対応したハードウェアを用いることによっても実現可能である。更に、推論結果可視化装置１０は、一部がプログラムで実現され、残りの部分がハードウェアで実現されていてもよい。

以上のように、本発明によれば、計算機による推論によって導出された結論に加え、その根拠をも可視化することができる。本発明は、自動推論が行なわれる種々の分野に有用である。

１０ 推論結果可視化装置
１１ 部分グラフ抽出部
１２ 要素分解部
１３ 部分グラフ再構築部
１４ 表示部
２０ 推論装置
２１ 推論実行部
２２ データベース
２３ クエリ入力受付部
３０ 表示装置
１１０ コンピュータ
１１１ ＣＰＵ
１１２ メインメモリ
１１３ 記憶装置
１１４ 入力インターフェイス
１１５ 表示コントローラ
１１６ データリーダ／ライタ
１１７ 通信インターフェイス
１１８ 入力機器
１１９ ディスプレイ装置
１２０ 記録媒体
１２１ バス

Claims (9)

1. 所定の単位の情報を要素として含む論理式をデータとして保持するデータベースと入力されたクエリとを用いた推論が行なわれた場合に、前記推論の結論を含む部分グラフを抽出する、部分グラフ抽出部と、
   抽出された前記部分グラフに含まれる論理式を、それぞれの前記要素に分解する、要素分解部と、
   分解によって得られた前記要素を用いて、新たな部分グラフを再構築する、部分グラフ再構築部と、
   再構築された前記新たな部分グラフを、それを構成する要素毎に、画面上に表示する、表示部と、
   を備えている、ことを特徴とする推論結果可視化装置。
2. 前記表示部が、自然言語表現を用いて、再構築された前記新たな部分グラフを表示する、
   請求項１に記載の推論結果可視化装置。
3. 前記部分グラフ再構築部は、抽出された前記部分グラフに含まれる論理式の中から、前記推論の結論に含まれる要素と同一の要素を特定し、特定した要素に関連している前記部分グラフ上の要素を、前記推論の結論に含まれる要素に結びつけることによって、前記新たな部分グラフを再構築する、
   請求項１または２に記載の推論結果可視化装置。
4. （ａ）所定の単位の情報を要素として含む論理式をデータとして保持するデータベースと入力されたクエリとを用いた推論が行なわれた場合に、前記推論の結論を含む部分グラフを抽出する、ステップと、
   （ｂ）抽出された前記部分グラフに含まれる論理式を、それぞれの前記要素に分解する、ステップと、
   （ｃ）分解によって得られた前記要素を用いて、新たな部分グラフを再構築する、ステップと
   （ｄ）再構築された前記新たな部分グラフを、それを構成する要素毎に、画面上に表示する、ステップと、
   を有する、ことを特徴とする推論結果可視化方法。
5. 前記（ｄ）のステップにおいて、自然言語表現を用いて、再構築された前記新たな部分グラフを表示する、
   請求項４に記載の推論結果可視化方法。
6. 前記（ｃ）のステップにおいて、抽出された前記部分グラフに含まれる論理式の中から、前記推論の結論に含まれる要素と同一の要素を特定し、特定した要素に関連している前記部分グラフ上の別の要素を、前記推論の結論に含まれる要素に結びつけることによって、前記新たな部分グラフを再構築する、
   請求項４または５に記載の推論結果可視化方法。
7. コンピュータによって、
   （ａ）所定の単位の情報を要素として含む論理式をデータとして保持するデータベースと入力されたクエリとを用いた推論が行なわれた場合に、前記推論の結論を含む部分グラフを抽出する、ステップと、
   （ｂ）抽出された前記部分グラフに含まれる論理式を、それぞれの前記要素に分解する、ステップと、
   （ｃ）分解によって得られた前記要素を用いて、新たな部分グラフを再構築する、ステップと
   （ｄ）再構築された前記新たな部分グラフを、それを構成する要素毎に、画面上に表示する、ステップと、
   を実行させるプログラム。
8. 前記（ｄ）のステップにおいて、自然言語表現を用いて、再構築された前記新たな部分グラフを表示する、
   請求項７に記載のプログラム。
9. 前記（ｃ）のステップにおいて、抽出された前記部分グラフに含まれる論理式の中から、前記推論の結論に含まれる要素と同一の要素を特定し、特定した要素に関連している前記部分グラフ上の別の要素を、前記推論の結論に含まれる要素に結びつけることによって、前記新たな部分グラフを再構築する、
   請求項７または８に記載のプログラム。

Images