JP2018014003A - Item value extraction model learning device, item value extraction device, method and program - Google Patents

Item value extraction model learning device, item value extraction device, method and program Download PDF

Info

Publication number
JP2018014003A
JP2018014003A JP2016143807A JP2016143807A JP2018014003A JP 2018014003 A JP2018014003 A JP 2018014003A JP 2016143807 A JP2016143807 A JP 2016143807A JP 2016143807 A JP2016143807 A JP 2016143807A JP 2018014003 A JP2018014003 A JP 2018014003A
Authority
JP
Japan
Prior art keywords
item
value
text
extracted
extraction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016143807A
Other languages
Japanese (ja)
Other versions
JP6665050B2 (en
Inventor
いつみ 斉藤
Itsumi Saito
いつみ 斉藤
九月 貞光
Kugatsu Sadamitsu
九月 貞光
久子 浅野
Hisako Asano
久子 浅野
松尾 義博
Yoshihiro Matsuo
義博 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2016143807A priority Critical patent/JP6665050B2/en
Publication of JP2018014003A publication Critical patent/JP2018014003A/en
Application granted granted Critical
Publication of JP6665050B2 publication Critical patent/JP6665050B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

PROBLEM TO BE SOLVED: To learn an extraction model for extracting the value of an item to be extracted, with high comprehensiveness.SOLUTION: A designated item extraction unit 24 extracts the value of an item that matches a designated item name list from each of the structured data of text data groups, as the value of an item to be extracted. A pseudo-supervised data creation unit 26 creates text to which is added an annotation indicating that it is the extracted value of the item to be extracted, as pseudo-supervised data. An extraction model learning unit 30 learns an extraction model for extracting the value of the item to be extracted from the text on the basis of the identity extracted from the text of pseudo-supervised data and the annotation added to the text.SELECTED DRAWING: Figure 14

Description

本発明は、項目値抽出モデル学習装置、項目値抽出装置、方法、及びプログラムに係り、特に、抽出対象とする項目の値をテキストから抽出するための項目値抽出モデル学習装置、項目値抽出装置、方法、及びプログラムに関する。   The present invention relates to an item value extraction model learning device, an item value extraction device, a method, and a program, and more particularly to an item value extraction model learning device and an item value extraction device for extracting an item value to be extracted from a text. , Method and program.

従来より、Wikipedia(R)のエントリ-リダイレクト間を対象にした同義関係抽出方法が知られている(非特許文献1)。この方法では、Wikipedia(R)のリダイレクト関係を用いて、同義関係にある単語の抽出を行っている。   Conventionally, a synonym relation extraction method for Wikipedia (R) entry-redirection is known (Non-Patent Document 1). In this method, words having synonymous relations are extracted using the redirect relation of Wikipedia (R).

また、Wikipedia(R)を用いた人物別名の抽出と人物判別のためのラベル付与方法が知られている(非特許文献2)。この方法では、本文中に、別名として記述されやすい表現のパタンを設定し、そのパタンに合致した対象に対して別名を抽出している。例えば、パタン「Xと呼ばれ」、「Xとも称され」を用いて、別名を抽出している。   Also, a labeling method for extracting a person alias and identifying a person using Wikipedia (R) is known (Non-Patent Document 2). In this method, patterns of expressions that are easily described as aliases are set in the text, and aliases are extracted for objects that match the pattern. For example, aliases are extracted using the patterns “X” and “X”.

大野潤一ら、「Wikipediaのエントリ-リダイレクト間を対象にした同義関係抽出」、言語処理学会、第17回年次大会 発表論文集、p.296-299、2011年3月.Junichi Ohno et al., “Extraction of synonym relations between entry and redirect in Wikipedia”, Proc. Of the 17th Annual Conference, Language Processing Society of Japan, p. 296-299, March 2011. 齊藤大樹ら、「Wikipediaを用いた人物別名の抽出と人物判別のためのラベル付与」、言語処理学会、第20回年次大会 発表論文集、p.63-66、2014年3月.Daiki Saito et al., “Extraction of Person Alias Using Wikipedia and Labeling for Person Discrimination”, Language Processing Society, 20th Annual Conference, Proceedings, p. 63-66, March 2014.

しかし、タイトルに関する別称は記事本文中に書かれることが多く、上記非特許文献1に記載のように、リダイレクト関係だけからではカバーできない。   However, other names related to the title are often written in the body of the article, and as described in Non-Patent Document 1, it cannot be covered only by the redirect relationship.

実際の別称の記述パタンは多様であり、人手で設定したパタンでは網羅性は高くない。ただし、人手でパタンを拡充していくのは高コストである。実際に、非特許文献2では人物名の別名のみを対象としているが、Wikipedia(R)中には人物名以外にも別名は多く記載されている。   There are various actual description patterns with different names, and the pattern set by hand is not very comprehensive. However, it is expensive to manually expand the pattern. Actually, in Non-Patent Document 2, only aliases of person names are targeted. However, in Wikipedia (R), there are many aliases other than person names.

本発明は、上記事情を鑑みて成されたものであり、高い網羅性で、抽出対象とする項目の値を抽出するための抽出モデルを学習することができる項目値抽出モデル学習装置、方法、及びプログラムを提供することを目的とする。   The present invention has been made in view of the above circumstances, and has an item value extraction model learning apparatus, method, and the like, capable of learning an extraction model for extracting the value of an item to be extracted with high completeness. And to provide a program.

また、高い網羅性で、抽出対象とする項目の値を抽出することができる項目値抽出装置、方法、及びプログラムを提供することを目的とする。   It is another object of the present invention to provide an item value extraction apparatus, method, and program capable of extracting the value of an item to be extracted with high completeness.

上記目的を達成するために、第1の発明に係る項目値抽出モデル学習装置は、抽出対象とする項目を定める項目名として指定された項目名、及び値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群を受け付ける入力部と、前記テキストデータ群の構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出する指定項目抽出部と、前記指定項目抽出部によって抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成する疑似教師データ作成部と、前記疑似教師データ作成部によって作成された疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを学習する抽出モデル学習部と、を含んで構成されている。   In order to achieve the above object, the item value extraction model learning device according to the first invention provides an item name specified as an item name that defines an item to be extracted, and an item name and an item value related to the value and the value. An input unit that accepts a text data group consisting of a set of structured data including the set and a text including the value, and an item that matches the specified item name from each of the structured data of the text data group The specified item extracting unit that extracts the value of the item to be extracted as the value of the item to be extracted, and the text to which the annotation indicating that the value of the item to be extracted is extracted by the specified item extracting unit Are generated from the text of the pseudo-teacher data created by the pseudo-teacher data creation unit and the pseudo-teacher data creation unit If, based on the annotations assigned to the text, from the text, it is configured to include a, and extracting the model learning unit for learning the extraction model for extracting the value of the item to be the extraction target.

第2の発明に係る項目値抽出モデル学習方法は、入力部が、抽出対象とする項目を定める項目名として指定された項目名、及び値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群を受け付け、指定項目抽出部が、前記テキストデータ群の構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出し、疑似教師データ作成部が、前記指定項目抽出部によって抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成し、抽出モデル学習部が、前記疑似教師データ作成部によって作成された疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを学習する。   In the item value extraction model learning method according to the second aspect of the invention, the input unit specifies an item name specified as an item name that defines an item to be extracted, and a set of an item name and an item value related to the value and the value. Accepting a text data group consisting of a set of structured data including and a text including the value, and the designated item extraction unit extracts items of the item that match the designated item name from each of the structured data of the text data group. The value is extracted as the value of the item to be extracted, and the pseudo-teacher data creation unit is provided with an annotation indicating that the value of the item to be extracted is extracted by the specified item extraction unit Text is created as pseudo-teacher data, and the extraction model learning unit is extracted from the text of the pseudo-teacher data created by the pseudo-teacher data creation unit, and Based on the serial granted to text annotations, from the text, it learns the extraction model for extracting the value of the item to be the extraction target.

第3の発明に係る項目値抽出装置は、値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群に含まれる前記構造化データの各々から抽出された抽出対象とする項目を定める項目名として指定された項目名の値に対して、前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを記憶する抽出モデル記憶部と、入力されたテキストから前記素性を抽出する素性抽出部と、前記素性抽出部によって抽出された前記素性と、前記抽出モデルとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出する項目値抽出部と、を含んで構成されている。   An item value extracting apparatus according to a third aspect of the present invention is directed to the structure included in a text data group including a set of structured data including a set of a value, an item name related to the value, and an item value, and a text including the value. In the text to which the annotation indicating that the value of the item to be extracted is attached to the value of the item name specified as the item name that defines the item to be extracted extracted from each of the digitized data An extraction model for extracting the value of the item to be extracted from the text, learned in advance based on a feature extracted from the text of a pseudo-teacher data and an annotation attached to the text. An extraction model storage unit for storing, a feature extraction unit for extracting the features from the input text, the features extracted by the feature extraction unit, and the extraction Based on the Dell, from the text, it is configured to include a, and item value extracting unit for extracting the value of the item to be the extraction target.

第4の発明に係る項目値抽出方法は、値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群に含まれる前記構造化データの各々から抽出された抽出対象とする項目を定める項目名として指定された項目名の値に対して、前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを記憶する抽出モデル記憶部を含む項目値抽出装置における項目値抽出方法であって、素性抽出部が、入力されたテキストから前記素性を抽出し、項目値抽出部が、前記素性抽出部によって抽出された前記素性と、前記抽出モデルとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出する。   An item value extraction method according to a fourth aspect of the present invention is directed to the structure included in a text data group including a set of structured data including a set of a value, an item name related to the value, and an item value, and a text including the value. In the text to which the annotation indicating that the value of the item to be extracted is attached to the value of the item name specified as the item name that defines the item to be extracted extracted from each of the digitized data An extraction model for extracting the value of the item to be extracted from the text, learned in advance based on a feature extracted from the text of a pseudo-teacher data and an annotation attached to the text. An item value extraction method in an item value extraction device including an extraction model storage unit for storing, wherein the feature extraction unit extracts the feature from input text, and an item Extraction unit, the said feature extracted by the feature extraction unit, based on said extracted model, from the text, and extracts the value of the item to be the extraction target.

第5の発明に係る項目値抽出モデル学習装置は、タイトルと、項目名と項目の値の組を含む構造化データと、前記値を含むテキストとからなる記事群、及び前記タイトルに関して抽出対象とする項目を定める項目名として指定された項目名を受け付ける入力部と、前記記事群の構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出する指定項目抽出部と、前記指定項目抽出部によって抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成する疑似教師データ作成部と、前記疑似教師データ作成部によって作成された疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを学習する抽出モデル学習部と、を含んで構成されている。   An item value extraction model learning device according to a fifth invention includes a title, structured data including a combination of an item name and an item value, an article group including text including the value, and an extraction target for the title. An input unit that accepts an item name designated as an item name that defines an item to be selected, and an item value that matches the designated item name from each of the structured data of the article group Pseudo-teacher data for creating, as pseudo-teacher data, a designated item extraction unit that extracts as values, and the text that is annotated to indicate the value of the item to be extracted extracted by the designated item extraction unit A creation unit, a feature extracted from the text of the pseudo-teacher data created by the pseudo-teacher data creation unit, and an annotation attached to the text Based on the Deployment, from the text, it is configured to include a, and extracting the model learning unit for learning the extraction model for extracting the value of the item to be the extraction target.

第6の発明に係る項目値抽出装置は、タイトルと、項目名と項目の値の組を含む構造化データと、前記値を含むテキストとからなる記事群に含まれる構造化データの各々から抽出された前記タイトルに関して抽出対象とする項目を定める項目名として指定された項目名の値に対して、前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを記憶する抽出モデル記憶部と、入力されたテキストから前記素性を抽出する素性抽出部と、前記素性抽出部によって抽出された前記素性と、前記抽出モデルとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出する項目値抽出部と、を含んで構成されている。   An item value extraction apparatus according to a sixth invention extracts from each of structured data included in an article group including a title, structured data including a combination of an item name and an item value, and text including the value. The pseudo-teacher that is the text in which the annotation indicating that the value of the item to be extracted is given to the value of the item name specified as the item name that defines the item to be extracted with respect to the title Extraction that stores an extraction model for extracting the value of the item to be extracted from the text, learned in advance based on the features extracted from the text of the data and the annotations attached to the text A model storage unit, a feature extraction unit that extracts the features from the input text, the features extracted by the feature extraction unit, and the extraction model Based on the bets, from the text, it is configured to include a, and item value extracting unit for extracting the value of the item to be the extraction target.

第7の発明に係るプログラムは、上記の項目値抽出モデル学習装置又は上記の項目値抽出装置の各部として機能させるためのプログラムである。   A program according to a seventh aspect is a program for causing each of the item value extraction model learning device or the item value extraction device to function.

本発明の項目値抽出モデル学習装置、方法、及びプログラムによれば、構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出し、抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成し、疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、抽出モデルを学習することにより、高い網羅性で、抽出対象とする項目の値を抽出するための抽出モデルを学習することができる、という効果が得られる。   According to the item value extraction model learning device, method, and program of the present invention, the value of the item that matches the specified item name is extracted as the value of the item to be extracted from each of the structured data. The extracted annotated text indicating the value of the item to be extracted is created as pseudo-teacher data, and the feature extracted from the text of the pseudo-teacher data is added to the text. By learning the extraction model based on the annotation that has been made, it is possible to learn the extraction model for extracting the value of the item to be extracted with high completeness.

本発明の項目値抽出装置、方法、及びプログラムによれば、構造化データの各々から抽出された抽出対象とする項目を定める項目名として指定された項目名の値に対して、アノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された抽出モデルと、入力されたテキストから抽出された前記素性とに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出することにより、高い網羅性で、抽出対象とする項目の値を抽出することができる、という効果が得られる。   According to the item value extraction apparatus, method, and program of the present invention, an annotation is given to the value of the item name specified as the item name that defines the item to be extracted extracted from each of the structured data. Further, based on the feature extracted from the text of the pseudo-teacher data which is the text, the extraction model learned in advance based on the annotation given to the text, and the feature extracted from the input text Thus, by extracting the value of the item to be extracted from the text, it is possible to extract the value of the item to be extracted with high completeness.

InfoboxのWeb上の表示を示す図である。It is a figure which shows the display on the web of Infobox. InfoboxのXMLでの表記を示す図である。It is a figure which shows the description in XML of Infobox. 記事のInfobox及びテキストの例を示す図である。It is a figure which shows the Infobox of an article, and the example of a text. 本発明の第1の実施の形態に係る項目値抽出モデル学習装置の構成を示すブロック図である。It is a block diagram which shows the structure of the item value extraction model learning apparatus which concerns on the 1st Embodiment of this invention. 入力される記事群を示す図である。It is a figure which shows the article group input. 構造化データの例を示す図である。It is a figure which shows the example of structured data. タイトルと抽出される別称とのペアを示す図である。It is a figure which shows the pair of the title and the alternative name extracted. 疑似教師データを作成する方法を説明するための図である。It is a figure for demonstrating the method of producing pseudo teacher data. 本発明の第1の実施の形態に係る項目値抽出装置の構成を示すブロック図である。It is a block diagram which shows the structure of the item value extraction apparatus which concerns on the 1st Embodiment of this invention. 入力される記事を示す図である。It is a figure which shows the article input. 入力された記事から抽出された別称を示す図である。It is a figure which shows the alternative name extracted from the input article. 本発明の第1の実施の形態に係る項目値抽出モデル学習装置における項目値抽出モデル学習処理ルーチンを示すフローチャートである。It is a flowchart which shows the item value extraction model learning process routine in the item value extraction model learning apparatus which concerns on the 1st Embodiment of this invention. 本発明の第1の実施の形態に係る項目値抽出装置における項目値抽出処理ルーチンを示すフローチャートである。It is a flowchart which shows the item value extraction process routine in the item value extraction apparatus which concerns on the 1st Embodiment of this invention. 本発明の第2の実施の形態に係る項目値抽出モデル学習装置の構成を示すブロック図である。It is a block diagram which shows the structure of the item value extraction model learning apparatus which concerns on the 2nd Embodiment of this invention. 入力されるテキストデータ群を示す図である。It is a figure which shows the text data group input. 本発明の第2の実施の形態に係る項目値抽出装置の構成を示すブロック図である。It is a block diagram which shows the structure of the item value extraction apparatus which concerns on the 2nd Embodiment of this invention. 入力されるテキストを示す図である。It is a figure which shows the input text. 本発明の第2の実施の形態に係る項目値抽出モデル学習装置における項目値抽出モデル学習処理ルーチンを示すフローチャートである。It is a flowchart which shows the item value extraction model learning process routine in the item value extraction model learning apparatus which concerns on the 2nd Embodiment of this invention. 本発明の第2の実施の形態に係る項目値抽出装置における項目値抽出処理ルーチンを示すフローチャートである。It is a flowchart which shows the item value extraction process routine in the item value extraction apparatus which concerns on the 2nd Embodiment of this invention.

以下、図面を参照して本発明の実施の形態を詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

<概要> <Overview>

記事に含まれる構造化データ(例えば、Infobox)に記述された別称情報から、記事のテキスト中での別称記述正解データを疑似的に生成し、記事のテキスト中からのタイトルの別称を抽出するための抽出モデルを構築する。これにより、事前に設定するのは、構造化データの項目名の指定だけであり、低コストで大量の別称記述パタンが得られるとともに、別称を抽出する抽出モデルを構築することができる。   In order to generate pseudo-alias correct answer data in the article text from the synonym information described in the structured data (for example, Infobox) included in the article, and to extract the alias of the title from the article text Build an extraction model. As a result, only the designation of the item name of the structured data is set in advance, and a large amount of alternative name description patterns can be obtained at a low cost, and an extraction model for extracting alternative names can be constructed.

ここで、Infoboxとは、図1のWeb上の表示と図2のXMLでの表記に示すように、Wikipedia(R)中の、情報が構造化されている部分であり、項目名とその値が容易に抽出できる構造となっている。   Here, as shown in the Web display in FIG. 1 and the XML notation in FIG. 2, the Infobox is a part of Wikipedia (R) where information is structured, and the item name and its value. Is a structure that can be easily extracted.

また、Wikipedia(R)の記事の中には、図3(A)、図3(B)に示すように、Infoboxにもテキストにもタイトルの別称が記述されている記事が存在する。両方に別称が書かれている記事に関して、Infoboxの方からは別称を自動獲得可能なので、その情報からテキスト中の記述パタンを特定し、抽出モデルの学習データとして使用する。   In addition, among the articles of Wikipedia (R), as shown in FIGS. 3 (A) and 3 (B), there are articles in which titles are also described in Infobox and text. For articles with nicknames in both, Infobox can automatically obtain nicknames, so the description pattern in the text is specified from the information and used as training data for the extraction model.

[第1の実施の形態]
<本発明の第1の実施の形態に係る項目値抽出モデル学習装置の構成>
次に、本発明の第1の実施の形態に係る項目値抽出モデル学習装置の構成について説明する。図4に示すように、本発明の第1の実施の形態に係る項目値抽出モデル学習装置100は、CPUと、RAMと、後述する項目値抽出モデル学習処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この項目値抽出モデル学習装置100は、機能的には図4に示すように入力部10と、演算部20と、出力部50とを備えている。
[First Embodiment]
<Configuration of Item Value Extraction Model Learning Device According to First Embodiment of the Present Invention>
Next, the configuration of the item value extraction model learning device according to the first embodiment of the present invention will be described. As shown in FIG. 4, the item value extraction model learning device 100 according to the first exemplary embodiment of the present invention includes a CPU, a RAM, a program for executing an item value extraction model learning process routine described later, It can be constituted by a computer including a ROM storing data. Functionally, the item value extraction model learning device 100 includes an input unit 10, a calculation unit 20, and an output unit 50 as shown in FIG.

入力部10は、図5に示すような、タイトルとテキストと構造化データからなる記事の群である記事群を受け付ける。構造化データは、項目名と項目の値の組を含んでおり、テキストは、当該項目の値を含んでいる。   The input unit 10 accepts an article group that is an article group including a title, text, and structured data as shown in FIG. The structured data includes a pair of an item name and an item value, and the text includes the value of the item.

また、入力部10は、受け付けた記事群の各記事から、タイトル、構造化データ、テキスト部分を抽出する。例えば、<body>の最初の<h1>の値をタイトルとして抽出する。   Further, the input unit 10 extracts a title, structured data, and a text portion from each article in the accepted article group. For example, the first <h1> value of <body> is extracted as a title.

また、入力部10は、タイトルの別称を定める項目名として指定された項目名リストを受け付ける。例えば、以下のような項目名リストを受け付ける。   Further, the input unit 10 accepts an item name list specified as an item name that defines an alternative title. For example, the following item name list is accepted.

[略称|通称|呼称|愛称|英語名称|英文社名|英名|別称|ニックネーム|別名|Alias|Nickname|略] [Abbreviation | common name | name | nickname | English name | English name | English name | Also | nickname | alias | Alias | Nickname | abbreviation]

演算部20は、記事群記憶部22と、指定項目抽出部24と、疑似教師データ作成部26と、素性抽出部28と、抽出モデル学習部30とを含んで構成されている。   The calculation unit 20 includes an article group storage unit 22, a specified item extraction unit 24, a pseudo teacher data creation unit 26, a feature extraction unit 28, and an extraction model learning unit 30.

記事群記憶部22は、入力部10によって受け付けた記事群、及び項目名リストを記憶している。   The article group storage unit 22 stores an article group received by the input unit 10 and an item name list.

指定項目抽出部24は、記事群の各記事に含まれる構造化データの各々から、指定された項目名リストと一致する項目の値を、タイトルの別称として抽出する。例えば、図6に示すように、構造化データから、指定された項目名リストに含まれる“ニックネーム”と一致する項目名に対応する項目の値“水の怪物”を抽出する(図7参照)。ただし、リンク情報の削除や、複数候補の分割などのクリーニングも行う。   The designated item extraction unit 24 extracts the value of the item that matches the designated item name list from each of the structured data included in each article of the article group as another title. For example, as shown in FIG. 6, the item value “water monster” corresponding to the item name matching the “nickname” included in the specified item name list is extracted from the structured data (see FIG. 7). . However, cleaning such as deletion of link information and division of a plurality of candidates is also performed.

疑似教師データ作成部26は、指定項目抽出部24によって抽出された別称に基づいて、当該記事のテキストにおける当該別称が記述されている箇所を特定し、特定された記述箇所に、別称であることを示すアノテーションを付与し、アノテーションが付与されたテキストを、疑似教師データとして作成する。   The pseudo-teacher data creation unit 26 specifies a part where the alternative name is described in the text of the article based on the alternative name extracted by the designated item extraction unit 24, and the specified description part is an alternative name. And annotated text is created as pseudo-teacher data.

このとき、記事において、項目名リストと一致する項目名に対応する項目の値が最初に出現した箇所を特定し、アノテーションを付与する。この際、最初に出現した箇所に限定するのは、Wikipedia(R)記事の特性として別称が初出の際に別称であることの説明がなされることが多いためである。   At this time, in the article, the part where the value of the item corresponding to the item name matching the item name list first appears is specified, and an annotation is given. At this time, the reason for limiting to the first appearing part is that it is often explained that the nickname is the nickname as the characteristic of the Wikipedia (R) article when it appears for the first time.

これにより、図8に示すように、記事のテキスト中での多様な別称記述パタンを自動アノテーションすることができる。   Thereby, as shown in FIG. 8, various alias description patterns in the text of an article can be automatically annotated.

素性抽出部28は、疑似教師データ作成部26によって作成された各疑似教師データのテキストに対して、素性ベクトルを生成する。例えば、テキストの各文字の文字表記や各単語の分散表現などに基づいて、素性ベクトルを生成する。   The feature extraction unit 28 generates a feature vector for the text of each pseudo teacher data created by the pseudo teacher data creation unit 26. For example, the feature vector is generated based on the character notation of each character of the text or the distributed representation of each word.

抽出モデル学習部30は、素性抽出部28によって各疑似教師データのテキストから抽出された素性ベクトルと、各疑似教師データのテキストに付与されたアノテーションとに基づいて、記事のテキストから、タイトルの別称の値を抽出するための抽出モデルを学習し、出力部50により出力する。   Based on the feature vector extracted from the text of each pseudo-teacher data by the feature extraction unit 28 and the annotation added to the text of each pseudo-teacher data, the extraction model learning unit 30 uses a title nickname from the text of the article. An extraction model for extracting the value of is learned and output by the output unit 50.

具体的には、抽出モデル学習部30は、各疑似教師データのテキストに対して、アノテーションに応じて、文字レベルのタグ(例えば、BIOタグ)を付与する。例えば、アノテーションが付与された箇所以外はOタグ(その他)をつけ、アノテーションが付与された箇所には、抽出したい文字列の始まりを示すBタグ、抽出したい文字列の中を示すIタグを付与する。例えば、アノテーションが付与された箇所が、3文字の表記である場合には、3つの文字に、Bタグ、Iタグ、Iタグを付与する。   Specifically, the extraction model learning unit 30 assigns a character level tag (for example, a BIO tag) to the text of each pseudo teacher data according to the annotation. For example, an O tag (others) is attached except where annotation is added, and a B tag indicating the start of the character string to be extracted and an I tag indicating the character string to be extracted are added to the location where the annotation is added. To do. For example, when the part to which the annotation is added is a three-character notation, a B tag, an I tag, and an I tag are added to the three characters.

そして、抽出モデル学習部30は、各疑似教師データについて生成された素性ベクトルと、付与されたタグと基づいて、文字レベルの系列ラベリングモデルを用いて、抽出モデルを学習する。抽出モデルは、CRFなど一般的な系列ラベリング手法(例えば、非特許文献3に記載の手法)を用いて構築することができる。   Then, the extraction model learning unit 30 learns the extraction model using a character-level series labeling model based on the feature vector generated for each pseudo-teacher data and the assigned tag. The extraction model can be constructed using a general sequence labeling method such as CRF (for example, the method described in Non-Patent Document 3).

[非特許文献3]:J. Lafferty, A. McCallum, and F. Pereira. Conditional random fields: Probabilistic models for segmenting and labeling sequence data. In Proceedings of the 18th International Conference on Machine Learning, 2001. [Non-Patent Document 3]: J. Lafferty, A. McCallum, and F. Pereira. Conditional random fields: Probabilistic models for segmenting and labeling sequence data. In Proceedings of the 18th International Conference on Machine Learning, 2001.

<本発明の第1の実施の形態に係る項目値抽出装置の構成>
次に、本発明の第1の実施の形態に係る項目値抽出装置の構成について説明する。図9に示すように、本発明の第1の実施の形態に係る項目値抽出装置150は、CPUと、RAMと、後述する項目値抽出処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この項目値抽出装置150は、機能的には図9に示すように入力部60と、演算部70と、出力部90とを備えている。
<Configuration of Item Value Extraction Device According to First Embodiment of the Present Invention>
Next, the configuration of the item value extraction apparatus according to the first embodiment of the present invention will be described. As shown in FIG. 9, the item value extraction apparatus 150 according to the first embodiment of the present invention stores a CPU, a RAM, a program for executing an item value extraction processing routine described later, and various data. It can be composed of a computer including a ROM. The item value extraction apparatus 150 functionally includes an input unit 60, a calculation unit 70, and an output unit 90 as shown in FIG.

入力部60は、図10に示すような、タイトルとテキストとからなる記事を受け付ける。受け付ける記事には、構造化データが含まれておらず、テキストは、タイトルの別称を含んでいる。また、入力部60は、受け付けた記事から、入力部10と同様に、タイトル、テキスト部分を抽出する。   The input unit 60 accepts an article composed of a title and text as shown in FIG. The accepted articles do not contain structured data, and the text contains alternative titles. In addition, the input unit 60 extracts a title and a text part from the received article in the same manner as the input unit 10.

演算部70は、素性抽出部72と、抽出モデル記憶部74と、タイトル項目値抽出部76とを含んで構成されている。   The calculation unit 70 includes a feature extraction unit 72, an extraction model storage unit 74, and a title item value extraction unit 76.

素性抽出部72は、入力部60で受け付けた記事のテキストに対して、素性抽出部28と同様の素性ベクトルを生成する。   The feature extraction unit 72 generates a feature vector similar to the feature extraction unit 28 for the text of the article received by the input unit 60.

抽出モデル記憶部74には、項目値抽出モデル学習装置100によって学習された抽出モデルが格納されている。   The extraction model storage unit 74 stores an extraction model learned by the item value extraction model learning device 100.

タイトル項目値抽出部76は、素性抽出部72によって抽出された素性ベクトルと、抽出モデル記憶部74に記憶された抽出モデルとに基づいて、系列ラベリングを行い、記事のテキストの各文字に、タグ(例えば、BIOタグ)を付与し、タイトルの別称を抽出する。例えば、図11の例では、“HHH”の3つの文字に、Bタグ、Iタグ、Iタグが付与されれば、この部分をタイトルの別称として抽出し、タイトルと別称とのペアを出力部90により出力する。   The title item value extraction unit 76 performs series labeling based on the feature vector extracted by the feature extraction unit 72 and the extraction model stored in the extraction model storage unit 74, and adds a tag to each character of the article text. (For example, a BIO tag) is assigned, and an alternative title is extracted. For example, in the example of FIG. 11, if a B tag, an I tag, and an I tag are given to the three characters “HHH”, this portion is extracted as an alternative name for the title, and a pair of the title and the alternative name is output. 90 for output.

なお、本実施の形態では、別称の抽出対象箇所を、テキストにおけるタイトルの定義文部分とする。疑似正解データを作成した結果を集計した結果、別称が記述されている箇所の約85%が定義文部分であったため、この部分に限定することで効率的な抽出が可能になる。   In the present embodiment, an extraction target portion with another name is a title definition sentence portion in the text. As a result of totaling the results of creating the pseudo-correct answer data, about 85% of the parts where the alternative names are described are the definition sentence part. By limiting to this part, efficient extraction becomes possible.

<本発明の第1の実施の形態に係る項目値抽出モデル学習装置の作用>
次に、本発明の第1の実施の形態に係る項目値抽出モデル学習装置100の作用について説明する。入力部10においてタイトルとテキストと構造化データからなる記事群を受け付けると、受け付けた記事群の各記事から、タイトル、構造化データ、テキスト部分を抽出し、記事群記憶部22に格納する。
<Operation of Item Value Extraction Model Learning Device According to First Embodiment of the Present Invention>
Next, the operation of the item value extraction model learning device 100 according to the first embodiment of the present invention will be described. When the input unit 10 receives an article group including a title, text, and structured data, the title, structured data, and text portion are extracted from each article of the received article group and stored in the article group storage unit 22.

また、入力部10において、タイトルの別称を定める項目名として指定された項目名リストを受け付けると、項目名リストを記事群記憶部22に格納する。そして、項目値抽出モデル学習装置100は、図12に示す項目値抽出モデル学習処理ルーチンを実行する。   In addition, when the input unit 10 receives an item name list designated as an item name that defines an alternative title, the item name list is stored in the article group storage unit 22. Then, the item value extraction model learning device 100 executes an item value extraction model learning process routine shown in FIG.

まず、ステップS100では、記事群記憶部22に格納されている記事群の各記事の構造化データから、指定された項目名リストと一致する項目の値を、タイトルの別称として抽出する。   First, in step S100, the value of an item that matches the specified item name list is extracted from the structured data of each article in the article group stored in the article group storage unit 22 as another title.

次に、ステップS102では、記事群記憶部22に格納されている記事群の各記事に対して、当該記事のテキストにおいて、上記ステップS100で当該記事の構造化データから抽出されたタイトルの別称が記述されている箇所を特定し、特定された記述箇所に、タイトルの別称であることを示すアノテーションを付与して、疑似教師データを作成する。   Next, in step S102, for each article in the article group stored in the article group storage unit 22, in the text of the article, an alias for the title extracted from the structured data of the article in step S100 is used. The part described is specified, and an annotation indicating that it is another title is given to the specified description part to create pseudo teacher data.

ステップS104では、上記ステップS102で作成された各疑似教師データのテキストに対して、テキストの各文字の文字表記や各単語の分散表現などに基づいて、素性ベクトルを生成する。ステップS106では、各疑似教師データのテキストに対して、アノテーションに応じて、文字レベルのタグを付与する。   In step S104, a feature vector is generated for the text of each pseudo-teacher data created in step S102 based on the character notation of each character of the text and the distributed representation of each word. In step S106, a character level tag is attached to the text of each pseudo teacher data according to the annotation.

そして、ステップS108において、上記ステップS106で各疑似教師データについて生成された素性ベクトルと、上記ステップS104で各疑似教師データのテキストに付与されたタグと基づいて、文字レベルの系列ラベリングモデルを用いて、抽出モデルを学習し、出力部50により出力して、項目値抽出モデル学習処理ルーチンを終了する。   In step S108, based on the feature vector generated for each pseudo-teacher data in step S106 and the tag given to the text of each pseudo-teacher data in step S104, a character-level series labeling model is used. The extraction model is learned and output by the output unit 50, and the item value extraction model learning processing routine is terminated.

<本発明の第1の実施の形態に係る項目値抽出装置の作用>
次に、本発明の第1の実施の形態に係る項目値抽出装置150の作用について説明する。まず、項目値抽出モデル学習装置100によって学習された抽出モデルが、項目値抽出装置150の抽出モデル記憶部74に格納される。また、入力部60においてタイトルとテキストからなる記事を受け付けると、項目値抽出装置150は、図13に示す項目値抽出処理ルーチンを実行する。
<Operation of Item Value Extraction Device According to First Embodiment of the Present Invention>
Next, the operation of the item value extraction apparatus 150 according to the first embodiment of the present invention will be described. First, the extraction model learned by the item value extraction model learning device 100 is stored in the extraction model storage unit 74 of the item value extraction device 150. In addition, when an article including a title and text is received by the input unit 60, the item value extraction device 150 executes an item value extraction processing routine shown in FIG.

ステップS110において、入力部60で受け付けた記事のテキストに対して、テキストの各文字の文字表記や各単語の分散表現などに基づいて、素性ベクトルを生成する。   In step S110, a feature vector is generated for the text of the article received by the input unit 60 based on the character notation of each character of the text, the distributed representation of each word, and the like.

そして、ステップS112において、上記ステップS110で生成された素性ベクトルと、抽出モデル記憶部74に格納されている抽出モデルと基づいて、系列ラベリングを行い、記事のテキストの各文字に、タグを付与し、付与されたタグに基づいて、タイトルの別称を抽出し、記事のタイトルと別称とのペアを出力部90により出力して項目値抽出処理ルーチンを終了する。   In step S112, series labeling is performed based on the feature vector generated in step S110 and the extraction model stored in the extraction model storage unit 74, and a tag is assigned to each character of the article text. Based on the assigned tag, the nickname of the title is extracted, a pair of the title of the article and the nickname is output by the output unit 90, and the item value extraction processing routine is terminated.

以上説明したように、本発明の第1の実施の形態に係る項目値抽出モデル学習装置によれば、記事群の構造化データの各々から、指定された項目名リストと一致する項目の値を、タイトルの別称として抽出し、タイトルの別称であることを示すアノテーションが付与されたテキストを、疑似教師データとして作成し、疑似教師データのテキストから抽出される素性と、テキストに付与されたアノテーションとに基づいて、抽出モデルを学習することにより、高い網羅性で、タイトルの別称を抽出するための抽出モデルを学習することができる。   As described above, according to the item value extraction model learning device according to the first embodiment of the present invention, the value of the item that matches the specified item name list is obtained from each of the structured data of the article group. The text extracted as an alias for the title and annotated to indicate that it is an alias for the title is created as pseudo-teacher data, the features extracted from the text of the pseudo-teacher data, and the annotation attached to the text By learning an extraction model based on the above, it is possible to learn an extraction model for extracting a title nickname with high completeness.

また、本発明の第1の実施の形態に係る項目値抽出装置によれば、項目値抽出モデル学習装置によって予め学習された抽出モデルと、入力されたテキストから抽出された前記素性とに基づいて、記事のテキストから、タイトルの別称を抽出することにより、高い網羅性で、タイトルの別称を抽出することができる。   Moreover, according to the item value extraction device according to the first exemplary embodiment of the present invention, based on the extraction model previously learned by the item value extraction model learning device and the feature extracted from the input text. By extracting the title alias from the article text, the title alias can be extracted with high completeness.

また、Wikipedia(R)の記事のInfoboxとテキストの記述をリンクさせることで、自動的にテキスト中での別称記述箇所の特定を行い、モデル構築を行う。これにより、あらかじめ自然文のパタンを与えることなく、自然文の記述パタンを獲得・拡張することが可能であり、低コストで再現率の高い別称抽出モデルを構築することができる。また、別称は、値が多様であり、かつ、新規のものがつぎつぎに出てくるものであり、自動的に抽出できることが特に有効である。   Also, by linking the Infobox of the Wikipedia (R) article and the description of the text, the part of the nickname description in the text is automatically specified, and the model is constructed. As a result, it is possible to acquire and expand the description pattern of the natural sentence without giving the pattern of the natural sentence in advance, and it is possible to construct a nickname extraction model with a high reproduction rate at a low cost. In addition, the alternative names have various values, and new ones appear one after another, and it is particularly effective that they can be automatically extracted.

なお、上記の実施の形態では、タイトルの別称を抽出対象とする場合を例に説明したが、これに限定されるものではなく、別称以外の、タイトルに関する他の項目を、抽出対象としてもよい。   In the above-described embodiment, the case where an alternative name of a title is an extraction target has been described as an example. However, the present invention is not limited to this, and other items related to the title other than the alternative name may be the extraction target. .

[第2の実施の形態]
次に、第2の実施の形態について説明する。第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
[Second Embodiment]
Next, a second embodiment will be described. Parts having the same configuration as those of the first embodiment are denoted by the same reference numerals and description thereof is omitted.

第2の実施の形態では、テキストと構造化データの組であるテキストデータから、抽出対象項目の値を抽出するための抽出モデルを学習している点が、第1の実施の形態と異なっている。
<本発明の第2の実施の形態に係る項目値抽出モデル学習装置の構成>
The second embodiment is different from the first embodiment in that an extraction model for extracting the value of an item to be extracted is learned from text data that is a set of text and structured data. Yes.
<Configuration of Item Value Extraction Model Learning Device According to Second Embodiment of the Present Invention>

次に、本発明の第2の実施の形態に係る項目値抽出モデル学習装置の構成について説明する。図14に示すように、本発明の第2の実施の形態に係る項目値抽出モデル学習装置200は、入力部10と、演算部220と、出力部50とを備えている。   Next, the configuration of the item value extraction model learning device according to the second embodiment of the present invention will be described. As illustrated in FIG. 14, the item value extraction model learning device 200 according to the second exemplary embodiment of the present invention includes an input unit 10, a calculation unit 220, and an output unit 50.

入力部10は、図15に示すような、テキストと構造化データとの組からなるテキストデータの群であるテキストデータ群を受け付ける。構造化データは、値(例えば、対象語)と当該値に関する項目名と項目の値との3つ組を含んでおり、テキストは、対象語と、当該項目の値とを含んでいる。   The input unit 10 receives a text data group that is a group of text data composed of a set of text and structured data as shown in FIG. The structured data includes a triple of a value (for example, a target word), an item name related to the value, and an item value, and the text includes the target word and the value of the item.

また、入力部10は、受け付けたテキストデータ群の各テキストデータから、構造化データ、テキスト部分を抽出する。   Further, the input unit 10 extracts structured data and a text portion from each text data of the received text data group.

また、入力部10は、対象語に関する抽出対象の項目(例えば、別称)を定める項目名として指定された項目名リストを受け付ける。   Further, the input unit 10 receives an item name list specified as an item name that defines an item (for example, another name) to be extracted regarding the target word.

演算部220は、テキストデータ群記憶部222と、指定項目抽出部24と、疑似教師データ作成部26と、素性抽出部28と、抽出モデル学習部30とを含んで構成されている。   The calculation unit 220 includes a text data group storage unit 222, a designated item extraction unit 24, a pseudo teacher data creation unit 26, a feature extraction unit 28, and an extraction model learning unit 30.

テキストデータ群記憶部222は、入力部10によって受け付けたテキストデータ群、及び項目名リストを記憶している。   The text data group storage unit 222 stores a text data group received by the input unit 10 and an item name list.

指定項目抽出部24は、テキストデータ群の各テキストデータに含まれる構造化データの各々から、指定された項目名リストと一致する項目の値を、抽出対象の項目の値として抽出する。   The designated item extraction unit 24 extracts, as the value of the item to be extracted, the value of the item that matches the designated item name list from each of the structured data included in each text data of the text data group.

疑似教師データ作成部26は、指定項目抽出部24によって抽出された、抽出対象の項目の値に基づいて、当該テキストデータのテキストにおける当該抽出対象の項目の値が記述されている箇所を特定し、特定された記述箇所に、抽出対象の項目の値であることを示すアノテーションが付与し、対象語が記述されている箇所に、対象語であることを示すアノテーションを付与し、アノテーションが付与されたテキストを、疑似教師データとして作成する。   Based on the value of the item to be extracted, which is extracted by the designated item extraction unit 24, the pseudo teacher data creation unit 26 specifies a place where the value of the item to be extracted in the text of the text data is described. Annotation indicating that the value of the item to be extracted is added to the specified description location, and an annotation indicating that the target word is described is added to the location where the target word is described. Created text as pseudo-teacher data.

抽出モデル学習部30は、疑似教師データ作成部26によって作成された疑似教師データのテキストから抽出される素性と、当該疑似教師データのテキストに付与されたアノテーションとに基づいて、上記第1の実施の形態と同様に、テキストデータのテキストから、抽出対象の項目の値を抽出するための抽出モデルを学習し、出力部50により出力する。なお、本実施の形態では、素性として、対象語に関する素性も含む。   The extraction model learning unit 30 performs the first implementation based on the features extracted from the text of the pseudo-teacher data created by the pseudo-teacher data creation unit 26 and the annotation added to the text of the pseudo-teacher data. In the same manner as the above, the extraction model for extracting the value of the item to be extracted is learned from the text of the text data and is output by the output unit 50. In the present embodiment, features related to the target word are also included as features.

<本発明の第2の実施の形態に係る項目値抽出装置の構成>
次に、本発明の第2の実施の形態に係る項目値抽出装置の構成について説明する。図16に示すように、本発明の第2の実施の形態に係る項目値抽出装置250は、入力部60と、演算部270と、出力部90とを備えている。
<Configuration of Item Value Extraction Device According to Second Embodiment of the Present Invention>
Next, the configuration of the item value extraction apparatus according to the second embodiment of the present invention will be described. As illustrated in FIG. 16, the item value extraction device 250 according to the second exemplary embodiment of the present invention includes an input unit 60, a calculation unit 270, and an output unit 90.

入力部60は、図17に示すような、テキストと対象語とを受け付ける。テキストには、構造化データが付いておらず、テキストは、対象語と抽出対象の項目の値とを含んでいる。   The input unit 60 accepts text and target words as shown in FIG. The text has no structured data, and the text includes the target word and the value of the item to be extracted.

演算部270は、素性抽出部72と、抽出モデル記憶部74と、項目値抽出部276とを含んで構成されている。   The calculation unit 270 includes a feature extraction unit 72, an extraction model storage unit 74, and an item value extraction unit 276.

素性抽出部72は、入力部60で受け付けたテキストに対して、素性抽出部28と同様の素性ベクトルを生成する。なお、本実施の形態では、素性として、対象語に関する素性も含む。   The feature extraction unit 72 generates a feature vector similar to the feature extraction unit 28 for the text received by the input unit 60. In the present embodiment, features related to the target word are also included as features.

抽出モデル記憶部74には、項目値抽出モデル学習装置200によって学習された抽出モデルが格納されている。   The extraction model storage unit 74 stores an extraction model learned by the item value extraction model learning device 200.

項目値抽出部276は、素性抽出部72によって抽出された素性ベクトルと、抽出モデル記憶部74に記憶された抽出モデルとに基づいて、系列ラベリングを行い、テキストの各文字に、タグを付与し、抽出対象の項目の値を抽出し、出力部90により出力する。   The item value extraction unit 276 performs series labeling based on the feature vector extracted by the feature extraction unit 72 and the extraction model stored in the extraction model storage unit 74, and assigns a tag to each character of the text. The value of the item to be extracted is extracted and output by the output unit 90.

<本発明の第2の実施の形態に係る項目値抽出モデル学習装置の作用>
次に、本発明の第2の実施の形態に係る項目値抽出モデル学習装置200の作用について説明する。入力部10においてテキストと構造化データの組からなるテキストデータ群を受け付けると、受け付けたテキストデータ群の各テキストデータから、構造化データ及びテキスト部分を抽出し、テキストデータ群記憶部222に格納する。
<Operation of Item Value Extraction Model Learning Device According to Second Embodiment of the Present Invention>
Next, the operation of the item value extraction model learning device 200 according to the second embodiment of the present invention will be described. When the input unit 10 receives a text data group consisting of a combination of text and structured data, the structured data and text portion are extracted from each text data of the received text data group and stored in the text data group storage unit 222. .

また、入力部10において、抽出対象の項目を定める項目名として指定された項目名リストを受け付けると、項目名リストをテキストデータ群記憶部222に格納する。そして、項目値抽出モデル学習装置200は、図18に示す項目値抽出モデル学習処理ルーチンを実行する。なお、第1の実施の形態と同様の処理については同一符号を付して詳細な説明を省略する。   When the input unit 10 accepts an item name list designated as an item name that defines an item to be extracted, the item name list is stored in the text data group storage unit 222. Then, the item value extraction model learning device 200 executes an item value extraction model learning process routine shown in FIG. Note that the same processes as those in the first embodiment are denoted by the same reference numerals, and detailed description thereof is omitted.

まず、ステップS200では、テキストデータ群記憶部222に格納されているテキストデータ群の各テキストデータの構造化データから、指定された項目名リストと一致する項目の値を、抽出対象の項目の値として抽出する。   First, in step S200, the value of the item that matches the specified item name list is extracted from the structured data of each text data of the text data group stored in the text data group storage unit 222. Extract as

次に、ステップS202では、テキストデータ群記憶部222に格納されているテキストデータ群の各テキストデータに対して、当該テキストデータのテキストにおいて、上記ステップS200で当該テキストデータの構造化データから抽出された抽出対象の項目の値が記述されている箇所を特定し、特定された記述箇所に、抽出対象の項目の値であることを示すアノテーションを付与し、当該テキストデータの構造化データに含まれる対象語が記述されている箇所に、アノテーションを付与し、疑似教師データを作成する。   Next, in step S202, for each text data in the text data group stored in the text data group storage unit 222, the text of the text data is extracted from the structured data of the text data in step S200. The location where the value of the item to be extracted is described is specified, and an annotation indicating that the value of the item to be extracted is added to the specified description location, and is included in the structured data of the text data Annotation is given to the portion where the target word is described, and pseudo-teacher data is created.

ステップS104では、上記ステップS202で作成された各疑似教師データのテキストに対して、素性ベクトルを生成する。ステップS106では、各疑似教師データのテキストに対して、文字レベルのタグを付与する。   In step S104, a feature vector is generated for the text of each pseudo-teacher data created in step S202. In step S106, a character level tag is assigned to the text of each pseudo-teacher data.

そして、ステップS108において、上記ステップS106で各疑似教師データについて生成された素性ベクトルと、上記ステップS104で各疑似教師データのテキストに付与されたタグと基づいて、抽出モデルを学習し、出力部50により出力して、項目値抽出モデル学習処理ルーチンを終了する。   In step S108, the extraction model is learned based on the feature vector generated for each pseudo-teacher data in step S106 and the tag given to the text of each pseudo-teacher data in step S104, and the output unit 50 To complete the item value extraction model learning process routine.

<本発明の第2の実施の形態に係る項目値抽出装置の作用>
次に、本発明の第2の実施の形態に係る項目値抽出装置150の作用について説明する。まず、項目値抽出モデル学習装置200によって学習された抽出モデルが、項目値抽出装置250の抽出モデル記憶部74に格納される。また、入力部60において対象語に関するテキスト及び対象語を受け付けると、項目値抽出装置250は、図19に示す項目値抽出処理ルーチンを実行する。
<Operation of Item Value Extraction Device According to Second Embodiment of the Present Invention>
Next, the operation of the item value extraction apparatus 150 according to the second embodiment of the present invention will be described. First, the extraction model learned by the item value extraction model learning device 200 is stored in the extraction model storage unit 74 of the item value extraction device 250. In addition, when the text relating to the target word and the target word are received in the input unit 60, the item value extraction device 250 executes an item value extraction processing routine shown in FIG.

ステップS210において、入力部60で受け付けたテキストに対して、テキストの各文字の文字表記や各単語の分散表現、対象語などに基づいて、素性ベクトルを生成する。   In step S210, a feature vector is generated for the text received by the input unit 60 based on the character notation of each character of the text, the distributed representation of each word, the target word, and the like.

そして、ステップS212において、上記ステップS210で生成された素性ベクトルと、抽出モデル記憶部74に格納されている抽出モデルと基づいて、系列ラベリングを行い、テキストの各文字に、タグを付与し、付与されたタグに基づいて、抽出対象の項目の値を抽出し、出力部90により出力して項目値抽出処理ルーチンを終了する。   In step S212, series labeling is performed based on the feature vector generated in step S210 and the extraction model stored in the extraction model storage unit 74, and a tag is assigned to each character of the text. Based on the tag, the value of the item to be extracted is extracted and output by the output unit 90, and the item value extraction processing routine is terminated.

以上説明したように、本発明の第2の実施の形態に係る項目値抽出モデル学習装置によれば、テキストデータ群の構造化データの各々から、指定された項目名リストと一致する項目の値を、抽出対象とする項目の値として抽出し、抽出された抽出対象とする項目の値であることを示すアノテーションが付与されたテキストを、疑似教師データとして作成し、疑似教師データのテキストから抽出される素性と、テキストに付与されたアノテーションとに基づいて、抽出モデルを学習することにより、高い網羅性で、抽出対象とする項目の値を抽出するための抽出モデルを学習することができる。   As described above, according to the item value extraction model learning device according to the second embodiment of the present invention, the value of the item that matches the specified item name list from each of the structured data of the text data group. Is extracted as the value of the item to be extracted, and the annotated text indicating that it is the value of the extracted item to be extracted is created as pseudo teacher data and extracted from the text of the pseudo teacher data By learning the extraction model based on the feature to be performed and the annotation added to the text, it is possible to learn the extraction model for extracting the value of the item to be extracted with high completeness.

また、本発明の第2の実施の形態に係る項目値抽出装置によれば、項目値抽出モデル学習装置によって予め学習された抽出モデルと、入力されたテキストから抽出された素性とに基づいて、テキストから、抽出対象とする項目の値を抽出することにより、高い網羅性で、抽出対象とする項目の値を抽出することができる。   Moreover, according to the item value extraction device according to the second exemplary embodiment of the present invention, based on the extraction model previously learned by the item value extraction model learning device and the feature extracted from the input text, By extracting the value of the item to be extracted from the text, the value of the item to be extracted can be extracted with high completeness.

なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。   The present invention is not limited to the above-described embodiment, and various modifications and applications can be made without departing from the gist of the present invention.

例えば、上記第1の実施の形態及び第2の実施の形態では、BIOタグを、文字レベルで付与する場合を例に説明したが、これに限定されるものではなく、単語レベルでタグ付けを行ってもよい。この場合には、事前に、テキストに対して単語分割を行うようにすればよい。
また、上記第2の実施の形態において、対象語を入力とし、テキストから、抽出対象とする項目の値を抽出する場合を例に説明したが、これに限定されるものではなく、テキストから、抽出対象とする項目の関係となる、対象語と、項目の値とのペアを抽出するようにしてもよい。
For example, in the first embodiment and the second embodiment, the case where the BIO tag is assigned at the character level has been described as an example. However, the present invention is not limited to this, and tagging is performed at the word level. You may go. In this case, word division may be performed on the text in advance.
In the second embodiment, the case where the target word is input and the value of the item to be extracted is extracted from the text has been described as an example. However, the present invention is not limited to this. You may make it extract the pair of a target word and the value of an item used as the relationship of the item made into extraction object.

10、60 入力部
20、70、220、270 演算部
22 記事群記憶部
24 指定項目抽出部
26 疑似教師データ作成部
28、72 素性抽出部
30 抽出モデル学習部
50、90 出力部
74 抽出モデル記憶部
76 タイトル項目値抽出部
100、200 項目値抽出モデル学習装置
150、250 項目値抽出装置
222 テキストデータ群記憶部
276 項目値抽出部
10, 60 Input unit 20, 70, 220, 270 Calculation unit 22 Article group storage unit 24 Designated item extraction unit 26 Pseudo teacher data creation unit 28, 72 Feature extraction unit 30 Extraction model learning unit 50, 90 Output unit 74 Extraction model storage Unit 76 title item value extraction unit 100, 200 item value extraction model learning device 150, 250 item value extraction device 222 text data group storage unit 276 item value extraction unit

Claims (8)

抽出対象とする項目を定める項目名として指定された項目名、及び値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群を受け付ける入力部と、
前記テキストデータ群の構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出する指定項目抽出部と、
前記指定項目抽出部によって抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成する疑似教師データ作成部と、
前記疑似教師データ作成部によって作成された疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを学習する抽出モデル学習部と、
を含む項目値抽出モデル学習装置。
Text data group consisting of a combination of an item name specified as an item name that defines an item to be extracted, and structured data including a combination of a value, an item name related to the value, and an item value, and a text including the value An input unit that accepts
A designated item extraction unit that extracts the value of an item that matches the designated item name from each of the structured data of the text data group, as the value of the item to be extracted;
A pseudo-teacher data creation unit that creates, as pseudo-teacher data, the text with the annotation indicating that it is the value of the item to be extracted extracted by the designated item extraction unit;
The value of the item to be extracted is extracted from the text based on the feature extracted from the text of the pseudo teacher data created by the pseudo teacher data creation unit and the annotation given to the text. An extraction model learning unit for learning an extraction model for
Item value extraction model learning device including
値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群に含まれる前記構造化データの各々から抽出された抽出対象とする項目を定める項目名として指定された項目名の値に対して、前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを記憶する抽出モデル記憶部と、
入力されたテキストから前記素性を抽出する素性抽出部と、
前記素性抽出部によって抽出された前記素性と、前記抽出モデルとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出する項目値抽出部と、
を含む項目値抽出装置。
An extraction target extracted from each of the structured data included in a text data group including a set of structured data including a set of a value, an item name related to the value, and a value of the item, and a text including the value The feature extracted from the text of the pseudo-teacher data, which is the text to which the annotation indicating that the value of the item to be extracted is added to the value of the item name specified as the item name that defines the item An extraction model storage unit that stores an extraction model for extracting the value of the item to be extracted from the text, learned in advance based on the annotation given to the text;
A feature extraction unit that extracts the features from the input text;
An item value extraction unit that extracts the value of the item to be extracted from the text based on the features extracted by the feature extraction unit and the extraction model;
Item value extraction device including
タイトルと、項目名と項目の値の組を含む構造化データと、前記値を含むテキストとからなる記事群、及び前記タイトルに関して抽出対象とする項目を定める項目名として指定された項目名を受け付ける入力部と、
前記記事群の構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出する指定項目抽出部と、
前記指定項目抽出部によって抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成する疑似教師データ作成部と、
前記疑似教師データ作成部によって作成された疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを学習する抽出モデル学習部と、
を含む項目値抽出モデル学習装置。
An article group consisting of a title, structured data including a pair of item name and item value, and text including the value, and an item name specified as an item name for defining an item to be extracted with respect to the title are accepted. An input section;
A designated item extraction unit that extracts the value of the item that matches the designated item name from each of the structured data of the article group, as the value of the item to be extracted;
A pseudo-teacher data creation unit that creates, as pseudo-teacher data, the text with the annotation indicating that it is the value of the item to be extracted extracted by the designated item extraction unit;
The value of the item to be extracted is extracted from the text based on the feature extracted from the text of the pseudo teacher data created by the pseudo teacher data creation unit and the annotation given to the text. An extraction model learning unit for learning an extraction model for
Item value extraction model learning device including
タイトルと、項目名と項目の値の組を含む構造化データと、前記値を含むテキストとからなる記事群に含まれる構造化データの各々から抽出された前記タイトルに関して抽出対象とする項目を定める項目名として指定された項目名の値に対して、前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを記憶する抽出モデル記憶部と、
入力されたテキストから前記素性を抽出する素性抽出部と、
前記素性抽出部によって抽出された前記素性と、前記抽出モデルとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出する項目値抽出部と、
を含む項目値抽出装置。
The item to be extracted is determined for the title extracted from each of the structured data included in the article group including the title, the structured data including the item name and the value of the item, and the text including the value. The feature extracted from the text of the pseudo-teacher data, which is the text to which the annotation indicating that the value is the value of the item to be extracted, with respect to the value of the item name specified as the item name, An extraction model storage unit that stores an extraction model for extracting the value of the item to be extracted from the text, learned in advance based on annotations attached to the text;
A feature extraction unit that extracts the features from the input text;
An item value extraction unit that extracts the value of the item to be extracted from the text based on the features extracted by the feature extraction unit and the extraction model;
Item value extraction device including
前記抽出対象とする項目を、別称とした請求項1又は3記載の項目値抽出モデル学習装置。   The item value extraction model learning device according to claim 1, wherein the item to be extracted is referred to as another name. 入力部が、抽出対象とする項目を定める項目名として指定された項目名、及び値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群を受け付け、
指定項目抽出部が、前記テキストデータ群の構造化データの各々から、前記指定された項目名と一致する項目の値を、前記抽出対象とする項目の値として抽出し、
疑似教師データ作成部が、前記指定項目抽出部によって抽出された前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストを、疑似教師データとして作成し、
抽出モデル学習部が、前記疑似教師データ作成部によって作成された疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを学習する
項目値抽出モデル学習方法。
From the combination of the item name specified as the item name that defines the item to be extracted and the structured data including the value, the item name related to the value and the value of the item, and the text including the value Accept the text data group
The specified item extraction unit extracts the value of the item that matches the specified item name from each of the structured data of the text data group as the value of the item to be extracted,
The pseudo-teacher data creating unit creates, as pseudo-teacher data, the text with the annotation indicating that it is the value of the item to be extracted extracted by the specified item extracting unit,
The extraction model learning unit sets the extraction target from the text based on the feature extracted from the text of the pseudo-teacher data created by the pseudo-teacher data creation unit and the annotation attached to the text. Learning an extraction model for extracting item values Item value extraction model learning method.
値と前記値に関する項目名と項目の値との組を含む構造化データと前記値を含むテキストとの組からなるテキストデータ群に含まれる前記構造化データの各々から抽出された抽出対象とする項目を定める項目名として指定された項目名の値に対して、前記抽出対象とする項目の値であることを示すアノテーションが付与された前記テキストである疑似教師データの前記テキストから抽出される素性と、前記テキストに付与されたアノテーションとに基づいて予め学習された、前記テキストから、前記抽出対象とする項目の値を抽出するための抽出モデルを記憶する抽出モデル記憶部を含む項目値抽出装置における項目値抽出方法であって、
素性抽出部が、入力されたテキストから前記素性を抽出し、
項目値抽出部が、前記素性抽出部によって抽出された前記素性と、前記抽出モデルとに基づいて、前記テキストから、前記抽出対象とする項目の値を抽出する
項目値抽出方法。
An extraction target extracted from each of the structured data included in a text data group including a set of structured data including a set of a value, an item name related to the value, and a value of the item, and a text including the value The feature extracted from the text of the pseudo-teacher data, which is the text to which the annotation indicating that the value of the item to be extracted is added to the value of the item name specified as the item name that defines the item And an item value extraction device including an extraction model storage unit that stores an extraction model for extracting the value of the item to be extracted from the text, which has been learned in advance based on the annotation given to the text The item value extraction method in
The feature extraction unit extracts the feature from the input text,
An item value extraction method, wherein an item value extraction unit extracts a value of an item to be extracted from the text based on the feature extracted by the feature extraction unit and the extraction model.
コンピュータを、請求項1、請求項3、若しくは請求項5に記載の項目値抽出モデル学習装置、又は請求項2若しくは請求項4に記載の項目値抽出装置の各部として機能させるためのプログラム。   A program for causing a computer to function as each part of the item value extraction model learning device according to claim 1, claim 3, or claim 5, or the item value extraction device according to claim 2 or claim 4.
JP2016143807A 2016-07-21 2016-07-21 Item value extraction model learning device, item value extraction device, method, and program Active JP6665050B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016143807A JP6665050B2 (en) 2016-07-21 2016-07-21 Item value extraction model learning device, item value extraction device, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016143807A JP6665050B2 (en) 2016-07-21 2016-07-21 Item value extraction model learning device, item value extraction device, method, and program

Publications (2)

Publication Number Publication Date
JP2018014003A true JP2018014003A (en) 2018-01-25
JP6665050B2 JP6665050B2 (en) 2020-03-13

Family

ID=61019500

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016143807A Active JP6665050B2 (en) 2016-07-21 2016-07-21 Item value extraction model learning device, item value extraction device, method, and program

Country Status (1)

Country Link
JP (1) JP6665050B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020187441A (en) * 2019-05-10 2020-11-19 富士通株式会社 Model providing program, model providing method and model providing device
JP2023007376A (en) * 2021-06-30 2023-01-18 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド Information extraction method, apparatus, electronic device, and readable storage medium

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020187441A (en) * 2019-05-10 2020-11-19 富士通株式会社 Model providing program, model providing method and model providing device
JP7298286B2 (en) 2019-05-10 2023-06-27 富士通株式会社 Model providing program, model providing method and model providing apparatus
JP2023007376A (en) * 2021-06-30 2023-01-18 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド Information extraction method, apparatus, electronic device, and readable storage medium

Also Published As

Publication number Publication date
JP6665050B2 (en) 2020-03-13

Similar Documents

Publication Publication Date Title
CN107797991B (en) Dependency syntax tree-based knowledge graph expansion method and system
US8583420B2 (en) Method for the extraction of relation patterns from articles
Surdeanu et al. Two practical rhetorical structure theory parsers
JP6062879B2 (en) Model learning apparatus, method and program
Urmi et al. A corpus based unsupervised Bangla word stemming using N-gram language model
Gómez-Adorno et al. A graph based authorship identification approach
JP2007334534A (en) Apparatus and method for inputting character string, and program
JP6665050B2 (en) Item value extraction model learning device, item value extraction device, method, and program
JP5973986B2 (en) Translation system, method, and program
JP5964924B2 (en) Dialog apparatus, method, and program
CN112559691A (en) Semantic similarity determination method and device and electronic equipment
CN110750632A (en) Improved Chinese ALICE intelligent question-answering method and system
KR20160086255A (en) Entity boundary detection apparatus in text by usage-learning on the entity&#39;s surface string candidates and mtehod thereof
KR102130779B1 (en) System of providing documents for machine reading comprehension and question answering system including the same
Al-Serhan et al. A triliteral word roots extraction using neural network for Arabic
Chaonithi et al. A hybrid approach for Thai word segmentation with crowdsourcing feedback system
JP6804913B2 (en) Table structure estimation system and method
JP2007164462A (en) Question answering system, question answering method and question answering program
JP5718407B2 (en) Dialog pattern extraction apparatus, dialog apparatus, method, and program
Sanabila et al. Automatic Wayang Ontology Construction using Relation Extraction from Free Text
JP2014146136A (en) Item information retrieval device, model creation device, item information retrieval method, model creation method, and program
Sasayama et al. Super-function based Japanese-English machine translation
CN111814433B (en) Uygur language entity identification method and device and electronic equipment
JP2002334076A (en) Method for processing text
Truskinger et al. Reconciling folksonomic tagging with taxa for bioacoustic annotations

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190521

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190722

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200219

R150 Certificate of patent or registration of utility model

Ref document number: 6665050

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150