JP2018151892A - Model learning apparatus, information determination apparatus, and program therefor - Google Patents
Model learning apparatus, information determination apparatus, and program therefor Download PDFInfo
- Publication number
- JP2018151892A JP2018151892A JP2017048039A JP2017048039A JP2018151892A JP 2018151892 A JP2018151892 A JP 2018151892A JP 2017048039 A JP2017048039 A JP 2017048039A JP 2017048039 A JP2017048039 A JP 2017048039A JP 2018151892 A JP2018151892 A JP 2018151892A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- sentence
- feature extraction
- information determination
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
本発明は、ソーシャルメディア情報が、ある分野の情報であるか否かを判定する情報判定技術に関する。 The present invention relates to an information determination technique for determining whether social media information is information in a certain field.
近年、ソーシャル・ネットワーキング・サービス（ＳＮＳ：Social Networking Service）の発達により、個人が、容易にかつリアルタイムで情報を発信することが可能になった。例えば、ＳＮＳには、火事、事故等の現場に偶然居合わせた人からの目撃情報等が多数投稿されている。これらの投稿は、現場の写真や映像を付加したものがあり、火事、事故等の発生した瞬間をとらえた画像、映像として、ニュース番組等に活用されることも多い。そこで、放送局では、常時、ＳＮＳを監視する等、人手での作業により、これらの情報を抽出している。 In recent years, with the development of social networking services (SNS), it has become possible for individuals to transmit information easily and in real time. For example, a large number of witness information from people who happen to be present at a site such as a fire or an accident is posted on the SNS. Some of these posts have on-site photos and videos added, and are often used for news programs as images and videos that capture the moment when a fire or accident occurs. Therefore, the broadcasting station always extracts these pieces of information by manual work such as monitoring the SNS.
このようなＳＮＳから人手で必要な情報を抽出する手法は、キーワード検索を用いることが多い。しかし、投稿は、「○○線が遅れている」といった路線名が書かれる場合、「△△駅での事故で電車が遅れている」といった駅名が書かれる場合等、表現の方法が多岐にわたっている。そのため、これらの表現をすべてカバーするキーワードを作成することは困難である。 A keyword search is often used as a method for manually extracting necessary information from such an SNS. However, there are a variety of ways to express the post, such as when the route name is written as “XX line is delayed” or when the station name is written as “The train is delayed due to an accident at △△ station”. Yes. Therefore, it is difficult to create a keyword that covers all these expressions.
そこで、これらの問題を解決するために、機械学習を用いた投稿の抽出手法が多く研究されている。例えば、特定のテーマに依存して危険表現となりうる単語やフレーズをニューラルネットワークにより学習し、ＳＮＳのソーシャル・ビッグデータから、特定のテーマに依存して危険表現となりうる単語やフレーズを抽出する手法が開示されている（特許文献１参照）。また、例えば、ＳＮＳへの投稿のｎ−ｇｒａｍと気象状況の関連度とを算出し、機械学習により、気象事象に関連する有用な投稿を抽出する手法が開示されている（非特許文献１参照）。 Therefore, in order to solve these problems, many researches have been made on a method for extracting posts using machine learning. For example, there is a method of learning words and phrases that can be dangerous expressions depending on a specific theme using a neural network and extracting words and phrases that can be dangerous expressions depending on a specific theme from social big data of SNS. It is disclosed (see Patent Document 1). In addition, for example, a method for calculating an n-gram of a post to SNS and a degree of association between weather conditions and extracting a useful post related to a weather event by machine learning is disclosed (see Non-Patent Document 1). ).
従来の機械学習を用いた手法は、学習データの量により、機械学習を用いた学習精度が大きく影響する。そこで、その精度を高めるためには、多くの学習データを準備する必要がある。しかし、学習データを作成するためには、ソーシャルメディア情報（投稿文）が正解データであるのか不正解データであるのかを峻別する必要がある。このため、人手、作業時間等のコストがかかってしまうという問題があった。 In the conventional method using machine learning, the learning accuracy using machine learning greatly affects the amount of learning data. Therefore, in order to increase the accuracy, it is necessary to prepare a lot of learning data. However, in order to create learning data, it is necessary to distinguish whether social media information (posted text) is correct data or incorrect data. For this reason, there is a problem that costs such as manpower and work time are required.
そこで、本発明は、ソーシャルメディア情報を峻別した学習データだけではなく、ニュース原稿等の分野が既知のテキストデータの特徴を利用して、ソーシャルメディア情報が、ニュース原稿等と同じ分野の情報であるか否かを判定するためのモデル学習装置、情報判定装置およびそれらのプログラムを提供することを課題とする。 Therefore, according to the present invention, the social media information is information in the same field as the news manuscript and the like by using the characteristics of the text data known in the field such as the news manuscript as well as the learning data in which the social media information is distinguished. It is an object of the present invention to provide a model learning device, an information determination device, and a program for determining whether or not a program is used.
前記課題を解決するため、本発明に係るモデル学習装置は、分野が既知の複数の原稿文から特徴量を抽出するための特徴抽出モデルを学習するとともに、前記分野が既知のソーシャルメディア情報である投稿文を教師データとして、判定対象の投稿文が前記分野を示す情報か否かを判定するための情報判定モデルを学習するモデル学習装置であって、ベクトル化手段と、特徴抽出モデル学習手段と、特徴抽出手段と、情報判定モデル学習手段と、を備える構成とした。 In order to solve the above problems, a model learning device according to the present invention learns a feature extraction model for extracting feature amounts from a plurality of manuscript sentences whose fields are known, and is social media information whose fields are known. A model learning device that learns an information determination model for determining whether a determination target posted sentence is information indicating the field, using a posted sentence as teacher data, a vectorization unit, a feature extraction model learning unit, , Feature extraction means, and information determination model learning means.
かかる構成において、モデル学習装置は、ベクトル化手段によって、原稿文または教師データである投稿文に対して、予め記憶手段に記憶されている単語単位の分散表現ベクトルを平均化して、原稿単位または投稿単位の分散表現ベクトルである文単位分散表現ベクトルを生成する。単語ごとの分散表現ベクトルは、単語の分布から、近似する意味内容を示す単語ほど、近い数値ベクトルを与えたものである。この分散表現ベクトルは、ｗｏｒｄ２ｖｅｃ等の手法により学習して生成することができる。
これによって、ベクトル化手段は、原稿文や投稿文において、そのものの意味内容を加味したベクトルを生成する。
In such a configuration, the model learning device averages the word-unit distributed representation vectors stored in the storage unit in advance for the original text or the post text that is the teacher data by the vectorization means, and the original learning unit or the post A sentence unit distributed expression vector that is a unit distributed expression vector is generated. The distributed expression vector for each word is obtained by giving a closer numerical vector to the word indicating the meaning content to be approximated from the word distribution. This distributed expression vector can be generated by learning using a method such as word2vec.
As a result, the vectorization means generates a vector that takes into account the semantic content of the original text or the posted text.
そして、モデル学習装置は、特徴抽出モデル学習手段によって、原稿文から生成される文単位分散表現ベクトルの次元を圧縮して特徴ベクトルを抽出する特徴抽出モデルを学習する。この特徴抽出モデルは、ニューラルネットワークのオートエンコーダの特徴抽出を行う部分として構成することができる。
そして、モデル学習装置は、特徴抽出手段によって、教師データから生成される文単位分散表現ベクトルから、特徴抽出モデルを用いて特徴ベクトルを抽出する。
Then, the model learning device learns a feature extraction model for extracting a feature vector by compressing the dimension of a sentence unit distributed expression vector generated from a document sentence by a feature extraction model learning unit. This feature extraction model can be configured as a part that performs feature extraction of an auto encoder of a neural network.
Then, the model learning device extracts a feature vector using the feature extraction model from the sentence unit distributed expression vector generated from the teacher data by the feature extraction unit.
そして、モデル学習装置は、情報判定モデル学習手段によって、特徴抽出手段で抽出される教師データに対する特徴ベクトルと、当該特徴ベクトルを抽出した元となる教師データの文単位分散表現ベクトルとを入力し、機械学習することで、情報判定モデルを学習する。
このように、情報判定モデル学習手段は、教師データの文単位分散表現ベクトルに対して、さらに、原稿文から学習した特徴抽出モデルで抽出した特徴ベクトルを用いることで、ニュース原稿等の過去の原稿により学習効果を高めることができる。
なお、モデル学習装置は、コンピュータを、前記した各手段として機能させるためのモデル学習プログラムで動作させることができる。
Then, the model learning device inputs a feature vector for the teacher data extracted by the feature extraction unit by the information determination model learning unit, and a sentence unit distributed expression vector of the teacher data from which the feature vector is extracted, An information determination model is learned by machine learning.
In this way, the information determination model learning means uses the feature vector extracted from the feature extraction model learned from the manuscript sentence for the sentence unit distributed expression vector of the teacher data, thereby allowing past manuscripts such as news manuscripts to be used. The learning effect can be enhanced.
Note that the model learning apparatus can operate the computer with a model learning program for causing the computer to function as each of the above-described means.
また、前記課題を解決するため、本発明に係る情報判定装置は、モデル学習装置で学習した特徴抽出モデルおよび情報判定モデルを用いて、分野が未知のソーシャルメディア情報の投稿文である未知データが、学習済みの分野を示す情報か否かを判定する情報判定装置であって、ベクトル化手段と、特徴抽出手段と、判定手段と、を備える構成とした。 In order to solve the above problem, the information determination apparatus according to the present invention uses the feature extraction model and the information determination model learned by the model learning apparatus, and unknown data that is a posted sentence of social media information whose field is unknown. An information determination apparatus that determines whether or not the information indicates a learned field, and includes a vectorization unit, a feature extraction unit, and a determination unit.
かかる構成において、情報判定装置は、ベクトル化手段によって、未知データに対して、予め記憶手段に記憶されている単語単位の分散表現ベクトルを平均化して、投稿単位の分散表現ベクトルである文単位分散表現ベクトルを生成する。
そして、情報判定装置は、特徴抽出手段によって、ベクトル化手段で生成される文単位分散表現ベクトルから、特徴抽出モデルを用いて特徴ベクトルを抽出する。特徴抽出モデルは、分野が既知の原稿から事前学習したものであるため、未知データから生成した特徴ベクトルには、その分野に関する情報であれば抽出されるべき特徴が加味されていることになる。
そして、情報判定装置は、判定手段によって、ベクトル化手段で生成される文単位分散表現ベクトルと、特徴抽出手段で抽出される特徴ベクトルとから、情報判定モデルを用いて、未知データが学習済みの分野を示す情報か否かを判定する。
In such a configuration, the information determination device averages the word-unit distributed expression vectors stored in advance in the storage unit with respect to the unknown data by the vectorization unit, and the sentence unit distribution which is the post-unit distributed expression vector Generate an expression vector.
Then, the information determination apparatus extracts a feature vector by using the feature extraction model from the sentence unit distributed expression vector generated by the vectorization unit by the feature extraction unit. Since the feature extraction model is pre-learned from a manuscript whose field is known, the feature vector generated from the unknown data includes the feature to be extracted if it is information about the field.
Then, the information determination device uses the information determination model to learn unknown data from the sentence unit variance expression vector generated by the vectorization unit and the feature vector extracted by the feature extraction unit. It is determined whether the information indicates a field.
また、前記課題を解決するため、本発明に係る情報判定装置は、分野が既知の複数の原稿文から特徴量を抽出するための特徴抽出モデルを学習するとともに、前記分野が既知のソーシャルメディア情報である投稿文を教師データとして、判定対象の投稿文が前記分野を示す情報か否かを判定するための情報判定モデルを学習し、分野が未知のソーシャルメディア情報の投稿文である未知データが、学習済みの分野を示す情報か否かを判定する情報判定装置であって、ベクトル化手段と、特徴抽出モデル学習手段と、特徴抽出手段と、情報判定モデル学習手段と、判定手段と、を備える構成とした。
なお、情報判定装置は、コンピュータを、前記した各手段として機能させるための情報判定プログラムで動作させることができる。
In order to solve the above problem, the information determination apparatus according to the present invention learns a feature extraction model for extracting feature quantities from a plurality of manuscript sentences whose fields are known, and social media information whose fields are known. Learning information determination model for determining whether or not the posting text to be determined is information indicating the field, using the posted text as teacher data, and unknown data that is a posted text of social media information whose field is unknown An information determination device for determining whether or not the information indicates a learned field, comprising: a vectorization unit, a feature extraction model learning unit, a feature extraction unit, an information determination model learning unit, and a determination unit. It was set as the structure provided.
The information determination apparatus can operate the computer with an information determination program for causing the computer to function as each of the above-described means.
本発明は、以下に示す優れた効果を奏するものである。
本発明によれば、分野が既知の原稿文（テキストデータ）の特徴を利用して、ソーシャルメディア情報が同じ分野の情報であるか否かを判定することができる。
これによって、本発明は、ＳＮＳにおけるソーシャルメディア情報を大量に学習しなくても、既存の大量の原稿を利用することで学習効果を高めることができ、情報判定の精度を高めることができる。
これによって、本発明は、ＳＮＳにおいて個人が発信するソーシャル・ビッグデータを、ニュース等の情報源として有効に活用することができる。
The present invention has the following excellent effects.
According to the present invention, it is possible to determine whether or not social media information is information in the same field using the characteristics of a document sentence (text data) whose field is known.
As a result, the present invention can enhance the learning effect by using a large amount of existing manuscript without learning a large amount of social media information in the SNS, and can improve the accuracy of information determination.
As a result, the present invention can effectively utilize social big data transmitted by individuals in SNS as an information source such as news.
以下、本発明の実施形態について図面を参照して説明する。
［情報判定装置の構成］
最初に、図１を参照して、本発明の実施形態に係る情報判定装置１の構成について説明する。
Embodiments of the present invention will be described below with reference to the drawings.
[Configuration of information judgment device]
Initially, with reference to FIG. 1, the structure of the
情報判定装置１は、制御部１０と記憶部２０とで構成される。
情報判定装置１は、ＳＮＳで発信される情報（投稿単位のテキストデータであるツイート〔登録商標〕等）が、特定の分野の情報であるか否かを判定するものである。
The
The
制御部１０は、図１に示すように、単語分割手段１１と、ベクトル化手段１２と、特徴抽出モデル学習手段１３と、特徴抽出手段１４と、情報判定モデル学習手段１５と、判定手段１６と、を備える。
制御部１０は、情報判定装置１の動作を制御するものである。制御部１０は、３つの動作モードで動作する。動作モードの１つめは、分野が既知の情報（テキストデータ）から、その情報の特徴量を抽出する特徴抽出モデルを学習する第１学習モードである。動作モードの２つめは、分野が既知のソーシャルメディア情報（以下、単にメディア情報）から、未知のメディア情報が、その分野の情報であるか否かを判定する情報判定モデルを学習する第２学習モードである。動作モードの３つめは、未知のメディア情報が、学習した分野の情報であるか否かを判定する評価モードである。
As shown in FIG. 1, the control unit 10 includes a
The control unit 10 controls the operation of the
本実施形態では、特定の分野として、報道番組等で活用可能な「ニュース」を例として説明する。もちろん、この分野は、ニュース以外の分野でもよく、例えば、スポーツ、音楽等であってもよい。 In the present embodiment, “news” that can be used in a news program or the like will be described as an example of a specific field. Of course, this field may be a field other than news, for example, sports, music, and the like.
本実施形態では、第１学習モードにおいて、制御部１０は、大量（例えば、数十万件）のニュース原稿を入力情報として入力する。例えば、制御部１０は、ニュースのタイトルを原稿単位で入力する。
また、制御部１０は、第２学習モードにおいて、分野がニュースであることが既知のメディア情報を、入力情報として大量（例えば、数万件）に入力する。例えば、制御部１０は、ツイート〔登録商標〕を投稿単位で入力する。
また、制御部１０は、評価モードにおいて、分野が未知のメディア情報を入力情報として入力し、分野がニュースの情報であるか否かの判定結果を出力する。
In the present embodiment, in the first learning mode, the control unit 10 inputs a large amount (for example, hundreds of thousands) of news manuscripts as input information. For example, the control unit 10 inputs a news title in units of originals.
Further, in the second learning mode, the control unit 10 inputs a large amount (for example, tens of thousands) of media information whose field is known to be news as input information. For example, the control unit 10 inputs a tweet [registered trademark] on a posting basis.
Further, in the evaluation mode, the control unit 10 inputs media information whose field is unknown as input information, and outputs a determination result as to whether the field is news information.
単語分割手段１１は、テキストデータであるニュース原稿（原稿文）、または、メディア情報（投稿文）を単語に分割するものである。具体的には、単語分割手段１１は、テキストデータを形態素解析することで単語に分割し、ベクトル化手段１２に出力する。
The word dividing means 11 divides a news manuscript (manuscript sentence) or media information (posted sentence) as text data into words. Specifically, the
ベクトル化手段１２は、単語分割手段１１で分割された単語から、当該テキストデータである原稿文または投稿文をベクトル化するものである。ベクトル化手段１２は、分散表現ベクトル記憶手段２１に予め記憶されている単語ごとの分散表現ベクトルから、原稿文または投稿文を構成する単語の分散表現ベクトルを平均化して、原稿単位または投稿単位の分散表現ベクトルを生成する。
なお、分散表現ベクトルとは、意味が近い（分散の特徴が近い）単語を近いベクトルに対応させて、単語を有限の高次元（例えば、２００次元）の数値ベクトルで表現したものである。この分散表現ベクトルは、例えば、ｗｏｒｄ２ｖｅｃ、ＧｌｏＶｅ（Global Vectors for Word Representation）等の一般的な手法により生成されたものである。
The vectorizing means 12 vectorizes the original text or the posted text as the text data from the words divided by the word dividing means 11. The vectorization means 12 averages the distributed expression vectors of the words constituting the original sentence or the posted sentence from the distributed expression vectors for each word stored in advance in the distributed expression vector storage means 21 to obtain the original unit or the post unit. Generate a distributed representation vector.
The distributed expression vector is a word expressed by a finite high-dimensional (for example, 200-dimensional) numerical vector by associating words having similar meanings (having similar distribution characteristics) with close vectors. This distributed expression vector is generated by a general method such as word2vec or GloVe (Global Vectors for Word Representation).
ベクトル化手段１２は、分割した単語に対応する分散表現ベクトルを読み出して加算する。そして、ベクトル化手段１２は、加算した分散表現ベクトルを当該原稿文または投稿文に含まれる単語数で除算することで、ベクトルを正規化し、原稿文または投稿文の分散表現ベクトル（文単位分散表現ベクトル）を生成する。 The vectorization means 12 reads and adds the distributed expression vectors corresponding to the divided words. Then, the vectorization means 12 normalizes the vector by dividing the added distributed expression vector by the number of words included in the original sentence or the posted sentence, and the distributed expression vector (sentence unit distributed expression) of the original sentence or the posted sentence. Vector).
ベクトル化手段１２は、第１学習モードにおいては、生成した文単位分散表現ベクトルを特徴抽出モデル学習手段１３に出力する。また、ベクトル化手段１２は、第２学習モードにおいては、生成した文単位分散表現ベクトルを特徴抽出手段１４および情報判定モデル学習手段１５に出力する。また、ベクトル化手段１２は、評価モードにおいては、生成した文単位分散表現ベクトルを特徴抽出手段１４および判定手段１６に出力する。
The
ここで、図２を参照（適宜図１参照）して、文単位分散表現ベクトルについて説明する。
図２（ａ）に示すように、テキストデータ（原稿文または投稿文）の一例を「○○線が事故で遅れている。」とした場合、単語分割手段１１は、当該テキストデータを「○○／線／が／事故／で／遅れ／て／いる／。」と単語単位で分割する。
Here, the sentence unit distributed expression vector will be described with reference to FIG. 2 (refer to FIG. 1 as appropriate).
As shown in FIG. 2A, when an example of text data (a manuscript sentence or a posted sentence) is set to “XX line is delayed due to an accident”, the
そして、ベクトル化手段１２は、分割した単語ごとに、対応する分散表現ベクトルを分散表現ベクトル記憶手段２１から読み出す。例えば、図２（ｂ）に示すように、単語「○○」に対応する次元数がｎ個（例えば、２００次元）の分散表現ベクトル「０．１，０．３，０．４，０．１，０．８，０．９，０．２，…，０．９」を読み出す。
そして、ベクトル化手段１２は、テキストデータを構成する単語数だけ分散表現ベクトルを加算して、全単語合計（図２（ｂ）の例では、「７．２，１．８，２．７，３．６，３．６，７．２，４．５，…，６．３」）を算出する。
Then, the vectorization means 12 reads the corresponding distributed expression vector from the distributed expression vector storage means 21 for each divided word. For example, as illustrated in FIG. 2B, the distributed representation vectors “0.1, 0.3, 0.4, 0. 1, 0.8, 0.9, 0.2,...
Then, the vectorization means 12 adds the distributed expression vectors by the number of words constituting the text data, and adds up all the words (in the example of FIG. 2B, “7.2, 1.8, 2.7, 3.6, 3.6, 7.2, 4.5, ..., 6.3 ").
その後、ベクトル化手段１２は、分散表現ベクトルの全単語合計を、テキストデータを構成する単語数（図２の例では、９個）で除算することで、文単位分散表現ベクトル（図２（ｂ）の例では、「０．８，０．２，０．３，０．４，０．４，０．８，０．５，…，０．７」）を算出する。
これによって、ベクトル化手段１２は、原稿文または投稿文ごとに文単位分散表現ベクトルを生成する。
図１に戻って、情報判定装置１の構成について説明を続ける。
Thereafter, the vectorization means 12 divides the total of all the words of the distributed expression vector by the number of words constituting the text data (9 in the example of FIG. 2), thereby obtaining the sentence unit distributed expression vector (FIG. 2 (b In the example of), “0.8, 0.2, 0.3, 0.4, 0.4, 0.8, 0.5,..., 0.7”) is calculated.
As a result, the vectorization means 12 generates a sentence unit distributed expression vector for each original sentence or posted sentence.
Returning to FIG. 1, the description of the configuration of the
特徴抽出モデル学習手段１３は、第１学習モードにおいて、ベクトル化手段１２で生成される文単位分散表現ベクトルから、特徴量を抽出するための特徴抽出モデルを学習するものである。文単位分散表現ベクトルの特徴量は、文単位分散表現ベクトルの次元数を圧縮することで求める。 The feature extraction model learning means 13 learns a feature extraction model for extracting feature quantities from the sentence unit distributed expression vector generated by the vectorization means 12 in the first learning mode. The feature quantity of the sentence unit distributed expression vector is obtained by compressing the number of dimensions of the sentence unit distributed expression vector.
具体的には、特徴抽出モデル学習手段１３は、図３に示す入力層ＡＬ１、隠れ層ＡＬ２、出力層ＡＬ３で構成されるニューラルネットワークであるオートエンコーダＡＥにより、特徴量（特徴ベクトル）を抽出する特徴抽出モデルＭ１を学習する。
図３に示すオートエンコーダＡＥは、入力層ＡＬ１に、ベクトル化手段１２で生成される文単位分散表現ベクトルＶｓを入力する。入力層ＡＬ１および出力層ＡＬ３は、文単位分散表現ベクトルと同じ次元数（例えば、２００次元）である。隠れ層ＡＬ２は、入力層ＡＬ１および出力層ＡＬ３よりも次元数が少ない（例えば、１００次元）。
Specifically, the feature extraction
Autoencoder AE shown in FIG. 3, the input layer A L1, and inputs the sentence distributed representation vector Vs generated by
特徴抽出モデル学習手段１３は、オートエンコーダＡＥにおいて、入力層ＡＬ１と出力層ＡＬ３とが、同じ文単位分散表現ベクトルＶｓとなるように、入力層ＡＬ１から隠れ層ＡＬ２へのエンコード式、隠れ層ＡＬ２から出力層ＡＬ３へのデコード式の係数等のパラメータを学習する。このように、オートエンコーダＡＥは、中間層に、入力層ＡＬ１および出力層ＡＬ３よりも次元数が少ない隠れ層ＡＬ２を設けることで、隠れ層ＡＬ２において、文単位分散表現ベクトルの次元を圧縮した特徴量を抽出することができる。
Feature extraction
この特徴抽出モデル学習手段１３は、順次入力される文単位分散表現ベクトルが、入力層ＡＬ１と出力層ＡＬ３とで同じになるようにオートエンコーダＡＥを学習し、入力層ＡＬ１から隠れ層ＡＬ２へのパラメータを、特徴抽出モデルＭ１として学習する。なお、オートエンコーダＡＥの学習には、例えば、誤差逆伝播法（back propagation）を用いる。
この特徴抽出モデル学習手段１３は、ニュース原稿を用いた学習を所定回数行うか、パラメータ誤差が予め定めた誤差内に収束した段階で学習を終了する。
特徴抽出モデル学習手段１３は、学習した特徴抽出モデルＭ１を、特徴抽出モデル記憶手段２２に書き込み記憶する。
The feature extraction
The feature extraction
The feature extraction
特徴抽出手段１４は、第２学習モードまたは評価モードにおいて、特徴抽出モデル記憶手段２２に記憶されている特徴抽出モデルを用いて、ベクトル化手段１２で生成される文単位分散表現ベクトルから、特徴ベクトル（特徴量）を抽出するものである。
この特徴抽出手段１４は、特徴抽出モデル記憶手段２２に記憶されている特徴抽出モデルＭ１（図３参照）を用いて、文単位分散表現ベクトル（例えば、２００次元）から、次元数の少ないベクトル（例えば、１００次元）を算出し、特徴ベクトルを抽出する。
特徴抽出手段１４は、第２学習モードにおいて、抽出した特徴ベクトルを情報判定モデル学習手段１５に出力する。また、特徴抽出手段１４は、評価モードにおいて、抽出した特徴ベクトルを情報判定モデル学習手段１５に出力する。
The
The
The
情報判定モデル学習手段１５は、第２学習モードにおいて、ベクトル化手段１２で生成される文単位分散表現ベクトルから、メディア情報がある分野の情報であるか否かを判定する情報判定モデルを学習するものである。
In the second learning mode, the information determination
具体的には、情報判定モデル学習手段１５は、図４に示す入力層ＦＬ１、隠れ層ＦＬ２、出力層ＦＬ３で構成される順伝播ニューラルネットワーク（Feed Forward Neural Network：ＦＦＮＮ）により、情報判定モデルＭ２を学習する。
図４に示すＦＦＮＮは、入力層ＦＬ１に、ベクトル化手段１２で生成される文単位分散表現ベクトルＶｓと、特徴抽出モデルＭ１で抽出される特徴ベクトルＶｆとを入力する。そして、ＦＦＮＮは、隠れ層ＦＬ２において、入力層ＦＬ１に入力されたベクトル（文単位分散表現ベクトルＶｓ＋特徴ベクトルＶｆ）の各要素の値に重みを付加して伝搬させて、出力層ＦＬ３から、判定結果を出力する。ここで、出力層ＦＬ３は、例えば、次元数を２とし、一方のノードから、文単位分散表現ベクトルＶｓが第１学習モードで学習した分野の情報であることを示す確率を正規化して出力する。また、他方のノードから、文単位分散表現ベクトルＶｓが第１学習モードで学習した分野の情報ではないことを示す確率を正規化して出力する。
Specifically, the information determination model learning means 15 uses a forward propagation neural network (FFNN) composed of an input layer F L1 , a hidden layer F L2 , and an output layer F L3 shown in FIG. to learn the decision model M 2.
FFNN shown in Figure 4, the input layer F L1, and inputs a sentence unit variance representation vectors Vs generated by
そして、情報判定モデル学習手段１５は、教師データが正例の場合、一方のノードの出力が、文単位分散表現ベクトルＶｓが第１学習モードで学習した分野の投稿文のベクトルである確率値“１”、他方のノードの出力が確率値“０”となるように、各層の重みを情報判定モデルＭ２のパラメータとして学習する。また、教師データが負例の場合、一方のノードの出力が“０”、他方のノードの出力が“１” となるように、各層の重みを情報判定モデルＭ２のパラメータとして学習する。なお、ＦＦＮＮの学習には、例えば、誤差逆伝播法（back propagation）を用いる。
この情報判定モデル学習手段１５は、教師データを用いた学習を所定回数行うか、パラメータ誤差が予め定めた誤差内に収束した段階で学習を終了する。
情報判定モデル学習手段１５は、学習した情報判定モデルを、情報判定モデル記憶手段２３に書き込み記憶する。
Then, when the teacher data is a positive example, the information determination model learning means 15 outputs a probability value “in which the output of one node is a vector of posted sentences in the field in which the sentence unit distributed expression vector Vs is learned in the first learning mode”. 1 ", the output of the other node probability value" so that the 0 "to learn the weights of each layer as a parameter information determining the model M 2. Also, if the teacher data is negative example, the output of one node is "0", so that the output of the other nodes becomes "1", to learn the weights of each layer as a parameter information determining the model M 2. For FFNN learning, for example, an error back propagation method is used.
The information determination
The information determination
判定手段１６は、評価モードにおいて、メディア情報が、学習モード（第１学習モードおよび第２学習モード）で学習した分野の情報であるか否かを判定するものである。
判定手段１６は、評価モードにおいて、ベクトル化手段１２から文単位分散表現ベクトルを入力し、特徴抽出手段１４から、文単位分散表現ベクトルから抽出した特徴ベクトルを入力する。
In the evaluation mode, the
In the evaluation mode, the
判定手段１６は、情報判定モデル記憶手段２３に記憶されている情報判定モデルを用いて、入力した文単位分散表現ベクトルと特徴ベクトルとが、学習モードで学習した分野の情報に対応するベクトルであるか否かを判定する。具体的には、判定手段１６は、図４に示したＦＦＮＮの入力層ＦＬ１に文単位分散表現ベクトルＶｓと特徴ベクトルＶｆとを入力し、出力層ＦＬ３から出力される結果に基づいて判定を行う。図４の例では、判定手段１６は、出力層ＦＬ３の一方のノードの出力である学習した分野の事象の情報である確率値から、他方のノードから出力される確率値を減算し、正であれば、メディア情報が、学習した分野の情報であると判定する。一方、負であれば、判定手段１６は、メディア情報が、学習した分野の情報ではないと判定する。
これによって、判定手段１６は、メディア情報が学習した分野の情報か否かを判定することができる。判定手段１６は、この判定結果を外部に出力する。
The
Accordingly, the
記憶部２０は、分散表現ベクトル記憶手段２１と、特徴抽出モデル記憶手段２２と、情報判定モデル記憶手段２３と、を備える。記憶部２０は、情報判定装置１の動作で使用または生成する各種データを記憶するものである。
これら各記憶手段は、ハードディスク、半導体メモリ等の一般的な記憶装置で構成することができる。なお、ここでは、記憶部２０において、各記憶手段を個別に設けているが、１つの記憶装置の記憶領域を複数に区分して各記憶手段としてもよい。また、記憶部２０を外部記憶装置として、情報判定装置１の構成から省いてもよい。
The storage unit 20 includes a distributed representation
Each of these storage means can be constituted by a general storage device such as a hard disk or a semiconductor memory. Here, each storage unit is provided individually in the storage unit 20, but the storage area of one storage device may be divided into a plurality of storage units. Moreover, you may omit from the structure of the
分散表現ベクトル記憶手段２１は、分散表現ベクトルを単語に対応付けて記憶するものである。ここでは、分散表現ベクトル記憶手段２１に、予め分散表現ベクトルを記憶しておくこととするが、情報判定装置１は、制御部１０に、図示を省略した分散表現ベクトル生成手段を備える構成としても構わない。その場合、分散表現ベクトル生成手段は、既存のメディア情報等の大量の学習データから、ｗｏｒｄ２ｖｅｃ等によって、単語ごとの分散表現ベクトルを生成し、分散表現ベクトル記憶手段２１に記憶する。
The distributed expression vector storage means 21 stores the distributed expression vector in association with the word. Here, the distributed representation
特徴抽出モデル記憶手段２２は、特徴抽出モデル学習手段１３で学習した特徴抽出モデルを記憶するものである。この特徴抽出モデル記憶手段２２に記憶される特徴抽出モデルは、特徴抽出手段１４が参照する。
The feature extraction
情報判定モデル記憶手段２３は、情報判定モデル学習手段１５で学習した情報判定モデルを記憶するものである。この情報判定モデル記憶手段２３に記憶される情報判定モデルは、判定手段１６が参照する。
The information determination
以上説明したように情報判定装置１を構成することで、情報判定装置１は、ニュース原稿から、ニュース分野における原稿文の特徴を抽出する特徴抽出モデルを学習することができる。また、情報判定装置１は、教師データである予め定めた分野（ここでは、ニュース分野）の情報であるか否かが既知のメディア情報から、情報判定モデルを学習することができる。
そして、情報判定装置１は、情報判定モデルを用いて、未知のメディア情報が学習した分野の情報であるか否かを判定することができる。
なお、情報判定装置１は、一般的なコンピュータを、前記した制御部１０の各手段として機能させるプログラム（情報判定プログラム）で動作させることができる。
By configuring the
And the
In addition, the
［情報判定装置の動作］
次に、図５〜図７を参照して、本発明の実施形態に係る情報判定装置１の動作について説明する。なお、分散表現ベクトル記憶手段２１には、予め単語に対応付けて分散表現ベクトルが記憶されているものとする。ここでは、情報判定装置１の動作を、第１学習モードと第２学習モードと評価モードとに分けて説明する。
[Operation of information judgment device]
Next, with reference to FIGS. 5-7, operation | movement of the
（第１学習モード）
まず、図５を参照（構成については適宜図１参照）して、情報判定装置１の特徴抽出モデルを学習する第１学習モードの動作について説明する。
ステップＳ１において、情報判定装置１の単語分割手段１１は、テキストデータであるニュース原稿（例えば、ニュースのタイトル）を、原稿ごとに入力する。
そして、ステップＳ２において、情報判定装置１の単語分割手段１１は、ステップＳ１で入力した原稿文を、形態素解析することで単語に分割する。
(First learning mode)
First, the operation in the first learning mode for learning the feature extraction model of the
In step S1, the
In step S2, the
そして、ステップＳ３において、情報判定装置１のベクトル化手段１２は、ステップＳ２で分割した単語に対応する分散表現ベクトルを分散表現ベクトル記憶手段２１から読み出して、単語数分だけ加算する。
さらに、ステップＳ４において、情報判定装置１のベクトル化手段１２は、ステップＳ３で加算された分散表現ベクトルを、原稿文に含まれる単語数で除算することで、原稿文ごとの正規化したベクトル（文単位分散表現ベクトル）を生成する。
In step S3, the vectorization means 12 of the
Furthermore, in step S4, the vectorization means 12 of the
ステップＳ５において、情報判定装置１の特徴抽出モデル学習手段１３は、ステップＳ４で生成した文単位分散表現ベクトルを、図３に示すオートエンコーダＡＥの入力層ＡＬ１への入力、および、出力層ＡＬ３からの出力として、特徴抽出モデルを学習する。
In step S5, the feature extraction
そして、ステップＳ６において、情報判定装置１の特徴抽出モデル学習手段１３は、学習を所定回数行うか、特徴抽出モデルのパラメータ誤差が収束したかにより、学習が終了したか否かを判定する。
このステップＳ６で、学習が終了していないと判定された場合（Ｎｏ）、情報判定装置１は、ステップＳ１に戻って学習動作を継続する。
一方、ステップＳ６で、学習が終了したと判定された場合（Ｙｅｓ）、情報判定装置１は、ステップＳ７において、学習した特徴抽出モデルを、特徴抽出モデル記憶手段２２に書き込む。
In step S6, the feature extraction
If it is determined in step S6 that learning has not ended (No), the
On the other hand, when it is determined in step S6 that the learning is completed (Yes), the
以上の動作によって、情報判定装置１は、大量のニュース原稿を教師データとして、テキストデータがニュースの分野の情報である特徴量を抽出する特徴抽出モデルを生成することができる。
With the above operation, the
（第２学習モード）
次に、図６を参照（構成については適宜図１参照）して、情報判定装置１の情報判定モデルを学習する第２学習モードの動作について説明する。この第２学習モードは、図５で説明した第１学習モードの動作の後に行われる。
ステップＳ１０において、情報判定装置１の単語分割手段１１は、分野がニュースであることが既知のメディア情報（教師データ）を、投稿ごとに入力する。
そして、ステップＳ１１において、情報判定装置１の単語分割手段１１は、ステップＳ１０で入力した投稿文を、形態素解析することで単語に分割する。
(Second learning mode)
Next, referring to FIG. 6 (refer to FIG. 1 as appropriate for the configuration), the operation in the second learning mode for learning the information determination model of the
In step S10, the
And in step S11, the word division | segmentation means 11 of the
そして、ステップＳ１２において、情報判定装置１のベクトル化手段１２は、ステップＳ１１で分割した単語に対応する分散表現ベクトルを分散表現ベクトル記憶手段２１から読み出して、単語数分だけ加算する。
さらに、ステップＳ１３において、情報判定装置１のベクトル化手段１２は、ステップＳ１２で加算された分散表現ベクトルを、投稿文に含まれる単語数で除算することで、原稿文ごとの正規化したベクトル（文単位分散表現ベクトル）を生成する。
In step S12, the vectorization means 12 of the
Further, in step S13, the
ステップＳ１４において、情報判定装置１の特徴抽出手段１４は、特徴抽出モデル記憶手段２２に記憶されている特徴抽出モデルを用いて、ステップＳ１３で生成した文単位分散表現ベクトルから、特徴量である特徴ベクトルを抽出し、特徴抽出モデルの出力とする。
そして、ステップＳ１５において、情報判定装置１の情報判定モデル学習手段１５は、ステップＳ１３で生成した教師データの文単位分散表現ベクトルと、ステップＳ１４で生成した特徴ベクトルとを、図４に示すＦＦＮＮの入力層ＦＬ１への入力として、情報判定モデルを教師あり学習する。
In step S14, the
In step S15, the information determination model learning means 15 of the
そして、ステップＳ１６において、情報判定装置１の情報判定モデル学習手段１５は、教師データを用いた学習を所定回数行うか、情報判定モデルのパラメータ誤差が収束したかにより、学習が終了したか否かを判定する。
このステップＳ１６で、学習が終了していないと判定された場合（Ｎｏ）、情報判定装置１は、ステップＳ１０に戻って学習動作を継続する。
一方、ステップＳ１６で、学習が終了したと判定された場合（Ｙｅｓ）、情報判定装置１は、ステップＳ１７において、学習した情報判定モデルを、情報判定モデル記憶手段２３に書き込む。
In step S16, the information determination
If it is determined in step S16 that learning has not ended (No), the
On the other hand, when it is determined in step S16 that the learning is completed (Yes), the
以上の動作によって、情報判定装置１は、教師データから、分野が未知のメディア情報が、ニュースの分野の情報であるか否かを判定するための情報判定モデルを生成することができる。
With the above operation, the
（評価モード）
次に、図７を参照（構成については適宜図１参照）して、情報判定装置１の評価モードの動作について説明する。この評価モードの動作は、図６で説明した第２学習モードの動作の後に行われる。
なお、ステップＳ２０〜Ｓ２４の動作は、入力情報が、教師データのメディア情報であるか、分野が未知のメディア情報であるかが異なるだけで、図６で説明したステップＳ１０からＳ１４の動作と同じであるため、説明を省略する。
(Evaluation mode)
Next, referring to FIG. 7 (refer to FIG. 1 as appropriate for the configuration), the operation in the evaluation mode of the
The operations in steps S20 to S24 are the same as those in steps S10 to S14 described with reference to FIG. 6 except that the input information is media information of teacher data or media information whose field is unknown. Therefore, the description is omitted.
ステップＳ２５において、情報判定装置１の判定手段１６は、情報判定モデル記憶手段２３に記憶されている情報判定モデルを用いて、文単位分散表現ベクトルと特徴ベクトルとから、分野が未知のメディア情報が、学習モードで学習した分野の情報であるか否かを判定する。この文単位分散表現ベクトルは、ステップＳ２３で生成されたものであり、特徴ベクトルは、ステップＳ２４で生成されたものである。
さらに、ステップＳ２６において、情報判定装置１の判定手段１６は、ステップＳ２５で判定した結果を外部に出力する。
In step S25, the
Furthermore, in step S26, the determination means 16 of the
ステップＳ２７において、情報判定装置１は、さらにメディア情報が入力されるか否かにより、評価モードの動作の終了を判定する。
このステップＳ２７で、さらにメディア情報が入力され、評価モードの動作が終了していない場合（Ｎｏ）、情報判定装置１は、ステップＳ２０に動作を戻って、判定動作を継続する。
一方、ステップＳ２７で、新たなメディア情報が入力されず、評価モードの動作が終了した場合（Ｙｅｓ）、動作を終了する。
以上の動作によって、情報判定装置１は、未知のメディア情報が、学習モードで学習した分野の情報であるか否かを判定することができる。
In step S27, the
In this step S27, when media information is further input and the operation in the evaluation mode has not ended (No), the
On the other hand, if no new media information is input in step S27 and the evaluation mode operation ends (Yes), the operation ends.
With the above operation, the
以上、本発明の実施形態に係る情報判定装置１の構成および動作について説明したが、本発明は、この実施形態に限定されるものではない。
ここでは、情報判定装置１は、特徴抽出モデルおよび情報判定モデルを学習する学習動作（第１学習モードおよび第２学習モード）と、特徴抽出モデルおよび情報判定モデルを用いて、未知のメディア情報が、学習した分野の情報であるか否かを判定する判定動作（評価モード）との２つの動作を１つの装置で行うものとした。
しかし、これらの動作は、別々の装置で動作させても構わない。
The configuration and operation of the
Here, the
However, these operations may be performed by separate devices.
具体的には、特徴抽出モデルおよび情報判定モデルを学習する学習動作を実現する装置は、図８に示すモデル学習装置３として構成することができる。
モデル学習装置３は、図８に示すように、図１で説明した情報判定装置１から、判定手段１６を省いて構成すればよい。この構成は、図１で説明した情報判定装置１と同じ、特徴抽出モデルおよび情報判定モデルを学習する学習動作のみを行う。なお、モデル学習装置３の動作は、図５および図６で説明した動作と同じである。
このモデル学習装置３は、コンピュータを前記した各手段として機能させるためのプログラム（モデル学習プログラム）で動作させることができる。
Specifically, an apparatus for realizing a learning operation for learning a feature extraction model and an information determination model can be configured as a
As shown in FIG. 8, the
The
また、特徴抽出モデルおよび情報判定モデルを用いて、未知のメディア情報が、学習した分野の情報であるか否かを判定する判定動作を実現する装置は、図９に示す情報判定装置１Ｂとして構成することができる。
情報判定装置１Ｂは、図９に示すように、図１で説明した情報判定装置１から、特徴抽出モデル学習手段１３と情報判定モデル学習手段１５とを省いて構成すればよい。この構成は、図１で説明した情報判定装置１と同じ、未知のメディア情報が、予め学習した分野の情報であるか否かを判定する判定動作のみを行う。なお、情報判定装置１Ｂの動作は、図７で説明した動作と同じである。
この情報判定装置１Ｂは、コンピュータを前記した各手段として機能させるためのプログラム（情報判定プログラム）で動作させることができる。
このように、学習動作と判定動作とを、異なる装置で動作させることで、１つのモデル学習装置３で学習した特徴抽出モデルおよび情報判定モデルを、複数の情報判定装置１Ｂで利用することが可能になる。
An apparatus that realizes a determination operation for determining whether unknown media information is information in a learned field using the feature extraction model and the information determination model is configured as an
As shown in FIG. 9, the
This
As described above, the feature extraction model and the information determination model learned by one
また、ここでは、情報判定モデル学習手段１５が学習する情報判定モデルを、教師あり学習により学習するニューラルネットワークとした。しかし、この教師あり学習は、他の一般的な機械学習を用いることができる。例えば、サポートベクタマシン（ＳＶＭ：Support Vector Machine）、条件付確率場（ＣＲＦ：Conditional Random Fields）等を用いることができる。
In addition, here, the information determination model learned by the information determination
また、ここでは、単語分割手段１１が、形態素解析により、入力されるニュース原稿（原稿文）、メディア情報（投稿文）を単語に分割した。しかし、情報判定装置１への入力が、予め単語に区分されたものである場合、情報判定装置１の構成から、単語分割手段１１を省略することができる。
Here, the word dividing means 11 divides the input news manuscript (original manuscript) and media information (posted sentence) into words by morphological analysis. However, when the input to the
１，１Ｂ 情報判定装置
１１ 単語分割手段
１２ ベクトル化手段
１３ 特徴抽出モデル学習手段
１４ 特徴抽出手段
１５ 情報判定モデル学習手段
１６ 判定手段
２１ 分散表現ベクトル記憶手段
２２ 特徴抽出モデル記憶手段
２３ 情報判定モデル記憶手段
３ モデル学習装置
DESCRIPTION OF
Claims (6)
前記原稿文または前記教師データである投稿文に対して、予め記憶手段に記憶されている単語単位の分散表現ベクトルを平均化して、原稿単位または投稿単位の分散表現ベクトルである文単位分散表現ベクトルを生成するベクトル化手段と、
前記原稿文から生成される前記文単位分散表現ベクトルの次元を圧縮して特徴ベクトルを抽出する特徴抽出モデルを学習する特徴抽出モデル学習手段と、
前記教師データから生成される前記文単位分散表現ベクトルから、前記特徴抽出モデルを用いて、前記特徴ベクトルを抽出する特徴抽出手段と、
この特徴抽出手段で抽出される前記教師データに対する特徴ベクトルと、当該特徴ベクトルを抽出した元となる前記教師データの文単位分散表現ベクトルとを入力し、機械学習することで、前記情報判定モデルを学習する情報判定モデル学習手段と、
を備えることを特徴とするモデル学習装置。 A feature extraction model is extracted from a plurality of manuscript sentences whose fields are known, and a feature extraction model for extracting feature amounts of information included in the manuscript sentence is determined. A model learning device that learns an information determination model for determining whether or not a posted sentence to be targeted is information indicating the field,
A sentence-unit distributed expression vector that is a distributed expression vector of a manuscript unit or a post unit is obtained by averaging word-unit distributed expression vectors stored in advance in the storage unit for the manuscript sentence or the posted sentence that is the teacher data. Vectorizing means for generating
Feature extraction model learning means for learning a feature extraction model for extracting a feature vector by compressing a dimension of the sentence unit distributed expression vector generated from the manuscript sentence;
Feature extraction means for extracting the feature vector from the sentence unit distributed expression vector generated from the teacher data using the feature extraction model;
By inputting a feature vector for the teacher data extracted by the feature extraction means and a sentence unit dispersion expression vector of the teacher data from which the feature vector is extracted, and machine learning, the information determination model is obtained. An information determination model learning means for learning;
A model learning device comprising:
前記未知データに対して、予め記憶手段に記憶されている単語単位の分散表現ベクトルを平均化して、投稿単位の分散表現ベクトルである文単位分散表現ベクトルを生成するベクトル化手段と、
このベクトル化手段で生成される文単位分散表現ベクトルから、前記特徴抽出モデルを用いて特徴ベクトルを抽出する特徴抽出手段と、
前記ベクトル化手段で生成される文単位分散表現ベクトルと、前記特徴抽出手段で抽出される特徴ベクトルとから、前記情報判定モデルを用いて、前記未知データが前記学習済みの分野を示す情報か否かを判定する判定手段と、
を備えることを特徴とする情報判定装置。 Information in which unknown data, which is a posted sentence of social media information with an unknown field, indicates a learned field, using the feature extraction model and the information determination model learned by the model learning device according to claim 1 or 2. An information determination apparatus for determining whether or not
A vectorization unit that averages word-unit distributed representation vectors stored in advance in the storage unit for the unknown data, and generates a sentence-unit distributed representation vector that is a post-unit distributed representation vector;
Feature extraction means for extracting a feature vector from the sentence unit distributed expression vector generated by the vectorization means using the feature extraction model;
Whether the unknown data is information indicating the learned field using the information determination model from the sentence unit distributed expression vector generated by the vectorization unit and the feature vector extracted by the feature extraction unit Determination means for determining whether or not
An information determination apparatus comprising:
前記原稿文、前記教師データまたは前記未知データに対して、予め記憶手段に記憶されている単語単位の分散表現ベクトルを平均化して、原稿単位または投稿単位の分散表現ベクトルである文単位分散表現ベクトルを生成するベクトル化手段と、
前記原稿文から生成される前記文単位分散表現ベクトルの次元を圧縮して特徴ベクトルを抽出する特徴抽出モデルを学習する特徴抽出モデル学習手段と、
前記教師データまたは前記未知データから生成される前記文単位分散表現ベクトルから、前記特徴抽出モデルを用いて、前記特徴ベクトルを抽出する特徴抽出手段と、
この特徴抽出手段で抽出される前記教師データに対する特徴ベクトルと、当該特徴ベクトルを抽出した元となる前記教師データの文単位分散表現ベクトルとを入力し、機械学習することで、前記情報判定モデルを学習する情報判定モデル学習手段と、
前記ベクトル化手段で生成される前記未知データから生成される前記文単位分散表現ベクトルと、当該文単位分散表現ベクトルから前記特徴抽出手段で抽出される特徴ベクトルとから、前記情報判定モデルを用いて、前記未知データが前記学習済みの分野を示す情報か否かを判定する判定手段と、
を備えることを特徴とする情報判定装置。 A feature extraction model is extracted from a plurality of manuscript sentences whose fields are known, and a feature extraction model for extracting feature amounts of information included in the manuscript sentence is determined. Information indicating a field in which unknown data, which is a posted sentence of social media information whose field is unknown, is learned by learning an information determination model for determining whether the posted text targeted for the field is information indicating the field An information determination apparatus for determining whether or not
A sentence unit distributed expression vector which is a distributed expression vector of a document unit or a posting unit by averaging the distributed expression vector of a word unit stored in the storage unit in advance for the original sentence, the teacher data or the unknown data. Vectorizing means for generating
Feature extraction model learning means for learning a feature extraction model for extracting a feature vector by compressing a dimension of the sentence unit distributed expression vector generated from the manuscript sentence;
Feature extraction means for extracting the feature vector from the sentence unit distributed expression vector generated from the teacher data or the unknown data using the feature extraction model;
By inputting a feature vector for the teacher data extracted by the feature extraction means and a sentence unit dispersion expression vector of the teacher data from which the feature vector is extracted, and machine learning, the information determination model is obtained. An information determination model learning means for learning;
From the sentence unit distributed expression vector generated from the unknown data generated by the vectorization means and the feature vector extracted by the feature extraction means from the sentence unit distributed expression vector, using the information determination model Determining means for determining whether the unknown data is information indicating the learned field;
An information determination apparatus comprising:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017048039A JP6839001B2 (en) | 2017-03-14 | 2017-03-14 | Model learning device, information judgment device and their programs |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017048039A JP6839001B2 (en) | 2017-03-14 | 2017-03-14 | Model learning device, information judgment device and their programs |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018151892A true JP2018151892A (en) | 2018-09-27 |
| JP6839001B2 JP6839001B2 (en) | 2021-03-03 |
Family
ID=63680498
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017048039A Active JP6839001B2 (en) | 2017-03-14 | 2017-03-14 | Model learning device, information judgment device and their programs |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6839001B2 (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102027389B1 (en) * | 2019-03-20 | 2019-10-01 | (주)브이엠에스 | Fault diagnosis system of mechanical devices using autoencoder and deep-learning |
| WO2023223509A1 (en) * | 2022-05-19 | 2023-11-23 | 日本電信電話株式会社 | Learning device, learning method, and learning program |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007172249A (en) * | 2005-12-21 | 2007-07-05 | Fujitsu Ltd | Document classification program, document classification device and document classification method |
| US20150310862A1 (en) * | 2014-04-24 | 2015-10-29 | Microsoft Corporation | Deep learning for semantic parsing including semantic utterance classification |
-
2017
- 2017-03-14 JP JP2017048039A patent/JP6839001B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007172249A (en) * | 2005-12-21 | 2007-07-05 | Fujitsu Ltd | Document classification program, document classification device and document classification method |
| US20150310862A1 (en) * | 2014-04-24 | 2015-10-29 | Microsoft Corporation | Deep learning for semantic parsing including semantic utterance classification |
Non-Patent Citations (4)
| Title |
|---|
| 宅和 晃志、外２名: "複数のコーパスから学習した分散表現の利用による文書分類精度向上に関する検討", 一般社団法人 人工知能学会 第３０回全国大会論文集ＣＤ−ＲＯＭ ［ＣＤ−ＲＯＭ］ ２０１６年度 人工, JPN6021000329, 9 June 2016 (2016-06-09), JP, pages 1 - 4, ISSN: 0004425694 * |
| 寺田 凛太郎、外２名: "注意型ニューラルネットワークによる非明示的談話関係解析の精度向上", 言語処理学会第２３回年次大会 発表論文集, JPN6021000331, 6 March 2017 (2017-03-06), JP, pages 823 - 826, ISSN: 0004425697 * |
| 小坂 龍一、外１名: "機械学習を用いたＴｗｅｅｔの多カテゴリ分類", 第４回データ工学と情報マネジメントに関するフォーラム論文集 （第１０回日本データベース学会年次大会）, JPN6018025567, 13 July 2012 (2012-07-13), JP, ISSN: 0004425695 * |
| 張 培楠、外１名: "単語分散表現を用いた多層Ｄｅｎｏｉｓｉｎｇ Ａｕｔｏ−Ｅｎｃｏｄｅｒによる評価極性分類", 情報処理学会 研究報告 自然言語処理（ＮＬ） ２０１５−ＮＬ−２２２, JPN6021000330, 8 July 2015 (2015-07-08), JP, pages 1 - 8, ISSN: 0004425696 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102027389B1 (en) * | 2019-03-20 | 2019-10-01 | (주)브이엠에스 | Fault diagnosis system of mechanical devices using autoencoder and deep-learning |
| WO2023223509A1 (en) * | 2022-05-19 | 2023-11-23 | 日本電信電話株式会社 | Learning device, learning method, and learning program |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6839001B2 (en) | 2021-03-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10827024B1 (en) | Realtime bandwidth-based communication for assistant systems | |
| US11706176B2 (en) | Detecting messages with offensive content | |
| US9720901B2 (en) | Automated text-evaluation of user generated text | |
| US20180096219A1 (en) | Neural network combined image and text evaluator and classifier | |
| US9268766B2 (en) | Phrase-based data classification system | |
| US20160357790A1 (en) | Resolving and merging duplicate records using machine learning | |
| JP2015075706A (en) | Error correction model learning device and program | |
| CN107122455A (en) | A kind of network user's enhancing method for expressing based on microblogging | |
| Karanasou et al. | Scalable and real-time sentiment analysis of twitter data | |
| US11615129B2 (en) | Electronic message text classification framework selection | |
| JP2017076281A (en) | Word embedded learning device, text evaluation device, method, and program | |
| JP6563350B2 (en) | Data classification apparatus, data classification method, and program | |
| Ogudo et al. | Sentiment analysis application and natural language processing for mobile network operators’ support on social media | |
| JP2018151892A (en) | Model learning apparatus, information determination apparatus, and program therefor | |
| JP2018084627A (en) | Language model learning device and program thereof | |
| JP2020135689A (en) | Model learning system, intention interpretation system, method for learning model, and model learning program | |
| JP6806589B2 (en) | Information judgment model learning device, information judgment device and their programs | |
| CN110895656A (en) | Text similarity calculation method and device, electronic equipment and storage medium | |
| Murthy et al. | A real-time twitter trend analysis and visualization framework | |
| KR102243275B1 (en) | Method, device and computer readable storage medium for automatically generating content regarding offline object | |
| KR102131641B1 (en) | Detection metohd of fake news using grammatic transformation on neural network, computer readable medium and apparatus for performing the method | |
| JP2019016122A (en) | Model learning device, information determining device and program thereof | |
| Sarigiannidis et al. | A novel lexicon-based approach in determining sentiment in financial data using learning automata | |
| CN114861004A (en) | Social event detection method, device and system | |
| US20220004717A1 (en) | Method and system for enhancing document reliability to enable given document to receive higher reliability from reader |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200130 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201203 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210119 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210212 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6839001 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |