WO2015040860A1 - 分類辞書生成装置、分類辞書生成方法及び記録媒体 - Google Patents

分類辞書生成装置、分類辞書生成方法及び記録媒体 Download PDF

Info

Publication number
WO2015040860A1
WO2015040860A1 PCT/JP2014/004776 JP2014004776W WO2015040860A1 WO 2015040860 A1 WO2015040860 A1 WO 2015040860A1 JP 2014004776 W JP2014004776 W JP 2014004776W WO 2015040860 A1 WO2015040860 A1 WO 2015040860A1
Authority
WO
WIPO (PCT)
Prior art keywords
classification dictionary
lower limit
value
classification
information
Prior art date
Application number
PCT/JP2014/004776
Other languages
English (en)
French (fr)
Inventor
正明 土田
石川　開
貴士 大西
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Priority to JP2015537559A priority Critical patent/JP6436086B2/ja
Priority to US14/915,797 priority patent/US20160224654A1/en
Publication of WO2015040860A1 publication Critical patent/WO2015040860A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28—Databases characterised by their database models, e.g. relational or object models
    • G06F16/284—Relational databases
    • G06F16/285—Clustering or classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/93—Document management systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Definitions

  • the present invention relates to a classification dictionary generation device, a classification dictionary generation method, and a recording medium that generate a dictionary for appropriately classifying documents.
  • Non-Patent Document 1 An example of a system that automatically generates a classification dictionary by a computer is described in Non-Patent Document 1.
  • the system described in Non-Patent Document 1 uses an identification function (classification dictionary) for dividing an unclassified document into a target category and other categories using a document set to which a classification category is assigned in advance. learn. Specifically, the system extracts a word belonging to a specific part of speech from a document included in a document set to which a classification category is assigned in advance, and associates each extracted word with each dimension of the vector, A vector is created in which the value of the corresponding dimension is 1 when appears, and 0 when it does not appear.
  • identification function classification dictionary
  • the system uses a set of vectors created from each document, and learns an identification function to divide the target category into a positive example set and other categories into a negative example set by a support vector machine.
  • the support vector machine is a learning method for obtaining an optimal separation hyperplane by maximizing a margin when separating given data into a positive example set and a negative example set in the superspace.
  • Patent Document 1 discloses a weight vector composed of weights assigned to each word (that is, each dimension of the vector) based on a specific part of speech as an example of an identification function.
  • the weight takes a positive or negative value.
  • the system described in Patent Literature 1 extracts words from the target document, and calculates the sum of the weights of the classification dictionary for the target category for the extracted words as the score of the category. Further, the system classifies the extracted word into the category if the score is equal to or greater than a threshold value. That is, the score of the target category is added to the appearance of a word having a positive weight value, and conversely, the score of the target category is reduced to the appearance of a negative word.
  • Patent Document 1 and Non-Patent Document 1 when a document including information on a certain category (target category) is classified into a target category, information (words) other than the target category is included in the document. If there are many, the score that is the sum of the weights of the appearing words tends to be low. This is because in the above case, there are many words having negative weights. Therefore, if the information of the target category is less than the other information, the systems of Patent Literature 1 and Non-Patent Literature 1 have a problem of generating a classification dictionary that calculates a low score representing the category likeness.
  • Patent Document 1 and Non-Patent Document 1 cannot learn an identification function for predicting that the system is a positive example. Furthermore, the system of Non-Patent Document 1 cannot detect that the score of the discrimination function (classification dictionary) tends to be low in the above case.
  • the object of the present invention is to solve the above problem, so that even if the information corresponding to the target category is less than the information of the non-target category, the score of the target category is compared with the document not including the target category information.
  • the present invention is to provide a dictionary creation device, a classification dictionary generation method, and a recording medium that create a classification dictionary that calculates a higher value.
  • a classification dictionary generation apparatus includes a lower limit storage unit that stores lower limit information for determining a lower limit value of a dimension value of a classification dictionary for classifying a category of a document, and the category is known.
  • a classification dictionary is generated.
  • a classification dictionary generation method stores lower limit information for determining a lower limit value of a dimension value of a classification dictionary for classifying a category of a document, learning data in which the category is known, and the storage Based on the lower limit information, a classification dictionary in which all the dimension values are equal to or higher than the lower limit value is generated.
  • a computer-readable recording medium has a process for storing lower limit information for determining a lower limit value of a dimension value of a classification dictionary for classifying a document category, and the category is known
  • the score of the target category is higher than that of the document that does not include the target category information.
  • the classification dictionary creating apparatus calculates a classification function from learning data whose category is known, corrects a lower limit value in the calculated classification function, and classifies a document into a category. Create a dictionary.
  • FIG. 1 a first embodiment of the present invention will be described with reference to FIG. 1
  • the drawing reference numerals attached to FIG. 1 are attached to each element for convenience as an example for facilitating understanding, and are not intended to be any limitation.
  • FIG. 1 is a diagram showing an example of a classification dictionary generation device 10 according to the first embodiment of the present invention.
  • the classification dictionary generation device 10 according to the first exemplary embodiment of the present invention includes a control unit 11, a lower limit storage unit 15, a learning data storage unit 16, and a classification dictionary storage unit 17.
  • the control unit 11 includes an identification function calculation unit 12, a classification dictionary generation unit 13, and an interface unit 14.
  • the interface unit 14 reads the learning data stored in the learning data storage unit 16 and outputs it to the discrimination function calculation unit 12. Further, the interface unit 14 writes the calculated classification dictionary in the classification dictionary storage unit 17.
  • the discriminant function calculation unit 12 calculates the discriminant function using the learning data.
  • the learning data is, for example, a set of documents to which category information is assigned.
  • the identification function is a function that divides each document into a target category and other categories by using a document set to which a classification category is assigned in advance.
  • An example of the discrimination function is a weight vector, for example.
  • the classification dictionary generation unit 13 generates a classification dictionary related to the target category. For example, the classification dictionary generation unit 13 generates a classification dictionary using an identification function based on the lower limit information.
  • the lower limit storage unit 15 stores lower limit information including a lower limit value. Details of the lower limit information will be described later with reference to FIG.
  • the learning data storage unit 16 stores learning data.
  • the classification dictionary storage unit 17 stores the classification dictionary generated by the classification dictionary generation unit 13.
  • FIG. 5 is a diagram illustrating a configuration example of learning data stored in the learning data storage unit 16.
  • the learning data includes “DID” that is the ID of the learning data document, “Learning data document” that is the learning data document body, and “Category” that is the category information of the learning data document. ”Is associated with the data.
  • the learning data storage unit 16 is, for example, DID "2" and the learning data document "Tanaka of XX. Thank you for your help. And the category “no request” are stored in association with each other. The meaning of the request shown in FIG. 5 will be described later.
  • a computer that implements the classification dictionary generation apparatus 10 according to the first embodiment of the present invention will be described with reference to FIG.
  • FIG. 2 is a typical hardware configuration diagram of the classification dictionary generation apparatus 10 according to the first embodiment of this invention.
  • the classification dictionary generation device 10 includes, for example, a CPU (Central Processing Unit) 1, a RAM (Random Access Memory) 2, a storage device 3, a communication interface 4, an input device 5, an output device 6, and the like.
  • a CPU Central Processing Unit
  • RAM Random Access Memory
  • the identification function calculation unit 12 and the classification dictionary generation unit 13 are realized by the CPU 1 that executes a program expanded in the main memory such as the RAM 2.
  • the interface unit 14 is realized, for example, when the CPU 1 executes an application program using a function provided by the OS (Operating System) of the CPU 1.
  • the storage device 3 is, for example, a hard disk or a flash memory.
  • the storage device 3 functions as a lower limit storage unit 15, a learning data storage unit 16, and a classification dictionary storage unit 17.
  • the storage device 3 stores the above application program.
  • the communication interface 4 is connected to the CPU 1 and connected to a network or an external storage medium. External data may be taken into the CPU 1 via the communication interface 4.
  • the input device 5 is, for example, a keyboard, a mouse, or a touch panel.
  • the output device 6 is a display, for example.
  • the hardware configuration illustrated in FIG. 2 is merely an example, and each unit of the classification dictionary generation apparatus 10 illustrated in FIG. 1 may be configured with independent logic circuits.
  • the target category is selected in order to consider the classification for detecting a document containing a request indicating that the other party wants to do something, that is, a reply by e-mail or a request for an answer to a question. “Requested” and non-target category “not requested”.
  • the classification dictionary generation device 10 is not limited to the above classification, and in order to consider classification for detecting whether a certain document is a sports newspaper, the target category is “sports newspaper” and the non-target category is “ Other than sports newspapers.
  • the classification dictionary generation apparatus 10 of the present invention generates a dictionary for classification based on a target category for classification (target category) and a non-target category for other classification.
  • FIG. 3 is a flowchart showing the operation of the classification dictionary generation apparatus 10 according to the first embodiment of the present invention.
  • S101 to S104 indicate processing steps of the operation example.
  • the interface unit 14 reads the learning data stored in the learning data storage unit 16 and outputs it to the discrimination function calculation unit 12 (S101).
  • the discriminant function calculator 12 calculates the discriminant function based on the learning data read by the interface unit 14 (S102). The detailed operation of the discrimination function calculation unit 12 will be described when the flowchart of FIG. 4 is described.
  • the classification dictionary generation unit 13 calculates an identification function (weight vector) that is lower than the lower limit value set based on the lower limit information stored in the lower limit value storage unit 15 in the calculated identification function (weight vector). It converts into the set lower limit, and outputs it as a classification dictionary (S103).
  • an identification function weight vector
  • S103 classification dictionary
  • the interface unit 14 writes the classification dictionary generated by the classification dictionary generation unit 13 in the classification dictionary storage unit 17 (S104).
  • FIG. 4 is a flowchart showing the operation of the discriminant function calculation unit 12 according to the first embodiment of the present invention.
  • S201 to S202 indicate processing steps of the operation example.
  • the discriminant function calculation unit 12 extracts the features reflecting the contents of each document in the learning data read by the interface unit 14, in this example, all nouns, verbs, auxiliary verbs in the document, and the feature vector Is generated (S201).
  • the feature vector Is generated S201.
  • FIG. 6 is a diagram illustrating a configuration example of a feature vector calculated by the discrimination function calculation unit 12 from the learning data illustrated in FIG.
  • the feature vector in the example shown in FIG. 6 is a noun, verb, auxiliary verb word extracted by the discriminant function calculation unit 12 by performing morphological analysis on the learning data, and a dimension value “1” for each word.
  • the features extracted when calculating the feature vector are nouns, verbs, and auxiliary verbs.
  • the discriminant function calculation unit 12 performs morphological analysis on the learning data, sets the dimension value of the words of the features (nouns, verbs, auxiliary verbs) to “1”, and other words such as particles, adjectives, adverbs, etc.
  • the dimension value of the word is calculated as “0”.
  • the dimension value is “0”, that is, the feature vectors of words other than nouns, verbs, and auxiliary verbs are not described (noted) in the learning data.
  • a feature vector including a dimension of “0” exists.
  • the identification function calculation unit 12 extracts features (hereinafter referred to as “features”) reflected in the contents of each document from the learning data input by the interface unit 14, that is, from each document to which the category information is added, and a feature vector Is calculated (generated).
  • feature is a phrase, clause, partial character string, two or more words composed of a plurality of words in addition to words of a predetermined condition appearing in a document such as nouns, verbs and auxiliary verbs shown in FIG. It may be a dependency relationship of phrases and phrases, but is not limited to these.
  • the discriminant function calculation unit 12 uses machine learning from the generated feature vector and category information (information about whether or not the target category is used) by using a target category document as a positive example and a non-target category document as a negative example.
  • the discrimination function is calculated (S202).
  • the calculation method described in Non-Patent Document 1 may be used.
  • the identification function is calculated by setting the positive example value to +1 and the negative example value to -1.
  • the machine learning an arbitrary method for learning a weight for each dimension of a vector using a set of vectors with categories as an input can be used.
  • the discrimination function calculation unit 12 calculates a discrimination function using a support vector machine as machine learning.
  • the method by which the discriminant function calculator 12 calculates the discriminant function is known, the details of the operation are omitted. Further, the discrimination function calculated by the discrimination function calculation unit 12 is shown in FIG.
  • FIG. 7 is a diagram illustrating a configuration example of the lower limit information stored in the lower limit storage unit 15.
  • the lower limit information is data in which the ID of the lower limit information, a method (pattern) for determining the lower limit value, and the lower limit value are associated with each other.
  • the pattern for determining the lower limit value whose ID of the lower limit information is “(a)” is “determining the lower limit value of the discriminant function (learned weight vector) to a specific value”, and is determined by the pattern.
  • the lower limit is “ ⁇ 1.0”.
  • FIG. 8 is a diagram showing the data of the discriminant function calculated by the discriminant function calculator 12 and the data of the classification dictionary generated by the classification dictionary generator 13 based on the discriminant function.
  • the ID of the lower limit information is “(a)”
  • the data of the discriminant function Is “confirmation 2.0, please 1.5, Tanaka-0.5, Yamada-2.0, wish-3.0,...”
  • the classification dictionary data is “confirmation 2.0. , Please 1.5, Tanaka-0.5, Yamada-1.0, Wish-1.0, ... ".
  • the classification dictionary generation unit 13 has a dimension value (negative weight in this example) corresponding to the non-target category among the dimensions of the identification function calculated by the identification function calculation unit 12. Then, a classification dictionary is generated that is equal to or higher than the lower limit determined by the lower limit information stored in the lower limit storage unit 15.
  • the dimension of the discriminant function is the dimension of the vector.
  • the classification dictionary generation unit 13 uses, for example, a pattern in which the ID of the lower limit information is (a), that is, a lower limit value that “determines the lower limit value of the identification function to a specific value” is used.
  • a classification dictionary To generate a classification dictionary.
  • a lower limit value is set in advance, and the discriminant function value (weight vector weight) lower than the lower limit value is determined based on the discriminant function (weight vector) obtained by the discriminant function calculation unit 12 through machine learning. This is a method of converting to a lower limit value.
  • the lower limit value is ⁇ 1.0
  • the lower limit value is ⁇ 1.0 as shown in FIG.
  • the classification dictionary generating unit 13 has identification functions whose ID of the lower limit information is (a) as “confirmation” 2.0, “please” 1.5, “Tanaka” -0.5, Since “Yamada” ⁇ 2.0, “Wish” ⁇ 3.0,..., All those whose lower limit value is lower than ⁇ 1.0 are converted to ⁇ 1.0. Specifically, as shown in FIG. 8, for example, the classification dictionary generating unit 13 converts the identification function “Yamada-2.0” to “Yamada-1.0”. As a result, when the ID of the lower limit information is (a), the classification dictionary generation unit 13 “confirmation 2.0, please 1.5, Tanaka-0.5, Yamada-1.0, wish-1.0, ... ”Is generated.
  • the classification dictionary generation unit 13 sets a pattern in which the lower limit information ID is (b), that is, the lower limit value is set to “set the lower limit value to 30% of the minimum value of the identification function”.
  • the discriminant function calculation unit 12 determines a ratio that is greater than 0 and less than 1 with respect to the minimum value (hereinafter referred to as the minimum value) among the discriminant functions obtained by machine learning.
  • the lower limit value is determined by multiplying the value and the ratio, and the value of the discriminant function below the lower limit value is converted to the lower limit value. In this example, 30% of the minimum value of the discrimination function is set as the lower limit value.
  • the pattern for determining the lower limit value of the lower limit information is not limited to FIG. Specifically, the lower limit value of ID (a) in the lower limit information may be ⁇ 0.9, and the determination method of the lower limit value of ID (b) in the lower limit information is “33% of the minimum value of the identification function”. May be.
  • the classification dictionary generation unit 13 may generate a classification dictionary by automatically selecting patterns (IDs (a) to (c) of lower limit information) for determining the lower limit value of the lower limit information shown in FIG.
  • the classification dictionary may be generated in a state predetermined by the user.
  • the learning data storage unit 16 stores learning data.
  • the interface unit 14 reads the learning data stored in the learning data storage unit 16 and outputs it to the discrimination function calculation unit 12.
  • the discriminant function calculator 12 calculates the discriminant function based on the learning data read by the interface unit 14.
  • the classification dictionary generation unit 13 generates a classification dictionary based on the identification function calculated by the identification function calculation unit 12 and the lower limit information stored by the lower limit value storage unit 15.
  • the interface unit 14 writes the classification dictionary generated by the classification dictionary generation unit 13 in the classification dictionary storage unit 17.
  • the classification dictionary storage unit 17 stores the output classification dictionary.
  • FIG. 9 is a diagram illustrating a configuration example of the classification dictionary generation apparatus 10 ′ according to the second embodiment of the present invention. Note that in the second embodiment of the present invention, the description of the same configuration as that of the first embodiment of the present invention is omitted.
  • the classification dictionary generation unit 13' included in the control unit 11 ' generates a classification dictionary based on the lower limit information shown in FIG.
  • the classification dictionary generation unit 13 ' is a method of setting a lower limit to the ID (c), that is, the weight of the lower limit information shown in FIG. 7, as a constrained optimization problem during machine learning.
  • Equation (1) i represents the i-th document
  • y i is a variable that takes 1 for the target category
  • ⁇ 1 for the non-target category
  • x i is a feature vector.
  • w ⁇ x i indicates the inner product of the w and x i.
  • a lower limit in the case of a constrained optimization problem in which a lower limit is set for each dimension of the weight vector, a lower limit can be introduced into logistic regression.
  • w j represents the value of the j-th dimension of the weight vector w.
  • ⁇ represents a lower limit value.
  • ⁇ j ⁇ ⁇ w j ( ⁇ ⁇ 0)
  • an optimization algorithm that can handle box constant optimization such as L-BFGS-B can be used.
  • the classification dictionary generating unit 13 ′ is shown by (c) in FIG.
  • a classification dictionary that is, “confirmation 1.5, please 1.25, Tanaka-0.2, Yamada-1.0, wish-1.0,...” Is generated. That is, the classification dictionary generation unit 13 ′ calculates a weight vector by optimizing it as a constrained optimization problem with the lower limit value of each dimension of the weight vector as a constraint, and generates a classification dictionary from the calculated weight vector To do.
  • the classification dictionary generation device 10 ′ performs post-processing (classification) on the learned discrimination function (weight vector) performed by the classification dictionary generation device 10 according to the first embodiment of the present invention. Instead of generating a classification dictionary to be adjusted by the dictionary generation unit 13), an optimal classification dictionary is generated at the time of learning. Thereby, even if the information corresponding to the target category is less than the information of the non-target category, the classification dictionary generating device 10 ′ has a higher target category score than the document not including the target category information. A classification dictionary to be calculated can be created.
  • FIG. 10 is a diagram illustrating a configuration example of the classification dictionary generation device 100 according to the third embodiment of the present invention. Note that in the third embodiment of the present invention, the description of the same configuration as each of the above embodiments is omitted.
  • the classification dictionary generation apparatus 100 includes a lower limit storage unit 15 that stores lower limit information for determining a lower limit value of a dimension value of a classification dictionary for classifying a category of a document, and the category is And a control unit 110 that generates the classification dictionary based on known learning data.
  • control unit 110 generates a classification dictionary in which all the dimension values are equal to or higher than the lower limit value based on the lower limit information stored in the lower limit value storage unit 15.
  • the classification dictionary generating apparatus 100 having the above configuration stores lower limit information for determining a lower limit value of a dimension value of a classification dictionary for classifying a category of a document, and based on learning data in which the category is known, Generate a classification dictionary. At this time, the classification dictionary generation apparatus 100 generates a classification dictionary in which all the dimension values are equal to or higher than the lower limit value based on the stored lower limit information. As a result, the classification dictionary generating apparatus 100 calculates a higher score for the target category compared to a document that does not include the target category information, even when the information corresponding to the target category is less than the non-target category information. A classification dictionary can be created.
  • control unit 110 of the classification dictionary generation apparatus 100 is a computer, and the CPU (Central Processing Unit) (for example, CPU 1 in FIG. 2) or MPU (Micro-Processing Unit) of the computer is described above.
  • Software for realizing the functions of the embodiments may be executed.
  • the control unit 110 of the classification dictionary generation device 100 stores the above-described program in, for example, the storage device 3 in FIG.
  • the storage device 3 includes, for example, a computer-readable storage device such as a hard disk device, and various storage media such as a CD-R (Compact Disc Recordable).
  • the computer may acquire software (program) for realizing the functions of the above-described embodiments via a network.
  • the above-described program of the classification dictionary generating apparatus 100 includes at least (1) a process of storing lower limit information for determining a lower limit value of a dimension value of a classification dictionary for classifying a document category, and (2) the category is known. And generating the classification dictionary based on the learning data.
  • generates the said classification dictionary is a process which produces
  • the computer of the classification dictionary generating apparatus 100 reads out the program code of the acquired software (program) and executes it. Therefore, the classification dictionary generation device 100 may execute the same processing as the processing of the classification dictionary generation device in each embodiment described above.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

　目標カテゴリの情報を含む文書を目標カテゴリに分類するための辞書を生成する場合に、当該カテゴリの情報がそれ以外の情報と比較して少ないと当該カテゴリらしさを表すスコアを低く計算する分類辞書を生成する。本発明の分類辞書生成装置は、文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する下限値記憶手段と、前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する制御手段と、を備え、前記制御手段は、前記下限値記憶手段に記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する。

Description

分類辞書生成装置、分類辞書生成方法及び記録媒体
　本発明は、文書を適切に分類するための辞書を生成する分類辞書生成装置、分類辞書生成方法、及び記録媒体に関する。
　情報セキュリティガバナンスの重要性が高まってきている。情報管理はその基本となるが、日々の作成される文書データは増加の一途をたどっているため、人手で全ての文書を読み、適切に管理することは困難である。
　文書を適切に管理するためには、各文書を管理対象の情報か否か（目標のカテゴリか否か）に分類することが基本的な処理となる。文書の分類は、分類用の辞書（以下、分類辞書と記載する）を作成しておくことで、計算機による自動化が可能である。一方、精度よく分類するための辞書の作成には、多大な人手とコストがかかる。そのため、計算機によって分類辞書を自動作成するシステムが求められている。
　計算機によって分類辞書を自動生成するシステムの一例が、非特許文献１に記載されている。非特許文献１に記載のシステムは、予め分類カテゴリが付与されている文書集合を用いて、未分類の文書を目標のカテゴリと、それ以外のカテゴリとに分けるための識別関数（分類辞書）を学習する。具体的には、そのシステムは、予め分類カテゴリが付与されている文書集合に含まれる文書から、特定の品詞に属する単語を抽出して、抽出した各単語をベクトルの各次元に対応させ、単語が出現する場合は対応する次元の値を１と、出現しない場合は０とするベクトルを作成する。次に、そのシステムは、各文書から作成したベクトルからなる集合を用いて、サポートベクトルマシンによって、目標のカテゴリを正例集合に、それ以外のカテゴリを負例集合に分けるための識別関数を学習する。なお、サポートベクトルマシンは、与えられたデータを超空間上で正例集合と負例集合へと分離する際、マージンを最大にすることによって最適な分離超平面を得る学習手法である。
　また、特許文献１には、識別関数の一例として、特定の品詞等に基づいて各々の単語（すなわちベクトルの各次元）に付与された重みから構成される重みベクトルについて開示されている。なお、重みは、正又は負の値をとる。特許文献１に記載されるシステムは、分類時に、対象文書から単語を抽出し、抽出された単語に対する目標カテゴリ用の分類辞書の重みの和を当該カテゴリのスコアとして計算する。さらに、そのシステムは、そのスコアが閾値以上ならば、抽出された単語を当該カテゴリに分類する。すなわち、重みの値が正の単語の出現は目標カテゴリのスコアが加点され、逆に負の単語の出現は目標カテゴリのスコアが減点される。
特開２０１０－１２５２１号公報
平博順、春野雅彦、「Ｓｕｐｐｏｒｔ　Ｖｅｃｔｏｒ　Ｍａｃｈｉｎｅによるテキスト分類における属性選択」、情報処理学会論文誌、２０００年４月、Ｖｏｌ．４１、Ｎｏ．４、ｐｐ．１１１３－１１２３
　しかし、上述の特許文献１及び非特許文献１に記載のシステムでは、あるカテゴリ（目標カテゴリ）の情報を含む文書を目標カテゴリに分類する時において、文書内に目標カテゴリ以外の情報（単語）が多く存在する場合には、出現単語の重みの和であるスコアが低くなりやすい。なぜならば、上記の場合、負の重みを持つ単語が多数あるからである。したがって、目標カテゴリの情報がそれ以外の情報と比較して少ないと、特許文献１及び非特許文献１のシステムでは、当該カテゴリらしさを表すスコアを低く計算する分類辞書を生成するという課題がある。
　その結果、特許文献１及び非特許文献１のシステムは、当該システムは正例であることを予測するための識別関数を学習できない。さらに、非特許文献１のシステムは、上記の場合に識別関数（分類辞書）のスコアが低くなりやすくなっていることを検出できない。
　本発明の目的は、上記問題を解決することにより、目標カテゴリに該当する情報が非目標カテゴリの情報と比べて少ない場合でも、目標カテゴリの情報を含まない文書と比較して、目標カテゴリのスコアをより高く計算する分類辞書を作成する辞書作成装置、分類辞書生成方法及び記録媒体を提供することである。
　本発明の一態様に係る分類辞書生成装置は、文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する下限値記憶手段と、前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する制御手段と、を備え、前記制御手段は、前記下限値記憶手段に記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する。
　本発明の一態様に係る分類辞書生成方法は文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶し、前記カテゴリが既知である学習データと、前記記憶された下限情報とに基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する。
　本発明の一態様に係るコンピュータで読み取り可能な記録媒体は、文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する処理と、前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する処理と、をコンピュータに実行させ、該分類辞書を生成する処理は、前記記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する処理である、プログラムを記録する。
　本発明は、目標カテゴリに該当する情報が、目標カテゴリに該当する情報が非目標カテゴリの情報と比べて少ない場合でも、目標カテゴリの情報を含まない文書と比較して、目標カテゴリのスコアがより高く計算される分類辞書を作成できるという効果がある。
本発明の第１の実施形態に係る分類辞書生成装置の例を示す図である。 本発明の第１の実施形態に係る分類辞書生成装置の構成を実現するコンピュータの一例を示すブロック図である。 本発明の第１の実施形態に係る分類辞書生成装置の動作例を示すフローチャートである。 本発明の第１の実施形態に係る分類辞書生成装置の識別関数算出部の動作例を示すフローチャートである。 本発明の第１の実施形態における学習データの構成例を示す図である。 本発明の第１の実施形態における特徴ベクトルの構成例を示す図である。 本発明の第１の実施形態における下限情報の構成例を示す図である。 本発明の第１の実施形態における識別関数と分類辞書との構成例を示す図である。 本発明の第２の実施形態に係る分類辞書生成装置の例を示す図である。 本発明の第３の実施形態に係る分類辞書生成装置の例を示す図である。
　＜第１の実施形態＞
　本発明の第１の実施形態における分類辞書作成装置は、カテゴリが既知である学習データから識別関数を算出し、算出した識別関数における下限値を修正して、文書をカテゴリに分類するための分類辞書を作成する。
　はじめに、図１を用いて、本発明の第１の実施形態について説明する。なお、図１に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、なんらの限定を意図するものではない。
　図１は、本発明の第１の実施形態における分類辞書生成装置１０の例を示す図である。図１に示すように、本発明の第１の実施形態における分類辞書生成装置１０は、制御部１１と、下限値記憶部１５と、学習データ記憶部１６と、分類辞書記憶部１７とを含む。制御部１１は、識別関数算出部１２と、分類辞書生成部１３と、インターフェース部１４とを含む。
　インターフェース部１４は、学習データ記憶部１６が記憶する学習データを読み取り、識別関数算出部１２に出力する。また、インターフェース部１４は、算出された分類辞書を分類辞書記憶部１７に書き込む。識別関数算出部１２は、学習データを用いて識別関数を算出する。ここで、学習データとは、例えば、カテゴリ情報が付与された文書の集合である。また、識別関数とは、予め分類カテゴリが付与されている文書集合を用いて、各文書を目標のカテゴリと、それ以外のカテゴリとに分ける関数を示す。識別関数の一例としては、例えば、重みベクトルである。分類辞書生成部１３は、目標カテゴリに関する分類辞書を生成する。分類辞書生成部１３は、例えば、下限情報に基づいて、識別関数を使って分類辞書を生成する。
　下限値記憶部１５は、下限値を含む下限情報を記憶する。下限情報の詳細については、図７を用いて後述する。学習データ記憶部１６は、学習データを記憶する。分類辞書記憶部１７は、分類辞書生成部１３によって生成される分類辞書を記憶する。
　図５は、学習データ記憶部１６が記憶する学習データの構成例を示す図である。図５に示すように、学習データは、学習データの文書のＩＤである「ＤＩＤ」と、学習データの文書本体である「学習データの文書」と、学習データの文書のカテゴリ情報である「カテゴリ」とを対応づけしたデータである。図５に示すように、学習データ記憶部１６は、例えば、ＤＩＤ「２」と、学習データの文書「○○の田中です。お世話になっております。見積もりを受領しました。ありがとうございました。」と、カテゴリ「依頼なし」とを対応づけて記憶する。なお、図５に示す依頼の意味については後述する。
　図２を用いて、本発明の第１の実施形態の分類辞書生成装置１０を実現するコンピュータについて説明する。
　図２は、本発明の第１の実施形態の分類辞書生成装置１０の代表的なハードウェア構成図である。図２に示すように、分類辞書生成装置１０は、例えばＣＰＵ（Ｃｅｎｔｒａｌ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）１、ＲＡＭ（Ｒａｍｄｏｍ　Ａｃｃｅｓｓ　Ｍｅｍｏｒｙ）２、記憶装置３、通信インターフェース４、入力装置５、出力装置６などを含む。
　識別関数算出部１２と、分類辞書生成部１３とは、ＲＡＭ２などの主記憶に展開したプログラムを実行するＣＰＵ１によって実現される。インターフェース部１４は、例えばＣＰＵ１のＯＳ（Ｏｐｅｒａｔｉｎｇ　Ｓｙｓｔｅｍ）が提供する機能を使ってＣＰＵ１がアプリケーションプログラムを実行することで実現される。記憶装置３は、例えば、ハードディスクや、フラッシュメモリである。記憶装置３は、下限値記憶部１５、学習データ記憶部１６、分類辞書記憶部１７として機能する。また、記憶装置３は、上記のアプリケーションプログラムを記憶する。
　通信インターフェース４は、ＣＰＵ１に接続され、ネットワーク或いは外部記憶媒体に接続される。外部データが通信インターフェース４を介してＣＰＵ１に取り込まれても良い。入力装置５は、例えばキーボードやマウス、タッチパネルである。出力装置６は、例えばディスプレイである。なお、図２に示すハードウェア構成は、一例にすぎず、図１に示す分類辞書生成装置１０の各部のそれぞれが独立した論理回路で構成されていても良い。
　次に、図３、図４、図６、図７、図８を用いて、本発明の第１の実施形態における分類辞書生成装置１０の動作を説明する。本例では、相手に対して何かをしてほしいことを示す依頼、即ちメールでの返信や質問に対する回答のお願い等、が入っている文書を検知するための分類を考えるため、目標カテゴリを「依頼あり」とし、非目標カテゴリを「依頼なし」とする。
　ここで、分類辞書生成装置１０は、上記分類に限定されず、ある文書がスポーツ新聞か否かを検知するための分類を考えるために、目標カテゴリを「スポーツ新聞」とし、非目標カテゴリを「スポーツ新聞以外」としても良い。本発明の分類辞書生成装置１０は、分類を行うための目標となるカテゴリ（目標カテゴリ）と、それ以外の分類となる非目標カテゴリを基に分類する辞書を生成する。
　図３は、本発明の第１の実施形態の分類辞書生成装置１０の動作を示すフローチャートである。図３において、Ｓ１０１乃至Ｓ１０４は、それぞれ動作例の処理のステップを示す。
　インターフェース部１４は、学習データ記憶部１６が記憶する学習データを読み取り、識別関数算出部１２に出力する（Ｓ１０１）。次に、識別関数算出部１２は、インターフェース部１４で読み取られた学習データを基に、識別関数を算出する（Ｓ１０２）。識別関数算出部１２の詳細な動作の説明は、図４のフロー図の説明時に行う。
　次に、分類辞書生成部１３は、算出された識別関数（重みベクトル）の中で、下限値記憶部１５が記憶する下限情報を基に設定した下限値を下回る識別関数（重みベクトル）を、当該設定した下限値に変換し、それを分類辞書として出力する（Ｓ１０３）。ここで、分類辞書生成部１３の詳細な動作の説明は、図７、８を参照して行う。
　次に、インターフェース部１４は、分類辞書生成部１３が生成した分類辞書を分類辞書記憶部１７に書き込む（Ｓ１０４）。
　次に、図４は、本発明の第１の実施形態の識別関数算出部１２の動作を示すフローチャートである。図４において、Ｓ２０１乃至Ｓ２０２は、それぞれ動作例の処理のステップを示す。
　識別関数算出部１２は、インターフェース部１４が読み取った学習データの中の各文書に対して、内容を反映した特徴、本例では文書中の全ての名詞、動詞、助動詞、を抽出し、特徴ベクトルを生成する（Ｓ２０１）。ここで、図６を用いて特徴ベクトルの詳細な構成についての説明を行う。
　図６は、識別関数算出部１２が図５に示す学習データから算出する特徴ベクトルの構成例を示す図である。図６に示す例での特徴ベクトルは、識別関数算出部１２が学習データに対して形態素解析を行い抽出した名詞、動詞、助動詞の各単語と、当該各単語に対する次元の値である「１」とを対応づけしたデータ列である。具体的には、ＤＩＤが１（ＤＩＤ＝１）の特徴ベクトルは、「（△△，山田，例，見積もり，確認，・・・）＝（１，１，１，１，１，・・・）」である。
　即ち、本例において、特徴ベクトルを算出するときに抽出される特徴が名詞、動詞、助動詞の単語である。そして、識別関数算出部１２は、学習データに対して形態素解析を行い、特徴（名詞、動詞、助動詞）の単語の次元の値を「１」、特徴以外の単語、例えば助詞、形容詞、副詞等の単語、の次元の値を「０」と算出する。
　ここで、図６に示す特徴ベクトルでは、簡略化のために、次元の値が「０」、即ち学習データ内で名詞、動詞、助動詞以外の単語の特徴ベクトルを記載（表記）していない。具体的には、図６に示すように、例えば、ＤＩＤ＝２の特徴ベクトルには、「（の，に，を，・・・）＝（０，０，０，・・・）」の記載を省略している。しかし、実際には、「０」の次元を含む特徴ベクトルは存在している。
　識別関数算出部１２は、インターフェース部１４が入力した学習データ、即ちカテゴリ情報が付与された各文書から、各文書の内容に反映した特徴（以下、特徴と記載する）を抽出して、特徴ベクトルを算出（生成）する。特徴は、図６に示す、名詞、動詞、助動詞のような文書中に出現する決められた条件の単語の他に、複数単語から構成されるフレーズ、文節、部分文字列、２つ以上の単語や文節の係り受け関係、でも良いが、これらに限定されない。
　次に、識別関数算出部１２は、生成した特徴ベクトルとカテゴリ情報（目標カテゴリか否かの情報）とから、目標カテゴリの文書を正例、非目標カテゴリの文書を負例として機械学習を用いて識別関数を算出する（Ｓ２０２）。この具体的な算出方法については、例えば、非特許文献１に記載の算出方法を用いてもよい。例えば、非特許文献１に記載の算出方法では、正例の値を＋１、負例の値を－１として識別関数を算出している。また、機械学習としては、カテゴリ付きのベクトルの集合を入力に、ベクトルの次元毎の重みを学習する任意の方法が利用できる。
　機械学習の代表的な例としては、例えば、ロジスティック回帰、サポートベクトルマシンが挙げられる。本例では、識別関数算出部１２は、機械学習としてサポートベクトルマシンを用いて識別関数を算出する。ここで、識別関数算出部１２が識別関数を算出する方法は既知であるため、動作の詳細を省略する。また、識別関数算出部１２が算出した識別関数は、図８に示される。
　次に、図７、図８を用いて、分類辞書生成部１３の詳細な動作の説明を行う。まず、図７、図８のデータ構造について説明を行う。
　図７は、下限値記憶部１５が記憶する下限情報の構成例を示す図である。図７に示すように、下限情報は、下限情報のＩＤと、下限値を決める方法（パターン）と、下限値とを対応づけしたデータである。具体的には、下限情報のＩＤが「（ａ）」の下限値を決めるパターンは「識別関数（学習された重みベクトル）の下限値を特定の値に決める」であり、当該パターンによって決められた下限値は「－１．０」である。
　図８は、識別関数算出部１２が算出する識別関数のデータと、当該識別関数に基づいて分類辞書生成部１３が生成する分類辞書のデータとを表す図である。具体的には、下限情報のＩＤが「（ａ）」、即ち下限値を決めるパターンが「識別関数（学習された重みベクトル）の下限値を特定の値に決める」の時に、識別関数のデータが「確認２．０、ください１．５、田中－０．５、山田－２．０、願い－３．０、・・・」であった場合、分類辞書のデータは、「確認２．０、ください１．５、田中－０．５、山田－１．０、願い－１．０、・・・」である。
　図７、図８が示すように、分類辞書生成部１３は、識別関数算出部１２が算出した識別関数の次元のうち、非目標カテゴリに対応する次元の値（本例ではマイナスの重み）が、下限値記憶部１５が記憶する下限情報の定められた下限値以上になる分類辞書を生成する。ここで、識別関数の次元とは、ベクトルの次元のことである。
　図７、図８に示すように、分類辞書生成部１３は、例えば、下限情報のＩＤが（ａ）、即ち「識別関数の下限値を特定の値に決める」という下限値を決めるパターンを用いて分類辞書を生成する。この方法は、先に下限値を定めておき、識別関数算出部１２が機械学習によって得られた識別関数（重みベクトル）を基に、下限値を下回る識別関数の値（重みベクトルの重み）を下限値に変換する方法である。本例では、下限値を－１．０とするため、図７に示すように、下限値は－１．０となる。そして、分類辞書生成部１３は、図８に示すように、下限情報のＩＤが（ａ）の識別関数が「確認」２．０、「ください」１．５、「田中」－０．５、「山田」－２．０、「願い」－３．０、・・・であるので、下限値が－１．０よりも低い値のものを全て－１．０に変換する。具体的には、図８に示すように、例えば分類辞書生成部１３は、識別関数の「山田－２．０」を「山田－１．０」と変換する。その結果、分類辞書生成部１３は、下限情報のＩＤが（ａ）の時に、「確認２．０、ください１．５、田中－０．５、山田－１．０、願い－１．０、・・・」という分類辞書を生成する。
　次に、図７が示すように、分類辞書生成部１３は、下限情報のＩＤが（ｂ）、即ち「下限値を、識別関数の最小値の３０％にする」という下限値を決めるパターンを用いて、分類辞書を生成する。この方法は、識別関数算出部１２が機械学習によって得られた各識別関数の中で最小の値（以下、最小値と記載する）に対して、０より大きく１未満である割合を定め、最小値と割合の掛け算から下限値を決め、下限値を下回る識別関数の値を下限値に変換する方法である。本例では、識別関数の最小値に対しての３０％を下限値と設定する。
　具体的には、図８に示すように、例えば分類辞書生成部１３は、下限情報のＩＤが（ｂ）の識別関数である「確認２．０、ください１．５、田中－０．５、山田－２．０、願い－３．０、・・・」のうち、最小値、本例では「願い－３．０」を選択し、当該最小値の３０％、即ち－３．０×０．３＝－０．９を下限値と算出する。そして、下限値が－０．９よりも低い値のものを全て－０．９に変換する。その結果、分類辞書生成部１３は、下限情報のＩＤが（ｂ）の時に、「確認２．０、ください１．５、田中－０．５、山田－０．９、願い－０．９、・・・」という分類辞書を生成する。
　ここで、下限情報の下限値を決めるパターンは、図７に限定されない。具体的には、下限情報のＩＤ（ａ）の下限値は－０．９でも良いし、下限情報のＩＤ（ｂ）の下限値の決定方法は「識別関数の最小値の３３％」であっても良い。
　ここで、図７に示すように、下限情報のＩＤが（ｃ）、即ち「重みに下限を設定する」という下限値を決めるパターンを用いた分類辞書の動作（生成方法）は、本発明の第１の実施形態の変形例で説明する。
　また、分類辞書生成部１３は、図７に示す下限情報の下限値を決めるパターン（下限情報のＩＤ（ａ）～（ｃ））を自動で選択して分類辞書を生成しても良いし、ユーザによって予め決められた状態で分類辞書を生成しても良い。
　以上で、本発明の第１の実施形態における分類辞書生成装置１０の動作が終了する。
　本発明の第１の実施形態における分類辞書生成装置１０において、学習データ記憶部１６は、学習データを記憶する。インターフェース部１４は学習データ記憶部１６が記憶する学習データを読み取り、識別関数算出部１２に出力する。識別関数算出部１２はインターフェース部１４で読み取られる学習データを基に識別関数を算出する。そして、分類辞書生成部１３は、識別関数算出部１２が算出する識別関数と下限値記憶部１５が記憶する下限情報を基に、分類辞書を生成する。インターフェース部１４は、分類辞書生成部１３が生成する分類辞書を分類辞書記憶部１７に書き込む。分類辞書記憶部１７は、出力された分類辞書を記憶する。したがって、当該分類辞書生成装置１０は、目標カテゴリに該当する情報が非目標カテゴリの情報と比べて少ない場合でも、目標カテゴリの情報を含まない文書と比較して、目標カテゴリのスコアをより高く計算する分類辞書を作成することができる。
＜第２の実施形態＞
　本発明の第２の実施形態について説明する。図９は、本発明の第２の実施形態における分類辞書生成装置１０’の構成例を示す図である。なお、本発明の第２の実施形態において、本発明の第１の実施形態と同様の構成については、説明を省略する。
　本発明の第２の形態における分類辞書生成装置１０’では、制御部１１’が有する分類辞書生成部１３’が図７に示す下限情報を基に分類辞書を生成する。
　具体的には、分類辞書生成部１３’は、機械学習時に制約付き最適化問題として、図７に示す下限情報のＩＤ（ｃ）、即ち重みに下限を設定する方法である。
　本例では機械学習として、ロジスティック回帰を例に説明するが、これに限定されない。基本的なロジスティック回帰では、分類辞書、本例では重みベクトルｗに対して以下の数式（１）を最小化する。数式（１）において、ｉはｉ番目の文書を表し、ｙｉは目標カテゴリの場合に１、非目標カテゴリの場合には－１を取る変数で、ｘｉは特徴ベクトルである。ｗ・ｘｉは、ｗとｘｉとの内積を示す。
Figure JPOXMLDOC01-appb-M000001
　ここで、以下の数式（２）に示すように、重みベクトルの各次元に下限を設定した制約付き最適化問題の場合は、ロジスティック回帰に下限を導入できる。ｗｊは重みベクトルｗのｊ番目の次元の値を表す。αは下限値を表す。
∀ｊ　α＜ｗｊ　　　（α＜０）　　　　　　　　　　　　　　（２）
　数式（１）の最小化を数式（２）の制約で最適化するためには、例えば、Ｌ－ＢＦＧＳ－Ｂなど、ｂｏｘ　ｃｏｎｓｔｒａｉｎｔ　ｏｐｔｉｍｉｚａｔｉｏｎを扱える最適化のアルゴリズムを用いることができる。図７に示す下限情報のＩＤ（ｃ）のように、数式（２）のαを－１．０（下限値）とした場合、分類辞書生成部１３’は、図８の（ｃ）が示す分類辞書、即ち「確認１．５，ください１．２５，田中－０．２，山田－１．０，願い－１．０，・・・」を生成する。つまり、分類辞書生成部１３’は、重みベクトルの各次元の値の下限値を制約とする制約付き最適化問題として最適化することで重みベクトルを算出し、算出した重みベクトルから分類辞書を生成する。
　したがって、本発明の第２の実施形態における分類辞書生成装置１０’は、本発明の第１の実施形態における分類辞書生成装置１０が行う、学習された識別関数（重みベクトル）を後処理（分類辞書生成部１３）で調整する分類辞書の生成ではなく、学習時に最適な分類辞書を生成する。これにより、分類辞書生成装置１０’は、目標カテゴリに該当する情報が非目標カテゴリの情報と比べて少ない場合でも、目標カテゴリの情報を含まない文書と比較して、目標カテゴリのスコアをより高く計算する分類辞書を作成することができる。また、本発明の第２の実施形態における分類辞書生成装置１０’は、本発明の第１の実施形態における分類辞書生成装置１０に比べて、処理工数を少なくできる。
＜第３の実施形態＞
　本発明の第３の実施形態について説明する。図１０は、本発明の第３の実施形態における、分類辞書生成装置１００の構成例を示す図である。なお、本発明の第３の実施形態において、上記各実施形態と同様の構成については、説明を省略する。
　本発明の第３の形態における分類辞書生成装置１００は、文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する下限値記憶部１５と、前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する制御部１１０とを備える。
　また、前記制御部１１０は、前記下限値記憶部１５に記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する。
　上記構成を有する分類辞書生成装置１００は、文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶し、前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する。このとき、分類辞書生成装置１００は、前記記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する。これにより、分類辞書生成装置１００は、目標カテゴリに該当する情報が非目標カテゴリの情報と比べて少ない場合でも、目標カテゴリの情報を含まない文書と比較して、目標カテゴリのスコアをより高く計算する分類辞書を作成することができる。
　第３の実施形態において、分類辞書生成装置１００の制御部１１０はコンピュータであり、そのコンピュータのＣＰＵ（Ｃｅｎｔｒａｌ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）（例えば、図２のＣＰＵ１）又はＭＰＵ（Ｍｉｃｒｏ－Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）は、上述した各実施形態の機能を実現するソフトウェア（プログラム）を実行しても良い。
　本発明の第３の実施形態において、分類辞書生成装置１００の制御部１１０は、例えば、図２の記憶装置３に上述のプログラムを記憶する。この記憶装置３は、例えば、ハードディスク装置等のコンピュータ読み取り可能な記憶デバイスや、ＣＤ－Ｒ（Ｃｏｍｐａｃｔ　Ｄｉｓｃ　Ｒｅｃｏｒｄａｂｌｅ）等の各種記憶媒体を含む。コンピュータは、ネットワークを介して、前述した各実施形態の機能を実現するソフトウェア（プログラム）を取得しても良い。
　分類辞書生成装置１００の上述のプログラムは、少なくとも（１）文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する処理と、（２）前記カテゴリが既知の学習データに基づいて、前記分類辞書を生成する処理と、をコンピュータに実行させる。なお、上記分類辞書を生成する処理は、前記記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する処理である。
　分類辞書生成装置１００のコンピュータは、取得したソフトウェア（プログラム）のプログラムコードを読み出して実行する。したがって、当該、分類辞書生成装置１００は、上述した各実施形態における分類辞書生成装置の処理と同一の処理を実行しても良い。
　以上、実施形態を用いて本願発明を説明したが、本願発明は、上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解しうる様々な変更をすることができる。
　この出願は、２０１３年９月１８日に出願された日本出願特願２０１３－１９２６７４を基礎とする優先権を主張し、その開示の全てをここに取り込む。
　１　　ＣＰＵ
　２　　ＲＡＭ
　３　　記憶装置
　４　　通信インターフェース
　５　　入力装置
　６　　出力装置
　１０　　分類辞書生成装置
　１０’　　分類辞書生成装置
　１１　　制御部
　１１’　　制御部
　１２　　識別関数算出部
　１３　　分類辞書生成部
　１３’　　分類辞書生成部
　１４　　インターフェース部
　１５　　下限値記憶部
　１６　　学習データ記憶部
　１７　　分類辞書記憶部
　１００　　分類辞書生成装置
　１１０　　制御部

Claims (10)

  1. 　文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する下限値記憶手段と、
    　前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する制御手段と、を備え、
    　前記制御手段は、前記下限値記憶手段に記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する分類辞書生成装置。
  2. 　前記学習データは、カテゴリ情報が付与された文書の集合を含み、
    　前記制御手段は、前記文書の集合の各文書に対して、前記各文書の内容を反映した特徴を抽出して特徴ベクトルを算出し、前記分類辞書の次元の値のうち、非目標カテゴリに対応する前記次元の値が前記下限値以上となる分類辞書を生成する請求項１に記載の分類辞書生成装置。
  3. 　前記学習データから識別関数を算出する識別関数算出手段をさらに備え、
    　前記制御手段は、前記識別関数算出手段が算出した識別関数と、前記下限値記憶手段に記憶される下限情報とに基づいて、前記分類辞書を生成する請求項１又は２に記載の分類辞書生成装置。
  4. 　前記下限値記憶手段は、前記識別関数の次元の値のうち、予め定められた前記下限値よりも小さい前記次元の値を前記下限値とする下限情報を記憶する請求項３に記載の分類辞書生成装置。
  5. 　前記下限情報記憶手段は、前記識別関数の次元の値の最小値と０より大きく１未満の予め定められた割合との積により下限値を定め、当該下限値を前記識別関数の値とする下限情報を記憶する請求項３に記載の分類辞書生成装置。
  6. 　前記学習データを記憶する学習データ記憶手段と前記分類辞書を記憶する分類辞書記憶手段をさらに備え、
    　前記制御手段は、前記分類辞書を前記分類辞書記憶手段に書き込む請求項１から５のいずれか１項に記載の分類辞書生成装置。
  7. 　前記制御手段は、重みベクトルの各次元の値の下限値を制約とする制約付き最適化問題として最適化することで重みベクトルを算出し、算出した重みベクトルから前記分類辞書を生成する請求項１又は２に記載の分類辞書生成装置。
  8. 　前記識別関数算出手段は、前記特徴として、文書中に出現する単語、複数単語から構成されるフレーズ、文節、部分文字列、２つ以上の単語や文節の係り受け関係、及び部分文字列、のうち少なくとも１つを用いて前記識別関数を算出する請求項３に記載の分類辞書生成装置。
  9. 　文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶し、
    　前記カテゴリが既知である学習データと、前記記憶された下限情報とに基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する分類辞書生成方法。
  10. 　文書のカテゴリを分類するための分類辞書の次元の値の下限値を決定する下限情報を記憶する処理と、
    　前記カテゴリが既知である学習データに基づいて、前記分類辞書を生成する処理と、をコンピュータに実行させ、
    　該分類辞書を生成する処理は、前記記憶された下限情報に基づいて、全ての前記次元の値が前記下限値以上となる分類辞書を生成する処理である、プログラムを記録するコンピュータで読み取り可能な記録媒体。
PCT/JP2014/004776 2013-09-18 2014-09-17 分類辞書生成装置、分類辞書生成方法及び記録媒体 WO2015040860A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015537559A JP6436086B2 (ja) 2013-09-18 2014-09-17 分類辞書生成装置、分類辞書生成方法及びプログラム
US14/915,797 US20160224654A1 (en) 2013-09-18 2014-09-17 Classification dictionary generation apparatus, classification dictionary generation method, and recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013-192674 2013-09-18
JP2013192674 2013-09-18

Publications (1)

Publication Number Publication Date
WO2015040860A1 true WO2015040860A1 (ja) 2015-03-26

Family

ID=52688524

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/004776 WO2015040860A1 (ja) 2013-09-18 2014-09-17 分類辞書生成装置、分類辞書生成方法及び記録媒体

Country Status (3)

Country Link
US (1) US20160224654A1 (ja)
JP (1) JP6436086B2 (ja)
WO (1) WO2015040860A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110717040A (zh) * 2019-09-18 2020-01-21 平安科技（深圳）有限公司 词典扩充方法及装置、电子设备、存储介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200082282A1 (en) * 2018-09-10 2020-03-12 Purdue Research Foundation Methods for inducing a covert misclassification
US20230196034A1 (en) * 2021-12-21 2023-06-22 International Business Machines Corporation Automatically integrating user translation feedback

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271800A (ja) * 2009-05-19 2010-12-02 Nippon Telegr & Teleph Corp <Ntt> 回答文書分類装置、回答文書分類方法及びプログラム
JP2013061718A (ja) * 2011-09-12 2013-04-04 Nippon Telegr & Teleph Corp <Ntt> サポートベクタ選択装置、方法、及びプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6192360B1 (en) * 1998-06-23 2001-02-20 Microsoft Corporation Methods and apparatus for classifying text and for building a text classifier
US8176004B2 (en) * 2005-10-24 2012-05-08 Capsilon Corporation Systems and methods for intelligent paperless document management
US9275129B2 (en) * 2006-01-23 2016-03-01 Symantec Corporation Methods and systems to efficiently find similar and near-duplicate emails and files
JP5316158B2 (ja) * 2008-05-28 2013-10-16 株式会社リコー 情報処理装置、全文検索方法、全文検索プログラム、及び記録媒体
US20140105447A1 (en) * 2012-10-15 2014-04-17 Juked, Inc. Efficient data fingerprinting

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271800A (ja) * 2009-05-19 2010-12-02 Nippon Telegr & Teleph Corp <Ntt> 回答文書分類装置、回答文書分類方法及びプログラム
JP2013061718A (ja) * 2011-09-12 2013-04-04 Nippon Telegr & Teleph Corp <Ntt> サポートベクタ選択装置、方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110717040A (zh) * 2019-09-18 2020-01-21 平安科技（深圳）有限公司 词典扩充方法及装置、电子设备、存储介质

Also Published As

Publication number Publication date
JPWO2015040860A1 (ja) 2017-03-02
JP6436086B2 (ja) 2018-12-12
US20160224654A1 (en) 2016-08-04

Similar Documents

Publication Publication Date Title
US11163947B2 (en) Methods and systems for multi-label classification of text data
GB2547068B (en) Semantic natural language vector space
AU2016256764B2 (en) Semantic natural language vector space for image captioning
US9542477B2 (en) Method of automated discovery of topics relatedness
US20170200065A1 (en) Image Captioning with Weak Supervision
RU2583716C2 (ru) Метод построения и обнаружения тематической структуры корпуса
JP5137567B2 (ja) 検索フィルタリング装置及び検索フィルタリングプログラム
GB2544857A (en) Multimedia document summarization
US8458194B1 (en) System and method for content-based document organization and filing
JP6870421B2 (ja) 判定プログラム、判定装置および判定方法
US11869129B2 (en) Learning apparatus and method for creating image and apparatus and method for image creation
US9348901B2 (en) System and method for rule based classification of a text fragment
WO2014073206A1 (ja) 情報処理装置、及び、情報処理方法
JP6291443B2 (ja) 接続関係推定装置、方法、及びプログラム
US20230259707A1 (en) Systems and methods for natural language processing (nlp) model robustness determination
Varghese et al. Supervised clustering for automated document classification and prioritization: a case study using toxicological abstracts
US20180018392A1 (en) Topic identification based on functional summarization
JP6436086B2 (ja) 分類辞書生成装置、分類辞書生成方法及びプログラム
WO2023033942A1 (en) Efficient index lookup using language-agnostic vectors and context vectors
JP2010061176A (ja) テキストマイニング装置、テキストマイニング方法、および、テキストマイニングプログラム
JP2022185799A (ja) 情報処理プログラム、情報処理方法および情報処理装置
JP7175244B2 (ja) 分類装置、学習装置、分類方法及びプログラム
JP5462748B2 (ja) データ可視化装置、データ変換装置、方法、及びプログラム
JP2014238626A (ja) 文書分類装置
WO2021065058A1 (ja) 概念構造抽出装置、記憶媒体及び方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14846621

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2015537559

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 14915797

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 14846621

Country of ref document: EP

Kind code of ref document: A1