JP5690829B2 - 表現および説明抽出のための文書処理装置および方法 - Google Patents
表現および説明抽出のための文書処理装置および方法 Download PDFInfo
- Publication number
- JP5690829B2 JP5690829B2 JP2012530792A JP2012530792A JP5690829B2 JP 5690829 B2 JP5690829 B2 JP 5690829B2 JP 2012530792 A JP2012530792 A JP 2012530792A JP 2012530792 A JP2012530792 A JP 2012530792A JP 5690829 B2 JP5690829 B2 JP 5690829B2
- Authority
- JP
- Japan
- Prior art keywords
- sentence
- explanation
- expression
- document
- script
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000014509 gene expression Effects 0.000 title claims description 145
- 238000012545 processing Methods 0.000 title claims description 46
- 238000000034 method Methods 0.000 title claims description 41
- 238000000605 extraction Methods 0.000 title claims description 29
- 238000013515 script Methods 0.000 claims description 91
- 239000000284 extract Substances 0.000 claims description 19
- 239000000463 material Substances 0.000 claims description 15
- 238000003672 processing method Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 6
- 238000002372 labelling Methods 0.000 claims description 3
- 238000000926 separation method Methods 0.000 claims 1
- 238000004891 communication Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/06—Foreign languages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/258—Heading extraction; Automatic titling; Numbering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Educational Technology (AREA)
- Educational Administration (AREA)
- Entrepreneurship & Innovation (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Tourism & Hospitality (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Document Processing Apparatus (AREA)
- Machine Translation (AREA)
- Electrically Operated Instructional Devices (AREA)
Description
まず、表現抽出部150は、抽出された文章説明のすべての文章に対し、各文章が英語表現の説明形態を持っているか否かに対する2進分類を行う。このために、例えば、ラベルド順次パターン(labeled sequential pattern、LSP)手法を用いることができるが、これに限定されない。LSP手法は、ある文章が与えられたとき、これをパターン化して表現するための方法であって、例えば、「Where can I find a job?」という文章を「Where can PRN VB DT NN?」に置き換えるように、一般的な単語をより大きい範囲のクラスに置き換える方法をいう。ここで、 PRNは代名詞、VBは動詞、DTは冠詞、そして、NNは名詞を表す。
110 文書収集部
130 文章抽出部
150 表現抽出部
170 データベース
190 資料提供部
Claims (12)
- ウェブから文書を収集し、スクリプト部分および説明部分の始まりまたは終わりを示す識別子または文章に基づいて前記文書をスクリプト部分と説明部分とに分離してスクリプト文書および説明文書を生成する文書収集部と、
文章の終わりを示す識別子に基づいてスクリプト文書からスクリプト文章を分離し、説明文書から説明文章を分離した後、識別確率モデル(discriminative probabilistic model)分類器を用いて前記説明文章に対してスクリプト文章に対する説明であるか否かを示す2進分類を行い、前記2進分類の結果に基づいて前記分離された説明文章がスクリプト文書のどの文章に対する説明文章であるかを分類する文章抽出部と、
前記説明文書上において該当する言語表現の説明形態を示すパターンに従って、全体文章説明の各文章に対して2進分類を行って表現説明文章を抽出し、前記表現説明文章と前記スクリプト文章内の表現との類似度を測定し、前記表現説明文章が説明している前記スクリプト文章内での表現を抽出する表現抽出部とを含み、
前記表現抽出部は、与えられた文章をパターン化して表現するラベルド順次パターン(labeled sequential pattern)手法を用いて前記説明文章から前記表現説明文章を抽出し、前記類似度は、コサイン類似度(cosine similarity)手法または編集距離(edit distance)手法を用いて測定されることを特徴とする文書処理装置。 - 前記文章抽出部は、順次データのラベリング(labeling)またはパーシング(parsing)に用いられる識別確率モデル(discriminative probabilistic model)分類器を用いて各説明文章が前記複数のスクリプト文章のどのスクリプト文章に対する説明であるかを分類することを特徴とする請求項1に記載の文書処理装置。
- 前記文書収集部は、前記スクリプト部分および前記説明部分の始まりまたは終わりを示す識別子または文章に基づいて前記スクリプト文書および前記説明文書を生成することを特徴とする請求項1に記載の文書処理装置。
- 前記抽出された表現と前記抽出された表現を説明する表現説明文章とを格納するデータベースをさらに含むことを特徴とする請求項1に記載の文書処理装置。
- ユーザからの要請に応じて、前記抽出された表現と前記抽出された表現を説明する表現説明文章とを前記ユーザに提供する資料提供部をさらに含むことを特徴とする請求項1に記載の文書処理装置。
- 前記文書は、英語で作成されていることを特徴とする請求項1に記載の文書処理装置。
- 文書収集部がウェブから文書を収集し、前記文書をスクリプト部分と説明部分とに分離してスクリプト文書および説明文書を生成するステップと、
文章抽出部が文章の終わりを示す識別子に基づいてスクリプト文書からスクリプト文章を分離し、説明文書から説明文章を分離した後、識別確率モデル(discriminative probabilistic model)分類器を用いて前記説明文章に対してスクリプト文章に対する説明であるか否かを示す2進分類を行い、前記2進分類の結果に基づいて前記分離された説明文章がスクリプト文書のどの文章に対する説明文章であるかを分類するステップと、
表現抽出部が前記説明文書上において該当する言語表現の説明形態を示すパターンに従って、全体文章説明の各文章に対して2進分類を行って表現説明文章を抽出し、前記表現説明文章と前記スクリプト文章内の表現との類似度を測定し、前記表現説明文章が説明している前記スクリプト文章内での表現を抽出するステップとを含み、
前記表現抽出ステップは、与えられた文章をパターン化して表現するラベルド順次パターン(labeled sequential pattern)手法を用いて前記説明文章から前記表現説明文章を抽出し、前記類似度は、コサイン類似度(cosine similarity)手法または編集距離(edit distance)手法を用いて測定されるステップを含むことを特徴とする文書処理方法。 - 前記文章抽出ステップは、順次データのラベリング(labeling)またはパーシング(parsing)に用いられる識別確率モデル(discriminative probabilistic model)分類器を用いて各説明文章が前記複数のスクリプト文章のどのスクリプト文章に対する説明であるかを分類するステップを含むことを特徴とする請求項7に記載の文書処理方法。
- 前記文書生成ステップは、前記スクリプト部分および前記説明部分の始まりまたは終わりを示す識別子または文章に基づいて前記スクリプト文書および前記説明文書を生成することを特徴とする請求項7に記載の文書処理方法。
- 前記抽出された表現と前記抽出された表現を説明する表現説明文章とを格納するステップをさらに含むことを特徴とする請求項7に記載の文書処理方法。
- ユーザからの要請に応じて、前記抽出された表現と前記抽出された表現を説明する表現説明文章とを前記ユーザに提供するステップをさらに含むことを特徴とする請求項7に記載の文書処理方法。
- 前記文書は、英語で作成されていることを特徴とする請求項7に記載の文書処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090100962A KR101072100B1 (ko) | 2009-10-23 | 2009-10-23 | 표현 및 설명 추출을 위한 문서 처리 장치 및 방법 |
KR10-2009-0100962 | 2009-10-23 | ||
PCT/KR2010/006943 WO2011049313A2 (ko) | 2009-10-23 | 2010-10-11 | 표현 및 설명 추출을 위한 문서 처리 장치 및 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013506187A JP2013506187A (ja) | 2013-02-21 |
JP5690829B2 true JP5690829B2 (ja) | 2015-03-25 |
Family
ID=43900780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012530792A Expired - Fee Related JP5690829B2 (ja) | 2009-10-23 | 2010-10-11 | 表現および説明抽出のための文書処理装置および方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8666987B2 (ja) |
JP (1) | JP5690829B2 (ja) |
KR (1) | KR101072100B1 (ja) |
CN (1) | CN102576367B (ja) |
WO (1) | WO2011049313A2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011078194A1 (ja) * | 2009-12-25 | 2011-06-30 | 日本電気株式会社 | テキストマイニングシステム、テキストマイニング方法および記録媒体 |
CN104517106B (zh) * | 2013-09-29 | 2017-11-28 | 北大方正集团有限公司 | 一种列表识别方法与系统 |
US9858923B2 (en) * | 2015-09-24 | 2018-01-02 | Intel Corporation | Dynamic adaptation of language models and semantic tracking for automatic speech recognition |
EP3575987A1 (en) * | 2018-06-01 | 2019-12-04 | Fortia Financial Solutions | Extracting from a descriptive document the value of a slot associated with a target entity |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69333568T2 (de) * | 1992-09-04 | 2004-10-21 | Caterpillar Inc | Integriertes entwurf- und übersetzungssystem. |
JP2003085181A (ja) | 2001-09-07 | 2003-03-20 | Japan Science & Technology Corp | 事典システム |
NO316480B1 (no) * | 2001-11-15 | 2004-01-26 | Forinnova As | Fremgangsmåte og system for tekstuell granskning og oppdagelse |
US20070255553A1 (en) * | 2004-03-31 | 2007-11-01 | Matsushita Electric Industrial Co., Ltd. | Information Extraction System |
US20060074980A1 (en) * | 2004-09-29 | 2006-04-06 | Sarkar Pte. Ltd. | System for semantically disambiguating text information |
US8983962B2 (en) * | 2005-02-08 | 2015-03-17 | Nec Corporation | Question and answer data editing device, question and answer data editing method and question answer data editing program |
US7376551B2 (en) | 2005-08-01 | 2008-05-20 | Microsoft Corporation | Definition extraction |
CN100474301C (zh) | 2005-09-08 | 2009-04-01 | 富士通株式会社 | 基于数据挖掘获取词或词组单元译文信息的系统和方法 |
US20090019362A1 (en) * | 2006-03-10 | 2009-01-15 | Avri Shprigel | Automatic Reusable Definitions Identification (Rdi) Method |
JP2007286355A (ja) | 2006-04-17 | 2007-11-01 | Masanori Fukushima | 学習支援装置および学習支援方法 |
US7657421B2 (en) * | 2006-06-28 | 2010-02-02 | International Business Machines Corporation | System and method for identifying and defining idioms |
KR20080037323A (ko) | 2006-10-26 | 2008-04-30 | 주식회사 문깡 | 영어학습방법 |
US20080249764A1 (en) * | 2007-03-01 | 2008-10-09 | Microsoft Corporation | Smart Sentiment Classifier for Product Reviews |
KR20090035346A (ko) | 2007-10-05 | 2009-04-09 | 박철 | 어휘 분석을 수행하는 어학학습 방법 |
CN101441636A (zh) * | 2007-11-21 | 2009-05-27 | 中国科学院自动化研究所 | 一种基于知识库的医院信息搜索引擎及系统 |
JP4654238B2 (ja) | 2007-12-26 | 2011-03-16 | みずほ情報総研株式会社 | 説明表示システム、説明表示方法及び説明表示プログラム |
US20090327210A1 (en) * | 2008-06-27 | 2009-12-31 | Microsoft Corporation | Advanced book page classification engine and index page extraction |
US20100063797A1 (en) * | 2008-09-09 | 2010-03-11 | Microsoft Corporation | Discovering question and answer pairs |
US7937386B2 (en) * | 2008-12-30 | 2011-05-03 | Complyon Inc. | System, method, and apparatus for information extraction of textual documents |
-
2009
- 2009-10-23 KR KR1020090100962A patent/KR101072100B1/ko not_active IP Right Cessation
-
2010
- 2010-10-11 US US13/498,322 patent/US8666987B2/en active Active - Reinstated
- 2010-10-11 WO PCT/KR2010/006943 patent/WO2011049313A2/ko active Application Filing
- 2010-10-11 JP JP2012530792A patent/JP5690829B2/ja not_active Expired - Fee Related
- 2010-10-11 CN CN201080046722.0A patent/CN102576367B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20120197894A1 (en) | 2012-08-02 |
KR20110044345A (ko) | 2011-04-29 |
KR101072100B1 (ko) | 2011-10-10 |
CN102576367A (zh) | 2012-07-11 |
CN102576367B (zh) | 2014-09-10 |
WO2011049313A2 (ko) | 2011-04-28 |
US8666987B2 (en) | 2014-03-04 |
WO2011049313A9 (ko) | 2011-06-30 |
JP2013506187A (ja) | 2013-02-21 |
WO2011049313A3 (ko) | 2011-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210124876A1 (en) | Evaluating the Factual Consistency of Abstractive Text Summarization | |
US20180366013A1 (en) | System and method for providing an interactive visual learning environment for creation, presentation, sharing, organizing and analysis of knowledge on subject matter | |
US20230069935A1 (en) | Dialog system answering method based on sentence paraphrase recognition | |
Napoles et al. | Learning simple Wikipedia: A cogitation in ascertaining abecedarian language | |
Karim | Technical challenges and design issues in bangla language processing | |
CN113761377A (zh) | 基于注意力机制多特征融合的虚假信息检测方法、装置、电子设备及存储介质 | |
CN110610003A (zh) | 用于辅助文本标注的方法和系统 | |
JP5690829B2 (ja) | 表現および説明抽出のための文書処理装置および方法 | |
CN113361252B (zh) | 基于多模态特征和情感词典的文本抑郁倾向检测系统 | |
Suman et al. | Gender Age and Dialect Recognition using Tweets in a Deep Learning Framework-Notebook for FIRE 2019. | |
KR102072708B1 (ko) | 텍스트 콘텐츠의 장르를 추론하는 방법 및 컴퓨터 프로그램 | |
US20240012996A1 (en) | Alignment apparatus, learning apparatus, alignment method, learning method and program | |
Bannò et al. | Back to grammar: Using grammatical error correction to automatically assess L2 speaking proficiency | |
Zhang | Russian speech conversion algorithm based on a parallel corpus and machine translation | |
Hoseinmardy et al. | Recognizing transliterated English words in Persian texts | |
Shahin et al. | Part of speech tagging for Arabic text based radial basis function | |
Rodríguez-García et al. | URJC-Team at FinancES 2023: Financial Targeted Sentiment Analysis in Spanish Combining Transformers. | |
Abu Bakar et al. | Part-of-speech for old Malay manuscript corpus: A Review | |
Dhanya et al. | Automatic Spelling Error Classification in Malayalam | |
Nyetanyane et al. | UmobiTalk: Ubiquitous Mobile Speech Based Translator for Sesotho Language | |
Poojary et al. | Multifunctional Language Processing Software Framework | |
González-López et al. | A model for identifying steps in undergraduate thesis methodology | |
Balan | Introduction to Natural Language Processing | |
Amon | Setswana grammar checker for declarative sentences using LSTM-Recurrent Neural Network | |
Samota et al. | Improving the Punjabi-Hindi Braille Neural Machine Translation through Syntax Augmentation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130620 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130709 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131003 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140513 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140811 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150202 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5690829 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |