JP2018142188A - 解析プログラム、解析方法および解析装置 - Google Patents
解析プログラム、解析方法および解析装置 Download PDFInfo
- Publication number
- JP2018142188A JP2018142188A JP2017036288A JP2017036288A JP2018142188A JP 2018142188 A JP2018142188 A JP 2018142188A JP 2017036288 A JP2017036288 A JP 2017036288A JP 2017036288 A JP2017036288 A JP 2017036288A JP 2018142188 A JP2018142188 A JP 2018142188A
- Authority
- JP
- Japan
- Prior art keywords
- encoded
- phrase
- word
- words
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Abstract
Description
解析対象の文書を単語単位で符号化した、複数の符号化単語を生成し、
前記符号化単語、または、前記複数の符号化単語の組み合わせに割り当てられた符号化フレーズに関する、前記解析対象の文書の出現状況に応じてそれぞれ生成されたベクトル値を、前記符号化単語、または、前記符号化フレーズに割り当てる
処理を実行させることを特徴とする解析プログラム。
解析対象の文書を単語単位で符号化した、複数の符号化単語を生成し、
前記符号化単語、または、前記複数の符号化単語の組み合わせに割り当てられた符号化フレーズに関する、前記解析対象の文書の出現状況に応じてそれぞれ生成されたベクトル値を、前記符号化単語、または、前記符号化フレーズに割り当てる
処理を実行することを特徴とする解析方法。
前記符号化単語、または、前記複数の符号化単語の組み合わせに割り当てられた符号化フレーズに関する、前記解析対象の文書の出現状況に応じてそれぞれ生成されたベクトル値を、前記符号化単語、または、前記符号化フレーズに割り当てる演算部と
を有することを特徴とする解析装置。
110、210 通信部
120、220 入力部
130、230 表示部
140、240 記憶部
150、250 制御部
Claims (5)
- コンピュータに、
解析対象の文書を単語単位で符号化した、複数の符号化単語を生成し、
前記符号化単語、または、前記複数の符号化単語の組み合わせに割り当てられた符号化フレーズに関する、前記解析対象の文書の出現状況に応じてそれぞれ生成されたベクトル値を、前記符号化単語、または、前記符号化フレーズに割り当てる
処理を実行させることを特徴とする解析プログラム。 - 第1符号化フレーズの前後に位置する前記符号化単語または他の第2符号化フレーズに対してSkip-gramによるモデル化を行い、前記第1符号化フレーズの前後に、前記符号化単語または前記第2符号化フレーズが出現する確率を特定することで、前記第1符号化フレーズのベクトル値を算出することを特徴とする請求項1に記載の解析プログラム。
- フレーズを構成する第1単語と第2単語との組を定義したテーブルを基にして、前記解析対象の文書に含まれる第1単語を特定し、特定した第1単語と同じ文中に第2単語が含まれる場合には、特定した第1単語と同じ文中に含まれる第2単語を削除し、特定した第1単語の直後に前記第2単語を配置する処理を更にコンピュータに実行させることを特徴とする請求項1または2に記載の解析プログラム。
- コンピュータが実行する解析方法であって、
解析対象の文書を単語単位で符号化した、複数の符号化単語を生成し、
前記符号化単語、または、前記複数の符号化単語の組み合わせに割り当てられた符号化フレーズに関する、前記解析対象の文書の出現状況に応じてそれぞれ生成されたベクトル値を、前記符号化単語、または、前記符号化フレーズに割り当てる
処理を実行することを特徴とする解析方法。 - 解析対象の文書を単語単位で符号化した、複数の符号化単語を生成する符号化部と、
前記符号化単語、または、前記複数の符号化単語の組み合わせに割り当てられた符号化フレーズに関する、前記解析対象の文書の出現状況に応じてそれぞれ生成されたベクトル値を、前記符号化単語、または、前記符号化フレーズに割り当てる演算部と
を有することを特徴とする解析装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017036288A JP6862914B2 (ja) | 2017-02-28 | 2017-02-28 | 解析プログラム、解析方法および解析装置 |
EP18158086.1A EP3367256A1 (en) | 2017-02-28 | 2018-02-22 | Analysis method and analysis device |
US15/902,001 US10755028B2 (en) | 2017-02-28 | 2018-02-22 | Analysis method and analysis device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017036288A JP6862914B2 (ja) | 2017-02-28 | 2017-02-28 | 解析プログラム、解析方法および解析装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018142188A true JP2018142188A (ja) | 2018-09-13 |
JP6862914B2 JP6862914B2 (ja) | 2021-04-21 |
Family
ID=61256795
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017036288A Active JP6862914B2 (ja) | 2017-02-28 | 2017-02-28 | 解析プログラム、解析方法および解析装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10755028B2 (ja) |
EP (1) | EP3367256A1 (ja) |
JP (1) | JP6862914B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200067713A (ko) * | 2018-12-04 | 2020-06-12 | 숭실대학교산학협력단 | 오류 트리플 검출 시스템 및 방법 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109299284B (zh) * | 2018-08-31 | 2021-07-20 | 中国地质大学(武汉) | 一种基于结构信息与文本描述的知识图谱表示学习方法 |
CN109165288B (zh) * | 2018-09-17 | 2019-08-27 | 北京神州泰岳软件股份有限公司 | 一种多语义监督的词向量训练方法及装置 |
EP3667493B1 (en) * | 2018-12-11 | 2021-05-26 | Sap Se | A method for a software development system |
CN109858031B (zh) * | 2019-02-14 | 2023-05-23 | 北京小米智能科技有限公司 | 神经网络模型训练、上下文预测方法及装置 |
CN113221553A (zh) * | 2020-01-21 | 2021-08-06 | 腾讯科技(深圳)有限公司 | 一种文本处理方法、装置、设备以及可读存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7536408B2 (en) | 2004-07-26 | 2009-05-19 | Google Inc. | Phrase-based indexing in an information retrieval system |
EP2056221A1 (en) | 2007-10-30 | 2009-05-06 | Mitsubishi Electric Corporation | Split state machines for matching |
US9037464B1 (en) * | 2013-01-15 | 2015-05-19 | Google Inc. | Computing numeric representations of words in a high-dimensional space |
US9519858B2 (en) * | 2013-02-10 | 2016-12-13 | Microsoft Technology Licensing, Llc | Feature-augmented neural networks and applications of same |
US10121467B1 (en) * | 2016-06-30 | 2018-11-06 | Amazon Technologies, Inc. | Automatic speech recognition incorporating word usage information |
-
2017
- 2017-02-28 JP JP2017036288A patent/JP6862914B2/ja active Active
-
2018
- 2018-02-22 US US15/902,001 patent/US10755028B2/en active Active
- 2018-02-22 EP EP18158086.1A patent/EP3367256A1/en not_active Ceased
Non-Patent Citations (2)
Title |
---|
MIKOLOV, TOMAS ET AL.: "Distributed Representations of Words and Phrases and their Compositionality", ADVANCES IN NEURAL INFORMATION PROCESSING SYSTEMS 26 (NIPS 2013) [ONLINE], JPN6020030685, 3 September 2014 (2014-09-03), pages 1 - 9, ISSN: 0004374198 * |
高橋光輝: "機械学習で石川啄木を蘇らせる", 月刊シェルスクリプトマガジン, vol. 44, JPN6020041123, 20 November 2016 (2016-11-20), pages 14 - 16, ISSN: 0004374199 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200067713A (ko) * | 2018-12-04 | 2020-06-12 | 숭실대학교산학협력단 | 오류 트리플 검출 시스템 및 방법 |
KR102212310B1 (ko) | 2018-12-04 | 2021-02-05 | 숭실대학교산학협력단 | 오류 트리플 검출 시스템 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
EP3367256A1 (en) | 2018-08-29 |
US20180246856A1 (en) | 2018-08-30 |
JP6862914B2 (ja) | 2021-04-21 |
US10755028B2 (en) | 2020-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6862914B2 (ja) | 解析プログラム、解析方法および解析装置 | |
WO2022134759A1 (zh) | 关键词生成方法、装置、电子设备及计算机存储介质 | |
JP2020520492A (ja) | 文書要約自動抽出方法、装置、コンピュータ機器及び記憶媒体 | |
JP2019008778A (ja) | 画像の領域のキャプション付加 | |
US20210035556A1 (en) | Fine-tuning language models for supervised learning tasks via dataset preprocessing | |
JP2020507155A (ja) | 単語ベクトル処理方法および装置 | |
EP3518142A1 (en) | Cross-lingual text classification using character embedded data structures | |
CN104471552A (zh) | 用于处置状态机引擎所接收的数据的方法及系统 | |
JP6312467B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2010520531A (ja) | 統合ピンイン及び画入力 | |
CN107391682B (zh) | 知识验证方法、知识验证设备以及存储介质 | |
CN114942984B (zh) | 视觉场景文本融合模型的预训练和图文检索方法及装置 | |
CN113986950A (zh) | 一种sql语句处理方法、装置、设备及存储介质 | |
WO2019092868A1 (ja) | 情報処理装置、情報処理方法及びコンピュータ読み取り可能な記録媒体 | |
CN110019952B (zh) | 视频描述方法、系统及装置 | |
US10402489B2 (en) | Transliteration of text entry across scripts | |
US11645539B2 (en) | Machine learning-based techniques for representing computing processes as vectors | |
CN116306612A (zh) | 一种词句生成方法及相关设备 | |
JP6972788B2 (ja) | 特定プログラム、特定方法および情報処理装置 | |
CN114064845A (zh) | 关系表示模型的训练方法、装置及电子设备 | |
CN111723247A (zh) | 基于图的假设计算 | |
WO2014030258A1 (ja) | 形態素解析装置、テキスト分析方法、及びそのプログラム | |
CN113935387A (zh) | 文本相似度的确定方法、装置和计算机可读存储介质 | |
US11615260B2 (en) | Systems and methods for enforcing constraints in character recognition | |
CN113742455B (zh) | 基于人工智能的简历搜索方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191112 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200821 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200825 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201002 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20201027 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210122 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20210122 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20210202 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20210209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210302 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210315 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6862914 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |