JP7055848B2 - 学習装置、学習方法、学習プログラム、及び請求項マップ作成装置 - Google Patents
学習装置、学習方法、学習プログラム、及び請求項マップ作成装置 Download PDFInfo
- Publication number
- JP7055848B2 JP7055848B2 JP2020158458A JP2020158458A JP7055848B2 JP 7055848 B2 JP7055848 B2 JP 7055848B2 JP 2020158458 A JP2020158458 A JP 2020158458A JP 2020158458 A JP2020158458 A JP 2020158458A JP 7055848 B2 JP7055848 B2 JP 7055848B2
- Authority
- JP
- Japan
- Prior art keywords
- document
- learning
- documents
- unit
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 60
- 238000013507 mapping Methods 0.000 title claims 2
- 239000013598 vector Substances 0.000 claims description 80
- 238000004458 analytical method Methods 0.000 claims description 15
- 230000000877 morphologic effect Effects 0.000 claims description 14
- 238000013136 deep learning model Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 7
- 238000007781 pre-processing Methods 0.000 claims description 7
- 238000013135 deep learning Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 8
- 230000001537 neural effect Effects 0.000 description 6
- 230000002457 bidirectional effect Effects 0.000 description 5
- 230000001419 dependent effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
11 形態素解析部
12 ニューラル言語モデル部
20 前処理部
30 学習部
31 第1ニューラルネットワーク部
32 第2ニューラルネットワーク部
40 入力部
50 ベクトル表現計算部
60 出力部
100 学習装置
1000 請求項マップ作成装置
Claims (5)
- 複数の請求項を含む複数の特許文献から、請求項文書を含む特許文章を入力する入力部と、
入力された前記特許文章に含まれる単語の分散表現を計算する事前学習部と、
前記請求項文書を形態素解析することにより単語単位に分割し、前記単語の分散表現を利用して、分割された前記単語のそれぞれをベクトル表現化し、前記請求項文書をテンソル化する前処理部と、
テンソル化された前記請求項文書のペアを入力として受け付け、入力された前記請求項文書のペアのそれぞれを文書ベクトル表現化し、文書ベクトル表現化された前記請求項文書のペアのベクトル間類似度を算出し、算出された前記ベクトル間類似度に基づいて類似すると判断された請求項文書のペアが、同一特許文献由来の場合には正解とし、異なる特許文献由来の場合には不正解とし、正解率が所定の閾値を超えるまで、文書ベクトル表現化を行うためのパラメータを誤差逆伝播法により最適化する深層学習を行なって深層学習モデルを作成する学習部と、
を有することを特徴とする学習装置。 - 前記学習部は、前記請求項文書に含まれる特別な技術的特徴に対して重みづけを行う自己注意機構を備えることを特徴とする、請求項1に記載の学習装置。
- 入力部が、複数の請求項を含む複数の特許文献から、請求項文書を含む特許文章を入力し、
事前学習部が、入力された前記特許文章に含まれる単語の分散表現を計算し、
前処理部が、前記請求項文書を形態素解析することにより単語単位に分割し、前記単語の分散表現を利用して、分割された前記単語のそれぞれをベクトル表現化し、前記請求項文書をテンソル化し、
学習部が、テンソル化された前記請求項文書のペアを入力として受け付け、入力された前記請求項文書のペアのそれぞれを文書ベクトル表現化し、文書ベクトル表現化された前記請求項文書のペアのベクトル間類似度を算出し、算出された前記ベクトル間類似度に基づいて類似すると判断された請求項文書のペアが、同一特許文献由来の場合には正解とし、異なる特許文献由来の場合には不正解とし、正解率が所定の閾値を超えるまで、文書ベクトル表現化を行うためのパラメータを誤差逆伝播法により最適化する深層学習を行なって深層学習モデルを作成する、
ことを特徴とする学習方法。 - コンピュータを請求項1または2に記載の学習装置として機能させることを特徴とする学習プログラム。
- 請求項1または2に記載の学習装置と、
前記学習装置によって作成された前記深層学習モデルを用いて、テンソル化された前記請求項文書の多次元のベクトル表現を計算するベクトル表現計算部と、
計算された多次元のベクトル表現を2次元のベクトル表現に圧縮し、前記請求項文書間の類似性をベクトル間距離として出力する出力部と、
を有することを特徴とする請求項マップ作成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020158458A JP7055848B2 (ja) | 2020-09-23 | 2020-09-23 | 学習装置、学習方法、学習プログラム、及び請求項マップ作成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020158458A JP7055848B2 (ja) | 2020-09-23 | 2020-09-23 | 学習装置、学習方法、学習プログラム、及び請求項マップ作成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022052212A JP2022052212A (ja) | 2022-04-04 |
JP7055848B2 true JP7055848B2 (ja) | 2022-04-18 |
Family
ID=80948637
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020158458A Active JP7055848B2 (ja) | 2020-09-23 | 2020-09-23 | 学習装置、学習方法、学習プログラム、及び請求項マップ作成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7055848B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116912047B (zh) * | 2023-09-13 | 2023-11-28 | 湘潭大学 | 一种专利结构感知相似性检测方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019040402A (ja) | 2017-08-25 | 2019-03-14 | 和之 白井 | 特許要件適否予測装置および特許要件適否予測プログラム |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH096799A (ja) * | 1995-06-19 | 1997-01-10 | Sharp Corp | 文書分類装置及び文書検索装置 |
-
2020
- 2020-09-23 JP JP2020158458A patent/JP7055848B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019040402A (ja) | 2017-08-25 | 2019-03-14 | 和之 白井 | 特許要件適否予測装置および特許要件適否予測プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2022052212A (ja) | 2022-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Dahouda et al. | A deep-learned embedding technique for categorical features encoding | |
CA3085033C (en) | Methods and systems for multi-label classification of text data | |
CN113011533B (zh) | 文本分类方法、装置、计算机设备和存储介质 | |
CN110298037B (zh) | 基于增强注意力机制的卷积神经网络匹配的文本识别方法 | |
CN110209806B (zh) | 文本分类方法、文本分类装置及计算机可读存储介质 | |
CN112100346B (zh) | 基于细粒度图像特征和外部知识相融合的视觉问答方法 | |
CN112800292B (zh) | 一种基于模态特定和共享特征学习的跨模态检索方法 | |
CN110619044B (zh) | 一种情感分析方法、系统、存储介质及设备 | |
CN110704621A (zh) | 文本处理方法、装置及存储介质和电子设备 | |
CN110427486B (zh) | 身体病况文本的分类方法、装置及设备 | |
CN112052684A (zh) | 电力计量的命名实体识别方法、装置、设备和存储介质 | |
CN111428490B (zh) | 一种利用语言模型的指代消解弱监督学习方法 | |
CN113065331A (zh) | 基于实体上下文判别的实体情感识别方法和系统 | |
CN112306494A (zh) | 一种基于卷积和循环神经网络的代码分类及聚类方法 | |
CN111145914B (zh) | 一种确定肺癌临床病种库文本实体的方法及装置 | |
CN113987187A (zh) | 基于多标签嵌入的舆情文本分类方法、系统、终端及介质 | |
CN114239585A (zh) | 一种生物医学嵌套命名实体识别方法 | |
US20220156489A1 (en) | Machine learning techniques for identifying logical sections in unstructured data | |
CN111241271B (zh) | 文本情感分类方法、装置及电子设备 | |
CN115860006A (zh) | 一种基于语义句法的方面级情感预测方法及装置 | |
Liu et al. | Dual-feature-embeddings-based semi-supervised learning for cognitive engagement classification in online course discussions | |
CN115510230A (zh) | 一种基于多维特征融合与比较增强学习机制的蒙古语情感分析方法 | |
EP4089568A1 (en) | Cascade pooling for natural language document processing | |
CN117217277A (zh) | 语言模型的预训练方法、装置、设备、存储介质及产品 | |
CN110889505A (zh) | 一种图文序列匹配的跨媒体综合推理方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200923 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20201021 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211102 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220406 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7055848 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |