JP7351942B2 - 分野フレーズマイニング方法、装置及び電子機器 - Google Patents
分野フレーズマイニング方法、装置及び電子機器 Download PDFInfo
- Publication number
- JP7351942B2 JP7351942B2 JP2022004275A JP2022004275A JP7351942B2 JP 7351942 B2 JP7351942 B2 JP 7351942B2 JP 2022004275 A JP2022004275 A JP 2022004275A JP 2022004275 A JP2022004275 A JP 2022004275A JP 7351942 B2 JP7351942 B2 JP 7351942B2
- Authority
- JP
- Japan
- Prior art keywords
- phrase
- word vector
- field
- target
- unknown
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/19007—Matching; Proximity measures
- G06V30/19093—Proximity measures, i.e. similarity or distance measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
- G06V30/19107—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/196—Recognition using electronic means using sequential comparisons of the image signals with a plurality of references
- G06V30/1983—Syntactic or structural pattern recognition, e.g. symbolic string recognition
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Machine Translation (AREA)
Description
ここで、psum(X)は、n個のターゲット単語ベクトルと第二単語ベクトルとの間の類似度値総和を表し、Piは、n個のターゲット単語ベクトルのうち、対応するi個目のターゲット単語ベクトルと第二単語ベクトルとの間の類似度を表し、r(X)は、第二単語ベクトル及びその周囲における第一単語ベクトルの状況と、これらの第一単語ベクトルと第一クラスタのクラスタ中心との距離の状況を表し、centerposは、第一クラスタのクラスタ中心に対応するベクトルを表し、cosine(x,centerpos)は、第二単語ベクトルと第一クラスタのクラスタ中心との間の距離を表し、centernegは、第二クラスタのクラスタ中心に対応するベクトルを表し、cosine(x,centerneg)は、第二単語ベクトルと第二クラスタのクラスタ中心との間の距離を表す。
r(x)=cosine(x,centerpos)となり、ターゲット単語ベクトルが第三単語ベクトルの場合、r(x)=-10*cosine(x,centerneg)となり、ターゲット単語ベクトルが第二単語ベクトルの場合、r(x)=0となる。
Claims (13)
- 電子機器により実行される分野フレーズマイニング方法であって、
ターゲットテキスト内の分野フレーズであって、前記ターゲットテキストの属する分野におけるフレーズとなる分野フレーズに対し、単語ベクトル変換を行って第一単語ベクトルを獲得し、前記ターゲットテキスト内の未知フレーズに対し、単語ベクトル変換を行って第二単語ベクトルを獲得することと、
前記第一単語ベクトルと前記第二単語ベクトルとによって形成された単語ベクトル空間を取得し、前記単語ベクトル空間内の、前記第二単語ベクトルの周囲に位置する所定の数のターゲット単語ベクトルを認識することと、
前記所定の数のターゲット単語ベクトルと前記第二単語ベクトルとの間の類似度値に基づいて、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであるかどうかを確定することと、
を含む分野フレーズマイニング方法。 - 前記第一単語ベクトルによって形成された第一クラスタを取得し、所定の通常フレーズを第三単語ベクトルに変換して形成された第二クラスタを取得することと、
前記第二単語ベクトルと前記第一クラスタのクラスタ中心との間の第一距離を取得するとともに、前記第二単語ベクトルと前記第二クラスタのクラスタ中心との間の第二距離を取得することと、
を含み、
前記の前記単語ベクトル空間内の、前記第二単語ベクトルの周囲に位置する所定の数のターゲット単語ベクトルを認識することが、
前記第一距離が前記第二距離よりも小さい場合、前記単語ベクトル空間内の、前記第二単語ベクトルの周囲に位置する所定の数のターゲット単語ベクトルを認識することを含む請求項1に記載の方法。 - 前記の前記所定の数のターゲット単語ベクトルと前記第二単語ベクトルとの間の類似度値に基づいて、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであるかどうかを確定することが、
各々の前記ターゲット単語ベクトルと前記第二単語ベクトルとの間のターゲット類似度値を取得し、前記所定の数のターゲット類似度値を得て、前記所定の数のターゲット類似度値の類似度値総和を取得することと、
前記類似度値総和が所定の閾値よりも大きい場合、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであると確定することと、
前記類似度値総和が前記所定の閾値よりも小さい場合、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズではないと確定することと、
を含む請求項1に記載の方法。 - 前記所定の閾値が、前記分野フレーズの数及び所定の通常フレーズの数に関連するものである請求項3に記載の方法。
- 前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであると確定した場合、前記未知フレーズを、分野フレーズマイニングモデルの訓練用ポジティブサンプルであって、単語ベクトル変換が行われると、第一クラスタに属するようになる訓練用ポジティブサンプルとすることと、
前記未知フレーズが前記ターゲットテキストの属する分野のフレーズではないと確定した場合、前記未知フレーズを、分野フレーズマイニングモデルの訓練用ネガティブサンプルであって、単語ベクトル変換が行われると、第二クラスタに属するようになる訓練用ネガティブサンプルとすることと、
を含み、
前記分野フレーズマイニングモデルが、ツインネットワーク構造モデルである請求項1に記載の方法。 - ターゲットテキスト内の分野フレーズであって、前記ターゲットテキストの属する分野におけるフレーズとなる分野フレーズに対し、単語ベクトル変換を行って第一単語ベクトルを獲得し、前記ターゲットテキスト内の未知フレーズに対し、単語ベクトル変換を行って第二単語ベクトルを獲得するための変換モジュールと、
前記第一単語ベクトルと前記第二単語ベクトルとによって形成された単語ベクトル空間を取得し、前記単語ベクトル空間内の、前記第二単語ベクトルの周囲に位置する所定の数のターゲット単語ベクトルを認識するための認識モジュールと、
前記所定の数のターゲット単語ベクトルと前記第二単語ベクトルとの間の類似度値に基づいて、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであるかどうかを確定するための確定モジュールと、
を備える分野フレーズマイニング装置。 - 前記第一単語ベクトルによって形成された第一クラスタを取得し、所定の通常フレーズを第三単語ベクトルに変換して形成された第二クラスタを取得するための第一取得モジュールと、
前記第二単語ベクトルと前記第一クラスタのクラスタ中心との間の第一距離を取得するとともに、前記第二単語ベクトルと前記第二クラスタのクラスタ中心との間の第二距離を取得するための第二取得モジュールと、
を備え、
前記認識モジュールが、前記第一距離が前記第二距離よりも小さい場合、前記単語ベクトル空間内の、前記第二単語ベクトルの周囲に位置する所定の数のターゲット単語ベクトルを認識するために用いられる請求項6に記載の装置。 - 前記確定モジュールが、
各々の前記ターゲット単語ベクトルと前記第二単語ベクトルとの間のターゲット類似度値を取得し、前記所定の数のターゲット類似度値を得て、前記所定の数のターゲット類似度値の類似度値総和を取得し、
前記類似度値総和が所定の閾値よりも大きい場合、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであると確定し、
前記類似度値総和が前記所定の閾値よりも小さい場合、前記未知フレーズが前記ターゲットテキストの属する分野のフレーズではないと確定するために用いられる請求項6に記載の装置。 - 前記所定の閾値が、前記分野フレーズの数及び所定の通常フレーズの数に関連するものである請求項8に記載の装置。
- 前記確定モジュールが、
前記未知フレーズが前記ターゲットテキストの属する分野のフレーズであると確定した場合、前記未知フレーズを、分野フレーズマイニングモデルの訓練用ポジティブサンプルであって、単語ベクトル変換が行われると、第一クラスタに属するようになる訓練用ポジティブサンプルとし、
前記未知フレーズが前記ターゲットテキストの属する分野のフレーズではないと確定した場合、前記未知フレーズを、分野フレーズマイニングモデルの訓練用ネガティブサンプルであって、単語ベクトル変換が行われると、第二クラスタに属するようになる訓練用ネガティブサンプルとするために更に用いられ、
前記分野フレーズマイニングモデルが、ツインネットワーク構造モデルである請求項6に記載の装置。 - 少なくとも1つのプロセッサと、
該少なくとも1つのプロセッサと通信接続されたメモリと、
を備える電子機器であって、
前記メモリには、前記少なくとも1つのプロセッサによって実行され得る命令が記憶されており、前記命令が前記少なくとも1つのプロセッサによって実行されることで、前記少なくとも1つのプロセッサが請求項1から5のいずれか一項に記載の方法を実行可能となる電子機器。 - コンピュータ命令を記憶した非一時的なコンピュータ読取可能な記憶媒体であって、前記コンピュータ命令が、請求項1から5のいずれか一項に記載の方法をコンピュータに実行させるためのものである非一時的なコンピュータ読取可能な記憶媒体。
- コンピュータプログラムを含むコンピュータプログラム製品であって、前記コンピュータプログラムがプロセッサによって実行されると、請求項1から5のいずれか一項に記載の方法が実現されるコンピュータプログラム製品。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110308803.3 | 2021-03-23 | ||
CN202110308803.3A CN112818686B (zh) | 2021-03-23 | 2021-03-23 | 领域短语挖掘方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022050622A JP2022050622A (ja) | 2022-03-30 |
JP7351942B2 true JP7351942B2 (ja) | 2023-09-27 |
Family
ID=75863512
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022004275A Active JP7351942B2 (ja) | 2021-03-23 | 2022-01-14 | 分野フレーズマイニング方法、装置及び電子機器 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220138424A1 (ja) |
JP (1) | JP7351942B2 (ja) |
KR (1) | KR20220010045A (ja) |
CN (1) | CN112818686B (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114818693A (zh) * | 2022-03-28 | 2022-07-29 | 平安科技(深圳)有限公司 | 一种语料匹配的方法、装置、计算机设备及存储介质 |
WO2024043355A1 (ko) * | 2022-08-23 | 2024-02-29 | 주식회사 아카에이아이 | 언어 데이터를 관리하는 방법 및 그를 이용한 서버 |
CN115495507B (zh) * | 2022-11-17 | 2023-03-24 | 江苏鸿程大数据技术与应用研究院有限公司 | 一种工程材料信息价格匹配方法、系统及存储介质 |
CN116450830B (zh) * | 2023-06-16 | 2023-08-11 | 暨南大学 | 一种基于大数据的智慧校园推送方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010231526A (ja) | 2009-03-27 | 2010-10-14 | Nec Corp | 辞書構築装置、辞書構築方法および辞書構築用プログラム |
JP2018536920A (ja) | 2016-02-18 | 2018-12-13 | ▲騰▼▲訊▼科技(深▲セン▼)有限公司 | テキスト情報処理方法およびデバイス |
CN111814474A (zh) | 2020-09-14 | 2020-10-23 | 智者四海(北京)技术有限公司 | 领域短语挖掘方法及装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10372739B2 (en) * | 2014-03-17 | 2019-08-06 | NLPCore LLC | Corpus search systems and methods |
US11157539B2 (en) * | 2018-06-22 | 2021-10-26 | Microsoft Technology Licensing, Llc | Topic set refinement |
US10929439B2 (en) * | 2018-06-22 | 2021-02-23 | Microsoft Technology Licensing, Llc | Taxonomic tree generation |
CN110858217A (zh) * | 2018-08-23 | 2020-03-03 | 北大方正集团有限公司 | 微博敏感话题的检测方法、装置及可读存储介质 |
US10459962B1 (en) * | 2018-09-19 | 2019-10-29 | Servicenow, Inc. | Selectively generating word vector and paragraph vector representations of fields for machine learning |
CN110263343B (zh) * | 2019-06-24 | 2021-06-15 | 北京理工大学 | 基于短语向量的关键词抽取方法及系统 |
US11250214B2 (en) * | 2019-07-02 | 2022-02-15 | Microsoft Technology Licensing, Llc | Keyphrase extraction beyond language modeling |
CN110442760B (zh) * | 2019-07-24 | 2022-02-15 | 银江技术股份有限公司 | 一种问答检索系统的同义词挖掘方法及装置 |
CN111949767A (zh) * | 2020-08-20 | 2020-11-17 | 深圳市卡牛科技有限公司 | 一种文本关键词的查找方法、装置、设备和存储介质 |
CN112101043B (zh) * | 2020-09-22 | 2021-08-24 | 浙江理工大学 | 一种基于注意力的语义文本相似度计算方法 |
CN112328655B (zh) * | 2020-11-02 | 2024-05-24 | 中国平安人寿保险股份有限公司 | 文本标签挖掘方法、装置、设备及存储介质 |
-
2021
- 2021-03-23 CN CN202110308803.3A patent/CN112818686B/zh active Active
-
2022
- 2022-01-06 KR KR1020220002376A patent/KR20220010045A/ko active IP Right Grant
- 2022-01-13 US US17/574,671 patent/US20220138424A1/en active Pending
- 2022-01-14 JP JP2022004275A patent/JP7351942B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010231526A (ja) | 2009-03-27 | 2010-10-14 | Nec Corp | 辞書構築装置、辞書構築方法および辞書構築用プログラム |
JP2018536920A (ja) | 2016-02-18 | 2018-12-13 | ▲騰▼▲訊▼科技(深▲セン▼)有限公司 | テキスト情報処理方法およびデバイス |
CN111814474A (zh) | 2020-09-14 | 2020-10-23 | 智者四海(北京)技术有限公司 | 领域短语挖掘方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2022050622A (ja) | 2022-03-30 |
KR20220010045A (ko) | 2022-01-25 |
US20220138424A1 (en) | 2022-05-05 |
CN112818686A (zh) | 2021-05-18 |
CN112818686B (zh) | 2023-10-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7351942B2 (ja) | 分野フレーズマイニング方法、装置及び電子機器 | |
WO2020182122A1 (zh) | 用于生成文本匹配模型的方法和装置 | |
US20210312139A1 (en) | Method and apparatus of generating semantic feature, method and apparatus of training model, electronic device, and storage medium | |
US20230010160A1 (en) | Multimodal data processing | |
US20220318275A1 (en) | Search method, electronic device and storage medium | |
US20230196716A1 (en) | Training multi-target image-text matching model and image-text retrieval | |
US20240105159A1 (en) | Speech processing method and related device | |
CN106649853A (zh) | 一种基于深度学习的短文本聚类方法 | |
US20230071661A1 (en) | Method for training image editing model and method for editing image | |
JP2023022845A (ja) | ビデオ処理方法、ビデオサーチ方法及びモデルトレーニング方法、装置、電子機器、記憶媒体及びコンピュータプログラム | |
US20230022677A1 (en) | Document processing | |
CN112749300B (zh) | 用于视频分类的方法、装置、设备、存储介质和程序产品 | |
KR20230139296A (ko) | 포인트 클라우드 처리 모델의 훈련과 포인트 클라우드 인스턴스 분할 방법 및 장치 | |
US20220414474A1 (en) | Search method, electronic device and storage medium based on neural network model | |
US20230066021A1 (en) | Object detection | |
US20230215136A1 (en) | Method for training multi-modal data matching degree calculation model, method for calculating multi-modal data matching degree, and related apparatuses | |
KR20220141225A (ko) | 음성 인식 방법 및 장치 | |
CN113407698A (zh) | 意图识别模型的训练与意图识别的方法、装置 | |
JP7357114B2 (ja) | 生体検出モデルのトレーニング方法、装置、電子機器および記憶媒体 | |
CN115544227A (zh) | 多模态数据的情感分析方法、装置、设备及存储介质 | |
JP2023002690A (ja) | セマンティックス認識方法、装置、電子機器及び記憶媒体 | |
CN114861758A (zh) | 多模态数据处理方法、装置、电子设备及可读存储介质 | |
CN116257611B (zh) | 问答模型的训练方法、问答处理方法、装置及存储介质 | |
WO2021086676A1 (en) | Moment localization in media stream | |
KR20240067967A (ko) | 음성 웨이크업 방법, 음성 웨이크업 장치, 전자장비, 저장 매체 및 컴퓨터 프로그램 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220114 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230210 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230614 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230815 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230914 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7351942 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |