KR20210037634A - 이벤트 아규먼트 추출 방법, 장치, 및 전자 기기 - Google Patents
이벤트 아규먼트 추출 방법, 장치, 및 전자 기기 Download PDFInfo
- Publication number
- KR20210037634A KR20210037634A KR1020210034632A KR20210034632A KR20210037634A KR 20210037634 A KR20210037634 A KR 20210037634A KR 1020210034632 A KR1020210034632 A KR 1020210034632A KR 20210034632 A KR20210034632 A KR 20210034632A KR 20210037634 A KR20210037634 A KR 20210037634A
- Authority
- KR
- South Korea
- Prior art keywords
- event
- argument
- extracted
- trained
- waiting
- Prior art date
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 212
- 238000012549 training Methods 0.000 claims abstract description 90
- 238000000034 method Methods 0.000 claims abstract description 52
- 230000006870 function Effects 0.000 claims description 49
- 230000015654 memory Effects 0.000 claims description 23
- 238000013145 classification model Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 6
- 238000004891 communication Methods 0.000 claims description 5
- 238000010276 construction Methods 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 8
- 230000000694 effects Effects 0.000 description 17
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 240000007829 Haematoxylum campechianum Species 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012954 risk control Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001954 sterilising effect Effects 0.000 description 1
- 238000004659 sterilization and disinfection Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
-
- G06N7/005—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
- G06V20/43—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of news video content
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Probability & Statistics with Applications (AREA)
- Multimedia (AREA)
- Evolutionary Biology (AREA)
- Business, Economics & Management (AREA)
- Medical Informatics (AREA)
- Algebra (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Molecular Biology (AREA)
- Finance (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
Abstract
본 출원은 지식 그래프 기술 분야에 관한 이벤트 아규먼트 추출 방법, 장치 및 전자 기기를 개시한다. 구체적인 방법은, 추출 대기인 이벤트 내용을 획득하고, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득한다, 여기서, 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하여 획득하는 것을 특징으로 한다.
Description
본 개시는 컴퓨터 기술 중 지식 그래프 기술 분야에 관한 것으로서, 특히 이벤트 아규먼트 추출 방법, 장치, 및 전자 기기에 관한 것이다.
이벤트 아규먼트 추출이란 이벤트 서술 중에서 이벤트의 각 구성 요소(시간, 위치, 참가자, 이벤트에 적합한 관련 내용 등)를 추출하는 것을 지칭하며, 요소는 즉 아규먼트이고, 각 아규먼트는 한 가지의 아규먼트 캐릭터에 대응하며, 최종적으로, 구조화된 지식의 형식으로 사용자에게 전시된다.
현재, 통상적으로 이용되는 이벤트 아규먼트 추출 모델은 분류 맥락에 기초하지만, 상이한 이벤트 타입의 이벤트 아규먼트 캐릭터는 상이하여, 현재의 간단한 분류 모델을 통하여 아규먼트 추출을 진행할 시 그 효과는 열등하다.
본 개시는 이벤트 아규먼트 추출 방법, 장치, 및 전자 기기를 제공하여, 이벤트 아규먼트 추출 효과가 열등한 문제를 해결하고자 한다.
제1 측면에서, 본 개시의 실시예는 이벤트 아규먼트 추출 방법을 제공하며, 추출 대기인 이벤트 내용을 획득하는 단계; 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계;를 포함하고, 여기서, 상기 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하여 획득된다.
본 개시의 실시예의 이벤트 아규먼트 추출 방법에서, 추출 대기인 이벤트 내용을 아규먼트 추출하는데 사용되는 훈련된 이벤트 아규먼트 추출 모델은, 이벤트 뉴스 표기 데이터 및 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하는 것이고, 즉 훈련 과정에, 훈련에 사용되는 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 고려 함으로써, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시킬 수 있고, 따라서 아규먼트 추출 효과를 향상시킬 수 있다.
선택적으로, 상기 훈련된 이벤트 아규먼트 추출 모델은 적어도, 상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 방식;을 통하여 획득되며, 여기서, 상기 손실 함수와 상기 사전 훈련 모델은 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값 및 상기 각 아규먼트의 가중치와 관련된다.
이벤트 뉴스 표기 데이터 및 손실 함수를 통해 사전 훈련 모델에 대해 훈련을 진행하고, 손실 함수는 사전 훈련 모델이 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값을 고려하였을 뿐만 아니라, 각 아규먼트의 가중치도 고려하여, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시키고, 따라서 아큐먼트 추출 효과를 향상시킨다.
선택적으로, 상기 손실 함수는 상기 사전 훈련 모델이 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우도(Negative Log Likelihood)의 가중치 합이다.
즉, 손실 함수는 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해서, 사전 훈련 모델이 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우드를 가중한 합계로 획득하고, 가중한 합계로 획득한 손실 함수를 훈련하여, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시키고, 따라서 아규먼트 추출 효과를 향상시킨다.
선택적으로, 상기 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계는, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하는 단계; 상기 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 상기 타겟 아규먼트로 하는 단계;를 포함하고, 여기서, 상기 확률 임계치는 상기 적어도 하나의 아규먼트의 예측 확률값 중 가장 큰 예측 확률값에 사전 설정 계수를 곱한 수치이고, 상기 사전 설정 계수는 1 보다 작거나 같은 양수이다.
이로 인하여, 최대 예측 확률값 및 사전 설정 계수에 의해 적어도 하나의 아규먼트에서 타겟 아규먼트를 확정하여, 타겟 아규먼트의 정확성을 향상시킨다.
선택적으로, 상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것은, 사전 설정 문답 포맷에 근거하여, 상기 이벤트 뉴스 표기 데이터에 대해 포맷 변환을 진행하여, 뉴스 문답 데이터를 획득하는 것; 및 상기 뉴스 문답 데이터 및 상기 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것;을 포함한다.
본 실시예에서, 뉴스 문답 데이터 및 상기 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하고, 따라서, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시키고, 아규먼트 추출 효과를 향상시킨다.
선택적으로, 상기 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계는, 훈련된 이벤트 타입 분류 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 타입을 예측하는 단계; 훈련된 이벤트 센텐스 판별 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션을 예측하는 단계; 상기 이벤트 타입, 상기 이벤트 디스크립션, 상기 이벤트 타입에 대응하는 아규먼트 캐릭터 및 사전 설정 문답 포맷에 기초하여, 상기 추출 대기인 이벤트 내용에 대응하는 추출 대기인 문답 데이터를 구축하는 단계 - 여기서, 상기 추출 대기인 문답 데이터의 포맷은 상기 사전 설정 문답 포맷과 매칭되고, 상기 추출 대기인 문답 데이터는 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션, 상기 추출 대기인 이벤트 내용의 이벤트 타입, 및 상기 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함 -; 및 상기 추출 대기인 문답 데이터를 상기 훈련된 아규먼트 추출 모델에 입력하고, 상기 훈련된 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여, 상기 타겟 아규먼트를 획득하는 단계;를 포함한다.
본 실시예에서, 이벤트 아규먼트 추출 모델에 입력되는 추출 대기인 문답 데이터는, 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션, 상기 추출 대기인 이벤트 내용의 이벤트 타입 및 상기 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함하고, 포맷과 독해 데이터의 포맷과 매칭되는 추출 대기인 문답 데이터를 훈련된 아규먼트 추출 모델에 입력하여 이벤트 아규먼트 추출을 진행하며, 이벤트 아규먼트 추출 모델은 사전 훈련 모델 기초상에, 이벤트 뉴스 샘플과 독해 데이터 도입을 통해, 훈련을 진행하여 획득 함으로써, 이벤트 아규먼트 추출 효과를 향상시킨다.
제2 측면에서, 본 개시의 실시예는 이벤트 아규먼트 추출 장치를 제공하며, 상기 장치는, 추출 대기인 이벤트 내용을 획득하기 위한 제1 획득 모듈; 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하기 위한 추출 모듈;을 포함하고, 여기서, 상기 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하여 획득한다.
선택적으로, 상기 훈련된 이벤트 아규먼트 추출 모델은 적어도, 상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 방식;을 통하여 획득되며, 여기서, 상기 손실 함수와 상기 사전 훈련 모델은 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값 및 상기 각 아규먼트의 가중치와 관련된다.
선택적으로, 상기 손실 함수는 상기 사전 훈련 모델이 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우도의 가중치 합이다.
선택적으로, 상기 추출 모듈은, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하기 위한 확률 예측 모듈; 상기 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 상기 타겟 아규먼트로 하기 위한 아규먼트 확정 모듈;을 포함하며, 여기서, 상기 확률 임계치는 상기 적어도 하나의 아규먼트의 예측 확률값 중 가장 큰 예측 확률값에 사전 설정 계수를 곱한 수치이고, 상기 사전 설정 계수는 1 보다 작거나 같은 양수이다.
선택적으로, 상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것은, 사전 설정 문답 포맷에 근거하여, 상기 이벤트 뉴스 표기 데이터에 대해 포맷 변환을 진행하여, 뉴스 문답 데이터를 획득하는 것; 및 상기 뉴스 문답 데이터 및 상기 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것;을 포함한다.
선택적으로, 상기 추출 모듈은, 훈련된 이벤트 타입 분류 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 타입을 예측하기 위한 제1 예측 모듈; 훈련된 이벤트 센텐스 판별 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션을 예측하기 위한 제2 예측 모듈; 상기 이벤트 타입, 상기 이벤트 디스크립션, 상기 이벤트 타입에 대응하는 아규먼트 캐릭터 및 사전 설정 문답 포맷에 기초하여, 상기 추출 대기인 이벤트 내용에 대응하는 추출 대기인 문답 데이터를 구축하기 위한 구축 모듈 - 여기서, 상기 추출 대기인 문답 데이터의 포맷은 상기 사전 설정 문답 포맷과 매칭되고, 상기 추출 대기인 문답 데이터는 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션, 상기 추출 대기인 이벤트 내용의 이벤트 타입, 및 상기 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함 -; 및 상기 추출 대기인 문답 데이터를 상기 훈련된 아규먼트 추출 모델에 입력하고, 상기 훈련된 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여 타겟 아규먼트를 획득하기 위한 아규먼트 추출 모듈;을 포함한다.
제3 측면에서, 본 개시의 실시예는 전자 기기를 제공하며, 적어도 하나의 프로세서; 및 상기 적어도 하나의 프로세서와 통신 연결하는 메모리를 포함하고, 상기 메모리에는 상기 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며, 상기 명령은 상기 적어도 하나의 프로세서에 의해 실행되어, 상기 적어도 하나의 프로세서가 본 개시 각 실시예에서 제공한 방법을 수행할 수 있도록 한다.
제4 측면에서, 본 개시의 실시예는 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능한 저장 매체를 제공하며, 상기 컴퓨터 명령은 상기 컴퓨터가 본 개시 각 실시예에서 제공한 방법을 수행하도록 한다.
첨부된 도면은 본 개시의 기술 방안을 보다 쉽게 이해하기 위한 것으로서, 본 개시에만 한정된 것이 아니다.
도 1은 본 개시에서 제공한 일 실시예의 이벤트 아규먼트 추출 방법의 플로우차트이다.
도 2는 본 개시에서 제공한 일 실시예의 이벤트 아규먼트 추출 방법의 원리도이다.
도 3은 본 개시에서 제공한 일 실시예의 이벤트 아규먼트 추출 장치의 구조도이다.
도 4는 본 개시에서 제공한 실시예의 이벤트 아규먼트 방법을 실행하기 위한 전자 기기의 블록도이다.
도 1은 본 개시에서 제공한 일 실시예의 이벤트 아규먼트 추출 방법의 플로우차트이다.
도 2는 본 개시에서 제공한 일 실시예의 이벤트 아규먼트 추출 방법의 원리도이다.
도 3은 본 개시에서 제공한 일 실시예의 이벤트 아규먼트 추출 장치의 구조도이다.
도 4는 본 개시에서 제공한 실시예의 이벤트 아규먼트 방법을 실행하기 위한 전자 기기의 블록도이다.
아래 도면과 결부시켜 본 개시의 예시적 실시예를 설명하되, 여기에 이해를 돕기 위한 본 개시의 실시예의 다양한 세부사항들이 포함되지만, 이들은 단지 예시적인 것으로 이해해야 한다. 따라서, 본 기술분야의 통상의 기술자는 본 개시의 범위 및 정신을 벗어나지 않는 전제 하에 여기서 설명된 실시예에 대해 다양한 변형 및 수정을 진행할 수 있음을 이해해야 한다. 마찬가지로, 명확 및 간략을 위해, 아래의 설명에서 공지 기능 및 구조에 대한 설명을 생략한다.
도 1을 참조하면, 본 개시의 실시예에 따라, 전자 기기에 적용될 수 있는 이벤트 아규먼트 추출 방법을 제공하며, 아래와 같은 단계를 포함한다.
단계 S101은, 추출 대기인 이벤트 내용을 획득한다.
이벤트 내용은 이벤트 뉴스 (예를 들어, 뉴스 타이틀, 뉴스 텍스트 등)를 포함하고, 추출 대기인 이벤트 내용은 추출 대기인 이벤트 뉴스를 포함하며, 후속적으로 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행 한다는 것을 이해할 수 있다. 해당 추출 대기인 이벤트 내용은 실제 응용 분야의 이벤트로부터 획득할 수 있다. 예를 들면, 금융 분야에서는, 금융 분야의 추출 대기인 이벤트 내용을 획득하고, 후속적으로 아규먼트 추출을 진행한다. 또한, 인터넷 기술 분야에서는, 인터넷 기술 분야의 이벤트 뉴스들로부터 추출 대기인 이벤트 뉴스를 획득하고, 후속적으로 아규먼트 추출을 진행한다.
단계 S102는, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득한다.
여기서, 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해, 사전 훈련 모델에 대해 훈련하여 획득한다.
사전에 훈련을 통해 훈련된 이벤트 아규먼트 추출 모델을 획득하고, 추출 대기인 이벤트 내용을 얻은 후, 훈련된 이벤트 아규먼트 추출 모델을 이용하여 추출 대기인 이벤트 내용의 아규먼트 추출을 진행하여, 타겟 아규먼트를 확정한다. 일 실시예에서, 타겟 아규먼트의 수량은 적어도 하나이고, 훈련된 이벤트 아규먼트 추출 모델을 이용하여, 추출 대기인 이벤트 내용의 아규먼트를 추출하여, 적어도 하나의 타겟 아규먼트를 확정할 수 있다.
본 실시예들에서, 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치에 기초하여 훈련하여 얻어지며, 여기서, 이벤트 뉴스 표기 데이터는 이벤트 아규먼트 태그 데이터로 이해할 수 있고, 즉 이벤트 뉴스 뿐만 아니라 이벤트 뉴스 중 아규먼트는 이미 주석되었으며, 또한 아규먼트 태그 데이터를 포함한다. 이벤트 뉴스 샘플은 뉴스 텍스트 등 일수도 있고, 실제 응용 분야 중의 이벤트 뉴스 샘플 일수도 있다. 예를 들면, 실제 응용 분야 중의 실시간 뉴스 일수 있다. 일 실시예에서, 가중치의 계산 방법은 여러가지가 있고, 예컨대 용어 중요도 계산 모델에 의해 정규화된 가중치가 계산될 수 있다.
본 개시의 실시예의 이벤트 아규먼트 추출 방법에 있어서, 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하는 훈련된 이벤트 아규먼트 추출 모델은, 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치가 사전 훈련 모델을 훈련 시키는 것으로서, 즉 훈련 과정에, 훈련을 위한 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트 가중치를 고려함으로써, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시킬수 있고, 따라서 아규먼트 추출 효과를 높일수 있다. 동시에 본 실시예는 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 모델에 대해 훈련을 진행함으로써, 하나의 아규먼트 캐릭터가 다수의 아규먼트인 문제점을 해결 하고, 훈련된 이벤트 아규먼트 추출 모델이 다수의 아규먼트를 추출하는 능력을 향상시키고, 따라서 다수의 아규먼트 추출에 대한 효과를 향상시킨다.
일 실시예에서, 훈련된 이벤트 아규먼트 추출 모델은 적어도, 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 획득하는 방식을 통하여 획득되며, 여기서, 손실 함수와 사전 훈련 모델은 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값 및 각 아규먼트의 가중치와 관련된다.
사전 훈련 모델 훈련 과정에, 손실 함수가 관련 될수 있고, 상이한 사전 훈련 모델이 대응하는 손실 함수는 상이할 수 있다. 본 실시예에서, 이벤트 뉴스 표기 데이터, 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치 및 손실 함수를 통해 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 얻을수 있다.
이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하고, 손실 함수는 사전 훈련 모델에 의한 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값을 고려하였을 뿐만 아니라, 각 아규먼트의 가중치도 고려하여, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시키고, 따라서 아큐먼트 추출 효과를 향상시킨다.
일 실시예에서, 손실 함수는 사전 훈련 모델이 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우도의 가중치 합이다.
즉, 손실 함수는 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해서, 사전 훈련 모델이 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우드를 가중한 합계로 획득하고, 가중한 합계로 획득한 손실 함수를 이용하여 훈련되며, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시키고, 따라서 아규먼트 추출 효과를 향상시킨다.
일 실시예에서, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계는, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대하여 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하는 단계; 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 타겟 아규먼트로 하는 단계;를 포함하고, 여기서, 확률 임계치는 적어도 하나의 아규먼트의 예측 확률값 중 가장 큰 예측 확률값에 사전 설정 계수를 곱한 수치이고, 사전 설정 계수는 1 보다 작거나 같은 양수이다.
본 실시예에서, 훈련된 시간 아규먼트 추출 모델을 이용하여 추출 대기인 이벤트 내용을 아규먼트 추출을 진행하는 과정에서, 먼저 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하고, 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 타겟 아규먼트로 하여, 아규먼트 추출을 실현 한다. 그러므로, 최대 예측 확률값 및 사전 설정 계수에 의해 적어도 하나의 아규먼트 중 에서 타겟 아규먼트를 확정하여, 타겟 아규먼트의 정확성을 향상시킨다.
일 실시예에서, 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것은, 사전 설정 문답 포맷에 근거하여, 이벤트 뉴스 표기 데이터에 대해 포맷 변환을 진행하여, 뉴스 문답 데이터를 획득하는 것; 및 뉴스 문답 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것;을 포함한다.
사전 설정 문답 포맷은 디스크립션, 문제 및 문제에 대응하는 답안(즉 아규먼트) 등 세 가지 요소로 구성되고, 즉 사전 설정 문답 포맷을 가진 데이터는 세 가지 요소의 내용을 포함한다.이벤트 뉴스 표기 데이터에 대하여 사전 설정 문답 포맷에 의한 포맷 변환에 근거하여 뉴스 문답 데이터를 획득하며, 즉 이벤트 뉴스 표기 데이터를 사전 설정 문답 포맷의 뉴스 문답 데이터로 변환 시키고, 뉴스 문답 데이터에는 사전 설정 문답 포맷 중 세 가지 요소의 내용가 포함되며, 뉴스 문답 데이터 중 세 가지 요소의 내용은 이벤트 뉴스 표기 데이터에 근거하여 획득되고, 뉴스 문답 데이터 중 답안 요소의 내용은 이벤트 뉴스 표기 데이터 중 표기한 아규먼트이며, 뉴스 문답 데이터 중 디스크립션 요소의 내용은 이벤트 뉴스 표기 데이터 중 이벤트 뉴스이고, 이벤트 뉴스 표기 데이터 중 이벤트 타입 및 이벤트 타입의 각 아규먼트 캐릭터에 따라 문제가 구축되며, 뉴스 문답 데이터 중 문제 요소의 내용은 이벤트 뉴스 표기 데이터 중 이벤트 타입 및 이벤트 타입의 각 아규먼트 캐릭터에 따라 획득되고, 구체적으로, 이벤트 뉴스 표기 데이터 중 이벤트 타입 및 이벤트 타입의 각 아규먼트 캐릭터를 포함한다. 여기서, 각 이벤트 타입에 대응하는 아규먼트 캐릭터는 사전에 확정된 것이며, 이벤트 뉴스 표기 데이터의 이벤트 타입은 각종 방법을 통해 확정할 수 있고, 본 실시예에서는 한정하지 않는다.예를 들면, 사전에 있는 이벤트 타입 분류 모델이 이벤트 뉴스 표기 데이터에 대한 예측을 통해 이벤트 타입 등을 획득할 수 있다.
본 실시예에서, 뉴스 문답 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하는 것을 통해, 훈련된 이벤트 아규먼트 추출 모델을 획득하고, 따라서, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시키고, 아규먼트 추출 효과를 향상시킨다.
일 실시예에서, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계는, 훈련된 이벤트 타입 분류 모델을 통해 추출 대기인 이벤트 내용의 이벤트 타입을 예측하는 단계; 훈련된 이벤트 센텐스 판별 모델을 통해 추출 대기인 이벤트 내용의 이벤트 디스크립션을 예측하는 단계; 이벤트 타입, 이벤트 디스크립션, 이벤트 타입에 대응하는 아규먼트 캐릭터 및 사전 설정 문답 포맷에 기초하여, 추출 대기인 이벤트 내용에 대응하는 추출 대기인 문답 데이터를 구축하는 단계 - 여기서, 추출 대기인 문답 데이터의 포맷은 사전 설정 문답 포맷과 매칭되고, 추출 대기인 문답 데이터는 추출 대기인 이벤트 내용의 이벤트 디스크립션, 추출 대기인 이벤트 내용의 이벤트 타입, 및 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함 -; 및 추출 대기인 문답 데이터를 훈련된 아규먼트 추출 모델에 입력하고, 훈련된 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여, 타겟 아규먼트를 획득하는 단계;를 포함한다.
추출 대기인 이벤트 내용을 획득한 후, 훈련된 이벤트 타입 분류 모델을 통해 이벤트 타입을 예측하여 획득할 수 있고, 훈련된 이벤트 센텐스 판별 모델을 통해 추출 대기인 이벤트 뉴스의 이벤트 디스크립션을 획득할 수 있다. 추출 대기인 이벤트 뉴스의 이벤트 디스크립션, 이벤트 타입 및 해당 이벤트 타입에 대응하는 아규먼트 캐릭터를 사용 하거나, 사전 설정 문답 포맷(상술된 바와 같이, 사전 설정 문답 포맷은 디스크립션, 문제 및 문제에 대응하는 답안(즉 아규먼트) 세가지 요소로 구성됨)에 의하여 해당 추출 대기인 이벤트 뉴스의 추출 대기인 문답 데이터를 구축하고, 추출 대기인 문답 데이터의 포맷은 사전 설정 문답 포맷과 매칭된다. 다음에 해당 추출 대기인 문답 데이터를 훈련된 아규먼트 추출 모델에 입력하고, 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득한다. 설명해야 할 것은, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하는 과정에서, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용의 추출 대기인 문답 데이터를 아규먼트 추출하여, 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득할 수 있다. 즉 추출 대기인 이벤트 내용의 추출 대기인 문답 데이터를 이벤트 아규먼트 추출 모델에 입력하여 아규먼트 확률 예측을 진행할 수 있다.
본 실시예에서, 이벤트 아규먼트 추출 모델에 입력한 추출 대기인 문답 데이터는, 추출 대기인 이벤트 내용의 이벤트 디스크립션, 추출 대기인 이벤트 내용의 이벤트 타입 및 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함하고, 포맷과 사전 설정 문답 포맷에 매칭 되는 추출 대기인 문답 데이터를 훈련된 아규먼트 추출 모델에 입력하는 이벤트 아규먼트 추출을 진행하는 것을 응용하는 한편, 이벤트 아규먼트 추출 모델은 사전 훈련 모델 기초 상에, 이벤트 뉴스 샘플과 독해 데이터 도입을 통해, 훈련을 진행하여 획득 함으로써, 이벤트 아규먼트 추출 효과를 향상시킨다.
일 실시예에서, 추출 대기인 문답 데이터의 포맷은, 사전 설정 문답 포맷의 세 개 요소 중의 두 개 요소, 즉 디스크립션과 문답 요소를 포함하며, 추출 대기인 문답 데이터의 포맷과 독해 데이터의 포맷이 매칭 된다고 할 수 있다. 여기서, 추출 대기인 이벤트 뉴스 중의 이벤트 디스크립션은 디스크립션 요소의 내용과 대응되고, 즉 추출 대기인 문답 데이터는 추출 대기인 이벤트 뉴스 중의 이벤트 디스크립션 및 문제 요소의 내용 (추출 대기인 문답 데이터 중 문제 요소의 내용, 즉 예측하여 획득한 추출 대기인 이벤트 뉴스의 이벤트 타입 및 추출 대기인 이벤트 뉴스의 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함)를 포함한다.
아래에 하나의 실시예를 통해 이벤트 아규먼트 추출 방법의 과정에 대해 구체적인 설명을 한다.
도 2를 참조하면, 이벤트 아규먼트 추출 방법을 구현하기 위한 시스템 원리도이다. 해당 시스템은 데이터 준비 모듈, 이벤트 아규먼트 추출 모델, 오프 라인 훈련 모듈 및 이벤트 아규먼트 추출 서비스 모듈을 포함한다.
먼저, 데이터 준비 모듈, 이벤트 뉴스 표기 데이터의 수집을 진행할 수 있다. 사전 설정 문답 포맷(즉 세 가지 요소를 포함하고, 즉 디스크립션 요소 (텍스트 요소로 이해할 수 있음), 문제 요소 및 답안 요소)에 근거하여 이벤트 뉴스 아규먼트 태그 데이터를 포맷 변환하여, 뉴스 문답 데이터(즉 이벤트 뉴스 아규먼트 태그 데이터 중의 이벤트 뉴스, 문제 및 문제에 근거하여 이벤트 뉴스 아규먼트 태그 데이터 중의 이벤트 뉴스가 확정한 해당 문제의 답안을 포함한다)를 획득한다. 이벤트 디스크립션(즉, 뉴스 아규먼트 태그 데이터의 이벤트 뉴스)은 context(콘텍스트)이고, 즉 해당 이벤트 뉴스는 이벤트 뉴스 텍스트로 이해 할 경우, 이벤트 타입과 각 아규먼트 캐릭터로 각 문제를 구축하고, 해당 아규먼트 타입에 대응하는 아규먼트가 답안이며, 문답 포맷의 뉴스 문답 데이터를 형성 한다. 예시, context가 "7월7일, 구례도 감독, 유덕화, 구텐러, 묘쵸웨 등이 주연한 영화 <소독2천지 대결> 개봉"이고, 문제가 "개봉 작품 배우"이며, 답안은 "유덕화, 구텐러, 묘쵸웨"이다. 여기서, "개봉"은 이벤트 타입이고, "작품 배우"는 해당 이벤트 타입의 하나의 아규먼트 캐릭터 이며, "유덕화, 구텐러, 묘쵸웨"는 해당 아규먼트 캐릭터의 다수의 아규먼트 이다. 이벤트 타입에 대응하는 아규먼트 캐릭터는 사전에 확정 된 것이고, 이벤트 타입을 확정한 후, 대응하는 아규먼트 캐릭터를 바로 확정할 수 있고, 문제의 내용은 이벤트 타입 및 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함하는 것으로 이해할 수 있다.
또한, 본 실시예에서는, 이벤트 뉴스 표기 데이터 중의 이벤트 타입 및 이벤트 타입의 각 아규먼트 캐릭터에 근거하여 문제를 구축한다. 여기서, 각 이벤트 타입에 대응하는 아규먼트 캐릭터는 사전에 확정된 것이며, 이벤트 뉴스 표기 데이터의 이벤트 타입은 각종 방법을 통해 확정할 수 있고, 본 실시예에서는 한정하지 않는다. 예를 들면, 기존의 이벤트 타입 분류 모델이 이벤트 뉴스 표기 데이터에 대한 예측을 통해 이벤트 타입 등을 획득할 수 있다.
또한, 각 아규먼트에 대한 가중치는, 기존의 용어 중요도 계산 모델에 의해 정규화된 가중치를 계산하여 획득 할 수 있다. 가중치는 모델 훈련에서의 손실 함수 계산에 사용된다.
다음, 이벤트 아규먼트 추출 모델 오프라인 모델 훈련 모듈. 여기서는 예를 들어, 사전 훈련 모델이 심도 사전 훈련 모델이 된다. 심도 사전 훈련 모델의 기초상에, 이벤트 뉴스 표기 데이터를 심도 사전 훈련 모델에 입력하는 것을 이용하여 미세 조절을 진행하며, 모델 훈련 과정에서, 모델은 문제에 근거하여 이벤트 뉴스 텍스트 중에서 답안 즉 아규먼트를 찾아, 이벤트 뉴스 표기 데이터 중의 표기한 각 아규먼트의 가중치 및 예측 확률값에 관련된 손실 함수를 피팅함으로써 훈련을 진행한다. 손실치를 이용하여, 그라디언트 하강 및 역전파법을 통해, 모델 파라미터들을 끊임없이 갱신하여, 수렴된 훈련 모델, 즉 훈련된 시간 아규먼트 추출 모델을 획득 함으로써, 모델의 이벤트 추출 능력을 향상시킨다.
다음으로, 이벤트 아규먼트 추출 서비스 모듈. 추출 대기인 이벤트 뉴스(예를 들어, 뉴스 타이틀, 뉴스 텍스트), 즉 추출 대기인 이벤트 내용을 획득하고, 기존의 이벤트 타입 분류 모델(즉 훈련된 이벤트 타입 분류 모델)을 통해 이벤트 타입을 예측하여 획득하며, 또한 기존의 이벤트 용어 판별 모델(즉 훈련된 이벤트 용어 판별 모델)을 통해 추출 대기인 이벤트 뉴스의 이벤트 디스크립션을 획득하고, 추출 대기인 이벤트 뉴스의 이벤트 디스크립션, 이벤트 타입 및 해당 이벤트 타입에 대응하는 아규먼트 캐릭터를 사용 및 독해 데이터의 포맷에 근거하여 해당 추출 대기인 뉴스의 추출 대기인 문답 데이터를 구축하며, 추출 대기인 문답 데이터의 포맷은 독해 데이터의 포맷과 매칭되고, 추출 대기인 문답 데이터의 포맷은 문답 포맷 중의 세 가지 요소 중 두 가지 요소 즉 디스크립션, 문제 요소를 포함함을 이해할 수 있어, 문답 데이터 추출 포맷과 문답 포맷이 매칭 된다고 할 수 있다. 여기서, 추출 대기인 이벤트 뉴스 중의 이벤트 디스크립션은 디스크립션 요소의 내용과 대응되고, 즉 추출 대기인 문답 데이터는 추출 대기인 이벤트 뉴스 중의 이벤트 디스크립션 및 문제 요소의 내용(추출 대기인 문답 데이터 중의 문제 요소의 내용 즉 예측하여 획득한 추출 대기인 이벤트 뉴스의 이벤트 타입 및 추출 대기인 이벤트 뉴스의 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함)를 포함한다. 다음에 해당 추출 대기인 문답 데이터를 훈련된 이벤트 아규먼트 추출 모델에 입력하여, 이벤트 아규먼트 추출 모델은 이벤트 디스크립션 중에서 해당 추출 대기인 문답 데이터 중의 문제의 모든 답안의 예측 확률을 예측 획득하고, 모든 답안 중에서 예측 확률값이 가장 큰 답안 및 예측 확률값이 확률 임계치 보다 큰 답안을 취하여 추출 대기인 이벤트 뉴스의 타겟 아규먼트로 한다.
본 개시는 추출 대기인 이벤트 뉴스의 문답 포맷의 추출 대기인 문답 데이터를 훈련된 아규먼트 추출 모델에 입력하여 이벤트 아규먼트 추출을 진행한다. 아울러, 심도 사전 훈련 모델의 기초상에, 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치 인입을 통해, 이벤트 아규먼트 추출 효과를 향상시키고, 현실 장면에서 비교적 좋은 추출 효과를 획득한다.
이벤트 아규먼트 추출은 이벤트 그래프 항목에서 중요한 응용을 한다, 이벤트 아규먼트 추출을 통해 구조화된 형태로 이벤트를 디스플레이하거나 표시하고, 빅 서치 및 Feed 이벤트 맥락에서 이벤트를 디스플레이하여, 사용자가 신속하게 이벤트를 이해하게끔 한다. 추가적으로 이벤트 아규먼트 추출은, 예컨대 금융 분야 등 각 분야에 응용될 수 있고, 회사의 이벤트를 추출함으로써, 효율적인 위험 제어 등을 진행할 수 있다.
도 3을 참조하면, 본 개시의 실시예는 전자 기기에 적용될 수 있는 이벤트 아규먼트 추출 장치(300)를 제공하며 장치(300)는, 추출 대기인 이벤트 내용을 획득하기 위한 제1 획득 모듈(301); 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하기 위한 추출 모듈(302);을 포함하고, 여기서, 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하여 획득한다.
일 실시예에서, 훈련된 이벤트 아규먼트 추출 모델은 적어도, 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 획득하는 방식;을 통하여 획득되며, 여기서, 손실 함수와 사전 훈련 모델은 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값 및 각 아규먼트의 가중치와 관련된다.
일 실시예에서, 손실 함수는 사전 훈련 모델이 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우도의 가중치 합이다.
일 실시예에서, 추출 모듈은, 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하기 위한 확률 예측 모듈; 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 타겟 아규먼트로 하기 위한 아규먼트 확정 모듈;을 포함하며, 여기서, 확률 임계치는 적어도 하나의 아규먼트의 예측 확률값 중 가장 큰 예측 확률값에 사전 설정 계수를 곱한 수치이고, 사전 설정 계수는 1 보다 작거나 같은 양수이다.
일 실시예에서, 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것은, 사전 설정 문답 포맷에 근거하여, 이벤트 뉴스 표기 데이터에 대해 포맷 변환을 진행하여, 뉴스 문답 데이터를 획득하는 것; 및 뉴스 문답 데이터 및 손실 함수에 근거하여 사전 훈련 모델에 대해 훈련을 진행하여, 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것;을 포함한다.
일 실시예에서, 추출 모듈은, 훈련된 이벤트 타입 분류 모델을 통해 추출 대기인 이벤트 내용의 이벤트 타입을 예측하기 위한 제1 예측 모듈; 훈련된 이벤트 센텐스 판별 모델을 통해 추출 대기인 이벤트 내용의 이벤트 디스크립션을 예측하기 위한 제2 예측 모듈; 이벤트 타입, 이벤트 디스크립션, 이벤트 타입에 대응하는 아규먼트 캐릭터 및 사전 설정 문답 포맷에 기초하여, 추출 대기인 이벤트 내용에 대응하는 추출 대기인 문답 데이터를 구축하기 위한 구축 모듈 - 여기서, 추출 대기인 문답 데이터의 포맷은 사전 설정 문답 포맷과 매칭되고, 추출 대기인 문답 데이터는 추출 대기인 이벤트 내용의 이벤트 디스크립션, 추출 대기인 이벤트 내용의 이벤트 타입, 및 상기 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함 -; 및 추출 대기인 문답 데이터를 상기 훈련된 아규먼트 추출 모델에 입력하고, 훈련된 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여 타겟 아규먼트를 획득하기 위한 아규먼트 추출 모듈;을 포함한다.
설명해야 할 것은, 추출 대기인 이벤트 내용의 추출 대기인 문답 데이터를 훈련된 아규먼트 추출 모델에 입력할 수 있고, 확률 예측 모듈은 훈련된 이벤트 아규먼트 추출 모델에 기초하여 추출 대기인 이벤트 내용의 추출 대기인 문답 데이터를 아규먼트 추출하는데 사용하여, 추출 대기인 이벤트 내용 중의 적어도 하나의 아규먼트의 예측 확률값을 획득할 수 있다.
여러 실시예의 이벤트 아규먼트 추출 장치는, 각 실시예의 이벤트 아규먼트 추출 방법을 구현하기 위한 장치이고, 기술 특정 대응, 기술 효과 대응은 여기서 더 이상 설명하지 않는다.
본 개시의 실시예에 따라, 본 개시는 전자 기기 및 판독 가능한 저장 매체를 제공한다.
도 4에 도시된 바와 같이, 본 개시의 실시예에 따른 이벤트 아규먼트 추출 방법의 전자 기기의 블록도이다. 전자 기기는 예컨대 랩톱 컴퓨터, 데스크톱 컴퓨터, 워크벤치, 개인 정보 단말기, 서버, 블레이드 서버, 대형 컴퓨터, 및 다른 적합한 컴퓨터와 같은 다양한 형태의 디지털 컴퓨터를 의미한다. 전자 기기는 예컨대 개인 디지털 처리, 셀룰러폰, 스마트폰, 웨어러블 기기 및 다른 유사한 컴퓨팅 장치와 같은 다양한 형태의 이동 장치를 의미할 수도 있다. 본문에서 나타낸 부재, 이들의 연결과 관계, 및 이들의 기능은 단지 예시적인 것으로, 본문에서 설명 및/또는 요구된 본 개시의 구현을 한정하지 않는다.
도 4에 도시된 바와 같이, 전자 기기는 하나 또는 복수 개의 프로세서(401), 메모리(402), 및 고속 인터페이스 및 저속 인터페이스를 포함하는 각 부재를 연결하기 위한 인터페이스를 포함한다. 각 부재는 상이한 버스를 이용하여 서로 연결되고, 공통 메인보드에 장착될 수 있거나 필요에 따라 다른 방식으로 장착될 수 있다. 프로세서는, 메모리에 저장되거나 메모리에서 외부 입력/출력 장치(예를 들어, 인터페이스에 커플링된 표시 기기)에 GUI의 그래픽 정보를 표시하는 명령을 포함하는 전자 기기 내에서 실행되는 명령을 처리할 수 있다. 다른 실시 형태에서, 필요에 따라 복수 개의 프로세서 및/또는 복수 개의 버스를 복수 개의 메모리와 함께 사용할 수 있다. 마찬가지로, 복수 개의 전자 기기를 연결할 수 있고, 각 기기는 일부 필요한 동작(예를 들어, 서버 어레이, 한 그룹의 블레이드 서버, 또는 다중 프로세서 시스템)을 제공한다. 도 4에서 하나의 프로세서(401)를 예로 든다.
메모리(402)는 본 개시에 의해 제공되는 비일시적 컴퓨터 판독 가능한 저장 매체이다. 여기서, 메모리에 적어도 하나의 프로세서가 본 개시에 의해 제공되는 이벤트 아규먼트 추출 방법을 수행하도록 하는 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장된다. 본 개시의 비일시적 컴퓨터 판독 가능한 저장 매체는 본 개시에 의해 제공되는 이벤트 아규먼트 추출 방법을 수행하도록 하는 컴퓨터 명령을 저장한다.
메모리(402)는 비일시적 컴퓨터 판독 가능한 저장 매체로서, 비일시적 소프트웨어 프로그램, 비일시적 컴퓨터 실행 가능한 프로그램, 및 본 개시의 실시예의이벤트 아규먼트 추출 방법에 대응되는 프로그램 명령/모듈(예를 들어, 도 3에 도시된 제1 획득 모듈(301), 추출 모듈(302))과 같은 모듈을 저장할 수 있다. 프로세서(401)는 메모리(402)에 저장된 비일시적 소프트웨어 프로그램, 명령 및 모듈을 실행함으로써, 서버의 다양한 기능 애플리케이션 및 데이터 처리를 수행하는데, 즉 방법 실시예의 이벤트 아규먼트 추출 방법을 구현한다.
메모리(402)는 프로그램 저장 영역 및 데이터 저장 영역을 포함할 수 있고, 여기서, 프로그램 저장 영역은 운영 체제, 적어도 하나의 기능에 필요한 응용 프로그램을 저장할 수 있으며, 데이터 저장 영역은 이벤트 아규먼트 추출 방법의 전자 기기의 사용에 따라 구축한 다양한 데이터 등을 저장할 수 있다. 이 밖에, 메모리(402)는 고속 랜덤 액세스 메모리를 포함할 수 있고, 적어도 하나의 자기 디스크 메모리, 플래시 메모리, 또는 다른 비일시적 솔리드 스테이트 메모리와 같은 비일시적 메모리를 더 포함할 수 있다. 일부 실시예에서, 메모리(402)는 프로세서(401)에 대해 원격으로 설치된 메모리를 선택적으로 포함할 수 있고, 이러한 원격 메모리는 네트워크를 통해 이벤트 아규먼트 추출 방법의 전자 기기에 연결될 수 있다. 네트워크의 구현예로 인터넷, 인트라넷, 근거리 통신망, 이동 통신망 및 이들의 조합을 포함하지만 이에 한정되지 않는다.
이벤트 아규먼트 추출 방법의 전자 기기는 입력 장치(403) 및 출력 장치(404)를 더 포함할 수 있다. 프로세서(401), 메모리(402), 입력 장치(403) 및 출력 장치(404)는 버스 또는 다른 방식을 통해 연결될 수 있고, 도 4에서 버스를 통해 연결되는 것을 예로 든다.
입력 장치(403)는 입력된 디지털 또는 문자 정보를 수신할 수 있고, 이벤트 아규먼트 추출 방법의 전자 기기의 사용자 설정 및 기능 제어와 관련된 키 신호 입력을 발생할 수 있으며, 예를 들어 터치스크린, 키패드, 마우스, 트랙 패널, 터치 패널, 포인팅 스틱, 하나 또는 복수 개의 마우스 버튼, 트랙 볼, 조이스틱 등 입력 장치이다. 출력 장치(404)는 표시 기기, 보조 조명 장치(예를 들어, LED) 및 촉각 피드백 장치(예를 들어, 진동 모터) 등을 포함할 수 있다. 표시 기기는 액정 표시 장치(LCD), 발광 다이오드(LED) 표시 장치 및 플라스마 표시 장치를 포함할 수 있지만 이에 한정되지 않는다. 일부 실시 형태에서, 표시 기기는 터치스크린일 수 있다.
여기서 설명된 시스템 및 기술의 다양한 실시 형태는 디지털 전자 회로 시스템, 집적 회로 시스템, 전용 ASIC(전용 집적 회로), 컴퓨터 하드웨어, 펌웨어, 소프트웨어, 및/또는 이들의 조합에서 구현될 수 있다. 이러한 다양한 실시 형태는 하나 또는 복수 개의 컴퓨터 프로그램에서의 구현을 포함할 수 있고, 하나 또는 복수 개의 컴퓨터 프로그램은 적어도 하나의 프로그램 가능 프로세서를 포함하는 프로그램 가능 시스템에서 실행 및/또는 해석될 수 있으며, 프로그램 가능 프로세서는 전용 또는 범용 프로그램 가능 프로세서일 수 있고, 저장 시스템, 적어도 하나의 입력 장치, 및 적어도 하나의 출력 장치로부터 데이터 및 명령을 수신할 수 있으며, 데이터 및 명령을 저장 시스템, 적어도 하나의 입력 장치, 및 적어도 하나의 출력 장치에 전송할 수 있다.
이러한 컴퓨팅 프로그램(프로그램, 소프트웨어, 소프트웨어 애플리케이션, 또는 코드라고도 함)은 프로그램 가능 프로세서의 기계 명령을 포함하고, 하이레벨 프로세스 및/또는 객체에 대한 프로그래밍 언어, 및/또는 어셈블리/기계 언어를 이용하여 이러한 컴퓨팅 프로그램을 실행할 수 있다. 본문에서 사용된 바와 같이, 용어 “기계 판독 가능한 매체” 및 “컴퓨터 판독 가능한 매체”는 기계 명령 및/또는 데이터를 프로그램 가능 프로세서에 제공하기 위한 임의의 컴퓨터 프로그램 제품, 기기, 및/또는 장치(예를 들어, 자기 디스크, 광 디스크, 메모리, 프로그램 가능 로직 장치(PLD))를 의미하고, 기계 판독 가능한 신호인 기계 명령을 수신하는 기계 판독 가능한 매체를 포함한다. 용어 “기계 판독 가능한 신호”는 기계 명령 및/또는 데이터를 프로그램 가능 프로세서에 제공하기 위한 임의의 신호를 의미한다.
사용자와의 인터랙션을 제공하기 위하여, 컴퓨터에서 여기서 설명된 시스템 및 기술을 실시할 수 있고, 컴퓨터는 사용자에게 정보를 표시하기 위한 표시 장치(예를 들어, CRT(음극선관) 또는 LCD(액정 표시 장치) 모니터), 및 키보드 및 지향 장치(예를 들어, 마우스 또는 트랙 볼)를 구비하며, 사용자는 키보드 및 지향 장치를 통해 컴퓨터에 입력을 제공한다. 다른 타입의 장치는 또한 사용자와의 인터랙션을 제공할 수 있는데, 예를 들어, 사용자에게 제공된 피드백은 임의의 형태의 감지 피드백(예를 들어, 시각 피드백, 청각 피드백, 또는 촉각 피드백)일 수 있고, 임의의 형태(소리 입력, 음성 입력, 또는 촉각 입력)로 사용자로부터의 입력을 수신할 수 있다.
여기서 설명된 시스템 및 기술을 백그라운드 부재를 포함하는 컴퓨팅 시스템(예를 들어, 데이터 서버), 또는 미들웨어 부재를 포함하는 컴퓨팅 시스템(예를 들어, 응용 서버), 또는 프론트 엔드 부재를 포함하는 컴퓨팅 시스템(예를 들어, 그래픽 사용자 인터페이스 또는 웹 브라우저를 구비하는 사용자 컴퓨터이고, 사용자는 그래픽 사용자 인터페이스 또는 웹 브라우저를 통해 여기서 설명된 시스템 및 기술의 실시 형태와 인터랙션할 수 있음), 또는 이러한 백그라운드 부재, 미들웨어 부재, 또는 프론트 엔드 부재의 임의의 조합을 포함하는 컴퓨팅 시스템에서 실시할 수 있다. 임의의 형태 또는 매체의 디지털 데이터 통신(예를 들어, 통신 네트워크)을 통해 시스템의 부재를 서로 연결시킬 수 있다. 통신 네트워크의 예시로 근거리 통신망(LAN), 광역 통신망(WAN) 및 인터넷을 포함한다.
컴퓨터 시스템은 클라이언트 및 서버를 포함할 수 있다. 클라이언트 및 서버는 일반적으로 서로 멀리 떨어져 있고 일반적으로 통신 네트워크를 통해 서로 인터랙션한다. 대응되는 컴퓨터에서 실행되고 또한 서로 클라이언트-서버 관계를 가지는 컴퓨터 프로그램을 통해 클라이언트 및 서버의 관계를 생성한다.
본 개시의 실시예의 기술방안에 따르면, 추출 대기인 이벤트 내용을 아규먼트 추출하는데 사용되는 훈련된 이벤트 아규먼트 추출 모델은, 이벤트 뉴스 표기 데이터 및 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하는 것이고, 즉 훈련 과정에, 훈련에 사용되는 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 고려 함으로써, 훈련된 이벤트 아규먼트 추출 모델의 성능을 향상시킬 수 있고, 따라서 아규먼트 추출 효과를 향상시킬 수 있다.
위에서 설명한 다양한 형태의 프로세스를 사용하여 단계를 재배열, 추가 또는 삭제할 수 있음을 이해해야 한다. 예를 들어, 본 개시에 기재된 각 단계는 동시에 수행될 수 있거나 순차적으로 수행될 수 있거나 상이한 순서로 수행될 수 있고, 본 개시에서 공개된 기술적 해결수단이 이루고자 하는 결과를 구현할 수만 있으면, 본문은 여기서 한정하지 않는다.
구체적인 실시 형태는 본 개시의 보호 범위를 한정하지 않는다. 본 기술분야의 통상의 기술자는 설계 요구 및 다른 요소에 따라 다양한 수정, 조합, 하위 조합 및 대체를 진행할 수 있음을 이해해야 한다. 본 개시의 사상 및 원칙 내에서 진행한 임의의 수정, 등가적 대체 및 개선 등은 모두 본 개시의 보호 범위 내에 속해야 한다.
Claims (15)
- 이벤트 아규먼트 추출 방법에 있어서, 상기 방법은,
추출 대기인 이벤트 내용을 획득하는 단계;
훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계;를 포함하고,
상기 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하여 획득하는 것을 특징으로 하는 이벤트 아규먼트 추출 방법. - 제1항에 있어서,
상기 훈련된 이벤트 아규먼트 추출 모델은 적어도,
상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 방식;을 통하여 획득되며, 상기 손실 함수와 상기 사전 훈련 모델은 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값 및 상기 각 아규먼트의 가중치와 관련되는 것을 특징으로 하는 이벤트 아규먼트 추출 방법. - 제2항에 있어서,
상기 손실 함수는 상기 사전 훈련 모델이 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우도의 가중치 합인 것을 특징으로 하는 이벤트 아규먼트 추출 방법. - 제1항에 있어서,
상기 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계는,
훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하는 단계;
상기 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 상기 타겟 아규먼트로 하는 단계;를 포함하고,
상기 확률 임계치는 상기 적어도 하나의 아규먼트의 예측 확률값 중 가장 큰 예측 확률값에 사전 설정 계수를 곱한 수치이고, 상기 사전 설정 계수는 1 보다 작거나 같은 양수인 것을 특징으로 하는 이벤트 아규먼트 추출 방법. - 제2항에 있어서,
상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것은,
사전 설정 문답 포맷에 근거하여, 상기 이벤트 뉴스 표기 데이터에 대해 포맷 변환을 진행하여, 뉴스 문답 데이터를 획득하는 것; 및
상기 뉴스 문답 데이터 및 상기 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것;을 포함하는 것을 특징으로 하는 이벤트 아규먼트 추출 방법. - 제1항에 있어서,
상기 훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하는 단계는,
훈련된 이벤트 타입 분류 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 타입을 예측하는 단계;
훈련된 이벤트 센텐스 판별 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션을 예측하는 단계;
상기 이벤트 타입, 상기 이벤트 디스크립션, 상기 이벤트 타입에 대응하는 아규먼트 캐릭터 및 사전 설정 문답 포맷에 기초하여, 상기 추출 대기인 이벤트 내용에 대응하는 추출 대기인 문답 데이터를 구축하는 단계 - 여기서, 상기 추출 대기인 문답 데이터의 포맷은 상기 사전 설정 문답 포맷과 매칭되고, 상기 추출 대기인 문답 데이터는 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션, 상기 추출 대기인 이벤트 내용의 이벤트 타입, 및 상기 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함 -; 및
상기 추출 대기인 문답 데이터를 상기 훈련된 아규먼트 추출 모델에 입력하고, 상기 훈련된 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여, 상기 타겟 아규먼트를 획득하는 단계;를 포함하는 것을 특징으로 하는 이벤트 아규먼트 추출 방법. - 이벤트 아규먼트 추출 장치에 있어서, 상기 장치는,
추출 대기인 이벤트 내용을 획득하기 위한 제1 획득 모듈;
훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용의 타겟 아규먼트를 획득하기 위한 추출 모듈;을 포함하고,
상기 훈련된 이벤트 아규먼트 추출 모델은 이벤트 뉴스 표기 데이터 및 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 가중치를 통해 사전 훈련 모델에 대해 훈련하여 획득하는 것을 특징으로 하는 이벤트 아규먼트 추출 장치. - 제7항에 있어서,
상기 훈련된 이벤트 아규먼트 추출 모델은 적어도,
상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 방식;을 통하여 획득되며, 여기서, 상기 손실 함수와 상기 사전 훈련 모델은 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트의 예측 확률값 및 상기 각 아규먼트의 가중치와 관련되는 것을 특징으로 하는 이벤트 아규먼트 추출 장치. - 제8항에 있어서,
상기 손실 함수는 상기 사전 훈련 모델이 상기 이벤트 뉴스 표기 데이터 중 표기한 각 아규먼트에 대한 예측 확률값의 음의 로그 우도의 가중치 합인 것을 특징으로 하는 이벤트 아규먼트 추출 장치. - 제7항에 있어서,
상기 추출 모듈은,
훈련된 이벤트 아규먼트 추출 모델에 기초하여 상기 추출 대기인 이벤트 내용에 대해 아규먼트 추출을 진행하여, 상기 추출 대기인 이벤트 내용 중 적어도 하나의 아규먼트의 예측 확률값을 획득하기 위한 확률 예측 모듈;
상기 적어도 하나의 아규먼트 중 예측 확률값이 가장 큰 아규먼트 및 예측 확률값이 확률 임계치 보다 큰 아규먼트를 상기 타겟 아규먼트로 하기 위한 아규먼트 확정 모듈;을 포함하며,
상기 확률 임계치는 상기 적어도 하나의 아규먼트의 예측 확률값 중 가장 큰 예측 확률값에 사전 설정 계수를 곱한 수치이고, 상기 사전 설정 계수는 1 보다 작거나 같은 양수인 것을 특징으로 하는 이벤트 아규먼트 추출 장치. - 제8항에 있어서,
상기 이벤트 뉴스 표기 데이터 및 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것은,
사전 설정 문답 포맷에 근거하여, 상기 이벤트 뉴스 표기 데이터에 대해 포맷 변환을 진행하여, 뉴스 문답 데이터를 획득하는 것; 및
상기 뉴스 문답 데이터 및 상기 손실 함수에 근거하여 상기 사전 훈련 모델에 대해 훈련을 진행하여, 상기 훈련된 이벤트 아규먼트 추출 모델을 획득하는 것;을 포함하는 것을 특징으로 하는 이벤트 아규먼트 추출 장치. - 제7항에 있어서,
상기 추출 모듈은,
훈련된 이벤트 타입 분류 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 타입을 예측하기 위한 제1 예측 모듈;
훈련된 이벤트 센텐스 판별 모델을 통해 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션을 예측하기 위한 제2 예측 모듈;
상기 이벤트 타입, 상기 이벤트 디스크립션, 상기 이벤트 타입에 대응하는 아규먼트 캐릭터 및 사전 설정 문답 포맷에 기초하여, 상기 추출 대기인 이벤트 내용에 대응하는 추출 대기인 문답 데이터를 구축하기 위한 구축 모듈 - 여기서, 상기 추출 대기인 문답 데이터의 포맷은 상기 사전 설정 문답 포맷과 매칭되고, 상기 추출 대기인 문답 데이터는 상기 추출 대기인 이벤트 내용의 이벤트 디스크립션, 상기 추출 대기인 이벤트 내용의 이벤트 타입, 및 상기 이벤트 타입에 대응하는 아규먼트 캐릭터를 포함함 -; 및
상기 추출 대기인 문답 데이터를 상기 훈련된 아규먼트 추출 모델에 입력하고, 상기 훈련된 이벤트 아규먼트 추출 모델을 통해 아규먼트 추출을 진행하여 타겟 아규먼트를 획득하기 위한 아규먼트 추출 모듈; 을 포함하는 것을 특징으로 하는 이벤트 아규먼트 추출 장치. - 전자 기기에 있어서,
적어도 하나의 프로세서; 및
상기 적어도 하나의 프로세서와 통신 연결하는 메모리를 포함하고,
상기 메모리에는 상기 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며, 상기 명령은 상기 적어도 하나의 프로세서에 의해 실행되어, 상기 적어도 하나의 프로세서가 청구항 제1항 내지 제6항 중 어느 한 항에 따른 방법을 수행할 수 있도록 하는 것을 특징으로 하는 전자 기기. - 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능한 저장 매체에 있어서,
상기 컴퓨터 명령은 컴퓨터가 청구항 제1항 내지 제6항 중 어느 한 항에 따른 방법을 수행하도록 하는 것을 특징으로 하는 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능한 저장 매체. - 컴퓨터 판독 가능한 저장 매체에 저장된 컴퓨터 프로그램에 있어서,
상기 컴퓨터 프로그램은 적어도 하나의 프로세서에 의해 실행될 경우, 청구항 제1항 내지 제6항 중 어느 한 항에 따른 방법을 구현하는 것인, 컴퓨터 판독 가능한 저장 매체에 저장된 컴퓨터 프로그램.
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010202897.1 | 2020-03-20 | ||
| CN202010202897.1A CN111414482B (zh) | 2020-03-20 | 2020-03-20 | 一种事件论元抽取方法、装置以及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20210037634A true KR20210037634A (ko) | 2021-04-06 |
| KR102677454B1 KR102677454B1 (ko) | 2024-06-21 |
Family
ID=71491368
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020210034632A KR102677454B1 (ko) | 2020-03-20 | 2021-03-17 | 이벤트 아규먼트 추출 방법, 장치, 및 전자 기기 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US11880397B2 (ko) |
| EP (1) | EP3882783A1 (ko) |
| JP (1) | JP7292321B2 (ko) |
| KR (1) | KR102677454B1 (ko) |
| CN (1) | CN111414482B (ko) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114741516A (zh) * | 2021-12-08 | 2022-07-12 | 商汤国际私人有限公司 | 一种事件抽取方法和装置、电子设备及存储介质 |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112001265B (zh) * | 2020-07-29 | 2024-01-23 | 北京百度网讯科技有限公司 | 视频事件识别方法、装置、电子设备及存储介质 |
| CN112231447B (zh) * | 2020-11-21 | 2023-04-07 | 杭州投知信息技术有限公司 | 一种中文文档事件抽取的方法和系统 |
| CN112507700A (zh) * | 2020-11-26 | 2021-03-16 | 北京百度网讯科技有限公司 | 事件抽取方法、装置、电子设备及存储介质 |
| CN112560462B (zh) * | 2020-12-11 | 2023-08-01 | 北京百度网讯科技有限公司 | 事件抽取服务的生成方法、装置、服务器以及介质 |
| CN112765980B (zh) * | 2021-02-01 | 2023-05-12 | 广州市刑事科学技术研究所 | 一种面向警情笔录的事件论元角色抽取方法和装置 |
| CN113032520A (zh) * | 2021-02-26 | 2021-06-25 | 北京金堤征信服务有限公司 | 信息分析方法及装置、电子设备和计算机可读存储介质 |
| CN112967144B (zh) * | 2021-03-09 | 2024-01-23 | 华泰证券股份有限公司 | 一种金融信用风险事件抽取方法、可读存储介质及设备 |
| CN113220768A (zh) * | 2021-06-04 | 2021-08-06 | 杭州投知信息技术有限公司 | 基于深度学习的简历信息结构化方法及系统 |
| CN113704476B (zh) * | 2021-09-02 | 2022-03-04 | 中科雨辰科技有限公司 | 目标事件抽取数据处理系统 |
| CN114490953B (zh) * | 2022-04-18 | 2022-08-19 | 北京北大软件工程股份有限公司 | 训练事件抽取模型的方法、事件抽取的方法、装置及介质 |
| CN115982339A (zh) * | 2023-03-15 | 2023-04-18 | 上海蜜度信息技术有限公司 | 突发事件抽取方法、系统、介质、电子设备 |
| CN117093728B (zh) * | 2023-10-19 | 2024-02-02 | 杭州同花顺数据开发有限公司 | 一种金融领域事理图谱构建方法、装置、设备及存储介质 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014228993A (ja) * | 2013-05-21 | 2014-12-08 | 日本電信電話株式会社 | 情報抽出方法、情報抽出装置及び情報抽出プログラム |
| JP2016024545A (ja) * | 2014-07-17 | 2016-02-08 | 株式会社Ｎｔｔドコモ | 情報管理装置、情報管理システム、及び情報管理方法 |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110295612A1 (en) * | 2010-05-28 | 2011-12-01 | Thierry Donneau-Golencer | Method and apparatus for user modelization |
| US9147161B2 (en) * | 2013-03-14 | 2015-09-29 | Google Inc. | Determining geo-locations of users from user activities |
| CN103530281B (zh) | 2013-10-15 | 2016-06-22 | 苏州大学 | 一种论元抽取方法和系统 |
| CN104598535B (zh) * | 2014-12-29 | 2018-03-16 | 中国科学院计算机网络信息中心 | 一种基于最大熵的事件抽取方法 |
| CN104834718A (zh) | 2015-05-11 | 2015-08-12 | 苏州大学 | 基于最大熵模型的事件论元识别方法及系统 |
| US9866646B2 (en) * | 2015-08-07 | 2018-01-09 | Bento Labs Inc. | Systems and methods for anticipatory push search for a homescreen browser |
| CN105956197A (zh) * | 2016-06-15 | 2016-09-21 | 杭州量知数据科技有限公司 | 基于社交媒体图表示模型的社会风险事件抽取方法 |
| CN106445990B (zh) * | 2016-06-25 | 2019-10-11 | 上海大学 | 事件本体构建方法 |
| CN107220352B (zh) * | 2017-05-31 | 2020-12-08 | 北京百度网讯科技有限公司 | 基于人工智能构建评论图谱的方法和装置 |
| EP3692470A4 (en) * | 2017-10-02 | 2021-08-11 | Sensen Networks Group Pty Ltd | SYSTEM AND METHOD OF OBJECT DETECTION GUIDED BY AUTOMATIC LEARNING |
| US10789755B2 (en) * | 2018-04-03 | 2020-09-29 | Sri International | Artificial intelligence in interactive storytelling |
| CN110717034A (zh) * | 2018-06-26 | 2020-01-21 | 杭州海康威视数字技术股份有限公司 | 一种本体构建方法及装置 |
| CN108830430A (zh) * | 2018-08-01 | 2018-11-16 | 苏州大学张家港工业技术研究院 | 用于交通流量预测的卷积神经网络多点回归预测模型 |
| US11983183B2 (en) * | 2018-08-07 | 2024-05-14 | Disney Enterprises, Inc. | Techniques for training machine learning models using actor data |
| CN109635280A (zh) * | 2018-11-22 | 2019-04-16 | 园宝科技(武汉)有限公司 | 一种基于标注的事件抽取方法 |
| CN110032641B (zh) * | 2019-02-14 | 2024-02-13 | 创新先进技术有限公司 | 计算机执行的、利用神经网络进行事件抽取的方法及装置 |
| CN109978060B (zh) * | 2019-03-28 | 2021-10-22 | 科大讯飞华南人工智能研究院（广州）有限公司 | 一种自然语言要素抽取模型的训练方法及装置 |
| CN110134757B (zh) * | 2019-04-19 | 2020-04-07 | 杭州电子科技大学 | 一种基于多头注意力机制的事件论元角色抽取方法 |
| CN110597976B (zh) * | 2019-09-16 | 2022-11-15 | 北京金山数字娱乐科技有限公司 | 一种关键句提取方法及装置 |
| CN110619053A (zh) * | 2019-09-18 | 2019-12-27 | 北京百度网讯科技有限公司 | 实体关系抽取模型的训练方法和抽取实体关系的方法 |
-
2020
- 2020-03-20 CN CN202010202897.1A patent/CN111414482B/zh active Active
- 2020-09-29 US US17/036,833 patent/US11880397B2/en active Active
- 2020-10-16 EP EP20202326.3A patent/EP3882783A1/en not_active Withdrawn
-
2021
- 2021-03-17 KR KR1020210034632A patent/KR102677454B1/ko active IP Right Grant
- 2021-03-18 JP JP2021044663A patent/JP7292321B2/ja active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014228993A (ja) * | 2013-05-21 | 2014-12-08 | 日本電信電話株式会社 | 情報抽出方法、情報抽出装置及び情報抽出プログラム |
| JP2016024545A (ja) * | 2014-07-17 | 2016-02-08 | 株式会社Ｎｔｔドコモ | 情報管理装置、情報管理システム、及び情報管理方法 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114741516A (zh) * | 2021-12-08 | 2022-07-12 | 商汤国际私人有限公司 | 一种事件抽取方法和装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3882783A1 (en) | 2021-09-22 |
| CN111414482B (zh) | 2024-02-20 |
| CN111414482A (zh) | 2020-07-14 |
| JP2021099884A (ja) | 2021-07-01 |
| US11880397B2 (en) | 2024-01-23 |
| KR102677454B1 (ko) | 2024-06-21 |
| JP7292321B2 (ja) | 2023-06-16 |
| US20210295098A1 (en) | 2021-09-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR20210037634A (ko) | 이벤트 아규먼트 추출 방법, 장치, 및 전자 기기 | |
| KR102653312B1 (ko) | 이벤트 아규먼트 추출 방법, 장치 및 전자 기기 | |
| JP7127106B2 (ja) | 質問応答処理、言語モデルの訓練方法、装置、機器および記憶媒体 | |
| EP3923160A1 (en) | Method, apparatus, device and storage medium for training model | |
| CN111259671B (zh) | 文本实体的语义描述处理方法、装置及设备 | |
| US11995560B2 (en) | Method and apparatus for generating vector representation of knowledge graph | |
| KR20210132578A (ko) | 지식 그래프를 구축하는 방법, 장치, 기기 및 저장 매체 | |
| EP3852007B1 (en) | Method, apparatus, electronic device, readable storage medium and program for classifying video | |
| KR102630243B1 (ko) | 구두점 예측 방법 및 장치 | |
| US20220027575A1 (en) | Method of predicting emotional style of dialogue, electronic device, and storage medium | |
| JP7247442B2 (ja) | ユーザ対話における情報処理方法、装置、電子デバイス及び記憶媒体 | |
| CN111241838B (zh) | 文本实体的语义关系处理方法、装置及设备 | |
| CN116303962A (zh) | 对话生成方法、深度学习模型的训练方法、装置和设备 | |
| CN116756564A (zh) | 面向任务解决的生成式大语言模型的训练方法和使用方法 | |
| CN112559715B (zh) | 态度的识别方法、装置、设备及存储介质 | |
| JP7352640B2 (ja) | 検索項目書き換え方法、装置、機器および記憶媒体 | |
| CN109002498B (zh) | 人机对话方法、装置、设备及存储介质 | |
| CN111475614B (zh) | 知识推理对话方法、装置、电子设备和存储介质 | |
| CN113113017B (zh) | 音频的处理方法和装置 | |
| JP2024129086A (ja) | 命令データを生成する方法、装置、機器及び媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |