JP7063397B2 - 回答統合装置、回答統合方法および回答統合プログラム - Google Patents
回答統合装置、回答統合方法および回答統合プログラム Download PDFInfo
- Publication number
- JP7063397B2 JP7063397B2 JP2020554702A JP2020554702A JP7063397B2 JP 7063397 B2 JP7063397 B2 JP 7063397B2 JP 2020554702 A JP2020554702 A JP 2020554702A JP 2020554702 A JP2020554702 A JP 2020554702A JP 7063397 B2 JP7063397 B2 JP 7063397B2
- Authority
- JP
- Japan
- Prior art keywords
- label
- skill
- annotator
- answer
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
30 アノテーション結果入力部
40 回答統合部
50 スキル推定部
60 更新部
70 出力部
100 回答統合装置
Claims (10)
- アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力部と、
前記アノテーション結果を統合して前記データのラベルを推定する回答統合部と、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定部と、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新部と、
前記回答統合部により推定されたラベルを出力する出力部とを備え、
前記回答統合部は、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する
ことを特徴とする回答統合装置。 - 出力部は、ラベル付加情報で特定される各ラベルの構造を、アノテータのスキルに応じた態様で出力する
請求項1記載の回答統合装置。 - 出力部は、ラベル付加情報がラベルの階層構造で表現されている場合、各ラベルについてのアノテータのスキルに応じて対応するノードが強調表示された前記階層構造を出力する
請求項1または請求項2に記載の回答統合装置。 - 出力部は、アノテータのスキルが高いほど対応するノードのラベルを強調表示する
請求項3記載の回答統合装置。 - 回答統合部は、アノテータのスキルおよびタスクの特徴に応じて、アノテーション結果に対する重みを算出し、重みの総和が最も大きいラベルを、データのラベルとして推定する
請求項1から請求項4のうちのいずれか1項に記載の回答統合装置。 - 回答統合部は、特徴ベクトルとスキルベクトルとの内積で算出される重みをアノテーション結果に対する重みとして算出する
請求項1から請求項5のうちのいずれか1項に記載の回答統合装置。 - 回答統合部は、アノテータのスキルの変化およびタスクの特徴の変化が収束していない場合、アノテーション結果を再統合してデータのラベルを推定する
請求項1から請求項6のうちのいずれか1項に記載の回答統合装置。 - アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力し、
前記アノテーション結果を統合して前記データのラベルを推定し、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定し、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新し、
推定されたラベルを出力し、
前記アノテーション結果を統合する際、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する
ことを特徴とする回答統合方法。 - ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力する
請求項8記載の回答統合方法。 - コンピュータに、
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力処理、
前記アノテーション結果を統合して前記データのラベルを推定する回答統合処理、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定処理、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新処理、および、
前記回答統合処理で推定されたラベルを出力する出力処理を実行させ、
前記回答統合処理で、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定させる
ための回答統合プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/040638 WO2020090076A1 (ja) | 2018-11-01 | 2018-11-01 | 回答統合装置、回答統合方法および回答統合プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020090076A1 JPWO2020090076A1 (ja) | 2021-09-16 |
JP7063397B2 true JP7063397B2 (ja) | 2022-05-09 |
Family
ID=70463657
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020554702A Active JP7063397B2 (ja) | 2018-11-01 | 2018-11-01 | 回答統合装置、回答統合方法および回答統合プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210383255A1 (ja) |
JP (1) | JP7063397B2 (ja) |
WO (1) | WO2020090076A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114334067B (zh) * | 2022-03-10 | 2022-07-19 | 上海柯林布瑞信息技术有限公司 | 临床数据的标签处理方法和装置 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018106662A (ja) | 2016-12-22 | 2018-07-05 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9355359B2 (en) * | 2012-06-22 | 2016-05-31 | California Institute Of Technology | Systems and methods for labeling source data using confidence labels |
US11288595B2 (en) * | 2017-02-14 | 2022-03-29 | Groq, Inc. | Minimizing memory and processor consumption in creating machine learning models |
US11875230B1 (en) * | 2018-06-14 | 2024-01-16 | Amazon Technologies, Inc. | Artificial intelligence system with intuitive interactive interfaces for guided labeling of training data for machine learning models |
-
2018
- 2018-11-01 WO PCT/JP2018/040638 patent/WO2020090076A1/ja active Application Filing
- 2018-11-01 US US17/288,143 patent/US20210383255A1/en active Pending
- 2018-11-01 JP JP2020554702A patent/JP7063397B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018106662A (ja) | 2016-12-22 | 2018-07-05 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
Non-Patent Citations (1)
Title |
---|
鹿島久嗣、梶野洸,クラウドソーシングと機械学習,人工知能学会誌,日本,社団法人人工知能学会,2012年07月01日,第27巻, 第4号,pp.381-388,特にpp.382-384 |
Also Published As
Publication number | Publication date |
---|---|
WO2020090076A1 (ja) | 2020-05-07 |
US20210383255A1 (en) | 2021-12-09 |
JPWO2020090076A1 (ja) | 2021-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Shang et al. | Democratizing data science through interactive curation of ml pipelines | |
Joshi | Artificial intelligence with python | |
KR102096301B1 (ko) | 액티브 러닝 기법을 적용한 머신 러닝 프레임워크 운용 방법, 장치 및 컴퓨터 프로그램 | |
JP6299759B2 (ja) | 予測関数作成装置、予測関数作成方法、及びプログラム | |
JP7069029B2 (ja) | 自動予測システム、自動予測方法および自動予測プログラム | |
KR101828215B1 (ko) | Long Short Term Memory 기반 순환형 상태 전이 모델의 학습 방법 및 장치 | |
Malhotra et al. | Reliability modeling using particle swarm optimization | |
JP2014160457A (ja) | 対話的変数選択装置、対話的変数選択方法および対話的変数選択プログラム | |
Henry et al. | Active learning of timed automata with unobservable resets | |
JP7063397B2 (ja) | 回答統合装置、回答統合方法および回答統合プログラム | |
Boselli et al. | An AI planning system for data cleaning | |
Nguyen et al. | Explaining how deep neural networks forget by deep visualization | |
CN112163132A (zh) | 一种数据标注方法、装置、存储介质及电子设备 | |
US20230222385A1 (en) | Evaluation method, evaluation apparatus, and non-transitory computer-readable recording medium storing evaluation program | |
JP4328362B2 (ja) | 言語解析モデル学習装置、言語解析モデル学習方法、言語解析モデル学習プログラム及びその記録媒体 | |
JP7459406B2 (ja) | 学習済みモデル検証システム | |
KR102413588B1 (ko) | 학습 데이터에 따른 객체 인식 모델 추천 방법, 시스템 및 컴퓨터 프로그램 | |
JP7355240B2 (ja) | スキル可視化装置、スキル可視化方法およびスキル可視化プログラム | |
Ghule et al. | An Evaluation of the Impact of AI on Data Access Optimization Performance | |
Serrano et al. | Inter-task similarity measure for heterogeneous tasks | |
JP2023520313A (ja) | 不確定区間を有する性能予測の生成 | |
JP2021135930A5 (ja) | ||
Urbanek et al. | Using analytical programming and UCP method for effort estimation | |
CN114375447A (zh) | 计算系统中的语言语句处理 | |
Babbar et al. | Blended environment of naive Bayes and support vector machine (SVM) for designing simulation based e-learning respiratory system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210421 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210421 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220404 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7063397 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |