JP2015166975A - 注釈情報付与プログラム及び情報処理装置 - Google Patents
注釈情報付与プログラム及び情報処理装置 Download PDFInfo
- Publication number
- JP2015166975A JP2015166975A JP2014041519A JP2014041519A JP2015166975A JP 2015166975 A JP2015166975 A JP 2015166975A JP 2014041519 A JP2014041519 A JP 2014041519A JP 2014041519 A JP2014041519 A JP 2014041519A JP 2015166975 A JP2015166975 A JP 2015166975A
- Authority
- JP
- Japan
- Prior art keywords
- information
- annotation
- annotator
- input person
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/169—Annotation, e.g. comment data or footnotes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Document Processing Apparatus (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Machine Translation (AREA)
Abstract
Description
一の入力者の入力に基づき、複数の対象を含む対象情報に注釈情報を付与する付与手段と、
他の入力者により前記複数の対象の一部に付与済みの注釈情報と、前記一の入力者により付与された注釈情報とを比較し、前記一の入力者及び前記他の入力者の信頼性を評価する評価手段と、
前記一の入力者及び前記他の入力者の信頼性に基づいて、前記一の入力者に注釈情報の付与を依頼する前記対象情報の対象の範囲を決定する決定手段として機能させるための注釈情報付与プログラム。
他の入力者により前記複数の対象の一部に付与済みの注釈情報と、前記一の入力者により付与された注釈情報とを比較し、前記一の入力者及び前記他の入力者の信頼性を評価する評価手段と、
前記一の入力者及び前記他の入力者の信頼性に基づいて、前記一の入力者に注釈情報の付与を依頼する前記対象情報の対象の範囲を決定する決定手段とを有する情報処理装置。
(情報処理装置の構成)
図1は、第1の実施の形態に係る情報処理装置の構成例を示すブロック図である。
次に、第1の実施の形態の作用を、図1−図5を参照しつつ、説明する。
上記した第1の実施の形態によると、現在入力中のアノテーションと過去に入力されたアノテーションとに基づきアノテーターの信頼性を評価し、信頼性の高いアノテーターが過去にアノテーションを付与している場合、アノテーション対象情報111の当該範囲を現在アノテーションを付与中のアノテーターのアノテーション付与範囲から外すようにしたため、複数人にアノテーションの付与を依頼する場合に、信頼性の高いアノテーションが重複して付与されることを抑制することができる。
上記した第1の実施の形態のアノテーター情報113に、以下に示すメタ情報を追加し、当該情報に基づいてアノテーター評価手段101がアノテーターの評価を行うようにしてもよい。
上記した第1の実施の形態のように、アノテーションの一致又は不一致によりアノテーターを比較する他に、アノテーター評価手段101は、以下に示すように単一のアノテーターについて評価を行ってもよい。この方法は、第1の実施の形態の評価方法と組み合わせてもよいし、独立して行うものであってもよい。
上記した第1の実施の形態において説明したアノテーション範囲決定手段102の動作に加え、以下に説明するようにアノテーション範囲決定手段102を動作させてもよい。
以下に第2の実施の形態に係る情報処理装置1Aについて説明する。第2の実施の形態は、第1の実施の形態と比べて、アノテーション対象情報111、アノテーション情報112及びアノテーター情報113に基づき機械学習に用いる情報を生成し、当該情報を用いて機械学習を行う点で異なる。なお、第1の実施の形態と共通の構成については同一の符号を付している。
次に、第2の実施の形態の作用を説明する。
上記した第2の実施の形態によれば、機械学習用の情報として用いられる情報は通常アノテーション対象とアノテーションのみであるが、当該機械学習用の情報にアノテーターの信頼性を追加したものとしたため、アノテーションの信頼性を考慮した機械学習用の情報を生成することができ、アノテーションの信頼性を考慮した機械学習を実行することができる。
なお、本発明は、上記実施の形態に限定されず、本発明の趣旨を逸脱しない範囲で種々な変形が可能である。
10 制御部
11 記憶部
12 通信部
100 アノテーション付与手段
101 アノテーター評価手段
102 アノテーション範囲決定手段
103 学習用情報生成手段
104 機械学習手段
110 アノテーション付与プログラム
111 アノテーション対象情報
112 アノテーション情報
113 アノテーター情報
113A アノテーターメタ情報
114 学習用情報
Claims (6)
- コンピュータを、
一の入力者の入力に基づき、複数の対象を含む対象情報に注釈情報を付与する付与手段と、
他の入力者により前記複数の対象の一部に付与済みの注釈情報と、前記一の入力者により付与された注釈情報とを比較し、前記一の入力者及び前記他の入力者の信頼性を評価する評価手段と、
前記一の入力者及び前記他の入力者の信頼性に基づいて、前記一の入力者に注釈情報の付与を依頼する前記対象情報の対象の範囲を決定する決定手段として機能させるための注釈情報付与プログラム。 - 前記決定手段は、前記他の入力者の信頼度が予め定めた閾値以上である場合、当該他の入力者が注釈情報を付与した対象以外を、前記一の入力者に注釈情報の付与を依頼する前記対象情報の対象の範囲に決定する請求項1に記載の注釈情報付与プログラム。
- 前記決定手段は、複数の前記他の入力者の信頼度が予め定めた第1の閾値より低いが予め定めた第2の閾値以上である場合、複数の当該他の入力者が注釈情報を付与した対象以外を、前記一の入力者に注釈情報の付与を依頼する前記対象情報の対象の範囲に決定する請求項1に記載の注釈情報付与プログラム。
- 機械学習用の情報として、少なくとも、前記対象情報の対象と、前記付与手段によって付与された注釈情報と、当該注釈情報を付与した入力者の信頼性とを有する情報を生成する生成手段としてさらに機能させる請求項1−3のいずれか1項に記載の注釈情報付与プログラム。
- 前記生成手段の生成する情報を用いて機械学習を行う機械学習手段としてさらに機能させる請求項4に記載の注釈情報付与プログラム。
- 一の入力者の入力に基づき、複数の対象を含む対象情報に注釈情報を付与する付与手段と、
他の入力者により前記複数の対象の一部に付与済みの注釈情報と、前記一の入力者により付与された注釈情報とを比較し、前記一の入力者及び前記他の入力者の信頼性を評価する評価手段と、
前記一の入力者及び前記他の入力者の信頼性に基づいて、前記一の入力者に注釈情報の付与を依頼する前記対象情報の対象の範囲を決定する決定手段とを有する情報処理装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014041519A JP6421421B2 (ja) | 2014-03-04 | 2014-03-04 | 注釈情報付与プログラム及び情報処理装置 |
US14/509,394 US20150254223A1 (en) | 2014-03-04 | 2014-10-08 | Non-transitory computer readable medium, information processing apparatus, and annotation-information adding method |
AU2015200401A AU2015200401B2 (en) | 2014-03-04 | 2015-01-28 | Annotation-information adding program, information processing apparatus, and annotation-information adding method |
SG10201501148YA SG10201501148YA (en) | 2014-03-04 | 2015-02-13 | Annotation-information adding program, information processing apparatus, and annotation-information adding method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014041519A JP6421421B2 (ja) | 2014-03-04 | 2014-03-04 | 注釈情報付与プログラム及び情報処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015166975A true JP2015166975A (ja) | 2015-09-24 |
JP6421421B2 JP6421421B2 (ja) | 2018-11-14 |
Family
ID=54017523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014041519A Active JP6421421B2 (ja) | 2014-03-04 | 2014-03-04 | 注釈情報付与プログラム及び情報処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20150254223A1 (ja) |
JP (1) | JP6421421B2 (ja) |
AU (1) | AU2015200401B2 (ja) |
SG (1) | SG10201501148YA (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018106662A (ja) * | 2016-12-22 | 2018-07-05 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
WO2019003485A1 (ja) * | 2017-06-30 | 2019-01-03 | 株式会社Abeja | 機械学習又は推論のための計算機システム及び方法 |
JP2019096319A (ja) * | 2017-11-21 | 2019-06-20 | クラウドワークス インコーポレイテッドCrowdWorks, Inc. | データラベリング作業検査方法及びプログラム |
WO2019187421A1 (ja) * | 2018-03-29 | 2019-10-03 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP2022078060A (ja) * | 2021-06-17 | 2022-05-24 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | ラベリング能力情報決定方法、関連する装置、電子デバイス、コンピュータ可読記憶媒体およびコンピュータプログラム |
JP2022549652A (ja) * | 2019-09-24 | 2022-11-28 | アプライド マテリアルズ インコーポレイテッド | 組織セグメンテーションのための機械学習モデルの双方向トレーニング |
WO2023181228A1 (ja) * | 2022-03-24 | 2023-09-28 | 三菱電機株式会社 | 二項分類装置及び二項分類装置のアノテーション補正方法 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9916296B2 (en) * | 2015-09-24 | 2018-03-13 | International Business Machines Corporation | Expanding entity and relationship patterns to a collection of document annotators using run traces |
CN110796156A (zh) * | 2018-08-02 | 2020-02-14 | 松下知识产权经营株式会社 | 信息处理方法及信息处理系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090164462A1 (en) * | 2006-05-09 | 2009-06-25 | Koninklijke Philips Electronics N.V. | Device and a method for annotating content |
JP2009282686A (ja) * | 2008-05-21 | 2009-12-03 | Toshiba Corp | 分類モデル学習装置および分類モデル学習方法 |
US9275291B2 (en) * | 2013-06-17 | 2016-03-01 | Texifter, LLC | System and method of classifier ranking for incorporation into enhanced machine learning |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8438499B2 (en) * | 2005-05-03 | 2013-05-07 | Mcafee, Inc. | Indicating website reputations during user interactions |
US7757163B2 (en) * | 2007-01-05 | 2010-07-13 | International Business Machines Corporation | Method and system for characterizing unknown annotator and its type system with respect to reference annotation types and associated reference taxonomy nodes |
JP5349032B2 (ja) * | 2008-12-19 | 2013-11-20 | Kddi株式会社 | 情報選別装置 |
US9262390B2 (en) * | 2010-09-02 | 2016-02-16 | Lexis Nexis, A Division Of Reed Elsevier Inc. | Methods and systems for annotating electronic documents |
US8732181B2 (en) * | 2010-11-04 | 2014-05-20 | Litera Technology Llc | Systems and methods for the comparison of annotations within files |
US20130091161A1 (en) * | 2011-10-11 | 2013-04-11 | International Business Machines Corporation | Self-Regulating Annotation Quality Control Mechanism |
WO2013136792A1 (ja) * | 2012-03-15 | 2013-09-19 | パナソニック株式会社 | コンテンツ処理装置、コンテンツ処理方法およびプログラム |
US9355359B2 (en) * | 2012-06-22 | 2016-05-31 | California Institute Of Technology | Systems and methods for labeling source data using confidence labels |
US9183466B2 (en) * | 2013-06-15 | 2015-11-10 | Purdue Research Foundation | Correlating videos and sentences |
-
2014
- 2014-03-04 JP JP2014041519A patent/JP6421421B2/ja active Active
- 2014-10-08 US US14/509,394 patent/US20150254223A1/en not_active Abandoned
-
2015
- 2015-01-28 AU AU2015200401A patent/AU2015200401B2/en active Active
- 2015-02-13 SG SG10201501148YA patent/SG10201501148YA/en unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090164462A1 (en) * | 2006-05-09 | 2009-06-25 | Koninklijke Philips Electronics N.V. | Device and a method for annotating content |
JP2009536390A (ja) * | 2006-05-09 | 2009-10-08 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | コンテンツに注釈付けする装置及び方法 |
JP2009282686A (ja) * | 2008-05-21 | 2009-12-03 | Toshiba Corp | 分類モデル学習装置および分類モデル学習方法 |
US9275291B2 (en) * | 2013-06-17 | 2016-03-01 | Texifter, LLC | System and method of classifier ranking for incorporation into enhanced machine learning |
Non-Patent Citations (4)
Title |
---|
アイゼンバーグ ナタリー 外3名: "MEDLINE概要文の役割分類のための信頼度の異なるデータを用いた学習", 電子情報通信学会 第18回データ工学ワークショップ論文集 [ONLINE], JPN6018007379, 1 June 2007 (2007-06-01), JP, pages 1 - 8, ISSN: 0003752072 * |
後藤 真介 外3名: "クラウドソーシングへの黒板アーキテクチャの適用", 電子情報通信学会技術研究報告, vol. 第113巻第376号, JPN6018007373, 3 January 2014 (2014-01-03), JP, pages 13 - 18, ISSN: 0003752069 * |
渡邉 俊大 外1名: "クラウドソーシングによるラベル付けにおける多数派の少数ワーカー近似:ラベル補完アプローチ", 電子情報通信学会技術研究報告, vol. 第113巻第476号, JPN6018007377, 27 February 2014 (2014-02-27), JP, pages 47 - 53, ISSN: 0003752071 * |
芦川 将之 外1名: "クラウドソーシングを用いたアノテーション", 人工知能, vol. 第29巻第1号, JPN6018007376, 1 January 2014 (2014-01-01), JP, pages 54 - 59, ISSN: 0003752070 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018106662A (ja) * | 2016-12-22 | 2018-07-05 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
US11531909B2 (en) | 2017-06-30 | 2022-12-20 | Abeja, Inc. | Computer system and method for machine learning or inference |
WO2019003485A1 (ja) * | 2017-06-30 | 2019-01-03 | 株式会社Abeja | 機械学習又は推論のための計算機システム及び方法 |
JPWO2019003485A1 (ja) * | 2017-06-30 | 2020-04-30 | 株式会社Abeja | 機械学習又は推論のための計算機システム及び方法 |
JP7409622B2 (ja) | 2017-06-30 | 2024-01-09 | 株式会社Abeja | 計算機システム及び方法 |
JP7122713B2 (ja) | 2017-06-30 | 2022-08-22 | 株式会社Abeja | 機械学習又は推論のための計算機システム及び方法 |
JP2022160544A (ja) * | 2017-06-30 | 2022-10-19 | 株式会社Abeja | 計算機システム及び方法 |
JP2019096319A (ja) * | 2017-11-21 | 2019-06-20 | クラウドワークス インコーポレイテッドCrowdWorks, Inc. | データラベリング作業検査方法及びプログラム |
WO2019187421A1 (ja) * | 2018-03-29 | 2019-10-03 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
CN111902829A (zh) * | 2018-03-29 | 2020-11-06 | 索尼公司 | 信息处理设备、信息处理方法和程序 |
JP2022549652A (ja) * | 2019-09-24 | 2022-11-28 | アプライド マテリアルズ インコーポレイテッド | 組織セグメンテーションのための機械学習モデルの双方向トレーニング |
JP7434537B2 (ja) | 2019-09-24 | 2024-02-20 | アプライド マテリアルズ インコーポレイテッド | 組織セグメンテーションのための機械学習モデルの双方向トレーニング |
JP2022078060A (ja) * | 2021-06-17 | 2022-05-24 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | ラベリング能力情報決定方法、関連する装置、電子デバイス、コンピュータ可読記憶媒体およびコンピュータプログラム |
WO2023181228A1 (ja) * | 2022-03-24 | 2023-09-28 | 三菱電機株式会社 | 二項分類装置及び二項分類装置のアノテーション補正方法 |
JP7466808B2 (ja) | 2022-03-24 | 2024-04-12 | 三菱電機株式会社 | 二項分類装置及び二項分類装置のアノテーション補正方法 |
Also Published As
Publication number | Publication date |
---|---|
SG10201501148YA (en) | 2015-10-29 |
AU2015200401B2 (en) | 2017-02-02 |
AU2015200401A1 (en) | 2015-09-24 |
JP6421421B2 (ja) | 2018-11-14 |
US20150254223A1 (en) | 2015-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6421421B2 (ja) | 注釈情報付与プログラム及び情報処理装置 | |
JP7200311B2 (ja) | 人工知能およびユーザ入力を用いて発達進度を判定するための方法および装置 | |
EP3525096A1 (en) | Resource load balancing control method and cluster scheduler | |
US10068175B2 (en) | Question resolution processing in deep question answering systems | |
JP7316453B2 (ja) | オブジェクト推薦方法及び装置、コンピュータ機器並びに媒体 | |
US9977829B2 (en) | Combinatorial summarizer | |
WO2015103964A1 (en) | Method, apparatus, and device for determining target user | |
CN109313490A (zh) | 使用神经网络的眼睛注视跟踪 | |
WO2016053685A1 (en) | Determining and localizing anomalous network behavior | |
US10984794B1 (en) | Information processing system, information processing apparatus, information processing method, and recording medium | |
US10204307B1 (en) | Classification of members in a social networking service | |
Lorimer et al. | Exploring relapse through a network analysis of residual depression and anxiety symptoms after cognitive behavioural therapy: A proof-of-concept study | |
US11188517B2 (en) | Annotation assessment and ground truth construction | |
US11294884B2 (en) | Annotation assessment and adjudication | |
JP7128311B2 (ja) | 文書種別の推奨方法、装置、電子機器、可読記憶媒体及びコンピュータプログラム製品 | |
US10313457B2 (en) | Collaborative filtering in directed graph | |
US10108906B2 (en) | Avoiding supporting evidence processing when evidence scoring does not affect final ranking of a candidate answer | |
Stripelis et al. | Accelerating federated learning in heterogeneous data and computational environments | |
US20230274818A1 (en) | Image analysis and insight generation | |
US20180218268A1 (en) | System, method and computer program product for sensory stimulation to ameliorate a cognitive state | |
JP7218633B2 (ja) | 情報処理装置及びプログラム | |
US8856634B2 (en) | Compensating for gaps in workload monitoring data | |
CN110929163A (zh) | 课程推荐方法、装置、计算机设备及存储介质 | |
JP2021077206A (ja) | 学習方法、評価装置、及び評価システム | |
TW202101478A (zh) | 患病機率預測方法與電子裝置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170301 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180306 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180423 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20180423 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180918 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181001 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6421421 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |