JP2018106662A - 情報処理装置、情報処理方法、プログラム - Google Patents
情報処理装置、情報処理方法、プログラム Download PDFInfo
- Publication number
- JP2018106662A JP2018106662A JP2017134662A JP2017134662A JP2018106662A JP 2018106662 A JP2018106662 A JP 2018106662A JP 2017134662 A JP2017134662 A JP 2017134662A JP 2017134662 A JP2017134662 A JP 2017134662A JP 2018106662 A JP2018106662 A JP 2018106662A
- Authority
- JP
- Japan
- Prior art keywords
- label
- learning data
- data
- labeling
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9017—Indexing; Data structures therefor; Storage structures using directory or table look-up
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/242—Dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】情報処理装置10000は、複数の学習データそれぞれに対して、学習データに対して付与されたラベルと前記ラベルに対応する属性情報とを対応付けて複数記憶する記憶手段101と、前記複数の学習データのうちの着目学習データについて、該着目学習データに対応する複数のラベルと該ラベルに対応する前記属性情報とに基づいて、前記着目学習データに対するラベルを決定するラベル決定手段112とを備える。
【選択図】図1
Description
第1の実施形態の情報処理装置10000は、各学習データに対して人またはアルゴリズムがラベル付けを行った結果と、属性情報としてラベラーの信頼度や各ラベラーによるラベル付けの自信度とを対応付けておく記憶しておく。そして、着目した学習画像に対して付けられたラベルとその信頼度とに基づいて、尤もらしいラベル決定する。なお、ラベル付けを行う人またはアルゴリズムを適宜ラベラーと称する。
ここで、f(x)はxに対して単調増加となる関数であり、例として図3のように様々なf(x)を取りうる。fを調整することによって、ラベラーの信頼度が一定値以下のラベルにはスコアを与えないことや、ラベル付けに対する自信度が極めて高いラベルに大きく依存させる等の条件を変えることができる。例えばf_1(x)=f_2(x)=xである。そして、各ラベル候補I_jに対してスコアS(j)を求め、S(j)が最大値となる時のラベルI_jを決定ラベルとすればよい。このようにS(j)の最大値を選ぶことによって、より信頼度の高いラベラーやより高い自信度のラベルやより多くの同じラベルを得たものが決定ラベルに選ばれる。よって、自信度が低く誤ったラベルである可能性が高いラベルの影響を減らしたり、悪意のあるラベラーが誤ったラベルを付与したとしても悪意のあるラベラーの信頼度は低くなるため、ラベルの決定に及ぼす悪い影響を減らしたりすることができる。また式(1)では自信度C(i)と信頼度R(A(i))を属性情報から得られるものとして説明したが、自信度の付け方については、本実施形態で先に述べた方法を用いればよい。また、信頼度の評価(信頼度導出)については、例えば過去に決定されたラベルと同じラベルを付けていたかの割合をラベラーごとに算出しその値を信頼度としてもよい。また、予め正しいラベルがわかっている複数のデータに対してラベラーにラベルを付けさせその正解率を信頼度としてもよい。また、自信度と信頼度のどちらか一方または両方を一定値として計算してもよい。
ラベル付けの自信度とラベラーの信頼度を考慮して図4の18に示す結果を得る。より詳しい方法を以下に示す。
第1の実施形態ではラベルとしてデータの属性情報、あるいは画像の領域を用いる説明を行った。ただし、ラベルはこれらに限定されるものではなく、画像の中に存在する対象物体をロボットにより吸着・把持するための位置や位置姿勢情報であってもよい。このとき、対象物体は画像中に1つとは限らない。位置や位置姿勢情報は画像に対して1つの場合もあるし、複数の場合もある。
本発明の第2の実施形態にかかる情報処理装置20000は、ラベラーがユーザである場合に、ユーザがラベル付けを行う際に、他のユーザによって付与されたラベルそのものや、現在自分が付与しようとしているラベルとの類似度を提示する。これにより、ラベル付けを行うユーザが効率良くラベル付けを行えるようにする。すなわち、第2の実施形態では、ある学習データにすでに他のユーザに付与されたラベルが存在している時、それをラベルや属性情報によって比較して見比べて、ラベル付けを行いやすくする。
ここで、画像内に占めるバウンディングボックス内部の領域が狭い場合、または、塗りつぶした領域が少ない場合には、Nwwが他の変数に比べて圧倒的に大きくなるため、類似度Reが1.0に近い値で微小な違いしか得られない。そのような場合には、式(2)においてNwwの値を小さな値で上書き(例えばNww=0)して類似度Reを計算することで、狭い領域であっても領域を指定したことに重みをつけて類似度を求めることができる。
第3の実施形態の情報処理装置30000は、クラウドソーシングによって多数のラベラーにラベル付けを行ってもらい、大量のラベルから高精度にラベルを決定する。さらに、学習データの中でラベルが確定していないデータを求めることで、ラベラーに処理してもらう学習データを適切に抽出して、大量の学習データに効率良くラベルを付ける。
ここでW(n)はラベルの数に応じてFの最大値を決める関数である。nが小さい場合はW(n)も小さく、nが大きければ大きな値を与えるものとする。ただし、W(n)の上限値は1.0である。このようなW(n)を設けることによってラベルの総数が少ない(nが小さい)時に、Fが容易に高い確定度を出力しないようにしている。ただし、確定度の計算はこの式に限るものではなく、決定ラベルの比率が高いことを利用したものであればよい。例えば、式(3)の代わりに以下の式でもよい。
ここで、S[x]はS(j)(j=1、…、m)を降順に並べた時のx番目の値のことを指す。つまりS[1]=maxS(j)であり、S[m]=minS(j)である。このようにして各学習データにおいて確定度Fを求める。ただしj>mの時、S[j]=0である。
第3の実施形態ではデータ抽出部116は抽出したデータをクラウドソーシング102に渡すものとして説明したが、データ抽出部116が抽出した学習データは、クラウドソーシング102に対してラベル付けを行うように依頼する形で受け渡してもよい。ラベル付けを依頼する際には、クラウドソーシング102のラベラーに対して、ラベル付けの方法がわかるように、ラベル付けを行ったデータとラベルの例とラベル付けの方針を明文化した文書のどちらか、または両方を提示する。このようにして、学習データは図示しない依頼部によってクラウドソーシング102に依頼がなされる。
第4の実施形態の情報処理装置40000は、クラウドソーシングによって大量のラベルから誤りの少ないラベルを決定し、誤りの少ないラベルを用いて学習することで、高精度に認識を行う。
第5の実施形態にかかる情報処理装置50000は、ラベラーが付けたラベルと既存のラベルの比較を行い、ラベラーの信頼度を評価する機能を備える。ラベラーの評価を高精度に行うことによって、ラベル付け作業に対する報酬を適切に支払うことや、ラベラー自身のモチベーション向上や作業効率のアップにもつながる。また、誤ったラベルを付けようとする悪意のあるラベラーを特定することもできる。
ここで、fおよびRは式(1)でも用いた単調増加の関数とラベラーの信頼度である。例えばf(R)=1+Rである。また信頼度Rについては後述の式(6)で求められる。ラベラーの報酬パラメータRwに基づいて、クラウドソーシングにおけるラベラーの報酬が決定する。学習データ100に対してラベル付けが続けられている間は決定ラベルや予測モデル等は随時変化するため、その段階でRwを求めたとしても正確な値であるとは限らない。よって、学習データ100に対して、ラベル付けが完了したと見なされたデータに対するラベルから、報酬パラメータが定義できるようになる。ただし、ラベラーの信頼度Rはその時点でのRを用いるものとする。式(5)に示すようにRwはラベル付けが完了したデータごとに次々に加算していけばよい。次にラベラーの信頼度Rは以下の式で求める。
ここで、W(p)は式(3)におけるW(n)と同様の関数であり、評価値の数pに応じてRの最大値を決める0〜1の関数である。求めたラベラーの信頼度Rはラベラーの属性情報として更新される。ラベラーの信頼度Rが閾値未満になると、そのラベラーは誤りラベルばかりを付与する悪意のあるラベラーとして認識され、そのラベラーが付けて来たラベル情報を軽視。または削除する。また、報酬パラメータの重み係数を極端に小さくしたりするなどの対策を講じてもよい。逆にラベラーの信頼度Rが閾値以上の場合には、式(1)で定めたS(j)の値が大きくなるため、ラベル決定部112や確定度計算部115で求める決定ラベルや確定度におけるそのラベラーの影響が大きくなる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (20)
- 複数の学習データそれぞれに対して、学習データに対して付与されたラベルと前記ラベルに対応する属性情報とを対応付けて複数記憶する記憶手段と、
前記複数の学習データのうちの着目学習データについて、該着目学習データに対応する複数のラベルと該ラベルに対応する前記属性情報とに基づいて、前記着目学習データに対するラベルを決定するラベル決定手段とを備える情報処理装置。 - 更に、前記着目学習データに対して付与されている複数のラベルそれぞれに対する評価値を導出する評価手段を備え、
前記決定手段は、前記評価値に基づいて前記着目学習データに対応するラベルを決定することを特徴とする請求項1に記載の情報処理装置。 - 前記評価手段は、前記属性情報に基づいて前記評価値を導出することを特徴とする請求項2に記載の情報処理装置。
- 前記属性情報は、該属性情報に対応するラベルを付与したユーザが該ラベルが正しいとする自信の度合いを表す自信度であることを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
- 前記属性情報は、学習データのラベルを識別する識別器が前記学習データに対して付与した結果の尤度であることを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
- 更に、前記記憶手段に記憶されているラベルを表示装置に表示させる表示制御手段を備えることを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
- 更に、前記記憶手段に記憶されている第1のラベルと第2のラベルとを比較するラベル比較手段を備え、
前記表示制御手段は、前記ラベル比較手段によって比較した結果を前記表示装置に表示させることを特徴とする請求項6に記載の情報処理装置。 - 前記ラベル比較手段は、複数のラベル間の類似度または一致度を算出し、
前記表示制御手段は、前記導出された類似度または前記一致度を表示させることを特徴とする請求項7に記載の情報処理装置。 - 前記表示制御手段は、前記属性情報に基づいて、前記ラベルをフィルタリングまたはソートして表示する機能を備える請求項6に記載の情報処理装置。
- 前記表示制御手段は、ユーザがラベル付けを行っている時に、前記表示装置にラベル付けを行っているデータに関連するラベル付きデータを比較して表示させることを備える請求項6に記載の情報処理装置。
- 更に、前記決定されたラベルの尤もらしさを表す確定度を前記ラベルと前記属性情報に基づいて計算するための確定度導出手段を備える請求項1に記載の情報処理装置。
- 更に、前記決定されたラベルを基にして予測モデルを学習するための学習手段と、
前記予測モデルを用いて認識を行う認識手段をさらに備えることを特徴とする請求項11に記載の情報処理装置。 - 前記確定度導出手段は、前記認識手段で認識した結果に基づいて確定度を導出することを特徴とする請求項12に記載の情報処理装置。
- 前記確定度に基づいて、学習データ群の中からラベル付けを依頼するデータ群を抽出するデータ抽出手段をさらに備える請求項11乃至13のいずれか1項に記載の情報処理装置。
- 前記データ抽出手段は、前記確定度が低いデータを優先して抽出することを特徴とする請求項14に記載の情報処理装置。
- 前記データ抽出手段は、すでにラベルが付与されている学習データを所定数以上は含むように前記データ群を抽出することを特徴とする請求項15に記載の情報処理装置。
- 更に、前記学習データに付与されているラベル付と前記ラベル決定手段によって決定されたラベルとの類似度を計算した結果に基づいて、前記学習データに付与されているラベル付けを評価するラベル評価手段を備えることを特徴とする請求項1乃至16の何れか1項に記載の情報処理装置。
- 更に、前記ラベル評価手段によって評価されたラベルに基づいて、ラベル付けを行った人またはアルゴリズムの信頼度を導出する信頼度導出手段を備えることを特徴とする請求項17に記載の情報処理装置。
- 複数の学習データそれぞれに対して、学習データに対して付与されたラベルと前記ラベルに対応する属性情報とを対応付けて複数記憶する記憶工程と、
前記複数の学習データのうちの着目学習データについて、該着目学習データに対応する複数のラベルと該ラベルに対応する前記属性情報とに基づいて、前記着目学習データに対するラベルを決定するラベル決定工程とを備える情報処理方法。 - コンピュータを、請求項1乃至18のいずれか1項に記載の情報処理装置の各手段として機能させることを特徴とするプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016249170 | 2016-12-22 | ||
JP2016249170 | 2016-12-22 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018106662A true JP2018106662A (ja) | 2018-07-05 |
JP6946081B2 JP6946081B2 (ja) | 2021-10-06 |
Family
ID=62629869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017134662A Active JP6946081B2 (ja) | 2016-12-22 | 2017-07-10 | 情報処理装置、情報処理方法、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11551134B2 (ja) |
JP (1) | JP6946081B2 (ja) |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020035116A (ja) * | 2018-08-29 | 2020-03-05 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 寄与度決定方法、寄与度決定装置及びプログラム |
WO2020090076A1 (ja) * | 2018-11-01 | 2020-05-07 | 日本電気株式会社 | 回答統合装置、回答統合方法および回答統合プログラム |
JP2020098556A (ja) * | 2018-12-17 | 2020-06-25 | クラウドワークス インコーポレイテッドCrowdWorks, Inc. | 検証用注釈処理作業を用いた実施用注釈処理作業の検証方法及び装置 |
JP2020126311A (ja) * | 2019-02-01 | 2020-08-20 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | アノテーション装置、アノテーション方法、及び、プログラム |
JP2020129322A (ja) * | 2019-02-12 | 2020-08-27 | 日本電信電話株式会社 | モデル学習装置、ラベル推定装置、それらの方法、およびプログラム |
JPWO2020188701A1 (ja) * | 2019-03-18 | 2020-09-24 | ||
JP2020187408A (ja) * | 2019-05-10 | 2020-11-19 | 株式会社日立システムズ | 学習データ作成支援システムおよび学習データ作成支援方法 |
WO2020250891A1 (ja) * | 2019-06-10 | 2020-12-17 | アミフィアブル株式会社 | スポーツ動画管理システム |
JP2021010970A (ja) * | 2019-07-05 | 2021-02-04 | 京セラドキュメントソリューションズ株式会社 | ロボットシステム及びロボット制御方法 |
JPWO2019167556A1 (ja) * | 2018-02-27 | 2021-02-04 | 国立大学法人九州工業大学 | ラベル収集装置、ラベル収集方法及びラベル収集プログラム |
JP2021015402A (ja) * | 2019-07-11 | 2021-02-12 | 富士通株式会社 | 判定処理プログラム、判定処理方法および情報処理装置 |
WO2021095693A1 (ja) * | 2019-11-14 | 2021-05-20 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
WO2021140604A1 (ja) * | 2020-01-09 | 2021-07-15 | 国立大学法人長崎大学 | 教師データの作成システム及び教師データの作成方法 |
WO2021193025A1 (ja) * | 2020-03-25 | 2021-09-30 | パナソニックIpマネジメント株式会社 | データ生成方法、判定方法、プログラム、及び、データ生成システム |
WO2021245924A1 (ja) * | 2020-06-05 | 2021-12-09 | 日本電信電話株式会社 | 処理装置、処理方法および処理プログラム |
JP2022002099A (ja) * | 2021-03-25 | 2022-01-06 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | データをラベリングするための方法、装置、電子機器、記憶媒体およびコンピュータプログラム |
JP2022078129A (ja) * | 2021-06-30 | 2022-05-24 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | データラベリング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム |
WO2022123905A1 (ja) * | 2020-12-07 | 2022-06-16 | パナソニックIpマネジメント株式会社 | 処理システム、学習処理システム、処理方法、及びプログラム |
WO2022185360A1 (ja) * | 2021-03-01 | 2022-09-09 | 日本電信電話株式会社 | 支援装置、支援方法およびプログラム |
WO2022224378A1 (ja) * | 2021-04-21 | 2022-10-27 | 株式会社Apto | データ収集システムおよびそのプログラム |
WO2022234692A1 (ja) * | 2021-05-06 | 2022-11-10 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理方法、情報処理装置およびプログラム |
JP7467595B2 (ja) | 2020-03-10 | 2024-04-15 | オリンパス株式会社 | 画像処理システム、画像処理装置、内視鏡システム、画像処理方法及びプログラム |
JP7482537B2 (ja) | 2020-01-09 | 2024-05-14 | 国立大学法人 長崎大学 | 教師データの作成システム |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7308421B2 (ja) * | 2018-07-02 | 2023-07-14 | パナソニックIpマネジメント株式会社 | 学習装置、学習システム、及び学習方法 |
US11164036B2 (en) * | 2018-08-30 | 2021-11-02 | The Government Of The United States Of America, As Represented By The Secretary Of The Navy | Human-assisted machine learning through geometric manipulation and refinement |
CN110717785A (zh) * | 2019-09-29 | 2020-01-21 | 支付宝(杭州)信息技术有限公司 | 基于标签分布学习的决策方法、系统及装置 |
US20220374930A1 (en) * | 2021-05-18 | 2022-11-24 | At&T Intellectual Property I, L.P. | Machine learning models with accurate data labeling |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011203991A (ja) * | 2010-03-25 | 2011-10-13 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
US20130132308A1 (en) * | 2011-11-22 | 2013-05-23 | Gregory Jensen Boss | Enhanced DeepQA in a Medical Environment |
JP2013120534A (ja) * | 2011-12-08 | 2013-06-17 | Mitsubishi Electric Corp | 関連語分類装置及びコンピュータプログラム及び関連語分類方法 |
JP2015129988A (ja) * | 2014-01-06 | 2015-07-16 | 日本電気株式会社 | データ処理装置 |
JP2015166975A (ja) * | 2014-03-04 | 2015-09-24 | 富士ゼロックス株式会社 | 注釈情報付与プログラム及び情報処理装置 |
JP2016115245A (ja) * | 2014-12-17 | 2016-06-23 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080086432A1 (en) * | 2006-07-12 | 2008-04-10 | Schmidtler Mauritius A R | Data classification methods using machine learning techniques |
US8165974B2 (en) * | 2009-06-08 | 2012-04-24 | Xerox Corporation | System and method for assisted document review |
US9483751B2 (en) * | 2011-02-18 | 2016-11-01 | Google Inc. | Label privileges |
JP2012194691A (ja) | 2011-03-15 | 2012-10-11 | Olympus Corp | 識別器の再学習方法、再学習のためのプログラム、及び画像認識装置 |
US9269053B2 (en) * | 2011-04-28 | 2016-02-23 | Kroll Ontrack, Inc. | Electronic review of documents |
US9087303B2 (en) * | 2012-02-19 | 2015-07-21 | International Business Machines Corporation | Classification reliability prediction |
US9002842B2 (en) * | 2012-08-08 | 2015-04-07 | Equivio Ltd. | System and method for computerized batching of huge populations of electronic documents |
US20140207786A1 (en) * | 2013-01-22 | 2014-07-24 | Equivio Ltd. | System and methods for computerized information governance of electronic documents |
US9122681B2 (en) * | 2013-03-15 | 2015-09-01 | Gordon Villy Cormack | Systems and methods for classifying electronic information using advanced active learning techniques |
JP5984153B2 (ja) | 2014-09-22 | 2016-09-06 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 情報処理装置、プログラム、及び情報処理方法 |
US9641770B2 (en) * | 2015-06-18 | 2017-05-02 | Wasaka Llc | Algorithm and devices for calibration and accuracy of overlaid image data |
US10242001B2 (en) * | 2015-06-19 | 2019-03-26 | Gordon V. Cormack | Systems and methods for conducting and terminating a technology-assisted review |
US10504037B1 (en) * | 2016-03-31 | 2019-12-10 | Veritas Technologies Llc | Systems and methods for automated document review and quality control |
RU2637883C1 (ru) * | 2016-06-20 | 2017-12-07 | Общество С Ограниченной Ответственностью "Яндекс" | Способ создания обучающего объекта для обучения алгоритма машинного обучения |
US10902066B2 (en) * | 2018-07-23 | 2021-01-26 | Open Text Holdings, Inc. | Electronic discovery using predictive filtering |
US20210089963A1 (en) * | 2019-09-23 | 2021-03-25 | Dropbox, Inc. | Cross-model score normalization |
US20210158209A1 (en) * | 2019-11-27 | 2021-05-27 | Amazon Technologies, Inc. | Systems, apparatuses, and methods of active learning for document querying machine learning models |
US20220108082A1 (en) * | 2020-10-07 | 2022-04-07 | DropCite Inc. | Enhancing machine learning models to evaluate electronic documents based on user interaction |
-
2017
- 2017-07-10 JP JP2017134662A patent/JP6946081B2/ja active Active
- 2017-12-18 US US15/845,922 patent/US11551134B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011203991A (ja) * | 2010-03-25 | 2011-10-13 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
US20130132308A1 (en) * | 2011-11-22 | 2013-05-23 | Gregory Jensen Boss | Enhanced DeepQA in a Medical Environment |
JP2013120534A (ja) * | 2011-12-08 | 2013-06-17 | Mitsubishi Electric Corp | 関連語分類装置及びコンピュータプログラム及び関連語分類方法 |
JP2015129988A (ja) * | 2014-01-06 | 2015-07-16 | 日本電気株式会社 | データ処理装置 |
JP2015166975A (ja) * | 2014-03-04 | 2015-09-24 | 富士ゼロックス株式会社 | 注釈情報付与プログラム及び情報処理装置 |
JP2016115245A (ja) * | 2014-12-17 | 2016-06-23 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
Non-Patent Citations (1)
Title |
---|
小山 聡 SATOSHI OYAMA: ""クラウドソーシングにおけるワーカーの確信度を用いた高精度なラベル統合 Accurate Integration of Crowd", 第27回全国大会論文集 [CD−ROM] 2013年度 人工知能学会全国大会(第27回)論文集 THE, JPN6021020603, 4 June 2013 (2013-06-04), ISSN: 0004517489 * |
Cited By (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7320280B2 (ja) | 2018-02-27 | 2023-08-03 | 国立大学法人九州工業大学 | ラベル収集装置、ラベル収集方法及びラベル収集プログラム |
JPWO2019167556A1 (ja) * | 2018-02-27 | 2021-02-04 | 国立大学法人九州工業大学 | ラベル収集装置、ラベル収集方法及びラベル収集プログラム |
JP7375135B2 (ja) | 2018-08-29 | 2023-11-07 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 判定方法 |
JP7211735B2 (ja) | 2018-08-29 | 2023-01-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 寄与度決定方法、寄与度決定装置及びプログラム |
JP2020035116A (ja) * | 2018-08-29 | 2020-03-05 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 寄与度決定方法、寄与度決定装置及びプログラム |
WO2020090076A1 (ja) * | 2018-11-01 | 2020-05-07 | 日本電気株式会社 | 回答統合装置、回答統合方法および回答統合プログラム |
JP7063397B2 (ja) | 2018-11-01 | 2022-05-09 | 日本電気株式会社 | 回答統合装置、回答統合方法および回答統合プログラム |
JPWO2020090076A1 (ja) * | 2018-11-01 | 2021-09-16 | 日本電気株式会社 | 回答統合装置、回答統合方法および回答統合プログラム |
JP2020098556A (ja) * | 2018-12-17 | 2020-06-25 | クラウドワークス インコーポレイテッドCrowdWorks, Inc. | 検証用注釈処理作業を用いた実施用注釈処理作業の検証方法及び装置 |
JP2020126311A (ja) * | 2019-02-01 | 2020-08-20 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | アノテーション装置、アノテーション方法、及び、プログラム |
JP7229795B2 (ja) | 2019-02-01 | 2023-02-28 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | アノテーション装置、アノテーション方法、及び、プログラム |
JP2020129322A (ja) * | 2019-02-12 | 2020-08-27 | 日本電信電話株式会社 | モデル学習装置、ラベル推定装置、それらの方法、およびプログラム |
JP7298174B2 (ja) | 2019-02-12 | 2023-06-27 | 日本電信電話株式会社 | モデル学習装置、ラベル推定装置、それらの方法、およびプログラム |
JP7255671B2 (ja) | 2019-03-18 | 2023-04-11 | 日本電気株式会社 | 機械学習システム、情報端末、情報処理方法、プログラム |
WO2020188701A1 (ja) * | 2019-03-18 | 2020-09-24 | 日本電気株式会社 | 機械学習システム、情報端末、情報処理装置、情報処理方法、プログラム、学習済モデル、及び、学習済モデルを生産する方法 |
JPWO2020188701A1 (ja) * | 2019-03-18 | 2020-09-24 | ||
JP2020187408A (ja) * | 2019-05-10 | 2020-11-19 | 株式会社日立システムズ | 学習データ作成支援システムおよび学習データ作成支援方法 |
JP7213138B2 (ja) | 2019-05-10 | 2023-01-26 | 株式会社日立システムズ | 学習データ作成支援システムおよび学習データ作成支援方法 |
WO2020250891A1 (ja) * | 2019-06-10 | 2020-12-17 | アミフィアブル株式会社 | スポーツ動画管理システム |
JP2021010970A (ja) * | 2019-07-05 | 2021-02-04 | 京セラドキュメントソリューションズ株式会社 | ロボットシステム及びロボット制御方法 |
JP7404679B2 (ja) | 2019-07-11 | 2023-12-26 | 富士通株式会社 | 判定処理プログラム、判定処理方法および情報処理装置 |
JP2021015402A (ja) * | 2019-07-11 | 2021-02-12 | 富士通株式会社 | 判定処理プログラム、判定処理方法および情報処理装置 |
WO2021095693A1 (ja) * | 2019-11-14 | 2021-05-20 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
WO2021140604A1 (ja) * | 2020-01-09 | 2021-07-15 | 国立大学法人長崎大学 | 教師データの作成システム及び教師データの作成方法 |
JP7482537B2 (ja) | 2020-01-09 | 2024-05-14 | 国立大学法人 長崎大学 | 教師データの作成システム |
JP7467595B2 (ja) | 2020-03-10 | 2024-04-15 | オリンパス株式会社 | 画像処理システム、画像処理装置、内視鏡システム、画像処理方法及びプログラム |
WO2021193025A1 (ja) * | 2020-03-25 | 2021-09-30 | パナソニックIpマネジメント株式会社 | データ生成方法、判定方法、プログラム、及び、データ生成システム |
WO2021245924A1 (ja) * | 2020-06-05 | 2021-12-09 | 日本電信電話株式会社 | 処理装置、処理方法および処理プログラム |
JP7389389B2 (ja) | 2020-06-05 | 2023-11-30 | 日本電信電話株式会社 | 処理装置、処理方法および処理プログラム |
WO2022123905A1 (ja) * | 2020-12-07 | 2022-06-16 | パナソニックIpマネジメント株式会社 | 処理システム、学習処理システム、処理方法、及びプログラム |
WO2022185360A1 (ja) * | 2021-03-01 | 2022-09-09 | 日本電信電話株式会社 | 支援装置、支援方法およびプログラム |
US11604766B2 (en) | 2021-03-25 | 2023-03-14 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, apparatus, device, storage medium and computer program product for labeling data |
JP7270691B2 (ja) | 2021-03-25 | 2023-05-10 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | データをラベリングするための方法、装置、電子機器、記憶媒体およびコンピュータプログラム |
JP2022002099A (ja) * | 2021-03-25 | 2022-01-06 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | データをラベリングするための方法、装置、電子機器、記憶媒体およびコンピュータプログラム |
WO2022224378A1 (ja) * | 2021-04-21 | 2022-10-27 | 株式会社Apto | データ収集システムおよびそのプログラム |
WO2022234692A1 (ja) * | 2021-05-06 | 2022-11-10 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理方法、情報処理装置およびプログラム |
JP2022078129A (ja) * | 2021-06-30 | 2022-05-24 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | データラベリング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20180181885A1 (en) | 2018-06-28 |
US11551134B2 (en) | 2023-01-10 |
JP6946081B2 (ja) | 2021-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6946081B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
US20190251471A1 (en) | Machine learning device | |
Hara et al. | Tohme: detecting curb ramps in google street view using crowdsourcing, computer vision, and machine learning | |
US10460256B2 (en) | Interactive performance visualization of multi-class classifier | |
AU2016201273B2 (en) | Recommending form fragments | |
CN106980867A (zh) | 将嵌入空间中的语义概念建模为分布 | |
JP7353946B2 (ja) | アノテーション装置および方法 | |
CN102365645A (zh) | 通过关联面部来组织数字图像 | |
US11397764B2 (en) | Machine learning for digital image selection across object variations | |
CN110858327A (zh) | 验证训练数据的方法、训练系统以及计算机程序产品 | |
US9600893B2 (en) | Image processing device, method, and medium for discriminating a type of input image using non-common regions | |
JP2007026316A (ja) | 画像管理装置、ならびに画像管理用コンピュータプログラムおよびそれを記録した記録媒体 | |
TW202009681A (zh) | 樣本標註方法及裝置、損傷類別的識別方法及裝置 | |
KR102326740B1 (ko) | 자동 기계학습을 통한 자동 진화형 플랫폼 구현 방법 및 장치 | |
WO2023109631A1 (zh) | 数据处理方法、装置、设备、存储介质及程序产品 | |
US20230024586A1 (en) | Learning device, learning method, and recording medium | |
JP6116650B1 (ja) | 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム | |
WO2016125418A1 (ja) | 画像表示制御装置,画像表示制御方法,および画像表示制御プログラムならびにそのプログラムを格納した記録媒体 | |
JP2021096515A (ja) | 文書管理装置及び文書管理プログラム | |
CN116453226A (zh) | 基于人工智能的人体姿态识别方法、装置及相关设备 | |
US11605232B2 (en) | System and method for road sign ground truth construction with a knowledge graph and machine learning | |
US10095802B2 (en) | Methods and systems for using field characteristics to index, search for, and retrieve forms | |
JP6617315B1 (ja) | 情報処理装置及びプログラム | |
CN112819925A (zh) | 病灶标注的处理方法、装置、电子设备和介质 | |
JP2020126328A5 (ja) |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200702 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210519 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210601 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210715 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210817 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210915 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6946081 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |