RU2019135532A - Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде - Google Patents
Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде Download PDFInfo
- Publication number
- RU2019135532A RU2019135532A RU2019135532A RU2019135532A RU2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A
- Authority
- RU
- Russia
- Prior art keywords
- bias
- parameter
- latent
- preference
- evaluator
- Prior art date
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
Claims (89)
1. Реализуемый компьютером способ выбора метки из множества меток, принятых для задачи сравнения, исполняемой в реализуемой компьютером краудсорсинговой среде, причем способ исполняется сервером, причем способ содержит:
прием сервером множества меток, выбранных множеством оценщиков реализуемой компьютером краудсорсинговой среды, причем каждая метка, включенная во множество меток, указывает воспринимаемое определенным оценщиком предпочтение первого объекта из задачи сравнения над вторым объектом из задачи сравнения;
анализ сервером задачи сравнения для определения набора скрытых признаков предвзятости, ассоциированных с первым объектом и вторым объектом, причем набор скрытых признаков предвзятости содержит один или более скрытых признаков в задаче сравнения, имеющих возможность влиять на восприятие предпочтения первого объекта над вторым объектом по меньшей мере частью упомянутого множества людей-оценщиков;
исполнение сервером алгоритма машинного обучения (MLA), причем MLA выполнен с возможностью, для определенного оценщика из упомянутого множества людей-оценщиков:
генерирования соответствующего параметра скрытой оценки для первого объекта и второго объекта, причем соответствующий параметр скрытой оценки указывает вероятное смещение между воспринимаемым определенным оценщиком предпочтением и параметром непредвзятого предпочтения первого объекта над вторым объектом, причем вероятное смещение обусловлено по меньшей мере некоторыми из набора скрытых признаков предвзятости;
генерирования прогнозного параметра вероятности предвзятости для определенного оценщика, причем прогнозный параметр вероятности предвзятости указывает вероятность того, что воспринимаемое определенным оценщиком предпочтение является одним из предвзятого и непредвзятого;
генерирования прогнозного параметра степени предвзятости для определенного оценщика, причем прогнозный параметр степени предвзятости указывает степень предвзятости, которую определенный оценщик имеет в пользу набора скрытых признаков предвзятости;
генерирования параметра непредвзятого предпочтения на основе логистической функции соответствующих параметров скрытых оценок;
при этом генерирование соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости выполняется на основе максимального правдоподобия того, что воспринимаемое определенным оценщиком смещение будет предвзятым как функция соответствующего параметра скрытой оценки, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости;
использование сервером параметра непредвзятого предпочтения в качестве метки для задачи сравнения для определенного оценщика.
2. Способ по п. 1, в котором MLA выполнен с возможностью исполнения генерирования соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости на основе логарифмической формулы:
(Уравнение 1)
где:
L - правдоподобие наблюдаемого сравнения при генеративном процессе на основе параметра скрытой оценки объектов, параметра вероятности предвзятости и параметра степени предвзятости для каждого оценщика;
wk - определенный оценщик;
di - первый объект из задачи сравнения для определенного оценщика wk, которому отдавалось предпочтение над вторым объектом dj;
P - множество меток, выбранных множеством оценщиков;
Yk - прогнозный параметр вероятности предвзятости;
si и sj соответствуют параметру скрытой оценки первого и второго объекта соответственно, причем параметром непредвзятого предпочтения является логистическая функция их разности;
xkij - набор скрытых признаков предвзятости; и rk - прогнозный параметр степени предвзятости.
3. Способ по п. 2, в котором MLA дополнительно выполнен с возможностью максимизации логарифмической формулы посредством максимизирующей формулы:
где:
T - целевая функция, которая максимизируется;
Λ - параметр регуляризации;
R - регуляризирующий член;
So - параметр скрытой оценки виртуального объекта.
4. Способ по п. 1, в котором задача сравнения представляет собой задачу парного сравнения.
5. Способ по п. 1, в котором анализ задачи сравнения исполняется перед приемом множества меток.
6. Способ по п. 2, в котором набор скрытых признаков предвзятости включает в себя по меньшей мере одно из:
размера шрифта, ассоциированного с первым объектом и вторым объектом соответственно;
размера изображения, ассоциированного с первым объектом и вторым объектом соответственно; и
позиционирования, ассоциированного с первым объектом и вторым объектом соответственно.
7. Способ по п. 6, при этом способ дополнительно содержит:
для определенного скрытого признака предвзятости, включенного в набор скрытых признаков предвзятости, генерирование вектора скрытого признака, причем вектор скрытого признака указывает по меньшей мере одно из:
присутствия определенного скрытого признака в задаче сравнения;
отсутствия определенного скрытого признака в задаче сравнения.
8. Способ по п. 7, в котором определенный скрытый признак предвзятости в наборе xkij скрытых признаков предвзятости соответствует:
первому значению, если определенный скрытый признак присутствует только в первом объекте;
второму значению, если определенный скрытый признак присутствует только во втором объекте;
третьему значению, если определенный скрытый признак присутствует в обоих объектах или отсутствует как в первом объекте, так и во втором объекте.
9. Способ по п. 1, в котором параметр непредвзятого предпочтения указывает фактическое предпочтение определенного оценщика, которое не подвержено влиянию набора скрытых признаков предвзятости.
10. Способ по п. 1, дополнительно содержащий агрегацию одного или более параметров непредвзятых предпочтений, каждый из которых ассоциирован с соответствующим оценщиком из множества людей-оценщиков.
11. Способ по п. 10, в котором MLA является первым MLA, а способ дополнительно содержит использование агрегированных одного или более параметров непредвзятых предпочтений для обучения второго MLA.
12. Способ по п. 1, в котором тот, один из набора скрытых признаков предвзятости, который имеет возможность влиять на восприятие предпочтения первого объекта над вторым объектом, априори не известен.
13. Система для выбора метки из множества меток, принятых для задачи сравнения, исполняемой в реализуемой компьютером краудсорсинговой среде, причем система содержит сервер, причем сервер содержит процессор, выполненный с возможностью:
приема множества меток, выбранных множеством оценщиков реализуемой компьютером краудсорсинговой среды, причем каждая метка, включенная во множество меток, указывает воспринимаемое определенным оценщиком предпочтение первого объекта из задачи сравнения над вторым объектом из задачи сравнения;
анализа задачи сравнения для определения набора скрытых признаков предвзятости, ассоциированных с первым объектом и вторым объектом, причем набор скрытых признаков предвзятости содержит один или более скрытых признаков в задаче сравнения, имеющих возможность влиять на восприятие предпочтения первого объекта над вторым объектом по меньшей мере частью упомянутого множества людей-оценщиков;
исполнения алгоритма машинного обучения (MLA), причем MLA выполнен с возможностью, для определенного оценщика из упомянутого множества людей-оценщиков:
генерирования соответствующего параметра скрытой оценки для первого объекта и второго объекта, причем соответствующий параметр скрытой оценки указывает вероятное смещение между воспринимаемым определенным оценщиком предпочтением и параметром непредвзятого предпочтения первого объекта над вторым объектом, причем вероятное смещение обусловлено по меньшей мере некоторыми из набора скрытых признаков предвзятости;
генерирования прогнозного параметра вероятности предвзятости для определенного оценщика, причем прогнозный параметр вероятности предвзятости указывает вероятность того, что воспринимаемое определенным оценщиком предпочтение является одним из предвзятого и непредвзятого;
генерирования прогнозного параметра степени предвзятости для определенного оценщика, причем прогнозный параметр степени предвзятости указывает степень предвзятости, которую определенный оценщик имеет в пользу набора скрытых признаков предвзятости;
генерирования параметра непредвзятого предпочтения на основе логистической функции соответствующих параметров скрытых оценок;
при этом генерирование соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости выполняется на основе максимального правдоподобия того, что воспринимаемое определенным оценщиком смещение будет предвзятым как функция соответствующего параметра скрытой оценки, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости;
использования параметра непредвзятого предпочтения в качестве метки для задачи сравнения для определенного оценщика.
14. Система по п. 13, в которой MLA выполнен с возможностью генерирования соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости на основе логарифмической формулы:
(Уравнение 1)
где:
L - правдоподобие наблюдаемого сравнения при генеративном процессе на основе скрытых оценок объектов, параметра вероятности предвзятости и параметра степени предвзятости для каждого оценщика;
wk - определенный оценщик;
di - первый объект из задачи сравнения для определенного оценщика wk, которому отдавалось предпочтение над вторым объектом dj;
P - множество меток, выбранных множеством оценщиков;
Yk - прогнозный параметр вероятности предвзятости;
si и sj соответствуют скрытым оценкам первого и второго объекта соответственно, причем параметром непредвзятого предпочтения является логистическая функция их разности;
xkij - набор скрытых признаков предвзятости; и rk - прогнозный параметр степени предвзятости.
15. Система по п. 14, в которой MLA дополнительно выполнен с возможностью максимизации логарифмической формулы посредством максимизирующей формулы:
где:
T - целевая функция, которая максимизируется;
Λ - параметр регуляризации;
R - регуляризирующий член;
So - параметр скрытой оценки виртуального объекта.
16. Система по п. 13, в которой задача сравнения представляет собой задачу парного сравнения.
17. Система по п. 13, в которой процессор выполнен с возможностью анализа задачи сравнения перед приемом множества меток.
18. Система по п. 17, в которой набор скрытых признаков предвзятости включает в себя по меньшей мере одно из:
размера шрифта, ассоциированного с первым объектом и вторым объектом соответственно;
размера изображения, ассоциированного с первым объектом и вторым объектом соответственно; и
позиционирования, ассоциированного с первым объектом и вторым объектом соответственно.
19. Система по п. 17, причем процессор дополнительно выполнен с возможностью:
для определенного скрытого признака предвзятости, включенного в набор скрытых признаков предвзятости, генерирования вектора скрытого признака, причем вектор скрытого признака указывает по меньшей мере одно из:
присутствия определенного скрытого признака в задаче сравнения;
отсутствия определенного скрытого признака в задаче сравнения.
20. Система по п. 19, в которой определенный скрытый признак предвзятости в наборе xkij скрытых признаков предвзятости соответствует:
первому значению, если определенный скрытый признак присутствует только в первом объекте;
второму значению, если определенный скрытый признак присутствует только во втором объекте;
третьему значению, если определенный скрытый признак присутствует в обоих объектах или отсутствует как в первом объекте, так и во втором объекте.
21. Система по п. 13, в которой параметр непредвзятого предпочтения указывает фактическое предпочтение определенного оценщика, которое не подвержено влиянию набора скрытых признаков предвзятости.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2019135532A RU2019135532A (ru) | 2019-11-05 | 2019-11-05 | Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде |
US16/906,074 US11481650B2 (en) | 2019-11-05 | 2020-06-19 | Method and system for selecting label from plurality of labels for task in crowd-sourced environment |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2019135532A RU2019135532A (ru) | 2019-11-05 | 2019-11-05 | Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде |
Publications (1)
Publication Number | Publication Date |
---|---|
RU2019135532A true RU2019135532A (ru) | 2021-05-05 |
Family
ID=75688709
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
RU2019135532A RU2019135532A (ru) | 2019-11-05 | 2019-11-05 | Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде |
Country Status (2)
Country | Link |
---|---|
US (1) | US11481650B2 (ru) |
RU (1) | RU2019135532A (ru) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2020107002A (ru) | 2020-02-14 | 2021-08-16 | Общество С Ограниченной Ответственностью «Яндекс» | Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде |
US11893459B1 (en) * | 2020-09-24 | 2024-02-06 | Change Healthcare Holdings Llc | Artificial intelligence labeling platform for secure data including observation validation |
Family Cites Families (111)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU5476199A (en) | 1998-08-12 | 2000-03-06 | Sc-Wireless, Inc. | Method and apparatus for network control in communications networks |
US6560597B1 (en) | 2000-03-21 | 2003-05-06 | International Business Machines Corporation | Concept decomposition using clustering |
US20020032591A1 (en) | 2000-09-08 | 2002-03-14 | Agentai, Inc. | Service request processing performed by artificial intelligence systems in conjunctiion with human intervention |
US7693738B2 (en) | 2001-03-22 | 2010-04-06 | Guinta Lawrence R | Computer-aided methods and apparatus for assessing an organizational process or system |
US20030154181A1 (en) | 2002-01-25 | 2003-08-14 | Nec Usa, Inc. | Document clustering with cluster refinement and model selection capabilities |
US7366705B2 (en) | 2004-04-15 | 2008-04-29 | Microsoft Corporation | Clustering based text classification |
US8170897B1 (en) | 2004-11-16 | 2012-05-01 | Amazon Technologies, Inc. | Automated validation of results of human performance of tasks |
US20100153156A1 (en) | 2004-12-13 | 2010-06-17 | Guinta Lawrence R | Critically/vulnerability/risk logic analysis methodology for business enterprise and cyber security |
US8266130B2 (en) | 2006-01-23 | 2012-09-11 | Chacha Search, Inc. | Search tool providing optional use of human search guides |
US7747083B2 (en) | 2006-03-27 | 2010-06-29 | Yahoo! Inc. | System and method for good nearest neighbor clustering of text |
US20070226207A1 (en) | 2006-03-27 | 2007-09-27 | Yahoo! Inc. | System and method for clustering content items from content feeds |
US20070260601A1 (en) | 2006-05-08 | 2007-11-08 | Thompson Henry S | Distributed human improvement of search engine results |
US20080027913A1 (en) | 2006-07-25 | 2008-01-31 | Yahoo! Inc. | System and method of information retrieval engine evaluation using human judgment input |
US9330071B1 (en) | 2007-09-06 | 2016-05-03 | Amazon Technologies, Inc. | Tag merging |
US8195498B2 (en) | 2009-05-18 | 2012-06-05 | Microsoft Corporation | Modeling a plurality of contests at a crowdsourcing node |
US8140518B2 (en) | 2010-01-08 | 2012-03-20 | Yahoo! Inc. | System and method for optimizing search results ranking through collaborative gaming |
US10853744B2 (en) | 2010-06-17 | 2020-12-01 | Figure Eight Technologies, Inc. | Distributing a task to multiple workers over a network for completion while providing quality control |
US9305263B2 (en) | 2010-06-30 | 2016-04-05 | Microsoft Technology Licensing, Llc | Combining human and machine intelligence to solve tasks with crowd sourcing |
US8875131B2 (en) | 2010-11-18 | 2014-10-28 | International Business Machines Corporation | Specification of environment required for crowdsourcing tasks |
US20120150579A1 (en) | 2010-12-08 | 2012-06-14 | Exvo.Com Company B.V. | Work distribution system and method of distributing work |
US11087247B2 (en) | 2011-03-23 | 2021-08-10 | Figure Eight Technologies, Inc. | Dynamic optimization for data quality control in crowd sourcing tasks to crowd labor |
US8554605B2 (en) | 2011-06-29 | 2013-10-08 | CrowdFlower, Inc. | Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks |
US20130029769A1 (en) | 2011-07-29 | 2013-01-31 | Wei-Yeh Lee | Aggregate Crowdsourcing Platforms |
US8626545B2 (en) | 2011-10-17 | 2014-01-07 | CrowdFlower, Inc. | Predicting future performance of multiple workers on crowdsourcing tasks and selecting repeated crowdsourcing workers |
US8918789B2 (en) | 2011-10-26 | 2014-12-23 | International Business Machines Corporation | Task assignment using ranking support vector machines |
US9043285B2 (en) | 2011-10-28 | 2015-05-26 | Linkedin Corporation | Phrase-based data classification system |
US8489585B2 (en) | 2011-12-20 | 2013-07-16 | Xerox Corporation | Efficient document processing system and method |
JP5362132B2 (ja) | 2012-01-20 | 2013-12-11 | 住友化学株式会社 | 無機酸化物粉末および無機酸化物含有スラリーならびに該スラリーを使用したリチウムイオン二次電池およびその製造方法 |
US11568334B2 (en) | 2012-03-01 | 2023-01-31 | Figure Eight Technologies, Inc. | Adaptive workflow definition of crowd sourced tasks and quality control mechanisms for multiple business applications |
US20150178659A1 (en) | 2012-03-13 | 2015-06-25 | Google Inc. | Method and System for Identifying and Maintaining Gold Units for Use in Crowdsourcing Applications |
US8759930B2 (en) | 2012-09-10 | 2014-06-24 | Optiz, Inc. | Low profile image sensor package |
US20150213392A1 (en) | 2012-09-27 | 2015-07-30 | Carnegie Mellon University | System and Method of Using Task Fingerprinting to Predict Task Performance |
US20140172767A1 (en) | 2012-12-14 | 2014-06-19 | Microsoft Corporation | Budget optimal crowdsourcing |
CN103914478B (zh) | 2013-01-06 | 2018-05-08 | 阿里巴巴集团控股有限公司 | 网页训练方法及系统、网页预测方法及系统 |
WO2014111948A1 (en) | 2013-01-18 | 2014-07-24 | Hewlett-Packard Development Company, L. P | Task assignment in crowdsourcing |
US20140343984A1 (en) | 2013-03-14 | 2014-11-20 | University Of Southern California | Spatial crowdsourcing with trustworthy query answering |
US20140278634A1 (en) | 2013-03-15 | 2014-09-18 | Microsoft Corporation | Spatiotemporal Crowdsourcing |
US9384423B2 (en) | 2013-05-28 | 2016-07-05 | Xerox Corporation | System and method for OCR output verification |
US20150074033A1 (en) | 2013-09-12 | 2015-03-12 | Netspective Communications Llc | Crowdsourced electronic documents review and scoring |
US9594944B2 (en) | 2013-09-25 | 2017-03-14 | Xerox Corporation | Methods and systems for monitoring a worker performing a crowdsourced task |
US9954942B2 (en) | 2013-12-11 | 2018-04-24 | Entit Software Llc | Result aggregation |
US9767419B2 (en) | 2014-01-24 | 2017-09-19 | Microsoft Technology Licensing, Llc | Crowdsourcing system with community learning |
US10915973B2 (en) | 2014-03-05 | 2021-02-09 | Transform Sr Brands Llc | System and method providing expert audience targeting |
US10671947B2 (en) | 2014-03-07 | 2020-06-02 | Netflix, Inc. | Distributing tasks to workers in a crowd-sourcing workforce |
US20150254593A1 (en) | 2014-03-10 | 2015-09-10 | Microsoft Corporation | Streamlined creation and utilization of reference human intelligence tasks |
US20150262111A1 (en) | 2014-03-12 | 2015-09-17 | Nanyang Technological University | Apparatus and method for efficient task allocation in crowdsourcing |
US20170052761A1 (en) | 2014-05-01 | 2017-02-23 | Answerto Llc | Expert signal ranking system |
US9911088B2 (en) | 2014-05-01 | 2018-03-06 | Microsoft Technology Licensing, Llc | Optimizing task recommendations in context-aware mobile crowdsourcing |
US10642845B2 (en) | 2014-05-30 | 2020-05-05 | Apple Inc. | Multi-domain search on a computing device |
US20150356489A1 (en) | 2014-06-05 | 2015-12-10 | Microsoft Corporation | Behavior-Based Evaluation Of Crowd Worker Quality |
US20150356488A1 (en) | 2014-06-09 | 2015-12-10 | Microsoft Corporation | Evaluating Workers in a Crowdsourcing Environment |
US9652745B2 (en) * | 2014-06-20 | 2017-05-16 | Hirevue, Inc. | Model-driven evaluator bias detection |
US9430299B2 (en) | 2014-08-06 | 2016-08-30 | International Business Machines Corporation | System, method and product for task allocation |
JP5946073B2 (ja) | 2014-11-07 | 2016-07-05 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 推定方法、推定システム、コンピュータ・システムおよびプログラム |
CN104463424A (zh) | 2014-11-11 | 2015-03-25 | 上海交通大学 | 众包中任务最优分配方法及其系统 |
US20160140477A1 (en) | 2014-11-13 | 2016-05-19 | Xerox Corporation | Methods and systems for assigning tasks to workers |
US20160210570A1 (en) | 2015-01-15 | 2016-07-21 | Xerox Corporation | Methods and systems for recommending tasks |
US10366107B2 (en) | 2015-02-06 | 2019-07-30 | International Business Machines Corporation | Categorizing questions in a question answering system |
CN104794573B (zh) | 2015-04-17 | 2018-05-29 | 上海交通大学 | 产品评估任务中的结果估计方法及众包众测平台 |
US10061848B2 (en) | 2015-05-22 | 2018-08-28 | Microsoft Technology Licensing, Llc | Ontology-crowd-relevance deep response generation |
US20160364673A1 (en) | 2015-06-09 | 2016-12-15 | Development Dimensions International, Inc. | Method and system for automated and integrated assessment rating and reporting |
US20170011077A1 (en) | 2015-07-07 | 2017-01-12 | Socrata, Inc. | Scalable annotation architecture |
US10210657B2 (en) | 2015-07-24 | 2019-02-19 | The University Of British Columbia | Methods and systems for hex-mesh optimization via edge-cone rectification |
US20170046794A1 (en) | 2015-08-11 | 2017-02-16 | Accenture Global Services Limited | System for sourcing talent utilizing crowdsourcing |
US10445671B2 (en) | 2015-08-27 | 2019-10-15 | Accenture Global Services Limited | Crowdsourcing a task |
US20170091697A1 (en) | 2015-09-01 | 2017-03-30 | Go Daddy Operating Company, LLC | Predictive model of task quality for crowd worker tasks |
RU2637431C2 (ru) | 2015-10-12 | 2017-12-04 | Общество С Ограниченной Ответственностью "Яндекс" | Способ и система определения оптимального значения параметра аукциона для цифрового объекта |
US20170154313A1 (en) | 2015-11-30 | 2017-06-01 | Linkedin Corporation | Personalized job posting presentation based on member data |
CN105608318B (zh) | 2015-12-18 | 2018-06-15 | 清华大学 | 众包标注整合方法 |
US10726377B2 (en) | 2015-12-29 | 2020-07-28 | Workfusion, Inc. | Task similarity clusters for worker assessment |
US20170200101A1 (en) | 2016-01-07 | 2017-07-13 | Tata Consultancy Services Limited | Systems and methods for optimized task allocation |
CN107025205B (zh) | 2016-01-30 | 2021-06-22 | 华为技术有限公司 | 一种分布式系统中的训练模型的方法及设备 |
US20170228749A1 (en) | 2016-02-04 | 2017-08-10 | Larvol | System and Method of Facilitating Dynamic Price Adjustment |
US9438619B1 (en) | 2016-02-29 | 2016-09-06 | Leo M. Chan | Crowdsourcing of trustworthiness indicators |
RU2632143C1 (ru) * | 2016-04-11 | 2017-10-02 | Общество С Ограниченной Ответственностью "Яндекс" | Способ обучения модуля ранжирования с использованием обучающей выборки с зашумленными ярлыками |
US10593220B2 (en) | 2016-04-21 | 2020-03-17 | Regina Joseph | Systems and methods for bias-sensitive crowd-sourced analytics |
US10270788B2 (en) | 2016-06-06 | 2019-04-23 | Netskope, Inc. | Machine learning based anomaly detection |
US10606952B2 (en) | 2016-06-24 | 2020-03-31 | Elemental Cognition Llc | Architecture and processes for computer learning and understanding |
US20170372225A1 (en) | 2016-06-28 | 2017-12-28 | Microsoft Technology Licensing, Llc | Targeting content to underperforming users in clusters |
US10671895B2 (en) | 2016-06-30 | 2020-06-02 | Microsoft Technology Licensing, Llc | Automated selection of subjectively best image frames from burst captured image sequences |
US10162734B1 (en) | 2016-07-20 | 2018-12-25 | Intuit Inc. | Method and system for crowdsourcing software quality testing and error detection in a tax return preparation system |
CN106327090A (zh) | 2016-08-29 | 2017-01-11 | 安徽慧达通信网络科技股份有限公司 | 一种应用于带偏好众包系统的真实任务分配方法 |
CN106203893A (zh) | 2016-09-09 | 2016-12-07 | 扬州大学 | 一种众包环境下的基于遗传算法的任务分配方法 |
CN106446287A (zh) | 2016-11-08 | 2017-02-22 | 北京邮电大学 | 面向众包场景问答系统答案聚合方法和系统 |
US11436548B2 (en) | 2016-11-18 | 2022-09-06 | DefinedCrowd Corporation | Identifying workers in a crowdsourcing or microtasking platform who perform low-quality work and/or are really automated bots |
US20180144654A1 (en) | 2016-11-23 | 2018-05-24 | SparxTeq Inc | Systems and methods for automated grading of geometric shape assessments |
CN106557891B (zh) | 2016-12-05 | 2021-05-11 | 苏州大学 | 基于用户可靠性的众包任务分配方法 |
US20180197125A1 (en) | 2017-01-06 | 2018-07-12 | Microsoft Technology Licensing, Llc | Tasks Across Multiple Accounts |
US10838967B2 (en) | 2017-06-08 | 2020-11-17 | Microsoft Technology Licensing, Llc | Emotional intelligence for a conversational chatbot |
CN109272003A (zh) | 2017-07-17 | 2019-01-25 | 华东师范大学 | 一种消除深度学习模型中未知错误的方法与装置 |
EP3438897A1 (en) | 2017-08-04 | 2019-02-06 | Swisscom (Schweiz) AG | Task allocator for crowd sourcing network |
CN110020098A (zh) | 2017-08-17 | 2019-07-16 | 南京东方网信网络科技有限公司 | 众包系统中抑制水军问题的细粒度推荐机制 |
CN107767055B (zh) | 2017-10-24 | 2021-07-23 | 北京航空航天大学 | 一种基于串谋检测的众包结果汇聚方法及装置 |
CN107767058B (zh) | 2017-10-26 | 2021-03-19 | 北京航空航天大学 | 一种众包软件开发者推荐方法 |
RU2672171C1 (ru) | 2017-10-27 | 2018-11-12 | Игорь Валентинович Михайлов | Способ подготовки рекомендаций для принятия решений на основе компьютеризированной оценки способностей пользователей |
CN107909262B (zh) | 2017-11-13 | 2022-01-07 | 北京航空航天大学 | 一种众包代价复杂度的获取方法 |
US11205143B2 (en) | 2018-02-16 | 2021-12-21 | Accenture Global Solutions Limited | Utilizing a machine learning model and natural language processing to manage and allocate tasks |
US10095688B1 (en) | 2018-04-02 | 2018-10-09 | Josh Schilling | Adaptive network querying system |
US11093871B2 (en) | 2018-04-16 | 2021-08-17 | International Business Machines Corporation | Facilitating micro-task performance during down-time |
US10978056B1 (en) | 2018-04-20 | 2021-04-13 | Facebook, Inc. | Grammaticality classification for natural language generation in assistant systems |
CN109670727B (zh) | 2018-12-30 | 2023-06-23 | 湖南网数科技有限公司 | 一种基于众包的分词标注质量评估系统及评估方法 |
RU2744032C2 (ru) | 2019-04-15 | 2021-03-02 | Общество С Ограниченной Ответственностью "Яндекс" | Способ и система для определения результата выполнения задачи в краудсорсинговой среде |
US11604980B2 (en) | 2019-05-22 | 2023-03-14 | At&T Intellectual Property I, L.P. | Targeted crowd sourcing for metadata management across data sets |
CN110503396B (zh) | 2019-08-22 | 2022-12-27 | 电子科技大学 | 基于多技能的复杂空间众包任务分配方法 |
KR102155790B1 (ko) | 2019-08-30 | 2020-09-14 | 주식회사 크라우드웍스 | 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치 |
CN110928764B (zh) | 2019-10-10 | 2023-08-11 | 中国人民解放军陆军工程大学 | 移动应用众包测试报告自动化评估方法及计算机存储介质 |
CN110909880B (zh) | 2019-11-20 | 2022-10-21 | 北京航空航天大学 | 一种基于深度知识追踪的众包任务预测方法 |
CN111191952A (zh) | 2020-01-06 | 2020-05-22 | 合肥城市云数据中心股份有限公司 | 加入空间众包工作者评分要素的空间众包任务分配方法 |
CN111291973B (zh) | 2020-01-17 | 2023-09-29 | 麦科思(无锡)数据科技有限公司 | 一种基于联盟的空间众包任务分配方法 |
KR102156582B1 (ko) | 2020-03-25 | 2020-09-17 | 주식회사 크라우드웍스 | 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법 |
CN111723930A (zh) | 2020-05-29 | 2020-09-29 | 北京航空航天大学 | 一种应用群智监督学习方法的系统 |
-
2019
- 2019-11-05 RU RU2019135532A patent/RU2019135532A/ru not_active Application Discontinuation
-
2020
- 2020-06-19 US US16/906,074 patent/US11481650B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11481650B2 (en) | 2022-10-25 |
US20210133606A1 (en) | 2021-05-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112560886A (zh) | 训练类条件生成对抗序列网络 | |
US20200065673A1 (en) | Pre-training system for self-learning agent in virtualized environment | |
US10595006B2 (en) | Method, system and medium for improving the quality of 2D-to-3D automatic image conversion using machine learning techniques | |
WO2017193121A1 (en) | Agent aptitude prediction | |
JP7070584B2 (ja) | 判別モデル生成装置、判別モデル生成方法および判別モデル生成プログラム | |
US20200125898A1 (en) | Methods and systems of segmentation of a document | |
RU2019135532A (ru) | Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде | |
JP5954547B2 (ja) | 確率モデル推定装置、方法、およびプログラム | |
Weber et al. | Single-shot panoptic segmentation | |
Felix et al. | Multi-modal ensemble classification for generalized zero shot learning | |
CN113537630A (zh) | 业务预测模型的训练方法及装置 | |
CN115187772A (zh) | 目标检测网络的训练及目标检测方法、装置及设备 | |
US11373285B2 (en) | Image generation device, image generation method, and image generation program | |
Sánchez-Ferrer et al. | An experimental study on marine debris location and recognition using object detection | |
CN117010492A (zh) | 基于知识迁移进行模型训练的方法及装置 | |
JP2021081795A (ja) | 推定システム、推定装置および推定方法 | |
EP3739515A1 (en) | Determining a perturbation mask for a classification model | |
Matikainen et al. | Classifier ensemble recommendation | |
Oveis et al. | LIME-Assisted Automatic Target Recognition with SAR Images: Towards Incremental Learning and Explainability | |
Gladence et al. | An enhanced method for disease prediction using ordinal classification-APUOC | |
Chavan et al. | Towards Realistic Evaluation of Industrial Continual Learning Scenarios with an Emphasis on Energy Consumption and Computational Footprint | |
KR20180082680A (ko) | 분류기를 학습시키는 방법 및 이를 이용한 예측 분류 장치 | |
CN111126617A (zh) | 一种选择融合模型权重参数的方法、装置及设备 | |
Noh et al. | Background subtraction method using codebook-GMM model | |
CN111178443B (zh) | 模型参数选择、图像分类、信息识别方法及装置、设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FA92 | Acknowledgement of application withdrawn (lack of supplementary materials submitted) |
Effective date: 20220301 |
|
FZ9A | Application not withdrawn (correction of the notice of withdrawal) |
Effective date: 20220314 |