RU2019135532A - Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде - Google Patents

Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде Download PDF

Info

Publication number
RU2019135532A
RU2019135532A RU2019135532A RU2019135532A RU2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A RU 2019135532 A RU2019135532 A RU 2019135532A
Authority
RU
Russia
Prior art keywords
bias
parameter
latent
preference
evaluator
Prior art date
Application number
RU2019135532A
Other languages
English (en)
Inventor
Надежда Александровна Бугакова
Валентина Павловна Федорова
Алексей Валерьевич Друца
Глеб Геннадьевич Гусев
Original Assignee
Общество С Ограниченной Ответственностью «Яндекс»
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Общество С Ограниченной Ответственностью «Яндекс» filed Critical Общество С Ограниченной Ответственностью «Яндекс»
Priority to RU2019135532A priority Critical patent/RU2019135532A/ru
Priority to US16/906,074 priority patent/US11481650B2/en
Publication of RU2019135532A publication Critical patent/RU2019135532A/ru

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/285Clustering or classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Claims (89)

1. Реализуемый компьютером способ выбора метки из множества меток, принятых для задачи сравнения, исполняемой в реализуемой компьютером краудсорсинговой среде, причем способ исполняется сервером, причем способ содержит:
прием сервером множества меток, выбранных множеством оценщиков реализуемой компьютером краудсорсинговой среды, причем каждая метка, включенная во множество меток, указывает воспринимаемое определенным оценщиком предпочтение первого объекта из задачи сравнения над вторым объектом из задачи сравнения;
анализ сервером задачи сравнения для определения набора скрытых признаков предвзятости, ассоциированных с первым объектом и вторым объектом, причем набор скрытых признаков предвзятости содержит один или более скрытых признаков в задаче сравнения, имеющих возможность влиять на восприятие предпочтения первого объекта над вторым объектом по меньшей мере частью упомянутого множества людей-оценщиков;
исполнение сервером алгоритма машинного обучения (MLA), причем MLA выполнен с возможностью, для определенного оценщика из упомянутого множества людей-оценщиков:
генерирования соответствующего параметра скрытой оценки для первого объекта и второго объекта, причем соответствующий параметр скрытой оценки указывает вероятное смещение между воспринимаемым определенным оценщиком предпочтением и параметром непредвзятого предпочтения первого объекта над вторым объектом, причем вероятное смещение обусловлено по меньшей мере некоторыми из набора скрытых признаков предвзятости;
генерирования прогнозного параметра вероятности предвзятости для определенного оценщика, причем прогнозный параметр вероятности предвзятости указывает вероятность того, что воспринимаемое определенным оценщиком предпочтение является одним из предвзятого и непредвзятого;
генерирования прогнозного параметра степени предвзятости для определенного оценщика, причем прогнозный параметр степени предвзятости указывает степень предвзятости, которую определенный оценщик имеет в пользу набора скрытых признаков предвзятости;
генерирования параметра непредвзятого предпочтения на основе логистической функции соответствующих параметров скрытых оценок;
при этом генерирование соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости выполняется на основе максимального правдоподобия того, что воспринимаемое определенным оценщиком смещение будет предвзятым как функция соответствующего параметра скрытой оценки, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости;
использование сервером параметра непредвзятого предпочтения в качестве метки для задачи сравнения для определенного оценщика.
2. Способ по п. 1, в котором MLA выполнен с возможностью исполнения генерирования соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости на основе логарифмической формулы:
Figure 00000001
(Уравнение 1)
где:
L - правдоподобие наблюдаемого сравнения при генеративном процессе на основе параметра скрытой оценки объектов, параметра вероятности предвзятости и параметра степени предвзятости для каждого оценщика;
wk - определенный оценщик;
di - первый объект из задачи сравнения для определенного оценщика wk, которому отдавалось предпочтение над вторым объектом dj;
P - множество меток, выбранных множеством оценщиков;
Yk - прогнозный параметр вероятности предвзятости;
si и sj соответствуют параметру скрытой оценки первого и второго объекта соответственно, причем параметром непредвзятого предпочтения является логистическая функция их разности;
xkij - набор скрытых признаков предвзятости; и rk - прогнозный параметр степени предвзятости.
3. Способ по п. 2, в котором MLA дополнительно выполнен с возможностью максимизации логарифмической формулы посредством максимизирующей формулы:
Figure 00000002
где:
T - целевая функция, которая максимизируется;
Λ - параметр регуляризации;
R - регуляризирующий член;
So - параметр скрытой оценки виртуального объекта.
4. Способ по п. 1, в котором задача сравнения представляет собой задачу парного сравнения.
5. Способ по п. 1, в котором анализ задачи сравнения исполняется перед приемом множества меток.
6. Способ по п. 2, в котором набор скрытых признаков предвзятости включает в себя по меньшей мере одно из:
размера шрифта, ассоциированного с первым объектом и вторым объектом соответственно;
размера изображения, ассоциированного с первым объектом и вторым объектом соответственно; и
позиционирования, ассоциированного с первым объектом и вторым объектом соответственно.
7. Способ по п. 6, при этом способ дополнительно содержит:
для определенного скрытого признака предвзятости, включенного в набор скрытых признаков предвзятости, генерирование вектора скрытого признака, причем вектор скрытого признака указывает по меньшей мере одно из:
присутствия определенного скрытого признака в задаче сравнения;
отсутствия определенного скрытого признака в задаче сравнения.
8. Способ по п. 7, в котором определенный скрытый признак предвзятости в наборе xkij скрытых признаков предвзятости соответствует:
первому значению, если определенный скрытый признак присутствует только в первом объекте;
второму значению, если определенный скрытый признак присутствует только во втором объекте;
третьему значению, если определенный скрытый признак присутствует в обоих объектах или отсутствует как в первом объекте, так и во втором объекте.
9. Способ по п. 1, в котором параметр непредвзятого предпочтения указывает фактическое предпочтение определенного оценщика, которое не подвержено влиянию набора скрытых признаков предвзятости.
10. Способ по п. 1, дополнительно содержащий агрегацию одного или более параметров непредвзятых предпочтений, каждый из которых ассоциирован с соответствующим оценщиком из множества людей-оценщиков.
11. Способ по п. 10, в котором MLA является первым MLA, а способ дополнительно содержит использование агрегированных одного или более параметров непредвзятых предпочтений для обучения второго MLA.
12. Способ по п. 1, в котором тот, один из набора скрытых признаков предвзятости, который имеет возможность влиять на восприятие предпочтения первого объекта над вторым объектом, априори не известен.
13. Система для выбора метки из множества меток, принятых для задачи сравнения, исполняемой в реализуемой компьютером краудсорсинговой среде, причем система содержит сервер, причем сервер содержит процессор, выполненный с возможностью:
приема множества меток, выбранных множеством оценщиков реализуемой компьютером краудсорсинговой среды, причем каждая метка, включенная во множество меток, указывает воспринимаемое определенным оценщиком предпочтение первого объекта из задачи сравнения над вторым объектом из задачи сравнения;
анализа задачи сравнения для определения набора скрытых признаков предвзятости, ассоциированных с первым объектом и вторым объектом, причем набор скрытых признаков предвзятости содержит один или более скрытых признаков в задаче сравнения, имеющих возможность влиять на восприятие предпочтения первого объекта над вторым объектом по меньшей мере частью упомянутого множества людей-оценщиков;
исполнения алгоритма машинного обучения (MLA), причем MLA выполнен с возможностью, для определенного оценщика из упомянутого множества людей-оценщиков:
генерирования соответствующего параметра скрытой оценки для первого объекта и второго объекта, причем соответствующий параметр скрытой оценки указывает вероятное смещение между воспринимаемым определенным оценщиком предпочтением и параметром непредвзятого предпочтения первого объекта над вторым объектом, причем вероятное смещение обусловлено по меньшей мере некоторыми из набора скрытых признаков предвзятости;
генерирования прогнозного параметра вероятности предвзятости для определенного оценщика, причем прогнозный параметр вероятности предвзятости указывает вероятность того, что воспринимаемое определенным оценщиком предпочтение является одним из предвзятого и непредвзятого;
генерирования прогнозного параметра степени предвзятости для определенного оценщика, причем прогнозный параметр степени предвзятости указывает степень предвзятости, которую определенный оценщик имеет в пользу набора скрытых признаков предвзятости;
генерирования параметра непредвзятого предпочтения на основе логистической функции соответствующих параметров скрытых оценок;
при этом генерирование соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости выполняется на основе максимального правдоподобия того, что воспринимаемое определенным оценщиком смещение будет предвзятым как функция соответствующего параметра скрытой оценки, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости;
использования параметра непредвзятого предпочтения в качестве метки для задачи сравнения для определенного оценщика.
14. Система по п. 13, в которой MLA выполнен с возможностью генерирования соответствующих параметров скрытых оценок, прогнозного параметра вероятности предвзятости и прогнозного параметра степени предвзятости на основе логарифмической формулы:
Figure 00000001
(Уравнение 1)
где:
L - правдоподобие наблюдаемого сравнения при генеративном процессе на основе скрытых оценок объектов, параметра вероятности предвзятости и параметра степени предвзятости для каждого оценщика;
wk - определенный оценщик;
di - первый объект из задачи сравнения для определенного оценщика wk, которому отдавалось предпочтение над вторым объектом dj;
P - множество меток, выбранных множеством оценщиков;
Yk - прогнозный параметр вероятности предвзятости;
si и sj соответствуют скрытым оценкам первого и второго объекта соответственно, причем параметром непредвзятого предпочтения является логистическая функция их разности;
xkij - набор скрытых признаков предвзятости; и rk - прогнозный параметр степени предвзятости.
15. Система по п. 14, в которой MLA дополнительно выполнен с возможностью максимизации логарифмической формулы посредством максимизирующей формулы:
Figure 00000002
где:
T - целевая функция, которая максимизируется;
Λ - параметр регуляризации;
R - регуляризирующий член;
So - параметр скрытой оценки виртуального объекта.
16. Система по п. 13, в которой задача сравнения представляет собой задачу парного сравнения.
17. Система по п. 13, в которой процессор выполнен с возможностью анализа задачи сравнения перед приемом множества меток.
18. Система по п. 17, в которой набор скрытых признаков предвзятости включает в себя по меньшей мере одно из:
размера шрифта, ассоциированного с первым объектом и вторым объектом соответственно;
размера изображения, ассоциированного с первым объектом и вторым объектом соответственно; и
позиционирования, ассоциированного с первым объектом и вторым объектом соответственно.
19. Система по п. 17, причем процессор дополнительно выполнен с возможностью:
для определенного скрытого признака предвзятости, включенного в набор скрытых признаков предвзятости, генерирования вектора скрытого признака, причем вектор скрытого признака указывает по меньшей мере одно из:
присутствия определенного скрытого признака в задаче сравнения;
отсутствия определенного скрытого признака в задаче сравнения.
20. Система по п. 19, в которой определенный скрытый признак предвзятости в наборе xkij скрытых признаков предвзятости соответствует:
первому значению, если определенный скрытый признак присутствует только в первом объекте;
второму значению, если определенный скрытый признак присутствует только во втором объекте;
третьему значению, если определенный скрытый признак присутствует в обоих объектах или отсутствует как в первом объекте, так и во втором объекте.
21. Система по п. 13, в которой параметр непредвзятого предпочтения указывает фактическое предпочтение определенного оценщика, которое не подвержено влиянию набора скрытых признаков предвзятости.
RU2019135532A 2019-11-05 2019-11-05 Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде RU2019135532A (ru)

Priority Applications (2)

Application Number Priority Date Filing Date Title
RU2019135532A RU2019135532A (ru) 2019-11-05 2019-11-05 Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде
US16/906,074 US11481650B2 (en) 2019-11-05 2020-06-19 Method and system for selecting label from plurality of labels for task in crowd-sourced environment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2019135532A RU2019135532A (ru) 2019-11-05 2019-11-05 Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде

Publications (1)

Publication Number Publication Date
RU2019135532A true RU2019135532A (ru) 2021-05-05

Family

ID=75688709

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2019135532A RU2019135532A (ru) 2019-11-05 2019-11-05 Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде

Country Status (2)

Country Link
US (1) US11481650B2 (ru)
RU (1) RU2019135532A (ru)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2020107002A (ru) 2020-02-14 2021-08-16 Общество С Ограниченной Ответственностью «Яндекс» Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде
US11893459B1 (en) * 2020-09-24 2024-02-06 Change Healthcare Holdings Llc Artificial intelligence labeling platform for secure data including observation validation

Family Cites Families (111)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU5476199A (en) 1998-08-12 2000-03-06 Sc-Wireless, Inc. Method and apparatus for network control in communications networks
US6560597B1 (en) 2000-03-21 2003-05-06 International Business Machines Corporation Concept decomposition using clustering
US20020032591A1 (en) 2000-09-08 2002-03-14 Agentai, Inc. Service request processing performed by artificial intelligence systems in conjunctiion with human intervention
US7693738B2 (en) 2001-03-22 2010-04-06 Guinta Lawrence R Computer-aided methods and apparatus for assessing an organizational process or system
US20030154181A1 (en) 2002-01-25 2003-08-14 Nec Usa, Inc. Document clustering with cluster refinement and model selection capabilities
US7366705B2 (en) 2004-04-15 2008-04-29 Microsoft Corporation Clustering based text classification
US8170897B1 (en) 2004-11-16 2012-05-01 Amazon Technologies, Inc. Automated validation of results of human performance of tasks
US20100153156A1 (en) 2004-12-13 2010-06-17 Guinta Lawrence R Critically/vulnerability/risk logic analysis methodology for business enterprise and cyber security
US8266130B2 (en) 2006-01-23 2012-09-11 Chacha Search, Inc. Search tool providing optional use of human search guides
US7747083B2 (en) 2006-03-27 2010-06-29 Yahoo! Inc. System and method for good nearest neighbor clustering of text
US20070226207A1 (en) 2006-03-27 2007-09-27 Yahoo! Inc. System and method for clustering content items from content feeds
US20070260601A1 (en) 2006-05-08 2007-11-08 Thompson Henry S Distributed human improvement of search engine results
US20080027913A1 (en) 2006-07-25 2008-01-31 Yahoo! Inc. System and method of information retrieval engine evaluation using human judgment input
US9330071B1 (en) 2007-09-06 2016-05-03 Amazon Technologies, Inc. Tag merging
US8195498B2 (en) 2009-05-18 2012-06-05 Microsoft Corporation Modeling a plurality of contests at a crowdsourcing node
US8140518B2 (en) 2010-01-08 2012-03-20 Yahoo! Inc. System and method for optimizing search results ranking through collaborative gaming
US10853744B2 (en) 2010-06-17 2020-12-01 Figure Eight Technologies, Inc. Distributing a task to multiple workers over a network for completion while providing quality control
US9305263B2 (en) 2010-06-30 2016-04-05 Microsoft Technology Licensing, Llc Combining human and machine intelligence to solve tasks with crowd sourcing
US8875131B2 (en) 2010-11-18 2014-10-28 International Business Machines Corporation Specification of environment required for crowdsourcing tasks
US20120150579A1 (en) 2010-12-08 2012-06-14 Exvo.Com Company B.V. Work distribution system and method of distributing work
US11087247B2 (en) 2011-03-23 2021-08-10 Figure Eight Technologies, Inc. Dynamic optimization for data quality control in crowd sourcing tasks to crowd labor
US8554605B2 (en) 2011-06-29 2013-10-08 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
US20130029769A1 (en) 2011-07-29 2013-01-31 Wei-Yeh Lee Aggregate Crowdsourcing Platforms
US8626545B2 (en) 2011-10-17 2014-01-07 CrowdFlower, Inc. Predicting future performance of multiple workers on crowdsourcing tasks and selecting repeated crowdsourcing workers
US8918789B2 (en) 2011-10-26 2014-12-23 International Business Machines Corporation Task assignment using ranking support vector machines
US9043285B2 (en) 2011-10-28 2015-05-26 Linkedin Corporation Phrase-based data classification system
US8489585B2 (en) 2011-12-20 2013-07-16 Xerox Corporation Efficient document processing system and method
JP5362132B2 (ja) 2012-01-20 2013-12-11 住友化学株式会社 無機酸化物粉末および無機酸化物含有スラリーならびに該スラリーを使用したリチウムイオン二次電池およびその製造方法
US11568334B2 (en) 2012-03-01 2023-01-31 Figure Eight Technologies, Inc. Adaptive workflow definition of crowd sourced tasks and quality control mechanisms for multiple business applications
US20150178659A1 (en) 2012-03-13 2015-06-25 Google Inc. Method and System for Identifying and Maintaining Gold Units for Use in Crowdsourcing Applications
US8759930B2 (en) 2012-09-10 2014-06-24 Optiz, Inc. Low profile image sensor package
US20150213392A1 (en) 2012-09-27 2015-07-30 Carnegie Mellon University System and Method of Using Task Fingerprinting to Predict Task Performance
US20140172767A1 (en) 2012-12-14 2014-06-19 Microsoft Corporation Budget optimal crowdsourcing
CN103914478B (zh) 2013-01-06 2018-05-08 阿里巴巴集团控股有限公司 网页训练方法及系统、网页预测方法及系统
WO2014111948A1 (en) 2013-01-18 2014-07-24 Hewlett-Packard Development Company, L. P Task assignment in crowdsourcing
US20140343984A1 (en) 2013-03-14 2014-11-20 University Of Southern California Spatial crowdsourcing with trustworthy query answering
US20140278634A1 (en) 2013-03-15 2014-09-18 Microsoft Corporation Spatiotemporal Crowdsourcing
US9384423B2 (en) 2013-05-28 2016-07-05 Xerox Corporation System and method for OCR output verification
US20150074033A1 (en) 2013-09-12 2015-03-12 Netspective Communications Llc Crowdsourced electronic documents review and scoring
US9594944B2 (en) 2013-09-25 2017-03-14 Xerox Corporation Methods and systems for monitoring a worker performing a crowdsourced task
US9954942B2 (en) 2013-12-11 2018-04-24 Entit Software Llc Result aggregation
US9767419B2 (en) 2014-01-24 2017-09-19 Microsoft Technology Licensing, Llc Crowdsourcing system with community learning
US10915973B2 (en) 2014-03-05 2021-02-09 Transform Sr Brands Llc System and method providing expert audience targeting
US10671947B2 (en) 2014-03-07 2020-06-02 Netflix, Inc. Distributing tasks to workers in a crowd-sourcing workforce
US20150254593A1 (en) 2014-03-10 2015-09-10 Microsoft Corporation Streamlined creation and utilization of reference human intelligence tasks
US20150262111A1 (en) 2014-03-12 2015-09-17 Nanyang Technological University Apparatus and method for efficient task allocation in crowdsourcing
US20170052761A1 (en) 2014-05-01 2017-02-23 Answerto Llc Expert signal ranking system
US9911088B2 (en) 2014-05-01 2018-03-06 Microsoft Technology Licensing, Llc Optimizing task recommendations in context-aware mobile crowdsourcing
US10642845B2 (en) 2014-05-30 2020-05-05 Apple Inc. Multi-domain search on a computing device
US20150356489A1 (en) 2014-06-05 2015-12-10 Microsoft Corporation Behavior-Based Evaluation Of Crowd Worker Quality
US20150356488A1 (en) 2014-06-09 2015-12-10 Microsoft Corporation Evaluating Workers in a Crowdsourcing Environment
US9652745B2 (en) * 2014-06-20 2017-05-16 Hirevue, Inc. Model-driven evaluator bias detection
US9430299B2 (en) 2014-08-06 2016-08-30 International Business Machines Corporation System, method and product for task allocation
JP5946073B2 (ja) 2014-11-07 2016-07-05 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 推定方法、推定システム、コンピュータ・システムおよびプログラム
CN104463424A (zh) 2014-11-11 2015-03-25 上海交通大学 众包中任务最优分配方法及其系统
US20160140477A1 (en) 2014-11-13 2016-05-19 Xerox Corporation Methods and systems for assigning tasks to workers
US20160210570A1 (en) 2015-01-15 2016-07-21 Xerox Corporation Methods and systems for recommending tasks
US10366107B2 (en) 2015-02-06 2019-07-30 International Business Machines Corporation Categorizing questions in a question answering system
CN104794573B (zh) 2015-04-17 2018-05-29 上海交通大学 产品评估任务中的结果估计方法及众包众测平台
US10061848B2 (en) 2015-05-22 2018-08-28 Microsoft Technology Licensing, Llc Ontology-crowd-relevance deep response generation
US20160364673A1 (en) 2015-06-09 2016-12-15 Development Dimensions International, Inc. Method and system for automated and integrated assessment rating and reporting
US20170011077A1 (en) 2015-07-07 2017-01-12 Socrata, Inc. Scalable annotation architecture
US10210657B2 (en) 2015-07-24 2019-02-19 The University Of British Columbia Methods and systems for hex-mesh optimization via edge-cone rectification
US20170046794A1 (en) 2015-08-11 2017-02-16 Accenture Global Services Limited System for sourcing talent utilizing crowdsourcing
US10445671B2 (en) 2015-08-27 2019-10-15 Accenture Global Services Limited Crowdsourcing a task
US20170091697A1 (en) 2015-09-01 2017-03-30 Go Daddy Operating Company, LLC Predictive model of task quality for crowd worker tasks
RU2637431C2 (ru) 2015-10-12 2017-12-04 Общество С Ограниченной Ответственностью "Яндекс" Способ и система определения оптимального значения параметра аукциона для цифрового объекта
US20170154313A1 (en) 2015-11-30 2017-06-01 Linkedin Corporation Personalized job posting presentation based on member data
CN105608318B (zh) 2015-12-18 2018-06-15 清华大学 众包标注整合方法
US10726377B2 (en) 2015-12-29 2020-07-28 Workfusion, Inc. Task similarity clusters for worker assessment
US20170200101A1 (en) 2016-01-07 2017-07-13 Tata Consultancy Services Limited Systems and methods for optimized task allocation
CN107025205B (zh) 2016-01-30 2021-06-22 华为技术有限公司 一种分布式系统中的训练模型的方法及设备
US20170228749A1 (en) 2016-02-04 2017-08-10 Larvol System and Method of Facilitating Dynamic Price Adjustment
US9438619B1 (en) 2016-02-29 2016-09-06 Leo M. Chan Crowdsourcing of trustworthiness indicators
RU2632143C1 (ru) * 2016-04-11 2017-10-02 Общество С Ограниченной Ответственностью "Яндекс" Способ обучения модуля ранжирования с использованием обучающей выборки с зашумленными ярлыками
US10593220B2 (en) 2016-04-21 2020-03-17 Regina Joseph Systems and methods for bias-sensitive crowd-sourced analytics
US10270788B2 (en) 2016-06-06 2019-04-23 Netskope, Inc. Machine learning based anomaly detection
US10606952B2 (en) 2016-06-24 2020-03-31 Elemental Cognition Llc Architecture and processes for computer learning and understanding
US20170372225A1 (en) 2016-06-28 2017-12-28 Microsoft Technology Licensing, Llc Targeting content to underperforming users in clusters
US10671895B2 (en) 2016-06-30 2020-06-02 Microsoft Technology Licensing, Llc Automated selection of subjectively best image frames from burst captured image sequences
US10162734B1 (en) 2016-07-20 2018-12-25 Intuit Inc. Method and system for crowdsourcing software quality testing and error detection in a tax return preparation system
CN106327090A (zh) 2016-08-29 2017-01-11 安徽慧达通信网络科技股份有限公司 一种应用于带偏好众包系统的真实任务分配方法
CN106203893A (zh) 2016-09-09 2016-12-07 扬州大学 一种众包环境下的基于遗传算法的任务分配方法
CN106446287A (zh) 2016-11-08 2017-02-22 北京邮电大学 面向众包场景问答系统答案聚合方法和系统
US11436548B2 (en) 2016-11-18 2022-09-06 DefinedCrowd Corporation Identifying workers in a crowdsourcing or microtasking platform who perform low-quality work and/or are really automated bots
US20180144654A1 (en) 2016-11-23 2018-05-24 SparxTeq Inc Systems and methods for automated grading of geometric shape assessments
CN106557891B (zh) 2016-12-05 2021-05-11 苏州大学 基于用户可靠性的众包任务分配方法
US20180197125A1 (en) 2017-01-06 2018-07-12 Microsoft Technology Licensing, Llc Tasks Across Multiple Accounts
US10838967B2 (en) 2017-06-08 2020-11-17 Microsoft Technology Licensing, Llc Emotional intelligence for a conversational chatbot
CN109272003A (zh) 2017-07-17 2019-01-25 华东师范大学 一种消除深度学习模型中未知错误的方法与装置
EP3438897A1 (en) 2017-08-04 2019-02-06 Swisscom (Schweiz) AG Task allocator for crowd sourcing network
CN110020098A (zh) 2017-08-17 2019-07-16 南京东方网信网络科技有限公司 众包系统中抑制水军问题的细粒度推荐机制
CN107767055B (zh) 2017-10-24 2021-07-23 北京航空航天大学 一种基于串谋检测的众包结果汇聚方法及装置
CN107767058B (zh) 2017-10-26 2021-03-19 北京航空航天大学 一种众包软件开发者推荐方法
RU2672171C1 (ru) 2017-10-27 2018-11-12 Игорь Валентинович Михайлов Способ подготовки рекомендаций для принятия решений на основе компьютеризированной оценки способностей пользователей
CN107909262B (zh) 2017-11-13 2022-01-07 北京航空航天大学 一种众包代价复杂度的获取方法
US11205143B2 (en) 2018-02-16 2021-12-21 Accenture Global Solutions Limited Utilizing a machine learning model and natural language processing to manage and allocate tasks
US10095688B1 (en) 2018-04-02 2018-10-09 Josh Schilling Adaptive network querying system
US11093871B2 (en) 2018-04-16 2021-08-17 International Business Machines Corporation Facilitating micro-task performance during down-time
US10978056B1 (en) 2018-04-20 2021-04-13 Facebook, Inc. Grammaticality classification for natural language generation in assistant systems
CN109670727B (zh) 2018-12-30 2023-06-23 湖南网数科技有限公司 一种基于众包的分词标注质量评估系统及评估方法
RU2744032C2 (ru) 2019-04-15 2021-03-02 Общество С Ограниченной Ответственностью "Яндекс" Способ и система для определения результата выполнения задачи в краудсорсинговой среде
US11604980B2 (en) 2019-05-22 2023-03-14 At&T Intellectual Property I, L.P. Targeted crowd sourcing for metadata management across data sets
CN110503396B (zh) 2019-08-22 2022-12-27 电子科技大学 基于多技能的复杂空间众包任务分配方法
KR102155790B1 (ko) 2019-08-30 2020-09-14 주식회사 크라우드웍스 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
CN110928764B (zh) 2019-10-10 2023-08-11 中国人民解放军陆军工程大学 移动应用众包测试报告自动化评估方法及计算机存储介质
CN110909880B (zh) 2019-11-20 2022-10-21 北京航空航天大学 一种基于深度知识追踪的众包任务预测方法
CN111191952A (zh) 2020-01-06 2020-05-22 合肥城市云数据中心股份有限公司 加入空间众包工作者评分要素的空间众包任务分配方法
CN111291973B (zh) 2020-01-17 2023-09-29 麦科思(无锡)数据科技有限公司 一种基于联盟的空间众包任务分配方法
KR102156582B1 (ko) 2020-03-25 2020-09-17 주식회사 크라우드웍스 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법
CN111723930A (zh) 2020-05-29 2020-09-29 北京航空航天大学 一种应用群智监督学习方法的系统

Also Published As

Publication number Publication date
US11481650B2 (en) 2022-10-25
US20210133606A1 (en) 2021-05-06

Similar Documents

Publication Publication Date Title
CN112560886A (zh) 训练类条件生成对抗序列网络
US20200065673A1 (en) Pre-training system for self-learning agent in virtualized environment
US10595006B2 (en) Method, system and medium for improving the quality of 2D-to-3D automatic image conversion using machine learning techniques
WO2017193121A1 (en) Agent aptitude prediction
JP7070584B2 (ja) 判別モデル生成装置、判別モデル生成方法および判別モデル生成プログラム
US20200125898A1 (en) Methods and systems of segmentation of a document
RU2019135532A (ru) Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде
JP5954547B2 (ja) 確率モデル推定装置、方法、およびプログラム
Weber et al. Single-shot panoptic segmentation
Felix et al. Multi-modal ensemble classification for generalized zero shot learning
CN113537630A (zh) 业务预测模型的训练方法及装置
CN115187772A (zh) 目标检测网络的训练及目标检测方法、装置及设备
US11373285B2 (en) Image generation device, image generation method, and image generation program
Sánchez-Ferrer et al. An experimental study on marine debris location and recognition using object detection
CN117010492A (zh) 基于知识迁移进行模型训练的方法及装置
JP2021081795A (ja) 推定システム、推定装置および推定方法
EP3739515A1 (en) Determining a perturbation mask for a classification model
Matikainen et al. Classifier ensemble recommendation
Oveis et al. LIME-Assisted Automatic Target Recognition with SAR Images: Towards Incremental Learning and Explainability
Gladence et al. An enhanced method for disease prediction using ordinal classification-APUOC
Chavan et al. Towards Realistic Evaluation of Industrial Continual Learning Scenarios with an Emphasis on Energy Consumption and Computational Footprint
KR20180082680A (ko) 분류기를 학습시키는 방법 및 이를 이용한 예측 분류 장치
CN111126617A (zh) 一种选择融合模型权重参数的方法、装置及设备
Noh et al. Background subtraction method using codebook-GMM model
CN111178443B (zh) 模型参数选择、图像分类、信息识别方法及装置、设备

Legal Events

Date Code Title Description
FA92 Acknowledgement of application withdrawn (lack of supplementary materials submitted)

Effective date: 20220301

FZ9A Application not withdrawn (correction of the notice of withdrawal)

Effective date: 20220314