RU2020107002A - Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде - Google Patents

Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде Download PDF

Info

Publication number
RU2020107002A
RU2020107002A RU2020107002A RU2020107002A RU2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A
Authority
RU
Russia
Prior art keywords
digital
examples
subset
task
implemented
Prior art date
Application number
RU2020107002A
Other languages
English (en)
Inventor
Кирилл Валериевич Николаев
Александр Сергеевич Лукьянов
Ришат Нариманович Ибрагимов
Дмитрий Николаевич Вельтищев
Никита Романович Попов
Владислав Викторович Немиро
Дарья Сергеевна Зверева
Original Assignee
Общество С Ограниченной Ответственностью «Яндекс»
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Общество С Ограниченной Ответственностью «Яндекс» filed Critical Общество С Ограниченной Ответственностью «Яндекс»
Priority to RU2020107002A priority Critical patent/RU2020107002A/ru
Priority to US17/165,406 priority patent/US11727329B2/en
Publication of RU2020107002A publication Critical patent/RU2020107002A/ru

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • G06Q10/063112Skill-based matching of a person or a group to a task
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/285Clustering or classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9538Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Educational Administration (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Software Systems (AREA)
  • Economics (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Development Economics (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Game Theory and Decision Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Claims (41)

1. Реализуемый компьютером способ приема метки для цифровой задачи, исполняемой в реализуемой компьютером краудсорсинговой среде, причем способ исполняется сервером и содержит:
прием сервером указания цифровой задачи, которая подлежит обработке в реализуемой компьютером краудсорсинговой среде;
генерирование сервером подмножества примеров, причем подмножество примеров основано на прошлых цифровых задачах, исполненных в реализуемой компьютером краудсорсинговой среде, причем каждый из подмножества примеров подобен цифровой задаче в пределах предопределенной пороговой величины подобия;
подмножество примеров имеет некоторое число примеров, выбранных так, чтобы обеспечить максимальный эталонный охват с минимальным количеством образцов в подмножестве примеров;
ассоциирование сервером подмножества примеров с цифровой задачей, которая подлежит представлению в реализуемой компьютером краудсорсинговой среде;
обеспечение представления цифровой задачи на вычислительном устройстве по меньшей мере одного участвующего в краудсорсинге работника в реализуемой компьютером краудсорсинговой среде для получения метки для цифровой задачи.
2. Способ по п. 1, в котором цифровая задача представляет собой задачу пометки релевантности страницы результатов поиска (SERP).
3. Способ по п. 2, в котором сервер коммуникативно связан с базой данных журнала SERP, причем база данных журнала SERP содержит множество ранее сгенерированных SERP и при этом генерирование подмножества примеров на основе прошлых цифровых задач содержит:
извлечение из базы данных журнала SERP множества SERP;
передачу множества SERP множеству участвующих в краудсорсинге работников в реализуемой компьютером краудсорсинговой среде для оценки уместности каждой из упомянутого множества SERP.
4. Способ по п. 3, дополнительно содержащий:
прием от множества участвующих в краудсорсинге работников множества меток для каждой из упомянутого множества SERP;
ввод множества меток в первый алгоритм машинного обучения (MLA), причем первый MLA выполнен с возможностью генерирования набора меток, соответствующего упомянутому множеству меток, с удалением воспринимаемой предвзятости множества участвующих в краудсорсинге работников.
5. Способ по п. 4, дополнительно содержащий:
отображение множества SERP на шкалу на основе набора меток;
кластеризацию с использованием второго MLA набора меток в один или более кластеров, причем каждый из одного или более кластеров обеспечивает максимальный эталонный охват шкалы, причем каждый кластер содержит минимальное число SERP.
6. Способ по п. 1, в котором цифровая задача содержит генерирование скользящей шкалы пометки, причем скользящая шкала пометки имеет указатели метки, основанные на подмножестве примеров.
7. Способ по п. 6, в котором скользящая шкала выполнена с возможностью обеспечения возможности выбора участвующим в краудсорсинге работником одного из указателей метки.
8. Способ по п. 6, в котором выбор метки осуществляется взаимодействием участвующего в краудсорсинге работника с указателем метки, причем это взаимодействие имеет первый тип.
9. Способ по п. 8, при этом способ дополнительно содержит в ответ на взаимодействие участвующего в краудсорсинге работника с одним из указателей метки с использованием второго типа взаимодействия, обеспечение ассоциированного примера прошлых цифровых задач.
10. Способ по п. 5, дополнительно содержащий обучение второго MLA.
11. Способ по п. 10, в котором обучение второго MLA основано на обучающем наборе, причем обучающий набор включает в себя пару цифровых задач и обучающую метку, указывающую полезность первой задачи из пары цифровых задач в качестве иллюстративного примера для второй задачи из упомянутой пары цифровых задач.
12. Способ по п. 11, в котором обучающая метка назначается обучающими работниками, участвующими в краудсорсинге, в реализуемой компьютером краудсорсинговой среде.
13. Способ по п. 11, в котором обучающая метка дополнительно указывает избыточность пары цифровых задач в качестве иллюстративного примера.
14. Способ по п. 5, в котором способ дополнительно содержит определение шага между каждым из одного или более кластеров.
15. Способ по п. 14, в котором определение шага исполняется вторым MLA.
16. Способ по п. 14, в котором шаг визуально представлен на скользящей шкале пометки как расстояние между образцами в подмножестве примеров.
17. Способ по п. 14, в котором шаг указывает иллюстративную близость между примерами упомянутого подмножества.
18. Система приема метки для цифровой задачи, исполняемой в реализуемой компьютером краудсорсинговой среде, причем система содержит сервер, причем сервер содержит процессор, выполненный с возможностью:
приема указания цифровой задачи, которая подлежит обработке в реализуемой компьютером краудсорсинговой среде;
генерирования подмножества примеров, причем подмножество примеров основано на прошлых цифровых задачах, исполненных в реализуемой компьютером краудсорсинговой среде, причем каждый из подмножества примеров подобен цифровой задаче в пределах предопределенной пороговой величины подобия;
подмножество примеров имеет некоторое число примеров, выбранных так, чтобы обеспечить максимальный эталонный охват с минимальным количеством образцов в подмножестве примеров;
ассоциирования подмножества примеров с цифровой задачей, которая подлежит представлению в реализуемой компьютером краудсорсинговой среде;
обеспечения представления цифровой задачи на вычислительном устройстве по меньшей мере одного участвующего в краудсорсинге работника в реализуемой компьютером краудсорсинговой среде для получения метки для цифровой задачи.
19. Система по п. 18, в которой цифровая задача представляет собой задачу пометки релевантности страницы результатов поиска (SERP).
20. Система по п. 19, в которой сервер коммуникативно связан с базой данных журнала SERP, причем база данных журнала SERP содержит множество ранее сгенерированных SERP и при этом для генерирования подмножества примеров на основе прошлых цифровых задач процессор выполнен с возможностью:
извлечения из базы данных журнала SERP множества SERP;
передачи множества SERP множеству участвующих в краудсорсинге работников в реализуемой компьютером краудсорсинговой среде для оценки уместности каждой из упомянутого множества SERP.
21. Система по п. 20, в которой процессор дополнительно выполнен с возможностью:
приема от множества участвующих в краудсорсинге работников множества меток для каждой из упомянутого множества SERP;
ввода множества меток в первый алгоритм машинного обучения (MLA), причем первый MLA выполнен с возможностью генерирования набора меток, соответствующих упомянутому множеству меток, с удалением воспринимаемой предвзятости множества участвующих в краудсорсинге работников.
RU2020107002A 2020-02-14 2020-02-14 Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде RU2020107002A (ru)

Priority Applications (2)

Application Number Priority Date Filing Date Title
RU2020107002A RU2020107002A (ru) 2020-02-14 2020-02-14 Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде
US17/165,406 US11727329B2 (en) 2020-02-14 2021-02-02 Method and system for receiving label for digital task executed within crowd-sourced environment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2020107002A RU2020107002A (ru) 2020-02-14 2020-02-14 Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде

Publications (1)

Publication Number Publication Date
RU2020107002A true RU2020107002A (ru) 2021-08-16

Family

ID=77273252

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2020107002A RU2020107002A (ru) 2020-02-14 2020-02-14 Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде

Country Status (2)

Country Link
US (1) US11727329B2 (ru)
RU (1) RU2020107002A (ru)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220197679A1 (en) * 2020-12-18 2022-06-23 Advanced Micro Devices (Shanghai) Co., Ltd. Modifying device status in single virtual function mode

Family Cites Families (128)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1299247A (zh) 1998-07-03 2001-06-13 阿巴茨医疗技术有限公司 用于测量生物医学压力的平面传感器
US6560597B1 (en) 2000-03-21 2003-05-06 International Business Machines Corporation Concept decomposition using clustering
US20020032591A1 (en) 2000-09-08 2002-03-14 Agentai, Inc. Service request processing performed by artificial intelligence systems in conjunctiion with human intervention
US7693738B2 (en) 2001-03-22 2010-04-06 Guinta Lawrence R Computer-aided methods and apparatus for assessing an organizational process or system
US20030154181A1 (en) 2002-01-25 2003-08-14 Nec Usa, Inc. Document clustering with cluster refinement and model selection capabilities
US7366705B2 (en) 2004-04-15 2008-04-29 Microsoft Corporation Clustering based text classification
US20060026240A1 (en) * 2004-07-28 2006-02-02 Unilever Home & Personal Care Usa, Division Of Conopco, Inc. Method of collecting data from one or multiple respondents using spreadsheet based tool with programmed wizard utility deployed by e-mail
US8170897B1 (en) 2004-11-16 2012-05-01 Amazon Technologies, Inc. Automated validation of results of human performance of tasks
US20100153156A1 (en) 2004-12-13 2010-06-17 Guinta Lawrence R Critically/vulnerability/risk logic analysis methodology for business enterprise and cyber security
US8266130B2 (en) 2006-01-23 2012-09-11 Chacha Search, Inc. Search tool providing optional use of human search guides
US20070226207A1 (en) 2006-03-27 2007-09-27 Yahoo! Inc. System and method for clustering content items from content feeds
US7747083B2 (en) 2006-03-27 2010-06-29 Yahoo! Inc. System and method for good nearest neighbor clustering of text
US20070260601A1 (en) 2006-05-08 2007-11-08 Thompson Henry S Distributed human improvement of search engine results
US20080027913A1 (en) 2006-07-25 2008-01-31 Yahoo! Inc. System and method of information retrieval engine evaluation using human judgment input
US9330071B1 (en) 2007-09-06 2016-05-03 Amazon Technologies, Inc. Tag merging
US10055698B2 (en) 2008-02-11 2018-08-21 Clearshift Corporation Online work management system with job division support
US8195498B2 (en) 2009-05-18 2012-06-05 Microsoft Corporation Modeling a plurality of contests at a crowdsourcing node
US8140518B2 (en) 2010-01-08 2012-03-20 Yahoo! Inc. System and method for optimizing search results ranking through collaborative gaming
US10853744B2 (en) 2010-06-17 2020-12-01 Figure Eight Technologies, Inc. Distributing a task to multiple workers over a network for completion while providing quality control
US9305263B2 (en) 2010-06-30 2016-04-05 Microsoft Technology Licensing, Llc Combining human and machine intelligence to solve tasks with crowd sourcing
US8875131B2 (en) 2010-11-18 2014-10-28 International Business Machines Corporation Specification of environment required for crowdsourcing tasks
US20120150579A1 (en) 2010-12-08 2012-06-14 Exvo.Com Company B.V. Work distribution system and method of distributing work
US11087247B2 (en) 2011-03-23 2021-08-10 Figure Eight Technologies, Inc. Dynamic optimization for data quality control in crowd sourcing tasks to crowd labor
US8554605B2 (en) 2011-06-29 2013-10-08 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
US20130029769A1 (en) 2011-07-29 2013-01-31 Wei-Yeh Lee Aggregate Crowdsourcing Platforms
US8626545B2 (en) 2011-10-17 2014-01-07 CrowdFlower, Inc. Predicting future performance of multiple workers on crowdsourcing tasks and selecting repeated crowdsourcing workers
US8918789B2 (en) 2011-10-26 2014-12-23 International Business Machines Corporation Task assignment using ranking support vector machines
US9043285B2 (en) 2011-10-28 2015-05-26 Linkedin Corporation Phrase-based data classification system
US9536517B2 (en) 2011-11-18 2017-01-03 At&T Intellectual Property I, L.P. System and method for crowd-sourced data labeling
US8489585B2 (en) 2011-12-20 2013-07-16 Xerox Corporation Efficient document processing system and method
JP5362132B2 (ja) 2012-01-20 2013-12-11 住友化学株式会社 無機酸化物粉末および無機酸化物含有スラリーならびに該スラリーを使用したリチウムイオン二次電池およびその製造方法
US11568334B2 (en) 2012-03-01 2023-01-31 Figure Eight Technologies, Inc. Adaptive workflow definition of crowd sourced tasks and quality control mechanisms for multiple business applications
US20150178659A1 (en) 2012-03-13 2015-06-25 Google Inc. Method and System for Identifying and Maintaining Gold Units for Use in Crowdsourcing Applications
US8759930B2 (en) 2012-09-10 2014-06-24 Optiz, Inc. Low profile image sensor package
US20150213392A1 (en) 2012-09-27 2015-07-30 Carnegie Mellon University System and Method of Using Task Fingerprinting to Predict Task Performance
US20140172767A1 (en) 2012-12-14 2014-06-19 Microsoft Corporation Budget optimal crowdsourcing
CN103914478B (zh) 2013-01-06 2018-05-08 阿里巴巴集团控股有限公司 网页训练方法及系统、网页预测方法及系统
WO2014111948A1 (en) 2013-01-18 2014-07-24 Hewlett-Packard Development Company, L. P Task assignment in crowdsourcing
US9152919B2 (en) 2013-02-14 2015-10-06 Xerox Corporation Method and system for recommending tasks to crowdworker
US20140343984A1 (en) 2013-03-14 2014-11-20 University Of Southern California Spatial crowdsourcing with trustworthy query answering
US20140278634A1 (en) 2013-03-15 2014-09-18 Microsoft Corporation Spatiotemporal Crowdsourcing
US9384423B2 (en) 2013-05-28 2016-07-05 Xerox Corporation System and method for OCR output verification
US20150074033A1 (en) 2013-09-12 2015-03-12 Netspective Communications Llc Crowdsourced electronic documents review and scoring
US9594944B2 (en) 2013-09-25 2017-03-14 Xerox Corporation Methods and systems for monitoring a worker performing a crowdsourced task
US9954942B2 (en) 2013-12-11 2018-04-24 Entit Software Llc Result aggregation
US9767419B2 (en) 2014-01-24 2017-09-19 Microsoft Technology Licensing, Llc Crowdsourcing system with community learning
US10915973B2 (en) 2014-03-05 2021-02-09 Transform Sr Brands Llc System and method providing expert audience targeting
US10671947B2 (en) 2014-03-07 2020-06-02 Netflix, Inc. Distributing tasks to workers in a crowd-sourcing workforce
US20150254593A1 (en) 2014-03-10 2015-09-10 Microsoft Corporation Streamlined creation and utilization of reference human intelligence tasks
US20150262111A1 (en) 2014-03-12 2015-09-17 Nanyang Technological University Apparatus and method for efficient task allocation in crowdsourcing
US9911088B2 (en) 2014-05-01 2018-03-06 Microsoft Technology Licensing, Llc Optimizing task recommendations in context-aware mobile crowdsourcing
US20170052761A1 (en) 2014-05-01 2017-02-23 Answerto Llc Expert signal ranking system
US10642845B2 (en) 2014-05-30 2020-05-05 Apple Inc. Multi-domain search on a computing device
US20150356489A1 (en) 2014-06-05 2015-12-10 Microsoft Corporation Behavior-Based Evaluation Of Crowd Worker Quality
US20150356488A1 (en) 2014-06-09 2015-12-10 Microsoft Corporation Evaluating Workers in a Crowdsourcing Environment
US9652745B2 (en) 2014-06-20 2017-05-16 Hirevue, Inc. Model-driven evaluator bias detection
US9430299B2 (en) 2014-08-06 2016-08-30 International Business Machines Corporation System, method and product for task allocation
JP5946073B2 (ja) 2014-11-07 2016-07-05 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 推定方法、推定システム、コンピュータ・システムおよびプログラム
CN104463424A (zh) 2014-11-11 2015-03-25 上海交通大学 众包中任务最优分配方法及其系统
US20160140477A1 (en) 2014-11-13 2016-05-19 Xerox Corporation Methods and systems for assigning tasks to workers
US20160210570A1 (en) 2015-01-15 2016-07-21 Xerox Corporation Methods and systems for recommending tasks
US10366107B2 (en) 2015-02-06 2019-07-30 International Business Machines Corporation Categorizing questions in a question answering system
CN104794573B (zh) 2015-04-17 2018-05-29 上海交通大学 产品评估任务中的结果估计方法及众包众测平台
US10061848B2 (en) 2015-05-22 2018-08-28 Microsoft Technology Licensing, Llc Ontology-crowd-relevance deep response generation
US20160364673A1 (en) 2015-06-09 2016-12-15 Development Dimensions International, Inc. Method and system for automated and integrated assessment rating and reporting
US20170011077A1 (en) 2015-07-07 2017-01-12 Socrata, Inc. Scalable annotation architecture
US10210657B2 (en) 2015-07-24 2019-02-19 The University Of British Columbia Methods and systems for hex-mesh optimization via edge-cone rectification
US20170046794A1 (en) 2015-08-11 2017-02-16 Accenture Global Services Limited System for sourcing talent utilizing crowdsourcing
US10445671B2 (en) 2015-08-27 2019-10-15 Accenture Global Services Limited Crowdsourcing a task
US20170091697A1 (en) 2015-09-01 2017-03-30 Go Daddy Operating Company, LLC Predictive model of task quality for crowd worker tasks
JP6523893B2 (ja) 2015-09-16 2019-06-05 株式会社東芝 学習装置、音声合成装置、学習方法、音声合成方法、学習プログラム及び音声合成プログラム
RU2637431C2 (ru) 2015-10-12 2017-12-04 Общество С Ограниченной Ответственностью "Яндекс" Способ и система определения оптимального значения параметра аукциона для цифрового объекта
US20170154313A1 (en) 2015-11-30 2017-06-01 Linkedin Corporation Personalized job posting presentation based on member data
CN105608318B (zh) 2015-12-18 2018-06-15 清华大学 众包标注整合方法
US10726377B2 (en) 2015-12-29 2020-07-28 Workfusion, Inc. Task similarity clusters for worker assessment
US20170200101A1 (en) 2016-01-07 2017-07-13 Tata Consultancy Services Limited Systems and methods for optimized task allocation
CN107025205B (zh) 2016-01-30 2021-06-22 华为技术有限公司 一种分布式系统中的训练模型的方法及设备
US20170228749A1 (en) 2016-02-04 2017-08-10 Larvol System and Method of Facilitating Dynamic Price Adjustment
US9438619B1 (en) 2016-02-29 2016-09-06 Leo M. Chan Crowdsourcing of trustworthiness indicators
RU2632143C1 (ru) * 2016-04-11 2017-10-02 Общество С Ограниченной Ответственностью "Яндекс" Способ обучения модуля ранжирования с использованием обучающей выборки с зашумленными ярлыками
US10593220B2 (en) 2016-04-21 2020-03-17 Regina Joseph Systems and methods for bias-sensitive crowd-sourced analytics
US10270788B2 (en) 2016-06-06 2019-04-23 Netskope, Inc. Machine learning based anomaly detection
RU2637883C1 (ru) * 2016-06-20 2017-12-07 Общество С Ограниченной Ответственностью "Яндекс" Способ создания обучающего объекта для обучения алгоритма машинного обучения
US10606952B2 (en) 2016-06-24 2020-03-31 Elemental Cognition Llc Architecture and processes for computer learning and understanding
US20170372225A1 (en) 2016-06-28 2017-12-28 Microsoft Technology Licensing, Llc Targeting content to underperforming users in clusters
US10671895B2 (en) 2016-06-30 2020-06-02 Microsoft Technology Licensing, Llc Automated selection of subjectively best image frames from burst captured image sequences
US10162734B1 (en) 2016-07-20 2018-12-25 Intuit Inc. Method and system for crowdsourcing software quality testing and error detection in a tax return preparation system
CN106327090A (zh) 2016-08-29 2017-01-11 安徽慧达通信网络科技股份有限公司 一种应用于带偏好众包系统的真实任务分配方法
CN106203893A (zh) 2016-09-09 2016-12-07 扬州大学 一种众包环境下的基于遗传算法的任务分配方法
CN106446287A (zh) 2016-11-08 2017-02-22 北京邮电大学 面向众包场景问答系统答案聚合方法和系统
US11436548B2 (en) 2016-11-18 2022-09-06 DefinedCrowd Corporation Identifying workers in a crowdsourcing or microtasking platform who perform low-quality work and/or are really automated bots
US10650009B2 (en) 2016-11-22 2020-05-12 Facebook, Inc. Generating news headlines on online social networks
US20180144654A1 (en) 2016-11-23 2018-05-24 SparxTeq Inc Systems and methods for automated grading of geometric shape assessments
CN106557891B (zh) 2016-12-05 2021-05-11 苏州大学 基于用户可靠性的众包任务分配方法
US20180197125A1 (en) 2017-01-06 2018-07-12 Microsoft Technology Licensing, Llc Tasks Across Multiple Accounts
US11086961B2 (en) * 2017-04-05 2021-08-10 Google Llc Visual leaf page identification and processing
US10838967B2 (en) 2017-06-08 2020-11-17 Microsoft Technology Licensing, Llc Emotional intelligence for a conversational chatbot
CN109272003A (zh) 2017-07-17 2019-01-25 华东师范大学 一种消除深度学习模型中未知错误的方法与装置
EP3438897A1 (en) 2017-08-04 2019-02-06 Swisscom (Schweiz) AG Task allocator for crowd sourcing network
CN110020098A (zh) 2017-08-17 2019-07-16 南京东方网信网络科技有限公司 众包系统中抑制水军问题的细粒度推荐机制
CN107767055B (zh) 2017-10-24 2021-07-23 北京航空航天大学 一种基于串谋检测的众包结果汇聚方法及装置
CN107767058B (zh) 2017-10-26 2021-03-19 北京航空航天大学 一种众包软件开发者推荐方法
RU2672171C1 (ru) 2017-10-27 2018-11-12 Игорь Валентинович Михайлов Способ подготовки рекомендаций для принятия решений на основе компьютеризированной оценки способностей пользователей
US10664150B2 (en) 2017-11-06 2020-05-26 Whatsapp Inc. Providing group messaging thread highlights
CN107909262B (zh) 2017-11-13 2022-01-07 北京航空航天大学 一种众包代价复杂度的获取方法
US11205143B2 (en) 2018-02-16 2021-12-21 Accenture Global Solutions Limited Utilizing a machine learning model and natural language processing to manage and allocate tasks
US11003727B2 (en) 2018-02-28 2021-05-11 Grubhub Holdings, Inc. Real-time distribution and adjustment of content placement
US10095688B1 (en) 2018-04-02 2018-10-09 Josh Schilling Adaptive network querying system
US11093871B2 (en) 2018-04-16 2021-08-17 International Business Machines Corporation Facilitating micro-task performance during down-time
US10978056B1 (en) 2018-04-20 2021-04-13 Facebook, Inc. Grammaticality classification for natural language generation in assistant systems
US10740866B2 (en) 2018-06-26 2020-08-11 International Business Machines Corporation Determining appropriate medical image processing pipeline based on machine learning
CN109376237B (zh) 2018-09-04 2024-05-28 中国平安人寿保险股份有限公司 客户稳定性的预测方法、装置、计算机设备和存储介质
RU2720905C2 (ru) * 2018-09-17 2020-05-14 Общество С Ограниченной Ответственностью "Яндекс" Способ и система для расширения поисковых запросов с целью ранжирования результатов поиска
CN109522545B (zh) 2018-10-11 2019-08-23 华东师范大学 一种对多轮对话连贯性质量的评估方法
CN109544504A (zh) 2018-10-16 2019-03-29 天津大学 基于稀疏表示的屏幕图像质量评价方法
CN109670727B (zh) 2018-12-30 2023-06-23 湖南网数科技有限公司 一种基于众包的分词标注质量评估系统及评估方法
RU2744032C2 (ru) 2019-04-15 2021-03-02 Общество С Ограниченной Ответственностью "Яндекс" Способ и система для определения результата выполнения задачи в краудсорсинговой среде
US11604980B2 (en) 2019-05-22 2023-03-14 At&T Intellectual Property I, L.P. Targeted crowd sourcing for metadata management across data sets
CN110503396B (zh) 2019-08-22 2022-12-27 电子科技大学 基于多技能的复杂空间众包任务分配方法
KR102155790B1 (ko) 2019-08-30 2020-09-14 주식회사 크라우드웍스 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
RU2019128018A (ru) 2019-09-05 2021-03-05 Общество С Ограниченной Ответственностью "Яндекс" Способ и система для определения ответа для цифровой задачи, выполняемой в компьютерной краудсорсинговой среде
CN110928764B (zh) 2019-10-10 2023-08-11 中国人民解放军陆军工程大学 移动应用众包测试报告自动化评估方法及计算机存储介质
RU2019135532A (ru) 2019-11-05 2021-05-05 Общество С Ограниченной Ответственностью «Яндекс» Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде
CN110909880B (zh) 2019-11-20 2022-10-21 北京航空航天大学 一种基于深度知识追踪的众包任务预测方法
CN111191952A (zh) 2020-01-06 2020-05-22 合肥城市云数据中心股份有限公司 加入空间众包工作者评分要素的空间众包任务分配方法
CN111291973B (zh) 2020-01-17 2023-09-29 麦科思(无锡)数据科技有限公司 一种基于联盟的空间众包任务分配方法
KR102156582B1 (ko) 2020-03-25 2020-09-17 주식회사 크라우드웍스 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법
CN111723930A (zh) 2020-05-29 2020-09-29 北京航空航天大学 一种应用群智监督学习方法的系统

Also Published As

Publication number Publication date
US20210256454A1 (en) 2021-08-19
US11727329B2 (en) 2023-08-15

Similar Documents

Publication Publication Date Title
US10521464B2 (en) Method and system for extracting, verifying and cataloging technical information from unstructured documents
Niwattanakul et al. Using of Jaccard coefficient for keywords similarity
CN109564573B (zh) 来自计算机应用元数据的平台支持集群
RU2720905C2 (ru) Способ и система для расширения поисковых запросов с целью ранжирования результатов поиска
CN107229659B (zh) 一种信息搜索方法及装置
US20080270386A1 (en) Document retrieval system and document retrieval method
US20180032523A1 (en) Computer application query suggestions
CN1777892A (zh) 在网站和类似信息源中导航
CN107844414A (zh) 一种基于缺陷报告分析的跨项目、并行化缺陷定位方法
Feng et al. Practical duplicate bug reports detection in a large web-based development community
JP2016076003A (ja) 命令履歴分析プログラム、命令履歴分析装置、および、命令履歴分析方法
CN111183421A (zh) 服务提供系统、业务分析支援系统、方法以及程序
JP2012243125A (ja) 因果単語対抽出装置、因果単語対抽出方法および因果単語対抽出用プログラム
CN110472034B (zh) 问答系统的检测方法、装置、设备及计算机可读存储介质
RU2020107002A (ru) Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде
US20190205299A1 (en) Library search apparatus, library search system, and library search method
Mahdavi et al. Reds: Estimating the performance of error detection strategies based on dirtiness profiles
CN109948015B (zh) 一种元搜索列表结果抽取方法及系统
Pogrebnoy et al. Sorrel: an IDE plugin for managing licenses and detecting license incompatibilities
JP2012138027A (ja) 情報検索システム、検索キーワード提示方法、およびプログラム
CN111143356B (zh) 报表检索方法及装置
US10474726B2 (en) Generation of digital documents
CN110377907B (zh) 一种招聘信息标准化方法及装置
Dalcin et al. Data quality assessment at the Rio de Janeiro Botanical Garden Herbarium Database and considerations for data quality improvement
US20200242100A1 (en) Log analysis apparatus, log analysis method, and log analysis program