RU2020107002A - Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде - Google Patents
Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде Download PDFInfo
- Publication number
- RU2020107002A RU2020107002A RU2020107002A RU2020107002A RU2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A RU 2020107002 A RU2020107002 A RU 2020107002A
- Authority
- RU
- Russia
- Prior art keywords
- digital
- examples
- subset
- task
- implemented
- Prior art date
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06311—Scheduling, planning or task assignment for a person or group
- G06Q10/063112—Skill-based matching of a person or a group to a task
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9538—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Educational Administration (AREA)
- Strategic Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Software Systems (AREA)
- Economics (AREA)
- Mathematical Physics (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Development Economics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Game Theory and Decision Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Claims (41)
1. Реализуемый компьютером способ приема метки для цифровой задачи, исполняемой в реализуемой компьютером краудсорсинговой среде, причем способ исполняется сервером и содержит:
прием сервером указания цифровой задачи, которая подлежит обработке в реализуемой компьютером краудсорсинговой среде;
генерирование сервером подмножества примеров, причем подмножество примеров основано на прошлых цифровых задачах, исполненных в реализуемой компьютером краудсорсинговой среде, причем каждый из подмножества примеров подобен цифровой задаче в пределах предопределенной пороговой величины подобия;
подмножество примеров имеет некоторое число примеров, выбранных так, чтобы обеспечить максимальный эталонный охват с минимальным количеством образцов в подмножестве примеров;
ассоциирование сервером подмножества примеров с цифровой задачей, которая подлежит представлению в реализуемой компьютером краудсорсинговой среде;
обеспечение представления цифровой задачи на вычислительном устройстве по меньшей мере одного участвующего в краудсорсинге работника в реализуемой компьютером краудсорсинговой среде для получения метки для цифровой задачи.
2. Способ по п. 1, в котором цифровая задача представляет собой задачу пометки релевантности страницы результатов поиска (SERP).
3. Способ по п. 2, в котором сервер коммуникативно связан с базой данных журнала SERP, причем база данных журнала SERP содержит множество ранее сгенерированных SERP и при этом генерирование подмножества примеров на основе прошлых цифровых задач содержит:
извлечение из базы данных журнала SERP множества SERP;
передачу множества SERP множеству участвующих в краудсорсинге работников в реализуемой компьютером краудсорсинговой среде для оценки уместности каждой из упомянутого множества SERP.
4. Способ по п. 3, дополнительно содержащий:
прием от множества участвующих в краудсорсинге работников множества меток для каждой из упомянутого множества SERP;
ввод множества меток в первый алгоритм машинного обучения (MLA), причем первый MLA выполнен с возможностью генерирования набора меток, соответствующего упомянутому множеству меток, с удалением воспринимаемой предвзятости множества участвующих в краудсорсинге работников.
5. Способ по п. 4, дополнительно содержащий:
отображение множества SERP на шкалу на основе набора меток;
кластеризацию с использованием второго MLA набора меток в один или более кластеров, причем каждый из одного или более кластеров обеспечивает максимальный эталонный охват шкалы, причем каждый кластер содержит минимальное число SERP.
6. Способ по п. 1, в котором цифровая задача содержит генерирование скользящей шкалы пометки, причем скользящая шкала пометки имеет указатели метки, основанные на подмножестве примеров.
7. Способ по п. 6, в котором скользящая шкала выполнена с возможностью обеспечения возможности выбора участвующим в краудсорсинге работником одного из указателей метки.
8. Способ по п. 6, в котором выбор метки осуществляется взаимодействием участвующего в краудсорсинге работника с указателем метки, причем это взаимодействие имеет первый тип.
9. Способ по п. 8, при этом способ дополнительно содержит в ответ на взаимодействие участвующего в краудсорсинге работника с одним из указателей метки с использованием второго типа взаимодействия, обеспечение ассоциированного примера прошлых цифровых задач.
10. Способ по п. 5, дополнительно содержащий обучение второго MLA.
11. Способ по п. 10, в котором обучение второго MLA основано на обучающем наборе, причем обучающий набор включает в себя пару цифровых задач и обучающую метку, указывающую полезность первой задачи из пары цифровых задач в качестве иллюстративного примера для второй задачи из упомянутой пары цифровых задач.
12. Способ по п. 11, в котором обучающая метка назначается обучающими работниками, участвующими в краудсорсинге, в реализуемой компьютером краудсорсинговой среде.
13. Способ по п. 11, в котором обучающая метка дополнительно указывает избыточность пары цифровых задач в качестве иллюстративного примера.
14. Способ по п. 5, в котором способ дополнительно содержит определение шага между каждым из одного или более кластеров.
15. Способ по п. 14, в котором определение шага исполняется вторым MLA.
16. Способ по п. 14, в котором шаг визуально представлен на скользящей шкале пометки как расстояние между образцами в подмножестве примеров.
17. Способ по п. 14, в котором шаг указывает иллюстративную близость между примерами упомянутого подмножества.
18. Система приема метки для цифровой задачи, исполняемой в реализуемой компьютером краудсорсинговой среде, причем система содержит сервер, причем сервер содержит процессор, выполненный с возможностью:
приема указания цифровой задачи, которая подлежит обработке в реализуемой компьютером краудсорсинговой среде;
генерирования подмножества примеров, причем подмножество примеров основано на прошлых цифровых задачах, исполненных в реализуемой компьютером краудсорсинговой среде, причем каждый из подмножества примеров подобен цифровой задаче в пределах предопределенной пороговой величины подобия;
подмножество примеров имеет некоторое число примеров, выбранных так, чтобы обеспечить максимальный эталонный охват с минимальным количеством образцов в подмножестве примеров;
ассоциирования подмножества примеров с цифровой задачей, которая подлежит представлению в реализуемой компьютером краудсорсинговой среде;
обеспечения представления цифровой задачи на вычислительном устройстве по меньшей мере одного участвующего в краудсорсинге работника в реализуемой компьютером краудсорсинговой среде для получения метки для цифровой задачи.
19. Система по п. 18, в которой цифровая задача представляет собой задачу пометки релевантности страницы результатов поиска (SERP).
20. Система по п. 19, в которой сервер коммуникативно связан с базой данных журнала SERP, причем база данных журнала SERP содержит множество ранее сгенерированных SERP и при этом для генерирования подмножества примеров на основе прошлых цифровых задач процессор выполнен с возможностью:
извлечения из базы данных журнала SERP множества SERP;
передачи множества SERP множеству участвующих в краудсорсинге работников в реализуемой компьютером краудсорсинговой среде для оценки уместности каждой из упомянутого множества SERP.
21. Система по п. 20, в которой процессор дополнительно выполнен с возможностью:
приема от множества участвующих в краудсорсинге работников множества меток для каждой из упомянутого множества SERP;
ввода множества меток в первый алгоритм машинного обучения (MLA), причем первый MLA выполнен с возможностью генерирования набора меток, соответствующих упомянутому множеству меток, с удалением воспринимаемой предвзятости множества участвующих в краудсорсинге работников.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2020107002A RU2020107002A (ru) | 2020-02-14 | 2020-02-14 | Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде |
US17/165,406 US11727329B2 (en) | 2020-02-14 | 2021-02-02 | Method and system for receiving label for digital task executed within crowd-sourced environment |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2020107002A RU2020107002A (ru) | 2020-02-14 | 2020-02-14 | Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде |
Publications (1)
Publication Number | Publication Date |
---|---|
RU2020107002A true RU2020107002A (ru) | 2021-08-16 |
Family
ID=77273252
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
RU2020107002A RU2020107002A (ru) | 2020-02-14 | 2020-02-14 | Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде |
Country Status (2)
Country | Link |
---|---|
US (1) | US11727329B2 (ru) |
RU (1) | RU2020107002A (ru) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220197679A1 (en) * | 2020-12-18 | 2022-06-23 | Advanced Micro Devices (Shanghai) Co., Ltd. | Modifying device status in single virtual function mode |
Family Cites Families (128)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1299247A (zh) | 1998-07-03 | 2001-06-13 | 阿巴茨医疗技术有限公司 | 用于测量生物医学压力的平面传感器 |
US6560597B1 (en) | 2000-03-21 | 2003-05-06 | International Business Machines Corporation | Concept decomposition using clustering |
US20020032591A1 (en) | 2000-09-08 | 2002-03-14 | Agentai, Inc. | Service request processing performed by artificial intelligence systems in conjunctiion with human intervention |
US7693738B2 (en) | 2001-03-22 | 2010-04-06 | Guinta Lawrence R | Computer-aided methods and apparatus for assessing an organizational process or system |
US20030154181A1 (en) | 2002-01-25 | 2003-08-14 | Nec Usa, Inc. | Document clustering with cluster refinement and model selection capabilities |
US7366705B2 (en) | 2004-04-15 | 2008-04-29 | Microsoft Corporation | Clustering based text classification |
US20060026240A1 (en) * | 2004-07-28 | 2006-02-02 | Unilever Home & Personal Care Usa, Division Of Conopco, Inc. | Method of collecting data from one or multiple respondents using spreadsheet based tool with programmed wizard utility deployed by e-mail |
US8170897B1 (en) | 2004-11-16 | 2012-05-01 | Amazon Technologies, Inc. | Automated validation of results of human performance of tasks |
US20100153156A1 (en) | 2004-12-13 | 2010-06-17 | Guinta Lawrence R | Critically/vulnerability/risk logic analysis methodology for business enterprise and cyber security |
US8266130B2 (en) | 2006-01-23 | 2012-09-11 | Chacha Search, Inc. | Search tool providing optional use of human search guides |
US20070226207A1 (en) | 2006-03-27 | 2007-09-27 | Yahoo! Inc. | System and method for clustering content items from content feeds |
US7747083B2 (en) | 2006-03-27 | 2010-06-29 | Yahoo! Inc. | System and method for good nearest neighbor clustering of text |
US20070260601A1 (en) | 2006-05-08 | 2007-11-08 | Thompson Henry S | Distributed human improvement of search engine results |
US20080027913A1 (en) | 2006-07-25 | 2008-01-31 | Yahoo! Inc. | System and method of information retrieval engine evaluation using human judgment input |
US9330071B1 (en) | 2007-09-06 | 2016-05-03 | Amazon Technologies, Inc. | Tag merging |
US10055698B2 (en) | 2008-02-11 | 2018-08-21 | Clearshift Corporation | Online work management system with job division support |
US8195498B2 (en) | 2009-05-18 | 2012-06-05 | Microsoft Corporation | Modeling a plurality of contests at a crowdsourcing node |
US8140518B2 (en) | 2010-01-08 | 2012-03-20 | Yahoo! Inc. | System and method for optimizing search results ranking through collaborative gaming |
US10853744B2 (en) | 2010-06-17 | 2020-12-01 | Figure Eight Technologies, Inc. | Distributing a task to multiple workers over a network for completion while providing quality control |
US9305263B2 (en) | 2010-06-30 | 2016-04-05 | Microsoft Technology Licensing, Llc | Combining human and machine intelligence to solve tasks with crowd sourcing |
US8875131B2 (en) | 2010-11-18 | 2014-10-28 | International Business Machines Corporation | Specification of environment required for crowdsourcing tasks |
US20120150579A1 (en) | 2010-12-08 | 2012-06-14 | Exvo.Com Company B.V. | Work distribution system and method of distributing work |
US11087247B2 (en) | 2011-03-23 | 2021-08-10 | Figure Eight Technologies, Inc. | Dynamic optimization for data quality control in crowd sourcing tasks to crowd labor |
US8554605B2 (en) | 2011-06-29 | 2013-10-08 | CrowdFlower, Inc. | Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks |
US20130029769A1 (en) | 2011-07-29 | 2013-01-31 | Wei-Yeh Lee | Aggregate Crowdsourcing Platforms |
US8626545B2 (en) | 2011-10-17 | 2014-01-07 | CrowdFlower, Inc. | Predicting future performance of multiple workers on crowdsourcing tasks and selecting repeated crowdsourcing workers |
US8918789B2 (en) | 2011-10-26 | 2014-12-23 | International Business Machines Corporation | Task assignment using ranking support vector machines |
US9043285B2 (en) | 2011-10-28 | 2015-05-26 | Linkedin Corporation | Phrase-based data classification system |
US9536517B2 (en) | 2011-11-18 | 2017-01-03 | At&T Intellectual Property I, L.P. | System and method for crowd-sourced data labeling |
US8489585B2 (en) | 2011-12-20 | 2013-07-16 | Xerox Corporation | Efficient document processing system and method |
JP5362132B2 (ja) | 2012-01-20 | 2013-12-11 | 住友化学株式会社 | 無機酸化物粉末および無機酸化物含有スラリーならびに該スラリーを使用したリチウムイオン二次電池およびその製造方法 |
US11568334B2 (en) | 2012-03-01 | 2023-01-31 | Figure Eight Technologies, Inc. | Adaptive workflow definition of crowd sourced tasks and quality control mechanisms for multiple business applications |
US20150178659A1 (en) | 2012-03-13 | 2015-06-25 | Google Inc. | Method and System for Identifying and Maintaining Gold Units for Use in Crowdsourcing Applications |
US8759930B2 (en) | 2012-09-10 | 2014-06-24 | Optiz, Inc. | Low profile image sensor package |
US20150213392A1 (en) | 2012-09-27 | 2015-07-30 | Carnegie Mellon University | System and Method of Using Task Fingerprinting to Predict Task Performance |
US20140172767A1 (en) | 2012-12-14 | 2014-06-19 | Microsoft Corporation | Budget optimal crowdsourcing |
CN103914478B (zh) | 2013-01-06 | 2018-05-08 | 阿里巴巴集团控股有限公司 | 网页训练方法及系统、网页预测方法及系统 |
WO2014111948A1 (en) | 2013-01-18 | 2014-07-24 | Hewlett-Packard Development Company, L. P | Task assignment in crowdsourcing |
US9152919B2 (en) | 2013-02-14 | 2015-10-06 | Xerox Corporation | Method and system for recommending tasks to crowdworker |
US20140343984A1 (en) | 2013-03-14 | 2014-11-20 | University Of Southern California | Spatial crowdsourcing with trustworthy query answering |
US20140278634A1 (en) | 2013-03-15 | 2014-09-18 | Microsoft Corporation | Spatiotemporal Crowdsourcing |
US9384423B2 (en) | 2013-05-28 | 2016-07-05 | Xerox Corporation | System and method for OCR output verification |
US20150074033A1 (en) | 2013-09-12 | 2015-03-12 | Netspective Communications Llc | Crowdsourced electronic documents review and scoring |
US9594944B2 (en) | 2013-09-25 | 2017-03-14 | Xerox Corporation | Methods and systems for monitoring a worker performing a crowdsourced task |
US9954942B2 (en) | 2013-12-11 | 2018-04-24 | Entit Software Llc | Result aggregation |
US9767419B2 (en) | 2014-01-24 | 2017-09-19 | Microsoft Technology Licensing, Llc | Crowdsourcing system with community learning |
US10915973B2 (en) | 2014-03-05 | 2021-02-09 | Transform Sr Brands Llc | System and method providing expert audience targeting |
US10671947B2 (en) | 2014-03-07 | 2020-06-02 | Netflix, Inc. | Distributing tasks to workers in a crowd-sourcing workforce |
US20150254593A1 (en) | 2014-03-10 | 2015-09-10 | Microsoft Corporation | Streamlined creation and utilization of reference human intelligence tasks |
US20150262111A1 (en) | 2014-03-12 | 2015-09-17 | Nanyang Technological University | Apparatus and method for efficient task allocation in crowdsourcing |
US9911088B2 (en) | 2014-05-01 | 2018-03-06 | Microsoft Technology Licensing, Llc | Optimizing task recommendations in context-aware mobile crowdsourcing |
US20170052761A1 (en) | 2014-05-01 | 2017-02-23 | Answerto Llc | Expert signal ranking system |
US10642845B2 (en) | 2014-05-30 | 2020-05-05 | Apple Inc. | Multi-domain search on a computing device |
US20150356489A1 (en) | 2014-06-05 | 2015-12-10 | Microsoft Corporation | Behavior-Based Evaluation Of Crowd Worker Quality |
US20150356488A1 (en) | 2014-06-09 | 2015-12-10 | Microsoft Corporation | Evaluating Workers in a Crowdsourcing Environment |
US9652745B2 (en) | 2014-06-20 | 2017-05-16 | Hirevue, Inc. | Model-driven evaluator bias detection |
US9430299B2 (en) | 2014-08-06 | 2016-08-30 | International Business Machines Corporation | System, method and product for task allocation |
JP5946073B2 (ja) | 2014-11-07 | 2016-07-05 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 推定方法、推定システム、コンピュータ・システムおよびプログラム |
CN104463424A (zh) | 2014-11-11 | 2015-03-25 | 上海交通大学 | 众包中任务最优分配方法及其系统 |
US20160140477A1 (en) | 2014-11-13 | 2016-05-19 | Xerox Corporation | Methods and systems for assigning tasks to workers |
US20160210570A1 (en) | 2015-01-15 | 2016-07-21 | Xerox Corporation | Methods and systems for recommending tasks |
US10366107B2 (en) | 2015-02-06 | 2019-07-30 | International Business Machines Corporation | Categorizing questions in a question answering system |
CN104794573B (zh) | 2015-04-17 | 2018-05-29 | 上海交通大学 | 产品评估任务中的结果估计方法及众包众测平台 |
US10061848B2 (en) | 2015-05-22 | 2018-08-28 | Microsoft Technology Licensing, Llc | Ontology-crowd-relevance deep response generation |
US20160364673A1 (en) | 2015-06-09 | 2016-12-15 | Development Dimensions International, Inc. | Method and system for automated and integrated assessment rating and reporting |
US20170011077A1 (en) | 2015-07-07 | 2017-01-12 | Socrata, Inc. | Scalable annotation architecture |
US10210657B2 (en) | 2015-07-24 | 2019-02-19 | The University Of British Columbia | Methods and systems for hex-mesh optimization via edge-cone rectification |
US20170046794A1 (en) | 2015-08-11 | 2017-02-16 | Accenture Global Services Limited | System for sourcing talent utilizing crowdsourcing |
US10445671B2 (en) | 2015-08-27 | 2019-10-15 | Accenture Global Services Limited | Crowdsourcing a task |
US20170091697A1 (en) | 2015-09-01 | 2017-03-30 | Go Daddy Operating Company, LLC | Predictive model of task quality for crowd worker tasks |
JP6523893B2 (ja) | 2015-09-16 | 2019-06-05 | 株式会社東芝 | 学習装置、音声合成装置、学習方法、音声合成方法、学習プログラム及び音声合成プログラム |
RU2637431C2 (ru) | 2015-10-12 | 2017-12-04 | Общество С Ограниченной Ответственностью "Яндекс" | Способ и система определения оптимального значения параметра аукциона для цифрового объекта |
US20170154313A1 (en) | 2015-11-30 | 2017-06-01 | Linkedin Corporation | Personalized job posting presentation based on member data |
CN105608318B (zh) | 2015-12-18 | 2018-06-15 | 清华大学 | 众包标注整合方法 |
US10726377B2 (en) | 2015-12-29 | 2020-07-28 | Workfusion, Inc. | Task similarity clusters for worker assessment |
US20170200101A1 (en) | 2016-01-07 | 2017-07-13 | Tata Consultancy Services Limited | Systems and methods for optimized task allocation |
CN107025205B (zh) | 2016-01-30 | 2021-06-22 | 华为技术有限公司 | 一种分布式系统中的训练模型的方法及设备 |
US20170228749A1 (en) | 2016-02-04 | 2017-08-10 | Larvol | System and Method of Facilitating Dynamic Price Adjustment |
US9438619B1 (en) | 2016-02-29 | 2016-09-06 | Leo M. Chan | Crowdsourcing of trustworthiness indicators |
RU2632143C1 (ru) * | 2016-04-11 | 2017-10-02 | Общество С Ограниченной Ответственностью "Яндекс" | Способ обучения модуля ранжирования с использованием обучающей выборки с зашумленными ярлыками |
US10593220B2 (en) | 2016-04-21 | 2020-03-17 | Regina Joseph | Systems and methods for bias-sensitive crowd-sourced analytics |
US10270788B2 (en) | 2016-06-06 | 2019-04-23 | Netskope, Inc. | Machine learning based anomaly detection |
RU2637883C1 (ru) * | 2016-06-20 | 2017-12-07 | Общество С Ограниченной Ответственностью "Яндекс" | Способ создания обучающего объекта для обучения алгоритма машинного обучения |
US10606952B2 (en) | 2016-06-24 | 2020-03-31 | Elemental Cognition Llc | Architecture and processes for computer learning and understanding |
US20170372225A1 (en) | 2016-06-28 | 2017-12-28 | Microsoft Technology Licensing, Llc | Targeting content to underperforming users in clusters |
US10671895B2 (en) | 2016-06-30 | 2020-06-02 | Microsoft Technology Licensing, Llc | Automated selection of subjectively best image frames from burst captured image sequences |
US10162734B1 (en) | 2016-07-20 | 2018-12-25 | Intuit Inc. | Method and system for crowdsourcing software quality testing and error detection in a tax return preparation system |
CN106327090A (zh) | 2016-08-29 | 2017-01-11 | 安徽慧达通信网络科技股份有限公司 | 一种应用于带偏好众包系统的真实任务分配方法 |
CN106203893A (zh) | 2016-09-09 | 2016-12-07 | 扬州大学 | 一种众包环境下的基于遗传算法的任务分配方法 |
CN106446287A (zh) | 2016-11-08 | 2017-02-22 | 北京邮电大学 | 面向众包场景问答系统答案聚合方法和系统 |
US11436548B2 (en) | 2016-11-18 | 2022-09-06 | DefinedCrowd Corporation | Identifying workers in a crowdsourcing or microtasking platform who perform low-quality work and/or are really automated bots |
US10650009B2 (en) | 2016-11-22 | 2020-05-12 | Facebook, Inc. | Generating news headlines on online social networks |
US20180144654A1 (en) | 2016-11-23 | 2018-05-24 | SparxTeq Inc | Systems and methods for automated grading of geometric shape assessments |
CN106557891B (zh) | 2016-12-05 | 2021-05-11 | 苏州大学 | 基于用户可靠性的众包任务分配方法 |
US20180197125A1 (en) | 2017-01-06 | 2018-07-12 | Microsoft Technology Licensing, Llc | Tasks Across Multiple Accounts |
US11086961B2 (en) * | 2017-04-05 | 2021-08-10 | Google Llc | Visual leaf page identification and processing |
US10838967B2 (en) | 2017-06-08 | 2020-11-17 | Microsoft Technology Licensing, Llc | Emotional intelligence for a conversational chatbot |
CN109272003A (zh) | 2017-07-17 | 2019-01-25 | 华东师范大学 | 一种消除深度学习模型中未知错误的方法与装置 |
EP3438897A1 (en) | 2017-08-04 | 2019-02-06 | Swisscom (Schweiz) AG | Task allocator for crowd sourcing network |
CN110020098A (zh) | 2017-08-17 | 2019-07-16 | 南京东方网信网络科技有限公司 | 众包系统中抑制水军问题的细粒度推荐机制 |
CN107767055B (zh) | 2017-10-24 | 2021-07-23 | 北京航空航天大学 | 一种基于串谋检测的众包结果汇聚方法及装置 |
CN107767058B (zh) | 2017-10-26 | 2021-03-19 | 北京航空航天大学 | 一种众包软件开发者推荐方法 |
RU2672171C1 (ru) | 2017-10-27 | 2018-11-12 | Игорь Валентинович Михайлов | Способ подготовки рекомендаций для принятия решений на основе компьютеризированной оценки способностей пользователей |
US10664150B2 (en) | 2017-11-06 | 2020-05-26 | Whatsapp Inc. | Providing group messaging thread highlights |
CN107909262B (zh) | 2017-11-13 | 2022-01-07 | 北京航空航天大学 | 一种众包代价复杂度的获取方法 |
US11205143B2 (en) | 2018-02-16 | 2021-12-21 | Accenture Global Solutions Limited | Utilizing a machine learning model and natural language processing to manage and allocate tasks |
US11003727B2 (en) | 2018-02-28 | 2021-05-11 | Grubhub Holdings, Inc. | Real-time distribution and adjustment of content placement |
US10095688B1 (en) | 2018-04-02 | 2018-10-09 | Josh Schilling | Adaptive network querying system |
US11093871B2 (en) | 2018-04-16 | 2021-08-17 | International Business Machines Corporation | Facilitating micro-task performance during down-time |
US10978056B1 (en) | 2018-04-20 | 2021-04-13 | Facebook, Inc. | Grammaticality classification for natural language generation in assistant systems |
US10740866B2 (en) | 2018-06-26 | 2020-08-11 | International Business Machines Corporation | Determining appropriate medical image processing pipeline based on machine learning |
CN109376237B (zh) | 2018-09-04 | 2024-05-28 | 中国平安人寿保险股份有限公司 | 客户稳定性的预测方法、装置、计算机设备和存储介质 |
RU2720905C2 (ru) * | 2018-09-17 | 2020-05-14 | Общество С Ограниченной Ответственностью "Яндекс" | Способ и система для расширения поисковых запросов с целью ранжирования результатов поиска |
CN109522545B (zh) | 2018-10-11 | 2019-08-23 | 华东师范大学 | 一种对多轮对话连贯性质量的评估方法 |
CN109544504A (zh) | 2018-10-16 | 2019-03-29 | 天津大学 | 基于稀疏表示的屏幕图像质量评价方法 |
CN109670727B (zh) | 2018-12-30 | 2023-06-23 | 湖南网数科技有限公司 | 一种基于众包的分词标注质量评估系统及评估方法 |
RU2744032C2 (ru) | 2019-04-15 | 2021-03-02 | Общество С Ограниченной Ответственностью "Яндекс" | Способ и система для определения результата выполнения задачи в краудсорсинговой среде |
US11604980B2 (en) | 2019-05-22 | 2023-03-14 | At&T Intellectual Property I, L.P. | Targeted crowd sourcing for metadata management across data sets |
CN110503396B (zh) | 2019-08-22 | 2022-12-27 | 电子科技大学 | 基于多技能的复杂空间众包任务分配方法 |
KR102155790B1 (ko) | 2019-08-30 | 2020-09-14 | 주식회사 크라우드웍스 | 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치 |
RU2019128018A (ru) | 2019-09-05 | 2021-03-05 | Общество С Ограниченной Ответственностью "Яндекс" | Способ и система для определения ответа для цифровой задачи, выполняемой в компьютерной краудсорсинговой среде |
CN110928764B (zh) | 2019-10-10 | 2023-08-11 | 中国人民解放军陆军工程大学 | 移动应用众包测试报告自动化评估方法及计算机存储介质 |
RU2019135532A (ru) | 2019-11-05 | 2021-05-05 | Общество С Ограниченной Ответственностью «Яндекс» | Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде |
CN110909880B (zh) | 2019-11-20 | 2022-10-21 | 北京航空航天大学 | 一种基于深度知识追踪的众包任务预测方法 |
CN111191952A (zh) | 2020-01-06 | 2020-05-22 | 合肥城市云数据中心股份有限公司 | 加入空间众包工作者评分要素的空间众包任务分配方法 |
CN111291973B (zh) | 2020-01-17 | 2023-09-29 | 麦科思(无锡)数据科技有限公司 | 一种基于联盟的空间众包任务分配方法 |
KR102156582B1 (ko) | 2020-03-25 | 2020-09-17 | 주식회사 크라우드웍스 | 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법 |
CN111723930A (zh) | 2020-05-29 | 2020-09-29 | 北京航空航天大学 | 一种应用群智监督学习方法的系统 |
-
2020
- 2020-02-14 RU RU2020107002A patent/RU2020107002A/ru unknown
-
2021
- 2021-02-02 US US17/165,406 patent/US11727329B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20210256454A1 (en) | 2021-08-19 |
US11727329B2 (en) | 2023-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10521464B2 (en) | Method and system for extracting, verifying and cataloging technical information from unstructured documents | |
Niwattanakul et al. | Using of Jaccard coefficient for keywords similarity | |
CN109564573B (zh) | 来自计算机应用元数据的平台支持集群 | |
RU2720905C2 (ru) | Способ и система для расширения поисковых запросов с целью ранжирования результатов поиска | |
CN107229659B (zh) | 一种信息搜索方法及装置 | |
US20080270386A1 (en) | Document retrieval system and document retrieval method | |
US20180032523A1 (en) | Computer application query suggestions | |
CN1777892A (zh) | 在网站和类似信息源中导航 | |
CN107844414A (zh) | 一种基于缺陷报告分析的跨项目、并行化缺陷定位方法 | |
Feng et al. | Practical duplicate bug reports detection in a large web-based development community | |
JP2016076003A (ja) | 命令履歴分析プログラム、命令履歴分析装置、および、命令履歴分析方法 | |
CN111183421A (zh) | 服务提供系统、业务分析支援系统、方法以及程序 | |
JP2012243125A (ja) | 因果単語対抽出装置、因果単語対抽出方法および因果単語対抽出用プログラム | |
CN110472034B (zh) | 问答系统的检测方法、装置、设备及计算机可读存储介质 | |
RU2020107002A (ru) | Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде | |
US20190205299A1 (en) | Library search apparatus, library search system, and library search method | |
Mahdavi et al. | Reds: Estimating the performance of error detection strategies based on dirtiness profiles | |
CN109948015B (zh) | 一种元搜索列表结果抽取方法及系统 | |
Pogrebnoy et al. | Sorrel: an IDE plugin for managing licenses and detecting license incompatibilities | |
JP2012138027A (ja) | 情報検索システム、検索キーワード提示方法、およびプログラム | |
CN111143356B (zh) | 报表检索方法及装置 | |
US10474726B2 (en) | Generation of digital documents | |
CN110377907B (zh) | 一种招聘信息标准化方法及装置 | |
Dalcin et al. | Data quality assessment at the Rio de Janeiro Botanical Garden Herbarium Database and considerations for data quality improvement | |
US20200242100A1 (en) | Log analysis apparatus, log analysis method, and log analysis program |