KR102195629B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법 - Google Patents

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법 Download PDF

Info

Publication number
KR102195629B1
KR102195629B1 KR1020200079787A KR20200079787A KR102195629B1 KR 102195629 B1 KR102195629 B1 KR 102195629B1 KR 1020200079787 A KR1020200079787 A KR 1020200079787A KR 20200079787 A KR20200079787 A KR 20200079787A KR 102195629 B1 KR102195629 B1 KR 102195629B1
Authority
KR
South Korea
Prior art keywords
work
project
workers
worker
individual
Prior art date
Application number
KR1020200079787A
Other languages
English (en)
Inventor
박민우
김지한
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Priority to KR1020200079787A priority Critical patent/KR102195629B1/ko
Application granted granted Critical
Publication of KR102195629B1 publication Critical patent/KR102195629B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063114—Status monitoring or status determination for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063118—Staff planning in a project environment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316—Sequencing of tasks or work
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06398—Performance of employee with respect to a job function

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법이 제공된다. 상기 방법은 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")와 기 설정된 유사도를 갖는 완료된 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")를 선정하는 단계; 상기 제2 프로젝트에 대한 작업 히스토리를 추출하는 단계; 상기 작업 히스토리에 기초하여 개별 작업자들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출하는 단계; 상기 작업 기여도, 작업 정확도 및 작업 처리 효율의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계; 및 상기 작업 능력 지수의 비교 결과에 기초하여 상기 제1 프로젝트의 작업자를 선정하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법{METHOD FOR SELECTING WORKERS BASED ON CAPABILITY OF WORK IN CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}
본 발명은 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.
이때, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.
구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.
한편, 오픈 예정인 프로젝트에 적합한 작업자들을 선정하기 위해서는 참여 조건을 설정하고, 해당 참여 조건에 부합하는 작업자들을 의뢰자나 프로젝트 관리자가 일일이 선별하는 과정이 필요하다.
이러한 참여 조건을 설정하는 과정, 그리고 참여 조건에 부합하는 작업자들을 일일이 선별하는 과정에는 많은 비용이 소요되는바, 오픈 예정인 프로젝트와 유사한 이전 완료된 프로젝트에서 일정한 기준에 따른 우수 작업자를 선별하여, 오픈 예정인 프로젝트의 작업자로 자동 선정되도록 하기 위한 방안이 필요하다.
공개특허공보 제10-2014-0095956호, 2014.08.04.
본 발명이 해결하고자 하는 과제는 오픈 예정인 프로젝트와 유사한 프로젝트로 선정된 기존 프로젝트에서의 작업 히스토리에 기초하여 작업 능력 지수를 산출하고, 각 작업자들의 작업 능력 지수를 비교하여 우수한 작업자들을 오픈 예정인 프로젝트의 작업자로 자동 선정할 수 있는 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법을 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법은 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")와 기 설정된 유사도를 갖는 완료된 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")를 선정하는 단계; 상기 제2 프로젝트에 대한 작업 히스토리를 추출하는 단계; 상기 작업 히스토리에 기초하여 개별 작업자들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출하는 단계; 상기 작업 기여도, 작업 정확도 및 작업 처리 효율의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계; 및 상기 작업 능력 지수의 비교 결과에 기초하여 상기 제1 프로젝트의 작업자를 선정하는 단계를 포함한다. 이때, 상기 작업 히스토리에 기초하여 개별 작업자들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출하는 단계는, 상기 개별 작업자들의 타 작업자 대비 작업 완료 건수와 관련된 통계적 수치를 나타내는 작업 기여도를 산출하는 단계; 상기 제2 프로젝트에서의 개별 작업자들의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 통계적 수치를 나타내는 작업 정확도를 산출하는 단계; 및 상기 개별 작업자들의 작업 점유 시간 및 작업 대기 시간에 기초한 작업 반응 속도와 관련된 통계적 수치를 나타내는 작업 처리 효율을 산출하는 단계를 포함한다.
본 발명의 일부 실시예에서, 상기 개별 작업자들의 타 작업자 대비 작업 완료 건수와 관련된 통계적 수치를 나타내는 작업 기여도를 산출하는 단계는, 상기 제2 프로젝트의 총 작업 건수 대비 개별 작업자의 총 작업 건수를 제1 범위로 설정하는 단계; 상기 제2 프로젝트에서의 작업자 1인당 평균 작업량을 개별 작업자의 작업 기여도에 대한 중간값으로 설정하는 단계; 및 상기 제1 범위 내에서 상기 중간값을 기준으로 하는 작업 기여도를 스케일링화하여 제2 범위와 관련된 상기 작업 기여도를 산출하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 제2프로젝트에서의 개별 작업자들의 작업 수행 횟수 대비 검수 통과된 작업의 비율과 관련된 관련된 통계적 수치를 나타내는 작업 정확도를 산출하는 단계는, 상기 개별 작업자의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 확률 추정치를 제1 범위로 설정하는 단계; 상기 제2프로젝트에서의 전체 작업자들의 작업 수행 횟수 대비 검수 통과된 작업 비율을 산출하는 단계; 상기 확률 추정치 및 작업 비율이 동일한 케이스를 상기 개별 작업자의 작업 정확도에 대한 중간값으로 설정하는 단계; 및 상기 제1 범위 내에서 상기 중간값을 기준으로 하는 작업 정확도를 스케일링화하여 제2 범위와 관련된 작업 정확도를 산출하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 개별 작업자의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 확률 추정치를 제1 범위로 설정하는 단계는, 상기 제2프로젝트의 전체 작업자의 수, 상기 제2프로젝트의 총 작업 건수 및 재작업 건수와 관련된 베타 분포를 사전 분포로 정의하는 단계; 상기 사전 분포를 이용하여, 베이지안 추론을 통해 상기 개별 작업자의 총 작업 건수 및 재작업 건수에 대한 사후 분포를 산출하는 단계; 및 상기 사후 분포의 평균을 개별 작업자의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 확률 추정치로 획득하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 개별 작업자들의 작업 점유 시간 및 작업 대기 시간에 기초한 작업 반응 속도와 관련된 통계적 수치를 나타내는 작업 처리 효율을 산출하는 단계는, 상기 개별 작업자의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치를 획득하는 단계, 상기 각 확률 추정치의 최대값, 최소값 및 평균값에 가중치를 반영하여 산출된 개별 작업자에 대한 작업 응답 처리도를 제1 범위로 설정하는 단계; 및 상기 제1 범위 내에서 정규분포를 만족하도록 로그 스케일링화하여 제2 범위와 관련된 상기 작업 처리 효율을 산출하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 개별 작업자의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치를 획득하는 단계는, 상기 제2프로젝트에서의 전체 작업자들에 대한 작업 점유 시간 및 작업 대기 시간의 평균 및 분산으로 구성된 사전 분포를 정의하는 단계; 상기 사전 분포를 이용하여, 베이지안 추론을 통해 상기 개별 작업자의 작업 점유 시간 및 작업 대기 시간에 대한 사후 분포를 산출하는 단계; 및 상기 사후 분포의 평균을 개별 작업자의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치로 획득하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 작업 점유 시간은, 상기 개별 작업자에게 배정된 각각의 작업별로 작업 수행을 시작한 시각과 상기 작업 수행을 완료하여 작업 결과를 입력한 시각에 기초하여 산출되고, 상기 작업 대기 시간은, 각각의 검수자에게 배정된 각각의 작업 결과별로 검수 수행을 완료하여 검수 결과를 입력한 시각과, 상기 개별 작업자에게 배정되어 상기 검수 결과가 반려로 입력된 각각의 작업별로 재작업 수행을 위한 온라인 작업 공간에 접속한 시각에 기초하여 산출될 수 있다.
본 발명의 일부 실시예에서, 상기 작업 기여도, 작업 정확도 및 작업 처리 효율의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계는, 상기 작업 기여도, 작업 정확도 및 작업 처리 효율 중 적어도 하나에 가중치를 부여하는 단계; 및 상기 가중치 및 각 가중치가 부여된 데이터의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 작업 능력 지수의 비교 결과에 기초하여 상기 제1 프로젝트의 작업자를 선정하는 단계는, 상기 산출된 작업 기여도, 작업 정확도 및 작업 처리 효율 중 적어도 하나에 대하여 설정된 필터 값을 통과한 개별 작업자를 상기 제1 프로젝트의 작업자로 선정할 수 있다.
상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
상술한 본 발명에 의하면, 신규 오픈 예정인 프로젝트에 대한 작업자를 선정하는 시간 및 비용을 최소화시킬 수 있다.
특히, 수동으로 작업자를 선별하던 종래와는 달리, 기존 프로젝트에 참여한 작업자 중 우수 작업자를 작업 기여도, 작업 정확도 및 작업 처리 효율을 고려한 작업 능력 지수라는 정확한 정량적 지표에 의하여 선별할 수 있다.
또한, 정량적 지표에 대한 가중치를 조정하거나, 각 정량적 지표에 대한 필터 값을 적용하여 다양한 상황 및 조건에 해당하는 우수 작업자를 선별할 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 본 발명에 의하면, 신규 오픈 예정인 프로젝트에 대한 작업자를 선정하는 시간 및 비용을 최소화시킬 수 있다.
특히, 수동으로 작업자를 선별하던 종래와는 달리, 기존 프로젝트에 참여한 작업자 중 우수 작업자를 작업 기여도, 작업 정확도 및 작업 처리 효율을 고려한 작업 능력 지수라는 정확한 정량적 지표에 의하여 선별할 수 있다.
또한, 정량적 지표에 대한 가중치를 조정하거나, 각 정량적 지표에 대한 필터 값을 적용하여 다양한 상황 및 조건에 해당하는 우수 작업자를 선별할 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 기존의 프로젝트에서의 작업자를 선별하는 방법을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법의 순서도이다.
도 5는 작업 기여도를 설명하기 위한 그래프를 도시한 도면이다.
도 6은 작업 정확도를 설명하기 위한 그래프를 도시한 도면이다.
도 7은 작업 점유 시간 및 작업 대기 시간에 대한 log 값을 설명하기 위한 도면이다.
도 8은 작업 처리 효율을 설명하기 위한 그래프를 도시한 도면이다.
도 9는 가중치 적용에 따른 작업 능력 지수의 산출 결과의 일 예시를 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 작업자 선정 장치를 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.
서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).
이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).
마찬가지로 본 발명의 일 실시예는 프로젝트의 난이도에 따라 설정된 등급 또는 검수자(34)의 자격 요건에 따라 수행 중인 전체 프로젝트 중 적합한 프로젝트만 검수자(34)에게 노출되게끔 할 수 있다.
이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).
검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
도 3은 기존의 프로젝트에서의 작업자(32)를 선별하는 방법을 설명하기 위한 도면이다.
기존에는 오픈 예정인 프로젝트에 적합한 작업자(32)를 선정할 때, 기존 프로젝트와 유사한 프로젝트를 먼저 선정한 다음, 해당 유사 프로젝트에 참여한 작업자(32) 중 일부를 선별하였다.
예를 들어, 도 3과 같이 기존 완료된 프로젝트를 통해 각 작업자(32)별 작업 처리 수, 반려율, 평균 작업 수행시간 등의 지표를 확인할 수 있다. 하지만, 이들 지표는 각각 서로 다른 특성을 가지고 있어 단순히 작업 처리 수가 많은 작업자가 우수 작업자인지, 작업 처리수는 조금 적으나 반려율이 더 낮은 작업자가 우수 작업자인지, 그 기준이 모호하여 우수 작업자를 선정하거나 순위를 매기는 등 그 판단이 어려웠다.
또한, 새로운 프로젝트마다 총 작업 수, 반려율, 평균 작업 수행시간 등의 기준에 대한 중요도가 서로 다르기 때문에, 프로젝트 관리자나 의뢰자(10)의 경험에 의존해 임의로 작업자(32)를 선별하는 방식은 한계가 있다.
이와 달리, 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 능력 지수에 기반한 작업자 선정 방법은 프로젝트에 관계없이 공통의 기준을 통해 우수 작업자를 선별할 수 있으며, 프로젝트의 성격 및 각 기준에 따라 가중치 및 필터 적용을 통한 작업자 선정이 가능하다는 장점이 있다.
이하에서는 도 4 내지 도 9를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법을 설명하도록 한다.
도 4는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법의 순서도이다.
한편, 도 4에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
도 4을 참조하면, 서버는 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트"라 한다)와 기 설정된 유사도를 갖는 완료된 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트"라 한다)를 선정한다(S110).
서비스 제공 업체(20)는 프로젝트의 작업을 할당할 일정 자격을 갖춘 작업자(32)들을 선별해야 하는데, 작업자(32)들을 선별하는 과정 역시 적지 않은 비용과 시간이 소요된다.
이러한 문제를 해소하기 위하여 본 발명의 일 실시예는 오픈 예정인 프로젝트와 유사한 프로젝트를 선별하고, 유사한 프로젝트에 참여한 작업자(32)들 중 우수 작업자들을 선별하여 오픈 예정인 프로젝트에 배치되도록 할 수 있다.
여기에서 기 설정된 유사도는 프로젝트에 포함된 기능요소에 대한 유사도일 수 있다. 예를 들어, 사진 수집과 같은 프로젝트의 경우 '촬영'이라는 기능요소를 통해 프로젝트가 수행되는데, 이전 수행된 프로젝트의 기능요소에 '촬영'이 포함되어 있고, 새로 오픈할 프로젝트 역시 '촬영' 기능요소가 포함되어 있는 경우 유사 프로젝트로 판단할 수 있다.
한편, 기능요소는 프로젝트를 수행하기 위한 작업 툴(tool)에 기반하여 결정된다. 그리고 작업 툴은 프로젝트에서 제공되는 것으로서 작업자들이 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴을 의미한다.
작업툴의 간단한 예로는, 텍스트 입력 툴, 라디오 버튼 입력 툴, 오디오 컷 툴, 마우스나 펜, 기타 장치를 이용한 드로잉 작업을 위한 툴, 외부 디바이스와 연동하여 요소 기능을 수행할 수 있는 다양한 툴이 이에 해당할 수 있다.
또한, 본 발명의 일 실시예는 프로젝트의 기능요소와 더불어 프로젝트의 난이도를 더 고려하여 유사 프로젝트를 선정할 수도 있다.
즉, 기능요소만을 기준으로 유사한 프로젝트라 판단할 경우 너무나도 많은 프로젝트가 서로 유사한 프로젝트로 취급될 수 있다. 특히, 이러한 문제는 프로젝트를 수행하는 온라인 작업 공간 상의 화면에 단순한 기능요소만을 포함하는 단순한 프로젝트일수록 더욱 문제가 된다. 따라서, 이러한 점을 고려하여 본 발명의 일 실시예는 기능요소와 함께 또는 이와 별개로 난이도 정보를 고려하여 유사 프로젝트를 선정할 수 있다.
한편, 난이도를 평가하는 방법은 최초 작업 결과에 대한 작업자(32)들의 반려율, 재작업 결과를 고려한 전체 작업자(32)들에 대한 반려율, 작업 결과의 제출 시간 등 다양한 기준이 적용될 수 있다.
다음으로, 서버는 제2 프로젝트에 대한 작업 히스토리를 산출한다(S120).
이때, 작업 히스토리는 프로젝트의 경과에 따라 각각의 작업 및 프로젝트와 관련되어 기록된 임의의 로그 데이터를 의미한다.
일 실시예로, 서버는 작업자(32) 및 검수자(34)들을 셋팅하여 제2 프로젝트를 개시한다. 그리고 작업자(32)의 작업 수행이 완료됨에 따라, 복수의 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고, 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과를 입력받는다. 이때, 검수 결과는 검수 통과 또는 반려일 수 있다. 이후 서버는, 복수의 검수 결과를 제2 프로젝트의 작업 히스토리로 기록할 수 있다.
다음으로, 서버는 작업 히스토리에 기초하여 개별 작업자(32)들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출한다(S130).
본 발명의 일 실시예는 제2 프로젝트의 작업 히스토리에 기초하여 구체적인 수치 해석을 통한 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출하는 것을 특징으로 하는바, 이하 각각 설명하도록 한다.
먼저, 서버는 개별 작업자(32)들의 타 작업자 대비 작업 완료 건수와 관련된 통계적 수치를 나타내는 작업 기여도(c)를 산출한다. 여기에서, 작업 기여도는 해당 작업자(32)가 프로젝트에서 얼마나 많은 작업을 완료하였는지에 대한 수치를 의미한다.
구체적으로, 서버는 제2 프로젝트의 총 작업 건수(d) 대비 개별 작업자(32)가 제2 프로젝트에서 수행한 총 작업 건수(dw)를 제1 범위(dw/d)로 설정한 후, 제2 프로젝트에서의 작업자 1인당 평균 작업량(d/w)을 0과 1 사이의 범위를 갖는 개별 작업자(32)의 작업 기여도(c)에 대한 중간값(0.5)으로 설정한다. 여기에서 w는 제2 프로젝트의 총 작업자 수를 의미한다.
만약, 해당 작업자(32)가 프로젝트에서 한 건의 작업도 진행하지 않은 경우 작업 기여도는 0이 되며, 프로젝트의 모든 작업을 한 명의 작업자(32)가 진행한 경우 작업 기여도는 1이 된다.
그 다음, 서버는 제1 범위(dw/d) 내에서 상기 중간값(0.5)을 기준으로 하는 작업 기여도(c)를 스케일링화하여, 연속적이며 미분 가능한 수식으로 표현되는 제2 범위와 관련된 작업 기여도(c)를 산출한다.
도 5는 작업 기여도(c)를 설명하기 위한 그래프를 도시한 도면이다.
도 5의 그래프에서 각각 k→∞, k=0, k=1인 경우 위 작업 기여도(c)의 기준을 만족한다. 이와 같은 기준을 만족하는 식 1, 식 2는 다음과 같다.
[식 1]
Figure 112020067382710-pat00001
[식 2]
Figure 112020067382710-pat00002
식 2의 양변에 log를 취해 k에 대한 식으로 표현하면 다음 식 3과 같다.
[식 3]
Figure 112020067382710-pat00003
그 다음 식 3을 식 1에 대입하여 정리하면 작업 기여도(c)는 식 4와 같이 나타낼 수 있다.
[식 4]
Figure 112020067382710-pat00004
위 식 4에서 c=0일 경우, 해당 작업자(32)는 제2 프로젝트에서 한 건의 작업을 진행하지 않은 경우를 의미하며, c=1일 경우 해당 작업자(32)는 프로젝트에서 모든 작업을 혼자서 진행한 경우를 의미한다. 그리고 c=0.5일 경우, 해당 작업자(32)는 제2 프로젝트에서의 작업자 1인당 평균 작업량만큼 작업을 진행한 경우를 의미한다.
다음으로, 작업 정확도(a)를 산출하는 과정을 설명하도록 한다.
서버는 제2 프로젝트에서의 개별 작업자(32)들의 작업 수행 횟수(hw) 대비 검수 통과된 작업 건수(dw), 즉 개별 작업자(32)의 총 작업 건수(dw)의 비율과 관련된 통계적 수치를 나타내는 작업 정확도(a)를 산출한다. 여기에서 작업 정확도(a)는 개별 작업자(32)가 해당 프로젝트에서 다른 작업자들에 비하여 얼마나 정확하게 작업을 진행할 것인지에 대한 예상 정도를 나타내는 지표이다.
작업 정확도(a)를 산출하기 위해 먼저, 서버는 개별 작업자(32)의 작업 수행 횟수(hw) 대비 검수 통과된 작업(dw)의 비율과 관련된 확률 추정치(pw)를 제1 범위로 설정한다. 이때, 개별 작업자(32)의 작업 수행 횟수(hw)는 해당 작업자(32)의 작업 내역에서 재작업을 포함한 총 작업 수행 횟수를 의미한다.
개별 작업자(32)의 작업 수행 횟수(hw) 대비 검수 통과된 작업(dw)의 비율과 관련된 확률 추정치(pw)는 다음과 같이 획득할 수 있다.
서버는 제2 프로젝트에서의 전체 작업자의 수(w), 제2 프로젝트의 총 작업 건수(d), 그리고 재작업 건수(h-d)로 표현되는 베타 분포
Figure 112020067382710-pat00005
를 사전 분포로 정의한다. 여기에서 h는 제2 프로젝트의 작업 내역에서 재작업을 포함한 총 작업 횟수를 의미하며, 변수 h와 d의 차(h-d)는 제2 프로젝트에서의 재작업 건수를 의미한다.
그 다음, 서버는 사전 분포를 이용하여, 베이지안 추론을 통해 개별 작업자(32)의 총 작업 건수 및 재작업 건수에 대한 사후 분포를 산출한다. 이때, 서버는 베이지안 추론 수행시 해당 개별 작업자(32)의 작업 내역을 이용할 수 있다.
이와 같이 산출된 사후 분포의 평균을 개별 작업자(32)의 작업 수행 횟수(hw) 대비 검수 통과된 작업(dw)의 비율과 관련된 확률 추정치(Pw)로 정의할 수 있으며, 이때 확률 추정치(pw)는 다음 [식 5]와 같이 나타낼 수 있다.
[식 5]
Figure 112020067382710-pat00006
한편, 식 5에 대하여 각각
Figure 112020067382710-pat00007
와,
Figure 112020067382710-pat00008
인 조건을 상정하면, 확률 추정치(pw)의 범위는 다음 식 6과 같이 나타낼 수 있다.
[식 6]
Figure 112020067382710-pat00009
이때 위 조건들은 각각 해당 작업자가 작업을 한 건도 통과시키지 못한 경우와, 해당 작업자가 모든 작업을 통과시킨 경우를 의미한다.
위 식 6에 대하여 pw=0일 경우를 '0', pw=1일 경우를 '1'로 설정한다. 그리고 확률 추정치(pw) 및 제2 프로젝트에서의 전체 작업자들의 작업 수행 횟수대비 검수 통과된 작업 비율(p)이 동일한 케이스(pw=p)를 0과 1 사이의 범위를 갖는 개별 작업자(32)의 작업 정확도(a)에 대한 중간값(0.5)으로 설정한다. 여기에서 p는 제2 프로젝트에서의 전체 작업자(w)들의 작업 수행 횟수 대비 검수 통과된 작업 비율(d/h)로, 제2 프로젝트에서의 총 작업 건수(d) 대비 제2 프로젝트에서의 재작업을 포함한 총 작업 횟수(h)를 의미한다.
그 다음, 서버는 제1 범위 내에서 상기 중간값(0.5)을 기준으로 하는 작업 정확도(a)를 스케일링화하여, 연속적이며 미분 가능한 수식으로 표현되는 제2 범위와 관련된 작업 정확도(a)를 산출한다.
도 6은 작업 정확도(a)를 설명하기 위한 그래프를 도시한 도면이다.
도 6의 그래프에서 각각 k→∞, k=0, k=1인 경우 위 작업 정확도의 기준을 만족한다. 이와 같은 기준을 만족하는 식 7, 식 8은 다음과 같다.
[식 7]
Figure 112020067382710-pat00010
[식 8]
Figure 112020067382710-pat00011
식 8의 양변에 log를 취해 k에 대한 식으로 표현하면 다음 식 9와 같다.
[식 9]
Figure 112020067382710-pat00012
그 다음 식 9를 식 7에 대입하여 정리하면 작업 정확도(a)는 식 10과 같이 나타낼 수 있다.
[식 10]
Figure 112020067382710-pat00013
위 식 10에서 a=0일 경우 작업 정확도(a)의 추정치는 0, a=1일 경우 작업 정확도의 추정치는 1인 경우이며, a=0.5일 경우 작업 정확도(a)의 추정치는 프로젝트 전체 작업 정확도와 동일한 경우를 의미한다.
다음으로, 작업 처리 효율(e)을 산출하는 과정을 설명하도록 한다.
서버는 개별 작업자(32)들의 작업 점유 시간 및 작업 대기 시간에 기초한 작업 반응 속도와 관련된 통계적 수치를 나타내는 작업 처리 효율(e)을 산출한다. 이때, 작업 처리 효율(e)은 다른 작업자들과 비교하였을 때, 개별 작업자(32)가 해당 프로젝트에서 얼마나 빠르게 작업을 진행하였는지를 나타내는 지표, 즉 해당 프로젝트에서 한 작업이 최종적으로 완료되기까지 얼마나 적은 시간이 소요될 것인지에 대한 예상 정도를 나타내는 지표이다.
이와 같은 작업 처리 효율(e)은 작업 점유 시간과 작업 대기 시간에 기초하여 산출된다.
이때, 작업 점유 시간은 개별 작업자(32)에게 배정된 각각의 작업별로 작업 수행을 시작한 시각과, 작업 수행을 완료하여 작업 결과를 입력한 시각에 기초하여 산출될 수 있다.
또한, 작업 대기 시간은 각각의 검수자(34)에게 배정된 각각의 작업 결과별로 검수 수행을 완료하여 검수 결과를 입력한 시각과, 개별 작업자(32)에게 배정되어 검수 결과가 반려로 입력된 각각의 작업별로 재작업 수행을 위한 온라인 작업 공간에 접속한 시각에 기초하여 산출될 수 있다. 여기에서 온라인 작업 공간이란 웹 페이지 또는 어플리케이션 상의 페이지, 서버가 제공하는 특정 URL 등의 온라인 상의 작업 업무 수행이 가능한 공간을 의미한다.
우선, 서버는 개별 작업자(32)의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치(btew, wtew)를 획득한다.
이를 위해, 서버는 제2 프로젝트에서의 전체 작업자들에 대한 작업 점유 시간 및 작업 대기 시간의 평균 및 분산 또는 표준편차로 구성된 사전 분포
Figure 112020067382710-pat00014
를 정의하고, 사전 분포를 이용하여 베이지안 추론을 통해 개별 작업자(32)의 작업 점유 시간 및 작업 대기 시간에 대한 사후 분포를 산출한다. 이와 같이, 산출된 사후 분포의 평균을 개별 작업자(32)의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치(btew, wtew)로 획득할 수 있다.
구체적으로, 사전 분포와 관련하여 프로젝트 전체에 대한 작업 점유 시간 및 작업 대기 시간에 대한 log 값의 평균 및 표준 편차는
Figure 112020067382710-pat00015
,
Figure 112020067382710-pat00016
로 나타낼 수 있다.
도 7은 작업 점유 시간 및 작업 대기 시간에 대한 log 값을 설명하기 위한 도면이다.
일반적으로, 작업 점유 시간은 실제 작업을 수행한 시간을 의미하므로 다음 작업을 진행하는데 대기하는 시간은 도 7의 (a)와 같이 작업 점유 시간보다 굉장히 짧은 시간을 갖는다.
이에 대한 스케일링 없는 데이터를 사용할 경우 그 값의 편차가 상당히 크기 때문에 의미있는 데이터의 분석이 어렵게 된다. 따라서, 본 발명의 일 실시예는 각 작업 점유 시간과 작업 대기 시간에 대한 log 스케일링을 적용함으로써, 도 7의 (b)와 같이 일정 범위로 한정된 도메인 내에서 각 데이터의 분석 및 활용이 가능하다.
다음으로, btw, wtw를 각각 개별 작업자(32)의 작업 점유 시간 및 작업 대기 시간의 log값의 평균이라 할 때, 해당 개별 작업자(32)의 작업 점유 시간 및 작업 대기 시간의 log 시간 추정치(btew, wtew)는 식 11과 같이 나타낼 수 있다.
여기에서 각 작업 점유 시간 및 작업 대기 시간에 대한 사전 분포의 정밀도(
Figure 112020067382710-pat00017
는
Figure 112020067382710-pat00018
,
Figure 112020067382710-pat00019
으로 설정하였다.
[식 11]
Figure 112020067382710-pat00020
Figure 112020067382710-pat00021
위 식 11에서 r은 제2 프로젝트의 작업 내역에서 재반려를 포함한 총 반려 횟수를 의미하며, rw는 개별 작업자(32)의 제2 프로젝트의 작업 내역에서 재반려를 포함한 총 반려 횟수를 의미한다.
이후, 서버는 작업 점유 시간 및 작업 대기 시간과 관련된 각 확률 추정치(btew, wtew)의 최대값(btemax, wtemax), 최소값(btemin, wtemin) 및 평균값(btemean, wtemean)에 가중치(kbte, kwte)를 반영하여 산출된 개별 작업자(32)에 대한 작업 응답 처리도(
Figure 112020067382710-pat00022
를 제1 범위로 설정한다.
[식 12]
Figure 112020067382710-pat00023
그 다음, 서버는 제1 범위 내에서 정규분포를 만족하도록 로그 스케일링화하여 제2 범위와 관련된 작업 처리 효율(e)을 산출한다.
도 8은 작업 처리 효율(e)을 설명하기 위한 그래프를 도시한 도면이다.
도 8의 그래프에서 각각 k→∞, k=0, k=1인 경우 위 작업 처리 효율(e)의 기준을 만족한다. 이와 같은 기준을 만족하는 식 13, 식 14는 다음과 같다.
[식 13]
Figure 112020067382710-pat00024
[식 14]
Figure 112020067382710-pat00025
식 14의 양변에 log를 취해 k에 대한 식으로 표현하면 다음 식 15와 같다.
[식 15]
Figure 112020067382710-pat00026
그 다음 식 15를 식 13에 대입하여 정리하면 작업 처리 효율(e)는 식 16과 같이 나타낼 수 있다.
[식 16]
Figure 112020067382710-pat00027
위 식 16에서 작업 처리 효율(e)은 작업 응답 처리도의 전체 평균 대비 개별 작업자(32)의 작업 응답 처리도의 로그 값으로 나타나며, 해당 작업자(32)의 작업 응답 처리도가 작을수록 작업 처리 효율은 더 높으며, 작업 처리 효율이 0.5일 경우 평균 작업 응답에 대한 log 추정치가 대락적으로 제2 프로젝트의 전체 평균에 근접한 경우를 의미한다.
다시 도 4를 참조하면 다음으로, 서버는 작업 기여도(c), 작업 정확도(a) 및 작업 처리 효율(e)의 조화 평균값에 기초하여 제2 프로젝트에서의 개별 작업자(32)의 작업 능력 지수(Cw)를 산출한다(S140). 그리고 서버는 작업 능력 지수(Cw)의 비교 결과에 기초하여 제1 프로젝트에 대한 작업자를 선정한다(S150). 즉, 서버는 타 작업자 대비 작업 능력 지수의 값이 더 큰 작업자를 오픈 예정인 제1 프로젝트의 작업자로 선정한다.
이 과정에서, 서버는 작업 기여도(c)와 작업 정확도(a), 그리고 작업 처리 효율(e) 중 적어도 하나에 대하여 설정된 필터 값을 통과한 개별 작업자(32)를 제1 프로젝트의 작업자로 선정할 수 있다. 또는, 작업 능력 지수(Cw)에 대한 필터 값 즉, 소정의 값 이상을 값 이상을 갖는 작업자(32)를 제1 프로젝트의 작업자로 선정할 수도 있다.
또한, 서버는 작업 기여도(c), 작업 정확도(a) 및 작업 처리 효율(e) 중 적어도 하나에 가중치(α, β, γ)를 부여하고, 가중치 및 각 가중치가 부여된 데이터의 가중치 조화 평균(weighted harmonic mean)을 적용하여 개별 작업자(32)들의 작업 능력 지수(Cw)를 산출할 수 있다(식 17).
[식 17]
Figure 112020067382710-pat00028
도 9는 가중치 적용에 따른 작업 능력 지수(Cw)의 산출 결과의 일 예시를 설명하기 위한 도면이다.
예를 들어, 각 작업자(32)들에 대하여 산출된 작업 기여도(c), 작업 정확도(a) 및 작업 처리 효율(e)이 도 9의 (a)와 같을때, 작업 기여도(c), 작업 정확도(a) 및 작업 처리 효율(e)에 대하여 각각 가중치를 동일하게 적용할 경우, 작업 능력 지수(Cw)에 따른 작업자(32)의 순위는 도 9의 (b)와 같이 '작업자 3-작업자2-작업자4-작업자1-작업자 5'로 나타난다.
이와 달리, 프로젝트 관리자나 의뢰자(1)가 제1 프로젝트에 대한 작업자의 선정 기준으로 작업 정확도(a)를 더 중요시하는 경우, 작업 정확도(a)에 대한 가중치를 더 높게 설정할 수 있으며, 그 결과 도 9의 (c)와 같이 작업 능력 지수(Cw)에 따른 작업자(32)의 순위는 '작업자 2-작업자3-작업자1-작업자 4-작업자 5'로 달리 나타난다.
또한, 프로젝트 관리자나 의뢰자(1)가 제1 프로젝트에 대한 작업자의 선정 기준으로 작업 기여도(c)와 작업 정확도(a)를 더 중요시하는 경우, 작업 기여도(c) 및 작업 정확도(a)에 대한 가중치를 작업 처리 효율(e) 보다 더 높게 설정할 수 있으며, 그 결과 도 9의 (d)와 같이 작업 능력 지수(Cw)에 따른 작업자(32)의 순위는 '작업자 3-작업자5-작업자4-작업자 2-작업자 1'로 달리 나타난다.
이와 같이, 본 발명의 일 실시예는 오픈 예정인 프로젝트에 대한 작업자 선정을 위해, 이전 완료된 유사 프로젝트에 참여한 작업자를 평가하기 위한 정량적 평가 지표를 산출하여 제공할 수 있으며, 이와 더불어 정량적 평가 지표를 기준으로 하는 프로젝트 관리자나 의뢰자(10)의 작업자 선정 기준을 더 반영하여 오픈 예정인 프로젝트에 대한 작업자를 선정할 수 있다.
한편, 상술한 설명에서, 단계 S110 내지 S150은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 10의 내용은 도 1 내지 도 9의 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법에도 적용될 수 있다.
이하에서는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 장치(200, 이하 작업자 선정 장치라 한다)에 대하여 설명하도록 한다.
도 10은 본 발명의 일 실시예에 따른 작업자 선정 장치(200)를 설명하기 위한 도면이다.
도 10을 참조하면, 따른 작업자 선정 장치(200)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.
통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 복수의 작업을 작업자 풀의 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 작업자 풀의 복수의 작업자(32)로부터 작업 결과를 수신한다. 또한, 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.
메모리(220)에는 기존에 완료된 유사 프로젝트의 히스토리에 개별 작업자들의 작업 능력 지수를 산출하고, 이에 기초하여 오픈 예정인 프로젝트의 작업자를 선정하기 위한 프로그램이 저장된다.
프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 기존 프로젝트에서의 작업 히스토리를 추출하고, 작업 히스토리에 기초하여 개별 작업자(32)들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 고려한 작업 능력 지수를 산출하고, 작업 능력 지수의 비교를 통해 오픈 예정인 프로젝트의 작업자를 선정한다.
이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
200 : 작업자 선정 장치
210 : 통신모듈
220 : 메모리
230 : 프로세서

Claims (10)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    오픈 예정인 크라우드소싱 기반 프로젝트(이하, “제1 프로젝트”)와 기 설정된 유사도를 갖는 완료된 크라우드소싱 기반 프로젝트(이하, “제2 프로젝트”)를 선정하는 단계;
    상기 제2 프로젝트에 대한 작업 히스토리를 추출하는 단계;
    상기 작업 히스토리에 기초하여 개별 작업자들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출하는 단계;
    상기 작업 기여도, 작업 정확도 및 작업 처리 효율의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계; 및
    상기 작업 능력 지수의 비교 결과에 기초하여 상기 제1 프로젝트의 작업자를 선정하는 단계를 포함하되,
    상기 작업 히스토리에 기초하여 개별 작업자들의 작업 기여도, 작업 정확도 및 작업 처리 효율을 산출하는 단계는,
    상기 개별 작업자들의 타 작업자 대비 작업 완료 건수와 관련된 통계적 수치를 나타내는 작업 기여도를 산출하는 단계;
    상기 제2 프로젝트에서의 개별 작업자들의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 통계적 수치를 나타내는 작업 정확도를 산출하는 단계; 및
    상기 개별 작업자들의 작업 점유 시간 및 작업 대기 시간에 기초한 작업 반응 속도와 관련된 통계적 수치를 나타내는 작업 처리 효율을 산출하는 단계를 포함하고,
    상기 개별 작업자들의 타 작업자 대비 작업 완료 건수와 관련된 통계적 수치를 나타내는 작업 기여도를 산출하는 단계는,
    상기 제2 프로젝트의 총 작업 건수 대비 개별 작업자의 총 작업 건수를 제1 범위로 설정하는 단계;
    상기 제2 프로젝트에서의 작업자 1인당 평균 작업량을 개별 작업자의 작업 기여도에 대한 중간값으로 설정하는 단계; 및
    상기 제1 범위 내에서 상기 중간값을 기준으로 하는 작업 기여도를 스케일링화하여 제2 범위와 관련된 상기 작업 기여도를 산출하는 단계를 포함하며,
    상기 제2프로젝트에서의 개별 작업자들의 작업 수행 횟수 대비 검수 통과된 작업의 비율과 관련된 관련된 통계적 수치를 나타내는 작업 정확도를 산출하는 단계는,
    상기 개별 작업자의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 확률 추정치를 제1 범위로 설정하는 단계;
    상기 제2프로젝트에서의 전체 작업자들의 작업 수행 횟수 대비 검수 통과된 작업 비율을 산출하는 단계;
    상기 확률 추정치 및 작업 비율이 동일한 케이스를 상기 개별 작업자의 작업 정확도에 대한 중간값으로 설정하는 단계; 및
    상기 제1 범위 내에서 상기 중간값을 기준으로 하는 작업 정확도를 스케일링화하여 제2 범위와 관련된 작업 정확도를 산출하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 개별 작업자의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 확률 추정치를 제1 범위로 설정하는 단계는,
    상기 제2프로젝트의 전체 작업자의 수, 상기 제2프로젝트의 총 작업 건수 및 재작업 건수와 관련된 베타 분포를 사전 분포로 정의하는 단계;
    상기 사전 분포를 이용하여, 베이지안 추론을 통해 상기 개별 작업자의 총 작업 건수 및 재작업 건수에 대한 사후 분포를 산출하는 단계; 및
    상기 사후 분포의 평균을 개별 작업자의 작업 수행 횟수 대비 검수 통과된 작업 비율과 관련된 확률 추정치로 획득하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  5. 제1항에 있어서,
    상기 개별 작업자들의 작업 점유 시간 및 작업 대기 시간에 기초한 작업 반응 속도와 관련된 통계적 수치를 나타내는 작업 처리 효율을 산출하는 단계는,
    상기 개별 작업자의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치를 획득하는 단계,
    상기 각 확률 추정치의 최대값, 최소값 및 평균값에 가중치를 반영하여 산출된 개별 작업자에 대한 작업 응답 처리도를 제1 범위로 설정하는 단계; 및
    상기 제1 범위 내에서 정규분포를 만족하도록 로그 스케일링화하여 제2 범위와 관련된 상기 작업 처리 효율을 산출하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  6. 제5항에 있어서,
    상기 개별 작업자의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치를 획득하는 단계는,
    상기 제2프로젝트에서의 전체 작업자들에 대한 작업 점유 시간 및 작업 대기 시간의 평균 및 분산으로 구성된 사전 분포를 정의하는 단계;
    상기 사전 분포를 이용하여, 베이지안 추론을 통해 상기 개별 작업자의 작업 점유 시간 및 작업 대기 시간에 대한 사후 분포를 산출하는 단계; 및
    상기 사후 분포의 평균을 개별 작업자의 작업 점유 시간 및 작업 대기 시간과 관련된 확률 추정치로 획득하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  7. 제5항에 있어서,
    상기 작업 점유 시간은, 상기 개별 작업자에게 배정된 각각의 작업별로 작업 수행을 시작한 시각과 상기 작업 수행을 완료하여 작업 결과를 입력한 시각에 기초하여 산출되고,
    상기 작업 대기 시간은, 각각의 검수자에게 배정된 각각의 작업 결과별로 검수 수행을 완료하여 검수 결과를 입력한 시각과, 상기 개별 작업자에게 배정되어 상기 검수 결과가 반려로 입력된 각각의 작업별로 재작업 수행을 위한 온라인 작업 공간에 접속한 시각에 기초하여 산출되는 것인,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  8. 제1항에 있어서,
    상기 작업 기여도, 작업 정확도 및 작업 처리 효율의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계는,
    상기 작업 기여도, 작업 정확도 및 작업 처리 효율 중 적어도 하나에 가중치를 부여하는 단계; 및
    상기 가중치 및 각 가중치가 부여된 데이터의 조화 평균값에 기초하여 개별 작업자들의 작업 능력 지수를 산출하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  9. 제1항에 있어서,
    상기 작업 능력 지수의 비교 결과에 기초하여 상기 제1 프로젝트의 작업자를 선정하는 단계는,
    상기 산출된 작업 기여도, 작업 정확도 및 작업 처리 효율 중 적어도 하나에 대하여 설정된 필터 값을 통과한 개별 작업자를 상기 제1 프로젝트의 작업자로 선정하는 것인,
    크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법.
  10. 컴퓨터와 결합되어, 제1항, 제4항 내지 제9항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

KR1020200079787A 2020-06-30 2020-06-30 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법 KR102195629B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200079787A KR102195629B1 (ko) 2020-06-30 2020-06-30 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200079787A KR102195629B1 (ko) 2020-06-30 2020-06-30 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법

Publications (1)

Publication Number Publication Date
KR102195629B1 true KR102195629B1 (ko) 2020-12-28

Family

ID=74086956

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200079787A KR102195629B1 (ko) 2020-06-30 2020-06-30 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법

Country Status (1)

Country Link
KR (1) KR102195629B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102343045B1 (ko) * 2021-05-13 2021-12-24 주식회사 인피닉 작업 예측 및 관리 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램
KR102349118B1 (ko) * 2021-09-07 2022-01-11 주식회사 디케이브라더스 프로젝트 중개 플랫폼 서비스 제공 방법 및 장치
KR102615026B1 (ko) * 2023-05-19 2023-12-27 (주)다우기술 클라우드 기반 데이터 공유 플랫폼을 이용한 업무 협업 플랫폼 운영 서버

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11288435A (ja) * 1998-04-01 1999-10-19 Hitachi Ltd 人材割当支援システム
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
JP2016181036A (ja) * 2015-03-23 2016-10-13 株式会社富士通エフサス 作業配分支援装置、作業配分支援プログラムおよび作業配分支援方法
US20200160250A1 (en) * 2011-10-17 2020-05-21 Figure Eight Technologies Predicting future performance of multiple workers on crowdsourcing tasks and selecting repeated crowdsourcing workers

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11288435A (ja) * 1998-04-01 1999-10-19 Hitachi Ltd 人材割当支援システム
US20200160250A1 (en) * 2011-10-17 2020-05-21 Figure Eight Technologies Predicting future performance of multiple workers on crowdsourcing tasks and selecting repeated crowdsourcing workers
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
JP2016181036A (ja) * 2015-03-23 2016-10-13 株式会社富士通エフサス 作業配分支援装置、作業配分支援プログラムおよび作業配分支援方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102343045B1 (ko) * 2021-05-13 2021-12-24 주식회사 인피닉 작업 예측 및 관리 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램
KR102349118B1 (ko) * 2021-09-07 2022-01-11 주식회사 디케이브라더스 프로젝트 중개 플랫폼 서비스 제공 방법 및 장치
KR102615026B1 (ko) * 2023-05-19 2023-12-27 (주)다우기술 클라우드 기반 데이터 공유 플랫폼을 이용한 업무 협업 플랫폼 운영 서버

Similar Documents

Publication Publication Date Title
KR102195629B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법
KR102164844B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 단위 난이도를 활용한 작업자 평가 방법
KR102155790B1 (ko) 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
KR102156582B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법
KR102232866B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법
KR102324041B1 (ko) 크라우드소싱 기반 프로젝트의 작업 유형 및 난이도에 기반한 작업자 풀 관리 방법
KR102244697B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 성향을 고려한 프로젝트 큐레이션 방법
KR102205811B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소별 작업시간을 활용한 최소 작업시간 설정 방법
KR102155749B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법
KR102183836B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 예상 소요시간에 기반한 자동 견적 산출 방법
KR102155748B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 시간 대비 검수 시간을 이용한 검수 단가 자동 업데이트 방법
KR102155839B1 (ko) 작업불가 사유 기반의 작업자 모니터링 방법 및 장치
KR102195632B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 가용 작업자 선별을 통한 최대 작업 결과 수량 산출 방법
KR102156587B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법
KR102155854B1 (ko) 다양한 문장 수집을 위한 키워드 관리 방법 및 장치
KR102205808B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 예상 작업 수량을 이용한 작업자 풀의 적정 작업자 수 확정 방법
KR102164852B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 긴급도를 고려한 프로젝트 참여 제한 방법
KR102156585B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트 간 작업 단가 조정을 통한 작업자의 프로젝트 유입 조절 방법
KR102195606B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자의 선택적인 셀프 체크를 통한 신뢰도 향상 방법
KR102156586B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 및 검수의 순차적인 배정 방법
KR102244705B1 (ko) 학습데이터 생성을 위한 크라우드소싱 기반 유사 프로젝트의 작업 단가 역전 조정을 통한 작업자 유입 조절 방법
KR102232909B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법
KR102195956B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법
KR102195608B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 오브젝트 반려율을 활용한 자동 반려 방법
KR102155747B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant