WO2021132831A1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법 - Google Patents

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법 Download PDF

Info

Publication number
WO2021132831A1
WO2021132831A1 PCT/KR2020/010393 KR2020010393W WO2021132831A1 WO 2021132831 A1 WO2021132831 A1 WO 2021132831A1 KR 2020010393 W KR2020010393 W KR 2020010393W WO 2021132831 A1 WO2021132831 A1 WO 2021132831A1
Authority
WO
WIPO (PCT)
Prior art keywords
inspectors
workers
project
ratio
crowdsourcing
Prior art date
Application number
PCT/KR2020/010393
Other languages
English (en)
French (fr)
Inventor
박민우
장정식
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Priority to EP20906599.4A priority Critical patent/EP4068175A4/en
Publication of WO2021132831A1 publication Critical patent/WO2021132831A1/ko
Priority to US17/847,462 priority patent/US20220327450A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063114—Status monitoring or status determination for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/105—Human resources

Definitions

  • the present invention relates to the generation of artificial intelligence learning data, and more particularly, to a method of increasing/decreasing the workers and inspectors of a crowdsourcing-based project.
  • the potential maximum value in the productivity of the result data of the project is determined according to the number of workers participating in the project.
  • the inspectors participating in the project perform the inspection on the data subject to inspection and ultimately produce the result data
  • the actual productivity level of the result data of the project is determined according to the number of inspectors participating in the project.
  • the productivity of the final result data is determined according to the ratio of workers and inspectors participating in the project.
  • the number of workers compared to the number of inspectors is relatively large, the number of inspection target data to be inspected per inspector increases, which creates a bottleneck in the inspection process, thereby limiting productivity.
  • the worker receives a settlement of the work cost. If a bottleneck occurs in the inspection process, the worker receives the settlement for his/her work late, so the workers' dissatisfaction increases. .
  • the problem to be solved by the present invention is to provide a method for increasing/decreasing operators and inspectors of crowdsourcing-based projects.
  • the method for increasing/decreasing the number of workers and inspectors of a crowdsourcing-based project includes the steps of opening a new crowdsourcing-based project, the ratio of the number of inspectors to the number of reference workers of the project setting, measuring the number of current workers participating in the project and the number of current inspectors, using the measurement result, calculating a ratio of the number of inspectors to the number of current workers of the project, the current workers Comparing the ratio of the number of inspectors to the number of workers and the ratio of the number of inspectors to the number of reference workers and the comparison result, the ratio of the number of inspectors to the number of current workers is the ratio of the number of inspectors to the number of reference workers If greater than, determine the reduction in the number of inspectors or increase the number of workers, and if the ratio of the number of inspectors to the current number of workers is less than the ratio of the number of inspectors to the reference number of workers, the increase in the number of inspectors or the reduction of the workers is
  • the ratio of the number of inspectors to the number of reference workers of the project is determined using the total number of completed inspections and the total number of work completions measured during a predetermined period.
  • the ratio of the number of inspectors to the number of standard workers of the project is the average inspection completion per unit period per inspector calculated using the total number of inspection completions and the total number of work completions measured during the predetermined period It is the ratio of the average number of work completions per worker per unit period to the number of cases.
  • the average number of work completions per unit period per worker and the average number of inspection completions per unit period per inspector are the total number of work completions, the total number of completed inspections, the predetermined cycle, and the predetermined cycle. It is calculated using the number of workers who participated during the period and the number of inspectors who participated during the predetermined period.
  • the total number of work completion cases includes the number of initial work completion cases and the number of rework completion cases according to the inspection result rejection processing.
  • the total number of inspection completion includes inspection passing processing and rejection processing.
  • the step of measuring the number of current workers and the number of current inspectors participating in the project is repeatedly performed at predetermined intervals.
  • the worker's work is sent to the inspector participating in the project. It further includes the step of requesting the inspection of the result.
  • the method when it is decided to reduce the number of inspectors or increase the number of workers, the method further includes converting the roles of some of the inspectors participating in the project from the inspectors to the workers.
  • the method when it is decided to increase the number of inspectors or reduce the number of workers, the method further includes converting the roles of some of the workers participating in the project from the workers to the inspectors.
  • the step of converting the role of some of the workers participating in the project from the operator to the inspector, the role of the operator having a predetermined grade among the workers participating in the project is converted to the inspector.
  • the increase/decrease target using at least one of the number of current workers participating in the project, the number of current inspectors, or the ratio of the number of inspectors to the number of reference workers when increasing or decreasing the worker or the inspector Decide on the number of people
  • the number of target workers is determined according to the following equation.
  • Increase/decrease target number of workers (current number of workers + current number of inspectors) / (1 + ratio of number of inspectors to reference number of employees)
  • the number of target inspectors is determined according to the following equation when the number of inspectors is increased or decreased.
  • Increase/decrease target number of inspectors (current number of workers + current number of inspectors) / (1 + 1 / ratio of number of inspectors to reference number of workers)
  • a computer program according to another aspect of the present invention for solving the above-described problems is combined with a computer that is hardware to execute an increase/decrease operation method of workers and inspectors of the crowdsourcing-based project, and is stored in a computer-readable recording medium.
  • the workers and inspectors can produce results by performing an appropriate amount of work and inspection, respectively, thereby There is no bottleneck in the inspection process, and the settlement of workers' work can be processed immediately.
  • the maximum productivity of the result data determined by the number of workers and the actual productivity level determined by the number of inspectors become similar, as a result The effect of maximizing the productivity of the project can be obtained.
  • FIG. 1 is a conceptual diagram of a crowdsourcing service according to an embodiment of the present invention.
  • FIG. 2 is a flowchart for explaining a process of a crowdsourcing-based project according to an embodiment of the present invention.
  • FIG. 3 is a flowchart of a method for increasing/decreasing operators and inspectors of a crowdsourcing-based project according to an embodiment of the present invention.
  • FIG. 4 is a flowchart of a method for requesting operation and requesting inspection according to an embodiment of the present invention.
  • FIG. 5 is a view showing a timeline for requesting inspection after a predetermined period after the request for performing the task of the present invention.
  • FIG. 6 is a diagram illustrating a timeline of setting a reference ratio of an inspector to an operator and calculating a current ratio during a pilot process.
  • FIG. 7 is a diagram illustrating a timeline of setting a reference ratio of an inspector to a worker and calculating the current ratio when the initial operating period is applied.
  • FIG. 8 is a block diagram of a device for increasing/decreasing operators and inspectors of a crowdsourcing-based project according to an embodiment of the present invention.
  • FIG. 1 is a conceptual diagram of a crowdsourcing service according to an embodiment of the present invention.
  • the crowdsourcing service is performed by consisting of a requester 10 , a service provider 20 , and the public 30 .
  • the client 10 refers to a company or individual requesting a crowdsourcing-based project (hereinafter, a project).
  • the client 10 requests a project for the purpose of collecting source data or data annotation for the generation of artificial intelligence learning data.
  • the data generated through the project can be used as learning data for arbitrary machine learning such as supervised learning, unsupervised learning, and reinforcement learning.
  • the collection of source data means the collection of raw data such as recorded voice collection and photo collection.
  • Data annotation refers to inputting relevant annotation data into source data such as text, photos, and videos.
  • data annotation may include, but is not limited to, finding an entity in a given fingerprint, finding a similar sentence, and the like.
  • the type of the above-mentioned project is only one embodiment, and various projects may be handled in the present invention according to the design of the client.
  • the service provider 20 refers to a company that provides a crowdsourcing service.
  • the service provider 20 When the service provider 20 receives a request for a project for a product or service from the client 10 , the service provider 20 allocates the work for the project to the general public 30 and receives the work result from the public 30 . Thereafter, the final product extracted based on the work result is provided to the client 10 .
  • the service provider 20 provides a crowdsourcing service to the client 10 and the public 30 through the crowdsourcing platform (hereinafter, the platform). That is, when the service provider 20 receives a project request from the client 10 , the service provider 20 opens the project on the platform. Thereafter, when receiving the work results for the open project from the public 30 , the project may be terminated on the platform, and the final product may be extracted and provided to the client 10 .
  • the public 30 refers to the general public participating in the project open on the platform.
  • the public 30 may participate in a project open to the platform through an application or website provided by the service provider 20 .
  • the public 30 consists of an operator 32 and an inspector 34 .
  • the worker 32 decides to participate in a specific project among a plurality of projects open to the platform. Thereafter, the worker 32 collects source data or performs a task such as data annotation, and transmits it to the platform.
  • the inspector 34 decides to participate in a specific project among a plurality of projects opened on the platform. Thereafter, the inspector 34 performs inspection on the results of the work performed by the operator 32 . As a result of the inspection, the inspector 34 may process the inspection passing or reject it, and may input a reason for rejecting the work when rejecting the task. In the case of passing inspection, rework and subsequent re-inspection are not required, so passing inspection has the same meaning as inspection completion.
  • FIG. 2 is a flowchart for explaining a process of a crowdsourcing-based project according to an embodiment of the present invention.
  • the client 10 requests one or more projects to the service provider 20 (S11).
  • the service provider 20 opens the requested project on the platform (S12).
  • the service provider 20 may determine the grade in consideration of the difficulty of the corresponding project before opening the project. That is, it is possible to determine whether to expose the project to the public 30 or higher according to the level of difficulty. Accordingly, it is possible to increase the reliability of the work result of the project.
  • the service provider 20 assigns the task to the workers 32 of the corresponding grade or higher according to the grade of the project (S13).
  • the worker 32 performs the assigned task (S14).
  • the operator 32 may input a reason for not being able to work without performing the job for a job in which the job itself is impossible for some reason.
  • the service provider 20 receives the work result from the worker 32 (S15), and assigns an inspection task for the work result to the inspector 34 (S16).
  • the inspector 34 performs the assigned inspection (S17). At this time, the inspector 34 determines the completion of the inspection if it is determined that the work has been performed properly, and determines the rejection if it is determined that the inspection work is wrong. When deciding to reject, the inspector 34 inputs a reason for rejecting for what reason it is determined that the work is wrong.
  • the service provider 20 receives the inspection result from the inspector 34 (S18).
  • the service provider 20 uses the corresponding work result as valid data, and based on this, extracts the final product at the end of the project.
  • the service provider 20 may internally perform the inspection again, or assign the task to the worker 32 again to perform the task.
  • the service provider 20 terminates the project when the project period is over or sufficient valid data is secured (S19), and calculates a final result based on the secured valid data and provides it to the client 10 ( S20).
  • the service provider 20 evaluates the performance results of the operator 32 and the inspector 34 , and calculates the work cost and inspection cost according to the evaluation to the operator 32 and the inspector 34 . give.
  • FIGS. 1 and 2 it is simply expressed as the requester 10, the service provider 20, the worker 32, and the inspector 34, but these are a smartphone, tablet, PDA, laptop, means a computer device or telecommunication device such as a desktop, server, etc.
  • 3 is a flowchart of a method for increasing/decreasing operators and inspectors of a crowdsourcing-based project according to an embodiment of the present invention.
  • 4 is a flowchart of a method for requesting operation and requesting inspection according to an embodiment of the present invention.
  • 5 is a view showing a timeline for requesting inspection after a predetermined period after the request for performing the task of the present invention.
  • 6 is a diagram illustrating a timeline of setting a reference ratio of an inspector to an operator and calculating a current ratio during a pilot process.
  • 7 is a diagram illustrating a timeline of setting a reference ratio of an inspector to a worker and calculating the current ratio when the initial operating period is applied.
  • FIGS. 3 and 4 may be understood to be performed by a platform server (hereinafter, referred to as a server) operated by the service provider 20, but is not limited thereto.
  • a platform server hereinafter, referred to as a server operated by the service provider 20, but is not limited thereto.
  • the operator 32 or the inspector 34 performs the work using a predetermined terminal device.
  • the terminal device of the operator 32 or the inspector 34 may be a computer device or a telecommunication device such as a smart phone, tablet, PDA, laptop, desktop, etc., but is not limited thereto.
  • the server opens a new crowdsourcing-based project ( S110 ).
  • the plurality of workers 32 and the plurality of inspectors 34 start work and inspection according to the server's request.
  • the server requests the worker 32 participating in the project to perform work (S112). Then, a plurality of workers 32 participating in the project perform a task, respectively, and transmit the task result to the server. And, as shown in FIG. 5, after a predetermined period of time has elapsed, the server requests the plurality of inspectors 34 participating in the project to inspect the work results of the plurality of workers 32 (S114). Then, a plurality of inspectors 34 participating in the project perform the inspection, respectively, and transmit the inspection result to the server.
  • the predetermined period means a leading time for the inspector 34 to collect the work results for inspection, and is preset by the server. That is, if the predetermined period is set in advance to 1 day, when the project is opened, the server receives and collects a sufficient amount of work results from the worker 32 for one day, and after one day, the work results collected by the inspector 34 Request the inspection so that the inspector 34 can start the inspection. At this time, the inspector 34 has a role inactive for a predetermined period of time, and is activated after a predetermined period to participate in the project.
  • the server sets the ratio of the number of inspectors to the number of standard workers of the project (S120).
  • the ratio of the number of inspectors to the number of reference workers is a value indicating an appropriate ratio of the number of inspectors to the number of workers in consideration of productivity, as will be described later.
  • the ratio of the number of inspectors to the number of reference workers is determined using the total number of completed inspections and the total number of work completions measured during a predetermined period. The measurement of the total number of completed work and the total number of completed inspections is repeated at predetermined intervals, and the ratio of the number of inspectors to the number of reference workers is updated at intervals of a predetermined interval.
  • the ratio of the number of inspectors to the number of reference workers is the average number of inspection completions per unit period (C) per inspector calculated using the total number of completed inspections and the total number of completed tasks measured during a given period (C). It means the ratio (W/C) of the average number of work completed (W) per unit period.
  • the unit period may be 1 day, but is not limited thereto.
  • the average number of job completions (W) per worker per unit period is calculated using the total number of job completions measured during a predetermined cycle, and the number of workers participating during the predetermined cycle and the predetermined cycle.
  • the average number of inspection completions (C) per unit period per inspector is calculated using the total number of inspection completions measured during a predetermined period, and the number of inspectors who participated during a predetermined period and a predetermined period.
  • the speed of performing the role of the inspector per unit period is faster, which means that the ratio between the number of inspectors and the number of workers is not appropriate. Therefore, the number of workers and the number of inspectors is appropriately adjusted from the ratio (W/C) of the average number of work completed per unit period (W) per worker to the average number of inspections completed per unit period (C) per inspector.
  • the total number of work completions includes the number of initial work completions and the number of rework completions according to the rejection of the inspection result. That is, the total number of work completions is calculated including both the number of first completed work by the workers during a predetermined period and the number of rework completed for the work rejected by the inspector.
  • the total number of inspection completed includes inspection passing processing and rejection processing. That is, the total number of completed inspections is the number of cases in which the inspectors judged that the work result by the operator was normal during a given period and processed the work data as passing inspection, and the number of cases that were rejected because the work result was inappropriate and required rework. is calculated including all
  • the predetermined period is set to an appropriate period according to the nature or difficulty of the project.
  • the operator or inspector becomes proficient in the task as the project progresses, so that the operator and the inspector can perform their respective roles at a similar speed after a certain point in time. Therefore, in the case of such a project, by setting the cycle to be relatively long (eg, one week), it is possible to check whether the worker and the inspector are performing their roles at a similar speed during the cycle.
  • the ratio of the number of inspectors to the number of initial standard workers is not set every predetermined cycle as described above, but is set in advance according to the pilot results conducted before the project is opened, or the project is carried out during the initial operating period after the project is opened It is preset according to one result.
  • the server performs a pilot before the project is opened, and the ratio of the number of inspectors to the number of initial standard workers using the total number of work completions and the total number of inspection completions measured during the pilot to set
  • the server should set the standard using the number of work completions and inspection completions measured during the same period. For example, if the pilot period is 2 days, the first 1 day is operated for the operator's work performance, and the second half 1 day should be operated for the inspector's inspection performance. Since the detailed calculation method is the same as described above, it is omitted.
  • the server sets the ratio of the number of inspectors to the number of initial standard workers by using the total number of work completions and the total number of inspections measured during the initial operation period after the project is opened. .
  • the initial operating period means a period in which a predetermined period is added to a period corresponding to a predetermined period. That is, the initial operating period is set longer than a predetermined period. For example, when the predetermined period preset by the server is 1 day and the predetermined period is 2 days, the initial operating period is set to 3 days. On the other hand, since the inspector 34 starts the inspection later than the operator 32 by a predetermined period, a reading time of one day is given. The server should set the standard using the number of work completions and inspection completions measured during the same period.
  • the server sets the ratio of the number of inspectors to the number of the first reference workers using only the number of work completions and the number of inspection completions measured during the latter two days corresponding to the predetermined cycle among the three days of the initial operation period. Since the detailed calculation method is the same as described above, it is omitted.
  • the ratio of the number of inspectors to the number of reference workers is not updated at intervals of a predetermined period, and the ratio of the number of inspectors to the number of the first reference workers described above can be continuously fixed during the progress of the project. have.
  • the server measures the number of current workers and the number of current inspectors participating in the project (S130).
  • the server repeats the measurement of the number of current workers (WN) and the number of current inspectors (CN) participating in the project at intervals of the predetermined period. That is, the server sets the ratio of the number of inspectors to the number of reference workers for each predetermined cycle, and measures the number of workers participating in the project at the current time and the number of current inspectors. And, as will be described later, the server determines the increase or decrease of the operator or inspector through the comparison result of both.
  • the server calculates a ratio (CN/WN) of the number of inspectors to the number of current workers of the project by using the measurement result (S140).
  • the server compares the ratio of the number of inspectors to the number of current workers and the ratio of the number of inspectors to the number of reference workers (S150).
  • the server determines the ratio of the number of inspectors to the number of the first reference workers after a predetermined period has elapsed and Compare the ratio of the number of inspectors to the number of current workers (first comparison).
  • the reason for the comparison after the predetermined period has elapsed is to measure the number of current operators and the number of inspectors after sufficient inflow of inspectors as well as operators for a predetermined period of time.
  • the server After performing the first comparison at a time point when a predetermined period has elapsed, the server performs the second comparison, the third comparison, ... The ,n-th comparison is repeated until the project is finished.
  • the server compares the number of inspectors to the number of the first reference workers after the initial operation period has elapsed Compare the ratio of the number of workers and the number of inspectors to the number of current workers (first comparison).
  • the initial operation period is a period including a predetermined period, workers and inspectors are sufficiently introduced during the initial operation period.
  • the server After the first comparison is made at the time when the initial operation period has elapsed, the server performs the second comparison, the third comparison, ... The ,n-th comparison is repeated until the project is finished.
  • the server increases or decreases the number of workers or the number of inspectors (S160).
  • the server determines the reduction of the number of inspectors or the increase in the number of inspectors if the ratio of the number of inspectors to the current number of workers is greater than the ratio of the number of inspectors to the number of reference workers. That is, since it means that the ratio of the number of inspectors to the current number of workers is greater than the appropriate ratio, the server appropriately increases or decreases the number of inspectors or workers according to the appropriate ratio.
  • the server when a specific cycle arrives, if the ratio of the number of inspectors to the current number of workers is 1.5 and the ratio of the number of inspectors to the number of standard workers is 1, the server reduces the number of inspectors according to the appropriate ratio of 1, workers can be increased.
  • the server can reduce the number of inspectors and increase the number of workers at the same time by converting the roles of some of the inspectors participating in the project from the inspectors to the workers. Accordingly, it is possible to increase or decrease the number of workers and inspectors within the project by converting the roles of some inspectors participating in the project to workers without hiring a new third party worker and inspector other than the project.
  • the server determines the increase in the number of inspectors or the reduction of workers when the ratio of the number of inspectors to the current number of workers is less than the ratio of the number of inspectors to the number of reference workers. That is, since it means that the ratio of the number of inspectors to the current number of workers is smaller than the appropriate ratio, the server appropriately increases or decreases the number of inspectors or workers according to the appropriate ratio.
  • the server increases the number of inspectors according to the appropriate ratio of 2, workers can be laid off.
  • the server can reduce the number of workers while increasing the number of inspectors by converting the roles of some of the workers participating in the project from the workers to the inspectors. Specifically, it is possible to convert the role of a worker having a predetermined grade among workers participating in the project (a worker with sufficient proficiency in performing work and having a low rejection rate) to an inspector. Accordingly, it is possible to increase or decrease the number of workers and inspectors within the project by converting the roles of some workers participating in the project to inspectors without newly recruiting third-party workers and inspectors other than the project.
  • the third party not participating in the project Recruitment of new workers or inspectors may be made simultaneously. Alternatively, there may be only new recruitment of third-party workers or inspectors who are not participating in the project without changing roles.
  • the server can determine the number of target personnel by using at least one of the ratio of the number of current workers participating in the project, the number of current inspectors, or the number of inspectors to the number of reference workers. .
  • the number of target workers may be determined according to the following equation when increasing/decreasing the number of workers.
  • Increase/decrease target number of workers (current number of workers + current number of inspectors) / (1 + ratio of number of inspectors to reference number of employees)
  • the server can add 2 workers.
  • the server can reduce the number of workers by 2 people.
  • the number of target inspectors when increasing or decreasing the number of inspectors may be determined according to the following equation.
  • Increase/decrease target number of inspectors (current number of workers + current number of inspectors) / (1 + 1 / ratio of number of inspectors to reference number of workers)
  • the server can decide to reduce the number of inspectors by 2 people. In other words, 2 out of the current 20 inspectors are converted into workers, the number of inspectors is reduced, and the number of workers is increased.
  • the server can decide to increase the number of inspectors by 2 people. That is, among the current 10 workers, 2 people are converted to inspectors according to their grades, and the number of inspectors is increased and the workers are reduced at the same time.
  • steps S110 to S160 may be further divided into additional steps or combined into fewer steps according to an embodiment of the present invention.
  • some steps may be omitted as necessary, and the order between steps may be changed.
  • the contents of FIG. 8 to be described later even if other omitted contents may be applied to the method of increasing/decreasing the operator and inspector of the crowdsourcing-based project of FIGS. 1 to 7 .
  • FIG. 8 is a block diagram of a device for increasing/decreasing operators and inspectors of a crowdsourcing-based project according to an embodiment of the present invention.
  • an increase/decrease operation device 200 (hereinafter referred to as an 'increase/decrease operation device') of workers and inspectors of a crowdsourcing-based project includes a communication module 210, a memory 220 and a processor 230. do.
  • the communication module 210 transmits a crowdsourcing-based job for one project to a plurality of workers 32 to request job performance, and receives a job result from the plurality of workers 32 .
  • the work results received from the plurality of workers 32 are transmitted to the plurality of inspectors 34 to request inspection, and the inspection results are received from the plurality of inspectors 34 .
  • the memory 220 stores a computer program for increasing/decreasing operation of workers and inspectors participating in one project based on the data received from the communication module 310 .
  • the processor 230 executes a computer program stored in the memory 220 .
  • the computer program includes instructions for executing the method of increasing/decreasing the operator and inspector of the above-described crowdsourcing-based project.
  • the processor 230 executes the program stored in the memory 220, the ratio of the number of inspectors to the number of reference workers and the ratio of the number of inspectors to the current number of workers is compared at every predetermined cycle, and the operator according to the comparison result By increasing or decreasing the number of workers or inspectors, workers and inspectors can perform their respective roles in an appropriate ratio.
  • the increase/decrease operation device 200 described with reference to FIG. 8 may be provided as a component of the above-described server.
  • the method for increasing/decreasing the workers and inspectors of the crowdsourcing-based project according to an embodiment of the present invention described above is implemented as a computer program (or application) to be executed in combination with a computer, which is hardware, and stored on a computer-readable recording medium. can be saved.
  • the above-mentioned program in order for the computer to read the program and execute the methods implemented as a program, C, C++, JAVA, Ruby, which the processor (CPU) of the computer can read through the device interface of the computer; It may include code coded in a computer language such as machine language. Such code may include functional code related to a function defining functions necessary for executing the methods, etc., and includes an execution procedure related control code necessary for the processor of the computer to execute the functions according to a predetermined procedure. can do. In addition, the code may further include additional information necessary for the processor of the computer to execute the functions or code related to memory reference for which location (address address) in the internal or external memory of the computer to be referenced. have.
  • the code uses the communication module of the computer to determine how to communicate with any other computer or server remotely. It may further include a communication-related code for whether to communicate and what information or media to transmit and receive during communication.
  • the storage medium is not a medium that stores data for a short moment, such as a register, a cache, a memory, etc., but a medium that stores data semi-permanently and can be read by a device.
  • examples of the storage medium include, but are not limited to, ROM, RAM, CD-ROM, magnetic tape, floppy disk, and optical data storage device. That is, the program may be stored in various recording media on various servers accessible by the computer or in various recording media on the computer of the user.
  • the medium may be distributed in a computer system connected by a network, and a computer readable code may be stored in a distributed manner.

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Educational Administration (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Data Mining & Analysis (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법이 제공된다. 상기 방법은 신규 크라우드소싱 기반 프로젝트를 오픈하는 단계, 상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율을 설정하는 단계, 상기 프로젝트에 참여하는 현재 작업자의 수와 현재 검수자의 수를 측정하는 단계, 상기 측정 결과를 이용하여, 상기 프로젝트의 현재 작업자의 수 대비 검수자의 수 비율을 산출하는 단계, 상기 현재 작업자의 수 대비 검수자의 수 비율과 상기 기준 작업자의 수 대비 검수자의 수 비율을 비교하는 단계 및 상기 비교 결과에 따라, 상기 검수자의 감원 또는 상기 작업자의 증원을 결정하고, 상기 검수자의 증원 또는 상기 작업자의 감원을 결정하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법
본 발명은 인공지능 학습데이터 생성에 관한 것으로, 보다 상세하게는 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자와 검수자가 해당 프로젝트에 참여하게 함으로써, 작업자에게 작업을 수행하게 하고, 검수자에게 검수를 수행하게 하여 필요한 정보(결과 데이터)를 수집하게 된다.
이때, 프로젝트에 참여하는 작업자들은 작업을 수행하여 검수 대상 데이터를 생산하는 역할을 하기 때문에, 프로젝트에 참여하는 작업자의 수에 따라 프로젝트의 결과 데이터의 생산성에 있어서 잠재적 최대치가 결정된다. 또한, 프로젝트에 참여하는 검수자들은 검수 대상 데이터에 대한 검수를 수행하여 결과 데이터를 최종적으로 생산하는 역할을 하기 때문에, 프로젝트에 참여하는 검수자의 수에 따라 프로젝트의 결과 데이터의 실제 생산성 수준이 결정된다.
즉, 프로젝트에 참여하는 작업자와 검수자의 비율에 따라 최종적인 결과 데이터의 생산성이 결정된다.
만약, 검수자의 수 대비 작업자의 수가 상대적으로 많은 경우, 검수자 한 명당 검수해야 할 검수 대상 데이터가 많아지게 되어 검수 과정에 병목이 발생되기 때문에, 생산성에 제약이 생기는 문제가 있다. 또한, 작업자는 자신이 수행한 작업에 대해 검수가 완료되면 작업 비용 정산을 받게 되는데 검수 과정에 병목이 발생되면, 그만큼 작업자는 자신의 작업에 대한 정산을 늦게 받게 되기 때문에, 작업자들의 불만이 높아지게 된다.
한편, 작업자의 수 대비 검수자의 수가 상대적으로 많은 경우, 검수자 수에 비해 검수 대상 데이터가 적기 때문에 검수자의 인력을 낭비하는 문제가 있다.
따라서, 프로젝트에 참여하는 작업자의 수와 검수자의 수를 적절히 조절하는 것이 매우 중요하다.
본 발명이 해결하고자 하는 과제는 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법을 제공하는 것이다.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법은 신규 크라우드소싱 기반 프로젝트를 오픈하는 단계, 상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율을 설정하는 단계, 상기 프로젝트에 참여하는 현재 작업자의 수와 현재 검수자의 수를 측정하는 단계, 상기 측정 결과를 이용하여, 상기 프로젝트의 현재 작업자의 수 대비 검수자의 수 비율을 산출하는 단계, 상기 현재 작업자의 수 대비 검수자의 수 비율과 상기 기준 작업자의 수 대비 검수자의 수 비율을 비교하는 단계 및 상기 비교 결과에 따라, 상기 현재 작업자의 수 대비 검수자의 수 비율이 상기 기준 작업자의 수 대비 검수자의 수 비율보다 크면 상기 검수자의 감원 또는 상기 작업자의 증원을 결정하고, 상기 현재 작업자의 수 대비 검수자의 수 비율이 상기 기준 작업자의 수 대비 검수자의 수 비율보다 작으면 상기 검수자의 증원 또는 상기 작업자의 감원을 결정하는 단계를 포함한다.
본 발명의 일부 실시예에서, 상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율은 소정의 주기 동안 측정된 전체 검수 완료 건수와 전체 작업 완료 건수를 이용하여 결정된다.
본 발명의 일부 실시예에서, 상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율은 상기 소정의 주기 동안 측정된 전체 검수 완료 건수와 전체 작업 완료 건수를 이용하여 산출된 검수자 1인당 단위 기간 평균 검수 완료 건수 대비 작업자 1인당 단위 기간 평균 작업 완료 건수 비율이다.
본 발명의 일부 실시예에서, 상기 작업자 1인당 단위 기간 평균 작업 완료 건수와 상기 검수자 1인당 단위 기간 평균 검수 완료 건수는 상기 전체 작업 완료 건수, 전체 검수 완료 건수, 상기 소정의 주기, 상기 소정의 주기 동안 참여한 작업자의 수, 상기 소정의 주기 동안 참여한 검수자의 수를 이용하여 산출한다.
본 발명의 일부 실시예에서, 상기 전체 작업 완료 건수는 최초작업 완료 건수 및 검수 결과 반려 처리에 따른 재작업 완료 건수를 포함한다.
본 발명의 일부 실시예에서, 상기 전체 검수 완료 건수는 검수 통과 처리 및 반려 처리를 포함한다.
본 발명의 일부 실시예에서, 상기 프로젝트에 참여하는 현재 작업자의 수와 현재 검수자의 수를 측정하는 단계는 소정의 주기를 간격으로 하여 반복 수행된다.
본 발명의 일부 실시예에서, 상기 프로젝트에 참여하는 작업자에게 작업 수행을 요청하는 단계 및 상기 프로젝트에 참여하는 작업자에게 작업 수행을 요청한 후 소정의 기간 이후에 상기 프로젝트에 참여하는 검수자에게 상기 작업자의 작업 결과에 대한 검수를 요청하는 단계를 더 포함한다.
본 발명의 일부 실시예에서, 상기 검수자의 감원 또는 상기 작업자의 증원을 결정한 경우, 상기 프로젝트에 참여하는 검수자의 일부의 역할을 검수자로부터 작업자로 전환시키는 단계를 더 포함한다.
본 발명의 일부 실시예에서, 상기 검수자의 증원 또는 상기 작업자의 감원을 결정한 경우, 상기 프로젝트에 참여하는 작업자의 일부의 역할을 작업자로부터 검수자로 전환시키는 단계를 더 포함한다.
본 발명의 일부 실시예에서, 상기 프로젝트에 참여하는 작업자의 일부의 역할을 작업자로부터 검수자로 전환시키는 단계는, 상기 프로젝트에 참여하는 작업자 중 소정 등급을 갖는 작업자의 역할을 검수자로 전환시킨다.
본 발명의 일부 실시예에서, 상기 작업자 또는 상기 검수자의 증감시 상기 프로젝트에 참여하는 현재 작업자의 수, 현재 검수자의 수, 또는 상기 기준 작업자의 수 대비 검수자의 수 비율 중 적어도 하나를 이용하여 증감 목표 인원의 수를 결정한다.
본 발명의 일부 실시예에서, 상기 작업자의 증감시 목표 작업자의 수를 다음의 수식에 따라 결정한다.
증감 목표 작업자의 수 = (현재 작업자의 수 + 현재 검수자의 수) / (1 + 기준 작업자의 수 대비 검수자의 수 비율)
본 발명의 일부 실시예에서, 상기 검수자의 증감시 목표 검수자의 수를 다음의 수식에 따라 결정한다.
증감 목표 검수자의 수 = (현재 작업자의 수 + 현재 검수자의 수) / (1 + 1 / 기준 작업자의 수 대비 검수자의 수 비율)
상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
상기와 같은 본 발명에 따르면, 프로젝트에 참여하는 작업자의 수와 검수자의 수를 적정 비율로 조절함에 따라, 작업자 및 검수자는 각각 적정한 양의 작업 및 검수를 수행하여 결과를 생산해낼 수 있으며, 이로 인해 검수 과정에 병목 현상이 발생되지 않고, 작업자의 작업에 대한 정산도 바로 처리될 수 있다.
또한, 프로젝트에 참여하는 작업자의 수와 검수자의 수를 적정 비율로 조절함에 따라, 작업자의 수에 따라 결정되는 결과 데이터의 생산성 최대치와 검수자의 수에 따라 결정되는 실제 생산성 수준이 비슷하게 되어, 결과적으로 프로젝트의 생산성이 극대화되는 효과를 얻을 수 있다.
또한, 작업자와 검수자가 꾸준하게 작업 및 검수를 수행함에 따라, 프로젝트에 대한 작업자와 검수자의 능숙도가 높아져, 높은 신뢰도의 결과 데이터를 획득할 수 있다.
또한, 작업자 및 검수자의 증원 또는 감원 시, 적절한 증원 또는 감원 규모를 계산할 수 있기 때문에, 관리 측면에서 효율적이라는 효과가 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법의 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 작업 수행 요청 및 검수 요청 방법의 흐름도이다.
도 5는 본 발명의 작업 수행 요청 후 소정 기간 이후에 검수 요청되는 타임라인을 도시한 도면이다.
도 6은 파일럿 진행 시의 작업자 대비 검수자의 기준 비율 설정 및 현재 비율 산출의 타임라인을 도시한 도면이다.
도 7은 초기 운영 기간 적용 시의 작업자 대비 검수자의 기준 비율 설정 및 현재 비율 산출의 타임라인을 도시한 도면이다.
도 8은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 장치의 블록도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.
서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 작업 반려 시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 배정한다(S13).
이후, 작업자(32)는 배정된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 배정한다(S16).
이후, 검수자(34)는 배정된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 제대로 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려를 결정한다. 반려 결정 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).
검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 작업을 수행하게 할 수도 있다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
한편, 도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법의 흐름도이다. 도 4는 본 발명의 일 실시예에 따른 작업 수행 요청 및 검수 요청 방법의 흐름도이다. 도 5는 본 발명의 작업 수행 요청 후 소정 기간 이후에 검수 요청되는 타임라인을 도시한 도면이다. 도 6은 파일럿 진행 시의 작업자 대비 검수자의 기준 비율 설정 및 현재 비율 산출의 타임라인을 도시한 도면이다. 도 7은 초기 운영 기간 적용 시의 작업자 대비 검수자의 기준 비율 설정 및 현재 비율 산출의 타임라인을 도시한 도면이다.
한편, 도 3 및 도 4에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
또한, 작업자(32)나 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
도 3을 참조하면, 서버는 신규 크라우드소싱 기반의 프로젝트를 오픈한다(S110). 프로젝트가 오픈되면, 복수의 작업자(32)와 복수의 검수자(34)는 서버의 요청에 따라 작업 및 검수를 시작하게 된다.
도 4를 참조하면, 프로젝트가 오픈됨에 따라 서버는 프로젝트에 참여하는 작업자(32)에게 작업 수행을 요청한다(S112). 그러면, 프로젝트에 참여하는 복수의 작업자(32)는 각각 작업을 수행하여, 작업 결과를 서버로 송신한다. 그리고, 도 5에 도시된 바와 같이, 소정의 기간이 지난 후, 서버는 프로젝트에 참여하는 복수의 검수자(34)에게 복수의 작업자(32)의 작업 결과에 대한 검수를 요청한다(S114). 그러면, 프로젝트에 참여하는 복수의 검수자(34)는 각각 검수를 수행하여, 검수 결과를 서버로 송신한다.
상기 소정의 기간은 검수자(34)가 검수를 하기 위한 작업 결과를 수집하기 위한 리딩 타임(leading time)을 의미하며, 서버에 의해 미리 설정된다. 즉, 소정의 기간이 1일로 미리 설정된 경우, 프로젝트가 오픈되면 서버는 하루 동안 작업자(32)로부터 충분한 양의 작업 결과를 수신하여 수집하고, 하루가 지나면 검수자(34)에게 수집된 작업 결과에 대해 검수를 요청하여 검수자(34)가 검수를 시작할 수 있도록 한다. 이때, 검수자(34)는 소정의 기간 동안은 역할이 비활성화되어 있다가, 소정의 기간이 지나면 활성화되어 프로젝트에 참여할 수 있게 된다.
만약 리딩 타임이 없이 작업자(32)와 검수자(34)가 동시에 각각 작업과 검수를 수행하게 되면, 작업 결과가 충분히 수집되기까지 시간이 걸리기 때문에 일부 검수자(34)의 인력이 낭비되게 된다. 그렇기 때문에, 프로젝트 내에서 작업이 시작되는 시간과 검수가 시작되는 시간 사이에 소정의 시간 간격을 줘서 작업 결과가 충분히 수집되도록 하는 것이다.
다시 도 3을 참조하면, 서버는 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율을 설정한다(S120).
기준 작업자의 수 대비 검수자의 수 비율은 후술하는 바와 같이 생산성을 고려했을 때 작업자 수 대비 검수자의 수의 적정한 비율을 나타내는 값이다.
일 실시예에서, 상기 기준 작업자의 수 대비 검수자의 수 비율은 소정의 주기 동안 측정된 전체 검수 완료 건수와 전체 작업 완료 건수를 이용하여 결정된다. 상기 전체 작업 완료 건수와 전체 검수 완료 건수의 측정이 소정의 주기를 간격으로 하여 반복되고, 기준 작업자의 수 대비 검수자의 수의 비율이 소정의 주기를 간격으로 하여 갱신된다.
구체적으로, 기준 작업자의 수 대비 검수자의 수 비율(R)은 소정의 주기 동안 측정된 전체 검수 완료 건수와 전체 작업 완료 건수를 이용하여 산출된 검수자 1인당 단위 기간 평균 검수 완료 건수(C) 대비 작업자 1인당 단위 기간 평균 작업 완료 건수(W)의 비율(W/C)을 의미한다. 예를 들어, 단위 기간은 1일일 수 있으나, 이에 한정되는 것은 아니다.
여기서, 작업자 1인당 단위 기간 평균 작업 완료 건수(W)는 소정의 주기 동안 측정된 전체 작업 완료 건수, 소정의 주기 및 소정의 주기 동안 참여한 작업자의 수를 이용하여 산출된다.
검수자 1인당 단위 기간 평균 검수 완료 건수(C)는 소정의 주기 동안 측정된 전체 검수 완료 건수, 소정의 주기 및 소정의 주기 동안 참여한 검수자의 수를 이용하여 산출된다.
예를 들어, 소정의 주기가 2일로 기 설정되고, 2일 동안 프로젝트에 참여하여 작업을 수행한 작업자의 수가 20명이고, 2일 동안 측정된 전체 작업 완료 건수는 200개이고, 2일 동안 프로젝트에 참여하여 검수를 수행한 검수자의 수가 10명이고, 2일 동안 측정된 전체 검수 완료 건수는 200개인 경우, 작업자 1인당 단위 기간 평균 작업 완료 건수(W)는 200개/2일/20명 = 5개이고, 검수자 1인당 단위 기간 평균 검수 완료 건수(C)는 200개/2일/10명 = 10개로 산출된다. 이는, 소정의 주기 동안 작업자 한 명당 하루에 평균 5개의 작업을 완료했고, 소정의 주기 동안 검수자 한 명당 하루에 평균 10개의 검수를 완료했다는 것을 의미한다. 그리고, 기준 작업자의 수 대비 검수자의 수 비율(R)은 1/2로 결정된다.
이로부터 단위 기간당 검수자의 역할 수행 속도가 더 빠르다는 것을 알 수 있다.
상기와 같은 산출 결과를 기반으로, 단위 기간당 검수자의 역할 수행 속도가 더 빠르다는 것을 알 수 있으며, 이는 검수자의 수와 작업자의 수의 비율이 적정하지 않다는 것을 의미한다. 따라서, 검수자 1인당 단위 기간 평균 검수 완료 건수(C) 대비 작업자 1인당 단위 기간 평균 작업 완료 건수(W)의 비율(W/C)로부터 작업자의 수와 검수자의 수를 적정하게 조정하는 것이다.
상기 전체 작업 완료 건수는 최초작업 완료 건수 및 검수 결과 반려 처리에 따른 재작업 완료 건수를 포함한다. 즉, 전체 작업 완료 건수는 소정 주기 동안 작업자들에 의해 처음으로 작업 완료된 건수와 검수자에 의해 반려 처리된 작업에 대한 재작업 완료 건수를 모두 포함하여 계산된 것이다.
상기 전체 검수 완료 건수는 검수 통과 처리 및 반려 처리를 포함한다. 즉, 전체 검수 완료 건수는 소정 주기 동안 검수자들이 작업자에 의한 작업 결과가 정상적이라고 판단하여 해당 작업 데이터에 대해 검수 통과로 처리한 건수와 작업 결과가 부적절하여 재작업이 필요하다고 판단하여 반려 처리한 건수를 모두 포함하여 계산된 것이다.
상기 소정의 주기는 프로젝트의 성격이나 난이도에 따라 적절한 기간으로 설정된다. 즉, 단순한 작업이나 난이도가 낮은 작업인 경우엔 프로젝트가 진행됨에 따라 작업자나 검수자가 작업에 능숙해지게 되므로, 특정 시점 이후엔 비슷한 속도로 작업자와 검수자가 각자 역할을 수행할 수 있게 된다. 따라서, 이러한 프로젝트의 경우에는 주기를 비교적 길게(예를 들어, 일주일) 설정하여, 주기 동안 작업자와 검수자가 비슷한 속도로 역할을 수행하고 있는지를 확인할 수 있다.
한편, 최초의 기준 작업자의 수 대비 검수자의 수 비율은 상술한 바와 같이 소정의 주기마다 설정되는 것이 아니라, 프로젝트 오픈 전에 진행된 파일럿 결과에 따라 미리 설정되거나, 또는 프로젝트 오픈 후 초기 운영 기간 동안 프로젝트를 진행한 결과에 따라 미리 설정된다.
다른 일 실시예로, 도 6을 참조하면, 서버는 프로젝트의 오픈 전에 파일럿을 수행하여, 파일럿 동안 측정된 전체 작업 완료 건수와 전체 검수 완료 건수를 이용하여 최초의 기준 작업자의 수 대비 검수자의 수 비율을 설정한다. 서버는 동일 기간 동안 측정된 작업 완료 건수와 검수 완료 건수를 이용하여 기준을 설정해야 한다. 예를 들어, 파일럿 기간이 2일인 경우, 전반부 1일은 작업자의 작업 수행을 위하여 운영하고, 후반부 1일은 검수자의 검수 수행을 위하여 파일럿을 운영하여야 한다. 구체적인 계산 방법은 상술한 바와 같으므로 생략한다.
다른 일 실시예로, 도 7을 참조하면, 서버는 프로젝트가 오픈되고 초기 운영 기간 동안 측정된 전체 작업 완료 건수 및 전체 검수 완료 건수를 이용하여 최초의 기준 작업자의 수 대비 검수자의 수 비율을 설정한다.
여기서, 초기 운영 기간은 소정의 주기에 상응하는 기간에 소정의 기간을 더한 기간을 의미한다. 즉, 초기 운영 기간은 소정의 주기보다 길게 설정된다. 예를 들어, 서버에 의해 기 설정된 소정의 기간이 1일이고, 소정의 주기가 2일인 경우, 초기 운영 기간은 3일로 설정된다. 한편, 검수자(34)가 작업자(32)보다 소정의 기간만큼 검수를 늦게 시작하기 때문에 1일의 리딩 타임을 부여한 것이다. 서버는 동일 기간 동안 측정된 작업 완료 건수와 검수 완료 건수를 이용하여 기준을 설정해야 한다. 따라서, 서버는 초기 운영 기간 3일 중에서 소정의 주기에 상응하는 후반부의 2일 동안 측정된 작업 완료 건수와 검수 완료 건수만을 이용하여 최초의 기준 작업자의 수 대비 검수자의 수 비율을 설정한다. 구체적인 계산 방법은 상술한 바와 같으므로 생략한다.
다른 일 실시예로, 기준 작업자의 수 대비 검수자의 수 비율이 소정의 주기를 간격으로 하여 갱신되지 않고, 상술한 최초의 기준 작업자의 수 대비 검수자의 수 비율이 프로젝트의 진행 동안 계속적으로 고정될 수 있다.
다시 도 3을 참조하면, 서버는 프로젝트에 참여하는 현재 작업자의 수와 현재 검수자의 수를 측정한다(S130).
서버는 프로젝트에 참여하는 현재 작업자의 수(WN)와 현재 검수자의 수(CN)의 측정을 상기 소정의 주기를 간격으로 하여 반복 수행한다. 즉, 서버는 소정의 주기마다 기준 작업자의 수 대비 검수자의 수 비율을 설정하고, 현재 시점에 프로젝트에 참여하고 있는 작업자의 수와 현재 검수자의 수를 측정한다. 그리고, 후술하는 바와 같이, 서버는 양자의 비교 결과를 통해서 작업자 또는 검수자의 증감을 결정한다.
다시 도 3을 참조하면, 서버는 측정 결과를 이용하여, 프로젝트의 현재 작업자의 수 대비 검수자의 수 비율(CN/WN)을 산출한다(S140).
예를 들어, 특정 주기가 도래하는 시점에 프로젝트에 참여하고 있는 작업자의 수가 30명으로 측정되고, 검수자의 수가 10명으로 측정되면, 현재 작업자의 수 대비 검수자의 수 비율은 10/30 =1/3로 산출된다.
다시 도 3을 참조하면, 서버는 현재 작업자의 수 대비 검수자의 수 비율과 기준 작업자의 수 대비 검수자의 수 비율을 비교한다(S150).
일 실시예로, 파일럿을 통해 최초의 기준 작업자의 수 대비 검수자의 수 비율이 미리 설정된 경우, 도 6을 참조하면, 서버는 소정의 기간이 지난 후에 최초의 기준 작업자의 수 대비 검수자의 수 비율과 현재 작업자의 수 대비 검수자의 수 비율을 비교(제1비교)한다. 이때, 소정의 기간이 지난 후에 비교를 하는 이유는 소정의 기간 동안 작업자뿐만 아니라 검수자가 충분히 유입된 후에 현재 작업자의 수와 검수자의 수를 측정하기 위함이다.
소정의 기간이 지난 시점에 제1비교를 한 후, 서버는 소정의 주기마다 제2비교, 제3비교,…,제n비교를 프로젝트가 종료될 때까지 반복 수행한다.
다른 일 실시예로, 초기 운영 기간 동안 프로젝트를 진행하여 기준 작업자의 수 대비 검수자의 수 비율이 미리 설정된 경우, 도 7을 참조하면, 서버는 초기 운영 기간이 지난 후에 최초의 기준 작업자의 수 대비 검수자의 수 비율과 현재 작업자의 수 대비 검수자의 수 비율을 비교(제1비교)한다. 이때, 초기 운영 기간은 소정의 기간을 포함하는 기간이므로 초기 운영 기간 동안 작업자와 검수자는 충분히 유입되게 된다.
초기 운영 기간이 지난 시점에 제1비교를 한 후, 서버는 소정의 주기마다 제2비교, 제3비교,…,제n비교를 프로젝트가 종료될 때까지 반복 수행한다.
다시 도 3을 참조하면, 비교 결과에 따라, 서버는 작업자의 수 또는 검수자의 수를 증감한다(S160).
일 실시예로, 서버는 현재 작업자의 수 대비 검수자의 수 비율이 기준 작업자의 수 대비 검수자의 수 비율보다 크면 검수자의 감원 또는 작업자의 증원을 결정한다. 즉, 현재 작업자의 수 대비 검수자의 수의 비율이 적정 비율보다 크다는 의미이기 때문에, 서버는 적정 비율에 맞춰서 검수자 또는 작업자의 수를 적정하게 증감 조정한다.
예를 들어, 특정 주기가 도래하는 시점에 현재 작업자의 수 대비 검수자의 수 비율이 1.5이고, 기준 작업자의 수 대비 검수자의 수 비율이 1이면, 서버는 적정 비율인 1에 맞게 검수자를 감원하거나, 작업자를 증원할 수 있다.
이때, 서버는 프로젝트에 참여하는 검수자의 일부의 역할을 검수자로부터 작업자로 전환시킴으로써 검수자를 감원함과 동시에 작업자를 증원할 수 있다. 이에 따라, 프로젝트 외의 제3의 작업자와 검수자를 신규 충원을 하지 않고도, 프로젝트에 참여하는 일부 검수자의 역할을 작업자로 전환함에 따라 프로젝트 내에서 작업자와 검수자의 수를 증감시킬 수 있는 것이다.
다른 일 실시예로, 서버는 현재 작업자의 수 대비 검수자의 수 비율이 기준 작업자의 수 대비 검수자의 수 비율보다 작으면 검수자의 증원 또는 작업자의 감원을 결정한다. 즉, 현재 작업자의 수 대비 검수자의 수의 비율이 적정 비율보다 작다는 의미이기 때문에, 서버는 적정 비율에 맞춰서 검수자 또는 작업자의 수를 적정하게 증감 조정한다.
예를 들어, 특정 주기가 도래하는 시점에 현재 작업자의 수 대비 검수자의 수 비율이 1.5이고, 기준 작업자의 수 대비 검수자의 수 비율이 2이면, 서버는 적정 비율인 2에 맞게 검수자를 증원하거나, 작업자를 감원할 수 있다.
이때, 서버는 프로젝트에 참여하는 작업자의 일부의 역할을 작업자로부터 검수자로 전환시킴으로써, 검수자를 증원함과 동시에 작업자를 감원할 수 있다. 구체적으로, 프로젝트에 참여하는 작업자 중 소정 등급을 갖는 작업자(작업 수행에 대해 충분한 능숙도를 갖춰 반려율이 낮은 작업자)의 역할을 검수자로 전환시킬 수 있다. 이에 따라, 프로젝트 외의 제3의 작업자와 검수자를 신규 충원을 하지 않고도, 프로젝트에 참여하는 일부 작업자의 역할을 검수자로 전환함에 따라 프로젝트 내에서 작업자와 검수자의 수를 증감시킬 수 있는 것이다.
일 실시예로, 프로젝트에 참여하고 있는 검수자의 일부의 역할을 검수자로부터 작업자로 전환시키거나, 프로젝트에 참여하고 있는 작업자의 일부의 역할을 작업자로부터 검수자로 전환시키면서, 프로젝트에 참여하고 있지 않는 제3의 작업자 또는 검수자의 신규 충원이 동시에 이뤄질 수도 있다. 또는, 역할의 전환 없이, 프로젝트에 참여하고 있지 않는 제3의 작업자 또는 검수자의 신규 충원만이 이뤄질 수도 있다.
한편, 작업자 또는 상기 검수자의 증감시 서버는 프로젝트에 참여하는 현재 작업자의 수, 현재 검수자의 수, 또는 기준 작업자의 수 대비 검수자의 수 비율 중 적어도 하나를 이용하여 증감 목표 인원의 수를 결정할 수 있다.
일 실시예로, 작업자의 증감시 목표 작업자의 수는 아래 수식에 따라 결정될 수 있다.
[수식 1]
증감 목표 작업자의 수 = (현재 작업자의 수 + 현재 검수자의 수) / (1 + 기준 작업자의 수 대비 검수자의 수 비율)
예를 들어, 특정 주기가 도래하는 시점에서 측정된 현재 작업자의 수가 10이고, 현재 검수자의 수가 20이고, 기준 작업자의 수 대비 검수자의 수 비율이 1.5인 경우, 증감 목표 작업자의 수는 (10+20)/(1+1.5)=12명으로 산출되어, 서버는 작업자의 수를 2명 충원할 수 있다.
반면에, 특정 주기가 도래하는 시점에서 측정된 현재 작업자의 수가 10이고, 현재 검수자의 수가 10이고, 기준 작업자의 수 대비 검수자의 수 비율이 1.5인 경우, 증감 목표 작업자의 수는 (10+10)/(1+1.5)=8명으로 산출되어, 서버는 작업자의 수를 2명 감원할 수 있다.
다른 일 실시예로, 검수자의 증감시 목표 검수자의 수는 아래 수식에 따라 결정될 수 있다.
[수식 2]
증감 목표 검수자의 수 = (현재 작업자의 수 + 현재 검수자의 수) / (1 + 1 / 기준 작업자의 수 대비 검수자의 수 비율)
예를 들어, 특정 주기가 도래하는 시점에서 측정된 현재 작업자의 수가 10이고, 현재 검수자의 수가 20이고, 기준 작업자의 수 대비 검수자의 수 비율이 1.5인 경우, 증감 목표 검수자의 수는 (10+20)/(1+1/1.5)=18명으로 산출되어, 서버는 검수자의 수를 2명 감원하는 것을 결정할 수 있다. 즉, 현재 검수자 20명 중에서 2명을 작업자로 전환하여 검수자를 감원함과 동시에 작업자를 증원하는 것이다.
반면에, 특정 주기가 도래하는 시점에서 측정된 현재 작업자의 수가 10이고, 현재 검수자의 수가 10이고, 기준 작업자의 수 대비 검수자의 수 비율이 1.5인 경우, 증감 목표 검수자의 수는 (10+10)/(1+1/1.5)=12명으로 산출되어, 서버는 검수자의 수를 2명 증원하는 것을 결정할 수 있다. 즉, 현재 작업자 10명 중에서 등급에 따라 2명을 검수자로 전환하여 검수자를 증원함과 동시에 작업자를 감원하는 것이다.
한편, 상술한 설명에서, 단계 S110 내지 S160은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 8의 내용은 도 1 내지 도 7의 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법에도 적용될 수 있다.
이하에서는 도 8을 참조하여, 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 장치(200)에 대하여 설명하도록 한다.
도 8은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 장치의 블록도이다.
도 8을 참조하면, 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 장치(200)(이하, '증감 운영 장치'라 한다)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.
통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 또한, 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.
메모리(220)에는 통신모듈(310)로부터 수신한 데이터에 기초하여 하나의 프로젝트에 참여하고 있는 작업자 및 검수자의 증감 운영을 위한 컴퓨터 프로그램이 저장된다.
프로세서(230)는 메모리(220)에 저장된 컴퓨터 프로그램을 실행시킨다. 컴퓨터 프로그램은 상술한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법을 실행시키기 위한 명령어들을 포함한다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 소정의 주기마다 기준 작업자의 수 대비 검수자의 수 비율과 현재 작업자의 수 대비 검수자의 수 비율을 비교하여, 비교 결과에 따라 작업자의 수 또는 검수자의 수를 증감 조정하여, 작업자와 검수자가 적정 비율로 각각의 역할을 수행하도록 할 수 있다.
도 8을 참조하여 설명한 증감 운영 장치 (200)는 상술한 서버의 구성요소로 제공될 수 있다.
이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 컴퓨터 프로그램(또는 어플리케이션)으로 구현되어 컴퓨터 판독가능 기록매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.

Claims (15)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    신규 크라우드소싱 기반 프로젝트를 오픈하는 단계;
    상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율을 설정하는 단계;
    상기 프로젝트에 참여하는 현재 작업자의 수와 현재 검수자의 수를 측정하는 단계;
    상기 측정 결과를 이용하여, 상기 프로젝트의 현재 작업자의 수 대비 검수자의 수 비율을 산출하는 단계;
    상기 현재 작업자의 수 대비 검수자의 수 비율과 상기 기준 작업자의 수 대비 검수자의 수 비율을 비교하는 단계; 및
    상기 비교 결과에 따라, 상기 현재 작업자의 수 대비 검수자의 수 비율이 상기 기준 작업자의 수 대비 검수자의 수 비율보다 크면 상기 검수자의 감원 또는 상기 작업자의 증원을 결정하고, 상기 현재 작업자의 수 대비 검수자의 수 비율이 상기 기준 작업자의 수 대비 검수자의 수 비율보다 작으면 상기 검수자의 증원 또는 상기 작업자의 감원을 결정하는 단계를 포함하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  2. 제1항에 있어서,
    상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율은,
    소정의 주기 동안 측정된 전체 검수 완료 건수와 전체 작업 완료 건수를 이용하여 결정되는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  3. 제2항에 있어서,
    상기 프로젝트의 기준 작업자의 수 대비 검수자의 수 비율은,
    상기 소정의 주기 동안 측정된 전체 검수 완료 건수와 전체 작업 완료 건수를 이용하여 산출된 검수자 1인당 단위 기간 평균 검수 완료 건수 대비 작업자 1인당 단위 기간 평균 작업 완료 건수 비율인 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  4. 제3항에 있어서,
    상기 작업자 1인당 단위 기간 평균 작업 완료 건수와 상기 검수자 1인당 단위 기간 평균 검수 완료 건수는,
    상기 전체 작업 완료 건수, 전체 검수 완료 건수, 상기 소정의 주기, 상기 소정의 주기 동안 참여한 작업자의 수, 상기 소정의 주기 동안 참여한 검수자의 수를 이용하여 산출하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  5. 제2항에 있어서,
    상기 전체 작업 완료 건수는,
    최초작업 완료 건수 및 검수 결과 반려 처리에 따른 재작업 완료 건수를 포함하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  6. 제2항에 있어서,
    상기 전체 검수 완료 건수는,
    검수 통과 처리 및 반려 처리를 포함하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  7. 제1항에 있어서,
    상기 프로젝트에 참여하는 현재 작업자의 수와 현재 검수자의 수를 측정하는 단계는,
    소정의 주기를 간격으로 하여 반복 수행되는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  8. 제1항에 있어서,
    상기 프로젝트에 참여하는 작업자에게 작업 수행을 요청하는 단계; 및
    상기 프로젝트에 참여하는 작업자에게 작업 수행을 요청한 후 소정의 기간 이후에 상기 프로젝트에 참여하는 검수자에게 상기 작업자의 작업 결과에 대한 검수를 요청하는 단계를 더 포함하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  9. 제1항에 있어서,
    상기 검수자의 감원 또는 상기 작업자의 증원을 결정한 경우,
    상기 프로젝트에 참여하는 검수자의 일부의 역할을 검수자로부터 작업자로 전환시키는 단계를 더 포함하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  10. 제1항에 있어서,
    상기 검수자의 증원 또는 상기 작업자의 감원을 결정한 경우,
    상기 프로젝트에 참여하는 작업자의 일부의 역할을 작업자로부터 검수자로 전환시키는 단계를 더 포함하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  11. 제10항에 있어서,
    상기 프로젝트에 참여하는 작업자의 일부의 역할을 작업자로부터 검수자로 전환시키는 단계는,
    상기 프로젝트에 참여하는 작업자 중 소정 등급을 갖는 작업자의 역할을 검수자로 전환시키는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  12. 제1항에 있어서,
    상기 작업자 또는 상기 검수자의 증감시 상기 프로젝트에 참여하는 현재 작업자의 수, 현재 검수자의 수, 또는 상기 기준 작업자의 수 대비 검수자의 수 비율 중 적어도 하나를 이용하여 증감 목표 인원의 수를 결정하는 것을 특징으로 하는,
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  13. 제1항에 있어서,
    상기 작업자의 증감시 목표 작업자의 수를 다음의 수식에 따라 결정하는 것을 특징으로 하는,
    증감 목표 작업자의 수 = (현재 작업자의 수 + 현재 검수자의 수) / (1 + 기준 작업자의 수 대비 검수자의 수 비율)
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  14. 제1항에 있어서,
    상기 검수자의 증감시 목표 검수자의 수를 다음의 수식에 따라 결정하는 것을 특징으로 하는,
    증감 목표 검수자의 수 = (현재 작업자의 수 + 현재 검수자의 수) / (1 + 1 / 기준 작업자의 수 대비 검수자의 수 비율)
    크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법.
  15. 컴퓨터와 결합하여, 제1항 내지 제14항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
PCT/KR2020/010393 2019-12-23 2020-08-06 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법 WO2021132831A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP20906599.4A EP4068175A4 (en) 2019-12-23 2020-08-06 METHOD OF INCREASING OR REDUCING THE NUMBER OF WORKERS AND TESTERS IN A CROWDSOURCING-BASED PROJECT TO GENERATE ARTIFICIAL INTELLIGENCE LEARNING DATA
US17/847,462 US20220327450A1 (en) 2019-12-23 2022-06-23 Method for increasing or decreasing number of workers and inspectors in crowdsourcing-based project for creating artificial intelligence learning data

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2019-0173211 2019-12-23
KR1020190173211A KR102156587B1 (ko) 2019-12-23 2019-12-23 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/847,462 Continuation US20220327450A1 (en) 2019-12-23 2022-06-23 Method for increasing or decreasing number of workers and inspectors in crowdsourcing-based project for creating artificial intelligence learning data

Publications (1)

Publication Number Publication Date
WO2021132831A1 true WO2021132831A1 (ko) 2021-07-01

Family

ID=72669537

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/010393 WO2021132831A1 (ko) 2019-12-23 2020-08-06 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법

Country Status (5)

Country Link
US (1) US20220327450A1 (ko)
EP (1) EP4068175A4 (ko)
JP (1) JP7097412B2 (ko)
KR (1) KR102156587B1 (ko)
WO (1) WO2021132831A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113298292B (zh) * 2021-04-29 2023-11-28 国网青海省电力公司海北供电公司 基于电力物联网的配电线路电力杆塔巡视管控方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8554605B2 (en) * 2011-06-29 2013-10-08 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
JP2017162249A (ja) * 2016-03-10 2017-09-14 株式会社エデュケーションデザインラボ 在宅ワーカーグループ集中管理装置及び在宅ワーカーグループ集中管理方法
JP2019080751A (ja) * 2017-10-30 2019-05-30 東レエンジニアリング株式会社 勤務シフト管理システムおよびそれを用いた勤務シフト作成方法
KR101984461B1 (ko) * 2019-04-23 2019-09-03 (주)푸드누리 물류센터내 라벨링 작업 통합 관리 시스템 및 방법

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10395187B2 (en) * 2008-02-11 2019-08-27 Clearshift Corporation Multilevel assignment of jobs and tasks in online work management system
US8934832B2 (en) * 2008-06-17 2015-01-13 Laureate Education, Inc. System and method for collaborative development of online courses and programs of study
JP5081872B2 (ja) * 2009-07-06 2012-11-28 株式会社日立エンジニアリング・アンド・サービス 工程管理方法、プログラムおよび工程管理装置
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
CA2900765A1 (en) 2013-02-08 2014-08-14 Emotient Collection of machine learning training data for expression recognition
US20170076241A1 (en) * 2015-09-10 2017-03-16 Xerox Corporation Method and system for selecting crowd workforce for processing task
EP3506153A1 (en) * 2017-12-28 2019-07-03 Canon Kabushiki Kaisha Information processing apparatus, system, method, and non-transitory computer-readable storage medium
JP6683790B1 (ja) * 2018-10-29 2020-04-22 株式会社Ｆｒｏｎｔｅｏ コンピュータ、コンピュータの制御方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8554605B2 (en) * 2011-06-29 2013-10-08 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
JP2017162249A (ja) * 2016-03-10 2017-09-14 株式会社エデュケーションデザインラボ 在宅ワーカーグループ集中管理装置及び在宅ワーカーグループ集中管理方法
JP2019080751A (ja) * 2017-10-30 2019-05-30 東レエンジニアリング株式会社 勤務シフト管理システムおよびそれを用いた勤務シフト作成方法
KR101984461B1 (ko) * 2019-04-23 2019-09-03 (주)푸드누리 물류센터내 라벨링 작업 통합 관리 시스템 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
COMPANYBEE BLOG: "[Company B Interview] #7 - Crowdworks CEO Minwoo Park", BLOG NAVER, BLOG , Korea, pages 1 - 7, XP009528895, Retrieved from the Internet <URL:https://blog.naver.com/companybb/221333735706> *

Also Published As

Publication number Publication date
KR102156587B1 (ko) 2020-09-16
EP4068175A4 (en) 2023-01-18
JP2021099781A (ja) 2021-07-01
JP7097412B2 (ja) 2022-07-07
EP4068175A1 (en) 2022-10-05
US20220327450A1 (en) 2022-10-13

Similar Documents

Publication Publication Date Title
WO2021040265A1 (ko) 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
WO2021137523A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 시간 대비 검수 시간을 이용한 검수 단가 자동 업데이트 방법
WO2021230660A1 (ko) 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치
WO2022019500A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 실습 교육 참여자에 대한 보상형 실습 교육 제공 방법, 그 장치 및 그 컴퓨터 프로그램
WO2018101722A2 (ko) 머신 러닝 기반 반도체 제조 수율 예측 시스템 및 방법
WO2016171341A1 (ko) 클라우드 기반 병리 분석 시스템 및 방법
WO2021246772A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법, 그 장치 및 그 컴퓨터 프로그램
WO2020130306A1 (ko) 검증용 주석 처리 작업을 이용한 실전용 주석 처리 작업의 검증 방법 및 장치
WO2020251142A1 (ko) 업무 담당자의 인사 평가를 수행하는 장치 및 방법
WO2021246742A1 (ko) 인공지능 기반의 프로그램 코드 평가 시스템 및 방법
WO2024162573A1 (ko) 협업 툴에 연계하여 동기화된 인사 평가 관리 서비스를 제공하기 위한 장치 및 방법
WO2021133076A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업단가 관리 방법 및 장치
WO2020233089A1 (zh) 测试用例生成方法、装置、终端及计算机可读存储介质
WO2020122291A1 (ko) 인공지능 기반의 공동주택 관리업무지시 자동화 장치 및 방법
WO2020253115A1 (zh) 基于语音识别的产品推荐方法、装置、设备和存储介质
WO2011065660A4 (ko) 계산 시뮬레이션 모사 시스템 및 그 방법
WO2021132831A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법
WO2020242108A1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 작업자 선별 방법
WO2020004749A1 (ko) 동영상 파일을 이용한 설비 학습 장치 및 방법
WO2020122546A1 (ko) 특허와 논문 데이터를 활용한 국가 및 기업들의 과학 기술력 진단 및 예측 방법
WO2021075742A1 (ko) 딥러닝 기반의 가치 평가 방법 및 그 장치
WO2023282500A1 (ko) 슬라이드 스캔 데이터의 자동 레이블링 방법, 장치 및 프로그램
WO2021107326A1 (ko) 실전 작업을 기반으로 한 검증용 크라우드소싱 작업을 제공하는 방법 및 장치
WO2021049763A1 (ko) 봇 구별 테스트를 활용한 크라우드 소싱 기반의 데이터 수집 방법
WO2016064024A1 (ko) 이상 접속 검출 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20906599

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020906599

Country of ref document: EP

Effective date: 20220630

NENP Non-entry into the national phase

Ref country code: DE