KR102244704B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법이 제공된다. 상기 방법은 작업자의 이전 프로젝트 이력 정보에 기초하여, 상기 기능요소의 유형별 제1 반려율을 산출하는 단계, 상기 제1 반려율이 사전에 설정된 제1 값 이상인 기능요소의 유형을 제1 기능요소로 분류하고, 상기 제1 반려율이 사전에 설정된 제1 값 미만인 기능요소의 유형을 제2 기능요소로 분류하는 단계, 상기 기본 작업 가이드 상에서 상기 제2 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제하는 단계, 및 상기 제1 반려율에 기초하여, 상기 기본 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드를 완성하는 단계를 포함하고, 상기 기본 작업 가이드는 소정 순서에 따라 배치되는 상기 복수의 기능요소의 유형에 상응하는 복수의 작업 설명부를 포함하고, 상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자의 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법{METHOD FOR AUTOMATICALLY PROVIDING CUSTOMIZED WORK GUIDE TO WORKER OF CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

하나의 프로젝트가 오픈 되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다.

한편, 작업자는 프로젝트의 작업 수행에 앞서, 해당 프로젝트의 작업 가이드를 제공 받아 작업 수행에 필요한 정보를 얻고 작업 방법을 학습한다. 작업자에게 제공되는 작업 가이드는 각 프로젝트의 관리자에 의해 각각의 프로젝트의 작업 형태 및 작업 수행 방식의 특성에 맞춰 작성된다. 관리자에 의해 작성된 작업 가이드는 프로젝트에 참여하는 모든 작업자에게 동일하게 제공된다. 즉 하나의 프로젝트에 참여한 작업자들은 모두 동일한 작업 가이드를 제공받는다.

그러나 서로 다른 수많은 작업자가 참여하는 크라우드소싱 프로젝트의 특성상 모든 작업자에게 동일한 작업 가이드를 제공하는 것은 비합리적이다. 작업자의 작업 수행 능력과 작업 능숙도가 상이하기 때문이다. 따라서 각각의 작업자에게 각각의 작업자가 학습할 필요가 있는 내용만을 전달하는 것이 필요하다. 이를 위해서는 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성해야만 한다. 그러나 이를 위해서는 프로젝트의 관리자가 모든 작업자의 작업 수행 능력을 평가해야 하고, 작업자의 작업 수행 능력에 상응하는 작업 가이드를 개별적으로 작성해야 한다.

한편, 작업자는 작업 수행에 앞서 제공받은 작업 가이드를 열람한다. 그리고 작업 수행에 착수한다. 그러나 작업자의 작업 수행 능력과 작업 능숙도는 프로젝트에 참여하여 복수의 작업을 수행하는 과정에서 변할 수 있다. 예를 들면, 프로젝트에 참여하기 전에는 능숙했던 분야의 작업이 프로젝트에 참여한 후 해당 분야의 난이도가 높은 작업을 반복하여 수행하면서 작업 결과가 나빠지기도 한다. 이러한 경우에는 작업자이 변화된 작업 수행 능력에 상응하는 작업 가이드를 제공하는 것이 필요하다. 그러나 이를 실현하기 위해서는 프로젝트의 관리자가 모든 작업자의 작업 과정을 모니터링하고 작업 수행 능력을 재평가해야 한다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법은 컴퓨터에 의해 수행되는 방법으로서, 프로젝트에 포함되는 복수의 기능요소의 유형을 식별하는 단계, 상기 프로젝트의 기본 작업 가이드를 준비하는 단계, 상기 프로젝트의 각각의 작업자의 이전 프로젝트 이력 정보에 기초하여, 상기 기본 작업 가이드를 수정하여 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하는 단계, 상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 상기 프로젝트의 각각의 작업자에게 제공하는 단계, 상기 프로젝트의 복수의 작업자에게 복수의 작업을 배정하여 작업 수행을 요청하는 단계 및 상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는 단계를 포함하고, 상기 기본 작업 가이드는 소정 순서에 따라 배치되는 상기 복수의 기능요소의 유형에 상응하는 복수의 작업 설명부를 포함하고, 상기 작업자 맞춤형 작업 가이드를 생성하는 단계는, 작업자의 이전 프로젝트 이력 정보에 기초하여, 상기 기능요소의 유형별 제1 반려율을 산출하는 단계, 상기 제1 반려율이 사전에 설정된 제1 값 이상인 기능요소의 유형을 제1 기능요소로 분류하고, 상기 제1 반려율이 사전에 설정된 제1 값 미만인 기능요소의 유형을 제2 기능요소로 분류하는 단계, 상기 기본 작업 가이드 상에서 상기 제2 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제하는 단계, 및 상기 제1 반려율에 기초하여, 상기 기본 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드를 완성하는 단계를 포함하고, 상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자의 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴일 수 있다.

본 발명의 일부 실시예에서 상기 방법은 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계, 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는 단계 및 상기 프로젝트의 각각의 작업자의 상기 검수 결과에 기초하여, 상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 갱신하는 단계를 더 포함하고, 상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 상기 프로젝트의 각각의 작업자에게 제공하는 단계는, 갱신된 상기 맞춤형 작업 가이드를 제공하는 것을 포함하고, 상기 작업자 맞춤형 가이드를 갱신하는 단계는, 작업자의 상기 검수 결과에 기초하여, 상기 기능요소의 유형별 제2 반려율을 산출하는 단계, 상기 제1 기능요소로 분류된 기능요소의 유형 중 상기 제2 반려율이 사전에 설정된 제2 값 미만인 기능요소의 유형을 제2 기능요소로 재분류하고, 상기 제2 기능요소로 분류된 기능요소의 유형 중 상기 제2 반려율이 사전에 설정된 제2 값 이상인 기능요소의 유형을 제1 기능요소로 재 분류하는 단계, 상기 작업자 맞춤형 작업 가이드 상에서 상기 제2 기능요소로 재 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제하는 단계, 상기 작업자 맞춤형 작업 가이드 상에 상기 제1 기능요소로 재 분류된 기능요소의 유형에 상응하는 작업 설명부를 추가하는 단계 및 상기 제2 반려율에 기초하여, 상기 맞춤형 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드의 갱신을 완료하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서 상기 작업 수행을 요청하는 단계는, 기 맞춤형 작업 가이드가 갱신되면, 상기 작업자의 작업 수행 인터페이스를 비활성화하고, 상기 작업자가 상기 작업자에 상응하는 갱신된 상기 맞춤형 작업 가이드를 확인한 이후에 상기 작업자의 작업 수행 인터페이스를 활성화시킬 수 있다.

본 발명의 일부 실시예에서 상기 작업자 맞춤형 가이드를 갱신하는 단계는, 상기 기능요소의 유형에 따른 복수의 훈련 콘텐츠를 포함하는 훈련 콘텐츠 풀에서, 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 훈련 콘텐츠를 불러오는 단계 및 상기 훈련 콘텐츠에 상응하는 기능요소의 유형에 상응하는 작업 설명부에 상기 훈련 콘텐츠를 삽입하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서 상기 작업자 맞춤형 작업 가이드의 갱신을 완료하는 단계는, 상기 제2 반려율이 높은 순서에 따라 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 내림차순으로 조정할 수 있다.

본 발명의 일부 실시예에서 상기 맞춤형 작업 가이드를 갱신하는 단계는, 상기 검수 결과에 기초하여, 반려 횟수가 기준 횟수 이상인 작업자에 대해서, 상기 작업자에 상응하는 상기 맞춤형 작업 가이드를 갱신할 수 있다.

본 발명의 일부 실시예에서 작업 수행을 요청하는 단계는, 상기 맞춤형 작업 가이드가 갱신되면, 상기 작업자의 작업 수행 인터페이스를 비활성화하고, 상기 작업자가 상기 작업자에 상응하는 갱신된 상기 맞춤형 작업 가이드를 확인하고, 상기 훈련 콘텐츠를 실행한 이후에 상기 작업자의 작업 수행 인터페이스를 활성화시킬 수 있다.

본 발명의 일부 실시예에서, 상기 작업자 맞춤형 가이드를 갱신하는 단계는, 작업자의 상기 검수 결과에 기초하여, 반려 횟수가 기준 횟수 이상인 기능요소의 유형을 제3 기능요소로 분류하는 단계, 다른 작업자에 의해서 작업 수행되고 상기 제3 기능요소와 관련하여 상기 검수 결과를 반려로 입력 받은 복수의 작업 결과 중 적어도 일부를 상기 제3 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부에 삽입하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서 상기 작업자 맞춤형 작업 가이드를 완성하는 단계는, 상기 제1 반려율이 높은 순서에 따라 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 내림차순으로 조정할 수 있다.

본 발명의 일부 실시예에서 상기 프로젝트의 기본 작업 가이드를 준비하는 단계는, 상기 기능요소의 유형별 표준 기능요소 가이드를 포함하는 표준 기능요소 가이드 풀로부터 상기 프로젝트에 포함되는 복수의 기능요소의 유형에 상응하는 복수의 표준 기능요소 가이드를 추출하는 단계, 상기 추출된 복수의 표준 기능요소 가이드를 이용하여 상기 프로젝트의 기본 작업 가이드를 준비하는 단계를 포함할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합하여 상기 크라우드소싱 기반 프로젝트의 작업자 맞춤형 가이드의 자동 제공 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장될 수 있다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 프로젝트에 포함되는 복수의 기능 요소의 유형에 따른 작업자의 작업 능숙도에 기초하여 작업 가이드를 생성한다. 이를 통해, 작업자는 자신이 부족한 기능 요소 유형에 관한 작업 방법을 명확하게 숙지하고 이해할 수 있다. 또한 작업자에게 전달할 필요가 없는 작업 설명 부분을 제거함으로써, 작업 가이드를 간소화한다. 그리고 작업 가이드 상의 설명 순서를 작업자의 기능 요소 유형에 관한 작업 능숙도에 따라서 배치함으로써, 작업자에게 전달하고자 하는 내용을 더욱 효과적으로 전달할 수도 있다.

또한, 프로젝트에 참여한 후 변화하는 작업자의 작업 능숙도에 따라 각각의 작업자에 상응하는 맞춤형 작업 가이드를 갱신한다. 이는 작업 결과의 검수 결과에 기초하여 자동으로 갱신하는 것으로서, 프로젝트 관리자의 시간과 인력을 필요로 하지 않는다. 무엇보다 갱신된 작업 가이드를 통해 작업자는 자신의 작업 방법을 고찰하고 올바르게 수정할 수 있다. 특히 작업자의 작업 수행을 위한 인터페이스의 활성화를 작업자의 갱신된 맞춤형 작업 가이드 열람에 기초하여 결정하므로 작업자의 갱신된 맞춤형 작업 가이드 열람을 적극적으로 유도할 수도 있다.

또한, 갱신된 맞춤형 작업 가이드 상에는 작업자가 미숙한 기능 요소 유형과 관련하여 훈련 콘텐츠를 제공하여 작업자에게 작업 수행 능력을 향상시킬 수 있는 환경을 제공한다. 더욱이 작업자에게 다른 작업자의 반려된 작업 결과를 제공함으로써, 작업자는 부적절한 작업 수행 방법을 직관적으로 관찰할 수 있다.

궁극적으로, 각각의 작업자에게 맞춤형 작업 가이드를 제공함으로써, 각각의 작업자는 자신이 부족한 기능요소 유형과 관련된 작업 능숙도를 향상시키고 전체 프로젝트의 작업 결과의 품질을 높일 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른, 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하여 제공하는 것을 나타낸 예시도이다.
도 4는 본 발명의 일 실시예에 따른, 프로젝트의 각각의 작업자의 이력 정보에 기초하여 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하여 제공하는 방법을 개략적으로 나타낸 순서도이다.
도 5는 복수의 기능요소 유형을 포함하는 프로젝트의 작업 화면을 나타낸 예시도이다.
도 6은 본 발명의 일 실시예에 따른, 프로젝트의 기능요소에 상응하는 프로젝트의 기본 작업 가이드를 준비하는 것을 나타낸 예시도이다.
도 7은 본 발명의 일 실시예에 따른, 표준 기능요소 가이드 풀에 포함된 복수의 표준 기능요소 가이드를 이용하여 프로젝트의 기본 작업 가이드를 준비하는 방법을 개략적으로 나타낸 순서도이다.
도 8은 본 발명의 일 실시예에 따른, 복수의 표준 기능요소 가이드를 이용하여 프로젝트의 기본 작업 가이드를 준비하는 것을 나타낸 예시도이다.
도 9는 본 발명의 일 실시예에 따른, 각각의 작업자의 기능요소 유형별 제1 반려율에 기초하여 기본 작업 가이드를 수정한 후 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하는 방법을 개략적으로 나타낸 순서도이다.
도 10은 본 발명의 일 실시예에 따른, 작업자 1과 작업자 2의 기능요소 유형별 제1 반려율에 기초하여 기능요소의 유형을 제1 기능요소와 제2 기능요소로 분류하는 것을 나타낸 예시도이다.
도 11은 본 발명의 일 실시예에 따른, 작업자 1의 기능요소 유형별 제1 반려율에 기초하여 작업자 1 맞춤형 작업 가이드를 생성하는 것을 나타낸 예시도이다.
도 12는 본 발명의 일 실시예에 따른, 작업자 2의 기능요소 유형별 제1 반려율에 기초하여 작업자 2 맞춤형 작업 가이드를 생성하는 것을 나타낸 예시도이다.
도 13은 본 발명의 일 실시예에 따른, 각각의 작업자의 검수 결과에 기초하여 각각의 작업자 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.
도 14는 본 발명의 일 실시예에 따른, 각각의 작업자의 기능요소 유형별 제2 반려율에 기초하여 각각의 작업자 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.
도 15는 본 발명의 일 실시예에 따른, 작업자의 제2 반려율에 기초하여 제1 기능요소와 제2 기능요소를 재 분류하는 것을 나타낸 예시도이다.
도 16은 본 발명의 일 실시예에 따른, 작업자 1의 기능요소 유형별 제2 반려율에 기초하여 작업자 1 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.
도 17는 본 발명의 일 실시예에 따른, 작업자 2의 기능요소 유형별 제2 반려율에 기초하여 작업자 2 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.
도 18은 본 발명의 일 실시예에 따른, 제1 기능요소로 분류된 바운딩 기능요소의 유형에 상응하는 훈련 콘텐츠를 삽입하여 작업자 2에 상응하는 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.
도 19는 본 발명의 일 실시예에 따른, 제1 기능요소로 분류된 바운딩 기능요소의 유형에 상응하는 훈련 콘텐츠를 삽입하여 작업자 2에 상응하는 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.
도 20은 본 발명의 일 실시예에 따른, 제3 기능요소로 분류된 바운딩 기능요소의 유형에 관한 다른 작업자의 반려된 작업 결과를 삽입하여 작업자2에 상응하는 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.
도 21은 본 발명의 일 실시예에 따른, 제3 기능요소로 분류된 바운딩 기능요소의 유형에 관한 다른 작업자의 반려된 작업 결과를 삽입하여 작업자 2에 상응하는 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.
도 22는 본 발명의 일 실시예에 따른, 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈 된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

이하, 도 3 내지 도 22를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법을 설명한다. 앞서 도 1 및 도 2를 참조하여 설명한 크라우드소싱 서비스의 구성 및 크라우드소싱 기반 프로젝트의 진행 프로세스와 관련하여 중복되는 내용은 그 상세한 설명을 생략하도록 한다.

한편, 도 4, 도 7, 도 9, 도 13, 도 14, 도 18 및 도 20에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

작업 가이드는 작업 수행에 앞서 프로젝트에 참여하는 작업자(32)에게 제공되는 교육 자료이다. 신규 작업자(32) 뿐만 아니라, 프로젝트에 기 참여 중인 작업자(32)도 필요에 따라 언제든지 작업 가이드를 열람할 수도 있다. 예를 들어 작업자는 작업 수행 중에도 작업 가이드의 열람이 가능한다. 또한, 작업자(32)가 임의의 프로젝트의 작업 수행을 시작할 때마다 매번 작업 가이드가 제공될 수 있다. 작업 가이드는 해당 프로젝트의 작업 형태 및 작업 수행 방식에 관한 내용을 포함한다. 예를 들어, 작업 가이드는 작업 수행 규칙, 작업 수행 순서, 작업 수행 시 준수해야 하는 사항, 주의해야 하는 사항 등을 포함한다.

작업자가 작업 수행에 앞서 해당 프로젝트의 작업 가이드를 숙지함으로써, 신속하고 효율적인 작업 수행을 도모하고 작업 결과의 품질을 높일 수 있다. 작업 가이드는 작업자의 작업 환경에 따라 애플리케이션 또는 웹사이트 상에서 팝업 창 또는 웹 페이지 형태로 제공될 수 있으나, 이에 제한되는 것은 아니다.

도 3은 본 발명의 일 실시예에 따른 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하여 제공하는 것을 나타낸 예시도이다.

각각의 프로젝트의 작업 가이드는 각각의 프로젝트 관리자에 의해 해당 프로젝트가 오픈되기 전에 작성된다. 작성된 작업 가이드는 프로젝트에 참여하는 모든 작업자에게 제공된다. 즉, 동일한 프로젝트에 참여하여 작업을 수행하는 모든 작업자는 동일한 작업 가이드를 통해 작업 방법을 숙지해야만 한다.

그러나 크라우드소싱 시스템의 특성상 하나의 프로젝트에는 서로 다른 수많은 작업자가 참여하게 된다. 이들의 작업 수행 능력은 서로 상이하다. 뿐만 아니라 각각의 작업자가 능숙하게 작업을 수행할 수 있는 작업 분야 역시 상이할 것이다. 그럼에도 불구하고 하나의 프로젝트에 참여한 모든 작업자에게 동일한 작업 가이드를 제공하는 것은 비합리적이다. 작업 가이드 상에는 일부 작업자에게는 제공될 필요가 없는 작업 방법과 관련된 내용까지 모두 포함되어 있기 때문이다. 또한 작업 가이드에 너무 많은 내용이 포함되어 있다면, 작업자가 반드시 학습할 필요성 있는 작업 방법에 관한 내용이 잘 전달되지 않을 수도 있다.

결국, 각각의 작업자에게는 각각의 작업자에게는 해당 프로젝트와 관련하여 각각 상응하는 작업 가이드가 존재한다. 다시 말해, 도 3을 참조하면 작업 방법과 관련하여 각각의 작업자에게 필요한 내용만을 전달할 수 있는 작업자 맞춤형 작업 가이드가 존재한다. 작업자의 작업 가이드를 통한 작업 수행 방법의 효과적인 습득을 위해서는 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 제공하는 것이 필요하다. 그러나 이를 위해서는 프로젝트의 관리자가 프로젝트에 참여하는 작업자마다 작업자에 알맞게 작업 가이드를 작성하여 제공해야만 한다. 이는 의뢰자에게 너무 많은 시간과 인력 소모를 요구하기 때문에 실질적으로 불가능하다. 본 발명의 일 실시예는 이러한 문제점을 해결하고자 작업자의 이력 정보에 기초하여 각각의 작업자에 상응하는 맞춤형 작업 가이드를 자동으로 생성한 후 제공한다.

이하, 이와 관련된 본 발명의 일 실시예에 대하여 상세히 설명한다.

도 4는 본 발명의 일 실시예에 따른, 프로젝트의 각각의 작업자의 이력 정보에 기초하여 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하여 제공하는 방법을 개략적으로 나타낸 순서도이다. 도 5는 복수의 기능요소 유형을 포함하는 프로젝트의 작업 화면을 나타낸 예시도이다.

먼저 도 4를 살펴보면, 프로젝트에 포함되는 복수의 기능요소의 유형을 식별한다(S110).

이때, 프로젝트에 포함되는 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정된다. 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴을 의미한다.

도 5를 참조하면, 도 5에서 제시된 프로젝트에 참여한 작업자는 주어진 이미지에서 특정 객체를 나타내는 영역을 선택하는 바운딩 작업을 수행하고(1단계), 선택된 특정 객체의 명칭을 입력하는 전사 작업을 수행한다(2단계). 그리고 마지막으로 특정 객체의 속성을 분류하는 분류 작업을 수행한다(3단계).

이때, 작업자는 바운딩 작업(1단계)을 수행하기 위해 바운딩 박스 툴(Bounding Box Tool)을, 전사 작업(2단계)을 수행하기 위해 인풋 박스 툴(Input Box Tool)을, 그리고 분류 작업(3단계)을 수행하기 위해 메이크 스텝 툴(Make Step Tool)을 사용할 수 있다.

따라서, 도 5에서 제시된 프로젝트를 수행하기 위한 작업툴인, 바운딩 박스 툴(Bounding Box Tool), 인풋 박스 툴(Input Box Tool) 및 메이크 스텝 툴(Make Step Tool)에 기반하여, S110 단계에서는 3개의 기능요소의 유형을 식별하게 된다.

다시 도 4를 참조하면, 식별된 기능요소에 상응하는 프로젝트의 기본 작업 가이드를 준비한다(S120).

도 6은 본 발명의 일 실시예에 따른 프로젝트의 기능요소에 상응하는 프로젝트의 기본 작업 가이드를 준비하는 것을 나타낸 예시도이다.

도 6을 참조하면, 도 6에서 제시된 프로젝트에 포함된 기능요소의 유형은 바운딩 기능요소, 전사 기능요소 그리고 분류 기능요소이다. 이에 따라 S120 단계에서는 바운딩 기능요소, 전사 기능요소 그리고 분류 기능요소와 관련된 작업 방법의 설명이 포함된 기본 작업 가이드를 준비한다.

여기서 기본 작업 가이드란, 프로젝트의 의뢰자에 의하여 최초 작성된 작업 가이드를 의미한다. 기본 작업 가이드에는 해당 프로젝트의 작업 수행 방법과 관련된 전반적이고 구체적인 설명이 포함된다. 통상적으로 기본 작업 가이드를 열람한 신규 작업자가 해당 프로젝트의 작업 수행에 필요한 작업 방법 및 지식을 학습하여 숙지할 수 있어야 하기 때문이다.

기본 작업 가이드는 프로젝트에 포함되는 기능요소의 유형에 상응하는 복수의 작업 설명부를 포함한다. 작업자는 작업 툴을 사용하여 작업을 수행하기 때문에, 기능요소의 유형에 상응하는 작업 방법의 설명이 포함되는 것이다. 이때, 복수의 작업 설명부는 기본 작업 가이드 내에서 서로 겹치지 않도록 위치 및 영역 크기가 정의되어 배치될 수도 있다. 그러나 이에 제한되는 것은 아니다.

한편, 기본 작업 가이드에 포함된 기능요소의 유형에 상응하는 복수의 작업 설명부는 소정 순서에 따라 배치된다. 구체적으로 프로젝트의 작업 수행 방법과 관련하여 작업자가 사용하는 작업 툴의 순서에 따라 복수의 작업 설명부는 배치될 수 있다. 예를 들어, 도 5를 살펴보면, 작업자는 도 5에서 제시된 프로젝트의 작업을 수행하기 위해서는 먼저 객체를 바운딩 하기 위한 바운딩 박스 툴을 사용한다. 그리고 객체에 관한 명칭을 전사하기 위해 인풋 박스 툴을 사용하고 마지막으로 객체의 속성 분류를 위해 메이크 스텝 툴을 사용한다. 이러한 경우에, 프로젝트의 기본 작업 가이드 상에는 바운딩 기능요소에 관한 작업 설명부가 최상단에 배치된다. 그리고 순서대로 전사 기능요소에 관한 작업 설명부 그리고 분류 기능요소에 관한 작업 설명부가 배치될 것이다.

또는 프로젝트에 포함되는 기능요소의 유형별 개수에 따라서 복수의 작업 설명부는 배치될 수도 있다. 기능요소의 유형별 개수가 많을수록 해당 프로젝트의 작업과 관련하여 중요한 기능요소의 유형으로 판단된다. 따라서, 개수가 많은 기능요소의 유형을 상대적으로 기본 작업 가이드의 상단부에 배치하여 작업자의 집중도를 높일 수 있다. 예를 들어, 프로젝트에 포함되는 기능요소의 유형이 바운딩 기능요소와 태깅 기능요소라고 가정한다. 이때, 바운딩 기능요소의 개수가 2개이고 태깅 기능요소의 개수가 1개일때, 프로젝트의 기본 작업 가이드의 상단에는 바운딩 기능요소에 관한 작업 설명부가 태깅 기능요소에 관한 작업 설명부보다 상단에 배치될 것이다.

도 7은 본 발명의 일 실시예에 따른, 표준 기능요소 가이드 풀에 포함된 복수의 표준 기능요소 가이드를 이용하여 프로젝트의 기본 작업 가이드를 준비하는 방법을 개략적으로 나타낸 순서도이고, 도 8은 본 발명의 일 실시예에 따른 복수의 표준 기능요소 가이드를 이용하여 프로젝트의 기본 작업 가이드를 준비하는 것을 나타낸 예시도이다.

한편, 도 7을 참조하면, 본 발명의 일 실시예로 프로젝트의 기본 작업 가이드는 다음과 같이 준비될 수 있다. 먼저, 기능요소의 유형별 표준 기능요소 가이드를 포함하는 표준 기능요소 가이드 풀(36)로부터 프로젝트에 포함되는 복수의 기능요소의 유형에 상응하는 복수의 표준 기능요소 가이드를 추출한다(S121). 그리고 추출된 복수의 표준 기능요소 가이드를 이용하여 프로젝트의 기본 작업 가이드를 준비할 수 있다(S122).

여기서, 표준 기능요소 가이드는, 프로젝트의 기능요소의 유형에 따라 사전에 템플릿(Template)화되어 생성된 작업 가이드를 의미한다. 각각의 표준 기능요소 가이드는 각각의 기능요소의 유형에 따른 작업 방식에 관하여 공통적이고 정형화된 내용을 포함한다.

또한 표준 기능요소 가이드는 기능요소의 유형과 더불어 구체적인 작업 수행 방법 또는 소스데이터의 유형 등에 따라서 세분화되어 생성될 수도 있다. 예를 들어, 바운딩 기능요소와 관련된 표준 기능요소 가이드는, 바운딩 객체에 따라서 사물 바운딩 기능요소 가이드, 사람 바운딩 기능요소 가이드 그리고 동물 바운딩 기능요소 가이드 등으로 세분화되어 생성될 수도 있다.

도 8을 참조하면, 도 5에서 제시된 프로젝트에 포함되는 기능요소의 유형으로 바운딩 기능요소, 전사 기능요소 그리고 분류 기능요소가 식별된 경우, 서버는 표준 기능요소 가이드 풀(36)에서 해당 프로젝트의 기능요소의 유형에 상응하는 복수의 표준 기능요소 가이드를 추출한다. 표준 바운딩 기능요소 가이드, 표준 전사 기능요소 가이드 그리고 분류 기능요소 가이드를 추출할 것이다. 이때 불러온 표준 바운딩 기능요소 가이드에는 작업자에게 제공되는 이미지에서 특정 객체의 영역을 선택하는 바운딩 작업 방법에 관한 공통적이고 일반적인 내용이 사전에 작성되어 있다. 전사 기능요소 가이드와 분류 기능요소 가이드에도 각각 전사 작업 방법과 분류 작업 방법의 공통적이고 일반적인 내용이 사전에 작성되어 있다. 복수의 표준 기능요소 가이드를 추출한 후에는 해당 프로젝트에서 제시하는 이미지에서 오리를 바운하여 명칭을 전사하고 속성을 분류하는 구체적인 작업 방식에 관한 내용이 이후 표준 기능요소 가이드에 추가됨으로써, 기본 작업 가이드가 준비된다.

한편, 표준 기능요소 가이드는 각각의 기능요소의 유형이 아닌 복수의 기능요소의 유형이 결합되어 생성될 수도 있다. 대부분의 프로젝트는 단일의 기능요소 유형이 아닌, 복수의 기능요소의 유형이 결합된 형태의 작업을 가지므로 이에 상응하여 표준 기능요소 가이드도 복수의 기능요소의 유형과 관련된 작업 방법에 관한 설명을 포함할 수 있다.

다시 도 4를 참조하면, 프로젝트의 각각의 작업자의 이전 프로젝트 이력 정보에 기초하여, 기본 작업 가이드를 수정하여 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성한다.

도 9는 본 발명의 일 실시예에 따른, 작업자 1과 작업자 2의 기능요소 유형별 제1 반려율에 기초하여 기본 작업 가이드를 수정한 후 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하는 방법을 개략적으로 나타낸 순서도이다.

도 9를 살펴보면, 먼저 서버는 작업자의 이전 프로젝트 이력 정보에 기초하여, 상기 기능요소의 유형별 제1 반려율을 산출한다(S131).

기능요소의 유형별 제1 반려율은 각각의 작업자가 해당 프로젝트를 제외한 이전 프로젝트에 참여하여 작업을 수행한 전체 작업 건수 대비 기능요소의 유형별 반려된 작업 결과 건수에 기초하여 산출된다. 예를 들어, 작업자 1이 복수의 프로젝트에 참여하여 작업을 수행한 총 작업 건수가 300건이라고 가정한다. 이때, 작업자 1이 바운딩 기능요소와 관련하여 반려된 작업 결과 건수가 141건이면, 작업자 1의 바운딩 기능요소에 대한 제1 반려율은 0.47에 해당할 것이다.

다시 도 9를 살펴보면, 제1 반려율이 사전에 설정된 제1 값 이상인 기능요소의 유형을 제1 기능요소로 분류하고, 상기 제1 반려율이 사전에 설정된 제1 값 미만인 기능요소의 유형을 제2 기능요소로 분류한다(S132).

구체적으로 반려율이 높다는 것은 작업자가 해당 기능요소의 유형과 관련된 작업을 수행하는데 어려움을 느끼고 미숙하다는 것을 의미한다. 반면에 반려율이 낮다는 것은 작업자가 해당 기능요소의 유형과 관련된 작업에 능숙하다는 것을 의미한다. 이와 같이 작업자의 기능요소의 유형과 관련된 작업 능숙도에 따라 기본 작업 가이드를 수정하기 위하여 작업자가 미숙한 기능요소의 유형은 제1 기능요소로 작업자가 능숙한 기능요소의 유형은 제2 기능요소로 분류한다.

도 10은 본 발명의 일 실시예에 따른, 각각의 작업자의 기능요소 유형별 제1 반려율에 기초하여 기능요소의 유형을 제1 기능요소와 제2 기능요소로 분류하는 것을 나타낸 예시도이다.

도 11은 본 발명의 일 실시예에 따른, 작업자 1의 기능요소 유형별 제1 반려율에 기초하여 작업자 1 맞춤형 작업 가이드를 생성하는 것을 나타낸 예시도이고, 도 12는 본 발명의 일 실시예에 따른, 작업자 2의 기능요소 유형별 제1 반려율에 기초하여 작업자 2 맞춤형 작업 가이드를 생성하는 것을 나타낸 예시도이다.

도 10을 참조하면, 작업자 1과 작업자 2 각각의 기능요소의 유형별 제1 반려율은 다음과 같다. 작업자 1은 바운딩 기능요소의 제1 반려율이 0.47, 전사 기능요소의 제1 반려율이 0.29 그리고 분류 기능요소의 제1 반려율이 0.50이다. 그리고 작업자 2는 바운딩 기능요소의 제1 반려율이 0.49, 전사 기능요소의 제1 반려율이 0.48 그리고 분류 기능요소의 제1 반려율이 0.50이다.

이때, 사전에 설정된 제1 값이 0.3이라고 가정한다면, 작업자 1의 경우 제1 반려율이 0.3 이상인 바운딩 기능요소(0.47)와 분류 기능요소(0.50)가 제1 기능요소로 분류되고, 제1 반려율이 0.3 이하인 전사 기능요소(0.29)가 제2 기능요소로 분류된다. 반면에 작업자 2의 경우 바운딩 기능요소의 제1 반려율(0.49), 전사 기능요소의 제1 반려율(0.48) 그리고 분류 기능요소의 제1 반려율(0.50)이 모두 제1 값인 0.3 이상이므로, 세 기능요소 모두 제1 기능요소 분류된다. 즉, 제2 기능요소로 분류되는 기능요소의 유형이 존재하지 않는다.

S132 단계에서 분류된 각각의 작업자의 제1 기능요소와 제2 기능요소에 기초하여 기본 작업 가이드를 수정한다. 이하 도 9 내지 도 12를 참조하여 기본 작업 가이드를 수정하는 구체적인 방법에 대하여 설명한다.

다시 도 9를 살펴보면, 기본 작업 가이드 상에서 상기 제2 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제한다(S133).

전술한 바와 같이, 작업자는 제2 기능요소로 분류된 기능요소의 유형과 관련된 작업에 대해서는 이미 능숙하게 작업 수행이 가능하다. 따라서, 작업 가이드상에 포함된 제2 기능요소로 분류된 기능요소의 유형과 관련된 설명부는 작업자에게 불필요하다. 오히려 작업 가이드의 내용을 불필요하게 늘려 제1 기능요소의 유형과 관련된 작업 설명부의 전달력을 떨어뜨릴 수 있다. 따라서, 제2 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제하고, 작업 가이드를 간소화하여 각각의 작업자가 학습할 필요가 있는 기능요소의 유형에 상응하는 작업 설명부의 전달력을 높일 수 있다.

도 10을 참조하면, 작업자 1의 경우 전사 기능요소가 제2 기능요소로 분류되었다. 도 11을 참조하면, 이에 따라 작업자 1에 상응하는 맞춤형 작업 가이드에는 제2 기능요소로 분류된 전사 기능요소와 관련된 작업 설명부가 삭제되었다. 작업자 1에게 설명이 불필요한 전사 기능요소와 관련된 작업 설명부를 삭제하였다. 이로써, 작업자 1은 반려율이 높았던 바운딩 기능요소와 분류 기능요소와 관련된 작업 방법의 설명에 대해서 더욱 집중하여 학습하고 작업 방법을 숙지할 수 있을 것이다.

다시 도 9를 살펴보면, 제1 반려율에 기초하여, 상기 기본 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드를 완성한다(S134).

S133 단계에서는 작업자에게 전달할 필요가 있는 기능요소 유형에 상응하는 설명부만을 작업 가이드에 포함시켜 작업 가이드를 작업자에 맞춰 간소화하였다면, S133 단계에서는 작업 설명부의 배치 순서를 조정하여 작업 가이드의 내용을 보다 효과적으로 작업자에게 전달할 수 있도록 한다.

한편, 본 발명의 일 실시예로, S130 단계는 제1 반려율이 높은 순서에 따라 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 내림차순으로 조정할 수 있다.

도 10을 살펴보면, 작업자 2와 관련하여 바운딩 기능요소, 전사 기능요소 그리고 분류 기능요소 모두 제1 기능요소에 포함되었다. 이때, 제1 반려율이 높은 순서는 분류 기능요소, 바운딩 기능요소 그리고 전사 기능요소이다. 이것은 작업자 2가 분류 기능요소와 관련된 작업을 수행함에 있어, 가장 큰 어려움을 느낀다는 것을 의미한다. 또한, 분류 기능요소와 관련된 작업 결과의 품질이 나쁘다는 것을 의미하기도 한다.

도 12를 참조하면, 기본 작업 가이드에는 바운딩 작업 설명부, 전사 작업 설명부 그리고 분류 작업 설명부의 순서로 배치되었던 것을 알 수 있다. 그러나 작업자 2의 이력 정보에 기초하여 산출된 제1 반려율에 기초하여, 작업자 2의 맞춤형 작업 가이드에는 제1 반려율이 가장 높은 분류 작업 설명부가 배치되었다. 그리고 바운딩 작업 설명부와 전사 작업 설명부의 순서로 작업자 2의 맞춤형 작업 가이드상에 배치되었다.

이처럼 각각의 작업자가 어려움을 느끼고 미숙한 작업 순서대로 작업 설명부의 배치 순서를 조정한다. 이를 통해, 작업자는 가장 어려움을 느끼고 작업 결과의 품질이 좋지 않은 작업에 관한 설명부를 가장 먼저 접하게 된다. 이는 작업 가이드 상에서 작업자에게 가장 필요한 설명부의 내용을 더욱 효과적으로 전달할 수 있도록 한다.

다시 도 4를 참조하면, 각각의 작업자에 상응하는 맞춤형 작업 가이드를 완성한 후 상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 상기 프로젝트의 각각의 작업자에게 제공한다. 한편, 작업자에 상응하는 맞춤형 작업 가이드를 제공받은 작업자는 언제든지 필요에 따라 해당 프로젝트의 기본 작업 가이드의 열람이 가능하다.

다시 도 4를 살펴보면, 프로젝트의 복수의 작업자에게 복수의 작업을 배정하여 작업 수행을 요청한(S150) 후 복수의 작업자로부터 복수의 작업 결과를 입력 받는다(S160). S150 단계와 S160 단계에 관한 자세한 설명은 도1 및 도2를 참조하여 전술한 바, 생략하도록 한다.

한편, 작업자는 동일한 프로젝트의 복수의 작업을 반복하여 수행하면서, 자신의 작업 수행 능력을 향상시킬 수 있다. 즉, 프로젝트에 참여하기 전까지는 특정 기능요소 유형에 관한 작업 능숙도가 떨어졌으나, 해당 기능요소 유형에 관한 작업을 반복하여 수행하면서, 작업 능숙도를 향상시킬 수 있다. 반면에, 프로젝트에 참여하기 전까지는 특정 기능요소에 관한 작업 능숙도가 우수하였지만, 해당 기능요소와 관련하여 난이도가 높은 작업을 반복하여 수행하면서 작업 능숙도가 떨어질 수도 있다. 이는 작업자가 해당 기능요소와 관련된 난이도가 쉬운 작업만을 수행하여, 작업 능숙도를 정확하게 검증할 수 있는 기회가 없었던 경우에 발생한다.

이와 같이 꾸준히 프로젝트에 참여하여 작업을 수행하면서, 작업자의 기능요소와 관련된 작업 수행 능력 또는 작업 능숙도는 변한다. 따라서, 작업자의 변화된 작업 능숙도에 상응하여 작업자 맞춤형 작업 가이드 또한 갱신될 필요성이 있다.

그러나 이것은 프로젝트의 관리자의 시간과 인력을 지나치게 낭비하는 문제가 있다. 관리자가 지속적으로 작업자의 작업 수행 과정을 모니터링하고 작업자를 평가하여야 하기 때문이다. 따라서 본 발명의 일 실시예는 프로젝트에 참여한 작업자의 작업 결과에 대한 검수 결과를 기초로 작업자의 작업 능숙도 변화에 상응하여 작업자 맞춤형 작업 가이드를 갱신한다.

이하, 도 13내 도 17을 참조하여, 작업자 맞춤형 작업 가이드를 갱신하는 본 발명의 실시예에 대하여 자세히 설명한다.

도 13은 본 발명의 일 실시예에 따른, 각각의 작업자의 검수 결과에 기초하여 각각의 작업자 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.

먼저, 도 13을 참조하면 작업자로부터 입력 받은 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청한다(S170). 그리고 복수의 검수자로부터 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는다(S180). S170 단계와 S180 단계에 관한 상세한 설명은 도1 및 도2를 참조하여 전술한 바, 생략하도록 한다.

다시 도 13을 참조하면, 프로젝트의 복수의 검수자로부터 입력 받은 각각의 작업자의 검수 결과에 기초하여, 각각의 작업자에 상응하는 맞춤형 작업 가이드를 갱신한다(S190).

전술한 바와 같이 작업자가 프로젝트에 참여한 후 각각의 기능요소의 유형에 관한 작업 능숙도가 달라질 수 있으므로, 각각의 작업자의 작업 결과에 대한 검수 결과에 기초하여 달라진 작업자의 작업 능숙도에 따라 맞춤형 작업 가이드를 갱신하는 것이다.

이하, 도 14를 참조하여 각각의 작업자 맞춤형 작업 가이드를 갱신하는 방법에 관하여 구체적으로 설명한다.

도 14는 본 발명의 일 실시예에 따른, 각각의 작업자의 기능요소 유형별 제2 반려율에 기초하여 각각의 작업자 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.

먼저 도 14를 살펴보면, 먼저 작업자의 상기 검수 결과에 기초하여, 상기 기능요소의 유형별 제2 반려율을 산출한다.

상기 제2 반려율은 제1 반려율과는 달리 해당 프로젝트에 참여하여 작업자가 작업을 수행한 작업 건수를 포함하여 산출된다. 다시 말해, 해당 프로젝트의 작업 결과를 포함하여, 작업자가 수행한 전체 작업 건수 대비 기능요소의 유형 별 반려된 작업 결과 건수를 산출하고 이를 기초로 제2 반려율을 산출한다.

예를 들어, 작업자 1의 제1 반려율이 0.47이었다고 가정한다. 이는 작업자 1이 복수의 이전 프로젝트에 참여하여 작업을 수행한 총 작업 건수인 300건과 바운딩 기능요소와 관련하여 반려된 작업 결과 건수 141건에 기초하여 산출된 것이다. 작업자 1이 현재 참여한 프로젝트에서 50건의 작업을 더 수행하였고, 바운딩 기능요소와 관련하여 13건의 작업 결과가 반려되었다고 가정한다면, 작업자 1의 제2 반려율은 0.44((141+13)/(300+50) = 0.44)로 산출된다.

다시 도 14를 살펴보면 제1 기능요소로 분류된 기능요소의 유형 중 상기 제2 반려율이 사전에 설정된 제2 값 미만인 기능요소의 유형을 제2 기능요소로 재분류하고, 상기 제2 기능요소로 분류된 기능요소의 유형 중 상기 제2 반려율이 사전에 설정된 제2 값 이상인 기능요소의 유형을 제1 기능요소로 재 분류한다.

구체적으로, 프로젝트에 참여하기 전의 작업자의 기능요소 유형 별 작업 능숙도에 기초하여 분류된 제1 기능요소와 제2 기능요소를 해당 프로젝트에 참여한 후 달라진 작업자의 기능요소 유형 별 작업 능숙도에 기초하여 재 분류하는 것이다. 물론, 작업자의 프로젝트의 참여 전과 후의 기능요소의 유형별 작업 능숙도가 동일하거나 극히 유사하다면, 제1 기능요소와 제2 기능요소의 재 분류 결과는 이전과 동일할 것이다.

한편 사전에 설정된 제2 값은 상술한 제1 값과 동일한 값으로 설정될 수 있으나, 현재 작업자가 참여한 프로젝트의 난이도, 총 작업 건수 등에 따라 상이하게 설정될 수도 있다.

도 15는 본 발명의 일 실시예에 따른, 작업자의 제2 반려율에 기초하여 제1 기능요소와 제2 기능요소를 재 분류하는 것을 나타낸 예시도이다.

도 16은 본 발명의 일 실시예에 따른, 작업자 1의 기능요소 유형별 제2 반려율에 기초하여 작업자 1 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.

도 17는 본 발명의 일 실시예에 따른, 작업자 2의 기능요소 유형별 제2 반려율에 기초하여 작업자 2 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.

도 15를 살펴보면, 작업자 1과 작업자 2의 제2 반려율은 다음과 같다. 작업자 1의 경우, 바운딩 기능요소의 제2 반려율은 0.44, 전사 기능요소의 제2 반려율은 0.31 그리고 분류 기능요소의 제2 반려율은 0.50으로 산출되었다. 작업자 2의 경우, 바운딩 기능요소의 제2 반려율은 0.35, 전사 기능요소의 제2 반려율은 0.28 그리고 분류 기능요소의 제2 반려율은 0.29로 산출되었다.

이때, 제2 값이 0.30으로 사전에 설정되었다고 가정한다면, 작업자 1의 경우 모든 기능요소의 제2 반려율이 상기 제2 값 이상이다. 따라서, 작업자 1의 경우 바운딩 기능요소, 전사 기능요소 그리고 분류 기능요소 모두 제1 기능요소로 재 분류된다. 즉, 제2 기능요소로 분류된 기능요소의 유형이 존재하지 않는다. 작업자 1은 현재 참여중인 프로젝트의 작업을 수행하면서 전사 기능요소와 관련하여 작업 결과의 반려 건수가 증가하였다. 이에 따라, 프로젝트에 참여하기 전에 제2 기능요소로 분류되었던 전사 기능요소가 제1 기능요소로 재 분류되었다.

반면에, 작업자 2는 제2 반려율이 상기 제2 값 이상인 기능요소 유형이 바운딩 기능요소 뿐이다. 따라서 작업자 2의 경우 제1 기능요소로 분류된 기능요소의 유형 중 바운딩 기능요소만이 제1 기능요소로 재 분류되고 전사 기능요소와 분류 기능요소는 제2 기능요소로 재 분류되었다.

이처럼 작업자는 하나의 프로젝트에 참여하여 복수의 작업을 수행하면서 특정 기능요소의 유형에 대한 작업 능숙도가 향상될 수도 있으며, 반면에 작업 능숙도가 하락할 수도 있다.

다시 도 14를 살펴보면, 재 분류된 제1 기능요소와 제2 기능요소에 기초하여 작업자 맞춤형 작업 가이드 상에서 제2 기능요소로 재 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제한다(S193). 그리고 작업자 맞춤형 작업 가이드 상에 제1 기능요소로 재 분류된 기능요소의 유형에 상응하는 작업 설명부를 추가한다(S194).

도 15 및 도 16을 살펴보면, 작업자 1이 프로젝트 참여 당시 제공받은 작업자 1 맞춤형 작업 가이드에는 바운딩 기능요소에 관한 작업 설명부와 분류 기능요소에 관한 작업 설명부가 포함되었다. 전술한 바와 같이 작업자 1의 이력정보에 기초하여 전사 기능요소는 제2 기능요소로 분류되었기 때문이다. 그러나 작업자 1이 프로젝트에 참여한 후 입력한 작업 결과에 대한 검수 결과를 기초로, 바운딩 기능요소, 분류 기능요소 그리고 전사 기능요소 모두 제1 기능요소로 재 분류되었다. 이에 따라 제2 기능요소로 재 분류된 전사 기능요소에 상응하는 작업 설명부는 갱신된 작업자1 맞춤형 작업 가이드에 추가되었다.

또한 도 15 및 도 17을 살펴보면, 작업자 2가 프로젝트 참여 당시 제공 받은 작업자 2 맞춤형 작업 가이드에는 분류 작업 설명부, 바운딩 작업 설명부와 전사 작업 설명부가 모두 포함되었다. 이는 전술한 바와 같이, 작업자 2와 관련하여 분류 기능요소, 바운딩 기능요소 그리고 전사 기능요소가 모두 제1 기능요소로 분류되었기 때문이다. 그러나 작업자 2가 프로젝트에 참여한 이후 산출된 제2 반려율에 기초하면, 전사 기능요소 그리고 분류 기능요소는 제2 기능요소로 재 분류되었다. 이에 따라 갱신된 제2 작업자 맞춤형 작업 가이드에는 전사 작업 설명부와 분류 작업 설명부가 모두 삭제되었다.

다시 도 14를 살펴보면, S194 단계 이후 제2 반려율에 기초하여, 맞춤형 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드의 갱신을 완료한다.

전술한 바와 같이 작업자 맞춤형 작업 가이드를 갱신하는 과정에서도, 작업 가이드를 간소화 한 후 작업 설명부의 배치 순서를 조정하여 작업자에게 작업 내용을 효과적으로 전달할 수 있는 맞춤형 작업 가이드를 제공하기 위함이다.

한편, 본 발명의 일 실시예로, 작업자 맞춤형 작업 가이드의 갱신을 완료하는 단계는, 상기 제2 반려율이 높은 순서에 따라 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 내림차순으로 조정할 수 있다.

도 15 및 도 16을 참조하면, 작업자 1과 관련하여 제2 반려율은 분류 기능요소 바운딩 기능요소 그리고 전사 기능요소의 순서로 높은 것을 알 수 있다. 작업자 1이 프로젝트 참여 당시에 제공 받은 맞춤형 작업 가이드 상에는 바운딩 작업 설명부와 분류 작업 설명부의 순서로 배치되었다. 그러나 작업자 1이 프로젝트에 참여한 후에는 분류 기능요소와 관련된 작업의 반려율이 바운딩 기능요소와 관련된 작업의 반려율보다 높아졌고, 이에 따라 작업자 1의 맞춤형 작업 가이드도 갱신되었다. 도 16을 참조하면 갱신된 작업자 1의 맞춤형 작업 가이드상에는 분류 작업 설명부가 최상단에 배치되고 그 밑으로 바운딩 작업 설명부 그리고 전사 작업 설명부가 배치된 것을 알 수 있다.

한편, S190 단계에서 갱신된 각각의 작업자에 상응하는 맞춤형 작업 가이드는 각각의 작업자에게 제공된다. 즉, 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 상기 프로젝트의 각각의 작업자에게 제공하는 단계는 S190 단계를 통하여 갱신된 맞춤형 작업 가이드를 포함하여 제공한다.

한편, 작업자 맞춤형 작업 가이드가 갱신되면, S150 단계는 작업자의 작업 수행 인터페이스를 비활성화하고, 작업자가 작업자에 상응하는 갱신된 맞춤형 작업 가이드를 확인한 이후에 작업자의 작업 수행 인터페이스를 활성화시킬 수 있다.

작업자가 프로젝트에 참여한 경우 작업자는 작업 가이드를 제공받는다. 그리고 작업 가이드를 열람한 이후에 비로소 작업을 배정 받고 작업 수행에 착수할 수 있다. 따라서 프로젝트에 참여하는 모든 작업자는 작업을 배정 받기 위하여 S130 단계에서 생성되고 S140 단계에서 제공된 맞춤형 작업 가이드를 열람해야만 한다.

반면에 프로젝트에 참여한 이후 작업자의 검수 결과에 기초하여 갱신되는 맞춤형 작업 가이드의 경우에는 작업자가 이를 열람을 하지 않아도 계속하여 작업 수행이 가능하다. 무엇보다 작업을 수행하는 작업자는 프로젝트 참여 당시 열람했던 작업 가이드를 다시 열람하는 경우가 드물기 때문에 맞춤형 작업 가이드가 갱신되어도 인지하지 못하는 경우가 많다. 따라서, 이를 방지하기 위하여 작업자 맞춤형 작업 가이드가 갱신되면, 작업자의 작업 화면 상의 작업 수행 인터페이스를 비활성화한다. 그리고 작업자가 작업자에 상응하는 갱신된 맞춤형 작업 가이드를 확인한 후 비로소 작업자의 작업 수행 인터페이스를 활성화함으로써, 작업자의 갱신된 맞춤형 작업 가이드를 확인할 수 있도록 유도한다.

도 18은 본 발명의 일 실시예에 따른, 제1 기능요소로 분류된 바운딩 기능요소의 유형에 상응하는 훈련 콘텐츠를 이용하여 작업자 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이고, 도 19는 본 발명의 일 실시예에 따른, 제1 기능요소 분류된 바운딩 기능요소의 유형에 상응하는 훈련 콘텐츠를 삽입하여 작업자 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.

한편, 도 18을 참조하면, 본 발명의 일 실시예로, S190 단계는 기능요소의 유형에 따른 복수의 훈련 콘텐츠를 포함하는 훈련 콘텐츠 풀에서, 제1 기능요소로 분류된 기능요소의 유형에 상응하는 훈련 콘텐츠를 불러오는 단계(S196) 및 훈련 콘텐츠에 상응하는 기능요소의 유형에 상응하는 작업 설명부에 훈련 콘텐츠를 삽입하는 단계(S197)를 더 포함할 수 있다.

즉, 작업자에게 반려율이 높은 작업과 관련하여 훈련 콘텐츠를 제공하는 것이다. 이를 통해 작업자는 제1 기능요소로 분류된 기능요소 유형과 관련된 작업 수행 능력을 향상시킬 수 있다. 도 17 및 19를 참조하면, 작업자 2와 관련하여 제1 기능요소로 분류된 기능요소의 유형은 바운딩 기능요소이다. 이때, 갱신된 작업자 2의 맞춤형 작업 가이드 상의 바운딩 작업 설명부에는 바운딩 기능요소에 상응하는 훈련 콘텐츠 또는 훈련 프로그램이 삽입될 수 있다.

도 19를 참조하면, 작업자 2의 맞춤형 작업 가이드의 바운딩 설명부에는 주어진 이미지에서 돼지를 바운딩하는 훈련 콘텐츠가 삽입되었다. 이를 통해 작업자 2는 반려율이 높았던 바운딩 기능요소와 관련된 작업 훈련을 하고, 바운딩 작업에 관한 작업 수행 능력을 향상시킬 수 있다.

또한 본 발명의 일 실시예로, 맞춤형 작업 가이드에 훈련 콘텐츠를 삽입되어 갱신되면, S150 단계는 작업자의 작업 수행 인터페이스를 비활성화하고, 작업자가 작업자에 상응하는 갱신된 맞춤형 작업 가이드를 확인하고, 훈련 콘텐츠를 실행한 이후에 상기 작업자의 작업 수행 인터페이스를 활성화시킬 수 있다.

구체적으로, 작업자의 갱신된 맞춤형 작업 가이드를 확인하도록 유도하고, 더불어 삽입된 훈련 콘텐츠를 통해 작업 수행 능력을 향상시키도록 유도할 수 있다. 도 19를 참조하면, 작업 수행 인터페이스인 '작업 시작' 버튼이 비활성화된 것을 알 수 있다. 작업자 2가 갱신된 작업자2 맞춤형 작업 가이드를 확인하고, 삽입된 훈련 콘텐츠인 돼지 바운딩 작업을 실행한 이후에 비로소 '작업 시작'의 버튼은 활성화될 것이다. 그리고 작업자 2의 작업 수행이 가능하다.

한편, 전술한 맞춤형 작업 가이드의 갱신과 관련하여 각각의 작업자의 맞춤형 작업 가이드는 소정 주기로 갱신될 수 있다. 작업자가 프로젝트의 참여한 후 소정 주기 동안 입력된 작업자의 작업 결과에 대한 검수 결과에 기초하여, 서버는 제2 반려율을 산출한다. 그리고 산출된 제2 반려율에 기초하여 작업 가이드를 갱신한다. 이와 같이 주기적으로 작업자의 맞춤형 작업 가이드를 갱신할 수 있다.

또는 맞춤형 작업 가이드를 갱신하는 단계는, 상기 검수 결과에 기초하여, 반려 횟수가 기준 횟수 이상인 작업자에 대해서, 상기 작업자에 상응하는 상기 맞춤형 작업 가이드를 갱신할 수도 있다. 구체적으로, 작업자가 입력한 작업 결과의 반려 횟수가 사전에 설정된 기준 횟수 이상인 경우에, 작업자 맞춤형 가이드를 갱신함으로써 작업자가 자신의 작업 수행 방법을 고찰하고 수정할 수 있도록 유도한다.

도 20은 본 발명의 일 실시예에 따른, 제3 기능요소로 분류된 바운딩 기능요소의 유형에 관한 다른 작업자의 반려된 작업 결과를 삽입하여 작업자 2에 상응하는 맞춤형 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이고, 도 21은 본 발명의 일 실시예에 따른, 제3 기능요소로 분류된 바운딩 기능요소의 유형에 관한 다른 작업자의 반려된 작업 결과를 삽입하여 작업자 2에 상응하는 맞춤형 작업 가이드를 갱신하는 것을 나타낸 예시도이다.

한편 도 20을 참조하면, 본 발명의 일 실시예에 따라, 상기 작업자 맞춤형 가이드를 갱신하는 단계는, 작업자의 상기 검수 결과에 기초하여, 반려 횟수가 기준 횟수 이상인 기능요소의 유형을 제3 기능요소로 분류하는 단계(S198)와 다른 작업자에 의해서 작업 수행되고 상기 제3 기능요소와 관련하여 상기 검수 결과를 반려로 입력 받은 복수의 작업 결과 중 적어도 일부를 상기 제3 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부에 삽입하는 단계(S199)를 더 포함할 수 있다.

구체적으로 제1 기능요소로 분류된 기능요소 유형 중 반려 횟수가 기준 횟수 이상인 기능요소의 유형이 제3 기능요소로 분류된다. 그리고 제3 기능요소로 분류된 기능요소 유형과 관련하여 반려된 다른 작업자의 작업 결과를 제공받는다. 이는 해당 기능요소 유형에 상응하는 작업 설명부에 삽입되어 제공된다. 이를 통해, 작업자는 해당 기능요소 유형에 관한 작업 방법의 잘못된 사례를 직관적으로 관찰할 수 있으며, 해당 기능요소 유형에 관한 작업 방법을 보다 구체적이고 자세히 학습할 수 있다. 결과적으로 작업자의 작업 수행 능력을 향상시킬 수 있고 작업 결과의 품질을 높이는 긍정적인 효과로 이어질 수 있다.

도 17 및 도 21을 참조하면, 작업자 2의 제1 기능요소로 분류된 바운딩 기능요소와 관련하여 반려 횟수가 기준 횟수 이상이었다고 가정한다. 이때, 작업자 2의 맞춤형 작업 가이드 상에는 바운딩 작업과 관련하여 반려된 다른 작업자의 작업 결과가 삽입된다. 이는 바운딩 작업 설명부에 삽입될 것이다. 도 21을 살펴보면, 오리 객체의 바운딩과 관련하여 반려된 다른 작업자의 복수의 작업 결과가 삽입되었음을 알 수 있다. 이를 통해 작업자 2가 바운딩 작업 결과와 관련된 잘못된 작업 방법을 직관적으로 관찰하고 자신의 작업 수행 방법으로 올바르게 수정하도록 유도할 수 있다.

한편, 상술한 설명에서, 단계 S110 내지 S190은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 22의 내용은 도 1 내지 도 21의 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법에도 적용될 수 있다.

이하, 도 22를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 장치에 대하여 설명하도록 한다.

도 22는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 장치를 설명하기 위한 도면이다.

도 22를 참조하면, 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 장치(300)(이하, 장치)는 통신모듈(310), 메모리(320) 및 프로세서(330)를 포함한다.

통신모듈(310)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 통신모듈(310)은 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다. 이때 반려된 검수 결과에 대하여는 상응하는 재작업을 작업자(32)에게 송신하여 재작업 수행을 요청하고, 상기 작업자(32)로부터 재작업 결과를 수신한다.

메모리(320)에는 통신모듈(310)로부터 수신한 데이터에 기초하여 프로젝트의 작업자 맞춤형 작업 가이드를 자동 생성하여 제공하기 위한 프로그램이 저장된다.

프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킨다. 프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킴에 따라, 도 3 내지 도 21을 참조하여 설명한 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법을 수행할 수 있다.

도 22을 참조하여 설명한 장치(300)는 상술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 컴퓨터 판독가능 기록 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자

Claims (11)

1. 컴퓨터에 의해 실행되는 방법으로서,
   오픈 예정인 크라우드소싱 기반의 프로젝트(이하, "프로젝트")에 포함되는 복수의 기능요소의 유형을 식별하는 단계;
   상기 프로젝트의 기본 작업 가이드를 준비하는 단계;
   상기 프로젝트의 각각의 작업자의 이전 프로젝트 이력 정보에 기초하여, 상기 기본 작업 가이드를 수정하여 각각의 작업자에 상응하는 작업자 맞춤형 작업 가이드를 생성하는 단계;
   상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 상기 프로젝트의 각각의 작업자에게 제공하는 단계;
   상기 프로젝트의 복수의 작업자에게 복수의 작업을 배정하여 작업 수행을 요청하는 단계; 및
   상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는 단계를 포함하고,
   상기 기본 작업 가이드는 소정 순서에 따라 배치되는 상기 복수의 기능요소의 유형에 상응하는 복수의 작업 설명부를 포함하고,
   상기 작업자 맞춤형 작업 가이드를 생성하는 단계는,
   작업자의 이전 프로젝트 이력 정보에 기초하여, 상기 기능요소의 유형별 제1 반려율을 산출하는 단계;
   상기 제1 반려율이 사전에 설정된 제1 값 이상인 기능요소의 유형을 제1 기능요소로 분류하고, 상기 제1 반려율이 사전에 설정된 제1 값 미만인 기능요소의 유형을 제2 기능요소로 분류하는 단계;
   상기 기본 작업 가이드 상에서 상기 제2 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제하는 단계; 및
   상기 제1 반려율에 기초하여, 상기 기본 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드를 완성하는 단계를 포함하고,
   상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자의 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고,
   상기 작업자 맞춤형 작업 가이드를 완성하는 단계는,
   상기 제1 반려율이 높은 순서에 따라 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 내림차순으로 조정하는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
2. 제1항에 있어서,
   상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
   상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는 단계; 및
   상기 프로젝트의 각각의 작업자의 상기 검수 결과에 기초하여, 상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 갱신하는 단계를 더 포함하고,
   상기 각각의 작업자에 상응하는 상기 맞춤형 작업 가이드를 상기 프로젝트의 각각의 작업자에게 제공하는 단계는,
   갱신된 상기 맞춤형 작업 가이드를 제공하는 것을 포함하고,
   상기 작업자 맞춤형 가이드를 갱신하는 단계는,
   작업자의 상기 검수 결과에 기초하여, 상기 기능요소의 유형별 제2 반려율을 산출하는 단계;
   상기 제1 기능요소로 분류된 기능요소의 유형 중 상기 제2 반려율이 사전에 설정된 제2 값 미만인 기능요소의 유형을 제2 기능요소로 재분류하고, 상기 제2 기능요소로 분류된 기능요소의 유형 중 상기 제2 반려율이 사전에 설정된 제2 값 이상인 기능요소의 유형을 제1 기능요소로 재분류하는 단계;
   상기 작업자 맞춤형 작업 가이드 상에서 상기 제2 기능요소로 재분류된 기능요소의 유형에 상응하는 작업 설명부를 삭제하는 단계;
   상기 작업자 맞춤형 작업 가이드 상에 상기 제1 기능요소로 재분류된 기능요소의 유형에 상응하는 작업 설명부를 추가하는 단계; 및
   상기 제2 반려율에 기초하여, 상기 맞춤형 작업 가이드 상에서 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 조정하여 상기 작업자 맞춤형 작업 가이드의 갱신을 완료하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
3. 제2항에 있어서,
   상기 작업 수행을 요청하는 단계는,
   상기 맞춤형 작업 가이드가 갱신되면, 상기 작업자의 작업 수행 인터페이스를 비활성화하고, 상기 작업자가 상기 작업자에 상응하는 갱신된 상기 맞춤형 작업 가이드를 확인한 이후에 상기 작업자의 작업 수행 인터페이스를 활성화시키는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
4. 제2항에 있어서,
   상기 작업자 맞춤형 가이드를 갱신하는 단계는,
   상기 기능요소의 유형에 따른 복수의 훈련 콘텐츠를 포함하는 훈련 콘텐츠 풀에서, 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 훈련 콘텐츠를 불러오는 단계; 및
   상기 훈련 콘텐츠에 상응하는 기능요소의 유형에 상응하는 작업 설명부에 상기 훈련 콘텐츠를 삽입하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
5. 제4항에 있어서,
   상기 작업 수행을 요청하는 단계는,
   상기 맞춤형 작업 가이드가 갱신되면, 상기 작업자의 작업 수행 인터페이스를 비활성화하고, 상기 작업자가 상기 작업자에 상응하는 갱신된 상기 맞춤형 작업 가이드를 확인하고, 상기 훈련 콘텐츠를 실행한 이후에 상기 작업자의 작업 수행 인터페이스를 활성화시키는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
6. 제2항에 있어서,
   상기 작업자 맞춤형 작업 가이드의 갱신을 완료하는 단계는,
   상기 제2 반려율이 높은 순서에 따라 상기 제1 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부의 배치 순서를 내림차순으로 조정하는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
7. 제2항에 있어서,
   상기 맞춤형 작업 가이드를 갱신하는 단계는,
   상기 검수 결과에 기초하여, 반려 횟수가 기준 횟수 이상인 작업자에 대해서, 상기 작업자에 상응하는 상기 맞춤형 작업 가이드를 갱신하는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
8. 제2항에 있어서,
   상기 작업자 맞춤형 가이드를 갱신하는 단계는,
   작업자의 상기 검수 결과에 기초하여, 반려 횟수가 기준 횟수 이상인 기능요소의 유형을 제3 기능요소로 분류하는 단계; 및
   다른 작업자에 의해서 작업 수행되고 상기 제3 기능요소와 관련하여 상기 검수 결과를 반려로 입력받은 복수의 작업 결과 중 적어도 일부를 상기 제3 기능요소로 분류된 기능요소의 유형에 상응하는 작업 설명부에 삽입하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
9. 삭제
10. 제1항에 있어서,
    상기 프로젝트의 기본 작업 가이드를 준비하는 단계는,
    상기 기능요소의 유형별 표준 기능요소 가이드를 포함하는 표준 기능요소 가이드 풀로부터 상기 프로젝트에 포함되는 복수의 기능요소의 유형에 상응하는 복수의 표준 기능요소 가이드를 추출하는 단계; 및
    상기 추출된 복수의 표준 기능요소 가이드를 이용하여 상기 프로젝트의 기본 작업 가이드를 준비하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법.
11. 컴퓨터와 결합하여, 제1항 내지 제10항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 작업자 맞춤형 작업 가이드의 자동 제공 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

Images