KR102215417B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법이 제공된다. 상기 방법은, 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "프로젝트")의 속성을 식별하는 단계, 복수의 유형의 표준 작업 가이드를 포함하는 표준 작업 가이드 풀 중에서 상기 오픈 예정인 프로젝트의 속성에 상응하는 표준 작업 가이드를 불러오는 단계, 상기 오픈 예정인 프로젝트의 관리자에 의한 작업 시연을 기록한 이미지 또는 비디오를 생성하고, 상기 이미지 또는 비디오를 기초로 모범 작업 결과 예시에 관한 제1 콘텐츠 및 불량 작업 결과 예시에 관한 제2 콘텐츠를 생성하는 단계, 및 상기 제1 콘텐츠를 상기 표준 작업 가이드의 제1 영역에 삽입하고, 상기 제2 콘텐츠를 상기 표준 작업 가이드의 제2 영역에 삽입하여 상기 오픈 예정인 프로젝트의 작업 가이드를 완성하는 단계를 포함하고, 상기 표준 작업 가이드는 (i) 프로젝트의 속성별로 공통적인 작업 수행 방식에 관한 내용이 사전에 삽입된 표준 작업 설명부와 (ii) 상기 오픈 예정인 프로젝트의 작업자가 수행하게 되는 실제 작업의 작업 수행 방식에 관한 내용의 삽입을 위한 상기 제1 영역 및 상기 제2 영역을 포함하는 작업 특징 설명부를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법{METHOD FOR AUTOMATICALLY CREATING WORK GUIDE OF CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

하나의 프로젝트가 오픈 되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다.

한편, 작업자는 프로젝트의 작업 수행에 앞서, 해당 프로젝트의 작업 가이드를 숙지하여 작업 수행에 관한 사전 교육을 받는다. 이때 작업자에게 제공되는 작업 가이드는 각 프로젝트의 관리자에 의해 각각의 프로젝트의 작업 형태 및 작업 수행 방식의 특성에 맞춰 작성된다. 따라서 각각의 프로젝트가 오픈 될 때마다 관리자는 프로젝트의 속성에 맞는 새로운 작업 가이드를 작성해야 한다. 그러나 복수의 프로젝트 간에는 서로 동일 또는 유사한 작업 형태와 작업 수행 방식을 포함하기도 한다. 그럼에도 불구하고 관리자가 매번 새로운 작업 가이드를 작성하는 것은 관리자의 인력과 시간을 불필요하게 낭비하는 문제점을 갖는다.

또한, 프로그램이 진행되는 과정에서, 가이드 작성 시 관리자가 예상하지 못한 반려 사유가 반복적으로 발생하기도 하는데, 이러한 반려 사유에 관하여 주의해야 할 내용은 이미 작성된 작업 가이드에 포함되어 있지 않다. 따라서, 신규 작업자는 해당 반려 사유에 관한 사전 학습 기회를 갖지 못하게 되고, 무엇보다 반복적인 반려 사유가 발생될 때마다 작업 가이드를 수정하는 것은 관리자에 대해 추가 비용과 인력을 소모해야 하는 문제로 이어진다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트 간 작업 단가 조정을 통한 작업자의 프로젝트 유입 조절 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법은 컴퓨터에 의해 수행되는 방법으로서, 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "프로젝트")의 속성을 식별하는 단계, 복수의 유형의 표준 작업 가이드를 포함하는 표준 작업 가이드 풀 중에서 상기 오픈 예정인 프로젝트의 속성에 상응하는 표준 작업 가이드를 불러오는 단계, 상기 오픈 예정인 프로젝트의 관리자에 의한 작업 시연을 기록한 이미지 또는 비디오를 생성하고, 상기 이미지 또는 비디오를 기초로 모범 작업 결과 예시에 관한 제1 콘텐츠 및 불량 작업 결과 예시에 관한 제2 콘텐츠를 생성하는 단계 및 상기 제1 콘텐츠를 상기 표준 작업 가이드의 제1 영역에 삽입하고, 상기 제2 콘텐츠를 상기 표준 작업 가이드의 제2 영역에 삽입하여 상기 오픈 예정인 프로젝트의 작업 가이드를 완성하는 단계를 포함하고, 상기 표준 작업 가이드는 (i) 프로젝트의 속성별로 공통적인 작업 수행 방식에 관한 내용이 사전에 삽입된 표준 작업 설명부와 (ii) 상기 오픈 예정인 프로젝트의 작업자가 수행하게 되는 실제 작업의 작업 수행 방식에 관한 내용의 삽입을 위한 상기 제1 영역 및 상기 제2 영역을 포함하는 작업 특징 설명부를 포함한다. 본 발명의 일부 실시예에서 상기 제1 콘텐츠 및 제2 콘텐츠를 생성하는 단계는, 상기 오픈 예정인 프로젝트의 관리자에게 상기 오픈 예정인 프로젝트의 작업 시연을 위한 인터페이스, 작업 시연을 캡처 또는 녹화하기 위한 인터페이스, 및 작업 시연 결과를 리셋 하기 위한 인터페이스를 제공하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서 상기 방법은 상기 오픈 예정인 프로젝트의 관리자로부터 상기 오픈 예정인 프로젝트의 소스 데이터의 유형에 관한 제1 카테고리 및 작업의 유형에 관한 제2 카테고리를 상기 오픈 예정인 프로젝트의 속성으로서 입력 받는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서 상기 방법은 상기 프로젝트를 오픈하여 개시하고, 상기 프로젝트에 참여하는 복수의 작업자에게 상기 프로젝트의 작업 가이드를 제공하는 단계, 상기 프로젝트의 복수의 작업을 상기 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계, 상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는 단계, 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계, 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는 단계 및 상기 복수의 작업 결과에 대한 복수의 검수 결과를 기초로 상기 작업 가이드를 갱신하는 단계를 더 포함하고, 상기 작업 가이드를 갱신하는 단계는, 상기 검수 결과가 반려로 입력된 복수의 작업 결과를 기초로 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하는 단계와 상기 제3 콘텐츠를 상기 표준 작업 가이드의 제3 영역에 삽입하여 상기 작업 가이드를 갱신하는 단계를 포함할 수 있다. 본 발명의 일부 실시예에서 상기 검수 결과를 입력 받는 단계는, 상기 검수 결과가 반려인 경우 상기 검수자로부터 반려 사유 메시지를 함께 입력받고, 상기 제3 콘텐츠를 생성하는 단계는, 상기 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지에 기초하여 누적 빈도가 소정 횟수 이상인 반려 사유를 대상 반려 사유로 식별하는 단계와, 상기 검수 결과가 반려로 입력된 복수의 작업 결과 중 상기 대상 반려 사유에 상응하는 작업 결과를 이용하여 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성할 수 있다.

본 발명의 일부 실시예에서 상기 대상 반려 사유로 식별하는 단계는, 상기 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지의 문장 유사도 분석 및 키워드 분석을 통해서 상기 대상 반려 사유로 식별하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서 상기 제3 콘텐츠는 상기 대상 반려 사유에 상응하는 작업 결과 중 가장 최근의 작업 결과 및 상기 가장 최근의 작업 결과의 반려 사유 메시지를 포함할 수 있다.

본 발명의 일부 실시예에서 상기 작업자가 상기 작업 가이드 상의 상기 제3 콘텐츠를 선택하면, 상기 작업자에게 상기 대상 반려 사유에 상응하는 작업 결과 중 최근 순서로 소정 개수의 작업 결과를 제공하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서 상기 대상 반려 사유로 식별하는 단계는, 상기 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지에 기초하여 누적 빈도가 소정 횟수 이상이지만 단위 기간 동안의 빈도가 소정 비율 이상으로 감소한 반려사유는 상기 대상 반려 사유로 식별하지 않는 단계를 더 포함할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합하여 상기 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장될 수 있다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 프로젝트의 속성에 상응하는 표준 작업 가이드를 표준 작업 가이드 풀에서 불러올 수 있다. 그리고 표준 작업 가이드에는 프로젝트 속성별로 공통적인 작업 수행 방식에 관한 내용이 사전에 작성되어 삽입되어 있다. 따라서, 프로젝트 오픈 시마다 프로젝트의 관리자가 매번 작업 가이드를 전면적으로 새롭게 작성해야 했던 수고를 줄일 수 있다. 또한, 각 프로젝트의 특성에 따른 구체적인 작업 수행 방식에 관하여는 프로젝트의 관리자에 의한 작업 시연으로 콘텐츠를 생성하고, 이를 기초로 작업 가이드를 완성함으로써, 작업자가 작업 수행 방식에 관해 구체적이고 명확하게 숙지할 수 있으며, 작업 가이드 생성을 위해 소요되는 프로젝트 관리자의 인력과 시간을 절감할 수도 있다.

또한, 프로젝트를 진행하는 과정에서 반복하여 발생하는 반려 사유를 식별하여 콘텐츠를 생성하고, 이를 기초로 작업 가이드를 갱신함으로써, 프로젝트의 관리자가 작업 가이드 작성 당시 예상하지 못했던 반려 사유에 대한 내용을 작업 가이드에 포함시킬 수 있다. 이를 통해, 반복하여 발생하는 반려 사유에 대하여 프로젝트의 신규 작업자와 작업 결과의 품질이 낮은 기존의 작업자가 숙지함으로써, 궁극적으로 작업 결과의 품질을 높일 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법을 개략적으로 나타낸 순서도이다.
도 4는 프로젝트의 속성이 소스 데이터의 유형과 작업의 유형에 따라서 분류되어 결정되는 것을 설명하기 위한 작업 화면의 예시도이다.
도 5는 본 발명의 일 실시예에 따른 프로젝트의 속성에 상응하는 표준 작업 가이드 불러오는 것을 설명하기 위한 도면이다.
도 6은 표준 작업 가이드의 개략적인 구성도이다.
도 7은 본 발명의 일 실시예에 따른 프로젝트의 관리자에게 제공되는 작업 시연을 위한 인터페이스에 관한 예시도이다.
도 8은 본 발명의 일 실시예에 따른, 프로젝트의 관리자에 의한 작업 시연을 기초로 생성된, 제1 콘텐츠와 제2 콘텐츠를 각각 제1 영역과 제2 영역에 삽입하여 작업 가이드를 완성시키는 것을 나타내는 도면이다.
도 9는 본 발명의 일 실시예에 따른 검수 결과에 기초하여 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.
도 10은 본 발명의 일 실시예에 따른, 표준 작업 가이드에 불량 작업 결과 사례에 관한 제3 콘텐츠를 삽입하여 작업 가이드를 갱신하는 것을 개략적으로 나타낸 순서도이다.
도 11은 갱신된 작업 가이드의 개략적인 구성도이다.
도 12는 본 발명의 일 실시예에 따라, 반려 사유 메시지에 기초하여 대상 반려 사유를 식별하고, 대상 반려 사유에 상응하는 작업 결과를 이용하여 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하는 방법을 개략적으로 나타낸 순서도이다.
도 13은 본 발명의 일 실시예에 따른, 제3 콘텐츠 선택 시 대상 반려 사유에 상응하는 소정 개수의 작업 결과를 제공하는 것을 나타내는 예시도이다.
도 14는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈 된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

이하, 도 3 내지 도 13을 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법을 설명한다. 앞서 도 1 및 도 2를 참조하여 설명한 크라우드소싱 서비스의 구성 및 크라우드소싱 기반 프로젝트의 진행 프로세스와 관련하여 중복되는 내용은 그 상세한 설명을 생략하도록 한다.

작업 가이드는 작업 수행에 앞서 프로젝트에 참여하는 작업자(32)에게 제공되는 교육 자료이다. 신규 작업자(32) 뿐만 아니라, 프로젝트에 기 참여 중인 작업자(32)도 필요에 따라 언제든지, 예를 들어 작업 수행 중에, 작업 가이드를 열람할 수도 있다. 또한, 작업자(32)가 임의의 프로젝트의 작업 수행을 시작할 때마다 매번 작업 가이드가 제공될 수 있다. 작업 가이드는 해당 프로젝트의 작업 형태 및 작업 수행 방식에 관한 내용을 포함한다. 예를 들어, 작업 가이드는 작업 수행 규칙, 작업 수행 순서, 작업 수행시 준수해야 하는 사항, 주의해야 하는 사항 등을 포함한다.

작업자가 작업 수행에 앞서 해당 프로젝트의 작업 가이드를 숙지함으로써, 신속하고 효율적인 작업 수행을 도모하고 작업 결과의 품질을 높일 수 있다. 이러한 작업 가이드는 작업자의 작업 환경에 따라 애플리케이션 또는 웹사이트 상에서 팝업 창 또는 웹 페이지 형태로 제공될 수 있으나, 이에 제한되는 것은 아니다.

한편, 도 3, 도 9, 도10 및 도 12에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법을 개략적으로 나타낸 순서도이다.

먼저, 도 3을 참조하면 서버는 오픈 예정인 프로젝트의 속성을 식별한다(S110).

이때, 프로젝트의 속성은 소스 데이터의 유형에 따라 분류되어 결정될 수 있다. 예를 들어, 프로젝트의 속성은 소스 데이터의 유형에 따라서 이미지, 비디오, 텍스트 또는 오디오로 분류되어 결정될 수 있다. 한편, 프로젝트의 속성은 상술한 각각의 유형이 결합된 복합적인 형태를 가질 수 있다. 예를 들어, 작업자에게 특정 객체에 관한 이미지 또는 비디오 데이터를 수집하여 제출할 것을 요구하는 프로젝트의 경우 프로젝트의 속성은 이미지와 비디오로 결정될 수 있다.

또한, 프로젝트의 속성은 세부적으로 작업자의 작업 방식의 유형에 따라서 분류되어 결정될 수 있다. 구체적으로, 작업 방법의 유형에 따라서 수집, 바운딩(Bounding), 라벨링(Labeling), 태깅(Tagging), 라벨링(Labeling) 등으로 분류되어 프로젝트의 속성이 결정될 수 있다. 그러나 이에 제한되는 것은 아니다.

한편, 본 발명의 일 실시예로 프로젝트의 속성은 상술한 소스 데이터의 유형 및 작업 방법의 유형으로 결정될 수 있다. 구체적으로 제1 카테고리로 프로젝트의 소스 데이터의 유형에 따라 분류되고 제2 카테고리로 프로젝트의 작업의 유형에 따라서 분류되어 결정될 수 있다.

예를 들어, 프로젝트의 소스 데이터의 유형이 이미지인 경우, 2차 카테고리는 작업 유형에 따라 수집, 바운딩, OCR(Optical Character Recognition), 랜드마크, 라벨링(Labeling), 속성 분류, 기타 등으로 분류될 수 있다. 소스 데이터의 유형이 비디오인 경우, 2차 카테고리는 작업 유형에 따라 수집, 구간 추출, 태깅, 라벨링, 랜드마크, 특성 평가 또는 기타 등으로 분류될 수 있다. 또한, 소스 데이터의 유형이 텍스트인 경우에는, 2차 카테고리는 작업 유형에 따라 Q&A 대화셋, 태깅, 형태소 분석, 화행 분석, 문장 만들기 또는 기타 등으로 분류될 수 있다. 마지막으로 소스 데이터의 유형이 오디오인 경우, 2차 카테고리는 작업 유형에 따라 수집, 듣고 받아쓰기, 기타 등으로 분류될 수 있다.

도 4는 프로젝트의 속성이 소스 데이터의 유형과 작업의 유형에 따라서 분류되어 결정되는 것을 설명하기 위한 작업 화면의 예시도이다.

도 4를 참조하면, 제시된 프로젝트에 참여한 작업자는 주어진 이미지에서 특정 객체인, 돼지를 나타내는 영역을 선택하는 바운딩(Bounding) 작업을 수행하게 된다. 이때, 상술한 본 발명의 일 실시예에 따라 프로젝트의 속성은 제1 카테고리로 프로젝트의 소스 데이터의 유형인 이미지로 분류되고, 제2 카테고리로 프로젝트의 작업 유형에 따라 바운딩으로 분류되어 결정될 것이다.

한편, 본 발명의 일 실시예로, 오픈 예정인 프로젝트의 관리자로부터 해당 프로젝트의 소스 데이터의 유형에 관한 제1 카테고리 및 작업의 유형에 관한 제2 카테고리를 상기 오픈 예정인 프로젝트의 속성으로서 입력 받는 단계(미도시)를 더 포함할 수 있다.

구체적으로, 프로젝트의 속성이 소스 데이터의 유형 및 작업 방법의 유형에 기초하여 결정되는 경우, S110 단계 이전에 오픈 예정인 프로젝트의 관리자로부터 해당 프로젝트의 소스 데이터의 유형 및 작업 방법 유형에 관한 정보를 입력받고, 입력된 정보를 기초하여 해당 프로젝트의 속성으로 식별하는 것이다.

예를 들어, 다시 도 4를 참조하면, 도 4에서 제시된 프로젝트가 오픈 예정인 경우, 해당 프로젝트의 관리자는 프로젝트의 제1 속성을 이미지로 제2 속성을 바운딩으로 입력할 것이다. 그리고 서버는 관리자에 의해 입력된 정보에 기초하여 프로젝트의 제1 속성을 이미지로 제2 속성을 바운딩으로 결정한다.

한편, 플랫폼 서버가 프로젝트의 속성을 식별하면(S110), 복수의 유형의 표준 작업 가이드를 포함하는 표준 작업 가이드 풀 중에서 상기 오픈 예정인 프로젝트의 속성에 상응하는 표준 작업 가이드를 불러온다(S120).

도 5는 본 발명의 일 실시예에 따른 프로젝트의 속성에 상응하는 표준 작업 가이드 불러오는 것을 설명하기 위한 도면이고 도 6은 표준 작업 가이드의 개략적인 구성도이다.

여기서, 표준 작업 가이드는, 프로젝트의 속성 유형에 따라 템플릿화되어 사전에 생성된 작업 가이드를 의미한다. 도 6을 참조하면, 각각의 표준 작업 가이드는 표준 작업 설명부(50)와 작업 특징 설명부(60)를 포함한다. 표준 작업 설명부(50)에는 프로젝트의 속성별로 공통적인 작업 방식에 관한 정형화되고 일반적인 내용이 포함된다. 반면에, 작업 특징 설명부(60)에는 오픈 예정인 각각의 프로젝트에서 작업자가 수행하게 되는 실제 작업의 작업 방식에 관한 구체적인 내용이 삽입되어야 하는 부분이다. 한편, 각각의 표준 작업 가이드는 표준 작업 설명부(50)의 내용이 사전에 작성되어 표준 작업 가이드 풀에 저장된다. 그리고 각각의 표준 작업 가이드의 작업 특징 설명부(60)는 공백 상태인 채로 표준 작업 가이드 풀에 저장되지만, 후술하는 바와 같이, 프로젝트의 관리자에 의해서 실제적이고 구체적인 작업 방식에 관한 내용이 이미지 또는 비디오로 생성되어 삽입된다.

예를 들어, 도 5를 참조하면, 도 5에서 제시된 프로젝트의 속성이 제1 카테고리는 이미지로, 제2 카테고리는 바운딩으로 분류되어 결정된 경우, 표준 작업 가이드 풀에서 해당 프로젝트의 속성에 상응하는 표준 작업 가이드를 불러온다. 이때 불러온 표준 작업 가이드의 표준 작업 설명부(50)에는 작업자에게 제공되는 이미지에서 특정 객체의 영역을 선택하는 바운딩 작업 방식에 관한 일반적인 내용이 사전에 작성되어 포함되어 있을 것이다. 그리고 작업 특징 설명부(60)는 아직 공백 상태이지만, 해당 프로젝트에서 작업자가 돼지 객체를 포함하는 이미지에서 돼지를 바운딩하는 구체적인 작업 방식에 관한 내용이 이후 작성되어 포함될 것이다.

한편, 상기 표준 작업 설명부(50)와 작업 특징 설명부(60)는 각각 포함하고 있는 설명 내용에 따라 표준 작업 가이드 내에서 상대적으로 구분되어 결정될 수 있다. 또는 상기 표준 작업 가이드 내에서 서로 겹치지 않도록 위치 및 영역 크기가 정의되어 배치될 수도 있다. 그러나 이에 제한되는 것은 아니다.

프로젝트의 속성에 상응하는 표준 작업 가이드를 불러오면(S120), 오픈 예정인 프로젝트의 관리자에 의한 작업 시연을 기록한 이미지 데이터 또는 비디오 데이터를 생성하고, 이를 기초로 모범 작업 결과 예시에 관한 제1 콘텐츠 및 불량 작업 결과 예시에 관한 제2 콘텐츠를 생성한다(S130).

구체적으로, 프로젝트의 관리자가 해당 프로젝트에서 작업자에게 배정되는 작업 중 적어도 하나를 시범적으로 수행하면, 서버는 관리자의 작업 수행 과정을 기록하여 이미지 데이터 또는 비디오 데이터를 생성한다. 그리고 생성된 데이터를 이용하여 작업 특징 설명부(60)에 삽입될 작업 결과 예시에 관한 콘텐츠를 생성한다. 이때, 관리자는 해당 프로젝트의 모범 작업 결과 예시를 구현하는 작업 수행과 불량 작업 결과 예시를 구현하는 작업 수행을 독립적으로 시연할 수 있다.

한편, 상기 모범 작업 결과는 검수자의 검수 수행 시 검수 결과가 검수 통과로 입력되는 작업 결과를 의미한다.

반면에, 상기 불량 작업 결과는 검수자의 검수 수행 시 검수 결과가 반려로 입력되는 작업 결과를 의미한다. 불량 작업 결과 예시는 작업 가이드를 준수하지 않은 형태의 작업 결과물과 작업 가이드를 준수하지 않은 부적합한 작업 수행 방법을 모두 포함한다.

한편, 본 발명의 일 실시예로, 제1 콘텐츠 및 제2 콘텐츠를 생성하는 단계는, 오픈 예정인 프로젝트의 관리자에게 상기 오픈 예정인 프로젝트의 작업 시연을 위한 인터페이스, 작업 시연을 캡처 또는 녹화하기 위한 인터페이스, 및 작업 시연 결과를 리셋 하기 위한 인터페이스를 제공하는 단계를 포함할 수 있다.

도 7은 본 발명의 일 실시예에 따른 프로젝트의 관리자에게 제공되는 작업 시연을 위한 인터페이스에 관한 예시도이다.

도 7을 참조하면, 돼지 바운딩 프로젝트의 관리자는 작업자에게 배정되는 작업 중 적어도 하나에 대한 작업을 시범적으로 수행한다. 이때, 작업 콘텐츠를 생성하기 위해 관리자의 작업 수행을 녹화 또는 캡쳐(Capture)할 수 있는 인터페이스가 제공될 수 있다. 관리자는 제공된 인터페이스를 통해 작업 시연에 관한 동영상 또는 이미지 촬영이 가능하다.

한편, 서버는 S130 단계에서 생성된 제1 콘텐츠를 상기 표준 작업 가이드의 제1 영역에 삽입하고, 제2 콘텐츠를 표준 작업 가이드의 제2 영역에 삽입하여, 상기 오픈 예정인 프로젝트의 작업 가이드를 완성한다(S140).

도 8은 본 발명의 일 실시예에 따른, 프로젝트의 관리자에 의한 작업 시연을 기초로 생성된 제1 콘텐츠와 제2 콘텐츠를 각각 제1 영역과 제2 영역에 삽입하여 작업 가이드를 완성시키는 것을 나타내는 도면이다.

다시, 도 6을 참조하면, 제1 영역(61)과 제2(62) 영역은 모두 작업 특징 설명부(60) 내에서 형성된다. 이때, 도 8을 참조하면, 제1 영역(61)에는 관리자에 의해 구현된 모범 작업 결과 예시에 관한 콘텐츠가 제2 영역(62)에는 관리자에 의해 구현된 불량 작업 결과 예시에 관한 콘텐츠가 각각 삽입됨으로써 작업 가이드가 완성된다. 다시 말해, 작업 특징 설명부에는 프로젝트에 참여하는 작업자를 위한 작업 수행에 관한 시청각 자료로서, 제1 콘텐츠와 제2 콘텐츠가 삽입되어, 이로써 작업 가이드를 완성하는 것이다.

작업자는 S140 단계에서 완성된 작업 가이드를 숙지함으로써 해당 프로젝트의 작업을 보다 수월히 수행할 수 있다. 보다 상세히, 작업 가이드의 표준 작업 설명부(50)를 통해 해당 프로젝트의 작업에 관한 정형화되고 일반적인 작업 수행 방식을 이해하고, 작업 특징 설명부(60)에 삽입된 관리자의 시연 콘텐츠를 통해 해당 프로젝트의 실제 작업에 관한 특수하고 구체적인 작업 방식에 관하여 자세히 숙지함으로써, 작업자는 보다 쉽게 작업 수행이 가능할 것이다.

프로젝트 관리자는 프로젝트가 오픈되기 전에, 각각의 프로젝트의 작업 특성에 맞는 작업 가이드를 작성해야 한다. 다시 말해, 프로젝트가 오픈 될 때마다 프로젝트의 작업 가이드를 새롭게 작성해야 한다. 다만, 각각의 프로젝트의 작업 가이드에는 공통적인 작업 방식으로부터 기인한 동일하거나 유사한 내용을 가지고 있음에도 불구하고, 이와 같이 프로젝트 관리자가 프로젝트의 오픈 시마다 작업 가이드를 새롭게 작성하는 것은 관리자의 인력과 시간을 불필요하게 낭비하는 문제점이 있다. 따라서, 프로젝트의 속성에 따라 작성되어 저장된 표준 작업 가이드를 기초로, 각각의 프로젝트의 구체적인 작업 방법에 관한 콘텐츠를 자동으로 생성하고 이를 기초로 작업 가이드를 완성함으로써 이러한 문제를 해결할 수 있을 것이다.

한편, 프로젝트가 진행되는 과정에서, 프로젝트의 관리자가 예상하지 못한, 작업 가이드에 포함되지 않은 반려 사유가 발생할 수 있다. 특히 다수의 작업자에 의해 반복하여 발생하는 반려 사유의 경우에는, 신규 작업자의 원활한 작업 수행과 기존 작업자의 작업 결과의 품질 개선을 위해, 이에 관한 내용을 작업 가이드에 포함시킬 필요성이 있다.

다만, 프로젝트의 관리자가 이러한 반려 사유가 발생할 때마다, 반복하여 작업 가이드를 갱신한다면, 이는 관리자의 인력과 시간을 지나치게 낭비하는 문제점을 발생시킨다. 관리자가 프로젝트의 진행 상황을 실시간으로 모니터링해야 하기 때문이다. 본 발명의 일 실시예는 이를 해소하기 위하여, 검수 결과를 바탕으로 작업 가이드에 포함시킬 필요성이 있는 반려 사유를 판단하여, 이를 기초로 작업 가이드를 자동 갱신한다. 이하, 도 9를 참조하여, 이와 관련된 본 발명의 일 실시예에 따른 작업 가이드 갱신 방법에 관하여 자세히 설명한다.

도 9는 본 발명의 일 실시예에 따른 검수 결과에 기초하여 작업 가이드를 갱신하는 방법을 개략적으로 나타낸 순서도이다.

도 9를 참조하면, 프로젝트의 작업 가이드를 완성하면(S140), 해당 프로젝트를 오픈하여 개시하고, 프로젝트에 참여하는 복수의 작업자에게 프로젝트의 작업 가이드를 제공한다(S150). 그리고 프로젝트의 복수의 작업을 상기 복수의 작업자에게 배정하여 작업 수행을 요청한(S160) 후, 복수의 작업자로부터 복수의 작업 결과를 입력 받는다(S170). 입력받은 복수의 작업 결과는 복수의 검수자에게 배정하여 배정받은 작업 결과에 대한 검수 수행을 요청하고(S180), 복수의 검수자로부터 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는다(S190). 그리고 검수자에 의해 입력된 복수의 작업 결과에 대한 복수의 검수 결과에 기초하여 S140 단계에서 완성된 작업 가이드를 갱신한다(S200).

S150 내지 S190 단계에 관한 자세한 설명은 이미 도 1 및 도 2를 참조하여 전술한 바, 생략하도록 한다. S190 단계에서 입력받은 검수자에 의한 복수의 검수 결과를 바탕으로, 작업자가 작업 수행에 앞서 학습할 필요성이 있다고 판단되는 반려 사유를 작업 가이드에 추가하여 갱신한다.

이하, 검수자에 의해 입력된 복수의 작업 결과 중 특정 반려 사유를 기초로 완성된 작업 가이드를 갱신하는 구체적인 방법에 관하여 서술한다.

도 10은 본 발명의 일 실시예에 따른, 표준 작업 가이드에 불량 작업 결과 사례에 관한 제3 콘텐츠를 삽입하여 작업 가이드를 갱신하는 것을 개략적으로 나타낸 순서도이고 도 11은 갱신되는 작업 가이드의 개략적인 구성도이다.

도 10을 참조하면, 본 발명의 일 실시예로, S200 단계는 검수 결과가 반려로 입력된 복수의 작업 결과를 기초로 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하는 단계(S210)와 제3 콘텐츠를 상기 표준 작업 가이드의 제3 영역에 삽입하여 상기 작업 가이드를 갱신하는 단계(S220)를 포함할 수 있다.

도 11을 참조하면, 제3 영역은 표준 작업 가이드의 작업 특징 설명부 내에서 불량 작업 예시 콘텐츠가 삽입된 제2 영역과 인접하여 형성될 수 있다. 그러나 이에 한정하는 것은 아니다.

도 12는 본 발명의 일 실시예에 따라, 반려 사유 메시지에 기초하여 대상 반려 사유를 식별하고, 대상 반려 사유에 상응하는 작업 결과를 이용하여 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하는 방법을 개략적으로 나타낸 순서도이다.

한편, 도 12를 참조하면, 본 발명의 일 실시예로, S170 단계에서 검수 결과가 반려인 경우 검수자로부터 반려 사유 메시지를 함께 입력받을 수 있다. 이때, 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지에 기초하여, 누적 빈도가 소정 횟수 이상인 반려 사유를 대상 반려 사유로 식별하고(S211), 복수의 작업 결과 중 대상 반려 사유에 상응하는 작업 결과를 이용하여 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성할 수 있다(S212).

구체적으로, 프로젝트를 진행하는 과정에서 검수자는 작업 결과를 반려하는 경우, 반려를 하게 된 근거로서 반려 사유 메시지를 입력한다. 반려 사유 메시지를 통해 작업자는 재작업에 앞서 잘못된 작업 결과를 보다 정확하게 수정하여 정확한 작업 결과를 입력할 수 있다. 이때, 발생되는 반려 사유 중, 누적 빈도가 소정 횟수 이상으로 발생하는, 즉 반복하여 지속적으로 발생하는 반려 사유를 대상 반려 사유로 식별한다. 그리고 대상 반려 사유에 관한 제3 콘텐츠를 생성하여 작업 가이드에 삽입함으로써, 작업 가이드를 갱신하는 것이다.

이하, 제3 콘텐츠의 기초가 되는 대상 반려 사유를 식별하는 구체적인 방법에 관하여 설명한다.

본 발명의 일 실시예로, 검수 수행 결과 입력 시, 검수자가 반려 사유 메시지를 함께 입력하는 경우, S211 단계에서는 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지의 문장 유사도 분석 및 키워드 분석을 통해서 상기 대상 반려 사유를 식별하는 단계(미도시)를 포함할 수 있다.

구체적으로, 서버는 각각의 반려 사유 메시지의 하나 이상의 문장이 포함하는 유의미한 키워드를 분석하여 추출한다. 그리고 추출된 키워드를 분석하고 반려 사유 메시지의 문장 유사도를 분석하여, 궁극적으로 반려 사유 메시지에 포함된 반려 사유의 동일성을 판단한다. 이때, 동일하다고 판단된 반려 사유의 누적 빈도가 소정 횟수 이상인 때에는, 해당 반려 사유를 대상 반려 사유로 식별한다.

예를 들어, 특정 작업 결과에 대한 반려 사유 메시지가 "오른쪽 바운딩 경계를 왼쪽 바운딩 경계와 같이 맞출 것"이고, 다른 작업 결과에 대한 반려 사유 메시지가 "왼쪽 바운딩 경계를 맞출 것"이라고 가정한다. 이때, 첫 번째 메시지의 유의미한 키워드는 "왼쪽 바운딩 경계"와 "오른쪽 바운딩 경계"이고 두 번째 메시지의 유의미한 키워드는 "왼쪽 바운딩 경계"일 것이다. 두 반려 사유 메시지 모두 "왼쪽 바운딩 경계"란 키워드를 포함하고 있지만, 문장 유사도의 분석에 의하면 첫 번째 메시지는 오른쪽 바운딩 경계의 수정에 관한 것이고 두 번째 메시지는 왼쪽 바운딩 경계의 수정에 관한 것이다. 따라서, 두 반려 사유 메시지는 동일한 반려 사유로 판단되지 않게 된다.

또한, 동일한 반려 사유로 판단된 반려 사유 중에서도 그 누적 빈도가 소정 횟수 이상인 경우에만, 대상 반려 사유로 식별된다. 특정 반려 사유가 반복적으로 발생한다는 것은, 그에 관한 가이드의 설명이 부족하다는 것을 의미하며, 앞으로 프로젝트에 새롭게 참여하는 작업자들에 의해서도 해당 반려사유가 계속하여 발생할 수 있다는 것을 암시하기도 한다. 따라서, 반려 사유 중에서도 누적 빈도가 소정 횟수 이상인, 계속적으로 반복하여 발생하는 반려 사유만을 대상 반려 사유로 식별하여, 이를 기초로 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하여 작업 가이드를 갱신하는 것이다.

한편, 본 발명의 일 실시예로, 키워드 분석 시 반려 사유 메시지에 포함되는 해당 프로젝트의 속성을 나타내는 단어는 제외될 수 있다.

예를 들어, 돼지 바운딩 프로젝트와 관련하여, 반려 사유 메시지에 '바운딩 박스를 돼지 오른쪽 경계선과 맞출 것'이라는 문장이 포함된 경우, 해당 문장에서의 키워드는 "바운딩", 박스", "돼지", "오른쪽" 그리고 "경계선"이다. 그러나 해당 프로젝트의 속성을 나타내는 단어인, "바운딩"과 "돼지"는 유의미한 키워드로서 추출되지 않는다.

돼지 바운딩 프로젝트를 진행하는 과정에서 입력되는 대부분의 반려 사유 메시지에는 프로젝트의 속성을 나타내는 "돼지" 및 "바운딩" 단어가 포함되기 때문에, "돼지" 및 "바운딩" 단어를 이용하여 반려 사유를 식별하는 것은 불가능할 것이다. 따라서, 프로젝트의 속성을 나타내는 단어들을 제외하고, 반려 사유를 식별하는데 관련성이 높은 단어만을 유의미한 키워드로 추출함으로써, 반려 사유의 동일성 판단의 신속성과 정확성을 높일 수 있다.

한편, 도면에 명확히 명시되지 않았으나, 본 발명의 일 실시예로 S211 단계는, 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지에 기초하여 누적 빈도가 소정 횟수 이상이지만 단위 기간 동안의 빈도가 소정 비율 이상으로 감소한 반려사유는 상기 대상 반려 사유로 식별하지 않는 단계(미도시)를 더 포함할 수 있다.

작업자는 특정 프로젝트에 참여하여 동일한 유형의 작업을 반복적으로 수행하면서, 해당 프로젝트에 관한 작업 수행 능력을 향상시킬 수 있다. 따라서, 초기에 빈번하게 발생했던 반려 사유도 작업자의 작업 능력이 향상됨에 따라 점차 그 발생 빈도가 줄어들 수 있다.

그럼에도 불구하고, 반려 사유의 누적 빈도가 높다는 이유만으로 대상 반려 사유로 식별하는 것은, 불량 작업 결과 사례에 관한 제3 콘텐츠의 내용을 불필요하게 늘려 작업자가 반드시 숙지해야 하는 불량 작업 결과 사례에 대한 전달력을 떨어뜨릴 수 있다. 따라서, 누적 빈도가 소정 횟수 이상임에도 불구하고, 단위 기간 동안의 빈도가 소정 비율 이상으로 감소한 반려 사유의 경우, 대상 반려 사유로 식별하지 않는 것이다.

예를 들어, 누적 빈도가 소정 횟수 이상으로 대상 반려사유 식별되어, 제3 콘텐츠로 생성되어 작업 가이드에 삽입된 반려 사유의 주 단위 발생 비율을 트래킹(Tracking)한다. 이때, 대상 반려 사유로 식별된 반려 사유의 주(1 week) 단위 발생 비율이 2주 연속 ½ 이상 감소하여, 궁극적으로 ¼ 이상 감소하였을 때 해당 반려 사유는 대상 반려 사유로 식별하지 않게 된다. 즉, 제3 콘텐츠에서 해당 대상 반려 사유는 제외될 것이다.

한편, 본 발명의 일 실시예로, 상기 제3 콘텐츠는 상기 대상 반려 사유에 상응하는 작업 결과 중 가장 최근의 작업 결과 및 가장 최근의 작업 결과의 반려 사유 메시지를 포함할 수 있다.

도 13은 본 발명의 일 실시예에 따른, 제3 콘텐츠 선택 시 대상 반려 사유에 상응하는 소정 개수의 작업 결과를 제공하는 것을 나타내는 예시도이다.

도 13을 참조하면, 돼지 바운딩 프로젝트를 수행하는 과정에서, "바운딩 박스의 여백이 넓다"는 반려 사유가 대상 반려 사유로 식별되었다. 이때, 제3 콘텐츠는 식별된 대상 반려 사유로 반려된 작업 결과 중에서 작업자로부터 입력된 시각이 가장 최근인 작업 결과와 상기 작업 결과의 반려 시 작업자에게 제공된 반려 사유 메시지를 포함할 수 있다.

한편, 본 발명의 일 실시예로, 제3 콘텐츠로 대상 반려 사유에 상응하는 작업 결과 중 가장 최근의 작업 결과 및 가장 최근의 작업 결과의 반려 사유 메시지가 포함되는 경우, 작업자가 작업 가이드 상의 제3 콘텐츠를 선택하면, 상기 작업자에게 상기 대상 반려 사유에 상응하는 작업 결과 중 최근 순서로 소정 개수의 작업 결과를 제공하는 단계를 더 포함할 수 있다.

다시 도 13을 참조하면, 작업자가 작업 가이드 상의 제3 콘텐츠인, "바운딩 박스의 여백이 넓다"는 대상 반려 사유에 상응하는 가장 최근 작업 결과 이미지를 클릭하여 선택하면, 상기 대상 반려 사유에 상응하는 작업 결과 중 2개의 작업 결과가 제공됨을 알 수 있다. 명확하게 도시되지 않았으나, 제공된 2개의 작업 결과는 최근 순서로서 제공될 수 있다. 한편, 이를 통해, 작업자는 대상 반려 사유에 대하여 보다 구체적이고 자세히 학습하여 작업 수행에 참여할 수 있다. 그리고 프로젝트를 진행하는 과정에서 대상 반려 사유의 발생을 감소시킬 수 있을 것이다.

한편, 상술한 설명에서, 단계 S110 내지 S210은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 14의 내용은 도 1 내지 도 13의 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법에도 적용될 수 있다.

이하, 도 14를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 장치에 대하여 설명하도록 한다.

도 14는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 장치를 설명하기 위한 도면이다.

도 14를 참조하면, 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 장치(300)(이하, 장치)는 통신모듈(310), 메모리(320) 및 프로세서(330)를 포함한다.

통신모듈(310)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 통신모듈(310)은 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다. 이때 반려된 검수 결과에 대하여는 상응하는 재작업을 작업자(32)에게 송신하여 재작업 수행을 요청하고, 상기 작업자(32)로부터 재작업 결과를 수신한다.

메모리(320)에는 통신모듈(310)로부터 수신한 데이터에 기초하여 프로젝트의 작업 가이드 자동 생성을 하기 위한 프로그램이 저장된다.

프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킨다. 프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킴에 따라, 도 3 내지 도 13을 참조하여 설명한 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법을 수행할 수 있다.

도 14를 참조하여 설명한 장치(300)는 상술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 컴퓨터 판독가능 기록 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자

Claims (10)

1. 컴퓨터에 의해 수행되는 방법으로서,
   오픈 예정인 크라우드소싱 기반 프로젝트(이하, "프로젝트")의 속성을 식별하는 단계;
   복수의 유형의 표준 작업 가이드를 포함하는 표준 작업 가이드 풀 중에서 상기 오픈 예정인 프로젝트의 속성에 상응하는 표준 작업 가이드를 불러오는 단계;
   상기 오픈 예정인 프로젝트의 관리자에 의한 작업 시연을 기록한 이미지 또는 비디오를 생성하고, 상기 이미지 또는 비디오를 기초로 모범 작업 결과 예시에 관한 제1 콘텐츠 및 불량 작업 결과 예시에 관한 제2 콘텐츠를 생성하는 단계; 및
   상기 제1 콘텐츠를 상기 표준 작업 가이드의 제1 영역에 삽입하고, 상기 제2 콘텐츠를 상기 표준 작업 가이드의 제2 영역에 삽입하여 상기 오픈 예정인 프로젝트의 작업 가이드를 완성하는 단계를 포함하고,
   상기 표준 작업 가이드는 (i) 프로젝트의 속성별로 공통적인 작업 수행 방식에 관한 내용이 사전에 삽입된 표준 작업 설명부와 (ii) 상기 오픈 예정인 프로젝트의 작업자가 수행하게 되는 실제 작업의 작업 수행 방식에 관한 내용의 삽입을 위한 상기 제1 영역 및 상기 제2 영역을 포함하는 작업 특징 설명부를 포함하고,
   상기 제1 콘텐츠 및 제2 콘텐츠를 생성하는 단계는,
   상기 오픈 예정인 프로젝트의 관리자에게 상기 오픈 예정인 프로젝트의 작업 시연을 위한 인터페이스, 작업 시연을 캡처 또는 녹화하기 위한 인터페이스, 및 작업 시연 결과를 리셋 하기 위한 인터페이스를 제공하는 단계와,
   상기 인터페이스를 통해서, 상기 오픈 예정인 프로젝트의 관리자가 상기 오픈 예정인 프로젝트의 복수의 작업 중 적어도 하나의 작업을 시범적으로 수행하여 상기 모범 작업 결과를 구현하면, 상기 관리자에 의한 작업 시연을 캡처 또는 녹화하여 상기 이미지 또는 비디오를 생성하고, 상기 모범 작업 결과 예시에 관한 이미지 또는 비디오를 기초로 상기 제1 콘텐츠를 생성하는 단계와,
   상기 인터페이스를 통해서, 상기 오픈 예정인 프로젝트의 관리자가 상기 오픈 예정인 프로젝트의 복수의 작업 중 적어도 하나의 작업을 시범적으로 수행하여 상기 불량 작업 결과를 구현하면, 상기 관리자에 의한 작업 시연을 캡처 또는 녹화하여 상기 이미지 또는 비디오를 생성하고, 상기 불량 작업 결과 예시에 관한 이미지 또는 비디오를 기초로 상기 제2 콘텐츠를 생성하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
2. 삭제
3. 제1항에 있어서,
   상기 오픈 예정인 프로젝트의 관리자로부터 상기 오픈 예정인 프로젝트의 소스 데이터의 유형에 관한 제1 카테고리 및 작업의 유형에 관한 제2 카테고리를 상기 오픈 예정인 프로젝트의 속성으로서 입력 받는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
4. 제1항에 있어서,
   상기 프로젝트를 오픈하여 개시하고, 상기 프로젝트에 참여하는 복수의 작업자에게 상기 프로젝트의 작업 가이드를 제공하는 단계;
   상기 프로젝트의 복수의 작업을 상기 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계;
   상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는 단계;
   상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
   상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는 단계; 및
   상기 복수의 작업 결과에 대한 복수의 검수 결과를 기초로 상기 작업 가이드를 갱신하는 단계를 더 포함하고,
   상기 작업 가이드를 갱신하는 단계는,
   상기 검수 결과가 반려로 입력된 복수의 작업 결과를 기초로 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하는 단계와,
   상기 제3 콘텐츠를 상기 표준 작업 가이드의 제3 영역에 삽입하여 상기 작업 가이드를 갱신하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드의 자동 생성 방법.
5. 제4항에 있어서,
   검수 결과를 입력 받는 단계는,
   상기 검수 결과가 반려인 경우 상기 검수자로부터 반려 사유 메시지를 함께 입력 받고,
   상기 제3 콘텐츠를 생성하는 단계는,
   상기 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지에 기초하여 누적 빈도가 소정 횟수 이상인 반려 사유를 대상 반려 사유로 식별하는 단계와,
   상기 검수 결과가 반려로 입력된 복수의 작업 결과 중 상기 대상 반려 사유에 상응하는 작업 결과를 이용하여 불량 작업 결과 사례에 관한 제3 콘텐츠를 생성하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
6. 제5항에 있어서,
   상기 대상 반려 사유로 식별하는 단계는,
   상기 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지의 문장 유사도 분석 및 키워드 분석을 통해서 상기 대상 반려 사유로 식별하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
7. 제5항에 있어서,
   상기 제3 콘텐츠는 상기 대상 반려 사유에 상응하는 작업 결과 중 가장 최근의 작업 결과 및 상기 가장 최근의 작업 결과의 반려 사유 메시지를 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
8. 제7항에 있어서,
   상기 작업자가 상기 작업 가이드 상의 상기 제3 콘텐츠를 선택하면, 상기 작업자에게 상기 대상 반려 사유에 상응하는 작업 결과 중 최근 순서로 소정 개수의 작업 결과를 제공하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
9. 제6항에 있어서,
   상기 대상 반려 사유로 식별하는 단계는,
   상기 검수 결과가 반려로 입력된 복수의 작업 결과의 복수의 반려 사유 메시지에 기초하여 누적 빈도가 소정 횟수 이상이지만 단위 기간 동안의 빈도가 소정 비율 이상으로 감소한 반려사유는 상기 대상 반려 사유로 식별하지 않는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법.
10. 컴퓨터와 결합하여, 제1항, 제3항 내지 제9항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 작업 가이드의 자동 생성 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

Images