KR20240060268A - 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체 - Google Patents

Abstract

본 발명은 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체에 관한 것으로서, 더욱 상세하게는, 사용자로부터 제공받은 데이터셋에 포함된 복수의 데이터에 대한 라벨링을 자동적으로 수행하기 위하여, 데이터셋에 포함된 일부의 데이터를 선택하고, 데이터셋에 포함된 복수의 데이터와 유사한 데이터를 데이터베이스에서 선택하고, 상기 선택된 일부의 데이터 및 데이터베이스에서 선택한 데이터를 학습데이터로 하여 기계학습모델을 학습시킨 후에, 데이터셋에서 선택되지 않은 나머지 데이터에 대해서는 학습된 기계학습모델을 사용하여 해당 데이터에 대한 레이블링을 수행함으로써, 효과적으로 레이블링 작업을 처리할 수 있는, 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체에 관한 것이다.

Description

데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체 {Method, Server and Computer-readable Medium for Automatically Processing the Labeling of Data}

본 발명은 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체에 관한 것으로서, 더욱 상세하게는, 사용자로부터 제공받은 데이터셋에 포함된 복수의 데이터에 대한 라벨링을 자동적으로 수행하기 위하여, 데이터셋에 포함된 일부의 데이터를 선택하고, 데이터셋에 포함된 복수의 데이터와 유사한 데이터를 데이터베이스에서 선택하고, 상기 선택된 일부의 데이터 및 데이터베이스에서 선택한 데이터를 학습데이터로 하여 기계학습모델을 학습시킨 후에, 데이터셋에서 선택되지 않은 나머지 데이터에 대해서는 학습된 기계학습모델을 사용하여 해당 데이터에 대한 레이블링을 수행함으로써, 효과적으로 레이블링 작업을 처리할 수 있는, 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체에 관한 것이다.

최근 인공지능에 대한 연구 및 개발된 인공지능을 기반으로 하는 다양한 서비스들이 등장함에 따라서, 더욱더 고도화된 인공지능 모델을 개발하기 위한 노력들이 이루어지고 있다. 구체적으로, 최근에는 기계학습모델의 구조를 개선하는 것뿐만 아니라, 기계학습모델의 학습에 사용되는 학습데이터의 양과 품질을 향상시키기 위한 연구가 진행되고 있다.

일반적으로, 학습데이터를 확보하기 위하여 기업들이 자체적으로 보유하고 있는 대량의 로우 데이터(raw data)를 학습에 적합하게 가공하는 과정을 거쳐 학습데이터를 구축한다. 예를 들어, 이미지에 포함된 사람을 식별하는 기계학습모델의 학습을 위하여, 로우 데이터 각각에 포함된 사람의 영역을 레이블링(labeling)하는 것으로 해당 기계학습모델에 대한 학습데이터를 구축할 수 있다.

한편, 기업에서 보유하고 있는 로우 데이터는 수십 개가 아니라, 많게는 수백만 개까지 매우 방대하기 때문에, 기업에서 자체적으로 학습데이터로 가공하기 어려운 문제점이 존재한다. 이러한 문제점을 해결하기 위하여 종래에는 크라우드소싱(crowdsourcing)을 사용하여 로우 데이터를 학습데이터로 가공하기 위한 작업을 복수의 작업자에게 제공하고, 해당 작업에 따른 보상을 작업자에게 제공함으로써, 대량의 학습데이터를 신속하게 구축할 수 있게 되었다.

다만, 종래의 크라우드소싱의 경우 복수의 작업자에게 단순히 작업물에 해당하는 데이터를 제공하고, 작업자는 제공받은 데이터 상에서 레이블링, 예를 들어, 데이터에 포함된 어떤 객체를 표시하고, 해당 객체가 무엇인지에 대한 입력을 수행한다. 즉, 종래의 크라우드소싱 방식의 경우 복수의 작업자들이 병렬적으로 레이블링에 해당하는 작업을 수행하므로, 학습데이터를 비교적 신속하게 구축할 수 있으나, 작업자의 작업 속도는 온전히 작업자의 작업 경험이나, 능력에 따라 결정되기 때문에, 작업자의 작업 속도를 향상시키기 위한 측면에서 종래의 크라우드소싱 방식은 어떠한 고려도 하고 있지 않다.

따라서, 크라우드소싱 방식에서 작업자가 더욱 신속하게 작업을 처리할 수 있도록 하거나, 더 나아가 작업자의 개입 없이 자동적으로 데이터에 대한 레이블링 작업을 처리하기 위한 새로운 방식의 개발이 필요한 상황이다.

본 발명은 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체에 관한 것으로서, 더욱 상세하게는, 사용자로부터 제공받은 데이터셋에 포함된 복수의 데이터에 대한 라벨링을 자동적으로 수행하기 위하여, 데이터셋에 포함된 일부의 데이터를 선택하고, 데이터셋에 포함된 복수의 데이터와 유사한 데이터를 데이터베이스에서 선택하고, 상기 선택된 일부의 데이터 및 데이터베이스에서 선택한 데이터를 학습데이터로 하여 기계학습모델을 학습시킨 후에, 데이터셋에서 선택되지 않은 나머지 데이터에 대해서는 학습된 기계학습모델을 사용하여 해당 데이터에 대한 레이블링을 수행함으로써, 효과적으로 레이블링 작업을 처리할 수 있는, 데이터의 레이블링을 자동적으로 처리하기 위한 방법, 이를 수행하는 서비스서버 및 컴퓨터-판독가능 매체를 제공하는 것을 목적으로 한다.

상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예에서는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 서비스서버에서 수행하는 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법으로서, 사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계; 상기 서비스서버에 포함된 데이터베이스 혹은 상기 서비스서버와 통신을 수행하는 외부의 데이터베이스에 포함된 복수의 데이터집합 가운데 상기 데이터셋에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계; 상기 제1데이터선택단계에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋을 사용하여 레이블링모델을 학습시키는 레이블링모델학습단계; 및 학습된 상기 레이블링모델을 사용하여 상기 데이터셋에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계;를 포함하는, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법을 제공한다.

본 발명의 일 실시예에서는, 상기 제2개수의 데이터집합 각각은, 레이블링의 대상에 해당하는 데이터 및 해당 데이터에 대하여 자동적 혹은 수동적으로 레이블링된 레이블데이터를 포함할 수 있다.

본 발명의 일 실시예에서는, 상기 제2개수의 데이터집합 각각은, 해당 데이터를 피처 임베딩 모델에 입력하여 도출된 해당 데이터에 대한 특징벡터를 더 포함할 수 있다.

본 발명의 일 실시예에서는, 상기 제2데이터집합선택단계는, 상기 데이터셋에 포함된 복수의 데이터 각각을 피처 임베딩 모델에 입력하여 복수의 데이터 각각에 대한 특징벡터들을 도출하는 특징벡터도출단계; 및 상기 데이터베이스에 포함된 복수의 데이터집합 각각에 대하여 상기 복수의 특징벡터들과의 유사도를 산출하고, 상기 복수의 데이터집합 각각의 유사도에 기설정된 규칙을 적용하여 제2개수의 데이터집합을 선택하는 유사도선택단계;를 포함할 수 있다.

본 발명의 일 실시예에서는, 상기 자동레이블링단계는, 상기 서비스서버와 통신을 수행하는 복수의 작업자단말 각각에 상기 데이터셋에서 선택되지 않은 나머지 데이터를 작업물로서 제공하는 작업물제공단계; 상기 작업자단말 각각에 제공된 데이터에 상응하는 자동레이블데이터를 제공하는 자동레이블데이터제공단계; 및 상기 작업자단말로부터 자동레이블데이터에 대한 검토결과를 수신하는 검토결과수신단계;를 포함할 수 있다.

상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예에서는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하여, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법을 수행하는 서비스서버로서, 사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계; 상기 서비스서버에 포함된 데이터베이스 혹은 상기 서비스서버와 통신을 수행하는 외부의 데이터베이스에 포함된 복수의 데이터집합 가운데 상기 데이터셋에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계; 상기 제1데이터선택단계에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋을 사용하여 레이블링모델을 학습시키는 레이블링모델학습단계; 및 학습된 상기 레이블링모델을 사용하여 상기 데이터셋에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계;를 수행하는, 서비스서버를 제공한다.

상기와 같은 과제를 해결하기 위하여, 본 발명의 일 실시예에서는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 서비스서버에서 수행하는 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법을 구현하기 위한 컴퓨터-판독가능 매체로서, 상기 컴퓨터-판독가능 매체는, 상기 서비스서버로 하여금 이하의 단계들을 수행하도록 하는 컴퓨터 실행가능 명령어들을 포함하고, 상기 이하의 단계들은: 사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계; 상기 서비스서버에 포함된 데이터베이스 혹은 상기 서비스서버와 통신을 수행하는 외부의 데이터베이스에 포함된 복수의 데이터집합 가운데 상기 데이터셋에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계; 상기 제1데이터선택단계에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋을 사용하여 레이블링모델을 학습시키는 레이블링모델학습단계; 및 학습된 상기 레이블링모델을 사용하여 상기 데이터셋에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계;를 포함하는, 컴퓨터-판독가능 매체를 제공한다.

본 발명의 일 실시예에 따르면, 데이터셋에 포함된 복수의 데이터 가운데 일부의 데이터를 사용하여 레이블링모델을 학습시키고, 학습된 레이블링모델을 사용하여 데이터셋에서 선택되지 않은 나머지 데이터에 대한 레이블링을 수행함으로써, 데이터에 대한 레이블링 작업을 신속하게 처리할 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면, 데이터셋과 유사한 데이터들을 데이터베이스에서 선택하고, 선택된 데이터들을 추가적으로 사용하여 레이블링모델을 학습시킴으로써, 더욱 효과적으로 레이블링모델을 학습시킬 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면, 데이터셋에서 선택되지 않은 나머지 데이터에 대하여 학습된 레이블링모델에서 도출한 자동레이블데이터를 해당 데이터에 대한 레이블링 작업을 수행하는 작업자의 단말에 제공함으로써, 작업자가 자동레이블데이터에 대한 검수에 대한 작업을 처리하는 것만으로도 해당 데이터에 대한 레이블링 작업을 완료할 수 있도록 하는 효과를 발휘할 수 있다.

도 1은 본 발명의 일 실시예에 따른 종래의 크라우드소싱 방식 및 종래의 크라우드소싱 방식에 기계학습모델이 적용된 구성을 개략적으로 도시한다.
도 2는 본 발명의 일 실시예에 따른 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법을 수행하기 위한 구성요소들을 개략적으로 도시한다.
도 3은 본 발명의 일 실시예에 따른 서비스서버의 내부 구성요소들을 개략적으로 도시한다.
도 4는 본 발명의 일 실시예에 따른 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법의 세부 단계들을 개략적으로 도시한다.
도 5는 본 발명의 일 실시예에 따른 제1데이터선택단계에서 데이터셋에 포함된 복수의 데이터 가운데 제1개수의 데이터를 선택하는 과정을 개략적으로 도시한다.
도 6은 본 발명의 일 실시예에 따른 데이터베이스에 포함되어 있는 데이터집합을 개략적으로 도시한다.
도 7은 본 발명의 일 실시예에 따른 제2데이터집합선택단계에서 복수의 데이터집합 가운데 제2개수의 데이터집합을 선택하는 과정을 개략적으로 도시한다.
도 8은 본 발명의 일 실시예에 따른 제2데이터집합선택단계의 세부 단계들을 개략적으로 도시한다.
도 9는 본 발명의 일 실시예에 따른 피처 임베딩 모델을 통해 데이터에 대한 특징벡터가 도출되는 구성을 개략적으로 도시한다.
도 10은 본 발명의 일 실시예에 따른 피처 임베딩 모델로 사용되는 기계학습모델의 구성을 개략적으로 도시한다.
도 11은 본 발명의 다른 실시예에 따른 피처 임베딩 모델로 사용되는 기계학습모델의 구성을 개략적으로 도시한다.
도 12는 본 발명의 일 실시예에 따른 데이터셋의 데이터들에 대한 특징벡터들을 사용하여 제2개수의 데이터집합을 선택하는 과정을 개략적으로 도시한다.
도 13은 본 발명의 일 실시예에 따른 레이블링모델학습부에서 학습데이터셋을 사용하여 레이블링모델을 학습시키는 과정을 개략적으로 도시한다.
도 14는 본 발명의 일 실시예에 따른 학습된 레이블링모델을 사용하여 데이터에 대한 레이블링을 수행하는 과정을 개략적으로 도시한다.
도 15는 본 발명의 일 실시예에 따른 자동레이블링단계의 세부 단계들을 개략적으로 도시한다.
도 16은 본 발명의 일 실시예에 따른 최종적으로 레이블링된 데이터들을 개략적으로 도시한다.
도 17은 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 개략적으로 도시한다.

이하에서는, 다양한 실시예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나 이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.

또한, 다양한 양상들 및 특징들이 다수의 디바이스들, 컴포넌트들 및/또는 모듈들 등을 포함할 수 있는 시스템에 의하여 제시될 것이다. 다양한 시스템들이, 추가적인 장치들, 컴포넌트들 및/또는 모듈들 등을 포함할 수 있다는 점 그리고/또는 도면들과 관련하여 논의된 장치들, 컴포넌트들, 모듈들 등 전부를 포함하지 않을 수도 있다는 점 또한 이해되고 인식되어야 한다.

본 명세서에서 사용되는 "실시예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다. 아래에서 사용되는 용어들 '~부', '컴포넌트', '모듈', '시스템', '인터페이스' 등은 일반적으로 컴퓨터 관련 엔티티(computer-related entity)를 의미하며, 예를 들어, 하드웨어, 하드웨어와 소프트웨어의 조합, 소프트웨어를 의미할 수 있다.

또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나 이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다.

또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

또한, 본 발명의 실시예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

도 1은 본 발명의 일 실시예에 따른 종래의 크라우드소싱 방식 및 종래의 크라우드소싱 방식에 기계학습모델이 적용된 구성을 개략적으로 도시한다.

도 1은 종래의 크라우드소싱을 통해 데이터에 대한 작업(레이블링)을 수행하는 과정 및 종래의 크라우드소싱 기반의 작업의 문제점을 개선하기 위한 본 발명의 구성을 개략적으로 도시한다.

도 1의 (A)는 종래의 크라우드소싱을 기반으로 데이터에 대한 작업을 수행하는 과정을 개략적으로 도시한다. 구체적으로, 크라우드소싱을 기반으로 데이터에 대한 작업을 관리하는 서비스서버(1000)는 학습데이터를 구축하고자 하는 사용자로부터 학습데이터로 사용되고자 하는 데이터셋(200)을 제공받는다. 상기 데이터셋(200)에는 복수의 데이터(데이터#1 내지 데이터#N)를 포함하며, 상기 복수의 데이터 각각은 작업이 되지 않은, 즉, 데이터에 대한 레이블링 작업이 수행되지 않은 데이터를 의미할 수 있다.

한편, 상기 데이터셋(200)을 제공받은 서비스서버(1000)는 데이터에 대한 레이블링 작업을 수행하는 복수의 작업자 각각의 작업자단말(3000)(작업자단말#1 내지 작업자단말#M)에 데이터셋(200)에 해당하는 데이터(데이터#1 내지 데이터#N)들을 작업물로 제공하고, 복수의 작업자들은 복수의 작업자단말(3000) 상에서 제공받은 데이터에 대한 작업(레이블데이터#1 내지 레이블데이터#N)을 수행하며, 상기 서비스서버(1000)는 상기 복수의 작업자단말(3000)로부터 제공된 데이터에 대한 작업결과를 수신하는 것으로, 데이터셋(200)에 포함된 복수의 데이터에 대한 작업(레이블링)을 완료할 수 있다.

이와 같이, 종래의 크라우드소싱 방식의 경우, 복수의 작업자들이 병렬적으로 데이터에 대한 작업을 수행하므로, 데이터셋(200)을 제공한 사용자가 직접 작업을 수행하는 것에 비해 신속하게 작업을 완료할 수 있는 장점이 있다.

다만, 상술한 종래의 크라우드소싱 방식에서는 작업물에 대한 작업 속도는 온전히 작업자의 능력에 의해 결정된다. 예를 들어, 작업자가 작업물로 제공받은 이미지 데이터에서 사람의 객체의 윤곽선을 설정하고, 해당 객체에 대한 성별, 인종 등의 레이블링을 수행하는 경우에, 작업 처리 속도는 작업자가 얼마나 빠르게 작업을 처리하는지에 따라 결정되는 것이다.

따라서, 종래의 크라우드소싱 방식에서 데이터셋(200)에 포함된 복수의 데이터에 대한 작업(레이블링)의 속도를 향상시기키 위해서는, 작업을 수행하는 작업자가 더욱 편리하게 작업을 수행할 수 있도록 하는 방법이 요구되며, 본 발명에서는 이와 같은 방법의 일환으로써 레이블링모델(1010)을 사용하여 작업자들이 손쉽게 작업을 처리할 수 있도록 하고자 하는 것이다.

구체적으로, 도 1의 (B)에 도시된 바와 같이, 본 발명에서는 레이블링모델(1010)이라는 구성요소를 사용한다. 상기 레이블링모델(1010)은 사용자가 제공한 데이터셋(200)에 포함된 복수의 데이터에 대한 작업(레이블링)을 수행하는 기계학습모델에 해당할 수 있다. 예를 들어, 상기 레이블링모델(1010)은 어떠한 객체를 포함하는 이미지 데이터를 입력받고, 상기 이미지 데이터에 포함된 객체의 명칭에 대한 정보(자동레이블데이터)를 출력할 수 있다.

한편, 상기 레이블링모델(1010)에서 출력된 정보(자동레이블데이터)는 상기 레이블링모델(1010)에 입력된 데이터를 작업물로 제공받은 작업자의 작업자단말(3000)로 송신되며, 해당 작업자는 상기 작업자단말(3000)에 제공받은 자동레이블데이터를 참고하여 작업을 수행함으로써, 종래의 크라우드소싱 방식에 비해 작업자가 작업을 더욱 신속하게 처리할 수 있도록 한다.

예를 들어, 작업자가 작업물에 포함된 객체의 명칭을 입력하는 작업을 수행해야 하는 경우에, 해당 작업자는 해당 작업물에 대한 자동레이블데이터가 맞는지를 검토하고, 틀린 경우에만 자동레이블데이터를 편집하는 것으로 작업을 완료할 수 있고, 만약 작업자가 작업물에 포함된 객체의 명칭 및 해당 객체의 윤곽선을 설정하는 작업을 수행해야 하는 경우에, 해당 작업자는 해당 작업물에 대한 자동레이블데이터가 맞는 경우에, 단순히 해당 객체에 대한 윤곽선을 설정하는 것만으로도 작업을 완료할 수 있기 때문에, 작업자의 작업 속도가 향상될 수 있다. 도 1의 (B)에서 작업자단말#1을 사용하는 작업자는 자동레이블데이터#1가 맞는 것으로 판단하여, 별도의 수정 없이 자동레이블데이터#1를 작업 결과로 입력하였고, 작업자단말#2를 사용하는 작업자는 자동레이블데이터#2가 틀린 것으로 판단하여, 상기 자동레이블데이터#2를 수정한 레이블데이터#2를 작업 결과로 입력하였다.

이와 같이, 본 발명에서는 레이블링모델(1010)을 사용하여 작업자에게 작업물에 대한 초벌 작업 결과를 제공함으로써 작업자의 작업 속도를 향상시키고자 하는 것이다.

한편, 상기 레이블링모델(1010)은 학습데이터에 의해 학습될 수 있는 기계학습모델에 해당하는 것으로 이해될 수 있다. 예를 들어, 상기 레이블링모델(1010)은 딥러닝이 가능한 기계학습모델에 해당하며, 상기 레이블링모델(1010)은 종래의 다양한 기계학습모델의 구조 가운데 어느 하나 혹은 복수의 구조가 결합된 모델에 해당할 수 있다.

상기 레이블링모델(1010)을 통해 사용자가 제공한 데이터셋(200)에 포함된 복수의 데이터 각각에 대한 자동레이블데이터를 효과적으로 도출하기 위해서는 상기 레이블링모델(1010)을 학습시키는 과정이 필요하다. 이와 같이, 레이블링모델(1010)을 학습시키기 위하여 학습데이터를 구축하는 방법 및 학습된 레이블링모델(1010')을 사용하여 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법에 대해서는 이하에서 상세하게 설명하도록 한다.

도 2는 본 발명의 일 실시예에 따른 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법을 수행하기 위한 구성요소들을 개략적으로 도시한다.

도 2에 도시된 바와 같이, 본 발명의 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법은 서비스서버(1000)에 의해 수행될 수 있으며, 상기 서비스서버(1000)는 본 발명의 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법을 수행하기 위하여 사용자단말(2000), 크라우드소싱서버(4000) 및 외부 데이터베이스(5000)와 통신을 수행할 수 있다.

구체적으로, 상기 사용자단말(2000)은 소유한 기계학습모델을 학습시키기 위하여 데이터셋(200)에 대한 작업(레이블링)을 수행하여 학습데이터를 구축하고자 하는 사용자를 사용주체로 할 수 있다. 즉, 상기 사용자단말(2000)의 사용자는 서비스서버(1000)에 작업의 대상이 되는 데이터셋(200)을 상기 사용자단말(2000)을 통해 제공할 수 있고, 이에 따라 상기 서비스서버(1000)는 소정의 과정을 통해 도출된 데이터셋(200)에 대한 작업결과를 상기 사용자단말(2000)에 제공할 수 있다.

상기 서비스서버(1000)는 사용자로부터 제공받은 데이터셋(200)을 사용하여 레이블링모델(1010)을 학습시키고, 학습된 레이블링모델(1010')을 사용하여 해당 데이터셋(200)에 대하여 자동적으로 도출된 레이블링 결과를 직접적 혹은 간접적으로 작업자단말(3000)에 제공함으로써, 작업자가 손쉽게 작업을 완료할 수 있도록 한다. 여기서 도 2에 도시된 바와 같이, 서비스서버(1000)에서 상기 레이블링모델(1010)을 학습시키기 위하여 단순히 데이터셋(200)을 사용하는 것이 아니라, 상기 서비스서버(1000)에 포함된 데이터베이스(1500) 혹은 상기 서비스서버(1000)와 통신을 수행하는 외부의 데이터베이스(5000)를 사용할 수 있다. 한편, 상기 서비스서버(1000)의 내부 구성 및 상기 서비스서버(1000)에서 수행되는 방법에 대해서는 후술하는 도 3 및 도 4에서 상세하게 설명하도록 한다.

한편, 상기 서비스서버(1000)는 데이터셋(200) 및 상기 데이터셋(200)에 대하여 레이블링모델(1010)에서 도출한 자동레이블데이터를 크라우드소싱서버(4000)에 제공하는 것으로 작업자가 데이터에 대한 작업을 수행할 수 있도록 한다.

상기 크라우드소싱서버(4000)는 상기 서비스서버(1000)로부터 제공받은 데이터셋(200) 및 데이터셋(200)에 포함된 복수의 데이터 각각에 대한 자동레이블데이터를 상기 크라우드소싱서버(4000)와 통신을 수행하는 복수의 작업자단말(3000) 각각에 제공하고, 상기 복수의 작업자단말(3000)의 작업자들의 입력에 따라 도출된 검토결과를 수신하는 것으로, 작업을 완료할 수 있다. 한편, 상기 크라우드소싱서버(4000)는 작업이 완료된 데이터를 서비스서버(1000)를 통해 상기 사용자단말(2000)에 제공하거나, 혹은 직접 상기 사용자단말(2000)에 작업이 완료된 데이터셋(200)을 제공할 수 있다.

한편, 상기 서비스서버(1000)에 포함된 데이터베이스(1500) 혹은 상기 서비스서버(1000)와 통신을 수행하는 외부의 데이터베이스(5000)는 복수의 데이터집합(1030)을 포함하며, 각각의 데이터집합(1030)은 데이터 및 해당 데이터에 대한 작업 결과에 해당하는 레이블데이터를 포함할 수 있다. 이와 같이, 복수의 데이터집합들이 저장되어 있는 데이터베이스(1500)를 통해 서비스서버(1000)는 레이블링모델(1010)의 학습에 사용될 데이터집합(1030)을 선택하고, 상기 선택된 데이터집합 및 상기 데이터셋(200)에 포함된 데이터를 사용하여 상기 레이블링모델(1010)을 효과적으로 학습시킬 수 있다.

본 발명의 다른 실시예에서 상기 데이터베이스(1500)는 상기 서비스서버(1000)에 포함되고, 동시에 상기 서비스서버(1000)는 외부의 데이터베이스(5000)와 통신을 수행할 수 있다. 이때, 상기 서비스서버(1000)에 포함된 데이터베이스(1500)에는 복수의 데이터집합(1030)을 제외한 본 발명의 동작에 따라 생성되거나, 필요로 하는 정보들이 저장되고, 상기 외부 데이터베이스(5000)에는 상술한 복수의 데이터집합이 저장되는 것으로 이해될 수도 있다.

또한, 도 2에서는 상기 크라우드소싱서버(4000)가 상기 서비스서버(1000)와 별개로 서버시스템 내에 포함되어 있는 것으로 도시되어 있으나, 본 발명의 다른 실시예에서 상기 크라우드소싱서버(4000) 내의 구성요소 혹은 상기 크라우드소싱서버(4000)에서 수행하는 동작들은 상기 서비스서버(1000) 내에 포함되거나 동작하는 것으로 이해될 수 있다. 즉, 상기 서비스서버(1000)는 데이터셋(200) 및 데이터베이스(1500)에 저장된 복수의 데이터집합을 사용하여 레이블링모델(1010)을 학습시키는 것은 물론, 레이블링모델(1010)을 사용하여 도출된 자동레이블데이터를 작업자단말(3000)에 제공함으로써, 작업자가 용이하게 작업을 완료하도록 하는 기능들을 모두 수행할 수도 있다. 한편, 이하에서는 서비스서버(1000)에서 크라우드소싱서버(4000)의 동작을 모두 수행하는 것으로 가정하여 설명하도록 한다.

도 3은 본 발명의 일 실시예에 따른 서비스서버(1000)의 내부 구성요소들을 개략적으로 도시한다.

도 3에 도시된 바와 같이, 서비스서버(1000)는 본 발명의 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법을 수행하기 위하여, 제1데이터선택부(1100), 제2데이터집합선택부(1200), 레이블링모델학습부(1300), 자동레이블링부(1400) 및 데이터베이스(1500)를 포함할 수 있다.

구체적으로, 상기 제1데이터선택부(1100)는 제1데이터선택단계(S100)를 수행하는 것으로, 상기 사용자단말(2000)로부터 제공받은 데이터셋(200)에 포함된 복수 개(N 개)의 데이터 가운데 소정의 개수(제1개수)의 데이터를 선택한다. 더 구체적으로, 상기 제1데이터선택부(1100)는 데이터셋(200)에 포함된 복수의 데이터 가운데 해당 데이터셋(200)을 대표할 수 있는 제1개수의 데이터를 선택하며, 상기 제1개수의 데이터는 레이블링모델(1010)을 학습시키기 위한 데이터로 사용될 수 있다.

상기 제2데이터집합선택부(1200)는 제2데이터집합선택단계(S200)를 수행하는 것으로, 서비스서버(1000)에 포함된 데이터베이스(1500) 혹은 외부의 데이터베이스(5000)에 저장되어 있는 복수 개(K 개)의 데이터집합 가운데 소정의 개수(제2개수)의 데이터집합을 선택한다. 더 구체적으로, 상기 제2데이터집합선택부(1200)는 데이터셋(200)에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하며, 상기 제2개수의 데이터집합은 상기 제1개수의 데이터와 마찬가지로 레이블링모델(1010)을 학습시키기 위한 데이터로 사용될 수 있다.

상기 레이블링모델학습부(1300)는 레이블링모델학습단계(S300)를 수행하는 것으로, 제1개수의 데이터 및 제2개수의 데이터집합을 기반으로 학습데이터셋(1040)을 구축하고, 상기 학습데이터셋(1040)을 사용하여 상기 레이블링모델(1010)을 학습시킨다. 한편, 상기 학습데이터셋(1040)에는 제1개수의 데이터별로 해당 데이터에 상응하는 수동적으로 작업된 레이블데이터가 쌍으로 포함되어 있고, 제2개수의 데이터집합 각각에 포함되어 있는 데이터 및 해당 데이터에 대한 레이블데이터의 쌍이 포함되어 있다.

상기 자동레이블링부(1400)는 자동레이블링단계(S400)를 수행하는 것으로, 상기 레이블링모델학습부(1300)를 통해 학습된 레이블링모델(1010')에 상기 데이터셋(200)에서 선택되지 않은 나머지 데이터들을 입력하여, 상기 나머지 데이터 각각에 대한 자동레이블데이터를 도출한다. 이와 같이, 상기 자동레이블링부(1400)를 통해 도출된 자동레이블데이터는 데이터셋(200)에 포함된 선택되지 않은 나머지 데이터에 대한 레이블로 바로 사용될 수도 있으나, 상술한 바와 같이, 크라우드소싱 방식으로 데이터에 대한 작업(레이블링)을 수행하는 작업자의 작업자단말(3000)에 제공됨으로써, 작업자가 상기 자동레이블데이터에 대한 검토를 수행하도록 하며, 이와 같이 작업자가 자동레이블데이터에 대한 검토 만으로도 데이터에 대한 레이블링 작업을 완료할 수 있으므로, 신속하게 작업을 처리할 수 있도록 한다.

상기 데이터베이스(1500)에는, 본 발명의 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법을 수행하기 위하여 서비스서버(1000)에서 도출되거나, 혹은 상기 서비스서버(1000)에서 수신한 정보들이 저장되고, 혹은 본 발명을 구현하기 위하여 필요한 정보들이 기저장될 수 있다. 예를 들어, 상기 데이터베이스(1500)에는 학습데이터셋(1040)을 통해 학습되고, 데이터셋(200)의 복수의 데이터 각각에 대한 자동레이블데이터를 도출하는 레이블링모델(1010), 상기 제2데이터집합선택부(1200)에서 데이터셋(200)과 유사한 데이터집합을 선택하기 위하여, 데이터에 대한 특징벡터를 도출하는 피처 임베딩 모델(1020), 상기 사용자단말(2000)로부터 수신한 데이터셋(200), 학습데이터로 사용되기 위한 복수의 데이터집합(1030), 데이터셋(200)에서 선택된 제1개수의 데이터 및 복수의 데이터집합(1030)에서 선택된 제2개수의 데이터집합을 통해 구축된 학습데이터셋(1040), 학습된 레이블링모델(1010')을 통해 도출된 자동레이블데이터(1050) 및 작업자 혹은 사용자가 데이터에 대한 작업 결과를 직접 입력하거나, 혹은 해당 데이터에 대한 자동레이블데이터(1050)를 수정하여 생성되는 레이블데이터(1060)가 저장될 수 있다.

도 4는 본 발명의 일 실시예에 따른 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법의 세부 단계들을 개략적으로 도시한다.

도 4에 도시된 바와 같이, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 서비스서버(1000)에서 수행하는 데이터셋(200)의 레이블링을 자동적으로 처리하기 위한 방법으로서, 사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋(200)에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계(S100); 상기 서비스서버(1000)에 포함된 데이터베이스(1500) 혹은 상기 서비스서버(1000)와 통신을 수행하는 외부의 데이터베이스(5000)에 포함된 복수의 데이터집합 가운데 상기 데이터셋(200)에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계(S200); 상기 제1데이터선택단계(S100)에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋(1040)을 사용하여 레이블링모델(1010)을 학습시키는 레이블링모델학습단계(S300); 및 학습된 상기 레이블링모델(1010)을 사용하여 상기 데이터셋(200)에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계(S400);를 포함할 수 있다.

구체적으로, 상기 제1데이터선택단계(S100)는, 사용자로부터 사용자단말(2000)을 통해 제공받거나, 혹은 별도의 매체를 통해 제공받은 데이터셋(200)에 포함된 복수의 데이터(데이터#1 내지 데이터#N) 가운데 소정 개수에 해당하는 제1개수의 데이터를 선택한다. 상기 제1개수는 상기 데이터셋(200)에 포함된 복수의 데이터의 개수보다 작으며, 상기 제1개수의 데이터는 상기 데이터셋(200)을 대표하는 데이터에 해당할 수 있다. 한편, 데이터셋(200)에 포함된 복수의 데이터에서 제1개수의 데이터를 선택하는 방법에 대해서는 도 5에서 후술하도록 한다.

상기 제2데이터집합선택단계(S200)는 데이터베이스(1500)에 포함되어 있는 복수의 데이터집합 가운데 제2개수의 데이터집합을 선택하는 것으로, 상기 제2데이터집합선택단계(S200)에서는 상기 데이터셋(200)에 포함된 복수의 데이터와의 유사도를 고려하여 유사한 것으로 판단되는 제2개수의 데이터집합을 선택하며, 상기 제1개수의 데이터 및 상기 제2개수의 데이터집합은 레이블링모델(1010)을 학습시키는데 사용될 수 있다. 한편 상기 제2데이터집합선택단계(S200)에서 복수의 데이터집합 가운데 데이터셋(200)과 유사한 제2개수의 데이터집합을 선택하는 구체적인 방법에 대해서는 도 7 내지 도 12에 걸쳐 설명하도록 한다.

상기 레이블링모델학습단계(S300)는 상기 제1데이터선택단계(S100)에서 선택된 제1개수의 데이터 별로 해당 데이터에 대하여 사람이 직접 레이블링하여 생성된 레이블데이터를 데이터쌍으로 하고, 상기 제2개수의 데이터집합 각각에 포함된 데이터 및 해당 데이터에 대한 레이블데이터를 데이터쌍으로 하며, 이러한 복수의 데이터쌍(데이터 및 해당 데이터에 대한 레이블데이터)을 포함하는 학습데이터셋(1040)을 사용하여 레이블링모델(1010)을 학습시킨다. 이와 같이, 상기 레이블링모델(1010)은 데이터셋(200)의 일부 데이터와 데이터베이스(1500)에 구축되어 있는 데이터 가운데 상기 데이터셋(200)과 유사한 일부 데이터를 사용하여 학습되므로, 이후에 데이터셋(200)에서 나머지 데이터에 대하여 자동레이블데이터를 도출하는데 있어서 더욱 정확하게 레이블링을 수행할 수 있도록 한다.

상기 자동레이블링단계(S400)는, 상기 레이블링모델학습단계(S300)를 통해 학습된 레이블링모델(1010')을 사용하여, 상기 데이터셋(200)에서 제1개수에 선택되지 않은 데이터 각각에 대한 레이블링을 수행할 수 있다. 즉, 상기 자동레이블링단계(S400)는, 상기 학습된 레이블링모델(1010')에 상기 데이터셋(200)에서 선택되지 않은 데이터 각각을 입력하는 것으로, 해당 데이터 각각에 대한 레이블링 결과에 해당하는 자동레이블데이터를 도출할 수 있다. 상기 자동레이블데이터는 해당 데이터에 대한 레이블로 결정, 즉 해당 데이터에 대한 작업이 완료된 것으로 간주될 수 있으나, 바람직하게는 상기 자동레이블데이터는 해당 데이터와 함께 작업자의 작업자단말(3000)에 제공될 수 있고, 작업자는 해당 데이터에 대한 작업(레이블링)을 수행함에 있어서, 상기 자동레이블데이터가 올바른 것인지를 검토하는 것으로 해당 데이터에 대한 작업이 완료될 수 있다.

도 5는 본 발명의 일 실시예에 따른 제1데이터선택단계(S100)에서 데이터셋(200)에 포함된 복수의 데이터 가운데 제1개수의 데이터를 선택하는 과정을 개략적으로 도시한다.

도 5에 도시된 바와 같이, 제1데이터선택부(1100)는 제1데이터선택단계(S100)를 수행하는 것으로 사용자로부터 제공받은 데이터셋(200)에 포함된 복수 개(N 개)의 데이터 가운데 소정 개수(제1개수)의 데이터를 선택한다.

구체적으로, 상기 제1데이터선택단계(S100)는 다양한 방식으로 제1개수의 데이터를 선택할 수 있다. 본 발명의 일 실시예에서는 N 개의 데이터 가운데 무작위로 제1개수의 데이터를 선택할 수 있고, 본 발명의 다른 실시예에서는 N 개의 데이터들을 대표할 수 있는 제1개수의 데이터를 선택할 수도 있다. 더 구체적으로, 본 발명의 다른 실시예에서는 N 개의 데이터들을 소정의 영역 상에 분포시키고, 밀도가 제1값보다 높게 밀집되어 있는 구역에서 제1개수의 데이터를 선택하는 것으로, 데이터셋(200)을 대표하는 제1개수의 데이터를 선택할 수 있다.

한편, 상기 제1데이터선택부(1100)에서 선택하는 데이터의 개수에 해당하는 기설정된 제1개수는 다양한 방식으로 기설정될 수 있다. 예를 들어, 상기 제1개수는 10 개와 같이 정량화된 수치에 해당하거나, 데이터셋(200)의 전체 개수인 N 개의 사이즈에 따라 가변되는 수치에 해당할 수 있다. 예를 들어, 상기 제1개수는 N 개의 10%에 해당하는 개수에 해당할 수 있다.

도 6은 본 발명의 일 실시예에 따른 데이터베이스(1500)에 포함되어 있는 데이터집합을 개략적으로 도시한다.

도 6에 도시된 바와 같이, 상기 제2개수의 데이터집합 각각은, 레이블링의 대상에 해당하는 데이터 및 해당 데이터에 대하여 자동적 혹은 수동적으로 레이블링된 레이블데이터를 포함할 수 있다.

구체적으로, 상술한 바와 같이, 서비스서버(1000)에 포함된 데이터베이스(1500) 혹은 외부의 데이터베이스(5000)에는 복수 개(K 개)의 데이터집합이 저장되어 있으며, 각각의 데이터집합은 도 6에 도시된 바와 같이, 데이터 및 해당 데이터에 대한 작업(레이블링)의 결과에 해당하는 레이블데이터가 포함된다. 여기서, 상기 데이터집합에 포함되는 데이터는 작업의 대상이 되는 것으로 다양한 유형(이미지, 동영상, 음성, 텍스트 등) 가운데 어느 하나에 해당할 수 있다. 상기 레이블데이터는 대응하는 데이터에 대한 레이블링의 결과 값에 해당할 수 있다. 예를 들어, 이미지에 해당하는 데이터에서 해당 이미지에 포함된 객체에 대한 명칭을 입력하는 작업인 경우에, 상기 레이블데이터는 해당 이미지에 포함된 객체의 명칭에 대한 정보에 해당할 수 있다.

상기 레이블데이터는 다양한 방식으로 도출될 수 있다. 예를 들어, 상기 레이블데이터는 작업자, 혹은 서비스서버(1000)의 관리자 등과 같이 사람이 직접 입력하여 도출되거나, 본 발명의 레이블링모델(1010)을 통해 자동적으로 도출된 자동레이블데이터를 작업자가 검토하여 도출될 수 있다.

한편, 상기 제2개수의 데이터집합 각각은, 해당 데이터를 피처 임베딩 모델(1020)에 입력하여 도출된 해당 데이터에 대한 특징벡터를 더 포함할 수 있다.

구체적으로, 도 6에 도시된 바와 같이, 각각의 데이터집합에는 해당 데이터에 대한 특징벡터를 더 포함할 수 있다. 상기 특징벡터는 해당 데이터를 임베딩하여 복수의 차원(성분)에 대한 값을 포함하며, 상기 특징벡터는 해당 데이터를 피처 임베딩 모델(1020)에 입력하는 것으로 도출될 수 있다. 이와 같이, 상기 특징벡터는 상술한 바와 같이, 제2데이터집합선택단계(S200)에서 데이터셋(200)과의 유사도를 도출하기 위한 요소로 사용될 수 있다.

본 발명의 다른 실시예에서, 데이터집합에 해당 데이터에 대한 특징벡터를 포함하고 있지 않은 경우에, 상기 제2데이터집합선택단계(S200)에서는 해당 데이터집합에 포함된 데이터를 피처 임베딩 모델(1020)에 입력하여 해당 데이터에 대한 특징벡터를 도출하는 과정을 별도로 수행할 수도 있다.

이와 같이, 본 발명의 데이터베이스(1500)에 포함된 복수의 데이터집합은 레이블링을 수행하고자 하는 데이터셋(200)을 처리하는 레이블링모델(1010)을 효과적으로 학습시키기 위한 대량의 데이터에 해당하며, 상기 데이터베이스(1500)에는 본 발명에서 다양한 데이터셋(200)에 대하여 처리한 결과들이 누적되어 저장되거나, 혹은 별도로 관리자가 구축한 데이터집합들이 저장될 수 있다.

도 7은 본 발명의 일 실시예에 따른 제2데이터집합선택단계(S200)에서 복수의 데이터집합 가운데 제2개수의 데이터집합을 선택하는 과정을 개략적으로 도시한다.

도 7에 도시된 바와 같이, 제2데이터집합선택부(1200)는 제2데이터집합선택단계(S200)를 수행하는 것으로 데이터베이스(1500)에 저장된 복수 개(K 개)의 데이터집합 가운데 소정 개수(제2개수)의 데이터집합을 선택한다.

구체적으로, 상기 제2데이터집합선택단계(S200)는 상기 복수의 데이터집합 별로 데이터셋(200)에 포함된 복수의 데이터와의 유사도를 산출하며, 유사도를 기반으로 제2개수의 데이터집합을 선택할 수 있다. 한편, 유사도를 기반으로 제2개수의 데이터집합을 선택하는 과정에 대해서는 도 8 내지 도 12에 걸쳐 설명하도록 한다.

한편, 상기 제2데이터집합선택부(1200)에서 선택하는 데이터집합의 개수에 해당하는 기설정된 제2개수는 다양한 방식으로 기설정될 수 있다. 예를 들어, 상기 제2개수는 100 개와 같이 정량화된 수치에 해당하거나, 데이터베이스(1500)에 포함된 데이터집합의 전체 개수인 K 개의 사이즈 혹은 제1개수의 사이즈에 따라 가변되는 수치에 해당할 수 있다. 예를 들어, 상기 제2개수는 K 개의 20%에 해당하는 개수에 해당하거나, 제1데이터집합선택부에서 선택한 제1개수의 10배에 해당하는 개수에 해당할 수 있다.

도 8은 본 발명의 일 실시예에 따른 제2데이터집합선택단계(S200)의 세부 단계들을 개략적으로 도시한다.

도 8에 도시된 바와 같이, 상기 제2데이터집합선택단계(S200)는, 상기 데이터셋(200)에 포함된 복수의 데이터 각각을 피처 임베딩 모델(1020)에 입력하여 복수의 데이터 각각에 대한 특징벡터들을 도출하는 특징벡터도출단계(S210); 및 상기 데이터베이스(1500)에 포함된 복수의 데이터집합 각각에 대하여 상기 복수의 특징벡터들과의 유사도를 산출하고, 상기 복수의 데이터집합 각각의 유사도에 기설정된 규칙을 적용하여 제2개수의 데이터집합을 선택하는 유사도선택단계(S220);를 포함할 수 있다.

구체적으로, 상기 특징벡터도출단계(S210)는, 상기 데이터셋(200)에 포함된 데이터 각각에 대한 특징벡터를 도출한다. 더 구체적으로, 상기 특징벡터도출단계(S210)는 피처 임베딩 모델(1020)을 사용하는 것으로 상기 데이터셋(200)에 포함된 복수의 데이터 각각을 상기 피처 임베딩 모델(1020)에 입력하여 해당 데이터 별로 특징벡터들을 도출한다. 이와 같이, 상기 특징벡터도출단계(S210)를 통해 도출되는 데이터셋(200)에 포함된 복수의 데이터에 대한 특징벡터들은, 제2데이터집합선택단계(S200)에서 데이터베이스(1500)에 포함된 복수의 데이터집합 별로 데이터셋(200)과의 유사도를 산출하기 위하여 사용될 수 있다.

한편, 상기 피처 임베딩 모델(1020)은 도 9에 도시된 바와 같이, 입력된 데이터에 대하여 소정 개수(도 9에서는 P 개)의 차원을 갖는 특징벡터를 도출한다. 여기서 상기 특징벡터의 차원의 크기는 특징벡터에 포함된 성분의 개수를 의미할 수도 있다. 한편, 상기 특징벡터는 해당 데이터를 대표할 수 있는 값에 해당할 수 있다. 예를 들어, 상기 특징벡터의 포함된 각 성분의 값이 일종의 가중치에 해당할 수 있으며, 각 성분별 가중치의 값에 따라 해당 데이터의 특징이 반영될 수 있다.

또한, 본 발명의 다른 실시예에서 상기 데이터베이스(1500)에 포함된 데이터집합에 특징벡터가 포함되어 있지 않은 경우에, 특징벡터도출단계(S210)에서는 데이터집합에 포함된 데이터를 피처 임베딩 모델(1020)에 입력하여 해당 데이터에 대한 특징벡터를 별도로 도출할 수 있다.

상기 유사도선택단계(S220)는, 상기 특징벡터도출단계(S210)에서 도출된 데이터셋(200)에 포함된 복수의 데이터 별 특징벡터들과 데이터베이스(1500)에 포함된 복수의 데이터집합에 포함되어 있는 특징벡터와의 유사도를 산출한다. 즉, 상기 유사도선택단계(S220)에서는 데이터베이스(1500)에 포함된 복수의 데이터집합 각각과 데이터셋(200) 사이의 유사도를 산출한다. 또한, 유사도를 산출하는 방식에 있어서도 다양한 방식이 적용될 수 있다. 예를 들어, 데이터셋(200)에 포함된 복수의 데이터 각각에 대한 특징벡터 가운데 기준이 되는 특징벡터를 도출하고, 해당 특징벡터와 데이터집합에 포함된 특징벡터 사이의 유사도를 산출할 수 있다. 또 다른 예에서는, 데이터셋(200)에 포함된 복수의 데이터 각각에 대한 특징벡터 각각과 데이터집합에 포함된 특징벡터 사이의 유사도를 산출하고, 각각의 유사도의 평균값을 최종적인 유사도로 산출할 수도 있다.

이어서, 상기 유사도선택단계(S220)는 데이터베이스(1500)에 포함된 데이터집합 별로 산출된 유사도에 기초하여 제2개수의 데이터집합을 선택한다. 예를 들어, 상기 유사도선택단계(S220)는 유사도가 가장 높은 순서대로 제2개수의 데이터집합을 선택할 수 있으며, 유사도를 기반으로 제2개수의 데이터집합을 선택하는 다른 실시예에 대해서는 도 12에서 후술하도록 한다.

도 10은 본 발명의 일 실시예에 따른 피처 임베딩 모델(1020)로 사용되는 기계학습모델의 구성을 개략적으로 도시한다.

도 10에 도시된 바와 같이, 본 발명의 일 실시예에서, 상기 특징벡터도출단계(S210)에서 데이터에 대한 특징벡터를 도출하기 위하여 사용되는 피처 임베딩 모델(1020)은 도 10에 도시된 기계학습모델(6000) 혹은 상기 기계학습모델(6000)의 내부 구성요소 가운데 어느 하나에 해당할 수 있다.

구체적으로, 상기 기계학습모델(6000)은 인코더(6100) 및 디코더(6200)를 포함할 수 있다. 상기 인코더(6100)는 상기 기계학습모델(6000)에 입력된 데이터를 취합, 압축하는 역할을 수행하고, 상기 디코더(6200)는 상기 인코더(6100)에서 압축된 데이터를 풀어내는 역할을 수행하여 상기 디코더(6200)에서 도출된 데이터가 상기 기계학습모델(6000)의 출력(결과값)에 해당할 수 있다.

예를 들어, 상기 기계학습모델(6000)에 강아지가 포함되어 있는 이미지가 입력되는 경우에, 상기 인코더(6100)는 해당 이미지를 입력받아, 해당 이미지에 대한 정보를 벡터형태로 출력하고, 상기 디코더(6200)는 상기 인코더(6100)의 출력을 입력받아, 벡터에 포함되어 있는 값들에 기초하여 해당 이미지가 강아지에 대한 이미지인지를 판단하는 정보를 출력할 수 있다.

한편, 상기 기계학습모델(6000)은 학습데이터를 사용하여 입력되는 데이터에 대한 정보들을 대표할 수 있는 특징벡터를 인코더(6100)에서 출력할 수 있도록 학습될 수 있으며, 여기서 본 발명의 피처 임베딩 모델(1020)은 상기 학습된 기계학습모델(6000)의 인코더(6100)에 해당할 수 있다.

도 11은 본 발명의 다른 실시예에 따른 피처 임베딩 모델(1020)로 사용되는 기계학습모델의 구성을 개략적으로 도시한다.

도 11에 도시된 바와 같이, 상기 피처 임베딩 모델(1020)은, 복수의 데이터 유형 각각에 상응하여 해당 유형의 데이터에 대한 특징벡터를 도출하는 복수의 인코더(6100 내지 6300)를 포함하는 기계학습모델(6000)에서 상기 데이터셋(200)의 데이터 유형에 상응하는 어느 하나의 인코더에 해당할 수 있다.

구체적으로, 도 11에 도시된 바와 같이, 본 발명의 다른 실시예에서, 상기 특징벡터도출단계(S210)에서 데이터에 대한 특징벡터를 도출하기 위하여 사용되는 피처 임베딩 모델(1020)은 도 11에 도시된 기계학습모델(6000) 혹은 상기 기계학습모델(6000)의 내부 구성요소 가운데 어느 하나에 해당할 수 있다.

도 11에 도시된 기계학습모델(6000)은 복수의 인코더(6100 내지 6300)를 포함할 수 있으며, 상기 복수의 인코더(6100 내지 6300) 각각은 상응하는 특정 유형의 데이터를 입력받고, 해당 데이터에 대한 특징벡터를 도출할 수 있다. 예를 들어, 인코더 #1(6100)은 이미지 형태의 데이터(데이터 유형 #1)에 해당하는 데이터를 입력받고, 이미지 데이터에 대한 특징벡터를 도출하며, 인코더 #2(6200)는 텍스트 형태의 데이터(데이터 유형 #2)에 해당하는 데이터를 입력받고, 텍스트 데이터에 대한 특징벡터를 도출하며, 인코더 #3(6300)은 오디오 형태의 데이터(데이터 유형 #3)에 해당하는 데이터를 입력받고, 오디오 데이터에 대한 특징벡터를 도출할 수 있다. 즉, 도 11에 도시된 기계학습모델(6000)은 다양한 유형의 데이터를 입력받고, 이에 대한 특징벡터를 도출하는 멀티모달(Multimodal) 기반의 기계학습모델(6000)에 해당할 수 있다.

한편, 상기 기계학습모델(6000)은 동일한 객체에 대한 여러 유형의 데이터를 입력받아 각각의 특징벡터를 도출한 복수의 인코더(6100 내지 6300)들이 유사한 특징벡터를 도출할 수 있도록 학습할 수 있다. 예를 들어, 이미지 데이터의 유형이 강아지가 포함된 이미지, 텍스트 데이터의 유형이 강아지가 포함된 텍스트, 오디오 데이터의 유형이 강아지라는 음성이 포함된 오디오인 경우에, 해당 데이터에 대한 특징벡터를 도출하는 복수의 인코더 #1 내지 #3(6100 내지 6300)에서 유사하거나 혹은 동일한 특징벡터를 도출할 수 있도록 학습될 수 있다.

이와 같이, 학습된 기계학습모델(6000)에서 상기 데이터셋(200)에 포함된 데이터의 유형에 상응하는 인코더가 상기 특징벡터도출단계(S210)에서 사용하는 피처 임베딩 모델(1020)에 해당할 수 있다. 예를 들어, 상기 데이터셋(200)에 이미지 데이터들이 포함되어 있는 경우에, 상기 피처 임베딩 모델(1020)은 상기 학습된 기계학습모델(6000)에 포함된 이미지 유형의 데이터를 입력받아 특징벡터를 도출하는 인코더 #1(6100)에 해당할 수 있다.

한편, 본 발명의 다른 실시예에서 상기 데이터셋(200)에 2 이상의 유형의 데이터가 포함된 경우에, 상기 피처 임베딩 모델(1020)은 상기 학습된 기계학습모델(6000)에 포함된 복수의 인코더(6100 내지 6300) 가운데 상기 2 이상의 유형의 데이터를 처리하는 2 이상의 인코더를 포함하는 것으로 이해될 수 있다.

또한, 멀티모달 기반의 기계학습모델(6000)에 포함된 복수의 인코더(6100 내지 6300)의 개수는 도 11에 도시된 개수에 한정되지 아니하며, 다양한 유형의 데이터들을 포함하는 복수의 인코더를 포함하는 것으로 이해될 수 있다.

도 12는 본 발명의 일 실시예에 따른 데이터셋(200)의 데이터들에 대한 특징벡터들을 사용하여 제2개수의 데이터집합을 선택하는 과정을 개략적으로 도시한다.

도 12에 도시된 바와 같이, 유사도선택단계(S220)는 데이터셋(200)에 포함된 데이터 각각에 대한 특징벡터 및 복수의 데이터집합 별로 해당 데이터집합에 포함된 특징벡터의 유사도를 산출하여 유사도 기반의 제2개수의 데이터집합을 선택할 수 있다.

구체적으로, 본 발명의 일 실시예에서, 상기 유사도선택단계(S220)에서 유사도를 기반으로 제2개수의 데이터집합을 선택하는 과정은 데이터셋(200)의 특징벡터와 데이터집합의 특징벡터 사이의 거리에 따라 제2개수의 데이터집합을 선택할 수도 있다. 더 구체적으로, 상기 유사도선택단계(S220)는 데이터셋(200)에 포함된 복수의 데이터 각각의 특징벡터를 평면 혹은 3 차원 이상의 공간 상에 배치하고, 마찬가지로 복수의 데이터집합 각각의 특징벡터 또한 평면 혹은 3 차원 이상의 공간 상에 배치한다. 이후에, 상기 유사도선택단계(S220)에서는 도 12에 도시된 바와 같이, 데이터셋(200)에 포함된 복수의 데이터 각각의 특징벡터(도 12에서 'X'로 표시)들이 군집된 구역(A1)을 설정하고, 해당 구역(A1)으로부터 복수의 데이터집합 각각의 특징벡터와의 거리에 따라 제2개수의 데이터집합을 선택할 수 있다. 더 구체적으로, 도 12에 도시된 바와 같이, 해당 구역(A1) 내에 포함되어 있거나, 해당 구역에서부터 일정 거리 내의 별도의 구역(A2) 내에 포함되어 있는 데이터집합(도 12에서 'O'로 표시)을 제2개수의 데이터집합으로 선택할 수 있다.

이와 같이, 본 발명에서는 상술한 방법 외에도 다양한 방식 가운데 어느 하나의 방식으로 데이터셋(200)과 유사한 데이터집합을 선택할 수 있다. 예를 들어, 도 12에와 같이 데이터셋(200)의 복수의 데이터에 대한 특징벡터의 분포 및 복수의 데이터집합의 특징벡터의 분포를 기반으로 제2개수의 데이터집합을 선택하거나, 혹은 데이터집합의 특징벡터와 데이터셋(200)에 포함된 복수의 특징벡터와의 코사인 유사도(cosine similarity)를 산출하고, 이를 기반으로 제2개수의 데이터집합을 선택할 수 있으며, 그 외에도 다양한 방식 가운데 어느 하나의 방식을 사용할 수도 있다.

도 13은 본 발명의 일 실시예에 따른 레이블링모델학습부(1300)에서 학습데이터셋(1040)을 사용하여 레이블링모델(1010)을 학습시키는 과정을 개략적으로 도시한다.

도 13에 도시된 바와 같이, 레이블링모델학습부(1300)는 레이블링모델학습단계(S300)를 수행하는 것으로, 제1데이터선택단계(S100)에서 선택된 제1개수의 데이터 및 제2데이터집합선택단계(S200)에서 선택된 제2개수의 데이터집합을 기반으로 하는 학습데이터셋(1040)을 사용하여 상기 레이블링모델(1010)을 학습시킬 수 있다.

즉, 상기 학습데이터셋(1040)에는 데이터셋(200)에 포함된 복수의 데이터 가운데 제1개수의 데이터가 포함되고, 상기 제1개수의 데이터 각각에 상응하는 레이블데이터가 포함될 수 있다. 즉, 제1개수의 데이터 각각과 각 데이터에 상응하는 레이블데이터가 데이터쌍으로써 상기 학습데이터셋(1040)에 포함될 수 있다.

여기서 상기, 제1개수의 데이터 각각에 상응하는 레이블데이터는 상기 레이블링모델(1010)을 통해 도출된 레이블데이터가 아니라, 서비스서버(1000)의 관리자, 혹은 작업을 수행하는 작업자에 의해 수동적으로 작업된 레이블데이터에 해당할 수 있다.

또한, 학습데이터셋(1040)에 추가적으로 포함되어 있는 제2개수의 데이터집합 각각에는 데이터 및 해당 데이터에 대한 레이블데이터가 포함되어 있다. 한편, 상기 데이터집합에 해당 데이터에 대한 특징벡터가 포함되어 있는 경우에, 상기 학습데이터셋(1040)에서는 제외될 수도 있다. 이와 같이, 상기 학습데이터셋(1040)에는 제1개수 및 제2개수의 합에 해당하는 개수의 데이터 및 각 데이터에 대한 레이블데이터가 데이터쌍으로 포함될 수 있다.

한편, 상기 레이블링모델학습단계(S300)에서는 상술한 학습데이터셋(1040)을 사용하여 레이블링모델(1010)이 학습될 수 있다. 이와 같이, 학습된 레이블링모델(1010')은 상술한 바와 같이, 데이터셋(200)에서 제1개수로 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는데 사용될 수 있다.

이와 같이, 본 발명에서는 레이블링모델(1010)을 사용하여 데이터셋(200)에 대한 레이블링을 수행함으로써, 데이터셋(200)에 대한 레이블링 작업을 신속하게 수행할 수 있다. 다만, 상기 레이블링모델(1010)을 통해 정확도가 높은 자동레이블데이터를 도출하기 위해서는 작업의 대상이 되는 데이터셋(200)의 일부를 학습해야 하며, 이를 위하여 본 발명에서는 데이터셋(200)에서 제1개수의 데이터를 선택하고, 선택된 제1개수의 데이터에 대하여 사람이 직접 작업을 하여 도출된 레이블데이터와 함께 레이블링모델(1010)을 학습시키는 것이다.

한편, 상기 레이블링모델(1010)의 성능을 향상시키기 위해서는 더 많은 학습데이터가 필요로 하며, 이를 위하여, 본 발명에서는 단순히 데이터셋(200)에 포함된 데이터만을 사용하는 것이 아니라, 데이터베이스(1500)에 구축되어 있는 데이터집합 가운데 학습데이터로 적절한 제2개수의 데이터집합을 선택하고, 이를 추가적인 학습데이터로 사용함으로써, 더욱 정확한 레이블링모델(1010)의 학습을 달성할 수 있도록 한다.

또한, 이와 같이 제2개수의 데이터집합을 학습데이터로 사용하는 것은 단순히 레이블링모델(1010)의 성능을 향상시키는 것뿐만 아니라, 학습데이터셋(1040)을 구축하는 시간을 단축시킬 수 있는 부가적인 효과를 발휘할 수 있다. 예를 들어, 100개의 학습데이터를 포함하는 학습데이터셋(1040)을 구축하는 경우에, 단순히 데이터셋(200)만을 사용하여 학습데이터셋(1040)을 구축한다고 가정하면, 데이터셋(200)에서 100개의 데이터를 선택하고, 100개의 데이터에 대한 레이블링 작업을 작업자가 수행한 후에, 100개의 데이터 및 100개의 데이터에 대한 레이블데이터를 학습데이터로써 사용해야 한다. 따라서, 학습데이터를 구축하기 위해서는 100개의 데이터에 대한 작업이 완료되어야 하기 때문에 상당한 시간이 소요될 수 있다.

반면에, 이미 데이터베이스(1500)에 데이터와 함께 레이블데이터가 저장되어 있고, 이를 사용하는 경우에, 예를 들어, 20개의 데이터는 데이터셋(200)에서 선택하고, 80개의 데이터는 데이터베이스(1500)에 저장된 복수의 데이터집합에서 선택하는 경우에, 20개의 데이터에 대해서만 작업자가 작업을 수행하면 되므로, 학습데이터를 구축하기 위한 시간을 절약할 수 있는 것이다.

도 14는 본 발명의 일 실시예에 따른 학습된 레이블링모델(1010')을 사용하여 데이터에 대한 레이블링을 수행하는 과정을 개략적으로 도시한다.

도 14에 도시된 바와 같이, 자동레이블링단계(S400)는 레이블링모델학습단계(S300)를 통해 학습된 레이블링모델(1010')을 사용하여, 데이터, 바람직하게는 데이터셋(200)에서 제1개수의 데이터로 선택되지 않은 데이터에 대한 레이블링 결과에 해당하는 자동레이블데이터를 도출한다.

한편, 이와 같이 도출된 자동레이블데이터는 해당 데이터에 대한 레이블로 결정될 수 있으나, 본 발명의 일 실시예에서는 도 15에 도시된 바와 같이, 작업자가 해당 데이터에 대한 작업을 수행하는데 있어서 초벌로 작업된 레이블데이터로써 제공되며, 이를 통해 작업자가 상기 자동레이블데이터가 올바른 레이블인지를 검토함으로써 최종적으로 데이터에 대한 레이블링 작업이 완료될 수 있다.

도 15는 본 발명의 일 실시예에 따른 자동레이블링단계(S400)의 세부 단계들을 개략적으로 도시한다.

도 15에 도시된 바와 같이, 상기 자동레이블링단계(S400)는, 상기 서비스서버(1000)와 통신을 수행하는 복수의 작업자단말(3000) 각각에 상기 데이터셋(200)에서 선택되지 않은 나머지 데이터를 작업물로서 제공하는 작업물제공단계(S410); 상기 작업자단말(3000) 각각에 제공된 데이터에 상응하는 자동레이블데이터를 제공하는 자동레이블데이터제공단계(S420); 및 상기 작업자단말(3000)로부터 자동레이블데이터에 대한 검토결과를 수신하는 검토결과수신단계(S440);를 포함할 수 있다.

구체적으로, 상술한 바와 같이, 상기 자동레이블링단계(S400)는 데이터에 대하여 학습된 레이블링모델(1010')에서 도출한 자동레이블데이터를 작업자에게 제공함으로써 작업자의 최종적인 검토과정을 거쳐 데이터에 대한 레이블링 작업을 완료할 수 있다.

이를 위하여, 상기 작업물제공단계(S410)는 작업을 수행하고자 하는 복수의 작업자 각각의 작업자단말(3000)에 데이터셋(200)에 포함된 데이터, 바람직하게는 데이터셋(200)에 포함된 복수의 데이터 가운데 제1개수의 데이터로 선택되지 않은 나머지 데이터 각각을 작업물로서 제공한다. 이때, 해당 데이터를 제공받은 작업자단말(3000)에는 데이터에 대한 레이블링 작업을 작업자가 수행할 수 있는 인터페이스가 디스플레이되고, 해당 인터페이스에는 상기 작업물제공단계(S410)를 통해 제공받은 데이터가 표시될 수 있다.

이어서, 상기 자동레이블데이터제공단계(S420)는 상기 복수의 작업자단말(3000)에 상기 작업물제공단계(S410)에서 제공한 데이터에 상응하는 자동레이블데이터를 제공한다. 이에 따라, 상기 작업자단말(3000)에 디스플레이된 인터페이스 상에 제공받은 자동레이블데이터가 표시되며, 추가적으로 상기 인터페이스는 상기 자동레이블데이터가 해당 데이터에 대한 올바른 레이블데이터인지를 작업자가 검토할 수 있는 별도의 인터페이스적 요소를 포함할 수 있다.

이에 따라, 상기 자동레이블데이터를 제공받은 작업자단말(3000)의 작업자는 상기 인터페이스 상에서 자동레이블데이터에 대한 작업을 수행(S430)한다. 구체적으로 해당 작업은 상기 자동레이블데이터가 해당 데이터에 대하여 올바르게 레이블링되었는지를 검토하는 작업에 해당할 수 있고, 만약 올바르지 않은 것으로 검토한 경우에 작업자가 상기 인터페이스 상에서 상기 자동레이블데이터를 수정하거나 혹은 해당 데이터에 대한 레이블링 작업을 직접 수행할 수도 있다.

한편, 검토결과수신단계(S440)는, 복수의 작업자단말(3000)로부터 자동레이블데이터에 대한 검토결과를 수신한다. 즉, 상기 검토결과수신단계(S440)는 복수의 작업자의 검토에 따라 최종적으로 해당 데이터에 대한 레이블데이터를 수신할 수 있다. 이와 같이, 상기 검토결과수신단계(S440)를 통해 제1개수의 데이터를 제외한 나머지 데이터에 대한 레이블데이터를 수신함으로써, 데이터셋(200)에 포함된 복수의 데이터 각각에 대한 레이블링 작업을 완료할 수 있다.

도 16은 본 발명의 일 실시예에 따른 최종적으로 레이블링된 데이터들을 개략적으로 도시한다.

도 16에 도시된 바와 같이, 상술한 본 발명을 통해 최종적으로 서비스서버(1000)는 작업이 완료된 레이블링된 데이터셋(200')을 구축할 수 있다. 상기 레이블링된 데이터셋(200')은 기존의 데이터셋(200)에 포함된 복수의 데이터 및 각각의 데이터에 상응하는 레이블데이터를 포함할 수 있다.

구체적으로, 상기 레이블링된 데이터셋(200')에는 3 가지 유형의 레이블데이터가 포함될 수 있다. 첫번째 유형은 제1개수의 데이터로 선택된 데이터에 대하여 작업자 등의 사람에 의하여 수동적으로 작업된 레이블데이터(1060)에 해당한다. 이와 같이 작업된 레이블데이터(1060)는 학습데이터로써 레이블링모델(1010)을 학습시키기 위하여 사용될 수 있다.

한편, 두번째 유형은 제1개수의 데이터로 선택되지 않은 나머지 데이터에 대하여 학습된 레이블링모델(1010')에서 도출된 자동레이블데이터에 대하여 작업자가 올바른 레이블데이터로 검토한 자동레이블데이터(1050)에 해당한다. 상기 자동레이블데이터(1050)는 작업자가 해당 자동레이블데이터(1050)를 해당 데이터에 대한 올바른 레이블이라고 검토하여 별도의 수정을 하지 않은 자동레이블데이터에 해당할 수 있다.

마지막으로, 세번째 유형은 제1개수의 데이터로 선택되지 않은 나머지 데이터 대하여 학습된 레이블링모델(1010')에서 도출된 자동레이블데이터에 대하여 작업자가 올바르지 않은 레이블데이터로 검토하여, 해당 자동레이블데이터를 수정하거나 혹은 해당 데이터에 대한 레이블링 작업을 작업자가 다시 수행하여 도출된 레이블데이터(1060')에 해당할 수 있다.

한편, 상기와 같이, 각 데이터에 대한 레이블데이터를 포함하는 레이블링된 데이터셋(200')은 상기 데이터셋(200)을 제공한 사용자의 사용자단말(2000)에 제공되며, 추가적으로 상기 레이블링된 데이터셋(200')은 서비스서버(1000)에 포함된 데이터베이스(1500) 혹은 상기 서비스서버(1000)와 통신을 수행하는 외부의 데이터베이스(5000)에 저장될 수 있다. 이와 같이, 데이터베이스(1500 혹은 5000)에 저장된 상기 레이블링된 데이터셋(200')은 추후에 제공받은 데이터셋에 포함된 데이터와의 유사도에 따라 선택됨으로써 레이블링모델(1010)을 학습하기 위한 용도로 사용될 수 있다.

이와 같이, 본 발명에서는 데이터셋(200)에 포함된 복수의 데이터 각각을 작업자가 처음부터 레이블링 작업을 수행하는 것이 아니라, 제1개수의 데이터에 대해서만 작업자가 처음부터 레이블링 작업을 수행하고, 나머지 데이터에 대해서는 학습된 레이블링모델(1010')을 통해 도출된 자동레이블데이터를 검토하는 방식으로 작업을 수행하므로, 데이터셋(200) 전체에 대한 레이블링 작업에 소요되는 시간을 크게 줄일 수 있는 효과를 발휘할 수 있고, 작업자의 실수에 의하여 발생하는 레이블링의 품질의 저하를 방지할 수 있는 효과를 발휘할 수 있다.

도 17은 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 개략적으로 도시한다.

상술한 도 2에 도시된 서비스서버(1000)는 도 17에 도시된 컴퓨팅장치(11000)의 구성요소들을 포함할 수 있다.

도 17에 도시된 바와 같이, 컴퓨팅장치(11000)는 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/O subsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅장치(11000)는 도 2에 도시된 서비스서버(1000)에 해당될 수 있다.

메모리(11200)는 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅장치(11000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 그 밖에 다양한 데이터를 포함할 수 있다.

이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.

주변장치 인터페이스(11300)는 컴퓨팅장치(11000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리 (11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅장치(11000)를 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.

입/출력 서브시스템은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서 등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.

전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.

통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅장치와 통신을 가능하게 할 수 있다.

또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅장치와 통신을 가능하게 할 수도 있다.

이러한 도 17의 실시예는, 컴퓨팅장치(11000)의 일례일 뿐이고, 컴퓨팅장치(11000)는 도 17에 도시된 일부 컴포넌트가 생략되거나, 도 17에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅장치는 도 17에 도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(11600)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅장치(11000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 애플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.

본 발명의 실시예에 따른 방법들은 다양한 컴퓨팅장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 애플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 컴퓨팅장치(11000)에 설치될 수 있다. 일 예로, 파일 배포 시스템은 컴퓨팅장치(11000)의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅장치 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

본 발명의 일 실시예에 따르면, 데이터셋에 포함된 복수의 데이터 가운데 일부의 데이터를 사용하여 레이블링모델을 학습시키고, 학습된 레이블링모델을 사용하여 데이터셋에서 선택되지 않은 나머지 데이터에 대한 레이블링을 수행함으로써, 데이터에 대한 레이블링 작업을 신속하게 처리할 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면, 데이터셋과 유사한 데이터들을 데이터베이스에서 선택하고, 선택된 데이터들을 추가적으로 사용하여 레이블링모델을 학습시킴으로써, 더욱 효과적으로 레이블링모델을 학습시킬 수 있는 효과를 발휘할 수 있다.

본 발명의 일 실시예에 따르면, 데이터셋에서 선택되지 않은 나머지 데이터에 대하여 학습된 레이블링모델에서 도출한 자동레이블데이터를 해당 데이터에 대한 레이블링 작업을 수행하는 작업자의 단말에 제공함으로써, 작업자가 자동레이블데이터에 대한 검수에 대한 작업을 처리하는 것만으로도 해당 데이터에 대한 레이블링 작업을 완료할 수 있도록 하는 효과를 발휘할 수 있다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (7)

1 이상의 프로세서 및 1 이상의 메모리를 포함하는 서비스서버에서 수행하는 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법으로서,
사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계;
상기 서비스서버에 포함된 데이터베이스 혹은 상기 서비스서버와 통신을 수행하는 외부의 데이터베이스에 포함된 복수의 데이터집합 가운데 상기 데이터셋에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계;
상기 제1데이터선택단계에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋을 사용하여 레이블링모델을 학습시키는 레이블링모델학습단계; 및
학습된 상기 레이블링모델을 사용하여 상기 데이터셋에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계;를 포함하는, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법.

청구항 1에 있어서,
상기 제2개수의 데이터집합 각각은, 레이블링의 대상에 해당하는 데이터 및 해당 데이터에 대하여 자동적 혹은 수동적으로 레이블링된 레이블데이터를 포함하는, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법.

청구항 2에 있어서,
상기 제2개수의 데이터집합 각각은, 해당 데이터를 피처 임베딩 모델에 입력하여 도출된 해당 데이터에 대한 특징벡터를 더 포함하는, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법.

청구항 1에 있어서,
상기 제2데이터집합선택단계는,
상기 데이터셋에 포함된 복수의 데이터 각각을 피처 임베딩 모델에 입력하여 복수의 데이터 각각에 대한 특징벡터들을 도출하는 특징벡터도출단계; 및
상기 데이터베이스에 포함된 복수의 데이터집합 각각에 대하여 상기 복수의 특징벡터들과의 유사도를 산출하고, 상기 복수의 데이터집합 각각의 유사도에 기설정된 규칙을 적용하여 제2개수의 데이터집합을 선택하는 유사도선택단계;를 포함하는, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법.

청구항 1에 있어서,
상기 자동레이블링단계는,
상기 서비스서버와 통신을 수행하는 복수의 작업자단말 각각에 상기 데이터셋에서 선택되지 않은 나머지 데이터를 작업물로서 제공하는 작업물제공단계;
상기 작업자단말 각각에 제공된 데이터에 상응하는 자동레이블데이터를 제공하는 자동레이블데이터제공단계; 및
상기 작업자단말로부터 자동레이블데이터에 대한 검토결과를 수신하는 검토결과수신단계;를 포함하는, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법.

1 이상의 프로세서 및 1 이상의 메모리를 포함하여, 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법을 수행하는 서비스서버로서,
사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계;
상기 서비스서버에 포함된 데이터베이스 혹은 상기 서비스서버와 통신을 수행하는 외부의 데이터베이스에 포함된 복수의 데이터집합 가운데 상기 데이터셋에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계;
상기 제1데이터선택단계에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋을 사용하여 레이블링모델을 학습시키는 레이블링모델학습단계; 및
학습된 상기 레이블링모델을 사용하여 상기 데이터셋에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계;를 수행하는, 서비스서버.

1 이상의 프로세서 및 1 이상의 메모리를 포함하는 서비스서버에서 수행하는 데이터셋의 레이블링을 자동적으로 처리하기 위한 방법을 구현하기 위한 컴퓨터-판독가능 매체로서, 상기 컴퓨터-판독가능 매체는, 상기 서비스서버로 하여금 이하의 단계들을 수행하도록 하는 컴퓨터 실행가능 명령어들을 포함하고,
상기 이하의 단계들은:
사용자로부터 제공받은 복수의 데이터를 포함하는 데이터셋에서 기설정된 제1개수의 데이터를 선택하는 제1데이터선택단계;
상기 서비스서버에 포함된 데이터베이스 혹은 상기 서비스서버와 통신을 수행하는 외부의 데이터베이스에 포함된 복수의 데이터집합 가운데 상기 데이터셋에 포함된 복수의 데이터와 유사한 제2개수의 데이터집합을 선택하는 제2데이터집합선택단계;
상기 제1데이터선택단계에서 선택된 데이터 및 해당 데이터에 대하여 수동으로 레이블링된 레이블데이터를 포함하는 제1개수의 데이터집합과 상기 제2개수의 데이터집합을 포함하는 학습데이터셋을 사용하여 레이블링모델을 학습시키는 레이블링모델학습단계; 및
학습된 상기 레이블링모델을 사용하여 상기 데이터셋에서 선택되지 않은 나머지 데이터에 대한 자동레이블데이터를 도출하는 자동레이블링단계;를 포함하는, 컴퓨터-판독가능 매체.

Images