KR102527878B1

KR102527878B1 - 키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 판독 가능한 저장 매체 그리고 프로그램

Info

Publication number: KR102527878B1
Application number: KR1020210066166A
Authority: KR
Inventors: 칭위에 멍; 천 자오
Original assignee: 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디.
Priority date: 2020-07-15
Filing date: 2021-05-24
Publication date: 2023-05-02
Also published as: EP3907666A3; JP7135143B2; JP2021193547A; EP3907666A2; KR20210069609A; CN111931591A; US20210201161A1; CN111931591B

Abstract

본 발명의 실시예는 키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 컴퓨터 판독 가능한 저장 매체를 공개하되, 이미지 처리, 이미지 라벨링, 인공 지능, 기계 학습 기술 분야에 관한 것이다. 상기 방법의 구체적인 일 실시형태는, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하는 단계; 다음, 상기 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하는 단계; 이어서, 상기 비라벨링 데이터를 상기 제1 예측 모델 및 상기 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하는 단계; 마지막으로, 상기 제2 예측 모델 및 상기 제2 판별기에 따라 키 포인트 학습 모델을 구축하는 단계를 포함한다. 상기 실시형태는 대량으로 존재하는 비라벨링 데이터를 충분히 이용함으로써, 키 포인트 학습 모델을 구축하는 조건 및 난이도를 감소시킨다.

Description

키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 판독 가능한 저장 매체 그리고 프로그램{METHOD, APPARATUS, ELECTRONIC DEVICE AND, READABLE STORAGE MEDIUM AND PROGRAM FOR CONSTRUCTING KEY-POINT LEARNING MODEL}

본 발명은 데이터 처리 기술 분야에 관한 것으로, 구체적으로 이미지 처리, 이미지 라벨링, 인공 지능, 기계 학습 기술 분야에 관한 것이고, 특히 키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 컴퓨터 판독 가능한 저장 매체에 관한 것이다.

인터넷 기술의 발전 및 인간-컴퓨터 상호 작용 애플리케이션의 보급에 따라, 정확하고 합리적인 인체 키 포인트를 획득하는 기술의 응용 가치도 점점 높아지고 있는데, 예를 들어, 일부 체감형 게임, 인체 행동 분석, 가상 이미지 구동 등 분야에서 모두 이러한 기술을 응용하기 시작하였고, 심지어 현재 아동 교육, 생방송 특수 효과 등의 응용에서도 아주 좋은 발전을 이루고 있다.

정확한 인체 키 포인트는 상기 응용 장면에서 우수한 효과를 구현하는 관건으로서, 선행기술은 기계 학습 및 딥 러닝 알고리즘을 이용하여 키 포인트 학습 모델의 사로를 구축하되, 그 구축 과정에서 대량의 정확한 인체 키 포인트가 이미 라벨링된 라벨링 데이터를 트레이닝에 참여시켜야 한다.

본 발명의 실시예는 키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 컴퓨터 판독 가능한 저장 매체를 제공한다.

제1 양태에 따르면, 본 발명의 실시예는, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하는 단계; 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하는 단계; 비라벨링 데이터를 제1 예측 모델 및 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하는 단계; 및 제2 예측 모델 및 제2 판별기에 따라 키 포인트 학습 모델을 구축하는 단계를 포함하는 키 포인트 학습 모델 구축 방법을 제공한다.

제2 양태에 따르면, 본 발명의 실시예는, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하는 라벨링/비라벨링 데이터 획득 유닛; 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하는 지도 트레이닝 유닛; 비라벨링 데이터를 제1 예측 모델 및 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하는 비지도 트레이닝 유닛; 및 제2 예측 모델 및 제2 판별기에 따라 키 포인트 학습 모델을 구축하는 키 포인트 학습 모델 구축 유닛을 포함하는 키 포인트 학습 모델 구축 장치를 제공한다.

제3 양태에 따르면, 본 발명의 실시예는, 적어도 하나의 프로세서; 및 적어도 하나의 프로세서와 통신 연결되는 메모리를 포함하고, 메모리에 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며, 상기 명령은 적어도 하나의 프로세서에 의해 실행되어, 적어도 하나의 프로세서가 실행 시 제1 양태 중 어느 하나의 실시형태에 따른 키 포인트 학습 모델 구축 방법을 구현할 수 있도록 하는 전자 기기를 제공한다.

제4 양태에 따르면, 본 발명의 실시예는 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능한 저장 매체를 제공하되, 상기 컴퓨터 명령은, 컴퓨터가 실행 시 제1 양태 중 어느 하나의 실시형태에 따른 키 포인트 학습 모델 구축 방법을 구현할 수 있도록 한다.

본 발명의 실시예에 의해 제공되는 키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 컴퓨터 판독 가능한 저장 매체는, 먼저, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하고; 다음, 상기 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하며; 이어서, 상기 비라벨링 데이터를 상기 제1 예측 모델 및 상기 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하고; 마지막으로, 상기 제2 예측 모델 및 상기 제2 판별기에 따라 키 포인트 학습 모델을 구축한다.

반드시 대량의 라벨링 데이터에 기반하여야만 키 포인트 학습 모델을 구축할 수 있는 선행기술과 달리, 본 발명은 반지도 방식으로 키 포인트 학습 모델을 구축하는 새로운 해결수단을 제공하는 바, 먼저 소량으로 존재하는 라벨링 데이터에 대해 지도적인 생성적 적대 트레이닝을 진행한 다음, 생성적 적대 트레이닝의 초보적 결과와 결합하여 비지도 방식으로 비라벨링 데이터에 대해 다음 단계 트레이닝을 진행하고, 대량으로 존재하는 비라벨링 데이터를 충분히 이용하며, 또한 생성적 적대 사상의 추가로 인하여 최종적으로 구축된 모델 정확도도 비교적 높으므로, 키 포인트 학습 모델을 구축하는 조건 및 난이도를 감소시킨다.

이 부분에서 설명된 내용은 본 발명의 실시예의 핵심 또는 중요 특징을 나타내는 것이 아니고, 본 발명의 범위를 한정하기 위한 것도 아님을 이해해야 한다. 본 발명의 다른 특징은 아래의 명세서를 통해 용이하게 이해될 것이다.

아래 도면에 도시된 비 제한적인 실시예의 상세한 설명에 대한 열독 및 참조를 통해 본 발명의 다른 특징, 목적 및 장점이 보다 명백해질 것이다.
도 1은 본 발명이 응용될 수 있는 예시적 시스템 아키텍처이다.
도 2는 본 발명의 실시예에 의해 제공되는 키 포인트 학습 모델 구축 방법의 흐름도이다.
도 3은 본 발명의 실시예에 의해 제공되는 다른 키 포인트 학습 모델 구축 방법의 흐름도이다.
도 4는 본 발명의 실시예에 의해 제공되는 키 포인트 학습 모델 구축 장치의 구성 모식도이다.
도 5는 본 발명의 실시예에 의해 제공되는 키 포인트 학습 모델 구축 방법을 수행하기 위한 전자 기기의 구성 모식도이다.

아래 도면 및 실시예를 참조하여 본 발명을 더 상세히 설명한다. 여기서 설명되는 구체적인 실시예는 관련 발명을 해석하기 위한 것일뿐 본 발명은 이에 한정되지 않음을 이해할 수 있을 것이다. 이 밖에, 설명의 편의를 위해 도면에는 해당 발명과 관련된 부분만이 도시되었음을 유의해야 한다.

모순되지 않는 한 본 발명의 실시예 및 실시예의 특징은 서로 조합될 수 있음을 유의해야 한다. 아래 도면을 참조하고 실시예를 참조하여 본 발명을 상세히 설명하기로 한다.

도 1은 본 발명에 따른 키 포인트 학습 모델 구축 방법, 장치, 전자 기기 및 컴퓨터 판독 가능한 저장 매체의 실시예를 구현할 수 있는 예시적 시스템 아키텍처(100)를 나타낸다.

도 1에 도시된 바와 같이, 시스템 아키텍처(100)는 단말 기기(101, 102, 103), 네트워크(104) 및 서버(105)를 포함할 수 있다. 네트워크(104)는 단말 기기(101, 102, 103)와 서버(105) 사이에서 통신 링크의 매체를 제공한다. 네트워크(104)는 다양한 연결 타입을 포함할 수 있는 바, 예를 들어 유선, 무선 통신 링크 또는 광섬유 케이블 등이다.

사용자는 단말 기기(101, 102, 103)를 사용하여 네트워크(104)를 통해 서버(105)와 인터랙션함으로써 메시지 등을 수신 또는 송신할 수 있다. 단말 기기(101, 102, 103) 및 서버(105)에는 양자 사이에서 정보 통신을 진행하기 위한 다양한 애플리케이션이 설치될 수 있는 바, 예를 들어 데이터 전송 타입 애플리케이션, 키 포인트 학습 타입 애플리케이션, 인스턴트 통신 타입 애플리케이션 등이다.

단말 기기(101, 102, 103) 및 서버(105)는 하드웨어일 수 있고 소프트웨어일 수도 있다. 단말 기기(101, 102, 103)가 하드웨어인 경우 디스플레이 스크린 및 카메라를 구비하는 다양한 전자 기기일 수 있으며, 스마트폰, 태블릿 PC, 랩톱 컴퓨터 및 데스크톱 컴퓨터 등을 포함하지만 이에 한정되지 않고; 단말 기기(101, 102, 103)가 소프트웨어인 경우 상기 열거된 전자 기기에 설치될 수 있으며, 이는 다수의 소프트웨어 또는 소프트웨어 모듈로 구현될 수 있거나, 하나의 소프트웨어 또는 소프트웨어 모듈로 구현될 수 있으며 여기서는 구체적으로 한정하지 않는다. 서버(105)가 하드웨어인 경우 다수의 서버로 구성된 분산형 서버 클러스터로 구현될 수 있고, 하나의 서버로 구현될 수도 있으며; 서버가 소프트웨어인 경우 다수의 소프트웨어 또는 소프트웨어 모듈로 구현되거나, 하나의 소프트웨어 또는 소프트웨어 모듈로 구현될 수 있으며 여기서는 구체적으로 한정하지 않는다.

서버(105)는 내장된 다양한 애플리케이션을 통해 다양한 서비스를 제공할 수 있고, 인체 키 포인트 학습 모델 구축 서비스를 제공할 수 있는 학습 타입 애플리케이션을 예로 들면, 서버(105)가 상기 키 포인트 학습 타입 애플리케이션을 실행 시 하기와 같은 효과를 구현할 수 있는 바, 먼저, 네트워크(104)를 통해 단말 기기(101, 102, 103)로부터 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하고; 다음, 상기 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하며; 이어서, 상기 비라벨링 데이터를 상기 제1 예측 모델 및 상기 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하고; 마지막으로, 상기 제2 예측 모델 및 상기 제2 판별기에 따라 키 포인트 학습 모델을 구축한다. 즉, 서버(105)는 상기 처리 단계를 통해, 소량의 라벨링 데이터 및 대량의 비라벨링 데이터에 기반하여 키 포인트 학습 모델을 구축하여 획득하는 목적을 구현한다.

설명해야 할 것은, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터는 단말 기기(101, 102, 103)로부터 네트워크(104)를 통해 실시간으로 획득될 수 있는 이외에, 다양한 방식을 통해 서버(105) 로컬에 미리 저장될 수도 있고, 서버(105)가 로컬에 이러한 데이터가 이미 저장되어 있는 것으로 검출할 수 있는 경우(예를 들어, 처리하기 전에 남겨둔 키 포인트 학습 모델 구축 태스크), 직접 로컬로부터 이러한 데이터를 획득하는 방식을 선택할 수 있는데, 이런 경우, 예시적 시스템 아키텍처(100)는 단말 기기(101, 102, 103) 및 네트워크(104)를 포함하지 않을 수도 있다.

키 포인트 학습 모델의 구축은 라벨링 데이터 및 비라벨링 데이터에 따라 대량 연산을 진행해야 함으로써, 비교적 많은 연산 리소스 및 비교적 강한 연산 능력을 점용해야 하므로, 본 발명에서 후속적으로 각 실시예에 의해 제공되는 키 포인트 학습 모델 구축 방법은 일반적으로 비교적 강한 연산 능력, 비교적 많은 연산 리소스를 구비하는 서버(105)에 의해 수행되고, 대응되게, 키 포인트 학습 모델 구축 장치도 일반적으로 서버(105)에 설치된다. 하지만 동시에 설명해야 할 것은, 서비스 아키텍처단말 기기(101, 102, 103)도 요구를 만족시키는 연산 능력 및 연산 리소스를 구비할 경우, 단말 기기(101, 102, 103)는 이에 설치된 키 포인트 학습 타입 애플리케이션을 통해 원래 서버(105)에 의해 수행되어야 하는 상기 전부 또는 일부 연산을 완성할 수도 있음으로써, 단독 또는 서버(105)와 협력하여 키 포인트 학습 모델을 구축하는데, 동시에 상이한 연산 능력을 구비하는 다양한 단말 기기가 존재할 경우, 특히 이러하다.

키 포인트 학습 타입 애플리케이션이 위치한 단말 기기가 비교적 강한 연산 능력을 구비하고 또한 나머지 연산 리소스가 비교적 많다고 판단할 경우, 단말 기기로 하여금 상기 연산을 수행하도록 함으로써, 서버(105)의 연산 압력을 적절히 경감시킬 수 있고, 대응되게, 키 포인트 학습 모델 구축 장치도 단말 기기(101, 102, 103)에 설치될 수 있다. 이런 경우, 예시적 시스템 아키텍처(100)는 단말 기기(105) 및 네트워크(104)를 포함하지 않을 수도 있다.

도 1에서의 단말 기기, 네트워크 및 서버의 수량은 예시적인 것일 뿐이며, 실제 필요에 따라 임의의 수량의 단말 기기, 네트워크 및 서버를 구비할 수 있음을 이해해야 한다.

도 2를 참조하면, 도 2는 본 발명의 실시예에 의해 제공되는 키 포인트 학습 모델 구축 방법의 흐름도이고, 여기서 흐름(200)은 하기와 같은 단계를 포함한다.

단계(201)에서, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득한다.

본 단계는 키 포인트 학습 모델 구축 방법의 수행 주체(예를 들어, 도 1에 도시된 서버(105))가, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하는 단계이다.

여기서, 인체 키 포인트가 이미 라벨링된 라벨링 데이터는, 전신 인체 동작 포착 기기를 통해 직접 획득될 수 있고, 전문적 키 포인트 라벨링 인원이 비라벨링 데이터에 대해 일정한 요구 및 규칙에 따라 라벨링하여 획득될 수도 있으며; 인체 이미지를 포함하는 비라벨링 데이터는 촬영 기능을 구비하는 다양한 전자 기기를 통해 직접 촬영하여 직접 획득될 수 있다. 또한, 비라벨링 데이터는 인체 이미지를 포함하는 인체 운동 비디오로부터 크로핑 또는 추출하여 획득될 수도 있다.

단계(202)에서, 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득한다.

단계(201)의 기초상에서, 본 단계는, 상기 수행 주체가 생성적 적대 사상에 기반하여 라벨링 데이터를 사용하여 초기 예측 모델 및 초기 판별기에 대해 지도 트레이닝을 수행함으로써, 라벨링 데이터 중 이미 라벨링된 인체 키 포인트 실제값, 인체 키 포인트 예측값 및 예측 정확도를 통해 예측 모델에 대한 제1 차 수정을 완성하고, 판별기에 의한 키 포인트가 실제값(참값이라고도 함)인지 여부의 정확도 판별을 통해 판별기에 대한 제1 차 수정을 완성하는 단계이다.

본 단계에서 라벨링 데이터에 기반하여 진행되는 지도 트레이닝의 목적은, 예측 모델이 라벨링 데이터로부터 어느 위치점이 키 포인트에 속해야 하는지를 학습하도록 하기 위한 것이고, 판별기는 생성적 적대 사로에 기반하여 도입된 것으로, 그 의도는 예측 모델에 의해 출력된 키 포인트가 실제값으로 판별될 수 있는지 여부를 통해, 예측 모델이 파라미터 수정을 진행하도록 간접적으로 도움으로써, 예측 모델이 보다 우수한 키 포인트 예측 정확도를 구비하도록 하는 것이다.

단계(203)에서, 비라벨링 데이터를 제1 예측 모델 및 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득한다.

단계(202)의 기초상에서, 본 단계는, 상기 수행 주체가 생성적 적대 사상에 기반하여 비라벨링 데이터를 사용하여 제1 예측 모델 및 제1 판별기에 대해 비지도 트레이닝을 수행함으로써, 후속적으로 대량으로 응용될 비라벨링 데이터와 결부하여 예측 모델 및 판별기에 대해 제2 차 수정을 진행하여, 제 2 차 수정된 예측 모델 및 판별기가 비라벨링 데이터에 더욱 적용되도록 함으로써, 라벨링 데이터의 이에 사용된 라벨링 방식으로 인해 예측 모델에 잘못된 가이드를 제공하는 것을 최대한 제거하는 단계이다.

구체적으로, 인체 이미지에 기반하여 이의 키 포인트를 예측하여 획득하는 예측 모델은 구체적으로 다양한 기계 학습 및 딥 러닝알고리즘 또는 네트워크를 선택할 수 있는데, 예를 들어, 구배 소실을 우수하게 방지하는 잔류 오차 네트워크, 중요하지만 나타나는 횟수가 비교적 적은 데이터 기억 능력이 우수한 장단기 기억 네트워크, 및 일부 통상적인 콘볼루션 뉴럴 네트워크 등을 선택할 수 있다. 또한, 알고리즘 또는 네트워크의 대체적인 프레임워크가 결정된 경우, 합리적인 조합을 통해 예측 모델의 키 포인트 예측 정확도를 증강시키도록, 알고리즘 또는 네트워크의 규정 프레임워크에서 기능층 수량, 연결 방식, 손실 함수, 활성화 함수, 키 포인트 수량을 포함한 다양한 파라미터를 자체적으로 설정할 수도 있다.

여기서, 기능층은 콘볼루션층, 폴링층(Pooling layer), 완전연결층, 정규화층(softmax층) 등을 포함하고, 연결 방식은 순차적 연결 및 병렬 연결을 포함하며, 손실 함수는 L1 손실 함수(타깃값과 추측값의 절대 차이값의 합을 최소화하는 최소 절대값 편차라고도 함), L2 손실 함수(본질적으로 최소 제곱 오차를 구하는 것인데, 즉 타깃값과 추측값의 절대 차이값의 제곱합 최소화하는 논 손실 함수라고도 함), 크로스 엔트로피 손실 함수, 0-1 손실 함수, 지수 손실 함수 중 어느 하나 또는 임의의 조합을 포함하지만, 여기서 구체적으로 한정하지 않고, 실제 응용 장면의 특성에 다라 유연하게 선택할 수 있다.

실제 트레이닝 과정에서, 단계(202)에서 설명된 지도 트레이닝 과정 및 단계(203)에서 설명된 비지도 트레이닝 과정을 끊임없이 반복하여, 예측 모델이 만족스러운 정확도에 도달한 후에야 다음 단계의 키 포인트 학습 모델 구축 단계를 수행한다.

단계(204)에서, 제2 예측 모델 및 제2 판별기에 따라 키 포인트 학습 모델을 구축한다.

단계(203)의 기초상에서, 본 단계는 상기 수행 주체가 두 번의 수정을 거친 후 획득된 제2 예측 모델 및 제2 판별기에 따라 키 포인트 학습 모델을 구축하는 단계이다.

또한, 키 포인트 학습 모델의 파라미터를 제때에 업데이트하고, 키 포인트 예측에 대한 모델의 정확도를 유지하기 위해, 구축된 키 포인트 학습 모델은 후속적으로 획득된 새로운 샘플 데이터에 따라 지도 트레이닝 및/또는 비지도 트레이닝 과정을 다시 수행할 수도 있다.

반드시 대량의 라벨링 데이터에 기반하여야만 키 포인트 학습 모델을 구축할 수 있는 선행기술과 달리, 본 발명의 실시예에 의해 제공되는 키 포인트 학습 모델 구축 방법은 반지도 방식으로 키 포인트 학습 모델을 구축하는 새로운 해결수단을 제공하는 바, 먼저 소량으로 존재하는 라벨링 데이터에 대해 지도적인 생성적 적대 트레이닝을 진행한 다음, 생성적 적대 트레이닝의 초보적 결과와 결합하여 비지도 방식으로 비라벨링 데이터에 대해 다음 단계 트레이닝을 진행하고, 대량으로 존재하는 비라벨링 데이터를 충분히 이용하며, 또한 생성적 적대 사상의 추가로 인해 최종적으로 구축된 모델 정확도도 비교적 높으므로, 키 포인트 학습 모델을 구축하는 조건 및 난이도를 감소시킨다.

도 3을 참조하면, 도 3은 본 발명의 실시예에 의해 제공되는 다른 키 포인트 학습 모델 구축 방법의 흐름도이고, 여기서 흐름(300)은 하기와 같은 단계를 포함한다.

단계(301)에서, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득한다.

본 단계는 도 2에 도시된 단계(201)과 일치하고, 동일한 부분 내용은 이전 실시예의 대응되는 부분을 참조할 수 있으므로, 여기서 더 이상 설명하지 않는다.

단계(302)에서, 초기 예측 모델을 이용하여 라벨링 데이터의 제1 키 포인트 예측값을 예측하여 획득한다.

본 단계는 상기 수행 주체가 라벨링 데이터를 초기 예측 모델에 입력하여, 키 포인트에 대한 초기 예측 모델의 초기 예측 능력을 통해 제1 키 포인트 예측값을 획득하는 단계이다.

단계(303)에서, 제1 키 포인트 예측값과 라벨링 데이터 중의 키 포인트 실제값의 차이값에 따라, 초기 예측 모델의 예측 파라미터를 수정하여 제1 예측 모델을 획득한다.

단계(302)의 기초상에서, 본 단계는 상기 수행 주체가 비교를 통해 라벨링 데이터의 제1 키 포인트 예측값과 키 포인트 실제값의 차이값을 획득하고, 상기 차이값에 따라 초기 예측 모델을 수정하여 키 포인트의 예측 파라미터를 예측하여 획득하여, 라벨링 데이터에 대해 예측값이 실제값에 더욱 근접한 제1 예측 모델을 획득할 수 있도록 하는 단계이다.

단계(304)에서, 제1 키 포인트 예측값 및 키 포인트 실제값에 대한 초기 판별기의 판별 정확도를 이용하여, 초기 판별기의 판별 파라미터를 수정하여 제1 판별기를 획득한다.

단계(303)의 기초상에서, 본 단계는 상기 수행 주체가 제1 키 포인트 예측값 및 키 포인트 실제값에 대한 초기 판별기의 판별 정확도를 통해 초기 판별기의 판별 파라미터를 수정하여 제1 판별기를 획득하는 단계이다.

본 발명에서의 판별기의 작용은, 예측 모델에 의해 출력된 키 포인트 값이 참값(즉, 실제값)인지 여부를 판별하는 것인데, 다시 말하면, 예측 모델에 의해 출력된 키 포인트 예측값이 충분히 정확할 경우, 판별기를 "기만"하여 상기 "예측값"이 "실제값"인 것으로 착각하도록 할 수 있으므로, 판별기는 생성적 적대 사상의 중요 구현으로서, 이는 본 발명에서 예측 모델의 파라미터 수정이 목표에 도달하는지 여부를 엄격히 제어하는 효과를 일으킨다.

실제 경우, 라벨링 데이터에 기반하여 지도 트레이닝을 수행하는 과정에서, 예측 모델 및 판별기 사이는 여러 번의 반복을 통해, 최종적으로 판별기에 의해 기설정된 반복 점핑 조건을 만족시키도록 하고, 상기 반복 점핑 조건은 본 발명에서 일반적으로 정확도를 판별하는 것일 수 있는데, 예를 들어, 판별기가 예측 모델에 의해 출력된 "예측값" 중 95 %가 모두 "실제값"인 것으로 판별하는 정도에 도달하는 것일 수 있다.

단계(305)에서, 제1 예측 모델을 이용하여 비라벨링 데이터의 제2 키 포인트 예측값을 예측하여 획득한다.

단계(304)의 기초상에서, 본 단계는 상기 수행 주체가 비라벨링 데이터를 제1 차 수정을 거쳐 획득된 제1 예측 모델에 입력하여, 이에 의해 출력된 제2 키 포인트 예측값을 획득하는 단계이다.

단계(306)에서, 제2 키 포인트 예측값 및 대응되는 키 포인트 실제값에 대한 제1 판별기의 판별 정확도를 이용하여, 제1 예측 모델의 예측 파라미터 및 제1 판별기의 판별 파라미터를 수정하여 제2 예측 모델 및 제2 판별기를 획득한다.

단계(305)의 기초상에서, 본 단계는 상기 수행 주체가 제2 키 포인트 예측값 및 대응되는 키 포인트 실제값에 대한 제1 판별기의 판별 정확도를 이용하여, 제1 예측 모델의 예측 파라미터 및 제1 판별기의 판별 파라미터를 수정하여 제2 예측 모델 및 제2 판별기를 획득하는 단계이다.

단계(304) 및 단계(305)의 제1 차 수정과 달리, 본 단계는 제2 키 포인트 예측값 및 대응되는 키 포인트 실제값에 대한 수정된 제1 판별기의 판별 정확도를 직접 이용하여, 제1 예측 모델의 예측 파라미터 및 제1 판별기의 판별 파라미터를 동시에 수정한다.

단계(307)에서, 제2 예측 모델 및 제2 판별기에 따라 키 포인트 학습 모델을 구축한다.

본 실시예는 단계(302) ~ 단계(304)를 통해 구체적인 지도 트레이닝 해결수단을 제공하되, 즉 예측 모델 및 판별기를 순차적으로 수정하고; 단계(305) ~ 단계(306)을 통해 구체적인 비지도 트레이닝 해결수단을 제공하되, 즉 비라벨링 데이터에 대한 제1 예측 모델의 키 포인트 예측값을 이용하여 수행한다. 상기 해결수단은 모두 이전 실시예의 각 단계의 하위 해결수단이므로, 본 실시예는 이전 실시예의 모든 유리한 효과를 더 구비한다.

상기 임의의 실시예의 기초상에서, 키 포인트 학습 모델을 구축하여 획득한 후, 이를 다양한 장면에 사용하여 대응되는 효과를 구현할 수 있는데, 예를 들어, 구축된 키 포인트 학습 모델을 직접 이용하여 새로운 비라벨링 데이터에 대해 키 포인트의 예측을 수행할 수 있는 바, 즉 비라벨링 데이터를 라벨링 데이터로 신속하게 변환시킬 수 있다.

이 밖에, 키 포인트 학습 모델에 의해 출력된, 데이터가 이미 라벨링된 인체 키 포인트에 기반하여, 이의 포즈를 라벨링하여 인체 포즈 데이터를 획득할 수도 있다. 상기 인체 포즈 데이터는 키 포인트에 결합되어 동일한 사용자가 가상 장면에서 구축한 가상 인물의 대응되는 인체 키 포인트에 동기화될 수도 있음으로써, 가상 인물의 인체 각 부위 포즈와 실제 사용자와 매우 일치하도록 하여, 사용자가 가상 장면에서 가상 인물에 대한 다양한 동작을 실행하도록 한다.

이해의 편의를 위해, 본 발명은 또한 어느 하나의 구체적인 응용 장면의 실제 요구에 대해, 구체적인 실시형태를 제공한다. 그 실제 요구는, 20 %의 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 80 %의 비라벨링 데이터를 통해 키 포인트 학습 모델을 구축하여 획득하고, 최종적으로 키 포인트 학습 모델에 의해 출력된 인체 키 포인트를 포즈 라벨링의 지원에 사용함으로써, VR(Virtual Reality, 가상 현실) 동작에 대응되도록 하는 것이다.

상기 목적을 구현하기 위해, 본 실시예는 하기와 같은 몇 개의 부분으로 나뉘어 완성된다.

1) 모델 기본 구조 결정; 2) 반지도 트레이닝 및 모델 구축; 3) 포즈 라벨링 및 동기화.

1) 모델 기본 구조 결정

모델 프레임워크 결정: 상기 키 포인트 학습 모델은 키 포인트 예측 모델 및 판별기로 구성되고, 여기서, 인체 키 포인트 및 생성적 적대 사상의 특성을 결합하되, 본 실시예는 잔류 오차 네트워크를 선택하여 예측 모델의 기본 프레임워크로 사용하고, 순차적으로 연결된 3층의 완전연결층, 1층의 정규화층 및 이진 분류기를 사용하여 초기 판별기를 구축하여 획득하여, 판별 정확도를 최대한 향상시킨다.

여기서, 잔류 오차 네트워크의 입력은 사전 처리된 이미지 데이터이고, 출력은 N개의 키 포인트의 좌표값이며, N의 크기는 자체적으로 조정할 수 있고; 판별기의 입력은 N개의 키 포인트의 좌표값이며, 출력은 상기 그룹의 키 포인트의 좌표값이 참값(즉, 실제값)에 속하는지 여부의 판별 결과이다.

손실 함수 결정: 본 실시예는 L2 손실 함수를 잔류 오차 네트워크로 사용하여 인체 키 포인트의 손실 함수를 예측하여 획득하여, 크로스 엔트로피 손실 함수를 판별기가 이진법을 수행하는 손실 함수로 사용한다.

2) 반지도 트레이닝

트레이닝에 필요한 라벨링 데이터 및 대량의 비라벨링 데이터를 준비한다.

지도 트레이닝 과정:

사전 처리된 라벨링 데이터를 잔류 오차 네트워크에 입력하고, 예측 키 포인트의 좌표값

를 출력하며, 출력된 좌표값과 좌표 참값

에 따라 좌표값 손실값

을 산출하고, 상기

를 잔류 오차 네트워크로 리턴시켜 파라미터 수정에 사용한다.

인체 키 포인트를 분류하는 단계에서, 본 실시예는 좌표 참값

의 클래스를 1로 라벨링하고, 예측된 좌표값

의 클래스를 0으로 라벨링하며, 판별기가 참값 및 예측값을 정확하게 분류할 수 있기를 희망하고, 트레이닝 시, 판별기의 입력은 한 그룹의 좌표값이며, 출력은 상기 그룹의 좌표값의 클래스이고, 출력된 클래스

및 라벨링된 클래스

에 따라 분류 손실값

을 산출하며, 여기서,

는 2치 크로스 엔트로피 손실 함수이다.

를 판별기에 리턴시켜 파라미터 수정에 사용한다.

판별기의 정확도가 95 % 이상에 도달한 후, 상기 단계 트레이닝을 종료할 수 있다.

비지도 트레이닝 과정:

사전 처리된 비라벨링 데이터를 이미 한 번 수정된 잔류 오차 네트워크에 입력하고, 예측 키 포인트의 좌표값

를 출력한 다음,

를 수정된 판별기로 출력하여 상기 그룹의 키 포인트 좌표의 판별값을 획득하며, 예측점의 판별값과 클래스 1 사이의 손실값

을 산출하고, 판별기의 판별 정확도가 어느 하나의 설정값에 도달할 때까지

를 잔류 오차 네트워크에 리턴시켜 파라미터 수정에 사용한 후 상기 단계 트레이닝을 종료하며, 아니면 상기 트레이닝 과정 중의 지도 트레이닝을 반복한다.

즉, 전체 트레이닝 과정은, 잔류 오차 네트워크가 만족스러운 정확도에 도달할 때까지 지도 트레이닝 및 비지도 트레이닝인 2개의 단계를 끊임없이 반복한 다음, 수정된 잔류 오차 네트워크 및 판별기에 기반하여 키 포인트 학습 모델을 구축하는 것이다.

3) 포즈 라벨링 및 동기화

키 포인트 학습 모델에 의해 출력된 인체 키 포인트에 대해 포즈 라벨링을 수행하고, 대응되는 사용자가 가상 응용 장면에서 구축한 가상 인물의 대응되는 키 포인트에 동기화시켜, 포즈 동기화를 구현한다.

또한 도 4를 참조하면, 상기 각 도면에 도시된 방법의 구현으로서, 본 발명은 키 포인트 학습 모델 구축 장치의 일 실시예를 제공하되, 상기 장치 실시예는 도 2에 도시된 방법 실시예와 대응되고, 상기 장치는 구체적으로 다양한 전자 기기에 응용될 수 있다.

도 4에 도시된 바와 같이, 본 실시예의 키 포인트 학습 모델 구축 장치(400)는 라벨링/비라벨링 데이터 획득 유닛(401), 지도 트레이닝 유닛(402), 비지도 트레이닝 유닛(403) 및 키 포인트 학습 모델 구축 유닛(404)을 포함할 수 있다. 여기서, 라벨링/비라벨링 데이터 획득 유닛(401)은, 인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하고; 지도 트레이닝 유닛(402)은, 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하며; 비지도 트레이닝 유닛(403)은, 비라벨링 데이터를 제1 예측 모델 및 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하고; 키 포인트 학습 모델 구축 유닛(404)은, 제2 예측 모델 및 제2 판별기에 따라 키 포인트 학습 모델을 구축한다.

본 실시예에서, 키 포인트 학습 모델 구축 장치(400)에서, 라벨링/비라벨링 데이터 획득 유닛(401), 지도 트레이닝 유닛(402), 비지도 트레이닝 유닛(403) 및 키 포인트 학습 모델 구축 유닛(404)의 구체적인 처리 및 이에 따른 기술적 효과는 각각 도 2의 대응되는 실시예에서의 단계(201) ~ 단계(204)의 관련 설명을 참조할 수 있으므로, 여기서 더 이상 설명하지 않는다.

본 실시예의 일부 선택 가능한 실시형태에서, 지도 트레이닝 유닛(402)은 또한, 초기 예측 모델을 이용하여 라벨링 데이터의 제1 키 포인트 예측값을 예측하여 획득하고; 제1 키 포인트 예측값과 라벨링 데이터 중의 키 포인트 실제값의 차이값에 따라, 초기 예측 모델의 예측 파라미터를 수정하여 제1 예측 모델을 획득하며; 제1 키 포인트 예측값 및 키 포인트 실제값에 대한 초기 판별기의 판별 정확도를 이용하여, 초기 판별기의 판별 파라미터를 수정하여 제1 판별기를 획득할 수 있다.

본 실시예의 일부 선택 가능한 실시형태에서, 비지도 트레이닝 유닛(403)은 또한, 제1 예측 모델을 이용하여 비라벨링 데이터의 제2 키 포인트 예측값을 예측하여 획득하고; 제2 키 포인트 예측값 및 대응되는 키 포인트 실제값에 대한 제1 판별기의 판별 정확도를 이용하여, 제1 예측 모델의 예측 파라미터 및 제1 판별기의 판별 파라미터를 수정하여 제2 예측 모델 및 제2 판별기를 획득할 수 있다.

본 실시예의 일부 선택 가능한 실시형태에서, 초기 판별기는 3층의 완전연결층, 1층의 정규화층 및 이진 분류기에 기반하여 구축되어 획득되고, 3층의 완전연결층은 순차적으로 연결된다.

본 실시예의 일부 선택 가능한 실시형태에서, 키 포인트 학습 모델 구축 장치(400)는, 키 포인트 학습 모델을 이용하여 새로운 비라벨링 데이터에 대해 키 포인트의 예측을 수행하는 키 포인트 학습 모델 예측 유닛을 더 포함할 수 있다.

본 실시예의 일부 선택 가능한 실시형태에서, 키 포인트 학습 모델 구축 장치(400)는, 키 포인트 학습 모델에 의해 출력된 인체 키 포인트의 포즈를 라벨링하여 인체 포즈 데이터를 획득하는 포즈 라벨링 유닛을 더 포함할 수 있다.

본 실시예의 일부 선택 가능한 실시형태에서, 키 포인트 학습 모델 구축 장치(400)는, 인체 포즈 데이터를 동일한 사용자가 가상 장면에서 구축한 가상 인물의 대응되는 인체 키 포인트에 동기화시키는 가상 장면 동기화 유닛을 더 포함할 수 있다.

본 실시예는 상기 방법 실시예에 대응되는 장치 실시예의 존재로서, 반드시 대량의 라벨링 데이터에 기반하여야만 키 포인트 학습 모델을 구축할 수 있는 선행기술과 달리, 본 실시예에 의해 제공되는 키 포인트 학습 모델 구축 장치는 반지도 방식으로 키 포인트 학습 모델을 구축하는 새로운 해결수단을 제공하는 바, 먼저 소량으로 존재하는 라벨링 데이터에 대해 지도적인 생성적 적대 트레이닝을 진행한 다음, 생성적 적대 트레이닝의 초보적 결과와 결합하여 비지도 방식으로 비라벨링 데이터에 대해 다음 단계 트레이닝을 진행하고, 대량으로 존재하는 비라벨링 데이터를 충분히 이용하며, 또한 생성적 적대 사상의 추가는 최종적으로 구축된 모델 정확도도 비교적 높으므로, 키 포인트 학습 모델을 구축하는 조건 및 난이도를 감소시킨다.

본 발명의 실시예에 따르면, 본 발명은 전자 기기 및 컴퓨터 판독 가능한 저장 매체를 더 제공한다.

도 5에 도시된 바와 같이, 본 발명의 실시예에 따른 키 포인트 학습 모델 구축 방법을 구현하기 위한 전자 기기의 블록도를 나타낸다. 전자 기기는 랩톱 컴퓨터, 데스크톱 컴퓨터, 운영 플랫폼, 개인 정보 단말기, 서버, 블레이드 서버, 대형 컴퓨터, 및 다른 적합한 컴퓨터와 같은 다양한 형태의 디지털 컴퓨터를 의미한다. 전자 기기는 개인 디지털 처리, 셀룰러폰, 스마트폰, 웨어러블 기기 및 다른 유사한 컴퓨팅 장치와 같은 다양한 형태의 이동 장치를 의미할 수도 있다. 본문에서 나타낸 부재, 이들의 연결과 관계, 및 이들의 기능은 단지 예시적인 것으로, 본문에서 설명 및/또는 요구된 본 발명의 구현을 한정하지 않는다.

도 5에 도시된 바와 같이, 상기 전자 기기는 하나 또는 다수의 프로세서(501), 메모리(502), 및 고속 인터페이스 및 저속 인터페이스를 포함하는 각 부재를 연결하기 위한 인터페이스를 포함한다. 각 부재는 상이한 버스를 이용하여 서로 연결되고, 공통 메인보드에 장착될 수 있거나 필요에 따라 다른 방식으로 장착될 수 있다. 프로세서는, 메모리에 저장되거나 메모리에서 외부 입력/출력 장치(예를 들어, 인터페이스에 커플링된 표시 기기)에 GUI의 그래픽 정보를 표시하는 명령을 포함하는 전자 기기 내에서 실행되는 명령을 처리할 수 있다. 다른 실시형태에서, 필요에 따라 다수의 프로세서 및/또는 다수의 버스를 다수의 메모리와 함께 사용할 수 있다. 마찬가지로, 다수의 전자 기기를 연결할 수 있고, 각 기기는 일부 필요한 동작(예를 들어, 서버 어레이, 한 그룹의 블레이드 서버, 또는 다중 프로세서 시스템)을 제공한다. 도 5에서 하나의 프로세서(501)를 예로 든다.

메모리(502)는 본 발명에 의해 제공되는 비일시적 컴퓨터 판독 가능한 저장 매체이다. 여기서, 메모리에 적어도 하나의 프로세서가 본 발명에 의해 제공되는 키 포인트 학습 모델 구축 방법을 수행하도록 하는 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장된다. 본 발명의 비일시적 컴퓨터 판독 가능한 저장 매체는 본 발명에 의해 제공되는 키 포인트 학습 모델 구축 방법을 수행하도록 하는 컴퓨터 명령을 저장한다.

메모리(502)는 비일시적 컴퓨터 판독 가능한 저장 매체로서, 비일시적 소프트웨어 프로그램, 비일시적 컴퓨터 실행 가능한 프로그램, 및 본 발명의 실시예의 키 포인트 학습 모델 구축 방법에 대응되는 프로그램 명령/모듈(예를 들어, 도 4에 도시된 라벨링/비라벨링 데이터 획득 유닛(401), 지도 트레이닝 유닛(402), 비지도 트레이닝 유닛(403) 및 키 포인트 학습 모델 구축 유닛(404))과 같은 모듈을 저장할 수 있다. 프로세서(501)는 메모리(502)에 저장된 비일시적 소프트웨어 프로그램, 명령 및 모듈을 실행함으로써, 서버의 다양한 기능 애플리케이션 및 데이터 처리를 수행하는데, 즉 상기 방법 실시예의 키 포인트 학습 모델 구축 방법을 구현한다.

메모리(502)는 프로그램 저장 영역 및 데이터 저장 영역을 포함할 수 있고, 여기서, 프로그램 저장 영역은 운영 체제, 적어도 하나의 기능에 필요한 응용 프로그램을 저장할 수 있으며; 데이터 저장 영역은 상기 전자 기기가 키 포인트 학습 모델 구축 방법을 수행 시 구축한 다양한 데이터 등을 저장할 수 있다. 이 밖에, 메모리(502)는 고속 랜덤 액세스 메모리를 포함할 수 있고, 적어도 하나의 자기 디스크 메모리, 플래시 메모리, 또는 다른 비일시적 고체 상태 메모리와 같은 비일시적 메모리를 더 포함할 수 있다. 일부 실시예에서, 메모리(502)는 프로세서(501)에 대해 원격으로 설치된 메모리를 선택적으로 포함할 수 있고, 이러한 원격 메모리는 네트워크를 통해 키 포인트 학습 모델 구축 방법을 수행하기 위한 전자 기기에 연결될 수 있다. 상기 네트워크의 구현예로 인터넷, 인트라넷, 근거리 통신망, 이동 통신망 및 이들의 조합을 포함하지만 이에 한정되지 않는다.

키 포인트 학습 모델 구축 방법의 전자 기기는 입력 장치(503) 및 출력 장치(504)를 더 포함할 수 있다. 프로세서(501), 메모리(502), 입력 장치(503) 및 출력 장치(504)는 버스 또는 다른 방식을 통해 연결될 수 있고, 도 5에서 버스를 통해 연결되는 것을 예로 든다.

입력 장치(503)는 입력된 디지털 또는 문자 정보를 수신할 수 있고, 키 포인트 학습 모델 구축 방법을 수행하기 위한 전자 기기의 사용자 설정 및 기능 제어와 관련된 키 신호 입력을 발생할 수 있으며, 상기 입력 장치는 예를 들어 터치스크린, 키패드, 마우스, 트랙 패널, 터치 패널, 지시 바, 하나 또는 다수의 마우스 버튼, 트랙 볼, 조이스틱 등 입력 장치이다. 출력 장치(504)는 표시 기기, 보조 조명 장치(예를 들어, LED) 및 촉각 피드백 장치(예를 들어, 진동 모터) 등을 포함할 수 있다. 상기 표시 기기는 액정 표시 장치(LCD), 발광 다이오드(LED) 표시 장치 및 플라스마 표시 장치를 포함할 수 있지만 이에 한정되지 않는다. 일부 실시형태에서, 표시 기기는 터치스크린일 수 있다.

여기서 설명된 시스템 및 기술의 다양한 실시형태는 디지털 전자 회로 시스템, 집적 회로 시스템, 전용 ASIC(전용 집적 회로), 컴퓨터 하드웨어, 펌웨어, 소프트웨어, 및/또는 이들의 조합에서 구현될 수 있다. 이러한 다양한 실시형태는 하나 또는 다수의 컴퓨터 프로그램에서의 구현을 포함할 수 있고, 상기 하나 또는 다수의 컴퓨터 프로그램은 적어도 하나의 프로그램 가능 프로세서를 포함하는 프로그램 가능 시스템에서 실행 및/또는 해석될 수 있으며, 상기 프로그램 가능 프로세서는 전용 또는 범용 프로그램 가능 프로세서일 수 있고, 저장 시스템, 적어도 하나의 입력 장치, 및 적어도 하나의 출력 장치로부터 데이터 및 명령을 수신할 수 있으며, 데이터 및 명령을 상기 저장 시스템, 상기 적어도 하나의 입력 장치, 및 상기 적어도 하나의 출력 장치에 전송할 수 있다.

이러한 컴퓨팅 프로그램(프로그램, 소프트웨어, 소프트웨어 애플리케이션, 또는 코드라고도 함)은 프로그램 가능 프로세서의 기계 명령을 포함하고, 하이레벨 프로세스 및/또는 객체에 대한 프로그래밍 언어, 및/또는 어셈블리/기계 언어를 이용하여 이러한 컴퓨팅 프로그램을 실행할 수 있다. 본문에서 사용된 바와 같이, 용어 "기계 판독 가능한 매체" 및 "컴퓨터 판독 가능한 매체"는 기계 명령 및/또는 데이터를 프로그램 가능 프로세서에 제공하기 위한 임의의 컴퓨터 프로그램 제품, 기기, 및/또는 장치(예를 들어, 자기 디스크, 광 디스크, 메모리, 프로그램 가능 로직 장치(PLD))를 의미하고, 기계 판독 가능한 신호인 기계 명령을 수신하는 기계 판독 가능한 매체를 포함한다. 용어 "기계 판독 가능한 신호"는 기계 명령 및/또는 데이터를 프로그램 가능 프로세서에 제공하기 위한 임의의 신호를 의미한다.

사용자와의 인터랙션을 제공하기 위하여, 컴퓨터에서 여기서 설명된 시스템 및 기술을 실시할 수 있고, 상기 컴퓨터는 사용자에게 정보를 표시하기 위한 표시 장치(예를 들어, CRT(음극선관) 또는 LCD(액정 표시 장치) 모니터); 및 키보드 및 지향 장치(예를 들어, 마우스 또는 트랙 볼)를 구비하며, 사용자는 상기 키보드 및 상기 지향 장치를 통해 컴퓨터에 입력을 제공한다. 다른 타입의 장치는 또한 사용자와의 인터랙션을 제공할 수 있는데, 예를 들어, 사용자에게 제공된 피드백은 임의의 형태의 감지 피드백(예를 들어, 시각 피드백, 청각 피드백, 또는 촉각 피드백)일 수 있고; 임의의 형태(소리 입력, 음성 입력, 또는 촉각 입력)로 사용자로부터의 입력을 수신할 수 있다.

여기서 설명된 시스템 및 기술을 백그라운드 부재를 포함하는 컴퓨팅 시스템(예를 들어, 데이터 서버), 또는 미들웨어 부재를 포함하는 컴퓨팅 시스템(예를 들어, 응용 서버), 또는 프론트 엔드 부재를 포함하는 컴퓨팅 시스템(예를 들어, 그래픽 사용자 인터페이스 또는 웹 브라우저를 구비하는 사용자 컴퓨터이고, 사용자는 상기 그래픽 사용자 인터페이스 또는 웹 브라우저를 통해 여기서 설명된 시스템 및 기술의 실시형태와 인터랙션할 수 있음), 또는 이러한 백그라운드 부재, 미들웨어 부재, 또는 프론트 엔드 부재의 임의의 조합을 포함하는 컴퓨팅 시스템에서 실시할 수 있다. 임의의 형태 또는 매체의 디지털 데이터 통신(예를 들어, 통신 네트워크)을 통해 시스템의 부재를 서로 연결시킬 수 있다. 통신 네트워크의 예시로 근거리 통신망(LAN), 광역 통신망(WAN) 및 인터넷을 포함한다.

컴퓨터 시스템은 클라이언트 및 서버를 포함할 수 있다. 클라이언트 및 서버는 일반적으로 서로 멀리 떨어져 있고 일반적으로 통신 네트워크를 통해 서로 인터랙션한다. 대응되는 컴퓨터에서 실행되고 또한 서로 클라이언트-서버 관계를 가지는 컴퓨터 프로그램을 통해 클라이언트 및 서버의 관계를 생성한다. 서버는 클라우드 서버일 수 있고, 또한 클라우드 컴퓨팅 서버 또는 클라우드 호스트라고도 하는데, 클라우드 컴퓨팅 서비스 시스템 중의 하나의 호스트 제품으로서, 기존의 물리적 호스트와 VPS서비스("Virtual Private Server", 또는 약칭 "VPS")에서 존재하는 관리 난이도가 높고 태스크 확장성이 약한 흠결을 해결한다.

반드시 대량의 라벨링 데이터에 기반하여야만 키 포인트 학습 모델을 구축할 수 있는 선행기술과 달리, 본 실시예는 상기 기술적 해결수단을 통해 반지도 방식으로 키 포인트 학습 모델을 구축하는 새로운 해결수단을 제공하는 바, 먼저 소량으로 존재하는 라벨링 데이터에 대해 지도적인 생성적 적대 트레이닝을 진행한 다음, 생성적 적대 트레이닝의 초보적 결과와 결합하여 비지도 방식으로 비라벨링 데이터에 대해 다음 단계 트레이닝을 진행하고, 대량으로 존재하는 비라벨링 데이터를 충분히 이용하며, 또한 생성적 적대 사상의 추가는 최종적으로 구축된 모델 정확도도 비교적 높으므로, 키 포인트 학습 모델을 구축하는 조건 및 난이도를 감소시킨다.

위에서 설명한 다양한 형태의 프로세스를 사용하여, 단계를 재배열, 추가 또는 삭제할 수 있음을 이해해야 한다. 예를 들어, 본 발명에 기재된 각 단계는 동시에 수행될 수 있거나 순차적으로 수행될 수 있거나 상이한 순서로 수행될 수 있고, 본 발명에서 공개된 기술적 해결수단이 이루고자 하는 결과를 구현할 수만 있으면, 본문은 여기서 한정하지 않는다.

상기 구체적인 실시형태는 본 발명의 보호 범위를 한정하지 않는다. 본 기술분야의 통상의 기술자는 설계 요구 및 다른 요소에 따라 다양한 수정, 조합, 서브 조합 및 대체를 진행할 수 있음을 이해해야 한다. 본 발명의 정신 및 원칙 내에서 진행한 임의의 수정, 등가적 대체 및 개선 등은 모두 본 발명의 보호 범위 내에 속해야 한다.

Claims

키 포인트 학습 모델 구축 방법으로서,
인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하는 단계;
상기 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하는 단계;
상기 비라벨링 데이터를 상기 제1 예측 모델 및 상기 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하는 단계; 및
상기 제2 예측 모델 및 상기 제2 판별기에 따라 키 포인트 학습 모델을 구축하는 단계를 포함하고,
상기 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하는 단계는,
상기 초기 예측 모델을 이용하여 상기 라벨링 데이터의 제1 키 포인트 예측값을 예측하여 획득하는 단계;
상기 제1 키 포인트 예측값과 상기 라벨링 데이터 중의 키 포인트 실제값의 차이값에 따라, 상기 초기 예측 모델의 예측 파라미터를 수정하여 상기 제1 예측 모델을 획득하는 단계; 및
상기 제1 키 포인트 예측값 및 상기 키 포인트 실제값에 대한 상기 초기 판별기의 판별 정확도를 이용하여, 상기 초기 판별기의 판별 파라미터를 수정하여 제1 판별기를 획득하는 단계를 포함하는 키 포인트 학습 모델 구축 방법.
삭제
제1항에 있어서,
상기 비라벨링 데이터를 상기 제1 예측 모델 및 상기 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하는 단계는,
상기 제1 예측 모델을 이용하여 상기 비라벨링 데이터의 제2 키 포인트 예측값을 예측하여 획득하는 단계; 및
상기 제2 키 포인트 예측값 및 대응되는 키 포인트 실제값에 대한 상기 제1 판별기의 판별 정확도를 이용하여, 상기 제1 예측 모델의 예측 파라미터 및 상기 제1 판별기의 판별 파라미터를 수정하여 제2 예측 모델 및 제2 판별기를 획득하는 단계를 포함하는 키 포인트 학습 모델 구축 방법.
제1항에 있어서,
상기 초기 판별기는 3층의 완전연결층, 1층의 정규화층 및 이진 분류기에 기반하여 구축되어 획득되고, 상기 3층의 완전연결층은 순차적으로 연결되는 키 포인트 학습 모델 구축 방법.
제1항에 있어서,
상기 키 포인트 학습 모델을 이용하여 새로운 비라벨링 데이터에 대해 키 포인트의 예측을 수행하는 단계를 더 포함하는 키 포인트 학습 모델 구축 방법.
제1항 및 제3항 내지 제5항 중 어느 한 항에 있어서,
상기 키 포인트 학습 모델에 의해 출력된 인체 키 포인트의 포즈를 라벨링하여 인체 포즈 데이터를 획득하는 단계를 더 포함하는 키 포인트 학습 모델 구축 방법.
제6항에 있어서,
상기 인체 포즈 데이터를 동일한 사용자가 가상 장면에서 구축한 가상 인물의 대응되는 인체 키 포인트에 동기화시키는 단계를 더 포함하는 키 포인트 학습 모델 구축 방법.
키 포인트 학습 모델 구축 장치로서,
인체 키 포인트가 이미 라벨링된 라벨링 데이터 및 인체 키 포인트가 라벨링되지 않은 비라벨링 데이터를 획득하는 라벨링/비라벨링 데이터 획득 유닛;
상기 라벨링 데이터를 초기 예측 모델 및 초기 판별기를 통해 지도 트레이닝 방식에 따라 트레이닝하여 제1 예측 모델 및 제1 판별기를 획득하는 지도 트레이닝 유닛;
상기 비라벨링 데이터를 상기 제1 예측 모델 및 상기 제1 판별기를 통해 비지도 트레이닝 방식에 따라 트레이닝하여 제2 예측 모델 및 제2 판별기를 획득하는 비지도 트레이닝 유닛; 및
상기 제2 예측 모델 및 상기 제2 판별기에 따라 키 포인트 학습 모델을 구축하는 키 포인트 학습 모델 구축 유닛을 포함하고,
상기 지도 트레이닝 유닛은 또한,
상기 초기 예측 모델을 이용하여 상기 라벨링 데이터의 제1 키 포인트 예측값을 예측하여 획득하고;
상기 제1 키 포인트 예측값과 상기 라벨링 데이터 중의 키 포인트 실제값의 차이값에 따라, 상기 초기 예측 모델의 예측 파라미터를 수정하여 상기 제1 예측 모델을 획득하며;
상기 제1 키 포인트 예측값 및 상기 키 포인트 실제값에 대한 상기 초기 판별기의 판별 정확도를 이용하여, 상기 초기 판별기의 판별 파라미터를 수정하여 제1 판별기를 획득하는 키 포인트 학습 모델 구축 장치.
삭제
제8항에 있어서,
상기 비지도 트레이닝 유닛은 또한,
상기 제1 예측 모델을 이용하여 상기 비라벨링 데이터의 제2 키 포인트 예측값을 예측하여 획득하고;
상기 제2 키 포인트 예측값 및 대응되는 키 포인트 실제값에 대한 상기 제1 판별기의 판별 정확도를 이용하여, 상기 제1 예측 모델의 예측 파라미터 및 상기 제1 판별기의 판별 파라미터를 수정하여 제2 예측 모델 및 제2 판별기를 획득하는 키 포인트 학습 모델 구축 장치.
제8항에 있어서,
상기 초기 판별기는 3층의 완전연결층, 1층의 정규화층 및 이진 분류기에 기반하여 구축되어 획득되고, 상기 3층의 완전연결층은 순차적으로 연결되는 키 포인트 학습 모델 구축 장치.
제8항에 있어서,
상기 키 포인트 학습 모델을 이용하여 새로운 비라벨링 데이터에 대해 키 포인트의 예측을 수행하는 키 포인트 학습 모델 예측 유닛을 더 포함하는 키 포인트 학습 모델 구축 장치.
제8항 및 제10항 내지 제12항 중 어느 한 항에 있어서,
상기 키 포인트 학습 모델에 의해 출력된 인체 키 포인트의 포즈를 라벨링하여 인체 포즈 데이터를 획득하는 포즈 라벨링 유닛을 더 포함하는 키 포인트 학습 모델 구축 장치.
제13항에 있어서,
상기 인체 포즈 데이터를 동일한 사용자가 가상 장면에서 구축한 가상 인물의 대응되는 인체 키 포인트에 동기화시키는 가상 장면 동기화 유닛을 더 포함하는 키 포인트 학습 모델 구축 장치.
전자 기기로서,
적어도 하나의 프로세서; 및
상기 적어도 하나의 프로세서와 통신 연결되는 메모리를 포함하고,
상기 메모리에 상기 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며, 상기 명령은 상기 적어도 하나의 프로세서에 의해 실행되어, 상기 적어도 하나의 프로세서가 제1항 및 제3항 내지 제5항 중 어느 한 항에 따른 키 포인트 학습 모델 구축 방법을 수행할 수 있도록 하는 전자 기기.
컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능한 저장 매체로서,
상기 컴퓨터 명령은, 상기 컴퓨터가 제1항 및 제3항 내지 제5항 중 어느 한 항에 따른 키 포인트 학습 모델 구축 방법을 수행하도록 하는 비일시적 컴퓨터 판독 가능한 저장 매체.
매체에 저장된 컴퓨터 프로그램으로서,
상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우 제1항 및 제3항 내지 제5항 중 어느 한 항에 따른 키 포인트 학습 모델 구축 방법을 구현하도록 하는 컴퓨터 프로그램.