KR102488530B1

KR102488530B1 - 동영상을 생성하기 위한 방법 및 장치

Info

Publication number: KR102488530B1
Application number: KR1020210038737A
Authority: KR
Inventors: 윤펑 리우; 차오 왕; 위안항 리; 팅 윤; 구오칭 천
Original assignee: 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드
Priority date: 2020-04-02
Filing date: 2021-03-25
Publication date: 2023-01-13
Also published as: KR20210040882A; US11670015B2; CN111476871B; JP2021170313A; EP3889912B1; CN111476871A; JP7225188B2; US20210312671A1; EP3889912A1

Abstract

본 출원의 실시예는 동영상을 생성하기 위한 방법 및 장치를 개시한다. 당해 방법의 일 구체적인 실시방식은, 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 획득된 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하며; 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하며; 얼굴 이미지 시퀀스에 따라 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하며; 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다. 당해 실시방식은, 애니메이션 스타일 동영상 및 실제 얼굴의 초기 얼굴 이미지 낱장에 기반하여, 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 자동으로 생성한다.

Description

동영상을 생성하기 위한 방법 및 장치{METHOD AND APPARATUS FOR GENERATING VIDEO}

본 출원의 실시예는 컴퓨터 기술 분야에 관한 것으로, 구체적으로 동영상을 생성하기 위한 방법 및 장치에 관한 것이다.

컴퓨터 이미지 처리 기술이 발전함에 따라, 사진 및 동영상에서 얼굴을 교환하기 위한 기술이 신속히 발전하고 있다. 애니메이션은 일종 예술적 형태로서, 단순하고 과장된 수법으로 생활이나 시사 등을 기술하기 위한 그림이다. 애니메이션은 많은 대중, 특히 청소년의 사랑을 받는다. 개성화된 애니메이션 동영상 생성은, 사용자의 실제 얼굴 특징에 기반하여 원시 애니메이션 동영상 얼굴을 전환하여, 사용자의 얼굴 특징을 갖는 개성화된 애니메이션 동영상을 생성하는 것을 가리킨다. 그러나, 애니메이션 캐릭터의 이미지, 동영상 제작은 시간이 많이 필요할 뿐만 아니라, 비교적 높은 전문적인 기술이 필요하므로, 일반 사용자가 개인 맞춤형 애니메이션 동영상을 제작하는 코스트가 높게 된다.
본 발명의 배경기술은 미국 특허출원공개공보 US2007/0008322(2007.01.11.)에 개시되어 있다.

본 출원의 실시예는 동영상을 생성하기 위한 방법 및 장치를 제공한다.

제1 양태에 있어서, 본 출원의 실시예는 동영상을 생성하기 위한 방법을 제공하고, 상기 방법은, 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하는 단계; 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는 단계 - 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 상기 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭됨 - ; 상기 얼굴 이미지 시퀀스에 따라 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하는 단계; 상기 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 상기 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여 상기 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성하는 단계를 포함한다.

일부 실시예에 있어서, 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는 단계는, 상기 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해 얼굴 이미지 생성 단계를 순차적으로 수행하는 단계 - 상기얼굴 이미지 생성 단계는, 현재 애니메이션 얼굴 윤곽도 및 상기 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성하는 단계; 와, 상기 제1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하는 단계를 포함함 - ; 및 결정된 얼굴 이미지를 이용하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는 단계를 포함한다.

일부 실시예에 있어서, 상기 제1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하는 단계는, 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성하는 단계; 현재 마지막으로 결정된 얼굴 이미지 및 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성하는 단계; 상기 제1 얼굴 이미지 및 상기 제2 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 생성하는 단계를 포함한다.

일부 실시예에 있어서, 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하는 단계는, 상기 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지에 대해, 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 수행하고, 검출된 얼굴 키 포인트에 기반하여 애니메이션 얼굴 윤곽도를 생성하는 단계를 포함한다.

일부 실시예에 있어서, 상기 얼굴 이미지 시퀀스에 따라 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하는 단계는, 상기 얼굴 이미지 시퀀스 내의 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하는 단계를 포함하고, 상기 애니메이션 스타일 이미지 생성 모델은 실제 얼굴의 얼굴 이미지에 따라 애니메이션 스타일 얼굴 이미지를 생성하는데 사용된다.

제2 양태에 있어서, 본 출원의 실시예는 동영상을 생성하기 위한 장치를 제공하고, 상기 장치는, 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하며 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하도록 구성되는 획득 유닛; 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하도록 구성되는 제1 생성 유닛 - 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 상기 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭됨 - ; 상기 얼굴 이미지 시퀀스에 따라 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하도록 구성되는 제2 생성 유닛; 상기 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 상기 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여 상기 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성하도록 구성되는 교체 유닛을 포함한다.

일부 실시예에 있어서, 상기 제1 생성 유닛은, 상기 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해, 미리 설정된 얼굴 이미지 생성 단계를 순차적으로 실행하도록 구성되는 실행 서브 유닛 - 상기 실행 서브 유닛은, 현재 애니메이션 얼굴 윤곽도 및 상기 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성하도록 구성되는 이미지 생성 모듈; 과, 상기 제1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하도록 구성되는 결정 모듈을 포함함 - ; 결정된 얼굴 이미지를 이용하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하도록 구성되는 시퀀스 생성 서브 유닛을 포함한다.

일부 실시예에 있어서, 상기 결정 모듈은 또한, 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성하고, 현재 마지막으로 결정된 얼굴 이미지 및 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성하고, 상기 제1 얼굴 이미지 및 상기 제2 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 생성하도록 구성된다.

일부 실시예에 있어서, 상기 획득 유닛은 또한, 상기 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지에 대해, 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 수행하고, 검출된 얼굴 키 포인트에 기반하여 애니메이션 얼굴 윤곽도를 생성하도록 구성된다.

일부 실시예에 있어서, 상기 제2 생성 유닛은 또한, 상기 얼굴 이미지 시퀀스 내의 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하도록 구성되고, 상기 애니메이션 스타일 이미지 생성 모델은 실제 얼굴의 얼굴 이미지에 따라 애니메이션 스타일 얼굴 이미지를 생성하는데 사용된다.

제3 양태에 있어서, 본 출원의 실시예는 기기를 제공하고, 상기 기기는 하나 또는 복수의 프로세서; 및 하나 또는 복수의 프로그램을 저장하는 저장장치를 포함하고, 상기 하나 또는 복수의 프로그램이 상기 하나 또는 복수의 프로세서에 의해 수행될 경우, 상기 하나 또는 복수의 프로세서가 제1 양태 중 임의의 구현방식에서 설명된 바와 같은 방법을 구현하게 한다.

제4 양태에 있어서, 본 출원의 실시예는 컴퓨터 판독 가능한 매체를 제공하고, 상기 컴퓨터 판독 가능한 매체에 컴퓨터 프로그램이 저장되고, 당해 컴퓨터 프로그램이 프로세서에 의해 실행될 때 제1 양태 중 임의의 구현방식에서 설명된 바와 같은 방법을 구현하게 한다.

본 출원의 실시예에서 제공되는 동영상을 생성하기 위한 방법 및 장치는 먼저, 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 획득된 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성한다. 그다음, 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성한다. 그 후에, 얼굴 이미지 시퀀스에 따라 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성한다. 마지막으로, 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다. 애니메이션 스타일 동영상 및 실제 얼굴의 초기 얼굴 이미지 낱장에 기반하여 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 자동으로 생성할 수 있어, 실제 얼굴에 대응하는 애니메이션 스타일 동영상의 생성 효율을 향상시키고, 동영상을 생성하는 단계를 간소화한다.

본 출원의 다른 특징, 목적 및 이점은 이하의 첨부 도면을 참조하여 한정되지 않은 실시예에 대한 상세한 설명을 열독함으로써 보다 명백해질 것이다.
도 1은 본 출원의 일 실시예가 적용될 수 있는 예시적인 시스템 아키텍처의 도면이다.
도 2는 본 출원에 따른 동영상을 생성하기 위한 방법의 일 실시예의 흐름도이다.
도 3은 본 출원에 따른 동영상을 생성하기 위한 방법의 일 응용 시나리오의 개략도이다.
도 4는 본 출원에 따른 동영상을 생성하기 위한 방법의 다른 실시예의 흐름도이다.
도 5는 본 출원에 따른 동영상을 생성하기 위한 장치의 일 실시예의 구조도이다.
도 6은 본 출원의 실시예를 구현하는데 적합한 전자기기의 컴퓨터 시스템의 구조도이다.

이하, 첨부 도면 및 실시예를 참조하여 본 출원을 더 상세히 설명한다. 본 명세서에 기술된 특정 실시예는 단지 관련된 발명을 해석하기 위한 것이며, 당해 발명을 제한하고자 하는 것은 아니다. 또한, 설명의 편리를 위해, 본 출원과 관련된 부분만이 첨부 도면에 도시되어 있다.

본 출원의 실시예 및 실시예의 특징은 충돌 없이 서로 결합될 수 있다. 이하, 첨부 도면을 참조하고 실시예를 결부시켜 본 출원을 상세히 설명한다.

도 1은 본 출원의 실시예가 적용될 수 있는 동영상을 생성하기 위한 방법 또는 동영상을 생성하기 위한 장치의 예시적인 시스템 아키텍처(100)를 도시한다.

도 1에 도시된 바와 같이, 시스템 아키텍처(100)는 단말 장치(101, 102, 103), 네트워크(104) 및 서버(105)를 포함할 수 있다. 네트워크(104)는 단말 장치(101, 102, 103)와 서버(105) 간의 통신 링크를 위한 매체를 제공한다. 네트워크(104)는 유선, 무선 통신 링크 또는 광섬유 케이블 등과 같은 다양한 연결 유형을 포함할 수 있다.

사용자는 단말 장치(101, 102, 103)를 이용하여 네트워크(104)를 통해 서버(105)와 대화하여 메시지 등을 수신 또는 송신할 수 있다. 이미지 처리 애플리케이션, 동영상 처리 애플리케이션, 웹 브라우저 애플리케이션, 쇼핑 애플리케이션, 검색 애플리케이션, 인스턴트 메시징 툴, 이메일 클라이언트, 소셜 소프트웨어 등과 같은 다양한 통신 클라이언트 애플리케이션이 단말 장치(101, 102, 103) 상에 설치될 수 있다.

단말 장치(101, 102, 103)는 하드웨어일 수도 있고 소프트웨어일 수도 있다. 단말 장치(101, 102, 103)가 하드웨어인 경우, 스마트 폰, 태블릿, MP4 (Moving Picture Experts Group Audio Layer IV, 동적 영상 전문가 압축 표준 오디오 층 4) 플레이어, 랩탑 및 데스크탑 컴퓨터 등을 포함하지만 이에 한정되지 않은 이미지 처리 기능을 갖는 다양한 전자 기기가 일 수 있다. 단말 장치(101, 102, 103)가 소프트웨어인 경우, 상술한 전자 기기에는 설치될 수 있다. 이는 복수의 소프트웨어 또는 소프트웨어 모듈(예를 들어, 분산 서비스를 제공함)이 구현될 수 있거나 단일 소프트웨어 또는 소프트웨어 모듈이 구현될 수 있다. 이에 한정되지 않는다.

서버(105)는 단말 장치(101, 102, 103)상에서 재생되는 동영상을 위한 지원을 제공하는 배경 서버와 같은 다양한 서비스를 제공하는 서버일 수 있다. 배경 서버는 수신된 애니메이션 스타일 동영상 및 얼굴 이미지 등과 같은 데이터에 대해 분석 등을 실행하고, 처리 결과(예를 들어, 생성된 동영상)를 단말 장치로 피드백할 수 있다.

서버(105)는 하드웨어일 수도 있고 소프트웨어일 수도 있다. 서버(105)가 하드웨어인 경우, 복수의 서버로 구성된 분산 서버 클러스터가 구현될 수도 있고, 단일 서버가 구현될 수 있다. 서버가 소프트웨어인 경우, 복수의 소프트웨어 또는 소프트웨어 모듈이(예를 들어, 분산 서비스를 제공함) 구현될 수 있거나, 단일 소프트웨어 또는 소프트웨어 모듈이 구현될 수 있다. 이에 한정되지 않는다.

도 1에 도시된 단말 장치, 네트워크 및 서버의 개수는 단지 예시적인 것이다. 필요에 따라, 임의의 개수의 단말 장치, 네트워크 및 서버를 가질 수 있다.

본 출원의 실시예에서 제공하는 동영상을 생성하기 위한 방법은 단말 장치(101, 102, 103)에 의해 실행될 수 있고, 서버(105)에 의해 실행될 수도 있다. 따라서, 동영상을 생성하기 위한 장치는 단말 장치(101, 102, 103)에 배치될 수 있고, 서버(105)에 배치될 수도 있다.

도 2를 참조하면, 본 출원에 따른 동영상을 생성하기 위한 방법의 일 실시예의 흐름(200)이 도시된다. 당해 동영상을 생성하기 위한 방법은 다음과 같은 단계를 포함한다.

단계(201)에서, 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성한다.

본 실시예에 있어서, 동영상을 생성하기 위한 방법을 실행하는 주체(예를 들어, 도 1에 도시된 단말 장치(101, 102, 103) 또는 서버 (105))는 먼저 애니메이션 스타일 동영상을 수신할 수 있다. 여기서, 애니메이션은 동화상 및 만화의 집합을 의미한다. 예를 들어, 실행 주체가 단말 장치인 경우, 실행 주체는 사용자에 의해 전송된 애니메이션 스타일 동영상을 직접 수신할 수 있다. 실행 주체가 서버인 경우, 실행 주체는 유선 연결 또는 무선 연결 방식으로, 사용자에 의해 사용되는 단말 장치로부터 애니메이션 스타일 동영상을 수신할 수 있다. 그 후, 실행 주체는 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득할 수 있다. 여기서, 타겟 애니메이션 캐릭터는 사용자에 의해 사전 선정된 애니메이션 캐릭터일 수 있다. 예를 들어, 사용자는 애니메이션 캐릭터를 클릭하거나 애니메이션 캐릭터를 세팅하여 타겟 애니메이션 캐릭터를 선정할 수 있다. 따라서, 실행 주체는 사용자의 동작(예를 들어, 클릭 동작, 세팅 동작 등)에 따라 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터를 결정할 수 있다. 그 후, 실행 주체는 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 얼굴을 캡쳐하여 애니메이션 얼굴 이미지 시퀀스를 구성할 수 있다. 구체적으로, 실행 주체는 상기 애니메이션 스타일 동영상에 대한 얼굴 검출을 한 프레임씩으로 실행할 수 있으며, 타겟 애니메이션 캐릭터의 얼굴 이미지가 검출되면, 타겟 애니메이션 캐릭터의 얼굴 이미지를 캡쳐한다. 마지막으로, 실행 주체는 애니메이션 얼굴 이미지 시퀀스 내의 각 애니메이션 얼굴 이미지에 대해 얼굴 윤곽 검출 및 추출을 실행하여, 애니메이션 얼굴 윤곽도 시퀀스를 획득할 수 있다. 예를 들어, 애니메이션 얼굴 윤곽도는 타겟 애니메이션 얼굴의 얼굴 오관 정보를 포함할 수 있다.

본 실시예의 일부 선택적인 구현 방식에서, 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하는 상기 단계(201)는 구체적으로 다음과 같이 실행될 수 있다. 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지에 대해, 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 수행하고, 검출된 얼굴 키 포인트에 기반하여 애니메이션 얼굴 윤곽도를 생성한다.

본 구현방식에서, 상기 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지의 각 프레임에 대해, 실행 주체는 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 실행하여, 당해 애니메이션 얼굴 이미지의 얼굴 키 포인트를 검출할 수 있다. 그 후, 실행 주체는 동일한 기관을 나타내는 얼굴 키 포인트를 연결시켜, 당해 애니메이션 얼굴 이미지에 대응하는 애니메이션 얼굴 윤곽도를 획득할 수 있다.

단계(202)에서, 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여, 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성한다.

본 실시예에 있어서, 실행 주체는 또한 실제 얼굴의 얼굴 이미지 한 장을 초기 얼굴 이미지로 수신할 수 있다. 여기서, 실제 얼굴의 얼굴 이미지는 애니메이션 스타일의 얼굴 이미지가 아닌 현실 세계의 사람의 얼굴 이미지를 의미할 수 있다. 그 후, 실행 주체는, 단계(201)에서 획득된 애니메이션 얼굴 윤곽도 시퀀스 및 초기 얼굴 이미지에 기반하여 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성할 수 있다. 여기서, 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭(예를 들어, 유사, 동일 등)될 수 있다. 예를 들어, 상기 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도 각각에 대해, 실행 주체는 당해 애니메이션 얼굴 윤곽도 내의 얼굴 오관 정보에 따라 초기 얼굴 이미지 내의 얼굴 오관를 조정하여, 상기 실제 얼굴에 대한 얼굴 표정과 해당 애니메이션 얼굴 윤곽도에 매칭된 얼굴 이미지를 획득한다.

단계(203)에서, 얼굴 이미지 시퀀스에 따라 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성한다.

본 실시예에 있어서, 실행 주체는 단계(202)에서 생성된 얼굴 이미지 시퀀스 내의 각 얼굴 이미지를 다양한 방식에 의해 애니메이션 스타일 얼굴 이미지로 전환하여, 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 획득할 수 있다. 예를 들어, 얼굴 이미지는 얼굴 이미지의 컬러, 콘트라스트 등을 조정함으로써 애니메이션 스타일 얼굴 이미지로 전환될 수 있다.

본 실시예의 일부 선택적인 구현 방식에서, 상기 단계(203)는 다음과 같이 실행될 수 있다. 얼굴 이미지 시퀀스 내의 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성한다.

본 구현 방식에서, 실행 주체는 단계(202)에서 생성된 얼굴 이미지 시퀀스 내의 각 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성할 수 있다. 여기서, 애니메이션 스타일 이미지 생성 모델은 실제 얼굴의 얼굴 이미지에 따라 애니메이션 스타일 얼굴 이미지를 생성하는데 사용될 수 있다.

예를 들어, 상기 애니메이션 스타일 이미지 생성 모델은 기계 학습 알고리즘에 기반하여 훈련된 모델일 수 있다. 예를 들어, 상기 애니메이션 스타일 이미지 생성 모델은 콘볼루션 신경망, 심층 신경망 등일 수 있다. 상기 애니메이션 스타일 이미지 생성 모델은 생성적 적대 신경망(Generative Adversarial Networks, GAN)에 포함된 생성 모델일 수 있다. 생성적 적대 신경망은 게임이론의 2인 제로섬 게임(two-player game)에서 힌트를 얻고, GAN 모델 내의 두 게임자는 각각 생성 모델(generative model) 및 판별 모델(discriminative model)로 충당된다. 생성 모델은 샘플 데이터의 분포를 캡쳐하여 실제 훈련 데이터와 유사한 샘플을 생성하고, 실제 샘플과 비슷할수록 더 좋다는 효과를 추구한다. 판별 모델은 (생성 모델의 데이터가 아닌) 실제 훈련 데이터로부터 샘플의 확률을 판별하는 이진 분류기이고, 상용되는 판별 모델은 선형 회귀 모델, 선형 판별 분석, 서포트 벡터 머신(Support Vector Machine，SVM), 신경망 등을 포함할 수 있지만, 이에 한정되지 않는다. 여기서, 생성 모델 및 판별 모델은 동시에 훈련될 수 있는데, 판별 모델을 고정시키고, 생성 모델 파라미터를 조정하며; 생성 모델을 고정시키고, 판별 모델 파라미터를 조정한다. 본 실시예에 있어서, 생성 모델은 연속적인 학습을 통해 점점 현실적인 애니메이션 스타일 얼굴 이미지를 생성한다. 판별 모델은 연속적인 학습을 통해, 생성된 애니메이션 스타일 얼굴 이미지와 실제 애니메이션 스타일 얼굴 이미지를 구별하는 능력을 향상시킨다. 생성 모델과 판별 모델 사이의 적대를 통해, 최종적으로, 생성 모델에 의해 생성된 애니메이션 스타일 얼굴 이미지는 실제 애니메이션 스타일 얼굴 이미지과 비슷하여 판별 모델을 성공적으로 “속인다”. 이러한 생성적 적대 신경망은 생성된 애니메이션 스타일 얼굴 이미지의 진실성을 향상키시기 위해 사용될 수 있다.

단계(204)에서, 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다.

본 실시예에 있어서, 실행 주체는 단계(203)에서 생성된 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 살기 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다. 여기서, 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스가 타겟 애니메이션 캐릭터에 대응하는 애니메이션 얼굴 이미지 시퀀스에 기반하여 생성되기 때문에, 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지와 단계(203)에서 획득된 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지는 일대일로 대응한다. 따라서, 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체할 수 있다.

도 3을 참조하면, 도 3은 본 실시예에 따른 동영상을 생성하기 위한 방법의 일 응용 시나리오의 개략도이다.

도 3의 응용 시나리오에서, 단말 장치(301)는 먼저 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 획득된 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성한다. 그다음, 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여, 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성한다. 그 후, 얼굴 이미지 시퀀스에 따라 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성한다. 마지막으로, 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다.

본 출원의 상기 실시예에서 제공하는 방법은 애니메이션 스타일 동영상 및 실제 얼굴의 초기 얼굴 이미지 낱장에 기반하여 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 자동으로 생성할 수 있어, 실제 얼굴에 대응하는 애니메이션 스타일 동영상의 생성 효율을 향상시키고, 동영상을 생성하는 단계를 간소화한다.

도 4를 참조하면, 동영상을 생성하기 위한 방법의 다른 실시예의 흐름(400)이 도시된다. 당해 동영상을 생성하기 위한 방법의 흐름(400)은 단음과 같은 단계를 포함한다.

단계(401)에서, 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성한다.

본 실시예에 있어서, 단계(401)는 도 2에 도시된 실시예의 단계(201)와 유사하며 여기서 설명이 생략된다.

단계(402)에서, 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해 다음과 같은 얼굴 이미지 생성 단계(4021) ~단계(4022)를 순차적으로 실행한다.

본 실시예에 있어서, 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해, 실행 주체는 애니메이션 얼굴 윤곽도 시퀀스에서의 애니메이션 얼굴 윤곽도의 위치에 따라 순차적으로 처리한다. 현재 처리된 애니메이션 얼굴 윤곽도를 현재 애니메이션 얼굴 윤곽도로 사용한다. 여기서, 실행 주체는 다음과 같은 얼굴 이미지 생성 단계(4021) ~단계(4022)를 실행할 수 있다.

단계(4021)에서, 현재 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성한다.

본 실시예에 있어서, 실행 주체는 현재 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성할 수 있다. 예를 들어, 실행 주체 내부에 제1 얼굴 생성 모델이 미리 설정된다. 상기 제1 얼굴 생성 모델은, 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보와 생성된 얼굴 이미지 사이의 대응관계를 표현할 수 있다. 여기서, 제1 얼굴 생성 모델은 기계 학습 알고리즘에 기반하여 훈련된 모델일 수 있다. 예를 들어, 제1 얼굴 생성 모델은 콘볼루션 신경망, 심층 신경망 등일 수 있다. 예를 들어, 제1 얼굴 생성 모델은 다음과 같은 단계에 기반하여 훈련될 수 있다. 먼저, 제1샘플은 샘플 애니메이션 얼굴 윤곽도, 샘플 특징 정보 및 샘플 생성된 얼굴 이미지를 포함한다. 여기서, 샘플 생성된 얼굴 이미지 내의 얼굴 표정은 샘플 애니메이션 얼굴 윤곽도에 대응하는 얼굴 표정과 매칭되며, 샘플 특징 정보를 추출할 때 사용된 얼굴 이미지 내의 얼굴은 샘플 생성된 얼굴 이미지 내의 얼굴과 같은 얼굴이다. 그 후, 제1샘플 집합 내의 샘플 애니메이션 얼굴 윤곽도 및 샘플 특징 정보를 입력 내용으로 하고, 입력된 샘플 애니메이션 얼굴 윤곽도 및 샘플 특징 정보에 대응하는 샘플 생성된 얼굴 이미지를 기대 출력 내용으로 하여 제1 얼굴 생성 모델을 훈력한다.

따라서, 실행 주체는 현재 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성할 수 있다. 예를 들어, 실행 주체는 현재 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보를 상기 제1 얼굴 생성 모델에 입력하고, 제1 얼굴 생성 모델에 의해 출력된 생성된 얼굴 이미지를 제1 얼굴 이미지로 한다.

단계(4022)에서, 제1 얼굴 이미지에 기반하여 실제 얼굴에 대한 얼굴 이미지를 결정한다.

본 실시예에 있어서, 실행 주체는 단계(4021)에서 생성된 제1 얼굴 이미지에 기반하여 실제 얼굴에 대한 얼굴 이미지를 결정한다. 예를 들어, 실행 주체는 제1 얼굴 이미지를 실제 얼굴에 대한 얼굴 이미지로 할 수 있다. 다른 예로서, 실행 주체는 애니메이션 얼굴 윤곽도 시퀀스 내의 맨 앞의 미리 설정된 장수(예를 들어, 앞 두 장)의 애니메이션 얼굴 윤곽도에 기반하여 생성된 미리 설정된 장수의 제1 얼굴 이미지를, 직접 실제 얼굴에 대한 맨 앞의 미리 설정된 장수의 얼굴 이미지로 한다. 애니메이션 얼굴 윤곽도 시퀀스 내의, 맨 앞의 미리 설정된 장수 이외의 애니메이션 얼굴 윤곽도에 기반하여 생성된 제1 얼굴 이미지에 대해, 다른 방식으로 실제 얼굴에 대한 얼굴 이미지를 결정할 수 있다.

본 실시예의 일부 선택적인 구현 방식에서, 상기 단계(4022)는 구체적으로 다음과 같이 실행될 수 있다.

먼저, 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성한다.

본 구현 방식에서, 애니메이션 얼굴 윤곽도 시퀀스 내의, 맨 앞의 두 장 이외의 애니메이션 얼굴 윤곽도에 기반하여 생성된 제1 얼굴 이미지에 대해, 실행 주체는 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성한다. 여기서, 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지는, 현재 시점 이전에 상기 얼굴 이미지 생성 단계에 기반하여 마지막으로 결정된 적어도 두 장의 얼굴 이미지를 의미할 수 있다.

예를 들어, 실행 주체는 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지를 미리 구축된 옵티컬 플로우 추정 모델에 입력하여, 옵티컬 플로우 그래프를 획득할 수 있다. 여기서, 상기 옵티컬 플로우 추정 모델은 적어도 두 장의 이미지에 따라 옵티컬 플로우 그래프를 생성할 수 있다. 옵티컬 플로우는 이미지의 변화를 표현하고 타겟 운동의 정보를 포함한다. 예를 들어, 옵티컬 플로우 추정 모델은 기계 학습 알고리즘에 기반하여 훈련된 모델일 수 있고, 예를 들어, 콘볼루션 신경망, 심층 신경망 등일 수 있다. 예를 들어, 옵티컬 플로우 추정 모델은 FlowNet일 수도 있고 콘볼루션 망으로 옵티컬 플로우 예측을 구현한다. 예를 들어, 상기 옵티컬 플로우 추정 모델은 다음과 같은 방식으로 훈련될 수 있다. 먼저, 훈련 샘플 집합을 획득하고, 여기서, 훈련 샘플은 적어도 두 장의 훈련용 얼굴 이미지 및 적어도 두 장의 훈련용 얼굴 이미지에 대응하는 훈련용 옵티컬 플로우 그래프를 포함할 수 있고, 여기서, 적어도 두 장의 훈련용 얼굴 이미지는 동일한 동영상의 연속적인 프레임으로부터 획득된 동일한 얼굴의 얼굴 이미지일 수 있고, 훈련용 옵티컬 플로우 그래프는 얼굴의 운동 정보를 포함한다. 그 후, 훈련 샘플 집합 내의 훈련 샘플의 적어도 두 장의 훈련용 얼굴 이미지를 입력 내용으로 하고, 입력된 적어도 두 장의 훈련용 얼굴 이미지에 대응하는 훈련용 옵티컬 플로우 그래프를 기대 출력 내용으로 하여 옵티컬 플로우 추정 모델을 훈력한다.

그 다음, 현재 마지막으로 결정된 얼굴 이미지 및 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성한다.

본 실시방식에서, 실행 주체는 현재 마지막으로 결정된 얼굴 이미지 및 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성할 수 있다. 여기서, 현재 마지막으로 결정된 얼굴 이미지는 현재 시점 이전에 상기 얼굴 이미지 생성 단계에서 결정된 마지막 한 장의 얼굴 이미지일 수 있다.

예를 들어, 실행 주체는 현재 마지막으로 결정된 얼굴 이미지 및 상기 단계에서 획득된 옵티컬 플로우 그래프를 미리 구축된 제2 얼굴 생성 모델에 입력하여, 제2 얼굴 이미지를 생성한다. 여기서, 상기 제2 얼굴 생성 모델은 얼굴 이미지와 옵티컬 플로우 그래프 사이의 대응관계를 표현할 수 있다. 즉, 제2 얼굴 생성 모델은 한 장의 얼굴 이미지 및 한 장의 옵티컬 플로우 그래프에 기초한여 뒷장 얼굴 이미지를 생성할 수 있다. 예를 들어, 상기 제2 얼굴 생성 모델은 기계 학습 알고리즘에 기반하여 훈련된 모델일 수 있고, 예를 들어, 콘볼루션 신경망, 심층 신경망 등일 수 있다. 예를 들어, 상기 제2 얼굴 생성 모델은 다음과 같은 방식으로 훈련될 수 있다. 제2 샘플 집합을 획득하고, 여기서, 제2 샘플 집합은 제2 샘플 얼굴 이미지, 제2 샘플 얼굴 이미지의 뒷장 얼굴 이미지의 운동 정보가 포함되는 샘플 옵티컬 플로우 그래프, 뒷장 얼굴 이미지를 포함한다. 그 후, 제2 샘플 집합 내의 제2 샘플 얼굴 이미지 및 샘플 옵티컬 플로우 그래프를 입력 내용으로 하고, 입력된 제2 샘플 얼굴 이미지 및 샘플 옵티컬 플로우 그래프에 대응하는 뒷장 얼굴 이미지를 기대 출력 내용으로 하여 제2 얼굴 생성 모델을 훈력한다.

마지막으로, 제1 얼굴 이미지 및 제2 얼굴 이미지에 기반하여, 실제 얼굴에 대한 얼굴 이미지를 생성한다.

본 실시방식에서, 실행 주체는 제1 얼굴 이미지 및 제2 얼굴 이미지에 기반하여, 실제 얼굴에 대한 얼굴 이미지를 생성할 수 있다. 예를 들어, 실행 주체는 제1 얼굴 이미지 및 제2 얼굴 이미지에 대한 가중치 결합을 하여 실제 얼굴에 대한 얼굴 이미지를 획득할 수 있다. 본 실시방식에서, 얼굴 이미지를 생성하는 과정에서 옵티컬 플로우 그래프가 사용되며, 즉 인접한 얼굴 이미지 사이의 운동 정보가 보유되기 때문에, 생성된 얼굴 이미지 사이를 더욱 원활하게 하여 얼굴 오관 운동의 지터가 크게 발생하지 않는다.

단계(403)에서, 결정된 얼굴 이미지를 이용하여 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성한다.

본 실시예에 있어서, 실행 주체는 상기 얼굴 이미지 생성 단계에 기반하여 애니메이션 얼굴 윤곽도 시퀀스 내의 각 애니메이션 얼굴 윤곽도를 순차적으로 처리한 후, 여러 장의 얼굴 이미지를 결정할 수 있다. 결정된 여러 장의 얼굴 이미지의 장수는 애니메이션 얼굴 윤곽도 시퀀스 내에 포함된 이미지의 장수와 같다. 실행 주체는 결정된 여러 장의 얼굴 이미지의 결정 순서에 따라 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성한다.

단계(404)에서, 얼굴 이미지 시퀀스에 따라 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성한다.

본 실시예에 있어서, 단계(404)는 도 2에 도시된 단계(203)와 유사하며, 여기서 설명이 생략된다.

단계(405)에서, 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다.

본 실시예에 있어서, 단계(405)는 도 2에 도시된 단계(204)와 유사하며 여기서 설명이 생략된다.

도 4에서 알 수 있는 바와 같이, 본 실시예의 동영상을 생성하기 위한 방법의 흐름(400)은 도 2에 대응하는 실시예와 비교하여, 현재 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보에 기초한 실제 얼굴의 얼굴 이미지를 생성하는 단계를 더 강조한다. 따라서, 본 실시예에서 설명된 방안으로 생성된 얼굴 이미지는 애니메이션 얼굴 윤곽도 및 초기 얼굴 이미지의 얼굴 특징 정보를 종합적으로 고려하며, 생성된 얼굴 이미지가 애니메이션 얼굴 윤곽도에 대응하는 얼굴 표정과 매칭되면서 초기 얼굴 이미지에 대응하는 얼굴의 얼굴 특징을 유지한다.

도 5를 참조하면, 상기 각 도면에 도시된 방법의 구현으로서, 본 출원은 동영상을 생성하기 위한 장치의 일 실시예를 제공하며, 당해 장치 실시예는 도 2에 도시된 방법 실시예에 대응하고, 당해 장치는 다양한 전자기기에 적용될 수 있다.

도 5에 도시된 바와 같이, 본 실시예의 동영상을 생성하기 위한 장치（500）는 획득 유닛(501), 제1 생성 유닛(502), 제2 생성 유닛(503) 및 교체 유닛(504)을 포함한다. 여기서, 획득 유닛(501)은 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하며 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하도록 구성된다. 제1 생성 유닛(502)은 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하도록 구성되며, 여기서, 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 상기 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭된다. 제2 생성 유닛(503)은 상기 얼굴 이미지 시퀀스에 따라 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하도록 구성된다. 교체 유닛(504)은 상기 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 상기 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여 상기 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성하도록 구성된다.

본 실시예에 있어서, 동영상을 생성하기 위한 장치500）의 획득 유닛(501), 제1 생성 유닛(502), 제2 생성 유닛(503) 및 교체 유닛(504)의 구체적인 처리 및 그에 따른 기술적 효과는 각각 도 2에 대응하는 실시예에서의 단계(201), 단계(202), 단계(203), 단계(204)에 관련된 설명을 참고하며 여기서 설명이 생략된다.

본 실시예의 일부 선택적인 구현 방식에서, 상기 제1 생성 유닛(502)은, 상기 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해 미리 설정된 얼굴 이미지 생성 단계를 순차적으로 실행하도록 구성되는 실행 서브 유닛(미도시); 결정된 얼굴 이미지를 이용하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하도록 구성되는 시퀀스 생성 서브 유닛(미도시)을 포함하고, 상기 실행 서브 유닛은 현재 애니메이션 얼굴 윤곽도 및 상기 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성하도록 구성되는 이미지 생성 모듈(미도시); 상기 제1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하도록 구성되는 결정 모듈(미도시)을 포함한다.

본 실시예의 일부 선택적인 구현 방식에서, 상기 결정 모듈은 현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성하고, 현재 마지막으로 결정된 얼굴 이미지 및 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성하고, 상기 제1 얼굴 이미지 및 상기 제2 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 생성하도록 구성된다.

본 실시예의 일부 선택적인 구현 방식에서, 상기 획득 유닛(501)은 상기 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지에 대해, 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 수행하고, 검출된 얼굴 키 포인트에 기반하여 애니메이션 얼굴 윤곽도를 생성하도록 구성된다.

본 실시예의 일부 선택적인 구현 방식에서, 상기 제2 생성 유닛은 상기 얼굴 이미지 시퀀스 내의 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하도록 구성되고, 상기 애니메이션 스타일 이미지 생성 모델은 실제 얼굴의 얼굴 이미지에 따라 애니메이션 스타일 얼굴 이미지를 생성한다.

이하, 도 6을 참조하면, 본 출원의 실시예를 구현하는데 적합한 전자기기(예를 들어, 도 1의 서버 또는 단말 장치)(600)의 구조도가 도시된다. 도 6에 도시된 전자기기는 단지 하나의 예시일 뿐이며, 본 출원의 실시예들의 기능 및 범위를 한정하지 않는다.

도 6에 도시된 바와 같이, 전자기기(600)는 처리장치(예를 들어, 중앙 처리 장치, 그래픽 처리 장치 등)(601)를 포함할 수 있고, 판독 전용 메모리(ROM)(602)에 저장된 프로그램 또는 저장 장치(608)로부터 랜덤 액세스 메모리(RAM)(603)에 로딩된 프로그램에 따라 다양한 적절한 동작 및 처리를 실행할 수 있다. RAM(603)에는 전자 기기(600)의 동작에 필요한 다양한 프로그램 및 데이터가 또한 저장된다. 처리 장치(601), ROM(602) 및 RAM(603)은 버스(604)를 통해 서로 연결되고, 입/출력(I/O) 인터페이스(605)는 또한 버스(604)에 연결된다.

일반적으로, 다음과 같은 장치는 I/O 인터페이스(605)에 연결될 수 있다. 예를 들어, 터치 스크린, 터치 패드, 키보드, 마우스, 카메라, 마이크로폰, 가속도계, 자이로스코프 등과 같은 입력 장치(606); 예를 들어, 액정표시장치(LCD), 스피커, 바이브레이터 등과 같은 출력 장치(607); 예를 들어, 자기 테이프, 하드 디스크 등과 같은 저장 장치(608); 및 통신　장치(609)를 포함한다. 통신 장치(609)는 전자기기(600)가 데이터를 교환하기 위해 다른 기기와 무선 또는 유선 통신을 수행하게 할 수 있다. 도 6은 다양한 장치를 갖는 전자기기(600)를 도시하지만, 모든 예시된 장치가 구현되거나 제공될 필요가 없다. 대안적으로 더 많거나 더 적은 장치가 구현되거나 제공될 수 있다. 도 6에 도시된 각 블록은 하나의 장치를 나타낼 수도 있고, 또한 필요에 따라 복수의 장치를 나타낼 수도 있다.

특히, 본 출원의 실시예에 따르면, 흐름도를 참조하여 설명된 상기 과정은 컴퓨터 소프트웨어 프로그램으로 구현될 수 있다. 예를 들어, 본 출원의 실시예는 컴퓨터 판독 가능한 매체 상에서 실행되는 컴퓨터 프로그램을 포함하는 컴퓨터 프로그램 제품을 포함하며, 당해 컴퓨터 프로그램은 흐름도에 도시된 방법을 실행하기 위한 프로그램 코드를 포함한다. 이러한 실시예에서, 당해 컴퓨터 프로그램은 통신 장치(609)를 통해 네트워크로부터 다운로드 및 설치될 수 있거나, 또는 저장장치(608)로부터 설치되거나, 또는 ROM(602)으로부터 설치될 수 있다. 당해 컴퓨터 프로그램이 처리 장치(601)에 의해 실행될 때, 본 출원의 실시예의 방법에 정의된 상기 기능을 실행한다.

본 출원의 실시예에 따른 컴퓨터 판독 가능한 매체는 컴퓨터 판독가능 신호 매체 또는 컴퓨터 판독가능 저장 매체 또는 이 둘의 임의의 조합일 수 있다. 컴퓨터 판독가능 저장 매체는, 예를 들어, 전자, 자기, 광학, 전자기, 적외선, 또는 반도체의 시스템, 장치, 또는 디바이스, 또는 이들의 임의의 조합을 포함할 수 있지만, 이에 제한되지 않는다. 컴퓨터 판독가능 저장 매체의 보다 구체적인 예는 하나 또는 복수의 와이어, 휴대용 컴퓨터 디스켓, 하드 디스크, 랜덤 액세스 메모리(RAM), 판독 전용 메모리(ROM), 전기적 지우기가능 프로그램화 읽기전용 기억기(EPROM 또는 플래시 메모리), 광섬유, 휴대용 컴팩트 디스크 판독 전용 메모리(CD-ROM), 광학 저장 디바이스, 자기 저장 디바이스, 또는 이들의 임의의 적절한 조합일 수 있지만, 이에 제한되지 않는다. 본 출원의 실시예에 있어서, 컴퓨터 판독가능 저장 매체는 프로그램을 포함하거나 저장할 수 있는 임의의 유형의 매체일 수 있고, 당해 프로그램은 명령 실행 시스템, 장치, 또는 디바이스에 의해 사용되거나 그에 관련하여 사용될 수 있다. 본 출원의 실시예에 있어서, 컴퓨터 판독가능 신호 매체는 베이스밴드에서 혹은 반송파의 일부로 전파되는 데이터 신호를 포함할 수 있고, 컴퓨터 판독가능 프로그램 코드는 탑재된다. 이렇게 전파된 데이터 신호는 전자기 신호, 광 신호, 또는 전술한 임의의 적절한 조합을 포함하지만 이에 제한되지 않는 다양한 형태를 채택할 수 있다. 컴퓨터 판독가능 신호 매체는 또한 컴퓨터 판독가능 저장 매체 이외의 임의의 컴퓨터 판독 가능한 매체일 수 있고, 당해 컴퓨터 판독가능 신호 매체는 명령 실행 시스템, 장치, 또는 디바이스에 의해 사용되거나 그에 관련하여 사용되기 위한 프로그램을 송신, 전파, 또는 전송할 수도 있다. 컴퓨터 판독 가능한 매체 상에 포함된 프로그램 코드는 와이어, 광 케이블, RF (무선 주파수)등을 포함하지만 이에 제한되지 않는 임의의 적절한 매체를 사용하여 전송될 수 있거나, 또는 전술한 임의의 적절한 조합을 사용하여 전송될 수 있다.

상기 컴퓨터 판독 가능 매체는 상기 전자기기에 포함될 수 있으며, 또한 당해 전자기기에 조립되지 않고 별도로 존재할 수 있다. 상기 컴퓨터 판독 가능 매체는 하나 또는 복수의 프로그램이 탑재되고, 상기 컴퓨터 판독 가능 매체가 전자기기에 의해 실행될 때, 당해 전자기기가 다음과 같이 실행된다. 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터의 애니메이션 얼굴 이미지 시퀀스를 획득하고, 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하며; 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하며; 상기 얼굴 이미지 시퀀스 내얼굴 이미지 시퀀스에 따라 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하며; 상기 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 상기 애니메이션 스타일 동영상 내의 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여 상기 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성한다. 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 상기 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭된다.

본 출원의 실시예의 동작을 실행하기 위한 컴퓨터 프로그램 코드는 하나 또는 복수의 프로그래밍 언어, 또는 이들의 조합으로 기록될 수 있고, 상기 프로그래밍 언어는 Java, Smalltalk, C++와 같은 객체 지향 프로그래밍 언어, 및 “C”언어 또는 유사한 프로그래밍 언어와 같은 종래의 절차적 프로그래밍 언어를 포함한다. 프로그램 코드는 사용자 컴퓨터에서 완전히 실행되거나, 사용자 컴퓨터에서 부분적으로 실행되거나, 별도의 소프트웨어 패키지로 실행되거나, 사용자 컴퓨터에서 부분적으로 원격 컴퓨터에서 부분적으로 실행되거나, 원격 컴퓨터나 서버에서 완전히 실행될 수 있다. 원격 컴퓨터에 관한 경우, 원격 컴퓨터는(LAN) 근거리 통신망(LAN) 또는 광역통신망(WAN)을 포함하는 임의의 종류의 네트워크를 통해 사용자의 컴퓨터에 연결될 수 있거나 외부 컴퓨터(예를 들어, 인터넷 서비스 제공자를 이용하여 인터넷을 통해 연결됨)에 연결될 수 있다.

첨부 도면 중 흐름도 및 블록도는 본 출원의 다양한 실시예에 따른 시스템, 방법, 및 컴퓨터 프로그램 제품의 가능한 구현의 아키텍처, 기능, 및 동작을 예시한다. 이 점에서, 흐름도 또는 블록도에서의 각 블록은 하나의 모듈, 프로그램 세그먼트 또는 코드의 일부를 나타낼 수 있고, 당해 모듈, 프로그램 세그먼트 또는 코드의 일부는 소정된 논리적 기능을 구현하기 위한 하나 또는 복수의 실행가능 명령을 포함한다. 일부 대안적인 구현에서, 블록에 마킹된 기능은 도면에서 마킹된 것과 다른 순서로 발생할 수 있다. 예를 들어, 잇달아 표현된 블록은 실질적으로 동시에 실행될 수 있고, 때로는 역순으로 실행될 수도 있으며, 이는 관련된 기능에 따라 결정된다. 블록도 및/또는 흐름도에서의 각 블록, 및 블록도 및/또는 흐름도에서의 블록의 조합은 소정된 기능 또는 조작을 수행하는 전용 하드웨어 기반 시스템으로 구현되거나 전용 하드웨어 및 컴퓨터 명령의 조합에 의해 구현될 수 있다.

본 출원의 실시예에서 설명된 유닛은 소프트웨어로 구현될 수도 있고, 또는 하드웨어로 구현될 수도 있다. 설명된 유닛은 프로세서에 배치될 수도 있으며, 예를 들어, 획득 유닛, 제1 생성 유닛, 제2 생성 유닛, 및 교체 유닛을 포함하는 프로세서로 설명될 수 있다. 어떤 경우에는 이들 유닛의 이름은 당해 유닛 자체에 대한 제한이 되지 않고, 예를 들어, "상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는" 제1 생성 유닛으로 설명될 수 있다.

전술한 설명은 본 출원의 바람직한 실시예에 불과하며, 적용된 기술 원리를 설명하기 위한 것이다. 본 출원의 실시예에 관련된 발명 범위는 상기 기술적 특징의 특정 조합에 의해 이루어진 기술 방안에 제한되지 않고, 상기 설명된 본 출원의 개념으로부터 벗어나지 않고 상기 기술적 특징 또는 그 동등한 특징의 임의의 조합에 의해 이루어진 다른 기술 방안을 포함하는다는 것이 당업자에 의해 이해되어야 한다. 예를 들어, 상기 특징이 본 출원의 실시 예에 개시된 (단, 한정되지 않은)유사한 기능을 갖는 기술 특징과 상호 교체하여 이루어진 기술 방안이다.

Claims

동영상을 생성하기 위한 장치에 의해 실행되는 동영상을 생성하기 위한 방법에 있어서,
획득 유닛이 사용자의 동작에 따라 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터를 결정하고, 애니메이션 스타일 동영상으로부터 상기 타겟 애니메이션 캐릭터의 얼굴을 캡쳐하여 애니메이션 얼굴 이미지 시퀀스를 형성하며, 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하는 단계;
제1 생성 유닛이 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여, 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는 단계 - 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 상기 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭됨 - ;
제2 생성 유닛이 상기 얼굴 이미지 시퀀스에 따라, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하는 단계; 및
교체 유닛이 상기 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 상기 애니메이션 스타일 동영상 내의 상기 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 상기 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성하는 단계를 포함하고,
제1 생성 유닛이 상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여, 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는 단계는,
실행 서브 유닛이 상기 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해 얼굴 이미지 생성 단계를 순차적으로 수행하는 단계 - 상기 얼굴 이미지 생성 단계는, 현재 애니메이션 얼굴 윤곽도 및 상기 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성하는 단계; 와 상기 제 1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하는 단계를 포함함 - ; 및
시퀀스 생성 서브 유닛이 결정된 얼굴 이미지를 이용하여, 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하는 단계를 포함하는, 방법.
삭제
제1항에 있어서,
결정 모듈이 상기 제1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하는 단계는,
현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성하는 단계;
현재 마지막으로 결정된 얼굴 이미지 및 상기 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성하는 단계;
상기 제1 얼굴 이미지 및 상기 제2 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 생성하는 단계를 포함하는, 방법.
제1항에 있어서,
획득 유닛이 상기 애니메이션 얼굴 이미지 시퀀스에 기반하여 애니메이션 얼굴 윤곽도 시퀀스를 생성하는 단계는,
상기 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지에 대해, 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 수행하고, 검출된 얼굴 키 포인트에 기반하여 애니메이션 얼굴 윤곽도를 생성하는 단계를 포함하는, 방법.
제1항에 있어서,
제2 생성 유닛이 상기 얼굴 이미지 시퀀스에 따라 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하는 단계는,
상기 얼굴 이미지 시퀀스 내의 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하는 단계를 포함하고,
상기 애니메이션 스타일 이미지 생성 모델은 실제 얼굴의 얼굴 이미지에 따라 애니메이션 스타일 얼굴 이미지를 생성하는, 방법.
동영상을 생성하기 위한 장치에 있어서,
사용자의 동작에 따라 수신된 애니메이션 스타일 동영상으로부터 타겟 애니메이션 캐릭터를 결정하고, 애니메이션 스타일 동영상으로부터 상기 타겟 애니메이션 캐릭터의 얼굴을 캡쳐하여 애니메이션 얼굴 이미지 시퀀스를 형성하도록 구성되는 획득 유닛;
상기 애니메이션 얼굴 윤곽도 시퀀스 및 수신된 실제 얼굴의 초기 얼굴 이미지에 기반하여, 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하도록 구성되는 제1 생성 유닛 - 상기 얼굴 이미지 시퀀스 내의 얼굴 표정은 상기 애니메이션 얼굴 이미지 시퀀스 내의 얼굴 표정과 매칭됨 -;
상기 얼굴 이미지 시퀀스에 따라, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하도록 구성되는 제2 생성 유닛; 및
상기 애니메이션 스타일 얼굴 이미지 시퀀스 내의 애니메이션 스타일 얼굴 이미지를 이용하여 상기 애니메이션 스타일 동영상 내의 상기 타겟 애니메이션 캐릭터의 얼굴 이미지를 교체하여, 상기 실제 얼굴에 대응하는 애니메이션 스타일 동영상을 생성하도록 구성되는 교체 유닛을 포함하고,
상기 제1 생성 유닛은,
상기 애니메이션 얼굴 윤곽도 시퀀스 내의 애니메이션 얼굴 윤곽도에 대해, 미리 설정된 얼굴 이미지 생성 단계를 순차적으로 실행하도록 구성되는 실행 서브 유닛 - 상기 실행 서브 유닛은, 현재 애니메이션 얼굴 윤곽도 및 상기 초기 얼굴 이미지의 얼굴 특징 정보에 기반하여 제1 얼굴 이미지를 생성하도록 구성되는 이미지 생성 모듈; 과 상기 제 1 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 결정하도록 구성되는 결정모듈을 포함함 - ; 및
결정된 얼굴 이미지를 이용하여, 상기 실제 얼굴에 대한 얼굴 이미지 시퀀스를 생성하도록 구성되는 시퀀스 생성 서브 유닛을 포함하는, 장치.
삭제
제6항에 있어서,
상기 결정 모듈은 또한,
현재 마지막으로 결정된 적어도 두 장의 얼굴 이미지에 기반하여 옵티컬 플로우 그래프를 생성하고,
현재 마지막으로 결정된 얼굴 이미지 및 옵티컬 플로우 그래프에 기반하여 제2 얼굴 이미지를 생성하고,
상기 제1 얼굴 이미지 및 상기 제2 얼굴 이미지에 기반하여 상기 실제 얼굴에 대한 얼굴 이미지를 생성하도록 구성되는, 장치.
제6항에 있어서,
상기 획득 유닛은 또한,
상기 애니메이션 얼굴 이미지 시퀀스 내의 애니메이션 얼굴 이미지에 대해, 당해 애니메이션 얼굴 이미지에 대한 얼굴 키 포인트 검출을 수행하고, 검출된 얼굴 키 포인트에 기반하여 애니메이션 얼굴 윤곽도를 생성하도록 구성되는, 장치.
제6항에 있어서,
상기 제2 생성 유닛은 또한,
상기 얼굴 이미지 시퀀스 내의 얼굴 이미지를 미리 구축된 애니메이션 스타일 이미지 생성 모델에 입력하여, 상기 실제 얼굴에 대한 애니메이션 스타일 얼굴 이미지 시퀀스를 생성하도록 구성되고,
상기 애니메이션 스타일 이미지 생성 모델은 실제 얼굴의 얼굴 이미지에 따라 애니메이션 스타일 얼굴 이미지를 생성하는, 장치.
하나 또는 복수의 프로세서; 및
하나 또는 복수의 프로그램을 저장하는 저장장치를 포함하는 기기에 있어서,
상기 하나 또는 복수의 프로그램이 상기 하나 또는 복수의 프로세서에 의해 수행될 때, 상기 하나 또는 복수의 프로세서가 제1항, 제3항 내지 제5항 중 어느 한 항에 따른 방법을 구현하는, 기기.
컴퓨터 프로그램이 저장된 컴퓨터 판독 가능한 저장 매체에 있어서,
상기 프로그램이 프로세서에 의해 실행될 경우 제1항, 제3항 내지 제5항 중 어느 한 항에 따른 방법을 구현하도록 하는 컴퓨터 판독 가능한 저장 매체.
컴퓨터 판독 가능한 저장 매체에 저장된 컴퓨터 프로그램에 있어서,
상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우 제1항, 제3항 내지 제5항 중 어느 한 항에 따른 방법을 구현하도록 하는 컴퓨터 프로그램.