KR20230049473A - 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램 - Google Patents

영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램 Download PDF

Info

Publication number
KR20230049473A
KR20230049473A KR1020210132688A KR20210132688A KR20230049473A KR 20230049473 A KR20230049473 A KR 20230049473A KR 1020210132688 A KR1020210132688 A KR 1020210132688A KR 20210132688 A KR20210132688 A KR 20210132688A KR 20230049473 A KR20230049473 A KR 20230049473A
Authority
KR
South Korea
Prior art keywords
image
frame
similar
displaying
present
Prior art date
Application number
KR1020210132688A
Other languages
English (en)
Other versions
KR102604672B1 (ko
Inventor
이미수
송형규
최홍섭
Original Assignee
주식회사 마인즈랩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 마인즈랩 filed Critical 주식회사 마인즈랩
Priority to KR1020210132688A priority Critical patent/KR102604672B1/ko
Priority to PCT/KR2021/016165 priority patent/WO2023058813A1/ko
Publication of KR20230049473A publication Critical patent/KR20230049473A/ko
Application granted granted Critical
Publication of KR102604672B1 publication Critical patent/KR102604672B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8549Creating video summaries, e.g. movie trailer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)

Abstract

본 발명의 일 실시예에 따른 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공하는 방법은, 실시간으로 촬영중인 제1 영상을 표시하는 단계; 저장된 하나 이상의 영상 중 상기 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색하는 단계; 및 상기 하나 이상의 유사 영상 각각의 유사 프레임을 표시하는 단계;를 포함할 수 있다.

Description

영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램{Method, apparatus and computer program for providing video shooting guides}
본 발명은 음성과 입술 모양이 동기화된 영상을 제공함에 있어서 배경이 되는 영상의 촬영을 위한 가이드를 제공하는 방법, 장치 및 컴퓨터 프로그램에 관한것이다.
정보통신 기술의 발달로 많은 애플리케이션에 인공 지능 기술의 도입이 이루어지고 있다. 종래에는 특정 인물이 특정 주제에 대해 이야기하는 영상을 생성하기 위해서는 해당 인물이 실제로 해당 주제의 이야기를 하는 영상을 카메라 등으로 획득하는 방법만이 유일하였다.
또한 일부 종래기술에 있어서 영상 합성 기술 등을 이용하여 특정 인물의 이미지나 영상에 기반하여 합성된 영상을 생성하기도 하였으나, 이와 같은 영상은 여전히 영상의 전환이 매끄럽지 않거나 인물의 입모양 등이 부자연스러운 문제점이 있었다.
본 발명은 상술한 문제점을 해결하기 위한 것으로, 보다 자연스러운 영상을 생성하고자 한다.
특히 본 발명은 영상의 촬영 시 기존 영상과 일치하는 정도를 실시간으로 제공함으로써 기존 영상과 자연스럽게 연결될 수 있는 영상을 생성할 수 있도록 하고자 한다.
또한 본 발명은 아바타의 대기 영상과 아바타의 발화 영상 간의 전환이 자연스럽게 이루어지도록 하고자 한다.
또한 본 발명은 실제 인물에 의한 촬영 없이도, 입모양이 자연스러운 아바타 영상을 생성하고자 한다.
또한 본 발명은 인공 신경망의 사용에도 불구하고 영상의 생성에 있어서 사용되는 서버의 리소스와 네트워크 리소스의 사용을 최소화하고자 한다.
본 발명의 일 실시예에 따른 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공하는 방법은, 실시간으로 촬영중인 제1 영상을 표시하는 단계; 저장된 하나 이상의 영상 중 상기 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색하는 단계; 및 상기 하나 이상의 유사 영상 각각의 유사 프레임을 표시하는 단계;를 포함할 수 있다.
상기 제1 영상을 표시하는 단계는 촬영하고자 하는 영상 타입을 선택하는 인터페이스에 대한 사용자의 입력을 획득하는 단계; 및 상기 제1 영상 상에 상기 영상 타입에 따른 촬영 가이드라인을 표시하는 단계;를 더 포함할 수 있다.
상기 영상 타입은 아바타의 대기 모습이 촬영된 영상인 대기 영상 타입 및 상기 아바타의 발화 모습이 촬영된 영상인 발화 영상 타입을 포함하고, 상기 촬영 가이드라인을 표시하는 단계는 상기 영상 타입이 상기 발화 영상 타입일 경우 상기 영상 타입이 대기 영상 타입일 때 보다 상기 아바타의 움직임 영역이 확장된 가이드라인을 표시할 수 있다.
상기 유사 프레임을 표시하는 단계는 상기 하나 이상의 유사 영상 각각에 대응되는 영상 객체를 표시하는 단계; 및 유사 영상 별로 상기 영상 객체 상에 섬네일을 포함하는 유사 프레임을 표시하는 단계를 더 포함할 수 있다. 이때 상기 영상 객체 상에서 상기 유사 프레임이 표시되는 위치는 상기 유사 영상에서 상기 유사 프레임의 상대적 위치에 대응되는 위치일 수 있다.
상기 유사 프레임을 표시하는 단계는 상기 유사 영상 별로 상기 영상 객체에 인접하여 상기 제1 프레임과 유사 프레임 간의 유사도를 표시하는 단계;를 더 포함할 수 있다.
상기 영상 촬영 가이드를 제공하는 방법은 상기 유사 프레임을 표시하는 단계 이후에, 상기 하나 이상의 유사 영상 중 어느 하나를 선택하는 사용자의 입력을 획득하는 단계; 및 상기 선택 된 유사 영상에 따르는 상기 제1 영상을 촬영하기 위한 인터페이스를 제공하는 단계;를 더 포함할 수 있다.
상기 인터페이스는 상기 선택된 유사 영상에 대응되는 객체와 상기 선택된 유사 영상에 대응되는 객체 상에 선택된 프레임 표시하는 섬네일 객체를 표시하는 프레임 선택 인터페이스, 상기 제1 프레임과 상기 선택 인터페이스에 선택된 프레임 내에서 아바타의 실루엣을 오버랩 하여 표시하는 비교 영상을 제공하는 영상 제공 인터페이스 및 상기 제1 프레임과 상기 선택된 프레임의 비교 결과를 포함하는 촬영 가이드를 제공하는 가이드 제공 인터페이스를 포함할 수 있다.
상기 인터페이스는 상기 제1 프레임의 촬영 시 영상 획득 장치의 설정값인 제1 설정값과 상기 선택된 프레임의 촬영 시 상기 영상 획득 장치의 설정값인 제2 설정값을 비교하여 표시하되, 상기 제1 설정값 및 상기 제2 설정값의 차이점이 구분되도록 표시하는 설정값 표시 인터페이스를 더 포함할 수 있다.
상기 설정값 표시 인터페이스는 상기 제1 프레임의 히스토그램인 제1 히스토그램과 상기 선택된 프레임의 제2 히스트로그램인 제2 히스토그램을 오버랩하여 표시하는 히스토그램 항목을 포함할 수 있다.
본 발명의 일 실시예에 따른 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공하는 장치는, 실시간으로 촬영중인 제1 영상을 표시하고, 저장된 하나 이상의 영상 중 상기 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색하고, 상기 하나 이상의 유사 영상 각각의 유사 프레임을 표시할 수 있다.
상기 장치는 촬영하고자 하는 영상 타입을 선택하는 인터페이스에 대한 사용자의 입력을 획득하고, 상기 제1 영상 상에 상기 영상 타입에 따른 촬영 가이드라인을 표시할 수 있다.
상기 영상 타입은 아바타의 대기 모습이 촬영된 영상인 대기 영상 타입 및 상기 아바타의 발화 모습이 촬영된 영상인 발화 영상 타입을 포함하고, 상기 장치는 상기 영상 타입이 상기 발화 영상 타입일 경우 상기 영상 타입이 대기 영상 타입일 때 보다 상기 아바타의 움직임 영역이 확장된 가이드라인을 표시할 수 있다.
상기 장치는 상기 하나 이상의 유사 영상 각각에 대응되는 영상 객체를 표시하고, 유사 영상 별로 상기 영상 객체 상에 섬네일을 포함하는 유사 프레임을 표시할 수 있다. 이때 상기 영상 객체 상에서 상기 유사 프레임이 표시되는 위치는 상기 유사 영상에서 상기 유사 프레임의 상대적 위치에 대응되는 위치일 수 있다.
상기 장치는 상기 유사 영상 별로 상기 영상 객체에 인접하여 상기 제1 프레임과 유사 프레임 간의 유사도를 표시할 수 있다.
상기 장치는 상기 하나 이상의 유사 영상 중 어느 하나를 선택하는 사용자의 입력을 획득하고, 상기 선택 된 유사 영상에 따르는 상기 제1 영상을 촬영하기 위한 인터페이스를 제공할 수 있다.
상기 인터페이스는 상기 선택된 유사 영상에 대응되는 객체와 상기 선택된 유사 영상에 대응되는 객체 상에 선택된 프레임 표시하는 섬네일 객체를 표시하는 프레임 선택 인터페이스, 상기 제1 프레임과 상기 선택 인터페이스에 선택된 프레임 내에서 아바타의 실루엣을 오버랩 하여 표시하는 비교 영상을 제공하는 영상 제공 인터페이스 및 상기 제1 프레임과 상기 선택된 프레임의 비교 결과를 포함하는 촬영 가이드를 제공하는 가이드 제공 인터페이스를 포함할 수 있다.
상기 인터페이스는 상기 제1 프레임의 촬영 시 영상 획득 장치의 설정값인 제1 설정값과 상기 선택된 프레임의 촬영 시 상기 영상 획득 장치의 설정값인 제2 설정값을 비교하여 표시하되, 상기 제1 설정값 및 상기 제2 설정값의 차이점이 구분되도록 표시하는 설정값 표시 인터페이스를 더 포함할 수 있다.
상기 설정값 표시 인터페이스는 상기 제1 프레임의 히스토그램인 제1 히스토그램과 상기 선택된 프레임의 제2 히스트로그램인 제2 히스토그램을 오버랩하여 표시하는 히스토그램 항목을 포함할 수 있다.
본 발명에 따르면 보다 자연스러운 인물 영상을 생성할 수 있다.
특히 본 발명에 따르면 영상의 촬영 시 기존 영상과 일치하는 정도를 실시간으로 제공함으로써 기존 영상과 자연스럽게 연결될 수 있는 영상을 생성할 수 있도록 한다.
또한 본 발명에 따르면 아바타의 대기 영상과 아바타의 발화 영상 간의 전환이 자연스럽게 이루어지도록 할 수 있다.
또한 본 발명은 실제 인물에 의한 촬영 없이도, 입모양이 자연스러운 아바타 영상을 생성할 수 있다.
아울러 본 발명에 따르면 인공 신경망의 사용에도 불구하고 영상의 생성에 있어서 사용되는 서버의 리소스와 네트워크 리소스의 사용을 최소화 할 수 있다.
도 1은 본 발명의 일 실시예에 따른 영상 생성 시스템의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 서버(100)의 구성을 개략적으로 도시한 도면이다.
도 3은 본 발명의 일 실시예에 따른 사용자 단말(200)의 구성을 개략적으로 도시한 도면이다.
도 4 및 도 5는 본 발명의 일 실시예에 따른 서버(100)에 의해 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 서버(100)의 메모리(130)에 저장되는 복수의 대기 영상(IG1) 및 복수의 행동 영상(IG2)을 도시한 도면이다.
도 7 및 도 8은 본 발명의 일 실시예에 따른 서버(100)가 적어도 하나의 후보 프레임(411 또는 412, 413)을 결정하는 과정을 설명하기 위한 도면이다.
도 9는 대기 영상(410)을 구성하는 프레임(414)과 제2 영상의 프레임(421)의 유사도가 큰 경우의 유사도 산출 결과(431)를 도시한 도면이다.
도 10은 대기 영상(410)을 구성하는 프레임(415)과 제2 영상의 프레임(422)의 유사도가 작은 경우의 유사도 산출 결과(432)를 도시한 도면이다.
도 11은 본 발명의 일 실시예에 따른 서버(100)가 생성한 전환 영상(440)의 구성을 도시한 도면이다.
도 12는 본 발명의 일 실시예에 따른 사용자 단말(200)에 촬영 가이드가 표시된 화면(510)의 예시이다.
도 13은 본 발명의 일 실시예에 따른 사용자 단말(200)에 유사 영상에 따르는 제1 영상을 촬용하기 위한 인터페이스가 표시된 화면(530)의 예시이다.
도 14는 본 발명의 일 실시예에 따른 사용자 단말(200)에 의해 수행되는 영상 촬영 가이드 제공 방법을 설명하기 위한 흐름도이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 이하의 실시예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 형태는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.
도 1은 본 발명의 일 실시예에 따른 영상 생성 시스템의 구성을 개략적으로 도시한 도면이다.
본 발명의 일 실시예에 따른 영상 생성 시스템은 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공할 수 있다.
본 발명에서 영상이 '연결 가능한'것은 연결하고자 하는 두 영상 내에서의 아바타의 포즈가 유사하여 두 영상을 연결하여도 영상에 급격한 변화가 없는 것을 의미할 수 있다. 가령 제1 영상의 마지막 프레임과 제2 영상의 첫 번째 프레임 각각에서의 아바타의 자세가 모두 손을 가운데로 모으고 있는 자세로 유사한 경우 제1 영상의 마지막 프레임과 제2 영상의 첫 번째 프레임은 연결 가능한 영상(또는 프레임)에 해당할 수 있다.
한편 본 발명의 일 실시예에 따른 영상 생성 시스템은 저장된 영상 간에도 연결 가능성을 확인하여 선택된 영상에 대해 유사한 영상을 제공할 수도 있다. 물론 본 발명의 일 실시예에 따른 영상 생성 시스템은 연결 가능한 두 개의 영상을 연결한 전환 영상을 생성하거나 제공할 수도 있다.
본 발명의 일 실시예에 따른 영상 생성 시스템은 입술 이미지(서버에 의해 생성된)와 얼굴을 포함하는 영상(영상 수신 장치의 메모리에 저장된)이 영상 수신 장치(예를 들어 사용자 단말)에서 오버랩 되어 표시되도록 할 수 있다.
이때 영상 생성 시스템의 서버는 대상 객체의 목소리로 사용할 음성으로부터 순차적인 입술 이미지를 생성할 수 있고, 영상 수신 장치는 순차적인 입술 이미지와 얼굴을 포함하는 영상을 오버랩 하여 표시함으로써 입모양과 음성이 일치되는 영상을 표시할 수 있다. 상술한 과정에 따라 생성되는 전환 영상은 입술 이미지의 배경 영상으로써 사용될 수 있다.
본 발명에서 제1 인공 신경망 및 제2 인공 신경망과 같은 '인공 신경망'은 용도에 따른 학습 데이터로 학습된 신경망으로, 머신 러닝(Machine Learning) 또는 딥러닝(Deep Learning) 기법에 의해 학습된 인공 신경망을 의미할 수 있다. 이와 같은 신경망의 구조에 대해서는 도 4 내지 도 5를 참조하여 후술한다.
본 발명에서 '제1 영상'은 대상 객체를 촬영하는 실시간 영상을 의미할 수 있다. 이때 '대상 객체'는 아바타의 실물에 해당할 수 있다. 따라서 본 발명에서 '대상 객체'를 촬영한 영상 속에서의 대상 객체는 아바타로 지칭될 수 있다.
본 발명의 일 실시예에 따른 영상 생성 시스템은 도 1에 도시된 바와 같이 서버(100), 사용자 단말(200), 서비스 서버(300) 및 통신망(400)을 포함할 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 사용자 단말(200)의 요청에 따라 촬영 가이드를 제공하는데 필요한 데이터를 사용자 단말(200)에 제공할 수 있다. 가령 서버(100)는 실시간으로 촬영 중인 제1 영상과 유사한 영상을 메모리에서 검색하여 사용자 단말(200)에 제공할 수 있다.
한편 본 발명의 일 실시예에 따른 서버(100)는 학습된 제1 인공 신경망을 이용하여 대상 음성으로부터 입술 이미지를 생성하고, 생성된 입술 이미지를 사용자 단말(200) 및/또는 서비스 서버(300)에 제공할 수 있다.
이때 서버(100)는 영상의 프레임 별로 음성에 대응되는 입술 이미지를 생성하고, 프레임의 식별 정보, 생성된 입술 이미지, 입술 이미지의 프레임 내에서의 위치 정보를 포함하는 립싱크 데이터를 생성할 수 있다.
또한 서버(100)는 생성된 립싱크 데이터를 사용자 단말(200) 및/또는 서비스 서버(300)에 제공할 수 있다.
도 2는 본 발명의 일 실시예에 따른 서버(100)의 구성을 개략적으로 도시한 도면이다. 도 2를 참조하면, 본 발명의 일 실시예에 따른 서버(100)는 통신부(110), 제1 프로세서(120), 메모리(130) 및 제2 프로세서(140)를 포함할 수 있다. 또한 도면에는 도시되지 않았으나, 본 발명의 일 실시예에 따른 서버(100)는 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다.
통신부(110)는 서버(100)가 사용자 단말(200) 및/또는 서비스 서버(300)와 같은 다른 네트워크 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다.
제1 프로세서(120)는 사용자 단말(200)의 요청에 따라 제1 프레임과 유사한 프레임을 포함하는 하나 이상의 유사 영상을 검색하는 장치일 수 있다. 또한 제1 프로세서(120)는 학습된 인공 신경망들을 이용하여 입력 데이터로부터 출력 데이터를 생성하는 일련의 과정을 제어하는 장치일 수 있다. 가령 제1 프로세서(120)는 학습된 제1 인공 신경망을 이용하여 획득된 음성에 대응되는 입술 이미지를 생성하는 과정을 제어하는 장치일 수 있다.
이때 프로세서(Processor)는, 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
메모리(130)는 서버(100)가 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 메모리는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다. 가령 메모리(130)는 학습된 인공 신경망을 구성하는 데이터들(가령 계수들)을 일시적 및/또는 영구적으로 저장할 수 있다. 물론 메모리(130)는 인공 신경망을 학습하기 위한 학습 데이터 또는 서비스 서버(300)로부터 수신된 데이터를 저장할 수도 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
제2 프로세서(140)는 전술한 제1 프로세서(120)의 제어에 따라 연산을 수행하는 장치를 의미할 수 있다. 이때 제2 프로세서(140)는 전술한 제1 프로세서(120)보다 높은 연산 능력을 갖는 장치일 수 있다. 가령 제2 프로세서(140)는 GPU(Graphics Processing Unit)로 구성될 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 본 발명의 일 실시예에서, 제2 프로세서(140)는 복수일 수도 있고, 단수일 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공하는 장치일 수 있다.
도 3은 본 발명의 일 실시예에 따른 사용자 단말(200)의 구성을 개략적으로 도시한 도면이다. 도 3을 참조하면, 본 발명의 일 실시예에 따른 사용자 단말(200)은 통신부(210), 제3 프로세서(220), 메모리(230) 및 제4 프로세서(240)를 포함할 수 있다. 또한 도면에는 도시되지 않았으나, 본 발명의 일 실시예에 따른 사용자 단말(200)은 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다.
통신부(210)는 사용자 단말(200)이 서버(100) 및/또는 서비스 서버(300)와 같은 다른 네트워크 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다.
본 발명의 일 실시예에서 제3 프로세서(220)는 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공할 수 있다. 가령 제3 프로세서(220)는 실시간으로 촬영중인 제1 영상을 표시하고, 서버(100)에 저장된 하나 이상의 영상 중 촬영중인 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색할 수 있다. 또한 제3 프로세서(220)는 검색 된 하나 이상의 유사 영상 각각의 유사 프레임을 표시할 수도 있다.
이때 프로세서(Processor)는, 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
메모리(230)는 사용자 단말(200)이 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 메모리는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다. 가령 메모리(230)는 실시간으로 촬영중인 제1 영상을 일시적 및/또는 영구적으로 저장할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
제4 프로세서(240)는 전술한 제3 프로세서(220)의 제어에 따라 연산을 수행하는 장치를 의미할 수 있다. 이때 제4 프로세서(240)는 전술한 제3 프로세서(220)보다 높은 연산 능력을 갖는 장치일 수 있다. 가령 제4 프로세서(240)는 GPU(Graphics Processing Unit)로 구성될 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 본 발명의 일 실시예에서, 제4 프로세서(240)는 복수일 수도 있고, 단수일 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 도 1에 도시된 바와 같이, 휴대용 단말(201, 202, 203)을 의미할 수도 있고, 컴퓨터(204)를 의미할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 상술한 기능을 수행하기 위해 콘텐츠 등을 표시하기 위한 표시수단, 이러한 콘텐츠에 대한 사용자의 입력을 획득하기 위한 입력수단을 더 구비할 수 있다. 이 때 입력수단 및 표시수단은 다양하게 구성될 수 있다. 가령 입력수단은 키보드, 마우스, 트랙볼, 마이크, 버튼, 터치패널 등을 포함할 수 있으나 이에 한정되지 않는다.
본 발명에서 이와 같은 사용자 단말(200)은 때때로 '영상 촬영 가이드 제공 장치'로 명명되어 설명될 수 있다.
본 발명의 일 실시예에서 서비스 서버(300)는 서버(100)로부터 생성된 입술 이미지를 포함하는 립싱크 데이터 및 전환 영상과 관련된 데이터(예를 들어 전환 영상에 포함되는 프레임의 식별 정보)를 수신하고 이를 이용하여 출력 프레임을 생성한 뒤 다른 장치(예를 들어 사용자 단말(200))에 제공하는 장치일 수 있다.
본 발명의 다른 실시예에서, 서비스 서버(300)는 서버(100)에 의해 학습된 인공 신경망을 수신하여, 다른 장치의 요청에 따라 립싱크 데이터 및 전환 영상과 관련된 데이터(예를 들어 전환 영상에 포함되는 프레임의 식별 정보)를 제공하는 장치일 수도 있다.
본 발명의 일 실시예에 따른 통신망(400)은 영상 생성 시스템의 각 구성 간의 데이터 송수신을 매개하는 통신망을 의미할 수 있다. 가령 통신망(400)은 LANs(Local Area Networks), WANs(Wide Area Networks), MANs(Metropolitan Area Networks), ISDNs(Integrated Service Digital Networks) 등의 유선 네트워크나, 무선 LANs, CDMA, 블루투스, 위성 통신 등의 무선 네트워크를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
도 4 및 도 5는 본 발명의 일 실시예에 따른 서버(100)에 의해 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
본 발명의 일 실시예에 따른 인공 신경망은 도 4에 도시된 바와 같은 합성 곱 신경망(CNN: Convolutional Neural Network) 모델에 따른 인공 신경망일 수 있다. 이때 CNN 모델은 복수의 연산 레이어(Convolutional Layer, Pooling Layer)를 번갈아 수행하여 최종적으로는 입력 데이터의 특징을 추출하는 데 사용되는 계층 모델일 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 학습 데이터를 지도학습(Supervised Learning) 기법에 따라 처리하여 인공 신경망 모델을 구축하거나 학습시킬 수 있다. 서버(100)가 인공 신경망을 학습시키는 방법에 대한 상세한 설명은 후술한다.
본 발명의 일 실시예에 따른 서버(100)는 복수의 학습 데이터를 이용하여, 어느 하나의 입력 데이터를 인공 신경망에 입력하여 생성된 출력 값이 해당 학습 데이터에 표지된 값에 근접하도록 각 레이어 및/또는 각 노드의 가중치를 갱신하는 과정을 반복하여 수행함으로써 인공 신경망을 학습시킬 수 있다.
이때 본 발명의 일 실시예에 따른 서버(100)는 역전파(Back Propagation) 알고리즘에 따라 각 레이어 및/또는 각 노드의 가중치(또는 계수)를 갱신할 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 입력 데이터의 특징 값을 추출하기 위한 컨볼루션 레이어(Convolution layer), 추출된 특징 값을 결합하여 특징 맵을 구성하는 풀링 레이어(pooling layer)를 생성할 수 있다.
또한 본 발명의 일 실시예에 따른 서버(100)는 생성된 특징 맵을 결합하여, 입력 데이터가 복수의 항목 각각에 해당할 확률을 결정할 준비를 하는 풀리 커넥티드 레이어(Fully Conected Layer)를 생성할 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 입력 데이터에 대응되는 출력을 포함하는 아웃풋 레이어(Output Layer)를 산출할 수 있다.
도 4에 도시된 예시에서는, 입력 데이터가 5X7 형태의 블록으로 나누어지며, 컨볼루션 레이어의 생성에 5X3 형태의 단위 블록이 사용되고, 풀링 레이어의 생성에 1X4 또는 1X2 형태의 단위 블록이 사용되는 것으로 도시되었지만, 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 입력 데이터의 종류 및/또는 각 블록의 크기는 다양하게 구성될 수 있다.
한편 이와 같은 인공 신경망은 전술한 메모리(130)에 인공 신경망의 모델의 종류, 인공 신경망을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 인공 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들의 형태로 저장될 수 있다. 물론 인공 신경망의 구조 또한 메모리(130)에 소스코드 및/또는 프로그램의 형태로 저장될 수 있다.
본 발명의 일 실시예에 따른 인공 신경망은 도 5에 도시된 바와 같은 순환 신경망(Recurrent Neural Network, RNN) 모델에 따른 인공 신경망일 수 있다.
도 5를 참조하면, 이와 같은 순환 신경망(RNN) 모델에 따른 인공 신경망은 적어도 하나의 입력 노드(N1)를 포함하는 입력 레이어(L1), 복수의 히든 노드(N2)를 포함하는 히든 레이어(L2) 및 적어도 하나의 출력 노드(N3)를 포함하는 출력 레이어(L3)를 포함할 수 있다.
히든 레이어(L2)는 도시된 바와 같이 전체적으로 연결된(Fully Connected) 하나 이상의 레이어를 포함할 수 있다. 히든 레이어(L2)가 복수의 레이어를 포함하는 경우, 인공 신경망은 각각의 히든 레이어 사이의 관계를 정의하는 함수(미도시)를 포함할 수 있다.
출력 레이어(L3)의 적어도 하나의 출력 노드(N3)는 서버(100)의 제어에 따라 인공 신경망이 입력 레이어(L1)의 입력 값으로부터 생성한 출력 값을 포함할 수 있다.
한편 각 레이어의 각 노드에 포함되는 값은 벡터일 수 있다. 또한 각 노드는 해당 노드의 중요도에 대응되는 가중치를 포함할 수도 있다.
한편 인공 신경망은 입력 레이어(L1)와 히든 레이어(L2)의 관계를 정의하는 제1 함수(F1) 및 히든 레이어(L2)와 출력 레이어(L3)의 관계를 정의하는 제2 함수(F2)를 포함할 수 있다.
제1 함수(F1)는 입력 레이어(L1)에 포함되는 입력 노드(N1)와 히든 레이어(L2)에 포함되는 히든 노드(N2)간의 연결관계를 정의할 수 있다. 이와 유사하게, 제2 함수(F2)는 히든 레이어(L2)에 포함되는 히든 노드(N2)와 출력 레이어(L3)에 포함되는 출력 노드(N3)간의 연결관계를 정의할 수 있다.
이와 같은 제1 함수(F1), 제2 함수(F2) 및 히든 레이어 사이의 함수들은 이전 노드의 입력에 기초하여 결과물을 출력하는 순환 신경망 모델을 포함할 수 있다.
서버(100)에 의해 인공 신경망이 학습되는 과정에서, 복수의 학습 데이터에 기초하여 제1 함수(F1) 및 제2 함수(F2)가 학습될 수 있다. 물론 인공 신경망이 학습되는 과정에서 전술한 제1 함수(F1) 및 제2 함수(F2) 외에 복수의 히든 레이어 사이의 함수들 또한 학습될 수 있다.
본 발명의 일 실시예에 따른 인공 신경망은 표지(Labeled)된 학습 데이터를 기반으로 지도학습(Supervised Learning) 방식으로 학습될 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 복수의 학습 데이터를 이용하여, 어느 하나의 입력 데이터를 인공 신경망에 입력하여 생성된 출력 값이 해당 학습 데이터에 표지된 값에 근접하도록 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신하는 과정을 반복하여 수행함으로써 인공 신경망을 학습시킬 수 있다.
이때 본 발명의 일 실시예에 따른 서버(100)는 역전파(Back Propagation) 알고리즘에 따라 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신할 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
도 4 및 도 5에서 설명한 인공 신경망의 종류 및/또는 구조는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 다양한 종류의 모델의 인공 신경망이 명세서를 통하여 설명하는 '인공 신경망'에 해당할 수 있다.
이하에서는 서버(100)에 의해 수행되는 전환 영상 생성 과정을 먼저 설명하고, 사용자 단말(200)에 의해 수행되는 영상 촬영 가이드 제공 과정을 나중에 설명한다.
서버(100)에 의한 전환 영상 과정
본 발명에서 '전환 영상'은 서버(100)에 의해 생성된 입술 이미지와 함께 표시되는 배경 이미지로, 아바타의 상태가 전환되는 과정이나 모습이 담긴 영상일 수 있다. 가령 전환 영상은 아바타의 대기 모습이 촬영된 영상과 아바타의 발화 모습이 촬영된 영상이 연결된 영상으로, 서버(100)에 의해 생성된 입술 이미지와 함께 재생하기 위한 영상일 수 있다. 물론 전환 영상은 아바타의 발화 모습이 촬영된 첫 번째 영상과 아바타의 발화 모습이 촬영된 두 번째 영상이 연결된 영상일 수도 있고, 아바타의 발화 모습이 촬영된 영상과 아바타의 대기 모습이 촬영된 영상이 연결된 영상일 수도 있다.
한편 서버(100)에 의해 생성된 입술 이미지는 전환 영상 중 아바타의 발화 모습이 촬영된 영상 부분에 오버랩 되어 표시될 수 있다.
일반적으로 아바타의 발화 내용과 아바타의 발화 제스쳐(예를 들어 몸동작 등)가 반드시 관련성이 있을 것을 요하지는 않기에, 단지 아바타가 발화 제스쳐를 취하는 영상 상에 어떠한 입모양을 오버랩 하여 표시하여도 부자연스러움이 크지 않다. 따라서 본 발명의 일 실시예에 따른 서버(100)는 아바타의 발화가 필요한 시점에서 아바타의 대기 모습이 촬영된 영상에서 아바타의 발화 모습이 촬영된 영상으로 전환되는 전환 영상을 생성하고, 아바타의 발화 모습이 촬영된 부분에 대한 입술 이미지를 오버랩하여 표시되도록 함으로써 자연스러우면서도 의도된 발화 영상을 제공할 수 있다.
도 6은 본 발명의 일 실시예에 따른 서버(100)의 메모리(130)에 저장되는 복수의 대기 영상(IG1) 및 복수의 행동 영상(IG2)을 도시한 도면이다. 본 발명의 일 실시예에 따른 서버(100)는 주어진 상황에 따라 복수의 대기 영상(IG1) 및 복수의 행동 영상(IG2)중 어느 하나를 선택하여 서비스 서버(300)와 같은 외부 장치에 제공할 수 있다. 가령 서버(100)는 제2 사용자 단말(미도시)에 대한 유저의 조작이 없는 상황에서 복수의 대기 영상(IG1) 중 어느 하나를 선택하여 제2 사용자 단말(미도시)에 제공할 수 있다. 이때 제2 사용자 단말(미도시)은 서버(100)로부터 수신된 대기 영상을 표시함으로써 보다 자연스러운 대기 화면이 제공되도록 할 수 있다.
본 발명에서 '자연스러운 대기 화면'과 같은 자연스러운 영상은 아바타가 시간의 흐름에 따라 자연스럽게 동작하는 영상으로, 가령 아바타가 사람인 경우 사람이 눈을 깜박이거나 호흡에 따라 신체가 미세하게 움직이는 영상일 수 있다. 따라서 단일 프레임이나 단일 이미지로 구성된 영상은 본 발명에서 설명하는 자연스러운 영상에 해당하지 않을 수 있다.
한편 서버(100)는 아바타의 발화가 필요한 상황이 발생된 경우, 복수의 행동 영상(IG2)중 제2 사용자 단말(미도시)에 표시되고 있는 대기 영상과 자연스러운 연결이 가능한 행동 영상을 선택하여 제2 사용자 단말(미도시)에 제공할 수 있다. 이때 서버(100)는 제공되는 행동 영상 상에 표시될 입술 이미지를 생성하여 제2 사용자 단말(미도시)에 제공할 수 있다.
이하에서는 설명의 편의를 위해 현재 서비스 서버(300)가 제2 사용자 단말(미도시)에 대기 영상(410)을 제공하고 있으며, 후술하는 과정에 따라 복수의 행동 영상(IG2)중 행동 영상(420)이 선택됨을 전제로 설명한다.
본 발명의 일 실시예에 따른 서버(100)는 대기 영상(410)을 구성하는 적어도 하나의 프레임 중 복수의 행동 영상(IG2) 각각을 구성하는 적어도 하나의 프레임과 유사도를 비교할 대상인 적어도 하나의 후보 프레임을 결정할 수 있다.
도 7 및 도 8은 본 발명의 일 실시예에 따른 서버(100)가 적어도 하나의 후보 프레임(411 또는 412, 413)을 결정하는 과정을 설명하기 위한 도면이다.
본 발명의 일 실시예에 따른 서버(100)는 대기 영상(410)의 전환 필요성이 발생된 제1 시점(t1)으로부터 소정의 시구간(예를 들어 제1 시점(t1)으로부터 T초 이후인 제2 시점(t2)까지의 구간) 내에 해당하는 대기 영상(410)의 적어도 하나의 프레임(411)을 적어도 하나의 후보 프레임으로 결정할 수 있다. 예를 들어 제1 시점에 제2 사용자 단말(미도시)에 대한 유저의 조작이 수행되었고 이에 따라 아바타의 발화가 필요한 상황이 발행된 경우, 서버(100)는 제1 시점으로부터 제2 시점(t2) 이내에 해당하는 적어도 하나의 프레임(411)을 적어도 하나의 후보 프레임으로 결정할 수 있다. 이러한 경우 서버(100)는 늦어도 제2 시점(t2)에는 아바타의 발화가 이루어지는 영상을 제공할 수 있다.
한편 본 발명의 다른 실시예에 따른 서버(100)는 대기 영상(410)의 첫 프레임(412)과 대기 영상(410)의 마지막 프레임(413)을 적어도 하나의 후보 프레임으로 결정할 수도 있다. 가령 복수의 대기 영상(IG1) 각각이 상대적으로 짧은 시간 길이로 구성되고, 영상의 시작과 끝 부분에서 아바타의 포즈가 정적인 경우 이와 같이 첫 프레임(412)과 마지막 프레임(413)을 적어도 하나의 후보 프레임으로 결정하는 것이 보다 바람직할 수 있다.
한편 도 7 및 도 8에 도시된 후보 프레임 결정 방식은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 서버(100)는 대기 영상(410)을 구성하는 적어도 하나의 프레임과 복수의 행동 영상(IG2) 각각을 구성하는 적어도 하나의 프레임 간의 유사도를 산출할 수 있다. 가령 서버(100)는 전술한 과정에 따라 결정된 적어도 하나의 후보 프레임(411 또는 412, 413)을 복수의 행동 영상(IG2) 각각을 구성하는 적어도 하나의 프레임과 비교하여 유사도를 산출할 수 있다.
도 9는 대기 영상(410)을 구성하는 프레임(414)과 제2 영상의 프레임(421)의 유사도가 큰 경우의 유사도 산출 결과(431)를 도시한 도면이다.
본 발명의 일 실시예에 따른 서버(100)는 도 9에 도시된 바와 같이 두 프레임(414, 421)의 픽셀 간의 차이값을 유사도 산출 결과(431)로써 산출할 수 있다. 산출 결과(431)에는 두 프레임(414, 421) 간의 픽셀 값이 차이가 있는 부분이 차이 정도에 대응되도록 표시될 수 있다.
도 10은 대기 영상(410)을 구성하는 프레임(415)과 제2 영상의 프레임(422)의 유사도가 작은 경우의 유사도 산출 결과(432)를 도시한 도면이다.
전술한 바와 같이 본 발명의 일 실시예에 따른 서버(100)는 두 프레임(415, 422)의 픽셀 간의 차이값을 유사도 산출 결과(432)로써 산출할 수 있다. 산출 결과(432)에는 두 프레임(415, 422) 간의 픽셀 값이 차이가 있는 부분이 차이 정도에 대응되도록 표시될 수 있다.
도 9의 산출 결과(431)와 도 10의 산출 결과(432)를 비교해 보면, 도 10의 산출 결과(432)에 보다 많은 픽셀들이 차이가 있는 것으로 나타난 것을 확인할 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 상술한 과정에 따라 산출된 유사도를 참조하여 대기 영상(410)의 적어도 하나의 프레임 중 대기 영상(410)에서 행동 영상(420)으로 전환되는 전환 시점에 사용하는 프레임인 제1 연결 프레임을 결정할 수 있다. 이와 유사하게, 본 발명의 일 실시예에 따른 서버(100)는 유사도를 참조하여 복수의 행동 영상(IG2) 중 전환에 사용할 행동 영상(420) 및 전환에 사용할 행동 영상(420)의 적어도 하나의 프레임 중 전환 시점에 사용하는 프레임인 제2 연결 프레임을 결정할 수 있다.
이때 서버(100)는 다양한 기준에 따라 제1 연결 프레임 및 제2 연결 프레임을 결정할 수 있다.
가령 서버(100)는 유사도가 가장 높은 프레임 조합, 즉 유사도가 가장 높은 대기 영상(410)의 프레임과 행동 영상(420)의 프레임 조합(또는 세트)을 선택하고, 이 때의 대기 영상(410)의 프레임을 제1 연결 프레임으로, 행동 영상(420)의 프레임을 제2 연결 프레임으로 결정할 수 있다. 이와 같은 방식에 따를 경우 가장 자연스러운 영상 전환이 가능하다.
또한 서버(100)는 유사도가 임계 유사도를 초과하는 프레임 조합들 중 가장 이른(또는 빠른) 시점의 대기 영상(410)의 프레임을 포함하는 조합을 선택하고, 이 때의 대기 영상(410)의 프레임을 제1 연결 프레임으로, 행동 영상(420)의 프레임을 제2 연결 프레임으로 결정할 수도 있다. 이와 같은 방식에 따를 경우 빠른 응답 속도를 제공할 수 있다.
다만 상술한 2 가지 방식은 모두 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니며, 유사도에 기반하여 프레임 조합을 결정하는 방식은 본 발명에 해당할 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 대기 영상(410)의 적어도 일부 프레임을 포함하는 제3 영상과 전환에 사용할 행동 영상(420)의 적어도 일부 프레임을 포함하는 제4 영상을 연결한 전환 영상을 생성할 수 있다.
도 11은 본 발명의 일 실시예에 따른 서버(100)가 생성한 전환 영상(440)의 구성을 도시한 도면이다.
전술한 바와 같이 전환 영상(440)은 대기 영상(410)의 적어도 일부 프레임을 포함하는 제3 영상(416)과 전환에 사용할 행동 영상(420)의 적어도 일부 프레임을 포함하는 제4 영상(423)을 연결한 영상일 수 있다.
이때 제3 영상(416)은 대기 영상(410)의 적어도 일부 프레임으로 구성된 영상으로 상술한 과정에 따라 결정된 제1 연결 프레임(417)을 마지막 프레임으로 하는 영상일 수 있다. 또한 제4 영상(423)은 전환에 사용할 행동 영상(420)의 적어도 일부 프레임으로 구성된 영상으로 제2 연결 프레임(424)을 첫 프레임으로 하는 영상일 수 있다.
본 발명의 일 실시예에 따른 서버(100)는 상술한 과정에 따라 생성된 전환 영상의 구성 정보를 서비스 서버(300) 및/또는 제2 사용자 단말(미도시)에 전송할 수 있다. 가령 서버(100)는 제3 영상(416) 및 상기 제4 영상(423) 각각에 포함되는 프레임의 식별 정보가 포함되도록 전환 영상의 구성 정보를 생성하여 제2 사용자 단말(미도시) 에 전송할 수 있다. 물론 전환 영상의 구성 정보를 수신 받은 제2 사용자 단말(미도시)은 별도로 수신되는 입술 이미지와 함께 전환 영상을 표시할 수 있다.
한편 상술한 도 6 내지 도 11에서는 대기 영상에서 동작 영상으로 전환되는 경우만을 예시적으로 설명하였으나, 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 대기 영상에서 대기 영상으로 전환되는 경우나, 동작 영상에서 대기 영상으로 전환되는 경우 그리고 동작 영상에서 동작 영상으로 전환되는 경우에도 상술한 과정에 따라 전환 영상이 생성될 수 있다.
한편 본 발명의 일 실시예에서 서버(100)는 제1 인공 신경망은 립리딩 과정을 통하여 수집된 입모양 영상과 해당 입모양 영상과 관련된 음성 데이터에 기반하여 학습된 것 일 수 있다.
본 발명의 선택적 실시예에서, 서버(100)는 립리딩 과정을 통하여 학습된 모델을 제1 인공 신경망으로써 사용할 수도 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다."
사용자 단말(200)에 의한 영상 촬영 가이드 제공 과정
본 발명의 일 실시예에 따른 서버(100)는 도 11에 도시된 바와 같은 전환 영상(440)의 생성을 위해 도 6에 도시된 복수의 대기 영상(IG1)과 복수의 행동 영상(IG2)들의 유사도를 도 9 및 도 10에서 설명한 유사도 비교 과정에 따라 판단할 수 있다.
이하에서는 도 6에 도시된 복수의 대기 영상(IG1)과 복수의 행동 영상(IG2)들의 촬영 과정에 있어서 사용자 단말(200)이 촬영 가이드를 제공하는 과정을 중심으로 설명한다. 도 6에 도시된 복수의 대기 영상(IG1)과 복수의 행동 영상(IG2)은 이하에서 설명하는 촬영 과정에 따라 생성된 것 일 수 있다.
도 12는 본 발명의 일 실시예에 따른 사용자 단말(200)에 촬영 가이드가 표시된 화면(510)의 예시이다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 실시간으로 촬영중인 제1 영상을 표시할 수 있다. 가령 사용자 단말(200)은 도 12에 도시된 바와 같이 실시간 영상 표시 영역(511) 상에 대상 객체에 대한 실시간 영상인 제1 영상을 표시할 수 있다. 이를 위해 본 발명의 일 실시예에 따른 사용자 단말(200)은 하나 이상의 영상 획득 장치와 연결되고, 연결된 하나 이상의 연결 획득 장치로부터 제1 영상을 수신하여 표시할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 실시간 영상 표시 영역(511)에 표시되는 제1 영상 상에 촬영 가이드 라인(512)을 표시할 수 있다. 이때 '촬영 가이드 라인'은 제1 영상 상에서 아바타(513)의 대략적인 위치 또는 움직임 영역을 표시(제한)하기 위한 것일 수 있다. 가령 촬영 가이드 라인(512)은 도 12에 도시된 바와 같이 아바타(513) 신체의 움직임 영역을 표시(제한)하기 위한 라인(512b, 512f), 아바타(513) 머리의 움직임 영역을 표시(제한)하기 위한 라인(512c, 512d) 및 아바타(513)의 높이를 표시(제한)하기 위한 라인(512a)을 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 촬영하고자 하는 영상 타입을 선택하는 인터페이스(514)를 제공하고, 이에 대한 사용자의 입력을 획득할 수 있다. 또한 사용자 단말(200)은 선택된 영상 타입에 따른 가이드 라인을 제1 영상 상에 표시할 수 있다. 가령 인터페이스(514)에서 제공되는 영상 타입은 아바타(513)의 대기 모습이 촬영되는 영상인 '대기 영상 타입' 및 아바타(513)의 발화 모습이 촬영되는 영상인 '발화 영상 타입'을 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 인터페이스(514)에서 선택된 영상 타입이 발화 영상 타입일 경우, 영상 타입이 대기 영상 타입일 때 보다 아바타(513)의 움직임 영역이 확장된 가이드라인을 표시할 수 있다. 바꾸어말하면 사용자 단말(200)은 영상 타입이 대기 영상 타입일 경우 아바타(513)의 움직임 영역이 보다 제한된(즉 움직입 영역이 좁은) 가이드라인을 표시할 수 있다.
이에 따라 본 발명은 사용자 및/또는 대상 객체는 실시간 영상인 제1 영상 상의 가이드라인을 참조하여 대상 객체의 위치나 포즈 등을 적절하게 수정할 수 있도록 한다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 저장된 하나 이상의 영상 중 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색할 수 있다. 이때 '제1 프레임'은 제1 영상에서 소정의 기준에 따라 선택된 프레임으로 가령 현재 시점의 프레임이거나 현재 시점으로부터 소정의 시간 간격 이전의 프레임일 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 서버(100)로 제1 프레임을 전송하고 그와 유사한 프레임을 포함하는 하나 이상의 유사 영상을 검색하도록 할 수 있다. 즉 사용자 단말(200)은 서버로 제1 프레임과 유사한 프레임의 검색 요청을 전송할 수 있다. 이러한 경우 서버(100)는 도 9 내지 도 10에서 설명한 과정에 따라 유사한 프레임을 포함하는 유사 영상을 검색하고, 이를 사용자 단말(200)에 제공할 수 있다.
본 발명의 다른 실시예에서, 사용자 단말(200)은 메모리(230)에 저장된 복수의 대기 영상 및 복수의 행동 영상중에서 제1 프레임과 유사한 프레임을 포함하는 유사 영상을 검색할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 영상 타입의 구분 없이 모든 타입의 영상을 유사 영상으로써 제공할 수 있다. 바꾸어말하면 행동 영상 및 대기 영상 모두 검색 결과로써 제공될 수 있다.
본 발명의 선택적 실시예에서, 본 발명의 일 실시예에 따른 사용자 단말(200)은 인터페이스(514)에 대한 사용자의 입력을 참조하여 유사 영상을 검색할 수도 있다. 가령 사용자 단말(200)은 인터페이스(514)에서 선택된 타입과 동일한 타입의 영상만을 유사 영상으로 제공할 수도 있고, 선택된 타입과 반대 타입의 영상만을 유사 영상으로 제공할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 하나 이상의 유사 영상 각각의 유사 프레임을 표시할 수 있다. 가령 본 발명의 일 실시예에 따른 사용자 단말(200)은 도 12에 도시된 바와 같이 검색된 하나 이상의 유사 영상 각각에 대응되는 영상 객체(515, 516, 517, 518)를 표시할 수 있다.
또한 본 발명의 일 실시예에 따른 사용자 단말(200)은 유사 영상 별로 표시된 영상 객체 상에 섬네일을 포함하는 유사 프레임을 표시 할 수 있다. 이때 사용자 단말(200)은 표시된 영상 객체 상에서 유사 프레임이 표시되는 위치가 유사 영상에서 유사 프레임의 상대적 위치에 대응되도록 할 수 있다. 가령 '대기 영상 3'에서 유사 프레임(519)이 대략 유사 영상의 중간에 위치하는 경우, 사용자 단말(200)은 이와 같은 프레임의 위치를 고려하여 유사 프레임(519)을 영상 객체(515)의 중간에 표시할 수 있다.
한편 본 발명의 일 실시예에 따른 사용자 단말(200)은 검색된 유사 영상 별로 제1 프레임과 유사 프레임 간의 유사도를 표시할 수도 있다. 가령 사용자 단말(200)은 도 12에 도시된 바와 같이 '대기 영상 3'에 대한 영상 객체(515)에 인접하여 유사도(520)를 표시할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 하나 이상의 유사 영상 중 어느 하나를 선택하는 사용자의 입력을 획득할 수 있다. 가령 사용자 단말(200)은 유사 영상 각각에 대응되는 영상 객체(515, 516, 517, 518) 중 어느 하나를 선택하는 사용자의 입력을 획득하는 방식으로 유사 영상을 선택하는 사용자의 입력을 획득할 수 있다. 이때 본 발명의 일 실시예에 따른 사용자 단말(200)은 선택 된 유사 영상에 따르는 제1 영상을 촬영하기 위한 인터페이스를 제공할 수 있다. 여기서 유사 영상에 '따르는' 제1 영상은 유사 영상에서의 아바타의 포즈와 제1 영상에서의 아바타의 포즈가 유사한 것을 의미할 수 있다.
도 13은 본 발명의 일 실시예에 따른 사용자 단말(200)에 유사 영상에 따르는 제1 영상을 촬용하기 위한 인터페이스가 표시된 화면(530)의 예시이다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 선택된 유사 영상에 대응되는 객체(539)와 객체(539) 상에 선택된 프레임 표시하는 섬네일 객체(538)를 표시하는 프레임 선택 인터페이스(537)를 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 프레임 선택 인터페이스(537)에서 사용자가 선택한 프레임에 따라 영상 제공 인터페이스(531)에 제공되는 아바타의 실루엣이 변경되도록 할 수 있다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 실시간 아바타(532)의 외형을 포함하는 제1 프레임(실시간 영상의 프레임)과 프레임 선택 인터페이스(537)에서 선택된 프레임 내에서의 아바타의 실루엣(533)을 오버랩 하여 표시하는 비교 영상을 제공하는 영상 제공 인터페이스(531)를 포함할 수 있다. 대상 객체(모델) 및/또는 촬영 감독 등은 표시된 실루엣(533)에 따라 포즈를 실시간으로 수정함으로써 선택된 프레임에 보다 근접하는 제1 영상을 촬영하도록 할 수 있다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 제1 프레임과 선택된 프레임의 비교 결과를 포함하는 촬영 가이드를 제공하는 가이드 제공 인터페이스(535)를 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 제1 영상과 선택된 유사 영상을 보다 유사하게 하기 위한 가이드를 생성하여 인터페이스(535)에 표시할 수 있다. 가령 사용자 단말(200)은 인터페이스(531)에서 아바타(532)의 외형과 실루엣(533)을 비교하고 아바타의 적절한 위치/포즈 등을 수정하기 위한 가이드를 생성하여 인터페이스(535)에 표시할 수 있다.
또한 사용자 단말(200)은 조명이나 카메라의 설정 파라미터(감도, 조리개 값, 배율 등과 같이 메타데이터상에 기록되는 항목들)의 비교를 통해 이를 수정하기 위한 가이드를 생성하여 인터페이스(535)에 표시할 수도 있다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 제1 프레임의 촬영 시 영상 획득 장치의 설정값인 제1 설정값과 선택된 프레임의 촬영 시 상기 영상 획득 장치의 설정값인 제2 설정값을 비교하여 표시하는 설정값 표시 인터페이스(536)를 더 포함할 수 있다. 가령 설정값 표시 인터페이스(536)에는 제1 프레임의 히스토그램인 제1 히스토그램과 선택된 프레임의 제2 히스트로그램인 제2 히스토그램을 오버랩하여 표시하는 히스토그램 항목을 포함할 수 있다. 물론 설정값 표시 인터페이스(536)에는 히스토그램 항목 외에도 조리개 값, 셔터 속도 및 감광도 등이 더 포함될 수 있다.
한편 설정값 표시 인터페이스(536)는 제1 설정값 및 제2 설정값의 차이점이 구분되도록 표시 할 수 있다. 가령 도 13에 도시된 바와 같이 양 프레임의 촬영 시 조리개 값이 상이한 경우, 사용자 단말(200)은 조리개 항목이 나머지 항목과 구분되도록 표시할 수 있다.
도 14는 본 발명의 일 실시예에 따른 사용자 단말(200)에 의해 수행되는 영상 촬영 가이드 제공 방법을 설명하기 위한 흐름도이다. 이하에서는 도 1 내지 도 13을 함께 참조하여 설명하되, 중복되는 설명은 생략한다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 실시간으로 촬영중인 제1 영상을 표시할 수 있다.(S1410)
도 12는 본 발명의 일 실시예에 따른 사용자 단말(200)에 촬영 가이드가 표시된 화면(510)의 예시이다. 가령 사용자 단말(200)은 도 12에 도시된 바와 같이 실시간 영상 표시 영역(511) 상에 대상 객체에 대한 실시간 영상인 제1 영상을 표시할 수 있다. 이를 위해 본 발명의 일 실시예에 따른 사용자 단말(200)은 하나 이상의 영상 획득 장치와 연결되고, 연결된 하나 이상의 연결 획득 장치로부터 제1 영상을 수신하여 표시할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 실시간 영상 표시 영역(511)에 표시되는 제1 영상 상에 촬영 가이드 라인(512)을 표시할 수 있다. 이때 '촬영 가이드 라인'은 제1 영상 상에서 아바타(513)의 대략적인 위치 또는 움직임 영역을 표시(제한)하기 위한 것일 수 있다. 가령 촬영 가이드 라인(512)은 도 12에 도시된 바와 같이 아바타(513) 신체의 움직임 영역을 표시(제한)하기 위한 라인(512b, 512f), 아바타(513) 머리의 움직임 영역을 표시(제한)하기 위한 라인(512c, 512d) 및 아바타(513)의 높이를 표시(제한)하기 위한 라인(512a)을 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 촬영하고자 하는 영상 타입을 선택하는 인터페이스(514)를 제공하고, 이에 대한 사용자의 입력을 획득할 수 있다. 또한 사용자 단말(200)은 선택된 영상 타입에 따른 가이드 라인을 제1 영상 상에 표시할 수 있다. 가령 인터페이스(514)에서 제공되는 영상 타입은 아바타(513)의 대기 모습이 촬영되는 영상인 '대기 영상 타입' 및 아바타(513)의 발화 모습이 촬영되는 영상인 '발화 영상 타입'을 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 인터페이스(514)에서 선택된 영상 타입이 발화 영상 타입일 경우, 영상 타입이 대기 영상 타입일 때 보다 아바타(513)의 움직임 영역이 확장된 가이드라인을 표시할 수 있다. 바꾸어말하면 사용자 단말(200)은 영상 타입이 대기 영상 타입일 경우 아바타(513)의 움직임 영역이 보다 제한된(즉 움직입 영역이 좁은) 가이드라인을 표시할 수 있다.
이에 따라 본 발명은 사용자 및/또는 대상 객체는 실시간 영상인 제1 영상 상의 가이드라인을 참조하여 대상 객체의 위치나 포즈 등을 적절하게 수정할 수 있도록 한다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 저장된 하나 이상의 영상 중 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색할 수 있다.(S1420) 이때 '제1 프레임'은 제1 영상에서 소정의 기준에 따라 선택된 프레임으로 가령 현재 시점의 프레임이거나 현재 시점으로부터 소정의 시간 간격 이전의 프레임일 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 서버(100)로 제1 프레임을 전송하고 그와 유사한 프레임을 포함하는 하나 이상의 유사 영상을 검색하도록 할 수 있다. 즉 사용자 단말(200)은 서버로 제1 프레임과 유사한 프레임의 검색 요청을 전송할 수 있다. 이러한 경우 서버(100)는 도 9 내지 도 10에서 설명한 과정에 따라 유사한 프레임을 포함하는 유사 영상을 검색하고, 이를 사용자 단말(200)에 제공할 수 있다.
본 발명의 다른 실시예에서, 사용자 단말(200)은 메모리(230)에 저장된 복수의 대기 영상 및 복수의 행동 영상중에서 제1 프레임과 유사한 프레임을 포함하는 유사 영상을 검색할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 영상 타입의 구분 없이 모든 타입의 영상을 유사 영상으로써 제공할 수 있다. 바꾸어말하면 행동 영상 및 대기 영상 모두 검색 결과로써 제공될 수 있다.
본 발명의 선택적 실시예에서, 본 발명의 일 실시예에 따른 사용자 단말(200)은 인터페이스(514)에 대한 사용자의 입력을 참조하여 유사 영상을 검색할 수도 있다. 가령 사용자 단말(200)은 인터페이스(514)에서 선택된 타입과 동일한 타입의 영상만을 유사 영상으로 제공할 수도 있고, 선택된 타입과 반대 타입의 영상만을 유사 영상으로 제공할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 하나 이상의 유사 영상 각각의 유사 프레임을 표시할 수 있다. (S1430) 가령 본 발명의 일 실시예에 따른 사용자 단말(200)은 도 12에 도시된 바와 같이 검색된 하나 이상의 유사 영상 각각에 대응되는 영상 객체(515, 516, 517, 518)를 표시할 수 있다.
또한 본 발명의 일 실시예에 따른 사용자 단말(200)은 유사 영상 별로 표시된 영상 객체 상에 섬네일을 포함하는 유사 프레임을 표시 할 수 있다. 이때 사용자 단말(200)은 표시된 영상 객체 상에서 유사 프레임이 표시되는 위치가 유사 영상에서 유사 프레임의 상대적 위치에 대응되도록 할 수 있다. 가령 '대기 영상 3'에서 유사 프레임(519)이 대략 유사 영상의 중간에 위치하는 경우, 사용자 단말(200)은 이와 같은 프레임의 위치를 고려하여 유사 프레임(519)을 영상 객체(515)의 중간에 표시할 수 있다.
한편 본 발명의 일 실시예에 따른 사용자 단말(200)은 검색된 유사 영상 별로 제1 프레임과 유사 프레임 간의 유사도를 표시할 수도 있다. 가령 사용자 단말(200)은 도 12에 도시된 바와 같이 '대기 영상 3'에 대한 영상 객체(515)에 인접하여 유사도(520)를 표시할 수도 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 하나 이상의 유사 영상 중 어느 하나를 선택하는 사용자의 입력을 획득할 수 있다.(S1440) 가령 사용자 단말(200)은 유사 영상 각각에 대응되는 영상 객체(515, 516, 517, 518) 중 어느 하나를 선택하는 사용자의 입력을 획득하는 방식으로 유사 영상을 선택하는 사용자의 입력을 획득할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 선택 된 유사 영상에 따르는 제1 영상을 촬영하기 위한 인터페이스를 제공할 수 있다.(S1450) 여기서 유사 영상에 '따르는' 제1 영상은 유사 영상에서의 아바타의 포즈와 제1 영상에서의 아바타의 포즈가 유사한 것을 의미할 수 있다.
도 13은 본 발명의 일 실시예에 따른 사용자 단말(200)에 유사 영상에 따르는 제1 영상을 촬용하기 위한 인터페이스가 표시된 화면(530)의 예시이다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 선택된 유사 영상에 대응되는 객체(539)와 객체(539) 상에 선택된 프레임 표시하는 섬네일 객체(538)를 표시하는 프레임 선택 인터페이스(537)를 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 프레임 선택 인터페이스(537)에서 사용자가 선택한 프레임에 따라 영상 제공 인터페이스(531)에 제공되는 아바타의 실루엣이 변경되도록 할 수 있다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 실시간 아바타(532)의 외형을 포함하는 제1 프레임(실시간 영상의 프레임)과 프레임 선택 인터페이스(537)에서 선택된 프레임 내에서의 아바타의 실루엣(533)을 오버랩 하여 표시하는 비교 영상을 제공하는 영상 제공 인터페이스(531)를 포함할 수 있다. 대상 객체(모델) 및/또는 촬영 감독 등은 표시된 실루엣(533)에 따라 포즈를 실시간으로 수정함으로써 선택된 프레임에 보다 근접하는 제1 영상을 촬영하도록 할 수 있다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 제1 프레임과 선택된 프레임의 비교 결과를 포함하는 촬영 가이드를 제공하는 가이드 제공 인터페이스(535)를 포함할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 제1 영상과 선택된 유사 영상을 보다 유사하게 하기 위한 가이드를 생성하여 인터페이스(535)에 표시할 수 있다. 가령 사용자 단말(200)은 인터페이스(531)에서 아바타(532)의 외형과 실루엣(533)을 비교하고 아바타의 적절한 위치/포즈 등을 수정하기 위한 가이드를 생성하여 인터페이스(535)에 표시할 수 있다.
또한 사용자 단말(200)은 조명이나 카메라의 설정 파라미터(감도, 조리개 값, 배율 등과 같이 메타데이터상에 기록되는 항목들)의 비교를 통해 이를 수정하기 위한 가이드를 생성하여 인터페이스(535)에 표시할 수도 있다.
본 발명의 일 실시예에 따른 제1 영상을 촬영하기 위한 인터페이스는 제1 프레임의 촬영 시 영상 획득 장치의 설정값인 제1 설정값과 선택된 프레임의 촬영 시 상기 영상 획득 장치의 설정값인 제2 설정값을 비교하여 표시하는 설정값 표시 인터페이스(536)를 더 포함할 수 있다. 가령 설정값 표시 인터페이스(536)에는 제1 프레임의 히스토그램인 제1 히스토그램과 선택된 프레임의 제2 히스트로그램인 제2 히스토그램을 오버랩하여 표시하는 히스토그램 항목을 포함할 수 있다. 물론 설정값 표시 인터페이스(536)에는 히스토그램 항목 외에도 조리개 값, 셔터 속도 및 감광도 등이 더 포함될 수 있다.
한편 설정값 표시 인터페이스(536)는 제1 설정값 및 제2 설정값의 차이점이 구분되도록 표시 할 수 있다. 가령 도 13에 도시된 바와 같이 양 프레임의 촬영 시 조리개 값이 상이한 경우, 사용자 단말(200)은 조리개 항목이 나머지 항목과 구분되도록 표시할 수 있다.
이상 설명된 본 발명에 따른 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 저장하는 것일 수 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다.
한편, 상기 컴퓨터 프로그램은 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, "필수적인", "중요하게" 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 서버
110: 통신부
120: 제1 프로세서
130: 메모리
140: 제2 프로세서
200: 사용자 단말
300: 서비스 서버
310: 통신부
320: 제3 프로세서

Claims (10)

  1. 저장된 하나 이상의 영상과 연결 가능한 영상을 촬영하기 위한 영상 촬영 가이드를 제공하는 방법에 있어서,
    실시간으로 촬영중인 제1 영상을 표시하는 단계;
    저장된 하나 이상의 영상 중 상기 제1 영상의 제1 프레임과 유사한 프레임인 유사 프레임을 포함하는 하나 이상의 유사 영상을 검색하는 단계; 및
    상기 하나 이상의 유사 영상 각각의 유사 프레임을 표시하는 단계;를 포함하는, 영상 촬영 가이드 제공 방법.
  2. 청구항 1에 있어서
    상기 제1 영상을 표시하는 단계는
    촬영하고자 하는 영상 타입을 선택하는 인터페이스에 대한 사용자의 입력을 획득하는 단계; 및
    상기 제1 영상 상에 상기 영상 타입에 따른 촬영 가이드라인을 표시하는 단계;를 더 포함하는, 영상 촬영 가이드 제공 방법.
  3. 청구항 2에 있어서
    상기 영상 타입은 아바타의 대기 모습이 촬영된 영상인 대기 영상 타입 및 상기 아바타의 발화 모습이 촬영된 영상인 발화 영상 타입을 포함하고,
    상기 촬영 가이드라인을 표시하는 단계는
    상기 영상 타입이 상기 발화 영상 타입일 경우 상기 영상 타입이 대기 영상 타입일 때 보다 상기 아바타의 움직임 영역이 확장된 가이드라인을 표시하는, 영상 촬영 가이드 제공 방법.
  4. 청구항 1에 있어서
    상기 유사 프레임을 표시하는 단계는
    상기 하나 이상의 유사 영상 각각에 대응되는 영상 객체를 표시하는 단계; 및
    유사 영상 별로 상기 영상 객체 상에 섬네일을 포함하는 유사 프레임을 표시하는 단계로써, 상기 영상 객체 상에서 상기 유사 프레임이 표시되는 위치는 상기 유사 영상에서 상기 유사 프레임의 상대적 위치에 대응되는;를 더 포함하는, 영상 촬영 가이드 제공 방법.
  5. 청구항 4에 있어서
    상기 유사 프레임을 표시하는 단계는
    상기 유사 영상 별로 상기 영상 객체에 인접하여 상기 제1 프레임과 유사 프레임 간의 유사도를 표시하는 단계;를 더 포함하는, 영상 촬영 가이드 제공 방법.
  6. 청구항 1에 있어서
    상기 영상 촬영 가이드를 제공하는 방법은
    상기 유사 프레임을 표시하는 단계 이후에,
    상기 하나 이상의 유사 영상 중 어느 하나를 선택하는 사용자의 입력을 획득하는 단계; 및
    상기 선택 된 유사 영상에 따르는 상기 제1 영상을 촬영하기 위한 인터페이스를 제공하는 단계;를 더 포함하는, 영상 촬영 가이드 제공 방법.
  7. 청구항 6에 있어서
    상기 인터페이스는
    상기 선택된 유사 영상에 대응되는 객체와 상기 선택된 유사 영상에 대응되는 객체 상에 선택된 프레임 표시하는 섬네일 객체를 표시하는 프레임 선택 인터페이스,
    상기 제1 프레임과 상기 선택 인터페이스에 선택된 프레임 내에서 아바타의 실루엣을 오버랩 하여 표시하는 비교 영상을 제공하는 영상 제공 인터페이스 및
    상기 제1 프레임과 상기 선택된 프레임의 비교 결과를 포함하는 촬영 가이드를 제공하는 가이드 제공 인터페이스를 포함하는, 영상 촬영 가이드 제공 방법.
  8. 청구항 7에 있어서
    상기 인터페이스는
    상기 제1 프레임의 촬영 시 영상 획득 장치의 설정값인 제1 설정값과 상기 선택된 프레임의 촬영 시 상기 영상 획득 장치의 설정값인 제2 설정값을 비교하여 표시하되, 상기 제1 설정값 및 상기 제2 설정값의 차이점이 구분되도록 표시하는 설정값 표시 인터페이스를 더 포함하는, 영상 촬영 가이드 제공 방법.
  9. 청구항 8에 있어서
    상기 설정값 표시 인터페이스는
    상기 제1 프레임의 히스토그램인 제1 히스토그램과 상기 선택된 프레임의 제2 히스트로그램인 제2 히스토그램을 오버랩하여 표시하는 히스토그램 항목을 포함하는, 영상 촬영 가이드 제공 방법.
  10. 컴퓨터를 이용하여
    청구항 1 내지 청구항 9 중 어느 한 항의 방법을 실행하기 위하여 매체에 저장된 컴퓨터 프로그램.
KR1020210132688A 2021-10-06 2021-10-06 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램 KR102604672B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020210132688A KR102604672B1 (ko) 2021-10-06 2021-10-06 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램
PCT/KR2021/016165 WO2023058813A1 (ko) 2021-10-06 2021-11-08 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210132688A KR102604672B1 (ko) 2021-10-06 2021-10-06 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램

Publications (2)

Publication Number Publication Date
KR20230049473A true KR20230049473A (ko) 2023-04-13
KR102604672B1 KR102604672B1 (ko) 2023-11-23

Family

ID=85804418

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210132688A KR102604672B1 (ko) 2021-10-06 2021-10-06 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램

Country Status (2)

Country Link
KR (1) KR102604672B1 (ko)
WO (1) WO2023058813A1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017094527A1 (ja) * 2015-12-04 2017-06-08 日本電産株式会社 動画生成システムおよび動画表示システム
JP6524997B2 (ja) * 2014-03-27 2019-06-05 ノーリツプレシジョン株式会社 画像処理装置
KR102281298B1 (ko) * 2020-04-22 2021-07-23 이정현 인공지능 기반 동영상 합성을 위한 시스템 및 방법

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10055898B1 (en) * 2017-02-22 2018-08-21 Adobe Systems Incorporated Multi-video registration for video synthesis
JP7480941B2 (ja) * 2019-07-30 2024-05-10 国立大学法人 東京大学 映像合成装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6524997B2 (ja) * 2014-03-27 2019-06-05 ノーリツプレシジョン株式会社 画像処理装置
WO2017094527A1 (ja) * 2015-12-04 2017-06-08 日本電産株式会社 動画生成システムおよび動画表示システム
KR102281298B1 (ko) * 2020-04-22 2021-07-23 이정현 인공지능 기반 동영상 합성을 위한 시스템 및 방법

Also Published As

Publication number Publication date
WO2023058813A1 (ko) 2023-04-13
KR102604672B1 (ko) 2023-11-23

Similar Documents

Publication Publication Date Title
CN110515452B (zh) 图像处理方法、装置、存储介质和计算机设备
US11509819B2 (en) Providing contextual augmented reality photo pose guidance
US10628675B2 (en) Skeleton detection and tracking via client-server communication
JP6062547B2 (ja) 拡張現実を制御するための方法および装置
US20180227482A1 (en) Scene-aware selection of filters and effects for visual digital media content
KR101306221B1 (ko) 3차원 사용자 아바타를 이용한 동영상 제작장치 및 방법
US11514634B2 (en) Personalized speech-to-video with three-dimensional (3D) skeleton regularization and expressive body poses
WO2019019935A1 (zh) 交互方法、交互终端、存储介质和计算机设备
CN115588224B (zh) 一种基于人脸关键点预测的虚拟数字人生成方法及装置
US11823334B2 (en) Efficient capture and delivery of walkable and interactive virtual reality or 360 degree video
WO2023071801A1 (zh) 动画生成方法及装置、计算机设备、存储介质、计算机程序、计算机程序产品
CN113709543A (zh) 基于虚拟现实的视频处理方法、装置、电子设备和介质
CN110084306B (zh) 用于生成动态图像的方法和装置
KR102604672B1 (ko) 영상 촬영 가이드 제공 방법, 장치 및 컴퓨터 프로그램
US20230023102A1 (en) Apparatus, method, and computer program for providing lip-sync video and apparatus, method, and computer program for displaying lip-sync video
US20230050535A1 (en) Volumetric video from an image source
Hu et al. A virtual character generation and animation system for e-commerce live streaming
KR102514580B1 (ko) 영상 전환 방법, 장치 및 컴퓨터 프로그램
KR102563348B1 (ko) 립싱크 영상 제공 장치, 방법 및 컴퓨터 프로그램과 립싱크 영상 표시 장치, 방법 및 컴퓨터 프로그램
KR102558530B1 (ko) 립싱크 영상 생성을 위한 인공 신경망 학습 방법 및 컴퓨터 프로그램
WO2024066549A1 (zh) 一种数据处理方法及相关设备
WO2021187093A1 (ja) 画像処理装置、および、動画像データ生成方法
US20240114236A1 (en) Apparatus and method for controlling a robot photographer with semantic intelligence
US20230388446A1 (en) Device and method for providing virtual try-on image and system including the same
Rodriguez Real-Time Human Movement Predictions Based on Human Habits and Emotion

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right