KR20230098068A - 동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체 - Google Patents

동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체 Download PDF

Info

Publication number
KR20230098068A
KR20230098068A KR1020220182760A KR20220182760A KR20230098068A KR 20230098068 A KR20230098068 A KR 20230098068A KR 1020220182760 A KR1020220182760 A KR 1020220182760A KR 20220182760 A KR20220182760 A KR 20220182760A KR 20230098068 A KR20230098068 A KR 20230098068A
Authority
KR
South Korea
Prior art keywords
virtual object
text content
parameter set
video
photo
Prior art date
Application number
KR1020220182760A
Other languages
English (en)
Inventor
제 둥
제 류
하오원 리
Original Assignee
베이징 바이두 넷컴 사이언스 테크놀로지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 베이징 바이두 넷컴 사이언스 테크놀로지 컴퍼니 리미티드 filed Critical 베이징 바이두 넷컴 사이언스 테크놀로지 컴퍼니 리미티드
Publication of KR20230098068A publication Critical patent/KR20230098068A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00—Animation
    • G06T13/20—3D [Three Dimensional] animation
    • G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033—Voice editing, e.g. manipulating the voice of the synthesiser
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G10L13/04—Details of speech synthesis systems, e.g. synthesiser structure or memory management
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06—Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • G10L21/10—Transforming into visible information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27—Server based end-user applications
    • H04N21/274—Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/854—Content authoring
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/858—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
    • H04N21/8586—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06—Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • G10L21/10—Transforming into visible information
    • G10L2021/105—Synthesis of the lips movements from speech, e.g. for talking heads
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/57—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for processing of video signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Computer Security & Cryptography (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은 데이터 처리 분야에 관한, 특히 동영상 생성 분야에 관한 동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체를 제공한다. 구체적인 구현 수단은 하기와 같다. 텍스트 콘텐츠 및 선택 명령을 수신하고, 여기서, 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것이며; 텍스트 콘텐츠를 음성으로 변환하고; 텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성하며; 혼합 변형 파라미터 세트를 사용하여 가상 객체의 모델을 렌더링하여, 가상 객체의 사진 세트를 획득하고, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성한다. 본 발명을 통해 동영상 제작을 위한 기존의 대량의 복잡한 조작을 단순화할 수 있으므로, 동영상 제작 비용이 높고 효율이 낮은 관련 기술의 문제를 해결한다.

Description

동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체{MOVING PICTURE PROCESSING METHOD, APPARATUS, ELECTRONIC DEVICE AND COMPUTER STORAGE MEDIUM}
본 발명은 데이터 처리 기술 분야에 관한 것으로, 특히 동영상 생성 분야에 관한 것이고, 구체적으로 동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체에 관한 것이다.
관련 기술에서는 일반적으로 동영상 편집 작업을 통해 필요한 홍보 방송 동영상을 수동으로 제작하는데, 이는 동영상을 제작할 수 있지만 생산 능율이 낮아, 대량 홍보에 적합하지 않은 문제가 있다.
본 발명은 동영상 처리 방법, 장치, 기기 및 저장 매체를 제공한다.
본 발명의 일 양태에 따르면, 텍스트 콘텐츠 및 선택 명령을 수신하는 단계 - 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것임 - ; 텍스트 콘텐츠를 음성으로 변환하는 단계; 텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성하는 단계; 및 혼합 변형 파라미터 세트를 사용하여 가상 객체의 모델을 렌더링하여, 가상 객체의 사진 세트를 획득하고, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함하는 동영상 처리 방법을 제공한다.
바람직하게는, 텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성하는 단계는, 텍스트 콘텐츠를 기반으로 제1 변형 파라미터 세트를 생성하는 단계 - 제1 변형 파라미터 세트는 가상 객체의 입 모양을 렌더링하는데 사용됨 - ; 및 음성을 기반으로 제2 변형 파라미터 세트를 생성하는 단계를 포함하고, 제2 변형 파라미터 세트는 가상 객체의 표정을 렌더링하는데 사용되며; 혼합 변형 파라미터 세트는 제1 변형 파라미터 세트 및 제2 변형 파라미터 세트를 포함한다.
바람직하게는, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계는, 제1 타깃 배경 사진을 획득하는 단계; 및 사진 세트 및 제1 타깃 배경 사진을 융합하여, 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함한다.
바람직하게는, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계는, 배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진을 획득하는 단계; 및 사진 세트 및 제2 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함한다.
바람직하게는, 텍스트 콘텐츠를 수신하는 단계는, 타깃 음성을 수집하는 단계; 및 타깃 음성에 대해 텍스트 변환을 수행하여, 텍스트 콘텐츠를 획득하는 단계를 포함한다.
본 발명의 다른 양태에 따르면, 텍스트 콘텐츠 및 선택 명령을 수신하기 위한 수신 모듈 - 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것임 - ; 텍스트 콘텐츠를 음성으로 변환하기 위한 변환 모듈; 텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성하기 위한 생성 모듈; 및 혼합 변형 파라미터 세트를 사용하여 가상 객체의 모델을 렌더링하여, 가상 객체의 사진 세트를 획득하고, 사진 세트를 기반으로, 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 처리 모듈을 포함하는 동영상 처리 장치를 제공한다.
바람직하게는, 생성 모듈은, 텍스트 콘텐츠를 기반으로 제1 변형 파라미터 세트를 생성하기 위한 제1 생성 유닛 - 제1 변형 파라미터 세트는 가상 객체의 입 모양을 렌더링하는데 사용됨 - ; 및 음성을 기반으로 제2 변형 파라미터 세트를 생성하기 위한 제2 생성 유닛을 포함하고, 제2 변형 파라미터 세트는 가상 객체의 표정을 렌더링하는데 사용되며; 혼합 변형 파라미터 세트는 제1 변형 파라미터 세트 및 제2 변형 파라미터 세트를 포함한다.
바람직하게는, 처리 모듈은, 제1 타깃 배경 사진을 획득하기 위한 제1 획득 유닛; 및 사진 세트 및 제1 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 제3 생성 유닛을 포함한다.
바람직하게는, 처리 모듈은, 배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진을 획득하기 위한 제2 획득 유닛; 및 사진 세트 및 제2 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 제4 생성 유닛을 포함한다.
바람직하게는, 수신 모듈은, 타깃 음성을 수집하기 위한 수집 유닛; 및 타깃 음성에 대해 텍스트 변환을 수행하여, 텍스트 콘텐츠를 획득하기 위한 변환 유닛을 포함한다.
본 발명의 또 다른 양태에 따르면, 적어도 하나의 프로세서; 및 적어도 하나의 프로세서와 통신 연결되는 메모리를 포함하는 전자 기기를 제공하고; 메모리에는 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며, 명령은 적어도 하나의 프로세서에 의해 실행되어, 적어도 하나의 프로세서로 하여금 상기 어느 하나의 방법을 수행할 수 있도록 한다.
본 발명의 또 다른 양태에 따르면, 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능 저장 매체를 제공하고, 컴퓨터 명령은 컴퓨터로 하여금 상기 어느 하나의 방법을 수행하도록 한다.
본 발명의 또 다른 양태에 따르면, 컴퓨터 프로그램을 포함하는 컴퓨터 프로그램 제품을 제공하고, 컴퓨터 프로그램이 프로세서에 의해 실행될 경우, 상기 어느 하나의 방법이 구현된다.
본 부분에서 설명되는 내용은 본 발명의 실시예의 핵심적이거나 중요한 특징을 식별하도록 의도되지 않으며, 본 발명의 범위를 제한하려는 의도도 아님을 이해해야 한다. 본 발명의 다른 특징은 아래의 명세서를 통해 더 쉽게 이해될 것이다.
도면은 본 수단을 더 잘 이해하도록 하기 위한 것으로, 본 발명을 제한하지 않는다.
도 1은 본 발명의 실시예에 따라 제공되는 동영상 처리 방법의 흐름도이다.
도 2는 본 발명의 실시예에 따라 제공되는 동영상 처리 방법의 모식도이다.
도 3a는 본 실시예에 따라 제공되는 동영상 처리 방법으로 동영상을 처리한 결과 모식도 1이다.
도 3b는 본 발명의 실시예에 따라 제공되는 동영상 처리 방법으로 동영상 생성을 수행한 결과 모식도 2이다.
도 4는 본 실시예에 따라 제공되는 동영상 처리 장치의 구조 블록도이다.
도 5는 본 발명의 실시예에 따라 제공되는 전자 기기(500)의 예시적인 블록도이다.
이하, 도면을 참조하여 본 발명의 예시적인 실시예를 설명하며, 그 중에는 본 발명의 실시예의 다양한 세부사항이 포함되어 이해를 돕고, 이들은 예시적인 것으로만 간주되어야 한다. 따라서, 본 기술분야의 통상의 기술자는 본 발명의 범위와 사상을 벗어나지 않으면서 여기서 설명된 실시예에 대해 다양한 변경 및 수정을 진행할 수 있음을 인지해야 한다. 마찬가지로, 명확하고 간결함을 위해, 아래의 설명에서는 공지된 기능 및 구조에 대한 설명을 생략한다.
용어 설명
가상 앵커는 아바타를 사용하여 동영상 사이트에서 투고 활동을 하는 앵커를 가리키며, 가상 YouTuber로 가장 잘 알려져 있다.
음성 애니메이션 합성(Voice-to-Animation)기술은 음성으로 아바타가 말하도록 하고 감정과 동작을 피드백하는 기술이다.
Blendshape는 단일 메쉬를 통해 변형하여, 미리 정의된 많은 형상과 임의의 수량 사이의 조합을 구현하는 기술이다.
동영상 제작 비용이 높고 효율이 낮으며, 대량 홍보에 적합하지 않는 관련 기술의 단점에 대해, 본 발명의 실시예에서는 동영상 제작을 위한 기존의 대량의 복잡한 조작을 단순화하여, 동영상 제작 비용이 높고 효율이 낮은 관련 기술의 문제를 해결할 수 있는 동영상 처리 방법을 제공한다.
본 발명의 실시예에서는 동영상 처리 방법을 제공하고, 도 1은 본 발명의 실시예에 따라 제공되는 동영상 처리 방법의 흐름도이며, 도 1에 도시된 바와 같이, 상기 방법은:
텍스트 콘텐츠 및 선택 명령을 수신하는 단계 S102 - 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것임 - ;
텍스트 콘텐츠를 음성으로 변환하는 단계 S104;
텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성하는 단계 S106; 및
혼합 변형 파라미터 세트를 사용하여 가상 객체의 모델을 렌더링하여, 가상 객체의 사진 세트를 획득하고, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계 S108을 포함한다.
상기 방법을 통해 텍스트 콘텐츠를 음성으로 직접 변환하고, 가상 객체 모델 렌러링을 위한 혼합 변형 파라미터 세트를 생성할 수 있으며, 즉 수신된 텍스트 콘텐츠 및 선택 명령에 따라 가상 객체가 텍스트 콘텐츠를 방송하는 동영상을 직접 생성할 수 있으므로, 수동 조작이 필요한 단계를 크게 줄이면서, 조작 과정에서 복잡한 조작이 수반되지 않아, 방송 동영상 제작 효율이 크게 향상됨으로써, 방송 동영상 제작 비용이 절감되고, 동영상 제작 비용이 높고 효율이 낮은 관련 기술의 문제가 해결된다.
일 바람직한 실시예로서, 텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성할 경우, 상기 혼합 변형 파라미터 세트는 다양한 유형을 포함할 수 있고, 예를 들어, 혼합 변형 파라미터 세트는 제1 변형 파라미터 세트 및 제2 변형 파라미터 세트를 포함할 수 있다. 여기서, 텍스트 콘텐츠를 기반으로 상기 제1 변형 파라미터 세트를 생성하고, 여기서, 제1 변형 파라미터 세트는 가상 객체의 입 모양을 렌더링하는데 사용되며; 음성을 기반으로 상기 제2 변형 파라미터 세트를 생성하고, 여기서, 제2 변형 파라미터 세트는 가상 객체의 표정을 렌더링하는데 사용된다. 생성된 혼합 변형 파라미터는 다양한 유형을 포함할 수 있으며, 예를 들어, 가상 객체 입모양 렌더링 및 표정 렌더링에 각각 사용되는 변형 파라미터 세트를 생성하므로, 아바타를 구동할 경우, 입 근육이 자연스럽게 연동되고, 입모양 동작이 정확하며, 안면 표정이 현실적이고, 사람과 교류할 때 실제처럼 자연스러울 수 있다.
일 바람직한 실시예로서, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 것은 다양한 방식을 사용할 수 있으며, 예를 들어, 제1 타깃 배경 사진을 획득하는 단계; 및 사진 세트 및 제1 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함하는 방식을 사용할 수 있다. 여기서, 상기 제1 타깃 배경 사진은 후속적으로 생성되는 동영상을 위해 하나의 투명한 채널을 제공하고, 즉 동영상이 생성된 후, 상기 동영상은 상기 동영상을 기반으로 사용자가 선택한 동영상과 직접 합성되어, 수요를 만족하는 동영상이 획득될 수 있다. 따라서, 상기 방식을 통해, 하나의 가상 인물이 방송하는 동영상 형태를 생성할 수 있으므로, 사용자가 나중에 자신의 동영상 소재를 쉽게 결합할 수 있고, 사용자의 맞춤형 수요를 위해 2차 가공 공간을 마련하여, 동영상 생성의 유연성과 가변성을 증가시키며, 사용자의 사용 만족도를 향상시킨다.
일 바람직한 실시예로서, 사진 세트를 기반으로, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 것은 다양한 방식을 사용하고, 예를 들어, 배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진을 획득하는 단계; 및 사진 세트 및 제2 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함하는 방식을 사용할 수 있다. 상기 방식을 통해, 화면 속 화면의 동영상 형태를 생성할 수 있고, 배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진은 좌측 상단 모서리의 화면 속 화면 영역으로 표시될 수 있으므로, 사용자가 필요로 하는 동영상을 직접 빠르게 생성할 수 있고, 2차 처리 없이 바로 사용할 수 있으므로, 사용자의 사용 만족도를 향상시킨다.
일 바람직한 실시예로서, 텍스트 콘텐츠를 수신하는 것은 다양한 방식을 사용할 수 있고, 예를 들어, 타깃 음성을 수집하는 단계; 및 타깃 음성에 대해 텍스트 변환을 수행하여, 텍스트 콘텐츠를 획득하는 단계를 포함하는 방식을 사용할 수 있다. 상기 방식을 통해, 텍스트 콘텐츠의 획득 방식이 고정되지 않고, 텍스트를 직접 입력할 수 있으며, 수집된 타깃 음성을 텍스트로 변환할 수도 있고, 상기 방법은 사용자로 하여금 기존의 텍스트 또는 음성 자료에 따라 적합한 방식을 유연하게 선택할 수 있도록 하므로, 사용자가 동영상 제작을 시작하기 전 준비 작업을 간소화하여, 동영상 제작 비용을 더 절감하고, 동영상 제작 효율을 향상시키며, 사용자 사용 만족도를 향상시킨다.
상기 실시예 및 바람직한 실시예를 기반으로, 바람직한 실시형태를 제공하고, 아래에서 설명하기로 한다.
사용자는 다양한 동영상 편집 소프트웨어를 이용하여 자신이 필요한 홍보 방송 동영상을 수동으로 제작할 수 있으나, 동영상의 수동 편집은 생산 능율이 낮아 대량 홍보가 쉽지 않다.
상기 문제점에 대해, 본 발명의 바람직한 실시형태에서는 동영상 처리 방안을 제공한다. 상기 방안에서, 가상 앵커 음성 애니메이션 합성(Voice-to-Animation) 기술을 사용하여, 사용자가 텍스트 또는 음성을 입력하고, VTA API를 통해 오디오 스트림에 대응되는 3D 아바타 얼굴 표정 계수를 자동으로 생성함으로써, 3D 아바타의 입 모양 및 안면 표정의 정확한 구동을 완료할 수 있다. 개발자가 가상 진행자, 가상 고객 서비스, 가상 교사 등과 같은 풍부한 아바타 스마트 구동 애플리케이션을 빠르게 구축하도록 도울 수 있다.
도 2는 본 발명의 선택적인 실시형태에 따라 제공되는 동영상 처리 방법의 모식도이고, 도 2에 도시된 바와 같이, 상기 프로세스는 하기와 같은 처리를 포함한다.
(1) 프론트 엔드 페이지는 동영상 합성 요청을 수신하고, 요청 성공이 확인되는 동시에, 동영상 합성 상태가 성공될 때까지 합성 상태 폴링하기 시작하여, 유일 자원 지시기(Uniform Resource Locator, 간략하여 URL이라고 함)로 반환하고, 상기 과정은 아래의 조작과 비동기적으로 수행된다.
(2) 합성 소재를 다운로드한다.
(3) 문자 합성 음성/오디오 URL 해석(예컨대, 음성 합성(Text to Speech, 간략하여 TTS라고 함)을 통해 wav 파일(소리 파일 포맷)을 생성하고, 내부 시스템을 통해 서버에 업로드하고 URL로 반환).
(4) 음성 애니메이션 합성(Voice-to-Animation, 간략하여 VTA라고 함) 알고리즘을 호출하여, Blendshape를 출력하고, Blendshape, ARCase, 동영상 생성 방식을 클라우드의 렌더링 엔진에 전달한다.
(5) Unix 버전 엔진은 전달된 파라미터를 수신하여 가상 인물 및 애니메이션 렌더링을 수행하고, 여기서, 텍스트는 입모양을 구동하며, 텍스트 합성 음성을 통해 동작 타이밍 정렬을 구현하고, 애니메이션 Blendshape 계수를 생성할 수 있으며, 아바타 구동 시 입 근육이 자연스럽게 연동되고, 음성에 의해 입모양이 구동되며; 음성을 통해 입 모양 변형 계수를 생성하고, 아바타가 입모양이 정확하며, 안면 표정이 현실적이고, 사람과 실제처럼 자연스럽게 교류하도록 구동할 수 있다.
(6) RGBA 유형의 사진 세트를 생성하여, 사용자가 동영상을 2차 가공하기 편리하도록 하고자 하면, ffmpeg 합성 엔진에 의해 동영상을 생성하고, 투명 채널을 갖는 동영상(qtrle는 mov로 인코딩 됨)을 생성하고, NV21 유형의 사진 세트를 생성하여, 화면 속 화면 디스플레이를 지원하고자 하면, ffmpeg 합성 엔진에 의해 동영상(h264는 mp4로 인코딩됨)을 생성한다.
(7) 생성된 동영상을 클라우드에 업로드하여 저장한다.
(8) 합성 상태를 합성 성공으로 업데이트한다.
도 3a는 본 발명의 실시예에 따라 제공되는 동영상 처리 방법이 동영상 생성을 수행한 결과 모식도 1이고, 여기서, 상기 도면은 생성된 화면 속 화면 형태의 동영상이며, 사용자는 사진 라이브러리에서 자신이 필요한 하나의 세그먼트의 동영상을 찾아내어, 좌측 상단 모서리의 화면 속 화면 영역으로 표시할 수 있고, 최종 인코딩 시 모델 방송과 통합하여 최종 게시 동영상을 생성한다. 도 3b는 본 발명의 실시예에 따라 제공되는 동영상 처리 방법이 동영상 생성을 수행한 결과 모식도 2이고, 여기서, 상기 도면은 최종 생성된 하나의 가상 인물이 방송하는 동영상 형태로, 배경에는 alpha 요소가 있어, 사용자가 나중에 자신의 동영상 소재를 결합하고, 상기 플랫폼에서 생성된 동영상과 함께 최종 게시 소재로 인코딩되는 것이 편리하다.
본 발명의 실시예에서는 동영상 처리 장치를 더 제공하고, 도 4는 본 발명의 실시예에 따라 제공되는 동영상 처리 장치의 구조 블록도이며, 도 4에 도시된 바와 같이, 상기 장치는 수신 모듈(42), 변환 모듈(44), 생성 모듈(46) 및 처리 모듈(48)을 포함하고, 아래에서는 상기 장치를 설명한다.
수신 모듈(42)은 텍스트 콘텐츠 및 선택 명령을 수신하고, 여기서, 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것이며; 변환 모듈(44)은 상기 수신 모듈(42)에 연결되어, 텍스트 콘텐츠를 음성으로 변환하고; 생성 모듈(46)은 상기 변환 모듈(44)에 연결되어, 텍스트 콘텐츠 및 음성을 기반으로 혼합 변형 파라미터 세트를 생성하며; 처리 모듈(48)은 상기 생성 모듈(46)에 연결되어, 혼합 변형 파라미터 세트를 사용하여 가상 객체의 모델을 렌더링하여, 가상 객체의 사진 세트를 획득하고, 사진 세트를 기반으로, 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성한다.
일 바람직한 실시예로서, 상기 생성 모듈은, 텍스트 콘텐츠를 기반으로 제1 변형 파라미터 세트를 생성하기 위한 제1 생성 유닛 - 제1 변형 파라미터 세트는 가상 객체의 입 모양을 렌더링하는데 사용됨 - ; 및 음성을 기반으로 제2 변형 파라미터 세트를 생성하기 위한 제2 생성 유닛을 포함하고, 제2 변형 파라미터 세트는 가상 객체의 표정을 렌더링하는데 사용되며; 혼합 변형 파라미터 세트는 제1 변형 파라미터 세트 및 제2 변형 파라미터 세트를 포함한다.
일 바람직한 실시예로서, 상기 처리 모듈은, 제1 타깃 배경 사진을 획득하기 위한 제1 획득 유닛; 및 사진 세트 및 제1 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 제3 생성 유닛을 포함한다.
일 바람직한 실시예로서, 상기 처리 모듈은, 배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진을 획득하기 위한 제2 획득 유닛; 및 사진 세트 및 제2 타깃 배경 사진을 융합하여, 가상 객체가 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 제4 생성 유닛을 포함한다.
일 바람직한 실시예로서, 상기 수신 모듈은, 타깃 음성을 수집하기 위한 수집 유닛; 및 타깃 음성에 대해 텍스트 변환을 수행하여, 텍스트 콘텐츠를 획득하기 위한 변환 유닛을 포함한다.
본 발명의 기술적 해결수단에서, 관련된 사용자 개인 정보의 획득, 저장 및 응용 등은 모두 관련 법률 법규의 규정을 준수하고, 공서양속에 위배되지 않는다.
본 발명의 실시예에 따르면, 본 발명은 전자 기기, 판독 가능 저장 매체 및 컴퓨터 프로그램 제품을 더 제공한다.
도 5는 본 발명의 실시예에 따라 제공되는 전자 기기(500)의 예시적인 블록도이다. 전자 기기는 랩톱 컴퓨터, 데스크톱 컴퓨터, 워크스테이션, 개인 휴대 정보 단말기, 서버, 블레이드 서버, 메인 컴퓨터 및 다른 적합한 컴퓨터와 같은 다양한 형태의 디지털 컴퓨터를 나타낸다. 전자 기기는 또한 개인 디지털 처리기, 셀룰러폰, 스마트폰, 웨어러블 기기 및 다른 유사한 컴퓨팅 장치와 같은 다양한 형태의 모바일 장치를 나타낼 수 있다. 본 명세서에 도시된 부재, 이들의 연결 및 관계, 및 이들의 기능은 예시일 뿐이고, 본 명세서에서 설명된 및/또는 요구하는 본 발명의 구현을 제한하려는 의도가 아니다.
도 5에 도시된 바와 같이, 기기(500)는 판독 전용 메모리(ROM)(502)에 저장된 컴퓨터 프로그램 또는 저장 유닛(508)으로부터 랜덤 액세스 메모리(RAM)(503)에 로딩된 컴퓨터 프로그램에 따라, 다양한 적절한 동작 및 처리를 수행할 수 있는 컴퓨팅 유닛(501)을 포함한다. RAM(503)에는 기기(500)의 조작에 필요한 다양한 프로그램 및 데이터가 더 저장될 수 있다. 컴퓨팅 유닛(501), ROM(502) 및 RAM(503)은 버스(504)를 통해 서로 연결된다. 입력/출력(I/O) 인터페이스(505)도 버스(504)에 연결된다.
기기(500)의 다수의 부재는 I/O 인터페이스(505)에 연결되고, 키보드, 마우스 등과 같은 입력 유닛(506); 다양한 유형의 표시 기기, 스피커 등과 같은 출력 유닛(507); 자기 디스크, 광 디스크 등과 같은 저장 유닛(508); 및, 네트워크 카드, 모뎀, 무선 통신 송수신기 등과 같은 통신 유닛(509)을 포함한다. 통신 유닛(509)은 기기(500)가 인터넷과 같은 컴퓨터 네트워크 및/또는 다양한 전기 통신 네트워크를 통해 다른 기기와 정보/데이터를 교환하도록 허용한다.
컴퓨팅 유닛(501)은 처리 및 컴퓨팅 능력을 갖는 다양항 범용 및/또는 특수목적 처리 컴포넌트일 수 있다. 컴퓨팅 유닛(501)의 일부 예로서, 중앙 처리 유닛(CPU), 그래픽 처리 유닛(GPU), 다양한 전용 인공 지능(AI) 컴퓨팅 칩, 기계 학습 모델 알고리즘을 실행하는 다양한 컴퓨팅 유닛, 디지털 신호 프로세서(DSP) 및 임의의 적절한 프로세서, 컨트롤러, 마이크로 컨트롤러 등을 포함하나 이에 제한되지 않는다. 컴퓨팅 유닛(501)은 동영상 처리 방법과 같은 위에서 설명된 각각의 방법 및 처리를 수행한다. 예를 들어, 일부 실시예에서, 동영상 처리 방법은 저장 유닛(508)과 같이 기계 판독 가능 매체에 명확하게 포함되는 컴퓨터 소프트웨어 프로그램으로 구현될 수 있다. 일부 실시예에서, 컴퓨터 프로그램의 일부 또는 전부는 ROM(502) 및/또는 통신 유닛(509)에 의해 기기(500)에 로딩 및/또는 설치될 수 있다. 컴퓨터 프로그램이 RAM(503)에 로딩되어 컴퓨팅 유닛(501)에 의해 실행될 때, 위에서 설명된 동영상 처리 방법의 하나 이상의 단계가 수행될 수 있다. 대안적으로, 다른 실시예에서, 컴퓨팅 유닛(501)은 다른 임의의 적절한 방식(예를 들어, 펌웨어에 의해)을 통해 동영상 처리 방법을 수행하도록 구성될 수 있다.
본 명세서에서 설명된 상기 시스템 및 기술의 다양한 실시형태는 디지털 전자회로 시스템, 집적 회로 시스템, 필드 프로그램 가능 게이트 어레이(FPGA), 특수목적 집적 회로(ASIC), 전용 표준 제품(ASSP), 시스템 온 칩 시스템(SOC), 복합 프로그램 가능 논리 소자(CPLD), 컴퓨터 하드웨어, 펌웨어, 소프트웨어 및/또는 이들의 조합에서 구현될 수 있다. 이러한 다양한 실시형태는 하기와 같은 것을 포함할 수 있다. 하나 또는 다수의 컴퓨터 프로그램에서 구현되고, 상기 하나 또는 다수의 컴퓨터 프로그램은 적어도 하나의 프로그램 가능 프로세서를 포함하는 프로그램 가능 시스템에서 실행 및/또는 해석될 수 있으며, 상기 프로그램 가능 프로세서는 특수목적 또는 범용 프로그램 가능 프로세서일 수 있고, 저장 시스템, 적어도 하나의 입력 장치, 및 적어도 하나의 출력 장치로부터 데이터 및 명령을 수신하며, 데이터 및 명령을 상기 저장 시스템, 상기 적어도 하나의 입력 장치 및 상기 적어도 하나의 출력 장치에 전송할 수 있다.
본 발명의 방법을 구현하는 프로그램 코드는 하나 또는 다수의 프로그래밍 언어의 임의의 조합으로 작성될 수 있다. 이러한 프로그램 코드는 범용 컴퓨터, 특수목적 컴퓨터 또는 다른 프로그램 가능 데이터 처리 장치의 프로세서 또는 컨트롤러에 제공되어, 프로그램 코드가 프로세서 또는 컨트롤러에 의해 실행될 경우, 흐름도 및/또는 블록도에 지정된 기능/동작이 구현되도록 할 수 있다. 프로그램 코드는 완전히 기계에서 실행되거나, 부분적으로 기계에서 실행되거나, 독립적인 소프트웨어 패키지로서 부분적으로 기계에서 실행되며, 부분적으로 원격 기계에서 실행되거나 또는 완전히 원격 기계 또는 서버에서 실행될 수 있다.
본 발명의 내용에서, 기계 판독 가능 매체는 명령 실행 시스템, 장치 또는 기기에 의해 사용되거나 또는 명령 실행 시스템, 장치 또는 기기와 결합하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 유형 매체일 수 있다. 기계 판독 가능 매체는 기계 판독 가능 신호 매체 또는 기계 판독 가능 저장 매체일 수 있다. 기계 판독 가능 매체는 전자, 자기, 광학, 전자기, 적외선 또는 반도체 시스템, 장치 또는 기기, 또는 상기 내용의 임의의 적절한 조합을 포함할 수 있지만 이에 제한되지 않는다. 기계 판독 가능 저장 매체의 보다 구체적인 예는 하나 또는 다수의 와이어에 기반한 전기 연결, 휴대용 컴퓨터 디스크, 하드 디스크, 랜덤 액세스 메모리(RAM), 판독 전용 메모리(ROM), 소거 가능 프로그램 가능 판독 전용 메모리(EPROM 또는 플래시 메모리), 광섬유, 휴대용 컴팩트 디스크 판독 전용 메모리(CD-ROM), 광학 저장 기기, 자기 저장 기기 또는 상술한 내용의 임의의 적절한 조합을 포함한다.
사용자와의 인터랙션을 제공하기 위해, 컴퓨터에서 여기서 설명되는 시스템 및 기술을 구현할 수 있고, 상기 컴퓨터에는, 사용자에게 정보를 표시하기 위한 표시 장치(예를 들어, CRT(음극선관) 또는 LCD(액정 디스플레이) 모니터); 및 키보드와 포인팅 장치(예를 들어, 마우스 또는 트랙볼)가 구비되며, 사용자는 상기 키보드 및 상기 포인팅 장치를 통해 컴퓨터에 입력을 제공할 수 있다. 다른 유형의 장치도 사용자와의 인터랙션을 제공할 수 있으며; 예를 들어, 사용자에게 제공되는 피드백은 임의의 형태의 센싱 피드백(예를 들어, 시각 피드백, 청각 피드백, 또는 촉각 피드백)일 수 있고; 또한, 임의의 형태(소리 입력, 음성 입력 또는 촉각 입력을 포함)로 사용자의 입력을 수신할 수 있다.
여기서 설명된 시스템 및 기술은 백그라운드 부재를 포함하는 컴퓨팅 시스템(예를 들어, 데이터 서버로서), 또는 미들웨어 부재를 포함하는 컴퓨팅 시스템(예를 들어, 응용 서버), 또는 프론트엔드 부재를 포함하는 컴퓨팅 시스템(예를 들어, 그래픽 사용자 인터페이스 또는 네트워크 브라우저가 구비된 사용자 컴퓨터, 사용자는 상기 그래픽 사용자 인터페이스 또는 상기 네트워크 브라우저를 통해 여기서 설명된 시스템 및 기술의 실시형태와 인터랙션할 수 있음), 또는 이러한 백그라운드 부재, 미들웨어 부재, 또는 프론트엔드 부재의 임의의 조합을 포함하는 컴퓨팅 시스템에서 구현될 수 있다. 임의의 형태 또는 매체의 디지털 데이터 통신(예를 들어, 통신 네트워크)를 통해 시스템의 부재를 서로 연결시킬 수 있다. 통신 네트워크의 예시로는 근거리 통신망(LAN), 광역 통신망(WAN) 및 인터넷을 포함한다.
컴퓨터 시스템은 클라이언트와 서버를 포함할 수 있다. 클라이언트와 서버는 일반적으로 서로 멀리 떨어져 있으며, 일반적으로 통신 네트워크를 통해 인터랙션을 수행한다. 클라이언트와 서버의 관계는 상응한 컴퓨터에서 실행되고 서로 클라이언트-서버 관계를 갖는 컴퓨터 프로그램을 통해 생성된다. 서버는 클라우드 서버일 수 있고, 분산 시스템의 서버일 수도 있으며, 또는 블록 체인이 결합된 서버일 수도 있다.
본 발명의 실시예에서는, 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능 저장 매체가 더 제공되고, 여기서, 컴퓨터 명령은 컴퓨터로 하여금 상기 어느 하나의 동영상 처리 방법을 수행하도록 하는데 사용될 수 있다.
본 발명의 실시예에서는, 컴퓨터 프로그램을 포함하는 컴퓨터 프로그램 제품을 더 제공하고, 컴퓨터 프로그램이 프로세서에 의해 실행될 경우, 상기 어느 하나의 동영상 처리 방법이 구현된다.
위에서 도시된 다양한 형태의 프로세스를 사용하여, 단계를 재배열, 증가 또는 삭제할 수 있음을 이해해야 한다. 예를 들어, 본 발명에 기재된 각 단계는 병렬 수행되거나 순차적으로 수행되거나 상이한 순서로 실행될 수 있으며, 본 발명의 기술적 해결수단이 원하는 결과를 구현할 수 있기만 하면 되고, 본 명세서에서는 이에 대해 제한하지 않는다.
상기 구체적인 실시형태는 본 발명의 보호범위에 대한 제한을 구성하지 않는다. 본 기술분야의 통상의 기술자라면 설계 요구 및 다른 요소에 따라 다양한 수정, 조합, 하위 조합 및 대체가 이루어질 수 있음을 이해해야 한다. 본 발명의 사상 및 원칙 내에서 이루어진 임의의 수정, 등가적 대체 및 개선 등은 모두 본 발명의 보호범위에 포함되어야 한다.

Claims (13)

  1. 동영상 처리 방법으로서,
    텍스트 콘텐츠 및 선택 명령을 수신하는 단계 - 상기 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것임 - ;
    상기 텍스트 콘텐츠를 음성으로 변환하는 단계;
    상기 텍스트 콘텐츠 및 상기 음성을 기반으로 혼합 변형 파라미터 세트를 생성하는 단계; 및
    상기 혼합 변형 파라미터 세트를 사용하여 상기 가상 객체의 모델을 렌더링하여, 상기 가상 객체의 사진 세트를 획득하고, 상기 사진 세트를 기반으로, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함하는 동영상 처리 방법.
  2. 청구항 1에 있어서,
    상기 텍스트 콘텐츠 및 상기 음성을 기반으로 혼합 변형 파라미터 세트를 생성하는 단계는,
    상기 텍스트 콘텐츠를 기반으로 제1 변형 파라미터 세트를 생성하는 단계 - 상기 제1 변형 파라미터 세트는 상기 가상 객체의 입 모양을 렌더링하는데 사용됨 - ; 및
    상기 음성을 기반으로 제2 변형 파라미터 세트를 생성하는 단계를 포함하고, 상기 제2 변형 파라미터 세트는 상기 가상 객체의 표정을 렌더링하는데 사용되며;
    상기 혼합 변형 파라미터 세트는 상기 제1 변형 파라미터 세트 및 상기 제2 변형 파라미터 세트를 포함하는 동영상 처리 방법.
  3. 청구항 1에 있어서,
    상기 사진 세트를 기반으로, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계는,
    제1 타깃 배경 사진을 획득하는 단계; 및
    상기 사진 세트 및 상기 제1 타깃 배경 사진을 융합하여, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함하는 동영상 처리 방법.
  4. 청구항 1에 있어서,
    상기 사진 세트를 기반으로, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계는,
    배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진을 획득하는 단계; 및
    상기 사진 세트 및 상기 제2 타깃 배경 사진을 융합하여, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하는 단계를 포함하는 동영상 처리 방법.
  5. 청구항 1에 있어서,
    상기 텍스트 콘텐츠를 수신하는 단계는,
    타깃 음성을 수집하는 단계; 및
    상기 타깃 음성에 대해 텍스트 변환을 수행하여, 상기 텍스트 콘텐츠를 획득하는 단계를 포함하는 동영상 처리 방법.
  6. 동영상 처리 장치로서,
    텍스트 콘텐츠 및 선택 명령을 수신하기 위한 수신 모듈 - 상기 선택 명령은 가상 객체를 생성하는데 사용되는 모델을 지시하기 위한 것임 - ;
    상기 텍스트 콘텐츠를 음성으로 변환하기 위한 변환 모듈;
    상기 텍스트 콘텐츠 및 상기 음성을 기반으로 혼합 변형 파라미터 세트를 생성하기 위한 생성 모듈; 및
    상기 혼합 변형 파라미터 세트를 사용하여 상기 가상 객체의 모델을 렌더링하여, 상기 가상 객체의 사진 세트를 획득하고, 상기 사진 세트를 기반으로, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 처리 모듈을 포함하는 동영상 처리 장치.
  7. 청구항 6에 있어서,
    상기 생성 모듈은,
    상기 텍스트 콘텐츠를 기반으로 제1 변형 파라미터 세트를 생성하기 위한 제1 생성 유닛 - 상기 제1 변형 파라미터 세트는 상기 가상 객체의 입 모양을 렌더링하는데 사용됨 - ; 및
    상기 음성을 기반으로 제2 변형 파라미터 세트를 생성하기 위한 제2 생성 유닛을 포함하고, 상기 제2 변형 파라미터 세트는 상기 가상 객체의 표정을 렌더링하는데 사용되며;
    상기 혼합 변형 파라미터 세트는 상기 제1 변형 파라미터 세트 및 상기 제2 변형 파라미터 세트를 포함하는 동영상 처리 장치.
  8. 청구항 6에 있어서,
    상기 처리 모듈은,
    제1 타깃 배경 사진을 획득하기 위한 제1 획득 유닛; 및
    상기 사진 세트 및 상기 제1 타깃 배경 사진을 융합하여, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 제3 생성 유닛을 포함하는 동영상 처리 장치.
  9. 청구항 6에 있어서,
    상기 처리 모듈은,
    배경 사진 라이브러리에서 선택해낸 제2 타깃 배경 사진을 획득하기 위한 제2 획득 유닛; 및
    상기 사진 세트 및 상기 제2 타깃 배경 사진을 융합하여, 상기 가상 객체가 상기 텍스트 콘텐츠를 방송하는 것을 포함하는 동영상을 생성하기 위한 제4 생성 유닛을 포함하는 동영상 처리 장치.
  10. 청구항 6 내지 청구항 9 중 어느 한 항에 있어서,
    상기 수신 모듈은,
    타깃 음성을 수집하기 위한 수집 유닛; 및
    상기 타깃 음성에 대해 텍스트 변환을 수행하여, 상기 텍스트 콘텐츠를 획득하기 위한 변환 유닛을 포함하는 동영상 처리 장치.
  11. 전자 기기로서,
    적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서와 통신 연결되는 메모리를 포함하고,
    상기 메모리에는 상기 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며, 상기 명령은 상기 적어도 하나의 프로세서에 의해 실행되어, 상기 적어도 하나의 프로세서로 하여금 청구항 1 내지 청구항 5 중 어느 한 항에 따른 방법을 수행할 수 있도록 하는 전자 기기.
  12. 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능 저장 매체로서,
    상기 컴퓨터 명령은 상기 컴퓨터로 하여금 청구항 1 내지 청구항 5 중 어느 한 항에 따른 방법을 수행하도록 하는, 컴퓨터 명령이 저장된 비일시적 컴퓨터 판독 가능 저장 매체.
  13. 컴퓨터 판독가능 저장 매체에 저장된 컴퓨터 프로그램으로서,
    상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우, 청구항 1 내지 청구항 5 중 어느 한 항에 따른 방법이 구현되는, 컴퓨터 판독가능 저장 매체에 저장된 컴퓨터 프로그램.
KR1020220182760A 2021-12-24 2022-12-23 동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체 KR20230098068A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202111604879.7 2021-12-24
CN202111604879.7A CN114339069B (zh) 2021-12-24 2021-12-24 视频处理方法、装置、电子设备及计算机存储介质

Publications (1)

Publication Number Publication Date
KR20230098068A true KR20230098068A (ko) 2023-07-03

Family

ID=81012423

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220182760A KR20230098068A (ko) 2021-12-24 2022-12-23 동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체

Country Status (4)

Country Link
US (1) US20230206564A1 (ko)
JP (1) JP2023095832A (ko)
KR (1) KR20230098068A (ko)
CN (1) CN114339069B (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115209180B (zh) * 2022-06-02 2024-06-18 阿里巴巴（中国）有限公司 视频生成方法以及装置
CN116059637B (zh) * 2023-04-06 2023-06-20 广州趣丸网络科技有限公司 虚拟对象渲染方法、装置、存储介质及电子设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10467792B1 (en) * 2017-08-24 2019-11-05 Amazon Technologies, Inc. Simulating communication expressions using virtual objects
CN110336940A (zh) * 2019-06-21 2019-10-15 深圳市茄子咔咔娱乐影像科技有限公司 一种基于双摄像头拍摄合成特效的方法和系统
CN110381266A (zh) * 2019-07-31 2019-10-25 百度在线网络技术（北京）有限公司 一种视频生成方法、装置以及终端
CN110941954B (zh) * 2019-12-04 2021-03-23 深圳追一科技有限公司 文本播报方法、装置、电子设备及存储介质
CN112100352A (zh) * 2020-09-14 2020-12-18 北京百度网讯科技有限公司 与虚拟对象的对话方法、装置、客户端及存储介质
CN112650831A (zh) * 2020-12-11 2021-04-13 北京大米科技有限公司 虚拟形象生成方法、装置、存储介质及电子设备
CN113380269B (zh) * 2021-06-08 2023-01-10 北京百度网讯科技有限公司 视频图像生成方法、装置、设备、介质和计算机程序产品

Also Published As

Publication number Publication date
CN114339069B (zh) 2024-02-02
JP2023095832A (ja) 2023-07-06
US20230206564A1 (en) 2023-06-29
CN114339069A (zh) 2022-04-12

Similar Documents

Publication Publication Date Title
US10776977B2 (en) Real-time lip synchronization animation
US20200234478A1 (en) Method and Apparatus for Processing Information
KR20230098068A (ko) 동영상 처리 방법, 장치, 전자 기기 및 컴퓨터 저장 매체
US6772122B2 (en) Character animation
WO2022111110A1 (zh) 虚拟视频直播处理方法及装置、存储介质、电子设备
CN113570686A (zh) 虚拟视频直播处理方法及装置、存储介质、电子设备
CN111669623A (zh) 视频特效的处理方法、装置以及电子设备
US20220335079A1 (en) Method for generating virtual image, device and storage medium
CN108846886B (zh) 一种ar表情的生成方法、客户端、终端和存储介质
WO2024046189A1 (zh) 文本生成方法以及装置
US20180143741A1 (en) Intelligent graphical feature generation for user content
CN115357755B (zh) 视频生成方法、视频展示方法和装置
CN112988100A (zh) 视频的播放方法和装置
CN115550711A (zh) 虚拟数字人渲染方法、渲染引擎及系统
JP2023506364A (ja) メッセージングプラットフォーム上のオーディオメッセージングインターフェース
CN115942039B (zh) 视频生成方法、装置、电子设备和存储介质
CN116168134B (zh) 数字人的控制方法、装置、电子设备以及存储介质
CN116168108A (zh) 文本生成图像的方法及装置、存储介质及电子设备
CN116957669A (zh) 广告生成方法、装置、计算机可读介质及电子设备
WO2020167304A1 (en) Real-time lip synchronization animation
CN113518160A (zh) 视频生成方法、装置、设备及存储介质
CN116309970A (zh) 车用虚拟数字形象生成方法、装置、电子设备及存储介质
CN118138854A (zh) 视频生成方法、装置、计算机设备及介质
Ghaziasgar The use of mobile phones as service-delivery devices in sign language machine translation system
CN118172496A (zh) 一种三维重建方法、系统、介质、设备及程序产品

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E601 Decision to refuse application