KR20210007453A

KR20210007453A - 영상 생성 방법 및 컴퓨터 프로그램

Info

Publication number: KR20210007453A
Application number: KR1020190083947A
Authority: KR
Inventors: 유태준; 조면철; 최홍섭; 장동환
Original assignee: 주식회사 마인즈랩
Priority date: 2019-07-11
Filing date: 2019-07-11
Publication date: 2021-01-20
Also published as: KR20210084397A

Abstract

본 발명의 일 실시예에 따른 하나 이상의 개체를 포함하는 영상으로부터 소정의 조건을 만족하는 개체가 삭제된 영상을 생성하는 방법은, 원본 영상에서 하나 이상의 삭제 가능 개체를 식별하는 단계; 상기 하나 이상의 삭제 가능 개체 중 소정의 조건을 만족하는 하나 이상의 삭제 대상 개체를 결정하는 단계; 및 개체의 종류 별로 학습된 하나 이상의 인공 신경망을 이용하여, 상기 원본 영상으로부터 상기 하나 이상의 삭제 대상 개체가 삭제된 결과 영상을 생성하는 단계;를 포함할 수 있다.

Description

영상 생성 방법 및 컴퓨터 프로그램{METHOD AND COMPUTER PROGRAM FOR GENERATING IMAGE}

본 발명의 실시예들은 하나 이상의 개체를 포함하는 영상으로부터 소정의 조건을 만족하는 개체가 삭제된 영상을 생성하는 방법에 관한 것이다.

종래기술에 따르면 영상에서 특정 개체를 제거하기 위해서는 사람이 수작업으로 영상을 편집해야 했다. 그러나 이와 같은 편집 작업은 작업자의 숙련된 기술을 요하여 편집에 많은 노력과 비용을 요구하였고, 작업자의 주관적 판단에 따라 이루어지기 때문에 정확도가 높지 않다는 문제점이 있었다. 또한 작업자는 주로 동일한 영상 내의 다른 부분을 참조하여 삭제 대상 개체의 영상을 편집하기에 결과 영상이 다소 어색한 문제점이 있었다.

본 발명은 삭제하고자 하는 개체가 자연스럽게 삭제된 결과 영상을 생성하고자 한다.

또한 본 발명은 영상 내에서 삭제를 원하는 개체만 선택적으로 삭제된 결과 영상을 생성하고자 한다. 특히 본 발명은 영상 내의 같은 종류의 개체라도 선택된 개체만이 석제된 결과 영상을 생성하고자 한다.

또한 본 발명은 개체의 종류별로 학습된 인공 신경망을 이용하여 개체의 유형별로 서로 다른 인공 신경망을 사용하여 개체를 삭제함으로써 보다 정밀한 결과 영상을 생성하고자 한다.

상기 삭제 대상 개체를 결정하는 단계는 상기 원본 영상상에 상기 하나 이상의 삭제 가능 개체 각각에 대응되는 삭제 가능 마크를 표시하는 단계; 상기 마크에 대한 사용자의 선택 정보를 획득하는 단계; 및 상기 선택 정보를 참조하여 상기 하나 이상의 삭제 대상 개체를 결정하는 단계;를 포함할 수 있다.

상기 하나 이상의 삭제 가능 개체를 식별하는 단계는 상기 원본 영상 내에서 발견된 하나 이상의 후보 개체 중 대응되는 인공 신경망이 존재하는 후보 개체를 상기 삭제 가능 개체로 식별할 수 있다.

상기 결과 영상을 생성하는 단계는 상기 원본 영상으로부터 상기 하나 이상의 삭제 대상 개체 각각을 포함하는 하나 이상의 제1 부분 영상을 생성하는 단계; 상기 하나 이상의 제1 부분 영상 각각에 대해서, 영상에 포함된 개체의 유형에 대응되는 인공 신경망을 확인하는 단계; 제1 부분 영상 별 확인된 인공 신경망을 이용하여, 상기 하나 이상의 제1 부분 영상 각각에 대해 각각의 제1 부분 영상에 포함된 삭제 대상 개체가 삭제된 제2 부분 영상을 생성하는 단계; 및 상기 제2 부분 영상을 이용하여 상기 원본 영상에서 상기 하나 이상의 삭제 대상 개체가 삭제된 상기 결과 영상을 생성하는 단계;를 포함할 수 있다.

상기 하나 이상의 삭제 대상 개체는 제1 유형의 개체를 포함하는 제1 삭제 대상 개체 및 제2 유형의 개체를 포함하는 제2 삭제 대상 개체를 포함하고, 상기 인공 신경망을 확인하는 단계는 상기 제1 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제1 인공 신경망이 대응되는 것으로 확인하고, 상기 제2 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제2 인공 신경망이 대응되는 것으로 확인하고, 상기 제1 인공 신경망 및 상기 제2 인공 신경망은 서로 다른 유형의 개체를 포함하는 이미지에 기반하여 학습된 인공 신경망일 수 있다.

본 발명의 일 실시예에 따른 영상 생성 방법은 상기 하나 이상의 삭제 가능 개체를 식별하는 단계 이전에, 학습 데이터를 이용하여 상기 인공 신경망을 학습시키는 단계;를 더 포함할 수 있다. 이때 상기 인공 신경망을 학습시키는 단계는 제1 유형의 개체를 삭제하기 위한 제1 인공 신경망을 학습시키는 단계; 및 제2 유형의 개체를 삭제하기 위한 제2 인공 신경망을 학습시키는 단계;를 포함할 수 있다.

상기 제1 인공 신경망을 학습시키는 단계는 개체를 포함하지 않는 제3 영상에 제1 유형의 개체 영상을 합성한 제4 영상을 생성하는 단계; 및 상기 제4 영상의 입력에 대응하여 상기 제3 영상이 출력되도록 상기 제1 인공 신경망을 학습시키는 단계;를 포함할 수 있다.

상기 제2 인공 신경망을 학습시키는 단계는 개체를 포함하지 않는 제5 영상에 제2 유형의 개체 영상을 합성한 제6 영상을 생성하는 단계; 및 상기 제6 영상의 입력에 대응하여 상기 제5 영상이 출력되도록 상기 제2 인공 신경망을 학습시키는 단계;를 포함할 수 있다.

본 발명에 따르면, 삭제하고자 하는 개체가 자연스럽게 삭제된 결과 영상을 생성할 수 있다. 또한 영상 내에서 삭제를 원하는 개체만 선택적으로 삭제된 결과 영상을 생성할 수 있으며, 특히 같은 종류의 개체라도 선택된 개체만이 삭제된 결과 영상을 생성할 수 있다.

또한 개체의 종류별로 학습된 인공 신경망을 이용하여 개체의 유형별로 서로 다른 인공 신경망을 사용하여 개체를 삭제함으로써 보다 정밀한 결과 영상을 생성할 수 있다.

도 1은 본 발명의 일 실시예에 따른 영상 생성 시스템의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 서버(100)에 구비되는 영상 생성 장치(110)의 구성을 개략적으로 도시한 도면이다.
도 3 및 도 4는 본 발명의 영상 생성 장치(110)에 의해 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
도 5a, 도 5b, 도 6 및 도 7은 본 발명의 일 실시예에 따른 제어부(112)가 인공 신경망(540a, 540b)을 학습 시키는 과정을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 사용자 단말(200)에 표시되는 원본 영상 및 이에 대한 부가 정보를 표시한 화면(610)의 예시이다.
도 9는 원본 영상에서 개체(612)가 삭제된 영상을 생성하는 과정을 예시적으로 설명하기 위한 도면이다.
도 10은 결과 영상(710)의 예시를 도시한 도면이다.
도 11은 본 발명의 일 실시예에 따른 영상 생성 장치(110)에 의해 수행되는 영상 생성 방법을 설명하기 위한 흐름도이다.

본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.

이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 이하의 실시예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 형태는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.

도 1은 본 발명의 일 실시예에 따른 영상 생성 시스템의 구성을 개략적으로 도시한 도면이다. 도 1을 참조하면, 본 발명의 일 실시예에 따른 영상 생성 시스템은 서버(100), 사용자 단말(200), 외부장치(300) 및 통신망(400)을 포함할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 시스템은 학습된 인공 신경망을 이용하여 하나 이상의 개체를 포함하는 영상으로부터 소정의 조건을 만족하는 특정 개체가 삭제된 영상을 생성할 수 있다.

본 발명에서 '인공 신경망'은 서버(100) 및/또는 외부장치(300)가 수행하는 서비스에 적합하게 학습된 신경망으로, 머신 러닝(Machine Learning) 또는 딥러닝(Deep Learning) 기법에 의해 학습된 인공 신경망을 의미할 수 있다. 이와 같은 신경망의 구조에 대해서는 도 3 및 도 4를 참조하여 후술한다.

본 발명에서 '영상'은 단일 이미지로 구성되는 화상을 의미할 수도 있고, 하나 이상의 프레임으로 구성되는 동화상을 의미할 수도 있다.

본 발명에서 영상에 포함되는 '개체'는 영상에 포함되는 다양한 물건, 물체 및/또는 사람을 의미할 수 있다. 이와 같은 개체는 영상의 배경이 되는 환경과 구분되는 객체일 수도 있고, 환경의 일부를 구성하는 객체일 수도 있다. 가령 영상에 포함되는 개체는 영상에 포함되는 사람, 영상에 포함되는 자전거, 영상에 포함되는 나무 등 일 수 있다. 다만 이는 예시적인것으로, 본 발명의 사상이 이에 한정되는 것은 아니다.

본 발명의 일 실시예에 따른 사용자 단말(200)은 사용자가 서버(100) 및/또는 외부장치(300)에 의해 제공되는 다양한 서비스를 이용할 수 있도록 사용자와 서버(100) 및/또는 외부장치(300)를 매개하는 다양한 형태의 장치를 의미할 수 있다. 바꾸어 말하면, 본 발명의 일 실시예에 따른 사용자 단말(200)은 서버(100) 및/또는 외부장치(300)와 데이터를 송수신 하는 다양한 장치를 의미할 수 있다.

본 발명의 일 실시예에 따른 사용자 단말(200)은 서버(100)로 개체를 삭제하고자 하는 영상을 전송하고, 서버(100)로부터 개체가 삭제된 영상을 수신하는 장치일 수 있다. 이와 같은 사용자 단말(200)은 도 1에 도시된 바와 같이, 휴대용 단말(201, 202, 203)을 의미할 수도 있고, 컴퓨터(204)를 의미할 수도 있다.

한편 사용자 단말(200)은 상술한 기능을 수행하기 위해 콘텐츠 등을 표시하기 위한 표시수단, 이러한 콘텐츠에 대한 사용자의 입력을 획득하기 위한 입력수단을 구비할 수 있다. 이 때 입력수단 및 표시수단은 다양하게 구성될 수 있다. 가령 입력수단은 키보드, 마우스, 트랙볼, 마이크, 버튼, 터치패널 등을 포함할 수 있으나 이에 한정되지 않는다.

본 발명의 일 실시예에 따른 외부장치(300)는 영상 생성 서비스를 제공하는 장치를 의미할 수 있다. 가령 외부장치(300)는 삭제하고자 하는 개체가 포함된 영상을 서버(100)로 전송하고, 서버(100)로부터 의도한 개체가 삭제된 영상을 수신하고, 외부장치(300)에 연결된 다양한 장치(예를 들어 클라이언트 단말(미도시) 등)에 서버(100)로부터 수신된 영상(즉 의도한 개체가 삭제된 영상)을 제공하는 장치일 수 있다.

바꾸어말하면 외부장치(300)는 서버(100)가 제공하는 영상 생성 서비스를 자신의 서비스에 이용하기 위한 제3 자의 장치일 수 있다. 다만 이는 예시적인것으로, 외부장치(300)의 용도, 목적 및/또는 수량이 상술한 내용에 의해 한정되는 것은 아니다.

본 발명의 일 실시예에 따른 통신망(400)은 영상 생성 시스템의 각 구성 간의 데이터 송수신을 매개하는 통신망을 의미할 수 있다. 가령 통신망(400)은 LANs(Local Area Networks), WANs(Wide Area Networks), MANs(Metropolitan Area Networks), ISDNs(Integrated Service Digital Networks) 등의 유선 네트워크나, 무선 LANs, CDMA, 블루투스, 위성 통신 등의 무선 네트워크를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.

본 발명의 일 실시예에 따른 서버(100)는 전술한 바와 같이 하나 이상의 개체를 포함하는 영상으로부터 소정의 조건을 만족하는 개체가 삭제된 영상을 생성할 수 있다.

도 2는 본 발명의 일 실시예에 따른 서버(100)에 구비되는 영상 생성 장치(110)의 구성을 개략적으로 도시한 도면이다.

도 2를 참조하면, 본 발명의 일 실시예에 따른 영상 생성 장치(110)는 통신부(111), 제어부(112) 및 메모리(113)를 포함할 수 있다. 또한 도면에는 도시되지 않았으나, 본 실시예에 따른 영상 생성 장치(110)는 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다.

통신부(111)는 영상 생성 장치(110)가 사용자 단말(200) 및/또는 외부장치(300)와 같은 다른 네트워크 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다.

제어부(112)는 프로세서(Processor)와 같이 데이터를 처리할 수 있는 모든 종류의 장치를 포함할 수 있다. 여기서, '프로세서(Processor)'는, 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.

메모리(113)는 영상 생성 장치(110)가 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 메모리는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다. 가령 메모리(113)는 인공 신경망을 구성하는 데이터들(가령 계수들)을 일시적 및/또는 영구적으로 저장할 수 있다. 물론 메모리(113)는 인공 신경망을 학습하기 위한 학습 데이터도 저장할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

도 3 및 도 4는 본 발명의 영상 생성 장치(110)에 의해 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.

본 발명의 일 실시예에 따른 인공 신경망은 도 3에 도시된 바와 같은 합성 곱 신경망(CNN: Convolutional Neural Network) 모델에 따른 인공 신경망일 수 있다. 이때 CNN 모델은 복수의 연산 레이어(Convolutional Layer, Pooling Layer)를 번갈아 수행하여 최종적으로는 입력 데이터의 특징을 추출하는 데 사용되는 계층 모델일 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 학습 데이터를 지도학습(Supervised Learning) 기법에 따라 처리하여 인공 신경망 모델을 구축하거나 학습시킬 수 있다. 제어부(112)가 인공 신경망을 학습시키는 방법에 대한 상세한 설명은 후술한다.

본 발명의 일 실시예에 따른 제어부(112)는 입력 데이터의 특징 값을 추출하기 위한 컨볼루션 레이어(Convolution layer), 추출된 특징 값을 결합하여 특징 맵을 구성하는 풀링 레이어(pooling layer)를 생성할 수 있다.

또한 본 발명의 일 실시예에 따른 제어부(112)는 생성된 특징 맵을 결합하여, 입력 데이터가 복수의 항목 각각에 해당할 확률을 결정할 준비를 하는 풀리 커넥티드 레이어(Fully Conected Layer)를 생성할 수 있다.

마지막으로 제어부(112)는 입력 데이터에 대응되는 출력을 포함하는 아웃풋 레이어(Output Layer)를 산출할 수 있다. 가령 제어부(112)는 개체가 삭제된 영상의 적어도 일 부분을 구성하는 픽셀들의 값을 포함하는 아웃풋 레이어를 산출할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

도 3에 도시된 예시에서는, 입력 데이터가 5X7 형태의 블록으로 나누어지며, 컨볼루션 레이어의 생성에 5X3 형태의 단위 블록이 사용되고, 풀링 레이어의 생성에 1X4 또는 1X2 형태의 단위 블록이 사용되는 것으로 도시되었지만, 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 입력 데이터의 종류 및/또는 각 블록의 크기는 다양하게 구성될 수 있다.

한편 이와 같은 인공 신경망은 전술한 메모리(113)에 인공 신경망을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 인공 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들의 형태로 저장될 수 있다. 물론 인공 신경망의 구조 또한 메모리(113)에 소스코드 및/또는 프로그램의 형태로 저장될 수 있다.

본 발명의 일 실시예에 따른 인공 신경망은 도 4에 도시된 바와 같은 순환 신경망(Recurrent Neural Network, RNN) 모델에 따른 인공 신경망일 수 있다.

도 4를 참조하면, 이와 같은 순환 신경망(RNN) 모델에 따른 인공 신경망은 적어도 하나의 입력 노드(N1)를 포함하는 입력 레이어(L1), 복수의 히든 노드(N2)를 포함하는 히든 레이어(L2) 및 적어도 하나의 출력 노드(N3)를 포함하는 출력 레이어(L3)를 포함할 수 있다. 이때 입력 레이어(L1)의 적어도 하나의 입력 노드(N1)에는 삭제하고자 하는 개체를 포함하는 영상의 픽셀값이 입력될 수 있다.

히든 레이어(L2)는 도시된 바와 같이 전체적으로 연결된(Fully Connected) 하나 이상의 레이어를 포함할 수 있다. 히든 레이어(L2)가 복수의 레이어를 포함하는 경우, 인공 신경망은 각각의 히든 레이어 사이의 관계를 정의하는 함수(미도시)를 포함할 수 있다.

출력 레이어(L3)의 적어도 하나의 출력 노드(N3)는 제어부(112)의 제어에 따라 인공 신경망이 입력 레이어(L1)의 입력 값으로부터 생성한 출력 값을 포함할 수 있다. 가령 출력 레이어(L3)는 개체가 삭제된 영상의 적어도 일 부분을 구성하는 픽셀들의 값을 포함할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

한편 각 레이어의 각 노드에 포함되는 값은 벡터일 수 있다. 또한 각 노드는 해당 노드의 중요도에 대응되는 가중치를 포함할 수도 있다.

한편 인공 신경망은 입력 레이어(L1)와 히든 레이어(L2)의 관계를 정의하는 제1 함수(F1) 및 히든 레이어(L2)와 출력 레이어(L3)의 관계를 정의하는 제2 함수(F2)를 포함할 수 있다.

제1 함수(F1)는 입력 레이어(L1)에 포함되는 입력 노드(N1)와 히든 레이어(L2)에 포함되는 히든 노드(N2)간의 연결관계를 정의할 수 있다. 이와 유사하게, 제2 함수(F2)는 히든 레이어(L2)에 포함되는 히든 노드(N2)와 출력 레이어(L2)에 포함되는 출력 노드(N2)간의 연결관계를 정의할 수 있다.

이와 같은 제1 함수(F1), 제2 함수(F2) 및 히든 레이어 사이의 함수들은 이전 노드의 입력에 기초하여 결과물을 출력하는 순환 신경망 모델을 포함할 수 있다.

제어부(112)에 의해 인공 신경망이 학습되는 과정에서, 복수의 학습 데이터에 기초하여 제1 함수(F1) 및 제2 함수(F2)가 학습될 수 있다. 물론 인공 신경망이 학습되는 과정에서 전술한 제1 함수(F1) 및 제2 함수(F2) 외에 복수의 히든 레이어 사이의 함수들 또한 학습될 수 있다.

본 발명의 일 실시예에 따른 인공 신경망은 표지(Labeled)된 학습 데이터를 기반으로 지도학습(Supervised Learning) 방식으로 학습될 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 복수의 학습 데이터를 이용하여, 어느 하나의 입력 데이터를 인공 신경망에 입력하여 생성된 출력 값이 해당 학습 데이터에 표지된 값에 근접하도록 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신하는 과정을 반복하여 수행함으로써 인공 신경망을 학습시킬 수 있다.

이때 본 발명의 일 실시예에 따른 제어부(112)는 역전파(Back Propagation) 알고리즘에 따라 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신할 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

한편 도 3 및 도 4에서 설명한 인공 신경망의 종류 및/또는 구조는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 다양한 종류의 모델의 인공 신경망이 명세서를 통하여 설명하는 '인공 신경망'에 해당할 수 있다.

이하에서는 인공 신경망의 학습 과정에 대해서 먼저 설명하고, 학습된 인공 신경망을 이용하여 영상을 생성하는 방법을 나중에 설명한다.

도 5a, 도 5b, 도 6 및 도 7은 본 발명의 일 실시예에 따른 제어부(112)가 인공 신경망(540a, 540b)을 학습 시키는 과정을 설명하기 위한 도면이다.

본 발명에서 인공 신경망(540a, 540b)은 삭제 대상 개체가 삭제된 영상이 표지된 적어도 하나의 학습 데이터(530a, 530b)에 기반하여, 학습 데이터에 포함되는 대상 개체를 포함하는 영상과 대상 개체가 삭제된 영상 간의 상관관계를 학습한(또는 학습 하는) 신경망을 의미할 수 있다.

바꾸어말하면, 본 발명에서 인공 신경망(540a, 540b)은 삭제 대상 개체를 포함하는 영상의 입력에 대응하여 삭제 대상 개체가 삭제된 영상을 출력하도록 학습된(또는 학습 되는) 신경망을 의미할 수 있다.

본 발명에서 인공 신경망(540a, 540b)은 하나 이상일 수 있고, 하나 이상의 인공 신경망 각각은 삭제 대상 개체의 종류를 서로 달리할 수 있다. 바꾸어말하면 본 발명에서 인공 신경망(540a, 540b)은 삭제하고자 하는 개체의 종류 별로 학습될 수 있다.

한편 인공 신경망(520)의 학습을 위한 적어도 하나의 학습 데이터(530a, 530b)는 전술한 바와 같이 삭제 대상 개체를 포함하는 영상과 삭제 대상 개체가 삭제된 영상을 포함할 수 있다. 이때 대상 개체가 삭제된 영상는 표지(Label)로써 포함될 수 있다.

가령 삭제 대상 개체가 사람인 첫 번째 인공 신경망(540a)을 위한 학습 데이터(530a)중 첫 번째 학습 데이터(531a)의 경우, 삭제 대상 개체인 사람을 포함하는 영상(520a)을 포함하고, 사람이 삭제된 영상(511a)을 표지로써 포함할 수 있다.

또한 삭제 대상 개체가 텍스트(Text)인 두 번째 인공 신경망(540b)을 위한 학습 데이터(530b)중 첫 번째 학습 데이터(531b)의 경우, 삭제 대상 개체인 텍스트를 포함하는 영상(520b)을 포함하고, 텍스트가 삭제된 영상(511b)을 표지로써 포함할 수 있다. 다만 이와 같은 인공 신경망의 종류 및/또는 수량은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

본 발명의 일 실시예에 따른 제어부(112)는 인공 신경망(540a, 540b)의 학습에 앞서서, 인공 신경망(540a, 540b)의 학습을 위한 학습 데이터(530a, 530b)를 생성할 수 있다. 이하에서는 제어부(112)가 각 학습 데이터(530a, 530b)의 첫 번째 학습 데이터(531a, 531b)를 생성하는 과정에 대해서 예시적으로 설명한다.

도 6은 본 발명의 일 실시예에 따른 제어부(112)가 인공 신경망(540a)의 학습을 위한 학습 데이터(530a)중 첫 번째 학습 데이터(531a)를 생성하는 과정을 설명하기 위한 도면이다.

본 발명의 일 실시예에 따른 제어부(112)는 사람을 포함하지 않는 영상(511a, 도 5a에서는 사람이 삭제된 영상으로 설명됨)에 사람의 영상(512a)을 합성하여 사람을 포함하는 영상(520a)을 생성할 수 있다. 제어부(112)는 사람을 포함하는 영상(520a)에 사람을 포함하지 않는 영상(511a)을 표지하여 첫 번째 학습 데이터(531a)를 생성할 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 상술한 과정에 의해 생성된 학습 데이터를 이용하여 삭제 대상 개체가 사람인 첫 번째 인공 신경망(540a)을 학습시킬 수 있다. 바꾸어말하면 본 발명의 일 실시예에 따른 제어부(112)는 사람을 포함하는 영상(520a)의 입력에 대응하여 사람을 포함하지 않는 영상(511a)을 출력하도록 첫 번째 인공 신경망(540a)을 학습시킬 수 있다. 본 발명의 일 실시예에 따른 제어부(112)는 복수의 학습 데이터를 이용하여 첫 번째 인공 신경망(540a)을 학습시킴으로써, 인공 신경망(540a)이 다양한 영상의 입력에 대응하여 출력 영상을 생성할 수 있도록 할 수 있다.

도 7은 본 발명의 일 실시예에 따른 제어부(112)가 인공 신경망(540b)을 위한 학습 데이터(530b)중 첫 번째 학습 데이터(531b)를 생성하는 과정을 설명하기 위한 도면이다.

본 발명의 일 실시예에 따른 제어부(112)는 텍스트를 포함하지 않는 영상(511b, 도 5b에서는 텍스트가 삭제된 영상으로 설명됨)에 텍스트 영상(512b)을 합성하여 텍스트를 포함하는 영상(520b)을 생성할 수 있다. 제어부(112)는 텍스트를 포함하는 영상(520b)에 텍스트를 포함하지 않는 영상(511b)을 표지하여 첫 번째 학습 데이터(531b)를 생성할 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 상술한 과정에 의해 생성된 학습 데이터를 이용하여 삭제 대상 개체가 텍스트인 두 번째 인공 신경망(540b)을 학습시킬 수 있다. 바꾸어말하면 본 발명의 일 실시예에 따른 제어부(112)는 텍스트를 포함하는 영상(520b)의 입력에 대응하여 텍스트를 포함하지 않는 영상(511b)을 출력하도록 두 번째 인공 신경망(540b)을 학습시킬 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 복수의 학습 데이터를 이용하여 두 번째 인공 신경망(540b)을 학습시킴으로써, 인공 신경망(540b)이 다양한 영상의 입력에 대응하여 출력 영상을 생성할 수 있도록 할 수 있다.

전술한 인공 신경망(540a, 540b)의 수량, 각 인공 신경망(540a, 540b)에 의해 삭제되는 개체의 종류는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 본 발명의 다른 실시예에서, 영상 생성 장치(110)는 더 많은 수량의 인공 신경망을 포함할 수도 있고, 이때 각 신경망은 사람 및 텍스트 외에 다른 개체를 삭제하기 위해 학습될 수 있다.

이하에서는 상술한 과정에 따라 인공 신경망(540a, 540b)이 학습되어있음을 전제로, 학습된 인공 신경망 인공 신경망(540a, 540b)을 이용하여 삭제 대상 개체가 삭제된 영상을 생성하는 방법을 설명한다.

본 발명의 일 실시예에 따른 제어부(112)는 원본 영상에서 하나 이상의 삭제 가능 개체를 식별할 수 있다.

본 발명에서 '원본 영상'은 삭제 대상 개체를 포함하는 영상을 의미할 수 있다. 본 발명에서 '삭제 가능 개체'는 제어부(112)가 원본 영상에 포함된 개체 중 삭제가 가능한 것으로 판단한 개체를 의미할 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 원본 영상 내에서 발견된 하나 이상의 후보 개체 중 대응되는 인공 신경망이 존재하는 후보 개체를 삭제 가능 개체로 식별할 수 있다.

도 8은 본 발명의 일 실시예에 따른 사용자 단말(200)에 표시되는 원본 영상 및 이에 대한 부가 정보를 표시한 화면(610)의 예시이다. 이하에서는 설명의 편의를 위하여 사용자가 도 8에 도시된 바와 같은 원본 영상을 영상 생성 장치(110)로 전송하였고, 영상 생성 장치(110)는 영상에서 사람을 삭제하기 위한 인공 신경망(540a) 및 영상에서 텍스트를 삭제하기 위한 인공 신경망(540b)을 포함하는 것을 전제로 설명한다.

전술한 바와 같이 본 발명의 일 실시예에 따른 제어부(112)는 원본 영상 내에서 발견된 하나 이상의 후보 개체 중 대응되는 인공 신경망이 존재하는 후보 개체를 삭제 가능 개체로 식별할 수 있다. 가령 제어부(112)는 원본 영상에 포함된 개체 중, 사람(611, 612, 613)과 텍스트(621, 622)를 삭제 가능 개체로 식별할 수 있고(왜냐하면 각 개체에 대응되는 인공 신경망이 존재하므로), 풍선(631)은 개체로써는 인식 하였으나 삭제 가능 개체로써는 식별하지 않을 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 전술한 과정에 의해 식별된 하나 이상의 삭제 가능 개체(611, 612, 613, 621, 622) 중 소정의 조건을 만족하는 하나 이상의 삭제 대상 개체를 결정할 수 있다. 이때 소정의 조건은 영상 생성 장치(110)의 사용 목적 및/또는 용도에 따라 다양하게 설정될 수 있다. 가령 소정의 조건은 사용자의 입력에 따르는 것 일 수 있다. 즉 사용자가 선택한 개체만을 삭제하는 것이 소정의 조건을 의미할 수 있다. 다만 이와 같은 조건은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

사용자가 선택한 개체만을 삭제하는 실시예에서, 제어부(112)는 원본 영상상에 하나 이상의 삭제 가능 개체(611, 612, 613, 621, 622) 각각에 대응되는 삭제 가능 마크를 표시할 수 있다. 가령 제어부(112)는 도 8에 도시된 바와 같이 하나 이상의 삭제 가능 개체(611, 612, 613, 621, 622) 각각에 대해서 "Delete?"와 같은 문구와 함께 체크박스를 표시하여 사용자가 체크박스를 통해 삭제 유무를 선택하게 할 수 있다.

제어부(112)는 마크(즉 체크박스)에 대한 사용자의 선택 정보를 획득하고, 선택 정보를 참조하여 하나 이상의 삭제 대상 개체를 결정할 수 있다. 가령 제어부(112)는 도 8에 도시된 바와 같이 사용자가 체크박스에 입력한 경우, 개체(612, 613, 621)를 삭제 대상 개체로 결정할 수 있다.

이와 같이 소정의 조건에 따라 결정된 삭제 대상 개체는 후술하는과정에 따라 원본 영상에서 삭제될 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 개체의 종류 별로 학습된 하나 이상의 인공 신경망을 이용하여, 원본 영상으로부터 하나 이상의 삭제 대상 개체가 삭제된 결과 영상을 생성할 수 있다.

도 9는 원본 영상에서 개체(612)가 삭제된 영상을 생성하는 과정을 예시적으로 설명하기 위한 도면이다.

본 발명의 일 실시예에 따른 제어부(112)는 원본 영상으로부터 하나 이상의 삭제 대상 개체(612, 613, 621) 각각을 포함하는 하나 이상의 제1 부분 영상을 생성할 수 있다. 가령 제어부(112)는 개체(612)에 대해서 도 9에 도시된 바와 같은 제1 부분 영상(612-1)을 생성할 수 있다. 이때 제1 부분 영상(612-1)은 개체(612)만을 포함할 수도 있고, 다른 개체의 적어도 일부를 포함할 수도 있다.

제어부(112)는 전술한 과정에 의해 생성된 하나 이상의 제1 부분 영상 각각에 대해서, 영상에 포함된 개체의 유형에 대응되는 인공 신경망을 확인할 수 있다. 가령 제어부(112)는 제1 부분 영상(612-1)에 포함되는 개체를 '사람'으로 확인하고, 인공 신경망(540a)을 이에 대응되는 신경망으로 확인할 수 있다.

가령 하나 이상의 삭제 대상 개체가 제1 유형의 개체를 포함하는 제1 삭제 대상 개체 및 제2 유형의 개체를 포함하는 제2 삭제 대상 개체를 포함하는 경우, 제어부(112)는 제1 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제1 인공 신경망이 대응되는 것으로 확인하고, 제2 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제2 인공 신경망이 대응되는 것으로 확인할 수 있다. 이때 제1 인공 신경망 및 상기 제2 인공 신경망은 서로 다른 유형의 개체를 포함하는 이미지에 기반하여 학습된 인공 신경망일 수 있다.

제어부(112)는 제1 부분 영상 별로 확인된 인공 신경망을 이용하여, 하나 이상의 제1 부분 영상 각각에 대해 각각의 제1 부분 영상에 포함된 삭제 대상 개체가 삭제된 제2 부분 영상을 생성할 수 있다. 가령 제어부(112)는 제1 부분 영상(612-1)으로부터 개체(612)가 삭제된 제2 부분 영상(612-2)을 생성할 수 있다.

제어부(112)는 생성된 제2 부분 영상을 이용하여 원본 영상에서 하나 이상의 삭제 대상 개체가 삭제된 상기 결과 영상을 생성할 수 있다. 가령 제어부(112)는 도 10에 도시된 결과 영상(710)에서와 같이, 원본 영상에서 개체(612)를 포함하는 제1 부분 영상(612-1)을 제2 부분 영상(612-2)으로 대체함으로써 개체(612)가 삭제된 결과 영상(710)을 생성할 수 있다.

본 발명의 일 실시예에 따른 제어부(112)는 삭제 대상 개체(612, 613, 621) 각각에 대해서 도 9 및 도 10에서 설명한 과정을 유사하게 수행하여, 삭제하고자 하는 모든 개체만이 삭제된 결과 영상(710)을 생성할 수 있다.

도 8에 도시된 원본 영상과 대비하여 도 10의 결과 영상(710)을 살펴보면, 사용자의 선택에 의해 결정된 삭제 대상 개체(612, 613, 621)는 삭제되었고, 사용자가 선택하지 않은 개체(611, 622) 및 삭제 불가능 개체(631)는 잔존하였다.

이와 같이 본 발명은 결과 영상(710)을 보다 자연스럽게 생성할 수 있으며, 특히 선택적으로 삭제 대상 개체를 결정함으로써, 원본 영상에서 의도 하지 않은 개체가 삭제되는 것을 방지할 수 있다.

도 11은 본 발명의 일 실시예에 따른 영상 생성 장치(110)에 의해 수행되는 영상 생성 방법을 설명하기 위한 흐름도이다. 이하에서는 도 1 내지 도 10을 함께 참조하여 설명하되, 도 1 내지 도 10에서 설명한 내용과 중복하는 설명은 생략한다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 영상 생성을 위한 인공 신경망을 학습시킬 수 있다.(S111) 다시 도 5a, 도 5b, 도 6 및 도 7를 참조하여, 영상 생성 장치(110)가 인공 신경망(540a, 540b)을 학습 시키는 과정을 설명한다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 인공 신경망(540a, 540b)의 학습에 앞서서, 인공 신경망(540a, 540b)의 학습을 위한 학습 데이터(530a, 530b)를 생성할 수 있다. 이하에서는 영상 생성 장치(110)가 각 학습 데이터(530a, 530b)의 첫 번째 학습 데이터(531a, 531b)를 생성하는 과정에 대해서 예시적으로 설명한다.

도 6은 본 발명의 일 실시예에 따른 영상 생성 장치(110)가 인공 신경망(540a)의 학습을 위한 학습 데이터(530a)중 첫 번째 학습 데이터(531a)를 생성하는 과정을 설명하기 위한 도면이다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 사람을 포함하지 않는 영상(511a, 도 5a에서는 사람이 삭제된 영상으로 설명됨)에 사람의 영상(512a)을 합성하여 사람을 포함하는 영상(520a)을 생성할 수 있다. 영상 생성 장치(110)는 사람을 포함하는 영상(520a)에 사람을 포함하지 않는 영상(511a)을 표지하여 첫 번째 학습 데이터(531a)를 생성할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 상술한 과정에 의해 생성된 학습 데이터를 이용하여 삭제 대상 개체가 사람인 첫 번째 인공 신경망(540a)을 학습시킬 수 있다. 바꾸어말하면 본 발명의 일 실시예에 따른 영상 생성 장치(110)는 사람을 포함하는 영상(520a)의 입력에 대응하여 사람을 포함하지 않는 영상(511a)을 출력하도록 첫 번째 인공 신경망(540a)을 학습시킬 수 있다. 본 발명의 일 실시예에 따른 영상 생성 장치(110)는 복수의 학습 데이터를 이용하여 첫 번째 인공 신경망(540a)을 학습시킴으로써, 인공 신경망(540a)이 다양한 영상의 입력에 대응하여 출력 영상을 생성할 수 있도록 할 수 있다.

도 7은 본 발명의 일 실시예에 따른 영상 생성 장치(110)가 인공 신경망(540b)을 위한 학습 데이터(530b)중 첫 번째 학습 데이터(531b)를 생성하는 과정을 설명하기 위한 도면이다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 텍스트를 포함하지 않는 영상(511b, 도 5b에서는 텍스트가 삭제된 영상으로 설명됨)에 텍스트 영상(512b)을 합성하여 텍스트를 포함하는 영상(520b)을 생성할 수 있다. 영상 생성 장치(110)는 텍스트를 포함하는 영상(520b)에 텍스트를 포함하지 않는 영상(511b)을 표지하여 첫 번째 학습 데이터(531b)를 생성할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 상술한 과정에 의해 생성된 학습 데이터를 이용하여 삭제 대상 개체가 텍스트인 두 번째 인공 신경망(540b)을 학습시킬 수 있다. 바꾸어말하면 본 발명의 일 실시예에 따른 영상 생성 장치(110)는 텍스트를 포함하는 영상(520b)의 입력에 대응하여 텍스트를 포함하지 않는 영상(511b)을 출력하도록 두 번째 인공 신경망(540b)을 학습시킬 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 복수의 학습 데이터를 이용하여 두 번째 인공 신경망(540b)을 학습시킴으로써, 인공 신경망(540b)이 다양한 영상의 입력에 대응하여 출력 영상을 생성할 수 있도록 할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 원본 영상에서 하나 이상의 삭제 가능 개체를 식별할 수 있다.(S112)

본 발명에서 '원본 영상'은 삭제 대상 개체를 포함하는 영상을 의미할 수 있다. 본 발명에서 '삭제 가능 개체'는 영상 생성 장치(110)가 원본 영상에 포함된 개체 중 삭제가 가능한 것으로 판단한 개체를 의미할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 원본 영상 내에서 발견된 하나 이상의 후보 개체 중 대응되는 인공 신경망이 존재하는 후보 개체를 삭제 가능 개체로 식별할 수 있다.

전술한 바와 같이 본 발명의 일 실시예에 따른 영상 생성 장치(110)는 원본 영상 내에서 발견된 하나 이상의 후보 개체 중 대응되는 인공 신경망이 존재하는 후보 개체를 삭제 가능 개체로 식별할 수 있다. 가령 영상 생성 장치(110)는 원본 영상에 포함된 개체 중, 사람(611, 612, 613)과 텍스트(621, 622)를 삭제 가능 개체로 식별할 수 있고(왜냐하면 각 개체에 대응되는 인공 신경망이 존재하므로), 풍선(631)은 개체로써는 인식 하였으나 삭제 가능 개체로써는 식별하지 않을 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 전술한 과정에 의해 식별된 하나 이상의 삭제 가능 개체(611, 612, 613, 621, 622) 중 소정의 조건을 만족하는 하나 이상의 삭제 대상 개체를 결정할 수 있다.(S113) 이때 소정의 조건은 영상 생성 장치(110)의 사용 목적 및/또는 용도에 따라 다양하게 설정될 수 있다. 가령 소정의 조건은 사용자의 입력에 따르는 것 일 수 있다. 즉 사용자가 선택한 개체만을 삭제하는 것이 소정의 조건을 의미할 수 있다. 다만 이와 같은 조건은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.

사용자가 선택한 개체만을 삭제하는 실시예에서, 영상 생성 장치(110)는 원본 영상상에 하나 이상의 삭제 가능 개체(611, 612, 613, 621, 622) 각각에 대응되는 삭제 가능 마크를 표시할 수 있다. 가령 영상 생성 장치(110)는 도 8에 도시된 바와 같이 하나 이상의 삭제 가능 개체(611, 612, 613, 621, 622) 각각에 대해서 "Delete?"와 같은 문구와 함께 체크박스를 표시하여 사용자가 체크박스를 통해 삭제 유무를 선택하게 할 수 있다.

영상 생성 장치(110)는 마크(즉 체크박스)에 대한 사용자의 선택 정보를 획득하고, 선택 정보를 참조하여 하나 이상의 삭제 대상 개체를 결정할 수 있다. 가령 영상 생성 장치(110)는 도 8에 도시된 바와 같이 사용자가 체크박스에 입력한 경우, 개체(612, 613, 621)를 삭제 대상 개체로 결정할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 개체의 종류 별로 학습된 하나 이상의 인공 신경망을 이용하여, 원본 영상으로부터 하나 이상의 삭제 대상 개체가 삭제된 결과 영상을 생성할 수 있다.(S114)

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 원본 영상으로부터 하나 이상의 삭제 대상 개체(612, 613, 621) 각각을 포함하는 하나 이상의 제1 부분 영상을 생성할 수 있다. 가령 영상 생성 장치(110)는 개체(612)에 대해서 도 9에 도시된 바와 같은 제1 부분 영상(612-1)을 생성할 수 있다. 이때 제1 부분 영상(612-1)은 개체(612)만을 포함할 수도 있고, 다른 개체의 적어도 일부를 포함할 수도 있다.

영상 생성 장치(110)는 전술한 과정에 의해 생성된 하나 이상의 제1 부분 영상 각각에 대해서, 영상에 포함된 개체의 유형에 대응되는 인공 신경망을 확인할 수 있다. 가령 영상 생성 장치(110)는 제1 부분 영상(612-1)에 포함되는 개체를 '사람'으로 확인하고, 인공 신경망(540a)을 이에 대응되는 신경망으로 확인할 수 있다.

가령 하나 이상의 삭제 대상 개체가 제1 유형의 개체를 포함하는 제1 삭제 대상 개체 및 제2 유형의 개체를 포함하는 제2 삭제 대상 개체를 포함하는 경우, 영상 생성 장치(110)는 제1 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제1 인공 신경망이 대응되는 것으로 확인하고, 제2 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제2 인공 신경망이 대응되는 것으로 확인할 수 있다. 이때 제1 인공 신경망 및 상기 제2 인공 신경망은 서로 다른 유형의 개체를 포함하는 이미지에 기반하여 학습된 인공 신경망일 수 있다.

영상 생성 장치(110)는 제1 부분 영상 별로 확인된 인공 신경망을 이용하여, 하나 이상의 제1 부분 영상 각각에 대해 각각의 제1 부분 영상에 포함된 삭제 대상 개체가 삭제된 제2 부분 영상을 생성할 수 있다. 가령 영상 생성 장치(110)는 제1 부분 영상(612-1)으로부터 개체(612)가 삭제된 제2 부분 영상(612-2)을 생성할 수 있다.

영상 생성 장치(110)는 생성된 제2 부분 영상을 이용하여 원본 영상에서 하나 이상의 삭제 대상 개체가 삭제된 상기 결과 영상을 생성할 수 있다. 가령 영상 생성 장치(110)는 도 10에 도시된 결과 영상(710)에서와 같이, 원본 영상에서 개체(612)를 포함하는 제1 부분 영상(612-1)을 제2 부분 영상(612-2)으로 대체함으로써 개체(612)가 삭제된 결과 영상(710)을 생성할 수 있다.

본 발명의 일 실시예에 따른 영상 생성 장치(110)는 삭제 대상 개체(612, 613, 621) 각각에 대해서 도 9 및 도 10에서 설명한 과정을 유사하게 수행하여, 삭제하고자 하는 모든 개체만이 삭제된 결과 영상(710)을 생성할 수 있다.

이상 설명된 본 발명에 따른 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 저장하는 것일 수 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다.

한편, 상기 컴퓨터 프로그램은 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.

본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, "필수적인", "중요하게" 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.

100: 서버
110: 영상 생성 장치
111: 통신부
112: 제어부
113: 메모리
200: 사용자 단말
300: 외부장치
400: 통신망

Claims

하나 이상의 개체를 포함하는 영상으로부터 소정의 조건을 만족하는 개체가 삭제된 영상을 생성하는 방법에 있어서,
원본 영상에서 하나 이상의 삭제 가능 개체를 식별하는 단계;
상기 하나 이상의 삭제 가능 개체 중 소정의 조건을 만족하는 하나 이상의 삭제 대상 개체를 결정하는 단계; 및
개체의 종류 별로 학습된 하나 이상의 인공 신경망을 이용하여, 상기 원본 영상으로부터 상기 하나 이상의 삭제 대상 개체가 삭제된 결과 영상을 생성하는 단계;를 포함하는, 영상 생성 방법.
청구항 1에 있어서
상기 삭제 대상 개체를 결정하는 단계는
상기 원본 영상상에 상기 하나 이상의 삭제 가능 개체 각각에 대응되는 삭제 가능 마크를 표시하는 단계;
상기 마크에 대한 사용자의 선택 정보를 획득하는 단계; 및
상기 선택 정보를 참조하여 상기 하나 이상의 삭제 대상 개체를 결정하는 단계;를 포함하는, 영상 생성 방법.
청구항 1에 있어서
상기 하나 이상의 삭제 가능 개체를 식별하는 단계는
상기 원본 영상 내에서 발견된 하나 이상의 후보 개체 중 대응되는 인공 신경망이 존재하는 후보 개체를 상기 삭제 가능 개체로 식별하는, 영상 생성 방법.
청구항 3에 있어서
상기 결과 영상을 생성하는 단계는
상기 원본 영상으로부터 상기 하나 이상의 삭제 대상 개체 각각을 포함하는 하나 이상의 제1 부분 영상을 생성하는 단계;
상기 하나 이상의 제1 부분 영상 각각에 대해서, 영상에 포함된 개체의 유형에 대응되는 인공 신경망을 확인하는 단계;
제1 부분 영상 별 확인된 인공 신경망을 이용하여, 상기 하나 이상의 제1 부분 영상 각각에 대해 각각의 제1 부분 영상에 포함된 삭제 대상 개체가 삭제된 제2 부분 영상을 생성하는 단계; 및
상기 제2 부분 영상을 이용하여 상기 원본 영상에서 상기 하나 이상의 삭제 대상 개체가 삭제된 상기 결과 영상을 생성하는 단계;를 포함하는, 영상 생성 방법.
청구항 4에 있어서
상기 하나 이상의 삭제 대상 개체는
제1 유형의 개체를 포함하는 제1 삭제 대상 개체 및 제2 유형의 개체를 포함하는 제2 삭제 대상 개체를 포함하고,
상기 인공 신경망을 확인하는 단계는
상기 제1 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제1 인공 신경망이 대응되는 것으로 확인하고,
상기 제2 삭제 대상 개체를 포함하는 제1 부분 영상에 대해 제2 인공 신경망이 대응되는 것으로 확인하고,
상기 제1 인공 신경망 및 상기 제2 인공 신경망은 서로 다른 유형의 개체를 포함하는 이미지에 기반하여 학습된 인공 신경망인, 영상 생성 방법.
청구항 1에 있어서
상기 영상 생성 방법은
상기 하나 이상의 삭제 가능 개체를 식별하는 단계 이전에,
학습 데이터를 이용하여 상기 인공 신경망을 학습시키는 단계;를 더 포함하고,
상기 인공 신경망을 학습시키는 단계는
제1 유형의 개체를 삭제하기 위한 제1 인공 신경망을 학습시키는 단계; 및
제2 유형의 개체를 삭제하기 위한 제2 인공 신경망을 학습시키는 단계;를 포함하는, 영상 생성 방법.
청구항 6에 있어서
상기 제1 인공 신경망을 학습시키는 단계는
개체를 포함하지 않는 제3 영상에 제1 유형의 개체 영상을 합성한 제4 영상을 생성하는 단계; 및
상기 제4 영상의 입력에 대응하여 상기 제3 영상이 출력되도록 상기 제1 인공 신경망을 학습시키는 단계;를 포함하는, 영상 생성 방법.
청구항 6에 있어서
상기 제2 인공 신경망을 학습시키는 단계는
개체를 포함하지 않는 제5 영상에 제2 유형의 개체 영상을 합성한 제6 영상을 생성하는 단계; 및
상기 제6 영상의 입력에 대응하여 상기 제5 영상이 출력되도록 상기 제2 인공 신경망을 학습시키는 단계;를 포함하는, 영상 생성 방법.
컴퓨터를 이용하여
청구항 1 내지 청구항 8 중 어느 한 항의 방법을 실행하기 위하여 매체에 저장된 컴퓨터 프로그램.