KR102195188B1 - Method and computer program for image generation - Google Patents
Method and computer program for image generation Download PDFInfo
- Publication number
- KR102195188B1 KR102195188B1 KR1020190078355A KR20190078355A KR102195188B1 KR 102195188 B1 KR102195188 B1 KR 102195188B1 KR 1020190078355 A KR1020190078355 A KR 1020190078355A KR 20190078355 A KR20190078355 A KR 20190078355A KR 102195188 B1 KR102195188 B1 KR 102195188B1
- Authority
- KR
- South Korea
- Prior art keywords
- frame
- image
- neural network
- generating
- frames
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234336—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by media transcoding, e.g. video is transformed into a slideshow of still pictures or audio is converted into text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G06N3/0454—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
Description
본 발명의 일 실시예는 제1 속도의 원본 영상으로부터 상기 제1 속도보다 빠른 제2 속도의 슬로모션(Slow motion) 영상을 생성하는 방법 및 컴퓨터 프로그램에 관한 것이다.An embodiment of the present invention relates to a method and a computer program for generating a slow motion image having a second speed faster than the first speed from an original image having a first speed.
본 발명의 다른 실시예는 순차적인 N(N은 자연수)개의 이미지를 이용하여 M(M은 자연수, M>=N)개의 이미지를 포함하는 콘텐츠를 생성하는 방법 및 컴퓨터 프로그램에 관한 것이다.Another embodiment of the present invention relates to a method and a computer program for generating content including M (M is a natural number, M>=N) images using N sequentially (N is a natural number) images.
인공지능이라는 개념은 1956년 미국 다트머스 대학에 있던 존 매카시 교수가 개최한 다트머스 회의에서 처음 등장했으며, 최근 몇 년 사이 폭발적으로 성장하고 있는 중이다.The concept of artificial intelligence first appeared in 1956 at the Dartmouth Conference held by Professor John McCarthy at Dartmouth University in the United States, and has been growing explosively in recent years.
특히 2015년 이후 신속하고 강력한 병렬 처리 성능을 제공하는 GPU의 도입으로 더욱 가속화되고 있으며, 폭발적으로 늘어나고 있는 저장 용량과 이미지, 텍스트, 매핑 데이터 등 모든 영역의 데이터가 범람하게 된 '빅데이터' 시대의 도래도 이러한 성장세에 큰 영향을 미쳤다.In particular, since 2015, it is accelerating with the introduction of GPUs that provide fast and powerful parallel processing performance, and in the era of'big data', the explosively increasing storage capacity and data in all areas such as images, text, and mapping data overflowed. The advent also had a great influence on this growth.
머신 러닝은 기본적으로 알고리즘을 이용해 데이터를 분석하고, 분석을 통해 학습하며, 학습한 내용을 기반으로 판단이나 예측을 하며, 궁극적으로는 의사 결정 기준에 대한 구체적인 지침을 소프트웨어에 직접 코딩해 넣는 것이 아닌, 대량의 데이터와 알고리즘을 통해 컴퓨터 그 자체를 '학습'시켜 작업 수행 방법을 익히는 것을 목표로 한다.Machine learning basically analyzes data using algorithms, learns through analysis, makes judgments or predictions based on what has been learned, and ultimately, rather than coding specific guidelines for decision criteria directly into software. , It aims to learn how to perform tasks by'learning' the computer itself through a large amount of data and algorithms.
머신 러닝은 초기 인공 지능 연구자들이 직접 제창한 개념에서 나온 것이며, 알고리즘 방식에는 의사 결정 트리 학습, 귀납 논리 프로그래밍, 클러스터링, 강화 학습, 베이지안(Bayesian) 네트워크 등이 포함된다.Machine learning comes from concepts directly advocated by early artificial intelligence researchers, and algorithmic methods include decision tree learning, inductive logic programming, clustering, reinforcement learning, and Bayesian networks.
본 발명은 학습된 인공 신경망을 이용하여 저속의 영상을 고속 영상으로 자연스럽게 변환하고자 한다.The present invention intends to naturally convert a low-speed image into a high-speed image using a learned artificial neural network.
또한 본 발명은 학습된 인공 신경망을 이용하여 복수의 이미지를 포함하는 콘텐츠의 일부 이미지만을 작성하고, 나머지 이미지들을 작성된 이미지들로부터 생성하고자 한다.In addition, the present invention intends to create only some images of content including a plurality of images using the learned artificial neural network, and generate the remaining images from the created images.
또한 본 발명은 학습된 인공 신경망을 이용하여 하나의 주제에 대한 복수의 이미지들 간의 전환이 보다 자연스럽게 이루어지도록 하고자 한다.In addition, the present invention intends to make the transition between a plurality of images for one subject more natural by using the learned artificial neural network.
본 발명의 일 실시예에 따른 제1 속도의 원본 영상으로부터 상기 제1 속도보다 빠른 제2 속도의 슬로모션(Slow motion) 영상을 생성하는 방법은, 상기 원본 영상에서 상기 슬로모션 영상의 시점이 되는 제1 프레임 및 상기 슬로모션 영상의 종점이 되는 제2 프레임을 선택하는 단계; 학습된 인공 신경망을 이용하여, 상기 제1 프레임으로부터 상기 제2 프레임으로 전환되는 과정을 묘사하는 적어도 하나의 제3 프레임을 생성하는 단계; 및 상기 제1 프레임, 상기 적어도 하나의 제3 프레임 및 상기 제2 프레임을 포함하는 상기 슬로모션 영상을 생성하는 단계;를 포함할 수 있다.A method of generating a slow motion image of a second speed faster than the first speed from an original image of a first speed according to an embodiment of the present invention is, in which a viewpoint of the slow motion image from the original image Selecting a first frame and a second frame that is an end point of the slow-motion image; Generating at least one third frame describing a process of transitioning from the first frame to the second frame using the learned artificial neural network; And generating the slow motion image including the first frame, the at least one third frame, and the second frame.
이때 상기 인공 신경망은 시점과 종점 사이의 하나 이상의 시각과 상기 하나 이상의 시각 각각에서의 프레임이 표지된 학습 데이터에 기반하여, 상기 학습 데이터에 포함되는 시점 프레임, 상기 학습 데이터에 포함되는 종점 프레임, 상기 하나 이상의 시각 및 상기 하나 이상의 시각 각각에서의 프레임 간의 상관관계를 학습한 신경망일 수 있다.At this time, the artificial neural network includes a view frame included in the training data, an endpoint frame included in the training data, and the at least one time between a view point and an end point, and the frame at each of the at least one view point. It may be a neural network that learns a correlation between one or more times and frames at each of the one or more times.
상기 슬로모션 영상 생성 방법은 상기 제1 프레임 및 상기 제2 프레임을 선택하는 단계 이전에, 학습 데이터를 이용하여 상기 인공 신경망을 학습시키는 단계;를 더 포함할 수 있다.The method for generating a slow motion image may further include training the artificial neural network using training data before selecting the first frame and the second frame.
상기 인공 신경망을 학습시키는 단계는 제3 속도인 학습 영상을 상기 제3 속도보다 느린 제4 속도의 영상으로 샘플링 하여 샘플링 학습 영상을 생성하는 단계; 상기 샘플링 학습 영상에 포함되는 두 개의 프레임을 각각 시점 프레임 및 종점 프레임으로 선택하는 단계; 상기 학습 영상에서, 상기 시점 프레임에 대응되는 프레임과 상기 종점 프레임에 대응되는 프레임 사이의 하나 이상의 중간 프레임 및 상기 하나 이상의 중간 프레임 각각의 상대 시각을 추출하는 단계; 및 상기 시점 프레임, 상기 종점 프레임, 상기 하나 이상의 중간 프레임 및 상기 하나 이상의 중간 프레임 각각의 상대 시각을 이용하여 상기 인공 신경망을 학습시키는 단계;를 포함할 수 있다.The training of the artificial neural network may include generating a sampling training image by sampling a training image having a third speed as an image having a fourth speed slower than the third speed; Selecting two frames included in the sampling training image as a view frame and an end frame, respectively; Extracting one or more intermediate frames between a frame corresponding to the viewpoint frame and a frame corresponding to the end point frame and a relative time of each of the one or more intermediate frames from the training image; And training the artificial neural network using the relative time of each of the view frame, the end frame, the one or more intermediate frames, and the one or more intermediate frames.
상기 하나 이상의 중간 프레임 각각의 상대 시각은 상기 시점 프레임의 시각 및 상기 종점 프레임의 시각으로 정의되는 시구간 내에서 등간격으로 설정될 수 있다.The relative time of each of the one or more intermediate frames may be set at equal intervals within a time period defined by the time of the viewpoint frame and the time of the end frame.
상기 슬로모션 영상을 생성하는 단계는 상기 제1 프레임 및 상기 제2 프레임 사이에, 상기 적어도 하나의 제3 프레임이 상기 제1 속도에 대응되는 프레임 레이트로 표시되도록 상기 슬로모션 영상을 생성할 수 있다.In the generating of the slow motion image, the slow motion image may be generated so that the at least one third frame is displayed at a frame rate corresponding to the first speed between the first frame and the second frame. .
본 발명의 일 실시예에 따른 슬로모션 영상 생성 방법은, 상기 적어도 하나의 제3 프레임을 생성하는 단계 이전에 생성하고자 하는 제3 프레임의 수량을 결정하는 단계;를 더 포함할 수 있다. 이때 적어도 하나의 제3 프레임을 생성하는 단계는 상기 수량을 참조하여 상기 적어도 하나의 제3 프레임을 생성할 수 있다.The method for generating a slow motion image according to an embodiment of the present invention may further include determining the number of third frames to be generated prior to the step of generating the at least one third frame. In this case, generating the at least one third frame may generate the at least one third frame by referring to the quantity.
본 발명의 일 실시예에 따른 순차적인 N(N은 자연수)개의 이미지를 이용하여 M(M은 자연수, M>=N)개의 이미지를 포함하는 콘텐츠를 생성하는 방법은, 상기 N개의 이미지에 포함되고, 서로 인접하는 제1 이미지 및 제2 이미지를 선택하는 단계; 학습된 인공 신경망을 이용하여, 상기 제1 이미지로부터 상기 제2 이미지로 전환되는 과정을 묘사하는 적어도 하나의 제3 이미지를 생성하는 단계; 및 상기 제1 이미지, 상기 적어도 하나의 제3 이미지 및 상기 제2 이미지를 포함 할 수 있다.A method of generating content including M (M is a natural number, M>=N) images using sequential N (N is a natural number) images according to an embodiment of the present invention is included in the N images Selecting a first image and a second image adjacent to each other; Generating at least one third image describing a process of conversion from the first image to the second image using the learned artificial neural network; And the first image, the at least one third image, and the second image.
이때 상기 인공 신경망은 시점과 종점 사이의 하나 이상의 시각과 상기 하나 이상의 시각 각각에서의 이미지가 표지된 학습 데이터에 기반하여, 상기 학습 데이터에 포함되는 시점 이미지, 상기 학습 데이터에 포함되는 종점 이미지, 상기 하나 이상의 시각 및 상기 하나 이상의 시각 각각에서의 이미지 간의 상관관계를 학습한 신경망일 수 있다.In this case, the artificial neural network includes a viewpoint image included in the training data, an endpoint image included in the training data, and the at least one time between a viewpoint and an end point, and the image at each of the at least one time, It may be a neural network that learns a correlation between one or more views and images at each of the one or more views.
본 발명에 따르면 저속의 영상을 고속 영상으로 자연스럽게 변환할 수 있다.According to the present invention, a low-speed image can be naturally converted into a high-speed image.
또한 복수의 이미지를 포함하는 콘텐츠의 일부 이미지만을 작성하고, 나머지 이미지들을 작성된 이미지들로부터 자동으로 생성할 수 있다.In addition, only some images of content including a plurality of images may be created, and the remaining images may be automatically generated from the created images.
또한 하나의 주제에 대한 다양한 이미지들 간의 전환이 보다 자연스럽게 이루어지도록 할 수 있다.In addition, it is possible to make the transition between various images on one subject more natural.
도 1은 본 발명의 일 실시예에 따른 시스템의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 영상 생성 서버(100)에 구비되는 이미지 생성 장치(110)의 구성을 개략적으로 도시한 도면이다.
도 3은 이미지 생성 장치(110)에 의해 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 제3 속도의 학습 영상에 포함되는 프레임을 시계열적으로 도시한 도면이다.
도 5는 제4 속도의 샘플링 학습 영상에 포함되는 프레임을 시계열적으로 도시한 도면이다.
도 6은 생성된 하나의 학습 데이터 셋(511)을 설명하기 위한 도면이다.
도 7은 학습 데이터(510)를 이용하여 인공 신경망(520)을 학습하는 과정을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 제어부(112)가 슬로모션 영상을 생성하는 방법을 설명하기 위한 도면이다.
도 9는 생성된 슬로모션을 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 이미지 생성 장치(110)에 의해 수행되는 슬로모션 영상 생성 방법을 설명하기 위한 도면이다.
도 11은 이미지 콘텐츠에 포함된 이미지들을 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시예에 따른 이미지 생성 장치(110)에 의해 수행되는 콘텐츠 생성 방법을 설명하기 위한 도면이다.1 is a diagram schematically showing the configuration of a system according to an embodiment of the present invention.
2 is a diagram schematically showing the configuration of an
3 is a diagram for explaining an exemplary structure of an artificial neural network learned by the
4 is a time-series diagram illustrating frames included in a training image having a third speed according to an embodiment of the present invention.
5 is a diagram illustrating frames included in a sampling training image at a fourth rate in time series.
6 is a diagram for explaining one generated learning data set 511.
7 is a diagram for describing a process of learning an artificial
8 is a diagram for explaining a method of generating a slow motion image by the
9 is a diagram for explaining the generated slow motion.
10 is a diagram illustrating a method of generating a slow motion image performed by the
11 is a diagram for describing images included in image content.
12 is a diagram for explaining a content generation method performed by the
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다. Since the present invention can apply various transformations and have various embodiments, specific embodiments will be illustrated in the drawings and described in detail in the detailed description. Effects and features of the present invention, and a method of achieving them will be apparent with reference to the embodiments described later in detail together with the drawings. However, the present invention is not limited to the embodiments disclosed below and may be implemented in various forms.
이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, and when describing with reference to the drawings, the same or corresponding constituent elements are assigned the same reference numerals, and redundant descriptions thereof will be omitted. .
이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 이하의 실시예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 형태는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다. In the following embodiments, terms such as first and second are not used in a limiting meaning, but are used for the purpose of distinguishing one component from another component. In the following examples, the singular expression includes the plural expression unless the context clearly indicates otherwise. In the following embodiments, terms such as include or have means that the features or elements described in the specification are present, and do not preclude the possibility of adding one or more other features or elements in advance. In the drawings, components may be exaggerated or reduced in size for convenience of description. For example, the size and shape of each component shown in the drawings are arbitrarily shown for convenience of description, and thus the present invention is not necessarily limited to what is shown.
도 1은 본 발명의 일 실시예에 따른 시스템의 구성을 개략적으로 도시한 도면이다.1 is a diagram schematically showing the configuration of a system according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 일 실시예에 따른 시스템은 영상 생성 서버(100), 사용자 단말(200), 서비스 서버(300) 및 통신망(400)을 포함할 수 있다.Referring to FIG. 1, a system according to an embodiment of the present invention may include an
본 발명의 일 실시예에 따른 시스템은 학습된 인공 신경망을 이용하여 제1 속도의 원본 영상으로부터 제1 속도보다 빠른 제2 속도의 슬로모션 영상을 생성할 수 있다.The system according to an embodiment of the present invention may generate a slow-motion image of a second speed faster than the first speed from an original image having a first speed using the learned artificial neural network.
또한 본 발명의 다른 실시예에 따른 시스템은 학습된 인공 신경망을 이용하여 순차적인 N개의 이미지로부터 M(M>=N)개의 이미지를 포함하는 콘텐츠를 생성할 수 있다.In addition, the system according to another embodiment of the present invention may generate content including M (M>=N) images from N sequentially using the learned artificial neural network.
본 발명에서 영상의 '속도'는 단위 시간당 포함되는 프레임의 수에 비례하는 값일 수 있다. 따라서 본 발명에서 단위 시간당 포함되는 프레임의 수가 상대적으로 많은 영상은 속도가 빠른 영상, 높은 프레임 레이트(Frame rate)의 영상 또는 슬로 모션 영상으로 표현될 수 있다. 또한 단위 시간당 포함되는 프레임의 수가 상대적으로 적은 영상은 속도가 느린 영상 또는 낮은 프레임 레이트(Frame rate)의 영상으로 표현될 수 있다. In the present invention, the'speed' of an image may be a value proportional to the number of frames included per unit time. Accordingly, in the present invention, an image with a relatively large number of frames included per unit time may be expressed as an image having a high speed, an image having a high frame rate, or a slow motion image. In addition, an image with a relatively small number of frames included per unit time may be expressed as a slow image or a low frame rate image.
본 발명에서 영상의 '재생 속도' 또는 '표시 속도'는 전술한 영상의 '속도'와 구분되는 개념으로, 영상의 재생 시 단위시간 당 표시하는 프레임의 수를 의미할 수 있다. 따라서 영상의 속도가 빠름에도 불구하고 해당 영상의 표시 속도(또는 재생 속도)는 느릴 수 있고, 영상의 속도가 느림에도 불구하고 해당 영상의 표시 속도(또는 재생 속도)는 빠를 수 있다.In the present invention, the'playback speed' or'display speed' of an image is a concept that is distinguished from the'speed' of the image described above, and may mean the number of frames displayed per unit time when the image is reproduced. Therefore, despite the high speed of the video, the display speed (or playback speed) of the video may be slow, and the display speed (or playback speed) of the video may be high despite the slow speed of the video.
본 발명에서 '프레임'은 영상에 포함되는 장면(Scene), 이미지 컷(Image cut) 및 이미지(Image)를 의미할 수 있다. 따라서 본 발명에서 '영상'은 복수의 장면(또는 이미지 컷, 이미지)의 집합으로 이루어진 개체로, 복수의 장면이 소정의 시간 간격에 따라 배치되어 표시되는 개체를 의미할 수 있다. 가령 '영상'은 프레임레이트가 특정 값으로 정의되는 비디오 클립(Video Clip)을 의미할 수 있다.In the present invention, a'frame' may mean a scene, an image cut, and an image included in an image. Accordingly, in the present invention,'image' is an object composed of a set of a plurality of scenes (or image cuts, images), and may mean an object in which a plurality of scenes are arranged and displayed according to a predetermined time interval. For example,'video' may mean a video clip in which a frame rate is defined as a specific value.
본 발명에서 '콘텐츠'는 전술한 영상과 유사하게 복수의 장면(또는 이미지 컷, 이미지)의 집합으로 이루어진 개체로, 영상과 달리 표시 시간의 제한이 없는 개체를 의미할 수 있다. 가령 '콘텐츠'는 복수의 이미지를 포함하고, 이미지들이 가상의 2차원 공간(예를 들어 웹 페이지)상에 나열되는 웹 콘텐츠를 의미할 수 있다.In the present invention,'content' is an object consisting of a set of a plurality of scenes (or image cuts, images) similar to the above-described image, and unlike an image, it may mean an object without limitation of display time. For example,'content' may refer to web content including a plurality of images, and in which images are arranged in a virtual two-dimensional space (eg, a web page).
본 발명에서 '인공 신경망'은 전술한 '영상' 또는 전술한 '콘텐츠'의 생성에 적합하게 학습된 신경망으로, 머신 러닝(Machine Learning) 또는 딥러닝(Deep Learning) 기법에 의해 학습된 신경망을 의미할 수 있다. 이와 같은 신경망의 구조에 대해서는 도 3을 참조하여 후술한다.In the present invention, the'artificial neural network' is a neural network that has been trained appropriately for the generation of the aforementioned'image' or the aforementioned'content', and means a neural network that is learned by machine learning or deep learning. can do. The structure of such a neural network will be described later with reference to FIG. 3.
본 발명의 일 실시예에 따른 사용자 단말(200)은 사용자가 영상 생성 서버(100) 및/또는 서비스 서버(300)에 의해 제공되는 다양한 서비스를 이용할 수 있도록 사용자와 영상 생성 서버(100) 및/또는 서비스 서버(300)를 매개하는 다양한 형태의 장치를 의미할 수 있다. The
바꾸어 말하면, 본 발명의 일 실시예에 따른 사용자 단말(200)은 영상 생성 서버(100) 및/또는 서비스 서버(300)와 데이터를 송수신 하는 다양한 장치를 의미할 수 있다.In other words, the
이와 같은 사용자 단말(200)은 도 1에 도시된 바와 같이, 휴대용 단말(201, 202, 203)을 의미할 수도 있고, 컴퓨터(204)를 의미할 수도 있다. As illustrated in FIG. 1, the
한편 사용자 단말(200)은 상술한 기능을 수행하기 위해 콘텐츠 등을 표시하기 위한 표시수단, 이러한 콘텐츠에 대한 사용자의 입력을 획득하기 위한 입력수단을 구비할 수 있다. 이 때 입력수단 및 표시수단은 다양하게 구성될 수 있다. 가령 입력수단은 키보드, 마우스, 트랙볼, 마이크, 버튼, 터치패널 등을 포함할 수 있으나 이에 한정되지 않는다. Meanwhile, the
본 발명의 일 실시예에 따른 통신망(400)은 시스템의 각 구성 간의 데이터 송수신을 매개하는 통신망을 의미할 수 있다. 가령 통신망(400)은 LANs(Local Area Networks), WANs(Wide Area Networks), MANs(Metropolitan Area Networks), ISDNs(Integrated Service Digital Networks) 등의 유선 네트워크나, 무선 LANs, CDMA, 블루투스, 위성 통신 등의 무선 네트워크를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.The
본 발명의 일 실시예에 따른 서비스 서버(300)는 서버(100)에 의해 학습된 인공 신경망을 이용하여 슬로모션 영상 생성 서비스를 제공하는 장치 또는 콘텐츠 생성 서비스를 제공하는 장치를 의미할 수 있다. 이와 같은 서비스 서버(300)는 도 1에 도시된 바와 같이 영상 생성 서버(100)와 구분되는 별개의 장치일 수도 있고, 영상 생성 서버(100)와 일체로 구성되는(즉 영상 생성 서버(100)에 포함되는)장치일 수도 있다.The
본 발명의 일 실시예에 따른 서버(100)는 학습된 인공 신경망을 이용하여 제1 속도의 원본 영상으로부터 제1 속도보다 빠른 제2 속도의 슬로모션 영상을 생성할 수 있다. 또한 본 발명의 다른 실시예에 따른 서버(100)는 학습된 인공 신경망을 이용하여 순차적인 N개의 이미지로부터 M(M>=N)개의 이미지를 포함하는 콘텐츠를 생성할 수 있다.The
도 2는 본 발명의 일 실시예에 따른 영상 생성 서버(100)에 구비되는 이미지 생성 장치(110)의 구성을 개략적으로 도시한 도면이다.2 is a diagram schematically showing the configuration of an
도 2를 참조하면, 본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 통신부(111), 제어부(112) 및 메모리(113)를 포함할 수 있다. 또한 도면에는 도시되지 않았으나, 본 실시예에 따른 이미지 생성 장치(110)는 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다. Referring to FIG. 2, an
통신부(111)는 이미지 생성 장치(110)가 사용자 단말(200) 및/또는 서비스 서버(300)와 같은 다른 네트워크 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다. The
제어부(112)는 프로세서(Processor)와 같이 데이터를 처리할 수 있는 모든 종류의 장치를 포함할 수 있다. 여기서, '프로세서(Processor)'는, 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.The
메모리(113)는 이미지 생성 장치(110)가 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 메모리는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다. 가령 메모리(113)는 인공 신경망을 구성하는 데이터들(가령 계수들)을 일시적 및/또는 영구적으로 저장할 수 있다. 물론 메모리(113)는 인공 신경망을 학습하기 위한 학습 데이터도 저장할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.The
도 3은 본 발명의 이미지 생성 장치(110)에 의해 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다. 3 is a diagram for explaining an exemplary structure of an artificial neural network learned by the
본 발명의 일 실시예에 따른 신경망은 도 3에 도시된 바와 같은 합성 곱 신경망(CNN: Convolutional Neural Network) 모델에 따른 신경망일 수 있다. 이때 CNN 모델은 복수의 연산 레이어(Convolutional Layer, Pooling Layer)를 번갈아 수행하여 최종적으로는 입력 데이터의 특징을 추출하는 데 사용되는 계층 모델일 수 있다.The neural network according to an embodiment of the present invention may be a neural network according to a convolutional neural network (CNN) model as shown in FIG. 3. At this time, the CNN model may be a hierarchical model used to finally extract features of input data by alternately performing a plurality of computational layers (Convolutional Layer, Pooling Layer).
본 발명의 일 실시예에 따른 이미지 생성 장치(110)의 제어부(112)는 학습 데이터를 지도학습(Supervised Learning) 기법에 따라 처리하여 신경망 모델을 구축하거나 학습시킬 수 있다. The
본 발명의 일 실시예에 따른 제어부(112)는 입력 데이터의 특징 값을 추출하기 위한 컨볼루션 레이어(Convolution layer), 추출된 특징 값을 결합하여 특징 맵을 구성하는 풀링 레이어(pooling layer)를 생성할 수 있다. The
또한 본 발명의 일 실시예에 따른 제어부(112)는 생성된 특징 맵을 결합하여, 입력 데이터가 복수의 항목 각각에 해당할 확률을 결정할 준비를 하는 풀리 커넥티드 레이어(Fully Conected Layer)를 생성할 수 있다. In addition, the
마지막으로 제어부(112)는 입력 데이터가 복수의 항목 각각에 해당할 확률을 포함하는 아웃풋 레이어(Output Layer)를 산출할 수 있다.Finally, the
도 3에 도시된 예시에서는, 입력 데이터가 이미지 형태의 데이터(가령 원본 영상)로, 5X7 형태의 블록으로 나누어지며, 컨볼루션 레이어의 생성에 5X3 형태의 단위 블록이 사용되고, 풀링 레이어의 생성에 1X4 또는 1X2 형태의 단위 블록이 사용되는 것으로 도시되었지만, 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 입력 데이터의 종류 및/또는 각 블록의 크기는 다양하게 구성될 수 있다.In the example shown in FIG. 3, the input data is image-type data (e.g., original image), divided into 5X7-type blocks, a 5X3-type unit block is used to generate the convolution layer, and 1X4 is used to create the pooling layer. Or, although it is shown that a 1X2 type unit block is used, this is exemplary and the spirit of the present invention is not limited thereto. Accordingly, the type of input data and/or the size of each block may be configured in various ways.
한편 이와 같은 신경망은 전술한 메모리(113)에 신경망을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들의 형태로 저장될 수 있다. 물론 인공 신경망의 구조 또한 메모리(113)에 소스코드 및/또는 프로그램의 형태로 저장될 수 있다.Meanwhile, the neural network may be stored in the above-described
도 3에서 설명한 신경망의 종류 및/또는 구조는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 다양한 종류의 모델의 신경망이 명세서를 통하여 설명하는 '신경망'에 해당할 수 있다.The type and/or structure of the neural network described in FIG. 3 is exemplary, and the spirit of the present invention is not limited thereto. Therefore, a neural network of various types may correspond to a'neural network' described through a specification.
본 발명에서 인공 신경망은 일 실시예에 따라 슬로모션 영상을 생성하도록 학습될 수도 있고, 복수의 이미지를 포함하는 콘텐츠를 생성하도록 학습될수도 있다. 이하에서는 제어부(112)가 슬로모션 영상을 생성하는 방법을 먼저 설명하고, 이미지 콘텐츠를 생성하는 방법을 나중에 설명한다.In the present invention, the artificial neural network may be trained to generate a slow-motion image or may be trained to generate content including a plurality of images according to an embodiment. Hereinafter, a method for the
< 슬로모션 영상 생성 방법 ><How to create slow motion video>
본 발명의 일 실시예에 따른 제어부(112)는 학습된 인공 신경망을 이용하여 제1 속도의 원본 영상으로부터 제1 속도보다 빠른 제2 속도의 슬로모션 영상을 생성할 수 있다. The
이를 위해 본 발명의 일 실시예에 따른 제어부(112)는 인공 신경망을 학습시킬 수 있다. 본 실시예에서 인공 신경망은 시점 프레임, 종점 프레임, 하나 이상의 시각 및 하나 이상의 시각 각각에서의 프레임 간의 상관관계를 학습한 신경망일 수 있다. To this end, the
이때 '시점'은 영상의 시작점, '종점'은 영상의 종료점, '하나 이상의 시각'은 시점과 종점 사이의 임의의 시각을 의미할 수 있다. 또한 하나 이상의 시각과 하나 이상의 시각 각각에서의 프레임은 학습데이터의 표지 데이터로써 사용될 수 있다.In this case,'start point' may mean a start point of an image,'end point' means an end point of an image, and'one or more times' may mean an arbitrary time between a view point and an end point. In addition, the frames at one or more times and at least one time may be used as cover data of the learning data.
도 4 내지 도 7을 함께 참조하여, 제어부(112)가 인공 신경망을 학습하는 과정을 보다 상세히 살펴본다. With reference to FIGS. 4 to 7 together, a process in which the
도 4는 본 발명의 일 실시예에 따른 제3 속도의 학습 영상에 포함되는 프레임(Study Frame 1 내지 Study Frame 12)을 시계열적으로 도시한 도면이다. 도 5는 제4 속도의 샘플링 학습 영상에 포함되는 프레임(Sampled Frame 1 내지 Sampled Frame 4)을 시계열적으로 도시한 도면이다. 도 6은 생성된 하나의 학습 데이터 셋(511)을 설명하기 위한 도면이다. 도 7은 학습 데이터(510)를 이용하여 인공 신경망(520)을 학습하는 과정을 설명하기 위한 도면이다.FIG. 4 is a time-series diagram illustrating frames (
본 발명의 일 실시예에 따른 제어부(112)는 제3 속도인 학습 영상을 제3 속도보다 느린 제4 속도의 영상으로 샘플링(Sampling) 하여 샘플링 학습 영상을 생성할 수 있다.The
전술한 바와 같이 본 발명에서 영상의 '속도'는 단위 시간당 포함되는 프레임의 수에 비례하는 값일 수 있다. 따라서 제3 속도인 학습 영상은 제4 속도인 샘플링 학습 영상 보다 단위 시간 내에 더 많은 프레임을 포함할 수 있다. 가령 제3 속도인 학습 영상은 도 4에 도시된 바와 같이 단위 시간 내에 12개의 프레임을 포함할 수 있고, 제4 속도인 샘플링 학습 영상은 도 5에 도시된 바와 같이 단위 시간 내에 4개의 프레임을 포함할 수 있다.As described above, in the present invention, the'speed' of an image may be a value proportional to the number of frames included per unit time. Therefore, the training image having the third rate may include more frames within a unit time than the sampling training image having the fourth rate. For example, a training image having a third rate may include 12 frames within a unit time as shown in FIG. 4, and a sampling training image having a fourth rate includes 4 frames within a unit time as shown in FIG. can do.
한편 샘플링 학습 영상에 포함되는 프레임은 학습 영상에 포함되는 프레임들 중 일부 프레임에 해당할 수 있다. 가령 샘플링 학습 영상의 첫 번째 프레임(Sampled Frame 1)은 학습 영상의 첫 번째 프레임(Study Frame 1)에 해당할 수 있고, 샘플링 학습 영상의 두 번째 프레임(Sampled Frame 2)은 학습 영상의 네 번째 프레임(Study Frame 4)에 해당할 수 있다. 물론 샘플링 학습 영상의 세 번째 프레임(Sampled Frame 3) 및 네 번째 프레임(Sampled Frame 4)은 각각 학습 영상의 일곱 번째 프레임(Study Frame 7) 및 열 번째 프레임(Study Frame 10)에 해당할 수 있다.Meanwhile, the frames included in the sampling training image may correspond to some of the frames included in the training image. For example, the first frame (Sampled Frame 1) of the sampling training image may correspond to the first frame (Study Frame 1) of the training image, and the second frame (Sampled Frame 2) of the sampling training image is the fourth frame of the training image. It may correspond to (Study Frame 4). Of course, the third frame (Sampled Frame 3) and the fourth frame (Sampled Frame 4) of the sampling training image may correspond to the seventh frame (Study Frame 7) and the tenth frame (Study Frame 10), respectively.
본 발명의 일 실시예에 따른 제어부(112)는 샘플링된 학습 영상에 포함되는 프레임들 중 두 개의 프레임을 각각 시점 프레임 및 종점 프레임으로 선택할 수 있다. 이때 시점 프레임은 영상의 최초 프레임을 의미할 수 있고, 종점 프레임은 영상의 최후 프레임을 의미할 수 있다. 가령 제어부(112)는 도 6에 도시된 바와 같이 샘플링 학습 영상의 첫 번째 프레임(Sampled Frame 1)을 시점 프레임으로, 두 번째 프레임(Sampled Frame 2)을 종점 프레임으로 선택할 수 있다. 다만 이와 같은 선택은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니며, 프레임의 선택 간격은 1 프레임 간격 보다 더 클 수도 있다.The
본 발명의 일 실시예에 따른 제어부(112)는 선택된 시점 프레임에 대응되는 프레임과 선택된 종점 프레임에 대응되는 프레임 사이의 하나 이상의 중간 프레임을 학습 영상에서 추출할 수 있다. 가령 도 6에 도시된 바와 같이, 샘플링 학습 영상의 첫 번째 프레임(Sampled Frame 1)이 시점 프레임으로, 두 번째 프레임(Sampled Frame 2)이 종점 프레임으로 선택된 경우, 제어부(112)는 학습 영상에서 시점 프레임에 대응되는 프레임(즉 Study Frame 1) 및 종점 프레임에 대응되는 프레임(즉 Study Frame 4)을 식별하고, 그 사이의 하나 이상의 프레임(즉 Study Frame 2, Study Frame 3)을 학습 영상으로부터 추출할 수 있다.The
또한 제어부(112)는 추출된 하나 이상의 중간 프레임 각각의 상대 시각을 추출할 수 있다. 가령 도 6에 도시된 바와 같이 시점 프레임을 상대 시각 0, 종점 프레임을 상대 시각 1이라고 가정할 때, 제어부(112)는 추출된 두 개의 프레임의 상대 시각을 1/3 시간 간격인 것으로 추출할 수 있다. In addition, the
본 발명의 일 실시예에서 제어부(112)는 하나 이상의 중간 프레임 각각의 상대 시각을 시점 프레임의 시각 및 종점 프레임의 시각으로 정의되는 시구간 내에서 등간격(예를 들어 1/3)으로 설정할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.In an embodiment of the present invention, the
본 발명의 일 실시예에 따른 제어부(112)는 선택된 시점 프레임(Sampled Frame 1), 선택된 종점 프레임(Sampled Frame 2), 추출된 중간 프레임(Study Frame 2, 3) 및 각 프레임 간의 상대 시각(511A)을 포함하는 학습 데이터 셋(511)을 생성할 수 있다. The
본 발명의 일 실시예에 따른 제어부(112)는 상술한 과정에 따라 복수의 학습 데이터 셋을 생성하고, 생성된 복수의 학습 데이터 셋을 포함하는 학습 데이터(510)를 생성하고 이를 이용하여 인공 신경망(520)을 학습시킬 수 있다.The
본 발명의 일 실시예에 따른 제어부(112)는 학습 데이터(510)를 이용하여 인공 신경망(520)을 학습 시킴으로써, 인공 신경망(520)이 시점 프레임과 종점 프레임의 입력에 따라 시점과 종점 사이의 하나 이상의 시각 각각에서의 프레임을 출력하도록 학습할 수 있다.The
학습 데이터(510)를 이용한 학습 과정 중에, 인공 신경망(520)을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들이 갱신(또는 업데이트) 되는 방식으로 학습이 진행될 수 있다.During the learning process using the
한편 시점과 종점 사이의 하나 이상의 시각과 각각의 시각에서의 프레임은 시점 프레임 및 종점 프레임과 소정의 상관 관계가 있는 프레임일 수 있다.Meanwhile, at least one time between the viewpoint and the end point and the frame at each time may be a frame having a predetermined correlation with the viewpoint frame and the end point frame.
이하에서는 인공 신경망이 상술한 과정에 따라 학습되어있음을 전제로, 도 8을 참조하여 슬로모션 영상을 생성하는 방법을 설명한다.Hereinafter, a method of generating a slow motion image will be described with reference to FIG. 8 on the premise that the artificial neural network is learned according to the above-described process.
본 발명의 일 실시예에 따른 제어부(112)는 원본 영상에서 슬로모션 영상의 시점이 되는 제1 프레임(Input frame 1) 및 슬로모션 영상의 종점이 되는 제2 프레임(Input frame 2)을 선택할 수 있다. 이때 '원본 영상'은 슬로모션 영상 보다 느린 속도의 영상으로 다양한 방식으로 획득되는 영상을 의미할 수 있다. 가령 원본 영상은 사용자 단말(200)의 사용자가 슬로모션 영상의 생성을 위해 사용자 단말(200)을 이용하여 서버(100)에 전송한 영상을 의미할 수 있다. 또한 원본 영상은 슬로모션 서비스를 제공하는 제3 자가 자신의 서비스를 위해 고객 단말(미도시)로부터 수신한 영상을 서버(100)로 전달한 것 일 수 있다. 다만 이는 예시적인것으로, 원본 영상은 슬로모션 영상으로 변환하고자 하는 대상 영상이면 충분하다.The
한편 제1 프레임(Input frame 1) 및 제2 프레임(Input frame 2)은 사용자의 입력을 수신하여 선택할 수도 있고, 소정의 규칙에 따라 선택할 수도 있다. 사용자의 입력에 기초하여 선택되는 경우, 사용자는 원본 영상 내에서 슬로모션으로 생성하고자 하는 구간의 시점과 종점을 선택하여 서버(100)로 전송할 수 있다. 한편 제1 프레임(Input frame 1) 및 제2 프레임(Input frame 2)이 소정의 규칙에 따라 선택되는 경우, 제어부(112)는 기 설정된 규칙에 따라 슬로모션으로 생성하고자 하는 구간의 시점과 종점을 선택할 수 있다. 예를 들어 제어부(112)는 원본 영상의 가장 첫 프레임과 가장 마지막 프레임을 각각 제1 프레임(Input frame 1) 및 제2 프레임(Input frame 2)으로 선택할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.Meanwhile, the first frame (Input frame 1) and the second frame (Input frame 2) may be selected by receiving a user input or may be selected according to a predetermined rule. In the case of selection based on the user's input, the user may select a start point and an end point of a section to be generated in slow motion within the original image and transmit it to the
본 발명의 일 실시예에 따른 제어부(112)는 학습된 인공 신경망(520)을 이용하여 선택된 제1 프레임(Input frame 1)으로부터 선택된 제2 프레임(Input frame 2)으로 전환되는 과정을 묘사하는 적어도 하나의 제3 프레임(Output frame 1 내지 Output frame 3)을 생성하고, 제3 프레임 각각의 표시 시점(상대 시점)을 결정할 수 있다. The
본 발명의 다른 실시예에서, 제어부(112)는 제3 프레임(Output frame 1 내지 Output frame 3) 생성 조건(Conditions)을 더 고려하여, 제3 프레임(Output frame 1 내지 Output frame 3)을 생성할 수도 있다. 이때 조건(Conditions)은 제3 프레임의 생성 수량(가령 3개) 및 생성 간격(가령 1/4 상대 시간) 중 적어도 하나를 포함할 수 있다. 이러한 경우 인공 신경망(520)은 제3 프레임 생성 조건을 더 포함하여 학습될 수 있다.In another embodiment of the present invention, the
본 발명의 일 실시예에 따른 제어부(112)는 도 9에 도시된 바와 같이 제1 프레임(Input Frame 1), 적어도 하나의 제3 프레임(Output Frame 1 내지 Output Frame 3) 및 제2 프레임(Input Frame 2)을 포함하는 슬로모션 영상(610)을 생성할 수 있다.As shown in FIG. 9, the
이때 본 발명의 일 실시예에 따른 제어부(112)는 제1 프레임 (Input Frame 1) 및 제2 프레임(Input Frame 2) 사이에, 적어도 하나의 제3 프레임(Output Frame 1 내지 Output Frame 3)이 제1 속도에 대응되는 프레임 레이트로 표시되도록 슬로모션 영상(610)을 생성할 수 있다. At this time, the
가령 원본 영상의 속도인 제1 속도가 단위시간당 1개의 프레임인 경우를 가정해 보자. 이러한 경우 하나의 단위 시간 당 1개의 프레임만이 표시될 수 있다. 한편 상술한 과정에 의해 3개의 제3 프레임이 생성된 경우 당위시간 당 4개의 프레임, 즉 원본 영상의 프레임 1개와 생성된 3개의 제3 프레임이 표시되어야 영상이 자연스럽게(즉 영상 내의 개체의 움직임 속도가 원본 영상과 동일하게) 표시될 수 있다. For example, assume that the first speed, which is the speed of the original video, is one frame per unit time. In this case, only one frame may be displayed per unit time. Meanwhile, when three third frames are generated by the above-described process, four frames per current time, that is, one frame of the original image and the generated three third frames must be displayed to make the image natural (that is, the movement speed of the object in the image). May be displayed in the same way as the original image).
한편 단위시간 당 4개의 프레임이 재생되는 속도(제2 속도와 동일한 속도)는 원본영상의 속도인 제1 속도보다 빠른 속도일 수 있고, 제2 속도에 따라 단위시간 당 4개의 프레임을 재생할 경우 영상이 보다 자연스럽게 연결되는 것은 별론으로 하더라도, 슬로우모션과 같이 영상 내 개체의 움직임이 천천히 묘사되지는 않는다.Meanwhile, the speed at which four frames per unit time are played (same speed as the second speed) may be faster than the first speed, which is the speed of the original video, and if four frames per unit time are played according to the second speed, the video Apart from this more natural connection, the motion of the object in the video is not described slowly like in slow motion.
따라서 본 발명의 일 실시예에 따른 제어부(112)는 생성된 슬로모션 영상(610)이 제1 속도(즉 원본 영상의 속도)에 대응되는 프레임 레이트(또는 재생 속도)로 표시되도록 하여 프레임 간의 전환이 자연스럽게 이루어지도록 함과 동시에, 영상 내의 개체의 움직임을 천천히 묘사할 수 있도록 한다. 이로써 본 발명은 저속으로 촬영된 영상으로부터 고속 촬영 영상을 생성함으로써 보다 생동감 있는 영상을 제공할 수 있다.Therefore, the
도 10은 본 발명의 일 실시예에 따른 이미지 생성 장치(110)에 의해 수행되는 슬로모션 영상 생성 방법을 설명하기 위한 도면이다. 이하에서는 도 1 내지 도 9에서 설명한 내용과 중복되는 내용의 설명은 생략하되, 도 1 내지 도 9를 함께 참조하여 설명한다.10 is a diagram for explaining a method of generating a slow motion image performed by the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 인공 신경망을 학습시킬 수 있다.(S121) 본 실시예에서 인공 신경망은 시점 프레임, 종점 프레임, 하나 이상의 시각 및 하나 이상의 시각 각각에서의 프레임 간의 상관관계를 학습한 신경망일 수 있다. The
이때 '시점'은 영상의 시작점, '종점'은 영상의 종료점, '하나 이상의 시각'은 시점과 종점 사이의 임의의 시각을 의미할 수 있다. 또한 하나 이상의 시각과 하나 이상의 시각 각각에서의 프레임은 학습데이터의 표지 데이터로써 사용될 수 있다.In this case,'start point' may mean a start point of an image,'end point' means an end point of an image, and'one or more times' may mean an arbitrary time between a view point and an end point. In addition, the frames at one or more times and at least one time may be used as cover data of the learning data.
도 4 내지 도 7을 함께 참조하여, 이미지 생성 장치(110)가 인공 신경망을 학습하는 과정을 보다 상세히 살펴본다. With reference to FIGS. 4 to 7 together, a process in which the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 제3 속도인 학습 영상을 제3 속도보다 느린 제4 속도의 영상으로 샘플링(Sampling) 하여 샘플링 학습 영상을 생성할 수 있다.The
전술한 바와 같이 본 발명에서 영상의 '속도'는 단위 시간당 포함되는 프레임의 수에 비례하는 값일 수 있다. 따라서 제3 속도인 학습 영상은 제4 속도인 샘플링 학습 영상 보다 단위 시간 내에 더 많은 프레임을 포함할 수 있다. 가령 제3 속도인 학습 영상은 도 4에 도시된 바와 같이 단위 시간 내에 12개의 프레임을 포함할 수 있고, 제4 속도인 샘플링 학습 영상은 도 5에 도시된 바와 같이 단위 시간 내에 4개의 프레임을 포함할 수 있다.As described above, in the present invention, the'speed' of an image may be a value proportional to the number of frames included per unit time. Therefore, the training image having the third rate may include more frames within a unit time than the sampling training image having the fourth rate. For example, a training image having a third rate may include 12 frames within a unit time as shown in FIG. 4, and a sampling training image having a fourth rate includes 4 frames within a unit time as shown in FIG. can do.
한편 샘플링 학습 영상에 포함되는 프레임은 학습 영상에 포함되는 프레임들 중 일부 프레임에 해당할 수 있다. 가령 샘플링 학습 영상의 첫 번째 프레임(Sampled Frame 1)은 학습 영상의 첫 번째 프레임(Study Frame 1)에 해당할 수 있고, 샘플링 학습 영상의 두 번째 프레임(Sampled Frame 2)은 학습 영상의 네 번째 프레임(Study Frame 4)에 해당할 수 있다. 물론 샘플링 학습 영상의 세 번째 프레임(Sampled Frame 3) 및 네 번째 프레임(Sampled Frame 4)은 각각 학습 영상의 일곱 번째 프레임(Study Frame 7) 및 열 번째 프레임(Study Frame 10)에 해당할 수 있다.Meanwhile, the frames included in the sampling training image may correspond to some of the frames included in the training image. For example, the first frame (Sampled Frame 1) of the sampling training image may correspond to the first frame (Study Frame 1) of the training image, and the second frame (Sampled Frame 2) of the sampling training image is the fourth frame of the training image. It may correspond to (Study Frame 4). Of course, the third frame (Sampled Frame 3) and the fourth frame (Sampled Frame 4) of the sampling training image may correspond to the seventh frame (Study Frame 7) and the tenth frame (Study Frame 10), respectively.
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 샘플링된 학습 영상에 포함되는 프레임들 중 두 개의 프레임을 각각 시점 프레임 및 종점 프레임으로 선택할 수 있다. 이때 시점 프레임은 영상의 최초 프레임을 의미할 수 있고, 종점 프레임은 영상의 최후 프레임을 의미할 수 있다. 가령 이미지 생성 장치(110)는 도 6에 도시된 바와 같이 샘플링 학습 영상의 첫 번째 프레임(Sampled Frame 1)을 시점 프레임으로, 두 번째 프레임(Sampled Frame 2)을 종점 프레임으로 선택할 수 있다. 다만 이와 같은 선택은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니며, 프레임의 선택 간격은 1 프레임 간격 보다 더 클 수도 있다.The
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 선택된 시점 프레임에 대응되는 프레임과 선택된 종점 프레임에 대응되는 프레임 사이의 하나 이상의 중간 프레임을 학습 영상에서 추출할 수 있다. 가령 도 6에 도시된 바와 같이, 샘플링 학습 영상의 첫 번째 프레임(Sampled Frame 1)이 시점 프레임으로, 두 번째 프레임(Sampled Frame 2)이 종점 프레임으로 선택된 경우, 이미지 생성 장치(110)는 학습 영상에서 시점 프레임에 대응되는 프레임(즉 Study Frame 1) 및 종점 프레임에 대응되는 프레임(즉 Study Frame 4)을 식별하고, 그 사이의 하나 이상의 프레임(즉 Study Frame 2, Study Frame 3)을 학습 영상으로부터 추출할 수 있다.The
또한 이미지 생성 장치(110)는 추출된 하나 이상의 중간 프레임 각각의 상대 시각을 추출할 수 있다. 가령 도 6에 도시된 바와 같이 시점 프레임을 상대 시각 0, 종점 프레임을 상대 시각 1이라고 가정할 때, 이미지 생성 장치(110)는 추출된 두 개의 프레임의 상대 시각을 1/3 시간 간격인 것으로 추출할 수 있다. Also, the
본 발명의 일 실시예에서 이미지 생성 장치(110)는 하나 이상의 중간 프레임 각각의 상대 시각을 시점 프레임의 시각 및 종점 프레임의 시각으로 정의되는 시구간 내에서 등간격(예를 들어 1/3)으로 설정할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.In an embodiment of the present invention, the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 선택된 시점 프레임(Sampled Frame 1), 선택된 종점 프레임(Sampled Frame 2), 추출된 중간 프레임(Study Frame 2, 3) 및 각 프레임 간의 상대 시각(511A)을 포함하는 학습 데이터 셋(511)을 생성할 수 있다. The
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 상술한 과정에 따라 복수의 학습 데이터 셋을 생성하고, 생성된 복수의 학습 데이터 셋을 포함하는 학습 데이터(510)를 생성하고 이를 이용하여 인공 신경망(520)을 학습시킬 수 있다.The
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 학습 데이터(510)를 이용하여 인공 신경망(520)을 학습 시킴으로써, 인공 신경망(520)이 시점 프레임과 종점 프레임의 입력에 따라 시점과 종점 사이의 하나 이상의 시각 각각에서의 프레임을 출력하도록 학습할 수 있다.The
학습 데이터(510)를 이용한 학습 과정 중에, 인공 신경망(520)을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들이 갱신(또는 업데이트) 되는 방식으로 학습이 진행될 수 있다.During the learning process using the
한편 시점과 종점 사이의 하나 이상의 시각과 각각의 시각에서의 프레임은 시점 프레임 및 종점 프레임과 소정의 상관 관계가 있는 프레임일 수 있다.Meanwhile, at least one time between the viewpoint and the end point and the frame at each time may be a frame having a predetermined correlation with the viewpoint frame and the end point frame.
이하에서는 인공 신경망이 상술한 과정에 따라 학습되어있음을 전제로, 도 8을 참조하여 슬로모션 영상을 생성하는 방법을 설명한다.Hereinafter, a method of generating a slow motion image will be described with reference to FIG. 8 on the premise that the artificial neural network is learned according to the above-described process.
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 원본 영상에서 슬로모션 영상의 시점이 되는 제1 프레임(Input frame 1) 및 슬로모션 영상의 종점이 되는 제2 프레임(Input frame 2)을 선택할 수 있다.(S122)The
이때 '원본 영상'은 슬로모션 영상 보다 느린 속도의 영상으로 다양한 방식으로 획득되는 영상을 의미할 수 있다. 가령 원본 영상은 사용자 단말(200)의 사용자가 슬로모션 영상의 생성을 위해 사용자 단말(200)을 이용하여 서버(100)에 전송한 영상을 의미할 수 있다. 또한 원본 영상은 슬로모션 서비스를 제공하는 제3 자가 자신의 서비스를 위해 고객 단말(미도시)로부터 수신한 영상을 서버(100)로 전달한 것 일 수 있다. 다만 이는 예시적인것으로, 원본 영상은 슬로모션 영상으로 변환하고자 하는 대상 영상이면 충분하다. In this case, the'original image' may refer to an image obtained in various ways as an image having a slower speed than a slow motion image. For example, the original image may refer to an image transmitted to the
한편 제1 프레임(Input frame 1) 및 제2 프레임(Input frame 2)은 사용자의 입력을 수신하여 선택할 수도 있고, 소정의 규칙에 따라 선택할 수도 있다. 사용자의 입력에 기초하여 선택되는 경우, 사용자는 원본 영상 내에서 슬로모션으로 생성하고자 하는 구간의 시점과 종점을 선택하여 서버(100)로 전송할 수 있다. 한편 제1 프레임(Input frame 1) 및 제2 프레임(Input frame 2)이 소정의 규칙에 따라 선택되는 경우, 이미지 생성 장치(110)는 기 설정된 규칙에 따라 슬로모션으로 생성하고자 하는 구간의 시점과 종점을 선택할 수 있다. 예를 들어 이미지 생성 장치(110)는 원본 영상의 가장 첫 프레임과 가장 마지막 프레임을 각각 제1 프레임(Input frame 1) 및 제2 프레임(Input frame 2)으로 선택할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.Meanwhile, the first frame (Input frame 1) and the second frame (Input frame 2) may be selected by receiving a user input or may be selected according to a predetermined rule. In the case of selection based on the user's input, the user may select a start point and an end point of a section to be generated in slow motion within the original image and transmit it to the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 학습된 인공 신경망(520)을 이용하여 선택된 제1 프레임(Input frame 1)으로부터 선택된 제2 프레임(Input frame 2)으로 전환되는 과정을 묘사하는 적어도 하나의 제3 프레임(Output frame 1 내지 Output frame 3)을 생성하고, 제3 프레임 각각의 표시 시점(상대 시점)을 결정할 수 있다.(S123)The
본 발명의 일 실시예에서, 이미지 생성 장치(110)는 제3 프레임(Output frame 1 내지 Output frame 3) 생성 조건(Conditions)을 더 고려하여, 제3 프레임(Output frame 1 내지 Output frame 3)을 생성할 수도 있다. 이때 조건(Conditions)은 제3 프레임의 생성 수량(가령 3개) 및 생성 간격(가령 1/4 상대 시간) 중 적어도 하나를 포함할 수 있다. 이러한 경우 인공 신경망(520)은 제3 프레임 생성 조건을 더 포함하여 학습될 수 있다.In one embodiment of the present invention, the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 도 9에 도시된 바와 같이 제1 프레임(Input Frame 1), 적어도 하나의 제3 프레임(Output Frame 1 내지 Output Frame 3) 및 제2 프레임(Input Frame 2)을 포함하는 슬로모션 영상(610)을 생성할 수 있다.(S124)The
이때 본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 제1 프레임 (Input Frame 1) 및 제2 프레임(Input Frame 2) 사이에, 적어도 하나의 제3 프레임(Output Frame 1 내지 Output Frame 3)이 제1 속도에 대응되는 프레임 레이트로 표시되도록 슬로모션 영상(610)을 생성할 수 있다. At this time, the
가령 원본 영상의 속도인 제1 속도가 단위시간당 1개의 프레임인 경우를 가정해 보자. 이러한 경우 하나의 단위 시간 당 1개의 프레임만이 표시될 수 있다. 한편 상술한 과정에 의해 3개의 제3 프레임이 생성된 경우 당위시간 당 4개의 프레임, 즉 원본 영상의 프레임 1개와 생성된 3개의 제3 프레임이 표시되어야 영상이 자연스럽게(즉 영상 내의 개체의 움직임 속도가 원본 영상과 동일하게) 표시될 수 있다. For example, assume that the first speed, which is the speed of the original video, is one frame per unit time. In this case, only one frame may be displayed per unit time. Meanwhile, when three third frames are generated by the above-described process, four frames per current time, that is, one frame of the original image and the generated three third frames must be displayed to make the image natural (that is, the movement speed of the object in the image). May be displayed in the same way as the original image).
한편 단위시간 당 4개의 프레임이 재생되는 속도(제2 속도와 동일한 속도)는 원본영상의 속도인 제1 속도보다 빠른 속도일 수 있고, 제2 속도에 따라 단위시간 당 4개의 프레임을 재생할 경우 영상이 보다 자연스럽게 연결되는 것은 별론으로 하더라도, 슬로우모션과 같이 영상 내 개체의 움직임이 천천히 묘사되지는 않는다.Meanwhile, the speed at which four frames per unit time are played (same speed as the second speed) may be faster than the first speed, which is the speed of the original video, and if four frames per unit time are played according to the second speed, the video Apart from this more natural connection, the motion of the object in the video is not described slowly like in slow motion.
따라서 본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 생성된 슬로모션 영상(610)이 제1 속도(즉 원본 영상의 속도)에 대응되는 프레임 레이트(또는 재생 속도)로 표시되도록 하여 프레임 간의 전환이 자연스럽게 이루어지도록 함과 동시에, 영상 내의 개체의 움직임을 천천히 묘사할 수 있도록 한다. 이로써 본 발명은 저속으로 촬영된 영상으로부터 고속 촬영 영상을 생성함으로써 보다 생동감 있는 영상을 제공할 수 있다.Therefore, the
< 콘텐츠 생성 방법 ><How to create content>
본 발명에서 '콘텐츠'는 전술한 영상과 유사하게 복수의 장면(또는 이미지 컷, 이미지)의 집합으로 이루어진 개체로, 영상과 달리 표시 시간의 제한이 없는 개체를 의미할 수 있다. 가령 '콘텐츠'는 복수의 이미지를 포함하고, 이미지들이 가상의 2차원 공간(예를 들어 웹 페이지)상에 나열되는 웹 콘텐츠를 의미할 수 있다.In the present invention,'content' is an object consisting of a set of a plurality of scenes (or image cuts, images) similar to the above-described image, and unlike an image, it may mean an object without limitation of display time. For example,'content' may refer to web content including a plurality of images, and in which images are arranged in a virtual two-dimensional space (eg, a web page).
따라서 본 발명의 일 실시예에 따른 콘텐츠 생성 방법은 재생 속도에 관한 요소를 제외하고, 전술한 슬로모션 영상 생성 방법과 사실상 동일한 방법일 수 있다.Therefore, the content generation method according to an embodiment of the present invention may be substantially the same as the above-described slow-motion image generation method, except for the factor related to the playback speed.
본 발명의 일 실시예에 따른 제어부(112)는 도 4 내지 도 7에서 설명한 인공 신경망 학습 방법과 동일한 방법으로 인공 신경망을 학습시킬 수 있다. 따라서 본 발명의 일 실시예에 따른 제어부(112)는 도 4 내지 도 6에서 설명한 방법에 따라 학습 데이터를 생성하고, 도 7에서 설명한 방법에 따라 생성된 학습 데이터를 이용하여 인공 신경망을 학습시킬 수 있다. The
본 발명의 일 실시예에 따른 제어부(112)는 학습된 인공 신경망과 순차적인 N(N은 자연수)개의 이미지를 이용하여, M(M은 자연수, M>=N)개의 이미지를 포함하는 콘텐츠를 생성할 수 있다. The
도 11을 참조하여 이를 보다 상세히 살펴보면, 본 발명의 일 실시예에 따른 제어부(112)는 N개의 이미지에 포함되고 서로 인접하는 제1 이미지(Image 1) 및 제2 이미지(Image 2)를 선택할 수 있다. Looking at this in more detail with reference to FIG. 11, the
이때 '제1 이미지(Image 1)'는 슬로 모션 생성 방법에서의 '제1 프레임'에, '제2 이미지(Image 2)'는 슬로 모션 생성 방법에서의 '제2 프레임'에, '제3 이미지(Image 3-1, 3-2)'는 슬로 모션 생성 방법에서의 '제3 프레임'에 각각 대응되는 개념일 수 있다. 한편 본 발명에서 이미지들이 '인접'하는 것은, 소정의 규칙에 따라 각 이미지에 부여된 식별 번호(또는 순번)이 인접하는 것을 의미할 수 있다.At this time, the'first image (Image 1)' is the'first frame' in the slow motion generation method, the'second image (Image 2)' is the'second frame' in the slow motion generation method, and the'third' The images (Images 3-1 and 3-2) may be concepts respectively corresponding to the “third frame” in the slow motion generation method. Meanwhile, in the present invention, when images are'adjacent', it may mean that identification numbers (or sequence numbers) assigned to each image are adjacent according to a predetermined rule.
본 발명에서 N개의 이미지는 콘텐츠의 생성을 위해 필요한 이미지로, 가령 사용자 단말(200)의 사용자가 전체 콘텐츠의 생성을 위해 생성한 콘텐츠를 구성하는 복수의 이미지 중 일부를 의미할 수 있다. In the present invention, the N images are images required for content generation, and may mean a part of a plurality of images constituting content generated by a user of the
바꾸어 말하면, 사용자는 큰 장면 변화에 대한 이미지(즉 N개의 이미지)만을 작성하고, 작성된 이미지를 이용하여 구체적인 장면 변화 과정에 관한 이미지를 (자동으로) 생성함으로써 전체 콘텐츠를 보다 빠르게 완성할 수 있다.In other words, the user can complete the entire content more quickly by creating only images (ie, N images) for a large scene change, and (automatically) creating an image for a specific scene change process using the created image.
한편 N개의 이미지는 소정의 규칙에 따라 제어부(112)가 선택한 이미지로, 하나의 주제를 나타내기 위한 콘텐츠의 생성을 위해 사용되는 이미지를 의미할 수 있다. 이때 소정의 규칙은 가령 이미지의 메타 데이터를 참조하여, 위치 정보를 기반으로, 촬영(생성) 시간을 기반으로, 관련 이벤트를 기반으로 또는 이미지 내에 포함된 개체의 유사성을 기반으로 선별된 이미지들일 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.Meanwhile, the N images are images selected by the
본 발명의 일 실시예에 따른 제어부(112)는 학습된 인공 신경망을 이용하여 제1 이미지(Image 1)로부터 제2 이미지(Image 2)로 전환되는 과정을 묘사하는 적어도 하나의 제3 이미지(Image 3-1, 3-2)를 생성할 수 있다. The
이때 본 발명의 일 실시예에 따른 제어부(112)는 제3 이미지 생성 조건을 더 고려하여, 제3 이미지를 생성할 수도 있다. 이때 조건(Conditions)은 제3 이미지(Image 3-1, 3-2)의 생성 수량(가령 2개)을 포함할 수 있다. 이러한 경우 인공 신경망은 제3 이미지 생성 조건을 더 포함하여 학습될 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.At this time, the
본 발명의 일 실시예에 따른 제어부(112)는 제1 이미지(Image 1), 적어도 하나의 제3 이미지(Image 3-1, 3-2) 및 제2 이미지(Image 2)를 포함하는 콘텐츠를 생성할 수 있다. 이때 본 발명의 일 실시예에 따른 제어부(112)는 웹 페이지로 정의되는 2차원 공간상에 제1 이미지(Image 1), 적어도 하나의 제3 이미지(Image 3-1, 3-2) 및 제2 이미지(Image 2)를 순차적으로 나열한 웹 콘텐츠를 생성할 수 있다.The
이로써 본 발명은 큰 장면 변화에 대한 이미지만을 작성하고, 학습된 인공 신경망을 이용하여 구체적인 장면 변화 과정에 관한 이미지를 생성함으로써 전체 콘텐츠를 보다 빠르게 완성할 수 있도록 할 수 있다.Accordingly, according to the present invention, only an image for a large scene change is created, and an image for a specific scene change process is generated using the learned artificial neural network, thereby enabling the entire content to be completed more quickly.
도 12는 본 발명의 일 실시예에 따른 이미지 생성 장치(110)에 의해 수행되는 콘텐츠 생성 방법을 설명하기 위한 도면이다. 이하에서는 도 11에서 설명한 내용과 중복되는 내용의 설명은 생략하되, 도 11을 함께 참조하여 설명한다.12 is a diagram for explaining a content generation method performed by the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 인공 신경망을 학습시킬 수 있다.(S131) 본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 도 4 내지 도 6에서 설명한 방법에 따라 학습 데이터를 생성하고, 도 7에서 설명한 방법에 따라 생성된 학습 데이터를 이용하여 인공 신경망을 학습시킬 수 있다. 인공 신경망의 학습에 관한 상세한 설명은 생략한다.The
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 N개의 이미지에 포함되고 서로 인접하는 제1 이미지(Image 1) 및 제2 이미지(Image 2)를 선택할 수 있다. (S132) The
이때 '제1 이미지(Image 1)'는 슬로 모션 생성 방법에서의 '제1 프레임'에, '제2 이미지(Image 2)'는 슬로 모션 생성 방법에서의 '제2 프레임'에, '제3 이미지(Image 3-1, 3-2)'는 슬로 모션 생성 방법에서의 '제3 프레임'에 각각 대응되는 개념일 수 있다. 한편 본 발명에서 이미지들이 '인접'하는 것은, 소정의 규칙에 따라 각 이미지에 부여된 식별 번호(또는 순번)이 인접하는 것을 의미할 수 있다.At this time, the'first image (Image 1)' is the'first frame' in the slow motion generation method, the'second image (Image 2)' is the'second frame' in the slow motion generation method, and the'third' The images (Images 3-1 and 3-2) may be concepts respectively corresponding to the “third frame” in the slow motion generation method. Meanwhile, in the present invention, when images are'adjacent', it may mean that identification numbers (or sequence numbers) assigned to each image are adjacent according to a predetermined rule.
본 발명에서 N개의 이미지는 콘텐츠의 생성을 위해 필요한 이미지로, 가령 사용자 단말(200)의 사용자가 전체 콘텐츠의 생성을 위해 생성한 콘텐츠를 구성하는 복수의 이미지 중 일부를 의미할 수 있다. In the present invention, the N images are images required for content generation, and may mean a part of a plurality of images constituting content generated by a user of the
바꾸어 말하면, 사용자는 큰 장면 변화에 대한 이미지(즉 N개의 이미지)만을 작성하고, 작성된 이미지를 이용하여 구체적인 장면 변화 과정에 관한 이미지를 (자동으로) 생성함으로써 전체 콘텐츠를 보다 빠르게 완성할 수 있다.In other words, the user can complete the entire content more quickly by creating only images (ie, N images) for a large scene change, and (automatically) creating an image for a specific scene change process using the created image.
한편 N개의 이미지는 소정의 규칙에 따라 이미지 생성 장치(110)가 선택한 이미지로, 하나의 주제를 나타내기 위한 콘텐츠의 생성을 위해 사용되는 이미지를 의미할 수 있다. 이때 소정의 규칙은 가령 이미지의 메타 데이터를 참조하여, 위치 정보를 기반으로, 촬영(생성) 시간을 기반으로, 관련 이벤트를 기반으로 또는 이미지 내에 포함된 개체의 유사성을 기반으로 선별된 이미지들일 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.Meanwhile, the N images are images selected by the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 학습된 인공 신경망을 이용하여 제1 이미지(Image 1)로부터 제2 이미지(Image 2)로 전환되는 과정을 묘사하는 적어도 하나의 제3 이미지(Image 3-1, 3-2)를 생성할 수 있다.(S133) The
이때 본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 제3 이미지 생성 조건을 더 고려하여, 제3 이미지를 생성할 수도 있다. 이때 조건(Conditions)은 제3 이미지(Image 3-1, 3-2)의 생성 수량(가령 2개)을 포함할 수 있다. 이러한 경우 인공 신경망은 제3 이미지 생성 조건을 더 포함하여 학습될 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.At this time, the
본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 제1 이미지(Image 1), 적어도 하나의 제3 이미지(Image 3-1, 3-2) 및 제2 이미지(Image 2)를 포함하는 콘텐츠를 생성할 수 있다.(S134) 이때 본 발명의 일 실시예에 따른 이미지 생성 장치(110)는 웹 페이지로 정의되는 2차원 공간상에 제1 이미지(Image 1), 적어도 하나의 제3 이미지(Image 3-1, 3-2) 및 제2 이미지(Image 2)를 순차적으로 나열한 웹 콘텐츠를 생성할 수 있다.The
이로써 본 발명은 큰 장면 변화에 대한 이미지만을 작성하고, 학습된 인공 신경망을 이용하여 구체적인 장면 변화 과정에 관한 이미지를 생성함으로써 전체 콘텐츠를 보다 빠르게 완성할 수 있도록 할 수 있다.Accordingly, according to the present invention, only an image for a large scene change is created, and an image for a specific scene change process is generated using the learned artificial neural network, thereby enabling the entire content to be completed more quickly.
이상 설명된 본 발명에 따른 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 저장하는 것일 수 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. The embodiment according to the present invention described above may be implemented in the form of a computer program that can be executed through various components on a computer, and such a computer program may be recorded in a computer-readable medium. In this case, the medium may store a program executable by a computer. Examples of media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical recording media such as CD-ROMs and DVDs, magnetic-optical media such as floptical disks, and And a ROM, RAM, flash memory, and the like, and may be configured to store program instructions.
한편, 상기 컴퓨터 프로그램은 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.Meanwhile, the computer program may be specially designed and configured for the present invention, or may be known and usable to those skilled in the computer software field. Examples of the computer program may include not only machine language codes such as those produced by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, "필수적인", "중요하게" 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.The specific implementations described in the present invention are examples and do not limit the scope of the present invention in any way. For brevity of the specification, descriptions of conventional electronic configurations, control systems, software, and other functional aspects of the systems may be omitted. In addition, the connection or connection members of the lines between the components shown in the drawings exemplarily represent functional connections and/or physical or circuit connections, and in an actual device, various functional connections or additional physical Connections, or circuit connections, may be represented. In addition, if there is no specific mention such as "essential", "important", etc., it may not be an essential component for the application of the present invention.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.Accordingly, the spirit of the present invention is limited to the above-described embodiments and should not be defined, and all ranges equivalent to or equivalently changed from the claims to be described later as well as the claims to be described later are the scope of the spirit of the present invention. It will be said to belong to.
100: 서버
110: 이미지 생성 장치
111: 통신부
112: 제어부
113: 메모리
200: 사용자 단말
300: 서비스 서버
400: 통신망100: server
110: image generating device
111: communication department
112: control unit
113: memory
200: user terminal
300: service server
400: communication network
Claims (9)
상기 원본 영상에서 상기 슬로모션 영상의 시점이 되는 제1 프레임 및 상기 슬로모션 영상의 종점이 되는 제2 프레임을 선택하는 단계;
학습된 인공 신경망을 이용하여, 상기 제1 프레임으로부터 상기 제2 프레임으로 전환되는 과정을 묘사하는 적어도 하나의 제3 프레임을 생성하는 단계로써, 상기 인공 신경망은 시점과 종점 사이의 하나 이상의 시각과 상기 하나 이상의 시각 각각에서의 프레임이 표지된 학습 데이터에 기반하여, 상기 학습 데이터에 포함되는 시점 프레임, 상기 학습 데이터에 포함되는 종점 프레임, 상기 하나 이상의 시각 및 상기 하나 이상의 시각 각각에서의 프레임 간의 상관관계를 학습한 신경망인 단계; 및
상기 제1 프레임, 상기 적어도 하나의 제3 프레임 및 상기 제2 프레임을 포함하는 상기 슬로모션 영상을 생성하는 단계;를 포함하는, 슬로모션 영상 생성 방법.In the method of generating a slow motion image of a second speed faster than the first speed from an original image of a first speed,
Selecting a first frame as a viewpoint of the slow-motion image and a second frame as an end point of the slow-motion image from the original image;
Using the learned artificial neural network, generating at least one third frame describing a process of transitioning from the first frame to the second frame, wherein the artificial neural network includes at least one time between a viewpoint and an end point and the A correlation between a viewpoint frame included in the learning data, an end point frame included in the learning data, the one or more times, and the frames at each of the one or more times, based on the learning data in which frames at each of the one or more times are marked A neural network that has learned And
Generating the slow-motion image including the first frame, the at least one third frame, and the second frame; including, a slow-motion image generation method.
상기 슬로모션 영상 생성 방법은
상기 제1 프레임 및 상기 제2 프레임을 선택하는 단계 이전에,
학습 데이터를 이용하여 상기 인공 신경망을 학습시키는 단계;를 더 포함하는, 슬로모션 영상 생성 방법.The method according to claim 1
The slow motion image generation method
Before the step of selecting the first frame and the second frame,
Learning the artificial neural network using training data; further comprising, a slow motion image generation method.
상기 인공 신경망을 학습시키는 단계는
제3 속도인 학습 영상을 상기 제3 속도보다 느린 제4 속도의 영상으로 샘플링 하여 샘플링 학습 영상을 생성하는 단계;
상기 샘플링 학습 영상에 포함되는 두 개의 프레임을 각각 시점 프레임 및 종점 프레임으로 선택하는 단계;
상기 학습 영상에서, 상기 시점 프레임에 대응되는 프레임과 상기 종점 프레임에 대응되는 프레임 사이의 하나 이상의 중간 프레임 및 상기 하나 이상의 중간 프레임 각각의 상대 시각을 추출하는 단계; 및
상기 시점 프레임, 상기 종점 프레임, 상기 하나 이상의 중간 프레임 및 상기 하나 이상의 중간 프레임 각각의 상대 시각을 이용하여 상기 인공 신경망을 학습시키는 단계;를 포함하는, 슬로모션 영상 생성 방법.The method according to 3
The step of training the artificial neural network
Generating a sampling learning image by sampling a learning image having a third speed as an image having a fourth speed slower than the third speed;
Selecting two frames included in the sampling training image as a view frame and an end frame, respectively;
Extracting one or more intermediate frames between a frame corresponding to the viewpoint frame and a frame corresponding to the end point frame and a relative time of each of the one or more intermediate frames from the training image; And
Learning the artificial neural network by using the relative time of each of the view frame, the end frame, the one or more intermediate frames, and the one or more intermediate frames; including, a slow motion image generation method.
상기 하나 이상의 중간 프레임 각각의 상대 시각은
상기 시점 프레임의 시각 및 상기 종점 프레임의 시각으로 정의되는 시구간 내에서 등간격으로 설정되는, 슬로모션 영상 생성 방법.
The method of claim 4
The relative time of each of the one or more intermediate frames
A method of generating a slow-motion image, which is set at equal intervals within a time period defined as a time of the view frame and a time of the end frame.
상기 슬로모션 영상을 생성하는 단계는
상기 제1 프레임 및 상기 제2 프레임 사이에, 상기 적어도 하나의 제3 프레임이 상기 제1 속도에 대응되는 프레임 레이트로 표시되도록 상기 슬로모션 영상을 생성하는, 슬로모션 영상 생성 방법.The method according to claim 1
Generating the slow motion image
Generating the slow-motion image between the first frame and the second frame so that the at least one third frame is displayed at a frame rate corresponding to the first speed.
상기 슬로모션 영상 생성 방법은
상기 적어도 하나의 제3 프레임을 생성하는 단계 이전에,
생성하고자 하는 제3 프레임의 수량을 결정하는 단계;를 더 포함하고,
상기 적어도 하나의 제3 프레임을 생성하는 단계는
상기 수량을 참조하여 상기 적어도 하나의 제3 프레임을 생성하는, 슬로모션 영상 생성 방법.The method according to claim 1
The slow motion image generation method
Before the step of generating the at least one third frame,
Further comprising; determining the number of third frames to be generated
Generating the at least one third frame
A method of generating a slow-motion image, generating the at least one third frame with reference to the quantity.
상기 N개의 이미지에 포함되고, 서로 인접하는 제1 이미지 및 제2 이미지를 선택하는 단계;
학습된 인공 신경망을 이용하여, 상기 제1 이미지로부터 상기 제2 이미지로 전환되는 과정을 묘사하는 적어도 하나의 제3 이미지를 생성하는 단계로써, 상기 인공 신경망은 시점과 종점 사이의 하나 이상의 시각과 상기 하나 이상의 시각 각각에서의 프레임이 표지된 학습 데이터에 기반하여, 상기 학습 데이터에 포함되는 시점 프레임, 상기 학습 데이터에 포함되는 종점 프레임, 상기 하나 이상의 시각 및 상기 하나 이상의 시각 각각에서의 프레임 간의 상관관계를 학습한 신경망인 단계; 및
상기 제1 이미지, 상기 적어도 하나의 제3 이미지 및 상기 제2 이미지를 포함하는 상기 콘텐츠를 생성하는 단계;를 포함하는, 콘텐츠 생성 방법.In a method for generating content including M (M is a natural number, M>=N) images using sequential N (N is a natural number) images,
Selecting a first image and a second image included in the N images and adjacent to each other;
Using the learned artificial neural network, generating at least one third image describing a process of converting from the first image to the second image, wherein the artificial neural network includes one or more views between a viewpoint and an end point and the A correlation between a viewpoint frame included in the learning data, an end point frame included in the learning data, the one or more times, and the frames at each of the one or more times, based on the learning data in which frames at each of the one or more times are marked A neural network that has learned And
Generating the content including the first image, the at least one third image and the second image; Containing, content creation method.
청구항 1, 청구항 3 내지 청구항 8 중 어느 한 항의 방법을 실행하기 위하여 매체에 저장된 컴퓨터 프로그램.Using a computer
A computer program stored in a medium to execute the method of any one of claims 1 and 3 to 8.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190078355A KR102195188B1 (en) | 2019-06-28 | 2019-06-28 | Method and computer program for image generation |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190078355A KR102195188B1 (en) | 2019-06-28 | 2019-06-28 | Method and computer program for image generation |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200177442A Division KR102198303B1 (en) | 2020-12-17 | 2020-12-17 | Method and apparatus for training artificial neural network to generate slow motion image |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102195188B1 true KR102195188B1 (en) | 2020-12-29 |
Family
ID=74090032
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190078355A KR102195188B1 (en) | 2019-06-28 | 2019-06-28 | Method and computer program for image generation |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102195188B1 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070048629A (en) * | 2005-11-04 | 2007-05-09 | 세이코 엡슨 가부시키가이샤 | Video display device and method for video display |
KR20180013325A (en) * | 2016-07-29 | 2018-02-07 | 삼성전자주식회사 | Providing Method For Video Contents and Electronic device supporting the same |
KR20190017293A (en) * | 2017-08-10 | 2019-02-20 | 엘지디스플레이 주식회사 | Image processing method and display device using the same |
KR20190065395A (en) * | 2016-10-14 | 2019-06-11 | 로비 가이드스, 인크. | SYSTEM AND METHOD FOR PROVIDING Slow-Motion Video Stream In Concurrent With Normal-Speed Video Stream When Event Is Detected |
-
2019
- 2019-06-28 KR KR1020190078355A patent/KR102195188B1/en active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070048629A (en) * | 2005-11-04 | 2007-05-09 | 세이코 엡슨 가부시키가이샤 | Video display device and method for video display |
KR20180013325A (en) * | 2016-07-29 | 2018-02-07 | 삼성전자주식회사 | Providing Method For Video Contents and Electronic device supporting the same |
KR20190065395A (en) * | 2016-10-14 | 2019-06-11 | 로비 가이드스, 인크. | SYSTEM AND METHOD FOR PROVIDING Slow-Motion Video Stream In Concurrent With Normal-Speed Video Stream When Event Is Detected |
KR20190017293A (en) * | 2017-08-10 | 2019-02-20 | 엘지디스플레이 주식회사 | Image processing method and display device using the same |
Non-Patent Citations (1)
Title |
---|
HUAIZU JIANG ET AL., Super SloMo: High Quality Estimation of Multiple Intermediate Frames for Video Interpolation, CVPR 2018, pp. 9000-9008(9pages)(2018.07.13. 공개). 1부.* * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102593438B1 (en) | Method and device for learning neural network | |
CN111263227B (en) | Multimedia playing method and device, storage medium and terminal | |
CN111209440A (en) | Video playing method, device and storage medium | |
CN111429885A (en) | Method for mapping audio clip to human face-mouth type key point | |
JP2022553252A (en) | IMAGE PROCESSING METHOD, IMAGE PROCESSING APPARATUS, SERVER, AND COMPUTER PROGRAM | |
CN113518256A (en) | Video processing method and device, electronic equipment and computer readable storage medium | |
KR20190088406A (en) | Video playback device and controlling method thereof | |
CN114283316A (en) | Image identification method and device, electronic equipment and storage medium | |
US10699458B2 (en) | Image editor for merging images with generative adversarial networks | |
CN113515669A (en) | Data processing method based on artificial intelligence and related equipment | |
KR20190107616A (en) | Artificial intelligence apparatus and method for generating named entity table | |
KR102195188B1 (en) | Method and computer program for image generation | |
KR102198303B1 (en) | Method and apparatus for training artificial neural network to generate slow motion image | |
KR101014852B1 (en) | Apparatus and method for generating motions of character based on artificial intelligent | |
Yang et al. | GID-Net: Detecting human-object interaction with global and instance dependency | |
US10943377B2 (en) | Creating images using image anchors and generative adversarial networks | |
KR20210070595A (en) | An artificial intelligence apparatus for providing a search and method thereof | |
CN114495916B (en) | Method, device, equipment and storage medium for determining insertion time point of background music | |
US20180336206A1 (en) | Method and apparatus for evaluating matching degree based on artificial intelligence, device and storage medium | |
KR102168541B1 (en) | A method and computer program of learning a second neural network using a first neural network | |
Lin et al. | The development of llms for embodied navigation | |
KR102514580B1 (en) | Video transition method, apparatus and computer program | |
CN113821652A (en) | Model data processing method and device, electronic equipment and computer readable medium | |
KR20210059457A (en) | Mobile terminal | |
KR102430548B1 (en) | Method for preprocessing structured learning data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
A107 | Divisional application of patent | ||
GRNT | Written decision to grant |