KR20220026426A - 비디오 품질 향상 방법 및 장치 - Google Patents
비디오 품질 향상 방법 및 장치 Download PDFInfo
- Publication number
- KR20220026426A KR20220026426A KR1020200107410A KR20200107410A KR20220026426A KR 20220026426 A KR20220026426 A KR 20220026426A KR 1020200107410 A KR1020200107410 A KR 1020200107410A KR 20200107410 A KR20200107410 A KR 20200107410A KR 20220026426 A KR20220026426 A KR 20220026426A
- Authority
- KR
- South Korea
- Prior art keywords
- motion information
- frame
- user
- data
- mapping table
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 230000006872 improvement Effects 0.000 title description 4
- 238000013528 artificial neural network Methods 0.000 claims abstract description 129
- 238000013507 mapping Methods 0.000 claims abstract description 121
- 230000008859 change Effects 0.000 claims description 19
- 238000012805 post-processing Methods 0.000 claims description 18
- 230000001133 acceleration Effects 0.000 claims description 6
- 238000004891 communication Methods 0.000 description 26
- 238000010586 diagram Methods 0.000 description 26
- 238000012549 training Methods 0.000 description 24
- 238000001514 detection method Methods 0.000 description 23
- 238000013473 artificial intelligence Methods 0.000 description 21
- 238000011156 evaluation Methods 0.000 description 19
- 230000008569 process Effects 0.000 description 14
- 238000012545 processing Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 230000003287 optical effect Effects 0.000 description 11
- 238000012937 correction Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 238000011176 pooling Methods 0.000 description 7
- 230000015572 biosynthetic process Effects 0.000 description 6
- 230000001965 increasing effect Effects 0.000 description 6
- 238000003786 synthesis reaction Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 5
- 238000007781 pre-processing Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000000306 recurrent effect Effects 0.000 description 4
- 230000002457 bidirectional effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000002787 reinforcement Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000011017 operating method Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
- A63F13/35—Details of game servers
- A63F13/355—Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
비디오 품질 향상 방법이 개시된다. 비디오 품질 향상 방법은 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 단계, 제1 뉴럴 네트워크를 이용하여, 프레임에 포함된 픽셀들 중 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하는 단계 및 제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 제1 모션 정보, 및 제2 모션 정보로부터 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는 단계를 포함할 수 있다.
Description
개시된 다양한 실시 예들은 비디오 품질 향상 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오에 포함된 프레임의 수를 늘려 비디오의 품질을 향상시키는 비디오 품질 향상 방법 및 장치에 관한 것이다.
영상 데이터의 초당 프레임 개수(Frame Per Second, FPS)는 영상 데이터를 재생하는 장치의 초당 프레임 개수와 다를 수 있다. 예컨대, 영상 데이터의 초당 프레임 개수보다 영상 데이터를 출력하는 영상 표시 장치의 초당 프레임 개수가 더 많을 수 있다. 이 경우, 수신된 영상 데이터를 그대로 송출하면 화질이 떨어지기 때문에 영상 표시 장치는 초당 프레임 수를 늘려 영상의 품질을 향상시키는 것이 요구된다.
초당 프레임 수를 늘리기 위해 영상 표시 장치는 프레임 인터폴레이션(interpolation) 또는 프레임 합성(synthesis)을 수행할 수 있다. 프레임 인터폴레이션 또는 프레임 합성은 손상되거나 빠진 프레임을 복원하거나, 또는 프레임 사이에 새로운 프레임을 생성하여 영상을 부드럽게 만드는 기술이다.
인공지능(Artificial Intelligence, 이하, AI) 시스템은 기계가 스스로 학습(training)하고 판단하며 목적하는 결과를 도출하거나 목적하는 동작을 수행하는 시스템이다.
다양한 실시 예들은 프레임에 포함된 사용자 제어 오브젝트의 모션 정보를 매핑 테이블로 생성하는 비디오 품질 향상 방법 및 장치를 제공하기 위한 것이다.
다양한 실시 예들은 프레임에 포함된 사용자 제어 오브젝트의 모션 정보를 매핑 테이블로부터 획득하고 이를 이용하여 보간 프레임을 생성하는 비디오 품질 향상 방법 및 장치를 제공하기 위한 것이다.
다양한 실시 예들은 프레임에 포함된 픽셀 중, 사용자 제어 오브젝트에 포함되지 않은 픽셀에 대해서만 뉴럴 네트워크를 이용하여 모션 정보를 획득하고 이를 이용하여 보간 프레임을 생성하는 비디오 품질 향상 방법 및 장치를 제공하기 위한 것이다.
실시 예에 따른 비디오 품질 향상 방법은 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 단계, 제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하는 단계 및 제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는 단계를 포함할 수 있다.
실시 예에서, 상기 방법은 상기 제1 모션 정보 및 상기 제2 모션 정보를 후처리하는 단계를 더 포함하고, 상기 후처리하는 단계는 상기 프레임에 포함된 소정 픽셀의 모션 정보를 상기 소정 픽셀에 이웃하는 적어도 하나의 주변 픽셀의 모션 정보를 이용하여 수정하는 단계, 및 상기 프레임에 포함된 픽셀들을 오브젝트 별로 그룹핑하여 오브젝트 별 모션 정보를 획득하는 단계 중 적어도 하나를 포함할 수 있다.
실시 예에서, 상기 방법은 상기 제1 모션 정보를 획득하는 단계 이전에, 프레임을 입력 받는 단계, 상기 입력 프레임에 포함된 오브젝트에 대한 사용자 입력을 기반으로, 매핑 테이블을 생성하는 단계를 더 포함하고, 상기 제1 모션 정보를 획득하는 단계는 상기 매핑 테이블로부터 상기 제1 모션 정보를 획득하는 것일 수 있다.
실시 예에서, 상기 매핑 테이블을 생성하는 단계는 상기 제1 뉴럴 네트워크를 이용하여, 상기 입력 프레임에 포함된 모든 픽셀들에 대한 모션 정보를 획득하는 단계, 제3 뉴럴 네트워크를 이용하여, 상기 입력 프레임에서 적어도 하나의 오브젝트를 검출하는 단계, 상기 검출된 오브젝트 중, 상기 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 식별하는 단계 및 상기 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보와 상기 사용자 입력과의 관련성에 기반하여, 상기 매핑 테이블을 생성하는 단계를 포함할 수 있다.
실시 예에서, 상기 방법은 상기 검출된 오브젝트에 대한 이벤트에 기초하여 상기 검출된 오브젝트에 포함된 픽셀들에 대한 모션 정보를 수정하는 단계를 더 포함하고, 상기 이벤트는 줌 인, 줌 아웃, 로테이션 중 적어도 하나를 포함할 수 있다.
실시 예에서, 상기 적어도 하나의 오브젝트를 검출하는 단계는 상기 오브젝트가 전경 오브젝트인지 후경 오브젝트인지를 검출하는 단계를 포함할 수 있다.
실시 예에서, 상기 매핑 테이블을 생성하는 단계는 소정 시간 동안 상기 사용자 입력을 수신하는 단계, 상기 소정 시간 동안의 상기 사용자 입력에 기초하여 상기 매핑 테이블을 업데이트하는 단계를 포함할 수 있다.
실시 예에서, 상기 매핑 테이블을 생성하는 단계는 상기 사용자 입력에 따른 컨트롤러의 파라미터 변화를 획득하는 단계 및 상기 컨트롤러의 파라미터 변화에 따른 상기 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보를 매핑하는 단계를 포함하고, 상기 컨트롤러의 파라미터는 이동 방향, 이동 거리, 이동 시간, 이동 속도, 이동 가속도, 이동 강도, 이동 진폭 중 적어도 하나를 포함할 수 있다.
실시 예에서, 상기 매핑 테이블을 생성하는 단계는 상기 사용자 입력을 수신하는 컨트롤러의 종류 별로 각각의 매핑 테이블을 생성하는 단계를 포함할 수 있다.
실시 예에서, 상기 제1 모션 정보를 획득하는 단계는 상기 프레임을 포함하는 비디오에 대한 메타데이터로부터 상기 제1 모션 정보를 획득하는 단계를 포함할 수 있다.
실시 예에 따른 비디오 품질 향상 장치는 하나 이상의 인스트럭션을 저장하는 메모리 및 상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써, 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하고, 제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하고, 제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성할 수 있다.
실시 예에 따른 컴퓨터로 판독 가능한 기록 매체는 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 단계, 제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하는 단계 및 제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는 단계를 포함하는, 비디오 품질 향상 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체일 수 있다.
일 실시 예에 따른 비디오 품질 향상 방법 및 장치는 프레임에 포함된 사용자 제어 오브젝트의 모션 정보를 매핑 테이블로 생성할 수 있다.
일 실시 예에 따른 비디오 품질 향상 방법 및 장치는 프레임에 포함된 사용자 제어 오브젝트의 모션 정보를 매핑 테이블로부터 획득하여 이를 프레임 인터폴레이션에 이용할 수 있다.
일 실시 예에 따른 비디오 품질 향상 방법 및 장치는 프레임에 포함된 픽셀 중, 사용자 제어 오브젝트에 포함되지 않은 픽셀에 대해서만 뉴럴 네트워크를 이용하여 모션 정보를 획득하고 이를 프레임 인터폴레이션에 이용할 수 있다.
도 1은 실시 예에 따라, 디스플레이 장치(110)가 비디오 영상의 품질을 향상시켜 출력하는 것을 설명하기 위한 도면이다.
도 2는 실시 예에 따른 디스플레이 장치(200)의 내부 블록도이다.
도 3은 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 매핑 테이블을 생성하는 것을 설명하기 위한 블록도이다.
도 4는 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 매핑 테이블을 생성하는 것을 설명하기 위한 블록도이다.
도 5는 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 보간 프레임을 생성하는 것을 설명하기 위한 블록도이다.
도 6은 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 보간 프레임을 생성하는 것을 설명하기 위한 블록도이다.
도 7는 실시 예에 따른 디스플레이 장치의 내부 블록도이다.
도 8은 실시 예에 따라 사용자 입력에 의해 사용자 제어 오브젝트가 이동하는 것을 설명하기 위한 도면이다.
도 9는 실시 예에 따라 디스플레이 장치가 매핑 테이블 생성을 위해 사용자에게 사용자 입력을 요청하는 인터페이스 화면을 출력하는 것을 설명하기 위한 도면이다.
도 10은 실시 예에 따른 매핑 테이블을 도시한 도면이다.
도 11은 실시 예에 따라 매핑 테이블을 생성하는 과정을 도시한 순서도이다.
도 12는 실시 예에 따라 디스플레이 장치가 보간 프레임을 생성하는 과정을 도시한 순서도이다.
도 13은 실시 예에 따른 컴퓨팅 장치(1300)의 구성을 나타내는 블록도이다.
도 14는 실시 예에 따른 데이터 학습부(1310)의 블록도이다.
도 15는 실시 예에 따른 데이터 예측부(1320)의 구성을 나타내는 블록도이다.
도 2는 실시 예에 따른 디스플레이 장치(200)의 내부 블록도이다.
도 3은 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 매핑 테이블을 생성하는 것을 설명하기 위한 블록도이다.
도 4는 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 매핑 테이블을 생성하는 것을 설명하기 위한 블록도이다.
도 5는 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 보간 프레임을 생성하는 것을 설명하기 위한 블록도이다.
도 6은 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 보간 프레임을 생성하는 것을 설명하기 위한 블록도이다.
도 7는 실시 예에 따른 디스플레이 장치의 내부 블록도이다.
도 8은 실시 예에 따라 사용자 입력에 의해 사용자 제어 오브젝트가 이동하는 것을 설명하기 위한 도면이다.
도 9는 실시 예에 따라 디스플레이 장치가 매핑 테이블 생성을 위해 사용자에게 사용자 입력을 요청하는 인터페이스 화면을 출력하는 것을 설명하기 위한 도면이다.
도 10은 실시 예에 따른 매핑 테이블을 도시한 도면이다.
도 11은 실시 예에 따라 매핑 테이블을 생성하는 과정을 도시한 순서도이다.
도 12는 실시 예에 따라 디스플레이 장치가 보간 프레임을 생성하는 과정을 도시한 순서도이다.
도 13은 실시 예에 따른 컴퓨팅 장치(1300)의 구성을 나타내는 블록도이다.
도 14는 실시 예에 따른 데이터 학습부(1310)의 블록도이다.
도 15는 실시 예에 따른 데이터 예측부(1320)의 구성을 나타내는 블록도이다.
아래에서는 첨부한 도면을 참조하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 개시의 실시 예를 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다.
본 개시에서 사용되는 용어는, 본 개시에서 언급되는 기능을 고려하여 현재 사용되는 일반적인 용어로 기재되었으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 다양한 다른 용어를 의미할 수 있다. 따라서 본 개시에서 사용되는 용어는 용어의 명칭만으로 해석되어서는 안되며, 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 해석되어야 한다.
또한, 본 개시에서 사용된 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것이며, 본 개시를 한정하려는 의도로 사용되는 것이 아니다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다.
본 명세서, 특히, 특허 청구 범위에서 사용된 “상기” 및 이와 유사한 지시어는 단수 및 복수 모두를 지시하는 것일 수 있다. 또한, 본 개시에 따른 방법을 설명하는 단계들의 순서를 명백하게 지정하는 기재가 없다면, 기재된 단계들은 적당한 순서로 행해질 수 있다. 기재된 단계들의 기재 순서에 따라 본 개시가 한정되는 것은 아니다.
본 명세서에서 다양한 곳에 등장하는 "일부 실시 예에서" 또는 "일 실시 예에서" 등의 어구는 반드시 모두 동일한 실시 예를 가리키는 것은 아니다.
본 개시의 일부 실시 예는 기능적인 블록 구성들 및 다양한 처리 단계들로 나타내어질 수 있다. 이러한 기능 블록들의 일부 또는 전부는, 특정 기능들을 실행하는 다양한 개수의 하드웨어 및/또는 소프트웨어 구성들로 구현될 수 있다. 예를 들어, 본 개시의 기능 블록들은 하나 이상의 마이크로프로세서들에 의해 구현되거나, 소정의 기능을 위한 회로 구성들에 의해 구현될 수 있다. 또한, 예를 들어, 본 개시의 기능 블록들은 다양한 프로그래밍 또는 스크립팅 언어로 구현될 수 있다. 기능 블록들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다. 또한, 본 개시는 전자적인 환경 설정, 신호 처리, 및/또는 데이터 처리 등을 위하여 종래 기술을 채용할 수 있다. “매커니즘”, “요소”, “수단” 및 “구성”등과 같은 용어는 넓게 사용될 수 있으며, 기계적이고 물리적인 구성들로서 한정되는 것은 아니다.
또한, 도면에 도시된 구성 요소들 간의 연결 선 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것일 뿐이다. 실제 장치에서는 대체 가능하거나 추가된 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들에 의해 구성 요소들 간의 연결이 나타내어질 수 있다.
또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.
또한, 명세서에서 “사용자”라는 용어는 디스플레이 장치, 또는 비디오 품질 향상 장치를 이용하여 디스플레이 장치나 비디오 품질 향상 장치의 기능 또는 동작을 제어하는 사람을 의미하며, 시청자, 소비자, 관리자 또는 설치 기사를 포함할 수 있다.
이하 첨부된 도면을 참고하여 본 개시를 상세히 설명하기로 한다.
도 1은 실시 예에 따라, 디스플레이 장치(110)가 비디오 영상의 품질을 향상시켜 출력하는 것을 설명하기 위한 도면이다.
도 1을 참조하면, 디스플레이 장치(110)는 영상을 처리하여 출력할 수 있는 전자 장치일 수 있다. 디스플레이 장치(110)는 고정형 또는 이동형일 수 있으며, 디스플레이를 포함하는 다양한 형태의 전자 장치로 구현될 수 있다.
디스플레이 장치(110)는 게임을 출력할 수 있는 게임 전용 모니터이거나, 디지털 TV, 데스크톱, 스마트 폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상 전화기, 전자 북 리더기(e-book reader), 랩톱 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 디지털 카메라, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 캠코더, 네비게이션, 웨어러블 장치(wearable device), 스마트 와치(smart watch), 홈 네트워크 시스템, 보안 시스템, 의료 장치 중 적어도 하나를 포함할 수 있다.
디스플레이 장치(110)는 평면(flat) 디스플레이 장치뿐만 아니라, 곡률을 가지는 화면인 곡면(curved) 디스플레이 장치 또는 곡률을 조정 가능한 가변형(flexible) 디스플레이 장치로 구현될 수 있다. 디스플레이 장치(110)의 출력 해상도는 예를 들어, HD(High Definition), Full HD, Ultra HD, 또는 Ultra HD 보다 더 선명한 해상도를 포함할 수 있다.
디스플레이 장치(110)는 비디오를 출력할 수 있다. 비디오는 복수의 프레임들로 구성될 수 있다. 비디오는 텔레비전 프로그램이나 VOD 서비스를 통한 각종 영화나 드라마 등의 아이템을 포함할 수 있다.
실시 예에서, 디스플레이 장치(110)가 출력하는 비디오는 게임 데이터를 포함할 수 있다. 디스플레이 장치(110)는 인터넷이나 기타 네트워크를 통해 실시간으로 온라인 게임 데이터를 수신하여 이를 출력할 수 있다. 또는 디스플레이 장치(110)는 게임 어플리케이션이나 프로그램 등을 다운로드하여 게임 데이터를 오프라인으로 출력할 수 있다. 또는 디스플레이 장치(110)는 디스플레이 장치(110)와는 별개의 게임 장치(120)와 연결되어, 게임 장치(120)에 저장된 게임 데이터를 수신하여 이를 출력할 수 있다.
도 1은 게임 장치(120)가 디스플레이 장치(110)에 연결된 경우를 도시하나 이는 하나의 실시 예로 본 출원이 이에 한정되는 것은 아니다.
도 1에서, 게임 장치(120)는 비디오, 오디오, 자막 등을 포함하는 게임 데이터를 저장하고 있는 다양한 형태의 전자 장치일 수 있다. 게임 장치(120)는 칩이나 USB 형태로 구현될 수도 있고, 또는 칩이나 USB를 내부에 포함하는 각종 전자 장치로 구현될 수도 있다.
게임 장치(120)는 디스플레이 장치(110)에 유선 또는 무선으로 연결되어 게임 데이터를 디스플레이 장치(110)로 전송할 수 있다.
디스플레이 장치(110)는 게임 장치(120)로부터 게임 데이터를 수신하여 이를 출력할 수 있다. 디스플레이 장치(110)가 출력하는 게임 데이터는 제어 장치(130)에 의해 제어될 수 있다. 제어 장치(130)는 리모컨이나 휴대폰, 조이스틱, 키보드, 마우스 등과 같이 디스플레이 장치(110)에서 출력되는 게임 데이터를 제어하기 위한 다양한 형태의 장치로 구현될 수 있다.
디스플레이 장치(110)의 디스플레이부가 터치스크린으로 구현되는 경우 제어 장치(130)는 사용자의 손가락이나 입력 펜 등으로 대체될 수도 있다.
제어 장치(130)는 디스플레이 장치(110)에 출력되는 게임 데이터를 제어하기 위한 키나 버튼을 포함할 수 있다. 예컨대, 제어 장치(130)는 비디오에 포함된 오브젝트의 움직임을 제어하기 위한 각종 키, 예컨대 방향 키나 회전 키, 오브젝트의 크기를 확대하거나 축소하기 위한 줌 인(zoom in)이나 줌 아웃(zoom out) 키, 아이템 등을 선택하기 위한 엔터 키, 이전 화면으로 돌아가거나 또는 환경 설정(setting)을 위한 키 등을 포함할 수 있다.
제어 장치(130)는 HDMI 등의 유선 통신을 이용하여 디스플레이 장치(110)를 제어하거나, 또는 적외선(infrared) 또는 블루투스(Bluetooth)를 포함하는 근거리 통신을 이용하여 디스플레이 장치(110)를 제어할 수 있다. 제어 장치(130)는 구비된 키(버튼을 포함), 터치 패드(touchpad), 사용자의 음성의 수신이 가능한 마이크(도시되지 아니함), 및 제어 장치(130)의 모션 인식이 가능한 센서(도시되지 아니함) 중 적어도 하나를 이용하여 디스플레이 장치(110)의 기능을 제어할 수 있다.
디스플레이 장치(110)의 사양이 점점 좋아지면서 디스플레이 장치(110)가 지원하는 초당 프레임 수(FPS, Frame Per Second) 또한 늘고 있다. 이는 프레임 레이트(Frame rate)가 증가하는 것으로, 프레임 레이트가 증가되면 비디오에 포함된 오브젝트의 움직임이 보다 매끄러워지게 된다.
프레임 레이트를 늘리기 위해, 디스플레이 장치(110)는 비디오에 포함된 적어도 두 개의 프레임을 이용하여 보간 프레임을 생성할 수 있다. 예를 들어, 게임 데이터는 30FPS로 제작되었고, 이를 재생하는 디스플레이 장치(110)는 60FPS를 지원하는 경우, 디스플레이 장치(110)는 게임 데이터의 FPS를 30FPS에서 60FPS로 증가시키기 위해, 매 프레임 마다 하나의 프레임을 추가하여 비디오의 화질을 향상시킬 수 있다. 게임 데이터는 오브젝트의 움직임이 매우 빠른 경우가 많으므로, 프레임 레이트가 증가할 경우 오브젝트의 움직임이 더 자연스러워지므로 비디오 품질이 향상될 수 있다.
디스플레이 장치(110)는 초당 프레임 수를 늘리기 위해 프레임 보간(interpolation) 또는 프레임 합성(synthesis)을 수행할 수 있다. 프레임 보간 또는 프레임 합성은 프레임 레이트 변환(Frame Rate Conversion) 또는 FRC로도 알려져 있다. 이하의 설명에서 용어, 프레임 보간 또는 프레임 합성은 프레임 레이트 변환(Frame Rate Conversion) 또는 FRC와 대체가능하다.
실시 예에서, 디스플레이 장치(110)는 프레임에 포함된 픽셀들 중 사용자가 제어 장치(130)를 이용하여 제어하는 오브젝트에 포함된 픽셀과 그렇지 않은 픽셀에 대해 서로 다른 방법으로 모션 정보를 획득할 수 있다.
이하, 설명의 편의를 위해, 사용자가 제어 장치(130)를 이용하여 제어할 수 있는 오브젝트를 사용자 제어 오브젝트라고 부르기로 한다.
실시 예에서, 디스플레이 장치(110)는 디스플레이 장치(110)에 이미 생성되어 저장되어 있는 매핑 테이블에서 사용자 제어 오브젝트에 대한 모션 정보를 획득할 수 있다.
다른 실시 예에서, 게임 데이터가 오브젝트에 대한 정보를 포함하는 메타데이터를 포함하고 있는 경우, 디스플레이 장치(110)는 메타데이터로부터 사용자 제어 오브젝트에 대한 모션 정보를 획득할 수도 있다.
디스플레이 장치(110)는 사용자 제어 오브젝트에 대해서 기 저장된 매핑 테이블이나 또는 메타데이터를 이용하여 모션 정보를 획득하므로, 보다 정확하게 사용자 입력에 따른 사용자 제어 오브젝트의 움직임을 추정할 수 있게 된다.
실시 예에서, 디스플레이 장치(110)는 프레임에 포함된 픽셀들 중 사용자 제어 오브젝트에 포함된 픽셀 이외의 픽셀에 대해서는 적어도 하나의 뉴럴 네트워크를 이용하여 모션 정보를 획득할 수 있다. 즉, 디스플레이 장치(110)는 프레임에 포함된 모든 픽셀이 아닌, 사용자 제어 오브젝트 외의 픽셀에 대해서만 모션 정보를 획득하므로, 데이터 처리에 필요한 연산량이나 복잡성 등이 낮아지고 데이터 처리 속도가 더 빨라질 수 있다.
실시 예에서, 디스플레이 장치(110)는 사용자 제어 오브젝트에 대해 획득한 모션 정보와 사용자 제어 오브젝트 이외의 픽셀에 대해 획득한 모션 정보, 및 적어도 두 개의 프레임을 이용하여 적어도 두 개의 프레임 사이에 위치하는 보간 프레임을 생성할 수 있다.
이와 같이, 실시 예에 의하면, 디스플레이 장치(110)는 사용자 제어 오브젝트와 그 외의 픽셀에 대해서 서로 다른 방법으로 모션 정보를 획득하고 이를 이용하여 보간 프레임을 생성함으로써 보다 빠르게 정확하게 보간 프레임을 생성할 수 있다.
도 2는 실시 예에 따른 디스플레이 장치(200)의 내부 블록도이다.
도 2를 참조하면, 디스플레이 장치(200)는 프로세서(210), 메모리(220), 데이터 입력부(230), 사용자 입력 수신부(240) 및 디스플레이(250)를 포함할 수 있다.
실시 예에서, 디스플레이 장치(200)는 데이터 입력부(230)를 통해 입력된 비디오의 프레임을 출력하고, 출력된 프레임 중 사용자 제어 오브젝트와 그 외의 픽셀에 대해 서로 다른 방법으로 모션 정보를 획득하여 보간 프레임을 생성할 수 있는 전자 장치일 수 있다.
실시 예에서, 디스플레이(250)는 각종 컨텐트를 화면에 표시할 수 있다. 디스플레이(250)는 실시간으로 수신되거나 또는 스트리밍이나 다운로드를 하여 수신된 게임 데이터를 화면에 출력할 수 있다.
실시 예에서, 디스플레이(250)는 게임 데이터를 화면에 출력하고 소정 시간 동안 사용자 입력 수신부(240)를 통한 사용자 입력을 요청하는 인터페이스 화면을 출력할 수 있다. 사용자는 인터페이스 화면에서 지시하는 바에 따라 사용자 입력 수신부(240)를 이용하여 사용자 제어 오브젝트의 움직임을 조절할 수 있다.
디스플레이(250)가 터치 스크린으로 구현되는 경우, 디스플레이(250)는 출력 장치 이외에 사용자 인터페이스와 같은 입력 장치로 사용될 수 있다. 예를 들어, 디스플레이(250)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기 영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고, 디스플레이 장치(200)의 구현 형태에 따라, 디스플레이 장치(200)는 디스플레이(250)를 둘 이상 포함할 수 있다.
실시 예에 따른 메모리(220)는, 적어도 하나의 인스트럭션을 저장할 수 있다. 메모리(220)는 프로세서(210)가 실행하는 적어도 하나의 프로그램을 저장하고 있을 수 있다. 메모리(220)에는 적어도 하나의 뉴럴 네트워크 및/또는 기 정의된 동작 규칙이나 AI 모델이 저장될 수 있다. 또한 메모리(220)는 디스플레이 장치(200)로 입력되거나 디스플레이 장치(200)로부터 출력되는 데이터를 저장할 수 있다.
실시 예에서, 메모리(220)는 디스플레이 장치(200)가 생성한 매핑 테이블을 저장할 수 있다. 또는 게임 데이터가 메타데이터를 포함하는 경우, 메모리(220)는 게임 데이터에 대한 메타데이터를 저장할 수도 있다.
메모리(220)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
프로세서(210)는 디스플레이 장치(200)의 전반적인 동작을 제어한다. 프로세서(210)는 메모리(220)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 디스플레이 장치(200)가 기능하도록 제어할 수 있다.
실시 예에서, 디스플레이 장치(200)는 인공지능(Artificial Intelligence, AI) 기술을 이용할 수 있다. AI 기술은 기계학습(딥러닝) 및 기계학습을 활용한 요소 기술들로 구성될 수 있다. AI 기술은 알고리즘을 활용하여 구현될 수 있다. 여기서, AI 기술을 구현하기 위한 알고리즘 또는 알고리즘의 집합을 신경망(Neural Network, 뉴럴 네트워크)이라 한다. 신경망은 입력 데이터를 입력 받고, 분석 및 분류를 위한 연산을 수행하여, 결과 데이터를 출력할 수 있다. 이와 같이 신경망이 입력 데이터에 대응되는 결과 데이터를 정확하게 출력하기 위해서는, 신경망을 트레이닝 시킬 필요가 있다. 여기서,‘트레이닝(training)’은 신경망으로 다양한 데이터들을 입력시키고, 입력된 데이터들을 분석하는 방법, 입력된 데이터들을 분류하는 방법, 및/또는 입력된 데이터들에서 결과 데이터 생성에 필요한 특징을 추출하는 방법 등을 신경망이 스스로 발견 또는 터득할 수 있도록 신경망을 훈련시키는 것을 의미할 수 있다. 신경망을 훈련시킨다는 것은 다수의 학습 데이터들에 학습 알고리즘을 적용함으로써, 원하는 특성의 인공지능 모델이 만들어짐을 의미한다. 이러한 학습은 실시 예에서 인공지능이 수행되는 디스플레이 장치(200) 자체에서 이루어질 수도 있고, 별도의 서버/시스템을 통해 이루어 질 수도 있다.
여기서, 학습 알고리즘은, 다수의 학습 데이터들을 이용하여 소정의 대상 기기(예컨데, 로봇)를 훈련시켜 소정의 대상 기기 스스로 결정을 내리거나 예측을 할 수 있도록 하는 방법이다. 학습 알고리즘의 예로는, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)이 있으며, 실시 예에서의 학습 알고리즘은 명시한 경우를 제외하고 전술한 예에 한정되지 않는다.
신경망을 통하여 입력 데이터에 대응되는 출력 데이터를 출력하도록 하는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리즘의 집합을 실행하는 하드웨어를 ‘AI 모델’(또는, ‘인공지능 모델’)이라 칭할 수 있다.
프로세서(210)는, 기 정의된 동작 규칙 또는 AI 모델에 따라, 입력 데이터를 처리할 수 있다. 기 정의된 동작 규칙 또는 AI 모델은 특정한 알고리즘을 이용하여 만들어진 것일 수 있다. 또한 AI 모델은 특정한 알고리즘이 학습된 것일 수 있다. 프로세서(210)는 AI 모델을 통하여 입력 데이터에 대응되는 출력 데이터를 생성할 수 있다.
실시 예에서, 프로세서(210)는 AI 모델을 적어도 하나 저장하고 있을 수 있다. 실시 예에서 프로세서(210)는 복수 개의 AI 모델들을 이용하여 입력 영상으로부터 출력 데이터를 생성할 수 있다. 실시 예에서, 프로세서(210)가 아닌 메모리(220)가 전술한 AI 모델들을 저장하고 있을 수도 있다.
실시 예에서, 프로세서(210)가 이용하는 신경망, 즉, 뉴럴 네트워크는 프레임에 포함된 픽셀들에 대한 모션 정보를 예측하도록 학습된 뉴럴 네트워크일 수 있다.
실시 예에서, 프로세서(210)가 이용하는 뉴럴 네트워크는 프레임에 포함된 오브젝트를 검출하도록 학습된 뉴럴 네트워크일 수 있다.
실시 예에서, 프로세서(210)가 이용하는 뉴럴 네트워크는 모션 정보와 프레임들을 이용하여 보간 프레임을 생성하도록 학습된 뉴럴 네트워크일 수 있다.
실시 예에서, 프로세서(210)는 게임 데이터를 출력하고 소정 시간 동안 사용자 입력 수신부(240)를 통해 사용자 입력을 수신하고, 이로부터 프레임에 포함된 오브젝트 중 사용자 제어 오브젝트가 무엇인지를 식별할 수 있다.
프로세서(210)는 사용자 입력 수신부(240)를 통한 사용자 입력과 그에 따른 사용자 제어 오브젝트의 모션 정보간의 관련성을 획득하고 이에 기반하여 사용자 제어 오브젝트에 대해 매핑 테이블을 생성할 수 있다.
프로세서(210)는 매핑 테이블이 생성되기까지는 프레임에 포함된 모든 픽셀에 대해, 적어도 하나의 뉴럴 네트워크를 이용하여 모션 정보를 예측할 수 있다. 프로세서(210)는 이 경우, 프레임에 포함된 모든 픽셀에 대한 모션 정보 및 적어도 두 개의 프레임을 이용하여 적어도 두 개의 프레임 사이의 보간 프레임을 생성할 수 있다.
프로세서(210)는 매핑 테이블을 생성한 이후에는 프레임에 포함된 오브젝트가 사용자 제어 오브젝트인지 아닌지에 따라 서로 다른 방법으로 모션 정보를 획득할 수 있다.
실시 예에서, 프로세서(210)는 사용자 제어 오브젝트에 대해서는 기 생성하여 저장한 매핑 테이블로부터 사용자 입력에 대응하는 모션 정보를 획득할 수 있다.
실시 예에서, 프로세서(210)는 사용자 제어 오브젝트를 제외한 픽셀에 대해서만 적어도 하나의 뉴럴 네트워크를 이용하여 모션 추정을 수행할 수 있다.
실시 예에서, 프로세서(210)는 사용자 제어 오브젝트에 대해 획득한 모션 정보와 그 외의 픽셀에 대해 획득한 모션 정보, 및 복수개의 프레임을 이용하여 보간 프레임을 생성할 수 있다.
데이터 입력부(230)는 외부의 기기나 서버 등과 유선 또는 무선 통신망으로 연결되어, 비디오(예를 들어, 동영상 신호나 정지 영상 신호 등) 및 오디오(예를 들어, 음성 신호나, 음악 신호 등)를 포함하는 게임 데이터를 수신할 수 있다. 경우에 따라, 게임 데이터는 메타데이터 등의 부가 정보를 더 포함할 수도 있다. 메타데이터는, 게임 데이터에 포함된 오브젝트에 대한 모션 정보를 포함할 수 있다.
사용자 입력 수신부(240)는 디스플레이(250)가 출력하는 게임 데이터에 대한 사용자 제어를 수신할 수 있다. 사용자 입력 수신부(240)는 리모컨이나 휴대폰, 조이스틱, 키보드, 마우스 등과 같은 제어 장치(130)를 통한 사용자 입력을 유선 또는 무선 통신망을 통해 수신할 수 있다.
실시 예에서, 프로세서(210)는 메모리(220)에 저장된 하나 이상의 인스트럭션을 실행하여, 전술한 동작들이 수행되도록 제어할 수 있다. 이 경우, 메모리(220)는 프로세서(210)에 의해서 실행 가능한 하나 이상의 인스트럭션을 저장하고 있을 수 있다.
실시 예에서, 프로세서(210)는 프로세서(210)의 내부에 구비되는 메모리(미도시)에 하나 이상의 인스트럭션을 저장하고, 내부에 구비되는 메모리에 저장된 하나 이상의 인스트럭션을 실행하여 전술한 동작들이 수행되도록 제어할 수 있다. 즉, 프로세서(210)는 프로세서(210)의 내부에 구비되는 내부 메모리 또는 메모리(220)에 저장된 적어도 하나의 인스트럭션 또는 프로그램을 실행하여 소정 동작을 수행할 수 있다.
실시 예에서, 보간 프레임을 생성하여 비디오 품질 향상 기능을 수행하는 프로세서(210)는 적어도 하나의 하드웨어 칩 형태로 제작되어 디스플레이 장치(200)에 탑재되거나, 또는 칩 형태나 전자 장치 형태로 디스플레이 장치(200)에 포함될 수도 있다. 또는 비디오 품질 향상 기능을 수행하는 프로세서(210)는 디스플레이 장치(200)에서 소프트웨어 모듈로 구현될 수도 있다.
도 3은 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 매핑 테이블을 생성하는 것을 설명하기 위한 블록도이다.
도 3을 참조하면, 프로세서(210)는 모션 추정 뉴럴 네트워크(211), 오브젝트 검출 뉴럴 네트워크(213) 및 매핑 테이블 생성부(215)를 포함할 수 있다.
모션 추정 뉴럴 네트워크(211)는 입력 데이터로부터 모션 정보를 획득하도록 학습된 뉴럴 네트워크일 수 있다.
모션 정보는 모션 벡터를 포함할 수 있다. 실시 예에서, 모션 정보는 옵티컬 플로우(optical flow)로도 호칭될 수 있다. 옵티컬 플로우는 오브젝트의 움직임에 대한 정보를 담은 데이터로, 광학적으로 물체의 흐름을 인식해 이동량을 계산하는 것을 의미할 수 있다. 즉, 옵티컬 플로우는 물체나 카메라의 상대적인 움직임에 의해 발생하는 연속되는 프레임 사이에서의 오브젝트의 움직임 패턴일 수 있다.
모션 추정 뉴럴 네트워크(211)는 입력 데이터에서 픽셀 별로 모션 정보를 획득하는 알고리즘, 또는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리즘의 집합을 실행하는 하드웨어일 수 있다.
실시 예에서, 모션 추정 뉴럴 네트워크(211)는 적어도 두 개의 프레임, 즉, 제1 프레임 및 제2 프레임에 기초하여 픽셀 별 모션 정보를 획득할 수 있다. 여기서 제1 프레임은 이전 영상이고, 제2 프레임은 현재 영상일 수 있다.
모션 추정 뉴럴 네트워크(211)는 CNN(Convolution Neural Network), DCNN(Deep Convolution Neural Network) 또는 캡스넷(Capsnet) 신경망등과 같은 CNN 기반 신경망일 수 있다. CNN 기반 신경망은 이미지에 포함되는 정보들끼리의 상관 관계가 지역적(local)인 경우, 특정 지역만을 비추는 필터의 개념을 도입하고 이 필터 내에서의 정보들을 컨볼루션(convolution)하여 새로운 특징 맵을 생성할 수 있다.
모션 추정 뉴럴 네트워크(211)는 복수의 심도(depth)를 갖는 DCNN(Deep Convolution Neural Network)일 수 있다. 즉, 뉴럴 네트워크(300)는 연산을 수행하는 내부의 계층(layer)이 복수 개일 수 있다. 연산을 수행하는 신경망의 심도(depth)가 증가하는 경우, 이는 딥 신경망(DNN)으로 분류될 수 있다. 딥 신경망(DNN) 연산은 컨볼루션 신경망(CNN: Convolution Neural Network) 연산 등을 포함할 수 있다.
모션 추정 뉴럴 네트워크(211)는 로우 레벨 레이어(low level layer)부터 하이 레벨 레이어(high level layer)까지 복수 개의 계층들을 포함할 수 있다. 각 레이어는 복수의 가중치(weight values)를 갖고 있으며, 이전(previous) 레이어의 연산 결과와 복수의 가중치의 연산을 통해 레이어의 연산을 수행할 수 있다.
컨볼루션 계층(convolution layer) 뒤에는 풀링 계층(pooling layer)이 배치될 수 있다. 컨볼루션 계층은 컨볼루션 연산에 따라서 생성되는 데이터들의 계층이며, 풀링 계층은 서브 샘플링(subsampling) 또는 풀링이라는 연산을 통하여 데이터의 숫자 또는 크기를 줄이기 위한 계층이다. 컨볼루션 계층(convolution layer)과 풀링 계층(pooling layer)을 통과하면서, 입력된 프레임의 특징을 나타내는 데이터들, 예를 들어, 특징 맵(feature map)이 생성되게 된다.
컨볼루션 계층 및 풀링 계층의 심도(depth)는 가변될 수 있다. 또한, 컨볼루션 계층 및 풀링 계층의 심도에 따라 다른 특징 데이터들이 추출될 수 있다. 예를 들어, 컨볼루션 계층 및 풀링 계층의 심도가 깊어질수록 입력된 프레임의 특징들을 나타내는 정보들이 더욱 세밀한 형태를 가질 수 있다. 심도 및 형태는 결과의 정확도, 결과의 신뢰도, 프로세서의 연산 처리 속도 및 용량 등을 고려하여 매우 다양하게 설계될 수 있다.
모션 추정 뉴럴 네트워크(211)는 적어도 두 개의 입력 프레임 각각에 대해 각 계층들로부터 특징 맵을 추출할 수 있다. 이 때, 계층 필터(filter)의 심도가 바뀌면서 출력되는 특징 맵 또한 달라지게 된다. 모션 추정 뉴럴 네트워크(211)는 각 레이어별로 추출한 특징 맵을 이용하여 모션 정보를 예측할 수 있다.
모션 추정 뉴럴 네트워크(211)는 게임 데이터가 출력되기 시작하면, 매핑 테이블이 생성될 때까지 입력된 프레임의 모든 픽셀에 대해 모션 정보를 예측할 수 있다.
오브젝트 검출 뉴럴 네트워크(213)는 입력 데이터를 분석 및 분류하여 오브젝트를 검출하도록 학습된 뉴럴 네트워크일 수 있다. 오브젝트 검출 뉴럴 네트워크(213)는 입력 데이터에서 오브젝트를 검출하는 알고리즘, 또는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리집의 집합을 실행하는 하드웨어일 수 있다.
오브젝트 검출 뉴럴 네트워크(213)는 복수의 은닉 레이어(hidden layer)들을 통한 연산을 수행하는 심층 신경망(DNN: Deep Neural Network)일 수 있다.
신경망의 예로는, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN(Bidirectional Recurrent Deep Neural Network) 및 심층 Q-네트워크 (Deep Q-Networks) 등이 있으며, 실시 예에서 오브젝트 검출 뉴럴 네트워크(213)는 명시한 경우를 제외하고 전술한 예에 한정되지 않는다. 또한, CNN 뉴럴 네트워크는 DCNN(Deep Convolution Neural Network) 또는 캡스넷(Capsnet) 뉴럴 네트워크(미도시) 등으로 세분화 될 수 있다.
실시 예에서, 오브젝트 검출 뉴럴 네트워크(213)는 다양한 세그멘테이션 알고리즘을 활용하여 구현될 수 있다. 프레임에서 오브젝트를 세그멘테이션하는 기술은 픽셀 기반, 엣지(Edge) 기반, 및 영역 기반의 방법을 포함할 수 있으나 이에 한정되는 것은 아니다.
오브젝트 검출 뉴럴 네트워크(213)는 입력 프레임으로부터 적어도 하나의 오브젝트를 검출할 수 있다. 오브젝트 검출 뉴럴 네트워크(213)는 프레임에 포함된 오브젝트와 나머지 영역 간 색상, 채도, 명도, 대비 등을 기반으로, 프레임에서 오브젝트를 분리하여 검출할 수 있다.
매핑 테이블 생성부(215)는 모션 추정 뉴럴 네트워크(211)로부터 픽셀 별 모션 정보를 획득하고, 오브젝트 검출 뉴럴 네트워크(213)로부터 오브젝트에 대한 정보를 획득할 수 있다.
매핑 테이블 생성부(215)는 사용자 입력 수신부(240)를 통한 사용자 입력을 수신하고, 오브젝트 중 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 식별할 수 있다.
사용자 입력은 제어 장치(130)의 파라미터 값을 포함할 수 있다. 보다 구체적으로, 사용자가 제어 장치(130)를 제어하면, 사용자 제어에 따라 제어 장치(130)의 파라미터 값이 변하게 된다. 매핑 테이블 생성부(215)는 제어 장치(130)의 파라미터 변화 값을 수신하고, 제어 장치(130)의 파라미터 값이 변할 때 화면에 출력되는 오브젝트들의 이동 정도를 식별할 수 있다.
매핑 테이블 생성부(215)는 파라미터 값의 변화와 모션 정보의 관련성이 가장 큰 오브젝트를 사용자 제어 오브젝트로 식별할 수 있다. 매핑 테이블 생성부(215)는 식별된 사용자 제어 오브젝트의 위치 정보, 예컨대, 사용자 제어 오브젝트의 바운더리나 픽셀의 좌표 값, 픽셀 번호 등을 매핑 테이블에 포함시킬 수 있다.
매핑 테이블 생성부(215)는 사용자 입력에 따른 제어 장치(130)의 파라미터 값 변화와 사용자 제어 오브젝트의 이동 정도를 매핑하여 이를 매핑 테이블에 포함시킬 수 있다. 제어 장치(130)의 파라미터는 사용자 입력에 따른 제어 장치(130)의 이동 방향, 이동 거리, 이동 시간, 이동 속도, 이동 가속도, 이동 강도, 이동 진폭 중 적어도 하나를 포함할 수 있다.
제어 장치(130)의 파라미터 값은 제어 장치(130)의 종류에 따라 달라질 수 있다. 예컨대, 제어 장치(130)가 키보드인 경우와 조이스틱인 경우, 각 제어 장치 별로 파라미터 값은 달라질 수 있다. 매핑 테이블 생성부(215)는 제어 장치(130)의 종류 별로 각각 매핑 테이블을 생성할 수 있다.
매핑 테이블 생성부(215)는 소정 시간 동안의 사용자 입력에 기초하여 매핑 테이블을 계속 업데이트할 수 있다. 즉, 매핑 테이블 생성부(215)는 소정 시간 동안, 또는 소정 개수의 프레임에 대해서, 사용자 입력에 따라 모션 정도가 가장 큰 오브젝트를 계속 검출할 수 있다. 또한, 매핑 테이블 생성부(215)는 사용자 입력에 따른 제어 장치(130)의 파라미터 변화와 이에 따른 오브젝트의 이동 정도를 관련지어 매핑 테이블을 생성하는 과정을 계속 수행할 수 있다. 매핑 테이블 생성부(215)는 소정 시간 동안, 또는 소정 개수의 프레임들에 대해서, 이 과정을 반복하여 수행함으로써 보다 정확히 사용자 제어 오브젝트를 검출하고, 검출된 사용자 제어 오브젝트의 모션과 파라미터 값 간의 관련성을 보다 정확히 나타내는 매핑 테이블을 생성할 수 있다.
도 4는 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 매핑 테이블을 생성하는 것을 설명하기 위한 블록도이다.
도 4를 참조하면, 프로세서(210)는 모션 추정 뉴럴 네트워크(211), 오브젝트 검출 뉴럴 네트워크(213) 및 매핑 테이블 생성부(215)를 포함할 수 있다. 또한, 프로세서(210)는 모션 정보 수정부(212)를 더 포함할 수 있다.
도 4의 프로세서(210)는 도 3의 프로세서(210)의 일 예일 수 있다. 이하, 도 3에 대한 설명과 중복되는 설명은 생략한다.
도 4에서, 오브젝트 검출 뉴럴 네트워크(213)는 전경 후경 검출 뉴럴 네트워크(214)를 포함할 수 있다. 전경 후경 검출 뉴럴 네트워크(214)는 프레임을 분석 및 분류하여 프레임에 포함된 오브젝트가 전경(foreground)인지, 후경, 즉, 배경(background)인지를 식별하도록 학습된 뉴럴 네트워크일 수 있다. 전경 후경 검출 뉴럴 네트워크(214)는 입력 데이터에서 오브젝트의 위치를 검출하는 알고리즘, 또는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리집의 집합을 실행하는 하드웨어일 수 있다.
보통 게임 데이터에서 사용자 제어 오브젝트는 중앙 또는 중앙에서 약간 하단에 위치하게 된다. 다시 말하면, 사용자 제어 오브젝트는 프레임에서 전경 오브젝트인 경우가 많으므로, 전경 후경 검출 뉴럴 네트워크(214)는 프레임으로부터 검출된 오브젝트가 전경 오브젝트인지 또는 후경 오브젝트인지를 식별함으로써, 사용자 제어 오브젝트가 보다 용이하게 검출되도록 할 수 있다.
오브젝트 검출 뉴럴 네트워크(213)는 프레임에서 복수의 오브젝트를 검출하고 이를 모션 정보 수정부(212)로 전송할 수 있다. 또한, 오브젝트 검출 뉴럴 네트워크(213)는 검출된 오브젝트 중, 전경 후경 검출 뉴럴 네트워크(214)에 의해 전경 오브젝트로 식별된 오브젝트가 무엇인지를 모션 정보 수정부(212)로 전송할 수 있다.
모션 정보 수정부(212)는 모션 정보 획득부(211)로부터 프레임에 포함된 픽셀들에 대한 모션 정보를 획득하고, 오브젝트 검출 뉴럴 네트워크(213)로부터 검출된 오브젝트에 대한 정보 및 전경 오브젝트가 무엇인지에 대한 정보를 획득할 수 있다.
모션 정보 수정부(212)는 프레임에 포함된 오브젝트 별로 오브젝트에 포함된 픽셀의 모션 정보를 획득하고, 이를 수정할 수 있다. 모션 정보 수정부(212)는 오브젝트에 대한 이벤트 발생에 따라, 검출된 오브젝트에 포함된 픽셀들에 대한 모션 정보를 수정할 수 있다. 오브젝트에 대한 이벤트는 줌 인, 줌 아웃, 로테이션 중 적어도 하나를 포함할 수 있다.
예컨대, 검출된 오브젝트가 사용자 제어 오브젝트인 경우, 사용자 제어 오브젝트는 사용자 제어에 따라 오브젝트 크기가 커지거나 또는 작아질 수 있다. 즉, 사용자는 제어 장치(130)를 이용하여 사용자 제어 오브젝트의 크기를 확대하거나 또는 축소하도록 하는 사용자 입력을 전송할 수 있다. 또한, 사용자는 제어 장치(130)를 이용하여 오브젝트가 회전하도록 하는 사용자 입력을 전송할 수도 있다. 이러한 다양한 이벤트가 발생할 경우, 매핑 테이블에 저장된 모션 정보 또한 바뀔 수 있으므로, 모션 정보 수정부(212)는 사용자의 입력에 따라 이벤트가 발생할 경우 사용자 제어 오브젝트의 모션 정보가 어떻게 변하는지를 보다 정확히 예측하기 위해 모션 정보에 대한 통계적 특성을 계산할 수 있다.
모션 정보 수정부(212)는 줌 인이나 줌 아웃과 같은 이벤트가 발생할 경우, 오브젝트에 포함된 픽셀들의 수를 이벤트 발생 전보다 2배, 또는 3배로 늘리거나 줄이고, 그 때 늘어나거나 줄어든 픽셀들에 대한 모션 정보를 예측할 수 있다. 또한, 모션 정보 수정부(212)는 회전과 같은 이벤트가 발생할 경우, 오브젝트에 포함된 픽셀들의 수가 회전에 따라 변하는 것을 고려하여 변화된 픽셀들에 대한 모션 정보를 예측할 수 있다.
모션 정보 수정부(212)는 다양한 이벤트 발생에 따른 모션 정보의 변화를 예측하고 이를 반영하여 픽셀들의 모션 정보를 수정할 수 있다.
매핑 테이블 생성부(215)는 프레임에 포함된 오브젝트 별로 획득되어 수정된 모션 정보를 모션 정보 수정부(212)로부터 획득하고, 이를 이용하여 매핑 테이블을 생성할 수 있다. 매핑 테이블 생성부(215)는 사용자 입력에 따른 오브젝트의 이동 정도에 따라 사용자 제어 오브젝트를 식별하고, 식별된 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보와 사용자 입력 간의 관계를 매핑 테이블로 생성할 수 있다.
도 5는 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 보간 프레임을 생성하는 것을 설명하기 위한 블록도이다.
도 5를 참조하면, 프로세서(210)는 모션 정보 획득부(511) 및 보간 프레임 생성부(517)를 포함할 수 있다. 모션 정보 획득부(511)는 입력된 프레임으로부터 모션 정보 내지는 옵티컬 플로우를 획득할 수 있다.
모션 정보 획득부(511)는 제1 모션 정보 획득부(513) 및 제2 모션 정보 획득부(515)를 포함할 수 있다.
제1 모션 정보 획득부(513)는 프레임에 포함된 사용자 제어 오브젝트에 대한 모션 정보를 획득할 수 있다. 이하, 설명의 편의를 위해, 사용자 제어 오브젝트에 대한 모션 정보를 제1 모션 정보로 부르기로 한다.
제1 모션 정보 획득부(513)는 기 생성되어 저장되어 있는 매핑 테이블을 이용하여 프레임에서 사용자 제어 오브젝트를 식별할 수 있다. 전술한 바와 같이, 매핑 테이블에는 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 식별하기 위한 정보가 포함될 수 있다. 사용자 제어 오브젝트를 식별하기 위한 정보는 사용자 제어 오브젝트의 바운더리나 사용자 제어 오브젝트에 포함된 픽셀의 좌표 값이나 픽셀 번호 등을 포함할 수 있다.
제1 모션 정보 획득부(513)는 사용자 입력을 수신하면, 사용자 입력에 포함된 제어 장치(130)의 파라미터 변화 값을 획득할 수 있다.
전술한 바와 같이, 매핑 테이블은 사용자 제어 오브젝트의 모션 정보와 사용자 입력에 따른 제어 장치(130)의 파라미터 값과의 매핑 관계를 포함하고 있다. 제어 장치(130)의 파라미터는 조이스틱이나 키보드 등의 제어 장치(130)를 이용한 사용자 입력에 따른 이동 방향이나 이동 거리, 이동 명령 시간이나 이동 속도나 이동 가속도, 사용자 입력의 강도나 진폭 등과 같은 다양한 변수를 포함할 수 있다.
제1 모션 정보 획득부(513)는 매핑 테이블로부터, 사용자 입력에 따른 제어 장치(130)의 파라미터 변화에 매핑되는 사용자 제어 오브젝트의 모션 정보, 즉, 제1 모션 정보를 획득할 수 있다. 제1 모션 정보는 사용자 제어 오브젝트 전체에 대한 하나의 모션 정보이거나, 또는 사용자 제어 오브젝트에 포함된 복수의 픽셀들 각각에 대한 모션 정보를 포함할 수 있다.
이와 같이, 제1 모션 정보 획득부(513)는 사용자 입력을 기초로, 기 생성된 매핑 테이블을 이용하여, 사용자 제어 오브젝트에 대한 제1 모션 정보를 직접 획득한다는 점에서, 보다 정확히 사용자 제어 오브젝트의 모션을 예측할 수 있다.
제1 모션 정보 획득부(513)는 획득한 제1 모션 정보를 보간 프레임 생성부로 전송할 수 있다.
제2 모션 정보 획득부(515)는 프레임에서 사용자 제어 오브젝트 외의 픽셀들에 대한 모션 정보를 획득할 수 있다.
제2 모션 정보 획득부(515)는 프레임 전체에 대해 모션 정보를 획득하는 것이 아니고, 프레임에서 매핑 테이블을 이용하여 식별된 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대해서만 모션 정보를 획득할 수 있다. 이하, 설명의 편의를 위해, 사용자 제어 오브젝트 외의 픽셀들에 대한 모션 정보를 제2 모션 정보로 부르기로 한다.
실시 예에서, 제2 모션 정보 획득부(515)는 도 3에서 설명한 모션 추정 뉴럴 네트워크(211)를 이용할 수 있다. 즉, 제2 모션 정보 획득부(515)는 입력 데이터로부터 옵티컬 플로우, 즉, 모션 정보를 획득하도록 학습된 뉴럴 네트워크를 이용할 수 있다. 제2 모션 정보 획득부(515)는 입력 데이터에서 픽셀 별로 모션 정보를 획득하는 알고리즘, 또는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리집의 집합을 실행하는 하드웨어를 이용하여, 적어도 두 개의 프레임에 기초하여 픽셀 별 모션 정보를 획득할 수 있다.
제2 모션 정보 획득부(515)는 CNN(Convolution Neural Network), DCNN(Deep Convolution Neural Network) 또는 캡스넷(Capsnet) 신경망등과 같은 CNN 기반 신경망을 이용할 수 있다.
실시 예에서, 제2 모션 정보 획득부(515)는 복수의 계층들을 통한 연산을 수행하는 딥 뉴럴 네트워크(DNN: Deep Neural Network)를 이용할 수 있다. 제2 모션 정보 획득부(515)는 적어도 두 개의 입력 프레임 각각에 대해 각 계층들로부터 특징 맵을 추출하고, 각 레이어별로 추출한 특징 맵을 이용하여 모션 정보를 예측할 수 있다.
제2 모션 정보 획득부(515)는 게임 데이터가 출력되기 시작하면, 매핑 테이블이 생성될 때까지 입력된 프레임의 모든 픽셀에 대해 모션 정보를 예측하다가, 매핑 테이블이 생성된 이후에는 사용자 제어 오브젝트를 제외한 나머지 픽셀에 대해서만 모션 정보를 예측할 수 있다. 즉, 제2 모션 정보 획득부(515)는 매핑 테이블이 생성된 이후에는 프레임 전체가 아닌 프레임에 포함된 픽셀들 중 일부 픽셀에 대해서만 모션 정보를 예측하기 때문에, 프레임 전체에 대해 모션 정보를 추정함으로 인한 복잡성 및 연산량 등이 감소될 수 있다.
제2 모션 정보 획득부(515)는 제2 모션 정보를 보간 프레임 생성부(517)로 전송할 수 있다.
보간 프레임 생성부(517)는 모션 정보 획득부(511)로부터 획득한 모션 정보와 적어도 두 개의 프레임을 이용하여, 적어도 두 개의 프레임 사이의 보간 프레임을 생성할 수 있다.
실시 예에서, 보간 프레임 생성부(517)는 모션 정보와 프레임을 입력 받고 이를 분석 및 분류하여 새로운 보간 프레임을 생성하도록 학습된 뉴럴 네트워크를 이용할 수 있다. 보간 프레임 생성부(517)는 입력 데이터로부터 새로운 프레임을 합성하는 알고리즘, 또는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리집의 집합을 실행하는 하드웨어를 이용할 수 있다.
보간 프레임 생성부(517)는 CNN 뉴럴 네트워크를 이용할 수 있다. CNN 뉴럴 네트워크는 DCNN(Deep Convolution Neural Network) 또는 캡스넷(Capsnet) 뉴럴 네트워크(미도시) 등으로 세분화 될 수 있다.
보간 프레임 생성부(517)는 보간 방법에 따라, 입력된 프레임의 각 픽셀 별 모션 정보나 블록 별 모션 정보를 이용하여 보간 프레임을 생성할 수 있다. 또는 보간 프레임 생성부(517)는 커널(KERNEL) 기반, Phase 기반, 또는 이들의 조합(combination) 기반 방법 중 하나를 이용할 수도 있다.
예컨대, 보간 프레임 생성부(517)는 일반적인 CNN 뉴럴 네트워크를 이용하여 적어도 두 개의 입력 프레임을 쌓아서(stack) 이를 입력 데이터로 이용하고, 입력 데이터를 컨벌루션 레이어에 여러 번 통과시켜 최종 출력으로 옵티컬 플로우가 반영된 보간 프레임을 출력할 수 있다.
또는 보간 프레임 생성부(517)는 적어도 두 개의 입력 프레임 각각에 대해 따로 컨벌루션 레이어를 통과시켜 특징 맵을 획득하고, 획득한 특징 맵을 상관 레이어(Correlation layer)를 거치도록 한 뒤 다시 컨벌루션 레이어를 반복하여 거치도록 함으로써 각 프레임에서 획득한 특징 맵을 비교하여 보간 프레임을 생성할 수도 있다. 이 때, 상관 레이어는 컨벌루션 레이어와 같은 연산이지만 가중치 대신 서로의 입력을 이용하는 레이어를 의미할 수 있다.
또는 보간 프레임 생성부(517)는 입력된 프레임의 주변 픽셀에서 컨텍스트 정보를 수집하여 계층적 특징을 학습할 수도 있다. 보간 프레임 생성부(517)는 모션 정보 획득부(511)로부터 받은 모션 정보와 입력 프레임을 이용하여, 깊이 추정, 컨텐츠 추출, 커널 추정 및 프레임 합성의 과정을 거쳐 새로운 프레임을 합성할 수도 있다.
보간 프레임 생성부(517)는 상술한 방법 이외에도 다양한 방법을 이용하여 모션 정보 및 입력 프레임으로부터 보간 프레임을 생성할 수 있다. 보간 프레임 생성부(517)는 프레임 사이에 예측된 가상의 프레임을 삽입하여 프레임 수를 늘림으로써, 비디오의 화질을 향상시킬 수 있다.
도 6은 실시 예에 따라, 디스플레이 장치에 포함된 프로세서가 보간 프레임을 생성하는 것을 설명하기 위한 블록도이다.
도 6를 참조하면, 프로세서(210)는 모션 정보 획득부(511), 모션 정보 후처리부(516) 및 보간 프레임 생성부(517)를 포함할 수 있다. 도 6에 도시된 프로세서(210)는 도 5에 도시된 프로세서(210)의 일 예일 수 있다. 따라서, 도 5에서 설명한 내용과 중복되는 부분에 대한 설명은 생략한다.
모션 정보 획득부(511)는 입력된 프레임으로부터 모션 정보 내지는 옵티컬 플로우를 획득할 수 있다. 모션 정보 획득부(511)는 프레임에 포함된 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 제1 모션 정보 획득부(513)와, 사용자 제어 오브젝트를 제외한 픽셀에 대한 제2 모션 정보를 획득하는 제2 모션 정보 획득부(515)를 포함할 수 있다.
모션 정보 후처리부(516)는 모션 정보 획득부(511)로부터 받은 모션 정보를 후처리할 수 있다.
모션 정보 후처리부(516)는 다양한 방법으로 모션 정보를 후처리할 수 있다. 실시 예에서, 모션 정보 후처리부(516)는 이웃하는 주변 픽셀이나 주변의 서브 영역의 모션 정보를 고려하여 소정 픽셀이나 소정 서브 영역의 모션 정보를 수정할 수 있다.
모션 정보 후처리부(516)는 주변 픽셀이나 주변 서브 영역의 모션 정보를 이용하여 소정 픽셀이나 소정 서브 영역의 모션 정보가 보다 자연스러워 지도록 수정할 수 있다. 예컨대, 모션 정보 후처리부(516)는 프레임에 포함된 제1 픽셀에 대해, 제1 픽셀과 이웃하는 적어도 하나의 주변 픽셀, 즉, 제1 픽셀의 우측, 좌측, 상측, 하측에 위치한 주변 픽셀들 중 적어도 하나를 이용하여 제1 픽셀의 모션 정보를 수정할 수 있다.
모션 정보 후처리부(516)는 주변 픽셀들과 제1 픽셀을 함께 고려하여, 제1 픽셀의 모션 정보를 수정할 수도 있다. 예컨대, 모션 정보 후처리부(516)는 제1 픽셀과 주변 픽셀들의 모션 정보 값의 평균을 이용하여, 제1 픽셀의 모션 정보를 수정할 수 있다.
다른 실시 예에서, 모션 정보 후처리부(516)는 픽셀 별 모션 정보를 오브젝트 별로 또는 소정 사이즈의 블록 별로 그루핑할 수 있다. 각 픽셀 별 모션 정보를 이용하여 보간 프레임을 생성하는 것은 상당한 연산량이 소요되는 작업일 수 있다. 따라서, 모션 정보 후처리부(516)는 각 픽셀 별 모션 정보를 오브젝트 단위로 묶거나 또는 소정 블록 단위로 묶어서 오브젝트 별로 또는 블록 별로 모션 정보를 획득할 수 있다. 예컨대, 모션 정보 후처리부(516)는 소정 블록에 포함된 픽셀 별 모션 정보들의 평균 값이나 최대 값, 중간 값 등을 소정 블록 전체에 대한 모션 정보로 획득할 수 있다.
모션 정보 후처리부(516)는 블록 별 또는 오브젝트 별 모션 정보를 보간 프레임 생성부(517)로 전송할 수 있다.
보간 프레임 생성부(517)는 오브젝트 별 또는 블록 별로 그루핑된 모션 정보를 이용함으로써, 각 픽셀 기반 모션 정보를 이용할 때보다 더 적은 연산량으로 더 신속하게 보간 프레임을 생성할 수 있다.
도 7는 실시 예에 따른 디스플레이 장치의 내부 블록도이다.
도 7을 참조하면, 디스플레이 장치(700)는 프로세서(210), 메모리(220), 유저 인터페이스(240), 디스플레이(250)를 포함할 수 있다. 나아가, 디스플레이 장치(700)는 튜너부(710), 통신부(720), 감지부(730), 입/출력부(740), 비디오 처리부(750), 오디오 처리부(760) 및 오디오 출력부(770)를 더 포함할 수 있다.
도 7의 디스플레이 장치(700)는 도 2의 디스플레이 장치(200)를 포함할 수 있다. 따라서, 도 2에서 설명한 내용과 중복되는 설명은 생략한다.
디스플레이 장치(700)는 게임 데이터를 출력할 수 있는 다양한 전자 장치로 구현될 수 있으며 예를 들어, 데스크탑, 디지털 TV, 스마트 폰(smartphone), 태블릿 PC(tablet personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), PDA(Personal Digital Assistants), PMP(Portable Multimedia Player) 등이 될 수 있다.
튜너부(710)는 유선 또는 무선으로 수신되는 방송 컨텐츠 등을 증폭(amplification), 혼합(mixing), 공진(resonance)등을 통하여 많은 전파 성분 중에서 영상 검출 장치(700)에서 수신하고자 하는 채널의 주파수만을 튜닝(tuning)시켜 선택할 수 있다. 튜너부(710)를 통해 수신된 컨텐츠는 디코딩(decoding, 예를 들어, 오디오 디코딩, 비디오 디코딩 또는 부가 정보 디코딩)되어 오디오, 비디오 및/또는 부가 정보로 분리된다. 분리된 오디오, 비디오 및/또는 부가 정보는 프로세서(210)의 제어에 의해 메모리(730)에 저장될 수 있다.
통신부(720)는 프로세서(210)의 제어에 따라서 유무선의 네트워크를 통하여 연결되는 외부 장치와 통신을 수행하여 신호를 송수신할 수 있다. 통신부(630)는 근거리 통신 모듈, 유선 통신 모듈, 이동 통신 모듈, 방송 수신 모듈 등과 같은 적어도 하나의 통신 모듈을 포함할 수 있다. 통신 모듈은 방송 수신을 수행하는 튜너, 블루투스, WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), CDMA, WCDMA 등과 같은 통신 규격을 따르는 네트워크를 통하여 데이터 송수신을 수행할 수 있는 통신 모듈을 포함할 수 있다.
통신부(720)는 외부 장치나 서버 등으로부터 게임 프로그램이나 게임 어플리케이션(application)을 다운로드하거나 또는 웹 브라우징을 할 수 있다. 통신부(720)는 디스플레이 장치(700)의 성능 및 구조에 대응하여 무선 랜(721), 블루투스(722), 및 유선 이더넷(Ethernet)(723) 중 하나를 포함할 수 있다. 또한, 통신부(720)는 무선랜(721), 블루투스(722), 및 유선 이더넷(Ethernet)(723)의 조합을 포함할 수 있다.
통신부(720)는 프로세서(210)의 제어에 의해 리모컨이나 핸드폰, 조이스틱, 무선 마우스 등과 같은 제어 장치(미도시)를 통한 제어 신호를 수신할 수 있다. 제어 신호는 블루투스 타입, RF 신호 타입 또는 와이파이 타입으로 구현될 수 있다. 통신부(720)는 블루투스(722) 외에 다른 근거리 통신(예를 들어, NFC(near field communication, 미도시), BLE(bluetooth low energy, 미도시)를 더 포함할 수 있다. 실시 예에 따라, 통신부(720)는 블루투스(722)나 BLE와 같은 근거리 통신을 통하여 외부 장치 등과 연결 신호를 송수신할 수도 있다.
감지부(730)는 사용자의 음성, 사용자의 영상, 또는 사용자의 인터랙션을 감지하며, 마이크(731), 카메라부(732), 및 광 수신부(733)를 포함할 수 있다. 마이크(731)는 사용자의 발화(utterance)된 음성을 수신할 수 있고 수신된 음성을 전기 신호로 변환하여 프로세서(210)로 출력할 수 있다.
카메라부(732)는 센서(미도시) 및 렌즈(미도시)를 포함하고, 화면에 맺힌 이미지를 촬영할 수 있다.
광 수신부(733)는, 광 신호(제어 신호를 포함)를 수신할 수 있다. 광 수신부(733)는 리모컨이나 핸드폰, 마우스 등과 같은 제어 장치(미도시)로부터 사용자 입력(예를 들어, 터치, 눌림, 터치 제스처, 음성, 또는 모션)에 대응되는 광 신호를 수신할 수 있다. 수신된 광 신호로부터 프로세서(210)의 제어에 의해 제어 신호가 추출될 수 있다.
입/출력부(740)는 도 2에 도시된 데이터 입력부(230)를 포함할 수 있다. 입/출력부(740)는 프로세서(210)의 제어에 의해 외부의 데이터베이스나 서버, 게임 장치 등으로부터 게임 데이터를 포함하는 각종 비디오(예를 들어, 동영상 신호나 정지 영상 신호 등), 오디오(예를 들어, 음성 신호나, 음악 신호 등) 및 부가 정보(예를 들어, 컨텐츠에 대한 설명이나 컨텐츠 타이틀, 컨텐츠 저장 위치) 등을 수신할 수 있다. 여기서 부가 정보는 컨텐트에 대한 메타데이터를 포함할 수 있다.
입/출력부(740)는 HDMI 포트(High-Definition Multimedia Interface port, 741), 컴포넌트 잭(component jack, 742), PC 포트(PC port, 743), 및 USB 포트(USB port, 744) 중 하나를 포함할 수 있다. 입/출력부(740)는 HDMI 포트(741), 컴포넌트 잭(742), PC 포트(743), 및 USB 포트(744)의 조합을 포함할 수 있다.
비디오 처리부(750)는, 디스플레이(430)에 의해 표시될 영상 데이터를 처리하며, 영상 데이터에 대한 디코딩, 렌더링, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 및 해상도 변환 등과 같은 다양한 영상 처리 동작을 수행할 수 있다.
오디오 처리부(760)는 오디오 데이터에 대한 처리를 수행한다. 오디오 처리부(760)에서는 오디오 데이터에 대한 디코딩이나 증폭, 노이즈 필터링 등과 같은 다양한 처리가 수행될 수 있다.
오디오 출력부(770)는 프로세서(210)의 제어에 의해 튜너부(710)를 통해 수신된 컨텐츠에 포함된 오디오, 통신부(440) 또는 입/출력부(740)를 통해 입력되는 오디오, 메모리(420)에 저장된 오디오를 출력할 수 있다. 오디오 출력부(770)는 스피커(771), 헤드폰 출력 단자(772) 또는 S/PDIF(Sony/Philips Digital Interface: 출력 단자(773) 중 적어도 하나를 포함할 수 있다.
실시 예에 따른 유저 인터페이스(240)는 디스플레이 장치(700)를 제어하기 위한 사용자 입력을 수신할 수 있다. 도 7의 유저 인터페이스(240)는 도 2의 사용자 입력 수신부(240)와 수행하는 기능이 같으므로, 참조 부호 또한 동일하게 사용하였다.
유저 인터페이스(240)는 사용자의 터치를 감지하는 터치 패널, 사용자의 푸시 조작을 수신하는 버튼, 사용자의 회전 조작을 수신하는 휠, 키보드(key board), 및 돔 스위치 (dome switch), 음성 인식을 위한 마이크, 모션을 센싱하는 모션 감지 센서 등을 포함하는 다양한 형태의 사용자 입력 디바이스를 포함할 수 있으나 이에 제한되지 않는다. 또한, 영상 검출 장치(700)가 원격 제어 장치(remote controller)(미도시)에 의해서 조작되는 경우, 유저 인터페이스(240)는 원격 제어 장치로부터 수신되는 제어 신호를 수신할 수 있다.
실시 예에 따라, 사용자는 유저 인터페이스(240)를 통하여 디스플레이 장치(700)를 제어하여 디스플레이 장치(700)의 여러 기능들이 수행되도록 할 수 있다. 사용자는 유저 인터페이스(240)를 이용하여, 디스플레이 장치(700)에서 출력되는 게임 비디오에서 사용자 제어 오브젝트를 제어할 수 있다.
메모리(220)는, 적어도 하나의 인스트럭션을 저장할 수 있다. 메모리(220)는 프로세서(210)가 실행하는 적어도 하나의 프로그램을 저장하고 있을 수 있다. 메모리(220)에는 적어도 하나의 뉴럴 네트워크 및/또는 기 정의된 동작 규칙이나 AI 모델이 저장될 수 있다. 또한 메모리(220)는 디스플레이 장치(200)로 입력되거나 디스플레이 장치(200)로부터 출력되는 데이터를 저장할 수 있다.
실시 예에서, 메모리(220)는 디스플레이 장치(200)가 생성한 매핑 테이블을 저장할 수 있다. 또는 게임 데이터가 메타데이터를 포함하는 경우, 메모리(220)는 게임 데이터에 대한 메타데이터를 저장할 수도 있다.
프로세서(210)는 디스플레이 장치(200)의 전반적인 동작을 제어한다. 프로세서(210)는 메모리(220)에 저장된 하나 이상의 인스트럭션을 실행함으로써, 디스플레이 장치(200)가 기능하도록 제어할 수 있다.
실시 예에서, 프로세서(210)는 비디오에 포함된 프레임에서 사용자의 제어에 따라 이동하는 사용자 제어 오브젝트를 식별하고, 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득할 수 있다.
실시 예에서, 프로세서(210)는 제1 뉴럴 네트워크를 이용하여, 프레임에 포함된 픽셀들 중 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득할 수 있다. 제1 뉴럴 네트워크는 모션 추정 뉴럴 네트워크일 수 있다.
실시 예에서, 프로세서(210)는 제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 제1 모션 정보, 및 제2 모션 정보로부터 적어도 두 개의 프레임 사이의 보간 프레임을 생성할 수 있다. 제2 뉴럴 네트워크는 보간 프레임 생성을 위한 뉴럴 네트워크일 수 있다.
실시 예에서, 프로세서(210)는 제1 모션 정보 및 상기 제2 모션 정보를 후처리할 수 있다. 즉, 프로세서(210)는 프레임에 포함된 소정 픽셀의 모션 정보를 소정 픽셀에 이웃하는 적어도 하나의 주변 픽셀의 모션 정보를 이용하여 수정하거나, 또는 프레임에 포함된 픽셀들을 오브젝트 별로 그룹핑하여 오브젝트 별 모션 정보를 획득하는 것 중 적어도 하나를 수행하여 모션 정보를 후처리할 수 있다.
실시 예에서, 프로세서(210)는 제1 모션 정보를 획득하는 단계 이전에, 프레임을 입력 받고, 입력 프레임에 포함된 오브젝트에 대한 사용자 입력을 기반으로, 매핑 테이블을 생성할 수 있다. 프로세서(210)는 제1 뉴럴 네트워크를 이용하여, 입력 프레임에 포함된 모든 픽셀들에 대한 모션 정보를 획득할 수 있다.
매핑 테이블을 생성하기 위해, 프로세서(210)는 제3 뉴럴 네트워크를 이용하여, 입력 프레임에서 적어도 하나의 오브젝트를 검출할 수 있다. 제3 뉴럴 네트워크는 오브젝트 검출 뉴럴 네트워크일 수 있다. 프로세서(210)는 검출된 오브젝트 중, 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 식별할 수 있다.
프로세서(210)는 제3 뉴럴 네트워크를 이용하여 오브젝트가 전경 오브젝트인지 후경 오브젝트인지를 검출할 수도 있다. 프로세서(210)는 전경 오브젝트 중에서 사용자 제어 오브젝트를 식별할 수 있다.
프로세서(210)는 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보와 사용자 입력과의 관련성에 기반하여, 매핑 테이블을 생성할 수 있다. 프로세서(210)는 사용자 입력에 따른 컨트롤러, 즉, 제어 장치의 파라미터 변화를 획득하고, 컨트롤러의 파라미터 변화에 따른 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보를 매핑하여 매핑 테이블을 생성할 수 있다. 컨트롤러의 파라미터는 이동 방향, 이동 거리, 이동 시간, 이동 속도, 이동 가속도, 이동 강도, 이동 진폭 중 적어도 하나를 포함할 수 있다.
프로세서(210)는 검출된 오브젝트에 대한 이벤트에 기초하여 검출된 오브젝트에 포함된 픽셀들에 대한 모션 정보를 수정할 수도 있다. 즉, 프로세서(210)는 줌 인, 줌 아웃, 로테이션 중 적어도 하나를 포함하는 이벤트가 발생하는 경우, 이벤트에 따라 픽셀들의 모션 정보를 수정할 수 있다.
프로세서(210)는 소정 시간 동안 사용자 입력을 수신하고, 소정 시간 동안의 상기 사용자 입력에 기초하여 매핑 테이블을 업데이트할 수 있다.
프로세서(210)는 사용자 입력을 수신하는 컨트롤러의 종류 별로 각각 매핑 테이블을 생성할 수 있다.
프로세서(210)는 게임이 시작될 때마다, 매핑 테이블을 생성할 수 있다. 또는 프로세서(210)는 최초에 게임이 셋업될때만 매핑 테이블을 생성하고 이후에는 기 저장된 매핑 테이블을 이용할 수 있다.
도 8은 실시 예에 따라 사용자 입력에 의해 사용자 제어 오브젝트가 이동하는 것을 설명하기 위한 도면이다.
도 8을 참조하면, 사용자는 제어 장치(810)를 이용하여 사용자 제어 오브젝트를 제어할 수 있다. 도 8의 화면(820, 830)은 사용자의 입력에 따라 사용자 제어 오브젝트(821, 831)가 움직이는 것을 도시한다.
제어 장치(810)는 리모컨이나 휴대폰, 조이스틱, 키보드, 마우스 등과 같이 디스플레이 장치에서 출력되는 게임 데이터를 제어하기 위한 다양한 형태의 컨트롤러로 구현될 수 있다.
제어 장치(810)는 게임 데이터를 제어하기 위한 키나 버튼을 포함할 수 있다. 제어 장치(810)는 비디오에 포함된 오브젝트를 좌 우 또는 위 아래 방향으로 이동시키기 위한 방향 키, 오브젝트의 방향을 회전하기 위한 회전 키, 오브젝트의 크기를 확대하거나 축소하기 위한 줌 인 또는 줌 아웃 키, 아이템 선택을 위한 엔터 키, 이전 화면으로 돌아가기 위한 키 등 다양한 종류의 제어 키나 제어 버튼을 적어도 하나 포함할 수 있다.
게임 데이터에 포함된 비디오는 복수의 프레임을 포함할 수 있다. 프레임에는 적어도 하나의 오브젝트가 포함될 수 있다. 디스플레이 장치는 게임 데이터를 프레임 단위로 출력할 수 있다.
사용자는 제어 장치(810)를 이용하여 프레임에 포함된 오브젝트 중, 사용자가 제어할 수 있는 사용자 제어 오브젝트의 움직임을 제어할 수 있다. 사용자는 사용자 제어 오브젝트의 움직임을 제어하기 위해, 제어 장치(810)를 이용하여 사용자 입력을 전송할 수 있다. 사용자 입력은 제어 장치(810)의 파라미터 값을 포함할 수 있다. 즉, 사용자가 제어 장치(810)를 조작하면, 사용자 조작에 대응하는 제어 장치(810)의 파라미터 값이 사용자 입력에 포함되어 디스플레이 장치에 전송될 수 있다.
예컨대, 사용자가 x의 세기로 조이스틱을 우측 방향으로 움직일 때의 파라미터 값을 2라고 가정한다. 파라미터 값이 2일 때 사용자 제어 오브젝트가 y 픽셀만큼 우측 방향으로 이동하는 경우, 디스플레이 장치는 파라미터 값 2과 모션 정보 y를 매핑할 수 있다. 디스플레이 장치는 파라미터 값과 그에 대응하는 모션 정보를 매핑하고 이를 저장하여 매핑 테이블을 생성할 수 있다.
사용자 입력에 따른 제어 장치(810)의 파라미터 값은 각 제어 장치의 종류 별로 다를 수 있다. 즉, 사용자가 동일한 세기로 조이스틱을 움직이고 마우스 버튼을 누른다고 하더라도 제어 장치(810) 별로 사용자 입력을 센싱하는 파라미터 값은 서로 달라질 수 있다. 따라서, 디스플레이 장치는 각 제어 장치(810) 별로 서로 다른 매핑 테이블을 생성할 수 있다.
디스플레이 장치는 새로운 제어 장치(810)가 연결되면, 새로 연결된 제어 장치(810)에 대해 기 저장된 매핑 테이블이 있는지를 확인하고, 기 저장된 매핑 테이블이 없는 경우 새로운 제어 장치(810)를 위한 매핑 테이블을 생성할 수 있다.
매핑 테이블이 새로 생성되거나 또는 이전에 이미 생성되어 디스플레이 장치에 저장되어 있는 경우, 디스플레이 장치는 사용자 입력에 따른 사용자 제어 오브젝트의 모션 정보를 매핑 테이블로부터 획득할 수 있다. 즉, 위 예에서와 같이, 현재의 사용자 입력이 파라미터 값 2를 포함하는 경우, 디스플레이 장치는 매핑 테이블로부터 파라미터 값 2에 매핑되어 저장된 모션 정보 y를 추출하고 이를 이용하여 사용자 제어 오브젝트가 현재 위치로부터 y픽셀만큼 이동하도록 제어할 수 있다.
도 9는 실시 예에 따라 디스플레이 장치가 매핑 테이블 생성을 위해 사용자에게 사용자 입력을 요청하는 인터페이스 화면을 출력하는 것을 설명하기 위한 도면이다.
디스플레이 장치는 게임이 새로 시작되면 매핑 테이블을 생성할 수 있다. 또는 디스플레이 장치는 게임 중간에 한 세션(session)이 끝나 새로운 게임이 시작되어 오브젝트의 유형이 바뀌는 경우, 새로 매핑 테이블을 생성할 수도 있다.
예컨대, 도 9에 도시된 것처럼 게임이 자동차 레이싱 게임인 경우, 사용자는 제어할 자동차의 스타일이나 색상, 모델, 성능 등을 직접 선택할 수 있다. 사용자가 이전과 다른 성능을 갖는 오브젝트를 선택한 경우, 즉, 자동차의 속도나 회전력 등과 같은 움직임의 민첩 정도가 이전 오브젝트와 다른 경우, 이전 오브젝트를 기준으로 작성된 매핑 테이블은 새로운 성능을 가진 새 오브젝트와는 맞지 않을 수 있다. 예컨대, 이전 오브젝트는 사용자 입력의 파라미터 값이 2일 때 y만큼 이동했다고 하면, 새 오브젝트는 동일한 사용자 입력이 들어가도 y가 아닌 z만큼 이동할 수 있기 때문이다. 이 경우, 디스플레이 장치는 새로 선택된 사용자 제어 오브젝트에 맞는 매핑 테이블을 새로 생성할 수 있다.
실시 예에서, 디스플레이 장치는 매핑 테이블을 생성하기 위해, 인터페이스 화면을 프레임 위에 오버레이하여 출력할 수 있다. 인터페이스 화면은 사용자에게 제어 장치를 어느 방향으로, 또는 어느 정도의 세기로 움직여 줄 요청하는 내용을 포함할 수 있다.
도 9는 인터페이스 화면의 예를 도시한다. 도 9의 (a)와 (b)에는 각각 인터페이스 화면(913, 915), (917, 919)이 도시되어 있다. 이 중 위에 출력된 인터페이스 화면(913, 917)은 사용자 입력에 대한 요청 사항을 텍스트로 포함하고 있고, 아래에 출력된 인터페이스 화면(915, 919)은 사용자 제어 오브젝트(911) 주변에 위치한 화살표를 포함하고 있다. 사용자는 텍스트 또는 화살표 등의 인터페이스 화면을 보고, 그에 따라 컨트롤러를 제어하여 사용자 제어 오브젝트를 좌우 또는 위아래로 이동할 수 있다.
디스플레이 장치는 사용자의 제어 장치 조작에 따른 파라미터 값 변화를 입력 받고, 파라미터 값에 따라 제어되어 움직이는 사용자 제어 오브젝트의 움직임 정도를 매핑하여 매핑 테이블을 생성할 수 있다.
도 10은 실시 예에 따른 매핑 테이블을 도시한 도면이다.
도 10을 참조하면, 매핑 테이블(1000)은 파라미터 값과 매핑되는 오브젝트의 모션 벡터 값을 포함할 수 있다. 경우에 따라, 사용자 제어 오브젝트는 복수개일 수 있다. 예컨대, 여러 명이 함께 참여할 수 있는 게임의 경우, 각 사용자 별로 제어할 수 있는 사용자 제어 오브젝트가 프레임에 포함될 수 있다. 사용자 제어 오브젝트가 복수 개인 경우, 사용자 입력에 따른 제어 장치의 파라미터 값이 같더라도 동일한 파라미터 값에 대응하는 사용자 제어 오브젝트의 모션 벡터 값은 서로 다를 수 있다.
예컨대, 두 명의 사용자가 두 개의 조이스틱을 이용하여 함께 자동차 레이싱 게임을 하는 경우, 게임 속의 각 자동차의 성능에 따라 동일 파라미터에 대응하는 자동차의 움직임은 서로 다를 수 있다. 즉, 두 명의 사용자가 동일한 세기로 조이스틱을 조작하여 자동차의 움직임을 제어한다고 하더라도 각 사용자 제어 오브젝트의 이동 정도는 달라질 수 있기 때문에, 매핑 테이블(1000)은 사용자 제어 오브젝트가 복수인 경우 복수개의 사용자 제어 오브젝트 별로 모션 정보를 포함할 수 있다.
매핑 테이블(1000)은 파라미터 값 별로 각 파라미터 값에 매핑되는 오브젝트의 이동 방향과 이동 크기를 표현하는 모션 벡터를 포함할 수 있다. 오브젝트의 모션 벡터는 사용자 제어 오브젝트 전체에 대해 하나의 모션 벡터 값으로 표현될 수도 있으나 사용자 제어 오브젝트에 포함된 복수개의 픽셀들 각각에 대한 모션 벡터 값으로 표현될 수도 있다.
디스플레이 장치는 매핑 테이블(1000)이 기 저장된 경우, 사용자 입력이 수신되면, 프레임에 포함된 오브젝트 중 사용자 제어 오브젝트를 식별하고, 식별된 사용자 제어 오브젝트의 매핑 테이블(1000)을 이용하여 사용자 입력에 맞는 모션 정보를 획득할 수 있다. 디스플레이 장치는 사용자 입력에 따른 파라미터 값을 매핑 테이블에서 검색하고 검색된 파라미터 값에 매핑되어 저장되어 있는 모션 벡터 값을 획득하여 이를 보간 프레임의 모션 정보로 예측할 수 있다.
도 11은 실시 예에 따라 매핑 테이블을 생성하는 과정을 도시한 순서도이다.
도 11을 참조하면, 디스플레이 장치는 프레임이 입력되면 입력 프레임에 포함된 모든 픽셀에 대해 모션 정보를 획득할 수 있다(단계 1110). 디스플레이 장치는 입력 데이터로부터 모션 정보를 획득하도록 학습된 모션 추정 뉴럴 네트워크를 이용하여 프레임으로부터 픽셀 별로 모션 정보를 획득할 수 있다.
디스플레이 장치는 적어도 두 개의 입력 프레임 각각에 대해 각 계층들로부터 특징 맵을 추출하고, 각 레이어별로 추출한 특징 맵을 이용하여 픽셀 별로 모션 정보를 예측할 수 있다.
디스플레이 장치는 프레임이 입력되면, 입력 프레임에서 오브젝트를 검출할 수 있다(단계 1120). 디스플레이 장치는 입력 데이터를 분석 및 분류하여 오브젝트를 검출하도록 학습된 오브젝트 검출 뉴럴 네트워크를 이용하여 입력 프레임으로부터 오브젝트를 검출할 수 있다. 디스플레이 장치는 다양한 세그멘테이션 알고리즘을 활용하여 프레임으로부터 적어도 하나의 오브젝트를 검출할 수 있다.
디스플레이 장치는 제어 장치에 대한 사용자 입력을 수신할 수 있다(단계 1130). 사용자 입력은 제어 장치의 파라미터 값을 포함할 수 있다. 디스플레이 장치는 검출된 오브젝트 중 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 검출할 수 있다(단계 1140). 디스플레이 장치는 오브젝트 수가 복수인 경우, 복수개의 오브젝트 중 사용자 입력과 모션 벡터간의 관련성이 가장 큰 오브젝트를 사용자 제어 오브젝트로 검출할 수 있다.
디스플레이 장치는 검출된 사용자 입력에 따른 사용자 제어 오브젝트의 이동 정도를 매핑하여 매핑 테이블을 생성할 수 있다(단계 1150). 디스플레이 장치는 사용자 입력에 포함된 제어 장치의 파라미터 변화를 획득하고 파라미터가 변할 때 사용자 제어 오브젝트에 포함된 픽셀들 각각의 모션 정보를 구하여 이를 매핑하거나 또는 파라미터 변화에 따른 사용자 제어 오브젝트 전체의 모션 정보를 구하여 이를 매핑하여 매핑 테이블로 생성할 수 있다.
도 12는 실시 예에 따라 디스플레이 장치가 보간 프레임을 생성하는 과정을 도시한 순서도이다.
도 12를 참조하면, 디스플레이 장치는 프레임이 입력되면 입력 프레임에 포함된 오브젝트가 사용자 제어 오브젝트인지를 식별할 수 있다(단계 1210). 디스플레이 장치는 기 생성되어 저장된 매핑 테이블로부터 사용자 제어 오브젝트의 픽셀 좌표나 픽셀 번호, 바운더리 등과 같은 식별 정보를 추출하고 이를 기반으로 사용자 제어 오브젝트를 식별할 수 있다.
디스플레이 장치는 프레임에 포함된 픽셀들 중, 사용자 제어 오브젝트에 포함된 픽셀에 대해서는 매핑 테이블과 사용자 입력을 기반으로 제1 모션 정보를 획득할 수 있다(단계 1220). 디스플레이 장치는 사용자 입력을 수신하면 사용자 입력에 포함된 파라미터 값과 그에 대응하는 모션 정보를 매핑 테이블로부터 획득하여 사용자 제어 오브젝트 전체에 대해 하나의 모션 정보를 획득하거나 또는 사용자 제어 오브젝트에 포함된 픽셀들 각각에 대해 모션 정보를 획득할 수 있다.
디스플레이 장치는 사용자 제어 오브젝트를 제외한 픽셀들에 대해서 제2 모션 정보를 획득할 수 있다(단계 1230). 디스플레이 장치는 사용자 제어 오브젝트를 제외한 나머지 픽셀들에 대해서는 모션 추정 뉴럴 네트워크를 이용하여 제2 모션 정보를 획득할 수 있다. 모션 추정 뉴럴 네트워크는 입력 데이터로부터 픽셀 별로 모션 정보를 획득하는 알고리즘, 또는 알고리즘의 집합, 알고리즘의 집합을 실행하는 소프트웨어 및/또는 알고리집의 집합을 실행하는 하드웨어일 수 있다.
디스플레이 장치는 사용자 제어 오브젝트에 대해 획득한 제1 모션 정보와 나머지 픽셀에 대해 획득한 제2 모션 정보, 및 적어도 두 개의 프레임을 이용하여 적어도 두 개의 프레임 사이의 보간 프레임을 생성할 수 있다(단계 1240).
도 13은 실시 예에 따른 컴퓨팅 장치(1300)의 구성을 나타내는 블록도이다.
도 13을 참조하면, 컴퓨팅 장치(1300)는 데이터 학습부(1310) 및 데이터 예측부(1320)를 포함할 수 있다.
데이터 학습부(1310)는 프레임으로부터 모션 정보를 획득하기 위한 기준을 학습할 수 있다. 데이터 학습부(1310)는 프레임으로부터 모션 정보를 예측하기 위해 프레임의 어떤 정보를 이용하는지에 관한 기준을 학습할 수 있다. 또한, 데이터 학습부(1310)는 프레임의 정보를 이용하여 모션 정보를 어떻게 인식하는지에 관한 기준을 학습할 수 있다. 데이터 학습부(1310)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 예측 모델에 적용할 수 있다. 데이터 학습부(1310)는 적어도 하나의 움직이는 오브젝트가 포함된 프레임을 학습에 이용할 데이터로 이용할 수 있다. 데이터 학습부(1310)는 이미지에서 오브젝트나 픽셀의 특징이나 위치, 배치 등을 검출하는 기준 등을 학습할 수 있다.
데이터 예측부(1320)는 학습에 의한 기 설정된 기준에 따라 이미지로부터 모션 정보를 예측하고, 예측된 결과를 출력할 수 있다. 데이터 예측부(1320)는 학습된 데이터 예측 모델을 이용하여, 소정의 이미지로부터 모션 정보를 예측할 수 있다. 이미지를 입력 값으로 하여 데이터 예측 모델에 의해 출력된 결과 값은, 데이터 예측 모델을 업데이트하는데 이용될 수 있다.
데이터 학습부(1310) 및 데이터 예측부(1320) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 학습부(1310) 및 데이터 예측부(1320) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
이 경우, 데이터 학습부(1310) 및 데이터 예측부(1320)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(1310) 및 데이터 예측부(1320) 중 하나는 전자 장치에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(1310) 및 데이터 예측부(1320)는 유선 또는 무선으로 통신하여, 데이터 학습부(1310)가 구축한 모델 정보를 데이터 예측부(1320)로 제공할 수도 있고, 데이터 예측부(1320)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(1310)로 제공될 수도 있다.
한편, 데이터 학습부(1310) 및 데이터 예측부(1320) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(1310) 및 데이터 예측부(1320) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction)을 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 14는 실시 예에 따른 데이터 학습부(1310)의 블록도이다.
도 14를 참조하면, 실시 예에 따른 데이터 학습부(1310)는 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315)를 포함할 수 있다.
데이터 획득부(1311)는 프레임으로부터 모션 정보를 검출하기 위한 학습을 위해 필요한 데이터를 획득할 수 있다. 데이터 획득부(1311)는 네트워크를 통해 컴퓨팅 장치(1300)에 연결된 적어도 하나의 소셜 네트워크 서버(social network server), 클라우드 서버(cloud server) 등의 외부 서버나, 데이터베이스로부터 데이터를 획득할 수 있다. 데이터 획득부(1311)는 컨텐트 프로바이더들이 제공하는 데이터를 획득할 수 있다.
전처리부(1312)는 프레임으로부터 모션 정보를 검출하기 위한 학습에 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(1312)는 후술할 모델 학습부(1314)가 프레임으로부터 모션 정보를 예측하는 학습을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다. 예를 들어, 전처리부(1312)는, 획득한 데이터 중 중복 데이터를 제거하거나, 가능성이 희박한 데이터를 제거하고, 각 데이터를 벡터화하는 등과 같이 데이터를 기 설정된 포맷으로 가공할 수 있으나, 이에 한정되지 않는다.
학습 데이터 선택부(1313)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(1314)에 제공될 수 있다. 학습 데이터 선택부(1313)는 프레임으로부터 모션 정보를 획득하기 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(1313)는 후술할 모델 학습부(1314)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
모델 학습부(1314)는, 프레임으로부터 모션 정보를 예측하기 위해 어떤 학습 데이터를 이용해야 하는지에 대한 기준을 학습할 수 있다. 모델 학습부(1314)는, 프레임으로부터 모션 정보를 예측하는데 이용되는 프레임 속성들의 종류, 개수, 수준 등을 학습할 수 있다.
또한, 모델 학습부(1314)는, 프레임으로부터 모션 정보를 예측하기 위해 이용되는 데이터 예측 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 예측 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 예측 모델은 기본 학습 데이터를 입력 받아 미리 구축된 모델일 수 있다.
데이터 예측 모델은, 예측 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 예측 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 예측 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
다양한 실시 예에 따르면, 모델 학습부(1314)는 미리 구축된 데이터 예측 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 예측 모델을 학습할 데이터 예측 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 예측 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(1314)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 예측 모델을 학습시킬 수 있다.
또한, 모델 학습부(1314)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 예측 모델을 학습시킬 수 있다. 또한, 모델 학습부(1314)는, 예를 들어, 별다른 지도 없이 모션 정보를 예측하기 위해 필요한 데이터의 종류를 스스로 학습함으로써, 모션 정보를 예측하기 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 예측 모델을 학습시킬 수 있다. 또한, 모델 학습부(1314)는, 예를 들어, 학습에 따라 모션 정보를 예측한 결과가 맞는지 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 예측 모델을 학습시킬 수 있다.
또한, 데이터 예측 모델이 학습되면, 모델 학습부(1314)는 학습된 데이터 예측 모델을 저장할 수 있다. 이 경우, 모델 학습부(1314)는 학습된 데이터 예측 모델을 메모리에 저장할 수 있다. 또는, 모델 학습부(1314)는 학습된 데이터 예측 모델을 후술할 데이터 예측부(1320)를 포함하는 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1314)는 학습된 데이터 예측 모델을 전자 장치와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 예측 모델이 저장되는 메모리는, 예를 들면, 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(1315)는 데이터 예측 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 예측 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(1314)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 예측 모델을 평가하기 위한 기 설정된 데이터일 수 있다.
예를 들어, 모델 평가부(1315)는 평가 데이터에 대한 학습된 데이터 예측 모델의 예측 결과 중에서, 예측 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 예측 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 예측 결과를 출력하는 경우, 모델 평가부(1315)는 학습된 데이터 예측 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 예측 모델이 복수 개가 존재하는 경우, 모델 평가부(1315)는 각각의 학습된 데이터 예측 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 예측 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(1315)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 예측 모델로서 결정할 수 있다.
한편, 데이터 학습부(1310) 내의 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 실시 예에서, 전자 장치는 컴퓨팅 장치(130)나 디스플레이 장치(200) 등을 포함할 수 있다. 예를 들어, 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315) 중 일부는 디스플레이 장치(200)에 포함되고 나머지 일부는 컴퓨팅 장치(130)에 포함될 수 있다. 또한, 이 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1311), 전처리부(1312), 학습 데이터 선택부(1313), 모델 학습부(1314) 및 모델 평가부(1315) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 15는 실시 예에 따른 데이터 예측부(1320)의 구성을 나타내는 블록도이다.
도 15를 참조하면, 일부 실시 예에 따른 데이터 예측부(1320)는 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325)를 포함할 수 있다.
데이터 획득부(1321)는 프레임으로부터 모션 정보를 예측하는데 필요한 데이터를 획득할 수 있다. 전처리부(1322)는 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(1322)는 후술할 예측 결과 제공부(1324)가 프레임으로부터 모션 정보를 예측하기 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
예측 데이터 선택부(1323)는 전처리된 데이터 중에서 프레임으로부터 모션 정보를 예측하기 위해 필요한 데이터를 선택할 수 있다. 선택된 데이터는 예측 결과 제공부(1324)에게 제공될 수 있다. 예측 데이터 선택부(1323)는 프레임으로부터 모션 정보를 예측하기 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다.
예측 결과 제공부(1324)는 선택된 데이터를 데이터 예측 모델에 적용하여 프레임으로부터 모션 정보를 예측할 수 있다. 예측 결과 제공부(1324)는 데이터의 예측 목적에 따른 예측 결과를 제공할 수 있다. 예측 결과 제공부(1324)는 예측 데이터 선택부(1323)에 의해 선택된 데이터를 입력 값으로 이용함으로써, 선택된 데이터를 데이터 예측 모델에 적용할 수 있다. 또한, 예측 결과는 데이터 예측 모델에 의해 결정될 수 있다. 예측 결과 제공부(1324)는, 프레임으로부터 모션 정보를 예측하는 식별 정보를 제공할 수 있다.
모델 갱신부(1325)는 예측 결과 제공부(1324)에 의해 제공되는 예측 결과에 대한 평가에 기초하여, 데이터 예측 모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(1325)는 예측 결과 제공부(1324)에 의해 제공되는 예측 결과를 모델 학습부(1314)에게 제공함으로써, 모델 학습부(1314)가 데이터 예측 모델을 갱신하도록 할 수 있다.
한편, 데이터 예측부(1320) 내의 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1321), 전처리부(1322), 예측 데이터 선택부(1323), 예측 결과 제공부(1324) 및 모델 갱신부(1325) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
일부 실시 예에 따른 컴퓨팅 장치 및 그 동작 방법은 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.
또한, 본 명세서에서, “부”는 프로세서 또는 회로와 같은 하드웨어 구성(hardware component), 및/또는 프로세서와 같은 하드웨어 구성에 의해 실행되는 소프트웨어 구성(software component)일 수 있다.
또한, 전술한 본 개시의 실시 예에 따른 비디오 품질 향상 방법은 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 단계, 제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하는 단계 및 제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는 단계를 포함하는, 비디오 품질 향상 방법을 수행하는 컴퓨터 프로그램이 저장된 기록 매체를 포함하는 컴퓨터 프로그램 제품으로 구현될 수 있다.
전술한 설명은 예시를 위한 것이며, 발명이 속하는 기술분야의 통상의 지식을 가진 자는 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시 예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
Claims (20)
- 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 단계;
제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하는 단계; 및
제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는 단계를 포함하는, 비디오 품질 향상 방법. - 제1 항에 있어서, 상기 제1 모션 정보 및 상기 제2 모션 정보를 후처리하는 단계를 더 포함하고,
상기 후처리하는 단계는
상기 프레임에 포함된 소정 픽셀의 모션 정보를 상기 소정 픽셀에 이웃하는 적어도 하나의 주변 픽셀의 모션 정보를 이용하여 수정하는 단계, 및
상기 프레임에 포함된 픽셀들을 오브젝트 별로 그룹핑하여 오브젝트 별 모션 정보를 획득하는 단계 중 적어도 하나를 포함하는, 비디오 품질 향상 방법. - 제1 항에 있어서, 상기 방법은 상기 제1 모션 정보를 획득하는 단계 이전에, 프레임을 입력 받는 단계;
상기 입력 프레임에 포함된 오브젝트에 대한 사용자 입력을 기반으로, 매핑 테이블을 생성하는 단계를 더 포함하고,
상기 제1 모션 정보를 획득하는 단계는 상기 매핑 테이블로부터 상기 제1 모션 정보를 획득하는 것인, 비디오 품질 향상 방법. - 제3 항에 있어서, 상기 매핑 테이블을 생성하는 단계는
상기 제1 뉴럴 네트워크를 이용하여, 상기 입력 프레임에 포함된 모든 픽셀들에 대한 모션 정보를 획득하는 단계;
제3 뉴럴 네트워크를 이용하여, 상기 입력 프레임에서 적어도 하나의 오브젝트를 검출하는 단계;
상기 검출된 오브젝트 중, 상기 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 식별하는 단계; 및
상기 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보와 상기 사용자 입력과의 관련성에 기반하여, 상기 매핑 테이블을 생성하는 단계를 포함하는, 비디오 품질 향상 방법. - 제4 항에 있어서, 상기 검출된 오브젝트에 대한 이벤트에 기초하여 상기 검출된 오브젝트에 포함된 픽셀들에 대한 모션 정보를 수정하는 단계를 더 포함하고, 상기 이벤트는 줌 인, 줌 아웃, 로테이션 중 적어도 하나를 포함하는, 비디오 품질 향상 방법.
- 제4 항에 있어서, 상기 적어도 하나의 오브젝트를 검출하는 단계는 상기 오브젝트가 전경 오브젝트인지 후경 오브젝트인지를 검출하는 단계를 포함하는, 비디오 품질 향상 방법.
- 제4 항에 있어서, 상기 매핑 테이블을 생성하는 단계는
소정 시간 동안 상기 사용자 입력을 수신하는 단계;
상기 소정 시간 동안의 상기 사용자 입력에 기초하여 상기 매핑 테이블을 업데이트하는 단계를 포함하는, 비디오 품질 향상 방법. - 제4 항에 있어서, 상기 매핑 테이블을 생성하는 단계는
상기 사용자 입력에 따른 컨트롤러의 파라미터 변화를 획득하는 단계; 및
상기 컨트롤러의 파라미터 변화에 따른 상기 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보를 매핑하는 단계를 포함하고,
상기 컨트롤러의 파라미터는 이동 방향, 이동 거리, 이동 시간, 이동 속도, 이동 가속도, 이동 강도, 이동 진폭 중 적어도 하나를 포함하는, 비디오 품질 향상 방법. - 제4 항에 있어서, 상기 매핑 테이블을 생성하는 단계는 상기 사용자 입력을 수신하는 컨트롤러의 종류 별로 각각의 매핑 테이블을 생성하는 단계를 포함하는, 비디오 품질 향상 방법.
- 제1 항에 있어서, 상기 제1 모션 정보를 획득하는 단계는
상기 프레임을 포함하는 비디오에 대한 메타데이터로부터 상기 제1 모션 정보를 획득하는 단계를 포함하는, 비디오 품질 향상 방법. - 하나 이상의 인스트럭션을 저장하는 메모리; 및
상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고,
상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하고,
제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하고,
제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는, 비디오 품질 향상 장치. - 제11 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 제1 모션 정보 및 상기 제2 모션 정보를 후처리하고,
상기 후처리는, 상기 프레임에 포함된 소정 픽셀의 모션 정보를 상기 소정 픽셀에 이웃하는 적어도 하나의 주변 픽셀의 모션 정보를 이용하여 수정하는 것, 및 상기 프레임에 포함된 픽셀들을 오브젝트 별로 그룹핑하여 오브젝트 별 모션 정보를 획득하는 것 중 적어도 하나를 포함하는, 비디오 품질 향상 장치. - 제11 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 제1 모션 정보를 획득하기 이전에, 프레임을 이용하여 매핑 테이블을 생성하고,
상기 제1 모션 정보를 상기 매핑 테이블로부터 획득하는, 비디오 품질 향상 장치. - 제11 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 제1 뉴럴 네트워크를 이용하여, 상기 입력 프레임에 포함된 모든 픽셀들에 대한 모션 정보를 획득하고,
제3 뉴럴 네트워크를 이용하여, 상기 입력 프레임에서 적어도 하나의 오브젝트를 검출하고,
상기 검출된 오브젝트 중, 사용자 입력에 따라 제어되는 사용자 제어 오브젝트를 식별하고,
상기 사용자 제어 오브젝트에 포함된 픽셀들의 모션 정보와 상기 사용자 입력과의 관련성을 이용하여 상기 매핑 테이블을 생성하는, 비디오 품질 향상 장치. - 제14 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 검출된 오브젝트에 대한 이벤트에 기초하여 상기 검출된 오브젝트에 포함된 픽셀들에 대한 모션 정보를 수정하고, 상기 이벤트는 줌 인, 줌 아웃, 로테이션 중 적어도 하나를 포함하는, 비디오 품질 향상 장치. - 제14 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 오브젝트가 전경 오브젝트인지 후경 오브젝트인지를 검출하는, 비디오 품질 향상 장치. - 제14 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
소정 시간 동안 상기 사용자 입력을 수신하고, 상기 소정 시간 동안의 상기 사용자 입력에 기초하여 상기 매핑 테이블을 업데이트하는, 비디오 품질 향상 장치. - 제14 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 사용자 입력에 따른 컨트롤러의 파라미터 변화를 획득하고,
상기 컨트롤러의 파라미터 변화에 따른 상기 사용자 제어 오브젝트의 모션 정보를 매핑하고,
상기 컨트롤러의 파라미터는 이동 방향, 이동 거리, 이동 시간, 이동 속도, 이동 가속도, 이동 강도, 이동 진폭 중 적어도 하나를 포함하는, 비디오 품질 향상 장치. - 제14 항에 있어서, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
컨트롤러의 종류 별로 각각의 매핑 테이블을 생성하는, 비디오 품질 향상 장치. - 비디오에 포함된 프레임에서 사용자 제어 오브젝트에 대한 제1 모션 정보를 획득하는 단계
제1 뉴럴 네트워크를 이용하여, 상기 프레임에 포함된 픽셀들 중 상기 사용자 제어 오브젝트에 포함된 픽셀들을 제외한 나머지 픽셀들에 대한 제2 모션 정보를 획득하는 단계; 및
제2 뉴럴 네트워크를 이용하여, 적어도 두 개의 프레임, 상기 제1 모션 정보, 및 상기 제2 모션 정보로부터 상기 적어도 두 개의 프레임 사이의 보간 프레임을 생성하는 단계를 포함하는, 비디오 품질 향상 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체.
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200107410A KR20220026426A (ko) | 2020-08-25 | 2020-08-25 | 비디오 품질 향상 방법 및 장치 |
| EP21861910.4A EP4184424A4 (en) | 2020-08-25 | 2021-08-02 | METHOD AND DEVICE FOR IMPROVING VIDEO QUALITY |
| PCT/KR2021/010077 WO2022045613A1 (ko) | 2020-08-25 | 2021-08-02 | 비디오 품질 향상 방법 및 장치 |
| CN202180052539.XA CN115917585A (zh) | 2020-08-25 | 2021-08-02 | 用于提高视频质量的方法和设备 |
| US18/113,748 US20230209087A1 (en) | 2020-08-25 | 2023-02-24 | Method and device for improving video quality |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200107410A KR20220026426A (ko) | 2020-08-25 | 2020-08-25 | 비디오 품질 향상 방법 및 장치 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20220026426A true KR20220026426A (ko) | 2022-03-04 |
Family
ID=80355276
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200107410A KR20220026426A (ko) | 2020-08-25 | 2020-08-25 | 비디오 품질 향상 방법 및 장치 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20230209087A1 (ko) |
| EP (1) | EP4184424A4 (ko) |
| KR (1) | KR20220026426A (ko) |
| CN (1) | CN115917585A (ko) |
| WO (1) | WO2022045613A1 (ko) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024043731A1 (ko) * | 2022-08-24 | 2024-02-29 | 삼성전자 주식회사 | 인터폴레이션을 수행하는 전자 장치, 동작 방법, 및 저장 매체 |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9258519B2 (en) * | 2005-09-27 | 2016-02-09 | Qualcomm Incorporated | Encoder assisted frame rate up conversion using various motion models |
| KR101756842B1 (ko) * | 2011-08-29 | 2017-07-12 | 삼성전자주식회사 | 영상 프레임의 보간 방법 및 장치 |
| US9257092B2 (en) * | 2013-02-12 | 2016-02-09 | Vmware, Inc. | Method and system for enhancing user experience for remoting technologies |
| US9832451B2 (en) * | 2015-11-17 | 2017-11-28 | Survios, Inc. | Methods for reduced-bandwidth wireless 3D video transmission |
| US9621841B1 (en) * | 2015-12-31 | 2017-04-11 | Samsung Electronics Co., Ltd. | Frame rate conversion based on object tracking |
| KR20180078431A (ko) * | 2016-12-29 | 2018-07-10 | 엘지디스플레이 주식회사 | 가상 현실 장치와 그 구동 방법 |
| US10706890B2 (en) * | 2017-08-24 | 2020-07-07 | Intel Corporation | Cinematic space-time view synthesis for enhanced viewing experiences in computing environments |
| JP7114975B2 (ja) * | 2018-03-27 | 2022-08-09 | 株式会社リコー | フレーム補間装置およびフレーム補間方法 |
| KR102192153B1 (ko) * | 2019-06-10 | 2020-12-16 | 클릭트 주식회사 | 가상현실 영상 제공 방법 및 이를 이용한 프로그램 |
-
2020
- 2020-08-25 KR KR1020200107410A patent/KR20220026426A/ko active Search and Examination
-
2021
- 2021-08-02 WO PCT/KR2021/010077 patent/WO2022045613A1/ko unknown
- 2021-08-02 EP EP21861910.4A patent/EP4184424A4/en active Pending
- 2021-08-02 CN CN202180052539.XA patent/CN115917585A/zh active Pending
-
2023
- 2023-02-24 US US18/113,748 patent/US20230209087A1/en active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024043731A1 (ko) * | 2022-08-24 | 2024-02-29 | 삼성전자 주식회사 | 인터폴레이션을 수행하는 전자 장치, 동작 방법, 및 저장 매체 |
Also Published As
| Publication number | Publication date |
|---|---|
| EP4184424A1 (en) | 2023-05-24 |
| CN115917585A (zh) | 2023-04-04 |
| US20230209087A1 (en) | 2023-06-29 |
| WO2022045613A1 (ko) | 2022-03-03 |
| EP4184424A4 (en) | 2024-01-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11216694B2 (en) | Method and apparatus for recognizing object | |
| US11170201B2 (en) | Method and apparatus for recognizing object | |
| US11166066B2 (en) | Display apparatus, content recognizing method thereof, and non-transitory computer readable recording medium | |
| US11934953B2 (en) | Image detection apparatus and operation method thereof | |
| US11831948B2 (en) | Video playback device and control method thereof | |
| EP3690644B1 (en) | Electronic device and operation method therefor | |
| US11210525B2 (en) | Method and terminal for providing content | |
| KR20190062030A (ko) | 영상 표시 장치 및 그 동작 방법 | |
| US11468571B2 (en) | Apparatus and method for generating image | |
| KR20230009806A (ko) | 영상 처리 장치 및 그 동작 방법 | |
| US20230209087A1 (en) | Method and device for improving video quality | |
| KR102464907B1 (ko) | 전자 장치 및 그 동작 방법 | |
| CN114600072A (zh) | 用于基于手势控制设备的方法和系统 | |
| CN114399718A (zh) | 一种视频播放过程中的图像内容识别方法及装置 | |
| US20240144455A1 (en) | Image processing device and operation method thereof | |
| KR102587234B1 (ko) | 동영상 중 실시간 손동작 인식을 위한 tsn 기반의 딥러닝 방법 및 장치 | |
| KR102494591B1 (ko) | 전자 장치, 그 제어 방법 및 전자 시스템 | |
| KR20240017599A (ko) | 디스플레이 장치 및 그의 게임 영상 화질 최적화 방법 | |
| KR20240071060A (ko) | 전자 장치 및 그 동작 방법 | |
| KR20140082384A (ko) | 제스처를 인식하는 장치 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination |