KR20190130478A - 인공지능 기반 해상도 개선 시스템 - Google Patents

인공지능 기반 해상도 개선 시스템 Download PDF

Info

Publication number
KR20190130478A
KR20190130478A KR1020190046953A KR20190046953A KR20190130478A KR 20190130478 A KR20190130478 A KR 20190130478A KR 1020190046953 A KR1020190046953 A KR 1020190046953A KR 20190046953 A KR20190046953 A KR 20190046953A KR 20190130478 A KR20190130478 A KR 20190130478A
Authority
KR
South Korea
Prior art keywords
neural network
data
resolution
video data
network file
Prior art date
Application number
KR1020190046953A
Other languages
English (en)
Other versions
KR102082815B1 (ko
Inventor
장경익
Original Assignee
주식회사 지디에프랩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 지디에프랩 filed Critical 주식회사 지디에프랩
Priority to US17/050,371 priority Critical patent/US11095925B2/en
Priority to PCT/KR2019/004890 priority patent/WO2019209005A1/ko
Priority to JP2020560196A priority patent/JP7385286B2/ja
Priority to EP19792005.1A priority patent/EP3787302A4/en
Publication of KR20190130478A publication Critical patent/KR20190130478A/ko
Application granted granted Critical
Publication of KR102082815B1 publication Critical patent/KR102082815B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47202—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/40—Scaling the whole image or part thereof
    • G06T3/4053—Super resolution, i.e. output image resolution higher than sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/49—Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60—Network streaming of media packets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/222—Secondary servers, e.g. proxy server, cable television Head-end
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/239—Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests
    • H04N21/2393—Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests involving handling client requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2408—Monitoring of the upstream path of the transmission network, e.g. client requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/251—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4662—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4662—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms
    • H04N21/4666—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms using neural networks, e.g. processing the feedback provided by the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections

Abstract

본 발명의 실시 예에 따른 해상도 개선 시스템은 사용자 기기 측 요청에 대응하여, 요청된 비디오 데이터를 사용자 기기로 전송하는 서비스를 수행하되, 보유한 비디오 데이터를 기반으로 이미지 정보의 해상도 개선을 위한 인공신경망 알고리즘 동작에 요구되는 범용 신경망 파일을 생성하고, 상기 생성된 범용 신경망 파일 및 해상도를 기 설정된 수준 이하로 변경한 저화질 비디오 데이터를 상기 사용자 기기로 전송하는 서버; 및 상기 서버로부터 수신되는 저화질 비디오 데이터에 상기 수신된 범용 신경망 파일을 적용한 인공신경망 알고리즘에 기반한 연산 동작을 수행하고, 상기 연산 동작에 따라 상기 저화질 비디오 데이터의 해상도를 개선하고, 상기 해상도가 개선된 비디오 데이터를 재생하는 사용자 기기;를 포함하여 구성될 수 있다.

Description

인공지능 기반 해상도 개선 시스템{Artificial intelligence based resolution improvement system}
본 발명은 인공지능에 기반하여 해상도를 개선하는 서비스를 제공하는 시스템에 관한 것이다. 보다 상세하게는, 본 발명은 이미지 사이즈 축소 시 발생되는 격자에 대한 정보를 추출하고 이에 대한 정보를 기반으로 저화질 이미지 데이터의 격자를 제거하고 고화질 이미지 데이터로 해상도를 복원하는 시스템에 관한 것이다.
이미지 데이터의 해상도를 개선하기 위해 그동안 보간 기법, 머신러닝 기법 등의 다양한 방식에서의 접근이 이루어지고 있었다. 최근에는 딥러닝 기법을 이용한 연구가 영상 인식/분석 등 패턴 인식 분야에서 활발히 이루어지고 있다. 또한 딥러닝을 이용한 기술이 영상 화질 개선 분야의 하나인 업스케일링 기법에서도 학습기반 머신 러닝 기법보다 뛰어난 성능을 보이고 있음이 증명되었다.
본 발명은 메모리 양을 많이 차지하지 않으면서 실시간으로 영상 데이터를 처리하는데 목적이 있다.
본 발명은 딥러닝 기반 범용 신경망 파일을 통해 콘텐츠 종류에 관계없이 손쉽게 해상도 개선을 수행하도록 하는데 목적이 있다.
본 발명의 실시 예에 따른 해상도 개선 시스템은 사용자 기기 측 요청에 대응하여, 요청된 비디오 데이터를 사용자 기기로 전송하는 서비스를 수행하되, 보유한 비디오 데이터를 기반으로 이미지 정보의 해상도 개선을 위한 인공신경망 알고리즘 동작에 요구되는 범용 신경망 파일을 생성하고, 상기 생성된 범용 신경망 파일 및 해상도를 기 설정된 수준 이하로 변경한 저화질 비디오 데이터를 상기 사용자 기기로 전송하는 서버; 및 상기 서버로부터 수신되는 저화질 비디오 데이터에 상기 수신된 범용 신경망 파일을 적용한 인공신경망 알고리즘에 기반한 연산 동작을 수행하고, 상기 연산 동작에 따라 상기 저화질 비디오 데이터의 해상도를 개선하고, 상기 해상도가 개선된 비디오 데이터를 재생하는 사용자 기기;를 포함하여 구성될 수 있다.
본 발명의 실시 예는 영상 데이터를 제공하는 측에서 저화질 데이터를 송신하더라도 해당 영상을 재생할 시, 신경망 파일에 기반하여 해상도를 개선할 수 있음에 따라, 고화질 데이터 대신 저화질 데이터로 데이터 송수신이 이루어지도록 하는 환경 기반을 제공할 수 있다. 이에 따라 본 발명은 고용량의 고화질 영상 데이터를 송신하는 경우에 발생되는 전송 속도 저하 문제를 해결하는 효과가 있다.
또한 본 발명은 저화질 영상만을 보유하더라도 동영상 실행 당시 신경망 파일을 통해 고화질로 변환할 수 있도록 하므로, 비교적 메모리 용량을 적게 차지하게되는 효과가 있다.
도 1은 본 발명의 실시 예에 따른 해상도 개선 시스템을 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 화질 개선 동작의 예시를 도시한 도면이다.
도 3은 본 발명의 실시 예에 따른 서버의 구성을 도시한 블록도이다.
도 4는 본 발명의 실시 예에 따른 자료 가공부의 구성을 도시한 도면이다.
도 5는 본 발명의 실시 예예 따른 신경망 학습부의 구성을 도시하는 도면이다.
도 6은 본 발명의 실시 예에 따른 사이즈 변경부에서 수행하는 사이즈 변경 동작의 예시를 도시한 도면이다.
도 7은 본 발명의 실시 예에 따른 딥러닝 학습 동작의 예시를 설명하기 위한 도면이다.
도 8은 본 발명의 실시 예에 따른 사용자 기기의 구성을 도시한 도면이다.
도 9는 본 발명의 실시 예에 따른 화질 개선용 신경망 파일의 생성 및 전송 과정을 도시한 도면이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다.
그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
어떤 구성요소가 다른 구성요소에 '연결되어' 있다거나 '접속되어'있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 '직접 연결되어'있다거나 '직접 접속되어'있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, '포함하다' 또는 '가지다' 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
도 1은 본 발명의 실시 예에 따른 해상도 개선 시스템을 도시한 도면이다.
본 발명의 실시 예에 따른 해상도 개선 시스템은 도 1에서 도시되는 바와 같이, 서버 100와 사용자 기기 200를 포함하여 구성될 수 있다.
일 실시 예에 따라, 상기 서버 100는 사용자 기기 200에 VOD 서비스를 제공하는 서버를 포함할 수 있다.
상기 서버 100는 사용자 기기 200에 VOD 서비스를 제공하기 위해 비디오 데이터를 전송할 수 있다. 그리고 본 발명의 실시 예에 따라 상기 서버 100는 비디오 데이터의 화질을 개선하기 위해 요구되는 신경망 파일을 산출하고 이를 사용자 기기 200에 함께 전송할 수 있다. 이에 따라 상기 사용자 기기 200는 서버 100로부터 제공받은 비디오 데이터를 수신한 신경망 파일에 기반하여 화질을 개선시킬 수 있게 된다.
또한 상기 사용자 기기 200는 서버 200에 전송받고자 하는 비디오 데이터를 선택하고 전송 요청할 수 있다. 그리고 상기 사용자 기기 200는 자신의 비디오 데이터의 선택 정보, 재생 정보에 기반하여 산출된 사용자 시청 패턴 정보를 산출하고 이를 상기 서버 200에 전송할 수 있다.
상기 사용자 기기 200에서 수행되는 화질 개선 동작에 대하여 간략하게 설명하기 위해 도 2를 참조하기로 한다.
도 2는 본 발명의 실시 예에 따른 화질 개선 동작의 예시를 도시한 도면이다.
사용자 기기 200는 도 2에서 도시되는 바와 같이, 비디오 파일을 신경망 파일을 통해 해상도가 개선된 비디오 파일을 생성할 수 있다. 이 때 본 발명의 실시 예예 따라 상기 신경망 파일은 비디오 파일의 종류와 관계없이 사용 가능한 범용 파일이며, 그에 따라 상기 신경망 파일은 사용자 기기 200로 전송된 어느 비디오 파일과 결합하여 해상도를 개선시킬 수 있다.
또한 다양한 실시 예에 따라 사용자 기기 200는 상기 범용 신경망 파일을 임베디드 소프트웨어로 탑재하고, 화질 개선의 대상이 되는 비디오파일을 서버 100(예, 동영상 스트리밍 서버)로부터 수신할 수도 있다.
도 3은 본 발명의 실시 예에 따른 서버의 구성을 도시한 블록도이다.
본 발명의 실시 예에 따른 상기 서버 100는 도 3에서 도시되는 바와 같이, 통신부 110, 저장부 120, 제어부 130를 포함하여 구성될 수 있다. 그리고 상기 제어부 130는 자료 가공부 131, 신경망 학습부 132, 결과 평가부 133, 사용패턴 산출부 134를 포함하여 구성될 수 있다.
먼저, 상기 통신부 110는 사용자 디바이스와 서버 간의 데이터 송수신을 위해 네트워크를 이용할 수 있으며 상기 네트워크의 종류는 특별히 제한되지 않는다. 상기 네트워크는 예를 들어, 인터넷 프로토콜(IP)을 통하여 대용량 데이터의 송수신 서비스를 제공하는 아이피(IP: Internet Protocol)망 또는 서로 다른 IP 망을 통합한 올 아이피(All IP) 망일 수 있다. 또한, 상기 네트워크는 유선망, Wibro(Wireless Broadband)망, WCDMA를 포함하는 이동통신망, HSDPA(High Speed Downlink Packet Access)망 및 LTE(Long Term Evolution) 망을 포함하는 이동통신망, LTE advanced(LTE-A), 5G(Five Generation)를 포함하는 이동통신망, 위성 통신망 및 와이파이(Wi-Fi)망 중 하나 이거나 또는 이들 중 적어도 하나 이상을 결합하여 이루어질 수 있다.
본 발명의 실시 예에 따른 상기 통신부 110는 외부 웹 서버 및 다수의 사용자 기기 등과의 데이터 통신을 수행할 수 있다. 예컨데, 상기 통신부 110는 타 웹 서버 또는 사용자 기기(관리자용 기기 포함)들로부터 이미지가 포함되는 콘텐츠 데이터(사진 및 동영상)을 수신할 수 있다. 그리고 상기 서버 100는 VOD 서비스를 제공하는 서버를 포함함에 따라, 사용자 요청에 대응하는 VOD 콘텐츠를 사용자 기기 200로 전송할 수 있다.
다양한 실시 예에 따라 상기 통신부 110는 VOD 서비스를 위해 VOD 파일의 수신 및 송신을 수행할 수 있으나, 이에 한정되는 것은 아니며, 상기 통신부 110는 해상도 개선용 신경망 파일을 생성하기 위해 요구되는 학습 데이터들을 수집하기 위한 통신 기능을 수행할 수 있다.
상기 신경망 파일은 인공신경망 알고리즘을 통해 손상된 영상 데이터의 해상도를 원본 데이터와 유사하게 복원시키기 위해 필요한 정보들을 담은 것일 수 있으며, 인공신경망 알고리즘 구동시 선택되어야 하는 각종 파라미터들에 관한 정보를 포함하고 있을 수 있다.
상기 저장부 120는 예를 들면, 내장 메모리 또는 외장 메모리를 포함할 수 있다. 내장메모리는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), XD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리는 다양한 인터페이스를 통하여 전자 장치와 기능적으로 및/또는 물리적으로 연결될 수 있다.
본 발명의 실시 예에 따른 상기 저장부 120는 사용자 기기(관리자 기기) 또는 타 웹 서버로부터 수신된 이미지 데이터(예, 사진 및 비디오 데이터)를 가공한 가공 데이터(원본 이미지 데이터를 일정 비율로 축소한 데이터, 또는 축소한 후 원본 데이터 사이즈로 확대한 데이터)와 대응하는 원본 데이터를 매칭하여 저장할 수 있다. 상기 원본 데이터와 가공데이터는 각각 해상도 감소 시 발생되는 격자 현상에 대한 정보를 추출하는 데 사용될 수 있다.
또한 상기 저장부 120는 격자 현상에 대한 정보 추출 이후 인공지능 알고리즘(예, SRCNN)을 통해 가공데이터에 존재하는 격자를 제거하여 해상도를 원본 이미지 수준으로 복원하기 위한 데이터인 신경망 파일을 저장할 수 있다.
상기 제어부 130는 프로세서(Processor), 컨트롤러(controller), 마이크로 컨트롤러(microcontroller), 마이크로 프로세서(microprocessor), 마이크로 컴퓨터(microcomputer) 등으로도 호칭될 수 있다. 한편, 제어부는 하드웨어(hardware) 또는 펌웨어(firmware), 소프트웨어, 또는 이들의 결합에 의해 구현될 수 있다.
펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 일 실시예는 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차, 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 제어부에 의해 구동될 수 있다. 메모리는 상기 사용자 단말 및 서버 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 상기 제어부와 데이터를 주고 받을 수 있다.
본 발명의 실시 예에 따른 상기 제어부 130는 이미지 데이터의 해상도를 인공 신경망 기반의 연산을 통해 개선하기 위해 요구되는 파일인 범용 신경망 파일을 생성할 수 있다.
상기 제어부 130는 자료 가공부 131, 신경망 학습부 132, 결과 평가부 133, 사용패턴 산출부 134를 포함하여 구성될 수 있다.
먼저 상기 자료 가공부 131는 비디오 데이터의 화질 개선을 위해 요구되는 범용 신경망 파일을 산출하기 위해 필요한 학습용 자료를 수집 및 가공할 수 있다. 상기 자료 가공부 131는 수집된 자료의 1차 변경(축소 변경) 및 2차 변경(축소된 이미지 데이터를 다시 확대)을 수행할 수 있다. 상기 자료 가공부 131가 수행하는 동작의 보다 구체적인 내용은 도 4를 참조하여 기술하기로 한다.
상기 신경망 학습부 132는 상기 자료 가공부 131에서 수행한 자료의 수집 및 가공 동작을 거친 후 산출된 가공된 데이터를 기반으로 인공지능에 기반한 신경망 학습 동작을 진행할 수 있다. 상기 신경망 학습부 132는 학습 과정에 요구되는 파라미터 설정 동작 및 신경망 파일 산출 동작을 수행할 수 있다. 상기 신경망 학습부 132에 대한 보다 자세한 설명은 도 5를 참조하여 기술하기로 한다.
상기 결과 평가부 133는 신경망 학습부 132를 통해 산출된 범용 신경망 파일을 사용자 기기 200에서 적용한 결과값을 평가하는 동작을 수행할 수 있다.
구체적으로, 상기 결과 평가부 133는 사용자 기기 200에서 신경망 파일을 적용한 결과 데이터의 해상도의 향상 정도를 판단할 수 있다. 또한 상기 결과 평가부 133는 신경망 파일을 적용한 결과 데이터와 원본 데이터와의 오차율을 판단할 수 있다. 이 때 결과 데이터와 원본 데이터의 비교 단위는 영상을 구성하는 각 프레임일 수도 있고, 영상의 전송을 위해 분할된 조각 단위일 수도 있다.
또는 다양한 실시 예에 따라 각 영상 데이터는 이미지 동일성에 기반하여 다수개의 프레임 묶음(예, 일 이미지가 100프레임에 걸쳐 표시되는 경우, 상기 100프레임은 하나의 프레임 묶음으로 설정될 수 있고, 이러한 프레임 묶음 또한 다수 개로 설정될 수 있음)으로 분할되어 있을 수 있다. 이에 따라 상기 결과 데이터와 원본 데이터의 비교 단위는 이미지 동일성에 기반하여 분할된 묶음 단위가 될 수 있다.
나아가 상기 결과 평가부 133는 상기 결과 데이터와 상기 원본 데이터와의 오차율이 기준값 이상인 것으로 판단되는 경우 신경망 파일을 구성하는 Weight, bias 값 등의 수정을 요청할 수 있다. 즉, 상기 결과 평가부 133는 원본 데이터와 결과 데이터의 비교를 통해 신경망 파일을 구성하는 파라미터의 수정 여부를 판단할 수 있다.
일 실시 예에 따라 상기 결과 평가부 133는 원본 데이터로부터 영상을 이해하기 위해 요구되는 이미지 객체별 중요도를 산출할 수 있다. 그리고 상기 원본 데이터와 상기 결과 데이터(사용자 기기 200에서 신경망 파일을 적용하여 해상도를 개선한 데이터)의 1단위(예, 1프레임, 1 프레임 묶음 등) 오차율이 기 설정된 값 이상임과 동시에 상기 1단위에 기 설정된 값 이상인 이미지 객체가 포함된 것으로 판단된 경우, 신경망 파일을 구성하는 weight, bias 값의 수정을 요청할 수 있다.
상기 이미지 객체별 중요도는 1 프레임 내 1 이미지 객체가 차지하는 사이즈 비율, 이미지 객체의 반복 비율 등에 기반하여 그 값이 산출될 수 있다.
다양한 실시 예에 따라, 상기 결과 평가부 133는 다양한 실시 예에 따라 비디오 데이터의 콘텐츠 특성에 기반한 이미지 객체별 중요도를 산출할 수 있다. 상기 결과 평가부 133는 먼저 비디오 데이터의 콘텐츠 특성을 확인할 수 있는데, 이 때 사익 비디오 데이터의 콘텐츠 특성은 상기 자료 가공부 131에 의해 산출될 수 있다. 예컨대, 상기 비디오 데이터의 콘텐츠 특성은 비디오 데이터가 서버 100로 파일이 업로드된 경로에 대한 정보(예, 사용자 또는 관리자가 해당 비디오 파일을 서버 100로 업로드할 당시 선택한 폴더 명), 사용자 또는 관리자가 해당 비디오 파일을 서버 100에 업로드할 당시 입력한 콘텐츠 장르, 분야 등에 기반하여 산출될 수 있다. 그리고 산출된 비디오 데이터의 콘텐츠 특성은 해당 비디오 데이터의 메타 데이터로 관리될 수 있다.
이에 따라 상기 결과 평가부 133는 서버 100로 업로드 될 당시 추출되고 저장된 각 비디오 데이터의 콘텐츠 특성 정보를 확인할 수 있으며, 그에 따라 콘텐츠 특성 정보에 기반한 이미지 객체별 중요도를 산출할 수 있다. 예컨대, 상기 결과 평가부 133는 인물의 안면 객체, 텍스트 객체(예, 자막), 사물 객체 등으로 이미지 객체의 항목을 분류할 수 있고, 콘텐츠 특성 정보와 매칭되는 각 객체 항목(예, 드라마 콘텐츠에 대응하여 인물의 안면 객체를 매칭할 수 있음)을 판단할 수 있다.
상기 사용 패턴 산출부 134는 사용자의 스트리밍 요청 기록, 다운로드 기록, 사용자 기기 200로부터 산출되어 전송되는 사용자 정보 등에 기반하여 사용자의 VOD 서비스에 대한 사용 패턴을 산출할 수 있다.
사용 패턴 산출부 134는 사용 패턴으로 사용자의 선호 장르, 선호 컨텐츠 특성, 주요 스트리밍 요청 시간대, 주요 시청 기기 등과 같은 항목을 산출할 수 있다. 상기 사용 패턴 산출부 134는 산출된 사용자의 사용 패턴 정보에 기반하여 사용자에게 적합한 화면 모드를 추천할 수 있다. 다양한 실시 예에 따라 화질 개선을 위한 신경망 파일은 범용으로 사용될 수 있으나 결과 데이터의 화면 모드(예, 영화 사이즈 모드, 자막 위주 모드, 특정 색상(RGB) 강화 모드, 인물 위주 해상도 개선 모드 등)에 따라 구분된 파일로 산출될 수도 있다. 즉, 사용자는 사용자 기기 200로 서버 100에서 제공 가능한 다수개의 화면 모드별 신경망 파일들 중 자신의 사용 패턴에 적합한 1개의 범용 신경망 파일을 다운로드하여 해상도 개선을 수행할 수 있다. 이를 위해 상기 사용 패턴 산출부 134는 사용자별 사용 패턴을 산출하고, 그에 대한 정보를 별도로 관리할 수 있다. 이후 해당 사용자가 스트리밍 요청할 경우, 해당 사용자의 사용 패턴에 적합한 모드의 신경망 파일을 생성하고 이를 제공할 수 있다.
다양한 실시 예에 따라 사용자의 사용 패턴에 적합한 범용 신경망 파일은 서버 100의 사용 패턴 산출부 134에서 산출한 사용자의 사용 패턴 정보에 기반하여 자동으로 설정될 수도 있고, 사용자에 의해 선택된 화면 모드에 기반하여 설정될 수도 있다.
도 4는 본 발명의 실시 예에 따른 자료 가공부의 구성을 도시한 도면이다.
본 발명의 실시 예에 따른 상기 자료 가공부 131는 도 4에서 도시되는 바와 같이, 사이즈 변경부 131a, 영상 분할부 131b, 특징 영역 추출부 131c를 포함하여 구성될 수 있다.
비디오 데이터의 화질 개선을 위한 신경망 파일을 산출하기 위해서는 신경망 학습부에 인풋 레이어에 투입할 입력 자료 내지는 입력할 자료의 특징값 등이 준비되어야 하는데, 상기 자료 가공부 131에서 인풋 레이어에 투입할 자료 및 데이터를 준비할 수 있다.
먼저, 상기 사이즈 변경부 131a는 비디오 데이터를 구성하는 이미지의 사이즈를 원본 사이즈로부터 기 설정된 값만큼 축소시키는 1차 변경 동작과 1차 변경 결과 이미지를 원본 사이즈에 대응하여 확대시키는 2차 변경 동작을 수행할 수 있다. 상기 사이즈 변경부 131a에서 수행하는 사이즈 변경 동작에 대하여 설명하기 위해 도 6을 참고하기로 한다.
도 6은 본 발명의 실시 예에 따른 사이즈 변경부에서 수행하는 사이즈 변경 동작의 예시를 도시한 도면이다.
도 6에서 도시되는 바와 같이, 사이즈 변경부 131a는 원본 이미지 605를 소정의 비율로 축소하는 1차 변경 동작인 a동작을 수행할 수 있으며, a동작 결과 산출된 축소 이미지 610를 원본 이미지와 동일한 사이즈로 확대하는 2차 변경동작인 b동작을 수행할 수 있다. 가공 동작(1차 변경 동작(a) 및 2차 변경 동작(b)) 이후 생성된 이미지 615는 원본 이미지 605와 달리 해상도가 낮아지게 되며, 이는 이미지를 구성하는 픽셀이 수치의 증가 없이 사이즈만 확대된 것에 기인한다.
이미지 615(이미지 610와 동일한 해상도)와 원본 이미지 605를 비교해 볼 때, 상기 이미지 615는 픽셀의 사이즈가 증가되었으며, 그에 따라 모자이크 형태의 격자가 생성된 모습을 보임을 알 수 있다.
본 발명의 실시 예에 따른 서버 100는 저화질인 이미지 615로부터 원본 이미지 605로 해상도 수준을 변환하기 가공 이미지 615와 원본 이미지 605를 기반으로 신경망 학습을 수행할 수 있다. 이를 위해 상기 자료 가공부 131의 사이즈 변경부 131a는 원본 이미지의 사이즈를 기 설정된 값만큼 축소하는 1차 변경 동작과 1차 변경 동작에 의해 생성된 축소 이미지를 원본 이미지와 동일한 사이즈로 확대하는 2차 변경 동작을 수행할 수 있다. 아울러, 상기 자료 가공부 131는 원본 이미지와, 1차 변경 동작 및 2차 변경 동작에 의해 생성된 가공 이미지를 학습용 데이터로 추출하는 동작을 수행할 수 있다.
다양한 실시 예에 따라 신경망 학습 수행 전, 상기 자료 가공부 131는 가공 이미지(사이즈 축소 후 확대한 이미지)에 생성된 격자의 패턴 정보(위치 정보, 색상 정보 등)을 추출하고 이에 대한 데이터를 신경망 학습을 위한 인풋 데이터로 활용할 수 있다.
상기 영상 분할부 131b는 서버 100에서 보유하고 있는 비디오 데이터들을 기 설정된 조건에 기반하여 분할하는 동작을 수행할 수 있다. 이 때 상기 영상 분할부 131b는 비디오 데이터를 프레임 수에 기초하여 분할하는 동작을 수행할 수 있다. 또는 상기 영상 분할부 131b는 비디오 데이터를 이미지 객체의 일치율에 기반하여, 일치율이 기 설정된 이상인 프레임들끼리 묶어 묶음(청크;Chunk)으로 분할할 수 있다. 예컨대, 분할 단위는 동일 인물이 촬영된 또한 상기 영상 분할부 131b는 서버 100에서 사용자 기기 200로 스트리밍 서비스를 제공할 시 사용자 기기 200로 전달되는 단위별로 비디오 데이터를 다수개의 청크로 분할할 수 있다.
상기 영상 분할부 131b에서 분할된 청크들은 인공지능 신경망 학습 및 해상도 향상 결과를 평가할 시 활용될 수 있다.
상기 특징영역 추출부 131c는 비디오 데이터의 각 프레임 또는 분할 단위를 기준으로 특징 이미지가 포함된 특징 영역을 추출하는 동작을 수행할 수 있다. 상기특징영역 추출부 131c는 각 프레임 또는 분할 단위에서 기 설정된 특징 영역 요건을 갖추는 이미지 영역의 존재 여부를 판단할 수 있다. 상기 특징 영역 요건은 예컨대, 중요도가 기 설정된 값 이상인 것으로 판단되는 이미지 객체가 존재하는 영역을 포함할 수 있다. 예를 들면, 상기 특징 영역 추출부 131c는 드라마 콘텐츠에서 주인공의 얼굴 이미지에 대하여 이미지 객체 중요도를 높게 설정할 수 있으며, 그에 따라 특징 영역은 주인공의 얼굴 이미지가 표시되는 영역(예, 누끼 영역; 배경과 구분되는 객체 표시 영역)으로 설정될 수 있다.
상기 특징영역 추출부 131c는 이미지 내 특징 영역 뿐 아니라, 비디오 데이터의 전체 프레임 내지 이미지들 중 특정 프레임, 또는 특정 분할 단위를 추출하는 동작을 수행할 수도 있다.
이러한 특징 영역 추출부 131c에서 추출하는 특징 영역에 대하여는 학습 반복 횟수를 증가시키도록 학습 중요도 가중치를 설정할 수 있다.
도 5는 본 발명의 실시 예예 따른 신경망 학습부의 구성을 도시하는 도면이다.
본 발명의 실시 예에 따른 신경망 학습부 132는 도 5에서 도시되는 바와 같이, 파라미터 설정부 132a, 신경망 파일 산출부 132b를 포함하여 구성될 수 있다.
그리고 상기 신경망 학습부 132는 인공신경망을 기반으로 한 딥러닝 학습 과정을 수행할 수 있고 그에 따라 해상도가 낮은 비디오 데이터의 화질 개선을 위해 요구되는 파일인 신경망 파일을 생성할 수 있다.
인공신경망을 기반으로 한 딥러닝 학습 동작에 대하여 간략히 설명하기 위해 도 7을 참조하기로 한다.
도 7은 본 발명의 실시 예에 따른 딥러닝 학습 동작의 예시를 설명하기 위한 도면이다.
도 7을 살펴보면, 인풋 레이어, 히든 레이어, 아웃풋 레이어를 포함하는 신경망 모델인 퍼셉트론이 개시되고 있다. 일 실시 예에 따라 본 발명에서 개시되는 신경망 학습은 적어도 하나의 히든 레이어를 포함하도록 구현된 멀티레이어 퍼셉트론을 이용하여 수행될 수 있다. 기본적으로, 퍼셉트론은 다수의 신호를 입력(input)받아서 하나의 신호를 출력(output)할 수 있다.
인공신경망 모델을 이용한 연산 과정에서 요구되는 weight와 bias는 역전파 기법을 통해 적정 값으로 산출될 수 있다. 본 발명의 실시 예에 따른 인공신경망 학습 과정은 이러한 역전파 기법을 통해 적정 weight 데이터와 bias 데이터를 추출하게 된다. 본원 발명에서 해상도 개선을 수행하기 위해 인공신경망을 통해 산출하는 신경망 파일은 추출된 적정 weight 데이터와 bias 데이터에 관한 정보 등을 포함할 수 있다.
역전파 기법을 통해 수행되는 인공신경망을 통한 학습방법 및 파라미터 수정에 관하여는 공지된 기술이므로 자세한 설명은 생략하기로 한다.
바람직하게는, 본 발명의 실시 예에 따른 신경망 학습부 132는 인공신경망 모델 중 CNN(Convolution Neural Network)모델을 이용하여 학습을 수행할 수 있다. CNN의 경우 각 레이어의 입출력 데이터의 형상을 유지한다는 점, 이미지의 공간 정보를 유지하면서 인접 이미지와의 특징을 효과적으로 인식하는 점, 복수의 필터로 이미지의 특징 추출 및 학습하는 점 등의 특징이 있다.
기본적인 CNN의 동작 방식은 하나의 이미지를 필터(filter)를 통해 일부분의 영역을 하나씩 스캔하여 그것에 대한 값을 찾아내면서 학습시키는 방법을 사용할 수 있다. 이 때 적절한 Weight값을 갖는 필터를 찾는 것이 CNN의 목표가 된다. CNN에서 필터는 일반적으로 (4,4)나 (3,3)과 같은 정사각 행렬로 정의될 수 있다. 본 발명의 실시 예에 따른 CNN용 필터의 설정값은 제한되지 않는다. 상기 필터는 입력 데이터를 지정된 간격으로 순회하면서 합성곱을 계산할 수 있다.
본 발명의 실시 예에 따른 파라미터 설정부 132a는 이러한 CNN을 통해 영상 데이터에 대한 학습 과정을 수행하기 위한 초기 파라미터 값을 설정할 수 있다.
다양한 실시 예에 따라 상기 파라미터 설정부 132a는 원본 데이터의 프레임 사이즈, 가공 데이터 생성 시 원본 데이터에 설정된 축소 비율 등을 판단하고, 이에대응하는 초기 파라미터를 설정할 수 있다.
또한 다양한 실시 예에 따라 상기 파라미터 설정부 132a는 인공 신경망 학습을 위해 요구되는 이미지 데이터의 종류를 특정하고, 해당 이미지 데이터를 학습 데이터로 투입하도록 요청할 수 있다. 예컨대, 상기 파라미터 설정부 132a는 장르별 학습 중요도 가중치가 설정되었는지 여부를 판단할 수 있고, 해당 학습 동작이 완료되기 전 학습 중요도 가중치가 설정된 이미지를 추가로 요청할 수 있다. 구체적으로, 상기 파라미터 설정부 132a는 드라마, 영화 등의 인물 비중이 높은 콘텐츠의 경우, 주요 인물에 대하여 반복 학습을 수행하기 위해 추가로 관련 이미지 객체가 포함된 프레임 정보를 학습 데이터로써 요청할 수 있다.
상기 신경망 파일 산출부 132b는 기 설정된 인공신경망 모델에 자료 가공부 131에 의해 가공된 자료를 투입하여 학습시키는 동작을 수행할 수 있다. 이 때 상기 신경망 파일 산출부 132b는 원본 데이터와 가공(기 설정된 비율로 축소) 데이터를 CNN 알고리즘에 투입하여 원본데이터에서 가공데이터로 변경되는 과정에서 생성된 격자에 대한 정보(격자 생성 패턴 정보)를 추출할 수 있다. 보다 구체적으로, 상기 신경망 파일 산출부 132b에서 산출하는 격자 생성 패턴 정보는 원본 데이터와 가공 데이터의 차이점에 기반하여 산출될 수 있으며, 격자의 위치, 격자의 색상 변화에 대한 패턴정보 등을 포함할 수 있다.
상기 신경망 파일 산출부 132b는 상기 산출된 격자 생성 패턴 정보를 기반으로 가공데이터에서 격자를 소거하여 원본 데이터로 이미지를 복원시키는 데 요구되는 신경망 파일을 생성할 수 있다. 상기 신경망 파일 산출부 132b는 저화질 비디오(가공 데이터)데이터를 인공신경망 알고리즘에 인풋 데이터로 입력하여 연산을 수행한 결과 출력되는 데이터의 해상도가 원본 데이터와 기 설정된 값 이상의 일치율을 보이는 경우에 1 데이터의 학습 과정을 종료할 수 있다. 이와 유사한 방법으로 상기 신경망 파일 산출부 132b는 무수히 다양한 종류의 가공데이터를 인풋 레이어에 입력하고 인공 신경망 연산 결과 원본데이터와의 일치율을 판단하는 동작을 반복적으로 수행할 수 있다.
다양한 실시 예에 따라 상기 신경망 파일 산출부 132b는 다양한 종류의 원본 데이터와 가공 데이터를 투입하여 특정 사이즈의 이미지를 축소하는 경우 발생되는 격자 생성 패턴 정보를 산출할 수 있다. 이에 따라 상기 신경망 파일 산출부 132b는 특정 이미지에서 뿐 아니라, 다양한 이미지들에서 이미지 축소 시 공통적으로 발생되는 격자 생성 패턴 정보를 산출할 수 있다.
상기 신경망 파일 산출부 132b는 가공 데이터를 인풋 레이어로 투입하고 아웃풋 데이터와 원본 데이터와의 일치율이 기 설정된 값 이상인 경우에, 해당 인공신경망 알고리즘에 설정된 파라미터들(weight, bias, 학습 속도(learning rate) 등)및 레이어별 활성화 함수 등의 정보를 포함하여 신경망 파일을 생성할 수 있다.
즉, 상기 신경망 파일 산출부 132b에서 산출되는 신경망 파일을 사용자 기기 200에 전달하면, 사용자 기기 200는 이를 수신하여 저화질의 비디오 데이터를 상기 신경망 파일에 기반한 정보를 토대로 인공 신경망 테스트를 수행할 수 있고 그에 따라 비디오 데이터의 해상도 개선 기능을 수행할 수 있다.
도 8은 본 발명의 실시 예에 따른 사용자 기기의 구성을 도시한 도면이다.
본 발명의 실시 예에 따른 사용자 기기 200는 도 8에서 도시되는 바와 같이, 통신부 210, 저장부 220, 입력부 230, 표시부 240, 카메라부 250 및 제어부 260를 포함하여 구성될 수 있다. 그리고 상기 제어부 260는 비디오 재생부 261, 해상도 변환부 262, 사용자 정보 수집부 263를 포함하여 구성될 수 있다.
본 발명의 실시 예에 따른 상기 통신부 210는 서버100로부터 신경망 파일 및 비디오 데이터를 수신하기 위한 통신 기능을 수행할 수 있다. 나아가 상기 통신부 210는 사용자 기기 200에서 수집된 피드백 정보를 서버 100로 전송하기 위한 통신 동작을 수행할 수 있다.
상기 저장부 220는 본 발명의 실시 예에 따라 상기 서버 100로부터 수신된 신경망 파일 및 비디오 데이터를 저장할 수 있다. 다양한 실시 예예 따라 상기 저장부 220는 기 설정된 기준치 이하의 해상도를 갖는 저화질 데이터에 신경망 파일을 적용하여 인공신경망 알고리즘 연산을 구동한 결과값인 결과 데이터(해상도가 개선된 데이터)를 저장 또는 임시 저장할 수 있다.
상기 저장부 220는 생성된 피드백 정보를 저장할 수 있다. 또는 상기 저장부 220는 피드백 정보를 산출하는데 요구되는 정보를 저장할 수 있다. 예컨대, 인공신경망 알고리즘의 연산 결과로 생성된 결과 데이터(해상도 개선된 데이터)들 중 피드백 정보로 제공하기 위해 일 프레임을 추출하는 경우, 상기 추출에 대한 기준 정보(예, 동영상 재생 중 감지되는 사용자의 안면의 찡그림 여부 및 안면의 찡그림이 감지되는 시점의 프레임을 추출하는 내용 등)를 저장할 수 있다.
상기 입력부 230는 콘텐츠 장르, 콘텐츠 명칭 등에 관한 사용자 선택 정보를 입력받을 수 있다.
상기 표시부 240는 서버 100로부터 수신된 비디오 데이터 또는 상기 비디오 데이터의 해상도 개선 동작 이후의 결과 데이터가 재생될 시 해당 비디오의 재생 화면을 표시할 수 있다.
상기 카메라부 250는 사용자 요청에 대응하여 사진 및 동영상을 촬영할 수 있다. 상기 카메라부 250는 촬영된 사진 및 동영상 등의 이미지 정보는 상기 서버 100 또는 기타 웹 서버로 업로드될 수 있다. 또는 상기 카메라부 250를 통해 촬영된 이미지 정보는 타 사용자 기기로 전송될 수 있다.
상기 카메라부 250는 사진 또는 동영상 등의 이미지 정보를 촬영할 경우 먼저 사용자 요청에 기반하여 해상도를 결정할 수 있다. 일 실시 예에 따라, 상기 카메라부 250는 화질 개선을 위한 범용 신경망파일의 탑재 유무에 기반하여, 촬영되는 사진 또는 동영상등의 해상도를 기 설정된 수준이하로 낮춰 저장하도록 할 수 있다.
다양한 실시 예에 따라 상기 카메라부 250는 해상도가 개선된 결과 데이터를 재생하는 중 기 설정된 기준 간격에 따라 정기적으로 사용자의 안면을 촬영하는 카메라를 동작시킬 수 있다. 사용자의 안면 표정 내지는 미간의 찡그림 여부를 판단할 수 있으며, 그에 대응하여 피드백 정보를 추출할 수 있다.
상기 제어부 260는 서버 100로부터 다운로드되는 비디오 파일의 해상도 변환 및 재생을 수행할 수 있다. 상기 제어부 260는 구체적으로, 비디오 재생부 261, 해상도 변환부 262, 사용자 정보 수집부 263을 포함하여 구성될 수 있다.
먼저, 본 발명의 실시 예에 따른 상기 비디오 재생부 261는 비디오 파일을 플레이하여 상기 표시부 240에 표시하도록 제어할 수 있다. 상기 비디오 재생부 261는 출력 요청된 비디오 데이터의 해상도를 판단할 수 있다. 상기 비디오 재생부 261는 실행 요청된 비디오 데이터의 해상도가 기 설정된 수준 이하의 해상도 개선이 요구되는 상태로 판단되는 경우, 해상도 변환부 262에 해상도 개선을 요청할 수 있다. 이후 상기 비디오 재생부 261는 상기 해상도 변환부 262를 통해 해상도가 개선된 파일을 재생할 수 있다.
상기 해상도 변환부 262는 현재 이미지 데이터(사진 및 동영상)의 해상도 수준과 사용자가 요청하는 목표 해상도의 수준을 판단할 수 있다. 이 때 상기 해상도 변환부 262는 신경망 파일의 기 보유 여부를 판단하고, 신경망 파일이 존재하지 않을 경우, 서버 100에 요청하여 상기 서버100로부터 범용 신경망 파일을 다운로드할 수 있다. 이후 상기 해상도 변환부 262는 상기 범용 신경망 파일에 기반하여 인공신경망 알고리즘을 구동하여 저화질 데이터를 원하는 수준의 해상도로 변환하는 동작을 수행할 수 있다.
상기 사용자 정보 수집부 263는 피드백을 위해 사용자 정보를 수집할 수 있다. 상기 사용자 정보 수집부 263는 인공신경망 알고리즘에 기반하여 해상도 개선이 이루어진 이후의 결과 데이터 중 피드백 정보로 활용할 프레임을 선정하고 이를 저장할 수 있다. 예컨대, 상기 사용자 정보 수집부 263는 사용자가 해상도 개선이 이루어진 비디오 데이터를 재생하는 동안 사용자의 안면 정보를 획득할 수 있으며, 사용자의 미간 찌푸림 등의 이벤트가 발생된 경우, 상기 이벤트가 발생된 시점에 표시중인 비디오 프레임 정보를 수집할 수 있다.
또한 상기 사용자 정보 수집부 263는 기준치 이상 재생되는 콘텐츠의 항목, 장르 등의 콘텐츠 정보를 수집할 수 있다. 예컨대, 상기 사용자 정보 수집부 263는 다큐멘터리(사진 이미지 기반) 대비 애니메이션의 재생 빈도, 자막이 존재하는 콘텐츠 대비 자막 없는 콘텐츠의 재생 빈도 등을 판단하고 이에 대한 정보를 수집할 수 있다. 상기 사용자 정보 수집부 263에서 수집된 재생 정보는 서버 100에 제공될 수 있으며, 서버 100에서는 이를 기반으로 사용자의 사용 패턴 정보를 산출할 수 있다.
도 9는 본 발명의 실시 예에 따른 화질 개선용 신경망 파일의 생성 및 전송 과정을 도시한 도면이다.
본 발명의 실시 예에 따른 서버 100는 도 9에서 도시되는 바와 같이, 해상도 개선을 위한 범용 신경망 파일을 생성하고 사용자 기기 200로 전송할 수 있다.
구체적으로 살펴보면, 먼저, 상기 서버 100는 획득된 비디오 데이터를 가공하는 705동작을 수행할 수 있다. 상기 705동작은 인공 신경망 알고리즘에 학습시키기 위한 데이터를 생성하기 위한 동작이며, 학습용으로 적합한 데이터를 생성하기 위해 비디오 데이터의 이미지 사이즈를 축소하는 가공을 수행할 수 있다.
일 실시 예에 따라 상기 705동작은 비디오 파일을 구성하는 각 프레임별 가공 동작(사이즈 축소)일 수 있다. 또는 상기 705동작은 비디오 파일의 분할 단위별 샘플링을 통해 인공신경망 학습에 투입될 프레임을 선택한 후, 해당 프레임에 대하여 가공(기 설정된 비율을 곱하여 사이즈 축소)하는 동작일 수 있다. 예를 들어, 전체 프레임 수가 2400장인 비디오 파일의 경우 24개의 프레임이 한 단위인 청크가 100개로 구성되어 있다고 가정하면, 서버 100는 해당 비디오 분할 단위당 1프레임을 샘플링하여 총 100개의 프레임을 학습용 데이터로 가공할 수 있다.
705동작 이후 상기 서버 100는 가공된 비디오 데이터 기반 격자 생성 패턴 정보를 획득하는 710동작을 수행할 수 있다. 상기 가공된 비디오 데이터는 원본 데이터(기 설정된 해상도 수준 이상인 데이터에 한하여 학습용 원본 데이터로 지정)를 기 설정된 비율로 사이즈를 축소시킨 데이터를 의미할 수 있다.
일 이미지의 사이즈가 축소되면 동일 영역 내 표시될 픽셀의 수가 감소하게 되면서 자동적으로 해상도가 감소하게 된다. 이에 따라 이미지 사이즈를 축소시키게 되면 추후 다시 원본 이미지 사이즈로 확대하게 되더라도 감소된 해상도 수준을 유지하게 되기 때문에 격자 현상이 발생되게 된다.
서버 100는 이러한 격자 현상이 발생된 가공 이미지와 원본 이미지를 비교하여 격자가 발생되는 패턴 정보를 획득할 수 있다. 획득된 격자 발생 패턴 정보는 추후 격자 현상이 발생된 이미지에서 격자를 제거하여 해상도를 복원하기 위해 사용될 수 있다.
격자 생성 패턴 정보를 획득하는 710동작 이후, 상기 서버 100는 격자 생성 패턴 정보에 기반하여 화질 개선용 신경망 파일을 생성하는 715동작을 수행할 수 있다. 상기 신경망 파일은 콘텐츠 종류에 관계없이 범용으로 적용 가능하도록 생성될 수 있는데, 이를 위해 다양한 종류의 이미지 및 콘텐츠를 활용하여 학습시킬 수 있다. 그리고 서버 100는 격자가 생성된 저화질 이미지 데이터에서 격자를 제거하여 원본 이미지로 복원하는 데 요구되는 인공신경망 알고리즘 정보(레이어별 적용된 활성화 함수, weight, bias 등)을 산출하여 신경망 파일을 생성할 수 있다.
결과값으로 제공되는 weight, bias 등의 요소는 최종 산출된 결과물(화질 개선된 데이터)과 원본 이미지 데이터의 일치율에 기반하여 결정될 수 있다. 상기 서버 100는 상기 일치율이 기 설정된 수준 이상인 경우 해당 인공신경망 연산 시 적용했던 weight와 bias 정보를 범용 신경망 파일에 포함시킬 정보로써 확정할 수 있다.
이후 상기 서버 100는 사용자 기기 200로부터 비디오 데이터에 대한 스트리밍 요청(또는 다운로드 요청)이 수신됨을 확인하는 720동작을 수행할 수 있다. 사용자 요청에 대응하여 상기 서버 100는 사용자 기기 200에 생성된 화질 개선용 신경망 파일과 함께 요청된 비디오 데이터의 저화질 버전을 전송하는 725 동작을 수행할 수 있다. 이에 따라 사용자 기기 200는 비디오의 저화질 버전을 수신하므로 비교적 네트워크 환경에 의한 제약없이 수월하게 콘텐츠를 수신할 수 있으며, 함께 수신한 범용 신경망 파일을 상기 수신한 저화질 버전의 비디오 데이터에 적용함을 통해 사용자가 원하는 수준의 고화질 영상을 재생할 수 있게 된다.
상기 도면에 도시되지는 않았지만, 다양한 실시 예에 따라 사용자 기기 200는 재생되거나 변환이 완료된 비디오 데이터의 상태에 대한 피드백 정보를 서버 100에 전송할 수 있다. 이에 따라 상기 사용자 기기 200는 기준치 이상의 빈도로 재생되는 콘텐츠 장르, 콘텐츠 특징, 주요 재생 요청 시간대 등의 사용자별 재생 관련 정보를 산출할 수 있으며, 이를 상기 서버 100로 전송할 수 있다.
나아가, 상기 사용자 기기 200는 해상도 개선 동작이 완료된 결과 데이터의 프레임 샘플을 서버 100로 기 설정된 주기에 따라 제공할 수 있다. 이에 따라 상기 서버 100는 사용자 기기 200로부터 수신되는 해상도 개선 동작 이후에 산출된 결과 데이터 프레임과 동일 콘텐츠의 원본 데이터 프레임을 비교할 수 있다. 전송되는 프레임 정보에는 콘텐츠에서의 재생 위치 정보가 함께 포함되어 전송될 수 있고, 그에 따라 상기 서버 100는 원본 데이터 내에서 비교할 프레임 이미지를 검색할 수 있다.
상기 서버 100는 사용자 기기 200에서 피드백용으로 제공되는 이미지 프레임과 해당 콘텐츠의 원본 이미지 프레임을 비교하고, 일치율을 판단할 수 있다. 그리고 일치율이 기 설정된 기준치 이하인 것으로 판단되는 경우, 신경망 파일을 업데이트하기 위한 재학습 동작을 요청할 수 있으며, 그에 따라 재학습 동작을 수행할 수 있다.
한편, 본 발명의 다양한 실시예에 따라 생성되는 신경망 파일은, 필요에 따라 압축될 수 있다. 일 실시예로, 서버 100는 사용자 기기 200의 성능을 고려하여 신경망 파일을 압축하고, 압축된 신경망 파일을 사용자 기기 200로 전송할 수 있다.
신경망 파일은, Pruning, Quantization, Decomposition 및 Knowledge Distillation 중 적어도 하나를 이용하여 압축될 수 있다. Pruning은 신경망 파일의 weight, bias 중 의미 없거나, 출력값에 큰 영향을 주지 않는 weight 및 bias를 삭제하는 압축 기법 중 하나이다. Quantization은 각각의 weight를 기 설정된 비트로 양자화 하는 압축 기법 중 하나이다. Decomposition은 weight의 집합인 가중치 행렬 또는 텐서(tensor)를 선형 분해(approximated decomposition)하여 weight의 크기를 줄이는 압축 기법 중 하나이다. Knowledge Distillation은 원본 모델을 Teacher 모델로 하여 원본 모델보다 작은 Student 모델을 생성하고 학습시키는 압축 기법 중 하나이다. 이때, Student 모델은 상술한 Pruning, Decomposition 또는 Quantization을 통해 생성될 수 있다.
이때, 사용자 기기 200의 성능에 따른 압축 정도는 다양한 방법을 통해 결정될 수 있다. 일 실시예로, 신경망 파일의 압축 정도는 사용자 기기 200의 단순 스펙을 바탕으로 결정될 수 있다. 즉, 압축 정도는 사용자 기기 200의 프로세서의 스펙, 메모리 스펙에 의해 일괄적으로 결정될 수 있다.
또 다른 실시예로, 신경망 파일의 압축 정도는 사용자 기기 200의 사용 상태를 바탕으로 결정될 수 있다. 구체적으로, 서버 100은, 사용자 기기 200으로부터 사용 상태 정보를 수신하고, 수신된 사용 상태 정보에 따른 사용자 기기 200의 가용 리소스 정보를 획득할 수 있다. 서버 100은 사용자 기기 200의 가용 리소스 정보를 바탕으로 신경망 파일의 압축 정도를 결정할 수 있다. 이때, 가용 리소스 정보란, 사용자 기기 200이 실행중인 어플리케이션에 대한 정보, 실행중인 어플리케이션에 따라 결정되는 CPU 또는 GPU 점유율, 사용자 기기 200에 저장 가능한 메모리 용량과 관련된 정보일 수 있다.
상술한 예를 참조하여 본 발명을 상세하게 설명하였지만, 당업자라면 본 발명의 범위를 벗어나지 않으면서도 본 예들에 대한 개조, 변경 및 변형을 가할 수 있다. 요컨대 본 발명이 의도하는 효과를 달성하기 위해 도면에 도시된 모든 기능 블록을 별도로 포함하거나 도면에 도시된 모든 순서를 도시된 순서 그대로 따라야만 하는 것은 아니며, 그렇지 않더라도 얼마든지 청구항에 기재된 본 발명의 기술적 범위에 속할 수 있음에 주의한다.
100 : 서버
110 : 통신부
120 : 저장부
130 : 제어부
131 : 자료 가공부
132 : 신경망 학습부
133 : 결과 평가부
134 : 사용패턴 산출부
131a: 사이즈 변경부
131b: 영상 분할부
131c: 특징영역 추출부
132a: 파라미터 설정부
132b: 신경망 파일 산출부

Claims (7)

  1. 사용자 기기 측 요청에 대응하여, 요청된 비디오 데이터를 사용자 기기로 전송하는 서비스를 수행하되, 보유한 비디오 데이터를 기반으로 이미지 정보의 해상도 개선을 위한 인공신경망 알고리즘 동작에 요구되는 범용 신경망 파일을 생성하고, 상기 생성된 범용 신경망 파일 및 해상도를 기 설정된 수준 이하로 변경한 저화질 비디오 데이터를 상기 사용자 기기로 전송하는 서버;
    상기 서버로부터 수신되는 저화질 비디오 데이터에 상기 수신된 범용 신경망 파일을 적용한 인공신경망 알고리즘에 기반한 연산 동작을 수행하고, 상기 연산 동작에 따라 상기 저화질 비디오 데이터의 해상도를 개선하고, 상기 해상도가 개선된 비디오 데이터를 재생하는 사용자 기기;를 포함하는 것을 특징으로 하는 해상도 개선 시스템.
  2. 제 1항에 있어서,
    상기 서버는
    이미지 데이터의 해상도를 인공 신경망 기반의 연산을 통해 개선하기 위해 요구되는 파일인 범용 신경망 파일을 생성하는 제어부;를 포함하는 것을 특징으로 하는 해상도 개선 시스템
  3. 제 2항에 있어서,
    상기 제어부는
    비디오 데이터의 화질 개선을 위해 요구되는 범용 신경망 파일을 산출하기 위해 필요한 학습용 자료를 수집 및 가공하는 자료 가공부를 포함하되,
    상기 자료 가공부는
    비디오 데이터를 구성하는 이미지의 사이즈를 원본 사이즈로부터 기 설정된 비율로 축소시켜 해상도 저하에 따라 격자가 발생된 가공 데이터를 생성하는 사이즈 변경부;
    비디오 데이터 내 프레임들을 이미지 객체의 일치율에 기반하여 분할하는 영상 분할부; 및
    비디오 데이터의 분할 단위별 특징 영역을 추출하되 프레임 내 포함된 이미지 객체의 중요도가 기 설정된 값 이상인 경우, 해당 이미지 객체가 표시되는 영역을 특징 영역으로 추출하는 특징 영역 추출부;를 포함하는 것을 특징으로 하는 해상도 개선 시스템.
  4. 제 2항에 있어서,
    상기 제어부는
    신경망 학습부를 포함하되,
    상기 신경망 학습부는
    인공신경망 알고리즘 연산에 요구되는 초기 파라미터를 설정하는 파라미터 설정부;
    원본 데이터와 원본 데이터의 사이즈를 축소하여 해상도를 낮춘 가공 데이터를 비교하여 원본 데이터의 사이즈 축소 과정에서 생성된 격자의 생성 패턴 정보를 산출하고,
    격자 생성 패턴 정보에 기반하여 가공 데이터 상의 격자를 제거하는 데 요구되는 인공신경망 파라미터를 산출하며, 산출된 파라미터를 포함하는 신경망 파일을 생성하는 신경망 파일 산출부;를 포함하는 것을 특징으로 하는 해상도 개선 시스템.
  5. 제 2항에 있어서,
    상기 제어부는
    사용자 기기에서 신경망 파일을 적용한 결과 데이터의 해상도의 향상 정도를 판단하되, 상기 결과 데이터와 기 보유된 원본 데이터와의 오차율을 기반으로 신경망 파일을 구성하는 파라미터의 수정 여부를 판단하는 결과 평가부;를 포함하는 것을 특징으로 하는 해상도 개선 시스템.
  6. 제 2항에 있어서,
    상기 제어부는
    사용자의 스트리밍 요청 기록, 다운로드 기록에 기반하여 사용자의 VOD 서비스에 대한 사용 패턴을 산출하고, 저장하는 사용패턴 산출부;를 포함하는 것을 특징으로 하는 해상도 개선 시스템
  7. 제 1항에 있어서,
    상기 사용자 기기는
    출력 요청된 비디오 데이터의 해상도를 판단하고, 실행 요청된 비디오 데이터의 해상도가 기 설정된 수준 이하이며 해상도 개선이 요구되는 상태로 판단되는 경우, 해상도 변환을 요청하는 비디오 재생부;
    신경망 파일의 기 보유 여부를 판단하고, 범용 신경망 파일이 존재하지 않을 경우, 서버에 요청하여 범용 신경망 파일을 다운로드하며, 범용 신경망 파일에 기반한 인공신경망 알고리즘을 구동하여 저화질 데이터를 요청된 해상도로 변환하는 해상도 변환부;를 포함하는 것을 특징으로 하는 해상도 개선 시스템.
KR1020190046953A 2018-04-24 2019-04-22 인공지능 기반 해상도 개선 시스템 KR102082815B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US17/050,371 US11095925B2 (en) 2018-04-24 2019-04-23 Artificial intelligence based resolution improvement system
PCT/KR2019/004890 WO2019209005A1 (ko) 2018-04-24 2019-04-23 인공지능 기반 해상도 개선 시스템
JP2020560196A JP7385286B2 (ja) 2018-04-24 2019-04-23 人工知能基盤解像度改善システム
EP19792005.1A EP3787302A4 (en) 2018-04-24 2019-04-23 RESOLUTION ENHANCEMENT SYSTEM BASED ON ARTIFICIAL INTELLIGENCE

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20180047305 2018-04-24
KR1020180047305 2018-04-24

Related Child Applications (2)

Application Number Title Priority Date Filing Date
KR1020200020610A Division KR102130078B1 (ko) 2020-02-19 2020-02-19 해상도 향상도를 바탕으로 인공지능 파라미터를 변경하는 시스템
KR1020200020609A Division KR102130077B1 (ko) 2020-02-19 2020-02-19 격자 생성 패턴 정보를 바탕으로 해상도를 개선하는 시스템

Publications (2)

Publication Number Publication Date
KR20190130478A true KR20190130478A (ko) 2019-11-22
KR102082815B1 KR102082815B1 (ko) 2020-02-28

Family

ID=68731071

Family Applications (4)

Application Number Title Priority Date Filing Date
KR1020190046954A KR102082816B1 (ko) 2018-04-24 2019-04-22 스트리밍 파일의 해상도 개선 방법
KR1020190046955A KR102190483B1 (ko) 2018-04-24 2019-04-22 Ai 기반의 영상 압축 및 복원 시스템
KR1020190046957A KR102179436B1 (ko) 2018-04-24 2019-04-22 변화 매크로블록 추출 기법을 이용한 동영상 화질 개선 시스템
KR1020190046953A KR102082815B1 (ko) 2018-04-24 2019-04-22 인공지능 기반 해상도 개선 시스템

Family Applications Before (3)

Application Number Title Priority Date Filing Date
KR1020190046954A KR102082816B1 (ko) 2018-04-24 2019-04-22 스트리밍 파일의 해상도 개선 방법
KR1020190046955A KR102190483B1 (ko) 2018-04-24 2019-04-22 Ai 기반의 영상 압축 및 복원 시스템
KR1020190046957A KR102179436B1 (ko) 2018-04-24 2019-04-22 변화 매크로블록 추출 기법을 이용한 동영상 화질 개선 시스템

Country Status (4)

Country Link
US (2) US20210160556A1 (ko)
EP (1) EP3787302A4 (ko)
JP (1) JP7385286B2 (ko)
KR (4) KR102082816B1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112802338A (zh) * 2020-12-31 2021-05-14 山东奥邦交通设施工程有限公司 一种基于深度学习的高速公路实时预警方法及系统
KR20210066707A (ko) * 2019-11-28 2021-06-07 울산과학기술원 무손실 이미지 압축을 위한 데이터 압축 및 복원 장치
CN113556496A (zh) * 2020-04-23 2021-10-26 京东方科技集团股份有限公司 视频分辨率提升方法及装置、存储介质及电子设备
US11943271B2 (en) 2020-12-17 2024-03-26 Tencent America LLC Reference of neural network model by immersive media for adaptation of media for streaming to heterogenous client end-points

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019009490A1 (ko) 2017-07-06 2019-01-10 삼성전자 주식회사 영상을 부호화/복호화 하는 방법 및 그 장치
US11368758B2 (en) * 2018-05-21 2022-06-21 Gdflab Co., Ltd. VOD service system based on AI video learning platform
US20190392312A1 (en) * 2018-06-21 2019-12-26 Deep Force Ltd. Method for quantizing a histogram of an image, method for training a neural network and neural network training system
WO2020080765A1 (en) 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Apparatuses and methods for performing artificial intelligence encoding and artificial intelligence decoding on image
WO2020080665A1 (en) 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Methods and apparatuses for performing artificial intelligence encoding and artificial intelligence decoding on image
US11877018B2 (en) * 2019-11-15 2024-01-16 Korea Advanced Institute Of Science And Technology Live video ingest system and method
KR102287942B1 (ko) * 2020-02-24 2021-08-09 삼성전자주식회사 전처리를 이용한 영상의 ａｉ 부호화 및 ａｉ 복호화 방법, 및 장치
KR20210127412A (ko) * 2020-04-14 2021-10-22 삼성전자주식회사 Ai 다운스케일 장치 및 그 동작방법, 및 ai 업스케일 장치 및 그 동작방법
US11436703B2 (en) * 2020-06-12 2022-09-06 Samsung Electronics Co., Ltd. Method and apparatus for adaptive artificial intelligence downscaling for upscaling during video telephone call
KR20220081648A (ko) * 2020-12-09 2022-06-16 삼성전자주식회사 Ai 부호화 장치 및 그 동작방법, 및 ai 복호화 장치 및 그 동작방법
KR102271371B1 (ko) * 2020-12-24 2021-06-30 전남대학교산학협력단 네트워크 트래픽 절감을 위한 모바일 엣지 컴퓨팅 기반 슈퍼-레졸루션 스트리밍 영상 전송 시스템
KR102537163B1 (ko) * 2021-06-16 2023-05-26 주식회사 엘지유플러스 단말기, 클라우드 서버 및 클라우드 증강현실(ar) 플랫폼의 영상 송수신 시스템 및 그 방법
WO2023286881A1 (ko) * 2021-07-12 2023-01-19 엘지전자 주식회사 영상표시장치 및 이를 포함하는 시스템
KR20230023460A (ko) * 2021-08-10 2023-02-17 삼성전자주식회사 어플리케이션에 따라 ai 기반으로 영상을 재생하는 전자 장치 및 이에 의한 영상 재생 방법
KR102634627B1 (ko) * 2021-12-14 2024-02-08 주식회사 카이 라이브 스트리밍 방법 및 장치
CN114845138A (zh) * 2022-04-26 2022-08-02 三星电子（中国）研发中心 自适应流媒体的超分辨率重建方法和装置及服务器
KR102596384B1 (ko) * 2023-02-22 2023-10-30 진병선 인공 지능 연산을 위한 신경망 처리 유닛이 구비된 카메라 장비
KR102647960B1 (ko) * 2023-10-11 2024-03-15 주식회사 지솔 AI Vision 기반의 객체 이미지 고해상도 고화질 변환 기법을 적용한 초지능 객체 분석 방법 및 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170347061A1 (en) * 2015-02-19 2017-11-30 Magic Pony Technology Limited Machine Learning for Visual Processing
US20170346865A1 (en) * 2016-05-31 2017-11-30 Ooyala, Inc. Limiting key request rates for streaming media

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5293454A (en) * 1989-03-08 1994-03-08 Sharp Kabushiki Kaisha Learning method of neural network
US6735253B1 (en) * 1997-05-16 2004-05-11 The Trustees Of Columbia University In The City Of New York Methods and architecture for indexing and editing compressed video over the world wide web
US7149262B1 (en) * 2000-07-06 2006-12-12 The Trustees Of Columbia University In The City Of New York Method and apparatus for enhancing data resolution
AU2002334720B8 (en) * 2001-09-26 2006-08-10 Interact Devices, Inc. System and method for communicating media signals
JP4784190B2 (ja) 2005-07-28 2011-10-05 カシオ計算機株式会社 コンテンツ再生装置、コンテンツ配信装置及びプログラム
WO2007029443A1 (ja) 2005-09-09 2007-03-15 Matsushita Electric Industrial Co., Ltd. 画像処理方法、画像記録方法、画像処理装置および画像ファイルフォーマット
KR101789845B1 (ko) * 2010-01-22 2017-11-20 톰슨 라이센싱 샘플링 기반 초 해상도 비디오 인코딩 및 디코딩을 위한 방법 및 장치
KR101344828B1 (ko) * 2012-02-27 2013-12-26 (주)티그레이프 디지털 콘텐츠 유통 방법 및 시스템
KR102450971B1 (ko) 2015-05-08 2022-10-05 삼성전자주식회사 객체 인식 장치 및 방법
US9940539B2 (en) 2015-05-08 2018-04-10 Samsung Electronics Co., Ltd. Object recognition apparatus and method
US9609307B1 (en) * 2015-09-17 2017-03-28 Legend3D, Inc. Method of converting 2D video to 3D video using machine learning
JP2017103744A (ja) 2015-12-04 2017-06-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 画像復号方法、画像符号化方法、画像復号装置、画像符号化装置、及び画像符号化復号装置
KR101803471B1 (ko) * 2016-02-15 2017-12-01 성균관대학교 산학협력단 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템 및 이를 이용한 영상 학습방법
JP6689656B2 (ja) 2016-04-18 2020-04-28 ルネサスエレクトロニクス株式会社 画像処理システム、画像処理方法及び画像送信装置
KR101780057B1 (ko) 2016-08-02 2017-09-19 한양대학교 에리카산학협력단 고해상도 영상 복원 방법 및 장치
CN106791927A (zh) 2016-12-23 2017-05-31 福建帝视信息科技有限公司 一种基于深度学习的视频增强与传输方法
WO2018216207A1 (ja) 2017-05-26 2018-11-29 楽天株式会社 画像処理装置、画像処理方法、および画像処理プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170347061A1 (en) * 2015-02-19 2017-11-30 Magic Pony Technology Limited Machine Learning for Visual Processing
US20170346865A1 (en) * 2016-05-31 2017-11-30 Ooyala, Inc. Limiting key request rates for streaming media

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210066707A (ko) * 2019-11-28 2021-06-07 울산과학기술원 무손실 이미지 압축을 위한 데이터 압축 및 복원 장치
CN113556496A (zh) * 2020-04-23 2021-10-26 京东方科技集团股份有限公司 视频分辨率提升方法及装置、存储介质及电子设备
CN113556496B (zh) * 2020-04-23 2022-08-09 京东方科技集团股份有限公司 视频分辨率提升方法及装置、存储介质及电子设备
US11943271B2 (en) 2020-12-17 2024-03-26 Tencent America LLC Reference of neural network model by immersive media for adaptation of media for streaming to heterogenous client end-points
CN112802338A (zh) * 2020-12-31 2021-05-14 山东奥邦交通设施工程有限公司 一种基于深度学习的高速公路实时预警方法及系统

Also Published As

Publication number Publication date
KR20190130479A (ko) 2019-11-22
JP7385286B2 (ja) 2023-11-22
US11095925B2 (en) 2021-08-17
KR102190483B1 (ko) 2020-12-11
JP2021522723A (ja) 2021-08-30
KR102179436B1 (ko) 2020-11-16
EP3787302A1 (en) 2021-03-03
US20210160556A1 (en) 2021-05-27
US20210058653A1 (en) 2021-02-25
EP3787302A4 (en) 2022-04-20
KR102082815B1 (ko) 2020-02-28
KR20190140825A (ko) 2019-12-20
KR20190130480A (ko) 2019-11-22
KR102082816B1 (ko) 2020-02-28

Similar Documents

Publication Publication Date Title
KR102082815B1 (ko) 인공지능 기반 해상도 개선 시스템
US10499056B2 (en) System and method for video processing based on quantization parameter
CN107534796B (zh) 视频处理系统和数字视频分发系统
CN110555527A (zh) 延时摄影视频的生成方法及设备
CN108198177A (zh) 图像获取方法、装置、终端及存储介质
KR102130076B1 (ko) 특징 영역의 학습 중요도를 바탕으로 스트리밍 파일의 해상도를 개선하는 방법
CN101287089A (zh) 摄像设备、图像处理设备及其控制方法
CN112686165A (zh) 视频中目标对象的识别方法、装置、电子设备及存储介质
CN112351291A (zh) 一种基于ai人像分割的教学互动方法、装置及设备
WO2017024901A1 (zh) 视频转码方法和装置
KR20220021494A (ko) Ai 기반 해상도 개선 시스템
KR20220070866A (ko) 딥러닝 기술이 적용된 영상 개선 방법, 장치 및 프로그램
KR20220021495A (ko) Ai에 기반하여 스트리밍 파일의 해상도를 개선하는 방법
KR102130078B1 (ko) 해상도 향상도를 바탕으로 인공지능 파라미터를 변경하는 시스템
KR102130077B1 (ko) 격자 생성 패턴 정보를 바탕으로 해상도를 개선하는 시스템
WO2019209005A1 (ko) 인공지능 기반 해상도 개선 시스템
CN115063673B (zh) 模型压缩方法、图像处理方法、装置和云设备
CN114095725B (zh) 一种判断摄像头是否异常的方法和系统
CN113542780B (zh) 一种网络直播视频的压缩伪影去除方法及装置
WO2019209006A1 (ko) 스트리밍 파일의 해상도 개선 방법
US11398091B1 (en) Repairing missing frames in recorded video with machine learning
KR101997909B1 (ko) 해상도 복원을 위한 ai 영상학습 파라미터 추출 프로그램 및 기록매체
CN113628121A (zh) 数据处理、训练多媒体数据的方法和装置
KR20220070868A (ko) 전자 장치의 제어 방법, 장치 및 프로그램
US20190306500A1 (en) Bit rate optimization system and method

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant