JP2020524418A - Ai映像学習プラットフォームベースのvodサービスシステム - Google Patents
Ai映像学習プラットフォームベースのvodサービスシステム Download PDFInfo
- Publication number
- JP2020524418A JP2020524418A JP2018549564A JP2018549564A JP2020524418A JP 2020524418 A JP2020524418 A JP 2020524418A JP 2018549564 A JP2018549564 A JP 2018549564A JP 2018549564 A JP2018549564 A JP 2018549564A JP 2020524418 A JP2020524418 A JP 2020524418A
- Authority
- JP
- Japan
- Prior art keywords
- vod
- server
- file
- weight
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/251—Learning process for intelligent management, e.g. learning user preferences for recommending movies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47202—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234363—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23614—Multiplexing of additional data and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4348—Demultiplexing of additional data and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
- H04N21/440263—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
- H04N21/4667—Processing of monitored end-user data, e.g. trend analysis based on the log file of viewer selections
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
- H04N21/4668—Learning process for intelligent management, e.g. learning user preferences for recommending movies for recommending content, e.g. movies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/654—Transmission by server directed to the client
- H04N21/6547—Transmission by server directed to the client comprising parameters, e.g. for client setup
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本発明はAI映像学習プラットフォームベースのVODサービスシステムに関するものである。より詳細には、本発明はAIベースのSRCNNにより映像学習を行って、高画質のVODファイルから高画質映像の復元に必要なWeightを算出し、今後当該VODファイルに対応するWeightを用いて低画質VODファイルを高画質VODファイルに復元できるようにするVODサービスシステムに関するものである。
Description
本発明はAI映像学習プラットフォームベースのVODサービスシステムに関するものである。より詳細には、本発明はAIベースのSRCNNにより映像学習を行って、高画質のVODファイルから高画質映像の復元に必要なWeightを算出し、今後当該VODファイルに対応するWeightを用いて低画質VODファイルを高画質VODファイルに復元できるようにするVODサービスシステムに関するものである。
全世界的にスマート機器の普及率はますます増加している。特に、韓国におけるスマートフォンの普及率は91%であって、グローバル56カ国のうち1位を占める。モバイル機器を通じた動画視聴人口もやはり、継続的に増加することで、韓国の場合に2017年のモバイル映像トラフィックは2016年の58%に比べて74%以上増加した。
最近数年の間に人工知能技術をモバイル機器で活用する方法が活発に研究開発されている。特に、2015年を起点として人工知能技術の活用が可能なモバイル機器の性能が飛躍的に発展されるようになった。Google、Facebook、Apple、MSなどのグローバル大企業が公開するAI Open Sourceでもモバイル機器をサポートし始めながら、モバイル機器で人工知能技術を活用することができるようになった。
一方、既存のVODサービスはユーザの環境に合わせて適応型(Adaptive)ストリーミングを提供するために、複数のBitrate別映像(270p、360p、480p、720p、1080pなど)と、端末及びブラウザー別に映像フォーマットを準備しなければならなかった。これによって、VODサービスを提供するコンテンツプロバイダの立場ではエンコードコストとトラフィックコストが発生し、これはユーザの料金負担に繋がるようになる。
モバイルVOD視聴者の立場では、ますます大きくなる動画のサイズが通信料金の負担として作用して、視聴者に負担を与える。従って、高画質VODサービスを提供するプロバイダの収益に繋がらない実情である。これによって、ユーザが体感する通信容量の負担を減らし、高画質VODファイルで映像を提供するための方案が要求されている。
一方、動画の解像度向上に関連した従来技術としては、特許文献1(ブロック単位の映像整合を用いた超解像度映像復元方法及び装置)がある。
本発明は低解像度映像を高解像度映像に復元する人工知能学習アルゴリズムを用いて、低解像度映像ファイルだけでマルチプラットフォーム、マルチブラウザーで高解像度映像の再生を可能にする人工知能VODプレイヤーを開発し、これをサポートするためのモバイルVODファイルAI学習プラットフォームを開発することにその目的がある。
本発明の実施形態に係るAI映像学習プラットフォームベースのVODサービスシステムは、VODファイルを格納し、ユーザ機器からの要請によって前記VODファイルの伝送サービスを提供する第1サーバと、前記第1サーバからVODファイルを受信して、個別VODファイルのAI映像学習を行い、前記AI映像学習の結果によって個別VODファイルに対応するWeightを算出し、ユーザ機器から発生したVOD伝送要請に対応して、要請されたVODファイルに対応するWeightをユーザ機器に伝送する第2サーバと、前記第2サーバによって学習されたVODファイルのID及び前記VODファイルのAI映像学習の結果によって算出されたWeightを格納するデータベース(DB)と、及び前記第1サーバに映像ファイルの伝送を要請し、前記第1サーバから映像ファイルを受信し、第2サーバから伝送要請した映像ファイルに対応するWeightを受信して前記Weightを適用した映像ファイルを実行させるユーザ機器と、を含むことができる。
本発明のVODサービスシステムはモバイルVOD視聴者が従来に比べて少ない通信コストで高解像度映像を楽しむことができるようになる効果がある。
また、比較的短い時間の間の通信だけで高解像度映像を再生することができるので、ネットワークインフラが劣悪な海外においても、高画質映像を再生することができるようになる。
また、本発明の実施形態に係るAI学習プラットフォームと高解像度映像再生技術は様々なビジネスモデルに適用可能であり、これによってIPTV、VOD、CCTVなどの映像に関連した様々な産業分野で高解像度映像を提供することができる。
更に、本発明は映像再生技術を高度化することで、予め学習した特定の領域に特化された人工知能映像処理サービスから全ての産業分野で使用可能なAI学習プラットフォームを提供することができる。
本発明は様々な変更を加えることができ、いくつかの実施形態を有することができる。特定の実施形態を図面に例示して詳細に説明する。
しかし、それは本発明を特定の開示形態に対して限定しようとするものではなく、本発明の思想及び技術範囲に含まれる全ての変更、均等物ないし代替物を含むと理解すべきであろう。各図面を説明しながら同一または類似する構成要素については同一の参照符号を付した。
ある構成要素が異なる構成要素に「連結されて」あるとか「接続されて」あると言及された際には、その他の構成要素に直接的に連結されていたり、または接続することもできるが、その間に他の構成要素が存在することもできると理解すべきであろう。反面、ある構成要素が異なる構成要素に「直接連結されて」いるとか「直接接続されて」いると言及された際には、その間に他の構成要素が存在しないと理解すべきであろう。
本出願において使用した用語は単に特定の実施形態を説明するために使われたもので、本発明を限定しようとする意図ではない。単数の表現は文脈上明白に異なるように意味しない限り、複数の表現を含む。本出願において、「含む」または「有する」等の用語は説示された特徴、数字、ステップ、動作、構成要素、部分品または、それらを組み合わせたものが存在することを指定しようとするものであって、一つまたは、それ以上の他の特徴や数字、ステップ、動作、構成要素、部分品または、それらを組み合わせたものなどの存在または、付加の可能性を予め排除しないことと理解されなければならない。
図1及び図2は本発明の実施形態に係るVODサービスシステムの構成を示す図である。
図1を参照して説明すると、本発明の実施形態に係るVODサービスシステムは第1サーバ100、第2サーバ200、第2サーバと連動されるDB220を含んでなることができ、前記構成要素に基づいて、AI映像学習を行うことができる。この時、前記「AI映像学習」とは、ディープラーニング学習アルゴリズムであるSRCNNベースの高解像度画像復元技術に基づいて、低解像度映像を高解像度映像に復元するに必要なWeight(加重値パラメータ)を算出する動作を意味することができる。
まず、第1サーバ100は一般的なVOD提供サーバを意味することができる。第1サーバ100は図1及び2に示さなかったが、VODファイルを格納する別のDBを含むことができる。第1サーバ100は当該DBに格納されているVODファイルをユーザ機器側に伝送することができる。
前記第2サーバ200は本発明の実施形態に従って、AI映像学習を行うサーバを意味することができる。この時、前記第2サーバ200は第1サーバ100に既にアップロードされているVODファイルに対してAI映像学習を行うことができる。そして、前記第2サーバ200はAI映像学習を行った結果によって生成されたWeightを第2サーバと連動されるDB220に別途に格納することができる。この時、生成されたWeightは当該VODファイルに対するIDと共に格納することができる。これによって、今後第1サーバ100は、特定のVODファイルを伝送(例、ストリーミング)するための要請を受けると、当該VODのID情報を第2サーバ200側に伝達し、第2サーバ200は当該IDに対応するWeightを検出してユーザ機器側に提供することができるようになる。
この時、第2サーバ200はAI映像学習を行う際に、算出されるWeightの容量が所定のサイズ以下(例えば、10Mb以下)になるように設定することができる。
図1に示す第2サーバ200の右側を参照すると、第2サーバ200で行われるAI映像学習動作の例が概略的に示されている。以下には、第2サーバ200が行うAI映像学習について簡単に説明する。
本発明の実施形態に係る第2サーバ200が行うAI映像学習は、ディープラーニングアルゴリズム(例えば、SRCNN; Super Resolution Convolution Neural Network)を活用して低解像度映像を高解像度映像に復元することができるWeightを算出する動作である。このように抽出したWeightは、今後ユーザ機器300で低解像度VODファイルを人工知能テスト過程(第2サーバで学習過程を行って、ユーザ機器でテスト過程を行うことができる)を経て、高解像度VODファイルに変換する際に使用する加重値パラメータであり得る。
基本的なCNNの動作方式は、一つの画像をフィルタ(filter)を介して一部の領域を一つずつスキャンし、それについての値を探しながら学習させる方法を使用する。この時、適切なWeight値を有するフィルタを探すことがCNNの目標になる。
前記DB220は個別VODファイルの学習結果であるWeightを当該VODに対するID別に格納することができる。
前記DB220に格納されるWeightは、例えば下記の表1に示すように、VODのID別に指定することができる。表1のWeight 欄はユーザ機器の上で画像の解像度復元に必要なWeight(加重値パラメータ)と共に、映像の解像度向上の程度(例えば、480pから720pに向上)に関する情報を含むことができる。
様々な実施形態に従って、前記DB220に格納されるVODのIDはコンテンツ項目(例えば、映画、ミュージックビデオ、ドラマなど)、再生時間、プロット、登場人物、既再生回数などのコンテンツ関連情報に基づいて付与することができる。例えば、映画関連VODはA、ドラマ関連VODはBからIDが始まるような方式でIDを付与することができる。
以上に、図1を参照して第2サーバ200で行われるAI映像学習動作について説明した。以下には、図2を参照してユーザ機器を通じて行う高画質VOD提供動作について説明する。
図2を参照すると、ここには本発明の実施形態に係る基本的な構成である第1サーバ100と、第2サーバ200、及びDB220が示されており、それと共に、ユーザ機器300も併せて示されている。図1で説明したように、第1サーバ100は従来の一般的な方式でVODを伝送(ストリーミング含む)するサーバを意味することができ、ユーザ機器300から任意のVODを伝送するための要請を受けると、当該VODファイルをユーザ機器300側に無線通信を介して伝送することができる。この時、前記第1サーバ100からユーザ機器300側に伝送されるVODファイルは基準値以下の解像度を有するVODファイルであり得る。
第2サーバ200は第1サーバ100からユーザ機器300側に伝送される特定のVODファイルに関する情報の伝達を受け、それに対応して前記特定のVODファイルに対応するWeight情報をDB220から検索した後、ユーザ機器300側に伝達するように制御することができる。または、前記第2サーバ200は第1サーバ100と共にユーザ機器300から直接当該VODファイルの要請信号を受信し、要請されたVODファイルに対応するWeight情報を検索してユーザ機器300側に提供することができる。
即ち、第1サーバ100ではVODファイル(以下、第1サーバで受信するVODを「第1VODファイル」と称する)を、インターネットを介してユーザ機器300側に伝送し、第2サーバ200は連動したDB220から検索されたWeight情報をインターネットを介してユーザ機器300側に伝送することができる。
これによって、ユーザ機器300は低解像度VODファイルと、Weightとの両方を受信することができるようになり、ユーザ機器300内に格納されたAI高解像度VOD再生プログラム301を通じて高解像度VODファイル(以下、ユーザ機器300上で復元された高解像度VODファイルを「第2VODファイル」と称する)を再生することができるようになる。
ユーザ機器300はAI高解像度VOD再生プログラム301を通じて第1サーバから受信した第1VODファイルを再生する。この時、前記AI高解像度VOD再生プログラム301はプログラムに対応するWeight情報がユーザ機器300内に存在するか否か(または第2サーバ200からストリーミングされるか否か)を判断し、対応Weightが存在すると、ソースVODファイル及びWeightを用いて復元過程を行って第2VODファイル(高解像度VOD)を生成することができる。AI高解像度VOD再生プログラム301は例えば、ソースVODファイルがSD映像である場合HD映像に、HD映像である場合はFHD映像に変換して再生することができる。更に、前記AI高解像度VOD再生プログラム301はWeight情報の種類によってSD映像をFHD映像に復元することもできる。この時、復元された第2VODファイルの解像度(サイズ)はWeight情報に含まれたサイズ情報(例えば、表1の「Learning Weight」欄に記載された事項)に基づいて決定することができる。
図3は本発明の実施形態に係る第2サーバの構成を示すブロック図である。
図3に示す第2サーバは通信部210、DB220、制御部230を含んでなることができる。前記制御部230は解像度判断部231、AI映像学習部232、オブジェクト画像抽出部233、コンテンツ情報収集部234、ユーザ視聴情報収集部235、ユーザ視聴嗜好情報算出部236を含んでなることができる。
前記通信部210はユーザ機器とサーバとの間でデータ送受信のために、ネットワークを用いることができる。前記ネットワークの種類は特に制限されない。前記ネットワークは例えば、インターネットプロトコル(IP)を介して大容量データの送受信サービスを提供するアイピー(IP:Internet Protocol)網、または相異なるIP網を統合したオールアイピー(All IP)網であり得る。また、前記ネットワークは有線網、Wibro(Wireless Broadband)網、WCDMAを含む移動通信網、HSDPA(High Speed Downlink Packet Access)網、及びLTE(Long Term Evolution)網を含む移動通信網、LTE advanced(LTE−A)、5G(Five Generation)を含む移動通信網、衛星通信網及び無線LAN(Wi−Fi)網のうちいずれかであるか、またはこれらのうちの少なくとも一つ以上を組み合わせてなることもできる。
本発明の実施形態に係る前記通信部210はユーザ機器300または第1サーバ100から特定のVODファイルに対応するWeightを検索し、これをユーザ機器300側に伝送するための要請信号を受信することができる。また、前記通信部210は要請されたVODに対応するWeightをユーザ機器300側に伝送することができる。この他にも、前記通信部210はユーザの個人情報及びVODに関するコンテンツ情報などを第1サーバ、ユーザ機器、及びその他のウエブサーバから収集することができる。
前記DB220は前記第2サーバ200と連動されて第2サーバ200から算出されたWeight情報が格納される装置である。様々な実施形態に従って、前記DB220は第2サーバ200とは別に構成され、第2サーバ200から伝送されるWeight情報を有線または無線通信を介して受信して格納することができる。
前記DB220はVODファイル別にWeight情報を格納することができる。前記Weight情報は低画質映像をAIベースの画像処理動作によって高画質映像に変換するに必要とする加重値パラメータであるWeightと共に、当該Weightを適用する場合に算出される最終の解像度情報(例えば、HD−UHD;HDからUHDに解像度が補正されることを意味する情報)を含んで格納することができる。
前述したように、前記制御部230は解像度判断部231、AI映像学習部232、オブジェクト画像抽出部233、コンテンツ情報収集部234、ユーザ視聴情報収集部235、ユーザ視聴嗜好情報算出部236を含んでなることができる。
前記制御部230は第1サーバ100から取得した動画ファイルについてSRCNN(Super Resolution Convolution Neural Network、以下、「SRCNN」)と呼ばれるディープラーニングアルゴリズムを活用して低解像度映像を高解像度映像に復元できるようにする情報であるWeightを算出することができる。また、前記制御部230はユーザの視聴情報及び第1サーバ100から取得したVOD動画情報に関する情報を収集し、収集した情報を一定の基準に基づいて分類し、これによってユーザの特性に合わせたVODを提供する(例えば、ユーザの関心別にVODを推薦する)機能を行うことができる。
より詳細には、前記制御部230は前記解像度判断部231、AI映像学習部232、及びオブジェクト画像抽出部233を用いて低画質ファイルを高画質ファイルに復元するに必要とするWeight情報を算出することができ、コンテンツ情報収集部234、ユーザ視聴情報収集部235、及びユーザ視聴嗜好情報算出部236を通じてユーザの特性に合わせたVODサービスを提供することができる。
この時、前記解像度判断部231は第1サーバ100から取得したVODファイルの解像度が所定のレベル以上の解像度であるか否かを判断することができる。解像度の判断結果によって、前記AI映像学習部232は取得した映像に対する映像学習方式を決定することができる。まず、前記解像度判断部231が第1VODファイルの解像度を判断した結果、解像度が所定のレベル以上の高解像度であると判断した場合には、前記AI映像学習部232は第1VODファイルに基づいて低解像度映像を抽出し、抽出した低解像度映像と高解像度映像のパッチ(Patch)を用いて、AI映像学習(例えば、SRCNN)を行うことができる。この時、前記AI映像学習部232は映像学習の結果によって低解像度映像から高解像度映像を実現するに必要とする情報であるWeight情報を算出するようになる。そして、前記AI映像学習部232は算出したWeight情報を当該VODファイルのID情報と共にDB220に別途に格納するように制御することができる。
次に、第1サーバ100から取得した第1VODファイルの解像度が所定の解像度未満の低画質映像である場合には、当該VODファイルから抽出した複数の画像に基づいて学習を行ってWeightを算出することができる。この時、第1VODファイルから抽出した複数の画像は全て所定の解像度未満の低画質画像であり、AI映像学習部232は抽出した複数の低画質画像の自己類似性を用いて、第1VODファイルの解像度を向上させるできるWeightを算出することが可能である。この場合、前記AI映像学習部232は本発明の様々な実施形態に従って、SRCNN以外の方式でAI映像学習を行い、これに基づいてWeightを算出することができる。
前記解像度判断部231で解像度を判断する動作は図示や説明を省略したが、一括して全てのVODファイルに対して同一の方式で映像学習を行うこともできる。
前記AI映像学習部232はSRCNN方式でAI映像学習を行うことを特徴とするが、これに制限されるものではなく、様々な実施形態に従って、その他の方式(例えば、VDSR、DRCN)でAI映像学習を行い、VODファイル別にWeight情報を算出することができる。
前記オブジェクト画像抽出部233は第1VODファイルからWeight抽出する際に、全体イメージのサイズが所定のレベル以上であるか、またはWeightの容量が所定の容量レベル以上である場合には、第1VODファイルの画像のうち一部の画像だけを選択的にサンプリングすることができる。前記オブジェクト画像抽出部233でサンプリングした一部の画像は例えば、角部分を除いた中心領域の画像に該当することができる。また、前記オブジェクト画像抽出部233は第1VODファイルが含んでいる画像のうち、所定のオブジェクト(例えば、人物の顔)が検知される領域に対して別途にサンプリング(例えば、オブジェクト画像のサンプリング)を行うことができる。前記オブジェクト画像抽出部233で抽出したンプリング画像は、その後前記AI映像学習部232で行われるAI映像学習を経てオブジェクト画像用のWeightを算出することができるようになる。前記オブジェクト画像用のWeightは、ユーザ機器300からオブジェクト中心の解像度補正を要請する場合に、提供することができる。前記オブジェクト画像用のWeightは全体VODファイルの画像領域のうち所定の領域(オブジェクト画像でサンプリングした領域)の解像度だけを復元するに使用することができる。前記オブジェクト画像用のWeightは画像全体ではなく一部の画像だけに対して適用する値である。従って、Weight容量のサイズを減少させて映像の解像度復元に必要なリソースと時間を節約できるようになる効果がある。
一実施形態において、前述した実施形態に従って、オブジェクト中心のWeightを用いた解像度補正が提供される場合には、ユーザ機器300はオブジェクトベースのWeight検索及び解像度補正を要請して行うことができる。
例えば、ユーザ機器300が再生しようとする映像ファイルに関する情報がない場合は、ユーザ機器300は当該映像ファイルに対するWeightを取得することができず、従って、解像度補正を行うことが難しいことがある。例えば、映像ファイルはタイトル(またはID)がない動画プログラムであり得、または映画の一部シーンを編集したクリップ映像であり得る。
この場合、ユーザ機器300は映像ファイルから一つ以上のオブジェクトを抽出し、抽出したオブジェクトを識別することができる。オブジェクトの識別には既存に学習したモデルを活用することができる。モデルの学習はユーザ機器300または第1及び第2サーバのうちの少なくとも一つのサーバで予め行うことができる。例えば、ユーザ機器300は映像ファイルに登場するキャラクター、俳優、建物や小道具などのような特定のオブジェクトを識別及び認識することができ、これに対応する映像の種類や当該映像のシーンを検索及び取得することができる。
ユーザ機器300は取得した情報に基づいてユーザ機器300または第2サーバ200からWeightを取得する。本発明の実施形態に従って、映像に対応するWeightがない場合には、ユーザ機器300は映像ファイルに対応する高画質映像をサーバから検索し、検索した高画質映像を用いてWeightを取得するためのAI映像学習を行うことができる。Weightを取得するための学習には時間がかかる。従って、ユーザ機器300はユーザのストリーミング対象プレイリストに格納されたり、ユーザ機器300に格納された一つ以上の映像ファイルについてバックグラウンドで前述した動作を行い、ユーザが視聴する前に予めサーバを通じて学習を進行することができる。学習が完了すると、ユーザ機器300はWeightを取得して格納することができる。
他の例として、ユーザ機器300が再生しようとする映像ファイルに対応するWeightがユーザ機器300または第2サーバ200に格納されていない場合には、ユーザ機器300は別の学習手続きなしオブジェクトベースの解像度復元を行うことができる。
例えば、ユーザ機器300は前述した方法で映像ファイルから一つ以上のオブジェクトを抽出し、抽出したオブジェクトを識別することができる。例えば、ユーザ機器300は映像ファイルに登場するキャラクター、俳優、建物や小道具などのような特定のオブジェクトを識別及び認識することができ、これに対応するオブジェクト画像用のWeightをユーザ機器300または第2サーバ200から取得することができる。例えば、特定の映画に対するWeightは格納されていなくても、当該映画に出演する俳優に対するWeightは既に格納されていることがあり得る。この場合、ユーザ機器300は当該俳優に対するWeightを取得し、取得したWeightに基づいて当該俳優の画像に対する解像度復元を行うことができる。
また、オブジェクトは特定されない一般的なオブジェクトを含むことができる。例えば、歩道ブロックや電柱、建物、自動車などのオブジェクトは特定されず、所定の基準に基づいて分類されたWeightが予め格納されることができる。従って、ユーザ機器300は映像に車道、建物、自動車などの一般的なオブジェクトがあると識別される場合には、これに対応するWeightを取得した後、それぞれの一般的なオブジェクトに対する解像度復元を行うことで、映像の全体的な品質を向上させることができる。
前記コンテンツ情報収集部234は、第1サーバ100から提供されてAI映像学習を行った履歴があるVODファイル中心のコンテンツ情報を収集することができる。前記「コンテンツ情報」とは、VODファイルを項目別に分類するために必要な情報をいう。例えば、コンテンツ情報はコンテンツの種類(例えば、映画、ドラマ、M/V、芸能、アニメなど)、タイトル(例えば、ギム課長(ドラマタイトル)、デッドプール(映画タイトル))、シーズンと回次、プロット、登場人物などの情報を含むことができる。
様々な実施形態に従って、前記コンテンツ情報収集部234は、今後ユーザが主に要請するコンテンツの属性を判断できるようにするために、ユーザからのWeightが頻繁に要請されるコンテンツ(ヒット数が多いVODに関するコンテンツ情報)に関するコンテンツ情報を収集するように制御することができる。前記コンテンツ情報収集部234は第1VODファイルに含まれるタイトル、回次などの内部コンテンツ情報を収集することができる。また、前記コンテンツ情報収集部234は前記第1VODファイルに含まれる内部コンテンツ情報に基づいて、当該コンテンツのプロット、登場人物などの外部コンテンツ情報を更に収集することができる。
また、前記コンテンツ情報収集部234は様々な実施形態に従って、収集したコンテンツ情報に基づいて、AI映像学習部232の動作を制御することができる。例えば、「ドラマ/ギム課長/1回」に分類されるVODが20個(例えば、合計1時間のコンテンツである場合には、5分ごとに分割された複数の映像クリップが存在することができる)が存在する場合、20個のVODは一つの束に分類することができる。そして、前記AI映像学習部232は前記20個のコンテンツのうち任意のコンテンツに対してWeightを計算するためのAI映像学習動作を行う途中、前記コンテンツ情報に基づいて同一の束に分類されたコンテンツの中から類似したサムネイル画像を保持するVODを更に参照して映像学習を行うことができる。
前記ユーザ視聴情報収集部235はユーザ機器300から受信したVOD要請信号に基づいて情報を収集することができる。また、前記ユーザ視聴情報収集部235は第1サーバ100からユーザの視聴情報(例えば、ヒット数情報)を収集することもできる。前記ユーザ視聴情報収集部235はユーザアカウントからユーザ情報(性別、年齢層、国家など)を収集することができる。また、前記ユーザ視聴情報収集部235はユーザアカウント別アクセス回数の関連情報(例えば、1ヶ月の平均アクセス回数)、市役所VODのIDまたは分類項目の情報(例えば、ユーザ別視聴VODリストの形態で記録することができる)などの視聴情報を収集することができる。様々な実施形態に従って、前記ユーザ視聴情報収集部235は同一VODコンテンツの平均繰り返し再生回数、主解像度の選択情報などを更に収集することができる。
前記ユーザ視聴嗜好情報算出部236は前記コンテンツ情報収集部234及びユーザ視聴情報収集部235で収集した情報に基づいて、ユーザのVODの好みに関する情報を算出することができる。前記ユーザ視聴嗜好情報算出部236は例えば、任意VODの視聴回数、または第1サーバ100(VODサービスのウェブページまたはアプリケーション)へのアクセス回数が所定の基準値(例えば、3回/1週間)以上であるユーザに対して視聴嗜好情報を算出することができる。または、前記ユーザ視聴嗜好情報算出部236は全てのユーザに対して視聴履歴があるVODファイルと当該VODファイルに関したコンテンツ情報に基づいて、視聴嗜好情報を算出することができる。または、前記ユーザ視聴嗜好情報算出部236はユーザ情報に基づいて、特定の年齢層別、または性別視聴嗜好情報を算出することができる。
また、前記ユーザ視聴嗜好情報算出部236はユーザ別関心VODを判断するために、ユーザ視聴情報収集部235から収集した視聴情報を活用することができる。前記ユーザ視聴嗜好情報算出部236は各ユーザ別視聴VODファイルリストなどの視聴情報に基づいて、ユーザが好みのVODファイルの特徴を算出することができる。この時、前記ユーザ視聴嗜好情報算出部236はユーザの視聴VODファイルの各情報をコンテンツ情報に基づいて分類した後、所定の回数(または割合)以上視聴した項目の情報をユーザが好むコンテンツの分類であると判断することができる。例えば、ユーザ視聴嗜好情報算出部236はユーザの視聴VODリストそれぞれについて分類項目に対する識別値を付与することができる。
以後、前記ユーザ視聴嗜好情報算出部236は特定のユーザの視聴VODリストに付与された識別値情報に基づいて、当該ユーザの好みVOD項目の情報を判断することができる。例えば、任意のユーザAの視聴VODリストに付与された識別値のうち、所定の割合以上がドラマ(種類)、推理物(ジャンル)に該当すると判断する場合には、前記ユーザ視聴嗜好情報算出部236はユーザの好みを(1)ドラマ、(2)推理物であると判断することができる。次に、ユーザ視聴嗜好情報算出部236は当該ユーザに推理物及びドラマに分類されるVODを推薦するように第1サーバ側に推薦情報を提供することができる。これによって、前記第1サーバは当該ユーザのアクセス時に、新たに更新されたVODファイルのうち推理物が存在する場合には、前記ユーザへのアクセスページ画面に当該VODを推薦する画面を表示したり、ユーザ機器300側に更新情報をプッシュ通知で伝達することができる。
また、前記ユーザ視聴嗜好情報算出部236は複数のユーザが好むと判断するVOD(例えば、シリーズ物)が第1サーバ100に更新されると、当該VODを優先して第2サーバで取得した後、AI映像学習を行うように制御することができる。即ち、前記制御部230は第1サーバ100から取得する第1VODのAI映像学習の優先順位を判断する際に、前記ユーザ視聴嗜好情報算出部236で算出したユーザ視聴嗜好情報に基づいて順位を決定することができる。
様々な実施形態に従って、前記制御部230は第1サーバ100から取得する第1VODのAI映像学習の優先順位を設定する際に、忠誠度の高いユーザが好む映像に優先順位を付与することができる。前記忠誠度はVOD提供サーバへのアクセス回数及び視聴回数に基づいて判断することができる。例えば、第1サーバ100へのアクセス回数及び第1サーバ100を通じたVOD視聴回数が所定のレベル以上であるユーザが好むAドラマと、アクセス回数及び視聴回数が所定のレベル未満であるユーザが好むBドラマうち、前記制御部はAドラマを優先してAI映像学習を行うように順位を指定することができる。
また、本発明の様々な実施形態に従って、前記制御部230はキーワードベースのVOD推薦部(図示せず)を更に含むことができる。前記キーワードベースのVOD推薦部は学習したVODファイルを対象に、VODのプロットとユーザレビューを人工知能に学習させ、ウエブサーバなどで推薦したトレンドキーワードに関連したVODファイルを推薦する動作を行うことができる。例えば、前記キーワードベースのVOD推薦部はウェブサイトで頻繁に検索されるドラマのタイトル、俳優の名前に基づいて、当該タイトルのコンテンツまたはその俳優が出演したコンテンツを当該時点で人気のあるコンテンツとして判断し、これをユーザに推薦することができる。
図4は本発明の実施形態に係るAI映像学習動作の手順を示すフローチャートである。
本発明の実施形態に係る第2サーバ200は第1サーバからVODファイルを取得する動作(405)を行うことができる。以後、第2サーバ200は取得したVODファイルに対するAI映像学習を行い、高画質映像の復元に必要なWeightを算出する動作(410)を行うことができる。この時、前記第2サーバ200は制御部230を通じて取得したVODファイルの高画質映像の復元用Weightを算出するようになる。
以後、第2サーバ200の制御部230は算出したWeightをコンテンツID別に分類してDB220に格納する動作(415)を行うことができる。
前記手順によって第2サーバ200は第1サーバ100に保持されたVODファイルに対応する解像度復元用のWeightを算出し、算出したWeightを別のDB220に保持することができるようになる。前記Weightのパラメータサイズが大きいほど、復元率が高くなって高解像度が得られるが、VODサービスの可用性が低下すると予想することができる。これによって、算出されるWeightのサイズは一定の容量(例えば、10MB未満)を維持するように指定することができる。
図5は本発明の実施形態に係る第2サーバで解像度復元を行うための動作の手順を示すフローチャートである。
前記第2サーバ200の制御部230は特定のVODファイルに対する伝送要請信号を受信することができる。この時、前記第2サーバ200は特定のVODファイルに対する伝送要請信号をユーザ機器300から直接受信することができる。この場合、ユーザ機器300はVODサービスを提供する第1サーバ100側にアクセスする際に、自動的に第2サーバ200側に関する情報を受信し、第1サーバ100側にVODを要請する際に、同一の信号を第2サーバ200側にも要請するように設定することができる。
または、前記第2サーバ200は第1サーバからVODサーバにアクセスしたユーザ機器300に関する情報の提供を受け、ユーザ機器から第1サーバ100がVOD要請信号を受信すると、その信号を第1サーバ100が第2サーバ200側に伝達することができる。これによって、第2サーバ200は伝送要請されたVODファイルに関する情報及びユーザ機器300の情報を受信することができるようになる。
次に、第2サーバ200の制御部230は要請されたVODファイルに対応するWeightを検索する動作(510)を行うことができる。
前記制御部230はDB内に当該VODファイルに対応するWeightが存在するか否かを判断する動作(515)を行うことができる。対応するWeightが存在する場合、前記制御部230は当該Weightをユーザ機器300側に伝送するように通信部を制御する動作(520)を行うことができる。一方、選択されたVODに対応するWeightが存在しないと判断する場合、前記制御部230は当該VODファイルに対するAI映像学習順に重要度の加重値を付与する動作(525)を行った後に、この動作を終了することができる。
本発明の実施形態に係る制御部230はVODファイルに対するAI映像学習の優先順位を決定することができ、設定された順番情報に基づいてVODファイルのAI映像学習動作を行うことができる。例えば、前記制御部230が行うAI映像学習の手順決定はスコア算定方式で行うことができ、新たに更新されるVOD映像に対して既存のヒット数が所定の基準値以上であるコンテンツの後続作(作品名は同一であり、回次の情報が異なる他のVODファイルを同一コンテンツの後続作として判断できる)の場合には、以前VODコンテンツのヒット数情報に基づいてスコアを付与することができる。そして、前記動作(525)で説明したように、ユーザの要請履歴がある場合には、前記制御部230はAI映像学習の手順を決定するための評価スコアを算定する際に加重値を付与することができる。
この他にも様々な方式によって前記制御部230はユーザの関心度が高いVODコンテンツを判断することができ、それによって、ユーザの関心度が高いVODコンテンツに対して優先的にAI映像学習を行うことができる。
本発明の様々な実施形態に従って、第2サーバ200は1次的に学習した予備学習(pretrained)モデルを再利用して追加学習を行うことができる(例えば、特定のVODファイルに対する伝送要請信号の受信に対応して追加学習を行うことができる)。これによって、本発明の実施形態に係るAI映像学習動作は学習時間を短縮させることができる。
図面には示さなかったが、第2サーバ200における前記動作以後、ユーザ機器300側には受信した第1VODファイル(低解像度映像)と当該VODに対応するWeightをAI高解像度VOD再生プログラム301で駆動して、復元された高解像度映像(第2VODファイル)を生成し、これを再生させることができる。
従って、詳述した例を参照して本発明を詳しく説明したが、当業者であれば本発明の範囲を外れることなく、本例に対する改造、変更及び変形を加えることができる。つまり、本発明が意図する効果を達成するために、図面に図示された全ての機能を別途に含むか、図面に図示された全ての手順を図示された手順とおりに従うべきではなく、そうでなくてもいくらでも請求項に記載された本発明の技術的な範囲に属することができることに注意する。
本発明の実施形態に関連して説明した方法のアルゴリズムやステップはハードウェアで直接具現化するか、ハードウェアにより実行されるソフトウェアモジュールで具現化するか、またはそれらの組み合わせによって具現化することができる。ソフトウェアモジュールは、RAM(Random Access Memory)、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、フラッシュメモリ(Flash Memory)、ハードディスク、取り外し可能なディスク、CD−ROM、または本発明が属する技術分野でよく知られている任意の形態のコンピュータ読み取り可能な記録媒体に常駐することもできる。
本発明の構成要素はソフトウェアプログラミングまたはソフトウェア要素で実行することができ、これと同様に、実施形態はデータ構造、プロセス、ルーチンまたは他のプログラミング構成の組み合わせで具現化される様々なアルゴリズムを含んで、C、C++、Java、アセンブラ(assembler)などのようなプログラミングまたはスクリプト言語で具現化することができる。機能的な側面は一つ以上のプロセッサ上で実行されるアルゴリズムで具現化することができる。
Claims (8)
- VODサービスを提供するシステムであって、
VODファイルを格納し、ユーザ機器からの要請によって前記VODファイルの伝送サービスを提供する第1サーバと、
前記第1サーバからVODファイルを受信して、個別VODファイルのAI映像学習を行い、前記AI映像学習の結果によって個別VODファイルに対応するWeightを算出し、ユーザ機器から発生したVOD伝送要請に対応して、要請されたVODファイルに対応するWeightをユーザ機器に伝送する第2サーバと、
前記第2サーバによって学習されたVODファイルのID及び前記VODファイルのAI映像学習の結果によって算出されたWeightを格納するデータベース(DB)と、及び
前記第1サーバに映像ファイルの伝送を要請し、前記第1サーバから映像ファイルを受信し、第2サーバから伝送要請した映像ファイルに対応するWeightを受信して前記Weightを適用した映像ファイルを実行させるユーザ機器と、を含むことを特徴とするAI映像学習プラットフォームベースのVODサービスシステム。 - 前記AI映像学習は、SRCNN(Super Resolution Convolution Neural Network)技法による学習動作であることを特徴とする請求項1に記載のAI映像学習プラットフォームベースのVODサービスシステム。
- 前記第2サーバは、前記Weightの容量が10MB以下に算出されるように設定されることを特徴とする請求項1に記載のAI映像学習プラットフォームベースのVODサービスシステム。
- 前記第2サーバは、前記第1サーバから任意の映像ファイルを取得し、
特定のオブジェクトが含まれた画像領域をサンプリングしてAI映像学習を行い、前記特定のオブジェクトが含まれた画像領域から算出されたWeightをオブジェクト画像用のWeightに別途に指定して格納し、
ユーザによってオブジェクト中心の解像度復元が選択された場合、前記オブジェクト画像用のWeightをユーザ機器に提供することを特徴とする請求項1に記載のAI映像学習プラットフォームベースのVODサービスシステム。 - 前記第2サーバは、VODファイル別コンテンツの種類、タイトル、プロット、登場人物のうち少なくとも一つを含むコンテンツ情報を収集し、
ユーザ視聴情報を収集して、ユーザの視聴割合が所定の基準値以上であれば、ユーザの視聴情報及び前記コンテンツ情報に基づいて、前記ユーザの視聴嗜好情報を算出し、前記算出した視聴嗜好情報に対応するVODコンテンツを更新する際に、VODを前記ユーザに推薦することを特徴とする請求項1に記載のAI映像学習プラットフォームベースのVODサービスシステム。 - 前記第2サーバは、複数のユーザの視聴嗜好情報に対応する新規VODファイルを優先してAI映像学習を行うように選定することを特徴とする請求項5に記載のAI映像学習プラットフォームベースのVODサービスシステム。
- VODファイルを保持した第1サーバからVODファイルを受信してVODファイルのAI映像学習を行い、前記AI映像学習の結果によって前記VODファイルに対応するWeightを生成し、ユーザ機器から発生したVODファイル伝送要請を受信することによって、要請されたVODに対応するWeightを抽出して前記ユーザ機器に提供することを特徴とするAI映像学習プラットフォームベースのVODサービス装置。
- VODサービスシステムのVODサービスの提供方法において、
第2サーバが、第1サーバからVODファイルを受信して、個別VODファイルのAI映像学習を行い、前記AI映像学習の結果によって個別VODファイルに対応するWeightを生成して格納するステップと、
第1サーバが、ユーザ機器から任意のVODファイルの伝送要請を受信し、前記VODファイルをユーザ機器に伝送するステップと、
第2サーバが、第1サーバから前記VODファイルの伝送要請を受けるステップと、
第2サーバで前記VODファイルに対応する既に格納されたWeightを検索して前記ユーザ機器に伝送するステップと、及び
ユーザ機器が、前記第1サーバから伝送されたVODファイルと第2サーバから伝送されたWeightを受信し、前記VODファイルと前記Weightをユーザ機器内のAI高解像度VOD再生プログラムで駆動して、前記VODファイルの解像度を向上させるステップと、を含むことを特徴とするAI映像学習プラットフォームベースのVODサービス方法。
Applications Claiming Priority (9)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2018-0057915 | 2018-05-21 | ||
KR10-2018-0057909 | 2018-05-21 | ||
KR1020180057910A KR101933699B1 (ko) | 2018-05-21 | 2018-05-21 | Ai 영상학습 기반 해상도 향상 방법 |
KR1020180057904A KR101933696B1 (ko) | 2018-05-21 | 2018-05-21 | Ai 영상학습 플랫폼 기반 vod 서비스 시스템 |
KR10-2018-0057910 | 2018-05-21 | ||
KR10-2018-0057904 | 2018-05-21 | ||
KR1020180057915A KR101997909B1 (ko) | 2018-05-21 | 2018-05-21 | 해상도 복원을 위한 ai 영상학습 파라미터 추출 프로그램 및 기록매체 |
KR1020180057909A KR101933698B1 (ko) | 2018-05-21 | 2018-05-21 | Ai 영상학습을 통한 가중치 추출 및 제공 장치 |
PCT/KR2018/006330 WO2019225793A1 (ko) | 2018-05-21 | 2018-06-01 | Ai 영상학습 플랫폼 기반 vod 서비스 시스템 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020524418A true JP2020524418A (ja) | 2020-08-13 |
Family
ID=68615781
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018549564A Pending JP2020524418A (ja) | 2018-05-21 | 2018-06-01 | Ai映像学習プラットフォームベースのvodサービスシステム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11368758B2 (ja) |
JP (1) | JP2020524418A (ja) |
CN (1) | CN110754093A (ja) |
WO (1) | WO2019225793A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11800185B2 (en) | 2018-12-28 | 2023-10-24 | Dwango Co., Ltd. | Image transmission and reception system, data transmission and reception system, transmission and reception method, computer program, image transmission system, image reception device, transmission system, reception device |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP4024875A4 (en) * | 2019-08-30 | 2022-10-26 | Sony Group Corporation | RECEIVING DEVICE, RECEIVING METHOD AND TRANSMISSION DEVICE AND TRANSMISSION METHOD |
JP6908756B1 (ja) * | 2020-04-30 | 2021-07-28 | 株式会社ドワンゴ | 配信者端末、コンテンツ配信システム、コンテンツ生成方法、コンテンツ生成プログラム、および、記録媒体 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017055609A1 (en) * | 2015-09-30 | 2017-04-06 | Piksel, Inc | Improved video stream delivery via adaptive quality enhancement using error correction models |
JP2017195429A (ja) * | 2016-04-18 | 2017-10-26 | ルネサスエレクトロニクス株式会社 | 画像処理システム、画像処理方法及び画像送信装置 |
JP2019067078A (ja) * | 2017-09-29 | 2019-04-25 | 国立大学法人 筑波大学 | 画像処理方法、及び画像処理プログラム |
JP2019110120A (ja) * | 2017-12-18 | 2019-07-04 | エフ イー アイ カンパニFei Company | 顕微鏡画像の再構成およびセグメント化のための遠隔深層学習のための方法、装置、およびシステム |
JP2019129328A (ja) * | 2018-01-22 | 2019-08-01 | 西日本電信電話株式会社 | 高精細動画生成装置、高精細動画生成方法、およびプログラム |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2002334720B8 (en) | 2001-09-26 | 2006-08-10 | Interact Devices, Inc. | System and method for communicating media signals |
KR20070024918A (ko) | 2005-08-31 | 2007-03-08 | 김유신 | 가상 공간에서 화상 커뮤니케이션 서비스 제공 장치 및방법 |
NZ567815A (en) * | 2005-11-15 | 2011-08-26 | Bernadette Garner | Training neural networks including selecting an output to be trained and connecting an output neuron to input neurons |
US20080222120A1 (en) * | 2007-03-08 | 2008-09-11 | Nikolaos Georgis | System and method for video recommendation based on video frame features |
JP2010041336A (ja) * | 2008-08-04 | 2010-02-18 | Toshiba Corp | 画像処理装置、および画像処理方法 |
KR101111121B1 (ko) | 2009-06-29 | 2012-02-13 | 주식회사 모임 | 인공지능에 기반한 개인별 맞춤형 컨텐츠 제공 장치 및 방법, 그 기록 매체 |
KR101003045B1 (ko) | 2009-06-29 | 2010-12-22 | 주식회사 모임 | 인공지능에 기반한 개인별 맞춤형 광고 제공 장치 및 방법,그 기록 매체 |
KR101175349B1 (ko) * | 2009-08-27 | 2012-08-20 | 주식회사 케이티 | 매칭 정보를 제공하는 통합 프로그램 가이드 제공 시스템 및 방법 |
KR101632917B1 (ko) | 2010-02-08 | 2016-07-04 | 삼성전자주식회사 | 고화질 영상 획득을 위한 학습 기반 고해상도 향상 장치 및 방법 |
CN103167284B (zh) * | 2011-12-19 | 2017-08-11 | 中国电信股份有限公司 | 一种基于画面超分辨率的视频流传输方法及系统 |
KR101538313B1 (ko) | 2012-12-21 | 2015-07-22 | 서울시립대학교 산학협력단 | 블록단위 영상 정합을 이용한 초해상도 영상 복원 방법 및 장치 |
KR20160008011A (ko) * | 2014-07-11 | 2016-01-21 | 전자부품연구원 | 초고해상도 영상 처리를 위한 장치 |
CN105205782B (zh) * | 2015-09-06 | 2019-08-16 | 京东方科技集团股份有限公司 | 超解像方法和系统、服务器、用户设备及其方法 |
KR101803471B1 (ko) * | 2016-02-15 | 2017-12-01 | 성균관대학교 산학협력단 | 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템 및 이를 이용한 영상 학습방법 |
WO2017223530A1 (en) * | 2016-06-23 | 2017-12-28 | LoomAi, Inc. | Systems and methods for generating computer ready animation models of a human head from captured data images |
KR101838271B1 (ko) * | 2016-07-22 | 2018-03-13 | 오제호 | 휴대용 영상 콘텐츠 재생 장치 및 그 동작 방법 |
KR101780057B1 (ko) | 2016-08-02 | 2017-09-19 | 한양대학교 에리카산학협력단 | 고해상도 영상 복원 방법 및 장치 |
KR101791573B1 (ko) | 2016-10-21 | 2017-10-31 | 서강대학교산학협력단 | 컨볼루션 신경망을 이용한 비디오 스트림에 대한 수퍼 해상도 장치 및 방법 |
US10701394B1 (en) * | 2016-11-10 | 2020-06-30 | Twitter, Inc. | Real-time video super-resolution with spatio-temporal networks and motion compensation |
EP3322189B1 (en) * | 2016-11-10 | 2019-12-25 | Alcatel Lucent | Method and system for controlling video transcoding |
CN106791927A (zh) * | 2016-12-23 | 2017-05-31 | 福建帝视信息科技有限公司 | 一种基于深度学习的视频增强与传输方法 |
CN106845478B (zh) * | 2016-12-30 | 2019-09-10 | 同观科技(深圳)有限公司 | 一种字符置信度的二次车牌识别方法及装置 |
US10271008B2 (en) * | 2017-04-11 | 2019-04-23 | Advanced Micro Devices, Inc. | Enhanced resolution video and security via machine learning |
US10915407B2 (en) * | 2017-08-07 | 2021-02-09 | Datto, Inc. | Source volume backup with adaptive finalization apparatuses, methods and systems |
US10979718B2 (en) * | 2017-09-01 | 2021-04-13 | Apple Inc. | Machine learning video processing systems and methods |
CN107944379B (zh) * | 2017-11-20 | 2020-05-15 | 中国科学院自动化研究所 | 基于深度学习的眼白图像超分辨率重建与图像增强方法 |
CN110087084B (zh) * | 2018-01-25 | 2022-03-18 | 联咏科技股份有限公司 | 视频处理装置及视频处理方法 |
US20200374573A1 (en) * | 2018-03-01 | 2020-11-26 | Telefonaktiebolaget Lm Ericsson (Publ) | Artificial intelligence (ai) based enhanced resolution content delivery |
KR102082816B1 (ko) * | 2018-04-24 | 2020-02-28 | 주식회사 지디에프랩 | 스트리밍 파일의 해상도 개선 방법 |
US11741342B2 (en) * | 2018-05-18 | 2023-08-29 | Baidu Usa Llc | Resource-efficient neural architects |
-
2018
- 2018-06-01 US US16/076,164 patent/US11368758B2/en active Active
- 2018-06-01 CN CN201880000956.8A patent/CN110754093A/zh active Pending
- 2018-06-01 JP JP2018549564A patent/JP2020524418A/ja active Pending
- 2018-06-01 WO PCT/KR2018/006330 patent/WO2019225793A1/ko active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017055609A1 (en) * | 2015-09-30 | 2017-04-06 | Piksel, Inc | Improved video stream delivery via adaptive quality enhancement using error correction models |
JP2017195429A (ja) * | 2016-04-18 | 2017-10-26 | ルネサスエレクトロニクス株式会社 | 画像処理システム、画像処理方法及び画像送信装置 |
JP2019067078A (ja) * | 2017-09-29 | 2019-04-25 | 国立大学法人 筑波大学 | 画像処理方法、及び画像処理プログラム |
JP2019110120A (ja) * | 2017-12-18 | 2019-07-04 | エフ イー アイ カンパニFei Company | 顕微鏡画像の再構成およびセグメント化のための遠隔深層学習のための方法、装置、およびシステム |
JP2019129328A (ja) * | 2018-01-22 | 2019-08-01 | 西日本電信電話株式会社 | 高精細動画生成装置、高精細動画生成方法、およびプログラム |
Non-Patent Citations (1)
Title |
---|
CHAO DONG ET AL.: "Image Super-Resolution Using Deep Convolutional Networks", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, vol. Volume:38, Issue:2, JPN6020026004, 1 June 2015 (2015-06-01), pages 295 - 307, ISSN: 0004467612 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11800185B2 (en) | 2018-12-28 | 2023-10-24 | Dwango Co., Ltd. | Image transmission and reception system, data transmission and reception system, transmission and reception method, computer program, image transmission system, image reception device, transmission system, reception device |
Also Published As
Publication number | Publication date |
---|---|
US11368758B2 (en) | 2022-06-21 |
US20210204029A1 (en) | 2021-07-01 |
WO2019225793A1 (ko) | 2019-11-28 |
CN110754093A (zh) | 2020-02-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102082816B1 (ko) | 스트리밍 파일의 해상도 개선 방법 | |
US10333767B2 (en) | Methods, systems, and media for media transmission and management | |
JP6364424B2 (ja) | メディアアセットに関するコンテクスト上関係する情報を表示するための方法およびシステム | |
US20240073477A1 (en) | Systems and methods for pre-caching media content | |
US20150020106A1 (en) | Personalized video content from media sources | |
US8700650B2 (en) | Search results comparison methods and systems | |
RU2641663C1 (ru) | Способ рекомендации телевизионной программы и сервер | |
US11368758B2 (en) | VOD service system based on AI video learning platform | |
US20210006948A1 (en) | Providing a summary of media content to a communication device | |
KR101933696B1 (ko) | Ai 영상학습 플랫폼 기반 vod 서비스 시스템 | |
KR102130075B1 (ko) | 사용자 시청 취향 정보를 활용한 해상도 복원용 영상학습 지원 시스템 | |
KR102130073B1 (ko) | 객체 중심의 해상도 복원 기능을 수행하는 영상 학습 시스템 | |
KR101997909B1 (ko) | 해상도 복원을 위한 ai 영상학습 파라미터 추출 프로그램 및 기록매체 | |
KR102130076B1 (ko) | 특징 영역의 학습 중요도를 바탕으로 스트리밍 파일의 해상도를 개선하는 방법 | |
WO2015051611A1 (zh) | 一种内容匹配方法、装置及系统 | |
KR102130074B1 (ko) | 열악한 네트워크 환경에서의 고화질 vod 제공 시스템 | |
KR101933698B1 (ko) | Ai 영상학습을 통한 가중치 추출 및 제공 장치 | |
KR101933699B1 (ko) | Ai 영상학습 기반 해상도 향상 방법 | |
US20210011943A1 (en) | Systems and methods for recommending media assets based on objects captured in visual assets | |
CN103533009A (zh) | 一种基于Web技术实现音视频推荐的方法和系统 | |
KR20220021495A (ko) | Ai에 기반하여 스트리밍 파일의 해상도를 개선하는 방법 | |
KR101452414B1 (ko) | 메타 정보를 활용한 컨텐츠 제공 방법 | |
US10637842B2 (en) | Method and system for sharing of real-time, dynamic, adaptive and non-linearly assembled videos on publisher platforms | |
US20180324472A1 (en) | Video streaming management system for enhanced user engagement in a subscribed network | |
JP5213747B2 (ja) | 映像コンテンツ保管視聴システムおよび方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180914 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200721 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20201021 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210323 |