JP6527579B2 - クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置 - Google Patents

クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置 Download PDF

Info

Publication number
JP6527579B2
JP6527579B2 JP2017504729A JP2017504729A JP6527579B2 JP 6527579 B2 JP6527579 B2 JP 6527579B2 JP 2017504729 A JP2017504729 A JP 2017504729A JP 2017504729 A JP2017504729 A JP 2017504729A JP 6527579 B2 JP6527579 B2 JP 6527579B2
Authority
JP
Japan
Prior art keywords
image
change area
still image
cloud streaming
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017504729A
Other languages
English (en)
Other versions
JP2017531343A (ja
Inventor
− メオン ペ、テ
− メオン ペ、テ
− ソ ユン、ホン
− ソ ユン、ホン
− シク ナ、ヒュン
− シク ナ、ヒュン
− グック キム、ドン
− グック キム、ドン
− リ チョン、ユー
− リ チョン、ユー
− ス イ、ドン
− ス イ、ドン
Original Assignee
エスケー テックス カンパニー、リミテッド
エスケー テックス カンパニー、リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020140110551A external-priority patent/KR102199270B1/ko
Priority claimed from KR1020140139556A external-priority patent/KR102273143B1/ko
Application filed by エスケー テックス カンパニー、リミテッド, エスケー テックス カンパニー、リミテッド filed Critical エスケー テックス カンパニー、リミテッド
Priority claimed from PCT/KR2015/006952 external-priority patent/WO2016017953A1/ko
Publication of JP2017531343A publication Critical patent/JP2017531343A/ja
Application granted granted Critical
Publication of JP6527579B2 publication Critical patent/JP6527579B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/612Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/762Media network packet handling at the source 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H04N21/8153Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image

Description

本発明は、クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置(SYSTEM FOR CLOUD STREAMING SERVICE、METHOD OF CLOUD STREAMING SERVICE BASED ON STILL IMAGE AND APPARATUS FOR THE SAME)に関し、より詳細には、クラウドストリーミングサービス時に、変化が少ない部分に対してスチールイメージ基盤のクラウドストリーミングサービスを提供するとき、キャプチャされた画面によって圧縮技法を選択してエンコーディングすることによって、圧縮効率とサービス速度を向上させることができ、イメージタイプによるスチールイメージ圧縮技法でエンコーディングを行い、イメージの圧縮効率とサービス速度を向上させることができ、システム負荷及びネットワーク状態によってスチールイメージ圧縮技法を選択してエンコーディングすることによって、圧縮効率とサービス速度を向上させることができるクラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置に関する。
本発明は、2014年7月30日に出願された韓国特許出願第10−2014−0097322号、2014年8月25日に出願された韓国特許出願第10−2014−0110551号、2014年10月16日に出願された韓国特許出願第10−2014−0139556号及び2014年11月11日に出願された韓国特許出願第10−2014−0156004号の出願日の利益を主張し、その内容の全部は、本明細書に含まれる。
クラウドストリーミングサービスは、基本的に、ビデオコーデック基盤のクラウドストリーミング技法が適用され、メニューディスプレイなどを適用する場合にも、不要に画面全体をキャプチャし、ビデオコーデックを利用して動作し、クラウドストリーミングサービスが非効率的であった。
すなわち、静的な画面がユーザの入力によって少しずつ変わる画面に対するクラウドストリーミング適用時には、ビデオコーデックを利用したクラウドストリーミングサービスよりも、イメージ基盤クラウドストリーミングサービスが効果的なことがある。
言い替えれば、スチールイメージ基盤のクラウドストリーミングサービスを行う場合、フレーム間の変化が発生した領域を正確に検出し、最小領域のみを伝送すると、さらに効果的なクラウドストリーミングサービスが可能である。
また、スチールイメージコーデックを適用する場合、圧縮対象イメージのイメージタイプによってそのデータ量が千差万別であり、圧縮に使用されるスチールイメージ圧縮技法でよってクラウドストリーミングサービスの効率性が大きく変わることができる。したがって、イメージタイプを迅速で且つ正確に区分し、適応的にイメージクラウドを適用できる新しい技法の必要性が切実に提起される。
また、スチールイメージ基盤のクラウドストリーミングサービスを行う場合、フレーム間の変化が発生した領域を正確に検出することが非常に重要な問題であり、したがって、さらに簡単で且つさらに効果的な変化領域検出技術が必要である。
しかも、ケーブルやIPTV事業者が長期間多様な種類のセットトップボックスを供給しているため、セットトップボックスごとに性能の差異が千差万別であり、実際に最近10余年の間に、総15種類以上のセットトップが普及されて来た。また、良い性能のセットトップと悪い性能のセットトップとの間の性能の差異が非常に大きいため、コンテンツ供給者が所望する方式でコンテンツがユーザに供給されない場合が発生する。
また、スチールイメージ基盤のクラウドストリーミングサービスを行う場合、ウェブアプリのためのコードを作成するウェブアプリ開発者は、自分が従来使用した方式でコードを作成しようとし、クラウドストリーミングサーバーの入場では、できるだけ、アニメーションなどが適用されず、キャプチャすべきイメージ情報とアニメーションの属性に該当する情報のみを含むコードを希望するため、互いに相反する面がある。すなわち、ウェブアプリ開発者がCSサーバー側で所望のコードを提供するためには、従来自分が使用した方式ではなく、新しいコードを提供しなければならない問題がある。
関連先行技術としては、韓国公開特許第10−2014−0076668号、2013年06月23日公開(名称:クラウドストリーミング基盤のゲーム提供方法)及び韓国公開特許第10−2014−0027040号、2014年03月06日公開(名称:適応イメージ圧縮システム及びその方法)がある。
韓国公開特許第10−2014−0076668号 韓国公開特許第10−2014−0027040号
本発明の目的は、スチールイメージ基盤クラウドストリーミングサービスの提供時に、状況にあうスチールイメージ圧縮技法を使用することによって、圧縮効率とクラウドストリーミングサービス速度を向上させることにある。
また、本発明の目的は、スチールイメージ基盤クラウドストリーミングサービスの提供時に、イメージタイプに適したスチールイメージ圧縮技法を使用することによって、圧縮効率とクラウドストリーミングサービス速度を向上させることにある。
また、本発明の目的は、スチールイメージ基盤クラウドストリーミングサービスの提供時に、クラウドストリーミングサーバー状態に適したスチールイメージ圧縮技法を使用することによって、クラウドストリーミングサーバー負荷に発生し得るサービス遅延を防止し、速くサービスを提供することにある。
また、本発明の目的は、スチールイメージ基盤クラウドストリーミングサービスを通じてストリーミング圧出効率を極大化し、同一の帯域を通じて一層速くて且つさらに多いユーザを対象としてクラウドストリーミングサービスを提供することにある。
また、本発明の目的は、メニュー画面などのようにフレーム間の変化が大きくない場合、クラウドストリーミングサーバーがフレーム間の変化を検出し、当該変化が発生した領域のみをスチールイメージコーデックを利用して圧縮してストリーミングする、クラウドストリーミングサービス方法を提供することにある。
前記目的を達成するために、本発明によるクラウドストリーミングサーバーは、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャするキャプチャ部と、前記変化領域のサイズ及び前記変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングするエンコーディング部と、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うセンディング部とを含む。
この際、エンコーディング部は、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を圧縮できる。
この際、エンコーディング部は、前記変化領域のサイズが既定の基準値未満である場合、前記PNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディング部は、前記変化領域のサイズが前記基準値以上である場合、前記イメージ性質を考慮して、前記スチールイメージ圧縮技法を選択できる。
この際、エンコーディング部は、前記イメージ性質が自然イメージ(natural image)である場合、前記JPEGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディング部は、前記変化領域のサイズが既定の基準値以上であり、前記イメージ性質が合成イメージ(synthetic image)である場合、前記パレットPNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディング部は、前記イメージ性質が前記自然イメージと前記合成イメージ(synthetic image)とが混合したイメージである場合、前記変化領域のうち前記自然イメージに相当する領域と前記変化領域のうち前記合成イメージに相当する領域を比較し、さらに多い領域に相当するイメージ性質によって前記スチールイメージ圧縮技法を選択できる。
この際、キャプチャ部は、前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャできる。
この際、キャプチャ部は、前記ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、前記フレーム変化が少ない区間で前記変化領域をキャプチャできる。
この際、キャプチャ部は、前記ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、前記フレーム変化が少ない区間を検出できる。
また、本発明によるスチールイメージ基盤クラウドストリーミングサービス方法は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする段階と、前記変化領域のサイズ及び前記変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングする段階と、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う段階とを含む。
この際、エンコーディングする段階は、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を圧縮できる。
この際、エンコーディングする段階は、前記変化領域のサイズが既定の基準値未満である場合、前記PNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディングする段階は、前記変化領域のサイズが前記基準値以上である場合、前記イメージ性質を考慮して、前記スチールイメージ圧縮技法を選択できる。
この際、エンコーディングする段階は、前記イメージ性質が自然イメージ(natural image)である場合、前記JPEGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディングする段階は、前記変化領域のサイズが既定の基準値以上であり、前記イメージ性質が合成イメージ(synthetic image)である場合、前記パレットPNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディングする段階は、前記イメージ性質が前記自然イメージと前記合成イメージ(synthetic image)とが混合したイメージである場合、前記変化領域のうち前記自然イメージに相当する領域と前記変化領域のうち前記合成イメージに相当する領域を比較し、さらに多い領域に相当するイメージ性質によって前記スチールイメージ圧縮技法を選択できる。
この際、キャプチャする段階は、前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャできる。
この際、キャプチャする段階は、前記ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出する段階を含み、前記フレーム変化が少ない区間で前記変化領域をキャプチャできる。
この際、検出する段階は、前記ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、前記フレーム変化が少ない区間を検出できる。
また、本発明によるクラウドストリーミングサービスシステムは、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャし、前記変化領域のサイズ及び前記変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングし、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うクラウドストリーミングサーバーと、前記クラウドストリーミングサーバーから前記クラウドストリーミングサービスに相当するアプリケーション実行結果画面を受信する端末とを含む。
また、本発明の他の実施形態に係るクラウドストリーミングサーバーは、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャするキャプチャ部と、前記変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差のうち一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングするエンコーディング部と、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うセンディング部とを含む。
この際、エンコーディング部は、自然イメージ(natural image)及び合成イメージ(synthetic image)のうちいずれか一つのイメージタイプによって前記スチールイメージ圧縮技法を選択できる。
この際、エンコーディング部は、前記変化領域に相当する前記イメージのカラー個数が既定の基準個数を超過する場合、前記イメージタイプを前記自然イメージとして決定できる。
この際、エンコーディング部は、前記変化領域に相当する前記イメージのカラー個数が前記既定の基準個数以下である場合、前記変化領域に相当する前記イメージ画素値の標準偏差を考慮して、前記イメージタイプを決定できる。
この際、エンコーディング部は、前記変化領域に相当する前記イメージのカラー個数が前記既定の基準個数以下であり、前記変化領域に相当する前記イメージ画素値の標準偏差が既定の基準値以下である場合、前記イメージタイプを前記合成イメージとして決定できる。
この際、エンコーディング部は、前記変化領域に相当する前記イメージ画素値の標準偏差が既定の基準値を超過する場合、前記イメージタイプを前記自然イメージとして決定できる。
この際、エンコーディング部は、前記イメージタイプによってPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を前記スチールイメージエンコーディングできる。
この際、キャプチャ部は、前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャできる。
この際、キャプチャ部は、前記ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、前記フレーム変化が少ない区間で前記変化領域をキャプチャできる。
この際、キャプチャ部は、前記ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、前記フレーム変化が少ない区間を検出できる。
また、本発明によるイメージタイプによるクラウドストリーミングサービス方法は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする段階と、前記変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差のうち一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングする段階と、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う段階とを含む。
この際、エンコーディングする段階は、自然イメージ(natural image)及び合成イメージ(synthetic image)のうちいずれか一つのイメージタイプによって前記スチールイメージ圧縮技法を選択できる。
この際、エンコーディングする段階は、前記変化領域に相当する前記イメージのカラー個数が既定の基準個数を超過する場合、前記イメージタイプを自然イメージとして決定できる。
この際、エンコーディングする段階は、前記変化領域に相当する前記イメージのカラー個数が前記既定の基準個数以下である場合、前記変化領域に相当する前記イメージ画素値の標準偏差を考慮して、前記イメージタイプを決定できる。
この際、エンコーディングする段階は、前記変化領域に相当する前記イメージのカラー個数が前記既定の基準個数以下であり、前記変化領域に相当する前記イメージ画素値の標準偏差が既定の基準値以下である場合、前記イメージタイプを合成イメージとして決定できる。
この際、エンコーディングする段階は、前記変化領域に相当する前記イメージ画素値の標準偏差が既定の基準値を超過する場合、前記イメージタイプを前記自然イメージとして決定できる。
この際、エンコーディングする段階は、前記イメージタイプによってPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を前記スチールイメージエンコーディングできる。
この際、キャプチャする段階は、前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャできる。
また、本発明の他の実施形態に係るクラウドストリーミングサービスシステムは、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャし、前記変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差中の一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングし、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うクラウドストリーミングサーバーと、前記クラウドストリーミングサーバーから前記クラウドストリーミングサービスに相当するアプリケーション実行結果画面を受信する端末とを含む。
また、本発明のさらに他の実施形態に係るクラウドストリーミングサーバーは、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャするキャプチャ部と、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングするエンコーディング部と、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うセンディング部とを含むことを特徴とするクラウドストリーミングサーバーを含む。
この際、エンコーディング部は、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を圧縮できる。
この際、エンコーディング部は、前記クラウドストリーミングサーバー負荷のサイズが既定の基準値未満である場合、前記JPEGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディング部は、前記クラウドストリーミングサーバー負荷のサイズが前記既定の基準値以上である場合、前記ネットワークのデータ処理率を考慮して、前記スチールイメージ圧縮技法を選択できる。
この際、エンコーディング部は、前記ネットワークのデータ処理率が既定の処理率未満である場合、前記PNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディング部は、前記クラウドストリーミングサーバー負荷のサイズが既定の基準値以上であり、前記ネットワークのデータ処理率が前記既定の処理率以上である場合、前記パレットPNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、キャプチャ部は、前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャできる。
この際、キャプチャ部は、前記ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、前記フレーム変化が少ない区間で前記変化領域をキャプチャできる。
この際、キャプチャ部は、前記ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、前記フレーム変化が少ない区間を検出できる。
また、本発明のさらに他の実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする段階と、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングする段階と、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う段階とを含む。
この際、エンコーディングする段階は、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を圧縮できる。
この際、エンコーディングする段階は、前記クラウドストリーミングサーバー負荷のサイズが既定の基準値未満である場合、前記JPEGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディングする段階は、前記クラウドストリーミングサーバー負荷のサイズが前記既定の基準値以上である場合、前記ネットワークのデータ処理率を考慮して、前記スチールイメージ圧縮技法を選択できる。
この際、エンコーディングする段階は、前記ネットワークのデータ処理率が既定の処理率未満である場合、前記PNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、エンコーディングする段階は、前記クラウドストリーミングサーバー負荷のサイズが既定の基準値以上であり、前記ネットワークのデータ処理率が前記既定の処理率以上である場合、前記パレットPNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングできる。
この際、キャプチャする段階は、前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャできる。
この際、キャプチャする段階は、前記ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出する段階を含み、前記フレーム変化が少ない区間で前記変化領域をキャプチャできる。
この際、検出する段階は、前記ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、前記フレーム変化が少ない区間を検出できる。
また、本発明のさらに他の実施形態に係るクラウドストリーミングサービスシステムは、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャし、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングし、スチールイメージエンコーディングされた前記変化領域を前記ユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うクラウドストリーミングサーバーと、前記クラウドストリーミングサーバーから前記クラウドストリーミングサービスに相当するアプリケーション実行結果画面を受信する端末とを含む。
また、本発明の課題解決のためのさらに他の手段として、前述した方法を実行させるために媒体に格納されたコンピュータプログラムを提供する。
本発明によれば、イメージ基盤クラウドストリーミングサービス時にフレーム間の画面変化領域を正確に且つ迅速に検出できる。したがって、クラウドストリーミングサービス時に最小限の領域のみを圧縮して伝送することによって、クラウドストリーミングサービスの効率性が向上し、より経済的に良質のイメージ基盤クラウドストリーミングサービスを提供できる。
また、本発明は、イメージ基盤ストリーミングの圧縮効率を極大化し、クラウドストリーミングサービスの効率性を向上させることができる。特に、同一の帯域を利用して一層速くて且つさらに多いユーザを対象とするイメージ基盤クラウドストリーミングサービスが可能である。
また、本発明は、イメージ基盤クラウドストリーミングサービス時に、フレーム間の画面変化領域を正確に且つ迅速に検出でき、クラウドストリーミングサービスの効率性が向上し、より経済的に良質のイメージ基盤クラウドストリーミングサービスを提供できる。
また、本発明は、イメージ基盤ストリーミング時にイメージタイプを正確に決定し、当該イメージタイプに適した圧縮技法を適用することによって、圧縮効率を極大化し、クラウドストリーミングサービスの効率性を向上させることができる。特に、同一の帯域を利用して一層速くて且つさらに多いユーザを対象とするイメージ基盤クラウドストリーミングサービスが可能である。
また、本発明は、スチールイメージ基盤クラウドストリーミングサービスの提供時に、状況にあうスチールイメージ圧縮技法を使用することによって、イメージの圧縮効率とクラウドストリーミングサービス速度を向上させることができる。
また、本発明は、スチールイメージ基盤クラウドストリーミングサービスの提供時に、クラウドストリーミングサーバー状態に適したスチールイメージ圧縮技法を使用することによって、クラウドストリーミングサーバー負荷に発生し得るサービス遅延を防止し、速くサービスを提供できる。
また、本発明は、スチールイメージ基盤クラウドストリーミングサービスを通じてストリーミング圧縮効率を極大化し、同一の帯域を通じて一層速くて且つさらに多いユーザを対象としてクラウドストリーミングサービスを提供できる。
図1は、本発明の一実施形態に係るクラウドストリーミングサービスシステムを示すブロック図である。 図2は、図1に示されたクラウドストリーミングサーバーの一例を示すブロック図である。 図3は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングシステムを示す図である。 図4は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービスで変化領域をキャプチャする過程を示す図である。 図5は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を示す動作流れ図である。 図6は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を詳細に示す動作流れ図である。 図7は、本発明の他の実施形態に係るクラウドストリーミングサービスシステムを示すブロック図である。 図8は、図7に示されたクラウドストリーミングサーバーの一例を示すブロック図である。 図9は、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法を示す動作流れ図である。 図10は、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法を詳細に示す動作流れ図である。 図11は、本発明のさらに他の実施形態に係るクラウドストリーミングサービスシステムを示すブロック図である。 図12は、図11に示されたクラウドストリーミングサーバーの一例を示すブロック図である。 図13は、本発明の他の実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を示す動作流れ図である。 図14は、本発明の他の実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を詳細に示す動作流れ図である。
以下、本発明を添付の図面を参照して詳しく説明する。ここで、繰り返される説明、本発明の要旨を不要にすることができる公知機能、及び構成に対する詳細な説明は省略する。本発明の実施形態は、当業界において平均的な知識を有する者に本発明をより完全に説明するために提供されるものである。したがって、図面においての要素の形状及びサイズなどは、より明確な説明のために誇張され得る。
以下、本発明による好適な実施形態を添付の図面を参照して詳細に説明する。
図1は、本発明の一実施形態に係るクラウドストリーミングサービスシステムを示すブロック図である。
図1を参照すれば、本発明の一実施形態に係るクラウドストリーミングサービスシステムは、クラウドストリーミングサーバー110、端末装置120−1、…、120−N及びネットワーク130を含む。
クラウドストリーミングサーバー110は、端末装置120−1、…、120−Nからクラウドストリーミングサービス要請を受けてアプリケーションを実行し、アプリケーション実行結果に該当する実行結果画面を端末装置120−1、…、120−Nに提供する。
クラウドストリーミングサービスは、基本的に、ビデオコーデック基盤のクラウドストリーミング技法を適用するので、メニューディスプレイのような静的な画面に対してクラウドストリーミング技法を適用する場合にも、不要に画面全体をキャプチャしてビデオコーデックでエンコーディングする非効率的な方法でクラウドストリーミングサービスを行った。このような問題点を解決するために、本発明は、メニューディスプレイ画面のようにフレーム間の変化が大きくない場合には、クラウドストリーミングサーバーがフレーム間の変化を検出し、検出された変化領域のみをスチールイメージ圧縮技法でエンコーディングするクラウドストリーミングシステムを提供する。
クラウドストリーミングサーバー110は、以前フレームと比較して、変化したフレームに含まれる変化領域をキャプチャする。この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。この際、端末装置120−1、…、120−Nに伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。この際、端末装置120−1、…、120−Nから発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。
また、クラウドストリーミングサーバー110は、変化領域のサイズ及び変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ(stillimage)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相応する変化領域をスチールイメージエンコーディングする。この際、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域を圧縮できる。この際、変化領域のサイズが既定の基準値未満である場合、PNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。この際、変化領域のサイズが既定の基準値以上である場合、イメージ性質を考慮してスチールイメージ圧縮技法を選択できる。また、イメージ性質が自然イメージ(natural image)である場合、JPEGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。この際、変化領域のサイズが既定の基準値以上であり、イメージ性質が合成イメージ(synthetic image)である場合、パレットPNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。この際、イメージ性質が自然イメージと合成イメージ(synthetic image)とが混合したイメージである場合、変化領域のうち自然イメージに相当する領域と変化領域のうち合成イメージに相応する領域を比較し、さらに多い領域に相当するイメージ性質によってスチールイメージ圧縮技法を選択できる。
また、クラウドストリーミングサーバー110は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う。
端末装置120−1、…、120−Nは、クラウドストリーミングサーバー110からクラウドストリーミングサービスに相当するアプリケーション実行結果画面を受信し、ユーザに提供する。
端末装置120−1、…、120−Nは、それぞれ通信網に連結され、クラウドコンピューティングシステムを基盤としてアプリケーションを実行できる装置であって、移動通信端末に限定されるものではなく、すべての情報通信機器、マルチメディア端末、有線端末、固定型端末及びIP(Internet Protocol)端末などの多様な端末であることができる。また、端末装置120−1、…、120−Nは、それぞれ携帯電話、PMP(Portable Multimedia Played)、MID(Mobile Internet Device)、スマートフォン(Smart Phone)、デスクトップ(Desktop)、タブレットパソコン(Tablet PC)、ノートパソコン(Note book)、ネットブック(Net Book)、個人携帯用情報端末(Personal Digital Assistant;PDA)、スマートテレビ及び情報通信機器などのような多様な移動通信仕様を有するモバイル(Mobile)端末であることができる。
ネットワーク130は、クラウドストリーミングサーバー110及び端末装置120−1、…、120−Nの間にデータを伝達する通路を提供するもので、従来利用されるネットワーク及び今後開発可能なネットワークをすべて包括する概念である。例えば、ネットワーク130は、限定された地域内で各種情報装置の通信を提供する有無線近距離通信網、移動体相互間及び移動体と移動体外部との通信を提供する移動通信網、衛星を利用して地球局と地球局間通信を提供する衛星通信網であるか、有無線通信網のうちいずれか一つであるか、二つ以上の結合よりなることができる。なお、ネットワーク130の伝送方式標準は、従来の伝送方式標準に限定されるものではなく、今後開発されるすべての伝送方式標準を含むことができる。また、図1で、クラウドストリーミングサーバー110と端末装置120−1、...、120−Nとの間に使用されるネットワークは、端末装置120−1、...、120−Nの相互間に使用されるネットワークと異なるものであってもよく、同じものであってもよい。
図2は、図1に示されたクラウドストリーミングサーバー110の一例を示すブロック図である。
図2を参照すれば、図1に示されたクラウドストリーミングサーバー110は、キャプチャ部210、エンコーディング部220、センディング部230及び格納部240を含む。
クラウドストリーミングサービスは、基本的に、ビデオコーデック基盤のクラウドストリーミング技法を適用するので、メニューディスプレイのような静的な画面に対してクラウドストリーミング技法を適用する場合にも、不要に画面全体をキャプチャしてビデオコーデックでエンコーディングする非効率的な方法でクラウドストリーミングサービスを行った。このような問題点を解決するために、本発明は、メニューディスプレイ画面のようにフレーム間の変化が大きくない場合には、クラウドストリーミングサーバーがフレーム間の変化を検出し、検出された変化領域のみをスチールイメージ圧縮技法でエンコーディングするクラウドストリーミングサーバー110を提供する。
キャプチャ部210は、以前フレームと比べて変化したフレームに含まれた変化領域をキャプチャする。ビデオコーデック基盤のクラウドストリーミング技法は、アプリケーションが動作する画面に相当するすべてのフレームをキャプチャし、エンコーディングを行うことができる。しかし、アプリケーションが動作する画面上でフレーム間の変化が大きくない場合には、以前フレームと比べて変化したフレームの変化領域のみをキャプチャし、スチールイメージエンコーディングを行い、ユーザの端末装置にディスプレイするとき、変化領域を除いた部分は、同一に示し、変化領域にのみ変化を与える方式でディスプレイできる。
この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比べて変化した領域を変化領域にキャプチャできる。例えば、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して変化した領域がA領域であれば、変化したフレームに相当する画面領域のうちA領域のみを変化領域としてキャプチャできる。このような変化領域は、ユーザの端末装置で入力される入力信号によってサイズや変化領域に相当するイメージの性質が多様である。
この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。
この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。例えば、ユーザの端末装置から発生する入力信号によってアプリケーションのイベント類型が決定され得る。入力信号によってメニュー、オプション、案内窓のように、アプリケーションを行ったとき、フレームの変化が少ない静的なイベントまたは動画再生及びゲームプレイのように、フレームが頻繁に変わる動的なイベントが発生し得る。したがって、ユーザが端末装置を介して発生させる入力信号でイベント類型を感知し、イベント類型が静的なイベントであれば、当該イベントに相当するフレーム全体区間のうちフレーム変化が少ない区間を検出できる。
エンコーディング部220は、変化領域のサイズ及び変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする。例えば、変化領域は、フレームで変化する領域によって非常に小さいサイズからフレーム全体サイズに相当する大きいサイズまで多様にキャプチャされ得る。また、キャプチャされた変化領域のイメージ性質が一つの写真や絵のような自然イメージ(natural image)であるか、複数のイメージが結合して作られた合成イメージ(synthetic image)であることができる。また、キャプチャされた変化領域に自然イメージと合成イメージが同時に存在してもよい。
この際、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域を圧縮できる。PNGスチールイメージ圧縮技法は、エンコーディング時に、イメージの画質は良いが、データのサイズが大きくなって、伝送網の帯域幅が低い場合には、伝送速度が低下することがある。パレットPNGスチールイメージ圧縮技法は、エンコーディング時に、イメージのデータサイズが減少し、伝送速度は保障できるが、8ビットで色相を表現するため、イメージ画質に劣化をもたらすことができる。JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行うとき、システム負荷を多く発生させることができる。
この際、変化領域のサイズが既定の基準値未満である場合、PNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。例えば、変化領域のサイズが既定の基準値より小さいサイズである場合には、イメージのサイズが大きくないため、伝送するデータ量も大きくないため、相対的に画質が良くエンコーディングされ得るPNGスチールイメージ圧縮技法を適用してエンコーディングできる。また、既定の基準値は、クラウドストリーミングサーバー110の処理性能、ネットワーク転送の中も及びサーバーシステム負荷などを考慮してサーバー管理者によって自由に設定され得る。
この際、変化領域のサイズが基準値以上である場合、イメージ性質を考慮してスチールイメージ圧縮技法を選択できる。変化領域のサイズが基準値以上であり、伝送するデータ量が大きい場合には、エンコーディング時に圧縮効率が良いJPEGスチールイメージ圧縮技法やデータサイズを低減できるパレットPNGスチールイメージ圧縮技法を利用してエンコーディングできる。
この際、イメージ性質が自然イメージ(natural image)である場合、JPEGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。JPEGスチールイメージ圧縮技法は、一ピクセル周囲に互いに類似な色が集まっている自然イメージを圧縮したとき、圧縮効率がさらに効果的である。したがって、変化領域のサイズが基準値以上と大きく、変化領域に相当するイメージ性質が自然イメージである場合には、JPEGスチールイメージ圧縮技法で変化領域をエンコーディングできる。
この際、変化領域のサイズが既定の基準値以上であり、イメージ性質が合成イメージ(synthetic image)である場合、パレットPNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。変化領域のサイズが大きいため、圧縮効率が良いJPEGスチールイメージ圧縮技法を使用できるが、合成イメージに対しては、JPEGスチールイメージ圧縮技法も大きい効果を期待しにくいことがある。したがって、このような場合には、データのサイズを低減できるパレットPNGスチールイメージ圧縮技法を利用して変化領域をエンコーディングできる。
この際、イメージ性質が自然イメージと合成イメージ(synthetic image)とが混合したイメージである場合、変化領域のうち自然イメージに相当する領域と変化領域のうち合成イメージに相当する領域を比較し、さらに多い領域に相当するイメージ性質によってスチールイメージ圧縮技法を選択できる。例えば、変化領域のうち自然イメージに相当する領域が合成イメージに相当する領域よりさらに多いと、JPEGスチールイメージ圧縮技法を適用して変化領域をエンコーディングし、変化領域のうち合成イメージに相当する領域が自然イメージに相当する領域よりさらに多いと、パレットPNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。
また、変化領域をエンコーディングするスチールイメージ圧縮技法を決定するために変化領域のサイズ及び変化領域に相当するイメージ性質を考慮する順序は、クラウドストリーミングサービスによって相異に決定され得る。
センディング部230は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う。エンコーディングを完了することによって、圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションが実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
格納部240は、前述したように、本発明の実施形態に係るクラウドストリーミングサービス過程で発生する多様な情報を格納する。
実施形態によって、格納部240は、クラウドストリーミングサーバー110と独立的に構成され、クラウドストリーミングサービスのための機能を支援できる。この際、格納部240は、別途の大容量ストレージで動作でき、動作実行のための制御機能を含む。
また、前述したように構成されるクラウドストリーミングサーバー110は、一つ以上のサーバーで具現され得る。
一方、クラウドストリーミングサーバー110は、メモリが搭載され、その装置内で情報を格納できる。一具現例の場合、メモリは、コンピュータで読み取り可能な媒体である。一具現例で、メモリは、揮発性メモリユニットであることができ、他の具現例の場合、メモリは、揮発性メモリユニットであってもよい。一具現例の場合、格納装置は、コンピュータで読み取り可能な媒体である。多様な異なる具現例で、格納装置は、例えばハードディスク装置、光学ディスク装置、あるいはどんな他の大容量格納装置を含むこともできる。
図3は、スチールイメージ基盤クラウドストリーミングシステムを示す図である。
図3を参照すれば、サーバー300では、ユーザの端末装置から発生するユーザ入力(User Input)に相当するプログラム画面310を実行させて、キャプチャ(Screen Capture)を行うことができる。この際、サーバー300は、クラウドストリーミングサーバーとウェブアプリケーションサーバーを総称するサーバーであることができる。また、プログラム画面310を実行させてキャプチャ(Screen Capture)を行う過程は、図2に示されたキャプチャ部210の動作流れと相当できる。
サーバー300は、キャプチャ(Screen Capture)されたプログラム画面310をスチールイメージ圧縮技法を用いてエンコーディング(Image Encoding)320できる。この際、エンコーディング(Image Encoding)320を行う過程は、図2に示されたエンコーディング部220の動作流れと相当できる。
この際、変化したフレームを以前フレームと比較して、変化した領域のみをキャプチャできる。また、変化した領域のサイズ及び変化した領域に相当するイメージ性質を考慮してPNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を選択し、選択したスチールイメージ圧縮技法で変化した領域をエンコードできる。
その後、サーバー300は、スチールイメージエンコーディングされた変化した領域をユーザの端末装置にストリーミング(Streaming)330し、スチールイメージ基盤のクラウドストリーミングサービスを提供できる。この際、ストリーミング(Streaming)330を行う過程は、図2に示されたセンディング部230の動作流れと相当できる。
その後、ユーザの端末装置では、受信したデータをレンダリング(Image Rendering)340することによって、ユーザ入力(User Input)によってアプリケーションで実行されたプログラム画面310がまるでユーザの端末装置で実行されたもののように、ユーザにディスプレイできる。
図4は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービスで変化領域をキャプチャする過程を示す図である。
図4を参照すれば、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービスは、第1フレーム410と第2フレーム420を比較して、変化した変化領域430のみをキャプチャしてエンコーディングできる。
例えば、第1フレーム410と第2フレーム420でB、C、D及びEの領域をメニューディスプレイと仮定したとき、第1フレーム410では、C領域にカーソルが位置することによって、C領域が他のB、D、及びE領域と区別され得るように陰影処理され、第2フレーム420では、C領域からD領域にカーソルが移動することによって、D領域が他のB、C及びE領域と区別され得るように陰影処理され得る。
この際、第1フレーム410と第2フレーム420を比較したとき、変化した領域であるCとD領域のみを変化領域430としてキャプチャできる。また、変化領域430のサイズと変化領域430に相当するイメージ性質を考慮してスチールイメージ圧縮技法を選択し、選択したスチールイメージ圧縮技法を利用して変化領域430をエンコーディングできる。
このように第1フレーム410と第2フレーム420は、確かに変化があるフレームであって、従来のクラウドストリーミングサービス時には、二つのフレームを含んでフレームレートに相当する数のフレームをすべてキャプチャしてエンコーディングを行わなければならない。しかし、スチールイメージ基盤クラウドストリーミングサービスは、変化領域430のみをキャプチャしてスチールイメージ圧縮技法でエンコーディングするため、不要に多くのフレームとフレームの画面全体をキャプチャする従来のクラウドストリーミングサービス方法よりサービスの効率性を向上させることができる。
図5は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を示す動作流れ図である。
図5を参照すれば、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする(S510)。ビデオコーデック基盤のクラウドストリーミング技法は、アプリケーションが動作する画面に相当するすべてのフレームをキャプチャしてエンコーディングを行うことができる。しかし、アプリケーションが動作する画面上でフレーム間の変化が大きくない場合には、以前フレームと比較して、変化したフレームの変化領域のみをキャプチャしてスチールイメージエンコーディングを行い、ユーザの端末装置にディスプレイするとき、変化領域を除いた部分は、同一に示し、変化領域のみに対して変化を与える方式でディスプレイできる。
この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。例えば、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域がA領域であれば、変化したフレームに相当する画面領域のうちA領域のみを変化領域としてキャプチャできる。このような変化領域は、ユーザの端末装置で入力される入力信号によってサイズや変化領域に相当するイメージの性質が多様である。
この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。
この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。例えば、ユーザの端末装置から発生する入力信号によってアプリケーションのイベント類型が決定され得る。入力信号によってメニュー、オプション、案内窓のように、アプリケーションを実行したとき、フレームの変化が少ない静的なイベント、または動画再生及びゲームプレイのように、フレームが頻繁に変わる動的なイベントが発生し得る。したがって、ユーザが端末装置を介して発生させる入力信号でイベント類型を感知し、イベント類型が静的なイベントであれば、当該イベントに相当するフレーム全体区間のうちフレーム変化が少ない区間を検出できる。
また、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、変化領域のサイズ及び変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする(S520)。例えば、変化領域は、フレームで変化する領域によって非常に小さいサイズからフレーム全体サイズに相当する大きいサイズまで多様にキャプチャされ得る。また、キャプチャされた変化領域のイメージ性質が一つの写真や絵のような自然イメージ(natural image)であるか、複数のイメージが結合して作られた合成イメージ(synthetic image)であることができる。また、キャプチャされた変化領域に自然イメージと合成イメージが同時に存在することもできる。
この際、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域を圧縮できる。PNGスチールイメージ圧縮技法は、エンコーディング時にイメージの画質は良いが、データのサイズが大きくなって、伝送網の帯域幅が低い場合には、伝送速度が低下することがある。パレットPNGスチールイメージ圧縮技法は、エンコーディング時に、イメージのデータサイズが減少し、伝送速度は保障できるが、8ビットで色相を表現するため、イメージ画質に劣化をもたらすことができる。JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行うとき、システム負荷を多く発生させることができる。
この際、変化領域のサイズが既定の基準値未満である場合、PNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。例えば、変化領域のサイズが既定の基準値より小さいサイズである場合には、イメージのサイズが大きくないため、伝送するデータ量も大きくないため、相対的に画質が良くエンコーディングされ得るPNGスチールイメージ圧縮技法を適用してエンコーディングできる。また、既定の基準値は、クラウドストリーミングサーバーの処理性能、ネットワーク伝送速度及びサーバーシステム負荷などを考慮してサーバー管理者によって自由に設定され得る。
この際、変化領域のサイズが基準値以上である場合、イメージ性質を考慮してスチールイメージ圧縮技法を選択できる。変化領域のサイズが基準値以上であり、伝送するデータ量が大きい場合には、エンコーディング時に、圧縮効率が良いJPEGスチールイメージ圧縮技法やデータサイズを低減できるパレットPNGスチールイメージ圧縮技法を利用してエンコーディングできる。
この際、イメージ性質が自然イメージ(natural image)である場合、JPEGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。JPEGスチールイメージ圧縮技法は、一つのピクセル周囲に互いに類似な色が集まっている自然イメージを圧縮したとき、圧縮効率がさらに効果的である。したがって、変化領域のサイズが基準値以上と大きく、変化領域に相当するイメージ性質が自然イメージである場合には、JPEGスチールイメージ圧縮技法で変化領域をエンコーディングできる。
この際、変化領域のサイズが既定の基準値以上であり、イメージ性質が合成イメージ(synthetic image)である場合、パレットPNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。変化領域のサイズが大きいため、圧縮効率が良いJPEGスチールイメージ圧縮技法を使用できるが、合成イメージに対しては、JPEGスチールイメージ圧縮技法も大きい効果を期待しにくいことがある。したがって、このような場合には、データのサイズを低減できるパレットPNGスチールイメージ圧縮技法を利用して変化領域をエンコーディングできる。
この際、イメージ性質が自然イメージと合成イメージ(synthetic image)とが混合したイメージである場合、変化領域のうち自然イメージに相当する領域と変化領域のうち合成イメージに相当する領域を比較し、さらに多い領域に相当するイメージ性質によってスチールイメージ圧縮技法を選択できる。例えば、変化領域のうち自然イメージに相当する領域が合成イメージに相当する領域よりさらに多いと、JPEGスチールイメージ圧縮技法を適用して変化領域をエンコーディングし、変化領域のうち合成イメージに相当する領域が自然イメージに相当する領域よりさらに多いと、パレットPNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングできる。
また、変化領域をエンコーディングするスチールイメージ圧縮技法を決定するために、変化領域のサイズ及び変化領域に相当するイメージ性質を考慮する順序は、クラウドストリーミングサービスによって異なるように決定され得る。
また、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う(S530)。スチールイメージエンコーディングして圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
図6は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を詳細に示す動作流れ図である。
図6を参照すれば、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、まず、クラウドストリーミングサーバーで以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする(S610)。この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。
クラウドストリーミングサーバーは、変化領域のサイズが既定の基準値未満であるか否かを判断する(S615)。
段階(S615)の判断結果、変化領域のサイズが既定の基準値未満であれば、変化領域をPNGスチールイメージ圧縮技法でエンコーディングする(S620)。PNGスチールイメージ圧縮技法は、エンコーディング時に、イメージの画質は良いが、データのサイズが大きくなって、伝送網の帯域幅が低い場合には、伝送速度が低下することがある。したがって、変化領域のイメージのサイズが大きくなく、伝送するデータ量も大きくないため、相対的に画質が良好にエンコーディングされ得るPNGスチールイメージ圧縮技法を適用してエンコーディングできる。
段階(S615)の判断結果、変化領域のサイズが既定の基準値以上なら、変化領域に相当するイメージ性質が自然イメージ(natural image)であるか否かを判断する(S625)。
段階(S625)の判断結果、変化領域に相当するイメージ性質が自然イメージであれば、JPEGスチールイメージ圧縮技法で変化領域をエンコーディングする(S630)。JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に、伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行う時に、システム負荷を多く発生させることができる。また、JPEGスチールイメージ圧縮技法は、多くの絵や写真が結合された合成イメージを圧縮した時より、一ピクセルの周囲に互いに類似な色が集まっている自然イメージを圧縮した時に圧縮効率がさらに効果的である。したがって、変化領域のサイズが基準値以上と大きくて、変化領域に相当するイメージ性質が自然イメージである場合には、JPEGスチールイメージ圧縮技法で変化領域をエンコーディングできる。
段階(S625)の判断結果、変化領域に相当するイメージ性質が合成イメージであれば、パレットPNGスチールイメージ圧縮技法で変化領域をエンコーディングする(S640)。変化領域のサイズが基準値以上と大きくて、変化領域に相当するイメージ性質が合成イメージ(synthetic image)である場合には、データのサイズを低減できるパレットPNGスチールイメージ圧縮技法を利用して変化領域をエンコーディングできる。
その後、クラウドストリーミングサーバーは、スチールイメージエンコーディングされた変化領域をユーザに伝達する(S650)。スチールイメージエンコーディングして圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
図7は、本発明の一実施形態に係るクラウドストリーミングサービスシステムを示すブロック図である。
図7を参照すれば、本発明の一実施形態に係るクラウドストリーミングサービスシステムは、クラウドストリーミングサーバー710、端末装置720−1、…、720−N及びネットワーク730を含む。
クラウドストリーミングサーバー710は、端末装置720−1、…、720−Nからクラウドストリーミングサービス要請を受けてアプリケーションを実行し、アプリケーション実行結果に該当する実行結果画面を端末装置720−1、…、720−Nに提供する。
クラウドストリーミングサービスは、基本的に、ビデオコーデック基盤のクラウドストリーミング技法を適用するため、メニューディスプレイのような静的な画面に対してクラウドストリーミング技法を適用する場合にも、不要に画面全体をキャプチャしてビデオコーデックでエンコーディングする非効率的な方法でクラウドストリーミングサービスを行った。このような問題点を解決するために、本発明は、メニューディスプレイ画面のようにフレーム間の変化が大きくない場合には、クラウドストリーミングサーバーがフレーム間の変化を検出し、検出された変化領域のみをスチールイメージ圧縮技法でエンコーディングするクラウドストリーミングシステムを提供する。
クラウドストリーミングサーバー710は、以前フレームと比較して変化したフレームに含まれた変化領域をキャプチャする。この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して変化した領域を変化領域としてキャプチャできる。この際、端末装置720−1、…、720−Nに伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。この際、端末装置720−1、…、720−Nから発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。
また、クラウドストリーミングサーバー710は、変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差のうち一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコードする。この際、自然イメージ(natural image)及び合成イメージ(synthetic image)のうちいずれか一つのイメージタイプによってスチールイメージ圧縮技法を選択できる。この際、変化領域に相当るイメージのカラー個数が既定の基準個数を超過する場合、イメージタイプを自然イメージとして決定できる。この際、変化領域に相当するイメージのカラー個数が既定の基準個数以下である場合、変化領域に相当するイメージ画素値の標準偏差を考慮してイメージタイプを決定できる。この際、変化領域に相当するイメージのカラー個数が既定の基準個数以下であり、変化領域に相当するイメージ画素値の標準偏差が既定の基準値以下である場合、イメージタイプを合成イメージとして決定できる。この際、変化領域に相当するイメージ画素値の標準偏差が既定の基準値を超過する場合、イメージタイプを自然イメージとして決定できる。この際、イメージタイプによってPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域をスチールイメージエンコーディングできる。
また、クラウドストリーミングサーバー710は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う。
端末装置720−1、…、720−Nは、クラウドストリーミングサーバー710からクラウドストリーミングサービスに相当するアプリケーション実行結果画面を受信し、ユーザに提供する。
端末装置720−1、…、720−Nは、それぞれ通信網に連結され、クラウドコンピューティングシステムを基盤としてアプリケーションを実行できる装置であって、移動通信端末に限定されるものではなく、すべての情報通信機器、マルチメディア端末、有線端末、固定型端末及びIP(Internet Protocol)端末などの多様な端末であることができる。また、端末装置720−1、…、720−Nは、それぞれ携帯電話、PMP(Portable Multimedia Played)、MID(Mobile Internet Device)、スマートフォン(Smart Phone)、デスクトップ(Desktop)、タブレットパソコン(Tablet PC)、ノートパソコン(Note book)、ネットブック(Net Book)、個人携帯用情報端末(Personal Digital Assistant;PDA)、スマートテレビ及び情報通信機器などのような多様な移動通信仕様を有するモバイル(Mobile)端末であることができる。
ネットワーク730は、クラウドストリーミングサーバー710及び端末装置720−1、...、720−Nの間にデータを伝達する通路を提供するものであって、従来利用されるネットワーク及び今後開発可能なネットワークをすべて包括する概念である。例えば、ネットワーク730は、限定された地域内で各種情報装置の通信を提供する有無線近距離通信網、移動体相互間及び移動体と移動体外部との通信を提供する移動通信網、衛星を利用して地球局と地球局間の通信を提供する衛星通信網であるか、有無線通信網のうちいずれか一つであるか、二つ以上の結合よりなることができる。なお、ネットワーク730の伝送方式標準は、従来の伝送方式標準に限定されるものではなく、今後開発されるすべての伝送方式標準を含むことができる。また、図7で、クラウドストリーミングサーバー710と端末装置720−1、...、720−Nとの間に使用されるネットワークは、端末装置720−1、...、720−N相互間に使用されるネットワークと異なってもよく、同一であってもよい。
図8は、図7に示されたクラウドストリーミングサーバーの一例を示すブロック図である。
図8を参照すれば、図7に示されたクラウドストリーミングサーバー710は、キャプチャ部810、エンコーディング部820、センディング部830及び格納部840を含む。
クラウドストリーミングサービスは、基本的にビデオコーデック基盤のクラウドストリーミング技法を適用するため、メニューディスプレイのような静的な画面に対してクラウドストリーミング技法を適用する場合にも、不要に画面全体をキャプチャしてビデオコーデックでエンコーディングする非効率的な方法でクラウドストリーミングサービスを行った。このような問題点を解決するために、本発明は、メニューディスプレイ画面のようにフレーム間の変化が大きくない場合には、クラウドストリーミングサーバーがフレーム間の変化を検出し、検出された変化領域のみをスチールイメージ圧縮技法でエンコーディングするクラウドストリーミングサーバー710を提供する。
キャプチャ部810は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする。ビデオコーデック基盤のクラウドストリーミング技法は、アプリケーションが動作する画面に相当するすべてのフレームをキャプチャしてエンコーディングを行うことができる。しかし、アプリケーションが動作する画面上でフレーム間の変化が大きくない場合には、以前フレームと比較して、変化したフレームの変化領域のみをキャプチャしてスチールイメージエンコーディングを行い、ユーザの端末装置にディスプレイするとき、変化領域を除いた部分は、同一に示し、変化領域のみに対して変化を与える方式でディスプレイできる。
この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。例えば、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域がA領域であれば、変化したフレームに相当する画面領域のうちA領域のみを変化領域としてキャプチャできる。このような変化領域は、ユーザの端末装置で入力される入力信号によってサイズや変化領域に相当するイメージの性質が多様である。
この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。
この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。例えば、ユーザの端末装置から発生する入力信号によってアプリケーションのイベント類型が決定され得る。入力信号によってメニュー、オプション、案内窓のように、アプリケーションを実行したときに、フレームの変化が少ない静的なイベント、または動画再生及びゲームプレイのように、フレームが頻繁に変わる動的なイベントが発生し得る。したがって、ユーザが端末装置を介して発生させる入力信号でイベント類型を感知し、イベント類型が静的なイベントであれば、当該イベントに相当するフレーム全体区間のうちフレーム変化が少ない区間を検出できる。
エンコーディング部820は、変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差のうち一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする。例えば、キャプチャされた変化領域のイメージタイプが一つの写真や絵のようなタイプであるか、または複数のイメージが結合されて作られたイメージであることができるため、イメージタイプを決定し、それぞれのイメージタイプに適したスチールイメージ圧縮技法を選択してスチールイメージエンコーディングを行うことによって、変化領域の圧縮効率を上昇させることができる。
この際、自然イメージ(natural image)及び合成イメージ(synthetic image)のうちいずれか一つのイメージタイプによってスチールイメージ圧縮技法を選択できる。自然イメージは、自然的に発生した客体のイメージを意味できる。例えば、一つの写真や絵のような光学イメージだけでなく、X線と赤外線のような異なる波長のイメージを意味することもできる。合成イメージは、自然イメージとは異なって、コンピュータや人為的手段を通じて生成されるか、合成されたイメージを意味できる。
この際、変化領域に相当するイメージのカラー個数が既定の基準個数を超過する場合、イメージタイプを自然イメージとして決定できる。自然イメージの場合、自然的に発生した客体に対するイメージであることができるため、イメージを表現するカラーに適用された明度と彩度の変化が合成イメージより精巧なことがある。したがって、自然イメージを示すために構成された画素が表現するカラーの個数が合成イメージより多様であるため、変化領域に相当するイメージのカラー個数を考慮して変化領域に相当するイメージタイプを決定できる。例えば、既定の基準個数を10万個に設定したら、変化領域に相当するイメージを構成するカラーの個数が10万個を超過する場合には、イメージタイプを自然イメージとして決定し、10万個以下の場合には、イメージタイプを合成イメージとして決定できる。
この際、変化領域に相当するイメージのカラー個数が既定の基準個数以下である場合、変化領域に相当するイメージ画素値の標準偏差を考慮してイメージタイプを決定できる。画素値の標準偏差は、変化領域に相当するイメージを構成する画素が示すカラー値の散布度であることができる。もし、カラー値の散布度が0であれば、すべてのカラーが同じ値という意味であることができるため、カラー値の散布度、すなわち画素値の標準偏差が小さいということは、イメージを構成するカラーの個数が少ないという意味と相通できる。したがって、このようなイメージ画素値の標準偏差を考慮して変化領域に相当するイメージのイメージタイプを決定できる。この際、変化領域に相当するイメージのカラー個数が既定の基準個数以下であり、変化領域に相当するイメージ画素値の標準偏差が既定の基準値以下である場合、イメージタイプを合成イメージとして決定できる。例えば、イメージのカラー個数に対して既定の基準個数が10万個であり、イメージ画素値の標準偏差に対して既定の基準値がNであると仮定できる。この際、変化領域に相当するイメージを構成するカラーの個数が10万個以下であり、且つ変化領域に相当するイメージを構成する画素が示すカラー値の散布度がNより小さい値である場合、変化領域に相当するイメージのイメージタイプを合成イメージとして決定できる。
この際、変化領域に相当するイメージ画素値の標準偏差が既定の基準値を超過する場合、イメージタイプを自然イメージとして決定できる。例えば、変化領域を相当するイメージ画素値の標準偏差が既定の基準値を超過したら、その分だけ、イメージを構成するカラーの個数が多いという意味であることができる。したがって、イメージ画素値の標準偏差が既定の基準値を超過したら、変化領域に相当するイメージが多いカラーで構成された自然イメージと判断できる。
この際、イメージタイプによってPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域をスチールイメージエンコーディングできる。
PNGスチールイメージ圧縮技法は、エンコーディング時に、イメージの画質は良いが、データのサイズが大きくなって、伝送網の帯域幅が低い場合には、伝送速度が低下する技法であり、JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に、伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行う時に、システム負荷を多く発生させることができる技法である。また、JPEGスチールイメージ圧縮技法は、一ピクセルの周囲に互いに類似な色が集まっている自然イメージを圧縮した時に圧縮効率がさらに効果的である。したがって、変化領域に相当するイメージタイプが自然イメージである場合には、JPEGスチールイメージ圧縮技法で変化領域をエンコーディングできる。
また、変化領域が合成イメージである場合には、JPEGスチールイメージ圧縮技法を使用しても、自然イメージのように圧縮効率を期待しにくいことがある。したがって、変化領域に相当するイメージのイメージタイプが合成イメージである場合には、イメージの画質を高めることができるPNGスチールイメージ圧縮技法を選択し、変化領域のスチールイメージエンコーディングを行うことができる。
また、変化領域が合成イメージであり、変化領域のサイズが大きくて、データが大きい場合には、データのサイズを低減できるパレットPNG(portable network graphics)スチールイメージ圧縮技法を利用して変化領域をエンコーディングできる。パレットPNGスチールイメージ圧縮技法は、エンコーディング時に、イメージのデータサイズが減少し、伝送速度は保障できるが、8ビットで色相を表現するため、イメージ画質に劣化をもたらすことができる。
センディング部830は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う。エンコーディングを完了することによって、圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
格納部840は、前述したように、本発明の実施形態に係るクラウドストリーミングサービス過程で発生する多様な情報を格納する。
実施形態によって、格納部840は、クラウドストリーミングサーバー710と独立的に構成され、クラウドストリーミングサービスのための機能を支援できる。この際、格納部840は、別途の大容量ストレージで動作でき、動作遂行のための制御機能を含む。
また、前述したように構成されるクラウドストリーミングサーバー710は、一つ以上のサーバーで具現され得る。
なお、クラウドストリーミングサーバー710は、メモリが搭載され、その装置内で情報を格納できる。一具現例の場合、メモリは、コンピュータで読み取り可能な媒体である。一具現例で、メモリは、揮発性メモリユニットであってもよく、他の具現例の場合、メモリは、非揮発性メモリユニットであってもよい。一具現例の場合、格納装置は、コンピュータで読み取り可能な媒体である。多様な互いに異なる具現例で、格納装置は、例えば、ハードディスク装置、光学ディスク装置、あるいは他の大容量格納装置を含むこともできる。
図9は、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法を示す動作流れ図である。
図9を参照すれば、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする(S910)。ビデオコーデック基盤のクラウドストリーミング技法は、アプリケーションが動作する画面に相当するすべてのフレームをキャプチャしてエンコーディングを行うことができる。しかし、アプリケーションが動作する画面上でフレーム間の変化が大きくない場合には、以前フレームと比較して、変化したフレームの変化領域のみをキャプチャしてスチールイメージエンコーディングを行い、ユーザの端末装置にディスプレイするとき、変化領域を除いた部分は、同一に示し、変化領域のみに対して変化を与える方式でディスプレイできる。
この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。例えば、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域がA領域であれば、変化したフレームに相当する画面領域のうちA領域のみを変化領域としてキャプチャできる。このような変化領域は、ユーザの端末装置で入力される入力信号によってサイズや変化領域に相当するイメージの性質が多様である。
この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。
この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。例えば、ユーザの端末装置から発生する入力信号によってアプリケーションのイベント類型が決定され得る。入力信号によってメニュー、オプション、案内窓のように、アプリケーションを実行したときにフレームの変化が少ない静的なイベント、または動画再生及びゲームプレイのように、フレームが頻繁に変わる動的なイベントが発生し得る。したがって、ユーザが端末装置を介して発生させる入力信号でイベント類型を感知し、イベント類型が静的なイベントであれば、当該イベントに相当するフレーム全体区間のうちフレーム変化が少ない区間を検出できる。
また、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法は、変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差のうち一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする(S920)。例えば、キャプチャされた変化領域のイメージタイプが一つの写真や絵のようなタイプであるか、または複数のイメージが結合されて作られたイメージであることができるため、イメージタイプを決定し、それぞれのイメージタイプに適したスチールイメージ圧縮技法を選択し、スチールイメージエンコーディングを行うことによって、変化領域の圧縮効率を上昇させることができる。
この際、自然イメージ(natural image)及び合成イメージ(synthetic image)のうちいずれか一つのイメージタイプによってスチールイメージ圧縮技法を選択できる。自然イメージは、自然的に発生した客体のイメージを意味できる。例えば、一つの写真や絵のような光学イメージだけでなく、X線と赤外線のような他の波長のイメージを意味することもできる。合成イメージは、自然イメージとは異なって、コンピュータや人為的手段を通じて生成されるか合成されたイメージを意味できる。
この際、変化領域に相当するイメージのカラー個数が既定の基準個数を超過する場合、イメージタイプを自然イメージとして決定できる。自然イメージの場合、自然的に発生した客体に対するイメージであることができるため、イメージを表現するカラーに適用された明度と彩度の変化が合成イメージより精巧なことがある。したがって、自然イメージを示すために構成された画素が表現するカラーの個数が合成イメージより多様であるため、変化領域に相当するイメージのカラー個数を考慮して変化領域に相当するイメージタイプを決定できる。例えば、既定の基準個数を10万個に設定したら、変化領域に相当するイメージを構成するカラーの個数が10万個を超過する場合には、イメージタイプを自然イメージとして決定し、10万個以下である場合には、イメージタイプを合成イメージとして決定できる。
この際、変化領域に相当するイメージのカラー個数が既定の基準個数以下である場合、変化領域に相当するイメージ画素値の標準偏差を考慮してイメージタイプを決定できる。画素値の標準偏差は、変化領域に相当するイメージを構成する画素が示すカラー値の散布度であることができる。もし、カラー値の散布度が0であれば、すべてのカラーが同じ値という意味であることができるため、カラー値の散布度、すなわち画素値の標準偏差が小さいということは、イメージを構成するカラーの個数が少ないという意味と相通できる。したがって、このようなイメージ画素値の標準偏差を考慮して変化領域に相当するイメージのイメージタイプを決定できる。
この際、変化領域に相当するイメージのカラー個数が既定の基準個数以下であり、変化領域に相当するイメージ画素値の標準偏差が既定の基準値以下である場合、イメージタイプを合成イメージとして決定できる。例えば、イメージのカラー個数に対して既定の基準個数が10万個であり、イメージ画素値の標準偏差に対して既定の基準値がNであると仮定できる。この際、変化領域に相当するイメージを構成するカラーの個数が10万個以下であり、且つ変化領域に相当するイメージを構成する画素が示すカラー値の散布度がNより小さい値である場合、変化領域に相当するイメージのイメージタイプを合成イメージとして決定できる。
この際、変化領域に相当するイメージ画素値の標準偏差が既定の基準値を超過する場合、イメージタイプを自然イメージとして決定できる。例えば、変化領域を相当するイメージ画素値の標準偏差が既定の基準値を超過すると、その分だけ、イメージを構成するカラーの個数が多いという意味であることができる。したがって、イメージ画素値の標準偏差が既定の基準値を超過すると、変化領域に相当するイメージが多いカラーで構成された自然イメージと判断できる。
この際、イメージタイプによってPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域をスチールイメージエンコーディングできる。
PNGスチールイメージ圧縮技法は、エンコーディング時に、イメージの画質は良いが、データのサイズが大きくなるため、伝送網の帯域幅が低い場合には、伝送速度が低下する技法であり、JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に、伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行うとき、システム負荷を多く発生させることができる技法である。また、JPEGスチールイメージ圧縮技法は、一ピクセル周囲に互いに類似な色が集まっている自然イメージを圧縮したとき、圧縮効率がさらに効果的である。したがって、変化領域に相当するイメージタイプが自然イメージである場合には、JPEGスチールイメージ圧縮技法で変化領域をエンコーディングできる。
また、変化領域が合成イメージである場合には、JPEGスチールイメージ圧縮技法を使用しても、自然イメージのように圧縮効率を期待しにくいことがある。したがって、変化領域に相当するイメージのイメージタイプが合成イメージである場合には、イメージの画質を高めることができるPNGスチールイメージ圧縮技法を選択し、変化領域のスチールイメージエンコーディングを行うことができる。
また、変化領域が合成イメージであり、変化領域のサイズが大きくて、データが大きい場合には、データのサイズを低減できるパレットPNG(portable network graphics)スチールイメージ圧縮技法を利用して変化領域をエンコーディングできる。パレットPNGスチールイメージ圧縮技法は、エンコーディング時に、イメージのデータサイズが減少し、伝送速度は保障できるが、8ビットで色相を表現するため、イメージ画質に劣化をもたらすことができる。
また、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う(S930)。エンコーディングを完了することによって、圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
また、図9には図示されていないが、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法は、本発明の一実施形態に係るクラウドストリーミングサービス過程で発生する多様な情報を格納する。
図10は、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法を詳細に示す動作流れ図である。
図10を参照すれば、本発明の一実施形態に係るイメージタイプによるクラウドストリーミングサービス方法は、まず、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする(S1010)。この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。
その後、変化領域に相当するイメージのカラー個数が既定の基準個数を超過するか否かを判断する(S1015)。
段階(S1015)の判断結果、既定の基準個数を超過すると、変化領域のイメージタイプを自然イメージとして判断する(S1020)。
段階(S1015)の判断結果、既定の基準個数を超過しないと、変化領域に相当するイメージの画素値の標準偏差が既定の基準値を超過するか否かを判断する(S1025)。
段階(S1025)の判断結果、既定の基準値を超過すると、変化領域のイメージタイプを自然イメージとして判断する(S1020)。
段階(S1025)の判断結果、既定の基準値を超過しないと、変化領域のイメージタイプを合成イメージとして判断する(S1030)。
その後、所定の変化領域のイメージタイプによってスチールイメージ圧縮技法を選択する(S1040)。この際、PNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を選択できる。また、イメージタイプが合成イメージである場合、パレットPNG(portable network graphics)スチールイメージ圧縮技法を利用することもできる。
その後、選択したスチールイメージ圧縮技法を利用して変化領域をスチールイメージエンコーディングする(S1050)。
その後、スチールイメージエンコーディングされた変化領域をユーザの端末装置に伝達する(S1060)。スチールイメージエンコーディングして圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
図11は、本発明の一実施形態に係るクラウドストリーミングサービスシステムを示すブロック図である。
図11を参照すれば、本発明の一実施形態に係るクラウドストリーミングサービスシステムは、クラウドストリーミングサーバー1110、端末装置1120−1、…、1120−N及びネットワーク1130を含む。
クラウドストリーミングサーバー1110は、端末装置1120−1、…、1120−Nからクラウドストリーミングサービス要請を受けてアプリケーションを実行し、アプリケーション実行結果に該当する実行結果画面を端末装置1120−1、…、1120−Nに提供する。
クラウドストリーミングサービスは、基本的にビデオコーデック基盤のクラウドストリーミング技法を適用するため、メニューディスプレイのような静的な画面に対してクラウドストリーミング技法を適用する場合にも、不要に画面全体をキャプチャしてビデオコーデックでエンコーディングする非効率的な方法でクラウドストリーミングサービスを行った。このような問題点を解決するために、本発明は、メニューディスプレイ画面のようにフレーム間の変化が大きくない場合には、クラウドストリーミングサーバーがフレーム間の変化を検出し、検出された変化領域のみをスチールイメージ圧縮技法でエンコーディングするクラウドストリーミングシステムを提供する。
クラウドストリーミングサーバー1110は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする。この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。この際、端末装置1120−1、…、1120−Nに伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。この際、端末装置1120−1、…、1120−Nから発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。
また、クラウドストリーミングサーバー1110は、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする。この際、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域を圧縮できる。この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値未満である場合、JPEGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。この際、クラウドストリーミングサーバー負荷のサイズが前記既定の基準値以上である場合、ネットワークのデータ処理率を考慮してスチールイメージ圧縮技法を選択できる。この際、ネットワークのデータ処理率が既定の処理率未満である場合、PNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上であり、ネットワークのデータ処理率が既定の処理率以上である場合、パレットPNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。
また、クラウドストリーミングサーバー1110は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う。
端末装置1120−1、…、1120−Nは、クラウドストリーミングサーバー1110からクラウドストリーミングサービスに相当するアプリケーション実行結果画面を受信し、ユーザに提供する。
端末装置1120−1、…、1120−Nは、それぞれ通信網に連結され、クラウドコンピューティングシステム基盤でアプリケーションを実行できる装置であり、移動通信端末機に限定されるものではなく、すべての情報通信機器、マルチメディア端末、有線端末、固定型端末及びIP(Internet Protocol)端末などの多様な端末であることができる。また、端末装置1120−1、…、1120−Nは、それぞれ携帯電話、PMP(Portable Multimedia Played)、MID(Mobile Internet Device)、スマートフォン(Smart Phone)、デスクトップ(Desktop)、タブレットパソコン(Tablet PC)、ノートパソコン(Note book)、ネットブック(Net Book)、個人携帯用情報端末(Personal Digital Assistant;PDA)、スマートテレビ及び情報通信機器などのような多様な移動通信遠慮を有するモバイル(Mobile)端末であることができる。
ネットワーク1130は、クラウドストリーミングサーバー1110及び端末装置1120−1、…、1120−Nの間にデータを伝達する通路を提供するものであって、従来に利用されるネットワーク及び今後開発可能なネットワークをすべて包括する概念である。例えば、ネットワーク1130は、限定された地域内で各種情報装置の通信を提供する有無線近距離通信網、移動体相互間及び移動体と移動体外部との通信を提供する移動通信網、衛星を利用して地球局と地球局間通信を提供する衛星通信網であるか、有無線通信網のうちいずれか一つであるか、二つ以上の結合よりなることができる。なお、ネットワーク1130の伝送方式標準は、従来の伝送方式標準に限定されるものではなく、今後の開発されるすべての伝送方式標準を含む。また、図11で、クラウドストリーミングサーバー1110と端末装置1120−1、…、1120−Nの間に使用されるネットワークは、端末装置1120−1、…、1120−Nの相互間に使用されるネットワークと異なっていてもよく、同一であってもよい。
図12は、図11に示されたクラウドストリーミングサーバーの一例を示すブロック図である。
図12を参照すれば、図11に示されたクラウドストリーミングサーバー1110は、キャプチャ部1210、エンコーディング部1220、センディング部1230及び格納部1240を含む。
クラウドストリーミングサービスは、基本的にビデオコーデック基盤のクラウドストリーミング技法を適用するため、メニューディスプレイのような静的な画面に対してクラウドストリーミング技法を適用する場合にも、不要に画面全体をキャプチャしてビデオコーデックでエンコーディングする非効率的な方法でクラウドストリーミングサービスを行った。このような問題点を解決するために、本発明は、メニューディスプレイ画面のようにフレーム間の変化が大きくない場合には、クラウドストリーミングサーバーがフレーム間の変化を検出し、検出された変化領域のみをスチールイメージ圧縮技法でエンコーディングするクラウドストリーミングサーバー1110を提供する。
キャプチャ部1210は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする。ビデオコーデック基盤のクラウドストリーミング技法は、アプリケーションが動作する画面に相当するすべてのフレームをキャプチャしてエンコーディングを行うことができる。しかし、アプリケーションが動作する画面上でフレーム間の変化が大きくない場合には、以前フレームと比較して、変化したフレームの変化領域のみをキャプチャしてスチールイメージエンコーディングを行い、ユーザの端末装置にディスプレイする時、変化領域を除いた部分は、同一に示し、変化領域のみに対して変化を与える方式でディスプレイできる。
この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。例えば、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域がA領域であれば、変化したフレームに相当する画面領域のうちA領域のみを変化領域としてキャプチャできる。このような変化領域は、ユーザの端末装置で入力される入力信号によってサイズや変化領域に相当するイメージの性質が多様である。
この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。
この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。例えば、ユーザの端末装置から発生する入力信号によってアプリケーションのイベント類型が決定され得る。入力信号によってメニュー、オプション、案内窓のように、アプリケーションを実行したときにフレームの変化が少ない静的なイベント、または動画再生及びゲームプレイのように、フレームが頻繁に変わる動的なイベントが発生し得る。したがって、ユーザが端末装置を介して発生させる入力信号でイベント類型を感知し、イベント類型が静的なイベントであれば、当該イベントに相当するフレーム全体区間のうちフレーム変化が少ない区間を検出できる。
エンコーディング部1220は、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする。
クラウドストリーミングサーバー負荷は、クラウドストリーミングサーバーで所望の効果を得るために、サーバーで取る行動に必要な動作や資源で、例えば、変化領域に該当するスチールイメージをエンコーディングするか、デコーディングするとき、クラウドストリーミングサーバー負荷が大きくなることができる。この際、クラウドストリーミングサーバー負荷の限界は、サーバーを構成するハードウェア機器によって多様に存在でき、もしクラウドストリーミングサーバー負荷の限界を超過する命令が入力されたら、サーバーの性能が低下するボトルネック現象が発生し得る。したがって、クラウドストリーミングサービス時に、クラウドストリーミングサーバー負荷のサイズを考慮して状況によってサーバー負荷が小さいスチールイメージ圧縮技法を選択できる。
また、ネットワークのデータ処理率は、同一のネットワーク帯域を基盤としてデータが処理される比率であって、ネットワークのデータ処理率も、ネットワーク帯域以上のデータ処理が要請される場合に、ボトルネック現象が発生し得る。したがって、ネットワークのデータ処理率を確認し、クラウドストリーミングサービス時に、データサイズを低減できるスチールイメージ圧縮技法を選択し、エンコーディングを行うことができる。
この際、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域を圧縮できる。PNGスチールイメージ圧縮技法は、エンコーディング時に、イメージの画質は良いが、データのサイズが大きくなって、伝送網の帯域幅が低い場合には、伝送速度が低下することがある。パレットPNGスチールイメージ圧縮技法は、エンコーディング時に、イメージのデータサイズが減少し、伝送速度は保障できるが、8ビットで色相を表現するため、イメージ画質に劣化をもたらすことができる。JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に、伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行う時に、システム負荷を多く発生させることができる。
この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値未満である場合、JPEGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。JPEGスチールイメージ圧縮技法は、相対的にPNGスチールイメージ圧縮技法及びパレットスチールイメージ圧縮技法より圧縮率が高いため、サーバーでエンコーディングを行うか、クライアントでデコーディングを行う時に、大きい負荷を発生させることができる。したがって、クラウドストリーミングサーバー負荷が大きくない時、JPEGスチールイメージ圧縮技法を用いて変化領域をエンコーディングできる。また、JPEGスチールイメージ圧縮技法は、圧縮率が良いため、データのサイズを減少させることができるので、ネットワークのデータ処理量が多い時に使用し、ネットワークのデータ処理量が増加することを防止できる。
この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上である場合、ネットワークデータ処理率を考慮してスチールイメージ圧縮技法を選択できる。例えば、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上である場合には、PNGスチールイメージ圧縮技法及びパレットPNGスチールイメージ圧縮技法のうちいずれか一つを選択して変化領域をエンコーディングできる。この際、PNGスチールイメージ圧縮技法とパレットPNGスチールイメージ圧縮技法のうちどの技法を選択するかによって、伝送されるデータのサイズが異なることができるため、ネットワークデータ処理率を考慮してスチールイメージ圧縮技法を選択できる。
この際、ネットワークのデータ処理率が既定の処理率未満である場合、PNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。例えば、PNGスチールイメージ圧縮技法で変化領域をエンコーディングする場合には、ユーザ端末装置に提供される変化領域の画質は良いが、その分だけ、伝送されるデータのサイズが大きくなって、ネットワークの帯域が低い場合、サービス速度が低下することがある。したがって、ネットワークのデータ処理率が低くて、ネットワークが円滑な場合には、サービスの画質を高めることができるPNGスチールイメージ圧縮技法で変化領域をエンコーディングできる。また、PNGスチールイメージ圧縮技法は、エンコーディング及びデコーディング時に、負荷が大きくないため、クラウドストリーミングサーバー負荷が大きい場合には、PNGスチールイメージ圧縮技法でエンコーディングを行い、サーバーの負荷がさらに大きくなることを防止できる。
この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上であり、ネットワークのデータ処理率が既定の処理率以上である場合、パレットPNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。例えば、パレットPNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングする場合には、画質の劣化が発生できるが、伝送されるデータのサイズを低減できる。したがって、ネットワークのデータ処理率が高くて、ボトルネック現象が発生する可能性がある場合には、データのサイズを低減できるパレットPNGスチールイメージ圧縮技法を選択して変化領域をエンコーディングすることによって、データ伝送量がさらに増加することを防止できる。
また、変化領域をエンコーディングするスチールイメージ圧縮技法を決定するために、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率を考慮する順序は、クラウドストリーミングサービスによって異なるように決定され得る。
センディング部1230は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う。エンコーディングを完了することによって、圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
格納部1240は、前述したように、本発明の実施形態に係るクラウドストリーミングサービス過程で発生する多様な情報を格納する。
実施形態によって、格納部1240は、クラウドストリーミングサーバー1110と独立的に構成され、クラウドストリーミングサービスのための機能を支援できる。この際、格納部1240は、別途の大容量ストレージで動作でき、動作遂行のための制御機能を含む。
また、前述したように構成されるクラウドストリーミングサーバー1110は、一つ以上のサーバーで具現され得る。
一方、クラウドストリーミングサーバー1110は、メモリが搭載され、その装置内で情報を格納できる。一具現例の場合、メモリは、コンピュータで読み取り可能な媒体である。一具現例で、メモリは、揮発性メモリユニットであってもよく、他の具現例の場合、メモリは、非揮発性メモリユニットであってもよい。一具現例の場合、格納装置は、コンピュータで読み取り可能な媒体である。多様な互いに異なる具現例で、格納装置は、例えばハードディスク装置、光学ディスク装置、あるいは他の大容量格納装置を含むこともできる。
図13は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を示す動作流れ図である。
図13を参照すれば、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする(S1310)。ビデオコーデック基盤のクラウドストリーミング技法は、アプリケーションが動作する画面に相当するすべてのフレームをキャプチャしてエンコーディングを行うことができる。しかし、アプリケーションが動作する画面上でフレーム間の変化が大きくない場合には、以前フレームと比較して、変化したフレームの変化領域のみをキャプチャしてスチールイメージエンコーディングを行い、ユーザの端末装置にディスプレイする時に、変化領域を除いた部分は同一に示し、変化領域のみに対して変化を与える方式でディスプレイできる。
この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。例えば、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域がA領域であれば、変化したフレームに相当する画面領域のうちA領域のみを変化領域としてキャプチャできる。このような変化領域は、ユーザの端末装置で入力される入力信号によってサイズや変化領域に相当するイメージの性質が多様である。この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。
この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。例えば、ユーザの端末装置から発生する入力信号によってアプリケーションのイベント類型が決定され得る。入力信号によってメニュー、オプション、案内窓のように、アプリケーションを実行したときに、フレームの変化が少ない静的なイベント、または動画再生及びゲームプレイのように、フレームが頻繁に変わる動的なイベントが発生し得る。したがって、ユーザが端末装置を介して発生させる入力信号でイベント類型を感知し、イベント類型が静的なイベントであれば、当該イベントに相当するフレーム全体区間のうちフレーム変化が少ない区間を検出できる。
また、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、クラウドストリーミングサーバー負荷のサイズ及びネットワークデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ(still image)圧縮技法を選択し、スチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングする(S1320)。
クラウドストリーミングサーバー負荷は、クラウドストリーミングサーバーで所望の効果を得るために、サーバーで取る行動に必要な動作や資源で、例えば、変化領域に該当するスチールイメージをエンコーディングするか、デコーディングするとき、クラウドストリーミングサーバー負荷が大きくなることができる。この際、クラウドストリーミングサーバー負荷の限界は、サーバーを構成するハードウェア機器によって多様に存在でき、もしクラウドストリーミングサーバー負荷の限界を超過する命令が入力されると、サーバーの性能が低下するボトルネック現象が発生し得る。したがって、クラウドストリーミングサービス時に、クラウドストリーミングサーバー負荷のサイズを考慮して状況によってサーバー負荷が小さいスチールイメージ圧縮技法を選択できる。
また、ネットワークのデータ処理率は、同一のネットワーク帯域を基盤でデータが処理される比率であって、ネットワークのデータ処理率もネットワーク帯域以上のデータ処理が要請される場合に、ボトルネック現象が発生し得る。したがって、ネットワークのデータ処理率を確認し、クラウドストリーミングサービス時に、データサイズを低減できるスチールイメージ圧縮技法を選択し、エンコーディングを行うことができる。
この際、PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して変化領域を圧縮できる。PNGスチールイメージ圧縮技法は、エンコーディング時に、イメージの画質は良いが、データのサイズが大きくなって、伝送網の帯域幅が低い場合には、伝送速度が低下することがある。パレットPNGスチールイメージ圧縮技法は、エンコーディング時に、イメージのデータサイズが減少し、伝送速度は保障できるが、8ビットで色相を表現するため、イメージ画質に劣化をもたらすことができる。JPEGスチールイメージ圧縮技法は、圧縮効率が良いため、エンコーディング時に、伝送データ量を大幅に低減できるが、圧縮効率が大きいため、エンコーディング及びデコーディングを行うとき、システム負荷を多く発生させることができる。
この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値未満である場合、JPEGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。JPEGスチールイメージ圧縮技法は、相対的にPNGスチールイメージ圧縮技法及びパレットスチールイメージ圧縮技法より圧縮率が高いため、サーバーでエンコーディングを行うか、クライアントでデコーディングを行うとき、大きい負荷を発生させることができる。したがって、クラウドストリーミングサーバー負荷が大きくないとき、JPEGスチールイメージ圧縮技法を用いて変化領域をエンコーディングできる。また、JPEGスチールイメージ圧縮技法は、圧縮率が良いため、データのサイズを減少させることができるので、ネットワークのデータ処理量が多いときに使用し、ネットワークのデータ処理量が増加することを防止できる。
この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上である場合、ネットワークデータ処理率を考慮してスチールイメージ圧縮技法を選択できる。例えば、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上である場合には、PNGスチールイメージ圧縮技法及びパレットPNGスチールイメージ圧縮技法のうちいずれか一つを選択して変化領域をエンコーディングできる。この際、PNGスチールイメージ圧縮技法とパレットPNGスチールイメージ圧縮技法のうちどの技法を選択するかによって、伝送されるデータのサイズが異なることができるため、ネットワークデータ処理率を考慮してスチールイメージ圧縮技法を選択できる。
この際、ネットワークのデータ処理率が既定の処理率未満である場合、PNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。例えば、PNGスチールイメージ圧縮技法で変化領域をエンコーディングする場合には、ユーザ端末装置に提供される変化領域の画質は良いが、その分だけ、伝送されるデータのサイズが大きくなって、ネットワークの帯域が低い場合、サービス速度が低下することがある。したがって、ネットワークのデータ処理率が低くて、ネットワークが円滑な場合には、サービスの画質を高めることができるPNGスチールイメージ圧縮技法で変化領域をエンコーディングできる。また、PNGスチールイメージ圧縮技法は、エンコーディング及びデコーディング時に、負荷が大きくないため、クラウドストリーミングサーバー負荷が大きい場合には、PNGスチールイメージ圧縮技法でエンコーディングを行い、サーバーの負荷がさらに大きくなることを防止できる。
この際、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上であり、ネットワークのデータ処理率が既定の処理率以上である場合、パレットPNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングできる。例えば、パレットPNGスチールイメージ圧縮技法を適用し、変化領域をエンコーディングする場合には、画質の劣化が発生できるが、伝送されるデータのサイズを低減できる。したがって、ネットワークのデータ処理率が高くて、ボトルネックが発生する可能性がある場合には、データのサイズを低減できるパレットPNGスチールイメージ圧縮技法を選択し、変化領域をエンコーディングすることによって、データ伝送量がさらに増加することを防止できる。
また、変化領域をエンコーディングするスチールイメージ圧縮技法を決定するために、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率を考慮する順序は、クラウドストリーミングサービスによって相異に決定され得る。
また、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行う(S1330)。スチールイメージエンコーディングして圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
図14は、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法を詳細に示す動作流れ図である。
図14を参照すれば、本発明の一実施形態に係るスチールイメージ基盤クラウドストリーミングサービス方法は、まず、クラウドストリーミングサーバーで以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャする(S1410)。この際、変化したフレームに相当する画面領域のうち以前フレームに相当する画面領域と比較して、変化した領域を変化領域としてキャプチャできる。この際、ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、フレーム変化が少ない区間で変化領域をキャプチャできる。この際、ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、フレーム変化が少ない区間を検出できる。
クラウドストリーミングサーバーは、クラウドストリーミングサーバー負荷のサイズが既定の基準値未満であるか否かを判断する(S1415)。
段階(S1415)の判断結果、クラウドストリーミングサーバー負荷のサイズが既定の基準値未満であれば、変化領域をJPEGスチールイメージ圧縮技法でエンコーディングする(S1420)。JPEGスチールイメージ圧縮技法は、相対的にPNGスチールイメージ圧縮技法及びパレットスチールイメージ圧縮技法より圧縮率が高いため、サーバーでエンコーディングを行うか、クライアントでデコーディングを行うとき、大きい負荷を発生させることができる。したがって、クラウドストリーミングサーバー負荷が大きくないとき、JPEGスチールイメージ圧縮技法を用いて変化領域をエンコーディングできる。
段階(S1415)の判断結果、クラウドストリーミングサーバー負荷のサイズが既定の基準値以上であれば、ネットワークのデータ処理率が既定の処理率未満であるか否かを判断する(S1425)。
段階(S1425)の判断結果、ネットワークのデータ処理率が既定の処理率未満であれば、PNGスチールイメージ圧縮技法で変化領域をエンコーディングする(S1430)。PNGスチールイメージ圧縮技法で変化領域をエンコーディングする場合には、ユーザ端末装置に提供される変化領域の画質は良いが、その分だけ、伝送されるデータのサイズが大きくなって、ネットワークの帯域が低い場合、サービス速度が低下することがある。したがって、ネットワークのデータ処理率が低くて、ネットワークが円滑な場合には、サービスの画質を高めることができるPNGスチールイメージ圧縮技法で変化領域をエンコーディングできる。
段階(S1425)の判断結果、ネットワークのデータ処理率が既定の処理率以上であれば、パレットPNGスチールイメージ圧縮技法で変化領域をエンコーディングする(S1440)。パレットPNGスチールイメージ圧縮技法を適用して変化領域をエンコーディングする場合には、画質の劣化が発生できるが、伝送されるデータのサイズを低減できる。したがって、ネットワークのデータ処理率が高くて、ボトルネック現象が発生する可能性がある場合には、データのサイズを低減できるパレットPNGスチールイメージ圧縮技法を選択し、変化領域をエンコーディングすることによって、データ伝送量がさらに増加することを防止できる。
その後、クラウドストリーミングサーバーは、スチールイメージエンコーディングされた変化領域をユーザに伝達する(S1450)。スチールイメージエンコーディングして圧縮された変化領域をユーザの端末装置に伝送することによって、ユーザの端末装置でアプリケーションを実行される感じを受けることができるように、クラウドストリーミングサービスを行うことができる。
コンピュータプログラムコマンドとデータを格納するに適したコンピュータで読み取り可能な媒体は、例えば、記録媒体は、ハードディスク、フロッピーディスク及び磁気テープのような磁気媒体(Magnetic Media)、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Video Disk)のような光記録媒体(Optical Media)、フロプチカルディスク(Floptical Disk)のような磁気−光媒体(Magneto−Optical Media)、及びロム(ROM、Read Only Memory)、ラム(RAM、Random Access Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)のような半導体メモリを含む。プロセッサとメモリは、特殊目的の論理回路によって補充されるか、それに統合され得る。プログラム命令の例には、コンパイラーによって作われるもののような機械語コードだけでなく、インタプリターなどを使用してコンピュータによって実行され得る高級言語コードを含む。このようなハードウェア装置は、本発明の動作を行うために一つ以上のソフトウェアモジュールとして作動するように構成され、その逆も同様である。
本明細書は、多数の特定の具現物の詳細事項を含むが、これらは、いかなる発明や請求可能なものの範囲に対しても制限的なものとして理解されてはならず、むしろ特定の発明の特定の実施形態に特有な特徴に対する説明として理解しなければならない。個別的な実施形態の文脈で本明細書に記述された特定の特徴は、単一実施形態で組み合わせて具現されることもできる。反対に、単一実施形態の文脈で記述した多様な特徴も個別的にあるいはいかなる適切な下位組合でも複数の実施形態で具現可能である。さらに、特徴が特定の組合で動作し、初期にそのように請求されたように描写され得るが、請求された組合からの一つ以上の特徴は、一部の場合にその組合から排除され得、その請求された組合は、下位組合や下位組合の変形物に変更され得る。
同様に、特定の手順で図面で動作を描いているが、これは、好適な結果を得るために図示されたその特定の手順や順次な順にそのような動作を実行しなければならないか、すべての図示された動作が実行されなければならないものと理解されてはならない。特定の場合、マルチタスキングと並列プロセッシングが有利であることができる。また、前述した実施形態の多様なシステムコンポネントの分離は、そのような分離をすべての実施形態で要求するものと理解されてはならず、説明したプログラムコンポネントとシステムは、一般的に単一のソフトウェア製品に一緒に統合されるか、多重ソフトウェア製品にパッケージングされ得るという点を理解しなければならない。
なお、本明細書と図面に開示された本発明の実施形態は、理解を助けるために特定の例を提示したものに過ぎず、本発明の範囲を限定しようとするものではない。ここに開示された実施形態以外にも、本発明の技術的思想に基づく他の変形例が実施可能であることは、本発明の属する技術分野における通常の知識を有する者に自明である。
本発明によれば、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャし、変化領域のサイズ及び変化領域に相当するイメージ性質のうちいずれか一つ以上を考慮してスチールイメージ圧縮技法を選択し、選択したスチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングし、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うことができる。また、スチールイメージ基盤クラウドストリーミングサービスを通じてストリーミング圧縮効率を極大化し、同一の帯域を通じて一層速くて且つさらに多いユーザを対象としてクラウドストリーミングサービスを提供できるため、クラウドストリーミングサービス提供者は、帯域拡張が必要な資源を節約しながら、ユーザに効率的なサービスを提供できる。
また、本発明によれば、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャし、変化領域に相当するイメージのカラー個数及びイメージ画素値の標準偏差のうち一つ以上を考慮して決定したイメージタイプによってスチールイメージ(still image)圧縮技法を選択し、選択したスチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングし、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うことができる。また、イメージタイプによるクラウドストリーミングサービスを通じてストリーミング圧縮効率を極大化し、同一の帯域を通じて一層速くて且つさらに多いユーザを対象としてクラウドストリーミングサービスを提供できるため、クラウドストリーミングサービス提供者は、帯域拡張が必要な資源を節約しながら、ユーザに効率的なサービスを提供できる。
また、本発明によれば、以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャし、クラウドストリーミングサーバー負荷のサイズ及びネットワークのデータ処理率のうちいずれか一つ以上を考慮してスチールイメージ圧縮技法を選択し、選択したスチールイメージ圧縮技法を利用して一つのフレームに相当する変化領域をスチールイメージエンコーディングし、スチールイメージエンコーディングされた変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うことができる。また、スチールイメージ基盤クラウドストリーミングサービスを通じてストリーミング圧縮効率を極大化し、同一の帯域を通じて一層速くて且つさらに多いユーザを対象としてクラウドストリーミングサービスを提供できるため、クラウドストリーミングサービス提供者は、帯域拡張が必要な資源を節約しながら、ユーザに効率的なサービスを提供できる。

Claims (8)

  1. 以前フレームと比較して、変化したフレームに含まれた変化領域をキャプチャするキャプチャ部と、
    前記変化領域のサイズ及び前記変化領域のイメージ性質のうちいずれか一つ以上に基づいてスチールイメージ(still image)圧縮技法を選択し、前記スチールイメージ圧縮技法を利用して一つのフレームに相当する前記変化領域をスチールイメージエンコーディングするエンコーディング部と、
    スチールイメージエンコーディングされた前記変化領域をユーザに伝送し、スチールイメージ基盤のクラウドストリーミングサービスを行うセンディング部と、を含み、
    前記イメージ性質は、
    自然イメージ(natural image)及び合成イメージ(synthetic image)のいずれかであり、
    前記エンコーディング部は、
    PNG(portable network graphics)、パレットPNG(portable network graphics)及びJPEG(joint photography experts group)のうちいずれか一つのスチールイメージ圧縮技法を利用して前記変化領域を圧縮し、
    前記変化領域のサイズが既定の基準値以上であり、前記イメージ性質が合成イメージ(synthetic image)である場合、前記パレットPNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングし、
    前記変化領域に相当するイメージ画素値の標準偏差を考慮して変化領域に相当するイメージのイメージタイプを決定し、
    前記変化領域に相当するイメージのカラー個数が既定の基準個数以下であり、変化領域に相当するイメージ画素値の標準偏差が既定の基準値以下である場合、イメージタイプを合成イメージとして決定することを特徴とするクラウドストリーミングサーバー。
  2. 前記エンコーディング部は、
    前記変化領域のサイズが既定の基準値未満である場合、前記PNGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングすることを特徴とする請求項に記載のクラウドストリーミングサーバー。
  3. 前記エンコーディング部は、
    前記変化領域のサイズが前記基準値以上である場合、前記イメージ性質に基づいて、前記スチールイメージ圧縮技法を選択することを特徴とする請求項に記載のクラウドストリーミングサーバー。
  4. 前記エンコーディング部は、
    前記イメージ性質が自然イメージ(natural image)である場合、前記JPEGスチールイメージ圧縮技法を適用し、前記変化領域をエンコーディングすることを特徴とする請求項に記載のクラウドストリーミングサーバー。
  5. 前記エンコーディング部は、
    前記イメージ性質が前記自然イメージと前記合成イメージ(synthetic image)とが混合したイメージである場合、前記変化領域のうち前記自然イメージに相当する領域と前記変化領域のうち前記合成イメージに相当する領域を比較し、さらに多い領域に相当するイメージ性質によって前記スチールイメージ圧縮技法を選択することを特徴とする請求項に記載のクラウドストリーミングサーバー。
  6. 前記キャプチャ部は、
    前記変化したフレームに相当する画面領域のうち前記以前フレームに相当する画面領域と比較して、変化した領域を前記変化領域としてキャプチャすることを特徴とする請求項1に記載のクラウドストリーミングサーバー。
  7. 前記キャプチャ部は、
    前記ユーザの端末装置に伝送されるフレーム全体区間のうちフレーム変化が少ない区間を検出し、前記フレーム変化が少ない区間で前記変化領域をキャプチャすることを特徴とする請求項に記載のクラウドストリーミングサーバー。
  8. 前記キャプチャ部は、
    前記ユーザの端末装置から発生するアプリケーションのイベント類型を感知し、前記フレーム変化が少ない区間を検出することを特徴とする請求項に記載のクラウドストリーミングサーバー。
JP2017504729A 2014-07-30 2015-07-06 クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置 Active JP6527579B2 (ja)

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
KR10-2014-0097322 2014-07-30
KR20140097322 2014-07-30
KR1020140110551A KR102199270B1 (ko) 2014-07-30 2014-08-25 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR10-2014-0110551 2014-08-25
KR1020140139556A KR102273143B1 (ko) 2014-10-16 2014-10-16 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR10-2014-0139556 2014-10-16
KR1020140156004A KR102232899B1 (ko) 2014-07-30 2014-11-11 클라우드 스트리밍 서비스 시스템, 이미지 타입에 따른 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR10-2014-0156004 2014-11-11
PCT/KR2015/006952 WO2016017953A1 (ko) 2014-07-30 2015-07-06 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Publications (2)

Publication Number Publication Date
JP2017531343A JP2017531343A (ja) 2017-10-19
JP6527579B2 true JP6527579B2 (ja) 2019-06-05

Family

ID=58639067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017504729A Active JP6527579B2 (ja) 2014-07-30 2015-07-06 クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置

Country Status (4)

Country Link
US (1) US10462200B2 (ja)
EP (1) EP3177023B1 (ja)
JP (1) JP6527579B2 (ja)
CN (1) CN106664439B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3683692A1 (en) * 2014-02-07 2020-07-22 SK Planet Co., Ltd. Cloud streaming service system, and method and apparatus for providing cloud streaming service
EP3171601A4 (en) * 2014-07-14 2018-05-16 SK TechX Co., Ltd. Cloud streaming service system, data compressing method for preventing memory bottlenecking, and device for same
WO2019245204A1 (ko) 2018-06-19 2019-12-26 삼성전자 주식회사 영상 압축을 수행하는 전자 장치 및 전자 장치의 동작 방법
US11695944B2 (en) * 2021-09-08 2023-07-04 Omnivision Technologies, Inc. Video coding device and method

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2486475A (en) * 1945-10-20 1949-11-01 Beryllium Corp Method of producing metallic beryllium and alloys of beryllium
JPS61274485A (ja) * 1985-05-29 1986-12-04 Matsushita Electric Works Ltd 画像伝送方式
US5983251A (en) * 1993-09-08 1999-11-09 Idt, Inc. Method and apparatus for data analysis
US6167155A (en) * 1997-07-28 2000-12-26 Physical Optics Corporation Method of isomorphic singular manifold projection and still/video imagery compression
JP3528548B2 (ja) * 1997-11-18 2004-05-17 トヨタ自動車株式会社 車両用動画像処理方法および車両用動画像処理装置
SE513353C2 (sv) * 1998-10-21 2000-08-28 Ericsson Telefon Ab L M Partiell hämtning av bilder i den komprimerade domänen
US20050210145A1 (en) * 2000-07-24 2005-09-22 Vivcom, Inc. Delivering and processing multimedia bookmark
WO2003010727A1 (en) * 2001-07-25 2003-02-06 Vislog Technology Pte Ltd. Method and apparatus for processing image data
US20030031371A1 (en) * 2001-08-02 2003-02-13 Shinichi Kato Image encoding apparatus and image decoding apparatus
US7106908B2 (en) * 2002-03-12 2006-09-12 Nokia Corporation Method and apparatus for selecting a format in which to re-encode a quantized image
US6980695B2 (en) * 2002-06-28 2005-12-27 Microsoft Corporation Rate allocation for mixed content video
US7016547B1 (en) * 2002-06-28 2006-03-21 Microsoft Corporation Adaptive entropy encoding/decoding for screen capture content
DE10310023A1 (de) 2003-02-28 2004-09-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Anordnung zur Videocodierung, wobei die Videocodierung Texturanalyse und Textursynthese umfasst, sowie ein entsprechendes Computerprogramm und ein entsprechendes computerlesbares Speichermedium
JP4176663B2 (ja) * 2003-06-19 2008-11-05 松下電器産業株式会社 送信装置、画像処理システム、画像処理方法、プログラム、及び記録媒体
WO2004114674A1 (ja) 2003-06-19 2004-12-29 Matsushita Electric Industrial Co., Ltd. 送信装置、画像処理システム、画像処理方法、プログラム、及び記録媒体
KR100556911B1 (ko) * 2003-12-05 2006-03-03 엘지전자 주식회사 무선 동영상 스트리밍 서비스를 위한 동영상 데이터의 구조
TWI260511B (en) 2004-03-26 2006-08-21 Arcadyan Technology Corp Method and apparatus for displaying multimedia information
US7558428B2 (en) 2004-09-13 2009-07-07 Microsoft Corporation Accelerated video encoding using a graphics processing unit
US20070014369A1 (en) * 2005-07-12 2007-01-18 John Santhoff Ultra-wideband communications system and method
JP5046527B2 (ja) * 2006-02-14 2012-10-10 カシオ計算機株式会社 コンピュータシステムのサーバ装置及びサーバ制御プログラム
JP4844275B2 (ja) 2006-08-01 2011-12-28 カシオ計算機株式会社 サーバ装置、サーバベースコンピューティングシステムおよびプログラム
EP2245536B1 (en) * 2008-01-27 2018-10-24 Citrix Systems, Inc. Methods and systems for remoting three dimensional graphics
JP4879937B2 (ja) 2008-06-23 2012-02-22 シャープ株式会社 動画像記録装置、動画像再生装置、動画像削除装置、動画像記録方法、動画像再生方法、動画像削除方法及びそれら方法を実行可能なプログラム
JP5032419B2 (ja) * 2008-08-27 2012-09-26 株式会社東芝 サーバ、画面送信方法およびコンピュータプログラム
JP2010119030A (ja) 2008-11-14 2010-05-27 Toshiba Corp 通信装置、通信方法および通信プログラム
US8532437B2 (en) * 2009-05-18 2013-09-10 Citrix Systems, Inc. Systems and methods for block recomposition for compound image compression
JP5520704B2 (ja) * 2009-07-03 2014-06-11 パナソニック株式会社 撮像装置、閃光判定方法およびプログラム
US20110242112A1 (en) * 2010-03-31 2011-10-06 Renesas Technology Corp. Display device and driving circuit thereof
CN101883281B (zh) * 2010-06-13 2013-12-25 北京北大众志微系统科技有限责任公司 一种远程显示系统的静态图像编码方法及系统
JP5529685B2 (ja) * 2010-09-03 2014-06-25 パナソニック株式会社 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
JP5198543B2 (ja) * 2010-11-19 2013-05-15 株式会社東芝 画像処理方法、画像処理装置及び画像処理プログラム
GB2486475A (en) * 2010-12-16 2012-06-20 Norland Technology Ltd Encoding, transmitting and displaying a sequence of images using a difference image
KR101312268B1 (ko) 2010-12-24 2013-09-25 주식회사 케이티 클라우드 컴퓨팅 환경에서 게임 서비스 제공 방법, 클라우드 컴퓨팅 서버, 및 클라우드 컴퓨팅 시스템
US9506447B2 (en) * 2011-01-31 2016-11-29 Imagineering, Inc. Signal processing device
KR101668282B1 (ko) 2011-07-22 2016-10-24 엔트릭스 주식회사 화면 가상화 기반 어플리케이션 구동 시스템 및 방법
CN103067428B (zh) * 2011-10-21 2016-08-10 华为技术有限公司 基站、服务处理方法和云计算系统
CN102497489B (zh) * 2011-12-05 2015-11-18 优视科技有限公司 图像压缩方法、图像压缩装置和移动终端
JP2013126185A (ja) * 2011-12-15 2013-06-24 Fujitsu Ltd 情報処理装置、画像送信方法及び画像送信プログラム
JP2013131990A (ja) 2011-12-22 2013-07-04 Ricoh Co Ltd 情報処理装置及びプログラム
US9798508B2 (en) * 2012-07-16 2017-10-24 Microsoft Technology Licensing, Llc Implementing previously rendered frame buffer information in a customized GUI display
KR101367777B1 (ko) * 2012-08-22 2014-03-06 주식회사 핀그램 적응 이미지 압축시스템 및 그 방법
KR101966921B1 (ko) 2012-09-12 2019-08-27 삼성전자주식회사 멀티 세션 관리 방법 및 장치
KR101720654B1 (ko) 2012-09-14 2017-03-28 한국전자통신연구원 가상화 시스템 및 가상화 서비스 제공방법
KR101430930B1 (ko) 2012-12-12 2014-09-25 에스케이플래닛 주식회사 클라우드 스트리밍 기반의 게임 제공 방법, 시스템, 클라이언트 단말기 및 서비스장치
KR101480214B1 (ko) 2013-01-18 2015-01-08 한국과학기술원 Dom 변이 이벤트 기반 웹 화면 스트리밍 방법 및 시스템
US8903186B2 (en) * 2013-02-28 2014-12-02 Facebook, Inc. Methods and systems for differentiating synthetic and non-synthetic images
US9235905B2 (en) * 2013-03-13 2016-01-12 Ologn Technologies Ag Efficient screen image transfer
US9609338B2 (en) * 2013-10-25 2017-03-28 Microsoft Technology Licensing, Llc Layered video encoding and decoding
KR20140027040A (ko) 2013-12-30 2014-03-06 주식회사 큐램 적응 이미지 압축시스템 및 그 방법
JP6617428B2 (ja) * 2015-03-30 2019-12-11 株式会社ニコン 電子機器

Also Published As

Publication number Publication date
EP3177023A4 (en) 2018-07-04
US10462200B2 (en) 2019-10-29
EP3177023A1 (en) 2017-06-07
JP2017531343A (ja) 2017-10-19
CN106664439A (zh) 2017-05-10
CN106664439B (zh) 2020-04-03
EP3177023B1 (en) 2020-02-05
US20170134454A1 (en) 2017-05-11

Similar Documents

Publication Publication Date Title
US10283091B2 (en) Buffer optimization
Lu et al. Virtualized screen: A third element for cloud–mobile convergence
KR102027410B1 (ko) 계층화된 신호 품질 계층에서의 재구성 데이터의 송신
JP6527579B2 (ja) クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置
KR102384174B1 (ko) 클라우드 스트리밍 서비스 시스템, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
JP2017529716A (ja) クラウドストリーミングサービスシステム、スチールイメージ圧縮技法を利用したクラウドストリーミングサービス方法及びそのための装置
KR102247892B1 (ko) 클라우드 스트리밍 서비스 시스템, 어플리케이션 코드를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102271721B1 (ko) 클라우드 스트리밍 서비스 시스템, 단말 성능을 고려한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102247887B1 (ko) 클라우드 스트리밍 서비스 시스템, 소스 정보를 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR20160087225A (ko) 클라우드 스트리밍 서비스 시스템, 멀티뷰 화면을 제공하기 위한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102313533B1 (ko) 클라우드 스트리밍 서비스 시스템, 전체 화면 변화를 고려한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102273143B1 (ko) 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102313516B1 (ko) 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102225609B1 (ko) 클라우드 스트리밍 서비스 시스템, 전체 화면 변화를 고려한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
US11785281B2 (en) System and method for decimation of image data for multiviewer display
KR102225610B1 (ko) 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102272357B1 (ko) 클라우드 스트리밍 서비스 시스템, 드로잉 레이어 분리를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102273142B1 (ko) 클라우드 스트리밍 서비스 시스템, 어플리케이션 코드 변환을 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102247889B1 (ko) 클라우드 스트리밍 서비스 시스템, 시스템 자원을 절약하기 위한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20171218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190306

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190510

R150 Certificate of patent or registration of utility model

Ref document number: 6527579

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250