JP2020524450A - 多チャネル映像のための伝送システム及びその制御方法、多チャネル映像再生方法及びその装置 - Google Patents

多チャネル映像のための伝送システム及びその制御方法、多チャネル映像再生方法及びその装置 Download PDF

Info

Publication number
JP2020524450A
JP2020524450A JP2019569808A JP2019569808A JP2020524450A JP 2020524450 A JP2020524450 A JP 2020524450A JP 2019569808 A JP2019569808 A JP 2019569808A JP 2019569808 A JP2019569808 A JP 2019569808A JP 2020524450 A JP2020524450 A JP 2020524450A
Authority
JP
Japan
Prior art keywords
channel
video
time
image
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019569808A
Other languages
English (en)
Inventor
ホンス ジョン
ホンス ジョン
サンユン イ
サンユン イ
キム ジュンホ
ジュンホ キム
ソンファン パク
ソンファン パク
Original Assignee
4ディーリプレー コリア,インコーポレイテッド
4ディーリプレー コリア,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from PCT/KR2017/006869 external-priority patent/WO2019004498A1/ko
Priority claimed from KR1020170170453A external-priority patent/KR101973190B1/ko
Application filed by 4ディーリプレー コリア,インコーポレイテッド, 4ディーリプレー コリア,インコーポレイテッド filed Critical 4ディーリプレー コリア,インコーポレイテッド
Publication of JP2020524450A publication Critical patent/JP2020524450A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/242Synchronization processes, e.g. processing of PCR [Program Clock References]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2387Stream processing in response to a playback request from an end-user, e.g. for trick-play
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2389Multiplex stream processing, e.g. multiplex stream encrypting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42224Touch pad or touch panel provided on the remote control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19645Multiple cameras, each having view on one of a plurality of scenes, e.g. multiple cameras for multi-room surveillance or for tracking an object by view hand-over

Abstract

複数のカメラを介して、所定時間に渡り被写体を撮影するように制御し、複数のカメラに対応する多チャネル映像を、通信網を介して伝送するカメラ制御部、及びカメラ制御部から伝送された多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存し、ユーザ端末の要請により、グルーピングされた映像を、通信網を介して伝送する映像サーバを含む多チャネル映像のための伝送システムである。

Description

本発明は、多チャネル映像のための伝送システム及びその制御方法、多チャネル映像再生方法及びその装置に係わる。
最近、大衆は、モバイルを利用した動画再生を好む。そのような好みに歩調を合わせ、企業は、放送プラットホーム、例えば、V−app、AfreecaTV、Youtube Liveをサービスしている。そのようなプラットホームを視聴する大衆は、1つの視点、すなわち、1つのカメラで撮影した映像を視聴している。しかし、最近、視聴者は、所望空間で撮影された映像を視聴することを願う。
現在、複数のカメラで1つの被写体を多様なチャネルで撮影して獲得した複数の映像を幾何学的に校正、合成し、多チャネルの映像をユーザに提供する映像サービスが公開されている。そのような多チャネル映像は、高画質の概念を超越する臨場感あふれる映像を提供し、これを介してユーザは、メディアに没入感をさらに感じることになり、広告、教育、医療、国防、娯楽などの分野において、映像情報伝達効果を大きく高めることができる。
従来の多チャネル映像においては、チャネル/時間スイッチングが、多チャネル映像制作時、既定の併合方式によって単純に再生される次元である。すなわち、従来には、複数台のカメラから複数個のフレームを獲得し、獲得したフレームのうち一部を選別した後、それらフレームを併合し、1つのチャネルスイッチング映像を制作した。そのようなチャネルスイッチング映像は、映像制作時、制作者が既定チャネルのフレームを単純併合したものであるので、当該映像ファイルを再生すれば、併合されたフレームが、単一のチャネル移動効果を示すチャネルスイッチング効果を出すものであった。そのような従来技術の多チャネル映像によれば、ユーザは、あらかじめ制作されたチャネルスイッチング効果を単純視聴することに過ぎず、視聴者が時刻スイッチングまたはチャネルスイッチングを手動で操作し、再生を、所望視点にチャネルを回しながら、映像を視聴することは不可能であった。
また、多様な空間において、映像撮影のために、多チャネル技法またはカメラ同期化技法、映像の補正方法及び伝送方法が必要である。
本実施形態は、多チャネル映像のための伝送システム及びその制御方法、そのための多チャネル映像再生方法及びその装置を提供することを目的とする。
一実施形態による、多チャネル映像のための伝送システムは、複数のカメラを介して、所定時間に渡り被写体を撮影するように制御し、前記複数のカメラに対応する多チャネル映像を、通信網を介して伝送するカメラ制御部と、前記カメラ制御部から伝送された前記多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存し、前記ユーザ端末の要請により、前記保存されたグルーピングされた映像を、前記通信網を介して伝送する映像サーバと、を含む。
他の実施形態による、多チャネル映像のための伝送システムの制御方法は、複数のカメラを介して、所定時間に渡り被写体を撮影するように制御する段階と、前記複数のカメラに対応する多チャネル映像を、通信網を介して伝送する段階と、前記カメラ制御部から伝送された前記多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存する段階と、前記ユーザ端末の要請により、前記保存されたグルーピングされた映像を、前記通信網を介して伝送する段階と、を含む。
さらに他の実施形態による、多チャネル映像の再生のための再生装置において、多チャネル映像が保存されたメモリと、前記多チャネル映像に相応する第1チャネルないし第Mチャネルのうち所定のチャネルでイベント要請を受信し、前記多チャネル映像に対し、前記第1チャネルから順次にデコーディングを行い、前記イベントが発生したチャネルから前記イベントの発生方向に、前記デコーディングされた映像に対してレンダリングを行い、前記レンダリングされた映像を再生するように制御するプロセッサと、を含んでもよい。
さらに他の実施形態による、多チャネル映像をユーザ端末で再生するための多チャネル映像再生方法は、サーバから、前記多チャネル映像を受信する段階と、受信された多チャネル映像においてあらかじめ設定された特定視点で、前記多チャネル映像を再生する段階と、ユーザから、チャネル制御イベント、時間制御イベント、チャネル及び時間制御イベント、画面拡大(zoom−in)イベント、客体追跡(object tracking)、微細倍速、並びに区間反復のうち少なくとも1つのイベントを受信する段階と、前記イベントにより、前記多チャネル映像のチャネルまたは時間を移動させながら、前記多チャネル映像を再生する段階と、を含む。
さらに他の実施形態による、多チャネル映像をユーザ端末で再生するための多チャネル映像再生方法は、サーバにストリーミング要請信号を伝送する段階と、複数の単チャネル映像、及び複数のチャネルスイッチング映像のうち1つの映像を、前記サーバから選択的に受信する段階と、ユーザ端末から再生要請信号を受信するとき、受信された単チャネル映像またはチャネルスイッチング映像を再生する段階と、を含み、前記チャネル映像及びチャネルスイッチング映像のうちサーバですでに定められた映像を受信するか、あるいは、前記サーバにストリーミング要請信号を伝送する段階において、ユーザ端末が選択した映像を受信することを特徴とする。
本実施形態による、多チャネル映像のための伝送システムは、時間の流れによる空間移動時、多チャネル映像のデータ伝送の利便性を高め、処理速度を低減させることができる。
一実施形態による、多チャネル映像のための伝送システム100の概略図である。 多チャネル映像を生成する例示図である。 他の実施形態による、多チャネル映像のための伝送システムの制御方法について説明するためのフローチャートである。 図1に図示されたカメラ制御部110の概略図である。 図1に図示された映像サーバ200の概略図である。 さらに他の実施形態による、多チャネル映像をグループピングすることについて説明するための例示図である。 さらに他の実施形態による、多チャネル映像をグループピングすることについて説明するための例示図である。 さらに他の実施形態による、多チャネル映像をグループピングすることについて説明するための例示図である。 さらに他の実施形態による、多チャネル映像をグループピングすることについて説明するための例示図である。 さらに他の実施形態による、イベント発生によるデコーディング方法及びレンダリング方法について説明するための例示図である。 さらに他の実施形態による、イベント発生によるデコーディング方法及びレンダリング方法について説明するための例示図である。 さらに他の実施形態による、リアルタイムストリーミングを具現するための映像サーバ200とユーザ端末150との間の信号流れ図である。 さらに他の実施形態による、多チャネル映像生成方法を図示したフローチャートである。 複数台のカメラで受信された各映像をフレームに並べて概念的に示した図面である。 複数の映像をエンコーディングして生成された複数の単チャネル映像を概念的に示した図面である。 複数の単チャネル映像を合成して生成した1つの多チャネル映像を概念的に示した図面である。 さらに他の実施形態による多チャネル映像再生方法を図示したフローチャートである。 さらに他の実施形態による多チャネル映像生成方法を図示したフローチャートである。 複数の映像をエンコーディングして生成された複数の単チャネル映像を概念的に示した図面である。 チャネルスイッチング映像を概念的に示した図面である。 さらに他の実施形態による多チャネル映像再生方法を図示したフローチャートである。 さらに他の実施形態による、多チャネル映像の再生シナリオを図示した概念図である。 さらに他の実施形態による、多チャネル映像の他の再生シナリオを図示した概念図である。
本実施形態で使用される用語は、本実施形態での機能を考慮しながら、可能な限り、現在汎用される一般的な用語を選択したが、それは、当技術分野の当業者の意図、判例、または新たな技術の出現などによっても異なる。特定の場合は、任意に選定された用語もあり、その場合、当該実施形態の説明部分において、詳細にその意味を記載する。従って、本実施形態で使用される用語は、単純な用語の名称ではなく、その用語が有する意味と、本実施形態の全般にわたる内容とを基に定義されなければならない。
本実施形態に係わる説明において、ある部分が他の部分と連結されているとするとき、それは、直接に連結されている場合だけではなく、その中間に、他の構成要素を挟んで電気的に連結されている場合も含む。また、ある部分がある構成要素を含むとするとき、それは、特別に反対となる記載がない限り、他の構成要素を除くものではなく、他の構成要素をさらに含んでもよいということを意味する。また、本実施形態に記載された「…部」の用語は、少なくとも1つの機能や動作を処理する単位を意味し、それは、ハードウェアまたはソフトウェアによっても具現され、ハードウェアとソフトウェアとの結合によっても具現される。
本実施形態で使用される「構成される」または「含む」というような用語は、明細書上に記載されたさまざまな構成要素、またはさまざまな段階を必ずしもいずれも含むものであると解釈されるものではなく、そのうち一部構成要素または一部段階は、含まれず、または追加的な構成要素または段階をさらに含んでもよいとも解釈されなければならない。
下記実施形態に係わる説明は、権利範囲を制限するものと解釈されるものではなく、当該技術分野の当業者が容易に類推することができるところは、本実施形態の権利範囲に属するものであると解釈されなければならないのである。以下、添付された図面を参照し、ただ例示のための実施形態について詳細に説明する。
図1は、一実施形態による、多チャネル映像のための伝送システム100の概略図である。
図1を参照すれば、伝送システム100は、複数のカメラ111ないし113、複数のカメラ111ないし113を制御し、複数のカメラ111ないし113から撮影された多チャネル映像を処理して伝送するカメラ制御部110、カメラ制御部110から伝送された多チャネル映像を処理して保存する映像サーバ200を含む。映像サーバ200は、ユーザ端末150から多チャネル映像に対する要請、スイッチング映像に対する要請、特定イベントに対する要請を受信し、保存された多チャネル映像をユーザ端末150に伝送する。ここで、ユーザ端末150は、TV(television)、携帯電話、スマートフォン(smart phone)、ノート型パソコン(laptop computer)、タブレットPC(personal computer)、電子ブック端末機、デジタル放送用端末機、PDA(personal digital assistant)、PMP(portable multimedia player)、ナビゲーション、MP3プレーヤ、デジタルカメラなどを含んでもよいが、それらに限定されるものではない。
映像サーバ200は、映像処理装置130及び映像保存部140を含んでもよい。
図2に図示されているように、特定被写体を撮影するために、複数のカメラ1ないしカメラNが配置されもする。被写体の周囲にアレイに配列された複数のカメラで、被写体を多角度で撮影した複数の映像を受信する。複数のカメラ配列方法は、例えば、任意のカメラを基準に、N個のカメラを実質的に同一平面上に一列に配置するものでもある。その場合、被写体を基準に、一定距離離隔された円周上に、N台のカメラを順次に配置することもでき、中央に配置されたカメラを基準に、両側に配置された2台のカメラと被写体との距離を一致させ、残りのカメラは、被写体との距離を異なるようにすることもできる。また、被写体は、固定された被写体でもあり、動く被写体でもある。
複数のカメラ1ないしカメラNと、カメラ制御部110は、有線または無線で通信することができ、複数のカメラ1ないしカメラNを制御するための複数のカメラ制御部を具備することもできる。
カメラ制御部110は、複数のカメラ1ないしカメラNを同期化する同期化信号を介して、複数のカメラ1ないしカメラNを制御することができる。カメラ制御部110は、複数のカメラ1ないしカメラNから撮影された映像を臨時保存し、コーデック変更を介して撮影された映像の大きさを縮め、迅速な伝送を可能にする。カメラ制御部110の具体的な構成については、図4を参照して説明する。
カメラ制御部110は、カメラ駆動制御部111、映像変換部112及び伝送部113を含んでもよい。
カメラ駆動制御部111は、カメラの同期化及び撮影を制御する。
映像変換部112は、複数のカメラ1ないしカメラNから生成された映像を、通信網120を介して、迅速な伝送が容易であるように、コーデック変更を介して映像サイズを縮める。また、撮影現場に適したり、有線または無線の伝送に適したりするデータ伝送方式を決定することもできる。
伝送部113は、変換された映像を、通信網120を介して映像サーバ200に伝送する。
映像サーバ200は、カメラ制御部110から伝送された多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存し、ユーザ端末150の要請により、保存されたグルーピングされた映像を、通信網を介して伝送する。映像サーバ200の具体的な構成は、図5Aないし図5Dを参照して説明する。
図5Aを参照すれば、映像サーバ200は、映像処理装置110及び映像保存部140を含む。映像処理装置110は、映像処理部131、映像変換部132及び伝送部133を含む。
映像処理部131は、カメラ制御部110から伝送された多チャネル映像、すなわち、複数のカメラで撮影された映像に対して、映像補正を行う。例えば、複数のカメラで撮影された映像が焦点が合わないこともあるので、カメラ間の焦点が同一であるように、映像処理を行う。映像処理部131は、伝送された多チャネル映像を補正する。N台のカメラ配列の幾何学的誤差は、多チャネル映像を再生する過程において、視覚的なブレとして示されるので、それを除去するために、各映像の寸法、サイズ、勾配、及び中心位置のうち少なくとも一つを補正することができる。
映像変換部132は、多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングする。映像変換部132は、さまざまな空間を一つにまとめてグルーピングする。グルーピングする方法は、多様な基準によっても遂行されるが、図6ないし図9を参照して説明する。本実施形態による伝送システムは、ユーザ端末150に、効果的な多チャネル映像ないしスイッチング映像を伝送するために、全ての映像データを伝送し、データ浪費を与えず、グルーピングされた映像を伝送することにより、ユーザに必要なデータのみを伝送することを可能にする。映像変換部132は、t時間のイベントを中心に、±y(yは、自然数)時間別チャネル映像をまとめてグルーピングすることもできる。例えば、チャネル1において、t3でイベントが発生した場合でもある。ここで、該イベントは、既定である場合、例えば、野球競技でのホームラン場面またはアウト場面であったり、ユーザの要請によるイベントであったり、ユーザが希望したりする場合でもある。
図6ないし図9は、他の実施形態による、多チャネル映像をグループピングすることについて説明するための例示図である。
図6を参照すれば、横軸が時間であり、縦軸は、カメラまたはチャネルを示し、それぞれの当該時間及びチャネルで生成された映像のフレームを示す。図6は、グルーピングの基本方式として、時間別にチャネル映像を一つにまとめる方式である。図6に図示されているように、t1に撮影されたチャネル1ないしチャネル5の映像を一つにグルーピングし、グルーピングされた映像600を生成する。類似して、t2に撮影されたチャネル1ないしチャネル5の映像を一つにグルーピングし、グルーピングされた映像610を生成する。そのような方式で、時間別にグルーピングすることができ、例えば、図2に図示されているようにカメラが配置された場合、ユーザ端末150は、同一時間に被写体を取り囲んだ全ての方向で撮影された映像を確認することができる。図6を参照し、時間別にチャネル映像をまとめる方式について説明したが、チャネル別に伝送することも可能であるということは言うまでもない。また、図6に図示されているように、カメラ順に、すなわち、第1チャネルないし第5チャネルの順序でグルーピングすることができるが、図7に図示されているように、反対順序、すなわち、第5チャネルないし第1チャネルの順序でグルーピングすることも可能である。
図8及び図9を参照すれば、時間別及びチャネル別の組み合わせによってグルーピングすることが図示されている。図8に図示されているように、降順に、t1に撮影された第1チャネル映像と、t2に撮影された第2チャネル映像と、t3に撮影された第3チャネル映像と、t4に撮影された第4チャネル映像と、t5に撮影された第5チャネル映像とを一つにグルーピングし、グルーピングされた映像800を生成する。類似して、t2に撮影された第1チャネル映像、t3に撮影された第2チャネル映像、t4に撮影された第3チャネル映像、t5で撮影された第4チャネル映像、t6で撮影された第5チャネル映像を一つにグルーピングし、グルーピングされた映像810を生成する。類似して、図9に図示されているように、昇順に、t1に撮影された第5チャネル映像と、t2に撮影された第4チャネル映像と、t3に撮影された第3チャネル映像と、t4に撮影された第2チャネル映像と、t5に撮影された第1チャネル映像とを一つにグルーピングし、グルーピングされた映像900を生成することもできる。
図8及び図9に図示されているように、時間別及びチャネル別を混合した映像をグルーピングすることについて説明したが、それに限定されるものではなく、多様な方式でグルーピングが可能であるということは言うまでもない。
再び図5Aを参照すれば、映像変換部132で変換されたグルーピングされた映像を、映像保存部140に保存する。ユーザ端末150の要請がある場合、映像処理装置130が映像保存部140に保存された映像を抽出し、伝送部133を介してユーザ端末150に伝送する。
図5Bを参照すれば、映像サーバ130は、映像処理部131、映像変換部132、伝送部133を含み、伝送部133は、メッセージハンドラ133−1、ストリーマ133−2、チャネルマネージャ133−3をさらに含んでもよい。伝送部133は、ストリーミング装置でもあり、映像サーバ130内に含まれていると説明するが、映像サーバ130と分離され、別途の装置として具現することができるということは言うまでもない。図5Aと同一部分に係わる説明は、省略し、差異について主に説明する。
伝送部133は、処理された映像、または保存された映像をリアルタイムで伝送する。例えば、リアルタイムストリーミングのための装置でもある。
メッセージハンドラ133−1は、ユーザ端末とのセッション管理、プロトコル管理を行う。
ストリーマ133−2は、映像をユーザ端末に伝送するが、ユーザ端末に伝送することができる映像の集合である。
チャネルマネージャ133−3は、ユーザ端末の信号を受け、映像をGOP(group of picture)単位でスケジューリングした後、ストリーマ133−2に伝達する。
図5Cに図示されているように、ユーザ端末から、特別な要請、例えば、チャネル変更要請、チャネル移動要請がない場合、チャネルマネージャ133−3は、ストリーマ133−2に、それぞれのGOP単位でスケジューリングされた映像を伝達する。図5Cに図示されているように、チャネル5、すなわち、カメラ5で撮影された映像、GOP1ないしGOPNの順序でスケジューリングし、ストリーマ133−2に伝達する。ストリーマ133−2は、チャネルマネージャ133−3のスケジューリングにより、GOP映像を集めてユーザ端末に伝送する。
図5Dに図示されているように、ユーザ端末からチャネル移動要請が受信された場合、チャネルマネージャ133−3は、チャネル5、すなわち、カメラ5で撮影された映像のうちGOP1ないしGOP3と、チャネル4のGOP4、チャネル3のGOP5、チャネル2のGOP6、チャネル7のGOP7の順序でスケジューリングし、ストリーマ133−2に伝達する。ストリーマ133−2は、チャネルマネージャ133−3のスケジューリングにより、GOP映像を集めてユーザ端末に伝送する。
図3は、他の実施形態による、多チャネル映像のための伝送システムの制御方法について説明するためのフローチャートである。
図3を参照すれば、段階300において、複数のカメラを介して、所定時間に渡り被写体を撮影するように制御する。
段階302において、複数のカメラに対応する多チャネル映像を、通信網を介して伝送する。
段階304において、カメラ制御部から伝送された多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存する。時間別にグルーピングし、グルーピングされた映像を保存するか、チャネル別にグルーピングし、グルーピングされた映像を保存するか、あるいは時間別及びチャネル別を組み合わせてグルーピングされた映像を保存することができる。
段階306で、ユーザ端末の要請により、保存されたグルーピングされた映像を、通信網を介して伝送する。ここで、該通信網は、有線または無線でもあり、段階302で言及された通信網と同一であっても異なっていてもよい。
図10及び図11は、さらに他の実施形態による、イベント発生によるデコーディング方法及びレンダリング方法について説明するための例示図である。
本実施形態による映像サーバ200は、イベント発生により、多チャネル映像をデコーディング及びレンダリングし、ユーザ端末150に伝送するか、あるいは映像サーバ200は、多チャネル映像、またはグルーピングされた映像をユーザ端末150に伝送し、ユーザ端末150において、伝送された多チャネル、またはグルーピングされた映像を再生している最中、ユーザ要請によるイベント発生により、圧縮されて伝送された映像をデコーディング及びレンダリングすることができる。その場合、リアルタイム映像再生のために、迅速な映像チャネル変換が必要であるので、次のように、デコーディング及びレンダリングを行う。
図10を参照すれば、カメラ1ないし10の多チャネル映像が存在する場合、カメラ2に該当する映像において、イベントが右側に発生した場合である。例えば、ユーザ端末150において、ユーザがカメラ2で撮影された映像から、カメラ10で撮影された映像を再生しようとする場合でもある。その場合、圧縮された多チャネル映像に対して、デコーディングは、カメラ1からカメラ2に行い、臨時メモリまたはバッファにデコーディングされた映像を保存し、その後カメラ2からレンダリングを始める。
図11を参照すれば、カメラ1ないし10の多チャネル映像が存在する場合、カメラ7に該当する映像において、イベントが左側に発生した場合である。例えば、ユーザ端末150において、ユーザがカメラ7で撮影された映像から、カメラ1で撮影された映像を再生しようとする場合でもある。その場合、圧縮された多チャネル映像に対して、デコーディングは、カメラ1からカメラ7に行い、臨時メモリまたはバッファにデコーディングされた映像を保存し、その後、カメラ7からカメラ1にレンダリングを始める。
図12は、さらに他の実施形態による、リアルタイムストリーミングを具現するための映像サーバ200とユーザ端末150との間の信号フローチャートである。
図12を参照すれば、ユーザ端末150から映像サーバ200への連結要請により、映像サーバ200で要請を受け入れ、セッションを割り当てる。ユーザ端末150からの認証要請により、デバイスIDを割り当て、認証要請に応答すれば、ユーザ端末150において、認証またはデバイスIDプロトコルセッションが開始される。
ユーザ端末150において、ストリーミングセッションのために、連結要請を行えば、映像サーバ200で要請を受け入れ、ストリームを割り当てる。ユーザ端末150において認証要請を行えば、映像サーバ200で認証要請に応答する。ユーザ端末150で認証またはデバイスIDを利用してストリーミングセッションが開始される。
ユーザ端末150において、プロトコルセッションをAlive状態に維持するために、所定の時間、例えば、1秒に1回ずつ、Alive維持要請を映像サーバ200に伝送する。映像サーバ200は、そのような要請に対して応答し、セッションを管理する。従って、映像サーバ200とユーザ端末150との間で、接続状態またはイベント状態が維持される。
図13は、さらに他の実施形態による多チャネル映像生成方法を図示したフローチャートである。該多チャネル映像生成方法は、被写体の周囲にアレイに配列された複数のカメラで、被写体を多角度で撮影した複数の映像を受信する段階(1300)、受信された複数の映像それぞれを補正する段階(1302)、補正された前記複数の映像それぞれを映像圧縮標準でエンコーディングし、複数の単チャネル映像を生成する段階(1304)、及び複数の単チャネル映像を合成(muxing)し、1つの多チャネル映像を生成する段階(1306)を含む。
まず、段階1300においては、被写体の周囲にアレイに配列された複数のカメラで、被写体を多角度で撮影した複数の映像を受信する。複数のカメラ配列方法は、例えば、任意のカメラを基準に、n台のカメラを実質的に同一平面上に一列に配置することでもある。その場合、被写体を基準に、一定距離離隔された円周上にn台のカメラを順次に配置することもでき、中央に配置されたカメラを基準に、両側に配置された2台のカメラと被写体との距離を一致させ、残りのカメラは、被写体との距離を異なるようにすることもできる。図3は、複数台のカメラで受信された各映像をフレームに並べて概念的に示した図面である。n台のカメラが同一被写体を多角度で撮影し、各カメラにおいては、特定チャネル(特定視点)であらかじめ設定された時間(time)の間の映像を獲得し、サーバは、獲得したn個の映像を受信する。本実施形態においては、被写体を特別に限定するものではないが、例えば、野球競技場の打席を被写体として設定した場合、ターゲットに係わるn個の角度別映像がサーバに受信される。
次に、段階1302においては、受信された複数の映像それぞれを補正する。n台のカメラ配列の幾何学的誤差は、多チャネル映像を再生する過程において、視覚的なブレとして示されるので、それを除去するために、各映像の寸法(サイズ)、勾配、及び中心位置のうち少なくとも一つを補正する。補正された各映像は、コンテナとして、例えば、MP4またはTSにも生成される。
一般的に、映像ストリームは、3種類タイプのフレーム(frames)によって構成される。3種類タイプのフレームとは、画面内映像(Iフレーム:intra frame)、予測映像(Pフレーム:predictive frame)及び双方向予測映像(Bフレーム:bi-directionally predictive frame)である。Iフレームは、動きベクトル推定/補償を利用せず、単にそのフレームのみをDCTして符号化し、Pフレームは、Iフレーム、または他のPフレームを参照しながら、動き推定/補償を行った後、残り差分のデータをDCTして符号化し、Bフレームは、Pフレームのように、動き補償を使用するが、時間軸上にある2つのフレームから、動き推定/補償を行う。映像ストリームにおいてシーケンスは、GOPと呼ばれるセグメントによって定義され、I、B、B、P、B、B、P…のようになる構造において、Iフレームから次のIフレームまでをGOPと称する。一般的に、GOPは、意図された速度でディスプレイされる場合、あらかじめ設定された時間(例えば、0.5秒)の持続時間(duration)を有する1セットの映像によって構成される。図3に図示されているように、前述の補正された映像それぞれは、1つのIフレームと、単数または複数のBフレーム、及び単数または複数のPフレームの組み合わせによって構成されたGOPの集合である。補正された各映像には、1つのIフレームと、少なくとも1以上のPフレームまたはBフレームが含まれている。
次に、段階1304においては、ソフトウェアを使用して補正された複数の映像それぞれを、映像圧縮標準でエンコーディングし、複数個(n個)の単チャネル映像を生成する。そのとき、映像圧縮標準は、MJPEGまたはH.264コーデックであることが望ましい。
図15は、複数の映像をエンコーディングして生成された複数の単チャネル映像を概念的に示した図面である。そのとき、前述のように、段階1304を経て生成された前述の単チャネル映像は、複数のIフレームによって構成される。
さらに具体的に説明すれば、MJPEGは、映像をフレーム単位で圧縮するイメージ圧縮方式であり、各フレームをJPEGで圧縮し、JPEGフレーム間に時間情報を入れて並べた動画ストリームの一種である。MJPEGコーデックによってエンコーディングされる以前の補正された映像は、例えば、MP4コンテナまたはTSコンテナに存在し、当該映像においては、図14に図示されているように、1つのIフレームと、少なくとも1以上のPフレームまたはBフレームとが含まれている。それに反し、映像圧縮標準、すなわち、MJPEGコーデックによってエンコーディングされた単チャネル映像は、フレーム別にイメージ圧縮がなされるために、各フレームが1つの完全なイメージを整えたものである。言い換えれば、前述の単チャネル映像は、映像内の全てのフレームがIフレームからなる、GOPの大きさが1である映像である。段階1304において、複数の映像それぞれをMJPEGコーデックによってエンコーディングすることにより、実質的にGOPサイズを1に変換する作業を遂行するのである。
映像を、MJPEGコーデックによってエンコーディングすれば、フレーム単位の圧縮により、容量はさらに大きくなるが、GOP単位で圧縮することにより、以前のフレーム情報があってこそ、映像をデコーディングすることができる映像コーデックと異なり、フレーム単位で圧縮されるので、リアルタイムアクセス時、さらに迅速なデコーディングが可能であるという利点がある。それぞれの映像を、H.264コーデックによってエンコーディングする場合にも、単チャネル映像のGOPサイズを実質的に1に変換するものであり、前述のMJPEGと同一である。
映像再生中、再生時刻を先後に動かしたり、チャネル(すなわち、視点)を回す操作を行うとき、実質的には、特定ターゲットフレームにスイッチングするものであるが、もし映像のGOPが1ではない、すなわち、Iフレーム以外のBフレームまたはPフレームが含まれた映像であるならば、ユーザが指定した特定フレームを探し出し、完全な映像の再生において、処理が即座的なものではなく、時間遅滞が発生する。例えば、ターゲットフレームがBフレームやPフレームである場合には、その直前のIフレームを探し出し、イメージをターゲットフレームまで連結しなければならず、その過程において、時間遅滞が発生するのである。もし複数の映像を、それぞれMJPEGコーデックまたはH.264コーデックによってエンコーディングする過程なしに、そのまま合成するならば、合成された映像も、GOPが1ではないために、時刻スイッチングまたはチャネルスイッチングのイベント発生時、前述の時間遅滞が発生し、再生が切られて、イベント発生時ごとに、映像再生が遅滞される問題が続けて発生する。本実施形態においては、段階1304において、GOPサイズが1ではない映像それぞれを、MJPEGコーデックまたはH.264コーデックによってエンコーディングすることにより、実質的にGOPサイズを1に変換する作業を遂行する。
次に、段階1306においては、複数の単チャネル映像を合成し、1つの多チャネル映像を生成する。図16は、複数の単チャネル映像を合成して生成した1つの多チャネル映像を概念的に示した図面である。複数の単チャネル映像が合成され、1つのメディアファイルに再生成された多チャネル映像は、コンテナとして、例えば、MP4またはTSに生成され、段階1306においては、複数の単チャネル映像を合成し、複数のIフレームによって構成された単一の多チャネル映像を生成するものである。
図17は、さらに他の実施形態による多チャネル映像再生方法を図示したフローチャートである。多チャネル映像再生方法は、図13によって生成された多チャネル映像をユーザ端末で再生するための多チャネル映像再生方法である。ここで、ユーザ端末は、TV、PC、携帯電話、スマートフォン、ノート型パソコン、タブレットPC、電子ブック端末機、デジタル放送用端末機、PDA、PMP、ナビゲーション、MP3プレイヤ、デジタルカメラなどでもあるが、それらに限定されるものではない。
具体的には、多チャネル映像再生方法は、サーバから前述の多チャネル映像を受信する段階(1700)、ユーザの再生要請信号を受信すれば、受信された多チャネル映像のあらかじめ設定された特定視点で多チャネル映像を再生する段階(1702)、ユーザから、チャネル制御イベント、時間制御イベント、チャネル及び時間制御イベント、並びに画面拡大(zoom−in)イベントのうち少なくとも1つのイベントを受信する段階(1704)、イベントによって多チャネル映像のチャネルまたは時間を移動させたり、画面を拡大させたりしながら、多チャネル映像を再生する段階(1708)、及びユーザの制御イベント終了時、ユーザの再生要請シンホルを受信すれば、当該制御イベントの終了時の視点で、多チャネル映像を続けて再生する段階(1708)を含む。
まず、段階1700においては、サーバから多チャネル映像を受信する。該多チャネル映像は、被写体を多様な角度で一定時間の間撮影した映像を併合したものであり、時間情報と共に、チャネル情報(視点情報)を有する。
次に、段階1702においては、ユーザの再生要請信号を受信すれば、受信された多チャネル映像のあらかじめ設定された特定視点において、当該多チャネル映像をユーザの端末で再生する。ユーザ端末においては、例えば、4番目カメラの視点で、多チャネル映像が再生され、チャネルは、ユーザが再生プログラムにあらかじめ設定しておくことができ、再生前に手動で選択することもできる。
次に、段階1704においては、ユーザから、チャネル制御イベント、時間制御イベント、チャネル及び時間制御イベント、画面拡大イベント、客体追跡再生イベント、一フレームずつ移動再生を含む微細倍速、区間反復機能、リアルタイム映像録画、及びタイムマシン機能のうち少なくとも1つのイベントを受信する。ここで、前述のイベント以外に、動画再生の多様な機能イベントなどをさらに含んでもよいということは言うまでもない。前述のユーザ端末は、表示機能と入力機能とをいずれも遂行することができ、多様なタッチ方式のユーザインターフェースが搭載されたタッチスクリーンを具備した端末機にもなる。前述の制御イベントは、ユーザ端末の表示部に対するユーザのタッチ操作によっても生成され、チャネル制御イベントは、表示部上において、第1方向に沿う連続したタッチ操作によって生成され、時間制御イベントは、表示部上の第2方向に沿う連続したタッチ操作によって生成され、チャネル及び時間制御イベントは、表示部上の第3方向に沿う連続したタッチ操作によっても生成される。例えば、ユーザの指や、別途のタッチ入力手段を利用し、表示部である液晶画面を左右方向にドラッグすれば、時間を移動させることができ、上下方向にドラッグすれば、チャネルを移動させることができ、対角線方向にドラッグすれば、時間とチャネルとを同時に移動させるように設定される。また、画面拡大イベントは、表示部の画面上において、拡大しようとする領域の2ポイント以上に手を当てて拡大するか、あるいは表示部上の拡大アイコンをタッチ操作して制御することができる。タッチ操作に印加するとき、初期認識位置及び最終認識位置、並びにその間のドラッグ入力を認識する方式は、公知のタッチインターフェース入力認識技術を採用する。
次に、段階1706においては、そのようなイベントにより、多チャネル映像のチャネルまたは時間を移動させながら、多チャネル映像を再生する。具体的には、特定チャネルにおいて、多チャネル映像が再生中であるとき、ユーザから第1方向に沿って連続したタッチ操作が印加されれば(すなわち、チャネル制御イベントが認識されれば)、時間がt1に固定されたまま、チャネルだけスイッチング移動するように、フレームが再生される。例えば、多チャネル映像が、4番目カメラの視点で再生され、第1方向が上下方向であると仮定するとき、ユーザから、上方ドラッグ入力が認識されれば、制御イベント入力時の時間t1に固定されたまま、5番、6番、7番のカメラ方向にチャネルがスイッチングされながら再生される。反対に、ユーザから、下方ドラッグ入力が認識されれば、制御イベント入力時の時間t1に固定されたまま、3番、2番、1番のカメラ方向にチャネルがスイッチングされながら再生される。また、上方ドラッグ入力から下方ドラッグ入力に操作方向が転換されれば、当該時間t1において、チャネルだけ逆にスイッチングされる。また、特定視点において多チャネル映像が再生中であるとき、ユーザから第2方向に沿って連続したタッチ操作が印加されれば(すなわち、時間制御イベントが認識されれば)、視点が特定チャネルに固定されたまま、時間だけスイッチング移動するようにフレームが再生される。例えば、多チャネル映像が4番目カメラの視点で再生され、第2方向が左右方向であると仮定するとき、ユーザから、左側方向ドラッグ入力が認識されれば、チャネルが固定されたまま、時間が以前にスイッチングされながら再生される。
次に、段階1708において、ユーザの制御イベントが終了するとき、ユーザの再生要請信号を受信すれば、当該制御イベントの終了時の視点において、多チャネル映像を続けて再生する。制御イベント終了信号は、ユーザから連続したタッチ入力がそれ以上端末機で認識されない信号、例えば、一定時間の間、ユーザ入力がない場合を終了信号として認識することができる。そのような多チャネル映像再生方法によれば、多チャネル映像を、ユーザの操作により、再生視点や再生時間を手動によって動かしながら、視聴自在にユーザ便宜性を高めることができる。
図18は、さらに他の実施形態による多チャネル映像生成方法を図示したフローチャートである。該多チャネル映像生成方法は、被写体の周囲にアレイに配列された複数のカメラで、被写体を多角度で撮影した複数の映像を受信する段階(1800)、受信された複数の映像それぞれを補正する段階(1802)、補正された複数の映像それぞれを映像圧縮標準でエンコーディングし、複数の単チャネル映像を生成する段階(1804)、及び補正された複数の映像について、特定時間でのフレームを抽出し、抽出されたフレームによって構成されたチャネルスイッチング映像を生成する段階(1806)を含む。
段階1800ないし1804、は図13に図示された多チャネル映像生成方法と実質的に同一であるので、詳細な説明は、省略する。ただし、前記段階1804においては、複数の映像それぞれを映像圧縮標準でエンコーディングし、複数の単チャネル映像を生成するが、単チャネル映像は、必要によっては、GOPサイズが1になるようにも制作される。すなわち、GOPサイズが1ではない映像それぞれを、映像圧縮標準でエンコーディングすることにより、実質的に単チャネル映像のGOPサイズを1に変換する作業を遂行する。そのとき、映像圧縮標準は、MJPEGまたはH.264であることが望ましい。エンコーディングされる以前の映像は、例えば、MP4コンテナまたはTSコンテナに存在し、当該映像においては、1つのIフレームと、少なくとも1以上のPフレームまたはBフレームとが含まれている。それに反し、MJPEGコーデックまたはH.264コーデックによってエンコーディングされた単チャネル映像は、フレーム別にイメージ圧縮がなされるために、各フレームが1つの完全なイメージを備えたものである。言い換えれば、単チャネル映像は、図20に図示されているように、映像内の全てのフレームがIフレームからなる、GOPサイズが1である映像によっても生成される。
次に、段階1806においては、ソフトウェアを使用し、補正された複数の映像について、特定時刻でのフレームを抽出し、抽出されたフレームによって構成されたチャネルスイッチング映像を生成する。図20は、チャネルスイッチング映像を概念的に示した図面である。さらに具体的には、まず、各時間でのフレームを抽出して映像処理し、時間が同一であるが、チャネルが移動する映像を複数個獲得する。
そのような段階を遂行することにより、サーバには、各カメラで撮影した視点が固定された複数の単チャネル映像と、特定の時間で停止するが、チャネルだけ移動するチャネルスイッチング映像が各時間t別に設けられている。
そのとき、チャネルスイッチング映像は、GOP値が1になるようにも制作される。その方案として、例えば、各カメラで獲得した映像の全てのフレームを、Iフレーム映像に変換し、それぞれの時間tで獲得されたIフレームにおいて、チャネルスイッチング映像を生成することができる。または、チャネルスイッチング映像を生成した後、当該チャネルスイッチング映像を、映像圧縮標準でエンコーディングし、複数のチャネルスイッチング映像を生成することもできる。すなわち、GOPサイズが1ではないチャネルスイッチング映像を、映像圧縮標準でエンコーディングすることにより、実質的に、チャネルスイッチング映像のGOPサイズを1に変換する作業を遂行するのである。そのとき、映像圧縮標準は、MJPEGまたはH.264であることが望ましい。
図21は、さらに他の実施形態による多チャネル映像再生方法を図示したフローチャートである。多チャネル映像再生方法は、前述の方法によって生成された多チャネル映像を、ユーザ端末で再生するための多チャネル映像再生方法である。
具体的には、サーバにストリーミング要請信号を伝送する段階(2100)、複数の単チャネル映像、及び複数のチャネルスイッチング映像のうち1つの映像をサーバから選択的に受信する段階(2102)、及びユーザから再生要請信号を受信するとき、受信された単チャネル映像またはチャネルスイッチング映像を再生する段階(2104)を含む。
まず、段階2100においては、サーバにストリーミング要請信号を伝送し、段階2102においては、複数の単チャネル映像、及び複数のチャネルスイッチング映像のうち1つの映像を、前記サーバから選択的に受信する。単チャネル映像をユーザ端末に送信するか、チャネルスイッチング映像をユーザ端末に送信するかということは、サーバにあらかじめ指定されている。または、サーバに、ストリーミング要請信号を伝送する段階において、ユーザが、単チャネル映像及びチャネルスイッチング映像のうち一つを選択し、ストリーミング要請信号を伝送し、それによって指定された映像を受信することもできる。以下においては、単チャネル映像を受信する場合と、チャネルスイッチング映像を受信する場合とに分けて説明する。
まず、サーバから、単チャネル映像を受信する場合、ユーザから、再生要請信号を受信するとき、受信された単チャネル映像を再生する。そのとき、ストリーミング要請信号は、初期の再生開始視点に係わるチャネル情報を含んでもよく、初期の再生開始時間に係わる情報をさらに含んでもよい。ユーザ端末は、複数の単チャネル映像のうち、当該チャネル情報に対応する単チャネル映像をサーバから受信して再生する。例えば、図22においては、ストリーミング要請信号に、2番目カメラがチャネル情報として含まれた場合、映像再生シナリオを例示的に図示した。
次に、ユーザから、チャネル制御イベントを受信するとき、チャネル制御イベントの生成情報をサーバに伝送する。次の複数のチャネルスイッチング映像のうち、チャネル制御イベントの受信時間に対応するチャネルスイッチング映像をサーバから受信する。そして、ユーザから再生要請信号を受信するとき、受信されたチャネルスイッチング映像を再生する。
そのとき、チャネル制御イベント生成情報には、イベント生成時刻に係わる情報が含まれる。再び、図22を参照すれば、2番カメラを視点にした単チャネル映像が再生中であるとき、時刻t1において、ユーザのチャネル制御イベントが認識された場合、イベント発生時刻t1の情報を含む情報がサーバに伝送され、サーバにおいては、複数のチャネルスイッチング映像のうちt1に対応するチャネルスイッチング映像を、ユーザ端末に伝送する。ユーザ端末においては、サーバから受信されたチャネルスイッチング映像を再生する。
チャネル制御イベントは、ユーザ端末の表示部に対するユーザのタッチ操作によっても生成され、ユーザ端末の表示部上において、第1方向に沿う連続したタッチ操作によっても生成される。例えば、ユーザの指や、別途のタッチ入力手段を利用し、表示部である液晶画面を上下方向にドラッグすれば、チャネル(視点)を移動させることができる。例えば、第1方向が上下方向であると仮定するとき、時刻t1において、ユーザから下方に沿って連続したドラッグ入力操作が印加されれば、ユーザ端末においては、サーバの複数のチャネルスイッチング映像のうち、t1に対応するチャネルスイッチング映像をサーバから受信する。そして、ユーザから、下方ドラッグ入力操作が続けて印加されれば、受信されたチャネルスイッチング映像が再生されるが、時間がt1に固定されたまま、チャネルだけ3番、4番、5番のカメラ方向にスイッチングされながら再生される(図22参照)。反対に、ユーザから上方ドラッグ入力が認識されれば、受信されたチャネルスイッチング映像が、1番カメラの方向にチャネルスイッチングされながら再生される。
次に、ユーザから、チャネル制御終了イベントを受信するとき、チャネル制御終了イベントの生成情報をサーバに伝送する。次に、複数の単チャネル映像のうち、チャネル制御イベント終了信号受信時のチャネルに対応する単チャネル映像をサーバから受信し、ユーザから再生要請信号を受信し、受信された単チャネル映像を再生する。
そのとき、チャネル制御終了イベント生成情報には、イベント終了時のチャネル(視点)に係わる情報が含まれる。再び、図22を参照すれば、時刻t1のチャネルスイッチング映像が再生中であり、チャネルスイッチングが5番カメラに達するやいなや、ユーザのチャネル制御終了イベントが認識されれば、イベント終了時のチャネルである5番チャネルに係わる情報がサーバに伝送される。チャネル制御終了イベントは、ユーザからの連続したタッチ入力がそれ以上端末機で認識されないシグナルを、終了信号として認識することができる。その場合、サーバにおいては、複数の単チャネル映像のうち、5番チャネルに対応する多チャネル映像を選択し、ユーザ端末に伝送する。ユーザ端末においては、ユーザから再生要請信号があるとき、サーバから受信された単チャネル映像を、時刻t1後から再生する。
一方、ユーザから、時間制御イベントを受信する段階及び時間制御イベントにより、受信された単チャネル映像の時間を移動させながら再生する段階をさらに含んでもよい。そのような再生過程は、ユーザ端末に受信された単チャネル映像を再生した後、または受信された単チャネル映像を再生した後にも行われる。例えば、特定多チャネル映像が再生中であるとき、ユーザから、第2方向に沿って連続したタッチ操作が印加されれば(すなわち、時間制御イベントが認識されれば)、視点(ビューポイント)が、当該チャネルに固定されたまま、時間だけスイッチング移動するように、フレームが再生される。例えば、多チャネル映像が5番目カメラの視点で再生され、第2方向が左右方向であると仮定するとき、ユーザから、左側方向ドラッグ入力が認識されれば、視点が固定されたまま、時間が以前にスイッチングされながら再生される。
そのような多チャネル映像再生方法によれば、多チャネル映像をユーザの操作により、再生視点や再生時間を手動で動かしながら視聴可能である。
一方、サーバからチャネルスイッチング映像を受信する場合、ユーザから再生要請信号を受信するとき、受信されたチャネルスイッチング映像を再生する。そのとき、ストリーミング要請信号は、初期の再生開始時間に係わる時間情報を含んでもよく、初期の再生開始視点に係わる情報をさらに含んでもよい。ユーザ端末においては、あらかじめ指定されたチャネルにおいて、あらかじめ指定された時間からチャネルスイッチング映像を再生することができる。例えば、図23においては、ストリーミング要請信号に、初期の再生開始時間がt1に設定され、初期再生視点が2番カメラに設定された場合の映像再生シナリオを例示的に図示した。
次に、ユーザから単チャネル映像再生イベントを受信し、単チャネル映像再生イベントの生成情報をサーバに伝送する。サーバに保存された複数の単チャネル映像のうち、単チャネル映像再生イベントの受信時のチャネルに対応する単チャネル映像を、サーバから受信する。そして、ユーザから再生要請信号を受信し、受信された単チャネル映像を再生する。そのとき、単チャネル映像再生イベントの生成情報には、イベント生成時のチャネルに係わる情報が含まれる。例えば、図23を参照すれば、時間がt1に固定されたまま、チャネルが2番カメラから始まり、4番カメラに至るまで、チャネルスイッチングされながら映像が再生されていて、チャネルスイッチングが4番カメラに達するやいなや、ユーザの単チャネル映像再生イベントが認識されれば、単チャネル映像再生イベントの生成情報、すなわち、チャネルに係わる情報(5番カメラ)がサーバに伝送される。そのとき、ユーザのタッチ入力が、単チャネル映像再生イベントとしても認識される。その場合、サーバにおいては、複数の単チャネル映像のうち、4番チャネルに対応する単チャネル映像を選択し、ユーザ端末に伝送する。ユーザ端末においては、ユーザから再生要請信号があるとき、サーバから受信された4番単チャネル映像を時刻t1後から再生する。
その後、ユーザから時間制御イベントを受信する段階、及び時間制御イベントによって受信された単チャネル映像の時間を移動させながら再生する段階をさらに含んでもよい。そのような再生過程は、ユーザ端末に受信された単チャネル映像を再生した後、または受信された単チャネル映像を再生した後にも行われる。例えば、図23を参照すれば、4番多チャネル映像が再生中であるとき、ユーザから、第2方向に沿って連続したタッチ操作が印加されれば(すなわち、時間制御イベントが認識されれば)、視点が当該チャネルに固定されたまま、時間だけスイッチング移動するようにフレームが再生される。例えば、第2方向が左右方向であると仮定するとき、ユーザから、左側方向ドラッグ入力が認識されれば、視点が固定されたまま、時間がt1及びt2とスイッチングされながら再生される。
一方、ユーザから、チャネル制御イベントを受信するとき、チャネル制御イベントの生成情報をサーバに伝送する。その後、複数のチャネルスイッチング映像のうち、チャネル制御イベントの受信時間に対応するチャネルスイッチング映像をサーバから受信する。そして、ユーザから再生要請信号を受信するとき、受信されたチャネルスイッチング映像を再生する。
そのとき、チャネル制御イベント生成情報には、イベント生成時刻に係わる情報が含まれる。再び、図12を参照すれば、4番カメラを視点にした単チャネル映像が再生中であるとき、時刻t2において、ユーザのチャネル制御イベントが認識された場合、イベント発生時刻t2の情報を含む情報がサーバに伝送され、サーバにおいては、複数のチャネルスイッチング映像のうち、t2に対応するチャネルスイッチング映像をユーザ端末に伝送する。ユーザ端末においては、サーバから受信されたチャネルスイッチング映像を再生する。例えば、第1方向が上下方向であると仮定するとき、時刻t2において、ユーザから下方に沿って連続したドラッグ入力操作が印加されれば、ユーザ端末においては、サーバの複数チャネルスイッチング映像のうち、t2に対応するチャネルスイッチング映像をサーバから受信する。そして、ユーザから、下方ドラッグ入力操作が続けて印加されれば、受信されたチャネルスイッチング映像が再生されるが、時間がt2に固定されたまま、チャネルだけ5番、6番、7番のカメラ方向にスイッチングされながら再生される。反対に、ユーザから上方ドラッグ入力が認識されれば、受信されたチャネルスイッチング映像が、3番カメラ方向にチャネルスイッチングされながら再生される。
次に、ユーザから、チャネル制御終了イベントを受信するとき、チャネル制御終了イベントの生成情報をサーバに伝送する。次に、複数の単チャネル映像のうち、チャネル制御イベント終了信号受信時のチャネルに対応する単チャネル映像をサーバから受信し、ユーザから再生要請信号を受信するとき、受信された単チャネル映像を再生する。そのとき、チャネル制御終了イベント生成情報には、イベント終了時チャネル(視点)に係わる情報が含まれる。再び、図23を参照すれば、時刻t2のチャネルスイッチング映像が再生中であり、チャネルスイッチングが(N−1)番カメラに達するやいなや、ユーザのチャネル制御終了イベントが認識されれば、イベント終了時のチャネルに係わる情報がサーバに伝送される。チャネル制御終了イベントは、ユーザから、連続したタッチ入力がそれ以上端末機で認識されないシグナルを、終了信号として認識することができる。その場合、サーバにおいては、複数の単チャネル映像のうち、(N−1)番チャネルに対応する単チャネル映像を選択し、ユーザ端末に伝送する。ユーザ端末においては、ユーザから再生要請信号があるとき、サーバから受信された(N−1)番単チャネル映像を時刻t2後から再生する。
一方、ユーザから時間制御イベントを受信する段階、及び時間制御イベントによって受信された単チャネル映像の時間を移動させながら再生する段階をさらに含んでもよい。例えば、(N−1)多チャネル映像が再生中であるとき、ユーザから、第2方向に沿って連続したタッチ操作が印加されれば(すなわち、時間制御イベントが認識されれば)、視点が(N−1)チャネルに固定されたまま、時間だけスイッチング移動するようにフレームが再生される。
一方、受信されたチャネルスイッチング映像を再生する段階の以前及び以後にも、チャネルスイッチング制御が可能である。すなわち、チャネルスイッチング映像を受信して再生する以前、またはチャネルスイッチング映像を再生している最中にも、チャネルをスイッチングしながら、映像を視聴することができる。具体的には、ユーザからチャネル制御イベントを受信する段階、及びチャネル制御イベントによって受信されたチャネルスイッチング映像の視点を移動させながら再生する段階を含んでもよい。例えば、ユーザから、下方ドラッグ入力操作が印加されれば、チャネルスイッチング映像は、時間が固定されたまま、チャネルだけスイッチングされながら再生される。反対に、ユーザから、上方ドラッグ入力が認識されれば、受信されたチャネルスイッチング映像が反対方向にチャネルスイッチングされながら再生される。
そのような多チャネル映像再生方法によれば、多チャネル映像を、ユーザの操作により、再生視点や再生時間を手動で動かして行きながら視聴可能である。
一実施形態は、コンピュータによって実行されるプログラムモジュールのようなコンピュータによって実行可能な命令語を含む記録媒体の形態にも具現される。コンピュータ可読媒体は、コンピュータによってアクセスされる任意の可用媒体でもあり、揮発性及び非揮発性の媒体、分離型及び非分離型の媒体をいずれも含む。また、コンピュータ可読媒体は、コンピュータ記録媒体及び通信媒体をいずれも含んでもよい。該コンピュータ記録媒体は、コンピュータ可読命令語、データ構造、プログラムモジュールまたはその他データのような情報保存のための任意の方法または技術によって具現された揮発性及び非揮発性、分離型及び非分離型の媒体をいずれも含む。該通信媒体は、典型的に、コンピュータ可読命令語、データ構造、プログラムモジュールまたは搬送波のような変調されたデータ信号のその他データ、またはその他伝送メカニズムを含み、任意の情報伝達媒体を含む。
前述の説明は例示のためのものであり、本発明が属する技術分野の当業者であるならば、本発明の技術的思想や必須な特徴を変更せずとも、他の具体的な形態に容易に変形可能であるということを理解することができるであろう。従って、以上で記述した実施形態は、全ての面において、例示的なものであり、限定的ではないと理解しなければならない。例えば、単一型と説明されている各構成要素は、分散されても実施され、同様に、分散されていると説明されている構成要素も、結合された形態でも実施されるのである。
本発明の範囲は、前述の説明よりは、特許請求の範囲によって示され、特許請求の範囲の意味、範囲及びその均等概念から導き出される全ての変更、または変形された形態は、本発明の範囲に含まれるものであると解釈されなければならない。

Claims (16)

  1. 複数のカメラを介して、所定時間に渡り被写体を撮影するように制御し、前記複数のカメラに対応する多チャネル映像を、通信網を介して伝送するカメラ制御部と、
    前記カメラ制御部から伝送された前記多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存し、ユーザ端末の要請により、前記グルーピングされた映像を、前記通信網を介して伝送する映像サーバと、を含む多チャネル映像のための伝送システム。
  2. 前述の時間及びチャネルを混合した基準は、
    第1時間ないし第N(Nは、2以上の自然数)時間に該当する第1チャネルないし第M(Mは、2以上の自然数)チャネルの映像を混合するか、あるいは、
    前述の第1時間ないし第N時間に該当する第Mチャネルないし第1チャネルの映像を混合することを特徴とする請求項1に記載の多チャネル映像のための伝送システム。
  3. 前述の時間及びチャネルを混合した基準は、
    第N時間ないし第1時間に該当する第1チャネルないし第Mチャネルの映像を混合するか、あるいは、
    前述の第N時間ないし第1時間に該当する第Mチャネルないし第1チャネルの映像を混合することを特徴とする請求項1に記載の多チャネル映像のための伝送システム。
  4. 前記所定時間のうちいずれか1つの時間に該当するイベントを中心に、±y(yは、自然数)時間別チャネルに該当する映像をグルーピングすることを特徴とする請求項1に記載の多チャネル映像のための伝送システム。
  5. 前記カメラ制御部は、
    前記複数のカメラが前記被写体を同時に撮影するように、撮影同期化信号及び撮影駆動制御信号を伝送し、前記複数のカメラから伝送された複数のカメラに対応する多チャネル映像に対して圧縮処理を行い、前記通信網による伝送可能なデータ伝送方式を決定することを特徴とする請求項1に記載の多チャネル映像のための伝送システム。
  6. 前記映像サーバは、
    第1チャネルないし第Mチャネルのうち所定のチャネルにおいて、前記ユーザ端末の要請に相応するイベントが発生した場合、前記グルーピングされた映像に対し、前記第1チャネルから順次にデコーディングを行い、
    前記イベントが発生したチャネルから前記イベントの発生方向に、前記デコーディングされた映像についてレンダリングを行うことを特徴とする請求項1に記載の多チャネル映像のための伝送システム。
  7. 前記グルーピングされた映像は、
    前記複数の単チャネル映像を合成した1つの多チャネル映像、及び前記複数の単チャネル映像について、特定時間でのフレームを抽出した抽出フレームによって構成されたチャネルスイッチング映像を含み、
    前記複数の単チャネル映像及び前記チャネルスイッチング映像は、GOP値が1であること特徴とする請求項1に記載の多チャネル映像のための伝送システム。
  8. 複数のカメラを介して、所定時間に渡り被写体を撮影するように制御する段階と、
    前記複数のカメラに対応する多チャネル映像を、通信網を介して伝送する段階と、
    前記カメラの制御部から伝送された前記多チャネル映像を、時間別、チャネル別、時間別及びチャネル別を混合したもののうち少なくとも1つの基準でグルーピングして保存する段階と、
    ユーザ端末の要請により、前記保存されたグルーピングされた映像を、前記通信網を介して伝送する段階と、を含む多チャネル映像のための伝送システムの制御方法。
  9. 前記時間及びチャネルを混合した基準は、
    第1時間ないし第N(Nは、2以上の自然数)時間に該当する第1チャネルないし第M(Mは、2以上の自然数)チャネルの映像を混合するか、
    前記第1時間ないし第N時間に該当する第Mチャネルないし第1チャネルの映像を混合するか、
    第N時間ないし第1時間に該当する第1チャネルないし第Mチャネルの映像を混合するか、あるいは、
    前記第N時間ないし第1時間に該当する第Mチャネルないし第1チャネルの映像を混合することを特徴とする請求項8に記載の多チャネル映像のための伝送システムの制御方法。
  10. 所定時間のうちいずれか1つの時間に該当するイベントを中心に、±y(yは、自然数)時間別チャネルに該当する映像をグルーピングすることを特徴とする請求項8に記載の多チャネル映像のための伝送システムの制御方法。
  11. 第1チャネルないし第Mチャネルのうち所定のチャネルにおいて、前記ユーザ端末の要請に相応するイベントが発生した場合、前記グルーピングされた映像に対し、前記第1チャネルから順次にデコーディングを行う段階と、
    前記イベントが発生したチャネルから前記イベントの発生方向に、前記デコーディングされた映像についてレンダリングを行う段階と、
    前記レンダリングされた映像を、前記ユーザ端末に伝送する段階と、をさらに含むことを特徴とする請求項8に記載の多チャネル映像のための伝送システムの制御方法。
  12. 多チャネル映像の再生のための再生装置において、
    多チャネル映像が保存されたメモリと、
    前記多チャネル映像に相応する第1チャネルないし第Mチャネルのうち所定のチャネルでイベント要請を受信し、前記多チャネル映像に対し、前記第1チャネルから順次にデコーディングを行い、前記イベントが発生したチャネルからイベントの発生方向に、前記デコーディングされた映像についてレンダリングを行い、前記レンダリングされた映像を再生するように制御するプロセッサと、を含む再生装置。
  13. 多チャネル映像をユーザ端末で再生するための多チャネル映像再生方法であり、
    サーバから、前記多チャネル映像を受信する段階と、
    受信された多チャネル映像においてあらかじめ設定された特定視点で、前記多チャネル映像を再生する段階と、
    ユーザから、チャネル制御イベント、時間制御イベント、チャネル及び時間制御イベント、画面拡大イベント、客体追跡、微細倍速、並びに区間反復のうち少なくとも1つのイベントを受信する段階と、
    前記イベントにより、前記多チャネル映像のチャネルまたは時間を移動させながら、前記多チャネル映像を再生する段階と、を含む多チャネル映像再生方法。
  14. 前記ユーザの制御イベントの終了時、ユーザの再生要請信号を受信すれば、当該制御イベントの終了時の視点において、前記多チャネル映像を続けて再生する段階をさらに含むことを特徴とする請求項13に記載の多チャネル映像再生方法。
  15. 前記制御イベントは、前記多チャネル映像が再生されるユーザ端末の表示部に対するユーザのタッチ操作によって生成されるものの、
    前記チャネル制御イベントは、前記表示部上の第1方向に沿う連続したタッチ操作によって生成され、前記時間制御イベントは、前記表示部上の第2方向に沿う連続したタッチ操作によって生成され、前記チャネル及び時間制御イベントは、前記表示部上の第3方向に沿う連続したタッチ操作によって生成されることを特徴とする請求項14に記載の多チャネル映像再生方法。
  16. 多チャネル映像をユーザ端末で再生するための多チャネル映像再生方法であり、
    サーバにストリーミング要請信号を伝送する段階と、
    複数の単チャネル映像、及び複数のチャネルスイッチング映像のうち1つの映像を、前記サーバから選択的に受信する段階と、
    ユーザ端末から再生要請信号を受信するとき、受信された単チャネル映像またはチャネルスイッチング映像を再生する段階と、を含み、
    前記多チャネル映像及びチャネルスイッチング映像のうちサーバですでに定められた映像を受信するか、あるいは、前記サーバにストリーミング要請信号を伝送する段階において、ユーザ端末が選択した映像を受信することを特徴とする多チャネル映像再生方法。
JP2019569808A 2017-06-29 2018-06-29 多チャネル映像のための伝送システム及びその制御方法、多チャネル映像再生方法及びその装置 Pending JP2020524450A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KRPCT/KR2017/006869 2017-06-29
PCT/KR2017/006869 WO2019004498A1 (ko) 2017-06-29 2017-06-29 다채널 영상 생성 방법, 다채널 영상 재생 방법 및 다채널 영상 재생 프로그램
KR10-2017-0170453 2017-12-12
KR1020170170453A KR101973190B1 (ko) 2017-12-12 2017-12-12 다채널 영상을 위한 전송 시스템 및 이의 제어 방법
PCT/KR2018/007414 WO2019004783A1 (ko) 2017-06-29 2018-06-29 다채널 영상을 위한 전송 시스템 및 이의 제어 방법, 다채널 영상 재생 방법 및 장치

Publications (1)

Publication Number Publication Date
JP2020524450A true JP2020524450A (ja) 2020-08-13

Family

ID=64742509

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019569808A Pending JP2020524450A (ja) 2017-06-29 2018-06-29 多チャネル映像のための伝送システム及びその制御方法、多チャネル映像再生方法及びその装置

Country Status (5)

Country Link
US (1) US20200213631A1 (ja)
EP (1) EP3621309A4 (ja)
JP (1) JP2020524450A (ja)
CN (1) CN110741648A (ja)
WO (1) WO2019004783A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113572975B (zh) * 2020-04-29 2023-06-06 华为技术有限公司 视频播放方法、装置及系统、计算机存储介质
US11910103B2 (en) * 2020-07-28 2024-02-20 Eys3D Microelectronics, Co. Electronic system and image aggregation method thereof
CN112911368A (zh) * 2021-01-15 2021-06-04 北京字跳网络技术有限公司 互动方法、装置、电子设备和存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10191261A (ja) * 1996-12-20 1998-07-21 Nippon Telegr & Teleph Corp <Ntt> 多視点映像再生方法
WO2007023698A1 (ja) * 2005-08-26 2007-03-01 Matsushita Electric Industrial Co., Ltd. 多重化方法および記録媒体
KR20070038918A (ko) * 2005-10-07 2007-04-11 한국전자통신연구원 다중 카메라 시스템에서 자유로운 기본설정 뷰의부호화/복호화 방법 및 그 장치
US20070103558A1 (en) * 2005-11-04 2007-05-10 Microsoft Corporation Multi-view video delivery
KR100780844B1 (ko) * 2006-04-28 2007-11-29 광주과학기술원 다시점 화상 복호화기, 다시점 화상 데이터 처리 시스템,다시점 화상 데이터 처리 방법 및 이를 수행하는프로그램을 기록한 기록매체
US20120098925A1 (en) * 2010-10-21 2012-04-26 Charles Dasher Panoramic video with virtual panning capability
JP2012094990A (ja) * 2010-10-25 2012-05-17 Duse Technologies Co Ltd 視点連動画像表示システム
JP2013183209A (ja) * 2012-02-29 2013-09-12 Nagoya Univ 多視点映像ストリーム視聴システムおよび方法
KR101399951B1 (ko) * 2013-07-25 2014-06-17 주식회사 넥스트이온 다시점 비디오 스트리밍 시스템 및 그 제공방법
US20150195611A1 (en) * 2013-11-27 2015-07-09 Next Aeon Inc. Multi-view video streaming system and providing method thereof
WO2016027977A1 (ko) * 2014-08-18 2016-02-25 정관호 360도 공간영상 재생방법 및 그 시스템

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100446558C (zh) * 2002-07-02 2008-12-24 松下电器产业株式会社 视频产生处理装置和视频产生处理方法
KR20070013718A (ko) * 2005-07-27 2007-01-31 주식회사 현대오토넷 휴대형 영상수신기의 채널변경시스템 및 방법
CN101742096A (zh) * 2010-01-21 2010-06-16 中华电信股份有限公司 多视角互动电视系统与方法
TWI530157B (zh) * 2013-06-18 2016-04-11 財團法人資訊工業策進會 多視角影像之顯示系統、方法及其非揮發性電腦可讀取紀錄媒體

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10191261A (ja) * 1996-12-20 1998-07-21 Nippon Telegr & Teleph Corp <Ntt> 多視点映像再生方法
WO2007023698A1 (ja) * 2005-08-26 2007-03-01 Matsushita Electric Industrial Co., Ltd. 多重化方法および記録媒体
KR20070038918A (ko) * 2005-10-07 2007-04-11 한국전자통신연구원 다중 카메라 시스템에서 자유로운 기본설정 뷰의부호화/복호화 방법 및 그 장치
US20070103558A1 (en) * 2005-11-04 2007-05-10 Microsoft Corporation Multi-view video delivery
KR100780844B1 (ko) * 2006-04-28 2007-11-29 광주과학기술원 다시점 화상 복호화기, 다시점 화상 데이터 처리 시스템,다시점 화상 데이터 처리 방법 및 이를 수행하는프로그램을 기록한 기록매체
US20120098925A1 (en) * 2010-10-21 2012-04-26 Charles Dasher Panoramic video with virtual panning capability
JP2012094990A (ja) * 2010-10-25 2012-05-17 Duse Technologies Co Ltd 視点連動画像表示システム
JP2013183209A (ja) * 2012-02-29 2013-09-12 Nagoya Univ 多視点映像ストリーム視聴システムおよび方法
KR101399951B1 (ko) * 2013-07-25 2014-06-17 주식회사 넥스트이온 다시점 비디오 스트리밍 시스템 및 그 제공방법
US20150195611A1 (en) * 2013-11-27 2015-07-09 Next Aeon Inc. Multi-view video streaming system and providing method thereof
WO2016027977A1 (ko) * 2014-08-18 2016-02-25 정관호 360도 공간영상 재생방법 및 그 시스템

Also Published As

Publication number Publication date
EP3621309A1 (en) 2020-03-11
WO2019004783A1 (ko) 2019-01-03
EP3621309A4 (en) 2020-12-02
US20200213631A1 (en) 2020-07-02
CN110741648A (zh) 2020-01-31

Similar Documents

Publication Publication Date Title
Niamut et al. MPEG DASH SRD: spatial relationship description
US20150208103A1 (en) System and Method for Enabling User Control of Live Video Stream(s)
US20150124048A1 (en) Switchable multiple video track platform
US10432987B2 (en) Virtualized and automated real time video production system
JP6255095B2 (ja) デジタルビデオストリーミングにおけるトリック再生
EP1871100A2 (en) Adaptive video processing using sub-frame metadata
JP2008199677A (ja) 映像配信システム
JP2006254366A (ja) 画像処理装置、カメラシステム、ビデオシステム、ネットワークデータシステム、並びに、画像処理方法
KR20180038256A (ko) Vr 스트림의 지연을 보상하는 방법 및 시스템
JP2020524450A (ja) 多チャネル映像のための伝送システム及びその制御方法、多チャネル映像再生方法及びその装置
JP2003158731A (ja) 映像配信システムとカメラ端末及び受信端末
US10764655B2 (en) Main and immersive video coordination system and method
KR20200001597A (ko) 다채널 영상 생성 방법, 다채널 영상 재생 방법 및 다채널 영상 재생 프로그램
Niamut et al. Live event experiences-interactive UHDTV on mobile devices
US20180227504A1 (en) Switchable multiple video track platform
JP6987567B2 (ja) 配信装置、受信装置及びプログラム
US20230199138A1 (en) Information processing device, information processing program, and recording medium
US11792442B2 (en) Methods and systems for providing a user with an image content
US11706375B2 (en) Apparatus and system for virtual camera configuration and selection
JP5940999B2 (ja) 映像再生装置、映像配信装置、映像再生方法、映像配信方法及びプログラム
KR102166054B1 (ko) 네트워크로부터 전송되는 스트리밍 영상을 재생하는 방법 및 장치
KR102124194B1 (ko) 영상분석을 위한 다채널 영상 전송 시스템 및 이의 제어 방법
KR101973190B1 (ko) 다채널 영상을 위한 전송 시스템 및 이의 제어 방법
JP6224522B2 (ja) 映像配信装置、映像配信方法及び映像配信プログラム
US20240146863A1 (en) Information processing device, information processing program, and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210224

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210928