JP5818603B2 - パノラマシーン内でのナビゲーション方法 - Google Patents

パノラマシーン内でのナビゲーション方法 Download PDF

Info

Publication number
JP5818603B2
JP5818603B2 JP2011205653A JP2011205653A JP5818603B2 JP 5818603 B2 JP5818603 B2 JP 5818603B2 JP 2011205653 A JP2011205653 A JP 2011205653A JP 2011205653 A JP2011205653 A JP 2011205653A JP 5818603 B2 JP5818603 B2 JP 5818603B2
Authority
JP
Japan
Prior art keywords
video
patch
zone
detection zone
user terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011205653A
Other languages
English (en)
Other versions
JP2012070378A5 (ja
JP2012070378A (ja
Inventor
ゴティエ,エリック
ルガレ,イヴォン
ローレン,アンソニー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2012070378A publication Critical patent/JP2012070378A/ja
Publication of JP2012070378A5 publication Critical patent/JP2012070378A5/ja
Application granted granted Critical
Publication of JP5818603B2 publication Critical patent/JP5818603B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41415Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance involving a public display, viewable by several users in a public space outside their home, e.g. movie theatre, information kiosk
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/631Multimode Transmission, e.g. transmitting basic layers and enhancement layers of the content over different transmission paths or transmitting with different error corrections, different keys or with different transmission protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/637Control signals issued by the client directed to the server or network components
    • H04N21/6373Control signals issued by the client directed to the server or network components for rate control, e.g. request to the server to modify its transmission rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2622Signal amplitude transition in the zone between image portions, e.g. soft edges
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2625Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2625Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
    • H04N5/2627Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect for providing spin image effect, 3D stop motion effect or temporal freeze effect

Description

本発明は、ユーザ端末に表示されるパノラマビデオシーケンス内でのナビゲーション方法に関する。
パノラマ画像を介したインタラクティブなナビゲーションを用いるインターネットサービスが、ここ数年、大きな成功を収めている。これらのサービスを用いて、ユーザは、とりわけ、著名なサイトからの視覚情報にアクセスして復元したり、街又は美術館を仮想的に訪れたり、建物内を仮想的に動き回ったりすることができる。これらのサービスは、画像ベースレンダリング(Image Based Rendering;IBR)として知られる技術に基づいている。IBRは、複雑な3Dモデル化ツールを用いてグラフィックモデルを構築することに代えて、実世界からの画像化をテクスチャとして用い、これらを、ユーザが内部をナビゲート(航行)することが可能な基本的な3Dオブジェクト、例えば、円筒、チューブ又は球などに適用する。IBR技術の主な欠点は、静止したシーンの再現しか可能にしないことである。
また、数年前、ビデオベースレンダリング(Video Based Rendering;VBR)として知られる技術が出現した。VBRにおいては、3Dオブジェクトに適用されるテクスチャはビデオストリームである。この技術によれば、幾つかの同期されたビデオストリームが、例えば、幾つかの視点を用いて動的シーン全体を捕捉するパノラマカメラによって生成される。そして、これらのストリームが処理されて3Dオブジェクトに適用される。ユーザは、この動的シーン内を、その中に入り込み且つ活動の中心にいるような感覚でナビゲートすることができる。
パノラマ画像を介したインタラクティブなナビゲーションに関連して、非特許文献1が知られている。この文献には、ユーザから到来するナビゲーションコマンドに従って、パノラマシーンのビデオストリームがサーバからユーザ端末に伝送される手順が記載されている。パノラマシーンのビデオストリームは、時間的に連続した一連のパノラマ画像(シーケンス)である。このパノラマビデオシーケンスの伝送を容易にするため、該シーケンスは、1つのモザイク(繋ぎ合わせ画像)を形成する所定サイズの複数の重なり合わないビデオ部分に分割される。これらのビデオ部分は、上記非特許文献1においてビデオパッチと呼ばれており、以下、本願においてもそのように呼ぶ。各ビデオパッチは、パノラマビデオシーケンスの1つの空間ゾーン(区画)に対応し、パノラマビュー内の特定の空間位置を提示する。ビデオパッチは、固定数又は可変数の連続した複数のビデオパッチを含むことができる。このパノラマビデオシーケンスのビデオパッチ群への分割を図1に示す。パノラマビデオシーケンス10は複数のビデオパッチ11に分割されている。各ビデオパッチはサーバで別々に符号化される。参照符号12を付したビデオシーケンスの部分は、ユーザ端末のスクリーンに表示されているシーケンス部分を表している。このゾーンは、ユーザ端末によって送信されたナビゲーションコマンドによって定められ、以下では視界ゾーンと称する。
図2は、視界ゾーン12の一例を示しており、視界ゾーン12が、参照符号11a乃至11dを付した幾つかのビデオパッチに重なっている。この場合、ユーザ端末が部分12を表示することができるよう、サーバは、少なくともこれら4つのビデオパッチをユーザ端末に送信しなければならない。
シーンに入り込んでいる印象をユーザが受けるよう、ユーザ端末のスクリーン上でのビデオパッチの表示は迅速且つ滑らかであることが必要である。この目的のため、上記非特許文献1では、ビデオパッチのプリフェッチ(先取り)処理が規定されている。この処理は、ビデオパッチが視界ゾーン12に含まれる前に、サーバにてそれらビデオパッチの送信をトリガーすることからなっている。クライアントが、パノラマビューの特定ゾーンに対応し且つ所与の提示(プレゼンテーション)タイムスタンプより後のビデオパッチを送信するようサーバに要求する。この提示タイムスタンプは、現在のタイムスタンプとパッチを受信するのに要する最大時間とに従って見積もられる。この処理はまた、現在の視界ゾーンに属するビデオパッチだけでなく、ユーザナビゲーションコマンドに従って視界ゾーンが何れかの方向に移動する場合に属することになりそうなビデオパッチをも、ユーザ端末にロードすることを含む。
この目的のため、例えば図3に示すように、各ビデオパッチ11に、該ビデオパッチ11の画像部分を取り囲む検出ゾーンと呼ぶ区画13が定められる。この例において、ビデオパッチの画像部分の境界、及びその検出ゾーンの境界は、画像部分の周囲全体で距離dだけ離隔されている。視界ゾーン12が検出ゾーン13に入ると、ビデオパッチ11をユーザ端末に送信するようサーバに求める要求が、サーバに送信される。
図4の例において、部分12は6個のビデオパッチ11a乃至11fの検出ゾーン13a乃至13fと重なっている。故に、ビデオパッチ11a乃至11dのみが部分的あるいは全体的に現在の視界ゾーン12内に含まれているものの、ビデオパッチ11a乃至11fが、ユーザ端末からの要求を受けてユーザ端末にプリフェッチされる。
ユーザ端末におけるビデオパッチのプリフェッチは、ユーザ端末による要求の送信とビデオパッチの受信との間の待ち時間を少なくとも部分的に解消することを可能にする。
検出ゾーン13の大きさは、良好なナビゲーション速度を得られるように要求が十分早期にサーバに送信されるよう十分に大きくされるが、大きすぎると、過大な数のビデオパッチをユーザ端末にプリフェッチすることになる(これらの一部は、その後、スクリーン上に表示されることはない)ので、ナビゲーションの滑らかさを損ねてしまう。実際には、検出ゾーンの大きさは、ナビゲーションの滑らかさとスピードとの間の良好な妥協点が得られるように定められなければならない。ナビゲーションの滑らかさはユーザ端末のプロセッサのロード(loading)能力に依存するが、該能力は、検出ゾーンの大きさ(より多くのデータがダウンロードされる)とともに低下する。逆に、ナビゲーション速度は、検出ゾーンの大きさに比例する(データをロードするのに、より多くの時間を要する)。しかしながら、この妥協点を決定することは常に容易なわけではない。
また、ナビゲーションの滑らかさ及びスピードは、ビデオパッチを輸送するネットワークのダイレクトチャネル及び/又は要求を輸送するリターンチャネルの規模によって影響され得る。
Carten Grunheit、Aljoscha Smolic、Thomas Wiegand、「Efficient representation and interactive streaming of high-resolution panoramic views」、ICIP 2002
本発明の1つの目的は、上述の欠点を少なくとも部分的に解決することを可能にするような、パノラマビデオシーケンス内でのインタラクティブ(対話式)ナビゲーション方法を提供することである。
本発明によれば、ユーザ端末へのビデオパッチの伝送のために少なくとも2つの別々の伝送ネットワークを使用することが提案される。
本発明の目的は、故に、ユーザ端末装置に表示されるパノラマビデオシーケンス内でのナビゲーション方法であって、パノラマビデオシーケンスは、該パノラマビデオシーケンスの一区画に各々が対応する複数の重なり合わないビデオ部分に分割され、該ビデオ部分はビデオパッチと呼ばれ、各ビデオパッチは、所定のサイズと、パノラマビデオシーケンス内の空間位置とを有し、ユーザ端末のスクリーンに表示される視界ゾーンと呼ぶパノラマビデオシーケンスの領域を形成するために必要とされるビデオパッチが、ナビゲーションコマンドに従って決定され、ビデオパッチはユーザ端末に、一部については第1の伝送ネットワークを介して、別の一部については第1の伝送ネットワークとは別個の第2の伝送ネットワークを介して提供されることを特徴とする方法である。
故に、二重ネットワークの使用により、ビデオパッチの伝送を2つのネットワークに分配することが可能になる。
好適な一実施形態によれば、第1の伝送ネットワークは、ブロードキャストネットワークとも呼ぶ一般用ブロードキャストネットワークであり、第2の伝送ネットワークは個人用ブロードキャストネットワークである。
特定の一モードにおいて、第2の伝送ネットワークは、リターン(戻り)チャネルを有するブロードバンドネットワークであり、該リターンチャネル上での要求の伝送後に、該ブロードバンドネットワークを介してビデオパッチがユーザ端末に伝送される。
これら2つの伝送ネットワークの使用は以下の利点を有する:
− 個人用ブロードキャストネットワークの帯域幅は、ブロードキャストネットワークの帯域幅より“高価”でなく、故に、グローバルネットワークの帯域幅を、一般用ブロードキャストネットワークより低いコストで増大させることができる;
− 個人用ブロードキャストネットワークは、全てのユーザ、特にデジタル加入者回線アクセス多重化装置(DSLAM)から遠隔のユーザに十分なビットレートが保証されることを可能にせず、このビットレートが増大されることをブロードキャストネットワークが可能にする。
本発明を用いると、サービス加入者は2つのネットワークにより伝送されるビデオパッチ一式へのアクセスを有するが、非加入者はこれらネットワークの一方で提供されるビデオパッチへのアクセスのみを有するような、インタラクティブなナビゲーションサービスの創造を検討することができる。
例えば、警察捜査番組の場合、加入者は手掛かりを見出すために犯罪シーン全体内でナビゲートすることができるが、非加入者は、一般用ブロードキャストネットワークによって伝送されるビデオパッチに対応した、シーンの一層限られた領域へのアクセスのみを有する。
別の1つの可能な用途は、スタジアムで開催されているスポーツイベントのパノラマ再伝送に関する。例えば、幾つかのスポーツ分野(例えば、砲丸投げ、高跳び、棒高飛び、幅跳びなど)が同時に行われる競技会の再伝送に関して、加入者はスタジアム全体を動き回ってそれらの分野の何れをも観ることができるが、非加入者は、放送で流布される単一の分野を観ることができるのみである。
非加入者もパノラマシーン全体にわたってナビゲートすることができるが、加入者のみがパノラマシーンの特定部分にズームすることができるサービスも検討することができる。この用途では、シーンのサブサンプリングされた部分に対応するビデオパッチが一般用ブロードキャストで伝送され、更なる解像度を提供するビデオパッチが個人用ブロードキャストネットワークを用いて伝送される。
ビデオパッチを伝送するためのこのような二重ネットワークの使用は、しかしながら、ユーザ端末レベルでの表示問題を生じさせる。実際には、プリフェッチ時間、ひいては、ビデオパッチのオンスクリーン表示は、その伝送を担うネットワークに従って異なり得る。一般用ブロードキャストネットワークの場合、全てのビデオパッチは事前の要求なしでブロードキャストされ、スクリーン上でのビデオパッチの提示時間は比較的短いものにすることができる。リターンチャネルを備えた個人用ブロードキャストネットワークの場合、ビデオパッチはユーザによる要求に応じて伝送されるのみであり、スクリーン上での提示時間は、サーバへの要求の伝送時間、サーバによる要求の処理時間、ユーザ端末へのビデオパッチの伝送時間、及びユーザ端末でのビデオパッチの復号化及び記憶のための時間を含む。なお、個人用ブロードキャストネットワーク上での伝送時間は、該ネットワークの状態に従って時間的に変化し得る。ビデオパッチプリフェッチ処理では、これらネットワーク間でのこの提示時間の不一致を考慮しなければならない。
1つの解決策は、速い方のネットワークからのビデオパッチをバッファメモリ内に置き、それらを遅い方のネットワークからのビデオパッチに揃えることによって、ビデオパッチの処理を同期させることからなる。しかしながら、この解決策は、先ずビデオパッチをプリフェッチし、その後、表示を遅延させるという対立する動作を含むものであるため、満足できるものではない。
本発明の一変形例によれば、速い方のネットワークから到来するビデオパッチの表示を遅延させる必要がないよう、遅い方の伝送ネットワークから到来するビデオパッチを十分早期にプリフェッチするという別の解決策が提案される。これは、各ビデオパッチに対して、上述のように規定されるもののサイズが該ビデオパッチを提供する伝送ネットワークに従う検出ゾーンを規定することによって達成される。遅い方のネットワークから到来するビデオパッチのプリフェッチが、他方のネットワークからのビデオパッチのそれより前になるよう、遅い方のネットワークによって伝送されるビデオパッチの検出ゾーンのサイズは、速い方のネットワークによって伝送されるビデオパッチのそれより大きくされる。
この目的のため、本発明に係る方法はまた、
各ビデオパッチに対して、該ビデオパッチを取り囲み且つ該ビデオパッチのサイズより大きいサイズを有する少なくとも1つの領域を規定するステップであり、該領域は検出ゾーンと呼ばれ、該ビデオパッチの検出ゾーンのサイズは、該ビデオパッチを提供する伝送ネットワークに従う、規定するステップと、
視界ゾーンがビデオパッチの検出ゾーン内に入ると、ユーザ端末のメモリ内への該ビデオパッチのプリフェッチが要求されるステップと、
プリフェッチされたビデオパッチ内に視界ゾーンが入ると、該ビデオパッチがユーザ端末のスクリーンに表示されるステップと、を有する。
本願において、ビデオパッチのプリフェッチは、ビデオパッチをユーザ端末にて受信し、必要に応じてそれを復号化し、且つそれを端末のメモリ内に記憶することからなる処理を意味すると理解される。リターンチャネル(端末からサーバへ)を有する伝送ネットワークの場合、このプリフェッチはまた、サーバによるビデオパッチの送信及びをトリガーするための要求の送信とそのビデオパッチの伝送との先行ステップを有する。
ブロードキャストネットワークによって提供されるビデオパッチのプリフェッチに要する時間は、とりわけ、ビデオパッチを輸送するサービスの逆多重化と、Iフレーム(フレーム内符号化(イントラフレームコーディング)を用いたフレーム)の受信待機時間と、ビデオパッチ復号化時間とを有する。
リターンチャネルを備えた個人用ブロードキャストネットワークによって提供されるビデオパッチのプリフェッチ時間は、とりわけ、ユーザ端末から第2のサーバへの要求の伝送時間と、第2のサーバによる該要求の処理時間と、第2のサーバとユーザ端末との間でのビデオパッチの伝送時間と、ビデオパッチの画像部分の復号化時間と、ユーザ端末におけるビデオパッチの記憶時間とを有する。
有利な一実施形態によれば、個人用ブロードキャストネットワークによって伝送されるビデオパッチはIフレームで開始され、該フレームの待機時間が排除される。
この実施形態においては、個人用ブロードキャストネットワークによって提供されるビデオパッチのプリフェッチ時間は、Iフレーム待機時間を含まないが、一般に、一般用ブロードキャストネットワークによって提供されるビデオパッチのそれより長いままである。
2つの伝送ネットワーク間でのこのプリフェッチ時間の差を少なくとも部分的に補償するため、個人用ブロードキャストネットワークによって提供されるビデオパッチの検出ゾーンのサイズが、一般用ブロードキャストネットワークによって提供されるビデオパッチの検出ゾーンのサイズより大きくされる。
特定の一実施形態によれば、画像部分の境界と検出ゾーンの境界とが、画像部分の全周にわたって所定の距離dだけ離隔される。
特定の一実施形態によれば、各ビデオパッチは、複数のレイヤにて符号化され、この目的のため、ベースレイヤと呼ぶベースビデオデータのレイヤと、少なくとも1つの、エンハンスメントレイヤと呼ぶ追加のビデオデータのレイヤとを有する。この実施形態において、ビデオパッチのベースレイヤ及びエンハンスメントレイヤの各々に対して検出ゾーンが規定され、対応する検出ゾーン内に視界ゾーンが入るときにベースレイヤ又はエンハンスメントレイヤのプリフェッチが要求される。
特定の一実施形態によれば、エンハンスメントレイヤの検出ゾーンのサイズは、ベースレイヤの検出ゾーンのサイズと異なる。例えば、エンハンスメントレイヤのプリフェッチがベースレイヤのプリフェッチより前に開始するよう、エンハンスメントレイヤの検出ゾーンがベースレイヤの検出ゾーンを包囲するようにされる。
特定の一実施形態によれば、第1の閾値速度と呼ぶ視界ゾーンの閾値移動速度がベースレイヤに関連付けられる。第1の閾値速度は、例えば、視界ゾーンの最大許容移動速度である。この実施形態において、ベースレイヤの検出ゾーンのサイズは、第1の閾値速度に従って決定される。
特定の一実施形態によれば、第2の閾値速度と呼ぶ視界ゾーンの移動閾値速度が各エンハンスメントレイヤに関連付けられ、該第2の閾値速度を上回ると、上記少なくとも1つのエンハンスメントレイヤの検出ゾーンに視界ゾーンが入ってもエンハンスメントレイヤはユーザ端末にプリフェッチされない。
特定の一実施形態によれば、各エンハンスメントレイヤの検出ゾーンのサイズは、とりわけ、第2の閾値速度に従って決定される。
有利な一実施形態によれば、プリフェッチされていない各エンハンスメントレイヤに対して、該エンハンスメントレイヤの検出ゾーンへの視界ゾーンの侵入と、該検出ゾーンからの視界ゾーンの退出との間に、視界ゾーンの直近の移動速度と該エンハンスメントレイヤに関連付けられた第2の閾値速度との周期的な比較が行われ、視界ゾーンの直近の移動速度が第2の閾値速度より低い場合、該エンハンスメントレイヤのプリフェッチが要求される。
最後に、有利な他の一実施形態によれば、プリフェッチされている各エンハンスメントレイヤに対して、該エンハンスメントレイヤの検出ゾーンへの視界ゾーンの侵入と、該検出ゾーンからの視界ゾーンの退出との間に、視界ゾーンの直近の移動速度と該エンハンスメントレイヤに関連付けられた第2の閾値速度との周期的な比較が行われ、視界ゾーンの直近の移動速度が第2の閾値速度より高い場合、該エンハンスメントレイヤのプリフェッチの中止が要求される。
添付図面を参照する以下の詳細な説明により、本発明は十分に理解され、その他の目的、細部、特徴及び利点が一層明瞭になるであろう。
複数のビデオパッチに分割されたパノラマビデオシーケンスを示す図である。 ユーザ端末のスクリーン上で見ることができるビデオシーケンスの部分と、この視界ゾーンに全体的あるいは部分的に含まれるビデオパッチとを示す図1の部分図である。 ビデオパッチの検出ゾーンを示す図である。 視界ゾーンに全体的あるいは部分的に含まれるビデオパッチの検出ゾーンを示す図1の部分図である。 一般用ブロードキャストネットワークを介して伝送されるビデオパッチと、個人用ブロードキャストネットワークを介して伝送されるビデオパッチとを特定する図である。 2つの別個の伝送ネットワークを介してユーザ端末に接続されたサーバを有するシステムを示す図である。 ビデオパッチの起源ネットワークに従った可変サイズの検出ゾーンを示す図である。 各ビデオパッチがベースレイヤ及びエンハンスメントレイヤに符号化され、これらのレイヤの各々に対して検出ゾーンが規定される特定の一実施形態を示す図である。 視界ゾーンがビデオパッチレイヤの検出ゾーンを出入りするときに実行される処理を示すフローチャートである。 その検出ゾーン内に視界ゾーンがあるレイヤの各々で実行される処理を示すフローチャートである。 ビデオパッチのサイズに対する検出ゾーンのサイズ計算を示す図である。 リターンチャネルを備えた個人用ブロードキャストネットワークからのビデオパッチのプリフェッチ時間を示す図である。
本発明によれば、例えばセットトップボックスに接続されたテレビジョンなどのユーザ端末のスクリーンに表示されるパノラマビデオシーケンスが複数のビデオパッチに分割され、これらのパッチが、少なくとも2つの別個の伝送ネットワークによって提供される。
これら2つのネットワークは好ましくは、リターンチャネルを有するか否かにかかわらず、一般用ブロードキャストネットワークと個人用ブロードキャストネットワークである。一般用ブロードキャストネットワーク(以下、ブロードキャストネットワークと呼ぶ)は、無線チャネル、衛星チャネル又はケーブルチャネルを介して、非常に多数のユーザにビデオをブロードキャストする。個人用ブロードキャストネットワークは、例えばこのネットワークを用いるサービスへの加入者といった、より限られた数のユーザにビデオデータをブロードキャストする。以下では、このネットワークを“ブロードバンドネットワーク”として参照する。このネットワークは、例えば、リターンチャネルを備えた、あるいは備えていない、広帯域ブロードキャストネットワークである。
以下では、ビデオパッチが、一部については、ブロードキャストネットワークを介して提供され、別の一部については、リターンチャネルを備えたブロードバンドネットワークを介して提供されるとする。
図1のパノラマビデオシーケンスを示す図5を参照するに、陰影を付けたゾーンのビデオパッチ14がブロードキャストネットワークを介して伝送され、それら以外のビデオパッチ(陰影ゾーンの外側)が、要求に応じて(オンデマンドで)、ブロードバンドネットワークを介して伝送されると考えることができる。
本発明に係る方法を実行可能なシステムを、図6に模式的に示す。このシステムは、パノラマビデオシーケンスが記憶されているサーバ20を有している。ビデオシーケンスは、ビデオパッチと呼ばれる空間的に重なり合わない複数のビデオ部分に分割される。各ビデオパッチは、例えばn×m画素といった所定サイズの長方形の形態の、ビデオシーケンスの1つの区画に対応する。ビデオシーケンス内でのビデオパッチの空間位置は、例えば、該ビデオパッチの左上の画素の座標(x,y)によって表される。これらのビデオパッチはサーバにて別々に符号化される。
ビデオパッチ群の一部、例えば図5の複数のビデオパッチ14は、サーバ20によってユーザ端末30に、サーバ20に接続された送信アンテナ40とユーザ端末30に接続された受信アンテナ41とを介する図6に示す“ブロードキャスト”ネットワークを介して提供される。パノラマ画像10のビデオパッチ群のその他の部分は、オンデマンドで、サーバ20によってユーザ端末30に、インターネット50と、一方でインターネット50に接続され且つ他方でユーザ端末30に接続された接続ゲートウェイ51と、を介する図6に示す“ブロードバンド”ネットワークを介して伝送される。
ユーザ端末30は、2つの伝送ネットワークからビデオパッチを受信して処理するとともにビデオパッチの送信要求を“ブロードバンド”ネットワークを介してサーバに送信することが可能なセットトップボックス31を有している。
ブロードキャストネットワークの場合、ビデオシーケンスは連続したビデオストリームであり、ビデオパッチも連続したストリームである。
“ブロードバンド”ネットワークの場合、ビデオパッチはサーバにてオンデマンドで提供される。それらは、所定の固定期間、又は可変期間を有する。第1のケース(固定期間)では、例えば、ビデオパッチデマンド要求の受信の後に、時間的に連続した所定数のビデオフレーム部分が端末に伝送される。第2のケース(可変期間)では、時間的に連続したビデオフレーム部分の数は、サーバに伝送されるビデオパッチデマンド要求内で指し示され、あるいは、ビデオパッチ送信デマンド要求及びサーバへの送信デマンド要求の終了によって定められる。
ビデオパッチは、有利には、サーバにてスケーラブルビデオ符号化(Scalable Video Coding;SVC)に従って符号化される。この目的のため、各ビデオパッチは、ベースビデオデータレイヤ(ベースレイヤと称する)と、追加のビデオデータの少なくとも1つのレイヤ(エンハンスメントレイヤと称する)とを有する。
有利には、ビデオパッチは、「Information Technology―Generic Coding of Moving Pictures and Audio:Systems:Transport of scalable video over ITU-T Rec. H.222.0」、ISO/IEC 13818-1、Amendment 3、2005年なる文献に記載されるような、SVCビデオデータレイヤを輸送することが可能なエレメンタリーストリームを有するMPEG2−TSトランスポートストリームにより、“ブロードキャスト”ネットワークを介して伝送される。
また、ビデオパッチは、有利には、R.Pantosによる「HTTP Live Streaming,draft-pantos-http-live-streaming-01」、アップル社、2009年6月なる文献に記載されるようなHTTPストリームにより、“ブロードバンド”ネットワークを介して輸送される。故に、ブロードバンドネットワークを介して輸送されるビデオパッチは、所定の固定期間を有する。
これら2つの輸送機構が全てのビデオパッチに対して同一のプログラムクロックリファレンス(Program Clock Reference;PCR)を用いてTS(トランスポートストリーム)パケットを配信する場合、これら2つの同期化は、デジタルテレビジョンにて一般的に使用される技術に従う。
一変形例として、“ブロードバンド”ネットワークに採用される輸送プロトコルは、RTSPスイッチングプロトコルに関連付けられ得るRTP/UDP/IPプロトコルである。
ビデオパッチの区画を取り囲む少なくとも1つの検出ゾーンが、各ビデオパッチに対して規定される。
本発明の1つの重要な特徴によれば、“ブロードバンド”ネットワークによって提供されるビデオパッチの検出ゾーンのサイズは、“ブロードキャスト”ネットワークによって提供されるビデオパッチの検出ゾーンのサイズより大きい。この特徴を図7に例示する。
図7は、各行3個の2行のビデオパッチに従って隣接配置された6個のビデオパッチ71a乃至71fを示している。ビデオパッチ71a乃至71dは“ブロードキャスト”ネットワークを介してユーザ端末に提供され、ビデオパッチ71e及び71fは、要求に応じて、“ブロードバンド”ネットワークを介して提供される。これらのビデオパッチ71a乃至71fの検出ゾーンは、図7においてそれぞれ73a乃至73fで参照されている。この図から見て取れるように、ブロードバンドネットワークを介して提供されるビデオパッチの検出ゾーン73e及び73fのサイズは、サーバ20による送信時間及び要求の処理、並びにブロードバンドネットワークを介して提供されるビデオパッチの伝送時間を補償するよう、ブロードキャストネットワークを介して提供されるビデオパッチの検出ゾーン73a乃至73dのサイズより大きくされている。
図7において参照符号72を付した視界ゾーンがビデオパッチの検出ゾーン内に入るとき、該ビデオパッチをプリフェッチするための命令(コマンド)がセットトップボックス31にて発せられる。
図7の例において、ゾーン72が少なくとも部分的に検出ゾーン73a乃至73fに及んでいるとすると、ビデオパッチ71a乃至71fのプリフェッチのためのコマンドが発せられる。これら異なる複数のパッチのプリフェッチコマンドは、同時に送信されるのではなく、視界ゾーンの移動に従う。図7の矢印により表される移動を参照すると、先ずパッチ71a乃至71bが要求され、次いでパッチ71c及び71dが要求され、最後にパッチ71e及び71fが要求される。
ビデオパッチ71a乃至71dのフレームに関して、これらは、ブロードキャストネットワークによって配信されると、それらの提示時間まで、あるいは検出ゾーンからの退出まで延長される期間にわたって、セットトップボックス31のメモリ内にプリフェッチされる。
ビデオパッチ71e及び71fに関して、これらのビデオパッチの各々に対して要求がブロードバンドネットワークを介してサーバ20に送信されることで、サーバは対応するフレームをブロードバンドネットワークを介してユーザ端末30に送信する。有利な一実施形態によれば、サーバ20によって送信されるビデオパッチはSVCモードに従って符号化され、送信される各ビデオパッチレイヤに対して、検出ゾーン、とりわけ、ベースレイヤのベース検出ゾーン及び各エンハンスメントレイヤの追加検出ゾーン、が規定される。この実施形態を図8に示す。
この図において、各ビデオパッチ71a乃至71fは、ベースレイヤとエンハンスメントレイヤとを有する。各ビデオパッチ71a乃至71fは、それぞれ、そのベースレイヤの検出ゾーン730a乃至730fと、そのエンハンスメントレイヤの検出ゾーン731a乃至731fとを有する。この実施形態において、エンハンスメントレイヤの検出ゾーンは、ベースレイヤの検出ゾーンを包囲している。故に、この実施形態において、エンハンスメントレイヤのプリフェッチは、その他の基準がなければ、ベースレイヤのプリフェッチの前に開始することができる。
しかしながら、有利な一実施形態によれば、エンハンスメントレイヤをプリフェッチすることの決定は、視界ゾーンの移動速度Vに従って行われる。単純化のため、図7及び8において視界ゾーン12はX方向にのみ移動しているとする。しかし、当然ながら、本発明に係る方法は、視界ゾーン12が全ての方向に移動する場合にも適用されることができる。
この実施形態において、ユーザ端末30は、視界ゾーン12の位置、その移動方向及びその移動速度を定期的に決定する。ベースレイヤ又はエンハンスメントレイヤをダウンロードすることの決定は、図9のフローチャートに従って行われる。
このフローチャートによれば、最初の段階(ステップ90)は、その検出ゾーン内に視界ゾーンが存在するベースレイヤ及びエンハンスメントレイヤについて、それらレイヤのプリフェッチを要求することによって処理を開始することからなる。これらのレイヤの各々のリファレンス(参照記号)が、Lレイヤと呼ぶリストに格納される。プリフェッチされるレイヤのデータ提示タイムスタンプは、該レイヤが表示されなければならない時点で該レイヤが受信されているように見積もられている。そして、ビデオパッチレイヤの検出ゾーンの境界が横断されるかが検証される(ステップ91)。横断される場合、それがビデオパッチレイヤの検出ゾーンへの侵入に関するものであるかが検証される(ステップ92)。これが当てはまらない場合、視界ゾーン全体が該検出ゾーンを退出したかが検証される(ステップ96)。そうである場合、このレイヤのプリフェッチが終了され(ステップ97)、このレイヤのリファレンスがリストLレイヤから消去され、且つステップ91が再開される。視界ゾーンの全体が該検出ゾーンを退出したわけではない場合、ステップ91へと戻る。上記横断がレイヤの検出ゾーンへの侵入に関するものである場合には、視界ゾーンの移動速度が、該レイヤに関連付けられた所定の閾値速度と比較される(ステップ93)。視界ゾーンの移動速度が閾値速度より高い、あるいは等しい場合、該レイヤはプリフェッチされず、該レイヤのリファレンスがリストLレイヤに追加され(ステップ95)、且つステップ91が再開される。視界ゾーンの移動速度が閾値速度より低い場合には、該検出ゾーンに関連するレイヤのプリフェッチがトリガーされ(ステップ94)、そして、処理がステップ91にて再び開始する。
この方法に従って、エンハンスメントレイヤのプリフェッチは、視界ゾーンの移動速度が、該エンハンスメントレイヤに関連付けられた例えば毎秒数百画素といった閾値速度より遅い場合にのみ引き起こされる。実際、視界ゾーンが非常に速く移動する場合、エンハンスメントレイヤはユーザ体験を向上させず、このレイヤのプリフェッチをトリガーする必要はない。しかしながら、ベースレイヤのプリフェッチは、ベースレイヤの閾値速度を視界ゾーンの最高移動速度より高く、あるいは等しく固定することによって、視界ゾーンの移動速度がどのようなものであろうと体系的にトリガーされるように設計される。
ビデオパッチが、例えばミディアムレイヤ(中間レベル)及びハイレイヤ(高レベル)といった幾つかのエンハンスメントレイヤを有する場合、閾値速度は有利には、これら2つのエンハンスメントレイヤごとに規定され、ミディアムレイヤの閾値速度は好ましくは、ハイレイヤの閾値速度より高くされる。
ベースレイヤの検出ゾーンへの視界ゾーンの侵入後、確実に、ビデオパッチベースレイヤのプリフェッチはトリガーされている。何故なら、このレイヤのプリフェッチは、視界ゾーンの移動速度がどのようなものであろうと行われる(ベースレイヤの閾値速度は視界ゾーンの最高移動速度より高くされている)からである。しかしながら、エンハンスメントレイヤ(群)のプリフェッチは、視界ゾーンの移動速度が、これらエンハンスメントレイヤの検出ゾーンへの侵入時点で、関連付けられた閾値速度より高かった場合にはトリガーされていないことがあり得る。しかし、ベースレイヤの検出ゾーン内での視界ゾーンの移動中に、移動速度が変化していることがある。例えば、視界ゾーンの移動速度は、エンハンスメントレイヤの検出ゾーンへの視界ゾーンの侵入と、この検出ゾーンからのその退出との間に低下して、エンハンスメントレイヤに関連付けられた閾値速度を下回ることがある。その場合、表示されるビデオデータにエンハンスメントレイヤが存在しないこと(低解像度)は、スクリーン上で目立つものとなり得る。
有利な一実施形態によれば、プリフェッチされるべきエンハンスメントレイヤの数を視界ゾーンの瞬間的な移動速度に従って適応する周期的な検証処理が提供される。この処理を図10に示す。この処理は、その検出ゾーン内に視界ゾーンが存在しているレイヤ、すなわち、上述のLレイヤなるリストにて参照されるレイヤ、の各々に適用される。
ステップ100によれば、そのレイヤのプリフェッチが行われているかを確認するための検証が行われる。行われている場合、時間調整処理が行われる。すなわち、検証処理を休止し、期間tempo1の間、要求されたタイムスタンプの該レイヤのプリフェッチの終了を待ち、そして、プリフェッチが終了したことが検証される(ステップ102)。期間tempo1は、プリフェッチがトリガーされているレイヤについて、そのレイヤの表示準備が整ったかを検証する前の待機時間を表す。この時間調整値は、そのレイヤの提示タイムスタンプと現在のタイムスタンプとの差である。
視界ゾーンの移動速度がそのレイヤの閾値速度より高かったために、そのレイヤのプリフェッチがトリガーされていない場合、期間tempo2の間、時間調整ステップが行われ(ステップ104)、その後、視界ゾーンの移動速度とそのレイヤの閾値速度とが比較される(ステップ105)。
視界ゾーンの移動速度が閾値速度より高い場合、ステップ104に戻る。そうでない場合、プリフェッチ要求が為され(ステップ106)、その後、ステップ101へと進む。期間tempo2は、プリフェッチがトリガーされていないレイヤについて、視界ゾーンの移動速度とそのレイヤの閾値速度との二度の比較検査間の期間を表す。この期間はレイヤごとに異なり得る。この期間は、例えば、視界ゾーンが該レイヤの検出ゾーンを閾値速度で横断するために要する時間に相当する。
ステップ102にて、プリフェッチが終了している場合、そのレイヤの検出ゾーン内に視界ゾーンがある間、後のタイムスタンプの該レイヤをプリフェッチすることからなる正規モードに戻る(ステップ103)。
しかしながら、プリフェッチが終了していない場合には、そのレイヤは表示されているべき時点より後に到着することになるため、進行中のプリフェッチは停止され(ステップ107)、この方法は、後の提示タイムスタンプを有する該レイヤのプリフェッチを再び要求することからなるステップ106へと進む。
この処理によれば、視界ゾーンの移動速度がエンハンスメントレイヤに関連付けられた閾値速度より低くなっており且つ該レイヤの検出ゾーンが依然として視界ゾーンに含まれていてもエンハンスメントレイヤがプリフェッチされていない場合、該エンハンスメントレイヤはその後にプリフェッチされる。
この処理は主にエンハンスメントレイヤ向けのものではあるが、ベースレイヤにも等しく適用され得る。実際、ベースレイヤのプリフェッチは、ベースレイヤの検出ゾーン内に視界ゾーンが入るや否や体系的にトリガーされるものの、ネットワーク又はサーバに関係する問題により、表示されているべき時点にパッチが受信されていないことがあり得る。このアルゴリズムは、そのような問題が起こる場合にプリフェッチを再度開始することを可能にする。
有利には、エンハンスメントレイヤのプリフェッチを停止させる処理が、視界ゾーンの移動速度が突然高くなって該エンハンスメントレイヤに関連付けられた閾値速度を上回る場合のために計画され得る。この処理は、ステップ102と102との間の検査ステップによって実行され得る。
ベースレイヤ又はエンハンスメントレイヤのプリフェッチが十分早期に開始されることを確保するため、検出ゾーンのサイズは好ましくは、視界ゾーンの移動速度に適応される。検出ゾーンのサイズは、例えば、以下のように計算される。例えばnx×ny個の画素を有する長方形のビデオ部分110と、ビデオパッチのレイヤjに関する該ビデオ部分を包囲する[nx+2Δnx(j)]×[ny+2Δny(j)]個の画素を有する長方形の検出ゾーン111jとを考える。この例を図11に示す。
例えば、レイヤ0はベースレイヤに関係し、レイヤ1はミディアムエンハンスメントレイヤに関係し、レイヤ2はハイエンハンスメントレイヤに関係する。
特定の一実施形態によれば、Δnx(j)は、
Δnx(j)≧閾値速度_x(j)×プリフェッチ時間(j)
のように計算される。ここで、閾値速度_x(j)は、画素/秒で表されるレイヤjのx方向の閾値速度を表し、プリフェッチ時間(j)は、ビデオパッチのレイヤjの少なくとも1つのIフレーム(イントラフレームコーディングを用いたフレーム)を取得して復号化する所要時間を表す。
エンハンスメントレイヤの閾値速度は、そのレイヤのプリフェッチの決定のために先に使用された閾値速度に相当する。ベースレイヤの閾値速度は、パノラマシーン内での視界ゾーンの移動に許容される最高速度に相当する。
ビデオパッチレイヤのプリフェッチ時間は、そのレイヤを伝送するために使用される伝送ネットワークに従って異なるものになる。
ブロードキャストネットワークにおいては、視界ゾーンが検出ゾーンに入るときに、ビデオパッチの全てが(要求なしで)ブロードキャストされて端末に提供され、端末がそれらをプリフェッチする。視界ゾーンが或る検出ゾーンに入るとき、必ずしもビデオパッチのIフレームが既に端末によって受信されているわけではなく、そのときには待機するのが最良である。故に、プリフェッチ時間は検出ゾーンへの侵入と、ビデオパッチがユーザスクリーン上で置き直されることが可能になる時点との間の期間に対応する。このプリフェッチ時間は、故に、ビデオパッチの表示の前に、逆多重化、次のIフレームの待機、デコーディング・バッファの充填、及びビデオフレームの復号化・記憶・並び替えに要する時間を含む。
ブロードバンドネットワークにおいては、ビデオパッチがネットワークによって提供されるのは、それ以前に端末によってサーバに要求されている場合のみである。この場合、プリフェッチ時間は、図12に示すように、
プリフェッチ時間=T1+T2+T3+T4
と定められる。ここで、
T1は、サーバへの要求の伝送時間であり、
T2は、サーバによる要求の処理時間であり、
T3は、端末へのビデオパッチの伝送時間であり、
T4は、端末でのビデオパッチの記憶及び復号化の時間である。
T2はサーバに依存し、T4は端末に依存する。T1及びT3はネットワークの往復遅延時間(Round-Trip Delay Time;RTT)に依存する。T3はまた、ネットワーク帯域幅、ビデオパッチのサイズ、及び伝送プロトコル(HTTP、RTPなど)によって導入されるシグナリングに依存する。
故に、本発明によれば、ビデオパッチの検出ゾーンのサイズは、それを提供することを担うネットワークに従って定められる。また、ビデオパッチのプリフェッチの発生及び/又は継続は、視界ゾーンの移動速度に従って決定される。
相異なる特定の実施形態に関して本発明を説明してきたが、明らかなように、本発明は、それらに限定されるものではなく、本発明の範囲に入る限りにおいてのそれらの組み合わせ、及び説明した手段に技術的に均等なものの全てを含むものである。
(付記1) ユーザ端末装置における、該ユーザ端末装置に表示されるパノラマビデオシーケンス内でのナビゲーション方法であって、前記パノラマビデオシーケンスは、前記パノラマビデオシーケンスの一区画に各々が対応する複数の重なり合わないビデオ部分に分割され、該ビデオ部分はビデオパッチと呼ばれ、各ビデオパッチは、所定のサイズと、前記パノラマビデオシーケンス内の空間位置とを有し、前記ユーザ端末のスクリーンに表示される視界ゾーンと呼ぶ前記パノラマビデオシーケンスの領域を形成するために必要とされるビデオパッチが、ナビゲーションコマンドに従って決定され、当該方法は:
前記ナビゲーションコマンド及び前記パノラマビデオシーケンス内での前記視界ゾーンの位置に従って、幾つかの第1のビデオパッチが、第1の伝送ネットワークを介して前記ユーザ端末に提供され、且つ幾つかの第2のビデオパッチが、前記第1の伝送ネットワークとは別個の第2の伝送ネットワークを介して前記ユーザ端末に提供されることを特徴とし、当該方法は:
前記第1及び第2のビデオパッチの各々に対して、該ビデオパッチを取り囲み且つ前記ビデオパッチのサイズより大きいサイズを有する少なくとも1つの領域を規定するステップであり、該領域は検出ゾーンと呼ばれ、該ビデオパッチの前記検出ゾーンのサイズは、該ビデオパッチを提供する前記伝送ネットワークに従う、規定するステップと、
前記視界ゾーンがビデオパッチの前記検出ゾーン内に入ると、前記ユーザ端末のメモリ内への該ビデオパッチのプリフェッチが要求されるステップと、
プリフェッチされたビデオパッチ内に前記視界ゾーンが入ると、該ビデオパッチが前記ユーザ端末の前記スクリーンに表示されるステップと、
を有することを更なる特徴とする、方法。
(付記2) 前記第1の伝送ネットワークは一般用ブロードキャストネットワークであり、前記第2の伝送ネットワークは個人用ブロードキャストネットワークである、ことを特徴とする付記1に記載の方法。
(付記3) 前記第2の伝送ネットワークは、リターンチャネルを有するブロードバンドネットワークであり、該リターンチャネル上での要求の伝送後に、該ブロードバンドネットワークを介して前記ビデオパッチが前記ユーザ端末に伝送される、ことを特徴とする付記2に記載の方法。
(付記4) 前記第2の伝送ネットワークを介して提供される前記第2のビデオパッチの前記検出ゾーンのサイズは、前記第1の伝送ネットワークを介して提供される前記第1のビデオパッチの前記検出ゾーンのサイズより大きい、ことを特徴とする付記1乃至3の何れかに記載の方法。
(付記5) 各ビデオパッチは、ベースレイヤと呼ぶベースビデオデータレイヤと、少なくとも1つの、エンハンスメントレイヤと呼ぶ追加のビデオデータレイヤとに符号化され、前記ビデオ部分の前記ベースレイヤ及び前記エンハンスメントレイヤの各々に対して検出ゾーンが規定され、対応する検出ゾーン内に前記視界ゾーンが入るときに前記ベースレイヤ又は前記エンハンスメントレイヤのプリフェッチが要求される、ことを特徴とする付記4に記載の方法。
(付記6) 前記少なくとも1つのエンハンスメントレイヤの前記検出ゾーンのサイズは、前記ベースレイヤの前記検出ゾーンのサイズより大きい、ことを特徴とする付記5に記載の方法。
(付記7) 第1の閾値速度と呼ぶ前記視界ゾーンの移動閾値速度が前記ベースレイヤに関連付けられ、前記ベースレイヤの前記検出ゾーンのサイズは、前記第1の閾値速度に従って決定される、ことを特徴とする付記5又は6に記載の方法。
(付記8) 第2の閾値速度と呼ぶ前記視界ゾーンの移動閾値速度が前記エンハンスメントレイヤに関連付けられ、該第2の閾値速度を上回ると、前記少なくとも1つのエンハンスメントレイヤの前記検出ゾーンに前記視界ゾーンが入っても前記エンハンスメントレイヤはプリフェッチされない、ことを特徴とする付記5乃至7の何れか一に記載の方法。
(付記9) 前記少なくとも1つのエンハンスメントレイヤの前記検出ゾーンのサイズは、前記第2の閾値速度に従って決定される、ことを特徴とする付記8に記載の方法。
(付記10) プリフェッチされていない各エンハンスメントレイヤに対して、該エンハンスメントレイヤの前記検出ゾーンへの前記視界ゾーンの侵入と、該検出ゾーンからの前記視界ゾーンの退出との間に、前記視界ゾーンの直近の移動速度と該エンハンスメントレイヤに関連付けられた前記第2の閾値速度との周期的な比較が行われ、前記視界ゾーンの前記直近の移動速度が前記第2の閾値速度より低い場合、該エンハンスメントレイヤのプリフェッチが要求される、ことを特徴とする付記8又は9に記載の方法。
(付記11) プリフェッチされている各エンハンスメントレイヤに対して、該エンハンスメントレイヤの前記検出ゾーンへの前記視界ゾーンの侵入と、該検出ゾーンからの前記視界ゾーンの退出との間に、前記視界ゾーンの直近の移動速度と該エンハンスメントレイヤに関連付けられた前記第2の閾値速度との周期的な比較が行われ、前記視界ゾーンの前記直近の移動速度が前記第2の閾値速度より高い場合、該エンハンスメントレイヤのプリフェッチの終了が要求される、ことを特徴とする付記8乃至10の何れか一に記載の方法。
(付記12) ビデオデコーダを有する装置であって:
パノラマビデオシーケンス上でナビゲーションコマンドによってビデオパッチを選択する手段と、
第1の伝送ネットワークから第1のビデオパッチを受信する手段と、
双方向ネットワークである第2の伝送ネットワークから第2のビデオパッチを受信するための要求を遠隔サーバに送信する手段と、
前記第2の伝送ネットワークから前記第2のビデオパッチを受信する手段と、
前記第1及び第2のビデオパッチを復号化して表示する手段と、
を有することを特徴とする装置。
10 パノラマ画像(パノラマビデオシーケンス)
11、14 ビデオパッチ
12 視界ゾーン
20 サーバ
30 ユーザ端末
71、110 ビデオパッチ(ビデオ部分)
72 視界ゾーン
73、111 検出ゾーン
730 ベースレイヤの検出ゾーン
731 エンハンスメントレイヤの検出ゾーン

Claims (11)

  1. ユーザ端末装置における、該ユーザ端末装置に表示されるパノラマビデオシーケンス内でのナビゲーション方法であって、前記パノラマビデオシーケンスは、前記パノラマビデオシーケンスの一区画に各々が対応する複数の重なり合わないビデオ部分に分割され、該ビデオ部分はビデオパッチと呼ばれ、各ビデオパッチは、所定のサイズと、前記パノラマビデオシーケンス内の空間位置とを有し、前記ユーザ端末のスクリーンに表示される視界ゾーンと呼ぶ前記パノラマビデオシーケンスの領域を形成するために必要とされるビデオパッチが、ナビゲーションコマンドに従って決定され、当該方法は:
    前記パノラマビデオシーケンスの一部に対応する幾つかの第1のビデオパッチを、第1の伝送ネットワークを介して前記ユーザ端末に提供するステップと、
    前記ナビゲーションコマンド及び前記パノラマビデオシーケンス内での前記視界ゾーンの位置に従って、前記パノラマビデオシーケンスの残りの部分に対応する幾つかの第2のビデオパッチを、前記第1の伝送ネットワークとは別個の第2の伝送ネットワークを介して前記ユーザ端末に提供するステップであり、前記第2の伝送ネットワークはリターンチャネルを有する、ステップと
    を有し、当該方法は更に:
    前記第1及び第2のビデオパッチの各々に対して、該ビデオパッチを取り囲み且つ前記ビデオパッチのサイズより大きいサイズを有する少なくとも1つの領域を規定するステップであり、該領域は検出ゾーンと呼ばれ、該ビデオパッチの前記検出ゾーンのサイズは、該ビデオパッチを提供する前記伝送ネットワークに従う、規定するステップと、
    前記視界ゾーンが前記第2のビデオパッチからのビデオパッチの前記検出ゾーン内に入ると、前記ユーザ端末のメモリ内への該第2のビデオパッチのプリフェッチが要求されるステップと、
    前記ユーザ端末の前記メモリ内で利用可能なビデオパッチ内に前記視界ゾーンが入ると、該ビデオパッチが前記ユーザ端末の前記スクリーンに表示されるステップと
    を有する、方法。
  2. 前記第2の伝送ネットワークは、リターンチャネルを有するブロードバンドネットワークであり、該リターンチャネル上での要求の伝送後に、該ブロードバンドネットワークを介して前記ビデオパッチが前記ユーザ端末に伝送される、ことを特徴とする請求項1に記載の方法。
  3. 前記第2の伝送ネットワークを介して提供される前記第2のビデオパッチの前記検出ゾーンのサイズは、前記第1の伝送ネットワークを介して提供される前記第1のビデオパッチの前記検出ゾーンのサイズより大きい、ことを特徴とする請求項1に記載の方法。
  4. 各ビデオパッチは、ベースレイヤと呼ぶベースビデオデータレイヤと、少なくとも1つの、エンハンスメントレイヤと呼ぶ追加のビデオデータレイヤとに符号化され、前記ビデオ部分の前記ベースレイヤ及び前記エンハンスメントレイヤの各々に対して検出ゾーンが規定され、対応する検出ゾーン内に前記視界ゾーンが入るときに前記ベースレイヤ又は前記エンハンスメントレイヤのプリフェッチが要求される、ことを特徴とする請求項3に記載の方法。
  5. 前記少なくとも1つのエンハンスメントレイヤの前記検出ゾーンのサイズは、前記ベースレイヤの前記検出ゾーンのサイズより大きい、ことを特徴とする請求項4に記載の方法。
  6. 第1の閾値速度と呼ぶ前記視界ゾーンの移動閾値速度が前記ベースレイヤに関連付けられ、前記ベースレイヤの前記検出ゾーンのサイズは、前記第1の閾値速度に従って決定される、ことを特徴とする請求項5に記載の方法。
  7. 第2の閾値速度と呼ぶ前記視界ゾーンの移動閾値速度が前記エンハンスメントレイヤに関連付けられ、該第2の閾値速度を上回ると、前記少なくとも1つのエンハンスメントレイヤの前記検出ゾーンに前記視界ゾーンが入っても前記エンハンスメントレイヤはプリフェッチされない、ことを特徴とする請求項5に記載の方法。
  8. 前記少なくとも1つのエンハンスメントレイヤの前記検出ゾーンのサイズは、前記第2の閾値速度に従って決定される、ことを特徴とする請求項7に記載の方法。
  9. プリフェッチされていない各エンハンスメントレイヤに対して、該エンハンスメントレイヤの前記検出ゾーンへの前記視界ゾーンの侵入と、該検出ゾーンからの前記視界ゾーンの退出との間に、前記視界ゾーンの直近の移動速度と該エンハンスメントレイヤに関連付けられた前記第2の閾値速度との周期的な比較が行われ、前記視界ゾーンの前記直近の移動速度が前記第2の閾値速度より低い場合、該エンハンスメントレイヤのプリフェッチが要求される、ことを特徴とする請求項7に記載の方法。
  10. プリフェッチされている各エンハンスメントレイヤに対して、該エンハンスメントレイヤの前記検出ゾーンへの前記視界ゾーンの侵入と、該検出ゾーンからの前記視界ゾーンの退出との間に、前記視界ゾーンの直近の移動速度と該エンハンスメントレイヤに関連付けられた前記第2の閾値速度との周期的な比較が行われ、前記視界ゾーンの前記直近の移動速度が前記第2の閾値速度より高い場合、該エンハンスメントレイヤのプリフェッチの終了が要求される、ことを特徴とする請求項7に記載の方法。
  11. パノラマビデオシーケンス内でナビゲーションするためのユーザ端末装置であって、前記パノラマビデオシーケンスは、前記パノラマビデオシーケンスの一区画に各々が対応する複数の重なり合わないビデオ部分に分割され、該ビデオ部分はビデオパッチと呼ばれ、各ビデオパッチは、所定のサイズと、前記パノラマビデオシーケンス内の空間位置とを有し、当該ユーザ端末装置のスクリーンに表示される視界ゾーンと呼ぶ前記パノラマビデオシーケンスの領域を形成するために必要とされるビデオパッチが、ナビゲーションコマンドに従って決定され、当該ユーザ端末装置は、
    第1の伝送ネットワークを介して、前記パノラマビデオシーケンスの一部に対応する幾つかの第1のビデオパッチを受信する手段であり、前記第1の伝送ネットワークはブロードキャストネットワークである、受信する手段と、
    前記ナビゲーションコマンド及び前記パノラマビデオシーケンス内での前記視界ゾーンの位置に従って、前記パノラマビデオシーケンスの残りの部分に対応する幾つかの第2のビデオパッチを、前記第1の伝送ネットワークとは別個の第2の伝送ネットワークを介して受信する手段であり、前記第2の伝送ネットワークはリターンチャネルを有する、受信する手段と、
    前記第1及び第2のビデオパッチの各々に対して、該ビデオパッチを取り囲み且つ前記ビデオパッチのサイズより大きいサイズを有する少なくとも1つの領域を規定する手段であり、該領域は検出ゾーンと呼ばれ、該ビデオパッチの前記検出ゾーンのサイズは、該ビデオパッチを提供する前記伝送ネットワークに従う、規定する手段と、
    前記視界ゾーンが前記第2のビデオパッチからのビデオパッチの前記検出ゾーン内に入ると、当該ユーザ端末装置のメモリ内に該第2のビデオパッチをプリフェッチする手段と、
    当該ユーザ端末装置の前記メモリ内で利用可能なビデオパッチ内に前記視界ゾーンが入ると、該ビデオパッチを当該ユーザ端末装置の前記スクリーンに表示する手段と
    を有する、ユーザ端末装置。
JP2011205653A 2010-09-22 2011-09-21 パノラマシーン内でのナビゲーション方法 Active JP5818603B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1057601 2010-09-22
FR1057601 2010-09-22

Publications (3)

Publication Number Publication Date
JP2012070378A JP2012070378A (ja) 2012-04-05
JP2012070378A5 JP2012070378A5 (ja) 2014-10-23
JP5818603B2 true JP5818603B2 (ja) 2015-11-18

Family

ID=43920332

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011205653A Active JP5818603B2 (ja) 2010-09-22 2011-09-21 パノラマシーン内でのナビゲーション方法

Country Status (5)

Country Link
US (1) US9232257B2 (ja)
EP (1) EP2434772B1 (ja)
JP (1) JP5818603B2 (ja)
KR (1) KR101819097B1 (ja)
CN (1) CN102413376B (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9838687B1 (en) * 2011-12-02 2017-12-05 Amazon Technologies, Inc. Apparatus and method for panoramic video hosting with reduced bandwidth streaming
FR2988964A1 (fr) * 2012-03-30 2013-10-04 France Telecom Technique de distribution d'un contenu video de type immersif
EP2824883A1 (en) * 2013-07-12 2015-01-14 Alcatel Lucent A video client and video server for panoramic video consumption
EP2824884A1 (en) * 2013-07-12 2015-01-14 Alcatel Lucent A video client for smooth display of a panoramic video
US9699437B2 (en) * 2014-03-03 2017-07-04 Nextvr Inc. Methods and apparatus for streaming content
DE102014205485A1 (de) * 2014-03-25 2015-10-01 Siemens Aktiengesellschaft Verfahren zur Übertragung digitaler Bilder aus einer Bilderfolge
US10204658B2 (en) * 2014-07-14 2019-02-12 Sony Interactive Entertainment Inc. System and method for use in playing back panorama video content
US20160277772A1 (en) * 2014-09-30 2016-09-22 Telefonaktiebolaget L M Ericsson (Publ) Reduced bit rate immersive video
US9934823B1 (en) * 2015-08-27 2018-04-03 Amazon Technologies, Inc. Direction indicators for panoramic images
US11699266B2 (en) * 2015-09-02 2023-07-11 Interdigital Ce Patent Holdings, Sas Method, apparatus and system for facilitating navigation in an extended scene
CN107197135B (zh) * 2016-03-21 2021-04-06 成都理想境界科技有限公司 一种视频生成方法及视频生成装置
JP7022077B2 (ja) * 2016-05-25 2022-02-17 コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ 空間的にタイリングされた全方位ビデオのストリーミング
US10841566B2 (en) * 2016-05-26 2020-11-17 Vid Scale, Inc. Methods and apparatus of viewport adaptive 360 degree video delivery
US11089280B2 (en) 2016-06-30 2021-08-10 Sony Interactive Entertainment Inc. Apparatus and method for capturing and displaying segmented content
CN109691113B (zh) * 2016-07-15 2022-02-08 皇家Kpn公司 流式传输虚拟现实视频
US10931980B2 (en) 2016-07-19 2021-02-23 Electronics And Telecommunications Research Institute Method and apparatus for providing 360 degree virtual reality broadcasting service
WO2018050606A1 (en) * 2016-09-14 2018-03-22 Koninklijke Kpn N.V. Streaming virtual reality video
US10712555B2 (en) 2016-11-04 2020-07-14 Koninklijke Kpn N.V. Streaming virtual reality video
US10176615B2 (en) * 2016-12-13 2019-01-08 Topcon Corporation Image processing device, image processing method, and image processing program
TWI634779B (zh) * 2016-12-14 2018-09-01 中華電信股份有限公司 Viewing angle control system and method for playing surround image through set-top box
KR20180112708A (ko) 2017-04-03 2018-10-12 한국전자통신연구원 고화질 360도 vr 영상 처리 장치 및 방법
CN108810574B (zh) * 2017-04-27 2021-03-12 腾讯科技(深圳)有限公司 一种视频信息处理方法及终端
EP3461132A1 (en) 2017-09-26 2019-03-27 Thomson Licensing Method and terminal for tile selection amongst a set of tiles
KR101881705B1 (ko) * 2017-11-24 2018-07-25 공간정보기술 주식회사 실내뷰 영상 기반의 파노라마 라벨링 시스템
US10798455B2 (en) * 2017-12-22 2020-10-06 Comcast Cable Communications, Llc Video delivery
US10390063B2 (en) 2017-12-22 2019-08-20 Comcast Cable Communications, Llc Predictive content delivery for video streaming services
US11523185B2 (en) 2019-06-19 2022-12-06 Koninklijke Kpn N.V. Rendering video stream in sub-area of visible display area
CN110572203B (zh) * 2019-10-14 2020-12-29 中国科学院计算技术研究所 一种卫星通信中的用户切换方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5075673A (en) 1989-06-16 1991-12-24 International Business Machines Corp. Variable speed, image pan method and apparatus
WO2001019079A1 (en) 1999-09-10 2001-03-15 Quokka Sports, Inc. A system for distributing and delivering multiple streams of multimedia data
EP1087618A3 (en) 1999-09-27 2003-12-17 Be Here Corporation Opinion feedback in presentation imagery
US7006111B1 (en) 1999-11-09 2006-02-28 Intel Corporation Digital image stitching
US20020021353A1 (en) 2000-06-09 2002-02-21 Denies Mark Streaming panoramic video
JP3472273B2 (ja) 2001-03-07 2003-12-02 キヤノン株式会社 画像再生装置及び画像処理装置及び方法
JP2003111050A (ja) 2001-09-27 2003-04-11 Olympus Optical Co Ltd 映像配信サーバ及び映像受信クライアントシステム
JP3906685B2 (ja) 2001-12-25 2007-04-18 日本電気株式会社 ビデオ映像提示システム、ビデオ映像送出装置、ビデオ映像提示装置、ビデオ映像処理プログラム
CN1162806C (zh) * 2002-03-07 2004-08-18 上海交通大学 路途全景图像带的摄取、生成、传输和显示方法
US20050021779A1 (en) * 2003-04-29 2005-01-27 Ahamed Syed V. Localized knowledge-based intelligent network
WO2005055607A1 (en) 2003-12-08 2005-06-16 Electronics And Telecommunications Research Institute System and method for encoding and decoding an image using bitstream map and recording medium thereof
US7830965B2 (en) 2004-01-14 2010-11-09 Sony Ericsson Mobile Communications Ab Multimedia distributing and/or playing systems and methods using separate resolution-enhancing supplemental data
US8427538B2 (en) * 2004-04-30 2013-04-23 Oncam Grandeye Multiple view and multiple object processing in wide-angle video camera
US8417939B2 (en) 2007-04-11 2013-04-09 The DIRECTV Goup, Inc. Method and apparatus for file sharing between a group of user devices with encryption-decryption information sent via satellite and the content sent separately
JP4935632B2 (ja) 2007-11-07 2012-05-23 ソニー株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP2009147571A (ja) 2007-12-13 2009-07-02 Nec Corp 映像配信システム、端末装置、プログラム、及び映像配信方法
EP2334063A1 (en) 2008-10-10 2011-06-15 Panasonic Corporation Picture output device and picture output method

Also Published As

Publication number Publication date
US9232257B2 (en) 2016-01-05
KR101819097B1 (ko) 2018-01-16
KR20120088507A (ko) 2012-08-08
CN102413376B (zh) 2016-09-07
EP2434772B1 (en) 2014-01-22
EP2434772A1 (en) 2012-03-28
US20120242781A1 (en) 2012-09-27
CN102413376A (zh) 2012-04-11
JP2012070378A (ja) 2012-04-05

Similar Documents

Publication Publication Date Title
JP5818603B2 (ja) パノラマシーン内でのナビゲーション方法
US20190141373A1 (en) Spatially-Segmented Content Delivery
EP3028472B1 (en) Providing tile video streams to a client
US9986221B2 (en) View-aware 360 degree video streaming
US20190362151A1 (en) Streaming virtual reality video
JP2003536319A (ja) パノラマビデオのストリーミング方法及びシステム
US9392303B2 (en) Dynamic encoding of multiple video image streams to a single video stream based on user input
JP2007150747A (ja) 受信装置及び本線映像配信装置
Mavlankar et al. Video streaming with interactive pan/tilt/zoom
JP6660622B2 (ja) 情報処理装置、情報処理方法、カメラ、受信装置、受信方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140908

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150421

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20150717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150929

R150 Certificate of patent or registration of utility model

Ref document number: 5818603

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250