JP2017183816A - 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法 - Google Patents

動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法 Download PDF

Info

Publication number
JP2017183816A
JP2017183816A JP2016064121A JP2016064121A JP2017183816A JP 2017183816 A JP2017183816 A JP 2017183816A JP 2016064121 A JP2016064121 A JP 2016064121A JP 2016064121 A JP2016064121 A JP 2016064121A JP 2017183816 A JP2017183816 A JP 2017183816A
Authority
JP
Japan
Prior art keywords
moving image
video
distribution server
output device
status information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016064121A
Other languages
English (en)
Other versions
JP6149967B1 (ja
Inventor
孝博 松原
Takahiro Matsubara
孝博 松原
河合 直樹
Naoki Kawai
直樹 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2016064121A priority Critical patent/JP6149967B1/ja
Application granted granted Critical
Publication of JP6149967B1 publication Critical patent/JP6149967B1/ja
Publication of JP2017183816A publication Critical patent/JP2017183816A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】実空間上の経路に対応した動画をネットワークを介して配信することが可能な動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法を提供する。【解決手段】 ネットワーク4を介して動画出力装置2と動画配信サーバ3とが通信接続された動画配信システム1において、動画に設定された複数のキーフレームの画像データ(全方位画像)を予め動画出力装置2に転送しておく。動画配信サーバ3は動画出力装置2から送信されるユーザの視点位置及び進行方向の情報を含むユーザステータス情報に基づき視点位置の直前のキーフレームを特定し、特定したキーフレーム以降の差分動画を動画出力装置2へ送信する。動画出力装置2は視点位置の直前のキーフレームと受信した差分動画とから出力する動画を生成し、出力する。【選択図】図14

Description

本発明は、動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法に関し、詳細には、空間を移動するユーザの視点から見た動画の出力に関する。
魚眼レンズや全方位ミラーを装着したカメラを用いて周囲360°の視界を持つ全方位画像を撮影することができる。例えば、非特許文献1に示すオンライン地図検索サービスでは、ユーザがマップ上のある地点をクリックすると、その地点で撮影されたパノラマ画像を閲覧可能とするサービスを提供している。しかし、上述の非特許文献1に記載されるサービスでは、表示される画像は静止画像であり、動画を出力するものではない。
それに対し、例えば特許文献1では、予め撮影した空間内において事前に設計したルート上を移動する視点から任意の視線方向に見える動画(動画像)を出力する動画出力装置が開示されている。この特許文献1に示す動画出力装置は出力する動画を装置内の記憶装置に保持するスタンドアロン型である。スタンドアロン型では動画データを伝送路に転送する際の負荷を考慮する必要がない。
また、特許文献2には、ネットワーク上に蓄積されたデータを予め定められた順、或いはユーザによって指定された順に取得してローカルの記憶装置に蓄積しておき、取得済みのデータに対応する経路の範囲で自由なウォークスルーを提供するシステムが開示されている。
特開2014−222446号公報 特開2004−070609号公報
"Google Street View"、[online]、Google,Inc、[平成28年2月17日検索]、インターネット<http://www.google.co.jp/intl/ja/maps/streetview/>
しかしながら、特許文献2の方法では、ユーザが結果的に必要としない動画データもダウンロードするため過剰なデータ転送を行うこととなり、多くの帯域を要してしまうという問題があった。また、ユーザが瞬間的に異なる動画の任意のフレームにアクセスしようとすると、該当する動画のダウンロードが必要となるためスムーズな動画再生を実現することができない。
本発明は、このような課題に鑑みてなされたもので、実空間上の経路に対応した動画をネットワークを介して配信することが可能な動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法を提供することを目的とする。
前述した課題を解決するため第1の発明は、ネットワークを介して動画出力装置と通信接続された動画配信サーバであって、実空間上の経路に対応した動画を記憶する記憶手段と、前記動画出力装置において指定された前記経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得するユーザステータス情報取得手段と、前記ユーザステータス情報に基づいて特定される動画を前記記憶装置から読み出して前記動画出力装置へ送信する送信手段と、を備えることを特徴とする動画配信サーバである。
第1の発明によれば、ネットワークを介して動画出力装置と通信接続された動画配信サーバは、実空間上の経路に対応した動画を記憶装置に記憶し、動画出力装置において指定された経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得すると、ユーザステータス情報に基づき特定される動画を記憶装置から読み出し、動画出力装置へ送信する。これにより、動画配信サーバはネットワークを介して通信接続された動画出力装置に対し、実空間における視点の周囲の動画像で配信できる。スタンドアロン型で稼働する場合と比較して、動画出力装置側で動画データや空間データを予めインストールする作業が不要である。また一般的なWebブラウザで稼働させることが可能である。これにより、ネットワークを介してアクセス可能な複数の動画出力装置に動画を配信可能となり、実空間のウォークスルー体験を多数のユーザが共有できるようになる。
第1の発明において、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送する転送手段を備え、前記送信手段は、前記ユーザステータス情報に基づいて特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信することが望ましい。これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた位置の動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画を差分動画(フレーム間差分データ)としてストリーミングに適した形で配信するため、再生に要する時間を短縮できる。
第1の発明における経路は、ノードと有向なブランチとから構成され、前記動画は前記ブランチの向き毎に記憶されることが望ましい。ユーザはブランチを移動する動画を双方向ともに閲覧できる。
また第1の発明における動画は、時系列に連続した複数フレームの全方位画像からなるため、ユーザは視点の周囲の全方位の動画を閲覧できる。
第2の発明は、ネットワークを介して動画配信サーバと通信接続された動画出力装置であって、実空間上の経路の情報を記憶する記憶手段と、前記実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信するユーザステータス情報送信手段と、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する受信手段と、受信した動画を出力する出力手段と、を備えることを特徴とする動画出力装置である。
第2の発明によれば、ネットワークを介して動画配信サーバと通信接続された動画出力装置は、実空間上に配置された経路の情報を記憶装置に記憶し、実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信し、ユーザステータス情報に基づき特定される動画を動画配信サーバから受信して出力する。これにより、動画出力装置は動画配信サーバから、実空間における視点の周囲の動画をネットワークを介して取得し、出力できる。スタンドアロン型で稼働する場合と比較して、動画出力装置は動画データや空間データを予めインストールする作業が不要である。また一般的なWebブラウザで稼働することが可能であるので、実空間のウォークスルー体験を複数の動画出力装置で共有できるようになる。
第2の発明において、前記動画に設定された複数のキーフレームの画像データを予め取得し、記憶するキーフレーム画像データ記憶手段を更に備え、前記受信手段は、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画配信サーバから受信し、前記出力手段は、前記キーフレーム画像データ記憶手段に記憶されたキーフレームの画像データと前記動画配信サーバから受信した差分動画とから出力動画を生成し、出力することが望ましい。これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた位置の動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画を差分動画(フレーム間差分データ)としてストリーミングに適した形で配信するため、再生に要する時間を短縮できる。
第2の発明において、前記視点位置及び視線方向を指定するためのインターフェースを有し、前記ユーザステータス情報送信手段は、前記インターフェースを介して指定された視点位置及び視線方向に対応する視点位置及び進行方向を求め、前記ユーザステータス情報として送信することが望ましい。これによりユーザは視点位置や視線方向を容易に指定でき、また指定された視線方向に対応する進行方向を求めて、ユーザステータス情報として送信することが可能となる。
また第2の発明における経路は、ノードと有向なブランチとから構成され、前記動画は前記ブランチの向き毎に記憶されることが望ましい。ユーザはブランチ上を移動する動画を双方向に閲覧できる。また第2の発明における動画は、時系列に連続した複数フレームの全方位画像からなるため、ユーザは視点の周囲の全方位の動画を閲覧できる。
また第2の発明において、前記出力手段は、前記全方位画像から所定の視野範囲を切り出して出力するため、ユーザの視野に応じた範囲の動画を全方位画像から切り出して出力できる。
第3の発明は、ネットワークを介して動画出力装置と動画配信サーバとが通信接続された動画配信システムであって、前記動画配信サーバは、実空間上の経路に対応した動画を記憶する動画記憶手段と、前記動画出力装置において指定された前記経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得するユーザステータス情報取得手段と、前記ユーザステータス情報に基づいて特定される動画を前記動画記憶手段から読み出し、前記動画出力装置へ送信する動画送信手段と、を備え、前記動画出力装置は、前記実空間上の経路の情報を記憶する空間情報記憶手段と、前記ユーザステータス情報を前記動画配信サーバに送信するユーザステータス情報送信手段と、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する動画受信手段と、受信した動画を出力する出力手段と、を備えることを特徴とする動画配信システムである。
第3の発明によれば、ネットワークを介して動画出力装置と通信接続された動画配信サーバは、実空間上の経路に対応した動画を記憶装置に記憶し、動画出力装置において指定された経路上の視点位置及び視点方向の情報を含むユーザステータス情報を取得すると、ユーザステータス情報に基づき特定される動画を記憶装置から読み出し、動画出力装置へ送信する。動画出力装置はユーザの視点の移動に応じた動画を動画配信サーバから取得し、出力する。スタンドアロン型で稼働する場合と比較して、動画出力装置側で動画データや空間データを予めインストールする作業が不要である。また一般的なWebブラウザで稼働させることが可能である。これにより、実空間のウォークスルー体験を複数の動画出力装置で共有できるようになる。
第3の発明において、前記動画配信サーバは、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送する転送手段を更に備え、前記動画送信手段は、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信し、前記動画出力装置は、前記キーフレームの画像データを受信し、記憶するキーフレーム画像データ記憶手段を更に備え、前記動画受信手段は、前記差分動画を前記動画配信サーバから受信し、前記出力手段は、前記キーフレーム画像データ記憶手段に記憶されたキーフレームの画像データと前記動画配信サーバから受信した差分動画とから出力動画を生成し、出力することが望ましい。これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた位置の動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画のみをストリーミングに適した形で取得するため、再生に要する時間を短縮できる。
第4の発明は、ネットワークを介して動画出力装置と動画配信サーバとが通信接続された動画配信システムにおける動画配信方法であって、前記動画配信サーバが、実空間上の経路に対応した動画を記憶装置に記憶するステップと、前記動画出力装置が、前記実空間上に配置された経路の情報を記憶するステップと、前記動画出力装置が、前記実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信するステップと、前記動画配信サーバが、前記ユーザステータス情報を受信するステップと、前記動画配信サーバが、前記ユーザステータス情報に基づき特定される動画を前記記憶装置から読み出し、前記動画出力装置へ送信するステップと、前記動画出力装置が、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信するステップと、前記動画出力装置が、受信した動画を出力するステップと、を含むことを特徴とする動画配信方法である。
第4の発明によれば、ネットワークを介して動画出力装置と通信接続された動画配信サーバは、実空間上の経路に対応した動画を記憶装置に記憶し、動画出力装置において指定された経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得すると、ユーザステータス情報に基づき特定される動画を記憶装置から読み出し、動画出力装置へ送信する。動画出力装置はユーザの視点の移動に応じた動画を動画配信サーバから取得し、出力する。スタンドアロン型で稼働する場合と比較して、動画出力装置側で動画データや空間データを予めインストールする作業が不要である。また一般的なWebブラウザで稼働させることが可能である。これにより、実空間のウォークスルー体験を複数の動画出力装置で共有できるようになる。
第4の発明において、前記動画配信サーバは、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送し、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信し、前記動画出力装置は、予め前記キーフレームの画像データを受信して記憶し、前記差分動画を前記動画配信サーバから受信し、記憶されたキーフレームの画像データと受信した差分動画とから出力動画を生成し、出力することが望ましい。これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画のみをストリーミングに適した形で取得するため、再生に要する時間を短縮できる。
本発明により、実空間上の経路に対応した動画をネットワークを介して配信することが可能な動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法を提供できる。
動画配信システム1のシステム構成図 動画出力装置2のハードウエア構成図 動画配信サーバ3のハードウエア構成図 空間50に設定される経路の構成例 ユーザ情報321のデータ構成を示す図 空間情報322のデータ構成を示す図 (a)ノード詳細情報55、(b)ブランチ詳細情報56のデータ構成を示す図 ある経路をXY二次元座標上に表した例を示す図 動画情報323のデータ構成を示す図 動画データA11、A12、…An2に設定されたキーフレームkf1、kf2、…の例を示す図 ユーザステータス情報324のデータ構成を示す図 各種パラメータ情報225のデータ例を示す図 事前処理の流れを説明するフローチャート 動画配信処理の流れを説明するフローチャート 本発明のユーザインターフェースであるユーザ入力画面61の一例を示す図 ユーザ位置80の直前のキーフレーム位置の算出、及び差分動画について説明する図 視線方向81に対応する視野範囲82を示す図 視点位置に対応する全方位画像90から切り出された視野画像91について説明する図 視点位置の移動に伴う画面遷移の一例を示す図
以下、図面を参照して本発明の好適な実施形態について詳細に説明する。
図1は、Webを利用した動画配信システム1のシステム構成を示す図である。動画配信システム1において、動画出力装置2はネットワーク4を介して動画配信サーバ3と通信接続される。ネットワーク4は、LAN(Local Area Network)や、より広域に通信接続されたWAN(Wide Area Network)、またはインターネット等の公衆の通信回線、基地局等を含む。ネットワーク4における通信接続は有線、無線を問わない。動画出力装置2と動画配信サーバ3とは、ネットワーク4を介して互いにデータを送受信する。図1にはネットワーク4に1つの動画出力装置2が接続されている例を示しているが、ネットワーク4に接続される動画出力装置2は複数としてもよい。
動画出力装置2は、Webブラウザを搭載し、また本発明に係る動画配信処理を実行するためのアプリケーションプログラム(以下、動画出力アプリ20という)をインストール可能なコンピュータ等の装置であり、例えば、PC、スマートフォン、タブレット、ゲーム機、その他の各種の情報端末を含む。ヘッドマウントディスプレイを本発明に係る動画出力装置2として使用してもよい。
動画配信サーバ3は、ネットワーク4を介して通信接続された1または複数の動画出力装置2からの要求に応じて動画配信サーバ3に蓄積された動画を配信する。配信する動画は、実空間で予め撮影された動画であり、時系列に連続した複数フレームの全方位画像からなるものである。そして、本発明において配信する動画には複数のキーフレームが設定されている。キーフレームは任意の間隔で設定されてもよいが、好ましくはシーンが切り替わるフレーム等、動画の内容に基づいて設定されることが望ましい。
図2は、動画出力装置2を実現するコンピュータのハードウエア構成図である。図2に示すように、動画出力装置2は、例えば、制御部21、記憶部22、メディア入出力部23、周辺機器I/F部24、入力部25、表示部26、通信制御部27等がバス29を介して接続されて構成される。
制御部21は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等により構成される。CPUは、記憶部22、ROM、記録媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス29を介して接続された各部を駆動制御し、動画出力装置2が行う後述する処理を実現する。
ROMは、不揮発性メモリであり、コンピュータのブートプログラムやBIOS等のプログラム、データ等を恒久的に保持する。RAMは、揮発性メモリであり、ロードしたプログラムやデータを一時的に保持するとともに、制御部21が各処理を行うために使用するワークエリアを備える。
記憶部22は、HDD(Hard Disk Drive)等であり、制御部21が実行するプログラムや、プログラム実行に必要なデータ、OS(Operating System)等を格納する。これらのプログラムコードは、制御部21により必要に応じて読み出されてRAMに移され、CPUに読み出されて実行される。
動画出力装置2の記憶部22には、図1に示すように、ユーザID221、空間情報222、キーフレーム画像データ223、各種パラメータ225等が記憶される。空間情報222及びキーフレーム画像データ223は、動画出力装置2が動画配信サーバ3に対して空間の動画データの配信を要求した際等に、動画配信サーバ3からダウンロードして保持するものである。ユーザID221や各種パラメータ225は、動画出力アプリ20がインストールされユーザ登録処理やパラメータ設定処理が行われたとき等に記憶される。
ユーザID221は、動画出力装置2のユーザの識別情報である。ユーザID221は動画配信サーバ3にも通知され、ユーザ情報321として登録される。
空間情報222及びキーフレーム画像データ223は、上述したように動画配信サーバ3からダウンロードしたデータである。動画出力装置2が動画配信サーバ3に対して空間を指定して動画配信を要求すると、該当する空間の空間情報222及びキーフレーム画像データ223が動画配信サーバ3から送信される。空間は、実空間に対応するものである。空間情報222は、空間に定義された経路に関する情報である(図4、図6〜図8)。キーフレーム画像データは、動画に設定されたキーフレームの画像データである。キーフレーム及びキーフレーム画像データについては後述する(図9、図10)。
メディア入出力部23は、例えば、CDドライブ、DVDドライブ、フロッピー(登録商標)ディスクドライブ等のメディア入出力装置であり、動画像等のデータの入出力を行う。
周辺機器I/F(インターフェース)部24は、周辺機器を接続するためのポートであり、周辺機器I/F部24を介してコンピュータは周辺機器とのデータの送受信を行う。周辺機器との接続形態は有線、無線を問わない。
入力部25は、例えば、キーボード、マウス、タッチパネル等の入力装置であり、入力されたデータを制御部21へ出力する。
表示部26は、例えば、CRTモニタや液晶パネル等のディスプレイ装置と、ディスプレイ装置と連携して表示処理を実行するための論理回路(ビデオアダプタ等)で構成され、制御部21の制御により入力された表示情報をディスプレイ装置上に表示させる。なお、入力部25と表示部16は、それらの機能が一体化した例えばタッチパネル付きディスプレイであってもよい。また、ヘッドマウントディスプレイ等のようにユーザが装用可能なものでもよい。
通信制御部27は、通信制御装置、通信ポート等を有し、コンピュータとネットワーク4との通信を媒介するインターフェースである。通信制御部27は、ネットワーク4を介して他の装置との通信制御を行う。
バス29は、制御信号、データ信号等の授受を媒介する経路である。
図3は、動画配信サーバ3を実現するコンピュータのハードウエア構成図である。図3に示すように動画配信サーバ3は、例えば、制御部31、記憶部32、メディア入出力部33、周辺機器I/F部34、入力部35、表示部36、通信制御部37等がバス39を介して接続されて構成される。
制御部31は、CPU、ROM、RAM等により構成される。CPUは、記憶部32、ROM、記録媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス39を介して接続された各部を駆動制御し、動画配信サーバ3が行う後述する処理を実現する。
ROMは、不揮発性メモリであり、コンピュータのブートプログラムやBIOS等のプログラム、データ等を恒久的に保持する。RAMは、揮発性メモリであり、ロードしたプログラムやデータを一時的に保持するとともに、制御部31が各処理を行うために使用するワークエリアを備える。
記憶部32は、HDD等であり、制御部31が実行するプログラムや、プログラム実行に必要なデータ、OS等が格納されている。これらのプログラムコードは、制御部31により必要に応じて読み出されてRAMに移され、CPUに読み出されて実行される。
動画配信サーバ3の記憶部32には、ユーザ情報321、空間情報322、動画情報323、ユーザステータス情報324等が記憶される。各データの内容については後述する。
メディア入出力部33は、例えば、CDドライブ、DVDドライブ、フロッピー(登録商標)ディスクドライブ等のメディア入出力装置であり、動画像等のデータの入出力を行う。
周辺機器I/F(インタフェース)部34は、コンピュータに周辺機器を接続させるためのポートであり、周辺機器I/F部34を介してコンピュータは周辺機器とのデータの送受信を行う。周辺機器との接続形態は有線、無線を問わない。
入力部35は、例えば、キーボード、マウス、タッチパネル等の入力装置であり、入力されたデータを制御部21へ出力する。
表示部36は、例えば、CRTモニタや液晶パネル等のディスプレイ装置と、ディスプレイ装置と連携して表示処理を実行するための論理回路(ビデオアダプタ等)で構成され、制御部31の制御により入力された表示情報をディスプレイ装置上に表示させる。なお、入力部35と表示部36は、それらの機能が一体化した例えばタッチパネル付きディスプレイであってもよい。
通信制御部37は、通信制御装置、通信ポート等を有し、コンピュータとネットワーク4との通信を媒介するインターフェースである。通信制御部37は、ネットワーク4を介して他の装置との通信制御を行う。
バス39は、制御信号、データ信号等の授受を媒介する経路である。
次に、図4を参照して本発明に係る動画配信システム1における空間50について説明する。
本発明に係る動画出力装置2は、実空間に対応する任意の経路上を所定の速度で移動する視点位置から見た任意の視線方向に対応する動画を表示する。図4は、ある施設内(空間50)に設定される経路(ノード51及びブランチ52)の平面図である。視点位置が移動する空間50は、例えば、会社のフロアや美術館等の施設等である。経路上の動画を撮影できる空間であればよく、屋外であってもよい。
図4に示すように、空間50内の経路は、ノード51及びブランチ52によって構成される。ノード51とは経路の継ぎ目であり、ブランチ52とは起点となるノード51(以下、起点ノード51aと表記)と終点となるノード51(以下、終点ノード51bと表記)とを接続する単位経路である。図3に示す例では、7個のノードN1〜N7と、6本のブランチB1〜B6とが定義されている。
図4に示すように、各ブランチ52は直線で表現され、各ブランチ52の矢印の向きは視点の進行方向を示す。矢印の起点が起点ノード51aであり、矢印の終点が終点ノード51bである。すなわち、起点ノード51aと終点ノード51bが特定されると、当該ブランチ52が特定されることとなる。ブランチ52の向きは、経路に沿って撮影された動画における視点の進行方向に一致する。本発明では、各ブランチ52は双方向の進行方向を有し、各方向についてそれぞれ対応する動画が撮影される。
経路上のどの位置にノード51を定義するかは、当該動画配信システム1の設計者の判断に委ねられるが、一般的には、経路上の端点(行き止まり)、曲がり角、経路の分岐点等にノード51が配置される。図4に示す例では、N3、N4、N5、N7は経路上の端点を示すノード51であり、N6は経路上の曲がり角を示すノード51であり、N1、N2は経路上の分岐点を示すノード51である。
次に、図5〜図12を参照して、本発明に係る動画配信システム1におけるデータ構成について説明する。上述したように(図1)、動画配信サーバ3は、ユーザ情報321、空間情報322、動画情報323、ユーザステータス情報324を記憶部32に記憶している。また動画出力装置2の記憶部22には、ユーザID221、空間情報222、キーフレーム画像データ223、各種パラメータ225が記憶される。
動画配信サーバ3に記憶されるユーザ情報321の一例を図5に示す。
動画配信サーバ3は、ユーザ情報321として動画配信システム1が提供する動画配信サービスを利用するユーザの識別情報であるユーザIDとユーザに関する情報を紐づけて記憶している。ユーザに関する情報は、例えばユーザ名、ユーザが動画出力装置2として使用する端末の種別等である。ユーザ情報321は、各動画出力装置2において入力され、動画配信サーバ3に送信され、サーバ3の記憶部32に登録される。
空間情報322は、動画配信サーバ3が配信する動画が撮影された空間に定義された経路の情報である。動画配信サーバ3が配信する空間が複数ある場合は、複数の空間についてそれぞれ空間情報322が記憶部32に格納される。
空間情報322には、空間に定義された経路のノード情報322aとブランチ情報322bとが格納される。図6は、図4に示す平面図で構成される空間50の空間情報322である。ノード情報322aとして「N1、N2、N3、N4、N5、N6、N7」、ブランチ情報322bとして「B1、B2、B3、B4、B5、B6」が格納される。
また空間情報322として、ノード詳細情報55及びブランチ詳細情報56が格納される。図7(a)はノード詳細情報55、図7(b)はブランチ詳細情報56のデータ構成を示している。
図7(a)に示すように、ノード詳細情報55には「ノードID」、「位置情報X」、「位置情報Y」、「属性」が格納される。「位置情報X」及び「位置情報Y」とは、ノード51のXY座標空間上での位置情報であり、それぞれX座標値とY座標値が格納される。ノード51間の距離は座標を距離単位に変換することで、実寸値で算出できる。「属性」とは、ノード51の経路上の特徴を表す次数であり、各ノード51から派生するブランチの本数を示す値である。例えば、ノード51が経路上の端点(行き止まり)にあれば「1」を格納し、ノード51が経路上の曲がり角にあれば「2」を格納し、ノード51が経路上の三叉路にあれば「3」を格納し、ノード51が経路上の十字路にあれば「4」を格納する。
図8は、経路をXY2次元座標上に表わした例を示す図である。各ノードN1〜N4の符号に括弧書きで示した座標は、各ノードN1〜N4のX座標値とY座標値である。図8に示すように、ブランチB1の向きはX軸の向きに一致し、X軸に対してブランチB2がなす角度は反時計回りに60°であり、X軸に対してブランチB3がなす角度は時計回りに60°である。ここで、本実施形態におけるブランチ角度とは、図示されるXY座標系のX軸とブランチ52の向きとがなす角度であり、反時計回りを正方向とする。ブランチ角度は、ブランチ52の始点ノード51aの位置座標と終点ノード22bの位置座標とにより算出できる。図8に示す例では、ブランチB1のブランチ角度は0°であり、ブランチB2のブランチ角度は60°であり、ブランチB3のブランチ角度は300°(−60°)である。
図7(b)に示すように、ブランチ詳細情報56には「ブランチID」、「動画ID(正方向)」、「動画ID(逆方向)」、「端点ノード」、「キーフレーム」が格納される。「端点ノード」には、ブランチの端点のノードIDが格納される。本発明の動画配信システム1では、各ブランチについてそれぞれ正方向と逆方向の動画データが用意されるものとする。例えば、X座標の小さい方の端点を起点、X座標の大きい方の端点を終点として起点から終点への方向を「正方向」と呼び、終点から起点への方向を「逆方向」と呼ぶ。正方向と逆方向の定義はこれに限定されず、Y座標の大きさで起点・終点を決定してもよいし、ブランチ52毎に正方向をどの方向するかを決定してもよい。「動画ID(正方向)」には、ブランチ52を正方向に撮影した動画の動画IDが格納される。「動画ID(逆方向)」には、ブランチ52を逆方向に撮影した動画の動画IDが格納される。
図9に示す動画情報323は、各ブランチ52に沿って視点位置を進行方向(正方向または逆方向)に移動しながら空間50を撮影した全方位画像(動画像)に関する情報であり、「動画ID」、「画像データ」、「フレーム数」、「キーフレーム」の情報が格納される。
「動画データ」には、時系列に連続した全方位画像の集合である全方位動画シーケンスが格納される。全方位動画シーケンスとは、全方位画像を1フレームとした、連続した複数フレームからなる画像データ群である。全方位動画はブランチ52に沿って一定速度で全方位カメラを移動させながら撮影された実写画像の他、コンピュータグラフィクス等により作成された画像等も含む。一定速度で移動しながら撮影されるため、ブランチ52上の各地点と全方位動画シーケンスの各フレーム位置とが対応づけられることとなる。
全フレームについてそれぞれ全方位画像の全データが格納されるのではなく、本発明では、キーフレームについては全方位画像の全データが格納され、キーフレーム以外のフレームについてはフレーム間差分データが格納されるものとする。フレーム間差分データとは、直前のフレームとの差分情報である。差分情報のみを格納することでデータ量を削減できる。
動画情報323の「フレーム数」には全方位画像シーケンスを構成するフレーム数の値が格納される。「キーフレーム」には、キーフレームとするフレームのフレーム番号が格納される。
ここで、動画データについて図10を参照して説明する。
図10に示すように、空間50の経路を構成するブランチ52には各進行方向の動画データが対応付けられる。進行方向は、正方向及び逆方向である。図10の例では、ブランチB1には正方向の動画データA11と逆方向の動画データA12とが対応付けられている。
また、各動画データA11、A12、…には、それぞれキーフレームkf1、kf2、…が設定される。キーフレームkf1、kf2、…は任意の間隔で設定されてもよいが、より好ましくはシーンの切り替え点等、前後のフレームの画像の内容に基づいて設定されることが望ましい。前後のフレームで差分が大きい動画、すなわち動きが大きい動画ではキーフレームが多く設定され、フレーム間の差分が小さい動画、すなわち動きが小さい動画ではより少ない数のキーフレームが設定されることとなる。図10の例では、ブランチB1の正方向に対応づけられた動画データA11は、kf1,kf2,…kfiのi個のキーフレームが設定されている。またブランチB1の逆方向に対応づけられた動画データA12は、kf1,kf2,…kfjのj個のキーフレームが設定されている。ブランチBnの逆方向に対応づけられた動画データAn2は、kf1,kf2,…kfmのm個のキーフレームが設定されている。
各動画A11〜An2は、それぞれブランチ52上を等速度で移動しながら撮影される。また、各動画A11〜An2の各フレームは対応するブランチ52上の位置と対応づけられる。したがってブランチ52上の視点位置から対応する動画のフレーム位置が特定される。
図11は、動画配信サーバ3に順次記憶されるユーザステータス情報324の例である。
ユーザステータス情報324は、動画配信サーバ3と通信接続中の動画出力装置2から通知される空間50におけるユーザの視点位置及び進行方向を順次格納するものである。ユーザID、空間50内の視点位置及び進行方向を含むユーザステータス情報324が動画出力装置2から送信されると、動画配信サーバ3は受信したユーザステータス情報324を記憶部32に順次記憶する。なお、ユーザステータス情報324を受信するタイミングは、例えば、動画出力装置2でユーザの視点位置や進行方向が指定されたときや変更されたとき、或いは所定の時間間隔等とする。
図11の例では、「2016年1月30日10時05分30秒」にユーザID「01」の動画出力装置2から視点位置「B1(30)」、進行方向「正方向」が通知され、「2016年1月30日10時06分40秒」にユーザID「01」の動画出力装置2から視点位置「B1(35)」、進行方向「正方向」が通知され、「2016年1月30日10時06分50秒」にユーザID「03」の動画出力装置2から視点位置「B6(2)」、進行方向「正方向」が通知され、「2016年1月30日10時07分00秒」にユーザID「03」の動画出力装置2から視点位置「B6(17)」、進行方向「正方向」が通知され、「2016年1月30日10時08分10秒」にユーザID「03」の動画出力装置2から視点位置「B5(1)」、進行方向「正方向」が通知されている。視点位置の「B1(30)」や「B6(2)」等は、ブランチIDとブランチにおけるフレーム位置を示している。「B1(30)」は、ブランチB1上のフレーム番号「30」に視点位置があることを意味し、「B6(2)」は、ブランチB6上のフレーム番号「2」に視点位置があることを意味する。なお、視点位置は、空間に設定された座標で動画配信サーバ3に送信されてもよい。その場合は、動画配信サーバ3は視点位置の座標に対応する動画のフレーム位置を、空間情報322(ノード詳細情報55、ブランチ詳細情報56)や動画情報323の「フレーム数」に基づいて特定する。
図12に示す各種パラメータ情報225は、動画出力装置2で動画を出力する際等に設定される各種のパラメータ情報が格納される。例えば、全方位画像90からユーザの視野範囲の画像91を切り出すために使用する「切出角度」等がパラメータとして格納される。切出角度は0°以上360°未満の数値で指定される。
次に、図13〜図18を参照して、動画配信システム1における動画配信の流れを説明する。図13は動画配信システム1における事前処理の流れを示す図であり、図14は動画配信処理の流れを示す図である。
図13に示す事前処理は、例えば動画出力装置2が動画出力アプリ20を起動して動画配信サーバ3に通信接続し、動画出力装置2により配信する動画空間が指定されたとき等に実行される。
動画配信サーバ3は、動画出力装置2から要求された空間50についての空間情報222、及び空間50の各ブランチ52に対応づけられた動画のキーフレーム画像データ223を記憶部32の空間情報322及び動画情報323から読み出し、要求元の動画出力装置2に送信する(ステップS101)。
動画出力装置2は、動画配信サーバ3から転送された空間情報222及び空間の各ブランチ52に対応づけられた動画のキーフレーム画像データ223を受信し(ステップS102)、記憶部22に記憶する(ステップS103)。
動画出力装置2のユーザID221等のユーザ情報は動画配信サーバ3に登録されているものとする。また動画出力装置2では、動画出力に関する各種パラメータ情報225(図12の切出角度等)が予め、またはユーザによる入力値により設定されているものとする。
図14に示す動画配信処理は、動画出力装置2が動画配信サーバ3に通信接続され、事前処理によって空間情報222及びキーフレーム画像データ223が動画出力装置2に転送された後、開始される。
動画出力装置2は、まず動画出力アプリ20のユーザインターフェースを表示部26に表示する(ステップS201)。ユーザインターフェースの一例を図15に示す。
図15は、動画出力アプリ20のユーザインターフェースであるユーザ入力画面61の表示例である。図15に示すように、ユーザ入力画面61には、視野画像領域62と、経路表示領域63と、入力受付領域74とが設けられる。
視野画像領域62には、動画配信サーバ3から配信される動画のうち、視点位置及び視線方向に対応する視野画像91の動画が表示される。経路表示領域63には、空間情報222により定義される空間50の間取り図と、視点位置を示すマーク80及び視線方向を示すマーク82が表示される。視点位置及び視線方向は、マウス(入力部25)等を用いてマーク80、マーク82を所望の位置及び方向に移動させるか、或いは入力受付領域74に設けられる操作ボタン75a、75b、75c、76a〜76dの操作により指定できる。
入力受付領域74には、視点位置や視線方向を指定・変更させる際に操作される操作ボタン75a、75b、75c、76a〜76dが配置される。前進ボタン75a及び75bは、ユーザが視点位置を変更する際に操作される。前進ボタン75a及び後進ボタン75bの操作に伴い、間取り図63上に表示された視点位置を示すマーク80の位置が視線方向に対して前進する方向または後進する方向に変更される。停止ボタン75cは動画再生を停止(視点位置を固定)する際に操作される。前進ボタン75a及び後進ボタン75bが押下されている間、視点位置が経路上の指定された方向(前進/後進)に所定速度で移動する。或いは、動画の表示中は視点位置が所定速度で所定の方向に移動されるものとし、前進ボタン75a及び後進ボタン75bは視点位置の移動速度の加速または減速に用いるようにしてもよい。
上向きボタン76a、右向きボタン76b、下向きボタン76c、左向きボタン76dは、視線方向を変更するための操作ボタンである。制御部21は、上向きボタン76aが押下されている間、制御部21は視線方向を所定の速度で上向きに移動させる。これにより切り出される動画が上向きに移動される。同様に、右向きボタン76bが押下された場合は、制御部21は視線方向を右向きに移動し、これにより切り出される動画が右向きに変更される。下向きボタン76cが押下された場合は、制御部21は視線方向を下向きに移動させ、これにより切り出される動画が下向きに変更される。左向きボタン76dが押下された場合は、制御部21は視線方向を左向きに移動させ、これにより切り出される動画が左向きに変更される。
図14の説明に戻る。
ユーザ入力画面61においてユーザにより視点位置及び視線方向が入力されると(ステップS202)、動画出力装置2は空間情報222に基づいて視点位置に対応するブランチを求め、また視線方向に基づいて進行方向(正方向または逆方向)を求める。そして求めた視点位置及び進行方向をユーザステータス情報324としてユーザID221とともに動画配信サーバ3に送信する(ステップS203)。動画配信サーバ3は、動画出力装置2から送信された視点位置及び進行方向(ユーザステータス情報324)を受信すると(ステップS204)。ユーザID221とともに記憶部32に保存する(ステップS205)。
動画配信サーバ3は、受信したユーザステータス情報324(視点位置及び進行方向)に応じて転送するデータ(動画)を特定する(ステップS206)。ステップS206の処理では、動画配信サーバ3は、ユーザステータス情報324の視点位置及び進行方向に基づいて、ブランチ52及びブランチ52の進行方向に対応する動画IDを図7(b)に示すブランチ詳細情報56に基づいて取得する。
更に動画配信サーバ3は、ユーザの視点位置及び視線方向に基づいて直前のキーフレームを特定する(ステップS207)。ステップS207の処理では、動画配信サーバ3は、ステップS206で特定した動画IDの動画情報323に格納されているキーフレーム情報から、ユーザの視点位置の直前のキーフレームを特定する。動画の各フレームは上述したように空間上の位置と対応づけられているため、ユーザの視点位置から直前のキーフレームを求めることができる。
なお、ステップS207のキーフレームの特定処理は、動画出力装置2側で行ってもよい。この場合は、動画出力装置2の制御部21はユーザステータス情報(視点位置及び進行方向)の送信に代えて、特定したキーフレーム以降の動画データの配信要求を動画配信サーバ3に送信すればよい。
更に、動画配信サーバ3は特定したキーフレーム以降の差分動画を読み出し、動画出力装置2へストリーミング配信する(ステップS208)。
ここで、キーフレームの特定及び差分動画について図16を参照しながら説明する。差分動画とは、あるキーフレームの画像データ(キーフレーム画像データ)と、そのキーフレーム以降の各フレームのフレーム間差分データとにより構成される動画データである。例えば、起点ノードN1と終点ノードN2の間のブランチB1上に視点位置(マーク80)がある場合、視点位置に対応するフレームfpは、ブランチB1全体の空間上の距離Lに対する起点ノードから視点位置(マーク80)までの距離lの比率と動画全体のフレーム数Nとから求められる。視点位置(マーク80)に対応するフレームfpの前にあるキーフレームkf1、kf2、kf3のうち視点位置(マーク80)に最も近いキーフレームkf3が特定される。動画配信サーバ3は、特定したキーフレームkf3のフレーム番号と、キーフレームkf3以降の各フレームのフレーム間差分データとを差分動画として順次動画出力装置2に送信する。動画出力装置2では予めキーフレームの画像データを記憶しているため、フレーム番号「kf3」が特定されれば、特定されたキーフレーム画像データを記憶部22から取得し、キーフレーム画像データと動画配信サーバ3からストリーミング送信される各フレームのフレーム間差分データとから順次各フレームの画像を生成できる。
動画出力装置2は、動画配信サーバ3からキーフレームのフレーム番号及びフレーム間差分データを受信すると(ステップS209)、受信したフレーム番号「kf3」のキーフレーム画像データを記憶部22から取得し、更にキーフレーム画像データとストリーミング送信される各フレームのフレーム間差分データとから順次各フレームの画像を生成する(ステップS210)。
ユーザの視点位置は時間経過とともに移動しているためユーザの視点位置が次のキーフレームに移動したときは、動画配信サーバ3は次のキーフレームのフレーム番号を動画出力装置2へ通知し、その後のフレームのフレーム間差分データを順次送信する。
動画出力装置2は視線方向に応じて全方位画像90をクリッピングし(切り出し)、視野画像91の動画(視野動画)を生成する(ステップS211)。
ここで、図17及び図18を参照して視野動画の切り出しについて説明する。図17は、視線方向81に対する視野範囲82を説明する図である。動画出力装置2は、各種パラメータ情報225に格納される「切出角度」をΔとすると、特定された対象フレームの全方位画像90から角度「視線方向(水平角)−Δ/2」〜「視線方向(水平角)+Δ/2」、「視線方向(仰俯角)−Δ/2」〜「視線方向(仰俯角)+Δ/2」の視野範囲の画像91を切り出す。ユーザには視点位置(マーク80)から視線方向81を中心に図17に示されるような視野角の画像が提示されることになる。
図18は、全方位画像90から視線方向81に対応する視野画像91を切り出す作業を説明する図である。図18の例は、視線方向(水平角)が90°で切出角度Δが90°の場合の視野画像91を示している。
動画出力装置2は、ステップS211にて生成された視野動画を順次ユーザ入力画面61の視野画像領域62に表示する(ステップS212)。
ユーザ入力画面61において、ユーザにより視点位置、視線方向の変更操作が行われると、ステップS202に戻り、指定された視点位置、視線方向に対応するブランチ及び進行方向の動画(直前のキーフレーム以降の差分動画)を動画配信サーバ3から取得して、動画出力装置2側に保持されているキーフレーム画像データと差分動画とに基づいて各フレームの全方位画像を生成し、視野動画を生成し、順次表示する処理を繰り返す。
図19は、再生される視野動画の一例を示す図である。図19に示すように、視野動画の各フレームは、全方位画像90a、90b、90cから視野範囲を切り出した視野画像91a、91b、91cである。全方位画像90a、90b、90cは動画であるため視点位置の進行に伴い全方位画像90a、90b、90c内の人物等に動きがみられるという特徴がある。
ユーザ入力画面61において、停止ボタン75cが押下されると、動画出力装置2は動画の再生を停止するとともに、動画配信サーバ3に動画の配信停止を通知する。
以上説明したように、ネットワーク4を介して動画出力装置2と動画配信サーバ3とが通信接続された動画配信システム1において、動画配信サーバ3は、動画出力装置2から送信されるユーザの視点位置及び進行方向の情報を含むユーザステータス情報を受信すると、ユーザステータス情報に基づき特定される動画を記憶部32から読み出し、動画出力装置2へ送信する。動画出力装置2はユーザステータス情報に基づき特定された動画を動画配信サーバ3から受信して、視野動画を生成し、出力する。
また、動画配信サーバ3は、動画に設定された複数のキーフレームの画像データを予め動画出力装置2に転送しておき、ユーザステータス情報から特定される視点位置の直前のキーフレーム以降の差分動画を動画出力装置2へ送信し、動画出力装置2側で保持しているキーフレームの画像データと受信した差分動画とから出力する動画を生成し、出力する。視点位置の直前のキーフレームよりも前のデータを転送しないため、動画再生時のデータ転送量を低減させることができ、かつ動画再生の処理時間を短縮することが可能となる。また、ランダムアクセスの際も同様に、動画を全てダウンロードする場合と比較してデータ転送量を削減し、再生までに要する処理時間を短縮することが可能となる。更に配信するデータを視点位置の直前のキーフレーム以降のフレーム間差分データとすれば、全方位画像を送信する場合と比較して、データ転送量を削減することができる。
以上、添付図面を参照して、本発明に係る動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法の好適な実施形態について説明したが、本発明は係る例に限定されない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
1……………………動画配信システム
2……………………動画出力装置
21…………………制御部
22…………………記憶部
221………………ユーザID
222………………空間情報
223………………キーフレーム画像データ
225………………各種パラメータ
23…………………メディア入出力部
24…………………周辺機器I/F部
25…………………入力部
26…………………表示部
27…………………通信制御部
29…………………バス
3……………………動画配信サーバ
31…………………制御部
32…………………記憶部
321………………ユーザ情報
322………………空間情報
322a……………ノード情報
322b……………ブランチ情報
323………………動画情報
324………………ユーザステータス情報
33…………………メディア入出力部
34…………………周辺機器I/F部
35…………………入力部
36…………………表示部
37…………………通信制御部
39…………………バス
4……………………ネットワーク
50…………………空間
51…………………ノード
52…………………ブランチ
55…………………ノード詳細情報
56…………………ブランチ詳細情報
61…………………ユーザ入力画面
62…………………視野画像領域
63…………………経路表示領域
75a………………前進ボタン
75b………………後進ボタン
75c………………停止ボタン
76a………………上向きボタン
76b………………右向きボタン
76c………………下向きボタン
76d………………左向きボタン
80…………………視点位置を示すマーク
81…………………視線方向
82…………………視野範囲を示すマーク
90…………………全方位画像
91…………………視線方向に対応する画像(視野画像)
N1〜N7…………ノード
B1〜B6…………ブランチ
kf1,kf2,・・・……キーフレーム
fp…………………視点位置に対応するフレーム
前述した課題を解決するため第1の発明は、ネットワークを介して動画出力装置と通信接続された動画配信サーバであって、実空間上の経路に対応した動画を記憶する記憶手段と、前記動画出力装置において指定された前記経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得するユーザステータス情報取得手段と、前記ユーザステータス情報に基づいて特定される動画を前記記憶手段から読み出して前記動画出力装置へ送信する送信手段と、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送する転送手段と、を備え、前記送信手段は、前記ユーザステータス情報に基づいて特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信することを特徴とする動画配信サーバである。
また、これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた位置の動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画を差分動画(フレーム間差分データ)としてストリーミングに適した形で配信するため、再生に要する時間を短縮できる。
第2の発明は、ネットワークを介して動画配信サーバと通信接続された動画出力装置であって、実空間上の経路の情報を記憶する記憶手段と、前記実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信するユーザステータス情報送信手段と、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する受信手段と、受信した動画を出力する出力手段と、前記動画に設定された複数のキーフレームの画像データを予め取得し、記憶するキーフレーム画像データ記憶手段と、を備え、前記受信手段は、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画配信サーバから受信し、前記出力手段は、前記キーフレーム画像データ記憶手段に記憶されたキーフレームの画像データと前記動画配信サーバから受信した差分動画とから出力動画を生成し、出力することを特徴とする動画出力装置である。
また、これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた位置の動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画を差分動画(フレーム間差分データ)としてストリーミングに適した形で配信するため、再生に要する時間を短縮できる。
第3の発明は、ネットワークを介して動画出力装置と動画配信サーバとが通信接続された動画配信システムであって、前記動画配信サーバは、実空間上の経路に対応した動画を記憶する動画記憶手段と、前記動画出力装置において指定された前記経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得するユーザステータス情報取得手段と、前記ユーザステータス情報に基づいて特定される動画を前記動画記憶手段から読み出し、前記動画出力装置へ送信する動画送信手段と、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送する転送手段と、を備え、前記動画送信手段は、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信し、前記動画出力装置は、前記実空間上の経路の情報を記憶する空間情報記憶手段と、前記ユーザステータス情報を前記動画配信サーバに送信するユーザステータス情報送信手段と、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する動画受信手段と、受信した動画を出力する出力手段と、前記キーフレームの画像データを受信し、記憶するキーフレーム画像データ記憶手段と、を備え、前記動画受信手段は、前記差分動画を前記動画配信サーバから受信し、前記出力手段は、前記キーフレーム画像データ記憶手段に記憶されたキーフレームの画像データと前記動画配信サーバから受信した差分動画とから出力動画を生成し、出力することを特徴とする動画配信システムである。
また、これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた位置の動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画のみをストリーミングに適した形で取得するため、再生に要する時間を短縮できる。
第4の発明は、ネットワークを介して動画出力装置と動画配信サーバとが通信接続された動画配信システムにおける動画配信方法であって、前記動画配信サーバが、実空間上の経路に対応した動画を記憶装置に記憶するステップと、前記動画出力装置が、前記実空間上に配置された経路の情報を記憶するステップと、前記動画配信サーバが、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送するステップと、前記動画出力装置が、予め前記キーフレームの画像データを受信して記憶するステップと、前記動画出力装置が、前記実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信するステップと、前記動画配信サーバが、前記ユーザステータス情報を受信するステップと、前記動画配信サーバが、前記ユーザステータス情報に基づき特定される動画を前記記憶装置から読み出し、前記動画出力装置へ送信する動画送信ステップと、前記動画出力装置が、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する動画受信ステップと、前記動画出力装置が、受信した動画を出力する出力ステップと、を含み、前記動画配信サーバは、前記動画送信ステップにおいて、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信し、前記動画出力装置は、動画受信ステップにおいて、前記差分動画を前記動画配信サーバから受信し、前記動画出力装置は、出力ステップにおいて、記憶されたキーフレームの画像データと受信した差分動画とから出力動画を生成し、出力することを特徴とする動画配信方法である。
また、これにより、経路の途中の位置にユーザの視点位置を配置した際に、既に通り過ぎた動画データのダウンロードを省略でき、データ転送量を削減することが可能となる。またユーザの視点位置以降の動画のみをストリーミングに適した形で取得するため、再生に要する時間を短縮できる。

Claims (14)

  1. ネットワークを介して動画出力装置と通信接続された動画配信サーバであって、
    実空間上の経路に対応した動画を記憶する記憶手段と、
    前記動画出力装置において指定された前記経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得するユーザステータス情報取得手段と、
    前記ユーザステータス情報に基づいて特定される動画を前記記憶装置から読み出して前記動画出力装置へ送信する送信手段と、
    を備えることを特徴とする動画配信サーバ。
  2. 前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送する転送手段を備え、
    前記送信手段は、前記ユーザステータス情報に基づいて特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信することを特徴とする請求項1に記載の動画配信サーバ。
  3. 前記経路は、ノードと有向なブランチとから構成され、
    前記動画は前記ブランチの向き毎に記憶されることを特徴とする請求項1または請求項2に記載の動画配信サーバ。
  4. 前記動画は、時系列に連続した複数フレームの全方位画像からなることを特徴とする請求項1から請求項3のいずれかに記載の動画配信サーバ。
  5. ネットワークを介して動画配信サーバと通信接続された動画出力装置であって、
    実空間上の経路の情報を記憶する記憶手段と、
    前記実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信するユーザステータス情報送信手段と、
    前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する受信手段と、
    受信した動画を出力する出力手段と、
    を備えることを特徴とする動画出力装置。
  6. 前記動画に設定された複数のキーフレームの画像データを予め取得し、記憶するキーフレーム画像データ記憶手段を更に備え、
    前記受信手段は、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画配信サーバから受信し、
    前記出力手段は、前記キーフレーム画像データ記憶手段に記憶されたキーフレームの画像データと前記動画配信サーバから受信した差分動画とから出力動画を生成し、出力することを特徴とする請求項5に記載の動画出力装置。
  7. 前記視点位置及び視線方向を指定するためのインターフェースを有し、
    前記ユーザステータス情報送信手段は、前記インターフェースを介して指定された視点位置及び視線方向に対応する視点位置及び進行方向を求め、前記ユーザステータス情報として送信することを特徴とする請求項5または請求項6に記載の動画出力装置。
  8. 前記経路は、ノードと有向なブランチとから構成され、
    前記動画は前記ブランチの向き毎に記憶されることを特徴とする請求項5から請求項7のいずれかに記載の動画出力装置。
  9. 前記動画は、時系列に連続した複数フレームの全方位画像からなることを特徴とする請求項5から請求項8のいずれかに記載の動画出力装置。
  10. 前記出力手段は、前記全方位画像から所定の視野範囲を切り出して出力することを特徴とする請求項9に記載の動画出力装置。
  11. ネットワークを介して動画出力装置と動画配信サーバとが通信接続された動画配信システムであって、
    前記動画配信サーバは、
    実空間上の経路に対応した動画を記憶する動画記憶手段と、
    前記動画出力装置において指定された前記経路上の視点位置及び進行方向の情報を含むユーザステータス情報を取得するユーザステータス情報取得手段と、
    前記ユーザステータス情報に基づいて特定される動画を前記動画記憶手段から読み出し、前記動画出力装置へ送信する動画送信手段と、を備え、
    前記動画出力装置は、
    前記実空間上の経路の情報を記憶する空間情報記憶手段と、
    前記ユーザステータス情報を前記動画配信サーバに送信するユーザステータス情報送信手段と、
    前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信する動画受信手段と、
    受信した動画を出力する出力手段と、
    を備えることを特徴とする動画配信システム。
  12. 前記動画配信サーバは、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送する転送手段を更に備え、
    前記動画送信手段は、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信し、
    前記動画出力装置は、前記キーフレームの画像データを受信し、記憶するキーフレーム画像データ記憶手段を更に備え、
    前記動画受信手段は、前記差分動画を前記動画配信サーバから受信し、
    前記出力手段は、前記キーフレーム画像データ記憶手段に記憶されたキーフレームの画像データと前記動画配信サーバから受信した差分動画とから出力動画を生成し、出力することを特徴とする請求項11に記載の動画配信システム。
  13. ネットワークを介して動画出力装置と動画配信サーバとが通信接続された動画配信システムにおける動画配信方法であって、
    前記動画配信サーバが、実空間上の経路に対応した動画を記憶装置に記憶するステップと、
    前記動画出力装置が、前記実空間上に配置された経路の情報を記憶するステップと、
    前記動画出力装置が、前記実空間における視点位置及び進行方向の情報を含むユーザステータス情報を前記動画配信サーバに送信するステップと、
    前記動画配信サーバが、前記ユーザステータス情報を受信するステップと、
    前記動画配信サーバが、前記ユーザステータス情報に基づき特定される動画を前記記憶装置から読み出し、前記動画出力装置へ送信するステップと、
    前記動画出力装置が、前記ユーザステータス情報に基づき特定される動画を前記動画配信サーバから受信するステップと、
    前記動画出力装置が、受信した動画を出力するステップと、
    を含むことを特徴とする動画配信方法。
  14. 前記動画配信サーバは、前記動画に設定された複数のキーフレームの画像データを予め前記動画出力装置に転送し、前記ユーザステータス情報から特定される前記視点位置の直前のキーフレーム以降の差分動画を前記動画出力装置へ送信し、
    前記動画出力装置は、予め前記キーフレームの画像データを受信して記憶し、前記差分動画を前記動画配信サーバから受信し、記憶されたキーフレームの画像データと受信した差分動画とから出力動画を生成し、出力することを特徴とする請求項13に記載の動画配信方法。
JP2016064121A 2016-03-28 2016-03-28 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法 Active JP6149967B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016064121A JP6149967B1 (ja) 2016-03-28 2016-03-28 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016064121A JP6149967B1 (ja) 2016-03-28 2016-03-28 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法

Publications (2)

Publication Number Publication Date
JP6149967B1 JP6149967B1 (ja) 2017-06-21
JP2017183816A true JP2017183816A (ja) 2017-10-05

Family

ID=59082051

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016064121A Active JP6149967B1 (ja) 2016-03-28 2016-03-28 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法

Country Status (1)

Country Link
JP (1) JP6149967B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021118439A (ja) * 2020-01-24 2021-08-10 楽天グループ株式会社 提示システム、提示方法、ならびに、プログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021172506A1 (ja) * 2020-02-29 2021-09-02 株式会社近江デジタルファブリケーションズ 動画配信方法、動画再生方法、動画配信装置、及び配信データ構造

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002320215A (ja) * 2001-02-16 2002-10-31 Fujitsu Ltd 動画像配信用サーバーコンピュータ、動画像編集方法、動画像受信用クライアントコンピュータ、動画像配信方法、動画像配信用クライアントサーバーシステム、動画像再生処理プログラム及び記録媒体
WO2004057271A1 (ja) * 2002-12-20 2004-07-08 Jicoux Datasystems, Inc. 画像提供装置、画像表示システム、画像提供方法、及びプログラム
JP2008113301A (ja) * 2006-10-31 2008-05-15 Hitachi Ltd ビデオ送信装置及びビデオ送信方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002320215A (ja) * 2001-02-16 2002-10-31 Fujitsu Ltd 動画像配信用サーバーコンピュータ、動画像編集方法、動画像受信用クライアントコンピュータ、動画像配信方法、動画像配信用クライアントサーバーシステム、動画像再生処理プログラム及び記録媒体
WO2004057271A1 (ja) * 2002-12-20 2004-07-08 Jicoux Datasystems, Inc. 画像提供装置、画像表示システム、画像提供方法、及びプログラム
JP2008113301A (ja) * 2006-10-31 2008-05-15 Hitachi Ltd ビデオ送信装置及びビデオ送信方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021118439A (ja) * 2020-01-24 2021-08-10 楽天グループ株式会社 提示システム、提示方法、ならびに、プログラム

Also Published As

Publication number Publication date
JP6149967B1 (ja) 2017-06-21

Similar Documents

Publication Publication Date Title
US9781356B1 (en) Panoramic video viewer
CN107590771B (zh) 具有用于在建模3d空间中投影观看的选项的2d视频
JP7498209B2 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
US20180261012A1 (en) Remote Object Detection and Local Tracking using Visual Odometry
JP7017175B2 (ja) 情報処理装置、情報処理方法、プログラム
US20120293613A1 (en) System and method for capturing and editing panoramic images
WO2017133147A1 (zh) 一种实景地图的生成方法、推送方法及其装置
KR102181489B1 (ko) 사용자들간의 협업을 통해 컨텐츠를 생성하는 방법 및 시스템
KR102523493B1 (ko) 가상 카메라 머신을 이용한 콘텐츠 제공 시스템 및 방법
US20190143211A1 (en) Image display device and image display system
JP6149967B1 (ja) 動画配信サーバ、動画出力装置、動画配信システム、及び動画配信方法
JP6635573B2 (ja) 画像処理システム、画像処理方法、及びプログラム
JP2020042407A (ja) 情報処理装置、情報処理方法及びプログラム
US10778855B2 (en) System and method for creating contents by collaborating between users
TWI705692B (zh) 三維場景模型中資訊的分享方法及裝置
JP6617547B2 (ja) 画像管理システム、画像管理方法、プログラム
CN111818265A (zh) 基于增强现实模型的交互方法、装置、电子设备及介质
JP2015162117A (ja) サーバ装置、プログラム、及び情報処理方法
US20210049824A1 (en) Generating a mixed reality
JP5861684B2 (ja) 情報処理装置、及びプログラム
KR101934799B1 (ko) 파노라마 영상을 이용하여 새로운 컨텐츠를 생성하는 방법 및 시스템
JP5967126B2 (ja) 端末装置及びプログラム
WO2024084943A1 (ja) 情報処理装置、情報処理方法、プログラム
US20230316659A1 (en) Traveling in time and space continuum
WO2022163276A1 (ja) コンピュータプログラム、方法及びサーバ装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170508

R150 Certificate of patent or registration of utility model

Ref document number: 6149967

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150