JP5552712B2 - 動画伝送サーバ - Google Patents

動画伝送サーバ Download PDF

Info

Publication number
JP5552712B2
JP5552712B2 JP2011183362A JP2011183362A JP5552712B2 JP 5552712 B2 JP5552712 B2 JP 5552712B2 JP 2011183362 A JP2011183362 A JP 2011183362A JP 2011183362 A JP2011183362 A JP 2011183362A JP 5552712 B2 JP5552712 B2 JP 5552712B2
Authority
JP
Japan
Prior art keywords
playback
moving image
data
video data
reproduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011183362A
Other languages
English (en)
Other versions
JP2013046276A (ja
Inventor
力 宮地
Original Assignee
独立行政法人日本スポーツ振興センター
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 独立行政法人日本スポーツ振興センター filed Critical 独立行政法人日本スポーツ振興センター
Priority to JP2011183362A priority Critical patent/JP5552712B2/ja
Publication of JP2013046276A publication Critical patent/JP2013046276A/ja
Application granted granted Critical
Publication of JP5552712B2 publication Critical patent/JP5552712B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、通信ネットワークを介して、クライアント端末に動画データを伝送する動画伝送サーバに関する。
サーバにアップロードされた動画ファイルを、通信ネットワークを介してクライアント端末にダウンロードして再生するときに、動画ファイル全てのダウンロードを完了してから再生を行うようにすると、動画の再生が開始されるまでの利用者の待ち時間が長くなってしまう。そこで、動画ファイルをダウンロードしながら動画の再生を行うようにして、利用者の待ち時間を短縮した「ストリーミング再生」方式でのダウンロードが普及している。
ここで、「ストリーミング再生」方式では、動画の再生順に所定ビットレートで動画データがダウンロードされ、クライアント端末には再生済みの動画データは保持されない。そのため、クライアント端末側で動画データを加工して、逆転再生やスロー再生等のトリック再生を行うことはできない。
そこで、「ストリーミング再生」方式で逆転再生を可能にするため、サーバに通常再生用の動画データと逆転再生用の動画データとを用意しておき、クライアント端末からの逆転再生の要求に応じて、ダウンロードする動画データを通常再生用から逆転再生用に切替える構成が提案されている(例えば、特許文献1参照)。
特開2000−125260号公報
特許文献1に記載された構成により、通常再生から逆転再生等のトリック再生に切替える場合には、それまでダウンロードを行っていた通常再生用の動画データのダウンロードを終了して、ダウンロードの対象をトリック再生用の動画データに切替えなければならない。
そのため、再生モードを通常再生からトリック再生に切替える処理に要する時間により、利用者の待ち時間が長くなるという不都合がある。
本発明はかかる背景に鑑みてなされたものであり、ストリーミング再生方式における再生モードの切替時間を短縮することができる動画伝送サーバを提供することを目的とする。
本発明は上記目的を達成するためになされたものであり、本発明の動画伝送サーバは、動画データを、動画データ送信部により、通信ネットワークを介してクライアント端末に所定速度で伝送することによって、該クライアント端末でのストリーミング再生を可能とする動画伝送サーバにおいて、
所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成された再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合させて、一つの動画データとしたシリアライズ動画データを保持する動画データ保持部と、
前記動画データ送信部から送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記所定時刻間内の所定時刻に対応する再生モード変更時点を指示する再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索部とを備え、
前記動画データ送信部は、前記再生開始位置探索部により前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第1発明)。
第1発明によれば、前記動画データ保持部により、前記通常再生動画データと前記トリック動画データを結合した前記シリアライズ動画データが保持され、前記再生開始位置探索部は、前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、前記再生モード指示データと前記再生モード変更時点指示データを受信したときに、指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、前記再生開始位置を探索する。
そして、前記動画データ送信部は、前記シリアライズ動画データの送信箇所を、前記再生開始位置探索部により探索された前記再生開始位置からに変更する。これにより、前記シリアライズ動画データによるストリーミング再生を継続しつつ、通常のストリーミング再生における動画の再生位置の変更と同様の処理によって、動画の再生モードを切替えることができる。
そのため、前記クライアント端末側には、動画データの再生モードを切替えるための特別なアプリーケーションを用意する必要はない。そして、通常再生用の動画データと、トリック再生用の動画データとを別個のデータとしてサーバに用意し、通常再生とトリック再生の切替を、ストリーミング再生を一端終了して対象とする動画データを切替えることによって行う場合よりも、再生モードの切替に要する時間を短縮することができる。
また、第1発明において、前記再生条件変更動画データには、ストリーミング再生における前記対象物の変位速度が前記通常再生動画データよりも低速になるように生成された低速再生動画データが含まれ、
前記再生開始位置探索部は、前記クライアント端末から、再生モードとして低速再生モードを指示する前記再生モード指示データと、前記再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、前記低速再生動画データにおける前記再生開始位置を探索し、
前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記低速再生動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第2発明)。
第2発明によれば、前記再生開始位置探索部は、前記クライアント端末から、前記低速再生モードへの切替を指示する前記再生モード指示データと前記再生モード変更時点指示データを受信したときに、前記低速再生動画データにおける前記再生開始位置を探索する。
そして、前記動画データ送信部により、前記シリアライズ動画データの送信箇所が、前記低速再生動画データにおける前記再生開始位置からに変更されるため、前記クライアント端末でストリーミング再生される動画を、前記低速再生動画データによる低速再生の動画に切替えることができる。
また、第1発明又は第2発明において、前記再生条件変更動画データには、ストリーミング再生における前記対象物の時系列変位が前記通常再生動画データと逆転するように生成された逆転再生動画データが含まれ、
前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして逆転再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記逆転再生動画データにおける前記再生開始位置を探索し、
前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記逆転再生動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第3発明)。
第3発明によれば、前記再生開始位置探索部は、前記クライアント端末から、前記逆転再生モードへの切替を指示する前記再生モード指示データと前記再生モード変更時点指示データとを受信したときに、前記逆転再生動画データにおける前記再生開始位置を探索する。
そして、前記動画データ送信部により、前記シリアライズ動画データの送信箇所が、前記逆転再生動画データにおける前記再生開始位置からに変更されるため、前記クライアント端末でストリーミング再生される動画を、前記逆転再生動画データによる逆転再生の動画に切替えることができる。
また、第1発明から第3発明のうちのいずれかにおいて、前記再生条件変更動画データには、ストリーミング再生における前記対象物の変位速度が前記通常再生動画データよりも高速になるように生成された高速再生動画データが含まれ、
前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして高速再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記高速再生動画データにおける前記再生開始位置を探索し、
前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記高速再生動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第4発明)。
第4発明によれば、前記再生開始位置探索部は、前記クライアント端末から、前記高速再生モードへの切替を指示する前記再生モード指示データと前記再生モード変更時点指示データを受信したときに、前記高速再生動画データにおける前記再生開始位置を探索する。
そして、前記動画データ送信部により、前記シリアライズ動画データの送信箇所が、前記高速再生動画データにおける前記再生開始位置からに変更されるため、前記クライアント端末でストリーミング再生される動画を、前記高速再生動画データによる高速再生の動画に切替えることができる。
また、第1発明から第4発明のうちのいずれかにおいて、前記トリック動画データには、前記所定時刻間に前記所定視点と異なる複数の視点から撮像された複数の前記異視点動画データが含まれ、
前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして多視点再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記各異視点動画データにおける前記再生開始位置を探索し、
前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記各異視点動画データにおける前記再生開始位置から所定時間分ずつに順次変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第5発明)。
第5発明によれば、前記再生開始位置探索部は、前記クライアント端末から、前記多視点再生モードへの切替を指示する前記再生モード指示データと前記再生モード変更時点指示データとを受信したときに、前記各異視点動画データにおける前記再生開始位置を探索する。
そして、前記動画データ送信部により、前記シリアライズ動画データの送信箇所が、前記各異視点動画データにおける前記再生開始位置に順次変更されるため、前記クライアント端末でスリーミング再生される動画を、前記複数の異視点動画データにより視点が順次変更される前記対象物の動画に切替えることができる。
また、第1発明から第5発明のうちのいずれかにおいて、前記トリック動画データには、前記異視点動画データが含まれ、
前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして異視点表示モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記異視点動画データにおける前記再生開始位置を探索し、
前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記異視点動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第6発明)。
第6発明によれば、前記再生開始位置探索部は、前記クライアント端末から、前記異視点表示モードを指示する前記再生モード指示データと前記再生モード変更時点指示データを受信したときに、前記異視点動画データにおける前記再生開始位置を探索する。
そして、前記動画データ送信部により、前記シリアライズ動画データの送信箇所が、前記異視点動画データにおける前記再生開始位置からに変更されるため、前記クライアント端末でストリーミング再生される動画を、前記異視点動画データにより撮像視点が異なる前記対象物の動画に切替えることができる。
次に、本発明の動画伝送システムは、動画データを保持して動画データ送信部により動画データを送信する動画伝送サーバと、前記動画伝送サーバと通信ネットワークを介してデータ通信を行うクライアント端末とを含み、前記クライアント端末は、所定速度で前記動画伝送サーバから伝送される動画データを受信して、ストリーミング再生により表示器に動画を表示する動画伝送システムにおいて、
前記クライアント端末は、前記表示器にストリーミング再生により動画を表示するときに、動画の再生モードを選択するための操作部を併せて表示し、動画再生中に該操作部により再生モードの選択が切替えられたときには、新たに選択された再生モードを指示する再生モード指示データと、再生中であった切替前の再生モードに応じた動画データの再生位置に対応する再生モード変更時点を指示する再生モード変更時点指示データとを、前記動画伝送サーバに送信し、
前記動画伝送サーバは、
所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成した再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合して、一つの動画データとしたシリアライズ動画データを保持する動画データ保持部と、
前記動画データ送信部から送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索部とを備え、
前記動画データ送信部は、前記再生開始位置探索部により前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする(第7発明)。
第7発明によれば、前記クライアント端末の利用者が、前記操作部を操作して再生モードの選択を切替えることによって、前記再生モード指示データと前記再生モード変更時点指示データが前記動画伝送サーバに送信される。
前記動画伝送サーバにおいては、前記通常再生動画データと前記トリック動画データを結合した前記シリアライズ動画データが保持され、前記再生開始位置探索部は、前記クライアント端末から、前記再生モード指示データと前記再生モード変更時点指示データを受信したときに、指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、前記再生開始位置を探索する。
そして、前記動画データ送信部は、前記シリアライズ動画データの送信箇所を、前記再生開始位置探索部により探索された前記再生開始位置からに変更する。これにより、前記シリアライズ動画データによるストリーミング再生を継続しつつ、通常のストリーミング再生における動画の再生位置の変更と同様の処理によって、動画の再生モードを切替えることができる。
そのため、前記クライアント端末側には、動画データの再生モードを切替えるための特別なアプリーケーションを用意する必要はない。そして、通常再生用の動画データと、トリック再生用の動画データとを別個のデータとしてサーバに用意し、通常再生とトリック再生の切替を、ストリーミング再生を一端終了して対象とする動画データを切替えることによって行う場合よりも、再生モードの切替に要する時間を短縮することができる。
次に、本発明の動画伝送方法は、動画データを、動画伝送サーバから通信ネットワークを介してクライアント端末に所定速度で伝送することによって、ストリーミング再生により該クライアント端末の表示器に動画を表示する動画伝送方法であって、
前記動画伝送サーバが、所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成した再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合したシリアライズ動画データを保持する動画データ保持ステップと、
前記動画伝送サーバが、前記動画伝送サーバから送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記所定時刻間の所定時刻に対応する再生モード変更時点を指示する再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索ステップと、
前記動画伝送サーバが、前記再生開始位置探索ステップにより前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続する動画データ送信ステップとを含むことを特徴とする(第8発明)
第8発明によれば、前記動画データ保持ステップにより、前記通常再生動画データと前記トリック動画データを結合した前記シリアライズ動画データが保持され、前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、前記再生モード指示データと前記再生モード変更時点指示データを受信したときに、前記再生開始位置探索ステップにより、指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、前記再生開始位置が探索される。
そして、前記動画データ伝送ステップにより、前記シリアライズ動画データの送信箇所が、前記再生開始位置探索部により探索された前記再生開始位置からに変更される。これにより、前記シリアライズ動画データによるストリーミング再生を継続しつつ、通常のストリーミング再生における動画の再生位置の変更と同様の処理によって、動画の再生モードを切替えることができる。
そのため、前記クライアント端末側には、動画データの再生モードを切替えるための特別なアプリケーションを用意する必要はない。そして、通常再生用の動画データと、トリック再生用の動画データとを別個のデータとしてサーバに用意し、通常再生とトリック再生の切替を、ストリーミング再生を一端終了して対象とする動画データを切替えることによって行う場合よりも、再生モードの切替に要する時間を短縮することができる。
次に、本発明の動画伝送用プログラムは、動画データを、動画データ送信部により、通信ネットワークを介してクライアント端末に所定速度で伝送することによって、該クライアント端末でのストリーミング再生を可能とする動画伝送サーバ用のプログラムであって、前記動画伝送サーバを構成するコンピュータを、
前記動画データ送信部と、
所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成された再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合させて、一つの動画データとしたシリアライズ動画データを保持する動画データ保持部と、
前記動画データ送信部から送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記所定時刻間内の所定時刻に対応する再生モード変更時点を指示する再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索部として機能させると共に、
前記動画データ送信部を、前記再生開始位置探索部により前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続するように機能させることを特徴とする(第9発明)。
第9発明の動画伝送サーバ用のプログラムを、前記コンピュータに実行させることによって、前記第1発明における前記動画データ保持部と、前記再生開始位置探索部と、前記動画データ送信部の構成を実現することができる。
動画伝送サーバとクライアント端末間の動画伝送形態の説明図。 クライアント端末における動画ビュワーの説明図。 動画伝送サーバの作動フローチャート。 シリアライズ動画データの説明図。 カメラによる撮像画像と通常再生動画データとの対応の説明図。 カメラによる撮像画像と逆転再生動画データとの対応の説明図。 多視点による撮像により得られる複数の異視点動画データの説明図。 多視点再生モードでのシリアライズ動画データの送信態様の説明図。
本発明の動画伝送サーバ及び動画伝送システムの実施形態について、図1〜図8を参照して説明する。
図1を参照して、本実施形態の動画伝送システムは、通信ネットワーク1を介して相互に通信可能とされている動画伝送サーバ10とクライアント端末20(20a,20b,20c)とにより構成されている。
動画伝送サーバ10は、各種のスポーツ映像等を記録した動画データを記憶した映像データベース11と、コンピュータ及びその周辺機器により構成されている。動画伝送サーバを構成するコンピュータに、動画伝送サーバ用のプログラムを実行させることによって、このコンピュータが、動画データ保持部12、再生開始位置探索部13、及び動画データ送信部14として機能する。
クライアント端末20では、動画ビュワーのアプリケーションが実行可能であり、クライアント端末20の利用者がこの動画ビュワーを起動すると、ディスプレイ21(21a,21b,21c、本発明の表示器に相当する)に、図2に示した動画ビュワーの画面が表示される。
図2の動画ビュワーの画面には、動画表示部30の他に、閲覧する映像シーンの選択等を行うためのメニューバー42、一時停止釦31、コマ戻し釦32、コマ送り釦33、カメラ視点切替釦34、再生位置スライダー35、逆転高速再生釦36、通常高速再生釦37、逆転再生釦38、通常再生釦39、低速再生釦40、及び再生時刻表示部41が表示される。
再生位置スライダー35は、動画データの再生位置に応じて変位し、また、使用者の操作に応じて位置が変更されたときに、変更位置に応じて動画データの再生位置を変更する。
図2のビュワー画面で、利用者がメニューバー42を操作して、閲覧を希望する映像シーンを選択すると、クライアント端末20から動画伝送サーバ10に対して、映像シーン選択データVS-dat(図1参照)が送信される。
また、利用者が31〜40の操作釦を操作すると、クライアント端末20から動画伝送サーバ10に対して、再生モードを指示する再生モード指示データPMI-dat(図1参照)と、各再生モードで再生を開始する時点を指示する再生モード変更時点指示データPTI-dat(図1参照)とが送信される。
具体的には、操作された釦に応じて、以下の表1に示した再生モードを指示する再生モード指示データPMI-datが送信される。
また、各釦が操作された時点での動画データの再生位置(再生位置スライダー35の位置)を示す再生モード変更時点指示データPTI-datが、クライアント端末20から動画伝送サーバ10に送信される。なお、利用者により再生位置スライダー35が操作されたときにも、再生位置スライダー35の位置に応じた再生位置を示す再生モード変更時点指示データPTI-datが、クライアント端末20から動画伝送サーバ10に送信される。
動画伝送サーバ10は、クライアント端末20から送信された再生モード指示データPMI-datと再生モード変更時点指示データPTIを受信したときに、再生モード指示データPMI-datにより指示された再生モードで、クライアント端末20のディスプレイ21にストリーミング再生により映像を表示させるためストリームデータ15(図1参照)を送信する処理を実行する。以下、図3に示したフローチャートに従って、動画伝送サーバ10によるこの処理について説明する。
図3のSTEP1は動画データ保持部12による処理である。動画データ保持部12は、映像シーン選択データVS-datを受信すると、映像シーン選択データVS-datにより指示された映像シーンの動画データを、映像データベース11から読み出す。ここで、映像データベース11には、各映像シーンの各再生モード用の動画データが記憶されている。
動画データ保持部12は、図4に示したように、映像データベース11から読み出した各再生モード用の動画データを結合して、一つの動画データ(シリアライズ動画データ55)を生成する。
なお、STEP1で、動画データ保持部12によりシリアライズ動画データ55を生成する処理は、本発明の動画伝送方法における動画保持ステップに相当する。
また、各再生モード用の動画データのうち、通常再生モードに対して再生条件を変更した再生モード用の動画データ(逆転再生動画データ、低速再生動画データ、コマ戻し再生動画データ、コマ送り再生動画データ、逆転高速再生動画データ、通常高速再生動画データ)が、本発明の再生条件変更動画データに相当する。
また、異視点再生モード及び多視点再生モード用の動画データである異視点動画データと、再生条件変更動画データは、本発明のトリック動画データに相当する。
図4では、通常再生モードに対応した通常再生動画データ51、逆転再生モードに対応した逆転再生動画データ52、及び低速再生モードに対応した低速再生動画データ53を結合して、一つのシリアライズ動画データ55を生成する例を示している。
図4の上段に示したように、通常再生動画データ51、逆転再生動画データ52、及び低速再生動画データ53が別の動画データとなっているときは、例えば、通常再生モードから逆転再生モードに切替えるためには、それまで行っていた通常再生動画データ51のストリーム送信をP1で中止してから、逆転再生動画データ52を読み出してP2からストリーム送信を開始する必要がある。そのため、再生モードの切替に時間がかかる。
それに対して、図4の下段に示したように、通常再生動画データ51、逆転再生動画データ52、及び低速再生動画データ53が結合されて、一つのシリアライズ動画データ55になっている場合には、シリアライズ動画データ55の再生位置を、P1からP2に移動させれば済む。そのため、再生モードの切替時間を短縮することができる。
続くSTEP2〜STEP3は、再生開始位置探索部13による処理である。再生開始位置探索部13は、STEP2で再生モード指示データPMI-datと再生モード変更時点指示データPTI-datを受信したときにSTEP3に進む。
STEP3で、再生開始位置探索部13は、再生モード指示データPMI-datにより指示された再生モード及び再生モード変更時点指示データPTI-datにより指示された再生変更時点に対応する再生開始位置を、シリアライズ動画データ55から探索する。
なお、STEP3で、再生開始位置探索部が再生開始位置を探索する処理は、本発明の動画伝送方法の再生開始位置探索ステップに相当する。
図4の例は、通常再生モードでP1の再生位置であるときに、逆転再生モードが選択された場合を示している。この場合、再生開始位置探索部13は、逆転再生動画データの再生位置P1に対応する再生位置であるP2を、逆転再生モードでの再生開始位置として探索する。
ここで、図5は、カメラによりある時点0〜teの間(本発明の所定時刻間に相当する)に撮像された撮像画像データ60と、シリアライズ動画データ55との対応関係を示したものである。撮像画像データ60は所定の撮像サイクル毎のフレームデータf(1)〜f(n)により構成され、シリアライズ動画データ55の通常再生動画データ51は、位置Pns〜Pneに保持されている。
通常再生動画データ51は、カメラによる撮像画像データ60と同一方向のストリームデータであり、フレームデータf(1)〜f(n)がカメラによる撮像画像データ60と同一順序で、クライアント端末20に伝送される。
カメラによる撮像画像データ60における撮像時点tm(以下、実時点tmという)に対応するシリアライズ動画データ55での通常再生動画データ51の位置Pnm(以下、論理時点Pnmという)との間には、以下の式(1)の関係が成り立つ。
但し、tm:カメラの撮像画像における撮像時点(実時点)、Pnm:tmに対応するシリアライズ動画データ55での通常再生動画データ51の位置(論理時点)、Le:カメラの撮像時間(0〜te)、Pns:通常再生動画データの開始位置、Pne:通常再生動画データの終了位置。
また、図6は、撮像画像データ60と、シリアライズ動画データ55に含まれる逆転再生動画データ52との対応関係を示したものである。シリアライズ動画データ55において、逆転再生動画データ52は、Prs〜Preの位置に保持されている。
逆転再生動画データ52は、カメラによる撮像画像データ60と逆方向のストリームデータであり、フレームデータf(1)〜f(n)がカメラによる撮像画像データ60と逆方向の順序で、クライアント端末20に伝送される。
通常再生動画データ51の論理時点Pnmに対応する逆転再生動画データ52の論理時点Prmは、上記式(1)で算出した実時点tmから、以下の式(2)により算出することができる。
但し、tm:カメラの撮像画像における撮像時点(実時点)、Prm:tmに対応するシリアライズ動画データ55での通常再生動画データ51の位置(論理時点)、Le:カメラの撮像時間(0〜te)、Prs:逆転再生動画データの開始位置、Pre:逆転再生動画データの終了位置。
再生開始位置探索部13は、上記式(1),式(2)により、再生モード変更時点指示データPTI-datにより指示された通常再生動画データ51の論理時点Pnmに対応する、逆転再生動画データ52の論理時点Prmを算出する。そして、再生開始位置探索部13は、この論理時点Prmを、逆転再生動画データ52の再生開始位置Pstとして動画データ送信部14に指示する。
なお、図5,図6では、通常再生モードから逆転再生モードに切替える例を示したが、他の再生モードの切替についても、切替前の再生モードに対応した動画データの論理時点に応じた撮像画像データ60の実時点を、上記式(1)と同様の関係式により算出し、撮像画像データ60の実時点から切替後の再生モードに対応した動画データの論理時点を、上記式(2)と同様の関係式により算出することにより、切替後の再生モードに対応した動画データの再生開始位置Pstを算出することができる。
次に、図3のSTEP4は、動画データ送信部14による処理である。動画データ送信部14は、再生開始位置探索部13により算出された再生開始位置Pstから、シリアライズ動画データ55を、所定のビットレートでクライアント端末20に送信する。クライアント端末20は、このシリアライズ動画データ55を受信することで、切替後の再生モードの動画を動画ビュワーにより表示することができる。
なお、動画データ送信部14によるSTEP4の処理は、本発明の動画伝送方法の動画データ送信ステップに相当する。
続くSTEP5〜STEP7は、クライアント端末20の利用者が、さらに再生モードを切替える操作を行った場合に対応するための処理である。STEP5〜STEP6は再生開始位置探索部13による処理であり、再生開始位置探索部13は、クライアント端末20から再生モード指示データPMI-datと再生モード変更時点指示データPTI-datを受信したときに、STEP6に進む。
STEP6で、再生開始位置探索部13は、上述したSTEP3と同様に、再生モード指示データPMI-datにより指示された再生モードと、再生モード変更時点指示データPTI-datにより指示された論理時点とに基づいて、再生開始時点Pstを探索する。
続くSTEP7は動画データ送信部14による処理である。動画データ送信部14は、シリアライズ動画データ55の送信箇所を、再生開始位置探索部13により探索された再生開始時点Pstからに変更して、シリアライズ動画データ55の送信を継続する。これにより、クライアント端末20では、再生モードを切替えて動画ビュワーにより動画を再生することができる。
次に、図7〜図8を参照して、多視点再生モードが選択された場合の動画伝送サーバ10の処理について説明する。
図7は、柔道競技の映像シーンについて、多視点再生モード用の動画データを生成する例を示したものであり、柔道競技者Jを、全周囲方向と上方から9台のカメラ(第1カメラ81,第2カメラ82,…,第9カメラ89)により撮像して生成された9個の動画データ91〜99が、映像データベース11に記憶されている。
各動画データ91〜99は、0〜teの時間分の長さをもったストリーミングデータであり、同一の実時点tmでのフレームデータを切出すことで、実時点tmにおける柔道競技者Jの全周囲と上方からの画像を取得することができる。
次に、図8を参照して、再生開始位置探索部13は、再生モード指示データPMI-datにより、多視点再生モードが指示されると、再生モード変更時点指示データPTI-datにより指示された、多視点再生モードに切替えられる前の再生モードでの論理時点Pbmから算出された実時点tbmに対応する、各カメラの動画データ91〜99の論理時点P1m〜P9mを、再生開始時点Pstとして探索する。
そして、動画データ送信部14は、再生開始位置探索部13により探索された各カメラの動画データ91〜99の再生開始時点Pst(P1m,P2m,…,P9m)でのフレームデータf1(P1m)〜f9m(P9m)を、順次クライアント端末20に送信する。
このフレームデータf1(P1m)〜f9(P9m)のストリームデータ100を受信したクライント端末20では、動画ビュワーによりストリームデータ100を再生することにより、柔道競技者Jを360度の周囲と上方から見た映像を連続的に表示することができる。この場合、利用者は、柔道競技者Jの姿勢を全周囲と上方から確認することができるため、競技状況を詳細に分析することができる。
なお、この場合のフレームデータf1(P1m)〜f9(P9m)の1フレームの再生時間が本発明の所定時間分に相当する。また、1フレームずつではなく、動画データ91〜99の数フレーム分ずつの動画データをクライアント端末20に送信するようにしてもよい。
そして、クライアント端末20の利用者は、図2の動画ビュワーのカメラ視点切替釦34のカメラ番号1〜9を選択することで、選択した番号のカメラの動画データを続けて再生することができる(異視点再生モード)。
なお、本実施形態では、図3のSTEP1で、動画データ保持部12によりシリアライズ動画データ55を生成したが、予めシリアライズ動画データ55を生成して映像データベース11に記憶しておくようにしてもよい。この場合には、動画データ保持部12は、映像データベース11からシリアライズ動画データ55を読み出せばよい。
また、本実施形態では、本発明のトリック画像として、再生条件変更動画データと異視点動画データの双方を、通常再生動画データに結合させてシリアライズ動画データを生成したが、再生条件変更動画データと異視点動画データとの少なくともいずれか一方を、通常再生動画データに結合させることで、本発明の効果を得ることができる。
1…通信ネットワーク、10…動画伝送サーバ、11…映像データベース、12…動画データ保持部、13…再生開始位置探索部、14…動画データ送信部、20…クライアント端末、21…クライアント端末のディスプレイ、30…画像表示部、31…一時停止釦、32…コマ戻し釦32、33…コマ送り釦、34…カメラ視点切替釦、35…再生位置スライダー、36…逆転高速再生釦、37…通常高速再生釦39…通常再生釦、39…逆転再生釦、40…低速再生釦、41…再生時刻表示部、55…シリアライズ動画データ。

Claims (9)

  1. 動画データを、動画データ送信部により、通信ネットワークを介してクライアント端末に所定速度で伝送することによって、該クライアント端末でのストリーミング再生を可能とする動画伝送サーバにおいて、
    所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成された再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合させて、一つの動画データとしたシリアライズ動画データを保持する動画データ保持部と、
    前記動画データ送信部から送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記所定時刻間内の所定時刻に対応する再生モード変更時点を指示する再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索部とを備え、
    前記動画データ送信部は、前記再生開始位置探索部により前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送サーバ。
  2. 請求項1に記載の動画伝送サーバにおいて、
    前記再生条件変更動画データには、ストリーミング再生における前記対象物の変位速度が前記通常再生動画データよりも低速になるように生成された低速再生動画データが含まれ、
    前記再生開始位置探索部は、前記クライアント端末から再生モードとして低速再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記低速再生動画データにおける前記再生開始位置を探索し、
    前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記低速再生動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送サーバ。
  3. 請求項1又は請求項2に記載の動画伝送サーバにおいて、
    前記再生条件変更動画データには、ストリーミング再生における前記対象物の時系列変位が前記通常再生動画データと逆転するように生成された逆転再生動画データが含まれ、
    前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして逆転再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記逆転再生動画データにおける前記再生開始位置を探索し、
    前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記逆転再生動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送サーバ。
  4. 請求項1から請求項3のうちいずれか1項に記載の動画伝送サーバにおいて、
    前記再生条件変更動画データには、ストリーミング再生における前記対象物の変位速度が前記通常再生動画データよりも高速になるように生成された高速再生動画データが含まれ、
    前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして高速再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記高速再生動画データにおける前記再生開始位置を探索し、
    前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記高速再生動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送サーバ。
  5. 請求項1から請求項4のうちいずれか1項に記載の動画伝送サーバにおいて、
    前記トリック動画データには、前記所定時刻間に前記所定視点と異なる複数の視点から撮像された複数の前記異視点動画データが含まれ、
    前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして多視点再生モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記各異視点動画データにおける前記再生開始位置を探索し、
    前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記各異視点動画データにおける前記再生開始位置から所定時間分ずつに順次変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送サーバ。
  6. 請求項1から請求項5のうちいずれか1項に記載の動画伝送サーバにおいて、
    前記トリック動画データには、前記異視点動画データが含まれ、
    前記再生開始位置探索部は、前記クライアント端末から前記再生モードとして異視点表示モードを指示する前記再生モード指示データを受信したときに、前記シリアライズ動画データから、前記異視点動画データにおける前記再生開始位置を探索し、
    前記動画データ送信部は、送信中の前記シリアライズ動画データの送信箇所を、前記異視点動画データにおける前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送サーバ。
  7. 動画データを保持して動画データ送信部により動画データを送信する動画伝送サーバと、前記動画伝送サーバと通信ネットワークを介してデータ通信を行うクライアント端末とを含み、前記クライアント端末は、所定速度で前記動画伝送サーバから伝送される動画データを受信して、ストリーミング再生により表示器に動画を表示する動画伝送システムにおいて、
    前記クライアント端末は、前記表示器にストリーミング再生により動画を表示するときに、動画の再生モードを選択するための操作部を併せて表示し、動画再生中に該操作部により再生モードの選択が切替えられたときには、新たに選択された再生モードを指示する再生モード指示データと、再生中であった切替前の再生モードに応じた動画データの再生位置に対応する再生モード変更時点を指示する再生モード変更時点指示データとを、前記動画伝送サーバに送信し、
    前記動画伝送サーバは、
    所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成した再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合して、一つの動画データとしたシリアライズ動画データを保持する動画データ保持部と、
    前記動画データ送信部から送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索部とを備え、
    前記動画データ送信部は、前記再生開始位置探索部により前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続することを特徴とする動画伝送システム。
  8. 動画データを、動画伝送サーバから通信ネットワークを介してクライアント端末に所定速度で伝送することによって、ストリーミング再生により該クライアント端末の表示器に動画を表示する動画伝送方法であって、
    前記動画伝送サーバが、所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成した再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合したシリアライズ動画データを保持する動画データ保持ステップと、
    前記動画伝送サーバが、前記動画伝送サーバから送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記所定時刻間の所定時刻に対応する再生モード変更時点を指示する再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索ステップと、
    前記動画伝送サーバが、前記再生開始位置探索ステップにより前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続する動画データ送信ステップと
    を含むことを特徴とする動画伝送方法。
  9. 動画データを、動画データ送信部により、通信ネットワークを介してクライアント端末に所定速度で伝送することによって、該クライアント端末でのストリーミング再生を可能とする動画伝送サーバ用のプログラムであって、前記動画伝送サーバを構成するコンピュータを、
    前記動画データ送信部と、
    所定時刻間に所定視点から撮像された対象物の動画データである通常再生動画データに対して、該通常再生動画データの再生速度又は再生順序を変更して生成された再生条件変更動画データと、前記所定時刻間に前記所定視点と異なる視点から撮像された前記対象物の動画データである異視点動画データとのうちの少なくともいずれか一方を含むトリック動画データを結合させて、一つの動画データとしたシリアライズ動画データを保持する動画データ保持部と、
    前記動画データ送信部から送信される前記シリアライズ動画データを受信してストリーミング再生を行っている前記クライアント端末から、再生モードを指示する再生モード指示データと、前記所定時刻間内の所定時刻に対応する再生モード変更時点を指示する再生モード変更時点指示データとを受信したときに、前記シリアライズ動画データから、該再生モード指示データにより指示された再生モードに対応する前記通常再生動画データ又は前記トリック動画データにおける、該再生モード変更時点指示データにより指示された再生モード変更時点に対応する位置である再生開始位置を探索する再生開始位置探索部として機能させると共に、
    前記動画データ送信部を、前記再生開始位置探索部により前記再生開始位置が探索されたときに、通常のストリーミング再生における動画の再生位置の変更と同様の処理により、送信中の前記シリアライズ動画データの送信箇所を、前記再生開始位置からに変更して、前記シリアライズ動画データの送信を継続するように機能させることを特徴とする動画伝送サーバ用プログラム。
JP2011183362A 2011-08-25 2011-08-25 動画伝送サーバ Expired - Fee Related JP5552712B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011183362A JP5552712B2 (ja) 2011-08-25 2011-08-25 動画伝送サーバ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011183362A JP5552712B2 (ja) 2011-08-25 2011-08-25 動画伝送サーバ

Publications (2)

Publication Number Publication Date
JP2013046276A JP2013046276A (ja) 2013-03-04
JP5552712B2 true JP5552712B2 (ja) 2014-07-16

Family

ID=48009834

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011183362A Expired - Fee Related JP5552712B2 (ja) 2011-08-25 2011-08-25 動画伝送サーバ

Country Status (1)

Country Link
JP (1) JP5552712B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109525822A (zh) * 2018-12-28 2019-03-26 北京工业大学 红外全景监控软件内容回放的方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6552193B2 (ja) * 2014-12-25 2019-07-31 キヤノン株式会社 撮像装置、および、記録装置の制御方法
JP6418940B2 (ja) * 2014-12-25 2018-11-07 キヤノン株式会社 電子機器及びその制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2708683B2 (ja) * 1992-10-21 1998-02-04 日本電信電話株式会社 ディジタル動画ファイルの特殊再生制御処理方法
JPH09186967A (ja) * 1995-12-28 1997-07-15 Hitachi Ltd 動画処理方法
JPH10322680A (ja) * 1997-05-16 1998-12-04 Nippon Telegr & Teleph Corp <Ntt> 連鎖型多視点映像再生方法
JP2000101985A (ja) * 1998-09-28 2000-04-07 Toshiba Corp ストリームデータ早送り機構
JP2000125260A (ja) * 1998-10-15 2000-04-28 Toshiba Corp 動画像伝送サーバおよび同サーバを用いた動画像伝送システム並びに動画像伝送制御方法
JP4888955B2 (ja) * 2006-05-26 2012-02-29 Kddi株式会社 コンテンツ配信方法および装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109525822A (zh) * 2018-12-28 2019-03-26 北京工业大学 红外全景监控软件内容回放的方法

Also Published As

Publication number Publication date
JP2013046276A (ja) 2013-03-04

Similar Documents

Publication Publication Date Title
JP5920708B2 (ja) 多視点映像ストリーム視聴システムおよび方法
KR101604250B1 (ko) 게임 동영상 추천 서비스 제공 방법
JP6442155B2 (ja) 情報処理システム、情報処理装置、情報処理プログラム及び情報処理方法
KR102511407B1 (ko) 영상 배포 장치, 영상 배포 시스템, 영상 배포 방법 및 영상 배포 프로그램
JP5025782B2 (ja) 画像検索装置及び画像検索方法
JP5701017B2 (ja) 動画再生装置、動画再生方法、コンピュータプログラム、記憶媒体
JP2006174309A (ja) 動画再生装置、プログラム、及び記録媒体
CN104349221B (zh) 进行流分发的通信设备、信息处理设备、及其控制方法
US10115431B2 (en) Image processing device and image processing method
KR101905638B1 (ko) 동영상 재생 장치 및 방법
CN105306859A (zh) 信息处理装置和信息处理方法
KR101742419B1 (ko) 영상 재생 제어 프로그램, 영상 재생 제어 방법, 영상 배신 서버, 송신 프로그램 및 송신 방법
KR101561346B1 (ko) 재생 제어 장치, 재생 제어 방법 및 기록 매체
JP5552712B2 (ja) 動画伝送サーバ
JP6571859B1 (ja) 映像配信装置、映像配信システム、映像配信方法及び映像配信プログラム
US20150162049A1 (en) Image processing device, image processing method, and program
EP2942949A1 (en) System for providing complex-dimensional content service using complex 2d-3d content file, method for providing said service, and complex-dimensional content file therefor
JP2015162117A (ja) サーバ装置、プログラム、及び情報処理方法
JP5992729B2 (ja) 情報処理装置および情報処理方法
JP5695493B2 (ja) マルチ映像再生装置及びマルチ映像再生方法
JP2020067716A (ja) 情報処理装置、制御方法、及びプログラム
KR102187016B1 (ko) 타임 슬라이스 영상을 제공하는 사용자 단말 및 영상 제공 서버
JP2015162815A (ja) 端末装置、及びプログラム
WO2023103875A1 (zh) 自由视角视频的视角切换方法、装置及系统
JP2017084161A (ja) 画像処理装置、表示装置及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140509

R150 Certificate of patent or registration of utility model

Ref document number: 5552712

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees