JP2014013974A - ユーザポーズ操作時間推定装置及び方法及びプログラム - Google Patents

ユーザポーズ操作時間推定装置及び方法及びプログラム Download PDF

Info

Publication number
JP2014013974A
JP2014013974A JP2012149968A JP2012149968A JP2014013974A JP 2014013974 A JP2014013974 A JP 2014013974A JP 2012149968 A JP2012149968 A JP 2012149968A JP 2012149968 A JP2012149968 A JP 2012149968A JP 2014013974 A JP2014013974 A JP 2014013974A
Authority
JP
Japan
Prior art keywords
time
data
operation time
pause operation
estimated value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012149968A
Other languages
English (en)
Other versions
JP5806982B2 (ja
Inventor
Yasumasa Honda
泰理 本多
Koji Yamamoto
浩司 山本
Sorami Nakamura
天真 中村
Daisuke Ikegami
大介 池上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2012149968A priority Critical patent/JP5806982B2/ja
Publication of JP2014013974A publication Critical patent/JP2014013974A/ja
Application granted granted Critical
Publication of JP5806982B2 publication Critical patent/JP5806982B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】 データを受信する端末において、再生停止の発生時にユーザがポーズ操作を行うことを前提として、再生再開が可能となった後に生じているユーザによるポーズ操作時間を推定する。
【解決手段】 本発明は、ある特定の時点において入力されたキャプチャデータからメッセージまたはパケットを取得し、ポーズ状態解除後の任意の時点におけるバッファ内データ量に関する情報と、与えられたパラメータ推定値と、入力されたパケットキャプチャデータを取得する。バッファ内データ量が所与の再生停止閾値に達し、再生停止してユーザがポーズ操作を実施した場合に、キャプチャデータに基づいて、該再生停止からバッファ内データ量が所与の再生再開閾値に到達した状態になった後の時間をポーズ操作時間の推定値として算出する。
【選択図】 図1

Description

本発明は、映像サービスなどのデータを受信する端末における再生状態を推定するためのユーザポーズ操作時間推定装置及び方法及びプログラムに係り、特に、ある時点における端末のバッファ状態に基づき、パケットキャプチャデータからユーザによるポーズ操作状態(映像再生一時停止状態)の時間を推定するユーザポーズ操作時間推定装置及び方法及びプログラムに関する。
近年の通信網の広帯域化の進行により、大容量のコンテンツデータについても、クライアント端末でダウンロードとデータ処理を平行して実行するプログレッシブダウンロード型のコンテンツ配信システムが普及している。このようなコンテンツ配信形態では、ネットワーク条件に起因した伝送品質の劣化等が端末側でのコンテンツ再生に影響することから、端末側で再生バッファを用意し、再生開始までに一定量のバッファリング(初期バッファ量)を要することで、上位アプリケーションに対してネットワーク条件に起因した品質劣化の影響を隠蔽する仕組みが従来より多用されている。しかし、ネットワーク条件の劣化等に起因して再生バッファ内の蓄積データ量が低下した場合に再生が停止する場合がある。
これに対し、ユーザの体感品質を客観的に把握する必要があるコンテンツデータの提供事業者やアクセス回線を提供する回線事業者にとっては、ユーザからの品質劣化申告時の切り分け等、品質の遠隔監視の実施が重要な課題となるため、所与のキャプチャデータに基づき、端末の受信バイト量の時系列を把握し、モデル化されたプレイアウトバッファへ入力することで再生停止状態の推定値を導出する技術がある(例えば、非特許文献1〜3参照)。これらは、キャプチャデータから端末の受信バイト量時系列を把握し、モデル化されたプレイアウトバッファへ入力することで再生停止状態の推定値を出力するものである。またプログレッシブダウンロード型のアプリケーションは、その再生方式により2 種類に大別されることが知られており、上記技術はこれらのいずれについても適用可能なものである。これらの技術を利用することにより、所与のキャプチャデータのもと、当該セッションの再生状態を推定可能である。
池上大介、本多泰理、山本浩司他:「プログレッシブダウンロード系サービスの停止時間推定法」信学技報, vol. 111, no. 278, CQ2011-59, pp. 91-96, 2011 年11 月. 本多泰理,池上大介,山本浩司:「Ack 観測による映像再生状態推定法の検討 」,電子情報通信学会総合大会,B-11-25,2012 年3 月. 池上大介,本多泰理,山本浩司:「チャンク型映像配信サービスにおける再生状態推定法の検討」,電子情報通信学会総合大会,B-11-24,2012 年3 月.
しかしながら、普及が著しいスマートホンやタブレット端末はメモリ容量の制約上、PCと比較してプレイアウトバッファ長が短く、ダウンロードされた未再生のデータ容量がバッファ上限に到達し、ダウンロードが一時的に停止する状況が高い頻度で発生する。特に、逐次型プログレッシブダウンロード型サービスにおいては、ユーザによるポーズ操作実施後もダウンロードが継続される特徴があるため、回線状態の劣化等に起因した再生停止発生時にユーザがポーズ操作を実施し、データがバッファ上限に達して再生可能状態となった後、GUI上のシークバー等で再生が可能か否かを確かめてから改めて視聴を再開することが多い。
サービス提供事業者や回線提供事業者としては、保守の観点から、ユーザに提供される映像サービスの体感品質を客観的に把握することが望まれる。しかしながら、非特許文献1〜3は、キャプチャデータに基づき映像再生状態を推定する技術であるが、ユーザが実施するポーズ操作による再生停止時間は推定対象に含まれていない。このため、仮にユーザがポーズ操作を実施した場合は、出力される停止時間推定値には、実際の端末上のバッファ内データ量と再生停止、再生再開の閾値との関係によって制御される再生停止、再生再開の閾値との関係によって制御される再生停止時間に加え、ユーザの自発的な当該ポーズ操作の実施による再生停止時間も含まれることになり、ポーズ操作を長時間化した場合には映像再生状態の推定精度に与える影響が増大する懸念が存在した。
本発明は上記の点に鑑みなされたもので、逐次型のプログレッシブダウンロード型映像サービスなど、ネットワークを介して提供される映像等のデータを受信する端末において、再生停止の発生時にユーザがポーズ操作を行うことを前提として、再生再開後に生じているポーズ操作時間を推定することが可能なユーザポーズ操作時間推定装置及び方法及びプログラムを提供することを目的とする。
上記の課題を解決するため、本発明は、ネットワークを介して受信したデータを再生する端末において、データ再生時におけるユーザのポーズ操作時間を推定するユーザポーズ操作時間推定装置であって、
ある特定の時点において入力されたキャプチャデータからメッセージまたはパケットを取得し、ポーズ状態解除後の任意の時点におけるバッファ内データ量に関する情報を出力するバッファ内データ量リポート手段と、
与えられたパラメータ推定値と、前記バッファ内データ量リポート手段より取得した前記バッファ内データ量と、入力されたパケットキャプチャデータに基づき、ポーズ操作時間の推定値を算出するポーズ操作時間推定値算出手段と、
を有し、
前記ポーズ操作時間推定値算出手段は、
前記バッファ内データ量が所与の再生停止閾値に達し、再生停止してユーザがポーズ操作を実施した場合に、前記キャプチャデータに基づいて、該再生停止からバッファ内データ量が所与の再生再開閾値に到達した状態になった後の時間を前記ポーズ操作時間の推定値として算出する手段を含む。
本発明によれば、端末において、受信データの再生時に発生したポーズ時間の推定が可能となる。例えば、ネットワークを介した映像サービスのキャプチャデータ中に、再生停止発生に伴うユーザによるポーズ操作時間が含まれている場合に、バッファ内のデータ量が再生再開閾値に再度到達した状態から、ユーザによるポーズ状態解除までの時間を推定することにより、再生状態推定の精度向上を実現することができる。
本発明の一実施の形態におけるユーザポーズ操作時間推定装置の構成図である。 本発明の一実施の形態におけるバッファ長推移イメージである。 本発明による推定再生状態及びバッファ内データ量の推移である。
以下、図面と共に本発明の実施の形態を説明する。
図1は、本発明の一実施の形態におけるユーザポーズ時間推定装置の構成図である。
同図に示すユーザポーズ時間推定装置10は、ポーズ状態解除後の任意の時点におけるバッファ内データ量をリポートするバッファ内データ量リポート部2と、ポーズ操作時間、デコードレートの各推定値を算出するポーズ操作時間推定値算出部3とから構成され、ポーズ操作時間推定値算出部3は、パラメータ推定値を算出するパラメータ推定値算出装置1と接続され、プレイヤパラメータ推定値を取得する。
ポーズ操作時間推定値算出部3は、所与のパケットキャプチャデータを基に導出したバッファ内データ量リポート部2の出力であるバッファ内データ量と、前記所与のパケットキャプチャデータに基づき推定値を算出する。ポーズ操作時間推定値算出部3において、デコードレートが既知の値として予め所与されている場合には、該デコードレートを基に、ポーズ時間推定値を算出し、出力する。なお、ここで、キャプチャデータとは、当該アプリケーションのセッションを構成するIPパケットのデータであり、キャプチャデータを取得するキャプチャポイントは、サーバ・端末の経路上の任意の点であり、キャプチャ対象は、当該セッションの全パケットとなる。
パラメータ推定値算出装置1は、ポーズ操作時間推定値算出部3に対してパラメータ推定値として、再生停止後、2回目以降の再生に要する、データのバッファ内残量である再生再開閾値及びデコードレートを出力する。パラメータ推定値算出装置1では、プレイヤを、固定レートで有限長のバッファ中のデータをデコードすることによりモデル化する。
パラメータ推定値算出装置1は、再生状態推定装置10と接続され、プレイヤをモデル化し、モデルに基づいてパラメータ推定値を算出し、デコードレート推定部2に出力する。
パラメータ推定値算出装置1は、ポーズ操作時間推定部2に対してパラメータ推定値を出力する装置である。パラメータ推定値算出装置1は、プレイヤをモデル化し、モデルに基づいてパラメータ推定値を算出し、ポーズ操作時間推定部2に出力する。当該パラメータ推定値算出装置1における処理は、モデル化が可能な種々の従来技術(例えば、非特許文献1〜3)により実現可能である。
パラメータ推定値算出装置1により出力されるパラメータ推定値を以下に示す。
1)再生開始閾値:アプリケーション開始後、初回の再生に要する、データのバッファ内残量である。
2)再生再開閾値:再生停止後、2回目以降の再生に要する、データのバッファ内残量である。
3)再生停止閾値:再生状態から再生停止状態へ移行するバッファ内データ量の閾値である。
4)バッファ長:プレイアウトバッファの容量。本発明では有限長であることを許容する。
5)バッファ内データ量。
パラメータ推定値算出装置1は、上記のパラメータ推定値のうち、再生開始閾値、再生再開閾値、バッファ長、デコードレート、再生停止閾値を出力する。但し、バッファ上限到達前に再生停止が発生していない場合は、再生停止閾値は必要ない。
以下に、ユーザポーズ時間推定装置10の各構成の処理を詳細に説明する。
バッファ内データ量リポート部2による出力としては、例えばクライアント端末から送出されるフィードバックメッセージや、バッファ上限到達を示すパケット(TCP RST パケット、Zero Window など)が考えられる。ここで当該フィードバックメッセージには、当該時刻におけるバッファ内データ量が記載される必要がある。ただし、バッファ上限到達を示すパケット(RST, FIN, Zero Window等)の場合には、バッファ長が既知であれば、パケットにバッファ内データ量が記載されている必要はない。
次に、ポーズ操作時間推定値算出部3について説明する。
図2によりポーズ時間の推定について説明する。ここでは、時刻t1 に再生開始後、ネットワーク品質の劣化により時刻t2 において再生が停止し、ユーザがポーズ操作を実施する。ただし、時刻t2 とポーズ操作の時刻t4は所与されるが、その間のt3等は所与されていない。時刻t3 に再生再開後、時刻t4 にユーザがポーズ解除操作を実行し、時刻t5 におけるバッファ内データ量がバッファ内データ量リポート部2の出力として与えられているものとする。
まず、バッファ内データ量リポート部2の出力は、ユーザポーズ解除操作後の時刻t5 におけるバッファ内データ量B とする。
ここで、パラメータ推定値算出装置1から与えられた再生再開閾値B1として、その差をZ:=(B−B1)と表す。次に、時刻t3 からt5 における累積受信バイト量をX[byte]を求め、その間の時間をY:=t5−t3、再生再開後のポーズ状態の時間をp:=t4−t3、デコードレートをd[byte/sec]とする。この時、以下の関係式が成り立つ:
Z= X−(Y−p)*d.・・・(1)
従って、デコードレートd が既知である場合には、再生再開後のポーズ操作時間推定値p を推定可能である。なお、当該デコードレートdは、パラメータ推定値算出装置1から取得する他、以下に示す方法で求めることも可能である。
キャプチャデータにおいて再度受信データが確認されたダウンロード再開時点からバッファ上限到達時刻までの期間の累計受信バイト量A1を該キャプチャデータから算出する。なお、バッファ上限到達時刻は、キャプチャデータ中のTCP RSTパケットやFINパケッと、Dup Ackパケットなどの特定パケットを検出することにより求める。例えば、プレイアウトバッファへの継続的なデータ蓄積に伴うバッファ上限到達時、当該端末はTCP RST パケットやFIN パケット送出により当該セッションをクローズする、もしくは受信Window サイズを0 とする(TCP Zero Window)ことにより、バッファ溢れを防ぐ。前記TCP セッションのクローズ時は、キャプチャデータ中、その前後N パケットにDup Ack や再送等、転送品質劣化を示すパケットが無いことをもって、タイムアウトによるセッションクローズと区別する。
バッファ上限到達時間a1、再生再開時刻の推定値a2、ポーズ状態の時間p、累計受信バイト量A1から
d=A1/(a1−a2−p)
によりデコードレートdを求めることが可能である。なお、再生再開時刻の推定値a2は、パケットキャプチャデータにおいて、バッファ上限到達を示すRST/Zero Window等を持つパケットの最終送出時刻から算出する。
図3に、本発明による再生状態及びバッファ状態の推定結果を示す。従来技術では、ユーザのポーズ操作による再生停止時間を推定対象としていなかったために、ポーズ操作時間の長さが停止時間推定値の精度の低下を招いていたが、本発明によれば、図3に示すように、単一の試行においてバッファのデータ量が再生再開可能となる閾値に到達した状態以降においてユーザがポーズ操作を継続していた時間を高精度で推定可能であることが確認できる。
なお、本発明は、上記の図1のユーザポーズ操作時間推定装置の各構成要素の動作をプログラムとして構築し、ユーザポーズ操作時間推定装置として利用されるコンピュータにインストールして実行させる、または、ネットワークを介して流通させることが可能である。
本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において、種々変更・応用が可能である。
1 パラメータ推定値算出装置
2 バッファ内データ量リポート部
3 ポーズ操作時間推定値算出部
10 ユーザポーズ時間推定装置

Claims (5)

  1. ネットワークを介して受信したデータを再生する端末において、データ再生時におけるユーザのポーズ操作時間を推定するユーザポーズ操作時間推定装置であって、
    ある特定の時点において入力されたキャプチャデータからメッセージまたはパケットを取得し、ポーズ状態解除後の任意の時点におけるバッファ内データ量に関する情報を出力するバッファ内データ量リポート手段と、
    与えられたパラメータ推定値と、前記バッファ内データ量リポート手段より取得した前記バッファ内データ量と、入力されたパケットキャプチャデータに基づき、ポーズ操作時間の推定値を算出するポーズ操作時間推定値算出手段と、
    を有し、
    前記ポーズ操作時間推定値算出手段は、
    前記バッファ内データ量が所与の再生停止閾値に達し、再生停止してユーザがポーズ操作を実施した場合に、前記キャプチャデータに基づいて、該再生停止からバッファ内データ量が所与の再生再開閾値に到達した状態になった後の時間を前記ポーズ操作時間の推定値として算出する手段を含む
    ことを特徴とするユーザポーズ操作時間推定装置。
  2. 前記ポーズ操作時間推定値算出手段は、
    前記バッファ内データ量Bと前記パラメータ推定値の再生再開閾値B1の差分をZ、前記特定の時点から前記キャプチャデータの再生再開までの時間をY、再生再開後語のポーズ状態の時間をp、再生再開から前記特定の時点までの累積受信バイト数をX、所与のデコードレートをdとし、関係式
    Z=X−(Y-p)*d
    により前記ポーズ操作時間の推定値を算出する手段を含む
    請求項1記載のユーザポーズ操作時間推定装置。
  3. ネットワークを介して受信したデータを再生する端末において、データ再生時におけるユーザのポーズ操作時間を推定するユーザポーズ操作時間推定方法であって、
    バッファ内データ量リポート手段と、ポーズ操作時間推定値算出手段とを有する装置において、
    前記バッファ内データ量リポート手段が、ある特定の時点において入力されたキャプチャデータからメッセージまたはパケットを取得し、ポーズ状態解除後の任意の時点におけるバッファ内データ量に関する情報を抽出するバッファ内データ量リポートステップと、
    与えられたパラメータ推定値と、前記バッファ内データ量リポートで取得した前記バッファ内データ量と、入力されたパケットキャプチャデータに基づき、ポーズ操作時間の推定値を算出するポーズ操作時間推定値算出ステップと、
    を行い、
    前記ポーズ操作時間推定値算出ステップにおいて、
    前記バッファ内データ量が所与の再生停止閾値に達し、再生停止してユーザがポーズ操作を実施した場合に、前記キャプチャデータに基づいて、該再生停止からバッファ内データ量が所与の再生再開閾値に到達した状態になった後の時間を前記ポーズ操作時間の推定値として算出する
    ことを特徴とするユーザポーズ操作時間推定方法。
  4. 前記ポーズ操作時間推定値算出ステップにおいて、
    前記バッファ内データ量Bと前記パラメータ推定値の再生再開閾値B1の差分をZ、前記特定の時点から前記キャプチャデータの再生再開までの時間をY、再生再開後語のポーズ状態の時間をp、再生再開から前記特定の時点までの累積受信バイト数をX、所与のデコードレートをdとし、関係式
    Z=X−(Y-p)*d
    により前記ポーズ操作時間の推定値を算出する
    請求項3記載のユーザポーズ操作時間推定方法。
  5. コンピュータを、
    請求項1または2記載のユーザポーズ操作時間推定装置の各手段として機能させるためのユーザポーズ操作時間推定プログラム。
JP2012149968A 2012-07-03 2012-07-03 ユーザポーズ操作時間推定装置及び方法及びプログラム Expired - Fee Related JP5806982B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012149968A JP5806982B2 (ja) 2012-07-03 2012-07-03 ユーザポーズ操作時間推定装置及び方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012149968A JP5806982B2 (ja) 2012-07-03 2012-07-03 ユーザポーズ操作時間推定装置及び方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2014013974A true JP2014013974A (ja) 2014-01-23
JP5806982B2 JP5806982B2 (ja) 2015-11-10

Family

ID=50109425

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012149968A Expired - Fee Related JP5806982B2 (ja) 2012-07-03 2012-07-03 ユーザポーズ操作時間推定装置及び方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5806982B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI631021B (zh) * 2014-05-28 2018-08-01 日商斯克林集團公司 錠劑印刷裝置
US10406826B2 (en) 2015-06-05 2019-09-10 Shibaura Mechatronics Corporation Tablet printing apparatus and printing method

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004153789A (ja) * 2002-10-08 2004-05-27 Canon Inc 受信装置及び受信方法
JP2014519259A (ja) * 2011-05-17 2014-08-07 アルカテル−ルーセント ビデオコンテンツをストリーミングする方法、ビデオコンテンツストリーミングを監視するためのネットワーク内ノード

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004153789A (ja) * 2002-10-08 2004-05-27 Canon Inc 受信装置及び受信方法
JP2014519259A (ja) * 2011-05-17 2014-08-07 アルカテル−ルーセント ビデオコンテンツをストリーミングする方法、ビデオコンテンツストリーミングを監視するためのネットワーク内ノード

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI631021B (zh) * 2014-05-28 2018-08-01 日商斯克林集團公司 錠劑印刷裝置
US10406826B2 (en) 2015-06-05 2019-09-10 Shibaura Mechatronics Corporation Tablet printing apparatus and printing method

Also Published As

Publication number Publication date
JP5806982B2 (ja) 2015-11-10

Similar Documents

Publication Publication Date Title
JP5875725B2 (ja) コンテンツ再生情報推定装置及び方法及びプログラム
US8897144B2 (en) Quality of user experience testing for video transmissions
EP2955930B1 (en) Method and device for estimating temporary storage status
US8873590B2 (en) Apparatus and method for correcting jitter
JP5673538B2 (ja) 配信システム
JP5938015B2 (ja) チャンクダウンロード完了判定装置、チャンクダウンロード完了判定方法、及びプログラム
US20210307026A1 (en) Dejittering System
JP5806982B2 (ja) ユーザポーズ操作時間推定装置及び方法及びプログラム
CN112866345B (zh) 一种基于WebSocket的流媒体低延时通信实现方法、电子设备、存储介质
WO2015024374A1 (zh) 一种组播时延测量方法、设备及系统
JP5806981B2 (ja) 再生状態推定装置及び方法及びプログラム
JP5643242B2 (ja) メディアプレイヤパラメタ推定装置及び方法及びプログラム
JP6053180B2 (ja) 映像再生状態推定装置、映像再生状態推定方法、及びプログラム
JP5749693B2 (ja) ユーザポーズ時間推定装置及び方法及びプログラム
JP2011244097A (ja) 動画再生端末,動画再生方法及びプログラム
Ahsan et al. DASHing towards hollywood
WO2019194034A1 (ja) 視聴行動推定装置、視聴行動推定方法及びプログラム
JP2020136922A (ja) エンゲージメント推定装置、エンゲージメント推定方法及びプログラム
JP6148638B2 (ja) 映像再生状態推定装置及び方法及びプログラム
US9866541B2 (en) Communication control apparatus, communication control method, and recording medium
JP7215209B2 (ja) エンゲージメント推定装置、エンゲージメント推定方法及びプログラム
Stanislav et al. NETWORK TECHNOLOGY FOR TRANSMISSION OF VISUAL INFORMATION
JP2011010238A (ja) パケット転送品質制御システムおよび方法
JP2019041145A (ja) 品質推定装置、品質推定方法及びプログラム
JP2015126468A (ja) 信号処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140715

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150907

R150 Certificate of patent or registration of utility model

Ref document number: 5806982

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees