JP2020155795A - ネットワーク監視システムおよび方法 - Google Patents

ネットワーク監視システムおよび方法 Download PDF

Info

Publication number
JP2020155795A
JP2020155795A JP2019049283A JP2019049283A JP2020155795A JP 2020155795 A JP2020155795 A JP 2020155795A JP 2019049283 A JP2019049283 A JP 2019049283A JP 2019049283 A JP2019049283 A JP 2019049283A JP 2020155795 A JP2020155795 A JP 2020155795A
Authority
JP
Japan
Prior art keywords
quality
network
correlation
subjective
subjective quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019049283A
Other languages
English (en)
Other versions
JP7033097B2 (ja
Inventor
徳広 福元
Tokuhiro Fukumoto
徳広 福元
福井 啓允
Hiromitsu Fukui
啓允 福井
浩二 中村
Koji Nakamura
浩二 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2019049283A priority Critical patent/JP7033097B2/ja
Publication of JP2020155795A publication Critical patent/JP2020155795A/ja
Application granted granted Critical
Publication of JP7033097B2 publication Critical patent/JP7033097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】映像コンテンツをストリーミング配信する事業者の映像配信の仕様変更を、ネットワーク品質と主観品質との相関関係の変化に基づいて推定する。【解決手段】NWベース品質取得部11は、S-GWからNWベース品質値を取得する。端末ベース品質取得部12は、動画視聴端末30から端末ベース品質値を取得する。NW品質スコア計算部13は、NWベース品質値に基づいてNW品質スコアを計算する。主観品質スコア計算部14は、端末ベース品質値に基づいて主観品質スコアを計算する。学習部15は、NW品質スコアと主観品質スコアとの対応関係を求めて両者の相関関係を学習する。主観品質推定部16は、NW品質スコアを前記相関関係に適用して主観品質スコアを求める。仕様変更検知部17は、主観品質の推定結果をユーザの主観品質と比較することで、映像配信サーバ20における映像配信の仕様変更を判断する。【選択図】図2

Description

本発明は、ネットワーク監視システムおよび方法に係り、特に、映像コンテンツをストリーミング配信する事業者の映像配信の仕様変更を監視し、この監視結果をネットワーク品質に基づく主観品質の推定に反映するネットワーク監視システムおよび方法に関する。
近年、スマートフォンやタブレット端末の普及に伴い、映像コンテンツをストリーミング配信するサービスが普及している。通信事業者には、このようなサービスにおけるユーザの主観品質を定量化し、必要な主観品質が得られるようにネットワーク設計を見直すことが求められる。
主観品質を定量化する手法には、主観品質を直接評価する手法と間接的に推定する手法とが存在する。直接評価手法では、評価環境を再現可能な施設において、多数のユーザに映像を評価してもらう必要があるために評価に時間を要する。間接的に推定する手法では、ネットワーク上での通信に関連する物理的な特徴量から映像品質を間接的に推定するため、短時間で制約の少ない評価が可能になる。
特許文献1には、単位時間ごとのオーディオビジュアル品質を推定し統合することで、時間的な品質変動を加味しながら視聴者が体感するオーディオビジュアル品質を推定する技術が開示されている。特許文献2および非特許文献1には、品質パラメータが既知であることを前提として体感品質を推定する技術が開示されている。
特許文献3には、与えられた映像から、内部的に品質パラメータを算出し、画質予測評価点を導出する技術が開示されている。特許文献4には、上流・下流の各ネットワークにおいて映像配信品質を測定する技術として、パケットの伝送遅延に基づいて映像配信品質を推定する技術が開示されている。特許文献5には、映像配信サービスの品質パラメータである視聴時間あたりの平均的な再生停止回数の期待値や総再生停止時間の期待値といった品質パラメータを推定する技術が開示されている。
特願2017-555964号 特開2015-122638号公報 特開2012-130002号公報 特開2011-193536号公報 特開2015-228568号公報
ITU-T Recommendation P.1203Parametric bitstream-based quality assessment of progressive download and adaptive audiovisual streaming services over reliable transport
ネットワークから通信品質の指標値を取得する一方、視聴端末から主観品質の指標値を取得し、両者の対応関係から通信品質と主観品質との相関関係を学習しておけば、その後は通信品質の指標値のみを取得して相関関係の学習結果に適用することで、主観品質を精度よく推定できる。
一方、映像コンテンツを配信する事業者は、サービス品質の向上等を目的として映像配信の仕様を変更することがあり、その結果、ネットワーク品質と主観品質との相関関係が変化する。したがって、変更後に取得したネットワーク品質を変更前に学習した相関関係に適用しても正確な主観品質を得られず、映像配信の仕様変更に合わせて、ネットワーク品質と主観品質との相関関係を再学習する必要がある。
しかしながら、映像コンテンツを配信する事業者は映像配信の仕様変更を一般的には告知しない。このため、通信事業者は仕様変更を独自に検知して前記相関関係を再学習しなければならならず、これを怠ると誤った主観品質の推定結果に基づいて、不要な対応や誤った対応をとることになる。
本発明の目的は、上記の技術課題を解決し、映像コンテンツをストリーミング配信する事業者の映像配信の仕様変更を、ネットワーク品質と主観品質との相関関係の変化に基づいて推定するネットワーク監視システムおよび方法を提供することにある。
上記の目的を達成するために、本発明は、映像コンテンツのストリーミング配信における仕様変更を検知するコンテンツ配信監視システムにおいて、以下の構成を具備した点に特徴がある。
(1) ネットワークからストリーミング配信に係るネットワーク品質値を取得する手段と、映像コンテンツを再生する視聴端末から主観品質値を取得する手段と、前記ネットワーク品質値および主観品質値の相関関係を学習する手段と、ネットワーク品質値を前記相関関係に適用して主観品質値を推定する手段と、前記視聴端末から取得した主観品質値と前記相関関係を適用して推定された主観品質値との差分に基づいてコンテンツ配信の仕様変更を判断する手段とを具備した。
(2) 前記仕様変更を判断する手段は、主観品質値の差分が所定の許容範囲を外れると映像配信の仕様変更を判断するようにした。
(3)ネットワーク品質値に基づいてネットワークベースの品質スコアを計算する手段と、主観品質値に基づいて端末ベースの品質スコアを計算する手段とを具備し、前記相関関係を学習する手段は、前記各品質スコアの相関関係を学習し、前記仕様変更を判断する手段は、ネットワークベースの品質スコアを前記相関関係に適用して推定した端末ベースの推定結果と前記端末ベースの品質スコアとの差分に基づいて映像配信の仕様変更を判断するようにした。
(4) 映像配信の仕様変更が判断されると、その旨を所定の宛先へ通知する手段を更に具備した。
(5) 映像配信の仕様変更が判断されると、前記学習する手段に対して再学習を要求する手段を更に具備した。
本発明によれば、以下のような効果が達成される。
(1) 映像コンテンツをストリーミング配信する映像配信サーバの映像配信に関する仕様変更を、ネットワークの品質指標値と主観の品質指標値との相関関係に基づいて判断できるようになる。
(2) 映像配信の仕様が変更されると、主観品質の差が変化するので、主観品質の差が所定の許容範囲を外れたことをもって、映像配信の仕様変更を精度よく検知できるようになる。
(3) 複数のネットワーク品質の指標値および複数の主観品質の指標値をスコア化して、ネットワーク品質および主観品質を代表させたので、ネットワーク品質と主観品質との対応付けおよび相関関係の学習が容易になる。
(4) コンテンツ配信の仕様変更が検知されると、その旨が所定の宛先へ通知されるので、コンテンツ配信の仕様変更を周知させることが可能となり、これをネットワーク品質と主観品質との対応関係を再学習する契機とすることで、ネットワーク品質に基づく主観品質推定の精度低下を防止できるようになる。
(5) 映像配信の仕様変更が検知されると、ネットワーク品質と主観品質との相関関係が再学習されるので、その後は再学習された相関関係にネットワーク品質を適用して主観品質を推定することで、映像配信の仕様変更に関わらず、常にネットワーク品質に基づいて主観品質を推定できるようになる。
本発明の一実施形態に係るネットワーク監視サーバが適用されるネットワークの概要を示したブロック図であり、 ネットワーク監視サーバの第1実施形態の主要部の構成を示した機能ブロック図である。 ネットワーク監視サーバの第2実施形態の主要部の構成を示した機能ブロック図である。 NW品質スコアと主観品質スコアとの相関関係の一例を示した図である。 本発明の各実施形態に共通する動作を示したフローチャートである。
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は、本発明の一実施形態に係るネットワーク監視サーバ10が適用されるネットワークの概要を示したブロック図であり、映像コンテンツをストリーミング配信する映像配信サーバ20、P-GW(Packet Data Network Gateway)、S-GW(Serving Gateway)および無線基地局BSを主要な構成とし、ユーザが映像コンテンツを視聴する動画視聴端末30は無線基地局BSに収容される。前記映像配信サーバ20による映像コンテンツのストリーミング配信は、Youtube(登録商標)やNetflix(登録商標)などの多くの映像配信サービスにより行われている。
前記ネットワーク監視サーバ10は、映像コンテンツのストリーミング配信を対象に、ネットワーク品質の指標値となるネットワーク(NW)ベース品質値をS-GWから取得する。前記ネットワーク監視サーバ10は更に、端末ユーザの主観品質の指標値となる端末ベース品質値を動画視聴端末30から取得する。そして、各品質値の相関関係を学習すると、その後は、NWベース品質値を相関関係の学習結果に適用することで、NWベースの品質値のみに基づいて視聴ユーザの主観品質を評価することを可能にする。
このようなネットワーク監視サーバ10は、汎用のコンピュータやサーバに各機能を実現するアプリケーション(プログラム)を実装することで構成できる。あるいは、アプリケーションの一部をハードウェア化またはROM化した専用機や単能機としても構成できる。
図2は、前記ネットワーク監視サーバ10の第1実施形態の主要部の構成を示した機能ブロック図であり、NWベース品質取得部11は、S-GWからNWベース品質値を取得する。本実施形態では、フレームレート、ビットレート、パケットロス率、往復遅延時間などが取得される。
端末ベース品質取得部12は、動画視聴端末30から端末ベース品質値を取得する。本実施形態では、動画視聴端末30から映像配信サービスのクライアントソフトウェアを呼び出し、その復号済み映像データや、OS等を通じた品質パラメータを取得するものとし、例えば、動画再生の単位時間当たりの停止回数、停止時間、合計停止時間、平均停止時間、TCPスタックのTCP輻輳ウィンドウサイズ最大値などが取得される。
NW品質スコア計算部13は、複数のNWベース品質値に基づいて、ネットワーク品質を代表できるNW品質スコアを計算する。主観品質スコア計算部14は、複数の端末ベース品質値に基づいて、ユーザの主観品質を代表できる主観品質スコアを計算する。学習部15は、同一の映像コンテンツに関して同一タイミングで取得されるNW品質スコアと主観品質スコアとの対応関係を求めて両者の相関関係(図4)を学習する。
主観品質推定部16は、前記学習後に新たに取得したNW品質スコアを前記学習した相関関係に適用して主観品質スコアを推定する。これにより、動画視聴端末30で映像コンテンツを視聴するユーザの主観品質を、ネットワーク品質のみに基づいて間接的に推定することを可能にする。
仕様変更判断部17は、前記主観品質推定部16による主観品質の推定結果を、前記主観品質スコア計算部14が計算したユーザの主観品質と定期的に比較し、主観品質の差分として、映像配信サーバ20による映像配信の仕様変更以外に想定し得ない特異的な品質向上あるいは品質劣化が継続的に観測されると、これを映像配信サーバ20における映像配信の仕様変更に基づくものと判断する。
本実施形態では、主観品質の差分に関して予め許容範囲が設定されており、この許容範囲から外れる差分が、予め設定された頻度や周期で継続的に観測されると、その原因がネットワーク品質と主観品質との相関関係の変化にあり、映像配信サーバ20における映像配信の仕様変更が原因と判断する。仕様変更通知部18は、前記仕様変更の判断に応答して、予め登録されている宛先へ、映像配信サーバ20による映像配信の仕様変更を通知する。
本実施形態によれば、映像コンテンツのストリーミング配信を対象に、ネットワーク品質と主観品質との相関関係に大きな変化が生じたと推定される事象が検知されると、映像配信サーバ20による映像配信に仕様変更が生じたと判断するので、これをネットワーク品質と主観品質との対応関係を再学習する契機とすることで、ネットワーク品質に基づく主観品質推定の精度低下を防止できるようになる。
図3は、本発明の第2実施形態に係るネットワーク監視サーバ10の主要部の構成を示したブロック図であり、図2に示した第1実施形態と同一の符号は同一または同等部分を表しているので、その説明は省略する。
本実施形態では、仕様変更判断部17が映像配信サーバ20による映像配信の仕様変更を判断すると、再学習要求部19が前記学習部15に対して、前記第NW品質スコアと主観品質スコアとの対応関係に基づく両者の相関関係の再学習を要求する。
学習部15は、前記再学習要求に応答して、改めてNW品質スコアおよび主観品質スコアを計算し、両者の対応関係に基づいて相関関係を再学習し、以降、再学習した相関関係にNW品質スコアを適用することで主観品質の推定を継続する。
本実施形態によれば、ネットワーク監視サーバ10による映像配信の仕様変更が判断されると、NW品質スコアと主観品質スコアとの対応関係に基づく両者の相関関係が自動的に再学習される。したがって、ネットワーク監視サーバ10による映像配信の突然の仕様変更に関わらず、常にNW品質スコアのみに基づいて、映像視聴に係るユーザの主観品質を正確に推定できるようになる。
図5は、本発明の各実施形態に共通する動作を示したフローチャートであり、ステップS1では、ネットワーク監視サーバ10の動作が、NW品質スコアと主観品質スコアとの相関関係を学習する「学習期間」、および品質評価/仕様変更判断を行う「運用期間」のいずれであるかが判断される。
学習期間であればステップS2へ進み、S-GWからNWベース品質値が取得されてNW品質スコアが計算される。ステップS3では、動画視聴端末30から端末ベース品質値が取得されて主観品質スコアが計算される。ステップS4では、取得したNW品質スコアおよび主観品質スコアの相関関係が学習部15で学習される。本実施形態では、このような相関関係の学習を所定の学習期間中に繰り返すことで確度の高い相関関係を取得できる。
その後、相関関係の学習期間が完了すると、ステップS1からステップS5へ進み、改めてS-GWからNWベース品質値が取得されてNW品質スコアが計算される。ステップS6では、NW品質スコアが前記学習した相関関係に適用されて、当該NW品質スコアに対応する主観品質スコアが推定される。
ステップS7では、主観品質推定部16による主観品質の推定結果と主観品質スコア計算部14が計算したユーザの主観品質との差分が、映像配信サーバ20による映像配信の仕様変更以外に想定し得ない特異的な品質変化を抽出するために設定された許容範囲内であるか否かに基づいて、映像配信サーバ20による映像配信の仕様が変更されたか否かが前記仕様変更判断部17により判断される。本実施形態では、許容範囲外と判断される差分が連続して、あるいは高い頻度で観測されると、映像配信の仕様が変更されたと判断される。
ステップS8では、前記判断結果に応じた処理が行われる。すなわち、映像配信の仕様が変更されたと判断されると、第1実施形態であれば、その旨が前記通知部18により所定の宛先へ通知される。第2実施形態であれば、前記再学習要求部19により相関関係の再学習が要求される。
10…ネットワーク監視サーバ,20…映像配信サーバ,30…動画視聴端末,11…NWベース品質取得部,12…端末ベース品質取得部,13…NW品質スコア計算部,14…主観品質スコア計算部,15…学習部,16…主観品質推定部,17…仕様変更判断部,18…仕様変更通知部,19…再学習要求部

Claims (6)

  1. 映像コンテンツをストリーミング配信する仕様の変更を監視するネットワーク監視システムにおいて、
    ネットワークからストリーミング配信に係るネットワーク品質値を取得する手段と、
    映像コンテンツを再生する視聴端末から主観品質値を取得する手段と、
    前記ネットワーク品質値および主観品質値の相関関係を学習する手段と、
    ネットワーク品質値を前記相関関係に適用して主観品質値を推定する手段と、
    前記視聴端末から取得した主観品質値と前記相関関係を適用して推定された主観品質値との差分に基づいて映像配信の仕様変更を判断する手段とを具備したことを特徴とするネットワーク監視システム。
  2. 前記仕様変更を判断する手段は、前記主観品質値の差分が所定の許容範囲を外れると映像配信の仕様変更を判断することを特徴とする請求項1に記載のネットワーク監視システム。
  3. ネットワーク品質値に基づいてネットワークベースの品質スコアを計算する手段と、
    主観品質値に基づいて端末ベースの品質スコアを計算する手段とを具備し、
    前記相関関係を学習する手段は、前記各品質スコアの相関関係を学習し、
    前記仕様変更を判断する手段は、ネットワークベースの品質スコアを前記相関関係に適用して推定した端末ベースの品質スコアの推定結果と前記端末ベースの品質スコアとの差分に基づいて映像配信の仕様変更を判断することを特徴とする請求項1または2に記載のネットワーク監視システム。
  4. 前記映像配信の仕様変更が判断されると、その旨を所定の宛先へ通知する手段を更に具備したことを特徴とする請求項1ないし3のいずれかに記載のネットワーク監視システム。
  5. 前記映像配信の仕様変更が判断されると、前記学習する手段に対して再学習を要求する手段を更に具備したことを特徴とする請求項1ないし3のいずれかに記載のネットワーク監視システム。
  6. 映像コンテンツのストリーミング配信における仕様変更を判断するネットワーク監視方法において、
    ネットワークからストリーミング配信に係るネットワーク品質値を取得する手順と、
    映像コンテンツを再生する視聴端末から主観品質値を取得する手順と、
    前記ネットワーク品質値および主観品質値の相関関係を学習する手順と、
    前記相関関係の学習後に取得したネットワーク品質値を当該相関関係に適用して主観品質値を推定する手順と、
    前記視聴端末から取得した主観品質値と前記相関関係を適用して推定された主観品質値との差分に基づいて映像配信の仕様変更を判断する手順とを含むことを特徴とするネットワーク監視方法。
JP2019049283A 2019-03-18 2019-03-18 ネットワーク監視システムおよび方法 Active JP7033097B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019049283A JP7033097B2 (ja) 2019-03-18 2019-03-18 ネットワーク監視システムおよび方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019049283A JP7033097B2 (ja) 2019-03-18 2019-03-18 ネットワーク監視システムおよび方法

Publications (2)

Publication Number Publication Date
JP2020155795A true JP2020155795A (ja) 2020-09-24
JP7033097B2 JP7033097B2 (ja) 2022-03-09

Family

ID=72559833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019049283A Active JP7033097B2 (ja) 2019-03-18 2019-03-18 ネットワーク監視システムおよび方法

Country Status (1)

Country Link
JP (1) JP7033097B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112584192A (zh) * 2020-12-14 2021-03-30 广州虎牙科技有限公司 一种网络质量监控方法、装置及服务器
JP7487353B2 (ja) 2021-07-28 2024-05-20 グーグル エルエルシー メディアコンテンツ項目内の視聴時間損失領域の決定

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005229214A (ja) * 2004-02-10 2005-08-25 Nippon Telegr & Teleph Corp <Ntt> 映像サービス品質管理方法およびこの方法を実施する装置
WO2016080354A1 (ja) * 2014-11-17 2016-05-26 日本電信電話株式会社 映像品質推定装置、映像品質推定方法、および映像品質推定プログラム
JP2018522448A (ja) * 2015-05-11 2018-08-09 ネットフリックス・インコーポレイテッドNetflix, Inc. 知覚的ビデオ品質を予測する技術

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005229214A (ja) * 2004-02-10 2005-08-25 Nippon Telegr & Teleph Corp <Ntt> 映像サービス品質管理方法およびこの方法を実施する装置
WO2016080354A1 (ja) * 2014-11-17 2016-05-26 日本電信電話株式会社 映像品質推定装置、映像品質推定方法、および映像品質推定プログラム
JP2018522448A (ja) * 2015-05-11 2018-08-09 ネットフリックス・インコーポレイテッドNetflix, Inc. 知覚的ビデオ品質を予測する技術

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112584192A (zh) * 2020-12-14 2021-03-30 广州虎牙科技有限公司 一种网络质量监控方法、装置及服务器
CN112584192B (zh) * 2020-12-14 2022-07-29 广州虎牙科技有限公司 一种网络质量监控方法、装置及服务器
JP7487353B2 (ja) 2021-07-28 2024-05-20 グーグル エルエルシー メディアコンテンツ項目内の視聴時間損失領域の決定

Also Published As

Publication number Publication date
JP7033097B2 (ja) 2022-03-09

Similar Documents

Publication Publication Date Title
JP5168283B2 (ja) 映像品質監視方法及び配信サーバ及びクライアント
US8537683B2 (en) Method for estimating the quality of experience of a user in respect of audio and/or video contents distributed through telecommunications networks
JP2009188969A (ja) 映像品質推定装置、方法およびプログラム
US10397067B2 (en) Determining quality of experience for communication sessions
EP3313073A1 (en) Method for assessing the perceived quality of adaptive video streaming
WO2017107774A1 (zh) 视频质量信息的处理方法及装置
JP7033097B2 (ja) ネットワーク監視システムおよび方法
Calyam et al. Multi-resolution multimedia QoE models for IPTV applications
JP4460506B2 (ja) ユーザ体感品質推定装置、方法、およびプログラム
US10440087B2 (en) Estimation of losses in a video stream
JP6347510B2 (ja) 通信行動分析装置およびユーザ体感品質推定方法
JP6033058B2 (ja) 通信路識別装置
JP5390369B2 (ja) 映像品質推定装置および方法、符号化ビットレート推定装置および方法、並びにプログラム
JP4460523B2 (ja) ユーザ体感品質推定装置、方法、およびプログラム
García-Pineda et al. Adaptive SDN-based architecture using QoE metrics in live video streaming on Cloud Mobile Media
JP4634339B2 (ja) ユーザ体感品質推定装置、方法、およびプログラム
JP5335867B2 (ja) 基本GoP長を用いた映像品質推定装置及び方法及びプログラム
JP4668851B2 (ja) 品質クラス決定装置、品質クラス決定方法、およびプログラム
JP5144593B2 (ja) ユーザ体感品質推定システムおよび方法
CN109936526B (zh) 一种确定语音质量的方法及装置
US11888919B2 (en) Determining quality of experience for communication sessions
Geissler et al. Deriving youtube playout phases from encrypted packet level traffic
JP4460549B2 (ja) ユーザ体感品質推定装置、方法、およびプログラム
JP6700242B2 (ja) 品質推定装置、品質推定方法及びプログラム
Karacali et al. Measuring video quality degradation using face detection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220225

R150 Certificate of patent or registration of utility model

Ref document number: 7033097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150