JP2017147594A - オーディオ機器 - Google Patents

オーディオ機器 Download PDF

Info

Publication number
JP2017147594A
JP2017147594A JP2016027882A JP2016027882A JP2017147594A JP 2017147594 A JP2017147594 A JP 2017147594A JP 2016027882 A JP2016027882 A JP 2016027882A JP 2016027882 A JP2016027882 A JP 2016027882A JP 2017147594 A JP2017147594 A JP 2017147594A
Authority
JP
Japan
Prior art keywords
video
delay time
signal
audio
delay
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016027882A
Other languages
English (en)
Other versions
JP6720566B2 (ja
Inventor
田中 克明
Katsuaki Tanaka
克明 田中
治 小原
Osamu Obara
治 小原
知義 芥川
Tomoyoshi Akutagawa
知義 芥川
加納 真弥
Masaya Kano
真弥 加納
浩太郎 中林
Kotaro Nakabayashi
浩太郎 中林
篤志 臼井
Atsushi Usui
篤志 臼井
大吾 杉浦
Daigo Sugiura
大吾 杉浦
真樹 片山
Maki Katayama
真樹 片山
進 澤米
Susumu Sawagome
進 澤米
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2016027882A priority Critical patent/JP6720566B2/ja
Priority to PCT/JP2017/005560 priority patent/WO2017141977A1/ja
Publication of JP2017147594A publication Critical patent/JP2017147594A/ja
Application granted granted Critical
Publication of JP6720566B2 publication Critical patent/JP6720566B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8547Content authoring involving timestamps for synchronizing content

Abstract

【課題】映像再生機器で表示される映像と、自身で再生される音声及び他のオーディオ機器で再生される音声とを同期可能なオーディオ機器を提供する。
【解決手段】オーディオ機器1は、映像信号及び音声信号を入力し、映像信号をテレビ4に出力し、音声信号を信号処理部12、アンプ13を介したスピーカ16及びパワードスピーカ2に出力する。制御部10は、テレビから映像遅延時間を取得し、さらにパワードスピーカ2に送信するための配信遅延時間を取得する。制御部10は、映像遅延時間が配信遅延時間以上の場合、信号処理部12の遅延時間及び配信遅延時間を映像遅延時間に同期させる。
【選択図】図1

Description

この発明は、複数系統の音声を映像に同期させるオーディオ機器に関する。
映像と音声とを同期して再生する場合、一般に映像の処理により時間を要するため、音声信号を所定時間遅延させて映像の遅れに同期させている。この同期処理は、リップシンクと呼ばれる。
さらに、映像と音声とが別の機器で再生される場合には、映像機器がオーディオ機器に対して、映像の遅延時間を知らせ、オーディオ機器がそれに合わせて音声を遅延させる必要がある。この処理は、ダイナミック自動リップシンクと呼ばれる(特許文献1参照)。
特開2007−274409号公報
このように、従来より、映像および音声の再生において両者の同期をとるための技術が存在するが、音声がさらに別の機器に分岐して配信される場合、たとえば、オーディオ機器からさらにワイヤレスのパワードスピーカに配信される場合などには、この分岐された音声の放音タイミングを同期させることはできなかった。
この発明は、映像と複数系統で出力される音声とを同期させることのできるオーディオ機器を提供することを目的とする。
本発明のオーディオ機器は、映像信号および音声信号を入力する信号入力部と、音声信号を遅延させて出力する信号処理部と、映像再生機器に対して映像信号を送信する信号出力部と、他のオーディオ機器に音声信号を放音時刻を指示するタイムスタンプを付して無線で送信する通信部と、制御部と、を備える。制御部は、信号出力部を介して、映像再生機器から映像遅延時間を取得し、通信部から配信遅延時間を取得し、映像遅延時間が配信遅延時間以上の場合、信号処理部の遅延時間を映像遅延時間と同じに設定するとともに、通信部が送信する音声信号に映像遅延時間だけ遅延させるタイムスタンプを付す。
制御部は、映像遅延時間が配信遅延時間よりも小さい場合、映像信号の種類またはユーザによる選択に応じて、信号処理部の遅延時間を映像遅延時間または配信遅延時間のいずれかと同じに設定し、通信部が送信する音声信号に配信遅延時間だけ遅延させるタイムスタンプを付すようにしてもよい。
制御部は、信号処理部の遅延時間を配信遅延時間と同じに設定した場合、信号出力部を介して映像再生機器に対して、映像遅延時間を配信遅延時間と同じに設定するよう指示してもよい。
この発明によれば、映像再生に遅延を持たないオーディオ機器にハードを追加せずに、映像再生機器で表示される映像と、オーディオ機器自身で再生される音声、および、他のオーディオ機器で再生される音声と、を同期させることが可能になる。
この発明の実施形態であるオーディオシステムの構成図 レシーバの制御部の動作を示すフローチャート
図1はこの発明の実施形態であるオーディオシステム1の構成図である。オーディオシステム1は、レシーバ1,パワードスピーカ2,BD(ブルーレイ・ディスク)プレーヤ3、および、テレビ(TV)4を有している。テレビ4は、BDプレーヤ3で再生された映像を表示するディスプレイとして機能する。
レシーバ1は、制御部10、HDMI(High−Definition Multimedia Interface)受信部11、信号処理部12、アンプ13、HDMI送信部14、および、ネットワークモジュール15を有している。制御部10は、HDMI受信部11、信号処理部12、アンプ13、HDMI送信部14、および、ネットワークモジュール15を含むレシーバ1全体の動作を制御する。HDMI受信部11は、BDプレーヤ3に接続され、BDプレーヤ3から出力される映像信号を受信する。BDプレーヤ3から出力される映像信号には音声信号が含まれる。HDMI受信部11には、信号処理部12、HDMI送信部14およびネットワークモジュール15が接続されている。HDMI送信部14には、テレビ4が接続される。
BDプレーヤ3は、映画などの映像ソースを再生して映像信号を出力する。HDMI受信部11がBDプレーヤ3から受信した映像信号は、そのままHDMI送信部14に転送される。さらに、映像信号から取り出された音声信号が信号処理部12およびネットワークモジュール15に入力される。
信号処理部12は、デジタル・シグナル・プロセッサ(DSP)を含んでおり、HDMI受信部11が受信した映像信号から取り出された音声信号に対してサラウンド等の信号処理を行う。信号処理部12におけるこの信号処理は、所定の処理時間を要する。さらに、信号処理部12は、音声信号をバッファするバッファメモリを内蔵または外付けで備えており、テレビ4やパワードスピーカ3などの他の出力装置と同期をとるために、さらに制御部10から指定された時間音声信号を遅延させることができる。この信号処理部12における処理による遅延時間および指定された遅延時間を加えた遅延時間を、以下、遅延時間(音声遅延)DAと呼ぶ。
信号処理部12には、アンプ13が接続されている。信号処理部12は、サラウンド処理などを施した音声信号をアンプ13に出力する。アンプ13はこの音声信号を増幅してスピーカ16に出力する。スピーカ16は、レシーバ1の端子(不図示)に接続された外付けのスピーカ装置である。スピーカ16は、この音声信号を音響として放音する。以上により、音声信号は、映像信号に含まれてHDMI受信部11で受信されたのち、遅延時間DAだけ遅延されてスピーカ16から放音される。
HDMI送信部14は、HDMI受信部11から転送されてきた映像信号をテレビ4に送信する。HDMI受信部11とHDMI送信部13との間はパススルーであり、映像信号に対する加工等の信号処理は行われない。HDMI送信部13は、テレビ4に対して映像信号をTMDS(Transition−minimized differential signaling)方式で送信するとともに、テレビ4とレシーバ1との間でCEC(Consumer Electronics Control)手順で相互に制御情報を送受信する。テレビ4から送られてくる制御情報には、ダイナミック自動リップシンクの情報が含まれる。
テレビ4は、レシーバ1から受信した映像信号をデコードし、その映像の種類に応じた映像処理を行ってLCDディスプレイに表示する。映像の種類とは、たとえば、通常の映像、4K映像、3D映像などであり、映像の種類によってその処理時間が異なる。テレビ4は、レシーバ1から送られてきた映像信号から映像の種類を判断して、必要な処理時間を判断し、その処理時間をダイナミック自動リップシンク情報としてHDMIのCEC経由でレシーバ1に返信する。この処理時間が映像遅延(遅延時間)DVであり、一般的に30〜150ミリ秒程度である。
ネットワークモジュール15は、パワードスピーカ2に対してワイヤレスで音声信号を送信する。パワードスピーカ2は、音声信号を受信するネットワークモジュール21、音声信号を増幅するアンプ22、および、音声信号を音響として放音するスピーカユニット23を有する。パワードスピーカ2のネットワークモジュール21は、通信が一時途切れた場合でも再生音を途切れさせないように十分な容量のバッファを有しており、レシーバ1のネットワークモジュール15から音声信号の受信を開始したのち、バッファに所定量以上の音声信号がバッファされた状態で音声信号の再生を開始する。したがって、パワードスピーカ2による音声信号の再生は、無線による伝送の所要時間(衝突制御、再送制御など)、および、音声信号のバッファによって遅延する。この遅延時間(配信遅延)DNは、100〜200ミリ秒程度である。無線による音声信号の伝送は、Bluetoothなどの汎用の方式であってもよく、または、独自の方式を用いてもよい。
レシーバ1(ネットワークモジュール15)は、パワードスピーカ2(ネットワークモジュール21)に対して、パケット化した音声信号を送信する。レシーバ1は、各パケットにそのパケット内の音声信号が再生されるべき時刻(タイムスタンプ)を付して送信する。パワードスピーカ2は、受信したパケットの音声信号をバッファし、これをタイムスタンプで指定された時刻に再生する。タイムスタンプは、配信遅延DNを見越して音声信号の送信時から100〜200ミリ秒先に設定される。すなわち、音声信号の再生が100〜200ミリ秒遅延される。また、ネットワークモジュール15、21が有線LAN接続が可能である場合、レシーバ1とパワードスピーカ2とを有線LANで接続して配信遅延DNを数十ミリ秒程度に小さくすることができる。なお、この遅延量(配信遅延DN)は、パワードスピーカ2のバッファの容量が許す範囲内で大きくすることが可能である。配信遅延DNを大きさ次第では、パワードスピーカ2による音声信号の放音をテレビ4の映像と同期をとることが可能になる。
上記のように、各遅延時間DA,DV,DNはそれぞれ異なり、不一致のまま再生すると、テレビ4で表示される映像と、スピーカ16、23から放音される音声とがそれぞれズレてしまう。そこで、映像と各音声とをできるだけ一致させるために、制御部10は以下の処理を行う。なお、一般的に音声遅延DAは、他の遅延(映像遅延DV、配信遅延DN)よりも小さい。
図2は、BDプレーヤ3が再生を開始するときの制御部10の動作を示すフローチャートである。制御部10は、BDの再生開始時に、HDMI受信部11を介して、BDプレーヤ3から、再生される映像の種類を取得する(S10)。映像の種類とは、たとえば、通常の映像、4K映像、3D映像などである。制御部10は、取得した映像の種類を、HDMI送信部14のCEC経由でテレビ4に通知する(S11)。この応答として、制御部10は、HDMI送信部14のCEC経由でテレビ4から映像再生のための遅延時間DVを取得する(S12)。すなわち、テレビ4は、レシーバ1から送られてきた映像信号の種類を見て必要な処理時間を判断し、その処理時間をダイナミック自動リップシンク情報として返信する。
次に、パワードスピーカ2が接続されているか(動作しているか)を判断する(S13)。ネットワークモジュール15がパワードスピーカ2と通信している状態であれば、パワードスピーカ15が接続されていると言える。パワードスピーカ2が接続されていない場合(S13でNO)、制御部10は、信号処理部12の遅延時間である音声遅延DAを映像遅延DVと同じになるように信号処理部12に指示して(S14)、BDの再生を開始する(S25)。信号処理部12は、音声信号の処理時間に加えて必要な時間分のデータをバッファすることにより、音声遅延DAが映像遅延DVと同じになるように調整する。BD再生の開始は、BDプレーヤ2に対して映像信号の送信を開始するように指示する手順を含む。
パワードスピーカ2が接続されている場合には(S13でYES)、制御部10は処理をS15に進め、ネットワークモジュール15のパワードスピーカ2との通信実績(たとえばPingの応答時間など)に基づいて配信遅延DNを決定する(S15)。配信遅延DNは、たとえば、応答時間が長いと、通信そのものに時間が掛かるうえ、配信が途切れる可能性が高くなるためバッファ量を多くしなければならないことなどを考慮して決定される。比較の結果、映像遅延DVが配信遅延DN以上であれば(S16)、制御部10は、音声遅延DAおよび配信遅延DNを映像遅延DVに同期させる(S17)。音声遅延DAの同期は、信号処理部12における音声信号のバッファ量を多くすることで調整される。配信遅延DNの同期は、音声パケットに付すタイムスタンプをその遅延時間だけ先にすることで調整される。
一方、テレビ4の映像遅延DVが配信遅延DNよりも小さい場合(S16)、制御部10は、音声遅延DAを映像遅延DV,配信遅延DNのどちらに同期させるかを判断する(S18)。どちらに同期させるかは、ユーザによる設定や再生されるコンテンツの種類に応じて判断すればよい。制御部10が音声遅延DAを映像遅延DVに同期させると判断した場合(S18)、信号処理部12に対して音声遅延DAを映像遅延DVと同じするよう指示して(S19)BDの再生を開始する。なお、この場合、スピーカ16から放音される音響はテレビ4に表示される映像と同期するが、パワードスピーカ2(スピーカ23)から放音される音響は、それとは若干遅れたものとなる。
一方、制御部10がDSP12の遅延時間DAを配信遅延DNに同期させると判断した場合(S18)、信号処理部12に対して音声遅延DAを配信遅延DNと同じするよう指示して(S20)、BDの再生を開始する。この場合、スピーカ16、23から放音される音響は互いに同期しているが、テレビ4に表示される映像からは若干遅れたものとなる。
なお、ある種のテレビ4は、遅延の大きいBluetoothスピーカや、本件のようなネットワーク接続されたパワードスピーカ2に映像を同期させるなどのために、映像をバッファして任意の時間遅延させることができるものがある。このようなテレビ4の場合、制御部10は、HDMI送信部14のCECを介してテレビ4に配信遅延時間DNの情報を送信し(S21)、テレビ4の映像遅延DVを配信遅延DNと同じになるように調整してもよい。
1 レシーバ
2 パワードスピーカ
3 BD(ブルーレイディスク)プレーヤ
4 テレビ

Claims (3)

  1. 映像信号および音声信号を入力する信号入力部と、
    前記音声信号を遅延させて出力する信号処理部と、
    映像再生機器に対して前記映像信号を送信する信号出力部と、
    他のオーディオ機器に前記音声信号を放音時刻を指示するタイムスタンプを付して送信する通信部と、
    制御部と、
    を備え、
    前記制御部は、
    前記信号出力部を介して、前記映像再生機器から送信した映像信号を表示するまでに必要な処理時間である映像遅延時間を取得し、
    前記通信部から、前記他のオーディオ機器の前記音声信号の放音までの遅延時間である配信遅延時間を取得し、
    前記映像遅延時間が配信遅延時間以上の場合、前記信号処理部の遅延時間を前記映像遅延時間と同じに設定するとともに、前記通信部が送信する音声信号に、前記映像遅延時間だけ遅延させるタイムスタンプを付す
    オーディオ機器。
  2. 前記制御部は、
    前記映像遅延時間が前記配信遅延時間よりも小さい場合、前記映像信号の種類またはユーザによる選択に応じて、前記信号処理部の遅延時間を前記映像遅延時間または前記配信遅延時間のいずれかと同じに設定し、前記通信部が送信する音声信号に、前記配信遅延時間だけ遅延させるタイムスタンプを付す
    請求項1に記載のオーディオ機器。
  3. 前記制御部は、
    前記信号処理部の遅延時間を前記配信遅延時間と同じに設定した場合、前記信号出力部を介して、前記映像再生機器に対して、前記映像遅延時間を前記配信遅延時間と同じに設定するよう指示する
    請求項2に記載のオーディオ機器。
JP2016027882A 2016-02-17 2016-02-17 オーディオ機器 Active JP6720566B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016027882A JP6720566B2 (ja) 2016-02-17 2016-02-17 オーディオ機器
PCT/JP2017/005560 WO2017141977A1 (ja) 2016-02-17 2017-02-15 オーディオ機器および制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016027882A JP6720566B2 (ja) 2016-02-17 2016-02-17 オーディオ機器

Publications (2)

Publication Number Publication Date
JP2017147594A true JP2017147594A (ja) 2017-08-24
JP6720566B2 JP6720566B2 (ja) 2020-07-08

Family

ID=59625962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016027882A Active JP6720566B2 (ja) 2016-02-17 2016-02-17 オーディオ機器

Country Status (2)

Country Link
JP (1) JP6720566B2 (ja)
WO (1) WO2017141977A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020024980A1 (zh) * 2018-08-01 2020-02-06 北京微播视界科技有限公司 处理数据的方法和装置
WO2021020600A1 (ko) * 2019-07-26 2021-02-04 엘지전자 주식회사 멀티미디어 서비스 제공 장치 및 멀티미디어 서비스 제공 방법
WO2023121326A1 (ko) * 2021-12-22 2023-06-29 삼성전자주식회사 전자 장치 및 그 제어 방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109600564B (zh) * 2018-08-01 2020-06-02 北京微播视界科技有限公司 用于确定时间戳的方法和装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006118106A1 (ja) * 2005-04-28 2006-11-09 Matsushita Electric Industrial Co., Ltd. リップシンク補正装置及びリップシンク補正方法
JP2007159092A (ja) * 2005-11-11 2007-06-21 Sharp Corp 映像音声処理本体装置およびその制御方法、音声処理端末装置およびその制御方法、音声処理本体装置、映像音声処理システム、映像音声処理本体装置制御プログラム、音声処理端末装置制御プログラム、ならびに該プログラムを記録した記録媒体

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006118106A1 (ja) * 2005-04-28 2006-11-09 Matsushita Electric Industrial Co., Ltd. リップシンク補正装置及びリップシンク補正方法
JP2007159092A (ja) * 2005-11-11 2007-06-21 Sharp Corp 映像音声処理本体装置およびその制御方法、音声処理端末装置およびその制御方法、音声処理本体装置、映像音声処理システム、映像音声処理本体装置制御プログラム、音声処理端末装置制御プログラム、ならびに該プログラムを記録した記録媒体

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020024980A1 (zh) * 2018-08-01 2020-02-06 北京微播视界科技有限公司 处理数据的方法和装置
WO2021020600A1 (ko) * 2019-07-26 2021-02-04 엘지전자 주식회사 멀티미디어 서비스 제공 장치 및 멀티미디어 서비스 제공 방법
US11871069B2 (en) 2019-07-26 2024-01-09 Lg Electronics Inc. Multimedia service providing device and multimedia service providing method
WO2023121326A1 (ko) * 2021-12-22 2023-06-29 삼성전자주식회사 전자 장치 및 그 제어 방법

Also Published As

Publication number Publication date
WO2017141977A1 (ja) 2017-08-24
JP6720566B2 (ja) 2020-07-08

Similar Documents

Publication Publication Date Title
JP6702455B2 (ja) 表示装置及び表示制御方法、並びにコンピューター・プログラム
US10992451B2 (en) Audio and video playback system and method for playing audio data applied thereto
KR100912212B1 (ko) Av 장치 및 이의 제어 방법
US8117330B2 (en) Information processing device for relaying streaming data
EP1936990A2 (en) Digital broadcast receiving apparatus and synchronization method
JP6720566B2 (ja) オーディオ機器
JP2012119924A (ja) 映像表示装置及び映像表示方法、音声再生装置及び音声再生方法、映像音声同期制御システム
JP2012191524A (ja) 音響装置および音響システム
US9886980B2 (en) Method for synchronizing A/V streams
KR101600891B1 (ko) 복수의 단말기에 출력되는 비디오 및 오디오를 동기화시키는 동기화시스템 및 방법
KR20010018572A (ko) 오디오/비디오 신호 동기 장치 및 그 방법
US20230016118A1 (en) System and method to synchronize rendering of multi-channel audio to video presentation
WO2014162748A1 (ja) 受信装置、及び受信方法
US20080211963A1 (en) Equipment For Audio-Video Processing System
US20100166382A1 (en) Video and audio reproduction system, distribution device, and synchronization adjustment method
US10209952B2 (en) Content reproduction device, content reproduction system, and control method for a content reproduction device
BR102020025848A2 (pt) Equipamento decodificador com dois links de áudio
JP2013143706A (ja) 映像音声処理装置、及びそのプログラム
JP2009124223A (ja) Avシステム
KR100677162B1 (ko) A/v 동기를 자동 조정하는 av 시스템
KR100793790B1 (ko) 무선 비디오 시스템 및 이 무선 비디오 시스템에서 신호를처리하는 방법
JP5127992B2 (ja) 映像処理装置及び映像処理方法、音声再生装置及び音声再生方法
TWI587696B (zh) 資料同步播放的方法
JP2011239096A (ja) 送信装置
JP2014143724A (ja) 映像信号処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200601

R151 Written notification of patent or utility model registration

Ref document number: 6720566

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151