JP6365483B2 - カラオケ装置,カラオケシステム,及びプログラム - Google Patents
カラオケ装置,カラオケシステム,及びプログラム Download PDFInfo
- Publication number
- JP6365483B2 JP6365483B2 JP2015186811A JP2015186811A JP6365483B2 JP 6365483 B2 JP6365483 B2 JP 6365483B2 JP 2015186811 A JP2015186811 A JP 2015186811A JP 2015186811 A JP2015186811 A JP 2015186811A JP 6365483 B2 JP6365483 B2 JP 6365483B2
- Authority
- JP
- Japan
- Prior art keywords
- feature
- singer
- data
- note
- evaluation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Reverberation, Karaoke And Other Acoustics (AREA)
Description
カラオケ装置のユーザの歌い回しや声質は、オリジナルの歌手の歌い回しや声質に類似していない場合が多い。
そこで、本発明は、カラオケにおいて、ユーザのモチベーションが低下することを抑制する技術を提供することを目的とする。
さらに、波形取得手段は、演奏手段による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを取得する。
類似特定手段は、複数の歌手特徴データから、前記特徴取得手段により取得した前記歌声特徴量に類似する歌手特徴量を含む前記歌手特徴データを特定する。ここで言う複数の歌手特徴データとは、複数の既定の歌手それぞれについて、前記音高と音符長とが規定された各音符を含む単位音符と、前記単位音符に対する発声母音との組み合わせごとに、前記少なくとも一つの特徴量を含む歌手特徴量を対応付けたデータを歌手特徴データとして蓄積したデータ群である。
前記単位音符は、前記楽曲において時間軸に沿って連続する少なくとも2つの音符の組み合わせであってもよい。この場合、前記連続する少なくとも2つの音符の組み合わせには、前記歌手特徴量が対応付けられていてもよい。
カラオケ装置のユーザは、通常、構成音符の演奏開始タイミングを把握することで、楽曲におけるリズムを認識している。
なお、本発明の一態様のカラオケ装置において、歌手特徴データは、前記複数の既定の歌手の中で、当該歌手に特徴的な歌い方の項目に対する特徴量を特定特徴量として、特徴的な歌い方の項目以外の他の特徴量より大きな重みが付されたものであってもよい。そして、類似特定手段は、前記特定特徴量に前記他の特徴量より大きな重みを付した前記歌手特徴データを用いて、前記歌声特徴量に類似する歌手特徴量を含む前記歌手特徴データを特定するものであってもよい。
本発明の一態様におけるカラオケ装置は、波形取得手段で取得した波形データから、前記指定の楽曲を歌唱するユーザの歌唱の特徴を表す照合特徴量を導出する特徴導出手段を備えていてもよい。
このようなカラオケ装置によれば、評価基準データにおける歌手特徴量に基づいて照合特徴量を評価できる。
このようなカラオケ装置によれば、評価結果を報知できる。
カラオケ装置によれば、類似歌手に関する情報を報知できる。よって、カラオケ装置のユーザは、類似歌手を認識でき、類似歌手の歌い方がユーザ自身の歌い方に類似していることを知ることができる。
本発明の一態様は、楽譜取得手段と、演奏手段と、波形取得手段と、特徴取得手段と、類似特定手段と、生成手段と、評価手段とを備えたカラオケシステムであってもよい。
また、本発明の一態様は、楽譜取得手順と、演奏手順と、波形取得手順と、特徴取得手順と、類似特定手順と、生成手順と、評価手順とを、コンピュータに実行させるプログラムであってもよい。
<カラオケシステム>
図1に示すカラオケシステム1は、情報処理サーバ10と、カラオケ装置30とを備えている。カラオケシステム1は、カラオケ装置30のユーザによって指定された楽曲を演奏すると共に、ユーザの歌唱を評価するシステムである。
<情報処理サーバ>
情報処理サーバ10は、通信部12と、記憶部14と、制御部16とを備えている。
<MIDI楽曲>
MIDI楽曲MDは、楽曲ごとに予め用意されたデータである。MIDI楽曲MDは、楽譜データと、歌詞データと、楽曲情報とを備えている。
楽曲情報は、楽曲に関する情報である。楽曲情報には、楽曲を識別する識別情報(即ち、楽曲ID)と、オリジナル歌手に関する情報であるオリジナル歌手情報とを含む。
<歌手特徴データ>
歌手特徴データベースは、歌手特徴データCDを複数蓄積したデータ群である。
歌手特徴データCDは、歌手情報と、発声情報と、歌手特徴量とを備えている。歌手特徴データCDに歌手特徴量が発声情報として登録される歌手には、例えば、上述したような複数の楽曲をそれぞれ持ち歌として歌う複数のオリジナル歌手と、楽曲情報に登録されたいずれかの楽曲をカバーして歌唱する歌手とが含まれている。言い換えると、歌手特徴データCDには、異なる楽曲をそれぞれ歌唱した複数の実演家であるオリジナル歌手およびカバー歌手の歌手特徴量を集めたものであってもよい。本実施形態のオリジナル歌手およびカバー歌手が、本発明における複数の既定の歌手の一例である。以下、オリジナル歌手およびカバー歌手を総称して説明する場合を、「歌手」とし、楽曲情報で対応付けられる楽曲を持ち歌として歌うプロの歌手を称して説明する場合を「オリジナル歌手」として、説明する。
ここで言う単位音符とは、時間軸に沿って連続する少なくとも2つの音符の組み合わせである。具体的に本実施形態における単位音符は、時間軸に沿って連続する3つの音符の組み合わせである。単位音符は、単位音符を構成する音符(以下、単位構成音符と称す)それぞれの音高と音符長との組み合わせによって規定される。
ここで言う特徴量とは、歌声における音声の特徴を表す特徴量である。この特徴量として、詳しくは後述する「時間特徴」、「音高特徴」、「ビブラート特徴」、「音量特徴」、「スペクトル特徴」,「声質特徴量」などを含む。
<カラオケ装置>
カラオケ装置30は、通信部32と、入力受付部34と、楽曲再生部36と、記憶部38と、音声制御部40と、映像制御部46と、制御部50とを備えている。
制御部50は、ROM52,RAM54,CPU56を少なくとも有した周知のコンピュータを中心に構成されている。ROM52は、電源が切断されても記憶内容を保持する必要がある処理プログラムやデータを記憶する。RAM54は、処理プログラムやデータを一時的に記憶する。CPU56は、ROM52やRAM54に記憶された処理プログラムに従って各処理を実行する。
<演奏処理>
次に、カラオケ装置30の制御部50が実行する演奏処理について、図3を用いて説明する。
<類似歌手特定処理>
演奏処理のS160で起動される類似歌手特定処理について、図4を用いて説明する。
「タメ時間」の導出では、例えば、制御部50は、図5(A)に示すように、波形データにおける発声開始タイミングと、MIDI楽曲MDにおける構成音符のノートオンタイミングとの、対応する構成音符ごとの時間差分を、各構成音符に対する「タメ時間」として特定する。
まず、「音高一致度」の導出では、制御部50は、図6に示すように、各構成音符の音高に対する基本周波数推移の一致度の平均値を「音高一致度」として導出する。ここで言う一致度は、半音単位で算出してもよい。
「音量平均」の導出では、制御部50は、音圧推移において、構成音符内での音圧の平均値を「音量平均」として導出する。さらに、「音量微分平均」の導出では、制御部50は、音圧推移において構成音符内での微分値の平均値を「音量微分平均」として導出する。また、「音量比」の導出では、制御部50は、音圧推移において、対象音符に対する音圧と前音符に対する音圧との比を「音量比」として導出する。
「スペクトル変動指標」の導出では、制御部50は、周波数スペクトル推移における構成音符内のスペクトル包絡に関して、隣接する分析窓間全てに対して相関関数を算出する。そして、制御部50は、相関関数の絶対値の構成音符ごとの平均値を「スペクトル変動指標」として導出する。
「声質特徴量」の導出では、制御部50は、波形データの分析窓それぞれについて、周波数解析(例えば、DFT)を実施する。制御部50は、周波数スペクトル推移に対してケプストラム分析を実行することで、各分析窓のメル周波数ケプストラム(MFCC)を算出する。そして、制御部50は、分析窓ごとのメル周波数ケプストラム(MFCC)を、構成音符に設定された全ての分析窓に渡って相加平均し、その相加平均の結果を、各構成音符の声質特徴量として導出する。
ところで、S410での判定の結果、今代表値が最大値以下であれば(S410:NO)、制御部50は、類似歌手特定処理をS430へと移行させる。
つまり、類似歌手特定処理では、制御部50は、類似歌手を特定し、その特定した類似歌手の歌手特徴データ(即ち、類似特徴データ)を取得する。
<評価処理>
次に、演奏処理のS190で実行される評価処理について、図7を用いて説明する。
そして、評価処理では、制御部50は、評価項目を表す評価インデックスEiを初期値に設定する(S550)。ここで言う評価項目とは、評価の対象とする特徴量である。評価項目の一例として、「時間特徴」、「音高特徴」、「ビブラート特徴」、「音量特徴」、「スペクトル特徴」、「声質特徴量」が挙げられる。
ところで、評価インデックスEiが評価項目の総数以上となった場合に移行するS630では、制御部50は、S610で変換された評価項目ごとの評価値を、映像制御部46へと出力する。この評価項目ごとの評価値を取得した映像制御部46は、評価項目ごとの評価値を表示部64に表示させる。
[実施形態の効果]
以上説明したように、カラオケ装置30によれば、類似歌手が指定の楽曲を歌唱した場合にどのような歌い方をするのかという点を基準として、ユーザの歌い方を評価できる。このため、カラオケ装置30によれば、カラオケ装置30のユーザが指定の楽曲における歌手の歌い回しや声質に類似していない場合であっても、評価が低くなることを防止できる。
また、カラオケ装置30においては、類似歌手に関する情報を報知している。
また、カラオケシステム1においては、対象音符と、その対象音符に時間軸に沿って前に位置する前音符と、対象音符に時間軸に沿って後ろに位置する後音符とを、単位構成音符としている。
この場合、カラオケ装置30によれば、類似歌手における特徴的な歌い方を表現できているほど、高い評価とすることができる。
[その他の実施形態]
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において、様々な態様にて実施することが可能である。
(3) 上記実施形態の類似歌手特定処理では、歌声特徴量と歌手特徴量との内積に従って、ユーザの歌い方と被探索歌手の歌い方との類似度合いを求めていたが、ユーザの歌い方と被探索歌手の歌い方との類似度合いの求め方は、内積に限るものではない。すなわち、ユーザの歌い方と被探索歌手の歌い方との類似度合いは、歌声特徴量と歌手特徴量との相関に基づくものであれば、どのように求められていてもよい。
[対応関係の一例]
演奏処理のS120を実行することで得られる機能が、楽譜取得手段の一例である。S130を実行することで得られる機能が演奏手段の一例である。S140を実行することで得られる機能が波形取得手段の一例である。
評価処理のS510を実行することで得られる機能が生成手段の一例である。S640,S640を実行することで得られる機能が評価手段の一例である。
Claims (10)
- 歌詞が割り当てられた楽曲のうち指定の楽曲について、音高と音符長とが規定された複数の構成音符が時間軸に沿って配置された楽譜データを取得する楽譜取得手段と、
前記楽譜取得手段で取得した楽譜データの前記構成音符に従って、前記指定の楽曲を演奏する演奏手段と、
前記演奏手段による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを取得する波形取得手段と、
前記波形取得手段により取得した前記波形データから、歌唱の特徴を表す少なくとも1つの特徴量を含む歌声特徴量を取得する特徴取得手段と、
複数の既定の歌手それぞれについて、前記音高と音符長とが規定された各音符を含む単位音符と、前記単位音符に対する発声母音との組み合わせごとに、前記少なくとも一つの特徴量を含む歌手特徴量を対応付けたデータを歌手特徴データとして蓄積した複数の歌手特徴データから、前記特徴取得手段により取得した前記歌声特徴量に類似する歌手特徴量を含む前記歌手特徴データを特定する類似特定手段と、
前記楽譜取得手段で取得した指定楽譜データと、前記類似特定手段で取得した前記歌手特徴データとに基づいて、前記指定楽譜データを構成する構成音符に、前記歌手特徴データにおいて、当該構成音符の音高,音符長及び発声母音に一致する前記単位音符に対応付けられた歌手特徴量を割り当てた評価基準データを生成する生成手段と、
前記演奏手段による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを、前記生成手段で生成した評価基準データに基づいて評価する評価手段と
を備える、カラオケ装置。 - 前記単位音符は、前記楽曲において時間軸に沿って連続する少なくとも2つの音符の組み合わせであり、
前記連続する少なくとも2つの音符の組み合わせには、前記歌手特徴量が対応付けられており、
前記類似特定手段は、前記歌手特徴データの前記連続する少なくとも2つの音符の組み合わせに対応付けられた前記歌手特徴量を用いて、前記歌声特徴量に類似する前記歌手特徴データを特定する
請求項1に記載のカラオケ装置。 - 前記単位音符は、前記楽曲において時間軸に沿って連続する少なくとも3つの音符の組み合わせであり、
前記単位音符を構成する少なくとも3つの音符のうちの1つの音符に、音符長と、時間軸に沿って当該音符の演奏開始タイミングと当該音符の前後に演奏される音符の演奏開始タイミングとの時間差を示す時間長とが定められており、
前記類似特定手段は、前記歌手特徴データの前記音符長と、前記時間長とを用いて、前記歌声特徴量の前記特徴量に類似する前記歌手特徴データを特定する
請求項1または請求項2に記載のカラオケ装置。 - 前記少なくとも一つの特徴量のそれぞれは、予め規定された歌い方の項目それぞれにおける特徴量であり、
前記評価手段は、
前記生成手段で生成した評価基準データにおける歌手特徴量と、前記特徴取得手段で取得した歌声特徴量との相関を前記少なくとも一つの特徴量の項目ごとに算出した結果を、前記評価とする
請求項1から請求項3までのいずれか一項に記載のカラオケ装置。 - 前記歌手特徴データは、前記複数の既定の歌手の中で、当該歌手に特徴的な歌い方の項目に対する特徴量を特定特徴量として、特徴的な歌い方の項目以外の他の特徴量より大きな重みが付されたものであり、
前記類似特定手段は、前記特定特徴量に前記他の特徴量より大きな重みを付した前記歌手特徴データを用いて、前記歌声特徴量に類似する歌手特徴量を含む前記歌手特徴データを特定するものであり、
前記生成手段は、前記歌手特徴データの前記特定特徴量に、前記特定特徴量以外の前記特徴量より大きな重みが付された前記歌声特徴量を用いて前記評価基準データを生成するものであり、
前記評価手段は、
前記生成手段で生成した前記特定特徴量に重みが付された前記評価基準データにおける歌手特徴量と、前記指定の楽曲を歌唱した前記ユーザの歌唱の前記波形データから取得された前記歌声特徴量との相関が高いほど高い評価とする
請求項4に記載のカラオケ装置。 - 前記波形取得手段で取得した波形データから、前記指定の楽曲を歌唱するユーザの歌唱の特徴を表す照合特徴量を導出する特徴導出手段を備え、
前記評価手段は、前記特徴導出手段で導出した照合特徴量を、前記生成手段で生成した評価基準データにおける照合特徴量に基づいて評価する
請求項1から請求項5までのいずれか一項に記載のカラオケ装置。 - 前記評価手段での評価結果を報知する報知手段
を備える請求項1から請求項6までのいずれか一項に記載のカラオケ装置。 - 前記報知手段は、
前記類似特定手段で取得した類似特徴データに対応する既定の歌手である類似歌手に関する情報を報知する
請求項7に記載のカラオケ装置。 - 歌詞が割り当てられた楽曲のうち指定の楽曲について、音高と音符長とが規定された複数の構成音符が時間軸に沿って配置された楽譜データを取得する楽譜取得手段と、
前記楽譜取得手段で取得した楽譜データの前記構成音符に従って、前記指定の楽曲を演奏する演奏手段と、
前記演奏手段による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを取得する波形取得手段と、
前記波形取得手段により取得した前記波形データから、歌唱の特徴を表す少なくとも1つの特徴量を含む歌声特徴量を取得する特徴取得手段と、
複数の既定の歌手それぞれについて、前記音高と音符長とが規定された各音符を含む単位音符と、前記単位音符に対する発声母音との組み合わせごとに、前記少なくとも一つの特徴量を含む歌手特徴量を対応付けたデータを歌手特徴データとして蓄積した複数の歌手特徴データから、前記特徴取得手段により取得した前記歌声特徴量に類似する歌手特徴量を含む前記歌手特徴データを特定する類似特定手段と、
前記楽譜取得手段で取得した指定楽譜データと、前記類似特定手段で取得した前記歌手特徴データとに基づいて、前記指定楽譜データを構成する構成音符に、前記歌手特徴データにおいて、当該構成音符の音高,音符長及び発声母音に一致する前記単位音符に対応付けられた歌手特徴量を割り当てた評価基準データを生成する生成手段と、
前記演奏手段による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを、前記生成手段で生成した評価基準データに基づいて評価する評価手段と
を備える、カラオケシステム。 - コンピュータに実行させるプログラムであって、
歌詞が割り当てられた楽曲のうち指定の楽曲について、音高と音符長とが規定された複数の構成音符が時間軸に沿って配置された楽譜データを取得する楽譜取得手順と、
前記楽譜取得手順で取得した楽譜データの前記構成音符に従って、前記指定の楽曲を演奏する演奏手順と、
前記演奏手順による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを取得する波形取得手順と、
前記波形取得手順により取得した前記波形データから、歌唱の特徴を表す少なくとも1つの特徴量を含む歌声特徴量を取得する特徴取得手順と、
複数の既定の歌手それぞれについて、前記音高と音符長とが規定された各音符を含む単位音符と、前記単位音符に対する発声母音との組み合わせごとに、前記少なくとも一つの特徴量を含む歌手特徴量を対応付けたデータを歌手特徴データとして蓄積した複数の歌手特徴データから、前記特徴取得手順により取得した前記歌声特徴量に類似する歌手特徴量を含む前記歌手特徴データを特定する類似特定手順と、
前記楽譜取得手順で取得した指定楽譜データと、前記類似特定手順で取得した前記歌手特徴データとに基づいて、前記指定楽譜データを構成する構成音符に、前記歌手特徴データにおいて、当該構成音符の音高,音符長及び発声母音に一致する前記単位音符に対応付けられた歌手特徴量を割り当てた評価基準データを生成する生成手順と、
前記演奏手順による前記指定の楽曲の演奏に合わせて歌唱したユーザの歌声の波形を表す波形データを、前記生成手順で生成した評価基準データに基づいて評価する評価手順とを、
前記コンピュータに実行させる、プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015186811A JP6365483B2 (ja) | 2015-09-24 | 2015-09-24 | カラオケ装置,カラオケシステム,及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015186811A JP6365483B2 (ja) | 2015-09-24 | 2015-09-24 | カラオケ装置,カラオケシステム,及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017062313A JP2017062313A (ja) | 2017-03-30 |
JP6365483B2 true JP6365483B2 (ja) | 2018-08-01 |
Family
ID=58430138
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015186811A Active JP6365483B2 (ja) | 2015-09-24 | 2015-09-24 | カラオケ装置,カラオケシステム,及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6365483B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109300485B (zh) * | 2018-11-19 | 2022-06-10 | 北京达佳互联信息技术有限公司 | 音频信号的评分方法、装置、电子设备及计算机存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4204941B2 (ja) * | 2003-09-30 | 2009-01-07 | ヤマハ株式会社 | カラオケ装置 |
JP2009210790A (ja) * | 2008-03-04 | 2009-09-17 | Nec Software Kyushu Ltd | 選曲歌手分析推薦装置、その方法及びプログラム |
JP5122598B2 (ja) * | 2010-03-30 | 2013-01-16 | 株式会社コナミデジタルエンタテインメント | 音声入力評価システム、音声入力評価システムの制御方法、及びプログラム |
JP2013231881A (ja) * | 2012-04-28 | 2013-11-14 | Daiichikosho Co Ltd | カラオケ採点システム |
JP6075313B2 (ja) * | 2014-03-24 | 2017-02-08 | ブラザー工業株式会社 | プログラム,情報処理装置,及び評価データ生成方法 |
-
2015
- 2015-09-24 JP JP2015186811A patent/JP6365483B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017062313A (ja) | 2017-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI497484B (zh) | Performance evaluation device, karaoke device, server device, performance evaluation system, performance evaluation method and program | |
JP6060867B2 (ja) | 情報処理装置,データ生成方法,及びプログラム | |
JP4479701B2 (ja) | 楽曲練習支援装置、動的時間整合モジュールおよびプログラム | |
JP5598516B2 (ja) | カラオケ用音声合成システム,及びパラメータ抽出装置 | |
JP6252420B2 (ja) | 音声合成装置、及び音声合成システム | |
JP6365483B2 (ja) | カラオケ装置,カラオケシステム,及びプログラム | |
JP6098422B2 (ja) | 情報処理装置、及びプログラム | |
JP6260565B2 (ja) | 音声合成装置、及びプログラム | |
JP5782972B2 (ja) | 情報処理システム,プログラム | |
JP6075314B2 (ja) | プログラム,情報処理装置,及び評価方法 | |
JP6075313B2 (ja) | プログラム,情報処理装置,及び評価データ生成方法 | |
JP6056799B2 (ja) | プログラム、情報処理装置、及びデータ生成方法 | |
JP2008040260A (ja) | 楽曲練習支援装置、動的時間整合モジュールおよびプログラム | |
JP6406182B2 (ja) | カラオケ装置、及びカラオケシステム | |
JP5983670B2 (ja) | プログラム、情報処理装置、及びデータ生成方法 | |
JP2008040258A (ja) | 楽曲練習支援装置、動的時間整合モジュールおよびプログラム | |
JP6011506B2 (ja) | 情報処理装置,データ生成方法,及びプログラム | |
JP5810947B2 (ja) | 発声区間特定装置、音声パラメータ生成装置、及びプログラム | |
JP6380305B2 (ja) | データ生成装置、カラオケシステム、及びプログラム | |
JP6365561B2 (ja) | カラオケシステム、カラオケ装置、及びプログラム | |
JP6252517B2 (ja) | 音声合成装置、及びプログラム | |
JP6252421B2 (ja) | 採譜装置、及び採譜システム | |
JP6281447B2 (ja) | 音声合成装置,及び音声合成システム | |
JP6074835B2 (ja) | 楽曲練習支援装置 | |
JP6252408B2 (ja) | 表示制御装置,及び表示制御システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170901 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180525 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180605 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180618 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6365483 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |