JP6468069B2 - 電子機器制御システム、サーバー、及び、端末装置 - Google Patents

電子機器制御システム、サーバー、及び、端末装置 Download PDF

Info

Publication number
JP6468069B2
JP6468069B2 JP2015101611A JP2015101611A JP6468069B2 JP 6468069 B2 JP6468069 B2 JP 6468069B2 JP 2015101611 A JP2015101611 A JP 2015101611A JP 2015101611 A JP2015101611 A JP 2015101611A JP 6468069 B2 JP6468069 B2 JP 6468069B2
Authority
JP
Japan
Prior art keywords
server
electronic device
tag information
information
control system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015101611A
Other languages
English (en)
Other versions
JP2016218200A (ja
Inventor
近藤 裕介
裕介 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Onkyo Corp
Original Assignee
Onkyo Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Onkyo Corp filed Critical Onkyo Corp
Priority to JP2015101611A priority Critical patent/JP6468069B2/ja
Publication of JP2016218200A publication Critical patent/JP2016218200A/ja
Application granted granted Critical
Publication of JP6468069B2 publication Critical patent/JP6468069B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephonic Communication Services (AREA)

Description

本発明は、スマートフォン等の電子機器を制御するための電子機器制御システム、電子機器制御システムを構成するサーバー、及び、端末装置に関する。
近年、ユーザーが発話した音声を利用して、スマートフォン等の電子機器を制御する技術が開発されている(例えば、特許文献1参照。)。図5は、従来の電子機器制御システムのシステム構成を示す図である。電子機器制御システム11は、端末装置12、ホームサーバー13、ルーター14を備える。電子機器制御システム11において、ユーザーは、端末装置11に対して発話することにより、スマートフォン15からオーディオデータを再生することができる。端末装置11は、ユーザーが発話した音声を集音し音声データをホームサーバー13に送信する。ホームサーバー13は、音声認識機能を有しており、端末装置12が送信した音声データを音声認識する。
音声認識率を高めるため、ホームサーバー13には、スマートフォン15に記憶されているオーディオデータに関するタグ情報(テキスト情報)が記憶されている。タグ情報は、アーティスト名、アルバム、タイトル等である。ここで、タグ情報は、アルファベット(例えば、Beatles)であったり、カタカナ(例えば、ビートルズ)であったりする場合がある。このため、ホームサーバー13は、タグ情報を発音情報(例えば、bi.tA.r6u-.zu-)に変換し、変換した発音情報を記憶している。また、ホームサーバー13は、端末装置12が送信した音声データを発音情報に変換する。これにより、ホームサーバー13は、記憶している発音情報と、変換した発音情報と、を比較することで、例えば、ユーザーが発話したアーティスト名を特定することができる。
ホームサーバー13は、タグ情報(例えば、アーティスト名)と制御コマンド(例えば、プレイ)とをスマートフォン15に送信する。スマートフォン15は、ホームサーバー13が送信したタグ情報と制御コマンドとに従って、オーディオデータを再生する。
特開2013−088535号公報
上記した従来の電子機器制御システム11では、ホームサーバー13が音声認識機能を有している。音声認識機能では、音声認識辞書(タグ情報)と音声認識エンジンとがセットになっている。このため、ホームサーバー13に音声認識エンジンを実装した場合、ホームサーバー13に大きなプロセッサパワーが必要となり、単価が上昇するという問題がある。また、外部のクラウドサーバーで音声認識を行うため、タグ情報をクラウドサーバーに送信することが考えられる。しかし、タグ情報は、スマートフォン15のユーザー毎に異なるため、ユーザー毎の管理が必要である。また、タグ情報を扱うことの許諾をユーザーから得る必要がある。
本発明の目的は、電子機器制御システムにおいて、サーバーの単価を抑制すること等である。
第1の発明の電子機器制御システムは、音声データに対応する発音情報を送信する外部サーバーと通信を行うサーバーと、前記サーバーと通信を行う端末装置と、を備える電子機器制御システムであって、前記端末装置は、外部の音声を集音し音声データとして出力するマイクと、前記マイクが出力する音声データをサーバーに送信する第1制御部と、を備え、前記サーバーは、電子機器に記憶されているオーディオデータに関するタグ情報と、タグ情報に対応する発音情報と、を対応付けて記憶するための記憶部と、前記端末装置が送信する音声データを受信し、受信した音声データを前記外部サーバーに送信し、送信した音声データに対応する発音情報を前記外部サーバーから受信し、受信した発音情報と、前記記憶部に記憶されている発音情報と、に基づいて、タグ情報を決定し、決定したタグ情報とともに、制御コマンドを前記電子機器に送信する第2制御部と、を備えることを特徴とする。
本発明では、第2制御部は、受信した発音情報と、記憶部に記憶されている発音情報と、に基づいて、タグ情報を決定する。例えば、第2制御部は、タグ情報として、アーティスト名を決定する。そして、第2制御部は、決定したタグ情報とともに、制御コマンドを電子機器に送信する。例えば、第2制御部は、決定したアーティスト名とともに、制御コマンド「プレイ」を電子機器に送信する。電子機器は、アーティスト名と制御コマンド「プレイ」により、対応するアーティスト名の楽曲を再生することができる。本発明では、サーバーは、音声認識を行わず、外部サーバーで音声認識を行うため、サーバーのプロセッサパワーが少なくてよい。このため、サーバーの単価を抑えることができる。
また、外部サーバーがタグ情報を扱わないため、ユーザー毎に異なるタグ情報の管理が不要になる。また、タグ情報を扱うことの許諾をユーザーから得ることが不要となる。
第2の発明の電子機器制御システムは、第1の発明の電子機器制御システムにおいて、前記第2制御部は、タグ情報を発音情報に変換し、タグ情報と、変換した発音情報と、を対応付けて前記記憶部に記憶することを特徴とする。
本発明では、第2制御部は、タグ情報を発音情報に変換し、タグ情報と、変換した発音情報と、を対応付けて記憶部に記憶する。これにより、タグ情報を外部サーバー等に送信する必要がないため、外部とやり取りするデータ量が多くなることが防止される。
第3の発明の電子機器制御システムは、第1の発明の電子機器制御システムにおいて、前記第2制御部は、前記電子機器から送信されるタグ情報を受信し、受信したタグ情報を発音情報に変換し、受信したタグ情報と、変換した発音情報と、を対応付けて前記記憶部に記憶することを特徴とする。
第4の発明のサーバーは、第1〜第3の発明のいずれかの電子機器制御システムにおけるサーバーである。
第5の発明の端末装置は、第1〜第3の発明のいずれかの電子機器制御システムにおける端末装置である。
本発明によれば、サーバーの単価を抑えることができる。また、ユーザー毎に異なるタグ情報の管理が不要になる。また、タグ情報を扱うことの許諾をユーザーから得ることが不要となる。
本発明の実施形態に係る電子機器制御システムのシステム構成を示す図である。 音声認識キーワードデータベースを示す図である。 電子機器制御システムの動作を示すシーケンス図である。 音声認識キーワードデータベースからキーワードを抽出する、ホームサーバーのフィルタ処理を示すフローチャートである。 従来の電子機器制御システムのシステム構成を示す図である。
以下、本発明の実施形態について説明する。図1は、本実施形態に係る電子機器制御システムの構成を示すブロック図である。電子機器制御システム1は、端末装置2、ホームサーバー3、クラウドサーバー4、ルーター5を備える。クラウドサーバー4は、外部に設置された外部サーバーである。端末装置2は、ホームサーバー3と通信を行う。ホームサーバー3は、クラウドサーバー4と通信を行う。本実施形態では、制御対象の電子機器は、スマートフォン6である。
端末装置2は、マイクロコンピュータ21、マイク22、スピーカー23等を備える。マイクロコンピュータ21(第1制御部)は、端末装置2を構成する各部を制御する。また、マイクロコンピュータ21は、無線LANネットワークプロセッサーを有しており、ルーター5と無線LANに従った通信を行う。マイク22は、外部の音声を集音し音声データとして出力する。マイク22が出力した音声データは、図示しないDSP(Digital Signal Processor)を介して、マイクロコンピュータ21に入力される。なお、マイク22は、デジタルマイクであり、集音した音声データをA/D変換してDSPに出力する。スピーカー23は、音声データに基づいて音声を出力する。なお、スピーカー23には、図示しないD/Aコンバータが音声データ(デジタルデータ)をD/A変換し、図示しないパワーアンプが増幅した音声データが出力される。
ホームサーバー3(サーバー)は、CPU(Central Processing Unit)31、RAM(Random Access Memory)32、記憶部33、ネットワークインターフェース(以下、「NW I/F」という。)34を備える。CPU31(第2制御部)は、ホームサーバー3を構成する各部を制御する。RAM32は、CPU31のワークメモリとして機能する。記憶部33は、各種のプログラム、データを記憶するためのものである。また、記憶部33には、音声認識キーワードデータベース(以下、「音声認識キーワードDB」という。)が記憶されている。NW I/F34は、外部の機器(例えば、ルーター5)と有線LAN、無線LANに従った通信を行うためのものである。
ルーター5は、アクセスポイント機能を有しており、端末装置2、スマートフォン6と無線LANに従った通信を行う。また、ルーター5は、ホームサーバー3と有線LANに従った通信を行う。また、ルーター5は、ホームサーバー3とクラウドサーバー4とをインターネット接続する。
クラウドサーバー4(外部サーバー)は、音声認識機能を有する。クラウドサーバー4は、音声認識機能により、音声データを音声コマンドと発音情報とに変換する。スマートフォン5には、音楽再生アプリケーションプログラム(以下、「音楽再生アプリ」という。)Pがインストールされている。
図2は、音声認識キーワードDBを示す図である。スマートフォン6は、音楽再生アプリPの初回起動時に、音声認識キーワードDBに登録されるタグ情報等をリストとして送信する。音声認識キーワードDBにおいては、アクセサリー(Accessory)「スマートフォン(Smart Phone)」の「アプリケーション名(Application Name)」として、「音楽プレイヤー(Music Player)」が登録されている。これに対応する単語として、「Music Player」が登録されている。また、プロファイル(Profile)「音楽再生(MusicPlay)」に対応する単語として、「Music」、「音楽」等が登録されている。
また、「アクション(Action)」の「再生(Play)」に対応する単語として、「Play」、「再生」、「一時停止(Pause)」に対応する単語として、「Pause」、「一時停止」等が登録されている。また、「ターゲット(Target)」の「アーティスト(Artist)」に対応する単語として、「Artist」、「歌手」、「タイトル(Title)」に対応する単語として、「Title」、「題名」が登録されている。また、音声認識キーワードDBには、アーティスト名等のタグ情報と、タグ情報に対応する発音情報と、が対応付けて登録されている。ホームサーバー3のCPU31は、NW I/F34を介して、スマートフォン6から送信されるタグ情報を受信すると、タグ情報を発音情報に変換する。そして、CPU31は、受信したタグ情報(例えば、「Beatles」)と、変換した発音情報(例えば、「bi.tA.r6u-.zu-」)と、を対応付けて音声認識キーワードDBに登録する。
図3は、電子機器制御システムの動作を示すシーケンス図である。以下、図3に基づいて、スマートフォン6を制御する一連の動作を説明する。まず、ユーザーは、スマートフォン6にインストールされている音楽再生アプリPを起動する(図3の(1))。音楽再生アプリPが起動されると、スマートフォン6は、タグ情報等をリストとしてホームサーバー3に送信する(図3の(2))。ホームサーバー3のCPU31は、NW I/F34を介して、タグ情報等を受信すると、音声認識キーワードDBに登録する(図3の(3))。
ユーザーは、端末装置2がホームサーバー3に音声データを送信するデータ送信モードとするために、所定のキーワードを発話する。本実施形態では、端末装置2は、所定のキーワードにより、データ送信モードに遷移する。例えば、ユーザーは、所定のキーワードとして、「こんにちはオンキヨー」と発話する(図3の(4))。次に、例えば、ユーザーは、ビートルズの楽曲を再生したい場合、「Play Beatles」と発話する(図3の(5))。端末装置2のマイク22は、ユーザーが発話した音声を集音し音声データとしてマイクロコンピュータ21に出力する。マイクロコンピュータ21は、音声データ(「Play Beatles」)をホームサーバー3に送信する(図3の(6))。ホームサーバー3のCPU31は、NW I/F34を介して、端末装置2が送信した音声データを受信する。次に、CPU31は、NW I/F34を介して、クラウドサーバー4に音声データを送信し、クラウドサーバー4に音声認識を要求する(図3の(7))。
クラウドサーバー4は、ホームサーバー3が送信した音声データを受信する。クラウドサーバー4は、音声認識機能を有しており、音声データを音声コマンド(例えば、「Play」)と、発音情報(例えば、「bi.tA.r6u-.zu-」)と、に変換する。次に、クラウドサーバー4は、変換した音声コマンドと、発音情報と、をホームサーバー3に送信し、音声認識の結果を応答する(図3の(8))。ホームサーバー3のCPU31は、NW I/F34を介して、クラウドサーバー4が送信した音声コマンドを受信する。CPU31は、音声認識結果の解析を行う(図3の(9))。具体的には、CPU31は、音声認識キーワードDBに登録されている登録単語と、受信した音声コマンドと、に基づいて、音声コマンド(例えば、「Play」)に対応する制御コマンド(例えば、「Play」)を決定する。また、CPU31は、受信した発音情報(例えば、「bi.tA.r6u-.zu-」)と、音声認識キーワードDBに登録されている発音情報(例えば、「bi.tA.r6u-.zu-」)と、に基づいて、タグ情報(例えば、「Beatles」)を決定する。
次に、CPU31は、NW I/F34を介して、決定した制御コマンドと、タグ情報と、をスマートフォン6に送信する(図3の(10))。スマートフォン6は、ホームサーバー3から送信される制御コマンドと、タグ情報と、を受信する。スマートフォン6は、制御コマンドと、タグ情報と、に従って、オーディオデータ(例えば、ビートルズの楽曲)を再生する(図3の(11))。次に、スマートフォン6は、ビートルズを再生したことを示すテキスト「Played Beatles」をホームサーバー3に送信する(図3の(12))。ホームサーバー3のCPU31は、NW I/F34を介して、スマートフォン6から送信されるテキストを受信する。CPU31は、NW I/F34を介して、受信したテキストをクラウドサーバー4に送信し、クラウドサーバー4に音声合成を要求する(図3の(13))。
クラウドサーバー4は、音声合成を行い、音声合成データをホームサーバー3に送信し、音声合成の結果を応答する(図3の(14))。ホームサーバー3のCPU31は、NW I/F34を介して、クラウドサーバー4から送信される音声合成データを受信する。次に、CPU31は、NW I/F34を介して、受信した音声合成データを端末装置2に送信する(図3の(15))。端末装置2のマイクロコンピュータ21は、ホームサーバー3が送信した音声合成データを受信する。マイクロコンピュータ21は、受信した音声合成データに基づいてスピーカー23から音声を出力させる(図3の(16))。
以下、音声認識キーワードDBからキーワードを抽出する、ホームサーバー3のフィルタ処理を、図4に示すフローチャートに基づいて説明する。クラウドサーバー3は、音声認識を行い、音声認識の結果を応答する(S1)。次に、ホームサーバー3のCPU31は、クラウドサーバー4から受信した音声認識結果が、アプリケーション名(Application Name)、プロファイル(Profile)、アクション(Action)のいずれかであるかを判断する(S2)。CPU31は、クラウドサーバー4から受信した音声認識結果が、アプリケーション名(Application Name)、プロファイル(Profile)、アクション(Action)のいずれかであると判断した場合(S2:Yes)、制御コマンドの送信先にアクセサリー(Accessory)を設定する(S3)。
CPU31は、クラウドサーバー4から受信した音声認識結果が、アプリケーション名(Application Name)、プロファイル(Profile)、アクション(Action)のいずれかでないと判断した場合(S2:No)、ターゲット(Target)であるか否かを判断する(S4)。CPU31は、クラウドサーバー4から受信した音声認識結果が、ターゲット(Target)でないと判断した場合(S4:No)、処理を終了する。
CPU31は、クラウドサーバー4から受信した音声認識結果が、ターゲット(Target)であると判断した場合(S4:Yes)、発音情報であるか否かを判断する(S5)。CPU31は、クラウドサーバー4から受信した音声認識結果が、発音情報でないと判断した場合(S5:No)、処理を終了する。CPU31は、クラウドサーバー4から受信した音声認識結果が、発音情報であると判断した場合(S5:Yes)、受信した発音情報と、音声認識キーワードDBに登録されている発音情報と、に基づいて、タグ情報に変換する(S6)。
以上説明したように、本実施形態では、ホームサーバー3のCPU31は、受信した発音情報と、記憶部33に記憶されている発音情報と、に基づいて、タグ情報を決定する。例えば、CPU31は、タグ情報として、アーティスト名を決定する。そして、CPU31は、決定したタグ情報とともに、制御コマンドをスマートフォン6に送信する。例えば、CPU31は、決定したアーティスト名とともに、制御コマンド「Play」をスマートフォン6に送信する。スマートフォン6は、アーティスト名と制御コマンド「Play」とにより、対応するアーティスト名の楽曲を再生することができる。本実施形態では、ホームサーバー3は、音声認識を行わず、クラウドサーバー4で音声認識を行うため、ホームサーバー3のプロセッサパワーが少なくてよい。このため、ホームサーバー3の単価を抑えることができる。
また、クラウドサーバー4がタグ情報を扱わないため、ユーザー毎に異なるタグ情報の管理が不要になる。また、タグ情報を扱うことの許諾をユーザーから得ることが不要となる。
また、本実施形態では、ホームサーバー3のCPU31は、タグ情報を発音情報に変換し、タグ情報と、変換した発音情報と、を対応付けて記憶部33に記憶する。これにより、タグ情報をクラウドサーバー4等に送信する必要がないため、外部とやり取りするデータ量が多くなることが防止される。
以上、本発明の実施形態について説明したが、本発明を適用可能な形態は、上述の実施形態には限られるものではなく、以下に例示するように、本発明の趣旨を逸脱しない範囲で適宜変更を加えることが可能である。
上述の実施形態においては、電子機器として、スマートフォンを例示した。これに限らず、携帯音楽再生装置、タブレットPC等であってもよい。
本発明は、電子機器を制御するための電子機器制御システム、電子機器制御システムを構成するサーバー、及び、端末装置に好適に採用され得る。
1 電子機器制御システム
2 端末装置
21 マイクロコンピュータ(第1制御部)
22 マイク
3 ホームサーバー(サーバー)
31 CPU(第2制御部)
33 記憶部
4 クラウドサーバー(外部サーバー)
6 スマートフォン(電子機器)

Claims (5)

  1. 音声データに対応する発音情報を送信する外部サーバーと通信を行うサーバーと、前記サーバーと通信を行う端末装置と、を備える電子機器制御システムであって、
    前記端末装置は、
    外部の音声を集音し音声データとして出力するマイクと、
    前記マイクが出力する音声データをサーバーに送信する第1制御部と、を備え、
    前記サーバーは、
    電子機器に記憶されているオーディオデータに関するタグ情報と、タグ情報に対応する発音情報と、を対応付けて記憶するための記憶部と、
    前記端末装置が送信する音声データを受信し、
    受信した音声データを前記外部サーバーに送信し、
    送信した音声データに対応する発音情報を前記外部サーバーから受信し、
    受信した発音情報と、前記記憶部に記憶されている発音情報と、に基づいて、タグ情報を決定し、
    決定したタグ情報とともに、制御コマンドを前記電子機器に送信する第2制御部と、
    を備えることを特徴とする電子機器制御システム。
  2. 前記第2制御部は、タグ情報を発音情報に変換し、タグ情報と、変換した発音情報と、を対応付けて前記記憶部に記憶することを特徴とする請求項1に記載の電子機器制御システム。
  3. 前記第2制御部は、前記電子機器から送信されるタグ情報を受信し、受信したタグ情報を発音情報に変換し、受信したタグ情報と、変換した発音情報と、を対応付けて前記記憶部に記憶することを特徴とする請求項1に記載の電子機器制御システム。
  4. 請求項1〜3のいずれか1項に記載のサーバー。
  5. 請求項1〜3のいずれか1項に記載の端末装置。
JP2015101611A 2015-05-19 2015-05-19 電子機器制御システム、サーバー、及び、端末装置 Expired - Fee Related JP6468069B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015101611A JP6468069B2 (ja) 2015-05-19 2015-05-19 電子機器制御システム、サーバー、及び、端末装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015101611A JP6468069B2 (ja) 2015-05-19 2015-05-19 電子機器制御システム、サーバー、及び、端末装置

Publications (2)

Publication Number Publication Date
JP2016218200A JP2016218200A (ja) 2016-12-22
JP6468069B2 true JP6468069B2 (ja) 2019-02-13

Family

ID=57578371

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015101611A Expired - Fee Related JP6468069B2 (ja) 2015-05-19 2015-05-19 電子機器制御システム、サーバー、及び、端末装置

Country Status (1)

Country Link
JP (1) JP6468069B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108399917B (zh) * 2018-01-26 2023-08-04 百度在线网络技术(北京)有限公司 语音处理方法、设备和计算机可读存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5753212B2 (ja) * 2013-03-19 2015-07-22 シャープ株式会社 音声認識システム、サーバ、および音声処理装置

Also Published As

Publication number Publication date
JP2016218200A (ja) 2016-12-22

Similar Documents

Publication Publication Date Title
JP7053687B2 (ja) ラストマイル等化
JP6513749B2 (ja) 音声アシストシステム、サーバ装置、その音声アシスト方法、及びコンピュータが実行するためのプログラム
TWI557599B (zh) 語音控制方法及語音控制系統
US11188289B2 (en) Identification of preferred communication devices according to a preference rule dependent on a trigger phrase spoken within a selected time from other command data
JP6520100B2 (ja) 電子機器制御システム、端末装置、及び、サーバー
KR20190075800A (ko) 지능형 개인 보조 인터페이스 시스템
US10705789B2 (en) Dynamic volume adjustment for virtual assistants
JP2017107078A (ja) 音声対話方法、音声対話装置及び音声対話プログラム
WO2015109971A1 (zh) 智能电视的语音处理方法、处理系统及智能电视
TW201717655A (zh) 語音控制方法及語音控制系統
US11328722B2 (en) Systems and methods for generating a singular voice audio stream
JP6904357B2 (ja) 情報処理装置、情報処理方法、及びプログラム
US11233490B2 (en) Context based volume adaptation by voice assistant devices
JPWO2019031268A1 (ja) 情報処理装置、及び情報処理方法
JP2017138536A (ja) 音声処理装置
US20210157542A1 (en) Context based media selection based on preferences setting for active consumer(s)
CN103426429B (zh) 语音控制方法和装置
WO2015125560A1 (ja) 情報処理装置、音声対話装置、および制御プログラム
JP2019215449A (ja) 会話補助装置、会話補助方法及びプログラム
JP6559417B2 (ja) 情報処理装置、情報処理方法、対話システム、および制御プログラム
US10693944B1 (en) Media-player initialization optimization
JP6468069B2 (ja) 電子機器制御システム、サーバー、及び、端末装置
JP6448950B2 (ja) 音声対話装置及び電子機器
EP3871214B1 (en) Audio pipeline for simultaneous keyword spotting, transcription, and real time communications
JP2019113636A (ja) 音声認識システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181231

R150 Certificate of patent or registration of utility model

Ref document number: 6468069

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees