JP2017215639A - ネットワークシステム、音声出力方法、サーバおよび電気機器 - Google Patents

ネットワークシステム、音声出力方法、サーバおよび電気機器 Download PDF

Info

Publication number
JP2017215639A
JP2017215639A JP2016107102A JP2016107102A JP2017215639A JP 2017215639 A JP2017215639 A JP 2017215639A JP 2016107102 A JP2016107102 A JP 2016107102A JP 2016107102 A JP2016107102 A JP 2016107102A JP 2017215639 A JP2017215639 A JP 2017215639A
Authority
JP
Japan
Prior art keywords
message
voice
output
voice output
person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016107102A
Other languages
English (en)
Inventor
拓也 渡部
Takuya Watabe
拓也 渡部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2016107102A priority Critical patent/JP2017215639A/ja
Publication of JP2017215639A publication Critical patent/JP2017215639A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】従来よりも適切にメッセージを出力することができるネットワークシステム、音声出力方法、サーバおよび電気機器を提供する。【解決手段】音声を出力可能な第1の機器200Aと、第1の機器200Aと通信可能なサーバ100と、を備えるネットワークシステム1が提供される。サーバ100は、第1の機器200Aの近傍に人が検知されたときに第1の機器200Aにメッセージを音声出力させ、第1の機器200Aの近傍に人が検知されなくなったときにメッセージの音声出力を停止させ、第1の機器200Aの近傍に人が再度検知されたときに音声出力の停止位置に基づいてメッセージの音声出力を再開させる。【選択図】図1

Description

本発明は、ユーザにメッセージを出力するための技術に関する。
従来から、電気機器がユーザにメッセージを出力するための様々な技術が提案されている。特開2002―221992号公報(特許文献1)には、人物特定システムが開示されている。特許文献1によると、対話制御手段は各人物単位で、本システムからの発話が行われた場合の発話時刻や人物からの返答語句を対話テーブルに記録する。質問テーブルは対話テーブルに保持される発話時刻や返答語句を問い合わせる質問が定義されている。対話制御手段は、質問テーブルに保持される質問を音声合成手段を用いて音声出力部へ出力し、質問に対する人物からの回答を音声認識手段を用いて変換し、この変換結果と対話テーブルに保持される発話時刻や返答語句と比較して対話テーブルに登録されている各人物ごとに得点化を行う。各人物の中で、得点合計が最も高い人物を特定する。
特開2002―221992号公報
しかしながらユーザに出力すべきメッセージの全てが当該ユーザに向けて出力されない可能性が高かった。そこで、本発明の目的は、従来よりも適切にユーザに向けてメッセージを出力することができるネットワークシステム、音声出力方法、サーバおよび電気機器を提供することにある。
この発明のある態様に従うと、音声を出力可能な第1の機器と、前記第1の電気機器と通信可能なサーバと、を備えるネットワークシステムが提供される。前記第1の機器の近傍に人が検知されたときに前記第1の機器にメッセージを音声出力させ、前記第1の機器の近傍に人が検知されなくなったときに前記メッセージの音声出力を停止させ、前記第1の機器の近傍に人が再度検知されたときに前記音声出力の停止位置に基づいて前記メッセージの音声出力を再開させる。
好ましくは、ユーザ毎にメッセージの音声出力の停止位置を示す情報を記憶し、ユーザ毎に当該停止位置を示す情報に基づいて前記メッセージの音声出力を再開させる。
好ましくは、ネットワークシステムは、第2の機器をさらに備える。前記サーバは、前記第2の機器の近傍に人が検知されたときに、前記第1の機器による前記音声出力の停止位置の情報を記憶し、前記停止位置に基づいて前記第2の機器に前記メッセージの音声出力を再開させる。
好ましくは、前記メッセージの音声出力の再開に適した複数の再開位置が予め規定される。前記メッセージの音声出力の停止位置よりも前の前記再開位置から前記メッセージの前記音声出力を再開させる。
好ましくは、前記メッセージの音声出力の停止のときから前記メッセージの音声出力の再開のときまでの時間が長いほど、前記再開位置を遡って前記メッセージの前記音声出力を再開させる。
好ましくは、前記メッセージの音声出力を再開させる際に、前記メッセージの音声出力を再開することを示すための所定の文言を出力させる。
この発明の別の局面に従うと、第1の機器の近傍に人が検知されたときに、前記第1の機器にメッセージを音声出力させるステップと、前記第1の機器の近傍に人が検知されなくなったときに、前記メッセージの音声出力を停止させるステップと、前記音声出力の停止位置の情報を記憶させるステップと、前記第1の機器の近傍に人が再度検知されたときに、前記音声出力の停止位置に基づいて前記メッセージの音声出力を再開させるステップとを備える、音声出力方法が提供される。
この発明の別の局面に従うと、第1の電気機器と通信するための通信インターフェイスと、プロセッサとを備えるサーバが提供される。前記プロセッサは、前記通信インターフェイスを介して、前記第1の機器の近傍に人が検知されたときに前記第1の機器にメッセージを音声出力させ、前記第1の機器の近傍に人が検知されなくなったときに前記第1の機器から送信された前記メッセージの音声出力の停止位置の情報を記憶させ、前記第1の機器の近傍に人が再度検知されたときに前記音声出力の停止位置に基づいて前記メッセージの音声出力を再開させる。
この発明の別の局面に従うと、スピーカと、プロセッサとを備える電気機器が提供される。前記プロセッサは、近傍に人が検知されたときに前記スピーカにメッセージを音声出力させ、近傍に人が検知されなくなったときに前記メッセージの音声出力を停止させ、前記音声出力の停止位置の情報を記憶させ、近傍に人が再度検知されたときに前記音声出力の停止位置に基づいて前記スピーカに前記メッセージの音声出力を再開させる。
以上のように、この発明によれば、従来よりも適切にメッセージを出力することができるネットワークシステム、音声出力方法、サーバおよび電気機器が提供される。
第1の実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。 第1の実施の形態にかかるネットワークシステム1の機能構成を表わすブロック図である。 第1の実施の形態にかかるネットワークシステム1によって実行される第1の情報処理を示すシーケンス図である。 第1の実施の形態にかかるネットワークシステム1によって実行される第2の情報処理を示すシーケンス図である。 第1の実施の形態にかかるサーバ100のハードウェア構成を表わすブロック図である。 第1の実施の形態にかかるグループデータベース121を示すイメージ図である。 第1の実施の形態にかかるユーザデータベース122を示すイメージ図である。 第1の実施の形態にかかる電気機器データベース123を示すイメージ図である。 第1の実施の形態にかかる音声メッセージデータベース124を示すイメージ図である。 第1の実施の形態にかかる保留データベース125を示すイメージ図である。 第1の実施の形態にかかるサーバ100における情報処理を示すフローチャートである。 第1の実施の形態にかかる電気機器としての電気機器200のハードウェア構成を表わすブロック図である。 第1の実施の形態にかかる電気機器200における情報処理を示すフローチャートである。 第2の実施の形態にかかるサーバ100における情報処理を示すフローチャートである。 第3の実施の形態にかかるメッセージデータベース124を示すイメージ図である。 第4の実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。 第5の実施の形態にかかるネットワークシステム1によって実行される情報処理を示すシーケンス図である。 第6の実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。 第7の実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。 第8の実施の形態にかかる第1の保留データベース125Bを示すイメージ図である。 第8の実施の形態にかかる第2の保留データベース125Cを示すイメージ図である。 第9の実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。 第9の実施の形態にかかるユーザデータベース222を示すイメージ図である。 第9の実施の形態にかかる音声メッセージデータベース224を示すイメージ図である。 第9の実施の形態にかかる保留データベース225を示すイメージ図である。 第9の実施の形態にかかる電気機器200における情報処理を示すフローチャートである。 第11の実施の形態にかかる第1のネットワークシステム1の全体構成と動作概要とを示すイメージ図である。 第11の実施の形態にかかる第2のネットワークシステム1の全体構成と動作概要とを示すイメージ図である。
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
<第1の実施の形態>
<ネットワークシステムの全体構成と動作概要>
まず、本実施の形態にかかるネットワークシステム1の全体構成と動作概要について説明する。図1は、本実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。
まず、図1を参照して、本実施の形態にかかるネットワークシステム1の全体構成について説明する。本実施の形態にかかるネットワークシステム1は、主に、サーバ100と、サーバ100と通信可能な電気機器としての冷蔵庫200Aとを含む。
なお、電気機器は、冷蔵庫200Aに限らず、洗濯機、エアコン、空気清浄機、電子レンジ、洗濯機、自走式掃除機、照明機器などの家電、スマートフォン、テレビ、ハードディスクレコーダ、音楽プレーヤー、ゲーム機などのAV(オーディオ・ビジュアル)機器、太陽光発電気、インターホン、給湯器、カメラ、照明器具、音声センサ、画像センサなどの住宅設備、などであってもよい。以下では、これらの機器を総称して、電気機器200ともいう。
次に、図1(A)を参照して、本実施の形態にかかるネットワークシステム1の動作概要について説明する。まず、電気機器としての冷蔵庫200Aは、自身の人感センサまたは通信可能な外部の人感センサなどを介して、定期的に周囲に人がいるかどうかを調べる。そして、冷蔵庫200Aは、人を検知すると、当該人に関する画像データや音声データやその他のデータをサーバ100に送信する。
サーバ100は、冷蔵庫200Aから受信したデータに基づいて、冷蔵庫200Aの周囲にいるユーザを特定する。そして、サーバ100は、特定したユーザに伝えるべきメッセージの音声データを生成する。サーバ100は、冷蔵庫200Aに当該ユーザに向けたメッセージの音声データを送信する。冷蔵庫200Aは、受信したメッセージの音声を出力する。
図1(B)を参照して、冷蔵庫200Aは、人がいないことを検知すると、あるいは人が検知できなくなると、メッセージの音声出力を停止する。冷蔵庫200Aは、メッセージのうちの音声出力を停止した部分を示すデータをサーバ100に送信する。サーバ100は、冷蔵庫200Aから受信したデータに基づいて、上記のユーザに対して出力すべきメッセージのうちの、既に出力が完了した部分、たとえば出力が完了したフレーズを示す情報を格納する。
図1(C)を参照して、冷蔵庫200Aは、自身の人感センサまたは通信可能な外部の人感センサなどを介して、再度人を検知すると、当該人に関する画像データや音声データやその他のデータをサーバ100に送信する。サーバ100は、冷蔵庫200Aから受信したデータに基づいて、冷蔵庫200Aの周囲にいるユーザを特定する。そして、サーバ100は、特定したユーザに関して音声出力を途中で停止したメッセージがあるか否かを判断する。サーバ100は、停止した部分から少し遡った箇所からのメッセージの音声データを生成する。サーバ100は、冷蔵庫200Aに当該音声データを送信する。冷蔵庫200Aは、受信したデータに基づいて、前回停止した部分から少し遡った箇所からのメッセージの音声を出力する。
以上のように、本実施の形態にかかるネットワークシステム1は、ユーザに対応付けられたメッセージを音声出力し、ユーザが電気機器の近くからいなくなった時点でメッセージの音声出力を中断し、ユーザが戻ってきた際に前回音声出力を中断した箇所から少し遡った箇所からメッセージの音声出力を再開する。これによって、ユーザがメッセージを聞き逃す可能性を低減することができるし、ユーザが聞いていないのに無駄に音声を出力することを低減することができる。以下、このような機能を実現するためのネットワークシステム1の機能構成について詳述する。
<ネットワークシステム1の機能構成>
まず、ネットワークシステム1の機能構成の一態様について説明する。なお、図2は、本実施の形態にかかるネットワークシステム1の機能構成を表わすブロック図である。
図2を参照して、ネットワークシステム1は、サーバ100と、インターネットなどのネットワークを介して当該サーバ100と通信可能な電気機器200とを含む。なお、電気機器200がスピーカ270やマイク280や各種のカメラ300を含んでもよいし、電気機器200とは別の電気機器200が通信可能なスピーカ270やマイク280や各種のセンサが準備されてもよい。
サーバ100は、後述するCPUがプログラムを実行することによって実現される情報処理部110Aや音声データ生成部110Bや、後述するCPUおよび後述する通信インターフェイスによって実現される情報取得部160Aやデータ送信部160Bや、各種テーブル120Aを含む。
情報取得部160Aは、電気機器200から、人物の特徴データ、前回発話フレーズなどの情報を取得する。
情報処理部110Aは、人物特定情報、前回発話フレーズを各種テーブル120Aに格納する。情報処理部110Aは、人物特定情報から、発話の続きがある場合は、続きのメッセージを取得して、音声データ生成部110Bへ渡す。
音声データ生成部110Bは、メッセージの音声データを生成する。
データ送信部160Bは、音声データを電気機器200へ送信する。
なお、各種テーブルは、人物を特定する為の情報を含む情報管理テーブルと、元の音声発話のための情報を含む管理テーブルと、前回に音声発話を中断したときの情報を格納する保留管理テーブルと、音声発話のログを管理するテーブルなどを含む。
一方、電気機器200は、後述するCPUがプログラムを実行することによって実現される検知部210Aや音声発話制御部210Bや、後述するCPUおよび後述する通信インターフェイスによって実現される情報送信部260Aやデータ受信部260Bや、各種のテーブルを含む。
検知部210Aは、各センサからのデータに基づいて、人物の検知をしたり、各センサが持つ人物特定情報を情報送信部260Aに受け渡したり、検知の状態を音声発話制御部210Bに受け渡したりする。
音声発話制御部210Bは、サーバ100からの音声データに基づいて、音声データを発話する。音声発話制御部210Bは、人物を検知しなくなった際に、検知部210Aのトリガーを受けて、音声発話を中断し、前回発話フレーズを特定するための情報を情報送信部260Aに受け渡す。
情報送信部260Aは、人物の特徴データや前回発話フレーズを示す情報をサーバ100に送信する。
データ受信部260Bは、サーバ100側で合成した音声データをダウンロードし、音声発話制御部210Bへ渡す。
以下では、図3と図4を参照して、本実施の形態にかかるネットワークシステム1にて実行される情報処理について説明する。なお、図3は、本実施の形態にかかるネットワークシステム1によって実行される第1の情報処理を示すシーケンス図である。図4は、本実施の形態にかかるネットワークシステムによって実行される第2の情報処理を示すシーケンス図である。
<ネットワークシステム1全体の情報処理>
まず、図3を参照して、冷蔵庫200Aと接続可能なカメラ300が、人物Aの目線を検知すると(ステップS102)、カメラ300は、人物Aを特定するための特徴データを冷蔵庫200Aに送信する(ステップS104)。冷蔵庫200Aの検知部210Aは、情報送信部260Aを介して当該特徴データをサーバ100に送信する(ステップS106)。ただし、冷蔵庫200Aが、特徴データからユーザを特定するものであってもよい。
サーバ100の情報取得部160Aは冷蔵庫200Aからのデータを受信して、情報処理部110Aに受け渡す。情報処理部110Aは、当該データに基づいて、ユーザを特定し、当該ユーザに出力すべきメッセージを抽出する。音声データ生成部110Bは、当該メッセージに基づいて当該ユーザへの音声データを生成する。
データ送信部160Bは、音声データを冷蔵庫200Aに送信する(ステップS108)。冷蔵庫200Aのデータ受信部260Bは、サーバ100からの音声データを受信して、音声発話制御部210Bに受け渡す。音声発話制御部210Bは、音声データを出力する(ステップS110)。
その後、カメラ300が、人物Aの目線を検知しなくなると(ステップS112)、カメラ300はメッセージを聞く人物がいなくなった旨のデータを冷蔵庫200Aに送信する(ステップS114)。冷蔵庫200Aの音声発話制御部210Bは、当該データに基づいて、メッセージの音声出力を中断する(ステップS116)。冷蔵庫200Aの情報送信部260Aは、音声出力を中断したメッセージ自体を特定する情報や、当該メッセージの中断した箇所を示す情報、たとえば音声出力が完了したフレーズを指定するための情報などをサーバ100に送信する(ステップS118)。サーバ100の情報処理部110Aは、当該ユーザと当該メッセージの音声出力が完了したフレーズを指定するための情報を蓄積する。
図4を参照して、その後、冷蔵庫200Aと接続可能なカメラ300が、再度、人物Aの目線を検知すると(ステップS122)、カメラ300は、人物Aを特定するための特徴データを冷蔵庫200Aに送信する(ステップS124)。冷蔵庫200Aの検知部210Aは、情報送信部260Aを介して当該特徴データをサーバ100に送信する(ステップS126)。
サーバ100の情報取得部160Aは冷蔵庫200Aからのデータを受信して、情報処理部110Aに受け渡す。情報処理部110Aは、当該データに基づいて、ユーザを特定し、当該ユーザに出力すべきメッセージを抽出する。ここでは、音声データ生成部110Bが、メッセージの途中から、すなわち前回すでに音声出力が完了した箇所の少し前のキリの良いところから、当該メッセージに基づいて当該ユーザへの音声データを生成する。
データ送信部160Bは、音声データを冷蔵庫200Aに送信する(ステップS128)。冷蔵庫200Aのデータ受信部260Bは、サーバ100からの音声データを受信して、音声発話制御部210Bに受け渡す。音声発話制御部210Bは、音声データを出力する(ステップS130)。
冷蔵庫200Aは、メッセージの音声出力が完了すると、音声発話を終了して(ステップS132)、メッセージの音声出力が最後まで完了した旨をサーバ100に送信する(ステップS134)。サーバ100の情報処理部は、当該ユーザに対して当該メッセージの音声出力が完了した旨を記憶する。
<サーバ100のハードウェア構成>
以下では、このような機能を実現するためのネットワークシステム1の具体的なハードウェア構成について詳述する。まず、図5を参照して、ネットワークシステム1を構成するサーバ100のハードウェア構成の一態様について説明する。なお、図5は、本実施の形態にかかるサーバ100のハードウェア構成を表わすブロック図である。
サーバ100は、主たる構成要素として、CPU(Central Processing Unit)110と、メモリ120と、ディスプレイ130と、操作部140と、通信インターフェイス160とを含む。
CPU110は、メモリ120に記憶されているプログラムを実行することによって、サーバ100の各部を制御する。より詳細には、CPU110は、メモリ120に格納されているプログラムを実行し、各種のデータを参照することによって、後述する各種の処理を実行する。
メモリ120は、各種のRAM(Random Access Memory)、各種のROM(Read-Only Memory)、フラッシュメモリーなどによって実現される。なお、メモリ120は、インターフェイスを介して利用される、USB(Universal Serial Bus)(登録商標)メモリ、CD(Compact Disc)、DVD(Digital Versatile Disk)、メモリカード、ハードディスク、IC(Integrated Circuit)カード、光カード、マスクROM、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electronically Erasable Programmable Read-Only Memory)などの記憶媒体などによっても実現される。
メモリ120は、CPU110によって実行されるプログラムや、CPU110によるプログラムの実行により生成されたデータ、入力されたデータ、その他の本実施の形態にかかるメッセージサービスに利用されるデータベースなどを記憶する。たとえば、メモリ120は、グループデータベース121や、ユーザデータベース122や、電気機器データベース123や、メッセージデータベース124や、保留データベース125などのデータを格納したりする。なお、本実施の形態においては、グループデータベース121や、ユーザデータベース122や、電気機器データベース123や、メッセージデータベース124や、保留データベース125が、サーバ100に格納されているが、これらのデータはサーバ100がアクセス可能な他の装置に格納されてもよい。
図6は、本実施の形態にかかるグループデータベース121を示すイメージ図である。図6を参照して、本実施の形態にかかるグループデータベース121は、家族や部署毎などのグループ毎に、グループIDと、グループ名との対応関係を格納する。
図7は、本実施の形態にかかるユーザデータベース122を示すイメージ図である。ユーザデータベース122は、ユーザ毎に、主に、ユーザIDと、ユーザ名と、家族などの所属するグループのIDと、ユーザを特定するためのセンサのタイプと、画像や音声などに基づくユーザの特徴データと、年齢や性別や性格や好みなどのユーザの属性と、ユーザのメールアドレスなどを含む。なお、ユーザデータベース122は、他にも、SNSサービスで利用されるユーザIDや属するグループのボードIDやユーザの住所なども含んでいることが好ましい。
図8は、本実施の形態にかかる電気機器データベース123を示すイメージ図である。図8を参照して、本実施の形態にかかる電気機器データベース123は、電気機器200毎に、主に、電気機器のIDと、電気機器の商品名と、電気機器を所有する家族などのグループのIDまたは電気機器を所有するユーザのIDと、電気機器のアドレスなどを格納する。なお、電気機器データベース123は、SNSサービスで利用される機器IDや属するグループのボードIDや電気機器が配置されている住所なども含んでいることが好ましい。
図9は、本実施の形態にかかるメッセージデータベース124を示すイメージ図である。図9を参照して、本実施の形態にかかるメッセージデータベース124は、登録される音声メッセージ毎に、主に、音声メッセージのIDと、メッセージの推奨出力先のユーザの属性と、メッセージの推奨出力先のグループのIDと、メッセージの推奨出力先のユーザのIDと、メッセージのテキストデータと、音声メッセージのファイルパスまたは格納先のアドレスと、メッセージに含まれるフレーズ数と、メッセージの有効期限と、メッセージが削除された日時と、メッセージが登録された日時と、その他の条件などを格納する。
図10は、本実施の形態にかかる保留データベース125を示すイメージ図である。図10を参照して、本実施の形態にかかる保留データベース125は、家族などのグループ毎に準備され、主に、保留IDと、音声メッセージのIDと、メッセージの出力対象のユーザのIDと、メッセージの音声出力状況と、メッセージを出力した機器のIDと、メッセージの音声出力を中断した際の音声出力が完了したフレーズを特定するための情報と、前回メッセージの音声出力をした日時と、保留中のメッセージの音声出力の有効期限などを格納する。
より詳細には、CPU110は、電気機器200から検知されたユーザの特定情報を得た時に、当該ユーザまたは電気機器200が音声出力先に適している音声メッセージを検索し、当該音声メッセージを電気機器200にて出力し始めると、ユーザと音声メッセージとの関係を保留データベース125に登録する。ただし、CPU110は、新たな音声メッセージがメッセージデータベース124に登録された際に、当該メッセージを音声出力すべきユーザや機器を抽出して、当該音声メッセージとユーザまたは機器との関係を保留データベース125に登録してもよい。この場合は、発話フラグが、「4:発話開始前」というフラグも含む。
図5に戻って、ディスプレイ130は、CPU110からの信号に基づいて、テキストや画像を表示する。操作部140は、サービスの管理者などの命令を受け付けて、当該命令をCPU110に入力する。
通信インターフェイス160は、CPU110からのデータを、インターネット、ルータなどを介して、電気機器200などの他の装置に送信する。逆に、通信インターフェイス160は、インターネット、ルータなどを介して電気機器などの他の装置からのデータを受信して、CPU110に受け渡す。
<サーバ100における情報処理>
次に、図11を参照しながら、本実施の形態にかかるメッセージ音声出力サービスを運営するサーバ100における情報処理について説明する。なお、図11は、本実施の形態にかかるサーバ100における情報処理を示すフローチャートである。サーバ100のCPU110は、通信インターフェイス160を介して、電気機器200からデータを受信した際に以下の処理を実行する。
CPU110は、通信インターフェイス160を介して、電気機器200からのデータからユーザを特定するためのデータを取得する(ステップS172)。なお、CPU110は、電気機器200からのユーザに関する画像データや音声データに基づいて、ユーザデータベース122を参照することによりユーザを特定してもよいし、電気機器200から既に特定されたユーザIDを取得してもよい。
CPU110は、ユーザIDに基づいて、保留データベース125を参照することにより、当該ユーザに対してメッセージの音声出力を保留しているものがないか、すなわち発話フラグが「0:発話中断」のメッセージがないか検索する(ステップS174)。CPU110は、保留メッセージがあり、かつ当該保留メッセージの有効期限が未到来の場合(ステップS176にてYESである場合)、前回の発話フレーズの次のフレーズから最後までのメッセージの音声データを生成する(ステップS178)。
CPU110は、音声データを電気機器200に送信する(ステップS182)。これによって、電気機器200は、前回停止した箇所が含まれるフレーズから最後までのメッセージを音声出力する。
一方、CPU110は、保留メッセージがない場合(ステップS176にてNOである場合)、CPU110は、ユーザデータベース122とメッセージデータベース124とを参照して、ユーザが音声出力先に適している新たなメッセージを検索する。CPU110は、ユーザが音声出力先に適している新たなメッセージがある場合(ステップS184にてYESである場合)、当該メッセージの音声データを生成する(ステップS1186)。
CPU110は、音声データを電気機器200に送信する。これによって、電気機器200は、新しいメッセージを音声出力する。
なお、CPU110は、ユーザが音声出力先に適している新たなメッセージがない場合(ステップS184にてNOである場合)、電気機器200から次のデータを待ち受ける。
<電気機器としての家電のハードウェア構成>
次に、ネットワークシステム1を構成する電気機器としての電気機器200のハードウェア構成の一態様について説明する。なお、図12は、本実施の形態にかかる電気機器としての電気機器200のハードウェア構成を表わすブロック図である。
図12を参照して、電気機器200は、主たる構成要素として、CPU210と、メモリ220と、ディスプレイ230、操作部240と、通信インターフェイス260と、スピーカ270と、マイク280と、機器駆動部250と、センサ290とを含む。
CPU210は、メモリ220あるいは外部の記憶媒体に記憶されているプログラムを実行することによって、電気機器200の各部を制御する。
メモリ220は、各種のRAMや、各種のROMなどによって実現される。メモリ220は、CPU210によって実行されるプログラムや、CPU210によるプログラムの実行により生成されたデータ、サーバ100から受信したデータ、操作部240を介して入力されたデータなどを記憶する。
ディスプレイ230は、CPU110からの信号に基づいて、文字や画像などを出力する。なお、ディスプレイ230は、単にライトであってもよい。
操作部240は、ボタン、タッチパネル、キーボードなどによって実現され、ユーザからの命令を受け付けて、当該命令をCPU210に入力する。
通信インターフェイス260は、IEEE802.11a/b/g/n/acなどの無線LAN通信、ZigBee(登録商標)、BlueTooth(登録商標)、あるいは、イーサネット(登録商標)などの有線LANなどの通信モジュールによって実現される。通信インターフェイス260は、有線通信あるいは無線通信によってサーバ100などの他の装置との間でデータをやり取りする。すなわち、CPU210は、通信インターフェイス260を介して、サーバ100などの他の装置から各種の情報を受信したり、サーバ100などの他の装置に各種の情報を送信したりする。
スピーカ270は、CPU210からの信号に基づいて、メッセージなどの音声を出力する。マイク280は、外部からの音声に基づいてCPU210に音声信号を入力する。
機器駆動部250は、CPU210からの信号に基づいて、電気機器の各部(モータやヒータなど)を制御する。
センサ290は、たとえば、人の存在を検知するための人感センサまたは画像センサ(カメラ)などの各種センサの少なくとも1つを含む。センサ290は、取得した結果をCPU210に受け渡す。CPU210は、通信インターフェイス260を介して、センサ290からの測定結果を電気機器IDとともにサーバ100に送信する。
<電気機器200における情報処理>
次に、図13を参照しながら、本実施の形態にかかる電気機器200における情報処理について説明する。なお、図13は、本実施の形態にかかる電気機器200における情報処理を示すフローチャートである。
まず、CPU210は、人の存在を検知する(ステップS152)。なお、CPU210は、電気機器200自身のセンサ290を利用して人の存在を検知してもよいし、他の人感センサからのデータを利用してもよい。
次に、CPU210は、人物を特定するための特徴データを取得する。なお、CPU210は、電気機器200自身のセンサ290を利用して人の画像や音声を取得してもよいし、他の画像センサや音声センサからのデータを利用してもよい。
CPU210は、通信インターフェイス160を介して人物を特定するための特徴データをサーバ100に送信する(ステップS154)。なお、上述したように、CPU210は、ユーザに関する画像データや音声データをサーバ100に送信するものであってもよいし、自身でユーザIDを特定してから当該ユーザIDをサーバ100に送信するものであってもよい。
CPU210は、通信インターフェイス160を介して、サーバ100からデータを受信する(ステップS156)。CPU210は、受信したデータに音声データが含まれているか否かを判断する(ステップS158)。CPU210は、受信したデータに音声データが含まれていない場合(ステップS158にてNOである場合)、次の人物の検知を待ち受ける。
CPU210は、受信したデータに音声データが含まれている場合(ステップS158にてYESである場合)、スピーカ270を利用して音声発話を開始する(ステップS160)。CPU210は、その後、定期的に、ユーザを検知中か否かを確認する。ただし、同じユーザを検知中であるか否かの判断は、電気機器200が画像をサーバ100に送ることによって、サーバ100にて実行されるものであってもよい。
CPU210は、ユーザを検知している間は(ステップS162にてYESである場合)、スピーカ270を利用して音声発話を続行する(ステップS164)。CPU210は、メッセージの音声出力が完了するまで(ステップS166)、ステップS162とステップS164とステップS166とを繰り返す。そして、メッセージの音声出力が完了すると(ステップS166にてYESである場合)、CPU210は、次の人物の検知を待ち受ける。
CPU210は、ユーザを検知しなくなると(ステップS162にてNOである場合)、音声発話を中断する(ステップS168)。CPU210は、通信インターフェイス160を介して、音声出力が完了した発話フレーズを特定するための情報や、メッセージの音声出力が中断した際の発話フレーズを特定するための情報などをサーバ100に送信する(ステップS170)。CPU210は、次の人物の検知を待ち受ける。
<第2の実施の形態>
第1の実施の形態においては、メッセージの音声出力が中断された際には、中断されたフレーズの最初から音声出力が再開されるものであった。しかしながら、このような形態には限られない。たとえば、中断から再開までの時間が長いほど、中断した個所から遡った個所からメッセージの音声出力を再開してもよい。以下では、本実施の形態にかかるネットワークシステム1のサーバ100における情報処理のうちの第1の実施の形態と異なる部分について説明するものとし、各装置のハードウェア構成については第1の実施の形態のそれと同様であるため、ここでは説明を繰り返さない。
図14を参照して、CPU110は、保留メッセージがあり、かつ当該保留メッセージの有効期限が未到来の場合(ステップS176にてYESである場合)、前回の発話の日時から現在までの経過時間を計算する(ステップS178)。そして、CPU110は、経過時間が長いほど、前回の発話中断フレームからさらに遡ったフレーズを特定し(ステップS178)、当該遡ったフレーズから最後までのメッセージの音声データを生成する(ステップS180)。
たとえば、経過時間が10秒未満の場合は、CPU110は、前回の発話完了フレーズの次のフレーズから最後までのメッセージの音声データを生成する。そして、経過時間が10秒以上20秒未満の場合は、CPU110は、前回の発話完了フレーズから最後までのメッセージの音声データを生成する。そして、経過時間が20秒以上30秒未満の場合は、CPU110は、前回の発話完了フレーズの1つ前のフレーズから最後までのメッセージの音声データを生成する。そして、経過時間が30秒以上10分未満の場合は、CPU110は、前回の発話完了フレーズの2つ前のフレーズから最後までのメッセージの音声データを生成する。そして、経過時間が10分以上である場合は、CPU110は、最初のフレーズから最後までのメッセージの音声データを生成する。
CPU110は、音声データを電気機器200に送信する(ステップS182)。これによって、電気機器200は、前回停止した箇所が含まれるフレーズから最後までのメッセージを音声出力することができる。
<第3の実施の形態>
第1の実施の形態においては、メッセージの音声出力が中断された際には、中断されたフレーズの最初から音声出力が再開されるものであった。しかしながら、このような形態には限られない。たとえば、メッセージが中断された際には、中断されなかった場合とは、異なるメッセージを音声出力するものであってもよい。ユーザがメッセージの音声出力中に電気機器から離れるということは、当該ユーザが当該メッセージに興味を持っていない可能性が高いからである。
以下では、本実施の形態にかかるネットワークシステム1のメッセージデータベース124とサーバ100における情報処理のうちの第1の実施の形態と異なる部分について説明するものとし、各装置のハードウェア構成については第1の実施の形態のそれと同様であるため、ここでは説明を繰り返さない。
図15は、本実施の形態にかかるメッセージデータベース124を示すイメージ図である。図15を参照して、本実施の形態にかかるメッセージデータベース124は、登録される音声毎に、主に、音声メッセージのIDと、メッセージの推奨出力先のユーザの属性と、メッセージの推奨出力先のグループのIDと、メッセージの推奨出力先のユーザのIDと、未だ中断されていない場合のメッセージのテキストデータである第1のテキストと、一度中断された場合のメッセージのテキストデータである第2のテキストと、音声メッセージの格納先のアドレスまたはファイルパスと、メッセージに含まれるフレーズ数と、メッセージの音声出力期限と、メッセージの削除された日時と、メッセージが登録された日時と、その他の条件などを格納する。
そして、図11に戻って、本実施の形態においては、CPU110は、保留メッセージがあり、かつ当該保留メッセージの有効期限が未到来の場合(ステップS176にてYESである場合)、メッセージデータベース124の第2のテキストの前回の発話フレーズの番号の次の番号のフレーズから最後までのメッセージの音声データを生成する(ステップS178)。
CPU110は、音声データを電気機器200に送信する(ステップS182)。これによって、電気機器200は、第2のテキストの前回の発話フレーズの番号の次の番号のフレーズから最後までのメッセージを音声出力することができる。
一方、CPU110は、保留メッセージがない場合(ステップS176にてNOである場合)、CPU110は、ユーザが音声出力先に適している新たなメッセージを検索する。CPU110は、ユーザが音声出力先に適している新たなメッセージがある場合(ステップS184にてYESである場合)、対象となる第1のテキストの音声データを生成する(ステップS1186)。
CPU110は、音声データを電気機器200に送信する。これによって、電気機器200は、新たなメッセージを音声出力する。
なお、CPU110は、ユーザが音声出力先に適している新たなメッセージがない場合(ステップS184にてNOである場合)、電気機器200から次のデータを待ち受ける。
<第4の実施の形態>
第1から第3の実施の形態においては、中断した箇所の近傍または遡った位置からメッセージの音声出力を再開するものであった。しかしながら、図16に示すように、メッセージの音声出力を再開する際に、「さっきの話だけど、」というような、前回音声出力したメッセージの続きを音声出力していることがユーザに把握しやすくなるようなコメントを挿入してもよい。
より詳細には、図11に戻って、CPU110は、保留メッセージがあり、かつ当該保留メッセージの有効期限が未到来の場合(ステップS176にてYESである場合)、「さっきの話だけど、」というような、前回出力されたメッセージの続きを音声出力していることをユーザに把握しやすくさせるためのコメントの音声データと、前回の発話フレーズの次のフレーズから最後までのメッセージの音声データとを生成する(ステップS178)。
CPU110は、生成した音声データを電気機器200に送信する(ステップS182)。これによって、電気機器200は、「さっきの話だけど、」というような、前回のメッセージの続きを音声出力していることをユーザに把握しやすくさせるためのコメントに続いて、前回停止した箇所が含まれるフレーズから最後までのメッセージを音声出力することができる。
<第5の実施の形態>
第1から第4の実施の形態においては、一人のユーザを検知するシステムについて説明したが、ネットワークシステム1は、複数のユーザを検知するシステムであってもよい。以下では、本実施の形態にかかるネットワークシステム1全体の情報処理について説明するものとし、各装置のハードウェア構成については第1の実施の形態のそれと同様であるため、ここでは説明を繰り返さない。
<ネットワークシステム1全体の情報処理>
図17を参照して、冷蔵庫200Aと接続可能なカメラ300が、人物Aと人物Bの目線を検知すると(ステップS202)、カメラ300は、人物Aを特定するための特徴データと人物Bを特定するための特徴データとを冷蔵庫200Aに送信する(ステップS204)。冷蔵庫200Aの検知部210Aは、情報送信部260Aを介して当該特徴データをサーバ100に送信する(ステップS206)。
サーバ100の情報取得部160Aは冷蔵庫200Aからのデータを受信して、情報処理部110Aに受け渡す。情報処理部110Aは、当該データに基づいて、ユーザを特定し、当該ユーザに対応するメッセージを抽出する。音声データ生成部110Bは、当該メッセージに基づいて当該ユーザA,Bへの音声データを生成する。より詳細には、本実施の形態においては、サーバ100のCPU110は、ユーザAとユーザBの二人分の保留データを登録する。これによって、CPU110は、ユーザ毎にメッセージのどこまで話したかを把握することができ、ユーザ毎に好ましい個所からメッセージの音声出力を再開することができる。
データ送信部160Bは、音声データを冷蔵庫200Aに送信する(ステップS208)。冷蔵庫200Aのデータ受信部260Bは、サーバ100からの音声データを受信して、音声発話制御部210Bに受け渡す。音声発話制御部210Bは、音声データを出力する(ステップS210)。
その後、カメラ300が、人物Aの目線を検知しなくなり人物Bの目線のみを検知すると(ステップS212)、カメラ300は、人物Aを検知しなくなった旨または人物Bのみを検知するようになった旨を冷蔵庫200Aに送信する(ステップS214)。ここでは、未だ人物Bが冷蔵庫200Aの周囲にいるため、メッセージの音声出力は中断されない。冷蔵庫200Aの情報送信部260Aは、人物Aがいなくなった際に既に音声出力が完了されていたメッセージのフレーズを特定する情報や、人物Aがいなくなった際のメッセージの音声出力中の箇所を示す情報、などをサーバ100に送信する(ステップS218)。
これによって、サーバ100のCPU110は、人物Aに対してどのフレーズの音声出力が完了したかを登録する。その後、CPU110は、人物Aを検知した際に、人物Aに対して続きのフレーズから音声出力することができる。
冷蔵庫200Aは、メッセージの音声出力が完了すると、音声発話を終了して(ステップS232)、ユーザBに対するメッセージの音声出力が最後まで完了した旨をサーバ100に送信する(ステップS234)。
これによって、サーバ100のCPU110は、人物Bに対してどのメッセージの音声出力が完了したかを登録する。その後、CPU110は、人物Bを検知した際に、人物Bに対して新たなメッセージから音声出力することができる。
<第6の実施の形態>
第1から第5の実施の形態においては、電気機器によるメッセージの音声出力が中断された際には、当該電気機器に、中断されたフレーズの最初から音声出力を再開させるものであった。しかしながら、このような形態には限られない。たとえば、第1の電気機器によるユーザに対するメッセージの音声出力が中断された際には、次にユーザを検知した別の第2の電気機器が中断されたフレーズの最初からメッセージの音声出力を再開させてもよい。
以下では、本実施の形態にかかるネットワークシステム1のメッセージデータベース124とサーバ100における情報処理のうちの第1の実施の形態と異なる部分について説明するものとし、各装置のハードウェア構成については第1の実施の形態のそれと同様であるため、ここでは説明を繰り返さない。
<ネットワークシステムの全体構成と動作概要>
まず、本実施の形態にかかるネットワークシステム1の全体構成と動作概要について説明する。図18は、本実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。
まず、図18を参照して、本実施の形態にかかるネットワークシステム1の全体構成について説明する。本実施の形態にかかるネットワークシステム1は、主に、サーバ100と、サーバ100と通信可能な電気機器としての冷蔵庫200Aと洗濯機200Bとを含む。なお、第1の実施の形態にて説明したように、電気機器は、冷蔵庫200Aと洗濯機200Bに限られない。
次に、図18(A)を参照して、本実施の形態にかかるネットワークシステム1の動作概要について説明する。まず、電気機器としての冷蔵庫200Aは、自身のセンサまたは通信可能な他の人感センサなどを介して、定期的に周囲に人がいるかどうかを調べる。そして、冷蔵庫200Aは、人を検知すると、当該人に関する画像データや音声データやその他のデータをサーバ100に送信する。
サーバ100は、冷蔵庫200Aから受信したデータに基づいて、冷蔵庫200Aの周囲にいるユーザを特定する。そして、サーバ100は、特定したユーザへの音声データを生成する。サーバ100は、冷蔵庫200Aに当該ユーザに向けたメッセージの音声データを送信する。冷蔵庫200Aは、受信したメッセージの音声を出力する。
図18(B)を参照して、冷蔵庫200Aは、人がいなくなったことを検知すると、メッセージの音声出力を停止する。冷蔵庫200Aは、メッセージの音声出力を停止した部分を示すデータをサーバ100に送信する。サーバ100は、冷蔵庫200Aから受信したデータに基づいて、上記のユーザに対して出力すべきメッセージのうちの、既に出力した部分を示す情報を格納する。
図18(C)を参照して、洗濯機200Bが、自身のセンサまたは通信可能な他の人感センサなどを介して人を検知すると、当該人に関する画像データや音声データやその他のデータをサーバ100に送信する。サーバ100は、洗濯機200Bから受信したデータに基づいて、洗濯機200Bの周囲にいるユーザを特定する。そして、サーバ100は、特定したユーザに関して出力を途中で停止したメッセージがあるか否かを判断する。サーバ100は、停止した部分から少し遡った箇所からのメッセージの音声データを生成する。サーバ100は、洗濯機200Bに当該音声データを送信する。洗濯機200Bは、受信したメッセージの音声を出力する。
以上のように、本実施の形態にかかるネットワークシステム1においては、第1の電気機器がユーザに対応付けられたメッセージを音声出力し、第1の電気機器の近傍にユーザがいなくなった時点でメッセージの音声出力を中断し、ユーザが第2の電気機器の近傍に現れた際に中断した箇所から少し遡った箇所からメッセージの音声出力を再開するため、ユーザがメッセージを聞き逃す可能性を低減することができるし、ユーザが聞いていないのに無駄に音声を出力することを低減することができる。
<第7の実施の形態>
音声メッセージデータベース124また保留データベース125において音声IDに対応付けて「3:繰り返し発話」の設定がされている場合には、対象となるユーザに対して対象となるメッセージの音声出力が完了しても、サーバ100は対象となるメッセージを繰り返し対象となるユーザに音声出力させる。より詳細には、サーバ100のCPU110は、前回の発話から所定時間、たとえば24時間、以上経過した場合に、対象となるユーザに対して再度メッセージを音声出力する。
あるいは、図19に示すように、繰り返し発話の設定がされている音声メッセージに関しては、サーバ100のCPU110が、同じグループに属する複数の電気機器に手分けしてメッセージの音声出力をさせてもよい。たとえば、サーバ100は、フレーズ毎に、交互に、同一グループに属する複数の電気機器にメッセージを音声出力させてもよい。なお、サーバ100は、フレーズ毎に、順番に、同一グループに属する3つ以上の電気機器にメッセージを音声出力させてもよい。
<第8の実施の形態>
データベースの構造は、第1から第7の実施の形態のものには限られない。たとえば、保留データベース125Bは、家族などのグループ毎ではなく、図20に示すように、出力が開示された音声メッセージ毎に生成され、主に、保留IDと、属性に含まれる家族IDと、属性に含まれるユーザIDと、メッセージの音声出力状況と、メッセージを出力した機器のIDと、メッセージの音声出力を中断した際の音声出力が完了したフレーズを特定するための情報と、前回メッセージの音声出力をした日時と、保留中のメッセージの音声出力の有効期限などを格納するものであってもよい。
あるいは、図21に示すように、保留データベース125Cは、ユーザ毎に生成され、保留IDと、音声メッセージのIDと、メッセージの音声出力状況と、メッセージを出力した機器のIDと、メッセージの音声出力を中断した際の音声出力が完了したフレーズを特定するための情報と、前回メッセージの音声出力をした日時と、保留中のメッセージの音声出力の有効期限などを格納するものであってもよい。
<第9の実施の形態>
第1〜第8の実施の形態においては、サーバ100が、電気機器のメッセージの音声出力を制御するものであった。しかしながら、このような形態には限られない。たとえば、電気機器が、ローカルでメッセージの音声を出力したり、中断したり、出力を再開してもよい。
<ネットワークシステムの全体構成と動作概要>
まず、本実施の形態にかかるネットワークシステム1の全体構成と動作概要について説明する。図22は、本実施の形態にかかるネットワークシステム1の全体構成と動作概要とを示すイメージ図である。
まず、図22を参照して、本実施の形態にかかるネットワークシステム1は、主に、電気機器としての冷蔵庫200Aを含む。
なお、電気機器は、冷蔵庫200Aに限らず、洗濯機、エアコン、空気清浄機、電子レンジ、洗濯機、自走式掃除機、照明機器などの家電、スマートフォン、テレビ、ハードディスクレコーダ、音楽プレーヤー、ゲーム機などのAV(オーディオ・ビジュアル)機器、太陽光発電気、インターホン、給湯器、カメラ、照明器具、音声センサ、画像センサなどの住宅設備、などであってもよい。以下では、これらの機器を総称して、電気機器200ともいう。
次に、図22(A)を参照して、本実施の形態にかかるネットワークシステム1の動作概要について説明する。まず、電気機器としての冷蔵庫200Aは、自身のセンサまたは通信可能な他の人感センサなどを介して、定期的に周囲に人がいるかどうかを調べる。そして、冷蔵庫200Aは、人を検知すると、当該人に関する画像データや音声データやその他のデータに基づいて、冷蔵庫200Aの周囲にいるユーザを特定する。
そして、冷蔵庫200Aは、特定したユーザに対する音声データを生成する。冷蔵庫200Aは、メッセージの音声を出力する。
図22(B)を参照して、冷蔵庫200Aは、自身のセンサまたは通信可能な他の人感センサなどを介して、人がいなくなったことを検知すると、メッセージの音声出力を停止する。冷蔵庫200Aは、メッセージの停止をした部分を示すデータに基づいて、上記のユーザに対して出力すべきメッセージのうちの、既に出力した部分を示す情報を格納する。
図22(C)を参照して、冷蔵庫200Aは、自身のセンサまたは通信可能な他の人感センサなどを介して再度人を検知すると、当該人に関する画像データや音声データやその他のデータに基づいて、冷蔵庫200Aの周囲にいるユーザを特定する。そして、冷蔵庫200Aは、特定したユーザに関して出力を途中で停止したメッセージがあるか否かを判断する。冷蔵庫200Aは、停止した部分から少し遡った箇所からのメッセージの音声データを生成する。冷蔵庫200Aは、メッセージの音声を出力する。
以上のように、本実施の形態にかかる電気機器200は、ユーザに対応付けられたメッセージを音声出力し、ユーザがいなくなった時点でメッセージの音声出力を中断し、ユーザが戻ってきた際に前回に中断した箇所から少し遡ったキリの良い箇所からメッセージの音声出力を再開する。このため、ユーザがメッセージを聞き逃す可能性を低減することができるし、ユーザが聞いていないのに無駄にメッセージを音声出力することを低減することができる。以下、このような機能を実現するための電気機器200の構成について詳述する。
<電気機器200のハードウェア構成>
以下では、本実施の形態にかかる電気機器200のメモリ220に格納されるデータと、電気機器200における情報処理とについて説明するものとし、その他の各部の構成は図12に示すように、第1の実施の形態のそれらと同様であるため、ここでは説明を繰り返さない。
本実施の形態においては、メモリ120は、ユーザデータベース222や、機器データベース223や、メッセージデータベース224や、保留データベース225などのデータを格納したりする。
図23は、本実施の形態にかかるユーザデータベース222を示すイメージ図である。ユーザデータベース222は、ユーザ毎に、主に、ユーザIDと、ユーザ名と、ユーザを特定するためのセンサのタイプと、画像や音声などに基づくユーザの特徴データと、年齢や性別や性格や好みなどのユーザの属性と、ユーザのメールアドレスなどを含む。
図24は、本実施の形態にかかるメッセージデータベース224を示すイメージ図である。図24を参照して、本実施の形態にかかるメッセージデータベース224は、登録される音声メッセージ毎に、主に、音声メッセージのIDと、メッセージの推奨出力先のユーザの属性と、メッセージの推奨出力先のユーザのIDと、メッセージのテキストデータと、音声メッセージの格納先のアドレスまたはファイルパスと、メッセージに含まれるフレーズ数と、メッセージの音声出力期限と、メッセージの削除された日時と、メッセージが登録された日時と、その他の条件などを格納する。なお、CPU210は、通信インターフェイス260を介して、サーバ100などの他の装置から、新しい音声メッセージに関するデータを受信して、当該データをメッセージデータベース244に追加・更新していく。
図25は、本実施の形態にかかる保留データベース225を示すイメージ図である。図26を参照して、本実施の形態にかかる保留データベース225は、主に、保留IDと、音声メッセージのIDと、メッセージの出力対象のユーザのIDと、メッセージの音声出力状況と、メッセージを出力した機器のIDと、メッセージの音声出力を中断した際の音声出力が完了したフレーズを特定するための情報と、前回メッセージの音声出力をした日時と、保留中のメッセージの音声出力の有効期限などを格納する。
より詳細には、CPU210は、検知されたユーザの特定情報を得た時に、当該ユーザまたは電気機器200が音声出力先に適している音声メッセージを検索し、当該音声メッセージを電気機器200にて出力し始めると、ユーザと音声メッセージとの関係を保留データベース225に登録する。ただし、CPU110は、新たな音声メッセージが音声メッセージデータベース224に登録された際に、当該メッセージを音声出力すべきユーザや機器を抽出して、当該音声メッセージとユーザまたは機器との関係を保留データベース225に登録してもよい。この場合は、発話フラグが、「4:発話開始前」というフラグも含む。
<電気機器200における情報処理>
次に、図26を参照しながら、本実施の形態にかかる電気機器200における情報処理について説明する。なお、図26は、本実施の形態にかかる電気機器200における情報処理を示すフローチャートである。
まず、CPU210は、人物の存在を検知する(ステップS252)。なお、CPU210は、電気機器200自身のセンサ290を利用して人の存在を検知してもよいし、他の人感センサからのデータを利用してもよい。
次に、CPU210は、ユーザに関する画像データや音声データに基づいて、ユーザデータベース122を参照することによりユーザを特定する(ステップS254)。
CPU210は、ユーザIDに基づいて、保留データベース225を参照することにより、当該ユーザに対してメッセージの音声出力を保留しているものがないか検索する(ステップS256)。CPU210は、保留メッセージがあり、かつ当該保留メッセージの有効期限が未到来の場合(ステップS258にてYESである場合)、前回の発話フレーズの次のフレーズから最後までのメッセージの音声データを生成する(ステップS260)。
CPU210は、スピーカ270に、前回停止した箇所が含まれるフレーズから最後までのメッセージを音声出力させる(ステップS262)。CPU210は、ステップS282からの処理を実行する。
一方、CPU210は、保留メッセージがない場合(ステップS258にてNOである場合)、CPU210は、メッセージデータベース224を参照して、ユーザが音声出力先に適している新たなメッセージを検索する。CPU210は、ユーザが音声出力先に適している新たなメッセージがない場合(ステップS272にてNOである場合)、ステップS282からの処理を実行する。
CPU210は、ユーザが音声出力先に適している新たなメッセージがある場合(ステップS272にてYESである場合)、当該メッセージの音声データを生成する(ステップS274)。CPU210は、スピーカ270に新たなメッセージを出力させる(ステップS276)。
次に、CPU210は、電気機器200のセンサ290からのデータまたは通信可能なセンサ装置からのデータに基づいて、引き続いてユーザを検知しているか判断する(ステップS282)。
CPU210は、ユーザを検知している間は(ステップS282にてYESである場合)、スピーカ270を利用して音声発話を続行する(ステップS284)。CPU210は、メッセージの音声出力が完了するまで(ステップS286)、ステップS282とステップS284とステップS286とを繰り返す。そして、メッセージの音声出力が完了すると(ステップS286にてYESである場合)、CPU210は、出力したメッセージに関する保留データベース225のデータを更新する(ステップS290)。CPU210は、次の人物の検知を待ち受ける。
一方、CPU210は、ユーザを検知しなくなると(ステップS282にてNOである場合)、音声発話を中断する(ステップS288)。CPU210は、中断した際に既に音声出力が完了しているフレーズを特定するための情報またはフレーズの中断した位置を特定するための情報で保留データベース225のデータを更新する(ステップS290)。CPU210は、次の人物の検知を待ち受ける。
<第10の実施の形態>
第1〜第9の実施の形態においては、ユーザを検知しなくなったときに、即座にメッセージの音声出力を中断し、フレーズ毎に、遡ってメッセージの音声出力を再開するものであった。しかしながら、このような形態には限られず、上記の実施の形態に以下の技術を組み合わせてもよい。
たとえば、ユーザを検知しなくなった場合に、サーバ100または電気機器200が、出力中のフレーズの最後まで音声出力を完了してから、当該フレーズの最初から音声出力を再開してもよい。
あるいは、ユーザを検知しなくなった場合に、サーバ100または電気機器200が、即座に、または次の句点まで音声出力を完了してから、当該句点の前の句点または前の読点から音声出力を再開してもよい。
あるいは、ユーザを検知しなくなった場合に、サーバ100または電気機器200が、即座に、または次の読点まで音声出力を完了してから、当該句点の前の句点または前の読点から音声出力を再開してもよい。
あるいは、ユーザを検知しなくなった場合に、サーバ100または電気機器200が、即座に、または次の文節の切れ目まで音声出力を完了してから、当該文節の開始位置または前の句点または前の読点から音声出力を再開してもよい。
<第11の実施の形態>
なお、第1〜第10の実施の形態のような、サーバ100や電気機器200の構造・機能・動作に限られず、たとえば各装置の役割が複数の装置に分担されてもよい。逆に、複数の装置の役割の一部または全部が1つの装置に集約されてもよい。
たとえば、第1から第8の実施の形態におけるサーバ100や電気機器200のデータの一部または全部が、たとえば音声データが、図27に示すように、サーバ100や電気機器200にアクセス可能に他の装置100Bに格納されてもよい。
あるいは、第9の実施の形態における電気機器200のデータの一部または全部が、たとえば音声データが、図28に示すように、電気機器200にアクセス可能に他の装置100Bに格納されてもよい。
<第12の実施の形態>
さらには、予めサーバ100が音声出力再開用の続きの音声データを音声IDに対応付けて電気機器200に送信しておいてもよい。あるいは、予めサーバ100が複数種類の音声データを音声IDに対応付けて電気機器200に送信しておいてもよい。そして、ユーザが戻ったこと示す情報をトリガーに、サーバ100が音声出力を再開するべき音声IDや再開位置を示す情報を機器に送信することによって、電気機器200が音声IDに紐づいた音声データを出力することもできる。
なお、サーバ100が、電気機器200に、再開する音声IDのみを送信し、電気機器200が「さっきの話だけど」という音声をつけてメッセージを出力してもよい。あるいは、サーバ100が、電気機器200に、「さっきの話だけど」の音声データと再開する音声IDとを送信し、電気機器200が「さっきの話だけど」という音声と続きのメッセージとを出力してもよい。あるいは、予め電気機器200が「さっきの話だけど」の音声データを記憶し、サーバ100が、電気機器200に、「さっきの話だけど」の音声IDと再開する音声IDとを送信し、電気機器200が「さっきの話だけど」という音声と続きのメッセージとを出力してもよい。
<その他の応用例>
本発明は、システム或いは装置にプログラムを供給することによって達成される場合にも適用できることはいうまでもない。そして、本発明を達成するためのソフトウェアによって表されるプログラムを格納した記憶媒体(あるいはメモリ)を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、本発明の効果を享受することが可能となる。
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施の形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施の形態の機能が実現される場合も含まれることは言うまでもない。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わる他の記憶媒体に書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施の形態の機能が実現される場合も含まれることは言うまでもない。
<まとめ>
上記の第1〜12の実施の形態においては、音声を出力可能な第1の機器200Aと、第1の機器200Aと通信可能なサーバ100と、を備えるネットワークシステム1が提供される。サーバ100は、第1の機器200Aの近傍に人が検知されたときに第1の機器200Aにメッセージを音声出力させ、第1の機器200Aの近傍に人が検知されなくなったときにメッセージの音声出力を停止させ、第1の機器200Aの近傍に人が再度検知されたときに音声出力の停止位置に基づいてメッセージの音声出力を再開させる。
好ましくは、サーバ100は、ユーザ毎にメッセージの音声出力の停止位置を示す情報を記憶し、ユーザ毎に当該停止位置を示す情報に基づいてメッセージの音声出力を再開させる。
好ましくは、ネットワークシステム1は、第2の機器200Bをさらに備える。サーバ100は、第2の機器200Bの近傍に人が検知されたときに、第1の機器200Aによる音声出力の停止位置に基づいて第2の機器200Bにメッセージの音声出力を再開させる。
好ましくは、メッセージの音声出力の再開に適した複数の再開位置が予め規定される。サーバ100は、メッセージの音声出力の停止位置よりも前の再開位置からメッセージの音声出力を再開させる。
好ましくは、サーバ100は、メッセージの音声出力の停止のときからメッセージの音声出力の再開のときまでの時間が長いほど、再開位置を遡ってメッセージの音声出力を再開させる。
好ましくは、サーバ100は、メッセージの音声出力を再開させる際に、メッセージの音声出力を再開することを示すための所定の文言を出力させる。
この発明の別の局面に従うと、第1の機器200Aの近傍に人が検知されたときに、サーバ100が第1の機器200Aにメッセージを音声出力させるステップと、第1の機器200Aの近傍に人が検知されなくなったときに、サーバ100がメッセージの音声出力を停止させるステップと、第1の機器200Aの近傍に人が再度検知されたときに、サーバ100が音声出力の停止位置に基づいてメッセージの音声出力を再開させるステップとを備える、音声出力方法が提供される。
この発明の別の局面に従うと、第1の機器200Aと通信するための通信インターフェイス160と、プロセッサ110とを備えるサーバ100が提供される。プロセッサ110は、通信インターフェイス160を介して、第1の機器200Aの近傍に人が検知されたときに第1の機器200Aにメッセージを音声出力させ、第1の機器200Aの近傍に人が検知されなくなったときにメッセージの音声出力を停止させ、第1の機器200Aの近傍に人が再度検知されたときに音声出力の停止位置に基づいてメッセージの音声出力を再開させる。
この発明の別の局面に従うと、スピーカ270と、プロセッサ210とを備える電気機器200が提供される。プロセッサ210は、近傍に人が検知されたときにスピーカ270にメッセージを音声出力させ、近傍に人が検知されなくなったときにメッセージの音声出力を停止させ、近傍に人が再度検知されたときに音声出力の停止位置に基づいてスピーカ270にメッセージの音声出力を再開させる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 :ネットワークシステム
100 :サーバ
100B :装置
110 :プロセッサ(CPU)
110A :情報処理部
110B :音声データ生成部
120 :メモリ
120A :各種テーブル
121 :グループデータベース
122 :ユーザデータベース
123 :電気機器データベース
124 :音声メッセージデータベース
125 :保留データベース
125B :保留データベース
125C :保留データベース
130 :ディスプレイ
140 :操作部
160 :通信インターフェイス
160A :情報取得部
160B :データ送信部
200 :電気機器
200A :冷蔵庫第1の機器
200B :洗濯機
210 :プロセッサ(CPU)
210A :検知部
210B :音声発話制御部
220 :メモリ
222 :ユーザデータベース
223 :機器データベース
224 :音声メッセージデータベース
225 :保留データベース
230 :ディスプレイ
240 :操作部
244 :メッセージデータベース
250 :機器駆動部
260 :通信インターフェイス
260A :情報送信部
260B :データ受信部
270 :スピーカ
280 :マイク
290 :センサ
300 :カメラ

Claims (9)

  1. 音声を出力可能な第1の機器と、
    前記第1の機器と通信可能なサーバと、を備え、
    前記第1の機器の近傍に人が検知されたときに前記第1の機器にメッセージを音声出力させ、前記第1の機器の近傍に人が検知されなくなったときに前記メッセージの音声出力を停止させ、前記第1の機器の近傍に人が再度検知されたときに前記音声出力の停止位置に基づいて前記メッセージの音声出力を再開させる、ネットワークシステム。
  2. ユーザ毎にメッセージの音声出力の停止位置を示す情報を記憶し、ユーザ毎に当該停止位置を示す情報に基づいて前記メッセージの音声出力を再開させる、請求項1に記載のネットワークシステム。
  3. 第2の機器をさらに備え、
    前記サーバは、前記第2の機器の近傍に人が検知されたときに、前記第1の機器による前記音声出力の停止位置の情報を記憶し、前記停止位置に基づいて前記第2の機器に前記メッセージの音声出力を再開させる、請求項1または2に記載のネットワークシステム。
  4. 前記メッセージの音声出力の再開に適した複数の再開位置が予め規定されており、
    前記メッセージの音声出力の停止位置よりも前の前記再開位置から前記メッセージの前記音声出力を再開させる、請求項1から3のいずれか1項に記載のネットワークシステム。
  5. 前記メッセージの音声出力の停止のときから前記メッセージの音声出力の再開のときまでの時間が長いほど、前記再開位置を遡って前記メッセージの前記音声出力を再開させる、請求項4に記載のネットワークシステム。
  6. 前記メッセージの音声出力を再開させる際に、前記メッセージの音声出力を再開することを示すための所定の文言を出力させる、請求項1から5のいずれか1項に記載のネットワークシステム。
  7. 第1の機器の近傍に人が検知されたときに、前記第1の機器にメッセージを音声出力させるステップと、
    前記第1の機器の近傍に人が検知されなくなったときに、前記メッセージの音声出力を停止させるステップと、
    前記音声出力の停止位置の情報を記憶させるステップと、
    前記第1の機器の近傍に人が再度検知されたときに、前記音声出力の停止位置に基づいて前記メッセージの音声出力を再開させるステップとを備える、音声出力方法。
  8. 第1の機器と通信するための通信インターフェイスと、
    プロセッサとを備え、
    前記プロセッサは、前記通信インターフェイスを介して、前記第1の機器の近傍に人が検知されたときに前記第1の機器にメッセージを音声出力させ、前記第1の機器の近傍に人が検知されなくなったときに前記第1の機器から送信された前記メッセージの音声出力の停止位置の情報を記憶させ、前記第1の機器の近傍に人が再度検知されたときに前記音声出力の停止位置に基づいて前記メッセージの音声出力を再開させる、サーバ。
  9. スピーカと、
    プロセッサとを備え、
    前記プロセッサは、近傍に人が検知されたときに前記スピーカにメッセージを音声出力させ、近傍に人が検知されなくなったときに前記メッセージの音声出力を停止させ、前記音声出力の停止位置の情報を記憶させ、近傍に人が再度検知されたときに前記音声出力の停止位置に基づいて前記スピーカに前記メッセージの音声出力を再開させる、電気機器。
JP2016107102A 2016-05-30 2016-05-30 ネットワークシステム、音声出力方法、サーバおよび電気機器 Pending JP2017215639A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016107102A JP2017215639A (ja) 2016-05-30 2016-05-30 ネットワークシステム、音声出力方法、サーバおよび電気機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016107102A JP2017215639A (ja) 2016-05-30 2016-05-30 ネットワークシステム、音声出力方法、サーバおよび電気機器

Publications (1)

Publication Number Publication Date
JP2017215639A true JP2017215639A (ja) 2017-12-07

Family

ID=60575731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016107102A Pending JP2017215639A (ja) 2016-05-30 2016-05-30 ネットワークシステム、音声出力方法、サーバおよび電気機器

Country Status (1)

Country Link
JP (1) JP2017215639A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6463545B1 (ja) * 2018-08-22 2019-02-06 株式会社ネイン 情報処理装置、コンピュータプログラムおよび情報処理方法
JP2019121827A (ja) * 2017-12-28 2019-07-22 トヨタホーム株式会社 伝言メッセージ再生システム
JP2020030788A (ja) * 2018-12-28 2020-02-27 株式会社ネイン 情報処理装置、コンピュータプログラムおよび情報処理方法
JP2020034792A (ja) * 2018-08-31 2020-03-05 コニカミノルタ株式会社 画像形成装置及び操作方法
JP2021520558A (ja) * 2018-04-23 2021-08-19 グーグル エルエルシーGoogle LLC ルーチンの実行中のクライアントデバイス同士の間の自動アシスタントルーチンの転送

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001084662A (ja) * 1999-09-13 2001-03-30 Nippon Columbia Co Ltd 再生装置
JP2003316565A (ja) * 2002-04-25 2003-11-07 Canon Inc 読み上げ装置およびその制御方法ならびにプログラム
JP2005277543A (ja) * 2004-03-23 2005-10-06 Clarion Co Ltd マルチメディア再生装置、マルチメディア再生システム、ヘッドフォン及び椅子
JP2007336298A (ja) * 2006-06-15 2007-12-27 Denso Corp 表示制御システム
JP2011227236A (ja) * 2010-04-19 2011-11-10 Honda Motor Co Ltd 音声対話装置
WO2015046362A1 (ja) * 2013-09-30 2015-04-02 シャープ株式会社 出力可否判定装置、出力可否判定装置の制御方法、出力制御装置、出力制御装置の制御方法、制御プログラム、出力装置、およびメッセージ出力システム
WO2016067765A1 (ja) * 2014-10-27 2016-05-06 ソニー株式会社 情報処理装置、情報処理方法およびコンピュータプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001084662A (ja) * 1999-09-13 2001-03-30 Nippon Columbia Co Ltd 再生装置
JP2003316565A (ja) * 2002-04-25 2003-11-07 Canon Inc 読み上げ装置およびその制御方法ならびにプログラム
JP2005277543A (ja) * 2004-03-23 2005-10-06 Clarion Co Ltd マルチメディア再生装置、マルチメディア再生システム、ヘッドフォン及び椅子
JP2007336298A (ja) * 2006-06-15 2007-12-27 Denso Corp 表示制御システム
JP2011227236A (ja) * 2010-04-19 2011-11-10 Honda Motor Co Ltd 音声対話装置
WO2015046362A1 (ja) * 2013-09-30 2015-04-02 シャープ株式会社 出力可否判定装置、出力可否判定装置の制御方法、出力制御装置、出力制御装置の制御方法、制御プログラム、出力装置、およびメッセージ出力システム
WO2016067765A1 (ja) * 2014-10-27 2016-05-06 ソニー株式会社 情報処理装置、情報処理方法およびコンピュータプログラム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019121827A (ja) * 2017-12-28 2019-07-22 トヨタホーム株式会社 伝言メッセージ再生システム
JP2021520558A (ja) * 2018-04-23 2021-08-19 グーグル エルエルシーGoogle LLC ルーチンの実行中のクライアントデバイス同士の間の自動アシスタントルーチンの転送
KR20220104304A (ko) * 2018-04-23 2022-07-26 구글 엘엘씨 루틴 실행 중에 클라이언트 디바이스간 자동화 어시스턴트 루틴 전송
US11682397B2 (en) 2018-04-23 2023-06-20 Google Llc Transferring an automated assistant routine between client devices during execution of the routine
JP7313378B2 (ja) 2018-04-23 2023-07-24 グーグル エルエルシー ルーチンの実行中のクライアントデバイス同士の間の自動アシスタントルーチンの転送
KR102621636B1 (ko) * 2018-04-23 2024-01-05 구글 엘엘씨 루틴 실행 중에 클라이언트 디바이스간 자동화 어시스턴트 루틴 전송
JP6463545B1 (ja) * 2018-08-22 2019-02-06 株式会社ネイン 情報処理装置、コンピュータプログラムおよび情報処理方法
JP2020030571A (ja) * 2018-08-22 2020-02-27 株式会社ネイン 情報処理装置、コンピュータプログラムおよび情報処理方法
JP2020034792A (ja) * 2018-08-31 2020-03-05 コニカミノルタ株式会社 画像形成装置及び操作方法
JP7103074B2 (ja) 2018-08-31 2022-07-20 コニカミノルタ株式会社 画像形成装置及び操作方法
JP2020030788A (ja) * 2018-12-28 2020-02-27 株式会社ネイン 情報処理装置、コンピュータプログラムおよび情報処理方法

Similar Documents

Publication Publication Date Title
JP2017215639A (ja) ネットワークシステム、音声出力方法、サーバおよび電気機器
CN111095399B (zh) 助理应用的语音用户接口快捷方式
KR102429436B1 (ko) 사용자의 입력 입력에 기초하여 타겟 디바이스를 결정하고, 타겟 디바이스를 제어하는 서버 및 그 동작 방법
JP6752870B2 (ja) 複数のウェイクワードを利用して人工知能機器を制御する方法およびシステム
US9564129B2 (en) Voice interaction method, and device
US11354089B2 (en) System and method for dialog interaction in distributed automation systems
JP6555858B2 (ja) 機器、音声出力方法、音声出力プログラム、ネットワークシステム、サーバ、および通信機器
JP6053097B2 (ja) 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム
JP2018036397A (ja) 応答システムおよび機器
KR102421824B1 (ko) 외부 장치를 이용하여 음성 기반 서비스를 제공하기 위한 전자 장치, 외부 장치 및 그의 동작 방법
US20200320994A1 (en) Information processing apparatus and information processing method
WO2017141530A1 (ja) 情報処理装置、情報処理方法、及びプログラム
CN109471440A (zh) 机器人控制方法、装置、智能设备和存储介质
KR102629796B1 (ko) 음성 인식의 향상을 지원하는 전자 장치
JP6973380B2 (ja) 情報処理装置、および情報処理方法
JP6491830B2 (ja) ネットワークシステム、サーバ、通信端末、音声出力方法、および音声出力プログラム
CN104483865A (zh) 智能硬件设备的安装实现方法及装置
WO2018150612A1 (ja) ネットワークシステム、サーバ、情報処理方法および冷蔵庫
US20200041151A1 (en) Air conditioning control device, air conditioning control method, and program
JP6698428B2 (ja) ネットワークシステム、情報処理方法、およびサーバ
JP6894228B2 (ja) サーバ、情報処理方法、ネットワークシステム、および端末
JP2017182382A (ja) ネットワークシステム、情報処理方法、およびサーバ
US20210385101A1 (en) Information processing apparatus and information processing method
JP6817056B2 (ja) サーバ、情報処理方法、ネットワークシステム、および端末
JPWO2019198222A1 (ja) 機器制御システム、機器、機器制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190320

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200128

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200807

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200807

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200820

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200825

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20201016

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20201020

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210420

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210615

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210706

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20211005

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20211116

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20211116