JP7218232B2 - 通知システム - Google Patents

通知システム Download PDF

Info

Publication number
JP7218232B2
JP7218232B2 JP2019074982A JP2019074982A JP7218232B2 JP 7218232 B2 JP7218232 B2 JP 7218232B2 JP 2019074982 A JP2019074982 A JP 2019074982A JP 2019074982 A JP2019074982 A JP 2019074982A JP 7218232 B2 JP7218232 B2 JP 7218232B2
Authority
JP
Japan
Prior art keywords
notification
user
unit
information
building
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019074982A
Other languages
English (en)
Other versions
JP2020174281A (ja
Inventor
一弘 新井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Housing Corp
Original Assignee
Toyota Housing Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Housing Corp filed Critical Toyota Housing Corp
Priority to JP2019074982A priority Critical patent/JP7218232B2/ja
Publication of JP2020174281A publication Critical patent/JP2020174281A/ja
Application granted granted Critical
Publication of JP7218232B2 publication Critical patent/JP7218232B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)
  • Circuit For Audible Band Transducer (AREA)

Description

本発明は、通知システムに関する。
特許文献1には、無線アダプタとスピーカが取り付けられた家電機器において何らかのアクションが発生したときに、無線アダプタが、ホームサーバを介して外部の情報サーバと信号のやり取りを行い、情報サーバから受けた信号に対応する音声通知をスピーカから出力する技術が開示されている。
特開2005-311864号公報
ところが、スピーカから出力された音声通知は、無線アダプタ及びスピーカが取り付けられた家電機器の周囲にしか届かないため、通知を受けたいユーザは、家電機器の周囲にいる必要があり、行動が制限される場合がある。また、通知を必要としない場合にもユーザに対する通知が行われてしまうと煩わしいため、ユーザからの通知要求指示があった場合にのみユーザに通知を行えるようにしたいという要望もある。
本発明の課題は、ユーザからの通知要求指示があったときに、通知を受けるユーザに対してより的確な通知を行うことが可能な通知システムを提供することを主たる目的とする。
上記課題を解決すべく、請求項1に記載の発明は、建物内の複数箇所に設けられて周囲の音を取得する音声入力部と、前記建物内の複数箇所に設けられて通知情報を出力する出力部と、前記建物内の複数箇所に設けられて前記建物内にいる生体に係る情報を取得する取得部と、前記音声入力部と前記出力部と前記取得部を制御する制御部と、第1記憶部と、を備え、前記音声入力部は、ユーザから発せられる通知を要求する指示に係る音声を指示音声として取得し、前記取得部は、前記建物内にいる人物の中から生体である前記ユーザを識別するための情報を識別情報として取得し、前記第1記憶部は、前記通知を行う条件が成立したか否かを判断するための登録音を記憶し、前記制御部は、前記音声入力部により取得した前記音が、前記第1記憶部に記憶された前記登録音と一致した場合に、前記通知を行う条件が成立したと判断し、前記通知を行う条件が成立した場合に、前記識別情報に基づいて前記建物内にいる人物の中から前記ユーザを識別し、識別された前記ユーザに対し、前記ユーザに最も近い位置にある前記出力部から前記通知情報を出力することを特徴とする。
請求項1に記載の発明によれば、音声入力部が、ユーザから発せられる通知を要求する指示に係る音声を指示音声として取得すると、制御部は、通知を行う条件が成立した場合に、識別情報に基づいて建物内にいる人物の中からユーザを識別し、識別されたユーザに対し、ユーザに最も近い位置にある出力部から通知情報を出力するので、通知を受けるユーザの居場所を推定して通知情報を出力できることとなる。これにより、通知を受けるユーザに対してより的確な通知を行うことが可能となる。
また、通知を行う条件が成立したか否かを判断するための登録音を記憶する第1記憶部を備え、制御部は、音声入力部により取得した音が、第1記憶部に記憶された登録音と一致した場合に、通知を行う条件が成立したと判断するので、その判断の結果、取得した音と登録音が一致した場合は通知を行い、一致しない場合は通知を行わないようにすることができる。すなわち、ユーザに対する通知の的確性を向上できる。
請求項に記載の発明は、請求項に記載の通知システムにおいて、前記通知を行う条件が成立したか否かを判断するための登録情報を記憶する第2記憶部を備え、前記制御部は、前記取得部により取得した前記生体に係る情報が、前記第2記憶部に記憶された前記登録情報と一致とした場合に、前記通知を行う条件が成立したと判断することを特徴とする。
請求項に記載の発明によれば、取得部により取得した生体に係る情報が、第2記憶部に記憶された登録情報と一致とした場合に、通知を行う条件が成立したと判断するので、その判断の結果、取得した生体に係る情報と登録情報が一致した場合は通知を行い、一致しない場合は通知を行わないようにすることができる。すなわち、ユーザに対する通知の的確性を向上できる。
請求項に記載の発明は、請求項1又は2に記載の通知システムにおいて、前記ユーザを識別するためのユーザ登録情報を記憶する第3記憶部を備え、前記制御部は、前記識別情報と、前記第3記憶部に記憶された前記ユーザ登録情報とを照合して前記ユーザを識別することを特徴とする。
請求項に記載の発明によれば、制御部は、ユーザを識別するための識別情報と、ユーザ登録情報とを照合してユーザを識別するので、建物内にいる人物の中から通知を受けるユーザを正確に識別することができる。
請求項に記載の発明は、請求項1~のいずれか一項に記載の通知システムにおいて、前記ユーザが所有する情報通信端末と通信するための通信部を備え、前記制御部は、前記取得部により取得された情報に基づいて、前記建物内に前記ユーザがいないと判断した場合に、前記情報通信端末に対して通知を送信することを特徴とする。
請求項に記載の発明によれば、制御部は、取得部により取得された情報に基づいて、建物内にユーザがいないと判断した場合に、情報通信端末に対して通知を送信するので、ユーザは、たとえ建物内にいなくても通知を受けることができる。
本発明によれば、ユーザからの通知要求指示があったときに、通知を受けるユーザに対してより的確な通知を行うことが可能となる。
建物に通知システムが導入された例を示す図である。 通知システムの構成を示す図である。 記憶部の構成を示す図である。 通知システムのフローを説明するフローチャートである。
以下、図面を参照して本発明の実施の形態について説明する。ただし、以下に述べる実施形態には、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の技術的範囲を以下の実施形態及び図示例に限定するものではない。
図1において符号1は建物を示す。この建物1は、ユーザが居住する住宅(所謂戸建て住宅)とされ、本実施形態においては二階建てとなっている。建物1の内部には、複数の部屋1a~1fがある。また、建物1の上端部には屋根2が設けられ、屋根2の下方には屋根裏部屋2aがある。
複数の部屋1a~1fには、リビングルームやダイニングルーム、キッチン、寝室、子供部屋等の居室(日常いる部屋)の他に、浴室、玄関、階段、廊下、トイレ等のような非居室も含まれるものとする。換言すれば、建物1内において壁や床、天井によって仕切られた空間のいずれもが本実施形態における部屋1a~1fに該当し得る。
建物1に居住するユーザとしては、第1ユーザU1と、第2ユーザU2と、が含まれている。第1ユーザU1及び第2ユーザU2は共に成人とするが、これに限られるものではなく、子供(未成年者)であってもよい。ただし、ユーザとなる子供に、乳幼児は含まれないものとする。さらに、建物1には、第1ユーザU1及び第2ユーザU2以外の生体(生物、動物)がいてもよく、本実施形態における建物1には飼い犬Dがいる。なお、生体は、飼い犬Dに限らず、その他の動物でもよいし、乳幼児でもよい。すなわち、動物や乳幼児は、ユーザU1,U2としては見なされない。
建物1には、洗濯機3、冷蔵庫、炊飯器、電子レンジ、電気ポット、エアコン、調理用コンロ等を始めとする様々な種類の機器が複数設けられている。また、これらの機器の中には、何らかのアクションが発生したときに、内蔵された音声を出力するものがある。このような音声としては、例えば、電子レンジで調理が完了したときに出力される音声メッセージや、洗濯機3による洗濯が完了したときに出力される電子音(報知音)等が挙げられる。また、電子レンジや洗濯機3の例では、調理が完了したこと、洗濯が完了したこと、が上記の何らかのアクションに相当する。
〔通知システムの構成〕
本実施形態における通知システムは、以上のような建物1に導入されるものであり、図2に示すように、システム全体を総合的に制御する制御部10と、記憶部11と、音声入力部12と、出力部13と、取得部14と、通信部15と、を備える。
上記の制御部10と、記憶部11と、通信部15は、同一筐体内に収納されて一つの装置として構成されている。本実施形態においては、説明の便宜上、当該装置を「情報コア装置A」と称する。情報コア装置Aは、本実施形態においては屋根裏部屋2aに設置されているが、これに限られるものではなく、宅内のどの場所に設置されてもよいし、宅外において通信ネットワークN上に設置されてもよい。
音声入力部12と、出力部13と、取得部14は、各々の機能を妨げない状態で同一筐体内に収納されて一つのユニットとして構成されている。本実施形態においては、説明の便宜上、当該ユニットを「部屋内ユニットB」と称する。部屋内ユニットBは、複数の部屋1a~1fのそれぞれに設けられている。
なお、部屋内ユニットBの配置は、各部屋1a~1fの、又は建物1全体の動線を考慮することが望ましい。また、部屋内ユニットBは、建物1の全部屋1a~1fに設置されることが望ましいが、建物1全体の動線を考慮して配置することで個数を最低限にしてもよい。具体的には、建物1内を、音声入力部12によって音声を取得でき、かつ出力部13によって音声を広い範囲に拡散できる条件で複数のエリアに分け、各エリアに部屋内ユニットBを設置するようにしてもよい。さらに、必要に応じて、音声入力部12と、出力部13と、取得部14を同一筐体内に収納せずに、建物1全体の動線を考慮した位置に個別に設けるようにしてもよい。
情報コア装置Aの筐体には、接続線16用のインターフェース16aが設けられ、情報コア装置Aと各部屋内ユニットBは、接続線16によってデータ通信可能に接続されている。なお、接続線16などの有線接続に限られず、例えば無線LANなどの通信ネットワークを利用した無線接続によってデータ通信を行うようにしてもよい。
また、接続線16と同様の配線で、情報コア装置Aから各部屋内ユニットBへの電力供給用の電気線を配線してもよい。各部屋内ユニットBへの電力供給は、部屋内ユニットBごとに行われてもよい。
制御部10は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備えたコンピュータであり、記憶部11に記憶された各種プログラムを実行することができる。すなわち、制御部10による制御に基づいて、通知システムを構成する各部の動作を実行することができる。
記憶部11(すなわち、第1記憶部、第2記憶部、第3記憶部を指す。)は、例えばRAM、ROM、不揮発性メモリ、ハードディスクドライブ等により構成され、図3に示すように、制御部10によって実行される各種プログラムや、各種プログラムの実行に必要な各種データが記憶されている。
記憶部11に記憶された各種プログラムとしては、音声認識プログラム11a、周囲音声判断プログラム11b、ユーザ識別プログラム11c、居場所特定プログラム11d、通知音声出力プログラム11e、外部通信プログラム11f等が記憶されている。これら各種プログラムに基づくシステムの動作については後述する。
記憶部11に記憶された各種データとしては、ユーザ登録情報11g、機器登録情報11h、生体登録情報11i、指示内容データ11j、出力用音声データ11k、ユニット登録情報11m等が記憶されている。
ユーザ登録情報11gには、ユーザU1,U2の氏名及び呼び名(一人称の場合、ニックネームの場合)に係る情報が含まれる。また、ユーザ登録情報11gには、取得部14によるユーザ識別の識別情報が含まれる。例えば、ユーザ識別を顔認証で行う場合は、ユーザU1,U2の顔に係る情報が含まれるものとする。さらに、ユーザ登録情報11gには、ユーザU1,U2が発する声の情報が含まれてもよい(少なくとも話者認識が可能な程度の声の情報を指し、「誰」が認識できる情報を指す)。
機器登録情報11hには、通知システムによる通知が行われる機器の情報であり、機器の種類に関する情報(何の機器であるか)、機器が発する何らかのアクションに対応した周囲音声(報知音や音声メッセージ)の種類(すなわち、登録音を指す。)、機器の状態に関する情報(すなわち、登録情報を指す。)が含まれる。また、機器登録情報11hは、機器のメーカーから提供を受けてもよいし、ユーザU1,U2がシステムに対して登録してもよい。なお、機器登録情報11hの登録をユーザU1,U2自身が行う場合は、音声入力部12で実際の報知音や音声メッセージを記憶させたり、静止画や動画を含む画像データによって機器の状態(例えば、お知らせランプの点滅、エラー表示等のような視覚によって確認される情報など)を記憶させたり、後述する外部の情報通信端末4,5を利用して登録したりすることができるものとする。
生体登録情報11iは、通知システムによる通知が行われる生体の情報であり、生体の種類に関する情報(どの生体であるか)、生体が発する何らかのアクションに対応した周囲音声(例えば泣き声や鳴き声等の音声、笑い声などその他の音声でも可。)の種類(すなわち、登録音を指す。)、生体の状態に関する情報(すなわち、登録情報を指す。)が含まれる。生体登録情報11iは、ユーザU1,U2がシステムに対して登録する。なお、生体登録情報11iの登録をユーザU1,U2自身が行う場合は、音声入力部12で音声を記憶させたり、静止画や動画を含む画像データによって生体の状態(例えば、飼い犬Dの顔や体における動作、乳幼児の顔や体における動作等のような視覚によって確認される情報など)を記憶させたり、後述する外部の情報通信端末4,5を利用して登録したりすることができるものとする。
指示内容データ11jは、ユーザU1,U2から通知を要求する指示を受けた場合の当該指示の内容を指す。ユーザU1,U2からの指示は、通常、音声入力部12で取得した音声によるものであるため、取得した指示の音声は、上記の音声認識プログラム11aによって音声認識処理(テキストデータ化)されて記憶される。音声認識処理されることで、特に、対象となる機器又は生体の種類、周囲音声の種類、通知を受けたい通知対象のユーザU1,U2が特定される。
指示内容データ11jの具体的な例を挙げると、「洗濯が終わったら私に教えて」という指示の場合、「洗濯」が、対象となる機器の種類(洗濯機3)を特定し、「終わったら」が、その機器の動作完了時の報知音を特定し、「私」が通知を受けたいユーザU1,U2を特定している。
なお、指示内容データ11jは、音声認識処理されたものだけでなく、最初からテキスト化されているデータでもよい。換言すれば、ユーザU1,U2からの通知要求指示は、必ずしも音声によるものだけではなく、後述する外部の情報通信端末4,5を利用してテキストデータによる通知要求指示を行えるようにしてもよい。
出力用音声データ11kは、ユーザU1,U2に対して通知される音声(通知音声)を合成するための素になる様々な音声素片データを指す。ユーザU1,U2に対して通知される音声は、これらの音声素片データを適宜繋ぎ合わせて合成させることで構成されている。音声素片データである出力用音声データ11kは、上記の通知音声出力プログラム11eにより適宜合成される。より具体的に説明すると、対象となる機器は必ずしも洗濯機3には限られないため、主語となる音声素片と、述語となる音声素片を、機器又は生体の種類に応じて登録しておき、適宜合成できるようにする。このようにすれば、主語として、洗濯機3の場合は「洗濯が」が抽出され、電子レンジの場合は「調理が」が抽出され、述語としては「終わりました」が共通して使えるようになる。
ユニット登録情報11mは、建物1内の複数の部屋1a~1fに設けられた各部屋内ユニットBの個々の登録情報である。すなわち、どの部屋内ユニットBが、どこの部屋に設けられているかを判別するための情報であり、例えば複数の部屋内ユニットBすべてにナンバリングを行うなどして判別できるようにする。なお、本実施形態においては、部屋内ユニットBごとの登録情報としているが、これに限られるものではなく、音声入力部12ごと、出力部13ごと、取得部14ごとに登録情報があってもよい。
音声入力部12は、周囲の音声を集音する所謂マイク(マイクロフォン)であり、全指向性(無指向性)のものが好適に使用されるが、これに限られるものではない。音声入力部12は、当該音声入力部12が設けられた場所の音声を常時集音しているものとする。そして、ユーザU1,U2の通知要求指示に係る指示音声と、機器又は生体から生じる周囲音声(報知音、音声メッセージ、鳴き声、泣き声等)を取得する。
出力部13は、周囲に音声を発する所謂スピーカであり、広指向性のものが好適に使用されるが、これに限られるものではない。出力部13は、ユーザU1,U2に対して通知を行う際に音声を出力する。また、ユーザU1,U2からの指示を受け付けたときに、正常に受け付けられた旨を報知する音声を出力してもよい。なお、スピーカの他にも、発光装置(発光部)や、文字を表示可能なモニタを出力部13として用いてもよい。すなわち、出力部13から出力される通知情報は、本実施形態においては音声とするが、これに替えて、光や文字による通知情報を出力してもよい。
取得部14は、建物1内にいる人物の中から生体であるユーザU1,U2を識別するための情報(すなわち、識別情報を指す。)を取得するのに用いられるセンサ類である。このような取得部14としては、例えば、カメラ(画像センサ)、動作検知センサ、ユーザU1,U2を体温で判別する温度センサ、人の存在を感知する赤外線センサ、ユーザU1,U2の体重を検知する圧力センサ(床に敷設される。)、ユーザU1,U2の声を認識する音声認識システム等が適宜採用される。また、取得部14として採用されるものは一つのセンサでもよいし、複数のセンサを複合したものでもよい。さらに、建物1内にいる人物の歩き方を、圧力センサ又は音(例えば音声取得部12により取得)によって取得したり、人の存在を、水道(浴室、洗面所、キッチン、庭等における水道)の吐水量や、温度状況(温度、空調による温度設定)で判別したり、人の存在を、住宅設備(住宅内外にある設備、機器等)の使用状況、使用時間帯で判別してもよい。
本実施形態における取得部14としては、カメラが採用される。カメラには公知の顔認証システム(2D対応型又は3D対応型)が搭載されており、撮影された画像からユーザU1,U2の顔検出及び顔認証が可能となっている。また、カメラによって撮影される画像は動画でもよいし、静止画でもよい。静止画の場合は、カメラに映る画像から適宜切り出せばよい。なお、カメラを採用すれば、顔検出及び顔認証だけでなく、体格などの外的形状からもユーザU1,U2の特定が可能となる。
また、本実施形態においては、上記のカメラと共に、動作検知センサが採用される。動作検知センサは、建物1内における人の動作を検知するセンサである。動体検知センサによって人の動作が検知されると、カメラは、動作を検知された人の顔検出及び顔認識を行う。そのため、建物1内におけるユーザU1,U2の居場所をすぐに判明させることができる。
なお、本実施形態における取得部14として、上記のようにカメラが採用されるものとしたが、カメラによって撮影される画像は、プライバシーを考慮して録画をしないか、若しくは視聴できないように設定されている。すなわち、カメラによって撮影される画像は、ユーザU1,U2の識別に限定して使用されるものとする。
通信部15は、制御部10の制御の下、外部の情報通信端末4,5との間で、所定の通信プロトコルを用いて通信ネットワークNを介したデータ通信(双方向)を行う。通信ネットワークNは、特に限定されるものではなく、適宜変更可能であるが、本実施形態においては、例えば移動体通信網や、LAN(Local Area Network)、インターネットなどのWAN(Wide Area Network)等により適宜構成されるものとする。
また、外部の情報通信端末4,5は、上記の制御部10や記憶部11、音声入力部12、出力部13、取得部14、通信部15のように通知システムを直接的に構成するものとは異なり、通信部15のみを介して接続された端末装置である。したがって、これら情報通信端末4,5は、建物1内に設置されてもよいし、建物1が建築された敷地外にあってもよい。本実施形態において、情報通信端末4はユーザU1,U2又はその家族が使用するパソコンを指し、情報通信端末5はユーザU1,U2又はその家族が所持するスマートフォンやタブレットPC等の携帯端末を指している。パソコンやスマートフォンの他に、例えば建物1内に設置されて建物1で使用される電力等のエネルギーを表示するモニタなどを情報通信端末4,5として採用してもよい。
情報通信端末4,5は、通知システムに対し、少なくとも音声入力データ(音声データ)又は文字入力データ(テキストデータ)の送信が可能に構成されている。これにより、通信部15を介して通知システムに対し、音声又はテキストの状態の通知要求指示を入力することができる。
〔通知システムの動作〕
次に、図1~図4を参照し、以上のように構成された通知システムの動作について説明する。通知システムの動作は、ユーザU1,U2から通知を要求する指示を受けた場合に、制御部10が、記憶部11に記憶された各種プログラムを実行することによって行われる。
なお、記憶部11には、ユーザ登録情報11g、機器登録情報11h、生体登録情報11i、出力用音声データ11kが事前に登録されているものとする。また、本実施形態においては、第1ユーザU1が洗濯作業を行う担当者となっており、第2ユーザU2が飼い犬Dの世話を行う担当者となっている。
第1ユーザU1は、洗濯機3による洗濯作業を開始したら、システムに対して「洗濯が終わったら私に教えて」という音声入力を行う。すなわち、音声入力部12は、第1ユーザU1の通知要求指示に係る指示音声を取得し、指示音声に応じた音声データを生成して情報コア装置A側へと送信する。そして、制御部10は、通知要求指示に係る指示音声のデータを受け付けて記憶部11に格納する(ステップS1)。
なお、第1ユーザU1(第2ユーザU2)は、音声入力部12によって指示音声を取得させようとするタイミングで、合図となる所定の掛け声を発してから指示を出すようにすることが望ましい。掛け声としては特に限定されるものではないが、例えば、通知システムに対して事前に付与された呼び名でもよいし、「通知をお願い」などのように文章化されたものでもよい。
また、洗濯機3は、部屋1dに設置されているが、第1ユーザU1が指示を出す場所は、部屋1d内である必要はなく、他の部屋1a~1c,1e,1fから指示を出してもよいし、情報通信端末4,5を通じて外部から指示を出してもよい。
続いて、通知要求指示に係る指示音声のデータを受け付けた制御部10は、音声認識プログラム11aを実行して音声認識を行う(ステップS2)。音声認識の結果、「洗濯が終わったら私に教えて」という指示は、対象機器として「洗濯機3」、対象動作の周囲音声として「洗濯完了時の報知音」、対象ユーザとして「第1ユーザU1」が特定され、指示内容データ11jとして記憶部11に記憶される。なお、情報通信端末4,5を通じて外部から音声によって指示があった場合は、同様に音声認識される。ここで、指示内容データ11jと機器登録情報11hに登録された登録音の情報とが紐づけされ、これにより、通知を行う条件が生成されることになる。
また、通知を行う条件の生成を完了させる前に、音声認識後のタイミングで音声認識された状態の指示の内容を音声によって出力部13から出力し、音声認識結果の成否を第1ユーザU1によって確認できるようにしてもよい。音声認識に間違いがあった場合には、その間違いを、ユーザU1,U2が音声入力部12又は情報通信端末4,5から指摘できるように設定されているものとする。その場合、制御部10は、音声認識をやり直す。
なお、通知要求指示を出したユーザの声はユーザ登録情報11gとして記憶されている。そのため、通知要求指示を出して音声認識を行う際に、通知要求指示を出した第1ユーザU1の声と、第1ユーザU1のユーザ登録情報11gとが符合するか判断する処理を行えば、通知要求指示を出したユーザと、通知の対象となるユーザが同一であると見なすことができ、指示内容として、対象ユーザの特定を行う必要がなくなる。すなわち、「洗濯が終わったら私に教えて」という指示の内容を、「洗濯が終わったら教えて」という指示の内容に短縮することができる。記憶部11には、このような処理を行うため、通知要求指示を出したユーザU1,U2の声と、ユーザU1,U2のユーザ登録情報11gとが符合するか判断するプログラム(図示省略)が記憶されていてもよいものとする。
音声入力部12は常時集音している状態であり、通知要求指示を受け付けた通知システムは、洗濯機3から音声(周囲音声)が生じるのを待機する待機状態となる(ステップS3)。なお、待機状態中は、すぐに通知を行えるように、取得部14によって第1ユーザU1の居場所を常に把握するようにしてもよい。
待機状態中に、音声入力部12が洗濯機3からの何らかの音声を取得すると(ステップS4)、制御部10は、周囲音声判断プログラム11bを実行し、取得した音声が、第1ユーザU1から受け付けた指示の内容と紐づけられた機器登録情報11hの登録音と一致するか判断し、通知を行う条件が成立したか否かを判断する(ステップS5)。そして、判断の結果、取得した音声と登録音とが一致した場合はステップS6へと進み、一致していなかった場合はステップS3の待機状態へと戻る。
取得した音声と登録音とが一致した場合は、まず、取得部14によって建物1内にいる人物の検知を行う(ステップS6)。本実施形態においては、取得部14として動作検知センサも併用されているため、動作検知センサによって人の検知を行う。
人が検知された場合、制御部10は、ユーザ識別プログラム11cを実行し、ユーザ登録情報11gに基づいて、その人が第1ユーザU1であるか否かを識別する(ステップS7)。本実施形態においては、顔認証によってユーザ識別を行うため、カメラである取得部14のセンシング結果(識別情報)と、ユーザ登録情報11gに含まれた第1ユーザU1の顔に係る情報との照合が行われる。
本実施形態においては、建物1内に二人のユーザU1,U2がいるため、二人とも取得部14によって検知された場合には二人ともユーザ識別を行う。そして、ユーザ識別の結果、通知の対象となる第1ユーザU1が特定できた場合はステップS8へと進み、第1ユーザU1が特定できなかった場合はステップS10へと進む。
ユーザ識別の結果、通知の対象となる第1ユーザU1が特定できた場合、制御部10は、居場所特定プログラム11dを実行し、各部屋内ユニットBの設置位置情報が含まれたユニット登録情報11mに基づいて、第1ユーザU1を識別した取得部14が建物1内のどこに設けられた取得部14であるかを判別し、これにより、第1ユーザU1の居場所を特定する(ステップS8)。
第1ユーザU1の居場所が特定できたら、制御部10は、通知音声出力プログラム11eを実行し、様々な音声素片データが含まれた出力用音声データ11kに基づいて通知に係る音声(通知音声)を適宜合成し、第1ユーザU1の居場所の最も近い位置にある出力部13から出力する(ステップS9)。なお、通知を聞いた第1ユーザU1が、例えば「OK」、「わかった」、「ありがとう」等のような、通知に対する了承を意味する言葉を発するまで、繰り返し同じ通知を行うように設定されてもよい。
一方、ユーザ識別の結果、第1ユーザU1が特定できなかった場合、制御部10は、外部通信プログラム11fを実行し、通知に係る音声又はテキストのデータを、通信部15から通信ネットワークNを介して情報通信端末4,5に送信する(ステップS10)。なお、送信される通知のデータは、システムに連携するすべての情報通信端末4,5に送信されてもよいし、通知の対象となるユーザが、第1ユーザU1のみである場合は、第1ユーザU1が所持する情報通信端末5のみに送信されるようにしてもよい。
以上のようにして通知システムは動作する。一連の動作は、生体(本実施形態においては飼い犬D)の場合も同様である。飼い犬Dの世話が担当の第2ユーザU2が、システムに対して例えば「飼い犬Dが吠えたら僕に教えて」という音声入力を行うと、飼い犬Dの吠え声を音声入力部12が取得した場合に、第2ユーザU2に最も近い位置にある出力部13から通知に係る音声が出力されるか、情報通信端末4,5に対して通知が届く。
さらに、以上のような通知システムの動作は、機器又は生体に係る情報(機器又は生体の動作に係る情報)が、登録情報として、機器登録情報11h及び生体登録情報11iに登録されているため、取得部14によって取得される機器又は生体に係る情報でも同様に通知を行うことができる。その場合、指示内容データ11jと機器登録情報11h又は生体登録情報11iに登録された登録情報とが紐づけされ、これにより、通知を行う条件が生成されることになり、ステップS5において条件成立か否か判断される。
なお、通知システムによってユーザU1,U2に通知できる機器や生体の数については、機器登録情報11hや生体登録情報11iとして登録さえ行えば通知が可能となるため特に限定されるものではない。また、同時に複数の通知を受け付けることも可能となっているものとする。
さらに、ユーザU1,U2からの指示がない場合は通知を行わないように設定されている。換言すれば、記憶部11にユーザ登録情報11gが存在するユーザU1,U2のみが通知要求指示を行うことができる。
また、ステップS3の待機状態中において、通知要求指示を出したユーザU1,U2からの指示に基づいて待機状態の解除、すなわち通知の中止を行うことが可能なプログラム(図示省略)も記憶部11に記憶されているものとする。通知の中止は、ユーザU1,U2が発する声だけでなく、情報通信端末4,5からの音声又はテキストデータによって行うこともできるものとする。
なお、本実施形態においては、建物1として戸建て住宅を採用したが、これに限られるものではなく、マンションやアパート等の集合住宅における各住戸や各種の福祉施設、会社オフィス、シェアハウス等であってもよい。また、一つの敷地内に複数の建物がある場合(例えば、完全分離型の多世帯住宅、母屋と離れ等)は、複数の建物すべてを上記の建物1としてもよいし、一つ一つの建物を上記の建物1としてもよい。
本実施の形態によれば、音声入力部12が、ユーザU1,U2から発せられる通知を要求する指示に係る音声を指示音声として取得すると、制御部10は、通知を行う条件が成立した場合に、識別情報に基づいて建物1内にいる人物の中からユーザU1,U2を識別し、識別されたユーザU1,U2に対し、ユーザU1,U2に最も近い位置にある出力部13から通知情報を出力するので、通知を受けるユーザU1,U2の居場所を推定して通知情報を出力できることとなる。これにより、通知を受けるユーザU1,U2に対してより的確な通知を行うことが可能となる。
また、通知を行う条件が成立したか否かを判断するための登録音を記憶する記憶部11を備え、制御部10は、音声入力部12により取得した音(周囲音声:機器又は生体から発せられる音)が、記憶部11に記憶された登録音と一致した場合に、通知を行う条件が成立したと判断するので、その判断の結果、取得した音と登録音が一致した場合は通知を行い、一致しない場合は通知を行わないようにすることができる。すなわち、ユーザU1,U2に対する通知の的確性を向上できる。
また、取得部14により取得した生体に係る情報が、記憶部11に記憶された登録情報と一致とした場合に、通知を行う条件が成立したと判断するので、その判断の結果、取得した生体に係る情報と登録情報が一致した場合は通知を行い、一致しない場合は通知を行わないようにすることができる。すなわち、ユーザU1,U2に対する通知の的確性を向上できる。
また、制御部10は、ユーザを識別するための識別情報と、ユーザ登録情報11gとを照合してユーザU1,U2を識別するので、建物1内にいる人物の中から通知を受けるユーザU1,U2を正確に識別することができる。
また、制御部10は、取得部14により取得された情報に基づいて、建物1内にユーザU1,U2がいないと判断した場合に、情報通信端末4,5に対して通知を送信するので、ユーザU1,U2は、たとえ建物1内にいなくても通知を受けることができる。
〔変形例〕
なお、本発明を適用可能な実施形態は、上記の実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲で適宜変更可能である。以下、変形例について説明する。以下に挙げる変形例は可能な限り組み合わせてもよい。また、以下の各変形例において、上記の実施形態と共通する要素については、共通の符号を付し、説明を省略又は簡略する。
〔変形例1〕
本変形例において、ユーザU1,U2には、通知を要求する指示を出す通知要求ユーザと、通知を受ける対象の通知対象ユーザと、が含まれ、通知要求ユーザと通知対象ユーザは、同一人物又は別人である。すなわち、通知要求指示を出したユーザ(通知要求ユーザ)と、通知を受けるユーザ(通知対象ユーザ)は同一人物であってもよいし、通知要求ユーザと通知対象ユーザは別人であってもよい。
具体的に説明すると、通知要求ユーザと通知対象ユーザが同一人物である場合は、上記の実施形態で説明したとおり、通知を要求する指示を出したユーザU1,U2に対して、出力部13から通知が行われる。
一方、通知要求ユーザと通知対象ユーザが別人である場合は、例えば通知要求ユーザが第1ユーザU1とした場合に、「洗濯が終わったら○○に教えて」という指示において、「○○」で示した、通知対象ユーザを特定する部分を、第2ユーザU2(名前、ニックネーム等)にして指示を出す。このようにすることで、通知要求指示を出したユーザは第1ユーザU1であるものの、通知を受ける通知対象ユーザを第2ユーザU2とすることができる。
本変形例によれば、通知要求ユーザU1,U2と通知対象ユーザU1,U2が同一人物である場合は、例えば、取得部14のセンシング精度が高くない場合であっても、通知を要求する指示を出した時点のユーザU1(U2)を識別しておけば、通知を行う際に、建物1内にいる人物の中からユーザU1(U2)を識別しやすくなる。一方、通知要求ユーザU1,U2と通知対象ユーザU1,U2が別人である場合は、例えば、通知を要求する指示を出したユーザU1(U2)が外出しても、他のユーザU2(U1)が通知を受けることができるので、利便性に優れる。
〔変形例2〕
本変形例における通知システムは、ユーザU1,U2を識別する機能の学習を行う識別機能学習部(図示省略)を更に備える。すなわち、上記の実施形態においては、ユーザU1,U2を識別する場合に、取得部14によるユーザU1,U2を識別するための情報の取得結果と、ユーザU1,U2に関する情報(ユーザ登録情報11g)とを照合してユーザU1,U2を識別していたが、この処理に、識別機能学習部による学習結果を反映させる。
具体的に説明すると、識別機能学習部は、通知要求指示を出した際のユーザU1,U2の識別結果と、待機状態中の動作検知センサによるユーザの動作の検知結果(上記のとおり、取得部14は動作検知センサ以外のものでもよい。)と、通知を行う直前のユーザU1,U2の識別結果のデータを蓄積し、ユーザU1,U2の行動パターンを学習する。
識別機能学習部による学習においては、通知要求指示を出したユーザU1,U2と、待機状態中に動作するユーザU1,U2と、通知を受けるユーザU1,U2が一致している必要がある。そのため、待機状態中は、取得部14によってユーザU1,U2の居場所や行動は常に把握される。また、取得部14による取得結果は、各家庭(各ユーザ)で生活が異なり、これによって各家庭(各ユーザ)で個性が出るものであるが、識別機能学習部による学習の対象とすることで、ユーザU1,U2の識別精度を向上させることが可能となっている。
ユーザU1,U2の識別に失敗した場合には、その間違いを、ユーザU1,U2が音声入力部12又は情報通信端末4,5から指摘できるように設定されているものとする。すなわち、間違った情報に基づいて学習を続けないようにすることができる。
本変形例によれば、識別機能学習部によってユーザ識別の成功率を向上させることができるので、建物1内にいる人物の中から通知を受けるユーザU1,U2を、より正確に識別することができる。
〔変形例3〕
本変形例における通知システムは、所謂みまもり機能を発揮することができる。みまもり機能は、遠隔地に居住する人(例えば家族)の様子、留守時の同居人の様子、特に健康状態を見守る機能を指す。見守る側のユーザと、見守られる側のユーザが存在し、少なくとも見守られる側のユーザは、建物1に居住している。見守る側のユーザは、通知を受ける対象のユーザであり、遠隔地にいてもよいし、同居していてもよい。そして、見守る側のユーザは、通信部15及び通信ネットワークNを介して通知システムとデータのやり取りが可能な情報通信端末を有する。
みまもり機能は、例えば、見守る側のユーザによる「○○(見守られる側のユーザ)の動きに異常があったら私に教えて」という指示に基づいて開始される。制御部10は、動作検知センサ及び圧力センサによって見守られる側のユーザの動作を検知し、日常とは異なる動作や圧力が検知された場合(指示の内容と一致する場合)に、見守る側のユーザに対して通知を行う。
見守る側のユーザに対して通知を行う際は、まず、取得部14によって建物1内にいる人物の検知を行う。そして、通知の対象となる見守る側のユーザが見つからない場合、制御部10は、外部通信プログラム11fを実行し、例えば「○○(見守られる側のユーザ)が床に倒れています」などの通知に係る音声又はテキストのデータを、通信部15から通信ネットワークNを介して情報通信端末4,5に送信する。これにより、見守る側のユーザは、見守られる側のユーザの異常を知ることができる。
その他のみまもり機能としては、見守られる側のユーザが痛がる声を発し、音声入力部12がその音声を取得した場合に、制御部10が、外部通信プログラム11fを実行し、見守る側のユーザに対して通知を行う。また、見守る側のユーザは、通知を受けたときに情報通信端末から話しかけ、その声を、出力部13から見守られる側のユーザに聞かせることも可能となっている。すなわち、音声入力部12と出力部13とを利用し、電話のように機能させることができる。
本変形例によれば、通知システムに対し、建物1に居住する人(見守られる側のユーザ)のことを見守る、みまもり機能を追加することができるので、通知システムに対して付加価値を与えることができる。
〔変形例4〕
建物1内における機器が、ネットワーク対応の通信可能な機器である場合は、建物1内におけるLANなどの通信ネットワーク(有線でも無線でもよい。)を利用し、情報コア装置A(制御部10)に対して直接的(音声入力部12を経ず)に、周囲音声に相当するデータのやり取りを行えるようにしてもよい。つまり、例えば洗濯機3がネットワーク対応の通信可能な機器であった場合、洗濯機3から生じる周囲音声(例えば報知音)の代わりに、洗濯機3から送信されるデータに基づいて通知を行えるようにすることができる。
このような場合の通知システムは、建物1内における機器(本変形例においては洗濯機3)に生じるアクションについてユーザU1,U2から通知を要求する指示を受け、前記機器から前記アクションが生じた場合に前記ユーザU1,U2に対して通知を行う構成のものとなる。より詳細に説明すると、本変形例の通知システムは、前記アクションの発生に係る情報を入力する入力部と、前記建物1内の複数箇所に設けられて前記通知に係る音声を出力する出力部13と、前記建物1内の複数箇所に設けられて前記建物1内にいる人物の中から前記ユーザU1,U2を識別するための取得部14と、前記入力部と前記出力部13と前記取得部14を制御する制御部10と、を備える。そして、前記制御部10は、前記入力部によって前記アクションの発生に係る情報が入力された場合に、前記取得部14を用いて前記建物1内にいる人物の中から前記ユーザU1,U2を識別し、識別された前記ユーザU1,U2に対し、前記ユーザU1,U2に最も近い位置にある前記出力部13から通知に係る前記音声を出力すること特徴となる。要するに、上記の実施形態における音声入力部12の代わりに、機器から送信されたデータを情報コア装置Aに対して入力するための入力部が設けられることとなる。
本変形例によれば、建物1内における機器に生じるアクションについてユーザU1,U2から通知を要求する指示を受けると、制御部10は、入力部からアクションの発生に係るデータが入力された場合に、取得部14を用いて建物1内にいる人物の中からユーザU1,U2を識別するので、取得部14の設けられた箇所からユーザU1,U2の居場所を推定できる。そして、このようにユーザU1,U2の居場所が推定できるので、制御部10は、識別されたユーザU1,U2に対し、ユーザU1,U2に最も近い位置にある出力部13から通知に係る音声を出力することができる。これにより、通知を受けるユーザU1,U2の居場所に関係なく、そのユーザU1,U2に対して通知を行うことが可能となる。
なお、本変形例における入力部は、上記の実施形態における音声入力部12と併用することも可能となっている。これらを併用できれば、ネットワーク対応の通信可能な機器と、ネットワーク非対応の機器の区別なく通知システムによる通知が可能となるので汎用性に優れる。
〔変形例5〕
本変形例の通知システムには、上記の実施形態における出力部13の代わりに、発光部(図示省略)が採用される。すなわち、建物1に居住するユーザU1,U2が聴覚障害者である場合、出力部13から通知を行うよりも、発光部から光を発して通知を行った方が認識しやすい。また、発光部は単に光を発するだけではあるものの、通知要求指示を出したことを受けて発光するものであるため、通知手段として十分に役割を果たすことができる。
なお、ユーザU1,U2が聴覚障害者である場合の通知要求指示は、例えば、情報通信端末4,5からのテキストデータ送信を利用したものであってもよいし、音声入力部12の代わりにカメラを採用し、手話による通知要求指示が出せるようにしてもよい。
〔変形例6〕
本変形例においては、部屋内ユニットBに対して家電リモコン(図示省略)が付属している。家電リモコンとは、例えばテレビやビデオ、エアコン、照明、音楽プレーヤー等の家電をひとまとめに操作できるようにするものである。また、記憶部11には、家電リモコンを操作するためのプログラム(図示省略)が更に記憶されている。
制御部10は、ユーザU1,U2から音声入力部12を通じて家電の操作に係る指示を受けると、上記のプログラムを実行し、家電リモコンを動作させて家電の操作を行うことができる。
家電リモコンを操作するための上記のプログラムとしては、例えば公知のバーチャルアシスタント(AI(Artificial Intelligence)アシスタントともいう)が好適に採用されている。バーチャルアシスタントは、音声入力や音声出力との相性も良いため、上記の実施形態における音声入力部12や出力部13の機能の一端を担うようにしてもよい。
なお、本変形例においては家電リモコンによって操作できるものとして一般的な家電製品を挙げたが、これに限られるものではなく、例えばバーチャルアシスタントと通信させやすい各種デバイスの操作を行えるようにしてもよい。各種デバイスとしては、例えば、玄関ドアや窓の電子錠、コンセントに差し込まれるとともに簡易構造の家電が接続されて当該家電の電源ON/OFF操作(通電状態の操作)を可能とするスマートプラグ、カーテンの開閉を行う開閉装置、窓の開閉装置、シャッターの開閉装置等、種々のものが挙げられる。
また、家電リモコンは部屋内ユニットBに付属するとしたが、必要に応じて部屋内ユニットBには付属せずに、家電や各種デバイスの操作のしやすさを考慮した位置に個別に設けるようにしてもよい。
本変形例によれば、通知システムに対し、建物1内の家電や各種デバイスを操作する家電リモコンの機能を追加することができるので、通知システムに対して付加価値を与えることができる。
A 情報コア装置
B 部屋内ユニット
D 飼い犬
N 通信ネットワーク
U1 第1ユーザ
U2 第2ユーザ
1 建物
1a 部屋
1b 部屋
1c 部屋
1d 部屋
1e 部屋
1f 部屋
2 屋根
2a 屋根裏部屋
3 洗濯機
4 情報通信端末
5 情報通信端末
10 制御部
11 記憶部
11a 音声認識プログラム
11b 周囲音声判断プログラム
11c ユーザ識別プログラム
11d 居場所特定プログラム
11e 通知音声出力プログラム
11f 外部通信プログラム
11g ユーザ登録情報
11h 機器登録情報
11i 生体登録情報
11j 指示内容データ
11k 出力用音声データ
11m ユニット登録情報
12 音声入力部
13 出力部
14 取得部
15 通信部
16 接続線

Claims (4)

  1. 建物内の複数箇所に設けられて周囲の音を取得する音声入力部と、
    前記建物内の複数箇所に設けられて通知情報を出力する出力部と、
    前記建物内の複数箇所に設けられて前記建物内にいる生体に係る情報を取得する取得部と、
    前記音声入力部と前記出力部と前記取得部を制御する制御部と、
    第1記憶部と、を備え、
    前記音声入力部は、ユーザから発せられる通知を要求する指示に係る音声を指示音声として取得し、
    前記取得部は、前記建物内にいる人物の中から生体である前記ユーザを識別するための情報を識別情報として取得し、
    前記第1記憶部は、前記通知を行う条件が成立したか否かを判断するための登録音を記憶し、
    前記制御部は、
    前記音声入力部により取得した前記音が、前記第1記憶部に記憶された前記登録音と一致した場合に、前記通知を行う条件が成立したと判断し、
    前記通知を行う条件が成立した場合に、前記識別情報に基づいて前記建物内にいる人物の中から前記ユーザを識別し、
    識別された前記ユーザに対し、前記ユーザに最も近い位置にある前記出力部から前記通知情報を出力することを特徴とする通知システム。
  2. 前記通知を行う条件が成立したか否かを判断するための登録情報を記憶する第記憶部を備え、
    前記制御部は、前記取得部により取得した前記生体に係る情報が、前記第記憶部に記憶された前記登録情報と一致とした場合に、前記通知を行う条件が成立したと判断することを特徴とする請求項1に記載の通知システム。
  3. 前記ユーザを識別するためのユーザ登録情報を記憶する第記憶部を備え、
    前記制御部は、前記識別情報と、前記第記憶部に記憶された前記ユーザ登録情報とを照合して前記ユーザを識別することを特徴とする請求項1又は2に記載の通知システム。
  4. 前記ユーザが所有する情報通信端末と通信するための通信部を備え、
    前記制御部は、前記取得部により取得された情報に基づいて、前記建物内に前記ユーザがいないと判断した場合に、前記情報通信端末に対して通知を送信することを特徴とする請求項1~3のいずれか一項に記載の通知システム。
JP2019074982A 2019-04-10 2019-04-10 通知システム Active JP7218232B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019074982A JP7218232B2 (ja) 2019-04-10 2019-04-10 通知システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019074982A JP7218232B2 (ja) 2019-04-10 2019-04-10 通知システム

Publications (2)

Publication Number Publication Date
JP2020174281A JP2020174281A (ja) 2020-10-22
JP7218232B2 true JP7218232B2 (ja) 2023-02-06

Family

ID=72831909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019074982A Active JP7218232B2 (ja) 2019-04-10 2019-04-10 通知システム

Country Status (1)

Country Link
JP (1) JP7218232B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10051600B1 (en) 2017-12-12 2018-08-14 Amazon Technologies, Inc. Selective notification delivery based on user presence detections

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6953777B2 (en) * 1999-03-11 2005-10-11 Genetics Indtitute LLC Use of interleukin-11 to prevent immune-mediated cytotoxicity

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10051600B1 (en) 2017-12-12 2018-08-14 Amazon Technologies, Inc. Selective notification delivery based on user presence detections

Also Published As

Publication number Publication date
JP2020174281A (ja) 2020-10-22

Similar Documents

Publication Publication Date Title
US10985936B2 (en) Customized interface based on vocal input
US20220224557A1 (en) Customized interface based on vocal input
WO2020144884A1 (ja) 方法、制御装置、及びプログラム
JP7060812B2 (ja) 空調機、空調システム、通信システム、制御システム、機器制御システム、機器管理システム及び音情報解析システム
KR101413043B1 (ko) 실시간 양방향 통신을 이용한 애완 동물 보호 시스템 및 방법
CN108877126A (zh) 经由居家助手进行活动监视的系统、方法和设备
CN112015095A (zh) 智能设备的组网配置方法、装置、服务器及存储介质
CN105446162A (zh) 一种智能家居系统以及机器人的智能家居控制方法
JP6355939B2 (ja) 音声サーバおよびその制御方法、並びに音声システム
CN106257355A (zh) 设备控制方法和控制器
KR102388944B1 (ko) 비대면 방식의 인테리어 리모델링 스타일 추천 시스템 및 그 방법
JP2020521366A (ja) マルチモーダル対話型ホームオートメーションシステム
JP2008283433A (ja) ネットワーク家電システム
CN108447153A (zh) 一种单元门口智能机器人装置
CN111917591A (zh) 智能设备组网方案生成方法、装置及电子设备
CN108306991A (zh) 一种室内外安防联动控制系统
CN109599100B (zh) 交互式电子设备控制系统、交互式电子设备及其控制方法
JP7218232B2 (ja) 通知システム
JP7319868B2 (ja) 環境構築サポートシステム
JP2006277059A (ja) 設備管理システム
JP5579565B2 (ja) インターホン装置
CN111183478A (zh) 家电系统
KR20080096240A (ko) 음성인식 네트워크가스밸브제어시스템.
JP6698428B2 (ja) ネットワークシステム、情報処理方法、およびサーバ
CN111211950A (zh) 分布式智能家居网关系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211021

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221018

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230125

R150 Certificate of patent or registration of utility model

Ref document number: 7218232

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150