JP7065314B2 - 制御システム、及び、制御方法 - Google Patents

制御システム、及び、制御方法 Download PDF

Info

Publication number
JP7065314B2
JP7065314B2 JP2018024287A JP2018024287A JP7065314B2 JP 7065314 B2 JP7065314 B2 JP 7065314B2 JP 2018024287 A JP2018024287 A JP 2018024287A JP 2018024287 A JP2018024287 A JP 2018024287A JP 7065314 B2 JP7065314 B2 JP 7065314B2
Authority
JP
Japan
Prior art keywords
control
voice
information
person
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018024287A
Other languages
English (en)
Other versions
JP2019139155A (ja
Inventor
清規 城戸
敬一 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2018024287A priority Critical patent/JP7065314B2/ja
Priority to PCT/JP2019/002353 priority patent/WO2019159645A1/ja
Priority to CN201980012327.1A priority patent/CN111684819A/zh
Priority to US16/967,992 priority patent/US20210035577A1/en
Publication of JP2019139155A publication Critical patent/JP2019139155A/ja
Application granted granted Critical
Publication of JP7065314B2 publication Critical patent/JP7065314B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/316User authentication by observing the pattern of computer usage, e.g. typical user behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/24Speech recognition using non-acoustical features
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2111Location-sensitive, e.g. geographical location, GPS
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/227Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of the speaker; Human-factor methodology

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Social Psychology (AREA)
  • Software Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、音声に基づく機器制御が可能な制御システム、及び、制御方法に関する。
VPA(Virtual Personal Assistance)と呼ばれる、音声で機器を操作するサービスが普及し始めている。特許文献1には、ネットワークに接続可能な集音機器が音声情報を収集し、収集した音声情報に基づいて、ネットワークを介して家電機器を制御する家電機器制御システムが開示されている。
国際公開第2014/171144号
音声制御システムにおいては、ユーザの意図に反して取得された音声に基づいて機器が誤って制御されてしまう可能性がある。
本発明は、機器が誤って制御されてしまうことを抑制することができる制御システム、及び、制御方法を提供する。
本発明の一態様に係る制御システムは、音声取得部によって取得された音声に基づいて機器を制御するための音声制御情報を出力する音声制御システムと通信を行う通信部と、前記音声取得部の音声の取得の対象となる所定領域内の人の有無に関する人情報を取得する人情報取得部と、取得された前記人情報に基づいて、制御対象機器を制御するための制御情報を出力する出力部とを備える。
本発明の一態様に係る制御方法は、音声取得部によって取得された音声に基づいて機器を制御するための音声制御情報を出力する音声制御システムと通信を行い、前記音声取得部の音声の取得の対象となる所定領域内の人の有無に関する人情報を取得し、取得された前記人情報に基づいて、制御対象機器を制御するための制御情報を出力する。
本発明の一態様に係るプログラムは、前記制御方法をコンピュータに実行させるためのプログラムである。
本発明によれば、機器が誤って制御されてしまうことを抑制することができる制御システム、及び、制御方法が実現される。
図1は、実施の形態1に係る音声認識システムの機能構成を示すブロック図である。 図2は、実施の形態1に係る制御システムの動作例1のフローチャートである。 図3は、実施の形態1に係る制御システムの動作例2のフローチャートである。 図4は、実施の形態2に係る音声認識システムの機能構成を示すブロック図である。 図5は、実施の形態3に係る音声認識システムの機能構成を示すブロック図である。 図6は、実施の形態3に係る制御システムの動作例1のフローチャートである。 図7は、実施の形態3に係る制御システムの動作例2のフローチャートである。 図8は、実施の形態4に係る音声認識システムの機能構成を示すブロック図である。
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付し、重複する説明は省略または簡略化される場合がある。
(実施の形態1)
[構成]
まず、実施の形態1に係る音声認識システムの構成について説明する。図1は、実施の形態1に係る音声認識システムの機能構成を示すブロック図である。
図1に示されるように、実施の形態1に係る音声認識システム10は、音声制御システム20と、制御システム30と、人検知装置60と、ルータ70とを備える。宅内には、音声制御システム20の音声入力端末21、制御システム30の制御対象機器50、人検知装置60、及び、ルータ70が設置されている。音声制御システム20の音声認識サーバ22、及び、制御システム30の機器制御サーバ40は、クラウド(クラウドサーバ)として実現される。また、図1では、宅外に配置された音声入力端末80も図示されている。
[音声制御システムの構成]
音声制御システム20は、音声を入力として制御対象機器を制御するためのシステムである。音声制御システム20は、音声入力端末21と、音声認識サーバ22とを備える。
音声入力端末21は、宅内のユーザ等の音声を取得する音声入力インターフェース装置である。音声入力端末21は、音声取得部の一例である。音声入力端末21は、例えば、スマートスピーカ等の据え置き型の端末であるが、スマートフォンなどの携帯端末であってもよい。音声入力端末21は、マイクロフォンなどの集音装置、及び、取得した音声の音声信号を音声認識サーバ22に送信する通信回路等を備えているのであれば、どのような装置であってもよい。
ルータ70は、宅内のローカル通信ネットワークと、宅外の広域通信ネットワーク(例えば、インターネット等の公衆ネットワーク)を中継する中継装置である。ルータ70は、例えば、音声入力端末21によって取得された音声の音声信号をクラウド上の音声認識サーバ22に送信する。
音声認識サーバ22は、音声入力端末21から送信される音声信号に対して音声認識処理を行うサーバである。音声認識サービスを提供する事業者は、音声認識サーバ22を用いて当該音声認識サービスを提供する。音声認識サーバ22は、例えば、音声入力端末21から送信される音声信号をテキスト情報に変換し、テキスト情報を当該テキスト情報に対応するコマンドに変換する。コマンドは、音声入力端末21によって取得された音声に基づいて機器を制御するための音声制御情報の一例である。例えば、テキスト情報が「エアコンをつけて」というテキストを示す場合、このようなテキスト情報は、エアコンの動作を開始させるためのコマンドに変換される。また、音声認識サーバ22は、コマンドを制御システム30の機器制御サーバ40に送信する。
[制御システムの構成]
制御システム30は、音声制御システム20と連携して宅内に設置された制御対象機器を制御するシステムである。制御システム30は、機器制御サーバ40と、制御対象機器50とを備える。
機器制御サーバ40は、音声認識サーバ22から送信されるコマンドに基づいて宅内の制御対象機器50の制御を行うサーバである。機器制御サービスを提供する事業者は、機器制御サーバ40を用いて当該機器制御サービスを提供する。機器制御サーバ40は、第一通信部41と、第一制御部42と、第一記憶部43とを備える。
第一通信部41は、音声制御システム20と通信を行う。第一通信部41は、具体的には、音声制御システム20と通信を行うことにより、音声制御情報を取得する。上述のように、音声制御情報は、例えば、音声認識サーバ22によって送信されたコマンドである。第一通信部41は、例えば、通信回路によって実現される。
第一制御部42は、第一通信部41によって取得されたコマンドを、宅内の制御対象機器50を制御するための個別コマンドに変換する。また、第一制御部42は、第一通信部41を用いて個別コマンドを制御対象機器50に送信する。なお、音声認識サーバ22からは音声制御情報としてテキスト情報が送信され、第一制御部42がテキスト情報のコマンドへの変換、及び、コマンドの個別コマンドへの変換の両方を行ってもよい。第一制御部42は、例えば、マイクロコンピュータまたはプロセッサによって実現される。
第一記憶部43は、第一制御部42が実行するプログラムが記憶される記憶装置である。第一記憶部43は、例えば、半導体メモリなどによって実現される。
制御対象機器50は、機器制御サーバ40の第一通信部41によって送信される個別コマンドを受信し、受信された個別コマンドにしたがって動作する機器である。制御対象機器50は、例えば、エアコンなどの家電機器であるが、建具(例えば、玄関のドア)の施錠装置など家電機器以外の機器であってもよい。また、制御システム30の制御対象機器には、制御対象機器50だけでなく、音声入力端末21が含まれてもよい。
このような音声認識システム10においては、宅内のユーザではなく宅外にいる悪意あるユーザU1が音声入力端末80を用いて制御対象機器50の遠隔制御を試みる場合がある。また、悪意あるユーザU2が、宅外から大声で宅内の音声入力端末21への音声の入力を試みる場合もある。
そこで、音声認識システム10は、人検知装置60を備え、制御システム30は、人検知装置60の検知結果に基づいて、制御対象機器50の制御を行う。人検知装置60は、音声入力端末21の音声の取得の対象となる所定領域内(つまり、宅内の所定領域内)の人の有無を検知し、人の有無に関する人情報を出力する。人検知装置60は、単独の装置として実現されてもよいし、他の装置の一部として実現されてもよい。人検知装置60は、例えば、宅内に人が存在するか否かを直接的に検知する装置であり、具体的には、人の体から発せられる赤外線を検知するセンサである。
また、人検知装置60は、宅内に人が存在するか否かを間接的に検知する装置であってもよい。この場合、人検知装置60は、具体的には、玄関ドアの施錠装置であってもよい。この場合、玄関ドアの施錠状態に基づいて宅内に人が存在するか否かが推定される。例えば、玄関ドアがロックされていないときに宅内に人が存在すると推定される。また、人検知装置60は、宅内の消費電力を計測する電力計測装置であってもよく、この場合、宅内の消費電力情報に基づいて宅内に人が存在するか否かが推定される。例えば、宅内の消費電力が所定値以上である場合に宅内に人が存在すると推定される。施錠状態及び消費電力情報は、生活情報の一例である。
人検知装置60は、音声入力端末21とは別の集音装置であってもよい。この場合、音声の取得状況に基づいて人が存在するか否かが推定される。例えば、所定の音圧レベル以上の音声が取得されているときに宅内に人が存在すると推定される。
人検知装置60は、ユーザが身につけているICタグ、または、ユーザが携帯する携帯端末に内蔵されたICタグを検知する検知装置であってもよい。なお、人検知装置60がICタグを検知することができる検知装置であれば、特定人が所定領域内に存在するか否かを検知することができるが、人検知装置60が特定人が所定領域内に存在するか否かを検知することは必須ではない。
[制御対象機器の具体的構成]
実施の形態1では、制御対象機器50において人情報を用いた情報処理が行われる。以下、制御対象機器50の具体的構成について引き続き図1を参照しながら説明する。制御対象機器50は、第二通信部51と、第二制御部52と、第二記憶部53とを備える。
第二通信部51は、機器制御サーバ40の第一通信部41によって送信される個別コマンドを、ルータ70を介して受信する。また、第二通信部51は、人情報取得部の一例であり、人検知装置60によって出力された、所定領域における人の有無を示す人情報を取得する。第二通信部51は、宅内のローカル通信ネットワークを通じて人情報を取得する。第二通信部51は、例えば、通信回路によって実現される。なお、図1では、第二通信部51は、ルータ70を経由せずに人検知装置60から人情報を取得するように図示されているが、実際にはルータ70を経由する場合がある。以降の図面でも同様である。
第二制御部52は、出力部54と、機器制御部55とを備える。第二制御部52は、例えば、マイクロコンピュータによって実現されるが、プロセッサによって実現されてもよい。
出力部54は、第二通信部51によって取得された人情報に基づいて、制御対象機器50を制御するための制御情報を出力する。出力部54は、例えば、第一通信部41によって取得された音声制御情報(より具体的には、第二通信部51によって受信される個別コマンド)および第二通信部51によって取得された人情報に基づいて、制御対象機器50を制御するための制御情報を出力する。
なお、上述のように、第二通信部51によって取得された人情報は、所定領域における人の有無を間接的に示す場合がある。このような場合、出力部54は、人情報を用いて人の有無を判定する処理を行う。
機器制御部55は、出力部54によって出力される制御情報に基づいて、制御対象機器50の動作を行う。例えば、制御対象機器50が空調機器である場合、機器制御部55は、出力部54によって出力される制御情報に基づいて空調動作を行う。
第二記憶部53は、第二制御部52によって実行されるプログラムなどが記憶される記憶装置である。第二記憶部53は、具体的には、半導体メモリなどによって実現される。
[制御システムの動作例1]
次に、制御システム30の動作例1について説明する。図2は、制御システム30の動作例1のフローチャートである。
まず、第一通信部41は、音声制御システム20と通信を行うことにより第一制御を指示する音声制御情報を取得する(S11)。また、第二通信部51は、音声入力端末21の音声の取得の対象となる所定領域内の人の有無に関する人情報を人検知装置60から取得する(S12)。
次に、出力部54は、ステップS12において取得された人情報が所定領域内に人がいることを示すか否かを判定する(S13)。出力部54は、例えば、音声制御情報が取得された時点において人情報が所定領域内に人がいることを示すか否かを判定する。
出力部54は、人情報が所定領域内に人がいることを示すと判定した場合には(S13でYes)、制御対象機器50に対して第一制御を行うための制御情報を出力する(S14)。例えば、制御対象機器50が空調機器であり、第一制御が空調機器をオンする制御であれば、出力部54は、制御対象機器50(つまり、空調機器)をオンするための制御情報を出力する。
一方、出力部54は、人情報が所定領域内に人がいないことを示すと判定した場合には(S13でNo)、制御対象機器50に対して第一制御を行うための制御情報を出力しない。つまり、出力部54は、ステップS11において取得された音声制御情報が宅内に存在する人の音声に基づくものではないと推定される場合に、第一制御を指示する音声制御情報にしたがわず、当該音声制御情報を無視する。
このような動作例1によれば、宅外のユーザ(例えば、ユーザU1またはユーザU2)の音声によって制御対象機器50が制御されることが抑制される。つまり、制御システム30は、制御対象機器50が宅内のユーザの意図に反して誤って制御されてしまうことを抑制することができる。
[制御システムの動作例2]
次に、制御システム30の動作例2について説明する。図3は、制御システム30の動作例2のフローチャートである。
動作例1と同様に、第一通信部41は、第一制御を指示する音声制御情報を取得し(S11)、第二通信部51は、人情報を人検知装置60から取得する(S12)。
出力部54は、ステップS12において取得された人情報が所定領域内に人がいることを示すか否かを判定する(S13)。出力部54は、人情報が所定領域内に人がいることを示すと判定した場合には(S13でYes)、制御対象機器50の機器制御部55に対して第一制御を行うための制御情報を出力する(S14)。例えば、制御対象機器50が空調機器であり、第一制御が空調機器を25℃で冷房動作させる制御である場合、出力部54は、制御対象機器50(つまり、空調機器)を25℃で冷房動作させるための制御情報を出力する。
一方、出力部54は、人情報が所定領域内に人がいないことを示すと判定した場合には(S13でNo)、制御対象機器50に対して第二制御を行うための制御情報を出力する(S15)。第二制御は、ステップS11において取得された音声制御情報によって指示される第一制御とは異なる制御である。つまり、出力部54は、ステップS11において取得された音声制御情報が宅内に存在する人の音声に基づくものではないと推定される場合に、音声制御情報にしたがわず、制御内容を改変する。
例えば、制御対象機器50が空調機器であり、第一制御が空調機器を25℃で冷房動作させる制御である場合、第二制御は、空調機器を28℃で冷房動作させる制御である。つまり、出力部54は、人がいないと推定されることから過度な冷房を避ける(消費電力を下げる)ように制御内容を改変する。言い換えれば、出力部54は、音声制御情報によって指示される制御内容を人がいない状況に対応した制御内容に変更する。
このような動作例2によれば、宅内に人がいないと推定される場合に、制御対象機器50が不適切な動作を行うことが抑制される。
[変形例]
なお、第一通信部41は、音声入力端末21によって取得された音声の方向に関する情報を取得してもよい。出力部54は、音声の方向に関する情報および人情報に基づいて制御情報を出力してもよい。
この場合、音声の方向は、音声入力端末21が備えるセンサによって検知され、音声入力端末21が音声の入力に関する情報を生成する。音声入力端末21は、取得された音声の音声信号に加えて取得された音声の方向に関する情報を音声認識サーバ22に送信する。
音声の方向に関する情報は、第一通信部41によって取得される。例えば、上記動作例1で音声の方向に関する情報が用いられる場合、音声の方向に関する情報が示す方向が所定の方向であることが、第一制御が行われる要件として追加される。つまり、人情報が所定領域内に人がいることを示す場合であって、かつ、音声の方向に関する情報が示す方向が所定の方向である場合に第一制御が行われる。
また、第一通信部41は、音声入力端末21によって取得された音声の強度(具体的には、音圧)に関する情報を取得してもよい。出力部54は、音声の強度に関する情報および人情報に基づいて制御情報を出力してもよい。
この場合、音声の強度は、音声入力端末21が備えるセンサによって検知され、音声入力端末21が音声の入力に関する情報を生成する。音声入力端末21は、取得された音声の音声信号に加えて取得された音声の強度に関する情報を音声認識サーバ22に送信する。
音声の強度に関する情報は、第一通信部41によって取得される。例えば、上記動作例1で音声の強度に関する情報が用いられる場合、音声の強度に関する情報が示す強度が所定の強度以上であることが、第一制御が行われる要件として追加される。つまり、人情報が所定領域内に人がいることを示す場合であって、かつ、音声の強度に関する情報が示す強度が所定の強度以上である場合に第一制御が行われる。
(実施の形態2)
[構成]
次に、実施の形態2に係る音声認識システムの構成について説明する。図4は、実施の形態2に係る音声認識システムの機能構成を示すブロック図である。なお、以下の実施の形態2では、実施の形態1との相違点を中心に説明が行われ、既出事項の説明については省略または簡略化される。実施の形態3以降についても同様である。
図4に示されるように、実施の形態2に係る音声認識システム10aが備える制御システム30aは、機器制御サーバ40aと、制御対象機器50aとを備える。
実施の形態2では、機器制御サーバ40aにおいて人情報を用いた情報処理が行われる。機器制御サーバ40aは、第一通信部41aと、第一制御部42aと、第一記憶部43とを備える。
第一通信部41aは、音声制御システム20と通信を行う。第一通信部41aは、具体的には、音声制御システム20と通信を行うことにより、音声制御情報を取得する。また、第一通信部41aは、人情報取得部の一例であり、人検知装置60と通信を行うことにより、人検知装置60によって出力された、所定領域における人の有無を示す人情報を取得する。第一通信部41aは、例えば、通信回路によって実現される。
第一制御部42aは、出力部44aを備える。第一制御部42aは、例えば、マイクロコンピュータまたはプロセッサによって実現される。出力部44aは、第一通信部41によって取得された制御コマンドを、宅内の制御対象機器50aを制御するための個別コマンドに変換する。
また、出力部44aは、第一通信部41aによって取得された人情報に基づいて、制御対象機器50aを制御するための制御情報を出力する。出力部44aは、具体的には、図2で説明されたような制御情報の出力の停止、及び、図3を用いて説明されたような制御情報(制御内容)の改変を行う。ここでの制御情報は、上記個別コマンドである。
出力部44aから制御情報が出力される場合、制御情報は、第一通信部41aによって制御対象機器50aに送信される、制御対象機器50aの第二通信部51によって制御情報が受信されると、第二制御部52aが備える機器制御部55は、受信された制御情報に基づいて、制御対象機器50aの動作を行う。
以上説明したように、音声認識システム10aでは、制御対象機器50aではなく、機器制御サーバ40aにおいて人情報を用いた情報処理が行われる。つまり、機器制御サーバ40a側の仕様変更により、人の不在時における音声に基づく機器制御の停止等が実現される。言い換えれば、人の不在時における音声に基づく機器制御の停止等が、制御対象機器50aの仕様の変更規模を抑制しつつ実現される。
(実施の形態3)
[構成]
次に、実施の形態3に係る音声認識システムの構成について説明する。図5は、実施の形態3に係る音声認識システムの機能構成を示すブロック図である。なお、図5では、機器制御サーバ40及び制御対象機器50aの機能構成は簡略化されている。
図5に示されるように、実施の形態3に係る音声認識システム10bが備える制御システム30bは、機器制御サーバ40と、制御装置90と、制御対象機器50aとを備える。実施の形態3では、制御装置90において人情報を用いた情報処理が行われる。
制御装置90は、宅内の機器を制御する装置である。制御装置90は、例えば、HEMS(Home Energy Management System)コントローラ(言い換えれば、ホームゲートウェイ)である。制御装置90は、第三通信部91と、第三制御部92と、第三記憶部93とを備える。
第三通信部91は、機器制御サーバ40の第一通信部41によって送信される個別コマンドを、ルータ70を介して受信する。また、第三通信部91は、人情報取得部の一例であり、人検知装置60によって出力された、所定領域における人の有無を示す人情報を取得する。第三通信部91は、宅内のローカル通信ネットワークを通じて人情報を取得する。第三通信部91は、例えば、通信回路によって実現される。
第三制御部92は、出力部94を備える。第三制御部92は、例えば、マイクロコンピュータによって実現されるが、プロセッサによって実現されてもよい。
出力部94は、第一通信部41によって取得された音声制御情報(より具体的には、第三通信部91によって受信される個別コマンド)および第三通信部91によって取得された人情報に基づいて、制御対象機器50aを制御するための制御情報を出力する。
なお、上述のように、第三通信部91によって取得された人情報は、所定領域における人の有無を間接的に示す場合がある。このような場合、出力部94は、人情報を用いて人の有無を判定する処理を行う。
第三記憶部93は、第三制御部92によって実行されるプログラムなどが記憶される記憶装置である。第三記憶部93は、具体的には、半導体メモリなどによって実現される。
出力部94から制御情報が出力される場合、制御情報は、第三通信部91によって宅内のローカル通信ネットワークを通じて制御対象機器50aに送信される。制御対象機器50aの第二通信部51(図5では図示省略)によって制御情報が受信されると、機器制御部55は、受信された制御情報に基づいて、制御対象機器50aの動作を行う。
[実施の形態3の動作例1]
制御システム30bでは、制御装置90において人情報を用いた情報処理が行われる。制御装置90の出力部94は、具体的には、図2で説明されたような制御情報の出力の停止、及び、図3を用いて説明されたような制御情報(制御内容)の改変を行うことができる。
また、制御システム30bにおいて、音声入力端末21が制御対象機器とされてもよい。つまり、制御システム30bの出力部94は、音声制御情報及び人情報に基づいて、音声入力端末21を制御するための制御情報を出力してもよい。図6は、このような制御システム30bの動作例1のフローチャートである。
動作例1においては、当初は、音声入力端末21が動作中であり宅内に人がいる状態であるとする。まず、第三通信部91は、音声入力端末21の音声の取得の対象となる所定領域内の人の有無に関する人情報を人検知装置60から取得する(S21)。
次に、出力部94は、ステップS21において取得された人情報が、人がいないことを示すか否かを判定する(S22)。出力部94は、具体的には、人がいることを示していた人情報が人がいないことを示すように変化したか否かを判定する。
出力部94は、人情報が人がいないことを示すと判定した場合には(S22でYes)、音声入力端末21の動作を停止させるための制御情報を出力する(S23)。出力された制御情報は、第三通信部91によって宅内のローカル通信ネットワークを通じて音声入力端末21に送信される。これにより、宅内に人が存在しないと推定される場合に、音声入力端末21を通じた音声に基づく制御対象機器50aの制御が停止される。
なお、音声入力端末21の動作を停止させるとは、少なくとも音声入力端末21から音声認識サーバ22への音声信号の出力を停止させることを意味する。音声信号の出力の停止は、どのように実現されてもよい。音声信号の出力の停止は、音声入力端末21の電源がオフされることによって実現されてもよいし、音声入力端末21が備えるマイクロフォンが電源オフまたはミュートされることによって実現されてもよいし、音声信号を出力(送信)する通信回路がオフされることによって実現されてもよい。
一方、出力部94は、人情報が人がいることを示すと判定した場合には(S22でNo)、音声入力端末21の動作を停止させるための制御情報を出力しない。この結果、音声入力端末21の動作が継続される。
このような動作例1によれば、宅内に人が不在であるときに宅外のユーザの音声によって制御対象機器50aが制御されることが抑制される。また、宅内に人が不在であるときに音声入力端末21が誤動作することが抑制される。
[実施の形態3の動作例2]
図7は、制御システム30bの動作例2のフローチャートである。動作例2においては、当初は、音声入力端末21が動作停止中であり宅内に人がいない状態であるとする。
まず、第三通信部91は、音声入力端末21の音声の取得の対象となる所定領域内の人の有無に関する人情報を人検知装置60から取得する(S21)。次に、出力部94は、ステップS21において取得された人情報が、人がいることを示すか否かを判定する(S24)。出力部94は、具体的には、人がいないことを示していた人情報が人がいることを示すように変化したか否かを判定する。
出力部94は、人情報が人がいることを示すと判定した場合には(S24でYes)、音声入力端末21の動作を開始させるための制御情報を出力する(S25)。出力された制御情報は、第三通信部91によって宅内のローカル通信ネットワークを通じて音声入力端末21に送信される。これにより、宅内に人が存在すると推定される場合に、音声入力端末21を通じた音声に基づく制御対象機器50aの制御が可能となる。
一方、出力部94は、人情報が人がいないことを示すと判定した場合には(S24でNo)、音声入力端末21の動作を開始させるための制御情報を出力しない。この結果、音声入力端末21の動作停止が継続される。
このような動作例2によれば、宅内に人が存在すると推定される場合に、音声入力端末21を通じた音声に基づく制御対象機器50aの制御が再開される。
(実施の形態4)
[構成]
次に、実施の形態4に係る音声認識システムの構成について説明する。図8は、実施の形態4に係る音声認識システムの機能構成を示すブロック図である。なお、図8では、機器制御サーバ40及び制御対象機器50aの機能構成は簡略化されている。
図8に示されるように、実施の形態4に係る音声認識システム10cが備える制御システム30cは、機器制御サーバ40と、制御対象機器50aと、人検知装置60cとを備える。人検知装置60cは、第四通信部61と、センサ部62と、第四制御部63と、第四記憶部64とを備える。
第四通信部61は、音声制御システム20と通信を行う。第四通信部61は、具体的には、音声制御システム20の音声入力端末21と宅内のローカル通信ネットワークを通じて通信を行う。第四通信部61は、例えば、通信回路によって実現される。
センサ部62は、宅内に人がいるか否かを検知することにより音声入力端末21の音声の取得の対象となる所定領域内(つまり、宅内の所定領域内)の人の有無を検知し、人の有無に関する人情報を出力する。上述の人検知装置60と同様に、センサ部62の具体的態様は特に限定されない。センサ部62は、宅内に人が存在するか否かを直接的または間接的に検知する装置であればよい。
第四制御部63は、人情報取得部65、及び、出力部66を備える。第四制御部63は、例えば、マイクロコンピュータによって実現されるが、プロセッサによって実現されてもよい。
人情報取得部65は、センサ部62によって出力される人情報を取得する。出力部66は、人情報取得部65によって取得された人情報に基づいて、音声入力端末21を制御するための制御情報を出力する。
出力部66は、例えば、人情報が所定領域内に人がいないことを示す場合に、音声入力端末21の動作を停止させるための制御情報を出力する。出力された制御情報は、第四通信部61によって音声入力端末21に送信される。これにより、実施の形態3の動作例1と同様に、宅内に人が存在しないと推定される場合に、音声入力端末21を通じた音声に基づく制御対象機器50aの制御が停止される。
また、出力部66は、例えば、人情報が所定領域内に人がいることを示す場合に、音声入力端末21の動作を開始させるための制御情報を出力する。出力された制御情報は、第四通信部61によって音声入力端末21に送信される。これにより、実施の形態3の動作例2と同様に、宅内に人が存在すると推定される場合に、音声入力端末21を通じた音声に基づく制御対象機器50aの制御が再開される。
第四記憶部64は、第四制御部63によって実行されるプログラムなどが記憶される記憶装置である。第四記憶部64は、具体的には、半導体メモリなどによって実現される。
以上説明したように、音声認識システム10cでは、機器制御サーバ40及び制御対象機器50aではなく、人検知装置60cにおいて人情報を用いた情報処理が行われる。つまり、人検知装置60cの導入により、人の不在時における音声に基づく機器制御の停止等が実現される。言い換えれば、人の不在時における音声に基づく機器制御の停止等が、機器制御サーバ40及び制御対象機器50aの仕様の変更規模を抑制しつつ実現される。
(効果等)
以上説明したように、制御システム30は、音声入力端末21によって取得された音声に基づいて機器を制御するための音声制御情報を出力する音声制御システム20と通信を行う第一通信部41と、音声入力端末21の音声の取得の対象となる所定領域内の人の有無に関する人情報を取得する第二通信部51と、取得された人情報に基づいて、制御対象機器50を制御するための制御情報を出力する出力部54とを備える。音声入力端末21は、音声取得部の一例であり、第二通信部51は、人情報取得部の一例である。
このような制御システム30は、音声入力端末21の周辺に人がいるかどうかに基づいて、制御対象機器50に対する制御内容を変更することができる。したがって、機器が誤って制御されてしまうことを抑制することができる。
また、例えば、第一通信部41は、音声制御システム20と通信を行うことにより音声制御情報を取得し、出力部54は、取得された音声制御情報および取得された人情報に基づいて、制御情報を出力する。
このような制御システム30は、音声入力端末21の周辺に人がいるかどうかに基づいて、音声制御情報によって指示される制御対象機器50に対する制御内容を変更することができる。
また、例えば、出力部54は、第一通信部41によって音声制御情報が取得された場合に、人情報に基づいて、制御対象機器50に対して音声制御情報によって指示される第一制御とは異なる第二制御を行うための制御情報を出力する。
このような制御システム30は、音声入力端末21の周辺に人がいるかどうかに基づいて、制御対象機器50に対する制御を第一制御から第二制御に変更することができる。
また、例えば、出力部54は、第一通信部41によって音声制御情報が取得された場合、人情報が所定領域内に人がいることを示すときには、制御対象機器50に対して第一制御を行うための制御情報を出力し、人情報が所定領域内に人がいないことを示すときには、制御対象機器50に対して第二制御を行うための制御情報を出力する。
このような制御システム30は、音声入力端末21の周辺に人がいない場合に、制御対象機器50に対する制御を第一制御から第二制御に変更することができる。
また、制御システム30bにおいて、制御対象機器には、音声入力端末21が含まれる。出力部94は、取得された人情報に基づいて、音声入力端末21を制御するため制御情報を出力する。
このような制御システム30bは、音声入力端末21の周辺に人がいるかどうかに基づいて、音声入力端末21を制御することができる。
また、例えば、出力部94は、人情報が所定領域内に人がいないことを示す場合に、音声入力端末21の動作を停止させるための制御情報を出力する。
このような制御システム30bは、音声入力端末21の周辺に人がいない場合に、音声入力端末21の動作を停止することができる。したがって、宅内に人が不在であるときに宅外のユーザ等の音声によって制御対象機器50aが制御されることが抑制される。また、宅内に人が不在であるときに音声入力端末21が誤動作することが抑制される。
また、例えば、出力部94は、人情報が所定領域内に人がいることを示す場合に、音声入力端末21の動作を開始させるための制御情報を出力する。
このような制御システム30bは、宅内に人が存在すると推定される場合に、音声入力端末21を通じた音声に基づく制御対象機器50aの制御を再開することができる。
(その他の実施の形態)
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではない。
例えば、上記実施の形態における装置間の通信方法については特に限定されるものではない。装置間では、例えば、特定小電力無線、ZigBee(登録商標)、Bluetooth(登録商標)、または、Wi-Fi(登録商標)などの通信規格を用いた無線通信が行われる。なお、無線通信は、具体的には、電波通信、または、赤外線通信などである。
また、装置間においては、無線通信に代えて、電力線搬送通信(PLC:Power Line Communication)または有線LANを用いた通信など、有線通信が行われてもよい。また、装置間では、無線通信及び有線通信が組み合わされてもよい。
また、上記実施の形態において、特定の処理部が実行する処理を別の処理部が実行してもよい。また、複数の処理の順序が変更されてもよいし、複数の処理が並行して実行されてもよい。
また、上記実施の形態において、制御部などの構成要素は、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、制御部などの構成要素は、ハードウェアによって実現されてもよい。例えば、制御部などの構成要素は、回路(または集積回路)でもよい。これらの回路は、全体として1つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。
また、本発明の全般的または具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよい。また、システム、装置、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
例えば、本発明は、制御対象機器、機器制御サーバ、制御装置、または、人検知装置として実現されてもよい。また、本発明は、制御方法として実現されてもよいし、制御方法をコンピュータに実行させるためのプログラムとして実現されてもよいし、このようなプログラムが記録された非一時的な記録媒体として実現されてもよい。
また、上記実施の形態で説明された各システムは、単一の装置として実現されてもよいし、複数の装置によって実現されてもよい。システムが複数の装置によって実現される場合、上記実施の形態で説明されたシステムが備える構成要素は、複数の装置にどのように振り分けられてもよい。
その他、各実施の形態に対して当業者が思いつく各種変形を施して得られる形態、または、本発明の趣旨を逸脱しない範囲で各実施の形態における構成要素及び機能を任意に組み合わせることで実現される形態も本発明に含まれる。
20 音声制御システム
21 音声入力端末(音声取得部)
22 音声認識サーバ
30、30a、30b、30c 制御システム
41 第一通信部(通信部)
41a 第一通信部(通信部、人情報取得部)
44a、54、66、94 出力部
50、50a 制御対象機器
51 第二通信部(人情報取得部)
61 第四通信部(通信部)
65 人情報取得部
91 第三通信部(人情報取得部)

Claims (8)

  1. 音声取得部によって取得された音声に基づいて機器を制御するための音声制御情報を出力する音声制御システムと通信を行う通信部と、
    前記音声取得部の音声の取得の対象となる所定領域内の人の有無に関する人情報を取得する人情報取得部と、
    取得された前記人情報に基づいて、制御対象機器を制御するための制御情報を出力する出力部とを備え
    前記制御対象機器には、前記音声取得部が含まれ、
    前記出力部は、取得された前記人情報に基づいて、前記音声取得部を制御するための前記制御情報を出力する
    制御システム。
  2. 前記通信部は、前記音声制御システムと通信を行うことにより前記音声制御情報を取得し、
    前記出力部は、取得された前記音声制御情報および取得された前記人情報に基づいて、前記制御情報を出力する
    請求項1に記載の制御システム。
  3. 前記出力部は、前記通信部によって前記音声制御情報が取得された場合に、前記人情報に基づいて、前記制御対象機器に対して前記音声制御情報によって指示される第一制御とは異なる第二制御を行うための前記制御情報を出力する
    請求項2に記載の制御システム。
  4. 前記出力部は、前記通信部によって前記音声制御情報が取得された場合、
    前記人情報が前記所定領域内に人がいることを示すときには、前記制御対象機器に対して前記第一制御を行うための前記制御情報を出力し、
    前記人情報が前記所定領域内に人がいないことを示すときには、前記制御対象機器に対して前記第二制御を行うための前記制御情報を出力する
    請求項3に記載の制御システム。
  5. 前記出力部は、前記人情報が前記所定領域内に人がいないことを示す場合に、前記音声取得部の動作を停止させるための制御情報を出力する
    請求項に記載の制御システム。
  6. 前記出力部は、前記人情報が前記所定領域内に人がいることを示す場合に、前記音声取得部の動作を開始させるための制御情報を出力する
    請求項に記載の制御システム。
  7. 音声取得部によって取得された音声に基づいて機器を制御するための音声制御情報を出力する音声制御システムと通信を行い、
    前記音声取得部の音声の取得の対象となる所定領域内の人の有無に関する人情報を取得し、
    取得された前記人情報に基づいて、制御対象機器を制御するための制御情報を出力し、
    前記制御対象機器には、前記音声取得部が含まれ、
    前記制御情報の出力においては、取得された前記人情報に基づいて、前記音声取得部を制御するための前記制御情報を出力する
    制御方法。
  8. 請求項7に記載の制御方法をコンピュータに実行させるためのプログラム。
JP2018024287A 2018-02-14 2018-02-14 制御システム、及び、制御方法 Active JP7065314B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018024287A JP7065314B2 (ja) 2018-02-14 2018-02-14 制御システム、及び、制御方法
PCT/JP2019/002353 WO2019159645A1 (ja) 2018-02-14 2019-01-24 制御システム、及び、制御方法
CN201980012327.1A CN111684819A (zh) 2018-02-14 2019-01-24 控制系统和控制方法
US16/967,992 US20210035577A1 (en) 2018-02-14 2019-01-24 Control system and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018024287A JP7065314B2 (ja) 2018-02-14 2018-02-14 制御システム、及び、制御方法

Publications (2)

Publication Number Publication Date
JP2019139155A JP2019139155A (ja) 2019-08-22
JP7065314B2 true JP7065314B2 (ja) 2022-05-12

Family

ID=67620987

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018024287A Active JP7065314B2 (ja) 2018-02-14 2018-02-14 制御システム、及び、制御方法

Country Status (4)

Country Link
US (1) US20210035577A1 (ja)
JP (1) JP7065314B2 (ja)
CN (1) CN111684819A (ja)
WO (1) WO2019159645A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014171144A1 (ja) 2013-04-19 2014-10-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 家電機器の制御方法、家電機器制御システム、及びゲートウェイ
JP2016166457A (ja) 2015-03-09 2016-09-15 株式会社トランストロン 開閉制御装置、開閉制御プログラムおよび開閉制御方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07210191A (ja) * 1994-01-24 1995-08-11 Matsushita Electric Works Ltd キッチン用音声認識システム
US20030171932A1 (en) * 2002-03-07 2003-09-11 Biing-Hwang Juang Speech recognition
JP2011118822A (ja) * 2009-12-07 2011-06-16 Nec Casio Mobile Communications Ltd 電子機器、発話検出装置、音声認識操作システム、音声認識操作方法及びプログラム
TWI474317B (zh) * 2012-07-06 2015-02-21 Realtek Semiconductor Corp 訊號處理裝置以及訊號處理方法
CN103841688A (zh) * 2012-11-20 2014-06-04 贵阳铝镁设计研究院有限公司 基于压力传感器的楼道灯控制方法及装置
US9384751B2 (en) * 2013-05-06 2016-07-05 Honeywell International Inc. User authentication of voice controlled devices
CN105676714A (zh) * 2014-11-19 2016-06-15 三峡大学 办公室电器智能自动开关系统装置
CN105652704A (zh) * 2014-12-01 2016-06-08 青岛海尔智能技术研发有限公司 一种家庭背景音乐播放控制方法
JP2016186386A (ja) * 2015-03-27 2016-10-27 三菱電機株式会社 加熱調理器および加熱調理システム
US9646628B1 (en) * 2015-06-26 2017-05-09 Amazon Technologies, Inc. Noise cancellation for open microphone mode
JP2017117371A (ja) * 2015-12-25 2017-06-29 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 制御方法、制御装置およびプログラム
US10621992B2 (en) * 2016-07-22 2020-04-14 Lenovo (Singapore) Pte. Ltd. Activating voice assistant based on at least one of user proximity and context
WO2018133307A1 (zh) * 2017-01-20 2018-07-26 华为技术有限公司 一种实现语音控制的方法和终端
US10121494B1 (en) * 2017-03-30 2018-11-06 Amazon Technologies, Inc. User presence detection
CN107589688A (zh) * 2017-07-13 2018-01-16 青岛海信移动通信技术股份有限公司 Mic阵列接收语音指令的方法及装置、语音控制系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014171144A1 (ja) 2013-04-19 2014-10-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 家電機器の制御方法、家電機器制御システム、及びゲートウェイ
JP2016166457A (ja) 2015-03-09 2016-09-15 株式会社トランストロン 開閉制御装置、開閉制御プログラムおよび開閉制御方法

Also Published As

Publication number Publication date
CN111684819A (zh) 2020-09-18
JP2019139155A (ja) 2019-08-22
WO2019159645A1 (ja) 2019-08-22
US20210035577A1 (en) 2021-02-04

Similar Documents

Publication Publication Date Title
Yue et al. Voice activated smart home design and implementation
JP2016502355A (ja) オートメ−ションシステムの音声制御された構成
US10645288B2 (en) Monitoring camera system and monitoring method
EP3432276A1 (en) Wake-up procedure for a bluetooth smart lock
KR102242961B1 (ko) 스마트 홈 네트워크 서비스 제어 장치 및 그 제어방법
CN112838967B (zh) 主控设备、智能家居及其控制装置、控制系统及控制方法
JP7065314B2 (ja) 制御システム、及び、制御方法
KR102495019B1 (ko) 동물소리 인식 사운드장치
KR102573242B1 (ko) 비명소리 인식을 위한 사운드장치
US10796701B2 (en) Operator assessment system
JP7245999B2 (ja) 制御情報取得システム、及び、制御情報取得方法
JP6928842B2 (ja) 制御情報取得システム、及び、制御情報取得方法
US20220036876A1 (en) Speech apparatus, server, and control system
KR102495028B1 (ko) 휘파람소리 인식 기능이 구비된 사운드장치
US10456921B2 (en) Industrial-robot control device
JP2017126863A (ja) 機器の遠隔操作システム
JP7182154B2 (ja) 機器制御システム
KR20200062623A (ko) 전자 장치 및 그것의 타 전자 장치를 제어하는 방법
JP2016158150A (ja) 遠隔操作システム
WO2019163333A1 (ja) 音声制御情報出力システム、音声制御情報出力方法およびプログラム
CN107358956B (zh) 一种语音控制方法及其控制模组
Nandhini et al. IoT based Smart Home with Voice Controlled Appliances using Raspberry Pi
JP7195158B2 (ja) リモートコントローラ、機器設定方法および機器設定システム
KR102645469B1 (ko) 출입 인지를 위한 사운드장치
CN107369461B (zh) 音频播放控制系统及方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201009

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220323

R151 Written notification of patent or utility model registration

Ref document number: 7065314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151