JP2021002728A - 通話システム、制御方法及びプログラム - Google Patents

通話システム、制御方法及びプログラム Download PDF

Info

Publication number
JP2021002728A
JP2021002728A JP2019115000A JP2019115000A JP2021002728A JP 2021002728 A JP2021002728 A JP 2021002728A JP 2019115000 A JP2019115000 A JP 2019115000A JP 2019115000 A JP2019115000 A JP 2019115000A JP 2021002728 A JP2021002728 A JP 2021002728A
Authority
JP
Japan
Prior art keywords
sound
unit
speaker
call
acquired
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019115000A
Other languages
English (en)
Other versions
JP7390582B2 (ja
Inventor
龍司 夏目
Ryuji Natsume
龍司 夏目
菊池 彰洋
Akihiro Kikuchi
彰洋 菊池
守雄 中村
Morio Nakamura
守雄 中村
正也 花園
Masaya Hanazono
正也 花園
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2019115000A priority Critical patent/JP7390582B2/ja
Publication of JP2021002728A publication Critical patent/JP2021002728A/ja
Application granted granted Critical
Publication of JP7390582B2 publication Critical patent/JP7390582B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Interconnected Communication Systems, Intercoms, And Interphones (AREA)

Abstract

【課題】通話先で出力されている音(音声)の状況を話者が知ることができる通話システム、制御方法及びプログラムを提供する。【解決手段】通話システム1は、音取得部13と、送出部184と、通知部186と、を備える。音取得部13は、少なくとも話者の音声を含む音を取得する。送出部184は、取得した音を通話先の人が操作する装置(例えば、ロビーインターホン、ドアホン)に出力する。通知部186は、取得した音に関連する確認情報を、話者に通知する。【選択図】図1

Description

本開示は、一般に通話システム、制御方法及びプログラムに関する。より詳細には、本開示は、音声を出力する通話システム、制御方法及びプログラムに関する。
特許文献1には、玄関に設置されて居住者を呼び出して通話するための玄関子機(インターホン装置)と、宅内に設置されて玄関子機からの呼び出しに応答するための居室親機(情報端末)と、を備えるインターホンシステムが記載されている。
玄関子機は、訪問者を撮像するためのカメラと、マイクロホンアレイと、子機CODECと、位相差検出部と、到来方向推定部と、映像信号処理部と、を備える。マイクロホンアレイは、複数のマイクロホンを備える。子機CODECは、マイクロホンアレイが収音して出力する複数チャネルの音声信号をデジタル信号に変換する。位相差検出部は、居室親機に玄関子機から伝送された複数チャネルのデジタル音声信号から音声信号の位相差を検出する。到来方向推定部は、検出した位相差情報を基に音声の到来方向を推定する。映像信号処理部は、到来方向推定部の推定結果を基にモニタに表示する映像をパン・チルトする。
特開2016−189570号公報
通話を行う話者には、通話により外部に漏らしたくない音(音声)の出力を抑止したいという要望がある。特許文献1では、音声の到来方向を推定しているので、推定した方向以外からの音を抑制し、出力することが考えられる。しかしながら、外部に漏らしたくない音(音声)が通話先で出力されていないことの確認を話者はできない。
本開示は上記課題に鑑みてなされ、通話先で出力されている音(音声)の状況を話者が知ることができる通話システム、制御方法及びプログラムを提供することを目的とする。
本開示の一態様に係る通話システムは、音取得部と、出力部と、通知部と、を備える。前記音取得部は、少なくとも話者の音声を含む音を取得する。前記出力部は、取得した前記音を通話先の人が操作する装置に出力する。前記通知部は、取得した前記音に関連する確認情報を、前記話者に通知する。
本開示の一態様に係る制御方法は、音取得ステップと、出力ステップと、通知ステップと、を含む。前記音取得ステップは、少なくとも話者の音声を含む音を取得する。前記出力ステップは、取得した前記音を通話先の人が操作する装置に出力する。前記通知ステップは、取得した前記音に関連する確認情報を、前記話者に通知する。
本開示の一態様に係るプログラムは、コンピュータに、前記制御方法を実行させるためのプログラムである。
本開示によると、通話先で出力されている音(音声)の状況を話者が知ることができる。
図1は、一実施形態に係る通話システムとしての情報端末の構成を説明する図である。 図2は、同上の情報端末を含むインターホンシステムの構成を説明する図である。 図3は、同上の情報端末の動作を説明する図である。 図4は、変形例1に係る情報端末が表示部に表示する確認情報に係る画像の一例を説明する図である。 図5は、変形例2に係る情報端末の構成を説明する図である。 図6は、同上の情報端末が表示部に表示する確認情報に係る画像の一例を説明する図である。
以下に説明する実施形態及び変形例は、本開示の一例に過ぎず、本開示は、実施形態及び変形例に限定されない。以下の実施形態及び変形例以外であっても、本開示に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能である。
(実施形態)
以下、本実施形態に係る通話システム1としての情報端末10を備えるインターホンシステム2について、図1〜図3を用いて説明する。
(1)概要
以下、本実施形態に係る通話システム1について、説明する。
本実施形態に係る通話システム1は、図2に示すように、インターホンシステム2に適用される。インターホンシステム2は、例えば、マンション等の集合住宅5に適用される。本実施形態に係るインターホンシステム2は、通話システム1としての情報端末10を備える。本実施形態では、インターホンシステム2は、複数(図2では2つ)の情報端末10を備える。インターホンシステム2は、ロビーインターホン20と、制御装置30と、複数(図2では2つ)のドアホン40とを、更に備えている。インターホンシステム2では、複数の情報端末10の各々とロビーインターホン20とが制御装置30を介して通信を行うように構成されている。また、インターホンシステム2では、複数の情報端末10と複数のドアホン40とが一対一に対応している。なお、本実施形態に係るインターホンシステム2は、集合住宅5以外に、戸建住宅に適用されてもよい。あるいは、インターホンシステム2は、事務所、店舗、学校若しくは介護施設等の非住宅施設等に適用されてもよい。
複数の情報端末10の各々は、例えば、集合住宅5に含まれる複数の住戸E2の各々に設けられている住戸端末(親機)である。各情報端末10は、例えば、各住戸E2の内玄関に設けられている。各情報端末10は、第2幹線62、分岐線63、及び分岐器50を介して制御装置30に接続されている。各情報端末10は、制御装置30を介して、ロビーインターホン20との間で通信(例えば、通話、及び制御信号の送信等)を行うように構成されている。さらに、各情報端末10は、接続線64を介して対応するドアホン40に接続されている。各情報端末10は、対応するドアホン40との間で通信(例えば、通話、及び制御信号の送信等)を行うように構成されている。
ロビーインターホン20は、例えば、集合住宅5の共用玄関(ロビー)E1に設けられている。ロビーインターホン20は、第1幹線61を介して制御装置30に接続されている。ロビーインターホン20は、制御装置30を介して、各情報端末10との間で通信(例えば、通話、及び映像信号の送信等)を行うように構成されている。ロビーインターホン20は、例えば、共用玄関E1の壁に取り付けられている。ロビーインターホン20が映像信号を情報端末10に送信することで、情報端末10は、映像(画像)を表示することができる。
制御装置30は、例えば、集合住宅5の管理室E3に設けられている。制御装置30は、第1幹線61を介してロビーインターホン20に接続され、かつ第2幹線62を介して各情報端末10に接続されている。つまり、制御装置30は、各情報端末10とロビーインターホン20との間の通信を中継するように構成されている。
複数のドアホン40の各々は、例えば、集合住宅5の各住戸E2の外玄関に設けられている。各ドアホン40は、接続線64を介して対応する情報端末10に接続されている。各ドアホン40は、対応する情報端末10との間で通信(例えば、通話、映像信号の送信等)を行うように構成されている。
本実施形態では、第1幹線61、第2幹線62、分岐線63、及び接続線64は、いずれもツイストペア線である。つまり、実際には、第1幹線61、第2幹線62、分岐線63、及び接続線64は2本の電線で構成されるが、図面上は1本の線で表している。第1幹線61、第2幹線62、分岐線63、及び接続線64の少なくとも1つはツイストペア線以外の電線であってもよい。
本実施形態に係る情報端末10は、音取得部13と、送出部184(出力部)と、通知部186と、を備える。音取得部13は、少なくとも話者の音声を含む音を取得する。送出部184は、音取得部13が取得した音を通話先の人が操作する装置に出力する。通知部186は、音取得部13が取得した音に関連する確認情報を、話者に通知する。ここで、話者は、例えば、住戸E2の住人である。通話先の人は、例えば、集合住宅5への訪問者であるが、ロビーインターホン20から各住戸E2を呼び出す者であればよく、外出先から帰宅した各住戸E2の住人等であってもよい。
本実施形態に係る情報端末10(通話システム1)では、音取得部13が取得した音に関連する確認情報を、話者に通知する。そのため、話者は、情報端末10が取得した音がどのような状態で通話先の人が操作する装置に出力されているかを知ることができる。例えば、話者は、本来外部に漏れて欲しくない音が出力されているかどうかを知ることができる。
(2)構成
(2−1)情報端末
情報端末10は、図1に示すように、第1通信部11、第2通信部、音取得部13、操作部14、出力部15、表示部16、記憶部17及び制御部18を備える。
情報端末10は、例えばプロセッサ及びメモリを有するマイクロコンピュータを有している。そして、プロセッサがメモリに格納されているプログラムを実行することにより、マイクロコンピュータが制御部18として機能する。プロセッサが実行するプログラムは、ここではマイクロコンピュータのメモリに予め記録されているが、メモリカード等の非一時的な記録媒体に記録されて提供されてもよいし、インターネット等の電気通信回線を通じて提供されてもよい。
第1通信部11は、ロビーインターホン20(の通信部21)と通信するための通信インタフェースである。第1通信部11は、第2幹線62、分岐線63、及び分岐器50を介して制御装置30に接続されている。第1通信部11は、制御装置30を介して、ロビーインターホン20に対して音声信号、及び制御信号等を送信する。さらに、第1通信部11は、制御装置30を介して、ロビーインターホン20から音声信号、及び映像信号等を受信する。
第2通信部12は、ドアホン40と通信するための通信インタフェースである。第2通信部12は、接続線64を介してドアホン40に接続されている。第2通信部12は、ドアホン40に対して音声信号、及び制御信号等を送信し、ドアホン40から音声信号、及び映像信号等を受信する。
音取得部13は、少なくとも話者の音声を含む音を取得し、取得した音に係る音情報を制御部18に出力する。音取得部13は、複数のマイクロホンを有している。複数のマイクロホンの各々は、指向性を有するマイクロホンである。本実施形態では、音取得部13は、図1に示すように、2つのマイクロホン(第1マイクロホン131及び第2マイクロホン132)を有している。第1マイクロホン131及び第2マイクロホン132は、水平方向(左右方向)及び鉛直方向(上下方向)の少なくとも一方において互いに異なる指向性を有している。第1マイクロホン131及び第2マイクロホン132は、左右方向に沿って並べられて配置されている。第1マイクロホン131及び第2マイクロホン132は、情報端末10の前方に位置する話者の音声(音)を含む周囲の音を取得し、取得した音をアナログの音信号(音情報)に変換して制御部18に出力する。
操作部14は、ユーザ(例えば、各住戸E2の住人等)の操作を受け付けるように構成されている。操作部14は、少なくとも通話ボタンを有している。通話ボタンは、ロビーインターホン20、又はドアホン40からの呼び出しに対して、ロビーインターホン20、又はドアホン40との通信(訪問者等との通話)を開始するためのボタンである。つまり、第1通信部11が住人を呼び出すための呼出信号を受信している状態で通話ボタンが押されると、ロビーインターホン20、又はドアホン40と情報端末10との間で音声通話が可能になる。
出力部15は、例えばスピーカである。出力部15は、情報端末10がロビーインターホン20と通話可能な状態である場合には、ロビーインターホン20から送信された音データに基づいた音(訪問者等の音声を含む)を出力する。
表示部16は、例えば、液晶ディスプレイである。表示部16は、映像を表示するように構成されている。また、表示部16は、話者に対して、音取得部13が取得した音に関連する確認情報を表示するように構成されている。確認情報は、例えば、通話中に音を取得したかの有無(音の有無)、取得した音の音圧、及び音量のうち少なくとも1つの情報を含む。なお、本実施形態では、確認情報は、音の有無、取得した音の音圧、及び音量を含む。表示部16は、音の有無、取得した音の音圧、及び音量を表示する。なお、情報端末10がタッチパネルディスプレイを備えている場合には、タッチパネルディスプレイが表示部16と操作部14とを兼ねてもよい。
記憶部17は、読み書き可能なメモリで構成されている。記憶部17は、例えば、フラッシュメモリである。記憶部17は、例えば、確認情報を記憶する。
制御部18は、図1に示すように、音声処理部181、方向推定部182、方向制御部183、送出部184、処理部185及び通知部186を有している。
音声処理部181は、音取得部13が出力したアナログの音信号を取得する。音声処理部181は、取得したアナログの音信号を、デジタルの音信号に変換する。また、音声処理部181は、音取得部13から取得した音信号に対して所定のフィルタリング処理等を行うように構成されている。音声処理部181は、例えば複数のエコーキャンセラ(第1エコーキャンセラ、第2エコーキャンセラ)を含む。第1エコーキャンセラは、第1マイクロホン131から出力された音信号に対してエコーの抑制又は除去を行う。第2エコーキャンセラは、第2マイクロホンから出力された音信号に対してエコーの抑制又は除去を行う。
方向推定部182は、音取得部13が取得した音に係る音情報に基づいて、音声を発する人の方向を推定する。具体的には、方向推定部182は、第1信号と、第2信号との位相差に基づいて音声を発する人の方向を推定する。
方向制御部183は、方向推定部182の推定結果に基づいて、音取得部13による音の取得方向を制御する。具体的には、方向制御部183は、方向推定部182の推定結果に基づいて、第1マイクロホン131から入力される音のゲイン、及び第2マイクロホン132から入力される音のゲインをそれぞれ調整するように構成されている。より具体的には、方向制御部183は、第1マイクロホン131及び第2マイクロホン132の各々から入力される音声信号に対して各種演算を行うことで、所望の方向の感度を高めた音声信号に変換する。これにより、所望の方向のS/N比が向上する。例えば、話者が右側に存在すると方向推定部182が推定した場合、方向制御部183は、第1マイクロホン131から入力される音のゲインを1、第2マイクロホン132から入力される音のゲインを0とする。この場合、方向制御部183は、第1マイクロホン131から入力される音のみを出力することになる。つまり、制御部18は、方向推定部182の推定結果に基づいて、各マイクロホンから入力される音のゲインを方向制御部183が変えることで、音取得部13による音の取得方向を制御することができる。
方向制御部183は、例えばノイズサプレッサを含む。方向制御部183は、ゲイン調整された2つの信号を含む音の信号に対してノイズの抑制又は除去を行う。
送出部184は、音取得部13が取得した前記音に係る音データ(音情報)を、通話先の人が操作する装置に出力する。具体的には、送出部184は、方向制御部183でノイズの抑制又は除去がされた音の信号を、第1通信部11又は第2通信部12を介して、通信対象の装置に送信する。例えば、情報端末10がロビーインターホン20と通信を行っている場合には、送出部184は、方向制御部183でノイズの抑制又は除去がされた音の信号(以下、単に“音の信号”という)を、第1通信部11を介してロビーインターホン20に送信する。
処理部185は、話者に通知する確認情報を生成する。処理部185は、音の信号を基に、音の有無、音量及び音圧を取得する。処理部185は、音の有無、音量及び音圧を含む確認情報を生成する。要は、処理部185は、音取得部13が取得した音に対して当該音に関する所定の処理が施された音に基づいて確認情報を生成する。ここで、所定の処理は、音取得部13が取得した音に対して、通話先の装置で出力される出力音として不要である音を除去する処理であり、例えば、エコーの抑制又は除去、及びノイズの抑制又は除去に係る処理である。したがって、確認情報には、音取得部13が取得した音に対して音に関する所定の処理が施された音に関する情報が含まれることになる。つまり、確認情報は、情報端末10が取得した音に関連する情報であって当該音とは異なる情報(言い換えると情報端末10が取得した音そのものではない情報)である。
通知部186は、音取得部13が取得した音に関連する確認情報を、話者に通知する。例えば、通知部186は、話者と通話先の人との通話中において、確認情報を話者に通知する。より詳細には、通知部186は、通話中において、処理部185が生成した確認情報に含まれる音の有無、音量及び音圧を、表示部16が表示するよう表示部16を制御する。このとき、表示部16は、確認情報に含まれる音の有無、音量及び音圧を表示する。これにより、通知部186は、確認情報を、話者に通知することができる。
(2−2)ロビーインターホン
ロビーインターホン20は、図2に示すように、通信部21と、制御部22と、音取得部23と、通話部24と、表示部25と、操作部26と、記憶部27と、撮像部28と、を備えている。
ロビーインターホン20は、例えばプロセッサ及びメモリを有するマイクロコンピュータを有している。そして、プロセッサがメモリに格納されているプログラムを実行することにより、マイクロコンピュータが制御部22として機能する。プロセッサが実行するプログラムは、ここではマイクロコンピュータのメモリに予め記録されているが、メモリカード等の非一時的な記録媒体に記録されて提供されてもよいし、インターネット等の電気通信回線を通じて提供されてもよい。
通信部21は、情報端末10(の第1通信部11)と通信するための通信インタフェースである。通信部21は、第1幹線61を介して制御装置30(の通信部31)に接続されている。通信部21は、制御装置30を介して、情報端末10に対して音声信号、及び映像信号等を送信する。さらに、通信部21は、制御装置30を介して、情報端末10から音声信号、及び制御信号等を受信する。ここで、ロビーインターホン20からの通信信号には、情報端末10を特定するための情報(例えば、アドレス情報等)が含まれている。そのため、この通信信号に含まれるアドレス情報と一致するアドレス情報が割り当てられた情報端末10のみが通信信号を受信することができる。
制御部22は、通信部21、音取得部23、通話部24、及び撮像部28等を制御するように構成されている。
音取得部23は、マイクロホンを有している。マイクロホンは、ロビーインターホン20の前方に位置する訪問者等の音声(音)を含む周囲の音を取得し、取得した音をアナログの音信号に変換して制御部22に出力する。
通話部24は、スピーカ及びマイクロホンを含み、情報端末10との間で通話可能に構成されている。
表示部25は、例えば、液晶ディスプレイである。表示部25は、撮像部28が撮像した映像を表示するように構成されている。また、表示部25は、訪問者等に対してメッセージを表示するように構成されている。メッセージは、例えば、訪問者等に発話を促すためのメッセージである。表示部25は、例えば、「お話しください」等のメッセージを表示する。この場合において、同様の音声メッセージを通話部24のスピーカ、又は通話部24のスピーカとは別に設けられたスピーカから出力(報知)してもよい。また、表示部25とスピーカとを併用してもよい。なお、インターホンシステム2がタッチパネルディスプレイを備えている場合には、タッチパネルディスプレイが表示部25と操作部26とを兼ねてもよい。
操作部26は、ユーザ(例えば、集合住宅5への訪問者、住人等)の操作を受け付けるように構成されている。操作部26は、例えば、複数の押ボタンスイッチ、及びタッチパネル等を有する入力インタフェースである。
記憶部27は、読み書き可能なメモリで構成されている。記憶部27は、例えば、フラッシュメモリである。記憶部27は、例えば、撮像部28で撮像された映像(画像)の映像データを記憶する。
撮像部28は、撮像素子を有し、被写体(ユーザ)を撮像するためのカメラである。本実施形態では、撮像部28の撮像エリア(視野)は、インターホンシステム2の前方に設定されている。本実施形態では、撮像部28は動画を撮像するカメラである。さらに、本実施形態では、撮像部28はカラー画像を撮像するカメラである。なお、撮像部28は、静止画を撮像するカメラ(スチルカメラ)であってもよいし、モノクロ画像を撮像するカメラであってもよい。
撮像素子は、例えば、CCD(Charge Coupled Devices)イメージセンサ、又はCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等の二次元イメージセンサである。撮像部28は、被写体からの光をレンズ等の光学系によって撮像素子の撮像面(受光面)上に結像させ、撮像素子にて被写体からの光を電気信号に変換する。そして、撮像部28は、撮像素子の出力信号を映像信号として制御部22に出力する。
(2−3)制御装置
制御装置30は、図2に示すように、通信部31と、制御部32と、記憶部33と、を備えている。
制御装置30は、例えばプロセッサ及びメモリを有するマイクロコンピュータを有している。そして、プロセッサがメモリに格納されているプログラムを実行することにより、マイクロコンピュータが制御部32として機能する。プロセッサが実行するプログラムは、ここではマイクロコンピュータのメモリに予め記録されているが、メモリカード等の非一時的な記録媒体に記録されて提供されてもよいし、インターネット等の電気通信回線を通じて提供されてもよい。
通信部31は、各情報端末10、及びロビーインターホン20と通信するための通信インタフェースを含んでいる。通信部31は、第1幹線61を介してロビーインターホン20に接続され、第2幹線62を介して各情報端末10に接続されている。つまり、通信部31は、各情報端末10とロビーインターホン20との間の通信を中継するように構成されている。
制御部32は、通信部31を制御するように構成されている。
記憶部33は、読み書き可能なメモリで構成されている。記憶部33は、例えば、フラッシュメモリである。記憶部33は、例えば、各住戸E2に割り当てられた部屋番号と、各情報端末10に割り当てられたアドレス情報との対応関係を表す対応テーブルを記憶する。つまり、制御装置30では、制御部32は、対応テーブルを参照して、ロビーインターホン20からの信号に含まれる部屋番号を対応する情報端末10のアドレス情報に置き換えた信号を作成し、この信号を通信部31から各情報端末10に送信させる。そして、各情報端末10では、制御部18は、第1通信部11が受信した信号に含まれるアドレス情報が、記憶部17に記憶されているアドレス情報と一致する場合には、この信号に含まれる情報を取得する。また、各情報端末10では、制御部18は、第1通信部11が受信した信号に含まれるアドレス情報が、記憶部17に記憶されているアドレス情報と一致しない場合には、この信号に含まれる情報を破棄する。
(2−4)ドアホン
各ドアホン40は、図2に示すように、接続線64を介して対応する情報端末10に接続されている。ドアホン40は、情報端末10に対して音声信号、及び映像信号等を送信する。さらに、ドアホン40は、情報端末10から音声信号、及び制御信号等を受信する。
(3)動作
ここでは、通話システム1としての情報端末10の動作について、図3を用いて説明する。
音取得部13は、話者の音声を取得する(ステップS1)。具体的には、音取得部13が有する第1マイクロホン131及び第2マイクロホン132の各々は、話者の音声(音)を含む周囲の音を取得し、取得した音をアナログの音信号に変換して制御部18に出力する。
方向推定部182は、音取得部13が取得した音に係る音情報に基づいて、音声を発する話者の方向を推定する(ステップS2)。方向制御部183は、方向推定部182の推定結果に基づいて、音取得部13による音の取得方向を制御する(ステップS3)。このとき、音取得部13が取得した音に対して、音に関する所定の処理が施される。具体的には、所定の処理として、音取得部13が取得した音に対して、通話先の装置で出力される出力音として不要である音を除去する処理が施される。より詳細には、情報端末10は、音取得部13が取得した音に対して、エコーの抑制又は除去、及びノイズの抑制又は除去が行われる。
処理部185は、確認処理を行う(ステップS4)。具体的には、処理部185は、音に関する所定の処理が施された音の信号を基に、音の有無、音量及び音圧を含む確認情報を生成する。
送出部184は、音に関する所定の処理が施された音の信号を、通話先の人が操作する装置に出力する(ステップS5)。例えば、情報端末10がロビーインターホン20と通信を行っている場合には、送出部184は、方向制御部183でノイズの抑制又は除去がされた音の信号をロビーインターホン20に送信する。
通知部186は、話者と通話先の人との通話中において、確認情報を話者に通知する(ステップS6)。具体的には、通知部186は、通話中において、処理部185が生成した確認情報に含まれる音の有無、音量及び音圧を、表示部16が表示するよう表示部16を制御する。
(4)利点
以上説明したように、本実施形態の情報端末10は、少なくとも話者の音声を含む音を取得し、取得した音を通話先の人が操作するロビーインターホン20又はドアホン40に出力する。情報端末10は、取得した音に関連する確認情報として、取得した音の有無、音量及び音圧に係る情報を、話者に通知する。
これにより、情報端末10を利用する話者は、情報端末10が取得した音がどのような状態でロビーインターホン20又はドアホン40にて出力されているかを知ることができる。
(5)変形例
以下に、変形例について列記する。なお、以下に説明する変形例は、上記実施形態と適宜組み合わせて適用可能である。
(5−1)変形例1
上記実施形態では、確認情報には、音の有無、音量及び音圧のうち少なくとも1つが含まれる構成としたが、この構成に限定されない。
確認情報は、音取得部13が音を取得する取得範囲に係る情報を含んでもよい。この場合、通知部186は、話者が居る場所に関する画像に対して取得範囲を重畳して表示部16に表示させて、話者に通知する。
例えば、通知部186は、図4に示すように、ロビーインターホン20が撮像した映像G1に、話者が居る場所に関する画像に対して取得範囲が重畳された確認画像G2を重畳して表示するように表示部16を制御する。確認画像G2は、話者が居る場所に関する画像として情報端末10が設置された空間の見取り図G21に、取得範囲の画像としてポーラ図G22が重畳された画像である。確認画像G2に含まれるオブジェクトG23は、情報端末10を表している。ポーラ図G22は、情報端末10を表すオブジェクトG23を中心とした音の取得範囲を表す。
なお、話者が居る場所に関する画像は、見取り図G21に限定されない。話者が居る場所に関する画像は、カメラで撮像した画像であってもよい。つまり、話者が居る場所に関する画像は、情報端末10が設置された空間が認識できる画像であればよい。
また、取得範囲の画像は、ポーラ図に限定されない。取得範囲の画像は、音声の取得範囲が認識できる画像であればよい。
(5−2)変形例2
上記実施形態において、情報端末10は、音識別機能により、取得した音に話者以外の音が含まれるか否かを判別してもよい。
例えば、本変形例の処理部185は、図5に示すように、判別部191及び確認処理部192を含む。
判別部191は、音取得部13が取得した音に話者の音声とは異なる音である(話者外音)が含まれるか否かを判別する。例えば、判別部191は、音取得部13が取得した音に人の声が含まれていると判別する場合には、当該人の声を話者の音声とし、音取得部13が取得した音に当該話者の音声以外の音が含まれるか否かを判別する。
なお、判別部191は、住戸E2に話者が居るか否かの判別には、方向推定部182の推定結果を用いてもよい。この場合、判別部191は、音の信号に人の声が含まれ、かつ方向推定部182の推定結果が音声を発する人が正面に居ることを表す場合、当該人の音声を話者の音声とし、音取得部13が取得した音に当該話者の音声以外の音が含まれるか否かを判別する。
確認処理部192は、判別部191の判別結果に応じて、話者に通知する確認情報を生成する。具体的には、音取得部13が取得した音に当該話者の音声以外の音が含まれると判別部191が判別した場合、確認処理部192は、音取得部13が取得した音に含まれる話者外音の種類及び話者外音の音源のうち少なくとも一方に係る情報を生成する。
例えば、確認処理部192は、音取得部13が取得した音に話者の音声の周波数よりも高周波又は低周波の音が含まれる場合には、話者外音の種類として高周波(又は低周波)の音が含まれることを表す情報を含む確認情報を生成する。確認処理部192は、音取得部13が取得した音に動物(例えば犬)の音声又は空間に設けられたテレビの音が含まれる場合には、話者外音の音源として音源(例えば、犬、テレビ)を表す情報を含む確認情報を生成する。音源を表す情報は、例えば音源を表すアイコンに係る情報である。
音源を表す情報として犬のアイコンの係る情報、及びテレビのアイコンに係る情報が確認情報に含まれる場合には、通知部186は、ロビーインターホン20が撮像した映像に、話者外音の音源に係る情報G3として犬のアイコンG31及びテレビのアイコンG32を重畳させて表示部16に表示させる(図6参照)。
(5−3)変形例3
上記実施形態において、処理部185は、確認情報に含まれる音量及び音圧について、その強弱に応じてレベル分けをしてもよい。このとき、通知部186は、レベル分けした結果に応じて、音量及び音圧を表示してもよい。例えば、通知部186は、音量及び音圧をその強弱に応じて表示色を変更する。より詳細には、処理部185は、確認情報に含まれる音量及び音圧の各々を、強度を3つのレベル(“大”、“中”、“小”)のうち1つのレベルに振り分ける。通知部186は、音量(又は音圧)のレベルが“大”である場合には音量(又は音圧)を赤色で表示部16に表示させる。通知部186は、音量(又は音圧)のレベルが“中”である場合には音量(又は音圧)を黄色で表示部16に表示させる。通知部186は、音量(又は音圧)のレベルが“小”である場合には音量(又は音圧)を青色で表示部16に表示させる。
また、確認情報のレベルを色の濃淡等で表すヒートマップで確認情報を表示してもよい。例えば、上述したように、確認情報に含まれる音量及び音圧の各々を、強度を3つのレベル(“大”、“中”、“小”)のうち1つのレベルに振り分けた場合、レベルが“小”から“大”へ変わるにつれて、表示色を淡い色から濃い色へと、又は濃い色から淡い色へと変化させる。
なお、本変形例を変形例1に適用してもよい。この場合、処理部185は、取得範囲を、取得した音の強度(レベル)に基づいて複数の範囲に分割する。通知部186は、分割された範囲ごとに異なる色で表示部16に表示させる。
(5−4)変形例4
上記実施形態では、通知部186は、話者と通話先の人との通話中において、確認情報を話者に通知する構成としたが、この構成に限定されない。
通知部186は、通話が行われていないときに、確認情報を話者に通知してもよい。この場合、音取得部13は、通話中に、少なくとも話者の音声を含む音を取得する。処理部185は、音取得部13が取得し、かつ方向制御部183により制御された音に対して音に関する所定の処理が施された音に基づいて確認情報を生成し、記憶部17に記憶する。通知部186は、通話が終了した後に、操作部14が所定の操作を受け付けると、記憶部17に記憶している確認情報を、通知する。
(5−5)変形例5
上記実施形態において、通話システム1(情報端末10)は、ロビーインターホン20及びドアホン40からの呼出が無い状態において、確認情報を話者が通知するテストモードを有してもよい。
音取得部13は、テストモードが設定されると、ロビーインターホン20及びドアホン40からの呼出が無い状態で、操作者(話者)の操作により少なくとも話者の音声を含む音を取得する。言い換えると、音取得部13は、テストモードが設定されると、ロビーインターホン20及びドアホン40と通話が行われていないときに、少なくとも話者の音声を含む音を取得する。
音声処理部181は、テストモードが設定され、かつ通話が行われていないときに、音取得部13が出力したアナログの音信号を、デジタルの音信号に変換する。このとき、音声処理部181は、音取得部13から取得した音信号に対して所定のフィルタリング処理(エコーキャンセル処理)等を行う。
方向推定部182は、テストモードが設定され、かつ通話が行われていないときに、音取得部13が取得した音に係る音情報に基づいて、音声を発する人の方向を推定する。具体的には、方向推定部182は、実施形態1で説明したように、第1信号と、第2信号との位相差に基づいて音声を発する人の方向を推定する。
方向制御部183は、テストモードが設定され、かつ通話が行われていないときに、方向推定部182の推定結果に基づいて、音取得部13による音の取得方向を制御する。具体的には、方向制御部183は、実施形態1で説明したように。方向推定部182の推定結果に基づいて、第1マイクロホン131から入力される音のゲイン、及び第2マイクロホン132から入力される音のゲインをそれぞれ調整する。さらに、方向制御部183は、テストモード時において、ゲイン調整された2つの信号を含む音の信号に対してノイズの抑制又は除去を行う。
送出部184は、テストモードでは、機能しない。つまり送出部184は、方向制御部183でノイズの抑制又は除去がされた音の信号を出力しない。
処理部185は、テストモードが設定され、かつ通話が行われていないときに、話者に通知する確認情報を生成する。処理部185は、実施形態1で説明したように、音取得部13が取得した音に対して当該音に関する所定の処理が施された音に基づいて確認情報を生成する。
通知部186は、テストモードが設定され、かつ通話が行われていないときに、情報端末10が取得した音に関連する情報であって当該音とは異なる情報を確認情報として、者に通知する。
これにより、テストモードが設定されると、情報端末10は、通話が行われていない状態であっても、情報端末10の操作者(話者)の音声を含む音に係る情報である確認情報を当該話者に通知することができる。そのため、話者は、ロビーインターホン20又はドアホン40で呼出があった場合、情報端末10が取得した音がどのような状態で呼出先(通話先)にて出力されているかを知ることができる。
(5−6)変形例6
以下、変形例を列挙する。
上記実施形態では、音取得部13は、複数のマイクロホンを有する構成としたが、この構成に限定されない。音取得部13は、1つのマイクロホンを有してもよい。
上述実施形態では、情報端末10を通話システム1の一例として説明したが、通話システム1は、情報端末10に限定されない。通話システム1は、ロビーインターホン20であってもよいし、ドアホン40であってもよい。管理室親機が設けられている場合には、通話システム1は、管理室親機であってもよい。
上記実施形態において、通知部186は、音声等により話者に確認情報を通知してもよい。
(その他の変形例)
上記実施形態は、本開示の様々な実施形態の一つに過ぎない。上記実施形態は、本開示の目的を達成できれば、設計等に応じて種々の変更が可能である。また、通話システム1と同様の機能は、制御方法、コンピュータプログラム、又はプログラムを記録した非一時的な記録媒体等で具現化されてもよい。一態様に係る通話システム1の制御方法は、音取得ステップと、出力ステップと、通知ステップと、を含む。音取得ステップは。少なくとも話者の音声を含む音を取得する。出力ステップは、取得した音を通話先の人が操作する装置(例えば、ロビーインターホン20、ドアホン40)に出力する。通知ステップは、取得した音に関連する確認情報を、話者に通知する。一態様に係るプログラムは、コンピュータシステムを、上述した通話システム1又は通話システム1の制御方法として機能させるためのプログラムである。
本開示における通話システム1又は通話システム1の制御方法の実行主体は、コンピュータシステムを含んでいる。コンピュータシステムは、ハードウェアとしてのプロセッサ及びメモリを有する。コンピュータシステムのメモリに記録されたプログラムをプロセッサが実行することによって、本開示における通話システム1又は通話システム1の制御方法の実行主体としての機能が実現される。プログラムは、コンピュータシステムのメモリに予め記録されていてもよいが、電気通信回線を通じて提供されてもよい。また、プログラムは、コンピュータシステムで読み取り可能なメモリカード、光学ディスク、ハードディスクドライブ等の非一時的な記録媒体に記録されて提供されてもよい。コンピュータシステムのプロセッサは、半導体集積回路(IC)又は大規模集積回路(LSI)を含む1乃至複数の電子回路で構成される。複数の電子回路は、1つのチップに集約されていてもよいし、複数のチップに分散して設けられていてもよい。複数のチップは、1つの装置に集約されていてもよいし、複数の装置に分散して設けられていてもよい。
(まとめ)
以上説明したように、第1の態様の通話システム(1)は、音取得部(13)と、出力部(送出部184)と、通知部(186)と、を備える。音取得部(13)は、少なくとも話者の音声を含む音を取得する。出力部は、取得した音を通話先の人が操作する装置(例えば、ロビーインターホン20、ドアホン40)に出力する。通知部(186)は、取得した音に関連する確認情報を、話者に通知する。
この構成によると、通話先で出力されている音(音声)の状況を話者が知ることができる。
第2の態様の通話システム(1)では、第1の態様において、確認情報は、音の有無、音圧、音量のうち少なくとも1つ以上の情報を含む。
この構成によると、通話先で出力されている音(音声)の状況として音の有無、音圧、音量のうち少なくとも1つ以上の情報について、話者は知ることができる。
第3の態様の通話システム(1)では、第1又は第2の態様において、確認情報は、音取得部(13)が音を取得する取得範囲に係る情報を含む。
この構成によると、通話先で出力されている音(音声)の状況として音の取得範囲を、話者は知ることができる。
第4の態様の通話システム(1)では、第3の態様において、通知部(186)は、話者が居る場所に関する画像に対して取得範囲を重畳して表示部(16)に表示させて、話者に通知する。
この構成によると、話者が居る場所に関する画像に対して取得範囲を重畳して表示するので、話者は、音の取得範囲を話者が居る場所に関する画像に対応付けて知ることができる。
第5の態様の通話システム(1)では、第1〜第4のいずれかの態様において、通知部(186)は、確認情報に含まれる音に関する情報をレベル分けして表示部(16)に表示させて、話者に通知する。
この構成によると、話者は、確認情報に含まれる音に関する情報についてのレベルを知ることができる。
第6の態様の通話システム(1)では、第1〜第5のいずれかの態様において、確認情報は、音に含まれる音声とは異なる音である話者外音の種類及び話者外音の音源のうち少なくとも一方に係る情報を含む。
この構成によると、通話先で出力されている音(音声)の状況として、話者の音声以外の音の種類及び音源のうち少なくとも一方を知ることができる。
第7の態様の通話システム(1)は、第6の態様において、判別部(191)を、更に備える。判別部(191)は、音取得部(13)が取得した音に話者外音が含まれるか否かを判別する。
この構成によると、話者外音の有無を判別することができる。
第8の態様の通話システム(1)では、第1〜第7のいずれかの態様において、確認情報は、音取得部(13)が取得した音に対して所定の処理が施された後の音に関する情報を含む。
この構成によると、所定の処理が施された後の音が通話先でどのように出力されているかを、話者は知ることができる。
第9の態様の通話システム(1)では、第8の態様において、所定の処理は、音取得部(13)が取得した音に対して、通話先の装置で出力される出力音として不要である音を除去する処理を含む。
この構成によると、例えば、ノイズキャンセルされた後の音が通話先でどのように出力されているかを、話者は知ることができる。
第10の態様の通話システム(1)では、第1〜第9のいずれかの態様において、音取得部(13)は、話者と通話先の人との通話中において、音を取得する。通知部(186)は、通話中において、確認情報を話者に通知する。
この構成によると、話者は、情報端末が取得した音が話先でどのように出力されているかを、リアルタイムに知ることができる。
第11の態様の通話システム(1)では、第1〜第9のいずれかの態様において、音取得部(13)は、話者と通話先の人との間で通話が行われているときに、音を取得する。通知部(186)は、通話が行われていないときに、確認情報を話者に通知する。
この構成によると、話者は、情報端末が取得した音が話先でどのように出力されているかを、例えば通話後に知ることができる。そのため、その後の通話に対して対応策を図ることができる。
第12の態様の通話システム(1)は、第1〜第11のいずれかの態様において、テストモードを有する。音取得部(13)は、テストモードが設定されている場合には、通話が行われていないときに音を取得する。通知部(186)は、テストモードが設定され、かつ通話が行われていないときに、音に関連する情報であって当該音とは異なる情報を確認情報として、話者に通知する。
この構成によると、テストモードにより、情報端末が取得した音が話先でどのように出力されているかを事前に疑似的に知ることができる。
第13の態様の制御方法は、音取得ステップと、出力ステップと、通知ステップと、を含む。音取得ステップは、少なくとも話者の音声を含む音を取得する。出力ステップは、取得した音を通話先の人が操作する装置(例えば、ロビーインターホン20、ドアホン40)に出力する。通知ステップは、取得した音に関連する確認情報を、話者に通知する。
この制御方法によると、通話先で出力されている音(音声)の状況を話者が知ることができる。
第14の態様のプログラムは、コンピュータに、第13の態様の制御方法を実行させるためのプログラムである。
このプログラムによると、通話先で出力されている音(音声)の状況を話者が知ることができる。
1 通話システム
10 情報端末
13 音取得部
16 表示部
184 送出部
186 通知部
191 判別部

Claims (14)

  1. 少なくとも話者の音声を含む音を取得する音取得部と、
    取得した前記音を通話先の人が操作する装置に出力する出力部と、
    取得した前記音に関連する確認情報を、前記話者に通知する通知部と、を備える、
    通話システム。
  2. 前記確認情報は、前記音の有無、音圧、音量のうち少なくとも1つ以上の情報を含む、
    請求項1に記載の通話システム。
  3. 前記確認情報は、前記音取得部が前記音を取得する取得範囲に係る情報を含む、
    請求項1又は2に記載の通話システム。
  4. 前記通知部は、前記話者が居る場所に関する画像に対して前記取得範囲を重畳して表示部に表示させて、前記話者に通知する、
    請求項3に記載の通話システム。
  5. 前記通知部は、前記確認情報に含まれる前記音に関する情報をレベル分けして表示部に表示させて、前記話者に通知する、
    請求項1〜4のいずれか一項に記載の通話システム。
  6. 前記確認情報は、前記音に含まれる前記音声とは異なる音である話者外音の種類及び前記話者外音の音源のうち少なくとも一方に係る情報を含む、
    請求項1〜5のいずれか一項に記載の通話システム。
  7. 前記音取得部が取得した音に前記話者外音が含まれるか否かを判別する判別部を、更に備える、
    請求項6に記載の通話システム。
  8. 前記確認情報は、前記音取得部が取得した前記音に対して所定の処理が施された後の音に関する情報を含む、
    請求項1〜7のいずれか一項に記載の通話システム。
  9. 前記所定の処理は、前記音取得部が取得した前記音に対して、通話先の装置で出力される出力音として不要である音を除去する処理を含む、
    請求項8に記載の通話システム。
  10. 前記音取得部は、前記話者と前記通話先の人との通話中において、前記音を取得し、
    前記通知部は、前記通話中において、前記確認情報を前記話者に通知する、
    請求項1〜9のいずれか一項に記載の通話システム。
  11. 前記音取得部は、前記話者と前記通話先の人との間で通話が行われているときに、前記音を取得し、
    前記通知部は、前記通話が行われていないときに、前記確認情報を前記話者に通知する、
    請求項1〜9のいずれか一項に記載の通話システム。
  12. テストモードを有し、
    前記音取得部は、前記テストモードが設定されている場合には、通話が行われていないときに、前記音を取得し、
    前記通知部は、テストモードが設定され、かつ通話が行われていないときに、前記音に関連する情報であって前記音とは異なる情報を前記確認情報として、前記話者に通知する、
    請求項1〜11のいずれか一項に記載の通話システム。
  13. 少なくとも話者の音声を含む音を取得する音取得ステップと、
    取得した前記音を通話先の人が操作する装置に出力する出力ステップと、
    取得した前記音に関連する確認情報を、前記話者に通知する通知ステップと、を含む、
    制御方法。
  14. コンピュータに、請求項13に記載の制御方法を実行させるためのプログラム。
JP2019115000A 2019-06-20 2019-06-20 通話システム、制御方法及びプログラム Active JP7390582B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019115000A JP7390582B2 (ja) 2019-06-20 2019-06-20 通話システム、制御方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019115000A JP7390582B2 (ja) 2019-06-20 2019-06-20 通話システム、制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021002728A true JP2021002728A (ja) 2021-01-07
JP7390582B2 JP7390582B2 (ja) 2023-12-04

Family

ID=73994279

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019115000A Active JP7390582B2 (ja) 2019-06-20 2019-06-20 通話システム、制御方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7390582B2 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06291863A (ja) * 1993-04-05 1994-10-18 Nippon Telegr & Teleph Corp <Ntt> 音響信号を用いた通信装置
JP2004048329A (ja) * 2002-07-11 2004-02-12 Nippon Telegr & Teleph Corp <Ntt> ネットワーク会議システムにおける通話確認方法、ネットワーク会議システム用コンピュータ及びその通話確認方法、ネットワーク会議プログラム及びそのプログラムを記録した記録媒体
JP2008271481A (ja) * 2007-03-27 2008-11-06 Brother Ind Ltd 電話装置
JP2012175658A (ja) * 2011-02-24 2012-09-10 Aiphone Co Ltd ハンズフリーインターホン装置
JP2012175235A (ja) * 2011-02-18 2012-09-10 Nippon Telegr & Teleph Corp <Ntt> 遠隔地間コミュニケーション装置、遠隔地間コミュニケーション方法、プログラム
JP2016086373A (ja) * 2014-10-29 2016-05-19 株式会社ナカヨ 分離通話音声蓄積機能を有する電話装置
JP2017147504A (ja) * 2016-02-15 2017-08-24 株式会社リコー 音源表示装置及び音源表示方法
JP2018152724A (ja) * 2017-03-13 2018-09-27 オリンパス株式会社 情報端末装置、情報処理システム、情報処理方法及び情報処理プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06291863A (ja) * 1993-04-05 1994-10-18 Nippon Telegr & Teleph Corp <Ntt> 音響信号を用いた通信装置
JP2004048329A (ja) * 2002-07-11 2004-02-12 Nippon Telegr & Teleph Corp <Ntt> ネットワーク会議システムにおける通話確認方法、ネットワーク会議システム用コンピュータ及びその通話確認方法、ネットワーク会議プログラム及びそのプログラムを記録した記録媒体
JP2008271481A (ja) * 2007-03-27 2008-11-06 Brother Ind Ltd 電話装置
JP2012175235A (ja) * 2011-02-18 2012-09-10 Nippon Telegr & Teleph Corp <Ntt> 遠隔地間コミュニケーション装置、遠隔地間コミュニケーション方法、プログラム
JP2012175658A (ja) * 2011-02-24 2012-09-10 Aiphone Co Ltd ハンズフリーインターホン装置
JP2016086373A (ja) * 2014-10-29 2016-05-19 株式会社ナカヨ 分離通話音声蓄積機能を有する電話装置
JP2017147504A (ja) * 2016-02-15 2017-08-24 株式会社リコー 音源表示装置及び音源表示方法
JP2018152724A (ja) * 2017-03-13 2018-09-27 オリンパス株式会社 情報端末装置、情報処理システム、情報処理方法及び情報処理プログラム

Also Published As

Publication number Publication date
JP7390582B2 (ja) 2023-12-04

Similar Documents

Publication Publication Date Title
JP2014064093A (ja) 信号処理装置およびプログラム
JP5120020B2 (ja) 画像付音声通信システム、画像付音声通信方法およびプログラム
JP7390582B2 (ja) 通話システム、制御方法及びプログラム
JP4708960B2 (ja) 情報伝達システム及び音声可視化装置
JP2011055103A (ja) 集合住宅インターホンシステム
JP7095356B2 (ja) 通信端末及び会議システム
JP2021141572A (ja) 情報端末、インターホンシステム、処理方法及びプログラム
JP7042440B2 (ja) インターホン装置、インターホンシステム、情報端末、処理方法及びプログラム
JP6071054B2 (ja) 通信装置、及び音声入出力ユニットの制御方法
EP4145822A1 (en) Virtual space connection device
JP2004180086A (ja) 集合住宅インターホン装置
JP2021002729A (ja) インターホンシステム、制御方法及びプログラム
JP2017168903A (ja) 情報処理装置、会議システムおよび情報処理装置の制御方法
JP2020184656A (ja) 音取得制御システム、情報端末、音取得制御方法、及びプログラム
TWI794478B (zh) 呼叫裝置、資訊終端、資訊終端之控制方法及程式
JP3624092B2 (ja) 集合住宅インターホン方式
JP7308445B2 (ja) 画像処理システム、画像処理方法及びプログラム
JP2019068357A (ja) インターホン装置、インターホンシステム及びプログラム
JP6534033B2 (ja) 指示装置、撮像システム
JP6868825B2 (ja) インターホンシステム、ロビーインターホン、親機、制御装置、及びプログラム
TW202308366A (zh) 資訊終端、對講機系統及程式
JP5296725B2 (ja) 集合住宅インターホンシステム
JP2010035102A (ja) 集合住宅インターホンシステム
JP2021057679A (ja) 情報端末、インターホンシステム
KR19980050672A (ko) 화상 전화 시스템에 의한 실내 감시 시스템 및 이를 위한 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231106

R151 Written notification of patent or utility model registration

Ref document number: 7390582

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151