JP6870363B2 - 通信装置、方法およびプログラム - Google Patents

通信装置、方法およびプログラム Download PDF

Info

Publication number
JP6870363B2
JP6870363B2 JP2017024820A JP2017024820A JP6870363B2 JP 6870363 B2 JP6870363 B2 JP 6870363B2 JP 2017024820 A JP2017024820 A JP 2017024820A JP 2017024820 A JP2017024820 A JP 2017024820A JP 6870363 B2 JP6870363 B2 JP 6870363B2
Authority
JP
Japan
Prior art keywords
communication device
sound
dialogue
user
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017024820A
Other languages
English (en)
Other versions
JP2018133652A (ja
Inventor
鳥越 真
真 鳥越
徳満 昌之
昌之 徳満
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2017024820A priority Critical patent/JP6870363B2/ja
Publication of JP2018133652A publication Critical patent/JP2018133652A/ja
Application granted granted Critical
Publication of JP6870363B2 publication Critical patent/JP6870363B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、通信装置、方法およびプログラムに関する。
近年、ネットワークおよびマルチメディア伝送技術の発達により、遠隔地のサテライトオフィス同士、または地方のサテライトオフィスと本社を結ぶテレワークの導入が容易となっている。このため、経営改革の一環として、テレワークの導入を推進している企業が増加している。
オフィスでは業務中のコミュニケーションが重要視されており、特に、部門間の連携、およびメンバーが分散環境で一緒に行う業務などにおいては、業務中のコミュニケーションが重要である。このため、互いに離れた拠点で、大画面ディスプレイを用いて互いの拠点の映像および音を出力することで、気軽に挨拶や対面対話を行うためのシステムが開発されている。
特開2006−229902号公報
3拠点に上記大画面ディスプレイが配置されたシステムにおいて、第1の拠点のメンバーと第2の拠点のメンバーが対面対話を行っている場合、第3の拠点のメンバーは、対面対話の音声を耳障りに感じることがある。この点に関し、特許文献1には、TV会議システムであって、一部のメンバー間での対話音声を他のメンバーに出力しないTV会議システムが開示されている。特許文献1には、他のメンバーには劣化した対話音声を出力する例も開示されている。
しかし、同一テーマの業務を異なる拠点のメンバーが遂行する場合、他拠点間の対話音声は、貴重な情報源またはコミュニケーションのきっかけとなることも多い。特に、チームやプロジェクトのリーダーは、メンバー間のコミュニケーションがどのように行われているのか、どのような会話および情報交換を行っているのかを把握しておくことを望む場合もある。また、他の拠点間の対話音声を耳障りに感じるメンバーと、他の拠点間の対話音声を積極的に聞きたい人が混在することもある。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、ある拠点において、他の拠点間の対話音声の出力態様を動的に制御することが可能な、新規かつ改良された通信装置、方法およびプログラムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、第1の通信装置および第2の通信装置と接続された通信装置であって、前記第1の通信装置から送信された第1の映像および第1の音、前記第2の通信装置から送信された第2の映像および第2の音を受信する通信部と、前記第1の映像および前記第2の映像を出力する映像出力部と、前記第1の音および前記第2の音を出力する音出力部と、ユーザを検出する検出部と、前記第1の通信装置を利用する第1のユーザと前記第2の通信装置を利用する第2のユーザとの対話が、前記第1の通信装置または前記第2の通信装置の一方からの対話要求の送信および他方による前記対話要求の受理により成立している間、前記第1の音および前記第2の音の前記音出力部による出力を、前記検出部による前記ユーザの検出の結果に基づいて制御し、前記第1のユーザと前記第2のユーザとの対話が成立していない間は前記音出力部に前記第1の音および前記第2の音を出力させる、制御部と、を備える、通信装置が提供される。
前記制御部は、前記第1のユーザと前記第2のユーザの間での対話が成立している間、前記検出部により前記ユーザが検出されない場合には前記音出力部に前記第1の音および前記第2の音を出力させず、前記検出部により前記ユーザが検出された場合には前記音出力部に前記第1の音および前記第2の音を出力させてもよい。
前記通信装置は、音を収音する音入力部と、撮像により映像を取得する映像入力部と、をさらに備え、前記音入力部により収音された前記音および前記映像入力部により取得された前記映像は前記第1の通信装置および前記第2の通信装置に送信され、前記制御部は、前記第1のユーザと前記第2のユーザとの対話に、前記第1の通信装置および前記第2の通信装置への対話要求の送信および当該対話要求の受理により前記ユーザが参加していない間は、前記対話に前記ユーザが参加している間よりも、前記第1の音および前記第2の音の到達範囲が制限されるように前記音出力部を制御してもよい。
前記制御部は、前記対話に前記ユーザが参加していない間には、前記第1の音および前記第2の音の出力が指向性を有するように前記音出力部を制御し、前記対話に前記ユーザが参加している間には、前記第1の音および前記第2の音の出力が無指向性になるように前記音出力部を制御してもよい。
前記検出部は、前記映像入力部の撮像範囲内の位置における前記ユーザの有無を検出してもよい。
前記音入力部は、第1のマイクロフォン、および前記第1のマイクロフォンより収音範囲が制限される第2のマイクロフォンを含み、前記検出部は、前記ユーザの位置に関する検出を行い、前記制御部は、前記検出部による検出の結果に基づき前記第1のマイクロフォンまたは前記第2のマイクロフォンを選択し、選択したマイクロフォンにより取得された音声の送信を制御してもよい。
前記制御部は、前記ユーザと前記通信装置の距離が閾値以上である場合に前記第1のマイクロフォンを選択し、前記ユーザと前記通信装置の距離が前記閾値未満である場合に前記第2のマイクロフォンを選択してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、第1の通信装置および第2の通信装置と接続された通信装置により実行される方法であって、前記第1の通信装置から送信された第1の映像および第1の音、前記第2の通信装置から送信された第2の映像および第2の音を受信することと、前記第1の映像および前記第2の映像を出力することと、前記第1の音および前記第2の音を出力することと、前記第1の通信装置を利用する第1のユーザと前記第2の通信装置を利用する第2のユーザとの対話が、前記第1の通信装置または前記第2の通信装置の一方からの対話要求の送信および他方による前記対話要求の受理により成立している間、前記第1の音および前記第2の音の出力を、前記通信装置が有する検出部によるユーザの検出の結果に基づいて制御することと、前記第1のユーザと前記第2のユーザとの対話が成立していない間は前記第1の音および前記第2の音を出力することと、を含む方法が提供される。

また、上記課題を解決するために、本発明の別の観点によれば、コンピュータに、第1の通信装置および第2の通信装置と接続された通信装置により実行される方法であって、前記第1の通信装置から送信された第1の映像および第1の音、前記第2の通信装置から送信された第2の映像および第2の音を受信することと、前記第1の映像および前記第2の映像を出力することと、前記第1の音および前記第2の音を出力することと、前記第1の通信装置を利用する第1のユーザと前記第2の通信装置を利用する第2のユーザとの対話が、前記第1の通信装置または前記第2の通信装置の一方からの対話要求の送信および他方による前記対話要求の受理により成立している間、前記第1の音および前記第2の音の出力を、前記通信装置が有する検出部によるユーザの検出の結果に基づいて制御することと、前記第1のユーザと前記第2のユーザとの対話が成立していない間は前記第1の音および前記第2の音を出力することと、を含む方法を実行させるための、プログラムが提供される。
以上説明したように本発明によれば、ある拠点において、他の拠点間の対話音声の出力態様を動的に制御することが可能である。
本発明の実施形態による遠隔コミュニケーションシステムの構成を示す説明図である。 通信装置の外観構成を示す説明図である。 各通信装置の映像出力部に表示される表示画面の遷移例を示す説明図である。 本発明の実施形態による通信装置の構成を示す説明図である。 音の出力制御の具体例を示す説明図である。 音の出力制御の具体例を示す説明図である。 本発明の実施形態による通信装置の動作を示す説明図である。 変形例による音の出力制御を示す説明図である。 通信装置のハードウェア構成を示したブロック図である。
以下に添付図面を参照しながら、本発明の実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。例えば、実質的に同一の機能構成または論理的意義を有する複数の構成を、必要に応じて通信装置20Aおよび20Bのように区別する。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、複数の構成要素の各々に同一符号のみを付する。例えば、通信装置20Aおよび20Bを特に区別する必要が無い場合には、各クライアントを単に通信装置20と称する。
<1.遠隔コミュニケーションシステムの概要>
本発明の実施形態は、遠隔する拠点間でのコミュニケーションを実現する遠隔コミュニケーションシステムに関する。以下、図1〜図3を参照し、遠隔コミュニケーションシステムの概要を説明する。
図1は、本発明の実施形態による遠隔コミュニケーションシステムの構成を示す説明図である。図1に示したように、本発明の実施形態による遠隔コミュニケーションシステムは、拠点Aに設けられる通信装置20A、拠点Bに設けられる通信装置20B、拠点Cに設けられる通信装置20Cおよびセッション管理サーバ30を有する。通信装置20A、通信装置20B、通信装置20Cおよびセッション管理サーバ30は、ネットワーク12により接続されている。拠点A〜拠点Cは、互いに遠隔する拠点であり、例えば、互いに離れたオフィスであってもよいし、同一建物の別フロア、または同一敷地内の別棟のオフィスであってもよい。
各通信装置20は、各通信装置20が設けられた拠点の映像および音を送信する。また、各通信装置20は、他の拠点の通信装置20から送信された映像および音を受信し、受信した映像および音を出力する。これにより、異なる拠点に存在するメンバー(通信装置20のユーザ)が対面対話を行うことが可能である。
例えば、図1に示した例では、拠点Aに存在するメンバーP1と拠点Bに存在するメンバーP2が、通信装置20Aおよび通信装置20Bを介して対面対話を行っている。図1に示した例では、拠点Cに存在するメンバーP3は対面対話に参加していない。
セッション管理サーバ30は、通信装置20間のセッションを管理する。例えば、セッション管理サーバ30は、通信装置20A〜通信装置20Cの接続状態を管理し、各通信装置はこの状態に応じて対話参加状態や非参加状態、および対話終了時の状態に復帰するなどの状態遷移を行う。また、セッション管理サーバ30は、通信装置20A〜通信装置20Cの各々から送信された映像および音を収集し、収集された映像および音を通信装置20A〜通信装置20Cの各々へ送信してもよい。ただし、各通信装置20にセッションの管理機能が実装され、各通信装置20が直接的に通信することが可能な場合には、セッション管理サーバ30は設けられなくてもよい。
(通信装置の外観構成)
ここで、図2を参照して、通信装置20の構成をより具体的に説明する。図2は、通信装置20の外観構成を示す説明図である。図2に示したように、通信装置20は、映像出力部220と、無指向性スピーカ223と、指向性スピーカ224と、映像入力部228と、音入力部232と、を備える。
映像出力部220は、例えば大画面ディスプレイで構成される。映像出力部220は、各拠点の通信装置20により得られた映像を表示する。例えば、映像出力部220は、図2に示したように、拠点Aの映像DA、拠点Bの映像DBおよび拠点Cの映像DCを表示する。
無指向性スピーカ223は、他の拠点の通信装置20から送信された音を無指向性で出力する。指向性スピーカ224は、他の拠点の通信装置20から送信された音を所定の方向に向けて出力する。無指向性スピーカ223と指向性スピーカ224は、選択的に、または同時に使用され得る。
映像入力部228は、通信装置20が設けられた拠点の映像を撮像により取得する。例えば、拠点Aに設けられた通信装置20Aの映像入力部228は拠点Aの映像(第1の映像)を撮像により取得し、拠点Bに設けられた通信装置20Bの映像入力部228は拠点Bの映像(第2の映像)を撮像により取得し、拠点Cに設けられた通信装置20Cの映像入力部228は拠点Cの映像(第3の映像)を撮像により取得する。通信装置20Aの映像入力部228により取得された拠点Aの映像は、通信装置20同士のPeer to Peerによる通信あるいはセッション管理サーバ30を介して通信装置20Bおよび通信装置20Cに送信される。同様に、通信装置20Bの映像入力部228により取得された拠点Bの映像は、通信装置20同士のPeer to Peerによる通信あるいはセッション管理サーバ30を介して通信装置20Aおよび通信装置20Cに送信され、通信装置20Cの映像入力部228により取得された拠点Cの映像は、通信装置20同士のPeer to Peerによる通信あるいはセッション管理サーバ30を介して通信装置20Aおよび通信装置20Bに送信される。これにより、各通信装置20の映像出力部220が、拠点Aの映像DA、拠点Bの映像DBおよび拠点Cの映像DCを表示可能となる。
音入力部232は、通信装置20が設けられた拠点の音を収音するマイクロフォンである。例えば、拠点Aに設けられた通信装置20Aの音入力部232は拠点Aの音(第1の音)を収音し、拠点Bに設けられた通信装置20Bの音入力部232は拠点Bの音(第2の音)を収音し、拠点Cに設けられた通信装置20Cの音入力部232は拠点Cの音(第3の音)を収音する。通信装置20Aの音入力部232により取得された拠点Aの音は、通信装置20同士のPeer to Peerによる通信あるいはセッション管理サーバ30を介して通信装置20Bおよび通信装置20Cに送信される。同様に、通信装置20Bの音入力部232により取得された拠点Bの音は、通信装置20同士のPeer to Peerによる通信あるいはセッション管理サーバ30を介して通信装置20Aおよび通信装置20Cに送信され、通信装置20Cの音入力部232により取得された拠点Cの音は、通信装置20同士のPeer to Peerによる通信あるいはセッション管理サーバ30を介して通信装置20Aおよび通信装置20Bに送信される。これにより、各通信装置20の無指向性スピーカ223または指向性スピーカ224が、他の拠点の音を出力することが可能となる。
なお、図2においては、通信装置20が有する各構成が一体的に配置される例を示しているが、通信装置20が有する一部の構成は他の構成から離れて配置されてもよい。例えば、音入力部232は映像出力部220から分離して配置されてもよく、分離して配置された構成は有線または無線により他の構成と接続されてもよい。
(表示画面の遷移)
続いて、図3を参照し、上述した映像出力部220に表示される表示画面の遷移例を説明する。
図3は、各通信装置20の映像出力部220に表示される表示画面の遷移例を示す説明図である。各拠点の通信装置20が起動した状態では、図3の上段に示したように、各通信装置20の映像出力部220には共通の表示画面が表示される。共通の表示画面では、各拠点の映像DA〜DCが均等に配置される。
その後、ある2拠点間の対面対話(通信装置20を介した対話)が成立すると、各通信装置20の映像出力部220に表示される表示画面が変化する。例えば、拠点Aに存在するメンバーP1および拠点Bに存在するメンバーP2による対面対話が成立すると、各通信装置20の映像出力部220に表示される表示画面は図3の下段に示すように変化する。
すなわち、通信装置20Aの映像出力部220には、メンバーP2を含む拠点Bの映像DBが拡大表示され、自拠点の映像DAおよび他の拠点の映像DCが縮小表示される。また、通信装置20Bの映像出力部220には、メンバーP1を含む拠点Aの映像DAが拡大表示され、自拠点の映像DBおよび他の拠点の映像DCが縮小表示される。一方、通信装置20Cの映像出力部220では、拠点Cに対面対話に参加しているメンバーがいないことから、各拠点の映像DA〜DCが均等に配置された表示画面が維持される。ただし、通信装置20Cの映像出力部220は、拠点Aと拠点B間で対面対話が行われていることを示す表示を、例えば、図3に示したように拠点Aの映像DAおよび拠点Bの映像DBを囲むハイライト表示Hを出力する。これにより、拠点Cに存在するメンバーP3は、拠点Aと拠点B間で対面対話が行われていることを目視で確認することが可能となる。
なお、上記では拠点が3つであり、3つの拠点の映像が表示される例を示したが、拠点の数、および表示される映像の数は、3つに限定されない。本発明の実施形態による遠隔コミュニケーションシステムは、より多数の拠点に適用されてもよく、各拠点の映像出力部220に表示される映像の数は、映像出力部220の解像度および大きさに応じて設計されてもよい。全ての拠点の映像が1画面で表示されると視認性が十分でない場合には、選択された一部の拠点の映像が表示されてもよい。
(背景)
以上説明した遠隔コミュニケーションシステムにおいて、一部の拠点間で対面対話が行われている場合に、対面対話に参加していない拠点で対面対話の音声が出力されると、当該拠点のメンバーが対面対話の音声を耳障りに感じることがある。このため、一部の拠点間で行われている対面対話の音声は、対面対話に参加していない拠点で出力しない方法も考えられる。
しかし、同一テーマの業務を異なる拠点のメンバーが遂行する場合、他拠点間の対話音声は、貴重な情報源またはコミュニケーションのきっかけとなることも多い。特に、チームやプロジェクトのリーダーは、メンバー間のコミュニケーションがどのように行われているのか、どのような会話および情報交換を行っているのかを把握しておくことを望む場合もある。また、他の拠点間の対話音声を耳障りに感じるメンバーと、他の拠点間の対話音声を積極的に聞きたい人が混在することもある。すなわち、他の拠点間の対話音声を聞くか聞かないかの判断は、各メンバー側に委ねられることが望まれる。
なお、映像出力部220が大画面ディスプレイで構成される場合、通信装置20が共用スペースに設置されることが多い。このため、対面対話に参加していない拠点で対面対話の音声が出力される場合、通信装置20の映像入力部228の撮像範囲外に存在するメンバーに対面対話の音声が聞かれ得る。対面対話を行っているメンバー側は、自分達の対話を自分達に知られずに誰かが聞いているかもしれないという不安を感じる恐れがある。
本件発明者は、上記事情を一着眼点にして本発明の実施形態を創作するに至った。本発明の実施形態によれば、ある拠点に存在するメンバーに、他の拠点間の対話音声を聞くか聞かないかの判断を委ねることが可能である。また、対面対話を行っているメンバー側が上述の不安を感じる恐れを抑制することが可能である。以下、このような本発明の実施形態の構成および動作を順次詳細に説明する。
<2.通信装置の構成>
図4は、本発明の実施形態による通信装置20の構成を示す説明図である。図4に示したように、本発明の実施形態による通信装置20は、映像出力部220と、操作部221と、音出力部222と、映像入力部228と、音入力部232と、センシング部236と、通信部240と、制御部250と、を備える。映像出力部220、映像入力部228および音入力部232の構成は図2を参照して説明した通りであるので、ここでの詳細な説明を省略する。なお、通信装置20が有する各構成は、ハードウェアにより実現されてもよいし、ハードウェアとソフトウェアとの協働により実現されてもよい。
操作部221は、通信装置20を利用するメンバーによる操作を検出する。例えば、操作部221は、対面対話を他の拠点に要求する操作、要求された対面対話を受理する操作、などを検出する。この操作部221は、タッチパネルとして、映像出力部220と一体的に実装されてもよい。操作部221がタッチパネルとして実装される場合、対面対話を他の拠点に要求する操作は、映像出力部220により表示される表示画面のうちで、他の拠点の映像をタップする操作であってもよい。
音出力部222は、他の拠点の通信装置20から送信された音を出力する。音出力部222は、例えば、図2を参照して説明した無指向性スピーカ223および指向性スピーカ224から構成される。
センシング部236は、対象範囲内におけるメンバーの有無を検出する。上記の対象範囲は、後述する理由により、映像入力部228による撮像の範囲内であることが望ましい。センシング部236は、例えば距離画像センサであってもよいし、赤外線センサであってもよい。または、映像入力部228により取得された画像を解析することでメンバーを検出することも可能であり、この場合、センシング部236は、映像入力部228により取得された画像から人物検出を行うソフトウェアまたはハードウェアモジュールであってもよい。なお、センシング部236は、メンバーの有無に加えて、またはメンバーの有無に代えて、センシング部236からメンバーまでの距離を検出してもよい。
通信部240は、ネットワーク12を介して映像および音を通信する。例えば、通信部240は、ネットワーク12およびセッション管理サーバ30を介して、他の拠点の通信装置20から送信された映像および音を受信する受信部としての機能を有する。また、通信部240は、映像入力部228により取得された映像および音入力部232により取得された音を、ネットワーク12およびセッション管理サーバ30を介して、他の拠点の通信装置20に送信する送信部としての機能を有する。なお、音入力部232により取得される音は、拠点の環境音およびメンバーの音声を含む。さらに、通信部240は、他の拠点の通信装置20から対話要求を受信すること、および他の拠点の通信装置20に対話要求を送信することも可能である。
制御部250は、通信装置20の動作全般を制御する。例えば、制御部250は、映像入力部228により取得された映像、および音入力部232により取得された音を通信部240に送信させる。また、制御部250は、通信部240により受信された他の拠点の映像を含む表示画面を映像出力部220に表示させ、通信部240により受信された他の拠点の音を音出力部222に出力させる。
また、制御部250は、メンバーが操作部221に行った対面対話を要求する操作に基づき、通信部240に、対話要求を他の拠点の通信装置20へ送信させる。また、制御部250は、メンバーが操作部221に行った対話要求を受理する操作に基づき、通信部240に応答信号を送信させる。なお、対話要求の受理は、操作部221への操作に限られず、映像入力部228により取得された画像においてメンバーが映像出力部220を見たことの検出、映像入力部228にメンバーが近づいたことの検出、またはメンバーが発した音声に基づいて判断されてもよい。
また、制御部250は、対話要求が受理され、少なくとも2つの拠点間での対面対話が開始すると、図3を参照して説明したように、映像出力部220に表示させる表示画面を変化させる。例えば、制御部250は、通信装置20の拠点のメンバーが対面対話に参加している場合には対面対話の相手側の拠点の映像を拡大し、通信装置20の拠点のメンバーが対面対話に参加していない場合には、対面対話に参加しているメンバーの拠点をハイライト表示する。
また、制御部250は、音出力部222による音の出力態様を動的に制御する。具体的には、制御部250は、いずれの拠点間でも対面対話が行われていない場合、音出力部222に他の拠点の音を通常出力させる。通常出力は、例えば、無指向性スピーカ223からの音の出力である。同様に、制御部250は、通信装置20の拠点のメンバーが対面対話に参加している場合にも、音出力部222に他の拠点の音を通常出力させる。
一方、本実施形態による制御部250は、他の拠点間で対面対話が行われている間、音出力部222からの音の出力をOFFにする。かかる構成により、通信装置20の拠点のメンバーに対話音声が届かないので、通信装置20の拠点のメンバーが対話音声を耳障りに感じることを防止できる。
しかし、「背景」として説明したように、他の拠点間の対話音声を聞くか聞かないかの判断は、各メンバー側に委ねられることが望まれる。このため、本実施形態による制御部250は、センシング部236により映像出力部220の前の所定領域でメンバーが検出されたことに基づいて、他の拠点の音を音出力部222に局所出力させる。局所出力は、例えば、指向性スピーカからの音の出力である。
ここで、図5を参照して、制御部250による上述した制御の具体例を説明する。図5は、拠点Cに設けられた通信装置20C、および拠点Cに存在するメンバーP3およびP4を示す。拠点Aおよび拠点Bの間で対面対話が行われている状況において、いずれのメンバーもセンシング部236により検出されない場合、他の拠点の音は、無指向性スピーカ223および指向性スピーカ224のいずれからも出力されない。
一方、図5に矢印で示したように、メンバーP3が通信装置20Cに近づき、センシング部236によりメンバーP3が検出されると、指向性スピーカ224が、対話音声を含む他の拠点の音を局所出力する。かかる構成により、メンバーP3のように対面対話に興味のあるメンバーは、対話音声を聞くことが可能となる。一方、通信装置20Cに近づいていないメンバーP4には、局所出力された他の拠点の音が届かないので、メンバーP4が対話音声を耳障りに感じることもない。
さらに、上述したように、センシング部236によるメンバー検出の対象範囲は、映像入力部228による撮像の範囲内であってもよい。かかる構成によれば、メンバーの検出に基づいて対話音声が出力される場合に、対面対話を行っているメンバーは、各拠点の通信装置20に表示される表示画面で上記メンバーを目視確認することができる。したがって、対面対話を行っているメンバーが持ち得る、他の拠点において自分達に知られずに誰かが対話音声を聞いているかもしれないという不安を軽減することが可能である。
続いて、図6を参照して、音の出力態様の遷移例を整理する。図6は、拠点Cに設けられた通信装置20Cによる音の出力態様の例を示す。いずれの拠点間でも対面対話が行われていない場合、通信装置20の音出力部222は他の拠点の音を通常出力する(S1)。図6において円形の実線は、ある音量で入力された音が到達する範囲を簡易的に示している。
他の拠点間で対面対話が行われている場合、通信装置20の音出力部222は、図6に示したように他の拠点の音の出力をOFFにする(S2)。ただし、拠点CのメンバーP3が通信装置20Cに近づくと、通信装置20の音出力部222は、図6に示したように対話音声を含む他の拠点の音を局所出力する(S3)。ここで、局所出力での音の到達範囲は、図6に示したように、通常出力での音の到達範囲よりも制限される。このため、
通常出力であれば対話音声が到達する位置にメンバーP4がいる場合であっても、局所出力によればメンバーP4に対話音声を到達させないことが可能である。
さらに、拠点CのメンバーP3が対面対話に参加すると、通信装置20の音出力部222は、対話音声を含む他の拠点の音を通常出力する(S1)。
<3.通信装置の動作>
以上、本発明の実施形態による通信装置20の構成を説明した。続いて、図7を参照し、本発明の実施形態による通信装置20の動作を説明する。
図7は、本発明の実施形態による通信装置20の動作を示す説明図である。図7においては、説明の明瞭性の観点から、セッション管理サーバ30の動作を割愛している。また、同一の横ラインに並ぶ同一名称の複数の処理ステップで行われる処理は実質的に同一であるので、複数の処理ステップのうちの1つの処理ステップのみにステップ番号を付している。また、一連の処理ステップは連続的に行われる必要は無く、いずれかの時点で処理の分岐や中断があってもよい。
まず、各通信装置20が起動すると(S101)、各通信装置20は、自身の拠点の映像および音を取得する(S102)。各通信装置20は、取得した映像を他の拠点の通信装置20に送信すると共に、他の拠点の通信装置20から他の拠点の映像および音を受信する(S103)。
各通信装置20は、S103で受信した他の拠点の映像を表示し(S104)、S103で受信した他の拠点の音を通常出力する(S105)。S102〜S105の処理ステップは、対話要求の受理があるまで繰り返し行われる。また、S102〜S104の処理ステップは、対話要求の受理に関わらず、以降は常にバックグラウンドで行われる。なお、S104においては、図3の上段に示したように、各拠点の映像が均等に表示される。
その後、拠点Aのメンバーが拠点Bのメンバーとの対面対話を要求する操作(例えば、表示画面において拠点Bのメンバーをタップする操作)を操作部221に対して行うと、通信装置20Aは通信装置20Bへの対話要求を送信する(S106/Yes)。当該対話要求が通信装置20Bにおいて受理されると(S108)、通信装置20Aおよび通信装置20Bは、対面対話の相手の拠点の映像を拡大表示する(S109)。
一方、対面対話に参加していない拠点Cの通信装置20Cは、拠点Aおよび拠点Bの音の出力をOFFにする(S110)。そして、拠点Cの通信装置20Cは、図3に示したように、拠点Aと拠点B間で対面対話が行われていることを示すハイライト表示Hを出力する(S111)。
その後、通信装置20Cに拠点Cのメンバーが近づいて、当該メンバーがセンシング部236により検出されると(S112/Yes)、通信装置20Cは拠点Aおよび拠点Bの音の局所出力を開始する(S113)。
さらに、拠点Cのメンバーが、対面対話への参加を要求する操作を操作部221に対して行うと(S114/Yes)、対面対話を行っている拠点Aの通信装置20Aおよび拠点Bの通信装置20Bに対話要求が送信される。当該対話要求が受理されると(S115)、通信装置20Cは、拠点Aおよび拠点Bの音の出力を、局所出力から通常出力に変更する(S116)。さらに、各拠点の通信装置20は、3拠点間での対面対話用の表示画面を表示する(S117)。3拠点間での対面対話用の表示画面では、各拠点の映像が均等に配置され、かつ対面対話が行われていることを示す表示が重畳されてもよい。なお、拠点Cの対面対話への参加は、拠点Cからの要求でなく、拠点Aまたは拠点Bからの招待に基づいて実現されてもよい。
その後、全ての対話が終了すると、各通信装置20の状態は通常状態に戻る(S118)。すなわち、各通信装置20の状態は、S102〜S105の処理ステップを繰り返す状態となる。なお、3拠点間での対面対話の終了過程において、まず1つの拠点が対面対話から抜ける場合には、当該拠点の通信装置20がS110〜S114の処理ステップを繰り返す。
<4.変形例>
以上、本発明の実施形態を説明した。以下では、本発明の実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で本発明の実施形態に適用されてもよいし、組み合わせで本発明の実施形態に適用されてもよい。また、各変形例は、本発明の実施形態で説明した構成に代えて適用されてもよいし、本発明の実施形態で説明した構成に対して追加的に適用されてもよい。
(第1の変形例)
図5では、他の拠点間で行われている対面対話に興味のあるメンバーは映像出力部220に近づくと、対話音声が局所出力されることを示した。対話音声が局所出力される間、当該メンバーの拠点の音が騒がしい場合、対話音声を聞きとり易くするために、当該メンバーはさらに映像出力部220に近づく可能性がある。また、当該メンバーの拠点の音が騒がしい場合、他の拠点にも騒がしい音が送信され、他の拠点で当該音が煩わしく感じられることが懸念される。
第1の変形例は、上記の懸念を克服するための工夫に関する。第1の変形例による音入力部232は、第1のマイクロフォン、および第1のマイクロフォンより収音範囲が制限される第2のマイクロフォンを含み、制御部250は、センシング部236により検出されるメンバーの位置に応じて、第1のマイクロフォンまたは第2のマイクロフォンを選択してもよい。具体的には、制御部250は、メンバーと通信装置20との距離が閾値以上である場合には第1のマイクロフォンを選択し、メンバーと通信装置20との距離が閾値未満である場合には第2のマイクロフォンを選択してもよい。そして、制御部250は、選択したマイクロフォンにより取得された音声の送信を制御してもよい。
かかる構成によれば、ある拠点の音が騒がしいことが推察される場合に、他の拠点に送信される音が制限されるので、他の拠点のメンバーがより対話に集中することが可能となる。なお、第1のマイクロフォンは無指向性のマイクロフォンであり、第2のマイクロフォンは指向性のマイクロフォンであってもよい。
(第2の変形例)
第2の変形例は、図6を参照して説明した音の出力態様の変形例である。以下、図8を参照し、第2の変形例による音の出力態様の遷移例を説明する。
図8に示したように、他の拠点の音の局所出力は、無指向性であって、通常出力よりも低い音量での音の出力であってもよい。また、他の拠点間で対面対話が行われており、自身の拠点が対面対話に参加していない場合には、対話音声を含む他の拠点の音が微小出力されてもよい(S4)。微小出力は、図8に示したように、例えば局所出力よりもさらに低い音量での音の出力であってもよい。
かかる構成によれば、他の拠点間で対面対話が行われており、自身の拠点が対面対話に参加していない場合、当該拠点のメンバーは、微かに、ただし耳障りにならない程度に対話音声を聞くことが可能となる。
なお、通信装置20は、局所出力においては、通信装置20に近づくメンバーの距離に応じて、段階的に出力音量を変化させてもよいし、指向性スピーカ224の利用を組み合わせてもよい。指向性スピーカ224の利用が組み合わされない場合には、通信装置20の構成は、図2より指向性スピーカ224が除かれた構成となる。
<5.ハードウェア構成>
以上、本発明の実施形態を説明した。上述した音の出力制御および映像の表示制御などの情報処理は、ソフトウェアと、以下に説明する通信装置20のハードウェアとの協働により実現され得る。
図9は、通信装置20のハードウェア構成を示したブロック図である。通信装置20は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、ホストバス204と、を備える。また、通信装置20は、ブリッジ205と、外部バス206と、インタフェース207と、入力装置208と、表示装置209と、音声出力装置210と、ストレージ装置(HDD)211と、ドライブ212と、ネットワークインタフェース215とを備える。
CPU201は、演算処理装置および制御装置として機能し、各種プログラムに従って通信装置20内の動作全般を制御する。また、CPU201は、マイクロプロセッサであってもよい。ROM202は、CPU201が使用するプログラムや演算パラメータ等を記憶する。RAM203は、CPU201の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス204により相互に接続されている。CPU201、ROM202およびRAM203とソフトウェアとの協働により、制御部250の機能が実現され得る。
ホストバス204は、ブリッジ205を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス206に接続されている。なお、必ずしもホストバス204、ブリッジ205および外部バス206を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置208は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、センサ、スイッチおよびレバーなどメンバーが情報を入力するための入力手段と、メンバーによる入力に基づいて入力信号を生成し、CPU201に出力する入力制御回路などから構成されている。通信装置20を利用するメンバーは、該入力装置208を操作することにより、通信装置20に対して各種のデータを入力したり処理動作を指示したりすることができる。当該入力装置208は、例えば操作部221に対応する。
表示装置209は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、プロジェクター装置、OLED(Organic Light Emitting Diode)装置およびランプなどの表示装置を含む。表示装置209は、例えば映像出力部220に対応する。また、音声出力装置210は、スピーカおよびヘッドホンなどの音声出力装置を含む。音声出力装置210は、例えば、音出力部222に対応する。
ストレージ装置211は、本実施形態にかかる通信装置20の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置211は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置211は、例えば、HDD(Hard Disk Drive)やSSD(Solid Strage Drive)、あるいは同等の機能を有するメモリ等で構成される。このストレージ装置211は、ストレージを駆動し、CPU201が実行するプログラムや各種データを格納する。
ドライブ212は、記憶媒体用リーダライタであり、通信装置20に内蔵、あるいは外付けされる。ドライブ212は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体24に記録されている情報を読み出して、RAM203またはストレージ装置211に出力する。また、ドライブ212は、リムーバブル記憶媒体24に情報を書き込むこともできる。
ネットワークインタフェース215は、例えば、ネットワーク12に接続するための通信デバイス等で構成された通信インタフェースである。また、ネットワークインタフェース215は、無線LAN(Local Area Network)対応通信装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
<6.むすび>
以上説明したように、本発明の実施形態によれば、ある拠点のメンバーが、他の拠点間で行われている対面対話の対話音声を煩わしく感じることなく、かつ、必要に応じて聞き取ることが可能である。従って、チームやプロジェクトのリーダーは、メンバー間のコミュニケーションがどのように行われているのか、どのような会話および情報交換を行っているのかを把握できるようになる。また、本発明の実施形態によれば、ある拠点のメンバーが当該拠点の通信装置20に近づくことに基づいて局所出力が開始されるので、当該メンバーは移動以外に特段の操作を行わずに対話音声を聞き始めることが可能である。また、本発明の実施形態によれば、対面対話を行っているメンバーが持ち得る、他の拠点において自分たちに知られずに誰かが対話音声を聞いているかもしれないという不安を軽減することが可能である。
なお、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、上記では通信装置20が同一の拠点において共用される共用端末であることを主に想定して説明をしたが、本実施形態による遠隔コミュニケーションシステムには、共用端末と個人用端末が混在してもよい。この場合であっても、本発明の実施形態による通信装置20を共用端末として用いることが可能である。
また、上記では本発明の実施形態が遠隔オフィス間でのコミュニケーションに適用される例を説明したが、本発明の実施形態は、オフィスと非オフィス(例えば、工場、会議室、自宅)との間のコミュニケーションにも適用され得る。また、複数のチームやプロジェクトに跨って本発明の実施形態を共通利用することも可能である。
また、本明細書の通信装置20の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、通信装置20の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、通信装置20に内蔵されるCPU、ROMおよびRAMなどのハードウェアに、上述した通信装置20の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
20 通信装置
30 セッション管理サーバ
220 映像出力部
221 操作部
222 音出力部
223 無指向性スピーカ
224 指向性スピーカ
228 映像入力部
232 音入力部
236 センシング部
240 通信部
250 制御部

Claims (9)

  1. 第1の通信装置および第2の通信装置と接続された通信装置であって、
    前記第1の通信装置から送信された第1の映像および第1の音、前記第2の通信装置から送信された第2の映像および第2の音を受信する通信部と、
    前記第1の映像および前記第2の映像を出力する映像出力部と、
    前記第1の音および前記第2の音を出力する音出力部と、
    ユーザを検出する検出部と、
    前記第1の通信装置を利用する第1のユーザと前記第2の通信装置を利用する第2のユーザとの対話が、前記第1の通信装置または前記第2の通信装置の一方からの対話要求の送信および他方による前記対話要求の受理により成立している間、前記第1の音および前記第2の音の前記音出力部による出力を、前記検出部による前記ユーザの検出の結果に基づいて制御し、
    前記第1のユーザと前記第2のユーザとの対話が成立していない間は前記音出力部に前記第1の音および前記第2の音を出力させる、制御部と、
    を備える、通信装置。
  2. 前記制御部は、前記第1のユーザと前記第2のユーザの間での対話が成立している間、前記検出部により前記ユーザが検出されない場合には前記音出力部に前記第1の音および前記第2の音を出力させず、前記検出部により前記ユーザが検出された場合には前記音出力部に前記第1の音および前記第2の音を出力させる、請求項1に記載の通信装置。
  3. 前記通信装置は、
    音を収音する音入力部と、
    撮像により映像を取得する映像入力部と、
    をさらに備え、
    前記音入力部により収音された前記音および前記映像入力部により取得された前記映像は前記第1の通信装置および前記第2の通信装置に送信され、
    前記制御部は、前記第1のユーザと前記第2のユーザとの対話に、前記第1の通信装置および前記第2の通信装置への対話要求の送信および当該対話要求の受理により前記ユーザが参加していない間は、前記対話に前記ユーザが参加している間よりも、前記第1の音および前記第2の音の到達範囲が制限されるように前記音出力部を制御する、請求項2に記載の通信装置。
  4. 前記制御部は、前記対話に前記ユーザが参加していない間には、前記第1の音および前記第2の音の出力が指向性を有するように前記音出力部を制御し、前記対話に前記ユーザが参加している間には、前記第1の音および前記第2の音の出力が無指向性になるように前記音出力部を制御する、請求項3に記載の通信装置。
  5. 前記検出部は、前記映像入力部の撮像範囲内の位置における前記ユーザの有無を検出する、請求項3に記載の通信装置。
  6. 前記音入力部は、第1のマイクロフォン、および前記第1のマイクロフォンより収音範囲が制限される第2のマイクロフォンを含み、
    前記検出部は、前記ユーザの位置に関する検出を行い、
    前記制御部は、前記検出部による検出の結果に基づき前記第1のマイクロフォンまたは前記第2のマイクロフォンを選択し、選択したマイクロフォンにより取得された音声の送信を制御する、請求項3に記載の通信装置。
  7. 前記制御部は、前記ユーザと前記通信装置の距離が閾値以上である場合に前記第1のマイクロフォンを選択し、前記ユーザと前記通信装置の距離が前記閾値未満である場合に前記第2のマイクロフォンを選択する、請求項6に記載の通信装置。
  8. 第1の通信装置および第2の通信装置と接続された通信装置により実行される方法であって、
    前記第1の通信装置から送信された第1の映像および第1の音、前記第2の通信装置から送信された第2の映像および第2の音を受信することと、
    前記第1の映像および前記第2の映像を出力することと、
    前記第1の音および前記第2の音を出力することと、
    前記第1の通信装置を利用する第1のユーザと前記第2の通信装置を利用する第2のユーザとの対話が、前記第1の通信装置または前記第2の通信装置の一方からの対話要求の送信および他方による前記対話要求の受理により成立している間、前記第1の音および前記第2の音の出力を、前記通信装置が有する検出部によるユーザの検出の結果に基づいて制御することと、
    前記第1のユーザと前記第2のユーザとの対話が成立していない間は前記第1の音および前記第2の音を出力することと、を含む、方法。
  9. コンピュータに、
    第1の通信装置および第2の通信装置と接続された通信装置により実行される方法であって、
    前記第1の通信装置から送信された第1の映像および第1の音、前記第2の通信装置から送信された第2の映像および第2の音を受信することと、
    前記第1の映像および前記第2の映像を出力することと、
    前記第1の音および前記第2の音を出力することと、
    前記第1の通信装置を利用する第1のユーザと前記第2の通信装置を利用する第2のユーザとの対話が、前記第1の通信装置または前記第2の通信装置の一方からの対話要求の送信および他方による前記対話要求の受理により成立している間、前記第1の音および前記第2の音の出力を、前記通信装置が有する検出部によるユーザの検出の結果に基づいて制御することと、
    前記第1のユーザと前記第2のユーザとの対話が成立していない間は前記第1の音および前記第2の音を出力することと、
    を含む、方法を実行させるための、プログラム。

JP2017024820A 2017-02-14 2017-02-14 通信装置、方法およびプログラム Active JP6870363B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017024820A JP6870363B2 (ja) 2017-02-14 2017-02-14 通信装置、方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017024820A JP6870363B2 (ja) 2017-02-14 2017-02-14 通信装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2018133652A JP2018133652A (ja) 2018-08-23
JP6870363B2 true JP6870363B2 (ja) 2021-05-12

Family

ID=63248642

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017024820A Active JP6870363B2 (ja) 2017-02-14 2017-02-14 通信装置、方法およびプログラム

Country Status (1)

Country Link
JP (1) JP6870363B2 (ja)

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0738870A (ja) * 1993-07-21 1995-02-07 Hitachi Ltd 多地点電子会議システムの映像音声制御方式
JP2751923B1 (ja) * 1997-02-05 1998-05-18 日本電気株式会社 多地点テレビ会議システムおよび多地点テレビ会議装置
JP2000152206A (ja) * 1998-11-13 2000-05-30 Canon Inc 通信会議接続装置、通信会議システム、通信会議の制御方法、及び記憶媒体
JP4475579B2 (ja) * 2004-11-11 2010-06-09 日本電信電話株式会社 映像コミュニケーション装置および映像コミュニケーション装置の制御方法
JPWO2008105252A1 (ja) * 2007-02-28 2010-06-03 コニカミノルタホールディングス株式会社 常時接続型コミュニケーション装置及びその制御方法
JP2010026551A (ja) * 2008-07-15 2010-02-04 Seiko Epson Corp 表示システム、及び、表示システムの制御方法
JP2012100185A (ja) * 2010-11-05 2012-05-24 Panasonic Corp テレビ会議システム、テレビ会議方法、プログラムおよび記録媒体
JP5678996B2 (ja) * 2013-06-27 2015-03-04 沖電気工業株式会社 情報処理システム、情報処理装置、及びプログラム
JP6353700B2 (ja) * 2014-05-20 2018-07-04 三菱電機インフォメーションネットワーク株式会社 遠距離点間双方向コミュニケーションシステムおよび遠距離点間双方向コミュニケーション方法
JP2016045623A (ja) * 2014-08-21 2016-04-04 ソニー株式会社 情報処理装置および制御方法
JP6598020B2 (ja) * 2015-04-16 2019-10-30 パナソニックIpマネジメント株式会社 情報通知方法及び音声出力装置
JP6701887B2 (ja) * 2016-03-31 2020-05-27 沖電気工業株式会社 情報処理システム、情報処理方法およびプログラム
JP6668907B2 (ja) * 2016-04-13 2020-03-18 沖電気工業株式会社 環境音声配信システム、環境音声処理方法及び環境音声処理プログラム

Also Published As

Publication number Publication date
JP2018133652A (ja) 2018-08-23

Similar Documents

Publication Publication Date Title
JP7379907B2 (ja) 情報処理装置、情報処理プログラム、情報処理システム、情報処理方法
JP6937863B2 (ja) 会議サービス提供方法及びそのコンピュータプログラム
US11715386B1 (en) Queuing for a video conference session
US9918042B2 (en) Performing electronic conferencing operations using electronic portals at different locations
JP2007282072A (ja) 電子会議システム、電子会議支援プログラム、電子会議支援方法、電子会議システムにおける情報端末装置
US9954912B2 (en) Apparatus, system, and method of controlling transmission of data
WO2022025143A1 (ja) 会話制御装置、会話システム及び会話制御方法
US20200162617A1 (en) Communication system, non-transitory computer-readable medium, and terminal apparatus
JP2016195304A (ja) 管理プログラム、会議管理方法、及び会議管理サーバ装置
JP2011180948A (ja) 端末装置、会議サーバおよび処理プログラム
JPWO2016031548A1 (ja) 操作システム、通信端末、通信システム、操作方法、及びプログラム
JP2023130837A (ja) 機器システム、音量の調整方法、第二の機器、第一の機器
JP5227893B2 (ja) 会議システム、会議サーバ、会議端末、および会議システムのマイク感度調整方法
JP2019117998A (ja) ウェブ会議システム、ウェブ会議システムの制御方法、およびプログラム
JP6870363B2 (ja) 通信装置、方法およびプログラム
JP2009253625A (ja) 情報収集・テレビ会議実施制御装置、情報収集・テレビ会議実施制御方法、情報収集・テレビ会議実施制御プログラムおよびテレビ会議システム
US20110173275A1 (en) Messaging Between Events
JP2018036688A (ja) 情報処理装置、サーバ装置、情報処理システム、その制御方法及びプログラム
JP2019176386A (ja) 通信端末及び会議システム
JP2017022432A (ja) 通信管理システム、通信システム、通信管理方法、及びプログラム
JP6787078B2 (ja) 通信装置、方法およびプログラム
JP2012165170A (ja) 会議装置、会議方法および会議プログラム
JP2007221437A (ja) 遠隔会議システム
US20110069143A1 (en) Communications Prior To A Scheduled Event
GB2598897A (en) Virtual meeting platform

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190327

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200908

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210329

R150 Certificate of patent or registration of utility model

Ref document number: 6870363

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150