JP6416446B1 - 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末 - Google Patents

通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末 Download PDF

Info

Publication number
JP6416446B1
JP6416446B1 JP2018526268A JP2018526268A JP6416446B1 JP 6416446 B1 JP6416446 B1 JP 6416446B1 JP 2018526268 A JP2018526268 A JP 2018526268A JP 2018526268 A JP2018526268 A JP 2018526268A JP 6416446 B1 JP6416446 B1 JP 6416446B1
Authority
JP
Japan
Prior art keywords
mobile communication
communication terminal
unit
user
headset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018526268A
Other languages
English (en)
Other versions
JPWO2018164165A1 (ja
Inventor
俊介 粟飯原
俊介 粟飯原
曜 増田
曜 増田
穂高 齊藤
穂高 齊藤
利博 森本
利博 森本
雄太 楢崎
雄太 楢崎
貴大 宮坂
貴大 宮坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
BONX INC.
Original Assignee
BONX INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from PCT/JP2017/009756 external-priority patent/WO2018163418A1/ja
Application filed by BONX INC. filed Critical BONX INC.
Application granted granted Critical
Publication of JP6416446B1 publication Critical patent/JP6416446B1/ja
Publication of JPWO2018164165A1 publication Critical patent/JPWO2018164165A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/60Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • H04L65/4053Arrangements for multi-party communication, e.g. for conferences without floor control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/60Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • H04M1/6041Portable telephones adapted for handsfree use
    • H04M1/6058Portable telephones adapted for handsfree use involving the use of a headset accessory device connected to the portable telephone
    • H04M1/6066Portable telephones adapted for handsfree use involving the use of a headset accessory device connected to the portable telephone including a wireless connection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M9/00Arrangements for interconnection not involving centralised switching
    • H04M9/08Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic
    • H04M9/082Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic using echo cancellers

Abstract

弱電波環境や環境音が大きい環境においても快適なグループ通話を行うことが可能な通信システムを提供する。本発明の通信システム(300)は、グループ通話を管理するAPIサーバ(10)と、携帯通信網を介して通信する携帯通信端末(20)と、該携帯通信端末(20)との間で近距離無線通信により音声データをやり取りするヘッドセット(21)とを備える。ヘッドセット(21)は、音声に含まれる発話部分を環境音に対して相対的に強調する発話強調部を備え、また、携帯通信端末(20)は、ヘッドセット(21)から受信した音声データから発話部分を抽出してグループ通話の相手へと送信する。携帯通信端末(20)の間での通信は、APIサーバ(10)からの通信品質の制御に係る指令により制御される。

Description

本発明は通信システム、通信システムに用いられるAPIサーバ、ヘッド
セット、及び携帯通信端末に関する。
携帯通信網を用いたグループ内での多対多での通話を行うための通信システムでは、通話を開始する前に互いに通話者が有する携帯通信端末をグループとして登録し、話者の音声をエンコードした音声データを該グループに登録された携帯通信端末の間でやり取りすることによるグループ内での多対多通話が行われる。
携帯通信網を用いてグループ間で通話を行う際には、話者の音声をエンコードした音声データがVoIPサーバを介してグループに参加している通話者が有する携帯通信端末へと送信される。このようにVoIPサーバを経由して音声データを送信することで、グループ内での多対多通話による通信負荷をある程度軽減することができる。
また、携帯通信網を用いて通話を行う際には、携帯通信端末に備え付けられたマイクとスピーカーを用いて通話を行う以外に、携帯通信端末との間をBluetooth(登録商標)などの近距離通信方式で接続して使用されるヘッドセットを用いることも行われている(例えば、特許文献1参照)。ヘッドセットを用いることにより、通話者が携帯通信端末を手で保持していない状態でも携帯通信端末が通話者の声を拾うことができるようになり、また、通話者が携帯通信端末を手で保持していない状態でも携帯通信端末は通話相手の携帯通信端末から送られてくる会話を通話者に伝えることができるようになる。
上記した従来技術を用いてグループ内多対多通話を行う場合、通話の参加者全員が良好な通信環境にいる場合には、高い音質で遅延の少ない音声をお互いにやり取りしながら会話することができる。
特開2011−182407号公報
しかしながら、雪山や海上、工事現場、採石場、飛行場などの基地局から離れた電波状態が悪い環境にいる場合、また、多くの携帯通信端末の利用者が密集している電波を拾いにくい環境にいる場合には、そのままの音声を音声データにエンコードして送信すると、単位時間当たりに送信するべき音声データのサイズが通信可能な帯域幅に対して大きくなるため、音声データの伝達遅延が発生し、快適な通話を継続することが困難となる問題がある。この時、音声のエンコードにおける圧縮率を大きくすることで単位時間当たりに送信するべき音声データを通信可能な帯域幅に対して適正なサイズとすることで音声データの伝達遅延をある程度改善することが可能となるが、その場合には伝達された音声データをデコードした際に得られる音声の音質が劣化し、やはり良好な会話をすることができなくなるという問題が生じる。
また、雪山や海上、人ごみの中、工事現場、採石場、飛行場などでの通話においては、風切音や雑踏の音、工事音、採掘音、エンジン音などの環境音が問題となることもある。このような環境において通話を行った場合、通話に用いるマイクが話者の発話以外に周りで発生している環境音を拾うことになり、話者の発話と環境音とが混ざった音声が音声データへとエンコードされて通話の参加者が有する携帯通信端末へと送信されるが、この環境音がSN比を小さくするばかりでなく、話者の発話が存在しない環境音のみの不要な音声データを送信することになり、データの遅延などの原因となってしまう。
また、雪山や海上、人ごみの中、工事現場、採石場、飛行場などで通話を行う場合は、機器の運転・操作やスポーツ等、通話以外の活動を行っている最中であることが多い。このような状況では一般的にはトランシーバーを用いて、発話の区間のみボタンを押して明示的に送信を行う必要があるが、ボタン操作を伴うことで本来行うべき活動を妨げる事になる。
更に、音声データを受信した側の携帯通信端末で受信した音声データをデコードした音声を再生した場合に、受信した側の環境音が原因で再生した音声が聞き取れなくなるという問題も生じる。環境音で音声が聞こえなくならないように、該環境音に対してノイズキャンセリングの技術を適用するということも考えられるが、雪山や海上、人ごみの中、工事現場、採石場、飛行場などで一律にノイズキャンセリングを行って環境音をカットした場合、通話者が周りで発生した危険を察知するのを遅らせる原因となるという問題が生じてしまう。
上記課題に加えて、ヘッドセットと携帯通信端末とを用いたグループ通話を行っている際に、負荷が大きな音声エンコード方式を用いると、ヘッドセット及び携帯通信端末のバッテリーの消耗が早くなり、グループ通話を長時間継続することができなくなるという問題がある。特に、ヘッドセットは耳に装着する小さなものであることが多く、携帯通信端末と比較してもバッテリーの容量が小さくなるため、ヘッドセットと携帯通信端末で適切に役割を分担して、また、計算負荷の低いアルゴリズムを組み合わせて効率よく音声をエンコードする必要がある。
そこで本発明の目的は、弱電波環境や環境音が大きい環境においても快適なグループ通話を行うことが可能な通信システムを提供することである。
本発明の通信システムは以下の3つの手段を備え、これらを互いに連関させることによりグループ内での多対多通信で発生する上記問題を解決する。
手段1)ヘッドセットで検知した音声から高精度に人の発話部分を抽出して音声データを生成する手段
手段2)弱電波環境に対応した動的な通信品質制御手段
手段3)環境を考慮した騒音に強い再生制御手段
そして、本発明は、複数のクライアントの間でVoIPサーバを介したグループ通話を行う通信システムにおいて、前記グループ通話を管理するAPIサーバを備え、前記クライアントは携帯通信網を介して通信する携帯通信端末と、該携帯通信端末との間で近距離無線通信により音声データをやり取りするヘッドセットとを備え、前記ヘッドセットは、音声を検知する音声検知部と、前記音声検知部が検知した音声に含まれる発話部分を環境音に対して相対的に強調する発話強調部と、前記携帯通信端末から受信した音声データを、該音声データの発話部分において前記音声検知部が検知した音声を周辺騒音に対して相対的に聞き取りやすくなるように再生する再生制御部と、を備え、前記携帯通信端末は、前記ヘッドセットから受信した音声データに含まれるノイズを推定するノイズ推定部と、前記ノイズ推定部による推定の結果に基づいて、前記音声データから発話部分の候補となる範囲を判定する発話候補判定部と、前記発話候補判定部が判定した前記音声データの発話部分の候補となる範囲から人間の音声である部分を判定する発話性判定部と、前記発話性判定部により人間の音声であると判定された前記音声データの部分を前記VoIPサーバへと送信する音声データ送信部と、前記VoIPサーバから受信した音声データを前記ヘッドセットへと送信する再生音声データ送信部と、を備え、前記APIサーバは、前記クライアントと、前記VoIPサーバとの通信状況に基づいて、前記グループ通話の通信品質の制御に係る指令を前記クライアント及び前記VoIPサーバへと通知する通信品質制御部を備え、前記音声データ送信部は、前記通信品質制御部から通知された指令に基づいた通信品質で前記発話性判定部により人間の音声であると判定された前記音声データの部分をエンコードして前記VoIPサーバへと送信する、ことを特徴とする。
本発明により、多対多のグループ通話においてモバイルネットワークを介して転送されるデータ量が減少し、これにより携帯通信端末やヘッドセットにおける電力消費量を低減させることが可能となり、また、通信帯域が十分でない場合でも音声遅延を抑えることが可能となる。更に、自動的に発話区間のみを検出することで、手を用いず他の活動を妨げない形でノイズを低減し通話相手の発話内容だけがクリアに伝達されることによる通話のUX(User Experience)を大幅に向上させることができる。
本発明の実施形態1による通信システムの概略的な構成図である。 本発明の実施形態1によるAPIサーバの概略的な機能ブロック図である。 本発明の実施形態1による携帯通信端末の概略的な機能ブロック図である。 本発明の実施形態1によるヘッドセットの概略的な機能ブロック図である。 本発明の実施形態1による発話検知機能に係るヘッドセット及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。 本発明の実施形態1による図5のシーケンスチャートに従って検知された音声から送信される音声データが生成されるまでの変換のイメージを示す図である。 本発明の実施形態1による音声再生制御機能に係るヘッドセット及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。 本発明の実施形態1によるデータ転送遅延が発生した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。 本発明の実施形態1によるデータ転送状況が回復した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。 本発明の実施形態1による通信途絶が発生した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。 本発明の実施形態1による通信途絶が発生した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。 本発明の実施形態2における通信システムの概略的な構成図である。 本発明の実施形態3における通信システムの概略的な構成図である。 本発明の実施形態4における通信システムの概略的な構成図である。 本発明の実施形態4における携帯通信端末の構成を示すブロック図である。 本発明の実施形態4におけるクラウドの構成を示すブロック図である。 本発明の実施形態4におけるヘッドセット(イヤフォン)と携帯通信端末との接続状況を表示する接続状況表示画面を示す図である。 本発明の実施形態4における通信システムにログインする際に表示されるログイン画面を示す図である。 本発明の実施形態4におけるテナントを変更する際に表示されるテナント変更画面を示す図である。 本発明の実施形態4におけるユーザーがルームに参加する際に表示されるルーム参加画面を示す図である。 本発明の実施形態4におけるユーザーがルームを新設する際に表示されるルーム新設画面を示す図である。 本発明の実施形態4におけるユーザーがルームに参加した際に表示される通話画面を示す図である。 本発明の実施形態4におけるユーザーがルームメンバーを確認する際に表示されるルームメンバー画面を示す図である。 本発明の実施形態4におけるルームメンバー画面に表示されたポップアップウィンドウを示す図である。 本発明の実施形態4におけるユーザー設定画面を示す図である。 本発明の実施形態4におけるルームおよび録音に関する管理画面を示す図である。 本発明の実施形態4におけるユーザー属性に関する管理画面を示す図である。 本発明の実施形態4におけるユーザー追加ウィンドウを示す図である。 本発明の実施形態4における共用ユーザー追加ウィンドウを示す図である。 本発明の実施形態4における録音データを一覧表示する録音データウィンドウを示す図である。 本発明の実施形態4における音声データの合成処理を示すシーケンス図である。 本発明の実施形態4におけるクラウドが受信した複数の断片的な音声データを示す図である。
以下、本発明の実施形態を図面と共に説明する。
[実施形態1]
<1.通信システムの全体構成>
図1は、本発明の実施形態1における通信システムの概略的な構成を示す図である。本発明の通信システム300は、少なくとも1つ以上のサーバ1と、該サーバ1とGSM(登録商標)、3G(登録商標)、4G(登録商標)、WCDMA(登録商標)、LTE(登録商標)などのモバイルネットワークを介して接続可能な複数のクライアント2を備える。
サーバ1は少なくともクライアント2の間での音声通信を制御するためのVoIP(Voice Over Internet Protcol)サーバ11を備え、また、通信システム300に含まれるサーバ1の内の少なくとも1つは、クライアント2の接続やVoIPサーバ11の割り振りを管理するAPI(Application Programmable Interface)サーバ10を備えている。サーバ1は、1つのサーバコンピュータにより構成しても良く、また、複数のサーバコンピュータを用意してそれぞれのサーバコンピュータ上にそれぞれの機能を実装して構成しても良い。また、それぞれのサーバ1は、世界中の各地域に分散して配置されていてもよい。
サーバ1を構成するサーバコンピュータは、CPU、ROM、RAM及びハードディスク等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等により構成される。また、サーバ1は、TCP/IPなどの有線通信に適した通信規格にしたがって広域ネットワークに接続され、該広域ネットワークを介して他のサーバ1との間で相互通信できるようにと相互通信するように構成される。
APIサーバ10は、多対多で行われるグループ通話を行う際に該グループ通話に参加する複数のクライアント2との間で該グループ通話に必要となる情報をやり取りし、そこで得られた情報に基づいてVoIPサーバ11に対して指令して該グループ通話に参加する複数のクライアント2間でグループ通話を実現する管理サーバとしての役割を持つ。APIサーバ10は、サーバ1を構成するサーバコンピュータ上に実装される。
APIサーバ10は、同一のサーバ1内に配置されるVoIPサーバ11だけでなく、ネットワークを介して接続可能な他のVoIPサーバ11に対しても指令することが可能である。これは、APIサーバ10が、グループ通話に参加する複数のクライアント2のIPアドレスなどの情報から該クライアント2の地理的な位置を特定し、該クライアント2から低遅延接続が可能なVoIPサーバ11を選択し、該VoIPサーバ11に対して前記クライアント2を振り分けることを可能とする。また、APIサーバ10は、複数のVoIPサーバ11の中から稼働率の低いVoIPサーバ11を検出して該VoIPサーバ11に対してクライアント2を振り分けることが可能である。
VoIPサーバ11は、APIサーバ10からの指令を受けて、各クライアント2間での音声パケットのやり取り(会話)を制御する役割を持つ。VoIPサーバ11は、サーバ1を構成するサーバコンピュータ上に実装される。VoIPサーバ11は、公知のIP−PBX(Internet Protocol−Private Branch Exchange)のソフトウェアスイッチとして構成しても良い。VoIPサーバ11は、クライアント2間でのリアルタイム通話を実現するためにオンメモリで音声パケットを処理する機能を備える。
クライアント2は、利用者が備える携帯通信端末20と、該携帯通信端末20との間でBluetooth通信などの近距離無線通信で接続されたヘッドセット21を備える。携帯通信端末20は、利用者による音声通話における音声パケットの通信制御を行う役割を持つ。携帯通信端末20は、CPU、ROM、RAM及びメモリカード等の記憶装置(主記憶装置及び補助記憶装置等)およびI/O回路等を備えた、タブレット型端末又はスマートフォンなどの利用者による携帯が可能なサイズ、形状および重量に設計されている情報端末により構成される。
携帯通信端末20は、GSM(登録商標)、3G(登録商標)、4G(登録商標)、WCDMA(登録商標)、LTE(登録商標)等の遠距離での無線通信に適した通信規格にしたがって、図示しない基地局に接続された広域ネットワークを介してサーバ1や他のクライアント2と相互通信できるように構成されている。
携帯通信端末20は、Bluetooth(登録商標)等の近距離無線通信規格(以下、「第1近距離無線通信規格」という。)に従って、ヘッドセット21との間で音声データを相互通信できるように構成される。また、携帯通信端末20は、BLE(Bluetooth Low Energy)(登録商標)等の第1近距離無線通信規格よりも小さな電力で通信が可能な近距離無線通信規格(以下、「第2近距離無線通信規格」という。)に従って、近距離にある携帯通信端末20と通信できるように構成される。
ヘッドセット21は、利用者の発話した音声に基づいて音声データを作成し、作成した音声データを携帯通信端末20へと送信すると共に、携帯通信端末20から送信されてきた音声データに基づいて音声を再生する役割を持つ。ヘッドセット21は、CPU、ROM、RAM及びメモリカード等の記憶装置(主記憶装置及び補助記憶装置等)およびマイクロフォンやスピーカーなどのI/O回路等を備える。ヘッドセット21は、Bluetooth(登録商標)等の近距離無線通信規格に従って、ヘッドセット21との間で音声データを相互通信できるように構成される。ヘッドセット21は、装着した利用者が外部の環境音を聞き取ることができるように、オープン型のヘッドセットとして構成されていることが望ましい。
上記した構成を備えた本実施形態の通信システム300は、グループ通話サービスの利用状況に応じて各地域にVoIPサーバ11を設置し、配置されたVoIPサーバ11による通話をAPIサーバ10で統括的に管理することが可能となるため、マルチリージョン間でのクライアント2間の接続を通信遅延を低減させながら効率的に運用することが可能となる。
<2.サーバの機能構成>
図2は、本発明の実施形態1におけるAPIサーバ10の概略的な機能構成を示す図である。APIサーバ10は、通話確立制御部100、通話品質制御部110、クライアント管理部120、サーバ管理部130、通話グループ管理部140を備える。これらの機能手段は、APIサーバ10が実装されているサーバコンピュータが備える記憶装置やI/O回路等をCPUが制御することにより実現される。
通話確立制御部100は、クライアント2からのグループ通話開始要求に基づいて、該クライアント2と、該グループ通話開始要求に含まれる少なくとも1つの他のクライアント2との間でのグループ通話を開始する制御を行う機能手段である。通話確立制御部100は、クライアント2からのグループ通話開始要求を受けると、グループ通話開始要求をしたクライアント2が後述する通話グループ管理部140で管理されていない場合には、該クライアント2を含む新しい通話グループを作成するように通話グループ管理部140に対して指令し、グループ通話開始要求をしたクライアント2が通話グループ管理部140で管理されている場合には、該クライアント2を含む通話グループに対してグループ通話開始要求に含まれるクライアント2を追加するように通話グループ管理部140に対して指令する。
通話確立制御部100は、通話グループ管理部140に対して新しい通話グループの作成を指令する際に、新しい通話グループに参加する複数のクライアント2と通信を行い、それぞれのクライアント2の地理的位置を特定する。通話確立制御部100は、クライアント2のIPアドレスに基づいてクライアント2の地理的位置を特定するようにしても良いし、クライアント2を構成する携帯通信端末20が備えるGPSなどの位置特定手段からの情報に基づいてクライアント2の地理的位置を特定するようにしても良い。通話確立制御部100は、新しい通話グループに参加する複数のクライアント2の地理的位置を特定すると、後述するサーバ管理部130で管理されているサーバ1の内で、特定した複数のクライアント2の位置から見て低遅延接続可能な地域に配置されている少なくとも1以上のサーバ1を抽出した上で、その中から稼働率の低いVoIPサーバ11を備えたサーバ1を検出する。そして、通話確立制御部100は、検出したサーバ1が備えるVoIPサーバ11を介したグループ通話を開始するように、複数のクライアント2に対して指令する。
通話品質制御部110は、グループ通話に参加している複数のクライアント2の間での通信品質の制御を行う機能手段である。通話品質制御部110は、通話グループ管理部140で管理されているクライアント2によるグループ通話におけるデータ転送遅延状況を監視し、あるクライアント2にデータ転送遅延が発生した時、即ち該クライアント2が弱電波になるなどして通信回線の状況が悪化した時に、該クライアント2が通信を維持できるようにグループ通話に参加している他のクライアント2に対してデータ品質を抑制してデータ量を低減するように指令する。通話品質制御部110は、グループ通話の制御を行っているVoIPサーバ11から各クライアント2の通信状況を所定の周期で取得することによりクライアント2のデータ転送遅延状況を監視するようにしても良い。通話品質制御部110は、データ転送遅延が発生したクライアント2のデータ転送遅延状況が回復した場合には、グループ通話に参加している他のクライアント2に対してデータ品質の抑制を解除するように指令する。
また、通話品質制御部110は、あるクライアント2の通信が途絶した場合、即ち該クライアント2が弱電波になるなどして通信ができない状況になった時に、該クライアント2との通信が途絶したことをグループ通話に参加している他のクライアント2に対して通知する。通話品質制御部110は、グループ通話の制御を行っているVoIPサーバ11から各クライアント2の通信状況を所定の周期で取得することによりクライアント2の通信が途絶したことを検出するようにしても良い。通話品質制御部110は、通信が途絶したクライアント2との通信が回復したことを検出した場合には、その旨をグループ通話に参加している他のクライアント2に対して通知し、通信が回復したクライアント2をグループ通話に再度参加させるように制御する。
クライアント管理部120は、グループ通話を行うクライアント2に係る情報であるクライアント情報を管理する機能手段である。クライアント管理部120が管理するクライアント情報には、少なくとも該クライアント情報に対応するクライアント2を一意に識別する識別情報を含み、更に、該クライアント情報に対応するクライアント2を有する利用者の名前などの情報や、該クライアント情報に対応するクライアント2の地理上の位置に係る情報を含むようにしても良い。クライアント管理部120は、一般的に提供されるサービスなどと同様に、クライアント2からのクライアント情報登録要求やクライアント情報要求、クライアント情報削除要求などを受けて、クライアント情報の登録、修正、削除などの処理を行うようにしても良い。
サーバ管理部130は、APIサーバ10から指令して制御することが可能なVoIPサーバ11を備えたサーバ1に係る情報であるサーバ情報を管理する機能手段である。サーバ管理部130が管理するサーバ情報には、少なくとも該サーバの地理上の位置と該サーバのネットワーク上の位置(IPアドレスなど)を含み、更に、該サーバが備えるVoIPサーバ11の稼働率、該サーバの管理者に係る情報などを含むようにしても良い。サーバ管理部130は、APIサーバ10の管理者によるサーバ情報登録操作、サーバ情報修正操作、サーバ情報削除操作などを受けて、サーバ情報の登録、修正、削除などの処理を行うようにしても良い。
通話グループ管理部140は、現在グループ通話を行っているクライアント2のグループ(以下、「クライアントグループ」と言う。)に係る情報である通話グループ情報を管理する機能手段である。通話グループ管理部140が管理する通話グループ情報は、少なくとも該通話グループ情報に対応するグループ通話に参加しているクライアント2を識別する情報(該クライアント2に係るクライアント情報に登録されている識別情報)、該通話グループ情報にグループ通話に用いられているVoIPサーバに係る情報、該通話グループ情報にグループ通話に参加しているそれぞれのクライアント2の通信状態(データ遅延状況、通信途絶状況など)を含む。通話グループ管理部140は、通話確立制御部100、通話品質制御部110からの通話グループ作成指令や通話グループ削除指令、通話グループ修正指令などを受けて、通話グループ情報の作成、修正、削除などの処理を行うようにしても良い。
上記した構成を備えた本実施形態のAPIサーバ10は、グループ通話に参加する各クライアント2の位置と、各VoIPサーバ11の稼働率とに基づいて、各クライアント2からのグループ通話要求を低遅延接続が可能なVoIPサーバ11へと振り分けることができる。また、本実施形態のAPIサーバ10は、各地域に設置されるVoIPサーバ11を介して、グループ通話を行う各クライアント2の死活状態を検知して、状況に応じたフェイルオーバ処理を行うため、利用者の手を煩わせることなく状況に応じた最適なグループ通話サービスを提供することができる。
<3.クライアントの機能構成>
図3は、本発明の実施形態1における携帯通信端末20の概略的な機能構成を示す図である。携帯通信端末20は、グループ通話管理部201、グループ通話制御部202、ノイズ推定部203、発話候補判定部204、発話性判定部205、音声データ送信部206、再生音声データ送信部207、通信部208、および近距離無線通信部209を備える。これらの機能手段は、携帯通信端末20が備える記憶装置やI/O回路等をCPUが制御することにより実現される。
グループ通話管理部201は、APIサーバ10との間でグループ通話の管理に係る情報を通信部208を介してやり取りし、グループ通話の開始や終了などを管理する機能手段である。グループ通話管理部201は、APIサーバ10に対してグループ通話開始要求、クライアント追加要求、グループ通話終了要求などの各種要求を送信し、該要求に対するAPIサーバ10の応答に応じて後述するグループ通話制御部202に対して指令することによりグループ通話の管理を行う。
グループ通話制御部202は、グループ通話管理部201からの指令に基づいてグループ通話に参加している他のクライアント2との間の音声データの送受信と、ヘッドセット21との間の音声データの送受信とを制御する機能手段である。グループ通話制御部202は、後述するノイズ推定部203、発話候補判定部204、発話性判定部205によりヘッドセット21から受信した利用者の発話にかかる音声データの発話検知と音声データのデータ品質制御を行う。
ノイズ推定部203は、ヘッドセット21から受信した利用者の発話にかかる音声データから平均環境音の推定を行う機能手段である。ヘッドセット21から受信した利用者の発話にかかる音声データには、利用者の発話と環境音とが含まれているがノイズ推定部203によるノイズ推定の方法としては、最小二乗誤差(MMSE)推定や最尤法、最大事後確率推定などの公知の方法を用いても良い。例えば、ノイズ推定部203は、サンプルフレーム毎の音声存在確率推定を元にして環境音のパワースペクトルをMMSE基準により逐次更新し、該環境音のパワースペクトルを用いて音声データの中からノイズである環境音を推定できるようにするようにしても良い。
発話候補判定部204は、ノイズ推定部203によるノイズとなる環境音の推定結果に基づいて、音声データの中から平均環境音と異なる音を発話候補として判定する機能手段である。発話候補判定部204は、数フレーム単位の長時間スペクトル変動とノイズ推定部203が推定した環境音のパワースペクトルとを比較することで、非定常的な音声データの部分を利用者の発話による音声データであると判定する。
発話性判定部205は、発話候補判定部204が利用者による発話による音声データであると判定した部分について、人間の声以外の突発的な環境音であると推定される音声データの部分を判定する機能手段である。発話性判定部205は、発話候補判定部204が利用者による発話による音声データであると判定した部分に対してスペクトル周期成分の含有比率推定などを行うことで、人間の喉などから発せられた音声に基づく音声データで有るかどうかを判定する。また、発話性判定部205は、音声波形からのエコーの度合いの推定による発話者との距離や直接波であるかどうかの評価を行い、発話者が発した音声に基づく音声データであるかどうかを判定する。
音声データ送信部206は、発話候補判定部204が発話候補として判定された範囲から、発話性判定部205が突発的な環境音であると判定して部分を除いた範囲の音声データをエンコードしてVoIPサーバへと送信する。音声データ送信部206は、音声データをエンコードする際に、グループ通話制御部202がAPIサーバ10の通信品質制御部110からの指令に基づいて決定したエンコード方式と通信品質で音声データのエンコードを行う。
再生音声データ送信部207は、通信部208を介してVoIPサーバから受信してデコードされた音声データを近距離無線通信部209を介してヘッドセット21へと送信する。
通信部208は、モバイルネットワークを介した通信を制御する機能手段である。通信部208は、一般的な携帯通信網などに対する通信インタフェースを用いて実現される。近距離無線通信部209は、Bluetooth(登録商標)などの近距離無線通信を制御する機能手段である。近距離無線通信部209は、一般的な近距離無線通信インタフェースを用いて実現される。
図4は、本発明の実施形態1におけるヘッドセット21の概略的な機能構成を示す図である。ヘッドセット21は、音声検知部211、発話強調部212、再生制御部213、近距離無線通信部216を備える。これらの機能手段は、ヘッドセット21が備える記憶装置やI/O回路等をCPUが制御することにより実現される。
音声検知部211は、ヘッドセット21を装着した利用者の発話を検知して音声データへと変換する機能手段である。音声検知部211は、ヘッドセット21が備えるマイクロフォンとA/D変換回路、音声データのエンコーダなどにより構成される。音声検知部211を構成するマイクロフォンとして、少なくとも2つのマイクロフォンを備えていることが望ましい。
発話強調部212は、音声検知部211が検知して変換された音声データの中からヘッドセット21を装着している利用者の発話を強調して検出できるようにする機能手段である。発話強調部212は、例えば公知のビームフォーミングアルゴリズムなどを利用して利用者の発話を環境音に対して相対的に強調する。発話強調部212が行う処理により、音声データに含まれる環境音が利用者の発話に対して相対的に抑制されるため、音質の向上と、後段の信号処理の性能と計算負荷を下げることが可能となる。発話強調部212により変換された音声データは、近距離無線通信部216を介して携帯通信端末20へと送信される。
再生制御部213は、近距離無線通信部216を介して携帯通信端末20から受信した音声データを再生する機能手段である。再生制御部213は、ヘッドセット21が備える音声データのデコーダ、D/A変換回路、スピーカーなどにより構成される。再生制御部213は、携帯通信端末20から受信した音声データにおける発話区間における音声を再生する際には、ヘッドセット21が備えるマイクロフォンが検知した環境音を元に再生する音声データを利用者に聴取し易い形で再生する。再生制御部213は、音声検知部で推定した周辺騒音を元に、ノイズキャンセリング処理を実施して利用者が聴取する環境音を打ち消して再生音を聴取しやすくしてもよいし、周辺騒音の大きさに連動して再生音量を大きくする処理を実施して相対的に再生音を聴取しやすくしても良い。
上記した構成を備えた本実施形態のクライアント2は、発話と環境音に関する様々な推定処理を連関させた多面的な音声データ処理を行うことで、通信路に伝送される音声データのサイズを削減しながらも、クリアな発話再生ができるようになっている。これにより、クライアント2を構成する各機器における電力消費の省力化と、通話のUX(User Experience)の大幅な向上を実現することができる。
以下では、上記構成を備えた通信システム300の特徴的な機能である発話検知機能、通信制御機能、音声再生制御機能について、動作の流れを示すシーケンスチャートを用いて説明する。
<4.発話検知機能>
図5は、本発明の実施形態1における発話検知機能に係るヘッドセット及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。
●[ステップSA01]音声検知部211は、環境音を含む利用者の発話を音声として検知して音声データへと変換する。
●[ステップSA02]発話強調部212は、ステップSA01で変換された音声データに含まれる利用者の発話音声を環境音に対して相対的に強調する。
●[ステップSA03]近距離無線通信部216は、ステップSA02で変換された音声データを第1携帯通信端末20へと送信する。
●[ステップSA04]ノイズ推定部203は、第1ヘッドセットから受信された音声データを解析して、音声データに含まれるノイズである環境音を推定する。
●[ステップSA05]発話候補判定部204は、ステップSA04におけるノイズ推定部203によるノイズとなる環境音の推定結果に基づいて、音声データの中から平均環境音と異なる音を発話候補として判定する。
●[ステップSA06]発話性判定部205は、ステップSA05で発話候補判定部204が利用者による発話候補である判定した音声データの部分について、突発的な環境音や、ヘッドセットのマイクロフォンから距離のある位置から発せられた発話であると推定される音声データの部分を判定する。
●[ステップSA07]グループ通話制御部202は、ステップSA05で発話候補として判定された範囲から、ステップSA06で発話性判定部205が突発的な環境音やヘッドセットのマイクロフォンから離れた位置から発せられた発話であると判定して部分を除いた範囲の音声データを対象として、VoIPサーバ11とのやり取りで決定されたエンコード方式と通信品質で音声データのエンコードを行い、エンコードした音声データをVoIPサーバへと送信する。
図6は、本発明の実施形態1における図5のシーケンスチャートに従って検知された音声から送信される音声データが生成されるまでの変換のイメージを示す図である。図6に示すように、本発明の通信システムでは、検知された音声の内で発話の再現に必要となる部分のみが抽出されるため、エンコードされてVoIPサーバ11に送信される音声データは通常の通信システムにおいて送信される音声データと比較してサイズを小さくすることができる。
<5.音声再生制御機能>
図7は、本発明の実施形態1における音声再生制御機能に係るヘッドセット及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。
●[ステップSB01]グループ通話制御部202は、VoIPサーバ11とのやり取りで決定されたエンコード方式により受信したデータを音声データへとデコードする。
●[ステップSB02]再生音声データ送信部207は、ステップSB02でデコードされた音声データを第2ヘッドセット21へと送信する。
●[ステップSB03]音声検知部211は、環境音を音声として検知して音声データへと変換する。
●[ステップSB04]再生制御部213は、第2携帯通信端末20から受信した音声データを、音声データの発話区間においてステップSB03で検知した環境音に対して再生音を聴取しやすくする処理を行いながら再生する。
なお、本実施形態では、第2ヘッドセット21は、環境音を打ち消して第2携帯通信端末20から受信した音声データを再生することとしたが、これに限られない。例えば、第2ヘッドセット21は、環境音を打ち消さずに第2携帯通信端末20から受信した音声データをそのまま再生してもよい。
<6.通信制御機能>
図8は、本発明の実施形態1におけるデータ転送遅延が発生した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。
●[ステップSC01]VoIPサーバ11は、第2携帯通信端末20のデータ転送遅延を検出する。
●[ステップSC02]VoIPサーバ11は、第2携帯通信端末20のデータ転送遅延状況をAPIサーバ10へと通知する。
●[ステップSC03]通信品質制御部110は、VoIPサーバ11から通知された第2携帯通信端末20のデータ転送遅延状況に応じた通信品質を決定し、決定した通信品質にするようにVoIPサーバ11と、第2携帯通信端末20と同じクライアントグループに所属する第1携帯通信端末20とに指令する。
●[ステップSC04]VoIPサーバ11は、第2携帯通信端末20が所属するクライアントグループの通信品質を、ステップSC03で指令された通信品質へと変更する。
●[ステップSC05]第1携帯通信端末20は、通信品質をステップSC03で指令された通信品質へと変更する。
図9は、本発明の実施形態1におけるデータ転送状況が回復した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。
●[ステップSD01]VoIPサーバ11は、第2携帯通信端末20のデータ転送状況の回復を検出する。
●[ステップSD02]VoIPサーバ11は、第2携帯通信端末20のデータ転送状況の回復をAPIサーバ10へと通知する。
●[ステップSD03]通信品質制御部110は、VoIPサーバ11から通知された第2携帯通信端末20のデータ転送状況の回復に応じて、通信品質を回復するようにVoIPサーバ11と、第2携帯通信端末20と同じクライアントグループに所属する第1携帯通信端末20とに指令する。
●[ステップSD04]VoIPサーバ11は、第2携帯通信端末20が所属するクライアントグループの通信品質を回復する。
●[ステップSD05]第1携帯通信端末20は、通信品質を回復する。
図10は、本発明の実施形態1における通信途絶が発生した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。
●[ステップSE01]VoIPサーバ11は、第2携帯通信端末20との通信が途絶したことを検出する。
●[ステップSE02]VoIPサーバ11は、第2携帯通信端末20の通信途絶をAPIサーバ10へと通知する。
●[ステップSE03]通信品質制御部110は、第2携帯通信端末20と同じクライアントグループに所属する第1携帯通信端末20に対して第2携帯通信端末20との通信が途絶したことを通知する。
●[ステップSE04]VoIPサーバ11は、第2携帯通信端末20の通信状態に係る情報を通信途絶状態へと変更する。
●[ステップSE05]第1携帯通信端末20は、第2携帯通信端末20の通信状態に係る情報を通信途絶状態へと変更する。
図11は、本発明の実施形態1における通信途絶が発生した時の通信制御機能に係るAPIサーバ、VoIPサーバ及び携帯通信端末上で実行される処理の流れを示すシーケンスチャートである。
●[ステップSF01]VoIPサーバ11は、第2携帯通信端末20の通信状況が回復したことを検出する。
●[ステップSE02]VoIPサーバ11は、第2携帯通信端末20の通信状況回復をAPIサーバ10へと通知する。
●[ステップSE03]通信品質制御部110は、第2携帯通信端末20と同じクライアントグループに所属する第1携帯通信端末20に対して第2携帯通信端末20との通信が回復したことを通知する。
●[ステップSE04]VoIPサーバ11は、第2携帯通信端末20の通信状態に係る情報を通常状態へと変更する。
●[ステップSE05]第1携帯通信端末20は、第2携帯通信端末20の通信状態に係る情報を通常状態へと変更する。
以上説明したように、本発明の実施形態1によれば、多対多のグループ通話においてモバイルネットワークを介して転送されるデータ量が減少し、これにより携帯通信端末やヘッドセットにおける電力消費量を低減させることが可能となり、また、通信帯域が十分でない場合でも音声遅延を抑えることが可能となる。更に、自動的に発話区間のみを検出することで、手を用いず他の活動を妨げない形でノイズを低減し通話相手の発話内容だけがクリアに伝達されることによる通話のUX(User Experience)を大幅に向上させることができる。
なお、実施形態1において、携帯通信端末20の各機能を実行するためのプログラムは、携帯通信端末20内のメモリに記憶されている。携帯通信端末20内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。また、ヘッドセット21の各機能を実行するためのプログラムは、ヘッドセット21内のメモリに記憶されている。ヘッドセット21内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。
また、実施形態1において、APIサーバ10の各機能を実行するためのプログラムは、APIサーバ10内のメモリに記憶されている。APIサーバ10内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。また、VoIPサーバ11の各機能を実行するためのプログラムは、VoIPサーバ11内のメモリに記憶されている。VoIPサーバ11内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。
なお、実施形態1において、ヘッドセット21の機能の一部を、携帯通信端末20に設けてもよい。例えば、携帯通信端末20は、ヘッドセット21に代えて、図4に記載の発話強調部212を備えてもよい。また、実施形態1において、携帯通信端末20の機能の一部を、ヘッドセット21に設けてもよい。例えば、ヘッドセット21は、携帯通信端末20に代えて、図3に記載のグループ通話管理部201、グループ通話制御部202、ノイズ推定部203、発話候補判定部204、発話性判定部205、および音声データ送信部206の全てまたは一部を備えてもよい。
また、実施形態1において、ヘッドセット21および携帯通信端末20の機能の一部を、VoIPサーバ11に設けてもよい。例えば、VoIPサーバ11は、ヘッドセット21に代えて、図4に記載の発話強調部212を備えてもよい。また、VoIPサーバ11は、携帯通信端末20に代えて、図3に記載のグループ通話管理部201、グループ通話制御部202、ノイズ推定部203、発話候補判定部204、発話性判定部205、および音声データ送信部206の全てまたは一部を備えてもよい。この場合、VoIPサーバ11に高性能の機能を持たせることで、VoIPサーバ11は、高精度なノイズ推定、高精度な発話候補判定、および高精度な発話性判定等を行うことができる。
[実施形態2]
以下、本発明の実施形態2について説明する。図12は、本発明の実施形態2における通信システムの概略的な構成図である。図12において、図1の各部に対応する部分には同一の符号を付し、説明を省略する。
実施形態1においては、クライアント2は携帯通信端末20とヘッドセット21とを備えることとした。一方、実施形態2においては、クライアント2は携帯通信端末20を備えておらず、ヘッドセット21が携帯通信端末20の機能を備えることとする。また、実施形態2のAPIサーバ10およびVoIPサーバ11は、実施形態2のAPIサーバ10およびVoIPサーバ11と同様の構成を備える。
具体的に、図12に示されるヘッドセット21は、図3に示される携帯通信端末20の各機能(グループ通話管理部201、グループ通話制御部202、ノイズ推定部203、発話候補判定部204、発話性判定部205、および音声データ送信部206)を備える。これによって、ヘッドセット21は、実施形態1の携帯通信端末20に代えて、音声データに基づいてノイズを推定したり(図5のステップSA04)、ノイズの推定結果に基づいて発話候補を判定したり(図5のステップSA05)、発話候補に基づいて利用者の発話部分を判定したり(図5のステップSA06)、発話部分のみの音声データをVoIPサーバ11に送信したり(図5のステップSA07)することができる。
以上説明したように、本発明の実施形態2によれば、クライアント2に携帯通信端末20を備える必要がないため、通信システム300の構成を簡易化することができ、システム全体に要するコストを低減することができる。また、ヘッドセット21に近距離無線通信部216を持たせる必要がなく、クライアント2内において無線通信を行う必要がないため、無線通信による処理の遅延を防止することができる。
なお、実施形態2において、ヘッドセット21の各機能を実行するためのプログラムは、ヘッドセット21内のメモリに記憶されている。ヘッドセット21内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。
[実施形態3]
以下、本発明の実施形態3について説明する。図13は、本発明の実施形態3における通信システムの概略的な構成図である。図13において、図1の各部に対応する部分には同一の符号を付し、説明を省略する。
実施形態1においては、クライアント2は携帯通信端末20とヘッドセット21とを備えることとした。一方、実施形態3においては、クライアント2は携帯通信端末20を備えておらず、ヘッドセット21が携帯通信端末20の機能を備えることとする。また、実施形態1および実施形態2においては、サーバ1はAPIサーバ10およびVoIPサーバ11を備えることとした。一方、実施形態3においては、サーバ1はVoIPサーバ11を備えておらず、各クライアント2がVoIPサーバ11の機能を備えることとする。
具体的に、図13に示される各クライアント2は、VoIPサーバ11の各機能を備え、VoIPサーバ11を介さずに、クライアント2同士がP2P(Peer to Peer)通信で直接通信を行う。また、APIサーバ10は、接続先を一位に定めるために複数のクライアント2間の通信を管理する。これによって、クライアント2は、実施形態2のVoIPサーバ11に代えて、データ転送の遅延を検出したり(図8のステップSC01)、データ転送状況の回復を検出したり(図9のステップSD01)、通信品質を変更したり(図8のステップSC04および図9のSD04)、通信途絶を検出したり(図10のステップSE01)、通信状況の回復を検出したり(図11のステップSF01)、携帯通信端末20の状態を変更したり(図10のステップSE04および図11のステップSF04)することができる。
以上説明したように、本発明の実施形態3によれば、サーバ1にVoIPサーバ11を備える必要がないため、通信システム300の構成を簡易化することができ、通信システム300全体に要するコストを低減することができる。また、クライアント2およびAPIサーバ10は、VoIPサーバ11と通信する必要がないため、クライアント2およびVoIPサーバ11間の通信による処理の遅延や、APIサーバ10およびVoIPサーバ11間の通信による処理の遅延を防止することができる。
なお、実施形態3において、携帯通信端末20の各機能を実行するためのプログラムは、携帯通信端末20内のメモリに記憶されている。携帯通信端末20内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。また、ヘッドセット21の各機能を実行するためのプログラムは、ヘッドセット21内のメモリに記憶されている。ヘッドセット21内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。また、APIサーバ10の各機能を実行するためのプログラムは、APIサーバ10内のメモリに記憶されている。APIサーバ10内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。
[実施形態4]
以下、本発明の実施形態4について説明する。従来、業務用の音声コミュニケーションツールとして、トランシーバーを利用することがあった。トランシーバーを利用する環境においては、その通話可能範囲が電波の到達距離により制限されるため、発話内容が相手に届いているか否かを確認することが出来ない場合があった。したがって、従来のトランシーバーは、発話内容が届いているか否かを繰り返し相手に問いかけて確認するか、または録音装置に発話内容を記録して、後から発話内容を確認できるようにする必要があった。
また、特開2005−234666号公報には、PoC(Push−to−Talk over Cellular)サーバと、GLMS(Group List Management Server)とを備えたシステムネットワークにおいて、通信内容を記録する手段が開示されている。
しかしながら、会話内容を録音する機能を有する通信システムにおいて、会話がされているか、されていないかに関わらず全ての音声データを記録すると、データ容量が大きくなるという問題があった。
そこで、本発明の実施形態4においては、録音された音声データの容量を小さくすることができるサービス提供方法、情報処理装置、プログラム、および記録媒体を提供することを目的とする。
<7.システムの全体構成>
図14は、本発明の実施形態4における通信システムの概略的な構成図である。実施形態4における通信システム1000は、第1ヘッドセット1100Aと、第2ヘッドセット1100Bと、第1携帯通信端末1200Aと、第2携帯通信端末1200Bと、クラウド1300と、コンピュータ1400と、表示部1410と、携帯通信端末1500とを備える。
第1ヘッドセット1100Aは、ユーザーの耳に装着され、ボタン1110Aおよびコミュニケーションユニット1111Aを備える。ボタン1110Aは、マニュアルスイッチとして機能する。コミュニケーションユニット1111Aは、音声入力部としてのマイクと、音声出力部としてのスピーカーとを備える。第1ヘッドセット1100Aは、第1携帯通信端末1200Aと無線接続するためのチップを備える。
第1携帯通信端末1200Aは、スマートフォンなどの携帯電話やタブレット端末等であり、サービスを提供するクラウド1300に接続される。第1ヘッドセット1100Aは、ユーザーから発せられた音声を示す音声データを、マイクを用いて検出し、検出した音声データを第1携帯通信端末1200Aに送信する。第1携帯通信端末1200Aは、第1ヘッドセット1100Aから受信した音声データをクラウド1300に送信する。また、第1携帯通信端末1200Aは、クラウド1300から受信した、第2ヘッドセット1100Bによって検出された音声データを第1ヘッドセット1100Aに送信する。第1ヘッドセット1100Aは、第1携帯通信端末1200Aから受信した音声データを、スピーカーを用いて再生する。
なお、第2ヘッドセット1100B、ボタン1110B、コミュニケーションユニット1111B、および第2携帯通信端末1200Bは、それぞれ、第1ヘッドセット1100A、ボタン1110A、コミュニケーションユニット1111A、および第1携帯通信端末1200Aと同様の構成であるため、これらの詳細な説明については省略する。
クラウド1300は、第1携帯通信端末1200Aおよび第2携帯通信端末1200Bから複数の断片的な音声データを収集し、収集した複数の断片的な音声データを合成して合成音声データを生成し、生成した合成音声データを所定期間(例えば、6ヶ月)保持する。ユーザーは、クラウド1300に接続された第1携帯通信端末1200Aまたは第2携帯通信端末1200Bを用いて、合成音声データをクラウド1300から取得することができる。合成音声データの詳細については後述する。
コンピュータ1400は、デスクトップ型のコンピュータであるが、これに限られない。例えば、コンピュータ1400は、ノート型のコンピュータであってもよい。コンピュータ1400は、表示部1410に接続される。表示部1410は、液晶表示装置などの表示装置である。
コンピュータ1400は、管理者権限を有するユーザーによって用いられる。管理者権限を有するユーザーは、通信システム1000の各種設定(例えば、ユーザーに対する各種権限の付与、アカウントの変更、およびユーザーの招待等)を行うことができるユーザーである。管理者権限を有するユーザーとしては、例えば、テナント管理者およびマネージャーが存在する。テナント管理者は、テナント全体を管理する権限を有し、テナント内部のユーザー登録や、ユーザーの削除等を行うことができる。テナントは、システム利用契約を締結する契約主体である。テナント管理者は、メールアドレス等を用いてユーザーを特定する。マネージャーは、テナント内でルームの作成や端末登録等の権限を有するユーザーである。マネージャーも、テナント管理者と同様に、メールアドレス等を用いてユーザーを特定する。
管理者権限を有しないユーザーとしては、例えば、一般ユーザーと共用ユーザーが存在する。一般ユーザーは、グループ通話に参加する一般のユーザーである。テナント管理者およびマネージャーは、メールアドレス等を用いて一般ユーザーを特定する。一方、共用ユーザーは、グループ通話に参加するユーザーであるが、テナント管理者およびマネージャーは、メールアドレス等を用いて共用ユーザーを特定しない。共用ユーザーのアカウントは、課金のためのアカウント数をカウントするために用いられる。
携帯通信端末1500は、管理者権限を有するユーザー(テナント管理者およびマネージャー等)によって用いられる。携帯通信端末1500は、スマートフォンなどの携帯電話やタブレット端末等であり、サービスを提供するクラウド1300に接続される。
管理者権限を有するユーザー(テナント管理者およびマネージャー等)は、コンピュータ1400または携帯通信端末1500を用いることにより、通信システム1000の各種設定を行うことができる。
以下、第1ヘッドセット1100Aおよび第2ヘッドセット1100Bのうち、いずれのヘッドセットであるかを区別しない場合は、単にヘッドセット1100と表記する。また、第1携帯通信端末1200Aおよび第2携帯通信端末1200Bのうち、いずれの携帯通信端末であるかを区別しない場合は、単に携帯通信端末1200と表記する。
図15は、本発明の実施形態4における携帯通信端末の構成を示すブロック図である。携帯通信端末1200は、グループ通話管理部1201、グループ通話制御部1202、ノイズ推定部1203、発話候補判定部1204、発話性判定部1205、音声データ送信部1206、再生音声データ送信部1207、通信部1208、近距離無線通信部1209、録音データ記憶部1210、音声データ生成部1211、表示部1212、および再生部1213を備える。
なお、実施形態4におけるグループ通話管理部1201、グループ通話制御部1202、ノイズ推定部1203、発話候補判定部1204、発話性判定部1205、音声データ送信部1206、再生音声データ送信部1207、通信部1208、および近距離無線通信部1209は、それぞれ、実施形態1における図3に示されるグループ通話管理部201、グループ通話制御部202、ノイズ推定部203、発話候補判定部204、発話性判定部205、音声データ送信部206、再生音声データ送信部207、通信部208、および近距離無線通信部209と同様の構成であるため、これらの詳細な説明については省略する。
録音データ記憶部1210は、携帯通信端末1200と通信可能なヘッドセット1100によって取得された音声データ(合成前の音声データ)を録音データとして一時的に記憶する。音声データ生成部1211は、録音データ記憶部1210に記憶された録音データに基づき、ヘッドセット1100を使用するユーザーが発話した期間の音声を示す断片的な音声データを生成する。詳細は後述するが、音声データ生成部1211は、生成した断片的な音声データに、ユーザーIDと、発話の開始時間と、発話の終了時間とをメタデータとして付与する。なお、音声データ生成部1211によって生成される断片的な音声データについての詳細は後述する。表示部1212は、例えばタッチパネルディスプレイである。再生部1213は、例えば、音声データを再生するスピーカーである。
なお、実施形態4におけるヘッドセット1100の構成を示すブロック図は、図4に示される実施形態1におけるヘッドセット21のブロック図と同様である。具体的に、
図16は、本発明の実施形態4におけるクラウドの構成を示すブロック図である。クラウド1300は、ヘッドセット1100を用いて行われた会話の音声データを提供する情報処理装置である。クラウド1300は、通信部1301と、音声データ合成部1302と、音声データ記憶部1303とを備える。
通信部1301は、携帯通信端末1200、コンピュータ1400、および携帯通信端末1500と通信する。音声データ合成部1302は、第1携帯通信端末1200Aおよび第2携帯通信端末1200Bから受信した複数の断片的な音声データを合成することにより、合成音声データを生成する。なお、音声データ合成部1302によって生成される合成音声データの詳細については後述する。音声データ記憶部1303は、音声データ合成部1302によって生成された合成音声データを記憶する。
<8.ヘッドセットと携帯通信端末との接続>
図17は、本発明の実施形態4におけるヘッドセット(イヤフォン)と携帯通信端末との接続状況を表示する接続状況表示画面を示す図である。図17に示される接続状況表示画面は、携帯通信端末1200の表示部1212に表示される。表示部1212には、携帯通信端末1200に接続されるヘッドセット1100を識別するための識別情報(図17においては、“xxxxxx”)が表示される。携帯通信端末1200とヘッドセット1100は、Bluetooth(登録商標)等を用いて接続され、音声データに加えて各種制御データが送信される。
<9.ログイン>
図18は、本発明の実施形態4における通信システムにログインする際に表示されるログイン画面を示す図である。ユーザーは、図18に示されるログイン画面にログイン情報(テナントID、メールアドレス、およびパスワード)を入力することによって、通信システム1000にログインすることができる。テナントIDは、テナントを識別するための記号であり、N桁の数字・文字等によって表される。
本通信システム1000は、ビジネスユースを想定したクラウドサービスである。このため、ログイン画面には、テナント選択キー1214および共用ユーザログインキー1215が表示される。ユーザーがテナント選択キー1214を選択(タップ)すると、後述するテナント変更画面(図19)が表示部1212に表示される。一方、ユーザーが共用ユーザログインキー1215を選択(タップ)すると、ログイン情報を入力することなく、ユーザーは共用ユーザーとしてログインすることができる。なお、管理者権限を有するユーザーによって共用ユーザーに提供されるコード情報(例えば、QRコード(登録商標))を用いて、共用ユーザーを認証してもよい。共用ユーザーについての詳細は後述する。
図19は、本発明の実施形態4におけるテナントを変更する際に表示されるテナント変更画面を示す図である。テナント変更画面には、テナントリスト1216と、新規テナント追加キー1218とが表示される。デフォルトで選択されるテナントAには、チェックマーク1217が表示されている。また、ユーザーは、過去に選択したことのあるテナントB〜Eを、テナントリスト1216から再度選択することができる。
また、ユーザーは、新規テナント追加キー1218を選択(タップ)することにより、新規のテナントを追加することができる。ユーザーによってテナントが選択されると、図18に示されるログイン画面が表示部1212に表示され、ログイン情報(ID、メールアドレス、パスワード)を入力することでログインすることができる。テナントにログインしたユーザーは、ルームへの参加が可能となる。ルームは、グループごとの通話を管理するための単位である。ルームは、管理者権限を有するユーザーによって作成および削除される。
<10.ルームへの参加およびルームの新設>
図20は、本発明の実施形態4におけるユーザーがルームに参加する際に表示されるルーム参加画面を示す図である。図20に示されるルーム参加画面には、招待通知1219と、ルームキー入力領域1220と、ルーム参加キー1221と、ルーム参加履歴1222と、ルーム新設キー1223とが表示される。
招待通知1219は、他のユーザーからルームへの招待が届いた場合に、新着情報として表示される。招待は、ルームにユーザーを追加するための通知である。ユーザーは、招待通知1219を選択(タップ)することにより、招待されたルームに直接参加することができる。
ルームキー入力領域1220は、ルームを識別するためのルームキーがユーザーによって入力される領域である。ルームキーは、通話接続先を一意に定めるユニークなキーである。ユーザーは、ルームキーをルームキー入力領域1220に入力し、ルーム参加キー1221を選択(タップ)することにより、ルームに参加することができる。
ルーム参加履歴1222は、ユーザーが過去に参加したルームのリストである。ユーザーは、ルーム参加履歴1222に表示されたルームを選択(タップ)することにより、選択したルームに参加することができる。
ユーザーが、ルームを新設する権限を有するユーザーIDを用いてログインした場合は、ルーム参加画面の下部にルーム新設キー1223が表示される。ユーザーが、ルーム新設キー1223を選択(タップ)すると、ルーム新設画面(図21)が表示部1212に表示される。
図21は、本発明の実施形態4におけるユーザーがルームを新設する際に表示されるルーム新設画面を示す図である。図21に示されるルーム新設画面には、ルーム名1224と、ルームキー1225と、ルームURL1226と、メンバー招待キー1227とが表示される。
ルーム名1224は自動的に決定されるが、ユーザーによって変更されてもよい。ルームキー1225は、新設されたルームに参加するために必要な認証情報であり、例えば数字によって表される。ルームURL1226は、新設されたルームのインターネット上における場所を特定するための情報である。メンバー招待キー1227は、ルームに招待するユーザーをメンバーリストから選択するための画面を表示させるためのキーである。
ルームを新設したユーザーは、ルームキーまたはルームURLを用いて他のユーザーをルームに招待することができるとともに、メンバーリストからルームに招待したい他のユーザーを選択することもできる。ルームを新設したユーザーは、ルームに招待したい他のユーザーに対して、メールでルームキーまたはルームURLを知らせてもよいし、口頭でルームキーまたはルームURLを知らせてもよい。一方、ユーザーが、メンバーリストから他のユーザーを選択すると、選択された他のユーザーが所有する携帯通信端末1200にpush通知が届き、図20に示される招待通知1219が表示部1212に表示される。なお、図20に示されるルーム参加履歴1222には、招待されたルームが表示される。このため、ルームに招待されたユーザーは、招待通知1219を見落とした場合であっても、ルーム参加履歴1222からルームに参加することができる。
<11.ルームにおける会話機能>
図22は、本発明の実施形態4におけるユーザーがルームに参加した際に表示される通話画面を示す図である。図22に示される通話画面には、通話終了キー1228と、ルームメンバーキー1229と、通話キー1230と、録音キー1231と、プッシュ/ハンズフリー切り替えキー1232とが表示される。
ユーザーが通話終了キー1228をタップすると、ルームにおける通話が終了する。なお、ユーザーが通話終了キー1228をタップするのに代えて、通話終了キー1228をスワイプしたことに応じて、通話を終了してもよい。ルームにおける通話が終了する。ルームメンバーキー1229には、ユーザー名と、ルームに参加しているメンバー数(図22の例においては、6名)が表示されている。ユーザーがルームメンバーキー1229を選択(タップ)すると、後述するルームメンバー画面(図23)が表示部1212に表示される。
ユーザーが通話キー1230を選択(タップ)すると、通話キー1230のオン/オフが切り替わる。通話キー1230がオンの場合には、携帯通信端末1200は、ヘッドセット1100から取得した音声データをクラウド1300に送信する。一方、通話キー1230がオフの場合には、携帯通信端末1200は、ヘッドセット1100から取得した音声データをクラウド1300に送信しない。これにより、通話キー1230をオフにすることによって、ユーザーの発話が通信相手に聞かれないようにすることができる。なお、通話キー1230に代えて、ヘッドセット1100のボタン1110を用いて、オン/オフを切り替えてもよい。
ユーザーが録音キー1231を選択(タップ)すると、ユーザーの発話に基づいて取得された音声データの録音が開始される。録音された音声データは、録音データとして録音データ記憶部1210に記憶される。また、ユーザーがプッシュ/ハンズフリー切り替えキー1232を上下方向にスワイプすることにより、プッシュとハンズフリーとを切り替えることができる。
図23は、本発明の実施形態4におけるユーザーがルームメンバーを確認する際に表示されるルームメンバー画面を示す図である。ルームメンバー画面には、ルームに参加しているアクティブなメンバーのリストと、ルームから退出したメンバーのリストとが表示される。
なお、管理者権限を有するユーザーは、ルームメンバー画面に表示されたユーザーの一人を選択して、選択したユーザーを呼び出したり、ルームから外したりすることができる。例えば、管理者権限を有するユーザーは、ルームメンバー画面からユーザーBの選択キー1233を選択(タップ)すると、ポップアップウィンドウ1234(図24)が表示部1212に表示される。
図24は、本発明の実施形態4におけるルームメンバー画面に表示されたポップアップウィンドウを示す図である。管理者権限を有するユーザーは、ポップアップウィンドウ1234から、ユーザーBを呼び出すか、ルームから外すかを選択することができる。一方、管理者権限を有するユーザーは、キャンセルキー1235を選択(タップ)すると、ポップアップウィンドウ1234を閉じることができる。
<12.ユーザー設定画面>
図25は、本発明の実施形態4におけるユーザー設定画面を示す図である。図25は、一例として、管理者権限を有するユーザー(マネージャーA)のユーザー設定画面を示している。ユーザー設定画面には、アカウント設定アイコン1236と、トーク設定アイコン1237と、管理画面選択キー1238とが表示される。
管理者権限を有するユーザーがアカウント設定アイコン1236を選択(タップ)すると、アカウント設定画面が表示部1212に表示される。管理者権限を有するユーザーは、アカウント設定画面において、パスワードおよびニックネームを変更することができる。
また、前述したように、管理者権限を有するユーザーの他に、一般ユーザーと、共用ユーザーとが存在する。一般ユーザーは、管理者権限を有するユーザーと同様に、アカウント設定画面において、パスワードおよびニックネームを変更することができる。一方、共用ユーザーは、アカウント設定画面において、ニックネームを変更することはできるものの、パスワードを変更することはできない。なお、上述したアカウント設定画面における設定内容は一例にすぎず、これに限られない。例えば、アカウント設定画面において、パスワードおよびニックネーム以外を設定できるようにしてもよい。また、共用ユーザーは、アカウント設定画面において、パスワードを変更できるようにしてもよい。
ユーザーがトーク設定アイコン1237を選択(タップ)すると、トーク設定画面が表示部1212に表示される。ユーザーは、トーク設定画面において、音量やノイズの抑制レベル等を変更することができる。なお、上述したトーク設定画面における設定内容は一例にすぎず、これに限られない。例えば、トーク設定画面において、音量やノイズおよび抑制レベル以外を設定できるようにしてもよい。
管理画面選択キー1238は、管理者権限を有するユーザーのユーザー設定画面には表示されるが、一般ユーザーのユーザー設定画面および共用ユーザーのユーザー設定画面には表示されない。管理者権限を有するユーザーが管理画面選択キー1238を選択(タップ)すると、管理画面が表示部1212に表示される。
<13.管理画面>
図26は、本発明の実施形態4におけるルームおよび録音に関する管理画面を示す図である。図27は、本発明の実施形態4におけるユーザー属性に関する管理画面を示す図である。図26および図27は、一例として、コンピュータ1400に接続された表示部1410に表示される管理画面1411を示しているが、携帯通信端末1200の表示部1212にも、図26および図27と同様の管理画面が表示される。なお、図26および図27は、コンピュータ400を用いてテナント管理者がログインした場合に、表示部1410に表示される管理画面1411の一例である。
図26に示されるように、ルームおよび録音に関する管理画面には、テナント内の全ルームが一覧表示される。各ルームはルーム名で管理され、ルームごとに録音可能となっている。ルームおよび録音に関する管理画面には、ルーム名1412と、録音データ情報1413と、メンバー情報1414とが表示される。ルーム名は、会話が録音されたルームの名前である。録音データ情報1413は、録音データの件数と、録音データの容量を示す情報である。メンバー情報1414は、ルームに参加したメンバーに関する情報である。
また、図27に示されるように、ユーザー属性に関する管理画面には、テナント内の全ユーザーが一覧表示される。ユーザーは、テナントごとに管理される。テナント管理者は、ユーザー属性に関する管理画面から、ユーザーに対する各種権限の付与、アカウントの変更、およびユーザーの招待等を行うことができる。図27に示されるように、ユーザー属性に関する管理画面には、所属選択ウィンドウ1415が表示される。テナント管理者は、所属選択ウィンドウ1415において所属を選択することにより、各ユーザーの所属(グループ)を設定することができる。
テナント管理者は、ユーザーを組織内の所属(グループ)ごとに管理する。これにより、テナント管理者は、同一グループ内に分類されたユーザーの属性を一括で変更することができる。なお、テナント管理者は、ユーザーをグループごとに管理することとしたが、これに限られない。例えば、テナント管理者は、タグを各ユーザーに付与し、ユーザーをタグごとに管理してもよい。タグとは、ユーザーに付与されるメタ情報であり、ユーザーの招待や、ユーザーの検索等に用いられる情報である。
<14.ユーザーの追加>
図28は、本発明の実施形態4におけるユーザー追加ウィンドウを示す図である。ユーザー追加ウィンドウ1416は、管理者権限を有するユーザーまたは一般ユーザーをテナントに追加するための画面である。テナント管理者は、表示部1410に表示されるユーザー追加ウィンドウ1416に、ユーザーのメールアドレス、氏名、所属、および権限を入力することによって、ユーザーをテナントに追加することができる。
図29は、本発明の実施形態4における共用ユーザー追加ウィンドウを示す図である。共用ユーザー追加ウィンドウ1417は、共用ユーザーをテナントに追加するための画面である。テナント管理者は、表示部1410に表示される共用ユーザー追加ウィンドウ1417に、共用デバイスのデバイス名および所属(店舗)を入力することによって、共用ユーザーをテナントに追加することができる。なお、共用デバイスは、複数の一時的な共用ユーザーによって利用される携帯通信端末である。テナント管理者は、一時的に共用ユーザーに貸与する携帯通信端末を、共用デバイスとして管理する。テナント管理者は、メールアドレス等を用いて共用ユーザーを特定できないため、共用ユーザーによって利用される共用デバイス自体を管理する。
ビジネス向けのクラウドサービスの多くにおいては、アカウントごとに費用が生じる。このため、テナント管理者は、課金対象となるアカウントの追加および削除を、管理画面において一括で管理する。図28に示されるように、テナント管理者は、新規ユーザーのメールアドレスを入力する。コンピュータ1400は、テナント管理者によって入力されたメールアドレスをクラウド1300に送信する。クラウド1300は、コンピュータ1400から受信したメールアドレスに、本登録を行うための認証用メールを送付する。
これに対し、アルバイトやパートタイム等のユーザーの場合、メンバーの入れ替わりが発生しやすい。このため、メールアドレスを用いて、アルバイトやパートタイム等のユーザーのアカウントを管理するのは適切でない。そこで、クラウド1300は、共用デバイスに関する情報のみを登録するものとする。なお、共用デバイスに対して、共用デバイスを管理するための共用デバイスIDが付与される。共用デバイスIDは、共用デバイスの識別情報である。
なお、テナント管理者は、共用ユーザーの自動ログアウト設定、共用ユーザーの作成、タグやユーザー基本データの管理、登録メールの再送、端末登録、端末除去、ユーザーデータの詳細表示等の操作を行うことができる。ここで、端末登録は、共用ユーザーと携帯通信端末1200とを紐付けるための登録を意味する。端末除去は、共用ユーザーと携帯通信端末1200との紐付けを解除することを意味する。端末除去が行われた携帯通信端末1200は、別のユーザーアカウントと再度紐付け可能な状態となる。ユーザー基本データは、ユーザーの氏名(共用ユーザーの場合は、部署名等)、ニックネーム、タグ、アイコン等のデータである。
テナント管理者は、監査ログや、ユーザーアクティビティログや、ユーザーと紐付いた録音データのリストを、表示部1212または表示部1410に表示させることができる。監査ログは、ユーザーの追加、削除、ログイン記録等の、通信システム1000の動作に関するログである。ユーザーアクティビティログは、ルームへの参加、ルームからの退出、ルームへの招待、ルームからの追い出し、録音、ルームの状態(例えば、非アクティブ状態等)を示す情報、およびデバイスを特定するための情報等のログである。また、テナント管理者は、ユーザーIDまたは時間を検索キーとして用いて、音声データの絞込検索を行うことができるとともに、検索結果を表示部1212または表示部1410に表示させることができる。
<15.会話の録音および再生>
図30は、本発明の実施形態4における録音データを一覧表示する録音データウィンドウを示す図である。図30に示される録音データウィンドウは、録音データをダウンロードする際に表示部1410に表示される。録音データウィンドウに表示される録音データは、クラウド1300の音声データ合成部1302によって生成された合成音声データである。ユーザーは、図30に示される録音データウィンドウから録音データを選択(タップ)することにより、クラウド1300から携帯通信端末1200に録音データをダウンロードすることができる。携帯通信端末1200の再生部1213は、ダウンロードした録音データを再生する。
携帯通信端末1200は、管理者権限を有するユーザーが録音キー1231(図22)を選択(タップ)したことに応じて録音を開始することとしたが、これに限られない。例えば、携帯通信端末1200は、デフォルトで全ての会話を録音してもよい。また、携帯通信端末1200は、特定のユーザーが参加するルームにおいては、デフォルトで会話を録音してもよい。管理者権限を有するユーザーは、ルームの作成時に録音の設定を変更してもよい。例えば、管理者権限を有するユーザーは、ユーザーの特性を勘案し、録音開始の条件を決定してもよい。なお、録音データ(音声データ合成部1302によって生成された合成音声データ)は、クラウド1300の音声データ記憶部1303に記憶される。このため、録音データの容量が予め設定された上限に達した場合、クラウド1300は、追加課金や他のデータの保存期間を変更する等の条件を、テナント管理者が所有するコンピュータ1400や携帯通信端末1500に通知してもよい。
<16.音声データの合成処理>
図31は、本発明の実施形態4における音声データの合成処理を示すシーケンス図である。本実施形態においては、第1携帯通信端末1200Aを所持するユーザーAおよび第2携帯通信端末1200Bを所持するユーザーBの両方が、管理者権限を有し、ルーム内の録音開始を指示できることとする。なお、説明の簡易化のため、図31はルームに参加しているユーザーの人数が2名である例を示しているが、ユーザーの人数は3名以上であってもよい。また、図31は、録音キー1231(図22)が選択(タップ)されたことに応じて録音を開始する例を示しているが、デフォルトで全ての会話を録音するように設定されていてもよい。
図31において、第1携帯通信端末1200Aを所持するユーザーAが、第2携帯通信端末1200Bを所持するユーザーBが参加しているルームに参加すると、第1携帯通信端末1200Aは、クラウド1300に参加通知を送信する(ステップS1)。クラウド1300は、第1携帯通信端末1200Aから参加通知を受信すると、ユーザーAについての新規メンバー情報(例えば、ユーザーID)を、第2携帯通信端末1200Bに送信する(ステップS2)。これによって、ルーム内において、ユーザーAはユーザーBと会話することができる。
ユーザーAが録音キー1231(図22)を選択(タップ)すると、第1携帯通信端末1200Aは、録音開始通知を第2携帯通信端末1200Bに送信する(ステップS3)。これによって、第1携帯通信端末1200Aおよび第2携帯通信端末1200Bは、音声データの録音を開始する。
第1ヘッドセット1100Aは、マイクを用いて取得した音声データを、第1携帯通信端末1200Aに送信する。第1携帯通信端末1200Aの音声データ生成部1211は、第1ヘッドセット1100Aから受信した音声データから、発話性判定部1205により人間の音声であると判定された部分の複数の断片的な音声データを生成する。この断片的な音声データは、ユーザーAが発話した部分の音声データである。第1携帯通信端末1200Aは、この断片的な音声データを、クラウド1300および第2携帯通信端末1200Bを介して、第2ヘッドセット1100Bに送信する。これによって、第2ヘッドセット1100Bのスピーカーは、ユーザーAが発話した部分の音声データのみを再生することができる。
また、第1携帯通信端末1200Aの録音データ記憶部1210は、第1携帯通信端末1200Aの音声データ生成部1211によって生成された複数の断片的な音声データを、録音データとして記憶する。なお、第1携帯通信端末1200Aの録音データ記憶部1210に記憶される断片的な音声データには、ユーザーAのユーザーIDと、発話の開始時間と、発話の終了時間とがメタデータとして付与される。録音開始が指示される以前の音声データが第1携帯通信端末1200Aの録音データ記憶部1210に記憶されている場合、この音声データを録音データとして用いてもよい。
一方、第2ヘッドセット1100Bは、マイクを用いて取得した音声データを、第2携帯通信端末1200Bに送信する。第2携帯通信端末1200Bの音声データ生成部1211は、第2ヘッドセット1100Bから受信した音声データから、発話性判定部1205により人間の音声であると判定された部分の複数の断片的な音声データを生成する。この断片的な音声データは、ユーザーBが発話した部分の音声データである。第2携帯通信端末1200Bは、この断片的な音声データを、クラウド1300および第1携帯通信端末1200Aを介して、第1ヘッドセット1100Aに送信する。これによって、第1ヘッドセット1100Aのスピーカーは、ユーザーBが発話した部分の音声データのみを再生することができる。
また、第2携帯通信端末1200Bの録音データ記憶部1210は、第2携帯通信端末1200Bの音声データ生成部1211によって生成された複数の断片的な音声データを、録音データとして記憶する。なお、第2携帯通信端末1200Bの録音データ記憶部1210に記憶される断片的な音声データには、ユーザーBのユーザーIDと、発話開始時間と、発話終了時間とがメタデータとして付与される。録音開始が指示される以前の音声データが第2携帯通信端末1200Bの録音データ記憶部1210に記憶されている場合、この音声データを録音データとして用いてもよい。
なお、第1携帯通信端末1200Aは、クラウド1300を介して第2携帯通信端末1200Bから受信したユーザーBの音声データを第1ヘッドセット1100Aに送信するが、このユーザーBの音声データを第1携帯通信端末1200Aの録音データ記憶部1210に記憶しない。また、第2携帯通信端末1200Bは、クラウド1300を介して第1携帯通信端末1200Aから受信したユーザーAの音声データを第2ヘッドセット1100Bに送信するが、このユーザーAの音声データを第2携帯通信端末1200Bの録音データ記憶部1210に記憶しない。
ユーザーAは、通話終了キー1228(図22)をタップすることによって、ルームから退出する。ユーザーAがルームから退出すると、第1携帯通信端末1200Aは、音声データの録音を終了する。ユーザーAがルームから退出してから所定時間が経過した後、第1携帯通信端末1200Aは、録音データ記憶部1210に記憶された複数の断片的な音声データを読み出し、クラウド1300に送信する(ステップS4)。
一方、ユーザーBは、通話終了キー1228(図22)をタップすることによって、ルームから退出する。ユーザーBがルームから退出すると、第2携帯通信端末1200Bは、音声データの録音を終了する。ユーザーBがルームから退出してから所定時間が経過した後、第2携帯通信端末1200Bは、録音データ記憶部1210に記憶された複数の断片的な音声データを読み出し、クラウド1300に送信する(ステップS5)。
なお、図31に示されるシーケンス図においては、携帯通信端末1200が音声データをバッファリングし、ユーザーがルームアウトしたときに音声データをクラウド1300に送り、クラウド1300が録音データの合成を行うこととしたが、これに限られない。例えば、クラウド1300は、携帯通信端末1200から録音開始通知を受信すると、その後携帯通信端末1200から受信した音声データの保存を開始してもよい。つまり、携帯通信端末1200が音声データをバッファリングするのではなく、会話をしている間は常にクラウド1300が音声データを蓄積してもよい。また、全ユーザーがルームアウト(または、録音を停止)したときに、クラウド1300は、音声データに付与されたタイムスタンプ(発話開始時間および発話終了時間)を用いて合成音声データを生成してもよい。
図32は、本発明の実施形態4におけるクラウドが受信した複数の断片的な音声データを示す図である。図32において、ユーザーAのユーザーIDは“ID001”であり、ユーザーBのユーザーIDは“ID002”であることとする。図32において、音声データA、音声データC、および音声データEは、第1携帯通信端末1200Aから受信した複数の断片的な音声データ(ユーザーAの音声データ)であり、音声データB、音声データD、および音声データFは、第2携帯通信端末1200Bから受信した複数の断片的な音声データ(ユーザーBの音声データ)である。
音声データA、音声データC、および音声データEには、それぞれ、メタデータD1、メタデータD3、およびメタデータD5が付与されている。また、音声データB、音声データD、および音声データFには、それぞれ、メタデータD2、メタデータD4、およびメタデータD6が付与されている。メタデータD1〜D6には、ユーザーIDと、発話開始時間と、発話終了時間とが含まれる。クラウド1300の音声データ合成部1302は、メタデータに含まれる発話開始時間および発話終了時間に基づいて複数の断片的な音声データを合成することにより、合成音声データを生成する。音声データ合成部1302によって生成された合成音声データは、ルームにおける会話内容が録音された録音データである。音声データ記憶部1303は、音声データ合成部1302によって生成された合成音声データを、録音データとして所定期間(例えば、6ヶ月)記憶する。
前述したように、管理者権限を有するユーザーは、図30に示される録音データウィンドウから録音データを選択することにより、クラウド1300の音声データ記憶部1303に記憶された録音データをダウンロードすることができる。
本発明の実施形態4によれば、ユーザーが発話した部分のみの音声データを抽出することにより、音声データのサイズを小さくすることができ、通信システム1000内におけるデータの通信量を低減することができる。また、クラウド1300は、全ての発話内容を合成するのではなく、特定のユーザーの音声のみを取り出すことで、ディクテーション・テキストを生成してもよい。これによって、会話データの元データとして各ユーザーに紐付けられた音声のみを取り出すことができる。
なお、クラウド1300の音声データ合成部1302は、合成音声データ(会話ファイル)を生成する際、各ユーザーの音声データの発話タイミングを調整して、各ユーザーの音声が重ならないようにしてもよい。これによって、各ユーザーの会話を聞き取りやすくすることができる。また、クラウド1300は、ユーザーごとの音声データを、音声認識に利用してもよい。更に、クラウド1300は、ユーザーIDを検索キーとして用いて、合成音声データを検索してもよい。これによって、ルーム内の会話に参加しているユーザーを効率的に特定することができる。
なお、実施形態4において、携帯通信端末1200の各機能を実行するためのプログラムは、携帯通信端末1200内のメモリに記憶されている。携帯通信端末1200内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。また、ヘッドセット1100の各機能を実行するためのプログラムは、ヘッドセット1100内のメモリに記憶されている。ヘッドセット1100内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。
また、実施形態4において、クラウド1300の各機能を実行するためのプログラムは、クラウド1300内のメモリに記憶されている。クラウド1300内のCPUは、メモリからプログラムを読み出して実行することにより、上記の各機能を実行することができる。
なお、実施形態4において、ヘッドセット1100の機能の一部を、携帯通信端末1200に設けてもよい。例えば、携帯通信端末1200は、ヘッドセット1100に代えて、図4に記載の発話強調部212を備えてもよい。また、実施形態4において、携帯通信端末1200の機能の一部を、ヘッドセット1100に設けてもよい。例えば、ヘッドセット1100は、携帯通信端末1200に代えて、図15に記載のグループ通話管理部1201、グループ通話制御部1202、ノイズ推定部1203、発話候補判定部1204、発話性判定部1205、および音声データ送信部1206、録音データ記憶部1210、および音声データ生成部1211の全てまたは一部を備えてもよい。
また、実施形態4において、ヘッドセット1100および携帯通信端末1200の機能の一部を、クラウド1300に設けてもよい。例えば、クラウド1300は、ヘッドセット1100に代えて、図4に記載の発話強調部212を備えてもよい。また、クラウド1300は、携帯通信端末1200に代えて、図15に記載のグループ通話管理部1201、グループ通話制御部1202、ノイズ推定部1203、発話候補判定部1204、発話性判定部1205、音声データ送信部1206、録音データ記憶部1210、および音声データ生成部1211の全てまたは一部を備えてもよい。
以上説明したように、本発明の実施形態4によれば、第1携帯通信端末1200Aから断片的な第1音声データを取得する第1取得ステップと、第1携帯通信端末1200Aと同じ通話グループに属する第2携帯通信端末1200Bから断片的な第2音声データを取得する第2取得ステップと、第1音声データと第2音声データとを合成して合成音声データを生成する生成ステップと、合成音声データを再生可能に提供する提供ステップと、を有するサービス提供方法を実現することができる。
また、本発明の実施形態4によれば、上記のサービス提供方法を実行するクラウド1300を実現することができる。
また、本発明の実施形態4によれば、情報処理装置によって実行されることにより、上記のサービス提供方法を実行するプログラムを実現することができる。
また、本発明の実施形態4によれば、上記のプログラムが記録された記録媒体を実現することができる。
また、本発明の実施形態4によれば、上記のクラウド1300に接続可能な携帯通信端末1200であって、複数の断片的な音声データが合成された合成音声データをクラウド1300から受信する通信部1208と、通信部1208により受信された合成音声データを再生する再生部1213と、を有する携帯通信端末1200を提供することができる。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 サーバ
2 クライアント
10 APIサーバ
11 VoIPサーバ
20 携帯通信端末
21 ヘッドセット
100 通話確立制御部
110 通話品質制御部
120 クライアント管理部
130 サーバ管理部
140 通話グループ管理部
201 グループ通話管理部
202 グループ通話制御部
203 ノイズ推定部
204 発話候補判定部
205 発話性判定部
206 音声データ送信部
207 再生音声データ送信部
208 通信部
209 近距離無線通信部
211 音声検知部
212 発話強調部
213 再生制御部
216 近距離無線通信部
300 通信システム
1000 通信システム
1100A 第1ヘッドセット
1100B 第2ヘッドセット
1200A 第1携帯通信端末
1200B 第2携帯通信端末
1201 グループ通話管理部
1202 グループ通話制御部
1203 ノイズ推定部
1204 発話候補判定部
1205 発話性判定部
1206 音声データ送信部
1207 再生音声データ送信部
1208 通信部
1209 近距離無線通信部
1210 録音データ記憶部
1211 音声データ生成部
1212 表示部
1300 クラウド
1301 通信部
1302 音声データ合成部
1303 音声データ記憶部
1400 コンピュータ
1410 表示部
1500 携帯通信端末

Claims (2)

  1. 複数のクライアントの間でVoIPサーバを介したグループ通話を行う通信システムにおいて、
    前記グループ通話を管理するAPIサーバを備え、
    前記複数のクライアントの内の各クライアントはそれぞれ携帯通信網を介して通信する携帯通信端末と、該携帯通信端末との間で近距離無線通信により音声データをやり取りするヘッドセットとを備え、
    前記ヘッドセットは、
    音声を検知する音声検知部と、
    前記音声検知部が検知した音声に含まれる発話部分を環境音に対して相対的に強調する発話強調部と、
    前記携帯通信端末から受信した音声データを、該音声データの発話部分において前記音声検知部が検知した音声を周辺騒音に対して相対的に聞き取りやすくなるように再生する再生制御部と、
    を備え、
    前記携帯通信端末は、
    前記ヘッドセットから受信した音声データに含まれるノイズを推定するノイズ推定部と、
    前記ノイズ推定部による推定の結果に基づいて、前記音声データから発話部分の候補となる範囲を判定する発話候補判定部と、
    前記発話候補判定部が判定した前記音声データの発話部分の候補となる範囲から人間の音声である部分を判定する発話性判定部と、
    前記発話性判定部により人間の音声であると判定された前記音声データの部分を前記VoIPサーバへと送信する音声データ送信部と、
    前記VoIPサーバから受信した音声データを前記ヘッドセットへと送信する再生音声データ送信部と、
    を備え、
    前記APIサーバは、
    前記各クライアントと、前記VoIPサーバとの通信状況に基づいて、前記グループ通話の通信品質の制御に係る指令を前記各クライアント及び前記VoIPサーバへと通知する通信品質制御部を備え、
    前記音声データ送信部は、前記通信品質制御部から通知された指令に基づいた通信品質で前記発話性判定部により人間の音声であると判定された前記音声データの部分をエンコードして前記VoIPサーバへと送信する、
    ことを特徴とする通信システム。
  2. 請求項1に記載の通信システムに用いられる携帯通信端末であって、
    前記ヘッドセットから受信した音声データに含まれるノイズを推定するノイズ推定部と、
    前記ノイズ推定部による推定の結果に基づいて、前記音声データから発話部分の候補となる範囲を判定する発話候補判定部と、
    前記発話候補判定部が判定した前記音声データの発話部分の候補となる範囲から人間の音声である部分を判定する発話性判定部と、
    前記発話性判定部により人間の音声であると判定された前記音声データの部分を前記VoIPサーバへと送信する音声データ送信部と、
    前記VoIPサーバから受信した音声データを前記ヘッドセットへと送信する再生音声データ送信部と、
    を備えた携帯通信端末。
JP2018526268A 2017-03-10 2018-03-07 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末 Active JP6416446B1 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JPPCT/JP2017/009756 2017-03-10
PCT/JP2017/009756 WO2018163418A1 (ja) 2017-03-10 2017-03-10 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末
JP2017224861 2017-11-22
JP2017224861 2017-11-22
PCT/JP2018/008697 WO2018164165A1 (ja) 2017-03-10 2018-03-07 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末

Related Child Applications (2)

Application Number Title Priority Date Filing Date
JP2018187678A Division JP6815654B2 (ja) 2017-03-10 2018-10-02 通信システム、プログラム、及び通信システムの制御方法
JP2018187677A Division JP6742640B2 (ja) 2017-03-10 2018-10-02 携帯通信端末、プログラム、及び携帯通信端末の制御方法

Publications (2)

Publication Number Publication Date
JP6416446B1 true JP6416446B1 (ja) 2018-10-31
JPWO2018164165A1 JPWO2018164165A1 (ja) 2019-03-22

Family

ID=63448798

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2018526268A Active JP6416446B1 (ja) 2017-03-10 2018-03-07 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末
JP2018187678A Active JP6815654B2 (ja) 2017-03-10 2018-10-02 通信システム、プログラム、及び通信システムの制御方法
JP2018187677A Active JP6742640B2 (ja) 2017-03-10 2018-10-02 携帯通信端末、プログラム、及び携帯通信端末の制御方法
JP2020207754A Active JP7219492B2 (ja) 2017-03-10 2020-12-15 通信システム、プログラム、及び通信システムの制御方法

Family Applications After (3)

Application Number Title Priority Date Filing Date
JP2018187678A Active JP6815654B2 (ja) 2017-03-10 2018-10-02 通信システム、プログラム、及び通信システムの制御方法
JP2018187677A Active JP6742640B2 (ja) 2017-03-10 2018-10-02 携帯通信端末、プログラム、及び携帯通信端末の制御方法
JP2020207754A Active JP7219492B2 (ja) 2017-03-10 2020-12-15 通信システム、プログラム、及び通信システムの制御方法

Country Status (5)

Country Link
US (1) US20200028955A1 (ja)
EP (2) EP3595278B1 (ja)
JP (4) JP6416446B1 (ja)
CN (2) CN113114866A (ja)
WO (1) WO2018164165A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020213711A1 (ja) * 2019-04-19 2020-10-22

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113114866A (zh) * 2017-03-10 2021-07-13 株式会社Bonx 便携通信终端及其控制方法、通信系统和记录介质
KR101982163B1 (ko) * 2017-08-22 2019-05-24 라인 가부시키가이샤 인터넷 전화 서비스의 통화 자동 연결 방법 및 시스템
KR102512614B1 (ko) * 2018-12-12 2023-03-23 삼성전자주식회사 오디오 개선을 지원하는 전자 장치 및 이를 위한 방법
JP2021071641A (ja) 2019-10-31 2021-05-06 株式会社リコー 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP7443852B2 (ja) 2020-03-17 2024-03-06 株式会社Jvcケンウッド 無線通信装置、及び無線通信方法
CN111885555B (zh) * 2020-06-08 2022-05-20 广州安凯微电子股份有限公司 一种基于监听方案的tws耳机及其实现方法
WO2023119629A1 (ja) * 2021-12-24 2023-06-29 日本電気株式会社 情報処理システム、情報処理方法、記録媒体、及びデータ構造

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007300243A (ja) * 2006-04-27 2007-11-15 Kyocera Corp グループ通話通知方法及び移動局
JP2007318740A (ja) * 2006-04-24 2007-12-06 Fujitsu Ltd 対応支援方法、対応支援システム、対応支援装置及びコンピュータプログラム
JP2010050695A (ja) * 2008-08-21 2010-03-04 Nittetsu Elex Co Ltd 通話システム
JP2011097268A (ja) * 2009-10-28 2011-05-12 Sony Corp 再生装置、ヘッドホン及び再生方法
JP2016189121A (ja) * 2015-03-30 2016-11-04 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Family Cites Families (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4905270A (en) * 1987-12-18 1990-02-27 Mitsubishi Denki Kabushiki Kaisha Vehicular hands-free telephone system
US5239578A (en) * 1990-05-15 1993-08-24 Plantronics, Inc. Noise cancelling apparatus for a telephone handset
JP2897551B2 (ja) * 1992-10-12 1999-05-31 日本電気株式会社 音声復号化装置
UA41913C2 (uk) * 1993-11-30 2001-10-15 Ейті Енд Ті Корп. Спосіб шумозаглушення у системах зв'язку
SE9500858L (sv) * 1995-03-10 1996-09-11 Ericsson Telefon Ab L M Anordning och förfarande vid talöverföring och ett telekommunikationssystem omfattande dylik anordning
JPH08307417A (ja) * 1995-04-28 1996-11-22 Oki Electric Ind Co Ltd 電子会議の記録装置およびその再生装置
JP2000184065A (ja) * 1998-12-17 2000-06-30 Oki Electric Ind Co Ltd 通信網システム
EP1170728A1 (en) * 2000-07-05 2002-01-09 Alcatel System for adaptively reducing noise in speech signals
JP3555568B2 (ja) * 2000-09-04 2004-08-18 日本電気株式会社 Ip電話録音システム
JP3764339B2 (ja) * 2001-01-18 2006-04-05 三菱電機株式会社 音声通信システム
US6631139B2 (en) * 2001-01-31 2003-10-07 Qualcomm Incorporated Method and apparatus for interoperability between voice transmission systems during speech inactivity
US6885735B2 (en) * 2001-03-29 2005-04-26 Intellisist, Llc System and method for transmitting voice input from a remote location over a wireless data channel
US7418381B2 (en) * 2001-09-07 2008-08-26 Hewlett-Packard Development Company, L.P. Device for automatically translating and presenting voice messages as text messages
JPWO2003056798A1 (ja) * 2001-12-27 2005-05-12 松下電器産業株式会社 交換システム及び通話録音方法
WO2003083828A1 (en) * 2002-03-27 2003-10-09 Aliphcom Nicrophone and voice activity detection (vad) configurations for use with communication systems
JP3963850B2 (ja) * 2003-03-11 2007-08-22 富士通株式会社 音声区間検出装置
US7127663B2 (en) * 2003-08-28 2006-10-24 Qualcomm Incorporate Bad frame indicator for radio-telephone receivers in GSM mobile systems
JP2005234666A (ja) 2004-02-17 2005-09-02 Nec Corp PoCシステムおよびPoCサーバならびにPoCクライアント
EP1596538A1 (en) 2004-05-10 2005-11-16 Sony Ericsson Mobile Communications AB Method and device for bluetooth pairing
US8340309B2 (en) * 2004-08-06 2012-12-25 Aliphcom, Inc. Noise suppressing multi-microphone headset
US8259712B2 (en) * 2005-05-19 2012-09-04 Genband Us Llc Methods and apparatus for interconnection of media gateways
US20070165875A1 (en) * 2005-12-01 2007-07-19 Behrooz Rezvani High fidelity multimedia wireless headset
US20070248008A1 (en) * 2006-04-24 2007-10-25 Fujitsu Limited Management support method, management support system, management support apparatus and recording medium
JP5070873B2 (ja) * 2006-08-09 2012-11-14 富士通株式会社 音源方向推定装置、音源方向推定方法、及びコンピュータプログラム
KR100892095B1 (ko) * 2007-01-23 2009-04-06 삼성전자주식회사 헤드셋에서 송수신 음성신호 처리 장치 및 방법
US7873069B2 (en) * 2007-03-12 2011-01-18 Avaya Inc. Methods and apparatus for controlling audio characteristics of networked voice communications devices
US7936734B2 (en) * 2007-08-16 2011-05-03 Samsung Electronics Co., Ltd. Portable cellular enhancer
JP4823206B2 (ja) * 2007-11-30 2011-11-24 株式会社日立製作所 Ip電話機、ip電話交換機、および通話録音方法
US7903562B2 (en) * 2008-02-05 2011-03-08 Lockheed Martin Corporation Method and system for congestion control
EP2245835A2 (en) * 2008-02-08 2010-11-03 Ecrio, Inc. System, method and apparatus for controlling multiple applications and services on a digital electronic device
US8320974B2 (en) * 2010-09-02 2012-11-27 Apple Inc. Decisions on ambient noise suppression in a mobile communications handset device
US20120116772A1 (en) * 2010-11-10 2012-05-10 AventuSoft, LLC Method and System for Providing Speech Therapy Outside of Clinic
US9514424B2 (en) * 2010-12-30 2016-12-06 Kyle Kleinbart System and method for online communications management
US20120189140A1 (en) * 2011-01-21 2012-07-26 Apple Inc. Audio-sharing network
EP2686846A4 (en) * 2011-03-18 2015-04-22 Nokia Corp DEVICE FOR AUDIO SIGNAL PROCESSING
US9232071B2 (en) * 2011-12-16 2016-01-05 Qualcomm Incorporated Optimizing audio processing functions by dynamically compensating for variable distances between speaker(s) and microphone(s) in a mobile device
US8645142B2 (en) * 2012-03-27 2014-02-04 Avaya Inc. System and method for method for improving speech intelligibility of voice calls using common speech codecs
US20140126737A1 (en) * 2012-11-05 2014-05-08 Aliphcom, Inc. Noise suppressing multi-microphone headset
EP2736273A1 (en) * 2012-11-23 2014-05-28 Oticon A/s Listening device comprising an interface to signal communication quality and/or wearer load to surroundings
RU2568281C2 (ru) * 2013-05-31 2015-11-20 Александр Юрьевич Бредихин Способ компенсации потери слуха в телефонной системе и в мобильном телефонном аппарате
US20140378083A1 (en) * 2013-06-25 2014-12-25 Plantronics, Inc. Device Sensor Mode to Identify a User State
US9392353B2 (en) * 2013-10-18 2016-07-12 Plantronics, Inc. Headset interview mode
WO2015074694A1 (en) * 2013-11-20 2015-05-28 Phonak Ag A method of operating a hearing system for conducting telephone calls and a corresponding hearing system
CN104916288B (zh) * 2014-03-14 2019-01-18 深圳Tcl新技术有限公司 一种音频中人声突出处理的方法及装置
US9467779B2 (en) * 2014-05-13 2016-10-11 Apple Inc. Microphone partial occlusion detector
CN104157293B (zh) * 2014-08-28 2017-04-05 福建师范大学福清分校 一种增强声环境中目标语音信号拾取的信号处理方法
US9572103B2 (en) * 2014-09-24 2017-02-14 Nuance Communications, Inc. System and method for addressing discontinuous transmission in a network device
US9781169B2 (en) * 2015-01-27 2017-10-03 Tevnos LLC Switch controller for separating multiple portions of call
WO2016130459A1 (en) * 2015-02-09 2016-08-18 Dolby Laboratories Licensing Corporation Nearby talker obscuring, duplicate dialogue amelioration and automatic muting of acoustically proximate participants
CN106302946A (zh) * 2015-05-12 2017-01-04 中兴通讯股份有限公司 一种耳机、终端以及音频处理方法
US10298736B2 (en) * 2015-07-10 2019-05-21 Electronics And Telecommunications Research Institute Apparatus and method for processing voice signal and terminal
US9451060B1 (en) * 2015-10-15 2016-09-20 Civiq Smartscapes, Llc Techniques and apparatus for controlling access to components of a personal communication structure (PCS)
US20170237851A1 (en) * 2016-02-17 2017-08-17 Microsoft Technology Licensing, Llc Call leg quality differentiation in network telephony systems
US10298751B1 (en) * 2016-06-23 2019-05-21 8X8, Inc. Customization of alerts using telecommunications services
CN113114866A (zh) * 2017-03-10 2021-07-13 株式会社Bonx 便携通信终端及其控制方法、通信系统和记录介质
JP2022138245A (ja) * 2021-03-10 2022-09-26 シャープ株式会社 音声処理システム及び音声処理方法
CN216217044U (zh) * 2021-11-01 2022-04-05 泉州市琪祥电子科技有限公司 一种提升通话质量的对讲机

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007318740A (ja) * 2006-04-24 2007-12-06 Fujitsu Ltd 対応支援方法、対応支援システム、対応支援装置及びコンピュータプログラム
JP2007300243A (ja) * 2006-04-27 2007-11-15 Kyocera Corp グループ通話通知方法及び移動局
JP2010050695A (ja) * 2008-08-21 2010-03-04 Nittetsu Elex Co Ltd 通話システム
JP2011097268A (ja) * 2009-10-28 2011-05-12 Sony Corp 再生装置、ヘッドホン及び再生方法
JP2016189121A (ja) * 2015-03-30 2016-11-04 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020213711A1 (ja) * 2019-04-19 2020-10-22

Also Published As

Publication number Publication date
EP3595278A1 (en) 2020-01-15
EP3595278B1 (en) 2023-08-09
EP3595278A4 (en) 2020-11-25
JP7219492B2 (ja) 2023-02-08
EP3595278C0 (en) 2023-08-09
EP4239992A3 (en) 2023-10-18
US20200028955A1 (en) 2020-01-23
WO2018164165A1 (ja) 2018-09-13
JP2019083514A (ja) 2019-05-30
CN110663244A (zh) 2020-01-07
EP4239992A2 (en) 2023-09-06
JP2021048641A (ja) 2021-03-25
JP6742640B2 (ja) 2020-08-19
CN113114866A (zh) 2021-07-13
JPWO2018164165A1 (ja) 2019-03-22
CN110663244B (zh) 2021-05-25
JP2019083513A (ja) 2019-05-30
JP6815654B2 (ja) 2021-01-20

Similar Documents

Publication Publication Date Title
JP6416446B1 (ja) 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末
US8290124B2 (en) Conference call replay
CN102461139B (zh) 增强的通信桥接器
US20090174764A1 (en) System and Method for Displaying a Multipoint Videoconference
EP3253039B1 (en) Methods for mitigating and/or avoiding feedback loops during communication sessions
MX2012009253A (es) Llamadas de conferencia simultanea con funcion de conversion de dialogo a texto.
US20100151915A1 (en) Headset or Hands-free Set for Mobile Telephones Monitoring Voice Mail Messages in Real-Time and Offering the Option to Take Over Conversation with the Caller
CN106982286B (zh) 一种录音方法、设备和计算机可读存储介质
CN102131305A (zh) 一种语音业务的实现方法和系统
US20160316401A1 (en) Controlling a delivery of voice communications over a cellular data network or a wireless network based on user's profile
WO2017113581A1 (zh) 一种通话控制方法以及装置、系统
US11588935B2 (en) Forking transmit and receive call audio channels
CN110602675A (zh) 一种用于耳机对的翻译方法、装置、耳机对及翻译系统
US20160323438A1 (en) Server providing a quieter open space work environment
JP6089458B2 (ja) 情報処理装置、会議システムおよびプログラム
WO2012175964A2 (en) Multi-party teleconference methods and systems
KR101729246B1 (ko) 웨어러블 디바이스를 이용한 영상 및 음성 공유 서비스 제공 시스템
JP7186059B2 (ja) 通信装置、及び通信システム
WO2018163418A1 (ja) 通信システム、通信システムに用いられるapiサーバ、ヘッドセット、及び携帯通信端末
KR101599101B1 (ko) 통신 단말 및 상기 통신 단말에서의 통화 기록 관리 방법
JP2013157924A (ja) 通信装置、通信プログラム及び通信方法
CN112911062B (zh) 语音处理方法、控制装置、终端设备和存储介质
JP2023047084A (ja) 情報処理装置及びプログラム
JP2016005256A (ja) 音声通信端末、音声通信制御方法及びコンピュータプログラム
JP2023081469A (ja) プログラム、装置、方法及びシステム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180518

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180518

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180518

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180611

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181003

R150 Certificate of patent or registration of utility model

Ref document number: 6416446

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250