JP6187112B2 - 音声解析装置、表示装置、音声解析システムおよびプログラム - Google Patents

音声解析装置、表示装置、音声解析システムおよびプログラム Download PDF

Info

Publication number
JP6187112B2
JP6187112B2 JP2013208559A JP2013208559A JP6187112B2 JP 6187112 B2 JP6187112 B2 JP 6187112B2 JP 2013208559 A JP2013208559 A JP 2013208559A JP 2013208559 A JP2013208559 A JP 2013208559A JP 6187112 B2 JP6187112 B2 JP 6187112B2
Authority
JP
Japan
Prior art keywords
icon
display
voice
unit
speakers
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013208559A
Other languages
English (en)
Other versions
JP2015072635A (ja
Inventor
靖 飯田
靖 飯田
啓一 根本
啓一 根本
晃雅 小村
晃雅 小村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2013208559A priority Critical patent/JP6187112B2/ja
Publication of JP2015072635A publication Critical patent/JP2015072635A/ja
Application granted granted Critical
Publication of JP6187112B2 publication Critical patent/JP6187112B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)

Description

本発明は、音声解析装置、表示装置、音声解析システム、および音声解析プログラムに関する。
特許文献1には、各参加者の発言時間を1発言毎に各参加者に関連付けて取得する手段と、1発言毎に、発言時間を用いて得点を計算して参加者に関連付けて取得する得点計算手段と、各参加者の得点を累積加算して各参加者の累積得点を取得する手段と、各参加者の累積得点の平均値を計算する手段と、各参加者の累積得点から最小累積得点を特定し、最小累積得点と平均値との差を計算する手段と、差が予め設定した閾値を超えるか否かを判定し、超えている時に「発言を促す」ことを決定する手段と、「発言を促す」ことが決定された時に、最小累積得点に関連する参加者に対して発言を促す出力を行う手段と、を備えている会話支援装置が開示されている。
また非特許文献1には、参加者を表すアイコンと円形のアイコンが表示され、音声量に応じて円形のアイコンが近づく表示を行なう表示装置が開示されている。
特開2012−198726号公報
Meeting mediator:enhancing group collaboration using sociometric feedback Proceedings of the 2008 ACM conference on Computer supported cooperative work Pages 457-466
発話者同士の発話状態の遷移を、視覚的に把握することが望まれている。
請求項1に記載の発明は、音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を取得する音声情報取得部と、複数の発話者のそれぞれの発話状態を表す第1のアイコン、および当該第1のアイコンの軌跡を表示する表示部と、前記音声取得手段により取得された前記音声に関する情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なうように前記表示部を制御する表示決定部と、を備えたことを特徴とする音声解析装置である。
請求項2に記載の発明は、前記表示部は、前記複数の発話者のそれぞれを表す第2のアイコンをさらに表示し、前記第1のアイコンと当該第2のアイコンとの位置関係により前記発話状態を表すことを特徴とする請求項1に記載の音声解析装置である。
請求項3に記載の発明は、前記表示決定部は、前記複数の発話者のうち何れかの発話者の発話があったときに、前記第1のアイコンの表示位置を、発話を行なった発話者に対応する前記第2のアイコンに向けて距離が近くなるように決定するとともに、当該第1のアイコンの表示位置を、当該第1のアイコンと当該第2のアイコンとの距離が近くなるに従い当該第1のアイコンの移動距離を前回の移動距離よりも小さくするように決定することを特徴とする請求項2に記載の音声解析装置である。
請求項4に記載の発明は、前記表示決定部は、予め定められた領域において前記第1のアイコンが通過した頻度に応じて、当該領域における前記軌跡の表示を変更するように前記表示部を制御する、ことを特徴とする請求項1乃至3の何れか1項に記載の音声解析装置である。
請求項5に記載の発明は、前記表示決定部は、発話者の発話状態に応じた点数をさらに決定し、前記表示部は、前記点数を表示することを特徴とする請求項1乃至の何れか1項に記載の音声解析装置である。
請求項6に記載の発明は、音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を取得する音声情報取得部と、複数の発話者のそれぞれの発話状態を表す第1のアイコン、複数の発話者のそれぞれを表す第2のアイコンおよび当該第1のアイコンの軌跡を表示する表示部と、前記音声取得手段により取得された前記音声に関する情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定する表示決定部と、を備え、前記表示決定部は、複数の発話者のうち何れかの発話者の発話があったときに、前記第1のアイコンの表示位置を、発話を行なった発話者に対応する前記第2のアイコンに向けて移動させ、当該発話を行なった発話者の発話が停止した場合は、当該第1のアイコンの移動を停止し、別の発話者が発話を始めると、当該第1のアイコンの表示位置を、停止した位置から発話を行なった当該別の発話者に対応する当該第2のアイコンに向けて移動させる表示を行なうように前記表示部を制御することを特徴とする音声解析装置である。
請求項7に記載の発明は、音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を取得する音声情報取得部と、複数の発話者のそれぞれの発話状態を表す第1のアイコン、当該第1のアイコンの軌跡および当該第1のアイコンの位置を把握しやすくするための補助線を表示する表示部と、前記音声取得手段により取得された前記音声に関する情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定する表示決定部と、を備え、前記表示決定部は、前記第1のアイコンと前記補助線との位置関係により前記軌跡の表示を変更することを特徴とする音声解析装置である。
請求項に記載の発明は、音声に関する情報である音声情報を蓄積する蓄積部と、前記蓄積部に蓄積された前記音声情報に基づいて、複数の発話者の発話状態を表す第1のアイコンの表示位置及び当該第1のアイコンの軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なう表示決定部と、を有する音声解析装置である。
請求項に記載の発明は、複数の発話者のそれぞれの発話状態を表す第1のアイコンと、前記第1のアイコンの軌跡と、予め定められた領域において前記第1のアイコンが通過した方向と、を表示し、前記第1のアイコンの表示位置前記軌跡および前記方向の表示は、音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を基に決定されたものであることを特徴とする表示装置である。
請求項10に記載の発明は、発話者の音声を取得する音声取得部と、前記音声取得部により取得された複数の発話者の音声の、当該音声に関する情報を基に、発話者又は当該発話者が装着している当該音声取得部を識別する識別部と、複数の発話者のそれぞれの発話状態を表す第1のアイコン、および当該第1のアイコンの軌跡を表示する表示部と、前記識別部により識別された発話者又は当該発話者が装着している前記音声取得部の情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なうように前記表示部を制御する表示決定部と、を備えたことを特徴とする音声解析システムである。
請求項11に記載の発明は、コンピュータに、音声を取得する音声取得手段により取得された発話者の音声の、当該音声に関する情報を取得する機能と、取得された前記音声に関する情報を基に、複数の発話者のそれぞれの発話状態を表す第1のアイコンの表示部における表示位置および当該第1のアイコンの軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なうように前記表示部を制御する機能と、を実現させるプログラムである。
請求項1の発明によれば、発話者同士の発話状態の遷移を、視覚的に把握することができる。また本構成を採用しない場合に比較して、発話者の会話関係をさらに明確に把握することができる。
請求項2の発明によれば、本構成を採用しない場合に比較して、発話者の発話量を、より容易に把握することができる。
請求項3の発明によれば、本構成を採用しない場合に比較して、第1のアイコンの移動を、より明確に把握することができる。
請求項4の発明によれば、本構成を採用しない場合に比較して、発話者の会話関係を、より容易に把握することができる。
請求項5の発明によれば、発話者の発話状態を点数によって把握することができる。
請求項の発明によれば、発話者同士の発話状態の遷移を、視覚的に把握することができる。また本構成を採用しない場合に比較して、発話者の会話関係をさらに明確に把握することができる。
請求項の発明によれば、発話者同士の発話状態の遷移を、視覚的に把握できる態様で表示することができる。また本構成を採用しない場合に比較して、発話者の会話関係をさらに明確に把握することができる。
請求項10の発明によれば、本構成を採用しない場合に比較して、発話者同士の発話状態の遷移を、視覚的に把握することができる。また本構成を採用しない場合に比較して、発話者の会話関係をさらに明確に把握することができる。
請求項11の発明によれば、発話者同士の発話状態の遷移を、視覚的に把握することができるとともに本構成を採用しない場合に比較して、発話者の会話関係をさらに明確に把握することができる機能をコンピュータにより実現できる。
本実施形態における音声解析システムの構成例を示す図である。 本実施形態における端末装置の構成例を示す図である。 装着者および他者の口(発声部位)と、マイクロフォンとの位置の関係を示す図である。 マイクロフォンと音源との間の距離と音圧(入力音量)との関係を示す図である。 装着者自身の発話音声と他者の発話音声の識別方法を示す図である。 本実施形態における端末装置の動作を示すフローチャートである。 出力部で表示される画像の一例を説明した図である。 予め定められた規則により移動する発話状態アイコンについて示した図である。 予め定められた領域の一部と何れの領域を塗りつぶすかを決定する方法について示した図である。 (a)は、図9で示す8行×8列の正方形の各領域において発話状態アイコンが通過した頻度として、通過した回数を示した図である。(b)は、この頻度に応じて各領域を塗りつぶす色の濃度を変更する場合を示した図である。 (a)〜(d)は、発話状態アイコンが通過した方向を示す表示について説明した図である。 データ解析部の機能構成例について説明した図である。 本実施形態におけるホスト装置の動作を示すフローチャートである。
<システム構成例>
図1は、本実施形態における音声解析システムの構成例を示す図である。
図1に示すように、本実施形態の音声解析システム1は、音声取得部の一例としての端末装置10と、音声解析装置の一例であるホスト装置20とを備えて構成される。端末装置10とホスト装置20とは、無線通信回線を介して接続されている。無線通信回線の種類としては、Wi−Fi(Wireless Fidelity)、Bluetooth(登録商標)、ZigBee、UWB(Ultra Wideband)等の既存の方式による回線を用いて良い。また、図示の例では、端末装置10が1台のみ記載されているが、詳しくは後述するように、端末装置10は、使用する者のそれぞれが装着して使用するものであり、実際には使用する者の数分の端末装置10が用意される。なお以下、端末装置10を装着する者を装着者と呼ぶ。また装着者のうち会話等を行なうために音声を発した者を発話者と呼ぶ。
端末装置10は、音声を取得する音声取得手段としての複数のマイクロフォン(第1マイクロフォン11および第2マイクロフォン12)と、増幅器(第1増幅器13および第2増幅器14)とを備える。また、端末装置10は、取得した音声を解析する音声解析部15と、解析結果を音声に関する情報としてホスト装置20に送信するためのデータ送信部16とを備え、さらに電源部17とを備える。
第1マイクロフォン11と第2マイクロフォン12は、装着者の口(発声部位)からの距離が異なる位置に配される。ここでは、第1マイクロフォン11は装着者の口(発声部位)から遠い位置(例えば、35cm程度)に配置され、第2マイクロフォン12は装着者の口(発声部位)に近い位置(例えば、10cm程度)に配置されるものとする。本実施形態の第1マイクロフォン11および第2マイクロフォン12として用いられるマイクロフォンの種類としては、ダイナミック型、コンデンサ型等、既存の種々のものを用いて良い。とくに無指向性のMEMS(Micro Electro Mechanical Systems)型マイクロフォンが好ましい。
第1増幅器13および第2増幅器14は、それぞれ第1マイクロフォン11および第2マイクロフォン12が取得した音声に応じて出力する電気信号(音声信号)を増幅する。本実施形態の第1増幅器13および第2増幅器14として用いられる増幅器としては、既存のオペアンプ等を用いて良い。
音声解析部15は、第1増幅器13および第2増幅器14から出力された音声信号を解析し、端末装置10を装着した装着者自身が発話した音声か、他者の発話による音声かを識別する。よって音声解析部15は、第1マイクロフォン11および第2マイクロフォン12により取得された複数の発話者の音声の、音声に関する情報を基に、発話者を識別する識別部として機能する。音声識別の具体的な処理の内容については後述する。
データ送信部16は、音声解析部15による解析結果を含む取得データと端末IDを、上記の無線通信回線を介してホスト装置20へ送信する。ホスト装置20へ送信する情報としては、ホスト装置20において行われる処理の内容に応じて、上記の解析結果の他、例えば、第1マイクロフォン11および第2マイクロフォン12による音声の取得時刻、取得音声の音圧等の情報を含めて良い。また端末装置10に音声解析部15による解析結果を蓄積するデータ蓄積部を設け、一定期間の保存データを一括送信しても良い。なお有線回線で送信しても良い。
電源部17は、上記の第1マイクロフォン11、第2マイクロフォン12、第1増幅器13、第2増幅器14、音声解析部15およびデータ送信部16に電力を供給する。電源としては、例えば乾電池や充電池等の既存の電源が用いられる。また、電源部17は、必要に応じて、電圧変換回路および充電制御回路等の周知の回路を含む。
ホスト装置20は、端末装置10から送信されたデータを受信するデータ受信部21と、受信したデータを蓄積するデータ蓄積部22と、蓄積したデータを解析するデータ解析部23と、解析結果を出力する出力部24とを備える。このホスト装置20は、例えばパーソナルコンピュータ等の情報処理装置により実現される。また、上記のように本実施形態では複数台の端末装置10が使用され、ホスト装置20は、その複数台の端末装置10の各々からデータを受信する。
データ受信部21は、第1マイクロフォン11、第2マイクロフォン12より取得された複数の発話者の音声の、この音声に関する情報を取得する音声情報取得部として機能する。データ受信部21は、上記の無線回線に対応しており、各端末装置10からデータを受信してデータ蓄積部22へ送る。データ蓄積部22は、例えばパーソナルコンピュータの磁気ディスク装置等の記憶装置により実現され、データ受信部21から取得した受信データを発話者別に蓄積する。ここで、発話者の識別は、端末装置10から送信される端末IDと、あらかじめホスト装置20に登録されている発話者名と端末IDの照合により行う。また、端末装置10から端末IDのかわりに装着者状態を送信するようにしてもよい。データ蓄積部22は、音声に関する情報である音声情報を蓄積する蓄積部として機能する。
データ解析部23は、例えばパーソナルコンピュータのプログラム制御されたCPUにより実現され、データ蓄積部22に蓄積されたデータを解析する。具体的な解析内容および解析手法は、本実施形態のシステムの利用目的や利用態様に応じて種々の内容および手法を取り得る。例えば、端末装置10の装着者どうしの対話頻度や各装着者の対話相手の傾向を分析したり、対話における個々の発話の長さや音圧の情報から対話者の関係を類推したりすることが行われる。さらに本実施形態では、詳しくは後述するが、データ解析部23は、第1マイクロフォン11、第2マイクロフォン12により取得された音声の、音声に関する情報を基に、複数の発話者のそれぞれの発話状態を表す発話状態アイコン241(図7参照)の表示位置および軌跡243(図7参照)の表示を決定する表示決定部として機能する。またデータ解析部23は、データ蓄積部22に蓄積された音声情報に基づいて、複数の発話者の発話状態を表す発話状態アイコン241の表示位置及び発話状態アイコン241の軌跡243の表示を決定する表示決定部として機能する。
出力部24は、データ解析部23による解析結果を出力したり、解析結果に基づく出力を行ったりする。この解析結果等を出力する手段は、システムの利用目的や利用態様、解析結果の内容や形式等に応じて、ディスプレイ表示、プリンタによる印刷出力、音声出力等、種々の手段を取り得るが、本実施形態では、ディスプレイ表示で行なう。本実施形態では、詳しくは後述するが、出力部24は、発話状態アイコン241、およびこの発話状態アイコン241の軌跡243を表示する表示部(表示装置)として機能する。
<端末装置の構成例>
図2は、本実施形態における端末装置10の構成例を示す図である。
上記のように、端末装置10は、各装着者に装着されて使用される。装着者が装着可能とするため、本実施形態の端末装置10は、図2に示すように、装置本体30と、装置本体30に接続された提げ紐40とを備えた構成とする。図示の構成において、装着者は、提げ紐40に首を通し、装置本体30を首から提げて装着する。
装置本体30は、金属や樹脂等で形成された薄い直方体のケース31に、少なくとも第1増幅器13、第2増幅器14、音声解析部15、データ送信部16および電源部17を実現する回路と電源部17の電源(電池)とを収納して構成される。ケース31には、装着者の氏名や所属等のID情報を表示したIDカード等を挿入するポケットを設けても良い。また、ケース31自体の表面にそのようなID情報等を印刷したり、ID情報等を記載したシールを貼り付けたりしても良い。
提げ紐40には、第1マイクロフォン11および第2マイクロフォン12が設けられる(以下、第1マイクロフォン11と第2マイクロフォン12とを区別しない場合には、マイクロフォン11、12と記載)。マイクロフォン11、12は、提げ紐40の内部を通るケーブル(電線等)により、装置本体30に収納された第1増幅器13、第2増幅器14に接続される。提げ紐40の材質としては、革、合成皮革、木綿その他の天然繊維や樹脂等による合成繊維、金属等、既存の種々の材質を用いて良い。また、シリコン樹脂やフッ素樹脂等を用いたコーティング処理が施されていても良い。
この提げ紐40は、筒状の構造を有し、提げ紐40の内部にマイクロフォン11、12を収納している。マイクロフォン11、12を提げ紐40の内部に設けることにより、マイクロフォン11、12の損傷や汚れを防ぎ、対話者がマイクロフォン11、12の存在を意識することが抑制される。なお、装着者の口(発声部位)から遠い位置に配置される第1マイクロフォン11は、装置本体30に設けても良い。本実施形態では、第1マイクロフォン11が提げ紐40に設けられる場合を例として説明する。
図2を参照すると、第1マイクロフォン11は、提げ紐40の装置本体30に接続される端部(例えば、接続部位から10cm以内の位置)に設けられている。これにより、装着者が提げ紐40を首に掛けて装置本体30を下げた状態で、第1マイクロフォン11は、装着者の口(発声部位)から約30cmから40cm程度離れた位置に配置される。なお、第1マイクロフォン11が装置本体30に設けられた場合も、装着者の口(発声部位)から第1マイクロフォン11までの距離は同程度である。
第2マイクロフォン12は、提げ紐40の装置本体30に接続される端部から離れた位置(例えば、接続部位から20cm〜30cm程度の位置)に設けられている。これにより、装着者が提げ紐40を首に掛けて装置本体30を下げた状態で、第2マイクロフォン12は、装着者の首元(例えば鎖骨に当たる位置)に位置し、装着者の口(発声部位)から約10cmから20cm程度離れた位置に配置される。
なお、本実施形態の端末装置10は、図2に示す構成に限定されるものではない。例えば、マイクロフォン11、12は、第1マイクロフォン11から装着者の口(発声部位)までの音波到達経路の距離が第2マイクロフォン12から装着者の口(発声部位)までの音波到達経路の距離の数倍程度となるように、第1マイクロフォン11と第2マイクロフォン12の位置関係が特定されれば良い。したがって、第1マイクロフォン11を首の後ろ側の提げ紐40に設けても良い。また、マイクロフォン11、12は、上記のように提げ紐40に設ける構成に限らず、種々の方法で装着者に装着して良い。例えば、第1マイクロフォン11と第2マイクロフォン12の各々を、個別にピン等を用いて衣服に固定するように構成しても良い。また、第1マイクロフォン11と第2マイクロフォン12の位置関係が所望の位置で固定されるようにデザインされた専用の装着具を用意して装着しても良い。
また、装置本体30は、図2に示したように、提げ紐40に接続されて装着者の首から提げられる構成に限らず、携帯することが容易な装置として構成されていれば良い。例えば、本実施形態のような提げ紐ではなく、クリップやベルトにより衣服や体に装着するように構成しても良いし、単にポケット等に納めて携帯するような構成としても良い。また、携帯電話その他の既存の携帯型電子情報端末に、マイクロフォン11、12からの音声信号を受け付けて増幅し、解析する機能を実現させても良い。
さらにまた、マイクロフォン11、12と装置本体30(あるいは音声解析部15)を有線で接続するのではなく、無線通信により接続しても良い。第1増幅器13、第2増幅器14、音声解析部15、データ送信部16および電源部17は、上記の構成例では単一のケース31に収納されることとしたが、複数の個体として構成しても良い。例えば、電源部17をケース31に収納せず、外部電源に接続して使用する構成としても良い。
<取得音声の非言語情報に基づく発話者(自他)の識別>
本実施形態のシステムは、端末装置10に設けられた2つのマイクロフォン11、12により取得された音声の情報を用いて、端末装置10の装着者自身の発話音声(自己の発話音声)と他者の発話音声とを識別する。言い換えれば、本実施形態では、取得音声の発話者に関して自他の別を識別する。また、本実施形態では、取得音声の情報のうち、形態素解析や辞書情報を用いて得られる言語情報ではなく、音圧(マイクロフォン11、12への入力音量)等の非言語情報に基づいて発話者を識別する。言い換えれば、言語情報により特定される発話内容ではなく、非言語情報により特定される発話状況から音声の発話者を識別する。
図1および図2を参照して説明したように、本実施形態において、端末装置10の第1マイクロフォン11は装着者の口(発声部位)から遠い位置に配置され、第2マイクロフォン12は装着者の口(発声部位)に近い位置に配置される。すなわち、装着者の口(発声部位)を音源とすると、第1マイクロフォン11と音源との間の距離と、第2マイクロフォン12と音源との間の距離が大きく異なる。具体的には、第1マイクロフォン11と音源との間の距離は、第2マイクロフォン12と音源との間の距離の1.5〜4倍程度である。ここで、マイクロフォン11、12における取得音声の音圧は、マイクロフォン11、12と音源との間の距離が大きくなるにしたがって減衰する。したがって、装着者の発話音声に関して、第1マイクロフォン11における取得音声の音圧と第2マイクロフォン12における取得音声の音圧とは大きく異なる。
一方、装着者以外の者(他者)の口(発声部位)を音源とした場合を考えると、その他者が装着者から離れているため、第1マイクロフォン11と音源との間の距離と、第2マイクロフォン12と音源との間の距離は、大きく変わらない。装着者に対する他者の位置によっては、両距離の差は生じ得るが、装着者の口(発声部位)を音源とした場合のように、第1マイクロフォン11と音源との間の距離が第2マイクロフォン12と音源との間の距離の数倍となることはない。したがって、他者の発話音声に関して、第1マイクロフォン11における取得音声の音圧と第2マイクロフォン12における取得音声の音圧とは、装着者の発話音声の場合のように大きく異なることはない。
図3は、装着者および他者の口(発声部位)と、マイクロフォン11、12との位置の関係を示す図である。
図3に示す関係において、装着者の口(発声部位)である音源aと第1マイクロフォン11との間の距離をLa1、音源aと第2マイクロフォン12との間の距離をLa2とする。また、他者の口(発声部位)である音源bと第1マイクロフォン11との間の距離をLb1、音源bと第2マイクロフォン12との間の距離をLb2とする。この場合、次の関係が成り立つ。
La1>La2(La1≒1.5×La2〜4×La2)
Lb1≒Lb2
図4は、マイクロフォン11、12と音源との間の距離と音圧(入力音量)との関係を示す図である。
上述したように、音圧は、マイクロフォン11、12と音源との間の距離に応じて減衰する。図4において、距離La1の場合の音圧Ga1と距離La2の場合の音圧Ga2とを比較すると、音圧Ga2は、音圧Ga1の4倍程度となっている。一方、距離Lb1と距離Lb2とが近似するため、距離Lb1の場合の音圧Gb1と距離Lb2の場合の音圧Gb2とは、ほぼ等しい。そこで、本実施形態では、この音圧比の差を用いて、取得音声における装着者自身の発話音声と他者の発話音声とを識別する。なお、図4に示した例では、距離Lb1、Lb2を60cmとしたが、ここでは音圧Gb1と音圧Gb2とがほぼ等しくなることに意味があり、距離Lb1、Lb2は図示の値に限定されない。
図5は、装着者自身の発話音声と他者の発話音声の識別方法を示す図である。
図4を参照して説明したように、装着者自身の発話音声に関して、第2マイクロフォン12の音圧Ga2は、第1マイクロフォン11の音圧Ga1の数倍(例えば4倍程度)である。また、他者の発話音声に関して、第2マイクロフォン12の音圧Ga2は、第1マイクロフォン11の音圧Ga1とほぼ等しい(1倍程度)。そこで、本実施形態では、第2マイクロフォン12の音圧Ga2と第1マイクロフォン11の音圧Ga1との比に閾値を設定する。そして、音圧比が閾値よりも大きい音声は装着者自身の発話音声と判断し、音圧比が閾値よりも小さい音声は他者の発話音声と判断する。図5に示す例では、閾値を2とし、音圧比Ga2/Ga1は閾値2を超えるので装着者自身の発話音声と判断され、音圧比Gb2/Gb1は閾値2よりも小さいので他者の発話音声と判断されている。
<端末装置の動作例>
図6は、本実施形態における端末装置10の動作を示すフローチャートである。
図6に示すように、端末装置10のマイクロフォン11、12が音声を取得すると、各マイクロフォン11、12から取得音声に応じた電気信号(音声信号)が第1増幅器13および第2増幅器14へ送られる(ステップ101)。第1増幅器13および第2増幅器14は、マイクロフォン11、12からの音声信号を取得すると、信号を増幅して音声解析部15へ送る(ステップ102)。
音声解析部15は、音声信号を取得した後、第1増幅器13および第2増幅器14で増幅された信号に対してフィルタリング処理を行う(ステップ103)。これにより信号から環境音等の雑音(ノイズ)の成分を除去する。次に、音声解析部15は、雑音成分が除かれた信号に対し、一定の時間単位(例えば、数十分の一秒〜数百分の一秒)毎に、各マイクロフォン11、12の取得音声における平均音圧を求める(ステップ104)。そして、平均音圧がある閾値より大きいか否かを判断する(ステップ105)。
また、前述の実施の形態の説明において、予め定められた値との比較において、「以上」、「以下」、「より大きい」、「より小さい(未満)」としたものは、その組み合わせに矛盾が生じない限り、それぞれ「より大きい」、「より小さい(未満)」、「以上」、「以下」としてもよい。
音声解析部15は、ステップ105で求めた各マイクロフォン11、12における平均音圧が閾値より大きい場合(ステップ105でYes)、発話音声がある(発話が行われた)と判断する。
そして音声解析部15は、第1マイクロフォン11における平均音圧と第2マイクロフォン12における平均音圧との比(音圧比)を求める(ステップ106)。ステップ106で求めた音圧比が閾値よりも大きい場合(ステップ107でYes)、音声解析部15は、発話音声は装着者自身の発話による音声であると判断する(ステップ108)。また、ステップ106で求めた音圧比が閾値よりも小さい場合(ステップ107でNo)、音声解析部15は、発話音声は他者の発話による音声であると判断する(ステップ109)。一方、ステップ104で求めた各マイクロフォン11、12における平均音圧の利得が無い場合(ステップ105でNo)、音声解析部15は、発話音声が無い(発話が行われていない)と判断する(ステップ110)。
この後、音声解析部15は、データ送信部16を介して、ステップ104〜ステップ110の処理で得られた解析結果を音声に関する情報としてホスト装置20へ送信する(ステップ111)。この解析結果としては、例えば、発話の有無、装着者の情報(端末ID)、マイクロフォン11、12により取得された音声が装着者の発話音声であるか装着者以外の他者の発話音声であるかを識別した情報である自他識別情報等である。またこのとき、発話者毎(装着者自身または他者)の発話時間の長さや平均音圧の利得の値、その他の付加情報を解析結果と共にホスト装置20へ送信させてもよい。
<出力部で表示される画像についての説明>
次にホスト装置20の出力部24で表示される画像について説明を行なう。
図7は、出力部24で表示される画像の一例を説明した図である。
図示するように出力部24では、複数の発話者のそれぞれの発話状態を表す第1のアイコンの一例である発話状態アイコン241と、複数の発話者のそれぞれを表す第2のアイコンの一例であるユーザアイコン242とを表示する。またさらに出力部24では、発話状態アイコン241の軌跡243と、発話状態アイコン241やユーザアイコン242の位置を把握しやすくするための補助線244と、装着者の発話状態に応じて決定される点数の一例である得点245とを表示する。
発話状態アイコン241は、発話者の発話状態を予め定められた表示状態にて表すアイコンである。発話状態アイコン241は、予め定められた図形にて出力部24に表示される。本実施の形態では、図7に示すように円形の図形により発話状態アイコン241を表している。ただし円形に限られるものではなく、多角形等の他の図形であってもよい。
発話状態アイコン241は、最初は中央位置Cを表示位置とする。そして端末装置10の装着者のうち何れかが発話を行なうと、予め定められた規則に従い移動する。
ユーザアイコン242は、発話者を表すアイコンである。ユーザアイコン242は、本実施形態では、円環状の補助線244aを等しく区切ったそれぞれの箇所に配置される。この場合、円環を6等分し、それぞれに6つのユーザアイコン242であるユーザアイコン242a、242b、242c、242d、242e、242fが配置される。これにより6人までの発話者に対応して表示を行なうことができる。またユーザアイコン242は、発話状態アイコン241とは異なり、移動を行なうことはなく固定された位置に表示される。
なお、ユーザアイコン242は、小さな絵や記号で表現したものに限らない。たとえば、明示的に表示せずとも円環の6頂点を結んだ6角形の各頂点を表す点(ドット)も含むものとする。
発話状態アイコン241は、その表示位置によって、発話者のそれぞれの発話状態を示す。
より具体的には、発話状態アイコン241は、現在発話を行なっている発話者を表すユーザアイコン242に向けて移動する。発話状態アイコン241の移動は、発話者の発話が続く限り連続して行なわれる。また発話者の発話が停止すると、発話状態アイコン241の移動は、停止する。また別の装着者が発話を始めると、同様にしてこの発話者を表すユーザアイコンに向けてその表示位置を移動させる。そして以降この動作を繰り返す。
このような規則により発話状態アイコン241を移動させると、発話者の発話量が多いほど、その発話者に対応するユーザアイコン242に発話状態アイコン241が近づくことになる。即ち、発話状態アイコン241からの距離がより近いユーザアイコン242に対応する発話者は、発話量が他の発話者より多いことになり、発話状態アイコン241からの距離がより遠いユーザアイコン242に対応する発話者は、発話量が他の発話者より少ないことになる。これにより発話者の発話状態を視覚的に判断することができる。これは、本実施形態では、発話状態アイコン241とユーザアイコン242との位置関係により発話状態を表す、と言い換えることもできる。
また本実施形態では、発話状態アイコン241は、さらに以下の規則によって移動する。
図8は、この規則により移動する発話状態アイコン241について示した図である。
(1回目の移動)
発話者が発話を始めると、上述の通り、この発話者に対応するユーザアイコン242に向けて発話状態アイコン241が移動を開始する。この場合、発話状態アイコン241は、ユーザアイコン242fに向けて移動を開始したとする。このとき発話状態アイコン241とユーザアイコン242fとの距離d0の半分の距離である距離d1の分だけ、発話状態アイコン241は、まず移動する。
(2回目の移動)
そして発話者の発話が予め定められた時間以上続いた場合、発話状態アイコン241は、2回目の移動を行なう。この移動量は、距離d1のさらに半分の距離である距離d2となる。
(3回目以降の移動)
以後、発話者の発話が予め定められた時間以上さらに続いた場合、同様に前回移動した距離の半分の距離を移動しつつ、発話状態アイコン241は、ユーザアイコン242fに近づいていく。
このようにすることで、最初の段階における発話状態アイコン241の移動がより明確に視認される。また発話状態アイコン241の移動量は徐々に小さくなるため、発話状態アイコン241がユーザアイコン242fにまで到達し、移動が停止することもない。
また本実施形態の出力部24では、これに加えさらに発話状態アイコン241の軌跡243を表示する。これにより発話状態アイコン241の現在までの履歴を表示させることができる。
軌跡243は、本実施形態では、発話状態アイコン241が通過した箇所に対応する予め定められた領域を塗りつぶすことで表示される。
この領域は、例えば、出力部24を10ピクセル×10ピクセルの大きさで格子状に区切ることで定められる領域である。
図9は、この領域の一部と何れの領域を塗りつぶすかを決定する方法について示した図である。
図9では、出力部24の一部として8行×8列の正方形の各領域を図示している。このとき発話状態アイコン241が、P0で示す位置からP1に示す位置に移動したとする。
この場合、P0の位置の発話状態アイコン241の中心とP1の位置の発話状態アイコン241の中心を直線で結び、その直線をP0の位置からP1の位置に向けて距離xで区切っていく。そして区切り点(図9では、p1、p2、p3、p4、p5、p6、p7、p8、p9で図示)が含まれる領域を塗りつぶす。図9では、塗りつぶした領域を領域A1、A2、A3、A4、A5として表示している。そしてこの塗りつぶした領域A1、A2、A3、A4、A5を出力部24にて軌跡243として表示する。
また本実施形態では、この領域において発話状態アイコン241が通過した頻度に応じて、この領域における発話状態アイコン241の軌跡243の表示を変更する。
図10(a)は、図9で示す8行×8列の正方形の各領域において発話状態アイコン241が通過した頻度として、通過した回数を示している。
そして図10(b)は、この頻度に応じて各領域を塗りつぶす色の濃度を変更する場合を示している。この場合、例えば、1行2列に位置する領域は、発話状態アイコン241が通過した回数が12回である。また例えば、1行7列、1行8列に位置する領域は、発話状態アイコン241が通過した回数が、それぞれ10回、3回である。
図10(b)の例では、発話状態アイコン241が通過した回数が多いほど、この領域の色の濃度を高くしている。
これにより例えば、2人の発話者が会話したような場合は、この発話者に対応する2つのユーザアイコン242を結ぶ直線上により濃度が高い色の軌跡243が表示されることになり、この2人の発話者が会話を行なっていたことがわかる。
なお、発話状態アイコン241の軌跡243の表示の変更には、色の濃度を変更する方法に限られるものではない。他に例えば、発話状態アイコン241が通過した回数に応じて、色を変化させるような方法でもよい。例えば、発話状態アイコン241が通過した回数が少ない場合は、青色とし、回数が多くなるに従い、青色から緑色、さらに緑色から赤色にその色を変更する。
また長時間発話者による発話が継続し、発話状態アイコン241が移動したときは、軌跡243により上記領域がほとんど塗りつぶされ、軌跡243が視認しにくくなるような場合も生じる。そのため予め定められた時間以前の(例えば、1hより前の)軌跡243を薄く表示させるようにしたり、あるいは消去するようにしたりしてもよい。
なお図9の場合、領域A1、A2、A3、A4のそれぞれには、p1とp2、p3とp4、p5とp6、p7とp8の各2個ずつの区切り点が含まれる。この場合、領域A1、A2、A3、A4を発話状態アイコン241が通過した回数は、通常1回としてカウントされるが、2回としてもよい。また発話状態アイコン241の移動速度に応じて、1回にするか2回にするかを変更してもよい。即ち、発話状態アイコン241の移動速度が比較的速い場合は、1回とし、比較的遅い場合は、2回とする。
また図7の場合、ユーザアイコン242が配される円環状の補助線244aの内側に円環状の補助線244bが表示される。発話状態アイコン241の表示位置が、補助線244aと補助線244bの間であるときは、何れかの発話者が、一方的に発話し、他は発話していない状態であることを意味する。詳しくは後述するが、このような状態は一般的には好ましくないため、発話状態アイコン241の表示位置が、補助線244aと補助線244bの間だった場合は、軌跡243の表示を別途変更するようにしてもよい。例えば、この場合、軌跡243の色を灰色や茶色とする。対して発話状態アイコン241の表示位置が補助線244bの内側だった場合は、軌跡243の色を上述した青色、緑色、または赤色とする。
またそれぞれの領域において発話状態アイコン241が通過した方向を示す表示を行なってもよい。
図11(a)〜(d)は、発話状態アイコン241が通過した方向を示す表示について説明した図である。
図11(a)は、「>」の形状の図形を使用して発話状態アイコン241が通過した方向を示す表示を行なう場合を示している。この場合、領域の中心部に対し、「>」の図形の頂部Q1が向く方向に発話状態アイコン241が通過したことを示している。
また図11(b)は、矢印を使用して発話状態アイコン241が通過した方向を示す表示を行なう場合を示している。この場合、領域の中心部から矢印の向く方向に発話状態アイコン241が通過したことを示している。
さらに図11(c)は、三角形の図形を使用して発話状態アイコン241が通過した方向を示す表示を行なう場合を示している。この場合、領域の中心部に対し、三角形の頂点Q2が向く方向に発話状態アイコン241が通過したことを示している。
またさらに図11(d)は、領域を塗りつぶす色の濃度の変化により発話状態アイコン241が通過した方向を示す表示を行なう場合を示している。この場合、濃度が濃い部分から薄い部分の方向に発話状態アイコン241が通過したことを示している。
なお2回以上発話状態アイコン241が通過した場合は、通過した方向を表す通過ベクトルを考え、それぞれの通過ベクトルを合成した合成通過ベクトルにより発話状態アイコン241が通過した方向を定めることができる。
得点245は、発話者の発話状態に応じて表示される点数であれば、特に限定されるものではない。例えば、補助線244bで規定される円環内を軌跡243によりどの程度塗りつぶしたかで点数を決めることができる。また得点245は、発話が行なわれる度に加算されて決められる点数であってもよく、また予め定められた時間内における発話の頻度に応じて決められる点数であってもよい。
<データ解析部の詳細な説明>
次にホスト装置20のデータ解析部23についてさらに詳しく説明を行なう。
上述の通り、データ解析部23は、発話状態アイコン241の表示位置および軌跡243の表示を決定する。
図12は、データ解析部23の機能構成例について説明した図である。なお図12では、データ解析部23が有する種々の機能部のうち上述した出力部24における表示に関するものを選択して図示している。
図示するようにデータ解析部23は、出力部24における発話状態アイコン241の表示位置を決定する表示位置決定部231と、発話状態アイコン241の軌跡243の表示を決定する軌跡決定部232と、上述した各領域において発話状態アイコン241が通過した回数を記憶する通過回数記憶部233と、得点245の点数を決定する点数決定部234とを備える。
表示位置決定部231は、例えば、図7〜図8で説明した方法で、発話状態アイコン241の表示位置を決定する。これは、表示位置決定部231は、複数の発話者のうち何れかの発話者の発話があったときに、発話状態アイコン241の表示位置を、発話を行なった発話者に対応するユーザアイコン242に向けて距離が近くなるように決定するとともに、発話状態アイコン241の表示位置を、発話状態アイコン241とユーザアイコン242との距離が近くなるに従い発話状態アイコン241の移動距離を小さくするように決定する、と言い換えることもできる。
このとき表示位置決定部231は、データ受信部21で取得した音声に関する情報を基にして発話状態アイコン241の表示位置を決定する。つまり発話者が装着する端末装置10は、取得した音声が装着者自身の発話音声であると判定することができるため、この情報から何れのユーザアイコン242に向けて発話状態アイコン241を移動させればよいかがわかる。またこの情報は、例えば、データ受信部21から100ms毎に送られてくる。そしてその情報を取得する度毎に、発話者の発話の有無を判定し、発話状態アイコン241の表示位置を決定する。
軌跡決定部232は、例えば、図9〜図11で説明した方法で、発話状態アイコン241の軌跡243の表示を決定する。ここで発話状態アイコン241が各領域を通過した回数は、通過回数記憶部233において、図10(a)で示したようなテーブル形式で記憶されている。よって軌跡決定部232は、発話状態アイコン241の移動の状態や通過回数記憶部233で記憶されている各領域における通過回数を参照し、各領域を塗りつぶすか否か、あるいは、塗りつぶす色を変更するなど各領域の表示の変更を行なう。
点数決定部234は、例えば、図7で説明したような得点245の点数を決定する。この点数は、上述したように例えば、補助線244bで規定される円環内を軌跡243により、どの程度塗りつぶしたかで点数を決める。この場合、補助線244bで規定される円環内の面積に対する軌跡243が占める面積の比率により点数を決めることができる。
<ホスト装置20の動作例>
図13は、本実施形態におけるホスト装置20の動作を示すフローチャートである。
以下、図12、図13を使用してホスト装置20の動作を説明する。
まずデータ受信部21が、複数の端末装置10のデータ送信部16から音声に関する情報を受信データとして取得する(ステップ201)。
取得した受信データは、データ蓄積部22が発話者別に蓄積する(ステップ202)。
次にデータ解析部23の表示位置決定部231が、受信データに含まれる音声に関する情報を基に、発話の有無を判定する(ステップ203)。そして発話がない場合(ステップ203でNo)、ステップ201に戻る。
また発話がある場合(ステップ203でYes)、発話状態が予め定められた時間以上継続しているか否かを判定する(ステップ204)。つまり端末装置10で取得される音としては、発話による音声のみならず、服のこすれ音などのノイズも含まれる。また発話があったとしても単なる相槌である場合がある。そしてこれらの音を発話者による音声として扱うと、発話状態アイコン241が頻繁に動きすぎ、正確な発話状態を把握することが困難となる。よって発話状態が予め定められた時間以上(例えば、1s以上)継続した場合に発話者による発話があったとする方が、正確な発話状態を把握する観点からは好ましい。
そして発話状態が予め定められた時間未満だった場合(ステップ204でNo)、ステップ201に戻る。
一方、発話状態が予め定められた時間以上だった場合(ステップ204でYes)、表示位置決定部231は、例えば、図8で説明した方法で発話状態アイコン241の表示位置を決定する(ステップ205)。
この表示位置は、通過回数記憶部233に送られ、通過回数記憶部233は、領域毎に発話状態アイコン241の通過回数を記憶する(ステップ206)。
次にデータ解析部23の軌跡決定部232が、通過回数記憶部233に記憶されている領域毎の通過回数を基にして軌跡243の表示を決定する(ステップ207)。
さらにデータ解析部23の点数決定部234が、得点245の点数を決定する(ステップ208)。
そして発話状態アイコン241の表示位置の情報、軌跡243の表示の情報、および得点245の点数の情報は、出力部24に送られ、出力部24では、発話状態アイコン241、ユーザアイコン242、軌跡243、補助線244、および得点245が表示される(ステップ209)。
次に上記一連の処理を終了するか否かを決定する(ステップ210)。そして終了する場合(ステップ210でYes)、一連の処理を停止させる。また終了しない場合(ステップ210でNo)、ステップ201に戻る。
以上詳述した音声解析システム1によれば、発話状態アイコン241、軌跡243、得点245を見ることにより、発話者の発話状態等を視覚的に把握することができる。
具体的には、発話状態アイコン241とユーザアイコン242との位置関係により、直近の時間帯における発話者の発話状態を把握することができる。つまり発話状態アイコン241は、発話者のユーザアイコン242に向けて移動するため、発話状態アイコン241は、直近の時間帯における発話状態を示している。よってこの時間帯において装着者のうち誰がより多くの発話を行なっているかがわかる。
また軌跡243を見ることで、発話者の過去の発話状態の経過を把握することができる。つまり軌跡243は、過去の発話状態アイコン241の動きを示しているため、ホスト装置20が動作を開始してから現在までの発話者の発話状態がわかることになる。本実施形態では、軌跡243は、発話状態アイコン241が、各領域を通過した回数に応じて表示が変更される。そのため発話者同士に会話関係があった場合、この発話者に対応するユーザアイコン242を結ぶ直線部分の通過回数がより多くなり、表示が他の領域と異なることになる。よって、軌跡243により発話者同士の会話関係も把握することができる。さらに図11に示した発話状態アイコン241が通過した方向を示す表示を行なうことで、発話者同士の会話関係の把握がさらに容易になる。
また得点245の点数を、補助線244bで規定される円環内を軌跡243によりどの程度塗りつぶしたかで決めた場合、この点数により発話者の発話がより均等に行なわれたかどうかがわかる。つまり発話がより均等に行なわれた場合、発話状態アイコン241は、補助線244bで規定される円環内をまんべんなく動き回ることになる。そのため得点245の点数は高くなりやすい。一方、発話者の発話が均等でないと、発話状態アイコン241は、より多くの発話をした発話者のユーザアイコン242付近により多くの時間位置することになるため、軌跡243もその箇所に集中的に表示されることになり、得点245の点数は高くなりにくい。なお発話者の発話がより均等に行なわれたかどうかは、軌跡243の分布を見ることでも把握することができる。
本実施形態の音声解析システム1を利用して、例えば、会議を行なうような場合、より活発な議論が行なわれることが期待できる。つまり会議の出席者が、それぞれ端末装置10を装着し、ホスト装置20の出力部24に表示される例えば、図7で示される画像を見つつ、議論を行なう。このとき装着者は、上述したような発話状態を把握することで、例えば、発話が多すぎる、または少なすぎる等を把握することができる。そのため発話が多すぎる装着者は、自主的に発話を控え、また発話が少なすぎる装着者に対しては、他の者が質問等を行ない、発話を促す。これにより発話がより均等に行なわれ、議論が活発になりやすくなる。
なおこの場合、発話者の発話が多すぎる、または少なすぎる場合に、その旨のメッセージ等を出力部24に表示する場合も考えられる。ただし本実施の音声解析システム1の場合は、このような表示は極力行なわず、装着者の自主的な行動にまかせる方がより好ましい。
またここでは、会議の出席者が出力部24に表示される画像を見る場合を例示したが、これに限られるものではなく、例えば、会議の出席者は、これを見ずに会議を行ない、会議の出席者以外の第三者が会議の内容を評価することに使用してもよい。
さらに以上詳述した例では、発話者の発話が行なわれなかった場合は、発話状態アイコン241は停止し、動かなくなる。しかし発話が行なわれない時間が、予め定められた以上継続した場合は、発話状態アイコン241を中央部に戻してもよい。なおこの際、軌跡243は、表示しないことが好ましい。
また以上詳述した例では、ユーザアイコン242を円環状の補助線244a上に配置していたが、これに限られるものではなく、多角形の頂点部に配置してもよい。また直線上に配置し、発話状態アイコン241をこの直線上で動かすようにしてもよい。
なおユーザアイコン242の配置は、実際の発話者の配置を擬似的に再現してもよいが、再現しなくてもかまわない。
さらにユーザアイコン242は、必ずしも表示させる必要はない。例えば、端末装置10からの端末IDを基に、端末装置10を識別し、ユーザアイコン242のかわりにこの端末IDを表示するようにしてもよい。このとき端末IDを識別するのは、例えば、データ解析部23が行なう。この場合、データ解析部23は、音声に関する情報を基に、端末装置10を識別する識別部として機能する。
また以上詳述した例では、端末装置10を使用し、端末装置10を装着することで音声を取得していたが、これに限られるものではない。例えば、装着者は、それぞれ1つのマイクロフォンを装着し、このマイクロフォンにより取得された音声が、予め定められた音圧以上であった場合に、装着者の音声であると判定し、この音圧未満であった場合に、装着者以外の音声であると判定してもよい。さらにマイクロフォンを装着せず、例えば、マイクロフォンを音声の取得を行なう部屋に複数配置し、これらのマイクロフォンで取得された音声の音圧や方向を比較することで、発話者の特定を行なってもよい。
さらに以上詳述した例では、端末装置10で発話者(自他)の識別を行なっていたが、ホスト装置20の方で行なってもよい。この場合、この処理は、例えば、データ解析部23で行なうことができる。この場合、データ解析部23が識別部として機能する。
<プログラムの説明>
なお以上説明したホスト装置20が行なう処理は、ソフトウェアとハードウェア資源とが協働することにより実現される。即ち、ホスト装置20に設けられた制御用コンピュータ内部の図示しないCPUが、ホスト装置20の各機能を実現するプログラムを実行し、これらの各機能を実現させる。
よってホスト装置20が行なう処理は、コンピュータに、音声を取得するマイクロフォンにより取得された発話者の音声の、音声に関する情報を取得する機能と、取得された音声に関する情報を基に、複数の発話者のそれぞれの発話状態を表す発話状態アイコン241の出力部24における表示位置および発話状態アイコン241の軌跡243の表示を決定する機能と、を実現させるプログラムとして捉えることもできる。
なお、本実施形態を実現するプログラムは、通信手段により提供することはもちろん、CD−ROM等の記録媒体に格納して提供することも可能である。
以上、本実施形態について説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、種々の変更または改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
1…音声解析システム、10…端末装置、20…ホスト装置、21…データ受信部、23…データ解析部、24…出力部、231…表示位置決定部、232…軌跡決定部、233…通過回数記憶部、234…点数決定部、241…発話状態アイコン、242…ユーザアイコン、243…軌跡、244…補助線、245…得点

Claims (11)

  1. 音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を取得する音声情報取得部と、
    複数の発話者のそれぞれの発話状態を表す第1のアイコン、および当該第1のアイコンの軌跡を表示する表示部と、
    前記音声取得手段により取得された前記音声に関する情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なうように前記表示部を制御する表示決定部と、
    を備えたことを特徴とする音声解析装置。
  2. 前記表示部は、前記複数の発話者のそれぞれを表す第2のアイコンをさらに表示し、前記第1のアイコンと当該第2のアイコンとの位置関係により前記発話状態を表すことを特徴とする請求項1に記載の音声解析装置。
  3. 前記表示決定部は、前記複数の発話者のうち何れかの発話者の発話があったときに、前記第1のアイコンの表示位置を、発話を行なった発話者に対応する前記第2のアイコンに向けて距離が近くなるように決定するとともに、当該第1のアイコンの表示位置を、当該第1のアイコンと当該第2のアイコンとの距離が近くなるに従い当該第1のアイコンの移動距離を前回の移動距離よりも小さくするように決定することを特徴とする請求項2に記載の音声解析装置。
  4. 前記表示決定部は、予め定められた領域において前記第1のアイコンが通過した頻度に応じて、当該領域における前記軌跡の表示を変更するように前記表示部を制御する、ことを特徴とする請求項1乃至3の何れか1項に記載の音声解析装置。
  5. 前記表示決定部は、発話者の発話状態に応じた点数をさらに決定し、
    前記表示部は、前記点数を表示することを特徴とする請求項1乃至の何れか1項に記載の音声解析装置。
  6. 音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を取得する音声情報取得部と、
    複数の発話者のそれぞれの発話状態を表す第1のアイコン、複数の発話者のそれぞれを表す第2のアイコンおよび当該第1のアイコンの軌跡を表示する表示部と、
    前記音声取得手段により取得された前記音声に関する情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定する表示決定部と、
    を備え、
    前記表示決定部は、複数の発話者のうち何れかの発話者の発話があったときに、前記第1のアイコンの表示位置を、発話を行なった発話者に対応する前記第2のアイコンに向けて移動させ、当該発話を行なった発話者の発話が停止した場合は、当該第1のアイコンの移動を停止し、別の発話者が発話を始めると、当該第1のアイコンの表示位置を、停止した位置から発話を行なった当該別の発話者に対応する当該第2のアイコンに向けて移動させる表示を行なうように前記表示部を制御することを特徴とする音声解析装置。
  7. 音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を取得する音声情報取得部と、
    複数の発話者のそれぞれの発話状態を表す第1のアイコン、当該第1のアイコンの軌跡および当該第1のアイコンの位置を把握しやすくするための補助線を表示する表示部と、
    前記音声取得手段により取得された前記音声に関する情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定する表示決定部と、
    を備え、
    前記表示決定部は、前記第1のアイコンと前記補助線との位置関係により前記軌跡の表示を変更するように前記表示部を制御することを特徴とする音声解析装置。
  8. 音声に関する情報である音声情報を蓄積する蓄積部と、
    前記蓄積部に蓄積された前記音声情報に基づいて、複数の発話者の発話状態を表す第1のアイコンの表示位置及び当該第1のアイコンの軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なう表示決定部と、
    を有する音声解析装置。
  9. 複数の発話者のそれぞれの発話状態を表す第1のアイコンと、
    前記第1のアイコンの軌跡と、
    予め定められた領域において前記第1のアイコンが通過した方向と、
    を表示し、
    前記第1のアイコンの表示位置前記軌跡および前記方向の表示は、音声を取得する音声取得手段により取得された複数の発話者の音声の、当該音声に関する情報を基に決定されたものであることを特徴とする表示装置。
  10. 発話者の音声を取得する音声取得部と、
    前記音声取得部により取得された複数の発話者の音声の、当該音声に関する情報を基に、発話者又は当該発話者が装着している当該音声取得部を識別する識別部と、
    複数の発話者のそれぞれの発話状態を表す第1のアイコン、および当該第1のアイコンの軌跡を表示する表示部と、
    前記識別部により識別された発話者又は当該発話者が装着している前記音声取得部の情報を基に、前記第1のアイコンの表示位置および前記軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なうように前記表示部を制御する表示決定部と、
    を備えたことを特徴とする音声解析システム。
  11. コンピュータに、
    音声を取得する音声取得手段により取得された発話者の音声の、当該音声に関する情報を取得する機能と、
    取得された前記音声に関する情報を基に、複数の発話者のそれぞれの発話状態を表す第1のアイコンの表示部における表示位置および当該第1のアイコンの軌跡の表示を決定するとともに予め定められた領域において当該第1のアイコンが通過した方向を示す表示を行なうように前記表示部を制御する機能と、
    を実現させるプログラム。
JP2013208559A 2013-10-03 2013-10-03 音声解析装置、表示装置、音声解析システムおよびプログラム Active JP6187112B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013208559A JP6187112B2 (ja) 2013-10-03 2013-10-03 音声解析装置、表示装置、音声解析システムおよびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013208559A JP6187112B2 (ja) 2013-10-03 2013-10-03 音声解析装置、表示装置、音声解析システムおよびプログラム

Publications (2)

Publication Number Publication Date
JP2015072635A JP2015072635A (ja) 2015-04-16
JP6187112B2 true JP6187112B2 (ja) 2017-08-30

Family

ID=53014949

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013208559A Active JP6187112B2 (ja) 2013-10-03 2013-10-03 音声解析装置、表示装置、音声解析システムおよびプログラム

Country Status (1)

Country Link
JP (1) JP6187112B2 (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11296880A (ja) * 1998-04-14 1999-10-29 Hitachi Ltd 光ディスク装置
JP2000008363A (ja) * 1998-06-23 2000-01-11 Ohbayashi Corp 盛土転圧管理システム
JP2007256498A (ja) * 2006-03-22 2007-10-04 Yamaha Corp 音声状況データ生成装置、音声状況可視化装置、音声状況データ編集装置、音声データ再生装置、および音声通信システム
US8155331B2 (en) * 2006-05-10 2012-04-10 Honda Motor Co., Ltd. Sound source tracking system, method and robot
JP2007318438A (ja) * 2006-05-25 2007-12-06 Yamaha Corp 音声状況データ生成装置、音声状況可視化装置、音声状況データ編集装置、音声データ再生装置、および音声通信システム
JP2008262046A (ja) * 2007-04-12 2008-10-30 Hitachi Ltd 会議可視化システム、会議可視化方法、及び集計処理サーバ
JP4933354B2 (ja) * 2007-06-08 2012-05-16 キヤノン株式会社 情報処理装置、及び情報処理方法
JP2013083621A (ja) * 2011-09-28 2013-05-09 Fuji Xerox Co Ltd 位置出力装置、位置出力システムおよびプログラム

Also Published As

Publication number Publication date
JP2015072635A (ja) 2015-04-16

Similar Documents

Publication Publication Date Title
JP5772448B2 (ja) 音声解析システムおよび音声解析装置
JP5772447B2 (ja) 音声解析装置
EP2821992B1 (en) Method for updating voiceprint feature model and terminal
JP6031761B2 (ja) 音声解析装置および音声解析システム
JP5867066B2 (ja) 音声解析装置
JP2018013545A (ja) 音声対話装置および発話制御方法
JP2009178783A (ja) コミュニケーションロボット及びその制御方法
JP2013142843A (ja) 動作解析装置、音声取得装置、および、動作解析システム
US11589173B2 (en) Hearing aid comprising a record and replay function
JP6476938B2 (ja) 音声解析装置、音声解析システムおよびプログラム
JP5862318B2 (ja) 音解析装置、音解析システムおよびプログラム
JP6007487B2 (ja) 情報処理装置、情報処理システムおよびプログラム
JP6187112B2 (ja) 音声解析装置、表示装置、音声解析システムおよびプログラム
JP6160042B2 (ja) 位置特定システム
KR20150029197A (ko) 이동 단말기 및 그 동작 방법
JP6191747B2 (ja) 音声解析装置および音声解析システム
JP6031767B2 (ja) 音声解析装置、音声解析システムおよびプログラム
EP3288035B1 (en) Personal audio analytics and behavior modification feedback
JP2013140534A (ja) 音声解析装置、音声解析システムおよびプログラム
JP2013164468A (ja) 音声解析装置、音声解析システムおよびプログラム
JP5929810B2 (ja) 音声解析システム、音声端末装置およびプログラム
JP6056544B2 (ja) 音声解析装置、信号解析装置、音声解析システムおよびプログラム
JP2016163230A (ja) 音声解析装置、音声解析システムおよびプログラム
KR20200080410A (ko) 액세서리의 장착이 가능한 로봇의 동작 제어 방법 및 장치
JP2013072978A (ja) 音声解析装置および音声解析システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170717

R150 Certificate of patent or registration of utility model

Ref document number: 6187112

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350