以下に添付図面を参照して、この発明にかかる音声処理装置の好適な実施形態を詳細に説明する。
発明者の実験では、複数の音声出力装置(スピーカ、ヘッドフォンなど)のそれぞれから、ピッチおよび位相の少なくとも一方が異なる音声を聴く場合に、音声の物理的な大きさ(ラウドネス)によらず知覚による明瞭さが大きくなり、かつ、注意レベルが上昇することが確認されている。このとき、驚きの感覚はほとんど観測されない。
これまでの考え方では、複数の音声出力装置のそれぞれから、ピッチおよび位相のいずれかが異なる音声を聴く場合には、明瞭さが減少するため聞き取りが悪化するとされてきた。しかし、上記のように発明者の実験では、ピッチおよび位相の少なくとも一方が異なる音声を左右の耳で聴く場合に明瞭さが上昇し、注意レベルが上昇することが確認できた。
これは、聴覚が両耳を使用して音声をより明確に知覚しようとする働きを示しており、これまでにはない新しい発見である。以下の実施形態は、この発見を基にしており、左右の耳に対してピッチおよび位相の少なくとも一方が異なる音声による知覚上昇を利用して注意喚起および危険通知を可能とする。
(第1の実施形態)
第1の実施形態にかかる音声処理装置は、強調部分に対応する音声のピッチおよび位相の少なくとも一方を変調し、変調した音声を出力する。これにより、音声信号の強度を変えることなく、利用者の注意力を増大させ、次動作をスムーズに実行させることが可能となる。
図1は、第1の実施形態にかかる音声処理装置100の構成の一例を示すブロック図である。図1に示すように、音声処理装置100は、記憶部121と、受付部101と、特定部102と、変調部103と、出力制御部104と、スピーカ105−1〜105−n(nは2以上の整数)と、を備えている。
記憶部121は、音声処理装置100で使用される各種データを記憶する。例えば記憶部121は、入力されたテキストデータ、および、テキストデータから特定された強調部分を示すデータなどを記憶する。記憶部121は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、光ディスク、メモリカード、RAM(Random Access Memory)などの一般的に利用されているあらゆる記憶媒体により構成することができる。
スピーカ105−1〜105−nは、出力制御部104からの指示に従い音声を出力する出力部である。スピーカ105−1〜105−nは、同様の構成を備えるため、区別する必要がない場合は単にスピーカ105という場合がある。以下では、スピーカ105−1(第1出力部)およびスピーカ105−2(第2出力部)の2つのスピーカの組に出力する音声の間でピッチおよび位相の少なくとも一方を変調する場合を例に説明する。2以上の組に対して同様の処理を適用してもよい。
受付部101は、処理対象とする各種データを受け付ける。例えば受付部101は、音声に変換して出力させるテキストデータの入力を受け付ける。
特定部102は、出力させる音声のうち、強調して出力する部分を表す強調部分を特定する。強調部分は、注意喚起および危険通知等を行うためにピッチおよび位相の少なくとも一方を変調して出力する部分に相当する。例えば特定部102は、入力されたテキストデータから強調部分を特定する。入力するテキストデータに事前に強調部分を特定するための情報が付加されている場合は、特定部102は、付加された情報(付加情報)を参照して強調部分を特定することができる。特定部102は、テキストデータと、予め定められた強調部分を示すデータとを照合することにより、強調部分を特定してもよい。特定部102は、付加情報による特定およびデータ照合による特定の両方を実行してもよい。強調部分を示すデータは、記憶部121に記憶されてもよいし、音声処理装置100の外部の記憶装置に記憶されてもよい。
特定部102は、特定した強調部分を強調することを示す情報(付加情報)をテキストデータに付加する符号化処理を実行してもよい。後段の変調部103は、このようにして付加された付加情報を参照して、変調する強調部分を判定することが可能となる。付加情報は、強調部分であることを判定可能であればどのような形式であってもよい。また、特定部102は、符号化処理を実行したテキストデータを記憶部121などの記憶媒体に保存してもよい。これにより、以降の音声出力処理では、事前に付加情報が付加されたテキストデータを利用することが可能となる。
変調部103は、出力させる音声のピッチおよび位相の少なくとも一方である変調対象を変調する。例えば変調部103は、スピーカ105−1に出力させる音声(第1音声)の強調部分と、スピーカ105−2に出力させる音声(第2音声)の強調部分との間で変調対象が異なるように、少なくとも一方の音声の強調部分の変調対象を変調する。
本実施形態では、変調部103は、テキストデータを変換した音声を生成するときに、テキストデータが強調部分であるかを逐次判定し、強調部分に対して変調処理を実行する。すなわち変調部103は、テキストデータを変換して、スピーカ105−1に出力させる音声(第1音声)およびスピーカ105−2に出力させる音声(第2音声)を生成するときに、強調部分のテキストデータに対しては、変調対象が相互に異なるように、少なくとも一方の変調対象を変調した第1音声および第2音声を生成する。
テキストデータを音声に変換する処理(音声合成処理)は、フォルマント音声合成および音声コーパスベースの音声合成などの従来から用いられているあらゆる方法を用いることができる。
位相を変調する場合、変調部103は、スピーカ105−1およびスピーカ105−2のうち一方に入力する信号の極性を反転してもよい。これにより、スピーカ105の一方が他方に対して逆相になり、音声データの位相を変調する場合と同様の機能を実現できる。
変調部103は、処理対象のデータの完全性を確認し、完全性が確認された場合に変調処理を行ってもよい。例えばテキストデータに付加された付加情報が、強調部分の開始を示す情報と、強調部分の終了を示す情報とを指定する形式の場合、変調部103は、開始を示す情報と終了を示す情報とが対応することが確認できた場合に変調処理を行ってもよい。
出力制御部104は、スピーカ105からの音声の出力を制御する。例えば出力制御部104は、変調対象が変調された第1音声をスピーカ105−1に出力させ、第2音声をスピーカ105−2から出力させる。スピーカ105−1およびスピーカ105−2以外のスピーカ105が備えられている場合は、出力制御部104は、各スピーカ105に最適な音声を割り当てて出力させる。各スピーカ105は、出力制御部104からの出力データに基づいて音声を出力する。
出力制御部104は、スピーカ105の位置および特性等のパラメータを用いて、各スピーカ105への出力(アンプ出力)を計算する。これらのパラメータは、例えば記憶部121に記憶される。
例えば、2つのスピーカ105において必要な音圧を揃える場合には、以下のように、各スピーカへのアンプ出力W1、W2を計算する。2つのスピーカの距離をL1、L2とする。L1(L2)は、例えば、スピーカ105−1(スピーカ105−2)と頭部の中心との間の距離である。各スピーカ105から、最も近い耳までの距離を用いてもよい。使用する音声の可聴領域のスピーカ105−1(スピーカ105−2)のゲインをGs1(Gs2)とする。距離が2倍になると6dBの低下となり、3dBの音圧上昇にアンプ出力が2倍必要であるとする。両耳での音圧を揃えるために、出力制御部104は、以下の式が成り立つように、アンプ出力W1、W2を計算して決定する。
−6×(L1/L2)×(1/2)+(2/3)×Gs1×W1=
−6×(L2/L1)×(1/2)+(2/3)×Gs2×W2
受付部101、特定部102、変調部103、および、出力制御部104は、例えば、CPU(Central Processing Unit)などの1以上のプロセッサにプログラムを実行させること、すなわち、ソフトウェアにより実現してもよいし、IC(Integrated Circuit)などの1以上のプロセッサ、すなわちハードウェアにより実現してもよいし、ソフトウェアおよびハードウェアを併用して実現してもよい。
図2は、本実施形態のスピーカ105の配置の一例を示す図である。図2は、利用者205の鉛直上方から下方を観察した場合のスピーカ105の配置の例を示す。スピーカ105−1とスピーカ105−2からは、変調部103により変調処理が実行された音声が流れる。スピーカ105−1は、利用者205の右耳の延長上に置かれている。スピーカ105−2は、スピーカ105−1と右耳とを通過する線を基準として角度をもって置くことができる。
発明者は、曲線203または曲線204に沿ってスピーカ105−2の位置を変化させ、ピッチおよび位相を変調した音声を出力した場合の注意力を測定し、いずれの場合でも注意力の増大を確認した。注意力は、EEG(Electroencephalogram)、NIRS(Near-Infrared Spectroscopy)、および、主観評価などの評価基準を用いて測定した。
図3は、測定結果の一例を示す図である。図3のグラフの横軸は、スピーカ105の配置角度を表す。配置角度は、例えば、スピーカ105−1と利用者205とを結ぶ線と、スピーカ105−2と利用者205とを結ぶ線とのなす角度である。図3に示すように、配置角度が90°から180°のときに注意力の増加が大きくなる。従って、スピーカ105−1とスピーカ105−2は、配置角度が90°から180°となるように配置することが望ましい。なお注意力は検出されるため、配置角度が0°より大きければ90°より小さくてもよい。
音声の全区間のピッチまたは位相を変調してもよいが、この場合、慣れなどのために注意力が減少する可能性がある。そこで変調部103は、付加情報などにより特定された強調部分のみに対して変調を行う。これにより、強調部分に対する注意力をより効果的に高めることが可能となる。
図4は、本実施形態のスピーカ105の配置の他の例を示す図である。図4は、例えば屋外で場外放送を出力するために設置されるスピーカ105の配置の例を示す。図3に示すように、90°から180°の配置角度となるスピーカ105の組を用いることが望ましい。従って、図4の例では、180°の配置角度で配置されるスピーカ105−1、スピーカ105−2の組に対して、音声の変調処理が実行される。
図5は、本実施形態のスピーカ105の配置の他の例を示す図である。図5は、ヘッドフォンとしてスピーカ105−1およびスピーカ105−2を構成した例である。
スピーカ105の配置例は図2、図4および図5に限られるものではない。図3に示したように注意力が得られる配置角度で配置されれば、どのような組み合わせのスピーカであってもよい。例えば、カーナビゲーションのために用いられる複数のスピーカに対して本実施形態を適用してもよい。
次に、ピッチ変調および位相変調について説明する。図6は、ピッチ変調および位相変調について説明するための図である。位相変調は、音声の包絡線604をもとに、元の信号601に対して同一の包絡線に対して単位時間内の波数を変えることなく、ピークの時間位置を変更した信号603を出力する。ピッチ変調は、波数を変更した信号602を出力する。
次に、ピッチまたは位相の変調と、音声の聞き取りやすさとの関係について説明する。図7は、位相の差(度)と背景音の音圧(dB)との関係を示す図である。位相の差は、2つのスピーカ105から出力させる音声間の位相の差(例えばスピーカ105−1から出力させる音声の位相と、スピーカ105−2から出力させる音声の位相との差)を表す。背景音の音圧は、出力された音声を利用者が聞き取ることができる背景音の音圧の最大値(限界音圧)を表す。
背景音は、スピーカ105から出力する音声以外の音である。例えば周囲の雑音、および、音声以外に出力されている音楽等の音が、背景音に相当する。図7の矩形で示す点が、得られた値の平均値を表す。この点の上下の線で示した範囲が得られた値の標準偏差を表す。
図7に示すように、0.5dB以上の背景音が存在する場合であっても、位相の差が60°以上180°以下であれば、利用者はスピーカ105から出力される音声を聞き取ることができる。従って、変調部103は、位相の差が60°以上180°以下となるように変調処理を実行してもよい。変調部103は、より限界音圧の高い90°以上180°以下、または、120°以上180°以下の位相差となるように変調処理を実行してもよい。
図8は、周波数差(Hz)と背景音の音圧(dB)との関係を示す図である。周波数差は、2つのスピーカ105から出力させる音声の周波数の差(例えばスピーカ105−1から出力させる音声の周波数と、スピーカ105−2から出力させる音声の周波数との差)を表す。図8の矩形で示す点が、得られた値の平均値を表す。この点の横に付した数値“A、B”のうち、Aが周波数差を表し、Bが背景音の音圧を表す。
図8に示すように、背景音が存在する場合であっても、周波数差が100Hz(ヘルツ)以上であれば、利用者はスピーカ105から出力される音声を聞き取ることができる。従って、変調部103は、可聴域の範囲内で、周波数差が100Hz以上となるように変調処理を実行してもよい。
次に、このように構成された第1の実施形態にかかる音声処理装置100による音声出力処理について図9を用いて説明する。図9は、第1の実施形態における音声出力処理の一例を示すフローチャートである。
受付部101は、テキストデータの入力を受け付ける(ステップS101)。特定部102は、テキストデータに付加情報が付加されているか否かを判断する(ステップS102)。付加されていない場合(ステップS102:No)、特定部102は、テキストデータから強調部分を特定する(ステップS103)。例えば特定部102は、入力されたテキストデータと、予め定められた強調部分を示すデータとを照合することにより、強調部分を特定する。特定部102は、強調部分を示す付加情報を、対応するテキストデータの強調部分に付加する(ステップS104)。付加情報の付加方法は、変調部103が、強調部分を特定できればどのような方法であってもよい。
付加情報が付加された後(ステップS104)、および、テキストデータに付加情報が付加されている場合(ステップS102:Yes)、変調部103は、テキストデータに対応する音声であって、強調部分のテキストデータに対しては変調対象が相互に異なるように変調対象を変調した音声(第1音声、第2音声)を生成する(ステップS105)。
出力制御部104は、スピーカ105ごとに出力する音声を決定し、決定した音声を出力させる(ステップS106)。各スピーカ105は、出力制御部104の指示に従い音声を出力する。
このように、第1の実施形態にかかる音声処理装置では、テキストデータに対応する音声を生成しながら、強調部分に対応するテキストデータに対しては、音声のピッチおよび位相の少なくとも一方を変調し、変調した音声を出力する。これにより、音声信号の強度を変えることなく、利用者の注意力を増大させることが可能となる。
(第2の実施形態)
第1の実施形態では、テキストデータを逐次音声に変換するときに、強調部分のテキストデータに対して変調処理を行った。第2の実施形態にかかる音声処理装置は、テキストデータに対する音声を生成した後、生成した音声のうち強調部分に相当する音声に対して変調処理を行う。
図10は、第2の実施形態にかかる音声処理装置100−2の構成の一例を示すブロック図である。図10に示すように、音声処理装置100−2は、記憶部121と、受付部101と、特定部102と、変調部103−2と、出力制御部104と、スピーカ105−1〜105−nと、生成部106−2と、を備えている。
第2の実施形態では、変調部103−2の機能、および、生成部106−2を追加したことが第1の実施形態と異なっている。その他の構成および機能は、第1の実施形態にかかる音声処理装置100のブロック図である図1と同様であるので、同一符号を付し、ここでの説明は省略する。
生成部106−2は、テキストデータに対応する音声を生成する。例えば生成部106−2は、入力されたテキストデータを、スピーカ105−1に出力する音声(第1音声)およびスピーカ105−2に出力する音声(第2音声)に変換する。
変調部103−2は、生成部106−2により生成された音声のうち、強調部分の音声に対して変調処理を行う。例えば変調部103−2は、生成された第1音声の強調部分と生成された第2音声の強調部分との間で変調対象が異なるように、第1音声および第2音声の少なくとも一方の強調部分の変調対象を変調する。
次に、このように構成された第2の実施形態にかかる音声処理装置100−2による音声出力処理について図11を用いて説明する。図11は、第2の実施形態における音声出力処理の一例を示すフローチャートである。
ステップS201からステップS204までは、第1の実施形態にかかる音声処理装置100におけるステップS101からステップS104までと同様の処理なので、その説明を省略する。
本実施形態では、テキストデータが入力されると、生成部106−2による音声生成処理(音声合成処理)が実行される。すなわち、生成部106−2は、テキストデータに対応する音声を生成する(ステップS205)。
音声を生成後(ステップS205)、付加情報が付加された後(ステップS204)、および、テキストデータに付加情報が付加されている場合(ステップS202:Yes)、変調部103−2は、生成された音声から強調部分を抽出する(ステップS206)。例えば変調部103−2は、付加情報を参照してテキストデータのうち強調部分を特定するとともに、テキストデータと生成した音声との対応から、特定したテキストデータの強調部分に対応する音声の強調部分を抽出する。変調部103−2は、抽出した音声の強調部分に対して変調処理を実行する(ステップS207)。なお変調部103−2は、強調部分以外の音声に対しては変調処理を行わない。
ステップS208は、第1の実施形態にかかる音声処理装置100におけるステップS106と同様の処理なので、その説明を省略する。
このように、第2の実施形態にかかる音声処理装置では、テキストデータに対応する音声を生成した後に、音声の強調部分のピッチおよび位相の少なくとも一方を変調し、変調した音声を出力する。これにより、音声信号の強度を変えることなく、利用者の注意力を増大させることが可能となる。
(第3の実施形態)
第1および第2の実施形態では、テキストデータを入力し、テキストデータを音声に変換して出力した。このような実施形態は、例えば、予め定められた緊急災害放送用のテキストデータを出力する場合などに適用できる。一方、利用者が発声した音声を緊急災害放送用に出力する状況も考えられる。第3の実施形態にかかる音声処理装置は、マイクなどの音声入力装置から音声を入力し、入力された音声の強調部分に対して変調処理を行う。
図12は、第3の実施形態にかかる音声処理装置100−3の構成の一例を示すブロック図である。図12に示すように、音声処理装置100−3は、記憶部121と、受付部101−3と、特定部102−3と、変調部103−3と、出力制御部104と、スピーカ105−1〜105−nと、生成部106−2と、を備えている。
第3の実施形態では、受付部101−3、特定部102−3、および、変調部103−3の機能が第2の実施形態と異なっている。その他の構成および機能は、第2の実施形態にかかる音声処理装置100−2のブロック図である図10と同様であるので、同一符号を付し、ここでの説明は省略する。
受付部101−3は、テキストデータのみでなく、マイクなどの音声入力装置から入力される音声を受け付ける。また、受付部101−3は、入力される音声のうち強調する部分の指定を受け付ける。例えば受付部101−3は、利用者による所定のボタンの押下を、押下後に入力される音声が強調する部分であることを示す指定として受け付ける。受付部101−3は、強調部分の開始および終了の指定を、開始から終了までに入力された音声が強調する部分であることを示す指定として受け付けてもよい。指定方法はこれらに限られるものではなく、音声のうち強調する部分を決定可能であればどのような方法であってもよい。以下では、音声のうち強調する部分の指定をトリガーという場合がある。
特定部102−3は、さらに、受け付けられた指定(トリガー)に基づいて、音声の強調部分を特定する機能を有する。
変調部103−3は、生成部106−2により生成された音声、または、入力された音声のうち、強調部分の音声に対して変調処理を行う。
次に、このように構成された第3の実施形態にかかる音声処理装置100−3による音声出力処理について図13を用いて説明する。図13は、第3の実施形態における音声出力処理の一例を示すフローチャートである。
受付部101−3は、音声入力優先であるか否かを判定する(ステップS301)。音声入力優先とは、テキストデータではなく、音声を入力して出力することを示す指定である。例えば、音声入力優先を指定するためのボタンが押下された場合に、受付部101−3は、音声入力優先であると判定する。
音声入力優先であるかの判定方法はこれに限られるものではない。例えば、音声入力優先であるかを示す事前に保存された情報を参照して判定してもよい。また、テキストデータは入力せず、音声入力のみとする場合は、音声入力優先の指定や判定(ステップS301)を実行しなくてもよい。この場合、後述するテキストデータに基づく付加処理(ステップS306)も実行しなくてもよい。
音声入力優先の場合(ステップS301:Yes)、受付部101−3は、音声の入力を受け付ける(ステップS302)。特定部102−3は、音声の強調する部分の指定(トリガー)が入力されているか否かを判定する(ステップS303)。
トリガーが入力されていない場合(ステップS303:No)、特定部102−3は、音声の強調部分を特定する(ステップS304)。例えば特定部102−3は、入力されている音声と、予め登録された音声データとを照合し、登録された音声データと一致または類似する音声を強調部分として特定する。特定部102−3は、入力された音声を音声認識して得られるテキストデータと、予め定められた強調部分を示すデータとを照合することにより、強調部分を特定してもよい。
ステップS303でトリガーが入力されていると判定した場合(ステップS303:Yes)、および、ステップS304で強調部分を特定した後、特定部102−3は、入力されている音声のデータに対して、強調部分を示す付加情報を付加する(ステップS305)。付加情報の付加方法は、音声が強調部分であることを判定できればどのような方法であってもよい。
ステップS301で音声入力優先でないと判定された場合(ステップS301:No)、テキストに基づく付加処理が実行される(ステップS306)。この処理は、例えば図11のステップS201からステップS205までと同様の処理で実現できる。
変調部103−3は、生成された音声から強調部分を抽出する(ステップS307)。例えば変調部103−3は、付加情報を参照して音声の強調部分を抽出する。ステップS306を実行した場合は、変調部103−3は、図11のステップS206と同様の処理により強調部分を抽出する。
ステップS308からステップS309までは、第2の実施形態にかかる音声処理装置100−2におけるステップS207からステップS208までと同様の処理なので、その説明を省略する。
このように、第3の実施形態にかかる音声処理装置では、入力された音声の強調部分をトリガーなどにより特定し、音声の強調部分のピッチおよび位相の少なくとも一方を変調し、変調した音声を出力する。これにより、音声信号の強度を変えることなく、利用者の注意力を増大させることが可能となる。
(第4の実施形態)
上記実施形態では、例えば付加情報およびトリガーを参照して強調部分を特定した。強調部分の特定方法はこれに限られるものではない。第4の実施形態の音声処理装置は、出力させる音声に含まれる音声(部分音声)のうち、いずれか1以上の部分音声を、部分音声の属性に基づいて強調部分として特定する。
以下では、音声による学習のためのアプリケーション、または、テキストデータを音声として出力するアプリケーションとして音声処理装置を実現した例を説明する。音声による学習は、例えば、音声による外国語の学習、および、教科の内容を音声により出力する学習など、音声を用いた任意の学習を含む。テキストデータを音声として出力するアプリケーションは、例えば、書籍の内容を読み上げて音声により出力する朗読アプリケーションを含む。適用可能なアプリケーションはこれらに限られるものではない。
音声による学習のためのアプリケーションに適用することにより、例えば、学習の対象となる部分を適切に強調し、学習効果をより増大させることが可能となる。また、テキストデータを音声として出力するアプリケーションに適用することにより、例えば、音声の特定の部分に注意を向けさせることが可能となる。また、朗読アプリケーションに適用することにより、例えば、物語の臨場感をより増大させることが可能となる。
図14は、第4の実施形態にかかる音声処理装置100−4の構成の一例を示すブロック図である。図14に示すように、音声処理装置100−4は、記憶部121−4と、表示部122−4と、受付部101−4と、特定部102−4と、変調部103−4と、出力制御部104−4と、スピーカ105−1〜105−nと、を備えている。スピーカ105−1〜105−nは、第1の実施形態にかかる音声処理装置100のブロック図である図1と同様であるので、同一符号を付し、ここでの説明は省略する。
記憶部121−4は、出力させる音声に含まれる部分音声の属性の一例として出力回数をさらに記憶する点が、第1の実施形態の記憶部121と異なっている。図15は、記憶部121−4に記憶されるデータの構造の一例を示す図である。図15は、学習の対象とする部分音声を示すデータのデータ構造の一例を示す。図15に示すように、このデータは、音声IDと、単語と、時間と、出力回数と、を含む。
音声IDは、出力対象となる音声を識別する識別情報である。例えば、数値、および、音声を記憶するファイルのファイル名などを音声IDとすることができる。
単語は、学習の対象の一例であり、他の情報を学習の対象としてもよい。例えば、複数の単語を含む文または章などの、単語以外の対象を、単語とともに、または、単語の代わりに用いてもよい。記憶部121−4に記憶する単語は、音声に含まれるすべての単語のうち、ユーザなどにより選択された一部の単語であってもよいし、音声に含まれるすべての単語であってもよい。単語の選択方法の例については後述する。
時間は、単語に対応する部分音声の音声内での位置を示す。部分音声の位置を特定できる情報であれば、時間以外の情報を記憶してもよい。
単語および時間は、例えば、学習に用いる音声を音声認識することにより得られる。音声処理装置100−4は、他の装置で予め生成された図15のようなデータを取得して記憶部121−4に記憶してもよい。音声処理装置100−4が、入力された音声を音声認識して得られたデータを記憶部121−4に記憶してもよい。
出力回数は、単語に対応する部分音声を出力した回数を示す。例えば、学習が開始されてからの部分音声を出力した回数の累積値が、出力回数として記憶部121−4に記憶される。なお出力回数は部分音声の属性の一例であり、出力回数以外の情報を部分音声の属性として用いてもよい。他の属性の例については後述する。
図14に戻り、表示部122−4は、各種処理で用いられるデータを表示する表示装置である。表示部122−4は、例えば液晶ディスプレイなどにより構成することができる。
受付部101−4は、学習の対象となる単語の指定などをさらに受け付ける点が第1の実施形態の受付部101と異なっている。
特定部102−4は、音声に含まれる1以上の部分音声のうちいずれか1以上の部分音声を、部分音声の属性に基づいて強調部分として特定する。例えば出力回数を属性とする場合、特定部102−4は、出力回数が閾値以下である部分音声を、強調部分として特定する。これにより、例えば、出力回数が少ないために学習が不十分であると解釈される単語が優先的に強調され、より学習効果を高めることが可能となる。出力回数の代わりに音声の出力時間(例えば学習開始からの出力時間の累計)を属性として用いる場合も、同様の効果を得ることができる。
変調部103−4は、属性に基づいて強調部分を変調する度合い(変調強度)を変更する点が、第1の実施形態の変調部103と異なっている。例えば変調部103−4は、出力回数が小さい部分音声は、変調強度がより大きくなるように、第1音声および第2音声の少なくとも一方を変調する。変調強度は、出力回数に応じて線形に変更してもよいし、非線形となるように変更してもよい。変調部103−4は、強調部分に含まれる各部分の変調強度を相互に異ならせてもよい。例えば、単語のアクセント部分のみを強調するように変調強度を制御してもよい。なお、属性に基づいて変調強度を変更しないように構成してもよい。この場合は第1の実施形態と同様の変調部103を備えればよい。
出力制御部104−4は、表示部122−4に対する各種データの出力(表示)を制御する機能をさらに備える点が、第1の実施形態の出力制御部104と異なっている。
次に、このように構成された第4の実施形態にかかる音声処理装置100−4による音声出力処理について図16を用いて説明する。図16は、第4の実施形態における音声出力処理の一例を示すフローチャートである。
受付部101−4は、テキストデータの入力を受け付ける(ステップS401)。特定部102−4は、テキストデータから、属性を参照して強調部分を特定する(ステップS402)。例えば出力回数を属性とする場合、特定部102−4は、記憶部121−4に記憶された出力回数が閾値以下である単語を、強調部分として特定する。
変調部103−4は、特定された強調部分を変調した音声を生成する(ステップS403)。例えば変調部103−4は、特定された強調部分(単語など)に対応する音声であって、強調部分に対しては変調対象が相互に異なるように変調対象を変調した音声(第1音声、第2音声)を生成する。このとき変調部103−4は、属性に応じた変調強度となるように第1音声および第2音声を生成してもよい。
出力制御部104−4は、スピーカ105ごとに出力する音声を決定し、決定した音声を出力させる(ステップS404)。各スピーカ105は、出力制御部104−4の指示に従い音声を出力する。
次に、語学学習用のアプリケーションとして音声処理装置100−4を実現する場合の例について説明する。学習アプリケーションは、例えば以下のような機能を有する。
(1)出力させる音声のうち、学習の対象とする箇所、すなわち、強調部分を指定する機能。
(2)音声を再生する機能。一時停止、巻き戻し、および、早送りなどの機能を備えてもよい。
(3)強調部分を理解できたか否かを確認するための機能。
(4)学習の結果などに応じて属性を変更する機能。
図17は、学習の対象とする箇所を指定するための指定画面の一例を示す図である。図17に示すように、指定画面1700は、出力させる音声に対応するテキストデータを表示する画面である。指定画面1700は、例えば出力制御部104−4により表示部122−4に表示される。指定画面1700は、上記(1)の機能を実現する画面の例である。
ユーザは、指定画面1700に表示されたテキストデータのうち、学習の対象とする箇所(単語、文など)を、マウスまたはタッチパネルなどにより選択する。単語1701は、このようにして選択された箇所の例を示している。
登録ボタン1711が押下されると、選択された単語が、学習の対象として記憶部121−4に記憶される。図15は、このようにして記憶されたデータの一例を示す。図15の出力回数は、登録時点では例えば「0」に設定される。キャンセルボタン1712が押下された場合は、例えば、選択が解除され、前の画面が表示される。
学習対象の指定方法は図17に示す方法に限られない。例えば、音声が出力されている途中に登録(ボタンの押下など)が指示された場合に、指示されたタイミングで出力されていた箇所(単語など)を学習の対象として登録してもよい。学習対象とする1以上の単語を音声とは無関係に選択し、音声(または音声に対応するテキストデータ)から、選択された単語を抽出することにより、図15に示すようなデータを生成してもよい。
学習を開始する前までに、図17に示す方法などにより学習の対象とする箇所が指定され、図15に示すようなデータが生成されていればよい。学習する際に用いられる画面の例について以下に説明する。
図18は、学習画面の一例を示す図である。図18に示すように、学習画面1800は、カーソル1801と、出力制御ボタン1802と、OKボタン1811と、キャンセルボタン1812と、を含む。
出力制御ボタン1802は、音声の再生開始、一時停止、再生の停止、巻き戻し、および、早送りなどのために用いられる。カーソル1801は、現在再生されている音声に対応する箇所を示すための情報である。図18では矩形のカーソル1801の例が示されているが、カーソル1801の表示態様はこれに限られない。
OKボタン1811が押下されると、学習処理が終了する。OKボタン1811が押下された場合に、それまでに再生された各単語の出力回数に1加算して記憶部121−4のデータを更新してもよい。例えば巻き戻し機能により、ある単語の再生が繰り返されると、この単語の出力回数が増加する。特定部102−4は、例えば繰り返し再生された単語の出力回数が閾値を超えた場合、この単語を強調部分として特定せず、出力回数が閾値以下の単語のみを強調部分として特定する。これにより、学習の対象とする単語を適切に特定して学習効果を高めることが可能となる。
キャンセルボタン1812が押下された場合は、例えば、前の画面が表示される。キャンセルボタン1812が押下された場合には出力回数を更新しないように構成してもよい。
図19は、学習画面の他の例を示す図である。図19の学習画面1900は、単語ごとに学習結果を指定可能とする画面の例である。再生されている音声に対応する単語にカーソル1901が表示されるとともに、カーソル1901に対応する指定ウインドウ1910が表示される。音声の再生が進むに従い、カーソル1901が移動するとともに、対応する指定ウインドウ1910も移動する。
指定ウインドウ1910は、OKボタンとキャンセルボタンとを含む。例えばOKボタンが押下された場合、対応する単語の出力回数に1加算して記憶部121−4のデータが更新される。キャンセルボタンが押下された場合、出力回数は更新されない。指定ウインドウ1910がOKボタンのみを含み、OKボタンが押下されない場合、出力回数が更新されないように構成してもよい。
図20は、学習画面の他の例を示す図である。図20の学習画面2000では、学習する対象(単語など)が非表示とされ、正解を選択させる選択ウインドウ2010が表示される。選択ウインドウ2010では、対応する単語の正しい表記と、その他の表記とが、選択可能に表示される。例えば正しい表記が選択された場合に、対応する単語の出力回数に1加算して記憶部121−4のデータが更新される。正しい表記が選択されなかった場合には、出力回数は更新されない。このような構成の場合、出力回数の代わりに、正解回数を属性として記憶してもよい。
図21は、学習画面の他の例を示す図である。図21の学習画面2100は、選択肢を下部に表示する画面の例である。学習する対象(単語など)の表記は非表示とされ、代わりに「Q1」、「Q2」、および、「Q3」などのように、下部の選択肢とを対応づける情報が表示される。ユーザは、音声が再生されているとき、または、音声の再生が完了したときに、選択肢から表記を選択することができる。
次に、属性の他の例について説明する。
学校などでは、予め定められた計画に従い学習を進めるために、計画の進行に応じて学習の対象が変更される場合がある。そこで、学習の開始、例えば、音声出力の開始からの経過時間を属性としてもよい。この場合、特定部102−4は、経過時間に応じて異なる強調部分を特定する。例えば記憶部121−4は、図17の出力回数の代わりに、経過時間の範囲を単語ごとに記憶する。特定部102−4は、実際の音声出力の開始からの経過時間が、記憶された経過時間の範囲に含まれる単語を、強調部分として特定する。さらに、音声等の繰り返し利用回数、例えば、ファイルの再生回数を属性として加味してもよい。
学習期間および学習の単元などの、学習の単位を属性としてもよい。例えば記憶部121−4は、図17の出力回数の代わりに、複数の学習期間を識別する情報(学習期間1、学習期間2、学習期間3・・・など)を単語ごとに記憶する。特定部102−4は、ユーザなどにより指定される学習期間、または、予め定められた計画と日時などに基づき判定される学習期間に対応する単語を、強調部分として特定する。
学習の対象の種類を属性としてもよい。例えば、歴史の学習に適用する場合、記憶部121−4は、学習の対象(単語、文など)が、年代、および、キーワードなどのいずれの種類を示すかを、図17の出力回数の代わりに属性として記憶する。特定部102−4は、ユーザなどにより指定される種類、または、予め定められた計画と日時などに基づき判定される種類に対応する単語を、強調部分として特定する。語学学習などに適用する場合、記憶部121−4は、単語の品詞を種類(属性)として記憶してもよい。
音声を出力する場所を属性としてもよい。例えば朗読アプリケーションに適用する場合、朗読アプリケーションを実行する場所および音声の出力回数の少なくとも一方に応じて異なる強調部分を特定してもよい。これにより、例えば同じ書籍の内容であってもユーザに飽きさせないように音声を出力することが可能となる。
学習の対象ごとに定められる優先度を属性としてもよい。優先度は、対象(対象に対応する部分音声)を優先する度合いを示す。優先度の決定方法はどのような方法であってもよい。例えば、ユーザが単語を選択するとともに優先度を指定してもよい。単語の辞書データなどの中で予め定められた単語の重要度(または難易度)を優先度として利用してもよい。優先度は固定である必要はなく、動的に変更されてもよい。
例えば特定部102−4は、優先度が閾値以上の単語に対応する部分音声を強調部分として特定する。特定部102−4は、優先度が指定された値(指定値)または指定された範囲(指定範囲)内の単語に対応する部分音声を強調部分として特定してもよい。閾値、指定値および指定範囲は、固定値でもよいし、ユーザ等により指定可能としてもよい。
例えば記憶部121−4は、図17の出力回数の代わりに、優先度を単語ごとに記憶する。例えば単語「mission」、「knowledge」に対して「1」、単語「aspiration」に対して「2」が優先度として設定される。そして例えば閾値を「1」とした場合、特定部102−4は、「mission」および「knowledge」に対応する部分音声を強調部分として特定する。優先度の範囲を指定可能とすれば、例えば、単語の重要度(難易度)に応じて強調部分を変更することが可能となる。
優先度を他の情報に応じて変更するように構成してもよい。例えば優先度は、音声出力の開始からの経過時間に応じて変更されてもよい。経過時間に応じて学習の対象とする単語の優先度を上げ、対象外とする単語の優先度を下げるように制御すれば、上記のような計画に従った学習が可能となる。
また、例えば図20および図21のような画面で正解を選択させ、正解であった場合に優先度を下げ、正解でなかった場合に優先度を上げるように構成してもよい。これにより、学習が十分でない対象を適切に強調することが可能となる。正解回数などを属性とすることによっても同様の機能を実現できる。
これまでの説明では、第1の実施形態と同様に、テキストデータに対応する音声を生成しながら強調部分を変調する例を説明した。変調方法はこれに限られるものではない。例えば、第2の実施形態と同様に、生成された音声のうち強調部分に相当する音声に対して変調処理を行ってもよい。また、変調方法は、ピッチおよび位相の少なくとも一方を変調する方法に限られず、他の変調方法を適用してもよい。
このように、第4の実施形態にかかる音声処理装置では、属性に応じて変更した強調部分を変調して出力する。これにより、学習アプリケーションに適用した場合の学習効果の向上、および、朗読アプリケーションに適用した場合の臨場感の向上などが可能となる。
以上説明したとおり、第1から第4の実施形態によれば、音声のピッチおよび位相の少なくとも一方を変調して出力することにより、音声信号の強度を変えることなく、利用者の注意力を増大させることが可能となる。
次に、第1から第4の実施形態にかかる音声処理装置のハードウェア構成について図22を用いて説明する。図22は、第1から第4の実施形態にかかる音声処理装置のハードウェア構成例を示す説明図である。
第1から第4の実施形態にかかる音声処理装置は、CPU(Central Processing Unit)51などの制御装置と、ROM(Read Only Memory)52やRAM(Random Access Memory)53などの記憶装置と、ネットワークに接続して通信を行う通信I/F54と、各部を接続するバス61を備えている。
第1から第4の実施形態における音声処理装置は、コンピュータまたは組み込みシステムであり、パソコンおよびマイコン等の1つからなる装置、または、複数の装置がネットワーク接続されたシステム等の何れの構成であってもよい。また、本実施形態におけるコンピュータは、パソコンに限らず、情報処理機器に含まれる演算処理装置およびマイコン等も含み、プログラムによって本実施形態における機能を実現することが可能な機器または装置を総称している。
第1から第4の実施形態にかかる音声処理装置で実行されるプログラムは、ROM52等に予め組み込まれて提供される。
第1から第4の実施形態にかかる音声処理装置で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD−R(Compact Disk Recordable)、DVD(Digital Versatile Disk)、USBフラッシュメモリー、SDカード、EEPROM(Electrically Erasable Programmable Read-Only Memory)等のコンピュータで読み取り可能な記録媒体に記録してコンピュータプログラムプロダクトとして提供されるように構成してもよい。
さらに、第1から第4の実施形態にかかる音声処理装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、第1から第4の実施形態にかかる音声処理装置で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
第1から第4の実施形態にかかる音声処理装置で実行されるプログラムは、コンピュータを上述した音声処理装置の各部として機能させうる。このコンピュータは、CPU51がコンピュータ読取可能な記憶媒体からプログラムを主記憶装置上に読み出して実行することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。