JP2007322673A - 音響信号に対する情報の埋め込み装置 - Google Patents

音響信号に対する情報の埋め込み装置 Download PDF

Info

Publication number
JP2007322673A
JP2007322673A JP2006152024A JP2006152024A JP2007322673A JP 2007322673 A JP2007322673 A JP 2007322673A JP 2006152024 A JP2006152024 A JP 2006152024A JP 2006152024 A JP2006152024 A JP 2006152024A JP 2007322673 A JP2007322673 A JP 2007322673A
Authority
JP
Japan
Prior art keywords
window function
frame
spectrum
basic
acoustic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006152024A
Other languages
English (en)
Other versions
JP4760540B2 (ja
Inventor
Toshio Motegi
敏雄 茂出木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2006152024A priority Critical patent/JP4760540B2/ja
Publication of JP2007322673A publication Critical patent/JP2007322673A/ja
Application granted granted Critical
Publication of JP4760540B2 publication Critical patent/JP4760540B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereophonic System (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

【課題】 抽出時の精度を高めるとともに、埋め込み可能な情報量を増大させることが可能な音響信号に対する情報の埋め込み装置を提供する。
【解決手段】 音響信号を所定区間に区分し、埋め込むべき付加情報の情報配列の値に基づいて、前記所定区間の低周波成分の先頭部分と後部部分のスペクトル強度の割合を変更するにあたり、先頭部分に対応した窓関数または後部部分に対応した窓関数と、中央部分に対応する窓関数を合成した後、周波数変換するようにする。これにより、擬似高調波成分の発生を抑えることができ、抽出時の精度を高めることが可能となる。
【選択図】 図9

Description

本発明は、CD・DVD等を用いた民生・業務用途における鑑賞用のパッケージ音楽分野、放送事業者等が商業目的で配信する放送・ネットワーク音楽配信分野における音楽著作権の保護(不正コピーの監視)および音楽属性情報の提供(楽曲タイトル検索サービス)分野、ミュージアム、イベント会場における展示説明ナレーションに連動した文字情報の提供サービス分野、放送番組やCD/DVDパッケージの音声信号からURLなどの情報を抽出し、携帯電話を用いて所定のコンテンツに関連するwebサイトにアクセスして詳細情報を抽出したり、アンケートに回答したりする非接触なインターネットのゲートウェイサービス分野に関する。
最近、流れている音楽のタイトル等を知ることができる楽曲属性情報の提供サービスとして、放送された音楽に対して日時と地域を放送局に照会したり、携帯電話で流れている音楽断片を録音してデータベースに登録されているメロディーと照合したりするサービスが実用化されている(例えば、特許文献1、2参照)。
特許文献1、2に記載の発明では、録音した音楽の断片と、データベースに登録されているメロディーと照合するため、データベースに登録される楽曲が増えると、処理負荷が増え、類似したメロディーを誤判定する可能性が増える。そこで、曲名やアーチスト情報などの楽曲属性情報を不可聴な電子透かしとして音響信号に埋め込む手法も提案されている(例えば、特許文献3〜6参照)。
特許文献1〜6に記載の手法では、埋め込み可能な情報量が少なく、音質が少なからず劣化し、各種信号処理により透かし情報が消失し、またアナログコピーに対しては、透かし検出が困難であるという問題がある。そこで、本出願人は、音響信号の低周波数領域を複数の窓関数により分割し、埋め込むべき属性情報(付加情報)の情報配列の値に基づいて、低周波成分の先頭部分と後部部分のスペクトル強度の割合を変更する際、低周波成分の先頭部分と後部部分を互いに非対称な窓関数により抽出することにより付加情報を埋め込むことができる手法を提案した(特許文献7参照)。
特開2002−259421号公報 特開2003−157087号公報 特開平11−145840号公報 特開平11−219172号公報 特許第3321767号公報 特開2003−99077号公報 特願2005−308980号
上記特許文献7に記載の手法では、窓関数を時系列に2分割して情報を埋め込む手法をとり、2つの窓成分の分離を明瞭にするため、中央部に細長い窓を設け、埋め込み時は3つの窓関数処理を行って中央部の窓成分を削除する処理を行っていた。窓関数の本来の目的は、原信号を部分的に切り出してフーリエ変換などの信号処理を行う際に、切り出し処理に基づく擬似高調波成分の発生を抑えることにある。しかし、特許文献7に記載のように窓関数を分割すると、分割に基づく擬似高調波成分が発生し、特に中央部の細長い窓では余分な擬似信号成分が加わり、埋め込まれた音響信号の品質劣化および埋め込まれた付加情報の抽出精度の低下につながっていた。
また、上記特許文献7に記載の手法では、低周波成分が小さいために埋め込みができないフレームが存在した場合であっても、効率の良い埋め込みを可能とするために、1ワードの先頭であるか途中であるかを示すフラグビットを埋め込むようにしていた。このため、2ビット以下単位に分割されるとオーバーヘッドが大きくなるという問題がある。
また、上記特許文献7に記載の手法では、データが埋め込まれた領域よりさらに低周波領域に残っている直流成分が抽出時に埋め込み領域に回りこみ、信号判定精度の低下につながっている。
そこで、本発明は、抽出時の精度を高めるとともに、埋め込み可能な情報量を増大させることが可能な音響信号に対する情報の埋め込み装置を提供することを課題とする。
上記課題を解決するため、本発明では、時系列のサンプル列で構成される音響信号に対して、付加情報を聴取不能な状態で埋め込む装置であって、前記音響信号より、所定数Nのサンプルを音響フレームとして互いにN未満の所定サンプル数に対応する時刻だけずれた2種類のAタイプ音響フレーム、Bタイプ音響フレームを読み込む音響フレーム読込手段と、前記Aタイプ音響フレームに対しては第1基本窓関数、第2基本窓関数、第3基本窓関数を用いてそれぞれ周波数変換を行い、埋め込むべき付加情報の値に基づいて、前記第1基本窓関数kw(1,i)あるいは前記第3基本窓関数kw(3,i)を第1合成窓関数W(1,i)として当該第1合成窓関数W(1,i)に対応するスペクトルである第1合成窓スペクトルを生成するとともに、前記第2基本窓関数kw(2,i)と前記第3基本窓関数kw(3,i)あるいは前記第1基本窓関数kw(1,i)を合成した第2合成窓関数W(2,i)に対応するスペクトルである第2合成窓スペクトルを生成し、前記Bタイプ音響フレームに対しては第4基本窓関数を用いて周波数変換を行い、前記第4基本窓関数に対応するスペクトルである第4基本窓スペクトルを生成する周波数変換手段と、前記生成された各窓スペクトルから、所定の低周波数帯に対応する低周波スペクトルをそれぞれ抽出し、前記埋め込むべき付加情報の情報配列の値に基づいて、前記抽出した各低周波スペクトルのうち、前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更すると共に、第4基本窓関数による低周波スペクトルの各成分を除去する低周波成分変更手段と、前記変更された低周波スペクトルを含む各窓スペクトルに対して周波数逆変換を行って、改変音響フレームを生成する周波数逆変換手段と、前記生成された改変音響フレームを順次出力する改変音響フレーム出力手段と、を有しており、前記第1基本窓関数、第2基本窓関数、第3基本窓関数、第4基本窓関数を加算すると、全区間固定値1になるように設定したものであり、前記第1基本窓関数と第2基本窓関数、前記第2基本窓関数と第3基本窓関数は、同一時刻において、双方が同時に0でない値をもつような箇所が存在するように設定され、前記第1基本窓関数と第3基本窓関数は、一方が0でない値をもつ場合に他方は必ず0となるように設定されるとともに、各窓関数の両側が非対称な余弦関数をもつように設定された音響信号に対する情報の埋め込み装置を提供する。
本発明によれば、音響信号を所定区間に区分し、埋め込むべき付加情報の情報配列の値に基づいて、前記所定区間の低周波成分の先頭部分と後部部分のスペクトル強度の割合を変更するにあたり、先頭部分に対応した窓関数または後部部分に対応した窓関数と、中央部分に対応する窓関数を合成した後、周波数変換するようにしたので、擬似高調波成分の発生を抑えることができ、抽出時の精度を高めることが可能となるという効果を奏する。
以下、本発明の実施形態について図面を参照して詳細に説明する。
(1.本発明の基本概念)
まず、本発明の基本概念について説明する。上述のように、本出願人は、特許文献7において、複数の窓関数を用いて、音響信号の低周波数領域を時系列に3つに分割し、そのうちの2つの低周波数帯の成分の比率を属性情報のビット値、または区切りおよび例外処理に応じて変更することにより、付加情報を埋め込むことができる手法を提案している。特許文献7において用いた3つの窓関数を利用する点については、本発明も同様である。
ここで、本発明で用いる基本窓関数について図9を用いて説明する。本発明では、図9(b)〜図9(d)に示したような基本窓関数kw(1,i)、kw(2,i)、kw(3,i)を用意した。基本窓関数kw(1,i)は、音響フレームの前部を抽出するためのものであり、図9(b)に示すように前部の所定のサンプル番号iの位置において、最大値1をとり、後部においては、最小値0をとるように設定されている。どのサンプル番号の場合に最大値をとるかについては、基本窓関数kw(1,i)の設計によって異なってくるが、本実施形態では、後述する〔数式1〕で定義される。基本窓関数kw(1,i)を乗じることにより、図9(a)に示すような音響フレームの信号波形は、図9(f)に示すように、前部に信号成分が残り、後部の信号成分が削除されたものとなり、これがフーリエ変換対象となる。
また、基本窓関数kw(2,i)は、音響フレームの中央部を抽出するためのものであり、図9(c)に示すように、中央部の所定のサンプル番号iの位置において、最大値1をとり、前部、後部においては、最小値0をとるように設定されている。どのサンプル番号の場合に最大値をとるかについては、基本窓関数kw(2,i)の設計によって異なってくるが、本実施形態では、後述する〔数式2〕で定義される。基本窓関数kw(2,i)を乗じることにより、図9(a)に示すような音響フレームの信号波形は、図9(g)に示すように、中央部に信号成分が残り、前部と後部の信号成分が除去されたものとなり、これがフーリエ変換対象となる。
また、基本窓関数kw(3,i)は、音響フレームの後部を抽出するためのものであり、図9(d)に示すように、前部においては最小値0をとり、後部の所定のサンプル番号iの位置において、最大値1をとるように設定されている。どのサンプル番号の場合に最大値をとるかについては、基本窓関数kw(3,i)の設計によって異なってくるが、本実施形態では、後述する〔数式3〕で定義される。基本窓関数kw(3,i)を乗じることにより、図9(a)に示すような音響フレームの信号波形は、図9(h)に示すように、前部の信号成分が除去され、後部に信号成分が残ったものとなり、これがフーリエ変換対象となる。
また、本発明では、音響フレームを重複させて読み込み、奇数フレーム(または偶数フレーム)については、基本窓関数kw(1,i)、基本窓関数kw(2,i)、基本窓関数kw(3,i)を用い、偶数フレーム(または奇数フレーム)については、図9(e)に示したような基本窓関数kw(4,i)を用いるようにした。
なお、本発明においては、音響フレームは重複して読み込まれる。すなわち、奇数番目の音響フレームと偶数番目の音響フレームは、所定数のサンプルを重複して読み込む。上記のように、奇数フレームと偶数フレームでは、用いられる窓関数が異なるが、奇数フレームと偶数フレームは単に奇数か偶数かの違いだけであるため、どちらに対して処理をどちらの処理を行っても良い。したがって、本明細書では、奇数フレーム、偶数フレームの一方をAタイプフレーム、他方をBタイプフレームと呼ぶことにする。本実施形態では、偶数フレームをAタイプフレーム、奇数フレームをBタイプフレームとして説明するが、逆に奇数フレームをAタイプフレーム、偶数フレームをBタイプフレームとしても良い。
本実施形態では、基本窓関数kw(1,i)〜基本窓関数kw(4,i)は、以下の〔数式1〕〜〔数式4〕で定義される。なお、図9において、横軸は時間軸(i)である。iは、後述するように、各音響フレーム内のN個のサンプルに付した通し番号であるため時刻tに比例している。また、図9(a)(f)(g)(h)(i)において縦軸は信号の振幅値(レベル)を示す。図9(b)〜(e)において縦軸は基本窓関数kw(1,i)、kw(2,i)、kw(3,i)、kw(4,i)の値を示しており、kw(1,i)、kw(2,i)、kw(3,i)、kw(4,i)の最大値はいずれも1である。
〔数式1〕
i≦3N/8のとき、kw(1,i)=0.5−0.5cos(8πi/(3N))
3N/8<i≦N/2のとき、kw(1,i)=0.5−0.5cos(8π(i−N/4)/N)
i>N/2のとき、kw(1,i)=0.0
〔数式2〕
i≦3N/8のとき、kw(2,i)=0.0
3N/8<i≦N/2のとき、kw(2,i)=0.5−0.5cos(8π(i−3N/8)/N)
N/2<i≦3N/4のとき、kw(2,i)=0.5−0.5cos(4π(i−N/4)/N)
i>3N/4のとき、kw(2,i)=0.0
〔数式3〕
i≦N/2のとき、kw(3,i)=0.0
i>N/2のとき、kw(3,i)=0.5−0.5cos(4π(i−N/2)/N)
〔数式4〕
i≦N/4のとき、kw(4,i)=0.0
N/4<i≦N/2のとき、kw(4,i)=0.5−0.5cos(4π(i−N/4)/N)
N/2<i≦7N/8のとき、kw(4,i)=0.5−0.5cos(8π(i−N/8)/(3N))
i>7N/8のとき、kw(4,i)=0.0
なお、図9および上記〔数式1〕〜〔数式4〕から明らかなように、基本窓関数kw(1,i)とkw(3,i)は、互いに非対称な形状である。これは、後述する抽出側において、両者の識別を容易にするためである。また、基本窓関数kw(1,i)、kw(2,i)、kw(3,i)は、iが所定の値のときに最大値1をとり、iがその他の値をとる場合には、iの値に応じて単調増加、または単調減少する基本窓関数を分割したものであるため、基本窓関数kw(1,i)とkw(3,i)が定まると、基本窓関数kw(2,i)も必然的に定まる。このため、基本窓関数kw(2,i)は左右非対称の形状となっている。
本発明においては、奇数フレームと偶数フレームを、所定サンプルずつ重複して読み込むため、情報の埋め込みを行った後、音響信号に復元する際に、窓関数を乗じた奇数フレームと、窓関数を乗じた偶数フレームの重複サンプルを加算した場合に、ほぼ元の値に戻るようにしなければならない。このため、基本窓関数kw(4,i)の形状は、基本窓関数kw(1,i)、kw(2,i)、kw(3,i)の値に応じて必然的に定まる。すなわち、奇数フレームと偶数フレームの重複部分において、基本窓関数kw(1,i)、kw(2,i)、kw(3,i)、kw(4,i)を加算すると、全区間固定値1になるように定義されている。
本発明では、上記基本窓関数を合成して、以下の〔数式5〕に従って、合成窓関数W(1,i)、W(2,i)を生成し、これらの合成窓関数を用いてフーリエ変換を実行する。
〔数式5〕
第1の値(例えば“0”)を埋め込む場合で、前部に低周波成分を残す場合
W(1,i)=kw(1,i)
W(2,i)=kw(2,i)+kw(3,i)
第2の値(例えば“1”)を埋め込む場合で、後部に低周波成分を残す場合
W(1,i)=kw(3,i)
W(2,i)=kw(1,i)+kw(2,i)
上記〔数式5〕では、低周波成分を残す側の基本窓関数は合成せず、低周波成分を除去する側の基本窓関数を基本窓関数kw(2,i)と合成するようにしている。上記〔数式5〕において、1ワードの区切りを示す情報を埋め込む場合等、ビット値を埋め込まない場合には、前部と後部のどちらにも低周波成分を残さないため、どちらを利用するような設定にしておいても良い。
(2.音響信号に対する情報の埋め込み装置)
図1は、本発明に係る音響信号に対する情報の埋め込み装置の構成を示す機能ブロック図である。図1において、10は音響フレーム読込手段、20は周波数変換手段、30は低周波成分変更手段、40は周波数逆変換手段、50は改変音響フレーム出力手段、60は記憶手段、61は音響信号記憶部、62は付加情報記憶部、63は改変音響信号記憶部、70は付加情報読込手段である。なお、図1に示す装置は、ステレオ音響信号、モノラル音響信号の両方に対応可能であるが、ここでは、ステレオ音響信号に対して処理を行う場合について説明していく。
音響フレーム読込手段10は、付加情報の埋め込み対象とする元のステレオ音響信号の各チャンネルから所定数のサンプルを1フレームとして読み込む機能を有している。周波数変換手段20は、音響フレーム読込手段10が読み込んだ音響信号のフレームをフーリエ変換等により周波数変換してフレームスペクトルを生成する機能を有している。低周波成分変更手段30は、Aタイプの音響フレームについては、生成されたフレームスペクトルから2つの所定周波数範囲に相当するスペクトル集合を2セット抽出し、付加情報記憶部62から抽出した付加情報に基づいて、低周波強度データのスペクトル集合間の割合(比率)を変更し、Bタイプの音響フレームについては、生成されたフレームスペクトルの所定周波数範囲の低周波強度データを“0”にする機能を有している。周波数逆変換手段40は、変更された低周波強度データを含む複数のフレームスペクトルに対して周波数逆変換を行うことにより、改変音響フレームを生成する機能を有している。改変音響フレーム出力手段50は、生成された改変音響フレームを順次出力する機能を有している。記憶手段60は、付加情報を埋め込む対象とするステレオ音響信号を記憶した音響信号記憶部61と、ビット配列として構成され、ステレオ音響信号に埋め込まれる付加情報を記憶した付加情報記憶部62と、付加情報埋め込み後の改変音響信号を記憶する改変音響信号記憶部63を有しており、その他処理に必要な各種情報を記憶するものである。付加情報読込手段70は、付加情報記憶部62から付加情報を抽出する機能を有している。なお、付加情報とは、音響情報に付加して埋め込むべき情報であり、タイトルやアーティスト名等の属性情報、および属性情報以外の他の情報を含むものである。図1に示した各構成手段は、現実にはコンピュータおよびその周辺機器等のハードウェアに専用のプログラムを搭載することにより実現される。すなわち、コンピュータが、専用のプログラムに従って各手段の内容を実行することになる。
(3.埋め込み装置の処理動作)
次に、図1に示した音響信号に対する情報の埋め込み装置の処理動作について図2のフローチャートに従って説明する。ここでは、音響信号として、L(左)、R(右)の2チャンネルを有するステレオ音響信号に対して処理を行う場合について説明していく。図2は、付加情報1ワード分の処理に対応したものとなっている。1ワードとしては、任意のビット数に設定することができるが、通常1バイトに設定する。まず、付加情報読込手段70は、付加情報記憶部62から付加情報を1ワード単位で読み込む(S101)。具体的には、音響信号に対する情報の埋め込み装置として用いられるコンピュータ内のレジスタに1ワード読み込むことになる。続いて、モードを区切りモードに設定する(S102)。モードは区切りモードと、ビットモードの2種類が存在する。区切りモードは1ワード単位の区切りにおける処理を行うモードを示し、ビットモードは1ワードの各ビットの値に基づいた処理を行うモードを示している。付加情報記憶部62から1ワード読み込んだ場合には、その直後に必ず区切りモードに設定されることになる。
続いて、音響フレーム読込手段10が、音響信号記憶部61に記憶されたステレオ音響信号の左右の各チャンネルから、それぞれ所定数のサンプルを1音響フレームとして読み込む(S104)。音響フレーム読込手段10が読み込む1音響フレームのサンプル数は、適宜設定することができるが、サンプリング周波数が44.1kHzの場合、4096サンプル程度とすることが望ましい。したがって、音響フレーム読込手段10は、左チャンネル、右チャンネルについてそれぞれ4096サンプルずつ、順次音響フレームとして読み込んでいくことになる。本発明においては、音響フレームとしてAタイプとBタイプが存在する。Aタイプの音響フレーム、Bタイプの音響フレームは、それぞれ同タイプの先行する音響フレームの最後のサンプルの次のサンプルを先頭サンプルとして設定される。そして、AタイプとBタイプの音響フレームは互いに所定数(本実施形態では2048)のサンプルを重複して設定される。例えば、Aタイプの音響フレームを先頭からA1、A2、A3…とし、Bタイプの音響フレームを先頭からB1、B2、B3…とすると、A1はサンプル1〜4096、A2はサンプル4097〜8192、A3はサンプル8193〜12288、B1はサンプル2049〜6144、B2はサンプル6145〜10240、B3はサンプル10241〜14336となる。なお、AタイプとBタイプは相対的なものであるので、どちらが先であっても良い。すなわち、上記とは逆にA1がサンプル2049〜6144、A2がサンプル6145〜10240、A3がサンプル10241〜14336、B1がサンプル1〜4096、B2がサンプル4097〜8192、B3がサンプル8193〜12288であっても良い。図2の例では、Bタイプ音響フレームを先に設定した場合を示している。
続いて、周波数変換手段20は、読み込んだBタイプの音響フレームに対して、周波数変換を行って、その音響フレームのスペクトルであるフレームスペクトルを得る(S105)。具体的には、S104で読み込んだBタイプの音響フレームについて、窓関数を利用して周波数変換を行う。周波数変換としては、フーリエ変換、ウェーブレット変換その他公知の種々の手法を用いることができる。本実施形態では、フーリエ変換を用いた場合を例にとって説明する。
一般に、所定の信号に対してフーリエ変換を行う場合、信号を所定の長さに区切って行う必要があるが、この場合、所定長さの信号に対してそのままフーリエ変換を行うと、区切り部分が不連続になる。そこで、一般にフーリエ変換を行う場合には、ハニング窓と呼ばれる窓関数を用いて、信号の値を変化させた後、変化後の値に対してフーリエ変換を実行する。S105においてフーリエ変換を行う場合、具体的には、左チャンネル信号Xl(i)、右チャンネル信号Xr(i)(i=0,…,N−1)に対して、窓関数W(4,i)を用いて、以下の〔数式6〕に従った処理を行い、左チャンネルに対応する変換データの実部Al(4,j)、虚部Bl(4,j)、右チャンネルに対応する変換データの実部Ar(4,j)、虚部Br(4,j)を得る。なお、窓関数W(4,i)=基本窓関数kw(4,i)である。
〔数式6〕
Al(4,j)=Σi=0,…,N-1W(4,i)・Xl(i)・cos(2πij/N)
Bl(4,j)=Σi=0,…,N-1W(4,i)・Xl(i)・sin(2πij/N)
Ar(4,j)=Σi=0,…,N-1W(4,i)・Xr(i)・cos(2πij/N)
Br(4,j)=Σi=0,…,N-1W(4,i)・Xr(i)・sin(2πij/N)
〔数式6〕において、iは、各音響フレーム内のN個のサンプルに付した通し番号であり、i=0,1,2,…N−1の整数値をとる。また、jは周波数の値について、値の小さなものから順に付した通し番号であり、iと同様にj=0,1,2,…N−1の整数値をとる。サンプリング周波数が44.1kHz、N=4096の場合、jの値が1つ異なると、周波数が10.8Hz異なることになる。次に、低周波成分変更手段30は、窓4成分(第4窓関数による低周波スペクトルの各成分)の除去を行う(S106)。具体的には、窓4成分に対して、以下の〔数式7〕に従った処理を実行することになる。
上記〔数式6〕に従った処理を実行することにより、各音響フレームの信号成分を周波数に対応した成分であるスペクトルで表現されたフレームスペクトルが得られる。続いて、低周波成分変更手段30が、生成されたフレームスペクトルから3つの所定周波数範囲のスペクトル集合を抽出する。人間の聴覚は、200〜300Hz程度までの低周波成分については、方向性を感知しにくくなっていることが知られている(コロナ社1990年10月30日発行「音響工学講座1.基礎音響工学、日本音響学会編」p247図9・26参照)。したがって、本実施形態では、低周波成分を300Hz程度以下としている。周波数300Hz付近は、上記jが29に相当するので、上記〔数式6〕により算出された実部Al(4,j)、虚部Bl(4,j)、実部Ar(4,j)、虚部Br(4,j)、のうち、j≦29(=M)のものを抽出することになる。
〔数式7〕
j=1〜Mの各成分に対して
Al´(4,j)=0
Bl´(4,j)=0
ステレオの場合、右信号に対応した以下も算出
E(4,j)={Al(4,j)2+Bl(4,j)2+Ar(4,j)2+Br(4,j)21/2
Ar´(4,j)=Ar(4,j)・E(4,j)/{Ar(4,j)2+Br(4,j)21/2
Br´(4,j)=Br(4,j)・E(4,j)/{Ar(4,j)2+Br(4,j)21/2
次に、周波数逆変換手段40が、上記S106の処理により窓4成分が除去されたフレームスペクトルを周波数逆変換して改変音響フレームを得る処理を行う(S107)。この周波数逆変換は、当然のことながら、周波数変換手段20がS105において実行した手法に対応していることが必要となる。本実施形態では、周波数変換手段20において、フーリエ変換を施しているため、周波数逆変換手段40は、フーリエ逆変換を実行することになる。具体的には、上記〔数式7〕のいずれかにより得られたスペクトルの左チャンネルの実部Al´(4,j)、虚部Bl´(4,j)、右チャンネルの実部Ar´(4,j)、虚部Br´(4,j)を用いて、以下の〔数式8〕に従った処理を行い、Xl´(i)、Xr´(i)を算出する。なお、上記〔数式7〕において改変されていない周波数成分については、以下の〔数式8〕においてはAl´(4,j)、Bl´(4,j)、Ar´(4,j)、Br´(4,j)として、元の値であるAl(4,j)、Bl(4,j)、Ar(4,j)、Br(4,j)を用いる。
〔数式8〕
Xl´(i)=1/N・{ΣjAl´(4,j)・cos(2πij/N)−ΣjBl´(4,j)・sin(2πij/N)}+Xlp(i+N/2)
Xr´(i)=1/N・{ΣjAr´(4,j)・cos(2πij/N)−ΣjBr´(4,j)・sin(2πij/N)}+Xrp(i+N/2)
上記〔数式8〕によりBタイプの改変音響フレームの左チャンネルの各サンプルXl´(i)、右チャンネルの各サンプルXr´(i)、が得られることになる。改変音響フレーム出力手段50は、得られた改変音響フレームを順次出力ファイルに出力する。続いて、音響フレーム読込手段10が、音響信号記憶部61に記憶されたステレオ音響信号の左右の各チャンネルから、それぞれ所定数のサンプルをAタイプの音響フレームとして読み込む(S108)。上述のように、Aタイプの音響フレームとBタイプの音響フレームは、2048サンプル重複したものとなっている。したがって、音響フレーム読込手段10は、S108においては、S104でBタイプ音響フレームを読み込んだ位置から2048サンプル分移動させて、音響フレームを読み込むことになる。
続いて、周波数変換手段20は、読み込んだAタイプの音響フレームに対して、周波数変換を行って、その音響フレームのスペクトルであるフレームスペクトルを得る(S109)。具体的には、各音響フレームについて、窓関数W(1,i)、W(2,i)の2つの合成窓関数を用いて行う。この合成窓関数W(1,i)、W(2,i)は、埋め込もうとするビット値が第1の値(“0”)か第2の値(“1”)であるかに基づいて、上記〔数式5〕に従って合成窓関数を設定し、周波数変換手段20が算出する。なお、周波数変換としては、フーリエ変換、ウェーブレット変換その他公知の種々の手法を用いることができるが、上記S105の場合と同様、本実施形態では、フーリエ変換を用いる。
S109においてフーリエ変換を行う場合、具体的には、左チャンネル信号Xl(i)、右チャンネル信号Xr(i)(i=0,…,N−1)に対して、2つの合成窓関数W(1,i)、W(2,i)を用いて、以下の〔数式9〕に従った処理を行い、左チャンネルに対応する変換データの実部Al(1,j)、Al(2,j)、虚部Bl(1,j)、Bl(2,j)、右チャンネルに対応する変換データの実部Ar(1,j)、Ar(2,j)、虚部Br(1,j)、Br(2,j)を得る。なお、上記〔数式5〕に示した内容から、第1合成窓関数W(1,i)は、第1の値を埋め込もうとする場合、音響フレームの前部付近において値が大きくなる関数となっていて、逆に第2の値を埋め込もうとする場合、音響フレームの後部付近において値が大きくなる関数となっている。
〔数式9〕
Al(1,j)=Σi=0,…,N-1W(1,i)・Xl(i)・cos(2πij/N)
Bl(1,j)=Σi=0,…,N-1W(1,i)・Xl(i)・sin(2πij/N)
Al(2,j)=Σi=0,…,N-1W(2,i)・Xl(i)・cos(2πij/N)
Bl(2,j)=Σi=0,…,N-1W(2,i)・Xl(i)・sin(2πij/N)
Ar(1,j)=Σi=0,…,N-1W(1,i)・Xr(i)・cos(2πij/N)
Br(1,j)=Σi=0,…,N-1W(1,i)・Xr(i)・sin(2πij/N)
Ar(2,j)=Σi=0,…,N-1W(2,i)・Xr(i)・cos(2πij/N)
Br(2,j)=Σi=0,…,N-1W(2,i)・Xr(i)・sin(2πij/N)
上記〔数式6〕と同様に、〔数式9〕において、iは、各音響フレーム内のN個のサンプルに付した通し番号であり、i=0,1,2,…N−1の整数値をとる。また、jは周波数の値について、値の小さなものから順に付した通し番号であり、iと同様にj=0,1,2,…N−1の整数値をとる。サンプリング周波数が44.1kHz、N=4096の場合、jの値が1つ異なると、周波数が10.8Hz異なることになる。
上記〔数式9〕に従った処理を実行することにより、各音響フレームの信号成分を周波数に対応した成分であるスペクトルで表現されたフレームスペクトルが得られる。続いて、低周波成分変更手段30が、生成されたフレームスペクトルから2つの所定周波数範囲のスペクトル集合を抽出する。上述のように、人間の聴覚は、200〜300Hz程度までの低周波成分については、方向性を感知しにくくなっているため、ここでも、低周波成分を300Hz程度以下としている。周波数300Hz付近は、上記jが29に相当するので、上記〔数式9〕により算出された実部Al(1,j)、Al(2,j)、虚部Bl(1,j)、Bl(2,j)、実部Ar(1,j)、Ar(2,j)、虚部Br(1,j)、Br(2,j)のうち、j≦29(=M)のものを抽出することになる。
続いて、低周波成分変更手段30は、第1合成窓関数W(1,i)側において、左チャンネルの実部Al(1,j)、虚部Bl(1,j)、右チャンネルの実部Ar(1,j)、虚部Br(1,j)を利用して、以下の〔数式10〕により、合算値E1を算出する。
〔数式10〕
1=Σj=m,…,M-3{Al(1,j)2+Bl(1,j)2+Ar(1,j)2+Br(1,j)2
上記〔数式10〕により算出されたE1は音響フレーム前部付近または後部付近のスペクトル集合の成分強度の合算値を示すことになる。続いて、この合算値E1がレベル下限値Lev以上であるかどうかの判定を行う。レベル下限値Levは、音響信号Xl(i)、Xr(i)の振幅最大値が1に正規化されており、M=29に設定されている場合、0.5に設定する。このLev=0.5という値は、経験的にアナログ変換への耐性が維持できるレベルであり、低周波成分が少ない場合は適宜下げることになるが、その場合は、アナログ変換により検出精度も低下することになる。
合算値E1がレベル下限値Lev以上であるかどうかを判断するのは、信号の強度が小さいと、信号を変化させても、その変化を抽出側で検出することができないためである。また、本実施形態では、埋め込むビット値がいずれの値であっても前後部成分(第1合成窓関数W(1,i)による低周波スペクトルの各成分)に埋め込むこととしている。ここで、第1合成窓関数W(1,i)による低周波スペクトルの各成分を前後部成分と呼ぶのは、上記〔数式5〕に示したように、第1合成窓関数W(1,i)の実態は前部に0でない値を有する第1基本窓関数または後部に0でない値を有する第3基本窓関数であり、埋め込むべき付加情報のビット値に応じて、どちらかが置き換えられたものだからである。したがって、実際には、第1の値(“0”)の場合、第1基本窓関数による低周波スペクトルの各成分(基本窓1成分)に、ビット値が第2の値(“1”)の場合、第3基本窓関数による低周波スペクトルの各成分(基本窓3成分)に、埋め込まれることになる。したがって、合算値E1が下限値Lev未満であるとき、付加情報のビット値に応じた記録をせず、以下区切りモードと同様に〔数式11〕に基づく処理を行い、埋め込む予定の現在のビットから継続処理するため、読み込み位置を現状のまま維持し、モードを区切りモードに設定する(S110)。一方、合算値E1がレベル下限値Lev以上であるときには、モードを判断することになる。
低周波成分変更手段30は、モードが区切りモードである場合、左(L)チャンネル信号において、前後部成分と窓2成分の低周波成分を均等(全て0となる場合も含む)とする処理を行う(S112)。具体的には、以下の〔数式11〕に従って、L側の双方を0に設定する処理を実行することになる。この場合、右(R)チャンネル信号の前後部成分と窓2成分は必ずしも均等ではない。
〔数式11〕
j=1〜Mに対して、
Al´(1,j)=0
Bl´(1,j)=0
Al´(2,j)=0
Bl´(2,j)=0
ステレオの場合、右信号に対応した以下も算出
E(1,j)={Al(1,j)2+Bl(1,j)2+Ar(1,j)2+Br(1,j)21/2
Ar´(1,j)=Ar(1,j)・E(1,j)/{Ar(1,j)2+Br(1,j)21/2
Br´(1,j)=Br(1,j)・E(1,j)/{Ar(1,j)2+Br(1,j)21/2
E(2,j)={Al(2,j)2+Bl(2,j)2+Ar(2,j)2+Br(2,j)21/2
Ar´(2,j)=Ar(2,j)・E(2,j)/{Ar(2,j)2+Br(2,j)21/2
Br´(2,j)=Br(2,j)・E(2,j)/{Ar(2,j)2+Br(2,j)21/2
上記〔数式11〕に従った処理を実行することにより、左チャンネルのフレームスペクトルの低周波数成分は、前後部成分と窓2成分共に“0” で同一となる。この前後部成分と窓2成分が均等のパターンは、付加情報の先頭位置(区切り)を示す情報か、または前述の合算値E1が下限値Lev未満であることにより、当該フレームにビット値の記録が行なわれなかったことを示す情報となる。なお、上記〔数式11〕においては、前後部成分と窓2成分ともにAl´(j)=Bl´(j)=0としているが、抽出側で区切りであることが認識可能とすることを目的としているため、十分小さな値であれば、必ずしも0とする必要はない。また、必ずしも前後部成分と窓2成分において同一である必要はなく、差が小さければ良い。この意味で、ここでは「均等」という言葉を用いている。
一方、低周波成分変更手段30は、モードがビットモードである場合、付加情報記憶部62から抽出した付加情報のビット配列のビット値がいずれの値においても、左チャンネル信号の前後部成分が優位となる状態に変更する処理を行う(S111)。ここで、「優位」とは、一方の窓成分のスペクトル集合におけるスペクトル強度が、他方の窓成分のスペクトル集合におけるスペクトル強度よりも大きいことを示す。そこで、S111においては、第1の値と第2の値をとり得るビット値に応じて上記〔数式5〕に従って算出した合成窓関数を利用したフーリエ変換後の成分に対して、以下の〔数式12〕、〔数式13〕に従った処理を実行することにより、前後部成分のスペクトル強度を優位な状態に変更する処理を行う。
〔数式12〕
j=0〜Mの各成分に対して
Al´(2,j)=0
Bl´(2,j)=0
ステレオの場合、右信号に対応した以下も算出
E(2,j)={Al(2,j)2+Bl(2,j)2+Ar(2,j)2+Br(2,j)21/2
Ar´(2,j)=Ar(2,j)・E(2,j)/{Ar(2,j)2+Br(2,j)21/2
Br´(2,j)=Br(2,j)・E(2,j)/{Ar(2,j)2+Br(2,j)21/2
なお、この場合、前後部成分に対しては、以下の〔数式13〕に従った処理を実行する。
〔数式13〕
j=0〜m−1、j=M−2、M−1、Mの各成分に対して
Al´(1,j)=0
Bl´(1,j)=0
ステレオの場合、右信号に対応した以下も算出
E(1,j)={Al(1,j)2+Bl(1,j)2+Ar(1,j)2+Br(1,j)21/2
Ar´(1,j)=Ar(1,j)・E(1,j)/{Ar(1,j)2+Br(1,j)21/2
Br´(1,j)=Br(1,j)・E(1,j)/{Ar(1,j)2+Br(1,j)21/2
更にステレオの場合、残存成分を強調させるため、次のように右チャンネル成分を左チャンネル成分に移動させる処理を行う。
j=m〜M−3の各成分に対して
Ar´(1,j)=0
Br´(1,j)=0
Al´(1,j)=Al(1,j)・E(1,j)/{Al(1,j)2+Bl(1,j)21/2
Bl´(1,j)=Bl(1,j)・E(1,j)/{Al(1,j)2+Bl(1,j)21/2
上記〔数式12〕〔数式13〕による処理を行った結果、前後部成分のj=0、…、m−1とj=M−2、M−1、Mにおいては、値が“0”となるが、他は所定値以上の信号成分が存在することになる。したがって、この場合、前後部成分が優位な状態にスペクトル強度の割合が変更されたことになる。なお、本実施形態では、m=10としている。
ここで、上記〔数式12〕〔数式13〕による処理による低周波成分の状況を図3に示す。図3において、上下方向は周波数方向であり、j=2047は22.05kHzに対応している。図3(a)は特許文献7に示した従来方式、図3(b)は本発明による方式を示す。図3(b)は、上記〔数式13〕において、m=10、M=29とした場合を示している。また、網掛けの濃さは、信号成分の強度を概念的に示したものである。図3において、上下方向は周波数方向であり、j=2047は22.05kHzに対応している。従来方式も本発明もj=30(300Hz程度)以上の高周波成分に対しては、変更を加えず、原音を維持する点については同じである。また、j=27〜29の成分を左(L)信号から右(R)信号に移動させているのも、従来方式と同じである。
本発明が従来方式と異なるのは、従来方式がj=0を原音維持とし、j=1〜29の成分を原則右(R)信号から左(L)信号に移動させ、j=1〜26の成分に対しては付加情報に応じて選択的に右(R)信号から左(L)信号に移動させることにより、j=1〜26を埋め込み領域としているのに対して、本発明ではj=0〜29の成分を原則右(R)信号から左(L)信号に移動させ、j=10〜26の成分に対しては付加情報に応じて選択的に右(R)信号から左(L)信号に移動させることにより、j=10〜26を埋め込み領域としている点である。なお、埋め込み領域については、優位とされた窓成分についての強度を表現しおり、対応する反対側のRチャンネルの窓成分が移動されて加算されており、優位でない窓成分については、逆方向に移動され、Rチャンネルの窓成分に加算されることになる。
上記〔数式12〕および〔数式13〕に従った処理を実行することにより、付加情報のビット配列の各ビット値の如何にかかわらず、左チャンネル信号の前後部成分が優位のパターンに変更されることになる。
この場合、高周波帯と低周波数帯の間には、必ず信号成分が“0”の部分が存在し、これにより、高周波帯と低周波数帯の信号成分が混在することを防いでいる。結局、低周波成分変更手段30は、区切りモードの場合に〔数式11〕に基づく処理をS112において行い、ビットモードの場合に〔数式11〕又は〔数式12〕〔数式13〕に基づく処理をS111において行うことになる。
次に、周波数逆変換手段40が、上記S111、S112の処理により各窓成分のスペクトル集合間の割合が変更されたフレームスペクトルを周波数逆変換して改変音響フレームを得る処理を行う(S114)。この周波数逆変換は、当然のことながら、周波数変換手段20がS105において実行した手法に対応していることが必要となる。本実施形態では、周波数変換手段20において、フーリエ逆変換を施しているため、周波数逆変換手段40は、フーリエ逆変換を実行することになる。具体的には、上記〔数式11〕〜〔数式13〕のいずれかにより得られたスペクトルの左チャンネルの実部Al´(1,j)等、虚部Bl´(1,j)等、右チャンネルの実部Ar´(1,j)等、虚部Br´(1,j)等を用いて、以下の〔数式14〕に従った処理を行い、Xl´(i)、Xr´(i)を算出する。なお、上記〔数式11〕〜〔数式13〕において改変されていない周波数成分については、Al´(1,j)等として、元の周波数成分であるAl(1,j)等を用いる。
〔数式14〕
Xl´(i)=1/N・{ΣjAl´(1,j)・cos(2πij/N)−ΣjBl´(1,j)・sin(2πij/N)}+1/N・{ΣjAl´(2,j)・cos(2πij/N)−ΣjBl´(2,j)・sin(2πij/N)}+Xlp(i+N/2)
Xr´(i)=1/N・{ΣjAr´(1,j)・cos(2πij/N)−ΣjBr´(1,j)・sin(2πij/N)}+1/N・{ΣjAr´(2,j)・cos(2πij/N)−ΣjBr´(2,j)・sin(2πij/N)}+Xrp(i+N/2)
上記〔数式14〕においては、式が繁雑になるのを防ぐため、Σj=0,…,N-1をΣjとして示している。上記〔数式14〕における第1式の“+Xlp(i+N/2)”、第2式の“+Xrp(i+N/2)”の項は、直前に改変された改変音響フレームのデータXlp(i)、Xrp(i)が存在する場合に、時間軸上N/2サンプル分重複することを考慮して加算するためのものである。上記〔数式14〕によりAタイプの改変音響フレームの左チャンネルの各サンプルXl´(i)、右チャンネルの各サンプルXr´(i)、が得られることになる。改変音響フレーム出力手段50は、得られた改変音響フレームを順次出力ファイルに出力する。こうして1つの音響フレームに対する処理を終えたら、モードの判定を行い(S116)、モードが区切りモードである場合は、モードをビットモードに設定した後(S117)、音響フレーム読込手段10が、Bタイプ音響フレームを読み込む(S104)。一方、モードがビットモードである場合は、低周波成分変更手段30が付加情報のビット配列中の次のビットを読み込む(S103)。以上のような処理を音響信号の両チャンネルの全サンプルに渡って実行していく。すなわち、所定数のサンプルを音響フレームとして読み込み、音響信号から読み込むべき音響フレームがなくなったら(S104)、処理を終了する。なお、S101において読み込んだ1ワードのデータの各ビットに対応する処理を終えた場合、S103からS101に戻り、付加情報の次のワードを読み込み処理をすることになる。付加情報の全ワードに対して処理が終了した場合は、付加情報の先頭ワードに戻って処理を行う。この結果、全ての音響フレームに対して処理を行った全ての改変音響フレームが出力ファイルに記録されて、改変音響信号として得られる。得られた改変音響信号は、記憶手段60内の改変音響信号記憶部63に出力され、記憶される。
以上の処理による左チャンネル信号の変化の様子について、上記特許文献7と比較して説明する。図10に、特許文献7に記載の手法によるビット埋め込みの手順を示す。図10において、図面左右方向は、時間軸方向である。また、図中多数存在する矩形は、改変音響フレームの基本窓1成分、基本窓3成分の存在(削除されていないこと)を示している。上述のように、特許文献7に記載の手法では、低周波成分が小さいために埋め込みができないフレームが存在した場合には、1ワードの先頭(新規)であるか途中(継続)であるかを示すフラグビットを埋め込むようにしていた。また、図中“区”は区切り、“新”は新規、“継”は継続、“1”“0”は付加情報のビット値を示している。図10の例では、8ビット、6ビット、12ビットの連続する3ワードの付加情報を埋め込む場合を示している。図10に示すように、最初に区切りを示す情報が埋め込まれた後は、新規を示す情報が埋め込まれ、続いて、ビット値を示す情報が埋め込まれる。低周波成分が小さいために埋め込みができないフレームが存在しない場合には、連続して1ワード分の8ビットが埋め込まれ、その後、再び、区切りを示す情報、新規を示す情報が埋め込まれ、続いて、ビット値を示す情報が埋め込まれる。低周波成分が小さいために埋め込みができないフレームが存在した場合には、図10に示す3ワード目のように、1ビット目の後、区切りを示す情報が埋め込まれ、1ワードの途中であるために、次には、継続を示す情報が埋め込まれ、続いて、2ビット目から埋め込まれる。
これに対して、本発明では、低周波成分が小さいために埋め込みができないフレームが存在した場合、区切りを示す情報は埋め込まれるが、フラグビットを埋め込まず、続けて後続する付加情報のビット値を埋め込む処理を行う。図11に、本発明によるビット埋め込みの手順を示す。図11の例では、固定長8ビットの連続する4ワードの付加情報を埋め込む場合を示している。図11に示すように、最初に区切りを示す情報が埋め込まれた後は、ビット値を示す情報が埋め込まれる。低周波成分が小さいために埋め込みができないフレームが存在しない場合には、連続して1ワード分の8ビットが埋め込まれ、その後、再び、区切りを示す情報が埋め込まれ、続いて、ビット値を示す情報が埋め込まれる。低周波成分が小さいために埋め込みができないフレームが存在した場合には、図11に示す3ワード目のように、2ビット目の後、区切りを示す情報が埋め込まれるが、その直後には、継続を示す情報が埋め込まれることなく、3ビット目から埋め込まれる。なお、本実施形態で、低周波成分が小さいために埋め込みができないフレームが存在した場合とは、上記〔数式10〕により算出された合算値E1がレベル下限値Lev未満となる音響フレームが存在する場合を示している。
図10、図11は、特許文献7と、本発明における処理の一例であるが、図10に示すように、特許文献7の手法では、36フレームを利用して26ビットしか埋め込むことができないのに対し、本発明の手法では、36フレームを利用して30ビットしか埋め込むことができ、埋め込み効率が高まる。
なお、本実施形態では、付加情報の1ワードを1バイトとした場合について説明したが、抽出側と取り決めがある限り、付加情報の1ワードを任意のビット数単位で記録することが可能である。
上記のようにして得られた改変音響信号の左チャンネルのうち、付加情報が埋め込まれている部分については、低周波成分は、前部成分と後部成分が均等となっているか、あるいは前部成分が優位か、後部成分が優位かの3通りの分布しかないことになる。しかし、高周波成分については、元の音響信号のままであるので、制作者の設定に基づいた種々な分布になる。また、上記の例で示したように、ステレオ音響信号を利用した場合には、左チャンネルにおいて変化させられた低周波成分は、上記〔数式11〕〜〔数式13〕の処理からも明らかなように、必ず右チャンネルの低周波成分に付加されている。したがって、右チャンネルが左チャンネルにおいて削除された成分を補っているため、両チャンネル全体として見ると、信号の劣化がない。人間の聴覚は、高周波成分については、方向性を感知し易いが、低周波成分については、方向性を感知しにくくなっている。したがって、低周波成分が一方に偏っていても、聴いている人にとっては、通常の音響信号と変わりなく聴こえることになる。
(4.音響信号からの情報の抽出装置)
次に、本発明に係る音響信号からの情報の抽出装置について説明する。図4は、本発明に係る音響信号からの情報の抽出装置の一実施形態を示す構成図である。図4において、100は音響信号入力手段、110は基準フレーム獲得手段、120は位相変更フレーム設定手段、130は周波数変換手段、140は符号判定パラメータ算出手段、150は符号出力手段、160は付加情報抽出手段、170は音響フレーム保持手段である。
音響信号入力手段100は、流れている音声をデジタル音響信号として取得し、入力する機能を有している。現実には、マイクロフォンおよびA/D変換器により実現される。マイクロフォンとしては、低周波成分が検出可能なものであれば、モノラル無指向性のものであっても、ステレオ指向性のものであっても使用可能である。ステレオ指向性のものであっても一方のチャンネルだけ利用すれば良い。また、図1に示した装置で情報の埋め込みを行った場合には、特別精度の高いものでなく、一般的な精度のマイクロフォンを用いても情報の抽出が可能となる。基準フレーム獲得手段110は、入力されたデジタルのモノラル音響信号(あるいはステレオ音響信号の1チャンネル)から所定数のサンプルで構成される音響フレームを基準フレームとして読み込む機能を有している。位相変更フレーム設定手段120は、基準フレームと所定サンプルずつ移動させることにより位相を変更した音響フレームを位相変更フレームとして設定する機能を有している。周波数変換手段130は、図1に示した周波数変換手段20と同様の機能を有している。符号判定パラメータ算出手段140は、生成されたフレームスペクトルから所定の周波数以下に相当する各低周波強度データを抽出し、基本窓1成分、基本窓3成分ごとに各低周波強度データの合算値EC1、EC2を以下の〔数式15〕に基づいて算出し、この合算値EC1、EC2を符号判定パラメータとし、この符号判定パラメータEC1、EC2の比率に基づいて、所定の状態であると判断する機能を有している。以下の〔数式15〕は上記〔数式10〕において右チャンネル成分を削除したものであり、これは抽出時には右チャンネル成分を参照しないためである。
〔数式15〕
C1=Σj=m,…,M-3{kAl(1,j)2+kBl(1,j)2
C2=Σj=m,…,M-3{kAl(3,j)2+kBl(3,j)2
符号出力手段150は、1つの基準フレームに対応する音響フレーム(基準フレームおよび位相変更フレーム)の中から最適な位相であると判断されるものを判断し、その音響フレームの状態に対応する符号を出力する機能を有している。付加情報抽出手段160は、符号出力手段150により出力された符号の集合である3値配列を、所定の規則により変換して意味のある付加情報として抽出する機能を有している。音響フレーム保持手段170は、連続する2個の基準フレームを保持可能なバッファメモリである。図4に示した各構成手段は、現実には情報処理機能を有する小型のコンピュータおよびその周辺機器等のハードウェアに専用のプログラムを搭載することにより実現される。特に、本発明の目的をより簡易に達成するためには、携帯型端末装置をハードウェアとして用いることが望ましい。
(5.抽出装置の処理動作)
次に、図4に示した音響信号からの情報の抽出装置の処理動作について図5のフローチャートに従って説明する。まず、本装置では、平均符号レベルHL1、HL2、位相判定テーブルS(p)、非符号カウンタNnを初期化する(S200)。これらについて説明する。平均符号レベルHL1、HL2は、ビット値に対応する2値が埋め込まれていたと判断される音響フレーム(以下、有効フレームと呼ぶことにする)についての、上記〔数式15〕で算出される低周波成分の合算値EC1、EC2の平均値、すなわち、過去の有効フレームにおける合算値EC1、EC2の平均値で与えられるものであり、初期値は、上記埋め込み装置においても用いられるレベル下限値Levに設定されている。位相判定テーブルS(p)は、位相を判定するためのテーブルであり、pは0〜5の整数値をとる。初期値はS(p)=0に設定されている。非符号カウンタNnは、信号レベルが低く、非符号(区切りを示す情報と同一)であると判断されるフレーム数のカウンタであり、初期状態では、Nn=0に設定される。
このように、初期値が設定されている状態で、利用者が流れている音楽について、その楽曲名等の属性情報を知りたいと思った場合、まず、抽出装置に対して、抽出装置としての起動の指示を行う。これは、例えば、抽出装置を携帯電話機等の携帯端末で実現している場合は、所定のボタンを操作することにより実行できる。抽出装置は、指示が入力されると、音響信号入力手段100が、流れている音楽を録音し、デジタル化してデジタル音響信号として入力する。具体的には、無指向性マイクロフォン(または指向性マイクロフォンの一方のチャンネル)から入力される音声を、A/D変換器によりデジタル化する処理を行うことになる。
続いて、基準フレーム獲得手段110が、音響信号入力手段100から入力された音響信号から、所定数のサンプルで構成される音響フレームを基準フレームとして抽出する(S201)。具体的には、基準フレームを抽出して音響フレーム保持手段170に読み込むことになる。基準フレーム獲得手段110が基準フレームとして読み込む1音響フレームのサンプル数は、図1に示した音響フレーム読込手段10で設定されたものと同一にする必要がある。したがって、本実施形態の場合、基準フレーム獲得手段110は、4096サンプルずつ、順次基準フレームとして読み込んでいくことになる。音響フレーム保持手段170には、上述のように2個の基準フレームが格納可能となっており、新しい基準フレームが読み込まれると、古い基準フレームを破棄するようになっている。したがって、音響フレーム保持手段170には、常に基準フレーム2個分(連続する8192サンプル)が格納されていることになる。
埋め込み装置で処理する音響フレームは、先頭から途切れることなく隣接して設定される基準フレームと、この基準フレームと位相を変更した位相変更フレームとに分けることができる。基準フレームについては、最初の基準フレームをサンプル番号1からサンプル番号4096までを設定したら、次の基準フレームは、サンプル番号4097からサンプル番号8192、さらに次の基準フレームは、サンプル番号8193からサンプル番号12288、というように途切れることなく設定される。そして、各基準フレームについて、1/6フレーム(約683サンプル)ずつ移動した5個の位相変更フレームを設定する。例えば、最初の基準フレームについては、サンプル番号683、1366、2049、2732、3413から始まる4096のサンプルで構成される5個の位相変更フレームが設定されることになる。続いて、周波数変換手段130、符号判定パラメータ算出手段140が、読み込んだ各音響フレームから、埋め込まれている情報を判定し、対応する符号を出力する(S202)。出力される情報の形式は、埋め込み側のビット値に対応する2値、および区切りとして入力された値の3値の形式となる。
ここで、ステップS202の符号判定処理の詳細を図6のフローチャートに従って説明する。まず、周波数変換手段130が、読み込んだ各音響フレームに対して、周波数変換を行ってフレームスペクトルを得る(S401)。この処理は、図1に示した周波数変換手段20における処理に類似するものであるが、抽出判定にあたり第2基本窓関数成分を参照する必要がないため、合成窓関数ではなく、両端の第1および第3基本窓関数を用いる。また、抽出に用いるのは、左チャンネルだけであるので、以下の〔数式16〕に従った処理を行い、左チャンネルに対応する変換データの実部kAl(1,j)、kAl(3,j)、虚部kBl(1,j)、kBl(3,j)を得る。
〔数式16〕
kAl(1,j)=Σi=0,…,N-1kw(1,i)・Xl(i)・cos(2πij/N)
kBl(1,j)=Σi=0,…,N-1kw(1,i)・Xl(i)・sin(2πij/N)
kAl(3,j)=Σi=0,…,N-1kw(3,i)・Xl(i)・cos(2πij/N)
kBl(3,j)=Σi=0,…,N-1kw(3,i)・Xl(i)・sin(2πij/N)
上記周波数変換手段130における処理により、周波数に対応した成分であるスペクトルで表現されたフレームスペクトルが得られる。続いて、符号判定パラメータ算出手段140は、平均符号レベルHL1、HL2の算出を行う(S402)。具体的には、過去基本窓1成分が優位な状態と判断された音響フレームについての合算値EC1の積算値であるv1を、過去基本窓1成分が優位な状態と判断された音響フレームの数であるn1で除算することによりHL1を算出し、過去基本窓3成分が優位な状態と判断された音響フレームについての合算値EC2の積算値であるv2を、過去基本窓3成分が優位な状態と判断された音響フレームの数であるn2で除算することによりHL2を算出する。したがって、平均符号レベルHL1、HL2は、過去対応する窓成分が優位な状態と判断された音響フレームの低周波強度データの合算値の平均値となる。
さらに、符号判定パラメータ算出手段140は、生成されたフレームスペクトルから所定の周波数範囲の各低周波強度データを抽出する。抽出すべき周波数範囲は、埋め込み装置と対応させる必要がある。したがって、ここでは、周波数が100Hz程度以上かつ300Hz程度以下の低周波強度データを抽出することになり、埋め込み装置の場合と同様、上記〔数式9〕により算出された左チャンネルの実部Al(j)、虚部Bl(j)のうち、10≦j≦29のものを抽出する。そして、符号判定パラメータ算出手段140は、上記〔数式15〕に従った処理を実行することにより、基本窓1成分の合算値EC1、基本窓3成分の合算値EC2を算出する。抽出装置においては、これを符号判定パラメータとして用いる。
続いて、符号判定パラメータ算出手段140は、候補符号テーブルの初期化を行う(S403)。候補符号テーブルは、1つの基準フレームおよび5個の位相変更フレームを特定する0〜5の位相番号および、この6個の音響フレームの状態から得られる3値の符号を記録するものである。
続いて、符号判定パラメータ算出手段140は、基本窓1成分の合算値EC1、基本窓3成分の合算値EC2がそれぞれ所定値以下であるかどうかの判定を行う(S404)。具体的には、所定値としてそれぞれ平均符号レベルHL1、HL2に0.001を乗じた値を設定する。合算値EC1が平均符号レベルHL1に0.001を乗じた値以下であり、かつ、合算値EC2が平均符号レベルHL2に0.001を乗じた値以下である場合、符号判定パラメータ算出手段140は、区切り情報であると判定する(S408)。
一方、符号判定パラメータ算出手段140は、上記算出された符号判定パラメータEC1、EC2の所定値との比較判定および相互の比較判定を以下の〔数式17〕に従って行い(S405)、比較結果に対応する符号を出力する。
〔数式17〕
C2>(所定値)かつEC2/EC1>2の場合、基本窓3成分が優位な状態
C1>(所定値)かつEC1/EC2>2の場合、基本窓1成分が優位な状態
上記以外の場合、両窓成分が均等
符号判定パラメータ算出手段140は、各音響フレーム単位で、上記判定結果に応じて3値の符号を出力する。すなわち、基本窓1成分が優位な状態と判定した場合には、第1のビット値(例えば“0”)を出力し(S406)、基本窓3成分が優位な状態と判定した場合には、第2のビット値(例えば“1”)を出力し(S407)、両基本窓成分が均等と判定した場合には、区切り情報を示す符号を出力する(S408)。なお、S405において、基本窓1成分が優位な状態と判定した場合は、EC1がHL1以上であるか、また、基本窓3成分が優位な状態と判定した場合は、EC2がHL2以上であるかを判定し、これらの条件を満たしていない場合は、区切り情報を示す符号を出力する(S408)。ここで「区切り情報」と判断される符号には、段落0048で述べた合算値E1が下限値Lev未満であることにより、当該フレームにビット値の記録が行なわれなかったことを示す埋め込みエラーを示す符号である場合も含まれるため、必ずしもワードの区切りでないことに留意する必要がある。区切り情報が真のワードの区切りを示すか否かは、以下で述べるようにビットカウンタが8以上に達しているかどうかで判断する。
基本窓1成分が優位な状態と判定して、第1のビット値を出力した場合(S406)、又は基本窓3成分が優位な状態と判定して、第2のビット値を出力した場合(S407)は、さらに、以下の〔数式18〕に従って位相判定テーブルS(p)の更新を行う(S409)。
〔数式18〕
基本窓1成分が優位な状態の場合、S(p)←S(p)+EC1/EC2
基本窓3成分が優位な状態の場合、S(p)←S(p)+EC2/EC1
続いて、符号判定パラメータ算出手段140は、候補符号テーブルに、最適位相となる候補を保存する(S410)。具体的には、位相判定テーブルに記録されているS(p)の値が最大となる位相番号pの値、前記S406〜S408により判定された3値のいずれかの符号、その音響フレームについての上記〔数式10〕に従った処理を実行することにより算出した、低周波数成分に対応する各EC1、EC2の値を最適位相の候補として候補符号テーブルに保存する。
続いて、全ての位相番号pに対応する処理を終えたかどうかを判定する(S411)。これは、ある基準フレームに対して全ての位相変更フレームの処理を行ったかどうかを判定している。本実施形態では、pが0〜5までの値をとるので、6回分処理していない場合は、処理していた音響フレームから所定サンプル数ずらして、位相の異なる音響フレームを設定し、S404に戻って処理を繰り返す。なお、p=0の場合が基準フレームであり、p=1〜5の場合が位相変更フレームである。全ての位相番号pに対応する処理を終えた場合は、候補保存テーブルに記録されている位相番号pに対応する位相が最適位相であると判定し、候補保存テーブルに記録されている符号を出力する(S412)。
再び図5のフローチャートに戻って説明する。S202による処理の結果、ビット値に相当する符号が出力された場合には、平均符号レベルのパラメータの更新および非符号カウンタの初期化処理を行う(S203)。具体的には、平均符号レベルHL1、HL2算出の際の分子となる積算値v1、v2にそれぞれ合算値EC1、EC2を加算して積算値v1、v2を更新し、分母となるフレーム数n1、n2にそれぞれ1を加算してフレーム数n1、n2を更新することにより行う。非符号カウンタの初期化処理は、上記S200の初期化処理における処理と同様、非符号カウンタNn=0と設定する。次に、出力されたビット値をバッファに保存する(S209)。続いて、ビットカウンタをカウントアップする(S210)。
一方、S202による処理の結果、区切り情報に相当する符号が出力された場合には、非符号カウンタのカウントアップ処理を行う(S211)。具体的には、非符号カウンタNnの値に1を加算する。そして、非符号カウンタNnの値が所定値以上である場合は、S200に戻って初期化処理を行う。非符号カウンタNnの値が所定値未満である場合は、ビットカウンタが8以上であるかどうかを判断し、8未満である場合は、区切り情報に相当する符号はワードの区切りではなく埋め込みエラーを示す符号と判断し、現在のビットカウンタ値を維持してS201に戻って符号抽出処理を継続する。ビットカウンタが8以上である場合は、区切り情報に相当する符号はワードの区切りを示すと判断できるので、バッファに記録された1ワード分のデータを、付加情報抽出手段160が出力する(S206)。そして、ビットカウンタを0に初期化する(S207)。図5に示す処理を各基準フレームに対して実行することにより、付加情報が抽出されることになる。S201において全ての基準フレームが抽出されたと判断された場合には、処理を終了する。
上記S206の処理において、付加情報抽出手段160は、まず、符号判定パラメータ算出手段140により出力された3値の符号のうち、基本窓3成分と基本窓3成分が均等であることを示す符号を区切り位置として、その次の符号を先頭と仮定して、基本窓3成分が優位な状態、基本窓3成分が優位な状態であることを示す符号をビット値に対応させて、ビット配列を作成する。続いて、区切りを示す符号を抽出した際に、ビット配列のビットカウンタが8未満であれば、区切りを示す符号は埋め込みエラーを示すものと判断し、現状のビットカウンタの値を維持してビット配列の作成を継続する。ビット配列のビットカウンタが丁度8または8を超えていれば、区切りを示す符号はワード(1バイト)の区切りを示すものと判断し、ビット配列の最後の8ビットを、所定の規則により変換して意味のある付加情報として抽出する。ここで、8ビットを超える場合は、データの抽出処理を開始する直後に発生しやすく、区切りを示す符号を先頭と誤判断してビットカウンタを初期化した場合に発生する。所定の規則としては、情報を埋め込む者が意図した情報が受け取った者に認識可能な状態とできるものであれば、さまざまな規則が適用できるが、本実施形態では、文字情報として認識するための規則としている。すなわち、付加情報抽出手段160は、符号判定パラメータ算出手段140が判定し、符号出力手段150から出力される符号を1バイト(8ビット)単位で認識し、これを設定されたコード体系に従って文字情報を認識する。このようにして得られた文字情報は、表示装置(図示省略)の画面に表示出力される。
従って、埋め込み装置により音響信号に、その楽曲の曲名やアーチスト等の属性情報を文字情報として埋め込んでおけば、利用者は、その音楽が流れているのを聞いて、その曲名やアーチストを知りたいと思ったときに、抽出装置として機能する自身の携帯端末に所定の操作を行えば、自身の携帯端末の画面に曲名やアーチスト等の属性情報が文字情報として表示されることになる。
(6.位相補正処理について)
上記のように、抽出時には、埋め込み時に埋め込んだ音響フレームに対応して、音響信号を読み込むことができるとは限らない。そこで、音響フレームの位相をずらして複数通り(本実施形態では6通り)で読み込み、その中で最適な位相を決定し、その位相で特定される音響フレームに対応する符号を出力することにしている。例えば、6通りで読み込む場合、先頭の音響フレームは、本来サンプル番号1〜4096のサンプルであるが、サンプル番号1、683、1366、2049、2732、3413から始まる4096のサンプルで構成される6個の各音響フレームに対して処理を行い、最適な音響フレームに対応する符号を出力することになる。この位相補正処理は、S403、S409、S410、S411、S412における処理を中心として行われることになる。
(7.下限閾値補正処理について)
信号レベルが小さい場合には、窓成分の強度の大小が判定できず、抽出側で誤判断することが多くなる。そこで、合算値EC1およびEC2が所定の閾値以下のフレームについては、無効なフレームであると判断するようにしているが、この際の閾値を過去の有効フレームについての低周波強度の積算値を利用して補正する処理を行っている。このように閾値を変動させることにより、信号レベルが変動しても無効なフレームであるか、有効なフレームであるかを正確に判断することが可能となる。この下限閾値補正処理は、S402、S203における処理を中心として行われることになる。
(8.音響信号再生装置)
次に、本発明に係る音響信号再生装置について説明する。図7は、本発明に係る音響信号再生装置の一実施形態を示す構成図である。図7において、200は音響フレーム読込手段、210は付加情報抽出表示手段、240は再生フレーム投入手段、250は再生フレーム蓄積手段、260はサウンドデバイスドライバ、261はサウンドデバイス、262はタイマーである。本発明に係る音響信号再生装置は、モノラル音響信号でもステレオ音響信号でも再生可能であるが、図7に示す装置は、ステレオ音響信号を再生するものとして説明する。
音響フレーム読込手段200は、図1に示した音響フレーム読込手段10と同様、ステレオ音響信号の各チャンネルから所定数のサンプルをフレームして読み込む機能を有している。音響フレーム読込手段200により読み込まれた各音響フレームは、付加情報抽出表示手段210、再生フレーム投入手段240の2系統において処理されることになる。付加情報抽出表示手段210は、具体的には、図4に示した抽出装置のうち、位相変更フレーム設定手段120、周波数変換手段130、符号判定パラメータ算出手段140、符号出力手段150、付加情報抽出手段160、音響フレーム保持手段170、および付加情報抽出手段160が抽出した付加情報を表示出力する手段により構成されている。
再生フレーム投入手段240は、音響フレーム読込手段200により読み込まれた各音響フレームを再生フレーム蓄積手段250に投入する機能を有している。ただし、再生フレーム投入手段240は、単純に音響フレームを投入するだけでなく、後述するように、再生フレーム蓄積手段250に空きが無い場合は、音響フレームの投入を制御する機能も有している。再生フレーム蓄積手段250は、音響フレームを蓄積するバッファメモリを複数有しており、これらのバッファメモリに蓄積された音響フレームを、FIFO(ファーストイン・ファーストアウト)方式、すなわち、先に入ってきた情報が、先に出ていく方式で処理する機能を有している。すなわち、再生フレーム蓄積手段250は、再生フレーム投入手段240から投入された音響フレームを投入された順序で蓄積し、その順序でサウンドデバイスドライバ260に渡す機能を有することとなる。サウンドデバイスドライバ260は、サウンドデバイス261を駆動させて音響フレームを音響再生する機能を有しており、サウンドデバイス261は、デジタルデータである音響フレームをD/A変換して音声として再生する機能を有している。すなわち、サウンドデバイスドライバ260およびサウンドデバイス261は音響フレーム再生手段として機能することになる。タイマー262は、サウンドデバイスによる音響信号の再生と、外部機器の音響信号の再生とのタイミングをとるために利用するタイマーであり、コンピュータにおいて時刻管理を行うタイマーと共用されている。
図7に示す音響信号再生装置においては、上述のように、付加情報抽出表示手段210における付加情報を抽出・表示する系統と、再生フレーム投入手段240〜サウンドデバイスドライバ260の音響再生する系統の2系統が存在する。モノラル音響信号を処理する場合には、音響信号にチャンネルが1つしかなく、そのチャンネルに付加情報が埋め込まれているため、両系統とも1つのチャンネルの信号を処理する。一方、ステレオ音響信号を処理する場合には、音響再生系統は2つのチャンネルの信号を処理してステレオ再生するが、付加情報抽出系統は、付加情報が埋め込まれている1つのチャンネルの信号のみを処理することになる。
(9.再生装置の処理動作)
次に、図7に示した音響信号の再生装置の処理動作について説明する。図1に示した埋め込み装置により付加情報が埋め込まれた改変音響信号を記録した記録媒体を再生装置において再生すると、まず、音響フレーム読込手段200が記録媒体から読み取られたステレオ音響信号の各チャンネルから、それぞれ所定数のサンプルを1音響フレームとして読み込む。音響フレーム読込手段200が読み込む1音響フレームのサンプル数も、図1に示した音響フレーム読込手段10で設定されたものと同一にする必要がある。したがって、本実施形態の場合、音響フレーム読込手段200は、左チャンネル、右チャンネルについてそれぞれ4096サンプルずつ、順次音響フレームとして読み込んでいくことになる。また、図1に示した音響フレーム読込手段10において、音響フレームを、隣接する音響フレームとサンプルが重複するように読み込んでいる場合には、音響フレーム読込手段200においても、音響フレームを、隣接する音響フレームとサンプルが重複するように読み込んで行く。この場合、重複させるサンプル数は、音響フレーム読込手段10で重複させたサンプル数と同一とし、1音響フレームを構成する4096サンプルの半数の2048サンプルとする。なお、音響フレームを重複して読み込んだ場合であっても、付加情報抽出表示手段210に対しては、重複していない音響フレームのみを渡す処理を行う。また、付加情報抽出表示手段210に渡される音響フレームは、付加情報が埋め込まれている左チャンネルのものだけになる。
続いて、付加情報抽出表示手段210においては、読み込んだ各音響フレームを基準フレームとして、図4に示した抽出装置と同様の処理を行い、付加情報を抽出した後、画面に表示出力する。
一方、音響フレーム読込手段200により読み込まれた音響フレームは、再生フレーム投入手段240により再生フレーム蓄積手段250に蓄積されていく。再生フレーム蓄積手段250に少なくとも1フレーム蓄積されれば、サウンドデバイスドライバ260による再生処理は開始されるが、この再生処理は音響フレーム読込手段200、付加情報抽出表示手段210および再生フレーム投入手段240の処理に比べ圧倒的に処理時間がかかる。(換言すれば、付加情報抽出表示手段210などは再生処理に比べ圧倒的に速くなるように設計している。)そこで、本実施形態では、再生フレーム蓄積手段250に4フレームまで蓄積可能となっており、図7に示すように、音響フレーム読込手段200は、連続して次の音響フレームを読み込み、再生フレーム投入手段240により再生フレーム蓄積手段250に音響フレームを4フレームまで蓄積できるようにしている。再生フレーム蓄積手段250に4フレーム蓄積されると、音響フレーム読込手段200および再生フレーム投入手段240は、再生フレーム蓄積手段250に空きが発生するまで待機状態になる。従って、再生フレーム蓄積手段250には常時4フレーム分蓄積され、サウンドデバイスドライバ260は、再生フレーム蓄積手段250に蓄積された音響フレームのうち先頭の音響フレームを音響再生する。具体的には、サウンドデバイス261が音響フレームのデータをD/A変換してスピーカに出力することになる。音響再生された音響フレームは、再生フレーム蓄積手段250から削除される。
音響フレームが削除されて、再生フレーム蓄積手段250内に余裕ができると、再生フレーム投入手段240から音響フレームが再生フレーム蓄積手段250に投入される。これにより、再生フレーム蓄積手段250内は再び最大容量まで蓄積されることになる。読み込まれた音響フレームは、現実には、CPUが再生フレーム投入手段240として機能することにより、再生フレーム蓄積手段250内に投入される。この再生フレーム投入手段240は、音響フレームを再生フレーム蓄積手段250に単純に投入するだけでなく、再生フレーム蓄積手段250に空きが無い場合は、音響フレーム読込手段200、付加情報抽出表示手段210に対して処理を中断するメッセージを送り、再生フレーム蓄積手段250への音響フレームの投入を制御している。
一方、サウンドデバイス261は、再生フレーム蓄積手段250に蓄積された音響フレームのうち先頭の音響フレームを順次音響再生していく。この際、サウンドデバイス261は、1つの音響フレームの音響再生を終了する度に、音響フレーム読込手段200、付加情報抽出表示手段210、再生フレーム投入手段240に対して各処理の実行を許可するメッセージを送る。
ここで、上記再生装置における音響再生側、すなわち再生フレーム投入手段240、再生フレーム蓄積手段250、サウンドデバイスドライバ260の処理の概要を整理して図8のフローチャートに示す。まず、再生フレーム投入手段240が、再生フレーム蓄積手段250内に空いているバッファメモリが存在するかどうかを探索する(S601)。空いているバッファメモリが存在しない場合は、音響フレーム読込手段200に対して処理を中断するメッセージを送り、サウンドデバイス261からの再生終了メッセージの受信待ちとする(S602)。サウンドデバイスドライバ261からの再生終了メッセージがあった場合には、再生が終了した音響フレームを格納していたバッファメモリから削除して再生終了バッファを空きバッファに設定する(S603)。サウンドデバイス261からの再生終了メッセージは、同時に音響フレーム読込手段200、付加情報抽出表示手段210、再生フレーム投入手段240にも送信されるため、音響フレーム読込手段200、再生フレーム投入手段240が処理を再開する(S604)。続いて、空いているバッファメモリに音響フレームが格納される(S605)。一方、サウンドデバイス261では、常に、再生フレーム蓄積手段250内のバッファメモリを探索しており(S606)、音響フレームが存在する場合には、音響フレームを再生する(S607)。1つの音響フレームの再生を待ち(S608)、再生が終了したら、再生終了メッセージを音響フレーム読込手段200、再生フレーム投入手段240に送信する(S609)。
図7に示した音響信号再生装置は、音響信号については、それが付加情報が埋め込まれているか否かに関わらず、同様に音響再生処理を行う。したがって、付加情報が埋め込まれていない音響信号もそのまま音響再生されることになる。音響信号のうち、左チャンネルの付加情報が埋め込まれている部分については、改変されている。しかし、高周波成分については、元の音響信号のままであるので、制作者の設定に基づいた種々な分布になる。また、上述のように、ステレオ音響信号を利用した場合には、左チャンネルにおいて変化させられた低周波成分は、上記〔数式11〕〜〔数式13〕の処理により必ず右チャンネルの低周波成分に付加されているので、両チャンネル全体として見ると、信号の劣化がない。そのため、通常の音響信号と変わりなく聴こえることになる。
(10.モノラル音響信号の場合)
上記実施形態においては、埋め込み装置、抽出装置、再生装置のいずれにおいても、左右のチャンネルを有するステレオ音響信号の左チャンネル信号に付加情報を埋め込む場合を例にとって説明したが、逆に右チャンネル信号に付加情報を埋め込むようにしても良い。本発明は、左右の特性には無関係だからである。また、1つのチャンネルしかないモノラル音響信号に対して処理を行う場合は、上記実施形態において、左チャンネル信号に対して行った処理を行うことになる。本発明は、1つのチャンネル信号に対して付加情報を埋め込み、また抽出を行うので、モノラル音響信号であってもステレオ音響信号であっても同様に行うことができる。
(11.信号成分が小さくても情報の埋め込みを可能とする手法)
ここまで、説明してきた処理においては、前後部成分に所定の大きさ以上の信号成分が存在していることが必要となり、前後部成分が所定の大きさ以下の場合には、情報の埋め込みを行うことができない。そこで、以下、前後部成分が所定の大きさ以下であっても、信号の埋め込みを可能とする手法について説明する。
この場合、図1に示した埋め込み装置における情報の埋め込み処理は、図2のフローチャートに従って行われるが、合算値E1がレベル下限値Lev未満となることがなくなるため、S109における周波数変換処理において低周波成分変更手段30がレベルの判定を行わず、さらに、S110に相当する区切りモードへの設定処理が存在しない。これは、この処理では、信号レベルが小さくても強制的に情報を埋め込むこととしているため、情報の埋め込みが不可能な信号レベルが小さい部分が存在するかどうかを判断し、区切りモードに設定する必要がないからである。
したがって、S111における前後部成分を優位な状態に設定する処理としては、まず、以下の〔数式19〕に従って算出される固定値Vを、低周波成分の強度として、上記合算値E1に代えて設定する。
〔数式19〕
V={0.5・Lev/(M−2−m)}1/2
そして、ビット値がいずれの場合も、上記〔数式12〕および〔数式13〕に従った処理を実行した後、以下の〔数式20〕に従った処理を実行する。
〔数式20〕
j=m〜M−3の各成分に対して
Al´(1,j)=Al(1,j)・V/{Ar(1,j)2+Br(1,j)21/2
Bl´(1,j)=Bl(1,j)・V/{Ar(1,j)2+Br(1,j)21/2
上記のように、周波数成分が小さい場合に情報を埋め込んだ場合であっても、抽出側の、音響信号からの情報の抽出装置の構成は図4と同一であり、処理動作は図5のフローチャートに従ったものと同一である。また、音響信号再生装置の構成も図7と同一であり、処理動作は図8のフローチャートに従ったものと同一である。
音響信号に対する情報の埋め込み装置の機能ブロック図である。 図1に示した装置の処理概要を示すフローチャートである。 本発明の処理による低周波成分の変化の状況を示す図である。 本発明に係る音響信号からの情報の抽出装置の機能ブロック図である。 図4に示した装置の処理概要を示すフローチャートである。 図5のS202の符号判定処理の詳細を示すフローチャートである。 本発明に係る音響信号再生装置の機能ブロック図である。 図7に示した装置の処理概要を示すフローチャートである。 本発明で用いる基本窓関数を示す図である。 従来の手法によるビット埋め込みの手順を示す図である。 本発明によるビット埋め込みの手順を示す図である。
符号の説明
10・・・音響フレーム読込手段
20・・・周波数変換手段
30・・・低周波成分変更手段
40・・・周波数逆変換手段
50・・・改変音響フレーム出力手段
60・・・記憶手段
61・・・音響信号記憶部
62・・・付加情報記憶部
63・・・改変音響信号記憶部
70・・・付加情報読込手段
100・・・音響信号入力手段
110・・・基準フレーム獲得手段
120・・・位相変更フレーム設定手段
130・・・周波数変換手段
140・・・符号判定パラメータ算出手段
150・・・符号出力手段
160・・・付加情報抽出手段
170・・・音響フレーム保持手段
200・・・音響フレーム読込手段
210・・・付加情報抽出表示手段
240・・・再生フレーム投入手段
250・・・再生フレーム蓄積手段
260・・・サウンドデバイスドライバ
261・・・サウンドデバイス
262・・・タイマー

Claims (7)

  1. 時系列のサンプル列で構成される音響信号に対して、付加情報を聴取不能な状態で埋め込む装置であって、
    前記音響信号より、所定数Nのサンプルを音響フレームとして互いにN未満の所定サンプル数に対応する時刻だけずれた2種類のAタイプ音響フレーム、Bタイプ音響フレームを読み込む音響フレーム読込手段と、
    前記Aタイプ音響フレームに対しては第1基本窓関数、第2基本窓関数、第3基本窓関数を用いてそれぞれ周波数変換を行い、埋め込むべき付加情報の値に基づいて、前記第1基本窓関数kw(1,i)あるいは前記第3基本窓関数kw(3,i)を第1合成窓関数W(1,i)として当該第1合成窓関数W(1,i)に対応するスペクトルである第1合成窓スペクトルを生成するとともに、前記第2基本窓関数kw(2,i)と前記第3基本窓関数kw(3,i)あるいは前記第1基本窓関数kw(1,i)を合成した第2合成窓関数W(2,i)に対応するスペクトルである第2合成窓スペクトルを生成し、
    前記Bタイプ音響フレームに対しては第4基本窓関数を用いて周波数変換を行い、前記第4基本窓関数に対応するスペクトルである第4基本窓スペクトルを生成する周波数変換手段と、
    前記生成された各窓スペクトルから、所定の低周波数帯に対応する低周波スペクトルをそれぞれ抽出し、前記埋め込むべき付加情報の情報配列の値に基づいて、前記抽出した各低周波スペクトルのうち、前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更すると共に、第4基本窓関数による低周波スペクトルの各成分を除去する低周波成分変更手段と、
    前記変更された低周波スペクトルを含む各窓スペクトルに対して周波数逆変換を行って、改変音響フレームを生成する周波数逆変換手段と、
    前記生成された改変音響フレームを順次出力する改変音響フレーム出力手段と、を有しており、
    前記第1基本窓関数、第2基本窓関数、第3基本窓関数、第4基本窓関数を加算すると、全区間固定値1になるように設定したものであり、
    前記第1基本窓関数と第2基本窓関数、前記第2基本窓関数と第3基本窓関数は、同一時刻において、双方が同時に0でない値をもつような箇所が存在するように設定され、
    前記第1基本窓関数と第3基本窓関数は、一方が0でない値をもつ場合に他方は必ず0となるように設定されるとともに、各窓関数の両側が非対称な余弦関数をもつように設定されるものであることを特徴とする音響信号に対する情報の埋め込み装置。
  2. 請求項1において、
    前記低周波成分変更手段は、所定の固定値Vを、低周波数帯の強度として設定すると共に、前記固定値Vを利用して、前記第1合成窓関数による低周波成分に所定の強度を与えることにより、前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更するものであることを特徴とする音響信号に対する情報の埋め込み装置。
  3. 請求項1または請求項2において、
    前記低周波成分変更手段は、所定の低周波数帯を300Hz以下の低周波領域に設定するものであることを特徴とする音響信号に対する情報の埋め込み装置。
  4. 請求項1において、
    前記音響信号が左右2チャンネルの時系列のサンプル列で構成されるステレオ音響信号であって、
    前記音響フレーム読込手段は、各チャンネルに対応する2種類の音響フレームをそれぞれ読み込み、前記周波数変換手段は、各チャンネルのAタイプ音響フレームに対して周波数変換を行い、埋め込むべき付加情報の値に基づいて、各チャンネル別の第1合成窓スペクトルおよび第2合成窓スペクトルを生成するとともに、各チャンネルのBタイプ音響フレームに対して周波数変換を行い、第4窓スペクトルを生成するものであり、
    前記低周波成分変更手段は、一方のチャンネルの窓スペクトルから抽出した所定の低周波数帯に対応する2セットのスペクトル集合に対して、前記埋め込むべき付加情報の情報配列の値に基づいて、前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更すると共に、第4窓関数の成分を削除し、前記一方のチャンネルにおいて行われた変更により削除された成分を補足するよう他方のチャンネルの前記スペクトル強度の前記スペクトル集合間の割合を変更するものであり、
    前記周波数逆変換手段は、各チャンネルについて、変更されたスペクトル強度を含むフレームスペクトルに対して周波数逆変換を行って改変音響フレームを生成し、前記改変音響フレーム出力手段は、各チャンネルについて、生成された改変音響フレームを順次出力するものであることを特徴とする音響信号に対する情報の埋め込み装置。
  5. 請求項4において、
    前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更するにあたり、前記一方のチャンネルにおいて前記第2合成窓関数による成分を削除し、削除された成分を補足するよう他方のチャンネルの対応する成分に加算し、
    前記一方のチャンネルにおいて削除されなかった前記第1合成窓関数による成分については、他方のチャンネルの対応する成分を削除して、当該削除した成分を前記一方のチャンネルの対応する成分に加算するものであることを特徴とする音響信号に対する情報の埋め込み装置。
  6. 時系列のサンプル列で構成される音響信号に対して、付加情報を聴取不能な状態で埋め込む方法であって、
    前記音響信号より、所定数Nのサンプルを音響フレームとして互いにN未満の所定サンプル数に対応する時刻だけずれた2種類のAタイプ音響フレーム、Bタイプ音響フレームを読み込む音響フレーム読込段階と、
    前記Aタイプ音響フレームに対しては第1基本窓関数、第2基本窓関数、第3基本窓関数を用いてそれぞれ周波数変換を行い、埋め込むべき付加情報の値に基づいて、前記第1基本窓関数kw(1,i)あるいは前記第3基本窓関数kw(3,i)を第1合成窓関数W(1,i)として当該第1合成窓関数W(1,i)に対応するスペクトルである第1合成窓スペクトルを生成するとともに、前記第2基本窓関数kw(2,i)と前記第3基本窓関数kw(3,i)あるいは前記第1基本窓関数kw(1,i)を合成した第2合成窓関数W(2,i)に対応するスペクトルである第2合成窓スペクトルを生成し、
    前記Bタイプ音響フレームに対しては第4基本窓関数を用いて周波数変換を行い、前記第4基本窓関数に対応するスペクトルである第4基本窓スペクトルを生成する周波数変換段階と、
    前記生成された各窓スペクトルから、所定の低周波数帯に対応する低周波スペクトルをそれぞれ抽出し、前記埋め込むべき付加情報の情報配列の値に基づいて、前記抽出した各低周波スペクトルのうち、前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更すると共に、第4基本窓関数による低周波スペクトルの各成分を除去する低周波成分変更段階と、
    前記変更された低周波スペクトルを含む各窓スペクトルに対して周波数逆変換を行って、改変音響フレームを生成する周波数逆変換段階と、
    前記生成された改変音響フレームを順次出力する改変音響フレーム出力段階手段と、を有しており、
    前記第1窓関数、第2窓関数、第3窓関数、第4窓関数を加算すると、全区間固定値1になるように設定したものであり、
    前記第1窓関数と第2窓関数、前記第2窓関数と第3窓関数は、同一時刻において、双方が同時に0でない値をもつような箇所が存在するように設定され、
    前記第1窓関数と第3窓関数は、一方が0でない値をもつ場合に他方は必ず0となるように設定されるとともに、各窓関数の両側が非対称な余弦関数をもつように設定されるものであることを特徴とする音響信号に対する情報の埋め込み方法。
  7. 時系列のサンプル列で構成される音響信号に対して、付加情報を聴取不能な状態で埋め込む装置としてコンピュータを機能させるプログラムであって、
    前記音響信号より、所定数Nのサンプルを音響フレームとして互いにN未満の所定サンプル数に対応する時刻だけずれた2種類のAタイプ音響フレーム、Bタイプ音響フレームを読み込む音響フレーム読込手段、
    前記Aタイプ音響フレームに対しては第1基本窓関数、第2基本窓関数、第3基本窓関数を用いてそれぞれ周波数変換を行い、埋め込むべき付加情報の値に基づいて、前記第1基本窓関数kw(1,i)あるいは前記第3基本窓関数kw(3,i)を第1合成窓関数W(1,i)として当該第1合成窓関数W(1,i)に対応するスペクトルである第1合成窓スペクトルを生成するとともに、前記第2基本窓関数kw(2,i)と前記第3基本窓関数kw(3,i)あるいは前記第1基本窓関数kw(1,i)を合成した第2合成窓関数W(2,i)に対応するスペクトルである第2合成窓スペクトルを生成し、
    前記Bタイプ音響フレームに対しては第4基本窓関数を用いて周波数変換を行い、前記第4基本窓関数に対応するスペクトルである第4基本窓スペクトルを生成する周波数変換手段、
    前記生成された各窓スペクトルから、所定の低周波数帯に対応する低周波スペクトルをそれぞれ抽出し、前記埋め込むべき付加情報の情報配列の値に基づいて、前記抽出した各低周波スペクトルのうち、前記第1合成窓関数と前記第2合成窓関数による低周波スペクトル強度の割合を変更すると共に、第4基本窓関数による低周波スペクトルの各成分を除去する低周波成分変更手段、
    前記変更された低周波スペクトルを含む各窓スペクトルに対して周波数逆変換を行って、改変音響フレームを生成する周波数逆変換手段、
    前記生成された改変音響フレームを順次出力する改変音響フレーム出力手段としてコンピュータを機能させ、
    前記第1窓関数、第2窓関数、第3窓関数、第4窓関数を加算すると、全区間固定値1になるように設定したものであり、
    前記第1窓関数と第2窓関数、前記第2窓関数と第3窓関数は、同一時刻において、双方が同時に0でない値をもつような箇所が存在するように設定され、
    前記第1窓関数と第3窓関数は、一方が0でない値をもつ場合に他方は必ず0となるように設定されるとともに、各窓関数の両側が非対称な余弦関数をもつように設定されるものであることを特徴とするプログラム。

JP2006152024A 2006-05-31 2006-05-31 音響信号に対する情報の埋め込み装置 Expired - Fee Related JP4760540B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006152024A JP4760540B2 (ja) 2006-05-31 2006-05-31 音響信号に対する情報の埋め込み装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006152024A JP4760540B2 (ja) 2006-05-31 2006-05-31 音響信号に対する情報の埋め込み装置

Publications (2)

Publication Number Publication Date
JP2007322673A true JP2007322673A (ja) 2007-12-13
JP4760540B2 JP4760540B2 (ja) 2011-08-31

Family

ID=38855543

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006152024A Expired - Fee Related JP4760540B2 (ja) 2006-05-31 2006-05-31 音響信号に対する情報の埋め込み装置

Country Status (1)

Country Link
JP (1) JP4760540B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000057399A1 (fr) * 1999-03-19 2000-09-28 Sony Corporation Procede d'inclusion d'information additionnelle et dispositif a cet effet, et procede de decodage d'information additionnelle et dispositif a cet effet
JP2001148670A (ja) * 1999-11-19 2001-05-29 Nippon Telegr & Teleph Corp <Ntt> 音響信号伝達方法および音響信号伝達装置
JP2001184080A (ja) * 1999-12-22 2001-07-06 Internatl Business Mach Corp <Ibm> 圧縮オーディオデータへの電子透かし方法およびそのシステム
JP2002044408A (ja) * 2000-06-29 2002-02-08 Internatl Business Mach Corp <Ibm> 電子透かし方法およびそのシステム
JP2002521702A (ja) * 1998-07-16 2002-07-16 ニールセン メディア リサーチ インコーポレイテッド 放送番組特定システムに於いて使用するための、音声信号に不可聴コードを付加することにより可聴信号をエンコードするシステム及び装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002521702A (ja) * 1998-07-16 2002-07-16 ニールセン メディア リサーチ インコーポレイテッド 放送番組特定システムに於いて使用するための、音声信号に不可聴コードを付加することにより可聴信号をエンコードするシステム及び装置
WO2000057399A1 (fr) * 1999-03-19 2000-09-28 Sony Corporation Procede d'inclusion d'information additionnelle et dispositif a cet effet, et procede de decodage d'information additionnelle et dispositif a cet effet
JP2001148670A (ja) * 1999-11-19 2001-05-29 Nippon Telegr & Teleph Corp <Ntt> 音響信号伝達方法および音響信号伝達装置
JP2001184080A (ja) * 1999-12-22 2001-07-06 Internatl Business Mach Corp <Ibm> 圧縮オーディオデータへの電子透かし方法およびそのシステム
JP2002044408A (ja) * 2000-06-29 2002-02-08 Internatl Business Mach Corp <Ibm> 電子透かし方法およびそのシステム

Also Published As

Publication number Publication date
JP4760540B2 (ja) 2011-08-31

Similar Documents

Publication Publication Date Title
JP4839775B2 (ja) 音響信号に対する情報の埋め込み装置、方法、プログラム
JP4660275B2 (ja) 音響信号に対する情報の埋め込み装置および方法
JP4629495B2 (ja) 音響信号に対する情報の埋め込み装置および方法
JP4867765B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP2007292827A (ja) 音響信号検索装置
JP4770194B2 (ja) 音響信号に対する情報の埋め込み装置および方法
JP5011849B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP4531653B2 (ja) 音響信号からの情報の抽出装置
JP4839721B2 (ja) 音響信号に対する情報の埋め込み装置
JP2006195061A (ja) 音響信号に対する情報の埋め込み装置、音響信号からの情報の抽出装置および音響信号再生装置
JP5082257B2 (ja) 音響信号検索装置
JP4713181B2 (ja) 音響信号に対する情報の埋め込み装置、音響信号からの情報の抽出装置、および音響信号再生装置
JP2006201527A (ja) 音響信号に対する情報の埋め込み装置、音響信号からの情報の抽出装置、音響信号再生装置および方法
JP4760540B2 (ja) 音響信号に対する情報の埋め込み装置
JP4713180B2 (ja) 音響信号からの情報の抽出装置
JP4760539B2 (ja) 音響信号に対する情報の埋め込み装置
JP4831335B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP5011855B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP4910959B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP4831333B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP4831334B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP4876978B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP5011872B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP5011865B2 (ja) 音響信号に対する情報の埋め込み装置および音響信号からの情報の抽出装置
JP2008129198A (ja) 音響信号に対する情報の埋め込み装置、音響信号からの情報の抽出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090427

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110412

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110523

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140617

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees