以下、本発明に係る指向性制御システム及び指向性制御方法の実施形態について、図面を参照して説明する。本実施形態の指向性制御システムは、例えば工場、公共施設(例えば図書館、イベント会場)、又は店舗(例えば小売店、銀行)に設置される監視システム(有人監視システム及び無人監視システムを含む)として用いられる。
なお、本発明は、指向性制御システムを構成する各装置(例えば後述する指向性制御装置)、又は指向性制御システムを構成する各装置が行う各動作(ステップ)を有する指向性制御方法として表現することも可能である。
(第1の実施形態)
(指向性制御システムのシステム構成)
図1(A)及び図1(B)は、本実施形態の指向性制御システム10,10Aのシステム構成を示すブロック図である。図1(A)に示す指向性制御システム10は、少なくとも1つのカメラ装置11,…,1nと、マイクアレイ装置(又は全方位マイクアレイ装置)2と、指向性制御装置3とを含む構成である。以下、nはカメラ装置の台数を表し、1以上の整数である。カメラ装置11〜1nと、マイクアレイ装置2と、指向性制御装置3とは、ネットワークNW1を介して相互に接続されている。
また、図1(B)に示す指向性制御システム10Aは、少なくとも1つのカメラ装置11,…,1nと、マイクアレイ装置2と、指向性制御装置3と、レコーダ装置4とを含む構成である。カメラ装置11〜1nと、マイクアレイ装置2と、指向性制御装置3と、レコーダ装置4とは、ネットワークNW2を介して相互に接続されている。
以下、指向性制御システム10の各部の動作を主に説明し、指向性制御システム10Aの各部の動作については指向性制御システム10の各部の動作と異なる内容について説明する。
少なくとも1つの撮像部としてのカメラ装置11〜1nは、ネットワークNW1に接続され、例えばイベント会場の室内の天井面や壁面(図81参照)又はスタンド(図4(A)参照)に固定して設置される監視カメラであり、ネットワークNW1を介して接続された監視システム制御室(不図示)からの遠隔操作によってパン動作、チルト動作、ズーム動作(例えばズームイン、ズームアウト)、撮像映像において指定された特定位置との測距動作及び測角動作を行う。
カメラ装置11〜1nは、光軸CXを中心とした既定の画角CARの範囲内に存在する監視対象の位置の映像(静止画及び動画を含む。以下同様)を撮像する。カメラ装置11〜1nは、撮像した映像データと後述する収音方向(θMAh,θMAv)を算出するための入力パラメータを、ネットワークNW1を介して、指向性制御装置3又はレコーダ装置4に送信する。
収音部としてのマイクアレイ装置2は、ネットワークNW1に接続され、例えばイベント会場の室内の天井や壁面又はスタンド(図4(A)参照)に固定して設置され、複数のマイクロホン22,23(図2参照)が一様に設けられたマイクロホンと各マイクロホンの動作を制御するための制御部(不図示)とを少なくとも含む構成である。
マイクアレイ装置2は、各々のマイクロホン(又はマイクロホンユニット)22,23を用いて、監視対象となる収音方向の音声を収音し、各々のマイクロホン22,23が収音した音声データを、ネットワークNW1又はネットワークNW2を介して、指向性制御装置3又はレコーダ装置4に送信する。
マイクアレイ装置2は、後述する信号処理部33からの指向性形成指示に応じて、信号処理部33が導出(以下、「算出」という)した収音方向(θMAh,θMAv)に、各々のマイクロホン22,23の収音指向性を形成する。
これにより、マイクアレイ装置2は、収音指向性が形成された収音方向(θMAh,θMAv)から収音した音声データの音量レベルを増大でき、収音指向性が形成されない方向から収音した音声データの音量レベルを低減できる。なお、収音方向(θMAh,θMAv)の算出方法については後述する。
マイクアレイ装置2の外観については、図2を参照して後述する。なお、マイクアレイ装置2の各マイクロホン22,23は、無指向性マイクロホンでも良いし、双指向性マイクロホン、単一指向性マイクロホン、鋭指向性マイクロホン、超指向性マイクロホン(例えばガンマイク)又はこれらの組み合わせが用いられても良い。
ネットワークNW1,NW2は、有線通信ネットワーク(例えばイントラネット、インターネット)、又は無線通信ネットワーク(例えば無線LAN(Local Area Network))である。
指向性制御装置3は、ネットワークNW1又はネットワークNW2に接続され、例えば監視システム制御室(不図示)に設置される据置型のPC(Personal Computer)でも良いし、ユーザが携帯可能な携帯電話機、タブレット端末、スマートフォンでも良い。
指向性制御装置3は、通信部31と、操作部32と、信号処理部33と、ディスプレイ装置36と、スピーカ装置37と、メモリ38とを少なくとも含む構成である。信号処理部33は、座標変換処理部34zと、出力制御部35とを少なくとも含む。
通信部31は、ネットワークNW1又はネットワークNW2を介して、カメラ装置11〜1n又はマイクアレイ装置2が送信した映像データ又は音声データを受信して信号処理部33に出力する。
操作部32は、ユーザの入力操作の内容を信号処理部33に通知するためのユーザインターフェース(UI:User Interface)であり、例えばマウス、キーボード等のポインティングデバイスである。また、操作部32は、例えばディスプレイ装置36の画面に対応して配置され、ユーザの指FG又はスタイラスペンによって入力操作が可能なタッチパネル又はタッチパッドを用いて構成されても良い。
操作部32は、ユーザの入力操作に応じて、ユーザが音量レベルの増大又は低減を所望する範囲、即ち図4(B)に示す位置A’又は範囲Bを表す座標データを信号処理部33に出力する。
信号処理部33は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、指向性制御装置3の各部の動作を全体的に統括するための制御処理、他の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。
座標変換処理部34zは、操作部32が出力した位置A’又は範囲Bを表す座標データを用いて、マイクアレイ装置2の設置位置から後述する収音範囲中心位置(又は音声位置)Aに向かう方向を表す座標(θMAh,θMAv)を収音方向として算出する。収音方向(θMAh,θMAv)のうち、θMAhはマイクアレイ装置2から収音範囲中心位置Aに向かう俯角θMAの水平角を表し、θMAvはマイクアレイ装置2から収音範囲中心位置Aに向かう俯角θMAの垂直角を表す。なお、収音方向(θMAh,θMAv)の算出処理については図面を参照して詳しく後述する。
なお、収音範囲中心位置Aは、操作部32がディスプレイ装置36の画面においてユーザの指FG又はスタイラスペンによって指定された位置A’に対応する実際の監視対象となる現場の位置である。
出力制御部35は、ディスプレイ装置36及びスピーカ装置37の動作を制御し、カメラ装置11〜1nから送信された映像データをディスプレイ装置36に再生出力させ、マイクアレイ装置2から送信された音声データをスピーカ装置37に音声出力させる。
表示部としてのディスプレイ装置36は、カメラ装置11〜1nが撮像した映像データを画面に表示する。
音声出力部としてのスピーカ装置37は、マイクアレイ装置2が収音した音声データ、又は座標変換処理部34zが算出した収音方向(θMAh,θMAv)に収音指向性が形成された後にマイクアレイ装置2が収音した音声データを音声出力する。なお、ディスプレイ装置36及びスピーカ装置27は、指向性制御装置3とは別々の構成としても良い。
メモリ38は、例えばRAM(Random Access Memory)を用いて構成され、指向性制御装置3の各部の動作時のワークメモリとして機能する。
レコーダ装置4は、カメラ装置11〜1nが撮像した映像データと、マイクアレイ装置2が収音した音声データとを記録する。レコーダ装置4は、カメラ装置11〜1nが撮像した映像データと、マイクアレイ装置2が収音した音声データとを対応付けて記録する。なお、ネットワークNW1,NW2が相互に接続され、指向性制御システム10−10A間において、各種データが転送されても良い。
図2(A)〜図2(E)は、マイクアレイ装置2の外観図である。図2(A)〜図2(E)に示すマイクアレイ装置2は、外観及び複数のマイクロホンの配置位置が異なり、マイクアレイ装置2自身の機能とは同等である。
図2(A)に示すマイクアレイ装置2は、円盤状の筐体21に配置された複数のマイクロホン22,23を含む構成である。複数のマイクロホン22,23は筐体21の面上に沿って配置されている。具体的には、筐体21と同一の中心を有する大きい円状に沿って複数のマイクロホン22が、筐体21と同一の中心を有する小さい円状に沿って複数のマイクロホン23が、同心円状に配置されている。
大きい円状に沿って配置された複数のマイクロホン22は、互いの間隔が広く、直径が大きく、低い音域に適した特性を有する。一方、小さい円状に沿って配置された複数のマイクロホン23は、互いの間隔が狭く、直径が小さく、高い音域に適した特性を有する。
図2(B)に示すマイクアレイ装置2Aは、円盤状の筐体21の面上に、複数のマイクロホン22が縦横に一様に配列された構成である。マイクアレイ装置2Aは、複数のマイクロホン22が縦横の直線状に配置されているので、音声データの収音指向性の形成処理の演算量を低減できる。なお、縦方向又は横方向の1列だけに、複数のマイクロホン22が配置されても良い。
図2(C)に示すマイクアレイ装置2Bは、図2(A)に示すマイクアレイ装置2に比べ、円盤状の筐体21Bの径が小さいが、円盤状の筐体21Bの面上に複数のマイクロホン22が円状に沿って一様に配置された構成である。各々のマイクロホン22の間隔が短いので、マイクアレイ装置2Bは、高い音域に適した特性を有する。
図2(D)に示すマイクアレイ装置2Cは、内側に開口部21aが形成されたドーナツ型形状の筐体21Cと、同筐体21Cに一様に設けられた複数のマイクロホン22とを含む構成である。複数のマイクロホン22は、筐体21Cに対して同心円状に沿って配置されている。なお、開口部21aの内側には、例えばカメラ装置(例えば全方位カメラ装置)が挿通した状態にて取り付けられても良い。
図2(E)に示すマイクアレイ装置2Dは、矩形を有する筐体21Dの面上に、複数のマイクロホン22が矩形に沿って一様に配置されている。筐体21Dが矩形に形成されているので、コーナー等の場所であってもマイクアレイ装置2Dの設置を簡易化できる。
図3は、マイクアレイ装置2が音声の収音方向として所定方向θに収音指向性を形成する内容を説明する原理図である。図3では、遅延和方式を用いた指向性制御処理の原理について簡単に説明する。音源80から発した音波は、マイクアレイ装置2の各マイクロホン221,222,223,…,22(n−1),22nに対し、ある一定の角度(入射角=(90−θ)[度])で入射する。図3に示す入射角θは、マイクアレイ装置2から収音範囲中心位置Aに向かう俯角θMAの水平角θMAhでも垂直角θMAvでも良い。
音源80は、例えばマイクアレイ装置2が収音する収音方向に存在するカメラ装置11の被写体の会話であり、マイクアレイ装置2の筐体21の面上に対し、所定角度θの方向に存在する。また、マイクロホン221,222,223,…,22(n−1),22n間の間隔dは一定とする。
音源80から発した音波は、最初にマイクロホン221に到達して収音され、次にマイクロホン222に到達して収音され、同様に次々に収音され、最後にマイクロホン22nに到達して収音される。
なお、マイクアレイ装置2の各マイクロホン221,222,223,…,22(n−1),22nの位置から音源80に向かう方向は、例えば音源80が人物の会話時の音声である場合に、各マイクロホンからユーザがディスプレイ装置36の画面上に指定した位置に対応する収音範囲中心位置に向かう方向と同じである。
ここで、音波がマイクロホン221,222,223,…,22(n−1)に到達した時刻から最後に収音されたマイクロホン22nに到達した時刻までには、到達時間差τ1,τ2,τ3,…,τn−1が生じる。このため、各々のマイクロホン221,222,223,…,22(n−1),22nが収音した音声データがそのまま加算された場合には、位相がずれたまま加算されるため、音波の音量レベルが全体的に弱め合うことになってしまう。
なお、τ1は音波がマイクロホン221に到達した時刻と音波がマイクロホン22nに到達した時刻との差分の時間であり、τ2は音波がマイクロホン222に到達した時刻と音波がマイクロホン22nに到達した時刻との差分の時間であり、同様に、τn−1は音波がマイクロホン22(n−1)に到達した時刻と音波がマイクロホン22nに到達した時刻との差分の時間である。
本実施形態では、マイクアレイ装置2は、マイクロホン221,222,223,…,22(n−1),22n毎に対応して設けられたA/D変換器241,242,243,…,24(n−1),24nと、遅延器251,252,253,…,25(n−1),25nと、加算器26と、を有する構成である(図3参照)。
即ち、マイクアレイ装置2は、各マイクロホン221,222,223,…,22(n−1),22nが収音したアナログの音声データを、A/D変換器241,242,243,…,24(n−1),24nにおいてデジタルの音声データにAD変換する。
更に、マイクアレイ装置2は、遅延器251,252,253,…,25(n−1),25nにおいて、各々のマイクロホン221,222,222,…,22(n−1),22nにおける到達時間差に対応する遅延時間を与えて位相を揃えた後、加算器26において遅延処理後の音声データを加算する。これにより、マイクアレイ装置2は、各マイクロホン221,222,223,…,22(n−1),22nに、所定角度θの方向に音声データの収音指向性を形成できる。
例えば図3では、遅延器251,252,253,…,25(n−1),25nに設定された各遅延時間D1,D2,D3,…,D(n−1),Dnは、それぞれ到達時間差τ1,τ2,τ3,…,τ(n−1)に相当し、数式(1)により示される。
L1は、マイクロホン221とマイクロホン22nとにおける音波到達距離の差である。L2は、マイクロホン222とマイクロホン22nとにおける音波到達距離の差である。L3は、マイクロホン223とマイクロホン22nとにおける音波到達距離の差であり、同様に、L(n−1)は、マイクロホン22(n−1)とマイクロホン22nとにおける音波到達距離の差である。Vsは音波の速度(音速)である。L1,L2,L3,…,L(n−1),Vsは既知の値である。図3では、遅延器25nに設定される遅延時間Dnは0(ゼロ)である。
このように、マイクアレイ装置2は、遅延器251,252,253,…,25(n−1),25nに設定される遅延時間D1,D2,D3,…,Dn−1,Dnを変更することで、各々のマイクロホン22,23が収音した音声データの収音指向性を簡易に形成することができる。
なお、図3に示す説明の処理は、マイクアレイ装置2が行うことを前提として説明したが、信号処理部33が同様にマイクロホンの数と同数のAD変換器及び遅延器と1つの加算器とを有する構成であれば、信号処理部33が上述した処理を行っても良い。
次に、本実施形態の指向性制御システム10の動作概要について、図4(A)及び図4(B)を参照して説明する。図4は、本実施形態の指向性制御システム10の動作概要を示す図である。図4(A)は、1つのカメラ装置11が画角CARの範囲内に映る被写体を撮像する様子と、マイクアレイ装置2が収音方向に存在する被写体の人物の会話と収音方向に存在しないスピーカ装置SPが出力する音楽とを収音する様子とを示す図である。図4(B)は、マイクアレイ装置2から、ディスプレイ装置36に表示された映像の中からユーザの指FGが指定した位置A’に対応する収音範囲中心位置Aに向かう方向を収音方向として収音された音声データがスピーカ装置37から出力される様子を示す図である。
指向性制御システム10では、カメラ装置11は、既定された画角CARの範囲内に映る被写体(例えば2人の人物)及びスピーカ装置SPを撮像する。マイクアレイ装置2は、周囲の音声を収音する。図4(A)では、被写体の2人の人物は会話しており、スピーカ装置SPは音楽(♪〜)を音声出力している。カメラ装置11が撮像した映像データは、指向性制御装置3のディスプレイ装置36に表示される(図4(B)参照)。
ここで、ユーザの指FGがディスプレイ装置36の位置A’、即ち会話している2人の人物の略中心位置又は範囲Bを指定すると、指向性制御装置3は、位置A’又は範囲Bを表す座標データを用いて、マイクアレイ装置2の設置位置から収音範囲中心位置Aに向かう方向を示す座標(θMAh,θMAv)を、マイクアレイ装置2の収音方向として算出する。マイクアレイ装置2は、指向性制御装置3が算出した(θMAh,θMAv)の座標データを用いて、マイクアレイ装置2から収音範囲中心位置Aに向かう方向に、収音指向性MIXを形成する。
従って、マイクアレイ装置2は、収音指向性MIXが形成された方向に存在する2人の人物の会話(Hello)の音量レベルを、収音指向性MIXが形成された方向に存在しないスピーカ装置SPの音楽(♪〜)の音量レベルより増大できる。
これにより、指向性制御装置3は、スピーカ装置37に、収音指向性MIXが形成された方向に存在する2人の人物の会話(Hello)の音量レベルを、収音指向性MIXが形成された方向に存在しないスピーカ装置SPの音楽(♪〜)の音量レベルより大きく音声出力させることができる(図4(B)参照)。
次に、本実施形態の指向性制御システム10,10Aの初期設定(キャリブレーション)について、図5を参照して説明する。図5は、本実施形態の指向性制御システム10,10Aの初期設定(キャリブレーション)の動作手順を説明するフローチャートである。初期設定(キャリブレーション)は、マイクアレイ装置2が形成する収音指向性の方向を指向性制御装置3の信号処理部33が算出するために必要となる入力パラメータを取得する動作を含む。
以下、説明を簡単にするために、指向性制御システム10,10Aのうち指向性制御システム10を例示し、更に、指向性制御システム10は1つのカメラ装置11を含む構成であるとして説明する。
図5において、指向性制御システム10を構成するカメラ装置11及びマイクアレイ装置2が所定の位置(例えばイベント会場の室内の天井面や壁面又はスタンド)に固定するように初期設置される(ST1)。本実施形態では、カメラ装置11及びマイクアレイ装置2はそれぞれ異なる位置に設置される。
カメラ装置11及びマイクアレイ装置2が初期設置された後、信号処理部33がマイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出するために必要となる各入力パラメータの測定が行われる(ST2)。ステップST2では、ユーザが測定器(例えばレーザ距離計)を用いて測定する場合、又はカメラ装置11がカメラ装置11自身の公知技術の機能を用いて測定して取得する場合、或いは設置空間(例えば建物)の設計図(レイアウト)を用いて取得する場合が含まれる。ステップST2における各入力パラメータは後述する実施形態毎に異なるので、各入力パラメータの詳細な内容は後述する。
ステップST2の後、ステップST2において測定された各入力パラメータが指向性制御装置3の信号処理部33に入力される(ST3)。例えばカメラ装置11は、カメラ装置11自身の公知技術の機能によって取得した入力パラメータを指向性制御装置3の通信部31に送信する。通信部31は、カメラ装置11が送信した入力パラメータを信号処理部33に出力する。
また、マイクアレイ装置2は、マイクアレイ装置2自身の公知技術の機能によって取得した入力パラメータを指向性制御装置3の通信部31に送信する。通信部31は、マイクアレイ装置2が送信した入力パラメータを信号処理部33に出力する。
また、指向性制御装置3を操作するユーザの入力操作に応じて、操作部32が入力パラメータを信号処理部33に出力する。
信号処理部33は、ステップST3において取得した各入力パラメータをメモリ38に一時的に保存する(ST4)。以上により、指向性制御システム10の初期設定(キャリブレーション)の動作は終了する。
次に、本実施形態の指向性制御システム10の指向性制御装置3がマイクアレイ装置2の収音方向を算出する動作手順について、図6,80,81を参照して説明する。図6は、本実施形態の指向性制御システム10の指向性制御装置3がマイクアレイ装置2の収音方向を算出する動作手順を説明するフローチャートである。図6では、本実施形態の指向性制御システム10の指向性制御装置3がマイクアレイ装置2の収音方向を算出する全体的な動作手順が示され、図80,81では基本的な算出の考え方を示す。詳細な算出過程については図7以降を参照して後述する。
図6において、指向性制御装置3は、ディスプレイ装置36の画面に表示されている映像データの中から任意の位置A’又は範囲Bの指定を、操作部32を介して受け付ける(ST11)。指向性制御装置3は、ディスプレイ装置36の画面に表示されている映像データの任意の位置A’又は範囲Bの指定を受け付けたことをカメラ装置11に送信する。
ステップST11の後、カメラ装置11は、位置A’又は範囲Bの指定を受け付けたことを指向性制御装置3から受信した場合、カメラ装置11の設置位置を起点として、ステップST11において指定された画面の位置A’又は範囲Bに対応する収音範囲中心位置Aまでの距離、水平角及び垂直角(LCA,θCAh,θCAv)の全部又は一部の座標を取得する(ST12)。
カメラ装置11は、カメラ装置11の設置位置を起点として、ステップST11において指定された画面の位置A’又は範囲Bに対応する収音範囲中心位置Aまでの距離、水平角及び垂直角(LCA,θCAh,θCAv)の全部又は一部の座標を指向性制御装置3に送信する。
指向性制御装置3の信号処理部33は、ステップST12において取得したカメラ装置11の設置位置を起点として、ステップST11において指定された画面の位置A’又は範囲Bに対応する収音範囲中心位置Aまでの距離、水平角及び垂直角(LCA,θCAh,θCAv)の全部又は一部の座標と、図5に示すステップST4においてメモリ38に一時的に保存している各入力パラメータとを用いて、マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出する(ST13)。
指向性制御装置3は、ステップST13において算出した座標(θMAh,θMAv)のデータを含む指向性形成指示をマイクアレイ装置2に送信する。マイクアレイ装置2は、指向性制御装置3からの指向性形成指示に応じて、指向性制御装置3が算出した座標(θMAh,θMAv)の収音方向に、各々のマイクロホン22,23の収音指向性を形成する(ST14)。
これにより、マイクアレイ装置2は、収音指向性が形成された収音方向(θMAh,θMAv)から収音した音声データの音量レベルを増大でき、収音指向性が形成されない方向から収音した音声データの音量レベルを低減できる。以上により、指向性制御システム10の指向性制御装置3がマイクアレイ装置2の収音方向を算出する動作は終了する。
(カメラ装置はパン・チルト・ズーム情報を送るだけの場合)
またこれまでの説明では、図6に示すステップST12の動作がカメラ装置11で行われているが、カメラ装置11は、パン方向の角度情報とチルト方向の角度とズーム情報とを指向性制御装置3へ送り、指向性制御装置3が、カメラ装置11から収音範囲中心位置Aまでの距離、水平角及び垂直角(LCA,θCAh,θCAv)を算出しても良く、以下の各実施形態においても同様である。
なお、本実施形態の指向性制御システム10において、マイクアレイ装置2が音声を収音するタイミングは、ステップST14の直後に限定されず、例えばマイクアレイ装置2の電源がONされた後でも良い。
(カメラ座標系からマイク座標系への座標変換処理の一般化に関する説明)
図80は、部屋の壁面に取り付けられたカメラCXと、部屋の天井面に取り付けられた全方位マイクアレイ装置MXと、音源位置Pとの位置関係を示す説明図である。図81は、PTZカメラ装置1のカメラ座標系から変換した全方位マイクアレイ装置2のマイク座標系を用いて算出される、全方位マイクアレイ装置2から音源Pの位置に向かう水平角及び垂直角の説明図である。
図80に示すように、例えばカメラCX(例えばPTZカメラ装置1)が部屋の壁面に取り付けられ、全方位マイクアレイ装置MX(例えば全方位マイクアレイ装置2)が部屋の天井面に取り付けられている場合を想定する。この場合、空間全体を一つの座標系で考察すると、カメラCXから全方位マイクアレイ装置MXまでの位置(即ち、ベクトルVCXMX)が既知であれば、カメラCXから見た音源Pの位置(即ち、ベクトルVCXP)を用いて、全方位マイクアレイ装置MXから見た音源Pの位置(即ち、ベクトルVMXP)が分かる。即ち、数式(2)が成り立つ(図80参照)。
しかし、カメラCXにより撮像された画像における音源Pの位置はカメラCX独自の座標系(以下、「カメラ座標系」という)に対応する座標により示され、更に、全方位マイクアレイ装置MXの収音対象となる音源Pの位置は全方位マイクアレイ装置MX独自の座標系(以下、「マイク座標系」という)に対応する座標により示される。このため、カメラCXから見たカメラ座標系による音源Pの位置を用いて、全方位マイクアレイ装置MXから見た音源Pの位置を算出するためには、カメラ座標系からマイク座標系への座標変換処理が必要となる。
マイク座標系に対応する座標(X,Y,Z)は、カメラ座標系に対応する座標(x,y,z)と所定の座標変換行列Uとを用いて、数式(3)により示される。
具体的な一例として、カメラ座標系のx軸、y軸、z軸において、z軸を中心にγ度回転させ、x軸を中心にα度回転させ、y軸を中心にβ度回転させ、カメラCXの座標を(x0,y0,z0)ほど平行移動させる場合には、座標変換行列Uは、数式(4)により示される。なお、数式(4)において、平行移動や座標軸の回転行列の積算順序や回転軸の選択はこれに限定されるものではない。
座標変換行列Uを算出するためには、カメラCX及び全方位マイクアレイ装置MXが取り付けられる空間(例えば部屋)の設計図(レイアウト)を用いる方法が考えられる(例えば図81参照)、設計図が無い場合には実測結果を用いる方法も考えられる。また、座標変換行列Uは、1台のカメラCXに対して1台の全方位マイクアレイ装置2が取り付けられた場合に算出される。但し、複数のカメラCXと1台の全方位マイクアレイ装置MXとが取り付けられた場合や、複数のカメラCXと複数の全方位マイクアレイ装置MXとが取り付けられた場合にも、それぞれのカメラCX−全方位マイクアレイ装置MX間において座標変換行列Uを算出する必要がある。
ここで、例えばカメラCXとしてのPTZカメラ装置1と全方位マイクアレイ装置MXとしての全方位マイクアレイ装置2との間の距離を示すカメラ座標系における座標(x0,y0,z0)のデータとカメラ座標系及びマイク座標系が予め規定されていて、カメラの水平基準軸のなす角ξがわかっているとする。ユーザはPTZカメラ装置1の直交座標系における座標のデータと角度ξを、レイアウト図から求め、操作部32から入力する。
以下、指向性制御装置3の信号処理部33の座標変換処理部34zにおける座標変換行列Uと座標変換行列Uを用いたマイク座標系における収音方向座標(Θ,Φ)の算出例について、図81を参照して説明する。
図81に示すように、収音空間(例えば部屋)の壁面にPTZカメラ装置1が取り付けられ、更に、収音空間(例えば部屋)の天井面に全方位マイクアレイ装置2が取り付けられている。壁面は水平な床面に対して鉛直(垂直)であり、更に、天井面は水平な床面に対して平行(水平)とする。
PTZカメラ装置1におけるカメラ座標系は、原点OCがPTZカメラ装置1のパン方向及びチルト方向それぞれへの回転中心であり、PTZカメラ装置1の台座と平行にx−y平面が規定され、このx−y平面は壁面と平行である。また、x軸は鉛直上方向を向いている。
先ず、PTZカメラ装置1は、数式(5)に従って、カメラ座標系の球座標系における座標(r,θ,φ)を直交座標系における座標(x,y,z)に変換し、変換処理後の座標(x,y,z)のデータを指向性制御装置3に送信する。
PTZカメラ装置1から見た全方位マイクアレイ装置2の原点OMは、PTZカメラ装置1の直交座標系から見ると、(x0,y0,z0)の位置に設置されている。全方位マイクアレイ装置2におけるマイク座標系は、原点OMが全方位マイクアレイ装置2の中心であり、全方位マイクアレイ装置2のアレイ形成面がX−Y平面となり、このX−Y平面は天井面と平行である。また、Z軸はアレイ形成面(X−Y平面)に垂直であり、鉛直下方向を向いている。
指向性制御装置3の信号処理部33の座標変換処理部34zは、PTZカメラ装置1から受信したPTZカメラ装置1の直交座標系における座標(x,y,z)のデータを用いて、PTZカメラ装置1の原点OCを(x0,y0,z0)ほど平行移動させ、その後y軸を中心に90度回転させ、更に、z軸を中心にξ度回転させることにより、全方位マイクアレイ装置2の直交座標系における座標(X,Y,Z)のデータを算出する(数式(6)参照)。なお、数式(6)において、平行移動や座標軸の回転行列の積算順序は特に限定されるものではなく、数学における座標変換の考え方にしたがって、回転軸周りの回転と平行移動の順によって、各ベクトルの内容は変化する。
指向性制御装置3の信号処理部33の座標変換処理部34zは、数式(6)の算出結果を用いて、数式(7)に従って、全方位マイクアレイ装置2の直交座標系における座標(X,Y,Z)から全方位マイクアレイ装置2の球座標系における座標(R,Θ,Φ)に変換する。これにより、指向性制御装置3は、全方位マイクアレイ装置2の球座標系における座標(Θ,Φ)を収音方向座標(Θ,Φ)として算出できる。更に、指向性制御装置3の信号処理部33の出力制御部35は、収音方向座標(Θ,Φ)に指向性を形成する。
なお、上述した収音方向座標(Θ,Φ)の算出例は、図81に示すように、PTZカメラ装置1の位置を基準として説明したが、PTZカメラ装置1の位置を基準とする場合に限定されず、例えば音源Pの位置を基準としても良い。
また、PTZカメラ装置1が直交座標に変換後のデータを送るように説明したが、カメラ座標系のデータを指向性制御装置3に送信して、指向性制御装置3で座標変換しても良い。
以下、カメラ装置11及び全方位マイクアレイ装置2が取り付けられる空間(例えば部屋)の設計図(レイアウト図)が無く、カメラ装置11からの音声位置までの実測値を基にして、カメラ装置11から見た音声位置に対する全方位マイクアレイ装置2の収音方向を具体的に算出する方法の例を説明する。
(マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)の算出方法)
次に、指向性制御装置3の信号処理部33がマイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出する方法について、図7〜図18を参照して詳細に説明する。ここでは合計4種類の算出方法を説明する。
(第1の算出方法)
第1の算出方法では、カメラ装置11の光軸CXの方向に基準点Oを設ける。
信号処理部33は、
(1)カメラ装置11とマイクアレイ装置2との間の距離LCMの水平成分(方向)の距離LCMhと、
(2)カメラ装置11から基準点Oまでの距離LCO及び俯角θCOと、
(3)マイクアレイ装置2から基準点Oとの距離LMO及び俯角θMOと、
(4)カメラ装置11、マイクアレイ装置2、基準点Oの水平面からの各高さHC,HM,HOと、
(5)カメラ装置11から収音範囲中心位置Aまでの水平角θCAh及び垂直角θCAvと、
(6)収音範囲中心位置Aの水平面からの高さHAと、を基に、
マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出する。
第1の算出方法では、図5に示すステップST2における入力パラメータは、
(1)カメラ装置11とマイクアレイ装置2との間の距離LCMの水平成分(方向)の距離LCMhと、
(2)カメラ装置11から基準点Oまでの距離LCO及び俯角θCOと、
(3)マイクアレイ装置2から基準点Oとの距離LMO及び俯角θMOと、
(4)カメラ装置11、マイクアレイ装置2、基準点Oの水平面からの各高さHC,HM,HOである。
(1)カメラ装置11とマイクアレイ装置2との間の距離LCMの水平成分(方向)の距離LCMhは、カメラ装置11とマイクアレイ装置2とが初期設置された場合に決まる固定値である。
(2)カメラ装置11から基準点Oまでの距離LCO及び俯角θCOは、例えばユーザが基準点Oの位置においてレーザ距離計をカメラ装置11に向けることで、簡易に測定できる。
(3)マイクアレイ装置2から基準点Oとの距離LMO及び俯角θMOは、例えばユーザが基準点Oの位置においてレーザ距離計をマイクアレイ装置2に向けることで、簡易に測定できる。
(4)カメラ装置11、マイクアレイ装置2、基準点Oの水平面からの各高さHC,HM,HOは、カメラ装置11、マイクアレイ装置2の各初期設定時に決まる固定値であり、更に、基準点Oの位置が決められた時に定まる固定値である。
また、第1の算出方法では、図6に示すステップST12における座標(LCA,θCAh,θCAv)のうち、
(5)カメラ装置11から収音範囲中心位置Aまでの水平角θCAh及び垂直角θCAv、が用いられ、これらはカメラ装置11における公知技術の機能によって取得される。
更に、第1の算出方法では、
(6)収音範囲中心位置Aの水平面からの高さHAは、予め決められた固定値であり、例えばユーザの指FGが位置A’を指定する時に、収音範囲中心位置Aの周囲に人物がいる場合には人物の大きさをHAとして選択された値又は入力された値である。又は、ユーザの指FGが位置A’を指定した時に、指向性制御装置3が指定された位置に人物(例えば大人又は子供)がいることを判定した場合に、既定の値(例えば1.5m又は0.8m)が用いられても良い。
図7は、第1の算出方法におけるマイクアレイ装置2の収音方向を算出するための基準点Oと指定された位置A’とのディスプレイ装置36の画面上における位置関係を示す説明図である。第1の算出方法における基準点Oは、カメラ装置11の光軸CXの方向に存在するので、ディスプレイ装置36の画面の中心点に位置する。
また、以下の第1の算出方法の説明において、ユーザの指FGが指定した位置A’は基準点Oと異なる位置であり、基準点Oの右下方向の位置であるとする(図7参照)。
図8は、第1の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、基準点O及び収音範囲中心位置Aの各位置関係を示す図である。図8(A)は、斜視図である。図8(B)は、水平方向上面図である。図8(C)は、図8(B)のK−K’線における垂直方向断面図である。
図9は、第1の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、基準点O及び収音範囲中心位置Aの各位置関係を示す図である。図9(A)は、斜視図である。図9(B)は、水平方向上面図である。図9(C)は、図9(B)のQ−Q’線における垂直方向断面図である。
図10は、第1の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、基準点O及び収音範囲中心位置Aの各位置関係を示す図である。図10(A)は、斜視図である。図10(B)は、水平方向上面図である。図10(C)は、図10(B)のR−R’線における垂直方向断面図である。
以下、信号処理部33におけるマイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)の第1の算出方法について、具体的に説明する。第1の算出方法では、マイクアレイ装置2の水平角の0度方向基準線はカメラ装置11に向かう方向である。また、以下の各算出方法における説明の算出動作は信号処理部33により行われるものとして説明するが、信号処理部33を座標変換処理部34zに読み替えても良い。
信号処理部33は、カメラ装置11から基準点Oまでの距離LCO及び俯角θCOを用いて、カメラ装置11から基準点Oまでの距離LCOの水平成分の距離LCOhを数式(8)に従って算出する。
信号処理部33は、マイクアレイ装置2から基準点Oまでの距離LMO及び俯角θMOを用いて、マイクアレイ装置2から基準点Oまでの距離LMOの水平成分の距離LMOhを数式(9)に従って算出する。
信号処理部33は、数式(8),(9)の各算出結果を用いて、図8(B)に示す△COMに対する余弦定理により、数式(10)に従って、カメラ装置11から基準点Oまでの俯角θCOの水平角θCOhの余弦値cosθCOhを算出する。
信号処理部33は、数式(8),(9)の各算出結果を用いて、図8(B)に示す△COMに対する余弦定理により、数式(11)に従って、カメラ装置11から基準点Oまでの俯角θMOの水平角θMOhの余弦値cosθMOhを算出する。
信号処理部33は、カメラ装置11及び基準点Oの水平面からの各高さHC,HOと、数式(8)及び(10)の各算出結果とを用いて、数式(12)に従って、カメラ装置11から基準点Oまでの距離LCOの垂直成分の距離LCOvを算出する。
信号処理部33は、マイクアレイ装置2及び基準点Oの水平面からの各高さHM,HOと、数式(9)及び(11)の各算出結果とを用いて、数式(13)に従って、マイクアレイ装置2から基準点Oまでの距離LMOの垂直成分の距離LMOvを算出する。
信号処理部33は、カメラ装置11及びマイクアレイ装置2の水平面からの各高さHC,HMと、カメラ装置11とマイクアレイ装置2との間の距離LCMの水平成分の距離LCMhとを用いて、数式(14)に従って、カメラ装置11とマイクアレイ装置2との距離LCMの垂直成分の距離LCMv(=LCM)を算出する。
信号処理部33は、数式(12)〜(14)の各算出結果を用いて、図8(C)に示す△COMに対する余弦定理により、数式(15)に従って、カメラ装置11から基準点Oまでの俯角θCOの垂直角θCOvの余弦値cosθCOvを算出する。
信号処理部33は、数式(14)の算出結果と、カメラ装置11及びマイクアレイ装置2の水平面からの各高さHC,HMとを用いて、数式(16)に従って、図8(C)に示すカメラ装置11からマイクアレイ装置2に向かう方向と水平面との間の角度θδの正弦値sinθδを算出する。
次に、信号処理部33は、数式(15),(16)の各算出結果と、カメラ装置11から収音範囲中心位置Aまでの垂直角θCAvと、収音範囲中心位置Aの水平面からの高さHAと、カメラ装置11の水平面からの高さHCとを用いて、数式(17)に従って、カメラ装置11と収音範囲中心位置Aまでの距離LCAを算出する。
信号処理部33は、数式(15)〜(17)の各算出結果と、カメラ装置11から収音範囲中心位置Aまでの垂直角θCAvとを用いて、数式(18)に従って、カメラ装置11と収音範囲中心位置Aまでの距離LCAの水平成分の距離LCAhを算出する。
信号処理部33は、数式(10),(18)の各算出結果と、カメラ装置11から収音範囲中心位置Aまでの水平角θCAhと、カメラ装置11とマイクアレイ装置2との間の距離LCMの水平成分の距離LCMhとを用いて、図8(B)に示す△CAMに対する余弦定理により、数式(19)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの距離の水平成分の距離LMAhを算出する。
信号処理部33は、数式(18),(19)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の水平方向の距離LCMhとを用いて、図8(B)に示す△CAMに対する余弦定理により、数式(20)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの水平角θMAhの余弦値cosθMAhを算出する。
これにより、信号処理部33は、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの水平角θMAhを、数式(21)に従って、算出できる。
更に、信号処理部33は、数式(21)の算出結果と、マイクアレイ装置2の水平面からの高さHMと、収音範囲中心位置Aの水平面からの高さHAとを用いて、図10(C)に示す△MAPに対する正接により、数式(22)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの垂直角θMAvの正接値tanθMAvを算出する。
これにより、信号処理部33は、数式(23)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの垂直角θMAvを算出できる。
以上により、第1の算出方法では、指向性制御装置3は、カメラ装置11の光軸CXの方向に基準点Oを設け、カメラ装置11と基準点Oとの距離LCO及び俯角θCOと、マイクアレイ装置2と基準点Oとの距離LMO及び俯角θMOと、カメラ装置11とマイクアレイ装置2との距離LCMの水平成分の距離LCMhと、カメラ装置11、マイクアレイ装置2、基準点Oの水平面からの各高さHC,HM,HOとを各入力パラメータとして用いる。
更に、指向性制御装置3は、これらの各入力パラメータを用いて、マイクアレイ装置2の位置を基準として、カメラ装置11が監視対象として撮像する所定範囲の映像のうちユーザの指FGによって指定された位置A’に対応する収音範囲中心位置Aに向かう方向、即ち、マイクアレイ装置2から収音範囲中心位置Aに向かう方向を示す座標(θMAh,θMAv)を収音方向として算出する。
これにより、本実施形態の指向性制御システム10は、第1の算出方法によれば、マイクアレイ装置2の位置を基準として、指定された収音範囲中心位置Aの方向に音声の収音指向性を高精度に形成でき、該当方向の音声データを高精度に収音することができる。
(第2の算出方法)
第2の算出方法では、カメラ装置11の光軸CXの方向ではなく、マイクアレイ装置2から鉛直下方向に糸STRによってつり下げられたマーカMAKの位置を基準点Oとして設ける。
なお、糸STRの長さは、マイクアレイ装置2の水平面からの高さHM未満とする。更に、マーカMAKは、例えばカメラ装置11が撮像した場合にユーザが視覚的に認識し易い色のボール等である。
信号処理部33は、
(1)カメラ装置11からマイクアレイ装置2の鉛直下方向につり下げられたマーカMAKまでの距離LCOと、
(2)マイクアレイ装置2からマーカMAKまでの距離LMOと、
(3)カメラ装置11の光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の水平角θCMh(=θCOh)及び垂直角θCOvと、
(4)カメラ装置11から収音範囲中心位置Aまでの距離LCA、水平角θCAh及び垂直角θCAvと、を基に、マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出する。
第2の算出方法では、図5にステップST2における入力パラメータは、
(1)カメラ装置11からマイクアレイ装置2の鉛直下方向につり下げられたマーカMAKまでの距離LCOと、
(2)マイクアレイ装置2からマーカMAKまでの距離LMOと、
(3)カメラ装置11の光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の水平角θCMh及び垂直角θCOvである。
(1)カメラ装置11からマイクアレイ装置2の鉛直下方向につり下げられたマーカMAKまでの距離LCOは、カメラ装置11の公知技術の機能によって取得される。例えば、カメラ装置11がマーカMAKにピントを合わせて撮像した場合の焦点距離をLCOとして用いることができる。
(2)マイクアレイ装置2からマーカMAKまでの距離LMOは、糸STRの長さに等しい。
(3)カメラ装置11の光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の水平角θCMh及び垂直角θCOvは、カメラ装置11の公知技術の機能によって取得される。
また、第2の算出方法では、
(4)カメラ装置11から収音範囲中心位置Aまでの距離LCA、水平角θCAh及び垂直角θCAvは、図6に示すステップST12においてカメラ装置11の公知技術の機能によって取得される。
図11は、第2の算出方法におけるマイクアレイ装置2の収音方向を算出するための基準点Oと指定された位置A’とのディスプレイ装置36の画面上における位置関係を示す説明図である。第2の算出方法における基準点Oは、カメラ装置11の光軸CXの方向には存在しないので、ディスプレイ装置36の画面の中心点には位置せず、例えばディスプレイ装置36の画面の中心点より左上方向に位置する。
また、以下の第2の算出方法の説明において、ユーザの指FGが指定した位置A’は基準点O及び光軸方向を示す画面の中心点の位置と異なる位置であり、基準点Oの右下方向の位置であるとする(図11参照)。
図12は、第2の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、マーカMAKの位置(基準点O)及び収音範囲中心位置Aの各位置関係を示す図である。図12(A)は、斜視図である。図12(B)は、水平方向上面図である。図12(C)は、図12(B)のK−K’線における垂直方向断面図である。
図13は、第2の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、マーカMAKの位置(基準点O)及び収音範囲中心位置Aの各位置関係を示す図である。図13(A)は、斜視図である。図13(B)は、水平方向上面図である。図13(C)は、図13(B)のR−R’線における垂直方向断面図である。
以下、信号処理部33におけるマイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)の第2の算出方法について、具体的に説明する。第2の算出方法では、マイクアレイ装置2の水平角の0度方向基準線はカメラ装置11に向かう方向であり、カメラ装置11とマイクアレイ装置2の水平面からの各高さHC,HMは同じとする。
信号処理部33は、カメラ装置11からマイクアレイ装置2の鉛直下方向につり下げられたマーカMAKまでの距離LCOと、マイクアレイ装置2からマーカMAKまでの距離LMOとを用いて、数式(24)に従って、カメラ装置11からマーカMAKに向かう方向とカメラ装置11からマイクアレイ装置2に向かう方向との間の角度θ’COvの正弦値sinθ’COvを算出する。
信号処理部33は、数式(24)の算出結果と、カメラ装置11からマイクアレイ装置2の鉛直下方向につり下げられたマーカMAKまでの距離LCOとを用いて、数式(25)に従って、カメラ装置11とマイクアレイ装置2との間の距離LCMを算出する。
信号処理部33は、数式(24),(25)の各算出結果と、カメラ装置11から収音範囲中心位置Aまでの距離LCA及び垂直角θCAvと、カメラ装置11の光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の垂直角θCOvとを用いて、数式(26)に従って、カメラ装置11から収音範囲中心位置Aまでの距離LCAの水平成分の距離LCAhを算出する。
信号処理部33は、数式(25),(26)の各算出結果と、カメラ装置11から収音範囲中心位置Aまでの水平角θCAhと、カメラ装置11の光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の水平角θCMhとを用いて、図12(B)に示す△CAMに対する余弦定理により、数式(27)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの距離の水平成分の距離LMAhを算出する。
信号処理部33は、数式(25),(26),(27)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の水平方向の距離LCMhとを用いて、図12(B)に示す△CAMに対する余弦定理により、数式(28)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの水平角θMAhの余弦値cosθMAhを算出する。
これにより、信号処理部33は、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの水平角θMAhを、数式(29)に従って、算出できる。
更に、信号処理部33は、カメラ装置11から収音範囲中心位置Aまでの距離LCA及び水平角θCAhと、カメラ装置11の光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の水平角θCMhとを用いて、数式(30)に従って、カメラ装置11から収音範囲中心位置Aまでの距離LCAの垂直成分の距離LCAvを算出する。
信号処理部33は、数式(25),(26),(30)の各算出結果を用いて、図12(B)に示す△CAMに対する余弦定理により、数式(31)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの距離の垂直成分の距離LMAvを算出する。
信号処理部33は、数式(25),(30),(31)の各算出結果を用いて、図12(C)に示す△MAPに対する余弦定理により、数式(32)に従って、マイクアレイ装置2からカメラ装置11に向かう方向とマイクアレイ装置2から収音範囲中心位置Aに向かう方向との間の角度θ’MAvの余弦値cosθ’MAvを算出する。
信号処理部33は、図13(C)に示す△MASに対する正弦により、数式(33)に従って、マイクアレイ装置2からカメラ装置11に向かう方向とマイクアレイ装置2から収音範囲中心位置Aに向かう方向との間の角度θ’MAvの正弦値sinθ’MAvを算出する。
信号処理部33は、数式(27),(33)の各算出結果を用いて、式(34)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの垂直角θMAvの正接値tanθMAvを算出できる。
これにより、信号処理部33は、数式(35)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの垂直角θMAvを算出できる。
以上により、第2の算出方法では、指向性制御装置3は、マイクアレイ装置2の鉛直下方向に糸でつり下げられたマーカMAKを基準点Oとして設け、カメラ装置11とマーカMAKとの距離LCO及び俯角θCOの垂直角θCOvと、カメラ装置11の光軸CXの方向からカメラ装置11からマイクアレイ装置2に向かう方向との間の角度θCMhと、マイクアレイ装置2からマーカMAKまでの距離LMOとを各入力パラメータとして用いる。
更に、指向性制御装置3は、これらの各入力パラメータを用いて、マイクアレイ装置2の位置を基準として、カメラ装置11が監視対象として撮像する所定範囲の映像のうちユーザの指FGによって指定された位置A’に対応する収音範囲中心位置Aに向かう方向、即ち、マイクアレイ装置2から収音範囲中心位置Aに向かう方向を示す座標(θMAh,θMAv)を収音方向として算出する。
これにより、本実施形態の指向性制御システム10は、第2の算出方法によれば、第1の算出方法に比べて、各入力パラメータの数が少ないので、マイクアレイ装置2から収音範囲中心位置Aに向かう方向を示す座標(θMAh,θMAv)をより簡易に算出できる。更に、指向性制御システム10は、マイクアレイ装置2の位置を基準として、指定された収音範囲中心位置Aの方向に音声の収音指向性を高精度に形成でき、該当方向の音声データを高精度に収音することができる。
なお、第2の算出方法において、マーカMAKの位置はカメラ装置11の光軸CXの方向とマイクアレイ装置2の鉛直下方向との交点の位置でも良い。この場合には、光軸CXの方向とカメラ装置11からマーカMAKに向かう方向との間の角度θCOvが0(ゼロ)となるので、信号処理部33におけるマイクアレイ装置2から収音範囲中心位置Aに向かう方向の座標(θMAh,θMAv)の算出量が低減する。
また、第2の算出方法において、マイクアレイ装置2がレーザ光を照射する機能を有する場合には、マーカMAKを用いずに、マイクアレイ装置2が鉛直下方向にレーザ光を照射し、カメラ装置11がレーザ光の照射地点(例えば、マイクアレイ装置2の鉛直下方向のある高さの地点)の撮像画像を画像解析する。これにより、信号処理部33は、上述した第2の算出方法と同様に、マイクアレイ装置2から収音範囲中心位置Aに向かう方向の座標(θMAh,θMAv)を算出できる。
(第3の算出方法)
第3の算出方法では、カメラ装置11の光軸CXの方向に基準点Oとしての音源を設ける。
信号処理部33は、
(1)カメラ装置11とマイクアレイ装置2との間の距離LCMと、
(2)カメラ装置11から光軸方向の所定の音源位置(基準点O)までの距離LCOと、
(3)マイクアレイ装置2から音源位置(基準点O)までの水平角θMOh及び垂直角θMOvと、
(4)カメラ装置11、マイクアレイ装置2及び音源位置(基準点O)の水平面からの各高さHC,HM,HOと、
(5)カメラ装置11から収音範囲中心位置Aまでの距離LCA、水平角θCAh及び垂直角θCAvと、を基に、マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出する。
第3の算出方法では、図5に示すステップST2における入力パラメータは、
(1)カメラ装置11とマイクアレイ装置2との間の距離LCMと、
(2)カメラ装置11から光軸方向の所定の音源位置(基準点O)までの距離LCOと、
(3)マイクアレイ装置2から音源位置(基準点O)までの水平角θMOh及び垂直角θMOvと、
(4)カメラ装置11、マイクアレイ装置2及び音源位置(基準点O)の水平面からの各高さHC,HM,HOである。
(1)カメラ装置11とマイクアレイ装置2との間の距離LCMは、カメラ装置11とマイクアレイ装置2とが初期設置された場合に決まる固定値である。
(2)カメラ装置11から光軸方向の所定の音源位置(基準点O)までの距離LCOは、例えばユーザが基準点Oの位置においてレーザ距離計をカメラ装置11に向けることで、簡易に測定できる。
(3)マイクアレイ装置2から音源位置(基準点O)までの水平角θMOh及び垂直角θMOvは、マイクアレイ装置2の公知技術の機能(例えば音源検出機能)を用いて測定できる。
(4)カメラ装置11、マイクアレイ装置2、基準点Oの水平面からの各高さHC,HM,HOは、カメラ装置11、マイクアレイ装置2の各初期設定時に決まる固定値であり、更に、基準点Oの位置が決められた時に定まる固定値である。
また、第3の算出方法では、
(5)カメラ装置11から収音範囲中心位置Aまでの距離LCA、水平角θCAh及び垂直角θCAvは、図6に示すステップST12においてカメラ装置11の公知技術の機能によって取得される。
また、第3の算出方法では、基準点Oとなる音源がカメラ装置11の光軸CXの方向に存在しているので、マイクアレイ装置2の収音方向を算出するための基準点Oと指定された位置A’とのディスプレイ装置36の画面上における位置関係は図7に示す位置関係となるので、説明を省略する。
図14は、第3の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、音源位置(基準点O)及び収音範囲中心位置Aの各位置関係を示す図である。図14(A)は、斜視図である。図14(B)は、水平方向上面図である。図14(C)は、図14(B)のK−K’線における垂直方向断面図である。
図15は、第3の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、音源位置(基準点O)及び収音範囲中心位置Aの各位置関係を示す図である。図15(A)は、斜視図である。図15(B)は、水平方向上面図である。図15(C)は、図15(B)のQ−Q’線における垂直方向断面図である。
図16は、第3の算出方法の指向性制御システム10のカメラ装置11、マイクアレイ装置2、音源位置(基準点O)及び収音範囲中心位置Aの各位置関係を示す図である。図16(A)は、斜視図である。図16(B)は、水平方向上面図である。図16(C)は、図16(B)のR−R’線における垂直方向断面図である。
以下、信号処理部33におけるマイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)の第3の算出方法について、具体的に説明する。第3の算出方法では、マイクアレイ装置2の水平角の0度の基準線はカメラ装置11に向かう方向ではない方向であり、カメラ装置11とマイクアレイ装置2の水平面からの各高さHC,HMは同じとする。
先ず、信号処理部33は、カメラ装置11から光軸方向の所定の音源位置(基準点O)までの距離LCOと、カメラ装置11及び音源位置(基準点O)の水平面からの各高さHC,HOとを用いて、数式(36)に従って、カメラ装置11から光軸方向の所定の音源位置(基準点O)までの距離LCOの水平成分の距離LCOhを算出する。
信号処理部33は、マイクアレイ装置2から音源位置(基準点O)までの垂直角θMOvと、マイクアレイ装置2及び音源位置(基準点O)の水平面からの各高さHM,HOとを用いて、数式(37)に従って、マイクアレイ装置2から光軸方向の音源位置(基準点O)までの距離LMOの水平成分の距離LMOhを算出する。
信号処理部33は、数式(36),(37)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図14(B)に示す△COMに対する余弦定理により、数式(38)に従って、カメラ装置11から音源(基準点O)に向かう方向の俯角θCOの水平角θCOhの余弦値cosθCOhを算出し、更に同様にして、数式(39)に従って、マイクアレイ装置2の0度方向基準線から音源(基準点O)に向かう方向の俯角(θMO−θMC)の水平角(θMOh−θMCh)の余弦値cos(θMOh−θMCh)を算出する。
これにより、信号処理部33は、マイクアレイ装置2の0度方向基準線とマイクアレイ装置2からカメラ装置11に向かう方向との間の角度θMChを、数式(40)に従って、算出できる。
次に、信号処理部33は、数式(36),(38)の各算出結果と、カメラ装置11及び音源位置(基準点O)の水平面からの各高さHC,HOとを用いて、数式(41)に従って、カメラ装置11から音源(基準点O)までの距離LCOの垂直成分の距離LCOvを算出する。
信号処理部33は、数式(37),(39)の各算出結果と、マイクアレイ装置2及び音源位置(基準点O)の水平面からの各高さHM,HOとを用いて、数式(42)に従って、マイクアレイ装置2から音源(基準点O)までの距離LMOの垂直成分の距離LMOvを算出する。
信号処理部33は、数式(41),(42)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の距離LCM(=LCMv)とを用いて、図14(C)に示す△COMに対する余弦定理により、数式(43)に従って、カメラ装置11から音源(基準点O)に向かう方向とカメラ装置11からマイクアレイ装置2に向かう方向との間の角度θCOvの余弦値cosθCOvを算出する。
次に、信号処理部33は、数式(43)の算出結果と、カメラ装置11から収音範囲中心位置Aまでの距離LCA及び垂直角θCAvとを用いて、数式(44)に従って、カメラ装置11から収音範囲中心位置Aまでの距離LCAの水平成分の距離LCAhを算出する。
信号処理部33は、数式(39),(44)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図14(B)に示す△CAMに対する余弦定理により、数式(45)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの距離LMAの水平成分の距離LMAhを算出する。
信号処理部33は、数式(44),(45)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図14(B)に示す△CAMに対する余弦定理により、数式(46)に従って、マイクアレイ装置2の0度方向基準線から収音範囲中心位置Aに向かう方向の俯角(θMA−θMC)の水平角(θMAh−θMCh)の余弦値cos(θMAh−θMCh)を算出する。
これにより、信号処理部33は、マイクアレイ装置2の0度方向基準線から収音範囲中心位置Aに向かう方向の俯角θMAの水平角θMAhを、数式(47)に従って、算出する。
更に、信号処理部33は、数式(40)の算出結果と、カメラ装置11から収音範囲中心位置Aまでの距離LCA及び水平角θCAhとを用いて、数式(48)に従って、カメラ装置11から収音範囲中心位置Aまでの距離LCAの垂直成分の距離LCAhを算出する。
信号処理部33は、数式(41),(48)の各算出結果と、カメラ装置11から収音範囲中心位置Aまでの水平角θCAhと、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図14(C)に示す△CAMに対する余弦定理により、数式(49)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの距離LMAの垂直成分の距離LMAvを算出する。
信号処理部33は、数式(48),(49)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図14(C)に示す△CAMに対する余弦定理により、数式(50)に従って、図14(B)に示すK−K’断面におけるマイクアレイ装置2から収音範囲中心位置Aに向かう方向とマイクアレイ装置2からカメラ装置11に向かう方向との間の角度θ’MAvの余弦値cosθ’MAvを算出する。
信号処理部33は、数式(49),(50)の各算出結果を用いて、数式(51)に従って、マイクアレイ装置2,収音範囲中心位置Aの水平面からの各高さHM,HAの差分(HM−HA)を算出する。
信号処理部33は、数式(45),(51)の各算出結果を用いて、図16(C)に示す△MSAに対する正接により、数式(52)に従って、マイクアレイ装置2の0度方向基準線から収音範囲中心位置Aに向かう俯角θMAの垂直角θMAvの正接値tanθMAvを算出する。
これにより、信号処理部33は、数式(53)に従って、マイクアレイ装置2の0度方向基準線から収音範囲中心位置Aまでの俯角θMAの垂直角θMAvを算出できる。
以上により、第3の算出方法では、指向性制御装置3は、カメラ装置11の光軸CXの方向に基準点Oとしての音源を設け、カメラ装置11と音源(基準点O)との距離LCOと、マイクアレイ装置2から音源(基準点O)に向かう俯角θMOの水平角θMOh及び垂直角θMOvと、カメラ装置11とマイクアレイ装置2との距離LCMと、カメラ装置11、マイクアレイ装置2、基準点Oの水平面からの各高さHC,HM,HOとを各入力パラメータとして用いる。
更に、指向性制御装置3は、これらの各入力パラメータを用いて、マイクアレイ装置2の位置を基準として、カメラ装置11が監視対象として撮像する所定範囲の映像のうちユーザの指FGによって指定された位置A’に対応する収音範囲中心位置Aに向かう方向、即ち、マイクアレイ装置2から収音範囲中心位置Aに向かう方向を示す座標(θMAh,θMAv)を収音方向として算出する。
これにより、本実施形態の指向性制御システム10は、第3の算出方法によれば、マイクアレイ装置2の0度方向基準線がカメラ装置11を向く方向に予め設定されていない場合であっても、マイクアレイ装置2の位置を基準として、指定された収音範囲中心位置Aの方向に音声の収音指向性を高精度に形成でき、該当方向の音声データを高精度に収音することができる。
なお、第1〜第3の各算出方法では、マイクアレイ装置2の収音方向を示す座標の計算を簡易にするために、当該座標を示す垂直角及び水平角を近似的に算出している箇所があるが、例えば幾何学的な位置関係を用いて、より厳密に算出しても良い。
(第4の算出方法)
第4の算出方法では、カメラ装置11とマイクアレイ装置2とが専用冶具50を用いて連結して固定され、例えば室内の天井面に設置される(図17又は図18参照)。
専用冶具50は、マイクアレイ装置2の例えば0度方向基準線とカメラ装置11の例えば0度方向基準線とを対向させ、カメラ装置11とマイクアレイ装置2とが水平面からの各高さが同一となるように連結して固定する。なお、専用冶具50の形状は、カメラ装置11とマイクアレイ装置2とを所定の水平角及び垂直角にて連結して固定する形状であれば特に問わない。
専用冶具50を用いてカメラ装置11とマイクアレイ装置2とを連結して固定することで、第4の算出方法では、カメラ装置11とマイクアレイ装置2との間の距離LCMは、専用冶具のパラメータに応じた固定値となる。
信号処理部33は、
(1)専用冶具50の長さと、
(2)カメラ装置11から収音範囲中心位置(点A)までの距離LCA、水平角θCAh及び垂直角θCAvと、を基に、マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)を算出する。
第4の算出方法では、図5に示すステップST2における入力パラメータは、
(1)専用冶具50の長さ、
即ち、どの種類の専用冶具50が用いられるかという情報である。例えば専用冶具50の長さが5mであれば、カメラ装置11とマイクアレイ装置2との間の距離LCMも5mとなり、専用冶具50の長さが10mであれば、カメラ装置11とマイクアレイ装置2との間の距離LCMも10mとなる。
また、第4の算出方法では、
(2)カメラ装置11から収音範囲中心位置Aまでの距離LCA、水平角θCAh及び垂直角θCAvは、図6に示すステップST12においてカメラ装置11の公知技術の機能によって取得される。
図17は、第4の算出方法のマイクアレイ装置2とカメラ装置11とが専用冶具50を用いて連結して設置された場合のマイクアレイ装置2とカメラ装置11と収音範囲中心位置Aとの位置関係を示す説明図である。図17(A)は、斜視図である。図17(B)は、水平方向上面図である。図17(C)は、図17(B)のK−K’線における垂直方向断面図である。
図18は、第4の算出方法のマイクアレイ装置2とカメラ装置11とが専用冶具50を用いて連結して設置された場合のマイクアレイ装置2とカメラ装置11と収音範囲中心位置Aとの位置関係を示す説明図である。図18(A)は、斜視図である。図18(B)は、水平方向上面図である。図18(C)は、図18(B)のQ−Q’線における垂直方向断面図である。
以下、信号処理部33におけるマイクアレイ装置2の収音方向を定める座標(θMAh,θMAv)の第4の算出方法について、具体的に説明する。
信号処理部33は、カメラ装置11から収音範囲中心位置Aまでの距離LCA及び垂直角θCAvを用いて、数式(54)に従って、カメラ装置11から収音範囲中心位置Aまでの距離LCAの水平成分の距離LCAhを算出する。
信号処理部33は、数式(54)の算出結果と、カメラ装置11から収音範囲中心位置(点A)までの水平角θCAhと、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図17(B)に示す△CAMに対する余弦定理により、数式(55)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの距離の水平成分の距離LMAhを算出する。
信号処理部33は、数式(54),(55)の各算出結果と、カメラ装置11とマイクアレイ装置2との間の距離LCMとを用いて、図17(B)に示す△CAMに対する余弦定理により、数式(56)に従って、マイクアレイ装置2から収音範囲中心位置Aに向かう俯角θMAの水平角θMAhの余弦値cosθMAhを算出する。
これにより、信号処理部33は、数式(57)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの水平角θMAhを算出できる。
信号処理部33は、図17(C)に示す△CAPに対する正弦により、マイクアレイ装置2と収音範囲中心位置Aとの水平面からの各高さの差分(HM−HA)を、数式(58)に従って、算出する。
更に、信号処理部33は、図18(C)に示す△MASに対する正接により、数式(59)に従って、マイクアレイ装置2から収音範囲中心位置Aに向かう俯角θMAの垂直角θMAvの正接値tanθMAvを算出する。
これにより、信号処理部33は、数式(60)に従って、マイクアレイ装置2から収音範囲中心位置Aまでの俯角θMAの垂直角θMAvを算出できる。
以上により、第4の算出方法では、指向性制御装置3は、専用冶具50を用いてマイクアレイ装置2とカメラ装置11とが連結して固定され、例えば室内の天井面に設置された状態において、専用冶具50の長さ、即ち、マイクアレイ装置2とカメラ装置11との間の距離LCMを入力パラメータとして用いる。
更に、指向性制御装置3は、この入力パラメータを用いて、マイクアレイ装置2の位置を基準として、カメラ装置11が監視対象として撮像する所定範囲の映像のうちユーザの指FGによって指定された位置A’に対応する収音範囲中心位置Aに向かう方向、即ち、マイクアレイ装置2から収音範囲中心位置Aに向かう方向を示す座標(θMAh,θMAv)を収音方向として算出する。
これにより、本実施形態の指向性制御システム10は、第4の算出方法によれば、第1〜第3の各算出方法に比べて、各入力パラメータの数が少なく、カメラ装置11とマイクアレイ装置2との各0度方向基準線とが対向するので、マイクアレイ装置2から収音範囲中心位置Aに向かう方向の座標(θMAh,θMAv)をより簡易に算出できる。更に、指向性制御システム10は、マイクアレイ装置2の位置を基準として、指定された収音範囲中心位置Aの方向に音声の収音指向性を高精度に形成でき、該当方向の音声データを高精度に収音することができる。
なお、上述した各実施形態では、指向性制御装置3がマイクアレイ装置2の収音方向の座標(θMAh,θMAv)の算出を開始するタイミングは、ユーザの指FGがディスプレイ装置36の画面の任意の位置A’又は範囲Bが指定された時として説明したが、これに限定されない。
例えば、カメラ装置11〜1nが既定された所定間隔毎にパン方向、チルト方向又はパン方向及びチルト方向に回転したことでカメラ装置11〜1nの画角CARの範囲が異なった時でも良い。これにより、指向性制御システム10は、予め収音方向を決めておくことで、マイクアレイ装置2の収音方向をユーザが指定することなく、既定の収音方向に音声の収音指向性を形成できる。
なお、上述した各算出方法では、マイクアレイ装置2は水平面に対して平行な面に沿って設置されていることを前提として説明した。しかし、マイクアレイ装置2が設置される天井面が斜めに傾いている場合がある。
この場合、マイクアレイ装置2の収音方向の水平角θMAh又は垂直角θMAvは、上述した第1〜第4の算出方法によって信号処理部33が算出した値をそのまま用いることができず、天井面が傾いている角度の分を補正する必要がある。
以下、マイクアレイ装置2が設置される室内の天井面が水平面に対して平行な方向ではなく斜めに傾いている場合に、信号処理部33におけるマイクアレイ装置2の収音方向(θMAh,θMAv)のうち例えば垂直角θMAvの補正について、図19を参照して説明する。図19(A)、(B)は、マイクアレイ装置2とカメラ装置11とが設置された天井が水平面に対してαMvの方向に傾いている場合の収音方向の垂直角の説明図である。図19(C)は、マイクアレイ装置2の収音方向θMAvの説明図である。
上述した第1〜第4の各算出方法によって信号処理部33が算出したマイクアレイ装置2の収音方向の例えば垂直角は、水平面に平行な面HRを基準とした収音方向の垂直角θ’MAvとなる。図19(B)において、垂直角θ’MAvの方向は、マイクアレイ装置2の筐体の長手方向NTの方向を基準とした角度ではない。
このため、信号処理部33は、垂直角θ’MAvを算出し、更に、室内の天井面の傾き角度αMvを算出する。具体的には、信号処理部33は、カメラ装置11とマイクアレイ装置2との距離LCMの水平成分の距離LCMhと、カメラ装置11,マイクアレイ装置2の水平面からの各高さHC,HMとを用いて、数式(61)に従って、室内の天井面の傾き角度αMvの余弦値cosαMvを算出する。
これにより、信号処理部33は、数式(61)の算出結果を用いて、室内の天井面の傾き角度αMvを算出する(数式(62)参照)。
信号処理部33は、数式(62)の算出結果と、上述した第1〜第4の各算出方法に従って算出した垂直角θ’MAvとを用いて、マイクアレイ装置2の収音方向の垂直角θMAvを、数式(63)に従って、算出する。
これにより、指向性制御装置3は、マイクアレイ装置2が設置される室内の天井面が水平面に対して平行でなく所定の角度に傾いている場合でも、マイクアレイ装置2の収音方向を適正に算出でき、マイクアレイ装置2の位置を基準として、指定された収音範囲中心位置Aの方向に音声の収音指向性を高精度に形成でき、該当方向の音声データを高精度に収音することができる。
以下に後述する第2〜第5の各実施形態は、カメラ装置からの撮像方向の水平角と、マイクアレイ装置からの収音方向の水平角との各基準方向を一致させるキャリブレーション方法に関する。
ここで、カメラ装置及びマイクアレイ装置の各動作を制御して、カメラ装置が撮像する方向の音声データを得る制御装置が知られている(例えば参考特許文献1参照)。特許文献1に示す制御装置は、例えばTV会議システムが利用可能な会議室に設置され、全方位の画像を取得出来るカメラ装置と、集音範囲を変更可能なマイクアレイ装置との各動作を制御する。
参考特許文献1に示す制御装置は、音声により話者方向を検出して、全方位の画像から話者を中心とした領域だけの映像を切り出してデータ量を圧縮し、マイクアレイ装置のビーム方向を話者に向け、話者の会話以外の雑音を低減させる。
(参考特許文献1) 日本国特許第4252377号公報
例えば、カメラ装置とマイクアレイ装置とが一体的に組み込まれて同軸上に配置された場合には、カメラ装置の光軸とマイクアレイ装置の物理的な中心軸とが共通する。従って、カメラ装置が撮像している映像中の被写体の会話音声をマイクアレイ装置が収音する場合、マイクアレイ装置の収音方向を示す座標(水平角,垂直角)の垂直角と、カメラ装置の撮像方向を示す座標(水平角,垂直角)の垂直角とは同一となる。
しかし、カメラ装置とマイクアレイ装置とが一体的に組み込まれて同軸上に配置され、カメラ装置とマイクアレイ装置との各々が単独に動作するものを組み合わせて使用する場合、マイクアレイ装置の収音方向を示す座標(水平角,垂直角)の水平角と、カメラ装置の撮像方向を示す座標(水平角,垂直角)の水平角とは、マイクアレイ装置及びカメラ装置の各水平角の基準方向(例えば0°方向)が一致していなければ、同一とならない。
上述した参考特許文献1では、カメラ装置とマイク装置とが音響的に透明なシリンダを介して一体的に接続された構成ではあるが、カメラ装置及びマイク装置の各水平角の基準方向を一致させることは言及されていない。また、カメラ装置とマイク装置とはそれぞれ単独で使用出来る構造になっていない。
従って、各々が単独に動作するカメラ装置とマイク装置とを一体的に用いる際、カメラ装置及びマイク装置の各水平角の基準方向が一致しないと、パン方向におけるカメラ装置の撮影範囲とマイク装置の収音範囲とが合わなくなる。このため、カメラ装置が撮像している映像中の被写体の会話音声がマイク装置により適正に収音されないことがあるという課題があった。
そこで、本発明に係る第2〜第5の各実施形態では、上述した従来の課題を解決するために、カメラ装置とマイクアレイ装置とを一体的に用いる場合に、カメラ装置の撮像方向を示す座標の水平角とマイクアレイ装置の収音方向を示す座標の水平角との各基準方向を一致させるキャリブレーション方法の例を説明する。
以下、本発明に係るキャリブレーション方法の第2〜第5の各実施形態について、図面を参照して説明する。以下の各実施形態のキャリブレーション方法は、例えば全方位カメラ装置と全方位マイクアレイ装置とが同軸上に一体的に配置された収音システムにおいて、全方位カメラ装置の撮像方向を示す座標の水平角と全方位マイクアレイ装置の収音方向を示す座標の水平角とを一致させる方法である。各実施形態の収音システムは、例えば所定の収音空間内の所定の設置面(例えばイベント会場の天井面)に設置される。
(第2の実施形態)
第2の実施形態のキャリブレーション方法について、図20(A)、図20(B)及び図20(C)を参照して説明する。図20(A)は、第2の実施形態の収音システム1Zにおけるキャリブレーション方法を表す模式図である。図20(B)は、全方位カメラ装置3zを鉛直方向の下側から見た平面図である。図20(C)は、全方位マイクアレイ装置5を鉛直方向の下側から見た平面図である。
全方位カメラ装置3zは、不図示の光学系(例えば魚眼レンズ)及び撮像部(例えばイメージセンサ)が内蔵された筐体がドーム状の透明なカバー3aにより覆われ、全方位マイクアレイ装置5の筐体中心に形成された開口部13の内側の内周空間に嵌め込まれる。全方位カメラ装置3zは、例えば監視カメラとしての機能を有し、不図示のネットワークを介して、中央制御室のホストコンピュータ(不図示)に接続され、全方位の映像をモニター(不図示)に表示する。また、全方位カメラ装置3zは、ホストコンピュータからの遠隔操作に応じて、指定方向の映像を切り出してモニター(不図示)に表示することも可能である。
全方位マイクアレイ装置5は、開口部13の内側の内周空間に全方位カメラ装置3zの筐体が嵌め込まれるリング状の筐体17を有し、開口部13の周囲であって筐体17の円周方向に沿って複数のマイクロホンユニット18が同心円状に配置される。マイクロホンユニット18は、例えば高音質小型エレクトレットコンデンサーマイクロホン(ECM:Electret Condenser Microphone)が用いられ、以下の各実施形態においても同様である。全方位マイクアレイ装置5は、所定の収音方向に指向性を形成し、指向性が形成された収音方向の音声を強調して収音する。
なお、本実施形態を含む各実施形態において、全方位カメラ装置及び全方位マイクアレイ装置の構成及び動作は上述した説明の内容と同一であるが、各実施形態において異なる内容については必要に応じて説明する。
ここで、全方位マイクアレイ装置5と全方位カメラ装置3zとを同軸i方向に取り付けることで一体化された収音システム1Zを設置する場合、全方位カメラ装置3zの撮像方向と全方位マイクアレイ装置5の収音方向とを揃えるために、全方位カメラ装置3zと全方位マイクアレイ装置5の各水平角の基準方向(例えば0°方向)を一致させる必要がある。
本実施形態では、同軸i方向に対して直交する平面における、全方位カメラ装置3z及び全方位マイクアレイ装置5の各水平角の基準方向を一致させるために、全方位カメラ装置3zのカバー3aの外周には、図20(B)中の上方向に沿って突起した係止部材の一例としてのキー11yが形成されている。キー11yは、全方位カメラ装置3zの撮像方向を示す座標(水平角,垂直角)の水平角の基準方向g、つまり水平角0°の方向に形成されている。
また、全方位マイクアレイ装置5の開口部13の周縁部には、全方位カメラ装置3zのカバー3aが開口部13に挿通される際、キー11yが嵌合する係止溝の一例としてのキー溝15が形成されている。キー溝15は、全方位マイクアレイ装置5の収音方向を示す座標(水平角,垂直角)の水平角の基準方向h、つまり水平角0°の方向に形成されている。なお、本実施形態では、キー11y及びキー溝15の断面形状が四角形であるが、四角形の他に、多角形や半円形でも良い。
全方位カメラ装置3zと全方位マイクアレイ装置5とを同軸i方向に取り付ける場合、キー11yをキー溝15に嵌合するように、全方位カメラ装置3zを全方位マイクアレイ装置5の開口部13の内側の内周空間に嵌めこむことで、全方位カメラ装置3zと全方位マイクアレイ装置5が一体として合体する。
以上により、本実施形態のキャリブレーション方法では、例えばキー11yとキー溝15に嵌合するように、全方位カメラ装置3zを全方位マイクアレイ装置5の開口部13の内側の内周空間に嵌め込むことで、全方位カメラ装置3zの水平角の基準方向gと、全方位マイクアレイ装置5の水平角の基準方向hとを簡易に一致させることができ、全方位カメラ装置3z及び全方位マイクアレイ装置5の設置時の制約を緩和できる。従って、本実施形態の収音システム1Zでは、全方位マイクアレイ装置5は、全方位カメラ装置3zの撮像方向を示す座標(水平角,垂直角)の水平角と同じ水平角を用いて、収音方向の音声を高精度に収音することができる。
なお、本実施形態では、全方位カメラ装置3zを全方位マイクアレイ装置5の開口部13の内側の内周空間に嵌めこむことで、全方位カメラ装置3zと全方位マイクアレイ装置5とが一体化されるケースである。
なお、本実施形態で図示している全方位カメラ装置3zは、魚眼レンズを備えて全方向を撮影出来るカメラ装置であるが、パン方向の回転、チルト方向の回転及びズーム機能を有する半球状の透明なドーム形状を有するカメラ装置でも良い。
(第3の実施形態)
次に、第3の実施形態のキャリブレーション方法について、図21(A)、図21(B)及び図21(C)を参照して説明する。図21(A)は、第3の実施形態の収音システム1Aにおけるキャリブレーション方法を表す模式図である。図21(B)は、全方位カメラ装置3AZを鉛直方向の下側から見た平面図である。図21(C)は、全方位マイクアレイ装置5Aを鉛直方向の下側から見た平面図である。
なお、本実施形態を含む以下の各実施形態では、上述した第2の実施形態と同一の構成要素については同一の符号を用いることで説明を省略又は簡略化し、異なる内容について説明する。
本実施形態では、全方位カメラ装置3AZのカバー3aの外周には、例えば図21(A)に示す三角形のマーカ21zが付加されている。なお、マーカ21zの形状は三角形に限定されず、例えば四角形でも良い。マーカ21zは、全方位カメラ装置3AZの撮像方向を示す座標(水平角,垂直角)の水平角の基準方向g、つまり水平角0°の方向に付加されている。
また、全方位マイクアレイ装置5Aの開口部13の周縁部には、全方位カメラ装置3AZのカバー3aが開口部13に挿通される際、マーカ21zと対向する位置に同様の三角形のマーカ23zが付加されている。なお、マーカ23zの形状は三角形に限定されず、例えば四角形でも良い。マーカ23zは、全方位マイクアレイ装置5Aの水平角の基準方向h、つまり水平角0°の方向に付加されている。
全方位カメラ装置3AZと全方位マイクアレイ装置5Aとを同軸i方向に取り付ける場合、マーカ21zの尖端とマーカ23zの尖端とが対向するように、全方位カメラ装置3AZを全方位マイクアレイ装置5Aの開口部13の内側の内周空間に嵌め込むことで、全方位カメラ装置3AZと全方位マイクアレイ装置5Aとが一体として合体する。
以上により、本実施形態のキャリブレーション方法では、例えば三角形のマーカ21z,23の各尖端が対向するように、全方位カメラ装置3AZを全方位マイクアレイ装置5Aの開口部13の内側の内周空間に嵌め込むことで、全方位カメラ装置3AZの水平角の基準方向gと、全方位マイクアレイ装置5Aの水平角の基準方向hとを簡易に一致させることができる。更に、本実施形態のキャリブレーション方法では、全方位カメラ装置3AZ及び全方位マイクアレイ装置5Aの設置時の制約を緩和できる。従って、本実施形態の収音システム1Aでは、全方位マイクアレイ装置5Aは、全方位カメラ装置3AZの撮像方向を示す座標(水平角,垂直角)の水平角と同じ水平角を用いて、収音方向の音声を高精度に収音することができる。
なお、上述した第2の実施形態と同様に、本実施形態では、全方位カメラ装置3AZを全方位マイクアレイ装置5Aの開口部13の内側の内周空間に嵌め込まずに、例えば全方位マイクアレイ装置5Aの開口部13の内側に予め刻まれた雌ねじ部に、全方位カメラ装置3AZのカバー3aの外周に刻まれた雄ねじ部を螺合させることで、全方位カメラ装置3AZと全方位マイクアレイ装置5Aを一体化して合体させても良い。
(第4の実施形態)
次に、第4の実施形態のキャリブレーション方法について、図22、図23(A)及び図23(B)を参照して説明する。図22は、第4の実施形態の収音システム1Bにおけるキャリブレーション方法を表す模式図である。図23(A)は、取付部材7に全方位カメラ装置と全方位マイクアレイ装置とが取り付けられた状態を示す平面図である。図23(B)は、図23(A)のE−E断面図である。
上述した第2、第3の各実施形態の収音システムでは、全方位マイクアレイ装置と全方位カメラ装置とが、それぞれ所定の設置面に直接に取り付けられた。
本実施形態の収音システム1Bでは、先ず所定の設置面(例えば天井面8)に取付部材7(取付具)が取り付けられて固定され、全方位マイクアレイ装置5B及び全方位カメラ装置3BZの両方が取付部材7に取り付けられる(図22参照)。これにより、本実施形態の収音システム1Bでは、全方位マイクアレイ装置5Bと全方位カメラ装置3BZとが一体化して合体する。
図23(A)には、取付部材7の表面から見た場合、つまり所定の設置面の一例としての天井面8から図23(B)に示す下方向を見た場合の全方位カメラ装置3BZ及び全方位マイクアレイ装置5Bの取付状態が示されている。取付部材7は、表面に凹凸を有する略円盤状に形成された金属製の部材である。なお、取付部材7は、セラミックス製又は合成樹脂(例えばプラスチック又はエラストマ)製の部材でも良い。
取付部材7の表面、即ち天井面8に対向する取付部材7の表面には、同軸i方向に突出し、全方位カメラ装置3BZを取り付けて固定するための係止片7aが同心円上の3箇所に形成されている。更に、取付部材7の表面には、同軸i方向に突出し、全方位マイクアレイ装置5Bを取り付けて固定するための係止片7bが、係止片7aが形成された同心円よりも大きな直径の同心円上の3箇所に形成されている。
図24(A)は、固定ピン33z,35zが係合孔71,73に係合する様子を表す側面図である。図24(B)は、係合孔71,73に挿通された固定ピン33z,35zが移動する様子を表す平面図及び側面図である。図24(C)は、固定ピン33z,35が係合孔71,73において係止された様子を表す平面図及び側面図である。
係止片7aには、全方位カメラ装置3BZの底面に設けられた固定ピン33zと係合する係合孔71が、一端部の径が他端部の径に比べて大きい略ひょうたん状に形成されている。同様に、係止片7bには、全方位マイクアレイ装置5Bの底面に設けられた固定ピン35zと係合する係合孔73が、一端部の径が他端部の径に比べて大きい略ひょうたん状に形成されている。
固定ピン33z,35zは、それぞれ係合孔71,73の一端部と他端部との間の太さ(直径)を有する頭部と頭部より細い胴部とからなる。
取付部材7の表面には、係止片7a及び係止片7bの外側に広がるように、扇形の孔部7c,7dがそれぞれ3箇所に形成されている。これらの扇形の孔部7c,7dの形状及び位置は、取付部材7に全方位カメラ装置3BZ及び全方位マイクアレイ装置5Bが取り付けられた際、全方位カメラ装置3BZ及び全方位マイクアレイ装置5Bの各水平角の基準方向g,hが一致するように設計されている。
取付部材7の表面の中央部には、ビス31zが挿通されるビス孔7eが3箇所に形成されている。取付部材7は、ビス孔7eを介して、天井面8にビス31zを螺合させることで、天井面8に固定される。
全方位カメラ装置3BZ及び全方位マイクアレイ装置5Bが取付部材7に取り付けられる場合、先ず、全方位カメラ装置3BZが取付部材7に取り付けられる。この場合、固定ピン33zを係止片7aに形成された係合孔71に係合させる(図24(A)参照)。
即ち、図24(A)に示すように、全方位カメラ装置3BZの底面に突出する固定ピン33zを、係合孔71の径の大きい一端部側に挿し込む。そして、図24(B)に示すように、固定ピン33zの頭部が係合孔71から突出した状態で、全方位カメラ装置3BZを回転させることで固定ピン33zを係合孔71において移動させる。そして、図24(C)に示すように、固定ピン33zの頭部が係合孔71の他端部側に移動した状態で、固定ピン33zと係合孔71とは係合したことになり、全方位カメラ装置3BZは同軸i方向に固定される。
全方位カメラ装置3BZを取付部材7に取り付けた後、全方位マイクアレイ装置5Bを、全方位マイクアレイ装置5Bの開口部13の内側から全方位カメラ装置3BZが露出するように、取付部材7に取り付ける。この場合、固定ピン35zを係止片7bに形成された係合孔73に係合させる。なお、固定ピン35zを係合孔73に固定する手順は、固定ピン33zを係合孔71に固定する手順と同様である。
以上により、本実施形態のキャリブレーション方法では、天井面8に取り付けて固定された取付部材7に、全方位カメラ装置3BZ及び全方位マイクアレイ装置5Bが一体として取り付けられる。これにより、本実施形態のキャリブレーション方法では、全方位カメラ装置3BZと全方位マイクアレイ装置5Bとの各水平角の基準方向を一致させた状態で、全方位カメラ装置3BZと全方位マイクアレイ装置5Bとを簡易に設置することができる。従って、本実施形態の収音システム1Bでは、全方位マイクアレイ装置5Bは、全方位カメラ装置3BZの撮像方向を示す座標(水平角,垂直角)の水平角と同じ水平角を用いて、収音方向の音声を高精度に収音することができる。
(第5の実施形態)
次に、第5の実施形態のキャリブレーション方法について、図25(A)、図25(B)、図25(C)及び図26を参照して説明する。図25(A)は、第5の実施形態のキャリブレーション方法において冶具61を全方位マイクアレイ装置5Cに取り付ける様子を示す側面図である。図25(B)は、冶具61の全方位マイクアレイ装置5Cへの取り付けが完了した様子を示す側面図である。図25(C)は、冶具61の全方位マイクアレイ装置5Cへの取り付けが完了した収音システム1Cの外観斜視図である。図26は、全方位カメラ装置3CZの撮像画像80zに冶具61が映った様子を示す図である。
本実施形態のキャリブレーション方法では、収音システム1Cにおける全方位カメラ装置3CZ及び全方位マイクアレイ装置5Cの構成及び設置面への取り付け手順は、上述した第3の実施形態における全方位カメラ装置3AZ及び全方位マイクアレイ装置5Aの取り付け手順と同様であるため、説明を省略する。
全方位マイクアレイ装置5Cの筐体17における対向する両端部には、全方位マイクアレイ装置5Cの水平角の基準方向hを表す冶具61が取り付けられる。本実施形態では、冶具61として、全方位カメラ装置3CZの筐体を跨ぐようにワイヤが架けられている。ワイヤの両方の先端が全方位マイクアレイ装置5Cの筐体17に予め形成された穴に装着されることで、冶具61は全方位マイクアレイ装置5Cに取り付けられる。
また、冶具61の一部には、水平角の基準方向(例えば0°方向)であることを表す目印63が付加されている。目印63は、例えば冶具61の他部と異なる色に着色しても良いし、冶具61の材質は、セラミックス、合成樹脂(例えばプラスチック又はエラストマ)、金属など特に限定されるもので無く、形状も球体に限らず、円柱やその他の形状でも良い。
本実施形態では、図25(A)及び図25(B)に示すように、全方位カメラ装置3CZが全方位マイクアレイ装置5Cの開口部13の内側の内周空間に嵌め込まれた後に、冶具61が全方位マイクアレイ装置5Cの筐体17における対向する両端部に取り付けられる。
また、本実施形態では、図25(C)に示すように、冶具61が全方位カメラ装置3CZの筐体を跨ぐように取り付けられた状態で、全方位カメラ装置3CZは、例えば全方位方向(360°)の所定の撮像範囲の被写体を撮像する。この場合、冶具61以外の物があまり撮像画像の中に写り込まないように、全方位カメラ装置3CZは、撮像画像の背景部分を特定の色で覆っても良い。
また、冶具61は一本のワイヤに限定されるものではなく、水平角の基準を示す目印63が所定の位置に固定されてカメラ映像で認識されれば、その形状には拘らず、例えば板金で作られていても、三本足形状でもよい。
更には、冶具61は全方位カメラ装置3の筐体全体を覆う不透明なドーム状形状で、全方位マイクアレイ装置5Cの水平角の基準方向に目印となる開口を有した形状でも良い。
図26に示す全方位カメラ装置3CZによる円形の撮像画像80zには、撮像画像80zの中心を通り基準方向hを表す治具画像61Aが映っている。治具画像61Aの上には、全方位マイクアレイ装置5Cの水平角の基準方向h(例えば0°方向)を表す目印63の目印画像63Aが重なって映っている。目印画像63Aは、全方位カメラ装置3CZにおける画像処理により認識されても良いし、収音システム1Cのオペレータが目視で認識しても良い。
撮像画像80zでは、全方位カメラ装置3CZの水平角の基準方向gは図26中の上下方向を表す。従って、撮像画像80zから、全方位カメラ装置3CZは、治具画像61Aとして現れる全方位マイクアレイ装置5Cの水平角の基準方向hと、全方位カメラ装置3CZの水平角の基準方向gとの角度差を、水平角のズレ量εとして算出できる。
従って、全方位カメラ装置3CZと全方位マイクアレイ装置5Cとはネットワーク(不図示)を介して接続されている場合には、全方位マイクアレイ装置5Cは、全方位マイクアレイ装置5の水平角の基準方向hを、全方位カメラ装置3CZの水平角の基準方向gに対し、水平角のズレ量εだけずれた値として設定することができる。つまり、全方位マイクアレイ装置5Cは、実際の収音方向を示す座標(水平角,垂直角)の水平角として、水平角のズレ量εだけ逆方向に戻した角度を用いて、収音方向の座標を適正に演算できる。
以上により、本実施形態のキャリブレーション方法では、全方位マイクアレイ装置5Cは、例えば全方位カメラ装置3CZが演算した水平角のズレ量εを用いて、全方位カメラ装置3CZの撮像方向を示す水平角と全方位マイクアレイ装置5Cの収音方向を示す水平角とを一致させ、全方位マイクアレイ装置5Cにおける収音方向の座標(水平角,垂直角)を調整することができる。
以下、上述したキャリブレーション方法の構成、作用及び効果を説明する。
本発明の一実施形態は、所定の撮像範囲の映像を撮像するカメラ装置と、前記カメラ装置の撮像範囲の音声を収音するマイクアレイ装置とを同軸上に位置合わせする工程と、前記マイクアレイ装置の筐体中心に形成された開口部の周縁部に、前記カメラ装置を取り付ける工程と、前記開口部の内側への前記カメラ装置の取り付けにより、前記同軸に対して直交する平面における、前記カメラ装置及び前記マイクアレイ装置の各水平角の基準方向を一致させる工程と、を有するキャリブレーション方法である。
上述した方法では、全方位カメラ装置3zの水平角の基準方向gと、全方位マイクアレイ装置5の水平角の基準方向hとを簡易に一致させることができ、全方位カメラ装置3z及び全方位マイクアレイ装置5の設置時の制約を緩和できる。従って、本実施形態の収音システム1Zでは、全方位マイクアレイ装置5は、全方位カメラ装置3zの撮像方向を示す座標(水平角,垂直角)の水平角と同じ水平角を用いて、収音方向の音声を高精度に収音することができる。
また、本発明の一実施形態は、前記一致させる工程では、前記開口部の周縁部に形成された係止溝に前記カメラ装置の筐体外周に形成された係止部材を嵌合させることで、前記マイクアレイ装置の水平角の基準方向と前記カメラ装置の水平角の基準方向とを一致させる、キャリブレーション方法である。
上述した方法では、例えばキー11yとキー溝15に嵌合するように、全方位カメラ装置3zを全方位マイクアレイ装置5の開口部13の内側の内周空間に嵌め込むことで、全方位カメラ装置3zと全方位マイクアレイ装置5との各水平角の基準方向を簡易に一致させることができる。
また、本発明の一実施形態は、前記一致させる工程では、前記開口部の周縁部に付加された第1マーカ部と前記カメラ装置の筐体外周に付加された第2マーカ部とを対向させることで、前記マイクアレイ装置の水平角の基準方向と前記カメラ装置の水平角の基準方向とを一致させる、キャリブレーション方法である。
上述した方法では、例えば三角形のマーカ21,23の各尖端が対向するように、全方位カメラ装置3AZを全方位マイクアレイ装置5Aの開口部13の内側の内周空間に嵌め込むことで、全方位カメラ装置3AZの水平角の基準方向gと、全方位マイクアレイ装置5Aの水平角の基準方向hとを簡易に一致させることができる。
また、本発明の一実施形態は、前記取り付ける工程では、前記カメラ装置の筐体が、所定の取付具に取り付けられ、前記マイクアレイ装置の筐体が、前記所定の取付具に取り付けられた前記カメラ装置の筐体を前記開口部の内側に嵌め入れるように挿通して前記所定の取付具に取り付けられる、キャリブレーション方法である。
上述した方法では、天井面8に取り付けて固定された取付部材7に、全方位カメラ装置3BZ及び全方位マイクアレイ装置5Bが一体として取り付けられるので、全方位カメラ装置3BZと全方位マイクアレイ装置5Bとの各水平角の基準方向を一致させることができる。
また、本発明の一実施形態は、所定の撮像範囲の映像を撮像するカメラ装置と、前記カメラ装置の撮像範囲の音声を収音するマイクアレイ装置とを同軸上に位置合わせする工程と、前記マイクアレイ装置の筐体中心に形成された開口部の周縁部に、前記カメラ装置を取り付ける工程と、前記マイクアレイ装置の水平角の基準方向を表す冶具を、前記マイクアレイ装置の筐体の対向する両端部に取り付ける工程と、前記カメラ装置により、前記冶具を撮像する工程と、前記冶具の撮影画像を基に、前記カメラ装置の水平角の基準方向と前記マイクアレイ装置の水平角の基準方向とのズレ量を算出する工程と、算出された前記ズレ量を用いて、前記マイクアレイ装置の収音方向の水平角を調整することで、前記同軸に対して直交する平面における、前記カメラ装置及び前記マイクアレイ装置の各水平角の基準方向を一致させる工程と、を有するキャリブレーション方法である。
上述した方法では、全方位マイクアレイ装置5Cは、例えば全方位カメラ装置3CZが演算した水平角のズレ量εを用いて、全方位カメラ装置3CZの撮像方向を示す水平角と全方位マイクアレイ装置5Cの収音方向を示す水平角とを一致させ、全方位マイクアレイ装置5Cにおける収音方向の座標(水平角,垂直角)を調整することができる。
また、上述した各実施形態では、水平角の基準方向は、水平角が0°である方向として説明したが、任意の角度を基準方向として設定されても良い。
また、上述した各実施形態における全方位マイクアレイ装置の筐体の内部に配置される各マイクロホンは、無指向性マイクロホンでも良いし、双指向性マイクロホン、単一指向性マイクロホン、鋭指向性マイクロホン、超指向性マイクロホン(例えばガンマイク)又はこれらの組み合わせが用いられても良い。
以下に後述する第6の実施形態は、カメラ装置とマイクアレイ装置とを結ぶ方向を各々の基準方向とし、カメラ装置の正面方向(0°方向)とカメラ装置の基準方向との偏差角と、マイクアレイ装置の正面方向(0°方向)とマイクアレイ装置の基準方向との偏差角とを算出して、水平角のキャリブレーションを行う指向性制御システム及び水平偏差角算出方法に関する。
上述した監視システムにおいて、カメラ装置とマイクアレイ装置とが別体として異なる位置に配置された場合、カメラ装置の光軸とマイクアレイ装置の物理的な中心軸とが異なる。このため、カメラ装置の撮像方向に存在している被写体の会話音声をマイクアレイ装置が収音する場合、マイクアレイ装置が会話音声を収音する方向(以下、単に「収音方向」という)を示す座標(水平角,垂直角)と、カメラ装置の撮像方向を示す座標(水平角,垂直角)とを適正値に調整する必要がある。
この調整のためには、例えばカメラ装置においてカメラ装置の撮像方向を示す座標(以下、「撮像方向座標」という)の水平角の正面方向(例えば0°方向)が既知であり、更に、マイクアレイ装置においてマイクアレイ装置の収音方向を示す座標(以下、「収音方向座標」という)の水平角の正面方向(例えば0°方向)が既知である必要がある。
また、カメラ装置とマイクアレイ装置との位置関係を適切に把握する必要があり、カメラ装置を基準としたマイクアレイ装置の方向と、マイクアレイ装置を基準としたカメラ装置の方向とが既知となるためにも、例えばマイクアレイ装置の設置時にはマイクアレイ装置における水平角の正面方向(例えば0°方向)がカメラ装置に向いていることが望ましい。
しかし、特許文献1では、カメラ装置の水平角の正面方向(例えば0°方向)と、マイクアレイ装置の水平角の正面方向(例えば0°方向)とが既知でない場合に、カメラ装置を基準としたマイクアレイ装置の方向と、マイクアレイ装置を基準としたカメラ装置の方向とを算出することは言及されていないので、各水平角がどの方向からの角度であるかが不明となってしまい、カメラ装置とマイクアレイ装置との位置関係を適切に把握できない。
従って、例えばマイクアレイ装置が被写体の音声を収音する間、マイクアレイ装置の収音方向が被写体の存在する方向を向かないことがあり得るので、マイクアレイ装置は、カメラ装置の撮像方向に存在している被写体の会話音声を適正に収音することが困難となるという課題がある。
また、マイクアレイ装置が設置されている場所に、後からカメラ装置を設置する場合は、マイクアレイ装置の水平角の正面方向(例えば0°方向)をカメラ装置に向けて設置することが困難な場合が多い。更に、複数のカメラ装置が設置された場所に、マイクアレイ装置を後から追加的に設置する場合には、マイクアレイ装置の水平角の正面方向(例えば0°方向)を複数のカメラ装置の方向に合わせることが出来ないという課題もある。
そこで、本発明に係る第6の実施形態では、上述した従来の課題を解決するために、カメラ装置の撮像方向座標とマイクアレイ装置の収音方向座標との各水平角における0°方向と両者を結ぶ互いの基準方向との間の角度を示す水平偏差角を算出し、マイクアレイ装置に、カメラ装置の撮像方向に存在している被写体の会話音声を適正に収音させる指向性制御システム及び水平偏差角算出方法の例を説明する。
以下、本発明に係る指向性制御システム及び水平偏差角算出方法の第6の実施形態について、図面を参照して説明する。本実施形態の指向性制御システムは、例えば工場、公共施設(例えば図書館、イベント会場)、又は店舗(例えば小売店、銀行)に設置される監視システム(有人監視システム及び無人監視システムを含む)として用いられる。
なお、本発明は、指向性制御システムを構成する各装置(例えば後述する指向性制御装置)、又は指向性制御システムを構成する各装置(例えば後述する指向性制御装置)が行う各動作(ステップ)を有する水平偏差角算出方法として表現することも可能である。
(第6の実施形態)
(指向性制御システムのシステム構成)
図27(A)は、キャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とが一体的に取り付けられる場合の本実施形態の指向性制御システム10のシステム概要図である。図27(B)は、全方位マイクアレイ装置2の収音方向の水平角の基準方向とキャリブレーション用全方位カメラ装置C1の撮像方向の水平角の基準方向とが一致するように全方位マイクアレイ装置2が取り付けられる場合の本実施形態の指向性制御システム10Aのシステム概要図である。
図27(A)に示す指向性制御システム10は、被写体(例えば図27(A)中の2人の人物。以下同様。)を撮像する第1撮像部としての全方位カメラ装置11zと、同一の被写体を撮像する第2撮像部としてのキャリブレーション用全方位カメラ装置C1と、同一の被写体の音声(例えば2人の人物の会話音声)を収音する収音部としての全方位マイクアレイ装置2とを含む。図27(A)に示す指向性制御システム10では、例えば全方位マイクアレイ装置2の筐体中心に円柱状の開口部21a(図2(D)参照)が形成され、全方位マイクアレイ装置2とキャリブレーション用全方位カメラ装置C1とは、キャリブレーション用全方位カメラ装置C1が開口部21aの内側の内周空間に嵌め入れられることで一体として形成される。
全方位カメラ装置11zは、例えば監視カメラとしての機能を有し、不図示の光学系(例えば魚眼レンズ又は広角レンズ)及び撮像系(例えばイメージセンサ)が内蔵された筐体を有し、所定の設置面(例えばイベント会場の室内の天井面又はスタンド)に設置される。全方位カメラ装置11zは、不図示のネットワークを介して、中央制御室のホストコンピュータ(不図示)に接続され、ホストコンピュータからの遠隔操作に応じて、パン方向動作、チルト方向動作、ズーム動作、撮像動作、撮像画像において指定された位置(例えば後述する指定位置A’)に対応する実際の位置までの測距動作及び測角動作等を行う。全方位カメラ装置11zは、例えば全方位カメラ装置11zから後述する音声収音位置(又は音声位置)Aに向かう第1撮像方向CAX1に存在する被写体を撮像する(図27(A)参照)。
キャリブレーション用全方位カメラ装置C1は、例えば全方位カメラ装置11zの撮像方向座標及び全方位マイクアレイ装置2の収音方向座標の各水平角の正面方向(例えば0°方向)と、全方位カメラ装置11zと全方位マイクアレイ装置2とを結ぶ互いの基準方向からの水平偏差角を算出するためのキャリブレーション用カメラとしての機能を有する。キャリブレーション用全方位カメラ装置C1は、不図示の光学系(例えば魚眼レンズ又は広角レンズ)及び撮像系(例えばイメージセンサ)が内蔵された筐体を有し、所定の設置面(例えば天井面又はスタンド)に設置される。キャリブレーション用全方位カメラ装置C1は、不図示のネットワークを介して、中央制御室のホストコンピュータ(不図示)に接続され、ホストコンピュータからの遠隔操作に応じて、パン方向動作、チルト方向動作、ズーム動作、撮像動作、撮像画像において指定された位置(例えば後述する指定位置A’)に対応する実際の位置までの測距動作及び測角動作等を行う。キャリブレーション用全方位カメラ装置C1は、例えばキャリブレーション用全方位カメラ装置C1から後述する音声収音位置Aに向かう第2撮像方向CAX2に存在する被写体を撮像する(図27(A)参照)。
図27(A)に示す指向性制御システム10の全方位マイクアレイ装置2は、例えば開口部21aの内側の内周空間にキャリブレーション用全方位カメラ装置C1の筐体が嵌め込まれるドーナツ状型又はリング状型の筐体21(図2(D)参照)を有する。全方位マイクアレイ装置2では、開口部21aの周囲であって、更に筐体21の円周方向に沿って、複数のマイクロホンユニット22が同心円状に配置される。マイクロホンユニット18は、例えば高音質小型エレクトレットコンデンサーマイクロホン(ECM:Electret Condenser Microphone)が用いられ、以下同様である。全方位マイクアレイ装置2は、例えば全方位マイクアレイ装置2から音声収音位置Aに向かう収音方向MIXに音声の収音指向性を形成し、収音方向MIXに存在する被写体の音声を収音する。
一方、図27(B)に示す指向性制御システム10Aでは、キャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とは一体として形成されず、キャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とは別体として動作する。このため、図27(B)に示す指向性制御システム10Aでは、後述する指向性制御装置3が水平偏差角を算出した後、キャリブレーション用全方位カメラ装置C1が取り外され、キャリブレーション用全方位カメラ装置C1の撮像方向CAX2の水平角0°方向(第2正面方向、図31(B)又は図32(B)参照)と全方位マイクアレイ装置2の水平角0°方向とが一致するように全方位マイクアレイ装置2が取り付けられる。
これにより、図27(A)に示す指向性制御システム10と同様に、全方位マイクアレイ装置2は、キャリブレーション用全方位カメラ装置C1の水平角0°方向(第2正面方向)を共通に用いることができるので、音声収音位置Aに向かう収音方向MIXに音声の収音指向性を適正に形成でき、収音方向MIXに存在する被写体の音声を適正に収音できる。以下、本実施形態の指向性制御システムのシステム構成として、図27(A)に示す指向性制御システム10を想定して説明するが、図27(B)に示す指向性制御システム10Aに置き換えても同様な効果が得られる。
なお、本実施形態では、魚眼レンズ又は広角レンズを含む全方位カメラ装置11zを用いているが、標準的なレンズ或いは望遠レンズを含み、機械的にパン方向、チルト方向への動作及びズーム動作を行うPTZ(Pan Tilt Zoom)カメラ装置でも良い。
図28(A)は、図27(A)に示す指向性制御システム10のシステム構成の一例を示すブロック図である。図28(B)は、図27(B)に示す指向性制御システム10Aのシステム構成の一例を示すブロック図である。図28(A)に示す指向性制御システム10は、全方位カメラ装置11zと、全方位マイクアレイ装置2と、キャリブレーション用全方位カメラ装置C1と、指向性制御装置3と、レコーダ装置4とを含む構成である。全方位カメラ装置11zと、全方位マイクアレイ装置2と、キャリブレーション用全方位カメラ装置C1と、指向性制御装置3と、レコーダ装置4とは、ネットワークNWを介して相互に接続されている。ネットワークNWは、有線ネットワーク(例えばイントラネット、インターネット)でも良いし、無線ネットワーク(例えば無線LAN(Local Area Network))でも良く、以下も同様である。
また、図28(B)に示す指向性制御システム10Aでは、キャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とが別体として形成されていることを除けば、図28(A)に示す指向性制御システム10と同様の構成である。
全方位カメラ装置11zは、ネットワークNWに接続され、後述する全方位マイクアレイ装置2の収音方向(θMAh,θMAv)を算出するための入力パラメータ(例えば全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1との間の距離LCK)を測定して取得し、測定された入力パラメータと撮像された画像データとを、ネットワークNWを介して、指向性制御装置3又はレコーダ装置4に送信する。
キャリブレーション用全方位カメラ装置C1は、ネットワークNWに接続され、同様に後述する全方位マイクアレイ装置2の収音方向(θMAh,θMAv)を算出するための入力パラメータ(例えば全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1との間の距離LCK)を測定して取得し、測定された入力パラメータと撮像された画像データとを、ネットワークNWを介して、指向性制御装置3又はレコーダ装置4に送信する。
全方位マイクアレイ装置2は、ネットワークNWに接続され、マイクロホンを含み、等間隔毎に設けられたマイクロホンユニット22,23(図2(A)〜図2(E)参照)と、各マイクロホンユニット22,23の各動作を制御するための制御部(不図示)とを少なくとも含む構成である。
全方位マイクアレイ装置2は、各々のマイクロホンユニット22,23を用いて、音声収音対象となる被写体が存在する収音方向の音声を収音し、各々のマイクロホンユニット22,23が収音した音声データを、ネットワークNWを介して、指向性制御装置3又はレコーダ装置4に送信する。
全方位マイクアレイ装置2は、後述する指向性制御装置3からの指向性形成指示に応じて、指向性制御装置3の信号処理部33の座標算出部34xが算出した収音方向(θMAh,θMAv)に、各々のマイクロホンユニット22,23の収音指向性を形成する。
これにより、全方位マイクアレイ装置2は、収音指向性が形成された収音方向(θMAh,θMAv)から収音した音声データの音量レベルを相対的に増大でき、収音指向性が形成されない方向から収音した音声データの音量レベルを相対的に低減できる。なお、収音方向(θMAh,θMAv)の算出方法については後述する。
全方位マイクアレイ装置2の外観については、図2を参照して上述したので説明を省略する。なお、全方位マイクアレイ装置2の各マイクロホンユニット22,23は、無指向性マイクロホンでも良いし、双指向性マイクロホン、単一指向性マイクロホン、鋭指向性マイクロホン、超指向性マイクロホン(例えばガンマイク)又はこれらの組み合わせが用いられても良い。
指向性制御装置3は、ネットワークNWに接続され、例えば監視システム制御室(不図示)に設置される据置型のPC(Personal Computer)でも良いし、ユーザが携帯可能な携帯電話機、タブレット端末、スマートフォン等のデータ通信端末でも良い。
指向性制御装置3は、通信部31と、操作部32と、信号処理部33と、ディスプレイ装置36と、スピーカ装置37と、メモリ38とを少なくとも含む構成である。信号処理部33は、水平偏差角算出部34wと、座標算出部34xと、出力制御部34cとを含む。
通信部31は、ネットワークNWを介して、全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1又は全方位マイクアレイ装置2が送信した画像データ又は音声データを受信して信号処理部33に出力する。
操作部32は、ユーザの入力操作の内容を信号処理部33に通知するためのユーザインターフェース(UI:User Interface)であり、例えばマウス、キーボード等のポインティングデバイスである。また、操作部32は、例えばディスプレイ装置36の画面に対応して配置され、ユーザの指FG又はスタイラスペンによって入力操作が可能なタッチパネル又はタッチパッドを用いて構成されても良い。
操作部32は、ユーザの入力操作に応じて、ユーザが音量レベルの増大又は低減を所望する範囲、即ち図29に示す指定位置A’を表す座標データを取得して信号処理部33に出力する。
信号処理部33は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、指向性制御装置3の各部の動作を全体的に統括するための制御処理、他の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。
偏差量算出部としての水平偏差角算出部34wは、ディスプレイ装置36に表示された画像データのユーザによる任意の位置(=指定位置A’)の指定に応じて、全方位カメラ装置11zから指定位置A’に対応する音声収音位置Aに向かう第1撮像方向CAX1の方向角度情報と、キャリブレーション用全方位カメラ装置C1から音声収音位置Aに向かう第2撮像方向CAX2の方向角度情報と、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1の距離とを基に、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1とを結ぶ基準位置(図31(B)に示すK−K’線)から、全方位カメラ装置11zの第1正面方向(水平角0°方向)までの第1水平偏差角εChと、キャリブレーション用全方位カメラ装置C1の第2正面方向(水平角0°方向)までの第2水平偏差角εKhとを算出する。水平偏差角算出部34wの具体的な算出方法は、図31及び図32を参照して後述する。
座標算出部34xは、水平偏差角算出部34wにより算出された第1水平偏差角εCh及び第2水平偏差角εKhを基に、全方位マイクアレイ装置2から音声収音位置Aに向かう収音方向MIXの水平角θMAh及び垂直角θMAvを、被写体の音声を全方位マイクアレイ装置2に収音させる収音方向を示す座標(収音方向座標)として算出する。
収音方向(θMAh,θMAv)のうち、θMAhは全方位マイクアレイ装置2から音声収音位置Aに向かう収音方向MIXの水平角を表し、θMAvは全方位マイクアレイ装置2から音声収音位置Aに向かう収音方向MIXの垂直角を表す。
全方位カメラ装置11zの座標軸と全方位マイクアレイ装置2の座標軸との関係は、第1水平偏差角εChと第2水平偏差角εKh及び相互の距離Lckからわかっているので、指向性制御装置3は、ディスプレイ装置36に表示された画像データから音声集音位置の指定に応じて、収音方向(θMAh,θMAv)を算出する。
なお、音声収音位置Aは、操作部32がディスプレイ装置36の画面においてユーザの指FG又はスタイラスペンによって指定された指定位置A’に対応する実際の監視対象となる現場の位置である(図27(A)及び図29参照)。
出力制御部34cは、ディスプレイ装置36及びスピーカ装置37の動作を制御し、全方位カメラ装置11zから送信された映像データをディスプレイ装置36に再生出力させ、全方位マイクアレイ装置2から送信された音声データをスピーカ装置37に音声出力させる。また、出力制御部34cは、全方位マイクアレイ装置2の動作を制御し、例えば座標算出部34xにより算出された収音方向座標(θMAh,θMAv)に対応する収音方向MIXに、音声データの収音指向性を全方位マイクアレイ装置2に形成させる。
表示部としてのディスプレイ装置36は、全方位カメラ装置11z又はキャリブレーション用全方位カメラ装置C1が撮像した画像データを画面に表示する。
音声出力部としてのスピーカ装置37は、全方位マイクアレイ装置2が収音した音声データ、又は座標算出部34xが算出した収音方向(θMAh,θMAv)に収音指向性が形成された後に全方位マイクアレイ装置2が収音した音声データを音声出力する。なお、ディスプレイ装置36及びスピーカ装置37は、指向性制御装置3とは別々の構成としても良い。
メモリ38は、例えばRAM(Random Access Memory)を用いて構成され、指向性制御装置3の各部の動作時のワークメモリとして機能する。
レコーダ装置4は、全方位カメラ装置11z又はキャリブレーション用全方位カメラ装置C1が撮像した画像データと、全方位マイクアレイ装置2が収音した音声データとを記録する。レコーダ装置4は、全方位カメラ装置11zが撮像した画像データと、全方位マイクアレイ装置2が収音した音声データとを対応付けて記録する。
次に、本実施形態の指向性制御システム10の動作概要について、図27(A)及び図29を参照して説明する。図29は、全方位マイクアレイ装置2から、ディスプレイ装置36に表示された画像の中からユーザの指が指定した指定位置A’に対応する音声収音位置Aに向かう方向を収音方向として収音された音声データがスピーカ装置37から出力される様子を示す図である。
指向性制御システム10では、全方位カメラ装置11zは図27(A)に示す被写体(例えば2人の人物)を撮像する。全方位マイクアレイ装置2は、被写体の会話音声を含む周囲の音声を収音する。図27(A)では、被写体の2人の人物は会話している。例えば全方位カメラ装置11zが撮像した画像データは、指向性制御装置3のディスプレイ装置36に表示される(図29参照)。
ここで、ユーザの指FGによって、ディスプレイ装置36の指定位置A’、即ち会話している2人の人物の中心位置又は略中心位置が指定された場合には、指向性制御装置3は、指定位置A’を表す第1撮像方向CAX1の座標データ(θCAh,θCAv)を取得する。
指向性制御装置3は、キャリブレーションによって算出されている、全方位カメラ装置11zの座標系と全方位マイクアレイ装置2の座標系との関係から、全方位マイクアレイ装置2の設置位置から音声収音位置Aに向かう方向、即ち収音方向を示す収音方向座標(θMAh,θMAv)を、全方位マイクアレイ装置2の収音方向として算出する。全方位マイクアレイ装置2は、指向性制御装置3が算出した(θMAh,θMAv)の座標データを用いて、全方位マイクアレイ装置2から音声収音位置Aに向かう方向に、収音指向性を形成する。
従って、全方位マイクアレイ装置2は、収音指向性が形成された方向に存在する2人の人物の会話(Hello)の音量レベルを、収音指向性が形成された方向に存在しない他の物体から発せられる音量レベルより増大できる。
これにより、指向性制御装置3は、スピーカ装置37に、収音指向性が形成された方向に存在する2人の人物の会話(Hello)の音量レベルを、収音指向性が形成された方向に存在しない他の物体の音量レベルより大きく音声出力させることができる(図29参照)。
次に、本実施形態の指向性制御システム10又は指向性制御システム10Aの詳細な動作手順について、図30(A)及び図30(B)を参照して説明する。図30(A)は、本実施形態の指向性制御システム10,10Aにおける第1水平偏差角εCh、第2水平偏差角εKhの算出及び収音指向性の形成に関する動作手順を説明するフローチャートである。図30(B)は、図30(A)に示すステップS20のキャリブレーションの動作手順を詳細に説明するフローチャートである。
図30(B)に示すキャリブレーションの説明において、初期設置には、指向性制御システム10又は指向性制御システム10Aを構成する全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1及び全方位マイクアレイ装置2が所定の設置面に設置又は取り付けられる動作が含まれる。図30(B)に示すキャリブレーションの説明を簡単にするために、例えば図27(A)に示す指向性制御システム10の動作手順について説明し、図27(A)に示す指向性制御システム10の動作手順と異なる内容がある場合に必要に応じて、指向性制御システム10Aの動作手順について説明する。
図30(A)において、全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1及び全方位マイクアレイ装置2が設置され、全方位カメラ装置11zと全方位マイクアレイ装置2との各座標軸の関係を定めるためのキャリブレーションが行われる(ST20)。なお、ステップS20の動作の詳細は図30(B)を参照して後述する。
ステップST20でキャリブレーションが終わった後、例えばユーザの入力操作により、全方位カメラ装置11zが撮影した映像(又は画像)から収音したい位置がディスプレイ装置36の画面上において指定される(ST21)。
指向性制御装置3の座標算出部34xは、ステップST12(後述)により測定された入力パラメータLCKとステップST15により算出された第1水平変位角εCh及び第2水平変位角εKhとを用いて、ステップST21により指定された第1撮像方向CAX1の水平角及び垂直角(θCAh,θCAv)から、被写体の音声を全方位マイクアレイ装置2に収音させる収音方向を示す座標(収音方向座標、即ち(θMAh,θMAv))として算出する(ST22)。
指向性制御装置3の出力制御部34cは、ステップST22により算出された収音方向座標(θMAh,θMAv)の収音方向に、各々のマイクロホンユニット22,23の収音指向性を形成する(ST23)。
これにより、全方位マイクアレイ装置2は、収音指向性が形成された収音方向座標(θMAh,θMAv)により定められる収音方向から収音した音声データの音量レベルを相対的に増大でき、収音指向性が形成されない方向から収音した音声データの音量レベルを想定的に低減できる。
なお、本実施形態の指向性制御システム10において、全方位マイクアレイ装置2が音声を収音するタイミングは、ステップST20の直後に限定されず、例えば全方位マイクアレイ装置2の電源がONされた後でも良い。
ステップST20のキャリブレーションに関して詳細に説明を行う。図30(B)において、指向性制御システム10を構成する全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1及び全方位マイクアレイ装置2が所定の設置面(例えばイベント会場の室内の天井面又はスタンド)に固定されるように初期設置される(ST11、図31(A)参照)。
ステップST11では、例えば次のようにして、キャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とが一体として取り付けられる。
具体的には、先ず所定の設置面(例えばスタンド)に取付具(不図示、例えば金属製の取付金具、セラミックス製の取付具、又は合成樹脂(例えばプラスチック又はエラストマ)製の取付具)が取り付けられて固定される。
取付具が所定の設置面に取り付けられた後、キャリブレーション用全方位カメラ装置C1及び全方位マイクアレイ装置2の両方が取付具に取り付けられる。上述したように、取付具に取り付けられたキャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とは、キャリブレーション用全方位カメラ装置C1が全方位マイクアレイ装置2の筐体中心に形成された開口部21aの内周空間に嵌め入れられることで一体として形成される。また、キャリブレーション用全方位カメラ装置C1と全方位マイクアレイ装置2とは、各水平角の正面方向(0°方向)が共通するように一体として形成される。
従って、キャリブレーション用全方位カメラ装置C1の第2撮像方向CAX2の水平角及び垂直角と、全方位マイクアレイ装置2の収音方向の水平角及び垂直角とは同一となるので、少なくとも第2水平偏差角εKhが算出されたことで第2正面方向が判明すれば、全方位マイクアレイ装置2における収音方向座標が適正に算出可能となる。
全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1及び全方位マイクアレイ装置2が初期設置された後、水平偏差角算出部34wが第1水平偏差角εCh及び第2水平偏差角εKhを算出するために必要となる入力パラメータ(例えば距離LCK)の測定が行われる(ST12)。距離LCKは、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1との間の距離を表す。
ステップST12では、ユーザが測定器(例えばレーザ測距計)を用いて距離LCKを測定する場合、又は全方位カメラ装置11zが全方位カメラ装置11z自身の公知技術の機能を用いて距離LCKを測定して取得する場合が含まれる。以下、説明を簡単にするために、ステップS12では、ユーザが測定器(例えばレーザ測距計)を用いて距離LCKを測定したとする。信号処理部33は、ユーザの入力操作に応じて操作部32から出力された入力パラメータとしての距離LCKのデータを取得する。
ステップST12の後、指向性制御装置3は、ディスプレイ装置36の画面に表示されている画像データの中から任意の指定位置A’の指定を、操作部32を介して受け付ける(ST13)。指向性制御装置3は、ディスプレイ装置36の画面に表示されている画像データの指定位置A’の指定を受け付けたことを全方位カメラ装置11z及びキャリブレーション用全方位カメラ装置C1に送信する。
ステップST13の後、全方位カメラ装置11zは、指定位置A’の指定を受け付けたことを指向性制御装置3から受信した場合、全方位カメラ装置11zの設置位置を起点として、ステップST13において指定された画像データ上の指定位置A’に対応する音声収音位置Aに向かう第1撮像方向CAX1の水平角及び垂直角(θCAh,θCAv)の座標データを測定して取得する(ST14)。但し、ステップST14で得られた水平角及び垂直角(θCAh,θCAv)の座標データのうち、水平角θCAhは、第1正面方向がどの方向であるかが未だ判明していない状態のデータである。
更に、キャリブレーション用全方位カメラ装置C1は、指定位置A’の指定を受け付けたことを指向性制御装置3から受信した場合、キャリブレーション用全方位カメラ装置C1の設置位置を起点として、ステップST13において指定された画像データ上の指定位置A’に対応する音声収音位置Aに向かう第2撮像方向CAX2の水平角及び垂直角(θKAh,θKAv)の座標データを測定して取得する(ST14)。同様に、ステップST14で得られた水平角及び垂直角(θKAh,θKAv)の座標データのうち、水平角θKAhは、第2正面方向がどの方向であるかが未だ判明していない状態のデータである。
全方位カメラ装置11zは、第1撮像方向CAX1の水平角及び垂直角(θCAh,θCAv)の座標データを指向性制御装置3に送信する。キャリブレーション用全方位カメラ装置C1は、第2撮像方向CAX2の水平角及び垂直角(θKAh,θKAv)の座標データを指向性制御装置3に送信する。
指向性制御装置3の水平偏差角算出部34wは、ステップS12により測定された入力パラメータLCKと、ステップS14により測定された第1撮像方向CAX1の水平角及び垂直角(θCAh,θCAv)の座標データ及び第2撮像方向CAX2の水平角及び垂直角(θKAh,θKAv)の座標データとを基に、第1水平偏差角εCh及び第2水平偏差角εKhを算出する(ST15)。ステップS15の動作の詳細については、図31及び図32を参照して後述する。
これにより、指向性制御装置3は、全方位マイクアレイ装置2の収音方向座標を算出する前に、全方位カメラ装置11zの水平角の第1正面方向(水平角0°)がどの方向であるかを判明でき、更に、キャリブレーション用全方位カメラ装置C1の第2正面方向(水平角0°)がどの方向であるかを判明できる。
ここで、ステップST11の初期設置において、全方位マイクアレイ装置2の収音方向の水平角の正面方向(例えば0°方向)とキャリブレーション用全方位カメラ装置C1の水平角の正面方向(0°方向)とが一致するように全方位マイクアレイ装置2が設置されている場合には(ST16、YES)、キャリブレーションを終了してステップST21に進む。
一方、ステップST11の初期設置において、全方位マイクアレイ装置2の収音方向の水平角の基準方向(例えば0°方向)とキャリブレーション用全方位カメラ装置C1の水平角の正面方向(0°方向)とが一致するように全方位マイクアレイ装置2が設置されていない場合には(ST16、NO)、指向性制御システム10の動作手順は、ステップST21に進む。
即ち、ステップST17では、全方位マイクアレイ装置2の収音方向の水平角の正面方向(例えば0°方向)とキャリブレーション用全方位カメラ装置C1の水平角の正面方向(0°方向)とが一致するように全方位マイクアレイ装置2が設置される(ST17)。
ステップST17では、例えば次のようにして、全方位マイクアレイ装置2の収音方向の水平角の基準方向(例えば0°方向)とキャリブレーション用全方位カメラ装置C1の第2撮像方向CAX2の水平角の基準方向とが一致するように全方位マイクアレイ装置2が設置される。
具体的には、キャリブレーション用全方位カメラ装置C1の筐体の外周には、例えば三角形又は四角形のマーカ(不図示)が付加される。マーカは、キャリブレーション用全方位カメラ装置C1の第2撮像方向の水平角の正面方向(0°方向)を表す方向に付加されている。また、全方位マイクアレイ装置2の筐体中心に形成された開口部21aの周縁部には、キャリブレーション用全方位カメラ装置C1のマーカと対向する位置に、例えば同様な形状のマーカ(不図示)が付加される。
従って、キャリブレーション用全方位カメラ装置C1のマーカと全方位マイクアレイ装置2のマーカとが対向するように、全方位マイクアレイ装置2が設置されることで、全方位マイクアレイ装置2の収音方向の水平角の正面方向(0°方向)とキャリブレーション用全方位カメラ装置C1の第2撮像方向CAX2の水平角の正面方向とが一致するように全方位マイクアレイ装置2が設置され、キャリブレーションが終了する。
(全方位マイクアレイ装置2の収音方向を示す座標(θMAh,θMAv)の算出方法)
次に、指向性制御装置3の水平偏差角算出部34wが第1水平偏差角εCh及び第2水平偏差角εKhを算出する方法について、図31及び図32を参照して詳細に説明する。
図31は、本実施形態における全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1、及び音声収音位置Aの各位置関係を示す図である。図31(A)は、斜視図である。図31(B)は、図7(A)中の上側から鉛直下方向を見た場合の平面図である。図31(C)は、図7(B)のK−K’線における垂直方向断面図である。
図32は、本実施形態における全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1、及び音声収音位置Aの各位置関係を示す図である。図32(A)は、斜視図である。図32(B)は、図32(A)中の上側から鉛直下方向を見た場合の平面図である。図32(C)は、図32(B)のK−K’線における垂直方向断面図である。
水平偏差角算出部34wは、ディスプレイ装置36に表示された画像データのユーザによる任意の指定位置A’の指定に応じて、
(1)ステップST12により測定された全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1との間の距離LCKと、
(2)ステップST14により測定された第1撮像方向CAX1の水平角及び垂直角(θCAh,θCAv)の座標と、
(3)ステップST14により測定された第2撮像方向CAX2の水平角及び垂直角(θKAh,θKAv)の座標と、
(4)ステップST11の初期設置時において測定された全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1の水平面からの各高さHC,HKと、
(5)音声収音位置Aの水平面からの高さHAと、を基に、
第1水平偏差角εCh及び第2水平偏差角εKhを算出する。
(4)全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1、更に全方位マイクアレイ装置2の水平面からの各高さHC,HK,HMは、全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1、全方位マイクアレイ装置2の各初期設置時に決まる固定値である。例えば、全方位カメラ装置11z、キャリブレーション用全方位カメラ装置C1、更に全方位マイクアレイ装置2の水平面からの各高さHC,HK,HMは、同一である。
(5)音声収音位置Aの水平面からの高さHAは、予め決められた固定値であり、例えばユーザの指FGが指定位置A’を指定する時に、音声収音位置Aの周囲に人物がいる場合には人物の大きさをHAとして選択された値又は入力された値である。又は、ユーザの指FGが指定位置A’を指定した時に、指向性制御装置3が指定された位置に人物(例えば大人又は子供)がいることを判定した場合に、既定の値(例えば1.5m又は0.8m)が用いられても良い。
以下、水平偏差角算出部34wにおける第1水平偏差角εCh及び第2水平偏差角εKhの算出方法について、具体的に説明する。先ず、本算出方法を説明する前提として、全方位カメラ装置11zの第1撮像方向CAX1の水平角を定める場合に必要となる水平角の正面方向(0°方向)を示す第1正面方向は既知でない、即ち未知であるとする(図31(B)又は図32(B)参照)。同様に、キャリブレーション用全方位カメラ装置C1の第2撮像方向CAX2の水平角を定める場合に必要となる水平角の正面方向(0°方向)を示す第2正面方向は既知でない、即ち未知であるとする(図31(B)又は図32(B)参照)。
水平偏差角算出部34wは、図31(C)に示す△CASにおいて、全方位カメラ装置11zの水平面からの高さHCと、音声収音位置Aの水平面からの高さHAと、第1撮像方向CAX1の垂直角θCAvとを基に、全方位カメラ装置11zから音声収音位置Aまでの距離の水平成分の距離LCAhを数式(64)に従って算出する。
水平偏差角算出部34wは、図32(C)に示す△KASにおいて、キャリブレーション用全方位カメラ装置C1の水平面からの高さHKと、音声収音位置Aの水平面からの高さHAと、第2撮像方向CAX2の垂直角θKAvとを基に、キャリブレーション用全方位カメラ装置C1から音声収音位置Aまでの距離の水平成分の距離LKAhを数式(65)に従って算出する。
水平偏差角算出部34wは、距離LCKと数式(64)及び数式(65)により算出された距離LCAh及びLKAhとを用いて、図31(B)に示す△KCAにおける余弦定理により、数式(66)に従って、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1とが対向する直線と、全方位カメラ装置11zから音声収音位置Aまでの直線K−K ‘とがなす水平角ψKCAhの余弦値cosψKCAhを算出する。
水平偏差角算出部34wは、数式(66)の算出結果により、数式(67)に従って、水平角ψKCAhを算出する。
水平偏差角算出部34wは、距離LCKと数式(64)及び数式(65)により算出された距離LCAh及びLKAhとを用いて、図31(B)に示す△KCAにおける余弦定理により、数式(68)に従って、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1とが対向する直線と、キャリブレーション用全方位カメラ装置C1から音声収音位置Aまでの直線K−K‘とがなす水平角ψCKAhの余弦値cosψCKAhを算出する。
水平偏差角算出部34wは、数式(68)の算出結果により、数式(69)に従って、水平角ψKCAhを算出する。
水平偏差角算出部34wは、第1撮像方向CAX1の水平角θCAhと数式(67)により算出された水平角ψKCAhとを用いて、数式(70)に従って、第1水平偏差角εChを算出する。
水平偏差角算出部34wは、第2撮像方向CAX2の水平角θKAhと数式(68)により算出された水平角ψCKAhとを用いて、数式(71)に従って、第2水平偏差角εKhを算出する。
以上により、本実施形態の指向性制御システム10又は指向性制御システム10Aでは、全方位カメラ装置11z及びキャリブレーション用全方位カメラ装置C1は、同一の被写体の画像を撮像し、全方位マイクアレイ装置2は、撮像される被写体の音声を収音する。指向性制御装置3の水平偏差角算出部34wは、ディスプレイ装置36に表示された全方位カメラ装置11zの画像データにおいて任意の指定位置A’が指定されると、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1とを結ぶ互いの基準方向に対して全方位カメラ装置11zの水平角の正面方向がなす偏差の角度である第1水平偏差角εChと、キャリブレーション用全方位カメラ装置C1の水平角の第2正面方向とキャリブレーション用全方位カメラ装置C1の基準方向とがなす偏差の角度である第2水平偏差角εKhとを算出する。
これにより、指向性制御システム10では、指向性制御装置3は、全方位カメラ装置11zから音声収音位置Aに向かう撮像方向座標から、キャリブレーション用全方位カメラ装置C1の筐体周囲を囲むように取り付けられた全方位マイクアレイ装置2、又はキャリブレーション用全方位カメラ装置C1の水平角の基準方向と一致するようにキャリブレーション用全方位カメラ装置C1の位置に取り付けられた全方位マイクアレイ装置2の収音方向座標を算出できる。
即ち、指向性制御装置3は、全方位マイクアレイ装置2の収音方向座標を算出する前に、全方位カメラ装置11zの水平角の第1正面方向が全方位カメラ装置11zの基準方向からどのくらいの偏差が生じているかを判明でき、更に、キャリブレーション用全方位カメラ装置C1の第2正面方向がキャリブレーション用全方位カメラ装置C1の基準方向からどのくらいの偏差が生じているかを判明できる。従って、指向性制御システム10では、キャリブレーション用全方位カメラ装置C1の第2撮像方向CAX2の水平角及び垂直角と、全方位マイクアレイ装置2の収音方向の水平角及び垂直角とは同一となるので、第1水平偏差角εChと第2水平偏差角εKhが算出されたことで、距離Lckから、全方位マイクアレイ装置2における収音方向座標が適正に算出可能となる。
即ち、指向性制御装置3は全方位カメラ装置11zにより撮像された画像データの任意の音声収音位置に向かう全方位マイクアレイ装置2からの収音方向座標を適正に算出することができる。
以下、上述した本発明に係る指向性制御システム及び水平偏差角算出方法の構成、作用及び効果を説明する。
本発明の一実施形態は、被写体の画像を撮像する第1撮像部と、前記被写体の画像を撮像する第2撮像部と、前記被写体の音声を収音する収音部と、前記第1撮像部により撮像された画像データを表示する表示部と、表示された前記画像データの任意の位置の指定に応じて、前記第1撮像部から前記画像データの指定位置に対応する音声収音位置に向かう第1撮像方向の水平角の第1基準水平角からの第1水平偏差角と、前記第2撮像部から前記音声収音位置に向かう第2撮像方向の水平角の第2基準方向からの第2水平偏差角とを算出する偏差量算出部と、を備える、指向性制御システムである。
上述した構成では、全方位カメラ装置11z及びキャリブレーション用全方位カメラ装置C1は、同一の被写体の画像を撮像し、全方位マイクアレイ装置2は、撮像される被写体の音声を収音する。指向性制御装置3の水平偏差角算出部34wは、ディスプレイ装置36に表示された全方位カメラ装置11zの画像データにおいて任意の指定位置A’が指定されると、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1とを結ぶ互いの基準方向に対して全方位カメラ装置11zの水平角の第1正面方向(例えば0°方向)がなす偏差の角度である第1水平偏差角εChと、キャリブレーション用全方位カメラ装置C1の水平角の第2正面方向とキャリブレーション用全方位カメラ装置C1の基準方向とがなす偏差の角度である第2水平偏差角εKhとを算出する。
これにより、指向性制御システム10では、指向性制御装置3は、全方位カメラ装置11zから音声収音位置Aに向かう撮像方向座標から、キャリブレーション用全方位カメラ装置C1の筐体周囲を囲むように取り付けられた全方位マイクアレイ装置2、又はキャリブレーション用全方位カメラ装置C1の水平角の基準方向と一致するようにキャリブレーション用全方位カメラ装置C1の位置に取り付けられた全方位マイクアレイ装置2の収音方向座標の各水平角の正面方向(例えば0°方向)と互いの基準方向とがなす各偏差量を算出できる。従って、指向性制御システム10では、指向性制御装置3は、全方位カメラ装置11zにより撮像された画像データの任意の音声収音位置に向かう全方位マイクアレイ装置2からの収音方向座標を適正に算出することができる。
また、本発明の一実施形態は、前記偏差量算出部が、前記第1撮像部から前記第2撮像部までの距離と、前記第1撮像部から前記音声収音位置に向かう水平角及び垂直角と、前記第2撮像部から前記音声収音位置に向かう水平角及び垂直角と、前記第1撮像部の水平面からの高さと、前記第2撮像部の前記水平面からの高さと、前記音声収音位置の前記水平面からの高さと、を基に、前記第1水平偏差角及び前記第2水平偏差角を算出する、指向性制御システムである。
上述した構成では、指向性制御装置3の水平偏差角算出部34wは、全方位カメラ装置11zからキャリブレーション用全方位カメラ装置C1までの距離LCKと、全方位カメラ装置11zから音声収音位置Aに向かう水平角θCAh及び垂直角θCAvと、キャリブレーション用全方位カメラ装置C1から音声収音位置Aに向かう水平角θKAh及び垂直角θKAvと、全方位カメラ装置11zの水平面からの高さHCと、キャリブレーション用全方位カメラ装置C1の水平面からの高さHKと、音声収音位置Aの水平面からの高さHAと、を基に、第1水平偏差角εCh及び第2水平偏差角εKhを算出する。これにより、指向性制御装置3は、第1水平偏差角εCh及び第2水平偏差角εKhを簡易に算出することができる。
また、本発明の一実施形態は、前記第1水平偏差角及び前記第2水平偏差角を基に、前記収音部から前記音声収音位置に向かう方向の水平角及び垂直角を、前記被写体の音声を前記収音部に収音させる収音方向を示す座標として算出する座標算出部を更に備える、指向性制御システムである。
上述した構成では、指向性制御装置3の座標算出部34xは、水平偏差角算出部34wにより算出された第1水平偏差角εCh及び第2水平偏差角εKhを基に、キャリブレーション用全方位カメラ装置C1の筐体周囲を囲むように取り付けられた全方位マイクアレイ装置2、又はキャリブレーション用全方位カメラ装置C1の水平角の基準方向と一致するようにキャリブレーション用全方位カメラ装置C1の位置に取り付けられた全方位マイクアレイ装置2の収音方向座標の水平角及び垂直角を算出することができる。
また、本発明の一実施形態は、算出された前記収音方向を示す座標に対応する前記収音方向に、音声データの収音指向性を前記収音部に形成させる出力制御部を更に備える、指向性制御システムである。
上述した構成では、指向性制御装置3の出力制御部34cは、座標算出部34xにより算出された全方位マイクアレイ装置2の収音方向座標に対応する収音方向MIXに、音声データの収音指向性を全方位マイクアレイ装置2に形成させる。これにより、指向性制御装置3は、全方位マイクアレイ装置2に、全方位カメラ装置11zの撮像方向に存在している被写体の会話音声を適正に収音させることができる。
また、本発明の一実施形態は、前記収音部の筐体中心に円柱状の開口部が形成され、前記収音部と前記第2撮像部とは、前記第2撮像部が前記開口部の内周空間に嵌め入れられることで一体として形成される、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の筐体中心に円柱状の開口部が形成され、全方位マイクアレイ装置2とキャリブレーション用全方位カメラ装置C1とは、キャリブレーション用全方位カメラ装置C1が開口部21aの内周空間に嵌め入れられたことで一体として形成される。これにより、全方位マイクアレイ装置2は、キャリブレーション用全方位カメラ装置C1から音声収音位置Aに向かう第2撮像方向CAX2の水平角及び垂直角を、全方位マイクアレイ装置2における収音方向MIXの水平角及び垂直角として共通に用いることができる。
また、本発明の一実施形態は、第1撮像部と、第2撮像部と、収音部とを含む指向性制御システムにおける水平偏差角算出方法であって、前記第1撮像部において、被写体の画像を撮像するステップと、前記第2撮像部において、前記被写体の画像を撮像するステップと、前記収音部において、前記被写体の音声を収音するステップと、前記第1撮像部により撮像された画像データを表示部に表示するステップと、前記表示部に表示された前記画像データの任意の位置の指定に応じて、前記第1撮像部から前記画像データの指定位置に対応する音声収音位置に向かう第1撮像方向の水平角の第1基準方向からの第1水平偏差角と、前記第2撮像部から前記音声収音位置に向かう第2撮像方向の水平角の第2基準方向からの第2水平偏差角とを算出するステップと、を有する、水平偏差角算出方法である。
上述した方法では、全方位カメラ装置11z及びキャリブレーション用全方位カメラ装置C1は、同一の被写体の画像を撮像し、全方位マイクアレイ装置2は、撮像される被写体の音声を収音する。指向性制御装置3の水平偏差角算出部34wは、ディスプレイ装置36に表示された全方位カメラ装置11zの画像データにおいて任意の指定位置A’が指定されると、全方位カメラ装置11zとキャリブレーション用全方位カメラ装置C1とを結ぶ互いの基準方向に対して全方位カメラ装置11zの水平角の第1正面方向(例えば0°方向)がなす偏差の角度である第1水平偏差角εChと、キャリブレーション用全方位カメラ装置C1の水平角の第2正面方向とキャリブレーション用全方位カメラ装置C1の基準方向とがなす偏差の角度である第2水平偏差角εKhとを算出する。
これにより、指向性制御システム10では、指向性制御装置3は、全方位カメラ装置11zから音声収音位置に向かう撮像方向座標から、キャリブレーション用全方位カメラ装置C1の筐体周囲を囲むように取り付けられた全方位マイクアレイ装置2、又はキャリブレーション用全方位カメラ装置C1の水平角の基準方向と一致するようにキャリブレーション用全方位カメラ装置C1の位置に取り付けられた全方位マイクアレイ装置2の収音方向座標の各水平角の正面方向(例えば0°方向)と互いの基準方向とがなす各偏差量を算出できる。従って、指向性制御システム10では、指向性制御装置3は、全方位カメラ装置11zにより撮像された画像データの任意の音声収音位置に向かう全方位マイクアレイ装置2からの収音方向座標を適正に算出することができる。
以下に後述する第7〜第10の各実施形態は、音源として収音空間内に存在する対象物の基準面からの高さを判定し、対象物の基準面からの高さを用いて、マイクアレイ装置により収音される音声の収音指向性を形成する指向性制御システム及び指向性制御方法に関する。
特許文献1では、例えばテレビ会議システムにおける使用形態が想定され、カメラ装置とマイクアレイ装置と対象物(例えば人物)とが同一平面上に存在することが前提とされている。しかし、上述した監視システムでは、カメラ装置、マイクアレイ装置、対象物(例えば人物)が実際に同一平面上に存在することは少ない。
例えば図46に示すように、カメラ装置CA及びマイクアレイ装置Mic−Aは、音声の収音対象としての対象物(2人の人物)から上方(例えば店舗の天井面)に設置されることが多いので、カメラ装置CA、マイクアレイ装置Mic−A及び対象物(2人の人物)は、立体的な3次元の座標上に存在する。図46は、従来の監視システムにおける課題の説明図である。
従って、図46に示す監視システムにおいて、カメラ装置CAが撮像している対象物(2人の人物)の会話をマイクアレイ装置Mic−Aが収音する場合、特許文献1の方法を用いると、マイクアレイ装置Mic−Aが収音する方向を示す座標(水平角,垂直角)が適切に算出することができないという課題がある。
また、図46に示す監視システムにおいて、カメラ装置CAが撮像している対象物(2人の人物)の会話をマイクアレイ装置Mic−Aが収音する場合、カメラ装置CAから対象物に向かう方向を示す水平角及び垂直角が同一でも、対象物の音源位置(以下、単に「対象音源位置」又は「音声位置」という)の基準面(例えば床面)からの高さが異なると、マイクアレイ装置Mic―Aから対象音源位置に向かう収音指向方向が一意に定まらないという課題が生じる。
例えば図46において、点A,点A’,点A’’はカメラ装置CAからの水平角及び垂直角が同一となる位置であるが、点A,点A’,点A’’の基準面(例えば床面)からの高さHA,HA’,HA’’のいずれかが定まらないと、マイクアレイ装置Mic−Aから点A,点A’,点A’’に向かう収音指向方向が全て異なってしまう。即ち、マイクアレイ装置Mic−Aは、カメラ装置CAの被写体である対象物(2人の人物)の会話を高精度に収音することが困難となる。
そこで、本発明の第7〜第10の各実施形態では、上述した従来の課題を解決するために、収音空間内に存在する対象音源位置の基準面からの高さを判定し、対象音源位置の基準面からの高さを基に、マイクアレイ装置から対象音源位置に向かう収音指向方向に音声の収音指向性を形成する指向性制御システム及び指向性制御方法の例を説明する。
以下、本発明に係る指向性制御システム及び指向性制御方法の第7〜第10の各実施形態について、図面を参照して説明する。各実施形態の指向性制御システムは、例えば工場、企業、公共施設(例えばイベント会場)、又は店舗(例えば小売店)に設置される監視システム(有人監視システム及び無人監視システムを含む)として用いられるが、設置場所は特に限定されない。以下の各実施形態では、各実施形態の指向性制御システムは、例えば店舗内に設置されるとして説明する。
なお、本発明は、指向性制御システムを構成する各装置(例えば後述する指向性制御装置)、又は指向性制御システムを構成する各装置が行う各動作(ステップ)を有する指向性制御方法として表現することも可能である。
(第7の実施形態)
(指向性制御システムのシステム構成)
図33は、第7の実施形態の指向性制御システム10のシステム構成を示すブロック図である。図33に示す指向性制御システム10は、少なくとも1つのカメラ装置11〜1nと、全方位マイクアレイ装置2と、指向性制御装置3と、レコーダ装置4とを含む。nはカメラ装置の台数を表し、1以上の整数である。カメラ装置11〜1nと、全方位マイクアレイ装置2と、指向性制御装置3と、レコーダ装置4とは、ネットワークNWを介して互いに接続されている。ネットワークNWは、有線ネットワーク(例えばイントラネット、インターネット)でも良いし、無線ネットワーク(例えば無線LAN(Local Area Network))でも良く、以下の各実施形態においても同様である。
少なくとも1つの撮像部としてのカメラ装置11〜1nは、不図示の光学系(例えば広角レンズ)及び撮像系(例えばイメージセンサ)が内蔵された筐体を有し、例えば店舗内の天井面又は所定のスタンド(図34(A)参照)に固定して設置され、監視カメラとしての機能を有する。カメラ装置11〜1nは、ネットワークNWを介して接続された中央制御室(不図示)の指向性制御装置3に接続され、指向性制御装置3からの遠隔操作に応じて、パン方向動作、チルト方向動作、ズーム動作、撮像動作、撮像映像において指定された位置(例えば後述する図34(B)に示す指定位置A’)に対応する実際の対象音源位置Aまでの測距動作及び測角動作等を行う。
また、カメラ装置11〜1nは、光軸を中心とした既定の画角内に存在する対象物の映像(静止画及び動画を含む。以下同様。)を撮像する。カメラ装置11〜1nは、撮像した映像データと後述する収音指向方向の水平角θMAh及び垂直角θMAvを算出するための入力パラメータを取得して、ネットワークNWを介して、指向性制御装置3又はレコーダ装置4に送信する。
収音部としての全方位マイクアレイ装置2は、例えば筐体中心に開口部21aが形成されたドーナツ型又はリング型(環状型)の形状の筐体21C(図2(D)参照)を有し、例えば店舗内の天井面又は所定のスタンド(図34(A)参照)に固定して設置される。全方位マイクアレイ装置2は、全方位マイクアレイ装置2の設置位置Mから後述する対象音源位置Aに向かう収音指向方向に、音声を高精度に収音するための収音指向性を形成し、収音指向方向に存在する対象物(2人の人物)の会話音声(例えば「Hello」)を高精度に収音する。なお、全方位マイクアレイ装置2の筐体形状については、ドーナツ型又はリング型(環状型)形状に限定されず、図2を参照して上述したので説明を省略する。
全方位マイクアレイ装置2では、開口部21aの周囲であって、更に筐体21Cの円周方向に沿って、複数のマイクロホンユニット22が同心円状に配置される。マイクロホンユニット22は、例えば高音質小型エレクトレットコンデンサーマイクロホン(ECM:Electret Condenser Microphone)が用いられ、以下の各実施形態においても同様である。
全方位マイクアレイ装置2は、ネットワークNWに接続され、等間隔毎に設けられたマイクロホンを含むマイクロホンユニット22,23(図2(A)〜図2(E)参照)と、各マイクロホンユニット22,23の各動作を制御するための制御部(不図示)とを少なくとも含む構成である。
全方位マイクアレイ装置2は、各々のマイクロホンユニット22,23を用いて、音声収音対象となる対象物(音源)が存在する収音指向方向の音声を収音し、各々のマイクロホンユニット22,23が収音した音声データに所定の音声処理を施して、ネットワークNWを介して、指向性制御装置3又はレコーダ装置4に送信する。
全方位マイクアレイ装置2は、後述する指向性制御装置3からの指向性形成指示に応じて、指向性制御装置3の信号処理部33の収音指向方向算出部34bが算出した収音指向座標(θMAh,θMAv)に、各々のマイクロホンユニット22,23の収音指向性を形成する。
これにより、全方位マイクアレイ装置2は、収音指向性が形成された収音指向座標(θMAh,θMAv)から収音した音声の音量レベルを相対的に増大でき、収音指向性が形成されない方向から収音した音声の音量レベルを相対的に低減できる。なお、収音指向座標(θMAh,θMAv)の算出方法については後述する。
指向性制御装置3は、ネットワークNWに接続され、例えば企業内の中央制御室(不図示)に設置される据置型のPC(Personal Computer)でも良いし、ユーザが携帯可能な携帯電話機、タブレット端末、スマートフォン等のデータ通信端末機でも良い。
指向性制御装置3は、通信部31と、操作部32と、信号処理部33と、ディスプレイ装置36と、スピーカ装置37と、メモリ38とを少なくとも含む構成である。信号処理部33は、音源高さ判定部34aと、収音指向方向算出部34bと、出力制御部34cとを少なくとも含む。
通信部31は、ネットワークNWを介して、カメラ装置11〜1n又は全方位マイクアレイ装置2が送信した映像データ又は音声データを受信して信号処理部33に出力する。
操作部32は、ユーザの入力操作の内容を信号処理部33に通知するためのユーザインターフェース(UI:User Interface)であり、例えばマウス、キーボード等のポインティングデバイスである。また、操作部32は、例えばディスプレイ装置36の画面に対応して配置され、ユーザの指FG又はスタイラスペンによって入力操作が可能なタッチパネル又はタッチパッドを用いて構成されても良い。
操作部32は、ユーザの入力操作に応じて、ユーザが音声の音量レベルの増大又は低減を所望する場所、即ち図34(B)に示す指定位置A’を表す座標データを取得して信号処理部33に出力する。
信号処理部33は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、指向性制御装置3の各部の動作を全体的に統括するための制御処理、他の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。
高さ判定部としての音源高さ判定部34aは、ディスプレイ装置36に表示された映像データとして、例えばカメラ装置11により撮像された映像データにおいて指定位置A’がユーザの指FG又はスタイラスペンにより指定されると、指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを判定する。以下の各実施形態において、特段の説明が無い限り、例えば基準面は店舗内の床面BLとする。
具体的には、音源高さ判定部34aは、ディスプレイ装置36に表示された映像データの指定位置A’がユーザの指FGにより指定されると、指定位置A’の座標データに対応する対象音源位置Aの床面BLからの高さデータを設定ファイルCF1から読み出す。音源高さ判定部34aは、読み出した指定位置A’の座標データに対応する対象音源位置Aの床面BLからの高さデータを、指定位置A’に対応する対象音源位置Aの床面BLからの高さHAであると判定する。
収音指向方向算出部34bは、ディスプレイ装置36に表示された映像データにおける指定位置A’の指定に応じて、全方位マイクアレイ装置2の設置位置Mから、指定位置A’に対応する対象音源位置Aに向かう収音指向方向を示す座標(θMAh,θMAv)(以下、「収音指向座標」と略記する)を算出する。
収音指向座標(θMAh,θMAv)のうち、θMAhは全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向の水平角を表し、θMAvは全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向の垂直角を表す。なお、対象音源位置Aは、操作部32がディスプレイ装置36に表示された映像データにおいてユーザの指FG又はスタイラスペンによって指定された指定位置A’に対応する実際の監視対象となる現場の位置である。
制御部としての出力制御部34cは、カメラ装置11〜1n、全方位マイクアレイ装置2、ディスプレイ装置36及びスピーカ装置37の各動作を制御し、カメラ装置11〜1nから送信された映像データをディスプレイ装置36に再生出力させ、全方位マイクアレイ装置2から送信された音声データをスピーカ装置37に音声出力させる。出力制御部34cは、収音指向方向算出部34bにより算出された収音方向座標(θMAh,θMAv)に対応する収音指向方向に、音声データの収音指向性を全方位マイクアレイ装置2に形成させる。
表示部としてのディスプレイ装置36は、カメラ装置11〜1nが撮像した映像データを画面に表示する。
音声出力部としてのスピーカ装置37は、全方位マイクアレイ装置2が収音した音声データ、又は収音指向方向算出部34bが算出した収音指向座標(θMAh,θMAv)の収音指向方向に収音指向性が形成された後に全方位マイクアレイ装置2が収音した音声データを音声出力する。なお、ディスプレイ装置36及びスピーカ装置27は、指向性制御装置3とは別々の構成としても良い。
記憶部としてのメモリ38は、例えばRAM(Random Access Memory)を用いて構成され、指向性制御装置3の各部の動作時のプログラムメモリ、データメモリ、ワークメモリとして機能する。また、メモリ38は、図33に示す設定ファイルCF1を記憶する。設定ファイルCF1には、例えばカメラ装置11の床面BLからの高さHCのデータと、全方位マイクアレイ装置2の床面BLからの高さHMのデータと、例えばカメラ装置11が撮像している映像データの所定の指定位置A’に対応する対象音源位置Aの床面BLからの高さHAのデータ(第1設定データ)とが少なくとも含まれる。
レコーダ装置4は、カメラ装置11〜1nが撮像した映像データと、全方位マイクアレイ装置2が収音した音声データとを対応付けて記録する。
次に、本実施形態の指向性制御システム10の動作概要について、図34(A)及び図34(B)を参照して説明する。図34(A)は、指向性制御システム10が設置された収音空間K内において、カメラ装置11が対象物(2人の人物)を撮像する様子と、全方位マイクアレイ装置2が収音指向方向に存在する対象物(2人の人物)の会話と収音指向方向に存在しないスピーカ装置SPからの出力音楽とを収音する様子とを示す図である。
図34(B)は、全方位マイクアレイ装置2から、ディスプレイ装置36に表示された映像データからユーザの指FGにより指定された指定位置A’に対応する対象音源位置Aに向かう収音指向方向の収音音声(例えば「Hello」)の音量レベルがスピーカ装置SPからの出力音楽(例えば「♪」)の音量レベルよりも大きく音声出力される様子を示す図である。
図34(A)に示す指向性制御システム10では、カメラ装置11は、カメラ装置11に固有の画角の範囲内に映る被写体(例えば図34(A)に示す2人の人物)を撮像する。全方位マイクアレイ装置2は、収音空間K内において、全方位マイクアレイ装置2の設置位置Mの周囲の音声を収音する。図34(A)では、対象物としての2人の人物は会話を行っており、「Hello」は会話内容の一例である。カメラ装置11が撮像した映像データは、指向性制御装置3のディスプレイ装置36に表示され(図34(B)参照)、例えば対象物としての2人の人物とスピーカ装置SPとが表示されている。
図34(B)において、ユーザの指FGにより、ディスプレイ装置36の指定位置A’が指定されると、指向性制御装置3は、指定位置A’を表す座標データに対応する対象音源位置Aの床面BLからの高さHAのデータを設定ファイルCF1から読み出し、読み出した高さHAのデータを用いて、全方位マイクアレイ装置2の設置位置Mから対象音源位置Aに向かう収音指向座標(θMAh,θMAv)を算出する。全方位マイクアレイ装置2は、指向性制御装置3が算出した収音指向座標(θMAh,θMAv)の座標データを用いて、全方位マイクアレイ装置2の設置位置Mから対象音源位置Aに向かう方向に、収音指向性を形成する。
次に、本実施形態の指向性制御システム10の初期設定の動作手順について、図35(A)を参照して説明する。図35(A)は、第7の実施形態の指向性制御システム10の初期設定の動作手順を説明するフローチャートである。初期設定には、例えばカメラ装置11〜1n又は全方位マイクアレイ装置2が初期設置される動作、収音指向方向算出部34bが収音指向方向を算出するために必要となる入力パラメータが取得される動作が含まれ、以下の各実施形態においても同様である。
図35(A)において、指向性制御システム10を構成するカメラ装置11及び全方位マイクアレイ装置2が所定の位置(例えば店舗内の天井面又はスタンド)に固定するように初期設置される(ST1)。カメラ装置11及び全方位マイクアレイ装置2は、それぞれ異なる位置に設置される(図34(A)参照)。
カメラ装置11及び全方位マイクアレイ装置2が初期設置された後、収音指向方向算出部34bが収音指向座標(θMAh,θMAv)を算出するために必要となる各入力パラメータの測定が行われる(ST2)。ステップST2では、ユーザが測定器(例えばレーザ距離計)を用いて測定する場合、又はカメラ装置11がカメラ装置11自身の公知技術の機能を用いて測定して取得する場合が含まれる。ステップST2における各入力パラメータは収音指向座標の算出方法毎に異なり、詳しくは図36〜図38を参照して説明する。
ステップST2の後、ステップST2において測定された各入力パラメータが、カメラ装置11から指向性制御装置3の信号処理部33に入力され、又は操作部32から信号処理部33に入力される(ST3)。例えばカメラ装置11は、カメラ装置11自身の公知技術の機能によって取得した入力パラメータを指向性制御装置3の通信部31に送信する。通信部31は、カメラ装置11が送信した入力パラメータを信号処理部33に出力する。また、操作部32は、ユーザの入力操作に応じて、入力パラメータの一例としての対象音源位置Aの床面BLからの高さHAのデータを信号処理部33に出力する。
信号処理部33は、ステップST3において取得した各入力パラメータを含む設定ファイルCF1を生成してメモリ38に保存する(ST4)。以上により、指向性制御システム10の初期設定の動作は終了する。
次に、本実施形態の指向性制御システム10の初期設定後の動作手順について、図35(B)を参照して説明する。図35(B)は、第7の実施形態の指向性制御システム10の初期設定後の動作手順を説明するフローチャートである。
図35(B)において、指向性制御装置3は、図34(B)に示すディスプレイ装置36に表示されている映像データの中から指定位置A’の指定を、操作部32を介して受け付ける(ST11)。指向性制御装置3は、ディスプレイ装置36に表示されている映像データの中で指定位置A’の指定を受け付けた旨をカメラ装置11に送信する。
ステップST11の後、カメラ装置11は、指定位置A’の指定を受け付けた旨を指向性制御装置3から受信した場合、カメラ装置11の設置位置Cを起点として、ステップST11において指定された指定位置A’に対応する対象音源位置Aまでの水平角及び垂直角(θCAh,θCAv)の座標データを取得する(ST12)。
カメラ装置11は、カメラ装置11の設置位置Cを起点として、ステップST11において指定された指定位置A’に対応する対象音源位置Aまでの水平角及び垂直角(θCAh,θCAv)の座標データを指向性制御装置3に送信する。
指向性制御装置3の信号処理部33の音源高さ判定部34aは、指定位置A’の座標データに対応する対象音源位置Aの床面BLからの高さデータを、ステップST4においてメモリ38に記憶された設定ファイルCF1から読み出す。音源高さ判定部34aは、読み出した指定位置A’の座標データに対応する対象音源位置Aの床面BLからの高さデータを、指定位置A’に対応する対象音源位置Aの床面BLからの高さHAであると判定する。
更に、指向性制御装置3の信号処理部33の収音指向方向算出部34bは、カメラ装置11から対象音源位置Aまでの水平角及び垂直角(θCAh,θCAv)の座標データと、設定ファイルCF1から読み出された各入力パラメータ(指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを含む)とを用いて、全方位マイクアレイ装置2の設置位置Mから対象音源位置Aに向かう収音指向座標(θMAh,θMAv)を算出する(ST13)。収音指向座標(θMAh,θMAv)の算出処理については、図36及び図37を参照して詳述する。
指向性制御装置3は、ステップST13において算出した収音指向座標(θMAh,θMAv)の座標データを含む指向性形成指示を全方位マイクアレイ装置2に送信する。全方位マイクアレイ装置2は、指向性制御装置3からの指向性形成指示に応じて、指向性制御装置3が算出した収音指向座標(θMAh,θMAv)により示される収音指向方向に、各々のマイクロホンユニット22,23の収音指向性を形成する(ST14)。
これにより、全方位マイクアレイ装置2は、収音指向性が形成された収音指向座標(θMAh,θMAv)により示される収音指向方向から収音した音声データの音量レベルを増大でき、収音指向性が形成されない方向から収音した音声データの音量レベルを低減できる。以上により、指向性制御システム10の初期設定後の動作が終了する。
なお、本実施形態の指向性制御システム10において、全方位マイクアレイ装置2が音声を収音するタイミングは、ステップST14の直後に限定されず、例えば全方位マイクアレイ装置2の電源がONされた後でも良い。
(全方位マイクアレイ装置2の収音指向方向を示す座標(θMAh,θMAv)の算出方法)
ここで、指向性制御装置3の信号処理部33の収音指向方向算出部34bが全方位マイクアレイ装置2の収音指向座標(θMAh,θMAv)を算出する方法について、図36及び図37を参照して詳細に説明する。
図36(A)は、カメラ装置11、全方位マイクアレイ装置2、基準点O及び対象音源位置Aの各位置を示す斜視図である。図36(B)は、図36(A)の鉛直上方向から鉛直下方向を見た水平方向平面図である。図36(C)は、図36(B)のK−K’線による垂直方向断面図である。
図37(A)は、カメラ装置11、全方位マイクアレイ装置2、基準点O及び対象音源位置Aの各位置を示す斜視図である。図37(B)は、図37(A)の鉛直上方向から鉛直下方向を見た水平方向平面図である。図37(C)は、図37(B)のQ−Q’線による垂直方向断面図である。
収音指向方向算出部34bは、
(1)カメラ装置11と全方位マイクアレイ装置2との間の距離LCMと、
(2)カメラ装置11から対象音源位置Aまでの水平角θCAh及び垂直角θCAvと、
(3)カメラ装置11,全方位マイクアレイ装置2の床面BLからの各高さHC,HM(HC=HM)と、
(4)対象音源位置Aの床面BLからの高さHAと、を基に、
全方位マイクアレイ装置2の収音指向座標(θMAh,θMAv)を算出する。
本算出方法では、図35(A)に示すステップST2における入力パラメータは、
(1)カメラ装置11と全方位マイクアレイ装置2との間の距離LCMと、
(3)カメラ装置11、全方位マイクアレイ装置2の床面BLからの各高さHC,HM(HC=HM)である。
また、本算出方法における各入力パラメータのうち、
(1)カメラ装置11と全方位マイクアレイ装置2との間の距離LCMは、例えば図35(A)に示すステップST1の初期設置時に測定された固定値である。
(3)カメラ装置11、全方位マイクアレイ装置2の床面BLからの各高さHC,HM(HC=HM)は、例えば図35(A)に示すステップST1の初期設置時に測定された固定値である。また、説明を簡単にするために、カメラ装置11、全方位マイクアレイ装置2の床面BLからの各高さHC,HMは等しいとして説明するが、異なっても良い。
また、本算出方法における各入力パラメータのうち、
(2)カメラ装置11から対象音源位置Aまでの水平角θCAh及び垂直角θCAvは、図35(B)に示すステップST12においてカメラ装置11の公知技術の機能によって取得される。
更に、本算出方法では、
(4)対象音源位置Aの床面BLからの高さHAは、指向性制御装置3の信号処理部33の音源高さ判定部34aにより判定された固定値、即ち、図35(A)に示すステップST4において設定ファイルCF1に書き込まれた固定値(所定値)である。
以下、収音指向方向算出部34bにおける全方位マイクアレイ装置2の収音指向座標(θMAh,θMAv)の算出方法について、具体的に説明する。
収音指向方向算出部34bは、図36(C)に示す△CAPにおいて、カメラ装置11,全方位マイクアレイ装置2の床面BLからの各高さHC,HMと、カメラ装置11から対象音源位置Aまでの垂直角θCAvとを用いて、数式(58)に従って、カメラ装置11から対象音源位置Aまでの距離LCAの水平成分の距離LCAhを算出する。
収音指向方向算出部34bは、数式(64)の算出結果と、カメラ装置11から対象音源位置Aまでの水平角θCAhと、カメラ装置11と全方位マイクアレイ装置2との間の距離LCMとを用いて、図36(B)に示す△CAMに対する余弦定理により、数式(72)に従って、全方位マイクアレイ装置2から対象音源位置Aまでの距離の水平成分の距離LMAhを算出する。
収音指向方向算出部34bは、数式(64),(72)の各算出結果と、カメラ装置11と全方位マイクアレイ装置2との間の距離LCMとを用いて、図36(B)に示す△CAMに対する余弦定理により、数式(73)に従って、全方位マイクアレイ装置2から対象音源位置Aに向かう俯角θMAの水平角θMAhの余弦値cosθMAhを算出する。
これにより、収音指向方向算出部34bは、数式(74)に従って、全方位マイクアレイ装置2から対象音源位置Aまでの俯角θMAの水平角θMAhを算出できる。
更に、収音指向方向算出部34bは、図37(C)に示す△MASに対する正接により、数式(75)に従って、全方位マイクアレイ装置2から対象音源位置Aに向かう俯角θMAの垂直角θMAvの正接値tanθMAvを算出する。
これにより、収音指向方向算出部34bは、数式(76)に従って、全方位マイクアレイ装置2から対象音源位置Aまでの俯角θMAの垂直角θMAvを算出できる。
以上により、本実施形態の指向性制御システム10では、指向性制御装置3の音源高さ判定部34aは、ディスプレイ装置36に表示された映像データの表示画面においてユーザによる指定位置A’の指定に応じて、指定された映像データの指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを判定する。指向性制御装置3の収音指向方向算出部34bは、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から、指定された指定位置A’に対応する対象音源位置Aに向かう収音指向方向を示す収音指向座標を算出する。指向性制御装置3の出力制御部34cは、算出された収音指向座標により示される収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させる。
これにより、指向性制御システム10では、指向性制御装置3は、収音空間K内においてカメラ装置11が撮像している撮像方向に存在する対象物の対象音源位置Aの床面BLからの高さHAを一意に判定でき、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向を正確に算出することができる。更に、指向性制御装置3は、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させることができる。
また、本実施形態の指向性制御システム10では、指向性制御装置3のメモリ38には、例えばユーザの入力操作に応じて指定される映像データの指定位置A’に対応する対象音源位置Aと、対象音源位置Aの床面BLからの高さ(固定値)とが予め対応付けられた第1設定データを含む設定ファイルCF1が記憶されている。
従って、音源高さ判定部34aは、設定ファイルCF1の第1設定データを基に、例えばユーザの入力操作に応じて指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを簡易に判定できる。
(第8の実施形態)
第8の実施形態では、指向性制御装置3Aは、対象音源位置Aの床面BLからの高さの選択肢をディスプレイ装置36に表示させ、例えばユーザにいずれかの選択肢を選択させるように促す。指向性制御装置3Aは、いずれかの選択肢の選択に応じて、対象音源位置Aの床面BLからの高さを判定する。
図38(A)は、第8の実施形態の指向性制御システム10Aのシステム構成を示すブロック図である。図38(B)は、ディスプレイ装置36に表示された、映像データの表示画面WD1と対象音源位置Aの床面BLからの高さHAを選択させるための選択画面WD2とを示す図である。図38(A)に示す指向性制御システム10Aは、少なくとも1つのカメラ装置11〜1nと、全方位マイクアレイ装置2と、指向性制御装置3Aと、レコーダ装置4とを含む。
指向性制御装置3Aは、通信部31と、操作部32と、信号処理部33Aと、ディスプレイ装置36と、スピーカ装置37と、メモリ38Aとを含む。信号処理部33Aは、音源高さ判定部34aAと、収音指向方向算出部34bと、出力制御部34cAとを少なくとも含む。図38(A)に示す指向性制御システム10Aを構成する各部の動作が図33に示す指向性制御システム10を構成する各部の動作と同一であるものには、同一の符号を付して説明を省略又は簡略化し、異なる内容について説明する。
本実施形態では、メモリ38Aは、図38(A)に示す設定ファイルCF2を記憶する。設定ファイルCF2には、例えばカメラ装置11の床面BLからの高さHCのデータと、全方位マイクアレイ装置2の床面BLからの高さHMのデータと、例えばカメラ装置11が撮像している映像データの所定の指定位置A’に対応する対象音源位置Aの床面BLからの高さHAの選択肢としての複数種類の高さデータ(第2設定データ)とが少なくとも含まれる。
例えば図38(A)及び図38(B)に示すように、第2設定データでは、対象音源高さHA−Aは成人男性が想定された平均身長である170cmであり、対象音源高さHA−Bは成人女性が想定された平均身長である150cmであり、対象音源高さHA−Aは子どもが想定された身長である120cmである。信号処理部33Aの出力制御部34cAは、メモリ38Aの設定ファイルCF2を読み出して、ユーザの指FGにより指定される指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを選択させるための選択肢を含む選択画面WD2をディスプレイ装置36に表示させる。
信号処理部33Aの音源高さ判定部34aAは、選択画面WD2においてユーザの指FGにより選択された選択肢に対応する対象音源高さ(例えば対象音源高さHA−A)を、図38(B)に示す映像データの表示画面WD1において、ユーザの指FGにより指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAとして判定する。
次に、本実施形態の指向性制御システム10Aの初期設定の動作手順について、図39(A)を参照して説明する。図39(A)は、第8の実施形態の指向性制御システム10Aの初期設定の動作手順を説明するフローチャートである。図39(A)に示すフローチャートでは、図35(A)に示すフローチャートと同一内容のステップには同一のステップ番号を付して説明を省略又は簡略化し、異なる内容について説明する。
図39(A)において、ステップST2の後、ステップST2において測定された各入力パラメータが、カメラ装置11から指向性制御装置3Aの信号処理部33Aに入力され、又は操作部32から信号処理部33Aに入力される(ST3A)。例えば、操作部32は、ユーザの入力操作に応じて、入力パラメータの一例としての対象音源位置Aの床面BLからの高さHAの選択肢としての複数種類の高さデータ(第2設定データ)を信号処理部33Aに出力する。
信号処理部33Aは、ステップST3において取得した各入力パラメータを含む設定ファイルCF2を生成してメモリ38Aに保存する(ST4)。以上により、指向性制御システム10Aの初期設定の動作は終了する。
次に、本実施形態の指向性制御システム10Aの初期設定後の動作手順について、図39(B)を参照して説明する。図39(B)は、第8の実施形態の指向性制御システム10Aの初期設定後の動作手順を説明するフローチャートである。図39(B)に示すフローチャートでは、図35(B)に示すフローチャートと同一内容のステップには同一のステップ番号を付して説明を省略又は簡略化し、異なる内容について説明する。
図39(B)において、ステップST12の後、出力制御部34cAは、メモリ38Aの設定ファイルCF2を読み出して、ユーザの指FGにより指定される指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを選択させるための選択肢を含む選択画面WD2をディスプレイ装置36に表示させる(図38(B)参照)。
ここで、選択画面WD2において、ユーザの指FGにより、対象音源位置Aの床面BLからの高さHAを選択させるための複数の選択肢のうち、いずれかの選択肢が選択されたとする(ST15)。音源高さ判定部34aAは、ユーザの指FGにより選択された選択肢に対応する対象音源高さ(例えば対象音源高さHA−A)を、図38(B)に示す映像データの表示画面WD1において、ユーザの指FGにより指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAとして判定する。
指向性制御装置3Aの信号処理部33Aの収音指向方向算出部34bは、カメラ装置11から対象音源位置Aまでの水平角及び垂直角(θCAh,θCAv)の座標データと、ステップST15において選択された選択肢に応じて判定された対象音源位置Aの床面BLからの高さHAとを用いて、全方位マイクアレイ装置2の設置位置Mから対象音源位置Aに向かう収音指向座標(θMAh,θMAv)を算出する(ST13A)。ステップST13Aの算出内容及びステップST14の動作内容は、上述した第7の実施形態における算出内容及び動作内容と同一であるため、説明を省略する。以上により、指向性制御システム10Aの初期設定後の動作が終了する。
以上により、本実施形態の指向性制御システム10Aでは、指向性制御装置3Aのメモリ38Aには、対象音源位置Aの床面BLからの高さとして、複数種類の高さHA−A,HA−B,HA−D,…の高さデータ(第2設定データ)を含む設定ファイルCF2が記憶されている。指向性制御装置3Aの出力制御部34cAは、対象音源位置Aの床面BLからの高さとして、設定ファイルCF2の第2設定データの複数種類の高さデータの選択肢をディスプレイ装置36に表示させる。
従って、指向性制御装置3Aの音源高さ判定部34aAは、表示された複数種類の高さデータの選択肢のうちいずれかの選択に応じて、例えばユーザの入力操作に応じて指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを簡易に判定できる。
また、本実施形態の指向性制御システム10Aでも、第7の実施形態の指向性制御システム10と同様に、指向性制御装置3Aは、収音空間K内においてカメラ装置11が撮像している撮像方向に存在する対象物の対象音源位置Aの床面BLからの高さHAを一意に判定でき、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向を正確に算出することができる。更に、指向性制御装置3は、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させることができる。
(第9の実施形態)
第9の実施形態では、指向性制御装置3Bは、対象音源位置Aの床面BLからの高さを直接に入力させるための入力フォーム画面WD3をディスプレイ装置36に表示させ、例えばユーザに入力を促す。指向性制御装置3Bは、入力フォーム画面WD3に入力されたデータを、対象音源位置Aの床面BLからの高さHAとして判定する。
図40(A)は、第9の実施形態の指向性制御システム10Bのシステム構成を示すブロック図である。図40(B)は、ディスプレイ装置36に表示された、映像データの表示画面WD1と対象音源位置Aの床面BLからの高さを入力させるための入力フォーム画面WD3とを示す図である。図40(A)に示す指向性制御システム10Bは、少なくとも1つのカメラ装置11〜1nと、全方位マイクアレイ装置2と、指向性制御装置3Bと、レコーダ装置4とを含む。
指向性制御装置3Bは、通信部31と、操作部32と、信号処理部33Bと、ディスプレイ装置36と、スピーカ装置37と、メモリ38Bとを含む。信号処理部33Bは、音源高さ判定部34aBと、収音指向方向算出部34bと、出力制御部34cBとを少なくとも含む。図40(A)に示す指向性制御システム10Bを構成する各部の動作が図33に示す指向性制御システム10を構成する各部の動作と同一であるものには、同一の符号を付して説明を省略又は簡略化し、異なる内容について説明する。
本実施形態では、メモリ38Bは、図40(A)に示す設定ファイルCF3を記憶する。設定ファイルCF2には、例えばカメラ装置11の床面BLからの高さHCのデータと、全方位マイクアレイ装置2の床面BLからの高さHMのデータとが少なくとも含まれ、以下の第10の実施形態においても同様である。
信号処理部33Bの出力制御部34cBは、ユーザの指FGにより指定される指定位置A’に対応する対象音源位置Aの床面BLからの高さをユーザに直接に入力させるための入力フォーム画面WD3をディスプレイ装置36に表示させる。
信号処理部33Bの音源高さ判定部34aBは、入力フォーム画面WD3に入力された対象音源位置Aの床面BLからの高さの数値を、ユーザが所望する対象音源位置Aの床面BLからの高さHAとして判定する。
次に、本実施形態の指向性制御システム10Bの初期設定の動作手順について、図41(A)を参照して説明する。図41(A)は、第9の実施形態の指向性制御システム10Bの初期設定の動作手順を説明するフローチャートである。図41(A)に示すフローチャートでは、図35(A)に示すフローチャートと同一内容のステップには同一のステップ番号を付して説明を省略又は簡略化し、異なる内容について説明する。
図41(A)において、ステップST2の後、ステップST2において測定された各入力パラメータが、カメラ装置11から指向性制御装置3Bの信号処理部33Bに入力され、又は操作部32から信号処理部33Bに入力される(ST3B)。なお、ステップST3Bでは、図35(A)に示すステップST3又は図40(A)に示すステップST3Aと異なり、入力パラメータには対象音源位置Aの床面BLからの高さHAは含まれない。
信号処理部33Bは、ステップST3Bにおいて取得した各入力パラメータを含む設定ファイルCF3を生成してメモリ38Aに保存する(ST4)。以上により、指向性制御システム10Bの初期設定の動作は終了する。
次に、本実施形態の指向性制御システム10Bの初期設定後の動作手順について、図41(B)を参照して説明する。図41(B)は、第9の実施形態の指向性制御システム10Bの初期設定後の動作手順を説明するフローチャートである。図41(B)に示すフローチャートでは、図35(B)に示すフローチャートと同一内容のステップには同一のステップ番号を付して説明を省略又は簡略化し、異なる内容について説明する。
図41(B)において、ステップST12の後、出力制御部34cBは、ユーザの指FGにより指定される指定位置A’に対応する対象音源位置Aの床面BLからの高さをユーザに直接に入力させるための入力フォーム画面WD3をディスプレイ装置36に表示させる(図40(B)参照)。
ここで、入力フォーム画面WD3において、ユーザの入力操作(例えば指FGによる入力、又はキーボード(不図示)からの入力)により、対象音源位置Aの床面BLからの高さとなる数値が直接に入力されたとする(ST16)。音源高さ判定部34aBは、入力フォーム画面WD3に入力された対象音源位置Aの床面BLからの高さの数値を、ユーザが所望する対象音源位置Aの床面BLからの高さHAとして判定する。
指向性制御装置3Bの信号処理部33Bの収音指向方向算出部34bは、カメラ装置11から対象音源位置Aまでの水平角及び垂直角(θCAh,θCAv)の座標データと、ステップST16における入力フォーム画面WD3への入力に応じて判定された対象音源位置Aの床面BLからの高さHAとを用いて、全方位マイクアレイ装置2の設置位置Mから対象音源位置Aに向かう収音指向座標(θMAh,θMAv)を算出する(ST13B)。ステップST13Bの算出内容及びステップST14の動作内容は、上述した第7の実施形態における算出内容及び動作内容と同一であるため、説明を省略する。以上により、指向性制御システム10Bの初期設定後の動作が終了する。
以上により、本実施形態の指向性制御システム10Bでは、指向性制御装置3Bの出力制御部34cBは、対象音源位置Aの床面BLからの高さを直接に入力させるための入力フォーム画面WD3をディスプレイ装置36に表示させる。
従って、指向性制御装置3Bの音源高さ判定部34aBは、表示された入力フォーム画面WD3への対象音源位置Aの床面BLからの高さの入力に応じて、ユーザが所望する対象音源位置Aの床面BLからの高さを正確に判定することができる。これにより、指向性制御装置3Bの収音指向方向算出部34bは、全方位マイクアレイ装置2から、指定された指定位置A’に対応する対象音源位置Aに向かう収音指向方向の収音指向座標を正確に算出することができる。
また、本実施形態の指向性制御システム10Bでも、第7の実施形態の指向性制御システム10と同様に、指向性制御装置3Bは、収音空間K内においてカメラ装置11が撮像している撮像方向に存在する対象物の対象音源位置Aの床面BLからの高さHAを一意に判定でき、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向を正確に算出することができる。更に、指向性制御装置3Bは、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させることができる。
(第10の実施形態)
第10の実施形態では、指向性制御装置3Cは、ディスプレイ装置36に表示された映像データの表示画面WD4において、例えばユーザの指FGにより、対象物(例えば人物)の周囲の第1指定位置A1’と第2指定位置A1’の鉛直下方向(真下)の床面BL上の第2指定位置A2’とが指定されると、第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さを算出する。指向性制御装置3Cは、算出された高さを、対象音源位置A1の床面BLからの高さHA1として判定する。
図42(A)は、第10の実施形態の指向性制御システム10Cのシステム構成を示すブロック図である。図42(B)は、ディスプレイ装置36に表示された映像データの表示画面WD4において第1指定位置A1’と第2指定位置A2’とが指定される様子を示す図である。図42(A)に示す指向性制御システム10Cは、少なくとも1つのカメラ装置11〜1nと、全方位マイクアレイ装置2と、指向性制御装置3Bと、レコーダ装置4とを含む。
指向性制御装置3Cは、通信部31と、操作部32と、信号処理部33Cと、ディスプレイ装置36と、スピーカ装置37と、メモリ38Bとを含む。信号処理部33Cは、音源高さ判定部34aCと、収音指向方向算出部34bと、出力制御部34cとを少なくとも含む。図42(A)に示す指向性制御システム10Cを構成する各部の動作が図33に示す指向性制御システム10を構成する各部の動作と同一であるものには、同一の符号を付して説明を省略又は簡略化し、異なる内容について説明する。
信号処理部33Cの高さ判定部34aCは、ディスプレイ装置36に表示された映像データの表示画面WD4において、例えばユーザの指FGにより、第1指定位置A1’と第1指定位置A1’に対応する床面BL上の第2指定位置A2’とが指定されると、指定された第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さを算出する。
なお、本実施形態の指向性制御システム10Cの初期設定の動作手順(図43(A)参照)は、図41(A)に示す第10の実施形態の指向性制御システム10Bの初期設定の動作手順と同一であるため、説明を省略する。図43(A)は、第10の実施形態の指向性制御システム10Cの初期設定の動作手順を説明するフローチャートである。
次に、本実施形態の指向性制御システム10Cの初期設定後の動作手順について、図43(B)を参照して説明する。図43(B)は、第10の実施形態の指向性制御システム10Cの初期設定後の動作手順を説明するフローチャートである。図43(B)に示すフローチャートでは、図35(B)に示すフローチャートと同一内容のステップには同一のステップ番号を付して説明を省略又は簡略化し、異なる内容について説明する。
図43(B)において、指向性制御装置3Cは、図42(B)に示すディスプレイ装置36に表示されている映像データの表示画面WD4から第1指定位置A1’及び第2指定位置A2’の指定を、操作部32を介して受け付ける(ST11C)。指向性制御装置3Cは、ディスプレイ装置36に表示されている映像データの表示画面WD4中において第1指定位置A1’及び第2指定位置A2’の指定を受け付けた旨をカメラ装置11に送信する。
ステップST11Cの後、カメラ装置11は、第1指定位置A1’及び第2指定位置A2’の指定を受け付けた旨を指向性制御装置3Cから受信した場合、カメラ装置11の設置位置Cを起点として、ステップST11Cにおいて指定された第1指定位置A1’に対応する対象音源位置A1までの水平角及び垂直角(θCA1h,θCA1v)の座標データと、ステップST11Cにおいて指定された第2指定位置A2’に対応する位置A2までの水平角及び垂直角(θCA2h,θCA2v)の座標データとを取得する(ST12C)。
カメラ装置11は、カメラ装置11の設置位置Cを起点として、ステップST11Cにおいて指定された第1指定位置A1’に対応する対象音源位置A1までの水平角及び垂直角(θCA1h,θCA1v)の座標データと、第2指定位置A2’に対応する位置A2までの水平角及び垂直角(θCA2h,θCA2v)の座標データとを指向性制御装置3Cに送信する。
指向性制御装置3Cの信号処理部33Cの高さ判定部34aCは、カメラ装置11から送信された(θCA1h,θCA1v)の座標データ及び(θCA2h,θCA2v)の座標データを用いて、ユーザの指FGにより指定された第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さHA1を算出する(ST17)。ステップST17の詳細については、図44及び図45を参照して後述する。
指向性制御装置3Cの信号処理部33Cの収音指向方向算出部34bは、カメラ装置11から対象音源位置A1までの水平角及び垂直角(θCAh,θCAv)の座標データと、ステップST17において算出された対象音源位置A1の床面BLからの高さHA1とを用いて、全方位マイクアレイ装置2の設置位置Mから対象音源位置Aに向かう収音指向座標(θMAh,θMAv)を算出する(ST13C)。ステップST13Cの算出内容及びステップST14の動作内容は、上述した第7の実施形態における算出内容及び動作内容と同一であるため、説明を省略する。以上により、指向性制御システム10Cの初期設定後の動作が終了する。
(対象音源位置A1の床面BLからの高さHA1の算出方法)
ここで、指向性制御装置3Cの信号処理部33Cの音源高さ判定部34aCが対象音源位置A1の床面BLからの高さHA1を算出する方法(以下、「本高さ算出方法」という)について、図44及び図45を参照して詳細に説明する。
図44(A)は、カメラ装置11から、床面BL上に存在している対象物(人物)の対象音源位置A1及び対象音源位置A1から鉛直下方向の床面BL上の位置A2への距離及び方向の説明図である。図44(B)は、カメラ装置11と対象音源位置A1及び床面BL上の位置A2とを鉛直上方向から鉛直下方向に見た平面図である。図44(C)は、図44(B)のA−A’断面図である。
図45(A)は、カメラ装置11から、床面BL上に設置された台RC上に存在している対象物(人物)の対象音源位置A1及び対象音源位置A1から鉛直下方向の台RC上の位置A2への距離及び方向の説明図である。図45(B)は、カメラ装置11と対象音源位置A1及び台RC上の位置A2とを鉛直上方向から鉛直下方向に見た平面図である。図45(C)は、図45(B)のA−A’断面図である。
音源高さ判定部34aCは、
(1)カメラ装置11の床面BLからの高さHCと、
(2)カメラ装置11から対象音源位置A1までの距離(水平成分)LCA1h及び角度(垂直角)θCA1vと、
(3)カメラ装置11から床面BL上の位置A2までの距離(水平成分)LCA2h及び角度(垂直角)θCA2vと、を基に、
指定された第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さHA1を算出する。
本高さ算出方法では、図43(A)に示すステップST2における入力パラメータは、カメラ装置11の床面BLからの高さHCである。また、カメラ装置11から対象音源位置A1までの角度(垂直角)θCA1vと、カメラ装置11から床面BL上の位置A2までの角度(垂直角)θCA2vとは、ステップST12Cにおいてカメラ装置11から得られる。
以下、音源高さ判定部34aCが対象音源位置A1の床面BLからの高さHA1の算出方法(本高さ算出方法)について、具体的に説明する。
音源高さ判定部34aCは、図44(C)に示す△CA1Qに対する正接により、数式(77)に従って、カメラ装置11から対象音源位置A1に向かう撮像方向の垂直角θCA1vの正接値tanθCA1vを算出する。数式(77)において、LCA1hは、カメラ装置11から対象音源位置A1までの距離の水平成分である。
同様に、音源高さ判定部34aCは、図44(C)に示す△CA2Qに対する正接により、数式(78)に従って、カメラ装置11から床面BL上の位置A2に向かう撮像方向の垂直角θCA2vの正接値tanθCA2vを算出する。数式(78)において、LCA2hは、カメラ装置11から床面BL上の位置A2までの距離の水平成分である。
ここで、対象音源位置A1と床面BL上の位置A2とは、図44(A)に示す鉛直上方向又は鉛直下方向において座標が異なるが、水平成分の座標は同一である。従って、図44(B)に示すように、カメラ装置11から対象音源位置A1までの距離LCA1の水平成分LCA1hと、カメラ装置11から床面BL上の位置A2までの距離LCA2の水平成分LCA2hとは等しい(数式(79)参照)。
従って、音源高さ判定部34aCは、数式(77)〜(79)の各算出結果を用いて、対象音源位置A1の床面BLからの高さHA1を、数式(80)に従って算出する。
また、対象物(人物)が床面BL上に存在せずに、床面BL上に設置された所定の高さHDの台RC上に存在する場合に(図45(A)参照)、対象音源位置A1の床面BLからの高さHA1の算出方法についても説明する。
音源高さ判定部34aCは、図45(C)に示す△CA1Qに対する正接により、数式(81)に従って、カメラ装置11から対象音源位置A1に向かう撮像方向の垂直角θCA1vの正接値tanθCA1vを算出する。数式(81)において、LCA1hは、カメラ装置11から対象音源位置A1までの距離の水平成分である。
同様に、音源高さ判定部34aCは、図45(C)に示す△CA2Qに対する正接により、数式(82)に従って、カメラ装置11から台RC上の位置A2に向かう撮像方向の垂直角θCA2vの正接値tanθCA2vを算出する。数式(82)において、LCA2hは、カメラ装置11から台RC上の位置A2までの距離の水平成分である。
ここで、対象音源位置A1と台RC上の位置A2とは、図45(A)に示す鉛直上方向又は鉛直下方向において座標が異なるが、水平成分の座標は同一である。従って、図45(B)に示すように、カメラ装置11から対象音源位置A1までの距離LCA1の水平成分LCA1hと、カメラ装置11から台RC上の位置A2までの距離LCA2の水平成分LCA2hとは等しい(数式(79)参照)。
従って、音源高さ判定部34aCは、数式(79)、(81)及び(82)の各算出結果を用いて、対象音源位置A1の床面BLからの高さHA1を、数式(83)に従って算出する。
以上により、本実施形態の指向性制御システム10Cでは、指向性制御装置3Cの音源高さ判定部34aCは、ディスプレイ装置36に表示された映像データの第1指定位置A1’と、第1指定位置A1’に対応する床面BL上の第2指定位置A2’との指定に応じて、指定された第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さを正確に算出することができる。
従って、指向性制御装置3Cは、映像データの指定位置に対応する対象音源位置と対象音源位置の床面BLからの高さとを予め対応付けした設定ファイルの作成を不要とし、対象音源位置の床面BLからの高さの選択肢又は入力フォームをディスプレイ装置36に表示することなく、2つの指定位置の指定という簡易な指定操作に応じて、ユーザが所望する対象音源位置A1の床面BLからの高さを正確に算出することができる。
また、本実施形態の指向性制御システム10Cでも、第7の実施形態の指向性制御システム10と同様に、指向性制御装置3Cは、収音空間K内においてカメラ装置11が撮像している撮像方向に存在する対象物の対象音源位置A1の床面BLからの高さHAを一意に判定でき、対象音源位置A1の床面BLからの高さHA1を基に、全方位マイクアレイ装置2から対象音源位置A1に向かう収音指向方向を正確に算出することができる。更に、指向性制御装置3Cは、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させることができる。
以下、上述した本発明に係る指向性制御システム及び指向性制御方法の構成、作用及び効果を説明する。
本発明の一実施形態は、映像を撮像する少なくとも1つの撮像部と、音声を収音する収音部と、前記少なくとも1つの撮像部により撮像された映像データを表示する表示部と、前記映像データの位置指定に応じて、指定された前記映像データの指定位置に対応する対象音源位置の基準面からの高さを判定する高さ判定部と、前記対象音源位置の基準面からの高さを基に、前記収音部から前記対象音源位置に向かう収音指向方向を算出する収音指向方向算出部と、算出された前記収音指向方向に、前記音声の収音指向性を前記収音部に形成させる制御部と、を備える、指向性制御システムである。
上述した構成では、指向性制御装置3の音源高さ判定部34aは、ディスプレイ装置36に表示された映像データ中のユーザによる指定位置A’の指定に応じて、指定された映像データの指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを判定する。指向性制御装置3の収音指向方向算出部34bは、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から、指定された指定位置A’に対応する対象音源位置Aに向かう収音指向方向を算出する。指向性制御装置3の出力制御部34cは、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させる。
これにより、指向性制御システム10では、指向性制御装置3は、収音空間K内においてカメラ装置11が撮像している撮像方向に存在する対象物の対象音源位置Aの床面BLからの高さHAを一意に判定でき、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向を正確に算出することができる。更に、指向性制御装置3は、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させることができる。
また、本発明の一実施形態は、前記映像データの指定位置に対応する対象音源位置と、前記対象音源位置の基準面からの高さとが予め対応付けられた第1設定データを記憶する記憶部を更に備え、前記高さ判定部は、前記第1設定データを基に、指定された前記指定位置に対応する対象音源位置の基準面からの高さを判定する、指向性制御システムである。
上述した構成では、指向性制御装置3のメモリ38には、例えばユーザの入力操作に応じて指定される映像データの指定位置A’に対応する対象音源位置Aと、対象音源位置Aの床面BLからの高さとが予め対応付けられた第1設定データを含む設定ファイルCF1が記憶されている。
従って、音源高さ判定部34aは、設定ファイルCF1の第1設定データを基に、例えばユーザの入力操作に応じて指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを簡易に判定できる。
また、本発明の一実施形態は、前記対象音源位置の基準面からの高さとして、複数種類の高さデータを含む第2設定データを記憶する記憶部を更に備え、前記制御部は、前記対象音源位置の基準面からの高さとして、前記第2設定データの前記複数種類の高さデータの選択肢を前記表示部に表示させ、前記高さ判定部は、表示された前記複数種類の高さデータの選択肢のうちいずれかの選択に応じて、指定された前記指定位置に対応する対象音源位置の基準面からの高さを判定する、指向性制御システムである。
上述した構成では、指向性制御装置3Aのメモリ38Aには、対象音源位置Aの床面BLからの高さとして、複数種類の高さHA−A,HA−B,HA−D,…の高さデータ(第2設定データ)を含む設定ファイルCF2が記憶されている。指向性制御装置3Aの出力制御部34cAは、対象音源位置Aの床面BLからの高さとして、設定ファイルCF2の第2設定データの複数種類の高さデータの選択肢をディスプレイ装置36に表示させる。
従って、指向性制御装置3Aの音源高さ判定部34aAは、表示された複数種類の高さデータの選択肢のうちいずれかの選択に応じて、例えばユーザの入力操作に応じて指定された指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを簡易に判定できる。
また、本発明の一実施形態は、前記制御部は、前記対象音源位置の基準面からの高さの入力フォームを前記表示部に表示させ、前記高さ判定部は、表示された前記入力フォームへの前記対象音源位置の基準面からの高さの入力に応じて、指定された前記指定位置に対応する対象音源位置の基準面からの高さを判定する、指向性制御システムである。
上述した構成では、指向性制御装置3Bの出力制御部34cBは、対象音源位置Aの床面BLからの高さを直接に入力させるための入力フォーム画面WD3をディスプレイ装置36に表示させる。
従って、指向性制御装置3Bの音源高さ判定部34aBは、表示された入力フォーム画面WD3への対象音源位置Aの床面BLからの高さの入力に応じて、ユーザが所望する対象音源位置Aの床面BLからの高さを正確に判定することができる。これにより、指向性制御装置3Bの収音指向方向算出部34bは、全方位マイクアレイ装置2から、指定された指定位置A’に対応する対象音源位置Aに向かう収音指向方向を正確に算出することができる。
また、本発明の一実施形態は、前記高さ判定部は、表示された前記映像データの第1指定位置と前記第1指定位置に対応する前記基準面上の第2指定位置との指定に応じて、指定された前記第1指定位置に対応する前記対象音源位置の基準面からの高さを算出する、指向性制御システムである。
上述した構成では、指向性制御装置3Cの高さ判定部34aCは、ディスプレイ装置36に表示された映像データの第1指定位置A1’と、第1指定位置A1’に対応する床面BL上の第2指定位置A2’との指定に応じて、指定された第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さを正確に算出することができる。
従って、指向性制御装置3Cは、映像データの指定位置に対応する対象音源位置と対象音源位置の床面BLからの高さとを予め対応付けした設定ファイルの作成を不要とし、対象音源位置の床面BLからの高さの選択肢又は入力フォームをディスプレイ装置36に表示することなく、2つの指定位置の指定という簡易な指定操作に応じて、ユーザが所望する対象音源位置A1の床面BLからの高さを正確に算出することができる。
また、本発明の一実施形態は、前記高さ判定部は、前記少なくとも1つの撮像部の前記基準面からの高さと、前記少なくとも1つの撮像部から前記第1指定位置に対応する前記対象音源位置までの距離及び角度と、前記少なくとも1つの撮像部から前記第2指定位置に対応する前記基準面の位置までの距離及び角度と、を基に、指定された前記第1指定位置に対応する前記対象音源位置の基準面からの高さを算出する、指向性制御システムである。
上述した構成では、指向性制御装置3Cの音源高さ判定部34aCは、カメラ装置11の床面BLからの高さHCと、カメラ装置11から第1指定位置A1’に対応する対象音源位置A1までの距離LCA1h及び角度θCA1vと、カメラ装置11から第2指定位置A2’に対応する床面BLの位置A2までの距離LCA2h及び角度θCA2vと、を基に、指定された第1指定位置A1’に対応する対象音源位置A1の床面BLからの高さを正確に算出することができる。
また、本発明の一実施形態は、映像を撮像する少なくとも1つの撮像部と、音声を収音する収音部とを含む指向性制御システムにおける指向性制御方法であって、前記少なくとも1つの撮像部により撮像された映像データを表示するステップと、前記映像データの位置指定に応じて、指定された前記映像データの指定位置に対応する対象音源位置の基準面からの高さを判定するステップと、前記対象音源位置の基準面からの高さを基に、前記収音部から前記対象音源位置に向かう収音指向方向を算出するステップと、算出された前記収音指向方向に、前記音声の収音指向性を前記収音部に形成させるステップと、を有する、指向性制御方法である。
上述した方法では、指向性制御装置3の音源高さ判定部34aは、ディスプレイ装置36に表示された映像データ中のユーザによる指定位置A’の指定に応じて、指定された映像データの指定位置A’に対応する対象音源位置Aの床面BLからの高さHAを判定する。指向性制御装置3の収音指向方向算出部34bは、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から、指定された指定位置A’に対応する対象音源位置Aに向かう収音指向方向を算出する。指向性制御装置3の出力制御部34cは、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させる。
これにより、指向性制御システム10では、指向性制御装置3は、収音空間K内においてカメラ装置11が撮像している撮像方向に存在する対象物の対象音源位置Aの床面BLからの高さHAを一意に判定でき、対象音源位置Aの床面BLからの高さHAを基に、全方位マイクアレイ装置2から対象音源位置Aに向かう収音指向方向を正確に算出することができる。更に、指向性制御装置3は、算出された収音指向方向に、音声の収音指向性を全方位マイクアレイ装置2に形成させることができる。
以下に後述する第11の実施形態は、音声を収音するマイクアレイ装置の収音指向性を制御する指向性制御システム及び指向性制御方法に関する。
特許文献1では、例えばテレビ会議システムにおける使用形態を想定して、カメラ装置とマイクアレイ装置と被写体(例えば発話者)とが同一平面上に存在することが前提とされている。しかし、上述した監視システムでは、カメラ装置、マイクアレイ装置、被写体(例えば店舗の店員、来客者)の全てが実際に同一平面上に存在することは少ない。
例えばカメラ装置及びマイクアレイ装置は、被写体から上方(例えば店舗の天井面)に設置されることが多いので、カメラ装置、マイクアレイ装置及び被写体は、平面的な2次元の座標上には存在せず、むしろ立体的な3次元の座標上に存在することが多い。
従って、上述した監視システムにおいて、カメラ装置が撮像している映像中の被写体の会話をマイクアレイ装置が収音する場合、特許文献1の方法によって算出されたマイクアレイ装置が収音する方向を示す座標(水平角,垂直角)をそのまま用いることが困難であるという課題がある。
このため、マイクアレイ装置の収音範囲をカメラのパン方向、即ち水平方向の角度だけを用いる特許文献1の制御システムを上述した監視システムに適用すると、マイクアレイ装置は、カメラ装置の撮像方向の音声を高精度に収音することが困難になる。
また、上述した監視システムでは、カメラ装置とマイクアレイ装置とが一体的に組み込まれて同軸上に配置されている場合、カメラ装置の光軸とマイクアレイ装置の物理的な中心軸とが共通する。従って、カメラ装置の撮像方向に存在する被写体の会話をマイクアレイ装置が収音する場合、マイクアレイ装置が収音する方向(以下、「収音方向」という)を示す座標(水平角,垂直角)と、カメラ装置の撮像方向を示す座標(水平角,垂直角)とは同一となる。
ところが、カメラ装置とマイクアレイ装置とが別体として異なる位置に配置されている場合、カメラ装置の光軸とマイクアレイ装置の物理的な中心軸とが異なる。このため、カメラ装置の撮像方向に存在する被写体の会話をマイクアレイ装置が収音する場合、マイクアレイ装置の収音方向を示す座標(水平角,垂直角)と、カメラ装置の撮像方向を示す座標(水平角,垂直角)とは同一とならないという課題がある。
そこで、本発明に係る第11の実施形態では、上述した従来の課題を解決するために、マイクアレイ装置を基準として、カメラ装置の撮像画像における指定位置に対応する目的音源位置(又は音声位置)に向かう収音方向への収音指向性を形成し、収音方向の音声を高精度に収音する指向性制御システム及び指向性制御方法の例を説明する。
(第11の実施形態)
以下、本発明に係る指向性制御システム及び指向性制御方法の第11の実施形態として、例えば収音システム及び収音制御方法の実施形態(以下、「本実施形態」という)について、図面を参照して説明する。本実施形態の収音システムは、例えば工場、公共施設(例えば図書館、イベント会場)、又は店舗(例えば小売店、銀行)に設置される監視システム(有人監視システム及び無人監視システムを含む)として用いられる。
なお、本発明は、収音システムを構成する装置(例えば後述する指向性制御装置)、又は収音システムを構成する装置が行う各動作(ステップ)を有する収音制御方法として表現することも可能である。
(収音システムのシステム構成)
図47は、本実施形態の収音システム10のシステム構成を示すブロック図である。図47に示す収音システム10は、PTZ(Pan Tilt Zoom)カメラ装置1と、全方位マイクアレイ装置2と、指向性制御装置3と、レコーダ装置4とを含む構成である。PTZカメラ装置1と、全方位マイクアレイ装置2と、指向性制御装置3と、レコーダ装置4とは、ネットワークNWを介して相互に接続されている。ネットワークNWは、有線ネットワーク(例えばイントラネット、インターネット)でも良いし、無線ネットワーク(例えば無線LAN(Local Area Network))でも良い。図47に示す収音システム10では、説明を簡単にするために、PTZカメラ装置1は1台だけ図示されているが、複数のPTZカメラ装置が含まれる構成でも良い。
以下、収音システム10を構成する各装置について説明する。
撮像部の一例としてのPTZカメラ装置1は、例えば店舗内の天井又はスタンド(図48(A)参照)に固定して設置される。PTZカメラ装置1は、例えば監視システムにおける監視カメラとしての機能を有し、ネットワークNWに接続された監視制御室(不図示)からの遠隔操作によって、公知技術であるパン方向又はチルト方向への筐体駆動機能及びズーム機能(例えばズームイン処理、ズームアウト処理)を用いて、所定の収音領域(例えば店舗内の既定の領域)に存在する対象物(例えば人物)を撮像する。PTZカメラ装置1は、ネットワークNWを介して、撮像により得られた撮像画像データを指向性制御装置3又はレコーダ装置4に送信する。
PTZカメラ装置1は、ディスプレイ装置36に表示された撮像画像データの中で、キャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2(後述参照)及び全方位マイクアレイ装置2のうち少なくとも1つがユーザの指FGにより指定されると、撮像画像データ中の指定位置の座標データを指向性制御装置3から受信する。PTZカメラ装置1は、PTZカメラ装置1の設置位置から、キャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2及び全方位マイクアレイ装置2のうち少なくとも1つまでの距離、方向のパラメータを算出する。PTZカメラ装置1における距離、方向のパラメータの算出処理は公知技術であるため、説明は割愛する。
また、PTZカメラ装置1は、後述するディスプレイ装置36に表示された撮像画像データの中で、ユーザの指FGにより任意の位置(例えば指定位置A’)が指定されると、撮像画像データ中の指定位置A’の座標データを指向性制御装置3から受信する。PTZカメラ装置1は、PTZカメラ装置1の設置位置から、指定位置A’に対応する実際の現場の位置(目的音源位置A)までの距離、方向のパラメータを算出する。PTZカメラ装置1は、PTZカメラ装置1の設置位置から、キャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2、全方位マイクアレイ装置2及び目的音源位置Aのうち少なくとも1つまでの距離、方向のパラメータを指向性制御装置3に送信する。
収音部の一例としての全方位マイクアレイ装置2は、例えば店舗内の天井又はスタンド(図48(A)参照)に固定して設置される。全方位マイクアレイ装置2は、複数のマイクロホンユニット22,23(図2(A)〜(E)参照)が一様に設けられたマイクロホン部と、マイクロホン部の各マイクロホンユニット22,23の動作を制御する制御部(不図示)とを少なくとも含む構成である。
全方位マイクアレイ装置2は、指向性制御装置3から送信された指向性形成指示(後述参照)に応じて、指向性形成指示に含まれる収音方向座標(θMAh,θMAv)が示す収音方向に、各々のマイクロホンユニット22,23の収音指向性を形成する。全方位マイクアレイ装置2は、各々のマイクロホンユニット22,23が収音した音声データに所定の音声処理を施し、所定の音声処理により得られた音声データを、ネットワークNWを介して、指向性制御装置3又はレコーダ装置4に送信する。
これにより、全方位マイクアレイ装置2は、収音指向性が形成された収音方向の音声データの音量レベルを相対的に増大でき、収音指向性が形成されない方向の音声データの音量レベルを相対的に低減できる。なお、収音方向座標(θMAh,θMAv)の算出方法については後述する。
なお、全方位マイクアレイ装置2の外観については、図2(A)〜(E)を参照して後述する。全方位マイクアレイ装置2の各マイクロホンユニット22,23を構成するマイクロホンは、無指向性マイクロホンでも良いし、双指向性マイクロホン、単一指向性マイクロホン、鋭指向性マイクロホン、超指向性マイクロホン(例えばガンマイク)又はこれらの組み合わせでも良い。
指向性制御装置3は、例えば監視制御室(不図示)に設置される据置型のPC(Personal Computer)でも良いし、ユーザが携帯可能な携帯電話機、PDA(Personal Digital Assistant)、タブレット端末、スマートフォン等のデータ通信端末でも良い。
指向性制御装置3は、通信部31と、操作部32と、信号処理部33と、ディスプレイ装置36と、スピーカ装置37と、メモリ38とを少なくとも含む構成である。信号処理部33は、収音方向算出部34と、出力制御部35とを少なくとも含む。
通信部31は、PTZカメラ装置1が送信した撮像画像データ、又は全方位マイクアレイ装置2が送信した音声データを受信して信号処理部33に出力する。
操作部32は、ユーザの入力操作の内容を信号処理部33に通知するためのユーザインターフェース(UI:User Interface)であり、例えばマウス、キーボード等のポインティングデバイスである。また、操作部32は、例えばディスプレイ装置36の画面に対応して配置され、ユーザの指FG又はスタイラスペンによって入力操作が可能なタッチパネル又はタッチパッドを用いて構成されても良い。
操作部32は、ディスプレイ装置36に表示されたPTZカメラ装置1の撮像画像データ(図48(B)参照)の中で、ユーザが音量レベルの増大を希望する範囲、即ち図48(B)に示す収音範囲Bにおいてユーザの指FGにより指定された指定位置A’の座標データを信号処理部33に出力する。
また、操作部32は、ディスプレイ装置36に表示されたPTZカメラ装置1の撮像画像データの中で、キャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2(後述参照)及び全方位マイクアレイ装置2のうち少なくとも1つがユーザの指FGにより指定されると、指定された位置の座標データを信号処理部33に出力する。
信号処理部33は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、指向性制御装置3の各部の動作を全体的に統括するための制御処理、他の各部との間のデータの入出力処理、データの演算(計算)処理及びデータの記憶処理を行う。
収音方向算出部34は、キャリブレーション時では(後述参照)、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2及び全方位マイクアレイ装置2のうち少なくとも1つの座標データを操作部32から取得すると、通信部31からPTZカメラ装置1に座標データを送信させる。収音方向算出部34は、PTZカメラ装置1の設置位置からキャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2及び全方位マイクアレイ装置2のうち少なくとも1つまでの距離、方向のパラメータを、通信部31から取得する。
収音方向算出部34は、PTZカメラ装置1の設置位置からキャリブレーション用マーカMAK,MAK3、キャリブレーション用床置きマーカMAK2及び全方位マイクアレイ装置2のうち少なくとも1つまでの距離、方向のパラメータを用いて、キャリブレーション方法(後述参照)毎に異なるキャリブレーションパラメータを算出する。
また、収音方向算出部34は、収音方向座標(θMAh,θMAv)の算出時では(後述参照)、指定位置A’の座標データを操作部32から取得すると、通信部31からPTZカメラ装置1に座標データを送信させる。収音方向算出部34は、PTZカメラ装置1の設置位置から目的音源位置Aまでの距離、方向のパラメータを、通信部31から取得する。
収音方向算出部34は、PTZカメラ装置1の設置位置から目的音源位置Aまでの距離、方向のパラメータ(後述参照)と、キャリブレーション時に算出したキャリブレーションパラメータ(後述参照)とを用いて、全方位マイクアレイ装置2の設置位置から目的音源位置A(後述参照)に向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。収音方向座標(θMAh,θMAv)のうち、θMAhは全方位マイクアレイ装置2の設置位置から目的音源位置Aに向かう収音方向の水平角を示し、θMAvは全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の垂直角を示す。
なお、以下の説明において、目的音源位置とは、ディスプレイ装置36に表示されたPTZカメラ装置1の撮像画像データの中で、ユーザ(例えばユーザの指FG又はスタイラスペン)によって指定された指定位置A’に対応する実際の監視対象となる現場の位置であると定義する。更に、本実施形態の説明を簡単にするために、目的音源位置は1つとして説明するが、ユーザにより指定される指定位置に対応する目的音源位置は複数でも良い。
出力制御部35は、ディスプレイ装置36及びスピーカ装置37の動作を制御し、PTZカメラ装置1から送信された撮像画像データをディスプレイ装置36に表示させ、全方位マイクアレイ装置2から送信された音声データをスピーカ装置37に音声出力させる。また、出力制御部35は、全方位マイクアレイ装置2の動作を制御し、例えば収音方向算出部34により算出された収音方向座標(θMAh,θMAv)が示す収音方向MIXに、全方位マイクアレイ装置2により収音された音声の収音指向性を全方位マイクアレイ装置2に形成させ、又は全方位マイクアレイ装置2により収音された音声の収音指向性を出力制御部35自身において形成する(図48(A)参照)。
表示部の一例としてのディスプレイ装置36は、例えばLCD(Liquid Crystal Display)又は有機EL(Electroluminescence)を用いて構成され、出力制御部35の制御の下で、PTZカメラ装置1の撮像画像データを表示する。
音声出力部の一例としてのスピーカ装置37は、全方位マイクアレイ装置2により収音された音声の音声データ、又は、収音方向座標(θMAh,θMAv)が示す収音方向に収音指向性が形成された後に収音された音声の音声データを音声出力する。なお、ディスプレイ装置36及びスピーカ装置37は、指向性制御装置3とは別の構成としても良い。
記憶部の一例としてのメモリ38は、例えばRAM(Random Access Memory)を用いて構成され、指向性制御装置3の各部の動作時のワークメモリとして機能する。
レコーダ装置4は、PTZカメラ装置1の撮像画像データと、全方位マイクアレイ装置2により収音された音声の音声データとを対応付けて記憶する。
次に、本実施形態の収音システム10の動作概要について、図48(A)及び図48(B)を参照して説明する。図48(A)は、本実施形態の収音システム10の動作概要を示す図である。図48(B)は、全方位マイクアレイ装置2から、ディスプレイ装置36に表示された撮像画像データの中で指定された指定位置A’に対応する目的音源位置Aに向かう収音方向に存在する人物の音声の音量レベルが、収音方向に存在していないスピーカ装置SPの音声音量レベルより大きく出力される様子を示す図である。
図48(A)に示す収音システム10では、PTZカメラ装置1は、目的音源位置Aの周囲に存在している対象物(例えば2人の人物)と、目的音源位置Aから離れた位置に設置されたスピーカ装置SPを撮像している。また、全方位マイクアレイ装置2は、収音システム10が設置された収音領域における音声を収音する。図48(A)では、収音の対象物である2人の人物は会話しており、スピーカ装置SPは音楽(♪〜)を音声出力している。PTZカメラ装置1の撮像画像データは、指向性制御装置3のディスプレイ装置36に表示される(図48(B)参照)。
ここで、例えばユーザの指FGによって、ディスプレイ装置36に表示された撮像画像データの中で、対象物である2人の人物の略中心位置である指定位置A’が指定されると、指向性制御装置3は、指定位置A’を表す座標データを用いて、全方位マイクアレイ装置2の設置位置から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。全方位マイクアレイ装置2は、指向性制御装置3が算出した収音方向座標(θMAh,θMAv)の座標データを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向に、音声の収音指向性(収音方向MIX)を形成する。
従って、全方位マイクアレイ装置2は、収音指向性(収音方向MIX)が形成された方向に存在する2人の人物の会話(Hello)の音量レベルを、収音指向性(収音方向MIX)が形成された方向に存在しないスピーカ装置SPの音楽(♪〜)の音量レベルより増大できる。
これにより、指向性制御装置3は、スピーカ装置37に、収音指向性(収音方向MIX)が形成された方向に存在する2人の人物の会話(Hello)の音量レベルを、収音指向性(収音方向MIX)が形成された方向に存在しないスピーカ装置SPの音楽(♪〜)の音量レベルより大きく音声出力させることができる(図48(B)参照)。
次に、本実施形態の収音システム10の詳細な動作手順について、図49(A)及び(B)を参照して説明する。図49(A)は、本実施形態の収音システム10の動作手順の全体を説明するフローチャートである。図49(B)は、本実施形態の収音システム10のキャリブレーションの動作手順を詳細に説明するフローチャートである。ここで、キャリブレーションとは、指向性制御装置3が収音方向座標(θMAh,θMAv)を算出するために必要であって、且つ、キャリブレーション方法毎に異なる所定のキャリブレーションパラメータを算出又は取得する動作であると定義する。
図49(A)において、本実施形態の収音システム10を構成するPTZカメラ装置1及び全方位マイクアレイ装置2がそれぞれ異なる所定の位置(例えばイベント会場の室内の天井面又はスタンド)に固定するように初期設置される(ST11)。
PTZカメラ装置1及び全方位マイクアレイ装置2の初期設置後、収音方向算出部34が収音方向座標(θMAh,θMAv)を算出するために必要となるキャリブレーションパラメータの算出又は取得の処理、即ちキャリブレーションが行われる(ST12)。
ここで、キャリブレーションの処理内容について、図49(B)を参照して説明する。本実施形態では、図50以降の図面を参照して複数のキャリブレーション方法を説明するが、図49(B)では、各々のキャリブレーション方法に共通する内容を説明する。また、各々のキャリブレーション方法では、少なくとも1つのキャリブレーション用マーカMAK,MAK3又はキャリブレーション用床置きマーカMAK2が用いられるが、図49(B)では、例えばキャリブレーション用マーカMAKを用いた場合を説明する。
図49(B)において、キャリブレーション用マーカMAKが設置される(ST12−1)。キャリブレーション用マーカMAKは、各々のキャリブレーション方法において用いられるマーカ(例えばボール又は紙)等の固体物又は円形状物体であり、PTZカメラ装置1の撮像視野角内に含まれるように設置されるのでディスプレイ装置36に表示される。
ステップST12−1の後、操作部32は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKがユーザの指FGにより指定されると、指定位置の座標データを取得して信号処理部33に出力する(ST12−2)。収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの座標データを操作部32から取得すると、通信部31からPTZカメラ装置1に座標データを送信させる。PTZカメラ装置1は、PTZカメラ装置1の設置位置から、キャリブレーション用マーカMAKまでの距離、方向のパラメータを算出して指向性制御装置3に送信する。通信部31は、PTZカメラ装置1の設置位置から、キャリブレーション用マーカMAKまでの距離、方向のパラメータをPTZカメラ装置1から受信して信号処理部33に出力する。収音方向算出部34は、PTZカメラ装置1の設置位置からキャリブレーション用マーカMAKまでの距離、方向のパラメータを、通信部31から取得する。
収音方向算出部34は、PTZカメラ装置1の設置位置からキャリブレーション用マーカMAKまでの距離、方向のパラメータを用いて、キャリブレーション方法(後述参照)毎に異なるキャリブレーションパラメータを算出する(ST12−3)。ステップST12−3の後、ステップST12−1において設置されたキャリブレーション用マーカMAKが取り外される(ST12−4)。なお、収音方向算出部34は、ステップST12−3において算出したキャリブレーションパラメータをメモリ38に一時的に保存する。これにより、ステップST12に示すキャリブレーションの処理が終了する。
図49(A)において、操作部32は、ディスプレイ装置36に表示されたPTZカメラ装置1の撮像画像データ(図48(B)参照)の中で、ユーザが音量レベルの増大を希望する範囲、即ち目的音源位置Aに対応する指定位置A’の座標データを取得して信号処理部33に出力する(ST13)。
収音方向算出部34は、指定位置A’の座標データを操作部32から取得すると、通信部31からPTZカメラ装置1に座標データを送信させる。PTZカメラ装置1は、撮像画像データ中の指定位置A’の座標データを指向性制御装置3から受信し、PTZカメラ装置1の設置位置から、指定位置A’に対応する目的音源位置Aまでの距離、方向のパラメータを算出する。PTZカメラ装置1は、PTZカメラ装置1の設置位置から、指定位置A’に対応する目的音源位置Aまでの距離、方向のパラメータを指向性制御装置3に送信する。収音方向算出部34は、PTZカメラ装置1の設置位置から目的音源位置Aまでの距離、方向のパラメータを、通信部31から取得する。
収音方向算出部34は、PTZカメラ装置1の設置位置から目的音源位置Aまでの距離、方向のパラメータと、ST12におけるキャリブレーション時に算出したキャリブレーションパラメータとを用いて、全方位マイクアレイ装置2の設置位置から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する(ST14)。
出力制御部35は、ステップST14において算出された収音方向座標(θMAh,θMAv)の座標データが示す収音方向に音声の指向性を形成させるための指向性形成指示を生成し、収音方向座標(θMAh,θMAv)の座標データを含む指向性形成指示を、通信部31から全方位マイクアレイ装置2に送信させる。全方位マイクアレイ装置2は、指向性制御装置3から送信された指向性形成指示に応じて、指向性形成指示に含まれる収音方向座標(θMAh,θMAv)が示す収音方向MIXに、各々のマイクロホンユニット22,23の収音指向性を形成する(ST15)。以上により、本実施形態の収音システム10の動作は終了する。
なお、ステップST15に示す収音指向性の形成処理では、指向性制御装置3から送信された指向性形成指示に従って全方位マイクアレイ装置2が行うと説明したが、指向性制御装置3がステップS15に示す収音指向性の形成処理を行っても良い。具体的には、出力制御部35は、ステップST14において算出された収音方向座標(θMAh,θMAv)の座標データと、全方位マイクアレイ装置2により収音された音声の音声データとを用いて、図3を参照して説明した指向性の形成処理を行う。これにより、指向性制御装置3は、収音方向座標(θMAh,θMAv)が示す収音方向MIXに、高精度に収音指向性が形成された音声データを容易に得ることができる。
なお、本実施形態の収音システム10において、全方位マイクアレイ装置2が音声を収音するタイミングは、ステップST14の直後に限定されず、例えばステップST11の初期設置後に全方位マイクアレイ装置2の電源がONされた後でも良い。
(キャリブレーション方法に応じた収音方向座標(θMAh,θMAv)の算出方法)
次に、指向性制御装置3の収音方向算出部34がキャリブレーション方法毎に異なるキャリブレーションパラメータと収音方向座標(θMAh,θMAv)とを算出する方法について、図50〜図79を参照して詳細に説明する。ここでは、合計10通りのキャリブレーション方法、即ち10通りのキャリブレーションパラメータの算出方法を説明し、合計4通りの収音方向座標(θMAh,θMAv)の算出方法を説明する。なお、合計10通りのキャリブレーションパラメータの算出方法のうちいずれかと、合計4通りの収音方向座標(θMAh,θMAv)の算出方法のうちいずれかとが対応している。
(第1のキャリブレーション方法に応じた第1の収音方向座標の算出方法)
先ず、第1のキャリブレーション方法と、第1のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第1の収音方向座標の算出方法について、図50、図51(A)〜(C)、図52(A)〜(C)及び図53(A)〜(C)を参照して説明する。
図50は、第11の実施形態における第1のキャリブレーション方法の説明図である。図51(A)は、第1のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの位置関係を示す図である。図51(B)は、図51(A)の水平方向上面図である。図51(C)は、図51(B)のK−K’線における垂直方向断面図である。
図52(A)は、第1のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図52(B)は、図52(A)の水平方向上面図である。図52(C)は、図52(B)のQ−Q’線における垂直方向断面図である。図53(A)は、第1のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図53(B)は、図53(A)の水平方向上面図である。図53(C)は、図53(B)のR−R’線における垂直方向断面図である。
第1のキャリブレーション方法では、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用マーカMAKにフォーカスを当ててズームするので、キャリブレーション用マーカMAKはディスプレイ装置36の画面の中心点に位置する(図50参照)。
第1のキャリブレーション方法では、PTZカメラ装置1と全方位マイクアレイ装置2との水平面(例えば店舗内の床。以下同様であり、水平面の一例として床とする。)からの各高さが同一であり、全方位マイクアレイ装置2の所定位置(例えば全方位マイクアレイ装置2の筐体中心。以下同様とする。)から鉛直方向の真下に、例えば糸STR又は紐を用いて、固体物であるキャリブレーション用マーカMAKが吊り下げられる(図51(A)参照)。全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOは一定である。第1のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O(図50参照)がユーザの指FGにより指定されると、全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを算出する。図51(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhの算出方法を具体的に説明する。
以下の各キャリブレーション方法の説明では、PTZカメラ装置1からの水平角が0度となる正面方向は、PTZカメラ装置1から全方位マイクアレイ装置2に向かう方向ではないとし、全方位マイクアレイ装置2からの水平角が0度となる正面方向は、全方位マイクアレイ装置2からPTZカメラ装置1に向かう方向とする(例えば図51(B)参照)。
以下の第1〜第5の各キャリブレーション方法の説明では、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さは同一である(例えば図51(C)参照)。このため、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvと、全方位マイクアレイ装置2からPTZカメラ装置1に向かう垂直角θCMvとはともにゼロとなる(θCMv=θMCv=0)。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O(図50参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCOh,垂直角θCOvを取得する。水平角θCOh,垂直角θCOvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用マーカMAKは全方位マイクアレイ装置2の所定位置から鉛直方向の真下に吊り下げられているので、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図51(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう垂直角θCOvと、全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOとを用いて、数式(78)に従って、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを算出する。なお、キャリブレーション用マーカMAKは全方位マイクアレイ装置2の所定位置から鉛直方向の真下に吊り下げられているので、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
次に、第1の収音方向座標(θMAh,θMAv)の算出方法では、キャリブレーション用マーカMAKと目的音源位置Aとの床からの各高さが同一であり(HO=HA)、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さが同一である。
具体的には、収音方向算出部34は、
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと、
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChと、
(4)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvと、を用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。図52(B),(C)及び図53(B),(C)を参照して、収音方向算出部34における第1の収音方向座標(θMAh,θMAv)の算出方法を具体的に説明する。
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhは、第1のキャリブレーション方法においてPTZカメラ装置1により算出された値が用いられる(θCMh=θCOh)。
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhは、第1のキャリブレーション方法におけるキャリブレーションパラメータである(数式(84)参照)。
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChは、第1のキャリブレーション方法においてPTZカメラ装置1及び全方位マイクアレイ装置2の位置関係から与えられる既定値(ゼロ)である。
(4)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvは、ディスプレイ装置36に表示された撮像画像データにおいて指定位置A’の指定に応じてPTZカメラ装置1により算出された値が用いられる。
収音方向算出部34は、図52(C)に示す△CAS’において、全方位マイクアレイ装置2と目的音源位置Aとの床からの高さの差分に相当する距離LMO(=LMOv)と、PTZカメラ装置1から目的音源位置Aに向かう垂直角θCAvとを用いて、数式(85)に従って、PTZカメラ装置1から目的音源位置Aまでの距離LCAの水平方向の距離LCAhを算出する。
収音方向算出部34は、数式(78),(79)の各算出結果と、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAhとPTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhとの差分に相当する角度(θCAh−θCMh)を用いて、図52(B)に示す△CAMにおける余弦定理により、数式(86)に従って、全方位マイクアレイ装置2から目的音源位置Aまでの距離LMAの水平方向の距離LMAhを算出する。
収音方向算出部34は、数式(84)〜(86)の各算出結果を用いて、図52(B)に示す△CAMにおける余弦定理により、数式(87)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhの余弦値cosθMAhを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhを、数式(88)に従って算出できる。
更に、収音方向算出部34は、数式(86)の算出結果と、全方位マイクアレイ装置2と目的音源位置Aとの床からの高さの差分に相当する距離LMOとを用いて、図53(C)に示す△MAS”における正接により、数式(89)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvの正接値tanθMAvを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvを、数式(90)に従って算出できる。
以上により、第1のキャリブレーション方法及び第1の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点Oがユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床上に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、収音方向算出部34は、収音方向座標の算出時に目的音源位置Aの水平面からの高さHAをユーザに入力させること無く、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向座標(θMAh,θMAv)を簡易に算出できる。
(第2のキャリブレーション方法に応じた第2の収音方向座標の算出方法)
次に、第2のキャリブレーション方法と、第2のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第2の収音方向座標の算出方法について、図54、図55(A)〜(C)、図56(A)〜(C)及び図57(A)〜(C)を参照して説明する。
図54は、第11の実施形態における第2のキャリブレーション方法の説明図である。図55(A)は、第2のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの位置関係を示す図である。図55(B)は、図55(A)の水平方向上面図である。図55(C)は、図55(B)のK−K’線における垂直方向断面図である。
図56(A)は、第2のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図56(B)は、図56(A)の水平方向上面図である。図56(C)は、図56(B)のQ−Q’線における垂直方向断面図である。図57(A)は、第2のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図57(B)は、図57(A)の水平方向上面図である。図57(C)は、図57(B)のR−R’線における垂直方向断面図である。
第2のキャリブレーション方法では、第1のキャリブレーション方法と同様に、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用マーカMAKにフォーカスを当ててズームするので、キャリブレーション用マーカMAKはディスプレイ装置36の画面の中心点に位置する(図54参照)。
第2のキャリブレーション方法では、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さが同一であり、全方位マイクアレイ装置2の所定位置から鉛直方向の真下に、例えば糸STR又は紐を用いて、固体物であるキャリブレーション用マーカMAKが吊り下げられる(図55(A)参照)。全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOは一定である。第2のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O(図54参照)がユーザの指FGにより指定されると、全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを算出する。図55(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O(図54参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCOh,垂直角θCOvを取得する。水平角θCOh,垂直角θCOvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用マーカMAKは全方位マイクアレイ装置2の所定位置から鉛直方向の真下に吊り下げられているので、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう垂直角θCOvと、全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOとを用いて、数式(91)に従って、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを算出する。なお、キャリブレーション用マーカMAKは全方位マイクアレイ装置2の所定位置から鉛直方向の真下に吊り下げられているので、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
次に、第2の収音方向座標(θMAh,θMAv)の算出方法では、目的音源位置Aの床からの高さはユーザにより入力された入力値であり、第1の収音方向座標(θMAh,θMAv)の算出方法とは異なる。また、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さHC,HMは同一である。
具体的には、収音方向算出部34は、
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと、
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChと、
(4)PTZカメラ装置1,全方位マイクアレイ装置2の床からの各高さHC,HMと、
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvと、
(6)ユーザにより入力された、目的音源位置Aの床からの高さHAと、
を用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。図56(B),(C)及び図57(B),(C)を参照して、収音方向算出部34における第2の収音方向座標(θMAh,θMAv)の算出方法を具体的に説明する。
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhは、第2のキャリブレーション方法においてPTZカメラ装置1により算出された値が用いられる(LCMh=LCOh)。
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhは、第2のキャリブレーション方法におけるキャリブレーションパラメータである(数式(85)参照)。
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChは、第2のキャリブレーション方法においてPTZカメラ装置1及び全方位マイクアレイ装置2の位置関係から与えられる既定値(ゼロ)である。
(4)PTZカメラ装置1,全方位マイクアレイ装置2の床からの各高さHC,HMは、第2の収音方向座標の算出方法では既定値である(HC=HM)。
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvは、ディスプレイ装置36に表示された撮像画像データにおいて指定位置A’の指定に応じてPTZカメラ装置1により算出された値が用いられる。
(6)目的音源位置Aの床からの高さHAは、ユーザの入力操作によって入力された値である。
収音方向算出部34は、図56(C)に示す△CAS’において、PTZカメラ装置1と目的音源位置Aとの床からの高さの差分に相当する距離(HC−HA)と、PTZカメラ装置1から目的音源位置Aに向かう垂直角θCAvとを用いて、数式(92)に従って、PTZカメラ装置1から目的音源位置Aまでの距離LCAの水平方向の距離LCAhを算出する。
収音方向算出部34は、数式(91),(92)の各算出結果と、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAhとPTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhとの差分に相当する角度(θCAh−θCMh)を用いて、図56(B)に示す△CAMにおける余弦定理により、数式(93)に従って、全方位マイクアレイ装置2から目的音源位置Aまでの距離LMAの水平方向の距離LMAhを算出する。
収音方向算出部34は、数式(91)〜(93)の各算出結果を用いて、図56(B)に示す△CAMにおける余弦定理により、数式(94)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhの余弦値cosθMAhを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhを、数式(95)に従って算出できる。
更に、収音方向算出部34は、数式(93)の算出結果と、全方位マイクアレイ装置2と目的音源位置Aとの床からの高さの差分に相当する距離(HM−HA)とを用いて、図57(C)に示す△MAS”における正接により、数式(96)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvの正接値tanθMAvを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvを、数式(97)に従って算出できる。
以上により、第2のキャリブレーション方法及び第2の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点Oがユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床上に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、収音方向算出部34は、全方位マイクアレイ装置2の初期設置時に測定が比較的簡易である全方位マイクアレイ装置2の床からの高さHMを用いる。従って、キャリブレーション用マーカMAKが全方位マイクアレイ装置2から吊り下げられる場合、吊り下げ距離の調整を簡易化できる。更に、目的音源位置Aの床からの高さHAは、ユーザの所望値が使用可能となるので、目的音源位置Aの床からの高さHAの選択の自由度が向上する。
(第3のキャリブレーション方法に応じた第2の収音方向座標の算出方法)
次に、第3のキャリブレーション方法と、第3のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第2の収音方向座標の算出方法について、図58及び図59(A)〜(C)を参照して説明する。
図58は、第11の実施形態における第3のキャリブレーション方法の説明図である。図59(A)は、第3のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK2の位置関係を示す図である。図59(B)は、図59(A)の水平方向上面図である。図59(C)は、図59(B)のK−K’線における垂直方向断面図である。
第3のキャリブレーション方法では、第1のキャリブレーション方法と同様に、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用床置きマーカMAK2にフォーカスを当ててズームするので、キャリブレーション用床置きマーカMAK2はディスプレイ装置36の画面の中心点に位置する(図58参照)。
第3のキャリブレーション方法では、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さが同一であり、全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される(図59(A)参照)。従って、全方位マイクアレイ装置2からキャリブレーション用床置きマーカMAK2までの距離LMOは、全方位マイクアレイ装置2の床からの高さHMと同じである(LMO=HM)。第3のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2の床からの高さHMである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O(図58参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2の床からの高さHMとを算出する。図59(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと、全方位マイクアレイ装置2の水平面(例えば床)からの高さHMとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O(図58参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOh,垂直角θCOvとを取得する。距離LCO,水平角θCOh,垂直角θCOvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図59(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvとを用いて、数式(98)に従って、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを算出する。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されているので、PTZカメラ装置1とキャリブレーション用床置きマーカMAK2との間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
また、収音方向算出部34は、図59(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvとを用いて、数式(99)に従って、全方位マイクアレイ装置2の床からの高さHMを算出する。
なお、第3のキャリブレーション方法によりキャリブレーションパラメータが算出された後の収音方向算出部34における収音方向座標(θMAh,θMAv)の算出方法は、上述した第2の収音方向座標(θMAh,θMAv)の算出方法と同じであるため、説明を割愛する。
以上により、第3のキャリブレーション方法及び第2の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O(図59参照)がユーザの指FGにより指定されると、例えばPTZカメラ装置1のフォーカス機能を用いて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
(第4のキャリブレーション方法に応じた第2の収音方向座標の算出方法)
次に、第4のキャリブレーション方法と、第4のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第2の収音方向座標の算出方法について、図60及び図61(A)〜(C)を参照して説明する。
図60は、第11の実施形態における第4のキャリブレーション方法の説明図である。図61(A)は、第4のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK2の位置関係を示す図である。図61(B)は、図61(A)の水平方向上面図である。図61(C)は、図61(B)のK−K’線における垂直方向断面図である。
第4のキャリブレーション方法では、第1のキャリブレーション方法と同様に、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用床置きマーカMAK2にフォーカスを当ててズームするので、キャリブレーション用床置きマーカMAK2はディスプレイ装置36の画面の中心点に位置する(図60参照)。
第4のキャリブレーション方法では、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さが同一であり、全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される(図61(A)参照)。従って、全方位マイクアレイ装置2からキャリブレーション用床置きマーカMAK2までの距離LMOは、全方位マイクアレイ装置2の床からの高さHMと同じである(LMO=HM)。第4のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2の床からの高さHMである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び円周上の端点O’の2箇所(図60参照)がユーザの指FGにより指定されると、キャリブレーション用床置きマーカMAK2の半径ROと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点Oに向かう垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の端点O’に向かう垂直角θCO’vとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2の床からの高さHMとを算出する。図61(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと、全方位マイクアレイ装置2の床からの高さHMとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び円周上の端点O’の2箇所(図60参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点Oに向かう水平角θCOh,垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の端点O’に向かう水平角θCO’h,垂直角θCO’vとを取得する。水平角θCOh,垂直角θCOv,水平角θCO’h,垂直角θCO’vのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
ここで、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点Oが最初に指定されると、出力制御部35は、次に指定されるべき箇所を示すためのガイド線GUDを表示させる。これにより、出力制御部35は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点の次に指定させるべき端点O’の位置をユーザに簡易に把握させることができる。
なお、円周上の端点O’は、キャリブレーション用床置きマーカMAK2の円周上の任意の位置ではなく、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点に向かう水平角θCOhと同じ水平角を与える位置である。従って、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点に向かう水平角θCOhと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の円周上の端点O’に向かう水平角θCO’hとは同じである(θCOh=θCO’h)。
収音方向算出部34は、図61(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点Oに向かう垂直角θCOvと、全方位マイクアレイ装置2の床からの高さHMと、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhとの関係式を、数式(100)に従って算出する。
同様に、収音方向算出部34は、図61(C)に示す△CO’Tにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の端点O’に向かう垂直角θCO’vと、全方位マイクアレイ装置2の床からの高さHMと、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、キャリブレーション用床置きマーカMAK2の半径ROとの関係式を、数式(101)に従って算出する。
収音方向算出部34は、数式(100),(101)により示される関係式を用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを、数式(102)に従って算出する。
また、収音方向算出部34は、数式(100),(102)の各算出結果を用いて、全方位マイクアレイ装置2の床からの高さHMを、数式(103)に従って算出する。なお、収音方向算出部34は、PTZカメラ装置1の床からの高さHCも数式(103)に従って算出できる。
なお、第4のキャリブレーション方法によりキャリブレーションパラメータが算出された後の収音方向算出部34における収音方向座標(θMAh,θMAv)の算出方法は、上述した第2の収音方向座標(θMAh,θMAv)の算出方法と同じであるため、説明を割愛する。
以上により、第4のキャリブレーション方法及び第2の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び円周上の端点O’の2箇所(図60参照)がユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2からキャリブレーション用床置きマーカMAK2の中心点までの距離の測定が困難な場合でも全方位マイクアレイ装置2の床からの高さHMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
(第5のキャリブレーション方法に応じた第1の収音方向座標の算出方法)
次に、第5のキャリブレーション方法と、第5のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第1の収音方向座標の算出方法について、図62及び図63(A)〜(C)を参照して説明する。
図62は、第11の実施形態における第5のキャリブレーション方法の説明図である。図63(A)は、第5のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用マーカMAK3の位置関係を示す図である。図63(B)は、図63(A)の水平方向上面図である。図63(C)は、図63(B)のK−K’線における垂直方向断面図である。
第5のキャリブレーション方法では、第1のキャリブレーション方法と同様に、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用マーカMAK3にフォーカスを当ててズームするので、キャリブレーション用マーカMAK3はディスプレイ装置36の画面の中心点に位置する(図62参照)。
第5のキャリブレーション方法では、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さが同一であり、全方位マイクアレイ装置2の所定位置から鉛直方向の真下であって床からの高さが一定の位置に、円形状のキャリブレーション用マーカMAK3が設置される(図63(A)参照)。従って、キャリブレーション用マーカMAK3の床からの高さHOは、既定値である。第5のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2とキャリブレーション用マーカMAK3との間の距離LMOv(=LMO)である。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK3の中心点O(図62参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAK3までの距離LCOvと、PTZカメラ装置1からキャリブレーション用マーカMAK3に向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2とキャリブレーション用マーカMAK3との間の距離LMOvとを算出する。図63(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと、全方位マイクアレイ装置2とキャリブレーション用マーカMAK3との間の距離LMOvとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK3の中心点O(図62参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAK3の中心点Oに向かう水平角θCOh,垂直角θCOvと、PTZカメラ装置1からキャリブレーション用マーカMAK3の中心点Oまでの距離LCO(=LCOv)とを取得する。距離LCO,水平角θCOh,垂直角θCOvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用マーカMAK3は全方位マイクアレイ装置2の所定位置から鉛直方向の真下で床からの高さが一定の位置に設置されるので、PTZカメラ装置1からキャリブレーション用マーカMAK3に向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図63(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用マーカMAK3の中心点Oまでの距離LCO(=LCOv)と、PTZカメラ装置1からキャリブレーション用マーカMAK3の中心点Oに向かう垂直角θCOvとを用いて、数式(104)に従って、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを算出する。
また、収音方向算出部34は、図63(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用マーカMAK3までの距離LCO(=LCOv)と、PTZカメラ装置1からキャリブレーション用マーカMAK3に向かう垂直角θCOvとを用いて、数式(105)に従って、全方位マイクアレイ装置2とキャリブレーション用マーカMAK3との間の距離LMOvを算出する。
なお、第5のキャリブレーション方法によりキャリブレーションパラメータが算出された後の収音方向算出部34における収音方向座標(θMAh,θMAv)の算出方法は、上述した第1の収音方向座標(θMAh,θMAv)の算出方法と同じであるため、説明を割愛する。
以上により、第5のキャリブレーション方法及び第1の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK3の中心点O(図62参照)がユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床上に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMh,全方位マイクアレイ装置2のキャリブレーション用マーカMAK3からの高さLMOvをキャリブレーションパラメータとして簡易に算出できる。
(第6のキャリブレーション方法に応じた第3の収音方向座標の算出方法)
次に、第6のキャリブレーション方法と、第6のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第3の収音方向座標の算出方法について、図64、図65(A)〜(C)、図66(A)〜(C)及び図67(A)〜(C)を参照して説明する。
図64は、第11の実施形態における第6のキャリブレーション方法の説明図である。図65(A)は、第6のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの位置関係を示す図である。図65(B)は、図65(A)の水平方向上面図である。図65(C)は、図65(B)のK−K’線における垂直方向断面図である。
図66(A)は、第6のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図66(B)は、図66(A)の水平方向上面図である。図66(C)は、図66(B)のQ−Q’線における垂直方向断面図である。図67(A)は、第6のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図67(B)は、図67(A)の水平方向上面図である。図67(C)は、図67(B)のR−R’線における垂直方向断面図である。
第6のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さが異なり、且つ、全方位マイクアレイ装置2がPTZカメラ装置1の撮像視野角内に存在するように設置される。このため、PTZカメラ装置1がパン方向、チルト方向に駆動した後に全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの両方にフォーカスを当ててズームするので、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKはディスプレイ装置36の画面の中心点に位置する(図64参照)。
第6のキャリブレーション方法では、PTZカメラ装置1の床からの高さHCより全方位マイクアレイ装置2の床からの高さHMの方が高く(HC<HM)、全方位マイクアレイ装置2の所定位置から鉛直方向の真下に、例えば糸STR又は紐を用いて、固体物であるキャリブレーション用マーカMAKが吊り下げられる(図65(A)参照)。全方位マイクアレイ装置2からキャリブレーション用マーカMAKまでの距離LMOは一定である。第6のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOv’である。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O及び全方位マイクアレイ装置2(図64参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう垂直角θCOvと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOv’とを算出する。図65(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと垂直方向の距離LMOv’との算出方法を具体的に説明する。
以下の第6〜第10の各キャリブレーション方法の説明では、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さが異なる(例えば図65(C)参照)。このため、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvと、全方位マイクアレイ装置2からPTZカメラ装置1に向かう垂直角θCMvとはともにゼロとならない(θCMv=θMCv≠0)。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O及び全方位マイクアレイ装置2(図64参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCOh,垂直角θCOvと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMh,垂直角θCMvとを取得する。水平角θCOh,垂直角θCOv,水平角θCMh,垂直角θCMvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用マーカMAKは全方位マイクアレイ装置2の所定位置から鉛直方向の真下に吊り下げられるので、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図65(C)に示す△COPにおいて、PTZカメラ装置1からキャリブレーション用マーカMAKの中心点Oに向かう垂直角θCOvと、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOv’との関係式を、数式(106)に従って算出する。
同様に、収音方向算出部34は、図65(C)に示す△CMPにおいて、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvと、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1と全方位マイクアレイ装置2との間の垂直方向の距離LMOv“との関係式を、数式(107)に従って算出する。
また、全方位マイクアレイ装置2とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOvは、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOv’と、PTZカメラ装置1と全方位マイクアレイ装置2との間の垂直方向の距離LMOv“との和となるので、数式(108)が成立する。
収音方向算出部34は、数式(106)〜(108)により示される関係式を用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(109)に従って算出し、PTZカメラ装置1とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOv’を数式(110)に従って算出し、PTZカメラ装置1と全方位マイクアレイ装置2との間の垂直方向の距離LMOv“を数式(111)に従って算出する。
次に、第3の収音方向座標(θMAh,θMAv)の算出方法では、キャリブレーション用マーカMAKと目的音源位置Aとの床からの各高さHO,HAが同一であり(HO=HA)、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さHC,HMが異なる(HC≠HM)。
具体的には、収音方向算出部34は、
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMh,垂直角θCMvと、
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChと、
(4)PTZカメラ装置1の目的音源位置Aからの高さLMOv’と、全方位マイクアレイ装置2の目的音源位置Aからの高さLMOと、
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvと、を用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。図66(B),(C)及び図67(B),(C)を参照して、収音方向算出部34における第3の収音方向座標(θMAh,θMAv)の算出方法を具体的に説明する。
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMh,垂直角θCMvは、第6のキャリブレーション方法においてPTZカメラ装置1により算出された値が用いられる(θCMh=θCOh)。
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhは、第6のキャリブレーション方法におけるキャリブレーションパラメータである(数式(109)参照)。
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChは、第6のキャリブレーション方法においてPTZカメラ装置1及び全方位マイクアレイ装置2の位置関係から与えられる既定値(ゼロ)である。
(4)PTZカメラ装置1の目的音源位置Aからの高さLMOv’は、第6のキャリブレーション方法におけるキャリブレーションパラメータであり(数式(110)参照)、全方位マイクアレイ装置2の目的音源位置Aからの高さLMOは既定値である。
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvは、ディスプレイ装置36に表示された撮像画像データにおいて指定位置A’の指定に応じてPTZカメラ装置1により算出された値が用いられる。
収音方向算出部34は、図66(C)に示す△CAS’において、PTZカメラ装置1から目的音源位置Aに向かう垂直角θCAvと、数式(110)の算出結果であるPTZカメラ装置1とキャリブレーション用マーカMAKとの間の垂直方向の距離LMOv’とを用いて、数式(112)に従って、PTZカメラ装置1から目的音源位置Aまでの距離LCAの水平方向の距離LCAhを算出する。
収音方向算出部34は、数式(109),(112)の各算出結果と、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAhと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhとを用いて、図66(B)に示す△CAMにおける余弦定理により、数式(113)に従って、全方位マイクアレイ装置2から目的音源位置Aまでの距離LMAの水平方向の距離LMAhを算出する。
収音方向算出部34は、数式(109),(112),(113)の各算出結果を用いて、図66(B)に示す△CAMにおける余弦定理により、数式(114)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhの余弦値cosθMAhを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhを、数式(115)に従って算出できる。
更に、収音方向算出部34は、数式(108),(113)の各算出結果を用いて、図67(C)に示す△MAS”における正接により、数式(116)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvの正接値tanθMAvを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvを、数式(117)に従って算出できる。
以上により、第6のキャリブレーション方法及び第3の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKの中心点O及び全方位マイクアレイ装置2(図64参照)の2箇所がユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床上に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、収音方向算出部34は、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの高さが異なる場合でも、目的音源位置Aの床からの高さHAをユーザに入力させること無く、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の座標を簡易に算出できる。
(第7のキャリブレーション方法に応じた第4の収音方向座標の算出方法)
次に、第7のキャリブレーション方法と、第7のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第4の収音方向座標の算出方法について、図68、図69(A)〜(C)、図70(A)〜(C)及び図71(A)〜(C)を参照して説明する。
図68は、第11の実施形態における第7のキャリブレーション方法の説明図である。図69(A)は、第7のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK2の位置関係を示す図である。図69(B)は、図69(A)の水平方向上面図である。図69(C)は、図69(B)のK−K’線における垂直方向断面図である。
図70(A)は、第7のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図70(B)は、図70(A)の水平方向上面図である。図70(C)は、図70(B)のQ−Q’線における垂直方向断面図である。図71(A)は、第7のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図71(B)は、図71(A)の水平方向上面図である。図71(C)は、図71(B)のR−R’線における垂直方向断面図である。
第7のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さが異なり、且つ、全方位マイクアレイ装置2がPTZカメラ装置1の撮像視野角内に存在するように設置される。このため、PTZカメラ装置1がパン方向、チルト方向に駆動した後に全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの両方にフォーカスを当ててズームするので、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKはディスプレイ装置36の画面の中心点に位置する(図68参照)。
第7のキャリブレーション方法では、PTZカメラ装置1の床からの高さHCより全方位マイクアレイ装置2の床からの高さHMの方が高く(HC<HM)、全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される(図69(A)参照)。第7のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2(図68参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMとを算出する。図69(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと高さHM,HCとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2(図68参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOh,垂直角θCOvと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMh,垂直角θCMvとを取得する。距離LCOv,水平角θCOh,垂直角θCOv,水平角θCMh,垂直角θCMvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置されるので、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図69(C)に示す△COPにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCO(=LCOv)と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点Oに向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(118)に従って算出し、PTZカメラ装置1の床からの高さHCを数式(119)に従って算出する。
収音方向算出部34は、図69(C)に示す△CMPにおいて、数式(118)の算出結果と、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvとを用いて、全方位マイクアレイ装置2の床からの高さHMとPTZカメラ装置1の床からの高さHCとの差分(HM−HC)に相当する距離LMOv”を数式(120)に従って算出する。これにより、収音方向算出部34は、数式(119),(120)の各算出結果を用いて、全方位マイクアレイ装置2の床からの高さHMを数式(121)に従って算出する。
次に、第4の収音方向座標(θMAh,θMAv)の算出方法では、目的音源位置Aの床からの高さはユーザにより入力された入力値であり、第3の収音方向座標(θMAh,θMAv)の算出方法とは異なる。また、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さHC,HMが異なる。
具体的には、収音方向算出部34は、
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと、
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChと、
(4)PTZカメラ装置1,全方位マイクアレイ装置2の床からの各高さHC,HMと、
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvと、
(6)ユーザにより入力された、目的音源位置Aの床からの高さHAと、
を用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。図70(B),(C)及び図71(B),(C)を参照して、収音方向算出部34における第4の収音方向座標(θMAh,θMAv)の算出方法を具体的に説明する。
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhは、第7のキャリブレーション方法においてPTZカメラ装置1により算出された値が用いられる(θCMh=θCOh)。
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhは、第7のキャリブレーション方法におけるキャリブレーションパラメータである(数式(112)参照)。
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChは、第7のキャリブレーション方法においてPTZカメラ装置1及び全方位マイクアレイ装置2の位置関係から与えられる既定値(ゼロ)である。
(4)PTZカメラ装置1,全方位マイクアレイ装置2の床からの各高さHC,HMは、第7のキャリブレーション方法におけるキャリブレーションパラメータである(数式(119),(121)参照)。
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvは、ディスプレイ装置36に表示された撮像画像データにおいて指定位置A’の指定に応じてPTZカメラ装置1により算出された値が用いられる。
(6)目的音源位置Aの水平面(例えば床)からの高さHAは、ユーザの入力操作によって入力された値である。
収音方向算出部34は、図70(C)に示す△CAS’において、PTZカメラ装置1と目的音源位置Aとの床からの高さの差分(HC−HA)に相当する距離と、PTZカメラ装置1から目的音源位置Aに向かう垂直角θCAvとを用いて、数式(122)に従って、PTZカメラ装置1から目的音源位置Aまでの距離LCAの水平方向の距離LCAhを算出する。
収音方向算出部34は、数式(118),(122)の各算出結果と、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAhと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhとを用いて、図70(B)に示す△CAMにおける余弦定理により、数式(123)に従って、全方位マイクアレイ装置2から目的音源位置Aまでの距離LMAの水平方向の距離LMAhを算出する。
収音方向算出部34は、数式(118),(122),(123)の各算出結果を用いて、図70(B)に示す△CAMにおける余弦定理により、数式(124)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhの余弦値cosθMAhを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhを、数式(125)に従って算出できる。
更に、収音方向算出部34は、数式(123)の算出結果と、数式(121)の算出結果である全方位マイクアレイ装置2の床からの高さHMと目的音源位置Aの床からの高さHAとの差分(HM−HA)に相当する距離とを用いて、図71(C)に示す△MAS”における正接により、数式(126)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvの正接値tanθMAvを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvを、数式(127)に従って算出できる。
以上により、第7のキャリブレーション方法及び第4の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2(図68参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、収音方向算出部34は、キャリブレーション時に算出された水平角θCMh,水平方向の距離LCMh,PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの各高さHC,HMと、既定の水平角θMChと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvと、ユーザにより入力された目的音源位置Aの水平面からの高さHAの入力値とを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標を簡易に算出できる。また、目的音源位置Aの床からの高さHAは、ユーザの所望値が使用可能となるので、目的音源位置Aの床からの高さHAの選択の自由度が向上する。
(第8のキャリブレーション方法に応じた第4の収音方向座標の算出方法)
次に、第8のキャリブレーション方法と、第8のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第4の収音方向座標の算出方法について、図72及び図73(A)〜(C)を参照して説明する。
図72は、第11の実施形態における第8のキャリブレーション方法の説明図である。図73(A)は、第8のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2、キャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2の位置関係を示す図である。図73(B)は、図73(A)の水平方向上面図である。図73(C)は、図73(B)のK−K’線における垂直方向断面図である。
第8のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さHC,HMが異なり、且つ、全方位マイクアレイ装置2がPTZカメラ装置1の撮像視野角外に存在するように設置される。このため、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2の両方にフォーカスを当ててズームするので、キャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2はディスプレイ装置36の画面の中心点に位置する(図72参照)。
第8のキャリブレーション方法では、PTZカメラ装置1の床からの高さHCより全方位マイクアレイ装置2の床からの高さHMの方が高く(HC<HM)、全方位マイクアレイ装置2の所定位置から鉛直方向の真下に、例えば糸STR又は紐を用いて、固体物であるキャリブレーション用マーカMAKが吊り下げられ、更に、全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される(図73(A)参照)。第8のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2の各中心点O’,O”(図72参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう垂直角θCO’vと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCO”vと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCO”vとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMとを算出する。図73(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと高さHM,HCとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2の各中心点O’,O”(図72参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCO”vと、PTZカメラ装置1からキャリブレーション用マーカMAKに向かう水平角θCO’h,垂直角θCO’vと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCO”h,垂直角θCO”vとを取得する。距離LCO”v,水平角θCO’h,垂直角θCO’v,水平角θCO”h,垂直角θCO”vのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用マーカMAKは全方位マイクアレイ装置2の所定位置から鉛直方向の真下に吊り下げられ、且つ、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1からキャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2に向かう各水平角θCO’h,θCO”hは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCO’h=θCO”h=θCMh)。
収音方向算出部34は、図73(C)に示す△CO”Pにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCO”v(=LCO”)と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCO”vとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(128)に従って算出し、PTZカメラ装置1の床からの高さHCを数式(129)に従って算出する。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1とキャリブレーション用床置きマーカMAK2との間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
図73(C)に示す△CO”O’における正弦定理により、数式(130)の関係式が成り立つ。従って、収音方向算出部34は、数式(130)の算出結果を用いて、全方位マイクアレイ装置2の床からの高さHMを、数式(131)に従って算出する。
なお、第8のキャリブレーション方法によりキャリブレーションパラメータが算出された後の収音方向算出部34における収音方向座標(θMAh,θMAv)の算出方法は、上述した第4の収音方向座標(θMAh,θMAv)の算出方法と同じであるため、説明を割愛する。
以上により、第8のキャリブレーション方法及び第4の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2の各中心点O’,O”(図72参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
(第9のキャリブレーション方法に応じた第4の収音方向座標の算出方法)
次に、第9のキャリブレーション方法と、第9のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第4の収音方向座標の算出方法について、図74及び図75(A)〜(C)を参照して説明する。
図74は、第11の実施形態における第9のキャリブレーション方法の説明図である。図75(A)は、第9のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK2の位置関係を示す図である。図75(B)は、図75(A)の水平方向上面図である。図75(C)は、図75(B)のK−K’線における垂直方向断面図である。
第9のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さHC,HMが異なり、且つ、全方位マイクアレイ装置2がPTZカメラ装置1の撮像視野角外に存在するように設置される。このため、PTZカメラ装置1がパン方向、チルト方向に駆動した後にキャリブレーション用床置きマーカMAK2にフォーカスを当ててズームするので、キャリブレーション用床置きマーカMAK2はディスプレイ装置36の画面の中心点に位置する(図74参照)。
第9のキャリブレーション方法では、PTZカメラ装置1の床からの高さHCより全方位マイクアレイ装置2の床からの高さHMの方が高く(HC<HM)、全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される(図75(A)参照)。第9のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O(図74参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCとを算出する。図75(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと高さHCとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O(図74参照)がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOh,垂直角θCOvとを取得する。距離LCOv,水平角θCOh,垂直角θCOvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図75(C)に示す△COPにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOv(=LCO)と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(132)に従って算出し、PTZカメラ装置1の床からの高さHCを数式(133)に従って算出する。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1とキャリブレーション用床置きマーカMAK2との間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
なお、第9のキャリブレーション方法によりキャリブレーションパラメータが算出された後の収音方向算出部34における収音方向座標(θMAh,θMAv)の算出方法は、上述した第4の収音方向座標(θMAh,θMAv)の算出方法と同じであるため、説明を割愛する。
以上により、第9のキャリブレーション方法及び第4の収音方向座標(θMAh,θMAv)の算出方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの高さが異なり、PTZカメラ装置1からの撮像視野角内に全方位マイクアレイ装置2が存在しない場合でも、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O(図74参照)がユーザの指FGにより指定されると、PTZカメラ装置1の床からの高さHCを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
(第10のキャリブレーション方法に応じた第4の収音方向座標の算出方法)
最後に、第10のキャリブレーション方法と、第10のキャリブレーション方法によりキャリブレーションパラメータを算出した後における第4の収音方向座標の算出方法について、図76、図77(A)〜(C)、図78(A)〜(C)及び図79(A)〜(C)を参照して説明する。
図76は、第11の実施形態における第10のキャリブレーション方法の説明図である。図77(A)は、第10のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの位置関係を示す図である。図77(B)は、図77(A)の水平方向上面図である。図77(C)は、図77(B)のK−K’線における垂直方向断面図である。
図78(A)は、第10のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図78(B)は、図78(A)の水平方向上面図である。図78(C)は、図78(B)のQ−Q’線における垂直方向断面図である。図79(A)は、第10のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及び目的音源位置Aの位置関係を示す図である。図79(B)は、図79(A)の水平方向上面図である。図79(C)は、図79(B)のR−R’線における垂直方向断面図である。
第10のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さが異なり、且つ、全方位マイクアレイ装置2がPTZカメラ装置1の撮像視野角内に存在するように設置される。このため、PTZカメラ装置1がパン方向、チルト方向に駆動した後に全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの両方にフォーカスを当ててズームするので、全方位マイクアレイ装置2及びキャリブレーション用マーカMAKはディスプレイ装置36の画面の中心点に位置する(図76参照)。
第10のキャリブレーション方法では、全方位マイクアレイ装置2の床からの高さHMよりPTZカメラ装置1の床からの高さHCの方が高く(HM<HC)、全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される(図77(A)参照)。第10のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMである。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2(図76参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう垂直角θCOvと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMとを算出する。図77(B)及び(C)を参照して、収音方向算出部34における水平方向の距離LCMhと高さHM,HCとの算出方法を具体的に説明する。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2(図76参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOv(=LCO)と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOh,垂直角θCOvと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMh,垂直角θCMvとを取得する。距離LCOv,水平角θCOh,垂直角θCOv,水平角θCMh,垂直角θCMvのデータは、PTZカメラ装置1により算出された後、PTZカメラ装置1から指向性制御装置3に送信されたものである。なお、キャリブレーション用床置きマーカMAK2は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置されるので、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2に向かう水平角θCOhは、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと同じである(θCOh=θCMh)。
収音方向算出部34は、図77(C)に示す△COPにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOv(=LCO)と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点Oに向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(134)に従って算出し、PTZカメラ装置1の床からの高さHCを数式(135)に従って算出する。
収音方向算出部34は、図77(C)に示す△CMPにおいて、数式(134)の算出結果と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2の中心点Oに向かう垂直角θCOvとPTZカメラ装置1から全方位マイクアレイ装置2に向かう垂直角θCMvとの差分(θCOv−θCMv)とを用いて、PTZカメラ装置1の床からの高さHCと全方位マイクアレイ装置2の床からの高さHMとの差分(HC−HM)の距離を数式(136)に従って算出し、全方位マイクアレイ装置2の床からの高さHMを数式(137)に従って算出する。
次に、第4の収音方向座標(θMAh,θMAv)の算出方法では、目的音源位置Aの水平面(例えば床)からの高さはユーザにより入力された入力値であり、第3の収音方向座標(θMAh,θMAv)の算出方法とは異なる。また、PTZカメラ装置1と全方位マイクアレイ装置2との床からの各高さHC,HMは異なる。
具体的には、収音方向算出部34は、
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhと、
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChと、
(4)PTZカメラ装置1,全方位マイクアレイ装置2の床からの各高さHC,HMと、
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvと、
(6)ユーザにより入力された、目的音源位置Aの床からの高さHAと、
を用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。図78(B),(C)及び図79(B),(C)を参照して、収音方向算出部34における収音方向座標(θMAh,θMAv)の算出方法を具体的に説明する。
(1)PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhは、第10のキャリブレーション方法においてPTZカメラ装置1により算出された値が用いられる(θCMh=θCOh)。
(2)PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhは、第10のキャリブレーション方法におけるキャリブレーションパラメータである(数式(134)参照)。
(3)全方位マイクアレイ装置2からPTZカメラ装置1に向かう水平角θMChは、第10のキャリブレーション方法においてPTZカメラ装置1及び全方位マイクアレイ装置2の位置関係から与えられる既定値(ゼロ)である。
(4)PTZカメラ装置1,全方位マイクアレイ装置2の床からの各高さHC,HMは、第10のキャリブレーション方法におけるキャリブレーションパラメータである(数式(135),(137)参照)。
(5)PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh,垂直角θCAvは、ディスプレイ装置36に表示された撮像画像データにおいて指定位置A’の指定に応じてPTZカメラ装置1により算出された値が用いられる。
(6)目的音源位置Aの床からの高さHAは、ユーザの入力操作によって入力された値である。
収音方向算出部34は、図78(C)に示す△CAS’において、PTZカメラ装置1と目的音源位置Aとの床からの高さの差分(HC−HA)に相当する距離と、PTZカメラ装置1から目的音源位置Aに向かう垂直角θCAvとを用いて、数式(138)に従って、PTZカメラ装置1から目的音源位置Aまでの距離LCAの水平方向の距離LCAhを算出する。
収音方向算出部34は、数式(134),(138)の各算出結果と、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAhと、PTZカメラ装置1から全方位マイクアレイ装置2に向かう水平角θCMhとを用いて、図78(B)に示す△CAMにおける余弦定理により、数式(139)に従って、全方位マイクアレイ装置2から目的音源位置Aまでの距離LMAの水平方向の距離LMAhを算出する。
収音方向算出部34は、数式(134),(138),(139)の各算出結果を用いて、図78(B)に示す△CAMにおける余弦定理により、数式(140)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhの余弦値cosθMAhを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう水平角θMAhを、数式(141)に従って算出できる。
更に、収音方向算出部34は、数式(139)の算出結果と、数式(137)の算出結果である全方位マイクアレイ装置2の床からの高さHMと目的音源位置Aの床からの高さHAとの差分(HM−HA)に相当する距離とを用いて、図79(C)に示す△MAS”における正接により、数式(142)に従って、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvの正接値tanθMAvを算出する。これにより、収音方向算出部34は、全方位マイクアレイ装置2から目的音源位置Aに向かう垂直角θMAvを、数式(143)に従って算出できる。
以上により、第10のキャリブレーション方法及び第4の収音方向座標(θMAh,θMAv)の算出方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2(図76参照)の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、収音方向算出部34は、キャリブレーション時に算出された水平角θCMh,水平方向の距離LCMh,PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さHC,HMと、既定の水平角θMChと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvと、ユーザにより入力された目的音源位置Aの床からの高さHAの入力値とを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標を簡易に算出できる。また、目的音源位置Aの床からの高さHAは、ユーザの所望値が使用可能となるので、目的音源位置Aの床からの高さHAの選択の自由度が向上する。
なお、第10のキャリブレーション方法に応じた第4の収音方向座標の算出方法は、全方位マイクアレイ装置2の床からの高さHMがPTZカメラ装置1の床からの高さHCより高い場合に対応した第7のキャリブレーション方法に応じた第4の収音方向座標の算出方法と同様である。また、全方位マイクアレイ装置2の床からの高さHMがPTZカメラ装置1の床からの高さHCより高い場合、第6のキャリブレーション方法に応じた第3の収音方向座標の算出方法、又は第8,9の各キャリブレーション方法に応じた第4の収音方向座標の算出方法も同様に適用することで、収音方向算出部は、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標を算出できる。
以下、上述した本発明に係る指向性制御システム及び指向性制御方法の構成、作用及び効果を説明する。
本発明の一実施形態は、所定の収音領域の対象物を撮像する撮像部と、前記収音領域の音声を収音する収音部と、前記撮像部により撮像された前記対象物の画像データを表示する表示部と、前記対象物の画像データにおける任意の位置の指定に応じて、前記収音部から、前記画像データの指定位置に対応する目的音源位置に向かう収音方向を算出する収音方向算出部と、前記収音方向算出部により算出された前記収音方向に、前記収音部により収音された音声の収音指向性を形成する収音制御部と、を備える指向性制御システムである。
上述した構成では、PTZカメラ装置1は、公知のパン方向又はチルト方向への筐体駆動機能及びズーム機能を用いて、所定の収音領域に存在している対象物(例えば人物)を撮像する。全方位マイクアレイ装置2は、PTZカメラ装置1の撮像方向に存在する対象物の音声を収音する。指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたPTZカメラ装置1の撮像画像データにおいて任意の位置が指定されると、PTZカメラ装置1から指定位置A’に対応する目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。指向性制御装置3の出力制御部35は、算出された収音方向座標(θMAh,θMAv)が示す収音方向に、全方位マイクアレイ装置2により収音された音声の収音指向性を形成する。
これにより、収音システム10では、PTZカメラ装置1の撮像画像データが表示されたディスプレイ装置36上で、目的音源位置Aに対応する指定位置A’が指定されるので、指向性制御装置3は、収音方向座標の算出前に予め必要なキャリブレーション時に、所定のキャリブレーションパラメータの算出に必要となる入力パラメータ(例えば距離、方向)を容易に取得でき、キャリブレーションパラメータを簡易に算出できる。従って、指向性制御装置3は、全方位マイクアレイ装置2を基準として、PTZカメラ装置1の撮像画像データの中の指定位置A’に対応する目的音源位置Aに向かう収音方向への収音指向性を容易に形成でき、高精度に収音された収音方向の音声の音声データを容易に得ることができる。
また、本発明の一実施形態は、前記撮像部及び前記収音部の水平面からの各高さは同一であり、前記収音方向算出部が、前記撮像部から前記収音部に向かう水平角と、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部から前記撮像部に向かう水平角と、前記撮像部から前記目的音源位置に向かう水平角及び垂直角と、を用いて、前記収音部から前記目的音源位置に向かう収音方向の水平角及び垂直角を算出する、指向性制御システムである。
上述した構成では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さは同一である。従って、指向性制御装置3の収音方向算出部34は、キャリブレーション時に算出された水平角θCMh,水平方向の距離LCMhと、既定の水平角θMChと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvとを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向座標を簡易に算出できる。
また、指向性制御装置3の収音方向算出部34は、収音方向座標の算出時に目的音源位置Aの床からの高さHAをユーザに入力させること無く、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を簡易に算出できる。
また、本発明の一実施形態は、前記収音部の真下に、前記収音部からの距離が一定の第1マーカが吊り下げられ、前記第1マーカの前記水平面からの高さと、前記目的音源位置の前記水平面からの高さとは同一であり、前記収音方向算出部が、前記表示部に表示された前記第1マーカの指定に応じて、前記収音部と前記第1マーカとの間の距離を用いて、前記撮像部と前記収音部との間の水平方向の距離を算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下に、全方位マイクアレイ装置2からの距離(LMOv)が一定のキャリブレーション用マーカMAKが吊り下げられ、キャリブレーション用マーカMAK及び目的音源位置Aの床からの各高さHO,HAは同一である。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKがユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記撮像部及び前記収音部の水平面からの各高さは同一であり、前記収音方向算出部が、前記撮像部から前記収音部に向かう水平角と、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部から前記撮像部に向かう水平角と、前記撮像部及び前記収音部の水平面からの各高さと、前記撮像部から前記目的音源位置に向かう水平角及び垂直角と、前記目的音源位置の水平面からの高さの入力値と、を用いて、前記収音部から前記目的音源位置に向かう収音方向の水平角及び垂直角を算出する、指向性制御システムである。
上述した構成では、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの各高さは同一である。従って、指向性制御装置3の収音方向算出部34は、キャリブレーション時に算出された水平角θCMh,水平方向の距離LCMhと、既定の水平角θMChと、既定のPTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの各高さHC,HMと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvと、ユーザにより入力された目的音源位置Aの床からの高さHAの入力値とを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標を簡易に算出できる。
また、指向性制御装置3の収音方向算出部34は、全方位マイクアレイ装置2の初期設置時に測定が比較的簡易である全方位マイクアレイ装置2の水平面からの高さHMを用いる。従って、キャリブレーション用マーカMAKを全方位マイクアレイ装置2から吊り下げる場合、吊り下げ距離の調整を簡易化できる。更に、目的音源位置Aの床からの高さHAは、ユーザの所望値が使用可能となるので、目的音源位置Aの床からの高さHAの選択の自由度が向上する。
また、本発明の一実施形態は、前記収音部の真下に、前記収音部からの距離が一定の第1マーカが吊り下げられ、前記収音部の前記水平面からの高さが所定値であり、前記収音方向算出部が、前記表示部に表示された前記第1マーカの指定に応じて、前記収音部と前記第1マーカとの間の距離を用いて、前記撮像部と前記収音部との間の水平方向の距離を算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下に、全方位マイクアレイ装置2からの距離(LMOv)が一定のキャリブレーション用マーカMAKが吊り下げられ、全方位マイクアレイ装置2の水平面からの高さHMは既知である。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAKがユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記収音部の真下の前記水平面上の位置に、円形状の第2マーカが設置され、前記収音方向算出部が、前記表示部に表示された前記第2マーカの中心点の指定に応じて、前記撮像部から前記第2マーカまでの距離と、前記撮像部から前記第2マーカに向かう垂直角と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部の前記水平面からの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下の水平面上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点Oがユーザの指FGにより指定されると、例えばPTZカメラ装置1のフォーカス機能を用いて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK2までの距離LCOを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記収音部の真下の前記水平面上の位置に、所定の半径を有する円形状の第2マーカが設置され、前記収音方向算出部が、前記表示部に表示された前記第2マーカの中心点及び円周上の端点の指定に応じて、前記撮像部から前記第2マーカの中心点に向かう垂直角と、前記撮像部から前記第2マーカの円周上の端点に向かう垂直角と、前記第2マーカの半径と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部の前記水平面からの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下の床上の位置に、所定の半径を有する円形状のキャリブレーション用床置きマーカMAK2が設置される。従って、例えば全方位マイクアレイ装置2からキャリブレーション用床置きマーカMAK2までの距離が測定できない場合でも、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び円周上の端点O’の2箇所がユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2からキャリブレーション用床置きマーカMAK2の中心点までの距離の測定が困難な場合でも全方位マイクアレイ装置2の床からの高さHMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記収音部の真下に、前記水平面からの高さが一定の第3マーカが設置され、前記第3マーカの前記水平面からの高さと、前記目的音源位置の前記水平面からの高さとは同一であり、前記収音方向算出部が、前記表示部に表示された前記第3マーカの指定に応じて、前記撮像部から前記第3マーカまでの距離と、前記撮像部から前記第3マーカに向かう垂直角と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部の前記第3マーカからの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下に、水平面からの高さHOが一定の位置にキャリブレーション用マーカMAK3が設置され、キャリブレーション用マーカMAK3及び目的音源位置Aの水平面からの高さHO,HAは同一である。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK3の中心点Oがユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床上に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMh,全方位マイクアレイ装置2のキャリブレーション用マーカMAK3からの高さLMOvをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記撮像部及び前記収音部の水平面からの各高さが異なり、前記収音部が、前記撮像部の撮像視野角内に存在するように設置され、前記収音方向算出部が、前記撮像部から前記収音部に向かう水平角及び垂直角と、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部から前記撮像部に向かう水平角と、前記撮像部の前記目的音源位置からの高さと、前記収音部の前記目的音源位置からの高さと、前記撮像部から前記目的音源位置に向かう水平角及び垂直角と、を用いて、前記収音部から前記目的音源位置に向かう収音方向の水平角及び垂直角を算出する、指向性制御システムである。
上述した構成では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さは異なり、全方位マイクアレイ装置2はPTZカメラ装置1の撮像視野角内に存在し、即ち全方位マイクアレイ装置2がディスプレイ装置36に表示されるように設置される。従って、指向性制御装置3の収音方向算出部34は、キャリブレーション時に算出された水平角θCMh及び垂直角θCMv,水平方向の距離LCMh,PTZカメラ装置1及び全方位マイクアレイ装置2の目的音源位置Aからの各高さLMOv’,LMOと、既定の水平角θMChと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvとを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向座標を簡易に算出できる。
また、指向性制御装置3の収音方向算出部34は、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの高さが異なる場合でも、目的音源位置Aの床からの高さHAをユーザに入力させること無く、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の座標を簡易に算出できる。
また、本発明の一実施形態は、前記収音部の真下に、前記収音部からの距離が一定の第1マーカが吊り下げられ、前記第1マーカの前記水平面からの高さと、前記目的音源位置の前記水平面からの高さとが同一であり、前記収音方向算出部が、前記表示部に表示された前記収音部及び前記第1マーカの指定に応じて、前記撮像部から前記収音部に向かう垂直角と、前記撮像部から前記第1マーカに向かう垂直角と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記撮像部の前記目的音源位置からの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下に、全方位マイクアレイ装置2からの距離(LMOv)が一定のキャリブレーション用マーカMAKが吊り下げられ、キャリブレーション用マーカMAK及び目的音源位置Aの床からの各高さHO,HAは同一である。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示された全方位マイクアレイ装置2及びキャリブレーション用マーカMAKの2箇所がユーザの指FGにより指定されると、例えば全方位マイクアレイ装置2の真下の床上に障害物が存在しているために、PTZカメラ装置1が全方位マイクアレイ装置2の真下の床面を撮像できない場合でも、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記撮像部及び前記収音部の水平面からの各高さが異なり、前記収音部は、前記撮像部の撮像視野角内に存在するように設置され、前記収音方向算出部が、前記撮像部から前記収音部に向かう水平角と、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部から前記撮像部に向かう水平角と、前記撮像部の前記水平面からの高さと、前記収音部の前記水平面からの高さと、前記撮像部から前記目的音源位置に向かう水平角及び垂直角と、前記目的音源位置の水平面からの高さの入力値と、を用いて、前記収音部から前記目的音源位置に向かう収音方向の水平角及び垂直角を算出する、指向性制御システムである。
上述した構成では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さは異なり、全方位マイクアレイ装置2はディスプレイ装置36に表示されるように設置される。従って、指向性制御装置3の収音方向算出部34は、キャリブレーション時に算出された水平角θCMh,水平方向の距離LCMh,PTZカメラ装置1及び全方位マイクアレイ装置2の床面からの各高さHC,HMと、既定の水平角θMChと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvと、ユーザにより入力された目的音源位置Aの床からの高さHAの入力値とを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標を簡易に算出できる。
また、目的音源位置Aの床からの高さHAは、ユーザの所望値が使用可能となるので、目的音源位置Aの床からの高さHAの選択の自由度が向上する。
また、本発明の一実施形態は、前記収音部の真下の前記水平面上の位置に、円形状の第2マーカが設置され、前記収音方向算出部が、前記表示部に表示された前記収音部及び前記第2マーカの中心点の指定に応じて、前記撮像部から前記収音部に向かう垂直角と、前記撮像部から前記第2マーカに向かう垂直角と、前記撮像部から前記第2マーカまでの距離と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記撮像部の前記水平面からの高さと、前記収音部の前記水平面からの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点O及び全方位マイクアレイ装置2の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記撮像部及び前記収音部の水平面からの各高さが異なり、前記収音部が、前記撮像部の撮像視野角外に存在するように設置され、前記収音方向算出部が、前記撮像部から前記収音部に向かう水平角と、前記撮像部と前記収音部との間の水平方向の距離と、前記収音部から前記撮像部に向かう水平角と、前記撮像部の前記水平面からの高さと、前記収音部の前記水平面からの高さと、前記撮像部から前記目的音源位置に向かう水平角及び垂直角と、前記目的音源位置の水平面からの高さの入力値と、を用いて、前記収音部から前記目的音源位置に向かう収音方向の水平角及び垂直角を算出する、指向性制御システムである。
上述した構成では、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの各高さは異なり、全方位マイクアレイ装置2はPTZカメラ装置1の撮像視野角外に存在し、即ち全方位マイクアレイ装置2がディスプレイ装置36に表示されないように設置される。従って、指向性制御装置3の収音方向算出部34は、キャリブレーション時に算出された水平角θCMh,水平方向の距離LCMh,PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの各高さHC,HMと、既定の水平角θMChと、PTZカメラ装置1から目的音源位置Aに向かう水平角θCAh及び垂直角θCAvと、ユーザにより入力された目的音源位置Aの水平面からの高さHAの入力値とを用いて、全方位マイクアレイ装置2から目的音源位置Aに向かう収音方向の収音方向座標を簡易に算出できる。
また、目的音源位置Aの床からの高さHAは、ユーザの所望値が使用可能となるので、目的音源位置Aの床からの高さHAの選択の自由度が向上する。
また、本発明の一実施形態は、前記収音部の真下に、前記収音部からの距離が一定の第1マーカが吊り下げられ、前記収音部の真下の前記水平面上の位置に、円形状の第2マーカが設置され、前記収音方向算出部が、前記表示部に表示された前記第1マーカ及び前記第2マーカの中心点の指定に応じて、前記撮像部から前記第1マーカに向かう垂直角と、前記撮像部から前記第2マーカに向かう垂直角と、前記撮像部から前記第2マーカまでの距離と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記撮像部の前記水平面からの高さと、前記収音部の前記水平面からの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下に、全方位マイクアレイ装置2からの距離が一定のキャリブレーション用マーカMAKが吊り下げられ、全方位マイクアレイ装置2の真下の床上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される。従って、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用マーカMAK及びキャリブレーション用床置きマーカMAK2の中心点の2箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
また、本発明の一実施形態は、前記収音部の真下の前記水平面上の位置に、円形状の第2マーカが設置され、前記収音方向算出部が、前記表示部に表示された前記第2マーカの中心点の指定に応じて、前記撮像部から前記第2マーカに向かう垂直角と、前記撮像部から前記第2マーカまでの距離と、を用いて、前記撮像部と前記収音部との間の水平方向の距離と、前記撮像部の前記水平面からの高さとを算出する、指向性制御システムである。
上述した構成では、全方位マイクアレイ装置2の真下の水平面上の位置に、円形状のキャリブレーション用床置きマーカMAK2が設置される。従って、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さが異なり、PTZカメラ装置1からの撮像視野角内に全方位マイクアレイ装置2が存在しない場合でも、指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK2の中心点Oがユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の床からの高さHCを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhをキャリブレーションパラメータとして簡易に算出できる。
本発明の一実施形態は、所定の収音領域の対象物を撮像する撮像部と、前記収音領域の音声を収音する収音部とを含む指向性制御システムにおける指向性制御方法であって、前記撮像部により撮像された前記対象物の画像データを表示するステップと、表示された前記対象物の画像データにおける任意の位置の指定を受け付けるステップと、前記対象物の画像データにおける任意の位置の指定に応じて、前記収音部から、前記画像データの指定位置に対応する目的音源位置に向かう収音方向を算出するステップと、算出された前記収音方向に、前記収音部により収音された音声の収音指向性を形成するステップと、を有する指向性制御方法である。
上述した方法では、PTZカメラ装置1は、公知のパン方向又はチルト方向への筐体駆動機能及びズーム機能を用いて、所定の収音領域に存在している対象物(例えば人物)を撮像する。全方位マイクアレイ装置2は、PTZカメラ装置1の撮像方向に存在する対象物の音声を収音する。指向性制御装置3の収音方向算出部34は、ディスプレイ装置36に表示されたPTZカメラ装置1の撮像画像データにおいて任意の位置が指定されると、PTZカメラ装置1から指定位置A’に対応する目的音源位置Aに向かう収音方向の収音方向座標(θMAh,θMAv)を算出する。指向性制御装置3の出力制御部35は、算出された収音方向座標(θMAh,θMAv)が示す収音方向に、全方位マイクアレイ装置2により収音された音声の収音指向性を形成する。
これにより、収音システム10では、PTZカメラ装置1の撮像画像データが表示されたディスプレイ装置36上で、目的音源位置Aに対応する指定位置A’が指定されるので、指向性制御装置3は、収音方向座標の算出前に予め必要なキャリブレーション時に、所定のキャリブレーションパラメータの算出に必要となる入力パラメータ(例えば距離、方向)を容易に取得でき、キャリブレーションパラメータを簡易に算出できる。従って、指向性制御装置3は、全方位マイクアレイ装置2を基準として、PTZカメラ装置1の撮像画像データの中の指定位置A’に対応する目的音源位置Aに向かう収音方向への収音指向性を容易に形成でき、高精度に収音された収音方向の音声の音声データを容易に得ることができる。
(第11の実施形態におけるキャリブレーション方法の変形例)
次に、第11の実施形態の収音システム10におけるキャリブレーション方法の変形例(以下、「本変形例」という)について、図82〜図91を参照して説明する。本変形例では、上述した収音方向座標の算出方法とは異なり、PTZカメラ装置1及び全方位マイクアレイ装置2における各水平角の正面方向(0度方向)が対向せず、更に、異なる方向を指す。
具体的には、上述した収音方向座標の算出方法では、全方位マイクアレイ装置2からPTZカメラ装置1を見た方向の水平角θMChはゼロである。言い換えると、全方位マイクアレイ装置2のX軸方向(水平角の0度方向、図82参照)のずれ量を示す水平角θMChは0であったが、以下の本変形例では、この水平角θMChはゼロではない場合について説明する。なお、以下の本変形例ではキャリブレーションパラメータの算出方法について説明し、キャリブレーションパラメータを用いた収音方向座標の算出方法は上述した第11の実施形態と同様であるため、説明は割愛する。
(第11のキャリブレーション方法に応じたキャリブレーションパラメータの算出方法)
第11のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面(床面)からの高さHC,HMは等しいが、HC及びHMは既知でないとする。第11のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChである。
図82(A)は、第11のキャリブレーション方法において用いられるキャリブレーション用床置きマーカMAK4の平面図である。図82(B)は、PTZカメラ装置1のフォーカス機能による点O及び点Xの拡大画面である。図82(A)に示すキャリブレーション用床置きマーカMAK4は、例えばシート材を用いて構成される。シート材の中心点Oは、全方位マイクアレイ装置2の中心位置の鉛直下方向の直下に対応するように設置される。点Xは全方位マイクアレイ装置2の水平角の正面方向(0度方向)と一致するように設けられる。キャリブレーション用床置きマーカMAK4の中心点Oから点Xまでの距離(円の半径R0)は既知(一定)値である。
PTZカメラ装置1は、ユーザの入力操作(例えばディスプレイ装置36に対する指FGのタッチ操作)に応じたPTZカメラ装置1自身のフォーカス機能により、キャリブレーション用床置きマーカMAK4の点Oにピント合わせすることで、PTZカメラ装置1から点Oまでの距離LCO、水平角θCOh及び垂直角θCOvを算出する。また、PTZカメラ装置1は、ユーザの入力操作(例えばディスプレイ装置36に対する指FGのタッチ操作)に応じたPTZカメラ装置1自身のフォーカス機能により、キャリブレーション用床置きマーカMAK4の点Xにピント合わせすることで、PTZカメラ装置1から点Xまでの距離LCX、水平角θCXh及び垂直角θCXvを算出する。PTZカメラ装置1の算出結果は、指向性制御装置3に送信される。
図83(A)は、第11のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK4の位置関係を示す図である。図83(B)は、図83(A)の水平方向上面図である。図83(C)は、図83(B)のK−K’断面図である。図84(A)は、第11のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK4の位置関係を示す図である。図84(B)は、図84(A)の水平方向上面図である。図84(C)は、図84(B)のL−L’断面図である。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK4の中心点O及び点X(図82(B)参照)の2箇所がユーザの指FGにより指定されると、キャリブレーション用床置きマーカMAK4の半径R0と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oに向かう距離LCO,垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xに向かう垂直角θCXvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChとを算出する。図83(B)、図83(C)、図84(B)及び図84(C)を参照して、収音方向算出部34における水平方向の距離LCMhと高さHM,HCと水平角θMChの算出方法を具体的に説明する。
収音方向算出部34は、図83(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oまでの距離LCOと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oに向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(144)に従って算出し、PTZカメラ装置1の床からの高さHCを数式(145)に従って算出する。なお、キャリブレーション用床置きマーカMAK4は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1とキャリブレーション用床置きマーカMAK4との間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
また、収音方向算出部34は、図84(C)に示す△CXMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xまでの距離LCXと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xに向かう垂直角θCXvとを用いて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xまでの水平方向の距離LCXhを数式(146)に従って算出する。
収音方向算出部34は、図83(B)又は図84(B)に示す△CXMにおける余弦定理により、数式(144)〜数式(146)の各算出結果を用いて、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChを数式(147)に従って算出する。
以上により、本変形例の第11のキャリブレーション方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK4の中心点O及び点Xの2箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChとをキャリブレーションパラメータとして簡易に算出できる。
これにより、全方位マイクアレイ装置2の水平角の正面方向(0度方向)が分かるので、指向性制御装置3は、1つの全方位マイクアレイ装置2に対して複数のPTZカメラ装置1が設置された収音システムのシステム構成の場合でも、各PTZカメラ装置1と全方位マイクアレイ装置2との間のキャリブレーションパラメータを同様に算出できる。従って、全方位マイクアレイ装置2をPTZカメラ装置1の方に向けて設置する等、全方位マイクアレイ装置2の設置制限がなくなり、全方位マイクアレイ装置2の設置が容易になる。
(第12のキャリブレーション方法に応じたキャリブレーションパラメータの算出方法)
第12のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面(床面)からの高さHC,HMが等しく、HC及びHMは既知とする。第12のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChである。なお、PTZカメラ装置1の床からの高さHCは既知であるが、第12のキャリブレーション方法により具体的に算出されても良い。なお、第12のキャリブレーション方法の説明では、第11のキャリブレーション方法の説明と同一の内容の説明は省略又は簡略化し、異なる内容について説明する。
図85(A)は、第12のキャリブレーション方法において用いられるキャリブレーション用床置きマーカMAK4の平面図である。図85(B)は、PTZカメラ装置1のフォーカス機能による点O及び点Xの拡大画面である。図85(A)に示すキャリブレーション用床置きマーカMAK4は図82(A)に示すキャリブレーション用床置きマーカMAK4と同一であるため、説明は割愛する。
図86(A)は、第12のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK4の位置関係を示す図である。図86(B)は、図86(A)の水平方向上面図である。図86(C)は、図86(B)のK−K’断面図である。図87(A)は、第12のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK4の位置関係を示す図である。図87(B)は、図87(A)の水平方向上面図である。図87(C)は、図87(B)のL−L’断面図である。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK4の中心点O及び点X(図85(B)参照)の2箇所がユーザの指FGにより指定されると、キャリブレーション用床置きマーカMAK4の半径R0と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oに向かう距離LCO,垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xに向かう垂直角θCXvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChとを算出する。図86(B)、図86(C)、図87(B)及び図87(C)を参照して、収音方向算出部34における水平方向の距離LCMhと水平角θMChの算出方法を具体的に説明する。
収音方向算出部34は、図86(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oまでの距離LCOと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oに向かう垂直角θCOvとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(148)に従って算出する。なお、収音方向算出部34は、数式(148)に従って、PTZカメラ装置1の床からの高さHCを算出しても良い。
また、収音方向算出部34は、図87(C)に示す△CXMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xまでの距離LCXと、PTZカメラ装置1の水平面からの高さHC(既知の値)又は数式(148)により算出されたPTZカメラ装置1の水平面からの高さHCと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xに向かう垂直角θCXvとを用いて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xまでの水平方向の距離LCXhを数式(149)に従って算出する。
収音方向算出部34は、図86(B)又は図87(B)に示す△CXMにおける余弦定理により、数式(148)及び数式(149)の各算出結果を用いて、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChを数式(150)に従って算出する。
以上により、本変形例の第12のキャリブレーション方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK4の中心点O及び点Xの2箇所がユーザの指FGにより指定されると、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChとをキャリブレーションパラメータとして簡易に算出できる。なお、第12のキャリブレーション方法では、収音方向算出部34は、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMが等しくない場合でも、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMを簡易に算出できる。
これにより、全方位マイクアレイ装置2の水平角の正面方向(0度方向)が分かるので、指向性制御装置3は、1つの全方位マイクアレイ装置2に対して複数のPTZカメラ装置1が設置された収音システムのシステム構成の場合でも、各PTZカメラ装置1と全方位マイクアレイ装置2との間のキャリブレーションパラメータを同様に算出できる。従って、全方位マイクアレイ装置2をPTZカメラ装置1の方に向けて設置する等、全方位マイクアレイ装置2の設置制限がなくなり、全方位マイクアレイ装置2の設置が容易になる。
(第13のキャリブレーション方法に応じたキャリブレーションパラメータの算出方法)
第13のキャリブレーション方法では、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面(床面)からの高さHC,HMは等しいが、HC及びHMは既知でないとする。第13のキャリブレーション方法におけるキャリブレーションパラメータは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChである。なお、第13のキャリブレーション方法の説明では、第11のキャリブレーション方法の説明と同一の内容の説明は省略又は簡略化し、異なる内容について説明する。
図88(A)は、第13のキャリブレーション方法において用いられるキャリブレーション用床置きマーカMAK4の平面図である。図88(B)は、PTZカメラ装置1のフォーカス機能による点O、点O’及び点Xの拡大画面である。図88(B)に示す点O’は、PTZカメラ装置1からの中心点Oまでの水平角θCOhと同一の水平角が得られる点であり、指向性制御装置3は、この同一の水平角が得られる箇所を視覚的に示すためにガイド線GUD2をディスプレイ装置36に表示している。
PTZカメラ装置1は、ユーザの入力操作(例えばディスプレイ装置36に対する指FGのタッチ操作)に応じたPTZカメラ装置1自身のフォーカス機能により、キャリブレーション用床置きマーカMAK4の中心点Oにピント合わせすることで、PTZカメラ装置1から中心点Oまでの距離LCO、水平角θCOh及び垂直角θCOvを算出する。また、PTZカメラ装置1は、ユーザの入力操作(例えばディスプレイ装置36に対する指FGのタッチ操作)に応じたPTZカメラ装置1自身のフォーカス機能により、キャリブレーション用床置きマーカMAK4の点Xにピント合わせすることで、PTZカメラ装置1から点Xまでの距離LCX、水平角θCXh及び垂直角θCXvを算出する。更に、PTZカメラ装置1は、ユーザの入力操作(例えばディスプレイ装置36に対する指FGのタッチ操作)に応じたPTZカメラ装置1自身のフォーカス機能により、キャリブレーション用床置きマーカMAK4の点O’にピント合わせすることで、PTZカメラ装置1から点O’までの距離LCO’、水平角θCO’h及び垂直角θCO’vを算出する。PTZカメラ装置1の算出結果は、指向性制御装置3に送信される。
図89(A)は、第13のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK4の位置関係を示す図である。図89(B)は、図89(A)の水平方向上面図である。図89(C)は、図89(B)のK−K’断面図である。図90(A)は、第13のキャリブレーション方法におけるPTZカメラ装置1、全方位マイクアレイ装置2及びキャリブレーション用床置きマーカMAK4の位置関係を示す図である。図90(B)は、図90(A)の水平方向上面図である。図90(C)は、図90(B)のL−L’断面図である。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK4の中心点O、点X及び点O’の3箇所がユーザの指FGにより指定されると、キャリブレーション用床置きマーカMAK4の半径R0と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oに向かう垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xに向かう垂直角θCXvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点O’に向かう垂直角θCO’vとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChとを算出する。図89(B)、図89(C)、図90(B)及び図90(C)を参照して、収音方向算出部34における水平方向の距離LCMhと高さHM,HCと水平角θMChの算出方法を具体的に説明する。
収音方向算出部34は、図89(C)に示す△COMにおいて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の中心点Oに向かう垂直角θCOvを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhとPTZカメラ装置1の水平面からの高さHCとの関係式を数式(151)に従って求め、更に、キャリブレーション用床置きマーカMAK4の半径R0とPTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点O’に向かう垂直角θCO’vとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhとPTZカメラ装置1の水平面からの高さHCとの関係式を数式(152)に従って求める。なお、キャリブレーション用床置きマーカMAK4は全方位マイクアレイ装置2の所定位置から鉛直方向の真下の床上の位置に設置されるので、PTZカメラ装置1とキャリブレーション用床置きマーカMAK4との間の水平方向の距離LCOhは、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと同じである(LCOh=LCMh)。
収音方向算出部34は、数式(151)及び数式(152)の各算出結果を用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhを数式(153)に従って算出し、PTZカメラ装置1の床からの高さHCを数式(154)に従って算出する。
また、収音方向算出部34は、図91(C)に示す△CXMにおいて、数式(154)の算出結果と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xに向かう垂直角θCXvとを用いて、PTZカメラ装置1からキャリブレーション用床置きマーカMAK4の点Xまでの水平方向の距離LCXhを数式(155)に従って算出する。
収音方向算出部34は、図89(B)又は図90(B)に示す△CXMにおける余弦定理により、数式(153)〜数式(155)の各算出結果を用いて、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChを数式(156)に従って算出する。
以上により、本変形例の第13のキャリブレーション方法では、収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK4の中心点O、点O’及び点Xの3箇所がユーザの指FGにより指定されると、PTZカメラ装置1及び全方位マイクアレイ装置2の水平面からの高さHC,HMを簡易に算出でき、更に、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChとをキャリブレーションパラメータとして簡易に算出できる。
これにより、全方位マイクアレイ装置2の水平角の正面方向(0度方向)が分かるので、指向性制御装置3は、1つの全方位マイクアレイ装置2に対して複数のPTZカメラ装置1が設置された収音システムのシステム構成の場合でも、各PTZカメラ装置1と全方位マイクアレイ装置2との間のキャリブレーションパラメータを同様に算出できる。従って、全方位マイクアレイ装置2をPTZカメラ装置1の方に向けて設置する等、全方位マイクアレイ装置2の設置制限がなくなり、全方位マイクアレイ装置2の設置が容易になる。
なお、第13のキャリブレーション方法に用いたキャリブレーション用床置きマーカMAK4では、ユーザは、全方位マイクアレイ装置2の水平角の正面方向(0度方向)を示す点Xを予め規定する必要があった。しかし、点Xを予め規定するユーザの作業を省略し、PTZカメラ装置1の画像から、全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChを読み取り、操作部32から直接入力しても良い。
この場合には、ユーザは、図91(A)に示す角度メモリ付きのキャリブレーション用床置きマーカMAK5を用いる。図91(A)は、角度メモリ付きのキャリブレーション用床置きマーカMAK5の平面図である。図91(B)は、PTZカメラ装置1のフォーカス機能による点O及び点O’の拡大画面である。なお、図91(B)に示す点O及び点O’の位置は、図88(B)に示す点O及び点O’と同一である。
収音方向算出部34は、ディスプレイ装置36に表示されたキャリブレーション用床置きマーカMAK5の中心点O、及び点O’の2箇所がユーザの指FGにより指定され、さらに画像から読み取られた角度情報を、ユーザが操作部32から入力すると、キャリブレーション用床置きマーカMAK5の半径R0と、PTZカメラ装置1からキャリブレーション用床置きマーカMAK5の中心点Oに向かう垂直角θCOvと、PTZカメラ装置1からキャリブレーション用床置きマーカMAK5の点O’に向かう垂直角θCO’vとを用いて、PTZカメラ装置1と全方位マイクアレイ装置2との間の水平方向の距離LCMhと、PTZカメラ装置1の床からの高さHCと、全方位マイクアレイ装置2の床からの高さHMを算出する。全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChはユーザが操作部32から入力した値である。。以下のキャリブレーションパラメータの算出方法は、第4の実施例におけるキャリブレーション方法の説明と同一であり、未知数となる全方位マイクアレイ装置2のX軸方向のずれ量を示す水平角θMChは直接入力されるため、説明を省略する。
なお、本出願は、2013年2月15日出願の日本特許出願(特願2013−028402)、2013年6月6日出願の日本特許出願(特願2013−119850)、2013年6月20日出願の日本特許出願(特願2013−129964)、2013年7月25日出願の日本特許出願(特願2013−154867)、2013年10月18日出願の日本特許出願(特願2013−217707)に基づくものであり、その内容は本出願の中に参照として援用される。