JP4934968B2 - カメラ装置、カメラ制御プログラム及び記録音声制御方法 - Google Patents

カメラ装置、カメラ制御プログラム及び記録音声制御方法 Download PDF

Info

Publication number
JP4934968B2
JP4934968B2 JP2005032872A JP2005032872A JP4934968B2 JP 4934968 B2 JP4934968 B2 JP 4934968B2 JP 2005032872 A JP2005032872 A JP 2005032872A JP 2005032872 A JP2005032872 A JP 2005032872A JP 4934968 B2 JP4934968 B2 JP 4934968B2
Authority
JP
Japan
Prior art keywords
subject
sound
unit
distance
voice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005032872A
Other languages
English (en)
Other versions
JP2006222618A (ja
Inventor
一記 喜多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005032872A priority Critical patent/JP4934968B2/ja
Publication of JP2006222618A publication Critical patent/JP2006222618A/ja
Application granted granted Critical
Publication of JP4934968B2 publication Critical patent/JP4934968B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、周囲音を制御しつつ撮影を行うカメラ装置、カメラ制御プログラム及び記録音声制御方法に関する。
従来、例えばマイクロホンにより検出した周囲音を撮影画像とともに記録するカメラにおいては、マイクロホンの指向性を制御するものが提案されている。このカメラにおいては、撮影部の被写体に対するフォーカシングに同期して、マイクロホンの指向特性も当該被写体にフォーカシング制御し、これにより、ズーム撮影時にも臨場感の高い録音ができるとするものである(例えば、特許文献1参照)。
特開平5−308553号公報
係るカメラにおいては、前述のように録音するマイクの指向性は制御されるものの、該マイクは常に、撮影部でフォーカシングされる被写体に指向する。したがって、臨場感の高い録音が可能となる対象は、撮影部がフォーカシングした被写体のみに限定されてしまう。しかしながら今日におけるユーザにあっては、撮影機器に対する熟練度も高く、撮影に際してフォーカシングする被写体と、音声を強調させたい被写体とが一致しない撮影を所望したり、特定の被写体からの音声を強調して録音する撮影を所望する等、録音を伴う撮影に対する要求は多様化している。したがって、マイクを撮影部でフォーカシングされる被写体のみに指向させる従来のカメラでは、多様化しているユーザの要求を満足させ得るものではなかった。
本発明は、かかる従来の課題に鑑みてなされたものであり、フォーカシング等の撮影部側での動きに左右されることなく、周囲音における所望の音声を強調あるいは抑圧して記録することのできるカメラ装置、カメラ制御プログラム及び記録音声制御方法を提供することを目的とするものである。
前記課題を解決するため請求項1記載の発明に係るカメラ装置にあっては、動画を撮影する撮影手段と、この撮影手段により撮影される被写体像を表示する表示画面手段と、複数のマイクロホンを有し、前記撮影手段による撮影時に周囲音を検出する検出手段と、前記撮影手段により撮影される画像における任意の被写体を、音声強調或いは音声抑圧すべき被写体として指定する指定手段と、前記表示画面手段に、前記指定手段により指定された被写体が音声強調或いは音声抑圧すべき被写体として指定されていることを識別して表示する表示制御手段と、前記指定手段により指定された被写体までの距離が所定値以上である否かを判別する判別手段と、この判別手段により、前記指定手段により指定された被写体までの距離が所定値以上であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体の方向に基づいて制御して、当該方向からの音声を強調処理または抑圧処理し、所定値未満であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体までの距離に基づいて制御して、前記被写体の方向からの音声を強調処理または抑圧処理する音声制御手段と、前記撮影手段により撮影される動画と、前記音声制御手段により前記音声を強調処理または抑圧処理された周囲音とを記録する記録手段とを備える。
したがって、指定手段により被写体を指定することにより、当該被写体からの音声が強調されて動画とともに記録手段に記録される。よって、撮影手段の撮影状況とは無関係に特定の周囲音を強調しつつ撮影を行うことができ、これにより、撮影手段によりフォーカシングされた被写体と、音声を強調させたい被写体とが一致しない撮影や、特定の被写体からの音声を強調して録音する撮影が可能となる。
また、指定手段により被写体を指定することにより、当該被写体からの音声が抑圧されて動画とともに記録手段に記録される。よって、撮影手段の撮影状況とは無関係に特定の周囲音を抑圧しつつ撮影を行うことができ、これにより、撮影手段によりフォーカシングされた被写体と、音声を強調させたい被写体とが一致しない撮影や、特定の被写体からの音声を抑圧して録音する撮影が可能となる。更に、指定手段により指定された被写体を識別表示することにより、どの被写体の音声を強調するのか或いは抑圧するのかを一目で把握可能となる。
また、請求項2記載の発明に係るカメラ装置にあっては、前記検出手段は、複数のマイクロホンが所定方向に配列されたマイクロホンアレーである。
また、請求項3記載の発明に係るカメラ装置にあっては、前記指定手段は、前記表示画面手段に表示された被写体像中における任意の被写体を操作に基づき指定する。したがって、表示画面手段に表示された被写体像中における任意の被写体を指定する容易な操作により、当該被写体からの音声を強調または抑圧した撮影が可能となる。
また、請求項記載の発明に係るカメラ装置にあっては、前記音声制御手段は、前記表示画面手段に表示された被写体像中における任意の被写体に対するタッチ操作に基づき得られる位置座標に基づき、前記指定された被写体の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理する。
また、請求項記載の発明に係るカメラ装置にあっては、前記音声制御手段は、前記位置座標と、前記撮影手段の焦点距離および前記動画の画像サイズとに基づき、前記指定された被写体の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理する。
また、請求項記載の発明に係るカメラ装置にあっては、前記指定手段により指定された被写体に対して強調処理と抑圧処理のうちどちらを実行させるかを選択する処理選択手段を備え、前記音声制御手段は、前記検出手段により検出された周囲音を制御し、前記指定手段により指定された被写体の方向からの音声に対して、前記処理選択手段により選択された処理を実行する。
また、請求項記載の発明に係るカメラ装置にあっては、前記音声制御手段は、前記指定手段により指定された第1の被写体の音声を強調処理するとともに、前記指定手段により指定された第2の被写体の音声を抑圧処理する手段を含む。
また、請求項記載の発明に係るカメラ装置にあっては、前記音声制御手段は、前記音声を強調処理する方向と前記音声を抑圧処理する方向とを独立して設定する設定手段を含む。したがって、ある音声を強調し、他の音声を抑圧しつつ撮影を行うことができる。
また、請求項記載の発明に係るカメラ装置にあっては、前記検出手段は、複数のマイクロホンが前後方向に配置されたマイクロホンアレーである。したがって、同じ方向からの音声が複数ある場合であっても、ある音声を強調し、他の音声を抑制しつつ撮影を行うことができる。
また、請求項10記載の発明に係るカメラ装置にあっては、前記音声制御手段は、前記複数のマイクロホン配置された方向と同一方向における異なる音源からの音声の一方を強調処理し、他方を抑圧処理する。
また、請求項11記載の発明に係るカメラ装置にあっては、動画を撮影する撮影手段と、この撮影手段により撮影される被写体像を表示する表示画面手段と、周囲音を検出する検出手段と、前記撮影手段により撮影される画像における任意の被写体を周囲音から減算処理すべき被写体として指定する指定手段と、前記表示画面手段に、前記指定手段により指定された被写体が周囲音から減算処理すべき被写体として指定されていることを識別して表示する表示制御手段と、前記検出手段により検出された周囲音を制御し、前記指定手段により指定された被写体の発する音声を取得する取得手段と、この取得手段により取得された前記音声を記憶する記憶手段と、前記指定手段により指定された被写体までの距離が所定値以上である否かを判別する判別手段と、この判別手段により、前記指定手段により指定された被写体までの距離が所定値以上であると判別された場合には、前記記憶手段に記憶されている音声を前記検出手段により検出される周囲音から前記指定手段により指定された被写体の方向に基づいて制御して、減算処理し、所定値未満であると判別された場合には、前記記憶手段に記憶されている音声を前記検出手段により検出される周囲音から前記指定手段により指定された被写体までの距離に基づいて制御して、減算処理する音声制御手段と、前記撮影手段により撮影される動画と、前記音声制御手段により前記音声を減算処理された周囲音とを記録する記録手段とを備える。したがって、選択した音声を一旦記憶手段に記憶させれば、当該カメラ装置の方向やシーンの変化に拘わらず、以降当該音声を抑圧しつつ撮影を行うことができる。更に、指定手段により指定された被写体を識別表示することにより、どの被写体の音声を減算処理するのかを一目で把握可能となる。
また、請求項12記載の発明に係るカメラ制御プログラムにあっては、動画を撮影する撮影手段と、この撮影手段により撮影される被写体像を表示する表示画面手段と、複数のマイクロホンを有し前記撮影手段による撮影時に周囲音を検出する検出手段とを備えるカメラ装置が有するコンピュータを、前記撮影手段により撮影される画像における任意の被写体を、音声強調或いは音声抑圧すべき被写体として指定する指定手段と、前記表示画面手段に、前記指定手段により指定された被写体が音声強調或いは音声抑圧すべき被写体として指定されていることを識別して表示する表示制御手段と、前記指定手段により指定された被写体までの距離が所定値以上である否かを判別する判別手段と、この判別手段により、前記指定手段により指定された被写体までの距離が所定値以上であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体の方向に基づいて制御して、当該方向からの音声を強調処理または抑圧処理し、所定値未満であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体までの距離に基づいて制御して、前記被写体の方向からの音声を強調処理または抑圧処理する音声制御手段と、前記撮影手段により撮影される動画と、前記音声制御手段により前記音声を強調処理または抑圧処理された周囲音とを記録手段に記録する記録制御手段として機能させる。したがって、前記コンピュータがこのプログラムに従って処理を実行することにより、請求項1記載の発明と同様の作用効果を奏する。
また、請求項13記載の発明は、動画を撮影する撮影手段と、この撮影手段により撮影される被写体像を表示する表示画面手段と、複数のマイクロホンを有し前記撮影手段による撮影時に周囲音を検出する検出手段とを備えるカメラ装置の記録音声制御方法であって、前記撮影手段により撮影される画像における任意の被写体を、音声強調或いは音声抑圧すべき被写体として指定する指定工程と、前記表示画面手段に、前記指定工程により指定された被写体が音声強調或いは音声抑圧すべき被写体として指定されていることを識別して表示する表示制御工程と、前記指定工程により指定された被写体までの距離が所定値以上である否かを判別する判別工程と、この判別工程により、前記指定工程により指定された被写体までの距離が所定値以上であると判別された場合には、前記検出手段により検出された周囲音を前記指定工程により指定された被写体の方向に基づいて制御して、当該方向からの音声を強調処理または抑圧処理し、所定値未満であると判別された場合には、前記検出手段により検出された周囲音を前記指定工程により指定された被写体までの距離に基づいて制御して、前記被写体の方向からの音声を強調処理または抑圧処理する音声制御工程と、前記撮影手段により撮影される動画と、前記音声制御工程により前記音声を強調処理または抑圧処理された周囲音とを記録手段に記録する記録制御工程とを含む。したがって、記載した工程に従って処理を実行することにより、請求項1記載の発明と同様の作用効果を奏する。
以上のように請求項1、12、13に係る発明によれば、指定手段により被写体を指定することにより、当該被写体からの音声を強調して動画とともに記録手段に記録することができる。したがって、撮影手段の撮影状況とは無関係に特定の周囲音を強調しつつ撮影を行うことができる。また、指定手段により被写体を指定することにより、当該被写体からの音声を抑圧して動画とともに記録手段に記録することができる。したがって、撮影手段の撮影状況とは無関係に特定の周囲音を抑圧しつつ撮影を行うことができる。よって、撮影手段によりフォーカシングされた被写体と、音声を強調させたい被写体とが一致しない撮影や、特定の被写体からの音声を抑圧して録音する撮影が可能となる。更に、指定手段により指定された被写体を識別表示することにより、どの被写体の音声を強調するのか或いは抑圧するのかを一目で把握可能となる。
また、請求項11に係る発明によれば、選択した音声を一旦記憶手段に記憶させれば、当該カメラ装置の方向やシーンの変化に拘わらず、以降当該音声を抑圧しつつ撮影を行うことができる。更に、指定手段により指定された被写体を識別表示することにより、どの被写体の音声を減算処理するのかを一目で把握可能となる。
(第1の実施の形態)
図1に示すように、本発明の各実施の形態に係るデジタルカメラ100の本体101には、前面上部に撮像レンズ102が配置され、その下部にマイクロホンアレー部103が設けられている。このマイクロホンアレー部103には、横配列マイクと縦配列マイクとからなる複数のマイクロホン(後述するマイクM1〜マイクMn)が等間隔で設けられている。また、一方の側面には、開閉自在なカバー体104が設けられており、このカバー体104の裏面側に後述する表示部119とタッチパネル132とが配置されている。
図2は、第1の実施の形態に係るデジタルカメラ100の回路構成を示すブロック図である。このデジタルカメラ100は、AE、AWB、AF等の一般的な機能を有するものであり、前記撮像レンズ102は、ズームレンズ、フォーカスレンズで構成され、フォーカス駆動部105及びズーム駆動部106により駆動される。この撮像レンズ102の光軸上には絞り107、シャッタ108及びCCD等で構成される撮像部109が配置されている。絞り107とシャッタ108とは、絞り/シャッタ駆動部110に接続され、撮像部109はドライバ111に接続されている。
このデジタルカメラ100全体を制御する撮影録音制御回路112(以下、単に制御回路112という。)は、CPU及びワーク用のRAM等で構成されている。この制御回路112には、前記駆動部105、106とともにドライバ111が接続されており、ドライバ111は、制御回路112が発生するタイミング信号に基づき、撮像部109を駆動する。
また、前記撮像部109の受光面には、撮像レンズ102によって被写体が結像される。撮像部109は、ドライバ111によって駆動され、被写体の光学像に応じたアナログの撮像信号をユニット回路113に出力する。ユニット回路113は、撮像部109の出力信号に含まれるノイズを相関二重サンプリングによって除去するCDS回路や、この映像信号を増幅するゲイン調整アンプ(AGC)等で構成される。このユニット回路113からの映像信号はA/D変換器114によりデジタルデータに変換され、映像信号処理部115へ出力される。
映像信号処理部115は、入力した撮像信号に対しペデスタルクランプ等の処理を施し、それを輝度(Y)信号及び色差(UV)信号に変換するとともに、オートホワイトバランス、輪郭強調、画素補間などの画品質向上のためのデジタル信号処理を行う。映像信号処理部115で変換されたYUVデータは順次画像メモリ116に格納されるとともに、RECスルー・モードでは1フレーム分のデータ(画像データ)が蓄積される毎にビデオ信号に変換され、表示制御部117の表示メモリ125を介して(ファインダー)表示部119へ送られてスルー画像として画面表示される。
そして、静止画撮影モードにおいては、後述する操作入力部130に設けられているシャッターキー操作をトリガとして、制御回路112は、撮像部109、ドライバ111、ユニット回路113、及び映像信号処理部115に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影処理により得られ画像メモリ116に一時記憶された画像データは、画像符号器/復号器120で圧縮及び符号化され、符号化画像メモリ121に一時記憶された後、最終的には所定のフォーマットの静止画ファイルとして、入力インターフェース122を介して外部メモリ123に記録される。
また、動画撮影モードにおいては、1回目のシャッターキーと2回目のシャッターキー操作との間に、画像メモリ116に順次記憶される複数の画像データが画像符号器/復号器120で順次圧縮され、符号化画像メモリ121に順次記憶された後、動画ファイルとして外部メモリ123に記録される。この外部メモリ123に記録された静止画ファイル及び動画ファイルは、PLAY・モードにおいてユーザーの選択操作に応じて画像伸張/復号化部118に読み出されるとともに伸張及び復号化され、YUVデータとして表示メモリ125に展開された後、表示部119に表示される。
プログラムメモリ124には、制御回路112に前記各部を制御させるための各種のプログラム、例えばAE、AF、AWB制御用のプログラムや、制御回路112を本発明の選択手段、音声制御手段、記録制御手段等として機能させるためのプログラム等の各種のプログラムが格納されており、データメモリ125は各種データを格納する。
また、このデジタルカメラ100は、各被写体(被写体A,B・・・)までの距離に応じた測距信号を発生する測距センサ126を備えており、この測距センサ126からの出力信号は、前記映像信号処理部115からの映像信号とともに、測距部/合焦検出部127に入力される。測距部/合焦検出部127はこれら入力信号に基づき、各被写体(被写体A,B・・・)までの距離を検出するものであって、この検出された距離は、被写体A,B・・・の被写体距離LA、LBとして距離メモリ128に記憶される。
また、制御回路112には、座標入力部129及び操作入力部130が入力回路131を介して接続されている。座標入力部129は、前記表示部119に積層されているタッチパネル132からのタッチ信号に基づく座標値を、入力回路131を介して制御回路112に出力する。操作入力部130には、モード選択キー、シャッターキー、ズームキー等の複数の操作キー及びスイッチが設けられている。
また、このデジタルカメラ100は、前記動画撮影モード、音声のみを記録する録音モード、音声付き(静止画)撮影モードにおいて、周囲音を記録する録音機能を備えており、このため周囲音を検出するマイクロホンを有し、このマイクロホンは前記マイクロホンアレー部103に設けられた横配列マイクと縦配列マイクとからなるマイクM1からマイクMnまでのn本のマイクロホンで構成されている。各マイクM1〜Mnからの音声信号は、対応する各アンプ133・・・で増幅され、S&H、A/D変換回路134でサンプルホールド及びデジタル変換され、音声強調部135に供給される。音声強調部135は、マイクM1〜Mnに対応して設けられたn個の遅延器D1〜Dnと、これら遅延器D1〜Dnからの信号を加算する加算器136で構成されている。各遅延器D1〜Dnは、音声強調設定メモリ144に記憶される強調被写体座標(x,y)、強調被写体距離L、音声強調方向角度θに基づき遅延制御又はアレー制御を実行する遅延制御/アレー制御回路145により制御される。
前記加算器136での加算結果により得られる特定方向音声を強調した音声データは、雑音抑圧回路137で雑音抑圧処理され音声メモリ138に格納される。この音声メモリ138に格納された音声データは、音声符号器/復号器139で順次圧縮され、符号化音声メモリ140に順次記憶される。制御回路112は、この圧縮音声データと前記圧縮動画データとを含む音声付き動画ファイルを生成して外部メモリ123に記録する。
この外部メモリ123に記録された動画ファイルの音声データは、PLAY・モードにおいてユーザーの選択操作に応じて、音声符号器/復号器139に読み出されるとともに伸張及び復号化される。この伸張及び及び復号化された音声データは、符号化音声メモリ140に一時記憶された後、D/A変換器141でアナログ信号に変換され、アンプ142を介してスピーカー143に供給されて音声として再生される。なお、音声記録を行うタイミングは、動画撮影時に限定されず、音声付き静止画撮影モードにおける録音動作時でもよく、また、録音モードやアフレコモードにおける録音動作時でもよい。
以上の構成に係る本実施の形態において、制御回路112は前記プログラムに基づき、図3及び図4に示す一連のフローチャートに示すように処理を実行する。すなわち、動画撮影モードが設定されたか否かを判断し(図3ステップS101)、動画撮影モード以外の他のモードが設定された場合には、設定された当該その他のモード処理を実行する(ステップS102)。また、動画撮影モードが設定されたならば、測光処理、WB処理を実行するとともに(ステップS103)、ズーム処理を行ってズーム駆動部106により駆動されることにより変化したレンズ焦点距離(f)を算出する(ステップS104)。また、測距センサ126を制御する測距処理を実行するとともに、フォーカス駆動部105を制御するAF処理を実行して被写体を合焦させる(ステップS105)。次に、このAF処理により合焦した被写体A、またはB、Cの距離情報を測距部/合焦検出部127により検出させて、距離メモリ128に記憶させる(ステップS106)。
さらに、被写体像スルー画像を、照準、距離情報等とともに、ファインダーに表示させる(ステップS107)。すなわち、このステップS107での処理により、図5に示すように、被写体A,B、C等からなる被写体像スルー画像156を表示部119に表示させるとともに、撮影/録音モード表示151、撮影/録音できる残り時間152、カメラの映像フォーカス照準153、音声強調/音声フォーカス音源照準154、音声強調設定マーク155等を表示する。
なお、映像フォーカス照準153は、図示した表示部119の中央のみならず、操作入力部130での操作により表示部119の任意の位置に移動させることが可能である。したがって、図6(5)に示すように、映像フォーカス照準153を被写体B上に移動させることも可能であり、この場合前記ステップS106では、被写体Bまでの距離情報が検出されて記憶されることとなる。
次に、マイクロホンアレー部103からの音声を入力させ(ステップS108)、後述する特定方向音声の強調処理を設定済みであるか否かを判断する(ステップS109)。設定済みでない場合には、ステップS110の処理を実行することなく、ステップS111に進む。また、設定済みである場合には、マイクロホンアレー部103の各遅延器D1〜Dnの出力を加算器136で加算合成して、特定方向を強調した音声を音声メモリ138に出力させる(ステップS110)。さらに、特定方向音声の抑圧処理を設定済みであるか否かを判断し(ステップS111)、設定済みでない場合には雑音抑圧回路137で通常の音声抑圧処理させる(ステップS112)。しかし、設定済みである場合には、マイクロホンアレー部103の各遅延器D1〜Dn出力を減算合成して、特定方向を抑圧処理した音声を音声メモリ138に出力させる(ステップS113)。なお、このステップS113の処理に関しては、第2の実施の形態において詳述する。
しかる後に、録音中および/または録画中であるか否かを判断し(ステップS114)、録音中および/または録画中である場合には、音声符号器/復号器139および/または画像符号器/復号器120で、録音音声および/または撮像映像の符号化処理させて、符号化音声メモリ140および/または符号化画像メモリ121に記録する(ステップS115)。さらに、操作入力部130にて録音/録画ストップSWが操作されたか否かを判断し(ステップS116)、操作されたならば録音/録画の停止処理を実行して(ステップS117)、リターンする。無論、このとき前述のように、圧縮音声データからなる音声ファイル、または圧縮音声データと圧縮動画データとを含む音声付き動画ファイルを生成して外部メモリ123に記録する。
他方、ステップS114での判断の結果、録音中および/または録画中でない場合には、操作入力部130にて録音/録画スタートSWが操作されたか否かを判断し(ステップS118)、操作されない場合には図4の「A」にジャンプする。また、ステップS116での判断の結果、録音/録画ストップSWが操作されない場合にも図4の「A」にジャンプする。
そして、図4のフローチャートに示すように、音声強調の設定がなされたか否かを判断し(ステップS120)、設定がなされない場合にはその他の処理を実行する(ステップS121)。このとき、ユーザが図6(5)に示すように、操作入力部130での操作により、映像フォーカス照準153を音声強調させたい被写体B上に移動させると、被写体Bまでの距離が測距され同図に示すように「4M」なる映像フォーカスした被写体距離Dが表示される。そして、この被写体B上の映像フォーカス照準153をユーザが指Fでタッチした後、操作入力部130にて音声強調設定ボタンを押下すると、音声強調の設定がなされる。
したがって、図4のフローチャートにおいては、音声強調の設定がなされたことにより、ステップS120の判断がYESとなってステップS122に進み、操作入力された被写体Bの入力座標を音声強調する音源の位置座標として、RAMに記憶する。すなわち、図6に示すように、ズーム動作に応じて焦点距離と画角座標は変化するが、同図(5)に示すようよう焦点距離f=6mmであったとすると、ユーザが指Fでタッチした入力座標として、同図(6)に示すように、(x,y)=(0.7,0.1)を得ることができる。次に、下記例示式を用いて、入力位置座標(x,y)をレンズ焦点距離(f)、画像サイズ(X′,Y′)に基づいて、強調音源方向の角度θfまたは方向座標(θx,θy)に変換する(ステップS123)。
(例)θx=(x/xmax)×tan−1(X′/2f)、
θy=(y/ymax)×tan−1(Y′/2f)、
θf=θx、または、θf=θy、
図7に、画角や半画角、被写体範囲がズーム操作などレンズ焦点距離(f)の変化に伴って変化するときの強調音源方向の角度θfまたは方向座標(θx,θy)の換算例を示す。本例では、位置座標(x,y)は、−1.0≦x≦1.0、・・−0.75x≦0.75の範囲とすると、被写体や特定音源の角度θは、同図に示す半画角(2/θ)に相当させているので、位置座標(x,y)をレンズ焦点距離(f)と、画像サイズ(X′,Y′)とに基づいて、強調音源方向の角度θf、または、方向座標(θx,θyに変換するには、
例えば、xmax=1.0,ymax=0.75として、
θx=(x/xmax)×tan−1(X′/2f)、θy=(y/ymax)×tan−1(Y′/2f)、
等として変換される。θfは実際には、マイクロホンアレー部103がマイク配列が横並び(水平方向)のみの場合は、θf=θxとして利用し、マイク配列が縦並び(垂直方向)のみの場合は。θf=θyとして利用すればよい。
また、デジタルズームなどで、光学系の倍率やレンズ焦点距離は変わらないが、画像処理により撮影画角が変わる場合にも、同様に、デジタルズームの横または縦の拡大倍率、若しくは焦点距離換算の倍率Mを用いて、ファインダー画面上での入力座標に対して画角も倍率M分の1と狭くなるので、被写体や音源の方向はθfは、
θf=θx=(x/xmax)×tan−1[X′/2f]/M、または、
θf=θy=(y/ymax)×tan−1[y′/2f]/M、と補正すればよい。
そして、ステップS123に続くステップS124では、被写体Bの距離情報Lを読み込み、または、映像フォーカスして測距し、強調する音源距離Lfとして設定し、さらにこの設定した音源距離Lfが所定値以上であるか否かを判断する(ステップS125)。このステップS125での判断の結果、音源距離Lfが所定値未満であって近距離である場合には、下記例示式を用い、強調する音源距離Lfに基づいて、音声強調部135の各遅延器D(k)の遅延時間tD(k)を設定する(ステップS126)。
(例)θ(k)=tan−1[(k−1)d/Lf]、
tD(k)=Lf[{1/cosθ(n−k+1)}−1]/c
(但し、k:マイク番号1〜n、d:マイク間隔、c:音速)
また、ステップS125での判断の結果、音源距離Lfが所定値以上であって遠距離である場合には、下記例示式を用い、強調する音源方向のθfまたは(θx,θy)に基づいて、音声強調部135の各遅延器D(k)の遅延時間tD(k)を設定する(ステップS127)。
(例)tDx(j)=(m−j)・dx・sinθx/c、
tDy(k)=(m−k)・dy・sinθy/c、
(但し、j:横配列マイク番号1〜m、k:縦配列マイク番号1〜n、d:マイク 間隔、c:音速)
しかる後に、強調音声の照準を音声強調マークとともに、被写体スルー画像に重ねてファインダーに表示し(ステップS128)、リターンする。これにより、図6(8)に示すように、被写体B上に音声フォーカス音源照準154が表示されるとともに、音声強調の設定されたことを示す音声強調設定マーク155が表示される。
また、音源距離Lfに応じて前記ステップS126またはステップS127の処理が行われた後、リターンして前述したステップS110の処理が実行されることとなる。これにより、被写体Bの音声を強調した音声データを圧縮した圧縮音声データと圧縮動画データとを含む音声付き動画ファイルが外部メモリ123に記録されることとなる。
(第1の実施の形態の変形例)
図8〜10は、前記図4のフローチャートと前記図3のフローチャートにおけるステップS110の処理とによって実行されるマクロホンアレーによる音声強調処理の変形例、およびステップS113によって実行される特定方向音声の抑圧処理の変形例を示すブロック回路図である。
図8は、2個のマイクM1,M2を用いるものであって、この2個のマイクM1,M2の間隔d、特定音源の方向θが既知であり、マイク間隔dに比べて特定音源までの距離Lが遠距離(L>>d)である場合である。図に示すように、特定方向の特定音源からの音声w(n)を強調したい場合には、特定音声w(n)に近い側のマイクM1に先に音声が伝達され、他のマイクM2には少し遅れて音声が入力される。このとき、角度θに応じて先に伝達する音源に近い側のマイクM1に、他のマイクM2より進んでいる分に相当する遅延時間(T)を遅延器Dにより設け、遅い側のマイクM2では遅延時間=0に設定してその出力を加算回路161で加算する。
すると、方向θからの音声信号は、各マイクM1、M2からの伝播時間は加算回路161入力時では同じになって強調されることとなり、他の方向からの信号は互いに少しづつ打ち消し合うので、相対的に抑圧されることとなる。したがって、各マイクM1、M2の遅延回路の遅延時間tを設定制御することにより、任意の特定方向θじ指向性を設けて音声強調を行い、電子的に指向性を可変制御することができる。
同様に、特定方向θからの音声に対して伝播時間を揃え、前記とは逆に減算回路162で互いに相殺するようにすると、特定の音源方向θからの音声に死角を作って抑圧することができ、雑音抑制回路として利用できる。
遅延量(T)を決定するためには、いずれの場合も、音源の方向θが既知であることが必要である。本実施の形態では、ユーザがファインダー(表示部119)視野内から選択した被写体を入力し、その入力座標に対応する方向を特定音源方向θとして設定するので、方向θを推測する必要がなく、容易に演算して設定できる。
例え、2個のマイクM1,M2の場合には、マイクM1,M2への伝播遅れ時間は、それぞれt1=0、t2=d・sinθ/cとなるので、マイクM1,M2の各遅延回路の遅延時間tD1,tD2には、それぞれ他方の伝播遅れ時間、すなわち、
tD1=t2=d・sinθ/c、tD2=t1=0 (d:マイク間隔、c:音速)を設定すればよい。
図9は、遠距離で、特定方向の音声に指向性を持たせて強調する場合である。図示のように、マイクが3個以上の場合でもマイクを等間隔dで直線状に並べたマイクロホンアレーの場合には、特定方向の音源側に最も近いマイクをマイクM1(k=1)とすると、音源に近い方からk番目のマイク(k;1〜n)の伝播遅れ時間t(k)は、
(k)=(k−1)・d・sinθ/c、となるので、
設定すべき遅延時間tD(k)は、
D(k)=(n−1)・d・sinθ/c、となる。
(但し、d:マイク間隔、c=音速≒331.5+0.6×T[m/s]、T:温度)
図10は、近距離で、特定方向の音声に指向性を持たせて強調する場合である。図示のように、各マイクM1からMnには、近い音源からの音声がそれぞれ異なる角度θ〜θで入力されることとなり、同一の遅延時間となる等位相面は、図のように特定音源を中心とする球面状となる。この場合、特定の被写体または音源からの音声を強調または抑圧するには、特定音源に最も近いマイクをマイクM1(k=1)とすると、音源に近い方からk番目のマイク(k;1〜n)の伝播遅れ時間t(k)は、
(k)=L{(1/cosθk)−1}/c、
したがって、各マイクの遅延器に設定すべき遅延時間tD(k)は、
D(k)=t(n−k+1)=L[(1/cosθ(n−k+1)−1]/c、
(但し、θk=tan−1[(k−1)]d/L]、L:音源距離、c:音速)
とすればよく、このとき、各マイクへの入力角度θは、音源距離Lとマイク間隔dとから決まるので、結果的には音源の位置(音源に最も近いマイク番号はどれか)と音源距離Lとで決定される。なお、配列が曲面の場合には、計算が多少複雑化するが勿論算出可能である。
前述のように、音源からの距離が遠距離の場合には、各マイクへの入力角度が平行と見なして距離情報に拘わらず、単一の方向角度θで扱っても問題はないが、近距離の場合には、方向角度とともに音源からの距離Lに応じて、各遅延時間の設定を行う必要がある。したがって、被写体の距離等に応じて、前述したいずれに自動的に切り替えて音声強調すると、音声強調の効果を向上させることができる。
なお、配列が2次元配列で、水平および垂直の両方向とも利用する場合には、前記の遅延時間の設定では、水平方向;tDx(j)=(m−j)・dx・sinθx/c、垂直方向:tDy(k)=(n−j)・dy・sinθy/c、などと設定すればよい。
(第2の実施の形態)
図11は、本発明の第2の実施の形態に係るデジタルカメラ100の回路構成を示すブロック図であり、第1の実施の形態とは逆に、録音したくない被写体や音源を任意に選択して入力操作し、入力座標に基づいて、当該被写体や音源の角度や方向を、音声抑圧部の設定データ(各マイク入力の遅延回路の遅延時間等)を設定するようにしたものである。
このブロック図にいおいて、前記図2に示したブロック図における各部と同一部分については、同一符合を付して説明を省略し、異なる部分についてのみ説明する。すなわち、各マイクM1〜Mnからの音声信号は、対応する各アンプ133・・・で増幅され、S&H、A/D変換回路134でサンプルホールド及びデジタル変換され、音声強調/抑圧部235に供給される。音声強調/抑圧部235は、マイクM1〜Mnに対応して設けられたn個の遅延器D1〜Dnと、これら遅延器D1〜Dnからの信号を各々増幅する複数の乗算器A1〜An、これら乗算器A1〜Anからの信号を加算または減算する加算する加減算回路236で構成されている。各遅延器D1〜Dnおよび乗算器A1〜Anは、音声強調/抑圧設定メモリ244に記憶される抑圧方向角度θs、抑圧音源距離Ls、強調方向角度θf、強調音源距離Lfに基づき遅延制御、加減算/利得制御を実行する遅延制御、加減算/利得制御回路245により制御される。
以上の構成に係る本実施の形態において、制御回路112は前記プログラムに基づき、前述した第1の実施の形態と同様に、図3のフローチャートに示すように処理を実行する。そして、ステップS107で、被写体像スルー画像を、照準、距離情報等とともに、ファインダーに表示させる処理が実行することにより、図12に示すように、第1の実施の形態と同様に、被写体A,B、C等からなる被写体像スルー画像156、撮影/録音モード表示151、撮影/録音できる残り時間152、カメラの映像フォーカス照準153、音声強調/音声フォーカス音源照準154、音声強調設定マーク155を表示するのみならず、雑音を抑圧する音源照準251および雑音抑圧設定マーク252等を表示させる。
そして、ステップS114での判断の結果、録音中および/または録画中でない場合には、操作入力部130にて録音/録画スタートSWが操作されたか否かを判断し(ステップS118)、操作されない場合には図13の「A」にジャンプする。また、ステップS116での判断の結果、録音/録画ストップSWが操作されない場合にも図13の「A」にジャンプする。
したがって、音声抑圧の設定がなされたか否かを判断し(ステップS220)、設定がなされない場合にはその他の処理を実行する(ステップS221)。このとき、ユーザが前述した第1の実施の形態と同様に、操作入力部130での操作により、映像フォーカス照準153を音声抑圧させたい被写体C上に移動させると、被写体Cまでの距離が測距され、この被写体C上の映像フォーカス照準153をユーザが指Fでタッチした後、操作入力部130にて音声抑圧設定ボタンを押下すると、音声抑圧の設定がなされる。
したがって、図13のフローチャートにおいては、音声抑圧の設定がなされたことにより、ステップS220の判断がYESとなってステップS222に進み、操作入力された座標を音声抑圧する被写体Cの位置座標(x,y)として、RAMに記憶する。なお、この位置座標(x,y)の取得方法は前述した第1の実施の形態と同様である。次に、下記例示式を用いて、入力位置座標(x,y)をレンズ焦点距離(f)、画像サイズ(X′,Y′)に基づいて、抑圧すべき音源方向の角度θsまたは方向座標(θx,θy)に変換する(ステップS223)。
(例)θx=(x/xmax)×tan−1(X′/2f)、
θy=(y/ymax)×tan−1(Y′/2f)、
θs=θx、または、θs=θy、
引き続き、被写体Cの距離情報LCを読み込み、または、映像フォーカスして測距し、抑圧する音源距離Lsとして設定し(ステップS224)、この設定した音源距離Lsが所定値以上であるか否かを判断する(ステップS225)。このステップS225での判断の結果、音源距離Lsが所定値未満であって近距離である場合には、下記例示式を用い、抑圧する音源距離Lsに基づいて、音声強調/抑圧部235の各遅延器D(k)の遅延時間tD(k)を設定する(ステップS226)。
(例)θ(k)=tan−1[(k−1)d/Ls]、
tD(k)=Ls[{1/cosθ(n−k+1)}−1]/c
(但し、k:マイク番号1〜n、d:マイク間隔、c:音速)
また、ステップS225での判断の結果、音源距離Lsが所定値以上であって遠距離である場合には、下記例示式を用い、強調する音源方向のθsまたは(θx,θy)に基づいて、音声強調/抑圧部235の各遅延器D(k)の遅延時間tD(k)を設定する(ステップS227)。
(例)tDx(j)=(m−j)・dx・sinθx/c、
tDy(k)=(m−k)・dy・sinθy/c、
(但し、j:横配列マイク番号1〜m、k:縦配列マイク番号1〜n、d:マイク 間隔、c:音速)
しかる後に、音声抑圧の照準を音声抑圧マークとともに、被写体スルー画像に重ねてファインダーに表示し(ステップS228)、リターンする。これにより、図12に示すように、被写体C上に雑音抑圧する音源照準251が表示されるとともに、音声抑圧の設定されたことを示す雑音抑圧設定マーク252が表示される。
また、音源距離Lsに応じて前記ステップS226またはステップS227の処理が行われた後、リターンして図3のフローチャートにおけるステップS112の処理が実行されることとなる。これにより、被写体Cの音声を抑圧した音声データを圧縮した圧縮音声データと圧縮動画データとを含む音声付き動画ファイルが外部メモリ123に記録されることとなる。
(第2の実施の形態の変形例)
図14〜16は、前記図13のフローチャートと前記図3のフローチャートにおけるステップS113の処理とによって実行されるマクロホンアレーによる、音声抑圧処理の変形例を示すブロック回路図である。
図14に示す構成においては、特定方向の負の指向性を持たせて死角を作るものであり、A1〜Anを一つ置きに乗算器または反転回路として機能させる。また、図15に示す構成においては、音声強調する角度(θ1)と音声抑圧する角度(θ2)とを独立に設定して、θ1方向からの音声を強調し、かつ、θ2方向からの音声を抑圧するものである。また、図16図に示す構成においては、複数個のマイクによるマイクロホンアレーを前後方向に配置して、同じ方向でも、距離に応じて雑音抑圧できるようにしたものである。このような構成にすると、前方の音源を抑圧して、その後方の希望音声を強調して録音することも可能となる。
(第3の実施の形態)
図17は、本発明の第3の実施の形態に係るデジタルカメラ300の回路構成を示すブロック図である。このデジタルカメラ300は、AE、AWB、AF等の一般的な機能を有するものであり、撮像レンズ302は、ズームレンズ、フォーカスレンズで構成され、フォーカス駆動部305及びズーム駆動部306により駆動される。この撮像レンズ302の光軸上には絞り307、シャッタ308及びCCD等で構成される撮像部309が配置されている。絞り307とシャッタ308とは、絞り/シャッタ駆動部310に接続され、撮像部309はドライバ311に接続されている。
このデジタルカメラ300全体を制御する撮影録音制御回路312(以下、単に制御回路312という。)は、CPU、ROMおよびワーク用のRAM等で構成されている。ROMにはには、制御回路312に前記各部を制御させるための各種のプログラム、例えばAE、AF、AWB制御用のプログラムや、制御回路312を本発明のとして機能させるためのプログラム等の各種のプログラムが格納されている。この制御回路312には、前記駆動部304とともにドライバ311が接続されており、ドライバ311は、制御回路312が発生するタイミング信号に基づき、撮像部309を駆動する。なお、図示は省略するが、実際には、メカシャッター及びそれらを駆動するためのモーターを有する駆動機構等が設けられている。
また、前記撮像部309の受光面には、撮像レンズ302によって被写体が結像される。撮像部309は、ドライバ311によって駆動され、被写体の光学像に応じたアナログの撮像信号をユニット回路313に出力する。ユニット回路313は、撮像部309の出力信号に含まれるノイズを相関二重サンプリングによって除去するCDS回路や、この映像信号を増幅するゲイン調整アンプ(AGC)等で構成される。このユニット回路313からの映像信号はA/D変換器314によりデジタルデータに変換され、映像信号処理部315へ出力される。
映像信号処理部315は、入力した撮像信号に対しペデスタルクランプ等の処理を施し、それを輝度(Y)信号及び色差(UV)信号に変換するとともに、オートホワイトバランス、輪郭強調、画素補間などの画品質向上のためのデジタル信号処理を行う。映像信号処理部315で変換されたYUVデータは順次画像メモリ316に格納されるとともに、RECスルー・モードでは1フレーム分のデータ(画像データ)が蓄積される毎にビデオ信号に変換され、表示部319へ送られてスルー画像として画面表示される。
そして、静止画撮影モードにおいては、後述する操作入力部330に設けられているシャッターキー操作をトリガとして、制御回路312は、撮像部309、ドライバ311、ユニット回路313、及び映像信号処理部315に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影処理により得られた画像データは、画像符号器/復号器320で圧縮及び符号化され、最終的には所定のフォーマットの静止画ファイルとして、入力インターフェース322を介して外部メモリ(図示せず)に記録される。
また、動画撮影モードにおいては、1回目のシャッターキーと2回目のシャッターキー操作との間に、画像メモリ316に順次記憶される複数の画像データが画像符号器/復号器320で順次圧縮され、符号化画像メモリ321に順次記憶された後、動画ファイルとして外部メモリに記録される。この外部メモリに記録された静止画ファイル及び動画ファイルは、PLAY・モードにおいてユーザーの選択操作に応じて画像伸張/復号化部318に読み出されるとともに伸張及び復号化され、表示部319に表示される。
また、このデジタルカメラ300は、各被写体(被写体A,B、C・・・)までの距離に応じた測距信号を発生する測距センサ326を備えており、この測距センサ326からの出力信号は、前記映像信号処理部315からの映像信号とともに、測距部/合焦検出部327に入力される。測距部/合焦検出部327はこれら入力信号に基づき、各被写体(被写体A,B・・・)までの距離を検出するものであって、この検出された距離は、被写体A,B・・・の被写体距離LA、LBとして距離メモリ328に記憶される。
また、制御回路312には、座標入力部及び座標入力部(共に図示せず)が入力回路331を介して接続されている。座標入力部は、前記表示部319に積層されているタッチパネル(図示せず)からのタッチ信号に基づく座標値を、入力回路331を介して制御回路312に出力する。操作入力部には、モード選択キー、シャッターキー、ズームキー等の複数の操作キー及びスイッチが設けられている。
また、このデジタルカメラ300は、前記動画撮影モード、音声のみを記録する録音モード、音声付き(静止画)撮影モードにおいて、周囲音を記録する録音機能を備えており、このため周囲音を検出するマイクロホンを有し、このマイクロホンは前記マイクロホンアレー部103に配置された主マイク301と参照マイク302とで構成されている。主マイク301からの音声信号は、対応する各アンプ333・・・で増幅され、S&H、A/D変換回路334でサンプルホールド及びデジタル変換され、雑音抽出部350と雑音減算部360とに入力される。また、参照マイク302からの音声信号は、対応する各アンプ333・・・で増幅され、S&H、A/D変換回路334でサンプルホールド及びデジタル変換され、雑音抽出部350のみに入力される。
雑音抽出部350は、雑音抽出部350は、両マイク301、302に対応して設けられたn個の遅延器D1、D2、これら遅延器D1、D2からの信号を加算する加算器351、この加算器351から出力される特定方向を強調した音声データを一時的に記憶する音声メモリ352、この音声メモリ352に記憶された音声データをフーリエ変換するフーリエ変換部353、このフーリエ変換部353で変換されたデータを前記雑音減算部360に送出する収録音のスペクトル部354を有している。各遅延器D1、D2は、音声フォーカス設定メモリ355に記憶されるフォーカス方向座標θおよびフォーカス音源距離Lf基づき遅延制御又はアレー制御を実行する遅延制御/アレー制御回路356により制御される。
一方、雑音減算部360は、収録音のスペクトル部354からの信号が入力される雑音スペクトルの推定部361、前記主マイク301側の信号が順次入力される窓関数部362、フーリエ変換部363、位相部364、逆フーリエ変換部365を有するとともに、前記フーリエ変換部363の出力信号から前記雑音スペクトルの推定部361の出力信号を減算して逆フーリエ変換部365に出力する減算回路366を有している。
この逆フーリエ変換部365からの音声データは、音声メモリ338に格納され、この音声メモリ338に格納された音声データは、音声符号器/復号器339で順次圧縮される。制御回路312は、この圧縮音声データと前記圧縮動画データとを含む音声付き動画ファイルを生成して外部メモリに記録する。
以上の構成に係る本実施の形態において、制御回路312は前記プログラムに基づき、図18に示すフローチャートに示すように処理を実行する。すなわち、録音または動画撮影モードが設定されたか否かを判断し(図18ステップS301)、録音または動画撮影モード以外の他のモードが設定された場合には、設定された当該その他のモード処理を実行する(ステップS302)。また、録音または動画撮影モードが設定されたならば、測光処理、WB処理を実行するとともに(ステップS303)、ズーム処理を行ってズーム駆動部306を制御する(ステップS304)。また、測距センサ326を制御する測距処理を実行するとともに、フォーカス駆動部305を制御するAF処理を実行して被写体を合焦させる(ステップS305)。次に、このAF処理により合焦した被写体A、またはB、Cの距離情報を測距部/合焦検出部327により検出させて、フォーカス距離メモリ328に記憶させる(ステップS306)。
さらに、被写体像スルー画像を、照準、距離情報等とともに、ファインダーに表示させる(ステップS307)。すなわち、このステップS307での処理により、図5に示すように、被写体A,B、C等からなる被写体像スルー画像156を表示部319に表示させるとともに、撮影/録音モード表示151、撮影/録音できる残り時間152、カメラの映像フォーカス照準153、音声強調/音声フォーカス音源照準154、音声強調設定マーク155等を表示する。
なお、映像フォーカス照準153は、図示した表示部119の中央のみならず、操作入力部での操作により表示部119の任意の位置に移動させることが可能である。したがって、図6(5)に示すように、映像フォーカス照準153を被写体B上に移動させることも可能であり、この場合前記ステップS306では、被写体Bまでの距離情報が検出されて記憶されることとなる。
次に、録音動作中であるか否かを判断し(ステップS308)、録音動作中でない場合には後述するステップS317に進む。また、録音動作中であるならば、主マイク301からの音声を入力し(ステップS309)、この入力音声をA/D変換する(ステップS310)。さらに、後述する抑圧音声(雑音)スペクトルによる雑音抑圧を設定済みであるか否かを判断する(ステップS311)。設定済みでない場合には、ステップS313〜S315の処理を実行することなく、通常の音声抑圧処理を実行する(ステップS312)。また、設定済みである場合には、窓関数部362からのデジタル音声をフーリエ変換部363でのFFT演算で周波数領域に変換し、振幅スペクトル|X(ω)|と位相情報ωを、スペクトルの推定部361、逆フーリエ変換部365および減算回路366に出力させる(ステップS313)。さらに、減算回路366にて、振幅スペクトル|X(ω)|から、スペクトルの推定部361よりの音声スペクトル|W(ω)|をスペクトル減算して、
|S(ω)|=|X(ω)|−|W(ω)|
を逆フーリエ変換部365に出力させる(ステップS314)。
また、逆フーリエ変換部365にて、スペクトル減算出力に位相情報ωを付加し、逆FFT演算で時間領域信号s(n)に変換して音声メモリ338に出力出力させる(ステップS315)。引き続き、逆フーリエ変換部365から出力された音声信号を音声符号器/復号器339で圧縮符号化処理させて、符号化音声メモリ340に記録し(ステップS316)、リターンする。
他方ステップS308での判断の結果、録音動作中でない場合には、抑圧する雑音スペクトルの設定がなされたか否かを判断し(ステップS317)、設定がなされない場合にはその他の処理を実行する(ステップS318)。このとき、ユーザが図12に示すように、操作入力部での操作により、映像フォーカス照準153を抑圧する雑音スペクトルさせたい被写体C上に移動させ、この被写体C上の映像フォーカス照準153をユーザが指Fでタッチした後、操作入力部にて抑圧する雑音スペクトル設定ボタンを押下すると、抑圧する雑音スペクトルの設定がなされ、被写体C上に雑音抑圧する音源照準251が表示されるとともに、音声抑圧の設定されたことを示す雑音抑圧設定マーク252が表示される。
したがって、図18のフローチャートにおいては、抑圧する雑音スペクトルの設定がなされたことにより、ステップS317の判断がYESとなってステップS319に進み、音声抑圧したい方向の被写体Cの距離情報Lを入力または検出して、雑音抽出する音源距離Lとして設定する(ステップS319)。また、操作入力された被写体Cの入力座標を雑音抽出する音源の位置座標(x,y)としてメモリする(ステップS320)。さらに、前記実施の形態と同様に、この位置座標(x,y)をレンズ焦点距離(f)、画像サイズ(X′,Y′)に基づいて、強調音源方向の角度θfまたは方向座標(θx,θy)に変換する(ステップS321)。
次に、前記ステップS319で設定した音源距離Lが所定値以上であるか否かを判断する(ステップS322)。このステップS322での判断の結果、音源距離Lが所定値未満であって近距離である場合には、フォーカスする音源距離Lに基づいて、雑音抽出部350の各遅延器D(k)の各遅延時間tD(k)を設定する(ステップS323)。また、ステップS325での判断の結果、音源距離Lが所定値以上であって遠距離である場合には、雑音抽出する音源方向の角度θに基づいて、雑音抽出部350の各遅延器D(k)の各遅延時間tD(k)を設定する(ステップS324)。
しかる後に、マイクロホンアレー(両マイク301、302)から、フォーカスした方向/距離の音声が強調された音声を所定時間入力させ(ステップS325)、収録した音声を音声メモリ352に一時記憶させる(ステップS326)。また、デジタル音声信号をフーリエ変換部353のFFT演算で周波数領域に変換し、振幅スペクトル|X(ω)|を出力させる(ステップS327)。この収録音声の振幅スペクトル|X(ω)|を抑圧すべき雑音スペクトル|W(ω)|として、収録音のスペクトル部354から雑音減算部360に出力し、該雑音減算部360の減算回路366に設定し(ステップS328)、リターンする。
したがって、このようにして抑圧する雑音スペクトルの設定がなされると、前述したステップS311の判断がYESとなることから、前述したステップS313〜S315の処理が実行されることとなる。
図19は、前記第3の実施の形態において用いた、スペクトルサブトラクション法(スペクトル減算法)(以下、SS法という。)における雑音抑圧回路の構成例を示す図である。すなわち、マイク401からの音声信号は、アンプ402で増幅され、A/D変換部403デジタル変換され、窓関数部404を介してフーリエ変換部405に供給される。このフーリエ変換部353で変換された振幅スペクトル|X(ω)|は、雑音スペクトル減算部406の雑音推定、または、雑音スペクトル設定部407、および減算器408に与えられ、また、位相情報ωx(位相スペクトル)409は、逆フーリエ変換部410に与えられる。また、この逆フーリエ変換部410には、前記減算器408からの出力があたえられ、の逆フーリエ変換部410の出力である音声信号は、音声メモリ411に一時記憶された後、D/A変換器412でアナログ変換され、アンプ413で増幅されて、スピーカー414で再生されるように構成されている。
このようにSS法では、音声信号s(n)と雑音信号w(n)とを含む入力音声信号の信号x(n)=s(n)+w(n)を、所定サンプリング毎にフレーム分割し、ハニング窓や台形窓などの窓関数で窓掛け(Windowing)処理した後、フーリエ変換(FFT)により時間領域から周波数領域に変換する。入力信号の振幅パワースペクトル│X(ω)│から推定雑音のパワースペクトル│X^(ω)│を減算して(│S^(ω)│=│X(ω)│−│X^(ω)│)、それに入力信号のωを加え、得られたS^(ω)=│S^(ω)│exp(jω)を逆フーリエ変換(inverse EET)により時間領域に変換すれば、動作音などの雑音が除去された強調音声信号s^(n)が得られる。
SS法による雑音除去を伝達関数H(ω)のフィルタと考えると、伝達関数H(ω)は、
H(ω)=S^(ω)/X(ω){│X^(ω)│−│X^(ω)│}exp(jω)X(ω)、
H(ω)=1−{│X^(ω)│/│X(ω)│}、となる。
SS法では、人間の聴覚にあまり重要でない位相情報には処理を加えず、振幅情報主体での処理を行うので処理が簡単である。また、1つのマイクロホンのみで雑音抑制でき、雑音原数などは事前に知る必要はないが、最低でも1フレーム分の処理遅延が生ずる。また、雑音パワーベクトルの事前情報が必要である。携帯電話などでは、周波数領域に変換した信号の、サブバンド帯域別のSN比(SNR)を算出して、非適応な雑音推定を行い、またスペクトル減算(差分)とスペクトル利得による抑圧(乗算)とを組み合わせる方法や、入力信号のパワーベクトルに、SNR推定値に逆比例するように重み付けを行って、適応的に雑音推定を行い、雑音の抑圧をスペクトル利得の調整(乗算)のみで行う方法など、複雑な雑音推定方法が検討されているが、機器内モーター動作音の除去には、事前に動作音の雑音スペクトルデータ│W^(ω)│等を解析して設定できるので、構成も簡便になり利用し易い利点がある。
なお、例えば、適応フィルタ方式のノイズキャンセラーでは、参照マイクの入力音声に適応フィルタ処理を施した信号を、主マイクの入力信号から減算するが、主マイクの他に雑音を検出するための参照用マイクを必要とする。実施の形態のようにマイクロホンアレー部103を設けた録音入力部の場合には、その一部を雑音参照用のマイクとして利用することもできる。
適応フィルタ方式の動作は、希望音声信号s(n)と経路h(m)を経由して雑音源ws(n)から到達する雑音w(n)の和である、s(n)+w(n)が主マイクに入力される。雑音信号W(n)は、雑音経路のインパルス応答{h(m)}(m=1,2・・・P−1)を用いて次式で表される。
w(n)=Σ(m)w(n−m),
また、適応フィルタの出力y(n)は、適応フィルタのインパルス応答を{h(m)}(m=1,2・・・P−1)とすると次式で表される。
y(n)=Σ(m)w(n−m),
このときノイズキャンセラーの出力s^(n)は、
s^(n)=s(n)+w(n)−y(n)=s(n)+Σ{h(m)−h(m)}w(n−m)
したがって、h(m)=h(m)とできれば、s^(n)=s(n)となり、雑音信号を除去して、音声信号のみを取り出せることとなる。
通常、未知の雑音経路h(m)を求めるためには、適応フィルタ係数h(m)は、推定誤差s^(n)の2乗値を統計的に最小にするように更新されるが、h(k)の最適値を得るには、P元の連立方程式を解く必要があり、信号の統計量が必要となる。このため適応フィルタでは、統計学を学習し、逐次最適解を探すためにLSM(最小二乗平均)法やNLMS(正規化最小二乗平均)法などの適応アルゴリズムが必要となる。
しかし、前述した実施の形態のように、ユーザが音声フォーカスして収録した雑音音声データなどから、雑音の統計量を取得できる場合には、h(k)の最適値の初期値を求めておき、設定することができる。このようなノイズキャンセラーでは、雑音源から主マイクへの経路が未知であっても、雑音経路のインパルス応答が適応フィルタにより良好に推定できれば雑音除去を行うことができ、雑音特性が変動しても追従できる。
(その他の実施の形態)
なお、前記実施の形態においては、複数の横配列マイクと縦配列マイクとでマイクロホンアレー部103を構成するようにしたが、図20に示すような配置形態としてもよい。 (a)デジタルカメラ500は、カメラ本体501と可動式カメラ部502とで構成されている。カメラ本体501には、LCDファインダー503が配置され、可動式カメラ部402には撮像レンズ504およびストロボ505が設けられ、ストロボ505の下部に水平方向に配置された複数のマイクで構成されたマイクロホン部506が設けられた構成である。
(b)デジタルカメラ600は、カメラ本体601の前面に撮像レンズ602が配置され、前面上部両側に水平方向に配置された複数のマイクで構成された左マイクロホン部603Lと、右マイクロホン部603Rとが設けられた構成である。
(c)デジタルカメラ700は、カメラ本体701の前面に撮像レンズ702が配置され、撮像レンズ102の周部にこれを囲繞するように配置された複数のマイクで構成されたマイクロホン部703が設けられた構成である。
以上のように、マイクロホン部のマイク配置形態は、直線的であっても曲線的であってもよい。
本発明の第1〜第3実施の形態に共通するデジタルカメラの外観図である。 本発明の第1の実施の形態におけるデジタルカメラの電気的構成を示すブロック図である。 同実施の形態における処理手順を示すフローチャートである。 同実施の形態における図3のフローチャートに続く処理手順を示すフローチャートである。 同実施の形態における表示画面例を示す図である。 ズーム動作に応じた焦点距離と画角座標の変化遷移図である。 レンズ焦点距離(f)の変化に伴って変化するときの強調音源方向の角度θfまたは方向座標(θx,θy)の換算例を示す図である。 第1の実施の形態におけるマクロホンアレーによる音声強調処理の変形例を示す図である。 第1の実施の形態におけるマクロホンアレーによる音声強調処理の変形例を示す図である。 第1の実施の形態におけるマクロホンアレーによる音声強調処理の変形例を示す図である。 本発明の第2の実施の形態におけるデジタルカメラの電気的構成を示すブロック図である。 同実施の形態における表示画面例を示す図である。 同実施の形態における図3のフローチャートに続く処理手順を示すフローチャートである。 第2実施の形態におけるマクロホンアレーによる音声強調処理の変形例を示す図である。 第2実施の形態におけるマクロホンアレーによる音声強調処理の変形例を示す図である。 第2実施の形態におけるマクロホンアレーによる音声強調処理の変形例を示す図である。 本発明の第3の実施の形態におけるデジタルカメラの電気的構成を示すブロック図である。 同実施の形態における図3のフローチャートに続く処理手順を示すフローチャートである。 同形態において用いた、スペクトルサブトラクション法における雑音抑圧回路の構成例を示す図である。 本発明の他の実施の形態を示すカメラ外観図である。
符号の説明
100 デジタルカメラ
102 撮像レンズ
103 マイクロホンアレー部
105 フォーカス駆動部
106 ズーム駆動部
108 シャッタ
109 撮像部
111 ドライバ
112 撮影録音制御回路
113 ユニット回路
114 A/D変換器
115 映像信号処理部
117 表示制御部
118 画像伸張/復号化部
119 表示部
120 画像符号器/復号器
121 符号化画像メモリ
122 入力インターフェース
123 外部メモリ
124 プログラムメモリ
125 データメモリ
125 表示メモリ
126 測距センサ
127 測距部/合焦検出部
128 距離メモリ
129 座標入力部
130 操作入力部
131 入力回路
132 タッチパネル
135 音声強調部
136 加算器
137 雑音抑圧回路
138 音声メモリ
139 音声符号器/復号器
140 符号化音声メモリ
144 音声強調設定メモリ
145 遅延制御/アレー制御回路
153 映像フォーカス照準
154 音声強調/音声フォーカス音源照準
155 音声強調設定マーク
156 被写体像スルー画像
235 音声強調/抑圧部
236 加減算回路
244 音声強調/抑圧設定メモリ
245 加減算/利得制御回路
251 音源照準
252 雑音抑圧設定マーク
300 デジタルカメラ
301 主マイク
302 参照マイク
302 撮像レンズ
312 撮影録音制御回路
319 表示部
353 フーリエ変換部
354 スペクトル部
355 音声フォーカス設定メモリ

Claims (13)

  1. 動画を撮影する撮影手段と、
    この撮影手段により撮影される被写体像を表示する表示画面手段と、
    複数のマイクロホンを有し、前記撮影手段による撮影時に周囲音を検出する検出手段と、
    前記撮影手段により撮影される画像における任意の被写体を、音声強調或いは音声抑圧すべき被写体として指定する指定手段と、
    前記表示画面手段に、前記指定手段により指定された被写体が音声強調或いは音声抑圧すべき被写体として指定されていることを識別して表示する表示制御手段と、
    前記指定手段により指定された被写体までの距離が所定値以上である否かを判別する判別手段と、
    この判別手段により、前記指定手段により指定された被写体までの距離が所定値以上であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体の方向に基づいて制御して、当該方向からの音声を強調処理または抑圧処理し、所定値未満であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体までの距離に基づいて制御して、前記被写体の方向からの音声を強調処理または抑圧処理する音声制御手段と、
    前記撮影手段により撮影される動画と、前記音声制御手段により前記音声を強調処理または抑圧処理された周囲音とを記録する記録手段と
    を備えることを特徴とするカメラ装置。
  2. 前記検出手段は、複数のマイクロホンが所定方向に配列されたマイクロホンアレーであることを特徴とする請求項1記載のカメラ装置。
  3. 前記指定手段は、前記表示画面手段に表示された被写体像中における任意の被写体を操作に基づき指定することを特徴とする請求項1または2記載のカメラ装置。
  4. 前記音声制御手段は、前記表示画面手段に表示された被写体像中における任意の被写体に対する操作に基づき得られる位置座標に基づき、前記指定された被写体の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理することを特徴とする請求項3記載のカメラ装置。
  5. 前記音声制御手段は、前記位置座標と、前記撮影手段の焦点距離および前記動画の画像サイズとに基づき、前記指定された被写体の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理することを特徴とする請求項4記載のカメラ装置。
  6. 前記指定手段により指定された被写体に対して強調処理と抑圧処理のうちどちらを実行させるかを選択する処理選択手段を備え、
    前記音声制御手段は、前記検出手段により検出された周囲音を制御し、前記指定手段により指定された被写体の方向からの音声に対して、前記処理選択手段により選択された処理を実行することを特徴とする請求項1から5にいずれか記載のカメラ装置。
  7. 前記音声制御手段は、
    前記指定手段により指定された第1の被写体の音声を強調処理するとともに、前記指定手段により指定された第2の被写体の音声を抑圧処理する手段を含むことを特徴とする請求項1から6にいずれか記載のカメラ装置。
  8. 前記音声制御手段は、前記音声を強調処理する方向と前記音声を抑圧処理する方向とを独立して設定する設定手段を含むことを特徴とする請求項7記載のカメラ装置。
  9. 前記検出手段は、複数のマイクロホンが前後方向に配置されたマイクロホンアレーであることを特徴とする請求項1から8にいずれか記載のカメラ装置。
  10. 前記音声制御手段は、前記複数のマイクロホン配置された方向と同一方向における異なる音源からの音声の一方を強調処理し、他方を抑圧処理することを特徴とする請求項9記載のカメラ装置。
  11. 動画を撮影する撮影手段と、
    この撮影手段により撮影される被写体像を表示する表示画面手段と、
    周囲音を検出する検出手段と、
    前記撮影手段により撮影される画像における任意の被写体を周囲音から減算処理すべき被写体として指定する指定手段と、
    前記表示画面手段に、前記指定手段により指定された被写体が周囲音から減算処理すべき被写体として指定されていることを識別して表示する表示制御手段と、
    前記検出手段により検出された周囲音を制御し、前記指定手段により指定された被写体の発する音声を取得する取得手段と、
    この取得手段により取得された前記音声を記憶する記憶手段と、
    前記指定手段により指定された被写体までの距離が所定値以上である否かを判別する判別手段と、
    この判別手段により、前記指定手段により指定された被写体までの距離が所定値以上であると判別された場合には、前記記憶手段に記憶されている音声を前記検出手段により検出される周囲音から前記指定手段により指定された被写体の方向に基づいて制御して、減算処理し、所定値未満であると判別された場合には、前記記憶手段に記憶されている音声を前記検出手段により検出される周囲音から前記指定手段により指定された被写体までの距離に基づいて制御して、減算処理する音声制御手段と、
    前記撮影手段により撮影される動画と、前記音声制御手段により前記音声を減算処理された周囲音とを記録する記録手段と
    を備えることを特徴とするカメラ装置。
  12. 動画を撮影する撮影手段と、この撮影手段により撮影される被写体像を表示する表示画面手段と、複数のマイクロホンを有し前記撮影手段による撮影時に周囲音を検出する検出手段とを備えるカメラ装置が有するコンピュータを、
    前記撮影手段により撮影される画像における任意の被写体を、音声強調或いは音声抑圧すべき被写体として指定する指定手段と、
    前記表示画面手段に、前記指定手段により指定された被写体が音声強調或いは音声抑圧すべき被写体として指定されていることを識別して表示する表示制御手段と、
    前記指定手段により指定された被写体までの距離が所定値以上である否かを判別する判別手段と、
    この判別手段により、前記指定手段により指定された被写体までの距離が所定値以上であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体の方向に基づいて制御して、当該方向からの音声を強調処理または抑圧処理し、所定値未満であると判別された場合には、前記検出手段により検出された周囲音を前記指定手段により指定された被写体までの距離に基づいて制御して、前記被写体の方向からの音声を強調処理または抑圧処理する音声制御手段と、
    前記撮影手段により撮影される動画と、前記音声制御手段により前記音声を強調処理または抑圧処理された周囲音とを記録手段に記録する記録制御手段と
    して機能させることを特徴とするカメラ制御プログラム。
  13. 動画を撮影する撮影手段と、この撮影手段により撮影される被写体像を表示する表示画面手段と、複数のマイクロホンを有し前記撮影手段による撮影時に周囲音を検出する検出手段とを備えるカメラ装置の記録音声制御方法であって、
    前記撮影手段により撮影される画像における任意の被写体を、音声強調或いは音声抑圧すべき被写体として指定する指定工程と、
    前記表示画面手段に、前記指定工程により指定された被写体が音声強調或いは音声抑圧すべき被写体として指定されていることを識別して表示する表示制御工程と、
    前記指定工程により指定された被写体までの距離が所定値以上である否かを判別する判別工程と、
    この判別工程により、前記指定工程により指定された被写体までの距離が所定値以上であると判別された場合には、前記検出手段により検出された周囲音を前記指定工程により指定された被写体の方向に基づいて制御して、当該方向からの音声を強調処理または抑圧処理し、所定値未満であると判別された場合には、前記検出手段により検出された周囲音を前記指定工程により指定された被写体までの距離に基づいて制御して、前記被写体の方向からの音声を強調処理または抑圧処理する音声制御工程と、
    前記撮影手段により撮影される動画と、前記音声制御工程により前記音声を強調処理または抑圧処理された周囲音とを記録手段に記録する記録制御工程と
    を含むことを特徴とする記録音声制御方法。
JP2005032872A 2005-02-09 2005-02-09 カメラ装置、カメラ制御プログラム及び記録音声制御方法 Expired - Fee Related JP4934968B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005032872A JP4934968B2 (ja) 2005-02-09 2005-02-09 カメラ装置、カメラ制御プログラム及び記録音声制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005032872A JP4934968B2 (ja) 2005-02-09 2005-02-09 カメラ装置、カメラ制御プログラム及び記録音声制御方法

Publications (2)

Publication Number Publication Date
JP2006222618A JP2006222618A (ja) 2006-08-24
JP4934968B2 true JP4934968B2 (ja) 2012-05-23

Family

ID=36984650

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005032872A Expired - Fee Related JP4934968B2 (ja) 2005-02-09 2005-02-09 カメラ装置、カメラ制御プログラム及び記録音声制御方法

Country Status (1)

Country Link
JP (1) JP4934968B2 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008193196A (ja) * 2007-02-01 2008-08-21 Casio Comput Co Ltd 撮像装置および指定音声出力方法
US10904658B2 (en) 2008-07-31 2021-01-26 Nokia Technologies Oy Electronic device directional audio-video capture
US9445193B2 (en) 2008-07-31 2016-09-13 Nokia Technologies Oy Electronic device directional audio capture
JP5801026B2 (ja) * 2009-05-28 2015-10-28 株式会社ザクティ 画像音響処理装置及び撮像装置
JP2011041096A (ja) * 2009-08-14 2011-02-24 Nec Corp 携帯端末、並びにこれに用いる集音制御方法及びプログラム
JP4952769B2 (ja) 2009-10-30 2012-06-13 株式会社ニコン 撮像装置
JP5198530B2 (ja) 2010-09-28 2013-05-15 株式会社東芝 音声付き動画像呈示装置、方法およびプログラム
US9496841B2 (en) 2010-10-21 2016-11-15 Nokia Technologies Oy Recording level adjustment using a distance to a sound source
US8525868B2 (en) 2011-01-13 2013-09-03 Qualcomm Incorporated Variable beamforming with a mobile platform
EP3471442A1 (en) 2011-12-21 2019-04-17 Nokia Technologies Oy An audio lens
US9258644B2 (en) 2012-07-27 2016-02-09 Nokia Technologies Oy Method and apparatus for microphone beamforming
JP5866504B2 (ja) * 2012-12-27 2016-02-17 パナソニックIpマネジメント株式会社 音声処理システム及び音声処理方法
EP2958339B1 (en) * 2013-02-15 2019-09-18 Panasonic Intellectual Property Management Co., Ltd. Directionality control system and directionality control method
KR102158293B1 (ko) * 2013-09-04 2020-09-21 삼성전자주식회사 이미지 촬영 방법 및 그 전자 장치
JP6125457B2 (ja) * 2014-04-03 2017-05-10 日本電信電話株式会社 収音システム及び放音システム
JP6878974B2 (ja) * 2017-03-16 2021-06-02 株式会社リコー 撮像装置、撮像システム
JP6525029B2 (ja) * 2017-06-29 2019-06-05 株式会社ニコン 再生処理装置、撮像装置および再生処理プログラム
JP7464529B2 (ja) 2018-10-11 2024-04-09 株式会社半導体エネルギー研究所 音源分離装置、半導体装置、および、電子機器

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05308553A (ja) * 1992-04-28 1993-11-19 Sanyo Electric Co Ltd ビデオカメラの録音装置
JPH07135694A (ja) * 1993-11-11 1995-05-23 Matsushita Electric Ind Co Ltd マイクロホン
JP3537962B2 (ja) * 1996-08-05 2004-06-14 株式会社東芝 音声収集装置及び音声収集方法
JP2000209689A (ja) * 1999-01-12 2000-07-28 Canon Inc サウンド処理装置およびその制御方法、並びに、記録媒体
JP2001084713A (ja) * 1999-09-10 2001-03-30 Nippon Hoso Kyokai <Nhk> ビデオカメラと一体型の音源分離収音マイクロホンシステム
JP2001203974A (ja) * 2000-01-19 2001-07-27 Matsushita Electric Ind Co Ltd 音声制御型音声映像記録装置及び音声制御方法
JP2002252805A (ja) * 2001-02-22 2002-09-06 Ricoh Co Ltd 撮像装置、撮像方法、プログラムおよび記録媒体
JP2004128646A (ja) * 2002-09-30 2004-04-22 Canon Inc 監視システムおよび制御装置

Also Published As

Publication number Publication date
JP2006222618A (ja) 2006-08-24

Similar Documents

Publication Publication Date Title
JP4934968B2 (ja) カメラ装置、カメラ制御プログラム及び記録音声制御方法
JP4539385B2 (ja) 撮像装置、撮像制御プログラム
US8401364B2 (en) Imaging device and playback device
US8218033B2 (en) Sound corrector, sound recording device, sound reproducing device, and sound correcting method
JP5801026B2 (ja) 画像音響処理装置及び撮像装置
JP5594133B2 (ja) 音声信号処理装置、音声信号処理方法及びプログラム
US8848082B2 (en) Image capturing apparatus, information processing method and storage medium for estimating a position of a sound source
JP5930684B2 (ja) 情報処理装置及び方法、並びにプログラム
KR20110038313A (ko) 영상촬영장치 및 그 제어방법
KR20060107328A (ko) 촬상 장치, 음성 기록 장치 및 음성 기록 방법
US9826134B2 (en) Imaging apparatus having a microphone and directivity control
JP2009065587A (ja) 音声記録装置及び音声再生装置
US20180350385A1 (en) Audio processing apparatus and control method thereof
JP2011041096A (ja) 携帯端末、並びにこれに用いる集音制御方法及びプログラム
US9232146B2 (en) Imaging device with processing to change sound data
US9160460B2 (en) Noise cancelling device
JP5998483B2 (ja) 音声信号処理装置、音声信号処理方法、プログラム及び記録媒体
JP2009130767A (ja) 信号処理装置
JP2012114842A (ja) 撮像装置及び駆動雑音除去装置
JP4542396B2 (ja) 録音装置
US20180007267A1 (en) Imaging device
JP6902961B2 (ja) 音声処理装置及びその制御方法
JP2022003753A (ja) 撮像装置
JP2014026002A (ja) 録音装置及びプログラム
JP2020092381A (ja) 音声取得装置、音声取得方法及び音声取得プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100309

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120124

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120206

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150302

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4934968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees