JP2006261900A - 撮像装置、撮像制御プログラム - Google Patents

撮像装置、撮像制御プログラム Download PDF

Info

Publication number
JP2006261900A
JP2006261900A JP2005074779A JP2005074779A JP2006261900A JP 2006261900 A JP2006261900 A JP 2006261900A JP 2005074779 A JP2005074779 A JP 2005074779A JP 2005074779 A JP2005074779 A JP 2005074779A JP 2006261900 A JP2006261900 A JP 2006261900A
Authority
JP
Japan
Prior art keywords
unit
imaging
image
ambient sound
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005074779A
Other languages
English (en)
Other versions
JP4539385B2 (ja
Inventor
Kazunori Kita
一記 喜多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005074779A priority Critical patent/JP4539385B2/ja
Publication of JP2006261900A publication Critical patent/JP2006261900A/ja
Application granted granted Critical
Publication of JP4539385B2 publication Critical patent/JP4539385B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

【課題】被写体画像中における不可視情報を明瞭に表示する。
【解決手段】走査音源方向(θx,θy)にフォーカスする為の各遅延器D(k)の遅延時間tD(j,k)を設定し(ステップS111)、θx、θy方向に指向した音声を所定時間づつ入力音声メモリMs(入力音声メモリ137)にθx、θy、tとして記録する(ステップS112)。入力音声メモリMs(θx,θy)に記憶された抽出音声から特徴データCs(θx,θy)を算出し(ステップS117)、この特徴データCs(θx,θy)をθx,θy座標上にプロットして二次元画像を描画する(ステップS118)。さらに、特徴抽出データ画像を半透明化し(ステップS119)、半透明化した特徴抽出データ画像をスルー画像に重ねてファインダー表示部に表示する(ステップS120)。
【選択図】 図3

Description

本発明は、被写体像とともに不可視情報をも表示させる撮像装置、撮像制御プログラムに関する。
従来、被写体の温度表示機能を備えたカメラ装置が提案されるに至っている。このカメラ装置は、被写体からの光を導入して結像させる光学ファインダーと、この光学ファインダーの下部に配置された温度表示部、これら光学ファインダーと温度表示部とを同一視野で撮像するテレビカメラ、及び赤外線検出器とで構成されている。そして、この赤外線検出器により検出された信号に基づき、温度表示部に被写体の温度をデジタル表示し、この温度が表示された温度表示部と被写体が結像した光学ファインダーとをテレビカメラで撮像することにより、テレビモニターに結像した被写体と該被写体の温度とを表示させるものである(例えば、特許文献1参照)。
特許第2747426号公報
しかしながら、係る従来のカメラ装置においては、被写体が結像された光学ファインダーとその下部に表示される温度表示とをテレビカメラで撮像して、モニターに表示することから、モニターには被写体と当該被写体の温度とが異なる部位に表示される。このため被写体が複雑に混在していると、表示されている温度がいずれの被写体の温度であるかが不明確となる。また、被写体中に異なる温度の部分が混在する場合にも、表示されている温度が被写体のいずれの部分の温度であるかが不明確となってしまう。
また、例えば特定の音声を発生している所望の被写体を撮影しようとする場合、当該被写体が複数の被写体中に存在していると、ファインダーを視認してもいずれの被写体が特定の音声を発生している所望の被写体であるかを容易に識別することができない場合が生ずる。
本発明は、かかる従来の課題に鑑みてなされたものであり、被写体画像中における不可視情報を明瞭に表示することのできる撮像装置、撮像制御プログラムを提供することを目的とする。また、本発明は、特定の音声を発生している所望の被写体を容易かつ迅速に撮影することのできる撮像装置、撮像制御プログラムを提供することを目的とする。
前記課題を解決するため請求項1記載の発明に係る撮像装置にあっては、表示手段と、撮像手段と、この撮像手段により撮像される画像を前記表示手段に表示させる第1の表示制御手段と、前記撮像手段の撮像範囲内における不可視情報を検出する不可視情報検出手段と、この不可視情報検出手段により検出される前記不可視情報の前記撮像範囲内における位置を検出する位置検出手段と、前記不可視情報検出手段により検出された不可視情報を表す可視情報を生成し、この可視情報を前記位置検出手段により検出された前記不可視情報の前記撮像範囲内における位置に対応させて、前記表示手段に表示させる第2の表示制御手段とを備える。
したがって、表示手段には、撮像手段の撮像範囲内における不可視情報が可視情報とされて表示されるのみならず、この可視情報が不可視情報の前記撮像範囲内における位置に対応させて表示される。よって、ユーザは、撮像範囲内における位置に対応させて表示される可視情報を視認することにより、被写体画像中における不可視情報の存在を被写体画像との関係において明確に視認することが可能となる。
また、請求項2記載の発明に係る撮像装置にあっては、前記第2の表示制御手段は、前記可視情報を前記第1の表示制御手段により前記表示手段に表示される画像の、前記位置検出手段により検出された位置に重ねて、前記表示手段に表示させる。したがって、表示手段には、撮像手段の撮像範囲内における不可視情報が可視情報とされて表示されるのみならず、この可視情報が撮像手段により撮像される画像に重畳されて表示される。よって、ユーザは、この撮像された画像に重畳されて表示された可視情報を視認することにより、被写体画像中における不可視情報の存在を被写体画像との関係において明確に視認することが可能となる。
また、請求項3記載の発明に係る撮像装置にあっては、前記不可視情報検出手段は、前記撮像手段の撮像時に周囲音を検出する周囲音検出手段であり、前記不可視情報は、前記周囲音検出手段により検出される前記周囲音である。したがって、表示手段には、撮像手段の撮像範囲内における周囲音が可視情報とされて表示されるのみならず、この可視情報が不可視情報の前記撮像範囲内における位置に対応させて、あるいは撮像手段により撮像される画像に重畳されて表示される。よって、ユーザは、この撮像された画像に重畳されて表示された可視情報を視認することにより、被写体画像中における周囲音の存在を被写体画像との関係において明確に視認することが可能となる。
また、請求項4記載の発明に係る撮像装置にあっては、前記周囲音検出手段により検出された音声を記録する記録手段を備える。したがって、ユーザは、この撮像された画像に重畳されて表示された可視情報を視認することにより、被写体画像中における周囲音の存在を被写体画像との関係において明確に視認しつつ、録音を行うことができる。
また、請求項5記載の発明に係る撮像装置にあっては、前記第2の表示制御手段により前記表示手段に表示された前記周囲音を示す可視情報の任意の部分を指定することにより、前記周囲音検出手段により検出される周囲音に含まれる任意の音声を選択する選択手段と、前記周囲音検出手段により検出された周囲音を制御し、前記選択手段により選択された音声を強調処理または抑圧処理する音声制御手段と、この音声制御手段により前記音声を強調処理または抑圧処理された周囲音を記録する記録手段とを備える。したがって、周囲音を示す可視情報の任意の部分を指定することにより、当該部分からの音声を強調または抑圧した録音が可能となる。
また、請求項6記載の発明に係る撮像装置にあっては、前記記録手段は、前記周囲音を前記撮像手段により撮像された画像とともに記録する。したがって、特定部分からの音声を強調または抑圧した録音を伴う画像記録が可能となる。
また、請求項7記載の発明に係る撮像装置にあっては、前記音声制御手段は、前記第2の表示制御手段により前記表示手段に表示された前記周囲音を示す可視情報中における任意の部分に対する操作に基づき得られる位置座標に基づき、前記指定された周囲音の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理する。
また、請求項8記載の発明に係る撮像装置にあっては、前記音声制御手段は、前記位置座標と、前記撮像手段の焦点距離及び又は前記画像のサイズとに基づき、前記指定された周囲音の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理する。
また、請求項9記載の発明に係る撮像装置にあっては、撮像手段と、音声の特徴データを記憶した特徴データ記憶手段と、周囲音を検出する周囲音検出手段と、前記特徴データ記憶手段に記憶された音声の特徴データと、前記周囲音検出手段により検出された周囲音中の音声データとを比較する比較手段と、この比較手段による比較に基づき、前記撮像手段の撮像範囲内において、前記特徴データに近似する周囲音を発生している被写体を検出する被写体検出手段とを備える。したがって、例えば特定の音声を発生している所望の被写体を撮影しようとする場合、当該特定の音声の特徴データが記憶されていれば、当該被写体が複数の被写体中に存在している場合であっても、いずれの被写体が特定の音声を発生している所望の被写体であるかを容易に識別することができ、所望の被写体を容易かつ迅速に撮影することが可能となる。
また、請求項10記載の発明に係る撮像装置にあっては、前記被写体検出手段により検出された被写体に、前記撮像手段を合焦させる合焦制御手段を更に備える。したがって、例えば特定の野鳥の音声の特徴データが記憶されていれば、当該野鳥に近似した音声データからなる音声を発生している被写体に合焦させて撮影を行うことが可能となる。
また、請求項11記載の発明に係る撮像装置にあっては、前記被写体検出手段により検出された被写体を表示する表示手段を更に備える。したがって、表示手段を視認することにより、前記所望の被写体を確認しつつ撮影を行うことができる。
また、請求項12記載の発明に係る撮像装置にあっては、前記周囲音検出手段により検出された周囲音を制御し、前記被写体検出手段により検出された被写体からの音声を強調処理または抑圧処理する音声制御手段と、この音声制御手段により前記音声を強調処理または抑圧処理された周囲音を記録する記録手段とを更に備える。したがって、前記所望の被写体の音声を強調または抑圧した周囲音声を記録することができる。
また、請求項13記載の発明に係る撮像装置にあっては、前記記録手段は、前記周囲音を前記撮像手段により撮像された画像とともに記録する。したがって、前記所望の被写体の音声を強調または抑圧した周囲音声と当該所望の被写体とを記録することができる。
また、請求項14記載の発明に係る撮像装置にあっては、複数の音声の特徴データのうち任意の特徴データを指定する指定手段を更に備え、前記記憶手段は、前記指定手段により指定された前記特徴データを記憶する。したがって、指定手段の指定により種々の音声の特徴データを有する被写体の音声や被写体自体を記録することができる。
また、請求項15記載の発明に係る撮像装置にあっては、前記周囲音検出手段は、複数のマイクロホンを有するマイクロホンアレーである。
また、請求項16記載の発明に係る撮像制御プログラムにあっては、表示手段と、撮像手段と、この撮像手段の撮像範囲内における不可視情報を検出する不可視情報検出手段とを備える撮像装置が有するコンピュータを、前記撮像手段により撮像される画像を前記表示手段に表示させる第1の表示制御手段と、前記不可視情報検出手段により検出される前記不可視情報の前記撮像範囲内における位置を検出する位置検出手段と、前記不可視情報検出手段により検出された不可視情報を表す可視情報を生成し、この可視情報を前記位置検出手段により検出された前記不可視情報の前記撮像範囲内における位置に対応させて、前記表示手段に表示させる第2の表示制御手段として機能させる。したがって、前記コンピュータがこのプログラムに従って処理を実行することにより、請求項1記載の発明と同様の作用効果を奏する。
また、請求項17記載の発明に係る撮像制御プログラムにあっては、撮像手段と、音声の特徴データを記憶した特徴データ記憶手段と、周囲音を検出する周囲音検出手段とを備える撮像装置が有するコンピュータを、前記特徴データ記憶手段に記憶された音声の特徴データと、前記周囲音検出手段により検出された周囲音中の音声データとを比較する比較手段と、この比較手段による比較に基づき、前記撮像手段が撮像する被写体において、前記特徴データに近似する周囲音を発生している被写体を検出する被写体検出手段として機能させる。したがって、前記コンピュータがこのプログラムに従って処理を実行することにより、請求項9記載の発明と同様の作用効果を奏する。
以上のように請求項1及び請求項16に係る発明によれば、表示手段に、撮像手段の撮像範囲内における不可視情報を可視情報として表示することができるのみならず、この可視情報が不可視情報の前記撮像範囲内における位置に対応させて表示することができる。よって、ユーザは、撮像範囲内における位置に対応させて表示される可視情報を視認することにより、被写体画像中における不可視情報の存在を被写体画像との関係において明確に視認することが可能となる。
また、請求項2記載の発明によれば、表示手段に、撮像手段の撮像範囲内における不可視情報を可視情報として表示することができるのみならず、この可視情報が撮像手段により撮像される画像に重畳して表示することができる。よって、ユーザは、この撮像された画像に重畳されて表示された可視情報を視認することにより、被写体画像中における不可視情報の存在を被写体画像との関係において明確に視認することが可能となる。
また、請求項3に係る発明によれば、表示手段に、撮像手段の撮像範囲内における周囲音を可視情報として表示することができるのみならず、この可視情報が不可視情報の前記撮像範囲内における位置に対応させて、あるいは撮像手段により撮像される画像に重畳させて表示することができる。よって、ユーザは、この撮像された画像に重畳されて表示された可視情報を視認することにより、被写体画像中における周囲音の存在を被写体画像との関係において明確に視認することが可能となる。
また、請求項9及び請求項17に係る発明によれば、特定の音声を発生している所望の被写体を撮影しようとする場合、当該特定の音声の特徴データが記憶されていれば、当該被写体が複数の被写体中に存在している場合であっても、いずれの被写体が特定の音声を発生している所望の被写体であるかを容易に識別することができ、所望の被写体を容易かつ迅速に撮影することが可能となる。
(第1の実施の形態)
図1に示すように、本発明の各実施の形態に係るデジタルカメラ100の本体101には、前面上部に撮像レンズ102が配置され、その下部にマイクロホンアレー部103が設けられている。このマイクロホンアレー部103には、横配列マイクと縦配列マイクとからなる複数のマイクロホン(後述するマイクM1〜マイクMn)が等間隔で設けられている。また、一方の側面には、開閉自在なカバー体104が設けられており、このカバー体104の裏面側に後述するファインダー表示部119とタッチパネル132とが配置されている。
図2は、第1の実施の形態に係るデジタルカメラ100の回路構成を示すブロック図である。このデジタルカメラ100は、AE、AWB、AF等の一般的な機能を有するものであり、前記撮像レンズ102は、ズームレンズ、フォーカスレンズで構成され、レンズ駆動部105により駆動される。この撮像レンズ102の光軸上には、及びCCD等で構成される撮像素子109が配置されており、この撮像素子109はドライバ111に接続されている。
このデジタルカメラ100全体を制御する撮影録音制御部112(以下、単に制御部112という。)は、CPU、ROMおよびワーク用のRAM等で構成されている。ROMには、制御部112に前記各部を制御させるための各種のプログラム、例えばAE、AF、AWB制御用のプログラムや、制御回路312を本発明を構成する手段として機能させるためのプログラム等の各種のプログラムが格納されている。この制御部112には、前記レンズ駆動部105とともにドライバ111が接続されており、ドライバ111は、制御部112が発生するタイミング信号に基づき、撮像素子109を駆動する。
また、前記撮像素子109の受光面には、撮像レンズ102によって被写体が結像される。撮像素子109は、ドライバ111によって駆動され、被写体の光学像に応じたアナログの撮像信号はA/D変換器114によりデジタルデータに変換され、画像信号処理部115へ出力される。
画像信号処理部115は、入力した撮像信号に対しペデスタルクランプ等の処理を施し、それを輝度(Y)信号及び色差(UV)信号に変換するとともに、オートホワイトバランス、輪郭強調、画素補間などの画品質向上のためのデジタル信号処理を行う。画像信号処理部115で変換されたYUVデータは順次画像メモリ116に格納されるとともに、RECスルー・モードでは1フレーム分のデータ(画像データ)が蓄積される毎にビデオ信号に変換され、被写体像スルー画像部113及び画像合成部117を介してファインダー/表示部119へ送られてスルー画像として画面表示される。
そして、静止画撮影モードにおいては、後述する操作入力部130に設けられているシャッターキー操作をトリガとして、制御部112は、撮像素子109、ドライバ111、及び画像信号処理部115に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影処理により得られ画像メモリ116に一時記憶された画像データは、画像圧縮符号器/伸張復号器120で圧縮及び符号化され、符号化画像メモリ121に一時記憶された後、最終的には所定のフォーマットの静止画ファイルとして、外部メモリ(図示せず)に記録される。
また、動画撮影モードにおいては、1回目のシャッターキーと2回目のシャッターキー操作との間に、画像メモリ116に順次記憶される複数の画像データが画像圧縮符号器/伸張復号器120で順次圧縮され、符号化画像メモリ121に順次記憶された後、動画ファイルとして外部メモリに記録される。この外部メモリに記録された静止画ファイル及び動画ファイルは、PLAY・モードにおいてユーザーの選択操作に応じて画像圧縮符号器/伸張復号器120に読み出されるとともに伸張及び復号化され、YUVデータとして展開された後、表示部119に表示される。なお、駆動量/焦点距離部126は、撮像レンズ102におけるズームレンズ、フォーカスレンズの駆動量や焦点距離を検出して制御部112に入力する。
また、制御部112には、操作入力部130が入力回路131を介して接続されており、操作入力部130には、モード選択キー、シャッターキー、ズームキー等の複数の操作キー及びスイッチが設けられている。前記表示部119タッチパネル132が積層されており、このタッチパネル132からのタッチ信号に基づく座標値も、入力回路131を介して制御部112に入力される。
また、このデジタルカメラ100は、前記動画撮影モード、音声のみを記録する録音モード、音声付き(静止画)撮影モードにおいて、周囲音を記録する録音機能を備えており、このため周囲音を検出するマイクロホンを有し、このマイクロホンは前記マイクロホンアレー部103に設けられた横配列マイクと縦配列マイクとからなるマイクM1からマイクMnまでのn本のマイクロホンで構成されている。各マイクM1〜Mnからの音声信号は、対応する各アンプ133・・・で増幅され、A/D変換回路134でサンプルホールド及びデジタル変換され、指向性ビーム生成部135に供給される。指向性ビーム生成部135は、マイクM1〜Mnに対応して設けられたn個の遅延器D1〜DnとアンプA1〜An、これらアンプA1〜Anからの信号を加算する加算器136で構成されている。前記遅延器D1〜Dn等で構成される指向性ビーム生成部135は、第1指向性制御部144(抽出方向の走査制御)及び第2指向性制御部145(音声強調/抑圧方向制御)により制御され、第2指向性制御部145には、制御部112から音声強調/抑圧する方向座標146が与えられる。
前記加算器136での加算結果により得られる音声データは、走査方向別の入力音声メモリ137と音声メモリ138に格納される。この音声メモリ138に格納された音声データは、音声圧縮符号器/伸張復号器139で順次圧縮され、符号化音声メモリ140に順次記憶される。制御部112は、この圧縮音声データと前記圧縮動画データとを含む音声付き動画ファイルを生成して外部メモリに記録する。
この外部メモリに記録された動画ファイルの音声データは、PLAY・モードにおいてユーザーの選択操作に応じて、音声圧縮符号器/伸張復号器139に読み出されるとともに伸張及び復号化される。この伸張及び及び復号化された音声データは、符号化音声メモリ140に一時記憶された後、D/A変換器141でアナログ信号に変換され、アンプ142を介してスピーカー143に供給されて音声として再生される。なお、音声記録を行うタイミングは、動画撮影時に限定されず、音声付き静止画撮影モードにおける録音動作時でもよく、また、録音モードやアフレコモードにおける録音動作時でもよい。
一方、前記メモリ137に格納された走査方向別の入力音声データは、特徴抽出部150で特徴抽出され、この抽出された特徴は特徴抽出データメモリ151に格納される。二次元画像生成部152は、この特徴に基づき二次元画像を生成し、半透明画像変換部153は、半透明化パターン生成部154とに基づき前記二次元画像生成部152からの二次元画像を半透明画像に変換し、前記画像合成部117に出力する。画像合成部117は、この半透明画像と前記被写体像スルー画像部113からの被写体スルー画像とを合成して、表示部119に出力し、これにより被写体像スルーに前記半透明画像が重ねて表示されるように構成されている。
以上の構成に係る本実施の形態において、制御部112は前記プログラムに基づき、図3及び図4に示す一連のフローチャートに示すように処理を実行する。すなわち、録音/動画撮影モードが設定されたか否かを判断し(図3ステップS101)、動画撮影モード以外の他のモードが設定された場合には、設定された当該その他のモード処理を実行する(ステップS102)。また、録音/動画撮影モードが設定されたならば、測光処理、WB処理を実行するとともに(ステップS103)、ズーム処理、AF処理を行って(ステップS104)、レンズ駆動部105により駆動されることにより変化したレンズ焦点距離(f)、デジタルズーム倍率(M)等を算出する(ステップS105)。
さらに、被写体像スルー画像を、照準、距離情報等とともに、ファインダー表示部119に表示させる(ステップS106)。すなわち、図5の説明図における(a)に示すように、撮像素子109からの撮像信号をA/D変換器114によりデジタルデータに変換し、画像信号処理部115で信号処理することにより、ファインダー表示部119に被写体スルー画像160を表示させる。
次に、操作入力部130での操作により音声の走査(スキャン)が指示されたか否かを判断し(ステップS107)、指示されていない場合には後述する図4のステップS121に進む。また、音声の走査(スキャン)が指示された場合には、画像サイズ(X′Y′)、焦点距離(f)、デジタルズーム倍率(M)に応じて走査範囲(θxmin、θxmax等)、走査間隔(Δθx等)を設定する(ステップS108)。引き続き、θy=θyminとするとともに(ステップS109)、θx=θxminとする(ステップS110)。そして、下記式を用いて走査音源方向(θx,θy)にフォーカスする為の各遅延器D(k)の遅延時間tD(j,k)を設定する(ステップS111)。
tDx(j)=(m−j)・dx・sinθx/c、
tDy(k)=(n−k)・dy・sinθy/c、
tD(j,k)=√[{tDx(j)}+{tDy(k)}
(但し、k:マイク番号1〜n、d:マイク間隔、c:音速)
次に、θx、θy方向に指向した音声を所定時間づつ入力音声メモリMs(入力音声メモリ137)にθx、θy、tとして記録する(ステップS112)。引き続き、θx=θx+Δθxとし(ステップS113)、θx>θxmaxであるか否かを判断する(ステップS114)。この判断がNOである場合には、ステップS111からの処理を繰り返す。また、YESであるならば、θy=θy+Δθyとし(ステップS115)、θy>θymaxであるか否かを判断する(ステップS116)。この判断がNOである場合には、ステップS110からの処理を繰り返す。また、YESであるならば、入力音声メモリ137のMs(θx,θy)に記憶された抽出音声から特徴データCs(θx,θy)を算出し(ステップS117)、この特徴データCs(θx,θy)をθx,θy座標上にプロットして二次元画像を描画する(ステップS118)。さらに、特徴抽出データ画像を半透明化し(ステップS119)、半透明化した特徴抽出データ画像をスルー画像に重ねてファインダー表示部119に表示する(ステップS120)。
すなわち、図5に示すように、マイクロホンアレー部103からの音声データを指向性制御部144、145の制御により遅延制御し、走査方向別に入力音声メモリ137に記憶し、指向性を走査して入力した音声から特徴データを抽出して、特徴抽出データメモリ151に格納し、この特徴抽出したデータから二次元画像161を生成する。この二次元画像は、同図(b)に示すように、音圧レベルに応じて異なる色とする。そして、この(b)に示した二次元画像を半透明化し、同図(c)に示すこの半透明化した特徴抽出データ画像162を同図(a)の前記被写体スルー画像160に重ねて表示する。これにより、ファインダー表示部119には同図(d)に示すように、被写体スルー画像160と半透明化した特徴抽出データ画像162とが重畳して表示されることとなる。したがって、ユーザはこの(d)に示した表示状態を視認することにより、複数の被写体においていずれの被写体からどの程度の音圧の音(音声)が発生しているか視覚的に認識することができる。
そして、図4のフローチャートに示すように、ユーザによる操作入力部130での操作により、被写体の音声方向の選択がなされたか否かを判断し(ステップS121)、この選択がなされていない場合にはステップS122及びS123の処理を行うことなく、ステップS123に進む。このとき、ユーザが図6(5)に示すように、操作入力部130での操作により、映像フォーカス照準163を音声強調または抑圧させたい被写体上に移動させると、被写体までの距離が測距され同図に示すように「4M」なる映像フォーカスした被写体距離が表示される。そして、この被写体上の映像フォーカス照準163をユーザが指Fでタッチした後、操作入力部130にて「音声強調設定ボタン」または「音声抑圧設定ボタン」を押下すると、被写体の音声方向の選択がなされる。
したがって、図4のフローチャートにおいては、音声強調の設定がなされたことにより、ステップS121の判断がYESとなってステップS122に進み、入力座標を被写体や音源の位置座標(x,y)、RAMに記憶する(ステップS122)。すなわち、図6に示すように、ズーム動作に応じて焦点距離と画角座標は変化するが、同図(6)に示すようよう焦点距離f=6mmであったとすると、ユーザが指Fでタッチした入力座標として、同図(7)に示すように、(x,y)=(0.7,0.1)を得ることができる。次に、下記例示式を用いて、入力位置座標(x,y)をレンズ焦点距離(f)、画像サイズ(X′,Y′)、デジタルズーム倍率(M)に基づいて、音源方向(θx,θy)に変換する(ステップS123)。
(例)θx=tan−1((x/xmax)×X′/2f)/M、
θy=tan−1((y/ymax)×Y′/2f)/M、
図7に、画角や半画角、被写体範囲がズーム操作などレンズ焦点距離(f)の変化に伴って変化するときの強調音源方向座標(θx,θy)の換算例を示す。本実施の形態においては、被写体や音源の選択は、選択されたファインダー表示の位置座標(x,y)から、撮影時のズーム倍率若しくは焦点距離(f)と画像サイズ(X′、Y′)に応じて、音源の方向角度θfまたはθs、方向角度座標(θx,θy)を算出して設定するので、ズーム倍率や画角が変わっても、対応できる。タッチパネルやカーソルによる画面上の入力位置座標(x,y)は、−1.0≦x≦1.0、・・−0.75x≦0.75の範囲とすると、被写体や特定音源の角度θは、同図に示す半画角(2/θ)に相当させているので、位置座標(x,y)をレンズ焦点距離(f)と、画像サイズ(X′,Y′)とに基づいて、強調音源方向の角度θf、または、方向座標(θx,θyに変換するには、
例えば、xmax=1.0,ymax=0.75として、
θx=tan−1{(x/xmax)×X′/2f}、θy=tan−1(y/ymax)×Y′/2f)}、等として変換される(図の例では、撮像サイズX′=横5.27、Y′=縦3.96mm、焦点距離f=6mmの場合に、入力位置座標=(0.7,−0.1)から、θx=tan−1{(0.7/1.0)×5.27/(2×6)}=+17.1、θy=tan−1{(−0.1/0.75)×3.95/(2×6)}=−2.5、がそれぞれ設定される。)。
θfは、マイクロホンアレー部103がマイク配列が横並び(水平方向)のみの場合は、θf=θxとして利用し、マイク配列が縦並び(垂直方向)のみの場合は。θf=θyとして利用すればよい。配列が二次元配列で、水平及び垂直の両方向とも利用する場合には、前記遅延時間の設定では、水平方向tDx(j)=(m−j)・dx・sinθx/c、垂直方向tDy(k)=(n−k)・dy・sinθy/c、したがって、tD(j,k)=√[{tDx(j)}+{tDy(k)}]などと設定すればよい。
また、デジタルズームなどで、光学系の倍率やレンズ焦点距離は変わらないが、画像処理により撮影画角が変わる場合にも、同様に、デジタルズームの横または縦の拡大倍率、若しくは焦点距離換算の倍率Mを用いて、ファインダー画面上での入力座標に対して画角も倍率M分の1と狭くなるので、被写体や音源の方向はθfは、
θf=θx=(x/xmax)×tan−1[X′/2f]/M、または、
θf=θy=(y/ymax)×tan−1[y′/2f]/M、と補正すればよい。
次に、音声強調(ステップS124)と音声抑圧(ステップS125)のいずれが設定されたか否かを判断する。そして、音声抑圧の設定された場合には、音源方向(θx,θy)を音源抑圧方向θSとして設定する(ステップS126)。そして、この音源抑圧方向(θSx,θSy)に基づいて、下記例示次式により、音圧抑制部(指向性ビーム生成部135)の各遅延器D(k)の遅延時間tD(j,k)を設定する(ステップS127)。
(例)tDx(j)=(m−j)・dx・sinθSx/c、
tDy(k)=(m−k)・dy・sinθSy/c、
tD(j,k)=√[{tDx(j)}+{tDy(k)}
(但し、j:横配列マイク番号1〜m、k:縦配列マイク番号1〜n、d:マイク 間隔、c:音速)
さらに、音声抑圧の照準を音声抑圧設定マークとともに、スルー画像に重ねてファインダー表示する(ステップS128)。
また、音声強調の設定された場合には、音源方向(θx,θy)を音源強調方向θFとして設定する(ステップS129)。そして、この音源抑圧方向(θFx,θFy)に基づいて、下記例示次式により、音圧抑制部(指向性ビーム生成部135)の各遅延器D(k)の遅延時間tD(j,k)を設定する(ステップS130)。
(例)tDx(j)=(m−j)・dx・sinθFx/c、
tDy(k)=(m−k)・dy・sinθFy/c、
tD(j,k)=√[{tDx(j)}+{tDy(k)}
さらに、音声抑圧の照準を音声抑圧設定マークとともに、スルー画像に重ねてファインダー表示する(ステップS131)。
しかる後に、録音中または動画撮影中であるか否かを判断し(ステップS132)、録音中または動画撮影中のいずれでもない場合にはその他の処理を実行して(ステップS140)、リターンする。録音中または動画撮影中である場合には、マイクロホンアレー部103からの音声を入力させ(ステップS133)、前述した設定方向音声の強調処理(ステップS134)と設定方向音声の抑圧処理(ステップS135)のいずれが設定されているかを判断する。そして、いずれの処理も設定されていない場合には、通常の雑音抑圧処理を実行する(ステップS136)。また、設定方向音声の抑圧処理が設定されている場合には、マイクロホンアレー部103の各遅延器D1〜Dn出力を加減算合成して、特定方向を抑圧処理した音声を音声メモリ138に出力させる(ステップS137)。また、設定方向音声の強調処理が設定されている場合には、マイクロホンアレー部103の各遅延器D1〜Dn出力を加算合成して、特定方向を強調処理した音声を音声メモリ138に出力させる(ステップS138)。そして、音声圧縮符号器/伸長復号器139および/または画像圧縮符号器/伸長復号器120で、録音音声および/または撮像映像の符号化処理させて、符号化音声メモリ140および/または符号化画像メモリ121に記録する(ステップS115)。しかる後に、その他の処理を実行して(ステップS140)、リターンする。
(第1の実施の形態の変形例)
図8〜10は、前記フローチャートにおいて説明したマクロホンアレーによる指向制御、音声強調、音声抑圧処理の変形例を示すブロック回路図である。
図8は、2個のマイクM1,M2を用いるものであって、この2個のマイクM1,M2の間隔d、特定音源の方向θが既知であり、マイク間隔dに比べて特定音源までの距離Lが遠距離(L>>d)である場合である。図に示すように、特定方向の特定音源からの音声w(n)を強調したい場合には、特定音声w(n)に近い側のマイクM1に先に音声が伝達され、他のマイクM2には少し遅れて音声が入力される。このとき、角度θに応じて先に伝達する音源に近い側のマイクM1に、他のマイクM2より進んでいる分に相当する遅延時間(T)を遅延器Dにより設け、遅い側のマイクM2では遅延時間=0に設定してその出力を加算回路170で加算する。
すると、方向θからの音声信号は、各マイクM1、M2からの伝播時間は加算回路170入力時では同じになって強調されることとなり、他の方向からの信号は互いに少しづつ打ち消し合うので、相対的に抑圧されることとなる。したがって、各マイクM1、M2の遅延回路の遅延時間tを設定制御することにより、任意の特定方向θじ指向性を設けて音声強調を行い、電子的に指向性を可変制御することができる。
同様に、特定方向θからの音声に対して伝播時間を揃え、前記とは逆に減算回路171で互いに相殺するようにすると、特定の音源方向θからの音声に死角を作って抑圧することができ、雑音抑制回路として利用できる。
遅延量(T)を決定するためには、いずれの場合も、音源の方向θが既知であることが必要である。本実施の形態では、ユーザがファインダー(表示部119)視野内から選択した被写体を入力し、その入力座標に対応する方向を特定音源方向θとして設定するので、方向θを推測する必要がなく、容易に演算して設定できる。
例えは、2個のマイクM1,M2の場合には、マイクM1,M2への伝播遅れ時間は、それぞれt=0、t=d・sinθ/cとなるので、マイクM1,M2の各遅延回路の遅延時間tD1,tD2には、それぞれ他方の伝播遅れ時間、すなわち、
D1=t=d・sinθ/c、tD2=t=0 (d:マイク間隔、c:音速)を設定すればよい。
また、図9に示すように、特定方向からの音声を強調したい場合には、特定音声に近い側のマイクに先に音声が伝播され、他のマイクには順に少しずつ遅れて音声信号が入力される。このとき、角度θに応じて、先に伝播する音源に近い側のマイク(図示ではマイク1)に、他より進んでいる分に相当する遅延時間(tD)を遅延器により設け、一番遅い側のマイクでは遅延時間=0に設定して、それらの出力を加算器136で加算合成する。すると、方向θからの音声信号では、各マイクからの伝播時間は加算器136の入力時では同じになって互いに強調されることとなり、他の方向からの信号では互いに少しずつ打ち消し合うので相対的に抑圧されることとなる。したがって、各マイクの遅延時間(tD)を設定制御することにより、任意の特定方向θに指向性を設けて音声強調を行い、電子的に指向性を可変制御することができる。
また、図10に示すように、特定方向θからの音声に対して伝播時間を揃え、前記とは逆に複数組を加減算回路171で互いに相殺するようにすると、特定の音源方向θからの音声に死角を作って抑圧することができ、雑音抑圧回路としても利用できる。マイクロホンアレーでは、雑音の到来方向への死角を形成することにより雑音抑圧するので、どのような特性の雑音でも除去可能であるが、雑音源数よりもマイクロホンの数が多い必要がある。
図11は、特徴データの二次元画像を生成する処理の例を示すものである。各方向に抽出された音声特徴抽出データをCs(θx,θy)とすると、これを二次元空間[x,y]にプロットして画像P[x,y]を作成する。この画像P[x,y]と、例えば、斜線や縦線、横線、ハッチング線などで色分け区分表示する為の半透明化(格子)パターンP[x,y]とを、各要素毎にAND(論理積)処理して特徴抽出データを半透明化した二次元画像P[x,y]を合成する。あるいは、被写体像を観察しやければ、半透明化する代わりに、特徴データの値に応じた輪郭画像や等高線の画像を合成する等、他の方法でもよい。
図12は音声強調する被写体の方向を設定するときの表示例を示す図である。図示のように、本例においては、ファインダー表示部119に、特徴抽出データ指標/単位180、音声特徴抽出データの二次元画像181、被写体像スルー画像182、音声強調設定マーク183、音声強調する音源の照準(設定方向)184、カメラの映像フォーカスの照準185、撮影/録音できる残り時間186、撮影/録音モード表示187を表示させるものである。
図13は、抑圧したい音源や被写体の方向を設定するときの表示例を示すものである。図示のように、本例においては、ファインダー表示部119に、前記特徴抽出データ指標/単位180、音声特徴抽出データの二次元画像181、被写体像スルー画像182、音カメラの映像フォーカスの照準185、撮影/録音できる残り時間186、撮影/録音モード表示187を表示させるのみならず、雑音抑圧設定マーク188、音声抑圧する音源の照準(設定方向)189を表示させるものである。
図14及び図15は、走査(スキャン)入力された音声信号から解析抽出する特定データの例を示す図である。図14に示した例においては、遅延回路群からなる前記指向性ビーム生成部135からの信号を抽出音声メモリ190に記憶し、積算回路191で積算して方向別の音声データを方向別音声データメモリ192に記憶させる。そして、この方向別の音声データに基づき、(a)方向別の音圧を一次元表示させ、あるいは(b)二次元表示させる。
図15に示した例においては、遅延回路群からなる前記指向性ビーム生成部135からの信号を抽出音声メモリ190に記憶し、フーリエ変換(FFT)回路191でフーリエ変換して振幅スペクトル|X(ω)|を出力させ、方向別の音声スペクトルデータを方向別音声スペクトルデータメモリ193に記憶させる。そして、この方向別の音声スペクトルデータに基づき、(a)音声信号、(b)音声のスペクトル、(c)音声スペクトルの時間変化(ソナグラフ、スペクトログラム)、(d)方向別の音声スペクトルを生成する。この(d)方向別の音声スペクトルに基づき、(e)方向別の音声スペクトル(一次元表示)、(f)方向別の音声スペクトル(二次元表示)、(g)方向別の音声スペクトル(三次元表示)を行う。
(第2の実施の形態)
図16は、本発明の第2の実施の形態に係るデジタルカメラ300の回路構成を示すブロック図である。このデジタルカメラ300は、AE、AWB、AF等の一般的な機能を有するものであり、撮像レンズ302は、ズームレンズ、フォーカスレンズで構成され、フォーカス駆動部305及びズーム駆動部306により駆動される。この撮像レンズ302の光軸上には絞り307、シャッタ308及びCCD等で構成される撮像部309が配置されている。絞り307とシャッタ308とは、絞り/シャッタ駆動部310に接続され、撮像部309はドライバ311に接続されている。
このデジタルカメラ300全体を制御する撮影/録音制御回路312(以下、単に制御回路312という。)は、CPU、ROMおよびワーク用のRAM等で構成されている。ROMには、制御回路312に前記各部を制御させるための各種のプログラム、例えばAE、AF、AWB制御用のプログラムや、制御回路312を本発明の各種手段として機能させるためのプログラム等の各種のプログラムが格納されている。この制御回路312には、前記駆動部304とともにドライバ311が接続されており、ドライバ311は、制御回路312が発生するタイミング信号に基づき、撮像部309を駆動する。
また、前記撮像部309の受光面には、撮像レンズ302によって被写体が結像される。撮像部309は、ドライバ311によって駆動され、被写体の光学像に応じたアナログの撮像信号をユニット回路313に出力する。ユニット回路313は、撮像部309の出力信号に含まれるノイズを相関二重サンプリングによって除去するCDS回路や、この映像信号を増幅するゲイン調整アンプ(AGC)等で構成される。このユニット回路313からの映像信号はA/D変換器314によりデジタルデータに変換され、映像信号処理部315へ出力される。
映像信号処理部315は、入力した撮像信号に対しペデスタルクランプ等の処理を施し、それを輝度(Y)信号及び色差(UV)信号に変換するとともに、オートホワイトバランス、輪郭強調、画素補間などの画品質向上のためのデジタル信号処理を行う。映像信号処理部315で変換されたYUVデータは順次画像メモリ316に格納されるとともに、RECスルー・モードでは1フレーム分のデータ(画像データ)が蓄積される毎にビデオ信号に変換され、表示部319へ送られてスルー画像として画面表示される。
そして、静止画撮影モードにおいては、シャッターキー操作をトリガとして、制御回路312は、撮像部309、ドライバ311、ユニット回路313、及び映像信号処理部315に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影処理により得られた画像データは、画像符号器/復号器320で圧縮及び符号化され、最終的には所定のフォーマットの静止画ファイルとして、入力インターフェース322を介して外部メモリ(図示せず)に記録される。
また、動画撮影モードにおいては、1回目のシャッターキーと2回目のシャッターキー操作との間に、画像メモリ316に順次記憶される複数の画像データが画像符号器/復号器320で順次圧縮され、符号化画像メモリ321に順次記憶された後、動画ファイルとして外部メモリに記録される。この外部メモリに記録された静止画ファイル及び動画ファイルは、PLAY・モードにおいてユーザーの選択操作に応じて画像伸張/復号化部318に読み出されるとともに伸張及び復号化され、表示部319に表示される。
また、このデジタルカメラ300は、各被写体(被写体A,B、C・・・)までの距離に応じた測距信号を発生する測距センサ326を備えており、この測距センサ326からの出力信号は、前記映像信号処理部315からの映像信号とともに、測距部/合焦検出部327に入力される。測距部/合焦検出部327はこれら入力信号に基づき、各被写体(被写体A,B・・・)までの距離を検出するものであって、この検出された距離は、被写体A,B・・・の被写体距離LA、LB、LCとしてフォーカス距離メモリ328に記憶される。
また、制御回路312には、座標入力部及び座標入力部(共に図示せず)が入力回路331を介して接続されている。座標入力部は、前記表示部319に積層されているタッチパネル(図示せず)からのタッチ信号に基づく座標値を、入力回路331を介して制御回路312に出力する
また、このデジタルカメラ300は、前記動画撮影モード、音声のみを記録する録音モード、音声付き(静止画)撮影モードにおいて、周囲音を記録する録音機能を備えており、このため周囲音を検出するマイクロホンを有し、このマイクロホンは前記マイクロホンアレー部103に配置されたマイクM1からマイクMnまでのn本のマイクロホンで構成されている。各マイクからの音声信号は、対応する各アンプ333・・・で増幅され、A/D変換回路334でサンプルホールド及びデジタル変換され、雑音抽出部350と雑音抑圧部360とに入力される。
雑音抽出部350は、雑音抽出部350は、マイクnに対応して設けられたn個の遅延器D1〜Dn、これら遅延器D1〜Dnからの信号を増幅するアンプA1〜An、これらアンプA1〜Anからの出力を加算する加算器351、この加算器351から出力される特定方向を強調した音声データを一時的に記憶する抽出音声メモリ357と音声メモリ352、この音声メモリ352に記憶された音声データをフーリエ変換するフーリエ変換部353、このフーリエ変換部353で変換されたデータを前記雑音抑圧部360に送出する収録音のスペクトル部354を有している。各遅延器D1〜Dnは、音声フォーカス設定メモリ355に記憶されるフォーカス方向座標θおよびフォーカス音源距離メモリ358に記憶されるフォーカス音源距離Lf基づき、遅延制御またはアレー制御を実行する遅延制御/アレー制御回路356により制御される。
一方、雑音抑圧部360は、収録音のスペクトル部354からの信号が入力される雑音スペクトルの推定部361、主マイクであるマイクN1側の信号が順次入力される窓関数部362、フーリエ変換部363、位相部364、逆フーリエ変換部365を有するとともに、前記フーリエ変換部363の出力信号から前記雑音スペクトルの推定部361の出力信号を減算して逆フーリエ変換部365に出力する減算回路366を有している。
この逆フーリエ変換部365からの音声データは、音声メモリ338に格納され、この音声メモリ338に格納された音声データは、音声符号器/復号器339で順次圧縮される。制御回路312は、この圧縮音声データと前記圧縮動画データとを含む音声付き動画ファイルを生成して外部メモリに記録する。
以上の構成に係る本実施の形態において、制御回路312は前記プログラムに基づき、図17に示すフローチャートに示すように処理を実行する。すなわち、録音または動画撮影モードが設定されたか否かを判断し(ステップS201)、録音または動画撮影モード以外の他のモードが設定された場合には、設定された当該その他のモード処理を実行する(ステップS202)。また、録音または動画撮影モードが設定されたならば、測光処理、WB処理を実行するとともに(ステップS203)、ズーム処理を行ってズーム駆動部306を制御する(ステップS204)。また、測距センサ326を制御する測距処理を実行するとともに、フォーカス駆動部305を制御するAF処理を実行して被写体を合焦させる(ステップS205)。次に、このAF処理により合焦した被写体A、またはB、C、Dの距離情報を測距部/合焦検出部327により検出させて、フォーカスフォーカス距離メモリ328に記憶させる(ステップS206)。
さらに、被写体像スルー画像を、照準、距離情報等とともに、ファインダーに表示させる(ステップS207)。また、操作により音声走査(スキャン)が指示されたか否かを判断し(ステップS208)、指示されていない場合にはステップS209の処理を実行することなく、ステップS210に進む。指示された場合には、前述した第1の実施の形態と同様に、音声走査入力、特徴抽出、特徴データの画像表示処理を実行する(ステップS209)。
次に、録音動作中であるか否かを判断し(ステップS210)、録音動作中でない場合には後述するステップS219に進む。また、録音動作中であるならば、主マイクN1からの音声を入力し(ステップS211)、この入力音声をA/D変換する(ステップS212)。さらに、抑圧音声(雑音)スペクトルによる雑音抑圧に設定済みであるか否かを判断する(ステップS213)。設定済みでない場合には、ステップS215〜S217の処理を実行することなく、通常の音声抑圧処理を実行する(ステップS214)。また、設定済みである場合には、窓関数部362からのデジタル音声をフーリエ変換部363でのFFT演算で周波数領域に変換し、振幅スペクトル|X(ω)|と位相情報ωを、スペクトルの推定部361、逆フーリエ変換部365および減算回路366に出力させる(ステップS215)。さらに、減算回路366にて、振幅スペクトル|X(ω)|から、スペクトルの推定部361よりの音声スペクトル|W(ω)|をスペクトル減算して、
|S(ω)|=|X(ω)|−|W(ω)|
を逆フーリエ変換部365に出力させる(ステップS216)。
また、逆フーリエ変換部365にて、スペクトル減算出力に位相情報ωを付加し、逆FFT演算で時間領域信号s(n)に変換して音声メモリ338に出力出力させる(ステップS217)。引き続き、逆フーリエ変換部365から出力された音声信号を音声符号器/復号器339で圧縮符号化処理させて、符号化音声メモリ340に記録し(ステップS218)、リターンする。
他方ステップS210での判断の結果、録音動作中でない場合には、抑圧する雑音スペクトルの設定がなされたか否かを判断し(ステップS219)、設定がなされない場合にはその他の処理を実行する(ステップS220)。このとき、ユーザが図12に示すように、操作入力部130での操作により、映像フォーカス照準163を抑圧する雑音スペクトルさせたい被写体C上に移動させ、この被写体C上の映像フォーカス照準163をユーザが指Fでタッチした後、操作入力部130にて抑圧する雑音スペクトル設定ボタンを押下すると、抑圧する雑音スペクトルの設定がなされ、被写体C上に音声抑圧する音源照準251が表示されるとともに、音声抑圧の設定されたことを示す雑音抑圧設定マーク252が表示される。
したがって、図17のフローチャートにおいては、抑圧する雑音スペクトルの設定がなされたことにより、ステップS219の判断がYESとなってステップS221に進み、音声抑圧したい方向の被写体Cの距離情報Lを入力または検出して、雑音抽出する音源距離Lとして設定する(ステップS221)。また、操作入力された被写体Cの入力座標を雑音抽出する音源の位置座標(x,y)としてメモリする(ステップS222)。さらに、この位置座標(x,y)をレンズ焦点距離(f)、画像サイズ(X′,Y′)に基づいて、強調音源方向の角度θfまたは方向座標(θx,θy)に変換する(ステップS223)。
次に、前記ステップS221で設定した音源距離Lが所定値以上であるか否かを判断する(ステップS224)。このステップS224での判断の結果、音源距離Lが所定値未満であって近距離である場合には、フォーカスする音源距離Lに基づいて、雑音抽出部350の各遅延器D(k)の各遅延時間tD(k)を設定する(ステップS225)。また、ステップS227での判断の結果、音源距離Lが所定値以上であって遠距離である場合には、雑音抽出する音源方向の角度θに基づいて、雑音抽出部350の各遅延器D(k)の各遅延時間tD(k)を設定する(ステップS226)。
しかる後に、マイクロホンアレーから、フォーカスした方向/距離の音声が強調された音声を所定時間入力させ(ステップS227)、収録した音声を音声メモリ352に一時記憶させる(ステップS228)。また、デジタル音声信号をフーリエ変換部353のFFT演算で周波数領域に変換し、振幅スペクトル|X(ω)|を出力させる(ステップS229)。この収録音声の振幅スペクトル|X(ω)|を抑圧すべき雑音スペクトル|W(ω)|として、収録音のスペクトル部354から雑音抑圧部360に出力し、該雑音抑圧部360の減算回路366に設定し(ステップS230)、リターンする。
したがって、このようにして抑圧する雑音スペクトルの設定がなされると、前述したステップS213の判断がYESとなることから、前述したステップS215〜S217の処理が実行されることとなる。
図18は、前記第2の実施の形態において用いた、スペクトルサブトラクション法(スペクトル減算法)(以下、SS法という。)における雑音抑圧回路の構成例を示す図である。すなわち、マイク401からの音声信号は、アンプ402で増幅され、A/D変換部403デジタル変換され、窓関数部404を介してフーリエ変換部405に供給される。このフーリエ変換部353で変換された振幅スペクトル|X(ω)|は、雑音スペクトル減算部406の雑音推定、または、雑音スペクトル設定部407、および減算器408に与えられ、また、位相情報ωx(位相スペクトル)409は、逆フーリエ変換部410に与えられる。また、この逆フーリエ変換部410には、前記減算器408からの出力があたえられ、の逆フーリエ変換部410の出力である音声信号は、音声メモリ411に一時記憶された後、D/A変換器412でアナログ変換され、アンプ413で増幅されて、スピーカー414で再生されるように構成されている。
このようにSS法では、音声信号s(n)と雑音信号w(n)とを含む入力音声信号の信号x(n)=s(n)+w(n)を、所定サンプリング毎にフレーム分割し、ハニング窓や台形窓などの窓関数で窓掛け(Windowing)処理した後、フーリエ変換(FFT)により時間領域から周波数領域に変換する。入力信号の振幅パワースペクトル│X(ω)│から推定雑音のパワースペクトル│X^(ω)│を減算して(│S^(ω)│=│X(ω)│−│X^(ω)│)、それに入力信号のωを加え、得られたS^(ω)=│S^(ω)│exp(jω)を逆フーリエ変換(inverse EET)により時間領域に変換すれば、動作音などの雑音が除去された強調音声信号s^(n)が得られる。
SS法による雑音除去を伝達関数H(ω)のフィルタと考えると、伝達関数H(ω)は、
H(ω)=S^(ω)/X(ω){│X^(ω)│−│X^(ω)│}exp(jω)X(ω)、
H(ω)=1−{│X^(ω)│/│X(ω)│}、となる。
SS法では、人間の聴覚にあまり重要でない位相情報には処理を加えず、振幅情報主体での処理を行うので処理が簡単である。また、1つのマイクロホンのみで雑音抑制でき、雑音原数などは事前に知る必要はないが、最低でも1フレーム分の処理遅延が生ずる。また、雑音パワーベクトルの事前情報が必要である。携帯電話などでは、周波数領域に変換した信号の、サブバンド帯域別のSN比(SNR)を算出して、非適応な雑音推定を行い、またスペクトル減算(差分)とスペクトル利得による抑圧(乗算)とを組み合わせる方法や、入力信号のパワーベクトルに、SNR推定値に逆比例するように重み付けを行って、適応的に雑音推定を行い、雑音の抑圧をスペクトル利得の調整(乗算)のみで行う方法など、複雑な雑音推定方法が検討されているが、機器内モーター動作音の除去には、事前に動作音の雑音スペクトルデータ│W^(ω)│等を解析して設定できるので、構成も簡便になり利用し易い利点がある。
なお、例えば、適応フィルタ方式のノイズキャンセラーでは、参照マイクの入力音声に適応フィルタ処理を施した信号を、主マイクの入力信号から減算するが、主マイクの他に雑音を検出するための参照用マイクを必要とする。実施の形態のようにマイクロホンアレー部103を設けた録音入力部の場合には、その一部を雑音参照用のマイクとして利用することもできる。
適応フィルタ方式の動作は、希望音声信号s(n)と経路h(m)を経由して雑音源ws(n)から到達する雑音w(n)の和である、s(n)+w(n)が主マイクに入力される。雑音信号W(n)は、雑音経路のインパルス応答{h(m)}(m=1,2・・・P−1)を用いて次式で表される。
w(n)=Σ(m)w(n−m),
また、適応フィルタの出力y(n)は、適応フィルタのインパルス応答を{h(m)}(m=1,2・・・P−1)とすると次式で表される。
y(n)=Σ(m)w(n−m),
このときノイズキャンセラーの出力s^(n)は、
s^(n)=s(n)+w(n)−y(n)=s(n)+Σ{h(m)−h(m)}w(n−m)
したがって、h(m)=h(m)とできれば、s^(n)=s(n)となり、雑音信号を除去して、音声信号のみを取り出せることとなる。
通常、未知の雑音経路h(m)を求めるためには、適応フィルタ係数h(m)は、推定誤差s^(n)の2乗値を統計的に最小にするように更新されるが、h(k)の最適値を得るには、P元の連立方程式を解く必要があり、信号の統計量が必要となる。このため適応フィルタでは、統計学を学習し、逐次最適解を探すためにLSM(最小二乗平均)法やNLMS(正規化最小二乗平均)法などの適応アルゴリズムが必要となる。
しかし、前述した実施の形態のように、ユーザが音声フォーカスして収録した雑音音声データなどから、雑音の統計量を取得できる場合には、h(k)の最適値の初期値を求めておき、設定することができる。このようなノイズキャンセラーでは、雑音源から主マイクへの経路が未知であっても、雑音経路のインパルス応答が適応フィルタにより良好に推定できれば雑音除去を行うことができ、雑音特性が変動しても追従できる。
(第3の実施の形態)
図19及び20は、本発明の第3の実施の形態における処理手順する示す一連のフローチャートである。前記制御回路312は前記プログラムに基づき、このフローチャートに示すように処理を実行する。すなわち、静止画/動画撮影モードまたは録音モードが設定されたか否かを判断し(図19ステップS301)、これら以外の他のモードが設定された場合には、設定された当該その他のモード処理を実行する(ステップS302)。また、静止画/動画撮影モードまたは録音モードが設定されたならば、測光処理、WB処理を実行するとともに(ステップS303)、ズーム処理、AF処理を行って(ステップS304)、被写体像スルー画像を、ファインダー表示部119に表示させる(ステップS305)。
次に、操作入力部130での操作により音源方向の検索が指示されたか否かを判断し(ステップS306)、指示されていない場合にはその他の処理に移行する(ステップS307)。また、音源方向の検索が指示された場合には、操作入力部130での操作に応じて、記録済みの録音データの中から、検索する音源を選択し(ステップS308)、画像サイズ(X′Y′)、焦点距離(f)、デジタルズーム倍率(M)から捜査範囲の角度(θxmin、θxmax)を設定する(ステップS309)。引き続き、θy=θyminとするとともに(ステップS310)、θx=θxminとする(ステップS311)。そして、下記式を用いて走査音源方向(θx,θy)にフォーカスする為の各遅延器D(k)の遅延時間tD(j,k)を設定する
tDx(j)=(m−j)・dx・sinθx/c、
tDy(k)=(n−k)・dy・sinθy/c、
tD(j,k)=√[{tDx(j)}+{tDy(k)}
(但し、k:マイク番号1〜n、d:マイク間隔、c:音速)
次に、走査方向(θx、θy)に指向させたマイクロホンアレーから音声を入力させ(ステップS313)、A/D変換し、所定時間の入力音声データを入力音声メモリ137にとして記録する(ステップS314)。また、FFT演算で周波数領域に変換し、振幅スペクトル|X(ω)|を算出し、その時間変化データを求める(ステップS315)。次に、入力音声スペクトルの時間変化と選択音源のそれとを比較し、相関度を算出し、特徴データCs(θx,θy)として記録する(ステップS316)。
引き続き、θx=θx+Δθxとし(ステップS317)、θx>θxmaxであるか否かを判断する(ステップS318)。この判断がNOである場合には、ステップS312からの処理を繰り返す。また、YESであるならば、θy=θy+Δθyとし(ステップS319)、θy>θymaxであるか否かを判断する(ステップS320)。この判断がNOである場合には、ステップSS311からの処理を繰り返す。また、YESであるならば、特徴データCs(θx,θy)を、対応するθx,θy座標上に2次元画像としてプロット描画する(ステップS321)。さらに、特徴データ画像を半透明化し、半透明化した特徴抽出データ画像をスルー画像に重ねてファインダー表示部119に表示する(ステップS322)。
また、算出された相関度である特徴データCs(θx,θy)が所定値以上の方向の対応位置に音源識別記号、音源の種別などを表示し(図20ステップS323)、特徴データCs(θx,θy)が所定以上の方向の中から、一つの方向(θFx,θFy)をマニュアル操作または自動で選択させる(ステップS324)。次に、識別方向にカメラをフォーカスするか否かを判断し(ステップS325)、選択された方向(θFx,θFy)にカメラ撮影のフォーカス点を設定する(ステップS326)。
次に、識別方向に音声入力をフォーカスする指示があったか否かを判断する(ステップS327)。指示があった場合には、選択された方向(θFx,θFy)にマイクロホンアレイの指向方向(音声フォーカス)を決定する。すなわち、下記例示式を用いて、方向(θFx,θFy)を強調するように、下記例示次式により、音圧抑制部(指向性ビーム生成部135)の各遅延器D(k)の遅延時間tD(j,k)を設定する(ステップS328)。
(例)tDx(j)=(m−j)・dx・sinθFx/c、
tDy(k)=(m−k)・dy・sinθFy/c、
tD(j,k)=√[{tDx(j)}+{tDy(k)}
さらに、スルー画像に重ねてファインダー表示する(ステップS329)。そして、指向方向が音声強調されたマイクロホンアレーから音声を入力し(ステップS330)、撮影処理または録音処理へ移行する(ステップS331)。
つまり、この第3の実施の形態は、図21に示すように、遅延回路群からなる前記指向性ビーム生成部135からの信号を抽出音声メモリ190に記憶し、フーリエ変換(FFT)回路191でフーリエ変換して振幅スペクトル|X(ω)|を出力させ、方向別の音声スペクトルデータを方向別音声スペクトルデータメモリ193に記憶させる。また、予め記憶されているスペクトルデータメモリ193に記憶されている所定の音源の音源スペクトルデータやその時間変化特性等の特徴データと比較参照してその相関度から近似度などを算出して、各方向別の入力音声の音源の特性や種類を識別し、識別された結果に応じて、特徴データや識別された種別情報をMファインダーの対応位置に重ねて表示する。
また、特定音源との相関度の高い類似の音声が入力された方向を識別して、当該方向にカメラの焦点もしくはマイク入力の指向方向を向けるように制御することで、所望の被写体の撮影や録音に利用できるようにしたのである。
例えば、撮影や録音したい野鳥の鳴き声の音声スペクトルの時間変化データなど、探したい所定の音源の特徴データを、予めメモリに記憶しておき、前記の比較する所定音源の特徴データとして選択して設定すれば、方向別に入力された各音声信号から、所望の野鳥のいる方向を識別したり、あるいは、入力された音声に最も相関度の高い所定音源を識別して、野鳥の種類などを音源識別情報としてファインダーに表示させたりすることができる。
この識別された方向もしくは方向別の音源識別情報に基づいて、制御部では、その方向にカメラのAF機能の焦点を合わせるように制御して、所望の野鳥をすぐに見つけて静止画像や動画像の撮影をしたり、または、その方向にマイクロホンアレーの指向方向を制御して、その方向の音声を強調して、所望の野鳥の鳴き声を明瞭に録音したりすることができる。
図22は、予め記憶しておく所定音源の特徴データを示す図である。本図では、記録しておく所定の音源として、複数種の野鳥の鳴き声の音背信号と、特徴データとしてきおくしておく、音声スペクトル及びその時間変化データ、あるいは、ソナグラフ(音声スペクトル)の時間変化と各音圧強度を記録したもの)等の設定データの例である。無論、野鳥や生物、あるいは鳴き声などの音源や音声だけでなく、人間の話し声、航空機などが発生する騒音等などのデータであってもよい。
(その他の実施の形態)
(1)なお、前記実施の形態においては、複数の横配列マイクと縦配列マイクとでマイクロホンアレー部103を構成するようにしたが、図23に示すような配置形態としてもよい。
(a)デジタルカメラ500は、カメラ本体501と可動式カメラ部502とで構成されている。カメラ本体501には、LCDファインダー503が配置され、可動式カメラ部402には撮像レンズ504およびストロボ505が設けられ、ストロボ505の下部に水平方向に配置された複数のマイクで構成されたマイクロホン部506が設けられた構成である。
(b)デジタルカメラ600は、カメラ本体601の前面に撮像レンズ602が配置され、前面上部両側に水平方向に配置された複数のマイクで構成された左マイクロホン部603Lと、右マイクロホン部603Rとが設けられた構成である。
(c)デジタルカメラ700は、カメラ本体701の前面に撮像レンズ702が配置され、撮像レンズ102の周部にこれを囲繞するように配置された複数のマイクで構成されたマイクロホン部703が設けられた構成である。
以上のように、マイクロホン部のマイク配置形態は、直線的であっても曲線的であってもよい。
(2)実施の形態においては、被写体周辺の音圧や周波数特性、スペクトルなどの音声の特徴データの画像を被写体像を重ねて表示し、それに応じて撮影や録音操作できるようにしたが、音声信号のその他の特徴データを抽出し可視化して、表示するようにしてもよい。あるいは、例えば、犬やコウモリなどある種の生物には聞こえるが、人間の可聴周波数範囲を超えた超音波などを入力し可視化して、表示するようにしてもよい。
(3)あるいは、音声信号以外でも、モンシロチョウなど、ある種の生物には可視である紫外線領域の光信号など、人間には可視範囲外の撮像信号以外の光や、放射線、電磁波など、あるいは、その他のセンサ手段による被写体周辺からの検出信号から、その特徴データを被写体像の方向に対応付けて画像化して、撮像信号による被写体像に重ねて、表示するようにしてもよい。
本発明の各実施の形態に係るデジタルカメラの斜視図である。 第1の実施の形態に係るデジタルカメラの回路構成を示すブロック図である。 同実施の形態における処理手順を示すフローチャートである。 図3に続くフローチャートである。 同実施の形態の動作を示す説明図である。 同実施の形態における画面遷移図である。 画角や半画角、被写体範囲がズーム操作などレンズ焦点距離(f)の変化に伴って変化するときの強調音源方向座標(θx,θy)の換算例を示す図である。 マクロホンアレーによる指向制御、音声強調、音声抑圧処理の変形例を示すブロック回路図である。 マクロホンアレーによる指向制御、音声強調、音声抑圧処理の変形例を示すブロック回路図である。 マクロホンアレーによる指向制御、音声強調、音声抑圧処理の変形例を示すブロック回路図である。 特徴データの二次元画像を生成する処理の例を示す図である。 音声強調する被写体の方向を設定するときの表示例を示す図である。 抑圧したい音源や被写体の方向を設定するときの表示例を示す図である。 走査(スキャン)入力された音声信号から解析抽出する特定データの例を示す図である。 走査(スキャン)入力された音声信号から解析抽出する特定データの例を示す図である。 本発明の第2の実施の形態に係るデジタルカメラの回路構成を示すブロック図である。 同実施の形態における処理手順を示すフローチャートである。 第2の実施の形態において用いた、スペクトルサブトラクション法(スペクトル減算法)における雑音抑圧回路の構成例を示す図である。 本発明の第3の実施の形態における処理手順を示すフローチャートである。 図19に続くフローチャートである。 第3の実施の形態の概要を示す説明図である。 予め記憶しておく所定音源の特徴データを示す図である。 本発明の他の実施の形態を示すカメラ外観図である。
符号の説明
M1〜Mn マイク
A1〜An アンプ
D1〜Dn 遅延器
100 デジタルカメラ
101 本体
102 撮像レンズ
103 マイクロホンアレー部
104 カバー体
105 レンズ駆動部
109 撮像素子
111 ドライバ
112 撮影録音制御部
113 被写体像スルー画像部
114 A/D変換器
115 画像信号処理部
116 画像メモリ
117 画像合成部
119 ファインダー表示部
119 ファインダー/表示部
119 表示部
120 画像圧縮符号器/伸長復号器
121 符号化画像メモリ
126 駆動量/焦点距離部
130 操作入力部
131 入力回路
132 タッチパネル
134 A/D変換回路
135 指向性ビーム生成部
136 加算器
137 入力音声メモリ
138 音声メモリ
139 音声圧縮符号器/伸長復号器
144 指向性制御部
144 第1指向性制御部
145 第2指向性制御部
151 特徴抽出データメモリ
152 二次元画像生成部
153 半透明画像変換部
154 半透明化パターン生成部
160 被写体スルー画像
161 二次元画像
162 特徴抽出データ画像
163 映像フォーカス照準
300 デジタルカメラ

Claims (17)

  1. 表示手段と、
    撮像手段と、
    この撮像手段により撮像される画像を前記表示手段に表示させる第1の表示制御手段と、
    前記撮像手段の撮像範囲内における不可視情報を検出する不可視情報検出手段と、
    この不可視情報検出手段により検出される前記不可視情報の前記撮像範囲内における位置を検出する位置検出手段と、
    前記不可視情報検出手段により検出された不可視情報を表す可視情報を生成し、この可視情報を前記位置検出手段により検出された前記不可視情報の前記撮像範囲内における位置に対応させて、前記表示手段に表示させる第2の表示制御手段と
    を備えることを特徴とする撮像装置。
  2. 前記第2の表示制御手段は、前記可視情報を前記第1の表示制御手段により前記表示手段に表示される画像の、前記位置検出手段により検出された位置に重ねて、前記表示手段に表示させることを特徴とする請求項1記載の撮像装置。
  3. 前記不可視情報検出手段は、前記撮像手段の撮像時に周囲音を検出する周囲音検出手段であり、
    前記不可視情報は、前記周囲音検出手段により検出される前記周囲音であることを特徴とする請求項1または2記載の撮像装置。
  4. 前記周囲音検出手段により検出された音声を記録する記録手段を備えることを特徴とする請求項3記載の撮像装置。
  5. 前記第2の表示制御手段により前記表示手段に表示された前記周囲音を示す可視情報の任意の部分を指定することにより、前記周囲音検出手段により検出される周囲音に含まれる任意の音声を選択する選択手段と、
    前記周囲音検出手段により検出された周囲音を制御し、前記選択手段により選択された音声を強調処理または抑圧処理する音声制御手段と、
    この音声制御手段により前記音声を強調処理または抑圧処理された周囲音を記録する記録手段と
    を備えることを特徴とする請求項3記載の撮像装置。
  6. 前記記録手段は、前記周囲音を前記撮像手段により撮像された画像とともに記録することを特徴とする請求項4または5記載の撮像装置。
  7. 前記音声制御手段は、前記第2の表示制御手段により前記表示手段に表示された前記周囲音を示す可視情報中における任意の部分に対する操作に基づき得られる位置座標に基づき、前記指定された周囲音の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理することを特徴とする請求項5記載のカメラ装置。
  8. 前記音声制御手段は、前記位置座標と、前記撮像手段の焦点距離及び又は前記画像のサイズとに基づき、前記指定された周囲音の方向を算出し、この算出した方向からの音声を強調処理または抑圧処理することを特徴とする請求項7記載のカメラ装置。
  9. 撮像手段と、
    音声の特徴データを記憶した特徴データ記憶手段と、
    周囲音を検出する周囲音検出手段と、
    前記特徴データ記憶手段に記憶された音声の特徴データと、前記周囲音検出手段により検出された周囲音中の音声データとを比較する比較手段と、
    この比較手段による比較に基づき、前記撮像手段の撮像範囲内において、前記特徴データに近似する周囲音を発生している被写体を検出する被写体検出手段と
    を備えることを特徴とする撮像装置。
  10. 前記被写体検出手段により検出された被写体に、前記撮像手段を合焦させる合焦制御手段を更に備えることを特徴とする請求項9記載の撮像装置。
  11. 前記被写体検出手段により検出された被写体を表示する表示手段を更に備えることを特徴とする請求項9または10記載の撮像装置。
  12. 前記周囲音検出手段により検出された周囲音を制御し、前記被写体検出手段により検出された被写体からの音声を強調処理または抑圧処理する音声制御手段と、
    この音声制御手段により前記音声を強調処理または抑圧処理された周囲音を記録する記録手段と
    を更に備えることを特徴とする請求項9、10または11記載の撮像装置。
  13. 前記記録手段は、前記周囲音を前記撮像手段により撮像された画像とともに記録することを特徴とする請求項12記載の撮像装置。
  14. 複数の音声の特徴データのうち任意の特徴データを指定する指定手段を更に備え、
    前記記憶手段は、前記指定手段により指定された前記特徴データを記憶することを特徴とする請求項9から13にいずれか記載の撮像装置。
  15. 前記周囲音検出手段は、複数のマイクロホンを有するマイクロホンアレーであることを特徴とする請求項3から14にいずれか記載の撮像装置。
  16. 表示手段と、撮像手段と、この撮像手段の撮像範囲内における不可視情報を検出する不可視情報検出手段とを備える撮像装置が有するコンピュータを、
    前記撮像手段により撮像される画像を前記表示手段に表示させる第1の表示制御手段と、
    前記不可視情報検出手段により検出される前記不可視情報の前記撮像範囲内における位置を検出する位置検出手段と、
    前記不可視情報検出手段により検出された不可視情報を表す可視情報を生成し、この可視情報を前記位置検出手段により検出された前記不可視情報の前記撮像範囲内における位置に対応させて、前記表示手段に表示させる第2の表示制御手段と
    して機能させることを特徴とする撮像制御プログラム。
  17. 撮像手段と、音声の特徴データを記憶した特徴データ記憶手段と、周囲音を検出する周囲音検出手段とを備える撮像装置が有するコンピュータを、
    前記特徴データ記憶手段に記憶された音声の特徴データと、前記周囲音検出手段により検出された周囲音中の音声データとを比較する比較手段と、
    この比較手段による比較に基づき、前記撮像手段が撮像する被写体において、前記特徴データに近似する周囲音を発生している被写体を検出する被写体検出手段と
    して機能させることを特徴とする撮像制御プログラム。
JP2005074779A 2005-03-16 2005-03-16 撮像装置、撮像制御プログラム Expired - Fee Related JP4539385B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005074779A JP4539385B2 (ja) 2005-03-16 2005-03-16 撮像装置、撮像制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005074779A JP4539385B2 (ja) 2005-03-16 2005-03-16 撮像装置、撮像制御プログラム

Publications (2)

Publication Number Publication Date
JP2006261900A true JP2006261900A (ja) 2006-09-28
JP4539385B2 JP4539385B2 (ja) 2010-09-08

Family

ID=37100669

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005074779A Expired - Fee Related JP4539385B2 (ja) 2005-03-16 2005-03-16 撮像装置、撮像制御プログラム

Country Status (1)

Country Link
JP (1) JP4539385B2 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008193196A (ja) * 2007-02-01 2008-08-21 Casio Comput Co Ltd 撮像装置および指定音声出力方法
JP2008278433A (ja) * 2007-05-07 2008-11-13 Casio Hitachi Mobile Communications Co Ltd 情報処理装置、プログラム
JP2010004303A (ja) * 2008-06-20 2010-01-07 Casio Comput Co Ltd 撮像装置
JP2011071686A (ja) * 2009-09-25 2011-04-07 Nec Corp 映像音響処理装置、映像音響処理方法及びプログラム
WO2011076286A1 (en) * 2009-12-23 2011-06-30 Nokia Corporation An apparatus
JP2011176476A (ja) * 2010-02-23 2011-09-08 Sanyo Electric Co Ltd 撮像装置
JP2011254543A (ja) * 2011-09-05 2011-12-15 Fujifilm Corp 撮影装置
US20120163610A1 (en) * 2010-12-22 2012-06-28 Koubun Sakagami Apparatus, system, and method of image processing, and recording medium storing image processing control program
JP2013141090A (ja) * 2011-12-28 2013-07-18 Canon Inc 撮影装置及びその処理方法
JP2013236136A (ja) * 2012-05-02 2013-11-21 Kyocera Corp 電子機器、制御方法及び制御プログラム
JP2014072661A (ja) * 2012-09-28 2014-04-21 Jvc Kenwood Corp 映像音声記録再生装置
JP2014127737A (ja) * 2012-12-25 2014-07-07 Jvc Kenwood Corp 撮像装置
JP2015520884A (ja) * 2012-04-13 2015-07-23 クゥアルコム・インコーポレイテッドQualcomm Incorporated ユーザインターフェースを表示するためのシステムおよび方法
JP2015198413A (ja) * 2014-04-03 2015-11-09 日本電信電話株式会社 収音システム及び放音システム
JP2016187193A (ja) * 2016-05-27 2016-10-27 株式会社Jvcケンウッド 音声処理装置、映像処理装置、音声処理方法及び映像処理方法
JP2017175475A (ja) * 2016-03-24 2017-09-28 パナソニックIpマネジメント株式会社 モニタリングシステム及びモニタリング方法
CN113364969A (zh) * 2020-03-06 2021-09-07 华为技术有限公司 一种非视距物体的成像方法和电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63115077A (ja) * 1986-10-31 1988-05-19 Mitsubishi Electric Corp 音の可視化装置
JPH07298109A (ja) * 1994-04-27 1995-11-10 Sony Corp ビデオカメラ一体型ビデオテープレコーダ

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63115077A (ja) * 1986-10-31 1988-05-19 Mitsubishi Electric Corp 音の可視化装置
JPH07298109A (ja) * 1994-04-27 1995-11-10 Sony Corp ビデオカメラ一体型ビデオテープレコーダ

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008193196A (ja) * 2007-02-01 2008-08-21 Casio Comput Co Ltd 撮像装置および指定音声出力方法
JP2008278433A (ja) * 2007-05-07 2008-11-13 Casio Hitachi Mobile Communications Co Ltd 情報処理装置、プログラム
JP2010004303A (ja) * 2008-06-20 2010-01-07 Casio Comput Co Ltd 撮像装置
JP2011071686A (ja) * 2009-09-25 2011-04-07 Nec Corp 映像音響処理装置、映像音響処理方法及びプログラム
RU2554510C2 (ru) * 2009-12-23 2015-06-27 Нокиа Корпорейшн Устройство
WO2011076286A1 (en) * 2009-12-23 2011-06-30 Nokia Corporation An apparatus
CN106851525B (zh) * 2009-12-23 2018-11-20 诺基亚技术有限公司 用于音频信号的处理的方法和装置
CN106851525A (zh) * 2009-12-23 2017-06-13 诺基亚技术有限公司 用于音频信号的处理的方法和装置
US9185509B2 (en) 2009-12-23 2015-11-10 Nokia Technologies Oy Apparatus for processing of audio signals
JP2011176476A (ja) * 2010-02-23 2011-09-08 Sanyo Electric Co Ltd 撮像装置
US20120163610A1 (en) * 2010-12-22 2012-06-28 Koubun Sakagami Apparatus, system, and method of image processing, and recording medium storing image processing control program
US9008320B2 (en) * 2010-12-22 2015-04-14 Ricoh Company, Ltd. Apparatus, system, and method of image processing, and recording medium storing image processing control program
JP2012147420A (ja) * 2010-12-22 2012-08-02 Ricoh Co Ltd 画像処理装置、及び画像処理システム
JP2011254543A (ja) * 2011-09-05 2011-12-15 Fujifilm Corp 撮影装置
JP2013141090A (ja) * 2011-12-28 2013-07-18 Canon Inc 撮影装置及びその処理方法
US9857451B2 (en) 2012-04-13 2018-01-02 Qualcomm Incorporated Systems and methods for mapping a source location
JP2015520884A (ja) * 2012-04-13 2015-07-23 クゥアルコム・インコーポレイテッドQualcomm Incorporated ユーザインターフェースを表示するためのシステムおよび方法
US10909988B2 (en) 2012-04-13 2021-02-02 Qualcomm Incorporated Systems and methods for displaying a user interface
US10107887B2 (en) 2012-04-13 2018-10-23 Qualcomm Incorporated Systems and methods for displaying a user interface
JP2013236136A (ja) * 2012-05-02 2013-11-21 Kyocera Corp 電子機器、制御方法及び制御プログラム
JP2014072661A (ja) * 2012-09-28 2014-04-21 Jvc Kenwood Corp 映像音声記録再生装置
JP2014127737A (ja) * 2012-12-25 2014-07-07 Jvc Kenwood Corp 撮像装置
JP2015198413A (ja) * 2014-04-03 2015-11-09 日本電信電話株式会社 収音システム及び放音システム
JP2017175475A (ja) * 2016-03-24 2017-09-28 パナソニックIpマネジメント株式会社 モニタリングシステム及びモニタリング方法
JP2021097416A (ja) * 2016-03-24 2021-06-24 パナソニックIpマネジメント株式会社 画像処理装置、モニタリングシステム及び画像処理方法
JP7122708B2 (ja) 2016-03-24 2022-08-22 パナソニックIpマネジメント株式会社 画像処理装置、モニタリングシステム及び画像処理方法
JP2016187193A (ja) * 2016-05-27 2016-10-27 株式会社Jvcケンウッド 音声処理装置、映像処理装置、音声処理方法及び映像処理方法
CN113364969A (zh) * 2020-03-06 2021-09-07 华为技术有限公司 一种非视距物体的成像方法和电子设备
CN113364969B (zh) * 2020-03-06 2023-05-12 华为技术有限公司 一种非视距物体的成像方法和电子设备

Also Published As

Publication number Publication date
JP4539385B2 (ja) 2010-09-08

Similar Documents

Publication Publication Date Title
JP4539385B2 (ja) 撮像装置、撮像制御プログラム
JP4934968B2 (ja) カメラ装置、カメラ制御プログラム及び記録音声制御方法
CN106157986B (zh) 一种信息处理方法及装置、电子设备
JP5801026B2 (ja) 画像音響処理装置及び撮像装置
JP5594133B2 (ja) 音声信号処理装置、音声信号処理方法及びプログラム
KR101679290B1 (ko) 영상 처리 방법 및 장치
US20090066798A1 (en) Sound Corrector, Sound Recording Device, Sound Reproducing Device, and Sound Correcting Method
JP5564873B2 (ja) 収音処理装置、収音処理方法、及びプログラム
JP2011071962A (ja) 撮像装置及び再生装置
JP2013106298A (ja) 撮像制御装置、撮像制御方法、撮像制御方法のプログラムおよび撮像装置
JP2010081417A (ja) 撮像装置及びモード適否判定方法
JP2009065587A (ja) 音声記録装置及び音声再生装置
JP2022184863A (ja) 情報取得システム及び情報取得システムの制御方法
JP2011041096A (ja) 携帯端末、並びにこれに用いる集音制御方法及びプログラム
JP2011061461A (ja) 撮像装置、指向性制御方法及びそのプログラム
JP5998483B2 (ja) 音声信号処理装置、音声信号処理方法、プログラム及び記録媒体
US9160460B2 (en) Noise cancelling device
JP5063489B2 (ja) 判定装置及びそれを備えた電子機器並びに判定方法
CN116055869A (zh) 一种视频处理方法和终端
JP6902961B2 (ja) 音声処理装置及びその制御方法
JP5747474B2 (ja) 撮像装置、撮像処理方法及びプログラム
JP2018207313A (ja) 音声処理装置及びその制御方法
JP2019086724A (ja) 音声処理装置
JP6886352B2 (ja) 音声処理装置及びその制御方法
JP5072714B2 (ja) 音声記録装置及び音声再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100309

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100601

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100614

R150 Certificate of patent or registration of utility model

Ref document number: 4539385

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130702

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees