JP2014022953A - 信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラム - Google Patents
信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2014022953A JP2014022953A JP2012160013A JP2012160013A JP2014022953A JP 2014022953 A JP2014022953 A JP 2014022953A JP 2012160013 A JP2012160013 A JP 2012160013A JP 2012160013 A JP2012160013 A JP 2012160013A JP 2014022953 A JP2014022953 A JP 2014022953A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- sound signal
- clip
- noise
- sound
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Circuit For Audible Band Transducer (AREA)
Abstract
【課題】ノイズ低減処理におけるノイズ推定の精度を向上させること。
【解決手段】入力する音信号に基づき音信号のピーク値がクリップしたクリップ部を検出するクリップ検出部と、動作部の動作状態が変化するタイミングを検出する動作タイミング検出部と、入力する前記音信号のうち動作部の動作音として推定される推定ノイズを算出するために用いる音信号を、クリップ検出部の検出結果および動作タイミング検出部の検出結果に基づいて判定するノイズ推定対象判定部と、ノイズ推定対象判定部によって判定された音信号に基づき推定ノイズを算出する推定ノイズ算出部と、動作タイミング検出部の検出結果に基づいて動作部が動作している時の音信号の周波数スペクトルを決定し、決定した周波数スペクトルから、推定ノイズ算出部によって算出された推定ノイズの周波数スペクトルを減算するノイズ低減処理部と、を備える。
【選択図】図1
【解決手段】入力する音信号に基づき音信号のピーク値がクリップしたクリップ部を検出するクリップ検出部と、動作部の動作状態が変化するタイミングを検出する動作タイミング検出部と、入力する前記音信号のうち動作部の動作音として推定される推定ノイズを算出するために用いる音信号を、クリップ検出部の検出結果および動作タイミング検出部の検出結果に基づいて判定するノイズ推定対象判定部と、ノイズ推定対象判定部によって判定された音信号に基づき推定ノイズを算出する推定ノイズ算出部と、動作タイミング検出部の検出結果に基づいて動作部が動作している時の音信号の周波数スペクトルを決定し、決定した周波数スペクトルから、推定ノイズ算出部によって算出された推定ノイズの周波数スペクトルを減算するノイズ低減処理部と、を備える。
【選択図】図1
Description
本発明は、音信号に対して信号処理をする信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラムに関する。
マイクが収音した音信号が、マイクの録音範囲を超える音圧となると、音信号の最大値が録音レベルを超えてしまうため、音信号の波形にクリップが発生する。
このクリップが発生している音信号を周波数スペクトルに変換した場合、マイクが収音した音信号には本来含まれていない高い周波数の周波成分が重畳してしまうおそれがある。
例えば、録音された音信号の波形におけるクリップ部分を修復する波形修正方法がある(例えば、特許文献1参照)。
このクリップが発生している音信号を周波数スペクトルに変換した場合、マイクが収音した音信号には本来含まれていない高い周波数の周波成分が重畳してしまうおそれがある。
例えば、録音された音信号の波形におけるクリップ部分を修復する波形修正方法がある(例えば、特許文献1参照)。
このように、クリップが発生している音信号の周波数スペクトルを用いて、マイクが収音した音信号のノイズを低減した場合、高い周波数の周波数成分のノイズを低減できない問題や、高い周波数の周波数成分のノイズ以外の目的音を削除してしまう問題があった。
本発明は、前記の点に鑑みてなされたものであり、ノイズ低減処理におけるノイズ推定の精度を向上させるための信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラムを提供することを目的とする。
本発明は、上記の課題を解決するためになされたものであり、入力する音信号に基づき、前記音信号のピーク値がクリップしたクリップ部を検出するクリップ検出部と、動作部の動作状態が変化するタイミングを検出する動作タイミング検出部と、入力する前記音信号のうち、前記動作部の動作音として推定される推定ノイズを算出するために用いる前記音信号の期間を、前記クリップ検出部の検出結果および前記動作タイミング検出部の検出結果に基づいて判定するノイズ推定対象判定部と、前記ノイズ推定対象判定部によって判定された期間の前記音信号に基づき、前記推定ノイズを算出する推定ノイズ算出部と、前記動作タイミング検出部の検出結果に基づいて前記動作部が動作している時の前記音信号の周波数スペクトルを決定し、決定した前記動作部が動作している時の前記音信号の周波数スペクトルから、前記推定ノイズ算出部によって算出された前記推定ノイズの周波数スペクトルを減算するノイズ低減処理部と、を備える。
本発明によれば、ノイズ低減処理におけるノイズ推定の精度を向上させることができる。
[第1実施形態]
本発明の実施形態について図面を参照して詳細に説明する。図1には、本実施形態に係る撮像装置の構成を示すブロック図が示されている。なお、本実施形態では、本発明に係る信号処理装置が撮像装置に搭載されている例について以下説明するが、本発明はこれに限られない。
図1に示す通り、撮像装置100は、光学系による像を撮像し、得られた画像データを記憶媒体200に記憶させるとともに、マイクによって収音されたマイク音信号に対してノイズ低減処理を行い、ノイズ低減処理後の音信号を記憶媒体200に記憶させる。
この撮像装置100は、低減処理部250を備える。この低減処理部250は、マイク音信号に含まれる推定ノイズを取得し、この推定ノイズに基づきマイク音からノイズを低減するノイズ低減処理を行う。
本発明の実施形態について図面を参照して詳細に説明する。図1には、本実施形態に係る撮像装置の構成を示すブロック図が示されている。なお、本実施形態では、本発明に係る信号処理装置が撮像装置に搭載されている例について以下説明するが、本発明はこれに限られない。
図1に示す通り、撮像装置100は、光学系による像を撮像し、得られた画像データを記憶媒体200に記憶させるとともに、マイクによって収音されたマイク音信号に対してノイズ低減処理を行い、ノイズ低減処理後の音信号を記憶媒体200に記憶させる。
この撮像装置100は、低減処理部250を備える。この低減処理部250は、マイク音信号に含まれる推定ノイズを取得し、この推定ノイズに基づきマイク音からノイズを低減するノイズ低減処理を行う。
本実施形態に係る低減処理部250は、動作部が動作することによって発生するノイズ(以下、動作音という)を低減するためのノイズ低減処理を実行する。例えば、撮像装置100において、AF(Auto Focus)やVR(Vibration Reduction)等の処理において光学系を駆動する場合、モータや光学系が動くことにより動作音が発生する。また、モータの駆動開始時、駆動終了時、および回転方向切り換え時に、一時的に大きい音の動作音が発生する。このように、動作部の動作状態が変化した場合に、一時的に発生する大きい音を衝撃音という。一方、この衝撃音よりも小さく、光学系やモータが動いているときに発生する音を駆動音という。つまり、駆動音は、衝撃音以外の動作音(ノイズ)である。本実施形態に係る低減処理部250が低減しようとするノイズとは、駆動音と衝撃音とを含む動作音である。つまり、この低減処理部250は、マイク音信号から衝撃音によるノイズを低減する衝撃音ノイズ低減処理を行うとともに、マイク音信号から駆動音によるノイズを低減する駆動音ノイズ低減処理を行う。
以下、撮像装置100と低減処理部250の構成の一例について詳細に説明する。なお、本実施形態において、低減処理部250は、撮像装置100に内蔵されている例について説明するが、本発明はこれに限られない。例えば、低減処理部250は、撮像装置100の外部装置であってもよい。
撮像装置100は、撮像部110と、レンズCPU120と、バッファメモリ部130と、画像処理部140と、表示部150と、記憶部160と、通信部170と、操作部180と、ボディCPU190と、計時部220と、マイク230と、A/D変換部240と、低減処理部250と、電池260と、を備える。
撮像部110は、光学系111と、撮像素子119と、A/D(Analog/Digital)変換部121とを備え、設定される撮像条件(例えば絞り値、露出値等)に応じて予め決められた動作パターンに従い、レンズCPU120により制御される。この撮像部110は、光学系111による光学像を撮像素子119に結像させて、A/D変換部121によってデジタル信号に変換された光学像に基づく画像データを生成する。
光学系111は、焦点調整レンズ(以下、「AFレンズ」という)112と、手ブレ補正レンズ(以下、「VRレンズ」という)113と、ズームレンズ114と、ズームエンコーダ115と、レンズ駆動部116と、AFエンコーダ117と、手ブレ補正部118とを備える。
これら光学系111の各構成は、レンズCPU120による焦点調整処理、手ブレ補正処理、およびズーム処理において、各機能の処理に応じて予め決められた動作パターンに従って、駆動する。つまり、光学系111は、撮像装置100における動作部である。
これら光学系111の各構成は、レンズCPU120による焦点調整処理、手ブレ補正処理、およびズーム処理において、各機能の処理に応じて予め決められた動作パターンに従って、駆動する。つまり、光学系111は、撮像装置100における動作部である。
この光学系111は、ズームレンズ114から入射し、ズームレンズ114、VRレンズ113、AFレンズ112の順番で通過した光学像を、撮像素子119の受光面に導く。
レンズ駆動部116は、AFレンズ112およびズームレンズ114の位置を制御するための駆動制御信号(コマンド)をレンズCPU120から入力する。このレンズ駆動部116は、入力するコマンドに応じて、AFレンズ112およびズームレンズ114の位置を制御する。
つまり、このコマンドがレンズCPU120からレンズ駆動部116に入力されてレンズ駆動部116が駆動することにより、AFレンズ112およびズームレンズ114が移動(動作)する。本実施形態において、レンズCPU120がコマンドを出力したタイミングを、AFレンズ112およびズームレンズ114の動作が開始される動作開始タイミングという。
レンズ駆動部116は、AFレンズ112およびズームレンズ114の位置を制御するための駆動制御信号(コマンド)をレンズCPU120から入力する。このレンズ駆動部116は、入力するコマンドに応じて、AFレンズ112およびズームレンズ114の位置を制御する。
つまり、このコマンドがレンズCPU120からレンズ駆動部116に入力されてレンズ駆動部116が駆動することにより、AFレンズ112およびズームレンズ114が移動(動作)する。本実施形態において、レンズCPU120がコマンドを出力したタイミングを、AFレンズ112およびズームレンズ114の動作が開始される動作開始タイミングという。
ズームエンコーダ115は、ズームレンズ114の位置を表わすズームポジションを検出し、レンズCPU120に出力する。このズームエンコーダ115は、ズームレンズ114の移動を検出し、例えば、ズームレンズ114が光学系111内を移動している場合にパルス信号をレンズCPU120に出力する。一方、停止している場合、ズームエンコーダ115は、パルス信号の出力を停止する。
AFエンコーダ117は、AFレンズ112の位置を表わすフォーカスポジションを検出し、レンズCPU120およびボディCPU190に出力する。このAFエンコーダ117は、AFレンズ112の移動を検出する。このAFエンコーダ117は、AFレンズ112の移動を検出し、例えば、AFレンズ112が光学系111内を移動している場合にパルス信号をレンズCPU120に出力する。一方、停止している場合、AFエンコーダ117は、パルス信号の出力を停止する。
なお、ズームエンコーダ115は、ズームポジションを検出するために、ズームレンズ114の駆動方向を検出するものであってもよい。また、AFエンコーダ117は、フォーカスポジションを検出するために、AFレンズ112の駆動方向を検出するものであってもよい。
例えば、ズームレンズ114やAFレンズ112は、レンズ駆動部116によって駆動される駆動機構(例えばモータやカム等)が時計回り(CW)あるいは反時計回り(CCW)に回転することにより光軸方向に移動する。ズームエンコーダ115およびAFエンコーダ117は、それぞれ、駆動機構の回転方向(ここでは、時計回りあるいは反時計回り)を検出することによって、ズームレンズ114およびAFレンズ112が移動していることを検出するものであってもよい。
例えば、ズームレンズ114やAFレンズ112は、レンズ駆動部116によって駆動される駆動機構(例えばモータやカム等)が時計回り(CW)あるいは反時計回り(CCW)に回転することにより光軸方向に移動する。ズームエンコーダ115およびAFエンコーダ117は、それぞれ、駆動機構の回転方向(ここでは、時計回りあるいは反時計回り)を検出することによって、ズームレンズ114およびAFレンズ112が移動していることを検出するものであってもよい。
手ブレ補正部118は、例えば振動ジャイロ機構を備え、光学系111による像の光軸ぶれを検出し、この光軸ぶれを打ち消す方向にVRレンズ113を動かす。この手ブレ補正部118は、例えばVRレンズ113を動かしている状態においてハイレベルの信号をレンズCPU120に出力する。一方、VRレンズ113を停止させている状態において、手ブレ補正部118は、ローレベルの信号をレンズCPU120に出力する。
撮像素子119は、例えば、光電変換面を備え、その受光面に結像した光学像を電気信号に変換して、変換した電気信号をA/D変換部121に出力する。
この撮像素子119は、操作部180を介して撮影指示を受け付けた際に得られる画像データを、静止画又は動画の画像データとして、A/D変換部121を介して記憶媒体200に記憶させる。一方、撮像素子119は、操作部180を介して撮像指示を受け付けていない状態において、連続的に得られる画像データをスルー画データ(プレビュー画像データ)として、A/D変換部121を介してボディCPU190および表示部150に出力する。
この撮像素子119は、操作部180を介して撮影指示を受け付けた際に得られる画像データを、静止画又は動画の画像データとして、A/D変換部121を介して記憶媒体200に記憶させる。一方、撮像素子119は、操作部180を介して撮像指示を受け付けていない状態において、連続的に得られる画像データをスルー画データ(プレビュー画像データ)として、A/D変換部121を介してボディCPU190および表示部150に出力する。
A/D変換部121は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像データをバッファメモリ部130に出力する。
バッファメモリ部130は、撮像部110によって撮像された画像データを、一時的に記憶する。また、バッファメモリ部130は、マイク230が収音したマイク検出音に応じたマイク音信号を、一時的に記憶する。
画像処理部140は、記憶部160に記憶されている画像処理条件を示す情報を参照して、バッファメモリ部130に一時的に記憶されている画像データに対して、画像処理をする。画像処理された画像データは、通信部170を介して記憶媒体200に記憶される。なお、画像処理部140は、記憶媒体200に記憶されている画像データに対して、画像処理をしてもよい。
表示部150は、例えば液晶ディスプレイであって、撮像部110によって得られた画像データや操作画面等を表示する。
記憶部160は、レンズCPU120によってシーン判定の際に参照される判定条件を示す情報や、シーン判定によって判断されたシーン毎に対応付けられた撮像条件を示す情報等を記憶する。
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報(画像データや音データ等)の書込み、読み出し、あるいは消去する。
操作部180は、例えば、電源スイッチ、シャッターボタン、マルチセレクタ(十字キー)、又はその他の操作キーを備え、ユーザによって操作されることでユーザからの操作入力を受け付け、操作入力に応じた操作内容を示す操作情報をレンズCPU120およびボディCPU190に出力する。この操作部180は、ユーザによって押下される際、物理的な動作音を発生する場合がある。本実施形態において、ユーザの操作入力に応じた操作内容を示す操作情報が操作部180からレンズCPU120あるいはボディCPU190に入力するタイミングを、操作部180の動作が開始される動作開始タイミングという。
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、例えば、撮像部110によって生成された(撮影された)画像データや、低減処理部250により音信号処理された音信号を記憶する。
バス210は、撮像部110と、レンズCPU120と、バッファメモリ部130と、画像処理部140と、表示部150と、記憶部160と、通信部170と、操作部180と、ボディCPU190と、計時部220と、A/D変換部240と、低減処理部250と接続され、各構成部から出力されたデータ等を転送する。
計時部220は、日にちや時刻を計時して、計時した日時を示す日時情報を出力する。
マイク230は、周辺の音を収音し、この音のマイク音信号をA/D変換部240に出力する。このマイク230によって収音されるマイク音信号には、主に、収音対象である目的音と、動作部による動作音(ノイズ)とが含まれている。
ここで、マイク230によって取得されたマイク音信号について、例えば、AFレンズ112が動作している時に得られたマイク音信号を例に、図2、3を参照して説明する。
図2(A)は、AFエンコーダ117の出力と時間との関係の一例を示す。図2(B)は、マイク音信号と時間の関係の一例が示されている。図2(A)と2(B)の時間軸は、同一の時刻を示す。なお、図2(B)は、説明便宜のため、マイク音信号のうち、動作音の音信号のみを示し、目的音の音信号の図示を省略する。図2(A)と図2(B)に示すAFレンズ112の動作パターンは、例えば、距離Pでピントを合わせるAF処理を行う場合の動作パターンである。
図2(A)は、AFエンコーダ117の出力と時間との関係の一例を示す。図2(B)は、マイク音信号と時間の関係の一例が示されている。図2(A)と2(B)の時間軸は、同一の時刻を示す。なお、図2(B)は、説明便宜のため、マイク音信号のうち、動作音の音信号のみを示し、目的音の音信号の図示を省略する。図2(A)と図2(B)に示すAFレンズ112の動作パターンは、例えば、距離Pでピントを合わせるAF処理を行う場合の動作パターンである。
図2(A)には、その縦軸に、AFエンコーダ117の出力に基づく、AFレンズ112を駆動する駆動機構の回転方向(CW,CWW)を示す。
この距離Pでピントを合わせるAF処理を行う動作パターンでは、図2(A)に示す通り、AFレンズ112を駆動する駆動機構が、時刻t10〜t20において、時計回りCWに回転して、その後、静止する。
つまり、時刻t10は、AFレンズ112の動作開始タイミングを、時刻t20は、AFレンズ112の動作停止タイミングを、それぞれ表わしている。なお、本実施形態において、動作開始タイミングの時刻t10は、AFレンズ112の位置を制御するためのコマンドをレンズCPU120がレンズ駆動部116に出力したタイミング(時刻)である。動作停止タイミングの時刻t20は、AFエンコーダ117からのパルス信号の出力が停止したタイミングである。
この距離Pでピントを合わせるAF処理を行う動作パターンでは、図2(A)に示す通り、AFレンズ112を駆動する駆動機構が、時刻t10〜t20において、時計回りCWに回転して、その後、静止する。
つまり、時刻t10は、AFレンズ112の動作開始タイミングを、時刻t20は、AFレンズ112の動作停止タイミングを、それぞれ表わしている。なお、本実施形態において、動作開始タイミングの時刻t10は、AFレンズ112の位置を制御するためのコマンドをレンズCPU120がレンズ駆動部116に出力したタイミング(時刻)である。動作停止タイミングの時刻t20は、AFエンコーダ117からのパルス信号の出力が停止したタイミングである。
従って、図2(B)に示す通り、時刻t10〜t20の期間で、マイク音信号にAFレンズ112による動作音が目的音に重畳している、又は、動作音が目的音に重畳している可能性が高い。本実施形態においては、時刻t10〜t20の期間において、AFレンズ112による動作音であるノイズが発生している場合を例に、以下説明する。
また、図2(B)に示す通り、時刻t10、t20においては、それぞれ衝撃音が発生している可能性が高い。本実施形態においては、時刻t10、t20において、AFレンズ112による衝撃音が発生している場合を例に、以下説明する。
また、図2(B)に示す通り、時刻t10、t20においては、それぞれ衝撃音が発生している可能性が高い。本実施形態においては、時刻t10、t20において、AFレンズ112による衝撃音が発生している場合を例に、以下説明する。
また、衝撃音が発生した場合、その衝撃音が発生している可能性の高い時間長(期間)は、各動作パターンに応じて予め決められている。距離Pでピントを合わせるAF処理を行う動作パターンでは、図3に示すような衝撃音の発生する時間長L1、L2が決められている。
図3は、距離Pでピントを合わせるAF処理を行う動作パターンでAFレンズ112を駆動した際に、マイク230で収音されるマイク音信号の一例を示す図である。図3に示すグラフは、縦軸にマイク230によって収音されたマイク音信号の振幅を、横軸に時間を、それぞれ示す。なお、図3は、説明便宜のため、マイク音信号のうち、動作音の音信号のみを示し、目的音の音信号の図示を省略する。また、図3に示す時刻t10、t20は、図2(A)、2(B)に示す時刻t10、t20と同じである。
図3は、距離Pでピントを合わせるAF処理を行う動作パターンでAFレンズ112を駆動した際に、マイク230で収音されるマイク音信号の一例を示す図である。図3に示すグラフは、縦軸にマイク230によって収音されたマイク音信号の振幅を、横軸に時間を、それぞれ示す。なお、図3は、説明便宜のため、マイク音信号のうち、動作音の音信号のみを示し、目的音の音信号の図示を省略する。また、図3に示す時刻t10、t20は、図2(A)、2(B)に示す時刻t10、t20と同じである。
距離Pでピントを合わせるAF処理を行う動作パターンでは、動作開始タイミングから時間長L1の期間、および、動作停止タイミングから時間長L2の期間が、それぞれ、衝撃音の発生する時間長であると予め決められている。よって、本実施形態では、時刻t10から時間長L1の期間(t10〜t11)、および時刻t20から時間長L2の期間(t20〜t21)が、それぞれ、衝撃音の発生する期間である。ここでは、動作開始タイミングから時間長L1の期間を、動作開始タイミング期間という。また、動作停止タイミングから時間長L2の期間を、動作停止タイミング期間という。
ここで、動作部が動作しない可能性の高い期間を非動作期間Taとする。また、動作部の動作により衝撃音が発生する可能性の高い期間を衝撃音発生期間Tbとする。さらに、動作部の動作により駆動音が発生する可能性の高い期間を駆動音発生期間Tcとする。本実施形態では、時刻t0〜t10の期間、t21〜の期間が、非動作期間Taである。時刻t10〜t11の期間、時刻t20〜t21の期間が、衝撃音発生期間Tbである。時刻t11〜t20の期間が、駆動音発生期間Tcである。
ここで、動作部が動作しない可能性の高い期間を非動作期間Taとする。また、動作部の動作により衝撃音が発生する可能性の高い期間を衝撃音発生期間Tbとする。さらに、動作部の動作により駆動音が発生する可能性の高い期間を駆動音発生期間Tcとする。本実施形態では、時刻t0〜t10の期間、t21〜の期間が、非動作期間Taである。時刻t10〜t11の期間、時刻t20〜t21の期間が、衝撃音発生期間Tbである。時刻t11〜t20の期間が、駆動音発生期間Tcである。
図1に戻って、撮像装置100の各構成の説明を続ける。
レンズCPU120は、設定された撮像条件(例えば絞り値、露出値等)に応じた動作パターンに従って撮像部110を制御する。このレンズCPU120は、ズームエンコーダ115から出力されるズームポジションおよびAFエンコーダ117から出力されるフォーカスポジションに基づき、レンズ駆動部116を駆動するコマンドを生成して、レンズ駆動部116に出力する。その生成アルゴリズムは、必要に応じて既存のアルゴリズムを適宜用いてよい。
レンズCPU120は、設定された撮像条件(例えば絞り値、露出値等)に応じた動作パターンに従って撮像部110を制御する。このレンズCPU120は、ズームエンコーダ115から出力されるズームポジションおよびAFエンコーダ117から出力されるフォーカスポジションに基づき、レンズ駆動部116を駆動するコマンドを生成して、レンズ駆動部116に出力する。その生成アルゴリズムは、必要に応じて既存のアルゴリズムを適宜用いてよい。
ボディCPU190は、撮像装置100を統括的に制御する。このボディCPU190は、動作タイミング検出部191を備える。
動作タイミング検出部191は、撮像装置100が備えている動作部の動作状態が変化するタイミングを検出する。この動作状態が変化するタイミングとしては、例えば、動作部が動作を開始する動作開始タイミングと、動作部の動作が停止する動作停止タイミングとがある。
ここでいう動作部とは、例えば、上述した光学系111、あるいは、操作部180のことであり、撮像装置100が備えている構成のうち、動作することにより、または、動作されることにより、動作音を生じる(または、動作音を生じる可能性がある)構成である。
言い換えると、動作部とは、撮像装置100が備えている構成のうち、動作部が動作することにより生じた動作音、または、動作部が動作されることにより生じた動作音が、マイク230により収音される(または、収音される可能性のある)構成である。
動作タイミング検出部191は、撮像装置100が備えている動作部の動作状態が変化するタイミングを検出する。この動作状態が変化するタイミングとしては、例えば、動作部が動作を開始する動作開始タイミングと、動作部の動作が停止する動作停止タイミングとがある。
ここでいう動作部とは、例えば、上述した光学系111、あるいは、操作部180のことであり、撮像装置100が備えている構成のうち、動作することにより、または、動作されることにより、動作音を生じる(または、動作音を生じる可能性がある)構成である。
言い換えると、動作部とは、撮像装置100が備えている構成のうち、動作部が動作することにより生じた動作音、または、動作部が動作されることにより生じた動作音が、マイク230により収音される(または、収音される可能性のある)構成である。
例えば、この動作タイミング検出部191は、動作部を動作させるコマンドに基づいて、動作部の動作状態が変化するタイミングを検出してもよい。このコマンドとは、動作部を動作させる駆動部に対して、動作部を動作させるようにする駆動制御信号、または、この駆動部を駆動させる駆動制御信号である。
例えば、動作タイミング検出部191は、ズームレンズ114、VRレンズ113、または、AFレンズ112を駆動させるため、レンズ駆動部116または手ブレ補正部118に入力されるコマンドに基づいて、ズームレンズ114、VRレンズ113、または、AFレンズ112の動作が開始された動作開始タイミングを検出する。この場合、動作タイミング検出部191は、レンズCPU120がコマンドを生成する場合に、レンズCPU120内部で実行される処理やコマンドに基づいて、動作開始タイミングを検出してもよい。
また、動作タイミング検出部191は、操作部180から入力されるズームレンズ114、または、AFレンズ112を駆動させることを示す操作信号に基づいて、動作開始タイミングを検出してもよい。
また、動作タイミング検出部191は、操作部180から入力されるズームレンズ114、または、AFレンズ112を駆動させることを示す操作信号に基づいて、動作開始タイミングを検出してもよい。
また、動作タイミング検出部191は、動作部が動作したことを示す信号に基づいて、動作部の動作状態が変化するタイミングを検出してもよい。
例えば、動作タイミング検出部191は、ズームエンコーダ115またはAFエンコーダ117の出力に基づいて、ズームレンズ114またはAFレンズ112が駆動されたことを検出することにより、ズームレンズ114またはAFレンズ112の動作開始タイミングを検出してもよい。また、動作タイミング検出部191は、ズームエンコーダ115またはAFエンコーダ117の出力に基づいて、ズームレンズ114またはAFレンズ112が停止されたことを検出することにより、ズームレンズ114またはAFレンズ112の動作停止タイミングを検出してもよい。
また、動作タイミング検出部191は、手ブレ補正部118からの出力に基づいて、VRレンズ113が駆動されたことを検出することにより、VRレンズ113の動作開始タイミングを検出してもよい。この動作タイミング検出部191は、手ブレ補正部118からの出力に基づいて、VRレンズ113が停止されたことを検出することにより、VRレンズ113の動作停止タイミングを検出してもよい。
さらに、動作タイミング検出部191は、操作部180からの入力に基づいて、操作部180が操作されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
例えば、動作タイミング検出部191は、ズームエンコーダ115またはAFエンコーダ117の出力に基づいて、ズームレンズ114またはAFレンズ112が駆動されたことを検出することにより、ズームレンズ114またはAFレンズ112の動作開始タイミングを検出してもよい。また、動作タイミング検出部191は、ズームエンコーダ115またはAFエンコーダ117の出力に基づいて、ズームレンズ114またはAFレンズ112が停止されたことを検出することにより、ズームレンズ114またはAFレンズ112の動作停止タイミングを検出してもよい。
また、動作タイミング検出部191は、手ブレ補正部118からの出力に基づいて、VRレンズ113が駆動されたことを検出することにより、VRレンズ113の動作開始タイミングを検出してもよい。この動作タイミング検出部191は、手ブレ補正部118からの出力に基づいて、VRレンズ113が停止されたことを検出することにより、VRレンズ113の動作停止タイミングを検出してもよい。
さらに、動作タイミング検出部191は、操作部180からの入力に基づいて、操作部180が操作されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
動作タイミング検出部191は、撮像装置100が備えている動作部の動作開始タイミングを検出し、検出した動作開始タイミングを示す動作タイミング信号を、低減処理部250に出力する。また、動作タイミング検出部191は、撮像装置100が備えている動作部の動作停止タイミングを検出し、この検出した動作停止タイミングを示す動作タイミング信号を、低減処理部250に出力する。
本実施形態において、動作タイミング検出部191は、レンズCPU120から入力されるコマンドに基づき、AFレンズ112を動かすコマンドがレンズCPU120からレンズ駆動部116に出力されるタイミングを、AFレンズ112の動作開始タイミングと判定する。また、動作タイミング検出部191は、衝撃音の発生時間長L1を参照し、例えば、図3を用いた例で示す衝撃音が発生している時刻t10〜t11を示す情報を、動作開始タイミング期間を示す信号(動作タイミング信号)として出力する。
本実施形態において、動作タイミング検出部191は、レンズCPU120から入力されるコマンドに基づき、AFレンズ112を動かすコマンドがレンズCPU120からレンズ駆動部116に出力されるタイミングを、AFレンズ112の動作開始タイミングと判定する。また、動作タイミング検出部191は、衝撃音の発生時間長L1を参照し、例えば、図3を用いた例で示す衝撃音が発生している時刻t10〜t11を示す情報を、動作開始タイミング期間を示す信号(動作タイミング信号)として出力する。
また、動作タイミング検出部191は、AFエンコーダ117から入力されるパルス信号に基づき、このパルス信号の出力が停止した時を、AFレンズ112の動作が停止した動作停止タイミングと判定する。また、動作タイミング検出部191は、衝撃音の発生時間長L2を参照して、例えば、図3を用いた例で示す衝撃音が発生している時刻t20〜t21を示す情報を、動作停止タイミング期間を示す信号(動作タイミング信号)として出力する。
A/D変換部240は、マイク230から入力されたアナログ信号であるマイク音信号をデジタル信号であるマイク音信号に変換する。このA/D変換部240は、デジタル信号であるマイク音信号を、低減処理部250に出力する。また、A/D変換部240は、デジタル信号であるマイク音信号を、バッファメモリ部130あるいは記憶媒体200に記憶させる構成であってもよい。この場合、A/D変換部240は、計時部220によって計時された日時情報に基づき、マイク音信号が取得された時刻を示す情報を、マイク音信号に関連付けて、バッファメモリ部130あるいは記憶媒体200に記憶させる。
低減処理部250は、A/D変換部240によりデジタル信号に変換されたマイク音信号に対して、例えばAFレンズ112、VRレンズ113、ズームレンズ114等の動作部による動作音であるノイズを低減するなどのノイズ低減処理を実行し、このノイズ低減処理した音信号を記憶媒体200に記憶させる。
次に、図4を参照して、低減処理部250について詳細に説明する。図4は、本実施形態に係る低減処理部250の機能構成の一例を示すブロック図である。
低減処理部250は、クリップ検出部251と、音信号処理部252と、ノイズ推定対象判定部253と、推定ノイズ算出部254と、ノイズ低減処理部255と、逆フーリエ変換部256と、記憶部257と、推定ノイズ更新部258とを含む。
低減処理部250は、クリップ検出部251と、音信号処理部252と、ノイズ推定対象判定部253と、推定ノイズ算出部254と、ノイズ低減処理部255と、逆フーリエ変換部256と、記憶部257と、推定ノイズ更新部258とを含む。
音信号処理部252は、クリップ検出部251から出力されたマイク音信号に対して、予め決められた区間ごとに窓関数で重み付けするとともに、この区間毎のマイク音信号を周波数領域で表わされるスペクトルに変換して、この周波数領域で表わされるスペクトル(周波数スペクトル)をノイズ推定対象判定部253に出力する。
この音信号処理部252は、例えば、マイク音信号にフーリエ変換、あるいは高速フーリエ変換(FFT:Fast Fourier Transform)を行うことで、マイク音信号を周波数領域に変換する。本実施形態において、音信号処理部252は、例えば、マイク音信号にフーリエ変換を行うことで、窓関数で重み付けされた各区間に対応する周波数スペクトルを算出する。
ここで、窓関数で重み付けされた区間とは、信号処理の単位(フレーム)であって、時間軸方向に一定の間隔(時間長)で繰り返される期間である。これらの各フレームは、隣り合う各フレームと半分ずつオーバーラップしている。なお、窓関数は、例えば、ハニング窓(ハニングウィンドウ)関数が利用可能である。
この音信号処理部252は、例えば、マイク音信号にフーリエ変換、あるいは高速フーリエ変換(FFT:Fast Fourier Transform)を行うことで、マイク音信号を周波数領域に変換する。本実施形態において、音信号処理部252は、例えば、マイク音信号にフーリエ変換を行うことで、窓関数で重み付けされた各区間に対応する周波数スペクトルを算出する。
ここで、窓関数で重み付けされた区間とは、信号処理の単位(フレーム)であって、時間軸方向に一定の間隔(時間長)で繰り返される期間である。これらの各フレームは、隣り合う各フレームと半分ずつオーバーラップしている。なお、窓関数は、例えば、ハニング窓(ハニングウィンドウ)関数が利用可能である。
上述した図3を参照して、音信号処理部252により算出される窓関数の各フレームに対応する周波数スペクトルの一例について説明する。
音信号処理部252は、上述の通り、A/D変換部240から出力されたマイク音信号に対して、図3に示すように他のフレームと半分ずつオーバーラップしている窓関数W1〜W14で重み付けをする。これにより、マイク音信号は、窓関数のサイズに分割される。この音信号処理部252は、例えば窓関数W1〜W14で重み付けされた各フレームのマイク音信号ごとに、例えばフーリエ変換を行い、周波数領域における周波数スペクトルS1〜S14を算出する。つまり、音信号処理部252によって算出される周波数スペクトルS1〜S14は、窓関数W1〜W14の期間にそれぞれ対応する周波数スペクトルである。また、窓関数W1〜14でそれぞれ重み付けされる期間をフレームF1〜14という。
音信号処理部252は、上述の通り、A/D変換部240から出力されたマイク音信号に対して、図3に示すように他のフレームと半分ずつオーバーラップしている窓関数W1〜W14で重み付けをする。これにより、マイク音信号は、窓関数のサイズに分割される。この音信号処理部252は、例えば窓関数W1〜W14で重み付けされた各フレームのマイク音信号ごとに、例えばフーリエ変換を行い、周波数領域における周波数スペクトルS1〜S14を算出する。つまり、音信号処理部252によって算出される周波数スペクトルS1〜S14は、窓関数W1〜W14の期間にそれぞれ対応する周波数スペクトルである。また、窓関数W1〜14でそれぞれ重み付けされる期間をフレームF1〜14という。
図3に示す通り、距離αでピントを合わせるAF処理を行う場合の動作パターンにおいては、動作開始タイミング期間と動作停止タイミング期間において衝撃音が発生する。
上述の通り、時刻t0〜t10の期間、時刻t21〜の期間が、非動作期間Ta(動作部が動作しない可能性の高い期間)である。時刻t10〜t11の期間(動作開始タイミング期間)、時刻t20〜t21の期間(動作停止タイミング期間)が、衝撃音発生期間Tb(動作部の動作により衝撃音が発生する可能性の高い期間)である。時刻t11〜t20の期間が、駆動音発生期間Tc(動作部の動作により駆動音が発生する可能性の高い期間)である。
つまり、窓関数W1、W13、W14に対応する周波数スペクトルS1、S13、S14は、非動作期間Taに取得されたマイク音信号の周波数スペクトルである。窓関数W5〜W8に対応する周波数スペクトルS5〜S8は、動作部が動作する可能性の高い期間のうち、駆動音発生期間Tcに取得されたマイク音信号の周波数スペクトルである。
また、窓関数W2〜W4に対応する周波数スペクトルS2〜S4と、窓関数W9〜W12に対応する周波数スペクトルS9〜S12は、動作部が動作する可能性の高い期間のうち、衝撃音発生期間Tbに取得されたマイク音信号の周波数スペクトルである。
上述の通り、時刻t0〜t10の期間、時刻t21〜の期間が、非動作期間Ta(動作部が動作しない可能性の高い期間)である。時刻t10〜t11の期間(動作開始タイミング期間)、時刻t20〜t21の期間(動作停止タイミング期間)が、衝撃音発生期間Tb(動作部の動作により衝撃音が発生する可能性の高い期間)である。時刻t11〜t20の期間が、駆動音発生期間Tc(動作部の動作により駆動音が発生する可能性の高い期間)である。
つまり、窓関数W1、W13、W14に対応する周波数スペクトルS1、S13、S14は、非動作期間Taに取得されたマイク音信号の周波数スペクトルである。窓関数W5〜W8に対応する周波数スペクトルS5〜S8は、動作部が動作する可能性の高い期間のうち、駆動音発生期間Tcに取得されたマイク音信号の周波数スペクトルである。
また、窓関数W2〜W4に対応する周波数スペクトルS2〜S4と、窓関数W9〜W12に対応する周波数スペクトルS9〜S12は、動作部が動作する可能性の高い期間のうち、衝撃音発生期間Tbに取得されたマイク音信号の周波数スペクトルである。
次に、図5、6、7を参照して、クリップ検出部251によるクリップ検出処理の一例について説明する。図5、6は、A/D変換部240によって変換されたデジタル信号であるマイク音信号の一例を示すグラフである。図5には、クリップが発生していないマイク音信号の一例を示す。図6には、クリップが発生しているマイク音信号の一例を示す。図7には、クリップの一例を拡大して示す。
本実施形態において、デジタル信号に変換されたマイク音信号は、16ビットの信号(−32768〜+32767)で表現される。図5、6の縦軸には、簡略化のため、このマイク音信号の16ビットの値(−32768〜+32767)を、−1から+1の範囲の値で表示している。つまり、デジタル信号に変換されたマイク音信号は、予め決められた下限値(−32768)から上限値(+32767)までの範囲の値で表現される。よって、デジタル信号に変換されたマイク音信号は、本来、下限値(−32768)から上限値(+32767)までの範囲を超えた値を示す情報を含んでいたとしても、下限値(−32768)あるいは上限値(+32767)の値に変更される。このように、本来含んでいた情報が下限値(−32768)あるいは上限値(+32767)の値に変更された場合、クリップが発生する。つまり、クリップとは、波形のピーク値が限界値を超過することである。このクリップは、発生する動作音(ノイズ)の変動や、目的音に動作音(ノイズ)が重畳されることにより、マイク230の録音範囲を超える音圧となることにより、発生する。
本実施形態において、デジタル信号に変換されたマイク音信号は、16ビットの信号(−32768〜+32767)で表現される。図5、6の縦軸には、簡略化のため、このマイク音信号の16ビットの値(−32768〜+32767)を、−1から+1の範囲の値で表示している。つまり、デジタル信号に変換されたマイク音信号は、予め決められた下限値(−32768)から上限値(+32767)までの範囲の値で表現される。よって、デジタル信号に変換されたマイク音信号は、本来、下限値(−32768)から上限値(+32767)までの範囲を超えた値を示す情報を含んでいたとしても、下限値(−32768)あるいは上限値(+32767)の値に変更される。このように、本来含んでいた情報が下限値(−32768)あるいは上限値(+32767)の値に変更された場合、クリップが発生する。つまり、クリップとは、波形のピーク値が限界値を超過することである。このクリップは、発生する動作音(ノイズ)の変動や、目的音に動作音(ノイズ)が重畳されることにより、マイク230の録音範囲を超える音圧となることにより、発生する。
クリップ検出部251は、A/D変換部240から出力されたデジタル信号であるマイク音信号に、下限値(−32768)あるいは上限値(+32767)が含まれているか否かを判定する。つまり、クリップ検出部251は、下限値(−32768)あるいは上限値(+32767)を含む部分を、マイク音信号のピーク値がクリップされた部分(クリップ部)として検出する。クリップ部とは、波形のピーク値が限界値を超過している部分をいう。波形のピーク値が限界値を超過している時間長を、クリップ部の長さという。
下限値(−32768)あるいは上限値(+32767)が含まれている場合、クリップ検出部251は、この下限値(−32768)あるいは上限値(+32767)を含む部分(クリップ部)の時刻(時間軸方向の位置)を検出する。クリップ検出部251は、検出した最小値(−32768)あるいは最大値(+32767)を含む部分(クリップ部)の時刻(時間軸方向の位置)を検出し、クリップ部が発生している時間軸方向の位置を示すクリップ位置情報として取得する。なお、クリップ検出部251が検出する時刻(時間軸方向の位置)とは、現在時刻を示す絶対的な時刻であってもよく、マイク音信号を取得したときを開始時点として開始時点からの経過時間を示す相対的な時点を示すものであってもよい。
下限値(−32768)あるいは上限値(+32767)が含まれている場合、クリップ検出部251は、この下限値(−32768)あるいは上限値(+32767)を含む部分(クリップ部)の時刻(時間軸方向の位置)を検出する。クリップ検出部251は、検出した最小値(−32768)あるいは最大値(+32767)を含む部分(クリップ部)の時刻(時間軸方向の位置)を検出し、クリップ部が発生している時間軸方向の位置を示すクリップ位置情報として取得する。なお、クリップ検出部251が検出する時刻(時間軸方向の位置)とは、現在時刻を示す絶対的な時刻であってもよく、マイク音信号を取得したときを開始時点として開始時点からの経過時間を示す相対的な時点を示すものであってもよい。
本実施形態において、クリップ検出部251は、それぞれのフレームに対応するマイク音信号ごとに、クリップ部が含まれているか否かを判定する。フレームに対応するマイク音信号にクリップ部が含まれていると判定した場合、クリップ検出部251は、このフレームにクリップ部が含まれていることを示す情報を、ノイズ推定対象判定部253に出力する。
図5には、クリップが発生していないマイク音信号の一例として、フレームF101〜F108に対応するマイク音信号の一例を示す。図示の通り、フレームF101〜F108に対応するマイク音信号の振幅の最低値は、予め決められている下限値(−32768)より大きく、マイク音信号の振幅の最高値は、予め決められている上限値(+32767)未満である。よって、図5に示すマイク音信号には、クリップが発生していない。
一方、図6には、クリップが発生しているマイク音信号の一例として、フレームF1〜F8に対応するマイク音信号の一例を示す。なお、この図6に示すマイク音信号は、図3に示したマイク音信号と同一の信号である。図示の通り、フレームF2〜F5に対応するマイク音信号の振幅の最低値が、予め決められている下限値(−32768)となり、マイク音信号の振幅の最高値が、予め決められている上限値(+32767)となる部分がある。つまり、図6に示すマイク音信号には、クリップが発生している。このクリップが発生している部分(クリップ部)を、図7の拡大図に示す。
図7は、クリップが発生した場合のマイク音信号の一例を拡大して示す図である。図7には、低減処理部250に入力するマイク音信号の一例を実線で示す。この図7に実線で示すマイク音信号は、2箇所でクリップが発生していることを示す。
このようにクリップが発生している部分は、図7に点線で示すように、下限値(−32768)に相当する−1の値よりも小さい値を本来有している。このため、クリップが発生している場合、マイク音信号から、本来存在している情報が変更されてしまう。
このようにクリップが発生している部分は、図7に点線で示すように、下限値(−32768)に相当する−1の値よりも小さい値を本来有している。このため、クリップが発生している場合、マイク音信号から、本来存在している情報が変更されてしまう。
ここで、図6に示すマイク音信号に発生しているクリップについて詳細に説明する。図6に示す例では、動作開始タイミング期間(t10〜t11)において、クリップ部が9回発生している。また、この動作開始タイミング期間後(フレームF4、F5)において、クリップ部が2回発生している。よって、クリップ検出部251は、フレームF2〜5において、マイクロ音信号の下限値(−32768)あるいは上限値(+32767)を検出する。つまり、クリップ検出部251は、フレームF2〜F5において、クリップが発生していると判定する。クリップ検出部251は、判定結果をノイズ推定対象判定部253に出力する。
なお、本発明はこれに限られず、クリップ検出部251は、マイク音信号の下限値あるいは上限値ではない予め決められた閾値と、マイク音信号の値とを比較することにより、クリップが発生しているか否かを判定するものであってもよい。
例えば、A/D変換部121がゲインを自動的に調整するオートゲインコントロール機能を備える場合、マイク音信号の最低値と最高値が、16ビットの信号の下限値(−32768)と上限値(+32767)よりも内側になる場合がある。この場合、クリップ検出部251は、下限値の−32768よりもやや高い値を最低値側の閾値とし、上限値の+32767よりもやや低い値を最高値側の閾値とする。そして、これら各閾値を、それぞれクリップ検出部251がクリップ部を検出する際の閾値として設定する。クリップ検出部251は、マイク音信号のデジタル値が、最低値側の閾値以下あるいは最高値側の閾値以上になった場合、クリップが発生していると判定する。
例えば、A/D変換部121がゲインを自動的に調整するオートゲインコントロール機能を備える場合、マイク音信号の最低値と最高値が、16ビットの信号の下限値(−32768)と上限値(+32767)よりも内側になる場合がある。この場合、クリップ検出部251は、下限値の−32768よりもやや高い値を最低値側の閾値とし、上限値の+32767よりもやや低い値を最高値側の閾値とする。そして、これら各閾値を、それぞれクリップ検出部251がクリップ部を検出する際の閾値として設定する。クリップ検出部251は、マイク音信号のデジタル値が、最低値側の閾値以下あるいは最高値側の閾値以上になった場合、クリップが発生していると判定する。
ノイズ推定対象判定部253は、クリップ検出部251によってクリップが発生していると判定された場合、クリップ検出部251から入力される情報に基づき、時間軸方向におけるクリップ部の発生時刻(発生位置)に応じて、推定ノイズを算出するために用いるマイク音信号のフレームを判定する。言い換えると、ノイズ推定対象判定部253は、音信号処理部252によってマイク音信号から変換された周波数スペクトルのうち、推定ノイズを算出するために用いる周波数スペクトルのフレームを判定(決定)する。
本実施形態において、ノイズ推定対象判定部253は、クリップ検出部251によってクリップが発生していると判定されたフレームに対応するマイク音信号(周波数スペクトル)以外を、推定ノイズを算出するためにマイク音信号として決定する。言い換えると、ノイズ推定対象判定部253は、クリップ検出部251によってクリップが発生していると判定されたフレームに対応するマイク音信号(周波数スペクトル)を、ノイズ推定を算出するためのマイク音信号(周波数スペクトル)として選択しない。
本実施形態において、ノイズ推定対象判定部253は、クリップ検出部251によってクリップが発生していると判定されたフレームに対応するマイク音信号(周波数スペクトル)以外を、推定ノイズを算出するためにマイク音信号として決定する。言い換えると、ノイズ推定対象判定部253は、クリップ検出部251によってクリップが発生していると判定されたフレームに対応するマイク音信号(周波数スペクトル)を、ノイズ推定を算出するためのマイク音信号(周波数スペクトル)として選択しない。
また、より具体的に説明すると、ノイズ推定対象判定部253は、推定ノイズを算出するためのマイク音信号(周波数スペクトル)として、推定ノイズを含むノイズ期間に対応するマイク音信号に対応する周波数スペクトル(以下、動作期間スペクトル、という)NSと、推定ノイズを含まない非ノイズ期間に対応するマイク音信号の周波数スペクトル(以下、フロアリングスペクトル、という)FSとを判定する。
このノイズ推定対象判定部253は、動作タイミング検出部191から入力する動作タイミング信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、動作部が動作する可能性の高い期間のうち駆動音が発生する可能性の高い期間(駆動音発生期間Tc)に取得される音信号に対応する周波数スペクトルを、動作期間スペクトルNSとして取得する。本実施形態において、ノイズ推定対象判定部253は、駆動音発生期間Tcに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い駆動音発生期間Tcの周波数スペクトルS5を動作期間スペクトルNSとして取得する。言い換えると、ノイズ推定対象判定部253は、非動作期間Taと時間軸方向に最も近い駆動音発生期間Tcの周波数スペクトルを、動作期間スペクトルNSとして取得する。
このノイズ推定対象判定部253は、動作タイミング検出部191から入力する動作タイミング信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、動作部が動作する可能性の高い期間のうち駆動音が発生する可能性の高い期間(駆動音発生期間Tc)に取得される音信号に対応する周波数スペクトルを、動作期間スペクトルNSとして取得する。本実施形態において、ノイズ推定対象判定部253は、駆動音発生期間Tcに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い駆動音発生期間Tcの周波数スペクトルS5を動作期間スペクトルNSとして取得する。言い換えると、ノイズ推定対象判定部253は、非動作期間Taと時間軸方向に最も近い駆動音発生期間Tcの周波数スペクトルを、動作期間スペクトルNSとして取得する。
また、ノイズ推定対象判定部253は、動作タイミング検出部191から入力する動作タイミング信号に基づき、音信号処理部252から出力される周波数スペクトルS1〜S14から、動作部が動作しない可能性の高い期間(非動作期間Ta)に取得される音信号に対応する一の周波数スペクトルを、フロアリングスペクトルFSとして取得する。本実施形態において、ノイズ推定対象判定部253は、非動作期間Taに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い非動作期間Taの周波数スペクトルS1をフロアリングスペクトルFSとして取得する。言い換えると、ノイズ推定対象判定部253は、駆動音発生期間Tcと時間軸方向に最も近い非動作期間Taの周波数スペクトルを、フロアリングスペクトルFSとして取得する。
本実施形態では、図3を参照して上述したとおり、衝撃音が発生している時刻t10〜t11を示す情報が、動作タイミング信号として、動作タイミング検出部191からノイズ推定対象判定部253に入力する。これにより、ノイズ推定対象判定部253は、例えば、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い非動作期間Taに対応する周波数スペクトルS1を、フロアリングスペクトルFSと判定する。また、ノイズ推定対象判定部253は、例えば、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い駆動音発生期間Tcに対応する周波数スペクトルS5を、動作期間スペクトルNSと判定する。
また、ノイズ推定対象判定部253は、クリップ検出部251の検出結果に基づき、判定した動作期間スペクトルNSとフロアリングスペクトルFSにおいて、クリップが発生しているか否かを判定する。
本実施形態では、図6を参照して上述したとおり、フレームF1においてクリップが発生していないが、フレームF5においてクリップが発生している。よって、ノイズ推定対象判定部253は、フロアリングスペクトルFSにはクリップが発生していないが、動作期間スペクトルNSにはクリップが発生していると判定する。
従って、ノイズ推定対象判定部253は、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に、周波数スペクトルS5の次に近い駆動音発生期間Tcに対応する周波数スペクトルS6においてクリップが発生しているか否かを判定する。本実施形態において、フレームF6にはクリップは発生していない。よって、ノイズ推定対象判定部253は、フレームF5の直後のフレームF6においてクリップが発生していないと判定し、フレームF5の直後のフレームF6に対応する周波数スペクトルを、動作期間スペクトルNSと判定する。
このようにして、ノイズ推定対象判定部253は、フレームF1に対応する周波数スペクトルS1をフロアリングスペクトルFSと判定し、フレームF6に対応する周波数スペクトルS6を動作期間スペクトルNSと判定したことを示す判定結果を示す情報を推定ノイズ算出部254に出力する。
本実施形態では、図6を参照して上述したとおり、フレームF1においてクリップが発生していないが、フレームF5においてクリップが発生している。よって、ノイズ推定対象判定部253は、フロアリングスペクトルFSにはクリップが発生していないが、動作期間スペクトルNSにはクリップが発生していると判定する。
従って、ノイズ推定対象判定部253は、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に、周波数スペクトルS5の次に近い駆動音発生期間Tcに対応する周波数スペクトルS6においてクリップが発生しているか否かを判定する。本実施形態において、フレームF6にはクリップは発生していない。よって、ノイズ推定対象判定部253は、フレームF5の直後のフレームF6においてクリップが発生していないと判定し、フレームF5の直後のフレームF6に対応する周波数スペクトルを、動作期間スペクトルNSと判定する。
このようにして、ノイズ推定対象判定部253は、フレームF1に対応する周波数スペクトルS1をフロアリングスペクトルFSと判定し、フレームF6に対応する周波数スペクトルS6を動作期間スペクトルNSと判定したことを示す判定結果を示す情報を推定ノイズ算出部254に出力する。
ここで、ノイズ推定対象判定部253の処理について、より詳細に説明する。
例えば、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い非動作期間Taに対応する周波数スペクトルS1(つまり、フロアリングスペクトルFSの第1候補)にクリップが発生している場合、ノイズ推定対象判定部253は、この第1候補の次に、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に近い非動作期間Taに対応する周波数スペクトルをフロアリングスペクトルFSの第2候補と判定する。そして、ノイズ推定対象判定部253は、クリップ検出部251の判定結果に基づき、第2候補のフロアリングスペクトルFSにクリップが発生しているか否かを判定する。クリップが発生している場合、ノイズ推定対象判定部253は、さらに第2候補の次に、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に近い非動作期間Taに対応する周波数スペクトルをフロアリングスペクトルFSの第3候補と判定し、同様にクリップの有無を判定する。一方、クリップが発生していない場合、ノイズ推定対象判定部253は、この第2候補をフロアリングスペクトルFSと判定する。
例えば、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い非動作期間Taに対応する周波数スペクトルS1(つまり、フロアリングスペクトルFSの第1候補)にクリップが発生している場合、ノイズ推定対象判定部253は、この第1候補の次に、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に近い非動作期間Taに対応する周波数スペクトルをフロアリングスペクトルFSの第2候補と判定する。そして、ノイズ推定対象判定部253は、クリップ検出部251の判定結果に基づき、第2候補のフロアリングスペクトルFSにクリップが発生しているか否かを判定する。クリップが発生している場合、ノイズ推定対象判定部253は、さらに第2候補の次に、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に近い非動作期間Taに対応する周波数スペクトルをフロアリングスペクトルFSの第3候補と判定し、同様にクリップの有無を判定する。一方、クリップが発生していない場合、ノイズ推定対象判定部253は、この第2候補をフロアリングスペクトルFSと判定する。
また、ノイズ推定対象判定部253は、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い駆動音発生期間Tcに対応する周波数スペクトルS5(つまり、動作期間スペクトルNSの第1候補)にクリップが発生している場合、この第1候補の次に、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に近い駆動音発生期間Tcに対応する周波数スペクトルを動作期間スペクトルNSの第2候補と判定する。そして、ノイズ推定対象判定部253は、クリップ検出部251の判定結果に基づき、第2候補の動作期間スペクトルNSにクリップが発生しているか否かを判定する。クリップが発生している場合、ノイズ推定対象判定部253は、さらに第2候補の次に、衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に近い駆動音発生期間Tcに対応する周波数スペクトルを動作期間スペクトルNSの第3候補と判定し、同様にクリップの有無を判定する。一方、クリップが発生していない場合、ノイズ推定対象判定部253は、この第2候補を動作期間スペクトルNSと判定する。
ここで、図8、9を参照して、クリップを含まないフレームの周波数スペクトルと、クリップを含むフレームの周波数スペクトルの一例について説明する。
図8は、クリップを含まない期間の周波数スペクトルの一例を示す図である。ここでは、図5を参照して上述したクリップを含まないフレームF105の周波数スペクトルS105の例を用いて、以下説明する。
図9は、クリップを含む期間の周波数スペクトルの一例を示す図である。ここでは、図6を参照して上述したクリップを含むフレームF5の周波数スペクトルS5の例を用いて、以下説明する。
なお、ここでは、説明簡略化のため、フレームF105のマイク音信号とフレームF5のマイク音信号は、クリップが発生していることを除いては、同じマイク音信号が含まれているものとする。
図8に示す通り、周波数スペクトルS105は、周波数f1〜f8にそれぞれ対応する周波数成分fc1051〜F1058を含む。
また、図9に示す通り、周波数スペクトルS5は、周波数f1〜f8にそれぞれ対応する周波数成分fc51〜F58を含む。
図8は、クリップを含まない期間の周波数スペクトルの一例を示す図である。ここでは、図5を参照して上述したクリップを含まないフレームF105の周波数スペクトルS105の例を用いて、以下説明する。
図9は、クリップを含む期間の周波数スペクトルの一例を示す図である。ここでは、図6を参照して上述したクリップを含むフレームF5の周波数スペクトルS5の例を用いて、以下説明する。
なお、ここでは、説明簡略化のため、フレームF105のマイク音信号とフレームF5のマイク音信号は、クリップが発生していることを除いては、同じマイク音信号が含まれているものとする。
図8に示す通り、周波数スペクトルS105は、周波数f1〜f8にそれぞれ対応する周波数成分fc1051〜F1058を含む。
また、図9に示す通り、周波数スペクトルS5は、周波数f1〜f8にそれぞれ対応する周波数成分fc51〜F58を含む。
周波数スペクトルS5と周波数スペクトルS105を比較すると、周波数スペクトルS105に含まれる高い周波数F7,8には、高周波成分fc1057、fc1058が含まれていない。一方、周波数スペクトルS5の高い周波数f7,8には、高周波成分fc57、fc58が含まれている。さらに、周波数f7、f8以外の周波数成分も差が発生している。
このように、クリップが含まれている場合、クリップ部の急激な波形変化(振幅が急激に変化するピーク値)の影響により、高い周波数成分の値が発生してしまう。つまり、クリップした期間のマイク音信号に基づき、動作期間スペクトルNSやフロアリングスペクトルFSを算出した場合、実際に発生した音の周波数スペクトルと異なる周波数スペクトルが得られる。よって、クリップが発生した期間の動作期間スペクトルNSやフロアリングスペクトルFSに基づき、推定ノイズを算出した場合、この高い周波数成分に起因する誤差が生じるおそれがある。
従って、クリップ部の影響により発生した高い周波数成分が含まれている動作期間スペクトルNSを用いて推定ノイズを算出し、算出した推定ノイズに基づきノイズ推定処理を行った場合、高い周波数成分を減算しすぎるおそれがある。
また、クリップ部の影響により発生した高い周波数成分が含まれているフロアリングスペクトルFSを用いて推定ノイズを算出し、算出した推定ノイズに基づきノイズ推定処理を行った場合、フロアリングスペクトルFSの高い周波数成分の周波数スペクトルを実際の値よりも大きく推定してしまうため、高い周波数成分に発生する動作音(ノイズ)を低減できず、ノイズの除去効果が低下するおそれがある。
従って、クリップ部の影響により発生した高い周波数成分が含まれている動作期間スペクトルNSを用いて推定ノイズを算出し、算出した推定ノイズに基づきノイズ推定処理を行った場合、高い周波数成分を減算しすぎるおそれがある。
また、クリップ部の影響により発生した高い周波数成分が含まれているフロアリングスペクトルFSを用いて推定ノイズを算出し、算出した推定ノイズに基づきノイズ推定処理を行った場合、フロアリングスペクトルFSの高い周波数成分の周波数スペクトルを実際の値よりも大きく推定してしまうため、高い周波数成分に発生する動作音(ノイズ)を低減できず、ノイズの除去効果が低下するおそれがある。
本実施形態に係る低減処理部250は、上述の通り、推定ノイズを算出する際に、クリップが発生していると判定された期間(フレーム)に対応するマイク音信号は、ノイズ推定を算出するためのマイク音信号として使用しない。つまり、ノイズ推定対象判定部253は、クリップが含まれている周波数スペクトルを、動作期間スペクトルNSおよびフロアリングスペクトルFSとしては判定しない。よって、クリップが発生しているマイク音信号を用いて、誤差を含む推定ノイズを算出してしまう事態を回避することができる。
また、図10、11を参照して、ノイズ推定対象判定部253が取得するフロアリングスペクトルFSと動作期間スペクトルNSの一例について説明する。図10は、フロアリングスペクトルFSの一例を示す図である。図11は、動作期間スペクトルNSの一例を示す図である。
図10には、ノイズ推定対象判定部253によってフロアリングスペクトルFSと判定された周波数スペクトルS1の一例を示す。この周波数スペクトルS1は、周波数f1〜f8にそれぞれ対応する周波数成分fc11〜fc18を含む。
図11には、ノイズ推定対象判定部253によって動作期間スペクトルNSと判定された周波数スペクトルS6の一例を示す。この周波数スペクトルS6は、周波数f1〜f8にそれぞれ対応する周波数成分fc61〜fc68を含む。
周波数スペクトルS1と周波数スペクトルS6を比較すると、周波数スペクトルS6の方が、それぞれの周波数成分における振幅が大きい。これは、周波数スペクトルS6に駆動音が含まれているからである。
図10には、ノイズ推定対象判定部253によってフロアリングスペクトルFSと判定された周波数スペクトルS1の一例を示す。この周波数スペクトルS1は、周波数f1〜f8にそれぞれ対応する周波数成分fc11〜fc18を含む。
図11には、ノイズ推定対象判定部253によって動作期間スペクトルNSと判定された周波数スペクトルS6の一例を示す。この周波数スペクトルS6は、周波数f1〜f8にそれぞれ対応する周波数成分fc61〜fc68を含む。
周波数スペクトルS1と周波数スペクトルS6を比較すると、周波数スペクトルS6の方が、それぞれの周波数成分における振幅が大きい。これは、周波数スペクトルS6に駆動音が含まれているからである。
推定ノイズ算出部254は、推定ノイズを算出するために用いるマイク音信号の期間であるとノイズ推定対象判定部253によって判定された期間(フレーム)に対応するマイク音信号(周波数スペクトル)に基づき、推定ノイズを算出する。この推定ノイズとは、動作部の動作によって発生する動作音として推定される音情報であって、動作部が動作する可能性の高い期間に収音されたノイズとして推定される音情報である。
本実施形態において、推定ノイズ算出部254は、ノイズを含むノイズ期間に対応するマイク音信号の周波数スペクトルから、ノイズを含まない非ノイズ期間に対応するマイク音信号の周波数スペクトルを減算した差分を、推定ノイズとして算出する。
具体的説明すると、推定ノイズ算出部254は、ノイズ推定対象判定部253の判定結果に基づき、動作期間スペクトルNSからフロアリングスペクトルFSを減算した差分を、推定ノイズとして算出する。よって、推定ノイズ算出部254は、周波数スペクトルS6から周波数スペクトルS1を減算した差分を推定ノイズとして算出する。このようにして、推定ノイズ算出部254が推定ノイズを算出する処理を、ノイズ推定処理という。
本実施形態において、推定ノイズ算出部254は、ノイズを含むノイズ期間に対応するマイク音信号の周波数スペクトルから、ノイズを含まない非ノイズ期間に対応するマイク音信号の周波数スペクトルを減算した差分を、推定ノイズとして算出する。
具体的説明すると、推定ノイズ算出部254は、ノイズ推定対象判定部253の判定結果に基づき、動作期間スペクトルNSからフロアリングスペクトルFSを減算した差分を、推定ノイズとして算出する。よって、推定ノイズ算出部254は、周波数スペクトルS6から周波数スペクトルS1を減算した差分を推定ノイズとして算出する。このようにして、推定ノイズ算出部254が推定ノイズを算出する処理を、ノイズ推定処理という。
ノイズ低減処理部255は、動作タイミング検出部191から入力する動作タイミング信号に基づき、動作部が動作する可能性の高い期間に取得される音信号の周波数スペクトルを取得する。このノイズ低減処理部255は、例えば、動作タイミング検出部191から入力する動作タイミング信号に基づき、音信号処理部252から出力される衝撃音発生期間Tbおよび駆動音発生期間Tcに対応する全ての周波数スペクトルS2〜S12を取得する。
本実施形態において、このノイズ低減処理部255は、動作タイミング信号に基づき、例えば、動作音が発生している可能性が高い期間から、衝撃音と駆動音の両方が発生している可能性の高い期間(衝撃音発生期間Tb)と、駆動音のみが発生している可能性の高い期間(駆動音発生期間Tc)とを、それぞれ区別して、周波数スペクトルを取得することが好ましい。詳細については後述するが、ノイズ低減処理部255は、衝撃音ノイズ低減処理と、駆動音ノイズ低減処理の両方を行うからである。
具体的に説明すると、ノイズ低減処理部255は、動作タイミング検出部191から入力する動作タイミング信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、駆動音のみが発生している可能性の高い期間(衝撃音発生期間Tb)に対応する周波数スペクトルS5〜S8と、衝撃音と駆動音の両方が発生している可能性の高い期間(衝撃音発生期間Tc)に対応する周波数スペクトルS2〜S4、S9〜S12を取得する。
本実施形態において、このノイズ低減処理部255は、動作タイミング信号に基づき、例えば、動作音が発生している可能性が高い期間から、衝撃音と駆動音の両方が発生している可能性の高い期間(衝撃音発生期間Tb)と、駆動音のみが発生している可能性の高い期間(駆動音発生期間Tc)とを、それぞれ区別して、周波数スペクトルを取得することが好ましい。詳細については後述するが、ノイズ低減処理部255は、衝撃音ノイズ低減処理と、駆動音ノイズ低減処理の両方を行うからである。
具体的に説明すると、ノイズ低減処理部255は、動作タイミング検出部191から入力する動作タイミング信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、駆動音のみが発生している可能性の高い期間(衝撃音発生期間Tb)に対応する周波数スペクトルS5〜S8と、衝撃音と駆動音の両方が発生している可能性の高い期間(衝撃音発生期間Tc)に対応する周波数スペクトルS2〜S4、S9〜S12を取得する。
つまり、ノイズ低減処理部255は、動作タイミング信号に基づき、衝撃音が発生している可能性の高い期間を動作開始タイミング期間と判定する。そして、ノイズ低減処理部255は、この期間に取得されるマイク音信号の周波数スペクトルS2〜4を、衝撃音と駆動音の両方を含むマイク音信号の周波数スペクトルとして取得する。
また、ノイズ低減処理部255は、動作タイミング信号に基づき、衝撃音が発生している可能性の高い期間を動作停止タイミング期間と判定する。そして、ノイズ低減処理部255は、この期間に取得されるマイク音信号の周波数スペクトルS9〜12を、衝撃音と駆動音の両方を含むマイク音信号の周波数スペクトルとして取得する。
さらに、ノイズ低減処理部255は、動作タイミング信号に基づき、駆動音が発生している可能性の高い期間を、動作開始タイミング期間の終了点から動作停止タイミング期間の開始点までの期間と判定する。そして、ノイズ低減処理部255は、この期間に取得されるマイク音信号の周波数スペクトルS5〜S8を、駆動音を含むマイク音信号の周波数スペクトルとして取得する。
また、ノイズ低減処理部255は、動作タイミング信号に基づき、衝撃音が発生している可能性の高い期間を動作停止タイミング期間と判定する。そして、ノイズ低減処理部255は、この期間に取得されるマイク音信号の周波数スペクトルS9〜12を、衝撃音と駆動音の両方を含むマイク音信号の周波数スペクトルとして取得する。
さらに、ノイズ低減処理部255は、動作タイミング信号に基づき、駆動音が発生している可能性の高い期間を、動作開始タイミング期間の終了点から動作停止タイミング期間の開始点までの期間と判定する。そして、ノイズ低減処理部255は、この期間に取得されるマイク音信号の周波数スペクトルS5〜S8を、駆動音を含むマイク音信号の周波数スペクトルとして取得する。
このノイズ低減処理部255は、取得した周波数スペクトルS2〜S12に対して、動作パターンに応じて予め決められている駆動音によるノイズを低減するノイズ低減処理を行う。
例えば、ノイズ低減処理部255は、衝撃音と駆動音の両方を含むマイク音信号の周波数スペクトルに対して、衝撃音に対応する周波数スペクトルを低減する衝撃音低減処理を実行する。
また、ノイズ低減処理部255は、動作音を含むマイク音信号の周波数スペクトルに対して、駆動音に対応する周波数スペクトルを低減する駆動音低減処理を実行する。このノイズ低減処理部255は、衝撃音低減処理を実行した周波数スペクトルS2〜S4とS9〜S12、および駆動音のみを含むマイク音信号の周波数スペクトルS5〜S8の両方に対して、駆動音低減処理を実行することが好ましい。本実施形態において、ノイズ低減処理部255は、衝撃音低減処理を実行した周波数スペクトルを含む動作時の全ての周波数スペクトルに対して駆動音低減処理を実行する例について説明する。
例えば、ノイズ低減処理部255は、衝撃音と駆動音の両方を含むマイク音信号の周波数スペクトルに対して、衝撃音に対応する周波数スペクトルを低減する衝撃音低減処理を実行する。
また、ノイズ低減処理部255は、動作音を含むマイク音信号の周波数スペクトルに対して、駆動音に対応する周波数スペクトルを低減する駆動音低減処理を実行する。このノイズ低減処理部255は、衝撃音低減処理を実行した周波数スペクトルS2〜S4とS9〜S12、および駆動音のみを含むマイク音信号の周波数スペクトルS5〜S8の両方に対して、駆動音低減処理を実行することが好ましい。本実施形態において、ノイズ低減処理部255は、衝撃音低減処理を実行した周波数スペクトルを含む動作時の全ての周波数スペクトルに対して駆動音低減処理を実行する例について説明する。
衝撃音低減処理については後述する。
駆動音低減処理において、ノイズ低減処理部255は、推定ノイズ算出部254によって決定された推定ノイズの周波数スペクトルを、動作部が動作している可能性の高い期間に取得される音信号の周波数スペクトルから減算するスペクトル減算法に従った処理を実行する。
本実施形態において、ノイズ低減処理部255は、推定ノイズ算出部254によって算出された推定ノイズを記憶部257から読み出し、読み出した推定ノイズを用いてノイズ低減処理を実行する。しかし、現時点から予め決められた時間だけ遡った期間内に推定ノイズ算出部254によって推定ノイズが算出されなかった場合は、ノイズ低減処理部255は、動作パターンに応じて予め決められている設定ノイズを表わす周波数スペクトルを、動作部が動作している可能性の高い期間に取得される音信号の周波数スペクトルから減算する周波数スペクトル減算法を実行するものであってもよい。
駆動音低減処理において、ノイズ低減処理部255は、推定ノイズ算出部254によって決定された推定ノイズの周波数スペクトルを、動作部が動作している可能性の高い期間に取得される音信号の周波数スペクトルから減算するスペクトル減算法に従った処理を実行する。
本実施形態において、ノイズ低減処理部255は、推定ノイズ算出部254によって算出された推定ノイズを記憶部257から読み出し、読み出した推定ノイズを用いてノイズ低減処理を実行する。しかし、現時点から予め決められた時間だけ遡った期間内に推定ノイズ算出部254によって推定ノイズが算出されなかった場合は、ノイズ低減処理部255は、動作パターンに応じて予め決められている設定ノイズを表わす周波数スペクトルを、動作部が動作している可能性の高い期間に取得される音信号の周波数スペクトルから減算する周波数スペクトル減算法を実行するものであってもよい。
逆フーリエ変換部256は、ノイズ低減処理部255から入力された周波数スペクトルに対して、例えば逆フーリエ変換、あるいは逆高速フーリエ変換(IFFT:Inverse Fast Fourier Transform)を行うことで、時間領域に変換する。
通信部170は、この逆フーリエ変換部256によって時間領域に変換された音信号を記憶媒体200に記憶させる。なお、通信部170は、時間領域に変換された音信号と、撮像素子119により撮像された画像データとを、対応する日時情報を有する同士で対応付けて、記憶媒体200に記憶させてもよく、音信号を含む動画として記憶してもよい。
通信部170は、この逆フーリエ変換部256によって時間領域に変換された音信号を記憶媒体200に記憶させる。なお、通信部170は、時間領域に変換された音信号と、撮像素子119により撮像された画像データとを、対応する日時情報を有する同士で対応付けて、記憶媒体200に記憶させてもよく、音信号を含む動画として記憶してもよい。
推定ノイズ更新部258は、推定ノイズ算出部254によって算出された推定ノイズを示す情報を記憶部257に登録する。
次に、図12を参照して、本発明に係るノイズ低減処理方法の一例について説明する。図12は、本発明に係るノイズ低減処理方法の一例を示すフローチャートである。
例えば、操作部180の電源スイッチがONされると、撮像装置100に電源が投入され、電池260から各構成部に対して電力が供給される。本実施形態では、撮像装置100に対して、撮像時の画像データと音声データとを対応付けて記憶媒体200に記憶させることが予め設定されている。
例えば、操作部180の電源スイッチがONされると、撮像装置100に電源が投入され、電池260から各構成部に対して電力が供給される。本実施形態では、撮像装置100に対して、撮像時の画像データと音声データとを対応付けて記憶媒体200に記憶させることが予め設定されている。
(ステップST1)
マイク230は、例えば、電源がONされると、収音されたマイク音信号をA/D変換部240に出力する。A/D変換部240は、アナログ信号であるマイク音信号をデジタル変換したマイク音信号を低減処理部250に出力する。
低減処理部250は、A/D変換部240からマイク音信号を入力する。
マイク230は、例えば、電源がONされると、収音されたマイク音信号をA/D変換部240に出力する。A/D変換部240は、アナログ信号であるマイク音信号をデジタル変換したマイク音信号を低減処理部250に出力する。
低減処理部250は、A/D変換部240からマイク音信号を入力する。
(ステップST2)
そして、低減処理部250のクリップ検出部251は、A/D変換部240から入力するマイク音信号にクリップ部が含まれているか否かを判定する。なお、クリップ検出部251は、例えば、フレーム単位に区切られたマイク音信号に基づき、順次クリップ部が含まれているか否かを判定する。
そして、クリップ部が含まれていると判定した場合、クリップ検出部251は、当該マイク音信号にクリップ部が含まれていることを示す情報をノイズ推定対象判定部253に出力する。
なお、クリップ検出部251は、これに限られず、クリップ部が検出された時刻を示す情報や、この検出されたクリップ部の時間軸方向における位置(時刻)や長さ等を示す情報をノイズ推定対象判定部253に出力してもよい。
そして、低減処理部250のクリップ検出部251は、A/D変換部240から入力するマイク音信号にクリップ部が含まれているか否かを判定する。なお、クリップ検出部251は、例えば、フレーム単位に区切られたマイク音信号に基づき、順次クリップ部が含まれているか否かを判定する。
そして、クリップ部が含まれていると判定した場合、クリップ検出部251は、当該マイク音信号にクリップ部が含まれていることを示す情報をノイズ推定対象判定部253に出力する。
なお、クリップ検出部251は、これに限られず、クリップ部が検出された時刻を示す情報や、この検出されたクリップ部の時間軸方向における位置(時刻)や長さ等を示す情報をノイズ推定対象判定部253に出力してもよい。
(ステップST3)
音信号処理部252は、A/D変換部240から出力されたマイク音信号に対して、予め決められたフレームごとに窓関数で重み付けするとともに、このフレーム毎のマイク音信号を周波数領域で表わされるスペクトルに変換して、この周波数領域で表わされるスペクトル(周波数スペクトル)を推定ノイズ算出部254およびノイズ低減処理部255に出力する。
本実施形態において、音信号処理部252は、図3を参照して説明したようなマイク音信号にフーリエ変換を行うことで、例えば、窓関数W1〜W14の各フレームに対応する周波数スペクトルS1〜14を算出し、推定ノイズ算出部254およびノイズ低減処理部255に出力する。なお、音信号処理部252は、入力したマイク音信号を順次、窓関数を用いて周波数スペクトルに変換する。ここでは、説明便宜のため、周波数スペクトルS1〜S14を例に、以下説明する。
音信号処理部252は、A/D変換部240から出力されたマイク音信号に対して、予め決められたフレームごとに窓関数で重み付けするとともに、このフレーム毎のマイク音信号を周波数領域で表わされるスペクトルに変換して、この周波数領域で表わされるスペクトル(周波数スペクトル)を推定ノイズ算出部254およびノイズ低減処理部255に出力する。
本実施形態において、音信号処理部252は、図3を参照して説明したようなマイク音信号にフーリエ変換を行うことで、例えば、窓関数W1〜W14の各フレームに対応する周波数スペクトルS1〜14を算出し、推定ノイズ算出部254およびノイズ低減処理部255に出力する。なお、音信号処理部252は、入力したマイク音信号を順次、窓関数を用いて周波数スペクトルに変換する。ここでは、説明便宜のため、周波数スペクトルS1〜S14を例に、以下説明する。
ここで、ユーザによって、例えば操作部180のレリーズボタンが押下されたとする。この場合、レンズCPU120は、AF処理において、例えば距離Pでピントを合わせるAF処理を実行するためのコマンドを、レンズ駆動部116と動作タイミング検出部191に出力する。
このレンズ駆動部116は、入力するコマンドに基づき、距離Pでピントを合わせる動作パターンに従って、AFレンズ112を移動させる。例えば、レンズ駆動部116は、AFレンズ112の駆動機構を時計回りCWに所定量回転させて、AFレンズ112を光軸に沿って移動させる。なお、この駆動機構を回転させる回転量やスピードは、距離Pでピントを合わせる動作パターンとして、予め決められている。
AFレンズ112が動くと、AFエンコーダ117は、パルス信号をボディCPU190に出力する。このボディCPU190は、AFエンコーダ117からパルス信号が入力されたことを示す情報を動作タイミング検出部191に出力する。動いていたAFレンズ112が停止すると、AFエンコーダ117は、ボディCPU190へのパルス信号の出力を停止させる。このボディCPU190は、AFエンコーダ117からのパルス信号の出力が停止されたことを示す情報を動作タイミング検出部191に出力する。
このレンズ駆動部116は、入力するコマンドに基づき、距離Pでピントを合わせる動作パターンに従って、AFレンズ112を移動させる。例えば、レンズ駆動部116は、AFレンズ112の駆動機構を時計回りCWに所定量回転させて、AFレンズ112を光軸に沿って移動させる。なお、この駆動機構を回転させる回転量やスピードは、距離Pでピントを合わせる動作パターンとして、予め決められている。
AFレンズ112が動くと、AFエンコーダ117は、パルス信号をボディCPU190に出力する。このボディCPU190は、AFエンコーダ117からパルス信号が入力されたことを示す情報を動作タイミング検出部191に出力する。動いていたAFレンズ112が停止すると、AFエンコーダ117は、ボディCPU190へのパルス信号の出力を停止させる。このボディCPU190は、AFエンコーダ117からのパルス信号の出力が停止されたことを示す情報を動作タイミング検出部191に出力する。
動作タイミング検出部191は、入力するコマンドやAFエンコーダ117の出力に基づき、距離Pでピントを合わせる動作パターンに従って、動作タイミング信号を生成し、低減処理部250に出力する。
例えば、距離Pでピントを合わせるAF処理を実行するためのコマンドをレンズCPU120から入力した場合、動作タイミング検出部191は、AFレンズ112の動作開始タイミングt10に対応する衝撃音発生期間(動作開始タイミング期間)t10〜t11を示す動作タイミング信号を生成し、低減処理部250に出力する。
例えば、距離Pでピントを合わせるAF処理を実行するためのコマンドをレンズCPU120から入力した場合、動作タイミング検出部191は、AFレンズ112の動作開始タイミングt10に対応する衝撃音発生期間(動作開始タイミング期間)t10〜t11を示す動作タイミング信号を生成し、低減処理部250に出力する。
(ステップST4)
そして、ノイズ推定対象判定部253は、動作タイミング検出部191から動作タイミング信号が入力されたか否かを判定する。
(ステップST5)
動作タイミング検出部191から動作タイミング信号が入力された場合、ノイズ推定対象判定部253は、この動作タイミング信号に基づき、音信号処理部252から入力する周波数スペクトルS1〜S14から、推定ノイズを算出するための周波数スペクトル、つまり、動作期間スペクトルNSおよびフロアリングスペクトルFSに相当する周波数スペクトルを決定する。
本実施形態において、ノイズ推定対象判定部253は、動作タイミング検出部191から入力される動作タイミング信号に基づき、駆動音発生期間Tcに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い駆動音発生期間Tcの周波数スペクトルS5を動作期間スペクトルNSとして取得する。
また、ノイズ推定対象判定部253は、動作タイミング検出部191から入力される動作タイミング信号に基づき、非動作期間Taに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い非動作期間Taの周波数スペクトルS1をフロアリングスペクトルFSとして取得する。
そして、ノイズ推定対象判定部253は、動作タイミング検出部191から動作タイミング信号が入力されたか否かを判定する。
(ステップST5)
動作タイミング検出部191から動作タイミング信号が入力された場合、ノイズ推定対象判定部253は、この動作タイミング信号に基づき、音信号処理部252から入力する周波数スペクトルS1〜S14から、推定ノイズを算出するための周波数スペクトル、つまり、動作期間スペクトルNSおよびフロアリングスペクトルFSに相当する周波数スペクトルを決定する。
本実施形態において、ノイズ推定対象判定部253は、動作タイミング検出部191から入力される動作タイミング信号に基づき、駆動音発生期間Tcに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い駆動音発生期間Tcの周波数スペクトルS5を動作期間スペクトルNSとして取得する。
また、ノイズ推定対象判定部253は、動作タイミング検出部191から入力される動作タイミング信号に基づき、非動作期間Taに対応する周波数スペクトルのうち、動作開始タイミング期間(t10〜t11)と時間軸方向に最も近い非動作期間Taの周波数スペクトルS1をフロアリングスペクトルFSとして取得する。
(ステップST6)
次いで、ノイズ推定対象判定部253は、クリップ検出部251から入力する情報に基づき、フロアリングスペクトルFSおよび動作期間スペクトルNSと判定したそれぞれの周波数スペクトルS1,S5において、クリップが発生しているか否かを判定する。
本実施形態において、フロアリングスペクトルFSである周波数スペクトルS1にはクリップは発生していないが、動作期間スペクトルNSである周波数スペクトルS5にはクリップが発生している。よって、ノイズ推定対象判定部253は、動作期間スペクトルNSにクリップが発生していると判定する。
次いで、ノイズ推定対象判定部253は、クリップ検出部251から入力する情報に基づき、フロアリングスペクトルFSおよび動作期間スペクトルNSと判定したそれぞれの周波数スペクトルS1,S5において、クリップが発生しているか否かを判定する。
本実施形態において、フロアリングスペクトルFSである周波数スペクトルS1にはクリップは発生していないが、動作期間スペクトルNSである周波数スペクトルS5にはクリップが発生している。よって、ノイズ推定対象判定部253は、動作期間スペクトルNSにクリップが発生していると判定する。
(ステップST7)
フロアリングスペクトルFSあるいは動作期間スペクトルNSのうち少なくともいずれか一方にクリップが発生していると判定された場合、ノイズ推定対象判定部253は、クリップ検出部251から入力される情報に基づき、クリップの発生していない期間の周波数スペクトルを、フロアリングスペクトルFSあるいは動作期間スペクトルNSと判定する。
本実施形態において、ノイズ推定対象判定部253は、フロアリングスペクトルFSにはクリップが発生していないが、動作期間スペクトルNSにはクリップが発生していると判定している。
従って、ノイズ推定対象判定部253は、フレームF5の直後のフレームF6においてクリップが発生しているか否かを判定する。本実施形態において、フレームF6にはクリップは発生していない。よって、ノイズ推定対象判定部253は、フレームF5の直後のフレームF6においてクリップが発生していないと判定し、フレームF5の直後のフレームF6に対応する周波数スペクトルを、動作期間スペクトルNSと判定する。
そして、ノイズ推定対象判定部253は、フレームF1に対応する周波数スペクトルS1をフロアリングスペクトルFSと判定し、フレームF6に対応する周波数スペクトルS6を動作期間スペクトルNSと判定したことを示す判定結果を示す情報を推定ノイズ算出部254に出力する。
フロアリングスペクトルFSあるいは動作期間スペクトルNSのうち少なくともいずれか一方にクリップが発生していると判定された場合、ノイズ推定対象判定部253は、クリップ検出部251から入力される情報に基づき、クリップの発生していない期間の周波数スペクトルを、フロアリングスペクトルFSあるいは動作期間スペクトルNSと判定する。
本実施形態において、ノイズ推定対象判定部253は、フロアリングスペクトルFSにはクリップが発生していないが、動作期間スペクトルNSにはクリップが発生していると判定している。
従って、ノイズ推定対象判定部253は、フレームF5の直後のフレームF6においてクリップが発生しているか否かを判定する。本実施形態において、フレームF6にはクリップは発生していない。よって、ノイズ推定対象判定部253は、フレームF5の直後のフレームF6においてクリップが発生していないと判定し、フレームF5の直後のフレームF6に対応する周波数スペクトルを、動作期間スペクトルNSと判定する。
そして、ノイズ推定対象判定部253は、フレームF1に対応する周波数スペクトルS1をフロアリングスペクトルFSと判定し、フレームF6に対応する周波数スペクトルS6を動作期間スペクトルNSと判定したことを示す判定結果を示す情報を推定ノイズ算出部254に出力する。
(ステップST8)
推定ノイズ算出部254は、ノイズ推定対象判定部253の判定結果に基づき、推定ノイズを算出するために用いるマイク音信号の期間であるとノイズ推定対象判定部253によって判定された期間(フレーム)に対応するマイク音信号(周波数スペクトル)に基づき、推定ノイズを算出する。
この推定ノイズ算出部254は、例えば、動作期間スペクトルNSから、フロアリングスペクトルFSを減算した差分を、推定ノイズとして算出する。つまり、推定ノイズ算出部254は、周波数スペクトルS6から周波数スペクトルS1を減算した差分を推定ノイズとして算出する。
そして、推定ノイズ算出部254は、算出した推定ノイズを示す情報をノイズ低減処理部255に出力する。
推定ノイズ算出部254は、ノイズ推定対象判定部253の判定結果に基づき、推定ノイズを算出するために用いるマイク音信号の期間であるとノイズ推定対象判定部253によって判定された期間(フレーム)に対応するマイク音信号(周波数スペクトル)に基づき、推定ノイズを算出する。
この推定ノイズ算出部254は、例えば、動作期間スペクトルNSから、フロアリングスペクトルFSを減算した差分を、推定ノイズとして算出する。つまり、推定ノイズ算出部254は、周波数スペクトルS6から周波数スペクトルS1を減算した差分を推定ノイズとして算出する。
そして、推定ノイズ算出部254は、算出した推定ノイズを示す情報をノイズ低減処理部255に出力する。
(ステップST9)
次いで、ノイズ低減処理部255は、推定ノイズ算出部254から入力する推定ノイズを示す情報に基づき、音信号処理部252から入力する周波数スペクトルに対してノイズ低減処理を実行する。そして、ノイズ低減処理部255は、ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部256に出力する。
次いで、ノイズ低減処理部255は、推定ノイズ算出部254から入力する推定ノイズを示す情報に基づき、音信号処理部252から入力する周波数スペクトルに対してノイズ低減処理を実行する。そして、ノイズ低減処理部255は、ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部256に出力する。
(ステップST10)
そして、逆フーリエ変換部256は、ノイズ低減処理部255から入力される周波数スペクトルに対して、例えば逆フーリエ変換、あるいは逆高速フーリエ変換(IFFT:Inverse Fast Fourier Transform)を行うことで、時間領域に変換する。
次いで、通信部170は、この逆フーリエ変換部256によって時間領域に変換された音信号を記憶媒体200に記憶させる。
そして、逆フーリエ変換部256は、ノイズ低減処理部255から入力される周波数スペクトルに対して、例えば逆フーリエ変換、あるいは逆高速フーリエ変換(IFFT:Inverse Fast Fourier Transform)を行うことで、時間領域に変換する。
次いで、通信部170は、この逆フーリエ変換部256によって時間領域に変換された音信号を記憶媒体200に記憶させる。
上述の通り、本実施形態に係る低減処理部250によれば、マイク音信号にクリップが発生している場合、推定ノイズを算出する際に、クリップが発生していると判定された期間(フレーム)に対応するマイク音信号は、ノイズ推定を算出するためのマイク音信号として使用しない。よって、クリップが発生しているマイク音信号を用いて、誤差を含む推定ノイズを算出してしまう事態を回避することができる。
次に、図12に示したステップST9の詳細な処理の一例について説明する。
ノイズ低減処理部255は、音信号処理部252から入力する周波数スペクトルに対して衝撃音ノイズ低減処理を実行した後、駆動音ノイズ低減処理を実行する。
ノイズ低減処理部255の衝撃音ノイズ低減処理部2551は、音信号処理部252から入力する周波数スペクトルに対して衝撃音ノイズ低減処理を実行する。この衝撃音ノイズ低減処理部2551は、衝撃音と駆動音が発生している可能性の高い期間に対応する周波数スペクトル(以下、衝撃音処理周波数スペクトルという)と、衝撃音が発生していない可能性の高い期間に対応する周波数スペクトル(以下、衝撃音フロアリングスペクトルという)を取得する。衝撃音ノイズ低減処理部2551は、取得した衝撃音処理周波数スペクトルの少なくとも一部を、衝撃音フロアリングスペクトルの対応する部分に置き換える衝撃音ノイズ低減処理を実行する。
ノイズ低減処理部255は、音信号処理部252から入力する周波数スペクトルに対して衝撃音ノイズ低減処理を実行した後、駆動音ノイズ低減処理を実行する。
ノイズ低減処理部255の衝撃音ノイズ低減処理部2551は、音信号処理部252から入力する周波数スペクトルに対して衝撃音ノイズ低減処理を実行する。この衝撃音ノイズ低減処理部2551は、衝撃音と駆動音が発生している可能性の高い期間に対応する周波数スペクトル(以下、衝撃音処理周波数スペクトルという)と、衝撃音が発生していない可能性の高い期間に対応する周波数スペクトル(以下、衝撃音フロアリングスペクトルという)を取得する。衝撃音ノイズ低減処理部2551は、取得した衝撃音処理周波数スペクトルの少なくとも一部を、衝撃音フロアリングスペクトルの対応する部分に置き換える衝撃音ノイズ低減処理を実行する。
先に、ノイズ低減処理部255の衝撃音ノイズ低減処理部2551の処理の一例について説明する。
衝撃音ノイズ低減処理部2551は、動作タイミング検出部191から入力する動作タイミング信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、衝撃音が発生している可能性の高い期間に対応する周波数スペクトル(以下、衝撃音処理周波数スペクトルという)を取得する。例えば、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、衝撃音処理周波数スペクトルとして取得する。また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を、衝撃音処理周波数スペクトルとして取得する。
衝撃音ノイズ低減処理部2551は、動作タイミング検出部191から入力する動作タイミング信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、衝撃音が発生している可能性の高い期間に対応する周波数スペクトル(以下、衝撃音処理周波数スペクトルという)を取得する。例えば、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、衝撃音処理周波数スペクトルとして取得する。また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を、衝撃音処理周波数スペクトルとして取得する。
また、衝撃音ノイズ低減処理部2551は、動作タイミング検出部191から入力する動作タイミング信号に基づき、音信号処理部252から出力される周波数スペクトルS1〜S14から、衝撃音が発生していない可能性の高い期間に対応する周波数スペクトル(以下、衝撃音フロアリングスペクトルという)を取得する。この衝撃音ノイズ低減処理部2551は、衝撃音を含んでいる可能性の高い衝撃音処理周波数スペクトルごとに、この衝撃音を含む可能性の低い衝撃音フロアリングスペクトルを取得する。本実施形態において、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルと時間軸方向において最も近い衝撃音処理周波数スペクトル以外の周波数スペクトルを衝撃音フロアリングスペクトルとして取得する。つまり、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルと時間軸方向に隣接あるいは重複する衝撃音処理周波数スペクトル以外の周波数スペクトルを衝撃音フロアリングスペクトルとして取得する。
なお、本実施形態において、衝撃音フロアリングスペクトルは、衝撃音が発生していない可能性の高い期間に対応する周波数スペクトルである。しかし、本発明はこれに限られず、衝撃音フロアリングスペクトルは、動作部の動作によって発生するノイズ音が発生しない可能性の高い期間に対応する周波数スペクトルであることが好ましい。
そして、ノイズ低減処理部255の駆動音ノイズ低減処理部2552は、音信号処理部252から入力する周波数スペクトルと、衝撃音ノイズ低減処理部2551から入力する衝撃音ノイズ低減処理後の周波数スペクトルに基づき、駆動音ノイズ低減処理を実行する。
この駆動音ノイズ低減処理部2552は、例えば、衝撃音発生期間t10〜t11を示す動作タイミング信号と、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、駆動音が発生している可能性のある期間に対応する周波数スペクトルS2〜S12を、駆動音処理周波数スペクトルとして取得する。
この駆動音ノイズ低減処理部2552は、取得した駆動音処理周波数スペクトルS2〜S12のうち、衝撃音ノイズ低減処理後の周波数スペクトルに対応する周波数スペクトルをS2〜S4、S9〜S12を、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12に置き換える。そして、駆動音ノイズ低減処理部2552は、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12と、周波数スペクトルS5〜S7に対して駆動音ノイズ低減処理を実行する。つまり、駆動音ノイズ低減処理部2552は、衝撃音ノイズ低減処理後の駆動音処理周波数スペクトルS´2〜S´4、S5〜7、S´9〜S´12の周波数成分から、それぞれ、推定ノイズ算出部254によって算出された推定ノイズの周波数成分を減算する。駆動音ノイズ低減処理部2552は、この駆動音ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部256に出力する。
この駆動音ノイズ低減処理部2552は、例えば、衝撃音発生期間t10〜t11を示す動作タイミング信号と、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、駆動音が発生している可能性のある期間に対応する周波数スペクトルS2〜S12を、駆動音処理周波数スペクトルとして取得する。
この駆動音ノイズ低減処理部2552は、取得した駆動音処理周波数スペクトルS2〜S12のうち、衝撃音ノイズ低減処理後の周波数スペクトルに対応する周波数スペクトルをS2〜S4、S9〜S12を、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12に置き換える。そして、駆動音ノイズ低減処理部2552は、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12と、周波数スペクトルS5〜S7に対して駆動音ノイズ低減処理を実行する。つまり、駆動音ノイズ低減処理部2552は、衝撃音ノイズ低減処理後の駆動音処理周波数スペクトルS´2〜S´4、S5〜7、S´9〜S´12の周波数成分から、それぞれ、推定ノイズ算出部254によって算出された推定ノイズの周波数成分を減算する。駆動音ノイズ低減処理部2552は、この駆動音ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部256に出力する。
ここで、図13を参照して、衝撃音ノイズ低減処理部2551が取得する衝撃音処理周波数スペクトルと衝撃音フロアリングスペクトルとの関係の一例について説明する。図13は、衝撃音ノイズ低減処理部2551が取得する衝撃音処理周波数スペクトルと衝撃音フロアリングスペクトルの一例を説明するための図である。
例えば、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、衝撃音処理周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS2、3に最も近い非動作期間Taに対応する周波数スペクトルS1を、衝撃音処理周波数スペクトルである周波数スペクトルS2、S3に対応する衝撃音フロアリングスペクトルと判定する。
また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS4に最も近い駆動音発生期間Tcに対応する周波数スペクトルS5を、衝撃音処理周波数スペクトルである周波数スペクトルS4に対応する衝撃音フロアリングスペクトルと判定する。
例えば、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、衝撃音処理周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS2、3に最も近い非動作期間Taに対応する周波数スペクトルS1を、衝撃音処理周波数スペクトルである周波数スペクトルS2、S3に対応する衝撃音フロアリングスペクトルと判定する。
また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t10〜t11を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS4に最も近い駆動音発生期間Tcに対応する周波数スペクトルS5を、衝撃音処理周波数スペクトルである周波数スペクトルS4に対応する衝撃音フロアリングスペクトルと判定する。
また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を、衝撃音処理周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS9、10に最も近い駆動音発生期間Tcに対応する周波数スペクトルS8を、衝撃音処理周波数スペクトルである周波数スペクトルS9、10に対応する衝撃音フロアリングスペクトルと判定する。
また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS11、12に最も近い非動作期間Taに対応する周波数スペクトルS13を、衝撃音処理周波数スペクトルである周波数スペクトルS11、12に対応する衝撃音フロアリングスペクトルと判定する。
そして、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS9、10に最も近い駆動音発生期間Tcに対応する周波数スペクトルS8を、衝撃音処理周波数スペクトルである周波数スペクトルS9、10に対応する衝撃音フロアリングスペクトルと判定する。
また、衝撃音ノイズ低減処理部2551は、衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音処理周波数スペクトルである周波数スペクトルS11、12に最も近い非動作期間Taに対応する周波数スペクトルS13を、衝撃音処理周波数スペクトルである周波数スペクトルS11、12に対応する衝撃音フロアリングスペクトルと判定する。
さらに、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルの少なくとも一部を、衝撃音フロアリングスペクトルの対応する部分に置き換える。
例えば、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルのうち予め決められた閾値周波数以上の周波数スペクトルと、衝撃音フロアリングスペクトルのうち予め決められた閾値周波数以上の周波数スペクトルとを、周波数成分ごとに比較する。そして、衝撃音フロアリングスペクトルの方が衝撃音処理周波数スペクトルに比べて小さいと判定した場合に、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルにおける当該周波数成分を衝撃音フロアリングスペクトルの周波数成分に置き換える。
例えば、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルのうち予め決められた閾値周波数以上の周波数スペクトルと、衝撃音フロアリングスペクトルのうち予め決められた閾値周波数以上の周波数スペクトルとを、周波数成分ごとに比較する。そして、衝撃音フロアリングスペクトルの方が衝撃音処理周波数スペクトルに比べて小さいと判定した場合に、衝撃音ノイズ低減処理部2551は、衝撃音処理周波数スペクトルにおける当該周波数成分を衝撃音フロアリングスペクトルの周波数成分に置き換える。
図14を参照して詳細に説明する。図14は、一部の周波数スペクトルの周波数成分の一例について説明するための図である。なお、本実施の形態では、説明便宜のため、図3に示すマイク音信号のうち、窓関数W1,W3,W5,W7,W11,W13に対応する周波数スペクトルS1,S3,S5,S7,S11,S13について説明する。
図14に示す通り、周波数スペクトルS1,S3,S5,S7,S11,S13は、それぞれ、周波数成分f1〜f9の周波数成分を含む。
例えば、衝撃音ノイズ低減処理部2551は、各周波数スペクトルの閾値周波数以上の周波数成分として、周波数成分f3〜f9について、衝撃音処理周波数スペクトルと衝撃音フロアリングスペクトルを比較することが予め決められている。よって、衝撃音ノイズ低減処理部2551は、周波数成分f1,f2については、衝撃音処理周波数スペクトルと衝撃音フロアリングスペクトルを比較しない。
図14に示す通り、周波数スペクトルS1,S3,S5,S7,S11,S13は、それぞれ、周波数成分f1〜f9の周波数成分を含む。
例えば、衝撃音ノイズ低減処理部2551は、各周波数スペクトルの閾値周波数以上の周波数成分として、周波数成分f3〜f9について、衝撃音処理周波数スペクトルと衝撃音フロアリングスペクトルを比較することが予め決められている。よって、衝撃音ノイズ低減処理部2551は、周波数成分f1,f2については、衝撃音処理周波数スペクトルと衝撃音フロアリングスペクトルを比較しない。
次いで、図15を参照して、周波数スペクトルS1とS3について、衝撃音ノイズ低減処理部2551による衝撃音ノイズ低減処理の一例について説明する。
図15は、周波数スペクトルS1とS3の周波数成分ごとに、振幅の比較について説明するための図である。
例えば、衝撃音ノイズ低減処理部2551は、周波数スペクトルS1の周波数成分f3の振幅と、周波数スペクトルS3の周波数成分f3の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f3の振幅の方が、周波数スペクトルS3の周波数成分f3の振幅に比べて小さい。よって、衝撃音ノイズ低減処理部2551は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換える。
図15は、周波数スペクトルS1とS3の周波数成分ごとに、振幅の比較について説明するための図である。
例えば、衝撃音ノイズ低減処理部2551は、周波数スペクトルS1の周波数成分f3の振幅と、周波数スペクトルS3の周波数成分f3の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f3の振幅の方が、周波数スペクトルS3の周波数成分f3の振幅に比べて小さい。よって、衝撃音ノイズ低減処理部2551は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換える。
また、衝撃音ノイズ低減処理部2551は、周波数スペクトルS1の周波数成分f4の振幅と、周波数スペクトルS3の周波数成分f4の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f4の振幅の方が、周波数スペクトルS3の周波数成分f4の振幅に比べて大きい。よって、衝撃音ノイズ低減処理部2551は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換えない。
このようにして、衝撃音ノイズ低減処理部2551は、周波数スペクトルS1の周波数成分の振幅の方が、周波数スペクトルS3の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS3の周波数成分を周波数スペクトルS1の周波数成分に置き換える。
図15に示す場合、衝撃音ノイズ低減処理部2551は、周波数スペクトルS3の周波数成分f3、f6〜f9を周波数スペクトルS1の周波数成分f3、f6〜f9に置き換える。
このようにして、衝撃音ノイズ低減処理部2551は、周波数スペクトルS1の周波数成分の振幅の方が、周波数スペクトルS3の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS3の周波数成分を周波数スペクトルS1の周波数成分に置き換える。
図15に示す場合、衝撃音ノイズ低減処理部2551は、周波数スペクトルS3の周波数成分f3、f6〜f9を周波数スペクトルS1の周波数成分f3、f6〜f9に置き換える。
次に、本実施形態に係る低減処理部250の他の処理例について説明する。
ノイズ推定対象判定部253は、各フレームにおいて、クリップ検出部251が検出したクリップ部の発生した回数や長さあるいは発生する時刻(位置)に応じて、当該フレーム内にクリップが発生しているか否かを判定するものであってもよい。
例えば、フレーム内においてクリップ部が発生した回数(言い換えると、フレーム内に発生したクリップ部の個数)が、予め決められた回数以上であった場合、ノイズ推定対象判定部253は、当該フレーム内にクリップが発生していると判定するものであってもよい。
また、例えば、フレーム内において発生したクリップ部の長さ(言い換えると、フレーム内において下限値あるいは上限値を示す部分の時間軸方向の長さ)が、予め決められた長さ以上であった場合、ノイズ推定対象判定部253は、当該フレーム内にクリップが発生していると判定するものであってもよい。
ノイズ推定対象判定部253は、各フレームにおいて、クリップ検出部251が検出したクリップ部の発生した回数や長さあるいは発生する時刻(位置)に応じて、当該フレーム内にクリップが発生しているか否かを判定するものであってもよい。
例えば、フレーム内においてクリップ部が発生した回数(言い換えると、フレーム内に発生したクリップ部の個数)が、予め決められた回数以上であった場合、ノイズ推定対象判定部253は、当該フレーム内にクリップが発生していると判定するものであってもよい。
また、例えば、フレーム内において発生したクリップ部の長さ(言い換えると、フレーム内において下限値あるいは上限値を示す部分の時間軸方向の長さ)が、予め決められた長さ以上であった場合、ノイズ推定対象判定部253は、当該フレーム内にクリップが発生していると判定するものであってもよい。
さらに、例えば、フレーム内におけるクリップ部の発生時刻(言い換えると、クリップ部が発生した時間軸方向における位置)が、予め決められた範囲にある場合、例えば、フレーム内の時間軸方向の全体のうち中央付近の予め決められた範囲にある場合、ノイズ推定対象判定部253は、当該フレーム内にクリップが発生していると判定するものであってもよい。
また、例えば、ノイズ推定対象判定部253は、音信号処理部252によってマイク音信号を周波数スペクトルに変換する際に用いられる窓関数の重みに応じて、フレーム内に生じたクリップ部の発生時刻毎にポイントを算出し、このポイントに基づき、当該フレーム内にクリップが発生しているか否かを判定するものであってもよい。ここで、図16を参照して、この判定方法の一例について詳細に説明する。図16(a)は、マイク音信号の一例を示す図である。図16(b)は、図16(a)に示したマイク音信号に含まれる1フレームに乗算する窓関数の波形を示した図である。
図16(a)に示す通り、このフレーム内には、クリップ部が10個発生している。図示の通り、このフレームに発生している10個のクリップ部を、クリップ部C1〜C10と呼称する。このクリップ部の発生時刻を図16(b)に示す。なお、図16(b)には、このフレームに対応するマイク音信号に乗算された窓関数の波形上に、クリップ部C1〜C10の位置が示される。
また、例えば、ノイズ推定対象判定部253は、音信号処理部252によってマイク音信号を周波数スペクトルに変換する際に用いられる窓関数の重みに応じて、フレーム内に生じたクリップ部の発生時刻毎にポイントを算出し、このポイントに基づき、当該フレーム内にクリップが発生しているか否かを判定するものであってもよい。ここで、図16を参照して、この判定方法の一例について詳細に説明する。図16(a)は、マイク音信号の一例を示す図である。図16(b)は、図16(a)に示したマイク音信号に含まれる1フレームに乗算する窓関数の波形を示した図である。
図16(a)に示す通り、このフレーム内には、クリップ部が10個発生している。図示の通り、このフレームに発生している10個のクリップ部を、クリップ部C1〜C10と呼称する。このクリップ部の発生時刻を図16(b)に示す。なお、図16(b)には、このフレームに対応するマイク音信号に乗算された窓関数の波形上に、クリップ部C1〜C10の位置が示される。
図16(b)に示す通り、このフレームに対応するマイク音信号は、窓関数の波形のように、フレームの両端の値が減衰するよう音信号処理部252によって処理される。よって、フレームの両端に生じたクリップは、フレームの中央に生じたクリップに比べて、マイク音信号の誤差に与える影響を少なくすることができる。
ノイズ推定対象判定部253は、図16(b)に示すような窓関数の波形(重み付け)に従い、発生したクリップ部の発生時刻(言い換えると、時間軸方向におけるフレーム内の位置)に応じて、各クリップ部のポイントを算出する。例えば、フレームの両端付近に発生したクリップ部については、各クリップ部に対して、ポイント=0.1が付与されることが予め決められている。また、フレームの中央付近に発生したクリップ部については、各クリップ部に対して、ポイント=1が付与されることが予め決められている。さらに、フレーム内の、両端付近と中央付近の間に発生したクリップ部については、各クリップ部に対して、ポイント=0.5が付与されることが予め決められている。ノイズ推定対象判定部253は、フレームの位置に応じて予め決められているポイントを、フレーム内に発生している全てのクリップ部について算出し、その総和を算出する。このノイズ推定対象判定部253は、例えば、算出したポイントの総和が予め決められた閾値以上であった場合、当該フレームにおいてクリップが発生していると判定する。
ノイズ推定対象判定部253は、図16(b)に示すような窓関数の波形(重み付け)に従い、発生したクリップ部の発生時刻(言い換えると、時間軸方向におけるフレーム内の位置)に応じて、各クリップ部のポイントを算出する。例えば、フレームの両端付近に発生したクリップ部については、各クリップ部に対して、ポイント=0.1が付与されることが予め決められている。また、フレームの中央付近に発生したクリップ部については、各クリップ部に対して、ポイント=1が付与されることが予め決められている。さらに、フレーム内の、両端付近と中央付近の間に発生したクリップ部については、各クリップ部に対して、ポイント=0.5が付与されることが予め決められている。ノイズ推定対象判定部253は、フレームの位置に応じて予め決められているポイントを、フレーム内に発生している全てのクリップ部について算出し、その総和を算出する。このノイズ推定対象判定部253は、例えば、算出したポイントの総和が予め決められた閾値以上であった場合、当該フレームにおいてクリップが発生していると判定する。
このように、ノイズ推定対象判定部253は、クリップ部が含まれている期間(フレーム)であっても、そのクリップ部の個数が少ない場合や、時間軸方向においてクリップ部による誤差の影響が少ないフレーム内の位置(発生時刻)に発生している場合、ノイズ推定対象判定部253は、当該期間(フレーム)に対応するマイク音信号を、ノイズ推定を算出するためにマイク音信号(動作期間スペクトルNSやフロアリングスペクトルFS)として決定してもよい。
推定ノイズ算出部254は、このようにして、ノイズ推定対象判定部253によってクリップ部が含まれている期間であっても、クリップが発生していないと判定された場合、クリップによる影響が少ないため、このクリップが含まれている期間に対応する周波数スペクトルに基づき、推定ノイズを算出する。
推定ノイズ算出部254は、このようにして、ノイズ推定対象判定部253によってクリップ部が含まれている期間であっても、クリップが発生していないと判定された場合、クリップによる影響が少ないため、このクリップが含まれている期間に対応する周波数スペクトルに基づき、推定ノイズを算出する。
この場合、推定ノイズ更新部258は、クリップが発生している期間に対応する周波数スペクトル(動作期間スペクトルNSおよびフロアリングスペクトルFS)に基づき算出された推定ノイズを記憶部257には登録しない。つまり、クリップが発生している期間に対応する周波数スペクトル(動作期間スペクトルNSおよびフロアリングスペクトルFS)に基づき算出された推定ノイズは、記憶部257には更新されない。
このように、クリップ部が含まれている期間であっても、クリップが発生していないと判定された動作期間スペクトルNSあるいはフロアリングスペクトルFSに基づき算出された推定ノイズは、一時的にノイズ低減処理に利用されるに留まり、それ以降は利用されない。
このように、クリップ部が含まれている期間であっても、クリップが発生していないと判定された動作期間スペクトルNSあるいはフロアリングスペクトルFSに基づき算出された推定ノイズは、一時的にノイズ低減処理に利用されるに留まり、それ以降は利用されない。
[第2実施形態]
次に、図17を参照して、本発明に係る第2実施形態について説明する。図17は、本実施形態に係る低減処理部2250の機能構成の一例を示すブロック図である。
図17に示す通り、本実施形態に係る低減処理部2250は、クリップ検出部251と、音信号処理部252と、ノイズ推定対象判定部253と、信号補正部259と、推定ノイズ算出部254と、ノイズ低減処理部255と、逆フーリエ変換部256と、記憶部257と、推定ノイズ更新部258とを含む。なお、本実施形態に係る低減処理部2250は、第1実施形態に係る低減処理部250と比べて、信号補正部259を備える点で異なる。それ以外は、概ね同様の機能を有する構成であるため、同一の符号を付して詳細な説明は省略する。また、各構成部については、同様の機能についての説明を省略し、第1実施形態と異なる部分についてのみ説明する。
次に、図17を参照して、本発明に係る第2実施形態について説明する。図17は、本実施形態に係る低減処理部2250の機能構成の一例を示すブロック図である。
図17に示す通り、本実施形態に係る低減処理部2250は、クリップ検出部251と、音信号処理部252と、ノイズ推定対象判定部253と、信号補正部259と、推定ノイズ算出部254と、ノイズ低減処理部255と、逆フーリエ変換部256と、記憶部257と、推定ノイズ更新部258とを含む。なお、本実施形態に係る低減処理部2250は、第1実施形態に係る低減処理部250と比べて、信号補正部259を備える点で異なる。それ以外は、概ね同様の機能を有する構成であるため、同一の符号を付して詳細な説明は省略する。また、各構成部については、同様の機能についての説明を省略し、第1実施形態と異なる部分についてのみ説明する。
ノイズ推定対象判定部253は、上述と同様、推定ノイズを算出するためのマイク音信号(周波数スペクトル)として、推定ノイズを含むノイズ期間に対応するマイク音信号に対応する周波数スペクトル(動作期間スペクトルNS)と、推定ノイズを含まない非ノイズ期間に対応するマイク音信号の周波数スペクトル(フロアリングスペクトルFS)とを判定する。
本実施形態では、図3を参照して上述したとおり、衝撃音が発生している時刻t10〜t11を示す情報が、動作タイミング信号として、動作タイミング検出部191からノイズ推定対象判定部253に入力する。これにより、ノイズ推定対象判定部253は、例えば、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い非動作期間Taに対応する周波数スペクトルS1を、フロアリングスペクトルFSと判定する。また、ノイズ推定対象判定部253は、例えば、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い駆動音発生期間Tcに対応する周波数スペクトルS5を、動作期間スペクトルNSと判定する。
本実施形態では、図3を参照して上述したとおり、衝撃音が発生している時刻t10〜t11を示す情報が、動作タイミング信号として、動作タイミング検出部191からノイズ推定対象判定部253に入力する。これにより、ノイズ推定対象判定部253は、例えば、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い非動作期間Taに対応する周波数スペクトルS1を、フロアリングスペクトルFSと判定する。また、ノイズ推定対象判定部253は、例えば、この衝撃音が発生している期間(動作開始タイミング期間)t10〜t11に最も近い駆動音発生期間Tcに対応する周波数スペクトルS5を、動作期間スペクトルNSと判定する。
信号補正部259は、クリップ部を含む音信号をクリップされる以前の波形として推定される音信号に補正する。具体的に説明すると、この信号補正部259は、クリップ検出部251の検出結果に基づき、ノイズ推定対象判定部253によって判定された動作期間スペクトルNSとフロアリングスペクトルFSにおいて、クリップが発生しているか否かを判定する。クリップが発生していると判定した場合、信号補正部259は、クリップが発生したフレームの前後のフレームのデータに基づき、クリップした部分の本来の波形を推測して、推定結果に基づき、クリップが発生したフレームのマイク音信号の波形を本来の波形に近づけるように補正する。言い換えると、信号補正部259は、補正後のマイク音信号から、動作期間スペクトルNSやフロアリングスペクトルFSを推定してもよい。
本実施形態では、図6を参照して上述したとおり、フレームF1においてクリップが発生していないが、フレームF5においてクリップが発生している。よって、信号補正部259は、フロアリングスペクトルFSにはクリップが発生していないが、動作期間スペクトルNSにはクリップが発生していると判定する。
従って、信号補正部259は、クリップ検出部251による検出結果に基づき、この動作期間スペクトルNSを補正する。
従って、信号補正部259は、クリップ検出部251による検出結果に基づき、この動作期間スペクトルNSを補正する。
なお、クリップした部分の波形の補正についての詳細な処理については、一般的な技術を利用することができる。例えば、信号補正部259は、特開2003−99064号公報に記載の技術を利用して、クリップした部分の本来の波形を前後関係から推定して、補正することができる。
ここで、クリップした部分の本来の波形を推定して、推定結果に基づいて補正した場合、音信号の振幅に示すために16ビットを超えるデータが必要になる。この場合、信号補正部259は、ビット数を増やして波形を表現してもよい。また、信号補正部259は、マイク音信号の振幅データを適した倍率で圧縮し、16ビットに収まるデータに変換してもよい。信号補正部259は、振幅データを圧縮した場合、その後求める周波数スペクトルを倍率の逆数で補正すればよい。
ここで、クリップした部分の本来の波形を推定して、推定結果に基づいて補正した場合、音信号の振幅に示すために16ビットを超えるデータが必要になる。この場合、信号補正部259は、ビット数を増やして波形を表現してもよい。また、信号補正部259は、マイク音信号の振幅データを適した倍率で圧縮し、16ビットに収まるデータに変換してもよい。信号補正部259は、振幅データを圧縮した場合、その後求める周波数スペクトルを倍率の逆数で補正すればよい。
なお、この場合、信号補正部259は、各フレームにおいて、クリップ検出部251が検出したクリップ部の発生した回数や長さあるいは発生する時刻(位置)に応じて、当該フレームを補正の対象とするか否かを判定するものであってもよい。
例えば、上述したとおり、フレーム内においてクリップ部が発生した回数(言い換えると、フレーム内に発生したクリップ部の個数)が、予め決められた回数未満であった場合、信号補正部259は、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
また、例えば、フレーム内において発生したクリップ部の長さ(言い換えると、フレーム内において下限値あるいは上限値を示す部分の時間軸方向の長さ)が、予め決められた長さ未満であった場合、信号補正部259は、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
例えば、上述したとおり、フレーム内においてクリップ部が発生した回数(言い換えると、フレーム内に発生したクリップ部の個数)が、予め決められた回数未満であった場合、信号補正部259は、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
また、例えば、フレーム内において発生したクリップ部の長さ(言い換えると、フレーム内において下限値あるいは上限値を示す部分の時間軸方向の長さ)が、予め決められた長さ未満であった場合、信号補正部259は、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
さらに、例えば、フレーム内においてクリップ部が発生した発生時刻(つまり、時間軸方向における位置)が、予め決められた範囲にある場合、例えば、フレーム内の時間軸方向の全体のうち両端の予め決められた範囲にある場合、信号補正部259は、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
また、例えば、信号補正部259は、音信号処理部252によってマイク音信号を周波数スペクトルに変換する際に用いられる窓関数の重みに応じて、フレーム内に生じたクリップ部の位置(クリップ部の発生位置)毎にポイントを算出し、このポイントに基づき、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。上述したノイズ推定対象判定部253のように、信号補正部259は、フレーム内のクリップ部の発生位置(クリップ部の発生時刻)に応じて予め決められているポイントを、フレーム内に発生している全てのクリップ部について算出し、その総和を算出する。この信号補正部259は、例えば、算出したポイントの総和が予め決められた閾値未満であった場合、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
また、例えば、信号補正部259は、音信号処理部252によってマイク音信号を周波数スペクトルに変換する際に用いられる窓関数の重みに応じて、フレーム内に生じたクリップ部の位置(クリップ部の発生位置)毎にポイントを算出し、このポイントに基づき、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。上述したノイズ推定対象判定部253のように、信号補正部259は、フレーム内のクリップ部の発生位置(クリップ部の発生時刻)に応じて予め決められているポイントを、フレーム内に発生している全てのクリップ部について算出し、その総和を算出する。この信号補正部259は、例えば、算出したポイントの総和が予め決められた閾値未満であった場合、当該フレームのマイク音信号の波形を本来の波形に近づけるように補正するものであってもよい。
また、信号補正部259は、動作期間スペクトルNSあるいはフロアリングスペクトルFSにクリップが発生していると判定された場合、動作期間スペクトルNSあるいはフロアリングスペクトルFSの高い周波数の周波成分を削除した周波数スペクトルを生成し、推定ノイズの算出に利用する周波数スペクトル(動作期間スペクトルNS、フロアリングスペクトルFS)として推定ノイズ算出部254に出力するものであってもよい。
[第3実施形態]
次に、図18を参照して、本発明に係る第3実施形態について説明する。図18は、本実施形態に係る低減処理部3250の機能構成の一例を示すブロック図である。
図18に示す通り、本実施形態に係る低減処理部3250は、クリップ検出部251と、音信号処理部252と、ノイズ推定対象判定部253と、推定ノイズ算出部254と、ノイズ低減処理部255と、逆フーリエ変換部256と、記憶部257と、推定ノイズ更新部258とを含む。なお、本実施形態に係る低減処理部3250は、第1実施形態に係る低減処理部250と比べて、複数のマイクによって収音された複数のマイク音信号に基づき、各マイク音信号のノイズ低減処理を実行する点で異なる。それ以外は、概ね同様の機能を有する構成であるため、同一の符号を付して詳細な説明は省略する。また、各構成部については、同様の機能についての説明を省略し、第1実施形態と異なる部分についてのみ説明する。
次に、図18を参照して、本発明に係る第3実施形態について説明する。図18は、本実施形態に係る低減処理部3250の機能構成の一例を示すブロック図である。
図18に示す通り、本実施形態に係る低減処理部3250は、クリップ検出部251と、音信号処理部252と、ノイズ推定対象判定部253と、推定ノイズ算出部254と、ノイズ低減処理部255と、逆フーリエ変換部256と、記憶部257と、推定ノイズ更新部258とを含む。なお、本実施形態に係る低減処理部3250は、第1実施形態に係る低減処理部250と比べて、複数のマイクによって収音された複数のマイク音信号に基づき、各マイク音信号のノイズ低減処理を実行する点で異なる。それ以外は、概ね同様の機能を有する構成であるため、同一の符号を付して詳細な説明は省略する。また、各構成部については、同様の機能についての説明を省略し、第1実施形態と異なる部分についてのみ説明する。
図18に示す通り、A/D変換部240には、Rマイク2301によって収音された音信号と、Lマイク2302によって収音された音信号とが入力される。音信号処理部252には、Rマイク2301によって収音された音信号のデジタル信号と、Lマイク2302によって収音された音信号のデジタル信号とが、A/D変換部240を介して入力される。
音信号処理部252は、上述と同様にして、Rマイク2301によって収音された音信号のデジタル信号と、Lマイク2302によって収音された音信号のデジタル信号のそれぞれに対して、予め決められたフレームごとに窓関数で重み付けするとともに、このフレーム毎のマイク音信号を周波数領域で表わされるスペクトルに変換して、この周波数領域で表わされるスペクトル(周波数スペクトル)をクリップ検出部251に出力する。
クリップ検出部251は、A/D変換部240から出力された情報に基づき、Rマイク2301によって収音された音信号の周波数スペクトル、および、Lマイク2302によって収音された音信号のデジタル信号の周波数スペクトルのそれぞれに、クリップが発生しているか否かを判定する。
クリップ検出部251は、A/D変換部240から出力された情報に基づき、Rマイク2301によって収音された音信号の周波数スペクトル、および、Lマイク2302によって収音された音信号のデジタル信号の周波数スペクトルのそれぞれに、クリップが発生しているか否かを判定する。
ノイズ推定対象判定部253は、推定ノイズを算出するためのマイク音信号(周波数スペクトル)として、推定ノイズを含むノイズ期間に対応するマイク音信号に対応する周波数スペクトル(動作期間スペクトルNS)と、推定ノイズを含まない非ノイズ期間に対応するマイク音信号の周波数スペクトル(フロアリングスペクトルFS)とを判定する。
そして、ノイズ推定対象判定部253は、クリップ検出部251の判定結果に基づき、動作期間スペクトルNSおよびフロアリングスペクトルFSにクリップが発生しているか否かを判定する。動作期間スペクトルNSあるいはフロアリングスペクトルFSの少なくともいずれか一方にクリップが発生している場合、ノイズ推定対象判定部253は、クリップが発生している部分の周波数スペクトルを、同一時刻において他のマイクによって取得されたマイク音信号の周波数スペクトルと置き換える。
そして、ノイズ推定対象判定部253は、クリップ検出部251の判定結果に基づき、動作期間スペクトルNSおよびフロアリングスペクトルFSにクリップが発生しているか否かを判定する。動作期間スペクトルNSあるいはフロアリングスペクトルFSの少なくともいずれか一方にクリップが発生している場合、ノイズ推定対象判定部253は、クリップが発生している部分の周波数スペクトルを、同一時刻において他のマイクによって取得されたマイク音信号の周波数スペクトルと置き換える。
具体的に説明すると、例えば、Rマイク2301によって収音されるマイク音信号にクリップが発生しており、Lマイク2302によって収音されるマイク音信号にクリップが発生していないと、ノイズ推定対象判定部253が、クリップ検出部251の検出結果に基づき判定したとする。この場合、ノイズ推定対象判定部253は、Rマイク2301によって収音されるマイク音信号のうち、クリップが発生しているフレームの周波数スペクトルを、Lマイク2302によって収音されるマイク音信号のうち、このフレームと同一の時刻のフレームに対応する周波数スペクトルに置き換える。
一方、Lマイク2302によって収音されるマイク音信号にクリップが発生しており、Rマイク2301によって収音されるマイク音信号にクリップが発生していないと、ノイズ推定対象判定部253が、クリップ検出部251の検出結果に基づき判定したとする。この場合、ノイズ推定対象判定部253は、Lマイク2302によって収音されるマイク音信号のうち、クリップが発生しているフレームの周波数スペクトルを、Rマイク2301によって収音されるマイク音信号のうち、このフレームと同一の時刻のフレームに対応する周波数スペクトルに置き換える。
一方、Lマイク2302によって収音されるマイク音信号にクリップが発生しており、Rマイク2301によって収音されるマイク音信号にクリップが発生していないと、ノイズ推定対象判定部253が、クリップ検出部251の検出結果に基づき判定したとする。この場合、ノイズ推定対象判定部253は、Lマイク2302によって収音されるマイク音信号のうち、クリップが発生しているフレームの周波数スペクトルを、Rマイク2301によって収音されるマイク音信号のうち、このフレームと同一の時刻のフレームに対応する周波数スペクトルに置き換える。
クリップが発生している部分の周波数スペクトル(動作期間スペクトルNSあるいはフロアリングスペクトルFSのうち少なくともいずれか一方)が、同一時刻において他のマイクによって取得されたマイク音信号の周波数スペクトル(動作期間スペクトルNSあるいはフロアリングスペクトルFSのうち少なくともいずれか一方)と、ノイズ推定対象判定部253によって置き換えられたとする。この場合、推定ノイズ算出部254は、置き換えられた後の動作期間スペクトルNSあるいはフロアリングスペクトルFSのうち少なくともいずれか一方を用いて、Rマイク2301およびLマイク2302のそれぞれから取得されたマイク音信号に対応する推定ノイズを算出する。
ノイズ低減処理部255は、推定ノイズ算出部254によって算出されたRマイク2301に対応する推定ノイズに基づき、Rマイク2301から取得されたマイク音信号に対するノイズ推定処理を実行する。また、ノイズ低減処理部255は、推定ノイズ算出部254によって算出されたLマイク2302に対応する推定ノイズに基づき、Lマイク2302から取得されたマイク音信号に対するノイズ低減処理を実行する。
ノイズ低減処理部255は、推定ノイズ算出部254によって算出されたRマイク2301に対応する推定ノイズに基づき、Rマイク2301から取得されたマイク音信号に対するノイズ推定処理を実行する。また、ノイズ低減処理部255は、推定ノイズ算出部254によって算出されたLマイク2302に対応する推定ノイズに基づき、Lマイク2302から取得されたマイク音信号に対するノイズ低減処理を実行する。
このように、複数のマイクから取得される複数のマイク音信号に対してノイズ低減処理を実行するための推定ノイズを算出する場合、一方のマイクによって取得されたマイク音信号にクリップが発生している場合、この一方のマイクによって取得されたマイク音信号に対応するフレームの周波数スペクトルを、他方のマイクによって取得されたクリップが発生していないマイク音信号に置き換える。
これにより、本実施形態に係る低減処理部3250は、同時刻において収音されたマイク音信号から、クリップが発生していないマイク音信号に基づき、推定ノイズを算出することができる。
これにより、本実施形態に係る低減処理部3250は、同時刻において収音されたマイク音信号から、クリップが発生していないマイク音信号に基づき、推定ノイズを算出することができる。
[第4実施形態]
次に、図19を参照して、本発明に係る第4実施形態について説明する。図19は、第1実施形態に係る低減処理部250を備える信号処理装置500の一例を説明するための図である。なお、本発明はこれに限られず、信号処理装置500は、低減処理部2250、3250を備えるものであってもよい。
信号処理装置500は、低減処理部250を備える。この信号処理装置500としては、例えば、パーソナルコンピュータやスマートフォン、タブレット型の端末等が利用可能である。
次に、図19を参照して、本発明に係る第4実施形態について説明する。図19は、第1実施形態に係る低減処理部250を備える信号処理装置500の一例を説明するための図である。なお、本発明はこれに限られず、信号処理装置500は、低減処理部2250、3250を備えるものであってもよい。
信号処理装置500は、低減処理部250を備える。この信号処理装置500としては、例えば、パーソナルコンピュータやスマートフォン、タブレット型の端末等が利用可能である。
この場合、撮像装置100は、マイク230が集音したマイク音信号と、動作タイミング検出部191から出力される動作タイミング信号とを、それぞれ関連付けて記憶部160や記憶媒体200に記憶しておく。なお、撮像装置100は、計時部220によって計時された日時情報に基づき、マイク音信号が収音された時刻に従って、マイク音信号が収音された期間に生じた動作タイミングを示す動作タイミング信号とマイク音信号とを、それぞれ関連付けることができる。
具体的に説明すると、A/D変換部240は、マイク230によって収音されたマイク音信号と、このマイク音信号を録音した装置が備えている動作部が動作するタイミングを示す情報(例えば、動作タイミング検出部191から出力される動作タイミング信号)とを、それぞれ関連付けて、記憶部160や記憶媒体200に記憶しておく。この場合、それぞれ関連付けて記憶されるマイク音信号とタイミングを示す情報(動作タイミング信号)とは、同一のファイルに書き込まれるものであってもよく、別々のファイルに書き込まれファイル同士がマイク音信号の収音された時刻とタイミングを示す情報の時刻に従って関連付けられるものであってもよい。
具体的に説明すると、A/D変換部240は、マイク230によって収音されたマイク音信号と、このマイク音信号を録音した装置が備えている動作部が動作するタイミングを示す情報(例えば、動作タイミング検出部191から出力される動作タイミング信号)とを、それぞれ関連付けて、記憶部160や記憶媒体200に記憶しておく。この場合、それぞれ関連付けて記憶されるマイク音信号とタイミングを示す情報(動作タイミング信号)とは、同一のファイルに書き込まれるものであってもよく、別々のファイルに書き込まれファイル同士がマイク音信号の収音された時刻とタイミングを示す情報の時刻に従って関連付けられるものであってもよい。
そして、撮像装置100と信号処理装置500が、通信部170と通信部570を介して接続された場合、記憶部160や記憶媒体200に記憶されている、それぞれ関連付けて記憶されるマイク音信号とタイミングを示す情報(動作タイミング信号)が信号処理装置500に搭載された低減処理部250に出力される。
これにより、低減処理部250は、撮像装置100の外部において、ノイズ低減処理を実行することができる。
これにより、低減処理部250は、撮像装置100の外部において、ノイズ低減処理を実行することができる。
このように、第1実施形態では、低減処理部250が、マイク230により収音されたマイク音信号に対して信号処理する例について説明したが、本実施形態に係る低減処理部250は、このようなリアルタイムに収音された音信号に対してのみ適用されるものではない。
撮像装置100の外部においてもノイズ低減処理を実行することにより、撮像装置の撮像処理等の処理負荷を軽減することができる。また、ユーザの所望する任意の時間において、ノイズ低減処理を実行することができるため、撮像装置100がノイズ低減処理を実行することによる撮像装置100の消費電力を抑えることができる。よって、外出先において撮像装置100の消費電力の消耗を軽減することができる。
撮像装置100の外部においてもノイズ低減処理を実行することにより、撮像装置の撮像処理等の処理負荷を軽減することができる。また、ユーザの所望する任意の時間において、ノイズ低減処理を実行することができるため、撮像装置100がノイズ低減処理を実行することによる撮像装置100の消費電力を抑えることができる。よって、外出先において撮像装置100の消費電力の消耗を軽減することができる。
なお、動作タイミング検出部191又は低減処理部250等による手順を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
100…撮像装置、110…撮像部、120…レンズCPU、130…バッファメモリ、140…画像処理部、150…表示部、160…記憶部、170…通信部、180…操作部、190…ボディCPU、220…計時部、230…マイク、240…A/D変換部、250…低減処理部、251…クリップ検出部、252…音信号処理部、253…ノイズ推定対象判定部、254…推定ノイズ算出部、255…ノイズ低減処理部、256…逆フーリエ変換部、257…記憶部、258…推定ノイズ更新部、260…電池、191…動作タイミング検出部、2551…衝撃音ノイズ低減処理部、2552…駆動音ノイズ低減処理部
Claims (13)
- 入力する音信号に基づき、前記音信号のピーク値がクリップしたクリップ部を検出するクリップ検出部と、
動作部の動作状態が変化するタイミングを検出する動作タイミング検出部と、
入力する前記音信号のうち、前記動作部の動作音として推定される推定ノイズを算出するために用いる前記音信号を、前記クリップ検出部の検出結果および前記動作タイミング検出部の検出結果に基づいて判定するノイズ推定対象判定部と、
前記ノイズ推定対象判定部によって前記推定ノイズを算出するために用いる前記音信号であると判定された前記音信号に基づき、前記推定ノイズを算出する推定ノイズ算出部と、
前記動作タイミング検出部の検出結果に基づいて前記動作部が動作している時の前記音信号の周波数スペクトルを決定し、決定した前記動作部が動作している時の前記音信号の周波数スペクトルから、前記推定ノイズ算出部によって算出された前記推定ノイズの周波数スペクトルを減算するノイズ低減処理部と、
を備えることを特徴とする信号処理装置。 - 前記ノイズ推定対象判定部は、
前記クリップ部が含まれていない前記音信号を、前記推定ノイズを算出するために用いる前記音信号であると判定することを特徴とする請求項1に記載の信号処理装置。 - 前記推定ノイズ算出部は、
前記動作部が動作している時に取得された前記音信号のうち前記クリップ部が含まれていない前記音信号と、前記動作部が動作していない時に取得された前記音信号のうち前記クリップ部が含まれていない前記音信号とのうち、少なくともいずれか一方に基づき、前記推定ノイズを算出することを特徴とする請求項1あるいは2に記載の信号処理装置。 - 前記推定ノイズ算出部は、
前記クリップ検出部によって前記クリップ部が検出された場合、前記クリップ部を含む前記音信号の周波数スペクトルを補正した周波数スペクトルに基づき、前記推定ノイズを算出することを特徴とする請求項1から3のうちいずれか一項に記載の信号処理装置。 - 前記ノイズ推定対象判定部によって判定された前記クリップ部が含まれていない前記音信号に基づき、前記推定ノイズ算出部によって前記推定ノイズが算出された場合、前記ノイズ低減処理部によって用いられる前記推定ノイズを格納する記憶領域内の前記推定ノイズを、前記推定ノイズ算出部よって算出された前記推定ノイズで更新する推定ノイズ更新部をさらに備えることを特徴とする請求項1から4のうちいずれか一項に記載の信号処理装置。
- 前記クリップ検出部によって前記クリップ部が検出された場合、前記クリップ部を含む前記音信号をクリップされる以前の波形として推定される前記音信号に補正する信号補正部をさらに備え、
前記推定ノイズ算出部は、
前記信号補正部によって補正された前記音信号に基づき、前記推定ノイズを算出することを特徴とする請求項1から5のうちいずれか一項に記載の信号処理装置。 - 第1マイクから第1の音信号を、前記第1マイクと異なる第2マイクから第2の音信号をそれぞれ取得する音信号取得部をさらに備え、
前記ノイズ推定対象判定部は、
同一時刻に取得された前記第1の音信号あるいは前記第2の音信号のうちいずれか一方に前記クリップ部が含まれている場合、前記クリップ部が含まれていない前記第1の音信号あるいは前記第2の音信号を、前記推定ノイズを算出するために用いる前記音信号の期間と判定することを特徴とする請求項1から6のうちいずれか一項に記載の信号処理装置。 - 前記ノイズ推定対象判定部は、
入力する前記音信号の時間軸方向に区切られる区間内において、検出された前記クリップ部の個数が予め閾値未満である前記音信号を、前記クリップ部が含まれていない音信号であって、前記推定ノイズを算出するために用いる前記音信号であると判定することを特徴とする請求項1から7のうちいずれか一項に記載の信号処理装置。 - 前記ノイズ推定対象判定部は、
入力する前記音信号の時間軸方向に区切られる区間内において、検出された前記クリップ部が発生している時間軸方向における長さが予め閾値未満である前記音信号を、前記クリップ部が含まれていない前記音信号であって、前記推定ノイズを算出するために用いる前記音信号であると判定することを特徴とする請求項1から8のうちいずれか一項に記載の信号処理装置。 - 前記ノイズ推定対象判定部は、
前記クリップ検出部によって前記クリップ部が検出された場合、入力する前記音信号の時間軸方向に区切られる区間内における前記クリップ部の位置に応じて、前記推定ノイズを算出するために用いる前記音信号を判定することを特徴とする請求項1から9のうちいずれか一項に記載の信号処理装置。 - 上述の請求項1から10のうちいずれか一項に記載の信号処理装置を含むことを特徴とする撮像装置。
- 入力する音信号に基づき、前記音信号のピーク値がクリップしたクリップ部を検出するクリップ検出ステップと、
動作部の動作状態が変化するタイミングを検出する動作タイミング検出ステップと、
前記クリップ検出ステップにおいて前記クリップ部が検出された場合、入力する前記音信号のうち、前記動作部の動作音として推定される推定ノイズを算出するために用いる前記音信号を、前記クリップ検出ステップにおける検出結果、および、前記動作タイミング検出ステップにおける検出結果に基づいて判定するノイズ推定対象判定ステップと、
前記ノイズ推定対象判定ステップにおいて前記推定ノイズを算出するために用いる前記音信号であると判定された前記音信号に基づき、前記推定ノイズを算出する推定ノイズ算出ステップと、
前記動作タイミング検出ステップにおける検出結果に基づいて前記動作部が動作している時の前記音信号の周波数スペクトルを決定し、決定した前記動作部が動作している時の前記音信号の周波数スペクトルから、前記推定ノイズ算出ステップにおいて算出された前記推定ノイズの周波数スペクトルを減算するノイズ低減処理ステップと、
を備えることを特徴とするノイズ低減処理方法。 - コンピュータを、
入力する音信号に基づき、前記音信号のピーク値がクリップしたクリップ部を検出するクリップ検出手段、
動作部を動作状態が変化するタイミングを検出する動作タイミング検出手段、
入力する前記音信号のうち、前記動作部の動作音として推定される推定ノイズを算出するために用いる前記音信号を、前記クリップ検出手段の検出結果および前記動作タイミング検出手段の検出結果に基づいて判定するノイズ推定対象判定手段、
前記ノイズ推定対象判定手段によって前記推定ノイズを算出するために用いる前記音信号であると判定された前記音信号に基づき、前記推定ノイズを算出する推定ノイズ算出手段、
前記動作タイミング検出手段の検出結果に基づいて前記動作部が動作している時の前記音信号の周波数スペクトルを決定し、決定した前記動作部が動作している時の前記音信号の周波数スペクトルから、前記推定ノイズ算出手段によって算出された前記推定ノイズの周波数スペクトルを減算するノイズ低減処理手段、
として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012160013A JP2014022953A (ja) | 2012-07-18 | 2012-07-18 | 信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012160013A JP2014022953A (ja) | 2012-07-18 | 2012-07-18 | 信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014022953A true JP2014022953A (ja) | 2014-02-03 |
Family
ID=50197391
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012160013A Pending JP2014022953A (ja) | 2012-07-18 | 2012-07-18 | 信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014022953A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017011541A (ja) * | 2015-06-23 | 2017-01-12 | 富士通株式会社 | 音声処理装置、プログラム、及び通話装置 |
JP2019078543A (ja) * | 2017-10-20 | 2019-05-23 | 株式会社竹村製作所 | 異音評価装置及び異音評価方法 |
-
2012
- 2012-07-18 JP JP2012160013A patent/JP2014022953A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017011541A (ja) * | 2015-06-23 | 2017-01-12 | 富士通株式会社 | 音声処理装置、プログラム、及び通話装置 |
JP2019078543A (ja) * | 2017-10-20 | 2019-05-23 | 株式会社竹村製作所 | 異音評価装置及び異音評価方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8698911B2 (en) | Sound recording device, imaging device, photographing device, optical device, and program | |
JP2006270591A (ja) | 電子カメラ、データ再生装置およびプログラム | |
JP4952769B2 (ja) | 撮像装置 | |
JP5024470B2 (ja) | 撮影装置、信号処理装置及び記録媒体 | |
JP2004080788A (ja) | カメラおよびカメラにおけるノイズを低減する方法 | |
JP6610725B2 (ja) | 音処理装置および音処理プログラム | |
US20150271439A1 (en) | Signal processing device, imaging device, and program | |
JP5435082B2 (ja) | ノイズ低減処理装置、カメラ、およびノイズ低減処理プログラム | |
JP2011114465A (ja) | 音声処理装置及び電子カメラ | |
US9734840B2 (en) | Signal processing device, imaging apparatus, and signal-processing program | |
JP2014022953A (ja) | 信号処理装置、撮像装置、ノイズ低減処理方法、およびプログラム | |
JP5428762B2 (ja) | 撮影装置、および、プログラム | |
JP5158054B2 (ja) | 録音装置、撮像装置、および、プログラム | |
JP2012185445A (ja) | 信号処理装置、撮像装置、及び、プログラム | |
JP6061476B2 (ja) | 音声処理装置 | |
JP5736839B2 (ja) | 信号処理装置、撮像装置、及びプログラム | |
JP2011095305A (ja) | 録音装置、撮像装置、及びプログラム | |
JP2013250448A (ja) | ノイズ低減装置、撮像装置及びプログラム | |
JP2013178458A (ja) | 信号処理装置及び信号処理プログラム | |
JP5423319B2 (ja) | 撮影装置、光学装置、及びプログラム | |
JP2014041300A (ja) | 信号処理装置、撮像装置、およびプログラム | |
JP2006211437A (ja) | 電子カメラ、ノイズ低減装置及びノイズ低減方法 | |
JP2012168477A (ja) | ノイズ推定装置、信号処理装置、撮像装置、及びプログラム | |
JP2013178456A (ja) | 信号処理装置、カメラおよび信号処理プログラム | |
JP2012173353A (ja) | 信号処理装置、撮像装置、及びプログラム |