JP5361398B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5361398B2
JP5361398B2 JP2009000217A JP2009000217A JP5361398B2 JP 5361398 B2 JP5361398 B2 JP 5361398B2 JP 2009000217 A JP2009000217 A JP 2009000217A JP 2009000217 A JP2009000217 A JP 2009000217A JP 5361398 B2 JP5361398 B2 JP 5361398B2
Authority
JP
Japan
Prior art keywords
sound
lens
signal
filter
imaging apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009000217A
Other languages
English (en)
Other versions
JP2010157965A (ja
Inventor
正史 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009000217A priority Critical patent/JP5361398B2/ja
Publication of JP2010157965A publication Critical patent/JP2010157965A/ja
Application granted granted Critical
Publication of JP5361398B2 publication Critical patent/JP5361398B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Structure And Mechanism Of Cameras (AREA)
  • Studio Devices (AREA)
  • Circuit For Audible Band Transducer (AREA)

Description

本発明は、動画を音声とともに記録する撮像装置に関する。
近年、動画撮影と静止画撮影の両方に対応可能な撮像装置が広く実用化されている。動画撮影では、動画像を記録するとともに、周囲の音声も記録する。音声記録に関して、被写体からの音声をきちんと録音できることと、撮像装置の内部からの雑音の影響を受けないことが望まれる。
特許文献1には、被写体からの音を取り込む被写体用マイクに加えて、内部の雑音源近傍にノイズ集音用マイクを設け、被写体用マイクで取り込んだ音声信号からノイズ集音用マイクからの音声信号を除去する構成が記載されている。
特許文献2には、内部にある雑音源の発する雑音の周波数特性に着目し、この周波数帯を遮断するようなバンドパスフィルタを被写体用マイクからの音声信号に適用する構成が記載されている。
特許文献3には、被写体および雑音からの音声を取得する複数のマイクを設け、これら複数のマイクの出力音声信号にフィルタ処理を行った後に減算処理することが記載されている。
特許第3000617号 特開2005−130328号 特開2005−244613号
特許文献1に記載の技術では、ノイズのみを取得できる位置にノイズ集音用マイクを設ける必要がある。ノイズ源の近傍にマイクを設置可能な場合は良いが、例えば、レンズ交換式のカメラなどでレンズがノイズ源とされた場合には、マイクを近傍に設けることは容易ではない。
特許文献2に記載の技術では、被写体からの音声から、ノイズ源の発生するノイズ音帯域の成分を遮断する。ノイズ源のノイズ音帯域が狭ければ十分な効果を得ることが出来るが、広い場合には、効果が小さくなったり、被写体音に無視できない影響を与えてしまう。また、一般的には、ギア音などの機械的ノイズは比較的広帯域の信号である。このため、機械的なものに由来するノイズ源に対して十分なノイズ除去効果を得ることは容易ではない。
特許文献3に記載の技術では、フィルタが適切にモデル化されていれば十分な効果を得ることが出来る。一方、実際の撮影場面では、被写体位置や被写体の音源の特性は変化する。さらには、レンズ交換式のカメラなどではノイズ源も変化する。従って、予め適切なフィルタを与えて十分な効果を得る事は、実際には容易ではない。
本発明は、以上の状況に鑑みてなされたもので、多種のノイズ源に対しても効果的にノイズ音を除去できる撮像装置を提示することを目的とする。
本発明に係る撮像装置は、撮影光学系を有する撮影レンズを着脱可能な撮像装置であって、音声を取得する音声取得手段と、前記音声取得手段により得られた音声信号に含まれる前記撮影レンズの駆動音を低減した音声を抽出するためのフィルタにより前記音声信号を処理する音声処理手段と、前記フィルタのフィルタ係数を制御する制御手段とを有し前記制御手段は、前記撮影レンズが装着されたことに応じて、前記前記撮影レンズの所定部材に発生させ、前記複数の音声取得手段により取得された前記所定部材の音声の周波数変換後の信号と、予め記憶された前記所定部材の発生する音声の周波数変換後の信号とに基づいて、前記所定部材から前記複数の音声取得手段までの伝達特性を特定し、
前記制御手段は、前記所定部材から前記各音声取得手段までの伝達特性にもとづいて、記フィルタ係数を決定することを特徴とする。
本発明によれば、簡単な構成で高品位な音声信号を得ることが出来る。
以下、図面を参照して、本発明の実施例を詳細に説明する。
図1は、本発明の一実施例である撮像装置の中央縦断面図を示し、図2は、概略機能ブロック図を示す。
本発明の一実施例である撮像装置は、レンズ交換可能な一眼レフカメラであり、撮像装置本体1の前面に撮影レンズ2が装着されている。撮影レンズ2は、撮影光学系3と撮影光学系3を収容するレンズ鏡筒5とからなる。撮像装置本体1は、撮影光学系3の光軸4の線上に撮像素子6を具備する。撮像装置本体1の底面にマイク7a,7bが設置されている。本体1と撮影レンズ2は、電気接点10を介して電気的に接続する。撮影レンズ2は、レンズ制御回路等を実装した回路基板8、手ぶれ補正機構11、補正光学系12、および、手ぶれ補正検出用センサ14を具備する。駆動部9は、レンズ制御回路からの制御信号に従って手ぶれ補正機構11を駆動する。本体1は、撮影レンズ2により入射する光線を撮像素子6側と光学ファインダのペンダプリズム側とに選択的に向けるクイックリターンミラー13を具備する。本体1にはまた、合焦検出及び露出検出のためのAE/AFセンサ15を装備されている。
本実施例の撮像装置は、AE/AFセンサ15の出力に応じて撮影レンズ2のフォーカスと露出を自動制御する。ユーザによる不図示のレリーズ釦の操作に従い、撮像素子6で生成される画像信号が、所定の処理の後に記録媒体に記録される。
図2を参照して,本実施例に係る撮像装置の基本機能を説明する。本時指令の撮像装置は、機能的には、撮像系、画像処理系、音声処理系、記録再生系及び制御系を有する。撮像系は、撮影光学系3及び撮像素子6を含む。画像処理系は、A/D変換器20及び画像処理回路21を含む。音声処理系はマイク7a,7bおよび音声処理回路26を含む。記録再生系は、記録処理回路23および記録媒体24を含む。制御系は、カメラシステム制御回路25、AE/AFセンサ15、操作検出回路27およびレンズシステム制御回路28を含む。
撮像系は、被写体からの光を撮影光学系3により撮像素子6の撮像面に結像する光学処理系である。レンズシステム制御回路28は、電気接点10を介してカメラシステム制御回路と通信する。レンズシステム制御回路28は、AE/AFセンサ15による露光量の検知出力をもとに絞り駆動部29cにより撮影光学系3の絞りを制御し、これにより撮像素子6への入射光量を適正量に制御する。
A/D変換器20は撮像素子6からのアナログ画像信号をデジタル信号に変換する。画像処理回路21は、A/D変換器20からのデジタル画像信号にホワイトバランス調整及びガンマ補正等の周知のカメラ信号処理を施す。画像処理回路21はまた、補間演算による高解像度化を行う補間演算器を有し、表示装置22に表示するための画像信号を生成する回路を有する。
音声処理系は、マイク7a,7bからの音声信号を記録用に処理する。すなわち、音声処理回路26は、マイク7a,7bの出力音声信号を処理して、録音用音声信号を生成する。録音用生成信号は、記録処理回路23により画像とリンクして圧縮処理される。
記録処理回路23は、予め設定された圧縮方式及び圧縮パラメータで、画像(動画及び静止画)及び音声を圧縮して、記録媒体24に記録する。記録処理回路23はまた、記録媒体24に記録される圧縮された画像・音声を伸長する機能を具備する。
制御系では、操作検出回路27が、不図示のシャッタレリーズ釦等の操作を検出し、その検出結果をカメラシステム制御回路25に通知する。カメラシステム制御回路25は、この通知に応じて各部を制御する。カメラシステム制御回路25は、撮像の際のタイミング信号などを生成して出力する。また、カメラシステム制御回路25は、後述する同定のためのタイミング発生器としても機能する。AE/AFセンサ15は、撮影光学系3のピント状態および被写体の輝度を検出する。手ぶれ検出センサ14は、所謂、手ぶれを検出する。レンズシステム制御回路28は、カメラシステム制御回路25からの制御信号に応じて撮影光学系3のフォーカス、ズームおよび露出を制御する。
制御系は、外部操作に応じて撮像系、画像処理系および記録再生系をそれぞれ制御する。例えば、不図示のシャッタレリーズ釦の押下に応じて、カメラシステム制御回路25は、撮像素子6の駆動、画像処理回路21の動作、および記録処理回路23の圧縮処理などを制御する。カメラシステム制御回路25はさらに、動作状態に応じて表示装置22の表示内容を制御する。
カメラシステム制御回路25は、AE/AFセンサ15の出力信号を元に適切な焦点位置と絞り位置を決定し、電気接点10を介してレンズシステム制御回路28に通知する。レンズシステム制御回路28は、カメラシステム制御回路25からのこれらの信号に従い、焦点レンズ駆動部29aにより撮影光学系3のフォーカスを制御し、絞り駆動部29cにより絞りを制御する。レンズシステム制御回路28は手ぶれ補正モードでは、手ぶれ検出センサ14の検知出力に従いブレ補正駆動部29bにより補正光学系12を駆動して,手ぶれを解消できる。
図3乃至図5を参照して、本実施例の動作シーケンスを示す。図3〜図5で、横軸は時間を示し、縦軸は、各要素の状態を示す。また、各要素間の矢印は、メッセージ又は制御信号を示す。
図3は、撮影レンズ2を装着した時の、本実施例の好適な動作シーケンス例を示す。撮影レンズ2が本体1に装着されると、電気接点10を介して撮影レンズ2と本体1との間で通信が行われ、カメラシステム制御回路25が撮影レンズ2の装着を認識する。撮影レンズ2の装着動作に連動して、カメラシステム制御回路25は、後述する同定処理を行うためのタイミングとして、電気接点10を介して撮影レンズ2に音源動作を指示する。同時に、カメラシステム制御回路25は、音声処理回路26に同定処理を行うように指示する。
これにより、音声処理回路26には、撮影レンズ2の音源からのテスト音が入力することになり、音声処理回路26は、このテスト音を同定し、撮影(録音)の際のノイズ音を解消できるようなフィルタ特性を決定する。
録音を含むユーザの撮影操作に対して、カメラシステム制御回路25は音声処理回路26に対し、先に決定したフィルタ特性でのフィルタ処理を指示する。これにより、音声処理回路26は、入力音声信号から撮影レンズ2の音源からのノイズ音を分離する。同定処理と音源分離処理の詳細は、後述する。
図4は、本実施例の別の動作シーケンス例を示す。撮影レンズ2が本体1に装着されると、電気接点10を介して撮影レンズ2と本体1との間で通信が行われ、カメラシステム制御回路25が撮影レンズ2の装着を認識する。カメラシステム制御回路25は、撮影レンズ2の装着に連動して,同定予約状態になる。この状態で、カメラシステム制御回路25は、マイク7a,7bの出力音声信号レベルを検出し、予め定められた値と比較して、周囲音が大きいか小さいかを判定する。周囲音レベルが小さくなった時に、カメラシステム制御回路25は、電気接点10を介して撮影レンズ2に音源動作を指示する。同時に、カメラシステム制御回路25は、音声処理回路26に同定処理を行うように指示する。
これにより、音声処理回路26には、周囲音が小さい状態で撮影レンズ2の音源からのテスト音が入力することになる。音声処理回路26は、このテスト音を同定して伝達関数を決定し、撮影の際のノイズ音を解消できるようなフィルタ特性を決定する。
録音を含むユーザの撮影操作に対して、カメラシステム制御回路25は音声処理回路26に対し、先に決定したフィルタ特性でのフィルタ処理を指示する。これにより、音声処理回路26は、入力音声信号から撮影レンズ2の音源からのノイズ音を分離する。同定処理と音源分離処理の詳細は、後述する。
図4に示すシーケンスでは、周囲音が小さいときに、撮影レンズ2からのテスト音を同定するので、より正確なフィルタ特性を決定できる。
図5は、本実施例の更に別の動作シーケンス例を示す。撮影レンズ2が本体1に装着されると、電気接点10を介して撮影レンズ2と本体1との間で通信が行われ、カメラシステム制御回路25が撮影レンズ2の装着を認識する。カメラシステム制御回路25は、撮影レンズ2の装着に連動して,同定設定状態になる。この同定設定状態で、カメラシステム制御回路25は、マイク7a,7bの出力音声信号レベルを検出する。図5に示す例では、検出音声レベルを予め定められた値と比較して、周囲音を2値判定している。
カメラシステム制御回路25は、撮影レンズ2のレンズシステム制御回路28に、周囲音声レベルに応じた音源動作方法を指示する。カメラシステム制御回路25は同時に、音声処理回路26に周囲音レベルに適した同定処理方法を指示する。その後、カメラシステム制御回路25は、レンズシステム制御回路28に音源動作を指示し、音声処理回路26に同定処理の実行を指示する。これにより、撮影レンズ2の音源は周囲音レベルに応じたテスト音を発生し、そのテスト音が音声処理回路26に入力する。そして、音声処理回路26は、周囲音レベルに応じた同定方法でこのテスト音を同定し、フィルタ特性を決定する。
録音を含むユーザの撮影操作に対して、カメラシステム制御回路25は音声処理回路26に対し、先に決定したフィルタ特性でのフィルタ処理を指示する。これにより、音声処理回路26は、入力音声信号から撮影レンズ2の音源からのノイズ音を分離する。同定処理と音源分離処理の詳細は、後述する。
図5に示す例では、周囲音を考慮に入れた状態で、雑音除去のフィルタ特性を決定できる。周囲の騒音が大きい場合には、周囲の騒音に応じた回数(複数回)の同定結果を平均化することで、より適切なフィルタ特性、すなわち分離特性を決定できる。また、別のシーケンス例として、周囲の騒音が大きい場合には周囲の騒音に応じた大きさの同定音を発生させても良い。同定音が大きくなることでSN比を改善され、より適切なフィルタ特性、すなわち分離特性を決定できる。また、周囲音が大きい環境なので、同定音が大きくなってもユーザに与える不快感は小さい。
更に別のシーケンス例として、周囲の騒音が大きい場合には同定を行わず前回同定されたフィルタ、既定のフィルタのいずれかをそのまま用いてもよい。このときは、カメラシステム制御回路25はレンズシステム制御回路28に音源を駆動させず、音声処理回路26も同定処理を実行させない。
本実施例では、撮影レンズ2の手ぶれ補正機構11が、音源となる。図6は、手ぶれ補正機構11の分解斜視図を示す。図6で、8aは手ぶれ補正機構の回路基板を示す。9は手ぶれ補正機構11の駆動部を示す。12は補正光学系12を形成するレンズを示す。31はベース板を示す。41は可動鏡筒を示す。32a,32b,32cはベース板31に設けた穴および可動鏡筒41に設けられた長穴に勘合し、案内面を形成するガイドピンを示す。33はベース板31に設けられた溝および可動鏡筒41に設けられた溝に勘合し回転抑制を行うガイドバーを示す。34aはベース板31に設けられたマグネットおよびヨークを示す。34bはヨークを示す。35は撮影光学系3の一部をなすレンズを示す。36はレンズ35を保持する保持枠を示す。37は保持枠36をベース板31に押圧固定する保持枠固定板を示す。41aは可動鏡筒41上に設けられたロック用突起を示す。42は発光素子を示す。43は可動鏡筒41上に設けられたコイルを示す。44はロックリングを示す。44aはロックリング44上に設けられたニゲ部を示す。44bはロックリング44上に設けられたセクタギアを示す。44cはロックリング44上に設けられた突起を示す。45はロックモータを示す。46はフォトインタラプタを示す。
ベース板31上のマグネットおよびヨーク34aと、ベース板31から見て可動鏡筒41よりも遠い側に配置されヨーク34aに対抗するように設けられたヨーク34bは、一体となって閉磁路のいわゆる磁気回路34を形成する。磁気回路34内にコイル43が設けられている。コイル43は小判形状をしているが、その長辺側の2つの領域に夫々反対向きの磁束が横切るように磁気回路34が形成されている。そこで、コイル43に適切な電流を与えることで、フレミング左手の法則に従って力が発生する。この力を利用することで、ベース板31と可動鏡筒41の間に相対的な変位を与えることが出来る。この相対変位により補正光学系12を偏心させることができる。すなわち、手ぶれに応じてこの相対変位により補正光学系12を偏心させることで、手ぶれを補正できる。図6に示すように、手ぶれ補正機構11の駆動部9は2軸方向に設けられており、夫々のコイルに適切に電流を供給することで、図6に示す2つの方向9P,9Yに補正光学系12を偏心させることが出来る。
本実施例では、可動鏡筒41上の発光素子42の位置を回路基板8a上の光位置センサ(図6では見えない裏面に設けられている)で監視することで、ベース板31と可動鏡筒41の相対変位量を知ることが出来る。つまり、光位置センサの出力をコイル43の印加電流または電圧に適切にフィードバックすることで、手ぶれ検出センサ14の感知出力に追従するように補正光学系12の位置を制御できる。
図6に示す手ぶれ補正機構11では、コイル43に電流を供給しないときは重力方向に補正光学系12が偏心してしまう。このような状態で光学ファインダを見ると、品位の低下した像が見えてしまう。これを防止するためには、手ぶれ補正を行わないときには、補正光学系12を光軸中心に保持することが望ましい。しかし、カメラのような携帯機器では省電力化が求められるので、補正光学系12を光軸中心に常に保持することは困難である。
そこで、手ぶれ補正機構11には、ロック機構を装備してある。図7は、ロックリング44とロックモータ45からなるロック機構の平面図であって、ロック状態を示し、図8はアンロック状態を示し、図9はオーバードライブ状態を示す。図10、図11および図12はそれぞれ、図7、図8および図9の部分拡大図を示す。
ロックモータ45の先端に設けられたギア45aとロックリング44上のセクタギア44bが噛み合っている。これにより、ロックモータ45が回転すると、ロックリング44が回転する。ロックリング44の状態を検出するためにロックリング44上に突起44cを設け、ベース板31にフォトインタラプタ46を設けてある。
図10から分かるように、ロック状態では、ロックリング44と可動鏡筒上の突起41aが小さな隙間を持って存在しており、補正光学系12をほぼ光軸中心に保持する。
図10に示すロック状態からアンロック状態に移行する場合を説明する。フォトインタラプタ46の出力信号を監視しながら、ロックモータ45を回転させる。フォトインタラプタ46の出力信号が一度遮蔽された後に再度得られた状態で、ロックモータ45を止めると、図8および図11に示すアンロック状態になる。図11から分かるように、アンロック状態では、ロックリング44上に設けられたニゲ部44a1が、可動鏡筒41の突起41aに対向する。ベース板31上にもニゲ部31aが設けられており、図11に示す様に、可動鏡筒41が変位可能な状態になる。この状態では、前述したように、手ぶれ補正機構11の駆動部9により補正光学系12を動作させることで、手ぶれを補正できる。
さらに、この状態からオーバードライブ状態に移行する場合を説明する。フォトインタラプタ46の信号を監視しながら、ロックモータ45を更に同方向に回転させる。フォトインタラプタ46の信号が再度遮蔽され始めた箇所でロックモータ45を止めると、図9および図12に示すオーバードライブ状態になる。図12から分かるように、オーバードライブ状態では、ロックリング44上に設けられたニゲ部44a1が通り過ぎる。そして、固定部に設けられたニゲ部31aよりも光軸に近い位置までしか逃げていない部分44a2が、可動鏡筒41の突起41aに対向する。可動鏡筒41を動作させると、可動鏡筒41とニゲ部44a2を衝突させることが出来る。衝突速度や衝突箇所の材質によって、発生音と音量を調整できる。ここで、ニゲ部44a2と突起41aはロックリング44と可動鏡筒41に夫々一体的に形成される場合を示したが、他の部材を貼り付けて形成して、任意の材質で衝突部を形成しても良い。
このような機構部が、音源として図3ないし図5で説明した同定用音源動作メッセージに連動して動作し、音を発生する。具体的には、同定用音源動作メッセージを受信したレンズシステム制御回路28は、ブレ補正駆動部29bを制御して、手ぶれ補正機構11をオーバードライブ状態に移行させて音を発生させる。
手ぶれ補正機構11を音源として利用する例を説明したが、撮影レンズ2内に存在する他の機構部を音源としてもよい。例えば、絞り駆動部29cや焦点レンズ駆動部29aなどの、撮影レンズ2の光学素子を駆動する手段を音源として利用できる。撮影レンズ2には一般に、焦点駆動アクチュエータ、手ぶれ補正アクチュエータ、絞り駆動アクチュエータ、又は、焦点距離駆動アクチュエータがある。
絞り駆動部29cを音源とする場合を簡単に説明する。絞り駆動部29cには、絞り羽根の開放を検知する開放検知スイッチを設けてある場合が多い。絞り羽根を開放する方向に絞りを走行させた場合、開放検知スイッチの出力を監視して、アクチュエータの減速制御などを行う。例えば、絞り駆動部29cを音源として利用する場合、開放検知スイッチの出力に関わらず、メカニカルストッパまでアクチュエータを走行させる。このようにすることで、通常の動作では大きな音は出さずに、音源として利用する場合には十分に大きな音を発生させることができる。
焦点レンズ駆動部29aを音源とする場合を簡単に説明する。焦点レンズ駆動部29aには、現在の焦点レンズ位置を知るために、ブラシ上のスイッチを用いている場合が多い。このブラシの各接点の電位を測定することで、焦点レンズ位置をいくつかのゾーンに分けて検出できるようになっている。また、焦点レンズのいわゆる無限端と至近端には、メカニカルストッパが設けられている。通常の焦点レンズ駆動動作においては、無限端のメカニカルストッパに焦点レンズ保持部が激しく衝突しないように制御し、至近端側でも同様に制御する。もちろん、無限端が含まれるゾーンに入ってからメカニカルストッパに到達するまでの駆動量を予め求めておく。
焦点レンズ駆動部29aを音源として利用する場合、故意に無限端と至近端のいずれかのメカニカルストッパに焦点レンズ保持部が激しく衝突するように制御する。このようにすることで、通常の動作では大きな音は出さずに、音源として利用する場合には十分に大きな音(テスト音)を発生させることができる。無限端と至近端のいずれを用いるかは、絞り、ズーム及び焦点レンズなどによって決まる現在のレンズ状態から適切に決定すればよい。
複数のアクチュエータを音源として利用できるような撮影レンズでは、カメラシステム制御回路25からの指示に従って選択された音源を動作させるようにしてもよい。撮影時の音声信号に最も影響を与える信号を正確に同定できる音源を、レンズの状態によって選択すればよい。
図13および図14を参照して、フィルタ54a,54bの同定処理を説明する。ここで説明する同定処理とは、後述する音声分離に使うフィルタ54a,54bのフィルタ特性のフィルタ係数を決定し、フィルタ係数メモリ77に値を保存する処理を言う。後述するようにフィルタ54a,54bは音源からマイクまでの伝播特性を示している。図13は、インパルス音を用いて同定処理を行う場合に機能する機能ブロック図を示す。図14は、その他の一般的な音源を用いて同定処理を行う場合の機能ブロック図を示す。
図13において、52は音源を示す。52a,52bは音声の伝播経路を示す。53a,53bは高速フーリエ変換(以下 FFT)処理部を示す。61は音源52から発したインパルス音の波形例を示す。62a,62bはマイク7a,7bで捕らえた音声信号の波形例を示す。63a,63bはマイク7a,7bで捕らえた音声信号をFFT処理部53a,53bでフーリエ変換して得られる周波数スペクトル例を示す。
図13では、音源52からインパルス音(テスト音)を発生させる。理想的なインパルス音を実際に発生させることは出来ないが、ここでいうインパルス音は、少なくともマイク7a,7bの出力音声信号においてほぼ均一な周波数特性をもつような信号である。時空間で考えると、マイク7a,7bでの1サンプリング期間内に立ち上がり立下りが収まるような信号であれば望ましく、例えば、1サンプリング区間の半分以下の期間で音圧レベルを変化する信号である。このような信号は、本実施例においてインパルスとみなすことが出来る。本実施例でのインパルス音は、このようなインパルスとみなせる音を含む。波形61は望ましい信号波形を示す。波形61の横軸は時間を示し、縦軸は信号レベル示す。波形61で示す信号は時間方向に幅を持っているが、その幅は、マイク7a,7bでの1サンプリング期間よりも短い。
波形62a,62bの横軸は時間を示し、縦軸は信号レベルを示す。音源52は波形61で示すインパルス音を発生するが、伝播経路52a,52bを経ることによって波形がなまる。マイク7a,7bでは、波形62a,62bで示すような信号が得られる。波形62a,62bは伝播経路52a,52bの伝達特性を反映している。これらの信号をFFT処理部53a,53bでFFT処理すると、スペクトル63a,63bが得られる。スペクトル63a,63bはボード線図であり、横軸は周波数を示し、縦軸は信号レベルと位相を示す。例えば、スペクトル63a,63bは、夫々、高周波領域でゲインが下がるとともに、周波数によって位相が変化している。
時間0にだけ立ち上がりと立下りが存在する理想的なインパルス音は、全ての周波数を均一に含み、位相遅れもない。このため、理想的なケースでは、波形63a,63bで示す信号は、伝播経路52a,52bの伝達特性のみを含むことになり、フィルタ54a,54bとして用いることが出来る。フィルタ係数演算器57a,57bは、得た信号をそのままフィルタ係数メモリ77に保存する。このようにして、インパルス音を発生し、そのインパルス音をFFT処理することでフィルタ54a,54b(のフィルタ特性)を決定できる。
図14は、既知では有るがインパルス音ではない音源を使ってフィルタ54a,54b(のフィルタ特性)を決定する場合の機能ブロック図を示す。71は音源52から発した同定用の音(又はその波形)を示す。71aは予め得た音源信号(又はその波形)を示す。72a,72bはマイク7a,7bで捕らえた音声信号の波形例を示す。73a,73bはマイク7a,7bで捕らえた音声信号をFFT処理部53a,53bでフーリエ変換して得られる周波数スペクトル例を示す。74は波形71aの信号を高速フーリエ変換するFFT処理部を示す。75は、波形71aの信号をFFT処理部74により高速フーリエ変換して得られる周波数スペクトル例を示す。図13と同じ要素には同じ符号を付してある。
波形71が示す音は、同定用の音源から発せられている。横軸は時間を示し、縦軸は信号レベルを示す。図13との相違は、波形71に示す信号が周波数によって異なる信号強度を持っていることである。ただし、音源の種類は既知であるとする。例えば、図6乃至図12を参照して説明した音源を動作させたときの音は、予め測定することで知ることが出来る。このようにして得られた信号を波形71aで示している。波形71と波形71aとの間には、製品ごとの個体差が存在するものの、基本的には同一の波形からなる。本実施例では、波形71aの信号をFFT処理部74で処理した周波数スペクトル75又は周波数成分を予めメモリ76に記憶する。
同定時に音源52から同定用テスト音(波形71)が発せられると、マイク7a,7bは夫々、波形72a,72bの信号を出力する。得られた信号(波形72a,72b)は、式(1)に示すように、音源52の特性と伝播経路52a,52bの伝達特性が畳み込み積分された信号となる。ここから音源の特性を除去できれば、伝播経路52a,52bの伝達特性を得ることが出来る。時間領域での畳み込み積分は周波数領域では単純な積となる。そこで、マイク7a,7bで得た信号(波形72a,72b)をFFT処理部でフーリエ変換して、周波数スペクトル73a,73bを得る。周波数スペクトル73a,73bはボード線図であり、横軸は周波数を示し、縦軸は信号レベルと位相を示す。
音源の特性を除去するために、フィルタ係数演算器57a,57bは、FFT処理部53a,53bの出力(波形73a,73b)をメモリ76に記憶された周波数特性75で除算する。その結果、音源52の特性が除去され、伝播経路52a,52bの伝達特性を得ることが出来る。フィルタ係数演算器57a,57bは、この除算結果をフィルタ係数メモリ77に保存する。
音声処理回路26で行われる音源分離を説明する。図15は、音声処理回路26内の、音源分離に関する回路部分の概略構成ブロック図を示す。51,52は音源を示す。51a,51b,52a,52bは音源51、52からの音声の伝播経路を示す。53a,53bは高速フーリエ変換(FFT)処理部を示す。54a,54bはフィルタを示す。55は加算器を示す。56は逆高速フーリエ変換(IFFT)処理部を示す。
基本原理の理解のために、一つの音源と一つのマイクの場合について説明する。音源51とマイク7aに着目する。音源51から発せられた音声は伝播経路51a,51bを介してマイク7a,7bに到達する。マイク7aで取得される信号は、音源51の発生する音の特性に伝播経路51aの特性を重ね合わせたものである。これを式で表すと、
y(t)=∫a(τ)x(t−τ)dτ (1)
で表現される。式(1)において、y(t)はマイク7aで観察された信号を示す。a(t)は伝播経路51aの特性を示す。x(t)は音源51から発せられた信号を示す。信号y(t)は、音源51の出力信号x(t)と伝播経路51aの特性の畳み込み積分で表現される。伝播経路51aの特性を示すa(t)は、図15中ではフィルタ54a,54bと対応している。
式(1)から明らかなように、伝達特性a(t)が既知であれば、y(t)からx(t)を推定できる。しかし、畳み込み積分された信号を時間領域のまま復元するのは容易ではないので、周波数領域に変換する。そのために、FFT処理部53aが、マイク7aの出力信号をフーリエ変換する。すなわち、
Y(ω)=A(ω)X(ω) (2)
で表現される。式(2)において、Y(ω),A(ω),X(ω)はそれぞれ、y(t),a,x(t)をフーリエ変換したものである。畳み込み定理から明らかなように、時間領域では畳み込み積分されていた信号は、周波数領域では単純な積算になる。そこで、各周波数について下記式でX(ω)を求める。すなわち、
X(ω)=Y(ω)/A(ω) (3)
得られたX(ω)を時間領域に再度戻すことで、伝播経路51aの影響を除去して、音源51の発した音を得ることが出来る。
次に、図15に示すように、2つの音源51,52と2つのマイク7a,7bがある場合を考える。1つの音源と1つのマイクの場合の説明は、容易に複数個の場合にも拡張でき、以下のように行列で表現される。すなわち、
Figure 0005361398
ただし、*は畳み込み積分を表す。ここで、y1(t),y2(t)は夫々マイク7a,7bが取得する信号を示す。x1(t),x2(t)は夫々、音源51,52が発する信号を示す。a11,a12,a21,a22は夫々、伝播経路51a,52a,51b,52bの伝達特性を示す。式(4)中の行列およびベクトルを1つの文字で表現すると、明らかに式(1)と同じ式になる。但し、A(ω)はスカラではないので、式(3)に対応する式は、以下のように表現される。すなわち、
X(ω)={A(ω)A(ω)}−1(ω)Y(ω) (5)
となる。式(5)において、A(ω)はA(ω)の随伴行列を表す。
定義から、A(ω)A(ω)は、半正値エルミート行列となる。多くの場合は、正値エルミート行列となり、A(ω)A(ω)には逆行列が存在するので式(5)によりX(ω)を求めることが出来る。ここで、X(ω)はベクトルであり、内部にx1,x2を成分として持っている。従って、X(ω)を時間領域に再度戻す(いわゆる逆フーリエ変換を行う)ことで、伝播経路51a,52a,51b,52bの影響を除去して音源51,52の発生音を得ることが出来る。ここで音源51が被写体、音源52が雑音源と仮定すると、本実施例により音源52からマイク7a,7bへの伝達特性a12,a22を同定することが出来る。一方で、音源51からマイク7a,7bへの伝達特性a11,a21を得ることは簡単ではない。しかしながら、マイク7a,7bがいわゆるステレオマイクであり、被写体方向が不明の場合は、a11,a21をともに遅れ0のインパルスのFFT処理結果とすることで、マイク7a,7bから音源52の音を低減した音声を得ることが出来る。別のケースとして、マイク7a,7bがいわゆるステレオマイクであり、被写体方向が画像などから既知の場合は例えば、a11を遅れ0のインパルスのFFT処理結果,a21はa11に対して被写体音方向によって生じると想定される位相差を与えたインパルスのFFT処理結果とすることで、マイク7a,7bから音源52の音を低減した音声を得ることが出来る。更に別のケースとして、マイク7aが被写体音を取得するマイクであり、マイク7bが雑音を優先して取得するマイクの場合は、a11を遅れ0のインパルスのFFT処理結果、a21を0信号のFFT処理結果とすることで、マイク7aから音源52の音を低減した音声を得ることが出来る。このようにすることで、A(ω)を決定することができ、式(5)を解くことで被写体音X(ω)を得ることが出来る。
以上に説明したように、複数の音源からの音を夫々分離して特定の音源からの音を取り出したり、特定の音源からの音を除去できる。このような処理を、本実施例では音源分離と呼ぶ。
前述したように、音源からマイクまでの伝達特性が特定されれば、複数のマイクの出力信号を処理することで、撮影レンズ2での発生音を除去または低減した、適当な記録用音声信号を得ることが出来る。伝達特性はフィルタ54a,54bの中に表現されている。しかし、レンズ交換式カメラでは音源の状態や音源の種類が多種多様であるので、フィルタ54a,54bを固定値として設けたのでは十分な効果を得ることが難しい。
そこで、本実施例では、フィルタ係数メモリ77からフィルタ54a,54bの特性を読み出して使用する。同定した結果を用いることで、取り付けられた撮影レンズ2の状態に応じたフィルタ54a,54bが適用され、結果として高品位の音声信号を得ることが出来る。
図16は、本発明の第2実施例である撮像装置の中央断面図を示す。図16において、第1実施例と同一の機能を持つ部材には同じ符号を付してある。図16において、101は撮影レンズ2に備えられたスピーカである。ここでは、基板8上にスピーカ101が設けられているが、撮影レンズ2内の適当な位置に設置すれば良い。図16の各部の動作は、音声処理回路26及びスピーカ101を除いて、第1実施例と同じである。
図17は、図16に示す実施例の概略機能ブロック図を示す。第1実施例と同じ構成要素には同じ符号を付してある。本実施例では、撮影レンズ2内にスピーカ101を設けた。本体1の音声処理回路26が、以下に説明するように音声処理回路26とは異なるように動作する。これらを除いて各部の動作は、実施例1と同じである。また本実施例の動作シーケンスも、図3〜図5に示した動作と同じである。
図18を参照して、音声処理回路26とスピーカ101の作用を説明する。図18において、102a,102bはスピーカ101の出力音声がマイク7a,7bに入力する音声伝播経路を示す。111は、スピーカ101の出力する音声信号波形を示す。112a,112bは、マイク7a,7bで捕らえたスピーカ101の出力音声信号の波形を示す。113a,113bはFFT処理部53a,53bで観測される、マイク7a,7bの出力音声信号の周波数スペクトルを示す。113cは、スピーカ101の駆動信号をFFT処理部74でフーリエ変換した結果の周波数スペクトル波形を示す。
カメラシステム制御回路25は、電気接点10を介してレンズシステム制御回路28に同定処理に用いる音声を発するように指示する。カメラシステム制御回路25は同時に、音声処理回路26に同定処理を行うように指示する。レンズシステム制御回路28は、予め発生すべき信号波形を記憶しており、その信号波形に従ってスピーカ101を駆動し、波形111で示す音声信号を発生させる。この駆動信号は、電気接点10を介して音声処理回路26にも送られる。図18に示す例では、サイン波の、周波数が次第に上がるいわゆるスイープサイン音を発生させている。このスイープサイン音は、撮影レンズ2が発する騒音を周波数領域で見たときに、録音信号に含まれる周波数帯の信号を含むことが望ましい。またスピーカ101も、上述の帯域の音声を発生可能であることが望ましい。
スピーカ101の出力する音声信号(波形111)は、音声伝播経路102a,102bを伝搬してそれぞれマイク7a,7bに入射し,電気信号に変換される。マイク7a,7bは、波形112a,112bで示す電気音声信号を出力する。FFT処理部53a,53bは、マイク7a,7からの音声信号(波形112a,112b)をフーリエ変換し、FFT処理部74は、レンズシステム制御回路28からの駆動信号をフーリエ変換する。波形113a,113b、113cはボード線図であり、横軸は周波数を示し、縦軸は信号レベルと位相を示す。例えば、波形113aでは、高周波領域でゲインが下がるとともに、周波数によって位相が変化している。
実施例1で説明したように、FFT処理部53a,53bの出力(波形113a,113b)はスイープ波形の情報と音声伝播経路102a,102bの情報を持っている。一方、FFT処理部74の出力信号(波形113c)は、スイープ波形の情報のみを持つ。そこで、波形113a,113bを波形113cで割ることで、インパルス音に対する応答に変換できる。フィルタ係数演算器57a,57bは、この除算を各周波数について行い、その結果をフィルタ係数メモリ77に保存する。
図18に示す例では、広い周波数帯に亘って同定を行うことを模式的に示すためにスピーカ101にスイープサイン音を発生させた。実際の処理においては、周波数を固定してその周波数でのフィルタ係数を求め、その係数をフィルタ係数メモリ77に保存した後に、次の周波数を同定する、というように、順次同定してもよい。
また、以上の同定処理において、フィルタの同定を1つの周波数に対して複数回行い、平均化処理を行うことで、ばらつきを低減出来る。さらに、平均化を行うと同時にコヒーレンスを計算しておき、コヒーレンスが低下した場合は同定をやり直すか、又は今回の同定結果をフィルタ係数メモリ77に反映しないなどの処理を行ってもよい。
フィルタ係数メモリ77の情報を用いた音声分離は、図15を用いて説明した実施例1と同様であるので、詳細な説明を省略する。同定した結果を用いることで、取り付けられた撮影レンズ2の状態に応じたフィルタ54a,54bが適用され、結果として高品位の音声信号を得ることが出来る。
本発明の一実施例である一眼レフ電子カメラの中央断面図である。 図1に示す実施例の概略構成ブロック図である。 本実施例の音源同定のタイミングチャート例である。 本実施例の別の音源同定のタイミングチャート例である。 本実施例のさらに別の音源同定のタイミングチャート例である。 手ぶれ補正機構の分解斜視図である。 手ぶれ補正機構のロック状態の平面図である。 手ぶれ補正機構のアンロック状態の平面図である。 手ぶれ補正機構のオーバードライブ状態の平面図である。 手ぶれ補正機構のロック状態の部分拡大平面図である。 手ぶれ補正機構のアンロック状態の部分拡大平面図である。 手ぶれ補正機構のオーバードライブ状態の部分拡大平面図である。 インパルス音を使った同定処理の説明図である。 インパルス音以外での同定処理の説明図である。 音声分離動作の説明図である。 本発明の実施例2の中央断面図である。 実施例2の概略構成ブロック図である。 実施例2での同定処理の説明図である。
1:撮像装置本体
2:撮影レンズ
3:撮影光学系
4:光軸
5:レンズ鏡筒
6:撮像素子
7:マイク
8:回路基板
9:駆動部
10:電気接点
11:補正機構
12:補正光学系
13:クイックリターンミラー
14:ぶれ補正検出センサ
15:AE/AFセンサ
20:A/D変換器20
21:画像処理回路
22:表示装置
23:記録処理回路
24:記録媒体
25:カメラシステム制御回路
26:音声処理回路
27:操作検出回路
28:レンズシステム制御回路
29a:焦点レンズ駆動部
29b:ブレ補正駆動部
29c:絞り駆動部
36:保持枠
41:可動鏡筒
42:発光素子
43:コイル
44:ロックリング
45:ロックモータ
46:フォトインタラプタ
51:音源
52:音源
53a,53b:FFT処理部
57a,57b:フィルタ係数演算器
74:FFT処理部
76:メモリ
77:フィルタ係数メモリ
101:スピーカ

Claims (15)

  1. 撮影光学系を有する撮影レンズを着脱可能な撮像装置であって、
    音声を取得する複数の音声取得手段と、
    前記音声取得手段により得られた音声信号に含まれる前記撮影レンズの駆動音を低減した音声を抽出するためのフィルタにより前記音声信号を処理する音声処理手段と、前記フィルタのフィルタ係数を制御する制御手段とを有し、
    前記制御手段は、前記撮影レンズが装着されたことに応じて、前記撮影レンズの所定部材に音声を発生させ、前記複数の音声取得手段により取得された前記所定部材の音声の周波数変換後の信号と、予め記憶された前記所定部材の発生する音声の周波数変換後の信号とに基づいて、前記所定部材から前記複数の音声取得手段までの伝達特性を特定し、前記制御手段は、前記所定部材から前記各音声取得手段までの伝達特性にもとづいて、前記フィルタ係数を決定することを特徴とする撮像装置。
  2. 前記音声処理手段は、前記複数の音声取得手段により得られた複数の音声信号を周波数変換し、前記周波数変換後の音声信号を前記制御手段により決定されたフィルタ係数を用いてフィルタ処理し、前記フィルタ処理後の前記複数の音声信号の周波数変換後の信号を加算し、前記加算された音声信号を逆周波数変換することを特徴とする請求項1記載の撮像装置。
  3. 前記音声処理手段は、前記複数の音声取得手段により取得された音声信号をy1(t)、y2(t)とし、被写体音をx1(t)、予め記憶された前記撮影レンズの駆動音の音声信号をx2(t)とし、前記被写体から前記複数の音声取得手段までの伝達特性をそれぞれa11、a21とし、前記所定部材から前記複数の音声取得手段までの伝達特性をそれぞれa12、a22とし、下記の式において、a11、a21を前記複数の音声取得手段により取得された前記被写体音のインパルス音の周波数変換後の値とすることによって、
    Figure 0005361398
    (*は畳み込み積分を表す)
    前記被写体音x1(t)を抽出することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記所定部材は、スピーカであることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  5. 前記所定部材は、前記撮影レンズの光学素子駆動部であることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  6. 前記所定部材は、前記撮影レンズの手ぶれ補正機構であることを特徴とする請求項5に記載の撮像装置。
  7. 前記所定部材は、前記撮影レンズの絞り駆動部であることを特徴とする請求項5に記載の撮像装置。
  8. 前記所定部材は、前記撮影レンズの焦点レンズ駆動部であることを特徴とする請求項5に記載の撮像装置。
  9. 前記絞り駆動部は、メカニカルストッパに駆動部を衝突させることで音声を発生することを特徴とする請求項7に記載の撮像装置。
  10. 前記制御手段は、前記撮影レンズが装着され、前記音声取得手段により得られた音声のレベルが所定のレベルよりも小さくなったことに応じて、前記撮影レンズの所定部材に音声を発生させることを特徴とすることを特徴とする請求項1から9のいずれか1項に記載の撮像装置。
  11. 撮影光学系を有する撮影レンズを交換可能な撮像装置であって、
    音声を取り込むマイクと、
    前記マイクの出力音声信号から記録用音声信号を生成する音声処理手段であって、前記撮影レンズで発生する音を除去するフィルタを有する音声処理手段と、
    前記撮影レンズに配置されるスピーカと、
    撮影の前に前記フィルタのフィルタ係数を制御する制御手段であって、前記スピーカに音を発生させ,その音を前記マイクで取り込み、前記フィルタのフィルタ係数を決定する制御手段
    とを有することを特徴とする撮像装置。
  12. 前記制御手段は、前記スピーカから前記マイクまでの音の伝達関数を同定することを特徴とする請求項11に記載の撮像装置。
  13. 前記制御手段は、前記スピーカに、スイープサイン音を発生させることを特徴とする請求項11または12に記載の撮像装置。
  14. 前記制御手段は、前記撮影レンズの装着に応じて、前記スピーカに音を発生させ,その音を前記マイクで取り込み、前記フィルタのフィルタ係数を決定することを特徴とする請求項11から13のいずれか1項に記載の撮像装置。
  15. 前記制御手段は、周囲音レベルに応じて、前記スピーカに音を発生させ,その音を前記マイクで取り込み、前記フィルタのフィルタ係数を決定することを特徴とする請求項11ないし14の何れか1項に記載の撮像装置。
JP2009000217A 2009-01-05 2009-01-05 撮像装置 Expired - Fee Related JP5361398B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009000217A JP5361398B2 (ja) 2009-01-05 2009-01-05 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009000217A JP5361398B2 (ja) 2009-01-05 2009-01-05 撮像装置

Publications (2)

Publication Number Publication Date
JP2010157965A JP2010157965A (ja) 2010-07-15
JP5361398B2 true JP5361398B2 (ja) 2013-12-04

Family

ID=42575516

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009000217A Expired - Fee Related JP5361398B2 (ja) 2009-01-05 2009-01-05 撮像装置

Country Status (1)

Country Link
JP (1) JP5361398B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012118464A (ja) * 2010-12-03 2012-06-21 Nikon Corp 音声処理装置、撮像装置、音声処理方法、及び音声処理プログラム
JP5594133B2 (ja) * 2010-12-28 2014-09-24 ソニー株式会社 音声信号処理装置、音声信号処理方法及びプログラム
JP2012163849A (ja) * 2011-02-08 2012-08-30 Jvc Kenwood Corp 撮像装置
JP2013017160A (ja) 2011-06-06 2013-01-24 Panasonic Corp カメラ本体およびカメラ本体に装着可能な交換レンズ
JP5854779B2 (ja) * 2011-11-16 2016-02-09 キヤノン株式会社 撮像装置及び情報処理装置、これらの制御方法並びに雑音除去方法及びプログラム
US10692515B2 (en) * 2018-04-17 2020-06-23 Fortemedia, Inc. Devices for acoustic echo cancellation and methods thereof

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04233873A (ja) * 1990-12-28 1992-08-21 Minolta Camera Co Ltd レンズ交換可能なビデオカメラ
JPH05134679A (ja) * 1991-11-13 1993-05-28 Matsushita Electric Ind Co Ltd 適応型雑音抑圧装置
US20040032509A1 (en) * 2002-08-15 2004-02-19 Owens James W. Camera having audio noise attenuation capability
JP2008178062A (ja) * 2006-12-22 2008-07-31 Nikon Corp カメラおよびカメラシステム

Also Published As

Publication number Publication date
JP2010157965A (ja) 2010-07-15

Similar Documents

Publication Publication Date Title
JP5391008B2 (ja) 撮像装置及びその制御方法
JP5361398B2 (ja) 撮像装置
KR20110135343A (ko) 음성신호처리장치 및 그 제어 방법
JP5930684B2 (ja) 情報処理装置及び方法、並びにプログラム
JP6881969B2 (ja) 撮像装置、交換レンズおよびそれらの制御方法
JP4952769B2 (ja) 撮像装置
JP7209358B2 (ja) 撮像装置
KR101457392B1 (ko) 촬상장치 및 음성 처리장치
JP2011229142A (ja) 撮影装置、信号処理装置及び記録媒体
KR20120018814A (ko) 오디오-제어된 이미지 캡처링
JP2009276729A (ja) 交換レンズ、カメラ本体、撮像装置
JP2013117585A (ja) 撮像装置、情報処理装置及びその制御方法、プログラム、並びに音声処理装置
JP5932399B2 (ja) 撮像装置及び音声処理装置
JP5428762B2 (ja) 撮影装置、および、プログラム
JP6902961B2 (ja) 音声処理装置及びその制御方法
JP5736839B2 (ja) 信号処理装置、撮像装置、及びプログラム
JP5548529B2 (ja) 音声信号処理装置および撮影装置
JP5473786B2 (ja) 音声信号処理装置、及びその制御方法
JP2018064232A (ja) 撮像装置および撮像装置の制御方法
JP2014026002A (ja) 録音装置及びプログラム
JP7378953B2 (ja) 撮像装置、撮像装置の制御方法、プログラム
JP2023088131A (ja) 撮像装置
JP5867673B2 (ja) 撮像装置
JP2011097260A (ja) 撮像装置
JP2014232267A (ja) 信号処理装置、撮像装置、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130903

LAPS Cancellation because of no payment of annual fees