JP2019117375A - 撮像装置及びその制御方法及びプログラム - Google Patents

撮像装置及びその制御方法及びプログラム Download PDF

Info

Publication number
JP2019117375A
JP2019117375A JP2018207634A JP2018207634A JP2019117375A JP 2019117375 A JP2019117375 A JP 2019117375A JP 2018207634 A JP2018207634 A JP 2018207634A JP 2018207634 A JP2018207634 A JP 2018207634A JP 2019117375 A JP2019117375 A JP 2019117375A
Authority
JP
Japan
Prior art keywords
imaging
sound
detection
detected
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018207634A
Other languages
English (en)
Other versions
JP2019117375A5 (ja
Inventor
祐介 鳥海
Yusuke Chokai
祐介 鳥海
規久夫 風間
Kikuo Kazama
規久夫 風間
佐藤 龍介
Ryusuke Sato
龍介 佐藤
悠貴 辻本
Yuki Tsujimoto
悠貴 辻本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to PCT/JP2018/042695 priority Critical patent/WO2019130908A1/ja
Priority to CN201880083608.1A priority patent/CN111527739A/zh
Publication of JP2019117375A publication Critical patent/JP2019117375A/ja
Priority to US16/910,622 priority patent/US20200329202A1/en
Publication of JP2019117375A5 publication Critical patent/JP2019117375A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/08Mouthpieces; Microphones; Attachments therefor
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2201/00Details of transducers, loudspeakers or microphones covered by H04R1/00 but not provided for in any of its subgroups
    • H04R2201/40Details of arrangements for obtaining desired directional characteristic by combining a number of identical transducers covered by H04R1/40 but not provided for in any of its subgroups
    • H04R2201/4012D or 3D arrays of transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Physics & Mathematics (AREA)
  • Otolaryngology (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Studio Devices (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)
  • Accessories Of Cameras (AREA)
  • Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】 特別な操作を行わずとも、ユーザの意図したタイミングで意図した構図の画像を撮像する。【解決手段】 撮像部を有する撮像装置であって、撮像部を駆動する駆動部と、ユーザのいる方向を検出する第一の検出部と、撮像装置の動きを検出する第二の検出部と、音声を集音するための複数の集音部と、複数の集音部を用いて音声の音源の方向を検出する第三の検出部と、制御部と、を有する。ここで制御部は、第一の検出部によって検出したユーザのいる方向と、および、第二の検出部によって検出した撮像装置の動きとに基づいて、2つ以上の集音部を複数の集音部から決定する。また、第三の検出部は、決定された2つ以上の集音部を用いて音声の音源の方向を検出する。そして、第三の検出部が決定された2つ以上の集音部を用いて音声の音源の方向を検出した場合、制御部は第三の検出部が検出した音源の方向に、撮像部の撮像方向を向けるよう駆動部を制御する。【選択図】 図2

Description

本発明は、撮像装置及びその制御方法及びプログラムに関するものである。
カメラ等の撮像装置による静止画・動画撮影においては、ユーザがファインダー等を通して撮影対象を決定し、撮影状況を自ら確認して撮影画像のフレーミングを調整することによって、画像を撮影するのが通常である。このような撮像装置では、ユーザの操作ミスを検知してユーザに通知したり、外部環境の検知を行い、撮影に適していない場合にユーザに通知したりする機能が備えられている。また、撮影に適した状態になるようにカメラを制御する仕組みが従来から存在している。
このようなユーザの操作により撮影を実行する撮像装置に対し、ユーザが撮影指示を与えることなく断続的および継続的に撮影を行うライフログカメラが存在する(特許文献1)。
特表2016−536868号公報
しかしながら、ユーザの身に着けるタイプの、これまでのライフログカメラでは、定期的に自動撮影を行うものであるので、得られる画像はユーザの意図とは無関係なものとなる場合があった。
本発明は上記問題に鑑みなされたものであり、特別な操作を行わずとも、ユーザの意図したタイミングでユーザの意図した構図の画像を撮像する技術を提供しようとするものである。
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、
撮像手段を有する撮像装置であって、
前記撮像手段を駆動する駆動手段と、
ユーザのいる方向を検出する第一の検出手段と、
前記撮像装置の動きを検出する第二の検出手段と、
音声を集音するための複数の集音手段と、
前記複数の集音手段を用いて前記音声の音源の方向を検出する第三の検出手段と、
制御手段と、を有し、
前記制御手段は、前記第一の検出手段によって検出したユーザのいる方向と、および、前記第二の検出手段によって検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定し、
前記第三の検出手段は、前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出し、
前記第三の検出手段が前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出した場合、前記制御手段は前記第三の検出手段が検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御することを特徴とする。
本発明によると、第1には、特別な操作を行わずとも、ユーザの意図したタイミングで意図した構図の画像を撮像する技術を提供しようとするものである。
また、他の発明によれば、上記第1の効果に加えて、利用形態に合わせて方向検出に利用するマイクの数を変動させることで、省電力化を図り、且つ、ユーザの身に装着した場合等での衣類とのこすれ音による音方向のご検出を防ぐことが可能になる。
また、他の発明によれば、上記第1の効果に加えて、無意味となる撮像方向への変更が無くすことができる。
また、他の発明によれば、上記第1の効果に加えて、利用開始からの経過時間によって撮像手段の撮像方向の被写体に向かう動作が効率良くなっていく。
また、他の発明によれば、上記第1の効果に加えて、音源の方向の精度が、撮像手段の倍率に依存することになり、音源の方向を検出する精度を常に高くする必要がなくなり、消費電力を削減できる。
実施形態に係る撮像装置のブロック図。 実施形態に係る音声入力部と音声信号処理部の詳細ブロック図。 実施形態に係る撮像装置の外観図と使用例を示す図。 実施形態に係る撮像装置のパン動作とチルト動作を示す図。 実施形態における中央制御部の処理手順を示すフローチャート。 実施形態における中央制御部の処理手順を示すフローチャート。 図5Bにおける音声コマンド処理の詳細を示すフローチャート。 実施形態における音声コマンドの意味と音声コマンドとの関係を示す図。 実施形態における起動時から動作撮影開始コマンドに至るまでのタイミングチャート。 実施形態に係る音方向検知法を説明するための図。 撮像装置の真上に音源が存在する場合の検出法を説明するための図。 第1の実施形態における設置位置の検出処理を示すフローチャート。 第1の実施形態における設置位置別の音源方向の検出原理を示す図。 第1の実施形態における設置位置別の音源の検出範囲を示す図。 第2の実施形態における撮像装置1の利用形態と、対応のマスク領域との関係を示す図。 第2の実施形態における中央制御部の処理手順を示すフローチャート。 第3の実施形態における問題点を説明するための図。 第3の実施形態における中央制御部の処理手順を示すフローチャート。 第3の実施形態における改善された動作を説明するための図。 第3の実施形態の変形例における中央制御部の処理手順を示すフローチャート。 第3の実施形態の変形例における改善された動作を説明するための図。 第4の実施形態における音方向の感度と画角との関係を示す図。 第4の実施形態におけるズーム倍率を上げた場合お音方向の感度と画角との関係を示す図。 音方向の検出の分解能と処理の負担との関係を示す図。 第4の実施形態における水平方向の撮影画角と音方向検出時の水平方向の検出分解能の関係を示す図である。 第4の実施形態におけるズーム倍率の音声コマンド受信時の中央制御部の処理手順を示すフローチャート。 第4の実施形態における撮像装置の動作内容を説明するための図。
以下図面に従って本発明に係る実施形態を詳細に説明する。
[第1の実施形態]
図1は、第1の実施形態に係る撮像装置1のブロック構成図である。撮像装置1は、光学レンズユニットを含み、撮像する撮像方向(光軸方向)が可変の可動撮像部100、及び、可動撮像部100の駆動制御および、撮像装置全体を制御する中央制御部(CPU)を含む支持部200で構成される。
なお、支持部200は、圧電素子を含む複数の振動体11〜13が可動撮像部100の面に対し接触するように設けられている。これらの振動体11〜13の振動の制御により、可動撮像部100がパン、チルト動作を行う。なお、パン、チルト動作はサーボモータ等で実現しても構わない。
可動撮像部100は、レンズ部101、撮像部102、レンズアクチュエータ制御部103、及び、音声入力部104を有する。
レンズ部101は、ズームレンズ、絞り・シャッタ、および、フォーカレンズなどの撮影光学系で構成される。撮像部102は、CMOSセンサやCCDセンサなどの撮像素子を含み、レンズ部101により結像された光学像を光電変換して電気信号を出力する。レンズアクチュエータ制御部103は、モータドライバICを含み、レンズ部101のズームレンズ、絞り・シャッタ、および、フォーカスレンズ等の各種アクチュエータを駆動する。各種アクチュエータは、後述する支持部200内の中央制御部201より受信した、アクチュエータ駆動指示データに基づいて駆動される。音声入力部104はマイクロフォン(以降マイク)を含む音声入力部であり複数のマイク(本実施形態では4つ)で構成されており、音声を電気信号に変換し、さらに電気信号をデジタル信号(音声データ)に変換して出力する。
一方、支持部200は、撮像装置1の全体の制御を行うための中央制御部201を有する。この中央制御部201は、CPUと、CPUが実行するプログラムを格納したROM、及び、CPUのワークエリアとして使用されるRAMで構成される。また、支持部200は、撮像信号処理部202、映像信号処理部203、音声信号処理部204、操作部205、記憶部206、表示部207を有する。更に、支持部200は、入出力端子部208、音声再生部209、電源部210、電源制御部211、位置検出部212、回動制御部213、無線通信部214、並びに、先に説明した振動体11〜13を有する。
撮像信号処理部202は、可動撮像部100の撮像部102から出力された電気信号を映像信号へ変換する。映像信号処理部203は、撮像信号処理部202から出力された映像信号を用途に応じて加工する。映像信号の加工は画像切り出し、及び、回転加工による電子防振動作や、被写体(顔)を検出する被写体検出処理も含まれる。
音声信号処理部204は、音声入力部104から出力されたデジタル信号に対して音声処理を行う。音声入力部104がアナログ信号を出力するマイクであれば、音声信号処理部204において、アナログ信号からデジタル信号に変換する構成が含まれても構わない。なお、音声入力部104を含めた音声信号処理部204の詳細については図2を用いて後述する。
操作部205は、撮像装置1とユーザとの間のユーザインターフェースとして機能するものであり、各種スイッチ、ボタン等で構成される。記憶部206は、撮影により得られた映像情報などの種々のデータを記憶する。表示部207は、LCDなどのディスプレイを備え、映像信号処理部203から出力された信号に基づいて、必要に応じて画像表示を行う。また、この表示部207は、各種メニュー等を表示することで、ユーザインターフェースの一部として機能する。外部入出力端子部208は、外部装置との間で通信信号および映像信号を入出力する。音声再生部209はスピーカーを含み、音声データを電気信号に変換し、音声を再生する。電源部210は、撮像装置の全体(各要素)の駆動に必要な電力供給源であり、本実施形態では充電可能なバッテリであるものとする。
電源制御部211は、撮像装置1の状態に応じて、上記の各構成要素への電源部210からの電力の供給/遮断を制御するものである。撮像装置1の状態によっては、不使用の要素が存在する。電源制御部211は、中央制御部201の制御下で、撮像装置1の状態によって不使用な要素への電力を遮断して、電力消費量を抑制する機能を果たす。なお、電力供給/遮断については、後述する説明から明らかにする。
位置検出部212はジャイロ、加速度センサ、GPS等で構成され、撮像装置1の動きを検出する。この位置検出部212は、撮像装置1がユーザに身に着ける場合にも対処するためである。回動制御部213は、中央制御部201からの指示に従って振動体11〜13を駆動する信号を生成し、出力する。振動体11〜13は圧電素子で構成され、回動制御部213から印加される駆動信号に応じて振動する。振動体11〜13は、回動駆動部(パン・チルト駆動部)を構成する。この結果、可動撮像部100は、中央制御部201が指示した方向に、パン動作、チルト動作する。
無線部214はWiFi(登録商標)やBLE(Bluetooth(登録商標) Low Energy)などの無線規格に準拠して画僧データ等のデータ送信を行う。
次に、本実施形態における音声入力部104および音声信号処理部204の構成と、音方向検出処理を図2を参照して説明する。同図は、音声入力部104および音声信号処理部204の構成と、音声信号処理204、中央制御部201及び電源制御部211の接続関係を示している。
音声入力部104は、4つの無指向性のマイク(マイク104a、マイク104b、マイク104c、マイク104d)で構成される。各マイクはA/Dコンバータを内蔵しており、予め設定されたサンプリングレート(コマンド検出、方向検出処理:16kHz、動画録音:48khz)で音声を集音し、内蔵のA/Dコンバータにより集音した音声信号をデジタルの音声データとして出力する。なお、本実施形態では音声入力部104は4つのデジタルマイクで構成されるものとしているが、アナログ出力のマイクで構成されても構わない。アナログマイクの場合、音声信号処理部204内に、対応するA/Dコンバータを設ければよい。また、本実施形態におけるマイクの数は4つとするが、3つ以上であればよい。
マイク104aは、撮像装置1の電源がONの場合には無条件に電力が供給され、集音可能状態となる。一方、他のマイク104b、マイク104c、マイク104dは、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象となっており、撮像装置1の電源がONとなった初期状態では、電力は遮断されている。
音声信号処理部204は、音圧レベル検出部2041、音声用メモリ2042、音声コマンド認識部2043、音方向検出部2044、動画用音声処理部2045、及び、コマンドメモリ2046で構成される。
音圧レベル検出部2041は、マイク104aから出力された音声データの音圧レベルが予め設定された閾値を超えるとき、音声検出を表す信号を電源制御部211及び音声用メモリ2042に供給する。
電源制御部211は、音圧レベル検出部2041から音声検出を表す信号を受信した場合、音声コマンド認識部2043への電力供給を行う。
音声用メモリ2042は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。また、この音声用メモリ2042は、マイク104aから出力された音声データを一時的に記憶するバッファメモリである。マイク104aによるサンプリングレートが16kHzであり、1サンプリングにつき2バイト(16ビット)の音声データを出力し、最長の音声コマンドが仮に5秒であった場合、音声用メモリ2042は、約160キロバイト(≒5×16×1000×2)の容量を有する。また、音声用メモリ2042は、マイク104aからの音声データで満たされた場合、古い音声データが新たな音声データで上書きされる。この結果、音声用メモリ2042は、直近の所定期間(上記例では約5秒)の音声データが保持される。また、音声用メモリ2042は、音圧レベル検出部2041から音声検出を示す信号を受信したことをトリガにして、マイク104aからの音声データをサンプリングデータ領域に格納していく。
コマンドメモリ2046は不揮発性のメモリで構成され、本撮像装置が認識する音声コマンドに係る情報を予め記憶(登録)している。詳細は後述するが、コマンドメモリ2046に格納される音声コマンドの種類は例えば図8に示す通りであり、「起動コマンド」をはじめとして、複数種類のコマンドの情報がコマンドメモリ2046に格納されている。
音声コマンド認識部2043は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。なお、音声認識そのものは周知技術であるので、ここでの説明は省略する。この音声コマンド認識部2043は、コマンドメモリ2046を参照し、音声用メモリ2042に格納された音声データの認識処理を行う。そして、音声コマンド認識部2043は、マイク104aにより集音した音声データが、音声コマンドであるか否か、並びに、コマンドメモリ2046に記憶されている登録音声コマンドに一致するのかの判定を行う。そして、音声コマンド認識部2043は、コマンドメモリ2046に記憶されたいずれかの音声コマンドに一致する音声データを検出したとき、いずれのコマンドであるかを示す情報、並びに、音声用メモリ2042内の、その音声コマンドを決定づけた最初と最後の音声データのアドレス(或いは音声コマンドを受け付けたタイミング)を中央制御部201に供給する。
音方向検出部2044は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。また、音方向検出部2044は、4つのマイク104a乃至104dからの音声データに基づき、周期的に音源の存在する方向の検出処理を行う。音方向検出部2044は、内部にバッファメモリ2044aを有し、検出した音源方向を表す情報をバッファメモリ2044aに格納する。なお、音方向検出部2044による音方向検出処理を行う周期(例えば16khz)は、マイク104aのサンプリング周期に対して十分に長くて構わない。ただし、このバッファメモリ2044aは、音声用メモリ2042に格納可能な音声データの期間と同じ期間分の音方向情報を記憶するための容量を有するものとする。
動画用音声処理部2045は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。動画用音声処理部2045は、4つのマイクのうち、マイク103aとマイク104bの2つの音声データをステレオ音声データとして入力し、各種フィルタ処理、ウィンドカット、ステレオ感強調、駆動音除去、ALC(Auto Level Control)、圧縮処理といった動画音声用の音声処理を行う。詳細は後述する説明から明らかになるが、本実施形態ではマイク104aはステレオマイクのLチャネル用マイク、マイク104bはRチャネル用マイクとして機能する。
なお、図2では、消費電力や回路構成を考慮し、音声入力部104の各マイクと音声信号処理部204に含まれる各ブロックとの接続は、4つのマイクにおける必要最低限の接続を示す。しかし、電力および回路構成の許す限り、複数のマイクを音声信号処理部204に含まれる各ブロックで共有して使用しても構わない。また、本実施形態ではマイク104aを基準のマイクとして接続しているが、どのマイクを基準としても構わない。
図3(a)乃至(e)を参照して、撮像装置1の外観図および使用例を説明する。同図(a)は、本実施形態に係る撮像装置1の外観の上面及び正面図を示している。撮像装置1の可動撮像部100は、略半球体形であり、底面と平行な面を水平面とし、この面を0度したとき、−20度から垂直方向を示す90度の範囲の切欠き窓を有し、図示矢印Aが示す水平面にて360度に亘って回動可能な第1の筐体150を有する。また、可動撮像部100は、この切欠き窓に沿って図示の矢印Bが示す水平から垂直の範囲内で、レンズ部101及び撮像部102と一緒に回動可能な第2の筐体151を有する。ここで、第1の筐体150の矢印Aの回動動作はパン動作、第2の筐体151の矢印Bの回動動作はチルト動作に対応し、これらは振動体11〜13の駆動によって実現している。なお、本実施形態における撮像装置のチルト可能な範囲は、上記の通り、−20度から+90度の範囲であるものとする。
マイク104a、104bは、第1の筐体150の切欠き窓を挟む前面側の位置に配置されている。また、マイク104c、104dは、第1の筐体150の後方側に設けられている。図3(a)からもわかるように、第2筐体151を固定にした状態で、第1筐体150を矢印Aに沿ってどの方向にパン動作させたとしても、レンズ部101及び撮像部102に対する、マイク104a、104bの相対的な位置は変わらない。つまり、撮像部102の撮像方向に対して左側にマイク104aが常に位置し、右側にマイク104bが常に位置する。また、マイク104aおよびマイク104bは撮像部102の撮像方向に対して対称に配置されるので、マイク104aはステレオマイクのLチャネルへの入力を担い、マイク104bはステレオマイクのRチャネルへの入力を担う。それ故、撮像部102による撮像して得た画像が表す空間と、マイク104a,104bによる取得した音場は一定の関係を維持できる。
なお、本実施形態における4つのマイク104a、104b、104c、103dは、撮像装置1の上面から見て、図3(a)に示すように長方形の各頂点の位置に配置されている。また、これら4つのマイクは、図3(a)における1つの水平面上に位置するものとするが、多少のずれがあっても構わない。
マイク104aとマイク104bとの距離は、マイク104aとマイク104cとの距離よりも大きい。なお、隣りあうマイク間の距離は、10mm〜30mm程度が望ましい。また、本実施形態ではマイクの数を4つとしているが、直線上に並ばないという条件を満たせば、マイクの数は3つ以上であれば構わない。また、図3(a)のマイク104a乃至104dの配置位置は一例であって、これらの配置方法は、メカ的制約やデザイン制約等によって適宜変更しても構わない。
図3(b)乃至(e)は、本実施形態における撮像装置1の利用形態を示している。図3(b)は、机などに撮像装置1が載置される場合で、撮影者自身やその周囲の被写体の撮影を目的とした利用形態を説明するための図である。図3(c)は、撮像装置1を撮影者の首にぶら下げる例であり、主に、撮影者の行動の前方の撮影を目的とした利用形態を説明するための図である。図3(d)は、撮像装置1を撮影者の肩に固定した使用例であり、撮影者の周囲の前後、及び、右側の撮影を目的とした利用形態を説明するための図である。そして、図3(e)は、撮像装置1をユーザが持つ棒の端に固定する使用例であり、ユーザが望む所望の撮影位置(高所や手が届かない位置)に撮像装置1を移動させることで、撮影を行うことを目的とした利用形態を説明するための図である。
図4(a)乃至(c)を参照して、本実施形態の撮像装置1のパン動作、およびチルト動作を更に詳しく説明する。ここでは図3(b)のように据え置いた使用例で前提として記載するが、そのほかの使用例においても同様である。
図4(a)はレンズ部101が水平を向いている状態を示している。図4(a)を初期状態とし、第1筐体150を、上方向から見て反時計回りに90度パン動作させると、図4(b)のようになる。一方、図4(a)の初期状態から、第2筐体151の90度チルト動作をおこなうと、図4(c)の様になる。第1筐体150、第2筐体151の回動は、先に説明したように、回動制御部213により駆動される振動体11〜13による振動にて実現している。
次に、本実施形態における撮像装置1の中央制御部201の処理手順を図5A,5Bのフローチャートに従って説明する。同図に係る処理は、撮像装置1のメイン電源がONされた場合の中央制御部201の処理を示している。
中央制御部201は、ステップS101にて、撮像装置1の初期化処理を行う。この初期化処理にて、中央制御部201は、現在の可動撮像部100の撮像部102の撮像方向における、水平面内の方向成分をパン動作の基準角度(0度)として決定する。
これ以降、可動撮像部100のパン動作を行った後の撮像方向のうち水平面の成分は、この基準角度からの相対的な角度で表されるものとする。また、音方向検出部2044が検出する音源方向のうちの水平面の成分も、上記基準角度に対する相対的な角度で表されるものとする。また、詳細は後述するが、音方向検出部2044は、撮像装置1の真上の方向(パン動作の回転軸の軸方向)に音源があるか否かの判定も行う。
なお、この段階で、音声用メモリ2042、音方向検出部2044、動画用音声処理部2045、並び、マイク104b乃至104dへの電力は遮断されている。
初期化処理を終えると中央制御部201は、ステップS102にて、電源制御部211を制御して、音圧レベル検出部2041、マイク104aへの電力の供給を開始する。この結果、音圧レベル検出部2041は、マイク104aから出力された音声データに基づいて、この音声データに変換される前の音声の音圧レベルの検出処理を実行し、この音声が予め設定された閾値を超える音圧レベルであると判定した場合にその旨を中央制御部201に通知する。なお、この閾値は、例えば60dB SPL(Sound Pressure Level)とするが、撮像装置1が環境等に応じて変更してもよいし、必要な周波数帯域だけに絞るようにしてもよい。
中央制御部201は、ステップS103にて、音圧レベル検出部2041による閾値を超える音圧レベルである音声が検出されるのを待つ。閾値を超える音圧レベルである音声が検出されると、ステップS104にて、音声メモリ2042はマイク104aからの音声データの受信、格納処理を開始する。
また、ステップS105にて、中央制御部201は、電源制御部211を制御し、音声コマンド認識部2043への電力供給を開始する。この結果、音声コマンド認識部2043は、コマンドメモリ2046を参照した音声用メモリ2042に格納されていく音声データの認識処理を開始する。そして、音声コマンド認識部2043は、音声用メモリ2042に格納された音声データの認識処理を行い、コマンドメモリ2046内のいずれかの音声コマンドと一致すると音声コマンドを認識した場合、その認識された音声コマンドを特定する情報と、音声用メモリ2042内の、認識した音声コマンドを決定づけた最初と最後の音声データのアドレス(或いは音声コマンドを受け付けたタイミング)情報とを含む情報を中央制御部201に通知する。
ステップS106にて、中央制御部201は、音声コマンド認識部2043から、音声コマンドが認識されたことを示す情報を受信したか否かを判定する。否の場合、中央制御部201は、処理をステップS108に進め、音声コマンド認識部2043を起動させてからの経過時間が、予め設定された閾値を超えたか否かを判定する。そして、経過時間が閾値以内である限り、中央制御部201は、音声コマンド認識部2043による音声コマンドが認識されるのを待つ。そして、閾値が示す時間が経過しても、音声コマンド認識部2043が音声コマンドを認識しなかった場合、中央制御部201は処理をステップS109に進める。このステップS109にて、中央制御部201は、電源制御部211を制御して音声コマンド認識部2043への電力を遮断する。そして、中央制御部201は、処理をステップS103に戻す。
一方、中央制御部201が、音声コマンド認識部2043から、音声コマンドが認識されたことを示す情報を受信した場合、処理をステップS107に進める。このステップS107にて、中央制御部201は、認識された音声コマンドが、図8に示される起動コマンドに対応するか否かを判定する。そして、認識された音声コマンドが起動コマンド以外のコマンドであると判定した場合、中央制御部201は処理をステップS108に進める。また、認識された音声コマンドが起動コマンドであった場合、中央制御部201は処理をステップS107からステップS110に進める。
ステップS110にて、中央制御部201は、電源制御部211を制御し、音方向検出部2044、マイク104b乃至104dへの電力供給を開始する。この結果、音方向検出部2044は、4つのマイク104a乃至104dからの同時刻の音声データに基づく、音源方向の検出処理を開始する。音源の方向の検出処理は、所定周期で行われる。そして、音方向検出部2044は、検出した音方向を示す音方向情報を、内部のバッファメモリ2044aに格納していく。このとき、音方向検出部2044は、音方向情報を決定に利用した音声データのタイミングが、音声メモリ2042に格納された音声データのどのタイミングであったのかを対応付くように、バッファメモリ2044aに格納する。典型的には、バッファメモリ2044aに格納するのは、音方向と、音声メモリ2042内の音声データのアドレスとすればよい。なお、音方向情報には、水平面における、先に説明した基準角度に対する音源の方向との差を表す角度とする。また、詳細は後述するが、音源が撮像装置1の真上に位置する場合には、真上方向にあることを示す情報が音方向情報にセットされるものとする。
ステップS111にて、中央制御部201は、電源制御部211を制御し、撮像部102、及び、レンズアクチュエータ制御部103への電力供給を開始する。この結果、可動撮像部100は、撮像装置として機能し始める。
次に、ステップS151にて、中央制御部201は、音声コマンド認識部2043から、音声コマンドが認識されたことを示す情報を受信したか否かを判定する。否の場合、中央制御部201は、処理をステップS152に進め、現在、ユーザからの指示に従った実行中のジョブがあるか否かを判定する。詳細は図6のフローチャートの説明から明らかになるが、動画撮影記録や追尾処理等がジョブに相当する。ここでは、そのような実行中のジョブは存在しないものとして説明を続ける。
ステップS153にて、前回の音声コマンドを認識してからの経過時間が、予め設定された閾値を超えるか否かを判定する。否の場合、中央制御部201は処理をステップS151に戻し、音声コマンドの認識を待つ。そして、実行中のジョブが無く、且つ、前回の音声コマンドを認識してから閾値を超える時間が経過しても、更なる音声コマンドが認識されない場合、中央制御部201は処理をステップS154に進める。このステップS154にて、中央制御部201は、電源制御部211を制御し、撮像部102、レンズアクチュエータ103への電力を遮断する。そして、中央制御部201は、ステップS155にて、電源制御部211を制御し、音方向検出部2044への電力も遮断し、処理をステップS106に戻す。
さて、中央制御部201が音声コマンド認識部2043から音声コマンドが認識されたことを示す情報を受信したとする。この場合、音声コマンド認識部2043は、処理をステップS151からステップS156に進める。
本実施形態における中央制御部201は、認識した音声コマンドに応じたジョブを実行するに先立って、音声コマンドの発生した人物を、可動撮像部100の撮像部102の視野内に入れる処理を行う。そして、撮像部102の視野内に人物が入っている状態で、認識した音声コマンドに基づくジョブを実行する。
上記を実現するため、中央制御部201は、ステップS156にて、音声コマンド認識部2043で認識された音声コマンドに同期する音方向情報を、音方向検出部2044のバッファメモリ2044aから取得する。音声コマンド認識部2043は、音声コマンドを認識したとき、音声用メモリ2042内の音声コマンドを表す先頭と終端を表す2つのアドレスを中央制御部201に通知する。そこで、中央制御部201は、この2つのアドレスが示す期間内で検出した音方向情報をバッファメモリ2044aから取得する。2つのアドレスが示す期間内に複数の音方向情報が存在することもある。その場合、中央制御部201はその中の時間的に最も後の音方向情報をバッファメモリ2044aから取得する。時間的に後の音方向情報の方が、その音声コマンドを発した人物の現在の位置を表している蓋然性が高いからである。
ステップS157にて、中央制御部201は、取得した音情報が表す音源の方向が、撮像装置の真上の方向であるか否かを判定する。なお、音方向が撮像装置の真上であるか否かの判定についての詳細は項後述する。
音源が撮像装置1の真上の方向にある場合、中央制御部201は処理をステップS158に進める。このステップS158にて、中央制御部201は、回動制御部213を制御し、レンズ部101及び撮像部102の撮像方向を図4(c)に示す真上方向になるように、可動撮像部100の第2筐体151を回動させる。撮像部102の撮像方向が真上方向になった場合、中央制御部201は、ステップS159にて、映像信号処理部203から撮像画像を受信し、撮像画像内に音声発生原となるオブジェクト(人物の顔)が存在するか否かを判定する。否の場合、中央制御部201は処理をステップS151に戻す。一方、撮像画像内にオブジェクトが存在する場合、中央制御部201は処理をステップS164に進め、既に認識した音声コマンドに対応するジョブを実行する。なお、このステップS164の詳細は図6を用いて後述する。
ステップS157にて、中央制御部201が、音情報が示す方向が真上以外の方向であると判定した場合、処理をステップS160に進める。このステップS160にて、中央制御部201は、回動制御部213を制御して、可動撮像部100のパン動作を行い、現在の撮像部102の水平面の角度を、音情報が示す水平面の角度に一致させる。そして、ステップS161にて、中央制御部201は、映像信号処理部203から撮像画像を受信し、撮像画像内に音声発生原となるオブジェクト(顔)が存在するか否かを判定する。否の場合、中央制御部201は処理をステップS162に進め、回動制御部213を制御して、目標とするオブジェクトに向かって可動撮像部100のチルト動作を行う。そして、ステップS163にて、中央制御部201は、撮像部102の撮像方向のチルトの向きの角度が、チルト動作の上限(本実施形態では水平方向に対して90度)に到達したか否かを判定する。否の場合には、中央制御部201は処理をステップS161に戻す。こうして、中央制御部201は、チルト動作を行いながら、映像信号処理部203からの撮像画像内に音声発生原となるオブジェクト(顔)が存在するか否かを判定していく。そして、撮像部102の撮像方向のチルトの向きの角度がチルト動作の上限に到達してもオブジェクトが検出されない場合、中央制御部201は処理をステップS163からステップS151に戻す。一方、撮像画像内にオブジェクトが存在した場合、中央制御部201は処理をステップS164に進め、既に認識した音声コマンドに対応するジョブを実行する。
次に、図6のフローチャート、並びに、図7に示す音声コマンドテーブルに基づいて、ステップS164の処理の詳細を説明する。図7の音声コマンドテーブルに示される“Hi, Camera"等の音声コマンドに対応する音声パターンデータはコマンドメモリ2046に格納されるものである。なお、図7には代表的な音声コマンドを示す。なお音声コマンドはこれに限らない。また、以下の説明における音声コマンドは、図5BのステップS151のタイミングで検出された音声コマンドである点に注意されたい。
まず、ステップS201にて、中央制御部201は、音声コマンドが、起動コマンドであるか否かを判定する。
この起動コマンドは、撮像装置1に対し、撮像可能な状態に遷移させるための音声コマンドである。この起動コマンドは、図5AのステップS107で判定されるコマンドであり、撮像に係るジョブを実行させるためのコマンドではない。よって、中央制御部201は、認識した音声コマンドが起動コマンドである場合には、そのコマンドについては無視し、処理をステップS151に戻す。
ステップS202にて、中央制御部201は、音声コマンドが、停止コマンドであるか否かを判定する。この停止コマンドは、一連の撮像可の状態から、起動コマンドの入力を待つ状態に遷移させるコマンドである。よって、中央制御部201は、認識した音声コマンドが停止コマンドである場合には、処理をステップS211に進める。ステップS211にて、中央制御部201は、電源制御部211を制御し、既に起動している撮像部102、音方向検出部2044、音声コマンド認識部2043、動画用音声処理部2045、マイク104b乃至104d等への電力を遮断し、これらを停止する。そして、中央制御部201は、処理を起動時のステップS103に戻す。
ステップS203にて、中央制御部201は、音声コマンドが静止画撮影コマンドであるか否かを判定する。この静止画撮影コマンドは、撮像装置1に対して1枚の静止画の撮影・記録ジョブの実行の要求を行うコマンドである。よって、中央制御部201は、音声コマンドが静止画撮影コマンドであると判定した場合、処理をステップS212に進める。ステップS212にて、中央制御部201は、撮像部102で撮像した1枚の静止画像データを例えばJPEGファイルとして、記憶部206に記録する。なお、この静止画撮影コマンドのジョブが、1枚の静止画撮影記録により完結するので、先に説明した図5BのステップS152で判定する対象のジョブとはならない。
ステップS204にて、中央制御部201は、音声コマンドが動画撮影コマンドであるか否かを判定する。動画撮影コマンドは、撮像装置1に対して動画像の撮像と記録を要求するコマンドである。中央制御部201は、音声コマンドが動画撮影コマンドであると判定した場合、処理をステップS213に進める。このステップS213にて、中央制御部201は、撮像部102を用いて動画像の撮影と記録を開始し、処理をステップS151に戻す。本実施形態では、撮像した動画像は記憶部206に格納されるものとするが、外部入出力端子部208を介してネットワーク上のファイルサーバに送信しても構わない。動画撮影コマンドは、動画像の撮像、記録を継続させるコマンドであるので、このコマンドによるジョブは、先に説明したステップS152で判定する対象のジョブとなる。
ステップS205にて、中央制御部201は、音声コマンドが動画撮影終了コマンドであるか否かを判定する。中央制御部201は、音声コマンドが動画撮影終了コマンドであり、尚且つ、現に動画像の撮像・記録中である場合には、その記録(ジョブ)を終了する。そして、中央制御部201は処理をステップS151に戻す。
ステップS206にて、中央制御部201は、音声コマンドが追尾コマンドであるか否かを判定する。追尾コマンドは、撮像装置1に対して、撮像部102の撮像方向に、ユーザを継続して位置させることを要求するコマンドである。中央制御部201は、音声コマンドが追尾コマンドであると判定した場合、処理をステップS214に進める。そして、ステップS214にて、中央制御部201は、映像信号処理部203で得られた映像の中心位置にオブジェクトが位置し続けるように、回動制御部213の制御を開始する。そして、中央制御部201は処理をステップS151に戻す。この結果、可動撮像部100がパン動作、或いはチルト動作を行い、移動するユーザを追尾する。ただし、ユーザを追尾するものの、撮像した画像の記録は行わない。また、追尾している間は、先に説明した図5BのステップS152で判定する対象のジョブとなる。そして、追尾終了コマンドを受信して初めて、中央制御部201はこの動画像の撮影記録を終了する。なお、追尾中に、例えば静止画撮影コマンドや動画撮影コマンドのジョブを実行しても構わない。
ステップS207にて、中央制御部201は、音声コマンドが追尾終了コマンドであるか否かを判定する。中央制御部201は、音声コマンドが追尾終了コマンドであり、尚且つ、現に追尾中である場合には、その記録(ジョブ)を終了する。そして、中央制御部201は処理をステップS151に戻す。
ステップS208にて、中央制御部201は、音声コマンドが自動動画撮影コマンドであるか否かを判定する。中央制御部201は、音声コマンドが自動動画撮影コマンドであると判定した場合、処理をステップS217に進める。このステップS217にて、中央制御部201は、撮像部102による動画像の撮影と記録を開始し、処理をステップS151に戻す。この自動動画撮影コマンドにより実行されるジョブと、先に説明した動画撮影コマンドにより実行されるジョブとの違いは、発声がある度に、その発声の音源の方向にレンズ部101の撮像方向を向けつつ動画像を撮影、記録を行う点である。例えば、複数の話者が存在するミーティングの環境下で、発言があるたびにその発言者をレンズ部101の画角内に収めるために、パン動作、およびチルト動作を行いながら、動画像を記録する。なお、この場合、この自動動画撮影コマンドのジョブを実行中はジョブを終了させる音声コマンドを受け付けない。このジョブの終了は、操作部205に設けられた所定のスイッチ操作によって終了するものとする。また、このジョブを実行中、中央制御部201は、音声コマンド認識部2043を停止させる。そして、中央制御部201は、音圧レベル検出部2041により、閾値を超える音圧レベルを検出したタイミングでの、音方向検出部2044が検出した音方向情報を参照して、可動撮像部104のパン動作、チルト動作を行う。
なお、図6には示していないが、認識した音声コマンドが拡大コマンドである場合、中央制御部201はレンズアクチュエータ制御部103を制御し、予め設定された値だけ、現在のズーム倍率を増加させる。また、認識した音声コマンドが拡大コマンドである場合、中央制御部201はレンズアクチュエータ制御部103を制御し、予め設定された値だけ、現在のズーム倍率を減少させる。なお、レンズ部101が既にテレ端、或いは、ワイド端にあるとき、それを超えた拡大率、縮小率は設定できないので、このような音声コマンドがあった場合、中央制御部201はその音声コマンドを無視する。
以上であるが、上記以外の音声コマンドについては、ステップS207以降で実行されるが、ここでの説明は省略する。
ここで、本実施形態における撮像装置1におけるメイン電源ONからの処理のシーケンスの一例を図8に示すタイミングチャートに従って説明する。
撮像装置1のメイン電源がONになると、音圧レベル検出部2041はマイク1014aからの音声データの音圧レベルの検出処理を開始する。タイミングT601にて、ユーザは、起動コマンド“Hi,Camera”の発声を開始したとする。この結果、音圧レベル検出部2041が閾値を超える音圧を検出する。そして、これがトリガになって、タイミングT602にて、音声用メモリ2042がマイク104aからの音声データの格納を開始し、音声コマンド認識部2043が音声コマンドの認識を開始する。ユーザが起動コマンド“Hi,Camera”の発声を終えると、タイミングT603にて、音声コマンド認識部2043がその音声コマンドを認識し、且つ、認識した音声コマンドが起動コマンドであることを特定する。
中央制御部201は、この起動コマンドが認識されたことをトリガにして、タイミングT603にて音方向検出部2044に電力供給を開始する。また、中央制御部201は、タイミングT604にて撮像部102への電力供給も開始する。
ユーザは、タイミングT606にて、例えば“Movie start”の発声を開始したとする。この場合、発生の開始のタイミングの音声データは、タイミングT607から順に音声用メモリ2042に格納されていく。そして、タイミングT608にて、音声コマンド認識部2043が、音声データを“Movie start”を表す音声コマンドとして認識する。音声コマンド認識部2043は、音声用メモリ2042内の“Movie start”を表す音声データの先頭と終端のアドレスと、認識結果を中央制御部201に通知する。中央制御部201は、受信した先頭と終端のアドレスが表す範囲を有効範囲として決定する。そして、中央制御部201は、音方向検出部2044のバッファ2044a内の、有効範囲内から、最新の音方向情報を抽出し、タイミングT609にて、その抽出した情報に基づいて、駆動制御部213を制御して、可動撮像部100のパン動作、チルト動作を開始する。
可動撮像部100のパン動作、チルト動作中に、タイミングT612にて、撮像信号処理部202が、撮像部102を用いて生成された画像に被写体(オブジェクト;顔)を検出した場合、中央制御部201はパン動作、チルト動作を停止する(タイミングT613)。また、タイミングT614にて、中央制御部201は、動画用音声処理部2045に電力を供給して、マイク104a、及び、104bによるステレオ音声の集音状態にする。そして、中央制御部201は、タイミングT615にて、音声付動画像の撮像と記録を開始する。
次に、本実施形態における音方向検出部2044による音源方向の検出処理を説明する。この処理は、図5AのステップS110以降、周期的に、且つ、継続的に行われるものである。
まず、図9(a)を用いて、マイク104aとマイク104bの2つのマイクを用いた簡易の音方向検知を説明する。同図は、マイク104aとマイク104bが平面上(パン動作の回転軸に垂直な平面上)に配置されているとする。マイク104aとマイク104bの距離をd[a‐b]と表す。距離d[a‐b]に対して、撮像装置1と音源間の距離は十分に大きいと仮定する。この場合、マイク104aとマイク104bの音声を比較することによって、両者間の音声の遅延時間を特定することができる。
到達遅延時間に音速(空気中は約340m/s)を乗じることで、距離I[a‐b]を特定することができる。その結果、次式で音源方向角度θ[a‐b]を特定することができる。
θ[a‐b]=acos(I[a‐b]/d[a‐b])
しかしながら、2つのマイクで求めた音方向は、求めた音源方向とθ[a−b]と[a‐b]’(図9(a))との区別ができない。つまり、2つの方向のいずれであるのかまでは特定できない。
そこで、本実施形態における音源の方向の検出方法を以下、図9(b)、(c)を用いて説明する。具体的には、2つのマイクで推定できる音源方向は2つあるので、それら2つの方向を仮方向として扱う。そして、更なる2つのマイクで音源の方向を求め、仮方向を2つ求める。そして、これらに共通している方向が、求める音源の方向として決定する。なお、図9(b)、(c)の上方向を可動撮像部100の撮像方向とする。可動撮像部100の撮像方向は、レンズ部101の光軸方向(主軸方向)とも言い換えられる。
図9(b)は3つのマイクで行う方式である。マイク104a、マイク104b、マイク104cを用いて説明する。図3(a)で示したような配置図であると、マイク104a、マイク104bの並ぶ方向に直交する方向がレンズ部101の撮像方向となる。
図9(a)で説明したように、マイク104a、マイク104bより、距離d[a‐b]は既知であり、音声データより距離I[a‐b]を特定することができれば、θ[a‐b]を特定できる。さらにマイク104a、マイク104c間の距離d[a‐c]も既知であるので、音声データより距離I[a‐c]も特定することができ、θ[a‐c]を特定できる。θ[a‐b]及びθ[a‐c]が算出できれば、マイク104a,104b、104cの配置と同一2次元平面上(パン動作の回転軸に垂直な平面上)における、それらに共通な方角が、正確な音声発生方向として決定できる。
図9(c)を用いて、4つのマイクで音源方向を決定する方法を説明する。図3(a)に示すマイク104a、マイク104b、マイク104c、マイク104dの配置により、マイク104a、マイク104bの並ぶ方向に直交する方向がレンズ部101の撮像方向(光軸方向)となる。マイク4つを利用する場合、対角線上に位置するマイク104aと104dのペアと、マイク10bとマイク104cのペアの2つのペアを用いると精度よく音源方向を算出できる。
マイク104a、マイク104d間の距離d[a‐d]は既知であるので、音声データから距離I[a‐d]を特定できるので、θ[a‐d]も特定できる。
更にマイク104b、マイク104c間の距離d[b‐c]も既知であるので、音声データより距離I[b‐c]を特定できるので、θ[b‐c]を特定できる。
よって、θ[a‐d]及びθ[b‐c]がわかれば、マイクの配置と同一2次元平面上では正確な音声発生方向を検知することが可能である。
さらに、θ[a‐b]、θ[c‐d]と検知角度を増やしていけば、方向検知の角度の精度を高めることも可能である。
以上のよう処理を行うため、マイク104aとマイク104bとマイク104cおよびマイク104dは図3のように長方形の4つの頂点に配置した。なお、マイクの数が3つであっても、それらが直線状に並ばないのであれば、必ずしも4つである必要はない。
上記の方法のデメリットとして、同一2次元平面上の音方向しか検知しかできない。そのため、音源が撮像装置1の真上に位置する場合には、その方向を検出できない。そこで、次に、音方向検出部2044における、音源の存在する方向として真上であるか否かの判定原理を図10(a),(b)を参照して説明する。
図10(a)は3つのマイクで行う方式を説明するための図である。マイク104a、マイク104b、マイク104cを用いて説明する。図3(a)で示したような配置図であると、マイク104a、マイク104bの並び方向に直交する方向がレンズ部101の撮像方向(光軸方向)である。マイク104a、マイク104bの並び方向とは、マイク104aの中心点とマイク104bの中心点とを結ぶ直線の方向である。
音声入力部104の配置されている平面に対して、垂直に交わる直線状、すなわち上方向からマイク104a、マイク104b、マイク104cに音声が入ってきたときについて記載する。
ここで、撮像装置1の真上に音源が位置する場合、その音源からマイク104aとマイク104bは等距離にあると見なせる。つまり、音源からこれら2つのマイク104aと104bに到達する音の時間差は無い。そのため、マイク104aとマイク104bを結ぶ直線に対して、垂直に交わる方向に音源があると認識される。
さらに、マイク104aとマイク104cも同様に音源からは等距離にあると見なせるので、やはり音源からこれら2つのマイク104aと104cに到達する音の時間差は無い。そのため、マイク104aとマイク104cを結ぶ直線に対して、垂直に交わる方向に音源があると認識される。
つまり、マイク104aとマイク104bで検出した音の時間差の絶対値をΔT1とし、マイク104aとマイク104cで検出した音の時間差の絶対値をΔT2とし、予め設定された十分に小さい閾値εとの関係が次の条件を満たす場合、音源が撮像装置1の真上に位置すると判定できる。
条件:ΔT1<ε かつ ΔT2<ε
図10(b)を参照し、4つのマイク104a、マイク104b、マイク104c、マイク104dを用いた、撮像装置1の真上に位置する音源の検出法を説明する。図3(a)に示すように、マイク104a、マイク104dのペアと、マイク104bとマイク10cのペアについて考察する。
撮像装置1の真上に音源が存在する場合、その音源からマイク104aとマイク104dは等距離になるので、これらマイク104aとマイク104dで検出する音の時間差の絶対値ΔT3はゼロか、非常に小さい値となる。つまり、マイク104aとマイク104dを結ぶ直線に対して、垂直に交わる方向に音源があると認識となる。
さらに、マイク104bとマイク104cも、音源からは等距離になるため、これらマイク104bとマイク104cで検出する音の時間差の絶対値ΔT4もゼロか、非常に小さい値となる。つまり、マイク104bとマイク104cを結ぶ直線に対して、垂直に交わる方向に音源があると認識となる。故に、次の条件を満たす場合、音源が撮像装置1の真上に位置すると判定できる。
条件:ΔT3<ε 且つ ΔT4<ε
以上のように、3つ以上のマイクのうちの2つのペアについて、音の到達時間差の絶対値を求め、それら2つの絶対値が共に十分に小さい閾値未満となった場合に、音源の存在方向を真上であると決定できる。なお、2つのペアを決めるとき、それら2つのペアの向きが互いに非平行となるように決定すれば、どのような組み合わせでもよい。
以上、第1の実施形態を説明した。上記実施形態によれば、音声コマンドを発声した人物(の顔)以外を誤って被写体とすることを抑制できる。また、音声コマンドを発した人物の意図したジョブを実行することも可能になる。
更に、上記実施形態で説明したように、マイク104a乃至104d、音声信号処理部204を構成する各要素は、実際にそれらが利用する段階でなって初めて中央制御部201の制御の下で電力供給が行われるので、全構成要素が可動状態にある場合と比較して、電力消費量を抑制できる。
次に、上記実施形態の説明を踏まえ、具体的な利用形態を説明する。図3(b)乃至(e)に示すように、本実施形態における撮像装置1の利用形態は様々である。
ここで、例えば、図3(c)の様に、ユーザの首にぶら下げる場合について考察する。この場合、レンズ部101の撮像方向(光軸方向)がユーザの体方向に向くと、不要な画像を撮像してしまうのは容易に理解できよう。それ故、レンズ部101の撮像方向(光軸方向)は、ユーザにとって常に前方に向かうことが望ましい。この場合、図3(a)に示すように、4つのマイクのうち、マイク104c、194dがユーザの体に触れる可能性が高い。つまり、このマイク104c、1094dが、ユーザの衣類とのこすれ音を集音する可能性が高くなり、4つのマイクでの音方向検出部2044による音方向検出の際の支障を来す。そこで、本実施形態では、撮像装置1をユーザの首にぶら下げる利用形態の場合、中央制御部201は、マイク104c、104dへの電力を遮断すると共に、音方向検出部2044に対し、マイク104a、104bの2つのみを用いた音方向検出を行うよう指示する。この場合、図9(a)を参照して説明した、2つのマイクのみでの音源方向を求めると音源方向が2つ検出されてしまうという問題は無い。なぜなら、音源方向は、少なくともユーザの前方の範囲内にあると見なしてよいからである。つまり、音方向検出部2044は、マイク104a、104bの2つのみを用いるため、計算上は2つの音方向を検出するものの、ユーザの前方にある音源方向を有効な音源方向として検出する。なお、ユーザの体の有る方向の検出は、例えば首にぶら下げられていると判定した後、360度(一周)のパン動作を行い、測距した距離の最短となる方向(図3(c)のユーザの胸部の方向)を中心とする適当な角度(例えば図3(c)では180度)の範囲をユーザの存在する方向として決定すればよい。また、中央制御部201は、決定した方向を記憶部206に基準方向として保存する。
次に、図3(d)の様に、ユーザの肩に装着する場合についても考察する。この場合、4つのマイクのうち、いずれか1つがユーザの頭に近い位置になり、ユーザの頭、或いは衣類に接する可能性が高くなる。そこで、この場合には、4つのマイクのうち、ユーザの頭に近い1つを音方向検出の際に不使用(電源OFF)とし、残り3つで音源方向を検出する。一旦、ユーザの肩に撮像装置1を装着(固定)した場合、ユーザの動きとは無関係に、撮像装置1とってのユーザの頭の相対方向は変化しない。そこで、中央制御部201は、この方向をユーザの頭の方向として記憶部206に記憶する。そして、中央制御部201は、4つのマイクのうち、記憶した方向とレンズ部101の撮像方向(光軸方向)に基づき、ユーザの頭に近い側の1つのマイクを方向検出に不使用(電力を遮断)とし、且つ、音方向検出部2044には残りの3つマイクを用いて方向検出を行うように設定する。なお、ユーザの頭の有る方向の検出は、例えば肩に装着されていると判定した後、360度のパン動作を行い、測距した距離の最短となる方向を中心とする適当な角度(例えば90度)の範囲をユーザの存在する方向として決定すればよい。また、中央制御部201は、測距した距離の最短となる方向(ユーザの頭の方向)は記憶部206に基準方向として保存する。
そして、図3(b)、(e)の利用形態の場合、音方向検出部2044は4つのマイクを用いた音方向検出を行えばよい。
ここで、図3(b)乃至(e)のいずれの利用形態とするかは、ユーザが支持部200の操作部205から設定する。ただし、ユーザが操作部205により、オート検出モードを設定した場合、中央制御部201による利用形態の自動検出を行う。以下、オート検出モードが設定されている場合の中央制御部201の自動検出の処理を説明する。
実施形態における、位置検出部212はジャイロセンサ、加速度センサ、GPSセンサといった撮像装置1の動きを検出する構成を有することは既に説明した。そこで、撮像装置1のメイン電源がONになり、図5AのステップS101の初期化処理後は、基本的に図3(b)の状態、すなわち、撮像装置1は固定状態にあるとして、音方向検出部2044が音方向検出を行う。
一方、図5AのステップS101の初期化処理後に、ユーザが撮像装置1を持ってその利用形態を決める操作を行うと、当然、位置検出部212の加速度センサやジャイロ等のセンサにより閾値より大きい変化を検出することになる。また、ユーザがこの操作を行うタイミングは、撮像装置1のメイン電源の投入したタイミングとする。例えば、位置検出部212は、初期化処理後の予め設定された期間内にセンサのうちの1つでも閾値より大きい変化を検出した場合、ユーザによる撮像装置1の設置操作を行っていると推定し、中央制御部201に割り込み信号を発する。
図11に示すフローチャートは、この割り込み処理(撮像装置1の設置位置の検出処理)を示している。以下、同図を参照して、中央制御部201の処理を説明する。
まず、ステップS1101にて、中央制御部201は、位置検出部212が有する各センサが出力してくるデータを、予め設定された期間分、記憶部206に保存を行う。この保存する期間は、ユーザが利用形態に係る操作を完了するまでに十分な時間が望ましい(例えば1分)。
この保存期間を終えると以下に説明するように、中央制御部201は、保存したデータに基づく、撮像装置1の設置位置判定を行い、音方向検出部2044による音方向検出法を決定する。なお、以下の説明にて、x、y軸が表す平面は、撮像装置1のパン動作の回転軸に垂直な面を表し、z軸は撮像装置1のパン動作の回転軸の軸方向を表すものとして説明する。
ユーザは、撮像装置1を肩に装着する(図3(d)の)場合、x,y,z軸のいずれかの方向への移動量が図3に示す(b)、(c)、(e)の場合と比較し、かなり大きくなる傾向がある。それ故、中央制御部201は、ステップS1102にて、保存されたx、y、z軸それぞれの加速度のいずれかが予め設定された閾値を超えるか否かを判定する。閾値を超える角速度があった場合、中央制御部201は、撮像装置1がユーザの肩に装着されたものと推定し、ステップS1103にて、ユーザの頭部に近い1つのマイクを除く、残り3つのマイクによる音方向検出法(又はルール)に従って音源方向の検出を行うよう、音方向検出部2044に設定し、本処理を終える。
ステップS1102にて、x、y、z軸のいずれの方向の加速度も閾値以下であった場合、中央制御部201は処理をステップS1104に進める。
首にぶら下げる場合、肩載せに比べ、x、y、z、方向への移動量が小さくなる傾向がある。且つ、撮像装置1を首にかける為には、図3(c)に示す通り、上下をひっくり返す動作が必要になる。このため、首にかける動作を行う場合は、ある特定軸の角速度が大きくなる傾向がある。また、z軸回りの回転は少ない。
そこで、ステップS1104にて、中央制御部201は、x、y、z軸に沿った角速度の検出と閾値比較を行う。具体的には、z軸に対する角速度(ヨー)が予め設定された閾値以下であり、且つ、x軸、或いはy軸に対する角速度(ロール、ピッチ)が予め設定された閾値より大きいか判定を以上であるか判定を行う。
この条件を満たす場合、中央制御部201は、撮像装置1はユーザの首にぶら下げられているものと推定する。そして、4つのマイクのうち、マイク104a,104bの2つのマイクのみを用い、且つ、マイク104c,104dとは逆方向が音源の存在位置であるものと見なす音方向検出法にしたがった音源方向検出を行うよう、中央制御部201は音方向検出部2044に設定し、本処理を終える。
一方、ステップS1104にて、ヨー方向の角速度が閾値より大きく、且つ、ロールまたはピッチの角速度が閾値以下であると判定された場合、中央制御部201がステップ1106にて、撮像装置1が、ユーザの手で適当な位置に固定されたものと見なす。それ故、中央制御部201は、ステップS1106にて、4つのマイクを用いた音方向検出法に従って音源方向の検出を行うよう、音方向検出部2044に設定し、本処理を終える。
図12(a)は、撮像装置1がユーザの首にぶら下げた場合の音方向検出方法を示す図であり、図12(b)は、撮像装置1がユーザの肩に固定された場合の音方向検出方法を示す図である。そして、図12(c)は、撮像装置1が固定された場合の音方向検出方法を示す図である。
図13(a)乃至(c)は、図12(a)乃至(c)それぞれの方法で得られるマイクの指向性を示した図である。なお、図12(a)乃至(c)による音源方向の決定法が、図9(a)乃至(c)と同じため詳細な説明を省略し、以下、簡単に説明する。
図12(a)は、図11の処理にて、撮像装置1がユーザの首にかけられたと判断された場合の音方向の検出法を示している。音源の方向導出原理そのものは、図9(a)と同じである。マイク104a、マイク104b間の距離d[a-b]を一辺とし、θ[a-b]を求める。音源の方向は角度θ[a-b]および角度θ[a-b]’の2つの候補があるが、ユーザの体の方向の角度θ[a-b]’は、無視すればよい。また、先に説明したように、マイク104c、104dへの電力は遮断してよい。なお、図13(a)に示す参照符号1101が示す破線範囲が、この検出法による音源方向の検出範囲を示している。図示のように、前方に対する音方向の検出範囲が後方よりも広くなるが、後方はユーザの体になるので問題はない。
図12(b)は、図11の処理にて、撮像装置1がユーザの肩に装着されたと判断された場合の音方向の検出法を示している。ユーザの頭の方向は、図示の左下方向であるものとしている。撮像装置1はユーザの肩に装着された場合、マイク104a、マイク104b間の距離d[a-b]を一辺とし、θ[a-b]を求める。その後、マイク104b、マイク104c間の距離d[c-b]を一辺とした、θ[c-b]を求め、θ[a-b]との相関をとることで音源位置の角度を求める。電源がOFFとなるのは、4つのマイクのうち1つであり、残り3つは、音方向検出部2044が可動中である限り、電源が供給される。図13(b)の参照符号1102が示す範囲は、この検出法による音源方向の検出範囲を示している。図示のように、音方向の検出範囲が左下方向が狭くなるが、この方向にユーザの頭が存在することになるので、特に問題はない。
図12(c)は、図11の処理にて、撮像装置1がユーザ等の移動体に装着されるのではなく、固定される場合の音方向の検出法を示している。この場合、4つのマイクの全てへの電源が供給され、これら4つのマイクを用いた音方向が行われる。図13(c)の参照符号1103が示す範囲が、この検出法による音源方向の検出範囲を示している。図示のように、音方向の検出範囲が全方向に対して偏りなく音源方向が検出できる。
以上、撮像装置の取り付け位置を検出し、該検出情報に応じた音方向検知方法を選択することで、音方向検知時に、取り付け部位に適したマイクの指向性を確保し、検知精度を向上することが可能となる。
[第2の実施形態]
第2の実施形態を説明する。装置構成は、上記第1の実施形態と同じであるとし、その説明は省略し、異なる点について説明する。
撮像装置1を室内の人員を撮影するため、部屋の隅に固定する場合を考察する。しかし、何等かの原因により、音方向検出部2044が設置位置の近くの壁の方向に音源があると誤検出した場合、上記実施形態によれば、レンズ部101の撮像方向(光軸方向)は一旦、その壁の方向への無意味なパン動作をしてしまう。
そこで、本第2の実施形態では、中央制御部201は、音方向検出部2044に対して、音方向の有効範囲(或いは無効範囲)を設定する。そして、音方向検出部2044は、音方向検出処理にて、検出した音方向が有効範囲内にある場合のみ、その方向を示す音情報を、内部のバッファに2044aに格納する例を説明する。換言すれば、音方向検出部2044は、音方向検出処理にて、検出した音方向が無効範囲内にある場合には、その検出した音方向を示す情報を内部のバッファに2044aに格納せず、無視(マスク)する例を説明する。
図14(A)乃至(F)は、本第2の実施形態にて想定した撮像装置1の利用形態と、対応のマスク領域との関係を示す図である。
図14(A)は撮像装置1をユーザの首から下げた例である。図示の矢印Aをユーザの前方と定義したとき、図14(B)は、撮像装置1を底面から見た透視図である。図示の様に、マイク104a及びマイク104b側が撮像装置1の撮影できる領域である。逆にマイク104c及び、マイク104dが配置されている側は撮影する必要のない領域であることがわかる。そこで、中央制御部201は、音方向検出部2044に対し、ユーザの体の方向を中心とする所定の範囲(図示では180度の範囲)を、音方向検出のマスク領域として設定する。この設定を受け、音方向検出部2044は、検出した音方向が、設定されたマスク領域内にある場合には、その音方向を表す音方向情報をバッファメモリ2044aに格納しない。換言すれば、音方向検出部2044は、検出した音方向が、設定されたマスク領域外にある場合のみ、音方向情報をバッファメモリ2044aに格納する。この結果、中央制御部201は、レンズ部101の撮像方向(光軸方向)を、マスク領域に向かうようなパン動作を行わないようになる。
図14(C)は撮像装置1を部屋の隅の壁際においた例である。この時、図14(D)が表すように、撮像装置1を上面から見たとき、四隅に向かう方向を中心とする適当な角度範囲(例えば200度)をマスク領域とする。
図14(E)は撮像装置1をユーザの肩に装着した例である。図14(F)は、ユーザの上方から見た場合のマスク領域を示している。図示の如く、ユーザの頭部が存在する方向を示す領域をマスク領域とする。
次に、第2の実施形態における、中央制御部201による処理を図15(a)のフローチャートを参照して説明する。図15(a)は、中央制御部201によるマスク領域設定を含む、主要な処理を示している点に注意されたい。また、以下では、図6のステップS217の自動動画撮影記録のジョブが実行されているものとして説明する。
中央制御部201は、自動動画撮影モードに移行すると、ステップS1502にて、撮像部102、撮像信号処理部202の出力より、現在の画角範囲が撮影の必要な領域かどうかか確認する。判断方法としては、得られた画像が所定値以上の輝度があるか、レンズアクチュエータ制御部103によってフォーカスが合う位置に被写体がいるか、もしくは被写体が近すぎないかを判断する。測距センサや、距離マップなどを用いて被写体までの距離を求めて判断してもよい。
現在の画角の一部もしくは全体が、撮影不要と判断された場合、中央制御部201は、ステップS1503にて、その角度を音方向検知マスク領域として、記憶部206に保存する。
中央制御部201は、ステップS1504にて、回動制御部213を制御し、予め設定された単位角度だけ、可動撮像部100をパン動作させる。そして、中央制御部201は、ステップS1505にて、このパン動作が360度(一周)したと判定するまで、ステップS1502以降の処理を繰り返す。この結果、記憶部206には、マスクする複数の角度が格納されているので、中央制御部201は、複数の角度のうちの両端の角度で挟まれる複数の角度を含む範囲をマスク領域として決定する。ここまで、初期の音方向検知マスク領域判定動作を完了とする。
この後、ステップS1506にて、音方向検出部2044が音源の方向を検出したとする。この場合、ステップS1507にて、音方向検出部2044は、その音源の方向が先に決定したマスク領域内にあるか否かを判定する。検出した音源方向がマスク領域内にあるとき、音方向検出部2044はその音源方向を無視する。つまり、音方向検出部は、音方向情報を、内部のバッファメモリ2044aに格納せず、処理をステップS1506に戻す。
一方、検出した音方向がマスク領域外であった場合、音方向検出部2044は、検出した方向を内部バッファ2044aに格納する。この結果、中央制御部201は、音方向検出部2044による音方向検出があったことがわかるので、ステップS1508にて、回動制御部213を制御し、可動撮像部100を音源方向に向かうようにパン動作させる。
そして、ステップS1509にて、中央制御部201が、映像信号処理部203を介して取得した画像内に被写体を検出できなかった場合は、処理をステップS1506に戻し、音方向検知の待機状態を継続する。
一方、撮像画像内に被写体が含まれている場合、中央制御部201は、ステップS1510にて、顔認識、追尾、静止画撮影や動画撮影といったジョブを実行する。ここで、ステップS1511にて、位置検出部212のジャイロや加速度センサを用いて撮像装置1の移動の検出が行われる。ここで位置検出部212によって撮像装置1の移動が検出された場合、中央制御部201は撮像装置1が持ち運ばれていると判断する。そして、中央制御部201は、ステップS1502に戻し、再度の音方向検知マスク領域の設定処理を行う。
図15(a)は、マスク領域設定処理を、撮像装置1の通常利用する事前処理で行うものであったが、随時、音方向検知マスク領域を更新する処理を図15(b)のフローチャートを参照して説明する。なお、以下の説明でも、中央制御部201によるマスク領域設定を含む、主要な処理を示している点に注意されたい。つまり、図15(b)では、第1の実施形態で説明した起動コマンド等の電源制御については省略し、マスク領域の設定と、音方向検出から音声コマンドに基づく処理の主要部のみを示している。
中央制御部201は、ステップS1522にて、音方向検出部2044による音方向検出を待つ。音方向検出があると、中央制御部201は、ステップS1523にて、検出した音源の方向が音検出のマスク領域内にあるか否かを判定し、音源の方向がマスク領域内であれば、その音方向は無視し、ステップS1522に処理を戻す。なお、初期状態では、音方向検出のマスク領域が設定されていない。それ故、中央制御部201は、ステップS1524に処理を進め、回動制御部213を制御し、可動撮像部100を音源方向に向かうようにパン動作を開始させる。
所定の時間のパン動作後、ステップS1525にて、中央制御部201は、映像信号処理部203の出力より、画角範囲が撮影の必要な領域かどうかか確認する。判断方法としては、得られた画像が所定値以上の輝度があるか、レンズアクチュエータ制御部103によってフォーカスが合う位置に被写体がいるか、もしくは被写体が近すぎて合焦不可となるかを判断する。測距センサや、距離マップなどを用いて被写体までの距離を求めて判断しても構わない。
現在の画角の一部もしくは全体が、撮影の必要な領域と判断された場合、中央制御部201は、ステップS1526にて、その方向(角度)は音方向検知マスク領域を解除して保存する。逆に、画角の一部もしくは全体が撮影不要と判断された場合、中央制御部201は、ステップS1527にて、その方向(角度)を音方向検知マスク領域として保存する。
そして、中央制御部201は、ステップS1528にて、先のステップS1522にて検出した音源の方向に到達したか否かを判定する。否の場合、中央制御部201はステップS1529にて、パン動作を行う。そして、中央制御部201は、処理をステップS1525に戻す。
ステップS1528にて、中央制御部201が、音方向検出部2044の方向へのパン動作を行ったと判断した場合、処理をステップS1530に進める。このステップS1530にて、中央制御部201は、映像信号処理部203を介して得た画像内に被写体(顔)を検出する。検出できなかった場合、中央制御部201は、処理をステップS1522に戻し、音方向検知の待機状態に戻す。一方、映像信号処理部203で得た画像中に被写体を検出できた場合、中央制御部201は、処理をステップS1531に進め、認識した音声コマンドに応じた、追尾、静止画撮影や動画撮影といった所定動作を行う。
以上のようにして、音方向検知マスク領域を拡大、縮小していくことによって、最適な方向のみの音方向検出部2044の結果を得ることができる。
以上のようにして、音方向検知マスク領域を拡大、縮小の更新処理を行うことによって、最適な方向のみの音方向検出部2044の結果を得ることができる。
[第3の実施形態]
本第3の実施形態は、図6のステップS217の自動動画記録のジョブに適用した例を説明する。図16は、撮像装置1が演壇1605上に固定されており、被写体(の顔)1603、1604が異なる高さとなっている模式図である(一方の人物が起立しており、他方が着席していると考えるとわかりやすい)。
図16において、撮像装置1が被写体1603を撮影している最中に(参照符号1601がその時の画角)、その後、被写体1604が声を発したとする。この場合、撮像装置1は被写体160の水平方向の角度(パン角)を検知することができるが、被写体1604の垂直方向の角度(チルト角)は検知することができない(図示の参照符号1602はチルト角未定でパン動作が完了した際の画角)。このため、パン動作後に、チルト動作を徐々に行っては被写体を検出する必要がある。
しかしながら、被写体1603と被写体1604の撮影が交互に繰り返される場合、パン動作するたびに、画角のチルト動作を行って被写体を探索する必要が出てきてしまい、被写体の検出までに、より多くの時間がかかる。また、動画を記録している場合には、違和感のある画角移動をする動画が記録されてしまうといった問題が発生してしまう。
そこで、本第3の実施形態では、一度、被写体を認識した場合、その際のレンズ部101の撮像方向(光軸方向)を表すパン角、チルト角を学習(記憶)する。そして、音方向検出部2044が検出した音方向が、学習済みの方向に対して、予め設定された閾値以下の許容範囲内にある場合(2つの方向がほぼ一致する)は、その学習済みの方向に向けてパン動作とチルト動作を同時に実行し、レンズ部101の撮像方向(光軸方向)を学習済みの方向に一致させ、パン動作、チルト動作の時間の短縮を図る。なお、パン角、チルト角の学習では、第1の実施形態で説明した基準角、すなわち、撮像装置1の起動時のレンズ部101の水平面の方向(パン0度)、及ぶチルト範囲の水平方向(チルト0度)として、その差分を記憶部206に記憶するものとする。
図17は、本第3の実施形態における、中央制御部201の自動動画記録ジョブ(図6のステップS217)の処理手順を示すフローチャートである。なお、本処理を開始する際に、既に、音声付きの動画像撮影、記録が開始されているものとする。
まず、ステップS1701において、中央制御部201は、音方向検出部2044による音源の方向の検出を待つ。音源の方向の検出が行われた場合、中央制御部201は、処理をステップS1702に進め、現在のレンズ部101の撮像方向(光軸方向)と検出した音源の方向から、パン動作の方向と角度を決定する。そして、ステップS1703にて、中央制御部201は、今回検出した音源方向に一致する、被写体情報が記憶部206に既に登録されているか否かを判断する。本実施形態の撮像装置1においては、過去の被写体情報を記憶部206に保存しておくことができる。過去の被写体情報として、被写体検出を行った時間、水平方向の角度(パン角)、垂直方向の角度(チルト角)の情報を蓄積しておくことで、新たな撮影を行う時の被写体検索の有効な手がかりとすることができる。
ステップS1703において、中央制御部201が、今回検出した音源方向に一致する過去の被写体情報があると判断した場合、処理をステップS1704に移行する。また、ステップS1703において、中央制御部201が、今回検出した音源方向に一致する、被写体情報が無いと判断した場合、処理をステップS1706に進める。
ステップS1704において、中央制御部201は、今回検出した音源方向に一致すると判定された被写体情報が表すチルト角と、現在のチルト角とから、チルト動作の方向と角度を決定する。そして、ステップS1705にて、中央制御部201は、先のステップS1702において決定されたチルト動作の方向と角度の情報を元に、レンズ部101の撮像方向(光軸方向)が最短距離で目標方向に向かうべく、パン動作とチルト動作を並列して実行する。このようにすることで、過去の被写体情報を検出した時点から撮像装置1と被写体の位置関係が変化していない場合、一度の画角移動で被写体の検出を行うことができ、被写体の検出までの時間を最小化できる。そのため、撮像装置1を用いて動画を記録している場合にも、ユーザにとって違和感の無い画角移動をする動画を記録することができる。
ステップS1706にて、中央制御部201は、パン動作を行わせ、レンズ部101の撮像方向(光軸方向)を、検出した音源に撮像方向(光軸方向)を向ける。そして、中央制御部201は、処理をステップS1707に進める。
ステップS1707にて、中央制御部201が、映像信号処理部203より得た現在の撮像画像から、被写体検出を行う。被写体が検出された場合、ステップS1708に移行し、その被写体の撮影を実施する。このとき、中央制御部201は、記憶部206内に、現在のパン角に対して許容範囲内の差の被写体情報が存在した場合、その被写体情報のパン角、チルト角を現在のレンズ部101の視線に合わせて更新する。また、中央制御部201は、記憶部206内に、現在のパン角に対して許容範囲内の差の被写体情報が存在しない場合、現在のレンズ部101の撮像方向(光軸方向)を示すパン角、チルト角を、新規な被写体情報として、記憶部206に登録する。
一方、ステップS1707にて、画角移動後に被写体が検出されなかった場合、中央制御部201は、ステップS1709に処理を進める。このステップS1709にて、中央制御部201は、レンズ部101の撮像方向(光軸方向)を垂直方向に移動(チルト動作)させ、被写体の探索を行なう。そして、ステップS1710にて、中央制御部201は、被写体が検出されたか否かを判定する。被写体が検出された場合には、処理をステップS1708に進める。ステップS1708に処理が進んだ場合、新規な被写体情報が記憶部206に登録される。
また、ステップS1710において、被写体が検出されなかった場合、中央制御部201は、処理をステップS1711に進め、エラー処理を行う。このエラー処理は、例えば、その位置のまま撮影、記録を継続する処理でもよいが、例えばステップS1701にて音源方向を検出したと判定された時点でのレンズ部101の撮像方向(光軸方向)に戻す処理でも良い。また、被写体が移動している可能性があるので、現在のレンズ部101の水平面のパン角に対し許容範囲内のパン角となっている、被写体情報を記憶部206から削除する処理である。
図18は本第3の実施形態の撮像装置の制御を模式的に示す図である。被写体1604が発声したことに起因して、撮像装置1がパン動作、チルト動作を行って被写体1604を検出できたとする。この場合、本実施形態の撮像装置1は、次回、被写体1604が発声した場合、直ちに、レンズ部101の画角を1801となるように、パン動作とチルト動作を最短距離となるように制御することができるようになる。
次に、第3の実施形態の変形例を説明する。以下でも、図6のステップS217の自動動画記録のジョブに適用した例を説明する。
図19は、本変形例における中央制御部201による、自動動画記録のジョブ中の処理手順を示すフローチャートである。なお、本処理を開始する際に、既に、音声付きの動画像撮影、記録が開始されているものとする。
図17との違いは、ステップS1901、ステップS1902が追加された点である。
まず、中央制御部201は、ステップS1701において、音方向検出部2044により音源の方向の検出を待つ。音源方向の検出が行われると、ステップS1702にて、中央制御部201は、現在のレンズ部101の撮像方向(光軸方向)と検出した音源の方向に基づき、パン動作の方向と角度を決定する。
次に、ステップS1901にて、中央制御部201は、記憶部206に目標方向を中心とする、予め設定された範囲内に複数の被写体情報があるかどうかの判断を行う。今回検出した音源方向に複数の被写体情報があると判断した場合、中央制御部201は処理をステップS1902に移行する。また、被写体検出情報が1つのみ、或いは存在しない場合、中央制御部201は処理をステップS1703に進める。
ステップS1902にて、中央制御部201は、複数の被写体がレンズ部101の画角内に入る目標チルト角を決定する。そして、中央制御部201は処理をステップS1705に進める。
ステップS1703以降は、図17と同じであるので、その説明は省略する。
上記の処理の結果、複数の被写体がほぼ同じ場所に位置し、その中の一人が発声した場合には、実際に発声した被写体を含む複数の被写体を画角にして撮影することになり、違和感のない動画像を記録することができる。
例えば、図20に示すように、被写体1604、1610が近い位置にあり、いずれの被写体情報も記憶部206に登録されている状況下で、仮に被写体1604が発声した場合には、図示の画角2001となるように中央制御部201が可動撮像部100のパン動作及びチルト動作を最短距離となるように動作することなり、自然な動画撮影記録が行えるようになる。
以上説明したように、本第3の実施形態並びにその変形例によれば、一旦発声した被写体をレンズ部101の画角内に入れて認識されると、その被写体の方向である、基準方向に対するパン角、チルト角を被写体情報として記憶(学習)する。そして、2回目以降、音方向検出部2044が検出した音方向のパン角が、記憶した被写体情報におけるパン角と実質的に一致した場合には、記憶された被写体情報が示すパン角、チルト角になるよう、パン動作とチルト動作を同時に実行して、可動撮像部100を移動させる。この結果、自然な被写体の切り替わりが行われ、違和感の少ない動画像記録を行うことが可能になる。
[第4の実施形態]
第4の実施形態を説明する。本第4の実施形態は、音方向検出部2044が検出する音方向の検出精度を可変にする例を説明する。音方向検出部2044による音方向の検出原理については既に説明したが、音方向の検出精度を高くするためには、単位時間当たりの検出回数を上げて、その平均値を求めることである。しかし、単位時間値の検出回数を増やすことは、音方向検出部2044の負担の増加、すなわち、可動率を上げることになり、撮像装置1の消費電力の増大になる。
そこで、本第4の実施形態では、音方向検出部2044の音方向検出精度を可変にし、必要に応じて精度を低くしたり、高める例を説明する。
図21(a)、(b)、及び、図22(a)乃至(c)は、ある撮影例における撮像装置1の水平方向の撮影画角と、音方向検出時の水平方向の検出分解能の関係を示す図である。図21(a),(b)、及び、図22(a)乃至(c)において、座標右方向を基準方向の0°とし、反時計回りの回転方向を正方向とする。また、一点鎖線で示される角度が、撮像装置1のレンズ部101の撮影画角θとする。図21(a),(b)ではθ=110度、図22(a)乃至(c)ではθ=40度の例である。なお、撮影画角θが小さいほどズーム倍率が高いことを示し、逆に撮影画角θが大きいということはズーム倍率が低いこと示す。ここで、音方向検出部2044の水平方向の角度の分解能を音方向検出分解能φとする。そして、音方向検出部2044が検出した音源の位置を示すのが図示の黒丸部分とする。
図21(a)、(b)は、撮影画角θ>音方向検出分解能φの場合の撮影例を示している。上記の通り、撮影画角θは110°、音方向検出分解能φは90°である。音方向検出分解能φが90°とは、音方向検出範囲を4分割しているのと同義である。この場合、音方向検出部2044が出力する音方向検出結果は、0〜90°、90〜180°、180〜270°、270°〜360°(0°)の4方向のうちいずれかとなる。
図22(a)は撮像装置1の初期状態を示しており、撮影方向は90°である。また、音声を発する被写体は座標270°〜360°(0°)の範囲の点で示した位置に存在する。図21(a)の撮影例において、音方向検出を行った後、図21(b)に示すように、音方向検出された範囲を撮影画角θがカバーするようにパン駆動し撮影方向を変更することで、撮影画角θ内に被写体を収めることができる。
図22(a)乃至(c)は、撮影画角θ<音方向検出分解能φの場合の撮影例を示している。同図では、撮影画角θは40°、音方向検出分解能φは90°である。図22(a)は撮像装置1の初期状態を示しており、撮影方向は90°である。また、音声を発する被写体は座標270°〜360°(0°)の範囲の点で示した位置に存在する。図22(a)で示す撮影例において、音方向検出を行った後、図22(b)、もしくは図22(c)に示すように音方向検出された範囲に撮影画角θが収まるようにパン駆動し撮影方向を変更することになる。撮影方向を図22(c)に示すように変更した場合、撮影画角θ内に被写体を収めることができるが、図22(b)に示すように変更後の撮影画角θ内に被写体を収めることができない。この場合、被写体を撮影画角θ内に収めるために繰り返しパン駆動を行い、図22(c)に示すような撮影方向に変更する必要がある。
以上、図21(a),(b)、及び、図22(a)乃至(c)を用いて説明したように、撮影画角θ>音方向検出分解能φの場合は、音声検出方向を一度のパン駆動で撮影画角内に収めることができ、被写体検出を行える。しかし、撮影画角θ<音方向検出分解能φの場合は、音声検出方向を一度のパン駆動で撮影画角内に収めることができない可能性があり、結果、繰り返しのパン駆動により被写体検出に余計な動作時間と消費電力がかかってしまう問題があるのは理解できよう。
図23は、音方向検出分解能φと音声信号処理部2045の処理量の関係を示した図である。音方向検出分解能φが小さくなるほど音声信号処理部2045の単位時間当たりの処理量は増加し、音方向検出分解能φが大きくなるほど音声信号処理部2045の単位時間当たりの処理量は減少する関係がある。つまり、音方向検出分解能φを必要以上に小さくしてしまうと、音声信号処理部2045の処理量が増大し、他の処理へ影響を与えてしまう問題がある。
以上から、撮影画角θと音方向検出分解能φの関係は、撮影画角θ>音方向検出分解能φの条件を満たしつつ、音方向検出分解能φは可能な限り大きくすることが望ましい。
図24(a)乃至(c)は、本第4の実施形態における撮像装置1の水平方向の撮影画角と、音方向検出時の水平方向の検出分解能の関係を示す図である。図25は、音声コマンド認識部2043が拡大コマンド又は縮小コマンドを認識した際の中央制御部201の処理を表すフローチャートである。図25のフローチャートは、第1の実施形態における図5BのステップS164の処理の一部である。すなわち、図6において省略したステップS208以降に音声コマンドが拡大、もしくは縮小コマンドであると判定された場合の処理である。
ステップS2501にて、中央制御部201は、認識された音声コマンドが拡大コマンド、縮小コマンドのいずれであるかを判定する。拡大コマンドである場合、中央制御部201は処理をステップS2502に進める。このステップS2502にて、中央制御部201は、レンズアクチュエータ制御部103から、現在のズームレンズの位置を取得し、その位置がテレ端になっているか否かを判定する。現在のズームレンズの位置がテレ端の位置になっている場合、これ以上の拡大はできない。そこで、中央制御部201は、認識された拡大コマンドは無視し、処理を図5BのステップS151に処理を戻す。
また、現在のズームレンズの位置がテレ端に至っていないと判断した場合、中央制御部201は、処理をステップS2503に進める。このステップS2503にて、中央制御部201は、レンズアクチュエータ制御部103を制御し、所定倍率だけズーム倍率を増加させる。そして、中央制御部201は、処理を図5BのステップS151に処理を戻す。
一方、ステップS2501にて、認識された音声コマンドが縮小コマンドのであると判定した場合、中央制御部201は処理をステップS2504に進める。このステップS2504にて、中央制御部201は、レンズアクチュエータ制御部103から、現在のズームレンズの位置を取得し、その位置がワイド端になっているか否かを判定する。現在のズームレンズの位置がワイド端の位置になっている場合、これ以上の縮小はできない。そこで、中央制御部201は、認識された縮小コマンドは無視し、処理を図5BのステップS151に処理を戻す。
また、現在のズームレンズの位置がワイド端に至っていないと判断した場合、中央制御部201は、処理をステップS2505に進める。このステップS2505にて、中央制御部201は、レンズアクチュエータ制御部103を制御し、所定倍率だけズーム倍率を減少させる。そして、中央制御部201は、処理を図5BのステップS151に処理を戻す。
以上の結果、例えば、今、図26(a)に示すように、撮影画角が110で、レンズ部101が基準方向に対して90度を向いており、且つ、音方向検出分解能φが90度であるものとする。そして、このとき、座標270度乃至360度に位置する黒丸が示す人物が拡大コマンドを発声したとする。この場合、音方向検出分解能φは90度であるので、パン動作の結果のレンズ部101の画角は図26(b)のようになる。つまり、発声した被写体をレンズ部101の画角内に入れることは可能になる。しかし、このコマンドを実行することになるので、レンズ部101の画角が狭くなる。結果、図26(c)に示すように、被写体(黒丸)が更新後のレンズ部101の画角外になることが起こり得る。しかし、同一人物が拡大コマンドを発声すると、前回よりも高い分解能である音方向検出分解能φが設定された状態(音方向検出分解能φが30度)で、パン動作することになるので、図26(d)に示すように、レンズ部101の画角内に被写体を入れることができる。つまり、被写体の人物が拡大コマンドを連呼すれば、レンズ部101の撮像方向(光軸方向)はより高い精度で被写体に向けうようになり、且つ、どんどん拡大していくことになる。
以上、説明したように本第4の実施形態によれば、ズーム駆動により撮影画角が変更となった場合にも音声検出分解能φを変更する。この結果、変更後の音声検出分解能φに従って音方向検出を行うことで、それに処理にかける時間や消費電力を抑えつつ画角外に存在する被写体を効率よく画角内に収めることができる。また、被写体となる人物が拡大コマンドを発声した後、例えば、動画像撮影コマンドを発声した場合、その人物の拡大した状態での動画像撮影と記憶が行われることになる。
上記例では、ユーザによるズームに関する音声コマンドに応じて、音方向の分解能を変更するものであった。しかし、音声コマンドに応じてパン動作した際、撮像画像中に複数の被写体が存在する場合、ズーム倍率とは無関係に、発声者を特定するために音方向の分解能を高くするようにしてもよい。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1…撮像装置、100…可動撮像部、101…レンズ部、102…撮像部、103…レンズアクチュエータ制御部、104…音声入力部、104a乃至104d…マイク、201…中央制御部、204…音声信号処理部、211…電源制御部、2041…音圧レベル検出部、2042…音声用メモリ、2043…音声コマンド認識部、2044…音方向検出部、2045…動画像音声処理部、2046…コマンドメモリ

Claims (20)

  1. 撮像手段を有する撮像装置であって、
    前記撮像手段を駆動する駆動手段と、
    ユーザのいる方向を検出する第一の検出手段と、
    前記撮像装置の動きを検出する第二の検出手段と、
    音声を集音するための複数の集音手段と、
    前記複数の集音手段を用いて前記音声の音源の方向を検出する第三の検出手段と、
    制御手段と、を有し、
    前記制御手段は、前記第一の検出手段によって検出したユーザのいる方向と、および、前記第二の検出手段によって検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定し、
    前記第三の検出手段は、前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出し、
    前記第三の検出手段が前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出した場合、前記制御手段は前記第三の検出手段が検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御する
    ことを特徴とする撮像装置。
  2. 前記第三の検出手段によって検出した音声の音源の方向に複数の候補があった場合、前記第一の検出手段によって検出したユーザのいる方向ではない方向に前記撮像手段の撮像方向を向けるよう前記制御手段は前記駆動手段を制御する
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記第二の検出手段は前記撮像装置の動きを、前記撮像装置の加速度および角速度に基づいて検出することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記複数の集音手段は、すべての前記集音手段が直線上に並ばないように配置されることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  5. 撮像手段と、
    前記撮像手段を駆動する駆動手段と、
    音声を集音するための複数の集音手段と、
    前記複数の集音手段を用いて集音した音声の音源の方向を検出する検出手段と、
    制御手段と、を有し、
    前記制御手段は前記撮像手段によって撮像した画像データに基づいて、撮影の必要のない領域を設定し、
    前記検出手段によって検出した音声の音源の方向が、前記撮影の必要のない領域にない場合、前記撮像手段の撮像方向が前記検出手段によって検出した音声の音源の方向に向くよう前記制御手段は前記駆動手段を制御する
    ことを特徴とする撮像装置。
  6. 前記制御手段は、前記撮像手段によって撮像した画像データの輝度が所定の閾値よりも暗い場合、または画像データに映る被写体と前記撮像装置との距離が所定の閾値より小さい場合、その撮像方向を撮影の必要のない領域として設定することを特徴とする請求項5に記載の撮像装置。
  7. 前記撮像装置が持ち運ばれていると判断した場合、前記制御手段は前記撮影の必要のない領域を再度設定する
    ことを特徴とする請求項5または6に記載の撮像装置。
  8. 前記駆動手段を所定の時間駆動するよう制御した後、前記制御手段はさらに前記撮像手段によって撮像した画像データに基づいて、現在の撮像手段の撮像方向が撮影の必要な領域かどうかを判断し、その判断にしたがって撮影の必要のない領域を再度設定する
    ことを特徴とする請求項5または6に記載の撮像装置。
  9. 撮像手段と、
    前記撮像手段をパン動作およびチルト動作によって駆動する駆動手段と、
    音声を集音するための複数の集音手段と、
    前記複数の集音手段を用いて前記音声の音源の方向のパン角を検出する検出手段と、
    制御手段と、を有し、
    前記制御手段は前記撮像手段によって被写体を撮像した場合、前記被写体の方向を向いた前記撮像手段の撮像方向のパン角およびチルト角を被写体情報として記録し、
    前記検出手段によって検出したパン角と前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値以下だった場合、前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御し、
    前記検出手段によって検出したパン角と前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値を超える場合、前記制御手段は、前記検出手段によって検出したパン角にいる被写体に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御する
    ことを特徴とする撮像装置。
  10. 前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御し、
    前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角の方向に被写体を検出した場合、前記制御手段は前記被写体情報を現在の撮像手段の撮像方向のパン角およびチルト角になるよう更新し、
    ことを特徴とする請求項9に記載の撮像装置。
  11. 前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御し、
    前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角の方向に被写体を検出しない場合、前記制御手段は前記被写体情報を削除する
    ことを特徴とする請求項9または10に記載の撮像装置。
  12. 前記検出手段によって検出したパン角との差が閾値以下になる被写体情報が複数ある場合、
    前記制御手段は前記複数の被写体情報のそれぞれのチルト角が所定の範囲内に入るようチルト角を決定し、
    前記制御手段は、前記検出手段によって検出したパン角および前記決定したチルト角の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御する
    ことを特徴とする請求項9から11のいずれか1項に記載の撮像装置。
  13. 撮像手段と、
    前記撮像手段を駆動する駆動手段と、
    音声を集音するための複数の集音手段と、
    前記複数の集音手段を用いて前記音声の音源の方向を所定の角度の分解能で検出する検出手段と、
    制御手段と、
    前記制御手段は、前記所定の角度を前記撮像手段の画角より小さくなるように設定し、
    前記集音手段によって音声を集音した場合、前記検出手段によって前記所定の角度の分解能で検出した音声の音源の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を前記制御手段は制御する
    ことを特徴とする撮像装置。
  14. 前記制御手段は、前記撮像手段のズーム倍率を増加させた場合、前記撮像手段の画角より小さくなるように前記所定の角度を大きくするよう設定し、
    前記制御手段は、前記撮像手段のズーム倍率を減少させた場合、前記撮像手段の画角より小さくなるように前記所定の角度を小さくするよう設定する
    ことを特徴とする請求項13に記載の撮像装置。
  15. さらに音声による指示を認識する認識手段を有し、
    前記認識手段が前記撮像手段のズーム倍率を変更する指示を認識した場合、前記制御手段は、前記撮像手段のズーム倍率を前記指示に従って変更する
    ことを特徴とする請求項13または14に記載の撮像装置。
  16. 撮像手段と、
    前記撮像手段を駆動する駆動手段と、
    音声を集音するための複数の集音手段と、
    前記複数の集音手段を用いて前記音声の音源の方向を検出する検出手段と、を有する撮像装置の制御方法であって、
    ユーザのいる方向を検出する第一の検出ステップと、
    前記撮像装置の動きを検出する第二の検出ステップと、
    前記第一の検出ステップで検出したユーザのいる方向と、および、前記第二の検出ステップで検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定する決定ステップと、
    前記決定ステップで決定された2つ以上の集音手段を用いて音声の音源の方向を前記検出手段によって検出する検出ステップと、
    前記検出ステップで音声の音源の方向を検出した場合、前記検出ステップで検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、を有する
    ことを特徴とする制御方法。
  17. 撮像手段と、
    音声を集音するための複数の集音手段と、を有する撮像装置の制御方法であって、
    前記複数の集音手段を用いて集音した音声の音源の方向を検出する検出ステップと、
    前記撮像手段によって撮像した画像データに基づいて、撮影の必要のない領域を設定する設定ステップと、
    前記検出ステップによって検出した音声の音源の方向が、前記設定ステップで設定した前記撮影の必要のない領域にない場合、前記撮像手段の撮像方向が前記検出ステップによって検出した音声の音源の方向に向くよう駆動する駆動ステップと、を有する
    ことを特徴とする制御方法。
  18. 撮像手段と、
    前記撮像手段をパン動作およびチルト動作によって駆動する駆動手段と、
    音声を集音するための複数の集音手段と、を有する撮像装置の制御方法であって、
    前記撮像手段によって被写体を撮像した場合、前記被写体の方向を向いた前記撮像手段の撮像方向のパン角およびチルト角を被写体情報として記録する記録ステップと、
    前記複数の集音手段を用いて前記音声の音源の方向のパン角を検出する検出ステップと、
    前記検出ステップで検出したパン角と前記記録ステップで記録した前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値以下だった場合、前記検出ステップで検出したパン角および前記記録ステップで記録した前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、
    前記検出ステップで検出したパン角と前記記録ステップで記録した前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値を超える場合、前記検出ステップで検出したパン角にいる被写体に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、を有する
    ことを特徴とする制御方法。
  19. 撮像手段と、
    前記撮像手段を駆動する駆動手段と、
    音声を集音するための複数の集音手段と、を有する撮像装置の制御方法であって、
    前記複数の集音手段を用いて前記音声の音源の方向を所定の角度の分解能で検出する検出ステップと、
    前記所定の角度を前記撮像手段の画角より小さくなるように設定する設定ステップと、
    前記集音手段によって音声を集音した場合、前記検出ステップで前記所定の角度の分解能で検出した音声の音源の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、を有する
    ことを特徴とする制御方法。
  20. コンピュータを請求項1から15の何れか1項に記載の撮像装置の各手段として機能させるための、コンピュータが読み取り可能なプログラム。
JP2018207634A 2017-12-26 2018-11-02 撮像装置及びその制御方法及びプログラム Pending JP2019117375A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/JP2018/042695 WO2019130908A1 (ja) 2017-12-26 2018-11-19 撮像装置及びその制御方法及び記録媒体
CN201880083608.1A CN111527739A (zh) 2017-12-26 2018-11-19 摄像设备及其控制方法和记录介质
US16/910,622 US20200329202A1 (en) 2017-12-26 2020-06-24 Image capturing apparatus, control method, and recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017250108 2017-12-26
JP2017250108 2017-12-26

Publications (2)

Publication Number Publication Date
JP2019117375A true JP2019117375A (ja) 2019-07-18
JP2019117375A5 JP2019117375A5 (ja) 2021-12-09

Family

ID=67304516

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018207634A Pending JP2019117375A (ja) 2017-12-26 2018-11-02 撮像装置及びその制御方法及びプログラム

Country Status (3)

Country Link
US (1) US20200329202A1 (ja)
JP (1) JP2019117375A (ja)
CN (1) CN111527739A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021135368A (ja) * 2020-02-26 2021-09-13 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US11627247B2 (en) 2020-10-27 2023-04-11 Canon Kabushiki Kaisha Imaging apparatus capable of automatically capturing image of subject, control method, and storage medium
US12003857B2 (en) 2020-10-29 2024-06-04 Canon Kabushiki Kaisha Image capturing apparatus capable of recognizing voice command, control method, and recording medium

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108391057B (zh) * 2018-04-04 2020-10-16 深圳市冠旭电子股份有限公司 摄像头拍摄控制方法、装置、智能设备及计算机存储介质
KR102514487B1 (ko) * 2018-06-07 2023-03-27 엘지이노텍 주식회사 카메라 모듈 및 그의 깊이 정보 추출 방법
CN114363512B (zh) * 2021-09-30 2023-10-24 北京荣耀终端有限公司 一种视频处理的方法及相关电子设备
US20240073518A1 (en) * 2022-08-25 2024-02-29 Rovi Guides, Inc. Systems and methods to supplement digital assistant queries and filter results
CN118072744B (zh) * 2024-04-18 2024-07-23 深圳市万屏时代科技有限公司 基于声纹的语言识别方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002344957A (ja) * 2001-05-11 2002-11-29 Hitachi Kokusai Electric Inc 画像監視装置
JP2009188792A (ja) * 2008-02-07 2009-08-20 Sony Corp 画像送信装置、画像受信装置、画像送受信システム、画像送信プログラムおよび画像受信プログラム
JP2009194900A (ja) * 2008-01-17 2009-08-27 Canon Inc 撮像装置及びその制御方法
JP2012175533A (ja) * 2011-02-23 2012-09-10 Sanyo Electric Co Ltd 電子機器
JP2012235257A (ja) * 2011-04-28 2012-11-29 Panasonic Corp 撮影装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5508734A (en) * 1994-07-27 1996-04-16 International Business Machines Corporation Method and apparatus for hemispheric imaging which emphasizes peripheral content
JPH09289609A (ja) * 1996-04-24 1997-11-04 Aiphone Co Ltd カメラ監視装置
GB2395081A (en) * 2002-10-31 2004-05-12 Hewlett Packard Co Image capture system
JP2006014054A (ja) * 2004-06-28 2006-01-12 Nec Access Technica Ltd カメラ付携帯電子機器による接写防止方法及びカメラ付携帯電子機器
JP2009177480A (ja) * 2008-01-24 2009-08-06 Yamaha Corp 撮影装置
JP5141392B2 (ja) * 2008-06-20 2013-02-13 カシオ計算機株式会社 撮像装置、周音範囲表示方法及びプログラム
CA2834522A1 (en) * 2012-11-22 2014-05-22 Perch Communications Inc. System and method for automatically triggered synchronous and asynchronous video and audio communications betwwen users at different endpoints
CN103595953B (zh) * 2013-11-14 2017-06-20 华为技术有限公司 一种控制视频拍摄的方法和装置
EP3316589B1 (en) * 2015-06-25 2024-02-28 Panasonic Intellectual Property Management Co., Ltd. Video synchronization device and video synchronization method
JP6058184B1 (ja) * 2016-03-10 2017-01-11 株式会社コロプラ ヘッドマウントディスプレイシステムを制御するための方法、および、プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002344957A (ja) * 2001-05-11 2002-11-29 Hitachi Kokusai Electric Inc 画像監視装置
JP2009194900A (ja) * 2008-01-17 2009-08-27 Canon Inc 撮像装置及びその制御方法
JP2009188792A (ja) * 2008-02-07 2009-08-20 Sony Corp 画像送信装置、画像受信装置、画像送受信システム、画像送信プログラムおよび画像受信プログラム
JP2012175533A (ja) * 2011-02-23 2012-09-10 Sanyo Electric Co Ltd 電子機器
JP2012235257A (ja) * 2011-04-28 2012-11-29 Panasonic Corp 撮影装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021135368A (ja) * 2020-02-26 2021-09-13 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US11627247B2 (en) 2020-10-27 2023-04-11 Canon Kabushiki Kaisha Imaging apparatus capable of automatically capturing image of subject, control method, and storage medium
US12003857B2 (en) 2020-10-29 2024-06-04 Canon Kabushiki Kaisha Image capturing apparatus capable of recognizing voice command, control method, and recording medium

Also Published As

Publication number Publication date
CN111527739A (zh) 2020-08-11
US20200329202A1 (en) 2020-10-15

Similar Documents

Publication Publication Date Title
JP2019117375A (ja) 撮像装置及びその制御方法及びプログラム
US11265477B2 (en) Image capturing apparatus and non-transitory recording medium
RU2679199C1 (ru) Способ и устройство для управления фотосъемкой беспилотного воздушного транспортного средства
JP7292853B2 (ja) 撮像装置及びその制御方法及びプログラム
US8823814B2 (en) Imaging apparatus
US20120307079A1 (en) Imaging apparatus and imaging system
JP2012220959A (ja) 入力された発話の関連性を判定するための装置および方法
US20120307080A1 (en) Imaging apparatus and imaging system
JP2011237716A (ja) デジタルカメラ及びその制御方法
JP2010109477A (ja) 撮像装置、その制御方法及びプログラム
JP2008288745A (ja) 映像情報処理装置
JP2024050643A (ja) ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法
WO2019130908A1 (ja) 撮像装置及びその制御方法及び記録媒体
CN114500790A (zh) 摄像设备及其控制方法以及存储介质
WO2021140879A1 (ja) 撮像装置、撮像装置の制御方法、プログラム
JP7451235B2 (ja) 撮像装置、制御方法、およびプログラム
WO2019130909A1 (ja) 撮像装置及びその制御方法及び記録媒体
JP7118746B2 (ja) 撮像装置及びその制御方法及びプログラム
US11490001B2 (en) Imaging apparatus
US11245830B2 (en) Image capture apparatus and control method for same, and storage medium
JP2022071984A (ja) 撮像装置、制御方法、およびプログラム
JP2021111960A (ja) 撮像装置、撮像装置の制御方法、プログラム
CN107613194B (zh) 一种对焦方法、移动终端及计算机可读存储介质
JP2022030416A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP2004219847A (ja) 小型携帯端末

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211101

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230526

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230922