JP2014127737A - Image pickup device - Google Patents

Image pickup device Download PDF

Info

Publication number
JP2014127737A
JP2014127737A JP2012280998A JP2012280998A JP2014127737A JP 2014127737 A JP2014127737 A JP 2014127737A JP 2012280998 A JP2012280998 A JP 2012280998A JP 2012280998 A JP2012280998 A JP 2012280998A JP 2014127737 A JP2014127737 A JP 2014127737A
Authority
JP
Japan
Prior art keywords
sound
unit
image
audio signal
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012280998A
Other languages
Japanese (ja)
Other versions
JP5939444B2 (en
Inventor
Jun Tanaka
潤 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2012280998A priority Critical patent/JP5939444B2/en
Publication of JP2014127737A publication Critical patent/JP2014127737A/en
Application granted granted Critical
Publication of JP5939444B2 publication Critical patent/JP5939444B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image pickup device capable of surely picking up a sound generated at one of a plurality of positions within a field angle, and capable of easily understanding the situation of a sound being acquired by a user.SOLUTION: A directivity switching unit 14 determines, depending on a field angle photographed by a video photographing unit 18 and a present angle resolution of sound acquisition, a plurality of angle directions within a field angle to be picked up by an array microphone 10, to switch the directivity of sound acquisition. Sound signal arithmetic units 12, 12' apply arithmetic processing on the sound signal acquired by a plurality of microphone elements in the array microphone 10, to generate a sound signal in a selected specific angle direction. An sound acquisition level calculation unit, such as a sound pressure level arithmetic unit 62, calculates a sound acquisition level such as the sound pressure level of a sound signal in a specific angle direction. An image data generation unit 26 generates image data of a sound acquisition level display image indicating the sound acquisition level. A video synthesis unit 25 causes the image data of the sound acquisition level display image to be displayed together with a video signal.

Description

本発明は、画角内の複数の位置のいずれかで発生する音声を的確に収音し、ユーザが、収音している音声の状況を容易に理解することができる撮像装置に関する。   The present invention relates to an imaging apparatus that accurately picks up sound generated at any of a plurality of positions within an angle of view, and allows a user to easily understand the state of sound being picked up.

一般的にビデオカメラと称されている撮像装置は、被写体を撮影し、マイクロホンによって被写体からの音声を収音する。映像音声記録再生機能を搭載したビデオカメラにおいては、被写体を撮影した動画像の映像情報と、撮影中に収音した音声情報とを記録し再生する。   In general, an imaging device called a video camera captures a subject and picks up sound from the subject using a microphone. A video camera equipped with a video / audio recording / playback function records and plays back video information of a moving image obtained by shooting a subject and audio information collected during shooting.

ビデオカメラに搭載されているマイクロホンは、一般的に、モノラルマイクロホンまたはステレオマイクロホンである。モノラルマイクロホンで音声を収音する場合、音声は、音声が発生する位置にかかわらず1チャンネルの音声信号として記録される。ステレオマイクロホンで音声を収音する場合、左右それぞれの音声が2チャンネルの音声信号として記録される。   A microphone mounted on a video camera is generally a monaural microphone or a stereo microphone. When sound is picked up by a monaural microphone, the sound is recorded as a one-channel sound signal regardless of the position where the sound is generated. When collecting sound with a stereo microphone, left and right sounds are recorded as 2-channel audio signals.

特開2000−298933号公報JP 2000-298933 A 特開2006−287544号公報JP 2006-287544 A

安藤彰男、「高臨場感音響技術とその理論」、IEICE Fundamental Review Vol.3 No.4、p.33-46Akio Ando, “Highly Realistic Acoustic Technology and Its Theory”, IEICE Fundamental Review Vol.3 No.4, p.33-46

モノラルマイクロホンまたはステレオマイクロホンを搭載したビデオカメラにおいては、画角内の複数の位置それぞれで発生する音声を的確に収音することは困難である。   In a video camera equipped with a monaural microphone or a stereo microphone, it is difficult to accurately collect sound generated at each of a plurality of positions within the angle of view.

例えば画角の中央付近に主たる撮影対象の被写体である人物が位置しており、画角の左側または右側端部で動物が鳴いて音を発生させたとする。このような状況で、動物が発生させた音を的確に収音して記録することは難しい。そこで、画角内の複数の位置のいずれかで発生する音声を的確に収音できることが求められる。   For example, it is assumed that a person who is the main subject to be photographed is located near the center of the angle of view, and an animal sounds at the left or right end of the angle of view. Under such circumstances, it is difficult to accurately collect and record the sounds generated by animals. Therefore, it is required that sound generated at any of a plurality of positions within the angle of view can be accurately picked up.

また、画角内の複数の位置のいずれかで発生する音声を収音しているとき、音声を的確に収音できているか否か等、ユーザが、収音している音声の状況を容易に理解することができることが求められる。   In addition, when picking up sound generated at any of multiple positions within the angle of view, the user can easily pick up the state of the sound being picked up, such as whether or not the sound can be picked up accurately. It is required to be able to understand.

本発明はこのような要望に対応するため、画角内の複数の位置のいずれかで発生する音声を的確に収音することができ、ユーザが、収音している音声の状況を容易に理解することができる撮像装置を提供することを目的とする。   In order to meet such a demand, the present invention can accurately pick up sound generated at any of a plurality of positions within the angle of view, and the user can easily determine the state of sound being picked up. An object is to provide an imaging device that can be understood.

本発明は、上述した従来の技術の課題を解決するため、複数のマイクロホン素子が配列されたアレーマイクロホン(10)と、被写体を撮影する映像撮影部(18)と、前記映像撮影部で撮影される画角と予め設定した収音の角度分解能とによって、前記アレーマイクロホンによって収音する前記画角内の複数の角度方向を決定して、前記アレーマイクロホンによる収音の指向性を切り替える指向性切替部(14)と、前記指向性切替部による制御によって、前記アレーマイクロホンにおける前記複数のマイクロホン素子が収音した音声信号を演算処理して、前記複数の角度方向のうちの少なくとも選択された特定の角度方向の音声信号を生成する音声信号演算部(12,12’)と、前記特定の角度方向の音声信号の収音レベルを算出する収音レベル算出部(62〜64)と、前記収音レベル算出部が算出した収音レベルを示す収音レベル表示画像の画像データを発生する画像データ発生部(26)と、前記画像データ発生部が発生した前記収音レベル表示画像の画像データを前記映像信号とともに表示させる映像合成部(25)とを備えることを特徴とする撮像装置を提供する。   In order to solve the above-described problems of the prior art, the present invention is photographed by an array microphone (10) in which a plurality of microphone elements are arranged, a video photographing unit (18) for photographing a subject, and the video photographing unit. Directivity switching that determines a plurality of angular directions within the angle of view to be picked up by the array microphone, and switches the directivity of the picked up sound by the array microphone based on the angle of view and the angle resolution of the sound pick-up set in advance A sound signal picked up by the plurality of microphone elements in the array microphone is controlled by the control by the unit (14) and the directivity switching unit, and at least a specific selected from the plurality of angular directions is selected. An audio signal calculation unit (12, 12 ′) that generates an audio signal in the angle direction and a sound collection level of the audio signal in the specific angle direction are calculated. A sound level calculation unit (62 to 64), an image data generation unit (26) for generating image data of a sound collection level display image indicating the sound collection level calculated by the sound collection level calculation unit, and the image data generation unit And an image synthesizing unit (25) for displaying image data of the sound collection level display image in which the sound is generated together with the image signal.

本発明の撮像装置によれば、画角内の複数の位置のいずれかで発生する音声を的確に収音することができ、ユーザが、収音している音声の状況を容易に理解することができる。   According to the imaging apparatus of the present invention, it is possible to accurately pick up sound generated at any of a plurality of positions within the angle of view, and the user can easily understand the state of the sound being picked up. Can do.

一実施形態の撮像装置を示すブロック図である。It is a block diagram which shows the imaging device of one Embodiment. 一実施形態の撮像装置の外観形状と撮像装置が撮影する被写体の例を示す図である。It is a figure which shows the external shape of the imaging device of one Embodiment, and the example of the to-be-photographed object which an imaging device image | photographs. 図1中のアレーマイクロホン10の具体的な構成例を示す図である。It is a figure which shows the specific structural example of the array microphone 10 in FIG. 図1中の音声信号演算部12(12’)における演算処理の原理を説明するための図である。It is a figure for demonstrating the principle of the arithmetic processing in the audio | voice signal calculating part 12 (12 ') in FIG. 図1中の音声信号演算部12の具体的な構成例を示すブロック図である。It is a block diagram which shows the specific structural example of the audio | voice signal calculating part 12 in FIG. 図1中の音声信号演算部12’の具体的な構成例を示すブロック図である。It is a block diagram which shows the specific structural example of the audio | voice signal calculating part 12 'in FIG. 一実施形態の撮像装置において画像に重畳させて表示する収音レベル表示画像の第1の例を示す図である。It is a figure which shows the 1st example of the sound collection level display image displayed by superimposing on an image in the imaging device of one Embodiment. 一実施形態の撮像装置において画像に重畳させて表示する収音レベル表示画像の第2の例を示す図である。It is a figure which shows the 2nd example of the sound collection level display image displayed on an image in the imaging device of one Embodiment. 一実施形態の撮像装置において画像に重畳させて表示する収音レベル表示画像の第3の例を示す図である。It is a figure which shows the 3rd example of the sound collection level display image displayed on an image in the imaging device of one Embodiment. 一実施形態の撮像装置において画像に重畳させて表示する収音レベル表示画像の第4の例を示す図である。It is a figure which shows the 4th example of the sound collection level display image displayed on an image in the imaging device of one Embodiment. 各種の収音レベル表示画像を示す図である。It is a figure which shows various sound collection level display images. 図8に示す収音レベル表示画像の第2の例において、音声信号の増幅度を調整した場合の収音レベル表示画像の例を示す図である。FIG. 9 is a diagram illustrating an example of a sound collection level display image when an amplification degree of an audio signal is adjusted in the second example of the sound collection level display image illustrated in FIG. 8. 図9に示す収音レベル表示画像の第3の例において、音声信号の増幅度を調整した場合の収音レベル表示画像の例を示す図である。It is a figure which shows the example of the sound collection level display image at the time of adjusting the amplification degree of an audio | voice signal in the 3rd example of the sound collection level display image shown in FIG. 図10に示す収音レベル表示画像の第4の例において、音声信号の増幅度を調整した場合の収音レベル表示画像の例を示す図である。It is a figure which shows the example of the sound collection level display image at the time of adjusting the amplification degree of an audio | voice signal in the 4th example of the sound collection level display image shown in FIG. 音声信号の増幅度を調整した場合の収音レベル表示画像の他の例を示す図である。It is a figure which shows the other example of the sound collection level display image at the time of adjusting the amplification degree of an audio | voice signal. 一実施形態の撮像装置において画像に収音レベル表示画像を重畳させて表示する場合の動作を示すフローチャートである。It is a flowchart which shows operation | movement in the case of displaying a sound-collection level display image superimposed on an image in the imaging device of one Embodiment. 一実施形態の撮像装置における記録動作を示すフローチャートである。It is a flowchart which shows the recording operation | movement in the imaging device of one Embodiment. 一実施形態の撮像装置をテレビジョン受像機に接続した状態を示す図である。It is a figure which shows the state which connected the imaging device of one Embodiment to the television receiver. 水平方向の角度方向を選択するための付加情報の画像と、水平方向の角度方向を区分けするための識別画像を重畳した画像を示す図である。It is a figure which shows the image which superimposed the image of the additional information for selecting the angle direction of a horizontal direction, and the identification image for classifying the angle direction of a horizontal direction. 水平方向の角度方向を選択するための付加情報の画像と、水平方向及び垂直方向の角度方向を区分けするための識別画像を重畳した画像を示す図である。It is a figure which shows the image which superimposed the image of the additional information for selecting the angle direction of a horizontal direction, and the identification image for classifying the angle direction of a horizontal direction and a perpendicular direction. 一実施形態の撮像装置における再生動作を示すフローチャートである。6 is a flowchart illustrating a reproduction operation in the imaging apparatus according to the embodiment.

以下、一実施形態の撮像装置について、添付図面を参照して説明する。一実施形態の撮像装置は映像音声記録再生機能を搭載したビデオカメラを例とする。   Hereinafter, an imaging apparatus according to an embodiment will be described with reference to the accompanying drawings. The imaging apparatus according to an embodiment is a video camera having a video / audio recording / playback function as an example.

図1において、一実施形態のビデオカメラ110は、アレーマイクロホン10とステレオマイクロホン11を備える。ステレオマイクロホン11の代わりにモノラルマイクロホンとしてもよいし、ステレオマイクロホン11を省略してアレーマイクロホン10のみとしてもよい。但し、ステレオマイクロホン11を備える方が好ましい。   In FIG. 1, a video camera 110 according to an embodiment includes an array microphone 10 and a stereo microphone 11. A monaural microphone may be used instead of the stereo microphone 11, or the stereo microphone 11 may be omitted and only the array microphone 10 may be used. However, it is preferable to provide the stereo microphone 11.

図2は、ビデオカメラ110の外観形状の例と、ビデオカメラ110が撮影する被写体200の例を示している。アレーマイクロホン10とステレオマイクロホン11は、ビデオカメラ110の筺体上面に例えば図2に示すように配置されている。図2に示す配置は単なる例であり、アレーマイクロホン10とステレオマイクロホン11の筺体上の位置、互いの位置関係は任意である。   FIG. 2 shows an example of the external shape of the video camera 110 and an example of a subject 200 taken by the video camera 110. The array microphone 10 and the stereo microphone 11 are arranged on the upper surface of the housing of the video camera 110 as shown in FIG. The arrangement shown in FIG. 2 is merely an example, and the position of the array microphone 10 and the stereo microphone 11 on the housing and the positional relationship with each other are arbitrary.

アレーマイクロホン10は、図3の(a)に示すように、複数のマイクロホン素子MEを水平方向に一列に配列させた構成を有する。水平方向に隣接する2つのマイクロホン素子MEの中心間距離はdである。図3の(a)に示すマイクロホン素子MEが水平一列のアレーマイクロホン10をアレーマイクロホン10Aとする。   As shown in FIG. 3A, the array microphone 10 has a configuration in which a plurality of microphone elements ME are arranged in a line in the horizontal direction. The distance between the centers of two microphone elements ME adjacent in the horizontal direction is d. The array microphone 10 in which the microphone elements ME shown in FIG.

アレーマイクロホン10は、図3の(b)に示すように、複数のマイクロホン素子MEの水平一列の配列10b1,10b2,10b3を垂直方向に配列させた構成であってもよい。垂直方向に隣接する2つのマイクロホン素子MEの中心間距離はdである。図3の(b)に示す水平一列のマイクロホン素子MEを垂直方向に複数配列させたアレーマイクロホン10をアレーマイクロホン10Bとする。ここで、垂直方向に隣接する2つのマイクロホン素子MEの中心間距離はdでなくてもよい。   As shown in FIG. 3B, the array microphone 10 may have a configuration in which a plurality of microphone elements ME arranged in a horizontal row 10b1, 10b2, 10b3 are arranged in the vertical direction. The distance between the centers of two microphone elements ME adjacent in the vertical direction is d. An array microphone 10 in which a plurality of horizontal rows of microphone elements ME shown in FIG. 3B are arranged in the vertical direction is referred to as an array microphone 10B. Here, the distance between the centers of two microphone elements ME adjacent in the vertical direction may not be d.

図1,図2に示すアレーマイクロホン10は、図3の(a)に示すアレーマイクロホン10Aまたは図3の(b)に示すアレーマイクロホン10Bである。図3の(a),(b)では、マイクロホン素子MEを水平方向に6個としているが、マイクロホン素子MEの水平方向の個数は6個に限定されない。アレーマイクロホン10Bは、垂直方向に3列としているが、垂直方向の配列個数も3個に限定されない。また、アレーマイクロホン10は一直線状や一平面状への配置に限定されない。   The array microphone 10 shown in FIGS. 1 and 2 is the array microphone 10A shown in FIG. 3A or the array microphone 10B shown in FIG. In FIGS. 3A and 3B, the number of microphone elements ME is six in the horizontal direction, but the number of microphone elements ME in the horizontal direction is not limited to six. The array microphones 10B are arranged in three rows in the vertical direction, but the number of arrangement in the vertical direction is not limited to three. Further, the array microphone 10 is not limited to being arranged in a straight line or a single plane.

アレーマイクロホン10Aは、マイクロホン素子MEの配列方向に対する法線方向を0度とすると、左右それぞれ90度までの方向の指向性を有する音声を収音することができる。アレーマイクロホン10Bは、左右それぞれ90度までの方向と上下それぞれ90度までの方向の指向性を有する音声を収音することができる。   The array microphone 10A can pick up sound having directivity in directions of up to 90 degrees on the left and right, assuming that the normal direction to the arrangement direction of the microphone elements ME is 0 degrees. The array microphone 10B can pick up sound having directivity in directions of up to 90 degrees on the left and right and up to 90 degrees on the top and bottom.

アレーマイクロホン10によって収音した音声信号は、音声信号演算部12(12’)に入力されて、後述する演算処理が施される。音声信号演算部12は、アレーマイクロホン10Aからの音声信号を演算処理する。音声信号演算部12’は、アレーマイクロホン10Bからの音声信号を演算処理する。音声信号演算部12(12’)は、ビデオカメラ110が撮影している撮影範囲である画角と予め設定した所定の分解能とによって決まるチャンネル数の音声信号を演算処理によって生成して出力する。ここでの分解能とは、周音の角度分解能のことである。   The audio signal collected by the array microphone 10 is input to the audio signal calculation unit 12 (12 ') and subjected to calculation processing described later. The audio signal calculation unit 12 calculates the audio signal from the array microphone 10A. The audio signal calculation unit 12 ′ calculates the audio signal from the array microphone 10 </ b> B. The audio signal calculation unit 12 (12 ') generates and outputs an audio signal having the number of channels determined by an angle of view that is a shooting range captured by the video camera 110 and a predetermined resolution set by calculation processing. The resolution here refers to the angular resolution of the surrounding sound.

音声信号増幅部13は、ステレオマイクロホン11より出力されたステレオ音声信号と、音声信号演算部12(12’)より出力された所定のチャンネル数の音声信号(マルチチャンネル音声信号)とをそれぞれ増幅する。音声信号増幅部13によって増幅された音声信号は、映像音声記録処理部16及びスイッチ65の端子Taに供給される。   The audio signal amplifier 13 amplifies the stereo audio signal output from the stereo microphone 11 and the audio signal (multi-channel audio signal) of a predetermined number of channels output from the audio signal calculator 12 (12 ′). . The audio signal amplified by the audio signal amplifying unit 13 is supplied to the video / audio recording processing unit 16 and the terminal Ta of the switch 65.

音声信号増幅部13によって増幅された音声信号は、音声認識部61,音圧レベル演算部62,周波数スペクトル分析部63,音声認識レベル算出部64にも供給される。音声認識部61は、複数の語彙を登録している辞書611を有する。   The voice signal amplified by the voice signal amplification unit 13 is also supplied to the voice recognition unit 61, the sound pressure level calculation unit 62, the frequency spectrum analysis unit 63, and the voice recognition level calculation unit 64. The voice recognition unit 61 has a dictionary 611 that registers a plurality of vocabularies.

音声認識部61は、辞書611に登録されている語彙を参照することによって、マルチチャンネル音声信号として入力される音の中から、人が発している音声を認識する。音圧レベル演算部62は音声信号増幅部13から入力された信号の音圧レベルを演算する。周波数スペクトル分析部63は音声信号増幅部13から入力された信号の複数に分割された音声周波数帯ごとの音圧レベルを演算する。音声認識レベル算出部64は、音声認識処理に使用したメモリデータ量に基づいて音声認識レベルを算出する。これによって人の声の認識度合いを数値化できる。   The voice recognition unit 61 recognizes a voice uttered by a person from sounds input as a multi-channel voice signal by referring to a vocabulary registered in the dictionary 611. The sound pressure level calculation unit 62 calculates the sound pressure level of the signal input from the audio signal amplification unit 13. The frequency spectrum analyzer 63 calculates the sound pressure level for each audio frequency band divided into a plurality of signals input from the audio signal amplifier 13. The voice recognition level calculation unit 64 calculates a voice recognition level based on the memory data amount used for the voice recognition process. Thereby, the recognition degree of a human voice can be quantified.

音圧レベル演算部62,周波数スペクトル分析部63,音声認識レベル算出部64は、マルチチャンネル音声信号における1または複数の角度方向の音声信号の収音レベルを算出する収音レベル算出部の例である。音圧レベル演算部62が求める音圧レベルと、周波数スペクトル分析部63が分析する音声の周波数スペクトルと、音声認識レベル算出部64が算出する音声認識レベルを、人が発している音声の収音レベルと総称することとする。   The sound pressure level calculation unit 62, the frequency spectrum analysis unit 63, and the speech recognition level calculation unit 64 are examples of a sound collection level calculation unit that calculates a sound collection level of a sound signal in one or a plurality of angular directions in a multi-channel sound signal. is there. The sound pressure level calculated by the sound pressure level calculation unit 62, the frequency spectrum of the voice analyzed by the frequency spectrum analysis unit 63, and the voice recognition level calculated by the voice recognition level calculation unit 64 are collected. It will be collectively called a level.

音圧レベル演算部62は、音声認識部61によって認識された人が発している音声の音圧レベルを演算によって求めてもよい。周波数スペクトル分析部63は、音声認識部61によって認識された人が発している音声の周波数スペクトルを分析してもよい。   The sound pressure level calculation unit 62 may obtain the sound pressure level of the voice uttered by the person recognized by the voice recognition unit 61 by calculation. The frequency spectrum analysis unit 63 may analyze the frequency spectrum of the voice uttered by the person recognized by the voice recognition unit 61.

スイッチ65が端子Taに接続している状態では、音声信号増幅部13によって増幅された音声信号が音声出力処理部22へと供給される。スイッチ65が端子Tbに接続している状態では、記録媒体40に記録された音声信号が映像音声再生処理部21を介して音声出力処理部22へと供給される。   In a state where the switch 65 is connected to the terminal Ta, the audio signal amplified by the audio signal amplifying unit 13 is supplied to the audio output processing unit 22. In a state where the switch 65 is connected to the terminal Tb, the audio signal recorded on the recording medium 40 is supplied to the audio output processing unit 22 via the video / audio reproduction processing unit 21.

音声出力処理部22は、入力された音声信号に基づいた音をスピーカ23より発生させることができる。操作部30によって、音量を増加または減少させる指示がなされたら、制御部20は、音声出力処理部22における音声信号の増幅度を制御する。また、音声信号を、音声出力端子29aより外部へと出力させることができる。   The audio output processing unit 22 can generate a sound based on the input audio signal from the speaker 23. When the operation unit 30 instructs to increase or decrease the volume, the control unit 20 controls the amplification degree of the audio signal in the audio output processing unit 22. In addition, an audio signal can be output to the outside from the audio output terminal 29a.

制御部20は、ビデオカメラ110の全体を制御する。操作部30によってズームを調整する操作がなされたら、ズーム調整部17は、指定されたズーム倍率となるよう映像撮影部18を制御する。操作部30は、ビデオカメラ110の筐体に設けられている操作部またはビデオカメラ110を遠隔制御するリモートコントローラである。映像撮影部18は、ズームレンズと、CCDまたはCMOSの撮像素子とを有する。ズーム調整部17によるズーム調整によって決まる実効焦点距離を示す情報は、指向性切替部14に入力される。   The control unit 20 controls the entire video camera 110. When an operation for adjusting the zoom is performed by the operation unit 30, the zoom adjustment unit 17 controls the video photographing unit 18 so as to obtain the designated zoom magnification. The operation unit 30 is an operation unit provided in a casing of the video camera 110 or a remote controller that remotely controls the video camera 110. The video photographing unit 18 includes a zoom lens and a CCD or CMOS image sensor. Information indicating the effective focal length determined by the zoom adjustment by the zoom adjustment unit 17 is input to the directivity switching unit 14.

図2において、ビデオカメラ110が被写体200を撮影している際に実際にビデオカメラ110によって映像情報が取り込まれる撮影範囲は、破線で囲んだ画角201の部分である。画角201は、ズーム調整部17によるズーム調整によって大きくなったり小さくなったりする。指向性切替部14は、実効焦点距離に基づいて、画角201の大きさであるビデオカメラ110が実際に撮影している水平方向及び垂直方向の角度範囲を知ることができる。   In FIG. 2, when the video camera 110 is shooting the subject 200, the shooting range in which the video information is actually captured by the video camera 110 is a portion of the angle of view 201 surrounded by a broken line. The angle of view 201 is increased or decreased by zoom adjustment by the zoom adjustment unit 17. Based on the effective focal length, the directivity switching unit 14 can know the horizontal and vertical angular ranges that are actually captured by the video camera 110 having the size of the angle of view 201.

指向性切替部14には、分解能が例えば10度と設定されている。制御部20によって、指向性切替部14に設定する分解能を可変できるようにしてもよい。指向性切替部14は、実効焦点距離に基づいて画角201の情報を得るようにしているが、他の方法によって画角201の情報を得るようにしてもよい。   In the directivity switching unit 14, the resolution is set to 10 degrees, for example. The control unit 20 may change the resolution set in the directivity switching unit 14. The directivity switching unit 14 obtains the information of the angle of view 201 based on the effective focal length, but may obtain the information of the angle of view 201 by other methods.

指向性切替部14は、音声信号演算部12(12’)が画角201と分解能とによって決まるチャンネル数それぞれのチャンネルの音声信号を演算処理して出力するよう、音声信号演算部12(12’)を制御する。指向性情報生成部15は、音声信号演算部12(12’)が生成するそれぞれのチャンネルの音声信号の指向性情報を生成して、映像音声記録処理部16に供給する。指向性情報は、例えば、水平方向または垂直方向のどの角度方向からの音声信号であるかを示す。   The directivity switching unit 14 calculates and outputs the audio signal of each channel for the number of channels determined by the angle of view 201 and the resolution by the audio signal calculation unit 12 (12 ′). ) To control. The directivity information generation unit 15 generates directivity information of the audio signals of the respective channels generated by the audio signal calculation unit 12 (12 ′) and supplies them to the video / audio recording processing unit 16. The directivity information indicates, for example, the angle of the audio signal from the horizontal direction or the vertical direction.

映像撮影部18より出力された映像信号は、映像信号処理部19に入力される。映像信号処理部19は、入力された映像信号をA/D変換して所定の信号処理を施す。映像信号処理部19によって所定の信号処理が施された映像信号は、映像音声記録処理部16及びスイッチ66の端子Taに供給される。   The video signal output from the video photographing unit 18 is input to the video signal processing unit 19. The video signal processing unit 19 performs A / D conversion on the input video signal and performs predetermined signal processing. The video signal subjected to the predetermined signal processing by the video signal processing unit 19 is supplied to the video / audio recording processing unit 16 and the terminal Ta of the switch 66.

スイッチ66が端子Taに接続している状態では、被写体を撮影している状態の映像信号を表示部28に表示させるよう、映像信号処理部19より出力された映像信号が映像信号処理部24へと供給される。スイッチ66が端子Tbに接続している状態では、記録媒体40に記録されて再生された映像号号を表示部28に表示させるよう、映像音声再生処理部21より出力された映像信号が映像信号処理部24へと供給される。   In a state where the switch 66 is connected to the terminal Ta, the video signal output from the video signal processing unit 19 is displayed to the video signal processing unit 24 so that the video signal in a state of photographing the subject is displayed on the display unit 28. Supplied with. In a state where the switch 66 is connected to the terminal Tb, the video signal output from the video / audio reproduction processing unit 21 is the video signal so that the video number recorded and reproduced on the recording medium 40 is displayed on the display unit 28. It is supplied to the processing unit 24.

スイッチ66より出力された映像信号は、映像信号処理部24に入力されて処理される。映像合成部25は、画像データ発生部26が画像データを発生している場合には、制御部20の制御に基づいて、映像信号処理部24より出力された映像信号に付加情報を重畳させるよう合成する。映像表示処理部27は、映像信号処理部24より出力された映像信号または映像合成部25によって付加情報が重畳された映像信号を表示部28に表示させるよう処理する。   The video signal output from the switch 66 is input to the video signal processing unit 24 and processed. The video composition unit 25 superimposes additional information on the video signal output from the video signal processing unit 24 under the control of the control unit 20 when the image data generation unit 26 generates image data. Synthesize. The video display processing unit 27 performs processing so that the video signal output from the video signal processing unit 24 or the video signal on which the additional information is superimposed by the video synthesis unit 25 is displayed on the display unit 28.

表示部28は、図2に示すように、例えばビデオカメラ110の筺体側面に設けられている液晶パネルである。映像信号を、映像出力端子29vより外部へと出力させることができる。   As shown in FIG. 2, the display unit 28 is a liquid crystal panel provided on the side surface of the video camera 110, for example. The video signal can be output to the outside from the video output terminal 29v.

映像音声記録処理部16は、音声信号増幅部13より出力されたステレオ音声信号及び指向性を有するマルチチャンネル音声信号と、指向性情報生成部15より出力された指向性情報と、映像信号処理部19より出力された映像信号とを所定の信号形式のデータとして、記録媒体40に記録する。映像音声記録処理部16は、映像信号及び音声信号を所定の圧縮処理方式で圧縮して記録媒体40に記録してもよい。   The video / audio recording processing unit 16 includes a stereo audio signal output from the audio signal amplifying unit 13 and a multi-channel audio signal having directivity, directivity information output from the directivity information generating unit 15, and a video signal processing unit. The video signal output from 19 is recorded on the recording medium 40 as data of a predetermined signal format. The video / audio recording processing unit 16 may compress the video signal and the audio signal by a predetermined compression processing method and record the compressed signal on the recording medium 40.

記録媒体40には、ステレオ音声信号及びマルチチャンネル音声信号が、マルチトラックで記録される。記録媒体40は、半導体メモリやハードディスク・ドライブ等のビデオカメラ110に内蔵されている記録媒体でもよいし、メモリカード等の着脱自在の記録媒体でもよい。   A stereo audio signal and a multi-channel audio signal are recorded on the recording medium 40 in a multitrack. The recording medium 40 may be a recording medium built in the video camera 110 such as a semiconductor memory or a hard disk drive, or may be a removable recording medium such as a memory card.

映像音声再生処理部21は、制御部20による制御に基づいて、記録媒体40に記録されている映像信号と、ステレオ音声信号と、マルチチャンネル音声信号及び指向性情報を読み出して再生処理を施す。ステレオ音声信号及びマルチチャンネル音声信号は、スイッチ65の端子Tbに供給される。映像信号は、スイッチ66の端子Tbに供給される。指向性情報は、制御部20に供給される。   The video / audio reproduction processing unit 21 reads out the video signal, the stereo audio signal, the multichannel audio signal, and the directivity information recorded on the recording medium 40 based on the control by the control unit 20 and performs the reproduction process. The stereo audio signal and the multi-channel audio signal are supplied to the terminal Tb of the switch 65. The video signal is supplied to the terminal Tb of the switch 66. The directivity information is supplied to the control unit 20.

図4を用いて、音声信号演算部12(12’)がそれぞれの方向の音声信号をどのように演算処理して生成するかについて説明する。図4では、アレーマイクロホン10Aを例にして説明する。アレーマイクロホン10Aのマイクロホン素子MEの破線で示す配列方向に対する法線をL0とする。法線L0の方向を0度とする。音声の入射方向が0度であれば、それぞれのマイクロホン素子MEにはほぼ同時に音声が到達する。   With reference to FIG. 4, how the audio signal calculation unit 12 (12 ′) calculates and generates an audio signal in each direction will be described. In FIG. 4, description will be given by taking the array microphone 10A as an example. The normal to the arrangement direction indicated by the broken line of the microphone element ME of the array microphone 10A is L0. The direction of the normal L0 is set to 0 degree. If the incident direction of sound is 0 degree, the sound reaches each microphone element ME almost simultaneously.

図4に示すように、法線L0に対して30度の直線L30の方向からの音声を収音する場合を考える。アレーマイクロホン10Aに対して直線L30の方向から音声が入射すると、6つのマイクロホン素子MEの中央を基準位置として、右側の3つのマイクロホン素子MEにはそれぞれDL1,DL2,DL3なる遅延時間で音声が到達する。左側の3つのマイクロホン素子MEにはそれぞれ基準位置よりも早く音声が到達することになり、負の遅延時間である-DL1,-DL2,-DL3なる遅延時間で音声が到達する。   As shown in FIG. 4, a case is considered where sound is picked up from a direction of a straight line L30 of 30 degrees with respect to the normal L0. When sound enters the array microphone 10A from the direction of the straight line L30, the sound reaches the three microphone elements ME on the right side with delay times of DL1, DL2, and DL3, respectively, with the center of the six microphone elements ME as a reference position. To do. Voices arrive at the left three microphone elements ME earlier than the reference position, and the voices arrive at delay times of negative delay times -DL1, -DL2, and -DL3.

即ち、それぞれのマイクロホン素子MEが収音する音声を、図4に示す遅延時間だけ遅延させれば、アレーマイクロホン10Aの法線L0に対して30度の角度である直線L30の方向から音声を収音することができることになる。実際には、負の遅延時間で音声を遅延させることはできないため、例えば、最も左に位置するマイクロホン素子MEの遅延時間を0として、右側のマイクロホン素子MEほど遅延時間を多くするように遅延させれば、30度の方向からの音声を収音することができる。   That is, if the sound collected by each microphone element ME is delayed by the delay time shown in FIG. 4, the sound is collected from the direction of the straight line L30 that is an angle of 30 degrees with respect to the normal line L0 of the array microphone 10A. You will be able to sound. Actually, since the voice cannot be delayed with a negative delay time, for example, the delay time of the leftmost microphone element ME is set to 0, and the right microphone element ME is delayed so as to increase the delay time. If so, it is possible to pick up sound from a direction of 30 degrees.

このように、アレーマイクロホン10A,10Bのマイクロホン素子MEが収音する音声を法線方向からの左右の角度に応じた遅延時間だけ遅延させれば、水平方向の複数の角度方向からの音声を収音することができる。同様にして、アレーマイクロホン10Bの場合には、収音する音声を上下方向の角度に応じた遅延時間だけ遅延させれば、垂直方向の複数の角度方向からの音声を収音することができる。   As described above, if the sound collected by the microphone elements ME of the array microphones 10A and 10B is delayed by the delay time corresponding to the left and right angles from the normal direction, the sounds from a plurality of horizontal directions are collected. Can sound. Similarly, in the case of the array microphone 10B, if the sound to be collected is delayed by a delay time corresponding to the angle in the vertical direction, the sound from a plurality of vertical directions can be collected.

音声信号演算部12(12’)は以上説明した原理に基づいて左右または上下のそれぞれの角度方向からの指向性を有する音声信号を演算処理して生成する。まず、図5を用いて、アレーマイクロホン10Aからの音声信号を演算処理する音声信号演算部12の具体的構成及び動作を説明する。   The audio signal calculation unit 12 (12 ') generates and generates an audio signal having directivity from the left, right, and upper and lower angular directions based on the principle described above. First, the specific configuration and operation of the audio signal calculation unit 12 that performs calculation processing on the audio signal from the array microphone 10A will be described with reference to FIG.

図5に示すように、音声信号演算部12は、可変遅延器121a〜121fと、加算器122と、増幅器123とを備える。可変遅延器121a〜121fは、マイクロホン素子MEの数に対応して設けられている。可変遅延器121a〜121fには、制御部20から、可変遅延器121a〜121fそれぞれの遅延時間を設定するための水平遅延制御信号Sdlchが入力される。   As shown in FIG. 5, the audio signal calculation unit 12 includes variable delay devices 121a to 121f, an adder 122, and an amplifier 123. The variable delay devices 121a to 121f are provided corresponding to the number of microphone elements ME. A horizontal delay control signal Sdlch for setting the delay time of each of the variable delay devices 121a to 121f is input from the control unit 20 to the variable delay devices 121a to 121f.

例えば画角201が水平方向60度であり、分解能が10度と設定されている場合、音声信号演算部12は、法線方向である0度、右方向に10度,20度,30度、左方向に10度,20度,30度の7チャンネル分の方向の音声信号を演算処理して生成する。画角201が水平方向30度であれば、4チャンネル分となる。制御部20は、それぞれのチャンネルの方向とするための遅延時間を設定するための水平遅延制御信号Sdlchを、可変遅延器121a〜121fに供給する。   For example, when the angle of view 201 is 60 degrees in the horizontal direction and the resolution is set to 10 degrees, the audio signal calculation unit 12 is 0 degrees that is the normal direction, 10 degrees, 20 degrees, and 30 degrees in the right direction. Audio signals in directions of 7 channels of 10 degrees, 20 degrees, and 30 degrees in the left direction are generated by arithmetic processing. If the angle of view 201 is 30 degrees in the horizontal direction, there are four channels. The control unit 20 supplies a horizontal delay control signal Sdlch for setting a delay time for each channel direction to the variable delay devices 121a to 121f.

画角201が水平方向60度の場合、制御部20は、0度、右方向に10度,20度,30度、左方向に10度,20度,30度の7チャンネル分の音声信号を生成するためのそれぞれの遅延時間を設定するよう、水平遅延制御信号Sdlchを順次切り替えて可変遅延器121a〜121fに供給する。   When the angle of view 201 is 60 degrees in the horizontal direction, the control unit 20 outputs audio signals for seven channels of 0 degrees, 10 degrees, 20 degrees, and 30 degrees to the right, and 10 degrees, 20 degrees, and 30 degrees to the left. The horizontal delay control signal Sdlch is sequentially switched and supplied to the variable delay devices 121a to 121f so as to set the respective delay times for generation.

それぞれのマイクロホン素子MEより出力された音声信号は、いずれかのチャンネルに対応した遅延時間に設定されている可変遅延器121a〜121fによって遅延される。加算器122は、可変遅延器121a〜121fより出力された音声信号を全て加算し、増幅器123は、加算器122より出力された加算音声信号を増幅して、1つのチャンネルの音声信号として出力する。音声信号演算部12は、水平遅延制御信号Sdlchによって可変遅延器121a〜121fによるそれぞれのチャンネルに対応した遅延時間に設定することにより、7チャンネル分の音声信号を順次生成して出力する。   The audio signal output from each microphone element ME is delayed by the variable delay devices 121a to 121f set to the delay time corresponding to one of the channels. The adder 122 adds all the audio signals output from the variable delay devices 121a to 121f, and the amplifier 123 amplifies the added audio signal output from the adder 122 and outputs it as an audio signal of one channel. . The audio signal calculation unit 12 sequentially generates and outputs audio signals for seven channels by setting the delay time corresponding to each channel by the variable delay devices 121a to 121f by the horizontal delay control signal Sdlch.

次に、図6を用いて、アレーマイクロホン10Bからの音声信号を演算処理する音声信号演算部12’の具体的構成及び動作を説明する。図6に示すように、音声信号演算部12’は、水平遅延部12b1,12b2,12b3と、垂直遅延部124と、加算器125と、増幅器126とを備える。水平遅延部12b1,12b2,12b3は、図3の(b)に示すマイクロホン素子MEの配列10b1,10b2,10b3に対応して設けられている。   Next, a specific configuration and operation of the audio signal calculation unit 12 'that performs calculation processing on the audio signal from the array microphone 10B will be described with reference to FIG. As shown in FIG. 6, the audio signal calculation unit 12 ′ includes horizontal delay units 12 b 1, 12 b 2, 12 b 3, a vertical delay unit 124, an adder 125, and an amplifier 126. The horizontal delay units 12b1, 12b2, and 12b3 are provided corresponding to the arrangements 10b1, 10b2, and 10b3 of the microphone elements ME shown in FIG.

水平遅延部12b1は、可変遅延器121a1〜121f1と加算器1221とを有する。水平遅延部12b2は、可変遅延器121a2〜121f2と加算器1222とを有する。水平遅延部12b3は、可変遅延器121a3〜121f3と加算器1223とを有する。可変遅延器121a1〜121f1,121a2〜121f2,121a3〜121f3には、図5で説明した水平遅延制御信号Sdlchが入力される。水平遅延部12b1,12b2,12b3それぞれの動作は、図5の可変遅延器121a〜121f及び加算器122の部分と同じである。   The horizontal delay unit 12b1 includes variable delay devices 121a1 to 121f1 and an adder 1221. The horizontal delay unit 12b2 includes variable delay devices 121a2 to 121f2 and an adder 1222. The horizontal delay unit 12b3 includes variable delay devices 121a3 to 121f3 and an adder 1223. The horizontal delay control signal Sdlch described in FIG. 5 is input to the variable delay devices 121a1 to 121f1, 121a2 to 121f2, and 121a3 to 121f3. The operations of the horizontal delay units 12b1, 12b2, and 12b3 are the same as those of the variable delay devices 121a to 121f and the adder 122 in FIG.

垂直遅延部124の可変遅延器1241〜1243には、制御部20から、水平遅延部12b1,12b2,12b3より出力された音声信号に基づいて、画角201の垂直方向の角度と分解能とで決まるそれぞれの指向性を有する声信号を生成するための垂直遅延制御信号Sdlcvが入力される。水平遅延部12b1,12b2,12b3より出力された音声信号は、垂直方向のいずれかのチャンネルに対応した遅延時間に設定されている可変遅延器1241〜1243によって遅延される。   The variable delay devices 1241 to 1243 of the vertical delay unit 124 are determined by the vertical angle and the resolution of the angle of view 201 based on the audio signals output from the control unit 20 from the horizontal delay units 12b1, 12b2, and 12b3. A vertical delay control signal Sdlcv for generating voice signals having respective directivities is input. The audio signals output from the horizontal delay units 12b1, 12b2, and 12b3 are delayed by variable delay devices 1241 to 1243 set to delay times corresponding to any channel in the vertical direction.

加算器125は、可変遅延器1241〜1243より出力された音声信号を全て加算し、増幅器126は、加算器125より出力された加算音声信号を増幅して、1つのチャンネルの音声信号として出力する。音声信号演算部12’は、垂直遅延制御信号Sdlcvによって可変遅延器1241〜1243によるそれぞれの垂直方向のチャンネルに対応した遅延時間に設定することにより、複数チャンネル分の音声信号を順次生成して出力する。   The adder 125 adds all the audio signals output from the variable delay units 1241 to 1243, and the amplifier 126 amplifies the added audio signal output from the adder 125 and outputs it as an audio signal of one channel. . The audio signal calculation unit 12 ′ sequentially generates and outputs audio signals for a plurality of channels by setting the delay time corresponding to each vertical channel by the variable delay devices 1241 to 1243 by the vertical delay control signal Sdlcv. To do.

音声信号演算部12’は、水平方向の角度方向のチャンネル数をn、垂直方向の角度方向のチャンネル数をmとすれば、n×mチャンネルの音声信号を生成することになる。   The audio signal calculation unit 12 ′ generates an n × m channel audio signal, where n is the number of channels in the horizontal angular direction and m is the number of channels in the vertical angular direction.

本実施形態においては、スイッチ65,66をそれぞれ端子Taに接続させて、撮影している被写体の映像信号を表示部28に表示させ、撮影中に収音している状態において、マルチチャンネル音声信号のうち選択した1または複数のチャンネルの音声信号の収音レベルを表示部28に表示させることができる。   In the present embodiment, the switches 65 and 66 are connected to the terminal Ta, respectively, and the video signal of the subject being photographed is displayed on the display unit 28. The sound collection level of the audio signal of one or a plurality of selected channels can be displayed on the display unit 28.

ユーザが操作部30によって所定のキーを操作すると、図7に示すように、制御部20は、画像データ発生部26によって、表示部28に表示された画像280の例えば水平方向中央の下端部に、例えばマイクロホンの画像を用いたポインタ画像154を表示させる。制御部20は、ポインタ画像154の向きが調整されて決定されたら、ポインタ画像154が向いている方向が示すチャンネルの音声信号の収音レベルを示す収音レベル表示画像を画像280に重畳させる。   When the user operates a predetermined key with the operation unit 30, as shown in FIG. 7, the control unit 20 causes the image data generation unit 26 to, for example, the lower end of the horizontal center of the image 280 displayed on the display unit 28. For example, a pointer image 154 using a microphone image is displayed. When the direction of the pointer image 154 is adjusted and determined, the control unit 20 superimposes on the image 280 a sound collection level display image indicating the sound collection level of the audio signal of the channel indicated by the direction in which the pointer image 154 is directed.

図7に示す例では、制御部20は、収音レベルを示す収音レベル表示画像として、音圧レベル演算部62によって求めた音圧レベルに基づいた音圧レベル表示画像71を画像280の右下端部に表示させている。ここでは画像280の右下端部を、音圧レベル表示画像71を表示させる固定位置としている。音圧レベル表示画像71を表示させる位置は任意である。音圧レベル表示画像71を表示させる位置を変更可能としてもよい。   In the example illustrated in FIG. 7, the control unit 20 displays a sound pressure level display image 71 based on the sound pressure level obtained by the sound pressure level calculation unit 62 as the sound collection level display image indicating the sound collection level. It is displayed at the lower end. Here, the lower right corner of the image 280 is a fixed position where the sound pressure level display image 71 is displayed. The position where the sound pressure level display image 71 is displayed is arbitrary. The position where the sound pressure level display image 71 is displayed may be changeable.

音圧レベル表示画像71は、一例として、矩形形状の内部に、音圧レベルに応じた個数のセグメント71SGを表示させた画像である。1または複数のセグメント71SGの代わりに、数値で音圧レベルを示してもよい。   As an example, the sound pressure level display image 71 is an image in which a number of segments 71SG corresponding to the sound pressure level are displayed inside a rectangular shape. The sound pressure level may be indicated by a numerical value instead of the one or more segments 71SG.

図8に示す例は、制御部20が、画像データ発生部26によって、図7に示すポインタ画像154の代わりに、くさび状の画像よりなる2つのポインタ画像155a,155bを表示させ、ポインタ画像155a,155bが向いている方向にマイクロホンの画像を用いたポインタ画像154a,154bを表示させたものである。ここでは、くさび状の画像を2つ、マイクロホンの画像を2つとしているが、それぞれ3個以上であってもよい。   In the example shown in FIG. 8, the control unit 20 causes the image data generation unit 26 to display two pointer images 155a and 155b made of wedge-shaped images instead of the pointer image 154 shown in FIG. , 155b are displayed pointer images 154a, 154b using microphone images. Here, two wedge-shaped images and two microphone images are used, but three or more images may be used.

制御部20は、ポインタ画像155a,155bの向きが調整されて決定されたら、ポインタ画像154a,154bを表示させ、ポインタ画像154a,154bが向いている方向が示すチャンネルの音声信号の音圧レベル表示画像71を画像280に重畳させる。ポインタ画像155a,155bとポインタ画像154a,154bとを同時に表示した状態で、ポインタ画像155a,155bの向きを調整するようにしてもよい。ポインタ画像154a,154bや音圧レベル表示画像71の表示位置を調整可能にしてもよい。   When the direction of the pointer images 155a and 155b is adjusted and determined, the control unit 20 displays the pointer images 154a and 154b, and displays the sound pressure level of the audio signal of the channel indicated by the direction in which the pointer images 154a and 154b are directed. The image 71 is superimposed on the image 280. The orientation of the pointer images 155a and 155b may be adjusted while the pointer images 155a and 155b and the pointer images 154a and 154b are displayed at the same time. The display positions of the pointer images 154a and 154b and the sound pressure level display image 71 may be adjustable.

制御部20に人の顔を認識する顔認識機能を搭載し、人の顔を認識して、人の顔の近傍にポインタ画像154a,154bや音圧レベル表示画像71を表示させてもよい。この場合、映像信号処理部19より出力された映像信号を制御部20に入力すればよい。顔認識部を制御部20とは別に設けてもよい。   The controller 20 may be equipped with a face recognition function for recognizing a person's face so that the person's face is recognized and the pointer images 154a and 154b and the sound pressure level display image 71 may be displayed in the vicinity of the person's face. In this case, the video signal output from the video signal processing unit 19 may be input to the control unit 20. A face recognition unit may be provided separately from the control unit 20.

図9に示す例は、制御部20が、画像データ発生部26によって、例えば破線よりなる縦線の水平領域分割線155を表示させ、画像280を水平方向に3つの領域R1〜R3に分割させたものである。実線両矢印で示すように、水平領域分割線155は左右に移動可能である。ユーザが操作30を操作することによって水平領域分割線155を移動させる操作をすると、制御部20は、水平領域分割線155を重畳する位置を移動させるよう映像合成部25を制御する。   In the example illustrated in FIG. 9, the control unit 20 causes the image data generation unit 26 to display a vertical horizontal region dividing line 155 made of, for example, a broken line, and divides the image 280 into three regions R1 to R3 in the horizontal direction. It is a thing. As indicated by the solid line double arrow, the horizontal area dividing line 155 is movable to the left and right. When the user operates the operation 30 to move the horizontal region dividing line 155, the control unit 20 controls the video composition unit 25 to move the position where the horizontal region dividing line 155 is superimposed.

制御部20は、水平領域分割線155の位置が調整されて決定されたら、領域R1〜R3それぞれの下端部に音圧レベル表示画像72を表示させる。制御部20は、領域R1〜R3の水平方向の中央に位置する(または中央に最も近い)チャンネルの音声信号の音圧レベルを求めて音圧レベル表示画像72を表示させればよい。   When the position of the horizontal region dividing line 155 is adjusted and determined, the control unit 20 displays the sound pressure level display image 72 at the lower end of each of the regions R1 to R3. The control unit 20 may display the sound pressure level display image 72 by obtaining the sound pressure level of the audio signal of the channel located at the center in the horizontal direction of the regions R1 to R3 (or closest to the center).

音圧レベル表示画像72は、音圧レベル表示画像71を水平方向に倒したものに相当する。音圧レベル表示画像72は、音圧レベル表示画像71と同様、矩形形状の内部に、音圧レベルに応じた個数のセグメント72SGを表示させた画像である。図9において、音圧レベル表示画像72の代わりに、音圧レベル表示画像71を表示させてもよい。但し、図9に示すような水平方向の領域分割の場合には、音圧レベル表示画像72を表示させる方が好ましい。   The sound pressure level display image 72 corresponds to a sound pressure level display image 71 that is tilted in the horizontal direction. Similar to the sound pressure level display image 71, the sound pressure level display image 72 is an image in which a number of segments 72SG corresponding to the sound pressure level are displayed inside a rectangular shape. In FIG. 9, a sound pressure level display image 71 may be displayed instead of the sound pressure level display image 72. However, in the case of horizontal region division as shown in FIG. 9, it is preferable to display the sound pressure level display image 72.

アレーマイクロホン10Bを用いている場合には、図10に示すような表示も可能である。図10の(a),(b)に示す例は、制御部20が、画像データ発生部26によって、例えば破線よりなる縦線の水平領域分割線155と横線の垂直領域分割線156とを表示させ、画像280を水平方向に3つ、垂直方向に2つの6つの領域R11〜R13,R21〜R23に分割させたものである。実線両矢印で示すように、水平領域分割線155は左右に移動可能であり、垂直領域分割線156は上下に移動可能である。   When the array microphone 10B is used, a display as shown in FIG. 10 is also possible. In the example shown in FIGS. 10A and 10B, the control unit 20 causes the image data generation unit 26 to display, for example, vertical horizontal division lines 155 and horizontal vertical division lines 156 made of broken lines. The image 280 is divided into six regions R11 to R13 and R21 to R23 in three in the horizontal direction and in two in the vertical direction. As indicated by solid double arrows, the horizontal area dividing line 155 can move left and right, and the vertical area dividing line 156 can move up and down.

図10の(a)の状態から、水平領域分割線155及び垂直領域分割線156を移動させた状態が図10の(b)である。   FIG. 10B shows a state where the horizontal area dividing line 155 and the vertical area dividing line 156 are moved from the state shown in FIG.

制御部20は、水平領域分割線155及び垂直領域分割線156の位置が調整されて決定されたら、R11〜R13それぞれの上端部に音圧レベル表示画像72を表示させ、領域R21〜R23それぞれの下端部に音圧レベル表示画像72を表示させる。制御部20は、領域R11〜R13,R21〜R23の水平方向の中央に位置(または中央に最も近い)し、垂直方向の中央に位置する(または中央に最も近い)チャンネルの音声信号の音圧レベルを求めて音圧レベル表示画像72を表示させればよい。   When the positions of the horizontal region dividing line 155 and the vertical region dividing line 156 are adjusted and determined, the control unit 20 displays the sound pressure level display image 72 at the upper end of each of R11 to R13, and each of the regions R21 to R23. A sound pressure level display image 72 is displayed at the lower end. The control unit 20 is positioned at the center in the horizontal direction of the regions R11 to R13 and R21 to R23 (or closest to the center), and the sound pressure of the audio signal of the channel positioned at the center in the vertical direction (or closest to the center). The sound pressure level display image 72 may be displayed by obtaining the level.

図7〜図10では、音圧レベル演算部62によって求めた音圧レベルを示す音圧レベル表示画像71,72を画像280に重畳させる例を示している。音圧レベル表示画像71,72の代わりに、周波数スペクトル分析部63が分析した周波数スペクトルを示す画像や、音声認識レベル算出部64が算出した音声認識データ量を示す画像を重畳させてもよい。   7 to 10 show examples in which the sound pressure level display images 71 and 72 indicating the sound pressure level obtained by the sound pressure level calculation unit 62 are superimposed on the image 280. FIG. Instead of the sound pressure level display images 71 and 72, an image indicating the frequency spectrum analyzed by the frequency spectrum analyzing unit 63 or an image indicating the amount of speech recognition data calculated by the speech recognition level calculating unit 64 may be superimposed.

図11の(a)は音圧レベル表示画像71である。図11の(b)は、周波数スペクトル分析部63が分析した周波数スペクトルを示す周波数スペクトル表示画像73の一例である。周波数スペクトル表示画像73は、セグメント73SGの数によって、周波数f1〜fnまでそれぞれの周波数帯域におけるレベルを表している。   FIG. 11A shows a sound pressure level display image 71. FIG. 11B is an example of a frequency spectrum display image 73 showing the frequency spectrum analyzed by the frequency spectrum analysis unit 63. The frequency spectrum display image 73 represents levels in each frequency band from frequencies f1 to fn depending on the number of segments 73SG.

図11の(c)は、音声認識レベル算出部64が算出した音声認識レベルを示す音声認識レベル表示画像75の一例である。音声認識レベル表示画像75は、セグメント75SGの数によって音声認識レベルを表している。ここでは音声認識レベル表示画像75を音圧レベル表示画像71と同じ形状の図形としているが、音圧レベル表示画像71と音声認識レベル表示画像75とを互いに異なる形状の図形としてもよい。   FIG. 11C is an example of a voice recognition level display image 75 showing the voice recognition level calculated by the voice recognition level calculation unit 64. The voice recognition level display image 75 represents the voice recognition level by the number of segments 75SG. Here, the voice recognition level display image 75 is a figure having the same shape as the sound pressure level display image 71, but the sound pressure level display image 71 and the voice recognition level display image 75 may be different from each other.

周波数スペクトル表示画像73及び音声認識レベル表示画像75においても、音圧レベル表示画像72のように、セグメント73SG,75SGが水平方向に増減する図形としてもよい。   Also in the frequency spectrum display image 73 and the speech recognition level display image 75, as in the sound pressure level display image 72, the segments 73SG and 75SG may be a figure that increases or decreases in the horizontal direction.

本実施形態においては、制御部20による制御に基づいて、音声信号増幅部13は、マルチチャンネル音声信号のそれぞれのチャンネルを個別に増幅することができる。音声信号増幅部13は、選択した1または複数のチャンネルの音声信号のみ増幅することも可能である。   In the present embodiment, the audio signal amplifying unit 13 can individually amplify each channel of the multichannel audio signal based on the control by the control unit 20. The audio signal amplifier 13 can amplify only the audio signals of the selected one or more channels.

図12は、図8におけるポインタ画像154aが向いている方向が示すチャンネルの音声信号の増幅度を例えば−3[dB]とし、ポインタ画像154bが向いている方向が示すチャンネルの音声信号の増幅度を例えば3[dB]とした場合を示している。図12では、増幅度を−3[dB]とすることによって、音圧レベル表示画像71が小さな音圧レベル表示画像71Sに変更され、増幅度を3[dB]とすることによって、音圧レベル表示画像71が大きな音圧レベル表示画像71Lに変更されている。   In FIG. 12, the amplification level of the audio signal of the channel indicated by the direction in which the pointer image 154a in FIG. For example, the case of 3 [dB] is shown. In FIG. 12, the sound pressure level display image 71 is changed to a small sound pressure level display image 71S by setting the amplification level to −3 [dB], and the sound pressure level is set by setting the amplification level to 3 [dB]. The display image 71 is changed to a large sound pressure level display image 71L.

このように、音圧レベル表示画像71の大きさを音声信号の増幅度に応じた大きさとすることによって、ユーザは、どのチャンネルの音声信号の増幅度が調整されているかを容易に認識することができる。即ち、ユーザは、収音している音声の状況を容易に理解することができる。   Thus, by setting the size of the sound pressure level display image 71 to a size corresponding to the amplification level of the audio signal, the user can easily recognize which channel the amplification level of the audio signal is adjusted. Can do. That is, the user can easily understand the situation of the collected sound.

図13は、図9のように音圧レベル表示画像72を表示させる場合で、それぞれのチャンネルの音声信号の増幅度を調整した状態を示している。領域R1においては、音声信号の増幅度が3[dB]で大きな音圧レベル表示画像72Lが表示されている。領域R2においては、音声信号の増幅度が−3[dB]で小さな音圧レベル表示画像72Sが表示されている。領域R3においては、音声信号の増幅度が0[dB]で基準となる通常の大きさである中間の大きさの音圧レベル表示画像72Mが表示されている。音圧レベル表示画像72Mは、図9の音圧レベル表示画像72と同じである。   FIG. 13 illustrates a state in which the sound pressure level display image 72 is displayed as shown in FIG. 9 and the amplification level of the audio signal of each channel is adjusted. In the region R1, a large sound pressure level display image 72L with a sound signal amplification degree of 3 [dB] is displayed. In the region R2, a small sound pressure level display image 72S with the amplification degree of the audio signal being −3 [dB] is displayed. In the region R3, a sound pressure level display image 72M having an intermediate magnitude, which is a normal magnitude as a reference when the amplification level of the audio signal is 0 [dB], is displayed. The sound pressure level display image 72M is the same as the sound pressure level display image 72 of FIG.

図14は、図10の(b)のように音圧レベル表示画像72を表示させる場合で、それぞれのチャンネルの音声信号の増幅度を調整した状態を示している。領域R11,R12,R22においては、音声信号の増幅度が−3[dB]で小さな音圧レベル表示画像72Sが表示されている。領域R13,R21においては、音声信号の増幅度が3[dB]で大きな音圧レベル表示画像72Lが表示されている。領域R23においては、音声信号の増幅度が0[dB]で中間の大きさの音圧レベル表示画像72Mが表示されている。   FIG. 14 shows the state where the sound pressure level display image 72 is displayed as shown in FIG. 10B and the amplification level of the audio signal of each channel is adjusted. In the regions R11, R12, and R22, a small sound pressure level display image 72S with a sound signal amplification level of −3 [dB] is displayed. In the regions R13 and R21, a large sound pressure level display image 72L is displayed with an audio signal amplification degree of 3 [dB]. In the region R23, a sound pressure level display image 72M having an intermediate magnitude with an audio signal amplification degree of 0 [dB] is displayed.

図12〜図14では、音圧レベル表示画像71,72を相似の関係を維持させて大きさを変更したが、他の表示方法によって、それぞれのチャンネルの音声信号の増幅度を表すようにしてもよい。例えば、図15の(a)〜(c)に示すように、増幅度小を示す音圧レベル表示画像77Sと、増幅度中を示す音圧レベル表示画像77Mと、増幅度大を示す音圧レベル表示画像77Lとを用いてもよい。音圧レベル表示画像77S,77M,77Lは、垂直方向中央部の横幅が増幅度の程度を示している。   12 to 14, the sound pressure level display images 71 and 72 are changed in size while maintaining a similar relationship. However, the amplification level of the audio signal of each channel is expressed by other display methods. Also good. For example, as shown in FIGS. 15A to 15C, a sound pressure level display image 77S indicating a low amplification level, a sound pressure level display image 77M indicating a medium amplification level, and a sound pressure indicating a high amplification level. A level display image 77L may be used. In the sound pressure level display images 77S, 77M, and 77L, the width of the central portion in the vertical direction indicates the degree of amplification.

このように、画像データ発生部26は、それぞれのチャンネルの音声信号の増幅度に応じて、音圧レベル表示画像の大きさや形状を異ならせた画像データを発生すればよい。大きさや形状に加えて、輝度や色、模様を異ならせてもよい。また、制御部20は、これらの音圧レベル表示画像の大きさや形状、輝度や色、模様を経時的に変化させるよう、画像データ発生部26を制御してもよい。   As described above, the image data generation unit 26 may generate image data in which the size and shape of the sound pressure level display image are changed according to the amplification degree of the audio signal of each channel. In addition to the size and shape, the brightness, color, and pattern may be varied. Further, the control unit 20 may control the image data generation unit 26 so that the size, shape, luminance, color, and pattern of these sound pressure level display images are changed over time.

なお、音圧レベル表示画像の輝度を異ならせる場合には、増幅度が小さいほど暗くし、増幅度が大きいほど明るくすることが好ましい。音圧レベル表示画像の色を異ならせる場合には、増幅度が小さいほど寒色方向とし、増幅度が大きいほど暖色方向にすることが好ましい。さらに、制御部20は、音圧レベル表示画像の大きさや形状、輝度や色、模様を周期的に変化させ、増幅度が大きいほど変化する周期を短くするよう、画像データ発生部26を制御してもよい。   In the case where the brightness of the sound pressure level display image is varied, it is preferable that the lower the amplification degree, the darker the brightness, and the higher the amplification degree, the brighter. When the color of the sound pressure level display image is made different, it is preferable that the lower the amplification degree, the colder color direction, and the higher the amplification degree, the warmer color direction. Furthermore, the control unit 20 controls the image data generation unit 26 so as to periodically change the size, shape, brightness, color, and pattern of the sound pressure level display image, and to shorten the changing cycle as the amplification degree increases. May be.

周波数スペクトルを示す周波数スペクトル表示画像73や音声認識レベルを示す音声認識レベル表示画像75でも、同様に、それぞれのチャンネルの音声信号の増幅度に応じて大きさ、形状、輝度、色、模様の少なくとも1つを異ならせてもよい。画像データ発生部26は、収音レベル表示画像の大きさ,形状,輝度,色,模様の少なくとも1つを音声信号増幅部13で設定されている増幅度に応じて変更する画像データを発生すればよい。   Similarly, in the frequency spectrum display image 73 indicating the frequency spectrum and the voice recognition level display image 75 indicating the voice recognition level, at least the size, shape, brightness, color, and pattern of each channel are determined according to the amplification degree of the voice signal of each channel. One may be different. The image data generation unit 26 generates image data for changing at least one of the size, shape, luminance, color, and pattern of the sound collection level display image according to the amplification degree set by the audio signal amplification unit 13. That's fine.

図16を用いて、以上のように構成されるビデオカメラ110における収音レベル表示画像の表示動作について改めて説明する。図16において、ビデオカメラ110の電源が投入されると、制御部20は、ステップS101にて、被写体の撮影を開始させる。制御部20は、ステップS102にて、操作部30よって収音レベルを表示させる指示があったか否かを判定する。収音レベルを表示させる指示があれば(YES)、処理をステップS103に移行させ、収音レベルを表示させる指示がなければ(NO)、処理をステップS121に移行させる。   The display operation of the sound collection level display image in the video camera 110 configured as described above will be described again with reference to FIG. In FIG. 16, when the power of the video camera 110 is turned on, the control unit 20 starts photographing the subject in step S101. In step S102, the control unit 20 determines whether or not there is an instruction to display the sound collection level by the operation unit 30. If there is an instruction to display the sound collection level (YES), the process proceeds to step S103, and if there is no instruction to display the sound collection level (NO), the process proceeds to step S121.

制御部20は、ステップS121にて、電源の切断により撮影終了の指示があったか否かを判定する。撮影終了の指示があれば(YES)、制御部20は、ビデオカメラ110の電源を切断して処理を終了させる。撮影終了の指示がなければ(NO)、ステップS102を繰り返す。   In step S121, the control unit 20 determines whether or not an instruction to end shooting has been issued due to power-off. If there is an instruction to end shooting (YES), the control unit 20 turns off the video camera 110 and ends the process. If there is no instruction to end shooting (NO), step S102 is repeated.

制御部20は、ステップS103にて、画像280上の所定の位置に位置指示画像を表示させる。図7におけるポインタ画像154、図8におけるポインタ画像155a,155b、図9または図10における水平領域分割線155及び垂直領域分割線156は位置指示画像の例である。   In step S103, the control unit 20 displays a position instruction image at a predetermined position on the image 280. The pointer image 154 in FIG. 7, the pointer images 155a and 155b in FIG. 8, the horizontal area dividing line 155 and the vertical area dividing line 156 in FIG. 9 or 10 are examples of position indication images.

制御部20は、ステップS104にて、位置指示画像の表示を解除する指示があったか否かを判定する。表示解除の指示があれば(YES)、制御部20は、ステップS124にて、位置指示画像の表示を解除して、処理をステップS101に戻す。表示解除の指示がなければ(NO)、制御部20は、ステップS105にて、位置指示画像を移動させる指示があったか否かを判定する。   In step S104, the control unit 20 determines whether or not there is an instruction to cancel the display of the position instruction image. If there is an instruction to cancel the display (YES), the control unit 20 cancels the display of the position instruction image in step S124, and returns the process to step S101. If there is no display release instruction (NO), the control unit 20 determines whether or not there is an instruction to move the position instruction image in step S105.

位置指示画像を移動させる指示があれば(YES)、制御部20は、ステップS106にて、位置指示画像を移動させて、ステップS107に移行させる。位置指示画像を移動させる指示がなければ(NO)、ステップS107に移行させる。制御部20は、ステップS107にて、位置指示画像の表示を解除する指示があったか否かを判定する。表示解除の指示があれば(YES)、制御部20は、ステップS124にて、位置指示画像の表示を解除して、処理をステップS101に戻す。表示解除の指示がなければ(NO)、制御部20は、処理をステップS108に移行させる。   If there is an instruction to move the position instruction image (YES), the control unit 20 moves the position instruction image in step S106, and proceeds to step S107. If there is no instruction to move the position indicating image (NO), the process proceeds to step S107. In step S107, the control unit 20 determines whether or not there is an instruction to cancel the display of the position instruction image. If there is an instruction to cancel the display (YES), the control unit 20 cancels the display of the position instruction image in step S124, and returns the process to step S101. If there is no display cancellation instruction (NO), the control unit 20 shifts the process to step S108.

制御部20は、ステップS108にて、位置指示画像の位置を決定する指示があったか否かを判定する。位置決定の指示があれば(YES)、制御部20は、処理をステップS109に移行させ、位置決定の指示がなければ(NO)、制御部20は、処理をステップS122に移行させる。   In step S108, the control unit 20 determines whether there is an instruction to determine the position of the position instruction image. If there is a position determination instruction (YES), the control unit 20 shifts the process to step S109, and if there is no position determination instruction (NO), the control unit 20 shifts the process to step S122.

制御部20は、ステップS122にて、電源の切断により撮影終了の指示があったか否かを判定する。撮影終了の指示があれば(YES)、制御部20は、ビデオカメラ110の電源を切断して処理を終了させる。撮影終了の指示がなければ(NO)、処理をステップS107に戻す。   In step S122, the control unit 20 determines whether or not an instruction to end shooting has been issued due to power-off. If there is an instruction to end shooting (YES), the control unit 20 turns off the video camera 110 and ends the process. If there is no instruction to end shooting (NO), the process returns to step S107.

制御部20は、ステップS109にて、決定した位置指示画像の位置を記憶する。指向性切替部14は、制御部20の制御に基づいて、ステップS110にて、実効焦点距離を取得する。指向性切替部14は、ステップS111にて、画角と分解能からチャンネル数を決定する。ここでのチャンネル数とは、アレーマイクロホン10によって収音して生成するマルチチャンネル音声信号のチャンネル数である。   In step S109, the control unit 20 stores the position of the position indication image determined. The directivity switching unit 14 acquires the effective focal length in step S110 based on the control of the control unit 20. In step S111, the directivity switching unit 14 determines the number of channels from the angle of view and the resolution. Here, the number of channels is the number of channels of a multi-channel audio signal generated by collecting sound by the array microphone 10.

実効焦点距離をf、画角201における撮像素子の受像領域の水平方向の長さ(画角201の幅)をL、垂直方向の長さ(画角201の高さ)をLとすれば、画角201の水平方向の角度αと垂直方向の角度αは次の式(1),(2)ようにして求めることができる。
α=2tan-1(L/2f) …(1)
α=2tan-1(L/2f) …(2)
The effective focal length is f, the horizontal length (width of the view angle 201) of the image receiving area of the image sensor at the view angle 201 is L W , and the vertical length (height of the view angle 201) is L H. For example, the angle α W in the horizontal direction and the angle α H in the vertical direction of the angle of view 201 can be obtained by the following equations (1) and (2).
α W = 2 tan −1 (L W / 2f) (1)
α H = 2 tan −1 (L H / 2f) (2)

式(1),(2)より求めた画角201の水平方向の角度αと垂直方向の角度αと、予め設定されている分解能とから水平方向及び垂直方向のチャンネル数を決定することができる。 Determining the number of horizontal and vertical channels from the horizontal angle α W and the vertical angle α H of the angle of view 201 obtained from the equations (1) and (2) and the preset resolution. Can do.

指向性切替部14は、ステップS112にて、位置指示画像が示す位置に対応したチャンネルの角度方向の遅延時間を決定する。音声信号演算部12(12’)は、ステップS113にて、その角度方向の収音を演算処理する。音圧レベル演算部62,周波数スペクトル分析部63,音声認識レベル算出部64は、制御部20の制御に基づいて、ステップS114にて、収音レベルを算出する。制御部20は、ステップS115にて、図7〜図11で説明したように、収音レベル表示画像を画像280に重畳させた状態で表示させる。   In step S112, the directivity switching unit 14 determines the delay time in the angular direction of the channel corresponding to the position indicated by the position indication image. In step S113, the audio signal calculation unit 12 (12 ') calculates the sound collection in the angular direction. The sound pressure level calculation unit 62, the frequency spectrum analysis unit 63, and the speech recognition level calculation unit 64 calculate the sound collection level in step S114 based on the control of the control unit 20. In step S115, the control unit 20 displays the sound collection level display image in a state of being superimposed on the image 280 as described with reference to FIGS.

制御部20は、ステップS116にて、収音レベル表示画像の表示解除の指示があったか否かを判定する。表示解除の指示があれば(YES)、制御部20は、ステップS125にて、収音レベル表示画像の表示を解除して、処理をステップS101に戻す。表示解除の指示がなければ(NO)、制御部20は、ステップS117にて、ズーム倍率が変更されたか否かを判定する。ズーム倍率が変更されたら(YES)、制御部20は、ステップS118にて、収音レベルを示す画像の表示位置を変更する必要があるか否かを判定する。   In step S116, the control unit 20 determines whether or not there is an instruction to cancel the display of the sound collection level display image. If there is an instruction to cancel the display (YES), the control unit 20 cancels the display of the sound collection level display image in step S125, and returns the process to step S101. If there is no instruction to cancel the display (NO), the control unit 20 determines in step S117 whether or not the zoom magnification has been changed. If the zoom magnification is changed (YES), the control unit 20 determines whether or not the display position of the image indicating the sound collection level needs to be changed in step S118.

ズーム倍率が変更されると、収音レベル表示画像が画角から外れて、画像280上に収音レベル表示画像を表示することができない場合が発生する。収音レベル表示画像の表示位置を変更する必要があれば(YES)、制御部20は、ステップS119にて、収音レベル表示画像が画角内となるよう収音レベル表示画像の位置を変更して、処理をステップS120に移行させる。   When the zoom magnification is changed, the sound collection level display image may deviate from the angle of view, and the sound collection level display image may not be displayed on the image 280. If it is necessary to change the display position of the sound collection level display image (YES), the control unit 20 changes the position of the sound collection level display image so that the sound collection level display image is within the angle of view in step S119. Then, the process proceeds to step S120.

ステップS117にてズーム倍率が変更されなければ(NO)、また、ステップS118にて収音レベル表示画像の表示位置を変更する必要がなければ(NO)、制御部20は、ステップS120にて、収音レベル表示画像の表示解除の指示があったか否かを判定する。表示解除の指示があれば(YES)、制御部20は、ステップS125にて、収音レベル表示画像の表示を解除して、処理をステップS101に戻す。   If the zoom magnification is not changed in step S117 (NO), or if it is not necessary to change the display position of the sound collection level display image in step S118 (NO), the control unit 20 performs the process in step S120. It is determined whether or not there is an instruction to cancel the display of the sound collection level display image. If there is an instruction to cancel the display (YES), the control unit 20 cancels the display of the sound collection level display image in step S125, and returns the process to step S101.

表示解除の指示がなければ(NO)、制御部20は、ステップS123にて、電源の切断により撮影終了の指示があったか否かを判定する。撮影終了の指示があれば(YES)、制御部20は、ビデオカメラ110の電源を切断して処理を終了させる。撮影終了の指示がなければ(NO)、制御部20は、処理をステップS116に戻す。   If there is no instruction to cancel the display (NO), the control unit 20 determines in step S123 whether or not there has been an instruction to end photographing due to power-off. If there is an instruction to end shooting (YES), the control unit 20 turns off the video camera 110 and ends the process. If there is no instruction to end photographing (NO), the control unit 20 returns the process to step S116.

図16に示す例では、ズーム倍率の変更があったときに、必要に応じて、収音レベル表示画像の表示位置を変更しているが、ズーム倍率の変更があったら、収音レベル表示画像の表示を解除してもよい。併せて、位置指示画像の表示を解除してもよい。また、ズーム倍率の変更があったら、収音レベル表示画像が画角内に入っているときのみ表示を継続させ、画角から外れたら表示を解除してもよい。同様に、収音レベルを示す画像の表示を解除するに併せて位置指示画像の表示を解除してもよい。   In the example shown in FIG. 16, when the zoom magnification is changed, the display position of the sound collection level display image is changed as necessary. However, if the zoom magnification is changed, the sound collection level display image is changed. May be canceled. At the same time, the display of the position instruction image may be canceled. Further, if the zoom magnification is changed, the display may be continued only when the sound collection level display image is within the angle of view, and the display may be canceled when it is out of the angle of view. Similarly, the display of the position indication image may be canceled together with the display of the image indicating the sound collection level.

図16に示す例では、ステップS112にて、位置指示画像が示す位置に対応したチャンネルの角度方向の遅延時間を決定し、ステップS113にて、その角度方向の収音を演算処理している。マルチチャンネル音声信号における全ての角度方向の遅延時間を決定し、全ての角度方向の収音を演算処理して、位置指示画像が示す位置に対応したチャンネルの角度方向の収音の演算処理結果のみを用いるようにしてもよい。   In the example shown in FIG. 16, the delay time in the angular direction of the channel corresponding to the position indicated by the position indicating image is determined in step S112, and the sound collection in the angular direction is processed in step S113. Determines the delay time in all angular directions in the multi-channel audio signal, calculates the sound collection in all angular directions, and only the calculation result of the sound collection in the angular direction of the channel corresponding to the position indicated by the position indication image May be used.

図17を用いて、映像信号及び音声信号を記録する指示がなされた場合の、ビデオカメラ110による記録動作について説明する。図16で説明したマルチチャンネル音声信号におけるいずれかのチャンネルの音声信号の収音レベル表示画像を表示させる動作の途中において、記録動作を実行させることが可能である。また、図16で説明した動作とは無関係に記録動作を実行させることが可能である。図17では、説明を簡略化するため、図16の表示動作と関連させず、記録動作のみを説明することとする。   A recording operation performed by the video camera 110 when an instruction to record a video signal and an audio signal is given will be described with reference to FIG. The recording operation can be executed during the operation of displaying the sound collection level display image of the audio signal of any channel in the multi-channel audio signal described in FIG. Further, it is possible to execute the recording operation regardless of the operation described with reference to FIG. In FIG. 17, for the sake of simplicity, only the recording operation will be described without relating to the display operation of FIG.

ビデオカメラ110の電源が投入されると、制御部20は、ステップS201にて、被写体の撮影を開始させる。制御部20は、ステップS202にて、操作部30よって記録開始の指示があったか否かを判定する。記録開始の指示がなければ(NO)、制御部20は、処理をステップS211に移行させる。   When the power of the video camera 110 is turned on, the control unit 20 starts photographing the subject in step S201. In step S202, the control unit 20 determines whether or not an instruction to start recording is given by the operation unit 30. If there is no instruction to start recording (NO), the control unit 20 shifts the process to step S211.

記録開始の指示があれば(YES)、指向性切替部14は、ステップS203にて、実効焦点距離を取得する。指向性切替部14は、ステップS204にて、画角と分解能からチャンネル数を決定する。図16にて説明したように、前述の式(1),(2)より求めた画角201の水平方向の角度αと垂直方向の角度αと、予め設定されている分解能とから水平方向及び垂直方向のチャンネル数を決定することができる。 If there is an instruction to start recording (YES), the directivity switching unit 14 acquires the effective focal length in step S203. In step S204, the directivity switching unit 14 determines the number of channels from the angle of view and the resolution. As described with reference to FIG. 16, the horizontal angle α W and the vertical angle α H of the angle of view 201 obtained from the above equations (1) and (2) and the preset resolution are The number of channels in the direction and the vertical direction can be determined.

指向性切替部14は、ステップS205にて、それぞれのチャンネルに対応した角度方向の遅延時間を決定する。音声信号演算部12(12’)は、ステップS206にて、それぞれの角度方向の収音を演算処理する。   In step S205, the directivity switching unit 14 determines an angular delay time corresponding to each channel. In step S206, the audio signal calculation unit 12 (12 ') calculates the sound collection in each angle direction.

映像音声記録処理部16は、ステップS207にて、映像信号と、ステレオ音声信号と、それぞれの角度方向の音声信号と、角度方向を示す指向性情報とを記録媒体40に記録させる。映像音声記録処理部16は、それぞれの角度方向の音声信号をマルチトラックで記録させる。   In step S207, the video / audio recording processing unit 16 records the video signal, the stereo audio signal, the audio signal in each angular direction, and the directivity information indicating the angular direction in the recording medium 40. The video / audio recording processing unit 16 records audio signals in respective angular directions in a multitrack.

制御部20は、ステップS208にて、ズーム倍率が変更されたか否かを判定する。ズーム倍率が変更されたら(YES)、処理をステップS203に戻す。ズーム倍率が変更されなかったら(NO)、制御部20は、ステップS209にて、記録終了の指示があったか否かを判定する。記録終了の指示がなければ(NO)、処理をステップS206に戻す。記録終了の指示があれば(YES)、制御部20は、ステップS210にて、記録停止の処理を実行させ、処理をステップS211に移行させる。   In step S208, the control unit 20 determines whether or not the zoom magnification has been changed. If the zoom magnification is changed (YES), the process returns to step S203. If the zoom magnification has not been changed (NO), the control unit 20 determines in step S209 whether or not an instruction to end recording has been given. If there is no instruction to end recording (NO), the process returns to step S206. If there is an instruction to end recording (YES), the control unit 20 executes a recording stop process in step S210, and shifts the process to step S211.

制御部20は、ステップS211にて、電源の切断により撮影終了の指示があったか否かを判定する。撮影終了の指示があれば(YES)、制御部20は、ビデオカメラ110の電源を切断して処理を終了させる。撮影終了の指示がなければ(NO)、処理をステップS202に戻す。   In step S211, the control unit 20 determines whether or not an instruction to end shooting has been issued due to power-off. If there is an instruction to end shooting (YES), the control unit 20 turns off the video camera 110 and ends the process. If there is no instruction to end shooting (NO), the process returns to step S202.

図16で説明したマルチチャンネル音声信号におけるいずれかのチャンネルの音声信号の収音レベル表示画像を表示させる動作の途中において、記録動作を実行させる場合には、次のようにすればよい。図16のフローの所定の位置に、図17のステップS202のような記録開始の指示があったか否かを判定するステップを設ける。そして、記録開始の指示があった場合には、図17のステップS205〜S207,S209,S210と同様のステップを設ける。   When the recording operation is performed during the operation of displaying the sound collection level display image of the audio signal of any channel in the multi-channel audio signal described in FIG. 16, the following operation may be performed. A step of determining whether or not a recording start instruction has been issued as in step S202 of FIG. 17 is provided at a predetermined position in the flow of FIG. Then, when there is an instruction to start recording, the same steps as steps S205 to S207, S209, and S210 in FIG. 17 are provided.

次に、記録媒体40に記録された映像信号及び音声信号の再生動作について説明する。図1において、操作部30によって記録媒体40に記録されている映像信号(撮影コンテンツ)を再生する操作がなされると、映像音声再生処理部21は、制御部20による制御に基づいて、記録媒体40に記録されている映像信号及びステレオ音声信号を読み出して再生処理を施す。   Next, the reproduction operation of the video signal and audio signal recorded on the recording medium 40 will be described. In FIG. 1, when an operation for reproducing a video signal (captured content) recorded on the recording medium 40 is performed by the operation unit 30, the video / audio reproduction processing unit 21 is based on the control by the control unit 20. The video signal and stereo audio signal recorded in 40 are read out and subjected to reproduction processing.

映像信号及びステレオ音声信号が所定の圧縮処理方式で圧縮されて記録媒体40に記録されている場合には、映像音声再生処理部21は、映像信号及びステレオ音声信号を伸長する。マルチチャンネル音声信号及び指向性情報は、後述する特定の操作がなされると、記録媒体40より読み出される。映像音声再生処理部21より出力されたステレオ音声信号は、音声出力処理部22に入力される。音声出力処理部22は、ステレオ音声信号に基づいた音をスピーカ23より発生させる。   When the video signal and the stereo audio signal are compressed by a predetermined compression processing method and recorded on the recording medium 40, the video / audio reproduction processing unit 21 expands the video signal and the stereo audio signal. The multi-channel audio signal and the directivity information are read from the recording medium 40 when a specific operation described later is performed. The stereo audio signal output from the video / audio reproduction processing unit 21 is input to the audio output processing unit 22. The audio output processing unit 22 generates a sound based on the stereo audio signal from the speaker 23.

映像音声再生処理部21より出力された映像信号は、映像信号処理部24に入力されて処理される。映像合成部25は、画像データ発生部26が上述した収音レベル表示画像の画像データ等の付加情報を発生している場合には、映像信号処理部24より出力された映像信号に付加情報を重畳させるよう合成する。映像表示処理部27は、映像信号処理部24より出力された映像信号または映像合成部25によって付加情報が重畳された映像信号を表示部28に表示させるよう処理する。   The video signal output from the video / audio reproduction processing unit 21 is input to the video signal processing unit 24 and processed. When the image data generating unit 26 generates additional information such as the image data of the sound pickup level display image described above, the video synthesizing unit 25 adds the additional information to the video signal output from the video signal processing unit 24. Synthesize to superimpose. The video display processing unit 27 performs processing so that the video signal output from the video signal processing unit 24 or the video signal on which the additional information is superimposed by the video synthesis unit 25 is displayed on the display unit 28.

図18は、ビデオカメラ110をテレビジョン受像機300に接続し、映像信号をテレビジョン受像機300の画面に表示させ、ステレオ音声信号による音声をテレビジョン受像機300に内蔵されているスピーカより発生させている状態を示している。図18では、リモートコントローラを操作部30としている。テレビジョン受像機300は、ビデオカメラ110外部の表示部である。   In FIG. 18, the video camera 110 is connected to the television receiver 300, the video signal is displayed on the screen of the television receiver 300, and the sound by the stereo audio signal is generated from the speaker built in the television receiver 300. It shows the state of letting. In FIG. 18, the remote controller is the operation unit 30. The television receiver 300 is a display unit outside the video camera 110.

ユーザ400が操作部30によって、アレーマイクロホン10によって収音して生成したマルチチャンネル音声信号を再生する所定の操作をしたら、制御部20は、画像データ発生部26によって、映像信号に図18に示すようなポインタ画像51を示す付加情報信号を発生させ、画面に表示されている画像にポインタ画像51を重畳させる。ポインタ画像51は、予め設定した初期位置に表示させるようにすればよい。   When the user 400 performs a predetermined operation for reproducing a multi-channel audio signal generated by collecting sound with the array microphone 10 by the operation unit 30, the control unit 20 converts the video signal into the video signal shown in FIG. The additional information signal indicating the pointer image 51 is generated, and the pointer image 51 is superimposed on the image displayed on the screen. The pointer image 51 may be displayed at a preset initial position.

図19は、表示部28及びテレビジョン受像機300の画面に表示されている画像を示している。アレーマイクロホン10が図3の(a)に示すアレーマイクロホン10Aの場合には、制御部20は、画像データ発生部26によって、映像信号に図19に示すような縦線の水平位置識別画像52を示す付加情報信号を発生させ、画面に表示されている画像に水平位置識別画像52を重畳させることが好ましい。水平位置識別画像52は、水平方向の角度方向を区分けするための第1の識別画像である。   FIG. 19 shows images displayed on the screens of the display unit 28 and the television receiver 300. When the array microphone 10 is the array microphone 10A shown in FIG. 3A, the control unit 20 causes the image data generation unit 26 to add a vertical line horizontal position identification image 52 as shown in FIG. It is preferable to generate the additional information signal to be displayed and to superimpose the horizontal position identification image 52 on the image displayed on the screen. The horizontal position identification image 52 is a first identification image for dividing the angular direction in the horizontal direction.

水平位置識別画像52の本数は、マルチチャンネル音声信号のチャンネル数に対応した本数することが好ましい。マルチチャンネル音声信号のチャンネル数が7であれば、水平位置識別画像52の本数を6本とすれば、画面を水平方向に7分割することができる。この場合、画面は7つの領域に分割される。   The number of horizontal position identification images 52 is preferably the number corresponding to the number of channels of the multi-channel audio signal. If the number of channels of the multi-channel audio signal is seven, the screen can be divided into seven in the horizontal direction if the number of horizontal position identification images 52 is six. In this case, the screen is divided into seven areas.

ユーザ400が操作部30における例えば左右のカーソルキーによってポインタ画像51を左方向または右方向へと移動させる操作をしたら、制御部20は、ポインタ画像51を左右方向に移動させる。図19では、ポインタ画像51は円内に右向きの矢印よりなる画像であるが、ポインタ画像51を左方向へと移動させたら、円内に左向きの矢印よりなる画像とする。円内に右向きまたは左向きの矢印のポインタ画像51は、マルチチャンネル音声信号における水平方向のいずれかの角度方向からの音声信号を選択するための付加情報に相当する。   When the user 400 performs an operation of moving the pointer image 51 in the left direction or the right direction using, for example, left and right cursor keys in the operation unit 30, the control unit 20 moves the pointer image 51 in the left and right direction. In FIG. 19, the pointer image 51 is an image made of a right-pointing arrow in a circle. However, when the pointer image 51 is moved leftward, the image is made of a left-pointing arrow in the circle. A pointer image 51 with a rightward or leftward arrow in the circle corresponds to additional information for selecting an audio signal from any one of the horizontal directions in the multichannel audio signal.

アレーマイクロホン10が図3の(b)に示すアレーマイクロホン10Bの場合には、制御部20は、画像データ発生部26によって、映像信号に図20に示すような縦線の水平位置識別画像52と横線の垂直位置識別画像53それぞれを示す付加情報信号を発生させ、画面に表示されている画像に水平位置識別画像52及び垂直位置識別画像53を重畳させることが好ましい。垂直位置識別画像53は、垂直方向の角度方向を区分けするための第2の識別画像である。   When the array microphone 10 is the array microphone 10B shown in FIG. 3B, the control unit 20 uses the image data generation unit 26 to generate a vertical line horizontal position identification image 52 as shown in FIG. It is preferable to generate an additional information signal indicating each of the horizontal position vertical position identification images 53 and superimpose the horizontal position identification image 52 and the vertical position identification image 53 on the image displayed on the screen. The vertical position identification image 53 is a second identification image for dividing the angular direction in the vertical direction.

垂直位置識別画像53の本数は、マルチチャンネル音声信号の垂直方向のチャンネル数に対応した本数することが好ましい。マルチチャンネル音声信号の垂直方向のチャンネル数が4であれば、垂直位置識別画像53の本数を3本とすれば、画面を垂直方向に4分割することができる。マルチチャンネル音声信号の水平方向のチャンネル数が7であれば、水平位置識別画像52と垂直位置識別画像53によって画面は28の領域に分割される。   The number of vertical position identification images 53 is preferably the number corresponding to the number of vertical channels of the multichannel audio signal. If the number of channels in the vertical direction of the multi-channel audio signal is 4, the screen can be divided into four in the vertical direction if the number of vertical position identification images 53 is three. If the number of channels in the horizontal direction of the multi-channel audio signal is 7, the screen is divided into 28 areas by the horizontal position identification image 52 and the vertical position identification image 53.

ユーザ400が操作部30における例えば上下のカーソルキーによってポインタ画像51を上方向または下方向へと移動させる操作をしたら、制御部20は、ポインタ画像51を上下方向に移動させる。ポインタ画像51を上方向へと移動させたら、円内に上向きの矢印よりなる画像とし、ポインタ画像51を下方向へと移動させたら、円内に下向きの矢印よりなる画像する。この際、円内の矢印の先が領域の中央を指し示すように表示させる。円内に上向きまたは下向きの矢印のポインタ画像51は、マルチチャンネル音声信号における垂直方向のいずれかの角度方向からの音声信号を選択するための付加情報に相当する。   When the user 400 performs an operation of moving the pointer image 51 upward or downward using, for example, the up and down cursor keys on the operation unit 30, the control unit 20 moves the pointer image 51 in the vertical direction. When the pointer image 51 is moved upward, the image is formed of an upward arrow in the circle, and when the pointer image 51 is moved downward, an image of the downward arrow is formed in the circle. At this time, it is displayed so that the tip of the arrow in the circle points to the center of the area. A pointer image 51 with an upward or downward arrow in a circle corresponds to additional information for selecting an audio signal from one of the vertical directions in the multichannel audio signal.

図19において、ユーザ400が操作部30における例えば決定キーを操作したら、制御部20は、マルチチャンネル音声信号のうち、ポインタ画像51の位置に応じた再生すべき角度方向のチャンネルを決定する。制御部20は、映像音声再生処理部21を制御して、決定したチャンネルの角度方向を示す指向性情報に基づいて、決定したチャンネルの音声信号を記録しているトラックを再生させる。   In FIG. 19, when the user 400 operates, for example, a determination key on the operation unit 30, the control unit 20 determines a channel in the angular direction to be reproduced according to the position of the pointer image 51 in the multichannel audio signal. The control unit 20 controls the video / audio reproduction processing unit 21 to reproduce a track on which the audio signal of the determined channel is recorded based on the directivity information indicating the determined angular direction of the channel.

このように、ビデオカメラ110は、ポインタ画像51の水平方向の位置を移動させて、決定キーを操作することによって、水平方向それぞれの角度方向のチャンネルの音声信号を選択して再生させることができる。図20において、右端部に位置しているこどもが発している声を聞きたい場合には、ポインタ画像51を右端部方向に移動させて決定キーを操作すれば、そのこどもが発している声を再生して聞くことができる。   Thus, the video camera 110 can select and reproduce the audio signals of the channels in the respective angular directions in the horizontal direction by moving the position of the pointer image 51 in the horizontal direction and operating the enter key. . In FIG. 20, in order to hear the voice of a child who is located at the right end, if the decision key is operated by moving the pointer image 51 toward the right end, the voice of the child is emitted. Can play and listen.

図20の場合には、ポインタ画像51の垂直方向の位置を移動させて、決定キーを操作することによって、垂直方向それぞれの角度方向のチャンネルの音声信号を選択して再生させることができる。   In the case of FIG. 20, by moving the position of the pointer image 51 in the vertical direction and operating the enter key, it is possible to select and reproduce the audio signals of the channels in the respective angular directions in the vertical direction.

水平方向または垂直方向の角度方向を選択するための付加情報の画像は、図9,図10に示すようなポインタ画像51に限定されるものではない。例えば、小さな円形画像でもよい。また、ポインタ画像の代わりに分割領域をハイライト、グレーアウトさせてもよい。   The image of the additional information for selecting the horizontal direction or the vertical angle direction is not limited to the pointer image 51 as shown in FIGS. For example, a small circular image may be used. Further, instead of the pointer image, the divided area may be highlighted and grayed out.

図21を用いて、映像信号及び音声信号を再生する指示がなされた場合の、ビデオカメラ110による再生動作について改めて説明する。図21において、制御部20は、ステップS301にて、記録されている映像信号(撮影コンテンツ)の再生指示がなされたか否かを判定する。再生指示がなされなければ(NO)、制御部20は、処理をステップS320に移行させる。再生指示がなされたら(YES)、制御部20は、ステップS302にて、映像信号とステレオ音声信号を再生させる。   The reproduction operation by the video camera 110 when an instruction to reproduce the video signal and the audio signal is given will be described again with reference to FIG. In FIG. 21, the control unit 20 determines in step S301 whether or not an instruction to reproduce the recorded video signal (captured content) has been issued. If the reproduction instruction is not given (NO), the control unit 20 shifts the process to step S320. When the reproduction instruction is given (YES), the control unit 20 reproduces the video signal and the stereo audio signal in step S302.

制御部20は、ステップS303にて、ポインタ画像51を表示させる指示があったか否かを判定する。ここでは、ポインタ画像51を用いる場合の動作について示す。制御部20は、指示があれば(YES)、処理をステップS304に移行させ、指示がなければ(NO)、処理をステップS316に移行させる。制御部20は、ステップS304にて、ポインタ画像51を初期位置に表示させる。   In step S303, the control unit 20 determines whether or not there is an instruction to display the pointer image 51. Here, an operation when the pointer image 51 is used will be described. If there is an instruction (YES), the control unit 20 shifts the process to step S304, and if there is no instruction (NO), the control unit 20 shifts the process to step S316. In step S304, the control unit 20 displays the pointer image 51 at the initial position.

制御部20は、ステップS305にて、ポインタ画像51を移動させる指示があったか否かを判定する。ポインタ画像51を移動させる指示があれば(YES)、制御部20は、ステップS306にて、ポインタ画像51を移動させる。ポインタ画像51を移動させる指示がなければ(NO)、制御部20は、処理をステップS307に移行させる。   In step S305, the control unit 20 determines whether there is an instruction to move the pointer image 51. If there is an instruction to move the pointer image 51 (YES), the control unit 20 moves the pointer image 51 in step S306. If there is no instruction to move the pointer image 51 (NO), the control unit 20 shifts the process to step S307.

制御部20は、ステップS307にて、選択された角度方向の音声信号を再生する指示がなされたか否かを判定する。制御部20は、選択された角度方向の音声信号を再生する指示がなされたら、処理をステップS308に移行させ、指示がなされなかったら、処理をステップS317に移行させる。   In step S307, the control unit 20 determines whether or not an instruction to reproduce the audio signal in the selected angular direction has been issued. The control unit 20 shifts the process to step S308 when an instruction to reproduce the audio signal in the selected angular direction is given, and shifts the process to step S317 when the instruction is not given.

制御部20は、ステップS317にて、ポインタ画像51の表示解除の指示があったか否かを判定する。例えば、操作部30における戻りキーを操作したら、ポインタ画像51の表示解除の指示があったとすればよい。ポインタ画像51の表示解除の指示があれば(YES)、制御部20は、ステップS318にて、ポインタ画像51の表示を解除して、処理をステップS316に移行させる。ポインタ画像51の表示解除の指示がなければ(NO)、制御部20は、処理をステップS305に戻す。   In step S317, the control unit 20 determines whether there is an instruction to cancel the display of the pointer image 51. For example, if the return key on the operation unit 30 is operated, it may be assumed that there is an instruction to cancel the display of the pointer image 51. If there is an instruction to cancel the display of the pointer image 51 (YES), the control unit 20 cancels the display of the pointer image 51 in step S318 and shifts the process to step S316. If there is no instruction to cancel the display of the pointer image 51 (NO), the control unit 20 returns the process to step S305.

制御部20は、ステップS308にて、ポインタ画像51の位置から再生すべきトラック番号を決定する。制御部20は、ステップS309にて、決定したトラック番号の音声信号を再生する。制御部20は、ステップS310にて、再生しているトラック番号の音声信号の再生を停止する指示がなされたか否かを判定する。再生停止の指示がなされたら(YES)、制御部20は、ステップS311にて、再生している音声信号の再生を停止させ、処理をステップS305に戻す。   In step S308, the control unit 20 determines a track number to be reproduced from the position of the pointer image 51. In step S309, the control unit 20 reproduces the audio signal having the determined track number. In step S310, the control unit 20 determines whether or not an instruction to stop the reproduction of the audio signal of the track number being reproduced has been issued. If an instruction to stop reproduction is given (YES), the control unit 20 stops reproduction of the audio signal being reproduced in step S311 and returns the process to step S305.

再生停止の指示がなされなかったら(NO)、制御部20は、ステップS312にて、ポインタ画像51を移動させる指示があったか否かを判定する。制御部20は、ポインタ画像51を移動させる指示があれば(YES)、処理をステップS308に戻し、ポインタ画像51を移動させる指示がなければ(NO)、処理をステップS313に移行させる。   If an instruction to stop reproduction is not made (NO), the control unit 20 determines whether or not there is an instruction to move the pointer image 51 in step S312. If there is an instruction to move the pointer image 51 (YES), the control unit 20 returns the process to step S308, and if there is no instruction to move the pointer image 51 (NO), the control unit 20 moves the process to step S313.

制御部20は、ステップS313にて、ポインタ画像51の表示解除の指示があったか否かを判定する。ポインタ画像51の表示解除の指示がなければ(NO)、制御部20は、処理をステップS309に戻す。ポインタ画像51の表示解除の指示があれば(YES)、制御部20は、ステップS314にて、ポインタ画像51の表示を解除し、ステップS315にて、再生している音声信号の再生を停止させて、ステップS316に移行させる。   In step S313, the control unit 20 determines whether there is an instruction to cancel the display of the pointer image 51. If there is no instruction to cancel the display of the pointer image 51 (NO), the control unit 20 returns the process to step S309. If there is an instruction to cancel the display of the pointer image 51 (YES), the control unit 20 cancels the display of the pointer image 51 in step S314 and stops the reproduction of the audio signal being reproduced in step S315. Then, the process proceeds to step S316.

制御部20は、ステップS316にて、コンテンツデータの再生停止の指示がなされたか否かを判定する。再生停止の指示がなされなければ(NO)、制御部20は、処理をステップS302に戻す。再生停止の指示がなされたら(YES)、制御部20は、ステップS319にて、映像信号及びステレオ音声信号の再生を停止させて、処理をステップS320に移行させる。   In step S316, the control unit 20 determines whether or not an instruction to stop reproduction of content data has been issued. If no instruction to stop playback is given (NO), the control unit 20 returns the process to step S302. If an instruction to stop playback is given (YES), the control unit 20 stops playback of the video signal and stereo audio signal in step S319, and shifts the processing to step S320.

制御部20は、ステップS320にて、電源切断の指示がなされたか否かを判定する。電源切断の指示がなされたら(YES)、制御部20は、処理を終了させ、電源切断の指示がなされなかったら(NO)、制御部20は、処理をステップS301に戻す。   In step S320, control unit 20 determines whether or not an instruction to turn off the power has been issued. If an instruction to turn off the power is given (YES), the control unit 20 ends the process. If no instruction to turn off the power is given (NO), the control unit 20 returns the process to step S301.

ところで、上記のステップS309では、単に決定したトラック番号の音声信号を再生すると説明した。一般的には、図18に示すテレビジョン受像機300はステレオスピーカであり、ステレオスピーカを用いて、マルチチャンネル音声信号のうちの選択した角度方向の音声信号を、あたかも視聴時の画面に対応する角度方向から音が聞こえてくるよう再生することが必要である。   By the way, in the above-described step S309, it has been described that the audio signal of the determined track number is simply reproduced. In general, the television receiver 300 shown in FIG. 18 is a stereo speaker, and a stereo speaker is used to handle an audio signal in a selected angle direction among multi-channel audio signals as if it were a viewing screen. It is necessary to reproduce so that sound can be heard from the angle direction.

一般的に2チャンネルステレオでは、音の強度差をつけることによって音像定位の制御ができる。ある音声信号が左(L)チャンネルには重み係数wL、右(R)チャンネルにはwRの重み係数を乗じて分配されるときに、聴取ポイントを中心とした正面からスピーカまでの角度をφ、正面から音声の定位位置までの角度をφ(正面から右側を正)とすると、次式の関係になることが一般に知られている(非特許文献1、p.34参照)。ここで、φは表示装置の視野角に近いことが望ましい。
sinφ/sinφ=(wL−wR)/(wL+wR) …(3)
In general, in 2-channel stereo, sound image localization can be controlled by providing a difference in sound intensity. When an audio signal is distributed by multiplying the left (L) channel by a weighting factor w L and the right (R) channel by a weighting factor w R , the angle from the front to the speaker with the listening point as the center is determined. It is generally known that φ 0 and the angle from the front to the sound localization position is φ (positive from the front to the right) are represented by the following equation (see Non-Patent Document 1, p. 34). Here, phi 0 is desirably close to the viewing angle of the display device.
sinφ / sinφ 0 = (w L −w R ) / (w L + w R ) (3)

このことを利用して、音声出力処理部22は、マルチチャンネル音声信号のうちの選択したチャンネルの音声信号を、水平方向の角度方向に応じた比率で、ステレオ音声信号におけるLチャンネルとRチャンネルとに例えば次のように振り分ければよい。   Using this, the audio output processing unit 22 converts the audio signal of the selected channel among the multi-channel audio signals into the L channel and the R channel in the stereo audio signal at a ratio according to the angular direction in the horizontal direction. For example, the distribution may be as follows.

マルチチャンネルのチャンネル数をN、マルチチャンネルの左端のチャンネルから順にチャンネル番号nを1,2,3,…とすると、式(3)は次の式(4)のようになる。   If the number of multi-channel channels is N, and the channel number n is 1, 2, 3,... In order from the leftmost channel of the multi-channel, equation (3) becomes the following equation (4).

Figure 2014127737
Figure 2014127737

例えば、水平方向にチャンネル数Nが7の場合を考える。ここで、THX(THX社の登録商標)では2φ=36°〜40°の視野角を推奨しており、視野角40°で視聴すると考える。正面から左側へ1つ目、つまり左端から3つ目のチャンネルを選択した場合には、スピーカ間の角度を2φ=40°として、左辺分子のsin関数の変数部分のφ{(n-1)-(N-1)/2}/Nより、40°・{(3-1)-(7-1)/2}/7=約-5.71°、つまり約5.71°正面から左側にずれた位置に定位させる必要がある。φ=5.71°として式(4)より、wL:wR=1.29:0.71=0.645:0.355となる。つまり、選択したチャンネルの音声信号を、Lチャンネルに35.5%、Rチャンネルに64.5%で振り分ければよい。 For example, consider the case where the number of channels N is 7 in the horizontal direction. Here, THX (registered trademark of THX) recommends a viewing angle of 2φ 0 = 36 ° to 40 °, and it is assumed that viewing is performed at a viewing angle of 40 °. When the first channel from the front to the left, that is, the third channel from the left end, is selected, the angle between the speakers is set to 2φ 0 = 40 °, and the variable portion of the left side sine function is φ 0 {(n- 1)-(N-1) / 2} / N, 40 ° ・ {(3-1)-(7-1) / 2} / 7 = about -5.71 °, that is, about 5.71 ° shifted from the front to the left It is necessary to localize to the position. Assuming φ = 5.71 °, from Equation (4), w L : w R = 1.29: 0.71 = 0.645: 0.355. That is, the audio signal of the selected channel may be distributed to the L channel at 35.5% and the R channel at 64.5%.

正面から右側へ2つ目、つまり左端から6つ目のチャンネルを選択した場合には、同様に式(4)より、Lチャンネルに21%、Rチャンネルに79%で振り分ければよい。   When the second channel from the front to the right, that is, the sixth channel from the left end is selected, similarly, it is sufficient to assign 21% to the L channel and 79% to the R channel from the equation (4).

以上のようにすれば、ステレオ音声信号とマルチチャンネル音声信号のうちの選択したチャンネルの音声信号とが自然に合成され、選択した位置(方向)の音声を的確に再生することができる。本実施形態によれば、再生ズームを行った際に、ズームアップした映像と再生される音声とを対応させることができ、ユーザはほとんど違和感を覚えることがない。   In this way, the stereo audio signal and the audio signal of the selected channel among the multi-channel audio signals are naturally synthesized, and the audio at the selected position (direction) can be accurately reproduced. According to the present embodiment, when the playback zoom is performed, the zoomed-up video can be associated with the reproduced audio, and the user hardly feels uncomfortable.

垂直方向に複数チャンネルを有するマルチチャンネル音声信号の場合には、例えば、複数のスピーカを垂直方向に配置したマルチチャンネルスピーカを用いて、同様に、複数のスピーカに対して比率を適宜設定して振り分ければよい。   In the case of a multi-channel audio signal having a plurality of channels in the vertical direction, for example, using a multi-channel speaker in which a plurality of speakers are arranged in the vertical direction, similarly, the ratio is appropriately set for the plurality of speakers and distributed. Just do it.

本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。   The present invention is not limited to the embodiment described above, and various modifications can be made without departing from the scope of the present invention.

10,10A,10B アレーマイクロホン
12,12’ 音声信号演算部
14 指向性切替部
17 ズーム調整部
18 映像撮影部
20 制御部
22 音声出力処理部
23 スピーカ
25 映像合成部
26 画像データ発生部
28 表示部
61 音声認識部
62 音圧レベル演算部(収音レベル算出部)
63 周波数スペクトル分析部(収音レベル算出部)
64 音声認識レベル算出部(収音レベル算出部)
10, 10A, 10B Array microphone 12, 12 ′ Audio signal calculation unit 14 Directivity switching unit 17 Zoom adjustment unit 18 Video photographing unit 20 Control unit 22 Audio output processing unit 23 Speaker 25 Video composition unit 26 Image data generation unit 28 Display unit 61 Voice recognition unit 62 Sound pressure level calculation unit (sound collection level calculation unit)
63 Frequency spectrum analyzer (sound collection level calculator)
64 Speech recognition level calculation unit (sound collection level calculation unit)

Claims (6)

複数のマイクロホン素子が配列されたアレーマイクロホンと、
被写体を撮影する映像撮影部と、
前記映像撮影部で撮影される画角と予め設定した収音の角度分解能とによって、前記アレーマイクロホンによって収音する前記画角内の複数の角度方向を決定して、前記アレーマイクロホンによる収音の指向性を切り替える指向性切替部と、
前記指向性切替部による制御によって、前記アレーマイクロホンにおける前記複数のマイクロホン素子が収音した音声信号を演算処理して、前記複数の角度方向のうちの少なくとも選択された特定の角度方向の音声信号を生成する音声信号演算部と、
前記特定の角度方向の音声信号の収音レベルを算出する収音レベル算出部と、
前記収音レベル算出部が算出した収音レベルを示す収音レベル表示画像の画像データを発生する画像データ発生部と、
前記画像データ発生部が発生した前記収音レベル表示画像の画像データを前記映像信号とともに表示させる映像合成部と、
を備えることを特徴とする撮像装置。
An array microphone in which a plurality of microphone elements are arranged;
A video shooting unit for shooting the subject;
A plurality of angle directions within the angle of view to be picked up by the array microphone are determined according to the angle of view picked up by the video photographing unit and a preset angle resolution of the picked up sound, and the sound collecting of the sound picked up by the array microphone is determined. A directivity switching unit that switches directivity;
The sound signal picked up by the plurality of microphone elements in the array microphone is processed by the control by the directivity switching unit, and the sound signal in at least a specific angle direction selected from the plurality of angle directions is processed. An audio signal calculation unit to be generated;
A sound collection level calculation unit for calculating a sound collection level of the audio signal in the specific angular direction;
An image data generation unit for generating image data of a sound collection level display image indicating the sound collection level calculated by the sound collection level calculation unit;
A video synthesis unit for displaying the image data of the sound collection level display image generated by the image data generation unit together with the video signal;
An imaging apparatus comprising:
前記特定の角度方向の音声信号の増幅度を設定する音声信号増幅部をさらに備え、
前記画像データ発生部は、前記音声信号増幅部で設定されている増幅度に応じて前記収音レベル表示画像を変更した画像データを発生する
ことを特徴とする請求項1に記載の撮像装置。
An audio signal amplifying unit for setting an amplification degree of the audio signal in the specific angular direction;
The imaging apparatus according to claim 1, wherein the image data generation unit generates image data in which the sound collection level display image is changed in accordance with an amplification degree set by the audio signal amplification unit.
前記収音レベル算出部は、前記特定の角度方向の音声信号の音圧レベルを演算する音圧レベル演算部と、前記特定の角度方向の音声信号の周波数スペクトルを分析する周波数スペクトル分析部と、前記特定の角度方向の音声信号に含まれる人の声の認識度合いを示す音声認識レベルを算出する音声認識レベル算出部とのうちの少なくとも1つであることを特徴とする請求項1または2に記載の撮像装置。   The sound collection level calculation unit includes a sound pressure level calculation unit that calculates a sound pressure level of the audio signal in the specific angular direction, a frequency spectrum analysis unit that analyzes a frequency spectrum of the audio signal in the specific angular direction, 3. The voice recognition level calculation unit according to claim 1, wherein the voice recognition level calculation unit calculates a voice recognition level indicating a recognition level of a human voice included in the voice signal in the specific angular direction. The imaging device described. 前記映像撮影部で被写体を撮影する際のズームを調整するズーム調整部をさらに備え、
前記指向性切替部は、前記ズーム調整部で調整したズームに応じて決まる画角と前記角度分解能とによって、前記複数の角度方向を決定する
ことを特徴とする請求項1〜3のいずれか1項に記載の撮像装置。
A zoom adjustment unit for adjusting a zoom when shooting the subject by the video shooting unit;
The directionality switching unit determines the plurality of angular directions according to an angle of view determined according to a zoom adjusted by the zoom adjustment unit and the angular resolution. The imaging device according to item.
前記ズーム調整部によってズームが調整されたとき、前記映像合成部は、前記収音レベル表示画像が前記映像信号による画面内に表示されるように前記収音レベル表示画像の画像データを前記映像信号に重畳させる位置を調整することを特徴とする請求項4記載の撮像装置。   When the zoom is adjusted by the zoom adjustment unit, the video composition unit converts the image data of the sound collection level display image into the video signal so that the sound collection level display image is displayed in a screen based on the video signal. The imaging apparatus according to claim 4, wherein a position to be superimposed on the image is adjusted. 前記アレーマイクロホンは、前記複数のマイクロホン素子が水平方向に配列された構成を垂直方向に複数配列させた構成を有し、
前記指向性切替部は、前記画角内の水平方向及び垂直方向の複数の角度方向をそれぞれ決定して、前記アレーマイクロホンによる水平方向及び垂直方向の収音の指向性を切り替え、
前記音声信号演算部は、前記指向性切替部による制御によって、前記アレーマイクロホンの水平方向及び垂直方向の複数の配列における前記複数のマイクロホン素子が収音した音声信号を演算処理して、水平方向及び垂直方向の前記複数の角度方向からの音声信号を生成する
ことを特徴とする請求項1〜5のいずれか1項に記載の撮像装置。
The array microphone has a configuration in which a plurality of microphone elements arranged in a horizontal direction are arranged in a vertical direction,
The directivity switching unit determines a plurality of angular directions of a horizontal direction and a vertical direction within the angle of view, respectively, and switches the directivity of sound collection in the horizontal direction and the vertical direction by the array microphone,
The sound signal calculation unit performs calculation processing on sound signals collected by the plurality of microphone elements in a plurality of horizontal and vertical arrays of the array microphones under the control of the directivity switching unit, and performs horizontal processing and The image pickup apparatus according to claim 1, wherein audio signals from the plurality of angular directions in the vertical direction are generated.
JP2012280998A 2012-12-25 2012-12-25 Imaging device Active JP5939444B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012280998A JP5939444B2 (en) 2012-12-25 2012-12-25 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012280998A JP5939444B2 (en) 2012-12-25 2012-12-25 Imaging device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016098598A Division JP6274251B2 (en) 2016-05-17 2016-05-17 Image data generating apparatus and image data generating method

Publications (2)

Publication Number Publication Date
JP2014127737A true JP2014127737A (en) 2014-07-07
JP5939444B2 JP5939444B2 (en) 2016-06-22

Family

ID=51406956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012280998A Active JP5939444B2 (en) 2012-12-25 2012-12-25 Imaging device

Country Status (1)

Country Link
JP (1) JP5939444B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017175474A (en) * 2016-03-24 2017-09-28 パナソニックIpマネジメント株式会社 Monitoring system and monitoring method
CN107948870A (en) * 2017-12-18 2018-04-20 珠海爱珂索移动医疗科技有限公司 Portable audio noise reduction system based on stereo microphone array
CN108682161A (en) * 2018-08-10 2018-10-19 东方智测(北京)科技有限公司 Confirm the method and system of vehicle whistle
US10448178B2 (en) 2016-06-30 2019-10-15 Canon Kabushiki Kaisha Display control apparatus, display control method, and storage medium
WO2022154492A1 (en) * 2021-01-13 2022-07-21 삼성전자 주식회사 Electronic device for image capturing, method, and non-transitory storage medium
EP4203458A4 (en) * 2021-01-13 2024-04-17 Samsung Electronics Co., Ltd. Electronic device for image capturing, method, and non-transitory storage medium

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210091003A (en) 2020-01-13 2021-07-21 삼성전자주식회사 Electronic apparatus and controlling method thereof

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006261900A (en) * 2005-03-16 2006-09-28 Casio Comput Co Ltd Imaging apparatus, and imaging control program
JP2010278725A (en) * 2009-05-28 2010-12-09 Sanyo Electric Co Ltd Image and sound processor and imaging apparatus
JP2011041096A (en) * 2009-08-14 2011-02-24 Nec Corp Mobile terminal, method of controlling sound collection used for the same, and program
JP2012209912A (en) * 2011-03-16 2012-10-25 Panasonic Corp Sound collecting device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006261900A (en) * 2005-03-16 2006-09-28 Casio Comput Co Ltd Imaging apparatus, and imaging control program
JP2010278725A (en) * 2009-05-28 2010-12-09 Sanyo Electric Co Ltd Image and sound processor and imaging apparatus
JP2011041096A (en) * 2009-08-14 2011-02-24 Nec Corp Mobile terminal, method of controlling sound collection used for the same, and program
JP2012209912A (en) * 2011-03-16 2012-10-25 Panasonic Corp Sound collecting device

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017175474A (en) * 2016-03-24 2017-09-28 パナソニックIpマネジメント株式会社 Monitoring system and monitoring method
US10448178B2 (en) 2016-06-30 2019-10-15 Canon Kabushiki Kaisha Display control apparatus, display control method, and storage medium
CN107948870A (en) * 2017-12-18 2018-04-20 珠海爱珂索移动医疗科技有限公司 Portable audio noise reduction system based on stereo microphone array
CN108682161A (en) * 2018-08-10 2018-10-19 东方智测(北京)科技有限公司 Confirm the method and system of vehicle whistle
CN108682161B (en) * 2018-08-10 2023-09-15 东方智测(北京)科技有限公司 Method and system for confirming vehicle whistle
WO2022154492A1 (en) * 2021-01-13 2022-07-21 삼성전자 주식회사 Electronic device for image capturing, method, and non-transitory storage medium
EP4203458A4 (en) * 2021-01-13 2024-04-17 Samsung Electronics Co., Ltd. Electronic device for image capturing, method, and non-transitory storage medium
US12075154B2 (en) 2021-01-13 2024-08-27 Samsung Electronics Co., Ltd. Electronic device, method, and non-transitory storage medium for photographing image

Also Published As

Publication number Publication date
JP5939444B2 (en) 2016-06-22

Similar Documents

Publication Publication Date Title
JP5939444B2 (en) Imaging device
US10944936B2 (en) Beam forming for microphones on separate faces of a camera
JP6289121B2 (en) Acoustic signal processing device, moving image photographing device, and control method thereof
KR101061287B1 (en) imaging device
CN1845582B (en) Imaging device, sound record device, and sound record method
WO2015144020A1 (en) Shooting method for enhanced sound recording and video recording apparatus
US20080247567A1 (en) Directional Audio Capturing
CN112165590A (en) Video recording implementation method and device and electronic equipment
JP2013250838A (en) Information processing program, information processing device, information processing system and information processing method
WO2014010280A1 (en) Audio signal processing device, audio signal processing method, program, and recording medium
JP2014050005A (en) Reproducing device, and method for controlling reproducing device
WO2017149124A1 (en) A method, system and device for generating associated audio and visual signals in a wide angle image system
EP2478715B1 (en) Method for acquiring audio signals, and audio acquisition system thereof
CN108574904B (en) Audio acquisition device, audio acquisition system, and audio acquisition method
JP2005159731A (en) Imaging apparatus
JP5949398B2 (en) Video / audio recording and playback device
JP6274251B2 (en) Image data generating apparatus and image data generating method
US11665391B2 (en) Signal processing device and signal processing system
CN113707165B (en) Audio processing method and device, electronic equipment and storage medium
JP3282202B2 (en) Recording device, reproducing device, recording method and reproducing method, and signal processing device
JP6249047B2 (en) Audio processing apparatus, video processing apparatus, audio processing method, and video processing method
KR20120016928A (en) Photographing system
JP2011120165A (en) Imaging apparatus
JP2010130403A (en) Video control device, imaging apparatus and display apparatus which are provided with same
JP2016144044A (en) Information processing unit, information processing method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160229

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160504

R150 Certificate of patent or registration of utility model

Ref document number: 5939444

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150