JP2019184724A - Imaging device and imaging device control method - Google Patents

Imaging device and imaging device control method Download PDF

Info

Publication number
JP2019184724A
JP2019184724A JP2018072944A JP2018072944A JP2019184724A JP 2019184724 A JP2019184724 A JP 2019184724A JP 2018072944 A JP2018072944 A JP 2018072944A JP 2018072944 A JP2018072944 A JP 2018072944A JP 2019184724 A JP2019184724 A JP 2019184724A
Authority
JP
Japan
Prior art keywords
wavelength band
evaluation value
wavelength
region
light region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018072944A
Other languages
Japanese (ja)
Inventor
泰弘 小野
Yasuhiro Ono
泰弘 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018072944A priority Critical patent/JP2019184724A/en
Publication of JP2019184724A publication Critical patent/JP2019184724A/en
Pending legal-status Critical Current

Links

Images

Abstract

To provide an imaging device that can determine an appropriate focused position on the basis of imaging signal to be obtained in a plurality of wavelength bands including wavelength bands of a visible light area and a non-visible light area.SOLUTION: An imaging device 200 is configured to: acquire imaging signals of a plurality of wavelength bands including wavelength bands of a visible light area and a non-visible light area; calculate a focus evaluation value for each wavelength band on the basis of the imaging signal; determine whether focusing can be performed in a wavelength band corresponding to the focus evaluation value on the basis of the focus evaluation value; when it is determined that the focusing cannot be performed in the wavelength band of the visible light area, select the wavelength band of the non-visible light area on the basis of a spectral characteristic of the plurality of wavelength bands; and determine a focused position on the basis of a focus evaluation value of the selected wavelength band.SELECTED DRAWING: Figure 1

Description

本発明は、撮像装置およびその制御方法に関する。   The present invention relates to an imaging apparatus and a control method thereof.

波長帯域が異なる複数のバンドパスフィルタを用いて被写体を撮像することにより、被写体のマルチバンド画像を取得することができる撮像装置(マルチバンドカメラ)が提案されている。マルチバンドカメラは、光をR(赤)、G(緑)、B(青)といった可視光領域の波長帯域だけでなく、可視光領域の波長帯域以外の特定の波長帯域に分光することができる。特許文献1は、マルチバンドカメラにおける焦点調節方法を開示している。   There has been proposed an imaging apparatus (multiband camera) that can acquire a multiband image of a subject by imaging the subject using a plurality of bandpass filters having different wavelength bands. The multiband camera can split light into a specific wavelength band other than the visible light wavelength band, such as R (red), G (green), and B (blue). . Patent Document 1 discloses a focus adjustment method in a multiband camera.

特開2001−5046号公報JP 2001-5046 A

特許文献1が開示する焦点調節方法では、液晶チューナブルフィルタを使用して、可視光領域を16の波長帯域に分け、波長帯域ごとに焦点調節する。一方、撮像素子の前面の光学フィルタを複数の波長帯域のそれぞれに対応するバンドパスフィルタに分けることで、1度の撮像にて複数の波長帯域を撮像するマルチバンドカメラでは、特許文献1とは異なる合焦手法が必要である。このマルチバンドカメラでは、バンドパスフィルタによって得られる複数の波長帯域ごとの撮像信号のうち、どの波長帯域により焦点調節を行うべきか選択することが必要となる。可視光領域の他、赤外(IR)成分領域など不可視光領域を含むマルチバンドパスフィルタを有する撮像装置を想定する。この撮像装置を適用する場合、可視光領域の波長帯域と不可視光領域の波長帯域とで得られた撮像信号のうちのいずれを合焦位置の決定に用いるかの選択が重要である。従来、可視光領域の波長帯域で得られた撮像信号で合焦できない場合に、所定の指標に基づいて、合焦位置の決定に用いる不可視光領域の波長帯域を選択する撮像装置は提案されていなかった。本発明は、可視光領域と不可視光領域の波長帯域を含む複数の波長帯域で得られる撮像信号に基づいて、適切な合焦位置を決定することができる撮像装置の提供を目的とする。   In the focus adjustment method disclosed in Patent Document 1, a visible light region is divided into 16 wavelength bands using a liquid crystal tunable filter, and focus adjustment is performed for each wavelength band. On the other hand, by dividing the optical filter on the front surface of the image sensor into bandpass filters corresponding to each of a plurality of wavelength bands, a multiband camera that captures a plurality of wavelength bands by one imaging is disclosed in Patent Document 1 Different focusing methods are required. In this multi-band camera, it is necessary to select which wavelength band should be used for focus adjustment among imaging signals for each of a plurality of wavelength bands obtained by the band-pass filter. Assume an imaging apparatus having a multiband pass filter including an invisible light region such as an infrared (IR) component region in addition to a visible light region. When this imaging apparatus is applied, it is important to select which of the imaging signals obtained in the wavelength band of the visible light region and the wavelength band of the invisible light region is used for determining the in-focus position. 2. Description of the Related Art Conventionally, there has been proposed an imaging apparatus that selects a wavelength band of an invisible light region to be used for determining a focus position based on a predetermined index when focusing cannot be performed using an imaging signal obtained in the wavelength band of the visible light region. There wasn't. An object of the present invention is to provide an imaging apparatus capable of determining an appropriate in-focus position based on imaging signals obtained in a plurality of wavelength bands including wavelength bands of a visible light region and an invisible light region.

本発明の一実施形態の撮像装置は、可視光領域の波長帯域と不可視光領域の波長帯域とを含む複数の波長帯域の撮像信号を取得する取得手段と、前記撮像信号に基づいて、前記波長帯域ごとに焦点評価値を算出する算出手段と、前記焦点評価値に基づいて、前記焦点評価値に対応する波長帯域で合焦できるかを判断する判断手段と、前記可視光領域の波長帯域で合焦できないと判断された場合に、前記複数の波長帯域のスペクトル特性に基づいて、前記不可視光領域の波長帯域を選択する選択手段と、前記選択された波長帯域の焦点評価値に基づいて、合焦位置を決定する決定手段とを備える。   The imaging apparatus according to an embodiment of the present invention includes an acquisition unit that acquires an imaging signal of a plurality of wavelength bands including a wavelength band of a visible light region and a wavelength band of an invisible light region, and the wavelength based on the imaging signal. A calculation unit that calculates a focus evaluation value for each band; a determination unit that determines whether focusing can be performed in a wavelength band corresponding to the focus evaluation value based on the focus evaluation value; and a wavelength band in the visible light region. When it is determined that focusing cannot be performed, based on spectral characteristics of the plurality of wavelength bands, selection means for selecting a wavelength band of the invisible light region, and based on a focus evaluation value of the selected wavelength band, Determining means for determining the in-focus position.

本発明の撮像装置によれば、可視光領域と不可視光領域の波長帯域を含む複数の波長帯域で得られる撮像信号に基づいて、適切な合焦位置を決定することができる。   According to the imaging apparatus of the present invention, it is possible to determine an appropriate in-focus position based on imaging signals obtained in a plurality of wavelength bands including the wavelength bands of the visible light region and the invisible light region.

撮像装置の構成例を示す図である。It is a figure which shows the structural example of an imaging device. 光学フィルタの構成例を示す図である。It is a figure which shows the structural example of an optical filter. 被写体の一例を示す図である。It is a figure which shows an example of a to-be-photographed object. フォーカスレンズ位置とAF評価値との関係の一例を示す図である。It is a figure which shows an example of the relationship between a focus lens position and AF evaluation value. 合焦位置の決定に用いる波長帯域の選択処理の例を説明する図である。It is a figure explaining the example of the selection process of the wavelength band used for the determination of a focus position. 図5のS108における波長帯域の選択処理を説明する図である。It is a figure explaining the selection process of the wavelength band in S108 of FIG. IR成分領域の波長領域の選択処理の一例を説明する図である。It is a figure explaining an example of the selection process of the wavelength area | region of IR component area | region.

図1は、本実施形態の撮像装置の構成例を示す図である。
以下に示す実施形態は本発明の一例であり、構成などを限定するものではない。本発明を適用可能な構成であれば、下記構成である必要はない。
FIG. 1 is a diagram illustrating a configuration example of an imaging apparatus according to the present embodiment.
The following embodiment is an example of the present invention and does not limit the configuration or the like. If it is a configuration to which the present invention is applicable, the following configuration is not necessary.

図1に示す撮像装置200は、システム制御部201乃至光学フィルタ選択器212を備える。システム制御部201は、CPU(中央演算処理装置)等を有し、記憶部208に実装されているプログラムに基づいてシステム全体を制御する。CPUは、Central Processing Unitの略称である。システム制御部201は、露光制御部および測距制御部を有し、AF(自動焦点調節)処理の他に、AE(自動露出)処理に関わる動作を行う。システム制御部201は、露光制御部および測距制御部により、撮像素子205および撮像処理部206から取得した画像データを用いて所定の演算処理を行う。システム制御部201は、得られた演算結果に基づいて、レンズ制御部204を通してレンズ駆動部203へ駆動信号を伝達させることで撮像レンズ202を制御する。   An imaging apparatus 200 illustrated in FIG. 1 includes a system control unit 201 through an optical filter selector 212. The system control unit 201 includes a CPU (Central Processing Unit) and the like, and controls the entire system based on a program installed in the storage unit 208. CPU is an abbreviation for Central Processing Unit. The system control unit 201 includes an exposure control unit and a distance measurement control unit, and performs operations related to AE (automatic exposure) processing in addition to AF (automatic focus adjustment) processing. The system control unit 201 performs predetermined arithmetic processing using the image data acquired from the imaging element 205 and the imaging processing unit 206 by the exposure control unit and the distance measurement control unit. The system control unit 201 controls the imaging lens 202 by transmitting a driving signal to the lens driving unit 203 through the lens control unit 204 based on the obtained calculation result.

撮像レンズ202は、ズームレンズ、フォーカスレンズ、像振れ補正レンズなどの複数のレンズ群を有する。また、撮像レンズ202は、光量調整に関わる絞りやシャッタなどの機構も有する。レンズ駆動部203は、撮像レンズ202が有する各レンズ群および光量調整に関わる機構を駆動するための各種モータを有する。レンズ駆動部203が有するモータの一例として、DCモータやステッピングモータなどが挙げられる。レンズ駆動部203はモータをレンズ制御部204からの駆動制御信号に基づいて動作させることで、撮像レンズ202に所望の動作をさせる。また、レンズ駆動部203は、撮像レンズ202やレンズ駆動部203の動作を検出するための光学検出や磁気検出、傾斜検知などの各センサを持つ。各センサの取得情報は、レンズ制御部204に伝達される。   The imaging lens 202 has a plurality of lens groups such as a zoom lens, a focus lens, and an image blur correction lens. The imaging lens 202 also has mechanisms such as a diaphragm and a shutter that are related to light amount adjustment. The lens driving unit 203 includes various motors for driving each lens group included in the imaging lens 202 and a mechanism related to light amount adjustment. Examples of the motor included in the lens driving unit 203 include a DC motor and a stepping motor. The lens driving unit 203 causes the imaging lens 202 to perform a desired operation by operating a motor based on a drive control signal from the lens control unit 204. The lens driving unit 203 has sensors such as optical detection, magnetic detection, and tilt detection for detecting the operation of the imaging lens 202 and the lens driving unit 203. The acquisition information of each sensor is transmitted to the lens control unit 204.

レンズ制御部204は、ドライバーIC(Integrated Circuit)を有し、撮像レンズ202を制御する。レンズ制御部204は、レンズ駆動部203が有する各センサからの検出信号などの情報から、撮像レンズ202の位置、レンズ駆動部203の各モータの速度などの状態を検出する。レンズ制御部204は、上記検出結果に基づいて、ドライバーICから各モータへ適切な駆動信号を伝達する。例えば、レンズ制御部204は、光学検出センサなどのエンコーダによって検出された信号からズームレンズの位置及び速度を算出する。レンズ制御部204は、得られたズームレンズの速度に基づいて、ズームレンズが予め定められた目標速度になるように、レンズ制御部203へ適切な駆動信号を送る。   The lens control unit 204 has a driver IC (Integrated Circuit) and controls the imaging lens 202. The lens control unit 204 detects states such as the position of the imaging lens 202 and the speed of each motor of the lens driving unit 203 from information such as detection signals from the respective sensors included in the lens driving unit 203. The lens control unit 204 transmits an appropriate drive signal from the driver IC to each motor based on the detection result. For example, the lens control unit 204 calculates the position and speed of the zoom lens from a signal detected by an encoder such as an optical detection sensor. The lens control unit 204 sends an appropriate drive signal to the lens control unit 203 so that the zoom lens has a predetermined target speed based on the obtained speed of the zoom lens.

撮像素子205は、CCDやCMOS等を有する。CCDは、Charge Coupled Deviceの略称である。CMOSは、Complementary Metal Oxideの略称である。撮像レンズ202により集光された光束は、光学フィルタ210を通った後に、撮像素子205によって受光される。光学フィルタ210は、複数の狭バンドパスフィルタによって、光を可視光領域(RGB成分領域)の波長帯域と不可視光領域の波長領域を含む複数の波長領域に分光する。撮像素子205は、光学フィルタ210によって分光された光を光電変換して撮像信号を出力する。本実施形態では、不可視光領域の一例として、IR(赤外)成分領域を適用する。光学フィルタ210の構成に関しては、図2を参照して後述する。   The imaging element 205 has a CCD, a CMOS, or the like. CCD is an abbreviation for Charge Coupled Device. CMOS is an abbreviation for Complementary Metal Oxide. The light beam collected by the imaging lens 202 passes through the optical filter 210 and is then received by the imaging device 205. The optical filter 210 splits light into a plurality of wavelength regions including a wavelength band of a visible light region (RGB component region) and a wavelength region of an invisible light region by a plurality of narrow bandpass filters. The image sensor 205 photoelectrically converts the light dispersed by the optical filter 210 and outputs an image signal. In the present embodiment, an IR (infrared) component region is applied as an example of the invisible light region. The configuration of the optical filter 210 will be described later with reference to FIG.

撮像処理部206は、CDS回路、増幅回路、A/D変換部などを有する。CDS回路は、撮像素子205の出力ノイズを相関二重サンプリング方式により除去する。増幅回路は、CDS回路によりノイズが除去された撮像信号に対して、信号増幅(ゲイン制御)を行う。A/D変換部は、アナログ信号である撮像信号をデジタル信号に変換する。   The imaging processing unit 206 includes a CDS circuit, an amplifier circuit, an A / D conversion unit, and the like. The CDS circuit removes output noise of the image sensor 205 by a correlated double sampling method. The amplifier circuit performs signal amplification (gain control) on the imaging signal from which noise has been removed by the CDS circuit. The A / D converter converts an imaging signal that is an analog signal into a digital signal.

画像処理部207は、撮像処理部206から取得した撮像信号に対して、所定の各種画像補正処理を行う。例えば、画像処理部207は、撮像信号のホワイトバランス処理を行う。画像処理部207は、必要な画像処理を行った後に、撮像信号を映像データとして所望のフォーマット変換を行う。   The image processing unit 207 performs predetermined various image correction processes on the imaging signal acquired from the imaging processing unit 206. For example, the image processing unit 207 performs white balance processing of the imaging signal. After performing necessary image processing, the image processing unit 207 performs a desired format conversion using the imaging signal as video data.

記録部208は、高速な内蔵メモリ(RAMなど)や大容量のハードディスクドライブ、各種メモリーカードなどの記録媒体を有する。RAMは、Random Access Memoryの略称である。記録部208は、画像処理部207からの映像データや時間情報、設定情報等の様々なデータの記録や画像処理などの一時的な記録媒体として使用される。記録部208は、更に、システム制御部201により実行される各種プログラムなどを記憶する。本実施形態で使用するプログラムも記録部208に保持されている。映像出力部209は、液晶モニタなどの映像出力系への各種出力端末、例えば、BNCコネクタと、ドライバーなどを有する。BNCは、Bayonet Neill Concelmanの略称である。   The recording unit 208 includes a recording medium such as a high-speed built-in memory (such as RAM), a large-capacity hard disk drive, and various memory cards. RAM is an abbreviation for Random Access Memory. The recording unit 208 is used as a temporary recording medium for recording various data such as video data, time information, and setting information from the image processing unit 207 and image processing. The recording unit 208 further stores various programs executed by the system control unit 201. The program used in this embodiment is also held in the recording unit 208. The video output unit 209 includes various output terminals to a video output system such as a liquid crystal monitor, such as a BNC connector and a driver. BNC is an abbreviation for Bayonet Neil Concelman.

AF処理部211は、システム制御部201の制御にしたがって、焦点調節処理を行う。AF処理部211は、合焦位置を特定するために用いる焦点評価値(以下、「AF評価値」と記述する)を算出する。AF評価値の算出方法については多数の文献および先行提案件に多くの手法が提案されているので、ここでは詳細な説明は省略して本発明に関わる説明に留める。AF処理部211は、撮像処理部206から得られた撮像信号の所定画面領域の一部を抽出し、バンドパスフィルタを通して抽出した撮像信号の画面の一部から、所要の高周波数成分を抽出する。AF処理部211は、抽出した高周波数成分に対して積分等の処理を行うことで、AF評価値を算出する。算出されたAF評価値は、測距領域(焦点検出領域)内のコントラストの指標となる数値となる。AF評価値が高いほど、コントラストが高く、合焦状態に近いことを示す。AF評価値が低いほど、コントラストが低く、合焦状態から遠いことを示す。   The AF processing unit 211 performs focus adjustment processing according to the control of the system control unit 201. The AF processing unit 211 calculates a focus evaluation value (hereinafter referred to as “AF evaluation value”) used to specify the in-focus position. Many methods for calculating the AF evaluation value have been proposed in a large number of documents and prior proposals, and therefore, detailed description is omitted here and only the description related to the present invention is given. The AF processing unit 211 extracts a part of a predetermined screen area of the imaging signal obtained from the imaging processing unit 206, and extracts a required high frequency component from a part of the screen of the imaging signal extracted through the band pass filter. . The AF processing unit 211 calculates an AF evaluation value by performing processing such as integration on the extracted high frequency component. The calculated AF evaluation value is a numerical value that serves as an index of contrast in the distance measurement area (focus detection area). The higher the AF evaluation value, the higher the contrast and the closer to the focused state. The lower the AF evaluation value, the lower the contrast and the farther from the focused state.

システム制御部201は、例えば、AF評価値が増加する方向にフォーカスレンズを動かしながらAF評価値を算出し、AF評価値が最も高くなるフォーカスレンズの位置(合焦位置)を検出する。システム制御部201は、AF評価値のピークポジションを取得できない場合、現在指定されている測距領域においては合焦できないと判断する。システム制御部201は、AF評価値のピークポジションを取得できた場合、合焦できると判断する。システム制御部201は、詳細な合焦位置の検出を行う場合、AF評価値のピークポジションの近傍において、フォーカスレンズを前後方向に微小に移動させながらAF評価値を取得し、フォーカスレンズの位置がAF評価値の最大値となる箇所を合焦位置とする。   For example, the system control unit 201 calculates the AF evaluation value while moving the focus lens in the direction in which the AF evaluation value increases, and detects the position (focus position) of the focus lens where the AF evaluation value is highest. If the peak position of the AF evaluation value cannot be acquired, the system control unit 201 determines that focusing cannot be performed in the currently designated ranging area. The system control unit 201 determines that focusing is possible when the peak position of the AF evaluation value can be acquired. The system control unit 201 acquires an AF evaluation value while finely moving the focus lens in the front-rear direction in the vicinity of the peak position of the AF evaluation value when detecting the detailed in-focus position. The position where the AF evaluation value is the maximum value is set as the in-focus position.

光学フィルタ選択器212は、複数の狭バンドパスフィルタによって得られる複数の波長帯域から、合焦位置の決定に用いる波長帯域を選択する。光学フィルタ選択器212に関しては後述する。撮像装置200は、さらに、システムを操作するための操作部を有する。操作部は、装置本体の各種操作スイッチやレバー、表示部材に組み込まれているタッチパネルなど、必要に応じた操作部材を有する。これらの操作部材により、ユーザは任意のカメラ動作を行う。また、撮像装置200は、電源検出回路、DC−DCコンバータ、渦電流検出回路、電池残量検出回路等を有する電源制御部を備える。電源制御部は、電源部から得た電力を各処理部に対して供給する。   The optical filter selector 212 selects a wavelength band to be used for determining the in-focus position from a plurality of wavelength bands obtained by a plurality of narrow bandpass filters. The optical filter selector 212 will be described later. The imaging apparatus 200 further includes an operation unit for operating the system. The operation unit includes operation members as required, such as various operation switches and levers of the apparatus main body, and a touch panel incorporated in the display member. With these operation members, the user performs an arbitrary camera operation. Further, the imaging apparatus 200 includes a power control unit having a power detection circuit, a DC-DC converter, an eddy current detection circuit, a battery remaining amount detection circuit, and the like. The power supply control unit supplies power obtained from the power supply unit to each processing unit.

図2は、本実施形態で適用する光学フィルタの構成例を示す図である。
光学フィルタ201は、図1に示す撮像素子205の前段に配置されるマルチバンドパスフィルタ300を有する。R(赤)成分領域301は、ベイヤー配列におけるR成分領域に対応する。G(緑)成分領域302は、ベイヤー配列における2つのG成分領域のうちの第1のG成分領域に対応する。B(青)成分領域303は、ベイヤー配列におけるB成分領域に対応する。IR(赤外)成分領域304は、不可視光領域の一例である。IR(赤外)成分領域304は、ベイヤー配列における2つのG成分領域のうちの第2のG成分領域に対応する。
FIG. 2 is a diagram illustrating a configuration example of an optical filter applied in the present embodiment.
The optical filter 201 includes a multiband pass filter 300 disposed in front of the image sensor 205 shown in FIG. The R (red) component region 301 corresponds to the R component region in the Bayer array. The G (green) component region 302 corresponds to the first G component region of the two G component regions in the Bayer array. The B (blue) component region 303 corresponds to the B component region in the Bayer array. The IR (infrared) component region 304 is an example of an invisible light region. The IR (infrared) component region 304 corresponds to a second G component region of the two G component regions in the Bayer array.

マルチバンドパスフィルタ300においては、可視光領域(RGB成分領域)であるR成分領域301、G成分領域302、B成分領域303のそれぞれを複数(図2の例では4つ)の波長帯域の分光特性に分割している。例えば、R成分領域301においては、通常の広域バンドパスフィルタの代わりに、R成分の波長帯域に対応した4つの狭バンドパスフィルタが配置されている。図2に示す例では、R成分領域301には、R成分の波長帯域を640nm、670nm、700nm、730nmの4つの波長帯域にそれぞれ分光する4つの狭バンドパスフィルタが配置されている。これにより、従来の広域バンドパスフィルタに比べて、詳細な分光特性を検出できるようになる。G成分領域302、B成分領域303についても同様に、4つの波長帯域に対応する4つの狭バンドパスフィルタが配置されている。これにより、R成分領域301、G成分領域302、B成分領域303のそれぞれに対応する複数の波長帯域の撮像信号を得ることができる。   In the multiband pass filter 300, each of the R component region 301, the G component region 302, and the B component region 303 that are visible light regions (RGB component regions) is divided into a plurality of (four in the example of FIG. 2) wavelength bands. It is divided into characteristics. For example, in the R component region 301, four narrow bandpass filters corresponding to the wavelength band of the R component are arranged instead of a normal wide bandpass filter. In the example shown in FIG. 2, in the R component region 301, four narrow bandpass filters that disperse the wavelength band of the R component into four wavelength bands of 640 nm, 670 nm, 700 nm, and 730 nm, respectively, are arranged. This makes it possible to detect detailed spectral characteristics as compared with a conventional wide bandpass filter. Similarly, in the G component region 302 and the B component region 303, four narrow bandpass filters corresponding to the four wavelength bands are arranged. As a result, imaging signals in a plurality of wavelength bands corresponding to the R component region 301, the G component region 302, and the B component region 303 can be obtained.

本実施形態で適用するマルチバンドパスフィルタ300の特徴は、IR成分領域304を有しており、IR成分領域の波長帯域の撮像信号を得ることができることである。また、IR成分領域304にも複数(図2の例では4つ)の狭バンドパスフィルタが配置されており、狭バンドパスフィルタによって、IR成分領域304の複数の波長帯域が得られる。通常、ベイヤー配列においては、人間の眼の感度特性を考慮して、R成分領域及びB成分領域を1つずつ設け、残りの2つをG成分領域で構成している。マルチバンドパスフィルタ300では、2つのG成分領域の1つをIR成分領域304に割り当てている。そして、IR成分領域304に対しても他の領域と同様に、4つの狭バンドパスフィルタを配置している。このように、マルチバンドパスフィルタ300は、画素を4x4の波長帯域に分割し、R,G,Bのバンドをベイヤー配列型に配置するとともに、Gバンドの1つをIRに割り当てて、RGB成分領域からIR成分領域までのマルチバンド構成を成している。したがって、撮像装置200は、光学フィルタ200を通して撮像することで、RGB成分領域の波長帯域とIR成分領域の波長帯域とを含む複数の波長帯域の撮像信号を取得することができ、従来は撮像困難である被写体を撮像することが可能となる。   A feature of the multiband pass filter 300 applied in the present embodiment is that it has an IR component region 304 and can obtain an imaging signal in a wavelength band of the IR component region. In addition, a plurality of (four in the example of FIG. 2) narrow bandpass filters are arranged in the IR component region 304, and a plurality of wavelength bands of the IR component region 304 are obtained by the narrow bandpass filter. Normally, in the Bayer array, in consideration of the sensitivity characteristics of human eyes, one R component region and one B component region are provided, and the remaining two are configured by a G component region. In the multiband pass filter 300, one of the two G component regions is assigned to the IR component region 304. Further, four narrow bandpass filters are arranged for the IR component region 304 as in the other regions. As described above, the multiband pass filter 300 divides the pixel into 4 × 4 wavelength bands, arranges the R, G, and B bands in a Bayer array type, and assigns one of the G bands to the IR to generate an RGB component. A multiband configuration is formed from the region to the IR component region. Therefore, the imaging apparatus 200 can acquire imaging signals in a plurality of wavelength bands including the wavelength band of the RGB component area and the wavelength band of the IR component area by imaging through the optical filter 200, which is conventionally difficult to capture. It is possible to image a subject.

図3は、被写体の一例を示す図である。
例えば、白い皿600に水602と油601を入れたものを被写体とする。図3に示す被写体に対して、従来のカラーフィルタを用いた撮像装置で撮像した場合、水も油も透明な液体であるので、白い皿の中に水か油かの判別が困難な透明な液体が撮像される。また、撮像装置が撮像時にAF動作をさせようとしても、測距領域内の画像は、ほぼ白一色であり、コントラストが低く、AF評価値のピークポジションを取得することができないので、AF動作による合焦を行うことができない。
FIG. 3 is a diagram illustrating an example of a subject.
For example, a subject obtained by putting water 602 and oil 601 in a white plate 600 is used. When the subject shown in FIG. 3 is picked up by an image pickup device using a conventional color filter, both water and oil are transparent liquids. Therefore, it is difficult to distinguish between water and oil in a white dish. The liquid is imaged. Further, even if the imaging device attempts to perform the AF operation at the time of imaging, the image in the distance measurement area is almost white, the contrast is low, and the peak position of the AF evaluation value cannot be obtained. Cannot focus.

しかし、本実施形態の撮像装置200は、IR成分領域まで撮像可能なマルチバンドパスフィルタを有しているので、水602の反射光がIR成分領域ではカットされる。そのため、IR成分領域のバンドパスフィルタを通して撮像した場合、水602のみ黒色として撮像され、水602と油601を分離して撮像可能となる。また、IR成分領域では、水602が黒色となるので、画像のコントラストが高くなり、AF評価値のピークポジションを取得することが可能となる。撮像装置200によれば、RGB成分領域でAF評価値のピークポジションを取得することができない場合に、IR成分領域を用いてAF評価値のピークポジションを取得することができるので、RGB成分領域で合焦ができない被写体でも合焦可能となる。   However, since the imaging apparatus 200 of the present embodiment includes a multiband pass filter that can capture an image up to the IR component region, the reflected light of the water 602 is cut in the IR component region. Therefore, when imaging is performed through a band-pass filter in the IR component region, only water 602 is captured as black, and water 602 and oil 601 can be separated and captured. In the IR component region, since the water 602 is black, the contrast of the image is increased, and the peak position of the AF evaluation value can be acquired. According to the imaging apparatus 200, when the peak position of the AF evaluation value cannot be acquired in the RGB component area, the peak position of the AF evaluation value can be acquired using the IR component area. Even a subject that cannot be focused can be focused.

複数の狭バンドパスフィルタにより構成されているマルチバンドパスフィルタを使用した場合、どの波長帯域で合焦するかを選択する必要がある。マルチバンドパスフィルタ300のような、RGB成分領域とIR成分領域の両方の波長帯域を持つフィルタの場合、まず、いずれの領域を合焦位置を決定するための評価値を取得のための波長帯域として優先させるかが問題となる。また、RGB成分領域で合焦不可であった場合でも、IR成分領域で複数の波長帯域を持つので、どのような指標に基づいて、合焦位置を決定するための波長帯域を選択するかが問題となる。   When a multiband pass filter composed of a plurality of narrow bandpass filters is used, it is necessary to select which wavelength band to focus on. In the case of a filter having both wavelength bands of the RGB component region and the IR component region, such as the multiband pass filter 300, first, a wavelength band for obtaining an evaluation value for determining the focus position in any region. It becomes a problem whether to give priority as. Even when focusing is not possible in the RGB component area, since there are multiple wavelength bands in the IR component area, what index is used to select the wavelength band for determining the in-focus position It becomes a problem.

図4は、本実施形態の撮像装置で撮像した場合のフォーカスレンズ位置とAF評価値との関係の一例を示す図である。
以下では、図3を参照して説明したような、一様な色の容器に複数の透明な液体を入れた被写体を撮像した場合を例にとって説明する。この例では、4つの波長帯域においてAF評価値が取得できる。例えば、撮像装置200のシステム制御部201は、RGB成分領域である550nm、IR成分領域である900nm、1000nm、1100nmの各々の波長帯域においてAF評価値を取得する。
FIG. 4 is a diagram illustrating an example of the relationship between the focus lens position and the AF evaluation value when an image is captured by the imaging apparatus of the present embodiment.
Hereinafter, a case where a subject in which a plurality of transparent liquids are placed in a uniform color container as described with reference to FIG. 3 is imaged will be described as an example. In this example, AF evaluation values can be acquired in four wavelength bands. For example, the system control unit 201 of the imaging apparatus 200 acquires the AF evaluation value in each wavelength band of 550 nm which is an RGB component region and 900 nm, 1000 nm and 1100 nm which are IR component regions.

図3に示す被写体を撮像すると、被写体の分光反射率と光学フィルタ210の分光透過率により、撮像した被写体のコントラストが異なる。システム制御部201が、RGB成分領域である550nmの狭バンドパスフィルタで撮像すると、画像がほぼ白一色となるので、コントラストが低く、AF評価値のピークポジションを取得できない。したがって、システム制御部201は、IR成分領域である900nm、1000nm、1100nmにおいて、AF評価値を取得する。被写体の分光反射率に応じて、IR成分領域に対応する狭バンドパスフィルタを用いることで、RGB成分領域ではAF評価値のピークポジションを取得できない場合であっても、IR成分領域においてAF評価値のピークポジションを取得できる。   When the subject shown in FIG. 3 is imaged, the contrast of the imaged subject differs depending on the spectral reflectance of the subject and the spectral transmittance of the optical filter 210. When the system control unit 201 captures an image with a narrow bandpass filter of 550 nm that is an RGB component region, the image is almost white, so the contrast is low and the peak position of the AF evaluation value cannot be acquired. Therefore, the system control unit 201 acquires AF evaluation values in 900 nm, 1000 nm, and 1100 nm that are IR component regions. By using a narrow bandpass filter corresponding to the IR component area according to the spectral reflectance of the subject, even if the peak position of the AF evaluation value cannot be obtained in the RGB component area, the AF evaluation value in the IR component area The peak position can be acquired.

図3に示す被写体を撮像すると、900nm、1000nm、1100nmと徐々に長波長側の波長帯域の撮像信号が得られ、被写体の反射光が徐々にカットされる。これにより、IR成分領域においてコントラストが高くなり、AF評価値のピークポジションを取得できるので、合焦位置を決定することができる。しかし、図4に示すAF評価値を見ると、例えば1000nmと1100nmのAF評価値は、ほぼ同じ値となっている。これは被写体の反射光がある一定以上の長波長帯域で反射光をカットした場合、撮像した被写体のコントラストとしては変化がなくなるためである。この場合、1000nmと1100nmのうちのいずれの波長帯域のAF評価値を用いて合焦動作を行うかを選択する必要がある。   When the subject shown in FIG. 3 is imaged, an imaging signal in the wavelength band of 900 nm, 1000 nm, and 1100 nm, which is on the longer wavelength side, is gradually obtained, and the reflected light of the subject is gradually cut. Thereby, the contrast becomes high in the IR component region, and the peak position of the AF evaluation value can be acquired, so that the in-focus position can be determined. However, looking at the AF evaluation values shown in FIG. 4, for example, the AF evaluation values of 1000 nm and 1100 nm are substantially the same value. This is because when the reflected light of the subject is cut in a long wavelength band of a certain level or more, the contrast of the captured subject is not changed. In this case, it is necessary to select which of the wavelength bands of 1000 nm and 1100 nm is used to perform the focusing operation.

本実施形態の撮像装置200は、AF評価値として合焦可能な複数の波長帯域がある場合、波長帯域のスペクトル特性に基づいて、合焦位置の決定に用いる波長帯域を選択する。具体的には、撮像装置200は、スペクトル強度を指標とし、スペクトル強度に基づいて、合焦点の決定に用いる波長帯域を選択する。IR成分領域を活用したFAカメラなどでは、被写体の差分を評価することが多い。被写体の差分を評価する手法として、スペクトル強度の値により評価する手法が一般的である。   When there are a plurality of wavelength bands that can be focused as AF evaluation values, the imaging apparatus 200 according to the present embodiment selects a wavelength band to be used for determining a focus position based on the spectral characteristics of the wavelength band. Specifically, the imaging apparatus 200 uses the spectral intensity as an index, and selects a wavelength band to be used for determining the focal point based on the spectral intensity. An FA camera using an IR component area often evaluates a subject difference. As a method for evaluating the difference between subjects, a method for evaluating based on the value of spectrum intensity is generally used.

スペクトル強度は、ある面積・波長・時間当たりのエネルギーに着目した指標である。例えば、生鮮食品などにおいて、時間経過から表面部分が変化した場合、特定の波長帯域において物体の光の反射率が変化することから、スペクトル強度を取得すると、注目箇所のエネルギーに差分が出る。撮像装置200は、特定波長帯域を検出するため、波長帯域を変えながら、最も着目領域におけるスペクトル強度の差分が出る波長帯域を検出する。画像や映像におけるコントラストは、輝度の差異に着目することが一般的であるが、スペクトル強度は、物体の反射光のエネルギーに着目した指標であるので、コントラストに出にくい変化を検出することが可能となる。この特徴を生かして、撮像装置200は、IR成分領域で複数の合焦可能な波長帯域がある場合、スペクトル強度の値に基づいて、より大きな変化が検出できる波長帯域を設定する。例えば、撮像装置200が備える光学フィルタ選択器212が、RGB成分領域の波長帯域のスペクトル強度との差分が最も大きいスペクトル強度に対応する波長帯域を、合焦位置の決定に用いる不可視領域の波長帯域として選択する。これにより、合焦時に着目する画像領域において、可視光と不可視光の両方の領域から、最も変化を捉えられる波長帯域を設定することが可能である。   Spectral intensity is an index that focuses on energy per area, wavelength, and time. For example, in the case of a fresh food or the like, when the surface portion changes over time, the reflectance of the light of the object changes in a specific wavelength band. Therefore, when the spectrum intensity is acquired, a difference appears in the energy of the spot of interest. In order to detect a specific wavelength band, the imaging apparatus 200 detects a wavelength band in which the difference in spectral intensity in the region of interest is the largest while changing the wavelength band. The contrast in an image or video is generally focused on the difference in brightness, but the spectral intensity is an index focused on the energy of the reflected light from the object, so it is possible to detect changes that do not easily occur in the contrast. It becomes. Taking advantage of this feature, when there are a plurality of focusable wavelength bands in the IR component region, the imaging apparatus 200 sets a wavelength band in which a greater change can be detected based on the value of the spectral intensity. For example, the optical filter selector 212 included in the imaging apparatus 200 uses the wavelength band corresponding to the spectral intensity having the largest difference from the spectral intensity of the RGB component region wavelength band to determine the in-focus position. Choose as. Accordingly, it is possible to set a wavelength band in which the change can be most captured from both visible light and invisible light areas in the image area of interest at the time of focusing.

図5は、本実施形態の撮像装置が実行する、合焦位置の決定に用いる波長帯域の選択処理の例を説明するフローチャートである。
図5では、RGB成分領域で合焦できない場合に、IR成分領域の波長帯域を合焦位置の決定に用いる波長帯域として選択する処理を行う動作を例にとって説明する。なお、以下に説明する動作は、本発明における一例に過ぎず、本発明は、以下に説明する動作に限定されない。
FIG. 5 is a flowchart for explaining an example of wavelength band selection processing used for determining the in-focus position, which is executed by the imaging apparatus according to the present embodiment.
FIG. 5 illustrates an example of an operation for performing processing for selecting the wavelength band of the IR component area as the wavelength band used for determining the in-focus position when focusing cannot be performed in the RGB component area. The operation described below is merely an example in the present invention, and the present invention is not limited to the operation described below.

S101において、システム制御部201が、ユーザの操作にしたがって、撮像画面内に測距領域を設定する。続いて、S102において、システム制御部201が、レンズ制御部204を制御して、レンズ駆動部203によりフォーカスレンズを至近端から無限端まで駆動させる。S103において、AF処理部211が、システム制御部201の制御にしたがって、以下の処理を実行する。AF処理部211は、撮像処理部206が出力する撮像信号から、S101において設定された測距領域の撮像信号を抽出する。光学フィルタ210は、マルチバンドパスフィルタ300を有するので、AF処理部211は、RGB成分領域の波長帯域とIR成分領域の波長帯域とを含む複数の波長帯域の撮像信号を取得する。AF処理部211は、取得した撮像信号に基づいて、波長帯域ごとにAF評価値を算出する。AF処理部211やシステム制御部201などの信号処理性能によりAF評価値の同時取得が困難な場合は、複数回に分けて取得してもよい。また、AF処理部211は、S103ではRGB成分領域の波長帯域のみのAF評価値を取得して、S106の処理の前にIR成分領域の波長帯域のAF評価値を別途取得してもよい。   In step S <b> 101, the system control unit 201 sets a distance measurement area in the imaging screen in accordance with a user operation. Subsequently, in S102, the system control unit 201 controls the lens control unit 204, and the lens driving unit 203 drives the focus lens from the closest end to the infinite end. In step S <b> 103, the AF processing unit 211 executes the following processing according to the control of the system control unit 201. The AF processing unit 211 extracts the imaging signal of the distance measurement area set in S101 from the imaging signal output by the imaging processing unit 206. Since the optical filter 210 includes the multiband pass filter 300, the AF processing unit 211 acquires imaging signals in a plurality of wavelength bands including the wavelength band of the RGB component region and the wavelength band of the IR component region. The AF processing unit 211 calculates an AF evaluation value for each wavelength band based on the acquired imaging signal. When simultaneous acquisition of AF evaluation values is difficult due to signal processing performance of the AF processing unit 211, the system control unit 201, etc., the AF evaluation values may be acquired in multiple steps. Further, the AF processing unit 211 may acquire an AF evaluation value of only the wavelength band of the RGB component region in S103, and separately acquire an AF evaluation value of the wavelength band of the IR component region before the processing of S106.

次に、システム制御部201が、S103で算出されたAF評価値に基づいて、当該AF評価値に対応する波長帯域で合焦できるかを判断する。具体的には、S104において、システム制御部201は、RGB成分領域の波長帯域のAF評価値から合焦ができるかを判断する。システム制御部201は、RGB成分領域の波長帯域のAF評価値のピークポジションを取得できる場合に、RGB成分領域の波長帯域のAF評価値から合焦ができると判断する。システム制御部201は、RGB成分領域の波長帯域のAF評価値のピークポジションを取得できない場合に、RGB成分領域の波長帯域のAF評価値から合焦ができないと判断する。システム制御部201が、RGB成分領域の波長帯域のAF評価値から合焦ができると判断した場合は、処理がS105に進む。そして、S105において、システム制御部201が、RGB成分領域の波長帯域のAF評価値に基づいて、合焦位置を決定する。   Next, based on the AF evaluation value calculated in S103, the system control unit 201 determines whether focusing can be performed in the wavelength band corresponding to the AF evaluation value. Specifically, in S104, the system control unit 201 determines whether focusing can be performed from the AF evaluation values in the wavelength bands of the RGB component areas. If the peak position of the AF evaluation value in the wavelength band of the RGB component region can be acquired, the system control unit 201 determines that focusing can be performed from the AF evaluation value of the wavelength band in the RGB component region. When the peak position of the AF evaluation value in the wavelength band of the RGB component region cannot be acquired, the system control unit 201 determines that focusing cannot be performed from the AF evaluation value of the wavelength band in the RGB component region. If the system control unit 201 determines that focusing is possible from the AF evaluation values in the wavelength band of the RGB component region, the process proceeds to S105. In step S105, the system control unit 201 determines an in-focus position based on the AF evaluation value in the wavelength band of the RGB component region.

システム制御部201が、RGB成分領域の波長帯域のAF評価値から合焦ができないと判断した場合は、処理がS106に進む。S106において、システム制御部201が、IR成分領域の波長帯域のAF評価値から合焦できるかを判断する。システム制御部201は、IR成分領域の波長帯域のAF評価値のピークポジションを取得できる場合に、IR成分領域の波長帯域のAF評価値から合焦ができると判断する。システム制御部201は、IR成分領域の波長帯域のAF評価値のピークポジションを取得できない場合に、IR成分領域の波長帯域のAF評価値から合焦ができないと判断する。システム制御部201が、IR成分領域の波長帯域のAF評価値から合焦できないと判断した場合は、マルチバンドパスフィルタ300の全ての狭バンドパスフィルタの波長帯域でAF評価値のピークポジションを取得できないことになる。したがって、この場合は、現在の撮像画面内で設定された測距領域では合焦できないので、処理がS101に戻る。   If the system control unit 201 determines that focusing cannot be performed from the AF evaluation values in the wavelength band of the RGB component region, the process proceeds to S106. In step S <b> 106, the system control unit 201 determines whether focusing can be performed from the AF evaluation value in the wavelength band of the IR component region. When the peak position of the AF evaluation value in the wavelength band of the IR component region can be acquired, the system control unit 201 determines that focusing can be performed from the AF evaluation value of the wavelength band in the IR component region. If the peak position of the AF evaluation value in the IR component region wavelength band cannot be acquired, the system control unit 201 determines that focusing cannot be performed from the AF evaluation value in the IR component region wavelength band. If the system control unit 201 determines that focusing cannot be performed based on the AF evaluation value in the wavelength band of the IR component region, the peak position of the AF evaluation value is acquired in the wavelength bands of all the narrow bandpass filters of the multiband pass filter 300. It will not be possible. Therefore, in this case, since it cannot focus in the distance measurement area set in the current imaging screen, the process returns to S101.

システム制御部201が、IR成分領域の波長帯域のAF評価値から合焦できると判断した場合は、処理がS107に進む。S107において、システム制御部201が、合焦できると判断されたIR成分領域の波長帯域が複数であるかを判断する。合焦できると判断されたIR成分領域の波長帯域が複数でなく、一つである場合は、処理がS105に進む。そして、S105において、システム制御部201は、合焦できると判断された1つのIR成分領域の波長帯域のAF評価値に基づいて、合焦位置を決定する。   If the system control unit 201 determines that focusing can be performed from the AF evaluation value in the wavelength band of the IR component region, the process proceeds to S107. In step S <b> 107, the system control unit 201 determines whether there are a plurality of wavelength bands in the IR component region determined to be in focus. If the wavelength band of the IR component region determined to be in focus is not plural but one, the process proceeds to S105. In step S <b> 105, the system control unit 201 determines the focus position based on the AF evaluation value of the wavelength band of one IR component region determined to be in focus.

合焦できると判断されたIR成分領域の波長帯域が複数である場合は、処理がS108に進む。なお、以下の説明では、S106において合焦できると判断されたIR成分領域の複数の波長帯域を、選択波長帯域候補とも記述する。S108において、システム制御部201は、合焦できると判断されたIR成分領域の複数の波長帯域のうち、合焦位置の決定に用いる波長帯域を選択する。そして、処理がS105に進む。S105において、システム制御部201は、選択されたIR成分領域の波長帯域のAF評価値に基づいて、合焦位置を決定する。S109において、システム制御部201が、レンズ制御部204を制御して、S105において決定された合焦位置にフォーカスレンズを移動させる。   If there are a plurality of wavelength bands in the IR component region determined to be in focus, the process proceeds to S108. In the following description, a plurality of wavelength bands in the IR component area determined to be in focus in S106 are also described as selected wavelength band candidates. In S <b> 108, the system control unit 201 selects a wavelength band to be used for determining the in-focus position among a plurality of wavelength bands in the IR component region determined to be in focus. Then, the process proceeds to S105. In step S105, the system control unit 201 determines an in-focus position based on the AF evaluation value in the wavelength band of the selected IR component region. In step S109, the system control unit 201 controls the lens control unit 204 to move the focus lens to the in-focus position determined in step S105.

上記のフローチャートでは、RGB成分領域を対象にした合焦の可否の判断(S104)を、IR成分領域を対象にした合焦の可否の判断(S106)より先に行っているが、S104とS106の処理の順序を逆にしてもよい。また、これらの処理の順序をユーザが任意で選べるようにしてもよい。   In the above flowchart, the determination of whether or not focusing is possible for the RGB component area (S104) is performed prior to the determination of whether or not focusing is possible for the IR component area (S106). The order of these processes may be reversed. The order of these processes may be arbitrarily selected by the user.

図6は、図5のS108における波長帯域の選択処理を説明するフローチャートである。
S701において、システム制御部201が、図5のS103で取得したRGB成分領域の波長帯域のうち、AF評価値が最も高い波長帯域のスペクトル強度を算出する。続いて、S702において、システム制御部201が、図5のS106で合焦できると判断されたIR成分領域の複数の波長帯域(選択波長帯域候補)のそれぞれについてスペクトル強度を算出する。スペクトル強度の算出方法は多くの文献で紹介されており、既知であるので、説明を省略する。
FIG. 6 is a flowchart illustrating the wavelength band selection process in S108 of FIG.
In step S701, the system control unit 201 calculates the spectral intensity of the wavelength band with the highest AF evaluation value among the wavelength bands of the RGB component region acquired in step S103 of FIG. Subsequently, in S702, the system control unit 201 calculates a spectrum intensity for each of a plurality of wavelength bands (selected wavelength band candidates) in the IR component region determined to be in focus in S106 of FIG. A method for calculating the spectral intensity has been introduced in many documents and is already known, and thus the description thereof will be omitted.

次に、S703において、システム制御部201が、S701で算出したRGB成分領域の波長領域のスペクトル強度と、S702で算出した各々のIR成分領域の波長領域のスペクトル強度との差分を算出する。続いて、S704において、光学フィルタ選択器212が、S703で算出された差分に基づいて、IR成分領域の波長領域を選択する。すなわち、光学フィルタ選択器212は、RGB成分領域の波長帯域とIR成分領域の波長帯域とを含む複数の波長帯域のスペクトル強度に基づいて、合焦位置の決定に用いるIR成分領域の波長帯域を選択する。   Next, in S703, the system control unit 201 calculates a difference between the spectral intensity of the wavelength region of the RGB component area calculated in S701 and the spectral intensity of the wavelength region of each IR component area calculated in S702. Subsequently, in S704, the optical filter selector 212 selects the wavelength region of the IR component region based on the difference calculated in S703. That is, the optical filter selector 212 determines the wavelength band of the IR component region used for determining the in-focus position based on the spectral intensities of a plurality of wavelength bands including the wavelength band of the RGB component region and the wavelength band of the IR component region. select.

図7は、図6のS704におけるIR成分領域の波長領域の選択処理の一例を説明する図である。
図7に示すグラフは、図4を参照して説明した4つの波長帯域の各々と、スペクトル強度との関係の一例を示す。このグラフにおいて、横軸は、波長を示す。縦軸は、スペクトル強度を示す。なお、選択波長帯域候補、すなわち合焦できるIR成分領域の複数の波長帯域は、900nm、1000nmおよび1100nmの3つの波長帯域であるものとする。
FIG. 7 is a diagram for explaining an example of the selection process of the wavelength region of the IR component region in S704 of FIG.
The graph shown in FIG. 7 shows an example of the relationship between each of the four wavelength bands described with reference to FIG. 4 and the spectral intensity. In this graph, the horizontal axis indicates the wavelength. The vertical axis represents the spectral intensity. It is assumed that the selection wavelength band candidates, that is, the plurality of wavelength bands of the IR component region that can be focused, are three wavelength bands of 900 nm, 1000 nm, and 1100 nm.

スペクトル強度501は、550nmの波長帯域すなわちAF評価値が最も高いRGB成分領域の波長帯域において算出されたスペクトル強度である。スペクトル強度502は、900nmの波長帯域において算出されたスペクトル強度である。スペクトル強度503は、1000nmの波長帯域において算出されたスペクトル強度である。スペクトル強度504は、1100nmの波長帯域において算出されたスペクトル強度である。   The spectral intensity 501 is a spectral intensity calculated in the wavelength band of 550 nm, that is, the wavelength band of the RGB component region having the highest AF evaluation value. The spectrum intensity 502 is a spectrum intensity calculated in the wavelength band of 900 nm. The spectrum intensity 503 is a spectrum intensity calculated in the wavelength band of 1000 nm. The spectral intensity 504 is a spectral intensity calculated in the wavelength band of 1100 nm.

光学フィルタ選択器212による波長帯域の選択方法として、例えば、以下の第1の選択方法と第2の選択方法とが挙げられる。
第1の選択方法では、光学フィルタ選択器212は、選択波長帯域候補に含まれる各々のIR成分領域の波長帯域のスペクトル強度と、AF評価値が最も高いRGB成分領域のスペクトル強度との差分を算出する。そして、光学フィルタ選択器212は、上記差分が最大であるスペクトル強度に対応するIR成分領域の波長帯域を選択する。すなわち、選択波長帯域候補のうち、AF評価値が最も高いRGB成分領域との間でのスペクトル強度の差分が最大である波長帯域が選択される。図7に示す例では、1100nmの波長帯域のスペクトル強度504と550nmの波長帯域のスペクトル強度501との差分が最大である。したがって、光学フィルタ選択器212は、1100nmの波長帯域を選択する。スペクトル強度における評価結果として、1100nmの波長帯域を選択したほうが、550nmの波長帯域との物質の差分(判別)を取り易いからである。
Examples of the wavelength band selection method performed by the optical filter selector 212 include the following first selection method and second selection method.
In the first selection method, the optical filter selector 212 calculates a difference between the spectral intensity of the wavelength band of each IR component area included in the selected wavelength band candidate and the spectral intensity of the RGB component area having the highest AF evaluation value. calculate. Then, the optical filter selector 212 selects the wavelength band of the IR component region corresponding to the spectral intensity having the maximum difference. That is, among the selected wavelength band candidates, the wavelength band having the maximum difference in spectral intensity from the RGB component area having the highest AF evaluation value is selected. In the example shown in FIG. 7, the difference between the spectral intensity 504 in the 1100 nm wavelength band and the spectral intensity 501 in the 550 nm wavelength band is the maximum. Therefore, the optical filter selector 212 selects the 1100 nm wavelength band. This is because it is easier to take the difference (discrimination) of the substance from the wavelength band of 550 nm when the wavelength band of 1100 nm is selected as the evaluation result in the spectral intensity.

第2の選択方法では、光学フィルタ選択器212は、まず、選択波長帯域候補に含まれるIR成分領域の波長帯域のうち、AF評価値が最も高い波長帯域を決定する。AF評価値が最も高い波長帯域が一つである場合は、当該一つの波長帯域を合焦位置の決定のために用いる波長帯域として選択する。AF評価値が最も高い波長帯域が複数である場合を想定する。例えば、図4に示すように、1000nmと1100nmの2つの波長帯域のAF評価値の最大値は、ほぼ同じである。この場合には、光学フィルタ選択器212は、AF評価値が最も高い複数の波長帯域のそれぞれのスペクトル強度と、AF評価値が最も高いRGB成分領域のスペクトル強度との差分を算出する。そして、光学フィルタ選択器212は、上記差分が最大であるスペクトル強度に対応するIR成分領域の波長帯域を選択する。その結果、1100nmの波長帯域が合焦位置の決定に用いる波長帯域として選択される。   In the second selection method, the optical filter selector 212 first determines a wavelength band having the highest AF evaluation value among the wavelength bands of the IR component region included in the selected wavelength band candidate. When there is one wavelength band with the highest AF evaluation value, the one wavelength band is selected as the wavelength band used for determining the in-focus position. Assume that there are a plurality of wavelength bands having the highest AF evaluation value. For example, as shown in FIG. 4, the maximum AF evaluation values in the two wavelength bands of 1000 nm and 1100 nm are substantially the same. In this case, the optical filter selector 212 calculates the difference between the spectral intensity of each of the plurality of wavelength bands with the highest AF evaluation value and the spectral intensity of the RGB component region with the highest AF evaluation value. Then, the optical filter selector 212 selects the wavelength band of the IR component region corresponding to the spectral intensity having the maximum difference. As a result, the wavelength band of 1100 nm is selected as the wavelength band used for determining the in-focus position.

システム制御部201が、ユーザの操作にしたがって、AF評価値とスペクトル強度の優先度を設定するようにしてもよい。そして、AF評価値のほうがスペクトル強度より優先度が高い場合に、第2の選択方法を適用し、スペクトル強度のほうがAF評価値より優先度が高い場合に、第1の選択方法を適用するようにしてもよい。上述した波長帯域の選択方法は、一例であり、本発明の適用範囲を限定しない。図6の説明に戻る。S705において、システム制御部201が、光学フィルタ選択器212が選択した波長帯域を、合焦位置の決定に用いる波長帯域として設定する。   The system control unit 201 may set the priority of the AF evaluation value and the spectrum intensity in accordance with a user operation. Then, the second selection method is applied when the AF evaluation value has a higher priority than the spectrum intensity, and the first selection method is applied when the spectrum intensity has a higher priority than the AF evaluation value. It may be. The above-described wavelength band selection method is an example, and does not limit the application range of the present invention. Returning to the description of FIG. In step S <b> 705, the system control unit 201 sets the wavelength band selected by the optical filter selector 212 as the wavelength band used for determining the in-focus position.

本発明の適用場面で想定されることについて述べる。通常は、可視光とIR成分領域による不可視光とでは、可視光に対して赤外光の結像位置がずれる(ピントずれが発生する)。したがって、システム制御部201は、IR成分領域の波長帯域のAF評価値を用いて焦点調節処理を行う場合、当該IR成分領域の波長に基づいて、可視光に対するピントずれを補正してもよい。   What is assumed in the application scene of this invention is described. Normally, the visible light and the invisible light in the IR component region shift the imaging position of the infrared light with respect to the visible light (the focus shift occurs). Therefore, when performing the focus adjustment processing using the AF evaluation value in the wavelength band of the IR component region, the system control unit 201 may correct the focus shift with respect to visible light based on the wavelength of the IR component region.

また、システム制御部201が、IR成分領域の波長帯域を用いて焦点調節処理を行い、映像表示としてはRGBによるカラー表示を行ってもよい。また、システム制御部201が、合焦時に、どの波長帯域で合焦したかを表示するようにしてもよい。以上、本発明の好適な実施形態に基づいて詳述したが、本発明は上記特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。   Further, the system control unit 201 may perform focus adjustment processing using the wavelength band of the IR component region, and may perform RGB color display as video display. In addition, the system control unit 201 may display in which wavelength band the focusing is performed at the time of focusing. As mentioned above, although it explained in full detail based on suitable embodiment of the present invention, the present invention is not limited to the above-mentioned specific embodiment, and various forms of the range which does not deviate from the gist of this invention are also included in the present invention. .

(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other embodiments)
The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

200 撮像装置
201 システム制御部
200 Imaging Device 201 System Control Unit

Claims (8)

可視光領域の波長帯域と不可視光領域の波長帯域とを含む複数の波長帯域の撮像信号を取得する取得手段と、
前記撮像信号に基づいて、前記波長帯域ごとに焦点評価値を算出する算出手段と、
前記焦点評価値に基づいて、前記焦点評価値に対応する波長帯域で合焦できるかを判断する判断手段と、
前記可視光領域の波長帯域で合焦できないと判断された場合に、前記複数の波長帯域のスペクトル特性に基づいて、前記不可視光領域の波長帯域を選択する選択手段と、
前記選択された波長帯域の焦点評価値に基づいて、合焦位置を決定する決定手段とを備える
ことを特徴とする撮像装置。
An acquisition means for acquiring imaging signals of a plurality of wavelength bands including a wavelength band of a visible light region and a wavelength band of an invisible light region;
Calculation means for calculating a focus evaluation value for each wavelength band based on the imaging signal;
Based on the focus evaluation value, determination means for determining whether focusing can be performed in a wavelength band corresponding to the focus evaluation value;
When it is determined that focusing cannot be performed in the wavelength band of the visible light region, based on the spectral characteristics of the plurality of wavelength bands, selection means for selecting the wavelength band of the invisible light region;
An imaging apparatus comprising: a determining unit that determines a focus position based on a focus evaluation value of the selected wavelength band.
前記可視光領域の波長帯域と前記不可視光領域の波長帯域のそれぞれが、複数の波長帯域を含み、
前記選択手段は、前記可視光領域の波長帯域で合焦できないが、合焦できる前記不可視光領域の波長帯域が複数ある場合に、合焦できる前記不可視領域の複数の波長帯域のそれぞれのスペクトル強度と、前記可視光領域の波長帯域のスペクトル強度との差分に基づいて、前記複数の前記不可視光領域の波長帯域のうち、前記合焦位置を決定するために用いる不可視光領域の波長帯域を選択する
ことを特徴とする請求項1に記載の撮像装置。
Each of the wavelength band of the visible light region and the wavelength band of the invisible light region includes a plurality of wavelength bands,
The selection means is unable to focus in the wavelength band of the visible light region, but when there are a plurality of wavelength bands of the invisible light region that can be focused, each spectral intensity of the plurality of wavelength bands of the invisible region that can be focused And the wavelength band of the invisible light region used for determining the in-focus position among the wavelength bands of the plurality of invisible light regions based on the difference between the spectral intensity of the wavelength band of the visible light region The imaging apparatus according to claim 1, wherein:
前記選択手段は、合焦できる前記不可視光領域の複数の波長帯域のうち、前記焦点評価値が最も高い前記可視光領域との間でのスペクトル強度の差分が最大である波長帯域を選択する
ことを特徴とする請求項3に記載の撮像装置。
The selecting means selects a wavelength band having a maximum difference in spectral intensity from the visible light region having the highest focus evaluation value among a plurality of wavelength bands of the invisible light region that can be focused. The imaging apparatus according to claim 3.
前記焦点評価値と前記スペクトル強度の優先度を設定する設定手段を備え、
前記選択手段は、前記焦点評価値よりも前記スペクトル強度のほうが前記優先度が高い場合に、前記合焦できる前記不可視光領域の複数の波長帯域のうち、前記焦点評価値が最も高い前記可視光領域との間でのスペクトル強度の差分が最大である波長帯域を選択する
ことを特徴とする請求項3に記載の撮像装置。
Setting means for setting the priority of the focus evaluation value and the spectral intensity;
When the spectral intensity has a higher priority than the focus evaluation value, the selection unit has the visible light having the highest focus evaluation value among a plurality of wavelength bands of the invisible light region that can be focused. The imaging apparatus according to claim 3, wherein a wavelength band having a maximum difference in spectral intensity between the regions is selected.
前記選択手段は、合焦できる前記不可視光領域の波長帯域が一つである場合に、当該一つの不可視領域の波長帯域を選択する
ことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
The said selection means selects the wavelength band of the said one invisible area | region, when the wavelength band of the said invisible light area | region which can be focused is one, The any one of Claim 1 thru | or 4 characterized by the above-mentioned. The imaging device described.
前記取得手段は、光を前記可視光領域の波長帯域と不可視光領域の波長帯域とを含む複数の波長帯域に分光する光学フィルタと、前記分光された光を光電変換して前記撮像信号を出力する撮像素子とを有する
ことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
The acquisition means outputs an image pickup signal by photoelectrically converting the dispersed light into an optical filter that separates light into a plurality of wavelength bands including a wavelength band of the visible light region and a wavelength band of an invisible light region. The imaging device according to claim 1, further comprising: an imaging device that performs imaging.
前記光学フィルタは、R成分領域の複数の波長帯域、G成分領域の複数の波長帯域、B成分領域の複数の波長帯域および不可視光領域の複数の波長領域のそれぞれに対応するバンドパスフィルタを有する
ことを特徴とする請求項6に記載の撮像装置。
The optical filter has a bandpass filter corresponding to each of a plurality of wavelength bands in the R component region, a plurality of wavelength bands in the G component region, a plurality of wavelength bands in the B component region, and a plurality of wavelength regions in the invisible light region. The imaging apparatus according to claim 6.
可視光領域の波長帯域と不可視光領域の波長帯域とを含む複数の波長帯域の撮像信号を取得する工程と、
前記撮像信号に基づいて、前記波長帯域ごとに焦点評価値を算出する工程と、
前記焦点評価値に基づいて、前記焦点評価値に対応する波長帯域で合焦できるかを判断する工程と、
前記可視光領域の波長帯域で合焦できないと判断された場合に、前記複数の波長帯域のスペクトル特性に基づいて、前記不可視光領域の波長帯域を選択する工程と、
前記選択された波長帯域の焦点評価値に基づいて、合焦位置を決定する工程とを有する
ことを特徴とする撮像装置の制御方法。
Obtaining an imaging signal of a plurality of wavelength bands including a wavelength band of a visible light region and a wavelength band of an invisible light region;
Calculating a focus evaluation value for each wavelength band based on the imaging signal;
Determining whether or not focusing can be performed in a wavelength band corresponding to the focus evaluation value based on the focus evaluation value;
When it is determined that focusing cannot be performed in the wavelength band of the visible light region, the step of selecting the wavelength band of the invisible light region based on the spectral characteristics of the plurality of wavelength bands;
And a step of determining an in-focus position based on a focus evaluation value of the selected wavelength band.
JP2018072944A 2018-04-05 2018-04-05 Imaging device and imaging device control method Pending JP2019184724A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018072944A JP2019184724A (en) 2018-04-05 2018-04-05 Imaging device and imaging device control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018072944A JP2019184724A (en) 2018-04-05 2018-04-05 Imaging device and imaging device control method

Publications (1)

Publication Number Publication Date
JP2019184724A true JP2019184724A (en) 2019-10-24

Family

ID=68340931

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018072944A Pending JP2019184724A (en) 2018-04-05 2018-04-05 Imaging device and imaging device control method

Country Status (1)

Country Link
JP (1) JP2019184724A (en)

Similar Documents

Publication Publication Date Title
US11418698B2 (en) Focus adjustment device and imaging apparatus
JP5211714B2 (en) Imaging device
US8917334B2 (en) Image detection device, focusing device, image-capturing device, image detection method, and focusing method
US10395348B2 (en) Image pickup apparatus, image processing apparatus, and control method of image pickup apparatus
US20190230267A1 (en) Imaging apparatus
WO2010061352A2 (en) Auto-focus image system
WO2018051730A1 (en) Lens device, camera system, and lens drive method
CN104135607A (en) Image pickup apparatus and method for controlling image pickup apparatus
JP7380777B2 (en) Control devices, control methods, computer programs and electronic equipment
US20190243533A1 (en) Display controller, control method thereof, and non-transitory computer readable medium
US5640635A (en) System and method for automatic engagement of a close-up lens in a fixed-focus camera
US10326925B2 (en) Control apparatus for performing focus detection, image capturing apparatus, control method, and non-transitory computer-readable storage medium
JP4751651B2 (en) Focus detection method and focus detection apparatus
US10602050B2 (en) Image pickup apparatus and control method therefor
WO2010061250A1 (en) Auto-focus image system
SG185345A1 (en) Auto-focus image system
JP6482247B2 (en) FOCUS ADJUSTMENT DEVICE, IMAGING DEVICE, FOCUS ADJUSTMENT DEVICE CONTROL METHOD, AND PROGRAM
US20220159191A1 (en) Image pickup apparatus
JPWO2019202984A1 (en) Imaging device and distance measurement method, distance measurement program and recording medium
JP2013003486A (en) Focus detector and imaging apparatus
JP2019184724A (en) Imaging device and imaging device control method
US10911660B2 (en) Control apparatus, imaging apparatus, control method, and storage medium
WO2016080161A1 (en) Focus control device, focus control method, focus control program, lens device, and imaging device
JP2013061580A (en) Focusing device and imaging apparatus including the same
KR20100027943A (en) Imaging apparatus and imaging method