JP2022179259A - Light flux separation optical system and image processing apparatus - Google Patents

Light flux separation optical system and image processing apparatus Download PDF

Info

Publication number
JP2022179259A
JP2022179259A JP2021109623A JP2021109623A JP2022179259A JP 2022179259 A JP2022179259 A JP 2022179259A JP 2021109623 A JP2021109623 A JP 2021109623A JP 2021109623 A JP2021109623 A JP 2021109623A JP 2022179259 A JP2022179259 A JP 2022179259A
Authority
JP
Japan
Prior art keywords
prism
visible light
image
component
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021109623A
Other languages
Japanese (ja)
Inventor
辰郎 三井
Tatsuro Mitsui
利之 駒村
Toshiyuki Komamura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komamura Corp
Mitsui Optical Manufacturing Co Ltd
Original Assignee
Komamura Corp
Mitsui Optical Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komamura Corp, Mitsui Optical Manufacturing Co Ltd filed Critical Komamura Corp
Priority to JP2021109623A priority Critical patent/JP2022179259A/en
Publication of JP2022179259A publication Critical patent/JP2022179259A/en
Pending legal-status Critical Current

Links

Images

Abstract

To provide a light flux separation prism configuration suitable to acquire a high dynamic range of an image and an image processing apparatus using the same.SOLUTION: An optical system comprises: a first prism which reflects a portion of incident visible light as a reflection light component by internal reflection of a prism glass material and transmits residual portions; a second prism which is arranged via the first prism and an air gap, and which reflects a portion of incident visible light from the first prism as a reflection component by external reflection of the prism glass material, transmits and emits a visible light residual portion; a first visible light image pick-up device which performs photoelectric conversion of the reflection light component of the incident visible light reflected by the internal reflection of the first prism and/or the external reflection of the second prism; and a second visible light image pick-up device which performs photoelectric conversion of the residual component of the visible light emitted from the second prism.SELECTED DRAWING: Figure 1

Description

本発明は、光束分離プリズム、撮像素子等を備えた光束分離光学系および画像信号処理装置であって、特に画像の高ダイナミックレンジを取得するのに適した光束分離プリズム構成およびそれを利用した画像処理装置に関するものである。 The present invention relates to a beam separating optical system and an image signal processing apparatus having a beam separating prism, an imaging device, etc., and a beam separating prism configuration particularly suitable for acquiring a high dynamic range of an image, and an image using the same. It relates to processing equipment.

ビデオカメラや静止画カメラなどに使用される固体撮像素子の進歩により高解像度で、多種類の小型化された撮像装置が可能となり、可視光(カラー)撮影のみならず近赤外(NIR)、短波長赤外(SWIR)、紫外光(UV)などの画像も撮影する広帯域のマルチスペクトルカメラが種々開発されている。これらのマルチスペクトルカメラは、可視光画像に加えて赤外光による波長特性により暗視画像、霧中画像、皮膚下画像、水面下撮影などの画像が取得できるため監視カメラ、車載カメラ、医療用内視鏡カメラ、皮膚疾患観察カメラなど多種多様な用途に利用されている。 Advances in solid-state imaging devices used in video cameras, still image cameras, etc. have made it possible to produce a wide variety of compact imaging devices with high resolution. Various broadband multispectral cameras have been developed that also capture images in short wavelength infrared (SWIR), ultraviolet (UV), and the like. In addition to visible light images, these multispectral cameras can acquire images such as night vision images, images in fog, images under the skin, and images taken under water based on the wavelength characteristics of infrared light. It is used for a wide variety of purposes, such as a scope camera and a skin disease observation camera.

このようにマルチスペクトルカメラの利用が多様化するため、種々の利用環境や条件下での使用に対応できる性能特性が求められるようになってきている。監視カメラや車載カメラでは、昼夜を問わず明瞭な画像が必要であり、内視鏡やダーモスコープなどの医療用観察、診断カメラでは高解像度で小型化された装置により明暗部を見分けられる画像が求められている。特に、夜間や低照度の撮像画像に照明などの高輝度発光部がある場合、トンネルの出入り口の画像撮影、内視鏡などでの照明反射部の画像取得などでは照明ライト部分が白飛びしたり、暗部の黒つぶれが生じたりするためダイナミックレンジをより拡大させる必要がある。 As the use of multispectral cameras is diversifying in this manner, there is a growing demand for performance characteristics that can be used under various usage environments and conditions. Surveillance cameras and in-vehicle cameras require clear images regardless of day or night, and medical observation and diagnostic cameras such as endoscopes and dermoscopes require images that can distinguish between bright and dark areas with high-resolution and miniaturized equipment. It is In particular, if there is a high-brightness light-emitting part such as a lighting in the captured image at night or at low illumination, the illumination light part may be blown out in white when capturing images of the entrance and exit of tunnels, capturing images of lighting reflection parts with endoscopes, etc. It is necessary to further expand the dynamic range because of blackouts in dark areas.

しかし、高解像度、高精細の撮像素子は多画素とするため画素数が増加し、微細化したものとなっている。撮像素子が小型化され、画素が高画素数になると入射する画像の受光面積も少なくなり、画素の電荷量が少なくなり、結果的にダイナミックレンジが少なくなり、S/N比も低下する。このような課題を解決するために種々の方法によりダイナミックレンジを拡大する技術が開示されている。ダイナミックレンジを拡張するには、低照度(低輝度)画像と高照度(高輝度)画像とを取得し、合成する手法が一般的にとられている。 However, since a high-resolution and high-definition imaging device has a large number of pixels, the number of pixels has increased and the image has been miniaturized. As the imaging device becomes smaller and the number of pixels increases, the light receiving area of the incident image also decreases, the amount of charge in the pixels decreases, and as a result the dynamic range decreases and the S/N ratio decreases. Techniques for expanding the dynamic range by various methods have been disclosed in order to solve such problems. In order to extend the dynamic range, a technique of obtaining and synthesizing a low-illuminance (low-brightness) image and a high-illuminance (high-brightness) image is generally adopted.

低照度画像および高照度画像を取得するには、複数枚画像のフレーム毎または画素毎に照度または露光量を変えて低照度、高照度の2画像を取得する方法が考えられている。特許文献1では、低露光画像と高露光画像を1フレーム毎に交互に撮影取得し、合成する際の時間的ズレ位置を補正している。また、特許文献2では、取得した画像の画素毎にDMD(Digital Mirror Device)を用いて反射量を変化させ、変化した光量で低輝度および高輝度の画像を取得する技術が開示されている。このような画像フレームや画素毎に低照度画像と高照度画像を取得して合成する技術においては、時間的ズレが生じてブレ量の補正や画素毎の輝度変化や検知を行うため複雑な画像処理となる問題を含んでいる。 In order to acquire a low-illuminance image and a high-illuminance image, a method of acquiring two low-illuminance and high-illuminance images by changing the illuminance or exposure amount for each frame or pixel of a plurality of images is considered. In Patent Document 1, a low-exposure image and a high-exposure image are alternately captured for each frame, and a temporal shift position when synthesizing the images is corrected. Further, Japanese Patent Application Laid-Open No. 2002-200003 discloses a technique of changing the amount of reflection using a DMD (Digital Mirror Device) for each pixel of an acquired image, and acquiring low-luminance and high-luminance images with the changed light amount. In such a technology that acquires and synthesizes a low-illuminance image and a high-illuminance image for each image frame or pixel, a time lag occurs and the amount of blurring is corrected, and the brightness change and detection for each pixel results in a complicated image. It contains issues to be dealt with.

特許文献3では、撮像素子の画素上にマイクロレンズを交互に配置し、入射光をマイクロレンズにより集光し高感度画素とマイクロレンズ非搭載の受光部を低感度画素として画像合成することで低照度画像と高照度画像を確保している。しかし、この構成では撮像素子とマイクロレンズの構成が複雑となるだけでなく、高解像度の多画素には製造上の難しさがある。 In Patent Document 3, microlenses are alternately arranged on the pixels of an image pickup device, incident light is collected by the microlenses, and high-sensitivity pixels and light-receiving units without microlenses are used as low-sensitivity pixels for image synthesis. Illuminance image and high illuminance image are secured. However, this configuration not only complicates the configuration of the imaging element and the microlens, but also makes it difficult to manufacture high-resolution multi-pixels.

また、撮像素子の画素数を変えて低輝度画像と高輝度画像を取得したり、ND(Neutral Density)フィルターなどの光透過量を変えて照度の異なる画像を取得したりして、画像合成によりダイナミックレンジを拡張する方法も具体化されている。しかしいずれの方法においてもダイナミックレンジを拡張するために複雑な回路や部品構成を要求されたり、撮像素子の性能や特性を低下させたり、画像処理の過程で解像度やS/N比に影響を与えたりするため、高解像度でノイズの少ない高度な色再現性を求めるには満足すべきものでなく、より簡潔な方法でより拡張されたダイナミックレンジを確保する方法が望まれている。 In addition, by changing the number of pixels of the image pickup device to obtain a low-luminance image and a high-luminance image, or by changing the light transmission amount of an ND (Neutral Density) filter, etc., to obtain images with different illuminance, A method for extending the dynamic range is also embodied. However, in any of these methods, complicated circuits and component configurations are required to extend the dynamic range, the performance and characteristics of the image sensor are degraded, and the resolution and S/N ratio are affected in the process of image processing. Therefore, it is not satisfactory for high-resolution, low-noise, high-level color reproducibility, and a simpler method for securing a wider dynamic range is desired.

特開2013-118513号公報JP 2013-118513 A 特開2003-8987号公報JP-A-2003-8987 特開2005-259750号公報JP-A-2005-259750

この発明は、上述の状況に鑑みて提供されるものであって、主として以下のような高ダイナミックレンジで色再現性に優れたカラー画像を取得しうる光束分離光学系および画像処理装置ならびに撮像装置の提供を目的とする。
(1)簡易な光束分離光学系の構成で、拡張されたダイナミックレンジを取得するのに適した光束分離光学系を提供する。
(2)上記、光束分離光学系を使用した高ダイナミックレンジ画像処理装置およびそれを適用した撮像装置を提供する。
The present invention is provided in view of the above situation, and is primarily capable of obtaining a color image with a high dynamic range and excellent color reproducibility as follows: a beam separating optical system, an image processing apparatus, and an imaging apparatus. for the purpose of providing
(1) To provide a beam separation optical system suitable for acquiring an extended dynamic range with a simple configuration of the beam separation optical system.
(2) To provide a high dynamic range image processing device using the above-described beam separation optical system and an imaging device to which it is applied.

かかる課題を解決し上記目的を達成するために、本発明における光束分離光学系は、入射可視光の一部をプリズム硝材の内面反射により反射光成分として反射させ、残余部分を透過させる第一プリズムと、前記第一プリズムとエアギャップを介して配置された第二プリズムであって、前記第一プリズムからの入射可視光の一部をプリズム硝材の外面反射により反射成分として反射させ、可視光残余部分を透過させ、出射させる第二プリズムと、前記第一プリズムの内面反射および・または第二プリズムの外面反射により反射された入射可視光の反射光成分を光電変換する第一の可視光用撮像素子と、前記第二プリズムから出射された可視光の残余成分を光電変換する第二の可視光用撮像素子とを含むことを特徴とする。 In order to solve such problems and achieve the above objects, the light beam separating optical system of the present invention includes a first prism that reflects part of incident visible light as a reflected light component by internal reflection of a prism glass material and transmits the remaining part. and a second prism arranged with an air gap between the first prism and the first prism, wherein part of the incident visible light from the first prism is reflected as a reflected component by external reflection of the prism glass material, and visible light residual a second prism that transmits and emits a portion; and a first imaging for visible light that photoelectrically converts a reflected light component of incident visible light reflected by the internal reflection of the first prism and/or the external reflection of the second prism. and a second imaging device for visible light that photoelectrically converts the residual component of the visible light emitted from the second prism.

また、本発明における光束分離光学系は、前記エアギャップが、5ないし30μmの範囲で形成され、エアギャップ内に窒素ガスが充填されている構成であっても良い。 Further, the beam separation optical system of the present invention may be configured such that the air gap is formed in the range of 5 to 30 μm and the air gap is filled with nitrogen gas.

更に、本発明における光束分離光学系は、前記第一プリズムおよび前記第二プリズムが、高屈折率硝材で構成されていても良い。 Furthermore, in the beam separating optical system of the present invention, the first prism and the second prism may be made of a high refractive index glass material.

更に、本発明における光束分離光学系は、前記第一の可視光用撮像素子に入射する反射光成分が、入射光成分の4~20%であり、前記第二の可視光用撮像素子に入射する透過光成分が、前記反射光成分の残余成分であるように構成することができる。 Further, in the beam separation optical system of the present invention, the reflected light component incident on the first visible light imaging device is 4 to 20% of the incident light component, and is incident on the second visible light imaging device. It is possible to configure such that the transmitted light component to be reflected is a residual component of the reflected light component.

更に、本発明における光束分離光学系は、前記第一の可視光用撮像素子の画像出力が、前記第二の可視光用撮像素子の画像出力の飽和部分を補完するように合成されるように構成することができる。 Furthermore, the beam separation optical system in the present invention is arranged such that the image output of the first image pickup device for visible light is synthesized so as to complement the saturated portion of the image output of the second image pickup device for visible light. Can be configured.

更に、本発明における光束分離光学系は、前記第一プリズムの入射側であって第一プリズムに密着またはエアギャップを介して配置され、前記撮像レンズからの入射光の赤外光成分を反射し、可視光成分を透過させる分離プリズムと、前記赤外光成分を光電変換する赤外光用撮像素子とを追加的に備えているように構成することもできる。 Furthermore, the beam separation optical system in the present invention is arranged on the incident side of the first prism and is in close contact with or via an air gap with the first prism, and reflects the infrared light component of the incident light from the imaging lens. Alternatively, a separation prism for transmitting visible light components and an infrared light imaging device for photoelectrically converting the infrared light components may be additionally provided.

更に、本発明における光束分離光学系は、前記赤外光用撮像素子の画像出力が、前記第二の可視光用撮像素子の画像出力に補完合成されるように構成することもできる。 Furthermore, the beam separation optical system in the present invention can be configured such that the image output of the infrared light imaging device is complementary synthesized with the image output of the second visible light imaging device.

更に、本発明における光束分離光学系は、そのいずれかを画像処理装置または撮像装置として適用することもできる。 Furthermore, either of the beam separating optical system in the present invention can be applied as an image processing device or an imaging device.

ダイナミックレンジを拡大するため、メインカラー画像成分とサブカラー画像成分とを異なる照度で取得するのに光束分離プリズムの反射膜なしにメインカラー画像成分を取得することで、メインカラー画像は光量を下げずに高感度の画像取得を可能となる。また、光束分離プリズム硝材の反射により取得した低感度のサブカラー画像を取得し、高感度のメインカラー画像と合成することで、拡張されたダイナミックレンジで色再現性に優れた画像の確保を可能とする。更に、フィールド毎や画素毎に違う照度の画像を交互に取得するのに比べ光束分離プリズムによりリアルタイムでメインカラー画像とサブカラー画像を分離し、取得しうるため、時間的ずれがなく色再現性に優れたノイズの少ないカラー画像が取得できる。 In order to expand the dynamic range, the main color image component and the sub color image component are acquired with different illuminance, but by acquiring the main color image component without the reflective film of the beam splitting prism, the amount of light in the main color image is reduced. High-sensitivity image acquisition is possible without In addition, by acquiring a low-sensitivity sub-color image obtained by reflection from the beam splitting prism glass material and synthesizing it with the high-sensitivity main color image, it is possible to ensure an image with excellent color reproducibility with an extended dynamic range. and Furthermore, compared to alternately acquiring images with different illuminance for each field or pixel, the beam splitting prism can separate and acquire the main color image and sub-color image in real time, resulting in color reproducibility without time lag. A color image with excellent noise and low noise can be obtained.

本発明による実施例1の構成例を示す説明図である。1 is an explanatory diagram showing a configuration example of Example 1 according to the present invention; FIG. 本発明による実施例1の変形構成例を示す説明図である。It is explanatory drawing which shows the modification structural example of Example 1 by this invention. 本発明による撮像素子の照度に対するセンサー出力を示す説明図である。FIG. 4 is an explanatory diagram showing sensor output with respect to illuminance of an image sensor according to the present invention; 本発明によるダイナミックレンジ拡張回路のブロック説明図である。1 is a block explanatory diagram of a dynamic range expansion circuit according to the present invention; FIG. 本発明による赤外光画像処理例を示すブロック説明図である。FIG. 4 is a block explanatory diagram showing an example of infrared light image processing according to the present invention; 本発明による実施例1の光学系を用いて撮影した画像効果の説明図である。FIG. 5 is an explanatory diagram of the effect of an image captured using the optical system of Example 1 according to the present invention; 本発明による実施例2の構成例を示す説明図である。It is explanatory drawing which shows the structural example of Example 2 by this invention. 本発明による実施例2の変形構成例を示す説明図である。It is explanatory drawing which shows the example of a modified structure of Example 2 by this invention.

以下、本発明に係る光束分離光学系およびそれらを備えた画像処理装置または撮像装置の実施形態について、図面を参照して詳細に説明する。なお、以下の実施例に記載されているいずれの説明図や図面も本発明の説明用に概略的または模式図として描かれており、実際の寸法や形状は特に限定するものではない。また、実施例で用いているシステム構成、ブロック図、寸法、材質、形状、その相対配置および使用例は特に記載がない限り発明の技術的範囲をそれらのみに限定する趣旨のものではない。 BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments of a beam separating optical system and an image processing apparatus or imaging apparatus having the same according to the present invention will be described in detail with reference to the drawings. It should be noted that any explanatory diagrams and drawings described in the following examples are drawn as schematic or schematic diagrams for explaining the present invention, and actual dimensions and shapes are not particularly limited. Moreover, the system configuration, block diagrams, dimensions, materials, shapes, relative arrangements, and usage examples used in the examples are not intended to limit the technical scope of the invention unless otherwise specified.

図1は、本発明による光束分離光学系の実施例1を示す説明図である。光束分離光学系1は、ビデオカメラ装置内に配置され、レンズ2と交換レンズマウント3により種々のレンズが交換可能なように結合されている。レンズ2により撮像された画像光束は、赤外光分離プリズム4へ入射し、反射面5により赤外光成分が反射され赤外光分離プリズム4内の全反射面6により全反射され、出射面7よりプリズム外に出射し、赤外光用撮像素子8へ入射する。赤外光用撮像素子8は、赤外光像を光電変換し、赤外光画像信号として出力する。 FIG. 1 is an explanatory diagram showing Example 1 of a beam separating optical system according to the present invention. A beam separating optical system 1 is arranged in a video camera device, and various lenses are connected by a lens 2 and an interchangeable lens mount 3 so as to be exchangeable. An image light beam picked up by the lens 2 is incident on the infrared light separation prism 4, the infrared light component is reflected by the reflecting surface 5, is totally reflected by the total reflection surface 6 in the infrared light separation prism 4, and is reflected on the exit surface. The light is emitted from the prism 7 and enters the infrared light imaging device 8 . The infrared light imaging element 8 photoelectrically converts the infrared light image and outputs it as an infrared light image signal.

赤外光反射膜5は、赤外光波長700nm以上の長波長を反射し、それ以下の可視光成分を透過させるように波長選択性を有する。反射膜5は、利用目的により波長帯域や反射率を選定する。近赤外光を利用する場合は、700~1000nmの波長帯域を反射させるよう反射膜を構成する。反射膜は多層誘電体または金属薄膜を蒸着コーティングなどで形成するが、無反射コーティング処理または高効率反射防止膜を形成することが望ましい。また、赤外光出射面7と赤外光用撮像素子8との間には、赤外光のみを透過させる可視光カットフィルター9が設けてある。ここでは例示的に近赤外光(NIR)を想定しているが、利用目的によって短波長赤外(SWIR)または紫外光(UV)であっても同様に適用できる。 The infrared light reflecting film 5 has wavelength selectivity so as to reflect long wavelengths of infrared light having a wavelength of 700 nm or more and transmit visible light components having a wavelength of 700 nm or less. The wavelength band and reflectance of the reflective film 5 are selected depending on the purpose of use. When using near-infrared light, the reflective film is configured to reflect a wavelength band of 700 to 1000 nm. The reflective film is formed by depositing a multi-layered dielectric or metal thin film, and it is preferable to form a non-reflective coating or a high-efficiency anti-reflective film. A visible light cut filter 9 that transmits only infrared light is provided between the infrared light exit surface 7 and the infrared light imaging device 8 . Here, near-infrared light (NIR) is assumed as an example, but short-wave infrared light (SWIR) or ultraviolet light (UV) can be similarly applied depending on the purpose of use.

赤外光分離プリズム4を透過した可視光成分は、赤外光分離プリズム4と密着して配置された可視光第一プリズム10へ入射する。入射した可視光成分は、反射面11へ導かれる。ここで可視光第一プリズム10の反射面11による可視光の反射は、プリズム10の硝材による内面反射であり、波長選択性を有する反射材などの蒸着膜やコーティングなどを一切施していない構成とする。また、プリズム硝材の内面反射を利用するため反射防止膜は施していない。当然、この反射面の角度θは、入射可視光光軸xに対して全反射が生じない角度θにより構成する。全反射が生じない角度は、ボロシリケートクラウンガラス(通称BK7)では45°以内であるが、高屈折率の場合はより狭い角度となる。 The visible light component transmitted through the infrared light separating prism 4 enters the first visible light prism 10 arranged in close contact with the infrared light separating prism 4 . The incident visible light component is guided to the reflecting surface 11 . Here, the reflection of the visible light by the reflecting surface 11 of the visible light first prism 10 is internal reflection by the glass material of the prism 10, and the configuration is such that no deposition film or coating such as a reflecting material having wavelength selectivity is applied. do. No anti-reflection film is applied in order to utilize the internal reflection of the prism glass material. Of course, the angle .theta. of the reflecting surface is set to an angle .theta. at which total reflection does not occur with respect to the incident visible light optical axis x. The angle at which total reflection does not occur is within 45° in borosilicate crown glass (commonly known as BK7), but the angle is narrower in the case of a high refractive index.

可視光第一プリズム10の後段には可視光第二プリズム15がエアギャップ(微小間隙)16を介して配置されている。可視光第一プリズム10と第二プリズム15とが密着している場合は、プリズム硝材の屈折率が同じものとなり反射が微小なものとなるためエアギャップを設定する。このエアギャップ16の間隔は、5~30μm程度で良好な結果を得ているが、可視光第一プリズム10の内面反射像と第二プリズム15の外面反射像とにより二重画像が影響しない程度のエアギャップであれば良い。 A second visible light prism 15 is arranged behind the first visible light prism 10 with an air gap (small gap) 16 interposed therebetween. When the visible light first prism 10 and the second prism 15 are in close contact with each other, the refractive index of the prism glass material is the same and the reflection is very small, so an air gap is set. Good results are obtained when the distance of the air gap 16 is about 5 to 30 μm. air gap is sufficient.

可視光第一プリズム10と可視光第二プリズム15との間のエアギャップ16は、空気の屈折率(真空中で1.0)とプリズム硝材の屈折率の違いにより反射率が異なってくる。ボロシリケートクラウンガラス(屈折率1.512)では、約2%程度の表面反射であり、高屈折率ガラス(屈折率1.67以上)では、約4%以上の表面反射となる。そのため可視光用第一プリズム10および第二プリズムの硝材としては、ハイインデクスタイプの高屈折率を有するものが望ましい。また、エアギャップには窒素を充填する様に構成しても良い。窒素ガスを封入することでプリズムガラス表面の酸化を防止することができる。この場合、窒素の屈折率は、1.000297であり、大気の屈折率は、1.000293であり、ほぼ同様の屈折率であるため反射率は空気の場合と同様であるとみなすことができる。 The air gap 16 between the first visible light prism 10 and the second visible light prism 15 has different reflectances due to the difference between the refractive index of air (1.0 in vacuum) and the refractive index of the prism glass material. A borosilicate crown glass (refractive index of 1.512) has a surface reflection of about 2%, and a high refractive index glass (refractive index of 1.67 or more) has a surface reflection of about 4% or more. Therefore, as the glass material of the first prism 10 and the second prism for visible light, it is desirable to use a high-index type glass material having a high refractive index. Also, the air gap may be configured to be filled with nitrogen. By enclosing nitrogen gas, oxidation of the prism glass surface can be prevented. In this case, the refractive index of nitrogen is 1.000297, and the refractive index of air is 1.000293. .

可視光第一プリズム10に入射した可視光成分は、第一プリズム10の反射面11により内面反射した反射成分に加えて、第二プリズム15の入射側の外面17からの外面反射も反射成分として追加される。この可視光反射成分は、第一プリズム10による内面反射および・または第二プリズム15の外面反射のいずれか一方の反射でも良いが、両方の反射成分を得ることがより望ましい。このように蒸着やコーティングによる反射膜を形成することなく可視光第一プリズム10の内面反射および第二プリズム15の外面反射により第一プリズムに入射した可視光成分の約4%以上の反射成分を取得することができる。これら反射成分は、プリズム硝材の屈折率、反射角度θ、反射光の波長などにより変動するが、設計条件により略4~20%の反射成分の取得が期待できる。可視光第一プリズム10の可視光反射成分は、第一プリズムの出射面12より出射し、第一の可視光用撮像素子13へ提供される。撮像素子13では入射した可視光成分の4~20%程度が光電変換され可視光画像、サブカラーC’として出力される。また、可視光出射面12と第一の可視光用撮像素子13との間には、可視光のみを透過させる赤外光カットフィルター14を設けることが望ましいが、この赤外光カットフィルター14は、必須というものではない。 The visible light component incident on the visible light first prism 10 includes not only the reflected component internally reflected by the reflecting surface 11 of the first prism 10, but also the external reflection from the incident side outer surface 17 of the second prism 15 as a reflected component. Added. This visible light reflection component may be either one of the internal reflection of the first prism 10 and/or the external reflection of the second prism 15, but it is more desirable to obtain both reflection components. In this way, without forming a reflective film by vapor deposition or coating, the reflected component of about 4% or more of the visible light component incident on the first prism is reduced by the internal reflection of the visible light first prism 10 and the external reflection of the second prism 15. can be obtained. These reflected components vary depending on the refractive index of the prism glass material, the angle of reflection θ, the wavelength of the reflected light, etc., but depending on the design conditions, it is expected that approximately 4 to 20% of the reflected component will be obtained. The visible light reflected component of the first visible light prism 10 is emitted from the emission surface 12 of the first prism and provided to the first imaging device 13 for visible light. About 4 to 20% of the incident visible light component is photoelectrically converted by the imaging device 13 and output as a visible light image and a sub-color C'. In addition, it is desirable to provide an infrared light cut filter 14 that transmits only visible light between the visible light exit surface 12 and the first visible light imaging device 13. However, the infrared light cut filter 14 is , is not required.

可視光第一プリズム10を透過して可視光第二プリズム15へ入射した残りの可視光成分(残余成分)は、第二プリズム15の出射面18から出射し、第二の可視光用撮像素子19へ入射する。可視光用撮像素子像19では、入射した可視光像を光電変換して可視光画像信号、メインカラーCとして出力する。可視光第一プリズム10の内面反射成分および第二プリズム15の外面反射成分により可視光成分の4~20%が反射され、残余部分が透過するため第二プリズムプリズム15より出射して第二の可視光用撮像素子に入力する可視光成分は入射可視光の80~96%程度が期待でき、多くのの可視光成分が第二の撮像素子19へ入力されメインカラーCとして取得できることとなる。また、可視光出射面18と第二の可視光用撮像素子19との間には、可視光のみを透過させる赤外光カットフィルター20を設けることが望ましい。 The remaining visible light component (residual component) transmitted through the first visible light prism 10 and incident on the second visible light prism 15 is emitted from the exit surface 18 of the second prism 15, and is transferred to the second visible light imaging device. 19. The visible light image sensor image 19 photoelectrically converts the incident visible light image and outputs it as a visible light image signal and a main color C. FIG. 4 to 20% of the visible light component is reflected by the internal reflection component of the first prism 10 and the external reflection component of the second prism 15, and the remaining portion is transmitted. About 80 to 96% of the incident visible light can be expected to be input to the visible light imaging device, and most of the visible light components are input to the second imaging device 19 and can be obtained as the main color C. Further, it is desirable to provide an infrared light cut filter 20 that transmits only visible light between the visible light exit surface 18 and the second imaging device 19 for visible light.

このように光束分離光学系を構成することで、入射した可視光成分の4~20%が第一プリズム10の内面反射および第二プリズムの外面反射により可視光像、サブカラーC’として第一の撮像素子13から出力し、可視光残余成分が第二の撮像素子19からメインカラーCとして得られることとなる。つまり、サブカラーC’画像とメインカラーC画像とは、可視光入力成分が異なるため照度の異なる2つのカラー画像が取得することができる。このような可視光成分の多い(例えば、90%)第二の撮像素子出力をメインカラーC信号とし、第一の撮像素子13から得られた可視光成分の少ない(例えば、10%)出力をサブカラーC’信号として合成し、ダイナミックレンジの拡張を行う。 By constructing the beam separation optical system in this way, 4 to 20% of the incident visible light component is reflected by the internal surface of the first prism 10 and the external surface of the second prism, resulting in a visible light image and a sub-color C′. , and the visible light residual component is obtained as the main color C from the second image pickup device 19 . That is, since the sub-color C' image and the main color C image have different visible light input components, two color images with different illuminances can be obtained. The output of the second imaging device with a large visible light component (eg, 90%) is used as the main color C signal, and the output with a small visible light component (eg, 10%) obtained from the first imaging device 13 is used as the main color C signal. Synthesize as a sub-color C' signal to extend the dynamic range.

次に、上述した光束分離光学系を用いたダイナミックレンジの拡張につき説明する。ここではメインカラー信号成分Cを90%、サブカラー信号成分C’を10%取得したものとして説明する。図3は、メインカラー信号とサブカラー信号のそれぞれの可視光撮像素子の照度に対する出力レベルを示した説明図である。それぞれの可視光撮像素子は同じ特性を有するものとし、その飽和レベルは一例として300%とする。これは白色光のみを入力することもなく通常ビデオ信号の規格化された信号振幅内におさえるためニー処理を施すため、規定レベル(100%レベル)に対して飽和レベルを数倍(300%)に設定した場合を例示している。 Next, the extension of the dynamic range using the beam separating optical system described above will be described. Here, it is assumed that 90% of the main color signal component C and 10% of the sub color signal component C' are obtained. FIG. 3 is an explanatory diagram showing the output levels of the main color signal and the sub color signal with respect to the illuminance of the visible light imaging device. It is assumed that each visible light imaging element has the same characteristics and its saturation level is 300% as an example. In order to perform knee processing to keep the signal amplitude within the standardized signal amplitude of the normal video signal without inputting only white light, the saturation level is increased several times (300%) to the specified level (100% level). is set to .

メインカラーC信号成分の照度に対するセンサーレベルはAの直線で示され、サブカラーC’信号成分の照度に対するセンサーレベルは、Bの直線で示されている。横軸は、照度(lx)を示し、縦軸は、センサーレベルを示している。いずれも上段がメインカラーC信号の数値であり、下段の括弧内数字はサブカラーC’信号を示している。メインカラーC信号成分とサブカラーC’信号線分との比は、この実施例において90%:10%であり、それぞれの撮像素子に入力される照度も90:10である。そのためメインカラーC信号で設定された撮像素子の飽和レベルである300%(約6千ルクス)に達する照度は、サブカラー撮像素子においては、3000%(約6万ルクス)に相当することとなる。 The straight line A represents the sensor level with respect to the illuminance of the main color C signal component, and the straight line B represents the sensor level with respect to the illuminance of the sub-color C' signal component. The horizontal axis indicates the illuminance (lx), and the vertical axis indicates the sensor level. In both cases, the upper part shows the numerical value of the main color C signal, and the numbers in parentheses in the lower part indicate the sub-color C' signal. The ratio of the main color C signal component to the sub color C' signal line segment is 90%:10% in this example, and the illuminance input to each imaging element is also 90:10. Therefore, the illuminance that reaches 300% (approximately 6,000 lux), which is the saturation level of the image sensor set by the main color C signal, corresponds to 3,000% (approximately 60,000 lux) in the sub-color image sensor. .

従って、メインカラー撮像素子の規定レベル(100%)に達するまではメインカラー信号を使用し、それ以上の照度部分についてはサブカラー信号を使用するように合成する。どの照度以上でメインカラー信号をサブカラー信号に合成し、低照度によるカラー画像を使用するかのしきい値は、カメラの利用目的により調整し、設定できるように構成するが、一般的には、取得したセンサー画像の白飛び飽和が生じないようにセンサーの規定100%レベルに設定する。 Therefore, the main color signal is used until the specified level (100%) of the main color image sensor is reached, and the sub color signal is used for the illuminance portion above that. The threshold value for synthesizing the main color signal with the sub-color signal and using the color image with low illuminance above which illuminance can be adjusted and set according to the purpose of use of the camera. , is set to the specified 100% level of the sensor so as not to cause overexposed saturation in the acquired sensor image.

図4は、メインカラー画像とサブカラー画像とを合成し、ダイナミックレンジを拡張する具体的回路構成の一例を示すブロック図である。メインカラーセンサー31およびサブカラーセンサー32は、図1における第二の可視光撮像素子19および第一の可視光撮像素子13にそれぞれ相当している。メインカラーセンサー31およびサブカラーセンサー32は、単板のカラーセンサーで構成されている。それぞれの撮像素子の出力信号は、連続するフィールドや画素毎に違う照度を変えた画像を取得して合成するのでなく、リアルタイムの同一画像を2つ取得しているため、この2つの撮像素子の出力をそのままオーバーレイ(混合)しても撮像素子の飽和部分を補完することも可能である。 FIG. 4 is a block diagram showing an example of a specific circuit configuration for synthesizing a main color image and a sub-color image to expand the dynamic range. The main color sensor 31 and the sub-color sensor 32 correspond to the second visible light imaging element 19 and the first visible light imaging element 13 in FIG. 1, respectively. The main color sensor 31 and the sub color sensor 32 are composed of single-plate color sensors. The output signal of each image pickup device is obtained by acquiring two identical real-time images instead of acquiring and synthesizing images with different illuminance for each pixel or consecutive fields. It is also possible to overlay (mix) the output as it is to complement the saturated portion of the image sensor.

しかし、図4の回路構成では、輝度信号の所定しきい値を超える部分を検知して画素ごとに補完する方式を提案している。メインカラーセンサー31の出力信号とサブカラーセンサー32の出力信号は、信号変換部33で輝度信号成分をとりだす。この信号変換部33では、RGB信号をLAB信号に変換する。出力されたメインカラー信号は、ニー補正部35においてニー補正処理され、サブカラー信号はメインカラー信号に比べ低レベルであるため、増幅部34により増幅され、メインカラー信号とサブカラー信号とが同一レベルとなるように調整される。 However, in the circuit configuration of FIG. 4, a method is proposed in which a portion of the luminance signal exceeding a predetermined threshold value is detected and interpolated for each pixel. A luminance signal component is extracted from the output signal of the main color sensor 31 and the output signal of the sub color sensor 32 by the signal converter 33 . The signal converter 33 converts the RGB signal into a LAB signal. The output main color signal is subjected to knee correction processing in the knee correction section 35, and since the sub color signal is at a lower level than the main color signal, it is amplified by the amplification section 34 so that the main color signal and the sub color signal are the same. level is adjusted.

レベル合わせされたメインカラー信号とサブカラー信号とは、差分信号検知部36へ供給される。この差分検知回路36は、両方のカラー信号の差分を取り出す減算回路で構成されている。この減算回路によりメインカラー信号の明度成分が飽和している場合はサブカラー信号のレベルが高くなりメインカラー画像における飽和が生じていることとなる。この差分検知部36の出力は、ノイズ除去部37を経て合成部38へ供給される。つまり、差分検知部36により出力が生じている部分を検知し、この検知信号をメインカラー信号に対するサブカラー信号合成の制御信号として使用する。この制御信号は、メインカラー信号にサブカラー信号を合成するしきい値であり、制御信号値を調整し設定することで適応する照度範囲を変化させることとなる。 The level-matched main color signal and sub color signal are supplied to the differential signal detector 36 . The difference detection circuit 36 is composed of a subtraction circuit for extracting the difference between both color signals. When the lightness component of the main color signal is saturated by this subtraction circuit, the level of the sub-color signal increases, and saturation occurs in the main color image. The output of the difference detector 36 is supplied to the synthesizer 38 via the noise remover 37 . In other words, the portion where the output is generated by the difference detection section 36 is detected, and this detection signal is used as a control signal for synthesizing the sub-color signal with the main color signal. This control signal is a threshold for synthesizing the sub-color signal with the main color signal, and by adjusting and setting the control signal value, the adaptive illuminance range is changed.

合成部38においては、ノイズ除去部37から供給された制御信号に応じてメインカラー信号の飽和部分にサブカラー信号を合成し、補完する。制御信号と設定されたしきい値とを比較し、メインカラー信号が飽和状態かどうか画素毎に補正選択し、メインカラー信号が飽和している部分に低照度で取得したサブカラー信号を補完する。補完した画像信号は、ガンマ補正回路へ提供されカラー画像信号として処理される。ここでは、ダイナミックレンジの拡張に最も影響する輝度信号の補完を例示として説明したが、色差信号やR、G、Bそれぞれの飽和レベルに対して同様の手段を用いて補完し、ダイナミックレンジを拡張することも可能である。 The synthesizing unit 38 synthesizes the sub-color signal with the saturated portion of the main color signal according to the control signal supplied from the noise removing unit 37 to complement the saturated portion. Comparing the control signal with a set threshold, correcting and selecting for each pixel whether or not the main color signal is saturated, and complementing the sub-color signal acquired at low illuminance in the portion where the main color signal is saturated. . The interpolated image signal is provided to a gamma correction circuit and processed as a color image signal. Here, the interpolation of the luminance signal, which has the greatest effect on the extension of the dynamic range, was explained as an example, but the saturation level of each of the color difference signals and R, G, and B is complemented using the same means to expand the dynamic range. It is also possible to

この様にして取得されたカラー画像信号は、メインカラー撮像素子31が約6000ルクスで飽和状態になるのに対し、サブカラー撮像素子32は、6万ルクス近傍まで飽和状態とならないためメインカラー撮像素子31が取得したカラー画像の飽和部分をサブカラー信号で補完することでダイナミックレンジを大幅に拡張することができる。本発明による光束分離プリズムでは、金属薄膜の蒸着膜やコーティング膜が存在せず、プリズム硝材の反射のみによりサブカラー成分を取得している。つまり、メインカラー成分は分離膜を透過せずメインカラー撮像素子へ入射するため、分離膜の影響を受けることなく色再現性に優れたノイズの少ないカラー画像を取得することが可能となる。 The color image signal obtained in this way is saturated at approximately 6000 lux in the main color image pickup device 31, whereas the sub-color image pickup device 32 does not reach saturation in the vicinity of 60000 lux. Complementing the saturated portion of the color image acquired by the element 31 with the sub-color signal can greatly expand the dynamic range. In the light beam splitting prism according to the present invention, the sub-color component is acquired only by the reflection of the prism glass material without the vapor deposition film or the coating film of the metal thin film. That is, since the main color components do not pass through the separation film and enter the main color imaging device, it is possible to obtain a color image with excellent color reproducibility and little noise without being affected by the separation film.

図2は、図1における光束分離光学系の変形構成例を示す説明図である。図2の光束分離光学系50において図1と同じ部品構成については同じ番号が付与されている。このプリズム構成においては、赤外光分離プリズム4と可視光第一プリズム10との間に汎用のダイクロイック分離プリズムなどにおいては5~15μm程度のエアギャップ21が設けられており、赤外光分離プリズム4を透過した可視光成分は、可視光第一プリズム10の反射面11および・または可視光第二プリズム15の外面17により反射され、可視光第一プリズム10の反射面22により全反射するように構成されている。反射面22により全反射した可視光反射成分は、第一プリズム10より出射し、第一の可視光撮像素子13によりサブカラーC’成分が出力される。ここで、重要な点は、図1のプリズム構成と同様、第一プリズム10の反射面11および第二プリズムの外面17のいずれにも蒸着膜やコーティング膜が施されておらず、多くの可視光成分が透過光としてメインカラーC成分として取得できることである。 FIG. 2 is an explanatory diagram showing a modified configuration example of the beam separating optical system in FIG. In the beam splitting optical system 50 of FIG. 2, the same numbers are assigned to the same component configurations as in FIG. In this prism configuration, an air gap 21 of about 5 to 15 μm is provided between the infrared light separating prism 4 and the visible light first prism 10 in a general-purpose dichroic separating prism or the like. 4 is reflected by the reflecting surface 11 of the first visible light prism 10 and/or the outer surface 17 of the second visible light prism 15, and is totally reflected by the reflecting surface 22 of the first visible light prism 10. is configured to The reflected visible light component totally reflected by the reflecting surface 22 is emitted from the first prism 10, and the sub-color C' component is output from the first visible light imaging device 13. FIG. Here, the important point is that, like the prism configuration in FIG. The light component can be acquired as the main color C component as transmitted light.

図1の光束分離光学系1と図2の光束分離光学系50との主たる相違点は、可視光第一プリズム10の反射面11および・または第二プリズムの外面により反射された可視光(カラー)反射成分が第一プリズムの反射面22により全反射されてサブカラーC’成分が取得される点である。この様にしてプリズム内で反射されたサブカラーC’成分を再度可視光第一プリズム内で全反射して取得することで、表像を取得することができる。図1のプリズム構成では、サブカラーC’が反転像(裏像)として取得されるため、メインカラー像に合致させるためには、一度は画像処理において反転し、表像を取得する必要があるが、図2のプリズム構成においては、サブカラーC’の反転画像処理なしにメインカラーC画像と合成することができる。また、この様なプリズム構成とするには、可視光第一プリズム10と第二プリズム15との反射面における反射角度を図1のθより小さい角度θ’とする必要がある。つまり、反射角度θ’は、光軸xに対し直角に近づくため、反射量は減少するものの、P/S偏光特性が改善される。そのため、偏光特性の影響を回避したい画像の取得などに適している。 The main difference between the beam separation optical system 1 in FIG. 1 and the beam separation optical system 50 in FIG. 2 is that the visible light (color ) The reflected component is totally reflected by the reflecting surface 22 of the first prism to obtain the sub-color C' component. A surface image can be obtained by acquiring the sub-color C' component reflected in the prism by total reflection again in the visible light first prism. In the prism configuration of FIG. 1, the sub-color C′ is acquired as an inverted image (back image), so in order to match it with the main color image, it is necessary to invert it once in image processing and acquire a front image. However, in the prism configuration of FIG. 2, it can be combined with the main color C image without inverting image processing of the sub color C'. Also, in order to have such a prism configuration, it is necessary to set the reflection angle of the reflecting surfaces of the first visible light prism 10 and the second visible light prism 15 to an angle θ' smaller than θ in FIG. That is, since the angle of reflection θ' approaches the right angle with respect to the optical axis x, the P/S polarization characteristics are improved although the amount of reflection is reduced. Therefore, it is suitable for acquisition of images in which the influence of polarization characteristics should be avoided.

次に、図1および図2の赤外光分離プリズム1により取得した赤外光画像処理について説明する。赤外光画像は、監視カメラ、車載カメラ、医療用内視鏡カメラ、皮膚疾患観察カメラなどの用途に利用されて暗視画像、霧中画像、皮膚下画像、水面下撮影などの画像を取得する。そのため、画像処理としては、可視光(カラー)画像と合成したり、比較したり、加工して利用目的に沿った画像を取得している。このため、前述の構成により取得したダイナミックレンジを拡張したカラー画像に追加して赤外光画像を取得することで、より多様で、視認性の高い画像を得ることが可能となる。 Next, infrared light image processing obtained by the infrared light separation prism 1 of FIGS. 1 and 2 will be described. Infrared light images are used for surveillance cameras, in-vehicle cameras, medical endoscope cameras, skin disease observation cameras, etc., and acquire images such as night vision images, images in fog, images under the skin, and images taken under water. . Therefore, as image processing, an image is acquired in accordance with the purpose of use by synthesizing, comparing, or processing with a visible light (color) image. Therefore, by acquiring an infrared light image in addition to the dynamic range-expanded color image acquired by the above-described configuration, it is possible to obtain a more diverse and highly visible image.

赤外光は利用目的により取得する波長帯域が異なるが、主として近赤外光(NIR)および短波長赤外光(SWIR)と称される0.7~2.5μm帯域の波長が使用される。この波長帯域の画像は、白黒画像であるが画像コントラストは比較的強く、可視光より長波長帯にあるため霧や煙の乱反射の影響を受けにくく、また、赤外光の特徴として皮下組織の撮影が可能であるため、本発明の応用として、昼夜監視や全天候型の監視カメラ、内視鏡やダーモスカメラなどへの利用などが想定される。 Infrared light has different wavelength bands depending on the purpose of use, but wavelengths in the 0.7 to 2.5 μm band called near infrared light (NIR) and short wavelength infrared light (SWIR) are mainly used. . The image in this wavelength band is a black and white image, but the image contrast is relatively strong, and since it is in a longer wavelength band than visible light, it is less susceptible to the diffuse reflection of fog and smoke. Since photography is possible, the present invention is expected to be applied to day and night surveillance, all-weather surveillance cameras, endoscopes, dermos cameras, and the like.

図5は、前述のダイナミックレンジ拡張に加えて赤外光画像を利用した画像処理のブロック回路の一例を示す説明図である。図4と同じ部品構成部分には同様の番号を付与している。メインカラー撮像素子31およびサブカラー撮像素子32のカラー成分の異なる2つの画像合成によりメインカラーC画像の飽和部分を低照度成分のサブカラーC’画像により補完するダイナミックレンジ拡張回路30によって得られたダイナミックレンジを拡張したカラー信号に赤外光画像信号を合成している。 FIG. 5 is an explanatory diagram showing an example of a block circuit for image processing using an infrared light image in addition to the dynamic range expansion described above. The same numbers are assigned to the same component parts as those in FIG. The dynamic range expansion circuit 30 supplements the saturated portion of the main color C image with the sub-color C' image of the low illuminance component by synthesizing two images with different color components from the main color imaging device 31 and the sub-color imaging device 32. An infrared light image signal is combined with a color signal with an extended dynamic range.

赤外光画像(特に、NIR画像)は、コントラストは比較的あるものの白黒画像であり、赤外光画像に対し輪郭補正を行いカラー画像に合成することで、監視カメラや内視鏡などの観察画像に必要な暗視画像や皮下静脈などの状態をより視認性の高い画像として捉えることができる。赤外光撮像素子41は、図1における赤外光用撮像素子8と同様のセンサーであり、赤外光画像信号を生成する。赤外光画像信号は、ノイズ抑制処理回路42に供給される。ここでは、輪郭補正により画像のエッジ部分を強調することによりノイズ成分も強調されるのを防ぐためローパスフィルターやメディアンフィルターなどによりノイズ抑制を行う。このノイズ抑制回路は、暗部のノイズがより視覚的に目立つためハイパス・フィルターなどでエッジ信号を抽出し、コアリング処理により一定レベル以下の暗部信号を抑制し、ノイズ抑制を行う動的フィルターによるノイズ除去でも可能である。 Infrared light images (especially NIR images) are black and white images, although they have relatively high contrast. Night vision images necessary for images and conditions such as subcutaneous veins can be captured as images with higher visibility. The infrared light imaging device 41 is a sensor similar to the infrared light imaging device 8 in FIG. 1, and generates an infrared light image signal. The infrared light image signal is supplied to the noise suppression processing circuit 42 . Here, noise suppression is performed using a low-pass filter, median filter, or the like in order to prevent noise components from being enhanced by enhancing the edge portion of the image by contour correction. This noise suppression circuit uses a high-pass filter to extract edge signals, suppressing dark signals below a certain level through coring processing, and suppressing noise with a dynamic filter that suppresses noise. Removal is also possible.

ノイズ抑制回路42によりノイズ処理された信号は、輪郭補正回路43へ供給される。輪郭補正回路43は、種々提案されている既知の微分回路などによる画像のエッジ立ち上げなどの輪郭補正を行う。輪郭補正された赤外光画像は、演算増幅部44においてレベル合わせを行った後、ダイナミックレンジ拡張回路30のカラー信号に合成部45において合成され出力信号を生成する。このようにダイナミックレンジが拡張されたカラー画像信号に輪郭補正された赤外光画像を合成することで、上述のような赤外光画像撮像にダイナミックレンジを拡張した種々の撮影環境に適した画像を取得することが可能となり、応用範囲が格段に広がる。 A signal subjected to noise processing by the noise suppression circuit 42 is supplied to the contour correction circuit 43 . The contour correction circuit 43 performs contour correction such as image edge raising by various proposed known differentiating circuits. The contour-corrected infrared light image is level-matched in the operational amplifier 44, and then combined with the color signal of the dynamic range expansion circuit 30 in the synthesizing unit 45 to generate an output signal. By synthesizing the contour-corrected infrared light image with the color image signal whose dynamic range has been expanded in this way, an image suitable for various photographing environments with an expanded dynamic range for infrared light imaging as described above can be obtained. can be obtained, and the range of applications is greatly expanded.

図6は、赤外光分離プリズムを備えた実施例1による構成を用いて撮影した画像の比較効果を示す説明図である。この図ではあえて説明用に模式図として描いてある。図6(A)では、逆光環境で霧や雲水滴の中にある物体が鳥、飛行機、ドローンなど不明瞭であるが、本発明による高ダイナミックレンジ処理および近赤外光画像合成により図6(B)に示すようにより逆光環境であっても視認性の高い物体認識が可能となっている。このような光束分離光学系を用いることで、夜間撮像などで逆光による白飛び部分の画像再現や赤外光による暗視画像の視認性を向上させた画像、近赤外光による悪天候下や霧および雲を透過した物体検知画像の視認性を向上させた画像、近赤外光による皮下組織撮像における血管(静脈)状態を示す画像を取得することができる。 FIG. 6 is an explanatory diagram showing the comparative effect of images shot using the configuration according to Example 1 including the infrared light separating prism. This figure is intentionally drawn as a schematic diagram for explanation. In FIG. 6 (A), the objects in the fog and clouds and water droplets in the backlight environment are unclear such as birds, airplanes, and drones. As shown in B), object recognition with high visibility is possible even in a backlight environment. By using this kind of beam separation optical system, it is possible to reproduce images that are overexposed due to backlight in nighttime imaging, improve the visibility of night vision images using infrared light, and use near infrared light in bad weather and fog. It is also possible to acquire an image with improved visibility of an object detection image that has passed through clouds, and an image showing the blood vessel (vein) state in subcutaneous tissue imaging using near-infrared light.

図7および図8は、本発明による実施例2の構成例を示す説明図であり、図7では,可視光(カラー)画像のダイナミックレンジのみを拡張させて取得する光束分離光学系60の構成を示している。図7および図8において図1と同じ機能、部材については、同じ番号を付与している。図1との相違は、赤外光分離プリズムを省略し、メインカラー画像Cおよびサブカラー画像C’のみの可視光成分の異なる可視光像を取得し、ダイナミックレンジ拡張用のカラー画像を取得している点である。 7 and 8 are explanatory diagrams showing a configuration example of a second embodiment according to the present invention. In FIG. 7, the configuration of a beam separating optical system 60 for expanding only the dynamic range of a visible light (color) image and acquiring it is shown. is shown. 7 and 8, the same numbers are assigned to the same functions and members as in FIG. The difference from FIG. 1 is that the infrared light separating prism is omitted, visible light images with different visible light components are acquired only for the main color image C and the sub-color image C′, and a color image for dynamic range extension is acquired. The point is that

カラー画像のダイナミックレンジを拡張する構成については、実施例1と同様である。撮像レンズ2から入射した画像光束は、第一のプリズム61へ入射し、第一プリズム61の反射面11により内面反射し、第一の可視光撮像素子13に入射する。第一プリズム61の反射面11には波長選択性を有する金属薄膜やコーティングは一切施しておらず、プリズム硝材の内面反射により反射画像(サブカラー画像C’)を取得する。第一プリズム10の後段には第二プリズム15が配設されている。 The configuration for expanding the dynamic range of color images is the same as in the first embodiment. The image light flux incident from the imaging lens 2 enters the first prism 61 , is internally reflected by the reflecting surface 11 of the first prism 61 , and enters the first visible light imaging element 13 . The reflecting surface 11 of the first prism 61 is not provided with any metal thin film or coating having wavelength selectivity, and a reflected image (sub-color image C') is acquired by internal reflection of the prism glass material. A second prism 15 is arranged behind the first prism 10 .

第一プリズム61と第二プリズム15との間にはエアギャップが設けられている。第二プリズム15の外面(入射面)17においても入射可視光の反射が生じ、この反射画像も第一プリズム61の撮像素子13へ入射し、反射画像(サブカラー画像C’)を形成する。撮像素子13では反射した可視光像を光電変換し、サブカラー画像C’を出力する。第一プリズム61を透過した可視光成分は出射面18より出射し、第二の可視光撮像素子19へ入射する。撮像素子19では取得した可視光像を光電変換し、メインカラー画像Cを出力する。 An air gap is provided between the first prism 61 and the second prism 15 . Incident visible light is also reflected on the outer surface (incidence surface) 17 of the second prism 15, and this reflected image also enters the imaging device 13 of the first prism 61 to form a reflected image (sub-color image C'). The imaging device 13 photoelectrically converts the reflected visible light image and outputs a sub-color image C'. The visible light component transmitted through the first prism 61 is emitted from the exit surface 18 and enters the second visible light imaging device 19 . The image sensor 19 photoelectrically converts the acquired visible light image and outputs a main color image C. FIG.

それぞれのプリズム硝材は、ハイインデックスタイプを使用し、エアギャップは、5~30μm程度に設定することが望ましい。また、このエアギャップに実施例1と同様、窒素ガスを充填することでプリズムガラス表面の酸化を防止するように構成することもできる。このような構成により、可視光反射画像(サブカラー画像C’)は、光束分離光学系60に入射した全可視光成分の約4~20%であり、透過した可視光成分(メインカラー成分)は、約80~96%を取得することができる。取得したメインカラー画像とサブカラー画像は、入射光成分の相違により2つの照度の異なる低照度画像と高照度画像によりメインカラー画像の飽和が生じる部分をサブカラー画像により補完することでダイナミックレンジを拡大したカラー画像を取得することが可能となる。また、取得したメインカラー画像は、分離膜に金属膜やコーティング膜を有していないためにこれら分離膜の影響を受けることなく色再現性に優れたカラー画像を取得することができる。 It is desirable to use a high-index type prism glass material and set the air gap to about 5 to 30 μm. Further, as in the first embodiment, the air gap can be filled with nitrogen gas to prevent oxidation of the prism glass surface. With such a configuration, the reflected visible light image (sub-color image C′) is about 4 to 20% of the total visible light component incident on the beam separation optical system 60, and the transmitted visible light component (main color component) can be obtained about 80-96%. The dynamic range of the acquired main color image and sub-color image is expanded by supplementing the saturated portion of the main color image with the sub-color image due to the difference in the incident light component, which is caused by the low-illumination image and the high-illuminance image with different illuminance. Enlarged color images can be obtained. In addition, the obtained main color image does not have a metal film or a coating film in the separation film, so a color image excellent in color reproducibility can be obtained without being affected by the separation film.

実施例1においては、レンズ2からの光束入射側に赤外光分離プリズム4を配置し、赤外光画像取得とダイナミックレンジを拡張したカラー画像取得とを取得することで、利用適応バリエーションを拡大しているが、実施例2においては、サブカラー画像とメインカラー画像を取得するプリズム構成のみであるため、実施例1の赤外光分離プリズムを必要としない可視光(カラー)画像のダイナミックレンジを拡張する画像処理装置に適用することができる。 In Embodiment 1, the infrared light separation prism 4 is arranged on the light flux incident side from the lens 2, and the infrared light image acquisition and the color image acquisition with the extended dynamic range are acquired, thereby expanding the application variation. However, in Example 2, since it is only a prism configuration for acquiring a sub-color image and a main color image, the dynamic range of visible light (color) images that does not require the infrared light separation prism of Example 1 can be applied to an image processing apparatus that extends the

図8では、2つの異なる可視光成分であるメインカラー画像Cおよびサブカラー画像C’を取得する図7の変形タイプ、光束分離光学系70である。図8の第一プリズム62では、入射光束を反射面11で反射し、反射された光束をさらに反射面63の内面で全面反射し、プリズム外へ出射し第一の撮像素子13においてサブカラー画像C’を取得している。サブカラー画像C’は、反射面63で全反射した画像を取得しているので、透過光をそのまま取得したメインカラー画像Cとは、同じ表像の関係になっている。したがって、画像合成において、図7のプリズム構成では、取得した両方の画像の方向を一致させる必要があるが、図8のプリズム構成では画像反転させることなく、そのままメインカラー成分Cとサブカラー成分C’とを合成することができる。 FIG. 8 shows a beam separation optical system 70 of a modified type of FIG. 7 that acquires two different visible light components, a main color image C and a sub-color image C'. In the first prism 62 of FIG. 8, the incident light beam is reflected by the reflecting surface 11, the reflected light beam is further reflected by the inner surface of the reflecting surface 63, and is emitted out of the prism. C' is obtained. Since the sub-color image C' is obtained by obtaining an image totally reflected by the reflecting surface 63, it has the same surface relationship as the main color image C obtained by obtaining the transmitted light as it is. Therefore, in image synthesis, with the prism configuration of FIG. 7, it is necessary to match the directions of both acquired images, but with the prism configuration of FIG. ' and can be combined.

本発明においては、ダイナミックレンジを拡張させるための低照度カラー画像と高照度カラー画像とを分解プリズムや反射ミラーなどの蒸着膜やコーティング膜なしにメインカラー成分を90%程度取得し、サブカラー成分はプリズムの内面反射または外面反射成分を利用して10%程度取得している。そのため、メインカラー画像の光量が十分確保でき、感度の高い色再現性に優れたダイナミックレンジを拡張したカラー画像を取得することが可能となる。 In the present invention, a low-illuminance color image and a high-illuminance color image for expanding the dynamic range are separated, and about 90% of the main color component is obtained without deposition films or coating films such as prisms and reflecting mirrors, and sub-color components are obtained. obtains about 10% by utilizing the internal or external reflection component of the prism. Therefore, a sufficient amount of light can be secured for the main color image, and a color image with high sensitivity, excellent color reproducibility, and an expanded dynamic range can be obtained.

本発明による光束分離光学系は、蒸着膜やコーティング膜などの分離膜を無くすことでより高感度の色再現性や視認性にすぐれたダイナミックレンジが拡張された可視光画像を取得できる光束分離光学系が提供できるため、監視カメラ、観察カメラ、車載カメラ、気象カメラ、航空機カメラ、内視鏡カメラなど利用範囲が多伎にわたって可能となり、業務用、民生用、工業用、軍事用など多岐にわたる産業上の利用可能性が広がる。 The beam separation optical system according to the present invention is capable of obtaining a visible light image with high sensitivity, color reproducibility, excellent visibility, and an extended dynamic range by eliminating separation films such as vapor deposition films and coating films. Since the system can be provided, it can be used in a wide range of applications such as surveillance cameras, observation cameras, in-vehicle cameras, weather cameras, aircraft cameras, and endoscope cameras. expands the availability of

1 光束分離光学系
2 撮像レンズ
3 レンズマウント
4 赤外光分離プリズム
5 赤外光反射膜
6 全反射面
7 出射面
8 赤外光用撮像素子
9 可視光カットフィルター
10 可視光第一プリズム
13 第一の可視光用撮像素子
14 赤外光カットフィルター
15 可視光第二プリズム
19 第二の可視光用撮像素子
20 赤外光カットフィルター
30 ダイナミックレンジ拡張回路
REFERENCE SIGNS LIST 1 beam separation optical system 2 imaging lens 3 lens mount 4 infrared light separation prism 5 infrared light reflection film 6 total reflection surface 7 exit surface 8 infrared light imaging element 9 visible light cut filter 10 visible light first prism 13 th One visible light image sensor 14 Infrared light cut filter 15 Second visible light prism 19 Second visible light image sensor 20 Infrared light cut filter 30 Dynamic range expansion circuit

Claims (8)

入射可視光の一部をプリズム硝材の内面反射により反射光成分として反射させ、残余部分を透過させる第一プリズムと、
前記第一プリズムとエアギャップを介して配置された第二プリズムであって、前記第一プリズムからの入射可視光の一部をプリズム硝材の外面反射により反射成分として反射させ、可視光残余部分を透過させて、出射させる第二プリズムと、
前記第一プリズムの内面反射および・または第二プリズムの外面反射により反射された入射可視光の反射光成分を光電変換する第一の可視光用撮像素子と、
前記第二プリズムから出射された可視光の残余成分を光電変換する第二の可視光用撮像素子とを含むことを特徴とする光束分離光学系。
a first prism that reflects part of the incident visible light as a reflected light component by internal reflection of the prism glass material and transmits the remaining part;
A second prism disposed with an air gap between the first prism and the first prism, wherein a part of the incident visible light from the first prism is reflected as a reflected component by external reflection of the prism glass material, and the remaining part of the visible light is a second prism that transmits and emits;
a first imaging device for visible light that photoelectrically converts a reflected light component of the incident visible light reflected by the internal reflection of the first prism and/or the external reflection of the second prism;
and a second imaging device for visible light that photoelectrically converts the residual component of the visible light emitted from the second prism.
前記エアギャップは、5ないし30μmの範囲で形成され、エアギャップ内に窒素ガスが充填されていることを特徴とする請求項1記載の光束分離光学系。 2. A beam separating optical system according to claim 1, wherein said air gap is formed in a range of 5 to 30 [mu]m, and is filled with nitrogen gas. 前記第一プリズムおよび前記第二プリズムは、高屈折率硝材で構成されていることを特徴とする請求項1記載の光束分離光学系。 2. The beam separating optical system according to claim 1, wherein said first prism and said second prism are made of a high refractive index glass material. 前記第一の可視光用撮像素子に入射する反射光成分は、入射光成分の4~20%であり、前記第二の可視光用撮像素子に入射する透過光成分は、前記反射光成分の残余成分であることを特徴とする請求項3記載の光束分離光学系。 The reflected light component incident on the first visible light imaging device is 4 to 20% of the incident light component, and the transmitted light component incident on the second visible light imaging device is the reflected light component. 4. The beam separating optical system according to claim 3, wherein the remaining component is a residual component. 前記第一の可視光用撮像素子の画像出力は、前記第二の可視光用撮像素子の画像出力の飽和部分を補完するように合成されることを特徴とする請求項1ないし請求項4記載の光束分離光学系。 5. The image output of said first imaging device for visible light is synthesized so as to complement the saturation portion of the image output of said second imaging device for visible light. beam separation optical system. 前記第一プリズムの入射側であって第一プリズムに密着またはエアギャップを介して配置され、前記撮像レンズからの入射光の赤外光成分を反射し、可視光成分を透過させる分離プリズムと、
前記赤外光成分を光電変換する赤外光用撮像素子と、
を追加的に備えていることを特徴とする請求項1記載の光束分離光学系。
a separation prism arranged on the incident side of the first prism in close contact with the first prism or with an air gap interposed therebetween, for reflecting the infrared light component of the incident light from the imaging lens and transmitting the visible light component;
an infrared light imaging device that photoelectrically converts the infrared light component;
2. The beam separating optical system according to claim 1, further comprising:
前記赤外光用撮像素子の画像出力は、前記第二の可視光用撮像素子の画像出力に補完合成されることを特徴とする請求項6記載の光束分離光学系。 7. The beam separating optical system according to claim 6, wherein the image output of said infrared light imaging device is complementary combined with the image output of said second visible light imaging device. 前記請求項1ないし請求項7に記載する光束分離光学系のいずれかを備えた画像処理装置または撮像装置。 8. An image processing apparatus or imaging apparatus comprising any one of the beam separating optical systems according to claim 1.
JP2021109623A 2021-05-21 2021-05-21 Light flux separation optical system and image processing apparatus Pending JP2022179259A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021109623A JP2022179259A (en) 2021-05-21 2021-05-21 Light flux separation optical system and image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021109623A JP2022179259A (en) 2021-05-21 2021-05-21 Light flux separation optical system and image processing apparatus

Publications (1)

Publication Number Publication Date
JP2022179259A true JP2022179259A (en) 2022-12-02

Family

ID=84239028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021109623A Pending JP2022179259A (en) 2021-05-21 2021-05-21 Light flux separation optical system and image processing apparatus

Country Status (1)

Country Link
JP (1) JP2022179259A (en)

Similar Documents

Publication Publication Date Title
US9615030B2 (en) Luminance source selection in a multi-lens camera
US10136076B2 (en) Imaging device, imaging system, and imaging method
JP4386096B2 (en) Image input processing apparatus and method
KR20110125172A (en) Image processing apparatus, image processing method, and program
US11675174B2 (en) Single optic for low light and high light level imaging
JP5259381B2 (en) Imaging apparatus and imaging method
AU2010221241A1 (en) Temporally aligned exposure bracketing for high dynamic range imaging
CN110365878A (en) A kind of photographic device and method
CN113711584A (en) Camera device
JP2018023077A (en) Video camera imaging device
CN110574368B (en) Solid-state imaging device, imaging system, and object recognition system
JP2022179259A (en) Light flux separation optical system and image processing apparatus
JP4530149B2 (en) High dynamic range camera system
JP2023086059A (en) Beam separation optical system and imaging device
WO2023132222A1 (en) Imaging device, and electronic apparatus
JP5920144B2 (en) Imaging apparatus and imaging method
JP2012015834A (en) Imaging device
JP4674424B2 (en) Imaging system
JP2002077897A (en) Object extraction type tv camera
JP2010098586A (en) Camera system with image processing function
JP2017135493A (en) Imaging apparatus for outdoor monitoring
Zhang Architecture of triple sensitive color digital sensors with the integration of image fusion techniques
JP2011176617A (en) Imaging apparatus and imaging method