JP6277695B2 - Imaging device, adjustment device, and adjustment method - Google Patents

Imaging device, adjustment device, and adjustment method Download PDF

Info

Publication number
JP6277695B2
JP6277695B2 JP2013250577A JP2013250577A JP6277695B2 JP 6277695 B2 JP6277695 B2 JP 6277695B2 JP 2013250577 A JP2013250577 A JP 2013250577A JP 2013250577 A JP2013250577 A JP 2013250577A JP 6277695 B2 JP6277695 B2 JP 6277695B2
Authority
JP
Japan
Prior art keywords
filter
light
unit
receiving element
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013250577A
Other languages
Japanese (ja)
Other versions
JP2015109523A (en
Inventor
祐治 山中
祐治 山中
憲介 増田
憲介 増田
丸山 剛
剛 丸山
祥 永井
祥 永井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2013250577A priority Critical patent/JP6277695B2/en
Publication of JP2015109523A publication Critical patent/JP2015109523A/en
Application granted granted Critical
Publication of JP6277695B2 publication Critical patent/JP6277695B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Optical Filters (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、被写体の色を検出する機能を持つ撮像装置、撮像装置の調整を行う調整装置および調整方法に関する。   The present invention relates to an imaging device having a function of detecting the color of a subject, an adjustment device for adjusting the imaging device, and an adjustment method.

従来、被写体からの光を、異なる波長特性を持つ複数の光に空間的に分離して受光し、分離された光に対応する複数の領域を含む画像を出力する撮像装置が知られている(例えば、特許文献1参照)。特許文献1に記載の撮像装置は、プレノプティックカメラの構成において、マイクロレンズアレイの前段に、各々が異なる波長選択性を持つ複数のフィルタ領域を有するフィルタ部を配置している。そして、フィルタ部およびマイクロレンズアレイを順次透過した光を受光素子アレイで受光して、マイクロレンズアレイを構成する各マイクロレンズに対応する部分画像(以下、マクロピクセルという。)が整列したライトフィールド画像を出力する。   2. Description of the Related Art Conventionally, there is known an imaging device that receives light from a subject spatially separated into a plurality of lights having different wavelength characteristics, and outputs an image including a plurality of regions corresponding to the separated lights ( For example, see Patent Document 1). In the imaging apparatus described in Patent Document 1, in the configuration of the plenoptic camera, a filter unit having a plurality of filter regions each having a different wavelength selectivity is arranged in front of the microlens array. A light field image in which partial light images (hereinafter referred to as macropixels) corresponding to each microlens constituting the microlens array are arranged by receiving light sequentially transmitted through the filter unit and the microlens array by the light receiving element array. Is output.

ライトフィールド画像内の各マクロピクセルは、それぞれ、フィルタ部の複数のフィルタ領域に対応する複数の画像領域を持つ。これらのマクロピクセルから、同じフィルタ領域に対応する画像領域の出力値をそれぞれ取り出して再配置することにより、各フィルタ領域を透過した光の強度に応じた複数の画像を生成することができる。これら複数の画像は、例えば、被写体の色を検出する用途などで利用することができる。   Each macro pixel in the light field image has a plurality of image areas corresponding to the plurality of filter areas of the filter unit. By extracting and rearranging the output values of the image areas corresponding to the same filter area from these macro pixels, it is possible to generate a plurality of images according to the intensity of light transmitted through each filter area. The plurality of images can be used, for example, for detecting the color of the subject.

しかし、特許文献1に記載の撮像装置では、ライトフィールド画像内の各マクロピクセルにおいて、どの位置がどのフィルタ領域に対応しているのかを正確に特定することが困難であり、例えば、被写体の色の検出などに支障をきたす懸念がある。   However, in the imaging device described in Patent Document 1, it is difficult to accurately specify which position corresponds to which filter region in each macro pixel in the light field image. There is a concern that it may interfere with the detection of the problem.

本発明は、上記に鑑みてなされたものであって、フィルタ部の各フィルタ領域に対応する画像内の位置を正確に特定することができる撮像装置、調整装置および調整方法を提供することを目的とする。   The present invention has been made in view of the above, and an object of the present invention is to provide an imaging device, an adjustment device, and an adjustment method that can accurately specify a position in an image corresponding to each filter region of a filter unit. And

上述した課題を解決し、目的を達成するために、本発明に係る撮像装置は、各々が異なる波長選択性を持つ複数のフィルタ領域を有するフィルタ部と、前記フィルタ部を透過した光を受光して画像を出力する受光素子アレイと、前記フィルタ部の複数のフィルタ領域ごとに、各フィルタ領域を透過した光を受光する前記受光素子アレイ上の位置を示す位置情報を記憶する記憶部と、前記位置情報に基づいて、被写体からの光が前記フィルタ部に入射した際に前記受光素子アレイが出力する画像から、前記フィルタ部の各フィルタ領域を透過した光に対応する画像領域を検出する領域検出部と、検出された前記画像領域の出力値に基づいて、前記被写体の色を検出する色検出部と、を備え、前記フィルタ部の複数のフィルタ領域のうちの一つを対象領域としたときに、前記対象領域に対応する前記位置情報は、前記対象領域の波長選択性に対応する波長特性を持つ検査光を前記フィルタ部に入射させた際に前記受光素子アレイが出力する画像に対して二値化処理を行い、得られた二値化画像を用いて特定される前記受光素子アレイ上の位置を示す情報であることを特徴とする。   In order to solve the above-described problems and achieve the object, an imaging apparatus according to the present invention receives a filter unit having a plurality of filter regions each having a different wavelength selectivity, and light transmitted through the filter unit. A light receiving element array that outputs an image, a storage unit that stores position information indicating a position on the light receiving element array that receives light transmitted through each filter region, for each of a plurality of filter regions of the filter unit; Area detection for detecting an image area corresponding to light transmitted through each filter area of the filter section from an image output from the light receiving element array when light from a subject enters the filter section based on position information And a color detection unit that detects the color of the subject based on the detected output value of the image region, and includes one of the plurality of filter regions of the filter unit. The position information corresponding to the target region is output by the light receiving element array when inspection light having a wavelength characteristic corresponding to the wavelength selectivity of the target region is incident on the filter unit. It is the information which shows the position on the said light receiving element array specified using the binarized image obtained by binarizing with respect to the image to do.

本発明によれば、フィルタ部の各フィルタ領域に対応する画像内の位置を正確に特定することができるという効果を奏する。   According to the present invention, it is possible to accurately specify the position in the image corresponding to each filter region of the filter unit.

図1は、実施形態の撮像装置における光学系の概念図である。FIG. 1 is a conceptual diagram of an optical system in the imaging apparatus of the embodiment. 図2は、フィルタ部の幾何学的設計例を示す図である。FIG. 2 is a diagram illustrating a geometric design example of the filter unit. 図3は、フィルタ部の分光透過率を示す図である。FIG. 3 is a diagram illustrating the spectral transmittance of the filter unit. 図4は、マイクロレンズアレイを光軸に沿った方向から見た平面図である。FIG. 4 is a plan view of the microlens array as seen from the direction along the optical axis. 図5は、撮像装置により撮像されたライトフィールド画像を示す図である。FIG. 5 is a diagram illustrating a light field image captured by the imaging apparatus. 図6は、マクロピクセルを拡大して示す図である。FIG. 6 is an enlarged view of a macro pixel. 図7は、第1実施形態の撮像装置の具体的な構成例を示す図である。FIG. 7 is a diagram illustrating a specific configuration example of the imaging apparatus according to the first embodiment. 図8は、フィルタ部の3つのフィルタ領域それぞれの分光透過率の差分と、その最大値とを示す図である。FIG. 8 is a diagram illustrating the difference in spectral transmittance between the three filter regions of the filter unit and the maximum value thereof. 図9は、バンドパスフィルタの分光透過率を示す図である。FIG. 9 is a diagram showing the spectral transmittance of the bandpass filter. 図10は、検査光をフィルタ部に入射させた際に受光素子アレイが出力するライトフィールド画像に含まれるマクロピクセルを拡大して示す図である。FIG. 10 is an enlarged view of macro pixels included in the light field image output from the light receiving element array when the inspection light is incident on the filter unit. 図11は、第2実施形態の撮像装置の具体的な構成例を示す図である。FIG. 11 is a diagram illustrating a specific configuration example of the imaging apparatus according to the second embodiment. 図12は、撮像装置に対する調整を行う際の調整装置の処理手順を示すフローチャートである。FIG. 12 is a flowchart illustrating a processing procedure of the adjusting device when adjusting the imaging device.

以下に添付図面を参照して、この発明に係る撮像装置、調整装置および調整方法の実施形態を詳細に説明する。なお、以下で説明する実施形態は、プレノプティックカメラの構成を有する撮像装置に対して本発明を適用した例であるが、適用可能な撮像装置はこれに限らない。本発明は、被写体からの光を、異なる波長特性を持つ複数の光に空間的に分離して受光し、分離された光に対応する複数の領域を含む画像を出力する撮像装置に対して広く適用可能である。   Exemplary embodiments of an imaging device, an adjustment device, and an adjustment method according to the present invention will be described below in detail with reference to the accompanying drawings. In addition, although embodiment described below is an example which applied this invention with respect to the imaging device which has the structure of a plenoptic camera, the imaging device which can be applied is not restricted to this. The present invention is widely applied to an imaging device that receives light from a subject spatially separated into a plurality of lights having different wavelength characteristics and outputs an image including a plurality of regions corresponding to the separated lights. Applicable.

<第1実施形態>
図1は、本実施形態の撮像装置における光学系の概念図である。図1では、説明を分かり易くするために、撮像レンズとして機能するメインレンズ1を単レンズで示し、メインレンズ1の絞り位置を単レンズの中心としている。
<First Embodiment>
FIG. 1 is a conceptual diagram of an optical system in the imaging apparatus of the present embodiment. In FIG. 1, for easy understanding, the main lens 1 functioning as an imaging lens is shown as a single lens, and the aperture position of the main lens 1 is the center of the single lens.

メインレンズ1の絞り位置には、フィルタ部2が配置されている。なお、図1では、単レンズで示したメインレンズ1内にフィルタ部2が配置されるように図示されているが、実際にはレンズの内部にフィルタ部2が配置されることはない。   A filter unit 2 is disposed at the stop position of the main lens 1. In FIG. 1, the filter unit 2 is illustrated as being disposed in the main lens 1 shown as a single lens, but the filter unit 2 is not actually disposed inside the lens.

フィルタ部2は、各々が異なる波長選択性を持つ複数のフィルタ領域を有している。本実施形態では、フィルタ部2として、CIEにより定められたXYZ表色系の等色関数に基づいた分光透過率を持つ色の三刺激値に対応したカラーフィルタを用いる。   The filter unit 2 has a plurality of filter regions each having a different wavelength selectivity. In the present embodiment, a color filter corresponding to the tristimulus value of the color having the spectral transmittance based on the color matching function of the XYZ color system defined by the CIE is used as the filter unit 2.

図2は、本実施形態のフィルタ部2の幾何学的設計例を示す図である。本実施形態のフィルタ部2は、図2に示すように、XYZ表色系の等色関数に基づいて設計された3つのフィルタ領域F,F,Fを有する。 FIG. 2 is a diagram illustrating a geometric design example of the filter unit 2 of the present embodiment. As shown in FIG. 2, the filter unit 2 of the present embodiment includes three filter regions F X , F Y , and F Z designed based on the color matching functions of the XYZ color system.

図3は、本実施形態のフィルタ部2の分光透過率を示す図である。図3中の実線はフィルタ領域Fの分光透過率T(λ)を示し、一点鎖線はフィルタ領域Fの分光透過率T(λ)を示し、破線はフィルタ領域Fの分光透過率T(λ)を示している。これらT(λ),T(λ),T(λ)は、XYZ表色系の等色関数を透過率に置換したものである。このように、フィルタ部2の各フィルタ領域F,F,Fは、各々が異なる波長選択性を持つ。なお、図2および図3に示すフィルタ部2は一例であり、これに限定されるものではない。フィルタ部2は、異なる波長選択性を持つ複数のフィルタ領域を有する構成であればよく、フィルタ領域の数は2つであってもよし、4つ以上であってもよい。 FIG. 3 is a diagram showing the spectral transmittance of the filter unit 2 of the present embodiment. The solid line in FIG. 3 indicates the spectral transmittance T X (λ) of the filter region F X , the alternate long and short dash line indicates the spectral transmittance T Y (λ) of the filter region F Y , and the broken line indicates the spectral transmittance of the filter region F Z. The rate T Z (λ) is shown. These T X (λ), T Y (λ), and T Z (λ) are obtained by replacing the color matching function of the XYZ color system with transmittance. As described above, the filter regions F X , F Y , and F Z of the filter unit 2 have different wavelength selectivity. 2 and FIG. 3 is an example, and the present invention is not limited to this. The filter unit 2 may be configured to have a plurality of filter regions having different wavelength selectivity, and the number of filter regions may be two, or four or more.

メインレンズ1の集光位置付近には、複数のマイクロレンズ(小レンズ)から構成されるマイクロレンズアレイ3が配置されている。また、光学系のイメージ面には、フィルタ部2およびマイクロレンズアレイ3を透過した光を受光して画像を出力する受光素子アレイ4が配置されている。受光素子アレイ4は、画素ごとのカラーフィルタが実装されていないモノクロセンサであり、各受光素子が画像の1画素に対応する。マイクロレンズアレイ3を構成する各マイクロレンズの径と、受光素子アレイ4を構成する各受光素子の大きさは、おおよそ30:1〜2:1の比率の関係にある。   A microlens array 3 composed of a plurality of microlenses (small lenses) is disposed near the condensing position of the main lens 1. A light receiving element array 4 that receives light transmitted through the filter unit 2 and the microlens array 3 and outputs an image is disposed on the image surface of the optical system. The light receiving element array 4 is a monochrome sensor in which a color filter for each pixel is not mounted, and each light receiving element corresponds to one pixel of an image. The diameter of each microlens constituting the microlens array 3 and the size of each light receiving element constituting the light receiving element array 4 are approximately in a ratio of 30: 1 to 2: 1.

図4は、マイクロレンズアレイ3を光軸P(図1参照)に沿った方向から見た平面図である。図4中の白で示した部分が各マイクロレンズであり、黒で示した部分が遮光部である。遮光部は、曲率を持たない平坦部や、曲率が製造的に設計値仕様を満たさない領域である。これらの領域からの光は、設計上意図しない光線を受光素子まで届けるおそれがあるため、遮光することで設計から想定される電気信号が得られるようにしている。このことは、正確な測定値を得るために重要である。   FIG. 4 is a plan view of the microlens array 3 viewed from a direction along the optical axis P (see FIG. 1). In FIG. 4, the portions shown in white are the microlenses, and the portions shown in black are the light shielding portions. The light shielding portion is a flat portion having no curvature or a region where the curvature does not satisfy the design value specification in terms of manufacturing. Since the light from these regions may cause an unintended light beam to reach the light receiving element, the electrical signal assumed from the design can be obtained by shielding the light. This is important for obtaining accurate measurements.

本実施形態の撮像装置では、物体(被写体)Obから発する光のうち、メインレンズ1の開口に入射して絞りを通過する光束が、マイクロレンズアレイ3を透過して受光素子アレイ4により受光される。メインレンズ1に入射した光束は無数の光線の集合であり、それぞれの光線はメインレンズ1の絞りの異なる位置を通過する。本実施形態の撮像装置では、メインレンズ1の絞り位置に、3つのフィルタ領域F,F,Fを有するフィルタ部2が配置されている。したがって、メインレンズ1の絞りの異なる位置を通過する各光線は、それぞれ、異なる分光透過率(波長選択性)を持つ3つのフィルタ領域F,F,Fを透過することで、波長特性が異なる3種類の光線となる。 In the imaging apparatus of the present embodiment, among the light emitted from the object (subject) Ob, the light beam that enters the aperture of the main lens 1 and passes through the aperture is transmitted through the microlens array 3 and received by the light receiving element array 4. The The light beam incident on the main lens 1 is a collection of innumerable light beams, and each light beam passes through different positions of the stop of the main lens 1. In the imaging apparatus of the present embodiment, the filter unit 2 having three filter regions F X , F Y , and F Z is disposed at the stop position of the main lens 1. Accordingly, each light beam that passes through different positions of the stop of the main lens 1 passes through the three filter regions F X , F Y , and F Z having different spectral transmittances (wavelength selectivity), and thereby the wavelength characteristics. Are three types of light beams.

フィルタ部2を透過した光線はマイクロレンズアレイ3付近で一旦結像するが、その後、マイクロレンズアレイ2の作用によって拡散され、フィルタ部2の3つのフィルタ領域F,F,Fを透過した光線が、それぞれ受光素子アレイ4の別々の位置に到達する。すなわち、メインレンズ1の絞り位置を通過する光線は、フィルタ部2の3つのフィルタ領域F,F,Fのうちのいずれのフィルタ領域を透過したかに応じて、受光素子アレイ4のセンサ面における受光位置が異なる。このため、本実施形態の撮像装置では、物体(被写体)Obのある一点から発した光を、波長的に三刺激値X,Y,Zに分解した値を測定することができる。 The light beam that has passed through the filter unit 2 forms an image once in the vicinity of the micro lens array 3, but is then diffused by the action of the micro lens array 2 and transmitted through the three filter regions F X , F Y , and F Z of the filter unit 2. The received light beams reach different positions of the light receiving element array 4. That is, the light beam that passes through the stop position of the main lens 1 passes through the filter region F X , F Y , F Z of the filter unit 2 according to which filter region is transmitted through the light receiving element array 4. The light receiving position on the sensor surface is different. For this reason, in the imaging apparatus of the present embodiment, it is possible to measure a value obtained by decomposing light emitted from one point of the object (subject) Ob into tristimulus values X, Y, and Z in terms of wavelength.

図5は、本実施形態の撮像装置により撮像されたライトフィールド画像を示す図である。本実施形態の撮像装置で画像を撮像すると、図5に示すように、小さな円の部分画像が並んだライトフィールド画像が得られる。ライトフィールド画像に含まれる部分画像が円になるのは、メインレンズ1の絞り形状が円であるためである。ライトフィールド画像に含まれるそれぞれの小さな円の部分画像を「マクロピクセル」と呼ぶ。各マクロピクセルは、マイクロレンズアレイ3を構成する各マイクロレンズの直下に形成される。   FIG. 5 is a diagram illustrating a light field image captured by the imaging apparatus of the present embodiment. When an image is picked up by the image pickup apparatus of this embodiment, a light field image in which small circular partial images are arranged is obtained as shown in FIG. The partial image included in the light field image is a circle because the aperture shape of the main lens 1 is a circle. Each small circle partial image included in the light field image is called a “macro pixel”. Each macro pixel is formed immediately below each micro lens constituting the micro lens array 3.

図6は、マクロピクセルを拡大して示す図である。マクロピクセルの内部構造は、メインレンズ1の絞り位置に配置されたフィルタ部2の構造(図2参照)に対応したものとなる。すなわち、本実施形態の撮像装置により撮像されたライトフィールド画像に含まれる各マクロピクセルは、図6に示すように、フィルタ部2のフィルタ領域Fに対応する画像領域Mと、フィルタ領域Fに対応する画像領域Mと、フィルタ領域Fに対応する画像領域Mとを有する。マクロピクセルにおける各画像領域M,M,Mは、それぞれフィルタ部2のフィルタ領域F,F,Fを透過した光を受光することで得られる。なお、図6に示すマクロピクセルの内部構造が図2に示したフィルタ部2の構造に対して上下反転しているのは、光学系を通過してきたためである。ただし、この対応関係は光学系に依存するため、この例に限ったものではない。 FIG. 6 is an enlarged view of a macro pixel. The internal structure of the macro pixel corresponds to the structure of the filter unit 2 arranged at the stop position of the main lens 1 (see FIG. 2). In other words, each macro pixel included in the light field image captured by the imaging device of the present embodiment, as shown in FIG. 6, an image area M X corresponding to the filter region F X of the filter section 2, filter region F The image area M Y corresponding to Y and the image area M Z corresponding to the filter area F Z are included. The image areas M X , M Y , and M Z in the macro pixel are obtained by receiving light that has passed through the filter areas F X , F Y , and F Z of the filter unit 2, respectively. The reason why the internal structure of the macro pixel shown in FIG. 6 is inverted upside down with respect to the structure of the filter unit 2 shown in FIG. 2 is that it has passed through the optical system. However, since this correspondence depends on the optical system, it is not limited to this example.

本実施形態の撮像装置では、マクロピクセルの各画像領域M,M,Mの出力値から、そのマクロピクセルに対応する物体位置の分光エネルギを測定することができる。マクロピクセルの各画像領域M,M,Mの出力値をv=[v,v,vとする。tは行列の転置を意味する。出力値のとりかたは、画像領域M,M,Mごとの受光素子の出力の平均値をとってもよいし、画像領域M,M,Mごとに受光素子ひとつを選択してその出力値を代表値として採用してもよい。ただし、画像領域M,M,Mごとの受光素子の出力の平均値を各画像領域M,M,Mの出力値とすることで、電気的なランダムノイズの影響を抑制し、ノイズに対して頑健な信号を得ることができる。 In the imaging apparatus of the present embodiment, the spectral energy at the object position corresponding to the macro pixel can be measured from the output values of the image areas M X , M Y , and M Z of the macro pixel. Assume that the output values of the image areas M X , M Y , and M Z of the macro pixel are v = [v X , v Y , v Z ] t . t means transposition of the matrix. How to take the output value, the image area M X, M Y, may take the average value of the output of the light receiving element for each M Z, the image region M X, M Y, then select one light receiving element for each M Z thereof The output value may be adopted as the representative value. However, the image area M X, M Y, each of the image areas the average value of the output of the light receiving element for each M Z M X, M Y, by the output value of the M Z, suppress the influence of electrical random noise In addition, a signal robust against noise can be obtained.

マクロピクセルの各画像領域M,M,Mの出力値は、物体(被写体)Obから発した光を、波長的に三刺激値X,Y,Zに分解した値に、受光素子アレイ4の分光感度を乗じたものとなる。受光素子アレイ4の分光感度は設計時に既知なので、上記の出力値を受光素子アレイ4の分光感度で除算することで、物体(被写体)Obから発した光の三刺激値X,Y,Zを求めることができる。そして、この三刺激値X,Y,Zから、物体(被写体)Obの色(XYZ色空間における表色値)を検出することができる。 The output values of the image areas M X , M Y , and M Z of the macro pixel are obtained by dividing the light emitted from the object (subject) Ob into the tristimulus values X, Y, and Z in terms of wavelength. 4 multiplied by the spectral sensitivity. Since the spectral sensitivity of the light receiving element array 4 is known at the time of design, by dividing the output value by the spectral sensitivity of the light receiving element array 4, the tristimulus values X, Y, and Z of light emitted from the object (subject) Ob are obtained. Can be sought. The color of the object (subject) Ob (the color value in the XYZ color space) can be detected from the tristimulus values X, Y, and Z.

ここで、本実施形態の撮像装置では、マクロピクセルの各画像領域M,M,Mの出力値から物体(被写体)Obの色を検出するために、実際に製造した実機で、受光素子アレイ4のどの受光素子がマクロピクセルの各画像領域M,M,Mに対応しているかを特定する必要がある。すなわち、実機では、例えば光学系のアライメント誤差などの製造誤差があるため、マクロピクセルの各画像領域M,M,Mに対応する受光素子アレイ4の受光素子が、個体ごとに異なる場合がある。 Here, in the imaging apparatus of the present embodiment, in order to detect the color of the object (subject) Ob from the output values of the image areas M X , M Y , and M Z of the macro pixel, the light is received by the actual machine actually manufactured. It is necessary to specify which light receiving element of the element array 4 corresponds to each image area M X , M Y , M Z of the macro pixel. That is, in the actual machine, for example, there is a manufacturing error such as an alignment error of the optical system, and therefore the light receiving elements of the light receiving element array 4 corresponding to the image regions M X , M Y , and M Z of the macro pixel are different for each individual. There is.

そこで、本実施形態の撮像装置では、マクロピクセルの各画像領域M,M,Mに対応する受光素子アレイ4の受光素子の位置、つまり、フィルタ部2の各フィルタ領域F,F,Fを透過した光を受光する受光素子アレイ4上の位置を後述する方法によって特定し、その位置を示す位置情報を記憶部に格納している。そして、この記憶部に格納された位置情報を用いて、受光素子アレイ4が出力するライトフィールド画像からマクロピクセルの各画像領域M,M,Mを検出し、検出した各画像領域M,M,Mの出力値に基づいて、物体(被写体)Obの色を検出するようにしている。 Therefore, in the imaging apparatus of the present embodiment, the position of the light receiving element of the light receiving element array 4 corresponding to each image area M X , M Y , M Z of the macro pixel, that is, each filter area F X , F of the filter unit 2. A position on the light receiving element array 4 that receives the light transmitted through Y 1 and F Z is specified by a method described later, and position information indicating the position is stored in the storage unit. Then, using the position information stored in the storage unit, each image area M X , M Y , M Z of the macro pixel is detected from the light field image output from the light receiving element array 4, and each detected image area M Based on the output values of X 1 , M Y , and M Z , the color of the object (subject) Ob is detected.

図7は、本実施形態の撮像装置の具体的な構成例を示す図である。図7に示す撮像装置10は、レンズモジュール20と、カメラ部30と、演算装置40と、記憶部50とを備える。   FIG. 7 is a diagram illustrating a specific configuration example of the imaging apparatus according to the present embodiment. The imaging device 10 illustrated in FIG. 7 includes a lens module 20, a camera unit 30, a calculation device 40, and a storage unit 50.

レンズモジュール20は、第1レンズ1aおよび第2レンズ1bと、上述したフィルタ部2とを有している。第1レンズ1aおよび第2レンズ1bは、上述したメインレンズ1を構成する。ただし、この構成は一例であり、メインレンズ1を構成する光学素子の絞り位置にフィルタ部2が配置された構成であればよい。   The lens module 20 includes the first lens 1a and the second lens 1b, and the filter unit 2 described above. The first lens 1a and the second lens 1b constitute the main lens 1 described above. However, this configuration is merely an example, and any configuration may be used as long as the filter unit 2 is disposed at the stop position of the optical element constituting the main lens 1.

カメラ部30は、上述したマイクロレンズアレイ3と、上述した受光素子アレイ4と、フレームメモリ31とを有している。フレームメモリ31は、受光素子アレイ4が出力するライトフィールド画像を一時的に保持する。   The camera unit 30 includes the microlens array 3 described above, the light receiving element array 4 described above, and a frame memory 31. The frame memory 31 temporarily holds a light field image output from the light receiving element array 4.

演算装置40は、例えば、CPU、ROM、RAM、入出力インターフェースなどを備えたマイクロコンピュータを用いて構成される。演算装置40は、例えば、CPUがRAMをワークエリアとしてROMに格納された所定のプログラムを実行することにより、図7に示すように、二値化処理部41、位置特定部42、領域検出部43、および色検出部44の各機能構成を実現する。これらのうち、二値化処理部41および位置特定部42は、上述した位置情報を記憶部50に格納するための機能構成であり、例えば、実機を出荷する前、あるいは出荷後の任意のタイミングで実施される調整時に、調整作業者による所定の操作に応じて呼び出される。一方、領域検出部43および色検出部44は、実際にライトフィールド画像を用いて被写体の色を検出するための機能構成であり、被写体の撮像時に受光素子アレイ4がライトフィールド画像を出力するたびに呼び出される。   The arithmetic device 40 is configured using, for example, a microcomputer including a CPU, a ROM, a RAM, an input / output interface, and the like. For example, as shown in FIG. 7, the arithmetic device 40 executes a predetermined program stored in the ROM using the RAM as a work area, whereby the binarization processing unit 41, the position specifying unit 42, and the region detection unit 43 and the color detecting unit 44 are realized. Among these, the binarization processing unit 41 and the position specifying unit 42 are functional configurations for storing the above-described position information in the storage unit 50. For example, any timing before shipping the actual machine or after shipping Called in response to a predetermined operation by the adjustment operator at the time of adjustment carried out in (1). On the other hand, the area detection unit 43 and the color detection unit 44 have a functional configuration for actually detecting the color of the subject using the light field image, and each time the light receiving element array 4 outputs the light field image during imaging of the subject. Called.

撮像装置10の調整時には、図7に示す光源61から出射されてバンドパスフィルタ62を透過した光を検査光として、光学系のフィルタ部2に入射させる。検査光は、フィルタ部2の3つのフィルタ領域F,F,Fのうち、位置特定の対象とするフィルタ領域(以下、対象領域という。)に対応する波長特性を持つ光であり、対象領域ごとに設定される。撮像装置10の調整時には、対象領域に応じてバンドパスフィルタ62を切り替えることで、フィルタ部2の3つのフィルタ領域F,F,Fそれぞれに対応する検査光を、フィルタ部2に順次入射させる(検査光発生手段)。なお、検査光の詳細は後述する。 At the time of adjustment of the imaging device 10, the light emitted from the light source 61 shown in FIG. 7 and transmitted through the bandpass filter 62 is incident on the filter unit 2 of the optical system as inspection light. The inspection light is light having wavelength characteristics corresponding to a filter region (hereinafter, referred to as a target region) whose position is to be specified among the three filter regions F X , F Y , and F Z of the filter unit 2. Set for each target area. At the time of adjustment of the imaging device 10, the inspection light corresponding to each of the three filter regions F X , F Y , and F Z of the filter unit 2 is sequentially applied to the filter unit 2 by switching the bandpass filter 62 according to the target region. Incident light (inspection light generating means). Details of the inspection light will be described later.

二値化処理部41は、上述した検査光がフィルタ部2に入射した際に受光素子アレイ4が出力するライトフィールド画像に対して二値化処理を行い、明るい画素は白、それ以外の画素は黒となる二値化画像を生成する。   The binarization processing unit 41 performs binarization processing on the light field image output from the light receiving element array 4 when the above-described inspection light enters the filter unit 2, and the bright pixels are white and the other pixels Generates a binary image that is black.

位置特定部42は、二値化処理部41が生成した二値化画像を用いて、白画素の座標を特定するとともに、白画素がつながっている「かたまり」(連結部分)の位置を特定することにより、フィルタ部2の対象領域に対応するマクロピクセル内の画像領域の位置を特定する。例えば、フィルタ部2のフィルタ領域Fを対象領域とした場合、ライトフィールド画像において横方向にi番目、縦方向にj番目のマクロピクセル内の画像領域MをM(i,j)とすると、M(i,j)は通常、複数の画素からなる。位置特定部42は、M(i,j)に属する各画素の座標をi,jと対応付けて特定し、これらを画像領域Mの位置情報として記憶部50に格納する。 The position specifying unit 42 specifies the coordinates of the white pixels using the binarized image generated by the binarization processing unit 41 and specifies the position of the “chunk” (connected portion) where the white pixels are connected. Thus, the position of the image region in the macro pixel corresponding to the target region of the filter unit 2 is specified. For example, when the filter area F X of the filter unit 2 is the target area, the image area M X in the i-th macro pixel in the horizontal direction and the j-th macro pixel in the vertical direction is M X (i, j) in the light field image. Then, M X (i, j) usually consists of a plurality of pixels. The position specifying unit 42 specifies the coordinates of each pixel belonging to M X (i, j) in association with i, j, and stores these in the storage unit 50 as position information of the image area M X.

記憶部50は、位置特定部42によって特定された位置情報を記憶する不揮発性メモリである。記憶部50は、位置特定部42によって特定された位置情報を、例えば、ルックアップテーブルのかたちで保持することができる。   The storage unit 50 is a non-volatile memory that stores the position information specified by the position specifying unit 42. The storage unit 50 can hold the position information specified by the position specifying unit 42 in the form of a lookup table, for example.

領域検出部43は、記憶部50が記憶する位置情報に基づいて、被写体の撮像時、つまり、被写体からの光がフィルタ部2に入射した際に受光素子アレイ4が出力するライトフィールド画像から、各マクロピクセルの画像領域M,M,Mをそれぞれ検出する。また、本実施形態の領域検出部43は、検出した各画像領域M,M,Mの出力値をマクロピクセルの位置に応じて再配置することにより、中間画像を生成する。 Based on the position information stored in the storage unit 50, the region detection unit 43 calculates from the light field image output from the light receiving element array 4 when the subject is imaged, that is, when light from the subject enters the filter unit 2. Image areas M X , M Y , and M Z of each macro pixel are detected. In addition, the area detection unit 43 of the present embodiment generates an intermediate image by rearranging the output values of the detected image areas M X , M Y , and M Z according to the positions of the macro pixels.

具体的には、領域検出部43は、ライトフィールド画像に含まれる各マクロピクセル内の画像領域Mを検出し、検出した画像領域Mの出力値(例えば、画像領域Mを構成する画素の平均値)を各マクロピクセルの位置i,jに従って再配置することにより、フィルタ部2のフィルタ領域Fに対応する中間画像を生成する。すなわち、(i,j)=(1,1)ならば、ライトフィールド画像の例えば左上端のマクロピクセル内の画像領域Mの出力値を中間画像の左上端の画素の値とする。この処理を、ライトフィールド画像に含まれるすべてのマクロピクセルについて行うことで、フィルタ部2のフィルタ領域Fを透過した光で形成された二次元画像である中間画像を生成することができる。 Pixel Specifically, the region detecting unit 43 detects the image region M X within each macro-pixel included in the light field image, which constitutes the output value of the detected image area M X (e.g., an image region M X position i of the average value) each macro pixel, by re-arranged according to j, and generates an intermediate image corresponding to the filter region F X of the filter unit 2. That, (i, j) = ( 1,1) , then the the value of the pixel of the upper left point of the output values intermediate image of the image region M X in the macro-pixel, for example, the upper left end of the light field image. This process, by performing for every macro-pixel included in the light field image, it is possible to generate an intermediate image is a two-dimensional image formed by light transmitted through the filter region F X of the filter unit 2.

また、領域検出部43は、ライトフィールド画像に含まれる各マクロピクセル内の画像領域M,Mについても同様の処理を行うことで、フィルタ部2のフィルタ領域Fに対応する中間画像や、フィルタ領域Fに対応する中間画像も生成することができる。 In addition, the region detection unit 43 performs the same process on the image regions M Y and M Z in each macro pixel included in the light field image, so that an intermediate image corresponding to the filter region F Y of the filter unit 2 can be obtained. it can also generate an intermediate image corresponding to the filter region F Z.

色検出部44は、領域検出部43が検出した各画像領域M,M,Mの出力値に基づいて、上述した方法により被写体の色を検出する。本実施形態の色検出部44は、領域検出部43が生成した3つの中間画像(フィルタ部2のフィルタ領域F,F,Fに各々対応する3つの中間画像)を用いることにより、被写体の異なる位置の色を個別に検出することができる。 The color detection unit 44 detects the color of the subject by the method described above based on the output values of the image regions M X , M Y , and M Z detected by the region detection unit 43. The color detection unit 44 of the present embodiment uses the three intermediate images generated by the region detection unit 43 (three intermediate images corresponding to the filter regions F X , F Y , and F Z of the filter unit 2), respectively. Colors at different positions of the subject can be detected individually.

なお、領域検出部43は、3つの画像領域M,M,Mに各々対応する中間画像を生成する代わりに、3つの画像領域M,M,Mの代表的な出力値を取得する構成であってもよい。この場合、色検出部44は、3つの画像領域M,M,Mの代表的な出力値に基づいて、被写体の色を検出する。 The region detecting unit 43, three image areas M X, M Y, instead of producing each corresponding intermediate image M Z, three image areas M X, M Y, representative output value of the M Z It may be the structure which acquires. In this case, the color detection unit 44 detects the color of the subject based on the representative output values of the three image regions M X , M Y , and M Z.

上述した二値化処理部41、位置特定部42、領域検出部43、および色検出部44の各機能構成は、その一部あるいは全部を、例えばASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)などの専用のハードウェアを用いて実現してもよい。   Each of the functional configurations of the binarization processing unit 41, the position specifying unit 42, the region detecting unit 43, and the color detecting unit 44 described above may be partially or entirely, for example, ASIC (Application Specific Integrated Circuit) or FPGA (Field- You may implement | achieve using dedicated hardware, such as Programmable Gate Array.

ここで、撮像装置10の調整時に用いる検査光の詳細について説明する。検査光は、上述したように、受光素子アレイ4が出力するライトフィールド画像から、フィルタ部2の対象領域に対応する画像領域を分離して、その位置を特定するために用いられる光であり、対象領域に対応する波長特性を持つ。例えば、検査光は、フィルタ部2の対象領域の分光透過率と他のフィルタ領域の分光透過率との差分に基づいて定められた波長特性を持つ光である。より具体的には、フィルタ部2の対象領域の分光透過率と他のフィルタ領域の分光透過率との差分の最大値を中心波長とする光を、検査光として用いることができる。   Here, details of the inspection light used when adjusting the imaging apparatus 10 will be described. As described above, the inspection light is light used for separating the image region corresponding to the target region of the filter unit 2 from the light field image output from the light receiving element array 4 and specifying the position thereof. Has wavelength characteristics corresponding to the target area. For example, the inspection light is light having a wavelength characteristic determined based on the difference between the spectral transmittance of the target region of the filter unit 2 and the spectral transmittance of other filter regions. More specifically, light having a central wavelength at the maximum difference between the spectral transmittance of the target region of the filter unit 2 and the spectral transmittance of another filter region can be used as the inspection light.

フィルタ部2のフィルタ領域Fを対象領域とする場合、まず、フィルタ領域Fの分光透過率T(λ)と、他の2つのフィルタ領域F,Fの分光透過率T(λ),T(λ)との差分D(λ)を、下記式(1)により求める。
(λ)=T(λ)−T(λ)−T(λ) ・・・(1)
そして、差分D(λ)の最大値Sの波長の光を、フィルタ領域Fを対象領域とする場合の検査光、つまり、受光素子アレイ4が出力するライトフィールド画像から画像領域Mを分離するための検査光とする。
If the filter region F X of the filter unit 2 and the target area, first, the filter region F spectral transmittance T X (lambda) of X, the other two filter areas F Y, F Z spectral transmittance T Y ( A difference D X (λ) between λ) and T Z (λ) is obtained by the following equation (1).
D X (λ) = T X (λ) −T Y (λ) −T Z (λ) (1)
Then, the difference D X light having a wavelength of maximum S X of (lambda), the inspection light when a filter region F X the target area, i.e., the image areas M X from the light-field image photodetector array 4 outputs Is used as an inspection light for separating.

フィルタ部2のフィルタ領域Fを対象領域とする場合は、同様に、フィルタ領域Fの分光透過率T(λ)と、他の2つのフィルタ領域F,Fの分光透過率T(λ),T(λ)との差分D(λ)を求める。そして、差分D(λ)の最大値Sの波長の光を、フィルタ領域Fを対象領域とする場合の検査光、つまり、受光素子アレイ4が出力するライトフィールド画像から画像領域Mを分離するための検査光とする。 When the filter region F Y of the filter unit 2 is the target region, similarly, the spectral transmittance T Y (λ) of the filter region F Y and the spectral transmittances T of the other two filter regions F X and F Z are the same. A difference D Y (λ) between X (λ) and T Z (λ) is obtained. Then, the light having the maximum value S Y of the difference D Y (λ) is used as the inspection region when the filter region F Y is the target region, that is, from the light field image output from the light receiving element array 4 to the image region M Y. Is used as an inspection light for separating.

フィルタ部2のフィルタ領域Fを対象領域とする場合は、同様に、フィルタ領域Fの分光透過率T(λ)と、他の2つのフィルタ領域F,Fの分光透過率T(λ),T(λ)との差分D(λ)を求める。そして、差分D(λ)の最大値Sの波長の光を、フィルタ領域Fを対象領域とする場合の検査光、つまり、受光素子アレイ4が出力するライトフィールド画像から画像領域Mを分離するための検査光とする。 If the filter unit 2 filter region F Z a region of interest, likewise, the spectral transmittance of the filter region F Z T Z (λ), the other two filter areas F X, spectral transmittance F Y T A difference D Z (λ) between X (λ) and T Y (λ) is obtained. Then, the light of the wavelength S Z having the maximum value S Z of the difference D Z (λ) is used as the inspection light when the filter region F Z is the target region, that is, from the light field image output from the light receiving element array 4 to the image region M Z. Is used as an inspection light for separating.

図8は、フィルタ部2の3つのフィルタ領域F,F,Fそれぞれの分光透過率T(λ),T(λ),T(λ)の差分D(λ),D(λ),D(λ)と、その最大値S,S,Sとを示す図である。図8中の実線は差分D(λ)を示し、一点鎖線は差分D(λ)を示し、破線は差分D(λ)を示している。また、それぞれの差分D(λ),D(λ),D(λ)において、矢印で示した位置の波長が、最大値S,S,Sである。 FIG. 8 shows the difference D X (λ), the difference between the spectral transmittances T X (λ), T Y (λ), T Z (λ) of the three filter regions F X , F Y , F Z of the filter unit 2. D Y (λ), and D Z (λ), the maximum value S X, S Y, is a diagram showing the S Z. The solid line in FIG. 8 indicates the difference D X (λ), the alternate long and short dash line indicates the difference D Y (λ), and the broken line indicates the difference D Z (λ). In each of the differences D X (λ), D Y (λ), and D Z (λ), the wavelengths at the positions indicated by arrows are maximum values S X , S Y , and S Z.

検査光としては、波長S,S,Sの単色光が理想的である。しかし、波長S,S,Sの単色光を得ることは困難であるため、それぞれの波長を中心波長とした、波長的に広がりのあるスペクトルを持つ光を検査光として用いればよい。 As the inspection light, monochromatic light having wavelengths S X , S Y , and S Z is ideal. However, since it is difficult to obtain monochromatic light having wavelengths S X , S Y , and S Z , light having a broad spectrum with each wavelength as a center wavelength may be used as inspection light.

フィルタ部2のフィルタ領域Fを対象領域とする場合、波長Sを中心波長とする検査光を得るために、例えば広い可視光域を含む広い波長域に強度を持つキセノンランプを光源61として用いる。そして、この光源61から出射された光を透過するバンドパスフィルタ62として、波長Sを中心波長とする分光透過率を持つバンドパスフィルタを用いる。図9は、波長Sを中心波長とする検査光を得るために用いるバンドパスフィルタ62の分光透過率を示す図である。このようなバンドパスフィルタ62としては、例えば、色素を用いた吸収型フィルタを用いることができる。 When the filter region F X of the filter unit 2 is the target region, in order to obtain inspection light having the wavelength S X as the central wavelength, for example, a xenon lamp having intensity in a wide wavelength range including a wide visible light range is used as the light source 61. Use. As the bandpass filter 62 that transmits the light emitted from the light source 61, a bandpass filter having a spectral transmittance with the wavelength S X as the center wavelength is used. FIG. 9 is a diagram showing the spectral transmittance of the band-pass filter 62 used for obtaining inspection light having the wavelength S X as the center wavelength. As such a bandpass filter 62, for example, an absorption filter using a dye can be used.

図10は、撮像装置10の調整時において、波長Sを中心波長とする検査光をフィルタ部2に入射させた際に受光素子アレイ4が出力するライトフィールド画像に含まれるマクロピクセルを拡大して示す図である。波長Sを中心波長とする検査光をフィルタ部2に入射させた際に受光素子アレイ4が出力するライトフィールド画像では、図10に示すように、各マクロピクセル内の画像領域Mの画素だけが大きな画素値を持つため明るく見える。つまり、各マクロピクセル内の画像領域Mと他の画像領域M,Mとのコントラストが最大となっている。このライトフィールド画像に対して、適切な閾値を用いて二値化処理を行うことで、得られた二値化画像から画像領域Mの位置を正確に特定することができる。 FIG. 10 is an enlarged view of macro pixels included in the light field image output from the light receiving element array 4 when the inspection light having the wavelength S X as the central wavelength is incident on the filter unit 2 when the imaging apparatus 10 is adjusted. FIG. In light field image photodetector array 4 the inspection light having a center wavelength a wavelength S X when is incident to the filter unit 2 outputs, as shown in FIG. 10, the pixel of the image area M X within each macro pixel Only looks bright because it has a large pixel value. That is, the image region M X and another image region M Y within each macro-pixel, the contrast between the M Z is the largest. For this light field image, by performing a binarization process using the appropriate threshold, it is possible to accurately identify the position of the image region M X from the resulting binarized image.

また、フィルタ部2のフィルタ領域Fを対象領域とする場合は、波長Sを中心波長とする分光透過率を持つバンドパスフィルタ62を用いることで、波長Sを中心波長とする検査光を得る。そして、この検査光をフィルタ部2に入射させた際に受光素子アレイ4が出力するライトフィールド画像に対して二値化処理を行うことで、得られた二値化画像から画像領域Mの位置を正確に特定することができる。 In the case of the filter unit 2 filter region F Y a target area, by using a band-pass filter 62 having the spectral transmittance of the central wavelength of the wavelength S Y, inspection light having a center wavelength a wavelength S Y Get. Then, by relative light field image output from the light receiving element array 4 when is incident the inspection light to the filter unit 2 performs binarization processing, from the obtained binarized image of the image region M Y The position can be specified accurately.

また、フィルタ部2のフィルタ領域Fを対象領域とする場合は、波長Sを中心波長とする分光透過率を持つバンドパスフィルタ62を用いることで、波長Sを中心波長とする検査光を得る。そして、この検査光をフィルタ部2に入射させた際に受光素子アレイ4が出力するライトフィールド画像に対して二値化処理を行うことで、得られた二値化画像から画像領域Mの位置を正確に特定することができる。 Also, when the filter region F Z of the filter unit 2 and the target area, by using a band-pass filter 62 having the spectral transmittance of the central wavelength of the wavelength S Z, inspection light having a center wavelength a wavelength S Z Get. Then, the binarization process is performed on the light field image output from the light receiving element array 4 when the inspection light is incident on the filter unit 2, so that the image area M Z is obtained from the obtained binarized image. The position can be specified accurately.

以上のように特定された画像領域M,M,Mそれぞれの位置は、位置情報として撮像装置10の記憶部50に格納される。そして、撮像装置10を用いて実際に被写体を撮像して被写体の色を検出する際には、記憶部50が記憶する位置情報を用いて、被写体の撮像により得られるライトフィールド画像から、各マクロピクセルの画像領域M,M,Mを正しく検出することができる。そして、検出した画像領域M,M,Mの出力値に基づいて、被写体の色を適切に検出することができる。 The positions of the image regions M X , M Y and M Z specified as described above are stored in the storage unit 50 of the imaging device 10 as position information. When the subject is actually imaged using the imaging device 10 and the color of the subject is detected, each macro is obtained from the light field image obtained by imaging the subject using the position information stored in the storage unit 50. The pixel image areas M X , M Y and M Z can be detected correctly. Based on the output values of the detected image areas M X , M Y , and M Z , the color of the subject can be detected appropriately.

以上、具体的な例を挙げながら詳細に説明したように、本実施形態の撮像装置10によれば、フィルタ部2の各フィルタ領域F,F,Fに対応する画像内の位置を正確に特定し、被写体の色の検出などを適切に行うことができる。 As described above in detail with specific examples, according to the imaging apparatus 10 of the present embodiment, positions in the image corresponding to the filter regions F X , F Y , and F Z of the filter unit 2 are determined. It is possible to accurately identify and appropriately detect the color of the subject.

<第2実施形態>
次に、第2実施形態について説明する。第2実施形態では、調整時のライトフィールド画像に対する二値化処理と、二値化画像を用いて画像領域M,M,Mの位置を特定して位置情報を記憶部50に格納する処理とを、調整装置が行う。以下、第1実施形態と同様の構成要素については同一の符号を付して重複した説明を適宜省略し、第2実施形態の特徴点のみを説明する。
Second Embodiment
Next, a second embodiment will be described. In the second embodiment, the binarization process for the light field image at the time of adjustment, the position of the image areas M X , M Y , and M Z are specified using the binarized image, and the position information is stored in the storage unit 50. The adjustment device performs the processing to be performed. Hereinafter, the same components as those in the first embodiment will be denoted by the same reference numerals, and redundant description will be omitted as appropriate, and only the feature points of the second embodiment will be described.

図11は、第2実施形態の撮像装置の具体的な構成例を示す図である。図11に示す撮像装置70は、レンズモジュール20と、カメラ部30と、演算装置80と、記憶部50とを備える。レンズモジュール20、カメラ部30、および記憶部50は、第1実施形態と同様である。演算装置80は、第1実施形態の演算装置40と異なり、領域検出部43および色検出部44のみを備え、二値化処理部41および位置特定部42は設けられていない。   FIG. 11 is a diagram illustrating a specific configuration example of the imaging apparatus according to the second embodiment. An imaging device 70 illustrated in FIG. 11 includes a lens module 20, a camera unit 30, a calculation device 80, and a storage unit 50. The lens module 20, the camera unit 30, and the storage unit 50 are the same as those in the first embodiment. Unlike the calculation device 40 of the first embodiment, the calculation device 80 includes only the area detection unit 43 and the color detection unit 44, and the binarization processing unit 41 and the position specification unit 42 are not provided.

第2実施形態では、撮像装置70の調整時に、図11に示す調整装置90を用いる。この調整装置90は、第1実施形態と同様の光源61およびバンドパスフィルタ62(検査光発生手段)のほかに、演算装置100を備える。この調整装置90の演算装置100に、第1実施形態の二値化処理部41と同様の二値化処理部101と、第1実施形態の位置特定部42と同様の位置特定部102とが設けられている。   In the second embodiment, the adjustment device 90 shown in FIG. 11 is used when adjusting the imaging device 70. The adjusting device 90 includes an arithmetic device 100 in addition to the light source 61 and the bandpass filter 62 (inspection light generating means) similar to those in the first embodiment. The arithmetic device 100 of the adjustment device 90 includes a binarization processing unit 101 similar to the binarization processing unit 41 of the first embodiment and a position specifying unit 102 similar to the position specifying unit 42 of the first embodiment. Is provided.

調整装置90は、撮像装置70の調整時に光源61を駆動し、光源61から出射された光をバンドパスフィルタ62を透過させることによって検査光として、この検査光を撮像装置70のフィルタ部2に入射させる。そして、検査光がフィルタ部2に入射した際に受光素子アレイ4が出力するライトフィールド画像を、撮像装置70から取得して演算装置100に入力する。   The adjustment device 90 drives the light source 61 during adjustment of the imaging device 70 and transmits the light emitted from the light source 61 as inspection light by passing through the band-pass filter 62, and this inspection light is passed to the filter unit 2 of the imaging device 70. Make it incident. Then, a light field image output from the light receiving element array 4 when the inspection light enters the filter unit 2 is acquired from the imaging device 70 and input to the arithmetic device 100.

演算装置100の二値化処理部101は、第1実施形態の二値化処理部41と同様に、検査光がフィルタ部2に入射した際に受光素子アレイ4が出力するライトフィールド画像に対して二値化処理を行って、二値化画像を生成する。   Similar to the binarization processing unit 41 of the first embodiment, the binarization processing unit 101 of the arithmetic device 100 applies a light field image output from the light receiving element array 4 when inspection light enters the filter unit 2. The binarization process is performed to generate a binarized image.

演算装置100の位置特定部102は、第1実施形態の位置特定部42と同様に、二値化処理部101が生成した二値化画像を用いて、白画素の座標を特定するとともに、白画素の連結部分の位置を特定することにより、フィルタ部2の対象領域に対応するマクロピクセル内の画像領域の位置を特定する。そして、位置特定部102は、特定した画像領域の位置を示す位置情報を、撮像装置70の記憶部50に格納する。   Similar to the position specifying unit 42 of the first embodiment, the position specifying unit 102 of the arithmetic device 100 specifies the coordinates of white pixels using the binarized image generated by the binarization processing unit 101, and By specifying the position of the pixel connection portion, the position of the image region in the macro pixel corresponding to the target region of the filter unit 2 is specified. Then, the position specifying unit 102 stores position information indicating the position of the specified image region in the storage unit 50 of the imaging device 70.

図12は、撮像装置70に対する調整を行う際の調整装置90の処理手順を示すフローチャートである。なお、この図12のフローチャートで示すステップS101〜ステップS105の処理手順は、第1実施形態の撮像装置10に対する調整時にも適用できる。第1実施形態の撮像装置10に対する調整時に適用する場合は、ステップS102およびステップS103の処理が、撮像装置10の内部で実施される。   FIG. 12 is a flowchart illustrating a processing procedure of the adjustment device 90 when performing adjustment with respect to the imaging device 70. Note that the processing procedure of steps S101 to S105 shown in the flowchart of FIG. 12 can also be applied when adjusting the imaging apparatus 10 of the first embodiment. When applying the adjustment to the imaging apparatus 10 of the first embodiment, the processes of step S102 and step S103 are performed inside the imaging apparatus 10.

撮像装置70に対する調整を行う際、調整装置90は、まず光源61を駆動し、光源61から出射された光をバンドパスフィルタ62を透過させることによって検査光として、この検査光を撮像装置70のフィルタ部2に入射させる(ステップS101)。   When adjusting the imaging device 70, the adjusting device 90 first drives the light source 61, and transmits the light emitted from the light source 61 through the bandpass filter 62 as inspection light. The light enters the filter unit 2 (step S101).

次に、調整装置90の二値化処理部101が、撮像装置70の受光素子アレイ4が出力するライトフィールド画像に対して二値化処理を行って、二値化画像を生成する(ステップS102)。   Next, the binarization processing unit 101 of the adjustment device 90 performs binarization processing on the light field image output from the light receiving element array 4 of the imaging device 70 to generate a binarized image (step S102). ).

次に、調整装置90の位置特定部102が、二値化処理部101が生成した二値化画像を用いて、フィルタ部2の対象領域に対応するマクロピクセル内の画像領域の位置を特定し、特定した位置を示す位置情報を、撮像装置70の記憶部50に格納する(ステップS103)。   Next, the position specifying unit 102 of the adjustment device 90 specifies the position of the image region in the macro pixel corresponding to the target region of the filter unit 2 using the binarized image generated by the binarization processing unit 101. Then, the position information indicating the identified position is stored in the storage unit 50 of the imaging device 70 (step S103).

次に、調整装置90は、撮像装置70のフィルタ部2のすべてのフィルタ領域を対象領域として処理を行ったか否かを判定する(ステップS104)。そして、対象領域としていないフィルタ領域があれば(ステップS104:No)、新たに対象領域とするフィルタ領域に応じてバンドパスフィルタ62を切り替えた後(ステップS105)、ステップS101に戻って以降の処理を繰り返す。一方、すべてのフィルタ領域を対象領域として処理を行った場合は(ステップS104:Yes)、撮像装置70の調整を終了する。   Next, the adjustment device 90 determines whether or not processing has been performed using all the filter regions of the filter unit 2 of the imaging device 70 as target regions (step S104). If there is a filter area that is not the target area (step S104: No), the bandpass filter 62 is switched according to the filter area that is newly set as the target area (step S105), and then the process returns to step S101 and the subsequent processing. repeat. On the other hand, when the process has been performed with all filter regions as target regions (step S104: Yes), the adjustment of the imaging device 70 ends.

以上説明したように、第2実施形態では、撮像装置70のフィルタ部2に検査光を入射させた際に受光素子アレイ4が出力するライトフィールド画像に対する二値化処理と、得られた二値化画像を用いて画像領域M,M,Mの位置を特定して位置情報を記憶部50に格納する処理とを、調整装置90が行うようにしている。したがって、撮像装置70での処理負荷を低減しながら、第1実施形態と同様の効果を得ることができる。 As described above, in the second embodiment, the binarization process for the light field image output from the light receiving element array 4 when the inspection light is incident on the filter unit 2 of the imaging device 70, and the obtained binary value. The adjustment device 90 performs processing for specifying the positions of the image areas M X , M Y , and M Z using the converted image and storing the position information in the storage unit 50. Therefore, the same effect as that of the first embodiment can be obtained while reducing the processing load on the imaging device 70.

以上、本発明の具体的な実施形態について説明したが、本発明は上記の実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々の変形を加えながら具体化することができる。例えば、以下のような変形例が考えられる。   Although specific embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments as they are, and is embodied in the implementation stage while adding various modifications without departing from the scope of the invention. be able to. For example, the following modifications can be considered.

(変形例1)
上述した第1実施形態および第2実施形態では、検査光を得るためのバンドパスフィルタ62として、色素を用いた吸収型フィルタを用いた。しかし、バンドパスフィルタ62としては、吸収型フィルタに限らず、例えば、誘電体多層膜を用いた干渉型フィルタを用いるようにしてもよい。誘電体多層膜は、分光透過率の設計自由度が高いため、より仕様に近い分光透過率のバンドパスフィルタ62を作製できるという利点がある。
(Modification 1)
In the first and second embodiments described above, an absorption filter using a dye is used as the bandpass filter 62 for obtaining inspection light. However, the bandpass filter 62 is not limited to the absorption filter, and for example, an interference filter using a dielectric multilayer film may be used. Since the dielectric multilayer film has a high degree of freedom in designing the spectral transmittance, there is an advantage that a bandpass filter 62 having a spectral transmittance closer to the specification can be produced.

(変形例2)
上述した第1実施形態および第2実施形態では、光源61として、キセノンランプを用いた。しかし、光源61としては、キセノンランプに限らず、例えば、ハロゲンランプや発光ダイオードなどを用いるようにしてもよい。ハロゲンランプは、短波長側の光強度がキセノンランプよりも低いが、キセノンランプと同様に広い波長域にわたって強度を持つので、光源61として用いることが可能である。また、発光ダイオードは、一般的に波長帯域はキセノンランプやハロゲンランプに比べて狭いが、光源61として用いることは可能である。
(Modification 2)
In the first and second embodiments described above, a xenon lamp is used as the light source 61. However, the light source 61 is not limited to a xenon lamp, and for example, a halogen lamp or a light emitting diode may be used. The halogen lamp has a light intensity on the short wavelength side lower than that of the xenon lamp, but can be used as the light source 61 because it has an intensity over a wide wavelength region like the xenon lamp. The light emitting diode is generally narrower than the xenon lamp and the halogen lamp, but can be used as the light source 61.

(変形例3)
上述した第1実施形態および第2実施形態では、キセノンランプなどの光源61から出射された光をバンドパスフィルタ62を透過させることで、対象領域に対応する波長特性を持つ検査光を得るようにしていた。しかし、キセノンランプなどの光源61とバンドパスフィルタ62の組み合わせに代えて、対象領域に対応する波長特性を持つレーザを出射するレーザダイオードを用い、このレーザダイオードが出射するレーザを検査光として、撮像装置10,70のフィルタ部2に入射させるようにしてもよい。レーザダイオードは、純度の高い特定の波長を発光することができるので、レーザダイオードを検査光の光源として用いることにより、上述した第1実施形態や第2実施形態と比較して、コントラストの高い画像が得られるといった利点がある。
(Modification 3)
In the first and second embodiments described above, the light emitted from the light source 61 such as a xenon lamp is transmitted through the band-pass filter 62, thereby obtaining inspection light having a wavelength characteristic corresponding to the target region. It was. However, in place of the combination of the light source 61 such as a xenon lamp and the bandpass filter 62, a laser diode that emits a laser having a wavelength characteristic corresponding to the target region is used, and imaging is performed using the laser emitted from the laser diode as inspection light. You may make it inject into the filter part 2 of the apparatuses 10 and 70. FIG. Since the laser diode can emit a specific wavelength with high purity, an image having a higher contrast than the first and second embodiments described above can be obtained by using the laser diode as a light source for inspection light. There is an advantage that can be obtained.

1 メインレンズ
2 フィルタ部
3 マイクロレンズアレイ
4 受光素子アレイ
10 撮像装置
41 二値化処理部
42 位置特定部
43 領域検出部
44 色検出部
50 記憶部
61 光源
62 バンドパスフィルタ
70 撮像装置
90 調整装置
101 二値化処理部
102 位置特定部
DESCRIPTION OF SYMBOLS 1 Main lens 2 Filter part 3 Micro lens array 4 Light receiving element array 10 Imaging device 41 Binarization process part 42 Position specification part 43 Area | region detection part 44 Color detection part 50 Memory | storage part 61 Light source 62 Band pass filter 70 Imaging apparatus 90 Adjustment apparatus 101 binarization processing unit 102 position specifying unit

特開2013−214950号公報JP 2013-214950 A

Claims (11)

各々が異なる波長選択性を持つ複数のフィルタ領域を有するフィルタ部と、
前記フィルタ部を透過した光を受光して画像を出力する受光素子アレイと、
前記フィルタ部の複数のフィルタ領域ごとに、各フィルタ領域を透過した光を受光する前記受光素子アレイ上の位置を示す位置情報を記憶する記憶部と、
前記位置情報に基づいて、被写体からの光が前記フィルタ部に入射した際に前記受光素子アレイが出力する画像から、前記フィルタ部の各フィルタ領域を透過した光に対応する画像領域を検出する領域検出部と、
検出された前記画像領域の出力値に基づいて、前記被写体の色を検出する色検出部と、を備え、
前記フィルタ部の複数のフィルタ領域のうちの一つを対象領域としたときに、前記対象領域に対応する前記位置情報は、前記対象領域の波長選択性に対応する波長特性を持つ検査光を前記フィルタ部に入射させた際に前記受光素子アレイが出力する画像に対して二値化処理を行い、得られた二値化画像を用いて特定される前記受光素子アレイ上の位置を示す情報であることを特徴とする撮像装置。
A filter unit having a plurality of filter regions each having a different wavelength selectivity;
A light receiving element array that receives light transmitted through the filter unit and outputs an image;
A storage unit that stores position information indicating a position on the light receiving element array that receives light transmitted through each filter region for each of a plurality of filter regions of the filter unit;
An area for detecting an image area corresponding to light transmitted through each filter area of the filter section from an image output from the light receiving element array when light from a subject enters the filter section based on the position information A detection unit;
A color detection unit that detects the color of the subject based on the detected output value of the image area;
When one of the plurality of filter regions of the filter unit is set as a target region, the position information corresponding to the target region includes inspection light having a wavelength characteristic corresponding to wavelength selectivity of the target region. Information indicating a position on the light receiving element array specified by using the binarized image obtained by performing binarization processing on the image output from the light receiving element array when entering the filter unit. There is an imaging apparatus.
前記二値化処理を行う二値化処理部と、
前記二値化画像を用いて、前記対象領域を透過した光を受光する前記受光素子アレイ上の位置を特定し、特定した位置を示す位置情報を、前記対象領域に対応する前記位置情報として前記記憶部に格納する位置特定部と、をさらに備えることを特徴とする請求項1に記載の撮像装置。
A binarization processing unit for performing the binarization processing;
Using the binarized image, the position on the light receiving element array that receives the light transmitted through the target area is specified, and position information indicating the specified position is used as the position information corresponding to the target area. The imaging apparatus according to claim 1, further comprising a position specifying unit stored in the storage unit.
前記フィルタ部は、等色関数に基づいた分光透過率を持つ少なくとも3つのフィルタ領域を有することを特徴とする請求項1または2に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the filter unit includes at least three filter regions having a spectral transmittance based on a color matching function. 前記検査光は、前記対象領域の分光透過率と他のフィルタ領域の分光透過率との差分に基づいて定められた波長特性を持つ光であることを特徴とする請求項3に記載の撮像装置。   The imaging apparatus according to claim 3, wherein the inspection light is light having a wavelength characteristic determined based on a difference between a spectral transmittance of the target region and a spectral transmittance of another filter region. . 前記検査光は、前記対象領域の分光透過率と他のフィルタ領域の分光透過率との差分の最大値を中心波長とする光であることを特徴とする請求項4に記載の撮像装置。   The imaging apparatus according to claim 4, wherein the inspection light is light whose center wavelength is a maximum value of a difference between the spectral transmittance of the target region and the spectral transmittance of another filter region. 各々が異なる波長選択性を持つ複数のフィルタ領域を有するフィルタ部と、
前記フィルタ部を透過した光を受光して画像を出力する受光素子アレイと、
前記フィルタ部の複数のフィルタ領域ごとに、各フィルタ領域を透過した光を受光する前記受光素子アレイ上の位置を示す位置情報を記憶する記憶部と、を備える撮像装置の調整を行う調整装置であって、
前記フィルタ部の複数のフィルタ領域のうちの一つを対象領域としたときに、前記対象領域の波長選択性に対応する波長特性を持つ検査光を前記フィルタ部に入射させる検査光発生手段と、
前記検査光が前記フィルタ部に入射した際に前記受光素子アレイが出力する画像を取得して該画像に対して二値化処理を行う二値化処理部と、
前記二値化処理により得られた二値化画像を用いて、前記対象領域を透過した光を受光する前記受光素子アレイ上の位置を特定し、特定した位置を示す位置情報を、前記対象領域に対応する前記位置情報として前記記憶部に格納する位置特定部と、を備えることを特徴とする調整装置。
A filter unit having a plurality of filter regions each having a different wavelength selectivity;
A light receiving element array that receives light transmitted through the filter unit and outputs an image;
An adjustment device that adjusts an imaging apparatus, comprising: a storage unit that stores position information indicating a position on the light receiving element array that receives light transmitted through each filter region for each of a plurality of filter regions of the filter unit. There,
When one of the plurality of filter regions of the filter unit is a target region, inspection light generating means that makes inspection light having a wavelength characteristic corresponding to the wavelength selectivity of the target region incident on the filter unit;
A binarization processing unit that acquires an image output from the light receiving element array when the inspection light enters the filter unit and performs binarization processing on the image;
Using the binarized image obtained by the binarization processing, the position on the light receiving element array that receives the light transmitted through the target area is specified, and the position information indicating the specified position is determined as the target area. And a position specifying unit that stores the position information corresponding to the position information in the storage unit.
前記検査光発生手段は、
光源と、
前記光源から出射された光を透過して前記検査光とする、前記フィルタ部とは異なるバンドパスフィルタと、を備えることを特徴とする請求項6に記載の調整装置。
The inspection light generating means includes
A light source;
The adjustment apparatus according to claim 6, further comprising: a band-pass filter that is different from the filter unit and transmits the light emitted from the light source to be the inspection light.
前記バンドパスフィルタは、色素を用いた吸収型フィルタまたは誘電体多層膜を用いた干渉型フィルタであることを特徴とする請求項7に記載の調整装置。   The adjustment device according to claim 7, wherein the band-pass filter is an absorption filter using a dye or an interference filter using a dielectric multilayer film. 前記光源は、キセノンランプ、ハロゲンランプ、発光ダイオードのいずれかであることを特徴とする請求項7に記載の調整装置。   The adjusting device according to claim 7, wherein the light source is any one of a xenon lamp, a halogen lamp, and a light emitting diode. 前記検査光発生手段は、前記対象領域の波長選択性に対応する波長特性を持つレーザを前記検査光として前記フィルタ部に入射させることを特徴とする請求項6に記載の調整装置。   The adjustment apparatus according to claim 6, wherein the inspection light generation unit causes a laser having a wavelength characteristic corresponding to wavelength selectivity of the target region to enter the filter unit as the inspection light. 各々が異なる波長選択性を持つ複数のフィルタ領域を有するフィルタ部と、
前記フィルタ部を透過した光を受光して画像を出力する受光素子アレイと、
前記フィルタ部の複数のフィルタ領域ごとに、各フィルタ領域を透過した光を受光する前記受光素子アレイ上の位置を示す位置情報を記憶する記憶部と、を備える撮像装置の調整方法であって、
前記フィルタ部の複数のフィルタ領域のうちの一つを対象領域としたときに、前記対象領域の波長選択性に対応する波長特性を持つ検査光を前記フィルタ部に入射させる工程と、
前記検査光が前記フィルタ部に入射した際に前記受光素子アレイが出力する画像に対して二値化処理を行う工程と、
前記二値化処理により得られた二値化画像を用いて、前記対象領域を透過した光を受光する前記受光素子アレイ上の位置を特定し、特定した位置を示す位置情報を、前記対象領域に対応する前記位置情報として前記記憶部に格納する工程と、を含むことを特徴とする調整方法。
A filter unit having a plurality of filter regions each having a different wavelength selectivity;
A light receiving element array that receives light transmitted through the filter unit and outputs an image;
A storage unit that stores position information indicating a position on the light receiving element array that receives light transmitted through each filter region for each of a plurality of filter regions of the filter unit,
When one of the plurality of filter regions of the filter unit is a target region, a step of injecting inspection light having a wavelength characteristic corresponding to the wavelength selectivity of the target region into the filter unit;
Performing a binarization process on an image output from the light receiving element array when the inspection light is incident on the filter unit;
Using the binarized image obtained by the binarization processing, the position on the light receiving element array that receives the light transmitted through the target area is specified, and the position information indicating the specified position is determined as the target area. And storing in the storage unit as the position information corresponding to the position information.
JP2013250577A 2013-12-03 2013-12-03 Imaging device, adjustment device, and adjustment method Active JP6277695B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013250577A JP6277695B2 (en) 2013-12-03 2013-12-03 Imaging device, adjustment device, and adjustment method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013250577A JP6277695B2 (en) 2013-12-03 2013-12-03 Imaging device, adjustment device, and adjustment method

Publications (2)

Publication Number Publication Date
JP2015109523A JP2015109523A (en) 2015-06-11
JP6277695B2 true JP6277695B2 (en) 2018-02-14

Family

ID=53439593

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013250577A Active JP6277695B2 (en) 2013-12-03 2013-12-03 Imaging device, adjustment device, and adjustment method

Country Status (1)

Country Link
JP (1) JP6277695B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6260354B2 (en) 2014-03-04 2018-01-17 株式会社リコー Imaging device, adjustment device, and adjustment method

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2642260A4 (en) * 2010-11-16 2015-12-09 Nikon Corp Multiband camera, and multiband image capturing method
EP2536153B1 (en) * 2011-04-22 2016-04-13 Panasonic Intellectual Property Management Co., Ltd. Image capture device, image capture system, and image capture method
JP6060659B2 (en) * 2012-03-09 2017-01-18 株式会社リコー Imaging device

Also Published As

Publication number Publication date
JP2015109523A (en) 2015-06-11

Similar Documents

Publication Publication Date Title
JP6260354B2 (en) Imaging device, adjustment device, and adjustment method
US11405535B2 (en) Quad color filter array camera sensor configurations
US9307127B2 (en) Image capturing device and image capturing system
JP2015228641A (en) Imaging apparatus, exposure adjustment method and program
JP5201825B2 (en) Distance image acquisition apparatus and method
US9041930B1 (en) Digital pathology system
WO2014065056A1 (en) Imaging device, image processing method, and program
JP6224275B2 (en) Multispectral imaging device
JP6322939B2 (en) Imaging system and color inspection system
JP2014095688A (en) Imaging device and imaging system
TWI674396B (en) Method and system of determining spectral emission characteristics of incident radiation
US20230103720A1 (en) Lens device, imaging apparatus, and imaging method
WO2018143340A1 (en) Spectroscopic camera, image capturing method, program, and recording medium
WO2014122713A1 (en) Information acquisition device and object detection device
JP6277695B2 (en) Imaging device, adjustment device, and adjustment method
JP2010276469A (en) Image processor and image processing method of ranging apparatus
JP2010217334A (en) Filter for light receiving element and light receiving device
DK3007430T3 (en) CAMERA SYSTEM AND INSPECTION AND / OR MEASUREMENT OF OBJECTS
JP6361857B2 (en) Image reading apparatus and image reading program
JPWO2018012478A1 (en) Colorimeter
JP2014140117A (en) Camera apparatus and imaging method
EP4085272A1 (en) Alternating light distributions for active depth sensing
WO2020003673A1 (en) Spectral sensitivity measurement method for image sensors, inspection method for spectral sensitivity measurement devices, and spectral sensitivity measurement device
WO2024162255A1 (en) Imaging device, distance measuring device, inspecting device, imaging method, distance measuring method, inspecting method, and program
WO2023162675A1 (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180101

R151 Written notification of patent or utility model registration

Ref document number: 6277695

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151