JP2024028237A - Spectroscopic camera, method for imaging, program, and recording medium - Google Patents
Spectroscopic camera, method for imaging, program, and recording medium Download PDFInfo
- Publication number
- JP2024028237A JP2024028237A JP2023190733A JP2023190733A JP2024028237A JP 2024028237 A JP2024028237 A JP 2024028237A JP 2023190733 A JP2023190733 A JP 2023190733A JP 2023190733 A JP2023190733 A JP 2023190733A JP 2024028237 A JP2024028237 A JP 2024028237A
- Authority
- JP
- Japan
- Prior art keywords
- light
- image
- wavelength
- wavelength selection
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 79
- 238000000034 method Methods 0.000 title description 8
- 230000003287 optical effect Effects 0.000 claims abstract description 31
- 210000001747 pupil Anatomy 0.000 claims abstract description 25
- 238000010586 diagram Methods 0.000 description 16
- 238000009826 distribution Methods 0.000 description 14
- 230000005540 biological transmission Effects 0.000 description 13
- 239000000428 dust Substances 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000005286 illumination Methods 0.000 description 5
- 238000010408 sweeping Methods 0.000 description 5
- 230000003595 spectral effect Effects 0.000 description 4
- 238000003702 image correction Methods 0.000 description 3
- 230000001678 irradiating effect Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 238000002834 transmittance Methods 0.000 description 2
- 230000002950 deficient Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/12—Generating the spectrum; Monochromators
- G01J3/26—Generating the spectrum; Monochromators using multiple reflection, e.g. Fabry-Perot interferometer, variable interference filters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/46—Measurement of colour; Colour measuring devices, e.g. colorimeters
- G01J3/50—Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
- G01J3/51—Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
Landscapes
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Spectrometry And Color Measurement (AREA)
- Studio Devices (AREA)
- Blocking Light For Cameras (AREA)
- Optical Filters (AREA)
- Microscoopes, Condenser (AREA)
Abstract
Description
本発明は、分光カメラ、撮像方法、プログラム及び記録媒体に関する。 The present invention relates to a spectroscopic camera, an imaging method, a program, and a recording medium.
複数の分光情報を同時に取得し、取得した分光情報に基づいて画像を生成することが可能な分光カメラとして、プレノプティックカメラが用いられている。プレノプティックカメラにおいて、分光スペクトルを測定するため、メインレンズの絞り位置付近に分光透過率が異なる複数のバンドパスフィルタを配置した測定装置が提案されている(例えば、特許文献1)。 A plenoptic camera is used as a spectroscopic camera that can simultaneously acquire a plurality of pieces of spectral information and generate an image based on the acquired spectral information. In order to measure a spectral spectrum in a plenoptic camera, a measuring device has been proposed in which a plurality of bandpass filters having different spectral transmittances are arranged near the aperture position of a main lens (for example, Patent Document 1).
上記した従来技術では、有限個の固定されたバンドパスフィルタによりマルチスペクトル画像を取得するため、連続的なスペクトルを取得することができないという問題があった。 In the above-mentioned conventional technology, since a multispectral image is acquired using a finite number of fixed bandpass filters, there is a problem in that continuous spectra cannot be acquired.
また、一対の反射面の間隔を連続的に変化させることで、この反射面を透過する光の波長を連続的に変化させる技術は古くから知られている。この技術には反射面間の平行度や面精度が悪いと透過波長の半値幅が悪化するという問題がある。 Furthermore, a technique has long been known in which the wavelength of light transmitted through a pair of reflective surfaces is continuously changed by continuously changing the distance between a pair of reflective surfaces. This technique has a problem in that if the parallelism or surface precision between the reflecting surfaces is poor, the half-width of the transmitted wavelength deteriorates.
本発明が解決しようとする課題としては、一対の反射面の間隔を変化させることで透過波長の選択を行う分光カメラにおいて、製造上のばらつきなどに起因した波長選択性の悪化という問題が一例として挙げられる。 An example of the problem to be solved by the present invention is the problem of deterioration of wavelength selectivity due to manufacturing variations in a spectroscopic camera that selects the transmitted wavelength by changing the distance between a pair of reflective surfaces. Can be mentioned.
請求項1に記載の発明は、一対のレンズからなる光学系と、前記光学系の瞳の位置に互いに対向して配された一対の反射面を有し、印加電圧に応じて前記一対の反射面の間隔を変化させ、前記間隔に応じた波長の光を選択的に透過する波長選択部と、各々が前記光学系及び前記波長選択部を通過した光を集光するn個(nは自然数)のレンズを有するレンズアレイと、前記波長選択部と共役な位置に設けられ、前記n個のレンズにより集光された光を受光するn個の分割撮像領域を有する撮像素子と、を有することを特徴とする。
The invention according to
以下、本発明の実施例について、図面を参照して説明する。なお、以下の各実施例における説明及び添付図面においては、実質的に同一又は等価な部分には同一の参照符号を付している。 Embodiments of the present invention will be described below with reference to the drawings. In the following description of each embodiment and the accompanying drawings, substantially the same or equivalent parts are designated by the same reference numerals.
図1は、実施例1に係る分光カメラ10の構成を示す断面図である。分光カメラ10は、例えば物体X(被写体)に光を照射し、物体Xから反射された光又は物体Xを透過した光を受光することによって撮像を行う。分光カメラ10は、光学系11と、マイクロレンズアレイ12及びイメージセンサ13からなるカメラ14と、画像処理部15と、を含む。マイクロレンズアレイ12は、物体Xと共役な位置に配置されている。また、イメージセンサ13は、光学系11の瞳と共役な位置に配置されている。
FIG. 1 is a cross-sectional view showing the configuration of a
光学系11は、例えば凸レンズからなる第1のレンズL1及び第2のレンズL2を含む。第1のレンズL1及び第2のレンズL2の間にある光学系11の瞳の位置には、波長選択フィルタFFが配置されている。光学系11は、物体Xの位置に応じて距離の調整が可能な機構(ピント合わせの機構)を有し、物体Xとマイクロレンズアレイ12との共役関係とを維持するように調整される。
The
第1のレンズL1は物体Xからの光が入射する側(以下、入射側と称する)に配置され、第2のレンズL2はマイクロレンズアレイ12に光を出射する側(以下、出射側と称する)に配置されている。物体Xからの光は第1のレンズL1、波長選択フィルタFF及び第2のレンズL2を通ってマイクロレンズアレイ12に集光する。
The first lens L1 is arranged on the side where the light from the object ). Light from the object X passes through the first lens L1, the wavelength selection filter FF, and the second lens L2, and is focused on the
波長選択フィルタFFは、例えばファブリペロー型干渉フィルタから構成されている。波長選択フィルタFFは、対向して配置された反射膜RF1及びRF2からなり、反射膜間の間隔に応じた波長の光を透過する。波長選択フィルタFFは、電圧Vの印加を受け、反射膜RF1及びRF2の対抗する面同士の間隔d(以下、反射面間のギャップdと称する)を変化させることにより、透過する光の波長を選択的に設定することが可能に構成されている。 The wavelength selection filter FF is composed of, for example, a Fabry-Perot interference filter. The wavelength selection filter FF is made up of reflective films RF1 and RF2 that are arranged to face each other, and transmits light having a wavelength corresponding to the spacing between the reflective films. The wavelength selection filter FF changes the wavelength of transmitted light by changing the distance d between the opposing surfaces of the reflective films RF1 and RF2 (hereinafter referred to as the gap d between the reflective surfaces) upon application of a voltage V. It is configured so that it can be set selectively.
なお、波長選択フィルタFFにおける反射面間のギャップdは、均一な間隔となるように形成されているのが理想的であるが、製造時や組み立て時におけるばらつきにより、実際には不均一な部分(以下、反射面間のギャップdの不均一性と称する)が存在する。本実施例の分光カメラ10は、かかる反射面間のギャップdの不均一性に応じて撮像画像を補正する機能を有する。
Ideally, the gap d between the reflective surfaces of the wavelength selection filter FF should be formed so that the spacing is uniform, but due to variations during manufacturing and assembly, in reality, there may be uneven portions. (hereinafter referred to as non-uniformity of the gap d between the reflecting surfaces). The
マイクロレンズアレイ12は、縦横に配列されたn個(nは自然数)のマイクロレンズから構成されている。物体X上の異なる点からの光は、夫々異なるマイクロレンズに入射する。マイクロレンズの各々は通常のカメラにおける「画素」に対応し、マイクロレンズの数は通常のカメラにおける「画素数」に対応している。マイクロレンズアレイ12の各マイクロレンズは、光学系11を通過した光を受光し、イメージセンサ13に集光する。
The
イメージセンサ13は、マイクロレンズアレイ12により集光された光を受光し、これを電子情報に変換して撮像画像を得る撮像素子である。イメージセンサ13は、マイクロレンズアレイ12の各々のマイクロレンズに対応するn個の分割撮像領域から構成されている。マイクロレンズアレイ12の各々のマイクロレンズに入射した光は、イメージセンサ13の対応する分割撮像領域で受光される。異なるマイクロレンズに入射した光は、夫々異なる分割撮像領域で受光され、受光される分割撮像領域が重複しないように構成され
ている。
The
図2は、物体Xの一点(物体点Pと称する)からの光がイメージセンサ13で受光される様子を模式的に示す図である。物体点Pからの光は、第1のレンズL1、瞳EYE及び第2のレンズL2上の異なる領域を通って、マイクロレンズアレイ12のマイクロレンズML2に入射し、分割撮像領域R2で受光される。この物体点Pの像の輝度値は、分割撮像領域R2内における全画素の輝度値の総和で表される。従って、各分割撮像領域における全画素の輝度値の総和を取得することにより、マイクロレンズの位置にイメージセンサを配した通常のカメラで撮像した画像と同一の撮像結果(撮像画像)が得られる。
FIG. 2 is a diagram schematically showing how light from one point of the object X (referred to as object point P) is received by the
図3は、光学系11の瞳EYE上の一点からの光がイメージセンサ13で受光される様子を模式的に示す図である。瞳EYE上の一点からの光(すなわち、瞳EYE上の一点に入射した光)は、第2のレンズL2の異なる領域及びマイクロレンズアレイ12の異なるマイクロレンズを通って、イメージセンサ13の各々の分割撮像領域における同じ箇所に集光する。
FIG. 3 is a diagram schematically showing how light from one point on the pupil EYE of the
再び図1を参照すると、画像処理部15は、例えばCPU(Central Processing Unit)等から構成され、イメージセンサ13により取得された物体Xの画像に対して画像補正処理を行う。具体的には、画像処理部15は、事前撮影により得られたイメージセンサ13の各分割撮像領域における輝度分布に応じて画素領域を選択し、選択した画素領域の情報のみを用いて物体Xの撮像画像を構成する。事前撮影では、画像処理部15は、例えば波長選択フィルタFFへの印加電圧を掃引しながらイメージセンサ13により受光された信号をメモリ等の記憶部(図示せず)に記録し、記録された複数の信号情報に基づいて波長選択フィルタFFの透過波長の不均一性(すなわち、反射面のギャップdの不均一性)を示す輝度分布を得る。すなわち、画像処理部15は、波長選択フィルタFFの透過波長の不均一性を検出する検出部としての機能を有する。
Referring again to FIG. 1, the
イメージセンサ13の分割撮像領域内の輝度分布は、マイクロレンズアレイ12の対応するマイクロレンズに入射した光が瞳を通過する際にどのような輝度分布であったかを表すものである。従って、あるマイクロレンズに入射した光の輝度値を対応する分割撮像領域の特定の画素領域の和として算出すれば、瞳の特定の領域(分割撮像領域内の画素領域に対応する領域)を通過して受光した光の強度が得られる。さらに、全てのマイクロレンズの輝度値を対応する分割撮像領域の同じ画素領域の和として算出すれば、瞳の特定の領域を通過した光による画像が得られる。これにより、例えば光学系11の瞳に所定の形状を有する物理的な開口部を配置した場合と同様の画像が得られる。
The brightness distribution within the divided imaging area of the
図4は、ハート形の形状を有する物理的な開口部APを光学系の瞳位置に配置した場合の例を示す図である。イメージセンサ13の各分割撮像領域では、ハート形の形状(すなわち、開口部APの形状)の上下を反転させた画像が得られる。
FIG. 4 is a diagram showing an example in which a physical opening AP having a heart shape is arranged at the pupil position of the optical system. In each divided imaging area of the
これに対し、本実施例の分光カメラ10では、選択した画素領域のみを用いて輝度値を計算することにより、図5に示すように、光学系11の瞳に物理的な開口部(図では、ハート形の開口部)を配置した場合と同様の画像(図では、ハート形の上下を反転させた画像)を、物理的な開口部を配置することなく得ることができる。
On the other hand, in the
再び図1を参照すると、画像処理部15は、例えばCPU(Central Processing Unit)等から構成され、イメージセンサ13により取得された物体Xの画像に対して画像補正処理を行う。具体的には、画像処理部15は、事前撮影により得られたイメージセンサ13の各分割撮像領域における輝度分布に応じて画素領域を選択し、選択した画素領域の情報のみを用いて物体Xの撮像画像を構成する。事前撮影では、画像処理部15は、例えば波長選択フィルタFFへの印加電圧を掃引しながらイメージセンサ13により受光された信号をメモリ等の記憶部(図示せず)に記録し、記録された複数の信号情報に基づいて波長選択フィルタFFの透過波長の不均一性(すなわち、反射面のギャップdの不均一性)を示す輝度分布を得る。すなわち、画像処理部15は、波長選択フィルタFFの透過波長の不均一性を検出する検出部としての機能を有する。
Referring again to FIG. 1, the
イメージセンサ13の分割撮像領域内の輝度分布は、マイクロレンズアレイ12の対応するマイクロレンズに入射した光が瞳を通過する際にどのような輝度分布であったかを表すものである。従って、あるマイクロレンズに入射した光の輝度値を対応する分割撮像領域の特定の画素領域の和として算出すれば、瞳の特定の領域(分割撮像領域内の画素領域に対応する領域)を通過して受光した光の強度が得られる。さらに、全てのマイクロレンズの輝度値を対応する分割撮像領域の同じ画素領域の和として算出すれば、瞳の特定の領域を通過した光による画像が得られる。これにより、例えば光学系11の瞳に所定の形状を有する物理的な開口部を配置した場合と同様の画像が得られる。
The brightness distribution within the divided imaging area of the
図4は、ハート形の形状を有する物理的な開口部APを光学系の瞳位置に配置した場合の例を示す図である。イメージセンサ13の各分割撮像領域では、ハート形の形状(すなわち、開口部APの形状)の上下を反転させた画像が得られる。
FIG. 4 is a diagram showing an example in which a physical opening AP having a heart shape is arranged at the pupil position of the optical system. In each divided imaging area of the
これに対し、本実施例の分光カメラ10では、選択した画素領域のみを用いて輝度値を計算することにより、図5に示すように、光学系11の瞳に物理的な開口部(図では、ハート形の開口部)を配置した場合と同様の画像(図では、ハート形の上下を反転させた画像)を、物理的な開口部を配置することなく得ることができる。
On the other hand, in the
ところで、波長選択フィルタFFを構成するファブリペロー型干渉フィルタは、一組の平行な反射膜で構成される干渉フィルタであり、その反射面間のギャップを変化させることにより、透過する光の波長が変化する。反射面の反射率をR、反射面間のギャップをh0、入射光の波長をλとすると、ファブリペローフィルタの透過率T(λ)は、次の式(1)で表される。 By the way, the Fabry-Perot interference filter that constitutes the wavelength selection filter FF is an interference filter that is composed of a set of parallel reflective films, and by changing the gap between the reflective surfaces, the wavelength of the transmitted light can be changed. Change. When the reflectance of the reflective surface is R, the gap between the reflective surfaces is h 0 , and the wavelength of the incident light is λ, the transmittance T(λ) of the Fabry-Perot filter is expressed by the following equation (1).
R=1の反射面では、λ=2h0のときにだけ値を持ち、他の波長は通過させない完全な単色フィルタとなる。しかし、実際にはR<1となるため、λ=2h0を中心波長としたある範囲の波長を通過させることとなる。その半値幅FWHM(Full Width at Half Maximum)は、次の式(2)で表される。R→1の極限では、FWHM→0となる。 A reflective surface with R=1 has a value only when λ=2h 0 , and becomes a completely monochromatic filter that does not allow any other wavelengths to pass. However, in reality, R<1, so a certain range of wavelengths centered around λ=2h 0 will be passed. The full width at half maximum (FWHM) is expressed by the following equation (2). In the limit of R→1, FWHM→0.
R→1の極限では、FWHM→0となる。しかし、反射率Rが1であるとしても、実際に作成されるファブリペローフィルタでは反射面間のギャップが不均一であるため、透過光は完全な単色とはならない。 In the limit of R→1, FWHM→0. However, even if the reflectance R is 1, the transmitted light will not be completely monochromatic because the gap between the reflective surfaces is non-uniform in Fabry-Perot filters that are actually produced.
図6(a)及び(b)は、透過光の強度及び半値幅について、反射面間のギャップがほぼ均一である理想的な場合と端部付近においてギャップが不均一である場合とを比較して示す図である。 Figures 6 (a) and (b) compare the intensity and half-width of transmitted light between an ideal case where the gap between the reflective surfaces is almost uniform and a case where the gap is non-uniform near the edges. FIG.
図6(a)に示すように、フィルタの反射面内の全ての領域でギャップが均一な値(d=h0)となっているときには、反射面内の全ての箇所における透過光の波長は2h0であり、半値幅はほぼ0となる。 As shown in FIG. 6(a), when the gap has a uniform value (d=h 0 ) in all areas within the reflective surface of the filter, the wavelength of the transmitted light at all locations within the reflective surface is 2h 0 , and the half width is approximately 0.
これに対し、図6(b)に示すように、ギャップが不均一である場合には、d≠h0である領域ではλ=2h0以外の波長の光が透過することになり、半値幅は広くなる。 On the other hand, as shown in Figure 6(b), if the gap is non-uniform, in the region where d≠h 0 , light with a wavelength other than λ = 2h 0 will be transmitted, and the half-value width becomes wider.
このような半値幅の広がりを改善するためには、一般的にフィルタの直前又は直後に開口絞りを配置することが考えられる。例えば、図7(a)に示すように、フィルタの直前に開口絞りを配置することにより、光軸周辺のギャップが均一な領域のみに光を透過させ、半値幅を改善することができる。しかし、かかる方法では半値幅を改善することはできるものの、透過光の光量が小さくなってしまう。 In order to improve such a broadening of the half-width, it is generally considered to place an aperture stop immediately before or after the filter. For example, as shown in FIG. 7A, by arranging an aperture diaphragm just before the filter, light can be transmitted only through a region with a uniform gap around the optical axis, thereby improving the half-width. However, although this method can improve the half-width, the amount of transmitted light becomes small.
また、反射面間のギャップが光軸に対して非対称な不均一性を有する場合、図7(b)のように光軸に対して対称な開口絞りを配置すると透過光の光量がさらに小さくなるため、図7(c)に示すように、ギャップの不均一性に応じた開口絞りを配置する必要がある。しかし、実際にはどの部分が不均一なのかがフィルタによって様々であるため、適切な開口絞りを配置することは困難である。 Additionally, if the gap between the reflective surfaces has non-uniformity that is asymmetrical with respect to the optical axis, the amount of transmitted light will further decrease if an aperture stop is arranged symmetrically with respect to the optical axis as shown in Figure 7(b). Therefore, as shown in FIG. 7(c), it is necessary to arrange an aperture stop according to the non-uniformity of the gap. However, it is difficult to arrange an appropriate aperture diaphragm because the portions that are nonuniform actually vary depending on the filter.
これに対し、本実施例の分光カメラ10では、イメージセンサ13の各分割撮像領域における特定の画素領域のみを選択的に用いることにより画像を構成することが可能である。従って、物理的な開口絞りを設けることなく、波長選択フィルタFFの反射膜RF1及びRF2の間隔が均一な領域を通過した光のみを用いた画像を得ることができる。
In contrast, in the
次に、本実施例の分光カメラ10による撮像及び画素領域の選択方法について説明する。まず、被写体の撮影(実撮影)を行う前の事前撮影について、図8のフローチャート及び図9を参照して説明する。
Next, a method of imaging and selecting a pixel region using the
事前撮影では、図9に示すように、レーザLRから出射された単一の波長λ1の光を、レンズL3を介してスクリーンSCに照射する(ステップS101)。 In the preliminary photographing, as shown in FIG. 9, light with a single wavelength λ 1 emitted from the laser LR is irradiated onto the screen SC via the lens L3 (step S101).
分光カメラ10は、波長選択フィルタFFに印加する電圧Vを掃引しながら、スクリーンSCの撮影を行う。画像処理部15は、撮像素子であるイメージセンサ13で受光された信号を記録する(ステップS102)。
The
波長選択フィルタFFに印加する電圧Vを変化させることにより、反射膜RF1及びRF2の間隔が変化する。波長λ1の光を最も多く通過させる間隔となったときに、イメージセンサ13の各分割撮像領域の画像が最も明るくなる。このとき、分割撮像領域において得られた画像VDにおいて輝度が高い領域は、対応する瞳上の領域が波長λ1の光を通過している領域であり、反射面間のギャップd(すなわち、反射膜RF1及びRF2の間隔)が均一な領域を反映したものとなる。
By changing the voltage V applied to the wavelength selection filter FF, the interval between the reflective films RF1 and RF2 is changed. The image of each divided imaging area of the
画像処理部15は、記録された複数の信号情報に基づいて、波長選択フィルタの反射面間のギャップdの不均一性(透過波長の不均一性)を反映した分割撮像領域の輝度分布を取得する(ステップS103)。
The
なお、画素領域選択のための事前撮影を行う際には、単一波長のレーザ光で照明されたスクリーンSCを用いる代わりに、太陽光やハロゲン光などで照明されたスクリーンSCを波長λ1の光を通過するバンドパスフィルタを通して撮影しても良い。 Note that when performing preliminary imaging for pixel area selection, instead of using a screen SC illuminated with a single wavelength laser beam, a screen SC illuminated with sunlight or halogen light is used with a wavelength λ 1 . The image may be photographed through a bandpass filter that passes light.
例えば、図10に示すように、事前撮影時には入射側から見て光学系11の手前(すなわち、第1のレンズL1の手前)の光路上の位置に波長λ1の光を透過するバンドパスフィルタBPFを配置して照明光WLを照射して撮影を行い、実撮影時にはバンドパスフィルタBPFを外して撮影を行う。これにより、波長選択フィルタFFの反射面間のギャップに応じた輝度の分布を示す画素領域の情報を取得し、輝度が高い画素領域のみを用いて画像を構成することが出来る。また、図11に示すように、波長選択フィルタの手前の光路上の位置にバンドパスフィルタBPFを配置して事前撮影を行っても良い。すなわち、バンドパスフィルタBPFは光路上に配置されていれば良い。 For example, as shown in FIG. 10, during pre-photography, a bandpass filter that transmits light of wavelength λ 1 is placed on the optical path in front of the optical system 11 (that is, in front of the first lens L1) when viewed from the incident side. Photographing is performed by disposing a BPF and irradiating illumination light WL, and during actual photographing, the band pass filter BPF is removed and photographing is performed. As a result, it is possible to obtain information on pixel regions showing the distribution of brightness according to the gap between the reflective surfaces of the wavelength selection filter FF, and to construct an image using only pixel regions with high brightness. Furthermore, as shown in FIG. 11, a bandpass filter BPF may be placed on the optical path in front of the wavelength selection filter to perform preliminary imaging. That is, the bandpass filter BPF only needs to be placed on the optical path.
次に、被写体の撮影を行う実撮影について、図12のフローチャートを参照して説明する。 Next, actual photographing of a subject will be described with reference to the flowchart of FIG. 12.
まず、被写体(物体X)に対して分光カメラ10をセットする(ステップS201)。分光カメラ10は、波長選択フィルタFFに印加する電圧Vを掃引しながら、物体Xの撮影を行う(ステップS202)。その際、事前撮影とは異なり、単一波長の光ではなく太陽光や白色光等の照明光を用いて被写体の撮影を行う。そして、画像処理部15は、撮像素子であるイメージセンサ13において受光された信号を記録する。
First, the
画像処理部15は、事前撮影により得られた波長選択フィルタの反射面間のギャップdの不均一性を示す情報(すなわち、分割撮像領域内の輝度分布の情報)に基づいて、実撮影において反射面間のギャップdが均一な領域を通過した光を受光して得られた第1の画像情報と、不均一な領域を通過した光を受光して得られた第2の画像情報とを算出する(ステップS203)。画像処理部15は、第1の画像情報及び第2の画像情報に基づいて、最終的な撮像画像を得る(ステップS204)。
The
以上のように、本実施例の分光カメラ10によれば、事前撮影において波長選択フィルタFFの反射面間のギャップdに応じた輝度の分布を示す画像情報を取得し、事前撮影において輝度値が高かった画素領域のみを選択的に用いることにより、波長選択フィルタFFの反射面間のギャップdが均一な領域を通過した光のみを用いて構成された撮像画像を得ることができる。従って、フィルタにおいて透過波長が不均一な領域が存在するような場合においても、高精度の画像を取得することが可能となる。
As described above, according to the
図13は、実施例2に係る分光カメラ20の構成を示す断面図である。本実施例の分光カメラ20は、マイクロレンズアレイ12を構成するマイクロレンズのうちの1つの出射側表面にバンドパスフィルタBPFが固定して設けられている点で、実施例1の分光カメラ10と異なる。
FIG. 13 is a cross-sectional view showing the configuration of a spectroscopic camera 20 according to the second embodiment. The spectroscopic camera 20 of this embodiment differs from the
マイクロレンズアレイ12の端部に位置するマイクロレンズML1の出射側の表面(すなわち、イメージセンサ13側の表面)には、透過波長λ1(通過帯域の中心波長がλ1)のバンドパスフィルタBPFが設けられている。マイクロレンズML1は画素選択用のマイクロレンズとして機能し、その他のマイクロレンズは撮像用のマイクロレンズとして機能する。
A bandpass filter BPF with a transmission wavelength λ 1 (the center wavelength of the passband is λ 1 ) is provided on the exit side surface (that is, the surface on the
イメージセンサ13は、マイクロレンズアレイ12のマイクロレンズML1に対応する分割撮像領域R1を有する。分割撮像領域R1は、マイクロレンズML1に対応する位置(例えばイメージセンサの端部)に設けられている。分割撮像領域R1は画素選択用の分割撮像領域として機能し、その他の分割撮像領域は撮像用の分割撮像領域として機能する。
The
物体Xの撮影時において、マイクロレンズML1に入射した光のうち波長λ1の光のみが、バンドパスフィルタBPFを通ってイメージセンサ13の分割撮像領域R1で受光される。従って、分割撮像領域R1では、波長選択フィルタFFの反射面間のギャップdを反映した輝度分布を有する画素選択用の画像VDが取得される。
When photographing the object X, of the light incident on the microlens ML1, only the light with wavelength λ1 passes through the bandpass filter BPF and is received by the divided imaging region R1 of the
一方、マイクロレンズアレイ12のマイクロレンズML1以外の領域を通過した光は、バンドパスフィルタBPFを通らずに、イメージセンサ13のその他の分割撮像領域で受光される。従って、イメージセンサ13の分割撮像領域R1以外の分割撮像領域では、物体Xを撮影した通常の撮像画像が得られる。
On the other hand, light that has passed through areas other than the microlens ML1 of the
画像処理部15は、分割撮像領域R1において得られた画素選択用の画像VDの画像情報に基づいて、分割撮像領域R1以外で得られた撮像画像に対して画像補正処理を行う。具体的には、画像処理部15は、画素選択用の画像VDに示される輝度分布に応じて画素領域を選択し、選択した画素領域のみを用いて物体Xの撮像画像を構成する。
The
従って、本実施例の分光カメラ20によれば、事前撮影及び実撮影という2つのステップで撮影を行う必要がある実施例1とは異なり、一度の撮影により、輝度が高い画素領域のみを用いた撮像画像を得ることが可能となる。 Therefore, according to the spectroscopic camera 20 of this embodiment, unlike in the first embodiment, in which it is necessary to perform imaging in two steps: preliminary imaging and actual imaging, only the pixel areas with high brightness are used in one imaging. It becomes possible to obtain a captured image.
なお、上記構成とは異なり、バンドパスフィルタBPFを複数設けた構成としても良い。例えば、図14に示すように、いずれも透過波長(通過帯域の中心波長)がλ1である2つのバンドパスフィルタBPFをマイクロレンズアレイ12の両端部のマイクロレンズの出射側の表面に設け、対応する2つの分割撮像領域(分割撮像領域R1及びRx)を画素選択用の分割撮像領域とする。これにより、画素選択用の画像VDが複数得られるため、画素選択を精度よく行うことができる。
Note that, unlike the above configuration, a configuration may be adopted in which a plurality of band pass filters BPF are provided. For example, as shown in FIG. 14, two bandpass filters BPF, both of which have a transmission wavelength (center wavelength of the passband) of λ 1 , are provided on the exit side surfaces of the microlenses at both ends of the
また、図15に示すように、透過波長が異なる複数のバンドパスフィルタBPF1(透過波長λ1)及びBPF2(透過波長λ2)を設けた構成としても良い。分割撮像領域R1における画素選択用の画像と、分割撮像領域Rxにおける画素選択用の画像は、夫々異なる電圧Vを波長選択フィルタFFに印加した際に取得される。例えば、電圧V=V1のときに分割撮像領域R1において画素選択用の画像VD1が得られ、電圧V=V2のときに分割撮像領域Rxにおいて画素選択用の画像VD2が得られる。この場合においても、複数の画素選択用の画像に基づいて画素の選択を行うことができるため、画素選択を精度よく行うことができる。 Furthermore, as shown in FIG. 15, a configuration may be adopted in which a plurality of bandpass filters BPF1 (transmission wavelength λ 1 ) and BPF2 (transmission wavelength λ 2 ) having different transmission wavelengths are provided. The image for pixel selection in the divided imaging region R1 and the image for pixel selection in the divided imaging region Rx are acquired when different voltages V are applied to the wavelength selection filter FF. For example, when voltage V= V1 , a pixel selection image VD1 is obtained in the divided imaging region R1, and when voltage V= V2 , a pixel selection image VD2 is obtained in the divided imaging region Rx. Even in this case, since pixels can be selected based on a plurality of images for pixel selection, pixel selection can be performed with high accuracy.
また、半値幅が異なる複数のバンドパスフィルタを設けた構成としても良い。例えば、図16(a)に示すように、透過波長の中心がλ1で且つ半値幅がW1であるバンドパスフィルタBPFAと、透過波長の中心がλ1で且つ半値幅がW2であるバンドパスフィルタBPFBとを、マイクロレンズアレイ12の両端部のマイクロレンズの出射側の表面に設ける。半値幅W2>半値幅W1とすると、図16(b)に示すように、半値幅の小さいバンドパスフィルタBPFAでは透過光の光量が小さく、半値幅の大きいバンドパスフィルタBPFBでは透過光の光量が大きくなる。従って、分割撮像領域Aにおいて得られる画素選択用の画像VD1及び分割撮像領域Bにおいて得られる画素選択用の画像VD3に基づいて、半値幅優先の画素選択と透過光量優先の画素選択とを切り替えつつ行うことができる。
Further, a configuration may be adopted in which a plurality of bandpass filters having different half widths are provided. For example, as shown in FIG. 16(a), there is a band pass filter BPFA whose transmission wavelength is centered at λ 1 and whose half-width is W 1 , and a band-pass filter BPFA whose transmission wavelength is centered at λ 1 and whose half-width is W 2 . A bandpass filter BPFB is provided on the exit side surface of the microlenses at both ends of the
なお、本発明の実施形態は、上記実施例1及び2で示したものに限られない。例えば、上記実施例では、ある電圧Vが波長選択フィルタFFに印加された状態において、イメージセンサ13の分割撮像領域内で輝度値の高い画素領域を選択して画像処理を行う構成について説明した。例えば、ある単色光を入射させたときに図9のような画像が分割撮像領域で得られた場合、輝度の高い画素領域(図中、白で表される領域)の画素のみを有効画素とし、その他の領域(図中、グレー及び黒で表される領域)の画素の情報は捨てるという判断をしていた。しかし、波長選択フィルタFFに印加する電圧を変化させることにより輝度の高い画素領域は変化するため、複数の電圧における情報を加算して画像情報を得る構成としても良い。
Note that the embodiments of the present invention are not limited to those shown in Examples 1 and 2 above. For example, in the above embodiment, a configuration has been described in which a pixel region with a high luminance value is selected within the divided imaging region of the
例えば、波長選択フィルタFFに印加する電圧(以下、印加電圧と称する)をV=V1の前後で変化させ、印加電圧V1のときにグレーで表されていた画素領域の輝度値が印加電圧V2において最大となり、印加電圧V1の時に黒で表されていた画素領域の輝度値が印加電圧V3において最大となったとする。この場合、夫々の電圧値における画素領域の情報を加算して、対応するマイクロレンズの輝度値を算出することにより、波長選択フィルタFFの全面の情報から波長λ1の画像を得ることができ、光量のロスをさらに減らすことができる。このように1つの波長の画像情報を得るために、複数の印加電圧とその印加電圧に対応した分割撮像領域内のピクセル(画素領域)を使用することにより、光利用効率を最大限確保しつつ、半値幅を改善することが可能となる。 For example, by changing the voltage applied to the wavelength selection filter FF (hereinafter referred to as the applied voltage) before and after V= V1 , the brightness value of the pixel area represented in gray when the applied voltage is V1 is changed to the applied voltage. Suppose that the brightness value of the pixel area reaches a maximum at V2 , and the brightness value of the pixel area, which was represented in black at the applied voltage V1 , reaches the maximum at the applied voltage V3 . In this case, by adding the information of the pixel area at each voltage value and calculating the brightness value of the corresponding microlens, an image of wavelength λ 1 can be obtained from the information of the entire surface of the wavelength selection filter FF, The loss of light amount can be further reduced. In order to obtain image information of one wavelength in this way, by using multiple applied voltages and pixels (pixel areas) within the divided imaging area corresponding to the applied voltages, we can maximize light utilization efficiency while ensuring maximum light utilization efficiency. , it becomes possible to improve the half width.
また、印加電圧V1のときのグレーの領域は別の波長λ2の情報であり、黒の領域はさらに別の波長λ3の情報であるとも言えるため、印加電圧ごとに複数波長の情報を取得することが可能である。従って、印加電圧Vを掃引しながらこれらの情報をメモリ(図示せず)等に保持しておき、最後に同じ波長の情報の加算を行うことで各マイクロレンズの輝度値を算出することにより、同様の結果を得ることが出来る。 Furthermore, when the applied voltage is V 1 , the gray area is information on another wavelength λ 2 , and the black area is information on another wavelength λ 3 , so information on multiple wavelengths is stored for each applied voltage. It is possible to obtain. Therefore, by holding this information in a memory (not shown) or the like while sweeping the applied voltage V, and finally calculating the brightness value of each microlens by adding the information of the same wavelength, Similar results can be obtained.
なお、本発明において波長選択フィルタFFは光学系11の瞳部分に配置されるため、瞳におけるある座標を通過した光はマイクロレンズアレイ12の全てのマイクロレンズに一様に入射する。従って、波長選択フィルタFFの反射面間のギャップdに不均一な部分(むら)がある場合には、フィルタのどこを通過した光がマイクロレンズアレイ12に入射するかは時刻により変化するが、各マイクロレンズに光が入射するタイミングは揃っているので、イメージセンサ13において得られる画像にむらは生じない。また、フィルタ上に汚れや欠陥部分があった場合には、汚れや欠陥の面積分だけ輝度が低下するものの、イメージセンサ13において得られる画像に画素の欠陥は生じない。
Note that in the present invention, the wavelength selection filter FF is arranged in the pupil portion of the
また、本発明の分光カメラによれば、波長選択フィルタにごみ等が付着していた場合でも、これを避けて被写体を撮影することが可能である。例えば、図17に示すように、波長選択フィルタFFにごみGBが付着していた場合、白色光等の照明光WLで照明されたスクリーンSCを撮影すると、イメージセンサ13の全ての分割撮像領域にごみGBが映り込むことになる。そこで、ごみGBが映り込む領域を避けて画素領域を選択することにより、ごみGBを避けつつ撮影を行うことが可能となる。また、ごみ以外にも、汚れや傷など、その場所を予測できない異物に対しても対応することが可能である。
Further, according to the spectroscopic camera of the present invention, even if dust or the like is attached to the wavelength selection filter, it is possible to avoid this and photograph the subject. For example, as shown in FIG. 17, when dust GB is attached to the wavelength selection filter FF, when a screen SC illuminated with illumination light WL such as white light is photographed, all divided imaging areas of the
また、上記実施例では、分光カメラ10及び20がn個のマイクロレンズが縦横に配列されたマイクロレンズアレイ12を有する例について説明した。しかし、レンズの種類及び配列はこれに限られず、分光カメラはn個のレンズを有するレンズアレイを有していれば良い。
Furthermore, in the above embodiments, an example has been described in which the
また、上記実施例2ではバンドパスフィルタがマイクロレンズの出射面側の表面に設けられている例について説明したが、バンドパスフィルタが配置される位置はこれに限られず、マイクロレンズに集光する光の光路上に配置されていれば良い。また、両端部のマイクロレンズに限らずn個のマイクロレンズのいずれかに対応した位置に配置されていれば良い。 In addition, in the above-mentioned Example 2, an example was explained in which the band-pass filter is provided on the surface of the exit surface of the microlens, but the position where the band-pass filter is arranged is not limited to this, and the light is focused on the microlens. It is sufficient if it is placed on the optical path of light. Moreover, it is not limited to the microlenses at both ends, but may be arranged at a position corresponding to any one of the n microlenses.
また、上記各実施例で説明した一連の処理は、例えばROMなどの記録媒体に格納されたプログラムに従ったコンピュータ処理により行うことができる。 Furthermore, the series of processes described in each of the above embodiments can be performed by computer processing according to a program stored in a recording medium such as a ROM.
10,20 分光カメラ
11 光学系
12 マイクロレンズアレイ
13 イメージセンサ
14 カメラ
15 画像処理部
10, 20
Claims (1)
前記光学系の瞳の位置に互いに対向して配された一対の反射面を有し、印加電圧に応じて前記一対の反射面の間隔を変化させ、前記間隔に応じた波長の光を選択的に透過する波長選択部と、
各々が前記光学系及び前記波長選択部を通過した光を集光するn個(nは自然数)のレンズを有するレンズアレイと、
前記波長選択部と共役な位置に設けられ、前記n個のレンズにより集光された光を受光するn個の分割撮像領域を有する撮像素子と、
を有することを特徴とする分光カメラ。 An optical system consisting of a pair of lenses,
The optical system has a pair of reflective surfaces arranged opposite to each other at the position of the pupil, and the distance between the pair of reflective surfaces is changed according to an applied voltage to selectively emit light with a wavelength corresponding to the distance. a wavelength selection section that transmits the
a lens array having n lenses (n is a natural number) each condensing light that has passed through the optical system and the wavelength selection section;
an imaging element provided at a position conjugate with the wavelength selection section and having n divided imaging regions that receive light condensed by the n lenses;
A spectroscopic camera characterized by having.
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017017768 | 2017-02-02 | ||
JP2017017768 | 2017-02-02 | ||
JP2020215192A JP2021063824A (en) | 2017-02-02 | 2020-12-24 | Spectroscopic camera, method for imaging, program, and recording medium |
JP2021198347A JP7164694B2 (en) | 2017-02-02 | 2021-12-07 | Spectral camera, imaging method, program and recording medium |
JP2022168289A JP2023010706A (en) | 2017-02-02 | 2022-10-20 | Spectroscopic camera, imaging method, program and recording medium |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022168289A Division JP2023010706A (en) | 2017-02-02 | 2022-10-20 | Spectroscopic camera, imaging method, program and recording medium |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024028237A true JP2024028237A (en) | 2024-03-01 |
Family
ID=63039832
Family Applications (5)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018565643A Pending JPWO2018143340A1 (en) | 2017-02-02 | 2018-02-01 | Spectral camera, imaging method, program, and recording medium |
JP2020215192A Pending JP2021063824A (en) | 2017-02-02 | 2020-12-24 | Spectroscopic camera, method for imaging, program, and recording medium |
JP2021198347A Active JP7164694B2 (en) | 2017-02-02 | 2021-12-07 | Spectral camera, imaging method, program and recording medium |
JP2022168289A Ceased JP2023010706A (en) | 2017-02-02 | 2022-10-20 | Spectroscopic camera, imaging method, program and recording medium |
JP2023190733A Pending JP2024028237A (en) | 2017-02-02 | 2023-11-08 | Spectroscopic camera, method for imaging, program, and recording medium |
Family Applications Before (4)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018565643A Pending JPWO2018143340A1 (en) | 2017-02-02 | 2018-02-01 | Spectral camera, imaging method, program, and recording medium |
JP2020215192A Pending JP2021063824A (en) | 2017-02-02 | 2020-12-24 | Spectroscopic camera, method for imaging, program, and recording medium |
JP2021198347A Active JP7164694B2 (en) | 2017-02-02 | 2021-12-07 | Spectral camera, imaging method, program and recording medium |
JP2022168289A Ceased JP2023010706A (en) | 2017-02-02 | 2022-10-20 | Spectroscopic camera, imaging method, program and recording medium |
Country Status (2)
Country | Link |
---|---|
JP (5) | JPWO2018143340A1 (en) |
WO (1) | WO2018143340A1 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2018143340A1 (en) * | 2017-02-02 | 2020-01-09 | パイオニア株式会社 | Spectral camera, imaging method, program, and recording medium |
JP7309640B2 (en) * | 2020-03-18 | 2023-07-18 | 株式会社東芝 | optical inspection equipment |
JP2023034706A (en) * | 2021-08-31 | 2023-03-13 | 株式会社島津製作所 | Spectroscopic detector |
CN113905164A (en) * | 2021-10-09 | 2022-01-07 | 奕目(上海)科技有限公司 | Light field imaging system and method for acquiring light field information through light field imaging system |
JP7312925B1 (en) | 2022-03-25 | 2023-07-21 | 株式会社アマダ | Laser processing path allocation method, laser processing method, and laser processing path allocation device |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000028931A (en) * | 1998-07-09 | 2000-01-28 | Tdk Corp | Multiple wavelength filter array |
EP1941314A4 (en) * | 2005-10-07 | 2010-04-14 | Univ Leland Stanford Junior | Microscopy arrangements and approaches |
JP2014089075A (en) * | 2012-10-29 | 2014-05-15 | Ricoh Co Ltd | Spectral reflectance measuring system |
WO2015083162A1 (en) * | 2013-12-05 | 2015-06-11 | B.G. Negev Technologies And Applications Ltd., At Ben-Gurion University | Method for extended depth of field imaging |
JP6536877B2 (en) * | 2014-07-31 | 2019-07-03 | パナソニックIpマネジメント株式会社 | Imaging device and imaging system |
JP2016090251A (en) * | 2014-10-30 | 2016-05-23 | セイコーエプソン株式会社 | Spectrometer and spectrometric method |
US9883798B2 (en) * | 2014-11-14 | 2018-02-06 | Ricoh Company, Ltd. | Simultaneous capture of filtered images of the eye |
JPWO2018143340A1 (en) * | 2017-02-02 | 2020-01-09 | パイオニア株式会社 | Spectral camera, imaging method, program, and recording medium |
-
2018
- 2018-02-01 JP JP2018565643A patent/JPWO2018143340A1/en active Pending
- 2018-02-01 WO PCT/JP2018/003400 patent/WO2018143340A1/en active Application Filing
-
2020
- 2020-12-24 JP JP2020215192A patent/JP2021063824A/en active Pending
-
2021
- 2021-12-07 JP JP2021198347A patent/JP7164694B2/en active Active
-
2022
- 2022-10-20 JP JP2022168289A patent/JP2023010706A/en not_active Ceased
-
2023
- 2023-11-08 JP JP2023190733A patent/JP2024028237A/en active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2018143340A1 (en) | 2018-08-09 |
JP2021063824A (en) | 2021-04-22 |
JPWO2018143340A1 (en) | 2020-01-09 |
JP2022050396A (en) | 2022-03-30 |
JP7164694B2 (en) | 2022-11-01 |
JP2023010706A (en) | 2023-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7164694B2 (en) | Spectral camera, imaging method, program and recording medium | |
EP2169459B1 (en) | Image sensing apparatus, image sensing system and focus detection method | |
US11140311B2 (en) | Detecting apparatus and detecting method | |
US9531963B2 (en) | Image capturing device and image capturing system | |
JP5898481B2 (en) | Imaging apparatus and focus detection method | |
US9398272B2 (en) | Low-profile lens array camera | |
JPWO2005081020A1 (en) | Optics and beam splitters | |
US11388383B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
US11184521B2 (en) | Focus detection apparatus, focus detection method, and storage medium | |
JP6991957B2 (en) | Image processing device, image pickup device and image processing method | |
KR20100084819A (en) | Wavelength detecting apparatus and focus detecting apparatus having the same | |
US11323602B2 (en) | Systems and methods for high-magnification high-resolution photography using a small imaging system | |
JP4208536B2 (en) | Focus detection device, imaging device having the same, and photographing lens | |
JP7146477B2 (en) | Detection device and detection method | |
JP7387265B2 (en) | Imaging element, imaging device, control method, and program | |
JP6529214B2 (en) | Imaging device | |
JP2017219791A (en) | Control device, imaging device, control method, program, and storage medium | |
JP6789810B2 (en) | Image processing method, image processing device, and imaging device | |
JP7237476B2 (en) | Focus detection method | |
JP2018026604A (en) | Imaging device and imaging device system | |
JP6632582B2 (en) | Imaging device and control method thereof | |
JP6765829B2 (en) | Image processing device, control method of image processing device, imaging device | |
JP2019219499A (en) | Controller, imaging apparatus, control method, program, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240416 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20241008 |