JP2022160861A - Digital hologram signal processing device and digital hologram imaging and reproducing device - Google Patents

Digital hologram signal processing device and digital hologram imaging and reproducing device Download PDF

Info

Publication number
JP2022160861A
JP2022160861A JP2021065331A JP2021065331A JP2022160861A JP 2022160861 A JP2022160861 A JP 2022160861A JP 2021065331 A JP2021065331 A JP 2021065331A JP 2021065331 A JP2021065331 A JP 2021065331A JP 2022160861 A JP2022160861 A JP 2022160861A
Authority
JP
Japan
Prior art keywords
image
digital hologram
depth
signal processing
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021065331A
Other languages
Japanese (ja)
Inventor
輝吉 信川
Terukichi Nobukawa
祐太郎 片野
Yutaro Katano
正英 後藤
Masahide Goto
哲彦 室井
Tetsuhiko Muroi
紀彦 石井
Norihiko Ishii
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2021065331A priority Critical patent/JP2022160861A/en
Publication of JP2022160861A publication Critical patent/JP2022160861A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Holo Graphy (AREA)
  • Optical Recording Or Reproduction (AREA)

Abstract

To correctly obtain a feeling of depth such as the depth position, depth order, etc., of a subject and to compose an image of the subject together with an image picked up with a normal camera.SOLUTION: A digital hologram signal processing device comprises: in-focus/depth position information acquisition means 18A which acquires an in-focus image of a subject and depth position information on the in-focus image from a recomposed image of a digital hologram; reference image acquisition means 18B which adds respective obtained in-focus images to acquire a reference image B through computation for specifying an in-region in-focus image set at a desired depth position in a depth-of-field region; defocus image group acquisition means 18C which acquires a defocus image group Dd through computation for specifying an out-region in-focus image arranged at the desired depth position outside the depth-of-field region; and reference image/defocus image group addition means 18D which adds the obtained reference image B and the obtained defocus image group Dd to each other to obtain an incoherent response image.SELECTED DRAWING: Figure 4

Description

本発明はディジタルホログラム信号処理装置およびディジタルホログラム撮像再生装置に関し、コヒーレント光およびインコヒーレント光のいずれを用いた場合にも、所望の再構成像を作成することが可能なディジタルホログラム信号処理装置およびディジタルホログラム撮像再生装置に関する。 The present invention relates to a digital hologram signal processing device and a digital hologram imaging/reproducing device, and to a digital hologram signal processing device and a digital hologram signal processing device capable of creating a desired reconstructed image using either coherent light or incoherent light. The present invention relates to a hologram imaging/reproducing device.

ディジタルホログラフィの技術では、光の干渉を利用することで被写体の3次元情報を反映したホログラムを撮像素子や光検出器をはじめとする光電子デバイスで撮像し、これをディジタルホログラムとして信号処理部のメモリに保存する。このメモリに保存されたディジタルホログラムを空間光変調器で表示することにより、肉眼で観察可能な被写体の3次元映像を再生できる。また、信号処理部において、ディジタルホログラムに対して回折伝搬の計算を施すことで、任意の奥行位置の2次元画像を再構成することができ、被写体撮像後に焦点位置を任意に変更するリフォーカスが可能である(下記非特許文献1を参照)。 In digital holography technology, a hologram that reflects the three-dimensional information of a subject is captured by an optoelectronic device such as an image sensor or a photodetector by utilizing the interference of light. Save to By displaying the digital hologram stored in this memory with a spatial light modulator, a three-dimensional image of an object observable with the naked eye can be reproduced. In addition, by performing diffraction propagation calculations on the digital hologram in the signal processing unit, it is possible to reconstruct a two-dimensional image at an arbitrary depth position. It is possible (see Non-Patent Document 1 below).

ディジタルホログラフィの技術を用いることにより、上述の立体撮像・表示やリフォーカスといった有用な機能を実現することができるが、従来のディジタルホログラフィの技術の多くで、光源としてコヒーレンスが高いレーザー光の使用が必須であった。しかしながら、インコヒーレントディジタルホログラフィの技術の進展により、光源に要求される空間コヒーレンスの問題が緩和されたことで、太陽光や蛍光、LEDをはじめとするインコヒーレント光を用いてもディジタルホログラムを撮像でき、上述の立体撮像・表示やリフォーカスを実現できることが示され、ディジタルホログラフィの応用範囲が着実に拡大している(下記特許文献1、2を参照)。 By using digital holography technology, it is possible to realize the above-mentioned useful functions such as stereoscopic imaging/display and refocusing. was essential. However, with the progress of incoherent digital holography technology, the problem of spatial coherence required for the light source has been alleviated, and it is now possible to capture digital holograms using incoherent light such as sunlight, fluorescence, and LEDs. , it has been shown that the above-described stereoscopic imaging/display and refocusing can be realized, and the application range of digital holography is steadily expanding (see Patent Documents 1 and 2 below).

レーザー光(コヒーレント光)を光源とするディジタルホログラフィ(下記非特許文献1を参照)、およびインコヒーレント光を光源とするインコヒーレントディジタルホログラフィ(下記特許文献1、2を参照)は、使用光源のコヒーレンス長とディジタルホログラム作成用の干渉光学系の構成は異なるものの、2次元画像を再構成するために用いる回折伝搬の計算は共通であり、この場合は、フレネル回折積分や角スペクトル法(あるいは平面波展開)が共通して用いられる。これらの回折計算では、光の時間的・空間的コヒーレンスが大きいことを暗黙のうちに前提としており、その再構成像のぼやけの状態は、コヒーレント光の応答を示す。
なお、インコヒーレントディジタルホログラフィにおいても、撮像時はインコヒーレント光が対象とされているものの、再構成時の像は、コヒーレント光に係る性質を示す。
このコヒーレント光の応答は、光の波面情報を用いて3次元情報を再構成する上では不可欠な応答であり、3次元映像を再生する際に問題となることはない。
Digital holography using a laser light (coherent light) as a light source (see Non-Patent Document 1 below) and incoherent digital holography using an incoherent light as a light source (see Patent Documents 1 and 2 below) are based on the coherence of the light source used. Although the length and configuration of the interference optical system for digital hologram production are different, the calculation of diffraction propagation used to reconstruct a two-dimensional image is common.In this case, Fresnel diffraction integration and angular spectrum method (or plane wave expansion) ) are commonly used. These diffraction calculations implicitly assume that the light has high temporal and spatial coherence, and the blurriness of the reconstructed image indicates the coherent light response.
Also in incoherent digital holography, although incoherent light is targeted at the time of imaging, the image at the time of reconstruction exhibits properties related to coherent light.
This coherent light response is essential for reconstructing three-dimensional information using wavefront information of light, and poses no problem when reproducing three-dimensional images.

したがって、ディジタルホログラフィにおける2次元画像を再構成した像のぼやけの状態は、インコヒーレント光に基づく一眼レフカメラやスマートフォンのような通常のカメラのぼやけ状態と全く異なる。つまり、3次元映像を撮像する技術であるディジタルホログラフィにより、上述する通常の手法で2次元画像を出力してしまうと、通常のカメラを使用してきたユーザーは、ディジタルホログラフィにおける2次元画像のぼやけの状態を不自然に感じてしまう。 Therefore, the blurred state of an image obtained by reconstructing a two-dimensional image in digital holography is completely different from the blurred state of a normal camera such as a single-lens reflex camera or a smartphone based on incoherent light. In other words, if a two-dimensional image is output by the above-described normal method using digital holography, which is a technology for capturing three-dimensional images, the user who has used a normal camera will experience blurring of the two-dimensional image in digital holography. The situation feels unnatural.

さらに、通常、人間はぼやけ具合(デフォーカスの大小)により物体の奥行、奥行方向の遠近の順序関係などを判断していることが知られており(下記非特許文献2、3を参照)、従来のディジタルホログラム撮像再生装置では、2次元画像から感じられる奥行感覚が正しく得られない。また、ディジタルホログラム撮像再生装置で撮像した映像を、ディジタルホログラム撮像再生装置ではない、通常のカメラで撮像した映像と合成しながら映像素材を構成する場合に、不整合が生じる。 Furthermore, it is known that humans normally judge the depth of an object, the order of perspective in the depth direction, etc., based on the degree of blurring (magnitude of defocus) (see Non-Patent Documents 2 and 3 below). A conventional digital hologram imaging/reproducing apparatus cannot provide a correct sense of depth from a two-dimensional image. Further, inconsistency occurs when an image material is composed by synthesizing an image picked up by a digital hologram imaging/reproducing device with an image picked up by a normal camera, not a digital hologram imaging/reproducing device.

特表2016-533542号公報Japanese Patent Publication No. 2016-533542 特開2020-060709号公報Japanese Patent Application Laid-Open No. 2020-060709

Georges Nehmetallah and Partha P. Banerjee、「Applications of digital and analog holography in three-dimensional imaging」、Advances in Optics and Photonics、(2012)、vol. 4、pp. 472-553.Georges Nehmetallah and Partha P. Banerjee, "Applications of digital and analog holography in three-dimensional imaging", Advances in Optics and Photonics, (2012), vol. 4, pp. 472-553. Alex Paul Pentland、「A new sense for depth of field」、IEEE Transactions on pattern analysis and machine intelligence、(1987)、vol. 4、pp. 523-531.Alex Paul Pentland, "A new sense for depth of field," IEEE Transactions on pattern analysis and machine intelligence, (1987), vol. 4, pp. 523-531. George Mather and David R R Smith、「Blur discrimination and its relation to blur-mediated depth perception」、Perception、(2002)、vol. 31、pp. 1211-1219.George Mather and David R R Smith, "Blur discrimination and its relation to blur-mediated depth perception," Perception, (2002), vol. 31, pp. 1211-1219.

従来のディジタルホログラフィで回折伝搬計算により2次元画像を再構成する際に、フォーカス面からはずれたデフォーカス面の光分布のぼやけ状態は、コヒーレント光の応答を示してリンギングや光の特異点が発生してしまい、通常のカメラを用いた場合のような滑らかなぼやけを得ることができないという問題がある。 When reconstructing a two-dimensional image by diffraction propagation calculation with conventional digital holography, the blurred state of the light distribution on the defocused plane, which is out of focus, shows the response of coherent light, and ringing and light singularities occur. There is a problem that it is not possible to obtain smooth blurring as in the case of using a normal camera.

このように、被写体の奥行位置や奥行順序の奥行感覚が正しく得られないことに加え、通常のカメラで撮像した映像と合成することができない。さらに、ディジタルホログラフィにおける像のぼやけ量は、撮像再生装置と被写体間の距離で決定されてしまう。 In this way, in addition to the fact that the depth position of the subject and the depth sense of the depth order cannot be obtained correctly, it is not possible to synthesize the images captured by a normal camera. Furthermore, the amount of image blur in digital holography is determined by the distance between the imaging and reproducing device and the subject.

本発明はこのような問題を解決するためになされたものであり、被写体の奥行位置や奥行順序等の奥行感覚を正しく得ることができ、通常のカメラで撮像した映像と合成することが可能であり、さらに、ディジタルホログラフィにおける像のぼやけ量を、容易に調整可能なディジタルホログラム信号処理装置およびディジタルホログラム撮像再生装置を提供することを目的とするものである。 The present invention has been made to solve such a problem, and it is possible to obtain a correct sense of depth such as the depth position and depth order of a subject, and to synthesize it with an image captured by a normal camera. Further, it is an object of the present invention to provide a digital hologram signal processing device and a digital hologram imaging/reproducing device capable of easily adjusting the amount of image blur in digital holography.

本発明のディジタルホログラム信号処理装置は、
被写体の3次元情報を光の干渉を利用して撮像するディジタルホログラム撮像再生装置の信号処理を行うディジタルホログラム信号処理装置において、
該ディジタルホログラム撮像再生装置の干渉光学系により得られたディジタルホログラムの再構成像から、被写体の所望の数の合焦像と、該合焦像の奥行位置の情報を取得する合焦像/奥行位置情報取得手段と、
被写界深度の領域内の、所望の前記奥行位置に設定される領域内合焦像を指定し得るように、該奥行位置に応じて、被写界深度、レンズの焦点距離、該レンズの開口径、および該レンズから像面までの距離の各要素を設定し、得られた所定数の前記領域内合焦像を互いに加算して基準画像を取得する基準画像取得手段と、
前記被写界深度の領域外の、所望の前記奥行位置に配される領域外合焦像を指定し得るように、該奥行位置に応じて、前記レンズの焦点距離、該レンズの開口径、および該レンズから像面までの距離の各要素を設定し、得られた該領域外合焦像各々の強度分布と、インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分を演算してデフォーカス画像群を得るデフォーカス画像群取得手段と、
前記基準画像取得手段により得られた前記基準画像と、前記デフォーカス画像群取得手段により得られた前記デフォーカス画像群と、を互いに加算して、インコヒーレント応答画像を得る基準画像/デフォーカス画像群加算手段と、
を備えたことを特徴とするものである。
The digital hologram signal processing device of the present invention is
A digital hologram signal processing device that performs signal processing for a digital hologram imaging and reproducing device that captures three-dimensional information of an object using light interference,
A focused image/depth for acquiring a desired number of focused images of a subject and information on the depth position of the focused images from the digital hologram reconstructed image obtained by the interference optical system of the digital hologram imaging/reproducing device. location information acquisition means;
The depth of field, the focal length of the lens, the focal length of the lens, and the depth of field are adjusted according to the depth position so that an in-focus image set at the desired depth position within the depth of field can be specified. a reference image obtaining means for obtaining a reference image by setting each element of the aperture diameter and the distance from the lens to the image plane, and adding together the obtained predetermined number of in-region focused images;
the focal length of the lens, the aperture diameter of the lens, the aperture diameter of the lens, and and each element of the distance from the lens to the image plane, and calculate the convolution integral of the intensity distribution of each out-of-area in-focus image obtained and the intensity distribution of the point spread function of the incoherent imaging system defocused image group obtaining means for obtaining a defocused image group by
Reference image/defocused image for obtaining an incoherent response image by adding the reference image obtained by the reference image obtaining means and the defocused image group obtained by the defocused image group obtaining means group addition means;
It is characterized by having

また、前記基準画像取得手段において前記基準画像を取得する演算処理は、前記奥行位置を変更して得られた、前記領域内合焦像各々の強度分布を加算して取得された合算強度分布と、前記インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分に係る演算処理であることが好ましい。 Further, the arithmetic processing for obtaining the reference image in the reference image obtaining means includes a total intensity distribution obtained by adding the intensity distribution of each of the focused images in the region obtained by changing the depth position. , and a convolution integral with the intensity distribution of the point spread function of the incoherent imaging system.

また、前記合算強度分布と、前記インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分に係る前記演算処理を行う際には、下式(A)の関係を満たすように、前記インコヒーレント結像系の点像分布関数のパラメータを設定する構成とされていることが好ましい。

Figure 2022160861000002
但し、前記レンズから被写体の合焦像までの距離をz、該レンズから像面までの距離をz、該レンズの焦点距離をfとする。 Further, when performing the arithmetic processing related to the convolution integration of the combined intensity distribution and the intensity distribution of the point spread function of the incoherent imaging system, the following formula (A) is satisfied so that the It is preferable to set the parameters of the point spread function of the incoherent imaging system.
Figure 2022160861000002
However, the distance from the lens to the in-focus image of the object is z 1 , the distance from the lens to the image plane is z 2 , and the focal length of the lens is f.

また、前記合焦像/奥行位置情報取得手段における、前記被写体の所望の数の合焦像と、該合焦像の奥行位置の情報を取得する処理が、前記ディジタルホログラムの再構成像の鮮鋭度の評価結果に基づいてなされる処理であることが好ましい。 Further, the process of obtaining a desired number of focused images of the subject and the information on the depth position of the focused images in the focused image/depth position information acquisition means may be used to sharpen the reconstructed image of the digital hologram. It is preferable that the processing be performed based on the evaluation result of degree.

また、本発明のディジタルホログラム撮像再生装置は、撮像素子と、少なくとも一方が被写体情報を担持した2系の光を互いに干渉させて該撮像素子にホログラム像を形成する撮像光学系と、上述したいずれかのディジタルホログラム信号処理装置と、を備えたことを特徴とするものである。 Further, the digital hologram imaging/reproducing apparatus of the present invention comprises: an imaging device; and an imaging optical system for forming a hologram image on the imaging device by causing interference between two systems of light, at least one of which carries object information. and the digital hologram signal processing device.

また、上記ディジタルホログラム撮像再生装置において、コヒーレントな光源と、その光源からのコヒーレント光によりディジタルホログラムを得る干渉計の光学系を備え、上記ディジタルホログラム信号処理装置内に、該干渉計の光学系の奥行分解能を記憶するメモリを備えたことが好ましく、被写体からのインコヒーレントな光を入射されてディジタルホログラムを得る自己干渉計の光学系を備え、上記ディジタルホログラム信号処理装置内に、該自己干渉計の光学系の奥行分解能を記憶するメモリを備えたことも好ましい。 Further, the digital hologram imaging and reproducing apparatus has a coherent light source and an optical system of an interferometer for obtaining a digital hologram from the coherent light from the light source, and the optical system of the interferometer is provided in the digital hologram signal processing apparatus. Preferably, a memory for storing depth resolution is provided, and an optical system of a self-interferometer for obtaining a digital hologram by receiving incoherent light from an object is provided, and the self-interferometer is provided in the digital hologram signal processing device. It is also preferable to have a memory for storing the depth resolution of the optical system.

本発明のディジタルホログラム信号処理装置およびディジタルホログラム撮像再生装置によれば、被写界深度の領域内に位置する再構成画像を調整した合焦像を互いに加算してなる基準画像と、被写体深度の領域外に位置する再構成画像を調整した各合焦像からなるデフォーカス画像群とを互いに加算することにより、デフォーカス位置に存在する被写体の像のぼやけの特性をコヒーレント応答からインコヒーレント応答に変換し、さらにインコヒーレント結像系の点像分布関数のパラメータを変更することでぼやけ量を任意に制御することができる。 According to the digital hologram signal processing apparatus and the digital hologram imaging/reproducing apparatus of the present invention, the reference image obtained by adding together the in-focus images obtained by adjusting the reconstructed image located within the depth of field area, and the depth of field area. By adding a defocused image group consisting of each in-focus image obtained by adjusting the reconstructed image located outside the area, the blur characteristic of the image of the object existing at the defocused position is changed from the coherent response to the incoherent response. It is possible to arbitrarily control the amount of blur by converting and further changing the parameters of the point spread function of the incoherent imaging system.

これにより、ディジタルホログラフィの技術により撮像したデータからであっても、通常のカメラのようなぼやけの状態を示す2次元画像を再構成することができる。さらに、通常のカメラで撮像した映像と合成することも可能となる。 As a result, it is possible to reconstruct a two-dimensional image showing a blurred state like a normal camera, even from data captured by digital holography technology. Furthermore, it is also possible to synthesize the image with an image captured by a normal camera.

さらに、通常のカメラや従来のディジタルホログラフィではなし得なかった、被写体の奥行位置に応じて異なるぼやけ量の付与や、ぼやけ量の自在な制御が可能であり、任意焦点画像に撮像の味であるぼやけを付け加えることで、演出効果も出すことができる。 In addition, it is possible to give different amounts of blur according to the depth position of the subject and to freely control the amount of blur, which was not possible with conventional cameras or conventional digital holography. By adding blur, you can also create a dramatic effect.

主として本発明の実施形態に係るディジタルホログラム信号処理装置によるぼやけ変換に係る信号処理の流れを説明するための概念図である。FIG. 2 is a conceptual diagram mainly for explaining the flow of signal processing related to blur conversion by the digital hologram signal processing device according to the embodiment of the present invention; 本発明の実施形態に係るディジタルホログラム撮像再生装置のインコヒーレント結像系の構成を示す概略図である。1 is a schematic diagram showing the configuration of an incoherent imaging system of a digital hologram imaging/reproducing apparatus according to an embodiment of the present invention; FIG. 本発明の実施形態に係るディジタルホログラム撮像再生装置の構成例((a)はコヒーレント光源を照明光とする場合、(b)は周囲のインコヒーレント光を照明光とする場合)を示す概略図である。Schematic diagram showing a configuration example of a digital hologram imaging/reproducing apparatus according to an embodiment of the present invention ((a) when a coherent light source is used as illumination light, and (b) when ambient incoherent light is used as illumination light). be. 本発明の実施形態に係るディジタルホログラム信号処理部の一例を示すブロック図である。It is a block diagram showing an example of a digital hologram signal processing unit according to the embodiment of the present invention. 図3(a)に示す装置の光学系を用いた場合における、被写体画像(a)および、それを撮像して得られたディジタルホログラム(b)を示すものである。3(a) shows a subject image (a) and a digital hologram (b) obtained by imaging it when using the optical system of the apparatus shown in FIG. 3(a). 図5(b)に示すディジタルホログラムに基づき再構成した2次元画像(合焦面の位置からのずれ量が各々、-20mm(a)、-10mm(b)、0mm(c)、10mm(d)、および20mm(e)、である場合の再構成像)を示すものである。Two-dimensional images reconstructed based on the digital hologram shown in FIG. ), and 20 mm (e), the reconstructed image). 本実施形態技術によりぼやけを変換した結果(F値(合焦面位置)はいずれも8.33、合焦面の位置からのずれ量は各々、-20mm(a)、-10mm(b)、0mm(c)、10mm(d)、および20mm(e)、である場合の結果)を示すものである。The result of blurring conversion by the technique of this embodiment (F value (focus plane position) is 8.33 for each, and the amount of deviation from the position of the focus plane is -20 mm (a), -10 mm (b), and 0 mm ( c), 10 mm (d), and 20 mm (e)). 本実施形態技術によりぼやけを変換した結果(F値(合焦面位置)はいずれも25、合焦面の位置からのずれ量は各々、-20mm(a)、-10mm(b)、0mm(c)、10mm(d)、および20mm(e)、である場合の結果)を示すものである。The result of blurring conversion by the technology of the present embodiment (F value (focus plane position) is 25, and the amount of deviation from the position of the focus plane is -20 mm (a), -10 mm (b), and 0 mm ( c), 10 mm (d), and 20 mm (e)). 本実施形態技術によりぼやけを変換した結果(F値(合焦面位置)はいずれも83.33、合焦面の位置からのずれ量は各々、-20mm(a)、-10mm(b)、0mm(c)、10mm(d)、および20mm(e)、である場合の結果)を示すものである。The result of blurring conversion by the technique of this embodiment (F value (focus plane position) is 83.33 for each, and the amount of deviation from the position of the focus plane is -20 mm (a), -10 mm (b), and 0 mm ( c), 10 mm (d), and 20 mm (e)). 本発明の実施例技術において、奥行方向に配列された複数の物体を撮像する場合において、3つの物体の配置関係(a)とその3つの物体を撮像して得られたディジタルホログラム(b)を表すものである。In the embodiment technology of the present invention, when imaging a plurality of objects arranged in the depth direction, the arrangement relationship (a) of the three objects and the digital hologram (b) obtained by imaging the three objects are It represents 図10(b)に示すディジタルホログラムに基づく再構成像に合焦させた場合(物体“1”の再構成像の場合(a)、物体“2”の再構成像の場合(b)、物体“3”の再構成像の場合(c))を表すものである。When the reconstructed image based on the digital hologram shown in FIG. The case (c)) of the reconstructed image of "3" is shown. 本発明の実施例技術を用い、図11(a)に示すディジタルホログラムに基づく再構成像に対して、物体“1”の奥行位置を焦点面としてぼやけを変換した結果((a)はD=1.0(F値:20)の場合、(b)はD=0.6(F値:33.33)の場合、(c)はD=0.2(F値:100)の場合)を表すものである。Using the technique of the embodiment of the present invention, the result of converting blur with the depth position of the object "1" as the focal plane for the reconstructed image based on the digital hologram shown in FIG. 11A ((a) is D= 1.0 (F value: 20), (b) for D=0.6 (F value: 33.33), and (c) for D=0.2 (F value: 100). 本発明の実施例技術を用い、図11(b)に示すディジタルホログラムに基づく再構成像に対して、物体“2”の奥行位置を焦点面としてぼやけを変換した結果((a)はD=1.0(F値:20)の場合、(b)はD=0.6(F値:33.33)の場合、(c)はD=0.2(F値:100)の場合)を表すものである。Using the embodiment technique of the present invention, the blur is converted with the depth position of the object "2" as the focal plane for the reconstructed image based on the digital hologram shown in FIG. 1.0 (F value: 20), (b) for D=0.6 (F value: 33.33), and (c) for D=0.2 (F value: 100). 本発明の実施例技術を用い、図11(c)に示すディジタルホログラムに基づく再構成像に対して、物体“3”の奥行位置を焦点面としてぼやけを変換した結果((a)はD=1.0(F値:20)の場合、(b)はD=0.6(F値:33.33)の場合、(c)はD=0.2(F値:100)の場合)を表すものである。Using the technique of the embodiment of the present invention, the blur is converted with the depth position of the object "3" as the focal plane for the reconstructed image based on the digital hologram shown in FIG. 1.0 (F value: 20), (b) for D=0.6 (F value: 33.33), and (c) for D=0.2 (F value: 100).

以下、本発明の実施形態に係るディジタルホログラム信号処理装置およびディジタルホログラム撮像再生装置を、図面を参照しながら説明する。
図1に本発明の信号処理の流れを示す。なお、ステップ12(S12)以降の各ステップは、ディジタルホログラム信号処理装置(以下、信号処理部18、18´とも称する:図3(a)、(b)を参照)においてなされるもので、具体的にはコンピュータプログラムを用いてなされ、モニター上に映出されるものである。
はじめに、ディジタルホログラム撮像再生装置の干渉光学系(後述する)により、ディジタルホログラムを撮像し(S11)、保存する。取得されたディジタルホログラムのデータに基づき、各被写体(被写体1~4)の奥行位置情報および合焦像を以下の手順で取得する((S12):〈1〉は各被写体1~4の合焦像と奥行位置を示す)。
A digital hologram signal processing device and a digital hologram imaging/reproducing device according to embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 shows the flow of signal processing according to the present invention. Each step after step 12 (S12) is performed in a digital hologram signal processing device (hereinafter also referred to as signal processing units 18 and 18': see FIGS. 3(a) and 3(b)). It is typically done using a computer program and displayed on a monitor.
First, an interference optical system (to be described later) of a digital hologram imaging/reproducing apparatus takes an image of a digital hologram (S11) and stores it. Based on the acquired digital hologram data, the depth position information and the focused image of each subject (subjects 1 to 4) are acquired by the following procedure ((S12): <1> is the focus image and depth position).

すなわち、このステップ12(S12)においては、ディジタルホログラムの強度分布あるいは、位相シフト法やフーリエ縞解析の方法でディジタルホログラムから抽出した複素振幅分布に対して、回折伝搬の計算を適用する。回折伝搬の計算としては、フレネル回折積分や角スペクトル法(平面波展開)等の手法を用いることができる。回折伝搬の計算時に、伝搬距離を段階的かつ逐次的に変化させて、各伝搬距離における2次元の再構成画像を得る。これらの2次元の再構成画像において、被写体の奥行位置の変化に応じ、つまり伝搬距離に応じて、合焦したりぼやけたりする。合焦している像が形成されている場合、そのときの伝搬距離が、被写体の奥行位置と対応している。したがって、各伝搬距離における2次元の再構成画像から、最も合焦している像を探索すれば、被写体の奥行位置を得ることができる。また、最も合焦している像の探索には、2次元の再構成画像の鮮鋭度を評価すればよい。鮮鋭度の評価方法としては、各画像の微分や、各画像の空間周波数成分の大小を比較すればよい。これらの技術は、ディジタルホログラフィの分野でオートフォーカス技術として知られている。 That is, in this step 12 (S12), the diffraction propagation calculation is applied to the intensity distribution of the digital hologram or the complex amplitude distribution extracted from the digital hologram by the phase shift method or the Fourier fringe analysis method. For calculation of diffraction propagation, methods such as Fresnel diffraction integration and angular spectrum method (plane wave expansion) can be used. When calculating the diffraction propagation, the propagation distance is changed stepwise and successively to obtain a two-dimensional reconstructed image at each propagation distance. These two-dimensional reconstructed images are focused or blurred according to changes in the depth position of the subject, that is, according to the propagation distance. When a focused image is formed, the propagation distance at that time corresponds to the depth position of the object. Therefore, the depth position of the subject can be obtained by searching for the most focused image from the two-dimensional reconstructed images at each propagation distance. Also, to search for the most focused image, the sharpness of the two-dimensional reconstructed image may be evaluated. As a method for evaluating the sharpness, differentiation of each image or comparison of magnitudes of spatial frequency components of each image may be used. These techniques are known as autofocus techniques in the field of digital holography.

得られた2次元の再構成画像各々の鮮鋭度を評価し、最も鮮鋭度が高くなる伝搬距離を、その被写体の奥行位置として、この奥行位置情報と被写体の合焦像を取得し、信号処理部18、18´(図3を参照)に保存する。なお、被写体の奥行位置の取得には、ライダーなどの装置を併用して、計測してもよい。 The sharpness of each of the obtained two-dimensional reconstructed images is evaluated, and the propagation distance with the highest sharpness is taken as the depth position of the subject. This depth position information and the focused image of the subject are obtained, and signal processing Stored in unit 18, 18' (see FIG. 3). It should be noted that a device such as a lidar may be used in combination to obtain the depth position of the subject.

次に、信号処理部18、18´(図3を参照)に、フォーカスを合わせたい奥行位置情報、その奥行位置を中心とする所望の被写界深度情報、および実現したいぼやけ量に対応するインコヒーレント結像系のパラメータを指定する(S13)。上記被写界深度の設定としては、ディジタルホログラム撮像再生装置19、19´内の光学系の奥行分解能よりも大きな値となるように設定する。
このことにより、結像系の応答を物理的に正しく計算することができ、不要な演算処理を省略することができる。また、光学系の奥行分解能の情報は、光学系の構成の情報を反映して、信号処理部18、18´のメモリに保存する。
Next, the signal processors 18 and 18' (see FIG. 3) are supplied with information on the depth position to be focused, desired depth of field information centered on the depth position, and information corresponding to the amount of blurring to be realized. The parameters of the coherent imaging system are specified (S13). The depth of field is set to a value larger than the depth resolution of the optical system in the digital hologram imaging/reproducing device 19, 19'.
As a result, the response of the imaging system can be physically correctly calculated, and unnecessary arithmetic processing can be omitted. Information on the depth resolution of the optical system is stored in the memories of the signal processing units 18 and 18', reflecting information on the configuration of the optical system.

インコヒーレント結像系のパラメータとしては、図2に示すように、仮想レンズ6の焦点距離f、開口直径D、仮想レンズ(以下、単にレンズと称する)6から被写体1~4の合焦像までの距離z、仮想レンズ6から像面7までの距離zの4つがある。これらの4つのパラメータをもとに、インコヒーレント結像系の点像分布関数は下式(1)に示すように形成される。

Figure 2022160861000003
ここで,P(x,y)はレンズの開口関数であり、x、yは瞳面の空間領域の座標系である。
本実施形態においては、通常のカメラレンズを想定して、レンズの開口関数を直径Dの円形開口とするが、アポダイゼーション、矩形開口やランダムな開口をはじめ、付与したいぼやけ状態に応じて自由に設定してもよい。λは光源の波長であり、f、fは空間周波数領域の座標系の変数である。 As the parameters of the incoherent imaging system, as shown in FIG. and a distance z 2 from the virtual lens 6 to the image plane 7 . Based on these four parameters, the point spread function of the incoherent imaging system is formed as shown in Equation (1) below.
Figure 2022160861000003
where P(x,y) is the aperture function of the lens, and x,y are the coordinates of the spatial domain of the pupil plane.
In this embodiment, assuming a normal camera lens, the aperture function of the lens is a circular aperture with a diameter of D, but it can be freely set according to the blurring state to be imparted, including apodization, rectangular aperture, and random aperture. You may λ is the wavelength of the light source, and f x , f y are the variables of the coordinate system in the spatial frequency domain.

以上に説明したように設定されたパラメータを用いて、以下の手順でぼやけを変換した2次元画像を生成する。
図2に示すように、設定された奥行位置情報および被写界深度の領域内に存在する被写体2、3の各合焦像を加算し、加算画像Iを得る((S14):〈2〉に被写界深度内の合焦像の加算画像Iを示す)。
その後、下式(2)を用いて、加算画像Iとインコヒーレント結像系の点像分布関数(PSF)の畳み込み積分により、基準画像Bを得る((S15):〈3〉に基準画像Bを示す)。

Figure 2022160861000004
Using the parameters set as described above, a two-dimensional image whose blur has been converted is generated in the following procedure.
As shown in FIG. 2, the in-focus images of the subjects 2 and 3 existing within the set depth position information and depth of field area are added to obtain an added image I ((S14): <2> shows the added image I of the in-focus image within the depth of field).
After that, using the following formula (2), the addition image I and the point spread function (PSF) of the incoherent imaging system are convoluted to obtain the reference image B ((S15): <3> to the reference image B ).
Figure 2022160861000004

上式(2)の演算処理を行う際には、下式(3)の関係を満たすように、上式(1)の点像分布関数のパラメータを設定することで、通常のカメラで被写体2、3にフォーカスを合わせたような像を得ることができる。

Figure 2022160861000005
When performing the arithmetic processing of the above equation (2), by setting the parameters of the point spread function of the above equation (1) so as to satisfy the relationship of the following equation (3), the subject 2 , 3 can be obtained.
Figure 2022160861000005

一方で、上式(1)中のP(x,y)の影響、つまりレンズの有限な開口直径の制限により、分解能を低下させる効果も含まれているため、その分解能の低下を抑制したい場合は、上式(2)のPSFをデルタ関数として演算を行うか、本演算自体を省略してB=Iとしてもよい。
なお、上式(1)、(2)の演算にあたり、フーリエ変換アルゴリズムを用いる手法が一般的であるが、その際にアルゴリズムに応じてエネルギーの増減が生じないように、エネルギーの規格化を行い、さらに強度が一定になるように留意する。
On the other hand, the effect of P(x, y) in the above equation (1), that is, the limit of the finite aperture diameter of the lens, also includes the effect of lowering the resolution. may be calculated using the PSF of the above equation (2) as a delta function, or this calculation itself may be omitted and B=I.
It should be noted that in calculating the above equations (1) and (2), it is common to use a Fourier transform algorithm. , and keep the intensity constant.

上述した基準画像Bの作成とは別に、被写界深度の領域外の被写体1、4のデフォーカス像Ddを作成する。デフォーカス像Ddを作成する際には、下式(4)、(5)の演算を適用する。
すなわち、被写界深度の領域外の被写体1、4の各合焦像と、結像系の点像分布関数との畳み込み積分により、デフォーカス像Ddを得る((S16):〈4〉に被写界深度の領域外のデフォーカス像Ddを示す)。

Figure 2022160861000006
ここで、dは被写界深度の領域外の被写体の奥行距離である。
なお、上式(1)に対して上式(4)が相違するのは、zがdに置き換わっている点である。この演算を、被写界深度の領域外の被写体1、4毎にdの値を変化させて適用する。 Separately from the creation of the reference image B described above, defocused images Dd of the subjects 1 and 4 outside the depth of field area are created. When creating the defocused image Dd, the calculations of the following equations (4) and (5) are applied.
That is, a defocused image Dd is obtained by convoluting the focused images of the subjects 1 and 4 outside the area of the depth of field and the point spread function of the imaging system ((S16): <4> defocused image Dd outside the region of depth of field).
Figure 2022160861000006
where d is the depth distance of the subject outside the depth of field region.
Note that the above equation (4) differs from the above equation ( 1 ) in that z1 is replaced with d. This calculation is applied by changing the value of d for each of the subjects 1 and 4 outside the region of depth of field.

最後に、基準画像Bとすべてのデフォーカス像(デフォーカス像Ddの群)の加算を行うことで、ぼやけの状態を変換した2次元画像を得ることができる((S17):〈5〉に信号処理の結果(全画像を互いに加算して)得られた2次元画像を示す)。 Finally, by performing addition of the reference image B and all defocused images (a group of defocused images Dd), a two-dimensional image in which the state of blur has been converted can be obtained ((S17): 2D image obtained as a result of signal processing (adding all images together).

なお、以上の計算では、すべての被写体1~4に対して、共通のレンズ(仮想レンズ)6を用いた場合のぼやけ状態を付与するため、fの値およびzの値を固定しているが、いずれについても被写体1~4に応じて変更するようにしてもよい。
また、各被写体1~4の奥行位置情報も、任意の値に変更してもよい。以上の操作により、通常のカメラでは撮像できないようなぼやけ状態とされた2次元画像を得ることができ、さらに奥行位置情報も任意に入れ替え可能であるので、映像表現の幅を広げることができる。
Note that in the above calculations, the values of f and z2 are fixed in order to give a blurred state when a common lens (virtual lens) 6 is used for all subjects 1 to 4. However, any of them may be changed according to subjects 1-4.
Also, the depth position information of each of the subjects 1 to 4 may be changed to any value. By the above operation, a blurred two-dimensional image that cannot be captured by a normal camera can be obtained, and depth position information can be arbitrarily exchanged, so that the range of video expression can be expanded.

以上のぼやけ変換の信号処理を実現するディジタルホログラム撮像再生装置としては、例えば、図3(a)、(b)に示すものを採用可能である。
なお、図3(a)、(b)に示す撮像再生装置の光学系は、ディジタルホログラフィ分野では一般的な構成であるが、本撮像再生装置の特徴は、ぼやけ変換の信号処理を施す信号処理部18、18´が搭載されていることに加えて、ぼやけ変換の信号処理の計算の高効率化のために必要な、光学系の奥行分解能の情報が、信号処理部18、18´に保存され、設定されている点にある。
As a digital hologram imaging/reproducing apparatus that realizes the signal processing of the above-described blur conversion, for example, those shown in FIGS. 3(a) and 3(b) can be employed.
The optical system of the imaging/reproducing apparatus shown in FIGS. 3(a) and (b) has a general configuration in the field of digital holography. In addition to the fact that the units 18 and 18' are installed, the information of the depth resolution of the optical system, which is necessary for improving the efficiency of calculation of the signal processing of the blur conversion, is stored in the signal processing units 18 and 18'. is set and set.

図3(a)は、コヒーレント光を光源とする場合のディジタルホログラム撮像再生装置19を示すものである。ディジタルホログラム撮像再生装置19内のレーザー光源16からのレーザー光を、スペイシャルフィルタ15とレンズ11により平面波とし、ビームスプリッタ13で分波する。分派された一方を被写体12に照射するとともに、分派された他方を平面鏡14で反射させる。前者の光を物体光、後者の光を参照光とし、ビームスプリッタ13で合波した後、撮像素子17面上で両者を干渉させる。これをディジタルホログラムとして撮像し、信号処理部18のメモリ部(図示されていない)に保存する。 FIG. 3(a) shows a digital hologram imaging/reproducing apparatus 19 using coherent light as a light source. A laser beam from a laser light source 16 in a digital hologram imaging/reproducing device 19 is made into a plane wave by a spatial filter 15 and a lens 11 and split by a beam splitter 13 . One of the split beams is irradiated onto the object 12, and the other split beam is reflected by the plane mirror 14.例文帳に追加The former light is used as object light, and the latter light as reference light. This is imaged as a digital hologram and stored in a memory section (not shown) of the signal processing section 18 .

他方、図3(b)は、周囲のインコヒーレント光を光源とする場合のディジタルホログラム撮像再生装置19´を示すものである。周囲のインコヒーレント光で照明された被写体12´からの反射光を、レンズ11´で集光し、ビームスプリッタ13´により分波する。分派したインコヒーレント光を平面鏡14´と凹面鏡20で反射させて、再度ビームスプリッタ13´に戻して合波し、撮像素子17´面上で干渉させる。撮像素子17´により、これをディジタルホログラムとして撮像し、信号処理部18´のメモリ部(図示されていない)に保存する。 On the other hand, FIG. 3(b) shows a digital hologram imaging/reproducing apparatus 19' in which ambient incoherent light is used as a light source. Reflected light from an object 12' illuminated by ambient incoherent light is condensed by a lens 11' and split by a beam splitter 13'. The split incoherent light is reflected by the plane mirror 14' and the concave mirror 20, returned to the beam splitter 13' again, combined, and interfered on the surface of the imaging device 17'. This is imaged as a digital hologram by the imaging element 17' and stored in a memory (not shown) of the signal processing section 18'.

また、図4は、上記信号処理部18(信号処理部18´も同様)の内部構成を示すブロック図である。すなわち、信号処理部18は、合焦像/奥行位置情報取得手段18Aと、基準画像取得手段18Bと、デフォーカス画像群取得手段18Cと、基準画像/デフォーカス画像群加算手段18Dと、を備えている。 Further, FIG. 4 is a block diagram showing the internal configuration of the signal processing section 18 (the same applies to the signal processing section 18'). That is, the signal processing unit 18 includes a focused image/depth position information acquisition unit 18A, a reference image acquisition unit 18B, a defocused image group acquisition unit 18C, and a reference image/defocused image group addition unit 18D. ing.

まず、合焦像/奥行位置情報取得手段18Aは、ディジタルホログラム撮像再生装置19、19´の干渉光学系により得られたディジタルホログラムの再構成像から、被写体12の合焦像(被写体像1~4の各々について)と、該合焦像の奥行位置情報を取得するように構成されている。 First, the in-focus image/depth position information acquisition means 18A extracts in-focus images of the subject 12 (subject images 1 to 4) and the depth position information of the in-focus image.

また、基準画像取得手段18Bは、被写界深度の領域内の、所望の奥行位置に設定される領域内合焦像を指定し得るように、その奥行位置に応じて、被写界深度、レンズ6の焦点距離f、レンズ6の開口直径D、およびレンズ6から像面7までの距離zの各要素を設定し、得られた所定数の領域内合焦像の強度分布を互いに加算して基準画像Bを取得する。 In addition, the reference image acquiring means 18B determines the depth of field, The focal length f of the lens 6, the aperture diameter D of the lens 6, and the distance z2 from the lens 6 to the image plane 7 are set, and the intensity distributions of the obtained in-focus images in a predetermined number of areas are added together. Then, the reference image B is acquired.

また、基準画像取得手段18Bにおいて基準画像Bを取得する演算処理は、奥行位置の設定値を順次変更して得られた、領域内合焦像(被写体2、3の合焦像)各々の強度分布を加算して取得された合算強度分布と、インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分による演算とすることが望ましい。 Further, the arithmetic processing for obtaining the reference image B in the reference image obtaining means 18B is performed by the intensity It is desirable to perform calculation by convolution integration of the combined intensity distribution obtained by adding the distributions and the intensity distribution of the point spread function of the incoherent imaging system.

一方、デフォーカス画像群取得手段18Cは、被写界深度の領域外の、所望の奥行位置に配される領域外合焦像(被写体1、4の合焦像)を指定し得るように、その奥行位置に応じて、レンズ6の焦点距離f、レンズ6の開口直径D、およびレンズ6から像面までの距離zの各要素を設定し、得られた領域外合焦像(被写体1、4の合焦像)各々の強度分布と、インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分を演算してデフォーカス画像群Ddを得る。
換言すれば、このデフォーカス画像群取得手段18Cは、デフォーカス位置に存在する被写体12の像のぼやけの状態を、コヒーレント応答からインコヒーレント応答に変換し、さらにインコヒーレント結像系の点像分布関数のパラメータを変更することでぼやけ量を調整するものである。
On the other hand, the defocused image group acquisition means 18C is configured to specify an out-of-area focused image (focused images of subjects 1 and 4) arranged at a desired depth position outside the depth-of-field area. Depending on the depth position, the focal length f of the lens 6, the aperture diameter D of the lens 6, and the distance z2 from the lens 6 to the image plane are set, and the obtained out-of-area focused image (subject 1 , 4) and the intensity distribution of the point spread function of the incoherent imaging system to obtain a defocused image group Dd.
In other words, the defocused image group acquiring means 18C converts the blurring state of the image of the subject 12 existing at the defocused position from coherent response to incoherent response, and furthermore, converts the point spread of the incoherent imaging system. The amount of blurring is adjusted by changing the parameters of the function.

さらに、基準画像/デフォーカス画像群加算手段18Dは、基準画像取得手段18Bにより得られた基準画像Bと、デフォーカス画像群取得手段18Cにより得られたデフォーカス画像群Ddと、を互いに加算して、インコヒーレント応答画像を得るものである。
また、図4には示されていないが、信号処理部18には、干渉計の光学系の奥行分解能等を記憶するメモリ部が設けられている。
Further, the reference image/defocused image group addition means 18D adds the reference image B obtained by the reference image acquisition means 18B and the defocused image group Dd obtained by the defocused image group acquisition means 18C. to obtain an incoherent response image.
Although not shown in FIG. 4, the signal processing section 18 is provided with a memory section for storing the depth resolution of the optical system of the interferometer.

なお、図3(a)、(b)に示すディジタルホログラム撮像再生装置19、19´の光学系は、本発明に係るディジタルホログラム撮像再生装置の光学系の一例を表すものであり、干渉現象を用いてディジタルホログラムを撮像し、光学系の奥行位置情報を導出し得るものであれば、その他の種々の構成のものを採用することができる。 The optical systems of the digital hologram imaging/reproducing devices 19 and 19' shown in FIGS. Various other configurations can be employed as long as they can be used to capture a digital hologram and derive depth position information of the optical system.

以下、本発明の実施例により得られた再構成結果について説明するが、比較例としての従来技術に係るシミュレーションの内容、およびシミュレーションの結果も対応させるようにして説明する。
本実施例および上記比較例に係るシミュレーションにおいては、角スペクトル法による光波の回折計算を用いており、光の伝搬を正確に計算することができる。
ディジタルホログラム撮像再生装置としては図3(a)に示すコヒーレント光を用いたものを採用した。コヒーレント光の波長は633nmとし、被写体12を図5(a)に示す2次元画像とし、被写体12の奥行位置を100mmとした。参照光としては、平面位相を有する平面波とした。また、撮像素子17としては、画素数256×256、画素ピッチ10μm、階調数8bitのものを用いた。ここで、比較例における撮像素子により取得したホログラム像は図5(b)に示すものと同様になった。
In the following, the reconstruction results obtained by the examples of the present invention will be described, and the details and results of the simulation according to the prior art as a comparative example will also be described.
In the simulations according to the present embodiment and the above-described comparative example, diffraction calculation of light waves by the angular spectrum method is used, and the propagation of light can be accurately calculated.
As a digital hologram imaging/reproducing apparatus, the one using coherent light shown in FIG. 3(a) was adopted. The wavelength of the coherent light is 633 nm, the subject 12 is a two-dimensional image shown in FIG. 5A, and the depth position of the subject 12 is 100 mm. A plane wave having a plane phase was used as the reference light. As the imaging device 17, one having 256×256 pixels, a pixel pitch of 10 μm, and a gradation number of 8 bits was used. Here, the hologram image acquired by the imaging device in the comparative example was the same as that shown in FIG. 5(b).

撮像素子により得られたこのホログラムから、位相シフト法により、複素振幅分布を抽出して、再構成した像を図6に示す。被写体のフォーカス位置を中心として、±20mmの範囲内の領域を10mm間隔で伝搬距離を変更しながら、各位置で2次元画像を得るようにしている。すなわち、設定された伝搬距離が、0mm(被写体の合焦位置)のときの再構成結果を(c)に示し、その他、設定された伝搬距離が、各々、-20mm、-10mm、10mmおよび20mmのときの再構成結果を、各々、(a)、(b)、(d)、および(e)に示す。
図6の再構成結果から、通常のディジタルホログラフィの再構成計算では、デフォーカス像にリンギングが発生し、通常のカメラとはぼやけの状態が異なることが明らかである。
FIG. 6 shows a reconstructed image obtained by extracting a complex amplitude distribution from the hologram obtained by the imaging device by the phase shift method. A two-dimensional image is obtained at each position while changing the propagation distance at intervals of 10 mm within a range of ±20 mm around the focus position of the subject. That is, the reconstruction result when the set propagation distance is 0 mm (focus position of the subject) is shown in (c), and the set propagation distances are -20 mm, -10 mm, 10 mm and 20 mm, respectively. The reconstruction results when , are shown in (a), (b), (d), and (e), respectively.
From the reconstruction results in FIG. 6, it is clear that ringing occurs in the defocused image in the reconstruction calculation of ordinary digital holography, and the state of blur differs from that of the ordinary camera.

次に、本実施例技術を適用して再構成した結果を図7に示す。インコヒーレント結像系および仮想レンズ6のパラメータとしては、z=100mm、z=100mm、f=50mm、D=6mm(F値8.33)とし、被写界深度領域の長さを8mmとした。本実施例技術を適用することにより、図6の場合と比較するとデフォーカス像が滑らかになっていることが明らかである。
さらに、D=2mm(F値25)、D=0.6mm(F値83.33)とした場合の処理結果を図8、図9に示す((a)~(e)についての伝搬距離は図6の場合と同じ)。F値が大きくなることで、デフォーカス像のぼやけ量が縮小されており、ぼやけ量を良好に制御できていることが明らかである。
Next, FIG. 7 shows the result of reconstruction by applying the technique of this embodiment. The parameters of the incoherent imaging system and virtual lens 6 are z 1 = 100 mm, z 2 = 100 mm, f = 50 mm, D = 6 mm (F value 8.33), and the length of the depth of field region is 8 mm. and By applying the technique of this embodiment, it is clear that the defocused image is smoother than in the case of FIG.
8 and 9 show the processing results when D=2 mm (F value 25) and D=0.6 mm (F value 83.33) (the propagation distance for (a) to (e) is same as in Fig. 6). As the F number increases, the amount of blurring of the defocused image is reduced, and it is clear that the amount of blurring can be well controlled.

次に、図10(a)に示すように、奥行方向に、互いに60mmずつ離して3つの被写体12を配置した場合の適用結果を以下に説明する。これらの3つの被写体12を撮像した場合に、図10(b)のディジタルホログラムが得られる。以下、上記3つの被写体12を、図10(a)における奥行方向に向かって、便宜的に、“物体1”、“物体2”および“物体3”と称するものとする。 Next, as shown in FIG. 10A, the result of application when three subjects 12 are arranged with a distance of 60 mm from each other in the depth direction will be described below. When these three subjects 12 are imaged, the digital hologram shown in FIG. 10(b) is obtained. Hereinafter, the three subjects 12 are referred to as "object 1," "object 2," and "object 3" in the depth direction in FIG. 10(a) for convenience.

この図10(b)のディジタルホログラムに対して、位相シフト法を適用し、回折伝搬計算を適用した結果を図11(a)~(c)に示す。各被写体12にフォーカスを合わせて再構成すると、コヒーレント光特有のぼやけの状態(縞模様を有する)をしたデフォーカス像が得られていることが明らかである。
この図11(a)~(c)の再構成結果に対して、本実施例技術を適用した再構成結果を図12、図13、および図14に示す。
11(a) to 11(c) show the results of applying the phase shift method and the diffraction propagation calculation to the digital hologram of FIG. 10(b). When each subject 12 is focused and reconstructed, it is clear that a defocused image with a blurry state (having a striped pattern) peculiar to coherent light is obtained.
12, 13, and 14 show reconstruction results obtained by applying the technique of the present embodiment to the reconstruction results shown in FIGS. 11(a) to 11(c).

図12、図13、および図14は各々、物体“1”、物体“2”および物体“3”の配設位置をフォーカスの奥行位置として設定し、被写界深度を10mmとした場合の再構成結果を示すものである。
また、各々のぼやけ量を、図12~14の各(a)では、開口直径D=1(F値20)とした場合、図12~14の各(b)では、D=0.6(F値33.33)とした場合、図12~14の各(c)では、D=0.2(F値100)とした場合、の結果を各々示している。
以上に説明した各再構成結果から明らかなように、本実施例技術を用いることにより、ぼやけの状態をコヒーレント光を用いた状態から、インコヒーレント光を用いた状態に変換でき、さらにぼやけ量を任意に調整できていることが明らかである。
12, 13, and 14 respectively show the reproduction when the arrangement positions of the object "1", the object "2", and the object "3" are set as the depth position of the focus, and the depth of field is set to 10 mm. It shows the configuration result.
12 to 14, when the aperture diameter D=1 (F value 20) in each (a) of FIGS. 12 to 14, D=0.6 ( Each (c) of FIGS. 12 to 14 shows the results when D=0.2 (F value 100).
As is clear from the respective reconstruction results described above, by using the technique of the present embodiment, the state of blur can be converted from the state using coherent light to the state using incoherent light, and the amount of blur can be reduced. It is clear that it can be arbitrarily adjusted.

なお、以上に説明したシミュレーションの結果は、コヒーレント光を利用したディジタルホログラム撮像再生装置19を用いた場合のものであるが、図3(b)のインコヒーレント光を利用したディジタルホログラム撮像再生装置19´の場合でも同様の作用効果を奏することができる。 The results of the simulation described above were obtained when the digital hologram imaging/reproducing device 19 using coherent light was used. ', the same effects can be obtained.

なお、本発明のディジタルホログラム信号処理装置およびディジタルホログラム撮像再生装置としては、上記の実施形態のものに限られるものではなく、その他の種々の態様の変更が可能である。 It should be noted that the digital hologram signal processing device and the digital hologram imaging/reproducing device of the present invention are not limited to the above embodiments, and other various modifications are possible.

1~4、12、12´ 被写体
6 仮想レンズ(レンズ)
7 像面
11,11´ レンズ
13、13´ ビームスプリッタ
14、14´ 平面鏡
15 スペイシャルフィルタ
16 レーザー光源
17、17´ 撮像素子
18、18´ 信号処理部
18A 合焦像/奥行位置情報取得手段
18B 基準画像取得手段
18C ぼやけ量調整手段
18D 基準画像/デフォーカス画像群加算手段
19、19´ ディジタルホログラム撮像再生装置
20 凹面鏡
B 基準画像
Dd デフォーカス画像群
I 加算画像
1 to 4, 12, 12' Subject 6 Virtual lens (lens)
7 image planes 11, 11' lenses 13, 13' beam splitters 14, 14' plane mirror 15 spatial filter 16 laser light sources 17, 17' imaging devices 18, 18' signal processing unit 18A focused image/depth position information acquiring means 18B Reference image acquisition means 18C Blur amount adjustment means 18D Reference image/defocused image group addition means 19, 19' Digital hologram imaging/reproducing device 20 Concave mirror B Reference image Dd Defocused image group I Addition image

Claims (7)

被写体の3次元情報を光の干渉を利用して撮像するディジタルホログラム撮像再生装置の信号処理を行うディジタルホログラム信号処理装置において、
該ディジタルホログラム撮像再生装置の干渉光学系により得られたディジタルホログラムの再構成像から、被写体の所望の数の合焦像と、該合焦像の奥行位置の情報を取得する合焦像/奥行位置情報取得手段と、
被写界深度の領域内の、所望の前記奥行位置に設定される領域内合焦像を指定し得るように、該奥行位置に応じて、被写界深度、レンズの焦点距離、該レンズの開口径、および該レンズから像面までの距離の各要素を設定し、得られた所定数の前記領域内合焦像を互いに加算して基準画像を取得する基準画像取得手段と、
前記被写界深度の領域外の、所望の前記奥行位置に配される領域外合焦像を指定し得るように、該奥行位置に応じて、前記レンズの焦点距離、該レンズの開口径、および該レンズから像面までの距離の各要素を設定し、得られた該領域外合焦像各々の強度分布と、インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分を演算してデフォーカス画像群を得るデフォーカス画像群取得手段と、
前記基準画像取得手段により得られた前記基準画像と、前記デフォーカス画像群取得手段により得られた前記デフォーカス画像群と、を互いに加算して、インコヒーレント応答画像を得る基準画像/デフォーカス画像群加算手段と、
を備えたことを特徴とするディジタルホログラム信号処理装置。
A digital hologram signal processing device that performs signal processing for a digital hologram imaging and reproducing device that captures three-dimensional information of an object using light interference,
A focused image/depth for acquiring a desired number of focused images of a subject and information on the depth position of the focused images from the digital hologram reconstructed image obtained by the interference optical system of the digital hologram imaging/reproducing device. location information acquisition means;
The depth of field, the focal length of the lens, the focal length of the lens, and the depth of field are adjusted according to the depth position so that an in-focus image set at the desired depth position within the depth of field can be specified. a reference image obtaining means for obtaining a reference image by setting each element of the aperture diameter and the distance from the lens to the image plane, and adding together the obtained predetermined number of in-region focused images;
the focal length of the lens, the aperture diameter of the lens, the aperture diameter of the lens, and and each element of the distance from the lens to the image plane, and calculate the convolution integral of the intensity distribution of each out-of-area in-focus image obtained and the intensity distribution of the point spread function of the incoherent imaging system defocused image group obtaining means for obtaining a defocused image group by
Reference image/defocused image for obtaining an incoherent response image by adding the reference image obtained by the reference image obtaining means and the defocused image group obtained by the defocused image group obtaining means group addition means;
A digital hologram signal processing device comprising:
前記基準画像取得手段において前記基準画像を取得する演算処理は、前記奥行位置を変更して得られた、前記領域内合焦像各々の強度分布を加算して取得された合算強度分布と、前記インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分に係る演算処理であることを特徴とする請求項1に記載のディジタルホログラム信号処理装置。 Arithmetic processing for obtaining the reference image in the reference image obtaining means includes a total intensity distribution obtained by adding the intensity distributions of the in-region focused images obtained by changing the depth position, and the 2. The digital hologram signal processing apparatus according to claim 1, wherein the arithmetic processing is a convolution integral with an intensity distribution of a point spread function of an incoherent imaging system. 前記合算強度分布と、前記インコヒーレント結像系の点像分布関数の強度分布との畳み込み積分に係る前記演算処理を行う際には、下式(A)の関係を満たすように、前記インコヒーレント結像系の点像分布関数のパラメータを設定する構成とされていることを特徴とする請求項2に記載のディジタルホログラム信号処理装置。
Figure 2022160861000007
但し、前記レンズから被写体の合焦像までの距離をz、該レンズから像面までの距離をz、該レンズの焦点距離をfとする。
When performing the arithmetic processing related to the convolution integral of the combined intensity distribution and the intensity distribution of the point spread function of the incoherent imaging system, the incoherent 3. The digital hologram signal processing apparatus according to claim 2, wherein the digital hologram signal processing apparatus is configured to set parameters of a point spread function of an imaging system.
Figure 2022160861000007
However, the distance from the lens to the in-focus image of the object is z 1 , the distance from the lens to the image plane is z 2 , and the focal length of the lens is f.
前記合焦像/奥行位置情報取得手段における、前記被写体の所望の数の合焦像と、該合焦像の奥行位置の情報を取得する処理が、前記ディジタルホログラムの再構成像の鮮鋭度の評価結果に基づいてなされる処理であることを特徴とする請求項1~3のうちいずれか1項に記載のディジタルホログラム信号処理装置。 The process of acquiring a desired number of focused images of the subject and information on the depth position of the focused images in the focused image/depth position information acquisition means is performed to improve the sharpness of the reconstructed image of the digital hologram. 4. The digital hologram signal processing apparatus according to any one of claims 1 to 3, wherein the processing is performed based on evaluation results. 撮像素子と、少なくとも一方が被写体情報を担持した2系の光を互いに干渉させて該撮像素子にホログラム像を形成する撮像光学系と、請求項1~4のうちいずれか1項に記載のディジタルホログラム信号処理装置と、を備えたことを特徴とするディジタルホログラム撮像再生装置。 an imaging optical system that forms a hologram image on the imaging device by causing interference between two systems of light, at least one of which carries subject information, and the digital imaging device according to any one of claims 1 to 4; and a hologram signal processing device. コヒーレントな光源と、その光源からのコヒーレント光によりディジタルホログラムを得る干渉計の光学系を備え、前記ディジタルホログラム信号処理装置内に、該干渉計の光学系の奥行分解能を記憶するメモリを備えたことを特徴とする請求項5に記載のディジタルホログラム撮像再生装置。 A coherent light source and an interferometer optical system for obtaining a digital hologram from the coherent light from the light source are provided, and a memory for storing the depth resolution of the interferometer optical system is provided in the digital hologram signal processing device. 6. The digital hologram imaging and reproducing apparatus according to claim 5, characterized by: 被写体からのインコヒーレントな光を入射されてディジタルホログラムを得る自己干渉計の光学系を備え、前記ディジタルホログラム信号処理装置内に、該自己干渉計の光学系の奥行分解能を記憶するメモリを備えたことを特徴とする請求項5に記載のディジタルホログラム撮像再生装置。
An optical system of a self-interferometer for obtaining a digital hologram by receiving incoherent light from an object is provided, and a memory for storing the depth resolution of the optical system of the self-interferometer is provided in the digital hologram signal processing device. 6. The digital hologram imaging/reproducing apparatus according to claim 5, wherein:
JP2021065331A 2021-04-07 2021-04-07 Digital hologram signal processing device and digital hologram imaging and reproducing device Pending JP2022160861A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021065331A JP2022160861A (en) 2021-04-07 2021-04-07 Digital hologram signal processing device and digital hologram imaging and reproducing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021065331A JP2022160861A (en) 2021-04-07 2021-04-07 Digital hologram signal processing device and digital hologram imaging and reproducing device

Publications (1)

Publication Number Publication Date
JP2022160861A true JP2022160861A (en) 2022-10-20

Family

ID=83658040

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021065331A Pending JP2022160861A (en) 2021-04-07 2021-04-07 Digital hologram signal processing device and digital hologram imaging and reproducing device

Country Status (1)

Country Link
JP (1) JP2022160861A (en)

Similar Documents

Publication Publication Date Title
Ma et al. Numerical reconstruction of digital holograms for three-dimensional shape measurement
US7705970B2 (en) Method and system for optical imaging and ranging
JP5467321B2 (en) 3D shape measuring method and 3D shape measuring apparatus
JP5130311B2 (en) System and method for recovering wavefront phase information
CN111288925B (en) Three-dimensional reconstruction method and device based on digital focusing structure illumination light field
CN107690595B (en) Device and method for image recording by means of illumination at different illumination angles
CN106054570B (en) Intensity transmission equation realizes the larger Phase Build Out method of single digital hologram
JP2003097922A (en) Surface shape measuring system and method using the same, program used for the same and storage medium used for the same
KR102304225B1 (en) Method and apparatus for measuring and evaluating spatial resolution of hologram reconstructed image
JP2019144520A (en) Hologram recording device and image playback device
JP2005539256A (en) System and method for detecting differences between composite images
KR101875515B1 (en) Apparatus and Method for Diffraction Optical Tomography of Structured Illumination using Digital Micromirror Device
Cossairt et al. Digital refocusing with incoherent holography
JP2019534483A (en) System and method for reconstruction of holographic lens-free images by multi-depth sparse phase reconstruction
KR101404183B1 (en) Device and method for generating hologram
JP3359918B2 (en) Hologram sensing device
JP2022160861A (en) Digital hologram signal processing device and digital hologram imaging and reproducing device
US20220020116A1 (en) Holographic ultra resolution imaging
JP2003222508A (en) Surface shape measuring device and surface shape measuring method
JP7348858B2 (en) Hologram imaging device and image reconstruction system
RU2785988C1 (en) Imaging system and image processing method
JP2023124051A (en) Incoherent digital hologram signal processing device and imaging display system
Hu et al. Extended depth of field reconstruction with complex field estimation
JP7324047B2 (en) Hologram recording/reproducing device and stereoscopic image reproducing method
Liu et al. All-in-Focus Sweep Imaging Based on Wigner Distribution Function

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20230818

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240307