JP6893880B2 - 二次元および/または三次元シーンのホログラフィック再構成のホログラム計算のための方法 - Google Patents
二次元および/または三次元シーンのホログラフィック再構成のホログラム計算のための方法 Download PDFInfo
- Publication number
- JP6893880B2 JP6893880B2 JP2017550816A JP2017550816A JP6893880B2 JP 6893880 B2 JP6893880 B2 JP 6893880B2 JP 2017550816 A JP2017550816 A JP 2017550816A JP 2017550816 A JP2017550816 A JP 2017550816A JP 6893880 B2 JP6893880 B2 JP 6893880B2
- Authority
- JP
- Japan
- Prior art keywords
- light modulator
- spatial light
- modulator device
- plane
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 85
- 238000004364 calculation method Methods 0.000 title claims description 38
- 238000003384 imaging method Methods 0.000 claims description 17
- 230000009466 transformation Effects 0.000 claims description 17
- 230000003287 optical effect Effects 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 10
- 230000008859 change Effects 0.000 claims description 5
- 230000010354 integration Effects 0.000 claims 1
- 230000008901 benefit Effects 0.000 description 6
- 238000000844 transformation Methods 0.000 description 5
- 238000013459 approach Methods 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 3
- 238000006308 Hooker rearrangement reaction Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000001093 holography Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 244000144985 peep Species 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/26—Processes or apparatus specially adapted to produce multiple sub- holograms or to obtain images from them, e.g. multicolour technique
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0808—Methods of numerical synthesis, e.g. coherent ray tracing [CRT], diffraction specific
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/26—Processes or apparatus specially adapted to produce multiple sub- holograms or to obtain images from them, e.g. multicolour technique
- G03H1/268—Holographic stereogram
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/08—Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
- G03H1/0808—Methods of numerical synthesis, e.g. coherent ray tracing [CRT], diffraction specific
- G03H2001/0825—Numerical processing in hologram space, e.g. combination of the CGH [computer generated hologram] with a numerical optical element
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2210/00—Object characteristics
- G03H2210/30—3D object
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2210/00—Object characteristics
- G03H2210/40—Synthetic representation, i.e. digital or optical object decomposition
- G03H2210/44—Digital representation
- G03H2210/441—Numerical processing applied to the object data other than numerical propagation
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2210/00—Object characteristics
- G03H2210/40—Synthetic representation, i.e. digital or optical object decomposition
- G03H2210/45—Representation of the decomposed object
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H2210/00—Object characteristics
- G03H2210/40—Synthetic representation, i.e. digital or optical object decomposition
- G03H2210/45—Representation of the decomposed object
- G03H2210/452—Representation of the decomposed object into points
Description
xvw_max = λ zlm / plm
ここで、zlmは可視領域/仮想観察窓からの光変調器の距離であり、plmは画素ピッチであっておよそ10.5mmである。これは、可視領域のサイズが一般的に二次元的であるため、水平方向および/または垂直方向のどちらにも適用される。
可視領域のサイズまたは仮想観察窓のサイズは、より小さく選択されてもよい。一般に、
xvw = a λ zlm / plm
ここで、係数a<=1である。以下に述べる方程式において、この場合、係数aが追加的に存在する。より良い概観のために、以下の実施の形態において係数aは省略される。ただし、以下の記述は、a <1の場合にも適用できる。しかしながら、一般に、少なくとも1人の観察者の眼の位置を検出すること、および可視領域/仮想観察窓を眼の位置に対して追跡することを含むホログラフィックディスプレイデバイスについて、眼の位置の検出における不正確さおよび可視領域/仮想観察窓の追跡における一時的な遅延を補償するため、可視領域/仮想観察窓のサイズとして10mm以上が必要とされる。
国際公開第2008/025839号パンフレットによれば、サブホログラムのサイズは、好ましい実施の形態においてインターセプト定理を用いて計算される。
zpointをオブジェクトポイントと観察窓/可視領域との距離、zlmを既述の通り光変調器と観察窓/可視領域との距離、とすると、サブホログラムのサイズは以下の空間広がりxshの形で得られる。
xsh = | xvw ( zlm - zpoint)/ zpoint |
* シングル視差符号化の場合の一次元積分変換。
* シングル視差符号化の場合の二次元積分変換。
* フル視差符号化の場合の二次元積分変換。
サブホログラムのレンズ機能は、光が一次元(水平または垂直)でのみオブジェクトポイントの位置に集束するように計算される。
この実施の形態は、空間光変調器デバイスの少なくともひとつの仮想平面の位置が再構成対象のシーンの深さ範囲内で選択されることを提供する。再構成対象のシーンの前記深さ範囲は、可視領域との距離が最も小さいオブジェクトポイントと可視領域との距離が最も大きいオブジェクトポイントとによって定められる。
例えば、物理的な空間光変調器でばいすは、観察者から65cm離れたところに配置され、再構成対象のシーンは、観察者から1.5mから17mの間に広がっている。空間光変調器デバイスの仮想平面について、例えば、観察者から2.5mの距離が選択される。
さらに、再構成対象のシーンが少なくとも2つの深さ範囲セクションに分解され、空間光変調器デバイスの各仮想平面が少なくとも2つの深さ範囲セクションに割り当てられることが有利でありうる。これは、上述の手順に加えてそれぞれが仮想平面に割り当てられたいくつかの深さ範囲セクションへと分割することによって、再構成対象のシーンを計算できることを意味する。
この場合、空間光変調器デバイスの少なくとも2つの深さ範囲セクションに割り当てられた仮想平面のうちの1つの仮想平面は、空間光変調器デバイスの物理平面と一致しうる。
光変調器デバイスの物理平面について計算されたサブホログラムの加算は、この物理平面内または観察者平面内または可視領域の平面内のいずれかで有利に実施することができる。言い換えると、光変調器デバイスの物理平面内で直接計算された深さ範囲セクションからのサブホログラムは、足し合わされることで物理平面内、観察者平面内または可視領域の平面内のいずれかにおけるさらなる計算サブホログラムとなるよう選択可能である。
いくつかの仮想平面を使用して、空間光変調器デバイスの少なくとも1つの仮想平面内の2次元フル視差符号化と、少なくとも別の仮想平面内の1次元シングル視差符号化と、を使用することも可能である。好ましくは、2次元フル視差符号化は、可視領域までの距離が小さい少なくとも1つの仮想平面で使用され、1次元シングル視差符号化は、 可視領域までの距離がより大きい少なくとも1つの平面で使用される。。
光変調器デバイスの物理平面について計算されたサブホログラムの加算は、この物理平面内または観察者平面内または可視領域の平面内のいずれかで、上述の実施の形態と同様の方法で、有利に実施することができる。
この実施の形態では、空間光変調器デバイスの仮想平面の数および位置の選択はもはやオブジェクトに基づいて行われることはない。これは、可視解像度の制限を避けるためであり、そのような制限は生じない。しかしながら、オブジェクトに基づくと、サブホログラムのサイズを低減することによって計算の労力を制限することができる。
この実施の形態でも、仮想平面の数および位置の選択はオブジェクトに基づいて行われることはなく、これは可視解像度の制限を回避するためである。シングル視差符号化を用いたホログラムの従来の計算におけるものと同じ制限がここで適用される。ふたたび、空間光変調器デバイスの仮想平面の数および位置の選択はオブジェクトに基づいて行われる。これは、サブホログラムのサイズを低減することによって計算の労力を制限するためである。言い換えると、再構成対象のシーンの深さ範囲に依存して、空間光変調器デバイスの仮想平面の数と空間光変調器デバイスの該仮想平面の可視領域との距離とは、再構成対象のシーンについて計算されるべきサブホログラムの変調要素の数の形でのサイズが所与の値を超えないように選択されることが有利に提供されてもよい。
可視領域/仮想観察窓の所与のサイズからインターセプト定理を用いてサブホログラムの空間範囲の形でサイズが計算される場合、
xsh = | xvw ( zlm - zpoint) / zpoint | が得られる。
Nsh = (xsh / plm)
上記の方程式を簡略化するため、この丸め(四捨五入)は以下では明記されない。 しかしながら、各Nshは丸められた整数値を表すべきである。
この項は数学的に再構築可能であり(可視領域または仮想観察窓の範囲について上述の式を用いる)、以下となる。
Nsh = (1/zpoint - 1 / zlm) xvw 2 / λ
|1/zpoint - 1 / zlm|
三次元シーンの深さ範囲は、再構成対象のシーンのオブジェクトポイントと可視領域との最小距離zpoint_minと再構成対象のシーンのオブジェクトポイントと可視領域との最大距離zpoint_maxとによって特徴付けられてもよい。
可視領域への最小距離zpoint_minを有するオブジェクトポイントまたは最大距離zpoint_maxを有するオブジェクトポイントのいずれかは、その範囲で最も大きなサブホログラムを有する。
1/zpoint_min - 1 / zlm_virt = 1/ zlm_virt - 1/zpoint_max
したがって、空間光変調器デバイスの仮想平面は、3次元シーンの深さ範囲内に配置される。 すなわち、可視領域との距離が最も小さいオブジェクトポイントについての、変調要素の数の形でのサブホログラムのサイズが、可視領域との距離が最も大きいオブジェクトポイントについてのサブホログラムのサイズと同一となるように配置される。
それは以下の通り。
zlm_virt = 2 / (1/zpoint_min + 1/zpoint_max)
しかしながら、例えば、三次元シーンが可視領域から1.5mの距離から17mの距離に延びる場合、空間光変調器デバイスの仮想平面は約2.76m(すなわち、2 x 1/(1/1.5 + 1/17) m)のところに配置されるであろう。
この例では、可視領域から50cmの距離にあるオブジェクトポイントのサブホログラムと、無限遠にあるオブジェクトポイントのサブホログラムと、はそれぞれ一次元に(例えば、水平に)234個の変調要素の形でのサイズを有することになろう。
フル視差符号化では、変調要素が長方形/正方形である場合、変調要素の総数は234×234となる。
この場合、再構成対象のシーンについて計算されるべき、サブホログラムの変調要素の数の形でのサイズは、深さ範囲全体で234という値を超えない。
3次元シーンの深さ範囲は、2つのサブ範囲または深さ範囲セクションに分解される。 サイズzpoint_medは二つの範囲またはセクションの間の境界を表すべきである。
zpoint_minとzpoint_medとの間の全てのオブジェクトポイントについて、サブホログラムは第1仮想平面zlm_virt1において計算され、zpoint_medとzpoint_maxとの間の全てのポイントについて、サブホログラムは第2仮想平面zlm_virt2において計算される。
深さ範囲セクションzpoint_med間の境界は以下のように決定される。すなわち、可視領域からの距離がこの距離であるオブジェクトポイントのサブホログラムが空間光変調器デバイスの両方の仮想平面において変調要素の数の形での同じサイズを有するように決定され、かつ、加えて、空間光変調器デバイスの第1仮想平面におけるサブホログラムzpoint_minと、空間光変調器デバイスの第2仮想平面におけるサブホログラムzpoint_maxと、が両方の仮想平面におけるサブホログラムzpoint_medと、変調要素の数の形での同じサイズを有するように決定される。
1/zpoint_min - 1 / zlm_virt1 = 1/ zlm_virt1 - 1/zpoint_med = 1/zpoint_med - 1 / zlm_virt2
= 1/ zlm_virt2 - 1/zpoint_max
可視領域から0.5mと1.0mとの間の距離にある全てのオブジェクトポイントについて、空間光変調器デバイスの第1仮想平面内でサブホログラムが計算される。可視領域から1.0 mと無限遠との間の距離にある全てのオブジェクトポイントについて、空間光変調器デバイスの第2仮想平面内でサブホログラムが計算される。可視領域から0.5mの距離にあるオブジェクトポイントのサブホログラムは、空間光変調器デバイスの第1仮想平面内において117個の変調要素の数の形での1次元サイズを有する。可視領域から1 mの距離にあるオブジェクトポイントのサブホログラムは、空間光変調器デバイスの両方の仮想平面内において117個の変調要素の数の形での1次元サイズを有し、無限遠にあるオブジェクトポイントのサブホログラムは、空間光変調器デバイスの第2仮想平面内において117個の変調要素の数の形での1次元サイズを有する。
空間光変調器デバイスの単一の仮想平面を使用する場合と比較して、変調要素の最大数は、この例では234から117となったように、1次元のサブホログラムにおいて半分に分割されうる。
例えば、観察者の距離が多くの場合60−70cmの範囲となるコンピュータ画面について、空間光変調器デバイスの67cmに位置する第1仮想平面は、空間光変調器デバイスの物理平面と一致しうる。この場合、積分変換は、空間光変調器デバイスの2mの位置にある第2仮想平面に対してのみ必要である。
次に、テレビについて、空間光変調器デバイスの2mの位置にある第2仮想平面は空間光変調器デバイスの物理平面に一致しうる。
上記の例では、空間光変調器デバイスの1つまたは2つの仮想平面によって、100個の変調要素という所与の最大値がすでに超えられているので、空間光変調器デバイスの第3仮想平面が必要とされる。
したがって、例えば、ある深さ範囲を有する同じ3次元シーンを含む上述の手順では、空間光変調器デバイスの2つの仮想平面が存在する場合は、単一の仮想平面の場合と比較して、サブホログラムの変調要素の最大数を半分に分割することができる。1つの仮想平面の場合と比較して空間光変調器デバイスの3つの仮想平面がある場合、それは3つに分割される。1つの仮想平面の場合と比較して空間光変調器デバイスの4つの仮想平面がある場合、それは4つに分割される。したがって、追加の仮想平面を使用することによって達成される改善は着実な減少である。空間光変調器デバイスの第5仮想平面を使用する場合、1/4から1/5へのさらなる改善は比較的小さい。
しかしながら、空間光変調器デバイスの更なる各仮想平面について、積分変換の数は数2だけ増加する。通常、空間光変調器デバイスの仮想平面の数は、2,3または4などの数に制限される。しかし、本発明は、空間光変調器デバイスの仮想平面の所与の最大数に限定されない。
サブホログラムを計算する労力は好ましくは3次元シーンが分解されるオブジェクトポイントの数と共に増加するが、積分変換のための労力はオブジェクトポイントの数に依らないので、オブジェクトポイントの数に基づいて空間光変調器デバイスの仮想平面の数を決定してもよく、この場合、多数のオブジェクトポイントを含む三次元シーンの場合、空間光変調器デバイスのより多くの仮想平面が使用され、より少ないオブジェクトポイントを含む三次元シーンの場合、空間光変調器デバイスのより少ない数の仮想平面が使用される。
シングル視差符号化の場合、サブホログラム内の変調要素の総数は、この量に比例する。
フル視差符号化の場合、サブホログラム内の変調要素の総数は垂直変調要素と水平変調要素とを掛け合わせることによって得られ、したがって(1/zpoint - 1 / zlm virt)2に比例する。
となる。 両方の場合において、各和のzlm virtについての微分を形成し、それを0にすることによって最小化が実行される。 フル視差符号化の場合、
が計算される。
となる。 再構成対象のシーンが三つのオブジェクトポイントのみからなり、可視領域までの距離としてzpoint 1 = 0.5 m、zpoint 2 = 0.66 mおよびzpoint 3 = 2.0 mの距離に配置されている場合、(2 + 1.5 + 0.5) / メートル = 3 / zlm virtが得られ、それから空間光変調器デバイスの仮想平面と可視領域との距離としてzlm virt = 0.75 mが得られる。
シングル視差符号化の場合、
が計算される。
可視領域から見たときのオブジェクトポイントの半分が空間光変調器デバイスの仮想平面の前方に位置し、オブジェクトポイントのもう一方の半分がその後方に位置するようにzlm virtが選択される場合、最小値が達成される。この3つのオブジェクトポイントの例では、シングル視差符号化の場合、空間光変調器デバイスの仮想平面の位置は、前記位置が平均ポイントzpoint 2= 0.66mと一致するように選択される。
偶数個のオブジェクトポイントの場合、例えば上述のオブジェクトポイントにzpoint 4 = 0.95 mを加えた四つのオブジェクトポイントの場合、空間光変調器デバイスの仮想平面は、それが0.66mと0.95mとの間の範囲のいずこかに配置されるかのように選択され、この場合、zpoint 1およびzpoint 2は仮想平面の前に配置され、zpoint 3およびzpoint 4は仮想平面の後ろに配置される。
したがって、さらなる例示的な実施の形態では、最小距離zpoint_minおよび最大距離zpoint_maxの形での深さ範囲のみが用いられ、シングル視差符号化の場合には|1/zpoint - 1 / zlm virt | dzpointのzpoint_minからzpoint_maxまでの積分が最小化され、フル視差符号化の場合には(1/zpoint - 1 / zlm virt)2 dzpointのzpoint_minからzpoint_maxまでの積分が最小化される。
例えば、ホログラフィックディスプレイ装置に連続的に表示されるコンテンツ(例えば、フィルムシーケンスのような)は、可視領域に近いオブジェクトポイントを有する好ましくは3次元シーンと、時間的にその次に続く可視領域または仮想観察窓から遠くに離れたオブジェクトポイントを有する好ましくは3次元シーンと、の間で切り替え可能である。
あるいはまた、空間光変調器デバイスの物理平面に対する観察者の平均またはより典型的な(アプリケーションに応じて、例えばノートブックまたはテレビジョンのような)距離を使用することもできる。
二次元及び/又は三次元シーンの表現のために、ヘッドマウントディスプレイ又はホックラも使用することができる。ヘッドマウントディスプレイまたはホックラは、可視領域から空間光変調器デバイスの拡大画像が見えるように、イメージングシステムまたはフォーカシングシステムを含む。イメージングシステムまたはフォーカシングシステムは、空間光変調器デバイスのイメージ平面の位置が可変であるように構成することができる。イメージングシステムまたはフォーカシングシステムは、例えば少なくともひとつの要素を含むことができ、この要素の焦点距離は可変に構成される、すなわち制御可能な方法で変更可能である。このようにして、少なくとも1つの空間光変調器デバイスのイメージ平面をシフトさせることが可能である。これは、表示されるシーンのコンテンツに応じて、空間光変調器デバイスの少なくとも1つの仮想平面が決定または設定されることを意味し、仮想平面は、シーンのオブジェクトポイントのサブホログラムが可能であれば小さな面積を有するように決定され、その計算はその努力に関して有利である。直視型ディスプレイとして設計されたディスプレイ装置の空間光変調器デバイスの物理平面に対応する空間光変調器デバイスのイメージ/イメージ平面は、これが空間光変調器デバイスの仮想平面に一致するようにまたはそれと同一となるようにシフトされてもよい。この場合、空間光変調器デバイスの仮想平面が1つしか利用できない場合、積分変換を完全に省くことができる。
あるいはまた、少なくとも1つの空間光変調器デバイスのイメージ平面は、空間光変調器デバイスの物理平面をわずかに変化させることによってもシフトさせることができる。
この例では、ディスプレイ装置は、光源LQと、フィールドレンズFLと、空間光変調器デバイス1とを備えている。 空間光変調器デバイス1にホログラムが書き込まれていない状態において、光源LQにより放たれた光がフィールドレンズFLによって空間光変調器デバイス1から距離zlmのところにある観察者平面2に集束するように、光源LQおよびフィールドレンズFLを構成する。 再構成対象のシーン(ここでは不図示)が適切な態様でオブジェクトポイントに分解され、オブジェクトポイントがディスプレイ装置の空間光変調器デバイス1にサブホログラムとして符号化された場合、空間光変調器デバイス1から前記距離zlmののところに可視領域3または仮想観察窓が生成される。
図示のディスプレイ装置では、空間光変調器デバイス1のフィールドレンズFLの距離は小さい、すなわち、それは空間光変調器デバイス1と可視領域3との距離zlmよりも著しく小さい。
図1aは、固定焦点距離を有するフィールドレンズを示す。 一般に、フィールドレンズを、特に、可変焦点距離を有するように設計してもよい、またはディスプレイ装置は変化した観察者の位置までの距離zlmを動的に調整するために用いられる可変焦点要素を、フィールドレンズに加えて備えてもよい。さらに、ディスプレイ装置は、横に変化した観察者の位置の可視領域3を追跡するための偏向要素を含むことができる。
図1aに示すディスプレイ装置は、ホログラフィック直視型ディスプレイ装置とも呼ばれる。
図1bでは、ここではレンズとして示されているいくつかの光学要素Lが、空間光変調器デバイス1の1つの通常は拡大される現実イメージrBがまず生成されるようにディスプレイ装置に配置されている。
空間光変調器デバイス1の現実イメージrBに非常に近接して配置されたフィールドレンズFLを用いて、さらに、光源LQの光が観察者平面2に集束する。
再構成対象のシーンのオブジェクトポイントへの分解およびディスプレイ装置の空間光変調器デバイス1へのオブジェクトポイントのサブホログラムとしての符号化は、空間光変調器デバイス1の現実イメージrBの場所に現実に利用可能な空間光変調器デバイスがあるかのように、実行されてもよい。
ディスプレイ装置のこの実施の形態では、空間光変調器デバイス1は、空間光変調器デバイス1とフィールドレンズFLとの間の距離のサイズがフィールドレンズFLと観察者平面2との間の距離のサイズと同様となるように、ある位置に配置される。。
フィールドレンズFLと観察者平面2との間の距離は、例えばフィールドレンズFLの焦点距離に対応する。空間光変調器デバイス1とフィールドレンズFLとの間の距離は、フィールドレンズの焦点距離とほぼ同じであるが、それよりも小さい。
この場合、空間光変調器デバイス1の通常は拡大された仮想イメージvBが生成される。
次いで、再構成対象のシーンのオブジェクトポイントへの分解およびディスプレイ装置の空間光変調器デバイス1へのオブジェクトポイントのサブホログラムとしての符号化は、空間光変調器デバイス1の仮想イメージvBの場所に現実に利用可能な空間光変調器デバイス1があるかのように、実行されてもよい。
したがって、ディスプレイ装置に設けられたさらなるデバイスまたは要素は、適宜指摘されない限り、本明細書では説明しない。
しかしながら、ホログラムの複素数値が振幅+位相光変調器デバイスの単一の変調要素(画素)に書き込まれておらず、代わりに位相のみまたは振幅のみの変調の光変調器デバイスのいくつかの変調要素(画素)を用いて書き込まれている場合、上述の用語「画素ピッチ」および用語「変調要素(画素)の数」は、変調要素および画素ピッチのそれぞれがそのような光変調器デバイスのいくつかの変調要素(画素)であって全体としてひとつの複素数値が書き込まれるいくつかの変調要素を指すものと理解されるべきである。
ここで、絶対値的に言えば、図2による空間光変調器デバイス上に小さなサブホログラムS1およびS2が生成される。この例示的な実施の形態で提供される空間光変調器デバイス1の比較的大きな画素ピッチのために、これらのサブホログラムは、空間光変調器デバイス1の数少ない変調要素7、(上述したように)画素とも称される、の上にのみ広がる。これは、以下に説明するように、サブホログラムの計算および可視領域におけるサブホログラムの複素加算に必要な計算量に関して特に有利である。
しかしながら、この方法は、空間光変調器デバイスの仮想平面の位置の所定の定義に限定されない。
空間光変調器デバイスの仮想平面の位置は、例えば、可変深さ範囲を有するシーンを最適な方法で計算することができるように、表示されるシーンの内容について動的な態様で、仮想的に動くことができる。
したがって、図5は、広い深さ範囲を伴う表示されるべき再構成対象のシーン4のサブホログラムS1、S2およびS3の範囲を模式的に示し、深さ範囲はここでは図4と同様に再構成対象のシーン4の、空間光変調器デバイス100の物理平面100および空間光変調器デバイス100の二つの仮想平面100'および100''における楕円形制限によって表される。
フル視差計算では、空間光変調器デバイスの仮想平面へのセグメント化および再構成対象のシーン4の深さ範囲のセクションへの細分化が実行される。この場合、図の説明の前に詳細に説明したように、サブホログラムの最大サイズが超えられることはない。
フィールドレンズFLがいくつかのレンズを含むレンズ系である場合、可変焦点距離を有するイメージングシステムASは、フィールドレンズFLの一部であってもよいし、フィールドレンズFL自体が可変焦点距離を有するイメージングシステムまたはフォーカシングシステムASとして設計されてもよい。可変焦点距離を有するイメージングシステムまたはフォーカシングシステムASは、例えば、個々のレンズの相互距離を変えることができるいくつかのレンズのシステムとして設計することもでき、これにより、システム全体の焦点距離を変更できる。
HMDまたはホックラ用のホログラムを計算するために、空間光変調器デバイス110の仮想平面110 'は、再構成対象のシーン4のコンテンツに基づいて決定され、計算に適したサブホログラムのサイズが得られるかまたは達成されるようにディスプレイ装置内のある位置にセットされる。例えば、上述したように、サブホログラムの最大サイズまたは平均サイズのいずれかが最小になるように仮想平面110 'を設定することができる。図7によれば、仮想平面110 'は、オブジェクトポイントP1 - Pnの一部が仮想平面110 'の前にあり、オブジェクトポイントP1 - Pnの一部が仮想平面110 'の後ろにあるように、ここでは再構成対象のシーン4の中に配置または設定される。図7は、非制御状態または可変モードまたはオフモードの可変焦点距離を有するイメージングシステムASを示す。
Claims (24)
- ディスプレイ装置における二次元および/または三次元シーンのホログラフィック再構成のためのホログラムを計算する方法であって、再構成対象のシーンはオブジェクトポイントに分解され、前記オブジェクトポイントはサブホログラムとして前記ディスプレイ装置の少なくともひとつの空間光変調器デバイスへと符号化され、再構成されたシーンは可視領域から観測され、
−前記少なくともひとつの空間光変調器デバイスの少なくともひとつの仮想平面は前記空間光変調器デバイスの物理平面から決定され、
−サブホログラムの計算は前記少なくともひとつの空間光変調器デバイスの前記少なくともひとつの仮想平面において実行され、
−前記計算されたサブホログラムが前記少なくともひとつの空間光変調器デバイスの前記物理平面へと変換され、ホログラムとして書き込まれる、
方法。 - 再構成対象の前記シーンの前記オブジェクトポイントは、前記少なくともひとつの空間光変調器デバイスの前記少なくともひとつの仮想平面におけるサブホログラムとして計算され、前記少なくともひとつの空間光変調器デバイスの前記少なくともひとつの仮想平面における前記計算されたサブホログラムは、前記可視領域へと積分変換により変換され、かつ、そこで足し合わされ、前記足し合わされたサブホログラムは、前記可視領域から前記少なくともひとつの空間光変調器デバイスの前記物理平面へと、さらなる積分変換により変換され、かつ、ホログラムとして書き込まれる請求項1に記載の方法。
- 再構成対象の前記シーンの前記オブジェクトポイントは、前記少なくともひとつの空間光変調器デバイスの前記少なくともひとつの仮想平面におけるサブホログラムとして計算され、計算される前記サブホログラムは前記少なくともひとつの仮想平面において足し合わされ、前記少なくともひとつの空間光変調器デバイスの前記少なくともひとつの仮想平面の足し合わされた前記サブホログラムは積分変換によって前記可視領域へと変換され、かつ、前記可視領域から前記少なくともひとつの空間光変調器デバイスの前記物理平面へとさらなる積分変換によって変換され、かつ、ホログラムとして書き込まれる請求項1に記載の方法。
- 前記少なくともひとつの空間光変調器デバイスの少なくともふたつの仮想平面が決定される場合、これらの仮想平面のうちのひとつはそれぞれ再構成対象の前記シーンの前記オブジェクトポイントに割り当てられ、前記オブジェクトポイントはそれらに割り当てられた前記仮想平面におけるサブホログラムとして計算され、前記仮想平面に割り当てられた前記オブジェクトポイントの前記サブホログラムは各仮想平面において足し合わされ、足し合わされた前記サブホログラムは前記少なくともふたつの仮想平面から前記可視領域へと、積分変換によって変換され、前記少なくともふたつの仮想平面の変換結果は前記可視領域において足し合わされ、足し合わされたトータル変換結果は前記可視領域から前記少なくともひとつの空間光変調器デバイスの前記物理平面へと、さらなる積分変換により変換され、かつ、ホログラムとして書き込まれる請求項3に記載の方法。
- 前記少なくともひとつの空間光変調器デバイスの少なくともふたつの仮想平面が決定される場合、これらの仮想平面のうちのひとつはそれぞれ再構成対象の前記シーンの前記オブジェクトポイントに割り当てられ、前記オブジェクトポイントはそれらに割り当てられた前記仮想平面におけるサブホログラムとして計算され、前記仮想平面に割り当てられた前記オブジェクトポイントの前記サブホログラムは各仮想平面において足し合わされ、足し合わされた前記サブホログラムは前記少なくともふたつの仮想平面から前記可視領域へと、積分変換によって変換され、前記少なくともふたつの仮想平面のそれぞれについて、対応する変換結果は前記可視領域から前記少なくともひとつの空間光変調器デバイスの現実のまたは物理的な平面へと、さらなる積分変換により変換され、前記少なくともふたつの仮想平面の変換結果は前記少なくともひとつの空間光変調器デバイスの前記物理平面において足し合わされ、足し合わされたトータル変換結果はホログラムとして書き込まれる、請求項3に記載の方法。
- 前記サブホログラムもしくは足し合わされた前記サブホログラムの仮想平面から前記可視領域への変換または前記可視領域から前記空間光変調器デバイスの前記物理平面への前記さらなる積分変換は、シングル視差符号化の場合に一次元積分変換によって実行され、または、シングル視差符号化もしくはフル視差符号化の場合に二次元積分変換によって実行される請求項4または5に記載の方法。
- 前記空間光変調器デバイスの前記少なくともひとつの仮想平面の位置は再構成対象の前記シーンの深さ範囲内で選択され、再構成対象の前記シーンの前記深さ範囲は、前記可視領域との距離が最も小さい前記オブジェクトポイントと前記可視領域との距離が最も大きい前記オブジェクトポイントとによって定められる請求項1に記載の方法。
- 再構成対象の前記シーンの深さ範囲に関して、前記空間光変調器デバイスの前記少なくともひとつの仮想平面の位置は、前記シーンの前記再構成中の可視解像度が所与の値を下回らないように選択される請求項1に記載の方法。
- 再構成対象の前記シーンは少なくとも二つの深さ範囲セクションに分解され、前記少なくとも二つの深さ範囲セクションの各々に前記空間光変調器デバイスのひとつの仮想平面が割り当てられ、前記深さ範囲セクションに割り当てられた前記仮想平面における前記サブホログラムは深さ範囲セクション内にある全てのオブジェクトポイントについて計算される請求項1に記載の方法。
- 前記空間光変調器デバイスの前記仮想平面は前記少なくとも二つの深さ範囲セクションに割り当てられ、該仮想平面のうちのひとつの仮想平面は前記空間光変調器デバイスの前記物理平面に一致する請求項9に記載の方法。
- 前記空間光変調器デバイスの前記物理平面について計算される前記サブホログラムの足し合わせは、前記空間光変調器デバイスの前記物理平面において、または、前記可視領域において、実行される請求項10に記載の方法。
- 再構成対象の前記シーンの個々の前記オブジェクトポイントは、前記空間光変調器デバイスの前記物理平面上のサブホログラムの形で、水平方向と垂直方向とで異なる焦点距離を有するレンズ要素として、符号化される請求項1に記載の方法。
- 前記空間光変調器デバイスの前記少なくともひとつの仮想平面における前記サブホログラムの前記計算は、二次元フル視差符号化によって、または、一次元シングル視差符号化によって、実行される請求項1に記載の方法。
- 前記空間光変調器デバイスの前記仮想平面の数と前記空間光変調器デバイスの該仮想平面の前記可視領域との距離とが、再構成対象の前記シーンについて計算されるべき前記サブホログラムの変調要素の数の形でのサイズが所与の値を超えないように選択される請求項1に記載の方法。
- 再構成対象の前記シーンの全てのオブジェクトポイントの位置に依存して、前記空間光変調器デバイスの前記少なくともひとつの仮想平面の前記可視領域との距離が、再構成対象の前記シーンについて計算されるべき前記サブホログラムの変調要素の数の形での平均サイズであって全てのオブジェクトポイントに亘って平均された前記平均サイズが最小値をとるように選択される請求項1に記載の方法。
- 前記空間光変調器デバイスの前記仮想平面の数は所与の値に制限される請求項1に記載の方法。
- 前記空間光変調器デバイスの前記少なくともひとつの仮想平面の位置は、再構成対象の前記シーンの深さ範囲の時間変化がある場合に、新たな深さ範囲に対して調整される請求項1に記載の方法。
- 前記再構成されたシーンの観察者の検出された位置にしたがい前記可視領域を軸方向および/または横方向において追跡するとき、前記空間光変調器デバイスの前記少なくともひとつの仮想平面の数および位置は前記可視領域の新たな位置に対して調整される請求項1に記載の方法。
- 前記空間光変調器デバイスの前記少なくともひとつの仮想平面による再構成対象の前記シーンの前記計算されたホログラムの、前記空間光変調器デバイスの前記物理平面において同じシーンについて直接計算されたホログラムからのずれは所定の基準を超えない請求項1に記載の方法。
- 前記少なくともひとつの空間光変調器デバイスのイメージ平面が生成される二次元および/または三次元シーンのためのディスプレイ装置であって該イメージ平面は前記空間光変調器デバイスの物理平面として機能するディスプレイ装置を用いるとき、前記少なくともひとつの空間光変調器デバイスの少なくともひとつの仮想平面は再構成対象のシーンのコンテンツによって決定され、前記空間光変調器デバイスの前記イメージ平面は、該イメージ平面が前記空間光変調器デバイスの前記仮想平面に一致するようにシフトされ、再構成対象の前記シーンの前記オブジェクトポイントはサブホログラムとして計算され、足し合わされ、かつホログラムとして書き込まれる請求項1に記載の方法。
- 二次元および/または三次元シーンの表現のためのディスプレイ装置であって、空間光変調器デバイスを備え、前記ディスプレイ装置は請求項1から20のいずれか一項に記載の前記方法を実行するディスプレイ装置。
- 前記ディスプレイ装置は前記空間光変調器デバイスのイメージ平面およびイメージングシステムを備え、前記イメージングシステムは前記イメージ平面の位置が可変となるよう設計される請求項21に記載のディスプレイ装置。
- 前記イメージングシステムは可変焦点距離を有する少なくともひとつの要素を備える請求項22に記載のディスプレイ装置。
- 前記ディスプレイ装置はヘッドマウントディスプレイとして設計される請求項21に記載のディスプレイ装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102015205873.5A DE102015205873A1 (de) | 2015-04-01 | 2015-04-01 | Verfahren zur Berechnung von Hologrammen zur holographischen Rekonstruktion von zweidimensionalen und/oder dreidimensionalen Szenen |
DE102015205873.5 | 2015-04-01 | ||
PCT/EP2016/056761 WO2016156287A1 (de) | 2015-04-01 | 2016-03-29 | Verfahren zur berechnung von hologrammen zur holographischen rekonstruktion von zweidimensionalen und/oder dreidimensionalen szenen |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018517160A JP2018517160A (ja) | 2018-06-28 |
JP2018517160A5 JP2018517160A5 (ja) | 2021-03-11 |
JP6893880B2 true JP6893880B2 (ja) | 2021-06-23 |
Family
ID=55646569
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017550816A Active JP6893880B2 (ja) | 2015-04-01 | 2016-03-29 | 二次元および/または三次元シーンのホログラフィック再構成のホログラム計算のための方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US11460809B2 (ja) |
JP (1) | JP6893880B2 (ja) |
KR (1) | KR102647998B1 (ja) |
CN (1) | CN107710080B (ja) |
DE (1) | DE102015205873A1 (ja) |
TW (1) | TWI710868B (ja) |
WO (1) | WO2016156287A1 (ja) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10768630B2 (en) * | 2017-02-09 | 2020-09-08 | International Business Machines Corporation | Human imperceptible signals |
CN110291442B (zh) | 2017-02-13 | 2022-08-02 | 视瑞尔技术公司 | 光导装置和用于表示场景的显示装置 |
CN110402410B (zh) * | 2017-02-28 | 2022-08-30 | 赛伊视觉公司 | 使用空间光调制器的近眼显示装置 |
JP6960144B2 (ja) * | 2017-04-11 | 2021-11-05 | 国立研究開発法人情報通信研究機構 | ホログラム製造方法及びホログラム記録装置 |
WO2019012028A1 (de) | 2017-07-13 | 2019-01-17 | Seereal Technologies S.A. | Anzeigevorrichtung zur vergrösserung des sichtfelds |
KR20200071108A (ko) | 2017-10-18 | 2020-06-18 | 시리얼 테크놀로지즈 에스.에이. | 넓은 시야를 생성하기 위한 디스플레이 디바이스 및 방법 |
US11137720B2 (en) | 2018-03-21 | 2021-10-05 | Samsung Display Co., Ltd. | Holographic display device |
KR102566408B1 (ko) | 2018-04-24 | 2023-08-11 | 삼성전자주식회사 | 확장된 시야창을 제공하는 3차원 영상 디스플레이 장치 및 방법 |
GB2569206B (en) | 2018-05-25 | 2019-12-04 | Dualitas Ltd | A method of displaying a hologram on a display device comprising pixels |
CN108762033B (zh) * | 2018-05-28 | 2022-12-09 | 江苏慧光电子科技有限公司 | 成像方法和光学系统及其存储介质、芯片与组合 |
CN110361951A (zh) * | 2019-06-11 | 2019-10-22 | 北京理工大学 | 一种扩大视场的全息显示方法、装置及系统 |
CN111578867B (zh) * | 2020-04-10 | 2021-08-24 | 清华大学深圳国际研究生院 | 基于多次错位压缩全息重构的三维成像方法及系统 |
KR102603032B1 (ko) * | 2020-06-05 | 2023-11-16 | 한국전자통신연구원 | 축 분할 기반의 홀로그램 생성 방법 및 장치 |
CN113343268B (zh) * | 2021-06-28 | 2023-05-12 | 福建师范大学 | 一种可控放大解密的多三维场景加解密方法 |
GB2618630A (en) * | 2022-10-20 | 2023-11-15 | Envisics Ltd | Hologram calculation for compact head-up display |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3059590B2 (ja) * | 1992-09-30 | 2000-07-04 | 富士通株式会社 | 立体表示方法及び装置 |
KR100891293B1 (ko) | 2002-11-13 | 2009-04-06 | 씨리얼 테크놀로지스 게엠베하 | 삼차원 홀로그램 재구성 방법 및 장치와 홀로그램 베어링 매체 |
DE102004063838A1 (de) * | 2004-12-23 | 2006-07-06 | Seereal Technologies Gmbh | Verfahren und Einrichtung zum Berechnen computer generierter Videohologramme |
CN101176043B (zh) | 2005-05-13 | 2011-04-20 | 视瑞尔技术公司 | 用于场景全息再现的投射装置和方法 |
WO2008025839A1 (de) | 2006-09-01 | 2008-03-06 | Seereal Technologies S.A. | Verfahren zum generieren von videohologrammen in echtzeit mittels subhologrammen |
DE102006041637B4 (de) * | 2006-09-05 | 2010-11-25 | Seereal Technologies S.A. | Wiedergabevorrichtung und Verfahren zum Nachführen eines Betrachterfensters |
DE102006059400B4 (de) * | 2006-12-12 | 2019-12-24 | Seereal Technologies S.A. | Display-Einrichtung zur Erzeugung von Rekonstruktionen dreidimensionaler Darstellungen |
DE102007025069B4 (de) * | 2007-05-21 | 2018-05-24 | Seereal Technologies S.A. | Holographisches Rekonstruktionssystem |
DE102008000589B4 (de) * | 2008-03-11 | 2018-02-01 | Seereal Technologies S.A. | Verfahren zur Kodierung von computergenerierten Hologrammen in pixelierten Lichtmodulatoren |
GB2461894B (en) * | 2008-07-16 | 2010-06-23 | Light Blue Optics Ltd | Holographic image display systems |
US9323218B2 (en) * | 2012-07-20 | 2016-04-26 | City University Of Hong Kong | Generating full-parallax digital holograms |
-
2015
- 2015-04-01 DE DE102015205873.5A patent/DE102015205873A1/de active Pending
-
2016
- 2016-03-29 JP JP2017550816A patent/JP6893880B2/ja active Active
- 2016-03-29 US US15/563,016 patent/US11460809B2/en active Active
- 2016-03-29 WO PCT/EP2016/056761 patent/WO2016156287A1/de active Application Filing
- 2016-03-29 CN CN201680032235.6A patent/CN107710080B/zh active Active
- 2016-03-29 KR KR1020177031624A patent/KR102647998B1/ko active IP Right Grant
- 2016-04-01 TW TW105110441A patent/TWI710868B/zh active
Also Published As
Publication number | Publication date |
---|---|
US11460809B2 (en) | 2022-10-04 |
WO2016156287A1 (de) | 2016-10-06 |
KR102647998B1 (ko) | 2024-03-14 |
DE102015205873A1 (de) | 2016-10-06 |
JP2018517160A (ja) | 2018-06-28 |
CN107710080B (zh) | 2021-01-26 |
TWI710868B (zh) | 2020-11-21 |
US20180364643A1 (en) | 2018-12-20 |
KR20170132311A (ko) | 2017-12-01 |
CN107710080A (zh) | 2018-02-16 |
TW201702768A (zh) | 2017-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6893880B2 (ja) | 二次元および/または三次元シーンのホログラフィック再構成のホログラム計算のための方法 | |
Maimone et al. | Holographic near-eye displays for virtual and augmented reality | |
US20220357702A1 (en) | Method of computing a hologram | |
KR102481579B1 (ko) | 홀로그램을 생성하기 위한 방법 | |
Lee et al. | Foveated retinal optimization for see-through near-eye multi-layer displays | |
US8547615B2 (en) | Head-mounted display device for generating reconstructions of three-dimensional representations | |
JP2005520184A (ja) | 放射条件付けシステム | |
JP2003536297A (ja) | 3次元ディスプレイのための計算時間削減 | |
WO2003036993A1 (en) | Projection of three-dimensional images | |
Yoneyama et al. | Holographic head-mounted display with correct accommodation and vergence stimuli | |
US8390676B2 (en) | Device and method for tracking a viewer window | |
US20210191123A1 (en) | Display device and method for producing a large field of vision | |
Cui et al. | All-passive, transformable optical mapping (ATOM) near-eye display | |
Kim et al. | See through HMD type MF 3D display for AR |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171110 Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171129 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200309 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201030 |
|
A524 | Written submission of copy of amendment under article 19 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A524 Effective date: 20210126 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20210302 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210510 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210602 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6893880 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |