JP6763368B2 - 制御装置、制御方法及びプログラム - Google Patents

制御装置、制御方法及びプログラム Download PDF

Info

Publication number
JP6763368B2
JP6763368B2 JP2017507483A JP2017507483A JP6763368B2 JP 6763368 B2 JP6763368 B2 JP 6763368B2 JP 2017507483 A JP2017507483 A JP 2017507483A JP 2017507483 A JP2017507483 A JP 2017507483A JP 6763368 B2 JP6763368 B2 JP 6763368B2
Authority
JP
Japan
Prior art keywords
phase distribution
basic
target image
image
phase
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017507483A
Other languages
English (en)
Other versions
JPWO2016152109A1 (ja
Inventor
藤男 奥村
藤男 奥村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2016152109A1 publication Critical patent/JPWO2016152109A1/ja
Application granted granted Critical
Publication of JP6763368B2 publication Critical patent/JP6763368B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/16Processes or apparatus for producing holograms using Fourier transform
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/22Processes or apparatus for obtaining an optical image from holograms
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position

Description

本発明は、位相変調型の空間変調素子を制御する制御装置、制御方法および制御プログラムを記録したプログラム記録媒体に関する。
非特許文献1には、プロジェクタとカメラとを組み合わせたインターフェース装置が開示されている。非特許文献1のインターフェース装置では、プロジェクタが投射した画像に対して行われた操作をカメラで検出することによって、インタラクティブな動作を実現する。
インターフェース装置のプロジェクタには空間変調素子が用いられる。空間変調素子の変調方式には、強度変調型と位相変調型とがある。位相変調型の空間変調素子は、強度変調型と比較して電力効率がよく、プロジェクタとスクリーンとの距離が離れても暗くならないように設計でき、変調素子の欠陥画素がスクリーン上の欠陥にならないという長所をもつ。
位相変調型の空間変調素子の表示領域に表示させる画像は、反復フーリエ変換法などの演算処理を用いて逐一形成する。そのため、位相変調型の空間変調素子では、投射環境が変動したり、動画表示したりする場合には、計算量が膨大となって処理に遅延が生じることがある。
特許文献1には、入力された対象物を同一の動きをするグループに分類し、分類したグループごとに、特定時間後のホログラム面上に投影される光の干渉縞を作成する動画ホログラム表示装置について開示されている。特許文献1の装置は、作成された分類ごとの干渉縞をフレームバッファ内の異なるバッファに記憶し、全てのグループの処理が終了した後で各バッファの内容を一つのバッファに統合する。特許文献1の装置によれば、ホログラムを再計算することなしに、特定時間後の対象物の干渉縞を生成することができる。そのため、特許文献1の装置によれば、ホログラムの計算を高速に行い、リアルタイムの動画ホログラム作成および再生表示が可能となる。
特開平10−222046号公報
C.Pinhanez、「Everywhere Displays Projector」、[online]、IBM、[2014年5月7日検索]、インターネット<URL:http://www.research.ibm.com/people/p/pinhanez/publications/ubicomp01.pdf>
LCOS(Liquid Crystal on Silicon)や回折光学素子の近傍領域に相当するフレネル領域においては、LCOSや回折光学素子の表示面上の表示画像を動かすことによって、投射画像上の表示画像を動かすことができる。そのため、フレネル領域においては、特許文献1の手法によって、同一の動きをするグループごとに干渉縞を平行移動や回転処理させ、その後に全てのグループの干渉縞を統合することによって、所望の投射画像を形成させることができる。
しかし、フレネル領域とは異なり、フラウンホーファ領域に関しては、特許文献1の手法を適用して表示面上で表示画像を移動させても投射画像を動かすことはできない。そのため、フラウンホーファ領域を用いる場合は、特許文献1の手法を適用できないという問題点があった。また、特許文献1の手法では、投射画像の焦点位置が固定となるため、フォーカスフリーの投射画像を形成できないという問題点があった。
本発明の目的は、上記課題を解決するために、フラウンホーファ領域にフォーカスフリーで投射する目的画像の位相分布を生成する演算を高速化する制御装置を提供することにある。
本発明の制御装置は、基本パターンを含む基本画像の位相分布を記憶し、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、自身が記憶している基本画像の位相分布を用いて目的画像の位相分布を生成する位相分布生成手段と、位相分布生成手段によって生成された目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする位相制御手段とを有する。
本発明の制御方法においては、基本パターンを含む基本画像の位相分布を記憶し、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、基本画像の位相分布を用いて目的画像の位相分布を生成し、生成した目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする。
本発明のプログラム記録媒体には、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、基本画像の位相分布を用いて目的画像の位相分布を生成する処理と、生成した目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする処理とをコンピュータに実行させる制御プログラムが記録される。
本発明によれば、フラウンホーファ領域にフォーカスフリーで投射する目的画像の位相分布を生成する演算を高速化する制御装置を提供することが可能になる。
本発明の第1の実施形態に係る投射装置の構成を示すブロック図である。 本発明の第1の実施形態に係る投射装置の光学系の構成を示す概念図である。 本発明の第1の実施形態に係る投射装置が用いる基本画像の位相分布を反復フーリエ変換処理によって生成する例について説明するための概念図である。 本発明の第1の実施形態に係る投射装置が用いる基本画像の位相分布を生成する際に行われる反復フーリエ変換処理について説明するためのフローチャートである。 被投射面上の振幅分布が反復フーリエ変換処理の処理回数に伴って変化する例について説明するための概念図である。 本発明の第1の実施形態に係る投射装置の制御手段の構成を示すブロック図である。 本発明の第1の実施形態に係る投射装置の位相分布生成手段の構成を示すブロック図である。 本発明の第1の実施形態に係る投射装置の位相分布生成手段に含まれる基本画像記憶部の構成例を示すブロック図である。 本発明の第1の実施形態に係る投射装置の制御手段の基本画像記憶部が記憶する基本画像テーブルの一例を示す概念図である。 本発明の第1の実施形態に係る投射装置の位相変調手段に含まれる空間変調素子の表示領域に表示される位相分布について説明するための概念図である。 本発明の第1の実施形態に係る投射装置の位相変調手段に含まれる空間変調素子の表示領域に表示される位相分布について説明するための概念図である。 本発明の第1の実施形態に係る投射装置の制御手段が行う処理を説明するためのフローチャートである。 本発明の第2の実施形態に係る制御手段の位相分布生成手段の構成を示すブロック図である。 本発明の第2の実施形態に係る投射装置の制御手段が行う基本画像の変換処理の一例である並進処理について説明するための概念図である。 本発明の第2の実施形態に係る投射装置の制御手段が行う基本画像の変換処理の一例である回転処理について説明するための概念図である。 本発明の第2の実施形態に係る投射装置の制御手段が行う基本画像の変換処理の一例である拡大・縮小処理について説明するための概念図である。 本発明の第2の実施形態に係る投射装置の制御手段が行う基本画像の変換処理の一例である反転処理について説明するための概念図である。 本発明の第2の実施形態に係る投射装置の制御手段による処理の一例を説明するためのフローチャートである。 本発明の第3の実施形態に係る投射装置の制御手段に含まれる処理部の構成を示すブロック図である。 反復フーリエ変換処理によって目的画像の位相分布を生成する例について説明するための概念図である。 本発明の第3の実施形態に係る投射装置の制御手段が用いる基本画像の位相分布を基本画像記憶部に記録する例について説明するための概念図である。 本発明の第3の実施形態に係る投射装置が用いる基本画像の位相分布を合成する例について説明するための概念図である。 本発明の第3の実施形態に係る投射装置の制御手段が生成した目的画像の位相分布に対して、さらに反復フーリエ変換を行う例について説明するための概念図である。 本発明の第3の実施形態に係る投射装置の制御手段による処理の一例を説明するためのフローチャートである。 本発明の第4の実施形態に係る投射装置の制御手段が用いる基本画像の位相分布を生成する反復フーリエ変換処理において、異なる明るさの均一振幅分布を用いて生成された位相分布を比較するための概念図である。 本発明の第4の実施形態に係る投射装置の制御手段が記憶する基本画像テーブルの一例を示す概念図である。 本発明の第4の実施形態に係る投射装置の制御手段が記憶する基本画像テーブルの一例を示す概念図である。 本発明の第4の実施形態に係る投射装置の制御手段が記憶する基本画像テーブルの一例を示す概念図である。 本発明の第4の実施形態に係る投射装置の制御手段が記憶する基本画像テーブルの一例を示す概念図である。 本発明の第4の実施形態に係る投射装置の光学系の構成例を示す概念図である。 本発明の第4の実施形態に係る投射装置の制御手段の構成例を示すブロック図である。 本発明の第5の実施形態に係る投射装置の制御手段の構成を示すブロック図である。 本発明の第5の実施形態に係る投射装置の制御手段の動作を説明するためのフローチャートである。 本発明の第5の実施形態に係る投射装置の制御手段に含まれる検出手段によって基本画像を抽出する例を説明するための概念図である。 本発明の第6の実施形態に係るインターフェース装置の構成を示す概念図である。 本発明の第6の実施形態に係るインターフェース装置の応用例を示す概念図である。 本発明の第6の実施形態に係るインターフェース装置の応用例の利用シーンを示す概念図である。 本発明の適用例に係るインターフェース装置が操作領域に表示させる画像の一例を示す概念図である。 本発明の適用例に係るインターフェース装置が備える投射部に含まれる制御手段が用いる基本画像テーブルの一例を示す概念図である。 本発明の適用例に係るインターフェース装置が備える投射部に含まれる制御部に入力されるデータの一例である。 本発明の適用例に係るインターフェース装置によって生成されるデータの一例を示す概念図である。 本発明の実施形態に係る制御手段のハードウェア構成の一例である。
以下に、本発明を実施するための形態について図面を用いて説明する。ただし、以下に述べる実施形態には、本発明を実施するために技術的に好ましい限定がされているが、発明の範囲を以下に限定するものではない。なお、以下の実施形態の説明に用いる全図においては、特に理由がない限り、同様箇所には同一符号を付し、同様の構成・動作に関しては繰り返しの説明を省略する場合がある。また、図面中の矢印の向きは、一例を示すものであり、ブロック間の信号の向きを限定するものではない。
(第1の実施形態)
<構成>
まず、本発明の第1の実施形態に係る投射装置1の構成について、図面を参照しながら説明する。
図1は、本実施形態に係る投射装置1の構成を示すブロック図である。図1のように、本実施形態に係る投射装置1は、制御手段10、位相変調手段13および投射手段15を備える。
制御手段10は、投射画像(目的画像とも呼ぶ)に関する情報(以下、目的画像情報)をサーバなどの上位システムから入力する。制御手段10は、入力された目的画像情報に基づいて、目的画像に相当する光強度分布を被投射面に形成させるための位相分布(以下、目的画像の位相分布)を生成する。なお、制御手段10は、無線または有線で投射装置1に接続された入力端末に入力された目的画像情報を取得してもよい。
目的画像情報は、目的画像を構成する基本画像に関する情報を含む。基本画像とは、例えば「○」などの円形、「△」や「□」などの多角形、「☆」や「※」などのマーク、「A」や「B」などの文字といった基本的なパターン(以下、基本パターン)を少なくとも一つ含む画像である。なお、基本パターンは、ここで挙げたパターンに限らない。
例えば、目的画像情報には、目的画像を構成する基本画像を一意に特定する情報や、目的画像を構成する基本画像に含まれる基本パターンを特定する情報が含まれる。なお、目的画像情報に含まれる情報は、ここで挙げた限りではない。
制御手段10は、上位システムや入力端末から入力された目的画像情報に含まれる基本画像の位相分布を記憶する。例えば、制御手段10が記憶する基本画像の位相分布は、インターネットやイントラネットなどのネットワーク経由で接続されたサーバやコンピュータにおいて事前に生成されたものである。
制御手段10は、入力された目的画像情報に基づいて、目的画像を構成する基本画像の位相分布を取り出し、取り出した基本画像の位相分布を用いて目的画像の位相分布を生成する。目的画像に単一の基本画像しか含まれない場合は、その単一の基本画像自体が目的画像の位相分布である。
制御手段10は、位相変調手段13の空間変調素子の表示領域に照射されるレーザ光の位相と、表示領域で反射するレーザ光の位相との差分を決定づけるパラメータが変化するように位相変調手段13を制御する。位相変調手段13の空間変調素子の表示領域に照射されるレーザ光の位相と、表示領域で反射するレーザ光の位相との差分を決定づけるパラメータは、例えば、屈折率や光路長などの光学的特性に関するパラメータである。例えば、制御手段10は、位相変調手段13の空間変調素子の表示領域に印加する電圧を制御することによって、表示領域の屈折率を変化させる。その結果、表示領域に照射されたレーザ光は、表示領域の屈折率に基づいて適宜回折される。すなわち、位相変調手段13に照射されたレーザ光の位相分布は、表示領域の光学的特性に応じて変調される。なお、制御手段10による位相変調手段13の制御はここで挙げた限りではない。
制御手段10は、目的画像を構成する基本画像の振幅分布と所定の位相分布とを初期値とし、反復フーリエ変換法などの演算によって生成された基本画像の位相分布を記憶する。
制御手段10は、目的画像情報が入力された際に、入力された目的画像情報に含まれる基本画像の情報に基づいて、自身が記憶している基本画像の位相分布を用いて目的画像の位相分布を生成する。また、制御手段10は、生成された目的画像の位相分布に基づいて位相変調型の空間変調素子を含む位相変調手段13を制御する。
図2は、本実施形態に係る投射装置1の光学的な構成について説明するための概念図である。図2のように、本実施形態においては、光源11が出射したレーザ光をコリメータ12によって平行なレーザ光110とし、位相変調手段13の表示面に入射する。なお、位相変調手段13の表示面に表示させる画像の明るさなどに応じて、光源11が出力するレーザ光の強度を制御手段10が制御するように構成してもよい。
位相変調手段13は、波面がそろったレーザ光110の入射を受け、入射されたレーザ光110の位相を変調する位相変調型の空間変調素子を含む。位相変調手段13は、変調されたレーザ光130を投射手段15に向けて出射する。
位相変調手段13の空間変調素子の表示領域には、被投射面上で目的画像を結像するための位相分布が表示される。位相変調手段13の表示領域で反射されたレーザ光130は、一種の回折格子が集合体を形成したような画像になり、これらの回折格子で回折された光が集まることによって目的画像が形成される。
位相変調手段13は、例えば、強誘電性液晶やホモジーニアス液晶、垂直配向液晶などを用いた空間変調素子によって実現される。位相変調手段13は、例えば、LCOS(Liquid Crystal on Silicon)やMEMS(Micro Electro Mechanical System)によって実現される。
投射手段15は、位相変調手段13によって反射されたレーザ光130を投射光150として投射する光学系である。
本実施形態においては、図2のように、光源11から出射されるレーザ光の出射軸を位相変調手段13の空間変調素子の表示面に対して斜めにする。すなわち、本実施形態においては、位相変調手段13の空間変調素子の表示面に対して、レーザ光の入射角を非垂直にする。位相変調手段13の空間変調素子の表示面に対してレーザ光110の出射軸を斜めに設定すれば、ビームスプリッタを用いなくても位相変調手段13にレーザ光110を入射できるため効率を向上させることができる。
位相変調手段13で変調されたレーザ光130は、投射手段15によって投射光150として投射される。図2のように、投射手段15は、フーリエ変換レンズ16、アパーチャ17および投射レンズ18を備える。
フーリエ変換レンズ16は、位相変調手段13の空間変調素子の表示面で反射されたレーザ光130を無限遠に投射した際に形成される像を、近傍の焦点位置に形成させるための光学レンズである。
アパーチャ17は、フーリエ変換レンズ16によって集束された光に含まれる高次光を消去し、画像領域を特定する機能を有する。アパーチャ17の開口部は、アパーチャ17における投射画像の画像領域よりも小さく開口され、投射画像の周辺領域を遮るように設置される。例えば、アパーチャ17の開口部は、矩形状や円形状になるように形成される。なお、アパーチャ17は、フーリエ変換レンズ16の焦点位置に設置されることが好ましいが、高次光を消去する機能を発揮できれば、焦点位置からずれていても構わない。
投射レンズ18は、フーリエ変換レンズ16によって集束された光を拡大して投射する光学レンズである。投射レンズ18は、位相変調手段13に入力された位相分布に対応する目的画像が被投射面上に表示されるように投射光150を投射する。
〔反復フーリエ変換処理〕
ここで、反復フーリエ変換処理について説明する。一般に、反復フーリエ変換処理は、回折光学素子の設計を行うために用いられるが、位相変調型素子にも同様に用いることができる。
反復フーリエ変換法を含む反復回折型の最適化では、入射光が位相変調素子の表示面で反射された直後の波面と、被投射面まで回折伝搬された投射光の波面とに制約を課す。そして、位相変調素子の表示面と被投射面との間の伝搬・逆伝搬を繰り返し、被投射面上において目的画像を形成させる位相分布に集束させる。なお、基本画像の位相分布は、反復回折型に含まれる位相回復法を用いて生成することもできる。なお、制御手段10が格納する基本画像の位相分布は、反復回折型の最適化のみならず、探索型や同時摂動法、誤差拡散法などの手法を用いて生成したものであってもよい。これ以降は、基本画像の位相分布を反復フーリエ変換法によって生成する例について述べる。
以下の反復フーリエ変換処理に関する説明では、目的画像の位相分布を生成する場合について説明するが、基本画像そのものを用いる場合においても同様に反復フーリエ変換処理を適用して位相分布を生成することができる。
図3は、反復フーリエ変換処理を説明するための概念図である。ただし、図3に示す各位相分布はダミーパターンであり、それらのダミーパターンの位相分布を用いて何らかの目的画像が得られるとは限らない。
空間変調素子直後の光電場分布をフーリエ変換すると、被投射面上における光電場分布Eが得られる。この被投射面上の光電場分布Eの2乗|E|2が目的画像の光強度分布に相当する。逆に、被投射面上における光電場分布Eを逆フーリエ変換すると、空間変調素子直後の光電場分布が得られる。反復フーリエ変換においては、逆フーリエ変換とフーリエ変換とを繰り返しながら、目的画像の位相分布の最適化を行う。
ここで、図4のフローチャートを用いて、反復フーリエ変換処理について説明する。図4の反復フーリエ変換処理は、制御手段10が用いる目的画像の位相分布を生成する際に行われる。通常、本実施形態に係る投射装置1に関しては、目的画像情報を投射装置1に送信するサーバ等が基本画像の位相分布を生成する。
図4において、まず、目的画像の振幅分布201(F0)と、適切な位相分布211(ΔΦ0)とを初期値として設定する(ステップS1)。ここで設定する位相分布211(ΔΦ0)は、所定の位相分布であり、任意のパターンで構わない。例えば、位相分布211(ΔΦ0)は、ランダムパターンや、2次のレンズ状のパターン、リニアなパターンなどの任意なパターンでよい。
次に、振幅分布201(F0)および位相分布211(ΔΦ0)を用いて逆フーリエ変換演算(第1の逆フーリエ変換)を実行する(ステップS2)。第1の逆フーリエ変換によって、振幅分布202(f1)および位相分布212(Δφ1)が生成される。すなわち、第1の逆フーリエ変換では、目的画像の振幅分布と、所定の位相分布とを組み合わせた光電場分布を逆フーリエ変換し、空間変調素子直後の光電場分布を生成する。なお、初期値として与える位相分布211(ΔΦ0)は、振幅分布201(F0)とは関係のないパターンであるため、ここで生成される振幅分布202(f1)は乱雑なパターンになる。
次に、振幅分布202(f1)を適切な画像に入れ替える。図3の例では、均一なレーザ光が位相変調手段13の表示面に入射されると仮定し、振幅分布202(f1)を均一振幅分布203(f0)に置換する(ステップS3)。
次に、均一振幅分布203(f0)および位相分布212(Δφ1)を用いてフーリエ変換演算(第1のフーリエ変換)を実行する(ステップS4)。第1のフーリエ変換によって、振幅分布204(F1)および位相分布213(ΔΦ1)が生成される。すなわち、第1のフーリエ変換では、第1の逆フーリエ変換によって生成した位相分布と、均一振幅分布とを組み合わせた光電場分布をフーリエ変換し、被投射面上における目的画像の光電場分布を生成させる。ここで生成される振幅分布204(F1)は、目的画像の振幅分布201(F0)のエッジが強調されたような画像になる。
処理を継続させる場合(ステップS5でYes)、振幅分布204(F1)を目的画像の振幅分布201(F0)に置換する(ステップS6)。ステップS6の後はステップS2に戻る。
一方、処理を終了させる場合(ステップS5でNo)、図4のフローチャートに沿った処理を終了とする。この段階で得られた位相分布Δφが目的画像の位相分布である。例えば、被投射面上の光強度分布|E|2がどのような条件(所定の条件)に達するまで反復フーリエ変換を継続するのかを決めておき、その所定の条件が満たされた段階の位相分布Δφを用いて位相変調手段13を制御するように設定すればよい。
ステップS6の後は、ステップS2に戻り、振幅分布201(F0)および位相分布213(ΔΦ1)を用いて逆フーリエ変換演算(第2の逆フーリエ変換)を実行する(ステップS2)。すなわち、第2の逆フーリエ変換では、第1のフーリエ変換によって生成した位相分布と、目的画像の振幅分布とを組み合わせた光電場分布を逆フーリエ変換し、空間変調素子直後の光電場分布を生成する。この段階で得られた位相分布(ΔΦ2)を用いれば、位相分布212(Δφ1)を用いたときよりも目的画像に近い光強度分布が得られる。
さらに、振幅分布(f2)を均一振幅分布203(f0)と置換する(ステップS3)。均一振幅分布203(f0)および位相分布(Δφ2)を用いてフーリエ変換演算(第2のフーリエ変換)を実行すると、振幅分布(F3)および位相分布(ΔΦ3)が生成される(ステップS4)。すなわち、第2のフーリエ変換では、第2の逆フーリエ変換によって生成した位相分布と、均一な振幅分布とを組み合わせた光電場分布をフーリエ変換し、被投射面上における光電場分布を生成させる。なお、第1および第2のフーリエ変換は、実際には同様のフーリエ変換処理である。
ここで、反復フーリエ変換処理を継続させる場合(ステップS5でYes)、振幅分布(F4)を目的画像の振幅分布201(F0)に置換し(ステップS6)、ステップS2に戻る。
これ以降は、逆フーリエ変換演算(第2の逆フーリエ変換)とフーリエ変換演算(第2のフーリエ変換処理)とを繰り返し(ステップS2〜S6)、さらに目的画像に近い光強度分布を被投射面上に形成する位相分布Δφを計算する。
図5は、反復フーリエ変換処理の反復回数に伴った目的画像の振幅分布の変化を示す概念図である。図5において、振幅分布204−1は、反復フーリエ変換処理を1回行った際の振幅分布である。振幅分布204の後のハイフンに続く数字は、反復回数を示す。すなわち、振幅分布204−2、204−10、204−20および204−40は、それぞれ反復フーリエ変換処理を2、10、20および40回繰り返した後の振幅分布である。
図5のように、反復フーリエ変換処理を繰り返すことによって、目的画像に近づいていくことがわかる。反復フーリエ変換処理をある程度繰り返すと飽和し、完全に目的画像と一致する光強度分布は得られない。そのため、制御手段10は、逆フーリエ変換と反復フーリエ変換とを繰り返しながら、目的とする位相分布が得られるまで最適化を行うことになる。例えば、フーリエ変換によって生成した振幅分布がどの状態になったら反復を終了するかという基準や、反復フーリエ変換の回数の基準を設定しておけばよい。また、例えば、各反復における集束の程度を評価するエラー関数としてフーリエエラーとオブジェクトエラーを設定しておき、そのエラー関数を用いた判定基準によって反復を終了させる判断をするようにしてもよい。
以上のように、反復フーリエ変換処理では、初期値を設定し、逆フーリエ変換とフーリエ変換とを繰り返し実行することによって、所望の目的画像が得られるまで位相分布を最適化する。なお、上述の反復フーリエ変換処理についての説明は一例であって、実際に用いるアルゴリズムを上述の手法に限定するわけではなく、必要に応じて各ステップを入れ替えたり、他のステップを追加したり、不要なステップを削除したりしてもよい。
〔制御手段〕
次に、本実施形態に係る制御手段10(制御装置とも呼ぶ)について、図6〜図8を用いて詳細に説明する。
図6のように、制御手段10は、位相分布生成手段20および位相制御手段30を備える。
位相分布生成手段20は、基本パターンを含む基本画像の位相分布を記憶する。位相分布生成手段20には、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力される。位相分布生成手段20は、目的画像情報が入力された際に、目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、自身が記憶している基本画像の位相分布を用いて目的画像の位相分布を生成する。
位相制御手段30は、位相分布生成手段20によって生成された目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする。
図6の構成の制御手段10(制御装置)によれば、フラウンホーファ領域にフォーカスフリーで投射する目的画像の位相分布を生成する演算を高速化することができる。
以下において、位相分布生成手段20および位相制御手段30の詳細について説明する。
〔位相分布生成手段〕
位相分布生成手段20は、図7のように、基本画像記憶部21、画像取得部23および処理部27を有する。
基本画像記憶部21(基本画像記憶手段ともよぶ)は、各基本画像に対応させて、反復フーリエ変換処理が施された位相分布を記憶する。基本画像記憶部21は、例えば各基本画像に付与された固有の識別記号(ID:Identifier)に対応させて各基本画像の位相分布を記憶しておく。
例えば、図8のように、基本画像記憶部21は、複数の基本画像に対応させた第1〜第nの記憶領域21−1〜nを含むように構成すればよい(nは任意の自然数)。また、例えば、基本画像記憶部21は、複数の基本画像の位相分布をまとめて記憶する記憶領域を含む構成としてもよい。なお、基本画像記憶部21は、基本パターンに付与された固有の識別記号に対応させて、その基本パターンを含む基本画像の位相分布を記憶しておいてもよい。また、基本画像記憶部21は、目的画像上の表示位置に対応させた基本画像の位相分布を格納する基本画像テーブルを記憶してもよい。
図9の基本画像テーブル111は、目的画像を格子状の表示位置に36分割した際に、それらの表示位置に表示される基本パターンの基本画像の位相分布を格納する例である。実際には、複数の基本パターンごとに、各表示位置に対応させた基本画像の位相分布を基本画像テーブル111に格納しておけばよい。
例えば、基本パターンAを表示する「表示位置」に関する情報を含む目的画像情報が入力されると、制御手段は、基本画像テーブル111に格納された「表示位置」に対応する位相分布を選択する。また、制御手段は、別の基本パターンに関しても、目的画像情報に基づいて、表示位置に対応する基本画像の位相分布を選択する。そして、制御手段は、必要に応じて、選択した基本画像の位相分布に並進処理などの変換処理を施すことによって目的画像の位相分布を生成する。
画像取得部23(画像取得手段ともよぶ)は、目的画像情報を入力とし、目的画像情報に含まれる基本画像に対応する位相分布を基本画像記憶部21から取得する。画像取得部23は、ネットワークを介してデータ授受する通信機能を有する。なお、目的画像情報は、目的画像に含まれる基本画像がどの基本画像に対応するのかを示す情報(識別情報)を含むとともに、基本画像に含まれる基本パターンが目的画像上においてどのような状態にあるのかを示す情報を含む。基本画像に含まれる基本パターンの状態には、目的画像上における基本パターンの位置状態や回転状態、拡大・縮小状態、反転状態などを含む。
画像取得部23は、基本画像記憶部21から取得した基本画像の位相分布を処理部27に送信する。
処理部27(処理手段ともよぶ)は、目的画像情報に基づいて、受信した基本画像の位相分布から目的画像の位相分布を生成し、生成した目的画像の位相分布を位相制御手段30に送信する。なお、本実施形態においては、基本画像そのものが目的画像に対応するため、処理部27が目的画像の位相分布を出力するまでの間に、基本画像の位相分布に対して変換処理や合成処理を行わない。
〔位相制御手段〕
位相制御手段30は、位相分布生成手段20によって生成された目的画像の位相分布を取得し、その位相分布に基づいて位相変調手段13を制御する。位相制御手段30は、例えば、位相変調手段13の空間変調素子の表示領域に印加する電圧を制御することによって表示領域の屈折率を変化させて表示領域内に屈折率の差を発生させ、表示領域に位相分布を表示させる。
〔表示形態〕
ここで、図10および図11を用いて、位相制御手段30が位相変調手段13の空間変調素子の表示領域に表示させる位相分布について説明する。
図10および図11の例においては、基本パターンA、BおよびCを含む目的画像を例として説明する。なお、図10および図11には位相分布の代わりに、対応する目的画像自体を示しているが、実際には、位相変調手段13の空間変調素子の表示領域には位相分布が表示される。
図10は、位相変調手段13の空間変調素子の表示領域に、基本パターンA、BおよびCによって構成される目的画像の位相分布を配置させる例である。図10の例では、空間変調素子の表示領域に、同一の目的画像に対応する位相分布が並べて配置される。
図11は、位相変調手段13の空間変調素子の表示領域に、目的画像を構成する基本パターンA、B、Cのそれぞれに対応する基本画像の位相分布を並べて配置させる例である。位相制御手段30は、各基本画像を個別に取り出し、第1の領域群には基本画像A、第2の領域群には基本画像B、第3の領域群には基本画像Cの位相分布を表示させる。なお、図11に示す基本画像の配置方法は一例であり、基本画像は任意の配置方法には限定を加えない。
図10および図11に示すいずれの配置方法を用いても、本実施形態に係る投射装置1は、同じ目的画像を被投射面上に表示させることができる。ただし、図10と図11の方法では、位相変調手段13の空間変調素子の表示面に照射するレーザ光強度が同一の場合、位相変調手段13の空間変調素子の表示領域に表示させる位相分布が異なる明るさになる。具体的には、図10の配置方法を用いた場合よりも、図11の配置方法を用いた方が、被投射面に表示される画像は暗くなる。そのため、制御手段10は、位相変調手段13の空間変調素子の表示面に表示させる位相分布の配置方法に応じて、表示面に照射するレーザ光強度を制御できることが好ましい。
以上が、本実施形態に係る投射装置1の構成についての説明である。
<動作>
次に、本実施形態に係る制御手段10の動作について、図12のフローチャートを用いて説明する。なお、図12のフローチャートに関しては、制御手段10を動作主体として説明する。
図12において、まず、制御手段10は、上位システムから目的画像情報を取得する(ステップS11)。
次に、制御手段10は、目的画像情報に含まれる基本画像に関する情報を抽出する(ステップS12)。
次に、位相分布生成手段20は、基本画像に関する情報に基づいて、その基本画像の位相分布を基本画像記憶部21から取り出す(ステップS13)。
そして、位相制御手段30は、取得した基本画像の位相分布に基づいて位相変調手段13を制御する(ステップS14)。
以上が、本実施形態に係る制御手段10が実行する処理についての説明である。なお、図12のフローチャートに沿った処理は一例であって、必要に応じて各ステップを入れ替えたり、他のステップを追加したり、不要なステップを削除したりしてもよい。
以上のように、本実施形態に係る投射装置においては、目的画像に含まれる基本画像の位相分布を用意しておく。そのため、本実施形態に係る投射装置によれば、目的画像の投射時に行う必要がある反復フーリエ変換処理を削減でき、投射目的の画像に対応する位相分布を生成する処理を高速化できる。すなわち、本実施形態に係る投射装置によれば、フラウンホーファ領域にフォーカスフリーで投射する目的画像の位相分布を生成する演算を高速化することができる。
また、本実施形態に係る投射装置とカメラとを組み合わせることによって、インターフェース装置を構成することができる。本実施形態に係る投射装置を搭載したインターフェース装置は、投射画像に含まれるユーザインターフェースに対する操作をカメラによって撮像して認識し、インタラクティブな入出力を行うものである。このようなインターフェース装置においては、投射画像に含まれる基本パターンは用途に応じて決まっていることが多いため、その基本パターンを含む基本画像を事前に準備しておくことが可能である。
例えば、インターフェース装置をポインティング目的で使用する場合、矢印などの方向を示す基本パターンを複数のターゲットに当てるだけである。また、配管図や地図などを含む基本画像も用意しておける。しかし、投射する基本パターンの投射位置や角度、数などの状態は、操作者の操作に伴って刻々と変化するため、随時変更する必要が生じる。
現状のPC(Personal Computer)の性能では、図3の例のような反復演算をリアルタイムで実行することは難しい。ましてや、ウエアラブルデバイスに搭載されるようなCPU(Central Processing Unit)では、図5のような反復演算をリアルタイムで実行することは不可能に近い。SN(Signal-to-Noise)を考えると、目的画像を得るために、図5のような反復演算をリアルタイムで100〜1000回程度繰り返すことが望ましいが、現状のPCの性能では現実的には難しい。
本実施形態に係る投射装置によれば、投射目的の画像から位相分布を生成する際に行う必要がある反復フーリエ変換に費やす計算量を削減することができるため、上述のような問題点を克服することができる。
(第2の実施形態)
次に、本発明の第2の実施形態に係る制御手段の構成について図面を参照しながら説明する。
図13のように、本実施形態に係る制御手段に含まれる位相分布生成手段20−2は、基本画像記憶部21、画像取得部23および処理部27に加えて、画像変換部25を有する。なお、本実施形態に係る制御手段の位相分布生成手段20−2以外の構成は、第1の実施形態を同様の構成であるため、詳細な説明は省略する。
画像取得部23は、基本画像記憶部21から取得した基本画像の位相分布を画像変換部25に送信する。
画像変換部25(画像変換手段ともよぶ)は、画像取得部23から基本画像の位相分布を入力する。画像変換部25は、入力された基本画像の位相分布を、その基本画像を含む目的画像の目的画像情報に基づいて変換する。画像変換部25は、目的画像中に基本画像が複数ある場合は、各基本画像の位相分布を個別に変換する。画像変換部25は、基本画像の位相分布を変換すると、変換処理を施した基本画像の位相分布を処理部27に出力する。
処理部27は、画像変換部25から入力した基本画像の位相分布を用いて目的画像の位相分布を生成し、生成した目的画像の位相分布を位相制御手段30に送信する。
〔変換処理〕
ここで、画像変換部25の行う変換処理について、図14〜図17の例を用いて説明する。なお、図14〜図17には、基本画像の位相分布の代わりに、基本画像そのものを示している。画像変換部25は、実際には基本画像の位相分布を変換するが、理解しやすくするために、図14〜図17では変換する位相分布に対応する基本画像そのものを示す。
図14は、画像変換部25が、目的画像上の中央から右上隅に向けて基本パターン(円形)を並進処理する例である。画像変換部25は、例えば、基本パターン(円形)を含む基本画像の位相分布に対して位相シフト演算による並進処理を実行することによって、目的画像中の基本パターン(円形)に関して並進処理することができる。位相シフト演算においては、例えば、基本画像の位相に対して位相行列をx方向およびy方向のそれぞれの方向に掛け算してシフトさせる。実際には、画像変換部25は、基本画像そのものを並進処理させることによって、目的画像上の中央から右上隅の方へ基本パターン(円形)を並進処理した結果の基本画像の位相分布を得る。
図15は、画像変換部25が、基本パターン(矩形)を目的画像上で回転処理する例である。画像変換部25は、例えば、基本パターン(矩形)を含む基本画像の位相分布を回転させる演算を実行することによって、目的画像上の基本パターン(矩形)に関して回転処理することができる。画像変換部25は、基本パターン(矩形)を目的画像上で回転処理した基本画像の位相分布を得る際に、基本パターンを回転処理させてもよいし、基本画像そのものを回転処理させてもよい。
図16は、画像変換部25が、基本パターン(円形)を目的画像上で拡大・縮小処理する例である。画像変換部25は、例えば、基本パターン(円形)を含む基本画像の位相分布を縮小させる演算を実行することによって、目的画像上の基本パターン(円形)を拡大処理することができる。また、画像変換部25は、例えば、基本パターン(円形)を含む基本画像の位相分布を拡大させる演算を実行することによって、目的画像上の基本パターン(円形)を縮小処理することができる。
図17は、画像変換部25が、基本パターン(屈曲矢印)を目的画像上で反転処理する例である。なお、画像変換部25は、図17のような上下反転させる反転処理と同様に、左右反転させる反転処理も実行できる。
以上が画像変換部25の行う変換処理についての説明である。なお、図14〜図17における画像変換部25による各処理は、任意に組み合わせることができる。ただし、図14〜図17に示す画像変換部25による処理は一例であって、画像変換部25による処理を網羅しているわけではない。
<動作>
次に、本実施形態に係る制御手段の動作について、図18のフローチャートを用いて説明する。なお、図18のフローチャートにおいては、目的画像情報に含まれる基本画像の位相分布が基本画像記憶部21に格納されているものとして説明する。
図18において、まず、制御手段10は、目的画像情報を取得する(ステップS21)。
次に、制御手段10は、目的画像情報に含まれる基本画像に関する情報を抽出する(ステップS22)。
次に、位相分布生成手段20は、基本画像に関する情報に基づいて、その基本画像の位相分布を取り出す(ステップS23)。
次に、位相分布生成手段20は、取得した基本画像の位相分布に対して、図14〜図17のような変換処理を行う(ステップS24)。
そして、位相制御手段30は、取得した位相分布に基づいて位相変調手段13を制御する(ステップS25)。
以上が、本実施形態に係る制御手段が実行する処理についての説明である。なお、図18のフローチャートに沿った処理は一例であって、必要に応じて各ステップを入れ替えたり、他のステップを追加したり、不要なステップを削除したりしてもよい。
以上のように、本実施形態においては、第1の実施形態と同様に、目的画像に含まれる基本画像の位相分布を用意しておくため、目的画像を投射する際に、反復フーリエ変換処理を実時間で行う必要がない。その結果、本実施形態に係る投射装置によれば、目的画像を投射する際に、目的画像に対応する位相分布を生成する処理を簡略化できる。また、本実施形態に係る制御手段によれば、格納する基本画像の位相分布を変換処理するため、記憶すべき基本画像の位相分布の量を減らすことができる。その結果、本実施形態に係る制御手段によれば、基本画像の位相分布を記憶する記憶領域を小さくすることができる。
(第3の実施形態)
次に、本発明の第3の実施形態に係る制御手段について図面を参照しながら説明する。
図19のように、本実施形態に係る制御手段に含まれる処理部270は、基本画像合成部271を有する。なお、本実施形態に係る制御手段の処理部270以外の構成は、第1または第2の実施形態と同様の構成であるため、詳細な説明は省略する。
基本画像合成部271(基本画像合成手段ともよぶ)は、入力された基本画像の位相分布を合成することによって、目的画像の位相分布を生成する。基本画像合成部271は、例えば、複数の基本画像の位相分布に関する和をとることによって、それらの基本画像を含む目的画像の位相分布を生成する。
〔合成処理〕
続いて、図20〜図23を用いて、「A」および「B」という文字(基本パターン)を含む目的画像を例として、制御手段が行う処理について説明する。なお、図20〜図23においては、説明しやすくするために、位相変調手段13の表示領域に表示させる位相分布の代わりに、被投射面上の振幅分布を示している。
まず、図20は、目的画像300そのものを用いて1000回の反復フーリエ変換演算を実行し、所望の位相分布321を計算した結果の一例である。このように処理量の多い計算は、サーバなどの上位システムで実行する。目的画像情報を取得してから所望の位相分布321を位相変調手段13の表示面に表示するまでの間に、投射装置自身が1000回の反復フーリエ変換演算を実時間で実行することは難しい。そのため、目的画像の位相分布を予め準備しておくことが必要となるが、数多くの目的画像を表示するには、目的画像を記憶するための容量を大きくする必要がある。
図21は、目的画像300に含まれる基本画像301および302のそれぞれに対応する位相分布311および312を上位システム側で計算しておき、算出された各位相分布を基本画像記憶部21に記憶しておく例である。なお、この例において、上位システムは、位相分布311および312の基本画像301および302に対して、それぞれ1000回反復フーリエ変換処理を行って所望の位相分布を事前に生成しておく。
図22は、目的画像300を被投射面に表示させる際に、記憶しておいた位相分布311および312を基本画像記憶部21から取得し、それらの位相分布を合成する例を示す。図22は、基本画像301および302のそれぞれに対応する位相分布311および312を実時間で反復フーリエ変換処理せず、位相分布311および312に変換処理を加えてから合成し、所望の目的画像の位相分布322を生成することを示す。すなわち、本実施形態によれば、目的画像情報を取得してから、所望の位相分布322を位相変調手段13の空間変調素子の表示領域に表示するまでの間に、実時間でフーリエ変換することはない。ここで得られる位相分布322を用いれば、目的画像300を用いて反復フーリエ変換処理を施された位相分布321を用いた場合に遜色のない目的画像を表示することができる。
図23には、図22のように合成した位相分布322に関して、さらに反復フーリエ変換処理を1回加えた位相分布323を示す。ここで得られる位相分布323を用いれば、位相分布322を用いた場合よりも鮮明な目的画像を表示することができる。さらなる反復フーリエ変換処理は、合成した位相分布322を上位システムに送信し、上位システム側で実行するようにすればよい。
<動作>
次に、本実施形態に係る制御手段の動作について、図24のフローチャートを用いて説明する。なお、図24のフローチャートにおいては、目的画像情報に含まれる基本画像の位相分布が基本画像記憶部21に格納されているものとして説明する。
図24において、まず、制御手段10は、目的画像情報を取得する(ステップS31)。
次に、制御手段10は、目的画像情報に含まれる基本画像に関する情報を抽出する(ステップS32)。
次に、位相分布生成手段20は、基本画像に関する情報に基づいて、その基本画像の位相分布を取り出す(ステップS33)。
次に、位相分布生成手段20は、取得した基本画像の位相分布に対して、図14〜図17のような変換処理を行う(ステップS34)。
次に、位相分布生成手段20は、取得した複数の基本画像の位相分布に対して、図22のように合成処理を行う(ステップS35)。
そして、位相制御手段30は、取得した位相分布に基づいて位相変調手段13を制御する(ステップS36)。
以上が、本実施形態に係る制御手段が実行する処理についての説明である。なお、図24のフローチャートに沿った処理は一例であって、必要に応じて各ステップを入れ替えたり、他のステップを追加したり、不要なステップを削除したりしてもよい。
以上のように、本実施形態に係る制御手段によれば、基本画像を合成することができるため、複数の基本画像を含む目的画像の位相分布を生成することができる。その結果、本実施形態によれば、反復フーリエ演算処理に費やす処理時間を削減することができ、目的画像を取得してから表示するまでの時間を短縮することができる。
(第4の実施形態)
次に、本発明の第4の実施形態に係る制御手段について説明する。
本実施形態に係る制御手段は、第1〜第3の実施形態のいずれかと同様の構成をもつ。本実施形態に係る制御手段は、レーザ光強度を考慮に入れて計算された基本画像を基本画像記憶部21に記憶しておく点が、第1〜第3の実施形態とは異なる。
基本画像に関する反復フーリエ変換処理を実行する際には、位相変調手段13の空間変調素子の表示領域に表示される位相分布の明るさを考慮した補正をすることができる。例えば、位相変調手段13の表示面に照射されるレーザ光強度を計算上で補正することによって、位相変調手段13の表示面に表示される位相分布の明るさを制御することができる。具体的には、図3のような反復フーリエ変換処理において、フーリエ変換処理で用いる均一振幅分布の明るさを変更することによって、生成される位相分布の明るさを制御できる。なお、ここでは位相変調手段13の表示面における位相分布の明るさについて述べるが、被投射面上の目的画像の明るさについても同様である。
図25は、反復フーリエ変換処理で用いる均一振幅分布の明るさを変えた場合に得られる位相分布の明るさについて説明するための概念図である。なお、図25の均一振幅分布403−1および403−2は、図3の均一振幅分布203として用いるものである。また、図25の位相分布404−1および404−2は、図3の位相分布213に相当するものである。ただし、説明しやすくするために、図25には位相分布の代わりに振幅分布を示している。
図25の左側の位相分布404−1は、明るい方の均一振幅分布403−1を用いて反復フーリエ変換処理を実行した際に生成される。一方、図25の右側の位相分布404−2は、暗い方の均一振幅分布403−2を用いて反復フーリエ変換処理を実行した際に生成される。
図25のように、暗い方の均一振幅分布403−2を用いて反復フーリエ変換処理を実行した方が、より明るい位相分布404−2が得られる。すなわち、照射されるレーザ光強度が一定であれば、明るい方の均一振幅分布403−1を用いる場合よりも、暗い方の均一振幅分布403−2を用いた方が明るい目的画像が表示されることになる。
例えば、位相変調手段13の表示面に照射するレーザ光強度が一定である場合、基本パターンの形状や面積が異なるのに、同一の均一振幅分布を用いて生成された基本画像の位相分布を用いると、基本画像ごとに位相分布の明るさが異なってしまう。このように、明るさの異なる位相分布を合成した目的画像の位相分布を用いると、投射された目的画像においては、基本パターンごとに明るさが異なり、画像の品質が低下する。そのような画像品質の低下を解決するためには、基本画像の位相分布を生成する際に用いる均一振幅分布を基本画像ごとに選択し、各基本画像の位相分布の明るさが同一になるようにすればよい。
また、複数の基本画像の位相分布を合成する場合、合成する位相分布の数が多くなるほど得られる位相分布(以下、合成位相分布)の明るさは暗くなる。
例えば、位相変調手段13の表示面に照射するレーザ光強度が同じであり、合成する基本画像の位相分布の数が1個、2個および10個の場合を想定する。そして、基本画像の数が1個の場合は均一振幅分布の明るさを1として反復フーリエ変換処理を行ったものとする。それぞれの場合で同じ明るさの位相分布を得るためには、位相画像の数が2個の場合は均一振幅分布の明るさを0.5、位相画像の数が10個の場合は均一振幅分布の明るさを0.1などと設定すればよい。ただし、計算上のレーザ光強度の補正と、位相変調手段13の表示面に表示される位相分布の明るさは線形関係をもたないことの方が多いので、実用上は経験的な補正を行うことが好ましい。
本実施形態においては、上位システム側で基本画像の位相分布を生成する。そのため、レーザ光強度を考慮した補正は、上位システム側の反復フーリエ変換処理においてなされる。本実施形態に係る制御手段は、上位システム側で生成された基本画像の位相分布を、位相分布を生成する際に用いられた均一振幅分布の明るさに対応させて格納しておけばよい。
〔基本画像テーブル〕
ここで、図26〜図29を用いて、計算上のレーザ光強度を補正した基本画像の位相分布を用いる具体的な方法について説明する。
図26は、合成する基本画像の数に応じて、想定するレーザ光強度を変更して生成された位相分布を格納する基本画像テーブル411である。図26の基本画像テーブル411は、単一の基本パターンAに関する基本画像の位相分布を格納している例である。実際には、図26の基本画像テーブル411には、複数種類の基本パターンに関する基本画像の位相分布を格納させた方が好ましい。また、複数種類の基本パターンごとに、基本画像テーブル411を設けてもよい。
図26の基本画像テーブル411は、各基本画像の識別記号、基本パターンの名前(種別)、合成する基本画像の数、反復フーリエ変換処理を行うときに想定するレーザ光強度、実際に位相変調手段13に照射するレーザ光強度、その基本画像の位相分布を含む。なお、図26においては、基本画像テーブル411の位相分布の欄には、説明しやすくするために、位相分布の代わりに振幅分布を示している。また、図26の例では、レーザ光強度を一定とする例を挙げるため、照射するレーザ光強度を基本画像テーブル411に含めなくてもよい。また、図26の例では、合成する基本画像の数に対応する位相分布が取り出せればよいので、位相分布を計算する際に想定したレーザ光強度を基本画像テーブル411に含めなくてもよい。また、図26には単一の基本パターンに関する基本画像を格納する例を示しているが、複数の基本パターンに関する基本画像を基本画像テーブル411に含めてもよい。また、複数の基本パターンに対応する基本画像に関して、それぞれ異なる基本画像テーブル411を格納するようにしてもよい。
基本画像テーブル411には、合成する基本画像の数に対応させて、異なる位相分布が格納されている。基本画像テーブル411に格納された各位相分布は、合成する基本画像の数に対応させて、計算時のレーザ強度が変更されている。
例えば、目的画像を構成する基本画像の数に関する情報を含む目的画像情報が入力されると、制御手段は、基本画像テーブル411に格納された「合成する基本画像の数」に対応する位相分布を選択する。基本画像テーブル411には、「合成する基本画像の数」に対応させて、「想定するレーザ光強度」を変更させて生成された位相分布が格納されている。そのため、制御手段は、「想定するレーザ光強度」を変更させて生成された位相分布を選択することになる。また、制御手段は、別の基本パターンに関しても、目的画像情報に基づいて、「合成する基本画像の数」に対応する基本画像の位相分布を選択する。
制御手段は、必要に応じて、選択した基本画像の位相分布に並進処理などの変換処理を施し、各基本画像の位相分布を合成することによって、目的画像の位相分布を生成する。そして、制御手段は、生成した位相分布を位相変調手段の表示領域に表示させる制御をする。
制御手段は、基本画像テーブル411を参照することによって、合成する基本画像の数によらず、位相変調手段13の空間変調素子の表示領域に表示される位相分布の明るさを一定に設定することができる。その結果、制御手段が生成した目的画像の位相分布を用いれば、被投射面に表示される目的画像上の基本パターンの明るさは一定になる。
例えば、目的画像が、基本パターンAおよびBの二つの基本パターンを含むものとする。このとき、合成する基本画像の数は2個である。基本パターンAおよびBがほぼ同じ大きさであり、表示された際の面積がほぼ同じであれば、基本パターンAおよびBのそれぞれに関して、想定するレーザ光強度を0.5として生成された位相分布を用いればよい。同様に、目的画像がほぼ同じ大きさ・面積の三つの基本パターンで構成されていれば、各基本パターンに関して、想定するレーザ光強度を0.3として生成された位相分布を用いればよい。
また、目的画像を構成する基本パターンの大きさや、表示された際の面積が異なる場合も想定される。その場合は、図27の基本画像テーブル411−2のように、基本パターンごとの大きさや面積などの形状に起因する差異を規格化するための形状因子を導入すればよい。
図27の基本画像テーブル411−2には、基本パターンAおよびBに関する位相分布が格納されている。
例えば、基本パターンAよりも、基本パターンBの方が2倍の大きさまたは面積であると仮定する。このとき、基本パターンAとBに関して、想定するレーザ光強度を0.5として生成された位相分布を用いてしまうと、基本パターンBの方が過剰に明るくなってしまう可能性がある。そのため、図27の基本画像テーブル411−2においては、目的画像中の基本パターンの表示状態を均一化するための形状因子を導入する。形状因子は、基本パターンの大きさや面積を規格化するための因子であり、目的画像を構成する基本パターンを含む基本画像の位相分布を合成した際に、全ての基本パターンが同じ明るさで表示されるように設定される。基本画像テーブル411−2の例では、基本パターンAの形状因子は1であり、基本パターンBの形状因子は2である。
また、図27の基本画像テーブル411−2には、想定するレーザ光強度と形状因子とから導出される参照値が格納されている。
図27の例では、参照値は、想定するレーザ光強度を形状因子で割った値である。基本パターンAと基本パターンBとを含む目的画像の位相分布を生成する際には、基本画像テーブル411−2の参照値が同じ位相分布を選択すればよい。すなわち、基本パターンAに関しては識別記号A2の位相分布、基本パターンBに関しては識別記号B1の位相分布が選択される。このように選択された位相分布を合成すれば、目的画像中における基本パターンAとBの明るさは同程度になる。
なお、形状因子は、ここで挙げた限りではなく、種々の条件で設定できる。また、参照値は、ここで挙げた計算条件とは異なる条件で算出してもよい。
図28は、基本パターンの種類に応じて、想定するレーザ光強度を変更して生成された位相分布を格納する基本画像テーブル412である。
図28の基本画像テーブル412の各欄に格納する情報は、図26の基本画像テーブル411と同様である。また、図28には二種類の基本パターンを格納する例を示しているが、三つ以上の基本パターンを基本画像テーブル412に含めてもよいし、複数の基本パターンに関してそれぞれ基本画像テーブル412を格納してもよい。
基本画像テーブル412には、投射された目的画像に含まれる各基本パターンの明るさが同じになるように、各基本パターンに関してレーザ光強度の補正をして計算された基本画像の位相分布が格納されている。レーザ光強度を考慮せずに計算すると、基本パターンの形状や表示面積などによって、位相変調手段13の表示面に表示されるパターンの明るさは変わってしまい、基本パターンの種類に応じて表示される目的画像の明るさが変わってしまう。それに対し、図28の例では、各基本パターンを含む基本画像の位相分布を生成する際に、各基本パターンの明るさが同じになるように想定するレーザ光強度を補正しているため、目的画像上の基本パターンが同じ明るさになる。なお、基本パターンごとに敢えて明るさを変更したい場合は、想定するレーザ光強度を所望の明るさの基本画像が得られる条件に設定して位相分布を計算すればよい。
例えば、基本パターンの種別に関する情報を含む目的画像情報が入力されると、制御手段は、基本画像テーブル412に格納された基本パターンの種別に基づいて、対応する位相分布を選択する。基本画像テーブル412には、基本パターンの種別に対応させて、「想定するレーザ光強度」を変更させて生成された位相分布が格納されている。そのため、制御手段は、想定するレーザ光強度を変更させて生成された位相分布を選択することになる。また、制御手段は、別の基本パターンに関しても、目的画像情報に基づいて、基本パターンの種別に対応する基本画像の位相分布を選択する。
制御手段は、必要に応じて、選択した基本画像の位相分布に並進処理などの変換処理を施し、各基本画像の位相分布を合成することによって、目的画像の位相分布を生成する。そして、制御手段は、生成した位相分布を位相変調手段の表示領域に表示させる制御をする。
制御手段は、基本画像テーブル412を参照することによって、基本パターンの種別によらず、位相変調手段13の空間変調素子の表示領域に表示される位相分布の明るさを一定に設定することができる。その結果、制御手段が生成した目的画像の位相分布を用いれば、被投射面に表示される目的画像上の基本パターンの明るさは一定になる。
図29は、位相変調手段13の表示面に照射するレーザ光強度を制御することができる場合に用いる基本画像テーブル413である。
図29の基本画像テーブル413の各欄に格納する情報は、図28の基本画像テーブル412と同様である。図29の基本画像テーブル413には、照射するレーザ光強度を制御する場合に用いるため、実際に位相変調手段13の表示面に照射するレーザ光強度を含めるが、計算時のレーザ光強度自体は含めなくてもよい。また、図29の基本画像テーブル413には、合成する基本画像の数を含めなくてもよい。
基本画像テーブル413には、各基本画像または各基本パターンに関して、同じレーザ光強度を想定して計算された位相分布が格納されている。そのため、位相変調手段13の表示面に照射するレーザ光強度が一定であると、位相変調手段13の表示面に表示される位相分布の明るさは、基本パターンの種類によって異なってしまう。
例えば、基本パターンの種別に関する情報を含む目的画像情報が入力されると、制御手段は、基本画像テーブル413に格納された基本パターンの種別に基づいて、対応する位相分布を選択する。制御手段は、選択した基本画像の位相分布に並進処理などの変換処理を必要に応じて施すことによって、目的画像の位相分布を生成する。なお、基本パターンの種別ごとに、想定するレーザ光強度を変えて生成させた位相分布を基本画像テーブル413に格納しておけば、目的画像が複数の種類の基本パターンを含む基本画像によって構成されている場合にも対応できる。
基本画像テーブル413には、基本画像や基本パターンの種別に対応させて、「照射するレーザ光強度」に関する情報が格納されている。そのため、制御手段は、基本画像や基本パターンの種別に対応させて、照射するレーザ光強度を制御することができる。
図30および図31は、制御手段が光源11の出射するレーザ光を制御する構成を示す。図30は、図2の構成に、光源11を駆動させるレーザ駆動手段14を追加した構成である。また、図31は、位相分布生成手段20および位相制御手段30に加えて、図30のレーザ駆動手段14を制御し、光源11が出射するレーザ光強度を制御するレーザ光強度制御手段40を備える制御手段104の構成である。
位相分布生成手段20は、目的画像情報を入力した際に、入力された目的画像情報に含まれる基本画像に関する情報に基づいて基本画像の位相分布を選択する。このとき、位相分布生成手段20は、目的画像情報に含まれる基本画像に関する情報に基づいて、その基本画像の位相分布を図29の基本画像テーブル413から選択する。
位相分布生成手段20は、選択した基本画像の位相分布を用いて目的画像の位相分布を生成し、生成した目的画像の位相分布を用いて位相変調手段13の表示領域に目的画像の位相分布を表示させる制御をする。併せて、位相分布生成手段20は、位相変調手段13の表示領域に照射させるレーザ光の強度に関する情報をレーザ光強度制御手段40に出力する。
レーザ光強度制御手段40は、位相分布生成手段20から受信した情報に基づいて、位相変調手段13の表示領域に照射させるレーザ光の強度を制御する。すなわち、レーザ光強度制御手段40は、基本画像テーブル413に格納された「照射するレーザ光強度」に基づいてレーザ駆動手段14を制御することによって、光源11から出射されるレーザ光の強度を設定する。その結果、被投射面に投射される目的画像の明るさは、画像によらず一定になる。
例えば、二つの基本パターンを合成する際には、想定するレーザ光強度を0.5として生成した位相分布を合成し、照射するレーザ光強度を1として制御する。このとき、三つの基本パターンを合成する際には、想定するレーザ光強度を0.3として生成した位相分布を合成し、照射するレーザ光強度を1として制御すれば、基本パターンの数によらず、ほぼ同一の明るさの目的画像を表示することができる。
また、三つの基本パターンを合成する際に、想定するレーザ光強度を0.2として生成した位相分布を合成し、照射するレーザ光強度を1.5として制御することによっても、基本パターンの数によらず、ほぼ同一の明るさの目的画像を表示することができる。
以上のように、本実施形態においては、他の実施形態と同様の作用・効果を得ることができる。また、本実施形態によれば、想定するレーザ光強度と、照射するレーザ光強度とを協調的に制御することによって、より均一な明るさの目的画像を表示させることができる。
(第5の実施形態)
次に、本発明の第5の実施形態に係る制御手段について図面を参照しながら説明する。
(制御手段)
図32のように、本実施形態に係る制御手段105は、位相分布生成手段20および位相制御手段30に加えて、検出手段50を備える。すなわち、本実施形態に係る投射装置は、第1〜第4のいずれかの実施形態の構成に検出手段50を追加した構成を有する。なお、本実施形態に係る制御手段105の検出手段50以外の構成は、第1〜第4の実施形態のいずれかと同様の構成であるため、詳細な説明は省略する。
〔検出手段〕
検出手段50は、目的画像を入力とし、入力された目的画像を構成する基本画像を検出する。検出手段50は、検出された基本画像や基本パターンに関する情報を位相分布生成手段20に送信する。
すなわち、検出手段50は、目的画像を入力とし、入力された目的画像上において基本画像や基本パターンを検出し、検出された基本画像または基本パターンに関する情報を位相分布生成手段20に出力する。
制御手段10に入力される目的画像は、例えばビットマップなどの画像データや光点の座標と強度の配列のような離散的なデータであればよい。基本画像は、例えば円や多角形などのような基本的な図形や、文字などの基本パターンを含む画像である。すなわち、検出手段50を備える制御手段105は、目的画像情報ではなく、目的画像そのものさえ取得できれば、取得した目的画像から基本画像や基本パターンを検出する。
例えば、検出手段50は、基本画像や基本パターンをテンプレートとして目的画像上で走査させ、目的画像上の任意の位置における類似度を順次計算し、類似度が高い位置を検出するテンプレートマッチングなどによって基本画像や基本パターンを検出できる。類似度計算としては、SSD(Sum of Squared Difference)やSAD(Sum of Absolute Difference)などを用いればよい。また、NCC(Normalized Cross-Correlation)やZNCC(Zero-means Normalized Cross-Correlation)などを類似度計算に用いてもよい。また、例えば、検出手段50は、入力された目的画像から多角形や円形、文字などの基本パターンを抽出し、抽出した基本パターンが、制御手段105の基本画像記憶部21に記憶されている基本画像に含まれるか否かを判定すればよい。ただし、目的画像中の基本画像の検出方法はここで挙げた限りではなく、任意の方法を用いることができる。
<動作>
次に、本実施形態に係る制御手段105の動作について、図33のフローチャートを用いて説明する。なお、図33のフローチャートの説明においては、検出された基本パターンを含む基本画像が基本画像記憶部21に記憶されているものとする。
図33において、まず、検出手段50は、目的画像を取得する(ステップS51)。
検出手段50は、取得した目的画像に含まれる基本画像(基本パターン)を検出し、検出した基本画像(基本パターン)に関する情報を位相分布生成手段20に送信する(ステップS52)。
次に、位相分布生成手段20の画像取得部23は、検出された基本画像の位相分布を基本画像記憶部21から取得する(ステップS53)。
次に、位相分布生成手段20は、取得した基本画像の位相分布に対して、図14〜図17のような変換処理を行う(ステップS54)。
次に、位相分布生成手段20は、取得した複数の基本画像の位相分布に対して、図22のように合成処理を行う(ステップS55)。
そして、位相制御手段30は、取得した位相分布に基づいて位相変調手段13を制御する(ステップS56)。
以上が、本実施形態に係る制御手段105が実行する処理についての説明である。なお、図33のフローチャートに沿った処理は一例であって、必要に応じて各ステップを入れ替えたり、他のステップを追加したり、不要なステップを削除したりしてもよい。
〔検出処理〕
図34は、目的画像500から基本パターンを抽出する一例を示す概念図である。なお、AまたはBという基本パターンを含む基本画像の位相分布(501および502)が基本画像記憶部21に記憶されているものとする。図34には、説明しやすいように、位相変調手段13の表示領域に表示させる位相分布501および502の代わりに、被投射面上における画像を示している。
図34の例では、目的画像500を入力とし、検出手段50が目的画像500から「A」および「B」という基本パターンを検出する。ここで、検出手段50は、基本パターンに関する情報を位相分布生成手段20に送信する。具体的には、検出手段50は、基本パターンがAおよびBであるという情報を画像取得部23に送信するとともに、検出された基本パターンAおよびBの画像上の位置等に関する情報を画像変換部25に送信する。
ここでは、基本パターンAおよびBの位相分布(501および502)が基本画像記憶部21に記憶されているため、制御手段105は、自身が記憶している位相分布501および502を抽出する。制御手段105は、位相分布501および502を用いて、目的画像500の位相分布を生成することができる。
以上のように、本実施形態においては、他の実施形態と同様の効果を得ることができる。 また、本実施形態に係る投射装置においては、目的画像自体から基本画像を検出することができるため、目的画像を入力すれば、その目的画像の位相分布を生成することができる。すなわち、本実施形態によれば、目的画像が初期値として与えられると、第1の実施形態と同様に、反復フーリエ変換処理を改めて行うことなしに、初期値自体を反復フーリエ変換処理した場合に遜色のない目的画像を表示することができる。
(第6の実施形態)
次に、本発明の第6の実施形態に係るインターフェース装置60(インターフェースシステムともよぶ)について図面を参照しながら説明する。本実施形態に係るインターフェース装置60としては、ウエアラブルなインターフェース装置を想定している。
図35のように、本実施形態に係るインターフェース装置60は、制御部61と、撮像部62と、投射部63とを備える。本実施形態に係るインターフェース装置60の投射部63は、第1〜第5のいずれかの実施形態に係る投射装置が有する機能を含む。また、第1〜第5の実施形態に係る制御手段の機能の少なくとも一部を制御部61に含ませてもよい。
制御部61(統合制御装置ともよぶ)は、インターフェース装置60全体を統合制御する。制御部61は、撮像部62によって撮像された画像を取得し、取得した画像に含まれる操作者の指や手などの指示体の位置や動作を操作として認識する。制御部61は、認識した結果に基づいた適切な画像信号を投射部63に提供し、投射部63によって目的画像を投射させる。また、制御部61は、撮像部62によって操作領域65を撮像させ、投射画像と撮像画像の位置関係を示す座標を明らかにし、各画像が相互に整合するように制御する。制御部61は、例えば演算装置や制御装置などを含むマイクロコンピュータの機能によって実現できる。
すなわち、制御部61は、撮像部62が撮像した操作領域65に含まれるユーザインターフェース画像に対して行われた操作に応じた画像情報を投射部63に提供するとともに、その画像情報に基づいた画像を投射するように投射部63を制御する。また、本実施形態に係る制御部61は、操作領域65になされた操作を認識すると、認識した結果をサーバなどの上位システムに所定のタイミングで送信する。
撮像部62(撮像装置ともよぶ)は、インターフェース操作を行う操作領域65を含む領域を撮像する。撮像部62は、例えば一般的なカメラの機能によって実現できる。撮像部62は、例えば赤外光や紫外光などといった可視光以外の波長の光を撮像できる機能を有してもよい。また、例えば深度センサやTOF(Time of Flight)カメラなどの機能を撮像部62に含ませてもよい。
投射部63は、第1〜第5の実施形態に係る制御手段を含む投射装置の機能を含む。投射部63は、制御部61の制御に従って、操作者の操作を受け付ける操作領域65にユーザインターフェースを含む画像を投射する。
図36に、本実施形態に係るインターフェース装置60をウエアラブルインターフェースとして用いる応用例を示す。図36には、ネームプレート型のインターフェース装置60の例を示す。
図36のインターフェース装置60には、撮像部62のカメラレンズ67、投射部63の投射レンズ68を図示している。例えば、インターフェース装置60は、胸部前面に装着する。なお、インターフェース装置60は、ペンダント型やリストバンド型、腕時計型、腕章型、バッジ型などの形態を有するウエアラブルなインターフェース装置としてもよい。また、帽子や衣服、手袋、靴、靴下、眼鏡、マスク、ヘッドライトなどに、本実施形態に係るウエアラブルなインターフェース装置を組み合わせてもよい。
図37は、スーパーやコンビニなどで扱う食料品などの賞味期限に応じて商品を陳列・撤去する作業に、本実施形態のインターフェース装置60を利用する例を示す。
図37において、×印(画像601)は、賞味期限が切れた商品上に投射された画像を示す。また、図37において、文字(画像602)は、賞味期限切れまでの時間が対象商品上に投射された画像を示す。なお、画像601および画像602は、操作領域65内に投射される。
図37の例では、インターフェース装置60の撮像部62が商品の期限切れの時間を示すラベルを撮像し、撮像されたラベルに記録された賞味期限に関する情報を制御部61で判断する。制御部61は、判断結果に基づいた画像情報の信号を投射部63に提供する。制御部61は、賞味期限が切れた商品には×印(画像601)を投射し、賞味期限が近い商品には賞味期限切れまでの時間(画像602)を投射するように投射部63を制御する。投射部63は、制御部61の制御に従って、賞味期限が切れた商品には×印(画像601)を、賞味期限が近い商品には賞味期限切れまでの時間(画像602)を投射する。なお、賞味期限に注意する必要のない商品には何も投射されなくてよい。インターフェース装置60を装着した操作者は、各商品に投射された情報によって、各商品の賞味期限に関する情報を知ることができる。
図37のように、インターフェース装置60が胸元に装着されていると、操作者は両手を使うことができる。また、図37の例では、操作者が商品を手にとってラベルを確かめなくてもよいため、ラベルを目視で確認するのに比べて短時間で作業を行うことができる。なお、図37では、操作者の操作を受け付けるように構成していないが、例えば画像情報が投射された商品に操作者が触れると、その商品に所定の文字や画像が投射されたり、特定の操作を受け付けたりするインタラクティブな動作を実現する構成としてもよい。
(適用例)
ここで、本発明の第6の実施形態に係るインターフェース装置60の適用例について図面を参照しながら説明する。なお、以下の例では、図35のインターフェース装置60の構成を用いて説明する。
図38は、本適用例のインターフェース装置60によって投射される目的画像の一例である。図38は、商品の在庫チェックなどに用いるユーザインターフェースの一例を示す。図38の目的画像は、現在の時刻(3/20 10:20)、対象商品のID(001)、商品名(りんご)、調査内容(在庫数)を含む。また、図38の目的画像は、調査内容を入力する領域(矩形枠内)、商品の良否判定を入力する領域(NG?、OK?と表示される箇所)を含む。
図38の目的画像は、操作領域801の投射領域802に投射される。投射領域802は、格子状に分割され、分割された各格子には列番号(A〜P)と行番号(1〜8)が付与されている。なお、図38の破線の格子は実際には投射されない。
図39は、投射領域802に表示する基本画像を格納する基本画像テーブル803である。基本画像テーブル803は、基本パターンの識別記号、基本パターン、基本パターンの表示位置、基本パターンを表示させる領域の大きさを示す表示範囲、基本パターンを含む基本画像の位相分布などが格納される。なお、図39に示す位相分布はダミーパターンである。
例えば、インターフェース装置60の投射部63の制御手段(以下、投射部63を主体とする)は、数字や文字、記号、形状などの基本パターンを図38のように、投射領域802に表示する指示を含む目的画像情報を上位システムやユーザから受信する。
図40は、上位システムから送信された目的画像情報に含まれる基本画像に関する情報をまとめた表示位置情報テーブル804である。表示位置情報テーブル804には、基本パターンの識別記号、基本パターンの種別、基本パターンの表示位置、基本パターンを表示させる領域の大きさを示す表示範囲などが格納される。なお、表示位置情報テーブル804には、基本パターン自体を格納させているが、実際には基本パターン自体を格納させなくてもよい。
投射部63は、上位システムやユーザから受信した目的画像情報に基づいて、表示位置情報テーブル804に含まれる基本画像の位相分布を基本画像テーブル803から取得する。そして、投射部63は、取得した基本画像の位相分布に対して、表示位置情報テーブル804に含まれる表示位置、表示範囲に対応させて変換処理を加える。
例えば、表示位置情報テーブル804によると、基本パターン「0」を表示位置E2に表示させる。基本画像テーブル803には、基本パターン「0」が表示位置B2に配置された基本画像の位相分布が格納されている。そのため、投射部63は、基本パターン「0」の位相分布に関して、基本パターン「0」を表示位置B2から表示位置E2に並進移動させる変換処理を行う。
また、例えば、表示位置情報テーブル804によると、識別記号F01の基本パターン(矩形枠)を表示位置A1〜P8に表示範囲256で表示させる。基本画像テーブル803には、表示範囲12の基本パターン(矩形枠)が表示位置A1〜D3に表示される基本画像の位相分布が格納されている。そのため、投射部63は、基本パターン(矩形枠)の位相分布に関して、基本パターン(矩形枠)の大きさを表示範囲12から表示範囲256に拡大する変換処理を行う。
投射部63は、表示位置情報テーブル804に格納された各基本パターンに関して基本画像の位相分布の変換処理を終えると、変換処理を加えた位相分布を合成し、目的画像の位相分布を生成する。投射部63は、生成した位相分布を位相変調手段に含まれる空間変調素子の表示領域に表示させ、操作領域801に目的画像を投射する。
例えば、本実施形態に係るインターフェース装置60のユーザは、操作領域801の表示情報に基づいて、商品の在庫を調査する。ユーザは、商品の賞味期限や状態に応じて商品の良否判定を行い、「NG?」または「OK?」のいずれかの領域に触れることによって判定結果を入力する。また、ユーザは、調査内容を入力する領域(矩形枠内)に良品の在庫数を入力する。
インターフェース装置60の撮像部62は、操作領域801の画像を撮像する。インターフェース装置60の制御部61は、撮像部62によって取得された画像においてユーザの操作を認識する。制御部61によって認識された商品のIDや現在の時刻、在庫数、判定結果は、互いに関連付けられて、調査内容を管理するサーバなどの上位システムに所定のタイミングで送信される。
図41は、サーバなどの上位システムによって管理されるチェックシート805の一例である。チェックシート805には、商品のIDや名称、チェック日時、判定、在庫数、その商品を確保しておくべき必要数、発注要否、発注数量などの情報を含む。チェックシート805中のIDや名称、必要数は、予め設定された数値が入力されている。チェックシート805中のチェック日時、判定結果、在庫は、ユーザの入力に基づいて更新される。チェックシート805中の発注要否は、在庫数が必要数を下回る場合にはYes、在庫数が必要数を上回る場合にはNoとなる。チェックシート805中の発注要否がYesになると、その商品の必要数から在庫数を引いた値である発注数量が計算される。商品の販売店を管理する管理者は、チェックシート805の発注数に応じた数の商品を、所定のタイミングで販売店に送るように手配すればよい。
以上が、本発明の第6の実施形態に係るインターフェース装置60の適用例についての説明である。なお、上述の適用例は、第6の実施形態に係るインターフェース装置60の利用シーンの一例であって、本発明の権利範囲や使用範囲を限定するものではない。
(ハードウェア構成)
次に、本実施形態に係る制御手段を可能とするためのハードウェア構成について、図42のコンピュータ90を一例として挙げて説明する。なお、図42のコンピュータ90は、本実施形態に係る制御手段を可能とするための一例であって、本発明の範囲を限定するものではない。また、本実施形態に係る制御手段は、図36のようなインターフェース装置60の形態とする場合、図42のコンピュータ90の機能を有するマイクロコンピュータによって実現すればよい。
図42のように、コンピュータ90は、プロセッサ91、主記憶装置92、補助記憶装置93、入出力インターフェース95、通信インターフェース96を備える。プロセッサ91、主記憶装置92、補助記憶装置93、入出力インターフェース95および通信インターフェース96は、バス99を介して互いにデータ授受可能に接続される。また、プロセッサ91、主記憶装置92、補助記憶装置93および入出力インターフェース95は、通信インターフェース96を介して、インターネットやイントラネットなどのネットワークと接続する。コンピュータ90は、ネットワークを介して上位システムのサーバやコンピュータに接続され、基本画像の位相分布や目的画像情報(目的画像)を含む情報を上位システムから受信する。
プロセッサ91は、補助記憶装置93等に格納されたプログラムを主記憶装置92に展開し、展開されたプログラムを実行する。本実施形態においては、コンピュータ90にインストールされたソフトウェアプログラムを用いる構成とすればよい。プロセッサ91は、本実施形態に係る制御手段の演算処理や制御処理を実行する。
主記憶装置92は、プログラムが展開される領域を有する。主記憶装置92は、例えばDRAM(Dynamic Random Access Memory)などの揮発性メモリとすればよい。また、MRAM(Magnetoresistive Random Access Memory)などの不揮発性メモリを主記憶装置92としてもよい。
補助記憶装置93は、基本画像の位相分布などのようなデータを記憶する手段である。補助記憶装置93は、ハードディスクやフラッシュメモリなどのローカルディスクによって構成される。なお、基本画像の位相分布を主記憶装置92に記憶させる構成とし、補助記憶装置93を省略することも可能である。
入出力インターフェース95は、コンピュータ90と周辺機器との接続規格に基づいて、コンピュータ90と周辺機器とを接続する装置である。通信インターフェース96は、規格や仕様に基づいて、インターネットやイントラネットなどのネットワークに接続するためのインターフェースである。なお、図42においては、インターフェースをI/F(Interface)と略して表記している。入出力インターフェース95および通信インターフェース96は、外部機器と接続するインターフェースとして共通化してもよい。
コンピュータ90には、必要に応じて、キーボードやマウス、タッチパネルなどといった入力機器を接続できるように構成してもよい。それらの入力機器は、情報や設定の入力に使用される。なお、タッチパネルを入力機器として用いる場合は、表示機器の表示部が入力機器の入力部を兼ねる構成とすればよい。プロセッサ91と入力機器との間のデータ授受は、入出力インターフェース95に仲介させればよい。
また、コンピュータ90には、情報を表示するための表示機器などの出力装置を備え付けてもよい。表示機器を備え付ける場合、コンピュータ90には、表示機器の表示を制御するための表示制御装置(図示しない)が備えられていることが好ましい。表示機器は、入出力インターフェース95を介してコンピュータ90に接続すればよい。
通信インターフェース96は、ネットワークを通じて、別のコンピュータやサーバなどの上位システムに接続される。上位システムは、通信インターフェース96を介して、本発明の各実施形態で用いる基本画像の位相分布をコンピュータ90に送信する。また、上位システムは、通信インターフェース96を介して、本発明の各実施形態で用いる目的画像情報をコンピュータ90に送信する。上位システムは、本発明の各実施形態で用いる基本画像の位相分布を自装置で生成してもよいし、別の装置から取得してもよい。
また、コンピュータ90には、必要に応じて、リーダライタを備え付けてもよい。リーダライタは、バス99に接続され、プロセッサ91と図示しない記録媒体(プログラム記録媒体)との間で、記録媒体からのデータ・プログラムの読み出し、コンピュータ90の処理結果の記録媒体への書き込みなどを仲介する。記録媒体は、例えばSD(Secure Digital)カードやUSB(Universal Serial Bus)メモリなどの半導体記録媒体などで実現できる。また、記録媒体516は、フレキシブルディスクなどの磁気記録媒体、CD(Compact Disc)やDVD(Digital Versatile Disc)などの光学記録媒体やその他の記録媒体によって実現してもよい。
以上が、本発明の各実施形態に係る制御手段を可能とするためのハードウェア構成の一例である。なお、図42のハードウェア構成は、本実施形態に係る制御手段を可能とするためのハードウェア構成の一例であって、本発明の範囲を限定するものではない。また、本実施形態に係る制御手段による処理をコンピュータに実行させる処理プログラムも本発明の範囲に含まれる。さらに、本発明の実施形態に係る処理プログラムを記録したプログラム記録媒体も本発明の範囲に含まれる。
本実施形態の投射装置は、基本パターンを含む基本画像の位相分布を記憶し、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、自身が記憶している基本画像の位相分布を用いて目的画像の位相分布を生成する位相分布生成手段と、位相分布生成手段によって生成された目的画像の位相分布を用いて、位相変調型の空間変調素子の表示領域に目的画像の位相分布を表示させる制御をする位相制御手段とを有する制御手段と、制御手段によって制御される位相変調型の空間変調素子を含む位相変調手段と、位相変調手段に含まれる空間変調素子の表示領域に表示された位相分布を投射画像として投射する投射手段とを備える。
本実施形態のインターフェースシステムは、インターフェース操作を行う操作領域を含む領域を撮像する撮像装置と、基本パターンを含む基本画像の位相分布を記憶し、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、自身が記憶している基本画像の位相分布を用いて目的画像の位相分布を生成する位相分布生成手段と、位相分布生成手段によって生成された目的画像の位相分布を用いて、位相変調型の空間変調素子の表示領域に目的画像の位相分布を表示させる制御をする位相制御手段とを有する制御手段と、制御手段によって制御される位相変調型の空間変調素子を含む位相変調手段と、位相変調手段に含まれる空間変調素子の表示領域に表示された位相分布を投射画像として投射する投射手段とを有する投射装置と、撮像装置によって撮像された画像を取得し、取得した画像に含まれる操作者の操作を認識し、認識した結果に基づいた画像信号を投射装置に提供し、投射装置によって画像信号を投射画像として投射させる制御をする統合制御装置とを備える。
以上、実施形態を参照して本発明を説明してきたが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2015年3月25日に出願された日本出願特願2015−061914を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1 投射装置
10 制御手段
11 光源
12 コリメータ
13 位相変調手段
14 レーザ駆動手段
15 投射手段
16 フーリエ変換レンズ
17 アパーチャ
18 投射レンズ
20 位相分布生成手段
21 基本画像記憶部
23 画像取得部
25 画像変換部
27 処理部
30 位相制御手段
40 レーザ光強度制御手段
50 検出手段
60 インターフェース装置
61 制御部
62 撮像部
63 投射部

Claims (9)

  1. 基本パターンを含む基本画像の位相分布を記憶し、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された前記目的画像情報に含まれる前記目的画像を構成する前記基本画像の情報に基づいて、自身が記憶している前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する位相分布生成手段と、
    前記位相分布生成手段によって生成された前記目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする位相制御手段とを有し、
    前記位相分布生成手段は、
    前記目的画像を構成する前記基本画像が複数ある場合、前記目的画像を構成する複数の前記基本画像の位相分布を合成することによって前記目的画像の位相分布を生成し、生成された前記目的画像の位相分布に反復フーリエ変換処理を加えた位相分布を生成する制御装置。
  2. 前記位相分布生成手段は、
    前記基本画像の位相分布を記憶する基本画像記憶手段と、
    前記目的画像情報に基づいて、前記基本画像の位相分布を前記基本画像記憶手段から取得する画像取得手段と、
    前記画像取得手段によって取得された前記基本画像の位相分布を用いて前記目的画像の位相分布を生成し、生成した前記目的画像の位相分布を前記位相制御手段に出力する処理手段とを含み、
    前記処理手段は、
    前記目的画像を構成する前記基本画像が複数ある場合、前記目的画像を構成する複数の前記基本画像の位相分布を合成することによって前記目的画像の位相分布を生成し、生成した前記目的画像の位相分布に前記反復フーリエ変換処理を加えた位相分布を生成する請求項1に記載の制御装置。
  3. 基本パターンを含む基本画像の位相分布を記憶し、フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された前記目的画像情報に含まれる前記目的画像を構成する前記基本画像の情報に基づいて、自身が記憶している前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する位相分布生成手段と、
    前記位相分布生成手段によって生成された前記目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする位相制御手段とを有し、
    前記位相分布生成手段は、
    合成する前記基本画像の数に応じた明るさに設定されたレーザ光の強度の想定値に合わせて補正された複数の前記基本画像の位相分布を記憶し、
    前記目的画像情報を入力した際に、入力された前記目的画像情報に基づいて、前記レーザ光の強度の想定値に合わせて補正された複数の前記基本画像の位相分布のうちいずれかを選択し、選択した前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する制御装置。
  4. 前記位相分布生成手段は、
    合成する前記基本画像の数に対応するように前記レーザ光の強度の想定値を補正して生成された複数の前記基本画像の位相分布を、合成する前記基本画像の数に関連付けて格納する基本画像テーブルを記憶し、
    前記目的画像情報を入力した際に、入力された前記目的画像情報に含まれる合成する前記基本画像の数に関する情報に基づいて、前記レーザ光の強度の想定値を補正して生成された前記基本画像の位相分布を選択し、選択した前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する請求項3に記載の制御装置。
  5. 前記基本画像テーブルは、
    前記基本パターンごとの大きさに起因する差異を規格化するための形状因子と、前記レーザ光の強度の想定値と前記形状因子から導出される参照値とを含み、
    前記位相分布生成手段は、
    前記目的画像を構成する複数の前記基本パターンに関して、前記参照値に基づいて位相分布を選択し、選択した前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する請求項4に記載の制御装置。
  6. 前記位相分布生成手段は、
    前記レーザ光の強度の想定値を補正して生成された複数の前記基本画像の位相分布を前記基本パターンの種別に関連付けて格納する基本画像テーブルを記憶し、
    前記目的画像情報を入力した際に、入力された前記目的画像情報に含まれる前記基本パターンの種別に関する情報に基づいて、前記レーザ光の強度の想定値を補正して生成された前記基本画像の位相分布を選択し、選択した前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する請求項3に記載の制御装置。
  7. 前記空間変調素子の表示領域に照射させるレーザ光の強度を制御するレーザ光強度制御手段をさらに備え、
    前記位相分布生成手段は、
    前記空間変調素子の表示領域に照射させるレーザ光の強度と、前記基本画像の位相分布とを関連付けて格納する基本画像テーブルを記憶し、
    前記目的画像情報を入力した際に、入力された前記目的画像情報に含まれる前記基本画像に関する情報に基づいて前記基本画像の位相分布を選択し、選択した前記基本画像の位相分布を用いて前記目的画像の位相分布を生成し、生成した前記目的画像の位相分布を用いて前記空間変調素子の表示領域に前記目的画像の位相分布を表示させる制御をするとともに、前記空間変調素子の表示領域に照射させるレーザ光の強度に関する情報を前記レーザ光強度制御手段に出力し、
    前記レーザ光強度制御手段は、
    前記位相分布生成手段から受信した情報に基づいて、前記空間変調素子の表示領域に照射させるレーザ光の強度を制御する請求項3に記載の制御装置。
  8. フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された前記目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、前記基本画像の位相分布を用いて前記目的画像の位相分布を生成し、
    生成した前記目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする制御方法であって、
    前記目的画像を構成する前記基本画像が複数ある場合、前記目的画像を構成する複数の前記基本画像の位相分布を合成することによって前記目的画像の位相分布を生成し、
    生成された前記目的画像の位相分布に反復フーリエ変換処理を加えた位相分布を生成し、
    前記反復フーリエ変換処理を加えた位相分布を前記空間変調素子の表示領域に表示させる制御をする制御方法。
  9. フラウンホーファ領域の被投射面に表示させる目的画像に関する目的画像情報が入力された際に、入力された前記目的画像情報に含まれる目的画像を構成する基本画像の情報に基づいて、前記基本画像の位相分布を用いて前記目的画像の位相分布を生成する処理と、
    生成した前記目的画像の位相分布を位相変調型の空間変調素子の表示領域に表示させる制御をする処理とをコンピュータに実行させる制御プログラムであって、
    前記目的画像を構成する前記基本画像が複数ある場合、前記目的画像を構成する複数の前記基本画像の位相分布を合成することによって前記目的画像の位相分布を生成する処理と、
    生成された前記目的画像の位相分布に反復フーリエ変換処理を加えた位相分布を生成する処理と、
    前記反復フーリエ変換処理を加えた位相分布を前記空間変調素子の表示領域に表示させる制御をする処理とをコンピュータに実行させる制御プログラム。
JP2017507483A 2015-03-25 2016-03-17 制御装置、制御方法及びプログラム Active JP6763368B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015061914 2015-03-25
JP2015061914 2015-03-25
PCT/JP2016/001541 WO2016152109A1 (ja) 2015-03-25 2016-03-17 制御装置、制御方法およびプログラム記録媒体

Publications (2)

Publication Number Publication Date
JPWO2016152109A1 JPWO2016152109A1 (ja) 2018-02-08
JP6763368B2 true JP6763368B2 (ja) 2020-09-30

Family

ID=56978222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017507483A Active JP6763368B2 (ja) 2015-03-25 2016-03-17 制御装置、制御方法及びプログラム

Country Status (2)

Country Link
JP (1) JP6763368B2 (ja)
WO (1) WO2016152109A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6705926B1 (ja) * 2019-03-13 2020-06-03 Necプラットフォームズ株式会社 ウェアラブルデバイスおよび制御方法
CN115145024A (zh) * 2022-07-06 2022-10-04 南开大学 一种整形激光的调节控制方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3442981B2 (ja) * 1996-12-06 2003-09-02 日本電信電話株式会社 計算機ホログラム作成方法及びその方法を記録した記録媒体及び動画ホログラム表示装置
GB0329012D0 (en) * 2003-12-15 2004-01-14 Univ Cambridge Tech Hologram viewing device
JP2008015064A (ja) * 2006-07-04 2008-01-24 Seiko Epson Corp 照明装置及びプロジェクタ
GB2445958A (en) * 2007-01-24 2008-07-30 Light Blue Optics Ltd Holographic image display systems
WO2008099585A1 (ja) * 2007-02-16 2008-08-21 Panasonic Corporation ホログラムパターン生成方法と多点集光装置
US9134700B2 (en) * 2011-04-27 2015-09-15 Panasonic Intellectual Property Management Co., Ltd. Display device
WO2013111374A1 (ja) * 2012-01-24 2013-08-01 日本電気株式会社 インターフェース装置、インターフェース装置の駆動方法、インターフェースシステムおよびインターフェースシステムの駆動方法

Also Published As

Publication number Publication date
WO2016152109A1 (ja) 2016-09-29
JPWO2016152109A1 (ja) 2018-02-08

Similar Documents

Publication Publication Date Title
JP6911759B2 (ja) 投射装置、投射システムおよびインターフェース装置
US11962748B2 (en) Three dimensional depth mapping using dynamic structured light
JP6858717B2 (ja) 動的ホログラフィ焦点深度プリンティング装置
WO2017013862A1 (ja) 投射装置、投射方法およびプログラム記憶媒体
WO2017109918A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2018509632A (ja) ステレオカメラと構造化光とを使用したヘッドマウントディスプレイでの深度マッピング
CN108027583A (zh) 动态全息非扫描打印装置
JP6763368B2 (ja) 制御装置、制御方法及びプログラム
JP2013161133A (ja) 三次元データ処理装置、三次元データ処理プログラムおよび三次元データ処理方法
WO2020184100A1 (ja) ウェアラブルデバイスおよび制御方法
WO2018101097A1 (ja) 投射装置、投射方法およびプログラム記録媒体
WO2013099356A1 (ja) 画像処理装置、撮像装置、顕微鏡装置、画像処理方法、及び画像処理プログラム
JP2005062366A (ja) 生成装置、生成方法、プログラム、及び記録媒体
US11412118B2 (en) Electromagnetic wave phase/amplitude generation device, electromagnetic wave phase/amplitude generation method, and electromagnetic wave phase/amplitude generation program
JP2018084512A (ja) 三次元形状熱計測装置、三次元形状熱計測方法及びプログラム
JP6074784B2 (ja) ホログラムデータ作成プログラム
US20150323900A1 (en) Method and apparatus for enhancement of resolution and wide viewing angle digital holographic system
CN113168019B (zh) 用于大场成像的衍射光学元件
WO2020121739A1 (ja) 画像マッチング方法、および画像マッチング処理を実行するための演算システム
JP2017016169A (ja) 検査方法、検査装置、画像処理装置、プログラム及び記録媒体
JP2020123064A (ja) 画像マッチング判定方法、画像マッチング判定装置、および画像マッチング判定方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
WO2022137777A1 (ja) 投射装置および投射方法
JP4718223B2 (ja) 光波面制御パターン生成装置及び光波面制御パターン生成方法
CN109242941A (zh) 三维对象合成通过使用视觉引导作为二维数字图像的一部分
JPWO2016199415A1 (ja) 情報入力装置および照合システム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170906

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200407

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200514

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200811

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200824

R150 Certificate of patent or registration of utility model

Ref document number: 6763368

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150