JP2023552974A - ディスプレイを介する深度測定 - Google Patents

ディスプレイを介する深度測定 Download PDF

Info

Publication number
JP2023552974A
JP2023552974A JP2023528715A JP2023528715A JP2023552974A JP 2023552974 A JP2023552974 A JP 2023552974A JP 2023528715 A JP2023528715 A JP 2023528715A JP 2023528715 A JP2023528715 A JP 2023528715A JP 2023552974 A JP2023552974 A JP 2023552974A
Authority
JP
Japan
Prior art keywords
display
illumination
area
light
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023528715A
Other languages
English (en)
Inventor
メッツ,シュテファン
レンナルツ,クリスティアン
シック,フリードリヒ
ポデス,クリストフ
ベルナー,ニルス
Original Assignee
トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング filed Critical トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング
Publication of JP2023552974A publication Critical patent/JP2023552974A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K59/00Integrated devices, or assemblies of multiple devices, comprising at least one organic light-emitting element covered by group H10K50/00
    • H10K59/60OLEDs integrated with inorganic light-sensitive elements, e.g. with inorganic solar cells or inorganic photodiodes
    • H10K59/65OLEDs integrated with inorganic image sensors
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K59/00Integrated devices, or assemblies of multiple devices, comprising at least one organic light-emitting element covered by group H10K50/00
    • H10K59/60OLEDs integrated with inorganic light-sensitive elements, e.g. with inorganic solar cells or inorganic photodiodes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/46Indirect determination of position data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • G01S7/493Extracting wanted echo signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/22Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
    • G09G3/30Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
    • G09G3/32Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
    • G09G3/3208Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED] organic, e.g. using organic light-emitting diodes [OLED]
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K59/00Integrated devices, or assemblies of multiple devices, comprising at least one organic light-emitting element covered by group H10K50/00
    • H10K59/70OLEDs integrated with inorganic light-emitting elements, e.g. with inorganic electroluminescent elements
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K59/00Integrated devices, or assemblies of multiple devices, comprising at least one organic light-emitting element covered by group H10K50/00
    • H10K59/90Assemblies of multiple devices comprising at least one organic light-emitting element
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • G09G2320/0653Controlling or limiting the speed of brightness adjustment of the illumination source
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K2102/00Constructional details relating to the organic devices covered by this subclass
    • H10K2102/301Details of OLEDs
    • H10K2102/302Details of OLEDs of OLED structures
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K2102/00Constructional details relating to the organic devices covered by this subclass
    • H10K2102/301Details of OLEDs
    • H10K2102/351Thickness

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Inorganic Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Sustainable Development (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)

Abstract

Figure 2023552974000001
ディスプレイ装置(1)が開示される。
前記ディスプレイ装置(1)は、
- 少なくとも1つの照射ビームを、少なくとも1つのシーンに投影するように構成された少なくとも1つの照射源(5)と;
- 少なくとも1つの感光エリアを有する少なくとも1つの光センサ(4)であって、前記光センサ(4)は、照射ビームによる照射に応答してシーンによって生成される少なくとも1つの反射光ビームを測定するように構成される、少なくとも1つの光センサ(4)と;
- 情報を表示するように構成された少なくとも1つの透光性ディスプレイ(2)であって、前記照射源(5)及び前記光センサ(4)は、ディスプレイ(2)の前方に照射光ビームの伝播方向に配置される、少なくとも1つの透光性ディスプレイ(2)と;
- 少なくとも1つの制御ユニット(8)であって、前記制御ユニット(8)は、照射中に前記照射源(5)のエリアで、及び/又は測定中に前記光センサ(4)のエリアで、前記ディスプレイ(2)をオフにするように構成されている、少なくとも1つの制御ユニット(8)と、
を備える。
【選択図】図1

Description

本発明は、ディスプレイ装置と、透光性ディスプレイ(translucent display)を介する測定方法と、ディスプレイ装置の様々な使用に関する。本発明による装置、方法及び使用は、具体的には、例えば、日常生活、セキュリティ技術、ゲーミング、交通技術、生産技術、芸術、文書又は技術目的のためのデジタル写真又はビデオ撮影などの写真撮影、安全技術、情報技術、農業、作物保護、メンテナンス、化粧品、医療技術、又は科学の様々な分野において採用され得る。ただし、他の適用も可能である。
いくつかのディスプレイ装置が知られている。ディスプレイを備えた装置に関する最近の開発では、ディスプレイエリアは利用可能なスペース全体をカバーし、ディスプレイを囲むフレームはできるだけ小さくする必要があることを示している。その結果、電子部品及びセンサ(例えば、前面カメラ、フラッシュライト、近接センサ、さらには3D画像センサなど)は、もはやフレーム内に配置されることはできず、ディスプレイの下に配置されなければならないことになった。しかし、構造化光又は3D飛行時間(ToF)に基づく3D画像システムなどの一般的な3D画像技術及びシステムのほとんどは、苦労なしにディスプレイの下に配置されることができない。
今まで、構造化光又は3D-ToFに基づく3Dイメージングシステムが、ディスプレイの下で作動すること、すなわち、3Dイメージングシステムのコンポーネント又は装置を配置するための、マイクロ回路及び/又はマイクロ配線を含まない空のウィンドウを作成し、これらのウィンドウを通して「見る」ことなくしては、ディスプレイの下で作動することは知られていない。
構造化光の場合、主な問題は、透明ディスプレイのマイクロ回路及び/又はマイクロ配線の微細構造であり、したがって、その結果としての、ディスプレイを通過する光の透過率が低いことである。この微細構造は、単一ピクセルをアドレス指定するための電極マトリックスに起因する。また、単一ピクセルの金属カソードは透明でないため、ピクセル自体は逆格子を示す。原則として、ディスプレイ構造は、特定の材料を用いることによって、電極を含めて全体として透明(transparent)又は透光性(translucent)にすることができる。しかし、今までのところ、高い表示品質と安定性を維持したまま、格子状の微細構造を有しない透明又は透光性ディスプレイは存在しない。
構造化光ベースの3Dイメージ化装置は、数千の点と既知のパターンを有する点群をシーンの中に投影することに基づいている。透明又は透光性ディスプレイの微細構造は、レーザ光の回折格子構造のように機能する。構造化光イメージ化装置のプロジェクタの多くは、明確に定義されたドットパターンを投影するレーザ源に基づいているため、このパターンはディスプレイの回折格子効果を受け、ドットパターンの全てのスポットが高い回折次数を示すようになる。これは、回折格子構造によって引き起こされる追加の不要な点は、本来の期待されるパターンを回復するためアルゴリズムを非常に複雑にするため、構造化光イメージ化装置にとって致命的な影響を有する。
さらに、従来の構造化光イメージ化装置で使用される投影点の数はかなり多い。半透明ディスプレイは光透過率が非常に低いため(例えば3Dイメージ化装置の典型的な波長である850nm及び940nmの赤外線(IR)においてさえも)、イメージ化装置によって検出され得る構造化光プロジェクタがディスプレイを通すのに十分なパワーを得るために、非常に高い出力パワーが必要とされ、また、該構造化光プロジェクタはディスプレイの下に設置される必要があり、そのことは追加の光吸収をもたらす。点の数が多いことと、低光透過率の組み合せは、周囲光に対する低い堅牢性をもたらし得る。
3D-ToFセンサの場合、多重反射をもたらすディスプレイ表面の反射、同様に、光がディスプレイを通過するときの遅延の差のため、異なるディスプレイ構造は異なる屈折率を有し、ディスプレイの背後で使用されるときに堅牢な機能を妨げる。さらに、3D-ToFセンサは、シーンを照射するための大量の光も必要とする。さらに、照射は均一である必要がある。ディスプレイの光透過率が低いと、十分な光を提供することが難しく、格子構造は照射の均一性に影響を与える。
一般的な3D感知システムは、透明ディスプレイを通して測定するのに問題がある。現在の装置は、ディスプレイに設けたノッチを使用している。そうすることで、センサが回折光学効果によって妨害されない。
DE202018003644U1は、携帯電子装置を記載しており、該装置は、底壁と協働してキャビティを規定する底壁及び側壁であって、該側壁が該キャビティに通じる開口部を規定するエッジを有する底壁及び側壁と;開口部を覆いキャビティを囲む保護層と;キャビティ内かつ保護層と底壁との間に配置され保護層外の物体の深度マップを提供する役割を果たす視覚サブシステムであって、深度マップの情報を生成するために協働する光学部品を運ぶためのクリップアセンブリを備え、該クリップアセンブリは、光学部品を互いから一定の距離で支持し保持するように配置された第1ブラケットと第1ブラケットに固定された本体を有する第2ブラケット(第2ブラケットは、本体から離れて伸びる突起を有する)を備える、視覚サブシステムと、を備える。
US9,870,024B2は、カバー層、カラーフィルタ層、発光ダイオード又は有機発光ダイオードを含むディスプレイ層、薄膜トランジスタ層などの複数の層を含む電子ディスプレイを記載している。一実施形態では、層は、カメラの上方に配置された実質的に透明な領域を含む。実質的に透明な領域は、外部からの光がカメラに到達することを可能にし、カメラが画像を記録することを可能にする。
US10,057,541B2は、撮像装置及び撮像方法を記載している。この撮像装置は、透明ディスプレイパネルと;透明ディスプレイパネルが黒画像を表示するときにシャッタ時間を同期させ、透明ディスプレイパネルの前方に位置する画像をキャプチャするための、透明ディスプレイパネルの底面に対向するカメラと、を備える。
US10,215,988B2は、第1の複数の光指向開口部、光検出器、プロセッサ、ディスプレイ、及び第2の複数の光指向開口部を含むアクティブ光学部品を含むシーンからの光を表示するための光学システムを記載している。第1の複数の光指向開口部は、光検出器に光入力を提供するように配置されている。光検出器は、光入力を受信し、光入力を強度データ及び位置データに対応する電気信号に変換するように配置されている。プロセッサは、光検出器からデータを受信し、ディスプレイのためにデータを処理するように接続されている。第2の複数の光指向開口部は、ディスプレイから光出力を提供するように配置されている。
スマートフォン、タブレットなどのモバイル装置は、通常、有機発光ダイオード(OLED)エリアなどの前面ディスプレイを有する。しかし、前記モバイル装置は、その前面側に、指紋を識別するため、1つ以上のセルフポートレートカメラのため、3Dセンサのためなど、いくつかのセンサを必要とする。前面ディスプレイの存在による、前記センサを用いた測定の干渉の可能性を低減するために、センサが配置され、かつ、ディスプレイが存在しない又は邪魔されない特別なエリアを有するようにすることが知られている。このような特別なエリアは、いわゆるノッチと呼ばれる。オンにしたOLEDによってアクティブ光源を使用する測定は、干渉、例えばちらつき、カラーシフトによるアーチファクトが生じることが多く、依然として技術的な課題である場合があり得る。さらに、センサ技術をOLEDの背後に隠すと、例えば安全な認証が行われているなど、何かが行われている場合に消費者に直接フィードバックすることができなくなる。
DE202018003644U1 US9,870,024B2 US10,057,541B2 US10,215,988B2
したがって、本発明の目的は、既知の装置及び方法の上述の技術的課題に対する装置及び方法を提供することである。具体的には、本発明の目的は、低い技術的努力で、かつ技術的資源及びコストの観点から低い要求で、ディスプレイを介した信頼性の高い深度測定を可能にし、同時に、ノッチ又はエッジエリアのないフルサイズのディスプレイを有する装置及び方法を提供することである。
この問題は、独立特許請求項の特徴を備えた本発明によって解決される。個別に又は組み合わせて実現することができる本発明の有利な展開は、従属請求項及び/又は以下の明細書及び詳細な実施形態に示されている。
以下で使用される場合、「有する」、「備える」、又は「含む」という用語、又はそれらの任意の文法上の変形は、非排他的な方法で使用される。したがって、これらの用語は、これらの用語によって導入された特徴の他に、この文脈で説明されている実体にさらなる特徴が存在しない状況と、1つ以上のさらなる特徴が存在する状況の両方を指し得る。一例として、「AはBを有する」、「AはBを備える」、及び「AはBを含む」という表現は、B以外にAに他の要素が存在しない状況(つまり、Aは専らかつ排他的にBから構成される状況)と、Bに加えて、1つ以上の要素、例えば要素C、要素CとD、又はさらに要素などが実体Aに存在する状況の双方を指し得る。
さらに、「少なくとも1つ」、「1つ以上」という用語、又は、特徴もしくは要素が1回以上存在し得ることを示す同様の表現は、典型的には、それぞれの特徴又は要素を導入するときに1回だけ使用されることに留意されたい。以下では、ほとんどの場合、それぞれの特徴又は要素を参照するときに、「少なくとも1つ」又は「1つ以上」という表現は、それらの特徴又は要素が1回以上現れ得るという事実にもかかわらず、繰り返されないことに留意されたい。
さらに、以下で使用される場合、「好ましくは」、「より好ましくは」、「特に」、「より特に」、「具体的に」、「より具体的に」という用語、又は、同様の用語は、代替の可能性を制限することなく、任意の特徴に関連して使用される。したがって、これらの用語によって導入される特徴は、任意の特徴であり、いかなる意味でも特許請求の範囲を限定することを意図するものではない。本発明は、当業者であれば認識するように、代替的特徴を用いて実施することができる。同様に、「本発明の一実施形態では」又は同様の表現によって導入される特徴は、本発明の代替の実施形態に関するいかなる制限もなく、本発明の範囲に関するいかなる制限もなく、及び、そのような方法で導入される特徴を本発明の他の任意の又は非任意の特徴と組み合わせる可能性に関するいかなる制限もなく、任意の特徴であることが意図されている。
本発明の第1の態様では、ディスプレイ装置が開示されている。本明細書で使用される場合、「ディスプレイ」という用語は、少なくとも1つの画像、少なくとも1つの図、少なくとも1つのヒストグラム、少なくとも1つのテキスト、少なくとも1つの記号などの情報項目を表示するように構成された任意の形状の装置を指し得る。ディスプレイは、少なくとも1つのモニタ又は少なくとも1つのスクリーンであり得る。ディスプレイは、任意の形状、好ましくは長方形の形状を有することができる。本明細書で使用される場合、「ディスプレイ装置」という用語は、一般に、少なくとも1つのディスプレイを含む少なくとも1つの電子装置を指し得る。例えば、ディスプレイ装置は、テレビ装置、携帯電話、スマートフォン、ゲームコンソール、タブレットコンピュータ、パーソナルコンピュータ、ラップトップ、タブレット、仮想現実装置、又は別のタイプのポータブルコンピュータからなる群から選択されるモバイル装置であってよい。
ディスプレイ装置は、
- 少なくとも1つの照射ビームを、少なくとも1つのシーンに投影するように構成された少なくとも1つの照射源と;
- 少なくとも1つの感光エリアを有する少なくとも1つの光センサであって、前記光センサは、照射ビームによる照射に応答して前記シーンによって生成される少なくとも1つの反射光ビームを測定するように構成される、少なくとも1つの光センサと;
- 情報を表示するように構成された少なくとも1つの透光性ディスプレイであって、前記照射源及び前記光センサは、ディスプレイの前方に照射光ビームの伝播方向に配置される、少なくとも1つの透光性ディスプレイと;
- 少なくとも1つの制御ユニットであって、前記制御ユニットは、照射中に前記照射源のエリアで、及び/又は測定中に前記光センサのエリアで、前記ディスプレイをオフにするように構成される、少なくとも1つの制御ユニットと、
を備える。
本明細書で使用される場合、「シーン」という用語は、少なくとも1つの任意の物体又は空間領域を指し得る。シーンは、少なくとも1つの物体及びその周囲の環境を含み得る。
照射源は、照射ビーム、特に複数の照射特徴を含む少なくとも1つの照射パターンをシーン上に投影するように構成される。本明細書で使用される場合、「照射源」という用語は、一般に、シーンを照射するための少なくとも1つの照射ビームを提供するように適合された少なくとも1つの任意の装置を指し得る。照射源は、シーンを直接的又は間接的に照射するように適合されてよく、照射ビームは、シーンの表面によって反射又は散乱され、それによって、少なくとも部分的に光センサに向けられる。照射源は、例えば、光ビームをシーンに向けることによって、光ビームを反射するシーンを照射するように適合されてよい。
照射源は、少なくとも1つの光源を含んでよい。照射源は、複数の光源を含んでいてもよい。照射源は、人工照射源、特に少なくとも1つのレーザ源、及び/又は少なくとも1つの白熱灯、及び/又は少なくとも1つの半導体光源、例えば少なくとも1つの発光ダイオード、特に有機及び/又は無機発光ダイオードを含み得る。一例として、照射源によって放出される光は、300~1100nm、特に500~1100nmの波長を有し得る。追加的に又は代替的に、780nm~3.0μmの範囲などの赤外スペクトル範囲の光が使用され得る。照射源は、少なくとも1つの赤外光源を備え得る。具体的には、シリコンフォトダイオードが適用可能な特には700nm~1100nmの範囲の近赤外領域部分の光が使用されることができる。照射源は、赤外領域において、少なくとも1つの照射光ビーム、特に少なくとも1つの照射パターンを生成するように構成されていてよい。近赤外領域の光を使用することは、光が人間の目では検出されないか、又はわずかにしか検出されないが、シリコンセンサ、特に標準的なシリコンセンサによって検出されることを可能にする。
本明細書で使用される場合、「光線」という用語は、一般に、エネルギーの流れの方向を指し示す光の波面に垂直な線を指す。本明細書で使用される場合、「ビーム」という用語は、一般に、光線の集まりを指す。以下では、「光線」及び「ビーム」という用語を同義語として使用される。本明細書でさらに使用される場合、「光ビーム」という用語は、一般に光の量を指し、具体的には、本質的に同じ方向に進む光の量であって、光ビームが拡張角又は広がり角を有する可能性を含む。光ビームは空間的広がりを有することができる。具体的には、光ビームは、非ガウスビームプロファイルを有することができる。ビームプロファイルは台形ビームプロファイル;三角形ビームプロファイル;円錐形ビームからなる群から選択されてよい。台形ビームプロファイルは、プラトー領域と少なくとも1つのエッジ領域とを有することができる。光ビームは、具体的には、以下でさらに詳細に概説するように、ガウス光ビーム又はガウス光ビームの線形結合であり得る。しかしながら、他の実施形態も可能である。
照射源は、単一波長で光を放出するように構成されることができる。具体的には、波長は、近赤外領域にあってよい。他の実施形態では、照射は、他の波長チャネルでの追加の測定を可能にする複数の波長を有する光を放出するように適合されてよい。
照射源は、少なくとも1つのレーザプロジェクタを備え得る。レーザプロジェクタは、屈折光学系と組み合わされた垂直共振器面発光レーザ(VCSEL)プロジェクタであってよい。しかしながら、他の実施形態も可能である。レーザプロジェクタは、少なくとも1つのレーザ源と、少なくとも1つの回折光学要素(DOE)とを備えることができる。照射源は、少なくとも1つの多重ビーム光源(multiple beam light source)であってもよく、又は、多重ビーム光源を含んでいてもよい。例えば、照射源は、少なくとも1つのレーザ源と、1つ以上の回折光学要素(DOE)とを含んでいてよい。具体的には、照射源は、少なくとも1つのレーザ及び/又はレーザ源を備えていてよい。様々なタイプのレーザ、例えば、半導体レーザ、ダブルヘテロ構造レーザ、外部キャビティレーザ、分離封じ込めヘテロ構造レーザ、量子カスケードレーザ、分散ブラッグ(bragg)反射器レーザ、ポラリトンレーザ、ハイブリッドシリコンレーザ、拡張キャビティダイオードレーザ、量子ドットレーザ、ボリュームブラッググレーティングレーザ、インジウムヒ素レーザ、トランジスタレーザ、ダイオード励起レーザ、分散フィードバックレーザ、量子ウェルレーザ、バンド間カスケードレーザ、ガリウムヒ素レーザ、半導体リングレーザ、拡張キャビティダイオードレーザ、又は垂直キャビティ面発光レーザなど、が使用されてよい。追加的に又は代替的に、LED及び/又は電球などの非レーザ光源が使用されてよい。照射源は、照射パターンを生成するように適合された1つ以上の回折光学要素(DOE)を含んでよい。例えば、照射源は、点群を生成及び/又は投影するように適合されてよく、例えば、照射源は、少なくとも1つのデジタル光処理プロジェクタ、少なくとも1つのLCoSプロジェクタ、少なくとも1つの空間光変調器;少なくとも1つの回折光学要素;発光ダイオードの少なくとも1つのアレイ;レーザ光源の少なくとも1つのアレイ、のうちの1つ以上を含み得る。それらの一般的に定義されるビームプロファイル及び取扱い性の他の特性を考慮すると、照射源としての少なくとも1つのレーザ源の使用が特に好ましい。照射源は、ディスプレイ装置のハウジングに一体化されてよい。
さらに、照射源は、変調された光又は変調されていない光を放出するように構成されてよい。複数の照射源を使用する場合、異なる照射源は異なる変調周波数を有することができ、該異なる変調周波数は、以下にさらに詳細に概説するように、後に、光ビームを区別するために使用されることができる。
照射源によって生成された1つ以上の光ビームは、一般的に、光軸に平行に伝播してもよいし、又は、光軸に対して傾斜して伝播してもよく、例えば、光軸と角度を含んで伝播してもよい。ディスプレイ装置は、1つ以上の光ビームがディスプレイ装置の光軸に沿ってディスプレイ装置からシーンに向かって伝播するように構成されてよい。この目的のために、ディスプレイ装置は、照射光ビームを光軸上に偏向させるための少なくとも1つの反射要素、好ましくは少なくとも1つのプリズムを含んでいてよい。一例として、レーザ光ビームなどの1つ以上の光ビーム、及び光軸は、10°未満、好ましくは5°未満、さらには2°未満の角度を有してよい。しかし、他の実施形態も可能である。さらに、1つ以上の光ビームは、光軸上にあってもよいし、又は光軸から外れていてもよい。一例として、1つ以上の光ビームは、光軸に対して10mm未満、好ましくは5mm未満、さらには1mm未満の距離を有して、光軸と平行であってもよく、又は光軸と一致さえしていてもよい。
照射源は、少なくとも1つの照射パターンを生成するように構成される。前記照射パターンは、周期的な点パターンを含んでよい。本明細書で使用される場合、「少なくとも1つの照射パターン」という用語は、シーンの少なくとも一部を照射するように適合された少なくとも1つの照射特徴を含む少なくとも1つの任意のパターンを指す。本明細書で使用される場合、「照射特徴」という用語は、パターンの少なくとも部分的に広がった少なくとも1つの特徴を指す。照射パターンは、単一の照射特徴を含んでよい。照射パターンは、複数の照射特徴を含んでよい。照射パターンは、少なくとも1つの点パターン;少なくとも1つの線パターン;少なくとも1つのストライプパターン;少なくとも1つの市松模様パターン;周期的又は非周期的な特徴の配置を含む少なくとも1つのパターン、からなる群から選択されてよい。照射パターンは、三角形パターン、長方形パターン、六角形パターン、又はさらに凸状のタイル状パターンなどの規則的な及び/又は一定の及び/又は周期的なパターンを含んでよい。照射パターンは、少なくとも1つの点;少なくとも1つの線;平行線又は交差線などの少なくとも2つの線;少なくとも1つの点と1つの線;周期的又は非周期的な特徴の少なくとも1つの配置;少なくとも1つの任意の形状の特徴からなる群から選択される少なくとも1つの照射特徴を示してよい。照射パターンは:少なくとも1つの点パターン、特に擬似ランダム点パターン;ランダム点パターン又は準ランダムパターン;少なくとも1つのソボル(Sobol)パターン;少なくとも1つの準周期的パターン;少なくとも1つの既知の特徴を含む少なくとも1つのパターン;少なくとも1つの規則的なパターン;少なくとも1つの三角形パターン;少なくとも1つの六角形パターン;少なくとも1つの長方形パターン;凸状の均一なタイル状体(tiling)を含む少なくとも1つのパターン;少なくとも1つの線を含む少なくとも1つの線パターン;平行線又は交差線などの少なくとも2つの線を含む少なくとも1つの線パターン、からなる群から選択される少なくとも1つのパターンを含むことができる。例えば、照射源は、点群を生成及び/又は投影するように適合され得る。照射源は、照射パターンが複数の点パターンを含むことができるように、点群を生成するように適合された少なくとも1つの光プロジェクタを含み得る。照射源は、照射源によって生成された少なくとも1つの光ビームから照射パターンを生成するように適合された少なくとも1つのマスクを含むことができる。
照射パターンの2つの特徴間の距離及び/又は少なくとも1つの照射特徴の面積は、画像内の錯乱円に依存し得る。上記で概説したように、照射源は、少なくとも1つの照射パターンを生成するように構成された少なくとも1つの光源を含んでよい。具体的には、照射源は、レーザ放射を生成するように割り当てられた少なくとも1つのレーザ源及び/又は少なくとも1つのレーザダイオードを含む。照射源は、少なくとも1つの回折光学要素(DOE)を含んでよい。ディスプレイ装置は、少なくとも1つの周期的な点パターンを投影するように適合された、少なくとも1つのレーザ源及びDOEなどの少なくとも1つの点プロジェクタを含んでよい。本明細書でさらに使用される場合、「少なくとも1つの照射パターンを投影する」という用語は、少なくとも1つのシーンを照射するための少なくとも1つの照射パターンを提供することを指す。
例えば、投影される照射パターンは、周期的な点パターンであってよい。投影される照射パターンは、低い点密度を有していてよい。例えば、照射パターンは、低い点密度を有する少なくとも1つの周期的な点パターンを含み得、該照射パターンは、視野あたり2500個以下の点を有する。55×38°の視野において典型的に10k~30kの点密度を有する構造化光と比較して、本発明による照射パターンは、より低密度であってよい。これにより、提案された技術は構造化光と比較して周囲光により少なく依存するように、点あたりのパワーを増やすことができる。
本明細書で使用される場合、「光センサ」は、一般に、少なくとも1つの光ビームによって生成された照射及び/又は光スポットを検出するためなどの、光ビームを検出するための感光装置を指す。本明細書でさらに使用される場合、「感光エリア」は、一般的に、少なくとも1つの光ビームによって外部から照射され、該照射に応答して少なくとも1つのセンサ信号を生成する、光センサのエリアを指す。感光エリアは、具体的には、それぞれの光センサの表面に位置することができる。しかしながら、他の実施形態も可能である。ディスプレイ装置は、光センサを備える単一のカメラを備え得る。ディスプレイ装置は、それぞれが1つ又は複数の光センサを備える複数のカメラを備えてよい。ディスプレイ装置は、それぞれが感光エリアを有する複数の光センサを含んでよい。本明細書で使用される場合、「それぞれが少なくとも1つの感光エリアを有する光センサ」という用語は、それぞれが1つの感光エリアを有する複数の単一の光センサを備える構成と、複数の感光エリアを有する1つの結合された光センサを備える構成とを指す。「光センサ」という用語は、さらに、1つの出力信号を生成するように構成された感光装置を指す。ディスプレイ装置が複数の光センサを含む場合、各光センサは、正確に1つの感光エリアがそれぞれの光センサ内に存在するように、例えば、照射され得る正確に1つの感光エリアを提供し、該感光エリアの照射に応答して光センサ全体について正確に1つの均一なセンサ信号を生成するようにすることによって具現化されてよい。したがって、各光センサは、単一エリアの光センサであってよい。単一エリアの光センサの使用は、しかしながら、ディスプレイ装置の構成を特に簡単かつ効率的にする。したがって、一例として、それぞれが正確に1つの感光エリアを有する市販のシリコンフォトダイオードなどの市販の光センサが、構成において使用されてよい。しかしながら、他の実施形態も可能である。
ディスプレイ装置は、飛行時間(ToF)技術に基づく、及び/又は1つのデフォーカスからの深度技術に基づく、及び/又はビームプロファイル解析とも呼ばれる光子比からの深度技術に基づくなどの、少なくとも1つの距離測定を行うように構成され得る。光子比からの深度(DPR)技術に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1を参照し、その全内容は参照により含まれる。光センサは、少なくとも1つの距離センサであってよく、又は少なくとも1つの距離センサを備えていてもよい。
好ましくは、感光エリアは、ディスプレイ装置の光軸に対して実質的に垂直に方向付けされ得る。光軸は、直線の光軸であってもよいし、又は、1つ以上の偏向要素及び/又は1つ以上のビームスプリッタを使用することなどにより、屈折又は分割さえされてよく、後者の場合、実質的に垂直な方向付けは、光学構成のそれぞれの分岐又はビーム経路の局所的光軸に関して言及している。
光センサは、具体的には、少なくとも1つの光検出器、好ましくは無機光検出器、より好ましくは無機半導体光検出器、最も好ましくはシリコン光検出器であってもよく、又はそれを含んでいてもよい。具体的には、光センサは、赤外スペクトル範囲において感度を有してよい。マトリックスの全てのピクセル、又はマトリックスの光センサの少なくとも一群は、具体的には同一であってよい。マトリックスの同一のピクセルの一群は、具体的には、異なるスペクトル範囲について提供されてもよく、又は全てのピクセルが、スペクトル感度に関して同一であってもよい。さらに、ピクセルは、サイズ及び/又はそれらの電子的又は光電子的特性に関して同一であってもよい。具体的には、光センサは、赤外スペクトル範囲、好ましくは700nm~3.0マイクロメートルの範囲に感度を有する少なくとも1つの無機フォトダイオードであってもよく、又はそれらを含んでいてもよい。具体的には、光センサは、シリコンフォトダイオードが適用可能な特に700nm~1100nmの範囲の近赤外領域の部分で感度を有してよい。光センサに使用され得る赤外光センサは、例えば、ドイツ,D-67056 Ludwigshafen am RheinのtrinamiX GmbHのHertzstueck(登録商標)というブランド名で市販されている赤外光センサなど、市販の赤外光センサであってよい。したがって、一例として、光センサは、固有の光起電型の少なくとも1つの光センサ、より好ましくは、Geフォトダイオード、InGaAsフォトダイオード、拡張InGaAsフォトダイオード、InAsフォトダイオード、InSbフォトダイオード、HgCdTeフォトダイオード、からなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサは、外因性光起電型の少なくとも1つの光センサ、より好ましくは、Ge:Auフォトダイオード、Ge:Hgフォトダイオード、Ge:Cuフォトダイオード、Ge:Znフォトダイオード、Si:Gaフォトダイオード、Si:Asフォトダイオードからなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサは、PbSもしくはPbSeセンサなどの少なくとも1つの光導電センサ、ボロメータ、好ましくはVOボロメータ及びアモルファスSiボロメータからなる群から選択されるボロメータを含み得る。
光センサは、紫外、可視、又は赤外スペクトル範囲の1つ以上で感度を有してよい。具体的には、光センサは、500nm~780nm、最も好ましくは650nm~750nm、又は690nm~700nmの可視スペクトル範囲で感度を有してよい。具体的には、光センサは近赤外領域で感度を有してよい。具体的には、光センサは、シリコンフォトダイオードが適用可能な特に700nm~1000nmの範囲の近赤外領域の部分で感度を有してよい。光センサは、具体的には、赤外スペクトル範囲、具体的には780nm~3.0μmの範囲で感度を有してよい。例えば、光センサは、それぞれ独立に、フォトダイオード、フォトセル、光伝導体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれを含んでいてもよい。例えば、光センサは、CCDセンサ要素、CMOSセンサ要素、フォトダイオード、フォトセル、光導電体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれを含んでいてもよい。他の任意のタイプの感光性要素を使用してもよい。感光性要素は、一般に、完全に又は部分的に無機材料で作製されることができ、及び/又は、完全に又は部分的に有機材料で作製されることができる。最も一般的には、市販のフォトダイオード、例えば、無機半導体フォトダイオードなどの1つ以上のフォトダイオードが使用され得る。
光センサは、ピクセルのマトリックスを含む少なくとも1つのセンサ要素を含んでいてよい。したがって、一例として、光センサは、ピクセル化された光学装置の一部であるか、又は、それを構成してもよい。例えば、光センサは、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それらを含んでいてもよい。一例として、光センサは、ピクセルのマトリックスを有し、各ピクセルが感光エリアを形成する少なくとも1つのCCD装置及び/又はCMOS装置の一部であるか、又は、それを構成してもよい。本明細書で使用される場合、「センサ要素」という用語は、一般に、少なくとも1つのパラメータを感知するように構成された装置又は複数の装置の組み合わせを指す。この場合、パラメータは、具体的には光パラメータであってよく、センサ要素は、具体的には光センサ要素であってよい。センサ要素は、一体の単一装置として、又はいくつかの装置の組み合わせとして形成され得る。センサ要素は、光センサのマトリックスを含む。センサ要素は、少なくとも1つのCMOSセンサを含み得る。マトリックスは、独立光センサなどの独立ピクセルで構成されてよい。したがって、無機フォトダイオードのマトリックスを構成することができる。しかしながら、代替的に、市販のマトリックス、例えば、CCD検出器チップなどのCCD検出器の1つ以上、及び/又はCMOS検出器チップなどのCMOS検出器が使用されてもよい。したがって、一般に、センサ要素は、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それを含んでいてもよく、及び/又は、光センサは、センサアレイを形成してもよく、又は上述のマトリックスなどのセンサアレイの一部であってもよい。したがって、一例として、センサ要素は、例えばm行及びn列を有する長方形アレイなどのピクセルのアレイを有することができ、ここでm、nは独立して正の整数である。好ましくは、複数の列及び複数の行が与えられ、すなわち、n>1、m>1である。したがって、一例として、nは2~16以上であり得、mは2~16以上であり得る。好ましくは、行数と列数の比は1に近い。一例として、n及びmは、m/n=1:1、4:3、16:9又は類似のものを選択することなどにより、0.3≦m/n≦3となるように選択され得る。一例として、アレイは、m=2、n=2又はm=3、n=3などを選択することなどにより、等しい数の行及び列を有する正方形アレイであってもよい。
マトリックスは独立した光センサなどの独立のピクセルから構成されてよい。したがって、無機フォトダイオードのマトリックスを構成することができる。しかしながら、代替的に、市販のマトリックス、例えばCCD検出器チップなどのCCD検出器、及び/又はCMOS検出器チップなどのCMOS検出器の1つ以上を使用することができる。したがって、一般に、光センサは、少なくとも1つのCCD及び/又はCMOS装置であってよく及び/又はそれを含んでもよく、及び/又は、ディスプレイ装置の光センサは、センサアレイを形成するか、又は上記のマトリックスなどのセンサアレイの一部であり得る。
マトリックスは、具体的には、少なくとも1行、好ましくは複数行及び複数列を有する長方形のマトリックスであってよい。一例として、行及び列は、実質的に垂直な方向に方向付けられてよい。本明細書で使用される場合、「実質的に垂直」という用語は、例えば±20°以下の許容誤差、好ましくは±10°以下の許容誤差、より好ましくは±5°以下の許容誤差を有する垂直な向きの状態を指す。同様に、「実質的に平行」という用語は、例えば±20°以下、好ましくは±10°以下、より好ましくは±5°以下の許容誤差を有する平行な向きの状態を指す。したがって、一例として、20°より小さい、具体的には10°より小さい、又は5°より小さい許容誤差さえ許容され得る。広い視野を提供するために、マトリックスは、具体的には、少なくとも10行、好ましくは少なくとも500行、より好ましくは少なくとも1000行を有することができる。同様に、マトリックスは、少なくとも10列、好ましくは少なくとも500列、より好ましくは少なくとも1000列を有することができる。マトリックスは、少なくとも50個の光センサ、好ましくは少なくとも100000個の光センサ、より好ましくは少なくとも5000000個の光センサを含むことができる。マトリックスは、数メガピクセルの範囲の数のピクセルを含むことができる。しかしながら、他の実施形態も可能である。したがって、軸回転対称性が期待される構成では、ピクセルとも呼ばれ得るマトリックスの光センサの円形配置又は同心配置が好ましいことがある。
したがって、一例として、センサ要素は、ピクセル化された光学装置の一部であるか、又は、それを構成してもよい。例えば、センサ要素は、少なくとも1つのCCD装置及び/又はCMOS装置であってもよく、及び/又は、それらを含んでいてもよい。一例として、センサ要素は、ピクセルのマトリックスを有し、各ピクセルが感光エリアを形成する少なくとも1つのCCD装置及び/又はCMOS装置の一部であるか、又は、それを構成してもよい。センサ要素は、光センサのマトリックスを読み取るために、ローリングシャッタ方式又はグローバルシャッタ方式を採用してもよい。
ディスプレイ装置は、少なくとも1つの転送装置をさらに含み得る。ディスプレイ装置は、1つ以上の追加の光学要素などの1つ以上の追加の要素をさらに含み得る。ディスプレイ装置は、少なくとも1つのレンズ及び/又は少なくとも1つのレンズシステムなどの転送装置、少なくとも1つの回折光学要素からなる群から選択された少なくとも1つの光学要素を含むことができる。「転送システム」とも呼ばれる「転送装置」という用語は、一般に、光ビームのビームパラメータ、光ビームの幅、又は光ビームの方向の1つ以上を変更することによってなど、光ビームを変更するように適合された1つ以上の光学要素を指し得る。転送装置は、光ビームを光センサに導くように適合されてよい。転送装置は、具体的には:少なくとも1つのレンズ、例えば、少なくとも1つの焦点調節可能レンズ、少なくとも1つの非球面レンズ、少なくとも1つの球面レンズ、少なくとも1つのフレネルレンズからなる群から選択される少なくとも1つのレンズ;少なくとも1つの回折光学要素;少なくとも1つの凹面鏡;少なくとも1つのビーム偏向要素、好ましくは少なくとも1つのミラー;少なくとも1つのビーム分割要素、好ましくはビーム分割キューブ又はビーム分割ミラーのうちの少なくとも1つ;少なくとも1つのマルチレンズシステム、の1つ以上を含み得る。本明細書で使用される場合、転送装置の「焦点距離」という用語は、転送装置に衝突する可能性がある入射平行光線が「フォーカルポイント(focal point)」とも呼ばれる「焦点(focus)」に集束される距離を指す。したがって、焦点距離は入射光ビームを収束させる転送装置の能力の指標を構成する。したがって、転送装置は、集束レンズの効果を有し得る1つ以上の画像化要素を含むことができる。例として、転送装置は、1つ以上のレンズ、特に1つ以上の屈折レンズ、及び/又は1つ以上の凸面ミラーを有することができる。この例では、焦点距離は、薄い屈折レンズの中心から薄いレンズの主焦点までの距離として定義することができる。凸型又は両凸型の薄レンズなどの、集束する薄い屈折レンズの場合、焦点距離は、正であると考えられ、転送装置としての薄レンズに衝突する平行光が単一のスポットに集束され得る距離を与えることができる。さらに、転送装置は、少なくとも1つの波長選択要素、例えば少なくとも1つの光フィルタを含むことができる。さらに、転送装置は、例えばセンサ領域の位置で、具体的にはセンサエリアで、電磁放射に予め定義されたビームプロファイルを印加するように設計され得る。転送装置の上記の任意の実施形態は、原則として、個別に、又は任意の所望の組み合わせで実現することができる。
転送装置は、光軸を有していてよい。具体的には、ディスプレイ装置と転送装置は、共通の光軸を有する。本明細書で使用される場合、「転送装置の光軸」という用語は、一般に、レンズ又はレンズシステムの鏡面対称又は回転対称の軸を指す。ディスプレイ装置の光軸は、ディスプレイ装置の光学構成の対称の線であってよい。ディスプレイ装置は、少なくとも1つの転送装置、好ましくは、少なくとも1つのレンズを有する少なくとも1つの転送システムを含んでよい。転送システムは、一例として、少なくとも1つのビーム経路であって、該ビーム経路内の転送システムの要素が光軸に関して回転対称に配置されているビーム経路を含んでよい。さらに、以下でもさらに詳細に説明されるように、ビーム経路内に配置された1つ以上の光学要素は、光軸に対して中心ズレされているか、又は傾斜していてもよい。しかし、この場合、光軸は、ビーム経路内の光学要素の中心を相互接続することによって、例えば、レンズの中心を相互接続することなどによって、順次定義されてよく、この文脈では、光センサは光学要素として考慮されない。光軸は、一般にビーム経路を示してよい。そこでは、ディスプレイ装置は、光ビームがそれに沿って物体から光センサに進む単一のビーム経路を有してもよいし、複数のビーム経路を有してもよい。一例として、単一のビーム経路が与えられてもよいし、又はビーム経路が2つ以上の部分ビーム経路に分割されてもよい。後者の場合、各部分ビーム経路は、それ自身の光軸を有することができる。光センサは、1つかつ同一のビーム経路又は部分ビーム経路に配置されてよい。代替的に、しかし、光センサはまた、異なる部分ビーム経路に配置されてよい。
転送装置は、縦方向座標が光軸に沿った座標であり、dが光軸からの空間的オフセットである座標系を構成してよい。座標系は、転送装置の光軸がz軸を形成し、z軸からの距離及び極角が追加の座標として使用され得る極座標系であり得る。z軸に平行又は逆平行な方向は、縦方向とみなすことができ、z軸に沿った座標は縦方向座標とみなすことができる。z軸に垂直な任意な方向は、横方向とみなすことができ、極座標及び/又は極角度は横方向座標とみなすことができる。
ディスプレイ装置は、ディスプレイ装置の光軸がz軸を形成し、また追加的にz軸に直交しかつ互いに直交するx軸とy軸が提供され得る座標系を、構成することができる。一例として、ディスプレイ装置及び/又はディスプレイ装置の一部は、この座標系の原点など、この座標系における特定の点に所在し得る。この座標系において、z軸に平行又は逆平行な方向を縦方向とみなすことができ、z軸に沿った座標を、縦方向座標と考えることができる。縦方向に対して垂直な任意の方向を横方向と考え、x座標及び/又はy座標を横方向座標と考えることができる。代替的に、他のタイプの座標系を使用してよい。したがって、一例として、光軸がz軸を形成し、z軸からの距離及び極角が追加の座標として使用され得る極座標系を使用することができる。同様に、z軸に平行又は逆平行な方向を縦方向とみなすことができ、z軸に沿った座標を縦方向座標と考えることができる。z軸に対して垂直な任意の方向を横方向と考え、極座標及び/又は極角を横方向座標と考えることができる。
ディスプレイ装置は、情報を表示するように構成された少なくとも1つの透光性ディスプレイを備える。透光性ディスプレイは、少なくとも1つのスクリーンであってよく、又は少なくとも1つのスクリーンを備えていてもよい。スクリーンは、任意の形状、好ましくは長方形の形状を有することができる。本明細書で使用される場合、「透光性」という用語は、光、特に特定の波長範囲の光、好ましくは赤外領域の光を通過させるディスプレイの特性を指し得る。照射源及び光センサは、透光性ディスプレイの前方に照射パターンの伝播方向に配置される。情報は、少なくとも1つの画像、少なくとも1つの図、少なくとも1つのヒストグラム、少なくとも1つのグラフィック、テキスト、数字、少なくとも1つの記号、操作メニューなどの任意の情報であってよい。
透光性ディスプレイは、ディスプレイのフルサイズにわたって延びるディスプレイ材料を有するフルサイズディスプレイであってよい。ディスプレイの「サイズ」という用語は、透光性ディスプレイの表面積を指し得る。「フルサイズディスプレイ」という用語は、透光性ディスプレイが凹部なし又は切り欠きなしであること、透光性ディスプレイがアクティブ表示エリア全体を有すること、又は表示エリア全体がアクティブ化可能であることのうちの1つ以上を指し得る。透光性ディスプレイは、ディスプレイ材料の連続的な分布を有していてよい。透光性ディスプレイは、凹部や切り欠きがないように設計されていてよい。例えば、ディスプレイ装置は、透光性ディスプレイが配置される長方形表示エリアなどの表示エリアを有する前面側を含むことができる。表示エリアは、透光性ディスプレイ、特にディスプレイ材料によって、具体的には、凹部やノッチがないように、完全に覆われていてよい。これにより、表示サイズ、特に情報を表示するように構成されたディスプレイ装置の面積を大きくすることを可能にすることができる。例えば、ディスプレイ装置の全体及び/又は全前面サイズが表示材料によって覆われてよいが、ディスプレイを囲むフレームは可能であり得る。
透光性ディスプレイは、少なくとも1つの有機発光ダイオード(OLED)ディスプレイであってよく、又はそれを含んでいてもよい。本明細書で使用される場合、「有機発光ダイオード」という用語は、広義の用語であり、当業者にとって通常で慣用的な意味を与えられるべきであり、特別な意味又はカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されることなく、発光エレクトロルミネセンス層が電流に応答して光を放出するように構成された有機化合物の膜である発光ダイオード(LED)を指し得る。OLEDは、可視光を放出するように構成されていてよい。
ディスプレイ装置は、少なくとも1つの制御ユニットを備える。制御ユニットは、照射中に照射源のエリアで、及び/又は測定中に光センサのエリアで、ディスプレイをオフにするように構成される。本明細書でさらに使用される場合、「制御ユニット」という用語は、一般に、特に少なくとも1つのプロセッサ及び/又は少なくとも1つの特定用途向け集積回路を使用することによって、照射源及び/又は光センサ及び/又はディスプレイ装置などのディスプレイの少なくとも1つのさらなるコンポーネントを制御するように構成された任意の装置を指す。したがって、一例として、制御ユニットは、多数のコンピュータコマンドを含むソフトウェアコードをそこに格納する少なくとも1つのデータ処理装置を備えることができる。制御ユニットは、指定された操作の1つ以上を実行するための、1つ以上のハードウェア要素を提供してよく、及び/又は、指定された操作の1つ以上を実行するための、そこで実行されるソフトウェアを有する1つ以上のプロセッサを提供してもよい。したがって、一例として、制御ユニットは、上述の制御を実行するように構成された1つ以上のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、又はフィールドプログラマブルゲートアレイ(FPGA)などの1つ以上のプログラム可能な装置を備えることができる。しかしながら追加的に又は代替的に、制御ユニットはまた、完全に又は部分的にハードウェアによって具体化されてよい。
制御ユニットは、照射中に照射源のエリアで、及び/又は測定中に光センサのエリアで、ディスプレイをオフにするように構成される。本明細書で使用される場合、「照射中」という用語は、照射源がアクティブである、例えば、スイッチオンされている、及び/又は少なくとも1つの照射ビームを生成する準備がされている、及び/又はシーンを能動的に照射しているなどの、時間スパンを指し得る。本明細書で使用される場合、「測定中」という用語は、光センサがアクティブである、例えば、スイッチオンされている、及び/又は測定の準備がされている、及び/又は能動的に測定しているなどの、時間スパンを指し得る。本明細書で使用される場合、「あるエリアのディスプレイをオフにする」という用語は、特にディスプレイの特定のエリアへの出力供給を防止及び/又は中断及び/又は停止するように調整することを指し得る。上記で概説したように、ディスプレイは、少なくとも1つのOLEDディスプレイを備え得る。制御ユニットが照射源のエリアでディスプレイをオフにすると、OLEDディスプレイは、照射源のエリアで非アクティブになり得る。制御ユニットが光センサのエリアでディスプレイをオフにしたとき、OLEDディスプレイは光センサのエリアで非アクティブであってよい。制御ユニットは、測定がアクティブである間、ディスプレイのエリアをオフにするように構成されてよい。
照射源は、照射ビーム、特に照射パターンがシーンに向かって放射される放射エリアを備えることができる。放射エリアは、照射源の開口角によって定義され得る。「照射源のエリアのディスプレイ」という用語は、放射エリアによってカバーされた透光性ディスプレイの部分を指し得る。「光センサのエリアのディスプレイ」という用語は、光センサの感光エリアによってカバーされたディスプレイの部分を指し得る。照射源及び光センサは、定義されたエリアに配置されてよい。照射源と光センサは、互いに対して固定された位置に配置されていてよい。例えば、照射源と光センサは、特に一定の距離を有して、互いに隣接して配置されてよい。照射源及び光センサは、放射エリア及び感光エリアによってカバーされる透光性ディスプレイのエリアが最小となるように配置されてよい。
ディスプレイは、制御ユニットが照射中に照射源のエリアで、及び/又は測定中に光センサのエリアでディスプレイをオフにしたときに、照射源のエリア及び/又は光センサのエリアに、黒色エリアを示すように構成されていてよい。黒色エリアは、光を放出していないエリア及び/又はディスプレイの他のエリアと比較して、光の量が減少しているエリアであってよい。例えば、黒色エリアは、暗くなったエリアであってよい。具体的には、制御ユニットは、照射源のエリアのディスプレイが調整可能なノッチとして機能するように、照射源のエリアのディスプレイをオフにするように、及び/又は、光センサのエリアのディスプレイが調整可能なノッチとして機能するように、光センサのエリアのディスプレイをオフにするように構成される。調整可能なノッチは、照射及び/又は測定中にアクティブになり、それ以外は非アクティブになるように構成されることができる。調整可能なノッチは、ディスプレイ装置が使用されていないときに、顔ロック解除中などの測定中に、アクティブになり、光センサ、特にフロントセンサが必要ないときに、非アクティブになる仮想ノッチとして機能してよい。使用されるOLEDディスプレイの場合、これは、ディスプレイの作動が全くないことを意味する場合がある。これにより、IR光によってどのピクセルの色も変化しないことを確実にすることを可能にすることができる。さらに、ディスプレイ装置、特に制御ユニット及び/又はさらなる処理装置及び/又はさらなる光学要素は、例えばIRレーザのちらつきを知覚してディスプレイの色を補正するように構成されることができる。
例えば、ディスプレイ装置の構成は、光センサ及びレンズシステムを備えるカメラと、プロジェクタ、特にレーザプロジェクタとを備え得る。プロジェクタとカメラは、透光性ディスプレイの後方で、シーンによって反射された光の伝播方向に固定されてよい。プロジェクタはドットパターンを生成し、ディスプレイを通して光ることができる。測定中、透光性ディスプレイは、透光性ディスプレイがこの時間中黒色エリアを表示するように、プロジェクタのエリアでオフにされることができる。カメラはディスプレイを通して見ることができる。
調整可能なノッチは、鋭いエッジを含むことができる。しかし、他の実施形態では、調整可能なノッチは、あらゆる鋭いフリンジを回避するために輝度勾配で実現されることができる。ディスプレイ装置は、鋭いフリンジを回避するために、光センサが通常配置されるディスプレイのエッジに輝度勾配を導入するように構成された輝度低減要素を備えることができる。これにより、調整可能なノッチのエリアにおいて低減された輝度を提供することが可能となり得る。
制御ユニットは、ディスプレイと照射源とが互いに干渉しない方式で、いわゆるトグルモードで、これらを同期させるように構成されることができる。
例えば、ディスプレイ装置は、少なくとも1つの照射パターンを生成するように構成された少なくとも1つのプロジェクタと、シーンを照射するための追加のフラッドイルミネーションと、光センサとを備え得る。ディスプレイ装置は、これらの構成要素が、ディスプレイの前方に照射光ビームの伝播方向に配置されるように構成されることができる。透光性ディスプレイは、少なくとも1つのOLEDディスプレイであってよい。OLEDディスプレイは、約25%又は25%超の透過率を有し得る。しかし、より透過率が低いOLEDディスプレイの実施形態さえも可能であり得る。OLEDディスプレイは、マトリックス配置で配置された複数のピクセルを含んでよい。OLEDは、マトリックスの上から下へ一行ずつコンテンツ行更新及び/又はリフレッシュすることができる。制御ユニットは、ディスプレイ、プロジェクタ、フラッドイルミネーション及び光センサを同期させるように構成されていてよい。ディスプレイ、特にディスプレイドライバは、更新及び/又はリフレッシュが最後の行から最初の行にラップアラウンドすることを示す少なくとも1つの信号を発するように構成され得る。照射装置及び光センサは、第1ライン又は第1ラインのうちの1つに配置されてよい。ディスプレイドライバは、制御ユニットの一部であってよい。ディスプレイドライバは、ディスプレイの要素であってよい。追加的に又は代替的に、信号は、外部の制御ユニットによって発せられることができる。例えば、更新及び/又はリフレッシュが最後の行から最初の行にラップアラウンドする場合、垂直同期(VSYNC)信号(ディスプレイVSYNCとも表される)が、ディスプレイによって発せられてよい。ディスプレイは、2つの動作モード、すなわち、「ビデオモード」又は「コマンドモード」で作動させられ得る。ビデオモードでは、VSYNC信号は、ディスプレイドライバによって、ディスプレイから発せられ得る。コマンドモードでは、VSYNC信号は、後述するように、外部制御ユニット(例えば、システムオンチップ)によって生成され、発せられ得る。光センサの露光は、ディスプレイのVSYNCの直前に、すなわち、照射装置及び光センサが配置されている第1ラインのリフレッシュの直前に起こり得る。OLEDディスプレイを介する光の放出は、ディスプレイのコンテンツが更新及び/又はリフレッシュされる、特に上書きされるわずか前にタイミングを合わせることができる。これにより、目に見える歪みを最小化することができる。
光センサ、例えば、少なくとも1つのIR-カメラは、プロジェクタ及びフラッドイルミネーションと同期され得る。光センサは、照射中、アクティブであってよく、すなわち、画像をキャプチャするためのモード及び/又は光を検出するためのモードにあってよい。例えば、光センサと照射源の同期は、光センサが、カメラVSYNCとも呼ばれるVSYNC信号を制御ユニットに発し、ストロボ信号を照射源に発することによって実現され得、制御ユニットがカメラVSYNCに応答して照射源を作動させるためのトリガ信号を照射源に発行する。トリガ信号とストロボ信号が照射源によって受信された場合、照射源は照射(複数可)を開始する。しかし、光センサと照射源を同期させるための他の実施形態も可能である。
例えば、制御ユニットは、システムオンチップ(SoC)を含んでよい。SoCは、ディスプレイインターフェイスを含んでよい。SoCは、少なくとも1つのアプリケーションに接続された少なくとも1つのアプリケーションプログラミングインターフェイス(API)を備えることができる。SoCは、少なくとも1つの画像信号処理装置(ISP)をさらに備えることができる。光センサは、少なくとも1つの接続を介して、SoC、特にISP及び/又はAPIに接続され得る。接続は、電力制御、クロック信号(CLK)の提供、画像信号の転送のうちの1つ以上のために構成され得る。追加的に又は代替的に、接続は、インター集積回路(I2C)として具現化されることができる。追加的に又は代替的に、接続は、MIPなどの画像データインターフェイスとして具現化されることができる。アプリケーションは、照射源の1つ以上による照射を要求することができる。SoCは、APIを介して、接続を介して光センサに電力を供給することができる。光センサは、SoCにVSYNC信号を発することができ、照射源にストロボ信号を発することができる。SoCは、APIを介して、カメラVSYNCに応答して、照射源をそれぞれアクティブ化するためのトリガ信号を照射源に発することができる。それぞれのトリガ信号とストロボ信号がそれぞれの照射源によって、特にAND論理ゲートによって受信された場合、照射源のそれぞれのドライバは、イルミネーションを駆動する。光センサの信号は、接続によりSoC、例えばAPI及びISPに転送され、及び、例えばメタデータなどと共に、さらなる評価のためにアプリケーションに提供され得る。
さらに、光センサとディスプレイを同期させることができる。ディスプレイ装置は、ディスプレイVSYNCを、カメラフレームの露光端に同期させるため、トリガ信号として、ディスプレイVSYNCを光センサに渡すように構成されることができる。光センサのトリガの要求に応じて、ディスプレイVSYNCは、光センサに渡される前に、要求を完全に満たすように適合され、特に調整されることができる。例えば、ディスプレイVSYNCの周波数は半分に調整されることができる。
制御ユニットは、光センサ及び/又は前記照射源がアクティブである場合に、表示を発するように構成されてよい。透光性ディスプレイは、光センサ及び/又は照射源がアクティブなときに前記表示を表示するように構成されてよい。例えば、ディスプレイ装置は、照射源と光センサとを用いて顔認識を行うように構成されてよい。顔認識のための方法及び技術は、当業者には一般的に知られている。制御ユニットは、顔認識の実行中に、顔認識がアクティブであることを示す表示を発するように構成されてよい。透光性ディスプレイは、顔認識の実行中に、前記表示を表示するように構成されてよい。例えば、表示は、少なくとも1つの警告要素であってよい。表示は、光センサ及び/又は照射源、特に顔認識がアクティブであることを示すアイコン及び/又はロゴ及び/又はシンボル及び/又はアニメーションのうちの1つ以上であってよい。例えば、黒色エリアは、安全認証がアクティブであることを示す識別マークを含んでよい。これにより、ユーザは、例えば、支払いや署名などのための安全な環境にいることを認識することができる。例えば、警告要素は、顔認証がアクティブであることを示すために、色及び/又は外観を変えることができる。この表示により、ユーザはさらに、スパイ行為を避けるために光センサ、特にカメラがオンになっていることを認識することができる。制御ユニット及び/又はさらなる安全ゾーンは、黒色エリアに少なくとも1つの透かしを表示するための少なくとも1つのコマンドを発するように構成されてよい。透かしは、低セキュリティアプリ、例えば店舗から模倣されないシンボルであり得る。
しかし、透光性ディスプレイの裏側でシーンによって反射された光の伝播方向に照射源と光センサを配置することは、ディスプレイの回折格子が、シーン上に、及び光センサによってキャプチャされる画像内にも、複数のレーザポイントを発生させる結果を生じ得る。したがって、画像上のこれらの複数のスポットは、有用な距離情報を含まない可能性がある。以下で詳細に説明されるように、ディスプレイ装置は、回折格子のゼロ次数の反射特徴、すなわち実特徴を発見し評価するように構成された少なくとも1つの評価装置を備えてよく、高次の反射特徴、すなわち偽特徴を無視することができる。
照射源は、少なくとも1つのシーン上に複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成されてよい。光センサは、照射特徴による照射に応答してシーンによって生成された複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成されてよい。ディスプレイ装置は、少なくとも1つの評価装置をさらに備えてよい。評価装置は、第1画像を評価するように構成されてよく、そこでは、第1画像の評価は、第1画像の反射特徴を識別することと、識別された反射特徴を明るさに関して並べ替えをすることとを含む。反射特徴の各々は、少なくとも1つのビームプロファイルを含むことができる。評価装置は、ビームプロファイルの分析により、反射特徴の各々に関して少なくとも1つの縦方向座標zDPRを決定するように構成されることができる。評価装置は、縦方向座標zDPRを用いて、反射特徴と、対応する照射特徴とを明確にマッチングするように構成されることができる。マッチングは、最も明るい反射特徴から始めて、反射特徴の明るさを減少させながら行われることができる。評価装置は、照射特徴とマッチングした反射特徴を実特徴として分類し、照射特徴とマッチングしなかった反射特徴を偽特徴として分類するように構成され得る。評価装置は、偽特徴を拒絶し、縦方向座標zDPRを使用することによって、実特徴の深度マップを生成するように構成され得る。
光センサは、照射特徴による照射に応答してシーンによって生成された複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成され得る。本明細書で使用される場合、限定されることなく、「画像」という用語は、具体的には、センサ要素のピクセルなどの画像化装置からの複数の電子読取値など、光センサを使用することによって記録されたデータに関することができる。画像自体は、したがって、ピクセルを含み得、画像のピクセルは、センサ要素のマトリックスのピクセルに相関している。したがって、「ピクセル」を参照する場合、センサ要素の単一のピクセルによって生成された画像情報の単位を参照するか、又はセンサ要素の単一のピクセルを直接参照するかのいずれかである。本明細書で使用される場合、「二次元画像」という用語は、一般に、高さ及び幅の寸法などの横方向座標に関する情報を有する画像を指し得る。本明細書で使用される場合、「三次元画像」という用語は、一般に、横方向座標に関する情報と、追加的に、高さ、幅及び深さの寸法などの縦方向座標に関する情報と、を有する画像を指し得る。本明細書で使用される場合、「反射特徴」という用語は、具体的には少なくとも1つの照射特徴である照射に応答してシーンによって生成される画像平面内の特徴を指し得る。
評価装置は、第1画像を評価するように構成されてよい。本明細書でさらに使用される場合、「評価装置」という用語は、一般に、好ましくは少なくとも1つのデータ処理装置を使用することによって、より好ましくは少なくとも1つのプロセッサ及び/又は少なくとも1つの特定用途向け集積回路を使用することによって、指定された操作を行うように適合された任意の装置を指す。したがって、一例として、少なくとも1つの評価装置は、多数のコンピュータコマンドを含んでそこに格納されたソフトウェアコードを有する少なくとも1つのデータ処理装置を含んでいてよい。評価装置は、指定された操作の1つ以上を実行するための1つ以上のハードウェア要素を提供してもよく、及び/又は、指定された操作の1つ以上を実行するためにその上で実行されるソフトウェアを有する1つ以上のプロセッサを提供してもよい。操作は、画像を評価することを含む。具体的には、ビームプロファイルを決定し、表面を表示することは、少なくとも1つの評価装置によって実行されてよい。したがって、一例として、1つ以上の命令は、ソフトウェア及び/又はハードウェアで実装されることができる。したがって、一例として、評価装置は、評価を実行するように構成された1つ以上のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、又はフィールドプログラマブルゲートアレイ(FPGA)などの1つ以上のプログラマブル装置を備えることができる。しかしながら、追加的又は代替的に、評価装置はまた、完全に又は部分的にハードウェアによって具現化されてもよい。
評価装置及びディスプレイ装置は、完全に又は部分的に単一の装置に統合されてよい。したがって、一般に、評価装置はまたディスプレイ装置の一部を形成してよい。あるいは、評価装置及びディスプレイ装置は、完全に又は部分的に、別個の装置として具現化されてもよい。ディスプレイ装置は、さらなるコンポーネントを含むことができる。評価装置は、制御ユニットに接続されてよく、及び/又は制御ユニットの一部であってよい。
評価装置は、1つ以上の特定用途向け集積回路(ASIC)などの1つ以上の集積回路、及び/又は、1つ以上コンピュータ、好ましくは1つ以上のマイクロコンピュータ、及び/又はマイクロコントローラ、フィールドプログラマブルゲートアレイ、又はデジタル信号プロセッサなどの、1つ以上のデータ処理装置であるか、又はそれらを含んでいてもよい。追加のコンポーネント、例えば、1つ以上の前処理装置、及び/又は1つ以上のAD変換器及び/又は1つ以上のフィルタなどの、センサ信号の受信及び/又は前処理を行う1つ以上装置などのデータ収集装置が含まれていてもよい。さらに、評価装置は、電流及び/又は電圧を測定するための1つ以上の測定装置などの、1つ以上の測定装置を備えることができる。さらに、評価装置は1つ以上のデータ記憶装置を含むことができる。さらに、評価装置は、1つ以上のインターフェイス、例えば1つ以上の無線インターフェイス及び/又は1つ以上の有線インターフェイスを含むことができる。
評価装置は、光センサ及び/又は評価装置によって得られる情報などの情報を、表示すること、視覚化すること、分析すること、配布すること、通信すること、又は、さらに処理することのうちの1つ以上のために使用され得る少なくとも1つのさらなるデータ処理装置に、接続されることができ、又は、それを含むことができる。データ処理装置は、一例として、ディスプレイ、プロジェクタ、モニタ、LCD、TFT、ラウドスピーカ、マルチチャネルサウンドシステム、LEDパターン、又は、さらなる視覚化装置うちの少なくとも1つに接続されることができ、又は、それを組み込むことができる。それはさらに、Eメール、テキストメッセージ、電話、Bluetooth、Wi-Fi、赤外線又はインターネットインターフェイス、ポート又は接続のうちの1つ以上を使用して、暗号化された情報又は暗号化されていない情報を送ることができる、通信装置又は通信インターフェイス、コネクタ又はポートのうちの少なくとも1つに、さらに接続されることができ、又はそれを組み込むことができる。それはさらに、プロセッサ、グラフィックプロセッサ、CPU、Open Multimedia Applications Platform(OMAP(登録商標))、集積回路、Apple Aシリーズ又はSamsung S3C2シリーズからの製品、マイクロコントローラ又はマイクロプロセッサなどのようなシステムオンチップ、ROM、RAM、EEPROM、又はフラッシュメモリなどの1つ以上のメモリブロック、発振器もしくは位相同期ループなどのタイミングソース、カウンタタイマ、リアルタイムタイマ、又はパワーオン-リセット-ジェネレーター、電圧調整器、電力管理回路、又はDMAコントローラのうちの少なくとも1つにさらに接続されることができ、又はそれを組み込むことができる。個々のユニットは、さらに、AMBAバスなどのバスによって、モノのインターネット又はインダストリー4.0タイプのネットワークに接続され得るか、統合され得る。
評価装置及び/又はデータ処理装置は、シリアル又はパラレルのインターフェイス又はポート、USB、Centronics Port、FireWire、HDMI(登録商標)、イーサネット、Bluetooth、RFID、Wi-Fi、USART、もしくはSPIのうちの1つ以上などのさらなる外部インターフェイス又はポート、あるいは、ADC又は、DAC、又はCameraLinkのようなRGBインターフェイスを使用して2Dカメラ装置のようなさらなる装置への標準化されたインターフェイスもしくはポートのうちの1つ以上などのアナログインターフェイス又はポートによって接続されていてもよく、又はそれらを有していてもよい。評価装置及び/又はデータ処理装置は、プロセッサ間インターフェイスもしくはポート、FPGA-FPGA-インターフェイス、又は、シリアルもしくはパラレルインターフェイスポートのうちの1つ以上によってさらに接続され得る。評価装置及びデータ処理装置は、さらに、光学ディスクドライブ、CD-RWドライブ、DVD+RWドライブ、フラッシュドライブ、メモリカード、ディスクドライブ、ハードディスクドライブ、ソリッドステートディスク、又はソリッドステートハードディスクのうちの1つ以上に接続され得る。
評価装置及び/又はデータ処理装置は、フォンコネクタ、RCAコネクタ、VGAコネクタ、雄雌同体コネクタ、USBコネクタ、HDMI(登録商標)コネクタ、8P8Cコネクタ、BCNコネクタ、IEC60320 C14コネクタ、光ファイバコネクタ、Dサブミニチュアコネクタ、RFコネクタ、同軸コネクタ、SCARTコネクタ、XLRコネクタのうちの1つ以上などの、1つ以上のさらなる外部コネクタによって接続されていてもよく、又は、それらを有していてもよく、及び/又は、これらのコネクタのうちの1つ以上のための少なくとも1つの適切なソケットを組み込んでいてもよい。
評価装置は、第1画像の評価を行うように構成され得る。第1画像の評価は、第1画像の反射特徴を識別することを含んでよい。評価装置は、反射特徴を識別するために、少なくとも1つの画像分析及び/又は画像処理を実行するように構成され得る。画像分析及び/又は画像処理は、少なくとも1つの特徴検出アルゴリズムを使用してよい。画像分析及び/又は画像処理は、以下:フィルタリング;少なくとも1つの関心領域の選択;センサ信号によって生成された画像と少なくとも1つのオフセットとの間の差分画像の形成;センサ信号によって生成された画像を反転することによるセンサ信号の反転;異なる時間にセンサ信号によって生成された画像間の差分画像の形成;背景補正;カラーチャネルへの分解;色相への分解;飽和;輝度チャネル;周波数分解;特異値分解;ブロブ検出器の適用;コーナー検出器の適用;ヘッセフィルタの行列式の適用;主曲率ベースの領域検出器の適用;最大安定極値領域検出器の適用;一般化されたハフ変換の適用;稜線検出器の適用;アフィン不変特徴検出器の適用;アフィン適応の関心点演算子の適用;ハリスアフィン領域検出器の適用;ヘッセアフィン領域検出器の適用;スケール不変特徴変換の適用;スケールスペース極値検出器の適用;局所特徴検出器の適用;高速化堅牢特徴アルゴリズムの適用;勾配位置及び方向のヒストグラムアルゴリズムの適用;方向付けられた勾配記述子のヒストグラムの適用;Dericheエッジ検出器の適用;差動エッジ検出器の適用;時空関心点検出器の適用;モラベックコーナー検出器の適用;キャニーエッジ検出器の適用;ガウスフィルタのラプラス演算子の適用;差分ガウスフィルタの適用;ソーベル(Sobel)演算子の適用;ラプラス演算子の適用;シャール演算子の適用;プレウィット演算子の適用;ロバーツ演算子の適用;キルシュ演算子の適用;ハイパスフィルタの適用;ローパスフィルタの適用;フーリエ変換の適用;ラドン変換の適用;ハフ変換の適用;ウェーブレット変換の適用;閾値処理;バイナリ画像の生成、のうちの1つ以上を含み得る。関心領域は、ユーザが手動で決定されてもよく、又は、光センサによって生成された画像内の特徴を認識するなどによって、自動的に決定されてもよい。
例えば、照射源は、複数の照射領域が、光センサ、例えばCMOS検出器上に生成されるように、点群を生成及び/又は投影するように構成されてよい。さらに、例えばスペックル及び/又は外来光及び/又は多重反射によるなどの外乱が、光センサに存在し得る。評価装置は、少なくとも1つの関心領域、例えば、物体の縦方向座標の決定に使用される光ビームによって照射される1つ以上のピクセルを、決定するように適合され得る。例えば、評価装置は、フィルタリング方法、例えば、ブロブ分析及び/又はエッジフィルタ及び/又は物体認識方法を実行するように適合され得る。
評価装置は、少なくとも1つの画像補正を行うように構成されてよい。画像補正は、少なくとも1つの背景減算を含み得る。評価装置は、例えば、さらなる照射なしの画像化によって、ビームプロファイルからの背景光から影響を除去するように適合されてよい。
反射特徴の各々は、少なくとも1つのビームプロファイルを含む。本明細書で使用される場合、反射特徴の「ビームプロファイル」という用語は、一般に、ピクセルの関数としての、光センサ上の光スポットなどの反射特徴の少なくとも1つの強度分布を指し得る。ビームプロファイルは、台形ビームプロファイル;三角形ビームプロファイル;円錐ビームプロファイル及びガウシアンビームプロファイルの線形結合からなる群から選択され得る。評価装置は、ビームプロファイルの分析により、反射特徴の各々に関するビームプロファイルの情報を決定するように構成される。
評価装置は、ビームプロファイルの分析により、反射特徴の各々に関して少なくとも1つの縦方向座標zDPRを決定するように構成されてよい。本明細書で使用される場合、「ビームプロファイルの分析」という用語は、一般に、ビームプロファイルの評価を指し得、少なくとも1つの数学演算、及び/又は少なくとも1つの比較、及び/又は少なくとも1つの対称化、及び/又は少なくとも1つのフィルタリング、及び/又は少なくとも1つの正規化を含んでよい。例えば、ビームプロファイルの分析は、ヒストグラム分析ステップ、差分測定の計算、ニューラルネットワークの適用、機械学習アルゴリズムの適用のうちの少なくとも1つを含み得る。評価装置は、特に、より大きな角度での記録、エッジなどの記録からノイズ又は非対称性を除去するために、ビームプロファイルを対称化及び/又は正規化及び/又はフィルタリングするように構成されることができる。評価装置は、空間周波数分析及び/又は中央値フィルタリングなどによってなど、高い空間周波数を除去することによって、ビームプロファイルをフィルタリングすることができる。集約は、光スポットの強度の中心によって実行され、中心までの同じ距離にある全ての強度を平均化することによって実行され得る。評価装置は、特に記録された距離による強度差を考慮するように、ビームプロファイルを最大強度に正規化するように構成されてよい。評価装置は、例えば、照射なしの画像化によって、ビームプロファイルからの背景光から影響を除去するように構成されてよい。
反射特徴は、画像の少なくとも1つのピクセルをカバーするか、又はその上に延びていてもよい。例えば、反射特徴は、複数のピクセルをカバーするか、又は複数のピクセルにわたって延在してもよい。評価装置は、反射特徴、例えば光スポットに接続及び/又は属する全てのピクセルを決定及び/又は選択するように構成されていてもよい。評価装置は、強度の中心を、
Figure 2023552974000002
によって決定するように構成されてよく、ここで、Rcoiは強度の中心位置、rpixelはピクセル位置、及び
Figure 2023552974000003
はjが反射特徴に接続及び/又は属するピクセル数j、Itotalは総強度である。
評価装置は、光子比からの深度技術を使用することによって、反射特徴のそれぞれについて縦方向座標zDPRを決定するように構成されてよい。光子比からの深度(DPR)技術に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1を参照し、その全内容は参照により含まれる。
評価装置は、反射特徴のそれぞれのビームプロファイルを決定するように構成されることができる。本明細書で使用される場合、「ビームプロファイルを決定する」という用語は、光センサによって提供される少なくとも1つの反射特徴を識別すること、及び/又は光センサによって提供される少なくとも1つの反射特徴を選択することと、反射特徴の少なくとも1つの強度分布を評価することとを指す。一例として、マトリックスの領域は、マトリックスを通る軸又は線に沿ってなど、三次元強度分布又は二次元強度分布などの強度分布を決定するために使用され、評価されてよい。一例として、光ビームによる照射の中心は、最高の照射を有する少なくとも1つのピクセルを決定することなどにより決定され得、断面軸が照射の中心を通して選択され得る。強度分布は、照射の中心を通るこの断面軸に沿った座標の関数としての強度分布であり得る。他の評価アルゴリズムも可能である。
反射特徴の1つのビームプロファイルの分析は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定することを含み得る。ビームプロファイルの第1エリアは、エリアA1であり得、ビームプロファイルの第2エリアは、エリアA2であり得る。評価装置は、第1エリアと第2エリアとを積分するように構成されてよい。評価装置は、積分された第1エリア及び積分された第2エリアを除算すること、積分された第1エリア及び積分された第2エリアの倍数を除算すること、積分された第1エリア及び積分された第2エリアの線形結合を除算することの1つ以上によって、結合信号、特に商Qを導出するように構成され得る。評価装置は、ビームプロファイルの少なくとも2つのエリアを決定するように、及び/又はビームプロファイルをビームプロファイルの異なるエリアを有する少なくとも2つのセグメントに分割するように構成されてもよく、エリアが一致しない限り、エリアの重なりは可能である。例えば、評価装置は、2つ、3つ、4つ、5つ、又は最大10個のエリアなど、複数のエリアを決定するように構成されてよい。評価装置は、光スポットをビームプロファイルの少なくとも2つのエリアに分割するように、及び/又は、ビームプロファイルをビームプロファイルの異なるエリアを含む少なくとも2つのセグメントに分割するように構成されてよい。評価装置は、エリアのうちの少なくとも2つについて、それぞれのエリアにわたるビームプロファイルの積分を決定するように構成されてよい。評価装置は、決定された積分の少なくとも2つを比較するように構成されてよい。具体的には、評価装置は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定するように構成されてよい。本明細書で使用される場合、「ビームプロファイルのエリア」という用語は、一般に、商Qを決定するために使用される光センサ位置におけるビームプロファイルの任意の領域を指す。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、隣接する領域又は重複する領域のいずれか一方又は両方であってよい。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、エリアが一致していなくてよい。例えば、評価装置は、CMOSセンサのセンサ領域を少なくとも2つのサブ領域に分割するように構成されてよく、評価装置は、CMOSセンサのセンサ領域を、少なくとも1つの左側部分と少なくとも1つの右側部分、及び/又は少なくとも1つの上部分と少なくとも1つの下部分、及び/又は少なくとも1つの内部分と少なくとも1つの外部分、とに分割するように構成され得る。追加的又は代替的に、ディスプレイ装置は、少なくとも2つの光センサを備えてよく、第1光センサ及び第2光センサの感光エリアは、第1光センサが反射特徴のビームプロファイルの第1エリアを決定するよう適合され、第2光センサが反射特徴のビームプロファイルの第2エリアを決定するよう適合されるように配置され得る。評価装置は、第1エリアと第2エリアとを積分するように適合されてよい。評価装置は、縦方向座標を決定するために、商Qと縦方向座標の間の少なくとも1つの予め決定された関係を用いるように構成されてよい。予め決定された関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの、予め決定された関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
ビームプロファイルの第1エリアは、ビームプロファイルのエッジ情報を実質的に含んでよく、ビームプロファイルの第2エリアは、ビームプロファイルの中心情報を実質的に含んでよく、及び/又は、ビームプロファイルの第1エリアは、ビームプロファイルの左側部分に関する情報を実質的に含み、ビームプロファイルの第2エリアはビームプロファイルの右側部分に関する情報を実質的に含んでよい。ビームプロファイルは、中心、すなわちビームプロファイルの最大値及び/又はビームプロファイルのプラトーの中心点及び/又は光スポットの幾何学的中心と、中心から延びる立下りエッジとを有してよい。第2領域は、断面の内側領域を含んでよく、第1領域は、断面の外側領域を含んでよい。本明細書で使用される場合、「実質的に中心情報」という用語は、一般に、中心情報の割合、すなわち中心に対応する強度分布の割合と比較して、エッジ情報の割合が低いこと、すなわちエッジに対応する強度分布の割合が低いことを指す。好ましくは、中心情報は、10%未満、より好ましくは5%未満、のエッジ情報の割合を有し、最も好ましくは、中心情報はエッジ内容を含まない。本明細書で使用される場合、「実質的にエッジ情報」という用語は、一般に、エッジ情報の割合と比較して、中心情報の割合が低いことを指す。エッジ情報は、ビームプロファイル全体の情報、特に中心領域及びエッジ領域からの情報を含み得る。エッジ情報は、10%未満、好ましくは5%未満の中心情報の割合を有し、より好ましくは、エッジ情報は中心情報を含まない。ビームプロファイルが中心に近いか又はその周囲にあり、実質的に中心情報を含む場合は、ビームプロファイルの少なくとも1つのエリアは、ビームプロファイルの第2エリアとして決定及び/又は選択されてよい。ビームプロファイルが断面の立下りエッジの少なくとも部分を含む場合は、ビームプロファイルの少なくとも1つのエリアは、ビームプロファイルの第1エリアとして決定及び/又は選択されてよい。例えば、断面の全エリアが第1領域として決定されてよい。
第1エリアA1及び第2エリアA2の他の選択も可能であり得る。例えば、第1エリアは、ビームプロファイルの実質的に外側領域を含み、第2エリアは、ビームプロファイルの実質的に内側領域を含み得る。例えば、二次元ビームプロファイルの場合、ビームプロファイルは左側部分と右側部分に分割されることができ、そこでは、第1エリアはビームプロファイルの左側部分のエリアを実質的に含み、第2エリアはビームプロファイルの右側部分のエリアを実質的に含んでよい。
エッジ情報は、ビームプロファイルの第1エリアにおける光子数に関する情報を含み、中心情報は、ビームプロファイルの第2エリアにおける光子数に関する情報を含み得る。評価装置は、ビームプロファイルの面積分を決定するように構成されてよい。評価装置は、第1エリアの積分及び/又は加算によってエッジ情報を決定するように構成されてよい。評価装置は、第2エリアの積分及び/又は加算によって中心情報を決定するように構成されてよい。例えば、ビームプロファイルは台形ビームプロファイルであってよく、評価装置は台形の積分を決定するように構成されてよい。さらに、台形ビームプロファイルが仮定される場合、エッジ信号及び中心信号の決定は、例えばエッジの傾斜及び位置の決定、及び中心プラトーの高さの決定、ならびに幾何学的考察によるエッジ信号及び中心信号の導出など、台形ビームプロファイルの特性を利用した同等評価で置き換えられてよい。
一実施形態では、A1は、光センサ上の特徴点の全体又は完全なエリアに対応し得る。A2は、光センサ上の特徴点の中心エリアであり得る。中心エリアは一定値であってよい。中心エリアは、特徴点の全エリアと比べてより小さくてもよい。例えば、円形の特徴点の場合、中心エリアは、特徴点の全半径の0.1~0.9、好ましくは全半径の0.4~0.6の半径を有してよい。
一実施形態では、照射パターンは、少なくとも1つの線パターンを含んでいてよい。A1は、光センサ上の、特に光センサの感光エリア上の線パターンの全線幅を有するエリアに対応してもよい。光センサ上の線パターンは、光センサ上の線幅が増幅するように、照射パターンの線パターンと比較して拡大及び/又は変位されてもよい。特に、光センサのマトリックスの場合には、光センサ上の線パターンの線幅は、ある列から別の列へと変化してもよい。A2は、光センサ上の線パターンの中心エリアであってよい。中心エリアの線幅は一定の値であってもよく、特に照射パターンの線幅に対応していてもよい。中心エリアの線幅は、全体の線幅に比べて小さくてもよい。例えば、中心エリアは、全線幅の0.1~0.9、好ましくは全線幅の0.4~0.6の線幅を有していてよい。線パターンは、光センサ上でセグメント化されていてよい。光センサのマトリックスの各列は、線パターンの中心エリアの強度の中心情報と、線パターンの中心エリアからエッジ領域までさらに外側に延びる領域からの強度のエッジ情報を含むことができる。
一実施形態では、照射パターンは、少なくとも1つの点パターンを含んでいてよい。A1は、光センサ上の点パターンの点の全半径を有するエリアに対応し得る。A2は、光センサ上の点パターンの点の中心エリアであり得る。中心エリアは一定値であってよい。中心エリアは、全半径と相当する半径を有することができる。例えば、中心エリアは、全半径の0.1~0.9、好ましくは全半径の0.4~0.6の半径を有することができる。
照射パターンは、少なくとも1つの点パターンと少なくとも1つの線パターンの両方を含むことができる。線パターン及び点パターンに加えて、又は代替として、他の実施形態も可能である。
評価装置は、第1エリアと第2エリアを除算すること、第1エリアと第2エリアの倍数を除算すること、第1エリアと第2エリアの線形結合を除算することのうちの1つ以上によって商Qを導出するように構成されてよい。評価装置は、
Figure 2023552974000004
によって商Qを導出するように構成されてよく、
式中、x及びyは横方向座標、A1、A2はそれぞれビームプロファイルの第1エリア及び第2エリア、E(x、y)はビームプロファイルを表す。
追加的に又は代替的に、評価装置は、光スポットの少なくとも1つのスライス又はカットから、中心情報又はエッジ情報の一方又は両方を決定するように適合されてもよい。これは、例えば、商Qの面積分をスライス又はカットに沿った線積分で置き換えることによって実現され得る。精度を向上させるために、光スポットを通るいくつかのスライス又はカットを使用して平均してもよい。楕円形のスポットプロファイルの場合、いくつかのスライス又はカットにわたって平均化すると、改善された距離情報が得られ得る。
例えば、ピクセルのマトリックスを有する光センサの場合、評価装置は、
- 最高のセンサ信号を有するピクセルを決定し、少なくとも1つの中心信号を形成することと;
- マトリックスのセンサ信号を評価し、少なくとも1つの和信号を形成することと;
- 中心信号と和信号を結合させることによって商Qを決定することと;
- 商Qを評価することにより、物体の少なくとも1つの縦方向座標zを決定することと、によって、ビームプロファイルを評価するように構成されてよい。
本明細書で使用される場合、「センサ信号」は、一般に、照射に応答して光センサ及び/又は光センサの少なくとも1つのピクセルによって生成される信号を指す。具体的には、センサ信号は、少なくとも1つのアナログ電気信号及び/又は少なくとも1つのデジタル電気信号などの少なくとも1つの電気信号であり得るか、又はそれらを含み得る。より具体的には、センサ信号は、少なくとも1つの電圧信号及び/又は少なくとも1つの電流信号であり得るか、又はそれらを含み得る。より具体的には、センサ信号は、少なくとも1つの光電流を含み得る。さらに、未処理のセンサ信号が使用されるか、又は、ディスプレイ装置、光センサ、もしくはその他の要素が、フィルタリングなどによる前処理など、センサ信号を処理又は前処理するように適合されることができ、それにより、センサ信号としても使用され得る二次センサ信号を生成する。「中心信号」という用語は、一般に、ビームプロファイルの実質的に中心情報を含む少なくとも1つのセンサ信号を指す。本明細書で使用される場合、「最高のセンサ信号」という用語は、関心領域の局所最大値又は最大値の一方又は両方を指す。例えば、中心信号は、マトリックス全体又はマトリックス内の関心領域のピクセルによって生成された複数のセンサ信号のうち、最高のセンサ信号を有するピクセルの信号であり得、該関心領域は、マトリックスのピクセルによって生成される画像内で予め決定された、又は決定可能であり得る。中心信号は、単一のピクセルから、又は光センサの一群から生じ得、後者の場合、一例として、ピクセルの一群のセンサ信号は、中心信号を決定するために、加算、積分、又は平均化され得る。中心信号が生じるピクセルの一群は、例えば、最高のセンサ信号を有する実際のピクセルから予め決定された距離より短く離れたピクセルなどの隣接するピクセルの一群であり得、又は、最高のセンサ信号から予め決定された範囲内にあるセンサ信号を生成するピクセルの一群であり得る。中心信号が生じるピクセルの一群は、最大のダイナミックレンジを可能にするように、できるだけ大きく選択され得る。評価装置は、複数のセンサ信号、例えば最高のセンサ信号を有するピクセルの周りの複数のピクセルを統合することによって中心信号を決定するように適合されてもよい。例えば、ビームプロファイルは台形ビームプロファイルであってよく、評価装置は、台形の積分、特に台形のプラトーの積分を決定するように適合されてよい。
上述したように、中心信号は、一般に、光スポットの中心にあるピクセルからのセンサ信号などの単一のセンサ信号であってもよいし、又は、光スポットの中心にあるピクセルから生じるセンサ信号の組み合せなど、複数のセンサ信号の組み合せであってもよいし、又は、前述の可能性の1つ以上から導出されるセンサ信号を処理することによって導出される二次センサ信号であってもよい。中心信号の決定は、センサ信号の比較が従来の電子機器によってかなり簡単に実施されるため、電子的に実行されてもよく、又は、ソフトウェアによって完全に又は部分的に実行されてもよい。具体的には、中心信号は、最高のセンサ信号;最高のセンサ信号から予め決定された許容範囲内にあるセンサ信号の一群の平均;最高のセンサ信号を有するピクセルを含むピクセルの一群、及び隣接するピクセルの予め決定された一群からのセンサ信号の平均;最高のセンサ信号を有するピクセルを含むピクセルの一群、及び隣接するピクセルの予め決定された一群からのセンサ信号の合計;最高のセンサ信号から予め決定された許容範囲内にあるセンサ信号の一群の合計;予め決定された閾値を超えるセンサ信号の一群の平均;予め決定された閾値を超えるセンサ信号の一群の合計;最高のセンサ信号を有する光センサを含む光センサの一群、及び隣接するピクセルの予め決定された一群からのセンサ信号の積分;最高のセンサ信号から予め決定された許容範囲内にあるセンサ信号の一群の積分;予め決定された閾値を超えるセンサ信号の一群の積分、からなる群から選択され得る。
同様に、「和信号」という用語は、一般に、ビームプロファイルの実質的にエッジ情報を含む信号を指す。例えば、和信号は、マトリックス全体又はマトリックス内の関心領域のセンサ信号を加算すること、センサ信号を積分すること、又はセンサ信号を平均することによって導出することができ、該関心領域は、マトリックスの光センサによって生成される画像内で予め決定された、又は決定可能である。センサ信号を合計、積分、又は平均化する場合、センサ信号が生成される実際の光センサは、加算、積分、又は平均化から除外されてもよく、あるいは、加算、積分、又は平均化に含まれてもよい。評価装置は、マトリックス全体の、又はマトリックス内の関心領域の信号を積分することにより、和信号を決定するように適合され得る。例えば、ビームプロファイルは台形ビームプロファイルであり得、評価装置は、台形全体の積分を決定するように適合され得る。さらに、台形ビームプロファイルが仮定される場合、エッジ信号及び中心信号の決定は、例えばエッジの傾斜及び位置の決定、及び中心プラトーの高さの決定、ならびに幾何学的考察によるエッジ信号及び中心信号の導出など、台形ビームプロファイルの特性を利用した同等評価で置き換えられてよい。
同様に、中心信号及びエッジ信号はまた、例えばビームプロファイルの円形セグメントなどのビームプロファイルのセグメントを使用することによって決定され得る。例えば、ビームプロファイルは、ビームプロファイルの中心を通過しない分割線又は弦によって2つのセグメントに分割され得る。したがって、一方のセグメントは実質的にエッジ情報を含み、他方のセグメントは実質的に中心情報を含むことになる。例えば、中心信号中のエッジ情報の量をさらに減らすために、エッジ信号が中心信号からさらに減算されてもよい。
商Qは、中心信号と和信号を結合して生成される信号であってよい。具体的には、決定は、中心信号と和信号の商、又はその逆の商を形成すること;中心信号の倍数と和信号の倍数の商、又はその逆の商を形成すること;中心信号の線形結合と、和信号の線形結合の商、又はその逆の商を形成すること、のうちの1つ以上を含み得る。追加的に又は代替的に、商Qは、中心信号と和信号の間の比較に関する少なくとも1つの情報項目を含む任意の信号又は信号の結合を含むことができる。
本明細書で使用される場合、「物体の縦方向座標」という用語は、光センサと物体の間の距離を指す。評価装置は、縦方向座標を決定するために、商Qと縦方向座標の間の少なくとも1つの予め決定された関係を用いるように構成されてよい。予め決定された関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの予め決定された関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
評価装置は、ゼロ次数及び高次数の全ての反射特徴について距離を計算する少なくとも1つの光子比からの深度アルゴリズムを実行するように構成され得る。
第1画像の評価は、識別された反射特徴を明るさに関して並べ替えをすること、を含んでよい。本明細書で使用される場合、「並べ替えをする」という用語は、さらなる評価のために、明るさに関して反射特徴を割り当てること、特に、最大の明るさを有する反射特徴から開始して、続いて減少する明るさを有する反射特徴のシーケンスを割り当てることを指し得る。減少する明るさによる並べ替えは、減少する明るさに従った並べ替え及び/又は減少する明るさに関する並べ替えを指し得る。本明細書で使用される場合、「明るさ」という用語は、第1画像における反射特徴の大きさ及び/又は第1画像における反射特徴の強度を指し得る。明るさは、可視スペクトル範囲又は赤外スペクトル範囲などの定義された通過帯域を指す場合もあれば、又は波長に依存しない場合もある。最も明るい反射特徴がDPR計算で優先される場合、縦方向座標zDPRの決定の堅牢性を高めることができる。これは主に、回折格子のゼロ次数の反射特徴が、高次の偽特徴よりも常に明るいためである。
評価装置は、縦方向座標zDPRを用いて、反射特徴と、対応する照射特徴とを明確にマッチングするように構成されることができる。光子比からの深度技術で決定される縦方向座標は、いわゆる対応問題を解くために使用され得る。そのようにして、反射特徴ごとの距離情報を使用して、既知のレーザプロジェクタグリッドの対応関係を見つけることができる。本明細書で使用される場合、「マッチング」という用語は、対応する照射特徴及び反射特徴を識別すること及び/又は決定すること及び/又は評価することを指す。本明細書で使用される場合、「対応する照射特徴及び反射特徴」という用語は、照射パターンの照射特徴の各々がシーンで反射特徴を生成するという事実を指し得、そこでは、生成された反射特徴は、前記反射特徴を生成した照射特徴に割り当てられる。
本明細書で使用される場合、「明確にマッチングする」という用語は、1つの反射特徴のみが1つの照射特徴に割り当てられること、及び/又は他の反射特徴が同じマッチングした照射特徴に割り当てられないことを指し得る。
反射特徴に対応する照射特徴は、エピポーラ幾何学を使用して決定されることができる。エピポーラ幾何学の説明については、例えば、X.Jiang、H.Bunkeによる「Dreidimensionales Computersehen」シュプリンガー、ベルリンハイデルベルク、1997年の第2章を参照されたい。エピポーラ幾何学は、照射画像、すなわち歪みのない照射パターンの画像、及び第1画像が、固定距離を有する異なる空間位置及び/又は空間配向で決定される画像であることを仮定し得る。距離は相対距離であり、ベースラインとも呼ばれる。照射画像は、参照画像とも呼ばれる。評価装置は、参照画像におけるエピポーラ線を決定するように適合され得る。参照画像と第1画像の相対位置は既知である場合がある。例えば、参照画像と第1画像の相対位置は、評価装置の少なくとも1つの記憶ユニット内に保存され得る。評価装置は、第1画像の選択された反射特徴からそれが由来する現実世界の特徴まで延びる直線を決定するように適合され得る。したがって、直線は、選択された反射特徴に対応する、あり得る物体特徴を含み得る。直線とベースラインはエピポーラ平面を展開する。参照画像が第1画像とは異なる相対的配置で決定されるため、対応するあり得る物体の特徴は、参照画像内のエピポーラ線と呼ばれる直線上に画像化され得る。エピポーラ線は、エピポーラ面と参照画像との交点であってよい。したがって、第1画像の選択された特徴に対応する参照画像の特徴は、エピポーラ線上に位置する。
照射特徴を反射したシーンの物体までの距離に応じて、照射特徴に対応する反射特徴は、第1画像内で変位し得る。参照画像は、選択される反射特徴に対応する照射特徴が画像化される少なくとも1つの変位領域を含むことができる。変位領域は、1つの照射特徴のみを含んでよい。変位領域は、複数の照射特徴を含んでいてもよい。変位領域は、エピポーラ線又はエピポーラ線のセクションを含んでいてもよい。変位領域は、複数のエピポーラ線又は複数のエピポーラ線の複数のセクションを含んでいてもよい。変位領域は、エピポーラ線に沿って、エピポーラ線に直交して、又はその両方に延びることができる。評価装置は、エピポーラ線に沿って照射特徴を決定するように適合されてよい。評価装置は、反射特徴の縦方向座標zと、結合信号Qからの誤差間隔±εを決定し、±εに対応するエピポーラ線に沿った又はエピポーラ線に直交する変位領域を決定するように適合され得る。結合信号Qを使用した距離測定の測定不確実性は、測定不確実性が方向によって異なる場合があるため、第2画像内に非円形の変位領域をもたらす可能性がある。具体的には、エピポーラ線に沿った測定不確実性は、エピポーラ線に対して直交する方向の測定不確実性よりも大きくなり得る。変位領域は、エピポーラ線又は複数のエピポーラ線に対して直交方向に延びる範囲を含むことができる。評価装置は、選択された反射特徴を変位領域内の少なくとも1つの照射特徴とマッチングさせるように適合されてよい。評価装置は、決定された縦方向座標zDPRを考慮する少なくとも1つの評価アルゴリズムを使用することによって、第1画像の選択された特徴と変位領域内の照射特徴とをマッチングさせるように適合されてよい。評価アルゴリズムは線形スケーリングアルゴリズムであり得る。評価装置は、変位領域に最も近い及び/又は変位領域内のエピポーラ線を決定するように適合されてよい。評価装置は、反射特徴の画像位置に最も近いエピポーラ線を決定するように適合されてよい。エピポーラ線に沿った変位領域の範囲は、エピポーラ線に直交する変位領域の範囲より大きくてよい。評価装置は、対応する照射特徴を決定する前にエピポーラ線を決定するように適合されてよい。評価装置は、各反射特徴の画像位置の周りの変位領域を決定してよい。評価装置は、変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てるなどによって、反射特徴の各画像位置の各変位領域にエピポーラ線を割り当てるように適合されてよい。評価装置は、割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿って割り当てられた変位領域内の照射特徴を決定することにより、反射特徴に対応する照射特徴を決定するように適合されてよい。
追加的に又は代替的に、評価装置は以下のステップ:
- 各反射特徴の画像位置の変位領域を決定する、ステップと;
- 変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てるなどによって、各反射特徴の変位領域にエピポーラ線を割り当てる、ステップと;
- 割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿って割り当てられた変位領域内の照射特徴を割り当てるなどによって、各反射特徴に少なくとも1つの照射特徴を割り当てる及び/又は決定するステップと、
を実行するように構成されてよい。
追加的に又は代替的に、評価装置は、照射画像内の反射特徴及び/又はエピポーラ線の距離を比較することによって、及び/又は、照射画像内の照射特徴及び/又はエピポーラ線のε重み付き距離などの誤差重み付き距離を比較し、より短い距離及び/又はε重み付き距離のエピポーラ線及び/又は照射特徴を、照射特徴及び/又は反射特徴に割り当てるなどことによって、反射特徴に割り当てられる複数のエピポーラ線及び/又は照射特徴の間で決定するように適合されてもよい。
上記で説明されたように、回折格子により、複数の反射特徴が、例えば、照射特徴のそれぞれに対して、1つの実特徴と複数の偽特徴が、生成される。マッチングは、最も明るい反射特徴から始めて、反射特徴の明るさを減少させながら実行される。マッチングされた照射特徴に対して他の反射特徴を割り当てることはできない。ディスプレイアーチファクトのため、生成される偽特徴は一般に実特徴より暗い。反射特徴を明るさによって並べ替えることにより、より明るい反射特徴が対応マッチングで優先される。照射特徴の対応関係が既に使用されている場合、偽特徴は、使用されたすなわちマッチングされた照射特徴に、割り当てられることができない。
評価装置は、照射特徴にマッチングする反射特徴を実特徴として分類し、照射特徴マッチングしなかった反射特徴を偽特徴として分類するように構成され得る。本明細書で使用される場合、「分類する」という用語は、反射特徴を少なくとも1つのカテゴリに割り当てることを指し得る。本明細書で使用される場合、「実特徴」という用語は、回折格子のゼロ次数の反射特徴を指し得る。本明細書で使用される場合、「偽特徴」という用語は、回折格子の高次の、すなわち次数≧1の反射特徴を指し得る。回折格子のゼロ次数は、より高次の偽特徴よりも常に明るい。
評価装置は、偽特徴を拒絶し、縦方向座標zDPRを使用することによって、実特徴のための深度マップを生成するように構成されてよい。本明細書で使用される場合、「深度」という用語は、物体と光センサとの間の距離を指し得、縦方向座標によって与えられ得る。本明細書で使用される場合、「深度マップ」という用語は、深度の空間分布を指し得る。ディスプレイ装置は、シーン、例えば顔のシーンから3Dマップを生成するために使用され得る。
構造化光法では、一般的に、カメラと数千点などの細かい点グリッドを備えたプロジェクタを使用する。よく知られているプロジェクタパターンが、シーン上の点パッチの対応関係を見つけるのに使用される。点の対応関係が解れば、三角測量によって距離情報が得られる。カメラがディスプレイの後ろにある場合、回折によって画像が空間的に歪む。そのため、歪んだ画像上の点パターンを見つけることは困難な作業となる。構造化光法と比較して、本発明は、ディスプレイの回折格子に直接影響されない、ビームプロファイルを評価するための光子比からの深度技術を使用することを提案する。歪みはビームプロファイルに影響しない。
深度マップは、三角測量及び/又はデフォーカスからの深度及び/又は構造化光などのさらなる深度測定技術を使用することによってさらに洗練され得る。評価装置は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光法技術を使用して、反射特徴のそれぞれについて少なくとも1つの第2縦方向座標ztriangを決定するように構成され得る。
評価装置は、照射特徴及び反射特徴の変位を決定するように適合され得る。評価装置は、マッチングした照射特徴及び選択された反射特徴の変位を決定するように適合され得る。評価装置、例えば評価装置の少なくとも1つのデータ処理装置は、特に照射画像と第1画像のそれぞれの画像位置を比較することによって、照射特徴及び反射特徴の変位を決定するように構成され得る。本明細書で使用される場合、「変位」という用語は、照射画像内の位置と第1画像内の位置との間の差を指す。評価装置は、第2縦方向座標と変位との間の所定の関係を用いて、マッチングした特徴の第2縦方向情報を決定するように適合され得る。評価装置は、三角測量法を使用することによって所定の関係を決定するように適合され得る。第1画像内の選択された反射特徴の位置と、マッチングした照射特徴の位置、及び/又は、選択された反射特徴とマッチングした照射特徴の相対変位が既知である場合、対応する物体特徴の縦方向座標は、三角測量によって決定され得る。したがって、評価装置は、例えば続いて及び/又は列ごとに、反射特徴を選択するように、及び、照射特徴の各潜在的に可能な位置について三角測量を使用して対応する距離値を決定するように、適合され得る。変位及び対応する距離値は、評価装置の少なくとも1つの記憶装置に保存され得る。評価装置は、一例として、少なくとも1つのプロセッサ、少なくとも1つのDSP、少なくとも1つのFPGA及び/又は少なくとも1つのASICなどの少なくとも1つのデータ処理装置を含むことができる。さらに、第2縦方向座標zと変位との間の少なくとも1つの予め決定された又は決定可能な関係を保存するために、予め決定された関係を記憶するための1つ以上のルックアップテーブルを提供するなど、少なくとも1つのデータ記憶装置が提供され得る。評価装置は、カメラ及び/又はディスプレイ装置の内因性及び/又は外因性の較正のためのパラメータを保存するように適合され得る。評価装置は、例えばツァイカメラ較正を実行するなどによって、カメラ及び/又はディスプレイ装置の内因性及び/又は外因性の較正のためのパラメータを生成するように適合され得る。評価装置は、転送装置の焦点距離、放射レンズの歪み係数、放射レンズの歪みの中心座標、走査とデジタル化のハードウェアタイミングの不完全性に起因する不確実性を説明するためのスケールファクタ、世界座標とカメラ座標間の変換の回転角度、世界座標とカメラ座標間の変換の並進コンポーネント、開口角、イメージセンサ形式、主点、スキュー係数、カメラ中心、カメラ向き、ベースライン、カメラ及び/又は照射源の回転又は並進パラメータ、開口部、焦点距離などの、パラメータを計算及び/又は推定するように適合され得る。
評価装置は、第2縦方向座標ztriangと縦方向座標zDPRの結合縦方向座標を決定するように構成されてよい。結合縦方向座標は、第2縦方向座標ztriangと縦方向座標zDPRの平均値であってよい。結合縦方向座標は、深度マップの生成に使用されることができる。
ディスプレイ装置は、さらなる照射源を備えていてよい。さらなる照射源は、少なくとも1つの発光ダイオード(LED)を含んでいてよい。さらなる照射源は、可視スペクトル範囲の光を生成するように構成されてよい。光センサは、シーンの少なくとも1つの二次元画像を含む少なくとも1つの第2画像を決定するように構成されていてよい。さらなる照射源は、第2画像の画像化のための追加の照射を提供するように構成されてよい。例えば、ディスプレイ装置の構成は、追加のフラッドイルミネーションLEDによって拡張され得る。さらなる照射源は、LEDで、特に、照射パターンなしで、顔などのシーンを照射してよく、光センサは、二次元画像をキャプチャするように構成されてよい。二次元画像は、顔検出及び検証アルゴリズムに使用されてよい。ディスプレイのインパルス応答が既知である場合、光センサによってキャプチャされた歪んだ画像は修復されることができる。評価装置は、格子関数gで第2画像Iをデコンボリューションすることによって、少なくとも1つの補正画像Iを決定するように構成され得る(ここで、I=I g)。格子関数は、インパルス応答とも呼ばれる。歪みのない画像は、デコンボリューションアプローチ、例えばVan-Cittert又はWienerデコンボリューションによって復元され得る。ディスプレイ装置は、格子関数gを決定するように構成され得る。例えば、ディスプレイ装置は、小さな単一の明るい点を含む照射パターンで黒いシーンを照射するように構成されることができる。キャプチャされる画像は、格子関数であり得る。この手順は、較正中などに1回だけ実行され得る。ディスプレイを介した画像化であっても補正画像を決定するために、ディスプレイ装置は、画像をキャプチャするように構成され、キャプチャされたインパルス応答gでデコンボリューションアプローチを使用することができる。結果として得られる画像は、ディスプレイのアーチファクトが少ない再構成画像であり得、顔認識などのいくつかのアプリケーションに使用されることができる。
評価装置は、反射特徴の少なくとも1つのビームプロファイル、好ましくは複数の反射特徴のビームプロファイルを評価することによって、物体の少なくとも1つの材料特性mを決定するように構成され得る。ビームプロファイルを評価することによって少なくとも1つの材料特性を決定することの詳細に関しては、WO2020/187719が参照され、その内容は参照により含まれる。
本明細書で使用される場合、「材料特性」という用語は、材料の特徴付け及び/又は識別及び/又は分類のために構成された、材料の少なくとも1つの任意の特性を指す。例えば、材料特性は、粗さ、材料への光の透過深度、生物学的材料又は非生物学的材料として材料を特徴付ける特性、反射率、鏡面反射率、拡散反射率、表面特性、透光性の尺度、散乱、具体的には、後方散乱挙動などからなる群から選択される特性であってよい。少なくとも1つの材料特性は、散乱係数、透光性、透明性、ランバート表面反射からの偏差、スペックルなどからなる群から選択される特性であってもよい。本明細書で使用される場合、「少なくとも1つの材料特性を識別する」という用語は、材料特性を決定すること、物体に材料特性を割り当てることの1つ以上を指す。評価装置は、予め定義された及び/又は予め決定された材料特性のルックアップリスト及び/又はルックアップテーブルなどのリスト及び/又はテーブルを含む少なくとも1つのデータベースを含んでよい。材料特性のリスト及び/又はテーブルは、本発明によるディスプレイ装置を使用して少なくとも1つの試験測定を行うことにより、例えば既知の材料特性を有するサンプルを使用して材料試験を行うことにより、決定及び/又は生成されることができる。材料特性のリスト及び/又はテーブルは、製造業者サイトで、及び/又はディスプレイ装置のユーザによって、決定及び/又は生成されることができる。材料特性は、例えば、材料名、生物学的材料又は非生物学的材料などの材料グループ、透光性材料又は非透光性材料、金属又は非金属、皮膚又は非皮膚、毛皮又は非毛皮、カーペット又は非カーペット、反射性又は非反射性、鏡面反射性又は非鏡面反射性、泡又は非泡、毛髪又は非毛髪、粗さグループなどの1つ以上などの材料分類にさらに割り当てられてよい。評価装置は、材料特性及び関連する材料名及び/又は材料グループを含むリスト及び/又はテーブルを含む少なくとも1つのデータベースを含んでよい。
例えば、この理論に拘束されることを望まないが、人間の皮膚は、表面反射と呼ばれる表面の後方反射によって生成される部分と、後方反射の拡散部分と呼ばれる皮膚を透過する光からの非常に拡散した反射によって生成される部分とを含む、後方散乱プロファイルとも呼ばれる反射ビームプロファイルを有し得る。人間の皮膚の反射プロファイルに関しては、「Lasertechnikinder Medizin:Grundlagen、Systeme、Anwendungen」、「WirkungvonLaserstrahlung auf Gewebe」1991年,10171~266頁,Juergen Eichler,Theo Seiler,Springer Verlag,ISBN 0939-0979を参照されたい。皮膚の表面反射は、波長が近赤外に向かって増加するのにつれて増加する可能性がある。さらに、透過深度は、波長が可視光から近赤外に増加するとともに増加する可能性がある。後方反射の拡散部分は、光の透過深度の増加とともに増加する可能性がある。これらの特性は、後方散乱プロファイルを分析することによって、皮膚を他の材料から区別するために使用されることができる。
具体的には、評価装置は、反射ビームプロファイルとも呼ばれる反射特徴のビームプロファイルを、少なくとも1つの予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルと比較するように構成されてよい。予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルは、テーブル又はルックアップテーブルに記憶されてよく、例えば経験的に決定されてもよく、及び一例として、ディスプレイ装置の少なくとも1つのデータ記憶装置に記憶されてもよい。例えば、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルは、ディスプレイ装置を備えるモバイル装置の初期起動時に決定されてよい。例えば、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルは、例えばソフトウェアによって、具体的にはアプリストア等からダウンロードされたアプリによってなど、モバイル装置の少なくとも1つのデータ記憶装置に記憶されてよい。反射特徴は、反射ビームプロファイルと、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルとが同一である場合に、生体組織によって生成されたものとして示され得る。比較は、反射ビームプロファイルと、予め決定された又は予め定義されたビームプロファイルとを、それらの強度中心がマッチングするように重ね合わせることを含むことができる。比較は、反射ビームプロファイルと、予め決定された及び/又は予め記録された及び/又は予め定義されたビームプロファイルとの間の偏差、例えば、点間距離の二乗和を決定することを含んでよい。評価装置は、決定された偏差を少なくとも1つの閾値と比較するように構成されてよく、決定された偏差が閾値より低く及び/又は閾値に等しい場合、表面は生体組織として示され、及び/又は生体組織の検出が確認される。閾値は、テーブル又はルックアップテーブルに記憶されてよく、例えば経験的に決定されてもよく、及び一例として、ディスプレイ装置の少なくとも1つのデータ記憶装置に記憶されてもよい。
追加的に又は代替的に、反射特徴が生体組織によって生成されたかどうかを識別するために、評価装置は、エリアの画像に少なくとも1つの画像フィルタを適用するように構成されてよい。本明細書でさらに使用される場合、「画像」という用語は、二次元関数f(x,y)を指し、ここで、明るさ及び/又は色の値は、画像内の任意のx,y位置に対して与えられる。位置は、記録ピクセルに対応して離散化されてよい。明るさ及び/又は色は、光センサのビット深度に対応して離散化されてよい。本明細書で使用される場合、「画像フィルタ」という用語は、ビームプロファイル及び/又はビームプロファイルの少なくとも1つの特定領域に適用される少なくとも1つの数学演算を指す。具体的には、画像フィルタФは、画像f又は画像内の関心領域を、実数Ф(f(x,y))=φにマッピングし、ここでφは特徴、特に材料特徴を示している。画像はノイズの影響を受ける可能性があり、特徴についても同様である。したがって、特徴はランダム変数であってよい。特徴は正規分布に従ってもよい。特徴が正規分布に従っていない場合は、ボックスコックス変換(Box-Cox-Transformation)などによって正規分布に従うように変換されてもよい。
評価装置は、少なくとも1つの材料依存画像フィルタФを画像に適用することによって、少なくとも1つの材料特徴φ2mを決定するように構成されてよい。本明細書で使用される場合、「材料依存」画像フィルタはという用語は、材料依存の出力を有する画像を指す。材料依存画像フィルタの出力は、本明細書では「材料特徴φ2m」又は「材料依存特徴φ2m」と示される。材料特徴は、反射特徴を生成したエリアの表面の少なくとも1つの材料特性に関する少なくとも1つの情報であってもよく、又はそれを含んでいてもよい。
材料依存画像フィルタは、輝度フィルタ;スポット形状フィルタ;二乗ノルム勾配;標準偏差;ガウスフィルタ又はメディアンフィルタなどの平滑性フィルタ;グレーレベル発生ベースのコントラストフィルタ;グレーレベル発生ベースのエネルギーフィルタ;グレーレベル発生ベースの均一性フィルタ;グレーレベル発生ベースの非類似性フィルタ;ローのエネルギーフィルタ;閾値領域フィルタ;もしくはこれらの線形結合;又は、輝度フィルタ、スポット形状フィルタ、二乗ノルム勾配、標準偏差、平滑性フィルタ、グレーレベル発生ベースのエネルギーフィルタ、グレーレベル発生ベースの均一性フィルタ、グレーレベル発生ベースの非類似性フィルタ、ローのエネルギーフィルタ、もしくは閾値領域フィルタ、又は|ρФ2other,Фm|≧0.40によるこれらの線形結合(Фは、輝度フィルタ、スポット形状フィルタ、二乗ノルム勾配、標準偏差、平滑性フィルタ、グレーレベル発生ベースのエネルギーフィルタ、グレーレベル発生ベースの均一性フィルタ、グレーレベル発生ベースの非類似性フィルタ、ローのエネルギーフィルタ、もしくは閾値領域フィルタ、又はそれらの線形結合の1つである)の1つ以上に相関するさらなる材料依存画像フィルタФ2other、からなる群から選択される少なくとも1つのフィルタであってよい。さらなる材料依存画像フィルタФ2otherは、材料依存画像フィルタФの1つ以上と、|ρФ2other,Фm|≧0.60、好ましくは|ρФ2other,Фm|≧0.80によって相関していてもよい。
材料依存画像フィルタは、仮説検証を通過する少なくとも1つの任意のフィルタΦであり得る。本明細書で使用される場合、「仮説検証を通過する」という用語は、ヌル仮説Hが棄却され、代替仮説Hが受け入れられるという事実を指す。仮説検証は、予め定義されたデータセットに画像フィルタを適用することによって、画像フィルタの材料依存性を検証することを含んでいてよい。データセットは、複数のビームプロファイル画像を含んでいてよい。本明細書で使用される場合、「ビームプロファイル画像」という用語は、Nガウス放射状基底関数の合計を指し、
Figure 2023552974000005
式中、Nガウス放射状基底関数のそれぞれは、中心(xlk,ylk),、前因子alk、及び、指数因子
Figure 2023552974000006
によって、定義される。指数因子は、全ての画像の全てのガウス関数で同一である。中心位置、xlk,ylkは、全ての画像
Figure 2023552974000007
で同一である。データセット内のビームプロファイル画像のそれぞれは、材料分類と距離に対応していてよい。材料分類は、「材料A」、「材料B」などのラベルであってよい。ビームプロファイル画像は、f(x,y)に関する上記の式を、以下のパラメータテーブルと組み合わせて使用することによって生成されることができる:
Figure 2023552974000008
x,y,の値は、
Figure 2023552974000009
のピクセルに対応する整数である。画像は、32×32のピクセルサイズを有することができる。ビームプロファイル画像のデータセットは、fの連続的な記述を得るために、パラメータセットと組み合わせて、fに対する上述の式を使用することによって生成され得る。32×32画像の各ピクセルの値は、f(x、y)のx,yに対して、0,...,31からの整数値を挿入することによって得ることができる。例えば、ピクセル(6,9)の場合、値f(6,9)が計算され得る。
続いて、各画像fk,,についてフィルタΦに対応する特徴値φが計算されることができ、Φ(f(x,y),z)=φ、式中zは、予め定義されたデータセットからの画像fに対応する距離値である。これにより、対応する生成された特徴値φを有するデータセットが得られる。仮説検証では、フィルタが材料分類を区別しないヌル仮説を使用してよい。ヌル仮説は、H:μ=μ=・・・=μ,で与えられてよく、ここでμは、特徴値φに対応する各材料群の期待値である。インデックスmは材料群を表す。仮説検証は、フィルタが少なくとも2つの材料分類を区別するということを代替仮説として用いることができる。その代替仮説は
Figure 2023552974000010
によって与えられ得る。本明細書で使用される場合、「材料分類を区別しない」という用語は、材料分類の期待値が同一であることを指す。本明細書で使用される場合、「材料分類を区別する」という用語は、材料分類の少なくとも2つの期待値が異なることを指す。本明細書で使用される場合、「少なくとも2つの材料分類を区別する」は、「適切な材料分類」と同義で使用される。仮説検証は、生成された特徴値に関する少なくとも1つの分散分析(ANOVA)を含み得る。特に、仮説検証は、各j材料についての特徴値の平均値、すなわち
Figure 2023552974000011
に対して、全jの平均値
Figure 2023552974000012
を求めることを含んでもよく、ここでNは、事前に定義されたデータセットにおける各j材料の特徴値の数を示す。仮説検証は、全てのN特徴値の平均値
Figure 2023552974000013
を決定することを含む。仮説検証は、
Figure 2023552974000014
内の平均平方和を決定することを含んでいてよい:
仮説検証は、以下の間の平均平方和を決定することを含んでよい、
Figure 2023552974000015
仮説検証は、F-テストの実行を含んでいてよい:
Figure 2023552974000016
ここで、Iは正則化された不完全ベータ関数
Figure 2023552974000017
であり、ここでオイラーベータ関数
Figure 2023552974000018
は不完全ベータ関数である。画像フィルタは、p値であるpが予め定義された有意水準よりも小さいか等しい場合、仮説検証を通過し得る。フィルタは、p≦0.075、好ましくはp≦0.05、より好ましくはp≦0.025、最も好ましくはp≦0.01である場合、仮説検証を通過し得る。例えば、予め定義された有意水準がα=0.075の場合、画像フィルタはp値がα=0.075より小さい場合に仮説検証を通過することができる。この場合、ヌル仮説Hが拒否され、代替仮説Hが受け入れられることができる。画像フィルタは、このように少なくとも2つの材料分類を区別する。このように、画像フィルタは仮説検証を通過する。
以下では、反射画像が少なくとも1つの反射特徴、特にスポット画像を含むと仮定して、画像フィルタについて説明する。スポット画像fは、関数
Figure 2023552974000019
によって与えられることができ、ここで、画像fの背景は既に差し引かれることができる。しかし、他の反射特徴も可能であり得る。
例えば、材料依存画像フィルタは、輝度フィルタであってよい。輝度フィルタは、スポットの輝度測定値を材料特徴として返すことができる。材料特徴は、
Figure 2023552974000020
によって決定され得、式中、fはスポット画像である。スポットの距離はzで示され、ここで、zは、例えば、デフォーカスからの深度技術又は光子比からの深度技術を用いて、及び/又は三角測量技術を用いて得られる。材料の表面法線は
Figure 2023552974000021
によって与えられ、少なくとも3つの測定点に展張された表面の法線として得られる。ベクトル
Figure 2023552974000022
は、光源の方向ベクトルである。スポットの位置が、デフォーカスからの深度又は光子比からの深度技術を用いることによって及び/又は三角測量技術を用いることによって知られているため(ここで光源の位置はディスプレイ装置のパラメータとして知られている)、drayは、スポットの位置と光源の位置の間の差分ベクトルである。
例えば、材料依存画像フィルタは、スポット形状に依存した出力を有するフィルタであってよい。この材料依存画像フィルタは、材料の透光性に相関する値を材料特徴として返すことができる。材料の透光性は、スポットの形状に影響を与える。材料特徴は、
Figure 2023552974000023
によって与えられ、式中、0<α,β<1はスポットの高さhに対する重みであり、HはHeavyside関数、すなわちH(x)=1:x≧0,H(x)=0:x<0である。スポット高さhは、以下によって決定され得、
Figure 2023552974000024

式中、Bは半径rを有するスポットの内円である。
例えば、材料依存画像フィルタは、二乗ノルム勾配であってよい。この材料依存画像フィルタは、材料特徴としてのスポットのソフトとハードの遷移及び/又は粗さの測定値に相関する値を返してよい。材料特徴は、
Figure 2023552974000025
によって、定義されてよい。例えば、材料依存画像フィルタは、標準偏差であってもよい。スポットの標準偏差は、
Figure 2023552974000026
によって、決定されてよい。
式中、μは
Figure 2023552974000027
によって与えられる平均値である。
例えば、材料依存画像フィルタは、ガウスフィルタ又はメディアンフィルタなどの平滑性フィルタであってよい。平滑性フィルタの一実施形態では、この画像フィルタは、体積散乱が拡散散乱材料と比較して少ないスペックルコントラストを示すという観察を参照することができる。この画像フィルタは、材料特徴としてスペックルコントラストに対応するスポットの平滑性を定量化することができる。材料特徴は、
Figure 2023552974000028
によって、決定されてよく、式中、Fは平滑化関数であり、例えばメディアンフィルタ又はやガウスフィルタなどである。この画像フィルタは、上述の式で説明したように、距離zによる除算を含んでよい。距離zは、例えば、デフォーカスからの深度技術又は光子比からの深度技術を用いて、及び/又は、三角測量技術を用いて決定されてよい。これにより、フィルタが距離の影響を受けなくなることが可能である。平滑化フィルタの一実施形態では、平滑化フィルタは、抽出されたスペックルノイズパターンの標準偏差に基づいてよい。スペックルノイズパターンNは、
Figure 2023552974000029
によって、経験的な方法で記述されることができ、式中、fは、スペックル除去したスポットの画像である。N(X)は、スペックルパターンをモデル化したノイズ項である。スペックル除去した画像の計算は困難な場合がある。したがって、スペックル除去した画像は、fの平滑化バージョン、すなわち、
Figure 2023552974000030
によって近似化されてよく、式中、Fは、ガウスフィルタ又はやメディアンフィルタのような平滑化演算子である。したがって、スペックルパターンの近似は、
Figure 2023552974000031
によって、与えられてよい。
このフィルタの材料特徴は、
Figure 2023552974000032
によって、決定されてよい。
式中、Varは分散関数を表す。
例えば、画像フィルタは、グレーレベル発生ベースのコントラストフィルタであってよい。この材料フィルタは、グレーレベル発生マトリックス
Figure 2023552974000033
に基づいてよく、ここでpg1,g2はグレー結合(g1,g2)=[f(x1,y1),f(x2,y2)]、]の発生率であり、関係ρは、ρ(x,y)=(x+a,y+b)であって、(x,y)と(x,y)の間の距離を定義し、aとbは0,1から選択される。
グレーレベル発生ベースのコントラストフィルタの材料特徴は、
Figure 2023552974000034
によって与えられてよい。
例えば、画像フィルタは、グレーレベル発生ベースのエネルギーフィルタであってよい。この材料フィルタは、上記で定義されたグレーレベル発生マトリックスに基づいている。
グレーレベル発生ベースのエネルギーフィルタの材料特徴は、
Figure 2023552974000035
によって与えられてよい。
例えば、画像フィルタは、グレーレベル発生ベースの均一性フィルタであってよい。この材料フィルタは、上記で定義されたグレーレベル発生マトリックスに基づいている。グレーレベル発生ベースの均一性フィルタの材料特徴は、
Figure 2023552974000036
によって与えられてよい。
例えば、画像フィルタは、グレーレベル発生ベースの非類似性フィルタであってよい。この材料フィルタは、上記で定義されたグレーレベル発生マトリックスに基づいている。グレーレベル発生ベースの非類似性フィルタの材料特徴は、
Figure 2023552974000037
によって与えられてよい。
例えば、画像フィルタは、ローエネルギーフィルタであってよい。この材料フィルタは、ローベクトルL=[1,4,6,4,1]及びE=[-1,-2,0,-2,-1]及び材料L(E及びE(Lに基づいている。画像fはこれらのマトリックス:
Figure 2023552974000038
で畳み込まれている。
ここで、ローのエネルギーフィルタの材料特徴は、
Figure 2023552974000039
によって、決定されてよい。
例えば、材料依存の画像フィルタは、閾値領域フィルタであってよい。この材料特徴は、画像平面内の2つのエリアを関連してよい。第1エリアΩ1、は、関数fがfの最大値のα倍よりも大きいエリアであってもよい。第2エリアΩ2、は、関数fがfの最大値のα倍よりも小さいが、fの最大値のε倍の閾値よりも大きいエリアであってよい。好ましくは、αは0.5、εは0.05であり得る。スペックル又はノイズのために、エリアはスポット中心の内円と外円に単純に対応していない場合がある。例えば、Ω1は、外円のスペックル又は接続されていないエリアを含み得る。材料特徴は、
Figure 2023552974000040
によって、決定されてよく、式中、Ω1={x|f(x)>α・max(f(x))}及びΩ2={x|ε・max(f(x))<f(x)<α・max(f(x))}である。
評価装置は、反射特徴を生成した表面の材料特性を決定するために、材料特徴φ2mと反射特徴を生成した表面の材料特性との間の少なくとも1つの予め決定された関係を用いるように構成されていてよい。予め決定された関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの、予め決定された関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
評価装置は、その対応する材料特性が少なくとも1つの予め決定された又は予め定義された基準を満たす場合に、生体組織を照射することによって生成されたものとして反射特徴を識別するように構成されている。反射特徴は、材料特性が「生体組織」を示す場合に、生体組織によって生成されたものとして識別されることができる。反射特徴は、材料特性が少なくとも1つの閾値もしくは範囲より低く又は等しい場合に、生体組織によって生成されたものとして識別されてよく、決定された偏差が閾値より低く又は等しい場合は、反射特徴は、生体組織によって生成されたものと識別され、及び/又は生体組織の検出が確認される。少なくとも1つの閾値及び/又は範囲は、テーブル又はルックアップテーブルに格納され得、例えば経験的に決定され得、一例として、ディスプレイ装置の少なくとも1つのデータ記憶装置に格納されてよい。評価装置は、そうでなければ背景であるとして反射特徴を識別するように構成される。したがって、評価装置は、深度情報及び材料特性(例えば皮膚のイエス又はノー)を各投影スポットに割り当てるように構成され得る。
材料特性は、縦方向座標zに関する情報がφ2mの評価のために考慮され得るように、縦方向座標zを決定した後に、φ2mを評価することによって決定されることができる。
さらなる態様では、本発明は、透光性ディスプレイを通して測定するための方法を開示し、ここでは本発明によるディスプレイ装置が使用される。本方法は、以下のステップ:
a)少なくとも1つの照射源によって生成された少なくとも1つの照射光ビームを使用することによって、少なくとも1つのシーンを照射するステップであって、前記照射源は、ディスプレイの前方に照射ビームの伝播方向に配置される、ステップと;
b)少なくとも1つの光センサを使用することによって、前記照射ビームによる照射に応答して前記シーンによって生成される少なくとも1つの反射光ビームを測定するステップであって、前記光センサは少なくとも1つの感光エリアを有し、前記光センサは前記ディスプレイの前方に照射ビームの伝播方向に配置される、ステップと;
c)少なくとも1つの制御ユニットを使用することによって、前記ディスプレイを制御するステップであって、前記ディスプレイは照射中に照射源のエリアで、及び/又は測定中に光センサのエリアで、オフされる、ステップと、
を含む。
方法ステップは、所定の順序で実行されてもよいし、異なる順序で実行されてもよい。さらに、列挙されていない1つ以上の追加の方法ステップが存在してもよい。さらに、方法ステップの1つ、1つより多く、又は、全てさえも、繰り返し実行されてよい。詳細、選択肢、及び定義については、上述したディスプレイ装置を参照することができる。したがって、具体的には、上記で説明されたように、本方法は、上記で与えられ又は以下でさらに詳細に与えられる1つ以上の実施形態によるなどの、本発明によるディスプレイ装置の使用を含むことができる。
少なくとも1つの制御ユニット及び/又は少なくとも1つの評価装置は、例えば本発明による方法の方法ステップの1つ以上又は全てさえも実行又はサポートするように構成された少なくとも1つのコンピュータプログラムなどの、少なくとも1つのコンピュータプログラムを実行するように構成され得る。一例として、物体の位置を決定することができる1つ以上のアルゴリズムが、実装され得る。
本発明のさらなる態様においては、上記で与えられた又は以下でさらに詳細に与えられる1つ以上の実施形態などによる、本発明によるディスプレイ装置の使用が、交通技術における位置測定;娯楽用途;セキュリティ用途;監視用途;安全用途;ヒューマンマシンインターフェイス用途;追跡用途;写真用途;画像化用途又はカメラ用途;少なくとも1つの空間のマップを生成するためのマッピング用途;車両用のホーミング又は追跡ビーコン検出器;屋外用途;モバイル用途;通信用途;マシンビジョン用途;ロボット用途;品質管理用途;製造用途;自動車用途、からなる群から選択される使用目的のために、提案される。
例えば、ディスプレイ装置は、運転者の監視、パーソナライズされた車両などのされた車両用途に使用されることができる。
本発明のディスプレイ装置及び装置のさらなる使用に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1が参照され、その内容は参照によって含まれる。
全体として、本発明の文脈において、以下の実施形態が好ましいと考えられる:
実施形態1:
- 少なくとも1つの照射ビームを、少なくとも1つのシーンに投影するように構成された少なくとも1つの照射源と;
- 少なくとも1つの感光エリアを有する少なくとも1つの光センサであって、前記光センサは、照射ビームによる照射に応答して前記シーンによって生成される少なくとも1つの反射光ビームを測定するように構成される、少なくとも1つの光センサと;
- 情報を表示するように構成された少なくとも1つの透光性ディスプレイであって、前記照射源及び前記光センサは、ディスプレイの前方に照射光ビームの伝播方向に配置される、少なくとも1つの透光性ディスプレイと;
- 少なくとも1つの制御ユニットであって、前記制御ユニットは、照射中に前記照射源のエリアで、及び/又は測定中に前記光センサのエリアで、前記ディスプレイをオフにするように構成されている、少なくとも1つの制御ユニットと、
を備えるディスプレイ装置。
実施形態2:前記透光性ディスプレイは、前記ディスプレイのフルサイズにわたって延びるディスプレイ材料を有するフルサイズディスプレイである、先行する実施形態に記載のディスプレイ装置。
実施形態3:前記ディスプレイは、前記制御ユニットが照射中に前記照射源のエリアで、及び/又は測定中に前記光センサのエリアで、前記ディスプレイをオフにしたときに、前記照射源のエリア及び/又は前記は光センサのエリアに、黒色エリアを示すように構成されている、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態4:前記制御ユニットは、前記照射源のエリアの前記ディスプレイが調整可能なノッチとして機能するように、前記照射源のエリアの前記ディスプレイをオフにするため、及び/又は、前記光センサのエリアの前記ディスプレイが調整可能なノッチとして機能するように、前記光センサのエリアの前記ディスプレイをオフにするために構成され、前記調整可能なノッチは、照射及び/又は測定中にアクティブになり、それ以外は非アクティブになるように構成されている、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態5:前記ディスプレイ装置は、前記光センサを用いて顔認識を行うように構成され、前記制御ユニットは、顔認識の実行中に、顔認識がアクティブであることを示す表示を発するように構成され、前記透光性ディスプレイは、顔認識の実行中に、前記表示を表示するように構成されている、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態6:前記光センサは、少なくとも1つのCMOSセンサを含む、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態7:前記照射源は、少なくとも1つの赤外光源を含む、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態8:前記照射源は、少なくとも1つのレーザプロジェクタを備え、前記レーザプロジェクタは、少なくとも1つのレーザ光源と少なくとも1つの回折光学要素(DOE)とを備える、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態9:前記照射源は、少なくとも1つの照射パターンを生成するように構成され、前記照射パターンは、周期的な点パターンを含む、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態10:前記照射源は、少なくとも1つのフラッドイルミネーション発光ダイオードを含む、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態11:前記ディスプレイ、前記照射源及び前記光センサが、同期される、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態12:前記ディスプレイは、少なくとも1つの有機発光ダイオード(OLED)ディスプレイであるか、又はそれを備え、前記制御ユニットが前記照射源のエリアで前記ディスプレイをオフにしたときは、前記OLEDディスプレイは照射源のエリアで非アクティブであり、及び/又は、前記制御ユニットが前記光センサのエリアで前記ディスプレイをオフにしたときは、前記OLEDディスプレイは前記光センサのエリアで非アクティブである、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態13:前記照射源は、前記少なくとも1つのシーン上に、複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成され、前記光センサは、前記照射特徴による照射に応答して、前記シーンによって生成される複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成され、前記ディスプレイ装置は、少なくとも1つの評価装置をさらに備え、前記評価装置は、前記第1画像を評価するように構成され、前記第1画像の評価は、前記第1画像の反射特徴を識別することと、前記識別された反射特徴を明るさに関して並べ替えることと、を含み、前記反射特徴の各々は、少なくとも1つのビームプロファイルを含み、前記評価装置は、ビームプロファイルの分析により、反射特徴の各々について少なくとも1つの縦方向座標zDPRを決定するように構成され、前記評価装置は、前記縦方向座標zDPRを用いて、反射特徴と、対応する照射特徴とを明確にマッチングするように構成され、前記マッチングは、最も明るい反射特徴から始めて、反射特徴の明るさを減少させながら行われ、前記評価装置は、照射特徴とマッチングした反射特徴を実特徴として分類し、照射特徴とマッチングしなかった反射特徴を偽特徴として分類するように構成され、前記評価装置は、前記偽特徴を拒絶し、前記縦方向座標zDPRを使用することによって、前記実特徴の深度マップを生成するように構成される、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態14:前記評価装置は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光法技術を使用して、反射特徴のそれぞれについて、少なくとも1つの第2縦方向座標ztriangを決定するように構成される、先行する実施形態に記載のディスプレイ装置。
実施形態15:前記評価装置は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの結合縦方向座標を決定するように構成され、前記結合縦方向座標は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの平均値であり、前記結合縦方向座標は、深度マップの生成に使用される、先行する実施形態に記載のディスプレイ装置。
実施形態16:前記評価装置は、光子比からの深度技術を使用することによって、前記反射特徴のそれぞれについてビームプロファイル情報を決定するように構成される、先行する3つの実施形態のいずれか1つに記載のディスプレイ装置。
実施形態17:前記評価装置は、前記反射特徴の少なくとも1つの前記ビームプロファイルを評価することによって、物体の少なくとも1つの材料特性mを決定するように構成される、先行する4つの実施形態のいずれか1つに記載のディスプレイ装置。
実施形態18:前記ディスプレイ装置は、さらなる照射源を備え、前記さらなる照射源は、少なくとも1つの発光ダイオード(LED)を含み、前記さらなる照射源は、可視スペクトル範囲の光を生成するように構成され、前記光センサは、前記シーンの少なくとも1つの二次元画像を含む少なくとも1つの第2画像を決定するように構成され、前記さらなる照射源は、前記第2画像の画像化のために追加の照射を提供するように構成され、前記評価装置は、格子関数gで第2画像Iをデコンボリューションすることによって、少なくとも1つの補正画像Iを決定するように構成され、ここで、I=I gである、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態19:前記ディスプレイ装置は、テレビ装置、携帯電話、スマートフォン、ゲームコンソール、タブレットコンピュータ、パーソナルコンピュータ、ラップトップ、タブレット、仮想現実装置、又は別のタイプのポータブルコンピュータからなる群から選択されるモバイル装置である、先行する実施形態のいずれか1つに記載のディスプレイ装置。
実施形態20:先行する実施形態のいずれか1つに記載の少なくとも1つのディスプレイ装置が使用される、透光性ディスプレイを通して測定するための方法であって、前記方法は以下のステップ:
a)少なくとも1つの照射源によって生成された少なくとも1つの照射光ビームを使用することによって、少なくとも1つのシーンを照射するステップであって、前記照射源は、ディスプレイの前方に照射ビームの伝播方向に配置される、ステップと;
b)少なくとも1つの光センサを使用することによって、照射ビームによる照射に応答して前記シーンによって生成される少なくとも1つの反射光ビームを測定するステップであって、前記光センサは少なくとも1つの感光エリアを有し、前記光センサは前記ディスプレイの前方に照射ビームの伝播方向に配置される、ステップと;
c)少なくとも1つの制御ユニットを使用することによって、前記ディスプレイを制御するステップであって、前記ディスプレイは、照射中に照射源のエリアで、及び/又は測定中に光センサのエリアで、オフされる、ステップと、
を含む、透光性ディスプレイを通して測定するための方法。
実施形態21:ディスプレイ装置に関する先行する実施形態のいずれか1つに記載のディスプレイ装置の使用であって、使用目的が、交通技術における位置測定;娯楽用途;セキュリティ用途;監視用途;安全用途;ヒューマンマシンインターフェイス用途;追跡用途;写真用途;画像化用途又はカメラ用途;少なくとも1つの空間のマップを生成するためのマッピング用途;車両用のホーミング又は追跡ビーコン検出器;屋外用途;モバイル用途;通信用途;マシンビジョン用途;ロボット用途;品質管理用途;製造用途;自動車用途、からなる群から選択される、使用。
本発明のさらなる任意選択の詳細及び特徴は、従属請求項と関連して続く好ましい例示的な実施形態の説明から明らかである。この文脈において、特定の特徴は、孤立した形で、又は他の特徴と組み合わせて実施され得る。本発明は、例示的な実施形態に限定されるものではない。例示的な実施形態は、図に概略的に示されている。個々の図における同一の参照数字は、同一の要素又は同一の機能を有する要素、あるいは、機能に関して互いに対応する要素を指す。
具体的に、図面では:
本発明によるディスプレイ装置の一実施形態を示す。 図2A~2Cは、ディスプレイ、照射源及び光センサを同期させる実施形態を示す。
実施形態の詳細な説明:
図1は、本発明のディスプレイ装置1の一実施形態を非常に概略的に示す。例えば、ディスプレイ装置は、テレビ装置、携帯電話、スマートフォン、ゲームコンソール、タブレットコンピュータ、パーソナルコンピュータ、ラップトップ、タブレット、仮想現実装置、又は別のタイプのポータブルコンピュータからなる群から選択されるモバイル装置であってよい。
ディスプレイ装置1は、情報を表示するように構成された少なくとも1つの透光性ディスプレイ2を備える。ディスプレイ装置1は、少なくとも1つの感光エリアを有する少なくとも1つの光センサ4を備える。ディスプレイ装置1は、少なくとも1つのシーンに少なくとも1つの照射ビームを投影するように構成された少なくとも1つの照射源5を備えている。シーンは、任意の物体又は空間領域であってよい。シーンは、少なくとも1つの物体及びその周囲の環境を含み得る。
照射源5は、照射ビーム、特に複数の照射特徴を含む少なくとも1つの照射パターンをシーン上に投影するように構成される。照射源5は、シーンを直接的又は間接的に照射するように適合されてよく、照射ビームは、シーンの表面によって反射又は散乱され、それによって、少なくとも部分的に光センサに向けられる。照射源5は、例えば、光ビームをシーンに向けることによって、光ビームを反射するシーンを照射するように適合されてよい。
照射源5は、少なくとも1つの光源を含んでよい。照射源5は、複数の光源を含んでいてもよい。照射源5は、人工照射源、特に少なくとも1つのレーザ源、及び/又は少なくとも1つの白熱灯、及び/又は少なくとも1つの半導体光源、例えば少なくとも1つの発光ダイオード、特に有機及び/又は無機発光ダイオードを含み得る。照射源5は、少なくとも1つの赤外光源を備え得る。照射源5は、赤外領域において、少なくとも1つの照射光ビーム、特に少なくとも1つの照射パターンを生成するように構成されていてよい。近赤外領域の光を使用することは、光が人間の目では検出されないか、又はわずかにしか検出されないが、シリコンセンサ、特に標準的なシリコンセンサによって検出されることを可能にする。
照射源5は、少なくとも1つのレーザプロジェクタを備え得る。レーザプロジェクタは、屈折光学系と組み合わされた垂直共振器面発光レーザ(VCSEL)プロジェクタであってよい。しかしながら、他の実施形態も可能である。レーザプロジェクタは、少なくとも1つのレーザ源と、少なくとも1つの回折光学要素(DOE)とを備えることができる。照射源5は、少なくとも1つの多重ビーム光源(multiple beam light source)であってもよく、又は、多重ビーム光源を含んでいてもよい。例えば、照射源5は、少なくとも1つのレーザ源と、1つ以上の回折光学要素(DOE)とを含んでいてよい。具体的には、照射源5は、少なくとも1つのレーザ及び/又はレーザ源を備えていてよい。様々なタイプのレーザ、例えば、半導体レーザ、ダブルヘテロ構造レーザ、外部キャビティレーザ、分離封じ込めヘテロ構造レーザ、量子カスケードレーザ、分散ブラッグ(bragg)反射器レーザ、ポラリトンレーザ、ハイブリッドシリコンレーザ、拡張キャビティダイオードレーザ、量子ドットレーザ、ボリュームブラッググレーティングレーザ、インジウムヒ素レーザ、トランジスタレーザ、ダイオード励起レーザ、分散フィードバックレーザ、量子ウェルレーザ、バンド間カスケードレーザ、ガリウムヒ素レーザ、半導体リングレーザ、拡張キャビティダイオードレーザ、又は垂直キャビティ面発光レーザなど、が使用されてよい。追加的に又は代替的に、LED及び/又は電球などの非レーザ光源が使用されてよい。照射源5は、照射パターンを生成するように適合された1つ以上の回折光学要素(DOE)を含んでよい。例えば、照射源5は、点群を生成及び/又は投影するように適合されてよく、例えば、照射源5は、少なくとも1つのデジタル光処理プロジェクタ、少なくとも1つのLCoSプロジェクタ、少なくとも1つの空間光変調器;少なくとも1つの回折光学要素;発光ダイオードの少なくとも1つのアレイ;レーザ光源の少なくとも1つのアレイ、のうちの1つ以上を含み得る。それらの一般的に定義されるビームプロファイル及び取扱い性の他の特性を考慮すると、照射源5としての少なくとも1つのレーザ源の使用が特に好ましい。照射源5は、ディスプレイ装置のハウジングに一体化されてよい。
照射源5は、少なくとも1つの照射パターンを生成するように構成される。照射パターンは、複数の照射特徴を含んでよい。照射パターンは、少なくとも1つの点パターン;少なくとも1つの線パターン;少なくとも1つのストライプパターン;少なくとも1つの市松模様パターン;周期的又は非周期的な特徴の配置を含む少なくとも1つのパターン、からなる群から選択されてよい。照射パターンは、三角形パターン、長方形パターン、六角形パターン、又はさらに凸状のタイル状パターンなどの規則的な及び/又は一定の及び/又は周期的なパターンを含んでよい。照射パターンは、少なくとも1つの点;少なくとも1つの線;平行線又は交差線などの少なくとも2つの線;少なくとも1つの点と1つの線;周期的又は非周期的な特徴の少なくとも1つの配置;少なくとも1つの任意の形状の特徴からなる群から選択される少なくとも1つの照射特徴を示してよい。照射パターンは:少なくとも1つの点パターン、特に擬似ランダム点パターン;ランダム点パターン又は準ランダムパターン;少なくとも1つのソボル(Sobol)パターン;少なくとも1つの準周期的パターン;少なくとも1つの既知の特徴を含む少なくとも1つのパターン;少なくとも1つの規則的なパターン;少なくとも1つの三角形パターン;少なくとも1つの六角形パターン;少なくとも1つの長方形パターン;凸状の均一なタイル状体(tiling)を含む少なくとも1つのパターン;少なくとも1つの線を含む少なくとも1つの線パターン;平行線又は交差線などの少なくとも2つの線を含む少なくとも1つの線パターン、からなる群から選択される少なくとも1つのパターンを含むことができる。例えば、照射源5は、点群を生成及び/又は投影するように適合され得る。照射源5は、照射パターンが複数の点パターンを含むことができるように、点群を生成するように適合された少なくとも1つの光プロジェクタを含み得る。照射源5は、照射源5によって生成された少なくとも1つの光ビームから照射パターンを生成するように適合された少なくとも1つのマスクを含むことができる。
光センサ4は、照射ビームによる照射に応答してシーンによって生成される少なくとも1つの反射光ビームを測定するように構成される。ディスプレイ装置1は、光センサ4を備える単一のカメラを備え得る。ディスプレイ装置1は、それぞれが1つ又は複数の光センサ4を備える複数のカメラを備えてよい。ディスプレイ装置1は、それぞれが感光エリアを有する複数の光センサ4を含んでよい。
ディスプレイ装置1は、飛行時間(ToF)技術に基づく、及び/又は1つのデフォーカスからの深度技術に基づく、及び/又はビームプロファイル解析とも呼ばれる光子比からの深度技術に基づくなどの、少なくとも1つの距離測定を行うように構成され得る。光子比からの深度(DPR)技術に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1を参照し、その全内容は参照により含まれる。光センサ4は、少なくとも1つの距離センサであってよく、又は少なくとも1つの距離センサを備えていてもよい。
光センサ4は、具体的には、少なくとも1つの光検出器、好ましくは無機光検出器、より好ましくは無機半導体光検出器、最も好ましくはシリコン光検出器であってもよく、又はそれを含んでいてもよい。具体的には、光センサ4は、赤外スペクトル範囲において感度を有してよい。マトリックスの全てのピクセル、又はマトリックスの光センサの少なくとも一群は、具体的には同一であってよい。マトリックスの同一のピクセルの一群は、具体的には、異なるスペクトル範囲について提供されてもよく、又は全てのピクセルが、スペクトル感度に関して同一であってもよい。さらに、ピクセルは、サイズ及び/又はそれらの電子的又は光電子的特性に関して同一であってもよい。具体的には、光センサ4は、赤外スペクトル範囲、好ましくは700nm~3.0マイクロメートルの範囲に感度を有する少なくとも1つの無機フォトダイオードであってもよく、又はそれらを含んでいてもよい。具体的には、光センサ4は、シリコンフォトダイオードが適用可能な特に700nm~1100nmの範囲の近赤外領域の部分で感度を有してよい。光センサに使用され得る赤外光センサは、例えば、ドイツ,D-67056 Ludwigshafen am RheinのtrinamiX GmbHのHertzstueck(登録商標)というブランド名で市販されている赤外光センサなど、市販の赤外光センサであってよい。したがって、一例として、光センサ4は、固有の光起電型の少なくとも1つの光センサ、より好ましくは、Geフォトダイオード、InGaAsフォトダイオード、拡張InGaAsフォトダイオード、InAsフォトダイオード、InSbフォトダイオード、HgCdTeフォトダイオード、からなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサ4は、外因性光起電型の少なくとも1つの光センサ、より好ましくは、Ge:Auフォトダイオード、Ge:Hgフォトダイオード、Ge:Cuフォトダイオード、Ge:Znフォトダイオード、Si:Gaフォトダイオード、Si:Asフォトダイオードからなる群から選択される少なくとも1つの半導体フォトダイオードを含み得る。追加的又は代替的に、光センサ4は、PbSもしくはPbSeセンサなどの少なくとも1つの光導電センサ、ボロメータ、好ましくはVOボロメータ及びアモルファスSiボロメータからなる群から選択されるボロメータを含み得る。
例えば、光センサ4は、フォトダイオード、フォトセル、光伝導体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれを含んでいてもよい。例えば、光センサ4は、CCDセンサ要素、CMOSセンサ要素、フォトダイオード、フォトセル、光導電体、フォトトランジスタ又はそれらの任意の組み合わせからなる群から選択される少なくとも1つの要素であってもよく、又はそれを含んでいてもよい。他の任意のタイプの感光性要素を使用してもよい。感光性要素は、一般に、完全に又は部分的に無機材料で作製されることができ、及び/又は、完全に又は部分的に有機材料で作製されることができる。最も一般的には、市販のフォトダイオード、例えば、無機半導体フォトダイオードなどの1つ以上のフォトダイオードが使用され得る。
ディスプレイ装置1は、情報を表示するように構成された少なくとも1つの透光性ディスプレイ2を備える。照射源5及び光センサ4は、透光性ディスプレイ2の前方に照射光ビームの伝播方向に配置される。透光性ディスプレイ2は、少なくとも1つのスクリーンであってよく、又は少なくとも1つのスクリーンを備えていてもよい。スクリーンは、任意の形状を有してよく、好ましくは長方形である。ディスプレイ2によって表示される情報は、少なくとも1つの画像、少なくとも1つの図、少なくとも1つのヒストグラム、少なくとも1つのグラフィック、テキスト、数字、少なくとも1つの記号、操作メニューなどの任意の情報であってよい。
透光性ディスプレイ2は、ディスプレイ2のフルサイズにわたって延びるディスプレイ材料を有するフルサイズディスプレイであってよい。透光性ディスプレイ2は、凹部や切り欠きがなくてよい。透光性ディスプレイ2がアクティブ表示エリア全体を有してよい。透光性ディスプレイ2は表示エリア全体がアクティブ化可能になるように設計されてよい。透光性ディスプレイ2は、ディスプレイ材料の連続的な分布を有していてよい。透光性ディスプレイ2は、凹部や切り欠きがないように設計されていてよい。例えば、ディスプレイ装置1は、透光性ディスプレイ2が配置される長方形表示エリアなどの表示エリアを有する前面側を含むことができる。表示エリアは、透光性ディスプレイ、特にディスプレイ材料によって、具体的には、凹部やノッチがないように、完全に覆われていてよい。これにより、表示サイズ、特に情報を表示するように構成されたディスプレイ装置1の面積を大きくすることを可能にすることができる。例えば、ディスプレイ装置1の全体及び/又は全前面のサイズが表示材料によって覆われてよいが、ディスプレイ2を囲むフレームは可能であり得る。
透光性ディスプレイ2は、少なくとも1つの有機発光ダイオード(OLED)ディスプレイであってよく、又はそれを含んでいてよい。OLEDは、可視光を放出するように構成されていてよい。
ディスプレイ装置は、少なくとも1つの制御ユニット8を備える。制御ユニット8は、照射中に照射源5のエリアで、及び/又は測定中に光センサ4のエリアで、ディスプレイ2をオフにするように構成される。制御ユニット8は、特に少なくとも1つのプロセッサ及び/又は少なくとも1つの特定用途向け集積回路を使用することによって、照射源5及び/又は光センサ2及び/又はディスプレイ2などのディスプレイ装置1の少なくとも1つのさらなるコンポーネントを制御するように構成され得る。したがって、一例として、制御ユニット8は、多数のコンピュータコマンドを含むソフトウェアコードをそこに格納する少なくとも1つのデータ処理装置を備えることができる。制御ユニット8は、指定された操作の1つ以上を実行するための、1つ以上のハードウェア要素を提供してよく、及び/又は、指定された操作の1つ以上を実行するための、そこで実行されるソフトウェアを有する1つ以上のプロセッサを提供してもよい。したがって、一例として、制御ユニット8は、上述の制御を実行するように構成された1つ以上のコンピュータ、特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、又はフィールドプログラマブルゲートアレイ(FPGA)などの1つ以上のプログラム可能な装置を備えることができる。しかしながら追加的に又は代替的に、制御ユニット8はまた、完全に又は部分的にハードウェアによって具体化されてよい。
制御ユニット8は、照射中に照射源5のエリアで、及び/又は測定中に光センサ4のエリアで、ディスプレイをオフにするように構成される。エリアでディスプレイ2をオフにすることは、特にディスプレイ2の特定のエリアへの出力供給を防止及び/又は中断及び/又は停止するように調整することを含み得る。上記で概説したように、ディスプレイ2は、少なくとも1つのOLEDディスプレイを備え得る。制御ユニット8が照射源5のエリアでディスプレイ2をオフにすると、OLEDディスプレイは、照射源5のエリアで非アクティブになり得る。制御ユニット8が光センサ4のエリアでディスプレイ2をオフにしたとき、OLEDディスプレイは光センサ4のエリアで非アクティブであってよい。制御ユニット8は、測定がアクティブである間、ディスプレイ2のエリアをオフにするように構成されてよい。
照射源5は、照射ビーム、特に照射パターンがシーンに向かって放射される放射エリアを備えることができる。放射エリアは、照射源5の開口角によって定義され得る。照射源5及び光センサ4は、定義されたエリアに配置されてよい。照射源5と光センサ4は、互いに対して固定された位置に配置されていてよい。例えば、照射源5と光センサ4は、特に一定の距離を有して、互いに隣接して配置されてよい。照射源5及び光センサ4は、放射エリア及び感光エリアによってカバーされる透光性ディスプレイ2のエリアが最小となるように配置されてよい。
ディスプレイ2は、制御ユニット8が照射中の照射源4のエリアで、及び/又は測定中に光センサ4のエリアで、ディスプレイ2をオフした場合に、照射源5のエリアで、及び/又は光センサ4のエリアで、黒色エリア6を示すように構成されていてよい。黒色エリア6は光を放出していないエリア及び/又は、ディスプレイ2の他のエリアと比較して、光の量が減少しているエリアであってよい。例えば、黒色エリア6は、暗くなったエリアであってよい。具体的には、制御ユニット8は、照射源5のエリアのディスプレイ2が調整可能なノッチとして機能するように、照射源5のエリアのディスプレイ2をオフにするように、及び/又は、光センサ4のエリアのディスプレイ2が調整可能なノッチとして機能するように、光センサ4のエリアのディスプレイ2をオフにするように構成される。調整可能なノッチは、照射及び/又は測定中にアクティブになり、それ以外は非アクティブになるように構成されることができる。調整可能なノッチは、ディスプレイ装置1が使用されていないときに、顔ロック解除中などの測定中に、アクティブになり、光センサ4、特にフロントセンサが必要ないときに、非アクティブになる仮想ノッチとして機能してよい。使用されるOLEDディスプレイの場合、これは、ディスプレイ2の作動が全くないことを意味する場合がある。これにより、IR光によってどのピクセルの色も変化しないことを確実にすることを可能にすることができる。さらに、ディスプレイ装置1、特に制御ユニッ8ト及び/又はさらなる処理装置及び/又はさらなる光学要素は、例えばIRレーザのちらつきを知覚してディスプレイの色を補正するように構成されることができる。
調整可能なノッチは、鋭いエッジを含むことができる。しかし、他の実施形態では、調整可能なノッチは、あらゆる鋭いフリンジを回避するために輝度勾配で実現されることができる。ディスプレイ装置1は、鋭いフリンジを回避するために、光センサ4が通常配置されるディスプレイ2のエッジに輝度勾配を導入するように構成された輝度低減要素を備えることができる。これにより、調整可能なノッチのエリアにおいて低減された輝度を提供することが可能となり得る。
制御ユニット8は、ディスプレイ2と照射源5とが互いに干渉しない方式で、いわゆるトグルモードでこれらを同期させるように構成されることができる。
制御ユニット8は、光センサ4及び/又は前記照射源5がアクティブである場合に、表示を発するように構成されてよい。透光性ディスプレイ2は、光センサ4及び/又は照射源5がアクティブなときに前記表示を表示するように構成されてよい。例えば、ディスプレイ装置1は、照射源5と光センサ4とを用いて顔認識を行うように構成されてよい。顔認識のための方法及び技術は、当業者には一般的に知られている。制御ユニット8は、顔認識の実行中に、顔認識がアクティブであることを示す表示を発するように構成されてよい。透光性ディスプレイ2は、顔認識を実行している間に前記表示を表示するように構成されてよい。例えば、表示は、少なくとも1つの警告要素であってよい。表示は、光センサ4及び/又は照射源5、特に顔認識がアクティブであることを示すアイコン及び/又はロゴ及び/又はシンボル及び/又はアニメーションのうちの1つ以上であってよい。例えば、黒色エリア6は、安全認証がアクティブであることを示す識別マークを含んでよい。これにより、ユーザは、例えば、支払いや署名などのための安全な環境にいることを認識することができる。例えば、警告要素は、顔認証がアクティブであることを示すために、色及び/又は外観を変えることができる。この表示により、ユーザはさらに、スパイ行為を避けるために光センサ、特にカメラがオンになっていることを認識することができる。制御ユニット8及び/又はさらなる安全ゾーンは、黒色エリアに少なくとも1つの透かしを表示するための少なくとも1つのコマンドを発するように構成されてよい。透かしは、低セキュリティアプリ、例えば店舗から模倣されないシンボルであり得る。
しかし、透光性ディスプレイ2の裏側でシーンによって反射された光の伝播方向に照射源5と光センサ4を配置することは、ディスプレイの回折格子が、シーン上に、及び光センサ4によってキャプチャされる画像内にも、複数のレーザポイントを発生させる結果を生じ得る。したがって、画像上のこれらの複数のスポットは、有用な距離情報を含まない可能性がある。ディスプレイ装置1は、回折格子のゼロ次数の反射特徴、すなわち実特徴を発見し評価するように構成された少なくとも1つの評価装置10を備えてよく、高次の反射特徴、すなわち偽特徴を無視することができる。
照射源5は、少なくとも1つのシーン上に複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成されてよい。光センサ4は、照射特徴による照射に応答してシーンによって生成された複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成されてよい。ディスプレイ装置1は、第1画像を評価するように構成された少なくとも1つの評価装置10をさらに備えることができ、そこでは、第1画像の評価は、第1画像の反射特徴を識別することと、識別された反射特徴を明るさに関して並べ替ることと、を含む。反射特徴の各々は、少なくとも1つのビームプロファイルを含むことができる。評価装置10は、ビームプロファイルの分析により、反射特徴の各々に関して少なくとも1つの縦方向座標zDPRを決定するように構成されることができる。評価装置10は、縦方向座標zDPRを用いて、反射特徴と、対応する照射特徴とを明確にマッチングするように構成されることができる。マッチングは、最も明るい反射特徴から始めて、反射特徴の明るさを減少させながら行われることができる。評価装置10は、照射特徴とマッチングした反射特徴を実特徴として分類し、照射特徴とマッチングしなかった反射特徴を偽特徴として分類するように構成され得る。評価装置10は、偽特徴を拒絶し、縦方向座標zDPRを使用することによって、実特徴の深度マップを生成するように構成され得る。
評価装置10は、反射特徴を識別するために、少なくとも1つの画像分析及び/又は画像処理を実行するように構成され得る。画像分析及び/又は画像処理は、少なくとも1つの特徴検出アルゴリズムを使用してよい。画像分析及び/又は画像処理は、以下:フィルタリング;少なくとも1つの関心領域の選択;センサ信号によって生成された画像と少なくとも1つのオフセットとの間の差分画像の形成;センサ信号によって生成された画像を反転することによるセンサ信号の反転;異なる時間にセンサ信号によって生成された画像間の差分画像の形成;背景補正;カラーチャネルへの分解;色相への分解;飽和;輝度チャネル;周波数分解;特異値分解;ブロブ検出器の適用;コーナー検出器の適用;ヘッセフィルタの行列式の適用;主曲率ベースの領域検出器の適用;最大安定極値領域検出器の適用;一般化されたハフ変換の適用;稜線検出器の適用;アフィン不変特徴検出器の適用;アフィン適応の関心点演算子の適用;ハリスアフィン領域検出器の適用;ヘッセアフィン領域検出器の適用;スケール不変特徴変換の適用;スケールスペース極値検出器の適用;局所特徴検出器の適用;高速化堅牢特徴アルゴリズムの適用;勾配位置及び方向のヒストグラムアルゴリズムの適用;方向付けられた勾配記述子のヒストグラムの適用;Dericheエッジ検出器の適用;差動エッジ検出器の適用;時空関心点検出器の適用;モラベックコーナー検出器の適用;キャニーエッジ検出器の適用;ガウスフィルタのラプラス演算子の適用;差分ガウスフィルタの適用;ソーベル(Sobel)演算子の適用;ラプラス演算子の適用;シャール演算子の適用;プレウィット演算子の適用;ロバーツ演算子の適用;キルシュ演算子の適用;ハイパスフィルタの適用;ローパスフィルタの適用;フーリエ変換の適用;ラドン変換の適用;ハフ変換の適用;ウェーブレット変換の適用;閾値処理;バイナリ画像の生成、のうちの1つ以上を含み得る。関心領域は、ユーザが手動で決定されてもよく、又は、光センサによって生成された画像内の特徴を認識するなどによって、自動的に決定されてもよい。
例えば、照射源5は、複数の照射領域が、光センサ4、例えばCMOS検出器上に生成されるように、点群を生成及び/又は投影するように構成されてよい。さらに、例えばスペックル及び/又は外来光及び/又は多重反射によるなどの外乱が、光センサに存在し得る。評価装置10は、少なくとも1つの関心領域、例えば、物体の縦方向座標の決定に使用される、光ビームによって照射される1つ以上のピクセルを、決定するように適合され得る。例えば、評価装置10は、フィルタリング方法、例えば、ブロブ分析及び/又はエッジフィルタ及び/又は物体認識方法を実行するように適合され得る。
評価装置10は、少なくとも1つの画像補正を行うように構成されてよい。画像補正は、少なくとも1つの背景減算を含み得る。評価装置10は、例えば、さらなる照射なしの画像化によって、ビームプロファイルからの背景光から影響を除去するように適合されてよい。
反射特徴の各々は、少なくとも1つのビームプロファイルを含む。ビームプロファイルは、台形ビームプロファイル;三角形ビームプロファイル;円錐ビームプロファイル及びガウシアンビームプロファイルの線形結合からなる群から選択され得る。評価装置10は、ビームプロファイルの分析により、反射特徴の各々に関するビームプロファイルの情報を決定するように構成される。
評価装置10は、ビームプロファイルの分析により、反射特徴の各々に関して少なくとも1つの縦方向座標zDPRを決定するように構成される。例えば、ビームプロファイルの分析は、ヒストグラム分析ステップ、差分測定の計算、ニューラルネットワークの適用、機械学習アルゴリズムの適用のうちの少なくとも1つを含み得る。評価装置10は、特に、より大きな角度での記録、エッジなどの記録からノイズ又は非対称性を除去するために、ビームプロファイルを対称化及び/又は正規化及び/又はフィルタリングするように構成されることができる。評価装置10は、空間周波数分析及び/又は中央値フィルタリングなどによってなど、高い空間周波数を除去することによって、ビームプロファイルをフィルタリングすることができる。集約は、光スポットの強度の中心によって実行され、中心までの同じ距離にある全ての強度を平均化することによって実行され得る。評価装置10は、特に記録された距離による強度差を考慮するように、ビームプロファイルを最大強度に正規化するように構成されてよい。評価装置10は、例えば、照射なしの画像化によって、ビームプロファイルからの背景光から影響を除去するように構成されてよい。
評価装置10は、光子比からの深度技術を使用することによって、反射特徴のそれぞれについて縦方向座標zDPRを決定するように構成されてよい。光子比からの深度(DPR)技術に関しては、WO2018/091649A1、WO2018/091638A1及びWO2018/091640A1を参照し、その全内容は参照により含まれる。
評価装置10は、反射特徴のそれぞれのビームプロファイルを決定するように構成されることができる。ビームプロファイルを決定することは、光センサ4によって提供される少なくとも1つの反射特徴を識別すること、及び/又は光センサ4によって提供される少なくとも1つの反射特徴を選択することと、反射特徴の少なくとも1つの強度分布を評価することとを含んでよい。一例として、画像の領域は、画像を通る軸又は線に沿ってなど、三次元強度分布又は二次元強度分布などの強度分布を決定するために使用され、評価されてよい。一例として、光ビームによる照射の中心は、最高の照射を有する少なくとも1つのピクセルを決定することなどにより決定され得、断面軸が照射の中心を通して選択され得る。強度分布は、照射の中心を通るこの断面軸に沿った座標の関数としての強度分布であり得る。他の評価アルゴリズムも可能である。
反射特徴の1つのビームプロファイルの分析は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定することを含み得る。ビームプロファイルの第1エリアは、エリアA1であり得、ビームプロファイルの第2エリアは、エリアA2であり得る。評価装置10は、第1エリアと第2エリアとを積分するように構成されてよい。評価装置10は、積分された第1エリア及び積分された第2エリアを除算すること、積分された第1エリア及び積分された第2エリアの倍数を除算すること、積分された第1エリア及び積分された第2エリアの線形結合を除算することの1つ以上によって、結合信号、特に商Qを導出するように構成され得る。評価装置10は、ビームプロファイルの少なくとも2つのエリアを決定するように、及び/又はビームプロファイルをビームプロファイルの異なるエリアを有する少なくとも2つのセグメントに分割するように構成されてもよく、エリアが一致しない限り、エリアの重なりは可能である。例えば、評価装置10は、2つ、3つ、4つ、5つ、又は最大10個のエリアなど、複数のエリアを決定するように構成されてよい。評価装置10は、光スポットをビームプロファイルの少なくとも2つのエリアに分割するように、及び/又は、ビームプロファイルをビームプロファイルの異なるエリアを含む少なくとも2つのセグメントに分割するように構成されてよい。評価装置10は、エリアのうちの少なくとも2つについて、それぞれのエリアにわたるビームプロファイルの積分を決定するように構成されてよい。評価装置10は、決定された積分の少なくとも2つを比較するように構成されてよい。具体的には、評価装置10は、ビームプロファイルの少なくとも1つの第1エリア及び少なくとも1つの第2エリアを決定するように構成されてよい。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、隣接する領域又は重複する領域のいずれか一方又は両方であってよい。ビームプロファイルの第1エリアとビームプロファイルの第2エリアは、エリアが一致していなくてよい。例えば、評価装置10は、CMOSセンサのセンサ領域を少なくとも2つのサブ領域に分割するように構成されてよく、評価装置は、CMOSセンサのセンサ領域を、少なくとも1つの左側部分と少なくとも1つの右側部分、及び/又は少なくとも1つの上部分と少なくとも1つの下部分、及び/又は少なくとも1つの内部分と少なくとも1つの外部分、とに分割するように構成され得る。
追加的又は代替的に、ディスプレイ装置1は、少なくとも2つの光センサ4を備えてよく、第1光センサ及び第2光センサの感光エリアは、第1光センサが反射特徴のビームプロファイルの第1エリアを決定するよう適合され、第2光センサが反射特徴のビームプロファイルの第2エリアを決定するよう適合されるように配置され得る。評価装置10は、第1エリアと第2エリアとを積分するように適合されてよい。
一実施形態では、A1は、光センサ上の特徴点の全体又は完全なエリアに対応し得る。A2は、光センサ上の特徴点の中心エリアであり得る。中心エリアは一定値であってよい。中心エリアは、特徴点の全エリアと比べてより小さくてもよい。例えば、円形の特徴点の場合、中心エリアは、特徴点の全半径の0.1~0.9、好ましくは全半径の0.4~0.6の半径を有してよい。
評価装置10は、第1エリアと第2エリアを除算すること、第1エリアと第2エリアの倍数を除算すること、第1エリアと第2エリアの線形結合を除算することのうちの1つ以上によって商Qを導出するように構成されてよい。評価装置10は、
Figure 2023552974000041
によって商Qを導出するように構成されてよく、
式中、x及びyは横方向座標、A1、A2はそれぞれビームプロファイルの第1エリア及び第2エリア、E(x、y)はビームプロファイルを表す。
評価装置10は、縦方向座標を決定するために、商Qと縦方向座標の間の少なくとも1つの予め決定された関係を用いるように構成されてよい。予め決定された関係は、経験的関係、半経験的関係、及び分析的に導出された関係のうちの1つ以上であってよい。評価装置は、例えばルックアップリスト又はルックアップテーブルなどの予め決定された関係を記憶するための少なくとも1つのデータ記憶装置を備えてよい。
評価装置10は、ゼロ次数及び高次数の全ての反射特徴について距離を計算する少なくとも1つの光子比からの深度アルゴリズムを実行するように構成され得る。
第1画像の評価は、識別された反射特徴を明るさに関して並べ替えをすることを含む。並べ替えをすることは、さらなる評価のために、明るさに関して反射特徴を割り当てること、特に、最大の明るさを有する反射特徴から開始して、続いて減少する明るさを有する反射特徴の、シーケンスを割り当てることを含んでよい。最も明るい反射特徴がDPR計算で優先される場合、縦方向座標zDPRの決定の堅牢性を高めることができる。これは主に、回折格子のゼロ次数の反射特徴が、高次の偽特徴よりも常に明るいためである。
評価装置10は、縦方向座標zDPRを用いて、反射特徴と、対応する照射特徴とを明確にマッチングするように構成される。光子比からの深度技術で決定される縦方向座標は、いわゆる対応問題を解くために使用され得る。そのようにして、反射特徴ごとの距離情報を使用して、既知のレーザプロジェクタグリッドの対応関係を見つけることができる。
反射特徴に対応する照射特徴は、エピポーラ幾何学を使用して決定されることができる。エピポーラ幾何学の説明については、例えば、X.Jiang、H.Bunkeによる「Dreidimensionales Computersehen」シュプリンガー、ベルリンハイデルベルク、1997年の第2章を参照されたい。エピポーラ幾何学は、照射画像、すなわち歪みのない照射パターンの画像、及び第1画像が、固定距離を有する異なる空間位置及び/又は空間配向で決定される画像であることを仮定し得る。距離は相対距離であり、ベースラインとも呼ばれる。照射画像は、参照画像とも呼ばれる。評価装置10は、参照画像におけるエピポーラ線を決定するように適合され得る。参照画像と第1画像の相対位置は既知である場合がある。例えば、参照画像と第1画像の相対位置は、評価装置の少なくとも1つの記憶ユニット内に保存され得る。評価装置10は、第1画像の選択された反射特徴からそれが由来する現実世界の特徴まで延びる直線を決定するように適合され得る。したがって、直線は、選択された反射特徴に対応する、あり得る物体特徴を含み得る。直線とベースラインはエピポーラ平面を展開する。参照画像が第1画像とは異なる相対的配置で決定されるため、対応するあり得る物体の特徴は、参照画像内のエピポーラ線と呼ばれる直線上に画像化され得る。エピポーラ線は、エピポーラ面と参照画像との交点であってよい。したがって、第1画像の選択された特徴に対応する参照画像の特徴は、エピポーラ線上に位置する。
照射特徴を反射したシーンの物体までの距離に応じて、照射特徴に対応する反射特徴は、第1画像内で変位し得る。参照画像は、選択される反射特徴に対応する照射特徴が画像化される少なくとも1つの変位領域を含むことができる。変位領域は、1つの照射特徴のみを含んでよい。変位領域は、複数の照射特徴を含んでいてもよい。変位領域は、エピポーラ線又はエピポーラ線のセクションを含んでいてもよい。変位領域は、複数のエピポーラ線又は複数のエピポーラ線の複数のセクションを含んでいてもよい。変位領域は、エピポーラ線に沿って、エピポーラ線に直交して、又はその両方に延びることができる。評価装置10は、エピポーラ線に沿って照射特徴を決定するように適合されてよい。評価装置10は、反射特徴の縦方向座標zと、結合信号Qからの誤差間隔±εを決定し、±εに対応するエピポーラ線に沿った又はエピポーラ線に直交する変位領域を決定するように適合され得る。結合信号Qを使用した距離測定の測定不確実性は、測定不確実性が方向によって異なる場合があるため、第2画像内に非円形の変位領域をもたらす可能性がある。具体的には、エピポーラ線に沿った測定不確実性は、エピポーラ線に対して直交する方向の測定不確実性よりも大きくなり得る。変位領域は、エピポーラ線又は複数のエピポーラ線に対して直交方向に延びる範囲を含むことができる。評価装置10は、選択された反射特徴を変位領域内の少なくとも1つの照射特徴とマッチングさせるように適合されてよい。評価装置10は、決定された縦方向座標zDPRを考慮する少なくとも1つの評価アルゴリズムを使用することによって、第1画像の選択された特徴と変位領域内の照射特徴とをマッチングさせるように適合されてよい。評価アルゴリズムは線形スケーリングアルゴリズムであり得る。評価装置10は、変位領域に最も近い及び/又は変位領域内のエピポーラ線を決定するように適合されてよい。評価装置は、反射特徴の画像位置に最も近いエピポーラ線を決定するように適合されてよい。エピポーラ線に沿った変位領域の範囲は、エピポーラ線に直交する変位領域の範囲より大きくてよい。評価装置10は、対応する照射特徴を決定する前にエピポーラ線を決定するように適合されてよい。評価装置10は、各反射特徴の画像位置の周りの変位領域を決定してよい。評価装置10は、変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てるなどによって、反射特徴の各画像位置の各変位領域にエピポーラ線を割り当てるように適合されてよい。評価装置10は、割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿って割り当てられた変位領域内の照射特徴を決定することにより、反射特徴に対応する照射特徴を決定するように適合されてよい。
追加的に又は代替的に、評価装置10は以下のステップ:
- 各反射特徴の画像位置の変位領域を決定する、ステップと;
- 変位領域に最も近いエピポーラ線、及び/又は変位領域内のエピポーラ線、及び/又はエピポーラ線に直交する方向に沿った変位領域に最も近いエピポーラ線を割り当てるなどによって、各反射特徴の変位領域にエピポーラ線を割り当てる、ステップと;
- 割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられた変位領域内の照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域に最も近い照射特徴、及び/又は割り当てられたエピポーラ線に沿った割り当てられた変位領域内の照射特徴を割り当てるなどによって、各反射特徴に少なくとも1つの照射特徴を割り当てる及び/又は決定するステップと、
を実行するように構成されてよい。
追加的に又は代替的に、評価装置10は、照射画像内の反射特徴及び/又はエピポーラ線の距離を比較することによって、及び/又は、照射画像内の照射特徴及び/又はエピポーラ線のε重み付き距離などの誤差重み付き距離を比較し、より短い距離及び/又はε重み付き距離のエピポーラ線及び/又は照射特徴を、照射特徴及び/又は反射特徴に割り当てることなどによって、反射特徴に割り当てられる複数のエピポーラ線及び/又は照射特徴の間で決定するように適合されてもよい。
上記で説明されたように、回折格子により、複数の反射特徴が、例えば、照射特徴のそれぞれに対して、1つの実特徴と複数の偽特徴が生成される。マッチングは、最も明るい反射特徴から始めて、反射特徴の明るさを減少させながら実行される。マッチングされた照射特徴に対して他の反射特徴を割り当てることはできない。ディスプレイアーチファクトのため、生成される偽特徴は一般に実特徴より暗い。反射特徴を明るさによって並べ替えることにより、より明るい反射特徴が対応マッチングで優先される。照射特徴の対応関係が既に使用されている場合、偽特徴は、使用されたすなわちマッチングされた照射特徴に、割り当てられることができない。
図2A~図2Cは、ディスプレイ2、照射源5、光センサ4を同期させる実施形態を示す。
図2Aに示されるように、ディスプレイ装置1は、少なくとも1つの照射パターンを生成するように構成された少なくとも1つのプロジェクタ12、例えばレーザプロジェクタモジュール、シーンを照射するための追加のフラッドイルミネーション14、及び光センサ4、例えばシャッタを有するIRカメラモジュールを含む照射源5を備えることができる。ディスプレイ装置1は、これらの構成要素がディスプレイ2の前方に照射光ビームの伝播方向に配置されるように構成され得る。
透光性ディスプレイ2は、少なくとも1つのOLEDディスプレイであってよい。OLEDディスプレイは、約25%又は25%超の透過率を有し得る。しかし、より透過率が低いOLEDディスプレイの実施形態さえも可能であり得る。図2Cは、OLEDディスプレイの実施形態を示す。参照番号16で示されるのは、IRカメラモジュール、プロジェクタ12、及びフラッドイルミネーション14のための潜在的に可能な位置である。ディスプレイ2は、解像度VxH(Vは垂直方向の延長であり、Hが高さである。)を有することができる。OLEDディスプレイは、マトリックス配列VxHに配置された複数のピクセルを備えることができる。OLEDは、マトリックスの上から下へ一行ずつコンテンツを更新及び/又はリフレッシュすることができる。図2Cでは、最初のライン、例えばライン0が参照番号18で示され、最終ラインVが参照番号20で示される。更新方向は、参照番号22で示されている。制御ユニット8は、ディスプレイ2、プロジェクタ12、フラッドイルミネーション14及び光センサ4を同期させるように構成されていてよい。制御ユニット8の要素は、例えばSoC26の一部として、及び/又はディスプレイ2、光センサ4及び照射源12、14の要素として、図2に示されている。ディスプレイ2、特にディスプレイドライバは、更新及び/又はリフレッシュが最後の行20から最初の行18にラップアラウンドすることを示す少なくとも1つの信号を発するように構成され得る。ディスプレイドライバは、制御ユニットの一部であってよい。例えば、更新及び/又はリフレッシュが最後の行20から最初の行18にラップアラウンドする場合、ディスプレイVSYNC24とも表される垂直同期(VSYNC)信号が、ディスプレイ2によって発せられてよい。
OLEDディスプレイを介した光の放出は、コンテンツが更新及び/又はリフレッシュされる、特に上書きされるわずか前にタイミングを合わせることができる。これにより、目に見える歪みを最小化することができる。光センサ4は、プロジェクタ12及びフラッドイルミネーション14と同期され得る。光センサ4は、照射中、アクティブであってよく、すなわち、画像をキャプチャするためのモード及び/又は光を検出するためのモードにあってよい。例えば、光センサ4と照射源5との同期は、図2Aに示すように実現されてよい。
図2Aに示されるように、制御ユニットは、システムオンチップ(SoC)26を含んでよい。SoC26は、ディスプレイインターフェイス28を含んでよい。SoC26は、少なくとも1つのアプリケーション32に接続された少なくとも1つのアプリケーションプログラミングインターフェイス(API)30を備えることができる。SoC26は、少なくとも1つの画像信号処理装置(ISP)34をさらに備えることができる。光センサ4は、接続35を介して、SoC26、特にISP34及び/又はAPI30に接続され得る。接続35は、電力制御、クロック信号(CLK)の提供、画像信号の転送のうちの1つ以上のために構成され得る。追加的に又は代替的に、接続35は、インター集積回路(I2C)として具現化されることができる。追加的に又は代替的に、接続は、MIPなどの画像データインターフェイスとして具現化されることができる。
アプリケーション32は、照射源12、14の1つ以上による照射40を要求することができる。SoC26は、API30を介して、接続35を介して光センサ4に電力を供給することができる。光センサ4は、SoC26にカメラVSYNC36とも表記されるVSYNC信号を発することができ、照射源12、14にストロボ信号38を発することができる。SoC26は、API30を介して、カメラVSYNC36に応答して、照射源をそれぞれアクティブ化するためのトリガ信号41,42を照射源12,14に発することができる。それぞれのトリガ信号41,42とストロボ信号38がそれぞれの照射源12,14によって、特にAND論理ゲートによって受信された場合、照射源12,14のそれぞれのドライバ43は、イルミネーションを駆動する。光センサ4の信号は、接続35によりSoC26、例えばAPI30及びISP34に転送され、及び、例えばメタデータなどと共に、さらなる評価のためにアプリケーション32に提供され得る44。
図2Aにさらに示されるように、光センサ4とディスプレイ2は同期されていてよい。ディスプレイ2は、少なくとも1つのディスプレイシリアルインターフェイス(DSI)46、特にMIPIディスプレイシリアルインターフェイス(MIPI DSI(登録商標))を介して、ディスプレイインターフェイス28に接続されてよい。ディスプレイインターフェイス28は、少なくとも1つのSW信号48を光センサ4に転送することができる。ディスプレイ2は、2つの動作モード、すなわち、「ビデオモード」又は「コマンドモード」で作動させられ得る。ビデオモードでは、VSYNC信号は、ディスプレイ2から発せられ得る。コマンドモードでは、VSYNC信号は、SoCによって生成されて発せられてよく、特に、ソフトウェアによって生成されてよい。したがって、ディスプレイ2のVSNC信号は、ディスプレイ自体及び/又はSoC26によって発せられ得る。
ディスプレイ装置1は、ディスプレイVSYNC24をカメラフレームの露光端に同期させるため、トリガ信号として、ディスプレイVSYNC24を光センサ4に渡すように構成されることができる。光センサ4のトリガの要求に応じて、ディスプレイVSYNC24は、光センサ4に渡される前に、要求を完全に満たすように、適合され、特に調整されることができる。例えば、ディスプレイVSYNCの周波数は半分に調整されることができる。
図2Bは、ディスプレイVSYNC24、ストロボ信号38、カメラVSYNC、及び時間の関数として、特に1/フレーム/秒(FPS)としてのトリガ信号41と42の展開を示す。カメラの露光は、ディスプレイVSYNC24の直前、すなわち、位置16の透明エリアが位置する最初のラインのリフレッシュの直前で起こることが示されている。
1 ディスプレイ装置
2 透光性ディスプレイ
4 光センサ
5 照射源
6 黒色エリア
8 制御ユニット
10 評価装置
12 プロジェクタ
14 フラッドイルミネーション
16 位置
18 ライン0
20 ラインV
24 ディスプレイVSYNC
26 SoC
28 ディスプレイインターフェイス
30 API
32 アプリケーション
34 ISP
35 接続
36 カメラVSYNC
38 ストロボ信号
40 要求
41 トリガ信号
42 トリガ信号
44 提供
46 DSI
48 SW信号

Claims (19)

  1. - 少なくとも1つの照射ビームを、少なくとも1つのシーンに投影するように構成された少なくとも1つの照射源(5)と;
    - 少なくとも1つの感光エリアを有する少なくとも1つの光センサ(4)であって、前記光センサ(4)は、照射ビームによる照射に応答して前記シーンによって生成される少なくとも1つの反射光ビームを測定するように構成される、少なくとも1つの光センサ(4)と;
    - 情報を表示するように構成された少なくとも1つの透光性ディスプレイ(2)であって、前記照射源(5)及び前記光センサ(4)は、前記ディスプレイ(2)の前方に照射光ビームの伝播方向に配置される、少なくとも1つの透光性ディスプレイ(2)と;
    - 少なくとも1つの制御ユニット(8)であって、前記制御ユニット(8)は、照射中に前記照射源(5)のエリアで、及び/又は測定中に前記光センサ(4)のエリアで、前記ディスプレイ(2)をオフにするように構成されている、少なくとも1つの制御ユニット(8)と、
    を備えるディスプレイ装置(1)。
  2. 前記透光性ディスプレイ(2)は、前記ディスプレイ(2)のフルサイズにわたって延びるディスプレイ材料を有するフルサイズディスプレイである、請求項1に記載のディスプレイ装置(1)。
  3. 前記ディスプレイ(2)は、前記制御ユニット(8)が、照射中に前記照射源(5)のエリアで、及び/又は測定中に前記光センサ(4)のエリアで、前記ディスプレイ(2)をオフにしたときに、前記照射源(5)のエリア及び/又は前記は光センサ(4)のエリアに、黒色エリア(6)を示すように構成されている、請求項1又は2に記載のディスプレイ装置(1)。
  4. 前記制御ユニット(8)は、前記照射源(5)のエリアの前記ディスプレイ(2)が調整可能なノッチとして機能するように、前記照射源(5)のエリアの前記ディスプレイ(2)をオフにするように、及び/又は、前記光センサ(4)のエリアの前記ディスプレイ(2)が調整可能なノッチとして機能するように、前記光センサ(4)のエリアの前記ディスプレイ(2)をオフにするように構成され、前記調整可能なノッチは、照射及び/又は測定中にアクティブになり、それ以外は非アクティブになるように構成されている、請求項1~3のいずれか1項に記載のディスプレイ装置(1)。
  5. 前記ディスプレイ装置(1)は、前記光センサ(4)を用いて顔認識を行うように構成され、前記制御ユニット(8)は、顔認識の実行中に、顔認識がアクティブであることを示す表示を発するように構成され、前記透光性ディスプレイ(2)は、顔認識の実行中に、前記表示を表示するように構成されている、請求項1~4のいずれか1項に記載のディスプレイ装置(1)。
  6. 前記光センサ(4)は、少なくとも1つのCMOSセンサを含む、請求項1~5のいずれか1項に記載のディスプレイ装置(1)。
  7. 前記照射源(5)は、少なくとも1つの赤外光源を含む、請求項1~6のいずれか1項に記載のディスプレイ装置(1)。
  8. 前記照射源(5)は、少なくとも1つの照射パターンを生成するように構成された少なくとも1つのレーザプロジェクタを備える、請求項1~7のいずれか1項に記載のディスプレイ装置(1)。
  9. 前記照射源(5)は、少なくとも1つのフラッドイルミネーション発光ダイオードを含む、請求項1~8のいずれか1項に記載のディスプレイ装置(1)。
  10. 前記ディスプレイ(2)、前記照射源(5)、及び前記光センサ(4)が、同期される、請求項1~9のいずれか1項に記載のディスプレイ装置(1)。
  11. 前記ディスプレイ(2)は、少なくとも1つの有機発光ダイオード(OLED)ディスプレイであるか、又はそれを備え、前記制御ユニット(8)が前記照射源(5)のエリアでディスプレイをオフにしたときは、前記OLEDディスプレイは照射源(5)のエリアで非アクティブであり、及び/又は前記制御ユニット(8)が前記光センサ(4)のエリアでディスプレイ(2)をオフにしたときは、前記OLEDディスプレイは前記光センサ(4)のエリアで非アクティブである、請求項1~10のいずれか1項に記載のディスプレイ装置(1)。
  12. 前記照射源(5)は、前記少なくとも1つのシーン上に、複数の照射特徴を含む少なくとも1つの照射パターンを投影するように構成され、前記光センサは、前記照射特徴による照射に応答して前記シーンによって生成される複数の反射特徴を含む少なくとも1つの第1画像を決定するように構成され、前記ディスプレイ装置(1)は、少なくとも1つの評価装置(10)をさらに備え、前記評価装置(10)は、前記第1画像を評価するように構成され、前記第1画像の評価は、前記第1画像の反射特徴を識別することと、前記識別された反射特徴を明るさに関して並べ替えることとを含み、前記反射特徴の各々は、少なくとも1つのビームプロファイルを含み、前記評価装置(10)は、ビームプロファイルの分析により、反射特徴の各々について少なくとも1つの縦方向座標zDPRを決定するように構成され、前記評価装置(10)は、前記縦方向座標zDPRを用いて、反射特徴と、対応する照射特徴とを明確にマッチングするように構成され、前記マッチングは、最も明るい反射特徴から始めて、反射特徴の明るさを減少させながら行われ、前記評価装置(10)は、照射特徴とマッチングした反射特徴を実特徴として分類し、照射特徴とマッチングしなかった反射特徴を偽特徴として分類するように構成され、前記評価装置(10)は、前記偽特徴を拒絶し、前記縦方向座標zDPRを使用することによって、前記実特徴の深度マップを生成するように構成される、請求項1~11のいずれか1項に記載のディスプレイ装置(1)。
  13. 前記評価装置(10)は、三角測量及び/又はデフォーカスからの深度及び/又は構造化光法技術を使用して、反射特徴のそれぞれについて少なくとも1つの第2縦方向座標ztriangを決定するように構成される、請求項12に記載のディスプレイ装置(1)。
  14. 前記評価装置(10)は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの結合縦方向座標を決定するように構成され、前記結合縦方向座標は、前記第2縦方向座標ztriangと前記縦方向座標zDPRの平均値であり、前記結合縦方向座標は、深度マップの生成に使用される、請求項13に記載のディスプレイ装置(1)。
  15. 前記評価装置(10)は、光子比からの深度技術を使用することによって、前記反射特徴のそれぞれについて、ビームプロファイル情報を決定するように構成される、請求項12~14のいずれか1項に記載のディスプレイ装置(1)。
  16. 前記評価装置(10)は、前記反射特徴の少なくとも1つの前記ビームプロファイルを評価することによって、物体の少なくとも1つの材料特性mを決定するように構成される、請求項12~15のいずれか1項に記載のディスプレイ装置(1)。
  17. 前記ディスプレイ装置(1)は、テレビ装置、携帯電話、スマートフォン、ゲームコンソール、タブレットコンピュータ、パーソナルコンピュータ、ラップトップ、タブレット、仮想現実装置、又は別のタイプのポータブルコンピュータからなる群から選択されるモバイル装置である、請求項1~16のいずれか1項に記載のディスプレイ装置(1)。
  18. 透光性ディスプレイ(2)を介して測定するための方法であって、請求項1~17のいずれか1項に記載の少なくとも1つのディスプレイ装置(1)が使用され、以下のステップ:
    a)少なくとも1つの照射源(5)によって生成された少なくとも1つの照射光ビームを使用することによって、少なくとも1つのシーンを照射するステップであって、前記照射源(5)は、ディスプレイ(2)の前方に照射ビームの伝播方向に配置される、ステップと;
    b)少なくとも1つの光センサ(4)を使用することによって、前記照射ビームによる照射に応答して前記シーンによって生成される少なくとも1つの反射光ビームを測定するステップであって、前記光センサ(4)は少なくとも1つの感光エリアを有し、前記光センサ(4)は前記ディスプレイ(2)の前方に照射ビームの伝播方向に配置される、ステップと;
    c)少なくとも1つの制御ユニット(8)を使用することによって、前記ディスプレイ(2)を制御するステップであって、前記ディスプレイ(2)は、照射中に照射源(5)のエリアで、及び/又は測定中に光センサ(4)のエリアでオフにされる、ステップと、
    を含む、透光性ディスプレイ(2)を介して測定するための方法。
  19. ディスプレイ装置に関する請求項1~18のいずれか1項に記載のディスプレイ装置(1)の使用であって、使用目的が、交通技術における位置測定;娯楽用途;セキュリティ用途;監視用途;安全用途;ヒューマンマシンインターフェイス用途;追跡用途;写真用途;画像化用途又はカメラ用途;少なくとも1つの空間のマップを生成するためのマッピング用途;車両用のホーミング又は追跡ビーコン検出器;屋外用途;モバイル用途;通信用途;マシンビジョン用途;ロボット用途;品質管理用途;製造用途;自動車用途、からなる群から選択される、使用。
JP2023528715A 2020-11-13 2021-11-12 ディスプレイを介する深度測定 Pending JP2023552974A (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
EP20207420.9 2020-11-13
EP20207420 2020-11-13
EP20209973 2020-11-26
EP20209973.5 2020-11-26
EP21192560 2021-08-23
EP21192560.7 2021-08-23
PCT/EP2021/081560 WO2022101429A1 (en) 2020-11-13 2021-11-12 Depth measurement through display

Publications (1)

Publication Number Publication Date
JP2023552974A true JP2023552974A (ja) 2023-12-20

Family

ID=78725479

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023528715A Pending JP2023552974A (ja) 2020-11-13 2021-11-12 ディスプレイを介する深度測定

Country Status (6)

Country Link
US (1) US20230403906A1 (ja)
EP (1) EP4244659A1 (ja)
JP (1) JP2023552974A (ja)
KR (1) KR20230107574A (ja)
CN (1) CN116438467A (ja)
WO (1) WO2022101429A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11860292B2 (en) 2016-11-17 2024-01-02 Trinamix Gmbh Detector and methods for authenticating at least one object

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101781533B1 (ko) 2010-12-23 2017-09-27 삼성디스플레이 주식회사 영상 촬영 장치 및 이의 영상 촬영 방법
KR102283111B1 (ko) 2013-12-17 2021-07-29 마수피얼 홀딩스 아이엔시. 통합 마이크로옵틱 이미저, 프로세서 및 디스플레이
US9870024B2 (en) 2015-10-30 2018-01-16 Essential Products, Inc. Camera integrated into a display
EP3542183A1 (en) 2016-11-17 2019-09-25 trinamiX GmbH Detector for optically detecting at least one object
US10664676B2 (en) * 2017-06-12 2020-05-26 Will Semiconductor (Shanghai) Co. Ltd. Systems and methods for reducing unwanted reflections in display systems incorporating an under display biometric sensor
DE202018003644U1 (de) 2018-08-07 2018-08-17 Apple Inc. Elektronische Vorrichtung mit einer von einer selbstausrichtenden Klammeranordnung gehaltenen Sichtsystemanordnung
US10916023B2 (en) * 2018-09-14 2021-02-09 Facebook Technologies, Llc Depth measurement assembly with a structured light source and a time of flight camera
US11067884B2 (en) * 2018-12-26 2021-07-20 Apple Inc. Through-display optical transmission, reception, or sensing through micro-optic elements
WO2020187719A1 (en) 2019-03-15 2020-09-24 Trinamix Gmbh Detector for identifying at least one material property

Also Published As

Publication number Publication date
US20230403906A1 (en) 2023-12-14
WO2022101429A1 (en) 2022-05-19
EP4244659A1 (en) 2023-09-20
CN116438467A (zh) 2023-07-14
KR20230107574A (ko) 2023-07-17

Similar Documents

Publication Publication Date Title
US11989896B2 (en) Depth measurement through display
US11310479B2 (en) Non-uniform spatial resource allocation for depth mapping
US20170059305A1 (en) Active illumination for enhanced depth map generation
US20230078604A1 (en) Detector for object recognition
Callenberg et al. Low-cost SPAD sensing for non-line-of-sight tracking, material classification and depth imaging
US20230081742A1 (en) Gesture recognition
JP2023552974A (ja) ディスプレイを介する深度測定
US11920918B2 (en) One shot calibration
JP6740614B2 (ja) 物体検出装置、及び物体検出装置を備えた画像表示装置
Veitch-Michaelis et al. Enhancement of stereo imagery by artificial texture projection generated using a LIDAR
JP2024512247A (ja) 顔ロック解除のための光学的皮膚検出
US11906421B2 (en) Enhanced material detection by stereo beam profile analysis
US11995857B2 (en) Shape-from-shading
KR20240093513A (ko) 멀티 파장 프로젝터와 관련된 확장된 재료 검출
US20240027188A1 (en) 8bit conversion
WO2023072905A1 (en) Extended material detection involving a multi wavelength projector
WO2023041761A1 (en) Emitter array with two or more independently driven areas
WO2023078986A1 (en) Eye safety for projectors
CN118302648A (en) Disposable calibration
WO2023083784A1 (en) Recalibration of a 3d detector based on structured light