JP6571785B2 - 光学近接センサ及び関連するユーザインターフェイス - Google Patents

光学近接センサ及び関連するユーザインターフェイス Download PDF

Info

Publication number
JP6571785B2
JP6571785B2 JP2017539236A JP2017539236A JP6571785B2 JP 6571785 B2 JP6571785 B2 JP 6571785B2 JP 2017539236 A JP2017539236 A JP 2017539236A JP 2017539236 A JP2017539236 A JP 2017539236A JP 6571785 B2 JP6571785 B2 JP 6571785B2
Authority
JP
Japan
Prior art keywords
light
detector
proximity sensor
emitter
lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017539236A
Other languages
English (en)
Other versions
JP2018510400A (ja
Inventor
トーマス エリクソン
トーマス エリクソン
アレクサンデル ユブナー
アレクサンデル ユブナー
ロジータ テイムルザデ
ロジータ テイムルザデ
ホーカン スヴェン エーリク アンデション
ホーカン スヴェン エーリク アンデション
ペル ローセングレン
ペル ローセングレン
シャタオ ワン
シャタオ ワン
ステファン ホルムグレン
ステファン ホルムグレン
グンナル マルティン フロイズ
グンナル マルティン フロイズ
シモン フェリン
シモン フェリン
ヨーン トマス ハルトマン
ヨーン トマス ハルトマン
オスキャル スヴェルード
オスキャル スヴェルード
サンテク キム
サンテク キム
ラスムス ダール−オルン
ラスムス ダール−オルン
リカルド バーリリンド
リカルド バーリリンド
カール エーリク パトリック ノルドストレーム
カール エーリク パトリック ノルドストレーム
ラーシュ スパーフ
ラーシュ スパーフ
エーリク ローセングレン
エーリク ローセングレン
ヨーン カールソン
ヨーン カールソン
レモ ベーダシュト
レモ ベーダシュト
ロビン シェル アマン
ロビン シェル アマン
ジョセフ シャイン
ジョセフ シャイン
オスキャル ハグベリ
オスキャル ハグベリ
ヨエル ロザダ
ヨエル ロザダ
Original Assignee
ネオノード インコーポレイテッド
ネオノード インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ネオノード インコーポレイテッド, ネオノード インコーポレイテッド filed Critical ネオノード インコーポレイテッド
Publication of JP2018510400A publication Critical patent/JP2018510400A/ja
Application granted granted Critical
Publication of JP6571785B2 publication Critical patent/JP6571785B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1615Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function
    • G06F1/1616Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function with folding flat displays, e.g. laptop computers or notebooks having a clamshell configuration, with body parts pivoting to an open position around an axis parallel to the plane they define in closed position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1637Details related to the display arrangement, including those related to the mounting of the display in the housing
    • G06F1/1643Details related to the display arrangement, including those related to the mounting of the display in the housing the display being associated to a digitizer, e.g. laptops that can be used as penpads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • G06F3/04184Synchronisation with the driving of the display or the backlighting unit to avoid interferences generated internally
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04108Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction

Description

〔関連出願との相互参照〕
本出願は、以下の文献に基づく優先権を主張する。
・発明者:Stefan Holmgren、Oscar Sverud、Sairam Iyer、Richard Berglind、Karl Erik Patrik Nordstrom、Lars Sparf、Per Rosengren、Erik Rosengren、John Karlsson、Thomas Eriksson、Alexander Jubner、Remo Behdasht、Simon Fellin、Robin Kjell Aman及びJoseph Shainによる、2015年1月26日に出願された「光学近接センサ(OPTICAL PROXIMITY SENSORS)」という名称の米国仮特許出願第62/107,536号、
・発明者:Rozita Teymourzadeh、Hakan Sven Erik Andersson、Per Rosengren、Xiatao Wang、Stefan Holmgren、Gunnar Martin Frojdh及びSimon Fellinによる、2015年7月28日に出願された「光学近接センサ(OPTICAL PROXIMITY SENSORS)」という名称の米国仮特許出願第62/197,813号、及び、
・発明者:Thomas Eriksson、Alexander Jubner、Rozita Teymourzadeh、Hakan Sven Erik Andersson、Per Rosengren、Xiatao Wang、Stefan Holmgren、Gunnar Martin Frojdh、Simon Fellin及びJan Tomas Hartmanによる、2015年12月11日に出願された「光学近接センサ(OPTICAL PROXIMITY SENSORS)」という名称の米国仮特許出願第62/266,011号。
これらの出願の内容は、その全体が引用により本明細書に組み入れられる。
本発明の分野は、光ベースのタッチ画面、近接センサ、並びに、ジェスチャを利用してドアのロック及びロック解除を行うドアロックシステム、タッチジェスチャを検出しないディスプレイ上のタッチ入力を可能にするようにラップトップディスプレイに磁気的に取り付けられた近接センサバー、車載インフォテインメントシステムのためのユーザインターフェイス、及びPCのためのユーザインターフェイスを含むこれらの用途である。
先行技術における1次元配列の近接センサは、その配列から広がる2次元平面内のポインタの2次元位置を特定できるほど正確ではない。
先行技術のドアロックシステムでは、人の手に握られたポータブル無線送信機が、ドアロック機構に接続された無線受信機に符号化信号を送信してドアのロック及びロック解除を行う。先行技術の送信機ユニットには、ロック及びロック解除機能を有効にするためのスイッチを含むものもあれば、電子トランスポンダカードの形を取ることによって、ウェイクアップ信号の検出時に、ロックに接続された送信機ユニットがトランスポンダに問い合わせを行うものもある。
システムによっては、追加レベルのセキュリティをもたらす目的で、許可された人物が車両のドアをロック解除しようと試みていることを確認するために、ユーザによる所定の認証ジェスチャの入力を必要とするものもある。従って、例えばユーザは、キーフォブ送信機上のスイッチを押す時に、ドアをロック解除するためにタッチセンサ上で所定の認証ジェスチャを入力しなければならない。別の例では、所定の認証ジェスチャが検出されると送信機ユニットが作動して、ハンズフリーカード型のトランスポンダに問い合わせを行う。
通常、ラップトップコンピュータには、タッチ画面バージョンと非タッチ画面バージョンとがある。非タッチ画面式ラップトップの消費者が、必要時にタッチ画面機能を有効にできれば有利と思われる。例えば、画像の閲覧、ニュースフィードのチェック、又は画像の回転時に、スワイプ、ピンチ及び回転のジェスチャを有効にできれば有利と思われる。別の例は、ラップトップの内蔵トラックパッドを使用するよりも画面上で人の指を使用する方が快適な飛行機での移動中にタッチ画面機能を有効にすることである。
多くの車載インフォテインメントシステムは、携帯電話機などのハンドヘルド装置のために設計されたタッチ画面型ユーザインターフェイスを使用する。ユーザの手に保持されていないディスプレイを使用する場合のために設計されたユーザインターフェイスを提供することが有利と思われる。ハンドヘルド装置、デスクトップ装置及び車載装置を含む電子装置のための、機能にアクセスするための異なるスキームを同時に提供するユーザインターフェイスを提供することはさらに有利であると思われる。
ロボット計測では、相対的信号強度に、3つの隣接する信号によって結ばれた三角形内で繰り返すパターンが存在することが示される。ロボット計測を用いてこのパターンを学習し、三角形内の3つの信号の相対的信号強度からこの三角形内の障害物の反射位置及び反射強度へのマッピングが行われるようにする。隣接する三角形が個々の検出候補をもたらし、これらを1つに統合する。
米国特許出願公開第14/312,787号明細書(米国特許第9,164,625明細書) 米国特許第9,063,614号明細書 米国特許第8,775,023号明細書 米国特許出願公開第2015/0248796号明細書
従って、本発明の実施形態によれば、近位物体を識別する近接センサであって、ハウジングと、ハウジング内に取り付けられて、ハウジングから外に光を投影する複数の光エミッタと、ハウジング内に取り付けられて、作動時に到達する光の量を検出する複数の光検出器と、ハウジング内に取り付けられた複数のレンズと、エミッタ及び検出器に接続されたプロセッサとを含み、Lで示す各レンズは、検出器のうちのD1及びD2で示す2つのレンズに対し、レンズLに光が鋭角の入射角θ1で入射する時には、レンズLに入射する光が検出器D1において最大限に検出され、レンズLに光が鈍角の入射角θ2で入射する時には、レンズLに入射する光が検出器D2において最大限に検出されるように位置付けられ、プロセッサは、エミッタ−検出器ペアを同期して作動させるとともに、ハウジングの外側の、作動したエミッタによって投影された光をレンズに向けて逆反射する物体の部分的輪郭を、作動した検出器によって検出された光の量に基づいて計算するように構成される、近接センサが提供される。
本発明の実施形態によれば、近位物体を検知する方法であって、検出器Dと、それぞれが異なる検出器間に位置する複数のエミッタEとを含むストリップを準備するステップと、各エミッタ−検出器ペア(E、D)について、ペア(E、D)に対応する目標位置p(E、D)に物体が位置する時に、エミッタEによって放出された光が物体によって散乱されて検出器Dによって最大限に検出されるようにエミッタ及び検出器が配置されたエミッタ−検出器ペア(E、D)を同期して協働的に作動させるステップと、各エミッタ−検出器ペア(E、D)について、同期して協働的に作動させるステップによってペア(E、D)が作動した時に検出器Dによって検出された反射光の量に基づいて反射値R(E、D)を求め、反射値R(E、D)を、ペア(E、D)に対応する共通平面内の目標位置p(E、D)に関連付けるステップと、求められた反射値R(E、D)及び目標位置p(E、D)に対応する、画素位置pにおける反射値Rpの2次元ピクセルイメージを生成するステップと、ピクセルイメージに基づいて物体の部分的外周を推定するステップとを含む方法がさらに提供される。
本発明の実施形態によれば、モニタであって、ハウジングと、ハウジング内に取り付けられたディスプレイと、ハウジング内に取り付けられて、2つの直交検出面に沿ってハウジングから外に光を投影する複数の光エミッタと、ハウジング内に取り付けられて、エミッタによって投影された光の反射物体による反射を検出面のうちの1つにおいて検出する複数の光検出器と、ハウジング内に取り付けられた複数のレンズと、ディスプレイ、エミッタ及び検出器に接続されたプロセッサとを含み、複数のレンズは、各エミッタ−検出器ペアについて、このエミッタ−検出器ペアに対応する目標位置に物体が位置する時に、このペアのエミッタによって放出された光がレンズのうちの1つを通過し、物体によってレンズの1つを通じてこのペアの検出器に逆反射されるようにエミッタ及び検出器に対して配向され、プロセッサは、ディスプレイ上にグラフィカルユーザインターフェイス(GUI)を表示し、2つの直交検出面にわたって行われる物体の異なる指向性運動をGUIへの異なる入力コマンドとして解釈し、エミッタ−検出器ペアを同期して協働的に作動させ、協働的に作動したエミッタ−検出器ペアのうちの、検出器が一定の時間間隔にわたって最大光量を検出する一連のエミッタ−検出器ペアを決定し、最大光量に対応する目標位置を識別し、このように識別された目標位置に基づいて動きの方向を計算することによって、2つの直交検出面内の物体の指向性運動を計算する、モニタがさらに提供される。
本発明の実施形態によれば、モニタであって、ハウジングと、ディスプレイと、ハウジング内に取り付けられて、ディスプレイと平行な検出面に沿ってハウジングから外に光を投影する複数の光エミッタと、ハウジング内に取り付けられて、エミッタによって投影された光の反射物体による反射を検出面において検出する複数の光検出器と、ハウジング内に取り付けられた複数のレンズと、ディスプレイ、エミッタ及び検出器に接続されたプロセッサとを含み、複数のレンズは、各エミッタ−検出器ペアについて、このエミッタ−検出器ペアに対応する目標位置に物体が位置する時に、このペアのエミッタによって放出された光がレンズのうちの1つを通過し、物体によってレンズの1つを通じてこのペアの検出器に逆反射されるようにエミッタ及び検出器に対して配向され、プロセッサは、ディスプレイのパラメータを調整するためのグラフィカルユーザインターフェイスをディスプレイ上に表示し、エミッタ−検出器ペアを同期して協働的に作動させ、協働的に作動したエミッタ−検出器ペアのうちの、検出器が一定の時間間隔にわたって最大光量を検出するエミッタ−検出器ペアを決定し、最大光量に対応する目標位置を識別し、このように識別された目標位置に隣接する協働的に作動したエミッタ−検出器ペアに対応するさらなる目標位置を特定し、目標位置及びさらなる目標位置の加重平均を計算することによって検出面内の物体の位置を計算し、平均における各目標位置の重みは、この目標位置が対応するエミッタ−検出器ペアの反射光ビームの検出度に対応する、モニタがさらに提供される。
本発明の実施形態によれば、複数のエミッタEと検出器Dとを含む近接センサストリップのパラメータを較正する較正ツールであって、エミッタ及び検出器は、エミッタが検出面に沿ってストリップから外に光を投影し、検出器が検出面に沿ってストリップに入射する光を検出し、各エミッタ−検出器ペア(E、D)について、ペア(E、D)に対応する検出面内の目標位置p(E、D)に物体が位置する時に、エミッタEによって放出された光が物体によって散乱し、検出器Dによって最大限に検出されると予想されるように配置され、較正ツールは、検出面内に近接センサストリップと平行に配置されて近接センサの全長に及ぶ反射物体と、反射物体を検出面に沿って近接センサに向けて又は近接センサから離して増分的に移動させる機構と、近接センサストリップ及び機構に結合されて、(i)反射物体の各増分的移動時に複数のエミッタ−検出器ペア(E、D)を作動させ、(ii)各作動したペアの検出器Dによって検出された検出を測定し、(iii)センサストリップと反射物体との間の最大検出が測定された距離に従って検出面内の目標位置p(E、D)を較正するプロセッサとを含む、較正ツールがさらに提供される。
本発明の実施形態によれば、複数のエミッタEと検出器Dとを含む近接センサストリップのパラメータを較正する方法であって、エミッタ及び検出器は、エミッタが検出面に沿ってストリップから外に光を投影し、検出器が検出面に沿ってストリップに入射する光を検出し、各エミッタ−検出器ペア(E、D)について、ペア(E、D)に対応する検出面内の目標位置p(E、D)に物体が位置する時に、エミッタEによって放出された光が物体によって散乱し、検出器Dによって最大限に検出されると予想されるように配置され、この方法は、近接センサの全長に及ぶ反射物体を近接センサストリップと平行に検出面内に提供するステップと、反射物体を検出面に沿って近接センサに向けて又は近接センサから離して増分的に移動させるステップと、物体の各増分的移動時に複数のエミッタ−検出器ペア(E、D)を作動させて検出器Dにおける検出を測定するステップと、センサストリップと反射物体との間の最大検出が測定された距離に従って検出面内の目標位置p(E、D)を較正するステップと、含む方法がさらに提供される。
本発明の実施形態によれば、近位物体の位置を識別する近接センサであって、ハウジングと、ハウジング内に取り付けられて、検出面に沿ってハウジングから外に光を投影する、Eで示す複数の光エミッタと、ハウジング内に取り付けられて、作動時に、各エミッタ−検出器ペア(E、D)について、ペア(E、D)に対応する検出面内の目標位置p(E、D)に物体が位置する時に、エミッタEによって放出された光が物体によって散乱し、検出器Dによって最大限に検出されると予想される、検出面に沿ってハウジングに入射する光の量を検出する、Dで示す複数の光検出器と、エミッタ及び検出器に接続されて、エミッタ−検出器ペアを同期して作動させ、検出された光の量を検出器から読み取り、エミッタ−検出器ペアからの検出を検出面内の隣接する目標位置間の物体の位置に関連付けるD→Lで示す検出−位置関係に従って、検出された光の量から検出面内の物体の位置を計算するプロセッサとを含む近接センサがさらに提供される。
本発明の実施形態によれば、第1の予め定められていないジェスチャを検出したことに応答してロックが作動し、その後にこの同じジェスチャが再び検出されたことに応答してロックが解除される作動可能状態に入るドアロックシステムがさらに提供される。
本発明の実施形態によれば、ユーザがラップトップコンピュータ画面の縁部に取り付けてラップトップにタッチ画面検出を提供する、細長いハウジング内の近接センサアレイがさらに提供される。いくつかの実施形態では、細長いハウジングからユニバーサルシリアルバス(USB)コネクタが延びてラップトップのUSBソケットに挿入されることにより、USB通信プロトコルを用いて近接センサがラップトップと通信できるようになるとともに、近接センサがラップトップから電流を受け取れるようになる。いくつかの実施形態では、近接センサが、例えば近距離無線接続規格を用いてラップトップと無線で通信する。いくつかの実施形態では、細長いハウジングが、ラップトップ画面の底縁部などの縁部に沿って近接センサアレイを取り付けるための1又は2以上の磁気ファスナを含む。
本発明の実施形態によれば、プリント回路基板上に取り付けられた光エミッタとフォトダイオード検出器との組み合わせの線形配列を含む単一の真っ直ぐなバーであって、バーは、プロセッサを含むラップトップコンピュータの外部ハウジングに繰り返し着脱されるように構成され、バーは、このように取り付けられてラップトッププロセッサに通信可能に結合された時に、バーの一方の側から外に生じる投影面の空域内で物体によって行われる複数の異なるジェスチャをプロセッサが認識できるようにする検出信号をプロセッサに提供し、検出信号は、光エミッタによって放出され、物体によってバーに逆反射され、フォトダイオードによって検出された光によって生成される、バーがさらに提供される。
本発明の実施形態によれば、プリント回路基板上に取り付けられた光エミッタとフォトダイオード検出器との組み合わせの線形配列を含む単一の真っ直ぐなバーであって、バーは、プロセッサを含むラップトップコンピュータの外部ハウジングに繰り返し着脱されるように構成され、バーは、ラップトッププロセッサに通信可能に結合されてラップトップハウジングの平坦な矩形表面の1つの側面に位置付けられた時に、表面の正面の空域内で物体によって行われる複数の異なるジェスチャをプロセッサが認識できるようにする検出信号をプロセッサに提供し、検出信号は、光エミッタによって放出され、物体によってバーに逆反射され、フォトダイオードによって検出された光によって生成される、バーがさらに提供される。
本発明の実施形態は、光エミッタと検出器とが交互になった1次元配列を用いた2次元(2D)タッチ検出を提供する。本発明は、3次元(3D)タッチ、又は2D検出器と同じ原理に基づくホバー検出器も提供する。
本発明の実施形態によれば、GUIの文脈駆動型ナビゲーションと、GUIの階層メニュー駆動型ナビゲーションとを単一のディスプレイ内で同時に提供する車載インフォテインメントシステムのためのGUIがさらに提供される。
本発明は、以下の詳細な説明を図面と共に解釈することによってさらに完全に理解され認識されるであろう。
本発明の実施形態による、光源から実線に沿って放出され、破線に沿って光センサに反射される光の簡略図である。 本発明の実施形態による、逆方向及び順方向ホットスポット信号値を示す図である。 発明の実施形態による、上部真ん中のホットスポットと中心ホットスポットとの間の信号値関係を示す図である。 本発明の実施形態による、右側真ん中のホットスポットと中心ホットスポットとの間の信号値関係を示す図である。 本発明の実施形態による、上部右側の逆方向ホットスポットと中心の逆方向ホットスポットとの間の信号値関係、及び上部真ん中の順方向ホットスポットと右側真ん中の順方向ホットスポットとの間の信号値関係を示す図である。 本発明の実施形態による、2つの信号値v0及びv1(実線)間の関係がr=log(v1)−log(v0)(破線)として表されることを示す図である。 本発明の実施形態による、全てが比較的強いホットスポット信号値にわたる領域に三角形を用いてマーキングした図である。 本発明の実施形態による、100×64mmのタッチ画面にわたる検出誤差を示す図である。 本発明の実施形態による、サンプルエラーベクトルの2Dヒストグラムを示す図である。 本発明の実施形態による近接センサの簡略図である。 本発明の実施形態による近接センサの簡略図である。 本発明の実施形態による近接センサの簡略図である。 本発明の実施形態による近接センサの簡略図である。 本発明の実施形態による、図10〜図13の近接センサの較正ツールの簡略図である。 本発明の実施形態による、図10〜図13の近接センサの較正ツールの簡略図である。 本発明の実施形態による、近接センサのエミッタ及び検出器が近接センサ内にどのように取り付けられているかを図15の較正ツールがいかにして識別するかを示す簡略図である。 本発明の実施形態による、近接センサのエミッタ及び検出器が近接センサ内にどのように取り付けられているかを図15の較正ツールがいかにして識別するかを示す簡略図である。 本発明の実施形態による、近位物体を検出する近接センサの簡略図である。 本発明の実施形態による検出値の2次元画像の簡略図である。 本発明の実施形態による、あるエミッタ−受信機ペアの、このペアのホットスポット位置に関連しない検出された反射値の簡略図である。 本発明の実施形態による、あるエミッタ−受信機ペアの、このペアのホットスポット位置に関連しない検出された反射値の簡略図である。 本発明の実施形態による、検出値の2次元画像における物体の検出された部分的外周の簡略図である。 本発明の実施形態による、物体の部分的外周を推定する方法の簡略図である。 本発明の実施形態による、3−D近接センサのエミッタの光路及び反射光路に対応する切妻屋根又は双曲放物面を示す図である。 本発明の実施形態による、3−D双曲面に沿って30個のホットスポット位置を提供する、円形基部に沿って交互に配置された6つのエミッタ及び6つの受信機の円形配置の簡略図である。 本発明の実施形態による、3−D双曲面に沿って176個のホットスポット位置を提供する、円形基部に沿って交互に配置された16個のエミッタ及び16個の受信機の円形配置から放出され反射された光ビームを表すグリッドの簡略図である。 本発明の実施形態による、ドアのロック及びロック解除方法の概略的なフローチャートである。 本発明の実施形態による、図27のロック及びロック解除方法を実施する自動車の簡略図である。 本発明の実施形態による、図28の自動車の室内の簡略図である。 本発明の実施形態による、ラップトップ用アクセサリとして構成された近接センサバーの簡略図である。 本発明の実施形態による、ラップトップ用アクセサリとして構成された近接センサバーの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置し、ディスプレイから離れて回転してディスプレイとキーボードとの間の空域内に検出面を提供する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、ラップトップディスプレイの縁部にそって位置し、ディスプレイから離れて回転してラップトップキーボードの表面に沿った検出面を提供する図30及び図31のラップトップ用アクセサリの簡略図である。 本発明の実施形態による、近接センサの組み立て工程の簡略フローチャートである。 図39の工程に従って組み立てられた近接センサの簡略図である。 本発明の実施形態による、物体を検出する近接センサの光ビームの簡略図である。 本発明の実施形態による、物体を検出する近接センサの光ビームの簡略図である。 本発明の実施形態による、近接センサと、そこから投影される光ビームとの簡略側面図である。 本発明の実施形態による、上方から見た近接センサレンズ及び関連する光学部品と、このレンズを通じて投影される光ビームとの簡略図である。 本発明の実施形態による、図44のレンズ325及び部品と、このレンズを通じて投影される光ビームとの簡略側面図である。 本発明の実施形態による、画面の隅部に位置するL字形光学近接センサの簡略図である。 本発明の実施形態によるジェスチャ識別方法の簡略フロー図である。 本発明の実施形態によるユーザインターフェイスの簡略図である。 本発明の実施形態による、ディスプレイ縁部の小区画に沿って位置する、表示パラメータを調整する光学近接センサの簡略図である。 本発明の実施形態による、車載インフォテインメントシステムGUIのフローチャートである。 本発明の実施形態による、図50、図53、図54及び図57の車載インフォテインメントシステムGUIのスクリーンショットである。 本発明の実施形態による、図50、図51及び図53〜図58の車載インフォテインメントシステムGUIで使用される通知カードを示す図である。 本発明の実施形態による、車載インフォテインメントシステムGUIのフローチャートである。 本発明の実施形態による、車載インフォテインメントシステムGUIのフローチャートである。 本発明の実施形態による、図50、図53、図54及び図57の車載インフォテインメントシステムGUIのスクリーンショットである。 本発明の実施形態による、図50、図53、図54及び図57の車載インフォテインメントシステムGUIのスクリーンショットである。 本発明の実施形態による、車載インフォテインメントシステムGUIのフローチャートである。 本発明の実施形態による、図50、図53、図54及び図57の車載インフォテインメントシステムGUIのスクリーンショットである。
以下の表に付番要素を列挙し、各付番要素が出現する図をリストする。類似する番号が付いた要素は同じタイプの要素を表すが、これらの要素が同一要素である必要はない。

本明細書全体を通じて、「光源」及び「エミッタ」という用語は、同じ発光素子、とりわけLED、VCSEL及びレーザを示すために使用しており、「センサ」及び「検出器」という用語は、同じ光検出素子、とりわけフォトダイオードを示すために使用している。
図1は、本発明の実施形態による、光源から実線に沿って放出され、破線に沿って光センサに反射される光の簡略図である。図1には、光が光源から平行ビームの形でどのように真っ直ぐ放出されるかを示す。障害物にぶつかった光は、拡散的に反射される。センサは、センサから2つの一定方向に延びる2つの狭い回廊(corridors)内で反射からの入射光を検出し、これらの反射は、光ビームの両側から同じ角度で離れるが、各ビームの両側では、例えばエミッタのビームから30°及び−30°である。
1つの光源からセンサに伝わる光の量は、障害物がどれほど光源のビームの中心に近いか、及び障害物がどれほどセンサの回廊の一方の中心に近いかに依存する。このような光源/センサペアは、「ホットスポット」と呼ばれる。ホットスポットに最も多くの光量をもたらす障害物の位置は、この光源/センサペアの「ホットスポット位置」又は「目標位置」と呼ばれる。本発明による近接センサは、各ホットスポットに伝わる光の量を測定し、このような各測定値は、「ホットスポット信号値」と呼ばれる。この測定は、全てのホットスポット信号値を同じ範囲になるように正規化する。
障害物にぶつかった光は拡散的に反射され、反射光は、光ビームの両側の2つの狭い回廊内で最大限に検出されるので、本明細書で言及する順方向検出は、第1の方向における全ての狭い検出回廊に基づき、逆方向検出は、第2の方向における全ての狭い検出回廊に基づく。換言すれば、順方向は、検出器の位置インデックスの方がエミッタの位置インデックスよりも大きなエミッタ−検出器ペアの全ての検出を含み、逆方向は、検出器の位置インデックスの方がエミッタの位置インデックスよりも小さなエミッタ−検出器ペアの全ての検出を含む。順方向は、装置の配向に応じて左又は右とすることができる。センサが逆方向を向くホットスポットは「逆方向ホットスポット」と呼ばれ、センサが順方向を向く逆の場合についても同様である。
図2は、本発明の実施形態による、逆方向及び順方向ホットスポット信号値、すなわちエミッタ−検出器ペアの信号値を示す図である。ホットスポット信号値は、全てのホットスポット位置、すなわちエミッタ−検出器ペアが反射値を検出するように物体を配置できる全ての位置にわたる高密度グリッド内の位置に配置された障害物を用いてサンプリングされる。図2には、3×3のホットスポット位置又は目標位置にわたる領域内の障害物位置における全てのホットスポット信号値のうちの最大値を、逆方向ホットスポット及び順方向ホットスポットについて別個に示す。図2〜図5では、逆方向ホットスポット信号値の図のみにホットスポット位置を付番要素961〜969として示す。図2〜図5では、図の煩雑性を避けるために、順方向ホットスポット信号値の図にはホットスポット位置を付番要素として示していない。
図3は、本発明の実施形態による、順方向ホットスポットの3×3グリッド内の上部真ん中のホットスポットと中心のホットスポットとの間の、すなわち3×3グリッド内の位置(2、1)におけるホットスポットと位置(2、2)におけるホットスポットとの間の信号値関係を示す図である。図4は、本発明の実施形態による、順方向ホットスポットの3×3グリッド内の右側真ん中のホットスポットと中心のホットスポットとの間の、すなわち3×3グリッド内の位置(3、2)におけるホットスポットと位置(2、2)におけるホットスポットとの間の信号値関係を示す図である。図5は、本発明の実施形態による、それぞれホットスポットの3×3グリッド内の、上部右側の逆方向ホットスポットと中心の逆方向ホットスポットとの間の信号値関係、及び上部真ん中の順方向ホットスポットと右側真ん中の順方向ホットスポットとの間の信号値関係を示す図である。図3〜図5は、2つの隣接するホットスポット信号値間の関係を示すものである。各曲線は、位相マップと同様の固定関係値に従う。また、図6は、本発明の実施形態による、2つの信号値v0及びv1(実線)間の関係が、これらの値の対数の差分(破線)として表されることを示す図である。図6は、r=log(v1)−log(v0)として表される関係を示すものである。この関係は、これらの信号値のいずれかの信号対ノイズ比(SNR)が低い時にはノイズにかき消される。
2つの垂直に隣接するホットスポット間の信号値関係は、図3の曲線に対応する。信号値が一定の標準偏差で正規分布すると仮定した場合、この仮定を用いて、図6によるホットスポット位置間の「交点」と呼ばれる内挿位置を発見することができる。第1の交点の隣のホットスポットとそのいずれかの側のホットスポットである2つの垂直に隣接するホットスポットにも同じことを行って第2の交点を形成する。その論理的根拠は、2つの交点間のどこかに障害物位置が存在することである。図3の曲線が全て直線であって平行であれば、この位置は正確になる。しかしながら、曲率によって不正確性が生じる。
このような曲率に対処するために、同じ方法を用いて、ただし水平に隣接するホットスポットの関係から交点間の位置を発見する。この場合の曲線が図4におけるものである。水平の交点を発見して両方の交点ペア間の位置を選択する代わりに近道を利用する。垂直の交点を垂直ホットスポットと考え、実際のホットスポット信号値と、各ホットスポットまでの相対的距離とに基づいて各信号値を推定する。交点の仮想ホットスポットの信号値関係は、直接的に障害物の位置をもたらす。
全ての障害物位置のホットスポット信号値は、ロボットによって記録されているので、障害物によって生じた信号と一致する信号を有するサンプルを見つけ出すことによって新たな障害物位置の発見が達成される。しかしながら、この処理は、高メモリ量及び高時間コストに起因して効率的でない場合がある。最も大きな信号値と隣接するホットスポットの信号値との間の関係を比較すれば十分とすべきである。
図7は、本発明の実施形態による、全てが比較的強いホットスポット信号値にわたる領域に三角形を用いてマーキングした図である。2次元信号関係から3次元位置及び反射率へのマッピングは、全ての三角形において同様であり、同じ水平帯における同じ配向の三角形では特にそうである。このことは、ほんのわずかな三角形群のみについてマッピングを学習して記憶すればよいことを意味する。図2では、3つのホットスポットによって結ばれる三角形領域が存在し、この領域内ではこれらの3つのホットスポット信号値が全て比較的大きいことを観察することができる。図7には、これらの領域のいくつかを描いている。このことは、これらの信号間の3つの対関係が領域内のノイズを上回ることを意味する。これらの3つの関係のうちの1つは、他の2つから導出されるので冗長である。このような三角形内では、2つの信号関係がその三角形内の位置にマッピングされる。この信号関係は、観察されるホットスポット信号値に対する障害物の反射率にもマッピングされる。これらの三角形領域は画面全体を覆い、従って障害物の位置及び反射率は、最も大きな信号値を有するホットスポットによって結ばれた三角形を見つけ出し、その信号関係を位置及び反射率にマッピングすることによって取得される。
このマッピング変換は、垂直信号関係(図3)及び対角線信号関係(図5)を入力とする。各次元で観察される最小から最大までの入力2D空間は、9×9グリッドのノードによって覆われる。各ノードは、三角形の辺によって結ばれた座標系で表される位置を含む。この位置は、三角形のわずかに外側に存在することができる。各ノードは、最も大きな信号値で乗算した時に障害物の反射率をもたらす補償因子も含む。入力に最も近い4つのノードは、共一次内挿法を用いて内挿される。
一定の閾値を上回る信号値を有し、その8つの隣接するホットスポット全てよりも強力な全てのホットスポットを、可能な検出のために評価する。最大ホットスポットを使用する6つの三角形全てを、検出に寄与する可能性のあるものとして選別する。各三角形に、その全てのホットスポット信号値の積として計算された重みを与える。最も大きなもの3つを維持し、これらの重みを4番目に大きな重みによって減少させる。残った三角形を評価し、選別に使用した重みを用いてこれらの結果を加重平均にまとめる。
周囲の三角形を評価すべき強力な信号の発見及び追跡は、2014年6月24日に出願された「光学近接センサ(OPTICAL PROXIMITY SENSORS)」という名称の本出願人の同時係属中の米国特許出願公開第14/312,787号、現在の米国特許第9,164,625に記載されるように行うことができる。
ロボットを用いてセンサの向かい側の既知の位置にスタイラスを配置し、結果として得られた検出信号を記録することにより、アルゴリズムの精度の定量化が可能になる。記録されたサンプル信号値を入力としてランダム順でアルゴリズムに送り、これらの入力に基づいて計算された検出位置を実際のサンプル位置と比較する。
図8は、本発明の実施形態による、100×64mmのタッチ画面にわたる検出誤差を示す図である。図8の右側の凡例に従って2Dエラーベクトルを色分けしている。凡例の円の半径は、5mmである。図8は、画面全体のサンプルについて誤差がどれほど大きいか、及びどの方向であるかを示すものである。
図9は、本発明の実施形態による、サンプルエラーベクトルの2Dヒストグラムを示す図である。軸の単位はmmである。図9には、誤差の分布を示す。以下の表Iに、定量化した精度値を示す。
図10〜図13は、本発明の実施形態による近接センサの簡略図である。図10〜図13には、本発明の教示による近接センサ501を示す。近接センサ501は、光源101〜110及び光センサ201〜211を含み、これらのセンサのうちの2つのセンサ間に各光源が存在する。近接センサ501は、レンズ301〜304などの複数のレンズも含み、各レンズは、これらのセンサのうちの2つの隣接するそれぞれのセンサに対し、そのレンズに光が鋭角の入射角θ1で入射した時には、その光が2つのセンサのうちの第1のセンサにおいて最大限に検出され、そのレンズに光が鈍角の入射角θ2で入射した時には、その光が2つのセンサのうちの他方のセンサにおいて最大限に検出されるように位置付けられる。レンズは、これらの2つのセンサ間に位置する光源に対し、光源からの光が近接センサ501から出射した時に平行になるように位置付けられる。この配列は、図1に関して上述した、投影光ビームの両側から離れて各センサから2つの一定方向に延びる2つの狭い回廊をもたらす。
図10には、物体801によって反射された光源104からの光がセンサ207によって最大限に検出される、光源/センサペア104/207によって生成されたホットスポット913の最大検出順方向反射経路を示しており、図11には、物体801によって反射された光源109からの光がセンサ207によって最大限に検出される、光源/センサペア109/207によって生成されたホットスポット914の最大検出逆方向反射経路を示している。図10及び図11は、センサ207が、レンズ303を介して最大順方向反射値を受け取り、レンズ304を介して最大逆方向反射値を受け取るように、隣接するレンズ303及び304に対してどのように存在するかを示すものである。
図1に関して上述したように、投影光ビームと最大検出回廊との間の近接センサ501の外側の交点は、ホットスポットのマップを提供する。図12及び図13には、4つのホットスポットを示しており、これらのうちの2つに940及び941の番号を付している。図12では、物体801をホットスポット940の最も近くに示している。従って、物体801の最大検出は、光源/センサペア104/202及び104/207によって生じる。上述したように、光源/センサペア104/202は逆方向検出を提供し、光源/センサペア104/207は順方向検出を提供する。光源105からの光ビームは散乱し、その一部はセンサ208に到達するので、例えば順方向検出光源/センサペア105/208などの他の光源/センサペアによってさらなる検出も生じるが、センサ208に到達する散乱光は、最大検出の回廊上を移動しないので、センサ208において検出される光の量は、光源/センサペア104/207によって生成されるものよりも大幅に少ない。
図13には、図12の近接センサを示しているが、物体801が距離dだけ右側に移動している。この場合、順方向光源/センサペア104/207及び105/208によって同様の量の検出が生じる。これらの各検出は、図3〜図7を参照しながら上述したように、図12の光源/センサペア104/207によって生じる検出よりも小さく、図12の光源/センサペア105/208によって生じる検出よりも大きい。ホットスポット940及び941間の物体801の位置は、光源/センサペア104/207及び105/208によって検出された光の量を内挿することによって計算される。図7を参照しながら上述したように、物体801の位置は、検出空間内の三角形の頂点である3つの隣接するホットスポットに対応する光源/センサペアによって検出された光量間に少なくとも2回の内挿を行うことによって計算される。
検出された光量の内挿方法を決定するために、既知の反射特性を有する較正物体を近接センサ501の外側の検出ゾーン内の既知の位置に配置する較正ツールを用いて、ホットスポット近傍の検出感度を計算する。各既知の位置では、複数の光源/センサペアを同期して作動させ、隣接する作動したセンサによって検出された光の量を測定する。物体が既知の位置間を移動した時に隣接する作動したセンサによって検出された相対的光量の反復パターンを識別する。これらのパターンを用いて、ホットスポット近傍にける近接センサ501の検出感度を定め、近位物体の位置を計算するために、この検出感度を用いて、検出された光量の内挿方法を決定する。
図14及び図15図は、本発明の実施形態による、図10〜図13の近接センサの較正ツールの簡略図である。図14に示す第1の較正ツールは、モータ803と、反射性較正物体806を近接センサバー501に対して矢印601及び602で示すように水平及び垂直に動かすシャフト804及び805とを含む。物体806が配置された各位置において、その位置の近くのホットスポットに対応する複数の光源/センサペアを作動させ、検出された光の量を使用してこれらのホットスポット近傍の検出感度を求める。共通光源を共有する複数の光源/センサペアを同時に作動させる。
いくつかの実施形態では、近接センサ501のいくつかの代表的なユニット上で図14又は図15のいずれかに示す較正ツールを使用し、この較正ツールから導出される内挿方法を他の同様のユニットに適用する。しかしながら、他の実施形態では、各個々の近接センサに合わせた内挿を行うために、近接センサ501の各ユニット上でいずれかの較正ツールを使用する。
図15には、反射性較正物体のサイズ及び形状が図14のものとは異なる第2の較正ツールを示す。図14では、較正物体806を、通常は近接センサバー501と共に使用される指又はスタイラスとしてモデル化しているが、図15では、較正物体807が、近接センサバー501の全長にわたるロッドである。このロッドは、通常は近接センサバー501と共に使用される皮膚又はスタイラスの反射特性と同様の反射特性を有する材料で覆われる。図15の較正ツールでは、シャフト805がシャフト804上の固定位置に留まり、物体807のみが、矢印602で示すように近接センサバー501に向かって、及び近接センサバー501から離れて移動する。この場合、物体807の各位置において光源が順に作動し、各光源の作動中、物体807からの有意な反射を検出することが合理的に予想できる光センサ201〜211のいずれかが作動する。いくつかの実施形態では、各光源が作動すると同時に光センサ201〜211が全て作動する。
較正ツールは、内挿方法の決定に加えて、光源/センサペアに対応するホットスポットの位置をマッピングするためにも使用される。多くの場合、ホットスポットの位置は、近接センサ501内の光源又は光検出器の不正確な配置又は位置合わせなどの機械的問題に起因して、予想されるホットスポットの位置からずれている。この目的で使用する場合、非常に多くの近接センサユニットを較正する必要があり、図15の較正ツールの方が図14の較正ツールよりも効率的である。
図16及び図17は、本発明の実施形態による、近接センサのエミッタ及び検出器が近接センサ内にどのように取り付けられているかを図15の較正ツールがいかにして識別するかを示す簡略図である。図16及び図17は、図15の較正ツールが光センサ(図16)又は光源(図17)の不正確な配置をどのように識別するかを示すものである。図16には、ホットスポット910、912、919、929及び939を含む3行のホットスポットを示す。これらは予想ホットスポット位置であり、すなわち近接センサ501は、これらの位置に物体が配置された時にそれぞれの作動中の光源/センサペアについて反射光の最大検出をもたらすように設計される。このことは、較正ロッド807が近接センサ501に近付いて動いた時に検証される。ホットスポットの各行は、近接センサ501から一定距離に位置する。H1、H2及びH3という3つの距離を示している。
図16には、近接センサ501内で光センサ207がその正しい位置よりもわずかに左側に配置されている時に、この光センサにおいて測定された最大検出がホットスポット位置919’、929’及び939’にどのように対応するかを示す。較正ロッド807は、予想距離とは異なる距離においてこれらの位置に入る。図16には、ホットスポット位置919’が近接センサ501から距離H3’に存在する時に、較正ロッド807がどのようにホットスポット位置919’に到達するかを示す。較正システムは、共通の光センサを共有して予想距離とは異なる距離で生じる一連の局所的最大検出を分析することによって、光センサの予想位置からのオフセットを検出する。いくつかの実施形態では、プロセッサ701がモータ803を制御し、又はモータ803からの入力を受け取り、実際の局所的最大検出に従ってそのホットスポットマップを更新する。
図17には、近接センサ501内で光源104がその正しい位置よりもわずかに左側に配置されている時に、光源104を含む光源/センサペアについて測定される最大検出が、予想ホットスポット位置916、926及び936から位置916’、926’及び936’にどのようにずれているかを示す。図17には、ホットスポット位置916’が近接センサ501から距離H3’に存在する時に、較正ロッド807がどのようにホットスポット位置916’に到達するかを示す。較正システムは、共通の光源を共有して予想距離とは異なる距離で生じる一連の局所的最大検出を分析することによって、光源の予想位置からのオフセットを検出する。
本発明による近接センサは、近位物体の部分的外周を推定するために使用される。図18は、本発明の実施形態による、近位物体を検出する近接センサの簡略図である。図18には、近接センサストリップ501と、近位物体802とを示す。物体802の縁部に沿った、センサに面する4つのホットスポット位置939〜942も示す。これらのホットスポット位置に関連する反射値を用いて、この縁部の輪郭を推定する。
上述したように、各ホットスポット位置は、1つ又は2つの光源/センサペアに関連する。図18では、ホットスポット位置940が、光源/センサペア104/202及び104/207に関連する。
反射値を用いて、反射面がどこに位置するかを示す反射値の2次元ピクセルイメージを生成する。例えば、近接センサ501内の全ての光源/センサペアの全てのホットスポット位置にそれぞれの正規化した反射値を割り当てた結果、2次元画像が得られる。異なる実施形態では、例えば8ビット画素値では0〜255、10ビット画素値では0〜1023などの、2次元画像内の各画素に与えられるビット数によって決定される範囲内で反射値を正規化する。
図19は、本発明の実施形態による検出値の2次元画像の簡略図である。図19には、検出面が下を向いた近接センサ501と、結果として得られた、この検出面内に位置する物体によって生成された反射値の2次元画像990とを示す。画像990の画素値は、8ビット値である。
各ホットスポット位置には複数の光源/センサペアが対応するので、2次元画像内のこの位置の反射値は異なる方法で得ることもできる。すなわち、順方向光源/センサペアを使用することも、或いは逆方向光源/センサペアを使用することもできる。いくつかの実施形態ではこれらの2つの値の平均を使用し、他の実施形態ではこれらの2つの値の最大値を使用して、いくつかの画素が順方向光源/センサペアから画素値を導出し、他の画素が逆方向光源/センサペアから画素値を導出するようにする。
光源/センサペアのいくつかの反射値は、対応するホットスポットにおける反射物体によるものではなく、むしろ完全に異なる位置における漂遊反射によるものである。図20及び図21に、これらの事例をどのように識別するかを示す。2次元画像内の対応する画素値は、識別されるとゼロにリセットされる。
図20及び図21は、本発明の実施形態による、あるエミッタ−受信機ペアの、このペアのホットスポット位置に関連しない検出された反射値の簡略図である。図20には、共通のエミッタビーム経路401に沿って整列したホットスポット位置940及び944を示す。ホットスポット位置940は、光源/センサペア104/202及び104/207に対応し、ホットスポット位置944は、光源/センサペア104/201及び104/208に対応する。図20からは、エミッタ104からのあらゆる光が、ホットスポット位置944に到達するかなり前に物体802によって遮断され、従って光源104の作動中にセンサ201及び208において検出されたあらゆる光はホットスポット位置944において反射物体によって生成されたものではなく、むしろ他の位置において物体から離れた漂遊反射であることが明らかである。従って、ホットスポット位置944にふさわしい反射値はゼロである。
この状態は、光源/センサペア104/202の検出された反射値が有意なものであることによって対応する位置940に反射物体が存在することが示され、従って光ビーム401が位置944に到達しないという事実によって特定される。さらに、レンズ及びセンサは、角度θ1で反射された時にセンサに最大検出が到達するように構成されているので、共通の光源を共有する全ての光源/センサペアの中で最大の反射を検出する光源/センサペアは、対応するホットスポット位置又はその近くの物体からの反射を検出するペアであることが明らかである。実際に、図20に示す例では、光源/センサペア104/201の検出値よりも光源/センサペア104/202の検出値の方がはるかに大きい。同じ理由で、光源/センサペア104/208の検出値よりも光源/センサペア104/207の検出値の方がはるかに大きい。図21に同様の状況を示しているが、この例では、共通の検出経路に沿って2つのホットスポット位置が存在する。
図21には、共通の最大検出反射経路403に沿って整列したホットスポット位置940及び945を示す。ホットスポット位置940は、光源/センサペア104/202に対応し、ホットスポット位置945は、光源/センサペア105/202に対応する。図21からは、1カ所からの光のみを経路403に沿って受信機202上に反射できることが明らかである。また、光源/センサペア104/202の検出される反射値は、光源/センサペア105/202の検出値よりも大きいので、ホットスポット位置940又はその近くに反射物体が存在し、光源/センサペア105/202の検出値は、ホットスポット位置945の反射物体によるものではないと仮定することが安全である。従って、ホットスポット位置945にふさわしい反射値はゼロである。
一般に、図17の経路401などの放出光路LP上には、近接センサ501からの異なる距離に、図17のホットスポット位置916、926及び936などの、P1、P2、...、PNで示す複数のホットスポット位置が存在する。これらの位置のうちのPiで示す1つの位置に物体が存在する場合、他のホットスポット位置Pi+j及びPi-kも、対応する検出値を有する。このような場合には、LP沿いのホットスポット位置の中で最大の検出値が検出されるホットスポット位置Pmaxを物体に対応するものと見なし、近接センサ501から離れたホットスポット位置の全ての検出値をゼロにリセットする。Pmaxと近接センサ501との間のホットスポット位置の検出値を維持する。多くの場合、上述したように物体位置の計算には2つのホットスポット位置Pmax及びPmax+1を使用し、このような場合、Pmax+1はゼロにリセットしない。
同様に、図16の経路402などの反射光路RP上には、近接センサ501からの異なる距離に、図16のホットスポット位置919、929及び939などの、P1、P2、...、PNで示す複数のホットスポット位置が存在する。これらの位置のうちのPiで示す1つの位置に物体が存在する場合、他のホットスポット位置Pi+j及びPi-kも、対応する検出値を有する。このような場合には、RP沿いのホットスポット位置の中で最大の検出値が検出されるホットスポット位置Pmaxを物体に対応するものと見なし、近接センサ501から離れたホットスポット位置の全ての検出値をゼロにリセットする。Pmaxと近接センサ501との間のホットスポット位置の検出値を維持する。多くの場合、上述したように物体位置の計算には2つのホットスポット位置Pmax及びPmax+1を使用し、このような場合、Pmax+1はゼロにリセットしない。
このようにして、2次元ピクセルイメージが精細化され、センサに面した物体の輪郭を表し始める。図22は、本発明の実施形態による、検出値の2次元画像における物体の検出された部分的外周の簡略図である。図22には、図19の検出画像990における検出された部分的外周989と、上述したような非ゼロの検出値を有するが適切な反射値はゼロである画素例915を示す。
次のステップは、この画像内の画素をフィルタ処理して、ホットスポット位置間の物体の輪郭の位置のサブピクセル精度を得ることである。サブピクセル値を計算した後に、2次元ピクセルイメージに様々なエッジ検出フィルタを適用して、センサに面する物体の縁部を識別し、漂遊反射を廃棄する。既知のエッジ検出フィルタとしては、Sobel、Canny、Prewitt、Laplace、gradientが挙げられる。このエッジ情報を用いて、物体のこの部分の長さ、すなわち物体の部分的外周及びその位置を特定する。
本発明の異なる実施形態によれば、物体の検出部分の長さが、異なる方法を用いて計算される。いくつかの実施形態では、物体の検出部分に沿った画素又はサブピクセルの数を求める。他の実施形態では、物体の検出部分に沿った各隣接する画素ペア又はサブピクセルペア間の距離の和を計算する。さらに他の実施形態では、物体の検出部分に沿った画素又はサブピクセルの各々を通る曲線の方程式を求め、この方程式に従って物体の部分的外周の長さを計算する。
いくつかの実施形態では、プロセッサの複雑性を緩和するために、最大検出値が存在する物体上の地点と、部分的外周沿いの2つの最も外側の地点という3つの地点に基づいて部分的外周の推定値を計算する。
図23は、本発明の実施形態による、物体の部分的外周を推定する方法の簡略図である。図23には、最大検出値が存在する地点940と、物体802の部分的外周に沿った2つの最も外側の地点939及び941とを示す。部分的外周の推定値は、地点939から地点940までの距離と、地点941から地点940までの距離との和である。システムは、この計算にあまり複雑性を加えずに計算を精密化するために、それぞれのホットスポット位置939〜941の直近のホットスポット位置を用いてこれら3つの位置のサブピクセル座標を計算するが、2次元ピクセルイメージ内の他のあらゆる画素のサブピクセル位置を計算しない。最大検出値が存在する地点940又はそれぞれのサブピクセル位置を物体の座標として使用する。
本発明の他の実施形態では、近接センサの形状が、2−D検出面ではなく3−D検出量を提供するように直線ではなく円形又は波形である。このような代替の実施形態では、エミッタ及び受信機が、近接センサ501内に存在する時に依然として交互になっており、各エミッタは、近接センサの上方の3D体積内に対応するホットスポットを有する光源/センサペアとして各受信機とペアになる。
図24は、本発明の実施形態による、3−D近接センサのエミッタの光路及び反射光路に対応する切妻屋根又は双曲放物面を示す図である。
図25は、本発明の実施形態による、3−D双曲面に沿って30個のホットスポット位置を提供する、円形基部に沿って交互に配置された6つのエミッタ及び6つの受信機の円形配置の簡略図である。図25には、本発明の実施形態による、3−D双曲面に沿って30個のホットスポット位置を提供するエミッタ101及び102と受信機201及び202とを示す。図25には、双曲面の高さに沿ったホットスポット位置の5つのリング991〜995も示す。
図26は、本発明の実施形態による、3−D双曲面に沿って176個のホットスポット位置を提供する、円形基部に沿って交互に配置された16個のエミッタ及び16個の受信機の円形配置から放出され反射された光ビームを表すグリッドの簡略図である。代替の構成は、必要最低限の双曲面では4つのエミッタ及び4つの受信機を含み、正8面体では3つのエミッタ及び3つの受信機を含み、正4面体では2つのエミッタ及び2つの受信機を含む。これらの3−D近接センサは、とりわけ空中で手を振るジェスチャを検出するために使用される。
本発明による近接センサは、タッチ画面、制御パネル及び新たなユーザインターフェイス面に数多くの用途がある。近接センサは、壁、窓などのあらゆる場所に取り付け、ノートブックに搭載し、そのアイテム上でタッチ及びジェスチャ検出を行うことができる。そして、これらの検出されたジェスチャを電子システムへの入力として使用する。例えば、壁の縁部沿いにセンサを取り付け、検出されたジェスチャを照明システムに伝えることにより、壁に沿ったジェスチャによって部屋の明かりを落とすことができる。近接センサを検出領域の1つの縁部のみに沿って取り付けて部品コストを抑え、タッチ画面及びタッチセンサ式制御パネルの工業設計にさらなる柔軟性をもたらすことも意義深い。
本発明によるドアロックシステムは、2つの動作モードを有する。第1のモードでは、トランスポンダ信号、キーフォブスイッチを押すこと、又は鍵穴に物理的な鍵を挿入して回転させることなどによる先行技術の方法を用いてドアのロック及びロック解除が行われる。第2のモードでは、ユーザがジェスチャセンサにジェスチャを入力することによってドアをロックする。その後、ユーザは、この同じジェスチャをジェスチャセンサに入力することによってドアをロック解除する。しかしながら、先行技術のジェスチャベースのロックシステムとは異なり、このロック解除ジェスチャは、ユーザがこのジェスチャを入力してドアをロックするまでロック解除ジェスチャとして定義されない。
図27図は、本発明の実施形態による、自動車のドアなどのドアのロック及びロック解除方法の概略的フローチャートである。この方法は、ステップ1001において、ドアを閉じた時に開始する。ステップ1002において、ドアロックシステムによってドアの閉鎖が検出され、これによってシステムが起動して、ロックシステムに接続された送信機ユニットを作動させてポータブルトランスポンダの位置を特定し、具体的には、このトランスポンダが自動車の内部などの閉じたドアの裏側の閉鎖された室内に存在するかどうかを識別する。このトランスポンダが閉鎖された室内に存在する場合、システムは、ドア、ドア近く又はドア外部でのジェスチャの検出を目的とするジェスチャ検出装置を作動させる。ステップ1003において、ジェスチャ検出装置がジェスチャを検出した場合、ステップ1004においてドアロックが作動し、検出されたジェスチャをメモリに記憶する。ステップ1005において、記憶されたジェスチャがジェスチャ検出装置によって再び検出されると、ステップ1006においてドアがロック解除される。
自動車などの複数のドアを通じて共通室内空間にアクセスできるいくつかの実施形態では、ドアの閉鎖が検出された時に、ステップ1001aにおいて共通室内への他の全てのドアが閉じている場合にのみ、ロックシステムがステップ1001から進む。
いくつかの実施形態では、ドアが閉じた時に、ステップ1001bにおいて閉鎖空間内に誰も残っていないことが確認された場合にのみジェスチャ検出装置が作動する。この確認は、モーションセンサ、カメラ、又は当業者に周知の他の手段を用いて行われる。
いくつかの実施形態では、ドアが閉じた時に、閉鎖された室内にトランスポンダが存在するかどうかを識別せずにジェスチャ検出装置が作動する。これにより、トランスポンダを含まないシステムにおいても本発明によるジェスチャロック及びロック解除方法を使用できるとともに、ユーザがドアを閉じる前に閉鎖空間からトランスポンダを取り出した時にもジェスチャロック及びロック解除方法を使用できるようになる。
いくつかの実施形態では、ジェスチャ検出装置が、運転席側ウィンドウの縁部沿いに取り付けられてウィンドウ外部で行われたジェスチャを検出する、上述した近接センサストリップである。他の実施形態では、他のタイプのジェスチャ検出装置、とりわけカメラ、光の遮断に基づく光学タッチ画面、漏れ全反射(FTIR)に基づく光学タッチ画面、光学近接センサ、容量式タッチ画面及び抵抗式タッチ画面が設けられる。他の実施形態では、ジェスチャ検出装置が、ドアの隣の壁におけるジェスチャ、ドアハンドル又はドアノブ上でのジェスチャ、或いはドアの正面の開放空間内のジェスチャを検出する。
異なるシステムでは、異なるタイプのジェスチャを検出することができる。ジェスチャ例としては、表面上の1又は2以上の箇所へのタッチ、表面上に1又は2以上の2次元線又はねじれた線を指で描くこと、例えば複数の指によるピンチ、拡大又は回転のジェスチャなどの、表面上に1又は2以上の2次元線又はねじれた線を複数の指で描くこと、手を振るジェスチャ、指を何本か立てること、手話ジェスチャ、全身の動きが挙げられる。
図28は、本発明の実施形態による、図27のロック及びロック解除方法を実施する自動車の簡略図である。図28には、ドア811及びサイドウィンドウ812を有する自動車を示す。ウィンドウ812の下方には近接センサストリップ501が取り付けられ、ウィンドウ812の外面に沿って光ビーム410を投影して、例えばこのウィンドウ上で指を滑走させることによって描かれる形状などのウィンドウ上のジェスチャを検出する。
いくつかの実施形態では、記憶されるジェスチャが、指で描かれた形状を含むが、この形状が最初に描かれたウィンドウ812上の位置は含まない。他の実施形態では、形状が最初に描かれたウィンドウ812上の位置も記憶され、ユーザは、ドアをロック解除するために同じ位置でジェスチャを再現しなければならない。
図29は、本発明の実施形態による自動車810の車内の簡略図である。図29には、運転席815、助手席816、グローブボックス813、運転席側ドア811及び運転席側ウィンドウ812を示す。グローブボックス813内には、ポータブル電子トランスポンダ503を示す。図では、ドア811内に送信機ユニット504が取り付けられ、ドアが閉じた時にトランスポンダ503に問い合わせを行って、トランスポンダが車内に存在するか、それとも車外に存在するかを判断する。トランスポンダが車内に存在する場合、送信機ユニット504は、この旨をキーレスエントリシステム820に通信し、このキーレスエントリシステムがジェスチャ検出装置(図29には図示せず)を作動させる。
図29は、自動車のダッシュボード内に取り付けられて、ドア811が閉じた後にいずれかの人々が車内に残っているかどうかを検出するモーションセンサ502も示す。センサ502は、キーレスエントリシステム820とも通信する。キーレスエントリシステム820は、車内に誰も存在しない場合にのみジェスチャ検出装置がロックを作動できるようにする。
本発明の実施形態によれば、非タッチ画面式ラップトップをタッチ画面式ラップトップに変換できるラップトップ用アクセサリが提供される。このアクセサリは、細長い近接センサアレイを特徴とする近接センサバーである。この近接センサバーは、ラップトップコンピュータ用のアクセサリとして説明するが、他のコンピュータディスプレイ、とりわけオールインワンコンピュータ、デスクトップコンピュータ、タブレット及びテレビにも有用である。この近接センサバーは、テーブル、壁又は窓などの非表示面を含むいずれかの表面を、電子装置を制御するジェスチャを行うタッチセンサ式表面に変換するのにも有用である。この近接センサバーは、別個の電子装置にユーザインターフェイスコマンドを通信するタッチセンサ用アクセサリに組み込まれた、上述の、とりわけ図10〜図26を参照しながら説明した近接センサのうちのいずれかを含む。
図30及び図31は、本発明の実施形態による、ラップトップ用アクセサリとして構成された近接センサバーの簡略図である。図30及び図31には、ワイヤ833を介してラップトップコンピュータ830に接続された近接センサバー510を示す。典型的には、ワイヤ833の端部に存在するUSBコネクタをラップトップ830のUSBソケットに挿入する。ラップトップコンピュータ830は、ディスプレイ831及びキーボード832を含む。ラップトップ830上で動作するオペレーティングシステムは、ラップトップコンピュータ830と、これに接続された近接センサバー510との間の、USB−HIDデジタイザを用いた通信を可能にするタッチ画面ユーザインターフェイスコマンドをサポートする。これにより、近接センサバーは、複数のタッチ座標を画面にマッピングし、これらの座標をラップトップに送信して1又は2以上のジェスチャとして解釈させることができる。いくつかの実施形態では、近接センサバー510が、検出された物体の座標を1本指トラックパッドとしてレポートすることによってマウス又はトラックパッド機能を提供するように構成される。ある実施形態では、近接センサバー510が、ジェスチャを回転、スクロール、ズーム、コピー、カット、ペーストなどのコマンドとして解釈し、タッチ座標又はジェスチャをレポートする代わりにこれらのコマンドをオペレーティングシステムに送信するように構成される。
近接センサバー510は、ハウジング511と、図32及び図35〜図38に示す光ビームを上述のような検出面内に投影するレンズ310とを含む。物体に反射されて検出面に挿入された光ビームは、レンズ310を通じて近接センサバー510に再入射する。
図32〜図36は、本発明の実施形態による、非タッチ画面式ディスプレイをタッチ画面式ディスプレイに変換する、ラップトップディスプレイの縁部に沿って位置する図30及び図31のラップトップ用アクセサリの簡略図である。図32〜図36には、ラップトップディスプレイ画面831の底縁部に取り付けられた近接センサバー510を示す。近接センサバー510によって検出される検出面は、近接センサバー510から投影された光ビーム401によって示すように、ラップトップディスプレイ画面831の表面と平行である。近接センサバー510は、ディスプレイ全体にタッチ感度をもたらすために、画面831の底縁部と同程度の長さである。近接センサバー510の異なるモデルは、異なる画面サイズをサポートするように異なるサイズで製造される。いくつかの実施形態では、ハウジング511が、ラップトップ830の画面831の底縁部の下方に磁気的に取り付けられる。検出面は、画面831に対する近接センサバー510の予想位置に従って画面の表面にマッピングされる。例えば、近接センサバー510は、4つの画面縁部のいずれかに沿って配置することができ、各配置は、画面に対して検出面を転置する。いくつかの実施形態では、ラップトップハウジング内に、近接センサバー510を受け取るソケットが設けられる。場合によっては、上述したワイヤ833、USBソケット及びプラグの代わりに、ソケット内に設けられたコネクタ、及び近接センサバー510上に設けられた対応する接続パッドを用いて近接センサバー510をラップトップ830に接続する。
図37は、本発明の実施形態による、ラップトップディスプレイの縁部に沿って位置し、ディスプレイから離れて回転してディスプレイとキーボードとの間の空域内に検出面を提供する図30及び図31のラップトップ用アクセサリの簡略図である。図37には、投影光ビーム401及び対応する検出面がディスプレイ831とキーボード832との間の空域内に向けられるようにディスプレイ画面831から離れて回転した近接センサバー510を示す。この構成は、写真及びプレゼンテーションの閲覧に有用であり、ユーザは、画面にタッチすることなく空中で検出面を横切ってユーザの手又は指をスワイプすることによってプレゼンテーションを前後に進める。図37に示す角度θは45°であるが、いずれの角度とすることもできる。いくつかの実施形態では、近接センサバー510が、検出面が画面の表面と平行であるか、それともディスプレイから離れた空域を向いているかに関わらず、ラップトップ830に同じ座標、ジェスチャ又はコマンドをレポートする。他の実施形態では、近接センサバー510が、検出面が画面の表面と平行である時と、検出面がディスプレイから離れた空域を向いている時とで、異なる座標、ジェスチャ又はコマンドをレポートする。他の実施形態では、検出面がディスプレイから離れた空域を向いている場合、近接センサバー510が、検出面が画面の表面と平行である時に近接センサバー510が使用する座標、ジェスチャ又はコマンドのサブセットを使用する。例えば、検出面がディスプレイから離れた空域を向いている時には、スィープジェスチャ及びピンチジェスチャなどの相対移動ジェスチャはサポートされるが、検出された物体の位置は特定の画面位置にマッピングされない。
図38は、本発明の実施形態による、ラップトップディスプレイの縁部にそって位置し、ディスプレイから離れて回転してラップトップキーボードの表面に沿った検出面を提供する図30及び図31のラップトップ用アクセサリの簡略図である。図38には、投影光ビーム401及び対応する検出面がキーボード832の表面と平行になるようにディスプレイ画面831から離れて回転した近接センサバー510を示す。この構成は、キーボード832の上面にタッチ機能を提供する。この構成では、近接センサバー510を、検出された物体の座標を1本指トラックパッドとしてレポートすることによってマウス又はトラックパッド機能を提供するように構成した場合、ラップトップ830が、通常は今日のラップトップのキーボードの下方に設けられているトラックパッドを排除することができる。むしろ、ユーザは、キーパッドの上面をトラックパッドとして使用することができる。いくつかの実施形態では、キーボード入力とトラックパッド入力の両方を可能にするために、キーを押した時にトラックパッド機能が一時停止し、キーを横切って指を動かし、動かした最後にいずれのキーも押さなかった時にトラックパッド機能が有効になる。図38に示す角度θは、90°よりも大きい。
2−in−1ラップトップとして知られている一部のラップトップは、ディスプレイの正面にキーボードを有するラップトップモードと、ディスプレイの正面に何も有していないタブレットモードの両方で構成することができる。タブレットモードの時には、例えばディスプレイが位置するテーブルトップと検出面とが平行になるように、近接センサバー510をディスプレイから離れた方に向けてディスプレイ画面の底縁部に沿って配置することができる。この時、ユーザは、テーブル表面上で行うジェスチャを用いてディスプレイ上のプレゼンテーション又はビデオを制御することができる。例えば、先送り又は後戻しを行うにはテーブル表面に沿って近接センサバー510と平行にスワイプし、ズームするにはテーブル表面上でピンチを行い、ディスプレイ上の画像を回転させるにはテーブル表面上で複数の指の回転ジェスチャを行う。
いくつかの実施形態では、近接センサバー510内の光エミッタが、垂直キャビティ面発光レーザ(VCSEL)などの半導体レーザダイオードである。これとは別に、他の光エミッタを使用することもできる。いくつかの実施形態では、近接センサバー510が、裸の半導体レーザダイオード、すなわちレンズのないベア半導体と、やはりレンズのない裸のフォトダイオードとをPCB上に配置することによって製造される。これらのレーザダイオード及びフォトダイオードに設けられる唯一のレンズは、図10に示すレンズ303及び304を含む細長い導光体などの導光ユニットである。この導光ユニットは、生産量の多い自動生産ラインによって、VCSELダイオードに対して非常に精度高く位置付けられる。
先行技術では、自動生産ラインにおいて部品支持体(PCB)上の孔パターンと配置すべき素子上のガイド(ピン)とを一致させることによって光学部品を位置合わせする。或いは、PCB上の基準マーカを用いて、PCBパターンに従う素子を配置する。
対照的に、本発明は、ダイオード自体を基準マーカとして用いて、この導光体をダイオードに関連付ける必要がある場所に正確に配置する。
いくつかの実施形態では、ダイオード素子を取り付ける前に、例えばUV光に曝すことによって素早く活性化できる接着剤をPCBに取り付けて、自動ピッキングユニットが解放する前に部品を固定する。従って、導光体をPCBに取り付ける前に、PCB上の適所に部品を取り付けて固定する。その後、自動生産ラインによって導光体をピックアップし、固定されたダイオードを基準マーカとして使用するビジョン技術によってPCB上に位置付けることにより、ダイオードとの正確な関係で導光体をPCB上に配置する。この正確な位置決め方法は、競争コストでの進化した高分解能用途の機会を高める。
図10に示す細長い導光体は、レンズ303及び304を含み、具体的にはそれぞれのエミッタ及び光検出器に対応する複数のレンズを含む。いくつかの実施形態では、各レンズが、その対応するエミッタに対して、このエミッタを基準マーカとして用いてPCB上で別個に組み立てられる。
図39は、本発明の実施形態による、近接センサの組み立て工程の簡略フローチャートである。この工程では、マシンビジョンを用いて光学部品を取り出してPCB上に配置するロボットを使用する。ステップ1007において、ロボットは、VCSEL半導体ダイオード又は半導体フォトダイオードなどの光学部品を配置すべき位置においてPCBに接着剤を塗布する。ステップ1008において、ロボットは、接着剤上に光学部品を配置し、ステップ109において、ロボットが光学部品を解放することなくUV光への露光によって接着剤を硬化させる。ステップ1010において、ロボットは、接着された光学部品のためのレンズを取り出す。光学部品は、パッケージを使用せずにPCBに取り付けられるので、小型サイズの部品は、レンズを配置するための基準マーカとして容易に使用される。従って、ロボットは、レンズを配置するための基準マーカとして光学部品を使用して、PCB上でレンズをその光学部品と位置合わせする。ステップ1011において、ロボットは、次の光学部品及びその対応するレンズに対してもステップ1007〜1010を繰り返して進む。
図40は、図39の工程に従って組み立てられた近接センサの簡略図である。各ステップにおいて、PCB上に1つのエミッタと1つのレンズとが組み立てられる。図40には、6つのエミッタレンズペアを取り付けた後の近接センサPCB512を示す。各エミッタ111〜116は、自動ピッキングユニットによってPCB512上に配置され、例えば上述したようなUV光への露光によってPCBに取り付けられる。次に、自動ピッキングユニットは、それぞれのレンズ311〜316を取り出し、対応するエミッタを基準マーカとして用いてPCB512上に取り付ける。この正確な配置を、エミッタ111とレンズ311との位置合わせを示す拡大挿入図に示す。その後は、残りのエミッタ及びそのそれぞれのレンズに対してこの工程を繰り返して、近接センサバー全体を組み立てる。
図41及び図42は、本発明の実施形態による、物体を検出する近接センサの光ビームの簡略図である。図41及び図42には、物体を検出するために使用される光路と、個々のレンズ構造321〜325とを示す。各レンズ構造は、それぞれの反対側のエミッタと、エミッタの左側及び右側に1つずつ存在する2つの検出器とに対応する。従って、例えばレンズ構造325は、エミッタ105と、検出器205及び206とに対応する。また、各検出器には2つのレンズ構造が対応し、例えば検出器205は、レンズ構造324及び325からの反射光を受け取る。図41及び図42に示す例では、エミッタ105からの光が物体(図示せず)によってレンズ構造323内に反射され、検出器203上に至る。図41及び図42には、3つの検出光セグメント、すなわちレンズ構造325から外に向かって近接センサの半径方向外向きに投影される光ビーム412と、物体によってレンズ構造323内に反射される光ビーム413と、レンズ構造323によって検出器203上に向けられる光ビーム414とを示す。
図43は、本発明の実施形態による、近接センサと、そこから投影される光ビームとの簡略側面図である。図43には、近接センサから半径方向外向きに投影される光ビームと、図41及び図42に示す光路の側面断面図とを示す。エミッタ105からの光ビーム411はレンズ構造325に入射し、ここで光ビーム412として外向きに方向を変える。
図44は、本発明の実施形態による、上方から見た近接センサレンズ及び関連する光学部品と、このレンズを通じて投影される光ビームとの簡略図である。図44には、エミッタ105からの光線411を平行にして、光線414をPD205上に集光するように構成されたレンズ325の平面図を示す。入射面/出射面326の異なる部分が、面326を通じて入射するエミッタ105からの光線411を平行にし、面326を通じてPD205上に出射する光線414を集光するように最適化される。実際には、このエミッタ105の反対側の面326の部分は凸形であるのに対し、PD205上への集光のために最適化された面326の部分は凹形である。従って、面326は、凹面と凸面が交互になっている。しかしながら、導光体325の残りの面は、入射する光ビーム411及び出射する光ビーム414の両方に対応し、これらの2組の光ビームは、面326のみにおいて異なる表面によって屈折する。
図45は、本発明の実施形態による、図44のレンズ325及び部品と、このレンズを通じて投影される光ビームとの簡略側面図である。図45には、エミッタビーム411を平行にして入射ビーム414をPD205上に集光するレンズ325を示す。レンズ325は、2つの内部平行反射面を形成する折り畳みレンズ構造を有する。折り畳みレンズ構造は、「光学タッチ画面(OPTICAL TOUCH SCREENS)」という名称の米国特許第9,063,614号に記載されており、その全体が引用により本明細書に組み入れられる。図41〜図45を参照して上述したレンズは、様々な近接センサに、とりわけ図1〜図39を参照して上述した近接センサ、全体が引用により本明細書に組み入れられる「ハンドル及びダッシュボードの光ベースタッチ制御(LIGHT−BASED TOUCH CONTROLS ON A STEERING WHEEL AND DASHBOARD)」という名称の米国特許第8,775,023号に記載されているタッチセンサ式ハンドル、及び全体が引用により本明細書に組み入れられる「光学近接センサを有するドアハンドル(DOOR HANDLE WITH OPTICAL PROXIMITY SENSORS)」という名称の米国特許出願公開第2015/0248796号に記載されている自動車ドア用近接センサに使用することができる。
図46は、本発明の実施形態による、画面の隅部に位置するL字形光学近接センサの簡略図である。この実施形態で使用する近接センサは、上述した近接センサのいずれかである。図46に示す実施形態は、標準的なトラックパッドに適した空間が存在しない場合、又は様々な理由でユーザが表面にタッチしたいと望まない場合、或いは画面の一部にタッチ感度を提供するための非常に安価な代替手段として、ディスプレイ装置上に、とりわけコンピュータモニタ、テレビ、タブレットコンピュータ又はラップトップコンピュータ上にマウストラッキング又はトラックパッド機能を提供する。図46には、ディスプレイモニタの隅部と、タッチ感知部分の拡大図とを示す。光学近接センサ519は、「L」字形に形成され、画面831の隣接する縁部の小区画に沿って位置する。光学近接センサ519は、検出面971及び972によって示すように画面の表面に対して垂直に、すなわち画面に顔を向けたユーザの方に光ビームを投影することにより、光学近接センサ519に隣接する画面831の2次元部分の上方の空域におけるX方向及びY方向の動きを追跡する。この空域は、空域内のX方向及びY方向の動きによって画面上のカーソルの動きの制御、又はスクロール及びズームなどの表示画像の操作を行う仮想トラックパッドとして機能する。いくつかの実施形態では、光学近接センサ519が、画面の表面に非垂直な角度で光ビームを投影する。
本発明のいくつかの実施形態では、センサ519が、掌又は指などの追跡される手の不均一な表面に基づいてセンサの上方の空域内の手の動きを追跡する。例えば、掌を追跡する際には、掌の表面の異なる部分が投影光を異なる形で反射することによって、センサが掌の異なる部分の動きの方向を識別し、これらの動きを単一方向のジェスチャに組み合わせることができる。
図47は、本発明の実施形態によるジェスチャ識別方法の簡略フロー図である。本発明の実施形態によれば、図47の方法は、物体の指向性運動を計算する。近接センサ519は、各サンプリング時点tにおいて、協働して作動するエミッタ−検出器ペアのうちの複数の局所的最大値を識別する。図47には、時点t1、t2〜tmにおいてそれぞれ追跡される複数の局所的最大値、a、b〜nを示す。近接センサ519は、一定の時間間隔にわたって各局所的最大値a、b〜nの同時移動をそれぞれ特定する。近接センサ519は、この時間間隔の最後に、これらの同時追跡した動きを単一の全体的な指向性運動に組み合わせ、この全体的な指向性運動をユーザ入力ジェスチャとして解釈する。近接センサ519がこれらの動作を行うことに言及しているが、本発明の範囲から逸脱することなく別個のプロセッサが工程の様々な動作を実行することもできる。また、最大値以外の反射値を追跡することもでき、例えば個々の最大値の代わりに、パターンを形成する一群の隣接する反射値を追跡することもできる。これらの複数の追跡パターンを組み合わせて全体的な動きを識別することができる。或いは、追跡した隣接する反射値のパターンを、識別された全体的な物体の動きとして使用する。
ユーザは、画面の上方の2次元スィープジェスチャを用いてカーソル又は画像を2次元で操作することに加え、L字形近接センサ519のX軸部分に沿って指をスライドさせることによって、カーソル又は画像をx軸に沿って移動させる。同様に、ユーザは、L字形近接センサのY軸部分に沿って指をスライドさせることによってカーソル又は画像をy軸に沿って移動させる。ユーザは、画面上のカーソル位置の項目を選択するには、近接センサ519上のいずれかの位置で近接センサ519をタップするが、このタップは、以前にタッチした位置で行う必要はない。
図48は、本発明の実施形態によるユーザインターフェイスの簡略図である。図48には、複数のアイコン又はボタン975〜977を表示するユーザインターフェイスを示しており、ここでは網掛けによって示すように1つのアイコン又はボタンが選択されている。どのアイコンが選択されるかはユーザの入力によって変化し、例えば網掛けがアイコン975からアイコン976に動くが、カーソル画像は示していない。この場合、上述したカーソルを動かすためのジェスチャによって、1つのアイコン又はボタンから別のアイコン又はボタンに選択が移動する。従って、図48では、近接センサ519によって左から右へのスィープジェスチャが検出され、これに応答して選択がアイコン975からアイコン976に移動する。上述したように、センサ519は、斜めのスィープジェスチャなどの2次元ジェスチャも検出し、ユーザの手などの物体が画面に向かって動いているか、それとも画面から離れて動いているかに基づいて接近ジェスチャもさらに検出する。これによって3次元のジェスチャが検出される。
図49は、本発明の実施形態による、ディスプレイ縁部の小区画に沿って位置する、表示パラメータを調整する光学近接センサの簡略図である。この実施形態で使用する近接センサは、上述した近接センサのうちのいずれかである。図49に示すモニタ831は、その底縁部の小区画に沿って位置する近接センサバー520を有する。近接センサバー520からの光ビームは、画面の表面と平行に向けられて検出領域973を形成する一方で、画面831の残りの部分は、非タッチ感知部分974を形成する。画面831上の検出領域973内には、輝度及びコントラストなどのモニタパラメータを調整するためのコントロール981及び982が提供される。例えば、ユーザは、メインメニュー981において、輝度、コントラスト、色及び音量の中から調整すべきパラメータを選択することができる。図49では、ユーザがメニューオプション983をタップして輝度を選択している。このタップに応答して、メインメニュー981は、検出領域973内でスライダコントロール982に置き換わり、ユーザは、スクロールノブ984をスライダバーに沿って右にドラッグして輝度を高め、左にドラッグして輝度を下げることができる。
別のユーザインターフェイスには、図50〜図58によって説明する、車両内に取り付けられたディスプレイ又はHUDのためのGUIがある。このGUIは、(i)アプリケーションカードを通じた文脈的ナビゲーション、並びに(ii)ネストレベルのメニュー及びリストを用いた階層的ナビゲーションという、GUIオプションを通じた2つの異なるナビゲーションモードを提供する。
図50、図53、図54及び図57は、本発明の実施形態による、車載インフォテインメントシステムGUIのフローチャートである。また、図51、図55、図56及び図58は、本発明の実施形態による、図50、図53、図54及び図57の車載インフォテインメントシステムGUIのスクリーンショットである。図50に示すように、ステップ1020において、使用頻度の高いメディア、電話、ナビゲーション、及びユーザに関するその他の文脈的イベントを表す複数のアプリケーションカードがディスプレイ上に配置される。いくつかの実施形態では、これらのカードが、ディスプレイを越えて延びる行内に配置され、ユーザは、ステップ1021〜1024に示すように、カードの行をパンして、カードをディスプレイの内外に動かす。ユーザは、あるアプリケーションカードをタップして、GUI内のアクティブなアプリケーションとして選択する。
図51に、ディスプレイ831を横切って水平行内に配置されたアプリケーションカード986〜988を示す。
再び図50を参照すると、ステップ1025〜1027において、GUIは、アプリケーションカードの行内でディスプレイの中央に挿入されたカードの形で通知を示し、行内の他のカードを左又は右に動かす。図52は、本発明の実施形態による、図50、図51及び図53〜図58の車載インフォテインメントシステムGUIで使用される通知カードを示す図である。図52には、着信の通知カード985を示す。ユーザは、着信の拒否などの通知の却下を行うには、図53のステップ1041〜1043のようにディスプレイ上で上向きスワイプを行う。ユーザは、着信の受け入れなどの通知の受け入れを行うには、図53のステップ1044及び1045のようにディスプレイ上でタップを行う。
再び図50を参照すると、ステップ1028〜1030において、ユーザがディスプレイの方に手を伸ばしたことなどの、ディスプレイに近付いたことに応答して、現在アクティブなアプリケーションカードの文脈的オプションのリストが表示される。図51のリスト項目900〜902は、現在アクティブなアプリケーション987のこのような文脈的リストを示すものである。
図54に、GUI内で文脈的リストが開かれた時の挙動を示す。ユーザは、ステップ1052〜1055のように左右にスワイプすることにより、引き続き文脈的アプリケーションカードの行をナビゲートすることができる。ステップ1051において、このようなナビゲーション中、文脈的オプションのリストは、どのアプリケーションカードがディスプレイの中心に存在するかによって変化する。ステップ1056及び1057において、リスト項目をタップすることによってその項目がアクティブになる。
再び図50を参照すると、ステップ1031〜1033において、GUIは、ディスプレイの下部がタップされたことに応答して、ネストレベルのメニュー及びリストを用いた階層的ナビゲーションを提供する。このタップ時には、アプリケーションカードの文脈的ナビゲーションと、ネストレベルのメニュー及びリストを用いた階層的ナビゲーションとが同時に提供される。従って、ユーザは、アプリケーションカードを通じていずれかのアプリケーションにアクセスして有効にするとともに、一連の階層的メニューを通じて同じアプリケーションを有効にする。
図55に、ディスプレイ831の下部がタップされたことに応答して開く、カテゴリ項目904〜908を含む主要メニューバー903を示す。いずれかのカテゴリ項目904〜908をタップすると、選択されたカテゴリ内のサブカテゴリを提示してディスプレイを上側部分と下側部分とに分割する二次メニューバーがディスプレイ831内に開く。
図56に、主要メニューバー903と、選択された主要カテゴリ906に関連する二次カテゴリ997〜999を含む二次メニューバー996とを示す。文脈的アプリケーションカード986〜988は、二次メニューバー996の上方でサイズが縮小し、依然としてこれまで通りにナビゲートして選択することができる。このことを図57のステップ1080〜1087に示す。図56、並びに図57のステップ1075及び1076に示すように、二次メニューバー996内のいずれかの二次カテゴリをタップすると、二次メニューバー996の下方の関連オプション、とりわけ978〜980のリストが開く。図57のステップ1077及び1078に示すように、いずれかのリスト項目をタップすると、その項目が有効になる。
図58に、アプリケーションカードの文脈的ナビゲーションと、ネストレベルのメニュー及びリストを用いた階層的ナビゲーションとが同時に示されている時の着信通知を示す。二次メニューバー996の上方のアプリケーションカード内に通知カード985が挿入される。ユーザは、着信の拒否などの通知の却下を行うには、二次メニューバー996上で上向きスワイプを行う。ユーザは、着信の受け入れなどの通知の受け入れを行うには、通知985をタップする。
上記の明細書では、特定の例示的な実施形態を参照しながら本発明を説明した。しかしながら、これらの特定の例示的な実施形態には、本発明の幅広い趣旨及び範囲から逸脱することなく様々な修正及び変更を行えることが明らかであろう。従って、明細書及び図面は、限定的な意味ではなく例示的な意味で考慮すべきである。
105 光源
205 検出器
325 レンズ
326 入射面/出射面
411 光線
414 光線

Claims (13)

  1. 近位物体を識別する近接センサであって、
    ハウジングと、
    前記ハウジング内に取り付けられて、前記ハウジングから外に光を検出ゾーンの中に投影する複数の光エミッタと、
    前記ハウジング内に取り付けられて、作動時に到達する光の量を検出する複数の光検出器と、
    前記ハウジングの第1のエッジに沿って、取り付けられた複数のレンズであって、
    Lで示す各レンズは、前記検出器のうちのD1及びD2で示す2つのレンズに対し、前記レンズLに光が鋭角の入射角θ1で入射する時には、前記レンズLに入射する前記光が光検出器D1において最大限に検出され、前記レンズLに光が鈍角の入射角θ2で入射する時には、前記レンズLに入射する前記光が光検出器D2において最大限に検出されるように位置付けられるレンズ、と、
    エミッタ−検出器ペアを同期して作動させるとともに、前記エミッタ及び前記検出器に接続されたプロセッサと、を備え、
    前記プロセッサは、
    各エミッタ−検出器ペア(E、D)について、前記ペア(E、D)が作動した時に検出器Dによって検出された反射光の量に基づいて反射値R(E、D)を求め、前記ペア(E、D)に対応する前記検出ゾーンにある目標位置p(E、D)に前記反射値R(E、D)を関連付け、
    前記求められた反射値R(E、D)と前記目標位置p(E、D)に対応する、画素位置pにおける反射値Rpのピクセルイメージを生成し、
    前記ハウジングの前記第1のエッジの方向に対して最も外側に存在する、前記反射値R p が指定閾値を上回る2つの画素位置p 1 及びp 2 を識別し、
    対応する画素位置p*における最大反射値R_max p* をさらに識別し、
    1 からp*までの距離と、p 2 からp*までの距離とを合計することによって、
    前記検出ゾーンにある物体の部分的輪郭のサイズを計算するように構成される、
    ことを特徴とする近接センサ。
  2. 露出したタッチ面の縁部に隣接して位置し、これによって前記検出ゾーンが前記タッチ面上該タッチ面を横切っており、前記検出器によって検出された光の量に基づいて、前記タッチ面と相互作用する物体を検出するようになっている、請求項1に記載の近接センサ。
  3. 前記検出器間に、光検出器D1に到達するθ1とは異なる角度でレンズLに入射する光を遮断するバッフルをさらに備える、
    請求項1に記載の近接センサ。
  4. 前記検出器間に、光検出器D2に到達するθ2とは異なる角度でレンズLに入射する光を遮断するバッフルをさらに備える、
    請求項1に記載の近接センサ。
  5. 前記検出器間に、レンズLに入射して検出器D1及びD2に到達し、前記検出器以外のいずれの検出器にも到達しない光を制限するバッフルをさらに備える、
    請求項1に記載の近接センサ。
  6. 検出器Dは、第1のレンズL1についてD=D1であるとともに、レンズL1に隣接する第2のレンズL2についてD=D2であるように位置付けられる、
    請求項1に記載の近接センサ。
  7. 前記エミッタ、前記検出器及び前記レンズは、各エミッタEにつき、前記物体がEに対応する目標位置p(E)に位置する時に、エミッタEによって放出された前記光が前記物体によって前記レンズに向かって逆反射され、2つの検出器によって最大限に検出されるように配置される、
    請求項1に記載の近接センサ。
  8. 近位物体を検知する方法であって、
    検出器Dと、それぞれが異なる検出器間に位置する複数のエミッタEとを含むストリップを準備するステップと、
    各エミッタ−検出器ペア(E、D)について、該ペア(E、D)に対応する目標位置p(E、D)に物体が位置する時に、エミッタEによって放出された光が前記物体によって散乱されて検出器Dによって最大限に検出されるように前記エミッタ及び検出器が配置されたエミッタ−検出器ペア(E、D)を同期して協働的に作動させるステップと、
    各エミッタ−検出器ペア(E、D)について、前記同期して協働的に作動させるステップによって前記ペア(E、D)が作動した時に検出器Dによって検出された反射光の量に基づいて反射値R(E、D)を求め、該反射値R(E、D)を、前記ペア(E、D)に対応する前記目標位置p(E、D)に関連付けるステップと、
    前記求められた反射値R(E、D)及び前記目標位置p(E、D)に対応する、画素位置pにおける反射値Rpの2次元ピクセルイメージを生成するステップと、及び、
    前記ピクセルイメージに基づいて前記物体の部分的外周を推定するステップと、
    を含み、
    前記物体の部分的外周を推定するステップは、
    前記ストリップの方向に対して最も外側に存在する、前記反射値R p が指定閾値を上回る2つの画素位置p 1 及びp 2 を識別するステップと、
    対応する画素位置p*における最大反射値R_max p* をさらに識別するステップと、 p 1 からp*までの距離と、p 2 からp*までの距離とを合計するステップと、
    を含むことを特徴とする方法。
  9. 1又は2以上の目標位置pの各々は、それぞれの複数の反射値R(E、D)を有する複数のエミッタ−検出器ペア(E、D)に対応し、前記求めるステップは、前記反射値のうちの最大値をRpに割り当てるステップを含む、
    請求項に記載の方法。
  10. 1又は2以上の目標位置pの各々は、それぞれの複数の反射値R(E、D)を有する複数のエミッタ−検出器ペア(E、D)に対応し、前記求めるステップは、前記反射値の平均値をRpに割り当てるステップを含む、
    請求項に記載の方法。
  11. 前記物体の部分的外周を推定するステップは、前記合計するステップの前に、
    1、p2及びp*に隣接する画素位置におけるそれぞれの目標位置に対応するさらなる反射値を識別するステップと、
    前記目標位置における前記反射値に基づく各目標位置の重みを用いて、p1、p2及びp*に隣接する画素位置における目標位置のそれぞれの加重平均p_avg1、p_avg2及びp_avg*を計算するステップと、
    をさらに含み、前記合計するステップは、p_avg1からp_avg*までの距離と、p_avg2からp_avg*までの距離と、を合計する、
    請求項に記載の方法。
  12. 前記ピクセルイメージを生成するステップの後であって前記識別するステップの前に、各エミッタEについて、
    前記エミッタEが光を放出する方向における画素位置の線に沿った前記反射値Rpを分析するステップと、
    前記線に沿った対応する画素位置p*における最大反射値R_maxを識別するステップと、
    前記画素位置の線に沿って前記ストリップからp*よりもさらに離れた画素位置pにおいてRp=0を設定するステップと、
    をさらに含む請求項に記載の方法。
  13. 前記2次元ピクセルイメージを生成するステップの後であって前記識別するステップの前に、各検出器Dについて、
    前記検出器Dが反射光を最大限に検出する方向における画素の線に沿った反射値Rpを分析するステップと、
    前記線に沿った位置p*における最大反射値R_maxを識別するステップと、
    前記画素の線に沿って前記ストリップからp*よりもさらに離れた画素位置pにおいてRp=0を設定するステップと、
    をさらに含む請求項に記載の方法。
JP2017539236A 2015-01-26 2016-01-19 光学近接センサ及び関連するユーザインターフェイス Active JP6571785B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201562107536P 2015-01-26 2015-01-26
US62/107,536 2015-01-26
US201562197813P 2015-07-28 2015-07-28
US62/197,813 2015-07-28
US201562266011P 2015-12-11 2015-12-11
US62/266,011 2015-12-11
PCT/US2016/013927 WO2016122927A1 (en) 2015-01-26 2016-01-19 Optical proximity sensor and associated user interface

Publications (2)

Publication Number Publication Date
JP2018510400A JP2018510400A (ja) 2018-04-12
JP6571785B2 true JP6571785B2 (ja) 2019-09-04

Family

ID=56544180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017539236A Active JP6571785B2 (ja) 2015-01-26 2016-01-19 光学近接センサ及び関連するユーザインターフェイス

Country Status (4)

Country Link
EP (1) EP3250989B1 (ja)
JP (1) JP6571785B2 (ja)
KR (1) KR101984417B1 (ja)
WO (1) WO2016122927A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9921661B2 (en) 2012-10-14 2018-03-20 Neonode Inc. Optical proximity sensor and associated user interface
US10282034B2 (en) 2012-10-14 2019-05-07 Neonode Inc. Touch sensitive curved and flexible displays
US9164625B2 (en) 2012-10-14 2015-10-20 Neonode Inc. Proximity sensor for determining two-dimensional coordinates of a proximal object
EP3497757A1 (en) * 2016-09-19 2019-06-19 Apple Inc. Vertical emitters integrated on silicon control backplane
WO2018097943A1 (en) * 2016-11-22 2018-05-31 Neonode Inc. Touch sensitive curved and flexible displays
US10825952B2 (en) 2017-01-16 2020-11-03 Apple Inc. Combining light-emitting elements of differing divergence on the same substrate
JP6956333B2 (ja) * 2017-02-10 2021-11-02 パナソニックIpマネジメント株式会社 車両用入力装置
JP6834644B2 (ja) * 2017-03-21 2021-02-24 富士ゼロックス株式会社 入力装置、画像形成装置及びプログラム
US11381060B2 (en) 2017-04-04 2022-07-05 Apple Inc. VCSELs with improved optical and electrical confinement
CN108989494B (zh) * 2018-06-27 2021-02-09 北京小米移动软件有限公司 一种电子设备
US11322910B2 (en) 2019-02-21 2022-05-03 Apple Inc. Indium-phosphide VCSEL with dielectric DBR
WO2020205166A1 (en) 2019-04-01 2020-10-08 Apple Inc. Vcsel array with tight pitch and high efficiency
US11374381B1 (en) 2019-06-10 2022-06-28 Apple Inc. Integrated laser module
EP4085321A4 (en) * 2019-12-31 2024-01-24 Neonode Inc CONTACTLESS TOUCHLESS INPUT SYSTEM
WO2022137744A1 (ja) * 2020-12-22 2022-06-30 株式会社村田製作所 センサ、ヘルメット、および、計測方法
KR102528860B1 (ko) * 2021-05-10 2023-05-03 세종대학교산학협력단 무선 광 통신 및 충전시스템

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4033550B2 (ja) * 1998-05-20 2008-01-16 株式会社キーエンス 光学装置、光電スイッチ、ファイバ型光電スイッチおよび色識別センサ
US6690363B2 (en) * 2000-06-19 2004-02-10 Next Holdings Limited Touch panel display system
US7321359B2 (en) * 2003-07-30 2008-01-22 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Method and device for optical navigation
KR20090019338A (ko) * 2007-08-20 2009-02-25 삼성전자주식회사 광학 센서
US8775023B2 (en) 2009-02-15 2014-07-08 Neanode Inc. Light-based touch controls on a steering wheel and dashboard
US9063614B2 (en) * 2009-02-15 2015-06-23 Neonode Inc. Optical touch screens
US8917239B2 (en) * 2012-10-14 2014-12-23 Neonode Inc. Removable protective cover with embedded proximity sensors
JP2013149228A (ja) * 2012-01-23 2013-08-01 Yoshihiro Wada 位置検出装置、および位置検出プログラム
US9164625B2 (en) 2012-10-14 2015-10-20 Neonode Inc. Proximity sensor for determining two-dimensional coordinates of a proximal object
US9741184B2 (en) 2012-10-14 2017-08-22 Neonode Inc. Door handle with optical proximity sensors
EP3005047B1 (en) 2013-05-30 2018-10-31 Neonode Inc. Optical proximity sensors
CN104281254A (zh) * 2013-07-12 2015-01-14 上海硅通半导体技术有限公司 一种手势识别装置
DE202014104143U1 (de) 2014-09-04 2014-09-12 Asia Vital Components Co., Ltd. Detektionsvorrichtung eines Touchscreens

Also Published As

Publication number Publication date
EP3250989A1 (en) 2017-12-06
EP3250989B1 (en) 2021-09-08
WO2016122927A1 (en) 2016-08-04
KR20170105536A (ko) 2017-09-19
JP2018510400A (ja) 2018-04-12
KR101984417B1 (ko) 2019-05-30
EP3250989A4 (en) 2018-08-15

Similar Documents

Publication Publication Date Title
JP6571785B2 (ja) 光学近接センサ及び関連するユーザインターフェイス
US10802601B2 (en) Optical proximity sensor and associated user interface
US8681124B2 (en) Method and system for recognition of user gesture interaction with passive surface video displays
JP5544042B2 (ja) ジェスチャを使用してレーザトラッカを制御する方法及び装置
KR101304096B1 (ko) 감지 어셈블리를 갖는 전자 장치 및 오프셋 제스처를 해석하는 방법
JP5853016B2 (ja) 光ベースのタッチスクリーンのためのレンズ配列体
CN101128794B (zh) 手持式基于视觉的绝对指向系统
US8896575B2 (en) Pressure-sensitive touch screen
US8269175B2 (en) Electronic device with sensing assembly and method for detecting gestures of geometric shapes
US20110163998A1 (en) Light-based touch screen with shift-aligned emitter and receiver lenses
US20110169780A1 (en) Methods for determining a touch location on a touch screen
CN102754048A (zh) 用于位置探测的成像方法和系统
US20100123665A1 (en) Displays for Mobile Devices that Detect User Inputs Using Touch and Tracking of User Input Objects
CN101663637A (zh) 利用悬浮和点击输入法的触摸屏系统
JP2022007868A (ja) 空中像表示入力装置及び空中像表示入力方法
US9250749B2 (en) Electrical apparatus
US11842014B2 (en) Contactless touch input system
US9377903B2 (en) Portable optical touch system
WO2021260989A1 (ja) 空中像表示入力装置及び空中像表示入力方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180910

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20181210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190805

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190808

R150 Certificate of patent or registration of utility model

Ref document number: 6571785

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250