JP6725805B2 - 端末装置を制御するためのシステム及び方法 - Google Patents

端末装置を制御するためのシステム及び方法 Download PDF

Info

Publication number
JP6725805B2
JP6725805B2 JP2017560899A JP2017560899A JP6725805B2 JP 6725805 B2 JP6725805 B2 JP 6725805B2 JP 2017560899 A JP2017560899 A JP 2017560899A JP 2017560899 A JP2017560899 A JP 2017560899A JP 6725805 B2 JP6725805 B2 JP 6725805B2
Authority
JP
Japan
Prior art keywords
sensor
mounting surface
additional
terminal device
data signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017560899A
Other languages
English (en)
Other versions
JP2018506940A5 (ja
JP2018506940A (ja
Inventor
ボッシャーニッツァン,ヤニフ
ネザー,オハド
Original Assignee
スワン ソリューションズ インコーポレーテッド
スワン ソリューションズ インコーポレーテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=56615744&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP6725805(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by スワン ソリューションズ インコーポレーテッド, スワン ソリューションズ インコーポレーテッド filed Critical スワン ソリューションズ インコーポレーテッド
Publication of JP2018506940A publication Critical patent/JP2018506940A/ja
Publication of JP2018506940A5 publication Critical patent/JP2018506940A5/ja
Application granted granted Critical
Publication of JP6725805B2 publication Critical patent/JP6725805B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/043Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using propagating acoustic waves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)
  • Selective Calling Equipment (AREA)

Description

本発明は、テレビジョン、照明器具、サーモスタット、ラップトップ等の端末装置用の手動制御システムに関するものである。特に、本発明は、制御される端末装置から独立した外部の取付面上の制御システムに関するものである。更に言えば、本発明は、取付面に対するジェスチャーを検知し、検知したジェスチャーに基いて端末装置用のコマンドを生成するシステムに関するものである。
電子技術の進展に伴い、出力機器ないし端末装置は、日常的に使用され、利便性と機能性を高めるために益々インタラクティブ機能と一体化されている。今やユーザーは、光、カーテン、サーモスタット等を調節するために、遠隔制御装置等の制御システム又はコントローラを用いることができる。既存の制御システムには、制御すべき特定の出力又は端末装置に専用の、かつ、関連する別個の遠隔制御装置が含まれる。遠隔制御装置は、電子装置用のマスターコントローラ、照明と室温を制御するための家具又は壁と一体化されたタッチスクリーンコンピュータタブレット等の二つ以上の端末装置と関連させることもできる。インターフェース(キーボード、マウス、タッチパッド又はタッチスクリーン)を備えたコンピュータは、スマートテクノロジーを持つ複数の端末装置用の遠隔制御装置となり得る。携帯電話もホームセキュリティカメラ、ドアロック等の端末装置の制御を可能にすることが知られている。既存の制御システムには音声認識技術も含まれる。
既存の制御システムには限界がある。各出力装置又は端末装置は、典型的には、ケーブルボックス用のコントローラ、DVDプレーヤー用のコントローラ、サウンドミキサー用のコントローラ等のそれぞれの遠隔制御装置に関連している。多数の装置を遠隔制御するためには、多数のコントローラが必要である。更に、個々のコントローラは、間違った場所又はユーザーには容易に手が届かない場所に置かれることがしばしばある。ユーザーは、コントローラを探し、あるいは、コントローラの場所を変えなければならない。加えて、音声認識技術は、しばしば、各特定ユーザーの発音とアクセントを計測するための面倒なトレーニングセッションを必要とする。更に、音声認識技術は、しばしば、バックグランドノイズが障害となり、制御システムが口頭のコマンドを認識することが困難となる。更に、音声のコマンドにより生ずる音は、他人が眠っている部屋、映画を見ている部屋等の多くの環境において邪魔物となる。
複数の端末装置と関連する、例えば、タッチスクリーンを備えたコンピュータタブレット、タッチパッドを備えたコンピュータ等の遠隔制御装置は、家具に組み込み、又は、家具と一体化することができる。スマートテーブルは、タッチベースのジェスチャーを受けることができるタッチスクリーン付きで作製されてきた。このようなタッチスクリーン又はタッチパッドを家具等の構造体の表面に組み込む場合には、遠隔制御装置を収容するために要求される設計修正のために該構造体のコストは大幅に増大し、構成要素とハードウェアのコストも同様である。更に、美学面でもしばしば影響を受ける。家具、壁及び周囲の物にタッチスクリーン、タッチパッドその他の顕著な装置を組み込むときに、外観が変わってしまう。このようなハードウェアを家具に組み込むために、メーカーはハードウェアを構造体を収納することができるように既存のデザインの修正することが求められる。
従来技術の制御システムは、テレビジョンのリモートコントローラのボタンから携帯電話のタッチスクリーンまである。専用ボタンを押すという単純なジェスチャー、及び、タッチスクリーンに対する指の動きの複雑なジェスチャーは、いずれも端末装置を制御するために用いられる。これらの手動制御システムの分野においては、種々の特許と刊行物が入手可能である。
2014年7月22日、ステッドマン等に与えられたアメリカ特許第8788978号にコンピュータのジェスチャー感知インターフェースを開示している。「ピンチズーム」機能を内容とするものであり、第一インタラクションポイントと第二インタラクションポイントとが検知され、当該ポイント間の相対運動がセンサーにより検知される。タッチスクリーン、カメラ、モーションセンサー及び近接センサーを含む種々のセンサーが分野を限定するために開示されている。
2013年11月7日、ベスに発行された世界知的所有権機関のWO2013165348号公報は、表面を備えたエリアの異なる場所に配設された少なくとも三つの加速度計を備えたシステムであって、ユーザーが該表面にタップしたコマンドに対応する各々の振動データを捉えるようにしたものを開示している。処理システムが各加速度計からの振動データを受け、該振動データからコマンドとユーザーの場所を特定する。該コマンドと場所とに基く制御信号が生成される。
2014年8月14日、シュパント等に発行されたアメリカ特許公報第20140225824号は、柔軟なルームコントロールを開示している。制御装置は、第一の光を部屋の壁に近接するユーザーの手を含む場面に向け、該場面から反射した当該第一の光を受け、第二の光を該壁に向けて該壁に制御装置の像を映すようにしたプロジェクターを含む。プロセッサーは投影フィールド内の手の動きを検知する。
2012年10月4日、マシオッチ等に発行されたアメリカ特許公開公報第20120249416号は、ジェスチャー識別を備えた別の投影システムを開示している。プロジェクターは、ユーザーの身体に取り付けられ、壁、テーブル等の面に投影する。空間データはセンサーアレイにより検知される。追加のレンダリング操作は、認識された身体部分の動きを追跡し、予め定められたジェスチャーを検知するために追跡された動きに検知アルゴリズムを適用し、検知された予め定められたジェスチャーに対応するコマンドを適用し、適用されたコマンドに応答して投影画像を更新する。
2010年1月28日、ヴァン ロエネンに発行されたアメリカ特許公開公報第20100019922号は、タッピングによるインタラクティブ面の公知技術である。音の検知は、制御されるシステム又はセンサー自体においてフィルタリングされ、解釈される。表面をさする手の動きの方向は、例えば、テレビジョンの音量レベル等のパラメータを減少または増加させるコマンドとして解釈される。ユーザーの手の位置を決定することは不要である。
簡単な一組のボタン又は複雑なタッチパッドを含む従来技術の制御システムについては、遠隔制御装置の表面のタッチセンシティブ領域と非タッチ領域との間には離散境界又は区別がある。タッチセンシティブ領域は、ボタン、キーパッド、又は表面に統合されたタッチパッドの外縁により規制される。したがって、人の手と作動させた端末装置のボタン又はタッチパッドとの間に接触インタラクションが生じた瞬間にコマンドがしばしば処理される。従来技術の光検知装置については、タッチセンシティブ領域として可視光の離散境界がある。投影光が働いた時、投影光の領域内のジェスチャーのみが端末出力のコマンド用の制御システム内で処理される。
タッチセンシティブ領域と非タッチ領域との間の境界を除去し、全表面をインタラクティブゾーンとする必要がある。障害のある人にとっては、高すぎる位置にあるスイッチ又はタッチスクリーンのようなタッチセンシティブ領域には手が届かないかも知れない。神経筋の問題その他の身体的制約のある人にとっては、タッチスクリーンに正しくインタラクションするために十分なモーター制御を行うことはできないかも知れない。端末措置を制御するとき、年長者は、ボタン又はタッチスクリーンを十分に見るために助けを必要とするかも知れない。広範囲の身体的能力を持つすべてのユーザーのために、手動制御システムを改良する必要がある。
本発明の目的は、端末装置を制御するためのシステム及び装置を提供することにある。
本発明の目的は、端末装置を制御するための手動システムを提供することにある。
本発明の目的は、ジェスチャーに基くインタラクティブ制御システムを提供することにある。
本発明の別の目的は、端末装置から独立した表面に対する物理的インパクトに基くインタラクティブ制御システムを提供することにある。
本発明の別の目的は、関連する取付面を介する接触インタラクションにより端末装置を制御するシステムの実施例を提供することにある。
本発明の別の目的は、外側表面と調整し又は合わせたインタラクティブゾーンにより端末装置を制御するシステムの実施例を提供することにある。
本発明の別の目的は、センサーにより設定されたインタラクティブゾーン内の接触インタラクションとしてジェスチャーを検知するためのインタラクティブ制御システムの実施例を提供することにある。
本発明の別の目的は、取付面と関連する接触インタラクションをデータ信号として検知するように端末装置を制御するシステムの実施例を提供することにある。
本発明の更に別の目的は、データ信号に基くデータパターンを決定するように端末装置を制御するシステムの実施例を提供することにある。
本発明の更に別の目的は、検知されたデータパターンを端末装置のコマンドと関連するジェスチャープロファイルと一致させるように端末装置を制御するシステムの実施例を提供することにある。
本発明の更に別の目的は、センサーにより検知された接触インタラクションを、検知されたデータパターンと一致させたジェスチャープロファイルに関連するコマンドに変換することにより端末装置を制御するシステムの実施例を提供することにある。
本発明の上記その他の目的と利点は、添付の明細書から明らかとなる。
本発明による制御システムの実施例は、独立した取付面を端末装置のコントローラに変えるものである。壁又はテーブル等の如く物理的に分離した取付面は、テレビジョン又は照明器具を、ユーザーがいずれの器具にも触れることなく、オンオフさせることができる。制御システムは、取付面に係合するハウジングと、該ハウジング内のセンサーと、該センサーとコミュニケーションを行うサーバーと、該サーバーとコミュニケーションを行う端末装置とを含む。該端末装置は、該取付面と関連するジェスチャーにより制御される。
ハウジングは、該ハウジングを取付面の外側、下側又は内側に配設することができるように、取付面用の係合手段を備えている。テーブル、壁等の平面の他、ベッド等の非平面も取付面となり得る。該係合手段は、ハウジングを該取付面に取り付ける取付手段と、該センサーをハウジングに接続する伝達部とを含む。一部の実施例においては、該伝達部は、ハウジング内のセンサーの減衰を小さくするようにバネ装着部を備えている。
センサーは、該センサーの範囲により規定されるインタラクティブゾーンを形成し、該インタラクティブゾーンは取付面と合わせる。該インタラクティブゾーンは、取付面と同一平面上にあり、もしくは該取付面上に被さり、又は該取付面と一体的に形成される。センサーは係合手段に対する関係で固定された位置にあるため、該インタラクティブゾーン内における該取付面との接触インタラクションはデータ信号としてセンサーにより検知される。別の実施例においては二つ以上のセンサーがある。追加のセンサーと共に、取付面上の同じ接触インタラクションを検知するための追加のインタラクティブゾーンが配設されている。追加のセンサーからの追加のデータ信号はセンサーのデータ信号と共に検知される。
接触インタラクションは、ハウジングの伝達部を介して、センサーのデータ信号を生成する。一部の実施例においては、接触インタラクションは取付面に対する単数又は複数のインパクトよりなり、データ信号は、各インパクトに対応するそれぞれ規定されたピークと、規定された各ピーク間の測定された期間と、規定された最後のピーク後の規定された期間とを有する。各接触インタラクションのデータパターンは、規定された各ピークと、規定された最後のピーク後の規定された期間、及び複数のインパクトがある場合には規定された各ピーク間の規定された各期間とにより決定される。センサーが音響センサーである場合には、データ信号は音量、強度、ピッチ、周波数、期間等のサウンドデータである。センサーが加速度計である場合には、データ信号は振幅、強度、期間等の振動データである。機械的能力、光機能及び圧電能力を備えたセンサー等の他のセンサーも制御システムに組み込むことができる。タッピング、ノッキング、スイーピング、ドラッギング等の接触インタラクションはデータ信号として検知され、以て本発明により、ユーザーの種々のジェスチャーが端末装置の活動を制御するために使用することが可能となる。二つ以上のセンサーを備えた別の実施例においては、データ信号と追加のデータ信号は、接触インタラクションのデータパターンを決定するために使用することができる。
本発明のサーバーは、センサーとコミュニケーションを行うが、WiFi、ブルートゥース(登録商標)、ローカルエリアネットワーク、又はその他の無線接続には限定されない。サーバーは、ルーティングモジュールと、該ルーティングモジュールに接続された処理モジュールと、該処理モジュールに接続された出力モジュールとよりなる。ルーティングモジュールはセンサーからデータ信号を受け取り、処理モジュールは、接触インタラクションのデータ信号に対応するデータパターンを決定する。二つ以上のセンサーの場合には、データパターンはあるセンサーのデータ信号に対応し、追加のデータ信号は他のセンサーに対応する。処理モジュールは、データパターンをジェスチャープロファイルと一致させる。該ジェスチャープロファイルはコマンドに関連する。一致した後、出力モジュールはコマンドを端末装置に伝達する。
端末装置は、機器、照明器具又は気候調節機であるが、その例は、テレビジョンと、サーモスタットと、コンピュータと、ソフトウエアシステムと、ゲーム機と、スマートフォンと、ソフトウエアを実行する装置と、ファンと、マットレス調節器と、目覚まし時計と、照明器具とを含む。端末装置は、受信モジュールと、コマンドに対応する端末装置の活動を開始させる手段とを備えたものであってもよい。端末装置の活動は、ランプのオンオフ、サーモスタットの温度の上げ下げ、スマートフォンの電話の応答、テーブル上のカレンダーソフトウエアのチェック、テレビジョンのチャンネルの変更等の特定の端末装置に専用のものであってもよい。サーバーとコミュニケーションを行う受信モジュールはコマンドを受け、開始させる手段はその活動を行う。開始させる手段は、スイッチその他端末装置の状態を変更させるための他の作動機構でよい。
本発明の実施例は、更に、本発明のシステムにより端末装置を制御する方法を含む。係合手段により取付面にハウジングを取り付ける。サーバーはセンサーとコミュニケーションを行うように接続され、端末装置は該サーバーとコミュニケーションを行うように接続される。接触インタラクションを生成するように取付面に物理的インパクトが行われ、センサーは該接触インタラクションをデータ信号として検知する。サーバーは、センサーからデータ信号を受け、該接触インタラクションのデータ信号に対応するデータパターンを決定する。データパターンはコマンドに関連するジェスチャープロファイルに合わせられる。コマンドは端末装置に伝達され、該端末装置は該コマンドに対応する活動を行う。取付面に対するジェスチャーは、該取付面が端末装置から独立していても、該端末装置を制御する。
図1は、本発明による制御システムの実施例の概略図である。 図2は、本発明のシステムにより端末装置を制御する方法の実施例を示す流れ図である 図3は、本発明による制御システムのハウジングとセンサーの実施例の概略図である。 図4は、図3のハウジングとセンサーの実施例の側面図である。 図5は、本発明による取付面上のハウジングの実施例の上方からの斜視図である。 図6は、本発明による取付面上に複数のセンサーを備えたハウジングの別の実施例の平面図である。 図7〜9は、本発明による制御システムのハウジングとインタラクティブゾーンと取付面を示す概略図である。
本発明の制御システムは、種々の範囲の身体能力を備えたあらゆるタイプのユーザー用の手動制御システムである。いかなる独立した取付面も端末装置用のコントローラに変換することができる。取付面と関連した単純なジェスチャーにより種々の場所における端末装置を制御することができる。専用コントローラのボタン若しくはスイッチにアクセスし、又はタッチスクリーン上の複雑なメニューを見て操作することは、もはや必要ではない。テレビジョン、サーモスタット等の器具は、該器具に物理的に触れることなく、これを起動させ又は停止させることができる。ユーザーは端末装置としての器具に物理的に到達する必要はない。壁、テーブル面等の別個の取付面は、タッチセンシティブ領域境界のないコントローラに変換される。独立した面に対する単純な物理的インタラクションが端末装置を制御することができる。
図1〜2において、制御システム10は、取付面22に係合するハウジング20と、該ハウジング20内のセンサー30と、該センサー30と関連するサーバー40と、該サーバー40と関連する端末装置50とを含む。該サーバー40には、制御システム10と相互作用をするためにインターフェース99が接続される。該インターフェース99は、コンピュータ、ラップトップ、タブレット及びスマートフォンを含む。図1は、種々のインターフェース99を示す。インターフェース99は、制御システム10の設定をユーザーに可能ならしめる。取付面22に関連するユーザーのジェスチャーは、図5、図7〜9の端末装置50を制御する。一部の実施例においては、インターフェース99としての装置は端末装置50でもある。
図3〜4において、ハウジング20は取付面22用の係合手段24を備えている。図5、図7〜9は、該ハウジング20を取付面22の外側若しくは下側又は内側に配設し得ることを示している。ベッド等の非平面はもとより、テーブル、壁等の平面も取付面22となり得る。図4は、ハウジング20を取付面22に取り付ける取付手段26と、センサー30をハウジング20に接続する伝達部28とを備えた係合手段24の一実施例を示す。取付手段26は、接着剤、機械的ファスナー、ネジ、あるいはハウジング20を取付面22に保持する他の部材とする。他の実施例においては、伝達部28は、フレームとブラケット38又は減衰を小さくするようなバネ装着部(図示せず。)を備えている。ハウジング20を介しての取付面22に対するセンサー30の位置決めは厳格である。取付面22のいかなる音又は振動もセンサー30に伝達される。係合手段24はセンサー30を取り付け、センサー30が取付面22をより正確に検知するように減衰を小さくする。伝達部28は、取付面22からセンサー30への音若しくは振動その他の刺激に影響を与える。
本発明の制御システム10は、図3〜4に示すように、センサー30を有する。ハウジング20は、フラッシュメモリー31とマイクロコントローラユニット(MCU)33とセンサーユニット35とアンテナ37と発光ダイオード39とを有するプリント回路基板34’よりなるセンサー30を備えている。センサーユニット35は加速度センサー又は音響センサーである。マイクロコントローラユニット33とアンテナ37は、サーバー40とのコミュニケーションのためのWiFi機能を有する。センサー30のセンサーユニット35とハウジング20の伝達部28との関係が示されている。センサー30の厳格な位置は、センサー30に対する接触インタラクションの伝達を確立する。ハウジング20内の他の部品としては、制御システム10用の既知の電源としてのバッテリー36が含まれる。ハウジング20とセンサー30との安定した構造は、ジェスチャーを端末装置50に対するコマンドに正確かつ効率的に変換することを可能ならしめる。
図5、図6は、センサー30の範囲34により定まるインタラクティブゾーン32を形成するセンサー30の実施例を示す。該インタラクティブゾーン32内の取付面22との接触インタラクションは、データ信号としてセンサー30により検知される。図5、図6は、取付面22に合わせたインタラクティブゾーン32を示し、特に、該インタラクティブゾーン32は取付面22と同一平面上にあることを示す。取付面22に対する接触インタラクションは、取付面22のセンサー30により検知される。一例として、ハウジング20はテーブル上に載置され、テーブルトップをノックすることにより端末装置50を制御することができる。ノック用のテーブルトップと取付面22とは同一の構造である。
図7〜9は、インタラクティブゾーン32を種々の位置で取付面22に合わせた他の実施例を示す。図7、図8は、取付面22上に同一平面上に重ねたインタラクティブゾーン32を示す。図7は、取付面22としての壁の背面側に配設したハウジング20を示す。接触インタラクションは取付面22とは反対側の壁面にあるが、該壁面に対するノッキングは取付面22に、続いてセンサー30に、伝達される。同様に、図8は、取付面22としてのテーブルの下面側に配設したハウジング20を示す。接触インタラクションは取付面22と反対側のテーブルトップに対して行われる。テーブルトップに対するノッキングは該テーブルの底面にある取付面22に、続いてセンサー30に、伝達される。図9は、テーブル内に埋設される等、取付面22と一体的に配設されたインタラクティブゾーン32を示す。取付面22はテーブルの内部にあり、テーブルトップは取付面22ではない。接触インタラクションは取付面22と関連しており、接触インタラクションは必ずしも取付面22上に直接行われなくても、該接触インタラクションは取付面22を介して検知される。本発明においては、センサー30は係合手段24に対する関係で固定された位置にあるため、接触インタラクションは該取付面22を介してセンサー30に伝達される。取付面22を介しての動きと音波と振動は、該取付面22と係合手段24とを介して可能な限り効率的にセンサー30に伝達される。
ハウジング20の係合手段24は、いかなる接触インタラクションも係合手段24の伝達部28を介してセンサー30のデータ信号を生成するように該センサー30と協同する。音又は振動としての接触インタラクションの減衰は小さい。伝達部28は、取付面22又はインタラクティブゾーン32における実際のノッキング面よりも減衰が小さい。一部の実施例においては、伝達部28はセンサー30へのデータ信号の伝達に影響を及ぼす。取付面22に関連するセンサー30の剛性部分は、伝達部28を介する接触インタラクションの減衰を小さくする。伝達部28は、取付面22の材料と異なる可撓性、又は取付面22と異なるのであれば接触インタラクションの表面と異なる可撓性、を備えた射出成形フレーム等の剛性材料により構成してもよい。バネ装着部(図示せず。)を備えた実施例においては、伝達部28のバネ装着部は、同じではないにしても、取付面22又は接触インタラクションの表面よりも減衰が小さい。センサー30への伝達部28を介した接触インタラクションの伝達のためのバネ装着部を用いると音又は振動の減衰が小さくなる。例えば、伝達部28としてのバネ装着部は、接触インタラクションの音又は振動の減衰を小さくするように、ハウジング20を取付面22により近く、かつ、より強く保持することができる。センサー30のデータ信号は、センサー30への伝達のための取付面22に関連するハウジング20内のセンサー30の関係を有しないシステムに比べて、明瞭度と正確性が向上する。センサー30は、プリント回路基板34’の両側のハウジング20に関連して、安定させることができる。また、プリント回路基板34’は、該プリント回路基板34’の周囲の複数の点で保持してもよいが、これには120度又は90度の間隔で配設したブラケットが含まれる。センサー30は、取付面22からの搖動と振動とを防ぎ、該センサー30が取付面22に対し正しい関係を維持するように、所定の位置に保持される。
図2は、本発明の一実施例の流れ図であって、サーバー40に関連してセンサー30のデータ信号を示すものである。接触インタラクション60は、ハウジング20の伝達部28を介してセンサー30のデータ信号70を生成する。本発明においては、接触インタラクション60は、取付面22に関連する単数又は複数のインパクトよりなる。図5、図6において、テーブルトップに対するノッキングは取付面22に対するノッキングでもあるため、接触インタラクション60は取付面22に対する直接的なものとなる。図7〜9において、壁又はテーブルの関連面に対するノッキングは、接触インタラクション60である。これらの実施例において、関連面に対する単数又は複数のインパクトは接触インタラクション60であり、取付面22に対するインパクトではない。当該インパクトは、取付面22用の調整、対応、又は翻訳が行なわれ、該取付面22を介してデータ信号70としてセンサー30に検知される。
制御システム10の実施例において、データ信号70は、各インパクトに対応するそれぞれ規定されたピークと、規定された各ピーク間の測定された期間と、規定された最後のピーク後の規定された期間とを有する。各ピークは、ベースライン又はバックグラウンドアクティビティからの急増により検知されるデータの明確なスパイクである。各接触インタラクション60のデータパターン80は、規定された各ピークと、規定された最後のピーク後の規定された期間、及び複数のインパクトがある場合には規定された各ピーク間の規定された各期間とにより決定される。図2は、単数又は複数のインパクトからなる接触インタラクション60の場合の実施例を示す。単一のノック又は連続するノックは接触インタラクション60となり得る。制御システム10は、一回のタップ、3回の速いノック、2回のタップその他の連続よりなる接触インタション60のデータパターン80を決定する。タッピング、ノッキング、スイーピング、ドラッギング等の接触インタラクション60は、センサー30によりデータ信号70として検知される。本発明により、ユーザーの種々のジェスチャーが端末装置50の活動の制御のために利用することが可能となる。
本発明のセンサー30は、制御システム10の他の構成要素と同じ関係を持つ既知のセンサーでよい。該センサーは、機械式センサー、光センサー、圧電センサー、振動センサー又は他の種類のメーターでよい。一実施例におけるセンサー30は、データ信号70が接触インタラクション60のサウンドデータよりなるようにした音響センサーである。該サウンドデータは、音量と強度とピッチと周波数と期間とそれらの組み合わせとの少なくとも一つでよい。別の実施例におけるセンサー30は、データ信号70が接触インタラクションの振動データよりなるようにした加速度計である。該振動データは、振幅と強度と期間とそれらの組み合わせとの少なくとも一つでよい。データパターン80は、サウンドデータ又は振動データのデータ信号70から決定することができる。
図1、図2は、センサー30とコミュニケーションを行うサーバー40の実施例を示す。このコミュニケーションは、無線であると有線であるとを問わない。サーバー40とセンサー30との間の接続は、図1に示すように、ルーター42を含むこともあるが、WiFi、ブルートゥース、ローカルエリアネットワーク、又はその他の接続をも含むこともある。図1におけるサーバー40は、ルーティングモジュール44と、該ルーティングモジュール44に接続された処理モジュール46と、該処理モジュール46に接続された出力モジュール48とよりなる。図2によれば、ルーティングモジュール44はセンサー30からデータ信号70を受け取る。該データ信号70は、取付面22と関連する接触インタラクション60と対応する。処理モジュール46は、接触インタラクション60のデータ信号70に対応するデータパターン80を決定する。処理モジュール46は、データパターン80をジェスチャープロファイル90と一致させる。プロファイル90は、電源の切断、チャンネルの変更、強度の低下等のコマンドと関連している。出力モジュール48はコマンドを端末装置50に伝える。例えば、端末装置50がテレビジョンである場合には、二つのノックの接触インタラクション60はデータパターン80を生成するデータ信号70として検知される。データパターン80は、チャンネルを1チャンネル上げることと関連するジェスチャープロファイル90に合わせる。出力モジュール48は、端末装置50としてのテレビジョンに対し、サーバー40を介してチャンネルを1チャンネル上げるというコマンドを伝える。車いすの高齢者は、テレビジョンの専用ボタンを見つけ出したり、スマートフォンのタッチスクリーンをいじくりまわしたりすることなく、テーブルトップを2回ノックすることによりチャンネルを変えることができる。
制御システム10における端末装置50は、スイッチ50’’’を有するテレビジョン、ステレオ、コーヒーマシーン等の器具である。また、端末装置50は、ソフトウェアを実行する装置、及びサーモスタット、ファン、照明器具等のスイッチ50’を有する光又は気候の調整器であってもよい。端末装置50の活動は端末装置50による。その活動は特定の端末装置50独自のものである。ジェスチャープロファイル90と関連するコマンドは特定の端末装置50に関するものである。テーブルトップに対する2回のノックは、制御システム10により、テレビジョンのチャンネルを変更するコマンド、サーモスタットの温度を下げるコマンド、あるいは、コンピュータのオンラインカレンダーソフトウエアプログラムのエントリーを行うコマンドに変えることができる。制御システム10は、複数の端末装置50、50’’に使用することもできる。あるコマンドのジェスチャープロファイル90は、特定の端末装置50の活動に独特のものである。センサー30からのコマンドを受けるために、二つ以上の端末装置50をサーバー40に接続することもできる。
図6の別の実施例は、追加のセンサー130を備えた制御システム10を示すものである。ハウジング20は、センサー30と追加のセンサー130として示されている複数のセンサーを備えることができる。追加のセンサー130と共に、取付面22上の同じ接触インタラクション60を検知するための追加のインタラクティブゾーン132が配設されている。追加のインタラクティブゾーン132は、追加のセンサー130の追加の範囲134により規定される。同様に、追加のインタラクティブゾーン132は、センサー30と同じ関係で取付面22に合わせる。けだし、追加のセンサー130は同じハウジング20内にあるからである。追加のセンサー130は、ハウジング20の係合手段24に関して固定された位置にあり、サーバー40とコミュニケーションを行う。追加のインタラクティブゾーン132内の取付面22と関連する接触インタラクション60は、追加のデータ信号として追加のセンサー130により検知され、処理モジュール46は、センサー30のデータ信号70と追加のセンサー130の追加のデータ信号とに対応するデータパターン80を決定する。図6は、追加のセンサー130の追加のインタラクティブゾーン132と重複するセンサー30のインタラクティブゾーン32を示す。センサー30と追加のセンサー130とは、二つの音響センサー若しくは二つの加速度計又はその一つずつの如く、同じであっても異なっていても差し支えない。データパターン80は、ジェスチャープロファイル90とのマッチングの信頼性を高めるためにより頑丈なものにしてもよい。バックグラウンド干渉と解決は、より高い一貫性を持ってフィルタリングすることができる。
本発明の実施例は、図1、図2に示す端末装置50を制御する方法を含む。この方法は、センサー30をハウジング20に内設した状態で係合手段24により取付面22にハウジング20を配設することを含む。センサー30は、該センサー30の範囲34により規定され、取付面22に合わせたインタラクティブゾーン32を形成する。この方法は、更に、センサー30とコミュニケーションを行うサーバー40を接続し、該サーバー40とコミュニケーションを行う端末装置50を接続することを含む。
物理的インパクトが取付面22と関連してインタラクティブゾーン32内で生じ、接触インタラクション60が生成される。接触インタラクション60はセンサー30によりデータ信号70として検知される。該データ信号70はセンサー30からサーバー40に送られる。一部の実施例においては、サーバー40は、ルーティングモジュール44と、該ルーティングモジュール44に接続された処理モジュール46と、該処理モジュール46に接続された出力モジュール48とを備えている。更に、端末装置50は受信モジュール52を有することもある。データ信号70は、サーバー40のルーティングモジュール44で受信され、処理モジュール46は、接触インタラクション60のデータ信号70に対応するデータパターン80を決定する。データパターン80は、処理モジュール46によりジェスチャープロファイル90と一致する。各ジェスチャープロファイル90は、端末装置50により、コマンドと関連付けらえる。該コマンドは、例えば、テレビジョンのチャンネルを変更し、あるいは、サーモスタットの温度を下げる等、特定の端末装置50に指定される。この方法は、コマンドを、サーバー40の出力モジュール48により端末装置50の受信モジュール52に伝達することを含む。続いて、端末装置50は、コマンドに応じて活動を行う。
別の実施例は、接触インタラクション60が二つ以上の物理的インパクトであり、データパターン80が二つ以上のインパクトにより決定されるように、取付面22に関連する複数の物理的インパクトを行うことを含む。更に別の実施例は、サーバー40に接続された追加のセンサー130を有するハウジングを含む。接触インタラクションを、センサー40でデータ信号70として検知することと、追加のセンサー130で追加のデータ信号70として検知することとを組み合わせたステップ。また、ルーティングモジュールでセンサーからのデータ信号を受信するステップは、更に、ルーティングモジュール44で追加のセンサーからの追加のデータ信号170を受信することを含む。複数のセンサーにより、データパターン80を決定するステップは、更に、データ信号70と追加のデータ信号170とに対応するデータパターンを処理モジュール46で決定するステップを含む。また、この方法は、ハウジング20が複数のセンサー30、130を有するときに、複数の物理的インパクトを行うことを含む。
本発明は、端末装置50を制御するシステム及び方法である。ユーザーは端末装置を手動で制御するが、これは従来技術の手動制御とは異なる。従来技術のシステムは、専用の遠隔制御装置における特定の活動専用の簡単なボタンから、単純な端末装置の制御のみよりもはるかに大きな機能性を備えたタッチスクリーンまである。特に身体能力が種々に異なるユーザーにとって、アクセシビリティと複雑さにおける深刻な欠点がある。本発明は、考えられるあらゆるユーザーの種々の身体能力に対処するためにジェスチャーに基くインタラクティブ制御システムを提供するものである。この制御システムは、従来技術におけるアクセシビリティと複雑さという不利益を伴うことなく、装置を制御する独立した面に対する物理的インパクトとしてノッキング、タッピングその他のジェスチャーを可能ならしめるものである。端末装置から独立した外部の面がコントローラとなる。取付面と関連し、かつ、センサーのインタラクティブゾーン内の接触インタラクションは、端末装置による実際のパフォーマンスに変換するためのデータ信号として検知される。
本発明は、数多くの利点と用途を提供するものであると説明したが、これらの利点と用途は上記説明に限定されるものではない。本発明の実施例は図面を参照して説明されているが、このような参照は、いかなる意味においても、本発明を限定するものではない。上述の実施例と変形例は、添付の特許請求の範囲とその均等物により解釈すべきものである。
本発明の前記の開示と記述は、例示的かつ説明的なものである。例示の構造、構成及び方法は、本発明の要旨から逸脱することなく、細部を種々に変更することが可能である。

Claims (13)

  1. 取付面22用の係合手段24を有するハウジング20を備え、
    該ハウジング20にはセンサー30を内設し、該センサー30は該センサー30の範囲34により定まるインタラクティブゾーン32を形成し、該センサー30は加速度計であり、該インタラクティブゾーン32は該取付面22と合わせると共に前記ハウジングの周囲の外側の該取付面22上に重ね、該センサー30は該係合手段24に対する関係で固定された位置にあり、該インタラクティブゾーン32内の該取付面22と関連する接触インタラクション60は該センサー30によりデータ信号70として検知され、該接触インタラクション60は該取付面に対するインパクトよりなり、該データ信号は該接触インタラクションの振動データよりなり、
    該センサー30とコミュニケーションを行うサーバー40を備え、該サーバーは、ルーティングモジュール44と、該ルーティングモジュール44に接続された処理モジュール46と、該処理モジュール46に接続された出力モジュール48とを有し、該ルーティングモジュール44は該センサー30からデータ信号70を受け取り、該処理モジュール46は接触インタラクション60のデータ信号70に対応するデータパターン80を決定すると共に該データパターン80をジェスチャープロファイル90と一致させ、該ジェスチャープロファイル90はコマンドと関連させ、
    端末装置50を備え、該端末装置50は受信モジュール52と該コマンドに対応する該端末装置50の活動を開始させる手段とを有し、該端末装置50は該サーバー40とコミュニケーションを行い、該出力モジュール48は該コマンドを該受信モジュール52に伝達し、
    前記ハウジングの係合手段は、該ハウジングを前記取付面に取り付ける取付手段と、前記センサーを該ハウジングの取付手段に接続すると共に取付面に対するセンサーの位置を厳格ならしめるように該取付面と異なる可撓性を有する剛性材料よりなる伝達部とを備え、前記接触インタラクションは該伝達部を介して該センサーのデータ信号を生成するようにした制御システム10。
  2. 前記センサー30のインタラクティブゾーン32は前記取付面22に合わせ、該インタラクティブゾーン32は該取付面22と同一平面上にあるようにした請求項1に記載の制御システム10。
  3. 前記伝達部28は、前記接触インタラクション60の減衰を小さくするようにバネ装着部を備えている請求項1に記載の制御システム10。
  4. 前記接触インタラクション60は前記取付面22に対するインパクトよりなり、前記データ信号70は、各インパクトに対応するそれぞれ規定されたピークと、規定された最後のピーク後の規定された期間とを有し、前記データパターン80は、規定された各ピークと、当該規定された最後のピーク後の当該規定された期間とを有する請求項1に記載の制御システム10。
  5. 前記接触インタラクション60は取付面22に対する複数のインパクトよりなり、前記データ信号70は、各インパクトに対応するそれぞれ規定されたピークと、規定された各ピーク間の測定された期間と、規定された最後のピーク後の規定された期間とを有し、前記データパターン80は、規定された各ピークと、測定された各期間と、当該規定された最後のピーク後の当該規定された期間とよりなる請求項1に記載の制御システム10。
  6. 更に、前記ハウジング20内に追加のセンサー130を備え、当該追加のセンサー130は当該追加のセンサー130の追加の範囲134により規定される追加のインタラクティブゾーン132を形成し、当該追加のインタラクティブゾーン132は前記取付面22に合わせ、当該追加のセンサー130は前記係合手段24に関して固定された位置にあり、前記サーバー40は当該追加のセンサー130とコミュニケーションを行い、
    当該追加のインタラクティブゾーン132内の取付面22と関連する前記接触インタラクション60は、追加のデータ信号170として当該追加のセンサー130により検知され、
    前記処理モジュール46は、前記センサー30のデータ信号70と前期追加のセンサー130の追加のデータ信号170とに対応するデータパターン80を決定するようにした請求項1に記載の制御システム110。
  7. 前記センサー30のインタラクティブゾーン32は前記追加のセンサー130の追加のインタラクティブゾーン132と重複するようにした請求項6に記載の制御システム110。
  8. 前記端末装置50は、テレビジョンと、サーモスタットと、コンピュータと、ソフトウエアシステムと、ゲーム機と、ファンと、マットレス調節器と、目覚まし時計と、照明器具とよりなる群から選択した一つの装置である請求項1に記載の制御システム10。
  9. 更に、追加の端末装置を有し、当該追加の端末装置は追加の受信モジュールと追加のコマンドに対応して当該追加の端末装置の活動を開始させるための追加の手段とを備え、当該追加の端末装置は前記サーバーとコミュニケーションを行い、前記出力モジュールは当該追加のコマンドを当該追加の受信モジュールに伝達するようにした請求項1に記載の制御システム10。
  10. 係合手段24によりハウジング20を取付面22に取り付け、該ハウジング20は該ハウジング20に内設されたセンサー30を有し、該センサーは加速度計であり、該センサー30は該センサー30の範囲34により規定されるインタラクティブゾーン32を形成
    し、該インタラクティブゾーン32は該取付面22と合わせると共に前記ハウジングの周囲の外側の該取付面22上に重ね、
    該センサー30は該係合手段24に関して固定された位置にあり、
    前記ハウジングの係合手段は、該ハウジングを前記取付面に取り付ける取付手段と、
    前記センサーを該ハウジングの取付手段に接続すると共に取付面に対するセン
    サーの位置を厳格ならしめるように該取付面と異なる可撓性を有する剛性材料より
    なる伝達部とを備え、
    該センサー30とコミュニケーションを行うサーバー40を接続し、該サーバー40はルーティングモジュール44と、該ルーティングモジュール44に接続された処理モジュール46と、該処理モジュール46に接続された出力モジュール48とを備え、
    該サーバー40とコミュニケーションを行う端末装置50を接続し、該端末装置50は受信モジュール52を有し、
    接触インタラクション60を生成するように取付面22に物理的インパクトを与え、
    前記センサー30に該接触インタラクション60をデータ信号70として検知させ、前記データ信号は前記接触インタラクションの振動データであり、該接触インタラクションは前記伝達部を介して前記センサーのデータ信号を生成し、
    前記サーバー40のルーティングモジュール44に該センサー30からのデータ信号70を受信させ、
    該接触インタラクション60のデータ信号70に対応するデータパターン80を前記処理モジュール46に決定させ、
    該データパターン80を該処理モジュール46によりジェスチャープロファイル90と一致させ、該ジェスチャープロファイル90はコマンドと関連付けられ、
    該サーバー40の出力モジュール48により該コマンドを端末装置50の受信モジュール52に伝達させ、該コマンドは該端末装置50の活動に対応し、
    該端末装置50に該活動を行わせる、
    以上のステップを有する端末装置50を制御する方法。
  11. 前記取付面22に物理的インパクトを与えるステップは、該取付面22に複数の物理的インパクトを与え、前記接触インタラクション60は二つ以上の物理的インパクトに関連することを含む請求項10に記載の端末装置50を制御する方法。
  12. 前記ハウジング20は更に追加のセンサー130を備え、当該追加のセンサー130は前記サーバー40に接続され、
    前記センサー30に前記接触インタラクション60をデータ信号70として検知させるステップは、更に、当該追加のセンサー130により該接触インタラクション60を追加のデータ信号170として検知させることを含み、
    前記ルーティングモジュール44に前記センサー30からのデータ信号70を受信させるステップは、更に、該ルーティングモジュール44に当該追加のセンサー130からの当該追加のデータ信号170を受信させることを含み、
    前記データパターン80を決定するステップは、更に、前記データ信号70と当該追加のデータ信号170とに対応するデータパターン80を前記処理モジュール46に決定させることを含む請求項10に記載の端末装置50を制御する方法。
  13. 前記取付面22に物理的インパクトを与えるステップは、更に、該取付面22に複数の物理的インパクトを与えることを含み、前記接触インタラクション60は二つ以上の物理的インパクトに関連するようにした請求項12に記載の端末装置50を制御する方法。
JP2017560899A 2015-02-13 2016-02-12 端末装置を制御するためのシステム及び方法 Active JP6725805B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562115769P 2015-02-13 2015-02-13
US62/115,769 2015-02-13
PCT/US2016/017893 WO2016131013A1 (en) 2015-02-13 2016-02-12 System and method for controlling a terminal device

Publications (3)

Publication Number Publication Date
JP2018506940A JP2018506940A (ja) 2018-03-08
JP2018506940A5 JP2018506940A5 (ja) 2019-03-28
JP6725805B2 true JP6725805B2 (ja) 2020-07-22

Family

ID=56615744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017560899A Active JP6725805B2 (ja) 2015-02-13 2016-02-12 端末装置を制御するためのシステム及び方法

Country Status (6)

Country Link
US (1) US9996738B2 (ja)
JP (1) JP6725805B2 (ja)
CN (1) CN107430445B (ja)
DE (1) DE112016000745B4 (ja)
GB (1) GB2550817B (ja)
WO (1) WO2016131013A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3602245B1 (en) * 2017-03-21 2023-09-27 InterDigital VC Holdings, Inc. Method and system for the detection and augmentation of tactile interactions in augmented reality
GB201708100D0 (en) * 2017-05-19 2017-07-05 Sintef Input device
CN110513765A (zh) * 2019-08-26 2019-11-29 浙江互融智能科技有限公司 智能恒温系统
CN110737337A (zh) * 2019-10-18 2020-01-31 向勇 一种人机交互系统
CN111078009A (zh) * 2019-12-04 2020-04-28 哈尔滨拓博科技有限公司 一种基于电场感应的办公桌面手势控制系统
TWI761934B (zh) * 2020-09-01 2022-04-21 緯創資通股份有限公司 非接觸式動作偵測方法、動作偵測裝置以及危險情境偵測方法

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4377049A (en) * 1980-05-22 1983-03-22 Pepsico Inc. Capacitive switching panel
US7663502B2 (en) * 1992-05-05 2010-02-16 Intelligent Technologies International, Inc. Asset system control arrangement and method
US5103085A (en) * 1990-09-05 1992-04-07 Zimmerman Thomas G Photoelectric proximity detector and switch
KR100318330B1 (ko) * 1991-04-08 2002-04-22 가나이 쓰도무 감시장치
US5971761A (en) 1998-11-12 1999-10-26 Tillman, Sr.; Chitunda Educational electronic baby mat
JP2003186617A (ja) * 2001-12-14 2003-07-04 Sony Corp 入力装置および入力方法
GB2398155B (en) * 2003-02-04 2005-11-30 Kidde Ip Holdings Ltd Hazard detection
JP3779696B2 (ja) * 2003-04-28 2006-05-31 株式会社東芝 電子機器と移動機器とを含むシステム、およびサービス提供方法
US8847772B2 (en) * 2005-10-12 2014-09-30 Mitchell J. Marks Smoke detector with remote alarm silencing means
US8284165B2 (en) * 2006-10-13 2012-10-09 Sony Corporation Information display apparatus with proximity detection performance and information display method using the same
JP2010507163A (ja) * 2006-10-18 2010-03-04 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 表面へのインタラクションを使用した電子的システム制御
CA2675999C (en) * 2007-01-22 2015-12-15 Bell Helicopter Textron Inc. System and method for the interactive display of data in a motion capture environment
US8243062B2 (en) 2008-07-02 2012-08-14 S.C. Johnson & Son, Inc. Surface design tools
JP5259286B2 (ja) * 2008-07-16 2013-08-07 株式会社日立製作所 3次元物体認識システム及びそれを用いた棚卸システム
US8788978B2 (en) 2011-01-21 2014-07-22 Dell Products, Lp Pinch zoom velocity detent
US20120249416A1 (en) 2011-03-29 2012-10-04 Giuliano Maciocci Modular mobile connected pico projectors for a local multi-user collaboration
US8619049B2 (en) 2011-05-17 2013-12-31 Microsoft Corporation Monitoring interactions between two or more objects within an environment
US8228315B1 (en) 2011-07-12 2012-07-24 Google Inc. Methods and systems for a virtual input device
JP5876705B2 (ja) * 2011-10-21 2016-03-02 株式会社ネクスコ・メンテナンス新潟 粒状氷検知装置
JP5975317B2 (ja) * 2011-11-08 2016-08-23 パナソニックIpマネジメント株式会社 機器制御システム及びリモートコントローラ
JP6053097B2 (ja) * 2012-02-28 2016-12-27 シャープ株式会社 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム
CN104395842A (zh) * 2012-04-30 2015-03-04 惠普发展公司,有限责任合伙企业 基于用户敲击的命令的控制信号
US9262068B2 (en) 2012-05-31 2016-02-16 Opportunity Partners Inc. Interactive surface
US9323985B2 (en) * 2012-08-16 2016-04-26 Microchip Technology Incorporated Automatic gesture recognition for a sensor system
JP2014069592A (ja) * 2012-09-27 2014-04-21 Mitsubishi Motors Corp 車載機器の遠隔操作システム
US9182812B2 (en) * 2013-01-08 2015-11-10 Ayotle Virtual sensor systems and methods
EP2926225A4 (en) 2013-02-14 2016-07-27 Apple Inc FLEXIBLE ROOM CONTROLS
CN104111634A (zh) * 2013-04-17 2014-10-22 珠海格力电器股份有限公司 智能家居系统及控制方法
CN103345204B (zh) * 2013-05-10 2018-05-25 上海斐讯数据通信技术有限公司 一种家庭控制系统
WO2015001041A1 (en) * 2013-07-05 2015-01-08 Lyse Smart As A gateway system for facilitating the interoperability between different service domains and a multitude of communication protocols within and outside a home network
CA3122468C (en) * 2013-10-07 2023-10-17 Google Llc Smart-home hazard detector providing non-alarm status signals at opportune moments
CN204117093U (zh) * 2014-09-26 2015-01-21 常州二维碳素科技有限公司 一种柔性手势控制家电控制面板
US10108247B2 (en) * 2015-03-11 2018-10-23 Swan Solutions, Inc. Method for regulating a system for controlling a terminal device
US10082878B2 (en) * 2015-11-11 2018-09-25 Swan Solutions, Inc. Method for controlling and calibrating a device with a gesture
US9812004B1 (en) * 2017-03-16 2017-11-07 Swan Solutions, Inc. Control system for a terminal device and a switch

Also Published As

Publication number Publication date
GB2550817B (en) 2022-06-22
JP2018506940A (ja) 2018-03-08
WO2016131013A1 (en) 2016-08-18
CN107430445A (zh) 2017-12-01
US20160239707A1 (en) 2016-08-18
GB201713875D0 (en) 2017-10-11
DE112016000745B4 (de) 2024-01-25
US9996738B2 (en) 2018-06-12
CN107430445B (zh) 2020-09-01
GB2550817A (en) 2017-11-29
DE112016000745T5 (de) 2017-11-02

Similar Documents

Publication Publication Date Title
JP6725805B2 (ja) 端末装置を制御するためのシステム及び方法
US9812004B1 (en) Control system for a terminal device and a switch
US10082878B2 (en) Method for controlling and calibrating a device with a gesture
US10108247B2 (en) Method for regulating a system for controlling a terminal device
US9891719B2 (en) Impact and contactless gesture inputs for electronic devices
JP2020101560A (ja) レーダ対応センサフュージョン
US20100019922A1 (en) Electronic system control using surface interaction
KR102050508B1 (ko) 근접 감지를 이용한 제스처링 구조
JP2017524216A (ja) 対話型ミラー
TW201635092A (zh) 顯示裝置、電子裝置、手部穿戴式裝置及控制系統
US20160070410A1 (en) Display apparatus, electronic apparatus, hand-wearing apparatus and control system
WO2014190886A1 (zh) 智能交互系统及其软件系统
US20200301378A1 (en) Deducing floor plans using modular wall units
US20150015378A1 (en) Remote control device
TWI549497B (zh) 控制游標的方法、遙控器以及智慧電視
JP2018506940A5 (ja)
US9946326B2 (en) User interface device and electronic device including the same
CN107203322B (zh) 触控式音响按键及其控制方法
CN109120864A (zh) 补光处理方法、装置、存储介质及移动终端
US8276453B2 (en) Touchless input device
KR20090076124A (ko) 가전 기기 제어 방법 및 이를 이용한 장치
US11144153B2 (en) User interface with acoustic proximity and position sensing arrangements
US20180218594A1 (en) Depth control for home appliances
KR20170078509A (ko) 센싱 장치
CN206197420U (zh) 一种智能触控桌

Legal Events

Date Code Title Description
A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190206

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191202

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200331

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200604

R150 Certificate of patent or registration of utility model

Ref document number: 6725805

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250