JP2008027253A - 操作装置及び操作システム - Google Patents

操作装置及び操作システム Download PDF

Info

Publication number
JP2008027253A
JP2008027253A JP2006200106A JP2006200106A JP2008027253A JP 2008027253 A JP2008027253 A JP 2008027253A JP 2006200106 A JP2006200106 A JP 2006200106A JP 2006200106 A JP2006200106 A JP 2006200106A JP 2008027253 A JP2008027253 A JP 2008027253A
Authority
JP
Japan
Prior art keywords
light
operator
pattern
operating device
light receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006200106A
Other languages
English (en)
Inventor
Kazuya Taki
和也 滝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2006200106A priority Critical patent/JP2008027253A/ja
Priority to PCT/JP2007/064378 priority patent/WO2008010581A1/ja
Publication of JP2008027253A publication Critical patent/JP2008027253A/ja
Priority to US12/320,185 priority patent/US20090174578A1/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Input From Keyboards Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】装着時において操作者に圧迫感や不快感を与えることなく、操作者の意図を高精度に反映した操作を実現する。
【解決手段】操作装置100は、操作者の手首に装着されるベルト本体105と、操作者の手の甲3側へ所定の照射光を発光するLED101と、照射光の反射光又は散乱光を手の甲3側より受光する受光素子106a〜dとを有し、無線通信制御部が、これら受光素子106a〜dにおける反射光又は散乱光の受光結果の組み合わせに基づき、操作者の動作状態に対応した操作信号を出力する。
【選択図】図4

Description

本発明は、操作者が所定の部位に装着して動かすことで対応する操作信号を操作対象に対して出力できる操作装置及び操作システムに関する。
操作者の人体に装着し、その操作者の動作状態に対応した操作信号を出力する装置としては、例えば、特許文献1に記載のものが知られている。
この従来技術では、操作者の手首に装着した装着部材(バンド)の内面に複数の加速度センサを設けて操作者の手の指先の打指動作による衝撃や加速度を検出し、その検出結果に基づきその打指動作に対応するコマンドや文字を認識して出力するようになっている。
特開平11−338597号公報
上記従来技術では、操作者の指先の動作を手首内側の加速度センサで検出しているため、加速度を正確に検出するためには操作者の当該部位にセンサを密着させる必要があり、操作者に圧迫感や不快感を与えるという問題があった。
また、加速度検出ではなく、装着部位における操作者の筋電位を測定する手法もあるが、この場合も、測定用の電極を操作者の装着部位に密着させる必要があり、同様の問題があった。
本発明の目的は、装着時において操作者に圧迫感や不快感を与えることなく、操作者の意図を高精度に反映した操作を実現することができる操作装置及び操作システムを提供することにある。
上記目的を達成するために、第1の発明は、操作者の手首に装着される装着部材と、この装着部材に設けられ、前記操作者の手の甲側へ所定の照射光を発光する少なくとも1つの発光手段と、前記装着部材に設けられ、前記照射光の反射光又は散乱光を前記手の甲側より受光する複数の受光手段と、これら複数の受光手段における前記反射光又は前記散乱光の受光結果の組み合わせに基づき、操作者の動作状態に対応した操作信号を出力する信号出力手段とを有することを特徴とする。
本願第1発明においては、操作者が手首に操作装置を装着し、その装着状態で何らかの操作を意図し手や指を動かすと、発光手段において手の甲側へ発光された照射光は、手の甲側を貫通するようにして手のひらや指においてその姿勢や姿勢の変化に対応した反射光や散乱光を生じた後、それらの光は再び手の甲を貫通するようにして戻り、それぞれ対応する位置の受光手段で受光される。このようにして、上記手や指の姿勢等に対応し複数の受光手段において種々の受光結果が生じるため、その受光結果の組み合わせに基づき、信号出力手段より上記操作者の手や指の動作状態に対応した操作信号を出力する。
以上のように、操作者の手や指の姿勢等を光学的な手法で検出し操作信号を出力することにより、操作者の意図を高精度に反映した操作を実現することができる。また非接触の光学的手法であることから、筋電位や加速度検出による手法のように操作者の体に電極等を密着させる必要はないため、操作者に圧迫感や不快感を与えることなく、快適な操作を行うことができる。
第2発明は、上記第1発明において、前記受光手段は、少なくとも前記操作者の手のひらにおける前記照射光の反射光又は散乱光を受光可能に配置されている
ことを特徴とする。
これにより、装着状態で何らかの操作を意図し手のひらを動かしたり、指を手の平に押し付けると、照射光が手のひらにおいてその姿勢や姿勢の変化に対応した反射光や散乱光を生じた後、それらの光がそれぞれ対応する位置の受光手段で受光されることで、操作者の手のひらの姿勢等を光学的な手法で検出し、操作者の意図を高精度に反映した操作を実現することができる。
第3発明は、上記第2発明において、前記受光手段は、その焦点位置が前記操作者の手のひら位置近傍となるように、配置されていることを特徴とする。
これにより、確実に操作者の手のひらの姿勢や手のひらにおける指の位置等を高精度に検出することができる。
第4発明は、上記第1発明において、前記受光手段は、少なくとも前記操作者の指部における前記照射光の反射光又は散乱光を受光可能に配置されている
ことを特徴とする。
これにより、装着状態で何らかの操作を意図し指を動かすと、照射光がその指部においてその姿勢や姿勢の変化に対応した反射光や散乱光を生じた後、それらの光がそれぞれ対応する位置の受光手段で受光されることで、操作者の指部の姿勢等を光学的な手法で検出し、操作者の意図を高精度に反映した操作を実現することができる。また指部による操作が可能となるので、マウスやキーボードと同等の入力手法、あるいは携帯電話と同等のかなめくり入力のような操作も可能となる。
第5発明は、上記第4発明において、前記受光手段は、前記操作者の指に備えられた反射体で反射された前記照射光の反射光を受光可能に配置されている
ことを特徴とする。
これにより、照射光の指部における反射光や散乱光の強度が増大するので、操作者の指部の姿勢等をより高精度に検出することができる。
第6発明は、上記第4発明において、前記発光手段と、この発光手段からの前記照射光の反射光又は散乱光を受光した少なくとも1つの前記受光手段とを、受光パターンとして検出するパターン検出手段を有し、前記信号出力手段は、前記パターン検出手段で検出した受光パターンに基づき、前記操作信号を出力することを特徴とする。
照射光を発光する発光手段と、そのときに受光した受光手段との組み合わせを、受光パターンとしてパターン検出手段で検出することで、信号出力手段ではその受光パターンに応じて、操作者の指部の動作状態に対応した操作信号を出力することができる。
第7発明は、上記第6発明において、前記パターン検出手段は、前記発光手段の非発光時における前記複数の受光手段における受光結果と、前記発光手段の発光時における前記複数の受光手段における受光結果との差分信号から、前記受光パターンを取得することを特徴とする。
これにより、検出時の外乱となる外光による受光値の影響を除去し、より精度の高い検出を行うことができる。
第8発明は、上記第6又は第7発明において、前記受光手段及び前記パターン検出手段は、前記操作者の少なくとも1本の指の動きを前記受光パターンとして検出可能となるように、構成されていることを特徴とする。
これにより、操作者が少なくともある1本の指を動かすことでこれを受光パターンとして検出し、その動作状態に対応した操作信号を出力することができる。
第9発明は、上記第8発明において、前記受光手段及び前記パターン検出手段は、前記操作者の5本の指の動きを前記受光パターンとして検出可能となるように、構成されていることを特徴とする。
これにより、操作者が少なくとも5本の指を動かすことでこれを受光パターンとして検出し、その動作状態に対応した操作信号を出力することができる。また5本の指の動きを検出できることにより、1本や2本の指のみの場合より多種多様な動作を認識することが可能となる。
第10発明は、上記第6又は第7発明において、前記パターン検出手段で検出した受光パターンに基づき、前記操作者の指部の姿勢又はその姿勢の変化態様を算出する姿勢算出手段を有し、前記信号出力手段は、前記姿勢算出手段で算出された前記姿勢又は前記姿勢の変化態様を前記操作信号として出力することを特徴とする。
姿勢によって決定される受光パターンに基づき、姿勢算出手段で操作者の指部の姿勢(又はその姿勢の変化態様)を算出することで、信号出力手段はその算出結果に応じた形で操作信号を出力することができる。
第11発明は、上記第10発明において、前記操作者の指部の所定の基準姿勢に対応した生体情報分布に応じて設定された基準姿勢受光パターンと、前記パターン検出手段で検出された受光パターンとを比較する姿勢検出用比較手段を有し、
前記姿勢算出手段は、前記姿勢検出用比較手段での比較結果に応じて前記姿勢又は前記姿勢の変化態様を算出することを特徴とする。
操作者が指部の姿勢を変化させると、血管分布・筋肉分布・体温分布等の生体情報の分布が変化するため、これによって発光手段からの照射光の反射光や散乱光の挙動が変化し、受光手段の受光パターンも変化することとなる。この性質を利用して、予めある所定の基準姿勢にて取得した受光パターンを基準姿勢受光パターンとして保持しておき、この基準姿勢受光パターンと、現在、パターン検出手段で検出された受光パターンとを姿勢検出用比較手段で比較する。この比較に基づき、基準姿勢での受光パターンに対する現在の受光パターンの差がわかるので、姿勢算出手段でその差に応じた形で姿勢又は姿勢の変化態様を算出することができる。
第12発明は、上記第11発明において、前記姿勢検出用比較手段は、前記検出した受光パターンと前記基準姿勢受光パターンとの一致不一致を照合するか、又は、前記検出した受光パターンと前記基準姿勢受光パターンとの類似性を所定の関数で数値化し所定値以上の場合を選択するか、若しくは、重み付け繰り返し演算を用いたニューラルネットの手法により、前記比較を行うことを特徴とする。
パターン同士の一致不一致の照合か、関数数値化による選択か、ニューラルネットの手法で比較を行うことで、基準姿勢受光パターンと、パターン検出手段で検出された受光パターンとを比較することができ、これによって姿勢算出手段で姿勢又は姿勢の変化態様を算出することができる。
第13発明は、上記第12発明において、教師信号に基づき判定のために必要なパラメータを取得する学習モード、及び、当該パラメータと取得データとから判定を行う判定モードを備え、前記パラメータを保存するメモリ部を有する判定比較手段を設けたことを特徴とする。
判定比較手段が、学習モードにおいて教師信号に基づきパラメータを取得し、判定モードで当該パラメータと取得データとにより判定を行い、これを繰り返すことで、いわゆるニューラルネットの手法により基準姿勢受光パターンとパターン検出手段で検出した受光パターンとを比較することができる。
第14発明は、上記第6乃至第13発明のいずれかにおいて、前記操作信号に基づく操作者の指部の姿勢認識に関して設定された複数のモードを選択するための選択指示が入力されたかどうかを判定する第1選択指示判定手段を有することを特徴とする。
指部操作に関するモードを予め複数設定しておき、そのうちのいずれかのモードを選択指示で選択可能とすることで、操作者の意図する最も便利なモードにて操作することができ、利便性を向上することができる。
第15発明は、上記第14発明において、前記第1選択指示判定手段は、前記モードとして、マウスと同等の操作入力に対応したマウスモード、キーボードと同等の操作入力に対応したキー別文字入力モード、携帯電話と同等の操作入力に対応したかなめくり入力モードのいずれかを選択する前記選択指示がなされたかどうかを判定することを特徴とする。
これにより、操作者は、マウスモードか、キー別文字入力モード、かなめくり入力モードのうちもっとも便利と考えるものを選択して操作することができ、利便性を向上することができる。
第16発明は、上記第14又は第15発明において、前記第1選択指示判定手段は、前記パターン検出手段で検出された前記受光パターンを予め定められたモード指示用受光パターンと比較する第1モード指示用比較手段を備え、この第1モード指示用比較手段の比較結果に応じて、前記選択指示が入力されたかどうかの判定を行うことを特徴とする。
予め所定の姿勢で取得した複数の受光パターンを各モードに対応したモード指示用受光パターンとして保持しておき、このモード指示用受光パターンと、現在、パターン検出手段で検出した受光パターンとを第1モード指示用比較手段で比較し、この比較に基づき、第1選択指示判定手段がどのモードが選択されたかどうかの判定を行う。これにより、操作者は、モード選択時には、各モードに対応した所定の姿勢をとるだけで足り、それ以外の特別な操作を行う必要がなくなる。この結果、操作労力の低減を図れる。
第17発明は、上記第6乃至第16発明のいずれかにおいて、前記信号出力手段による前記操作信号の出力を開始するための開始指示が入力されたかどうかを判定する開始指示判定手段を有し、前記信号出力手段は、前記開始指示判定手段の判定が満たされたときに、前記前記操作信号の出力を行うことを特徴とする。
信号出力手段から常時信号出力を行うのではなく、所定の開始指示が入力されたかどうかを開始指示判定手段で判定しその判定が満たされたときに出力を行うようにすることで、操作者の意図しない非操作時検出信号の出力等、操作信号出力装置の無駄な作動を無くし、電源消費を節約することができる。
第18発明は、上記第17発明において、前記開始指示判定手段は、前記パターン検出手段で検出された前記受光パターンを予め定められた開始指示用受光パターンと比較する開始指示検出用比較手段を備え、この開始指示検出用比較手段の比較結果に応じて、前記開始指示が入力されたかどうかの判定を行うことを特徴とする。
予めある所定の開始指示姿勢にて取得した受光パターンを開始指示用受光パターンとして保持しておき、この開始指示用受光パターンと、現在、パターン検出手段で検出した受光パターンとを開始指示検出用比較手段で比較し、この比較に基づき、開始指示判定手段が開始指示が入力されたかどうかの判定を行う。これにより、操作者は、信号出力手段による操作信号の出力を開始したい場合には、上記所定の開始指示姿勢をとるだけで足り、それ以外の特別な操作を行う必要がなくなる。この結果、操作労力を増大することなく、無駄な電源消費の防止を図れる。
第19発明は、上記第6乃至第18発明のいずれか1項発明において、前記信号出力手段による前記操作信号の出力を停止するための停止指示が入力されたかどうかを判定する停止指示判定手段を有し、前記信号出力手段は、前記停止指示判定手段の判定が満たされたときに、前記前記操作信号の出力を停止することを特徴とする。
信号出力手段から信号出力開始後、所定の停止指示が入力されたかどうかを停止指示判定手段で判定しその判定が満たされたときに出力を停止することで、操作者の意図しない非操作時検出信号の出力等、操作信号出力装置の無駄な作動を無くし、電源消費を節約することができる。
第20発明は、上記第19発明において、前記停止指示判定手段は、前記パターン検出手段で検出された前記受光パターンを予め定められた停止指示用受光パターンと比較する停止指示検出用比較手段を備え、この停止指示検出用比較手段の比較結果に応じて、前記停止指示が入力されたかどうかの判定を行うことを特徴とする。
予めある所定の停止指示姿勢にて取得した受光パターンを停止指示用受光パターンとして保持しておき、この停止指示用受光パターンと、現在、パターン検出手段で検出した受光パターンとを停止指示検出用比較手段で比較し、この比較に基づき、停止指示判定手段が停止指示が入力されたかどうかの判定を行う。これにより、操作者は、信号出力手段による操作信号の出力を停止したい場合には、上記所定の停止指示姿勢をとるだけで足り、それ以外の特別な操作を行う必要がなくなる。この結果、操作労力を増大することなく、無駄な電源消費の防止を図れる。
第21発明は、上記第1乃至第20発明のいずれかにおいて、前記発光手段は、波長が可視光帯域より近赤外光帯域までに含まれる前記照射光を発光することを特徴とする。
近赤外光は、生体組織に対して比較的高い透過性をもつ一方、生体組織内のヘモグロビンは近赤外光域で特徴的な吸収スペクトルを有している。したがって、発光手段から近赤外光域の照射光を発光することにより、操作者の動作に伴う操作部位の組織での(例えば指や手のひらでの)散乱の変化や血流分布の変化を受光手段での近赤外光の受光挙動により検出することができる。
また、近赤外光から離れた可視光のうち緑や青色の波長は、皮膚で反射・散乱する性質を備えていることから、発光手段から緑や青色波長の照射光を発光することにより、操作者の動作に伴う操作部位の皮膚表面の形状変化を受光手段でのそれら可視光の受光挙動(受光感度変化)により検出することができる。
第22発明は、上記第21発明において、波長が可視光帯域に含まれる前記照射光を受光する前記受光手段は、その焦点位置が前記操作者の手の甲近傍となるように配置されていることを特徴とする。
可視光の場合はあまり人体を透過しない性質を備えているが、受光手段の焦点位置を手の甲近傍とすることで、手の甲近傍における皮膚表面形状の変化を確実に検出することができる。
第23発明は、上記第1乃至第21発明のいずれかにおいて、前記発光手段は複数備えられており、それら複数の発光手段は、近赤外光帯域に含まれる同一の照射光をそれぞれ発光することを特徴とする。
単一波長の照射光を用いることにより、発光手段を複数種類用いる必要が無くなり、製造コストの低減や制御の簡素化を図ることができる。
第24発明は、上記第1乃至22発明のいずれかにおいて、前記発光手段は複数備えられており、それら複数の発光手段は、少なくとも1つの波長が近赤外光帯域に含まれる複数波長の照射光を発光することを特徴とする。
複数波長の照射光を用いることにより、主として生体組織の透過性を利用した検出や、主として皮膚での反射・散乱を利用した検出を併せて用いることができるので、さらに精度の高い受光検出を行うことができる。
第25発明は、上記第23又は第24発明において、前記複数の発光手段を、時間差をもって順次発光させる時間差発光制御手段を有することを特徴とする。
同一発光を行わず時間差をもって順次発光させることにより、受光手段で受光した照射光の分離処理等が不要となり、処理・制御の簡素化や製造コストの低減等を図ることができる。
第26発明は、上記第24発明において、前記複数の発光手段を、同時に発光させる同時発光制御手段と、この同時発光制御手段の制御に基づき前記複数の発光手段から同時に発光され前記複数の受光手段で受光された前記照射光を、所定の波長帯域ごとに分離するためのフィルタ手段とを有することを特徴とする。
時間差発光を行わず同時発光させて受光することにより、時間差で順次発光させる場合に比べて発光及び受光に必要な時間を短縮し、効率のよい検出を行うことができる。このとき、同時に発光する複数の発光手段をそれぞれ異なる波長とし、同時発光の後に受光した照射光をフィルタ手段で分離処理することで、各発光手段の照射光ごとに別々の検出処理を行うことができる。
第27発明は、上記第1乃至第19発明のいずれかにおいて、前記発光手段は、レーザ光を1次元又は2次元に走査可能なレーザ走査手段を備えることを特徴とする。
レーザ操作手段でレーザ光を走査しつつ発光し、そのレーザ光の手のひらや指における反射光や散乱光を対応する位置の受光手段で受光することで、信号出力手段より操作者の手や指の動作状態に対応した操作信号を出力することができる。
上記目的を達成するために、第28の発明は、操作者の手首に装着される装着部材、この装着部材に設けられ、前記操作者の手の甲側へ所定の照射光を発光する少なくとも1つの発光手段、装着部材に設けられ、少なくとも前記操作者の指部における前記照射光の反射光又は散乱光を前記手の甲側より受光する複数の受光手段、前記発光手段とこの発光手段からの前記照射光の反射光又は散乱光を受光した少なくとも1つの前記受光手段とを受光パターンとして検出するパターン検出手段、及び、このパターン検出手段で検出した受光パターンに基づき前記操作者の指部の動作状態に対応した操作信号を出力する信号出力手段を有する操作装置と、前記信号出力手段から入力された前記操作信号より取得した前記受光パターンに基づき、前記操作者の指部の姿勢又はその姿勢の変化態様を算出する姿勢演算手段を備えた制御装置とを有することを特徴とする。
本願第28発明においては、操作者が手首に操作装置を装着し、その装着状態で何らかの操作を意図し手や指を動かすと、発光手段において手の甲側へ発光された照射光は、手の甲側を貫通するようにして手のひらや指においてその姿勢や姿勢の変化に対応した反射光や散乱光を生じた後、それらの光は再び手の甲を貫通するようにして戻り、それぞれ対応する位置の受光手段で受光される。このときの照射光を発光する発光手段と、そのときに受光した受光手段との組み合わせを、受光パターンとしてパターン検出手段で検出することで、信号出力手段ではその受光パターンに応じて、少なくとも操作者の指部の動作状態に対応した操作信号を出力する。この出力された操作信号は制御装置に入力され、この操作信号に基づいて姿勢演算手段で操作者の指部等の姿勢(又はその姿勢の変化態様)が演算される。
以上のように、操作者の指部等の姿勢等を光学的な手法で検出して操作信号としこれに基づき姿勢を演算することにより、操作者の意図を高精度に反映した操作を実現することができる。また非接触の光学的手法であることから、筋電位や加速度検出による手法のように操作者の体に電極等を密着させる必要はないため、操作者に圧迫感や不快感を与えることなく、快適な操作を行うことができる。
第29発明は、上記第28発明において、前記制御装置は、前記操作者の指部の所定の姿勢に対応した生体情報分布に応じて設定された基準姿勢受光パターンと、前記取得した受光パターンとを比較する演算用比較手段を有し、前記姿勢演算手段は、前記演算用比較手段での比較結果に応じて前記姿勢又は前記姿勢の変化態様を算出することを特徴とする。
操作者が指部の姿勢を変化させると、血管分布・筋肉分布表面皮膚形状分布等の生体情報の分布が変化するため、これによって操作装置の発光手段からの照射光の反射光や散乱光の挙動が変化し、受光手段の受光パターンも変化することとなる。この性質を利用して、制御装置側において予めある所定の基準姿勢にて取得した受光パターンを基準姿勢受光パターンとして保持しておき、この基準姿勢受光パターンと、現在、パターン検出手段で検出された受光パターンとを演算用比較手段で比較する。この比較に基づき、基準姿勢での受光パターンに対する現在の受光パターンの差がわかるので、姿勢演算手段でその差に応じた形で姿勢又は姿勢の変化態様を算出することができる。
第30発明は、上記第28又は第29発明において、前記制御装置は、前記操作信号に基づく操作者の指部の姿勢認識に関して設定された複数のモードを選択するための選択指示が、前記操作装置より入力されたかどうかを判定する第2選択指示判定手段を備えることを特徴とする。
指部操作に関するモードを予め複数設定しておき、そのうちのいずれかのモードを選択指示で選択可能とすることで、操作者の意図する最も便利なモードにて操作することができ、利便性を向上することができる。
第31発明は、上記第30発明において、前記制御装置の前記第2選択指示判定手段は、前記モードとして、マウスと同等の操作入力に対応したマウスモード、キーボードと同等の操作入力に対応したキー別文字入力モード、携帯電話と同等の操作入力に対応したかなめくり入力モードのいずれかを選択する前記選択指示が、前記操作装置より入力されたかどうかを判定することを特徴とする。
これにより、操作者は、マウスモードか、キー別文字入力モード、かなめくり入力モードのうちもっとも便利と考えるものを選択して操作することができ、利便性を向上することができる。
第32発明は、上記第30又は第31発明において、前記制御装置の前記第2選択指示判定手段は、前記パターン検出手段で検出された前記受光パターンを予め定められたモード指示用受光パターンと比較する第2モード指示用比較手段を備え、この第2モード指示用比較手段の比較結果に応じて、前記選択指示が入力されたかどうかの判定を行うことを特徴とする。
予め所定の姿勢で取得した複数の受光パターンを各モードに対応したモード指示用受光パターンとして保持しておき、このモード指示用受光パターンと、現在、パターン検出手段で検出した受光パターンとを第2モード指示用比較手段で比較し、この比較に基づき、第2選択指示判定手段がどのモードが選択されたかどうかの判定を行う。これにより、操作者は、モード選択時には、各モードに対応した所定の姿勢をとるだけで足り、それ以外の特別な操作を行う必要がなくなる。この結果、操作労力の低減を図れる。
本発明によれば、装着時において操作者に圧迫感や不快感を与えることなく、操作者の意図を高精度に反映した操作を実現することができる。
以下、本発明の一実施の形態を図面を参照しつつ説明する。
図1は、本実施形態による操作装置を含む操作システムの全体構成を表す説明図である。
図1において、このシステムは、操作者Mの身体の所定の装着部位(この例では手首2)に装着して用いられる操作装置100と、この例では操作者Mの腰3にベルト4を介し保持され、例えばCPU等の演算装置を備えた制御装置200と、眼鏡のように操作者Mの耳5から鼻6にかけて装着される表示装置300(ヘッドマウントディスプレイ)とを有している。
図2は、上記操作装置100の詳細構造を表す正面図であり、図3は、上記操作装置100が操作者Mの手首2に装着されている様子を表す図である。
これら図2及び図3において、操作装置100は、略円環状の形状を備え、操作者Mの手首2に装着されるベルト本体105(装着部材)を有している。このベルト本体105には、所定の照射光を発光する少なくとも1つ(この例では2個)のLED(発光手段)101,102と、これに対応した少なくとも1組(この例では2組)の受光素子(受光手段。例えばフォトダイオード、フォトトランジスタ、CCD、CMOSセンサ等)106a〜d,107a〜dとが設けられ、さらにベルト本体105には上記LED101,102及び受光素子106〜107を制御するとともに所定の検出処理(詳細は後述)を行う、例えばCPU等の演算装置で構成される検出コントローラ110と、操作者Mの体格差による手首2の太さの違いに対応するために例えば伸縮構造としたサイズ調整部111とが設けられている。
LED101,102からの照射光としては、例えば、波長が可視光帯域より近赤外光帯域までに含まれる光を発光するようにすることができる。近赤外光は、生体組織に対して比較的高い透過性をもつ一方、生体組織内のヘモグロビンは近赤外光域で特徴的な吸収スペクトルを有している。したがって、LED101,102から近赤外光域の照射光を発光することにより、操作者Mの動作に伴う操作部位の組織(例えば指や手のひら)での散乱の変化や血流分布の変化を受光素子106a〜d,107a〜dでの近赤外光の受光挙動により検出することができる。
また、近赤外光から離れた可視光のうち緑や青色の波長は、皮膚で反射・散乱する性質を備えていることから、LED101,102から緑や青色波長の照射光を発光することにより、操作者Mの動作に伴う操作部位すなわち、手の甲近傍の皮膚表面の形状変化を受光素子106a〜d,107a〜dでのそれら可視光の受光挙動(受光感度変化)により検出することができる。
またこのときのLED101,102の発光挙動としては、各LEDで、近赤外光帯域に含まれる同一の照射光をそれぞれ発光するようにしてもよい。この場合、単一波長の照射光を用いることにより、LEDを複数種類用意する必要が無くなり、製造コストの低減や制御の簡素化を図ることができる。あるいは、それらLED101,102のうち少なくとも1つを近赤外光帯域に含まれる波長としつつ、それら全体としては複数波長の照射光を発光するようにしてもよい。このように複数波長の照射光を用いることにより、主として生体組織の透過性を利用した検出や、主として皮膚での反射・散乱を利用した検出を併せて用いることができるので、さらに精度の高い受光検出を行うことができる。
また、複数の波長を発光するLED、すなわち、近赤外光発光LEDと可視光発光LEDを一つのLEDパッケージに納めたLEDを複数用いても良い。また、LEDに代えて、レーザーダイオード(LD)を用いても良い。
ベルト本体105は、上記2個のLED101,102を左右に(この例では等間隔に)配設しており、これによってそれらLED101,102から発光された照射光を操作者Mの人体の一部(この例では手の甲3あるいは手の甲3を貫通して手のひら30や指33)に照射するように、装着される。すなわち、LED101,102及び受光素子106a〜d,107a〜dは、ベルト本体105を手首に装着した際に操作者Mの手の甲3に対面して配置されている(図3参照)。そして、受光素子106a〜d,107a〜dは図2に示すように上記LED101,102の配置に対応して設けられ、操作者Mの人体の一部(この例では手の甲3あるいは手の甲3を貫通して手のひら30や指33)に対しLED101,102から照射された照射光の照射部位における反射光又は散乱光を受光するようになっている。特に、発光側LED101から照射された照射光の照射部位における反射光又は散乱光を受光素子106a〜106dにおいて受光するよう、同様に発光側LED102から照射された照射光は受光素子107a〜dで受光するように配置されている。
また、この例では、各受光素子106a〜d、107a〜dはその焦点位置が操作者Mの手のひら30の近傍となるよう配置されている。これにより、確実に操作者の手のひらの姿勢等を高精度に検出することができる。
図4(a)及び図4(b)はこのような照射光の受光挙動の一例を表す図である。図4(a)に示す例では、LED101から手の甲3を表側から裏側へ貫通するように照射された照射光の手のひら30や指33における透過散乱光が、再び手の甲3を裏側から表側へ貫通して受光素子106a〜dで受光される様子を表している(主として手のひら30や指33の姿勢や姿勢の変化を検出)。図4(b)に示す例では、LED101から照射された照射光の手の甲3における反射散乱光が、受光素子106a〜dで受光される様子を表している(主として手の甲3の皮膚表面の動きにより手のひら30の姿勢や姿勢の変化を検出)。
上記図4(a)及び図4(b)に例を示したように、本実施形態では、LED101,102の少なくとも1つから照射された照射光の手の甲3あるいは手のひら30や指33における透過散乱光又は反射散乱光を対応する受光素子106a〜d,107a〜dで受光し、その受光結果のパターンによって操作者Mの手のひらや指の姿勢やその姿勢の変化を検出するものである。
図5は、上記手のひらや指の姿勢変化の検出手法を概念的に表した図であり、横軸に時間、縦軸に概念的な検出受光強度をとって表している。図5において、この例では、理解の容易化のために、操作者Mが手でジャンケンの「グー」「チョキ」「パー」の3つの姿勢をとったときの受光挙動を概念的に表している。
すなわち、図中「O」の時間においては操作者Mは特に何の操作もしていない自然な状態を表しており、図中「A」の時間においては5指をすべて伸長させたいわゆる「パー」の状態を表しており、図中「B」の時間においては上記「パー」の状態から親指、薬指、小指を手のひら側に折り畳んだいわゆる「チョキ」の状態を表しており、図中「C」の時間においては上記「チョキ」の状態からさらに人差し指、中指も手のひら側に折り畳んだいわゆる「グー」の状態を表している。このような各指の動きにより操作者Mの手のひら30や指33の筋肉や血管等の位置や状態が連動して変化することで、前述した透過散乱光や反射散乱光の挙動が変化し、この結果、受光素子ア〜エ(受光素子106a〜dまたは107a〜d)における各受光強度が図示のように時間的に変化し、この変化パターンを所定の手法で解析することにより、上記操作者Mの手のひら30や指33の姿勢又はその変化を検出することができる。なお、上記受光強度の大きさを見る代わりに、例えばパルス光を照射してその減衰値を検出するようにしてもよい。
図6(a)〜(d)は、上記検出手法により検出されたパターンの一例を表す図である。なお、この例では操作者Mの手のひら30側から見たパターンを表している。また、受光素子としてはより高密度な、8×8個の受光素子で受光した例を表している。図6(a)の例は、4つの指33(人指し指、中指、薬指、小指)を手のひら30に押し当てた状態の検出パターンを表している。また図6(b)の例では、中指を手のひら30に押し当てた状態、図6(c)の例では、人指し指と薬指を手のひら30から(やや)離した状態(あるいは徐々に手のひら30から離していく状態)、図6(d)の例では、人指し指と薬指を手のひら30に押し当てた状態の検出パターンをそれぞれ表している。
このように操作者Mの指33や手のひら30の姿勢等を検出することにより、操作者Mの意図を高精度に反映した操作を実現し、操作者Mが少なくとも1本(片手であれば1本〜5本)の指33を動かすことでこれを受光パターンとして検出することができる。また、こうして指33による操作が可能となると、マウスやキーボードと同等の入力方法、あるいは携帯電話と同等のかなめくり入力のような操作も可能となる。上記の例でいえば、図6(a)に示すパターンを操作装置100の開始操作とすることや、図6(b)〜(d)に示すパターンをマウスでの入力方法に見立てて図6(b)に示すパターンを右クリック、図6(c)に示すパターンを上スクロール、図6(d)に示すパターンを下スクロールに対応する操作とすることなどである。また後述する表示装置300においてキーボード表示等を行うものとすれば、キーボードと同等の入力も可能となる(仮想キーボードでの入力、ブラインドタッチ)。携帯電話等のかなめくり入力も同様に可能となる。
またこのとき、操作者33の指33に、照射光の当該指33におけるに反射光や散乱光の強度を増すための反射体を設ける(例えば反射塗料を爪に塗布する、指33に反射体材料を備えたキャップをかぶせる等)ようにすれば、操作者Mの指33の姿勢等をより高精度に検出することができる。
図7は、上記手法を実現するために操作装置100に備えられる上記検出コントローラ110を含む制御系を表す機能ブロック図である。
図7において、検出コントローラ110は、検出制御部120と、この検出制御部120からの制御信号に基づき、上記LED101,102をそれぞれ駆動するためのLED駆動回路121,124と、受光素子106a〜d,107a〜dにおけるそれぞれの出力信号(受光信号)を選択的に入力するための切り換えスイッチ123,126と、それら切り換えスイッチ123,126で選択した入力信号をそれぞれデジタル変換して検出制御部120へ出力するA/D変換器122,125と、手首2に対し前後(奥行き方向)の平行移動及び手首2に対し相対回転可能なベルト本体105の装着位置を特定する(詳細は後述)ために用いる装着位置パターンメモリ140と、検出開始又は終了のトリガー信号を認識する(詳細は後述)ために用いる開始パターンメモリ150及び停止パターンメモリ160と、公知のアンテナや通信回路等を備えた、制御装置200への無線通信を行うための無線通信制御部190と、電源供給用の電池BTと、タイマTMとを備えている。
LED101,102は、互いに異なる波長のもの、この例では可視光LEDであるLED1A、LED2Aと、近赤外光LEDであるLED1B,LED2Bとが、それぞれ1つのパッケージに納められている。これら可視光LED及び赤外光LEDは、それぞれ駆動回路121,124により、後述するように可視光発光と近赤外光発光が切り換えられる(なお後述の変形例のようにフィルタで分離できる場合は同時発光するようにしてもよい)。
図8は、検出制御部120が実行する制御手順の一例を表すフローチャートである。図8において、まず、ステップS5で、タイマTMのカウントを開始する。
その後、ステップS10に移り、モードフラグ(操作モードであるか装着ずれ検出モードであるかを表すフラグ。詳細は後述)FP=0に初期化し、また操作フラグ(操作モードにおいて操作入力中であるか操作開始指示待ちであるかを表すフラグ。詳細は後述)FI=0に初期化する
その後、ステップS15に移り、LED101,102に対応するLED駆動回路121,124に制御信号を出力し、当該LED101,102を発光開始させる。このとき、この例では先の図7に示したように、各LED101,102は互いに波長が異なるもの2個(前述の例では可視光LEDと近赤外光LED)が1組として、第1LED101a(図7中「LED1A」で表す)、第2LED101b(図7中「LED1B」で表す)、第1LED102a(図7中「LED2A」で表す),第2LED102b(図7中「LED2B」で表す)が備えられている。このステップS15では、それぞれ第1LED101a、第1LED102aを発光させる。
その後、ステップS20に移り、上記ステップS15の第1LED101a,102aの発光による各受光素子106a〜d,107a〜dでの受光結果信号SposAを取り込む(そして適宜の記憶手段に一時的に保存する)。すなわち、切り換えスイッチ123を切り替えながら受光素子106a,106b,106c,106dにおける受光信号をA/D変換器122を介し順次取り込み、切り換えスイッチ126を切り替えながら受光素子107a,107b,107c,107dにおける受光信号をA/D変換器125を介し順次取り込む(したがってこの例では1つの第1LED101a,102aの発光に対し8個の受光信号を取り込むこととなる)。
その後、ステップS25に移り、上記ステップS15で発光開始させたLED101,102に対応するLED駆動回路121,124に制御信号を出力し、当該第1LED101a,102aの発光を停止させる。
その後、ステップS30に移り、上記ステップS15と同様、LED駆動回路121,124に制御信号を出力し、それぞれ第2LED101b,102bを発光開始させる。
そして、ステップS35において、上記ステップS20と同様、上記ステップS30の第2LED101b,102bの発光による各受光素子106a〜d,107a〜dでの受光結果信号SposBを、切り換えスイッチ123,126を順次切り替えながらA/D変換器122,125を介し順次取り込む(前述と同様1つの第2LED101b,102bの発光に対し8個の受光信号を取り込み、適宜の記憶手段に一時的に保存する)。
その後、ステップS40に移り、上記ステップS30で発光開始させたLED101,102に対応するLED駆動回路121,125に制御信号を出力し、当該第2LED101b,102bの発光を停止させる。
そして、ステップS45において、上記モードフラグFP=0であるかどうかを判定する。最初は上記ステップS10においてFP=0となっているから判定が満たされ、ステップS200に移る。
ステップS200では、上記のようにしてステップS15〜ステップS40で取り込んだ受光パターンと、上記装着位置パターンメモリ140に記憶されたパターンとの照合に基づき(詳細は後述)、手首2に装着されたベルト本体105の相対位置(手首2に対し前後(奥行き)方向位置及び手首2まわりの回転方向位置)を検出する装着ずれ検出処理を実行し、奥行き方向及び回転方向における装着位置(装着距離zmo、装着角度θko、ともに詳細は後述)を決定する。
ステップS200でベルト本体105の装着ずれの検出処理が完了したら、ステップS60でモードフラグFPを操作モードであるFP=1にし、ステップS15へ戻る。そして、前述と同様にして再びステップS15〜ステップS40を繰り返すことで受光結果を取り込んだ後、FP=1であるからステップS45での判定が満たされなくなり、ステップS65に移る。
ステップS65では、上記操作フラグFI=0であるかどうかを判定する。最初は先のステップS10で初期化された状態のままFI=0であるから判定が満たされ、ステップS300へ移る。
ステップS300では、上記のようにしてステップS15〜ステップS45で取り込んだ受光パターンと、上記開始パターンメモリ150に記憶されたパターンとの照合に基づき(詳細は後述)、操作者Mによる(この例では指33の)操作が、操作開始を意図するものであるかどうかを検出する操作開始指示検出処理を実行する。
その後、ステップS70に移り、指示の認識・未認識を表すフラグGが1であるかどうかを判定する。ステップS300において操作開始指示を認識していればG=1となっている(後述の図10のステップS330参照)ことから判定が満たされ、ステップS75で操作フラグFIを操作入力中であることを表す1とし、ステップS105へ移る。ステップS300において操作開始指示が未認識であればG=0となっている(後述の図10のステップS325参照)ことから判定が満たされず、そのままステップS105へ移る。
ステップS105では、上記ステップS5でのタイマTMでの計時開始後、予め定められた所定時間(例えばこの時間が経過したらそれまでのすべての受光結果をリセットして装着ずれの検出からやり直すべきものとする時間)を経過したかどうかを判定する。当該時間が経過するまでは判定が満たされず、ステップS15に戻って同様の手順を繰り返す。ステップS300における操作開始指示が未認識でありG=0のままである場合、このステップS105→ステップS15に戻り以降のステップを繰り返し、ステップS65を経てステップS300において再び操作開始指示の検出を行い、上記所定の時間が経過しない間は操作開始指示が認識されG=1となるまでこれらの手順を繰り返す。
操作開始指示の認識によりG=1となった場合はステップS75でFI=1となっていることから、上記のようにしてステップS15に戻りステップS15〜ステップS45を経てステップS65の判定が満たされず、ステップS400に移る。
ステップS400では、上記のようにしてステップS15〜ステップS40で取り込んだ受光パターンと、上記停止パターンメモリ160に記憶されたパターンとの照合に基づき(詳細は後述)、操作者Mによる(この例では指33の)操作が、操作停止を意図するものであるかどうかを検出する操作停止指示検出処理を実行する。
その後、ステップS80に移り、指示の認識・未認識を表すフラグGが1であるかどうかを判定する。ステップS400において操作停止指示が未認識であればG=0となっている(後述の図11のステップS425参照)ことから判定が満たされず、ステップS90へ移る。
ステップS90では、操作開始指示後操作停止指示前に上記ステップS15〜ステップS40で取得した受光結果信号SposA及びSposBを、操作者Mの操作意図に対応した本来の操作動作であるとみなして、上記ステップS200で検出した装着距離zmoだけ奥行き方向の前又は後ろに平行移動させるように補正し、また装着角度θkoだけ回転させるように補正し、受光補正信号を生成する。
その後、ステップS95において、無線通信制御部190に制御信号を出力し、上記ステップS90で生成した受光補正信号を無線通信により制御装置200へと送信し、ステップS105へと移る。
一方、前述のステップS80において、ステップS400で操作停止指示を認識していればG=1となっている(後述の図11のステップS430参照)ことから判定が満たされ、ステップS85で操作フラグFIを操作開始指示待ちであることを表す0に戻し、ステップS105へ移る。
ステップS105では、前述の所定の時間が経過するまでは判定が満たされず、ステップS15に戻って同様の手順を繰り返す。そして、ステップS105→ステップS15〜ステップS45を経て、ステップS65の判定が満たされてステップS300において再び操作開始指示の検出を行い、上記所定の時間が経過しない間は再び操作開始指示が認識されるまでこれらの手順を繰り返す。
なお、以上のようなステップS15〜ステップS105の手順を繰り返すうち、タイマTMによる前述の計時が上記所定の時間となったら、ステップS105の判定が満たされ(=タイムオーバー)、ステップS110に移ってタイマTMへ制御信号を出力して計時をリセット(初期化)した後、装着ずれの検出からやり直すためにステップS115でモードフラグFP=0に戻し、ステップS15に戻って同様の手順を繰り返す。
次に、上記ステップS200における装着ずれ検出処理について説明する。本実施形態では、操作者Mの手首2の所定の状態(例えば手のひら30の力を抜いて最も自然にしたときの状態)においてLED101,102からの照射光の受光素子106a〜d,107a〜dでの受光信号の分布(受光パターン)を1つの指標とし、手首2まわりのベルト本体105の回転により上記受光信号分布がどれだけ回転した状態にあるかを、装着位置パターンメモリ140に記憶した受光パターンテーブルと照合して検出する。また、このとき同時に手首2まわりのベルト本体105の奥行き方向の位置により上記受光信号分布がどれだけ前後に移動した状態にあるかについても、装着位置パターンメモリ140に記憶した受光パターンテーブルと照合して検出する。
すなわち、詳細な図示を省略するが、上記受光パターンテーブルには、ある状態(例えば操作者Mから見て手の甲3を手前側にしてその手の甲3の幅方向中央部に対してLED101及びLED102が等間隔に位置している状態)を回転方向の基準位置(θ=0°)として、この基準位置における受光パターン(基準位置受光パターン)を格納している。そして検出制御部120は、上記基準位置の受光パターンを元に、所定角度間隔(例えば90°範囲を16分割した5.625°刻み)をもって、当該角度間隔ごとに上記受光パターンを回転させたものを生成し、これを図示しない適宜のメモリに一時的に記憶する。このとき、所定角度間隔ごとに上記基準位置からの回転方向のずれ位置をカウントする変数k(回転ずれ位置カウント変数)に(上記16分割の例でいうと)−8〜8の各値を対応させる。k=−8〜8の各値は、k=0が角度位置θ=0°(基準位置そのもの)に対応し、k=−8が角度位置θ=−45°に対応し、以下同様に、k=8が角度位置θ=45°に対応している。
また、上記基準位置の受光パターンを元に、所定距離間隔(この例では1mm)ごとに上記基準位置からの奥行き方向のずれ位置をカウントする変数m(奥行きずれ位置カウント変数)についても0〜15等の各値を対応させる。なお、この例では奥行き方向のずれ位置については上記基準位置の前後のずれを検出するため、m=7を基準位置に対応させるものとしている。
図9は、上記ステップS200の詳細手順を表すフローチャートである。
まずステップS205で、回転ずれ位置カウント変数k及び奥行きずれ位置カウント変数mの値を、それぞれその初期値kstart(この例ではk=−45°)、mstart(この例ではm=0mm)とする。このkstart、mstartの値は固定的に設定されていても良いし、その都度操作者により操作(又は選択)入力するようにしてもよい。
そして、ステップS210で、上記kstart(この例では−45°)、上記mstart(この例ではm=0mm)に相当する基本受光パターンを装着位置パターンメモリ140から読み出し、適宜のメモリに一時的に記憶する。
その後、ステップS211に移り、前述の所定距離間隔dz(この例では1mm)を用いて、各奥行きずれ位置変数zに対応した距離位置zm=k×dzを定義する。
そして、ステップS212において、上記ステップS210で取得しメモリに記憶されている基本受光パターン(m=mstartに対応)を、上記ステップS211で求めた装着距離zだけ平行移動(ずらし)た分布とし、ステップS213でこれをメモリに記憶させる。
その後、ステップS215に移り、前述の所定角度間隔dθ(この例では5.625°)を用いて、各回転ずれ位置変数kに対応した角度位置θk=k×dθを定義する。
そして、ステップS220において、上記ステップS210で取得しメモリに記憶されている基本受光パターン(k=kstartに対応)を、上記ステップS215で求めた装着角度θkだけ回転させ(ずらし)た分布とし、ステップS225でこれをメモリに記憶させる。
その後、ステップS230で、kが予め定められた所定の回転完了値kendに達したかどうかを判定する。このkendの値は固定的に設定されていても良いし、その都度操作者により操作(又は選択)入力するようにしてもよい。k<kendの場合は判定が満たされず、ステップS235でkに1を加え、ステップS215に戻り、同様の手順を繰り返す。
k=kendになった場合は、ステップS230の判定が満たされ、ステップS236へ移る。
そして、ステップS236において、mが予め定められた所定の平行移動完了値mendに達したかどうかを判定する。このmendの値は固定的に設定されていても良いし、その都度操作者により操作(又は選択)入力するようにしてもよい。m<mendの場合は判定が満たされず、ステップS237でmに1を加え、ステップS211に戻り、同様の手順を繰り返す。
m=mendになった場合は、ステップS236の判定が満たされ、ステップS240へ移る。
ステップS240では、この時点で前述の図8のステップS15〜ステップS40で取得した全受光結果信号Spos(なおLED101,102のどれについての受光信号でもよく、また第1LED、第2LEDのいずれか一方でよい)の分布と、上記ステップS213及びS225でメモリに格納蓄積されたm=mstart〜mend及びk=kstart〜kendまでの各受光パターンの各値とを乗算することで、各ずれ位置変数m及びkごとに相関係数Rm,Rkを算出する。
その後、ステップS245において、ステップS240の結果に基づき、相関関数Rk,Rmがそれぞれ最も大きくなるずれ位置変数k及びzを、現在の実際のベルト本体105の位置に対応したずれ位置ko,moとする。
そして、ステップS250において、実際のベルト本体105の装着角度θko及び装着距離zmoを、上記ステップS245で算出したko,moと前述のdθ,dzを用いて、θko=ko×dθ及びzmo=mo×dzにより算出し、このフローを終了する。
図10は、上記ステップS300の詳細手順を表すフローチャートである。
図10において、まずステップS310で、この時点で前述の図8のステップS15〜ステップS40で取得した全受光結果信号Spos(なおLED101,102のどれについての受光信号でもよく、また第1LED、第2LEDのいずれか一方でよい)を、先のステップS200で算出したベルト本体105の装着角度θkoだけ回転させ、回転位置補正を行う。また、装着距離zmoだけ平行移動させ、奥行き位置補正も行う。
その後、ステップS315に移り、操作者Mによる操作動作の検出開始の合図(トリガー信号)として予め定められ、開始パターンメモリ150に記憶された
指33の開始指示動作(例えば人差し指、中指、薬指の三本を手のひらにつける、等)に対応する受光パターンを当該開始パターンメモリ150より読み出す。そして、この読み出した開始パターンと、上記ステップS310で補正した受光パターンとの相関係数Rを所定の手法で算出する。
そして、ステップS320において、上記ステップS310で算出した相関係数Rの値が、パターン認識上相当の確率でほぼ同一と見なせる、予め定められる所定値Rsより大きいかどうかを判定する。R>Rsであれば判定が満たされ、ステップS330に移って指示の認識・未認識を表すフラグGを1(認識)とする。R≦Rsであれば判定が満たされず、ステップS325に移って上記フラグGを0(未認識)とする。ステップS330又はステップS325が完了したらこのフローを終了する。
図11は、上記ステップS400の詳細手順を表すフローチャートである。
図11において、まずステップS410で、この時点で前述の図8のステップS15〜ステップS40で取得した全受光結果信号Spos(なおLED101,102のどれについての受光信号でもよく、また第1LED、第2LEDのいずれか一方でよい)を、先のステップS200で算出したベルト本体105の装着角度θkoだけ回転させ、回転位置補正を行う。また、装着距離zmoだけ平行移動させ、奥行き位置補正も行う。
その後、ステップS415に移り、操作者Mによる操作動作の検出停止の合図(トリガー信号)として予め定められ、停止パターンメモリ160に記憶された
指33の停止指示動作(例えば親指を一本だけ手のひらにつける、等)に対応する受光パターンを当該停止パターンメモリ160より読み出す。そして、この読み出した停止パターンと、上記ステップS410で補正した受光パターンとの相関係数Rを所定の手法で算出する。
そして、ステップS420において、上記ステップS410で算出した相関係数Rの値が、パターン認識上相当の確率でほぼ同一と見なせる、予め定められる所定値Reより大きいかどうかを判定する。R>Rsであれば判定が満たされ、ステップS430に移って指示の認識・未認識を表すフラグGを1(認識)とする。R≦Reであれば判定が満たされず、ステップS425に移って上記フラグGを0(未認識)とする。ステップS430又はステップS425が完了したらこのフローを終了する。
図12は、前述の制御装置200の機能的構成を表す機能ブロック図である。
図12において、制御装置200は、入力信号生成制御部210と、各操作態様における操作者Mの操作部位(この例では指33等)の姿勢に対応した血管、筋肉等の生体情報分布として予め設定されている受光パターン(=基準姿勢受光パターン)を格納保持した受光パターンメモリ220と、操作者の操作態様(意図)を解析する(詳細は後述)受光パターン解析部230と、受光パターン解析部230に備えられた学習処理部231(詳細は後述)と、公知のアンテナや通信回路等を備え、操作装置100への無線通信を行うための無線通信制御部240と、同様に公知のアンテナや通信回路等を備え、操作装置100以外の外部機器(この例では上記表示装置300)へ無線通信を行うための外部入出力インターフェイス(I/F)250と、電源供給用の電池BTとを備えている。
図13は、制御装置200全体が実行する制御手順の一例を表すフローチャートである。図13において、まず、ステップS505において、入力信号生成制御部210で、無線通信制御部240を介し、操作装置100に備えられた無線通信制御部190からの無線信号データの伝送があったかどうかを判定する。データ伝送があった場合には判定が満たされ、ステップS510に移る。
ステップS510では、入力信号生成制御部210で、操作者Mの操作意図に対応した、操作開始指示後操作停止指示前に前述のステップS15〜ステップS40で取得され(=SposA及びSposB)さらに装着角度θkoの補正及び装着距離zmoの補正を施された受光補正信号を、上記ステップS505で受信した操作装置100からの無線信号データの中から抽出取得し、適宜のメモリに格納蓄積する。
その後ステップS515に移り、入力信号生成制御部210で、上記ステップS510で取得したデータが所定数(例えば操作者Mの手による1操作態様を構成するのに十分な姿勢の数)だけ蓄積されたかどうかを判定する。蓄積データ数が当該所定数未満である場合には判定が満たされず、ステップS505に戻って同様の手順を繰り返す。蓄積データが所定数に達した場合にはステップS515の判定が満たされ、ステップS520へ移る。
ステップS520では、受光パターン解析部230で、操作者の手のひら30や指33の姿勢を特定するための上記受光パターンメモリ220に格納された受光パターン(基準姿勢受光パターン)を参照しつつ、その基準姿勢受光パターンと、操作装置100から入力した操作信号に基づく受光パターンとを比較することにより、操作者Mの手のひら30や指33の姿勢(例えば「グー」、「チョキ」、「パー」のいずれかである等)を解析する。さらに、その操作者Mの手のひら30や指33の姿勢の複数の解析結果を用いて、その連続性に基づき、操作者Mの操作態様(操作意図「グー→チョキ→パー」等)を解析する。
その後、ステップS525に移り、入力信号生成制御部210で、上記ステップS520で解析した操作者Mの操作態様を元に、対応する操作信号(例えば「ファイル開く」「次ページ表示」等)を生成する。
そして、ステップS530において、外部入出力インターフェイス250で、上記ステップS525で生成した操作信号を表示装置300(ヘッドマウントディスプレイ)へ無線通信により出力し、ステップS505へ戻って同様の手順を繰り返す。
図14は、上記表示装置300の詳細外観構造を表す斜視図である。図14において、表示装置300は、操作者Mの鼻6に載置保持される鼻保持部301と、操作者Mの両側の耳5にそれぞれ載置保持される耳保持部302と、装着時に操作者Mの両目の前方にそれぞれ位置し所定の表示を行う表示部303と、それら表示部303を指示するための支持部304と、ケーブル305を介し表示部303に接続された制御部(図示せず)とを有している。
上記制御部は、上記制御装置200より無線通信を介し操作信号を受信するとともに、この操作信号に基づき2つの表示部303への制御信号を生成してケーブル305を介し出力し、表示部303において対応する表示を行わせる。
図15は、上記のような操作システムを実際に活用した一例を表す説明図である。図15において、この例では操作者Mは自動車CRの整備を行っており、ジャッキアップした自動車CRの床下に図示のように体を寝かせて潜り込んだ状態で、適宜の工具を手にして作業を行っている。その際、制御装置200の表示制御(詳細な説明は省略)により整備マニュアルの表示制御信号が表示装置300の上記制御部へと無線通信を介して送信され、これによって表示装置300の表示部に当該整備マニュアルが(操作者Mが両眼にて視認可能に)表示される。そしてこのとき、操作者Mが手の平3や指33を適宜に操作(例えば前述の「グー」「チョキ」「パー」等)することにより、その操作態様に応じた受光パターンが操作装置100から制御装置200へと送信され、制御装置200の受光パターン解析部230で当該操作態様に基づき操作者による当該整備マニュアルのページめくりの意図を解析し、対応するページ移行処理を実行させることができる。これによって、操作者Mは、紙でできた刊行物としてのマニュアルをいちいち床下に持ち込んだりページをめくったりすることなく、手に工具をもったままで整備マニュアルの所望のページを参照し、最適な自動車整備作業を行うことができる。
以上において、図8に示した検出制御部120が実行するフローのステップS15〜ステップS40が、各請求項記載の、発光手段とこの発光手段からの照射光の反射光又は散乱光をを受光した少なくとも1つの受光手段とを受光パターンとして検出するパターン検出手段を構成する。また、ステップS95及び無線通信制御部190が、パターン検出手段で検出した受光パターンに基づき前記操作者の指部の動作状態に対応した操作信号を出力する信号出力手段を構成する。
また、制御装置200の入力信号生成制御部210が実行する図13のフローのステップS525が、信号出力手段から入力された操作信号より取得した受光パターンに基づき、操作者の指部の姿勢又はその姿勢の変化態様を算出する姿勢演算手段を構成する。
以上のように構成した本実施形態の操作システムにおいては、操作者Mが手首2に操作装置100をベルト本体105を介して装着し、その装着状態で何らかの操作を意図し手のひら33や指30を動かすと、LED101,102から発光された照射光は、手の甲を表側から裏側に貫通するようにして手のひら33や指30においてその姿勢や姿勢の変化に対応した反射光や散乱光を生じた後、それらの光は再び手の甲を裏側から表側に貫通するようにして戻り、それぞれ対応する位置の受光素子106a〜d,107a〜dで受光される。このようにして、上記操作者Mの指33の動きに対応し複数の受光素子106a〜d,107a〜dにおいて種々の受光結果が生じるため、その受光結果の組み合わせに基づき、上記操作者Mの指33の動作状態に対応した操作信号を出力することができる。
以上のように、操作者Mの指33や手のひら30の姿勢等を光学的な手法を介して検出し操作信号としこれに基づき姿勢を演算することにより、操作者の意図を高精度に反映した操作を実現することができる。また非接触の光学的手法であることから、筋電位や加速度検出による手法のように操作者Mの体に電極等を密着させる必要はないため、操作者Mに圧迫感や不快感を与えることなく、快適な操作を行うことができる。
本実施形態では特に、操作者Mが指33の姿勢を変化させることで変化する、手のひら30や指33の血管分布・筋肉分布・皮膚表面形状分布等の生体情報の分布の変化を、LED101,102の照射光の透過光や散乱光の挙動の変化、すなわち受光素子106a〜d,107a〜dの受光パターンの変化として検出する。具体的には、予めある所定の基準姿勢にて取得した受光パターンを基準姿勢受光パターンとして制御装置200の受光パターンメモリ220に保持しておき、この基準姿勢受光パターンと、現在、操作装置100で検出された受光パターンとを制御装置200にて比較する。この比較に基づき、基準姿勢での受光パターンに対する現在の受光パターンの差がわかるので、その差に応じた形で操作者Mの指33や手のひら30の姿勢又は姿勢の変化態様を算出することができる。
また、本実施形態では特に、LED101,102と受光素子106a〜d,107a〜dとを、ベルト本体105に対し略円環状に配置していることにより、上記したように操作者Mの手首、あるいはその他例えば、胴、首、足首、腕、頭などにも容易に装着可能な構造とすることができる。なお、操作者Mの身体以外に取り付け可能な構造(例えば、天井や表示パネルに取り付け可能とする)としてもよい。
なお、本発明は、上記実施形態に限られるものではなく、その趣旨及び技術的思想を逸脱しない範囲内で、種々の変形が可能である。以下、そのような変形例を説明する。
(1)複数のモードを設定する場合
上記実施形態では、操作装置100から常時信号出力を行うのではなく、所定の開始指示又は所定の停止指示がなされたときに信号出力を行うようにするものとしているが、このとき、指33の操作に関するモードを予め複数設定しておき、そのうちのいずれかのモードを選択指示で選択可能とするものとしてもよい。このようなモードとしては、マウスと同等の操作入力に対応したマウスモード(前述の図6(b)〜(d)参照)、キーボードと同等の操作入力に対応したキー別文字入力モード、携帯電話と同等の操作入力に対応したかなめくり入力モードを予め設定しておけばよい。このようにすることで、操作者がマウスモード、キー別文字入力モード、かなめくり入力モードのいずれか操作者の意図する便利なモードを選択して操作することができ、利便性を向上することができる。
また、予め所定の姿勢で取得した複数の受光パターンを上記の各モードに対応したモード指示用受光パターンとして保持しておき、このモード指示用受光パターンと、現在、パターン検出手段で検出した受光パターンとを比較し、この比較に基づき、どのモードが選択されたかどうかの判定を行うものとしてもよい。これにより、操作者は、モード選択時には、各モードに対応した所定の姿勢をとるだけで足り、それ以外の特別な操作を行う必要がなくなる。この結果、操作労力の低減を図れる。
(2)フィルタ手段を用いて同時発光する場合
上記実施形態では、LED101,102を(所定の時間差をもって)順次発光させたが、これに限られず、それらを同時発光させるとともに、受光側でフィルタ手段を用いて所定波長帯域毎に分離するようにしてもよい。
図16は、そのような変形例の1つを表している(図示の煩雑化を防止するために一部省略して表す)。この例では、LED101,102を、対応する上記LED駆動回路121,124により互いに異なる変調周波数f1,f2,f3,f4によりそれぞれ変調して照射するようになっている。そして、これに対応し、各受光素子106a〜d,107a〜dそれぞれで受光した信号を増幅する増幅器195と、この増幅器195で増幅した信号がそれぞれ入力され、上記変調周波数f1,f2,f3,f4ごとに抽出分離する電気的なフィルタ191,192,193,194(フィルタ手段)と、それらフィルタ191,192,193,194からの出力を選択的に上記切り換えスイッチ123,126のいずれかに入力するための切り換えスイッチ196とを備えている。
この場合、同時発光制御される(=同時発光制御手段)LED101,102から発光され受光素子106a〜d,107a〜dで同時に受光された照射光を、各フィルタ191,192,193,194で所定の変調周波数帯域(この例では変調周波数f1,f2,f3,f4)ごとに分離した後、切り換えスイッチ196及び切り換えスイッチ123,126を介して検出制御部120へ入力することで、各LED101,102の照射光ごとに別々の検出処理を行うことができる。そして、このように時間差発光を行わず同時発光させて受光することにより、上記実施形態のように順次発光させる場合に比べて、発光及び受光に必要な時間を短縮し、効率のよい検出を行うことができる。
図17は、フィルタ手段を用いる別の変形例を表している(図示の煩雑化を防止するために一部省略して表す)。上記と同様、LED101,102はLED1A,LED1Bに対応する互いに異なる波長λ1,λ2,λ3,λ4が照射されている。そして、これに対応し、各受光素子106a〜d,107a〜dそれぞれは、上記波長λ1,λ2に対応した数(この例では2つ)ずつ(例えば受光素子106aについては、波長λ1に対応した受光素子106aa,106ac、波長λ2に対応した受光素子106ab,106adが)設けられている。さらに、受光した光成分を上記波長ごとに抽出分離してそれら4つの受光素子に対して供給するフィルタ手段として物理的な分光フィルタ(λ1)181、分光フィルタ(λ2)182、分光フィルタ(λ1)183、分光フィルタ(λ2)184が設けられている。この分光フィルタの例としては、例えば赤外透過フィルタや赤色、緑色、青色の、可視透過フィルタなどを用いることができる。
この場合、同時発光制御される(=同時発光制御手段)LED101a,101bから発光された照射光を、各フィルタ181,182,183,184で所定の波長帯域(この例では波長λ1,λ2)ごとに同時に分離して受光した後、受光素子106aa,106ab,106ac,106ad、受光素子106ba,106bb,106bc,106bdへ供給し、さらに切り換えスイッチ196及び切り換えスイッチ123,126を介して検出制御部120へ入力することで、各LED101a,101bの照射光ごとに別々の検出処理を行うことができる。そして、このように発光波長ごとの時間差発光を行わず同時発光させて受光することにより、上記実施形態のように順次発光させる場合に比べて、発光及び受光に必要な時間を短縮し、効率のよい検出を行うことができる。
(3)ニューラルネットの手法を用いる場合
上記実施形態においては、ベルト本体105の回転方向及び奥行き方向ずれ補正において、当該補正を行うのに、検出した受光パターンと基準位置受光パターンとの一致不一致を照合したり、それら2つの受光パターンの類似性を所定の関数で数値化し所定値以上の場合を選択するようにしたが、これに限られない。すなわち例えば、重み付け繰り返し演算を用いたニューラルネットの手法を用いて現在の受光パターンが回転方向にどれだけずれているかを検出するようにしてもよい。
図18は、このニューラルネットの手法原理を示すための概念的説明図である。ニューラルネットとは、出力の正解(教師信号)を提示し、結合荷重を変化させてやることで種々の入力に対して正解を提示できるようにシステムを学習させる方式である。図18において、数値的な入力を行うことで、入力層INT、中間層MID、出力層OUTで数値計算を行い、数値的な出力が行われる。入力に対する出力の正解(教師信号)が既知の場合、この教師信号を教えて各層におけるユニットの結合荷重の値を少しずつ変化させることで、種々の入力に対する数値出力と上記教師信号との誤差を最小にする(学習させる)ようにすることができる。
すなわち、ネットワークの出力をo、教師信号をyとすると、出力層OUTのユニットのインデックスをjとして、損失関数Rを、
R=Σ(o−y
とおくことができる。
ここで、このネットワークNWによるニューラルネットの学習は上記のように結合荷重を修正することで達成されるが、中間層MIDと出力層OUTとの結合荷重の修正量wは、上記損失関数Rを用いて、
△wij=−ε(∂R/∂wij
で表すことができる(但しi:中間層MIDのインデックス、ε:学習係数)。
さらに入力層INTと中間層MIDとの結合荷重の修正量は、中間層MIDと出力層OUTとの結合荷重の修正量を利用することで算出することができる(後ろの層から前の層へ向かって、ネットワークの誤差を伝搬させ、ネットワーク全体を学習させる)。
上記のようなニューラルネットの手法で比較を行うことで、基準姿勢受光パターンと、パターン検出手段で検出された受光パターンとを比較することができ、これによって姿勢算出手段で姿勢又は姿勢の変化態様を算出することができる。
(4)姿勢解析も操作装置100側で行う場合
以上においては、操作装置100側では、操作開始指示及び操作停止指示の検出と受光信号のずれ補正のみを行い、操作者Mの操作意図に対応した手のひら30や指33における透過散乱光や反射散乱光の挙動を反映した受光信号に基づく、操作者Mの指33や手のひら30の姿勢解析は制御装置200側で行うようにした。しかしながら、このような姿勢解析機能その他についても、制御装置200側でなく操作装置100で行うようにしても良い。
図19は、この変形例における制御系を表す機能ブロック図であり、上述の図7や図12に対応する図である。図7及び図12と同等の部分には同一の符号を付し、適宜説明を省略又は簡略化する。図19に示す検出コントローラ110には、上記実施形態において制御装置200側に備えられていた、各操作態様における操作者Mの操作部位(指3や手のひら30等)の姿勢に対応した基準姿勢受光パターンを格納保持した上記受光パターンメモリ220と、操作者の操作態様(意図)を解析する受光パターン解析部230(学習処理部231は図示省略)と、操作装置100以外の外部機器(表示装置300等)へ無線通信を行うための上記外部入出力インターフェイス(I/F)250とが設けられている。
本変形例では、制御装置200の入力信号生成制御部210の機能を兼ねる検出コントローラ110の検出制御部120及びその他各部が、図13に示すフローチャートと同等の制御手順を実行する。すなわち、ステップS505と同等の手順(以下、単にステップS505のように示す)において、検出制御部120で受光信号データの入力(又は蓄積)があったかどうかを判定する。データ入力又は蓄積があった場合には判定が満たされ、ステップS510で、検出制御部120で、操作者Mの操作意図に対応した、操作開始指示後操作停止指示前に前述のステップS15〜ステップS40で取得され(=SposA及びSposB)さらに装着距離zmo及び装着角度θko補正を施された受光補正信号を、上記ステップS505で識別した信号データの中から抽出取得し、適宜のメモリに格納蓄積する。
その後ステップS515に移り、検出制御部120で、上記ステップS510で取得したデータが所定数(例えば操作者Mの手による1操作態様を構成するのに十分な指33や手のひら30の姿勢の数)だけ蓄積されたかどうかを判定し、蓄積データが所定数に達した場合にはステップS520へ移り、受光パターン解析部230で、操作者の指33や手のひら30の姿勢を特定するための上記受光パターンメモリ220に格納された受光パターン(基準姿勢受光パターン)を参照しつつ、その基準姿勢受光パターンと、上記蓄積された操作信号に基づく受光パターンとを比較することにより、操作者Mの指33や手のひら30の姿勢(例えば「グー」、「チョキ」、「パー」のいずれかである等)を解析する。さらに、その操作者Mの指33や手のひら30の姿勢の複数の解析結果を用いて、その連続性に基づき、操作者Mの操作態様(操作意図「グー→チョキ→パー」等)を解析する。
その後、ステップS525に移り、検出制御部120で、上記ステップS520で解析した操作者Mの操作態様を元に、対応する操作信号(例えば「ファイル開く」「次ページ表示」等)を生成し、ステップS530において、外部入出力インターフェイス250で、上記ステップS525で生成した操作信号を表示装置300(ヘッドマウントディスプレイ)へ無線通信により出力し、ステップS505へ戻って同様の手順を繰り返す。
以上において、検出制御部120が実行する図13のフローのステップS525が、信号出力手段から入力された操作信号より取得した受光パターンに基づき、操作者の指部の姿勢又はその姿勢の変化態様を算出する姿勢算出手段を構成する。また、ステップS520が、操作者の指部の所定の基準姿勢に対応した生体情報分布に応じて設定された基準姿勢受光パターンと、前記パターン検出手段で検出された受光パターンとを比較する姿勢検出用比較手段を構成する。
本変形例によっても、上記実施形態と同様の効果を得る。また、制御装置200の機能を操作装置100側に兼ね備えることにより、制御装置200が不要となり、操作者Mの装着負担や操作労力を低減することができる。
(5)その他
(5−1)加速度センサを用いる場合
以上は、上記図8に詳細を示すステップS300の操作開始指示検出処理や、ステップS400の操作停止検出処理において、操作者Mが手のひら30や指33の姿勢を変化させて所定の開始指示用受光パターンや停止指示用受光パターンと合致させることで、開始指示や停止指示を行ったが、これに限られない。すなわちこのような光学的な検出を介した開始指示・停止指示ではなく、例えばベルト本体105に加速度センサ180を設け(図3、図4、図7等参照)、操作者Mが手首2を強く振る等により所定値以上の加速度を与えることを持って上記開始指示・停止指示を与えるようにしても良い。さらには、開始指示や停止指示については、ベルと本体105やその他の箇所に設けた通常の操作スイッチ等によって行っても良い。これらの場合も、操作者Mに圧迫感や不快感を与えることなく、快適な操作を行えるという効果を得ることができる。
(5−2)レーザ光を用いる場合
すなわち、LED101、102を用いる代わりにレーザダイオードLDを用い、1次元又は2次元にレーザ光を走査しつつ発光させるようにしてもよい。そのレーザ光の手のひら30や指33における反射光や散乱光を対応する位置の受光素子106a〜d,107a〜dで受光することで信号出力手段より操作者の手や指の動作状態に対応した操作信号を出力することができる。レーザ光源として赤外発光レーザダイオードと赤や青色の可視光発光レーザダイオードを用いればよい。また、2次元に走査する場合は、受光素子は一つでもよく。走査タイミングに応じた時系列信号を用いればよい。
(5−3)操作者個人のクセ等への対応
以上述べた受光パターンの認識等において、操作者M個人個人のクセやあるいは特定の操作部位の操作頻度等を学習させる機能を設けてもよい。例えば図12中に想像線で示すように、制御装置200に上記個人のクセや個人固有の操作頻度情報等を記憶するデータベース260を設け、受光パターン解析部230に設けた学習処理部231で所定頻度ごとにデータベース260内に特定の操作や動作態様を記憶する(あるいは操作者Mごと、又は一般的なものとして初期設定してもよい)。そして、受光パターン解析部230で受光パターンに基づき操作者Mの操作部位(手指等)の解析を行うときに、上記データベース260内の情報を参照して解析を行うようにすればよい。
(5−4)他のサービス用途への適用
以上は、本発明を自動車の整備において整備マニュアル参照時に適用した場合を例にとって説明したが、その他点検簿への入力操作等にも適用できる。またこのような整備業務関係に限られるものでもなく、オフィス・店舗その他の建造物や各種会場等における受付・案内業務(会議室の手配、アポイントメントの確認、プロジェクタスクリーンや大型ディスプレイの各種入力・操作等)その他サービス業など、操作者がマニュアルや書類等を参照する又は電子ファイルを使用する場合がある全般において適用可能である。また、通常の操作機器やパソコン等で行うすべての操作(ファイル操作、編集操作、表示操作等)、パソコンやモバイル機器のキーボード操作の代わりに数字・文字入力(かなめくり操作を含む)、メール送受信も可能である(前述の複数のモード設定により)。さらには、遊戯機器(ゲーム機等)や遊戯設備(バーチャルスポーツ設備等)等の娯楽への適用や、この場合も同様の効果を得る。
また、以上既に述べた以外にも、上記実施形態や各変形例による手法を適宜組み合わせて利用しても良い。
その他、一々例示はしないが、本発明は、その趣旨を逸脱しない範囲内において、種々の変更が加えられて実施されるものである。
本発明の一実施形態の操作装置を含む操作システムの全体構成を表す説明図である。 操作装置の詳細構造を表す正面図である。 操作装置が操作者の手首に装着されている様子を表す図である。 操作装置における照射光の受光挙動の一例を表す図である。 手のひらや指の姿勢変化の検出手法を概念的に表した図である。 受光素子により検出された反射光、散乱光のパターンの一例を表す図である。 検出コントローラを含む制御系を表す機能ブロック図である。 検出制御部が実行する制御手順の一例を表すフローチャートである。 図8におけるステップS200の詳細手順を表すフローチャートである。 図8におけるステップS300の詳細手順を表すフローチャートである。 図8におけるステップS400の詳細手順を表すフローチャートである。 制御装置の機能的構成を表す機能ブロック図である。 制御装置全体が実行する制御手順の一例を表すフローチャートである。 表示装置の詳細外観構造を表す斜視図である。 操作システムを実際に活用した一例を表す説明図である。 フィルタ手段を用いて同時発行する変形例に備えられる検出コントローラを含む制御系を表す機能ブロック図である。 フィルタ手段を用いて同時発行する別の変形例に備えられる検出コントローラを含む制御系を表す機能ブロック図である。 ニューラルネットの手法原理を示すための概念的説明図である。 姿勢解析も操作装置で行う変形例における制御系を表す機能ブロック図である。
符号の説明
100 操作装置
101 LED(発光手段)
102 LED(発光手段)
105 ベルト本体(装着部材)
106a〜d 受光素子(受光手段)
107a〜d 受光素子(受光手段)
110 検出コントローラ
120 検出制御部
190 無線通信制御部(信号出力手段)
200 制御装置
300 表示装置

Claims (32)

  1. 操作者の手首に装着される装着部材と、
    この装着部材に設けられ、前記操作者の手の甲側へ所定の照射光を発光する少なくとも1つの発光手段と、
    前記装着部材に設けられ、前記照射光の反射光又は散乱光を前記手の甲側より受光する複数の受光手段と、
    これら複数の受光手段における前記反射光又は前記散乱光の受光結果の組み合わせに基づき、操作者の動作状態に対応した操作信号を出力する信号出力手段と
    を有することを特徴とする操作装置。
  2. 請求項1記載の操作装置において、
    前記受光手段は、
    少なくとも前記操作者の手のひらにおける前記照射光の反射光又は散乱光を受光可能に配置されている
    ことを特徴とする操作装置。
  3. 請求項2記載の操作装置において、
    前記受光手段は、
    その焦点位置が前記操作者の手のひら位置近傍となるように、配置されていることを特徴とする操作装置。
  4. 請求項1記載の操作装置において、
    前記受光手段は、
    少なくとも前記操作者の指部における前記照射光の反射光又は散乱光を受光可能に配置されている
    ことを特徴とする操作装置。
  5. 請求項4記載の操作装置において、
    前記受光手段は、
    前記操作者の指に備えられた反射体で反射された前記照射光の反射光を受光可能に配置されている
    ことを特徴とする操作装置。
  6. 請求項4記載の操作装置において、
    前記発光手段と、この発光手段からの前記照射光の反射光又は散乱光を受光した少なくとも1つの前記受光手段とを、受光パターンとして検出するパターン検出手段を有し、
    前記信号出力手段は、
    前記パターン検出手段で検出した受光パターンに基づき、前記操作信号を出力することを特徴とする操作装置。
  7. 請求項6記載の操作装置において、
    前記パターン検出手段は、
    前記発光手段の非発光時における前記複数の受光手段における受光結果と、前記発光手段の発光時における前記複数の受光手段における受光結果との差分信号から、前記受光パターンを取得することを特徴とする操作装置。
  8. 請求項6又は7記載の操作装置において、
    前記受光手段及び前記パターン検出手段は、
    前記操作者の少なくとも1本の指の動きを前記受光パターンとして検出可能となるように、構成されていることを特徴とする操作装置。
  9. 請求項8記載の操作装置において、
    前記受光手段及び前記パターン検出手段は、
    前記操作者の5本の指の動きを前記受光パターンとして検出可能となるように、構成されていることを特徴とする操作装置。
  10. 請求項6又は7記載の操作装置において、
    前記パターン検出手段で検出した受光パターンに基づき、前記操作者の指部の姿勢又はその姿勢の変化態様を算出する姿勢算出手段を有し、
    前記信号出力手段は、
    前記姿勢算出手段で算出された前記姿勢又は前記姿勢の変化態様を前記操作信号として出力することを特徴とする操作装置。
  11. 請求項10記載の操作装置において、
    前記操作者の指部の所定の基準姿勢に対応した生体情報分布に応じて設定された基準姿勢受光パターンと、前記パターン検出手段で検出された受光パターンとを比較する姿勢検出用比較手段を有し、
    前記姿勢算出手段は、前記姿勢検出用比較手段での比較結果に応じて前記姿勢又は前記姿勢の変化態様を算出することを特徴とする操作装置。
  12. 請求項11記載の操作装置において、
    前記姿勢検出用比較手段は、
    前記検出した受光パターンと前記基準姿勢受光パターンとの一致不一致を照合するか、又は、前記検出した受光パターンと前記基準姿勢受光パターンとの類似性を所定の関数で数値化し所定値以上の場合を選択するか、若しくは、重み付け繰り返し演算を用いたニューラルネットの手法により、前記比較を行う
    ことを特徴とする操作装置。
  13. 請求項12記載の操作装置において、
    教師信号に基づき判定のために必要なパラメータを取得する学習モード、及び、当該パラメータと取得データとから判定を行う判定モードを備え、前記パラメータを保存するメモリ部を有する判定比較手段
    を設けたことを特徴とする操作装置。
  14. 請求項6乃至13のいずれか1項記載の操作装置において、
    前記操作信号に基づく操作者の指部の姿勢認識に関して設定された複数のモードを選択するための選択指示が入力されたかどうかを判定する第1選択指示判定手段を有することを特徴とする操作装置。
  15. 請求項14記載の操作装置において、
    前記第1選択指示判定手段は、
    前記モードとして、マウスと同等の操作入力に対応したマウスモード、キーボードと同等の操作入力に対応したキー別文字入力モード、携帯電話と同等の操作入力に対応したかなめくり入力モードのいずれかを選択する前記選択指示がなされたかどうかを判定する
    ことを特徴とする操作装置。
  16. 請求項14又は15記載の操作装置において、
    前記第1選択指示判定手段は、
    前記パターン検出手段で検出された前記受光パターンを予め定められたモード指示用受光パターンと比較する第1モード指示用比較手段を備え、
    この第1モード指示用比較手段の比較結果に応じて、前記選択指示が入力されたかどうかの判定を行う
    ことを特徴とする操作装置。
  17. 請求項6乃至16のいずれか1項記載の操作装置において、
    前記信号出力手段による前記操作信号の出力を開始するための開始指示が入力されたかどうかを判定する開始指示判定手段を有し、
    前記信号出力手段は、前記開始指示判定手段の判定が満たされたときに、前記前記操作信号の出力を行う
    ことを特徴とする操作装置。
  18. 請求項17記載の操作装置において、
    前記開始指示判定手段は、
    前記パターン検出手段で検出された前記受光パターンを予め定められた開始指示用受光パターンと比較する開始指示検出用比較手段を備え、
    この開始指示検出用比較手段の比較結果に応じて、前記開始指示が入力されたかどうかの判定を行う
    ことを特徴とする操作装置。
  19. 請求項6乃至18のいずれか1項記載の操作装置において、
    前記信号出力手段による前記操作信号の出力を停止するための停止指示が入力されたかどうかを判定する停止指示判定手段を有し、
    前記信号出力手段は、前記停止指示判定手段の判定が満たされたときに、前記前記操作信号の出力を停止する
    ことを特徴とする操作装置。
  20. 請求項19記載の操作装置において、
    前記停止指示判定手段は、
    前記パターン検出手段で検出された前記受光パターンを予め定められた停止指示用受光パターンと比較する停止指示検出用比較手段を備え、
    この停止指示検出用比較手段の比較結果に応じて、前記停止指示が入力されたかどうかの判定を行う
    ことを特徴とする操作装置。
  21. 請求項1乃至20のいずれか1項記載の操作装置において、
    前記発光手段は、波長が可視光帯域より近赤外光帯域までに含まれる前記照射光を発光することを特徴とする操作装置。
  22. 請求項21記載の操作装置において、
    波長が可視光帯域に含まれる前記照射光を受光する前記受光手段は、
    その焦点位置が前記操作者の手の甲近傍となるように配置されていることを特徴とする操作装置。
  23. 請求項1乃至21のいずれか1項記載の操作装置において、
    前記発光手段は複数備えられており、
    それら複数の発光手段は、近赤外光帯域に含まれる同一の照射光をそれぞれ発光することを特徴とする操作装置。
  24. 請求項1乃至22のいずれか1項記載の操作装置において、
    前記発光手段は複数備えられており、
    それら複数の発光手段は、少なくとも1つの波長が近赤外光帯域に含まれる複数波長の照射光を発光することを特徴とする操作装置。
  25. 請求項23又は24記載の操作装置において、
    前記複数の発光手段を、時間差をもって順次発光させる時間差発光制御手段を有することを特徴とする操作装置。
  26. 請求項24記載の操作装置において、
    前記複数の発光手段を、同時に発光させる同時発光制御手段と、
    この同時発光制御手段の制御に基づき前記複数の発光手段から同時に発光され前記複数の受光手段で受光された前記照射光を、所定の波長帯域ごとに分離するためのフィルタ手段と
    を有することを特徴とする操作装置。
  27. 請求項1乃至19のいずれか1項記載の操作装置において、
    前記発光手段は、
    レーザ光を1次元又は2次元に走査可能なレーザ走査手段を備えることを特徴とする操作装置。
  28. 操作者の手首に装着される装着部材、この装着部材に設けられ、前記操作者の手の甲側へ所定の照射光を発光する少なくとも1つの発光手段、装着部材に設けられ、少なくとも前記操作者の指部における前記照射光の反射光又は散乱光を前記手の甲側より受光する複数の受光手段、前記発光手段とこの発光手段からの前記照射光の反射光又は散乱光を受光した少なくとも1つの前記受光手段とを受光パターンとして検出するパターン検出手段、及び、このパターン検出手段で検出した受光パターンに基づき前記操作者の指部の動作状態に対応した操作信号を出力する信号出力手段を有する操作装置と、
    前記信号出力手段から入力された前記操作信号より取得した前記受光パターンに基づき、前記操作者の指部の姿勢又はその姿勢の変化態様を算出する姿勢演算手段を備えた制御装置と
    を有することを特徴とする操作システム。
  29. 請求項28記載の操作システムにおいて、
    前記制御装置は、
    前記操作者の指部の所定の姿勢に対応した生体情報分布に応じて設定された基準姿勢受光パターンと、前記取得した受光パターンとを比較する演算用比較手段を有し、
    前記姿勢演算手段は、前記演算用比較手段での比較結果に応じて前記姿勢又は前記姿勢の変化態様を算出することを特徴とする操作システム。
  30. 請求項28又は29記載の操作システムにおいて、
    前記制御装置は、
    前記操作信号に基づく操作者の指部の姿勢認識に関して設定された複数のモードを選択するための選択指示が、前記操作装置より入力されたかどうかを判定する第2選択指示判定手段を備える
    ことを特徴とする操作システム。
  31. 請求項30記載の操作システムにおいて、
    前記制御装置の前記第2選択指示判定手段は、
    前記モードとして、マウスと同等の操作入力に対応したマウスモード、キーボードと同等の操作入力に対応したキー別文字入力モード、携帯電話と同等の操作入力に対応したかなめくり入力モードのいずれかを選択する前記選択指示が、前記操作装置より入力されたかどうかを判定する
    ことを特徴とする操作システム。
  32. 請求項30又は31記載の操作システムにおいて、
    前記制御装置の前記第2選択指示判定手段は、
    前記パターン検出手段で検出された前記受光パターンを予め定められたモード指示用受光パターンと比較する第2モード指示用比較手段を備え、
    この第2モード指示用比較手段の比較結果に応じて、前記選択指示が入力されたかどうかの判定を行う
    ことを特徴とする操作システム。
JP2006200106A 2006-07-21 2006-07-21 操作装置及び操作システム Pending JP2008027253A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006200106A JP2008027253A (ja) 2006-07-21 2006-07-21 操作装置及び操作システム
PCT/JP2007/064378 WO2008010581A1 (fr) 2006-07-21 2007-07-20 Dispositif opérationnel et système opérationnel
US12/320,185 US20090174578A1 (en) 2006-07-21 2009-01-21 Operating apparatus and operating system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006200106A JP2008027253A (ja) 2006-07-21 2006-07-21 操作装置及び操作システム

Publications (1)

Publication Number Publication Date
JP2008027253A true JP2008027253A (ja) 2008-02-07

Family

ID=39117818

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006200106A Pending JP2008027253A (ja) 2006-07-21 2006-07-21 操作装置及び操作システム

Country Status (1)

Country Link
JP (1) JP2008027253A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5671182B1 (ja) * 2014-08-08 2015-02-18 道子 山本 掌用光触媒殺菌ライト
WO2017094346A1 (ja) * 2015-12-01 2017-06-08 ソニー株式会社 情報処理装置、情報処理方法及びプログラム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5671182B1 (ja) * 2014-08-08 2015-02-18 道子 山本 掌用光触媒殺菌ライト
WO2017094346A1 (ja) * 2015-12-01 2017-06-08 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
US10754432B2 (en) 2015-12-01 2020-08-25 Sony Corporation Information processing device and information processing method for detecting gesture manipulation

Similar Documents

Publication Publication Date Title
JP4736052B2 (ja) 操作信号出力装置及び操作システム
US20090174578A1 (en) Operating apparatus and operating system
CN105045398B (zh) 一种基于手势识别的虚拟现实交互设备
US8760398B2 (en) Interactive video based games using objects sensed by TV cameras
CA2864719C (en) Gesture recognition devices and methods
US10928929B2 (en) Method for displaying a virtual interaction on at least one screen and input device, system and method for a virtual application by means of a computing unit
KR101429494B1 (ko) 이동 통신 장치 및 이를 위한 입력 장치
US10209881B2 (en) Extending the free fingers typing technology and introducing the finger taps language technology
JP5261786B2 (ja) 3次元触覚センサ及び3次元触覚センシング方法
US10908642B2 (en) Movement-based data input device
WO2009075433A1 (en) Data input apparatus and data processing method therefor
CN110543233B (zh) 信息处理设备和非暂时性计算机可读介质
US10078374B2 (en) Method and system enabling control of different digital devices using gesture or motion control
WO2019176273A1 (ja) 情報処理装置、情報処理方法、及びプログラム
CN111563459A (zh) 一种手指动作采集方法及手指动作采集设备
US20170277428A1 (en) Information processing device, information processing method, and non-transitory computer readable memory medium
US20050270274A1 (en) Rapid input device
JP2019149066A (ja) 情報処理装置及びプログラム
CN105046249A (zh) 一种人机交互方法
JP2008027253A (ja) 操作装置及び操作システム
WO2022014445A1 (ja) 検出装置及び検出方法
KR101552134B1 (ko) 웨어러블 디바이스
JP2016115310A (ja) 電子機器
CN110543234A (zh) 信息处理装置和非暂时性计算机可读介质
CN107219918A (zh) 一种数据手套接口模块的设计方法