JP4274823B2 - ポインティングデバイス - Google Patents

ポインティングデバイス Download PDF

Info

Publication number
JP4274823B2
JP4274823B2 JP2003068865A JP2003068865A JP4274823B2 JP 4274823 B2 JP4274823 B2 JP 4274823B2 JP 2003068865 A JP2003068865 A JP 2003068865A JP 2003068865 A JP2003068865 A JP 2003068865A JP 4274823 B2 JP4274823 B2 JP 4274823B2
Authority
JP
Japan
Prior art keywords
signal
sound
air vibration
cursor
electric signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003068865A
Other languages
English (en)
Other versions
JP2004280301A (ja
Inventor
義隆 福本
好平 高野
知広 滑川
直史 青木
由直 青木
Original Assignee
義隆 福本
好平 高野
知広 滑川
直史 青木
由直 青木
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 義隆 福本, 好平 高野, 知広 滑川, 直史 青木, 由直 青木 filed Critical 義隆 福本
Priority to JP2003068865A priority Critical patent/JP4274823B2/ja
Publication of JP2004280301A publication Critical patent/JP2004280301A/ja
Application granted granted Critical
Publication of JP4274823B2 publication Critical patent/JP4274823B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Position Input By Displaying (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、ユーザーの呼気の吹きかけ位置の変化と舌打ち音のような無声音とによってマウスに相当するカーソル操作が行えるポインティングデバイスに関する。
【0002】
【従来の技術】
近年、ビジネス環境は勿論、一般の生活環境等にもパーソナルコンピュータの利用が定着している。また身体障害者の意思伝達装置としてもパーソナルコンピュータは必要不可欠なものとなっているが、その入力デバイスとして実用化されているものは手足を用いてマウスやボタンを操作するものがほとんどである。
【0003】
手足を用いないでパーソナルコンピュータを操作する入力デバイスとしては「目線」、「音声」、「舌」、「息」などを利用するものが知られている。これらのうち、「目線」を使った入力デバイスは現状では高価であり、且つ重装備であり、また操作する人の疲労度も大きく、実用化にはまだ距離がある。
【0004】
「音声」を使った入力デバイスは障害者のみならず健常者にもハンズフリーな装置として便利である。しかし、音声による入力やオペレーションには正確な発音とクリアな音声が要求され、システムにユーザーの声質やイントネーションのくせを学習させるために時間と手間がかかり、使用までの学習段階でユーザーに複雑な操作を要求し、その間は障害者が自分で操作することができない問題点がある。また、他の人に情報を伝える手段としての音声ゆえ、「音声」による入力やオペレーションはプライバシーが守れず、語り続けるゆえの声帯等の疲労も大きなものがある。またさらに、絵や図面を描く等のカーソルを自由に移動しながらの描画操作等は「音声」方式では困難である。
【0005】
「舌」の動きを手で操作するマウスの替わりに使うポインティングデバイスは、操作する人の口腔内にトラックボールやタッチパッド的なデバイスを入れて、舌の動きを感知し操作信号に変換して入力するものである。しかしこの「舌」を用いるポインティングデバイスは、ユーザーの口腔内に電気装置や電池を入れるために肉体的、精神的苦痛や嫌悪感が伴い、また同じデバイスを他者に使用させられないという衛生的な問題もある。加えて、口腔内のデバイスと外部の制御装置とを接続する電線等をよだれが伝わる問題もある。
【0006】
「息」を使った入力デバイスとしては大きく二つの方式に分類される。一つは、ユーザーが口唇にパイプ状(もしくは笛状)の送信器を銜え、そのパイプ状の送信器から空気圧、音波、超音波、レーザ光を発し、その信号を受信器で受け、操作信号を抽出してパーソナルコンピュータに入力し操作するものである。この入力デバイスも口唇で銜えるという衛生的見地から、他者の送信器を流用することは受け入れ難く、個々の個人専用の送信器が望まれる。また、パイプ状(笛状)送信器を操作するには、それなりの強い呼気が必要とされ、体力的に劣る障害者や弱者では、長時間の連続的な使用ができない問題点もある。
【0007】
「息」を利用する入力デバイスとして、前述のような送信器等を口唇に装着しないで、「息」つまり「呼気」そのものを検出してマウスカーソルを操作するポインティングデバイスも知られている。この呼気を利用する従来のポインティングデバイスは、パーソナルコンピュータの画面上のマウスカーソルの矢印が一定時間(1、2秒間)で回転し、求める方向にマウスカーソルが向いた時にブレススイッチ等を「呼気」でオン・オフし、それらを制御情報としてパーソナルコンピュータを操作するデバイスであるる。ところが、このような「息」を利用するポインティングデバイスでは、スイッチのオン・オフで切り替えてカーソルを操作する仕組みゆえ、応答性の良い操作ができず、ユーザーのイライラ感が免れない問題点があった。
【0008】
【発明が解決しようとする課題】
以上のように、これまでの主として手を使わないでパーソナルコンピュータ等のマウス的入力装置(ポインティングデバイス)としては様々な装置が考えられていたが、高価、重装備、身体に装着する問題、衛生的問題、操作疲労対策、操作性、応答性等の解決すべき技術的課題があった。
【0009】
本発明は、このような従来の技術的課題に鑑みなされたもので、ユーザーが口腔内や口唇に特別の装置を装着することなく、ユーザーが基体に配列された複数個の空気振動感知器に呼気を吹きかけることによって滑らかにマウスカーソルを移動操作できるポインティングデバイスを提供することを目的とする。
【0010】
【課題を解決するための手段】
請求項1の発明のポインティングデバイスは、空気振動感知器が所定のレイアウトで配列された基体に対して、ユーザーの吹きかける呼気と舌打ち音のような無声音を感知し、呼気の移動方向にディスプレイ上のカーソルを移動させる信号と、無声音によりボタンスイッチ信号を出力するものである。
【0011】
請求項1の発明のポインティングデバイスでは、これをパーソナルコンピュータの所定の入力ポートに接続して入力デバイスとして使用するとき、ユーザーが基体の空気振動感知器群に対してマウスカールを移動させたい方向にあるいはマウスカーソルを移動させたい方向の空気信号感知器に呼気を吹きかけることによってマウスカーソルを移動させ、また舌打ち音のような無声音を出すことによってボタンスイッチ信号を入力することができる。
【0012】
したがって、手足が不自由な障害者にとっても、カーソルを移動させたい方向に呼気を吹きかける動作、あるいはカーソルを移動させたい方向の空気信号感知器に呼気を吹きかける動作によってマウスカーソルの移動操作ができ、また、カーソルが所定の位置に停止している状態で舌打ちするなどして特定の無声音を発することによってクリック信号のようなボタンスイッチ信号を入力することができる。
【0013】
請求項2の発明のポインティングデバイスは、空気振動により振動するダイヤフラムと、当該ダイヤフラムの振動をその周波数と振動強度に対応した周波数と信号強度の電気信号に変換して出力する音電信号変換手段とを有する空気振動感知器の複数個が配列された基体と、前記複数の空気振動感知器の音電信号変換手段各々の出力する電気信号の波形に基づき、呼気による第1の空気振動と舌打ち音のような無声音による第2の空気振動とを区別する入力信号分別部と、前記入力信号分別部が分別した第1の空気振動に対して、前記音電信号変換手段の出力する電気信号の強度を検出し、当該信号強度をカーソル移動速度情報とし、前記第1の空気振動を検出する音電信号変換手段の位置変化をカーソル移動方向情報として共に出力するカーソル移動信号出力部と、前記入力信号分別部が分別した第2の空気振動に対して、前記音電信号変換手段の出力する電気信号をボタンスイッチ信号として出力するボタンスイッチ信号出力部とを備えたものである。
【0014】
請求項2の発明のポインティングデバイスでは、ユーザーが基体の空気振動感知器群に対してマウスカールを移動させたい方向に呼気を吹きかけると、呼気が吹きかけられた位置の空気振動感知器のダイヤフラムが振動し、音電信号変換手段が呼気による空気振動の周波数と振幅に対応した周波数と振幅の電気信号に変換して出力する。またユーザーが舌打ちしあるいは口笛を吹くとその空気振動感知器群が舌打ち音あるいは口笛音を検出し、音電信号変換手段群が舌打ち音あるいは口笛音による空気振動の周波数と振幅に対応した周波数と振幅の電気信号に変換して出力する。
【0015】
そして、入力信号分別部は、複数の空気振動感知器の音電信号変換手段各々の出力する電気信号の波形又は周波数に基づき、呼気による第1の空気振動と舌打ち又は口笛による第2の空気振動とを区別し、第1の空気信号による電気信号はカーソル移動信号出力部へ入力し、第2の空気信号による電気信号はボタンスイッチ信号出力部へ入力する。
【0016】
カーソル移動信号出力部では、入力される第1の空気振動による電気信号の振幅を検出し、当該信号振幅値をカーソル移動速度情報とし、第1の空気振動を検出する音電信号変換手段の位置変化をカーソル移動方向情報として共に出力する。一方、ボタンスイッチ信号出力部では、入力される第2の空気振動による電気信号をマウスボタンスイッチ信号として出力する。
【0017】
これにより、請求項2の発明のポインティングデバイスでは、これをパーソナルコンピュータの所定の入力ポートに接続して入力デバイスとして使用するとき、ユーザーが基体の空気振動感知器群に対してマウスカールを移動させたい方向に呼気を吹きかけることによって呼気の移動方向にマウスカーソルを移動させ、また舌打ち音のような無声音を出すことによってマウスボタンスイッチ信号を入力することができる。
【0018】
したがって、手足が不自由な障害者にとっても、顔を上下左右に移動させながら呼気を吹きかけるという簡単な操作でマウスカーソルの移動操作ができ、また、カーソルが所定の位置に停止している状態で舌打ちをし又は口笛を吹くことによってクリック信号のようなマウスボタンスイッチ信号を入力することができる。
【0019】
請求項3の発明は、請求項2のポインティングデバイスにおいて、前記カーソル移動信号出力部は、同じ位置の空気振動感知器が所定時間内に第1の空気振動を所定回数検出したときに、当該空気振動感知器の座標情報をカーソル位置情報として出力することを特徴とするものであり、例えば、空気振動感知器群の中で左右端部や上下端部、あいるは中央部の位置の同じ空気振動感知器に向けて呼気を所定時間内に所定回数(例えば2回続けて)吹きかければ、カーソル移動信号出力部はこれを該当座標位置にカーソルを強制的にジャンプさせる指示信号として出力し、コンピュータのディスプレイ上でカーソルを対応位置に素速く移動させることができ、カーソル移動操作がよりしやすくなる。
【0020】
請求項4の発明は、請求項2のポインティングデバイスにおいて、前記ボタンスイッチ信号出力部は、前記第2の空気振動に対する電気信号を所定時間内に所定回数検出したときに、ダブルクリック信号として出力することを特徴とするものであり、ユーザーが例えば2回続けて舌打ちをしあるいは口笛を吹くことにより、ディスプレイ上のカーソル位置にあるアイコンその他に対してダブルクリック操作を簡単に行える。
【0021】
請求項5の発明は、請求項2のポインティングデバイスにおいて、前記ボタンスイッチ信号出力部は、前記第2の空気振動に対する電気信号を所定時間内に所定回数検出したときに、ドラッグ信号として出力することを特徴とするものであり、ユーザーが例えば2回続けて舌打ちしあるいは口笛を吹くことにより、カール位置のアイコンをドラッグし、ユーザーが呼気によってカーソルを移動させる間当該アイコンを移動させ、次にユーザーが同様に例えば2回続けて舌打ちしあるいは口笛を吹く位置で当該アイコンをドロップさせるドラッグ・アンド・ドロップ操作を簡単に行える。
【0022】
請求項6の発明のポインティングデバイスは、空気振動により振動するダイヤフラムと当該ダイヤフラムの振動をその周波数と強度に対応した周波数と信号強度の電気信号に変換して出力する音電信号変換手段とを有する空気振動感知器の複数個が2行×2列以上のマトリクスに配列された基体と、前記複数の空気振動感知器の音電信号変換手段各々の出力する電気信号の波形に基づき、呼気による第1の空気振動と舌打ち音のような無声音による第2の空気振動とを区別する入力信号分別部と、前記複数の空気振動感知器それぞれと1対1に対応するメモリ配列を有し、前記入力信号分別部が分別した第1の空気振動に対して、前記音電信号変換手段の出力する電気信号の強度と当該音電信号変換手段の座標値とを対応するメモリに保持し、かつ所定周期毎にメモリ更新するメモリアレイと、前記メモリアレイのいずれかのメモリの保持している前記電気信号の強度からカーソル移動速度を求め、前記電気信号を保持しているメモリの座標変化からカーソル移動方向を求める呼気座標解析部と、前記入力信号分別部が分別した第2の空気振動に対して、前記音電信号変換手段の出力する電気信号からボタンスイッチ信号を検出する音信号解析部と、前記呼気座標解析部の求めたカーソル移動方向及び移動速度の信号と前記音信号解析部の求めたボタンスイッチ信号とをマウスカーソル・ボタン操作信号として出力するカーソル操作信号出力部と、前記カーソル操作信号出力部の出力信号をコンピュータの適宜の入力ポートに入力する接続コネクタとを備えたものである。
【0023】
請求項7の発明は、請求項8のポインティングデバイスにおいて、前記基体に、前記空気振動感知器が同心放射状に複数個配列されていることを特徴とするものである。
【0024】
請求項6及び7の発明のポインティングデバイスでは、ユーザーが基体の空気振動感知器群に対してマウスカールを移動させたい方向に呼気を吹きかけると、呼気が吹きかけられた位置の空気振動感知器のダイヤフラムが振動し、音電信号変換手段が呼気による空気振動の周波数と強度に対応した周波数と信号強度の電気信号に変換して出力する。またユーザーが舌打ちするなどして無声音を発するとその空気振動感知器群が無声音を検出し、音電信号変換手段群が無声音による空気振動の周波数と強度に対応した周波数と強度の電気信号に変換して出力する。
【0025】
入力信号分別部は、複数の空気振動感知器の音電信号変換手段各々の出力する電気信号の波形に基づき、呼気による第1の空気振動と舌打ち音のような無声音による第2の空気振動とを区別し、第1の空気信号に対してはその電気信号の強度と座標値とをメモリアレイの対応するメモリに保持する。呼気座標解析部は所定周期毎にメモリアレイに所定周期毎にアクセスしていずれかのメモリの保持されている電気信号の強度からカーソル移動速度を求め、また電気信号を保持しているメモリの座標変化からカーソル移動方向を求めてカーソル操作信号出力部に入力する。一方、入力信号分別部は分別した第2の空気振動に対しては、音信号解析部がその電気信号からボタンスイッチ信号を検出し、カーソル操作信号出力部に入力する。
【0026】
そしてカーソル操作信号出力部は、呼気座標解析部の求めたカーソル移動方向及び移動速度と音信号解析部の求めたボタンスイッチ信号を合成し、マウスカーソル・ボタン操作信号を作成し、接続コネクタを介してコンピュータの入力ポートに入力する。
【0027】
これにより、請求項6及び7の発明のポインティングデバイスでは、これをパーソナルコンピュータの所定の入力ポートに接続して使用するとき、ユーザーが基体の空気振動感知器群に対してマウスカールを移動させたい方向に呼気を吹きかけることによって呼気の移動方向にマウスカーソルを移動させ、また舌打ち音のような無声音を出すことによってボタンスイッチ信号を入力することができる。
【0028】
したがって、手足が不自由な障害者にとっても、当該デバイスに呼気を吹きかけながらその吹きかけ位置を移動させる簡単な動作でマウスカーソルの移動操作ができ、また、カーソルが所定の位置に停止している状態で舌打ちするなどして無声音を発することによってクリック信号のようなボタンスイッチ信号を入力することができる。
【0029】
請求項8の発明のポインティングデバイス、上下左右の4カ所に空気振動感知器が配列された基体に対して、ユーザーの吹きかける呼気と舌打ち音のような無声音とを感知し、呼気の吹きかけられた空気振動感知器の位置に対応した移動方向にディスプレイ上のカーソルを移動させる信号と、無声音によりボタンスイッチ信号を出力するものである。
【0030】
請求項8のポインティングデバイスでは、ユーザーが上下左右のいずれかの空気振動感知器に向けて呼気を吹きかけることによって、吹きかけられた空気信号感知器の位置に応じてマウスカーソルを移動操作することができ、また、舌打ちをするなどによって無声音を入力することによってボタンスイッチ信号をにるすることができる。
【0031】
請求項9の発明のポインティングデバイスは、上下左右及び斜め左右の上下の8カ所に空気振動感知器が配列された基体に対して、ユーザーの吹きかける呼気と舌打ち音のような無声音とを感知し、呼気の吹きかけられた空気振動感知器の位置に対応した移動方向にディスプレイ上のカーソルを移動させる信号と、無声音によりボタンスイッチ信号を出力するものである。
【0032】
請求項9の発明のポインティングデバイスでは、ユーザーが上下左右及び斜め左右の上下の8カ所に設けられた空気振動感知器のいずれかに向けて呼気を吹きかけることによって、吹きかけられた空気信号感知器の位置に応じてマウスカーソルを移動操作することができ、また、舌打ちをするなどによって無声音を入力することによってボタンスイッチ信号をにるすることができる。
【0033】
【発明の実施の形態】
以下、本発明の実施の形態を図に基づいて詳説する。図1は本発明の第1の実施の形態のポインティングデバイスを用いたコンピュータシステムの構成を示している。図1において、1はポインティングデバイス、2はディスプレイ、3はコンピュータ本体である。
【0034】
コンピュータ本体3は、一般的なパーソナルコンピュータであり、マウス、キーボード等の入力デバイスを接続するPS/2入力ポート、USBポートを備えているものとする。本実施の形態において、ポインティングデバイス1はマウスに代わる入力デバイスとして、USBポートに接続して使用するものとする。しかしながら、本発明はこれに限定されず、PS/2ポートを利用し、あるいはコンピュータ本体3側に特別仕様の入力処理ボードを装着し、本実施の形態で説明する入力処理機能をその入力処理ボードでデジタル処理し、最終的にPS/2ポート接続あるいはUSBポート接続のマウスと同等の信号を入力できるものとしてもよい。
【0035】
ポインティングデバイス1は、ユーザーの口先に位置するように装着させて使用されるものであり、図2〜図4に詳しいように、基体11に縦横のマトリクス配列にマイクロフォン12を多数個配列した構成である。このマイクロフォン12は、指向性の鋭いものを採用するのが好ましいが、特に限定されることはない。またマイクロフォン12はユーザーの呼気と舌打ち音のような無声音を異なる周波数の空気振動として検出できる程度の仕様機能があれば十分でよい。
【0036】
図3に詳しく示したように、多数のマイクロフォン12それぞれには増幅器21、A/D変換器22、マイクロプロセス23が接続してあって、マイクロフォン12のボイスコイルの出力する電気信号を増幅し、デジタル変換してマイクロプロセッサ23に入力し、このマイクロプロセス23内の波形分別部231で呼気による低周波の波形と舌打ち音のような無声音のより高い周波数の波形とを分別し、さらに強度検出部232で入力信号の強度を信号波形の立上り特性から検出し、これらの波形判定結果と強度検出値とを呼気入力制御部20に入力するようにしている。なお、これらの波形分別部231、強度検出部232は現実の回路ではなく、マイクロプロセッサ23に組み込んだソフトウェアによる処理機能である。
【0037】
図4に示すように、ポインティングデバイス1の基体11内の呼気入力制御部20には、所定周期τ1毎にマトリクス配列のマイクロフォン12各々を縦横に順次スキャニングして各マイクロフォン12の音電変換信号を取り込むスキャナ13、波形検出回路14、この波形検出回路14の検出した波形(周波数であってもよい)を基本波形と比較し、呼気による振動と舌打ち音のような無声音による振動とを分別する比較回路15、スキャナ13の検出した電気信号強度のピーク値を示すマイクロフォンの座標を検出するマイク座標検出回路16、マイク座標検出回路16の検出した電気信号強度のピーク値と該当マイクロフォン12の位置座標を記憶するマイク座標・ピーク値保持回路17が設けられている。
【0038】
呼気入力制御部20にはまた、このマイク座標・ピーク値保持回路17の保持データに所定周期τ2毎にアクセスし、前回アクセス時のピーク値を与えるマイクロフォン12の位置座標と今回アクセス時のピーク値を与えるマイクロフォン12の位置座標とから呼気移動方向と距離、つまり呼気移動ベクトルvを求め、さらにこの呼気移動ベクトルvとピーク値pをかけ算してカーソル移動ベクトルD(=p・v)を求めるカーソル移動ベクトル演算回路18が設けられている。
【0039】
呼気入力制御部20内にはさらに、比較回路15が舌打ち音のような無声音を検出したときに一定時間、例えば1秒間(特に限定されず、また長短設定可能にすることもできる)のタイムカウントを開始するタイマ19と、このタイマ19の起動中に比較回路15が出力する無声音判定回数をカウントするカウンタ110、そして、所定周期τ3毎にカーソル移動ベクトル演算回路18の演算値とカウンタ110のカウント値とを、マウス操作信号として出力するマウス信号出力回路111が設けられている。
【0040】
なお、この呼気入力制御部20は比較的高性能なCPUとその周辺機器によって構成されるものであり、上記の各回路要素は現実の回路ではなく、CPUが実行するソフトウェアによる処理機能である
図2は、上記構成のポインティングデバイス1の機能構成を示している。このデバイス11はマイクロフォンアレイ121、音信号波形分別部122、メモリアレイ123、呼気座標解析部124、音信号波形解析部125、制御信号処理部126、そしてコネクタ部127から構成されている。
【0041】
マイクロフォンアレイ121は横10個縦8個程度の縦横マトリクス配列にしてあるが、これは特に限定されず、同心円放射状の配列であってもかまわない。個々のマイクロフォン12には、音信号波形分別部122を通じてメモリアレイ123に接続されている。このメモリアレイ123は、マイクロフォンアレイ121の配列に対応する形でメモリアドレスが割り付けられたメモリである。
【0042】
メモリアレイ123の記憶データは呼気座標解析部124で解析される。呼気座標解析部124は、信号強度のピーク値を与えるマイクロフォンの座標、ピーク値等の解析結果を制御信号処理部126に送る。なお、呼気の吹きかけ位置の決定処理には、振動強度のピーク値を出力するマイクロフォン12の座標を特定して用いる代わりに、振動検出信号を出力する複数のマイクロフォン12それぞれの座標を求め、それらの中心位置の座標を吹きかけ位置として求め、また複数のマイクロフォン12それぞれの振動強度の平均値を呼気強さとしても使用するようにしてもよい。さらには振動強度をウェイトにした加重平均演算によって中心位置座標を求めてもよい。
【0043】
クリック等の動作に使う舌打ち音のような無声音は音信号波形分別部122で呼気吹きかけ信号とは異なる周波数の音信号として分別され、音信号解析部125で所定の操作信号、例えばワンクリック、ダブルクリック、ドラッグ、ドロップ信号として解析される。音信号解析部125は、解析した所定の操作信号Sを制御信号処理部126に送る。この無声音は人の話す音声とは異なり、ユーザーが容易に発することができる「チッチッ」、「ツッツッ」といった舌打ち音あるいはそれと同等の音である。
【0044】
制御信号処理部126は、呼気座標解析部124から信号ピークが検出されたマイクの位置座標(マイク座標)、ピーク値信号を受け取ると、前回のマイク座標からの変位を呼気移動ベクトルvとして求め、さらにこの呼気移動ベクトルvとピーク値pをかけ算してカーソル移動ベクトルD(=p・v)を求め、音信号解析部125のボタンスイッチ操作信号Sがあれば、カーソル移動ベクトル信号Dとボタンスイッチ操作信号Sとを、ボタンスイッチ操作信号Sがなければカーソル移動ベクトル信号Dだけをマウス操作信号として発生させ、USB等のコネクタ部127を通じてコンピュータ本体3に入力する。
【0045】
次に、上記の機能構成を備えたポインティングデバイス1のマウス信号出力動作について、図5〜図7のフローチャートを用いて説明する。
【0046】
ユーザーは図1に示したように本実施の形態のポインティングデバイス1をコンピュータ本体3のあらかじめ設計されているマウス信号出力用のコネクタ部127が対応するPS/2ポートあるいはUSBポートに接続して、マウス、トラックボール、タッチパッド等に代わるものとして使用する。この場合、マイクアレイ121に、ディスプレイ2に表示されているカーソル100を移動させたい向きに軽く呼気を吹きかけ、またクリック、ドラッグ等のボタンスイッチ操作をしたいときには所定の方法あるいは回数だけ舌打ちする。
【0047】
マイクアレイ121は吹きかかった呼気の空気流を粗密波として捕らえ音信号波形分別部122に送る。また、舌打ち音等も音信号波形分別部122に送られる(ステップS1)。
【0048】
音信号波形分別部122は座標情報としての呼気の空気流粗密波なのか、クリック等の制御信号としての波形なのかを分別処理する(ステップS3)。
【0049】
メモリアレイ123には音信号波形分別部122より送られてきた信号を展開する。始めに呼気を吹きかけられた始点情報、始点からの方向情報、息の強さ情報、息の吹き止んだ時の終点情報等が個々のマイクロフォンと相似してリアルタイムに記録される(ステップS5)。
【0050】
この処理は、図6により詳細に示してある。A1〜A2の処理を所定の周期τ0で繰り返し実行する。そこではまず、所定の周期τ1(τ1>τ0)でマイクロフォンアレイ121の各マイクロフォン12の出力をスキャニングする(ステップS101)。
【0051】
各マイクロフォン12の出力する振動波形を検出する(ステップS103)。そして、検出した振動波形により(あるいは周波数が所定値以上であるか否かにより)、検出した入力が呼気か舌打ち音かを判断する(ステップS105,S107,S109)。
【0052】
ステップS107で入力が呼気の吹きかけであると判断された場合は、続いて、入力を検出したマイクロフォン12の座標piを特定すると共に、振動強度(振幅値、ピーク値、信号の立上り特性等のいずれか)sを検出する(ステップS111)。この検出結果は、メモリアレイ123の対応するメモリアドレスに格納する(ステップS113)。
【0053】
以上のステップS101〜S113の処理をマイクロフォン12の数だけ繰り返す(ステップS115)。
【0054】
なお、マイクロフォンアレイ121全体を1度スキャニングした結果、呼気を検出するマイクロフォン12が複数になることもあるが、その場合には各々のマイクロフォンと対応するメモリアドレスに格納する。
【0055】
続いて、図5のB1〜B2の処理を所定周期τ2で実施する。この場合の周期τ2は、スキャン周期τ1と同一にして、スキャン完了に連動して処理を開始してもよい。
【0056】
まず、呼気座標解析部124はメモリアレイ123の情報を読み取り、解析する。すなわち、弱い呼気を吹かけてその呼気を検出するマイクロフォン12の座標が変化するときは、少なめにカーソルを移動させ、強い呼気を吹かけた場合は多めにカーソルを移動させる。これは、吹きかけ位置座標p(i)と前回の吹きかけ位置座標p(i−1)との差dのベクトル演算を行い、呼気の強さsとかけ算することによって求められる(ステップS11〜S17)。ただし、1度のスキャンで複数のメモリアドレスに呼気強度の検出値が記憶されている場合には、該当する複数のマイクロフォンの座標の平均値を求めて、その値を呼気吹きかけ位置座標p(i)と決定する。そして、吹きかけ強さsについては、検出マイクロフォン全部の振動強度の合算値とするのが好ましい。しかし、最高ピーク値を用いることもできる。あるいは強度をウェイトにして加重平均演算して中心位置座標を求めてもよい(ステップS11,S13)。
【0057】
続いて、呼気座標解析部124は上の座標解析結果p(i)と前回の座標解析結果p(i−1)とのベクトル差を求め、カーソルの移動方向dを決定する(ステップS15)。この移動方向ベクトルdには移動距離成分も含まれるが、最終的な移動距離と移動速度は、s・dのベクトル値として求めて制御信号処理部126に出力する(ステップS17)。
【0058】
また、マイクロフォンアレイ受信器は「チッチッ」とか「ツッツッ」とかの舌打ち音を捕らえ、これらの音は音信号波形分別部122で選り分けられマウスボタンクリック等のボタンスイッチ信号として制御信号処理部125へ送られ所定の操作を実行する。この場合の処理は、図7のフローチャートのC1〜C2の処理による。ただし、本実施の形態では、所定時間内に舌打ちを1回検出した場合には左ボタン(1つボタンマウスに対応させる場合にはそのボタン)のクリック操作、2回でダブルクリック操作、3回以上でドラッグ操作、これらの操作の有効中に新たにいずれかの舌打ち入力を検出したときにはキャンセル(したがって、ドラッグ中であれば、ドロップ)操作とする設定である。
【0059】
そこで、音信号波形解析部125は、舌打ち音検出信号を音信号波形分別部122から受信すると、所定時間内に何回舌打ち信号が入力されるかをカウントし、舌打ちを1回検出した場合には左ボタンクリック操作であると判断する(S23,S27)。舌打ち2回であれば、ダブルクリック操作と判断する(ステップS29,S33)。そして舌打ち3回以上であれば、ドラッグ操作であると判断する(ステップS37)。そして、これらの操作のいずれかが有効中に新たにいずれかの舌打ち入力を検出したときにはキャンセル、したがって、ドラッグ中であれば、ドロップ操作と判断する(ステップS25,S39;S31,S41;S35,S37))。これらのボタンスイッチ作信号は、制御信号処理部127に出力される。
【0060】
制御信号処理部126では、呼気座標解析部124の結果と音信号波形解析部125の結果から通常のマウス操作信号を発生させ、コネクタ部127からコンピュータ本体3の該当入力ポートに入力する。
【0061】
こうして、本実施の形態のポインティングデバイスでは、マイクロフォンアレイ121に向けてユーザーが呼気を吹きかけながらカーソル100を移動させたい方向に口先を動かしあるいは顔を移動させ、そのときの呼気の吹きかけ強さを強弱することによって、ディスプレイ2上のカーソル100をその移動速度も調整しながらを移動させることができ、また、舌打ちを続けて所定回数行うことでクリック、ドラッグ等のボタンスイッチ操作もすることができる。
【0062】
これにより、本実施の形態のポインティングデバイスでは、大掛かりな装置を必要とせず、かつ安価なコストで製作でき、操作するユーザー側に特別の送信器等を装着する必要もないゆえに、衛生上安心で肉体的・精神的圧迫感もなく、マイクロフォンアレイ121に吹きつける呼気の空気流の方向、強弱、持続時間情報等で一般のマウスのように滑らかなカーソル移動操作を実現し、ゆえに画像描画等の作業なども抵抗なく可能である。また、各種のボタン操作やクリック操作等は舌打ち音を定義して設定できる。よって、従来の一連のユーザー補助用入力デバイスに比べて作業効率の向上が図れる。
【0063】
なお、高機能のマウスやトラックボールでは、右ボタン、左ボタン、戻りボタン、送りボタン、スクロールボタン等の操作ボタンを搭載しているものがあるが、これらをすべて舌打ち音で識別させようとすれば、舌打ちのリズム、パターンとボタンスイッチとの対応を取り決めておくことにより実現できる。また、舌打ち音に代わって口笛のような無声音で操作信号を入力するようにすることもできる。さらには、舌打ち音の中でも周波数によって識別するようにし、それぞれの所定時間内の入力回数によって個別の操作信号としたり、リズム、パターンによって異なった操作信号を識別するようにしたりすることもできる。この無声音をボタンスイッチ信号として識別することの利点は、ユーザーがカーソルの移動操作をしながらその状態のまま同じ口元から無声音を発して入力できる点にあり、カーソル移動操作とボタンスイッチ信号入力操作とで、特にユーザーである身体障害者が大きな動作をしなくても入力できる点にある。
【0064】
さらに、呼気吹きかけでカーソル移動操作をする際に、例えば、マイクロフォンアレイの上下左右の四隅のいずれか同じ場所のマイクロフォンに対して所定時間内に続けて2回呼気を吹きかける操作をすれば、このマイクフォンの配列位置と対応するディスプレイの上下左右の四隅の該当位置にカーソルの強制的に移動させるカーソル移動機能を持たせることもできる。
【0065】
次に、図7を用いて本発明の第2の実施の形態のポインティングデバイスについて説明する。第2の実施の形態のポインティングデバイスは、通常のキーボードに設けられているカーソル移動キーに対応する入力デバイスであり、基体11の上下左右の4カ所にマイクロフォン12を設け、これらのマイクロフォン12それぞれに呼気を吹きかけることによって図示の矢印方向にカーソルを移動させるものである。
【0066】
本実施の形態のポインティングデバイス1も、第1の実施の形態と同様に図1に示した接続により、ユーザーが上下左右のカーソルを移動させたい方向の真マイクロフォン12に呼気を吹きかけ、またその呼気の強さを調整することで移動速度も調整できる。そして舌打ち音のような無声音によってボタンスイッチ信号を入力する機能構成は第1の実施の形態と同様である。
【0067】
次に、本発明の第3の実施の形態のポインティングデバイスについて、図9を用いて説明する。この実施の形態のポインティングデバイス1の特徴は、図8に示した第2の実施の形態のポインティングデバイスに対して、上下左右4個のマイクロフォン12に加えて、斜め上下方向にカーソルを移動させるためのマイクロフォン12を基体11に設けた点にある。
【0068】
この第3の実施の形態のポインティングデバイスでは、第2の実施の形態のポインティングデバイスよりも任意の方向へのカーソル移動がより円滑に行える利点がある。
【0069】
【発明の効果】
以上のように本発明によれば、手足が不自由な障害者にとっても、口腔内や口唇に特別の装置を装着することなく、基体に配列された複数個の空気振動感知器に呼気を吹きかけることによって滑らかにマウスカーソルを移動操作できる。
【図面の簡単な説明】
【図1】本発明の1つの実施の形態のポインティングデバイスを接続したコンピュータシステムのブロック図。
【図2】上記実施の形態のポインティングデバイスの機能構成を示すブロック図。
【図3】上記実施の形態のポインティングデバイスのハードウェア構成を示すブロック図。
【図4】上記実施の形態のポインティングデバイスにおける呼気入力制御部の機能構成を示すブロック図。
【図5】上記実施の形態のポインティングデバイスによる呼気吹きかけ入力処理のフローチャート。
【図6】上記実施の形態のポインティングデバイスによる呼気吹きかけ入力処理の詳しいフローチャート。
【図7】上記実施の形態のポインティングデバイスによる舌打ち入力処理のフローチャート。
【図8】本発明の第2の実施の形態のポインティングデバイスのマイクロフォンアレイを示す正面図。
【図9】本発明の第3の実施の形態のポインティングデバイスのマイクロフォンアレイを示す正面図。
【符号の説明】
1 ポインティングデバイス
2 ディスプレイ
3 コンピュータ本体
11 デバイス基体
12 マイクロフォン
13 スキャナ
14 周波数検出回路
15 比較回路
16 ピーク検出回路
17 マイク座標・ピーク値保持回路
18 カーソル移動ベクトル演算回路
19 タイマ
20 呼気入力制御部
21 増幅器
22 A/D変換器
23 マイクロプロセッサ
100 マウスカーソル
110 カウンタ
111 マウス信号出力回路
121 マイクロフォンアレイ
122 音信号波形解析部
123 メモリアレイ
124 呼気座標解析部
125 音信号波形解析部
126 制御信号処理部
127 コネクタ部
231 波形分別部
232 強度検出部

Claims (9)

  1. 複数の空気振動感知器が配列された基体に対して、ユーザーの吹きかける呼気と舌打ち音のような無声音とを感知し、呼気の移動方向にディスプレイ上のカーソルを移動させる信号と、無声音によりボタンスイッチ信号を出力するポインティングデバイス。
  2. 空気振動により振動するダイヤフラムと、当該ダイヤフラムの振動をその周波数と振動強度に対応した周波数と信号強度の電気信号に変換して出力する音電信号変換手段とを有する空気振動感知器の複数個が配列された基体と、
    前記複数の空気振動感知器の音電信号変換手段各々の出力する電気信号の波形に基づき、呼気による第1の空気振動と舌打ち音のような無声音による第2の空気振動とを区別する入力信号分別部と、
    前記入力信号分別部が分別した第1の空気振動に対して、前記音電信号変換手段の出力する電気信号の強度を検出し、当該信号強度をカーソル移動速度情報とし、前記第1の空気振動を検出する音電信号変換手段の位置変化をカーソル移動方向情報として共に出力するカーソル移動信号出力部と、
    前記入力信号分別部が分別した第2の空気振動に対して、前記音電信号変換手段の出力する電気信号をボタンスイッチ信号として出力するボタンスイッチ信号出力部とを備えたポインティングデバイス。
  3. 前記カーソル移動信号出力部は、同じ位置の空気振動感知器が所定時間内に第1の空気振動を所定回数検出したときに、当該空気振動感知器の座標情報をカーソル位置情報として出力することを特徴とする請求項2に記載のポインティングデバイス。
  4. 前記ボタンスイッチ信号出力部は、前記第2の空気振動に対する電気信号を所定時間内に所定回数検出したときに、ダブルクリック信号として出力することを特徴とする請求項2に記載のポインティングデバイス。
  5. 前記ボタンスイッチ信号出力部は、前記第2の空気振動に対する電気信号を所定時間内に所定回数検出したときに、ドラッグ信号として出力することを特徴とする請求項2に記載のポインティングデバイス。
  6. 空気振動により振動するダイヤフラムと当該ダイヤフラムの振動をその周波数と強度に対応した周波数と信号強度の電気信号に変換して出力する音電信号変換手段とを有する空気振動感知器の複数個が2行×2列以上のマトリクスに配列された基体と、
    前記複数の空気振動感知器の音電信号変換手段各々の出力する電気信号の波形に基づき、呼気による第1の空気振動と舌打ち音のような無声音による第2の空気振動とを区別する入力信号分別部と、
    前記複数の空気振動感知器それぞれと1対1に対応するメモリ配列を有し、前記入力信号分別部が分別した第1の空気振動に対して、前記音電信号変換手段の出力する電気信号の強度と当該音電信号変換手段の座標値とを対応するメモリに保持し、かつ所定周期毎にメモリ更新するメモリアレイと、
    前記メモリアレイのいずれかのメモリの保持している前記電気信号の強度からカーソル移動速度を求め、前記電気信号を保持しているメモリの座標変化からカーソル移動方向を求める呼気座標解析部と、
    前記入力信号分別部が分別した第2の空気振動に対して、前記音電信号変換手段の出力する電気信号からボタンスイッチ信号を検出する音信号解析部と、
    前記呼気座標解析部の求めたカーソル移動方向及び移動速度の信号と前記音信号解析部の求めたボタンスイッチ信号とをマウスカーソル・ボタン操作信号として出力するカーソル操作信号出力部と、
    前記カーソル操作信号出力部の出力信号をコンピュータの適宜の入力ポートに入力する接続コネクタとを備えたポインティングデバイス。
  7. 前記基体に、前記空気振動感知器が同心放射状に複数個配列されていることを特徴とする請求項6に記載のポインティングデバイス。
  8. 上下左右の4カ所に空気振動感知器が配列された基体に対して、ユーザーの吹きかける呼気と舌打ち音のような無声音とを感知し、呼気の吹きかけられた空気振動感知器の位置に対応した移動方向にディスプレイ上のカーソルを移動させる信号と、無声音によりボタンスイッチ信号を出力するポインティングデバイス。
  9. 上下左右及び斜め左右の上下の8カ所に空気振動感知器が配列された基体に対して、ユーザーの吹きかける呼気と舌打ち音のような無声音とを感知し、呼気の吹きかけられた空気振動感知器の位置に対応した移動方向にディスプレイ上のカーソルを移動させる信号と、無声音によりボタンスイッチ信号を出力するポインティングデバイス。
JP2003068865A 2003-03-13 2003-03-13 ポインティングデバイス Expired - Fee Related JP4274823B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003068865A JP4274823B2 (ja) 2003-03-13 2003-03-13 ポインティングデバイス

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003068865A JP4274823B2 (ja) 2003-03-13 2003-03-13 ポインティングデバイス

Publications (2)

Publication Number Publication Date
JP2004280301A JP2004280301A (ja) 2004-10-07
JP4274823B2 true JP4274823B2 (ja) 2009-06-10

Family

ID=33286078

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003068865A Expired - Fee Related JP4274823B2 (ja) 2003-03-13 2003-03-13 ポインティングデバイス

Country Status (1)

Country Link
JP (1) JP4274823B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9116544B2 (en) * 2008-03-26 2015-08-25 Pierre Bonnat Method and system for interfacing with an electronic device via respiratory and/or tactual input
US8976046B2 (en) 2008-03-26 2015-03-10 Pierre Bonnat Method and system for a MEMS detector that enables control of a device using human breath
JP5013271B2 (ja) * 2008-03-19 2012-08-29 株式会社エクォス・リサーチ 情報入力装置
JP2009230534A (ja) * 2008-03-24 2009-10-08 Equos Research Co Ltd 情報入力装置
JP4953095B2 (ja) * 2008-05-20 2012-06-13 独立行政法人産業技術総合研究所 情報処理装置
JP4822458B2 (ja) * 2008-05-20 2011-11-24 独立行政法人産業技術総合研究所 インターフェイス装置とインターフェイス方法
JP2012098892A (ja) * 2010-11-01 2012-05-24 Casio Comput Co Ltd 位置入力装置、位置入力方法及びプログラム
CN108511263B (zh) * 2018-01-18 2023-12-19 深圳艾尼莫科技有限公司 吹气开关
KR102473686B1 (ko) * 2020-12-22 2022-12-02 (주)프로젝트레인보우 호흡훈련 시스템 및 이에 포함되는 호흡측정장치

Also Published As

Publication number Publication date
JP2004280301A (ja) 2004-10-07

Similar Documents

Publication Publication Date Title
Paradiso The brain opera technology: New instruments and gestural sensors for musical interaction and performance
JP5095811B2 (ja) 移動通信装置及び該移動通信装置のための入力装置
US7834850B2 (en) Method and system for object control
JP2698320B2 (ja) 常装着型入力システム、常装着型意図伝達システム、常装着型音楽用キーボードシステム及び常装着型点字入出力システム
US9037530B2 (en) Wearable electromyography-based human-computer interface
US6525717B1 (en) Input device that analyzes acoustical signatures
JP5911796B2 (ja) マルチモーダル情報を用いるユーザ意図推論装置及び方法
US8793621B2 (en) Method and device to control touchless recognition
JP3206062B2 (ja) 楽音制御方法および装置
JP5745265B2 (ja) 信号処理装置、タッチパネルユニット、情報処理装置および信号処理方法
KR101576148B1 (ko) 다차원 제스처 평가 시스템 및 방법
CN109715065A (zh) 电子设备及其控制方法
WO2020100671A1 (ja) 情報処理装置、情報処理方法及びプログラム
US20090326406A1 (en) Wearable electromyography-based controllers for human-computer interface
JP4274823B2 (ja) ポインティングデバイス
EP3198247A1 (en) Systems and methods for capturing and interpreting audio
JP2012040655A (ja) ロボット制御方法、プログラム、及びロボット
JP2009508560A (ja) 遠隔に位置するマイクロフォンを使用して音声起動される制御を有する超音波イメージングシステム
JPH07248873A (ja) 筋電信号を用いた制御装置
JP2013152482A (ja) 出力を生成するシステムおよび方法
JP2005528663A (ja) 改良型のワイヤレス式制御デバイス
US10303436B2 (en) Assistive apparatus having accelerometer-based accessibility
Patel et al. Blui: low-cost localized blowable user interfaces
US20050033144A1 (en) Biological-sound data processing system, program, and recording medium
Nguyen et al. Cover your cough: Detection of respiratory events with confidence using a smartwatch

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090203

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090303

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120313

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees