JP2011100301A - 指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム - Google Patents

指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム Download PDF

Info

Publication number
JP2011100301A
JP2011100301A JP2009254511A JP2009254511A JP2011100301A JP 2011100301 A JP2011100301 A JP 2011100301A JP 2009254511 A JP2009254511 A JP 2009254511A JP 2009254511 A JP2009254511 A JP 2009254511A JP 2011100301 A JP2011100301 A JP 2011100301A
Authority
JP
Japan
Prior art keywords
microphones
position information
display screen
display
instruction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009254511A
Other languages
English (en)
Other versions
JP5024355B2 (ja
Inventor
Toshiharu Nishino
利晴 西野
Kunpei Kobayashi
君平 小林
Makoto Iwasaki
信 岩崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2009254511A priority Critical patent/JP5024355B2/ja
Priority to US12/902,333 priority patent/US8488413B2/en
Priority to TW099135043A priority patent/TWI448931B/zh
Priority to KR1020100100158A priority patent/KR101214346B1/ko
Priority to CN201010511717.4A priority patent/CN102043529B/zh
Publication of JP2011100301A publication Critical patent/JP2011100301A/ja
Application granted granted Critical
Publication of JP5024355B2 publication Critical patent/JP5024355B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Position Input By Displaying (AREA)

Abstract

【課題】表示装置の表示特性を低下させることなく表示画面に対する指示位置を検出し、しかも指示位置として3次元空間の位置を検出可能とする。
【解決手段】表示画面31aの各辺にマイクロフォン6A〜6Dを配置する。表示画面31aの上方で指示音が生じたとき、第1及び第3のマイクロフォン6A,6C、第2及び第4のマイクロフォン6B,6D、第1及び第4のマイクロフォン6A,6Dの各組のマイクロフォン間における指示音の到達時間差(tAC ,tBD ,tAD )を取得する。各々の到達時間差(tAC ,tBD ,tAD )に基づいて、各組のマイクロフォンを焦点とする第1の双曲面101,102と、第2の双曲面201,202と、第3の双曲面301,302とが交差する点の座標位置(x,y,z)を演算し、表示画面31aに対する指示位置を示す指示位置情報として取得する。
【選択図】図5

Description

本発明は、表示画面に対する任意の指示位置を検出する技術に関するものである。
従来、LCM(液晶パネルモジュール)やCRT等の表示装置に設けられ、表示装置の表示画面における任意の位置を指示するための装置として抵抗膜方式のタッチパネルが公知である。抵抗膜方式のタッチパネルは、例えばベースとなるガラス面の表面にスペーサをはさんでフィルムが貼り付けられ、ガラスとフィルムとの双方の対向面にITO(Indium Tin Oxide)と呼ばれる透明な電極格子が設けられた構造である。係るタッチパネルでは、フィルム側の表面をペンまたは指で押圧したときには、その位置に相当する場所でITOが導通するため、指示位置に相当する抵抗分の電圧を測定することによって指示位置が検出される(例えば下記特許文献1参照)。
特開2009−48653号公報
しかしながら、抵抗膜方式のタッチパネルにおいては、電極格子が設けられたフィルムによって表示装置の表示画面を覆うことが不可欠であるため、LCM等の表示特性を低下させてしまう。また、指示位置として表示画面内における位置、つまり平面上の位置しか検出することができないという問題があった。
本発明は、かかる従来の課題に鑑みてなされたものであり、表示装置の表示特性を低下させることなく表示画面に対する指示位置を検出し、しかも指示位置として3次元空間の位置を検出可能とすることを目的とする。
前記課題を解決するため、請求項1記載の発明に係る指示位置検出装置にあっては、表示画面に対する指示位置を検出する指示位置検出装置であって、前記表示画面の外周部に互いに離間して配置され三組のマイクロフォンを構成するとともに、前記表示画面の上方における任意の位置から発信された指示音を検出する複数のマイクロフォンと、前記三組のマイクロフォンの各組のマイクロフォン間における前記指示音の到達時間差をそれぞれ取得する時差取得手段と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を前記時差取得手段により取得された各組のマイクロフォン間における到達時間差に基づき取得する位置情報取得手段とを備えたことを特徴とする。
また、請求項2記載の発明に係る指示位置検出装置にあっては、前記位置情報取得手段は、前記指示音の3次元空間における発信位置を示す位置情報として、前記到達時間差により表される各組のマイクロフォンにおける前記指示音の発信位置までの距離差によりそれぞれ特定される、第1の組のマイクロフォンをそれぞれ焦点とする第1の双曲面と、第2の組のマイクロフォンをそれぞれ焦点とする第2の双曲面と、第3の組のマイクロフォンをそれぞれ焦点とする第3の双曲面との交点に相当する特定位置を示す位置情報を取得することを特徴とする。
また、請求項3記載の発明に係る指示位置検出装置にあっては、前記位置情報取得手段は、3次元空間における点を示す座標値を未知数とし、かつ前記座標値に前記第1の双曲面と前記第2の双曲面と前記第3の双曲面との交点を示す座標値を代入したとき特定の値が得られる方程式を判別式として用いるとともに、当該判別式における未知数である座標値に前記表示画面の上方の予め決められた範囲内での3次元空間の各点を示す座標値を代入したとき前記特定の値に最も近い値が得られる座標値を、前記指示音の3次元空間における発信位置を示す位置情報として取得することを特徴とする。
また、請求項4記載の発明に係る指示位置検出装置にあっては、各組のマイクロフォンは、前記表示画面の外周部に、前記表示画面を挟むように配置されたことを特徴とする。
また、請求項5記載の発明に係る指示位置検出装置にあっては、前記複数のマイクロフォンの1又は複数が、互いに異なる二組のマイクロフォンを構成することを特徴とする。
また、請求項6記載の発明に係る指示位置検出装置にあっては、前記三組のマイクロフォンのうちの一組のマイクロフォンは、他の二組のマイクロフォンの各々における一方側のマイクロフォンにより構成されることを特徴とする。
また、請求項7記載の発明に係る指示位置検出装置にあっては、前記複数のマイクロフォンは、前記表示画面に平行な同一平面上に配置されたことを特徴とする。
また、請求項8記載の発明に係る指示位置検出装置にあっては、前記他の二組のマイクロフォンの一方側の組のマイクロフォンと他方側の組のマイクロフォンとは、直交する2つの直線の一方側の直線上と他方側の直線上とにそれぞれ組をなして配置されたことを特徴とする。
また、請求項9記載の発明に係る指示位置検出装置にあっては、前記2つの直線は、前記表示画面の中心を通る軸上において直交することを特徴とする。
また、請求項10記載の発明に係る指示位置検出装置にあっては、前記表示画面は矩形であり、前記他の二組のマイクロフォンの一方側の組のマイクロフォンと他方側の組のマイクロフォンとは、前記表示画面の一方の対角線を含む一方の直線上と他方の対角線を含む他方の直線上とにそれぞれ組をなして配置されたことを特徴とする。
また、請求項11記載の発明に係る指示位置検出装置にあっては、前記時差取得手段に、前記三組のマイクロフォンの各組のマイクロフォンの組合せを第1の組合せとして三組のマイクロフォンの各組における指示音の到達時間差をそれぞれ取得させるとともに、前記位置情報取得手段に、前記時差取得手段に取得された第1の組合せからなる三組のマイクロフォンの各組における指示音の到達時間差に基づいて、3次元空間における前記指示音の発信位置を示す位置情報を前記表示画面に対する指示位置を示す第1の指示位置情報として取得させる一方、前記三組のマイクロフォンの各組のマイクロフォンの組合せを前記第1の組合せと異なる第2の組合せ三組のマイクロフォンの各組における指示音の到達時間差をそれぞれ取得させるとともに、前記位置情報取得手段に、前記時差取得手段に取得された第2の組合せからなる三組のマイクロフォンの各組における指示音の到達時間差に基づいて、3次元空間における前記指示音の発信位置を示す位置情報を前記表示画面に対する指示位置を示す第2の指示位置情報として取得させ位置取得制御手段と、前記位置情報取得手段に取得された第1の指示位置情報を、前記位置情報取得手段により取得された第2の指示位置情報により補正し、補正後の第3の指示位置情報を、前記表示画面に対する指示位置を示す最終的な指示位置情報として取得する補正手段とを備えたことを特徴とする。
また、請求項12記載の発明に係る指示位置検出方法にあっては、表示画面に対する指示位置を検出する指示位置方法であって、前記表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する工程と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する工程とを含むことを特徴とする。
また、請求項13記載の発明に係るプログラムにあっては、コンピュータに、前記表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する処理と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する処理とを実行させることを特徴とする。
また、請求項14記載の発明に係る表示装置にあっては、表示手段と、前記表示手段が有する表示画面の外周部に互いに離間して配置され三組のマイクロフォンを構成するとともに、前記表示画面の上方における任意の位置から発信された指示音を検出する複数のマイクロフォンと、前記三組のマイクロフォンの各組のマイクロフォン間における前記指示音の到達時間差をそれぞれ取得する時差取得手段と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を前記時差取得手段により取得された各組のマイクロフォン間における到達時間差に基づき取得する位置情報取得手段と前記位置情報取得手段により取得された指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する表示制御手段とを備えたことを特徴とする。
また、請求項15記載の発明に係る表示装置にあっては、前記複数のマイクロフォンは、前記表示画面の上方における任意の位置から発信された指示音であって、一定の時間間隔で発信される各回の指示音を検出し、前記位置情報取得手段は、前記表示画面に対する指示位置を示す指示位置情報を、前記複数のマイクロフォンにより各回の指示音が検出される毎に取得し、前記表示制御手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記指示位置情報に基づいて前記表示手段が表示画面に表示する表示内容を制御することを特徴とする。
また、請求項16記載の発明に係る表示装置にあっては、前記表示制御手段は、前記指示位置情報に基づいて、前記表示手段が表示画面に表示中の表示内容を制御することを特徴とする。
また、請求項17記載の発明に係る表示装置にあっては、前記指示位置情報は、前記表示画面に直交する軸をz軸とする空間の直交座標系の位置情報であり、前記表示手段が表示画面に表示中の表示内容には、操作ボタン、及び当該操作ボタンに仮想的に設けられているz軸方向の複数段階の操作位置に対応して予め割り当てられている情報が含まれ、前記表示制御手段は、前記表示手段が表示画面に表示中の前記操作ボタンの操作位置に対応して予め割り当てられている情報を、前記指示位置情報に含まれるz軸方向の位置情報に基づき制御することを特徴とする。
また、請求項18記載の発明に係る表示装置にあっては、前記表示手段が表示画面に表示中の表示内容には、複数の前記操作ボタン、及び複数の操作ボタンのうちで現在選択中の操作ボタンを表す情報が含まれ、前記表示制御手段は、現在選択中の操作ボタンを表す情報を、前記指示位置情報に含まれるx軸方向とy軸方向との少なくともいずれか一方の位置情報に基づいて制御することを特徴とする。
また、請求項19記載の発明に係る表示装置にあっては、前記表示手段が表示画面に表示中の、前記操作ボタンの操作位置に対応して予め割り当てられている情報は文字情報であることを特徴とする。
また、請求項20記載の発明に係る表示装置にあっては、前記表示制御手段は、前記指示位置情報に基づき特定の情報を前記表示手段に新たに表示させることを特徴とする。
また、請求項21記載の発明に係る表示装置にあっては、前記表示制御手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記位置情報取得手段により取得される各々の指示位置情報により示される指示位置の移動軌跡に対応する線画を前記表示手段に表示させることを特徴とする。
また、請求項22記載の発明に係る表示装置にあっては、前記指示位置情報は、前記表示画面に直交する軸をz軸とする空間の直交座標系の位置情報であり、前記表示制御手段は、前記各々の指示位置情報に含まれるx軸方向及びy軸方向の位置情報により示される指示位置の移動軌跡に対応する線画を前記表示手段に表示させるとともに、当該線画における指示位置に対応する各部の太さを前記各々の指示位置情報に含まれるz軸方向の位置情報に基づき制御することを特徴とする。
また、請求項23記載の発明に係る表示装置にあっては、前記表示制御手段は、前記各々の指示位置情報により示される指示位置の移動軌跡に対応する線画であって、特定の方向から移動軌跡を観察した状態の線画を前記表示手段に表示させることを特徴とする。
また、請求項24記載の発明に係る表示装置にあっては、前記指示位置情報は、前記表示画面に直交する軸をz軸とする空間の直交座標系の位置情報であり、前記表示制御手段は、前記各々の指示位置情報により示される指示位置の移動軌跡に対応する線画であって、視線がy軸に平行する方向から移動軌跡を観察した状態の線画を前記表示手段に表示させることを特徴とする。
また、請求項25記載の発明に係る表示制御方法にあっては、表示手段が有する表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する工程と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する工程と取得した指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する工程とを含むことを特徴とする。
また、請求項26記載の発明に係るプログラムにあっては、コンピュータに、表示手段が有する表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する処理と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する処理と取得した指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する処理とを実行させることを特徴とする。
また、請求項27記載の発明に係る携帯情報端末にあっては、情報入力機能を備えた携帯情報端末において、表示手段と、前記表示手段が有する表示画面の外周部に互いに離間して配置され三組のマイクロフォンを構成するとともに、前記表示画面の上方における任意の位置から発信された指示音を検出する複数のマイクロフォンと、前記三組のマイクロフォンの各組のマイクロフォン間における前記指示音の到達時間差をそれぞれ取得する時差取得手段と、前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を前記時差取得手段により取得された各組のマイクロフォン間における到達時間差に基づき取得する位置情報取得手段と前記位置情報取得手段により取得された指示位置情報に基づいた情報入力処理を行う入力処理手段と、前記入力処理手段による情報入力処理に際し、前記位置情報取得手段により取得された指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する表示制御手段とを備えたことを特徴とする。
また、請求項28記載の発明に係る携帯情報端末にあっては、前記複数のマイクロフォンは、前記表示画面の上方における任意の位置から発信された指示音であって、一定の時間間隔で発信される各回の指示音を検出し、前記位置情報取得手段は、前記表示画面に対する指示位置を示す指示位置情報を、前記複数のマイクロフォンにより各回の指示音が検出される毎に取得し、前記入力処理手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記位置情報取得手段により取得される各々の指示位置情報に基づいた情報入力処理を行い、前記表示制御手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記位置情報取得手段により取得される各々の指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御することを特徴とする。
本発明によれば、表示装置の表示特性を低下させることなく表示画面における指示位置を検出し、しかも指示位置として3次元空間の位置を検出することが可能となる。
本発明に係る携帯情報端末を示す構成図である。 表示部の概略構造を示す断面図 携帯情報端末の電気的構成の概略を示すブロック図である。 (a)は各マイクロフォンのXY座標系での座標位置、(b)は3次元空間における任意の指示位置の位置を示す図である。 指示位置情報の取得方法を示す説明図である。 ソフトキー・モードでの処理内容を示すフローチャートである。 指示位置情報取得処理を示したフローチャートである。 ソフトキー・モードにおける携帯情報端末の動作を例示する説明図である。 ソフトキーの詳細を示す説明図である。 毛筆モードでの処理内容を示すフローチャートである。 毛筆モードにおける携帯情報端末の動作を例示する説明図である。 線画モードでの処理内容を示すフローチャートである。 線画モードにおける携帯情報端末の動作を例示する説明図である。 マイクロフォンの他の配置例を示す、図4(a)に対応する図である。 三組のマイクロフォンの他の組合せを示す説明図である。
以下、本発明の実施形態について説明する。図1は、本発明の指示位置検出装置としての構成、及び本発明の表示装置としての構成を備えた携帯情報端末1を示す構成図である。携帯情報端末1は、スケジュール管理機能や、辞書等のデータ参照機能、ペン入力機能等の種々の機能を備えたものであり、以下の構成を有している。
図1に示したように携帯情報端末1の本体2は横長状であり、本体2の表面には、文字情報や画像情報等の種々の情報を表示する横長の表示部3と、電源ボタン4と、ユーザが携帯情報端末1の操作に際して使用する複数の操作キー5a〜5eとが設けられている。また、表示部3の外周部には第1〜第4のマイクロフォン6A〜6Dが設けられている。
図2は、表示部3の概略構造を示す断面図である。表示部3は、表示手段であるカラー表示が可能なLCM31により構成されている。LCM31は、表側と裏側との2枚の透明なガラス基板32,33と、双方のガラス基板32,33間に封入された液晶34と、ガラス基板32,33の外面にそれぞれ貼着された偏光板35,36と、裏側の偏光板36の背面に設けられた導光板37、及び光反射シート38とから構成されている。なお、導光板37の図示しない外周部にはLED(light emitting diode)等の光源が配置されている。
裏側のガラス基板33の内面には透明な画素電極39がパターン形成されており、画素電極39において画素に対応する部分にはTFT40がそれぞれ形成されている。表側のガラス基板32の内面には、所定の色配列を有するカラーフィルタ41と透明なコモン電極42とが順に層をなしてパターン形成されている。
LCM31の表側の偏光板35の周囲は、本体2の表面を構成するフレームカバー43によって覆われている。フレームカバー43には、表側の偏光板35が露出する表示窓43aが開口しており、表示窓43aの内側には第1〜第4のマイクロフォン6A〜6Dが配置されている。なお、携帯情報端末1においては、LCM31の表示面(表側の偏光板35の表面)において表示窓43aから視認可能な矩形領域が表示画面31aである。
第1〜第4のマイクロフォン6A〜6Dは、図1に示したように、表示画面31aの中心Qにおいて直交するとともに、表示画面31aに平行な平面、つまり表示画面31aに対向する同一平面に存在する2本の直線L,M上に、それぞれ対をなして配置されている。すなわち第1及び第3のマイクロフォン6A,6Cが、表示画面31aの長辺に平行する一方の直線L上に対をなして配置されており、また第2及び第4のマイクロフォン6B,6Dが、表示画面31aの短辺に平行する他方の直線M上に対をなして配置されている。なお、図2は、上記の直線Lに沿った断面図である。
第1〜第4のマイクロフォン6A〜6Dは、携帯情報端末1に付随して用意されている図2に示したスタイラスペン70から発信される指示音を個別に検出するためのものである。
スタイラスペン70は、携帯情報端末1が有するペン入力機能を用いてユーザが文字情報等を入力する際に使用するものであり、ペン型の本体71と、本体71の周面に設けられた小型のプッシュスイッチ72とを備えている。なお、プッシュスイッチ72は、ユーザによって押されている間だけ動作状態を維持する自動復帰形である。
スタイラスペン70の図示しない本体71の内部には、小型の電源と、本体71の先端部に配置されるとともにプッシュスイッチ72が押されたとき指示音を発生する小型スピーカーやブザー等の放音手段を含む指示音生成回路とが内蔵されている。そして、スタイラスペン70は、プッシュスイッチ72が押されている間、特定の周波数帯域の指示音を一定の時間間隔(n回/秒)で周期的に発信するよう動作する。
図3は、携帯情報端末1の電気的構成の概略を示すブロック図である。携帯情報端末1は、装置全体を制御する制御部51と、ROM(Read Only Memory)52、フラッシュメモリ53、キー入力部54、駆動回路55、信号処理部56とを備えている。駆動回路55にはLCM31が接続されており、信号処理部56には、第1〜第4のマイクロフォン6A〜6Dが、それぞれアンプ57を介して接続されている。
制御部51は、CPU(Central Processing Unit)、及びその周辺回路から構成されている。制御部51は、ROM52に記憶されている種々の制御プログラムに従い携帯情報端末1の動作を制御する。制御プログラムは、携帯情報端末1の制御に不可欠な基本ソフト(OS:Operating System)、及び携帯情報端末1が有する各機能を実現するための複数のアプリケーションソフトである。なお、ROM52には、上記制御プログラム以外にも辞書データ等の各種のデータが記憶されている。
フラッシュメモリ53は、携帯情報端末1の動作を規定する設定データや、ユーザにより入力された文字情報等を記憶する不揮発性半導体メモリである。
キー入力部54は、図1に示した複数の操作キー5a〜5eであり、ユーザに操作された操作キーに応じた操作信号を制御部51へ供給する。
駆動回路55は、制御部51の命令に従いLCM31を駆動するための駆動信号を生成し、生成した駆動信号をLCM31に供給することによって表示画面31aに所定の文字情報や画像情報を表示させる。
信号処理部56は、アンプ57によってそれぞれ増幅された第1〜第4のマイクロフォン6A〜6Dの出力信号、すなわちアナログの音響信号をデジタル信号に変換するとともに、雑音除去等のフィルタ処理を施し、フィルタ処理後の音響信号を制御部51へ供給する。
そして、携帯情報端末1においては、ユーザがペン入力機能を使用する際、スタイラスペン70から発信される指示音を第1〜第4のマイクロフォン6A〜6Dによって検出するとともに、制御部51が、指示音の発信位置をユーザによって指示された表示画面31aに対する指示位置として、その指示位置を示す指示位置情報を取得する。
制御部51が取得する指示位置情報は3次元空間内における任意の指示位置を示すものである。すなわち指示位置情報は、図4(a)に示したように直交座標の座標位置P(x,y,z)であり、表示画面31aの左下の角を原点(0,0,0)とし、かつ表示画面31aの長辺をx軸、表示画面31aの短辺をy軸としたときの座標位置である。なお、図4(b)は、上記の直交座標におけるXY平面での第1〜第4のマイクロフォン6A〜6Dの座標位置を示した図である。
次に、制御部51における指示位置情報の取得方法について説明する。任意の位置でスタイラスペン70が指示音を発信したとき、指示音は各方向に等速度(音速)で伝わっていく。その際、指示音の発信位置から第1〜第4のマイクロフォン2A〜2Dの各々までの距離に差がある場合、いずれか2つのマイクロフォンを一組としたとき、各組のマイクロフォン間には指示音の到達時間に差が生じる。
図5(a)は、指示音が発生したときの第1〜第4のマイクロフォン2A〜2Dの出力信号における音圧レベルの変化と、予め決められている複数組のマイクロフォンの各々における指示音の到達時間差とを便宜的に示した図である。図5(a)において、横軸は時間、縦軸は音圧レベルであり、各々の音圧レベルがピークに達した時点(tA,tB,tC,tD )が第1〜第4のマイクロフォン2A〜2Dにおける指示音の検出時点であり、本実施形態では指示音が到達した時点である。なお、音圧レベルは、スタイラスペン70が発する指示音の、予め決められている周波数帯域における音圧レベルである。
また、図5(a)において、第1及び第3のマイクロフォン6A,6Cからなる一組のマイクロフォン間における指示音の到達時間差がtAC であり、同様に第2及び第4のマイクロフォン6B,6Dからなる一組のマイクロフォン間における指示音の到達時間差がtBD 、第1及び第4のマイクロフォン6A,6Dからなる一組のマイクロフォン間における指示音の到達時間差がtAD である。
そして、各組のマイクロフォン間における指示音の到達時間差(tAC ,tBD ,tAD )に音速を乗じると、各組のマイクロフォン間における指示音の発信位置からの距離差を得ることができる。
ここで、第1及び第3のマイクロフォン6A,6Cから一定の距離差にある空間内の点は、第1及び第3のマイクロフォン6A,6Cを焦点とする双曲面(二葉双曲面)に存在する。同様に、第2及び第4のマイクロフォン6B,6Dから一定の距離差にある空間内の点は、第2及び第4のマイクロフォン6B,6Dを焦点とする双曲面に存在する。また、第1及び第4のマイクロフォン6A,6Dから一定の距離差にある空間内の点は、第1及び第4のマイクロフォン6A,6Dを焦点とする双曲面に存在する。
したがって、各組のマイクロフォンを焦点とした各々の双曲面の交点が指示音の発信位置、つまり表示画面31aに対する指示位置となる。すなわち図5(b)は、各組のマイクロフォンを焦点とした各々の双曲面を表示画面31aに平行な平面で切ったときの切口、つまり双曲線を示した図である。図5(b)に示したように、第1及び第3のマイクロフォン6A,6Cを焦点とする第1の双曲面(双曲線)101,102と、第2及び第4のマイクロフォン6B,6Dを焦点とする第2の双曲面(双曲線)201,202と、第1及び第4のマイクロフォン6A,6Dを焦点とする第3の双曲面(双曲線)301,302との交点が指示位置Pとなる。なお、図5(b)は、各々の双曲面(双曲線)を便宜的に示したものに過ぎず、形状や位置関係は実際のものとは異なる。
一方、各組のマイクロフォンを焦点とした各々の双曲面は、次式(1)
Figure 2011100301
によって表すことができる。但し、式(1)は、焦点がz軸上に存在する場合の一般式である。
また、第1及び第3のマイクロフォン6A,6C間の距離(Lx )は既知であるため、指示位置Pまでの距離差を2ax とすれば、上記の式(1)から、第1及び第3のマイクロフォン6A,6Cを焦点とする第1の双曲面101,102を表す式として次式(2)
Figure 2011100301
を得ることができる。
同様に、第2及び第4のマイクロフォン2B,2D間の距離(Ly )は既知であるため、指示位置Pまでの距離差を2ay とすれば、上記の式(1)から、第2及び第4のマイクロフォン2B,2Dを焦点とする第2の双曲面201,202を表す式として次式(3)
Figure 2011100301
を得ることができる。
一方、第1及び第4のマイクロフォン6A,6Dがx軸上に位置し、かつ第1のマイクロフォン6Aが原点(0,0,0)に位置としていると仮定して、第1及び第4のマイクロフォン6A,6D間の距離を距離(x)とし、指示位置Pまでの距離差を2axy とすれば、上記の式(1)から、第1及び第4のマイクロフォン6A,6Dを焦点とする仮想上の双曲面を表す式として次式(4)
Figure 2011100301
を得ることができる。
さらに、上記の仮想上の双曲面に存在する各点の座標位置(x,y,z)は、次式(5)
Figure 2011100301
を用いて変換すれば、第1及び第4のマイクロフォン6A,6Dを焦点とする実際の第3の双曲面301,302における座標位置(x,y,z)に変換することができる。
このため、式(4)及び式(5)から、第1及び第4のマイクロフォン6A,6Dを焦点とする第3の双曲面301,302を表す式として次式(6)
Figure 2011100301
を得ることができる。
したがって、式(2)、式(3)、式(6)を全て満足する座標位置(x,y,z)が、各組のマイクロフォンを焦点とした各々の双曲面の交点であって、指示音の発信位置、つまり表示画面31aに対する任意の指示位置Pの座標位置(x,y,z)となる。
しかしながら、例えば各組のマイクロフォンの到達時間差(tAC ,tBD ,tAD )に誤差が存在すると、各組のマイクロフォン間における指示音の発信位置からの距離差(2ax,2ay,2axy )にも誤差が生じるため、式(2)、式(3)、式(6)を全て満足する座標位置(x,y,z)を得ることができない。
そのため、制御部51においては、次式(7)
n={F(x,y,z)}2+{G(x,y,z)}2+{F(x,y,z)}2
・・・式(7)
ただし、
・F(x,y,z) = 式(1)の(左辺)−(右辺)
・G(x,y,z) = 式(2)の(左辺)−(右辺)
・H(x,y,z) = 式(3)の(左辺)−(右辺)
を用いることにより任意の指示位置Pの座標位置(x,y,z)、つまり指示位置情報を取得する。
上記の式(7)は、各組のマイクロフォンの到達時間差(tAC ,tBD ,tAD )から得られる、各組のマイクロフォン間における指示音の発信位置からの距離差(2ax,2ay,2axy )に誤差がないとき、演算結果(n)が0(特定の値)となる判別式である。
制御部51が指示位置情報を取得する際の具体的な手順は、以下の通りである。すなわち制御部51においては、上記の式(7)の座標値(x,y,z)に、(0,0,0)から(Lx,Ly,Lz )までの座標値を順に代入して演算結果(n)をそれぞれ求める。ここで、座標値(Lx,Ly,Lz )におけるz座標(Lz )は、指示位置のz軸における検出範囲として予め決められている最大座標位置である。つまり制御部51は、式(7)の座標値(x,y,z)に、表示画面31aの上方の一定範囲内の3次元空間の各点を示す座標値を順に代入して演算結果(n)をそれぞれ求める。そして、制御部51は、演算結果(n)が最小であったときの座標値(x,y,z)を指示位置情報として取得する。
一方、携帯情報端末1には、ペン入力機能を使用するための動作モードとして、ソフトキー・モードと毛筆モードと線画モードとの3種類の動作モードが予め用意されており、ペン入力機能の使用時にはユーザが必要に応じて任意の動作モードを設定することができる。ソフトキー・モードは文字や記号を入力するために用意されている動作モードであり、毛筆モードと線画モードとは線画を入力するために用意されている動作モードである。
そして、携帯情報端末1においては、3種類の動作モードのいずれが設定されているときにも、制御部51が本発明の時差取得手段、位置情報取得手段、表示制御手段、入力処理手段として機能する。
以下、携帯情報端末1においてユーザによりペン入力機能が使用されるときの、制御部51による指示位置情報の具体的な取得手順を含む動作内容について説明する。
(ソフトキー・モード)
まず、ユーザによりソフトキー・モードが設定されたときの携帯情報端末1の動作について説明する。図6及び図7は、制御部51の処理内容を示したフローチャート、図8(a)〜図8(d)は、ソフトキー・モードの設定中におけるスタイラスペン70の操作と、スタイラスペン70の操作に応じたLCM31の表示画面31aにおける表示内容の変化の一例を示す説明図である。
図6に示したように、制御部51は、ソフトキー・モードの設定とともに動作を開始し、まずスタイラスペン70から発信される指示音の検出動作を開始するとともに、LCM31の表示画面31aに、図8に示したソフトキー501を表示させる(ステップSA1)。
ここで、指示音の検出動作は、第1〜第4のマイクロフォン6A〜6Dにおける出力信号の音圧レベルの変化を逐次確認する動作であり、制御部51は、指示音の検出動作の開始した時点において、先に説明した複数組のマイクロフォンの各々における指示音の到達時間差の計算に使用する経過時間のカウントを開始する。
また、ソフトキー501は複数の操作ボタンから構成される画像であり、ソフトキー501の各操作ボタンには、五十音の各行の文字と、句点や読点等の複数の記号とが予め割り当てられている。ステップSA1において表示される初期状態のソフトキー501には、操作ボタン毎に、各々の操作ボタンに割り当てられている複数の文字や記号の1つが表示される。すなわち、図8に示したように、「あ」、「か」、「さ」、「た」、「な」、・・・等の文字と、読点「。」とが表示される。
また、図8には省略して示したが、図9(a)に示したようにソフトキー501を構成する各々の操作ボタン501aには、上記の文字や記号の他に、各々の操作ボタン501aに割り当てられている複数の文字や記号を示すガイド文字(「あ〜お」、「。、・ー」等)が、上記の文字や記号よりも小さく表示される。
一方、ソフトキー501を構成する各々の操作ボタン501aには、押圧方向(z軸方向と逆方向)に複数段階の操作位置が仮想的に設けられており、各段階の操作位置に、同じ操作ボタン501aに割り当てられている特定の文字や記号の1つが割り当てられている。例えば五十音の各行の操作ボタン501aには5段階の操作位置が仮想的に設けられており、図9(b)に示したように、「あ」行の操作ボタン501aの1段目の操作位置には「あ」の文字が割り当てられ、かつ2段目〜5段目の各操作位置には、「い」〜「お」の各文字が割り当てられている。つまり、制御部51は、初期状態のソフトキー501の各々の操作ボタン501aには、各々の操作ボタン501aの1段目の操作位置に割り当てられている文字や記号を表示させる。
なお、「。」、「、」、「・」、「ー」の複数の記号が割り当てられている操作ボタン501aの操作位置は、割り当てられている記号の数と同様に4段階である。以下の説明では各操作ボタン501aの各段位置に割り当てられている文字及び記号を文字等という。
ステップSA1の処理を行った後、制御部51は、スタイラスペン70の指示音が検出できたか否かを逐次確認する(ステップSA2)。すなわち制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルに僅かな時間差でピークが表れたか否かを逐次確認する。
そして、制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルに僅かな時間差でピークが表れたことが確認できると(ステップSA2:YES)、その時点で指示音が検出できたと判断し、指示音の発生源である指示位置を示す指示位置情報、つまり図4(a)に示した直交座標における座標位置(x,y,z)を先に説明した方法によって取得する(ステップSA3)。
図7は、制御部51における指示位置情報の取得手順を示したフローチャートである。指示位置情報の取得に際して制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルにピークが表れた時点を各マイクロフォンに指示音が到達した時点とする。
そして、制御部51は、第3のマイクロフォン6Cに指示音が到達した時点での経過時間(tC )から、第1のマイクロフォン6Aに指示音が到達した時点での経過時間(tA )を減算することによって、第1及び第3のマイクロフォン6A,6Cにおける指示音の到達時間差tAC を取得する(ステップSA101)。
また、制御部51は、第4のマイクロフォン6Dに指示音が到達した時点での経過時間(tD )から、第2のマイクロフォン6Bに指示音が到達した時点での経過時間(tB )を減算することによって、第2及び第4のマイクロフォン6B,6Dにおける指示音の到達時間差tBD を取得する(ステップSA102)。
さらに、制御部51は、第4のマイクロフォン6Dに指示音が到達した時点での経過時間(tD )から、第1のマイクロフォン6Aに指示音が到達した時点での経過時間(tA )を減算することによって、第1及び第4のマイクロフォン6A,6Dにおける指示音の到達時間差tAD を取得する(ステップSA103)。
引き続き、制御部51は、図4(a)に示した直交座標における任意の点の座標位置(x,y,z)として、(0,0,0)から(Lx,Ly,Lz )までの座標位置を順に設定する処理を行い(ステップSA104)、先に説明した判別式である式(7)に、設定した座標位置(x,y,z)と、ステップSA101〜ステップSA103で取得した各組のマイクロフォンの到達時間差(tAC ,tBD ,tAD )とを代入して演算結果(n)を求め(ステップSA105)、求めた演算結果(n)を、設定した座標位置(x,y,z)と対応させて内部メモリに記憶する(ステップSA106)。以後、制御部51は、座標位置(x,y,z)が(Lx,Ly,Lz )となるまで(ステップSA107:NO)、ステップSA104〜ステップSA106の処理を繰り返す。
そして、制御部51は、座標位置(x,y,z)に(Lx,Ly,Lz )を代入したときの演算結果(n)を記憶した後(ステップSA107:YES)、記憶した全ての演算結果(n)の中で最小値の演算結果(n)が得られたときの座標位置(x,y,z)を確認し、確認した座標位置(x,y,z)を、指示位置を示す座標位置、つまり指示位置情報として取得する(ステップSA108)。
なお、式(7)の演算結果(n)が最小値となる座標位置(x,y,z)を得るための具体的な処理手順は任意である。
一方、制御部51は、指示位置情報としての座標位置(x,y,z)を取得した後には図6に示した処理に戻り、取得した座標位置(x,y,z)に対応する表示画面31a内の指示位置(x,y)がボタン領域内であるか否かを確認する(ステップSA4)。つまり制御部51は、取得した座標位置(x,y,z)によって示されるXY平面の座標位置(x,y)が、ソフトキー501を構成するいずれかの操作ボタン501aの表示領域内に含まれているか否かを確認する。
そして、制御部51は、表示画面31a内の指示位置(x,y)がボタン領域内でなければ(ステップSA4:NO)、何もせずステップSA2の処理へ戻る。また、制御部51は、表示画面31a内の指示位置(x,y)がボタン領域内であったときには(ステップSA4:YES)、指示位置(x,y)に対応する操作ボタンが既に選択中の操作ボタンであるか否かをさらに確認する(ステップSA5)。
処理開始当初においては、表示画面31a内の指示位置(x,y)がボタン領域内であっても、指示位置(x,y)に対応する操作ボタンは選択中の操作ボタンではない(ステップSA5:NO)。したがって、制御部51は、まず指示位置(x,y)に対応する位置の操作ボタンに表示中の文字等(1段目の操作位置の文字または記号)を反転表示させるとともに、当該操作ボタンを選択中の操作ボタンとして、当該操作ボタンを示す所定のボタン識別情報を内部メモリに記憶する(ステップSA6)。さらに、制御部51は、ステップSA3で取得した座標位置(x,y,z)のz座標をz軸方向(高さ方向)の基準位置として内部メモリに記憶した後(ステップSA7)、直ちにステップSA2の処理へ戻る。
したがって、ユーザが、例えばプッシュスイッチ72を押した状態でスタイラスペン70の先端部を「あ」行の操作ボタンの上方に移動させると、「あ」行の操作ボタンが選択中の操作ボタンとして記憶されるとともに、図8(a)に示したように、1段目の「あ」の文字が反転表示される。同時に、スタイラスペン70の先端部の上下方向の位置が記憶される。
引き続き、制御部51は、指示音を検出する毎に(ステップSA2:YES)、新たな座標位置(x,y,z)を取得する(ステップSA3)。そして、制御部51は、ステップSA3で新たな座標位置(x,y,z)を取得した際、表示画面31a内の指示位置(x,y)がボタン領域内であるが(ステップSA4:YES)、指示位置(x,y)に対応する操作ボタンが選択中の操作ボタンではないとき、つまり指示位置(x,y)に対応する操作ボタンが他の操作ボタンに変わったときには(ステップSA5:NO)、ステップSA6,SA7の処理を再び実行する。
すなわち制御部51は、新たな指示位置(x,y)に対応する位置の操作ボタンに表示中の文字等を反転表示させるとともに、当該操作ボタンを選択中の操作ボタンとして、当該操作ボタンを示す所定のボタン識別情報を内部メモリに記憶する(ステップSA6)。さらに、制御部51は、新たに取得した座標位置(x,y,z)のz座標をz軸方向の基準位置として内部メモリに記憶する(ステップSA7)。
したがって、ユーザが、プッシュスイッチ72を押しながら、例えばスタイラスペン70の先端部を「あ」行の操作ボタンから「ら」行の操作ボタンの上方に移動させると、「ら」行の操作ボタンが選択中の操作ボタンとして記憶されるとともに、図8(b)に示したように、1段目の「ら」の文字が反転表示される。同時に、スタイラスペン70の先端部の上下方向の位置が記憶される。
また、制御部51は、ステップSA3で新たな座標位置(x,y,z)を取得した際、表示画面31a内の指示位置(x,y)がボタン領域内であり(ステップSA4:YES)、かつ指示位置(x,y)に対応する操作ボタンが選択中の操作ボタンであれば(ステップSA5:YES)、z座標に変化があったか否かを確認する(ステップSA8)。
z座標に変化がなければ(ステップSA8:NO)、制御部51は直ちにステップSA2の処理へ戻る。また、制御部51は、z座標に変化があれば(ステップSA8:YES)、基準位置として記憶しているz座標の値から新たなz座標の値を減算することによって、指示位置(指示音の発信位置)における、ステップSA7で記憶した基準位置から下方向への移動量を計算する(ステップSA9)。なお、ステップSA9の処理において制御部51は、移動量が負の値であった場合には、移動量を0とする。
次に、制御部51は、反転表示中の文字等が、ステップSA9で計算した移動量に応じて予め決められている操作位置(段位置)の文字等であるか否かを確認する(ステップSA10)。なお、移動量と段位置とは、移動量が一定量増える毎に操作位置が1段ずつ増える関係にある。
そして、制御部51は、反転表示中の文字等が計算した移動量に応じた段位置の文字等であれば(ステップSA10:YES)、何もせずステップSA2の処理へ戻る。逆に、反転表示中の文字が計算した移動量に応じた操作位置の文字等でなければ(ステップSA10:NO)、制御部51は、反転中の文字等を移動量に応じた操作位置の文字等に変更した後(ステップSA11)、いったんステップSA2の処理へ戻る。
したがって、ユーザが、プッシュスイッチ72を押しながら、例えばスタイラスペン70の先端部を「ら」行の操作ボタンの上方に移動させた後、スタイラスペン70の先端部を表示画面31a側(下方側)へ所定量だけ移動させると、図8(c)に示したように、反転中の文字が「ら」から「れ」に変更される。
一方、制御部51は、ステップSA2以降の処理を繰り返す間に、指示音ができず(ステップSA2:NO)、かつ指示音が検出できない状態が所定時間以上、すなわちスタイラスペン70における指示音の発信間隔よりも長い所定時間以上続いたときには(ステップSA12:YES)、以下の処理を実行する。
まず、制御部51は、直前における表示画面31a内の指示位置(x,y)がボタン領域内であったか否かを確認する(ステップSA13)。そして、制御部51は、直前の指示位置(x,y)がボタン領域内であったときには(ステップSA13:YES)、選択中の操作ボタンに表示中の文字等を表示画面31a内の所定の文字入力領域に表示する(ステップSA14)。つまり文字情報の入力処理を行う。
したがって、ユーザが、例えば図8(c)に示した状態で、プッシュスイッチ72を押す操作を止めて指示音の発生を停止させると、図8(d)に示したように、表示画面31a内の所定の文字入力領域に「れ」の文字が入力されることとなる。
また、制御部51は、ステップSA13の処理に際して、直前の指示位置(x,y)がボタン領域内でなかったときには(ステップSA13:NO)、ソフトキー50を初期化した後、つまりソフトキー50をステップSA1において表示したときと同様の初期状態に戻した後(ステップSA)、ステップSA2の処理へ戻る。
以後、制御部51は、ユーザによりソフトキー・モードが解除されるまでの間、ステップSA2以降の処理を繰り返し実行する。
以上のように、ペン入力機能の使用に際して携帯情報端末1にソフトキー・モードが設定されている場合、ユーザハスタイラスペン70を用いて所望の文字等を入力することができる。
(毛筆モード)
次に、ユーザにより毛筆モードが設定されたときの携帯情報端末1の動作について説明する。図10は、制御部51の処理内容を示したフローチャート、図11(a)〜図11(d)は、毛筆モードの設定中におけるスタイラスペン70の操作と、スタイラスペン70の操作に応じたLCM31の表示画面31aにおける表示内容の変化の一例を示す説明図である。
図10に示したように、制御部51は、毛筆モードの設定とともに動作を開始し、まずスタイラスペン70が発する指示音の検出動作を開始するとともに、描画すべき線の太さ(線幅)を予め決められている基準の太さに設定する(ステップSB1)。なお、指示音の検出動作は、ソフトキー・モードの場合と同様であり、制御部51は、指示音の検出動作の開始した時点において、先に説明した複数組のマイクロフォンの各々における指示音の到達時間差の計算に使用する経過時間のカウントを開始する。
ステップSA1の処理を行った後、制御部51は、スタイラスペン70の指示音が検出できたか否かを逐次確認する(ステップSB2)。すなわち制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルに僅かな時間差でピークが表れたか否かを逐次確認する。
そして、制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルに僅かな時間差でピークが表れたことが確認できると、その時点で指示音が検出できたと判断し(ステップSB2:YES)、指示音の発生源である指示位置を示す指示位置情報、つまり図4(a)に示した直交座標における座標位置(x,y,z)を、図7に示した既説した処理によって取得する(ステップSB3)。
引き続き、制御部51は、取得した座標位置(x,y,z)によって示されるXY平面の座標位置(x,y)が表示画面31a内の位置であるか否かを確認する(ステップSB4)。
制御部51は、指示位置(x,y)が表示画面31a内でなければ(ステップSB4:NO)、何もせずステップSB2の処理へ戻る。また、制御部51は、指示位置(x,y)が表示画面31a内であったときには(ステップSB4:YES)、描画中であるか否かをさらに確認する(ステップSB5)。なお、ステップSB5の確認は、内部メモリに後述する描画フラグが記憶されているか否かを確認することにより行う。
処理開始当初においては、指示位置(x,y)が表示画面31a内であっても、描画している状態ではない(ステップSB5:NO)。したがって、制御部51は、まずステップSB3で取得した座標位置(x,y,z)のz座標をz軸方向(高さ方向)の基準位置として内部メモリに記憶する(ステップSB6)。
さらに、制御部51は、表示画面31a内の指示位置(x,y)を描画位置として内部メモリに記憶し、さらに描画中であることを示す描画フラグを設定する(ステップSB7)。なお、描画フラグの設定は、描画フラグを内部メモリに記憶する処理である。しかる後、制御部51は、表示画面31a内の指示位置(x,y)に始点を表示し(ステップSB8)、いったんステップSB2の処理へ戻る。
つまり、ユーザがスタイラスペン70の先端部を表示画面31aの所望する位置の上方に位置させた状態でプッシュスイッチ72を押すと、図11(a)に示したように、表示画面31aの所望する位置に始点Sが表示される。同時に、表示画面31a内の指示位置(x,y)と、スタイラスペン70の先端部の上下方向の位置が記憶される。
引き続き、制御部51は、指示音を検出する毎に(ステップSB2:YES)、新たな座標位置(x,y,z)を取得する(ステップSB3)。そして、制御部51は、ステップSB3で新たな座標位置(x,y,z)を取得した際、XY平面の座標位置(x,y)が表示画面31a内の位置であり(ステップSB4:YES)、かつ描画中であれば(ステップSB5:YES)、新たなXY平面の座標位置(x,y)を今回の描画位置として内部メモリに記憶する(ステップSB9)。
しかる後、制御部51は以下の処理を実行する。まず、制御部51はz座標が変化したか否かを確認する(ステップSB10)。そして、制御部51は、z座標に変化がなければ(ステップSB10:NO)、直ちに表示画面31a内における、前回の描画位置(x,y)と今回の描画位置(x,y)との間に、今回の描画位置(x,y)での太さを設定中の太さとする線を描画する(ステップSB13)。
一方、制御部51は、z座標に変化があれば(ステップSB10:YES)、基準位置として記憶しているz座標の値から新たなz座標の値を減算することによって、指示位置(指示音の発信位置)における、ステップSB6で記憶した基準位置からの上下方向への移動量を計算する(ステップSB11)。すなわち制御部51は、移動量として正又は負の値を取得する。
引き続き、制御部51は、計算した移動量に応じて描画すべき線の太さを増減する(ステップSB12)。ステップSB12の処理において制御部51は、計算した移動量が正の値であって、指示位置が基準位置から下方へ移動していた場合には、描画すべき線の太さを移動量に応じた分だけ基準の太さよりも太くする設定を行う。また、ステップSB12の処理において制御部51は、計算した移動量が負の値であって、指示位置が基準位置から上方へ移動していた場合には、描画すべき線の太さを移動量に応じた分だけ基準の太さよりも細くする設定を行う。
しかる後、制御部51は、表示画面31a内における、前回の描画位置(x,y)と今回の描画位置(x,y)との間に、今回の描画位置(x,y)での太さを設定中の太さとする線を描画する(ステップSB13)。以後、制御部51はいったんステップSB2の処理へ戻り、指示音が検出できている間においは、指示音を検出する毎にステップSB9〜ステップSB13の処理を繰り返し実行する。
したがって、図11(a)に示したように表示画面31aに始点Sが表示された後、例えばユーザがプッシュスイッチ72を押しながらスタイラスペン70(の先端部)を斜め右下方向へ移動させると、図11(b)に示したように表示画面31aには、始点Sから右方向へ向かい徐々に太くなる線Kが描画される。さらに、ユーザがスタイラスペン70を斜め右上方向へ移動させると、図11(c)に示したように、描画中の線Kが、太さが徐々に細くなりながら右方向へ延びることとなる。つまり線画情報の入力処理が行われる。
一方、制御部51は、ステップSB2以降の処理を繰り返す間に、指示音ができず(ステップSB2:NO)、かつ指示音が検出できない状態が所定時間以上、すなわちスタイラスペン70における指示音の発信間隔よりも長い所定時間以上続いたときには(ステップSB14:YES)、以下の処理を実行する。
すなわち制御部51は、描画すべき線の太さを基準の太さに戻し(ステップSB15)、さらに描画フラグをオフ状態とする(ステップSB16)。描画フラグをオフ状態とする処理は、描画フラグを内部メモリから消去する処理である。以後、制御部51はステップSB2の処理へ戻り、ユーザにより毛筆モードが解除されるまでの間、ステップSB2以降の処理を繰り返し実行する。
したがって、ユーザは、所望の線を描画したら、プッシュスイッチ72を押す操作をいったん止めて指示音の発生を停止させた後、再びプッシュスイッチ72を押すことにより、新たな線の描画を開始することができる。
以上のことから、ペン入力機能の使用に際して携帯情報端末1に毛筆モードが設定されている場合、ユーザは、スタイラスペン70を表示画面31aに対して縦横方向に移動させることにより所望の線を描画することができる。同時に、ユーザは、線の描画中にスタイラスペン70を上下させることにより線の太さを変えることができる。つまりユーザは、毛筆で線や文字を書く場合と同様の感覚で、線の太さを自在に調整しながら所望形状の線や文字等を表示画面31aに描画することができる。
(線画モード)
次に、ユーザにより線画モードが設定されたときの携帯情報端末1の動作について説明する。図12は、制御部51の処理内容を示したフローチャート、図13(a)〜図13(d)は、線画モードの設定中におけるスタイラスペン70の操作と、スタイラスペン70の操作に応じたLCM31の表示画面31aにおける表示内容の変化の一例を示す説明図である。
図12に示したように、制御部51は、線画モードの設定とともに動作を開始し、まずスタイラスペン70が発する指示音の検出動作を開始するとともに、描画すべき線の太さを予め決められている基準の太さに設定する(ステップSC1)。なお、指示音の検出動作は、ソフトキー・モード及び毛筆モードの場合と同様であり、制御部51は、指示音の検出動作の開始した時点において、先に説明した複数組のマイクロフォンの各々における指示音の到達時間差の計算に使用する経過時間のカウントを開始する。
ステップSC1の処理を行った後、制御部51は、スタイラスペン70の指示音が検出できたか否かを逐次確認する(ステップSC2)。すなわち制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルに僅かな時間差でピークが表れたか否かを逐次確認する。
そして、制御部51は、第1〜第4のマイクロフォン6A〜6Dの出力信号の音圧レベルに僅かな時間差でピークが表れたことが確認できると、その時点で指示音が検出できたと判断し(ステップSC2:YES)、指示音の発信位置である指示位置を示す指示位置情報、つまり図4(a)に示した直交座標における座標位置(x,y,z)を、図7に示した既説した処理によって取得する(ステップSC3)。
引き続き、制御部51は、取得した座標位置(x,y,z)におけるz座標をy座標に変換した後(ステップSC4)、変換後の座標位置(x,y)が表示画面31a内の位置であるか否かを確認する(ステップSC5)。
制御部51は、変換後の座標位置(x,y)が表示画面31a内でなければ(ステップSC5:NO)、何もせずステップSC2の処理へ戻る。また、制御部51は、変換後の座標位置(x,y)が表示画面31a内であったときには(ステップSC5:YES)、描画中であるか否かをさらに確認する(ステップSC6)。なお、ステップSC6の確認は、内部メモリに後述する描画フラグが記憶されているか否かを確認することにより行う。
処理開始当初においては、変換後の座標位置(x,y)が表示画面31a内であっても、描画している状態ではない(ステップSC6:NO)。したがって、制御部51は、まず変換後の座標位置(x,y)を描画位置として内部メモリに記憶し、さらに描画中であることを示す描画フラグを設定する(ステップSC7)。なお、描画フラグの設定は、描画フラグを内部メモリに記憶する処理である。しかる後、制御部51は、表示画面31a内の描画位置(x,y)に始点を表示し(ステップSC8)、いったんステップSC2の処理へ戻る。
つまり、ユーザがスタイラスペン70の先端部を表示画面31aの所望する位置の上方側に位置させた状態でプッシュスイッチ72を押すと、図13(a)に示したように、表示画面31aに始点Sが表示される。同時に、表示画面31a内の描画位置(x,y)が記憶される。ただし、先に説明した毛筆モードの場合とは異なり、表示画面31aの縦方向(y軸方向)が3次元空間での上下方向(z軸方向)となっているため、例えばスタイラスペン70の先端部が表示画面31aに当接していたときには、始点Sの表示位置は表示画面31aの下辺に接する位置となる。
引き続き、制御部51は、指示音を検出する毎に(ステップSC2:YES)、新たな座標位置(x,y,z)を取得し(ステップSC3)、取得した座標位置(x,y,z)におけるz座標をy座標に変換する(ステップSC4)。
そして、制御部51は、変換後の座標位置(x,y)が表示画面31a内の位置であり(ステップSC5:YES)、かつ描画中であれば(ステップSC6:YES)、新たに取得した変換後の座標位置(x,y)を今回の描画位置として内部メモリに記憶する(ステップSC9)。しかる後、制御部51は、表示画面31aに、前回の描画位置(x,y)と今回の描画位置(x,y)との間を結ぶ線を描画する(ステップSC10)。
以後、制御部51はいったんステップSC2の処理へ戻り、指示音が検出できている間においは、指示音を検出する毎に、ステップSC4〜ステップSC6、ステップSC9、ステップSC10の各処理を繰り返し実行する。
したがって、図13(a)に示したように表示画面31aに始点Sが表示された後、例えばユーザがプッシュスイッチ72を押しながらスタイラスペン70(の先端部)を、表示画面31aから離れる方向(上方)に向かって螺旋を描くように移動させると、表示画面31aには、図13(b)、図13(c)に示した順に線Kが描画される。つまり線画情報の入力処理が行われる。
すなわち表示画面31aには、視線を表示画面31aと平行で、かつ表示画面31aの縦方向(y軸方向)と一致させて観察している状態、つまり特定の方向から観察している状態におけるスタイラスペン70の先端部の軌跡を表す線Kが描画される。
一方、制御部51は、ステップSC2以降の処理を繰り返す間に指示音ができず(ステップSC2:NO)、かつ指示音が検出できない状態が所定時間以上、すなわちスタイラスペン70における指示音の発信間隔よりも長い所定時間以上続いたときには(ステップSC11:YES)、描画フラグをオフ状態とする(ステップSB16)。描画フラグをオフ状態とする処理は、描画フラグを内部メモリから消去する処理である。以後、制御部51はステップSC2の処理へ戻り、ユーザにより線画モードが解除されるまでの間、ステップSC2以降の処理を繰り返し実行する。
したがって、ユーザは、所望の線を描画したら、プッシュスイッチ72を押す操作をいったん止めて指示音の発信を停止させた後、再びプッシュスイッチ72を押すことにより、新たな線の描画を開始することができる。
以上のことから、ペン入力機能の使用に際して携帯情報端末1に線画モードが設定されている場合、ユーザは、スタイラスペン70を表示画面31aの上方側で移動させることにより、スタイラスペン70の先端部の3次元空間での移動軌跡に対応するとともに、移動軌跡を特定の方向から観察したときの形状を表す線画を描画することができる。
ここで、以上説明したように携帯情報端末1においては、ユーザによりペン入力機能が使用されるとき、スタイラスペン70が発する指示音を第1〜第4のマイクロフォン6A〜6Dによって検出し、互いに組をなすマイクロフォン間における指示音の到達時間差に基づいて、指示音の発信位置であるタイラスペン70の先端部の位置を示す座標位置(x,y,z)を、表示画面31aに対する指示位置を示す指示位置情報として取得する。
したがって、表示画面31aに対する指示位置を抵抗膜方式のタッチパネルを用いて検出する場合のように表示画面31aを他の部材で覆う必要がない。よって、LCM1の表示特性を低下させることなく表示画面31aにおける指示位置を検出することができる。
しかも、携帯情報端末1においては、指示位置情報として3次元の位置情報(x,y,z)を取得するため、前述したソフトキー・モードにおいて表示画面31aに表示させるソフトキー501には、複数の操作ボタンの一つひとつに複数の文字等を割り当てることができる。つまり、一般的なソフトウェアキーボードを用いて画面上のボタン選択により文字等を入力可能とする場合と比べ、表示画面31a内に表示する操作ボタン数を削減することができる。よって、ソフトキー501の表示面積を小さくすることにより、ペン入力機能によって文字等を入力可能とする際、表示画面31aを有効に使用することができる。
また、前述した毛筆モードにおいては、既に述べたように、表示画面31aに描画中の線の太さを、スタイラスペン70の上下動に応じて逐次変化させることによって、ユーザに、毛筆で線や文字を書く場合と同様の感覚で線の太さを自在に調整させることができる。
また、前述した線画モードにおいては、既に述べたように、スタイラスペン70の先端部の3次元空間での移動軌跡に対応するとともに、移動軌跡を特定の方向から観察したときの形状を表す線画を描画することができる。しかも、ユーザは、線画の描画作業中には、実際の視点とは異なる視点による線画(移動軌跡)を逐次確認することにより、多少複雑な3次元形状を表す線画であっても比較的容易に描画することができる。
なお、本発明の実施に際しては、本実施形態で説明した携帯情報端末1の構成等を以下のように変更してもよい。
例えば、第1〜第4のマイクロフォン6A〜6Dのうち互いに二組のマイクロフォンがそれぞれ配置された、互いに直交する2本の直線L,Mは、必ずしも同一平面に存在するものでなくともよく、2本の直線L,Mは、互いに平行する異なる平面に存在するものでも構わない。さらに、2本の直線L,Mは、互いに平行していない異なる平面に存在するものでも構わない。
さらに、2本の直線L,Mは、本実施形態のように直交するものである方が、表示画面31aに対する任意の指示位置Pを示す座標位置(x,y,z)の計算には都合がよいが、2本の直線L,Mは、少なくとも表示画面31aに投影したとき表示画面31a内において単に交差するものであっても構わない。
また、第1〜第4のマイクロフォン6A〜6Dは、図14に示したように、表示画面31aの各々の角部に配置してもよい。つまり第1〜第4のマイクロフォン6A〜6Dは、表示画面31aの一方の対角線を含む直線L1上と他方の対角線を含む直線M1上とにそれぞれ対をなして配置してもよい。
さらに、LCM1における第1〜第4のマイクロフォン6A〜6Dの設置箇所は、ユーザが表示画面31aに対して任意の位置を指示した際に表示画面31aの上方でスタイラスペン70が発信する指示音が検知できれば適宜変更することができる。つまり第1〜第4のマイクロフォン6A〜6Dは互いに離間していればよく、表示画面31aの外周部分の任意の位置に配置することができる。
また、本実施形態では、表示画面31aの外周部に第1〜第4のマイクロフォン6A〜6Dを設け、三組のマイクロフォンのうちの一組のマイクロフォンを他の二組のマイクロフォンの各々における一方側のマイクロフォンとした。つまり第1及び第4のマイクロフォン6A,6Dを一組のマイクロフォンとして扱うようにした。
しかし、例えば表示画面31aの外周部に、第1〜第4のマイクロフォン6A〜6Dに加えて第5のマイクロフォンと第6のマイクロフォンとを別途設けることにより、三組のマイクロフォンの各組のマイクロフォンを、他の組のマイクロフォンを構成しない2つのマイクロフォンによって構成するようにしてもよい。
また、例えば表示画面31aの外周部に第1〜第4のマイクロフォン6A〜6Dに加えて第5のマイクロフォンのみを別途設けることにより、5つのマイクロフォンのいずれか1つのみを互いに異なる二組のマイクロフォンを構成するものとして扱うようにしても構わない。
さらに、表示画面31aの外周部に第1〜第3のマイクロフォン6A〜6Cのみを設け、3つのマイクロフォンの各々を、異なる二組のマイクロフォンの一方側の組と他方側の組を構成するものとして扱うようにしても構わない。すなわち、第1及び第2のマイクロフォン6A,6Bを第1の組として扱い、第2及び第3のマイクロフォン6B,6Cを第2の組として扱い、第3及び第1のマイクロフォン6C,6Aを第3の組として扱うようにしてもよい。
また、本実施形態のように表示画面31aの外周部に第1〜第4のマイクロフォン6A〜6Dの4つのマイクロフォンを設ける場合はもとより、前述したように表示画面31aの外周部に5つのマイクロフォンや6つのマイクロフォンを設ける場合においても、各組のマイクロフォンの組合せについては任意の組合せを採用することができる。
さらに、表示画面31aの外周部に3つのマイクロフォンや、5つのマイクロフォンや、6つのマイクロフォンを設ける場合においても、外周部における各マイクロフォンの具体的な配置形態についても任意の配置形態を採用することができる。
また、制御部51には、本発明における位置取得制御手段、及び補正手段としての機能を付加することにより、指示音を検出したとき本実施形態とは異なる以下の処理によって表示画面31aに対する任意の指示位置Pを示す座標位置(x,y,z)を取得させてもよい。
例えば制御部51に、本実施形態で説明した手順によって、図5(b)に示した異なる3つの双曲面の交点Pの座標位置(x,y,z)を演算し、演算結果を第1の指示位置情報として取得する処理を行わせる。次に、制御部51に、3つの双曲面のうち、第1及び第4のマイクロフォン6A,6Dを焦点とする第3の双曲面(双曲線)301,302を、図15に示したように、第2及び第3のマイクロフォン6B,6Cを焦点とする双曲面401,402に変更した上で、本実施形態と同様の原理に従い、異なる3つの双曲面の交点Pの座標位置(x,y,z)を演算させる。
つまり制御部51に、本実施形態における組合せ(第1の組合せ)と異なる他の組合せ(第2の組合せ)からなる三組のマイクロフォンの各組における指示音の到達時間差をそれぞれ取得し、取得した各組の到達時間差に基づいて、3つの双曲面の交点Pの座標位置(x,y,z)を演算し、演算結果を第2の指示位置情報として取得する処理を行わせる。なお、図15は、図5(b)と同様、各々の双曲面(双曲線)を便宜的に示したものに過ぎず、形状や位置関係は実際のものとは異なる。
その後、制御部51に、第1の指示位置情報におけるx座標と、第2の指示位置情報におけるx座標との中間に位置する点のx座標を計算し、計算結果を補正後のx座標として取得させる。同様に、制御部51に、第1の指示位置情報におけるy座標と、第2の指示位置情報におけるy座標との中間に位置する点のy座標を計算し、計算結果を補正後のy座標として取得させる。さらに、制御部51に、第1の指示位置情報におけるz座標と、第2の指示位置情報におけるz座標との中間に位置する点のz座標を計算し、計算結果を補正後のz座標として取得させる。
言い換えると、制御部51に、第1の指示位置情報を第2の指示位置情報によって補正し、補正後におけるx,y,zの各座標からなる座標位置(x,y,z)を第3の指示位置情報として取得し、第3の指示位置情報を最終的な指示位置情報として取得させる。
上記のように、三組のマイクロフォンのうち一組のマイクロフォンの組合せを変えて第1の指示位置情報と第2の指示位置情報とを取得し、取得した第1の指示位置情報を第2の指示位置情報によって補正することにより、最終的な指示位置情報(第3の指示位置情報)を取得するようにすれば、表示画面31aにおける指示位置の検出精度を上げることができる。なお、上記の例とは異なり、第1の指示位置情報と第2の指示位置情報とを取得する際には、三組のマイクロフォンの全ての組のマイクロフォンの組合せを変えるようにしてもよい。
また、本実施形態では、制御部51が指示位置情報を取得する際、式(7)の座標値(x,y,z)に、表示画面31aの上方の一定範囲内の3次元空間の各点を示す座標値を順に代入して演算結果(n)をそれぞれ求め、演算結果(n)が最小であったときの座標値(x,y,z)を指示位置情報として取得する構成について説明した。しかし、指示位置情報、すなわち3つの双曲面の交点(又は、交点と判断できる点)の座標位置(x,y,z)を求める際の具体的な方法には任意の方法を適用することができる。
一方、第1〜第4のマイクロフォン6A〜6Dが検出する指示音は、可聴範囲の周波数帯域に特性を有するものであってもよいし、非可聴範囲の周波数帯域に特性を有するものであってもよい。指示音を可聴範囲の周波数帯域に特性を有するものとした場合には、スタイラスペン70の操作中にユーザに対して確実な操作感を提供することができる。また、指示音を非可聴範囲の周波数帯域に特性を有するものとした場合には、指示音が聞こえることが煩わしいと感じるユーザに対して良好な操作環境を提供することができると同時に、周囲の者に指示音をノイズとして感じさせてしまう不都合を無くすことができる。
また、携帯情報端末1には、指示音の検出モードとして、検出すべき指示音が可聴範囲の周波数帯域に特性を有するものである第1の検出モードと、検出すべき指示音が非可聴範囲の周波数帯域に特性を有するものである第2の検出モードとの2種類の検出モードを有し、ユーザが指示音の検出モードを必要に応じて切り替えることができる構成を確保してもよい。携帯情報端末1に上記構成を確保すれば、ユーザが、スタイラスペンとして可聴範囲の周波数帯域に特性を有する指示音を発するものと、非可聴範囲の周波数帯域に特性を有する指示音を発する構成を有するものとを、好みや使用環境に応じて選択的に使い分けることが可能となる。
また、本実施形態においては、ペン入力機能が使用されるときの動作モードとしてソフトキー・モードが設定されているとき、制御部51がLCM31の表示画面31aに複数の操作ボタンから構成されるソフトキー501を表示させるものについて説明した。しかし、ソフトキー・モードにおいては、複数段階の操作位置が仮想的に設けられているものであれば、制御部51が単一の操作ボタンを表示画面31aに表示させる構成としてもよい。
また、本実施形態においては、ソフトキー501の一例として、複数の操作ボタンに五十音の各行の文字と、句点や読点等の複数の記号とが割り当てられているものを示した。しかし、ソフトキー501は、例えば各々の操作ボタンにアルファベットの各文字をグループ分けして割り当てたものとしてもよいし、アラビア数字やローマ数字を複数グループ分けして割り当てたものとしてもよい。
また、制御部51がLCM31の表示画面31aに表示させるソフトキー501や単一の操作ボタンには、各段階の操作位置に対応して予め割り当てられている情報であれば、文字情報以外の他の情報を表示させてもよい。
また、本実施形態においては、ペン入力機能が使用されるときの動作モードとして線画モードが設定されているとき、制御部51がLCM31の表示画面31aに表示させる線画が、視線を表示画面31aと平行で、かつ表示画面31aの縦方向(y軸方向)と一致させて観察している状態におけるスタイラスペン70の先端部の軌跡を表す線Kとした。しかし、線画モードにおいて制御部51がLCM31の表示画面31aに表示させる線画は、例えばスタイラスペン70の先端部の軌跡を、先端部の移動範囲を斜め上方から観察した状態のものとしても構わない。
さらに、制御部51がLCM31の表示画面31aに表示させる線画は単一でなくともよい。すなわち、例えばLCM31の表示画面31aには、スタイラスペン70の先端部の軌跡をx軸方向から観察した状態の線画と、y軸方向から観察した状態の線画と、z軸方向から観察した状態の線画の3種類の線画を同時に表示させてもよい。
また、本実施形態においては、携帯情報端末1にペン入力機能を使用するための動作モードとして、ソフトキー・モードと毛筆モードと線画モードとの3種類の動作モードが予め用意されている場合について説明した。しかし、携帯情報端末1には、3種類の動作モード以外にも他の動作モードを設けてもよい。
他の動作モードとしては、例えば制御部51が、表示画面31aに表示中のソフトキー501とは異なる他の画像等を、表示画面31aに対する指示位置(指示位置情報)に応じて制御する動作モードや、制御部51が、表示画面31aに、表示画面31aに対する指示位置(指示位置情報)に応じて、線画とは別の任意の情報(画像情報や文字情報)を新たに表示させる動作モードである。
また、上記の他の動作モードにおいては、制御部51に、表示画面31aに表示中の画像等を制御したり、表示画面31aに任意の情報を新たに表示させたりする処理を、スタイラスペン70における指示音の発信周期に応じた一定の時間間隔で指示位置情報を連続して取得している期間内に行わせてもよいし、指示位置情報を取得した任意の時点で行わせてもよい。
また、本実施形態においては、本発明の指示位置検出装置としての構成、及び本発明の表示装置としての構成を備えるとともに、スタイラスペン70を用いた文字や線画の入力を可能としたペン入力機能を有する携帯情報端末1について説明した。しかし、本発明の指示位置検出装置および表示装置は、携帯情報端末1に限らず他の装置にも組み込むことができる。
また、いうまでもなく、本発明において検出する指示位置、すなわち3次元空間内における指示音の発信位置を示す座標位置(x,y,z)は、本実施形態で説明したLCM31が有する表示画面に対する指示位置に限定されるものではなく、LCM1以外のCRT等の他の表示機器が有する表示画面における任意の指示位置であっても構わない。
1 携帯情報端末
3 表示部
6A 第1のマイクロフォン
6B 第2のマイクロフォン
6C 第3のマイクロフォン
6D 第4のマイクロフォン
31 LCM
31a 表示画面
43a 表示窓
51 制御部
52 ROM
70 スタイラスペン
72 プッシュスイッチ
101,102 第1の双曲面
201,202 第2の双曲面
301,302 第3の双曲面
L 直線
M 直線
P 指示位置
Q 中心

Claims (28)

  1. 表示画面に対する指示位置を検出する指示位置検出装置であって、
    前記表示画面の外周部に互いに離間して配置され三組のマイクロフォンを構成するとともに、前記表示画面の上方における任意の位置から発信された指示音を検出する複数のマイクロフォンと、
    前記三組のマイクロフォンの各組のマイクロフォン間における前記指示音の到達時間差をそれぞれ取得する時差取得手段と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を前記時差取得手段により取得された各組のマイクロフォン間における到達時間差に基づき取得する位置情報取得手段と
    を備えたことを特徴とする指示位置検出装置。
  2. 前記位置情報取得手段は、前記指示音の3次元空間における発信位置を示す位置情報として、前記到達時間差により表される各組のマイクロフォンにおける前記指示音の発信位置までの距離差によりそれぞれ特定される、第1の組のマイクロフォンをそれぞれ焦点とする第1の双曲面と、第2の組のマイクロフォンをそれぞれ焦点とする第2の双曲面と、第3の組のマイクロフォンをそれぞれ焦点とする第3の双曲面との交点に相当する特定位置を示す位置情報を取得することを特徴とする請求項1記載の指示位置検出装置。
  3. 前記位置情報取得手段は、3次元空間における点を示す座標値を未知数とし、かつ前記座標値に前記第1の双曲面と前記第2の双曲面と前記第3の双曲面との交点を示す座標値を代入したとき特定の値が得られる方程式を判別式として用いるとともに、当該判別式における未知数である座標値に前記表示画面の上方の予め決められた範囲内での3次元空間の各点を示す座標値を代入したとき前記特定の値に最も近い値が得られる座標値を、前記指示音の3次元空間における発信位置を示す位置情報として取得することを特徴とする請求項2記載の指示位置検出装置。
  4. 各組のマイクロフォンは、前記表示画面の外周部に、前記表示画面を挟むように配置されたことを特徴とする請求項1又は2,3記載の指示位置検出装置。
  5. 前記複数のマイクロフォンの1又は複数が、互いに異なる二組のマイクロフォンを構成することを特徴とする請求項1乃至4いずれか記載の指示位置検出装置。
  6. 前記三組のマイクロフォンのうちの一組のマイクロフォンは、他の二組のマイクロフォンの各々における一方側のマイクロフォンにより構成されることを特徴とする請求項5記載の指示位置検出装置。
  7. 前記複数のマイクロフォンは、前記表示画面に平行な同一平面上に配置されたことを特徴とする請求項1乃至6いずれか記載の指示位置検出装置。
  8. 前記他の二組のマイクロフォンの一方側の組のマイクロフォンと他方側の組のマイクロフォンとは、直交する2つの直線の一方側の直線上と他方側の直線上とにそれぞれ組をなして配置された
    ことを特徴とする請求項6又は7記載の指示位置検出装置。
  9. 前記2つの直線は、前記表示画面の中心を通る軸上において直交することを特徴とする請求項8記載の指示位置検出装置。
  10. 前記表示画面は矩形であり、
    前記他の二組のマイクロフォンの一方側の組のマイクロフォンと他方側の組のマイクロフォンとは、前記表示画面の一方の対角線を含む一方の直線上と他方の対角線を含む他方の直線上とにそれぞれ組をなして配置されたことを特徴とする請求項6又は7記載の指示位置検出装置。
  11. 前記時差取得手段に、前記三組のマイクロフォンの各組のマイクロフォンの組合せを第1の組合せとして三組のマイクロフォンの各組における指示音の到達時間差をそれぞれ取得させるとともに、前記位置情報取得手段に、前記時差取得手段に取得された第1の組合せからなる三組のマイクロフォンの各組における指示音の到達時間差に基づいて、3次元空間における前記指示音の発信位置を示す位置情報を前記表示画面に対する指示位置を示す第1の指示位置情報として取得させる一方、前記三組のマイクロフォンの各組のマイクロフォンの組合せを前記第1の組合せと異なる第2の組合せ三組のマイクロフォンの各組における指示音の到達時間差をそれぞれ取得させるとともに、前記位置情報取得手段に、前記時差取得手段に取得された第2の組合せからなる三組のマイクロフォンの各組における指示音の到達時間差に基づいて、3次元空間における前記指示音の発信位置を示す位置情報を前記表示画面に対する指示位置を示す第2の指示位置情報として取得させ位置取得制御手段と、
    前記位置情報取得手段に取得された第1の指示位置情報を、前記位置情報取得手段により取得された第2の指示位置情報により補正し、補正後の第3の指示位置情報を、前記表示画面に対する指示位置を示す最終的な指示位置情報として取得する補正手段と
    を備えたことを特徴とする請求項1乃至10いずれか記載の指示位置検出装置。
  12. 表示画面に対する指示位置を検出する指示位置方法であって、
    前記表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する工程と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する工程と
    を含むことを特徴とする指示位置検出方法。
  13. コンピュータに、
    前記表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する処理と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する処理と
    を実行させることを特徴とするプログラム。
  14. 表示手段と、
    前記表示手段が有する表示画面の外周部に互いに離間して配置され三組のマイクロフォンを構成するとともに、前記表示画面の上方における任意の位置から発信された指示音を検出する複数のマイクロフォンと、
    前記三組のマイクロフォンの各組のマイクロフォン間における前記指示音の到達時間差をそれぞれ取得する時差取得手段と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を前記時差取得手段により取得された各組のマイクロフォン間における到達時間差に基づき取得する位置情報取得手段と
    前記位置情報取得手段により取得された指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する表示制御手段と
    を備えたことを特徴とする表示装置。
  15. 前記複数のマイクロフォンは、前記表示画面の上方における任意の位置から発信された指示音であって、一定の時間間隔で発信される各回の指示音を検出し、
    前記位置情報取得手段は、前記表示画面に対する指示位置を示す指示位置情報を、前記複数のマイクロフォンにより各回の指示音が検出される毎に取得し、
    前記表示制御手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記指示位置情報に基づいて前記表示手段が表示画面に表示する表示内容を制御する
    ことを特徴とする請求項14記載の表示装置。
  16. 前記表示制御手段は、前記指示位置情報に基づいて、前記表示手段が表示画面に表示中の表示内容を制御することを特徴とする請求項14又は15記載の表示装置。
  17. 前記指示位置情報は、前記表示画面に直交する軸をz軸とする空間の直交座標系の位置情報であり、
    前記表示手段が表示画面に表示中の表示内容には、操作ボタン、及び当該操作ボタンに仮想的に設けられているz軸方向の複数段階の操作位置に対応して予め割り当てられている情報が含まれ、
    前記表示制御手段は、前記表示手段が表示画面に表示中の前記操作ボタンの操作位置に対応して予め割り当てられている情報を、前記指示位置情報に含まれるz軸方向の位置情報に基づき制御する
    ことを特徴とする請求項16記載の表示装置。
  18. 前記表示手段が表示画面に表示中の表示内容には、複数の前記操作ボタン、及び複数の操作ボタンのうちで現在選択中の操作ボタンを表す情報が含まれ、
    前記表示制御手段は、現在選択中の操作ボタンを表す情報を、前記指示位置情報に含まれるx軸方向とy軸方向との少なくともいずれか一方の位置情報に基づいて制御する
    ことを特徴とする請求項17記載の表示装置。
  19. 前記表示手段が表示画面に表示中の、前記操作ボタンの操作位置に対応して予め割り当てられている情報は文字情報であることを特徴とする請求項17又は18記載の表示装置。
  20. 前記表示制御手段は、前記指示位置情報に基づき特定の情報を前記表示手段に新たに表示させることを特徴とする請求項14又は15記載の表示装置。
  21. 前記表示制御手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記位置情報取得手段により取得される各々の指示位置情報により示される指示位置の移動軌跡に対応する線画を前記表示手段に表示させることを特徴とする請求項15記載の表示装置。
  22. 前記指示位置情報は、前記表示画面に直交する軸をz軸とする空間の直交座標系の位置情報であり、
    前記表示制御手段は、前記各々の指示位置情報に含まれるx軸方向及びy軸方向の位置情報により示される指示位置の移動軌跡に対応する線画を前記表示手段に表示させるとともに、当該線画における指示位置に対応する各部の太さを前記各々の指示位置情報に含まれるz軸方向の位置情報に基づき制御する
    ことを特徴とする請求項21記載の表示装置。
  23. 前記表示制御手段は、前記各々の指示位置情報により示される指示位置の移動軌跡に対応する線画であって、特定の方向から移動軌跡を観察した状態の線画を前記表示手段に表示させることを特徴とする請求項21記載の表示装置。
  24. 前記指示位置情報は、前記表示画面に直交する軸をz軸とする空間の直交座標系の位置情報であり、
    前記表示制御手段は、前記各々の指示位置情報により示される指示位置の移動軌跡に対応する線画であって、視線がy軸に平行する方向から移動軌跡を観察した状態の線画を前記表示手段に表示させる
    ことを特徴とする請求項23記載の表示装置。
  25. 表示手段が有する表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する工程と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する工程と
    取得した指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する工程と
    を含むことを特徴とする表示制御方法。
  26. コンピュータに、
    表示手段が有する表示画面の外周部に互いに離間して配置された複数のマイクロフォンにより構成される三組のマイクロフォンの各組のマイクロフォン間における、前記表示画面の上方における任意の位置から発信された指示音の到達時間差をそれぞれ取得する処理と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を、前記取得した各組のマイクロフォン間における到達時間差に基づいて取得する処理と
    取得した指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する処理と
    を実行させることを特徴とするプログラム。
  27. 情報入力機能を備えた携帯情報端末において、
    表示手段と、
    前記表示手段が有する表示画面の外周部に互いに離間して配置され三組のマイクロフォンを構成するとともに、前記表示画面の上方における任意の位置から発信された指示音を検出する複数のマイクロフォンと、
    前記三組のマイクロフォンの各組のマイクロフォン間における前記指示音の到達時間差をそれぞれ取得する時差取得手段と、
    前記表示画面に対する指示位置を示す指示位置情報として、前記指示音の3次元空間における発信位置を示す位置情報を前記時差取得手段により取得された各組のマイクロフォン間における到達時間差に基づき取得する位置情報取得手段と
    前記位置情報取得手段により取得された指示位置情報に基づいた情報入力処理を行う入力処理手段と、
    前記入力処理手段による情報入力処理に際し、前記位置情報取得手段により取得された指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する表示制御手段と
    を備えたことを特徴とする携帯情報端末。
  28. 前記複数のマイクロフォンは、前記表示画面の上方における任意の位置から発信された指示音であって、一定の時間間隔で発信される各回の指示音を検出し、
    前記位置情報取得手段は、前記表示画面に対する指示位置を示す指示位置情報を、前記複数のマイクロフォンにより各回の指示音が検出される毎に取得し、
    前記入力処理手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記位置情報取得手段により取得される各々の指示位置情報に基づいた情報入力処理を行い、
    前記表示制御手段は、前記位置情報取得手段によって指示位置情報が前記一定の時間間隔で連続して取得されている間に、前記位置情報取得手段により取得される各々の指示位置情報に基づいて、前記表示手段が表示画面に表示する表示内容を制御する
    ことを特徴とする請求項27記載の携帯情報端末。
JP2009254511A 2009-10-16 2009-11-06 指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム Expired - Fee Related JP5024355B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2009254511A JP5024355B2 (ja) 2009-11-06 2009-11-06 指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム
US12/902,333 US8488413B2 (en) 2009-10-16 2010-10-12 Indicated position detecting apparatus and indicated position detecting method
TW099135043A TWI448931B (zh) 2009-10-16 2010-10-14 指示位置檢測裝置及指示位置檢測方法
KR1020100100158A KR101214346B1 (ko) 2009-10-16 2010-10-14 지시위치 검출장치 및 지시위치 검출방법
CN201010511717.4A CN102043529B (zh) 2009-10-16 2010-10-15 指示位置检测装置及指示位置检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009254511A JP5024355B2 (ja) 2009-11-06 2009-11-06 指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム

Publications (2)

Publication Number Publication Date
JP2011100301A true JP2011100301A (ja) 2011-05-19
JP5024355B2 JP5024355B2 (ja) 2012-09-12

Family

ID=44191423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009254511A Expired - Fee Related JP5024355B2 (ja) 2009-10-16 2009-11-06 指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム

Country Status (1)

Country Link
JP (1) JP5024355B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014167653A (ja) * 2014-05-22 2014-09-11 Dainippon Printing Co Ltd 画像表示装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0438510A (ja) * 1990-06-05 1992-02-07 Canon Inc 超音波座標入力装置
JPH0540570A (ja) * 1991-08-05 1993-02-19 Canon Inc 座標入力装置
JPH086703A (ja) * 1994-06-22 1996-01-12 Hitachi Ltd 遠隔入力装置
JP2001125736A (ja) * 1999-10-29 2001-05-11 Seiko Epson Corp 画像表示装置、プレーゼンテーションシステム及び情報記憶媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0438510A (ja) * 1990-06-05 1992-02-07 Canon Inc 超音波座標入力装置
JPH0540570A (ja) * 1991-08-05 1993-02-19 Canon Inc 座標入力装置
JPH086703A (ja) * 1994-06-22 1996-01-12 Hitachi Ltd 遠隔入力装置
JP2001125736A (ja) * 1999-10-29 2001-05-11 Seiko Epson Corp 画像表示装置、プレーゼンテーションシステム及び情報記憶媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014167653A (ja) * 2014-05-22 2014-09-11 Dainippon Printing Co Ltd 画像表示装置

Also Published As

Publication number Publication date
JP5024355B2 (ja) 2012-09-12

Similar Documents

Publication Publication Date Title
KR101214346B1 (ko) 지시위치 검출장치 및 지시위치 검출방법
JP4042065B1 (ja) 情報処理装置への入力処理システム
WO2014061626A1 (ja) タッチパネル式入力装置、その制御方法、および、プログラム
JP2008152756A (ja) 印刷制御システムおよび印刷方法
JP2010079834A (ja) 座標検出装置の取り付け位置判断装置及び電子ボードシステム
JP3151886U (ja) 情報処理システム
JP5652711B2 (ja) タッチパネル装置
JP2006252093A (ja) 力覚式タッチパネルを具備したインターフェイス装置
JP2000112636A (ja) かな文字入力装置
JP2011013872A (ja) 情報処理システム及びそのプログラム
JP5024355B2 (ja) 指示位置検出装置及び指示位置検出方法と、表示装置及びその表示制御方法と、携帯情報端末、プログラム
US20150009136A1 (en) Operation input device and input operation processing method
JP2011081738A (ja) 情報処理システム及びそのプログラム
US20210157419A1 (en) Interface device and on-panel pad
JP2014134571A (ja) コンピュータ装置、再生システム、及びプログラム
JP5736005B2 (ja) 入力処理装置、情報処理装置、情報処理システム、入力処理方法、情報処理方法、入力処理プログラム、及び情報処理プログラム
TWI448931B (zh) 指示位置檢測裝置及指示位置檢測方法
JP6412996B1 (ja) タッチパッド入力補助装置
JP5157973B2 (ja) 投影型入出力システム及びそのプログラム
JP5413315B2 (ja) 情報処理システム及び表示処理プログラム
JP2012022430A (ja) 情報処理システム及びそのプログラム
JP2014142854A (ja) コンピュータ装置、電子ペンシステム、及びプログラム
JP2013073310A (ja) コンピュータ装置及びプログラム
JP6160082B2 (ja) コンピュータ装置、評価システム、及びプログラム
JP5831091B2 (ja) コンピュータ装置及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110915

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120604

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150629

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees