しかしながら、特許文献2乃至4に記載の手書き文字を入力するシステムの何れにおいても、スムーズな文字入力を実行させるためのシステムとしては構築されていない。
例えば、特許文献2には、傾斜された文字記入領域に文字を記入させる構成を有する情報処理システムが記載されているものの、文字記入領域の傾きを制御する傾き制御に関する記載はない。したがって、この情報処理システムにあっては、文字記入領域に対するユーザの位置を判定して文字記入領域の傾きを制御してはおらず、スムーズな文字入力を実行させる一連のシステムとしては提供されていない。
また、特許文献3に記載のナビゲーション装置にあっては、ユーザの所定の記入動作に基づいてユーザの操作位置を判定し、この判定されたユーザの操作位置に基づいて文字記入領域を水平位置から所定の角度に傾けているものの、ユーザが使用する文字を記入するための電子ペンその他のデバイスの記入画面に対する傾きなど、入力デバイスと記入画面との関係性に基づいて文字記入領域を制御していない。特に、このナビゲーション装置であっては、文字を入力する前に文字記入領域を傾けるための操作をユーザに要求しており、この操作が煩雑でスムーズな文字入力の実行を妨げている。
一方、特許文献4に記載の情報処理システムにあっては、そもそも、文字の入力位置を補助し、かつ、文字認識処理などの処理負担を軽減するための文字記入領域を表示させる機能が無く、文字が記入される位置が固定されていないので、文字記入領域を制御させる概念そのものがない。
本発明は、上記課題を解決するためになされたものであり、その目的は、文字入力をスムーズに実行させることができるとともに、このスムーズな文字入力を実現するために煩雑なユーザ操作を要求すること無くその操作性を向上させた情報処理システム及び表示処理プログラムを提供することにある。
(1)上記課題を解決するため、本発明の情報処理システムは、ユーザによる操作に基づいて位置座標を示すコード化パターンが形成されたスクリーン上を移動した際に、前記コード化パターンを移動経路に沿って読み取る読取手段と、前記読取手段によって読み取ったコード化パターンのデータに基づいて、前記読取手段の移動経路の座標を算出する算出手段と、前記読取手段によって読み取ったコード化パターンのデータに基づいて、前記スクリーン上に形成されたコード化パターンの形成面に対する前記読取手段の傾斜角度を検出する検出手段と、前記算出された移動経路の座標に基づいて形成される当該移動経路の形状を、画像として前記スクリーンに投影する投影手段に出力する投影出力手段と、前記スクリーン上に投影される画像の一部に形成される領域であって前記移動経路の形状を文字として処理するための文字記入領域を、前記検出された読取手段の傾斜角度に基づいて傾ける文字記入領域制御手段と、を備える構成を有している。
通常、ユーザがスクリーン又は表示装置に所定のデバイス(読取手段)を用いて文字を記入した場合に、立ち位置又は座り位置などユーザの操作位置が記入箇所に対して正面に位置していないと、ユーザの操作位置の方向にデバイスが傾くことになる。例えば、ユーザの操作位置が文字記入領域などの記入箇所に対して右にずれている場合には、記入に用いるデバイスは右に傾くとともに、当該ユーザの記入箇所に対する操作位置が記入箇所に対して左にずれている場合には、デバイスは左に傾くことになる。また、ユーザの記入箇所に対する操作位置が当該記入箇所の正面の位置から外れた場合に、例えば、操作位置が記入箇所に対して上下左右に外れた場合に、スクリーン又は表示装置の画面に対して水平を維持しつつ各文字及び文字列を記入することは難しくなる。その一方、このような場合に、ユーザが文字又は文字列を所定の方向に傾けて文字又は文字列を斜めに記入すれば、ユーザは、その文字及び文字列の記入をスムーズに実行することができる。
本発明の情報処理システムは、上記構成により、コード化パターンが形成されているスクリーン上の形成面に対する読取手段の傾斜角度を検出するので、ユーザが記入しているスクリーン上の記入箇所に対するユーザの操作位置を判断することができるとともに、この判断したユーザの操作位置に基づいて文字記入領域を傾けることができる。したがって、本発明は、文字及び文字列の入力をスムーズに実行させる方向に文字記入領域を傾けることによって、ユーザにおけるスムーズな文字及び文字列の入力を実現させることができるとともに、煩雑な操作をユーザに要求すること無くその操作性を向上させることができる。
(2)上記課題を解決するため、本発明の情報処理システムは、ユーザによる操作に基づいて位置座標を示すコード化パターンが形成された光透過シート上を移動した際に、前記コード化パターンを移動経路に沿って読み取る読取手段と、前記読取手段によって読み取ったコード化パターンのデータに基づいて、前記読取手段の移動経路の座標を算出する算出手段と、前記読取手段によって読み取ったコード化パターンのデータに基づいて、前記光透過シート上に形成されたコード化パターンの形成面に対する前記読取手段の傾斜角度を検出する検出手段と、前記算出された移動経路の座標に基づいて当該移動経路の形状を、画像として前記光透過性シートの背面から、当該光透過性シートの前面から視覚可能に表示する表示手段に出力する表示出力手段と、前記光透過シート上に表示される画像の一部に形成される領域であって前記移動経路の形状を文字として処理するための文字記入領域を、前記検出された読取手段の傾斜角度に基づいて傾ける文字記入領域制御手段と、を備える構成を有している。
この構成により、本発明の情報処理システムは、上記構成により、コード化パターンが形成されているスクリーン上の形成面に対する読取手段の傾斜角度を検出するので、ユーザが記入しているスクリーン上の記入箇所に対するユーザの操作位置を判断することができるとともに、この判断したユーザの操作位置に基づいて文字記入領域を傾けることができる。したがって、本発明は、文字及び文字列の入力をスムーズに実行させる方向に文字記入領域を傾けることによって、ユーザにおけるスムーズな文字及び文字列の入力を実現させることができるとともに、煩雑な操作をユーザに要求すること無くその操作性を向上させることができる。
(3)上記情報処理システムにおいて、前記文字記入領域制御手段は、前記文字記入領域内に形成される前記読取手段の移動経路によって検出された前記読取手段の傾斜角度に基づいて、当該文字記入領域を傾ける構成とするとよい。
この構成により、本発明の情報処理システムは、実際に文字として記入された移動経路における読取手段の傾斜角度に基づいてユーザの操作位置を判断して文字記入領域を傾けることができるので、文字を記入しているときのユーザの操作位置を確実に判断することができるとともに、ユーザが文字入力をスムーズに実行することができるように文字記入領域を確実に傾けることができる。
(4)また、上記情報処理システムにおいて、前記文字記入領域制御手段は、前記検出された読取手段の傾斜角度に基づいて前記予め定められた角度に前記文字記入領域を傾ける構成とするとよい。
この構成により、本発明の情報処理システムは、予め文字記入領域の傾ける角度を設定することによって、ユーザの文字が記入されたときにユーザが文字記入領域を傾ける角度を設定することなくこの文字記入領域を傾けることができるので、煩雑な操作をユーザに要求すること無く、ユーザが文字入力をスムーズに実行することができるように文字記入領域を確実に傾けることができる。
(5)また、上記情報処理システムにおいて、前記読取手段は、前記スクリーンまたは前記光透過シートに形成されたコード化パターンを撮像して撮像画像を画像データ化し、当該画像データを解析してコード化パターンのデータを取得するとともに、前記検出手段は、前記撮像画像上に形成されるコード化パターンの状態に基づいて前記スクリーン上又は前記光透過シート上に形成されたコード化パターンの形成面に対する前記読取手段の傾斜角度を検出する構成とするとよい。
この構成により、本発明の情報処理システムは、新たなデータを取得する必要が無く、コード化パターンをデータとして取得する際に用いる画像データに基づいて読取手段の傾斜角度を検出することができるので、簡易な構成によって当該読取手段の傾きの方向を検出することができる。
(6)また、上記情報処理システムにおいて、前記検出手段は、前記検出した読取手段の傾斜角度に基づいて当該読取手段の傾き方向を検出し、前記文字記入領域制御手段は、前記検出された読取手段の傾き方向に基づいて前記文字記入領域を傾ける構成とするとよい。
一般的に、ユーザによって文字が記入されるときには、文字の記入に用いられるデバイスは、ユーザの操作位置に無関係にそれを保持している利き手の方向に傾いている。したがって、本発明に係る読取手段であっても文字の記入を行うので、このようなデバイスと同様に、読取手段は、スクリーン又は表示装置に対して文字記入領域の正面の位置から文字を記入したとしても読取手段を保持する利き手方向にすでに傾いている。
この構成により、本発明の情報処理システムは、傾斜角度に基づいて読取手段の傾き方向を検出することにより、ユーザが記入しているスクリーン上または光透過シート上の記入箇所に対するユーザの操作位置をより的確に判断することができるとともに、当該判断したユーザの操作位置に基づいてユーザの文字入力をスムーズに実行させることが可能な方向に文字記入領域を的確に傾けることができる。
(7)また、上記情報処理システムにおいて、前記検出手段は、(a)予め定められた閾値を超える傾斜角度を検出した場合に前記読取手段が傾斜している方向を前記読取手段の傾き方向として判定すること、または(b)予め定められた閾値以下の傾斜角度を検出した場合に前記読取手段が傾斜している方向と反対の方向を前記読取手段の傾き方向として判定することの何れか一の判定を実行する構成とするとよい。
上記構成により、本発明の情報処理システムは、読取手段の傾きが検出された場合に、閾値と比較することによって、検出された角度によっては、読取手段の傾きの方向を当該読取手段が傾斜している方向と反対の方向として判定することができる。したがって、本発明は、ユーザの利き手をも考慮して読取手段の傾きの方向を判定することができるので、ユーザが文字入力をスムーズに実行することができる方向に文字記入領域を確実に傾けることができる。
(8)また、上記情報処理システムにおいて、前記検出手段によって検出された読取手段の傾斜角度に基づいて当該読取手段の傾き方向を判定する判定手段を更に備え、前記文字記入領域制御手段は、前記判定された読取手段の傾き方向に基づいて前記文字記入領域を傾ける構成としてもよい。
この構成により、本発明の情報処理システムは、傾斜角度を検出する検出手段と異なる手段によって読取手段の傾き方向を検出することができるので、例えば、コンピュータ装置のプログラム上において読取手段の傾き方向を検出することができる。したがって、本発明は、簡易にユーザの利き手を設定して的確に読取手段の傾きの方向を判定することができる。
(9)また、上記情報処理システムにおいて、前記判定手段は、(a)前記検出された傾斜角度が予め定められた閾値を超える場合に前記読取手段が傾斜している方向を前記読取手段の傾き方向として判定すること、または、(b)前記検出された傾斜角度が予め定められた閾値以下の場合に前記読取手段が傾斜している方向と反対の方向を前記読取手段の傾き方向として判定することの何れか一の判定を実行する構成としてもよい。
上記構成により、本発明の情報処理システムは、読取手段の傾きが検出された場合に、閾値と比較することによって、検出された角度によっては、読取手段の傾きの方向を当該読取手段が傾斜している方向と反対の方向として判定することができる。したがって、本発明は、ユーザの利き手をも考慮して読取手段の傾きの方向を判定することができるので、ユーザが文字入力をスムーズに実行することができる方向に文字記入領域を確実に傾けることができる。
(10)また、上記情報処理システムにおいて、前記文字記入領域は、前記検出された読取手段の傾き方向と前記スクリーンに投影された画像内又は前記光透過シートに表示された画像内に形成される前記文字記入領域の位置とに基づいて異なる方向に傾く構成とするのが好ましい。
ユーザの操作位置に対して上方、下方、左側又は右側など所定の位置に文字記入領域が形成されている場合には、ユーザに文字の記入をスムーズに実行させるために文字記入領域を傾ける方向は、形成されている位置によって異なる。
上記構成により、本発明の情報処理システムは、読取手段の傾きの方向と文字記入領域の位置とによって文字記入領域を異なる方向に傾けることができるので、スクリーン又は表示装置の画面の何れの位置に文字記入領域が形成されていたとしても、ユーザに文字入力をスムーズに実行させることができる方向に文字記入領域を確実に傾けることができる。
(11)また、上記情報処理システムにおいて、前記文字記入領域は、前記検出された読取手段の傾き方向と前記スクリーンに投影された画像内又は前記光透過シートに表示された画像内に形成される前記文字記入領域の位置とに基づいて異なる基準点によって傾く構成とするのが好ましい。
スクリーン上に投影される画像又は表示装置に表示される画像の四隅など、当該文字記入領域が形成される画像上の位置と当該文字記入領域を傾けるときに基準となる基準点によっては、文字記入領域をユーザの文字の記入がスムーズになる方向に傾けたとしても当該文字記入領域がスクリーンに投影された画像内又は光透過シートに表示された画像内に収まらないことがある。また、上述のように、ユーザの上方、下方、左側又は右側などの所定の位置に文字記入領域が形成されている場合には、ユーザが文字入力をスムーズに実行することが可能な文字記入領域を傾ける方向は異なる。
上記構成により、本発明の情報処理システムは、文字記入領域を異なる基準点によって傾けることができるので、画像上の何れの位置に文字記入領域が形成されていても、ユーザに文字入力をスムーズに実行させることができる方向に文字記入領域を確実に傾けることができるとともに、傾けた文字記入領域を画像内に確実に表示することができる。
(12)また、上記情報処理システムにおいて、前記スクリーン又は光透過シートに形成された前記コード化パターンの配列方向を認識する認識手段を更に備え、
前記文字記入領域制御手段は、前記認識されたコード化パターンの配列方向と前記検出された読取手段の傾き方向とに基づいて、前記ユーザが前記読取手段を移動させたときの前記移動経路に対する前記ユーザの操作位置を判定し、前記判定されたユーザの操作位置に基づいて前記文字記入領域を傾ける構成とするとよい。
この構成により、本発明の情報処理システムは、スクリーン上又は光透過シート上に形成されたコード化パターンの上下左右が反対に設置されるなど当該コード化パターンの配列方向が異なる方向によって設置されたとしても、当該配列方向をその設置後に認識して文字記入領域を制御することができるので、読取手段の傾きの方向を誤検出することなく確実に検出することができる。
(13)また、上記情報処理システムにおいて、前記文字記入領域内の前記移動経路の形状に基づいて文字認識を実行する文字認識処理手段を更に備え、前記文字認識処理手段は、前記文字記入領域が傾いている場合には、当該文字記入領域の傾き角度に基づいて、前記読取手段の移動経路を傾く前の文字記入領域に相当する移動経路に変換して前記文字認識を実行する構成することが好ましい。
この構成により、本発明の情報処理システムは、文字記入領域の傾き角度に基づいて、読取手段の移動経路を、傾く前の文字記入領域に対応する移動経路に変換することができるので、記入された各文字における傾きが生じていない状態によって文字列の認識処理を実行することができる。したがって、文字認識の精度を向上させることができる。
(14)また、上記情報処理システムにおいて、前記スクリーンに投影される画像と同一の画像が表示される表示手段の表示制御を行う表示制御手段と、前記算出手段によって算出された座標を、前記表示手段の表示画面の座標に変換する座標変換手段と、を更に備え、前記文字記入領域制御手段は、前記座標変換手段によって変換された座標に基づいて、前記文字記入領域を傾ける構成とするとよい。
この構成により、本発明の情報処理システムは、算出手段によって算出された座標が座標変換手段によって表示手段の表示画面の座標に変換されたうえで、文字記入領域を傾けるので、スクリーンと表示手段の表示画面の異なる座標系を用いても文字記入領域の傾きのための処理を確実に実行することができる。
(15)また、上記情報処理システムにおいて、前記算出手段によって算出された座標を、前記表示手段の表示画面の座標に変換する座標変換手段を更に備え、前記文字記入領域制御手段は、前記座標変換手段によって変換された座標に基づいて、前記文字記入領域を傾ける構成とするとよい。
この構成により、本発明の情報処理システムは、算出手段によって算出された座標が座標変換手段によって表示手段の表示画面の座標に変換されたうえで、文字記入領域を傾けることができるので、表示手段の表示画面における座標系を基に、文字記入領域を傾けることができる。
(16)上記課題を解決するため、位置座標を示すコード化パターンを読み取るとともに移動経路の座標を算出する電子ペンが、ユーザによる操作に基づいて当該コード化パターンが形成されたスクリーン上を移動した際に、当該電子ペンの移動経路を示す形状を当該スクリーンに表示するための情報処理を行うコンピュータにより実行される表示処理プログラムであって、前記電子ペンによって読み取ったコード化パターンのデータに基づいて前記スクリーン上に形成されたコード化パターンの形成面に対する当該電子ペンの傾斜角度と前記算出された移動経路の座標とを受信する受信手段、前記算出された移動経路の座標に基づいて形成される当該移動経路の形状を、画像として前記スクリーンに投影する投影手段に出力する投影出力手段、前記スクリーン上に投影される画像の一部に形成される領域であって前記移動経路の形状を文字として処理するための文字記入領域を、前記検出された電子ペンの傾斜角度に基づいて傾ける文字記入領域制御手段、として機能させる構成を有している。
上記プログラムをコンピュータ装置にインストールすることにより、本発明に係る情報処理システムを構成させることができる。
(17)上記課題を解決するため、位置座標を示すコード化パターンを読み取るとともに移動経路の座標を算出する電子ペンが、ユーザによる操作に基づいて当該コード化パターンが形成された光透過シート上を移動した際に、当該電子ペンの移動経路を示す形状を当該光透過シートに表示するための情報処理を行うコンピュータにより実行される表示処理プログラムであって、前記電子ペンによって読み取ったコード化パターンのデータに基づいて前記光透過シート上に形成されたコード化パターンの形成面に対する当該電子ペンの傾斜角度と前記算出された移動経路の座標とを受信する受信手段、前記算出された移動経路の座標に基づいて当該移動経路の形状を、画像として前記光透過性シートの背面から、当該光透過性シートの前面から視覚可能に表示する表示手段に出力する表示出力手段、前記光透過シート上に表示される画像の一部に形成される領域であって前記移動経路の形状を文字として処理するための文字記入領域を、前記検出された電子ペンの傾斜角度に基づいて傾ける文字記入領域制御手段、として機能させる構成を有している。
上記プログラムをコンピュータ装置にインストールすることにより、本発明に係る情報処理システムを構成させることができる。
本発明は、上記構成により、コード化パターンが形成されているスクリーン上の形成面に対する読取手段の傾斜角度を検出するので、ユーザが記入しているスクリーン上の記入箇所に対するユーザの操作位置を判断することができるとともに、この判断したユーザの操作位置に基づいて文字記入領域を傾けることができる。したがって、本発明は、文字及び文字列の入力をスムーズに実行させる方向に文字記入領域を傾けることによって、ユーザにおけるスムーズな文字及び文字列の入力を実現させることができるとともに、煩雑な操作をユーザに要求すること無くその操作性を向上させることができる。
以下、本発明の各実施形態について、図面を参照しながら説明する。なお、以下に説明する実施形態は、ユーザによってスクリーンまたは光透過シート上に電子ペンを用いて記入された記入情報を、当該スクリーン上または光透過シートが形成された表示画面上に表示させる情報処理システムに、本発明の情報処理システム及び表示処理プログラムを適用した場合の実施形態である。
<第1実施形態>
はじめに、図1〜図12の各図を用いて第1実施形態に係る情報処理システム10について説明する。
[情報処理システムのシステム構成]
まず、情報処理システム10の構成について説明する。なお、図1は、情報処理システム10のシステム構成図である。
情報処理システム10は、図1に示すように、ユーザによって使用され、ユーザの手書きによりスクリーン4に記入された文字、記号または図形などのストローク(筆跡)STに応じて記入情報を生成する電子ペン1と、電子ペン1によって生成された記入情報を受信して所定の処理を実行するコンピュータ装置2と、コンピュータ装置2から出力された画像信号を受信し、コンピュータ装置2が有する表示手段26に表示される画像と同一の画像を同期してスクリーン4に投影するプロジェクタ3とから構成される。
なお、電子ペン1は、本発明の読取手段、算出手段及び検出手段を構成し、コンピュータ装置2は、本発明の投影出力手段、文字記入領域制御手段、認識手段、文字認識処理手段、表示制御手段及び座標変換手段を構成する。また、プロジェクタ3は、本発明の投影手段を構成する。
[スクリーン]
次に、本実施形態におけるスクリーン4について説明する。
スクリーン4は、電子ペン1に十分に筆圧がかかる程度に硬いマグネット板401と、後述するドットパターン(コード化パターン)が印刷により全面に形成された用紙402とから構成される。特に、用紙402は、マグネット板401の前面に、上から図示しないマグネットによって押さえ付けることによって、または、糊、粘着剤等で貼りつけることによって固定されている。なお、マグネット板401の代わりにホワイトボード、パーティションボード又は部屋の壁面等を利用してもよい。また、用紙402の代わりに、ドットパターンが印刷されたシートでもよく、又は、スクリーン4にドットパターンが直接形成されていてもよい。
[ドットパターン]
次に、図2及び図3を用いて本実施形態におけるスクリーン4の用紙402に印刷されているアノト方式のドットパターン(コード化パターン)について説明する。なお、図2は、用紙402に印刷されたドットパターンのドットとそのドットが変換される値との関係を説明する図であり、図3は、ドットパターンの配列とそのドットパターンの配列が変換された情報を示す例である。
図2に示すように、ドットパターンの各ドットは、その位置によって所定の値に対応付けられている。すなわち、ドットの位置を仮想格子Zの基準位置(仮想格子線の縦線及び横線の交差点)から上下左右のどの方向にシフトするかによって、各ドットは、0〜3の値に対応付けられている。また、各ドットの値は、さらに、X座標用の第1ビット値及びY座標用の第2ビット値に変換できるので、このようにして対応付けられた情報の組合せにより、スクリーン4上の位置座標が決定されるよう構成されている。なお、ドットパターンは、赤外線を吸収するカーボンを含有するインクによって印刷されている。また、ドットの値、すなわち、ドットの位置を判別するための基準となる仮想格子Zは、ドットパターンとともにスクリーン4上(具体的には、用紙402上)に形成されているわけでなく、後述するように、電子ペン1のプロセッサ108においてドットパターンをデータとして読み取るときに(データ配列に変換するときに)撮像した画像上に生成されるものである。
図3(a)は、ある位置のドットパターンの配列を示している。図3(a)に示すように、縦横約2mmにおける範囲内に6×6の36個のドット(以下、「6×6ドット」という。)が、スクリーン4上のどの部分から6×6ドットを取ってもユニークなパターンとなるように配置されている。これら36個のドットにより形成されるドットパターンは、スクリーン4上における相対的な位置座標を保持している。なお、図3(b)は、図3(a)に示す各ドットを、仮想格子Zの基準位置からのシフト方向によって、図2に示す規則性に基づいて対応づけられた値に変換したものである。この変換は、ドットパターンの画像を撮影する電子ペン1によって行われる。
[電子ペン]
次に、図4〜図6の各図を用いて本実施形態における電子ペン1の構造とその動作について説明する。なお、図4は、電子ペン1の構造を示す概略図であるとともに、その機能を示すブロック図であり、図5は、電子ペン1の傾きと仮想格子Zとの関係を説明するための図である。また、図6は、電子ペン1における傾き方向を検出する際の電子ペン1の傾斜角度と閾値との関係を説明するための図である。
電子ペン1は、プロジェクタ3により画像投影されるスクリーン4への、タップ(ペン先部103によるスクリーン4への軽叩)、文字、記号や図形などの記入に用いられる。また、ユーザによって電子ペン1を用いてスクリーン4上にタップされると、又は、文字、記号または図形が描かれると、電子ペン1は、ペン先部103のスクリーン4上の移動経路(以下、「筆跡」、「ストローク」ともいう。)に沿って、用紙402に印刷されたドットパターンを局所的、かつ、連続的に読み取る。そして、電子ペン1は、スクリーン4におけるその局所位置の座標を算出するとともに、その算出した位置座標データをコンピュータ装置2へ送信する。
具体的には、電子ペン1は、図4に示すように、その筐体101の内部に、ペン部104、LED105、CMOSカメラ106(読取手段)、圧力センサ107、CPU等により構成されるプロセッサ108(算出手段及び検出手段)、ROMやRAMといったメモリ109、リアルタイムクロック110、アンテナ等により構成される通信ユニット111及びバッテリー112を備える。
また、電子ペン1は、電子ペン1の傾きの方向(以下、「傾き方向」という。)を検出する際にユーザの利き手を設定するための利き手切り換えボタン113を有している。この利き手切り換えボタン113は、プロセッサ108における電子ペン1の傾き方向を検出する際に用いられる。また、この利き手切り換えボタン113は、押し下げ可能なボタンであり、通常状態(以下、「右手モード」という。)では右利き用に設定されるとともに、通常状態から一度押し下げられると、押し下げ位置でロックされ、左利き用(以下、「左手モード」という。)として設定される。なお、押し下げロックされている状態からもう一度ボタンが押し下げられると、当該ロックが解除され、通常状態に復帰する。
ペン部104の先端は、ペン先部103となっており、ペン先部103は、文字などの記入又はタップを行う際に、ユーザによってスクリーン4の用紙402に当接される。なお、電子ペン1によって、スクリーン4に記入された筆跡は、コンピュータ装置2の処理によりプロジェクタ3によって投影されるため、ペン部104には、インクが充填されていないものがよいが、消去可能なインクが充填されたものであってもよい。
バッテリー112は、電子ペン1内の各部材に電力を供給するためのものであり、例えば、電子ペン1のキャップ(図示せず)の脱着により電子ペン1自体の電源のオン/オフを行うように構成されている。リアルタイムクロック110は、現在時刻(タイムスタンプ)を示す時刻情報を発信し、プロセッサ108に供給する。圧力センサ107は、ユーザが電子ペン1によりスクリーン4に文字などを記入したりタップしたりする際に、ペン先部103からペン部104を通じて与えられる圧力、すなわち、筆圧を検出し、その値をプロセッサ108へ伝送する。
プロセッサ108は、圧力センサ107から与えられる筆圧データに基づいて、電子ペン1のペンダウン(スクリーン4に接触してストロークが書き出しされること)及びペンアップ(接触している状態からペン先部103が離れること)を判定してLED105及びCMOSカメラ106のスイッチのオン/オフを切り換える。すなわち、ユーザが電子ペン1によってスクリーン4に文字などを記入すると、ペン先部103に筆圧がかかり、圧力センサ107によって所定値以上の筆圧が検出されるので、プロセッサ108は、ユーザが記入を開始したと判定して、LED105及びCMOSカメラ106を作動させる。そして、ユーザがスクリーン4から電子ペン1を離すと、圧力センサ107によって所定値以上の筆圧の検出がされなくなるので、その際には、プロセッサ108は、ユーザが1つの筆跡の記入を終了したと判定して、LED105及びCMOSカメラ106の作動を終了させる。
LED105及びCMOSカメラ106は、電子ペン1のペン先部103付近に取り付けられており、筐体101におけるLED105及びCMOSカメラ106と対向する部分には、開口部102が形成されている。LED105は、スクリーン4上のペン先部103近傍に向けて赤外線を照射する。赤外線が照射される領域は、ペン先部103がスクリーン4に接触する位置とはわずかにずれるように構成されている。CMOSカメラ106は、LED105によって照明された領域内における上述したドットパターンを撮影し、そのドットパターンを撮像した画像(以下、「撮像画像」という。)を画像データとしてプロセッサ108に供給する。
上述のように、ドットパターンは、赤外線を吸収するカーボンを含有するインクによって印刷されているので、LED105によって照射された赤外線は、ドットの位置においては吸収される。その結果、ドットの部分は、赤外線の反射量が少なく、ドット以外の部分は赤外線の反射量が多くなる。このため、CMOSカメラ106の撮影により、赤外線の反射量の違いから閾値を設けることによって、カーボンを含むドットの領域とそれ以外の領域を区別することができる。なお、CMOSカメラ106による撮影領域は、図3(a)に示すような約2mm×約2mmの大きさを含む範囲であり、CMOSカメラ106の撮影は、ペンダウンからペンアップまでの間に、毎秒50〜100回程度の定間隔で行われる。
プロセッサ108は、ユーザによってスクリーン4に文字等が記入されている間に、すなわち、圧力センサ107から与えられる筆圧データに基づいてLED105及びCMOSカメラ106のスイッチがオンの状態(ペンダウンからペンアップまでの間)のときに、CMOSカメラ106によって供給される各画像データのドットパターン毎に、スクリーン4上におけるX、Y座標(以下、単に「位置座標」又は「座標データ」ともいう。)及びドットパターンアドレスを個々に演算していく。すなわち、プロセッサ108は、CMOSカメラ106によって供給される、図3(a)に示されるようなドットパターンの画像データを、図3(b)に示すデータ配列に変換し、さらに、X座標ビット値及びY座標ビット値に変換して、そのデータ配列から所定の演算方法によりX,Y座標データ及びドットパターンアドレスを演算する。
特に、プロセッサ108は、CMOSカメラ106から供給された各画像データを解析し、各ドットの大きさ及びそれらの分布など撮像画像上に形成された各ドットの遠近により生じたドットパターンの状態に基づいて、当該撮像画像上に仮想格子Zを形成するための各線(仮想格子線)を設定する。そして、プロセッサ108は、上述のように設定された仮想格子線、すなわち、仮想格子Zに対する各ドットの位置に基づいて各ドットの値を読み取り、この読み取ったデータによって図3(b)に示すデータ配列を取得する。また、プロセッサ108は、取得したデータ配列に基づいてX座標ビット値及びY座標ビット値に変換して、そのデータ配列から所定の演算方法によりX,Y座標データ及びドットパターンアドレスを演算する。なお、上述のように、スクリーン4における6×6のドットパターンは、スクリーン4内で重複することはないため、ユーザが電子ペン1で文字等を記入すると、記入された位置がスクリーン4のどの位置に当たるかを、プロセッサ108による座標演算により特定することができる。
一方、プロセッサ108は、画像データの画像上に形成されたドットパターンの状態に基づいて設定された仮想格子Zを解析し、仮想格子Zの形状及びドットパターンの配列によって、電子ペン1のスクリーン4に対する傾斜角度を検出する。すなわち、プロセッサ108は、ドットパターンの状態に基づいて電子ペン1のスクリーン4に対する傾斜角度を検出する。例えば、電子ペン1がスクリーン4に対して垂直に当接されて文字が記入された場合には、その文字の記入により撮像画像内に形成される各ドットの大きさ及びその分布は、ほぼ均等となる。プロセッサ108は、図5(c)に示すように、この撮像画像内において、分布したドットから仮想格子Zを設定し、仮想格子Zの各マス目が略同一の形状の正方形であることをもって、電子ペン1の傾斜角度を「0」度と検出する。また、電子ペン1がスクリーン4に対して垂直に当接されずに図5におけるX軸の値の大きい側(右側)の方向に傾いている状態により文字が記入された場合には、撮像されたドットパターンの遠近の関係から撮像画像内に形成されたX軸の値の大きい側(右側)のドットがX軸の値の小さい側(左側)のドットよりも小さくなるとともに、左側のドットの分布密度が右側のドットの分布密度より低くなる。したがって、この撮像画像内には、図5(a)及び(b)に示すように、右側のマス目が近くに左側のマス目が遠くになるように形成されるひずんだ仮想格子Zが設定される。この場合においては、プロセッサ108は、撮像画像上にドットパターンに基づいて設定される仮想格子Zの状態、すなわち、仮想格子Zのひずみ状態(ひずみの程度)に基づいてX軸の値の大きい側に傾いている電子ペン1の傾斜角度を検出する。さらに、電子ペン1がスクリーン4に対して垂直に当接されずに図5におけるX軸の値の小さい側(左側)の方向に傾いている状態により文字が記入された場合には、撮像されたドットパターンの遠近の関係から撮像画像内に形成されたX軸の値の小さい側(左側)のドットがX軸の値の大きい側(右側)のドットよりも小さくなるとともに右側のドットの分布密度が、左側のドットの分布密度より低くなる。したがって、この撮像画像内には、図5(d)及び(e)に示すように、左側のマス目が近くに右側のマス目が遠くになるように形成されたひずんだ仮想格子Zが設定される。この場合においては、プロセッサ108は、電子ペン1の傾きがX軸の値が小さい側に傾いていると判定するとともに、撮像画像上にドットパターンに基づいて設定される仮想格子Zの状態、すなわち、仮想格子Zのひずみ状態(ひずみの程度)に基づいて電子ペン1の傾斜角度を検出する。
なお、図5は、スクリーン4に対するペン先部103の最先端(「ペン先」ともいう。)Pの位置とCOMSカメラ106によって撮像された撮像画像内において、設定された仮想格子Zを示している。図5(a)及び(d)は、X軸の値の大きい側又は小さい側のそれぞれの方向において、COMSカメラ106が電子ペン1におけるX軸の値の大きい側に配置され、ペン先PがX軸の値の小さい側に配置されている場合を示している。また、図5(b)及び(e)は、それぞれの方向において、COMSカメラ106が電子ペン1におけるX軸の値の小さい側に配置され、ペン先PがX軸の値の小さい側に配置されている場合を示している。
他方、プロセッサ108は、算出された電子ペン1の傾斜角度αに基づいて、電子ペン1のX軸における傾き方向を検出する。この利き手切り換えボタン113が通常状態の場合には、すなわち、右利きモードの場合には、図6(a)に示すように、スクリーン4に対して電子ペン1が垂直にある場合を基準として(すなわち、「0」度として)、ユーザの右手側に所定の角度に閾値(例えば−15度)が設定され、プロセッサ108は、この閾値と検出された電子ペン1の傾斜角度αに基づいて電子ペン1のX軸に対する傾き方向を検出する。一般的に、ユーザによって文字が記入されるときには、文字の記入に用いられるペンその他の筆記具は、ユーザの操作位置に無関係にそれを保持している利き手の方向に傾いている。したがって、電子ペン1であっても文字の記入を行う関係上、スクリーン4に対して文字記入領域406の正面の位置から文字を記入したとしても電子ペン1を保持する利き手方向、すなわち、右利きなら右方向にすでに傾いている。そのため、電子ペン1における傾き方向を判定する際に、ユーザの利き手を考慮した閾値を設けておくと、より正確に傾き方向を判定することができる。具体的には、図6(a)に示すように、検出した傾斜角度αが「−T(閾値)」度<α<「90」度内に属する場合には、プロセッサ108は、電子ペン1の傾き方向を「X軸の値の小さい側」と判定し、検出した傾斜角度αが「−90」度<θ<「−T(閾値)」度内に属する場合には、プロセッサ108は、電子ペン1の傾き方向をX軸の値の大きい側と判定する。そして、検出した電子ペン1の傾斜角度が「−T(閾値)」と同一の場合には、プロセッサ108は、電子ペン1の傾き方向を「傾き無し」と判定する。
また、この利き手切り換えボタン113が左利きモードの場合には、図6(b)に示すように、スクリーン4に対して電子ペン1が垂直にある場合を基準として、ユーザの左手側に所定の角度に閾値(例えば15度)が設定され、プロセッサ108は、この閾値と検出された電子ペン1の傾斜角度αに基づいて電子ペン1のX軸に対する傾き方向を検出する。具体的には、図6(b)に示すように、検出した傾斜角度αが「T(閾値)」度<α<「90」度内に属する場合には、プロセッサ108は、電子ペン1の傾き方向を「X軸の値の小さい側」と判定し、検出した傾斜角度αが「−90」度<θ<「T(閾値)」度内に属する場合には、プロセッサ108は、電子ペン1の傾き方向をX軸の値の大きい側と判定する。そして、検出した電子ペン1の傾斜角度が「T(閾値)」と同一の場合には、プロセッサ108は、電子ペン1の傾き方向を「傾き無し」と判定する。
なお、プロセッサ108は、X軸を基準に電子ペン1の傾き方向を検出しているが、最終的にはコンピュータ装置2において座標変換の処理を実行する際に、検出された電子ペン1のX軸に対する傾き方向が修正されて電子ペン1が文字記入領域406に対して右に又は左に傾いているかが特定される。すなわち、後述するように、スクリーン4は、人為的なミスによって、上下左右を回転して設置されることもあり、電子ペン1における電子ペン1自体の傾斜角度の検出は、X軸を基準に実行され、その修正はコンピュータ装置2における座標変換時に実行される。
このように、プロセッサ108は、X,Y座標データを演算する際に用いる撮像画像内のドットパターンの状態、すなわち、仮想格子Zの状態に基づいて、電子ペン1のX軸に対する傾き方向を検出し、検出された電子ペン1の傾き方向の判定結果を示すデータ(以下、「傾き方向データ」という。)と、算出されたX,Y座標データ及びドットパターンアドレスとともにリアルタイムクロック110から発信される現在時刻と、筆圧データを関連付けて一の座標属性情報を生成する。
メモリ109には、電子ペン1を識別するための「pen01」などのペンID(電子ペン識別情報)、ペン製造者番号、ペンソフトウェアのバージョン等のプロパティ情報が記憶されている。そして、通信ユニット111は、座標属性情報等にペンIDが関連付けられた各記入情報をコンピュータ装置2へ順次送信する。通信ユニット111によるコンピュータ装置2への送信は、Bluetooth(登録商標)などの無線送信によって即時的かつ逐次的に行われる。
次に、電子ペン1よりコンピュータ装置2へ送信される記入情報について説明する。ユーザが電子ペン1を用いてスクリーン4にストローク(筆跡)STを記入する際には、まず、電子ペン1をスクリーン4に接触させる。すると、電子ペン1の圧力センサ107によってペン先部103にかかる筆圧を検出する。電子ペン1のプロセッサ108は、圧力センサ107によって所定値以上の筆圧が検出されたと判断すると、電子ペン1のスクリーン4への接触を示すペンダウン情報PDと、電子ペン1の識別情報であるペンID等とを関連付けた記入情報を生成して、通信ユニット111に、その記入情報をコンピュータ装置2へ送信させる。
また、ユーザは、電子ペン1のペン先部103をスクリーン4に接触させた後、筆圧を維持しつつ、ペン先部103を移動させてストロークを描くが、電子ペン1のプロセッサ108も引き続き、演算により求めた座標データ(X,Y)及びドットパターンアドレスと、電子ペン1の傾き方向データと、圧力センサ107により検出される筆圧データ、リアルタイムクロック110により発信された時刻情報とを含む座標属性情報及びペンIDを関連付けた記入情報を、CMOSカメラ106によるドットパターンの撮影周期に応じて、逐次生成し、通信ユニット111に記入情報を順次コンピュータ装置2へ送信させる。
そして、ユーザがストロークを描き終えて電子ペン1をスクリーン4から離すと、圧力センサ107は、筆圧を検出しなくなるため、プロセッサ108は、圧力センサ107によって所定値以上の筆圧が検出されなくなったと判断する。すると、プロセッサ108は、電子ペン1のスクリーン4への離脱を示すペンアップ情報PUと、電子ペン1の識別情報であるペンID等とを関連付けた記入情報を生成して、通信ユニット111に、その記入情報をコンピュータ装置2へ送信させる。このように、電子ペン1がペンダウンと判定してからペンアップと判定するまでに、すなわち、ユーザの一つのストロークの記入により、電子ペン1によって生成される座標属性情報の集合をストローク情報と呼ぶ。
[コンピュータ装置]
次に、図1及び図7の各図を用いて本実施形態のコンピュータ装置2について説明する。なお、図7は、コンピュータ装置2の各機能を示す機能ブロック図である。
コンピュータ装置2は、例えば、パーソナルコンピュータであって、ハードウェアとして、電子ペン1とのデータ通信が可能なアンテナ装置、CPU等のプロセッサ、ROMやRAMといったメモリ、ディスプレイ、マウスやキーボード等によって構成される。また、コンピュータ装置2は、図7を示すように、機能的には、マウスやキーボードなどから構成される入力手段21、受信手段22、処理手段24、記憶手段25、表示手段26及び送信手段27を備え、電子ペン1から受信した記入情報に基づいて所定の処理を行う。
受信手段22は、アンテナ及び受信回路等により構成され、電子ペン1から送信された各記入情報を順次受信し、処理手段24に伝送する。
処理手段24は、CPU等のプロセッサによって構成される。処理手段24は、所定のキャリブレーション処理及びキャリブレーション処理の結果に基づいて表示手段26に表示するための座標変換処理を実行する。また、処理手段24は、表示手段26の表示エリア201上における文字記入領域206の制御処理、文字記入領域406内に記入された文字又は記号を構成するストロークの座標データが座標変換関数により座標変換された後の座標データの文字認識処理、及び、表示手段26における各種の表示制御処理を実行する。そして、処理手段24は、制御処理の一つとして文字記入領域206の傾きを制御する傾き制御処理を実行する。
具体的には、キャリブレーション処理としては、処理手段24は、スクリーン4上のドットパターンによる位置座標をコンピュータ装置2の表示手段26における表示エリア201上の位置座標に座標変換するための座標変換関数を求める。この座標変換関数は、電子ペン1によって検出されたX、Y座標を表示手段26の表示エリア201上の座標に変換することに用いられる。また、処理手段24は、キャリブレーション処理の際に、スクリーン4上に形成されたドットパターンの配列方向、すなわち、スクリーン4の配置状態を判定する。この配列方向の情報は、後述するように、スクリーン4上に形成されたドットパターンの配列方向が逆転している場合、すなわち、スクリーン4の上下左右が回転して設置されている場合でも、電子ペン1の傾き方向がスクリーン4に対して左右どちらであるかを判定することに用いられる。
また、傾き制御処理としては、処理手段24は、電子ペン1によって文字または文字列が文字記入領域406に記入されたときの電子ペン1の傾き方向に基づいて、すなわち、文字記入領域406に対するユーザの操作位置に基づいて、表示手段26の表示エリア201に表示される文字記入領域206の傾きを制御する。通常、ユーザがスクリーン4に電子ペン1を用いて文字を記入した場合に、立ち位置又は座り位置などユーザの電子ペン1における操作位置(記入位置)がスクリーン4における文字記入領域406に対して正面に位置していないと、ユーザの操作位置の方向に電子ペン1が傾くことになる。例えば、ユーザの操作位置が文字記入領域406に対して右にずれている場合には、電子ペン1は右に傾くとともに、ユーザの文字記入領域406に対する操作位置が左にずれている場合には電子ペン1は左に傾くことになる。また、ユーザの文字記入領域406に対する電子ペン1の操作位置が文字記入領域406の正面の位置から外れた場合に、例えば、操作位置が文字記入領域406に対して上下左右に外れた場合に、スクリーン4に対して水平を維持しつつ各文字及び文字列を記入することは難しくなる。その一方、この場合において、ユーザが文字又は文字列を所定の方向に傾けて記入した場合には、その文字及び文字列の記入をスムーズに実行することができる。さらに、スクリーン4には、送信手段27によって文字記入領域206と同一の画像が文字記入領域406として投影されるため、文字記入領域206を傾ければ、結果的にスクリーン4に投影された文字記入領域406も傾く。このため、処理手段24は、電子ペン1の傾き方向によってスクリーン4上の文字記入領域406に対するユーザの操作位置を判断し、電子ペン1の傾き方向に基づいて、文字記入領域406が傾いてユーザにおける文字の記入がスムーズになるように、文字記入領域206の傾きを制御する。
さらに、処理手段24は、上述のような各処理を実行するために、図7に示すように、キャリブレーション処理部241と、座標変換部242と、文字記入領域制御手段としての文字記入領域制御部243と、文字認識処理部244と、表示制御部245とを有している。なお、キャリブレーション処理、座標変換処理及び傾き制御処理とともに処理手段24の各部の詳細については後述する。
記憶手段25は、ハードディスク又はROM、RAMなどのメモリによって構成される。記憶手段25には、キャリブレーション処理を実行するためのプログラム(以下、「キャリブレーションプログラム」という。)と、文字記入領域206を所定の方向に傾ける傾き制御処理を実行するためのプログラム(以下、「傾き制御プログラム」という。)と、文字認識処理のプログラム(以下、「文字認識プログラム」という。)とが予め記憶されている。
具体的には、キャリブレーションプログラムに関しては、表示手段26に表示するキャリブレーション用マークの表示エリア201上の位置座標及び形状等の情報、スクリーン4の用紙402に印刷されているドットパターンの座標領域の値が記憶手段25に記憶される。また、傾き制御プログラムに関しては、表示手段26に表示される文字記入領域206の座標領域の初期値、その範囲を画定表示するためのマーク(以下、「画定マーク」ともいう。)207の形状、画定マーク207の初期座標、傾ける際に基準となる基点の座標及び文字記入領域206を傾ける角度など傾き制御処理に必要な各情報が記憶手段25に予め記憶されている。なお、この記憶された文字記入領域206に関する情報に基づいてコンピュータ装置2の表示手段26に文字記入領域206が表示されると、文字記入領域206と同一のものとして文字記入領域406がスクリーン4に投影されて表示される。さらに、文字認識プログラムに関しては、表示手段26に表示された文字記入領域206に基づいて、スクリーン4上に投影された文字記入領域406内に描かれ、文字記入領域406への記入として取り込まれたストローク群によって形成される形状パターンの照合に用いる、各文字又は記号に関するパターンの情報(以下、「パターン情報」という。)その他の文字認識処理に必要な情報が記憶手段25に予め記憶されている。
上記のデータに加えて、記憶手段25には、ユーザがスクリーン4に文字、記号又は図形を記入した際に電子ペン1によって生成されたストローク毎の各記入情報が記憶される。また、記憶手段25には、キャリブレーション処理により求められた座標変換関数、文字記入領域206が傾いているか否かを示す傾きフラグ情報などの各種のフラグ情報、並びに、キャリブレーション処理、傾き制御処理、文字認識処理の各処理中及び処理後に各プログラムに沿って又は各処理中におけるユーザの指示に従って生成された各種のデータが記憶される。
表示手段26は、液晶又は有機ELなどのディスプレイ等によって構成され、処理手段24によって指示された内容を表示するものであり、図1に示すように、表示手段26の表示エリア201には、処理手段24の表示制御部245の処理により、認識文字表示位置マーク205と、文字記入領域206と、画定マーク207とを表示する。
送信手段27は、処理手段24の指示によって、表示手段26の画像表示に用いられる画像信号をプロジェクタ3に送信する。このため、スクリーン4には、コンピュータ装置2の表示エリア201に表示された画像と同じ画像が同期して、プロジェクタ3によって画像投影領域403に拡大されて投影される。また、図1に示す例では、表示エリア201に表示された、画定マーク207により画定された文字記入領域206は、それぞれスクリーン4上に、対応する画定マーク407により画定された文字記入領域406として投影される。なお、送信手段27によるプロジェクタ3へのデータ送信方式は、有線式であっても無線式であってもよい。
[処理手段]
次に、図7とともに図8〜図10の各図を用いて処理手段24における各部の詳細について説明する。なお、図8は、ドットパターンの配列方向について説明するための図であり、図9は、文字記入領域406の位置に対してユーザの操作位置が右側にある場合に、文字記入領域の傾く方向を説明するための図である。また、図10は、文字記入領域406の位置に対してユーザの操作位置が左側にある場合に、文字記入領域の傾く方向を説明するための図である。
(1)キャリブレーション処理部
キャリブレーション処理部241は、記憶手段25に記憶されたキャリブレーションプログラムに従って、スクリーン4上のドットパターンによる位置座標を、表示手段26における表示エリア201上の位置座標に変換するための座標変換関数を求める。具体的には、キャリブレーション処理部241は、表示手段26の表示エリア201に2箇所以上のキャリブレーション用マークを表示させるとともに、スクリーン4に対してプロジェクタ3によりキャリブレーション用マークを投影させる。そして、電子ペン1によってスクリーン4に投影されたキャリブレーション用マークをタップすることによって生成されたスクリーン4上の座標データを受信手段22が受信すると、キャリブレーション処理部241は、キャリブレーション用マークに係る表示手段26の表示エリア201上の位置座標と、スクリーン4上におけるドットパターンの位置座標との対応関係を取得して座標変換関数を算出する。なお、キャリブレーション処理部241は、この算出した座標変換関数を記憶手段25に記憶する。
また、キャリブレーション処理部241は、各キャリブレーション用マークの表示エリア201上の表示位置とそれぞれ対応するスクリーン4上の座標データとから、スクリーン4に形成されたドットパターンの配列方向を判定して、この判定したドットパターンの配列方向(以下、「配置データ」という。)を、記憶手段25に記憶する。なお、後述する文字記入領域制御部241が、記憶手段25に記憶された配置データを参照して、電子ペン1の傾き方向がスクリーン4とユーザの操作位置を基準とすると左右どちらであるかを判定する。
上述したスクリーン4上に形成されるドットパターンは、スクリーン4上のどの部分から6×6ドットを取ってもユニークなパターンとなり、スクリーン4のX座標及びY座標を電子ペン1によって検出することができるように配列されていて、ドットパターンの配列に向き(方向)を持っている。また、電子ペン1は、ドットパターンの配列方向(具体的には、ドットパターンによって示されるX軸の座標の向き)に基づいて電子ペン1自体の傾き方向を検出する。スクリーン4が規定通り設置されておらず、例えば、通常設置されるべきスクリーン4の上下左右が180度回転し、ドットパターンの配列が正規の方向に配列されていない場合であって、電子ペン1が撮像したドットパターンの画像データを解析して電子ペン1の傾き方向を検出した場合には、検出された電子ペン1の傾き方向がスクリーン4とユーザの操作位置を基準とすると左右反対になってしまう。具体的には、図8(a)に示すように、通常、スクリーン4は、スクリーン4上に形成されたドットパターンの配列は、X軸の値が左から右に増大し、かつ、Y軸の値が上から下へ増大するように設置される。しかしながら、人為的なミスその他の原因によりスクリーン4の上下左右が回転されて設置される可能性もある。そして、スクリーン4の上下左右が180度回転された状態において設置されると、図8(b)に示すように、X軸の値は右から左に増大し、Y軸の値は下から上に増大するようにドットパターンが配列することになる。この結果、電子ペン1が、X軸の値が増大する方向に電子ペン1が傾いていることを検出した場合に、図8(b)に示すドットパターン配列の上下左右が180度回転されたスクリーン4では、電子ペン1の傾き方向は左側となり、図8(a)に示す規定通りのドットパターン配列が設置されたスクリーン4とは、左右反対になってしまう。そこで、キャリブレーション処理部241は、ドットパターンの配列方向を判定して、配置データを記憶手段25に記憶する。
(2)座標変換部
座標変換部242は、電子ペン1から送信されて受信したストローク毎の各記入情報に含まれるスクリーン4上のX、Y座標データを、キャリブレーション処理部241によって求めた座標変換関数に基づいて、表示手段26の表示エリア201上におけるストロークのX、Y座標に変換する。そして、座標変換部242は、この変換後のX,Y座標(以下、「較正座標」ともいう。)にそれぞれ対応する記入情報に含まれる傾き方向データを関連付けして、ペンID毎、ストローク毎に記憶手段25に記憶する。
(3)文字記入領域制御部
文字記入領域制御部243は、記憶手段25に記憶された文字記入領域206の座標領域の初期値及びその範囲を画定表示するための画定マーク207の情報に基づいて、図1に示すように、表示手段26の表示エリア201に文字記入領域206を表示させる。特に、文字記入領域制御部243は、初期設定として、表示手段26の表示エリア201の左下隅、左上隅、右下隅又は右上隅のいずれかに、画定マーク207を用いることによって横長の長方形状の文字記入領域206を表示させる。そして、文字記入領域制御部243は、図1に示すように、この画像と同一の画像をスクリーン4に投影させるための画像信号を、送信手段27を介してプロジェクタ3に送信する。
なお、これにより、スクリーン4の左下隅に、画定マーク407によって特定可能な文字記入領域406が表示される。また、図1においては、文字記入領域206,406が左下隅に外枠表示されているが、文字記入領域206,406が黄色その他の色を用いて強調表示されていてもよく、記入情報の記入を促すための罫線(下線)によって文字記入領域206,406が表示されるようにしてもよい。
文字記入領域制御部243は、ユーザによってスクリーン4上の文字記入領域406に文字が記入され、文字記入領域206に文字が入力されると、傾き制御プログラムに従って、文字の入力開始後の予め定められた数のストローク(例えば、第1文字W1における第1ストローク1から第4ストローク4までの4つのストローク)における電子ペン1の傾き方向データに基づいて、電子ペン1の傾きの有無及び傾いている場合にはその傾き方向を特定する。具体的には、1のストロークのみの判断では、当該ストロークのときのみ逆側に傾いている場合も想定されるため、文字記入領域制御部243は、複数のストロークの傾き方向データに基づいて電子ペン1の傾きの有無及び傾いている場合にはその傾き方向を特定する。
文字記入領域制御部243は、座標変換部242が演算した各較正座標にそれぞれ関連付けられて記憶部25に記憶されている傾き方向データを「X軸の値の大きい側」「X軸の値の小さい側」及び「傾き無し」の項目毎に集計する。
そして、文字記入領域制御部243は、これらの中から集計された数が最も多い項目によって電子ペン1がその方向に傾いている又は傾いていないことを判定する。さらに、文字記入領域制御部243は、集計結果により電子ペン1が「X軸の値の大きい側」又は「X軸の値の小さい側」に傾いていると判定した場合には、キャリブレーション処理部241が判定して記憶部25に記憶されている配置データを参照して、電子ペン1がスクリーン4面に対して右側に傾いているのか、左側に傾いているのかを特定する。具体的には、文字記入領域制御部243は、集計結果により電子ペン1が「X軸の値の大きい側」に傾いていると判定した場合に、配置データが「回転なし」であった場合に、電子ペン1がスクリーン4面に対して右側に傾いていると特定する。一方、文字記入領域制御部243は、集計結果により電子ペン1が「X軸の値の大きい側」判定した場合に、配置データが「180度回転」であった場合、電子ペン1がスクリーン4面に対して左側に傾いていると特定する。同様に、文字記入領域制御部243は、集計結果により電子ペン1が「X軸の値の小さい側」に傾いていると判定した場合には、配置データが「回転なし」であった場合、電子ペン1がスクリーン4面に対して左側に傾いていると特定し、配置データが「180度回転」であった場合、電子ペン1がスクリーン4面に対して右側に傾いていると特定する。
また、文字記入領域制御部243は、電子ペン1が右に又は左に傾いていると特定された場合には、この傾きの方向と文字記入領域206が表示エリア201内に表示される画像内に形成される位置(すなわち、文字記入領域206の座標領域の位置)とに基づいて予め定められた角度(±θ)、例えば、15度から30度内であってユーザ操作により又は初期設定として予め定められた角度(±θ)に文字記入領域206を傾ける。
具体的には、文字記入領域制御部243は、電子ペン1がスクリーン4面に対して右に傾いていると判断された場合であって(すなわち、その結果としてユーザの電子ペン1における操作位置が文字記入領域406の右に位置すると判断された場合であって)、文字記入領域206が表示手段26の表示エリア201に表示されている画像の下隅に形成されている場合には、文字記入領域206の左上隅を基点(「基準点(中心点)」ともいう。)Bとして上方に回転させて予め定められた角度(θ)まで文字記入領域206を傾ける。そして、上述のように、スクリーン4には表示エリア201に表示された画像と同一画像が投影されるので、図9(a)に示すように、文字記入領域206と同様に、スクリーン4上に投影された文字記入領域406も、基点を中心として上方に回転して予め定められた角度(θ)まで傾く。
また、文字記入領域制御部243は、電子ペン1がスクリーン4面に対して右に傾いていると特定された場合であって、文字記入領域206が表示手段26の表示エリア201に表示されている画像の上隅に形成されている場合には、文字記入領域206の左上隅を基点として下方に回転させて予め定められた角度(−θ)まで文字記入領域406(206)を傾ける。そして、上述のように、スクリーン4には表示エリア201に表示された画像と同一画像が投影されるので、図9(b)に示すように、文字記入領域206と同様に、スクリーン4上に投影された文字記入領域406も基点を中心として下方に回転して予め定められた角度(θ)まで傾く。
一方、文字記入領域制御部243は、電子ペン1がスクリーン4面に対して左に傾いていると特定された場合であって(すなわち、その結果としてユーザの電子ペン1における操作位置が文字記入領域406の左に位置すると判断された場合であって)、文字記入領域206が表示手段26の表示エリア201に表示されている画像の下隅に形成されている場合には、文字記入領域206の右上隅を基点として上方に回転させ、予め定められた角度(θ)まで文字記入領域406(206)を傾ける。そして、上述のように、スクリーン4には表示エリア201に表示された画像と同一画像が投影されるので、図10(a)に示すように、文字記入領域206と同様に、スクリーン4上に投影された文字記入領域406も基点を中心として上方に回転して予め定められた角度(θ)まで傾く。
また、文字記入領域制御部243は、電子ペン1がスクリーン4面に対して左に傾いていると特定された場合であって、文字記入領域206表示手段26の表示エリア201に表示されている画像の上隅に形成されている場合には、文字記入領域206の右上隅を基点として下方に回転させ、予め定められた角度(θ)まで文字記入領域206を傾ける。そして、上述のように、スクリーン4には表示エリア201に表示された画像と同一画像が投影されるので、図10(b)に示すように、文字記入領域206と同様に、スクリーン4上に投影された文字記入領域406も基点を中心として下方に回転して予め定められた角度(θ)まで傾く。
他方、文字記入領域制御部243は、電子ペン1がどちらにも傾いていないと判定された場合には(すなわち、その結果としてユーザの電子ペン1における操作位置が正面であると判断されるので)、文字記入領域206を傾けず、その状態を維持する。なお、上述の各基点は、上記の位置に特定されず、上下左右の異なる四隅を基点として用いてもよい。また、ユーザの操作により任意の位置に設定されてもよい。ただし、この基点は、文字記入領域206を傾けたとしても傾けられた文字記入領域206の全体の座標領域が表示エリア201に表示される画像内に形成されるように定めなければならない。そのため、四隅のうち文字記入領域406に対するユーザの操作位置とは反対側の2つの隅(例えば、ユーザの操作位置が右側の場合、左上隅または右上隅)のどちらかが基点として定められるようにするとよい。
文字記入領域制御部243は、文字記入領域206に文字が入力され始めたときのみ、一度だけ上述の傾き制御処理を実行する。したがって、文字記入領域制御部243は、一度、文字記入領域206を傾けた場合には、文字認識処理が実行されて、文字記入領域206内に入力されたストロークのリセットが為されるまで、傾き制御処理は実行されない。ただし、傾き制御処理を実行した際に、電子ペン1の傾き方向が無く、ユーザの電子ペン1における操作位置が文字記入領域406の正面であると判定された場合のみ、その後の予め定められた数のストロークに基づいて、再度、傾き制御処理を実行してもよい。この場合には、既に傾き制御処理が実行された旨及びそれによって文字記入領域206を傾けなかった旨などのヒストリー情報が記憶手段25に記憶され、この記憶されたヒストリー情報に基づいて再度の傾き制御処理が実行される。ここで、このリセットとは、文字記入領域206の傾きを元に戻して初期状態にリセットするとともに、傾きフラグ情報その他の情報をもリセットすることを示す。
(4)文字認識処理部
文字認識処理部244は、記憶手段25に記憶された文字認識処理プログラムに従って、文字記入領域406内に記入されて文字記入領域206に入力された電子ペン1のストロークについて文字認識処理を実行する。特に、文字認識処理部244は、ユーザの指示に基づいて記入が完了した文字列の文字認識を行う。そして、文字認識処理部244は、OCR(Optical Character Reader)などの文字認識を行うプログラムと同様に、ストローク(文字記入領域406に電子ペン1で記入され、文字記入領域206に入力されたストローク)STにおける座標変換されたX、Y座標群から形成されるパターンと記憶手段25に予め記憶された各文字や記号のパターン情報とを照合して文字または記号を特定する。
具体的には、文字認識処理部244は、文字記入領域406に文字又は記号などのユーザによる記入が実行されて文字記入領域206に文字が入力された後であって、コンピュータ装置2などの図示しない認識開始キーまたは座標入力領域(画像投影領域)403内の図示しない認識開始領域若しくは電子ペン1の文字記入領域406内でのタップ動作を検知した場合に、ユーザにおける文字の記入が完了したと判断し、文字記入領域206内に含まれている文字列を一括的に文字認識する。特に、文字認識処理部244は、上述のようなユーザの指示が入力されると、文字記入領域206内の記入情報として記憶手段25に記憶されているストロークの各較正座標(すなわち、電子ペン1のスクリーン4上のストロークの座標データに対応する、表示手段26の表示画面上におけるストロークの座標データ群)を傾斜角度(±θ)及び傾き制御処理が実行された際の基点の各データに基づいて逆回転させ、その座標変換後の座標データに基づいて文字認識を行う。すなわち、記憶手段25に記憶されている傾きフラグ情報が、文字記入領域206が傾いていることを示す場合(フラグが立っている場合)には、文字認識処理部244は、各ストロークの各較正座標群に対して、文字記入領域206において傾き制御処理が実行された際の基点を中心として、設定されている傾斜角度(θ)又は(−θ)だけ逆回転させる(−θ又はθの回転行列をかける)ことによって各ストロークの較正座標を正規化するとともに、この正規化後のX,Y座標群によって形成されるパターンに対して文字認識処理を実行する。
これにより、傾斜して記入された文字又は記号を傾斜の無い水平に書かれた状態に修正することができるので、文字等の特定に関する精度、すなわち、文字認識における認識精度を向上させることができる。また、この文字認識処理が実行された場合には、次に記入される文字列を認識するために、文字記入領域206内に表示されている全てのストロークは消去される(リセットされる)とともに、文字記入領域206,406が傾いている場合には、その傾きも傾きフラグ情報などの関連情報とともにリセットされる。
[傾き制御処理]
次に、図11を用いて情報処理システム10における傾き制御処理の動作について、記入情報の受信に伴う各種の処理とともに説明する。なお、図11は、傾き制御処理を含む表示処理を示すフローチャートである。
本動作処理においては、予めキャリブレーション処理部241によりキャリブレーション処理が実行され、座標変換関数及び配置データが求められて記憶手段25に記憶されており、座標変換部242による座標変換が行われる状態にある。また、文字記入領域制御部243は、記憶手段25に記憶された文字記入領域206の座標領域の初期値を参照して、図1に示すように、表示手段26の表示エリア201の左下に、長方形状の画定マーク207によって画定される文字記入領域206を表示させている。さらに、この画像と同じ画像を示すための画像信号が、送信手段27からプロジェクタ3へ送信されているため、プロジェクタ3により、スクリーン4の画像投影領域403の左下には、画定マーク407によって画定される文字記入領域406が投影されて表示されている。
まず、記入者であるユーザによってスクリーン4上に一のストロークが記入されると、電子ペン1は、この記入されたストロークの各記入情報をコンピュータ装置2に順次送信する(ステップS101)。具体的には、電子ペン1は、圧力センサ107によって検出した筆圧に基づいてペンダウンが検知されてユーザによってストロークの開始を認識すると、LED105及びCMOSカメラ106をオンにし、圧力センサ107によってペンアップが検出されてユーザによるストロークの終了を認識するまで、所定の時間間隔毎にスクリーン4のドットパターンを撮影し、この撮影された画像毎に、X、Y座標を算出するとともに電子ペン1自体の傾き方向を検出し、算出されたX、Y座標データ及び検出された傾き方向データを含む座標属性情報等にペンIDを関連付けして記入情報を生成して順次コンピュータ装置2に送信する。
また、コンピュータ装置2において電子ペン1から送信された各記入情報の受信を開始すると、処理手段24は、各記入情報をペンID毎に記憶手段25に順次記憶させる(ステップS201)。
次いで、座標変換部242は、記憶手段25に記憶されている座標変換関数に基づいて、受信した各記入情報の座標データを表示手段26の表示エリア201に表示するための座標(較正座標)に順次変換する(ステップS202)。
次いで、座標変換部242は、較正座標のデータを、対応する記入情報に含まれる傾き方向データと関連付けしてストローク毎にペンIDに対応付けて記憶手段25に順次記憶させ、かつ、較正座標に基づいて表示手段26の表示エリア201にストロークとして描画する(ステップS203)。なお、ステップS203の処理のときに、送信手段27は、表示手段26の表示エリア201に表示されている画像と同一の画像、すなわち、描画されたストロークを含む画像をスクリーン4に投影するための画像信号をプロジェクタ3に送信する。
次いで、座標変換部242は、受信された各記入情報に対して、各較正座標が文字記入領域206内に含まれるか否かを判断する(ステップS204)。すなわち、座標変換部242は、受信した各記入情報から構成されるストロークが文字記入領域206に属するストロークに該当するか否かを判断する。この場合において、スクリーン4上の文字記入領域406は、表示手段26の表示エリア201の文字記入領域206に対応するため、ユーザがスクリーン4上の文字記入領域406内に文字又は記号を入力することによって送信されたストロークの各記入情報における座標データから、座標変換部242による座標変換により、表示エリア201における文字記入領域206にこのストロークが含まれていることを認識することができる。
ステップS204の処理において、座標変換部242が、各較正座標に基づいて、受信された各記入情報から構成されるストロークが文字記入領域206に含まれていると判断した場合には(ステップS204:Yes)、ステップS205の処理に移行し、較正座標に基づいて受信された各記入情報から構成されるストロークが文字記入領域206に含まれていないと判断した場合には(ステップS204:No)、本動作処理を終了させる。
次いで、文字記入領域制御部243は、記憶手段25に記憶された傾きフラグ情報に基づいて文字記入領域206が既に回転しているか否かを判断する(ステップS205)。文字記入領域制御部243が、傾きフラグ情報に基づいて文字記入領域206が未だ回転していないと判断した場合には(ステップS205:Yes)、ステップS206の処理に移行し、傾きフラグ情報に基づいて文字記入領域206が既に回転したと判断した場合には(ステップS205:No)、本動作処理を終了させる。
次いで、文字記入領域制御部243は、文字の記入開始後に予め定められた順番のストローク(例えば文字記入領域206に記入を開始してから4番目のストローク4)における各記入情報であるか否かを判断する(ステップS206)。すなわち、電子ペン1によって検出された傾き方向の正確性を要求するために所定数のストロークの傾き方向データを集計する必要があり、一定数のストロークにおける記入情報を受信するまでは文字記入領域206を傾けるか否かを判断しない。
ステップS206の処理において、文字記入領域制御部243は、所定の順番のストロークであると判断した場合には、すなわち、一定数のストロークを受信したと判断した場合には(ステップS206:Yes)、ステップS207の処理に移行し、未だ一定数のストロークを受信していないと判断した場合には(ステップS206:No)、本動作処理を終了させる。
次いで、文字記入領域制御部243は、記憶手段25に記憶された各ストロークの各較正座標に関連付けられている傾き方向データを集計して、電子ペン1がX軸の値の大きい側に傾いているのか、X軸の値の小きい側に傾いているのか、又は傾いていないのかを判定する。そして、文字記入領域制御部243は、電子ペン1がX軸の値の大小どちらか側に傾いていると判定した場合はさらに、記憶部25に記憶されている配置データを参照して、電子ペン1のスクリーン4面に対する傾き方向、すなわち、電子ペン1のスクリーン4に対する左右の傾き方向を特定する(ステップS207)。
次いで、文字記入領域制御部243は、ステップS207の判定結果と文字記入領域206の座標領域の位置に基づいて、文字記入領域206を傾ける(ステップS208)。具体的には、文字記入領域制御部243は、ステップS207の判定結果によって電子ペン1がスクリーン4に対して右又は左に傾いていると特定された場合には、ステップS207の判定結果と文字記入領域206の座標と予め定められた基点に基づいて所定の方向に文字記入領域206を傾ける。また、このときに、送信手段27は、表示手段26の表示エリア201に表示されている画像と同一の画像、すなわち、描画されたストロークを含む画像をスクリーン4に投影するための画像信号をプロジェクタ3に送信するので、文字記入領域206と同様に文字記入領域406も傾く。なお、文字記入領域制御部243は、ステップS206の判定結果によって電子ペン1が傾いていないと判定された場合には、文字記入領域206を傾けずにその状態を維持する。
最後に、文字記入領域制御部243は、ステップS208において文字記入領域206を傾けた場合には、その傾けた文字記入領域206の座標領域および傾きフラグ情報などの所定の情報を記憶手段25に記憶させて(ステップS209)本動作処理を終了させる。
[文字認識処理]
次に、図12を用いて本第1実施形態における情報処理システム10の文字認識処理の動作について説明する。なお、図12は、文字認識処理の動作を示すフローチャートである。
まず、コンピュータ装置2においてコンピュータ装置2に設けられた図示しない認識開始キーが認識される等、所定の動作に基づく文字認識処理の開始指示を認識すると(ステップS301)、文字認識処理部244は、文字記入領域406に電子ペン1で記入されて文字記入領域206に入力されたストロークの各較正座標に対して、ステップS208において文字記入領域206を回転させた傾斜角度(θ)又は(−θ)の分、逆回転させ(−θ又はθの回転行列をかけて)、各ストロークを正規化する(ステップS302)。
そして、文字認識処理部244は、記憶手段25に記録されているパターン情報を照合して、正規化された文字記入領域206内のX,Y座標群によるパターン(各ストローク群の形状)から一または複数の文字または記号を認識する文字認識処理を行う(ステップS303)。
次いで、文字認識処理部244は、文字認識された文字、記号等を文字記入領域206から消去し、さらに文字認識処理に用いたストローク等の各データを記憶手段25から消去して、文字認識後に特定された文字及び記号のテキストデータを、記憶手段25に記憶させるとともに、表示エリア201の文字入力する位置として定められた場所に表示させる(ステップS304)。
次いで、文字認識処理部244は、文字記入領域206を初期値、すなわち、記憶手段25に記憶されている初期の座標の位置に戻すとともに、傾きフラグ情報などの関連情報をリセットして(ステップS305)、本処理を終了させる。
[第1実施形態の作用効果]
以上のように、情報処理システム10は、文字記入領域206に記入されたストロークに基づいて、スクリーン4上のドットパターンの形成面に対する電子ペン1の傾き方向を検出して、スクリーン4上の文字記入領域406に対するユーザの操作位置を特定することができるとともに、この特定したユーザの操作位置に基づいて文字記入領域206を傾けることができる。したがって、情報処理システム10は、文字を記入しているときのユーザの操作位置を確実に判定し、ユーザにおける文字及び文字列の入力をスムーズに実行させることができるとともに、スムーズな文字及び文字列の入力を実現するために煩雑なユーザ操作をユーザに要求すること無くその操作性を向上させることができる。
また、情報処理システム10は、予め文字記入領域206の傾ける角度を設定して傾き制御処理が実行されるので、煩雑なユーザ操作をユーザに要求すること無く、ユーザが文字入力をスムーズに実行することができるように文字記入領域206を確実に傾けることができる。
また、情報処理システム10は、新たなデータを取得する必要が無く、ドットパターンのデータを取得する際に用いる画像データに基づいて電子ペン1の傾き方向を検出することができるので、簡易な構成によって電子ペン1の傾きの方向を検出することができる。
また、情報処理システム10は、電子ペン1の傾きが実際には検出されたとしても、予め設定されたしきい値と比較することによって、検出された角度においては、電子ペン1の傾き方向を電子ペン1が傾斜している方向と反対の方向として検出することができる、又は、電子ペン1の傾きが生じていないと検出することができる。したがって、情報処理システム10は、ユーザの利き手をも考慮して電子ペン1の傾き方向を判定し、ユーザの操作位置を特定することができるので、ユーザが文字入力をスムーズに実行することができる方向に文字記入領域206を確実に傾けることができる。
また、情報処理システム10は、文字記入領域206を異なる基点によって、かつ、異なる方向に傾けることができるので、画像上のいずれの位置に文字記入領域206が形成されていても、ユーザに文字入力をスムーズに実行させることができる方向に文字記入領域を確実に傾けることができるとともに、傾いた文字記入領域206を画像内に確実に表示することができる。
また、情報処理システム10は、スクリーン4の上下左右が反転して設置されるなどドットパターンの配列方向が異なる方向によって設置されたとしても、配列方向をその設置後に認識して文字記入領域206を制御することができるので、電子ペン1の傾きの方向を誤検出することなく確実に検出することができる。
また、情報処理システム10は、記入された各文字における傾きが生じていない状態によって文字列の文字認識処理を実行することができるので、文字認識の精度を向上させることができる。
また、情報処理システム10は、スクリーン4と表示手段26の表示エリア201の異なる座標系を用いても文字記入領域206の傾き制御処理を確実に実行することができる。
[変形例]
上記の実施形態では、文字記入領域制御部243は、4つのストロークに基づいてユーザ操作の文字記入領域406に対する位置を特定しているが、このストローク数に限る必要はなく、一定数のストロークに基づいて、又は、最初のストロークのみに基づいてユーザ操作の文字記入領域406に対する位置を特定してもよい。また、一定のストローク毎ではなく記入される文字毎に、例えば、文字列の最初に入力される一文字目のストローク群に基づいてこの傾き方向を特定するようにしてもよい。ただし、この場合には、上述の文字認識処理とは別にまたは上述の文字認識処理と連動して一文字毎に文字認識を行いつつ、文字記入領域206の傾き方向を特定する。
また、上記実施形態では、撮像画像上のドットパターンの状態に基づいて電子ペン1とスクリーン4との角度を検出するようになっているが、電子ペン1にスクリーン4との角度を検出する加速度センサなどの角度センサを設けてもよい。この場合には、プロセッサ108は、加速度センサから出力された角度に基づいて電子ペン1の傾き方向を検出する。ただし、プロセッサ108は、加速度センサに代えて、または、加速度センサに加えてジャイロセンサやその他のセンサを用いることによって電子ペン1におけるスクリーン4との角度を受信できればよい。
また、上記の実施形態では、電子ペン1に設けられたプロセッサ108において、当該電子ペン1の傾斜角度に基づいて当該電子ペン1の傾き方向を検出するようになっているが、コンピュータ装置2に設けられた処理手段24の文字記入領域制御部243において、当該電子ペン1の傾斜角度に基づいて当該電子ペン1の傾き方向を判定するようにしてもよい。この場合は、文字記入領域制御部243は、傾き制御処理のプログラム上において、図示しない操作部などの操作に基づいて標準モード(右利きモード)または左利きモードを予め認識するとともに、記憶手段25に記憶された記入情報毎に、電子ペン1から送信された傾斜角度に基づいて、上述のプロセッサ108において実行された電子ペン1における傾き方向の判定を行う。すなわち、標準モードの場合には、図6(a)と同様に、スクリーン4に対して電子ペン1が垂直にある場合を基準として(すなわち、「0」度として)、ユーザの右手側に所定の角度に閾値(例えば−15度)が設定されるので、文字記入領域制御部243は、この閾値と記入情報に含まれる電子ペン1の傾斜角度αに基づいて電子ペン1のX軸に対する傾き方向を判定する。具体的には、図6(a)に示すように、検出した傾斜角度αが「−T(閾値)」度<α<「90」度内に属する場合には、文字記入領域制御部243は、電子ペン1の傾き方向を「X軸の値の小さい側」と判定し、検出した傾斜角度αが「−90」度<θ<「−T(閾値)」度内に属する場合には、文字記入領域制御部243は、電子ペン1の傾き方向をX軸の値の大きい側と判定する。そして、検出した電子ペン1の傾斜角度が「−T(閾値)」と同一の場合には、文字記入領域制御部243は、電子ペン1の傾き方向を「傾き無し」と判定する。一方、左利きモードの場合には、図6(b)と同様に、スクリーン4に対して電子ペン1が垂直にある場合を基準として、ユーザの左手側に所定の角度に閾値(例えば15度)が設定されるので、文字記入領域制御部243は、この閾値と検出された電子ペン1の傾斜角度αに基づいて電子ペン1のX軸に対する傾き方向を検出する。具体的には、図6(b)に示すように、検出した傾斜角度αが「T(閾値)」度<α<「90」度内に属する場合には、文字記入領域制御部243は、電子ペン1の傾き方向を「X軸の値の小さい側」と判定し、検出した傾斜角度αが「−90」度<θ<「T(閾値)」度内に属する場合には、文字記入領域制御部243は、電子ペン1の傾き方向をX軸の値の大きい側と判定する。そして、検出した電子ペン1の傾斜角度が「T(閾値)」と同一の場合には、文字記入領域制御部243は、電子ペン1の傾き方向を「傾き無し」と判定する。そして、文字記入領域制御部243は、上述のステップS207の処理において、このように記入情報毎に判定した電子ペン1の傾き方向に基づいて、各記入情報における傾き方向を集計し、電子ペン1がX軸の値の大きい側に傾いているのか、X軸の値の小きい側に傾いているのか、又は傾いていないのかを判定する。
<第2実施形態>
次に、図13を用いて第2実施形態に係る情報処理システムについて説明する。なお、図13は、本第2実施形態における情報処理システム100の構成を示すシステム構成図である。
第2実施形態の情報処理システム100は、第1実施形態においてプロジェクタ3を用いてスクリーン4に画像を表示するとともにスクリーン4を用いて文字、図形又は記号の記入、すなわち、ストロークの記入を行う点に代えて、コンピュータ装置2に表示手段26としてプラズマディスプレイを用いるととともに、プラズマディスプレイ上に配設された透明又は半透明の光透過性シート9を用いてストロークの記入を行う点に特徴がある。なお、本実施形態において、第1実施形態と同一の部材については、同一の符号を付してその説明を省略する。また、本実施形態においては、これ以降及び図13においてはプラズマディスプレイの符号として26を用いる。
本第2実施形態の情報処理システム100は、図13に示すように、電子ペン1によって読取可能なドットパターン(コード化パターン)が印刷された光透過性シート9を有している。光透過性シート9は、プラズマディスプレイ26の表示エリア201の前面に貼り付けられるとともに、表示エリア201に表示された画像が光透過性シート9の前面から視覚可能に表示される。ドットパターンは、赤外線を選択的に反射する特性を有するインキによって光透過性シート9に印刷されている。
電子ペン1では、プロセッサ108には、CMOSカメラ106によって撮像された画像データから、赤外線反射の強い部分領域をドットであると認識するよう閾値を設けて判定される。その閾値は、ディスプレイから光透過性シート9を透過してくる赤外線のみの場合と、電子ペン1のLED105から照射した赤外線がドットによって反射されることによる赤外線が含まれる場合とを区別できるよう設定される。
なお、電子ペン1のCMOSカメラ106によって撮像された画像データからドットを認識しやすくするため、CMOSカメラ106に照射される光が赤外線だけとなるように、赤外線透過フィルターを電子ペン1の開口部102付近に設けてもよい。また、本実施形態のドットパターンは、アノト方式に限らなくともよい。また、本第2実施形態の情報処理システム100は、第1実施形態の変形例を適宜適用可能である。