JP2016110522A - Electronic blackboard, information processing program, and information processing method - Google Patents

Electronic blackboard, information processing program, and information processing method Download PDF

Info

Publication number
JP2016110522A
JP2016110522A JP2014249474A JP2014249474A JP2016110522A JP 2016110522 A JP2016110522 A JP 2016110522A JP 2014249474 A JP2014249474 A JP 2014249474A JP 2014249474 A JP2014249474 A JP 2014249474A JP 2016110522 A JP2016110522 A JP 2016110522A
Authority
JP
Japan
Prior art keywords
gesture
mode
electronic pen
touch panel
switching
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014249474A
Other languages
Japanese (ja)
Other versions
JP6386897B2 (en
Inventor
拓 吉冨
Takumi Yoshitomi
拓 吉冨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2014249474A priority Critical patent/JP6386897B2/en
Publication of JP2016110522A publication Critical patent/JP2016110522A/en
Application granted granted Critical
Publication of JP6386897B2 publication Critical patent/JP6386897B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

SOLUTION: An electronic blackboard 10 comprises a device body 12 having a display 22 with a touch panel 24, and an electronic pen 14. In the electronic blackboard, in addition to a touch operation to the touch panel, an operation input by a gesture operation based on an operation of the electronic pen can be input. The electronic blackboard comprises gesture switching means for, switching a first gesture mode in which, a first function is allocated to the gesture operation and a second gesture mode in which a second function is allocated to the gesture operation, based on switching information such as distance between the touch panel and the electronic pen.EFFECT: Plural functions are allocated to one gesture operation, so that, it is possible to cope with plural functions with a limited number of gestures, and convenience of the electronic blackboard is improved.SELECTED DRAWING: Figure 1

Description

この発明は、電子黒板、情報処理プログラムおよび情報処理方法に関し、特にたとえば、タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる、電子黒板、情報処理プログラムおよび情報処理方法に関する。   The present invention relates to an electronic blackboard, an information processing program, and an information processing method, and more particularly, to an electronic blackboard, an information processing program, and an information processing method that include a display unit provided with a touch panel and that are input with an electronic pen.

近年、会議や教育現場などにおいて、表示面上にタッチパネルが設けられた大型の表示部(タッチパネル付きディスプレイ)を備える電子黒板の利用が広がっている。電子黒板は、タッチパネルに対するユーザのタッチ操作を受け付け、ユーザが電子ペンまたは指先などを用いてタッチパネル上に手書きした文字や図形などを表示面に表示する。このような電子黒板の利用方法としては、たとえば、企画会議などにおいて、電子黒板の表示部に表示した会議資料に対して書き込みをしながらプレゼンテーションを進めていくような状況が想定される。   In recent years, the use of an electronic blackboard including a large display unit (display with a touch panel) provided with a touch panel on a display surface has been spreading in meetings and educational sites. The electronic blackboard receives a user's touch operation on the touch panel, and displays characters, figures, and the like handwritten on the touch panel by the user using an electronic pen or a fingertip. As a method of using such an electronic blackboard, for example, in a planning meeting, a situation is assumed in which a presentation is advanced while writing on conference materials displayed on the display unit of the electronic blackboard.

一方、特許文献1には、大画面を有し、複数のユーザで共用すると共に、タッチパネルの操作を介してユーザ同士が協調作業を行う情報処理装置に関する技術が開示されている。特許文献1の情報処理装置は、表示部、表示部に対するユーザの位置を検出するユーザ位置検出部、表示部の表示画面に対するユーザの状態を検出するユーザ状態検出部、およびユーザの位置と状況とに応じて表示部に表示するGUIを制御する演算部を備える。   On the other hand, Patent Document 1 discloses a technology relating to an information processing apparatus that has a large screen and is shared by a plurality of users and allows users to perform cooperative work through operation of a touch panel. The information processing apparatus of Patent Literature 1 includes a display unit, a user position detection unit that detects a user position with respect to the display unit, a user state detection unit that detects a user state with respect to the display screen of the display unit, and a user position and situation. And a calculation unit that controls the GUI displayed on the display unit.

また、特許文献1の情報処理装置では、タッチパネルに対するタッチ操作とは別に、カメラによる撮影画像を利用してユーザの顔や手の動きを検出し、検出したユーザの顔や手の動きに基づくジェスチャ操作による入力操作を可能としている。   In addition, in the information processing apparatus disclosed in Patent Document 1, a user's face and hand movement are detected using a photographed image by a camera separately from a touch operation on the touch panel, and a gesture based on the detected user's face and hand movement is detected. Input operation by operation is possible.

特開2013−145468号公報JP 2013-145468 A

従来の電子黒板に対する入力操作は、電子ペン等をタッチパネルに接触させて入力操作を行うタッチ操作によるものか、電子黒板に接続したノートPC(パーソナルコンピュータ)等への入力操作によるものを基本としている。このため、たとえばユーザがタッチパネルから離れた位置に立って会議資料などの説明を行っている場合には、そのままでは電子黒板に対する入力操作を行うことができず、タッチパネルまたはノートPCの位置まで移動する必要があるので、不便である。したがって、電子黒板の更なる利便性の向上が求められる。   A conventional input operation for an electronic blackboard is based on a touch operation in which an electronic pen or the like is brought into contact with the touch panel to perform an input operation, or an input operation to a notebook PC (personal computer) connected to the electronic blackboard. . For this reason, for example, when a user is standing at a position away from the touch panel and explaining meeting materials or the like, the input operation cannot be performed on the electronic blackboard as it is, and the user moves to the position of the touch panel or the notebook PC. It is inconvenient because it is necessary. Therefore, further improvement in convenience of the electronic blackboard is required.

一方、特許文献1には、どのようなジェスチャ操作に対してどのような機能(コマンド)が割り当てられるかについての具体的な開示はないが、1つのジェスチャ操作に対して1つの機能が割り当てられるだけと考えられる。このため、特許文献1の技術では、ジェスチャ操作によって実行される機能が限定される。したがって、特許文献1の技術を電子黒板に応用することを考えても、更なる利便性の向上が求められる。   On the other hand, Patent Document 1 does not specifically disclose what function (command) is assigned to which gesture operation, but one function is assigned to one gesture operation. Only considered. For this reason, in the technique of patent document 1, the function performed by gesture operation is limited. Therefore, even if it considers applying the technique of patent document 1 to an electronic blackboard, the improvement of the further convenience is calculated | required.

それゆえに、この発明の主たる目的は、新規な、電子黒板、情報処理プログラムおよび情報処理方法を提供することである。   Therefore, a main object of the present invention is to provide a novel electronic blackboard, an information processing program, and an information processing method.

この発明の他の目的は、利便性に優れる、電子黒板、情報処理プログラムおよび情報処理方法を提供することである。   Another object of the present invention is to provide an electronic blackboard, an information processing program, and an information processing method that are excellent in convenience.

第1の発明は、タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる電子黒板であって、タッチパネルに対するタッチ操作を検出するタッチ操作検出手段、電子ペンに設けられるジェスチャスイッチに対するスイッチ操作を検出するスイッチ操作検出手段、ジェスチャスイッチがオン状態であって、かつ電子ペンとタッチパネルとが非接触状態のときの当該電子ペンの動作に基づくジェスチャ操作を検出するジェスチャ操作検出手段、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報を検出する切替情報検出手段、切替情報検出手段によって検出された切替情報に基づいて、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとの、少なくとも2段階にジェスチャモードを切り替えて設定するジェスチャモード切替手段、およびジェスチャ操作検出手段によってジェスチャ操作が検出されたとき、ジェスチャモード切替手段によって設定されたジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する処理実行手段を備える、電子黒板である。   1st invention is an electronic blackboard provided with the display part in which the touch panel was provided, and an input operation is performed with an electronic pen, Comprising: The touch operation detection means which detects the touch operation with respect to a touch panel, With respect to the gesture switch provided in an electronic pen Switch operation detecting means for detecting a switch operation, gesture operation detecting means for detecting a gesture operation based on an operation of the electronic pen when the gesture switch is in an on state and the electronic pen and the touch panel are in a non-contact state, the gesture Switching information detecting means for detecting switching information for switching the function assigned to the operation, a first gesture mode in which the first function is assigned to the gesture operation based on the switching information detected by the switching information detecting means, and the gesture The second function is assigned to the operation The gesture mode switching means for switching and setting the gesture mode in at least two stages with the gesture mode, and when the gesture operation is detected by the gesture operation detecting means, the gesture operation in the gesture mode set by the gesture mode switching means It is an electronic blackboard provided with the process execution means which performs the process according to a function.

第1の発明では、電子黒板は、タッチパネルが設けられた大型の表示部を備える装置本体と電子ペンとを含む。この電子黒板は、タッチ操作検出手段、スイッチ操作検出手段およびジェスチャ操作検出手段を備え、タッチパネルに対するタッチ操作とは別に、ジェスチャスイッチがオン状態であってかつ電子ペンがタッチパネルに対して非接触の状態(タッチ検出されない状態)で行われる、電子ペンの動作に基づくジェスチャ操作によっても入力操作を行うことが可能とされる。さらに、電子黒板は、切替情報検出手段、ジェスチャモード切替手段および処理実行手段を備え、切替情報に基づいて、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとの少なくとも2段階にジェスチャモードを切り替える。そして、電子ペンの動作に基づいてジェスチャ操作が検出されたとき、設定されたジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する。つまり、ユーザが電子ペンを用いて同じジェスチャ操作を行っても、第1ジェスチャモード時と第2ジェスチャモード時とで、違う機能を実行させることが可能である。   In the first invention, the electronic blackboard includes an apparatus main body including a large display unit provided with a touch panel and an electronic pen. The electronic blackboard includes a touch operation detection unit, a switch operation detection unit, and a gesture operation detection unit. In addition to the touch operation on the touch panel, the gesture switch is in an on state and the electronic pen is not in contact with the touch panel. The input operation can also be performed by a gesture operation based on the operation of the electronic pen performed in a state where no touch is detected. The electronic blackboard further includes a switching information detection unit, a gesture mode switching unit, and a process execution unit. Based on the switching information, a first gesture mode in which a first function is assigned to the gesture operation, and a second function for the gesture operation. The gesture mode is switched to at least two stages of the second gesture mode to which is assigned. And when gesture operation is detected based on operation | movement of an electronic pen, the process according to the function of the said gesture operation in the set gesture mode is performed. That is, even if the user performs the same gesture operation using the electronic pen, it is possible to execute different functions in the first gesture mode and in the second gesture mode.

第1の発明によれば、タッチ操作だけでなく、電子ペンの動作に基づくジェスチャ操作による入力操作を可能としたので、電子黒板の利便性が向上する。また、1つのジェスチャ操作に複数の機能を割り当てることが可能なので、限られたジェスチャ数で多くの機能に対応でき、電子黒板の利便性が向上する。   According to the first invention, not only the touch operation but also the input operation based on the gesture operation based on the operation of the electronic pen can be performed, so that the convenience of the electronic blackboard is improved. In addition, since a plurality of functions can be assigned to one gesture operation, a large number of functions can be handled with a limited number of gestures, and the convenience of the electronic blackboard is improved.

また、第1の発明によれば、ジェスチャスイッチがオン状態のときの電子ペンの動作に基づいてジェスチャ操作を検出するので、ジェスチャ操作の検出ミスによる誤動作が生じ難く、また、ジェスチャ操作の検出に要する処理負担も低減される。   Further, according to the first invention, since the gesture operation is detected based on the operation of the electronic pen when the gesture switch is in the on state, it is difficult to cause a malfunction due to a detection error of the gesture operation, and it is also possible to detect the gesture operation. The processing load required is also reduced.

第2の発明は、第1の発明に従属し、切替情報検出手段は、切替情報としてタッチパネルと電子ペンとの間の距離を検出する距離検出手段を含み、ジェスチャモード切替手段は、距離検出手段によって検出された距離に基づいてジェスチャモードを切り替える。   A second invention is dependent on the first invention, the switching information detecting means includes distance detecting means for detecting a distance between the touch panel and the electronic pen as switching information, and the gesture mode switching means is the distance detecting means. The gesture mode is switched based on the distance detected by.

第2の発明では、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報として、タッチパネルと電子ペンとの間の距離を利用する。このため、ユーザは、ジェスチャモードを気にすることなく、タッチパネルとの位置関係に基づき、直感的にジェスチャ操作を行うことができる。   In 2nd invention, the distance between a touch panel and an electronic pen is utilized as switching information for switching the function allocated to gesture operation. For this reason, the user can intuitively perform a gesture operation based on the positional relationship with the touch panel without worrying about the gesture mode.

第3の発明は、第1または第2の発明に従属し、切替情報検出手段は、切替情報としてタッチパネルに対する電子ペンのペン先方向を検出するペン先方向検出手段を含み、ジェスチャモード切替手段は、ペン先方向検出手段によって検出されたペン先方向に基づいてジェスチャモードを切り替える。   A third invention is dependent on the first or second invention, the switching information detecting means includes a pen tip direction detecting means for detecting a pen tip direction of the electronic pen with respect to the touch panel as switching information, and the gesture mode switching means is The gesture mode is switched based on the pen tip direction detected by the pen tip direction detecting means.

第3の発明では、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報として、タッチパネルに対する電子ペンのペン先方向を利用する。   In 3rd invention, the pen tip direction of the electronic pen with respect to a touch panel is utilized as switching information for switching the function allocated to gesture operation.

第4の発明は、第1ないし第3のいずれかの発明に従属し、電子ペンは、複数のジェスチャスイッチを有し、切替情報検出手段は、スイッチ操作検出手段による検出結果に基づいて、切替情報として複数のジェスチャスイッチのいずれがオン状態になっているかを示すスイッチ選択パターンを検出し、ジェスチャモード切替手段は、切替情報検出手段によって検出されたスイッチ選択パターンに基づいてジェスチャモードを切り替える。   A fourth invention is dependent on any one of the first to third inventions, the electronic pen has a plurality of gesture switches, and the switching information detecting means switches based on a detection result by the switch operation detecting means. The switch selection pattern indicating which of the plurality of gesture switches is turned on as information is detected, and the gesture mode switching means switches the gesture mode based on the switch selection pattern detected by the switching information detection means.

第4の発明では、電子ペンに複数のジェスチャスイッチが設けられ、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報として、複数のジェスチャスイッチのいずれがオン状態になっているかを示すスイッチ選択パターンを利用する。ジェスチャスイッチのスイッチ選択パターンを切替情報として利用するので、切替情報の検出が容易となる。   In the fourth invention, a plurality of gesture switches are provided in the electronic pen, and a switch selection pattern indicating which of the plurality of gesture switches is turned on is used as switching information for switching a function assigned to the gesture operation. Use. Since the switch selection pattern of the gesture switch is used as switching information, it is easy to detect the switching information.

第5の発明は、第2の発明に従属し、ジェスチャモード切替手段によって切り替えられるジェスチャモードは、第1ジェスチャモードとしての近接モードと第2ジェスチャモードとしての遠隔モードとを含み、近接モード時に割り当てられる第1機能は、表示部に表示されるツールバーの移動に関する機能を含み、遠隔モード時に割り当てられる第2機能は、表示部に表示されるページの変更に関する機能を含む。   The fifth invention is dependent on the second invention, and the gesture mode switched by the gesture mode switching means includes a proximity mode as the first gesture mode and a remote mode as the second gesture mode, and is assigned in the proximity mode. The first function to be performed includes a function related to movement of a toolbar displayed on the display unit, and the second function assigned in the remote mode includes a function related to change of a page displayed on the display unit.

第5の発明では、タッチパネルと電子ペンとの間の距離に応じて、ジェスチャモードが、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードである近接モードと、ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードである遠隔モードとに切り替えられる。そして、近接モード時のジェスチャ操作に割り当てられる第1機能は、書き込みに関する機能(ツールバーの移動など)を含み、遠隔モード時のジェスチャ操作に割り当てられる第2機能は、ディスプレイに表示されるページの変更に関する機能(ページ送りなど)を含むようにされる。これによって、ユーザは、タッチパネルとの位置関係に基づいてより直感的にジェスチャ操作を行うことができ、電子黒板の利便性がより向上する。   In the fifth invention, according to the distance between the touch panel and the electronic pen, the gesture mode is the proximity mode which is the first gesture mode in which the first function is assigned to the gesture operation, and the second function is assigned to the gesture operation. To the remote mode which is the second gesture mode. The first function assigned to the gesture operation in the proximity mode includes a function related to writing (such as moving a toolbar), and the second function assigned to the gesture operation in the remote mode is a change of a page displayed on the display. Related functions (such as page feed). Accordingly, the user can perform a gesture operation more intuitively based on the positional relationship with the touch panel, and the convenience of the electronic blackboard is further improved.

第6の発明は、タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる電子黒板のプロセッサによって実行される情報処理プログラムであって、プロセッサを、タッチパネルに対するタッチ操作を検出するタッチ操作検出手段、電子ペンに設けられるジェスチャスイッチに対するスイッチ操作を検出するスイッチ操作検出手段、ジェスチャスイッチがオン状態であって、かつ電子ペンとタッチパネルとが非接触状態のときの当該電子ペンの動作に基づくジェスチャ操作を検出するジェスチャ操作検出手段、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報を検出する切替情報検出手段、切替情報検出手段によって検出された切替情報に基づいて、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとの、少なくとも2段階にジェスチャモードを切り替えて設定するジェスチャモード切替手段、およびジェスチャ操作検出手段によってジェスチャ操作が検出されたとき、ジェスチャモード切替手段によって設定されたジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する処理実行手段として機能させる、情報処理プログラムである。   A sixth aspect of the invention is an information processing program executed by a processor of an electronic blackboard that includes a display unit provided with a touch panel and performs an input operation with an electronic pen. The processor detects a touch operation on the touch panel. Operation detection means, switch operation detection means for detecting a switch operation on a gesture switch provided on the electronic pen, and operation of the electronic pen when the gesture switch is in an on state and the electronic pen and the touch panel are in a non-contact state. Gesture operation detection means for detecting a gesture operation based on it, switching information detection means for detecting switching information for switching a function assigned to the gesture operation, and first on the gesture operation based on the switching information detected by the switching information detection means. The first item to which the function is assigned When the gesture operation is detected by the gesture mode switching means for switching and setting the gesture mode in at least two stages of the gesture mode and the second gesture mode in which the second function is assigned to the gesture operation, and the gesture operation detection means, It is an information processing program that functions as a process execution unit that executes a process according to the function of the gesture operation in the gesture mode set by the gesture mode switching unit.

第6の発明によれば、第1の発明と同様の作用効果を奏し、電子黒板の利便性が向上する。   According to the sixth aspect, the same effect as the first aspect is achieved, and the convenience of the electronic blackboard is improved.

第7の発明は、タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる電子黒板における情報処理方法であって、電子黒板のプロセッサは、(a)電子ペンに設けられるジェスチャスイッチに対するスイッチ操作を検出し、(b)ジェスチャスイッチがオン状態であって、かつ電子ペンとタッチパネルとが非接触状態のときの当該電子ペンの動作に基づくジェスチャ操作を検出し、(c)ジェスチャ操作に割り当てられる機能を切り替えるための切替情報を検出し、(d)ステップ(c)で検出した切替情報に基づいて、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとのいずれかにジェスチャモードを設定し、そして(e)ステップ(b)でジェスチャ操作が検出されたとき、ステップ(d)で設定したジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する、情報処理方法である。ただし、ステップ(c)およびステップ(d)の処理は、ステップ(a)の処理の前に行うこともできる。   7th invention is the information processing method in the electronic blackboard which is provided with the display part in which the touch panel was provided, and an input operation is performed with an electronic pen, Comprising: The processor of an electronic blackboard is (a) Gesture switch provided in an electronic pen (B) detecting a gesture operation based on the operation of the electronic pen when the gesture switch is in an on state and the electronic pen and the touch panel are in a non-contact state, and (c) the gesture operation Switching information for switching the function assigned to the first gesture mode, (d) based on the switching information detected in step (c), the first gesture mode in which the first function is assigned to the gesture operation, and the first gesture operation Set the gesture mode to one of the second gesture modes to which two functions are assigned, and ( ) When the gesture operation is detected in step (b), process is executed in accordance with the functions of the gesture motion in the gesture mode set in step (d), an information processing method. However, the process of step (c) and step (d) can also be performed before the process of step (a).

第7の発明によれば、第1の発明と同様の作用効果を奏し、電子黒板の利便性が向上する。   According to the seventh aspect, the same effects as those of the first aspect are achieved, and the convenience of the electronic blackboard is improved.

この発明によれば、タッチ操作だけでなく、電子ペンの動作に基づくジェスチャ操作による入力操作を可能としたので、電子黒板の利便性が向上する。また、1つのジェスチャ操作に複数の機能を割り当てることが可能なので、限られたジェスチャ数で多くの機能に対応でき、電子黒板の利便性が向上する。   According to the present invention, not only the touch operation but also the input operation by the gesture operation based on the operation of the electronic pen can be performed, so that the convenience of the electronic blackboard is improved. In addition, since a plurality of functions can be assigned to one gesture operation, a large number of functions can be handled with a limited number of gestures, and the convenience of the electronic blackboard is improved.

また、この発明によれば、ジェスチャスイッチがオン状態のときの電子ペンの動作に基づいてジェスチャ操作を検出するので、ジェスチャ操作の検出ミスによる誤動作が生じ難く、また、ジェスチャ操作の検出に要する処理負担も低減される。   In addition, according to the present invention, since the gesture operation is detected based on the operation of the electronic pen when the gesture switch is in the on state, a malfunction due to a detection error of the gesture operation is unlikely to occur, and processing required for detecting the gesture operation The burden is also reduced.

この発明の上述の目的、その他の目的、特徴および利点は、図面を参照して行う後述の実施例の詳細な説明から一層明らかとなろう。   The above object, other objects, features, and advantages of the present invention will become more apparent from the following detailed description of embodiments with reference to the drawings.

この発明の第1実施例である電子黒板の外観を概略的に示す図解図である。BRIEF DESCRIPTION OF THE DRAWINGS It is an illustration figure which shows schematically the external appearance of the electronic blackboard which is 1st Example of this invention. 図1の装置本体の電気的な構成を示すブロック図である。It is a block diagram which shows the electrical structure of the apparatus main body of FIG. 図1の電子ペンを示す図解図であり、(A)は電子ペンの外観を概略的に示す図解図であり、(B)は電子ペンの電気的な構成を示すブロック図である。FIG. 2 is an illustrative view showing the electronic pen of FIG. 1, (A) is an illustrative view schematically showing the appearance of the electronic pen, and (B) is a block diagram showing an electrical configuration of the electronic pen. 図1の装置本体のディスプレイに表示される画面の一例を概略的に示す図解図である。FIG. 2 is an illustrative view schematically showing an example of a screen displayed on the display of the apparatus main body of FIG. 1. 図1の電子黒板において利用される切替情報の一例を説明するための図解図であって、電子黒板が適用された環境を上方から見た様子を概略的に示す。It is an illustration figure for demonstrating an example of the switching information utilized in the electronic blackboard of FIG. 1, Comprising: The mode which looked at the environment where the electronic blackboard was applied from upper direction is shown roughly. 図2に示すRAMのメモリマップの一例を示す図解図である。FIG. 3 is an illustrative view showing one example of a memory map of a RAM shown in FIG. 2. ジェスチャ機能テーブルの一例を示す図解図である。It is an illustration figure which shows an example of a gesture function table. 図2に示すCPUが実行するジェスチャ操作に基づく制御処理の一例を示すフロー図である。It is a flowchart which shows an example of the control processing based on gesture operation which CPU shown in FIG. 2 performs. この発明の第2実施例である電子黒板において利用される切替情報の一例を説明するための図解図であり、(A)は第1ジェスチャモード時の電子ペンのペン先方向を示し、(B)は第2ジェスチャモード時の電子ペンのペン先方向を示す。It is an illustration figure for demonstrating an example of the switching information utilized in the electronic blackboard which is 2nd Example of this invention, (A) shows the pen tip direction of the electronic pen at the time of 1st gesture mode, (B ) Indicates the pen tip direction of the electronic pen in the second gesture mode. 図9の電子黒板において切替情報として利用される電子ペンのペン先方向の他の例を示す図解図である。It is an illustration figure which shows the other example of the nib direction of the electronic pen utilized as switching information in the electronic blackboard of FIG. この発明の第3実施例である電子黒板が備える電子ペンの外観を概略的に示す図解図である。It is an illustration figure which shows roughly the external appearance of the electronic pen with which the electronic blackboard which is 3rd Example of this invention is provided.

[第1実施例]
図1を参照して、この発明の第1実施例である電子黒板10は、インタラクティブ・ホワイトボード(IWB:Interactive Whiteboard)または電子ホワイトボードとも呼ばれ、会議室や教育現場などの複数のユーザが集まる環境に配置される。電子黒板10は、表示面上にタッチパネル24が設けられた大型のディスプレイ(表示部)22を備える装置本体12と、装置本体12に対して入力操作を行うための電子ペン14とを含む。
[First embodiment]
Referring to FIG. 1, an electronic blackboard 10 according to a first embodiment of the present invention is also called an interactive whiteboard (IWB) or an electronic whiteboard, and is used by a plurality of users such as a conference room and an educational site. Arranged in a gathering environment. The electronic blackboard 10 includes an apparatus main body 12 including a large display (display unit) 22 having a touch panel 24 provided on a display surface, and an electronic pen 14 for performing an input operation on the apparatus main body 12.

詳細は後述するように、電子黒板10では、タッチパネル24に対するタッチ操作、つまりタッチパネル24に対して電子ペン14またはユーザの指先などが接触した状態で行われるタッチ操作によって、装置本体12に対して入力操作を行うことが可能である。また、電子黒板10では、タッチパネル24に対するタッチ操作とは別に、タッチパネル24に対して非接触の状態(タッチ検出されない状態)で行われる、電子ペン14の動作に基づくジェスチャ操作によっても、装置本体12に対して入力操作を行うことが可能である。   As will be described in detail later, in the electronic blackboard 10, an input to the apparatus main body 12 is performed by a touch operation on the touch panel 24, that is, a touch operation performed with the electronic pen 14 or a user's fingertip touching the touch panel 24. It is possible to perform operations. Further, in the electronic blackboard 10, apart from the touch operation on the touch panel 24, the apparatus main body 12 is also operated by a gesture operation based on the operation of the electronic pen 14 performed in a non-contact state (a state where no touch is detected) with respect to the touch panel 24. Can be input.

なお、タッチパネル24の検出方式によっては、タッチパネル24に対して非接触の状態でもタッチ検出可能なものもあるが、タッチ検出によるものはタッチ操作に含まれるものとする。   Note that, depending on the detection method of the touch panel 24, there may be a touch detection that can be performed even when the touch panel 24 is not in contact with the touch panel 24. However, touch detection includes the touch operation.

以下、電子黒板10の構成について具体的に説明する。電子黒板10は、装置本体12と電子ペン14とを含む。   Hereinafter, the configuration of the electronic blackboard 10 will be specifically described. The electronic blackboard 10 includes an apparatus main body 12 and an electronic pen 14.

図1に示すように、電子黒板10の装置本体12は、矩形板状の筐体20を備え、筐体20の前面側には、ディスプレイ22が設けられる。ディスプレイ22としては、たとえばLCDやEL(Electro-Luminescence)ディスプレイなどを用いることができる。ディスプレイ22の表示面(画面)の大きさは、たとえば60〜80V型である。   As shown in FIG. 1, the apparatus main body 12 of the electronic blackboard 10 includes a rectangular plate-shaped casing 20, and a display 22 is provided on the front side of the casing 20. As the display 22, for example, an LCD or an EL (Electro-Luminescence) display can be used. The size of the display surface (screen) of the display 22 is, for example, 60 to 80V type.

また、ディスプレイ22の表示面上には、タッチパネル24が設けられる。タッチパネル24は、汎用のタッチパネルであり、静電容量方式、電磁誘導方式、抵抗膜方式および赤外線方式などの任意の方式のものを用いることができる。この第1実施例では、タッチパネル24としては、静電容量方式のタッチパネルが用いられる。また、タッチパネル24のタッチ有効範囲(入力有効エリア)は、ディスプレイ22の表示面の略全域に設けられる。ユーザは、電子ペン14または指先を用いてタッチパネル24を操作(タッチ操作)することによって、装置本体12に対して入力操作を行うことができる。   A touch panel 24 is provided on the display surface of the display 22. The touch panel 24 is a general-purpose touch panel, and an arbitrary system such as a capacitance system, an electromagnetic induction system, a resistance film system, and an infrared system can be used. In the first embodiment, a capacitive touch panel is used as the touch panel 24. In addition, the touch effective range (input effective area) of the touch panel 24 is provided in substantially the entire display surface of the display 22. The user can perform an input operation on the apparatus main body 12 by operating (touching) the touch panel 24 using the electronic pen 14 or the fingertip.

また、筐体20の下端両側部のそれぞれには、脚部26が設けられ、筐体20の下端中央部には、電子ペン14を載置するためのペンホルダ28が設けられる。また、ペンホルダ28の上方、つまり筐体20の下枠の中央部には、無線通信回路40および超音波受信回路42が内蔵される。   In addition, a leg portion 26 is provided on each of the lower end side portions of the housing 20, and a pen holder 28 for placing the electronic pen 14 is provided on the lower end center portion of the housing 20. In addition, a wireless communication circuit 40 and an ultrasonic reception circuit 42 are incorporated above the pen holder 28, that is, at the center of the lower frame of the housing 20.

図2は、電子黒板10の装置本体12の電気的な構成を示すブロック図である。図2に示すように、装置本体12は、CPU30を含む。CPU30には、バス44を介してRAM32、HDD34、タッチパネル制御回路36、およびディスプレイ制御回路38などが接続される。また、タッチパネル制御回路36には、タッチパネル24が接続され、ディスプレイ制御回路38には、ディスプレイ22が接続される。   FIG. 2 is a block diagram illustrating an electrical configuration of the apparatus main body 12 of the electronic blackboard 10. As shown in FIG. 2, the apparatus main body 12 includes a CPU 30. A RAM 32, HDD 34, touch panel control circuit 36, display control circuit 38, and the like are connected to the CPU 30 via a bus 44. The touch panel control circuit 36 is connected to the touch panel 24, and the display control circuit 38 is connected to the display 22.

なお、CPU30、RAM32およびHDD34等を含む制御装置(装置本体12のコントローラ)は、タッチパネル24およびディスプレイ22等を保持する筐体20(図1参照)に内蔵されていてもよいし、筐体20の外部に別体として設けられていてもよい(外付けでもよい)。   Note that a control device (a controller of the apparatus main body 12) including the CPU 30, the RAM 32, the HDD 34, and the like may be incorporated in the casing 20 (see FIG. 1) that holds the touch panel 24, the display 22, and the like. May be provided as a separate body (may be externally attached).

CPU30は、装置本体12(延いては電子黒板10)の全体的な制御を司る。RAM32は、CPU30のワーク領域およびバッファ領域として用いられる。HDD34は、不揮発性のメモリであり、装置本体12のオペレーティングシステムや各種のアプリケーションプログラム等の制御プログラムを記憶したり、装置本体12で使用する各種のデータを記憶したりする。CPU30は、HDD34か読み出した制御プログラムおよびデータをRAM32に書き込み(記憶して)、RAM32に記憶された制御プログラムに従って装置本体12を構成する各部の制御を実行する。ただし、HDD34に代えて、ROMやフラッシュメモリのような他の不揮発性のメモリを設けるようにしてもよい。   The CPU 30 governs overall control of the apparatus main body 12 (and thus the electronic blackboard 10). The RAM 32 is used as a work area and a buffer area for the CPU 30. The HDD 34 is a nonvolatile memory, and stores a control program such as an operating system of the apparatus main body 12 and various application programs, and stores various data used in the apparatus main body 12. The CPU 30 writes (stores) the control program and data read from the HDD 34 in the RAM 32, and executes control of each unit constituting the apparatus main body 12 according to the control program stored in the RAM 32. However, instead of the HDD 34, other nonvolatile memories such as a ROM and a flash memory may be provided.

タッチパネル制御回路36は、タッチパネル24に必要な電圧などを付与すると共に、タッチパネル24のタッチ有効範囲内でのタッチ操作(タッチ入力)を検出して、そのタッチ操作の位置を示すタッチ座標データをCPU30に出力する。CPU30は、タッチパネル制御回路36から入力されたタッチ座標データに基づいて、ユーザが描画した手書きの文字や図形などの画像データを生成したり、ユーザがどの機能ボタンをタッチしたかを判断したりする。   The touch panel control circuit 36 applies a necessary voltage to the touch panel 24, detects a touch operation (touch input) within the touch effective range of the touch panel 24, and outputs touch coordinate data indicating the position of the touch operation to the CPU 30. Output to. The CPU 30 generates image data such as handwritten characters and figures drawn by the user based on the touch coordinate data input from the touch panel control circuit 36, and determines which function button the user has touched. .

ディスプレイ制御回路38は、GPUおよびVRAMなどを含む。GPUは、CPU30の指示の下、RAM32に記憶された描画データ94bおよび画像生成データ94e(図6参照)を用いて、ディスプレイ22に表示するための表示画像データをVRAMに生成し、生成した表示画像データをディスプレイ22に出力する。したがって、ディスプレイ22には、たとえば、ユーザが電子ペン14を用いたタッチ操作によって入力した文字や図形などの画像が表示される。   The display control circuit 38 includes a GPU and a VRAM. Under the instruction of the CPU 30, the GPU uses the drawing data 94b and the image generation data 94e (see FIG. 6) stored in the RAM 32 to generate display image data to be displayed on the display 22 in the VRAM, and generates the generated display. The image data is output to the display 22. Therefore, for example, an image such as a character or a graphic input by the user through a touch operation using the electronic pen 14 is displayed on the display 22.

また、CPU30には、バス44を介して無線通信回路40および超音波受信回路42が接続される。無線通信回路40は、電子ペン14との間で電波(赤外線などでもよい)による無線通信を行う。すなわち、無線通信回路40は、電子ペン14への通信データを無線信号(電波信号)に変調してアンテナから送信し、また、電子ペン14からの無線信号を同じアンテナで受信して通信データに復調する。また、超音波受信回路42は、電子ペン14からの超音波信号を受信する。後述するように、無線通信回路40および超音波受信回路42は、タッチパネル24(装置本体12)と電子ペン14との間の距離を測定するための距離検出手段の一部として機能する。   In addition, a wireless communication circuit 40 and an ultrasonic reception circuit 42 are connected to the CPU 30 via a bus 44. The wireless communication circuit 40 performs wireless communication with the electronic pen 14 by radio waves (may be infrared rays or the like). That is, the wireless communication circuit 40 modulates communication data for the electronic pen 14 into a wireless signal (radio wave signal) and transmits it from the antenna, and receives a wireless signal from the electronic pen 14 through the same antenna and converts it into communication data. Demodulate. In addition, the ultrasonic receiving circuit 42 receives an ultrasonic signal from the electronic pen 14. As will be described later, the wireless communication circuit 40 and the ultrasonic wave reception circuit 42 function as part of a distance detection unit for measuring the distance between the touch panel 24 (device main body 12) and the electronic pen 14.

図3(A)に示すように、電子ペン14は、略円筒状のペン本体50を備える。ペン本体50の先端(ペン先)には、ペン先スイッチ52が設けられ、ペン本体50の先端部外面には、ジェスチャスイッチ54が設けられる。   As shown in FIG. 3A, the electronic pen 14 includes a pen body 50 having a substantially cylindrical shape. A pen tip switch 52 is provided at the tip (pen tip) of the pen body 50, and a gesture switch 54 is provided on the outer surface of the tip portion of the pen body 50.

ペン先スイッチ52は、ユーザが電子ペン14のペン先を対象物(タッチパネル24)に接触させたときに、オン状態になり、ペン先に何も接触していないときには、オフ状態となる機械式のスイッチである。つまり、ペン先スイッチ52は、ユーザがタッチパネル24に対してタッチ操作を行っているときに、オン状態となる。ただし、ペン先スイッチ52は、機械式のスイッチに限定される必要は無く、光学式のスイッチ等を用いることもできる。   The pen point switch 52 is turned on when the user brings the pen point of the electronic pen 14 into contact with the object (touch panel 24), and is turned off when nothing is in contact with the pen point. It is a switch. That is, the pen tip switch 52 is turned on when the user is performing a touch operation on the touch panel 24. However, the nib switch 52 need not be limited to a mechanical switch, and an optical switch or the like can also be used.

ジェスチャスイッチ54は、ジェスチャ操作の開始を示すために用いられる押しボタンスイッチである。ジェスチャスイッチ54は、ユーザによって押下されているときに、オン状態となる。そして、後述のように、ジェスチャスイッチ54がオン状態のときの電子ペン14の所定の動作が、ジェスチャ操作として検出される。ジェスチャスイッチ54は、たとえば、ペンで文字を書くときのようにユーザが電子ペン14を把持したとき(ペン持ちしたとき)に、人差し指または親指で操作し易い位置に配置される。ただし、ジェスチャスイッチ54の配置位置は特に限定されるものではない。   The gesture switch 54 is a push button switch used to indicate the start of a gesture operation. The gesture switch 54 is turned on when being pressed by the user. As will be described later, a predetermined operation of the electronic pen 14 when the gesture switch 54 is on is detected as a gesture operation. The gesture switch 54 is disposed at a position where the user can easily operate with the index finger or thumb when the user holds the electronic pen 14 (when holding the pen), for example, when writing a character with a pen. However, the arrangement position of the gesture switch 54 is not particularly limited.

図3(B)は、電子ペン14の電気的な構成を示すブロック図である。図3(B)に示すように、電子ペン14は、制御回路56を含む。制御回路56には、バス70を介して、メモリ58、無線通信回路60、ペン先スイッチ検出回路62、ジェスチャスイッチ検出回路64、超音波発信回路66および6軸センサ68等が接続される。   FIG. 3B is a block diagram showing an electrical configuration of the electronic pen 14. As shown in FIG. 3B, the electronic pen 14 includes a control circuit 56. A memory 58, a wireless communication circuit 60, a pen tip switch detection circuit 62, a gesture switch detection circuit 64, an ultrasonic transmission circuit 66, a 6-axis sensor 68, and the like are connected to the control circuit 56 via a bus 70.

制御回路56は、電子ペン14の全体的な制御を司る。メモリ58は、ROMやEEPROM(登録商標)のような不揮発性のメモリであり、当該メモリ58を内蔵する電子ペン14に設定された識別情報などを記憶する。無線通信回路60は、装置本体12との間で電波(赤外線などでもよい)による無線通信を行う。すなわち、無線通信回路60は、装置本体12への通信データを無線信号に変調してアンテナから送信し、また、装置本体12からの無線信号を同じアンテナで受信して通信データに復調する。   The control circuit 56 governs overall control of the electronic pen 14. The memory 58 is a non-volatile memory such as a ROM or EEPROM (registered trademark), and stores identification information set in the electronic pen 14 in which the memory 58 is built. The wireless communication circuit 60 performs wireless communication with the apparatus main body 12 using radio waves (may be infrared rays or the like). That is, the wireless communication circuit 60 modulates communication data to the apparatus main body 12 into a radio signal and transmits it from the antenna, and receives a radio signal from the apparatus main body 12 by the same antenna and demodulates the communication data.

ペン先スイッチ検出回路62は、ペン先スイッチ52のオン状態およびオフ状態を検出するための回路である。制御回路56は、ペン先スイッチ検出回路62によってペン先スイッチ52がオン状態となったことが検出されると、その検出情報をメモリ58に記憶された識別情報と共に無線通信回路60を介して装置本体12に送信する。   The pen tip switch detection circuit 62 is a circuit for detecting an on state and an off state of the pen tip switch 52. When it is detected by the nib switch detection circuit 62 that the nib switch 52 is turned on, the control circuit 56 transmits the detected information together with the identification information stored in the memory 58 via the wireless communication circuit 60. Transmit to the main body 12.

ジェスチャスイッチ検出回路64は、ジェスチャスイッチ54のオン状態およびオフ状態を検出するための回路である。制御回路56は、ジェスチャスイッチ検出回路64によってジェスチャスイッチ54がオン状態となったことが検出されると、その検出情報をメモリ58に記憶された識別情報と共に無線通信回路60を介して装置本体12に送信する。   The gesture switch detection circuit 64 is a circuit for detecting the on state and the off state of the gesture switch 54. When the gesture switch detection circuit 64 detects that the gesture switch 54 is turned on, the control circuit 56 sends the detection information together with the identification information stored in the memory 58 via the wireless communication circuit 60. Send to.

また、超音波発信回路66は、装置本体12に対して超音波信号を発信するための回路である。この超音波発信回路66は、無線通信回路60と共に、タッチパネル24と電子ペン14との間の距離を測定するための距離検出手段の一部として機能する。   The ultrasonic transmission circuit 66 is a circuit for transmitting an ultrasonic signal to the apparatus main body 12. This ultrasonic transmission circuit 66 functions as a part of the distance detection means for measuring the distance between the touch panel 24 and the electronic pen 14 together with the wireless communication circuit 60.

ここで、タッチパネル24と電子ペン14との間の距離(水平距離)を検出する方法について説明する。この第1実施例では、超音波信号の発信から受信までにかかる信号到達時間に基づいて、タッチパネル24と電子ペン14との間の距離が算出される。この際には、電波信号と超音波信号との伝播速度の差が利用される。なお、タッチパネル24と電子ペン14との間の距離情報は、後述のように、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報として用いられる。   Here, a method for detecting the distance (horizontal distance) between the touch panel 24 and the electronic pen 14 will be described. In the first embodiment, the distance between the touch panel 24 and the electronic pen 14 is calculated based on the signal arrival time from the transmission to the reception of the ultrasonic signal. At this time, a difference in propagation speed between the radio wave signal and the ultrasonic signal is used. The distance information between the touch panel 24 and the electronic pen 14 is used as switching information for switching functions assigned to gesture operations, as will be described later.

具体的には、タッチパネル24と電子ペン14との間の距離を検出する際には、無線通信回路60からの電波信号と超音波発信回路66からの超音波信号とが、電子ペン14から同時に発信される。装置本体12の無線通信回路40は、無線通信回路60が発信した電波信号を受信し、その受信時刻をCPU30に出力する。また、装置本体12の超音波受信回路42は、超音波発信回路66が発信した超音波信号を受信し、その受信時刻をCPU30に出力する。   Specifically, when detecting the distance between the touch panel 24 and the electronic pen 14, the radio signal from the wireless communication circuit 60 and the ultrasonic signal from the ultrasonic transmission circuit 66 are simultaneously transmitted from the electronic pen 14. Called. The wireless communication circuit 40 of the apparatus body 12 receives the radio signal transmitted by the wireless communication circuit 60 and outputs the reception time to the CPU 30. Further, the ultrasonic receiving circuit 42 of the apparatus main body 12 receives the ultrasonic signal transmitted from the ultrasonic transmitting circuit 66 and outputs the reception time to the CPU 30.

ここで、電波信号の伝播速度(約30万km/sec)は、超音波信号の伝播速度(約340m/sec)と比較して十分に大きいので、電波信号の発信から受信までにかかる信号到達時間は0と見做すことができる。すなわち、無線通信回路40における電波信号の受信時刻は、仮想的に超音波信号の送信時刻と見做すことができる。したがって、CPU30は、電波信号の受信時刻と超音波信号の受信時刻との時間差を、超音波信号の発信から受信までにかかる信号到達時間として検出する。そして、CPU30は、この超音波信号の信号到達時間に基づいて、超音波発信回路66から超音波受信回路42までの距離を、タッチパネル24と電子ペン14との間の距離として算出(検出)し、RAM32等に一時記憶する。   Here, the propagation speed of the radio signal (about 300,000 km / sec) is sufficiently larger than the propagation speed of the ultrasonic signal (about 340 m / sec), so that the signal arrival from the transmission to the reception of the radio signal is reached. Time can be assumed to be zero. In other words, the reception time of the radio signal in the wireless communication circuit 40 can be virtually regarded as the transmission time of the ultrasonic signal. Therefore, the CPU 30 detects the time difference between the reception time of the radio wave signal and the reception time of the ultrasonic signal as the signal arrival time from transmission of the ultrasonic signal to reception. Then, the CPU 30 calculates (detects) the distance from the ultrasonic transmission circuit 66 to the ultrasonic reception circuit 42 as the distance between the touch panel 24 and the electronic pen 14 based on the signal arrival time of the ultrasonic signal. , Temporarily stored in the RAM 32 or the like.

このようなタッチパネル24と電子ペン14との間の距離検出処理(切替情報検出処理)は、所定時間(たとえば数秒)毎に行われる。すなわち、この第1実施例では、CPU30は、タッチパネル24と電子ペン14との間の距離を常に把握している。   Such distance detection processing (switching information detection processing) between the touch panel 24 and the electronic pen 14 is performed every predetermined time (for example, several seconds). That is, in the first embodiment, the CPU 30 always knows the distance between the touch panel 24 and the electronic pen 14.

なお、ここで算出されるタッチパネル24と電子ペン14との間の距離は、厳密には水平距離ではないが、ユーザが会議室内を移動することによる電子ペン14の水平方向の動きの大きさと比較して、電子ペン14の鉛直方向(上下方向)の動きは小さいと考えられるので、上記の算出距離をタッチパネル24と電子ペン14との間の水平距離として扱うものとする。   Note that the distance between the touch panel 24 and the electronic pen 14 calculated here is not strictly a horizontal distance, but is compared with the magnitude of the horizontal movement of the electronic pen 14 caused by the user moving in the conference room. Since the movement of the electronic pen 14 in the vertical direction (vertical direction) is considered to be small, the calculated distance is treated as the horizontal distance between the touch panel 24 and the electronic pen 14.

また、タッチパネル24と電子ペン14との間の距離を検出する方法は、上記のような方法に限定されるものではなく、公知の距離検出方法を適宜採用できる。たとえば、装置本体12の無線通信回路40が電子ペン14の無線通信回路60から受信した電波信号の電波強度に基づいて、タッチパネル24と電子ペン14との間の距離を検出することもできる。   Moreover, the method of detecting the distance between the touch panel 24 and the electronic pen 14 is not limited to the above method, and a known distance detection method can be appropriately employed. For example, the distance between the touch panel 24 and the electronic pen 14 can be detected based on the radio wave intensity of the radio signal received by the wireless communication circuit 40 of the apparatus body 12 from the wireless communication circuit 60 of the electronic pen 14.

さらに、タッチパネル24と電子ペン14との間の距離だけでなく、電子ペン14の平面位置座標を検出するようにしてもよい。電子ペン14の平面位置座標を検出する場合には、たとえば、装置本体12の筐体20の下枠両端部のそれぞれに超音波受信回路42を設けるようにする。そして、超音波発信回路66と2つの超音波受信回路42のそれぞれとの間の距離を検出し、これら2つの距離に基づいて、電子ペン14の平面位置座標を特定するようにするとよい。   Furthermore, not only the distance between the touch panel 24 and the electronic pen 14 but also the plane position coordinates of the electronic pen 14 may be detected. When detecting the planar position coordinates of the electronic pen 14, for example, the ultrasonic receiving circuits 42 are provided at both ends of the lower frame of the casing 20 of the apparatus body 12. Then, the distance between the ultrasonic transmission circuit 66 and each of the two ultrasonic reception circuits 42 may be detected, and the plane position coordinates of the electronic pen 14 may be specified based on these two distances.

図3(B)の説明に戻って、6軸センサ68は、タッチパネル24に対して非接触の状態のときの電子ペン14の動作(移動状態)を検出するためのセンサであって、加速度センサ68aとジャイロセンサ(角速度センサ)68bとを含む。加速度センサ68aは、互いに直交する3軸方向の加速度を検出する3軸加速度センサであり、ジャイロセンサ68bは、互いに直交する3軸周りの回転角速度を検出する3軸ジャイロセンサである。   Returning to the description of FIG. 3B, the 6-axis sensor 68 is a sensor for detecting the operation (moving state) of the electronic pen 14 when the touch panel 24 is in a non-contact state, and is an acceleration sensor. 68a and a gyro sensor (angular velocity sensor) 68b. The acceleration sensor 68a is a triaxial acceleration sensor that detects acceleration in three axial directions orthogonal to each other, and the gyro sensor 68b is a triaxial gyro sensor that detects rotational angular velocities around the three axes orthogonal to each other.

6軸センサ68は、周知のセンサであるので詳細な説明は省略するが、加速度センサ68aによって検出される加速度は、加速度センサ68aの左右(X軸方向)、上下(Y軸方向)および前後(Z軸方向)の移動に伴う変位値である。すなわち、加速度データを積分処理等することによって、所定時点の電子ペン14の姿勢(3次元基準位置)を基準とした、電子ペン14の左右、上下および前後の移動量を算出できる。一方、ジャイロセンサ68bによって検出される角速度は、当該ジャイロセンサ68bの左右方向の軸周り(X軸周り)、上下方向の軸周り(Y軸周り)および前後方向の軸周り(Z軸周り)の回転に伴う変位値である。すなわち、角速度データを積分処理等することによって、所定時点の電子ペン14の姿勢を基準とした、電子ペン14のX軸周り、Y軸周りおよびZ軸周りの回転量を算出できる。したがって、6軸センサ68によって検出される加速度データおよび角速度データに基づいて、電子ペン14の各方向への移動量および回転量を算出でき、電子ペン14の様々な動作を検出できる。   Since the six-axis sensor 68 is a well-known sensor, a detailed description thereof will be omitted, but the acceleration detected by the acceleration sensor 68a is the left and right (X-axis direction), up-and-down (Y-axis direction), and front-and-back (in the Y-axis direction). This is the displacement value accompanying the movement in the Z-axis direction). That is, by integrating the acceleration data or the like, it is possible to calculate the movement amount of the electronic pen 14 in the left, right, up, down, and front and rear directions based on the posture (three-dimensional reference position) of the electronic pen 14 at a predetermined time. On the other hand, the angular velocity detected by the gyro sensor 68b is around the horizontal axis (X axis), the vertical axis (Y axis), and the front / rear axis (Z axis) of the gyro sensor 68b. Displacement value associated with rotation. In other words, by integrating the angular velocity data, the rotation amount of the electronic pen 14 around the X axis, around the Y axis, and around the Z axis can be calculated based on the posture of the electronic pen 14 at a predetermined time. Therefore, the movement amount and the rotation amount of the electronic pen 14 in each direction can be calculated based on the acceleration data and the angular velocity data detected by the six-axis sensor 68, and various operations of the electronic pen 14 can be detected.

電子ペン14の制御回路56は、ジェスチャスイッチ54がオン状態となったことが検出されると、電子ペン14の動作に応じた加速度データおよび角速度データを6軸センサ68から取得する。そして、電子ペン14の制御回路56は、ジェスチャスイッチ54がオン状態であることを示す検出情報(スイッチ検出情報)と共に、ジェスチャスイッチ54がオン状態中の所定時間分の加速度データおよび角速度データを、無線通信回路60を介して装置本体12に送信する。   When it is detected that the gesture switch 54 is turned on, the control circuit 56 of the electronic pen 14 acquires acceleration data and angular velocity data corresponding to the operation of the electronic pen 14 from the six-axis sensor 68. Then, the control circuit 56 of the electronic pen 14 includes acceleration data and angular velocity data for a predetermined time during which the gesture switch 54 is on, together with detection information (switch detection information) indicating that the gesture switch 54 is on. The data is transmitted to the apparatus main body 12 via the wireless communication circuit 60.

装置本体12のCPU30は、無線通信回路40を介して受信した加速度データおよび角速度データに基づいて、先ず電子ペン14の3次元基準位置を設定し、その3次元基準位置からの電子ペン14の動作を検出する。そして、その電子ペン14の動作が示すジェスチャ操作に割り当てられた機能(コマンド)に応じた処理を実行する。したがって、ユーザは、電子ペン14のジェスチャスイッチ54を押下しながら、電子ペン14を右方向に動かす(右移動)等の所定のジェスチャ操作を行うことによって、装置本体12に対して所定の入力操作を行うことができる。   The CPU 30 of the apparatus main body 12 first sets the three-dimensional reference position of the electronic pen 14 based on the acceleration data and the angular velocity data received via the wireless communication circuit 40, and the operation of the electronic pen 14 from the three-dimensional reference position. Is detected. And the process according to the function (command) allocated to gesture operation which the operation | movement of the electronic pen 14 shows is performed. Therefore, the user performs a predetermined input operation on the apparatus main body 12 by performing a predetermined gesture operation such as moving the electronic pen 14 to the right (moving right) while pressing the gesture switch 54 of the electronic pen 14. It can be performed.

ただし、ペン先スイッチ52とジェスチャスイッチ54とが同時にオン状態になっているときは、ユーザがタッチパネル24を用いて書き込みをしているときに誤ってジェスチャスイッチ54を押下してしまっていることが想定されるので、タッチ操作の検出を優先して、ジェスチャ操作の検出は実行しないものとする。   However, when the nib switch 52 and the gesture switch 54 are on at the same time, the user may accidentally press the gesture switch 54 while writing using the touch panel 24. Since it is assumed, the detection of the touch operation is prioritized and the detection of the gesture operation is not executed.

このような電子黒板10は、電子ペン14などによる描画を実現する描画ソフト(ペンソフト)を含む種々のアプリケーションソフトを実行することが可能である。図4に示すように、描画ソフトが起動されると、装置本体12のディスプレイ22の表示面には、ユーザによる描画が可能な描画領域80が画面表示される。ユーザは、この描画領域80に対してタッチパネル24を用いてタッチ操作を行うことにより、手書きの文字や図形などを描画できる。また、ディスプレイ22の表示面には、ユーザが利用する機能を指定するための各種の機能ボタンが配置されたツールバー82、ページ番号の表示とシート送りボタンとを含むページ表示84、およびシートの一覧がサムネイルで表示されるページ一覧表示86の領域が、ユーザによる入力操作に応じて、描画領域80と区分された状態で画面表示される。   Such an electronic blackboard 10 can execute various application software including drawing software (pen software) for realizing drawing with the electronic pen 14 or the like. As shown in FIG. 4, when the drawing software is activated, a drawing area 80 that can be drawn by the user is displayed on the screen of the display 22 of the apparatus main body 12. The user can draw handwritten characters or figures by touching the drawing area 80 using the touch panel 24. On the display surface of the display 22, a tool bar 82 on which various function buttons for designating a function to be used by the user are arranged, a page display 84 including a page number display and a sheet feed button, and a list of sheets. Is displayed on the screen in a state separated from the drawing area 80 in accordance with the input operation by the user.

電子黒板10の利用方法としては、会議または講義などにおいて、ユーザが装置本体12の近傍に立って、ディスプレイ22に表示した会議資料または教材などに対して書き込みをしながらプレゼンテーションまたは講義を進めたり、ユーザがタッチパネル24から離れた位置に立って、ディスプレイ22に表示した会議資料または教材などの説明を行ったりする状況が想定される。   As a method of using the electronic blackboard 10, in a meeting or lecture, a user stands near the apparatus main body 12 and proceeds with a presentation or lecture while writing on meeting materials or teaching materials displayed on the display 22. A situation is assumed in which the user stands at a position away from the touch panel 24 and explains conference materials or teaching materials displayed on the display 22.

ここで、たとえば、ユーザがタッチパネル24を用いて書き込みを行う場合、つまりユーザがタッチパネル24の近傍にいる場合には、書き込みに関する機能がジェスチャ操作に対して割り当てられていると便利である。一方、ユーザがタッチパネル24から離れた位置にいる場合には、すぐに書き込みを行うことはないので、書き込みに関する機能は必要性が低い。つまり、タッチパネル24に対するユーザの位置によって、ユーザが必要とする機能は異なり、ジェスチャ操作に求められる機能が変わる。   Here, for example, when the user performs writing using the touch panel 24, that is, when the user is in the vicinity of the touch panel 24, it is convenient that a function related to writing is assigned to the gesture operation. On the other hand, when the user is at a position away from the touch panel 24, writing is not performed immediately, so that a function relating to writing is less necessary. That is, depending on the position of the user with respect to the touch panel 24, functions required by the user are different, and functions required for the gesture operation are changed.

そこで、この第1実施例では、タッチパネル24と電子ペン14との間の距離(水平距離)に応じて、ジェスチャ操作に割り当てる機能を変更するようにし、1つのジェスチャ操作で2種類以上の操作を行うことを可能にしている。つまり、1つのジェスチャ操作に対して複数の機能を割り当てている。   Therefore, in the first embodiment, the function assigned to the gesture operation is changed according to the distance (horizontal distance) between the touch panel 24 and the electronic pen 14, and two or more types of operations can be performed with one gesture operation. Making it possible to do. That is, a plurality of functions are assigned to one gesture operation.

具体的は、この第1実施例では、タッチパネル24と電子ペン14との間の距離に応じて、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードである近接モードと、ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードである遠隔モードとの2段階のジェスチャモードに切り替えるようにしている。つまり、タッチパネル24と電子ペン14との間の距離を、ジェスチャ操作に割り当てる機能を切り替えるための指標となる切替情報として利用する。   Specifically, in the first embodiment, the proximity mode, which is the first gesture mode in which the first function is assigned to the gesture operation, according to the distance between the touch panel 24 and the electronic pen 14, and the second in the gesture operation. Switching to a two-stage gesture mode with a remote mode, which is a second gesture mode to which functions are assigned, is performed. That is, the distance between the touch panel 24 and the electronic pen 14 is used as switching information that serves as an index for switching the function assigned to the gesture operation.

図5は、電子黒板10が適用された環境を上方から見た様子を概略的に示す図解図である。図5に示すように、装置本体12の前方には、タッチパネル24からの距離が小さい近接領域R1と、タッチパネル24からの距離が大きい遠隔領域R2とが仮想的に設定される。ここで、近接領域R1は、書き込みを行うときにユーザが存在すると想定される領域、つまりユーザがタッチパネル24に対してすぐにタッチ操作を行うことが可能な領域に設定される。遠隔領域R2は、近接領域R1の外側に設定される。   FIG. 5 is an illustrative view schematically showing a state in which the environment to which the electronic blackboard 10 is applied is viewed from above. As shown in FIG. 5, a proximity area R1 having a small distance from the touch panel 24 and a remote area R2 having a large distance from the touch panel 24 are virtually set in front of the apparatus main body 12. Here, the proximity region R <b> 1 is set to a region where a user is assumed to exist when writing, that is, a region where the user can immediately perform a touch operation on the touch panel 24. The remote area R2 is set outside the proximity area R1.

この第1実施例では、上述のように、超音波受信回路42で受信される超音波信号の信号到達時間に基づいて、タッチパネル24と電子ペン14との間の距離を算出する。このため、近接領域R1は、装置本体12の筐体20の下枠中央部(超音波受信回路42の位置)を中心とする半円状の領域として設定され、その半径Lは、たとえば1mに設定される。   In the first embodiment, as described above, the distance between the touch panel 24 and the electronic pen 14 is calculated based on the signal arrival time of the ultrasonic signal received by the ultrasonic receiving circuit 42. For this reason, the proximity region R1 is set as a semicircular region centered on the lower frame central portion (position of the ultrasonic receiving circuit 42) of the casing 20 of the apparatus main body 12, and the radius L thereof is set to 1 m, for example. Is set.

ただし、近接領域R1の形状および大きさ等の設定態様は、上記の態様に限定されない。たとえば、近接領域R1は、装置本体12の前方に設定される矩形状の領域であってもよい。なお、この場合には、電子ペン14が近接領域R1および遠隔領域R2のどちらに存在するかを判断するために、電子ペン14の平面位置座標を検出する必要がある。   However, the setting mode such as the shape and size of the proximity region R1 is not limited to the above mode. For example, the proximity region R1 may be a rectangular region set in front of the apparatus main body 12. In this case, it is necessary to detect the plane position coordinates of the electronic pen 14 in order to determine whether the electronic pen 14 exists in the proximity region R1 or the remote region R2.

そして、電子ペン14(延いてはユーザ)が近接領域R1内に存在する場合には、ジェスチャモードは近接モードに設定され、電子ペン14の動作に基づくジェスチャ操作には、第1機能が割り当てられる。一方、電子ペン14が遠隔領域R2内(近接領域R1外)に存在する場合には、ジェスチャモードは遠隔モードに設定され、電子ペン14の動作に基づくジェスチャ操作には、第2機能が割り当てられる。したがって、ユーザが同じジェスチャ操作を行っても、近接モード時と遠隔モード時とでは、違う機能が実行される(図7参照)。   When the electronic pen 14 (and thus the user) is present in the proximity region R1, the gesture mode is set to the proximity mode, and the first function is assigned to the gesture operation based on the operation of the electronic pen 14. . On the other hand, when the electronic pen 14 exists in the remote area R2 (outside the proximity area R1), the gesture mode is set to the remote mode, and the second function is assigned to the gesture operation based on the operation of the electronic pen 14. . Therefore, even if the user performs the same gesture operation, different functions are executed in the proximity mode and the remote mode (see FIG. 7).

ここで、近接モード時、つまりユーザがタッチパネル24の近傍にいる場合には、タッチパネル24を用いた書き込みが行われる可能性が高い。このため、ジェスチャ操作に割り当てる第1機能は、主として書き込みに関する機能(ツールバー82の移動など)であることが好ましい。また、遠隔モード時、つまりユーザがタッチパネル24から離れた位置にいる場合には、ディスプレイ22に表示した会議資料などの説明を行っている可能性が高い。このため、ジェスチャ操作に割り当てる第2機能は、主としてディスプレイ22に表示されるページの変更に関する機能(ページ送りなど)であることが好ましい。なお、遠隔モード時においては、ジェスチャ操作に関係なく、自動的にツールバー82を隠す(非表示にする)ようにしてもよい。   Here, in the proximity mode, that is, when the user is in the vicinity of the touch panel 24, there is a high possibility that writing using the touch panel 24 is performed. For this reason, it is preferable that the first function assigned to the gesture operation is mainly a function related to writing (movement of the tool bar 82 or the like). In the remote mode, that is, when the user is away from the touch panel 24, there is a high possibility that the conference material displayed on the display 22 is explained. For this reason, it is preferable that the 2nd function allocated to gesture operation is a function (Page feed etc.) mainly regarding the change of the page displayed on the display 22. FIG. In the remote mode, the toolbar 82 may be automatically hidden (hidden) regardless of the gesture operation.

このように、ユーザがタッチパネル24の近傍にいるときには、ジェスチャ操作によって書き込みに関する機能が実行され、ユーザがタッチパネル24から離れた位置にいるときには、ジェスチャ操作によってページの変更に関する機能が実行されることは、ユーザにとって直感的に受け入れ易い自然な動作である。また、近接モードと遠隔モードとの切り替えは、ユーザによる入力操作とは関係なく、タッチパネル24と電子ペン14との間の距離に応じて実行される。したがって、ユーザは、ジェスチャモードを気にすることなく、タッチパネル24との位置関係に基づき、直感的にジェスチャ操作を行うことができる。   As described above, when the user is in the vicinity of the touch panel 24, the function related to writing is executed by the gesture operation, and when the user is located away from the touch panel 24, the function related to the page change is executed by the gesture operation. This is a natural operation that is intuitively acceptable to the user. In addition, switching between the proximity mode and the remote mode is executed according to the distance between the touch panel 24 and the electronic pen 14 regardless of the input operation by the user. Therefore, the user can intuitively perform a gesture operation based on the positional relationship with the touch panel 24 without worrying about the gesture mode.

図6は、図2に示した装置本体12のRAM32のメモリマップ90の一例を示す。図6に示すように、RAM32は、プログラム記憶領域92およびデータ記憶領域94を含む。プログラム記憶領域92には、タッチ操作検出プログラム92a、描画プログラム92b、切替情報検出プログラム92c、モード切替プログラム92d、ジェスチャ操作検出プログラム92eおよび表示プログラム92fなどの制御プログラムが記憶される。   FIG. 6 shows an example of the memory map 90 of the RAM 32 of the apparatus main body 12 shown in FIG. As shown in FIG. 6, the RAM 32 includes a program storage area 92 and a data storage area 94. The program storage area 92 stores control programs such as a touch operation detection program 92a, a drawing program 92b, a switching information detection program 92c, a mode switching program 92d, a gesture operation detection program 92e, and a display program 92f.

タッチ操作検出プログラム92aは、タッチパネル制御回路36から出力されたタッチ座標データに基づいて、装置本体12のタッチパネル24上(ディスプレイ22の表示面)にユーザが電子ペン14などを用いて文字や図形などを描画している操作を検出したり、装置本体12のディスプレイ22の表示面に表示されたツールバー82などに含まれる各種の機能ボタン等に対する操作を検出したりするためのプログラムである。   The touch operation detection program 92a is based on the touch coordinate data output from the touch panel control circuit 36, and the user uses the electronic pen 14 or the like on the touch panel 24 (display surface of the display 22) of the apparatus body 12 to display characters, figures, and the like. Is a program for detecting operations for drawing various functions buttons and the like, and detecting operations for various function buttons included in the tool bar 82 displayed on the display surface of the display 22 of the apparatus main body 12.

描画プログラム92bは、タッチパネル制御回路36から出力されたタッチ座標データ(描画データ94b)および画像生成データ94eに基づいて表示画像データを生成し、ユーザが電子ペン14などで入力した文字や図形などを含む画面をディスプレイ22に表示するためのプログラムである。   The drawing program 92b generates display image data based on the touch coordinate data (drawing data 94b) and the image generation data 94e output from the touch panel control circuit 36, and displays characters or figures input by the user with the electronic pen 14 or the like. This is a program for displaying a screen including the image on the display 22.

切替情報検出プログラム92cは、ジェスチャモードを切り替えるための切替情報を検出するためのプログラムである。この第1実施例では、切替情報検出プログラム92cは、無線通信回路40による電波信号の受信時刻と超音波受信回路42による超音波信号の受信時刻との時間差に基づいて、タッチパネル24と電子ペン14との間の距離を切替情報として検出するプログラムである。   The switching information detection program 92c is a program for detecting switching information for switching the gesture mode. In the first embodiment, the switching information detection program 92c is configured so that the touch panel 24 and the electronic pen 14 are based on the time difference between the reception time of the radio wave signal by the wireless communication circuit 40 and the reception time of the ultrasonic signal by the ultrasonic reception circuit 42. Is a program for detecting the distance between the two as switching information.

モード切替プログラム92dは、切替情報検出プログラム92cによって検出された切替情報に基づいて、ジェスチャモードを切り替えるためのプログラムである。   The mode switching program 92d is a program for switching the gesture mode based on the switching information detected by the switching information detection program 92c.

ジェスチャ操作検出プログラム92eは、ジェスチャ操作を検出するためのプログラムであり、6軸センサ68からの加速度データおよび角速度データに基づいて電子ペン14の動作を検出し、検出した電子ペン14の動作が所定の動作に該当する場合に、その電子ペン14の動作を所定のジェスチャ操作として検出するプログラムである。たとえば、ジェスチャ操作検出プログラム92eは、電子ペン14が所定以上の速度で所定以上の距離を移動した場合に、その電子ペン14の移動方向に応じて、右移動、左移動、上移動、下移動、前移動および後移動などのジェスチャ操作を検出する。   The gesture operation detection program 92e is a program for detecting a gesture operation, detects the operation of the electronic pen 14 based on the acceleration data and the angular velocity data from the six-axis sensor 68, and the detected operation of the electronic pen 14 is predetermined. This program detects the operation of the electronic pen 14 as a predetermined gesture operation when the operation corresponds to the above operation. For example, when the electronic pen 14 moves a predetermined distance or more at a predetermined speed or more, the gesture operation detection program 92e moves right, moves left, moves upward, or moves downward according to the movement direction of the electronic pen 14. , Gesture operations such as forward and backward movement are detected.

ただし、ジェスチャ操作検出プログラム92eによるジェスチャ操作の検出は、ジェスチャスイッチ54がオン状態であって、かつペン先スイッチ52がオフ状態のときの電子ペン14の動作に基づくものである。また、ジェスチャ操作として検出する電子ペン14の右移動などの動作は、基本的には、電子ペン14全体がその姿勢を保ったまま移動する態様を想定しているが、電子ペン14の後端部を支点として回転するように電子ペン14のペン先が移動する態様を採用してもよい。   However, the detection of the gesture operation by the gesture operation detection program 92e is based on the operation of the electronic pen 14 when the gesture switch 54 is in the on state and the pen tip switch 52 is in the off state. The operation of the electronic pen 14 detected as a gesture operation, such as a right movement, basically assumes a state in which the entire electronic pen 14 moves while maintaining its posture. A mode in which the pen tip of the electronic pen 14 moves so as to rotate about the portion as a fulcrum may be adopted.

表示プログラム92fは、表示画像データまたは映像データをディスプレイ22に出力するためのプログラムであり、たとえば、タッチ操作またはジェスチャ操作による入力操作に基づいて、ディスプレイ22における画面表示の内容を変更する。   The display program 92f is a program for outputting display image data or video data to the display 22, and changes the contents of the screen display on the display 22 based on, for example, an input operation by a touch operation or a gesture operation.

なお、図示は省略するが、プログラム記憶領域92には、電子黒板10の制御処理(情報処理)の実行に必要な他のプログラムも記憶される。   Although illustration is omitted, the program storage area 92 also stores other programs necessary for execution of control processing (information processing) of the electronic blackboard 10.

また、データ記憶領域94には、描画データ94a、切替情報データ94b、ジェスチャ操作データ94c、ジェスチャ機能データ94dおよび画像生成データ94eなどのデータが記憶される。   The data storage area 94 stores data such as drawing data 94a, switching information data 94b, gesture operation data 94c, gesture function data 94d, and image generation data 94e.

描画データ94aは、タッチパネル24を用いてユーザによって手書きされた文字および図形などについてのタッチ座標データの集合である。たとえば、描画データ94aは、タップによる点またはスライドによる線を、点または線ごとに管理するデータである。   The drawing data 94 a is a set of touch coordinate data for characters and figures handwritten by the user using the touch panel 24. For example, the drawing data 94a is data for managing a point by a tap or a line by a slide for each point or line.

切替情報データ94bは、切替情報検出プログラム92cに従って検出された切替情報のデータである。この第1実施例では、切替情報は、タッチパネル24と電子ペン14との間の距離情報である。   The switching information data 94b is switching information data detected according to the switching information detection program 92c. In the first embodiment, the switching information is distance information between the touch panel 24 and the electronic pen 14.

ジェスチャ操作データ94cは、ジェスチャ操作検出プログラム92eに従って検出された右移動および左移動などのジェスチャ操作のデータである。   The gesture operation data 94c is data of gesture operations such as right movement and left movement detected according to the gesture operation detection program 92e.

ジェスチャ機能データ94dは、ジェスチャ操作に予め割り当てられた機能についてのテーブルのデータである。具体的には、図7に示すように、ジェスチャ機能データ94dに従うジェスチャ機能テーブルでは、ジェスチャ操作の種類(パターン)に対応付けて、近接モード時の機能および遠隔モード時の機能が記述される。また、遠隔モード時の機能は、ページ一覧表示の非表示時とページ一覧表示の表示時とに分けて記述される。ただし、図7に示すジェスチャ操作の種類およびそれに割り当てている各ジェスチャモードにおける機能は、単なる一例であり、電子黒板10の使用環境などに応じて適宜変更することが可能である。   The gesture function data 94d is table data regarding functions assigned in advance to the gesture operation. Specifically, as shown in FIG. 7, in the gesture function table according to the gesture function data 94d, the function in the proximity mode and the function in the remote mode are described in association with the type (pattern) of the gesture operation. The function in the remote mode is described separately when the page list display is not displayed and when the page list display is displayed. However, the types of gesture operations shown in FIG. 7 and the functions in each gesture mode assigned thereto are merely examples, and can be appropriately changed according to the use environment of the electronic blackboard 10 or the like.

図7と共に図4を適宜参照して、ジェスチャ操作「右移動」には、近接モード時の機能として「ツールバーの右移動」が割り当てられている。たとえば、近接モード時にジェスチャ操作「右移動」が検出されると、ツールバー82がディスプレイ22の左端に画面表示されている場合には、ツールバー82は右端に移動される。また、ツールバー82がディスプレイ22の右端に画面表示されている場合には、ツールバー82は隠されて非表示とされ、ツールバー82が非表示の場合には、ツールバー82がディスプレイ22の左端に画面表示される。つまり、近接モード時にジェスチャ操作「右移動」が検出されると、ツールバー82は、左端に表示、右端に表示、非表示、左端に表示…の順に、右方向に移動するようにその位置が変えられる。一方、ジェスチャ操作「右移動」には、遠隔モード時であってかつページ一覧表示の非表示時の機能として「ページ送り」が割り当てられ、遠隔モード時であってかつページ一覧表示の表示時の機能として「ページ一覧表示のカーソル右移動」が割り当てられている。   4 and FIG. 4 as appropriate, the gesture operation “move right” is assigned “move right of toolbar” as a function in the proximity mode. For example, when the gesture operation “move right” is detected in the proximity mode, if the tool bar 82 is displayed on the left end of the display 22, the tool bar 82 is moved to the right end. When the tool bar 82 is displayed on the right end of the display 22, the tool bar 82 is hidden and hidden, and when the tool bar 82 is not displayed, the tool bar 82 is displayed on the left end of the display 22. Is done. That is, when the gesture operation “move right” is detected in the proximity mode, the tool bar 82 changes its position so that it moves to the right in the order of display at the left end, display at the right end, non-display, display at the left end, and so on. It is done. On the other hand, for the gesture operation “move right”, “page feed” is assigned as a function in the remote mode and the page list display is not displayed, and in the remote mode and the page list display is displayed. As the function, “move cursor right of page list display” is assigned.

また、ジェスチャ操作「左移動」、「上移動」、「下移動」、「前移動」および「後移動」のそれぞれについても、近接モードと遠隔モードとで別の機能が割り当てられているが、図7に示す通りなので、詳細な説明は省略する。   In addition, different functions are assigned in the proximity mode and the remote mode for each of the gesture operations “move left”, “move up”, “move down”, “move forward” and “move backward”. Since it is as shown in FIG. 7, detailed description is abbreviate | omitted.

なお、ジェスチャ機能テーブルにおける「−」の記号は、機能が何も割り当てられていないことを示す。たとえば、ジェスチャ操作「上移動」には、遠隔モード時であってかつページ一覧表示の非表示時の機能としては何も割り当てられていない。したがって、遠隔モード時であってかつページ一覧表示の非表示時に、ジェスチャ操作「上移動」が検出されたとしても、何の機能も実行されない。また、ジェスチャ操作「前移動」には、近接モード時の機能と、遠隔モード時であってかつページ一覧表示の表示時の機能との双方に、「画面の拡大」が割り当てられている。すなわち、全ての種類のジェスチャ操作において、近接モードと遠隔モードとで異なる機能を割り当てる必要はなく、近接モードと遠隔モードとで同じ機能が割り当てられるジェスチャ操作があってもよい。   Note that the symbol “-” in the gesture function table indicates that no function is assigned. For example, the gesture operation “move up” is not assigned anything as a function in the remote mode and when the page list display is not displayed. Therefore, even when the gesture operation “upward movement” is detected in the remote mode and when the page list display is not displayed, no function is executed. Further, in the gesture operation “move forward”, “enlarge screen” is assigned to both the function in the proximity mode and the function in the remote mode and when displaying the page list display. That is, in all types of gesture operations, it is not necessary to assign different functions in the proximity mode and the remote mode, and there may be gesture operations in which the same function is assigned in the proximity mode and the remote mode.

図6に戻って、画像生成データ94eは、ディスプレイ22に表示する各種の画面に対応する表示画像データを生成するためのポリゴンデータやテクスチャデータなどのデータである。また、画像生成データ94eには、ツールバー82等の各種のアイコンについての画像データも含まれる。   Returning to FIG. 6, the image generation data 94 e is data such as polygon data and texture data for generating display image data corresponding to various screens displayed on the display 22. The image generation data 94e also includes image data for various icons such as the toolbar 82.

なお、図示は省略するが、データ記憶領域94には、上記の各制御プログラムの実行に必要な他のデータが記憶されたり、各制御プログラムの実行に必要なタイマ(カウンタ)やレジスタが設けられたりする。   Although not shown, the data storage area 94 is provided with other data necessary for the execution of each control program described above, and a timer (counter) and a register necessary for the execution of each control program are provided. Or

続いて、上述のような電子黒板10の動作についてフロー図を用いて説明する。図8は、装置本体12のCPU30が実行する、ジェスチャ操作に基づく制御処理の一例を示すフロー図である。   Next, the operation of the electronic blackboard 10 as described above will be described using a flowchart. FIG. 8 is a flowchart illustrating an example of a control process based on a gesture operation executed by the CPU 30 of the apparatus main body 12.

図8に示すように、CPU30は、たとえば描画ソフトが起動されると、ステップS1でユーザによって終了操作が入力されたか否かを判断する。ステップS1で“YES”であれば、そのままこの制御処理を終了する。一方、ステップS1で“NO”であれば、ステップS3において、電子ペン14とタッチパネル24との距離情報を取得する。すなわち、CPU30は、ジェスチャモードを切り替えるための切替情報として、タッチパネル24と電子ペン14との間の距離を超音波受信回路42で受信される超音波信号の信号到達時間に基づいて算出する。   As shown in FIG. 8, for example, when the drawing software is activated, the CPU 30 determines whether or not an end operation is input by the user in step S1. If “YES” in the step S1, the control process is ended as it is. On the other hand, if “NO” in the step S1, distance information between the electronic pen 14 and the touch panel 24 is acquired in a step S3. That is, the CPU 30 calculates the distance between the touch panel 24 and the electronic pen 14 as switching information for switching the gesture mode based on the signal arrival time of the ultrasonic signal received by the ultrasonic receiving circuit 42.

次のステップS5では、ステップS3で取得したタッチパネル24と電子ペン14との間の距離が所定値以上であるか否かを判断する。すなわち、CPU30は、装置本体12の前方に設定される近接領域R1内と遠隔領域R2内とのいずれに電子ペン14(延いてはユーザ)が存在するかを判断する。   In the next step S5, it is determined whether or not the distance between the touch panel 24 and the electronic pen 14 acquired in step S3 is a predetermined value or more. That is, the CPU 30 determines whether the electronic pen 14 (and thus the user) exists in the proximity area R1 or the remote area R2 set in front of the apparatus main body 12.

ステップS5で“NO”の場合、すなわちタッチパネル24と電子ペン14との間の距離が所定値未満であって電子ペン14が近接領域R1内に位置する場合には、ステップS7において、ジェスチャモードを近接モードに設定して、ステップS11に進む。一方、ステップS5で“YES”の場合、すなわちタッチパネル24と電子ペン14との間の距離が所定値以上であって電子ペン14が遠隔領域R2内に位置する場合には、ステップS9において、ジェスチャモードを遠隔モードに設定して、ステップS11に進む。   If “NO” in the step S5, that is, if the distance between the touch panel 24 and the electronic pen 14 is less than a predetermined value and the electronic pen 14 is located in the proximity region R1, the gesture mode is set in the step S7. The proximity mode is set and the process proceeds to step S11. On the other hand, if “YES” in the step S5, that is, if the distance between the touch panel 24 and the electronic pen 14 is not less than a predetermined value and the electronic pen 14 is located in the remote area R2, a gesture is performed in a step S9. The mode is set to the remote mode, and the process proceeds to step S11.

なお、この第1実施例では、ステップS3〜S9までの処理、すなわち検出した切替情報に基づきジェスチャモードを切り替えるジェスチャモード設定処理は、所定時間(たとえば数秒)毎に行われる。すなわち、CPU30は、ジェスチャモードを所定時間毎に更新していく。これによって、ジェスチャ操作に応じて機能を実行する処理反応を速くすることができる。ただし、ジェスチャスイッチ54がオン状態であることが検出されたときに、つまり後述するステップS11で“YES”のときに、ステップS3〜S9までのジェスチャモード設定処理を実行するようにしてもよい。   In the first embodiment, the processing from step S3 to S9, that is, the gesture mode setting processing for switching the gesture mode based on the detected switching information is performed every predetermined time (for example, several seconds). That is, the CPU 30 updates the gesture mode every predetermined time. As a result, the processing reaction for executing the function in accordance with the gesture operation can be accelerated. However, when it is detected that the gesture switch 54 is in the ON state, that is, when “YES” is determined in step S11 described later, the gesture mode setting process in steps S3 to S9 may be executed.

ステップS11では、ジェスチャスイッチ54がオン状態であるか否かを判断する。すなわち、CPU30は、ジェスチャスイッチ54がオン状態であることを示す電子ペン14からのスイッチ検出情報が、無線通信回路40において受信されたか否かを判断する。ステップS11で“NO”であれば、処理はステップS1に戻る。一方、ステップS11で“YES”であれば、ステップS13において、電子ペン14の動作情報を取得する。すなわち、CPU30は、スイッチ検出情報と共に電子ペン14から送信される加速度データおよび角速度データを、無線通信回路40を介して取得する。   In step S11, it is determined whether or not the gesture switch 54 is on. That is, the CPU 30 determines whether or not the switch detection information from the electronic pen 14 indicating that the gesture switch 54 is in the on state is received by the wireless communication circuit 40. If “NO” in the step S11, the process returns to the step S1. On the other hand, if “YES” in the step S11, operation information of the electronic pen 14 is acquired in a step S13. That is, the CPU 30 acquires acceleration data and angular velocity data transmitted from the electronic pen 14 together with the switch detection information via the wireless communication circuit 40.

次のステップS15では、電子ペン14の3次元基準位置を設定する。すなわち、CPU30は、ステップS13で取得した電子ペン14の加速度データおよび角速度データのうち、最初の所定時間分の加速度データおよび角速度データを用いて、電子ペン14の動作を検出する基準となる3次元基準位置を設定する。   In the next step S15, the three-dimensional reference position of the electronic pen 14 is set. That is, the CPU 30 uses the acceleration data and the angular velocity data for the first predetermined time among the acceleration data and the angular velocity data of the electronic pen 14 acquired in step S13 as a reference for detecting the operation of the electronic pen 14. Set the reference position.

続くステップS17では、ジェスチャ操作の種類を判定する。すなわち、CPU30は、ステップS13で取得した電子ペン14の加速度データおよび角速度データに基づいて、ステップS15で設定した3次元基準位置からの電子ペン14の動作を検出し、その電子ペン14の動作が、所定のジェスチャ操作を示す動作に該当するかどうかを判断することによって、「右移動」や「左移動」などのジェスチャ操作の種類を判定する。   In subsequent step S17, the type of gesture operation is determined. That is, the CPU 30 detects the operation of the electronic pen 14 from the three-dimensional reference position set in step S15 based on the acceleration data and angular velocity data of the electronic pen 14 acquired in step S13, and the operation of the electronic pen 14 is detected. The type of gesture operation such as “move right” or “move left” is determined by determining whether or not the operation indicates a predetermined gesture operation.

そして、ステップS19では、ジェスチャ操作に基づく画面表示の変更処理を実行する。すなわち、CPU30は、図7に示すジェスチャ機能テーブルを参照して、ステップS7またはステップS9で設定されたジェスチャモードにおける、ステップS19で判定されたジェスチャ操作の機能を読み出し、読み出した機能に応じた画面表示の変更処理を実行する。たとえば、ジェスチャ操作「右移動」を検出したとき、近接モードに設定されていれば、「ツールバーの右移動」、つまりディスプレイ22の画面表示において、ツールバー82の位置を右方向に移動させる処理を実行する。   In step S19, a screen display change process based on the gesture operation is executed. That is, the CPU 30 refers to the gesture function table shown in FIG. 7 and reads the gesture operation function determined in step S19 in the gesture mode set in step S7 or step S9, and displays a screen corresponding to the read function. Execute display change processing. For example, when the gesture operation “move right” is detected, if the proximity mode is set, “move toolbar right”, that is, the process of moving the position of the toolbar 82 to the right in the screen display of the display 22 is executed. To do.

以上のように、この第1実施例によれば、タッチ操作だけでなく、電子ペン14の動作に基づくジェスチャ操作による入力操作を可能としたので、電子黒板10の利便性が向上する。また、1つのジェスチャ操作に複数の機能を割り当てることが可能なので、限られたジェスチャ数で多くの機能に対応でき、電子黒板10の利便性が向上する。   As described above, according to the first embodiment, not only the touch operation but also the input operation based on the gesture operation based on the operation of the electronic pen 14 can be performed, so that the convenience of the electronic blackboard 10 is improved. In addition, since a plurality of functions can be assigned to one gesture operation, a large number of functions can be handled with a limited number of gestures, and the convenience of the electronic blackboard 10 is improved.

また、第1実施例によれば、ジェスチャスイッチ54がオン状態のときの電子ペン14の動作に基づいて、ジェスチャ操作を検出する。このため、電子ペン14の動作を常時検出し、その検出した一連の動作の中から所定のジェスチャ操作を抽出して検出するような場合と比較して、ジェスチャ操作の検出ミスによる誤動作が生じ難く、また、ジェスチャ操作の検出に要する処理負担も大幅に低減される。   Further, according to the first embodiment, the gesture operation is detected based on the operation of the electronic pen 14 when the gesture switch 54 is in the ON state. Therefore, compared to a case where the operation of the electronic pen 14 is constantly detected and a predetermined gesture operation is extracted and detected from the detected series of operations, a malfunction due to a detection error of the gesture operation is less likely to occur. In addition, the processing load required for detecting the gesture operation is greatly reduced.

さらに、第1実施例によれば、ジェスチャ操作に割り当てられる機能を切り替えるための切替情報として、タッチパネル24と電子ペン14との間の距離を利用するので、ユーザは、ジェスチャモードを気にすることなく、タッチパネル24との位置関係に基づき、直感的にジェスチャ操作を行うことができる。   Furthermore, according to the first embodiment, since the distance between the touch panel 24 and the electronic pen 14 is used as switching information for switching the function assigned to the gesture operation, the user cares about the gesture mode. In addition, the gesture operation can be performed intuitively based on the positional relationship with the touch panel 24.

なお、上述の第1実施例では、ジェスチャモードを近接モード(第1ジェスチャモード)と遠隔モード(第2ジェスチャモード)との2段階に切り替えるようにしたが、これに限定されない。たとえば、近距離モード、中距離モードおよび遠距離モードというように、ジェスチャモードを3段階以上に切り替えるようにすることもできる。   In the first embodiment described above, the gesture mode is switched between the proximity mode (first gesture mode) and the remote mode (second gesture mode), but the present invention is not limited to this. For example, the gesture mode can be switched between three or more stages, such as a short distance mode, a medium distance mode, and a long distance mode.

[第2実施例]
次に、図9を参照して、この発明の第2実施例である電子黒板10について説明する。この第2実施例では、ジェスチャモードを切り替えるための切替情報として、タッチパネル24と電子ペン14との間の距離を利用する代わりに、電子ペン14のペン先方向を利用する点が上述の第1実施例と異なる。その他の部分の構成については同様であるので、上述の第1実施例と共通する部分については、同じ参照番号を付し、重複する説明は省略または簡略化する。
[Second Embodiment]
Next, with reference to FIG. 9, the electronic blackboard 10 which is 2nd Example of this invention is demonstrated. In the second embodiment, instead of using the distance between the touch panel 24 and the electronic pen 14 as the switching information for switching the gesture mode, the point of using the pen tip direction of the electronic pen 14 is used as described above. Different from the embodiment. Since the configuration of the other parts is the same, parts common to the first embodiment described above are given the same reference numerals, and redundant descriptions are omitted or simplified.

図9に示すように、この第2実施例では、電子ペン14のペン先方向に応じて、ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとの2段階のジェスチャモードに切り替える。つまり、電子ペン14のペン先方向を、ジェスチャ操作に割り当てる機能を切り替えるための指標となる切替情報として利用する。   As shown in FIG. 9, in the second embodiment, the first gesture mode in which the first function is assigned to the gesture operation and the second function is assigned to the gesture operation according to the pen tip direction of the electronic pen 14. Switch to a two-stage gesture mode with a 2-gesture mode. That is, the pen tip direction of the electronic pen 14 is used as switching information that serves as an index for switching the function assigned to the gesture operation.

具体的には、装置本体12のCPU30(図2参照)は、ジェスチャスイッチ54がオン状態であることが検出されたときに、電子ペン14から送信される6軸センサ68の加速度データおよび角速度データに基づいて、電子ペン14のペン先方向を検出する。そして、CPU30は、図9(A)に示すように電子ペン14のペン先方向がタッチパネル24側を向いているときには、ジェスチャモードを第1ジェスチャモードに設定し、図9(B)に示すように電子ペン14のペン先方向がタッチパネル24の反対側を向いているときには、ジェスチャモードを第2ジェスチャモードに設定する。   Specifically, the CPU 30 (see FIG. 2) of the apparatus main body 12 detects acceleration data and angular velocity data of the six-axis sensor 68 transmitted from the electronic pen 14 when it is detected that the gesture switch 54 is in the on state. Based on the above, the pen tip direction of the electronic pen 14 is detected. Then, when the pen tip direction of the electronic pen 14 faces the touch panel 24 as shown in FIG. 9A, the CPU 30 sets the gesture mode to the first gesture mode, as shown in FIG. 9B. When the pen tip direction of the electronic pen 14 is facing the opposite side of the touch panel 24, the gesture mode is set to the second gesture mode.

なお、電子ペン14のペン先方向を検出するに際しては、最初に電子ペン14のペン先の基準方向を設定しておく。たとえば、電子黒板10の使用を開始するときに、タッチペン14のペン先でタッチパネル24をタッチするように(つまりペン先をタッチパネル24側に向けるように)画面表示する。その後、ペン先スイッチ52がオン状態のときの加速度データおよび角速度データを電子ペン14の6軸センサ68から取得する。そして、その加速度データおよび角速度データに基づいて電子ペン14の基準方向を設定し、RAM32等に記憶しておくとよい。   When detecting the pen tip direction of the electronic pen 14, first, the reference direction of the pen tip of the electronic pen 14 is set. For example, when the use of the electronic blackboard 10 is started, a screen is displayed so that the touch panel 24 is touched with the pen tip of the touch pen 14 (that is, the pen tip is directed toward the touch panel 24). Thereafter, acceleration data and angular velocity data when the pen tip switch 52 is on are acquired from the 6-axis sensor 68 of the electronic pen 14. The reference direction of the electronic pen 14 may be set based on the acceleration data and angular velocity data, and stored in the RAM 32 or the like.

また、第1ジェスチャモードおよび第2ジェスチャモードのそれぞれにおいてジェスチャ操作に割り当てる機能は、任意に設定できるが、図9(A)に示すように、ユーザが通常のペンの持ち方で電子ペン14を把持しているときには、タッチパネル24を用いた書き込みを行う可能性が高い。このため、第1ジェスチャモードにおいてジェスチャ操作に割り当てる第1機能は、主として書き込みに関する機能であることが好ましい。一方、図9(B)に示すように、ユーザが電子ペン14の端部を把持する長持ちをしているときには、タッチパネル24を用いた書き込みがすぐに行われる可能性は低い。このため、第2ジェスチャモードにおいてジェスチャ操作に割り当てる第2機能は、主としてディスプレイ22に表示されるページの変更に関する機能であることが好ましい。   In addition, the function assigned to the gesture operation in each of the first gesture mode and the second gesture mode can be arbitrarily set. However, as shown in FIG. 9A, the user holds the electronic pen 14 in the normal manner of holding the pen. When gripping, there is a high possibility of writing using the touch panel 24. For this reason, it is preferable that the first function assigned to the gesture operation in the first gesture mode is a function mainly related to writing. On the other hand, as shown in FIG. 9B, when the user is long-lasting to hold the end of the electronic pen 14, there is a low possibility that writing using the touch panel 24 will be performed immediately. For this reason, it is preferable that the 2nd function allocated to gesture operation in 2nd gesture mode is a function mainly regarding the change of the page displayed on the display 22. FIG.

このように、電子ペン14のペン先方向をタッチパネル24側に向けているときは、電子ペン14をペンとして利用し、電子ペン14のペン先方向をタッチパネル24の反対側に向けているときは、タッチパネル24に対する書き込みをせず、電子ペン14を支持棒に模して利用する、ということをユーザは直感的に理解し易い。したがって、ユーザは、ジェスチャモードを気にすることなく、電子ペン14のペン先方向に基づき、直感的にジェスチャ操作を行うことができる。   Thus, when the pen point direction of the electronic pen 14 is directed toward the touch panel 24, the electronic pen 14 is used as a pen, and when the pen point direction of the electronic pen 14 is directed toward the opposite side of the touch panel 24. It is easy for the user to intuitively understand that the electronic pen 14 is used by imitating the support rod without writing on the touch panel 24. Therefore, the user can intuitively perform a gesture operation based on the pen tip direction of the electronic pen 14 without worrying about the gesture mode.

この第2実施例によれば、第1実施例と同様に、タッチ操作だけでなく、電子ペン14の動作に基づくジェスチャ操作による入力操作を可能としたので、電子黒板10の利便性が向上する。また、1つのジェスチャ操作に複数の機能を割り当てることが可能なので、限られたジェスチャ数で多くの機能に対応でき、電子黒板10の利便性が向上する。   According to the second embodiment, as in the first embodiment, not only the touch operation but also the input operation by the gesture operation based on the operation of the electronic pen 14 is enabled, so that the convenience of the electronic blackboard 10 is improved. . In addition, since a plurality of functions can be assigned to one gesture operation, a large number of functions can be handled with a limited number of gestures, and the convenience of the electronic blackboard 10 is improved.

なお、上述の第2実施例では、電子ペン14のペン先方向がタッチパネル24側を向いている場合と、タッチパネル24の反対側を向いている場合とで、ジェスチャモードを切り替えるようにしたが、これに限定されない。たとえば、図10(A)に示すように、タッチパネル24方向に対して電子ペン14が横方向(右向きまたは左向き)を向いている場合や、図10(B)に示すように、電子ペン14が鉛直方向(下向きまたは上向き)を向いている場合に対応させて、ジェスチャモードを切り替えるようにしてもよい。   In the second embodiment described above, the gesture mode is switched between the case where the pen tip direction of the electronic pen 14 faces the touch panel 24 and the case where the pen tip direction faces the opposite side of the touch panel 24. It is not limited to this. For example, as shown in FIG. 10A, when the electronic pen 14 is directed laterally (rightward or leftward) with respect to the direction of the touch panel 24, or as shown in FIG. The gesture mode may be switched in correspondence with the case where it faces the vertical direction (downward or upward).

[第3実施例]
続いて、図11を参照して、この発明の第3実施例である電子黒板10について説明する。この第3実施例では、電子ペン14に複数のジェスチャスイッチ54を設け、ジェスチャモードを切り替えるための切替情報として、ジェスチャスイッチ54のスイッチ選択パターン(押下パターン)を利用する点が、上述の第1実施例と異なる。その他の部分の構成については同様であるので、上述の第1実施例と共通する部分については、同じ参照番号を付し、重複する説明は省略または簡略化する。
[Third embodiment]
Next, an electronic blackboard 10 that is a third embodiment of the present invention will be described with reference to FIG. In the third embodiment, a plurality of gesture switches 54 are provided on the electronic pen 14, and the switch selection pattern (pressing pattern) of the gesture switch 54 is used as switching information for switching the gesture mode. Different from the embodiment. Since the configuration of the other parts is the same, parts common to the first embodiment described above are given the same reference numerals, and redundant descriptions are omitted or simplified.

具体的には、図11に示すように、電子ペン14には、3つのジェスチャスイッチ54、すなわち第1ジェスチャスイッチ54a、第2ジェスチャスイッチ54bおよび第3ジェスチャスイッチ54cが設けられる。   Specifically, as shown in FIG. 11, the electronic pen 14 is provided with three gesture switches 54, that is, a first gesture switch 54a, a second gesture switch 54b, and a third gesture switch 54c.

ジェスチャスイッチ検出回路64(図3(B)参照)は、ジェスチャスイッチ54a,54b,54cのいずれかが操作されたことを検出すると、その検出結果を制御回路56(図3(B)参照)に通知する。これに応じて、制御回路56は、ジェスチャスイッチ54a,54b,54cがオン状態であることを示すスイッチ検出情報と共に、ジェスチャスイッチ54a,54b,54cのいずれがオン状態になっているかを示すスイッチ選択パターンを示す情報を、無線通信回路60を介して装置本体12に送信する。   When the gesture switch detection circuit 64 (see FIG. 3B) detects that any one of the gesture switches 54a, 54b, and 54c has been operated, the detection result is sent to the control circuit 56 (see FIG. 3B). Notice. In response to this, the control circuit 56 selects a switch indicating which one of the gesture switches 54a, 54b, 54c is in the on state together with switch detection information indicating that the gesture switches 54a, 54b, 54c are in the on state. Information indicating the pattern is transmitted to the apparatus main body 12 via the wireless communication circuit 60.

装置本体12のCPU30(図2参照)は、電子ペン14からのスイッチ検出情報およびスイッチ選択パターンを示す情報を取得すると、これに基づいてジェスチャモードを設定する。たとえば、第1ジェスチャスイッチ54aがオン状態であることを検出すると、ジェスチャモードを第1ジェスチャモードに設定し、第2ジェスチャスイッチ54bがオン状態であることを検出すると、ジェスチャモードを第2ジェスチャモードに設定し、第3ジェスチャスイッチ54cがオン状態であることを検出すると、ジェスチャモードを第3ジェスチャモードに設定する。   When the CPU 30 (see FIG. 2) of the apparatus main body 12 acquires the switch detection information and the information indicating the switch selection pattern from the electronic pen 14, the gesture mode is set based on the acquired information. For example, when it is detected that the first gesture switch 54a is on, the gesture mode is set to the first gesture mode, and when it is detected that the second gesture switch 54b is on, the gesture mode is changed to the second gesture mode. When it is detected that the third gesture switch 54c is turned on, the gesture mode is set to the third gesture mode.

この第3実施例によれば、第1実施例と同様に、タッチ操作だけでなく、電子ペン14の動作に基づくジェスチャ操作による入力操作を可能としたので、電子黒板10の利便性が向上する。また、1つのジェスチャ操作に複数の機能を割り当てることが可能なので、限られたジェスチャ数で多くの機能に対応でき、電子黒板10の利便性が向上する。   According to the third embodiment, as in the first embodiment, not only the touch operation but also the input operation by the gesture operation based on the operation of the electronic pen 14 is enabled, so the convenience of the electronic blackboard 10 is improved. . In addition, since a plurality of functions can be assigned to one gesture operation, a large number of functions can be handled with a limited number of gestures, and the convenience of the electronic blackboard 10 is improved.

また、第3実施例によれば、ジェスチャスイッチ54のスイッチ選択パターンを切替情報として利用するので、切替情報の検出が容易となる。   Further, according to the third embodiment, since the switch selection pattern of the gesture switch 54 is used as the switching information, the switching information can be easily detected.

なお、上述の第3実施例では、電子ペン14に3つのジェスチャスイッチ54(54a,54b,54c)を設けたが、電子ペン14にジェスチャスイッチ54を設ける数は、2つでもよいし、4つ以上でもよい。   In the third embodiment described above, the three gesture switches 54 (54a, 54b, 54c) are provided on the electronic pen 14, but the number of the gesture switches 54 provided on the electronic pen 14 may be two or four. There may be more than one.

また、ジェスチャスイッチ54のスイッチ選択パターンとしては、いずれか1つのジェスチャスイッチ54のみがオン状態であることだけでなく、複数のジェスチャスイッチ54が同時押しされたことを含むこともできる。たとえば、電子ペン14に第1ジェスチャスイッチ54aおよび第2ジェスチャスイッチ54bの2つのジェスチャスイッチ54を設けた場合には、第1ジェスチャスイッチ54aのみがオン状態であることを検出すると、ジェスチャモードを第1ジェスチャモードに設定し、第2ジェスチャスイッチ54bのみがオン状態であることを検出すると、ジェスチャモードを第2ジェスチャモードに設定し、第1ジェスチャスイッチ54aおよび第2ジェスチャスイッチ54bの双方がオン状態であること(同時押しされたこと)を検出すると、ジェスチャモードを第3ジェスチャモードに設定する、というようにしてもよい。   In addition, the switch selection pattern of the gesture switch 54 may include not only that any one of the gesture switches 54 is in an on state but also that a plurality of gesture switches 54 are simultaneously pressed. For example, when two gesture switches 54 of a first gesture switch 54a and a second gesture switch 54b are provided on the electronic pen 14, when it is detected that only the first gesture switch 54a is in an on state, the gesture mode is changed to the first gesture switch 54a. When the first gesture mode is set and only the second gesture switch 54b is detected to be turned on, the gesture mode is set to the second gesture mode, and both the first gesture switch 54a and the second gesture switch 54b are turned on. If it is detected that the two are simultaneously pressed, the gesture mode may be set to the third gesture mode.

なお、上述の各実施例では、ジェスチャモードを切り替えるための切替情報としてそれぞれ、タッチパネル24と電子ペン14との間の距離、電子ペン14のペン先方向、およびジェスチャスイッチ54のスイッチ選択パターンを用いたが、これらを組み合わせて切替情報として用いることもできる。   In each of the above-described embodiments, the distance between the touch panel 24 and the electronic pen 14, the pen tip direction of the electronic pen 14, and the switch selection pattern of the gesture switch 54 are used as switching information for switching the gesture mode. However, these can be combined and used as switching information.

また、上述の各実施例では、電子ペン14の動作を検出するためのセンサとして、加速度センサ68aとジャイロセンサ68bとを組み合わせた6軸センサ68を用いているが、これに限定されず、加速度センサまたはジャイロセンサのいずれかのみを用いてもよい。また、6軸センサに3軸コンパスを加えた9軸センサを用いれば、より正確な電子ペン14の動作検出が可能となる。さらに、カメラ画像などに基づいて電子ペン14の動作を検出することもできる。   In each of the above-described embodiments, the 6-axis sensor 68 that combines the acceleration sensor 68a and the gyro sensor 68b is used as a sensor for detecting the operation of the electronic pen 14, but the present invention is not limited to this. Only either a sensor or a gyro sensor may be used. Further, if a 9-axis sensor obtained by adding a 3-axis compass to a 6-axis sensor is used, it is possible to detect the operation of the electronic pen 14 more accurately. Furthermore, the operation of the electronic pen 14 can be detected based on a camera image or the like.

さらに、上述の各実施例では、ジェスチャスイッチ54が押下されているとき(押下中の状態)をオン状態として検出するようにしたが、ジェスチャスイッチ54は、短押し(短クリック)後の所定時間だけオン状態となるようにしてもよい。つまり、ジェスチャスイッチ54が押下された後の所定時間内(数秒程度)の電子ペン14の動作をジェスチャ操作として検出することもできる。   Further, in each of the above-described embodiments, when the gesture switch 54 is pressed (pressed state) is detected as an ON state, the gesture switch 54 is detected for a predetermined time after a short press (short click). Only the ON state may be set. That is, the operation of the electronic pen 14 within a predetermined time (approximately several seconds) after the gesture switch 54 is pressed can be detected as a gesture operation.

なお、上で挙げた寸法などの具体的数値は、いずれも単なる一例であり、製品の仕様などの必要に応じて適宜変更可能である。   It should be noted that the specific numerical values such as the dimensions mentioned above are merely examples, and can be appropriately changed according to the needs of product specifications and the like.

10 …電子黒板
12 …装置本体
14 …電子ペン
22 …ディスプレイ(表示部)
24 …タッチパネル
30 …CPU
32 …RAM
34 …HDD
40,60…無線通信回路
42 …超音波受信回路
54 …ジェスチャスイッチ
66 …超音波発信回路
68 …6軸センサ
DESCRIPTION OF SYMBOLS 10 ... Electronic blackboard 12 ... Apparatus main body 14 ... Electronic pen 22 ... Display (display part)
24 ... Touch panel 30 ... CPU
32 ... RAM
34… HDD
DESCRIPTION OF SYMBOLS 40,60 ... Wireless communication circuit 42 ... Ultrasonic wave receiving circuit 54 ... Gesture switch 66 ... Ultrasonic wave transmission circuit 68 ... 6 axis sensor

Claims (7)

タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる電子黒板であって、
前記タッチパネルに対するタッチ操作を検出するタッチ操作検出手段、
前記電子ペンに設けられるジェスチャスイッチに対するスイッチ操作を検出するスイッチ操作検出手段、
前記ジェスチャスイッチがオン状態であって、かつ前記電子ペンと前記タッチパネルとが非接触状態のときの当該電子ペンの動作に基づくジェスチャ操作を検出するジェスチャ操作検出手段、
前記ジェスチャ操作に割り当てられる機能を切り替えるための切替情報を検出する切替情報検出手段、
前記切替情報検出手段によって検出された前記切替情報に基づいて、前記ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとの、少なくとも2段階にジェスチャモードを切り替えて設定するジェスチャモード切替手段、および
前記ジェスチャ操作検出手段によって前記ジェスチャ操作が検出されたとき、前記ジェスチャモード切替手段によって設定された前記ジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する処理実行手段を備える、電子黒板。
An electronic blackboard that includes a display unit provided with a touch panel and is operated by an electronic pen,
Touch operation detecting means for detecting a touch operation on the touch panel;
Switch operation detecting means for detecting a switch operation on a gesture switch provided in the electronic pen;
Gesture operation detection means for detecting a gesture operation based on an operation of the electronic pen when the gesture switch is in an on state and the electronic pen and the touch panel are in a non-contact state;
Switching information detecting means for detecting switching information for switching a function assigned to the gesture operation;
Based on the switching information detected by the switching information detection means, at least a first gesture mode in which a first function is assigned to the gesture operation and a second gesture mode in which a second function is assigned to the gesture operation Gesture mode switching means for switching and setting the gesture mode in two stages, and when the gesture operation is detected by the gesture operation detecting means, the function of the gesture operation in the gesture mode set by the gesture mode switching means An electronic blackboard comprising process execution means for executing a process according to the response.
前記切替情報検出手段は、前記切替情報として前記タッチパネルと前記電子ペンとの間の距離を検出する距離検出手段を含み、
前記ジェスチャモード切替手段は、前記距離検出手段によって検出された前記距離に基づいて前記ジェスチャモードを切り替える、請求項1記載の電子黒板。
The switching information detection means includes distance detection means for detecting a distance between the touch panel and the electronic pen as the switching information,
The electronic blackboard according to claim 1, wherein the gesture mode switching means switches the gesture mode based on the distance detected by the distance detection means.
前記切替情報検出手段は、前記切替情報として前記タッチパネルに対する前記電子ペンのペン先方向を検出するペン先方向検出手段を含み、
前記ジェスチャモード切替手段は、前記ペン先方向検出手段によって検出された前記ペン先方向に基づいて前記ジェスチャモードを切り替える、請求項1または2記載の電子黒板。
The switching information detection unit includes a pen tip direction detection unit that detects a pen tip direction of the electronic pen with respect to the touch panel as the switching information,
The electronic blackboard according to claim 1, wherein the gesture mode switching unit switches the gesture mode based on the pen tip direction detected by the pen tip direction detection unit.
前記電子ペンは、複数の前記ジェスチャスイッチを有し、
前記切替情報検出手段は、前記スイッチ操作検出手段による検出結果に基づいて、前記切替情報として複数の前記ジェスチャスイッチのいずれがオン状態になっているかを示すスイッチ選択パターンを検出し、
前記ジェスチャモード切替手段は、前記切替情報検出手段によって検出された前記スイッチ選択パターンに基づいて前記ジェスチャモードを切り替える、請求項1ないし3のいずれかに記載の電子黒板。
The electronic pen has a plurality of the gesture switches,
The switching information detection unit detects a switch selection pattern indicating which of the plurality of gesture switches is turned on as the switching information based on a detection result by the switch operation detection unit,
The electronic blackboard according to any one of claims 1 to 3, wherein the gesture mode switching unit switches the gesture mode based on the switch selection pattern detected by the switching information detection unit.
前記ジェスチャモード切替手段によって切り替えられる前記ジェスチャモードは、前記第1ジェスチャモードとしての近接モードと前記第2ジェスチャモードとしての遠隔モードとを含み、
前記近接モード時に割り当てられる前記第1機能は、前記表示部に表示されるツールバーの移動に関する機能を含み、
前記遠隔モード時に割り当てられる前記第2機能は、前記表示部に表示されるページの変更に関する機能を含む、請求項2記載の電子黒板。
The gesture modes switched by the gesture mode switching means include a proximity mode as the first gesture mode and a remote mode as the second gesture mode,
The first function assigned in the proximity mode includes a function related to movement of a toolbar displayed on the display unit,
The electronic blackboard according to claim 2, wherein the second function assigned in the remote mode includes a function relating to a change of a page displayed on the display unit.
タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる電子黒板のプロセッサによって実行される情報処理プログラムであって、前記プロセッサを、
前記タッチパネルに対するタッチ操作を検出するタッチ操作検出手段、
前記電子ペンに設けられるジェスチャスイッチに対するスイッチ操作を検出するスイッチ操作検出手段、
前記ジェスチャスイッチがオン状態であって、かつ前記電子ペンと前記タッチパネルとが非接触状態のときの当該電子ペンの動作に基づくジェスチャ操作を検出するジェスチャ操作検出手段、
前記ジェスチャ操作に割り当てられる機能を切り替えるための切替情報を検出する切替情報検出手段、
前記切替情報検出手段によって検出された前記切替情報に基づいて、前記ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとの、少なくとも2段階にジェスチャモードを切り替えて設定するジェスチャモード切替手段、および
前記ジェスチャ操作検出手段によって前記ジェスチャ操作が検出されたとき、前記ジェスチャモード切替手段によって設定された前記ジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する処理実行手段として機能させる、情報処理プログラム。
An information processing program that includes a display unit provided with a touch panel and is executed by a processor of an electronic blackboard in which an input operation is performed using an electronic pen,
Touch operation detecting means for detecting a touch operation on the touch panel;
Switch operation detecting means for detecting a switch operation on a gesture switch provided in the electronic pen;
Gesture operation detection means for detecting a gesture operation based on an operation of the electronic pen when the gesture switch is in an on state and the electronic pen and the touch panel are in a non-contact state;
Switching information detecting means for detecting switching information for switching a function assigned to the gesture operation;
Based on the switching information detected by the switching information detection means, at least a first gesture mode in which a first function is assigned to the gesture operation and a second gesture mode in which a second function is assigned to the gesture operation Gesture mode switching means for switching and setting the gesture mode in two stages, and when the gesture operation is detected by the gesture operation detecting means, the function of the gesture operation in the gesture mode set by the gesture mode switching means An information processing program that functions as a process execution unit that executes a process according to a response.
タッチパネルが設けられた表示部を備え、電子ペンによって入力操作が行われる電子黒板における情報処理方法であって、
前記電子黒板のプロセッサは、
(a)前記電子ペンに設けられるジェスチャスイッチに対するスイッチ操作を検出し、
(b)前記ジェスチャスイッチがオン状態であって、かつ前記電子ペンと前記タッチパネルとが非接触状態のときの当該電子ペンの動作に基づくジェスチャ操作を検出し、
(c)前記ジェスチャ操作に割り当てられる機能を切り替えるための切替情報を検出し、
(d)前記ステップ(c)で検出した前記切替情報に基づいて、前記ジェスチャ操作に第1機能が割り当てられる第1ジェスチャモードと、当該ジェスチャ操作に第2機能が割り当てられる第2ジェスチャモードとのいずれかにジェスチャモードを設定し、そして
(e)前記ステップ(b)で前記ジェスチャ操作が検出されたとき、前記ステップ(d)で設定した前記ジェスチャモードにおける当該ジェスチャ操作の機能に応じた処理を実行する、情報処理方法。
An information processing method in an electronic blackboard that includes a display unit provided with a touch panel and is operated by an electronic pen,
The processor of the electronic blackboard
(A) detecting a switch operation on a gesture switch provided on the electronic pen;
(B) detecting a gesture operation based on an operation of the electronic pen when the gesture switch is in an on state and the electronic pen and the touch panel are in a non-contact state;
(C) detecting switching information for switching functions assigned to the gesture operation;
(D) Based on the switching information detected in the step (c), a first gesture mode in which a first function is assigned to the gesture operation and a second gesture mode in which a second function is assigned to the gesture operation (E) When the gesture operation is detected in step (b), processing corresponding to the function of the gesture operation in the gesture mode set in step (d) is performed. An information processing method to be executed.
JP2014249474A 2014-12-10 2014-12-10 Electronic blackboard, information processing program, and information processing method Active JP6386897B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014249474A JP6386897B2 (en) 2014-12-10 2014-12-10 Electronic blackboard, information processing program, and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014249474A JP6386897B2 (en) 2014-12-10 2014-12-10 Electronic blackboard, information processing program, and information processing method

Publications (2)

Publication Number Publication Date
JP2016110522A true JP2016110522A (en) 2016-06-20
JP6386897B2 JP6386897B2 (en) 2018-09-05

Family

ID=56122181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014249474A Active JP6386897B2 (en) 2014-12-10 2014-12-10 Electronic blackboard, information processing program, and information processing method

Country Status (1)

Country Link
JP (1) JP6386897B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020052917A (en) * 2018-09-28 2020-04-02 株式会社リコー Display terminal, display control method, and program
JP2020154482A (en) * 2019-03-19 2020-09-24 株式会社ワコム Information processing system, position indicator, and method for controlling movement of display object displayed on display screen of information processing device
US10936095B2 (en) 2018-03-13 2021-03-02 Samsung Electronics Co., Ltd. Electronic device for executing various functions based on signal received from electric pen
EP3814878A4 (en) * 2018-07-27 2021-11-03 Samsung Electronics Co., Ltd. Method of controlling operation mode using electronic pen and electronic device for same
CN114506754A (en) * 2020-11-17 2022-05-17 上海三菱电梯有限公司 Non-contact button operation recognition system
WO2022185470A1 (en) * 2021-03-04 2022-09-09 三菱電機株式会社 Vehicle operation device and vehicle operation method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004133566A (en) * 2002-10-09 2004-04-30 Canon Inc Coordinate input device, and process and program for computing coordinate value
JP2004280205A (en) * 2003-03-13 2004-10-07 Minolta Co Ltd Input device
JP2009294690A (en) * 2008-06-02 2009-12-17 Sony Corp Input device, control unit, control system, and control method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004133566A (en) * 2002-10-09 2004-04-30 Canon Inc Coordinate input device, and process and program for computing coordinate value
JP2004280205A (en) * 2003-03-13 2004-10-07 Minolta Co Ltd Input device
JP2009294690A (en) * 2008-06-02 2009-12-17 Sony Corp Input device, control unit, control system, and control method

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10936095B2 (en) 2018-03-13 2021-03-02 Samsung Electronics Co., Ltd. Electronic device for executing various functions based on signal received from electric pen
EP3814878A4 (en) * 2018-07-27 2021-11-03 Samsung Electronics Co., Ltd. Method of controlling operation mode using electronic pen and electronic device for same
US11385730B2 (en) 2018-07-27 2022-07-12 Samsung Electronics Co., Ltd. Method of controlling operation mode using electronic pen and electronic device for same
JP2020052917A (en) * 2018-09-28 2020-04-02 株式会社リコー Display terminal, display control method, and program
JP7284449B2 (en) 2018-09-28 2023-05-31 株式会社リコー Display terminal, display control method and program
JP2020154482A (en) * 2019-03-19 2020-09-24 株式会社ワコム Information processing system, position indicator, and method for controlling movement of display object displayed on display screen of information processing device
JP7329938B2 (en) 2019-03-19 2023-08-21 株式会社ワコム Information processing system, position indicator, and method for controlling movement of displayed object displayed on display screen of information processing device
CN114506754A (en) * 2020-11-17 2022-05-17 上海三菱电梯有限公司 Non-contact button operation recognition system
CN114506754B (en) * 2020-11-17 2023-12-05 上海三菱电梯有限公司 Non-contact button operation recognition system
WO2022185470A1 (en) * 2021-03-04 2022-09-09 三菱電機株式会社 Vehicle operation device and vehicle operation method
JP7504284B2 (en) 2021-03-04 2024-06-21 三菱電機株式会社 Vehicle operation device and vehicle operation method

Also Published As

Publication number Publication date
JP6386897B2 (en) 2018-09-05

Similar Documents

Publication Publication Date Title
JP6386897B2 (en) Electronic blackboard, information processing program, and information processing method
CN108431729B (en) Three-dimensional object tracking to increase display area
US9433857B2 (en) Input control device, input control method, and input control program
JP5930618B2 (en) Spatial handwriting system and electronic pen
EP2538309A2 (en) Remote control with motion sensitive devices
CN111344663B (en) Rendering device and rendering method
US20190050132A1 (en) Visual cue system
WO2013175819A1 (en) Video display device and video operation method
US10281996B2 (en) Touch sensitive system and stylus for commanding by maneuvering and method thereof
JP6934776B2 (en) Display control device, display system, pointer display method and program
EP2590060A1 (en) 3D user interaction system and method
JP2013125487A (en) Space hand-writing system and electronic pen
JP6174646B2 (en) Computer program for 3-axis operation of objects in virtual space
KR101564089B1 (en) Presentation Execution system using Gesture recognition.
KR20160072306A (en) Content Augmentation Method and System using a Smart Pen
JP2009238004A (en) Pointing device
US10963073B2 (en) Display control device including pointer control circuitry, pointer display method, and non-temporary recording medium thereof
CN110235096A (en) User interface is redrawn based on a proximity
JP2009294928A (en) Input device, input system, and input method in input device
KR102288431B1 (en) Imagedata input system using virtual reality device and method of generating imagedata thereof
JP2009187353A (en) Input device
JP2016021104A (en) Electronic pen, touch panel device, and input display device
EP2677401B1 (en) Image data generation using a handheld electronic device
JP2016181077A (en) Information processing apparatus, information processing program, and information processing method
CN117980870A (en) Content manipulation via a computer-generated representation of a touch pad

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170925

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180810

R150 Certificate of patent or registration of utility model

Ref document number: 6386897

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150