JP5058187B2 - Portable information terminal - Google Patents

Portable information terminal Download PDF

Info

Publication number
JP5058187B2
JP5058187B2 JP2009024756A JP2009024756A JP5058187B2 JP 5058187 B2 JP5058187 B2 JP 5058187B2 JP 2009024756 A JP2009024756 A JP 2009024756A JP 2009024756 A JP2009024756 A JP 2009024756A JP 5058187 B2 JP5058187 B2 JP 5058187B2
Authority
JP
Japan
Prior art keywords
display
operator
type
display pattern
touch panel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009024756A
Other languages
Japanese (ja)
Other versions
JP2010182071A (en
Inventor
善彦 堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2009024756A priority Critical patent/JP5058187B2/en
Publication of JP2010182071A publication Critical patent/JP2010182071A/en
Application granted granted Critical
Publication of JP5058187B2 publication Critical patent/JP5058187B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0483Interaction with page-structured environments, e.g. book metaphor

Description

本発明は、携帯情報端末に係り、更に詳しくは、光学式タッチパネルを備えた携帯情報端末に関する。   The present invention relates to a portable information terminal, and more particularly to a portable information terminal provided with an optical touch panel.

タッチパネルを備えた携帯電話機は広く知られている(例えば、特許文献1)。タッチパネルは、表示画面上に任意の画像を表示することができ、また、指やタッチペン等の操作子が接触する表示画面上の位置を検出することができる。このため、表示画面上にボタンを表示し、当該ボタンの表示領域に対する操作子の接触を検出すれば、表示画面上に仮想的な操作ボタンを形成することができる。   A mobile phone provided with a touch panel is widely known (for example, Patent Document 1). The touch panel can display an arbitrary image on the display screen, and can detect a position on the display screen where an operator such as a finger or a touch pen contacts. For this reason, a virtual operation button can be formed on the display screen by displaying a button on the display screen and detecting contact of the operator with the display area of the button.

また、タッチパッド上におけるボタンのレイアウトをユーザが簡単に変更することができる携帯電話機が提案されている(例えば、特許文献2)。特許文献2に記載された携帯電話機は、タッチパネル上に線図を描くユーザ操作に基づいて表示画面上に表示する複数のボタンの大きさや表示位置を決定している。   In addition, a mobile phone that allows a user to easily change the layout of buttons on the touch pad has been proposed (for example, Patent Document 2). The mobile phone described in Patent Document 2 determines the sizes and display positions of a plurality of buttons displayed on a display screen based on a user operation for drawing a diagram on a touch panel.

特開2004−110379号公報Japanese Patent Laid-Open No. 2004-110379 特開2007−274136号公報JP 2007-274136 A

一般に、タッチパネルの操作子は、指及びタッチペンのいずれであってもよいが、操作子の種類によって、タッチパネルに対する接触面積は大きく異なる。また、指で操作する場合であれば、指の種類によっても、タッチパネルに対する接触面積が異なる。このため、タッチパネル上には、操作子の接触面積に応じたサイズのボタンを配置することが望ましい。例えば、接触面積の小さい操作子で操作する場合には、小さなボタンを用いて、表示画面上に多数のボタンを配置することが望ましい。一方、接触面積の大きな操作子で操作する場合には、操作しやすい大きなボタンを配置することが望ましい。   Generally, the operator of the touch panel may be either a finger or a touch pen, but the contact area with the touch panel varies greatly depending on the type of the operator. In the case of operation with a finger, the contact area with the touch panel varies depending on the type of finger. For this reason, it is desirable to arrange a button having a size corresponding to the contact area of the operation element on the touch panel. For example, when operating with an operator having a small contact area, it is desirable to arrange a large number of buttons on the display screen using small buttons. On the other hand, when operating with an operator having a large contact area, it is desirable to arrange a large button that is easy to operate.

また、携帯電話機は表示画面が小さく、操作する手で表示画面が隠れてしまう場合が少なくない。このため、右手で操作する場合には、ボタンをより右側に配置し、文字をより左側に配置することが望ましく、左手で操作する場合には、これらの配置を逆にすることが望ましい。スクロールバーのサイズ及び配置についてもボタンの場合と同様である。   In addition, the mobile phone has a small display screen, and the display screen is often hidden by the operating hand. For this reason, when operating with the right hand, it is desirable to arrange the buttons on the right side and arrange the characters on the left side, and when operating with the left hand, it is desirable to reverse these arrangements. The size and arrangement of the scroll bar are the same as in the case of the button.

さらに、操作子をタッチパネル上に接触させた状態で移動させるドラッグ操作を行う場合、操作子を移動させることが可能な距離は、操作子とタッチパネルとの接触領域が大きくなれば短くなり、距離の長いドラッグ操作を行うことが難しくなる。   In addition, when performing a drag operation to move the operation element in contact with the touch panel, the distance that the operation element can be moved becomes shorter as the contact area between the operation element and the touch panel becomes larger. It becomes difficult to perform a long drag operation.

従って、操作子の接触面積に応じて、タッチパネルの表示画面上に表示されるボタン、スクロールバー、文字などの表示オブジェクトのサイズや配置を変更することができれば、操作性を向上させることができると考えられる。しかしながら、ユーザが設定変更のための操作を行うことによって、表示オブジェクトのサイズや配置を変更するのは煩雑であるという問題があった。   Therefore, if the size and arrangement of display objects such as buttons, scroll bars, and characters displayed on the display screen of the touch panel can be changed according to the contact area of the operation element, operability can be improved. Conceivable. However, there is a problem that it is troublesome for the user to change the size and arrangement of the display object by performing an operation for changing the setting.

上述した通り、特許文献2の携帯電話機は、簡単な操作によってボタンの大きさや表示位置をユーザが決定するこができる。しかしながら、表示オブジェクトが操作子に応じた適切なサイズや配置となるように変更するものではない。   As described above, the mobile phone of Patent Document 2 allows the user to determine the size and display position of the button by a simple operation. However, the display object is not changed so as to have an appropriate size or arrangement according to the operation element.

本発明は、上記事情に鑑みてなされたものであり、操作子の種類に応じた表示オブジェクトをタッチパネル上に表示する携帯情報端末を提供することを目的とする。また、ドラッグ操作時に操作子の種類に応じた画面スクロールが行われる携帯情報端末を提供することを目的とする。さらに、操作子に応じて誤操作を防止することができる携帯情報端末を提供することを目的とする。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a portable information terminal that displays a display object corresponding to the type of operation element on a touch panel. It is another object of the present invention to provide a portable information terminal that performs screen scrolling according to the type of operation element during a drag operation. Furthermore, it aims at providing the portable information terminal which can prevent a misoperation according to an operation element.

第1の本発明による携帯情報端末は、表示画面上に多数の光センサが2次元配置され、外側に向って撮影した撮影画像を生成する光学式タッチパネルと、上記撮影画像に基づいて、上記光学式タッチパネルを操作する操作子の種別を判別する操作子判別手段と、2以上の表示パターンを保持する表示パターン記憶手段と、上記操作子の種別に基づいて、上記表示パターンを選択する表示パターン選択手段と、選択された上記表示パターンに基づいて、上記表示画面を制御する表示制御手段と、上記撮影画像に基づいて、上記操作子による操作位置を判別する操作位置判別手段と、上記操作位置に基づいて、上記操作子によるドラッグ操作を判別するドラッグ操作判別手段と、上記ドラッグ操作の判別結果に基づいて、上記表示画面上における表示パターンのスクロールを制御するスクロール制御手段とを備え、上記スクロール制御手段が、上記操作子の種別に基づいて、スクロール量を決定するように構成される。 The portable information terminal according to the first aspect of the present invention includes an optical touch panel in which a large number of optical sensors are two-dimensionally arranged on a display screen and generates a captured image photographed outward, and the optical image based on the captured image. Operator discriminating means for discriminating the type of operator operating the touch panel, display pattern storage means for holding two or more display patterns, and display pattern selection for selecting the display pattern based on the type of the operator Means, display control means for controlling the display screen based on the selected display pattern, operation position determination means for determining the operation position by the operator based on the captured image, and the operation position. Based on the drag operation determining means for determining the drag operation by the operation element and the determination result of the drag operation on the display screen. And a scroll control means for controlling the scrolling of Display pattern, the scroll control means, based on the type of the operating element, configured to determine the scrolling amount.

このような構成により、光学式タッチパネルを操作する操作子の種別に応じた表示パターンを選択し、当該表示パターンに基づいて光学式タッチパネルの表示を行うことができる。このため、ユーザが煩雑な設定作業を行うことなく、操作子の種類に応じた良好な操作性を確保することができる。例えばタッチペンのように接触面積が小さい操作子が用いられる場合には、小さな操作オブジェクトを選択し、表示画面内の情報量を増大させることができる。一方、指のように接触面積が大きい操作子が用いられる場合には、指でも操作しやすい大きな操作オブジェクトを配置することができる。また、指で操作する場合であっても、親指で操作する場合と、それ以外の指で操作する場合とで、大きさの異なる操作オブジェクトを配置することができる。   With such a configuration, it is possible to select a display pattern corresponding to the type of the operator that operates the optical touch panel, and display the optical touch panel based on the display pattern. For this reason, it is possible to ensure good operability according to the type of the operator without the user performing complicated setting work. For example, when an operator having a small contact area such as a touch pen is used, a small operation object can be selected to increase the amount of information in the display screen. On the other hand, when an operator having a large contact area such as a finger is used, a large operation object that can be easily operated with the finger can be arranged. Even when the operation is performed with a finger, operation objects having different sizes can be arranged depending on whether the operation is performed with the thumb or the operation with other fingers.

また、操作子の種別に応じてスクロール量を決定することができるので、異なる操作子のいずれでドラッグ操作を行った場合であっても、良好なスクロール制御を行うことができ、操作性を向上させることができる。例えば、ドラッグ移動量に対するスクロール量の比率を操作子の種別によって異ならせることにより、操作子によるドラッグ操作の差を補償し、いずれの操作子を用いる場合であっても、良好な操作性を得ることができる。 In addition , since the amount of scrolling can be determined according to the type of operation element, even when a drag operation is performed with any of the different operation elements, good scroll control can be performed, improving operability. Can be made. For example, by changing the ratio of the scroll amount with respect to the drag movement amount depending on the type of the operation element, the difference in the drag operation by the operation element is compensated, and good operability can be obtained regardless of which operation element is used. be able to.

第2の本発明による携帯情報端末は、上記構成に加えて、表示画面上に多数の光センサが2次元配置され、外側に向って撮影した撮影画像を生成する光学式タッチパネルと、上記撮影画像に基づいて、上記光学式タッチパネルを操作する操作子の種別を判別する操作子判別手段と、2以上の表示パターンを保持する表示パターン記憶手段と、上記操作子の種別に基づいて、上記表示パターンを選択する表示パターン選択手段と、選択された上記表示パターンに基づいて、上記表示画面を制御する表示制御手段と、上記撮影画像に基づいて、上記操作子による操作位置を判別する操作位置判別手段と、上記操作位置に基づいて、上記操作子によるピンチ操作を判別するピンチ操作判別手段と、上記ピンチ操作の判別結果に基づいて、上記表示画面上における表示パターンの表示倍率を制御する表示倍率制御手段とを備え、上記表示倍率制御手段が、上記操作子の種別に基づいて、表示倍率を決定するように構成される。 In addition to the above-described configuration, the portable information terminal according to the second aspect of the present invention includes an optical touch panel in which a large number of optical sensors are two-dimensionally arranged on a display screen and generates a photographed image photographed outward, and the photographed image. Based on the above, the operator discriminating means for discriminating the type of the operator operating the optical touch panel, the display pattern storage means for holding two or more display patterns, and the display pattern based on the type of the operator Display pattern selection means for selecting the display, display control means for controlling the display screen based on the selected display pattern, and operation position determination means for determining the operation position of the operator based on the captured image A pinch operation determining means for determining a pinch operation by the operation element based on the operation position, and the display image based on the determination result of the pinch operation. And a display magnification control means for controlling the display magnification of the display pattern on said display scale control means, based on the type of the operating element, configured to determine the display magnification.

このような構成によれば、操作子の種別に応じて表示倍率を決定することができるので、異なる操作子のいずれでピンチ操作を行った場合であっても、良好な表示倍率制御を行うことができ、操作性を向上させることができる。例えば、ピンチ操作量に対する表示倍率量の比率を操作子の種別によって異ならせることにより、操作子によるピンチ操作の差を補償し、いずれの操作子を用いる場合であっても、良好な操作性を得ることができる。   According to such a configuration, since the display magnification can be determined according to the type of the operation element, even when a pinch operation is performed with any of the different operation elements, good display magnification control is performed. And operability can be improved. For example, by changing the ratio of the display magnification amount with respect to the pinch operation amount depending on the type of the operation element, the difference in the pinch operation by the operation element is compensated, and good operability can be obtained regardless of which operation element is used. Obtainable.

第3の本発明による携帯情報端末は、上記構成に加えて、表示画面上に多数の光センサが2次元配置され、外側に向って撮影した撮影画像を生成する光学式タッチパネルと、上記撮影画像に基づいて、上記光学式タッチパネルを操作する操作子の種別を判別する操作子判別手段と、2以上の表示パターンを保持する表示パターン記憶手段と、上記操作子の種別に基づいて、上記表示パターンを選択する表示パターン選択手段と、選択された上記表示パターンに基づいて、上記表示画面を制御する表示制御手段と、上記撮影画像に基づいて、上記操作子による操作位置を判別する操作位置判別手段と、上記操作位置に基づいて、上記操作子によるピンチ操作を判別するピンチ操作判別手段を備え、上記ピンチ操作判別手段が、上記操作子の種別に基づいて、ピンチ操作を無効化するように構成される。 In addition to the above-described configuration, the portable information terminal according to the third aspect of the present invention includes an optical touch panel in which a large number of optical sensors are two-dimensionally arranged on a display screen and generates a photographed image photographed outward, and the photographed image. Based on the above, the operator discriminating means for discriminating the type of the operator operating the optical touch panel, the display pattern storage means for holding two or more display patterns, and the display pattern based on the type of the operator Display pattern selection means for selecting the display, display control means for controlling the display screen based on the selected display pattern, and operation position determination means for determining the operation position of the operator based on the captured image And a pinch operation determining means for determining a pinch operation by the operation element based on the operation position, and the pinch operation determining means is a type of the operation element. Based on configured to disable the pinch operation.

このような構成によれば、操作子の種別に応じてピンチ操作を無効化することができるので、通常、ピンチ操作が行われない操作子の場合に、誤操作又は誤検出によってピンチ操作に対応する処理が行われるのを防止することができる。   According to such a configuration, the pinch operation can be invalidated according to the type of the operation element. Therefore, in the case of an operation element that does not perform the pinch operation, the pinch operation is usually handled by an erroneous operation or erroneous detection. It is possible to prevent the processing from being performed.

第4の本発明による携帯情報端末は、上記構成に加えて、上記操作子判別手段が、上記操作子がタッチペン及び指のいずれであるのかを判別するように構成される。 In addition to the above configuration, the portable information terminal according to the fourth aspect of the present invention is configured such that the operation element determination means determines whether the operation element is a touch pen or a finger.

第5の本発明による携帯情報端末は、上記構成に加えて、上記操作子判別手段が、上記操作子がタッチペン及び指のいずれであるのかを判別するように構成される。

In addition to the above-described configuration, the portable information terminal according to the fifth aspect of the present invention is configured such that the operation element determination means determines whether the operation element is a touch pen or a finger.

本発明によれば、操作子の種類に応じた表示オブジェクトをタッチパネル上に表示する携帯情報端末を提供することができる。また、ドラッグ操作時に操作子の種類に応じた画面スクロールが行われる携帯情報端末を提供することができる。さらに、操作子に応じて誤操作を防止することができる携帯情報端末を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the portable information terminal which displays the display object according to the kind of operation element on a touch panel can be provided. In addition, it is possible to provide a portable information terminal that performs screen scrolling according to the type of operation element during a drag operation. Furthermore, it is possible to provide a portable information terminal that can prevent an erroneous operation depending on the operation element.

本発明の実施の形態による携帯情報端末の一例を示した外観図である。It is the external view which showed an example of the portable information terminal by embodiment of this invention. 図1の光学式タッチパネル2の一構成例を示した図である。It is the figure which showed one structural example of the optical touch panel 2 of FIG. 図1の携帯電話機1の内部構成の一例を示したブロック部である。2 is a block diagram illustrating an example of an internal configuration of the mobile phone 1 in FIG. 1. 図3の操作処理部4及び表示画像生成部5の詳細構成の一例を示したブロック図である。FIG. 4 is a block diagram illustrating an example of a detailed configuration of an operation processing unit 4 and a display image generation unit 5 in FIG. 3. 操作処理部4における動作の一例を示したフローチャートである。5 is a flowchart illustrating an example of an operation in the operation processing unit 4. 図1の光学式タッチパネル2による画面表示の一例を示した図である。It is the figure which showed an example of the screen display by the optical touch panel 2 of FIG.

図1は、本発明の実施の形態による携帯情報端末の一例を示した外観図であり、携帯情報端末の一例として、光学式タッチパネルを備えた携帯電話機1が示されている。この携帯電話機1は、筐体10、受信用レシーバ11、光学式タッチパネル2、操作キー13及び送信用マイクロホン14により構成される。   FIG. 1 is an external view showing an example of a portable information terminal according to an embodiment of the present invention. As an example of the portable information terminal, a mobile phone 1 having an optical touch panel is shown. The cellular phone 1 includes a housing 10, a receiving receiver 11, an optical touch panel 2, operation keys 13, and a transmitting microphone 14.

受信用レシーバ11は、通話時に受話音を出力する音声出力手段である。光学式タッチパネル2は、画像を表示する表示画面を有するとともに、当該表示画面に対するユーザの操作入力を検出する表示装置である。例えば、表示画面上にメニュー表示を行うとともに、ユーザによる表示画面上の操作位置を検出し、ユーザが選択したメニュー選択肢を判別することができる。操作キー13は、接点式の操作入力手段であり、ユーザによる押圧操作を検出することができる。例えば、操作キー13を押圧操作することによって、光学式タッチパネル2の表示画面にメニューを表示させることができる。送信用マイクロホン14は、通話時に送話音が入力される音声入力手段である。   The receiving receiver 11 is a voice output unit that outputs a received sound during a call. The optical touch panel 2 is a display device that has a display screen for displaying an image and detects a user operation input on the display screen. For example, it is possible to display a menu on the display screen, detect an operation position on the display screen by the user, and determine a menu option selected by the user. The operation key 13 is a contact-type operation input means, and can detect a pressing operation by a user. For example, a menu can be displayed on the display screen of the optical touch panel 2 by pressing the operation key 13. The transmission microphone 14 is a voice input means for inputting a transmission sound during a call.

ユーザは、光学式タッチパネル2を用いて、様々な種類の操作入力を行うことができる。ここでは、操作子で表示画面を1回軽く叩く「シングルタップ」、所定範囲の時間間隔で2回軽く叩く「ダブルタップ」、操作子を表示画面に接触させたままで移動させる「ドラッグ」、操作子を表示画面上で軽く払う、つまり、操作子を素早く移動させながら表示画面から離す「フリック」、2つの操作子をともに接触させたままで両者の距離を変化させる「ピンチ」の各操作を行うことができるものとする。   The user can perform various types of operation inputs using the optical touch panel 2. Here, “single tap” that taps the display screen once with the operator, “double tap” that taps twice at a predetermined time interval, “drag” that moves the operator while touching the display screen, operation Lightly pay the child on the display screen, that is, perform “flick” to move the operator quickly away from the display screen, and “pinch” to change the distance between the two operators while keeping them in contact with each other It shall be possible.

例えば、ユーザが、表示画面内のアイコン上においてタップ操作を行えば、当該アイコンを選択し、あるいは、当該アイコンに関連づけられた機能を実行することができる。また、ドラッグ操作を行えば、画面表示をスクロールさせることができ、ピンチ操作を行えば、画面表示を拡大又は縮小することができる。   For example, when the user performs a tap operation on an icon in the display screen, the icon can be selected or a function associated with the icon can be executed. Further, if a drag operation is performed, the screen display can be scrolled, and if a pinch operation is performed, the screen display can be enlarged or reduced.

この光学式タッチパネル2は、ユーザが操作入力を行った表示画面上の操作位置だけでなく、操作入力に用いられた操作子の種別も判別することができる。つまり、ユーザがタッチペン又は指のいずれを用いて操作したのかを判別することができ、指で操作した場合であれば、親指又はその他の指のいずれが用いられたのかも判別することができる。また、光学式タッチパネル2は、操作子が表示画面に対して傾いている方向を判別することができる。このため、ユーザが右手又は左手のいずれで操作しているのかを判別することもできる。   The optical touch panel 2 can discriminate not only the operation position on the display screen where the user has performed the operation input, but also the type of the operator used for the operation input. That is, it can be determined whether the user has operated with the touch pen or the finger, and if the user has operated with the finger, it can also be determined which of the thumb or the other finger has been used. Further, the optical touch panel 2 can determine the direction in which the operator is tilted with respect to the display screen. For this reason, it is also possible to determine whether the user is operating with the right hand or the left hand.

携帯電話機1では、このような光学式タッチパネル2を用いることにより、操作子の種別や傾き方向に基づいて、表示画面に表示させる表示パターンを異ならせている。このため、操作子に応じた表示パターンを表示することができ、また、右手操作又は左手操作に応じた表示パターンを表示することができる。   In the mobile phone 1, by using such an optical touch panel 2, the display pattern to be displayed on the display screen is varied based on the type of the operator and the tilt direction. For this reason, the display pattern according to an operator can be displayed, and the display pattern according to right hand operation or left hand operation can be displayed.

また、この携帯電話機1では、操作子の種別や傾き方向に基づいて、操作入力時の動作を異ならせている。このため、操作子の種類や、操作している手に応じて良好な操作性を実現することができる。また、タッチペン使用時におけるピンチ操作のように、通常はあり得ない操作入力を禁止することにより、誤操作を防止することもできる。   Further, in the cellular phone 1, the operation at the time of operation input is varied based on the type of the operation element and the tilt direction. For this reason, it is possible to realize good operability according to the type of the operator and the operating hand. Further, it is possible to prevent an erroneous operation by prohibiting an operation input that is not normally possible, such as a pinch operation when using the touch pen.

図2は、図1の光学式タッチパネル2の一構成例を示した図である。この光学式タッチパネル2は、液晶パネル内に多数の光センサを形成することによって、表示装置及びタッチパネルが不可分の一体的な装置として構成されている。これらの光センサを用いて、表示画面から外側に向けて、表示画面の近傍を撮影し、撮影画像を生成することができる。   FIG. 2 is a diagram showing a configuration example of the optical touch panel 2 of FIG. This optical touch panel 2 is configured as an inseparable unit of a display device and a touch panel by forming a large number of optical sensors in a liquid crystal panel. Using these optical sensors, the vicinity of the display screen can be photographed outward from the display screen to generate a photographed image.

図2(a)は、光学式タッチパネル2の外観を示した斜視図である。この光学式タッチパネル2は、液晶パネル20、バックライト21、液晶駆動回路23及び光センサ制御回路24によって構成される。液晶パネル20内には、液晶駆動回路23によって駆動される多数の表示画素25と、光センサ制御回路24によって制御される多数の光センサ26が設けられている。また、液晶駆動回路23及び光センサ制御回路24は、表示画面22を囲む液晶パネル20の額縁部にそれぞれ配置されている。   FIG. 2A is a perspective view showing the appearance of the optical touch panel 2. The optical touch panel 2 includes a liquid crystal panel 20, a backlight 21, a liquid crystal drive circuit 23, and an optical sensor control circuit 24. In the liquid crystal panel 20, a large number of display pixels 25 driven by the liquid crystal driving circuit 23 and a large number of photosensors 26 controlled by the photosensor control circuit 24 are provided. Further, the liquid crystal driving circuit 23 and the optical sensor control circuit 24 are respectively arranged on the frame portion of the liquid crystal panel 20 surrounding the display screen 22.

図2(b)は、表示画面22を形成する表示画素25の一例を示した拡大図である。表示画面12内には、多数の表示画素25がマトリクス状に2次元配置されている。各表示画素25は、赤色サブ画素25r、緑色サブ画素25g及び青色サブ画素25bからなり、表示画素25ごとに光センサ26が配置されている。つまり、表示画素25と同じ数の光センサ26がマトリクス状に2次元配置されている。なお、両者の数が同じである必要はない。   FIG. 2B is an enlarged view showing an example of the display pixel 25 that forms the display screen 22. A large number of display pixels 25 are two-dimensionally arranged in a matrix in the display screen 12. Each display pixel 25 includes a red sub-pixel 25r, a green sub-pixel 25g, and a blue sub-pixel 25b, and an optical sensor 26 is disposed for each display pixel 25. That is, the same number of photosensors 26 as the display pixels 25 are two-dimensionally arranged in a matrix. Note that the number of both need not be the same.

図2(c)は、表示画面22上における液晶パネル20及びバックライト21の断面が示されている。液晶パネル20は、2枚のガラス板28の隙間に液晶が封入され、一方のガラス板28の内面に表示画素25及び光センサ26が形成され、他方のガラス板28の内面に共通電極27が形成されている。   FIG. 2C shows a cross section of the liquid crystal panel 20 and the backlight 21 on the display screen 22. In the liquid crystal panel 20, liquid crystal is sealed in a gap between two glass plates 28, display pixels 25 and photosensors 26 are formed on the inner surface of one glass plate 28, and a common electrode 27 is formed on the inner surface of the other glass plate 28. Is formed.

バックライト101は、液晶パネル20の背面側に配置された光源であり、バックライト21の光が表示画素25を透過することによって表示画面22上に画像が表示される。ユーザが表示画面22に操作子を近づけた場合、表示画面22からの出射光が操作子によって反射され、この反射光が光センサ26に入射される。従って、各光センサ26において入射光量を検出すれば、表示画面22から外側に向って撮影した撮影画像が得られる。   The backlight 101 is a light source disposed on the back side of the liquid crystal panel 20, and an image is displayed on the display screen 22 when light from the backlight 21 passes through the display pixels 25. When the user brings the operation element close to the display screen 22, the emitted light from the display screen 22 is reflected by the operation element, and this reflected light is incident on the optical sensor 26. Therefore, if the amount of incident light is detected by each optical sensor 26, a captured image taken outward from the display screen 22 can be obtained.

この撮影画像には、光学式タッチパネル2との接触部分の画像だけでなく、光学式タッチパネル2の近傍に位置する非接触部分の画像も含まれている。また、接触部分と非接触部分は、画像の明るさなどによって判別することができる。このため、操作子の種別を判別することができるだけでなく、光学式タッチパネル2に対し、操作子がどの方向に傾いているのかを判別することもできる。   This captured image includes not only an image of a contact portion with the optical touch panel 2 but also an image of a non-contact portion located in the vicinity of the optical touch panel 2. Further, the contact portion and the non-contact portion can be discriminated based on the brightness of the image. Therefore, not only the type of the operation element can be determined, but also the direction in which the operation element is inclined with respect to the optical touch panel 2 can be determined.

図3は、図1の携帯電話機1の内部構成の一例を示したブロック部である。この携帯電話機1は、光学式タッチパネル2、操作解析部3、操作処理部4、表示画像生成部5、機能実行部6及び表示制御部7により構成される。   FIG. 3 is a block diagram showing an example of the internal configuration of the mobile phone 1 of FIG. The mobile phone 1 includes an optical touch panel 2, an operation analysis unit 3, an operation processing unit 4, a display image generation unit 5, a function execution unit 6, and a display control unit 7.

操作解析部3は、操作位置判別部31、操作子判別部32及び傾き方向判別部33からなり、光センサ制御回路24から出力される撮影画像に基づいて、光学式タッチパネル2に対するユーザ操作を解析している。   The operation analysis unit 3 includes an operation position determination unit 31, an operator determination unit 32, and an inclination direction determination unit 33, and analyzes a user operation on the optical touch panel 2 based on a photographed image output from the optical sensor control circuit 24. is doing.

操作位置判別部31は、撮影画像に基づいて、表示画面22内における操作位置を判別している。操作位置とは、表示画面上における操作子の先端の位置である。例えば、撮影画像から操作子の接触領域を抽出し、この接触領域の中心の表示画面22内における座標位置として求めることができる。   The operation position determination unit 31 determines the operation position in the display screen 22 based on the captured image. The operation position is the position of the tip of the operation element on the display screen. For example, the contact area of the operator can be extracted from the photographed image and can be obtained as the coordinate position in the display screen 22 at the center of the contact area.

操作子判別部32は、撮影画像に基づいて、操作子の種別を判別している。ここでは、タッチペン又は指のいずれで操作しているのかを判別し、指で操作している場合には、さらに親指又はそれ以外の指のいずれで操作しているのかを判別している。このような操作子の種別は、操作子の先端の形状や大きさによって判別することができる。例えば、接触領域の面積を2つの閾値と比較することによって、タッチペン、親指又はその他の指のいずれであるのかを判別することができる。   The operator determining unit 32 determines the type of the operator based on the captured image. Here, it is determined which of the touch pen or the finger is used for operation, and when the operation is performed with the finger, it is further determined which of the thumb or the other finger is used for operation. The type of the operation element can be determined by the shape and size of the tip of the operation element. For example, by comparing the area of the contact area with two threshold values, it can be determined whether the touch pen, thumb, or other finger.

傾き方向判別部33は、撮影画像に基づいて、光学式タッチパネルに対する操作子の傾き方向を判別している。操作子の傾きは、撮影画像内における操作子の接触部及び非接触部の位置関係によって判別することができる。接触部の右側に非接触部があれば、操作子は右へ傾いていると判断することができ、ユーザが右手で操作していることがわかる。一方、接触部の左側に非接触部があれば、操作子が左へ傾いていると判断することができ、ユーザが左手で操作していることがわかる。ここでは、左右方向の傾きを判別することによって、ユーザが右手又は左手のいずれで操作しているのかを判別している。なお、傾き判別は、操作子がタッチペン及び指のいずれの場合であっても行うことができる。   The tilt direction determination unit 33 determines the tilt direction of the operator with respect to the optical touch panel based on the captured image. The inclination of the operation element can be determined by the positional relationship between the contact part and the non-contact part of the operation element in the captured image. If there is a non-contact portion on the right side of the contact portion, it can be determined that the operation element is tilted to the right, and it is understood that the user is operating with the right hand. On the other hand, if there is a non-contact portion on the left side of the contact portion, it can be determined that the operation element is tilted to the left, and it can be seen that the user is operating with the left hand. Here, it is determined whether the user is operating with the right hand or the left hand by determining the inclination in the left-right direction. The tilt determination can be performed regardless of whether the operation element is a touch pen or a finger.

操作処理部4は、操作子の操作位置及び種別に基づいて、タッチパネル操作の有無及び種別を判別し、当該タッチパネル操作に基づく処理を決定し、表示画像生成部5及び機能実行部6に対し、当該処理を指示する。例えば、表示画面22上の操作ボタンに対し、シングルタップ操作が行われた場合には、機能実行部6に当該操作ボタンに対応する機能の実行を指示する。一方、表示画面22内においてドラッグ操作又はピンチ操作が行われた場合には、表示画像生成部5に対し、スクロール又は表示倍率変更を指示する。   The operation processing unit 4 determines the presence / absence and type of touch panel operation based on the operation position and type of the operator, determines processing based on the touch panel operation, and displays the display image generation unit 5 and the function execution unit 6 The process is instructed. For example, when a single tap operation is performed on the operation button on the display screen 22, the function execution unit 6 is instructed to execute a function corresponding to the operation button. On the other hand, when a drag operation or a pinch operation is performed in the display screen 22, the display image generation unit 5 is instructed to scroll or change the display magnification.

表示画像生成部5は、操作解析部3及び操作処理部4の出力に基づいて、表示画面22に表示するための表示画像を生成している。表示制御部7は、表示画像生成部5からの表示画像に基づいて、光学式タッチパネル2内の液晶駆動回路23を制御する。   The display image generation unit 5 generates a display image to be displayed on the display screen 22 based on the outputs of the operation analysis unit 3 and the operation processing unit 4. The display control unit 7 controls the liquid crystal drive circuit 23 in the optical touch panel 2 based on the display image from the display image generation unit 5.

図4は、図3の操作処理部4及び表示画像生成部5の詳細構成の一例を示したブロック図である。操作処理部4は、操作判別部41、有効性判別部42、処理決定部43、判定パラメータ記憶部41s、許容操作記憶部42s及び制御パラメータ記憶部43sからなる。   FIG. 4 is a block diagram illustrating an example of a detailed configuration of the operation processing unit 4 and the display image generation unit 5 of FIG. The operation processing unit 4 includes an operation determination unit 41, an effectiveness determination unit 42, a process determination unit 43, a determination parameter storage unit 41s, an allowable operation storage unit 42s, and a control parameter storage unit 43s.

操作判別部41は、操作子の操作位置に基づいて、シングルタップ操作、ドラッグ操作、ピンチ操作などのタッチパネル操作の種別を判別する。この操作種別の判別処理は、操作子の種別に基づいて、判定パラメータ記憶部41sから読み出された判別パラメータを用いて行われる。   The operation determination unit 41 determines the type of touch panel operation such as a single tap operation, a drag operation, or a pinch operation based on the operation position of the operator. The operation type determination process is performed using the determination parameter read from the determination parameter storage unit 41s based on the type of the operator.

判定パラメータ記憶部41sは、操作子の種別ごとに、当該操作子による操作種別の判定に用いられる判定パラメータを保持している。例えば、シングルタップ操作の判定パラメータとして、表示画面22に触れている時間や、ダブルタップ操作の判定パラメータとして、1回目のタップ操作から2回目のタップ操作までの時間や、フリック操作の判定パラメータとして、操作子が移動するスピードや、ドラッグ操作の判定パラメータとして、操作子の移動量などが保持されている。このような判定パラメータを操作子の種別ごとに保持しておくことによって、操作子の種別に応じた操作種別の判定を行うことができる。   The determination parameter storage unit 41s holds determination parameters used for determining the operation type by the operation element for each operation element type. For example, as a determination parameter for a single tap operation, as a time for touching the display screen 22, as a determination parameter for a double tap operation, as a time from a first tap operation to a second tap operation, or as a determination parameter for a flick operation The moving speed of the operating element, the movement amount of the operating element, and the like are held as determination parameters for the drag operation. By holding such determination parameters for each type of operator, it is possible to determine the operation type according to the type of operator.

有効性判別部42は、操作子の種別に基づいて、操作判別部41によって判別された操作種別が有効であるか否かを判別する。この有効性の判別処理は、操作子の種別に基づいて、許容操作記憶部42sから読み出された許容操作を用いて行われる。つまり、操作判別部41により判別されたタッチパネル操作が、読み出された許容操作に含まれていない場合には、当該タッチパネル操作は無効な操作であると判断される。   The validity determination unit 42 determines whether the operation type determined by the operation determination unit 41 is valid based on the type of the operator. The validity determination process is performed using the allowable operation read from the allowable operation storage unit 42s based on the type of the operator. That is, when the touch panel operation determined by the operation determination unit 41 is not included in the read allowable operation, it is determined that the touch panel operation is an invalid operation.

許容操作記憶部42sには、操作子の種別ごとに、当該操作子によって操作入力することができるタッチパネル操作を許容操作として保持している。ここでは、タッチペン、親指及び親指以外の指の3つの操作子に対し、シングルタップ操作、ダブルタップ操作、ドラッグ操作、ピンチ操作などのタッチパネル操作が許容操作として対応づけられている。ただし、2点を接触させて行われるピンチ操作がタッチペンで行われることはないため、タッチペンの許容操作には、ピンチ操作は含まれていない。このような許容操作を操作子の種別ごとに保持しておくことによって、有り得ない操作入力や、禁止されている操作入力が誤検出されるのを防止することができる。   The permissible operation storage unit 42 s holds, as permissible operations, touch panel operations that can be input with the operators for each type of operator. Here, a touch panel operation such as a single tap operation, a double tap operation, a drag operation, and a pinch operation is associated as an allowable operation with respect to the three operators of the touch pen, the thumb, and a finger other than the thumb. However, since the pinch operation performed by contacting two points is not performed with the touch pen, the allowable operation of the touch pen does not include the pinch operation. By holding such an allowable operation for each type of operation element, it is possible to prevent erroneous operation input and prohibited operation input from being erroneously detected.

処理決定部43は、有効なタッチパネル操作に基づいて行われる処理内容を決定し、機能実行部6又は表示画像生成部5へ制御信号を出力する。この処理内容の決定処理は、表示画面上に表示されている操作オブジェクトの配置情報及び操作子の操作位置に基づいて行われる。操作オブジェクトとは、表示画面上に表示されている様々なオブジェクトのうち、操作ボタンやスクロールバーのハンドルのようにユーザ操作の対象となるオブジェクトである。例えば、操作ボタン上において、当該操作ボタンを選択するためのシングルタップ操作又はダブルタップ操作が行われた場合、当該操作ボタンに予め対応づけられた処理内容を実行することが決定される。   The process determining unit 43 determines the processing content to be performed based on an effective touch panel operation, and outputs a control signal to the function executing unit 6 or the display image generating unit 5. This processing content determination processing is performed based on the arrangement information of the operation object displayed on the display screen and the operation position of the operation element. An operation object is an object that is a target of user operation, such as an operation button or a handle of a scroll bar, among various objects displayed on the display screen. For example, when a single tap operation or a double tap operation for selecting the operation button is performed on the operation button, it is determined to execute the processing content previously associated with the operation button.

また、処理内容の決定処理は、操作子の種別に基づいて、制御パラメータ記憶部43sから読み出された制御パラメータを用いて行われ、同じタッチパネル操作が行われた場合であっても、操作子の種別が異なっていれば処理内容も異なる。   Further, the process content determination process is performed using the control parameter read from the control parameter storage unit 43s based on the type of the operation element, and even when the same touch panel operation is performed, the operation element is determined. If the type of is different, the processing contents are also different.

制御パラメータ記憶部43sは、操作子の種別ごとに、当該操作子による操作入力に基づいて行われる表示制御に用いられる制御パラメータが保持されている。例えば、スクロールの制御パラメータとして、ドラッグ移動量に対するスクロール移動量の比率や、表示倍率変更の制御パラメータとして、ピンチ移動量に対する拡大又は縮小する比率などが保持されている。   The control parameter storage unit 43s holds, for each type of operation element, control parameters used for display control performed based on an operation input by the operation element. For example, the ratio of the scroll movement amount to the drag movement amount is held as the scroll control parameter, and the ratio of enlargement or reduction to the pinch movement amount is held as the control parameter for changing the display magnification.

このような制御パラメータを操作子の種別ごとに保持しておくことによって、操作子の種別に応じた表示制御を行うことができる。例えば、親指は他の指よりも短く、可動範囲が狭いため、表示画面上における移動距離もより短くなってしまう。このため、親指でドラッグ操作が行われた場合、親指以外の指でドラッグ操作が行われた場合に比べて、ドラッグ移動量に対するスクロール移動量の比率を示す制御パラメータをより大きな値にしておくことにより、親指でドラッグ操作した場合であっても、他の指と同様、移動量の大きなスクロールを行うことができる。逆に、タッチペンでドラッグ操作を行う場合であれば、可動範囲が広いため、移動量の大きなドラッグ操作を行うことは容易である。このため、タッチペンによるドラッグ操作の場合、ドラッグ移動量に対するスクロール移動量の比率を示す制御パラメータを小さくすることによって、短い移動量のスクロールも行うことができる。   By holding such control parameters for each type of operation element, display control according to the type of operation element can be performed. For example, since the thumb is shorter than the other fingers and the movable range is narrow, the moving distance on the display screen is also shortened. Therefore, when the drag operation is performed with the thumb, the control parameter indicating the ratio of the scroll movement amount to the drag movement amount is set to a larger value than when the drag operation is performed with a finger other than the thumb. Thus, even when a drag operation is performed with the thumb, scrolling with a large amount of movement can be performed as with other fingers. On the other hand, if a drag operation is performed with a touch pen, the movable range is wide, and it is easy to perform a drag operation with a large amount of movement. For this reason, in the case of a drag operation with a touch pen, scrolling with a short movement amount can be performed by reducing the control parameter indicating the ratio of the scroll movement amount to the drag movement amount.

図5のステップS101〜S109は、操作処理部4における動作の一例を示したフローチャートである。この操作判別処理は、光学式タッチパネル2に対し操作入力が行われた場合に実行される。   Steps S <b> 101 to S <b> 109 in FIG. 5 are flowcharts illustrating an example of operations in the operation processing unit 4. This operation determination process is executed when an operation input is performed on the optical touch panel 2.

まず、操作判別部41が、操作子判別部32において判別された操作子の種別を取得し(ステップS101)、この操作子の種別に対応づけられた判定パラメータが判定パラメータ記憶部41sから読み出される(ステップS102)。次に、操作位置判別部31において判別された表示画面22上の操作位置を取得し(ステップS103)、先に読み出された判定パラメータを用いて、当該操作位置からタッチパネル操作の種別が判別される(ステップS104)。つまり、操作種別の判定が操作子の種別に応じて行われる。   First, the operation discriminating unit 41 acquires the type of the manipulator discriminated by the manipulator discriminating unit 32 (step S101), and the judgment parameter associated with the type of the manipulator is read from the judgment parameter storage unit 41s. (Step S102). Next, the operation position on the display screen 22 determined by the operation position determination unit 31 is acquired (step S103), and the type of touch panel operation is determined from the operation position using the determination parameter read out earlier. (Step S104). That is, the operation type is determined according to the type of the operation element.

次に、有効性判別部42によって、操作子の種別に対応づけられた許容操作が許容操作記憶部42sから読み出される(ステップS105)。有効性判別部42は、操作判別部41によって先に判定された操作種別を読み出された許容操作と比較することにより、その有効性を判定する(ステップS106)。つまり、当該タッチパネル操作が、その操作子による操作として許容されているか否かを判定する。当該タッチパネル操作が許容操作でない無効な操作であった場合には、処理内容を決定することなく処理を終了する(ステップS107)。   Next, the validity determination unit 42 reads the allowable operation associated with the type of the operator from the allowable operation storage unit 42s (step S105). The validity determination unit 42 determines the validity by comparing the operation type previously determined by the operation determination unit 41 with the read allowable operation (step S106). That is, it is determined whether the touch panel operation is permitted as an operation by the operator. If the touch panel operation is an invalid operation that is not an allowable operation, the process ends without determining the process content (step S107).

一方、上記タッチパネル操作が許容操作であれば、処理決定部43によって、必要な制御パラメータが許容操作記憶部42sから読み出される(ステップS108)。制御パラメータは、操作子の種別及び操作種別に応じたものが読み出される。処理決定部43は、読み出された制御パラメータに基づいて、処理内容を決定し、当該処理を行う機能実行部6又は表示制御部7に対し制御信号を出力する(ステップS109)。   On the other hand, if the touch panel operation is an allowable operation, the process determining unit 43 reads out necessary control parameters from the allowable operation storage unit 42s (step S108). The control parameters are read according to the type of operation element and the operation type. The process determining unit 43 determines the process content based on the read control parameter, and outputs a control signal to the function executing unit 6 or the display control unit 7 that performs the process (step S109).

表示画像生成部5は、表示パターン選択部51、スクロール制御部52及び表示倍率制御部53及び表示パターン記憶部51sからなる。   The display image generation unit 5 includes a display pattern selection unit 51, a scroll control unit 52, a display magnification control unit 53, and a display pattern storage unit 51s.

表示パターン選択部51は、操作子の種別及び傾き方向に基づいて、表示パターン記憶部51s内の表示パターンのいずれかを選択する。表示パターン選択部51による表示パターンの選択は、表示画面22への操作入力が行われた場合や、機能実行部6から表示更新信号が出力された場合に行われる。   The display pattern selection unit 51 selects one of the display patterns in the display pattern storage unit 51s based on the type of operator and the tilt direction. The selection of the display pattern by the display pattern selection unit 51 is performed when an operation input to the display screen 22 is performed or when a display update signal is output from the function execution unit 6.

表示パターン記憶部51s内には、操作子の種別及び傾き方向に対応づけられた2以上の表示パターンが保持されている。表示パターンは、表示画面22用の表示画像を生成するための情報であり、表示画像上に配置される1又は2以上のオブジェクトと、これらのオブジェクトに関するパラメータからなる。例えば、リスト画面やサムネイル画面を規定する表示パターンの場合、テキストラベル、テキストボックス、チェックボックス、スクロールバー、リストボックス、操作ボタンなどのオブジェクトと、これらのオブジェクトの表示位置、サイズ(高さや幅)、フォントサイズ、タイトル、テキスト表示位置(右寄せ、左寄せ、中央揃え)などのパラメータとが含まれる。   In the display pattern storage unit 51s, two or more display patterns associated with the type of operator and the tilt direction are stored. The display pattern is information for generating a display image for the display screen 22, and includes one or more objects arranged on the display image and parameters related to these objects. For example, in the case of a display pattern that defines a list screen or thumbnail screen, objects such as text labels, text boxes, check boxes, scroll bars, list boxes, operation buttons, and display positions and sizes (height and width) of these objects Parameters such as font size, title, text display position (right-justified, left-justified, centered).

表示パターン選択部51では、操作子の種別に応じた表示パターンが選択される。特に、操作子の種別に応じたサイズの操作オブジェクトが配置されている表示パターンが選択されることが望ましい。例えば、操作子が親指であれば、大きなオブジェクトが配置された表示パターンが選択される。一方、操作子がタッチペンであれば、より小さなオブジェクトが配置された表示パターンが選択され、表示画面内には、より多くのオブジェクトを表示することができる。   In the display pattern selection unit 51, a display pattern corresponding to the type of the operator is selected. In particular, it is desirable to select a display pattern in which operation objects having a size corresponding to the type of operation element are arranged. For example, if the operator is a thumb, a display pattern in which a large object is arranged is selected. On the other hand, if the operation element is a touch pen, a display pattern in which smaller objects are arranged is selected, and more objects can be displayed in the display screen.

また、表示パターン選択部51では、操作子の傾き方向に応じた表示パターンが選択される。つまり、ユーザが右手で操作している場合には、右手用の表示パターンが選択され、左で操作している場合には、左手用の表示パターンが選択される。右手用の表示パターンは、タッチパネル操作が容易となり、また、操作している手で表示画面22が隠れにくくなるように、左手用の表示パターンに比べて、オブジェクトがより右側に、文字が左寄せ形式で配置されている。これに対し、左手用の表示パターンは、右手用オブジェクトの場合に比べて、オブジェクトがより左側に、文字が右寄せ形式で配置されている。   The display pattern selection unit 51 selects a display pattern corresponding to the tilt direction of the operation element. That is, when the user is operating with the right hand, the display pattern for the right hand is selected, and when the user is operating with the left hand, the display pattern for the left hand is selected. The display pattern for the right hand makes the touch panel operation easy, and the display screen 22 is not easily hidden by the operating hand, so that the object is on the right side and the characters are left-aligned compared to the display pattern for the left hand. Is arranged in. On the other hand, in the display pattern for the left hand, the object is arranged on the left side and the characters are arranged in a right-justified format as compared with the case of the right-hand object.

スクロール制御部52は、表示パターンから生成される表示画像のスクロール制御を行っている。このスクロール制御は、処理決定部43からのスクロール制御信号に基づいて行われる。また、表示倍率制御部53は、処理決定部43からの表示倍率制御信号に基づいて、上記表示画像の表示画面内における表示倍率を制御している。   The scroll control unit 52 performs scroll control of the display image generated from the display pattern. This scroll control is performed based on a scroll control signal from the process determining unit 43. Further, the display magnification control unit 53 controls the display magnification of the display image in the display screen based on the display magnification control signal from the process determination unit 43.

図6は、図1の光学式タッチパネル2による画面表示の一例を示した図であり、図中の(a)〜(c)には、操作子の種別又は傾き方向が異なる場合のリスト画面60a〜60cが示されている。これらのリスト画面60a〜60cは、リストボックス61、決定ボタン64及びクリアボタン65により構成され、例えば、アドレス帳に登録された連絡先を一覧表示するような場合に利用することができる。リストボックス61内には、2以上の項目63及びスクロールバー62が配置されている。決定ボタン64及びクリアボタン65は、ユーザ操作の対象となるオブジェクトである。   FIG. 6 is a diagram showing an example of the screen display by the optical touch panel 2 of FIG. 1, and (a) to (c) in the figure show a list screen 60a when the type or inclination direction of the operation element is different. ~ 60c is shown. These list screens 60a to 60c are composed of a list box 61, a determination button 64, and a clear button 65, and can be used when, for example, a list of contacts registered in the address book is displayed. Two or more items 63 and a scroll bar 62 are arranged in the list box 61. The decision button 64 and the clear button 65 are objects that are targets of user operations.

図6(a)には、ユーザが右手の親指で操作している場合のリスト画面60aが示されている。一般に、右手の指で光学式タッチパネル2を操作している場合、表示画面22内の操作位置よりも右側の領域は、右手の指や掌によって隠れやすい。また、右手で携帯電話機1を持ち、右手の親指で表示画面22を操作する場合、指が表示画面22の左側には届きにくい。このため、右手の親指で操作している場合には、図示したように、決定ボタン64及び決定ボタン64を右側に寄せて配置している。また、スクロールバー63もリストボックス61の右端に配置されている。一方、リストボックス61内の各項目63に表示されるテキストは左寄せで表示され、文字が右手の指や掌によって隠れにくいように配置されている。つまり、操作対象となるオブジェクトは、表示画面内において、操作入力に使用される手に近い方向に偏在させ、文字列は、上記方向とは反対側に偏在させている。このため、文字列が指や掌によって隠れにくく、親指であってもボタン操作が容易な表示パターンとなっている。   FIG. 6A shows a list screen 60a when the user is operating with the thumb of the right hand. In general, when the optical touch panel 2 is operated with the finger of the right hand, the region on the right side of the operation position in the display screen 22 is easily hidden by the finger or palm of the right hand. Further, when the mobile phone 1 is held with the right hand and the display screen 22 is operated with the thumb of the right hand, it is difficult for the finger to reach the left side of the display screen 22. For this reason, when operating with the thumb of the right hand, as shown in the figure, the determination button 64 and the determination button 64 are arranged close to the right side. A scroll bar 63 is also arranged at the right end of the list box 61. On the other hand, the text displayed in each item 63 in the list box 61 is displayed left-aligned so that the characters are not easily hidden by the finger or palm of the right hand. That is, the object to be operated is unevenly distributed in the direction close to the hand used for operation input in the display screen, and the character string is unevenly distributed on the opposite side to the above direction. For this reason, the character string is not easily hidden by a finger or palm, and the display pattern is easy to operate even with the thumb.

図6(b)は、ユーザが左手の親指で操作している場合のリスト画面50bが示されている。このリスト画面60bでは、左手の親指が届きやすいように、決定ボタン64、クリアボタン65及びスクロールバー62を左側に寄せて配置している。また、各項目63に表示されるテキストは、右寄せで表示され、文字が右手の指や掌によって隠れにくくなるように配置されている。   FIG. 6B shows a list screen 50b when the user is operating with the thumb of the left hand. In the list screen 60b, the determination button 64, the clear button 65, and the scroll bar 62 are arranged close to the left side so that the thumb of the left hand can easily reach. In addition, the text displayed in each item 63 is displayed right-justified and arranged so that the characters are not easily hidden by the finger or palm of the right hand.

図6(c)は、タッチペンを右手で操作している場合のリスト画面60cが示されている。一般に、指で光学式タッチパネル2を操作する場合、指の接触領域よりも小さな操作ボタン64,65を配置すると誤操作が生じやすいことから、上記接触領域よりも大きな操作ボタンを表示する必要があり、その結果、表示画面22内に表示できる情報量は少なくなってしまう。これに対し、タッチペンは接触面積が十分に小さく、このような誤操作は生じにくい。このため、図示したように、小さな操作ボタン64,65を配置し、リストボックス61を大きくすることによって、表示できる情報量を増大させることができる。   FIG. 6C shows a list screen 60c when the touch pen is operated with the right hand. In general, when the optical touch panel 2 is operated with a finger, it is necessary to display an operation button larger than the contact area because an operation error is likely to occur when the operation buttons 64 and 65 smaller than the contact area of the finger are arranged. As a result, the amount of information that can be displayed in the display screen 22 is reduced. On the other hand, the touch pen has a sufficiently small contact area, and such an erroneous operation is unlikely to occur. For this reason, as shown in the figure, by arranging small operation buttons 64 and 65 and enlarging the list box 61, the amount of information that can be displayed can be increased.

なお、本実施の形態では、光学式タッチパネル2への操作入力が行われるごとに、操作子の種別及び傾き方向を判別し、これらの判別結果に基づいて表示パターンに更新する場合の例について説明したが、本発明は、この様な場合には限定されない。例えば、バックライトの点灯後、最初に操作入力が行われた時に表示パターンを更新するようにしてもよい。つまり、電源投入後や、バックライトを消灯させる省電力モードからの復帰時に表示パターンを更新し、その後のバックライト点灯中は、表示パターンが自動的に更新されない構成であってもよい。また、一定の時間間隔で表示パターンを更新するように構成することもできる。   In this embodiment, each time an operation input to the optical touch panel 2 is performed, the type and tilt direction of the operation element are determined, and an example in which the display pattern is updated based on these determination results is described. However, the present invention is not limited to such a case. For example, the display pattern may be updated when an operation input is first performed after the backlight is turned on. In other words, the display pattern may be updated after the power is turned on or when returning from the power saving mode in which the backlight is turned off, and the display pattern is not automatically updated during the subsequent lighting of the backlight. In addition, the display pattern can be updated at regular time intervals.

また、本実施の形態では、ドラッグ操作に基づくスクロール制御について、操作子の移動量に基づいてスクロール量が決定されるものとしたが、本発明はこれに限定されない。例えば、操作位置の移動速度に基づいて、スクロール量が決定されるように構成することもできる。この場合、制御パラメータ記憶部43sには、操作位置の移動速度に対するスクロール量の比率を示す制御パラメータが保持されている必要がある。   In the present embodiment, the scroll amount based on the drag operation is determined based on the movement amount of the operation element, but the present invention is not limited to this. For example, the scroll amount can be determined based on the moving speed of the operation position. In this case, the control parameter storage unit 43s needs to hold a control parameter indicating the ratio of the scroll amount to the movement speed of the operation position.

1 携帯電話機
2 光学式タッチパネル
3 操作解析部
4 操作処理部
5 表示画像生成部
6 機能実行部
7 表示制御部
10 筐体
11 受信用レシーバ
12 表示画面
13 操作キー
14 送信用マイクロホン
20 液晶パネル
21 バックライト
22 表示画面
23 液晶駆動回路
24 光センサ制御回路
25 表示画素
26 光センサ
27 共通電極
28 ガラス板
31 操作位置判別部
32 操作子判別部
33 傾き方向判別部
41 操作判別部
41s 判定パラメータ記憶部
42 有効性判別部
42s 許容操作記憶部
43 処理決定部
43s 制御パラメータ記憶部
51 表示パターン選択部
51s 表示パターン記憶部
52 スクロール制御部
53 表示倍率制御部
60a〜60c リスト画面
61 リストボックス
62 スクロールバー
63 項目
64 決定ボタン
65 クリアボタン
DESCRIPTION OF SYMBOLS 1 Mobile phone 2 Optical touch panel 3 Operation analysis part 4 Operation processing part 5 Display image generation part 6 Function execution part 7 Display control part 10 Case 11 Reception receiver 12 Display screen 13 Operation key 14 Microphone 20 Transmission liquid crystal panel 21 Back Light 22 Display screen 23 Liquid crystal drive circuit 24 Photo sensor control circuit 25 Display pixel 26 Photo sensor 27 Common electrode 28 Glass plate 31 Operation position discriminating unit 32 Manipulator discriminating unit 33 Tilt direction discriminating unit 41 Operation discriminating unit 41 s Determination parameter storage unit 42 Effectiveness determination unit 42s Permissible operation storage unit 43 Processing determination unit 43s Control parameter storage unit 51 Display pattern selection unit 51s Display pattern storage unit 52 Scroll control unit 53 Display magnification control units 60a to 60c List screen 61 List box 62 Scroll bar 63 Item 64 OK button 65 Clear button Tan

Claims (5)

表示画面上に多数の光センサが2次元配置され、外側に向って撮影した撮影画像を生成する光学式タッチパネルと、
上記撮影画像に基づいて、上記光学式タッチパネルを操作する操作子の種別を判別する操作子判別手段と、
2以上の表示パターンを保持する表示パターン記憶手段と、
上記操作子の種別に基づいて、上記表示パターンを選択する表示パターン選択手段と、
選択された上記表示パターンに基づいて、上記表示画面を制御する表示制御手段と
上記撮影画像に基づいて、上記操作子による操作位置を判別する操作位置判別手段と、
上記操作位置に基づいて、上記操作子によるドラッグ操作を判別するドラッグ操作判別手段と、
上記ドラッグ操作の判別結果に基づいて、上記表示画面上における表示パターンのスクロールを制御するスクロール制御手段とを備え、
上記スクロール制御手段は、上記操作子の種別に基づいて、スクロール量を決定することを特徴とする携帯情報端末。
An optical touch panel in which a large number of optical sensors are two-dimensionally arranged on a display screen and generate a photographed image photographed outward,
An operator discriminating means for discriminating a type of an operator operating the optical touch panel based on the photographed image;
Display pattern storage means for holding two or more display patterns;
Display pattern selection means for selecting the display pattern based on the type of the operator;
Display control means for controlling the display screen based on the selected display pattern ;
An operation position discriminating means for discriminating an operation position by the operator based on the photographed image;
A drag operation determining means for determining a drag operation by the operator based on the operation position;
Scroll control means for controlling scrolling of the display pattern on the display screen based on the determination result of the drag operation,
The portable information terminal according to claim 1, wherein the scroll control means determines a scroll amount based on a type of the operation element .
表示画面上に多数の光センサが2次元配置され、外側に向って撮影した撮影画像を生成する光学式タッチパネルと、
上記撮影画像に基づいて、上記光学式タッチパネルを操作する操作子の種別を判別する操作子判別手段と、
2以上の表示パターンを保持する表示パターン記憶手段と、
上記操作子の種別に基づいて、上記表示パターンを選択する表示パターン選択手段と、
選択された上記表示パターンに基づいて、上記表示画面を制御する表示制御手段と、
上記撮影画像に基づいて、上記操作子による操作位置を判別する操作位置判別手段と、
上記操作位置に基づいて、上記操作子によるピンチ操作を判別するピンチ操作判別手段と、
上記ピンチ操作の判別結果に基づいて、上記表示画面上における表示パターンの表示倍率を制御する表示倍率制御手段とを備え、
上記表示倍率制御手段が、上記操作子の種別に基づいて、表示倍率を決定することを特徴とする携帯情報端末。
An optical touch panel in which a large number of optical sensors are two-dimensionally arranged on a display screen and generate a photographed image photographed outward,
An operator discriminating means for discriminating a type of an operator operating the optical touch panel based on the photographed image;
Display pattern storage means for holding two or more display patterns;
Display pattern selection means for selecting the display pattern based on the type of the operator;
Display control means for controlling the display screen based on the selected display pattern;
An operation position discriminating means for discriminating an operation position by the operator based on the photographed image;
Pinch operation determining means for determining a pinch operation by the operation element based on the operation position;
Display magnification control means for controlling the display magnification of the display pattern on the display screen based on the determination result of the pinch operation,
A portable information terminal to which the display magnification control means, based on the type of the operator, and determines the display magnification.
表示画面上に多数の光センサが2次元配置され、外側に向って撮影した撮影画像を生成する光学式タッチパネルと、
上記撮影画像に基づいて、上記光学式タッチパネルを操作する操作子の種別を判別する操作子判別手段と、
2以上の表示パターンを保持する表示パターン記憶手段と、
上記操作子の種別に基づいて、上記表示パターンを選択する表示パターン選択手段と、
選択された上記表示パターンに基づいて、上記表示画面を制御する表示制御手段と、
上記撮影画像に基づいて、上記操作子による操作位置を判別する操作位置判別手段と、
上記操作位置に基づいて、上記操作子によるピンチ操作を判別するピンチ操作判別手段を備え、
上記ピンチ操作判別手段が、上記操作子の種別に基づいて、ピンチ操作を無効化することを特徴とする携帯情報端末。
An optical touch panel in which a large number of optical sensors are two-dimensionally arranged on a display screen and generate a photographed image photographed outward,
An operator discriminating means for discriminating a type of an operator operating the optical touch panel based on the photographed image;
Display pattern storage means for holding two or more display patterns;
Display pattern selection means for selecting the display pattern based on the type of the operator;
Display control means for controlling the display screen based on the selected display pattern;
An operation position discriminating means for discriminating an operation position by the operator based on the photographed image;
A pinch operation determining means for determining a pinch operation by the operation element based on the operation position;
A portable information terminal the pinch operation determination means, based on the type of the operating element, and wherein the disabling the pinch operation.
上記操作子判別手段は、上記操作子がタッチペン及び指のいずれであるのかを判別することを特徴とする請求項1〜3のいずれかに記載の携帯情報端末。 The portable information terminal according to claim 1 , wherein the operation element determination unit determines whether the operation element is a touch pen or a finger. 上記操作子判別手段は、上記操作子が指である場合に、親指及びそれ以外の指のいずれであるのかを判別することを特徴とする請求項1〜3のいずれかに記載の携帯情報端末。 The portable information terminal according to any one of claims 1 to 3 , wherein the operator discriminating unit discriminates between the thumb and the other finger when the operator is a finger. .
JP2009024756A 2009-02-05 2009-02-05 Portable information terminal Expired - Fee Related JP5058187B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009024756A JP5058187B2 (en) 2009-02-05 2009-02-05 Portable information terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009024756A JP5058187B2 (en) 2009-02-05 2009-02-05 Portable information terminal

Publications (2)

Publication Number Publication Date
JP2010182071A JP2010182071A (en) 2010-08-19
JP5058187B2 true JP5058187B2 (en) 2012-10-24

Family

ID=42763625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009024756A Expired - Fee Related JP5058187B2 (en) 2009-02-05 2009-02-05 Portable information terminal

Country Status (1)

Country Link
JP (1) JP5058187B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101812004B1 (en) 2014-01-07 2017-12-26 퀄컴 인코포레이티드 System and method for context-based touch processing

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101915615B1 (en) 2010-10-14 2019-01-07 삼성전자주식회사 Apparatus and method for controlling user interface based motion
WO2012145317A1 (en) * 2011-04-18 2012-10-26 Eyesee360, Inc. Apparatus and method for panoramic video imaging with mobile computing devices
JP5782810B2 (en) 2011-04-22 2015-09-24 ソニー株式会社 Information processing apparatus, information processing method, and program
US20140062932A1 (en) 2011-05-11 2014-03-06 Nec Casio Mobile Communications, Ltd. Input device
JP2013143090A (en) * 2012-01-12 2013-07-22 Sharp Corp Information display terminal, and method and program for controlling information display terminal
JP5962085B2 (en) 2012-03-15 2016-08-03 ソニー株式会社 Display control apparatus, control method thereof, and program
KR102096070B1 (en) * 2012-06-22 2020-04-14 삼성전자주식회사 Method for improving touch recognition and an electronic device thereof
JP5976417B2 (en) * 2012-06-25 2016-08-23 株式会社日立製作所 X-ray diagnostic imaging equipment
US9846494B2 (en) 2013-01-04 2017-12-19 Uei Corporation Information processing device and information input control program combining stylus and finger input
JP5965339B2 (en) * 2013-03-11 2016-08-03 シャープ株式会社 Portable device
JP6197559B2 (en) * 2013-10-10 2017-09-20 コニカミノルタ株式会社 Object operation system, object operation control program, and object operation control method
JP2015219680A (en) * 2014-05-16 2015-12-07 シャープ株式会社 Input screen generation device, input screen generation method and input screen generation program
JP2017142656A (en) * 2016-02-10 2017-08-17 株式会社Nttドコモ Information processing apparatus

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0566888A (en) * 1991-09-09 1993-03-19 Matsushita Electric Ind Co Ltd Touch panel device
JPH0695789A (en) * 1992-09-10 1994-04-08 Toshiba Corp Information processor
JP2003345511A (en) * 2002-05-24 2003-12-05 Canon Inc Image recorder/reproducer with touch panel
JP2007072728A (en) * 2005-09-06 2007-03-22 Sharp Corp Input/output device, input/output system, input/output method, input/output control program and recording medium
JP2008046692A (en) * 2006-08-10 2008-02-28 Fujitsu Ten Ltd Input device
JP4935408B2 (en) * 2007-02-19 2012-05-23 富士ゼロックス株式会社 Information processing apparatus and program
JP2008257454A (en) * 2007-04-04 2008-10-23 Toshiba Matsushita Display Technology Co Ltd Display device, image data processing method and image data processing program
JP4814827B2 (en) * 2007-04-09 2011-11-16 シャープ株式会社 Electronic device, operation control method, program for executing operation control method, and recording medium for recording the program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101812004B1 (en) 2014-01-07 2017-12-26 퀄컴 인코포레이티드 System and method for context-based touch processing

Also Published As

Publication number Publication date
JP2010182071A (en) 2010-08-19

Similar Documents

Publication Publication Date Title
JP5058187B2 (en) Portable information terminal
JP5191115B2 (en) User interface device and digital camera
JP5323603B2 (en) Image display device
JP4395408B2 (en) Input device with touch panel
KR101442542B1 (en) Input device and portable terminal having the same
JP5132028B2 (en) User interface device
KR101177239B1 (en) Input device
KR101455690B1 (en) Information processing system, operation input device, information processing device, information processing method, program and information storage medium
WO2011046208A1 (en) Mobile device
JP5851326B2 (en) Apparatus, method, and program
JP2013092816A (en) Image forming apparatus, control method for the same and program
JP5565450B2 (en) I / O device
JP5924325B2 (en) INPUT DEVICE, INFORMATION PROCESSING DEVICE, CONTROL METHOD FOR INPUT DEVICE, AND PROGRAM FOR CAUSING COMPUTER TO EXECUTE THE CONTROL METHOD
JP2010283442A (en) Portable terminal apparatus
WO2012161237A1 (en) Information processing device and control method therefor
JP2009086943A (en) Touch input apparatus and portable electronic device provided with the same
JP2006155232A (en) Operation display device
JP2013114645A (en) Small information device
JP5047325B2 (en) Information input device and information input method
JP3956317B2 (en) Mobile device with focusing area adjustment camera
JP2021111058A (en) Display device and display control program
KR20110119189A (en) Method for driving touch-screen
JP2011091749A (en) Mobile device
JP4959633B2 (en) Information terminal equipment
JP2017220256A (en) Portable electronic apparatus, method for controlling portable electric apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120710

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120731

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees