WO2020202734A1 - ペン状態検出回路、システム及び方法 - Google Patents

ペン状態検出回路、システム及び方法 Download PDF

Info

Publication number
WO2020202734A1
WO2020202734A1 PCT/JP2020/002615 JP2020002615W WO2020202734A1 WO 2020202734 A1 WO2020202734 A1 WO 2020202734A1 JP 2020002615 W JP2020002615 W JP 2020002615W WO 2020202734 A1 WO2020202734 A1 WO 2020202734A1
Authority
WO
WIPO (PCT)
Prior art keywords
feature amount
pen
state detection
detection circuit
local
Prior art date
Application number
PCT/JP2020/002615
Other languages
English (en)
French (fr)
Inventor
光一 前山
原 英之
Original Assignee
株式会社ワコム
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ワコム filed Critical 株式会社ワコム
Priority to DE112020001686.2T priority Critical patent/DE112020001686T5/de
Priority to JP2021511141A priority patent/JP7277567B2/ja
Priority to CN202080011509.XA priority patent/CN113396380B/zh
Publication of WO2020202734A1 publication Critical patent/WO2020202734A1/ja
Priority to US17/406,717 priority patent/US11604521B2/en
Priority to US18/150,084 priority patent/US11841999B2/en
Priority to US18/535,311 priority patent/US20240111372A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/04162Control or interface arrangements specially adapted for digitisers for exchanging data with external devices, e.g. smart pens, via the digitiser sensing hardware
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0442Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using active external devices, e.g. active pens, for transmitting changes in electrical potential to be received by the digitiser
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04106Multi-sensing digitiser, i.e. digitiser using at least two different sensing technologies simultaneously or alternatively, e.g. for detecting pen and finger, for saving power or for improving position detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • G06F3/0446Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using a grid-like structure of electrodes in at least two directions, e.g. using row and column electrodes

Definitions

  • the present invention relates to a pen state detection circuit, a system and a method.
  • Patent Document 1 the first position where the user's hand comes into contact and the second position pointed by the electronic pen are detected on the detection surface of the touch sensor, respectively, and the coordinate values of the first position and the second position are used to detect the electronic pen.
  • An electronic device that estimates the tilting direction of the electronic pen and corrects the indicated position of the electronic pen according to the tilting direction is disclosed.
  • An object of the present invention is to provide a pen state detection circuit, system and method capable of improving the estimation accuracy of the pen state in an electronic pen having at least one electrode.
  • the first pen state detection circuit in the present invention is a state of an electronic pen having a first electrode based on a signal distribution detected by a capacitive touch sensor in which a plurality of sensor electrodes are arranged in a plane.
  • This is a circuit for detecting the above, using an acquisition step of acquiring a first signal distribution indicating a change in capacitance with the approach of the first electrode from the touch sensor, and a machine-learned estimator.
  • An estimation step of estimating the indicated position or tilt angle of the electronic pen from the first feature amount related to the first signal distribution is executed, and the first feature amount is the number of arrangements of the sensor electrodes forming the first signal distribution.
  • the second pen state detection system of the present invention is capable of bidirectionally communicating with an electronic device including the above-mentioned pen state detection circuit, an electronic pen used with the electronic device, and the electronic device.
  • the electronic device includes a server device that can store a learning parameter group of an estimator constructed in the pen state detection circuit, and the electronic device corresponds to the electronic pen when the electronic pen is detected.
  • the server device is requested to transmit the learning parameter group.
  • the third pen state detection method in the present invention detects the state of an electronic pen having electrodes based on a signal distribution detected by a capacitive touch sensor in which a plurality of sensor electrodes are arranged in a plane. From the feature quantity related to the signal distribution, using an acquisition step of acquiring a signal distribution indicating a change in capacitance due to the approach of the electrodes from the touch sensor and a machine-learned estimator. One or more processors perform an estimation step of estimating the indicated position or tilt angle of the electronic pen, and the feature amount is smaller than the number of sensor electrodes arranged to form the signal distribution. Includes local feature quantities related to the local distribution corresponding to.
  • the fourth pen state detection circuit in the present invention detects the state of the electronic pen having electrodes based on the signal distribution detected by the capacitive touch sensor in which a plurality of sensor electrodes are arranged in a plane.
  • the calculation is different depending on the acquisition step of acquiring the signal distribution indicating the change in capacitance due to the approach of the electrodes from the touch sensor and the projection position of the electrodes on the detection surface of the touch sensor. According to the rules, an estimation step of estimating the indicated position or tilt angle of the electronic pen from the feature amount related to the signal distribution is performed.
  • the fifth pen state detection system of the present invention is capable of bidirectionally communicating with an electronic device including the above-mentioned pen state detection circuit, an electronic pen used with the electronic device, and the electronic device.
  • the electronic device includes a server device that can store a learning parameter group of an estimator constructed in the pen state detection circuit, and the electronic device corresponds to the electronic pen when the electronic pen is detected.
  • the server device is requested to transmit the learning parameter group.
  • the sixth pen state detection method in the present invention detects the state of an electronic pen having electrodes based on a signal distribution detected by a capacitive touch sensor in which a plurality of sensor electrodes are arranged in a plane. This method is different depending on the acquisition step of acquiring the signal distribution indicating the change in capacitance due to the approach of the electrodes from the touch sensor and the projection position of the electrodes on the detection surface of the touch sensor. According to the rules, one or more processors perform an estimation step of estimating the indicated position or tilt angle of the electronic pen from the feature quantity related to the signal distribution.
  • a potential detection pattern can be extracted through machine learning, and the tendency of the detection pattern when estimating the indicated position or inclination angle. Is easily reflected properly.
  • the pen state of the electronic pen having at least one electrode can be estimated with high accuracy.
  • the local feature amount related to the local distribution corresponding to the number of sensor electrodes smaller than the number of sensor electrodes arranged to form the signal distribution it is possible to reduce the processing load of the estimator to which the local feature amount is input. it can.
  • the fourth to sixth inventions by applying different calculation rules according to the projection position of the electrode of the electronic pen, it is possible to perform estimation suitable for the projection position, and between the electronic pen and the touch sensor.
  • the decrease in the estimation accuracy of the pen state due to the relative positional relationship of is suppressed.
  • the pen state of the electronic pen having at least one electrode can be estimated with high accuracy.
  • FIG. 1 It is an overall block diagram of the input system common to each embodiment in this invention. It is a schematic diagram which shows the electronic pen of FIG. 1 partially. It is a figure which shows an example of the signal distribution detected from the touch sensor at the time of contact state of an electronic pen. It is a figure which shows the tendency of the estimation error about a designated position. It is a block diagram which shows the pen detection function in 1st Embodiment. It is a flowchart which executes the pen detection function shown in FIG. It is a figure which shows an example of the signal distribution acquired from a touch sensor. It is a figure which shows an example of the calculation method of a local feature amount. It is a figure which shows the structure of the estimator included in the pen detection function of FIG.
  • FIG. 11A is a diagram showing the estimation accuracy of the indicated position in the conventional example.
  • FIG. 11B is a diagram showing the estimation accuracy of the indicated position in the embodiment.
  • FIG. 12A is a block diagram showing a pen detection function in the first modification of the first embodiment.
  • FIG. 12B is a diagram showing a configuration of an estimator included in the pen detection function of FIG. 12A.
  • FIG. 13A is a block diagram showing a pen detection function in the second modification of the first embodiment.
  • FIG. 13B is a diagram showing a configuration of an estimator included in the pen detection function of FIG. 13A.
  • FIG. 14A is a block diagram showing a pen detection function in a third modification of the first embodiment.
  • FIG. 14B is a diagram showing a configuration of an estimator included in the pen detection function of FIG. 14A. It is a figure which shows the structure of the estimator included in the pen detection function in the 4th modification of 1st Embodiment. It is a block diagram which shows the pen detection function in 2nd Embodiment. It is a flowchart which executes the pen detection function shown in FIG. It is a figure which shows an example of the definition of the sensor area which a touch sensor has.
  • FIG. 19A is a diagram showing a local feature amount when the projection position of the chip electrode (FIG. 2) of the electronic pen is within the general region.
  • FIG. 19B is a diagram showing a local feature amount when the projected position of the chip electrode is within the peripheral region.
  • FIG. 21A is a diagram showing local features before the shift process.
  • FIG. 21B is a diagram showing a local feature amount after the shift process.
  • FIG. 22A is a block diagram showing a pen detection function according to the third embodiment.
  • FIG. 22B is a block diagram showing an example different from that of FIG. 22A.
  • It is a flowchart which executes the pen detection function shown in FIG. It is a figure which shows the structure of the estimator included in the pen detection function of FIG. It is a figure which shows the variation of the local feature quantity before execution of self-encoding processing. It is a figure which shows the variation of a local feature amount after execution of a self-encoding process.
  • FIG. 21A is a diagram showing local features before the shift process.
  • FIG. 21B is a diagram showing a local feature amount after the shift process.
  • FIG. 22A is a block diagram showing a pen detection function according to the third embodiment.
  • FIG. 22B is a block diagram showing an example different from that of
  • FIG. 27A is a diagram showing the estimation accuracy of the indicated position in the reference example.
  • FIG. 27B is a diagram showing the estimation accuracy of the indicated position in the embodiment.
  • It is an overall block diagram of the input system as a pen state detection system in 4th Embodiment. It is a functional block diagram related to the learning process of the control unit shown in FIG. 28. It is a figure which shows the 1st example of the setting method of a learning parameter group. It is a figure which shows the 2nd example of the setting method of a learning parameter group.
  • FIG. 1 is an overall configuration diagram of an input system 10 common to each embodiment of the present invention.
  • the input system 10 is basically composed of an electronic device 12 having a touch panel display and an electronic pen 14 (also referred to as a "stylus") which is a pen-type pointing device.
  • the electronic device 12 is composed of, for example, a tablet terminal, a smartphone, and a personal computer.
  • the user can write a picture or a character on the electronic device 12 by grasping the electronic pen 14 with one hand and moving the pen tip while pressing the pen tip against the touch surface of the electronic device 12. Further, the user can perform a desired operation via the user control being displayed by touching the touch surface with his / her finger 16.
  • the electronic device 12 includes a touch sensor 18, a touch IC (Integrated Circuit) 20, and a host processor 22.
  • the x-direction and y-direction shown in this figure correspond to the X-axis and Y-axis of the Cartesian coordinate system (hereinafter referred to as the sensor coordinate system) defined on the detection surface formed by the touch sensor 18.
  • the touch sensor 18 is a planar sensor composed of a plurality of electrodes arranged on a display panel (not shown).
  • the touch sensor 18 includes a plurality of line electrodes 18x for detecting the X coordinate (position in the x direction) and a plurality of line electrodes 18y for detecting the Y coordinate (position in the y direction).
  • the plurality of line electrodes 18x are provided so as to extend in the y direction and are arranged at equal intervals along the x direction.
  • the plurality of line electrodes 18y are provided so as to extend in the x direction and are arranged at equal intervals along the y direction.
  • the arrangement interval of the line electrodes 18x (or the line electrodes 18y) may be referred to as “pitch”.
  • the touch sensor 18 may be a self-capacitating sensor in which block-shaped electrodes are arranged in a two-dimensional lattice pattern instead of the mutual capacitance type sensor described above.
  • the touch IC 20 is an integrated circuit configured to execute the firmware 24, and is connected to a plurality of line electrodes 18x and 18y constituting the touch sensor 18, respectively.
  • the firmware 24 is configured to be feasible to have a touch detection function 26 for detecting a touch by a user's finger 16 or the like and a pen detection function 28 for detecting the state of the electronic pen 14.
  • the touch detection function 26 includes, for example, a scan function of the touch sensor 18, a function of creating a heat map (two-dimensional distribution of detection levels) on the touch sensor 18, and a region classification function on the heat map (for example, finger 16 and palm classification). )including.
  • the pen detection function 28 includes, for example, a scan function (global scan or local scan) of the touch sensor 18, a downlink signal reception / analysis function, and an estimation function of the state (for example, position, posture, pen pressure) of the electronic pen 14. It includes an uplink signal generation / transmission function including a command for the electronic pen 14.
  • the host processor 22 is a processor including a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit). By reading and executing a program from a memory (not shown), the host processor 22 performs, for example, a process of generating digital ink using data from the touch IC 20, a visualization process for displaying the drawing content indicated by the digital ink, and the like. Do.
  • a CPU Central Processing Unit
  • GPU Graphics Processing Unit
  • FIG. 2 is a schematic view partially showing the electronic pen 14 of FIG.
  • a substantially conical tip electrode 30 and a bottomless truncated cone-shaped upper electrode 32 are coaxially provided at the tip of the electronic pen 14.
  • the chip electrode 30 and the upper electrode 32 are electrodes for outputting a signal (so-called downlink signal) generated by the oscillation circuit 34, respectively.
  • the electronic pen 14 can output two types of downlink signals via the chip electrode 30 and the upper electrode 32.
  • the touch IC 20 (FIG. 1) of the electronic device 12 has a signal distribution (hereinafter, referred to as “first signal distribution”) indicating a change in capacitance (more specifically, mutual capacitance or self-capacity) accompanying the approach of the chip electrode 30. Is obtained from the touch sensor 18.
  • the first signal distribution typically has a shape with one peak at position Q1.
  • the position Q1 corresponds to the position where the top portion (position P1) of the chip electrode 30 is projected on the sensor plane.
  • the touch IC 20 (FIG. 1) of the electronic device 12 acquires a signal distribution (hereinafter, referred to as “second signal distribution”) indicating a change in capacitance as the upper electrode 32 approaches from the touch sensor 18. ..
  • the second signal distribution typically has a shape with one or two peaks at position Q2.
  • the position Q2 corresponds to the position where the shoulder portion (position P2) of the upper electrode 32 is projected on the sensor plane.
  • the position Q3, which will be described later, corresponds to a position where the center (position P3) of the upper bottom surface of the upper electrode 32 is projected on the sensor plane.
  • FIG. 3 is a diagram showing an example of the signal distribution detected from the touch sensor 18 when the electronic pen 14 is in contact. More specifically, FIG. 3 (a) shows the first signal distribution, and FIG. 3 (b) shows the second signal distribution.
  • the horizontal axis of the graph shows the relative position (unit: mm) with respect to the indicated position of the electronic pen 14, and the vertical axis of the graph shows the signal value (unit: none) normalized to [0,1]. ing. Positive and negative signs are defined for this signal value so that it becomes "positive" when the electronic pen 14 approaches.
  • the shapes of the first and second signal distributions change according to the tilt angle of the electronic pen 14, respectively. In this figure, three curves obtained by changing the inclination angle are superimposed and shown.
  • the first signal distribution has a substantially similar shape regardless of the magnitude of the tilt angle. This is because, while using the electronic pen 14, the top of the chip electrode 30 is usually located closest to the sensor plane, and the position Q1 roughly coincides with the position P1.
  • the position or number of peaks of the second signal distribution changes greatly according to the change of the inclination angle. This is because, while using the electronic pen 14, one of the shoulders of the upper electrode 32 is usually located closest to the sensor plane, and the distance between the positions Q1 and Q2 changes according to the tilt angle. Because.
  • the position and orientation of the electronic pen 14 (hereinafter, also referred to as pen state) can be estimated.
  • the indicated position corresponds to the position Q1 shown in FIG.
  • an azimuth may be used in addition to the above-mentioned angle.
  • FIG. 4 is a diagram showing a tendency of estimation error regarding the indicated position.
  • the horizontal axis of the graph shows the actual value (unit: mm) of the indicated position
  • the vertical axis of the graph shows the estimated value (unit: mm) of the indicated position.
  • the signal distribution is a set of signal values sampled at equal intervals (pitch ⁇ X)
  • an interpolation calculation is performed in order to estimate the peak (that is, the indicated position) of the signal distribution more accurately.
  • a fitting error occurs, and a periodic "interpolation approximation error" occurs in pitch units.
  • FIG. 5 is a block diagram showing a pen detection function 28A according to the first embodiment.
  • the pen detection function 28A includes a signal acquisition unit 40, a feature amount calculation unit 42, an angle estimation unit 44, and a position estimation unit 46. Subsequently, the operation of the touch IC 20 accompanying the execution of the pen detection function 28A will be described with reference to the flowchart of FIG.
  • step S1 of FIG. 6 the signal acquisition unit 40 acquires the first signal distribution and the second signal distribution from the touch sensor 18 through the scanning operation for each of the line electrodes 18x and 18y, respectively.
  • This signal distribution may be a one-dimensional signal distribution along the X-axis or the Y-axis, or may be a two-dimensional signal distribution on the XY-axis plane.
  • a one-dimensional signal distribution along the X-axis will be described as an example.
  • FIG. 7 is a diagram showing an example of the signal distribution acquired from the touch sensor 18.
  • the horizontal axis of the graph indicates the line number (that is, the identification number of the line electrode 18x), and the vertical axis of the graph indicates the signal value.
  • the signal distribution has two narrow peaks centered on the indicated position of the electronic pen 14.
  • the signal value is 0 or a minute value.
  • the entire signal distribution may be referred to as "overall distribution”
  • the local signal distribution in which the change in capacitance is relatively large may be referred to as "local distribution”.
  • the term "relatively large” may mean that the amount of change is large compared to a position other than the local distribution, or that the amount of change is large compared to a predetermined threshold value.
  • the "overall distribution” is the signal distribution corresponding to all of the arranged line electrodes 18x
  • the "local distribution” is the signal corresponding to a part of the arranged line electrodes 18x. It is a distribution.
  • the ratio (n / N) of the number of electrodes n forming the local distribution to the number N of the electrodes forming the entire distribution is, for example, preferably 1/2 or less, more preferably 1/4 or less, still more preferably 1/8 or less.
  • the number of line electrodes 18x, 18y formed by the local distribution is smaller than the number of arrangements of the line electrodes 18x, 18y forming the entire distribution.
  • “less” means, for example, when the sensor electrodes are composed of vertical N rows ⁇ horizontal M columns (for example, 50 rows ⁇ 70 columns).
  • a number less than N preferably less than N / 2, more preferably less than 10 depends on the current or voltage level value of the electrode.
  • the level value of the current or voltage of less than M preferably less than M / 2, preferably less than 10 is used. That's what it means. It is desirable that this number is the same in both the vertical and horizontal directions.
  • two-dimensional coordinates are obtained by learning, for example, 10 + 10 as compared with learning a neural network of the number of states of cross points (the number of inputs of 3500).
  • the order of the amount of calculation such as multiplications calculated by the neural network can be suppressed from exponent (square) to linear (10 + 10).
  • the number is less than N in the vertical direction, preferably less than N / 2, and more preferably less than 10. Corresponds to the level value of the current or voltage of the electrode of.
  • step S2 the feature amount calculation unit 42 uses the first signal distribution acquired in step S1 to obtain a feature amount (hereinafter, referred to as “first feature amount”) indicating the shape feature of the first signal distribution. calculate. Similarly, the feature amount calculation unit 42 calculates a feature amount (hereinafter, referred to as “second feature amount”) indicating the shape feature of the second signal distribution using the second signal distribution acquired in step S1. To do.
  • first feature amount a feature amount
  • second feature amount indicating the shape feature of the second signal distribution using the second signal distribution acquired in step S1.
  • ⁇ G i ⁇ and ⁇ Fi ⁇ are calculated according to the following equations (1) and (2), respectively.
  • G i (S i- S i-2 ) + (S i-1- S i-3 ) ... (1)
  • F i
  • the feature amount calculation unit 42 may calculate various feature amounts that characterize the shape of the signal distribution. Further, the feature amount calculation unit 42 may calculate the second feature amount by using the same calculation method as in the case of the first feature amount, or the second feature amount may be calculated by using a calculation method different from that in the case of the first feature amount. The feature amount may be calculated. Further, this feature amount may be the signal distribution itself. Further, the feature amount calculation unit 42 calculates one feature amount for each line electrode 18x, 18y, but the relationship between the number of line electrodes 18x, 18y and the number of feature amounts is not limited to this example. .. That is, in addition to the one-to-one relationship, there may be a one-to-many, many-to-one, or many-to-many relationship.
  • the feature amount calculation unit 42 calculates the feature amount (hereinafter, referred to as “local feature amount”) using only the above-mentioned local distribution in order to reduce the number of feature amounts used for the estimation described later.
  • the feature amount calculation unit 42 may calculate the local feature amount using the local distribution after extracting the local distribution from the overall distribution, or the corresponding local part after calculating the feature amount over the entire distribution. Local features may be extracted according to the distribution.
  • This local feature amount may be composed of a constant number of data (for example, N pieces) regardless of the number of arrangements of the line electrodes 18x and 18y. By keeping the number of data used for estimation constant, it is possible to perform uniform estimation regardless of the configuration of the touch sensor 18.
  • the first feature amount includes the first local feature amount and the reference position
  • the second feature amount includes the second local feature amount.
  • the "first local feature amount” means a local feature amount relating only to the local distribution (that is, the first local distribution) included in the first signal distribution.
  • the “second local feature amount” means a local feature amount relating only to the local distribution (that is, the second local distribution) included in the second signal distribution.
  • the "reference position” means the position of the reference point of the first local distribution in the sensor coordinate system, and is, for example, any of a rising position, a falling position, a peak position, or a position in the vicinity thereof of the first local distribution. May be good.
  • step S3 of FIG. 6 the angle estimation unit 44 estimates the tilt angle of the electronic pen 14 from the second feature amount calculated in step S2. Then, the feature amount calculation unit 42 estimates the designated position of the electronic pen 14 from the first feature amount and the tilt angle.
  • the estimation of the pen state is performed using a machine-learned estimator 50.
  • This machine learning may be, for example, "supervised learning” using teacher data obtained by actual measurement or computer simulation.
  • FIG. 9 is a diagram showing the configuration of the estimator 50 included in the pen detection function 28A of FIG.
  • a front-stage arithmetic unit 52 corresponds to the angle estimation unit 44 shown in FIG. 5
  • the rear-stage arithmetic unit 54 and the adder 56 correspond to the position estimation unit 46 shown in FIG.
  • the circles in the drawing indicate the arithmetic units corresponding to the neurons of the neural network.
  • Each value of the "first local feature amount” corresponding to the chip electrode 30 is stored in the calculation unit of "T”.
  • Each value of the “second local feature amount” corresponding to the upper electrode 32 is stored in the calculation unit of "U”.
  • the “tilt angle” is stored in the calculation unit of "A”.
  • the "relative position” is stored in the arithmetic unit of "P”.
  • the front-stage arithmetic unit 52 is, for example, a hierarchical neural network arithmetic unit including an input layer 52i, an intermediate layer 52m, and an output layer 52o.
  • the input layer 52i is composed of N arithmetic units for inputting each value of the second local feature amount.
  • the output layer 52o is composed of one arithmetic unit for outputting the tilt angle.
  • the latter-stage arithmetic unit 54 is, for example, a hierarchical neural network arithmetic unit including an input layer 54i, an intermediate layer 54m, and an output layer 54o.
  • the input layer 54i is composed of (N + 1) arithmetic units for inputting each value of the first local feature amount and the inclination angle.
  • the output layer 54o is composed of one arithmetic unit for outputting a relative position between the reference position and the indicated position.
  • the adder 56 outputs the indicated position of the electronic pen 14 by adding the relative position from the subsequent arithmetic unit 54 to the reference position included in the first feature amount.
  • This indicated position is a position corresponding to the peak center of the first local distribution, and has a resolution higher than the pitch of the line electrodes 18x and 18y.
  • FIG. 10 is a diagram showing an implementation example of the estimator 50 in FIG.
  • the estimator 50 includes a common arithmetic unit 60, four switches 61, 62, 63, 64 that can be switched synchronously, and a holding circuit 65.
  • the common arithmetic unit 60 is a neural network arithmetic unit that inputs (N + 1) variables and outputs one variable, and can be commonly used as the front-stage arithmetic unit 52 or the rear-stage arithmetic unit 54 in FIG. It is composed.
  • the switch 61 receives either one of the first learning parameter group (that is, the learning parameter group for position calculation) and the second learning parameter group (that is, the learning parameter group for angle calculation) according to the input of the switch signal. Is switched and output.
  • the learning parameter group is selectively supplied to the common arithmetic unit 60.
  • the calculation rule of the common calculation unit 60 is determined by the values of the learning parameters constituting the learning parameter group.
  • the learning parameter group includes, for example, "variable parameters” including coefficients that describe the activation function of the arithmetic unit and the coupling strength between the arithmetic units, and "fixed parameters" (so-called hyperparameters) for specifying the architecture of the learning model. Consists of. Examples of hyperparameters include the number of arithmetic units constituting each layer and the number of intermediate layers. In this implementation example, since the architecture is fixed, the learning parameter group consists of only variable parameters.
  • the switch 62 outputs either the first local feature amount (that is, the input value for position calculation) or the second local feature amount (that is, the input value for angle calculation) in response to the input of the switch signal. To do. Since the output side of the switch 62 is connected to the input side of the common arithmetic unit 60, the local feature amount is selectively supplied to the common arithmetic unit 60.
  • the switch 63 switches and outputs either the holding value (here, the estimated value of the tilt angle) or the dummy information (for example, the zero value) in the holding circuit 65 according to the input of the switch signal. Since the output side of the switch 63 is connected to the input side of the common calculator 60, the tilt angle is supplied to the common calculator 60 only when the position calculation is executed.
  • the switch 64 switches and outputs either the output value of the common arithmetic unit 60 (here, the estimated value of the indicated position) or the dummy information (for example, the zero value) according to the input of the switch signal.
  • the indicated position is output from the switch 64 only when the position calculation is executed.
  • the holding circuit 65 temporarily holds the output value of the common arithmetic unit 60.
  • the tilt angle and the indicated position are alternately held in the holding circuit 65, but the holding value is actually read only when the position calculation is executed.
  • the indicated position of the electronic pen 14 is estimated using the estimator 50 of FIGS. 9 and 10 (step S3).
  • the estimator 50 was constructed using a neural network, but the machine learning method is not limited to this.
  • various methods may be adopted, including logistic regression model, support vector machine (SVM), decision tree, random forest, and boosting method.
  • the pen detection function 28A supplies data including the indicated position and tilt angle estimated in step S3 to the host processor 22.
  • the pen detection function 28A may repeat steps S1 to S3 twice to estimate the X-axis coordinate value and the Y-axis coordinate value, respectively, and supply the coordinate values (X, Y) of the indicated position to the host processor 22.
  • the pen detection function 28A may simultaneously estimate the coordinate values (X, Y) of the indicated position through steps S1 to S3, and supply the coordinate values (X, Y) to the host processor 22.
  • the touch IC 20 detects the indicated position while following the movement of the electronic pen 14 by sequentially executing this flowchart at predetermined time intervals.
  • FIG. 11A is a diagram showing the estimation accuracy of the indicated position in the “conventional example”
  • FIG. 11B is a diagram showing the estimation accuracy of the indicated position in the “example”.
  • the magnitudes of the interpolation approximation error (upper bar) and the offset error (lower bar) when the five inclination angles are set are calculated, respectively.
  • this comparison target (conventional example)
  • a method of calculating positions Q1 and Q2 by using a predetermined interpolation function for the signal distribution is used.
  • the interpolation approximation error is reduced to less than half as compared with the case of the conventional example, and the offset error is small regardless of the inclination angle.
  • the touch IC 20 is the first electrode based on the signal distribution detected by the capacitance type touch sensor 18 in which a plurality of sensor electrodes (line electrodes 18x, 18y) are arranged in a plane. It is a pen state detection circuit which detects the state of the electronic pen 14 which has. Then, the touch IC 20 (one or more processors) acquires the first signal distribution indicating the change in capacitance due to the approach of the first electrode from the touch sensor 18 (S1 in FIG. 6), and machine learning is performed. The designated position or tilt angle of the electronic pen 14 is estimated from the first feature amount related to the first signal distribution using the estimator 50 (S3).
  • the first feature amount includes the first local feature amount related to the first local distribution corresponding to the line electrodes 18x, 18y, which is smaller than the number of arrangements of the line electrodes 18x, 18y forming the first signal distribution.
  • the touch IC 20 when the electronic pen 14 has a first electrode and a second electrode, the touch IC 20 (one or more processors) has a first signal distribution and a second signal distribution indicating a change in capacitance as the first electrode approaches.
  • the second signal distribution indicating the change in capacitance due to the approach of the electrodes is acquired from the touch sensor 18 (S1 in FIG. 6), and the first signal distribution is related to the first using the machine-learned estimator 50.
  • the indicated position or tilt angle of the electronic pen 14 is estimated from the feature amount and the second feature amount related to the second signal distribution (S3).
  • the first feature amount includes the first local feature amount corresponding to the line electrodes 18x, 18y, which is smaller than the number of arrangements of the line electrodes 18x, 18y forming the first signal distribution
  • the second feature amount is The second local feature amount relating to the second local distribution corresponding to the line electrodes 18x, 18y, which is smaller than the number of arrangements of the line electrodes 18x, 18y forming the second signal distribution, is included.
  • the estimator 50 By using the estimator 50 that has been machine-learned in this way, it becomes possible to extract a potential detection pattern through machine learning, and it becomes easy to appropriately reflect the tendency of the detection pattern when estimating the indicated position or the inclination angle. .. As a result, the accuracy of estimating the pen state in the electronic pen 14 having at least one electrode is improved. Further, by using the local feature amount relating to the local distribution corresponding to the number of line electrodes 18x, 18y, which is smaller than the number of arrangements of the line electrodes 18x, 18y forming the signal distribution, the estimator 50 input the local feature amount. The processing load can be reduced.
  • the first electrode is a chip electrode 30 having a shape symmetrical to the axis of the electronic pen 14 and provided at the tip of the electronic pen 14, and the second electrode has a shape symmetrical to the axis of the electronic pen 14.
  • the upper electrode 32 may be provided and is provided on the proximal end side of the chip electrode 30. Since the relationship between the tilt angle of the electronic pen 14 and the detection position tends to change according to the three-dimensional shape of the upper electrode 32, the above-mentioned effect of improving the estimation accuracy is more likely to appear.
  • the first local feature amount and / or the second local feature amount may be composed of a constant number of data regardless of the number of arrangements of the line electrodes 18x and 18y. By keeping the number of data used for estimation constant, uniform estimation can be performed regardless of the configuration of the touch sensor 18 (that is, the number of arrangements of the line electrodes 18x and 18y).
  • the first (or second) local distribution may be a distribution in which the change in capacitance is relatively large among the first (or second) signal distributions.
  • the first (or second) local feature amount excluding the signal distribution in which the change in capacitance is relatively small compared to the first (or second) local distribution the effect of improving the estimation accuracy is further improved. It appears prominently.
  • the first feature amount further includes the reference position of the first local distribution in the sensor coordinate system defined on the detection surface of the touch sensor 18, and the estimator 50 is relative between the reference position and the indicated position.
  • the touch IC 20 may estimate the indicated position by adding the relative position to the reference position so that the position calculation using the position as the output value can be executed.
  • the estimator 50 uses an angle calculation with the second local feature amount as an input value and an inclination angle as an output value, and a position calculation with the first local feature amount and the inclination angle as an input value and a relative position as an output value. And may be configured to be sequentially executable. By explicitly using the tilt angle that has a high correlation with the indicated position to perform the position calculation, the estimation accuracy of the indicated position is further improved.
  • the estimator 50 has a switch 61 capable of switching and outputting either a learning parameter group for angle calculation or a learning parameter group for position calculation, and an input value for angle calculation or an input value for position calculation.
  • the first local feature amount includes the slope of the first local distribution or the feature amount indicating the absolute value of the slope
  • the second local feature amount indicates the slope of the second local distribution or the absolute value of the slope. It may include a feature amount. Since these local feature quantities tend to strongly characterize the above-mentioned detection pattern, they tend to lead to improvement in accuracy.
  • FIG. 12A is a block diagram showing a pen detection function 28B in the first modification of the first embodiment.
  • the pen detection function 28B includes a signal acquisition unit 40, a feature amount calculation unit 42, and a position estimation unit 80 having a configuration different from that of the first embodiment. That is, the pen detection function 28B is different from the configuration of the pen detection function 28A in FIG. 5 in that the angle estimation unit 44 is not provided.
  • FIG. 12B is a diagram showing the configuration of the estimator 82 included in the pen detection function 28B of FIG. 12A.
  • the estimator 82 corresponds to the position estimator 80 shown in FIG. 12 (a).
  • the estimator 82 is, for example, a hierarchical neural network arithmetic unit including an input layer 82i, an intermediate layer 82m, and an output layer 82o.
  • the input layer 82i is composed of 2N arithmetic units for inputting the values of the first local feature amount and the second local feature amount.
  • the output layer 82o is composed of one arithmetic unit for outputting a relative position between the reference position and the indicated position.
  • the estimator 82 of the pen detection function 28B may execute the position calculation using the first local feature amount and the second local feature amount as input values and the relative position as the output value. Even when this configuration is adopted, the indicated position of the electronic pen 14 can be estimated with high accuracy as in the estimator 50 (FIG. 9) of the first embodiment.
  • FIG. 13A is a block diagram showing the pen detection function 28C in the second modification of the first embodiment.
  • the pen detection function 28C includes a signal acquisition unit 40, a feature amount calculation unit 42, a feature amount synthesis unit 90, and a position estimation unit 92 having a function different from that of the first modification described above. .. That is, the pen detection function 28C is different from the pen detection function 28B of the first modification in that the feature amount synthesizing unit 90 is provided.
  • FIG. 13 (b) is a diagram showing the configuration of the estimator 94 included in the pen detection function 28C of FIG. 13 (a).
  • the estimator 94 is composed of a synthesizer 96 and an arithmetic unit 98.
  • the synthesizer 96 corresponds to the feature amount synthesizer 90 shown in FIG. 13 (a)
  • the calculator 98 corresponds to the position estimation unit 92 shown in FIG. 13 (a).
  • the synthesizer 96 is composed of a calculator that outputs a third feature amount (for example, a difference or ratio of local feature amounts, an average of reference positions, etc.) indicating a relative value between the first feature amount and the second feature amount.
  • a third feature amount for example, a difference or ratio of local feature amounts, an average of reference positions, etc.
  • each value of the "third feature amount" obtained by synthesis is stored in the arithmetic unit of "C".
  • the arithmetic unit 98 is, for example, a hierarchical neural network arithmetic unit including an input layer 98i, an intermediate layer 98m, and an output layer 98o.
  • the input layer 98i is composed of N arithmetic units for inputting each value of the third feature amount.
  • the output layer 98o is composed of one arithmetic unit for outputting a relative position between the reference position and the indicated position.
  • the arithmetic unit 98 may be configured to be able to output the tilt angle together with or separately from the above-mentioned relative position.
  • the estimator 94 of the pen detection function 28C uses the synthesizer 96 that synthesizes the first feature amount and the second feature amount and outputs the third feature amount, and the third feature amount as input values, and indicates the designated position.
  • it may be configured to include an arithmetic unit 98 whose output value is an inclination angle. Even when this configuration is adopted, the indicated position of the electronic pen 14 can be estimated with high accuracy as in the estimator 50 (FIG. 9) of the first embodiment.
  • FIG. 14A is a block diagram showing a pen detection function 28D in a third modification of the first embodiment.
  • the pen detection function 28D includes a signal acquisition unit 40, a feature amount calculation unit 42, a feature amount synthesis unit 90, and a position estimation unit 100 having a function different from that of the second modification described above. ..
  • FIG. 14 (b) is a diagram showing the configuration of the estimator 102 included in the pen detection function 28D of FIG. 14 (a).
  • the estimator 102 is composed of a common arithmetic unit 104 and a switch 106, and corresponds to the position estimation unit 100 shown in FIG. 14A.
  • the common arithmetic unit 104 is a neural network operation that inputs a third local feature amount (N variables) from the feature amount synthesizer 90 shown in FIG. 14A and outputs a relative position (1 variable). It is a vessel.
  • the common arithmetic unit 104 may be configured to be able to output the tilt angle together with or separately from the above-mentioned relative position.
  • the switch 106 is either a first learning parameter group (that is, a learning parameter group suitable for the contact state) or a second learning parameter group (that is, a learning parameter group suitable for the hover state) according to the input of the switch signal. Switch one or the other to output.
  • the learning parameter group is selectively supplied to the common arithmetic unit 104.
  • the “contact state” means a state in which the tip portion of the electronic pen 14 is in contact with the detection surface of the electronic device 12.
  • the “hover state” means a state in which the tip portion of the electronic pen 14 is not in contact with the detection surface of the electronic device 12.
  • the touch IC 20 can identify the above two states by analyzing the downlink signal transmitted from the electronic pen 14.
  • the line electrodes 18x and 18y are connected to one touch IC 20 via a lead wire (not shown). That is, since the length of the wiring differs depending on the positions of the line electrodes 18x and 18y, the degree to which the capacitance changes in the detection surface of the touch sensor 18, that is, the sensitivity is different. As a result, a phenomenon such as distortion of the local distribution occurs, which may cause a decrease in the estimation accuracy of the pen state. Therefore, the pen state may be estimated in consideration of the sensitivity non-uniformity described above.
  • FIG. 15 is a diagram showing the configuration of the estimator 110 in the fourth modification of the first embodiment.
  • the front-stage arithmetic unit 112 and the rear-stage arithmetic unit 114 are sequentially connected in series.
  • the front-stage arithmetic unit 112 corresponds to the angle estimation unit 44 shown in FIG. 5
  • the rear-stage arithmetic unit 114 corresponds to the position estimation unit 46 shown in FIG.
  • the circles in the drawing indicate the arithmetic units corresponding to the neurons of the neural network.
  • Each value of the "first local feature amount” corresponding to the chip electrode 30 is stored in the calculation unit of "T”.
  • Each value of the "second local feature amount” corresponding to the upper electrode 32 is stored in the calculation unit of "U”.
  • the "tilt angle” is stored in the calculation unit of "A”.
  • the "position” (relative position or designated position) is stored in the calculation unit of "P".
  • the front-stage arithmetic unit 112 is, for example, a hierarchical neural network arithmetic unit including an input layer 112i, an intermediate layer 112m, and an output layer 112o.
  • the input layer 112i is composed of (N + 1) arithmetic units for inputting the reference position of the second local distribution and each value of the second local feature amount.
  • the output layer 112o is composed of one arithmetic unit for outputting the tilt angle.
  • the latter-stage arithmetic unit 114 is, for example, a hierarchical neural network arithmetic unit including an input layer 114i, an intermediate layer 114m, and an output layer 114o.
  • the input layer 114i is composed of (N + 2) arithmetic units for inputting the reference position of the first local distribution, each value of the first local feature amount, and the inclination angle.
  • the output layer 114o is composed of one arithmetic unit for outputting a relative position (or a designated position).
  • the estimator 110 may execute the position calculation with the first local feature amount and the reference position as the input values and the relative position or the indicated position as the output value. As a result, it becomes possible to reflect the tendency that the shape of the first local distribution changes according to the reference position, and higher estimation accuracy can be obtained as compared with the case where the reference position is not input.
  • the holding circuit 65 shown in FIG. 10 is connected to the first input side (upper side of the drawing) of the switch 63, but conversely, the second input side of the switch 63 (in the drawing). It may be connected to the lower side).
  • the estimator 50 can estimate the current tilt angle using the first local feature amount and the previous indicated position.
  • the estimator 50 can estimate the current tilt angle using the first local feature amount and the previous indicated position.
  • the switch 63 between the common arithmetic unit 60 and the holding circuit 65, [1] the estimation of the indicated position this time using the tilt angle of this time is further used, and [2] the previous time. It is possible to estimate the tilt angle this time using the indicated position.
  • FIG. 16 is a block diagram showing the pen detection function 28E in the second embodiment.
  • the pen detection function 28E includes a signal acquisition unit 142, a feature amount calculation unit 144, a calculation selection unit 146, and a position estimation unit 148. Subsequently, the operation of the touch IC 140 accompanying the execution of the pen detection function 28E will be described with reference to the flowchart of FIG.
  • step S11 of FIG. 17 the signal acquisition unit 142 acquires the signal distribution from the touch sensor 18 through the scanning operation for each of the line electrodes 18x and 18y. Since this operation is the same as that of the first embodiment (step S1 of FIG. 6), detailed description thereof will be omitted.
  • the feature amount calculation unit 144 calculates the feature amount related to this signal distribution by using the signal distribution acquired in step S11.
  • the feature amount calculation unit 144 may calculate the same feature amount as in the case of the first embodiment (step S2 in FIG. 6), or may calculate a feature amount different from the case of the first embodiment.
  • the feature amount calculation unit 144 may calculate the feature amount for the entire signal distribution instead of the local feature amount described above.
  • step S13 the calculation selection unit 146 selects one group from a plurality of learning parameter groups based on the feature amount calculated in step S12. Prior to this selection, the calculation selection unit 146 determines whether or not the projection position of the chip electrode 30 interferes with the peripheral portion of the touch sensor 18.
  • FIG. 18 is a diagram showing an example of the definition of the sensor area 150 included in the touch sensor 18.
  • the sensor coordinate system is a two-dimensional Cartesian coordinate system composed of two axes (X-axis and Y-axis) passing through the origin O.
  • the origin O is a feature point (for example, the upper left apex) on the detection surface of the touch sensor 18.
  • the XY plane coincides with the plane direction of the detection plane.
  • a frame-shaped peripheral edge region 152 corresponding to the peripheral edge portion of the touch sensor 18 is set in a part of the sensor region 150.
  • the shape (for example, width, position, size, etc.) of the peripheral region 152 can be variously set according to the electronic device 12 or the electronic pen 14.
  • the remaining area excluding the peripheral area 152 described above is referred to as a general area 154.
  • FIG. 19 is a diagram showing the tendency of local features calculated from various signal distributions. More specifically, FIG. 19A shows the local feature amount when the projection position of the chip electrode 30 (FIG. 2) included in the electronic pen 14 is within the general region 154. Further, FIG. 19B shows the local feature amount when the projected position of the chip electrode 30 is within the peripheral region 152. In this figure, a plurality of polygonal lines or plots obtained by changing the inclination angle are superimposed and shown.
  • the feature amount calculation unit 144 calculates the local feature amount corresponding to the unit numbers 0 to 5 by extracting the data for six consecutive addresses from the feature amount calculated over the entire signal distribution.
  • the estimated position is estimated according to a uniform calculation rule for two types of local features having greatly different shape tendencies, the estimation accuracy may vary.
  • the calculation selection unit 146 selects a learning parameter group for general area calculation and supplies the learning parameter group to the position estimation unit 148.
  • the arithmetic selection unit 146 selects a learning parameter group for peripheral region arithmetic and supplies the learning parameter group to the position estimation unit 148.
  • the position estimation unit 148 estimates the indicated position of the electronic pen 14 from the feature amount calculated in step S12. Specifically, the position estimation unit 148 estimates the indicated position suitable for the projection position of the chip electrode 30 by using an estimator in which the learning parameter group is selectively set.
  • the position estimation unit 148 may be configured so that the tilt angle can be estimated together with or separately from the indicated position.
  • step S15 the pen detection function 28E supplies the data including the indicated position estimated in step S14 to the host processor 22.
  • the flowchart of FIG. 17 ends.
  • the touch IC 140 detects the indicated position while following the movement of the electronic pen 14 by sequentially executing this flowchart at predetermined time intervals.
  • the touch IC 140 is an electronic pen having a chip electrode 30 based on a signal distribution detected by a capacitance type touch sensor 18 in which a plurality of line electrodes 18x and 18y are arranged in a plane. It is a pen state detection circuit which detects the state of 14. Then, the touch IC 140 (one or a plurality of processors) acquires a signal distribution indicating a change in capacitance due to the approach of the chip electrode 30 from the touch sensor 18 (S11 in FIG. 17), and the detection surface of the touch sensor 18 The indicated position or tilt angle of the electronic pen 14 is estimated from the feature amount related to the signal distribution according to a calculation rule different depending on the projection position of the chip electrode 30 above (S13, S14).
  • the above-mentioned calculation rule is a rule for estimating the indicated position or tilt angle of the electronic pen 14, and the touch IC 140 depends on whether or not the projected position of the chip electrode 30 interferes with the peripheral edge of the touch sensor 18.
  • the indicated position or tilt angle may be estimated using an estimator in which different learning parameter groups are set.
  • the estimator 50 in which the local features are input can be reduced.
  • the local feature amount excluding the signal distribution in which the change in capacitance is relatively small as compared with the local distribution the effect of improving the estimation accuracy appears more remarkably.
  • the calculation rule for estimating the instruction position or the tilt angle of the electronic pen 14 is changed, but the change target may be another calculation rule.
  • FIG. 20 is a block diagram showing a pen detection function 28F in a modified example of the second embodiment.
  • the pen detection function 28F includes a signal acquisition unit 142, a feature amount calculation unit 144, a shift processing unit 160, and a position estimation unit 148. That is, the pen detection function 28F is different from the configuration of the pen detection function 28E of FIG. 16 in that a shift processing unit 160 is provided instead of the calculation selection unit 146.
  • the shift processing unit 160 shifts the position of the local feature amount calculated by the feature amount calculation unit 144 as necessary. Functionally speaking, the shift processing unit 160 does not perform the shift process when the defect of the local distribution is not recognized, while performs the shift process when the defect of the local distribution is recognized. Specifically, the shift processing unit 160 identifies the rising position or falling position of the local distribution from the adjacent difference of the local feature amount, and determines the shift direction and amount so that both positions fall within a predetermined range. To do. As a result, when a part of the local distribution is missing, the address of the local feature amount is relatively shifted so that the peak center of the local distribution is closer to the center side.
  • FIG. 21 is a diagram showing the effect of the shift processing of the local feature amount in the peripheral region 152 of FIG. More specifically, FIG. 21 (a) shows the local features before the shift process, and FIG. 21 (b) shows the local features after the shift process. In this figure, two polygonal lines (solid line and broken line) obtained by changing the inclination angle are superimposed and shown.
  • the local feature amount in FIG. 21 (a) is calculated using the local distribution centered on the position of unit number 5.
  • the local feature amount shown in FIG. 21B shifts the address of the local feature amount shown in FIG. 21A to the negative side by "2".
  • the local feature amount is adjusted so that the peak center of the local distribution is at the position of unit number 3.
  • the address of the local feature amount in the peripheral region 152 where the defect of the local distribution can occur can be matched with the address of the local feature amount in the general region 154 where the defect does not occur, and the electronic pen 14 and the touch can be made by that amount.
  • the decrease in the estimation accuracy of the pen state due to the relative positional relationship between the sensors 18 is likely to be suppressed.
  • the above-mentioned calculation rule is a rule for calculating the local feature amount
  • the touch IC 140 calculates according to a different rule depending on whether or not the projection position of the chip electrode 30 interferes with the peripheral portion of the touch sensor 18.
  • the indicated position or inclination angle may be estimated from the local feature amount.
  • FIG. 22A is a block diagram showing the pen detection function 28G in the third embodiment.
  • the pen detection function 28G includes a signal acquisition unit 202, a feature amount calculation unit 204, a self-coding processing unit (hereinafter, AE processing unit 206), and a position estimation unit 208.
  • the pen detection function 28H may include a signal acquisition unit 202, an AE processing unit 206, and a position estimation unit 208. Subsequently, the operation of the touch IC 200 accompanying the execution of the pen detection functions 28G and 28H will be described with reference to the flowchart of FIG.
  • step S21 of FIG. 23 the signal acquisition unit 202 acquires the signal distribution from the touch sensor 18 through the scanning operation for each of the line electrodes 18x and 18y. Since this operation is the same as that of the first embodiment (step S1 of FIG. 6), detailed description thereof will be omitted.
  • the feature amount calculation unit 204 calculates the feature amount related to this signal distribution by using the signal distribution acquired in step S21.
  • the feature amount calculation unit 204 may calculate the same or different feature amount as in the case of the first embodiment (step S2 of FIG. 6).
  • the feature amount is the signal distribution itself.
  • a feature amount relating to the entire signal distribution may be used instead of the local feature amount described above.
  • step S23 the AE processing unit 206 performs a self-coding process described later on the feature amount calculated in step S22.
  • step S24 the position estimation unit 208 estimates the indicated position from the feature amount self-encoded in step S23.
  • the self-encoding process and the estimation of the pen state are performed by the estimator 210 that has been machine-learned.
  • FIG. 24 is a diagram showing the configuration of the estimator 210 included in the pen detection functions 28G and 28H of FIG. 22.
  • the estimator 210 is composed of a front-stage arithmetic unit 212 and a rear-stage arithmetic unit 214 connected in series.
  • the front-stage arithmetic unit 212 corresponds to the AE processing unit 206 shown in FIGS. 22 (a) and 22 (b)
  • the rear-stage arithmetic unit 214 corresponds to the position estimation unit 208 shown in FIGS. 22 (a) and 22 (b).
  • the calculation units represented by 0 to 5 store each value of the "feature amount" corresponding to the chip electrode 30.
  • the estimator 210 is, for example, a 5-layer neural network arithmetic unit including a first layer 221, a second layer 222, a third layer 223, a fourth layer 224, and a fifth layer 225.
  • the first layer 221 is composed of N arithmetic units for inputting each value of the feature amount.
  • the second layer 222 is composed of M (here, M ⁇ N) arithmetic units.
  • the third layer 223 is composed of the same number (that is, N) of arithmetic units as the configuration of the first layer 221.
  • the fifth layer 225 is composed of one arithmetic unit for outputting the indicated position.
  • the pre-stage arithmetic unit 212 is a hierarchical neural network arithmetic unit having the first layer 221 as an input layer, the second layer 222 as an intermediate layer, and the third layer 223 as an output layer.
  • the first layer 221 and the second layer 222 have a dimensional compression function
  • the second layer 222 and the third layer 223 have a dimensional restoration function.
  • a learning parameter group optimized by unsupervised learning is used for the arithmetic processing of the pre-stage arithmetic unit 212.
  • the latter-stage arithmetic unit 214 is a hierarchical neural network arithmetic unit having the third layer 223 as an input layer, the fourth layer 224 as an intermediate layer, and the fifth layer 225 as an output layer.
  • a learning parameter group optimized by supervised learning is used for the arithmetic processing of the latter-stage arithmetic unit 214.
  • step S25 of FIG. 23 the pen detection functions 28G and 28H supply the data including the indicated position estimated in step S24 to the host processor 22.
  • the flowchart of FIG. 23 ends.
  • the touch IC 200 detects the indicated position while following the movement of the electronic pen 14 by sequentially executing this flowchart at predetermined time intervals.
  • FIG. 25 is a diagram showing the variation in the feature amount before the execution of the self-encoding process. More specifically, FIG. 25 (a) is a diagram showing the tendency of the feature amount calculated from various signal distributions. Further, FIG. 25 (b) shows the deviation calculated from the population of the features in FIG. 25 (a). In this figure, a plurality of polygonal lines or plots obtained by changing the inclination angle are superimposed and shown.
  • FIG. 26 is a diagram showing the variation in the feature amount after the execution of the self-encoding process. More specifically, FIG. 26 (a) is a diagram showing the results of performing self-encoding processing on the feature quantities in FIG. 25 (a). Further, FIG. 26 (b) shows the deviation calculated from the population of the features in FIG. 26 (a). In this figure, the obtained plurality of polygonal lines or plots are superimposed and shown.
  • the deviation (that is, variation) of the feature amount is reduced to less than half before and after the self-coding process. That is, by performing the self-coding process, the effect of removing the noise component mixed in the feature amount is obtained.
  • FIG. 27 (a) is a diagram showing the estimation accuracy of the indicated position in the “reference example”
  • FIG. 27 (b) is a diagram showing the estimation accuracy of the indicated position in the “example”.
  • each indicated position is estimated while changing the combination of the tilt angle and the amount of noise applied, and the relationship between the actual value (unit: mm) of the indicated position and the estimation error (unit: ⁇ m) is expressed by a scatter diagram. ing.
  • the indicated position is estimated using only the latter-stage arithmetic unit 214 in FIG. 24. Comparing both scatter plots, it is understood that the estimation accuracy of the indicated position is improved by performing the self-coding process on the feature amount.
  • the touch IC 200 has at least one based on the signal distribution detected by the capacitance type touch sensor 18 in which a plurality of sensor electrodes (line electrodes 18x, 18y) are arranged in a plane. It is a pen state detection circuit which detects the state of the electronic pen 14 which has an electrode. Then, the touch IC 200 (one or more processors) acquires a signal distribution indicating the change in capacitance due to the approach of the electrodes from the touch sensor 18 (S21 in FIG. 23), and with respect to the feature amount related to the signal distribution.
  • a self-encoding process for outputting a feature amount equal to the number of input dimensions is performed (S23), and the feature amount subjected to the self-encoding process is used as an electron.
  • the indicated position or tilt angle of the pen 14 is estimated (S24).
  • the noise component included in the feature amount can be removed, and the estimation accuracy of the indicated position is improved.
  • the machine-learned estimator 210 more specifically, the post-stage arithmetic unit 214
  • the estimation accuracy of the indicated position is further improved.
  • the feature amount may be the first feature amount, the second feature amount, or both in the first embodiment.
  • the touch IC 200 may estimate the indicated position or the tilt angle from the feature amount subjected to the self-encoding process by using the estimator 210 that has been machine-learned.
  • the estimator 210 For example, in the first embodiment and this modification, [1] the input side of the position estimation unit 46 (FIG. 5), [2] the input side of the angle estimation unit 68 (FIG. 5), and [3] the position estimation unit 80 ( AE processing is performed on at least one of the input side of FIG. 12), the input side of [4] feature amount synthesis unit 90 (FIGS. 13 and 14), and the input side of [5] position estimation unit 100 (FIG. 14).
  • the unit 206 may be added.
  • FIG. 28 is an overall configuration diagram of the input system 250 as the pen state detection system according to the fourth embodiment.
  • the input system 250 includes one or a plurality of electronic devices 12, one or a plurality of electronic pens 14, and a learning computer 252.
  • Each electronic device 12 is configured to be able to communicate bidirectionally with the learning computer 252 via the network NW.
  • the learning computer 252 is a server device that has a management function of a learning parameter group LP suitable for the electronic pen 14. Specifically, the learning computer 252 includes a communication unit 254, a control unit 256, and a storage unit 258.
  • the communication unit 254 is composed of a communication interface capable of transmitting and receiving electric signals to and from an external device.
  • the learning computer 252 can transmit the learning parameter group LP corresponding to the electronic pen 14 to the electronic device 12 in response to the request from the electronic device 12.
  • the control unit 256 may be a general-purpose processor including a CPU, or may be a dedicated processor including a GPU or FPGA (Field Programmable Gate Array).
  • the control unit 256 functions as a data processing unit 260, a learning processing unit 262, and a learning device 264 by reading and executing a program stored in the memory including the storage unit 258.
  • the storage unit 258 is composed of a non-transient storage medium including, for example, a hard disk drive (HDD: Hard Disk Drive) and a solid state drive (SSD: Solid State Drive).
  • the storage unit 258 stores a teacher data group 266, which is an aggregate of teacher data TDs, and a database related to learning parameters (hereinafter, parameter DB 268).
  • FIG. 29 is a functional block diagram related to the learning process of the control unit 256 shown in FIG. 28.
  • the control unit 256 creates one or more types of learning parameter group LPs applied to the electronic pen 14 by performing learning processing on the learning device 264 using the teacher data TD prepared in advance.
  • the learning processing unit 262 and the learning device 264 are schematically shown among the functional units that can be executed by the control unit 256.
  • the learning processing unit 262 performs learning processing (in other words, optimization processing of the learning parameter group LP) for the learning device 264 using a plurality of sets of teacher data TDs.
  • the learning processing unit 262 includes a data acquisition unit 270, a learning error calculation unit 272, a parameter update unit 274, and a convergence determination unit 276.
  • the data acquisition unit 270 acquires one set or a plurality of sets of teacher data TDs from the teacher data group 266 prepared in advance.
  • This teacher data TD consists of a data set of input vectors and output values, and is obtained by actual measurement or computer simulation.
  • the teacher data TD may be created by randomly selecting a plurality of positions on the sensor plane and measuring the signal distribution at each position.
  • the teacher data TD may be created by using a physical simulation including electromagnetic field analysis or electric circuit analysis, or a mathematical simulation including sampling processing, interpolation processing or noise addition.
  • the learning error calculation unit 272 calculates an error (hereinafter referred to as a learning error) between the output value from the learner 284 and the output value of the teacher data TD with respect to the input vector of the teacher data TD.
  • This learning error may be an L1 norm function that returns the absolute value of the difference, or may be an L2 norm function that returns the squared value of the difference. Further, this learning error may be an error in one set of teacher data TDs (in the case of online learning) or an error in a plurality of sets of teacher data TDs (in the case of batch learning or mini-batch learning). ..
  • the parameter update unit 274 updates the variable parameters of the learning parameter group LP so that the learning error calculated by the learning error calculation unit 272 becomes smaller.
  • various methods including, for example, gradient descent, stochastic gradient descent, momentum, and RMSprop may be used.
  • Convergence determination unit 276 determines whether or not a predetermined convergence condition is satisfied at the current learning time. As an example of this convergence condition, [1] the learning error is sufficiently small, [2] the update amount of the learning error is sufficiently small, and [3] the number of repetitions of learning has reached the upper limit. , And so on.
  • FIG. 30 is a diagram showing a first example of a method of setting the learning parameter group LP.
  • the learning computer 252 performs machine learning using the teacher data TD regarding various types of electronic pens 14.
  • a learning parameter group LP typical for the electronic pen 14 is generated.
  • the manufacturing workers of the touch ICs 20, 140, and 200 perform the work of writing the learning parameter group LP stored in the parameter DB 288 to the memory 280.
  • the touch ICs 20, 140, and 200 in which the memory 280 is set can exert the pen state estimation function in the state of being incorporated in the electronic device 12.
  • FIG. 31 is a diagram showing a second example of a method of setting the learning parameter group LP.
  • the electronic device 12 attempts to pair with the electronic pen 14 around the electronic device 12.
  • the electronic device 12 transmits a request signal including the identification information (that is, the pen ID) acquired from the electronic pen 14 to the learning computer 252.
  • the data processing unit 260 of the learning computer 252 searches the parameter DB 268 and acquires the learning parameter group LP corresponding to the pen ID.
  • the learning computer 252 transmits the acquired learning parameter group LP to the electronic device 12 which is the source of the request signal.
  • the electronic device 12 sets the learning parameter group LP so that the touch ICs 20, 140, and 200 can be used. As a result, the touch ICs 20, 140, and 200 can exert the pen state estimation function.
  • the input system 250 is capable of bidirectionally communicating with the electronic device 12 including the touch ICs 20, 140, and 200, the electronic pen 14 used with the electronic device 12, and the electronic device 12.
  • a learning computer 252 which is an estimator constructed on the touch ICs 20, 140, 200 and is configured to store the learning parameter group LP of the estimator for estimating the indicated position or the tilt angle of the electronic pen 14, can be stored. Be prepared.
  • the electronic device 12 requests the learning computer 252 to transmit the learning parameter group LP corresponding to the electronic pen 14, and receives the learning parameter group LP from the learning computer 252. Hold the touch ICs 20, 140, 200 so that they are available. As a result, even when the combination of the electronic device 12 and the electronic pen 14 is changed, the estimation suitable for the electronic pen 14 can be performed.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Position Input By Displaying (AREA)

Abstract

少なくとも1つの電極を有する電子ペンにおいてペン状態の推定精度を向上可能なペン状態検出回路、システム及び方法を提供する。ペン状態検出回路(20)は、第1電極(30)の接近に伴う静電容量の変化を示す第1信号分布をタッチセンサ(18)から取得し、機械学習がなされた推定器(50)を用いて、第1信号分布に関する第1特徴量から電子ペン(14)の指示位置又は傾斜角度を推定する。第1特徴量は、第1信号分布をなすセンサ電極(18x,18y)の配設数よりも少ない数のセンサ電極(18x,18y)に相当する第1局所分布に関する第1局所特徴量を含む。

Description

ペン状態検出回路、システム及び方法
 本発明は、ペン状態検出回路、システム及び方法に関する。
 特許文献1には、タッチセンサの検出面上においてユーザの手が接触する第1位置及び電子ペンが指し示す第2位置をそれぞれ検出し、第1位置及び第2位置の座標値を用いて電子ペンの傾斜方向を推定し、この傾斜方向に応じて電子ペンの指示位置を補正する電子機器が開示されている。
特開2015-087785号公報
 ところで、2つの電極を有する電子ペンを用いることで、ユーザの手が検出面に触れていない場合であっても電子ペンの位置・姿勢を推定することが可能である。しかし、2つの電極は物理的に分離して設けられているので、電子ペンの使用中、少なくとも1つの電極が検出面に常に接触しないことになる。この場合、電子ペンの傾斜角度と検出位置の間の関係が電極の三次元形状に応じて変化し得るので、電子ペンの位置・姿勢によって推定精度がばらついてしまう場合がある。
 本発明の目的は、少なくとも1つの電極を有する電子ペンにおけるペン状態の推定精度を向上可能なペン状態検出回路、システム及び方法を提供することである。
 第1の本発明におけるペン状態検出回路は、複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、第1電極を有する電子ペンの状態を検出する回路であって、前記第1電極の接近に伴う静電容量の変化を示す第1信号分布を前記タッチセンサから取得する取得ステップと、機械学習がなされた推定器を用いて、前記第1信号分布に関する第1特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、を実行し、前記第1特徴量は、前記第1信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する第1局所分布に関する第1局所特徴量を含む。
 第2の本発明におけるペン状態検出システムは、上記したペン状態検出回路を含んで構成される電子機器と、前記電子機器とともに用いられる電子ペンと、前記電子機器と双方向に通信可能であり、前記ペン状態検出回路に構築される推定器の学習パラメータ群を記憶可能に構成されるサーバ装置と、を備え、前記電子機器は、前記電子ペンが検出された場合に、該電子ペンに対応する学習パラメータ群の送信を前記サーバ装置に要求する。
 第3の本発明におけるペン状態検出方法は、複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、電極を有する電子ペンの状態を検出する方法であって、前記電極の接近に伴う静電容量の変化を示す信号分布を前記タッチセンサから取得する取得ステップと、機械学習がなされた推定器を用いて、前記信号分布に関する特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、を1つ又は複数のプロセッサが実行し、前記特徴量は、前記信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する局所分布に関する局所特徴量を含む。
 第4の本発明におけるペン状態検出回路は、複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、電極を有する電子ペンの状態を検出する回路であって、前記電極の接近に伴う静電容量の変化を示す信号分布を前記タッチセンサから取得する取得ステップと、前記タッチセンサの検出面上における前記電極の投影位置に応じて異なる演算規則に従って、前記信号分布に関する特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、を実行する。
 第5の本発明におけるペン状態検出システムは、上記したペン状態検出回路を含んで構成される電子機器と、前記電子機器とともに用いられる電子ペンと、前記電子機器と双方向に通信可能であり、前記ペン状態検出回路に構築される推定器の学習パラメータ群を記憶可能に構成されるサーバ装置と、を備え、前記電子機器は、前記電子ペンが検出された場合に、該電子ペンに対応する学習パラメータ群の送信を前記サーバ装置に要求する。
 第6の本発明におけるペン状態検出方法は、複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、電極を有する電子ペンの状態を検出する方法であって、前記電極の接近に伴う静電容量の変化を示す信号分布を前記タッチセンサから取得する取得ステップと、前記タッチセンサの検出面上における前記電極の投影位置に応じて異なる演算規則に従って、前記信号分布に関する特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、を1つ又は複数のプロセッサが実行する。
 第1~第3の本発明によれば、機械学習がなされた推定器を用いることで、機械学習を通じて潜在的な検出パターンを抽出可能となり、指示位置又は傾斜角度の推定に際して当該検出パターンの傾向が適切に反映されやすくなる。これにより、少なくとも1つの電極を有する電子ペンにおけるペン状態を高精度で推定することができる。また、信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する局所分布に関する局所特徴量を用いることで、局所特徴量が入力される推定器の処理負荷を低減することができる。
 第4~第6の本発明によれば、電子ペンが有する電極の投影位置に応じて異なる演算規則を適用することで、投影位置に適した推定を実行可能となり、電子ペンとタッチセンサの間の相対的位置関係に起因するペン状態の推定精度の低下が抑制される。これにより、少なくとも1つの電極を有する電子ペンにおけるペン状態を高精度で推定することができる。
本発明における各実施形態に共通する入力システムの全体構成図である。 図1の電子ペンを部分的に示す模式図である。 電子ペンのコンタクト状態時にタッチセンサから検出される信号分布の一例を示す図である。 指示位置に関する推定誤差の傾向を示す図である。 第1実施形態におけるペン検出機能を示すブロック図である。 図5に示すペン検出機能が実行するフローチャートである。 タッチセンサから取得される信号分布の一例を示す図である。 局所特徴量の算出方法の一例を示す図である。 図5のペン検出機能に含まれる推定器の構成を示す図である。 図9における推定器の実装例を示す図である。 図11(a)は、従来例における指示位置の推定精度を示す図である。図11(b)は、実施例における指示位置の推定精度を示す図である。 図12(a)は、第1実施形態の第1変形例におけるペン検出機能を示すブロック図である。図12(b)は、図12(a)のペン検出機能に含まれる推定器の構成を示す図である。 図13(a)は、第1実施形態の第2変形例におけるペン検出機能を示すブロック図である。図13(b)は、図13(a)のペン検出機能に含まれる推定器の構成を示す図である。 図14(a)は、第1実施形態の第3変形例におけるペン検出機能を示すブロック図である。図14(b)は、図14(a)のペン検出機能に含まれる推定器の構成を示す図である。 第1実施形態の第4変形例におけるペン検出機能に含まれる推定器の構成を示す図である。 第2実施形態におけるペン検出機能を示すブロック図である。 図16に示すペン検出機能が実行するフローチャートである。 タッチセンサが有するセンサ領域の定義の一例を示す図である。 図19(a)は、電子ペンが有するチップ電極(図2)の投影位置が一般領域内にある場合の局所特徴量を示す図である。図19(b)は、チップ電極の投影位置が周縁領域内にある場合の局所特徴量を示す図である。 第2実施形態の変形例におけるペン検出機能を示すブロック図である。 図21(a)は、シフト処理前における局所特徴量を示す図である。図21(b)は、シフト処理後の局所特徴量を示す図である。 図22(a)は、第3実施形態におけるペン検出機能を示すブロック図である。図22(b)は、図22(a)とは別の一例を示すブロック図である。 図22に示すペン検出機能が実行するフローチャートである。 図22のペン検出機能に含まれる推定器の構成を示す図である。 自己符号化処理の実行前における局所特徴量のばらつきを示す図である。 自己符号化処理の実行後における局所特徴量のばらつきを示す図である。 図27(a)は、参考例における指示位置の推定精度を示す図である。図27(b)は、実施例における指示位置の推定精度を示す図である。 第4実施形態におけるペン状態検出システムとしての入力システムの全体構成図である。 図28に示す制御部の学習処理に関わる機能ブロック図である。 学習パラメータ群の設定方法の第1例を示す図である。 学習パラメータ群の設定方法の第2例を示す図である。
 本発明におけるペン状態検出回路、システム及び方法について、添付の図面を参照しながら説明する。説明の理解を容易にするため、各図面において同一の構成要素及びステップに対して可能な限り同一の符号を付するとともに、重複する説明を省略する場合がある。なお、本発明は以下の実施形態及び変形例に限定されるものではなく、この発明の主旨を逸脱しない範囲で自由に変更できることは勿論である。あるいは、技術的に矛盾が生じない範囲で各々の構成を任意に組み合わせてもよい。
[各実施形態に共通する構成]
<入力システム10の全体構成>
 図1は、本発明の各実施形態に共通する入力システム10の全体構成図である。入力システム10は、タッチパネルディスプレイを有する電子機器12と、ペン型のポインティングデバイスである電子ペン14(あるいは「スタイラス」ともいう)と、から基本的に構成される。
 電子機器12は、例えば、タブレット型端末、スマートフォン、パーソナルコンピュータで構成される。ユーザは、電子ペン14を片手で把持し、電子機器12のタッチ面にペン先を押し当てながら移動させることで、電子機器12に絵や文字を書き込むことができる。また、ユーザは、自身の指16でタッチ面に接触することで、表示中のユーザコントロールを介して所望の操作を行うことができる。
 電子機器12は、タッチセンサ18と、タッチIC(Integrated Circuit)20と、ホストプロセッサ22と、を含んで構成される。本図に示すx方向,y方向は、タッチセンサ18がなす検出面上において定義される直交座標系(以下、センサ座標系)のX軸,Y軸に相当する。
 タッチセンサ18は、図示しない表示パネル上に配置される複数の電極からなる面状のセンサである。タッチセンサ18は、X座標(x方向の位置)を検出するための複数のライン電極18xと、Y座標(y方向の位置)を検出するための複数のライン電極18yと、を含む。複数のライン電極18xは、y方向に延びて設けられ、かつx方向に沿って等間隔に配置されている。複数のライン電極18yは、x方向に延びて設けられ、かつy方向に沿って等間隔に配置されている。以下、ライン電極18x(又はライン電極18y)の配置間隔を「ピッチ」という場合がある。なお、タッチセンサ18は、上記した相互容量方式のセンサに代えて、ブロック状の電極を二次元格子状に配置した自己容量方式のセンサであってもよい。
 タッチIC20は、ファームウェア24を実行可能に構成された集積回路であり、タッチセンサ18を構成する複数のライン電極18x,18yにそれぞれ接続されている。このファームウェア24は、ユーザの指16などによるタッチを検出するタッチ検出機能26と、電子ペン14の状態を検出するペン検出機能28と、を実現可能に構成される。
 タッチ検出機能26は、例えば、タッチセンサ18のスキャン機能、タッチセンサ18上のヒートマップ(検出レベルの二次元分布)の作成機能、ヒートマップ上の領域分類機能(例えば、指16、手の平の分類)を含む。ペン検出機能28は、例えば、タッチセンサ18のスキャン機能(グローバルスキャン又はローカルスキャン)、ダウンリンク信号の受信・解析機能、電子ペン14の状態(例えば、位置、姿勢、筆圧)の推定機能、電子ペン14に対する指令を含むアップリンク信号の生成・送信機能を含む。
 ホストプロセッサ22は、CPU(Central Processing Unit)又はGPU(Graphics Processing Unit)からなるプロセッサである。ホストプロセッサ22は、図示しないメモリからプログラムを読み出し実行することで、例えば、タッチIC20からのデータを用いてデジタルインクを生成する処理、当該デジタルインクが示す描画内容を表示させるための可視化処理などを行う。
<ペン状態の推定方法>
 図2は、図1の電子ペン14を部分的に示す模式図である。電子ペン14の先端には、概略円錐状のチップ電極30と、無底円錐台状のアッパー電極32が同軸的に設けられている。チップ電極30及びアッパー電極32はそれぞれ、発振回路34が生成する信号(いわゆるダウンリンク信号)を出力するための電極である。発振回路34が発振周波数を変更したり送信先を時分割で切り替えたりすることで、電子ペン14は、チップ電極30及びアッパー電極32を介して2種類のダウンリンク信号を出力することができる。
 電子機器12のタッチIC20(図1)は、チップ電極30の接近に伴う静電容量(より詳しくは、相互容量又は自己容量)の変化を示す信号分布(以下、「第1信号分布」という)を、タッチセンサ18から取得する。第1信号分布は、典型的には、位置Q1に1つのピークをもつ形状を有する。ここで、位置Q1は、チップ電極30の頂部(位置P1)をセンサ平面上に投影した位置に相当する。
 同様に、電子機器12のタッチIC20(図1)は、アッパー電極32の接近に伴う静電容量の変化を示す信号分布(以下、「第2信号分布」という)を、タッチセンサ18から取得する。第2信号分布は、典型的には、位置Q2に1つ又は2つのピークをもつ形状を有する。ここで、位置Q2は、アッパー電極32の肩部(位置P2)をセンサ平面上に投影した位置に相当する。また、後述する位置Q3は、アッパー電極32の上底面の中心(位置P3)をセンサ平面上に投影した位置に相当する。
 図3は、電子ペン14のコンタクト状態時にタッチセンサ18から検出される信号分布の一例を示す図である。より詳しくは、図3(a)は第1信号分布を示すとともに、図3(b)は第2信号分布を示している。グラフの横軸は電子ペン14の指示位置を基準とする相対位置(単位:mm)を示すとともに、グラフの縦軸は[0,1]に正規化された信号値(単位:なし)を示している。この信号値は、電子ペン14が接近した時に「正」になるように正負の符号が定義されている。第1及び第2信号分布はそれぞれ、電子ペン14の傾斜角度に応じて形状が変化する。本図では、傾斜角度をそれぞれ変化させて得られた3本の曲線を重ねて表記している。
 図3(a)に示すように、第1信号分布は、傾斜角度の大きさにかかわらず、概ね類似した形状を有する。なぜならば、電子ペン14を使用する間、通常、チップ電極30の頂部がセンサ平面に最も近い位置にあり、位置Q1が位置P1に概ね一致するからである。一方、図3(b)に示すように、第2信号分布は、傾斜角度の変化に応じてピークの位置又は個数が大きく変化する。なぜならば、電子ペン14を使用する間、通常、アッパー電極32の肩部のいずれかの箇所がセンサ平面に最も近い位置にあり、位置Q1,Q2の間の距離が傾斜角度に応じて変化するからである。
 この位置Q1,Q2の座標を用いて、電子ペン14の位置・姿勢(以下、ペン状態ともいう)を推定することができる。例えば、指示位置は、図2に示す位置Q1に相当する。また、傾斜角度は、センサ平面と電子ペン14の軸とのなす角θに相当する。つまり、センサ平面に対して水平な状態ではθ=0°となり、センサ平面に対して垂直な状態ではθ=90°となる。なお、電子ペン14の傾き状態を示す物理量は、上記した角度の他に、例えば方位を用いてもよい。
 図4は、指示位置に関する推定誤差の傾向を示す図である。グラフの横軸は指示位置の実際値(単位:mm)を示すとともに、グラフの縦軸は指示位置の推定値(単位:mm)を示している。ここでは、ライン電極18xの幅方向の中点をX=0(mm)と定義している。なお、推定誤差が0の場合、原点Oを通る傾き1の直線が得られる。
 例えば、信号分布は、等間隔(ピッチΔX)でサンプリングされた信号値の集合であることから、信号分布のピーク(つまり、指示位置)をより正確に推定するために補間演算が行われる。ところが、補間関数の種類によってはフィッティング誤差が発生し、ピッチ単位で周期的な「補間近似誤差」が生じてしまう。
 また、アッパー電極32の位置P3(図2参照)を基準として傾斜角度を推定する場合において、θ=0°では位置Q2が位置Q3に一致するため、傾斜角度に起因する推定誤差は生じない。ところが、θ>0°の場合、位置Q2,Q3のずれにより、傾斜角度が小さく見積もられる。その結果、得られる推定値が正方向(つまり、電子ペン14の傾斜方向)にシフトし、いわゆる「オフセット誤差」が生じてしまう。
 このように、互いに位置及び形状が異なる2つの電極を用いてペン状態を推定する際、上記した補間近似誤差及びオフセット誤差によって、指示位置又は傾斜角度の推定精度がばらつく場合がある。そこで、この2種類の誤差を同時に減らし、ペン状態の推定精度を向上させるための手法を提案する。
[第1実施形態]
 以下、第1実施形態におけるタッチIC20のペン検出機能28Aについて、図5~図11を参照しながら説明する。
<構成及び動作>
 図5は、第1実施形態におけるペン検出機能28Aを示すブロック図である。このペン検出機能28Aは、信号取得部40と、特徴量算出部42と、角度推定部44と、位置推定部46と、を含んで構成される。続いて、このペン検出機能28Aの実行に伴うタッチIC20の動作について、図6のフローチャートを参照しながら説明する。
 図6のステップS1において、信号取得部40は、ライン電極18x,18y毎のスキャン動作を通じて、タッチセンサ18から第1信号分布及び第2信号分布をそれぞれ取得する。この信号分布は、X軸又はY軸に沿った一次元信号分布であってもよいし、X-Y軸平面上における二次元信号分布であってもよい。ここでは、X軸に沿った一次元信号分布を例に挙げて説明する。
 図7は、タッチセンサ18から取得される信号分布の一例を示す図である。グラフの横軸はライン番号(つまり、ライン電極18xの識別番号)を示すとともに、グラフの縦軸は信号値を示している。ここでは、2本の電子ペン14が同時に検出されている状況を想定する。この場合、信号分布は、電子ペン14の指示位置を中心とする幅が狭い2本のピークが発生する。一方、2本のピークを除く残りの位置では、信号値が0又は微小値となっている。以下、信号分布の全体を「全体分布」といい、静電容量の変化が相対的に大きい局所的な信号分布を「局所分布」という場合がある。この「相対的に大きい」とは、局所分布以外の位置と比べて変化量が大きいことであってもよいし、所定の閾値と比べて変化量が大きいことであってもよい。
 あるいは、別の観点から言えば、「全体分布」は配設されたライン電極18xの全部に相当する信号分布であり、「局所分布」は配設されたライン電極18xの一部に相当する信号分布である。全体分布をなす電極数Nに対する局所分布をなす電極数nの比率(n/N)は、例えば、1/2以下が好ましく、1/4以下がより好ましく、1/8以下がさらに好ましい。
 言い換えれば、局所分布のなすライン電極18x,18yの数は、全体分布をなすライン電極18x,18yの配設数よりも少なくなっている。ここで、「少ない」とは、例えば、センサ電極が垂直N行×水平M列(例えば50行×70列)で構成されている場合に、
[1]垂直方向の座標を決定する上で、Nより少ない数、好ましくはN/2より少ない数、より好適には10より少ない数の電極の電流あるいは電圧のレベル値により、
[2]水平方向の座標を決定する上では、Mより少ない数、好ましくはM/2より少ない数、好適には10より少ない数の電極の電流あるいは電圧のレベル値により、
ということである。この数は、垂直方向水平方向ともに同数であることが望ましい。これにより、例えば、上述例による50x70のセンサ電極の場合、クロスポイントの状態数(3500の入力数)のニューラルネットワークを学習するのに比して、例えば、10+10の学習で2次元座標を得ることができ、ニューラルネットワークで演算する乗算数などの計算量のオーダを指数(2乗)から線形(10+10)におさえることができる。
 なお、センサ電極が、垂直N個水平M個のブロック電極により構成される場合には、垂直方向にN個よりも少ない数、好ましくはN/2より少ない数、より好適には10より少ない数の電極の電流あるいは電圧のレベル値に該当する。
 ステップS2において、特徴量算出部42は、ステップS1で取得された第1信号分布を用いて、この第1信号分布の形状的特徴を示す特徴量(以下、「第1特徴量」という)を算出する。同様に、特徴量算出部42は、ステップS1で取得された第2信号分布を用いて、この第2信号分布の形状的特徴を示す特徴量(以下、「第2特徴量」という)を算出する。
 図8(a)に示すように、ライン番号の若い方から順に、Sn-2=0.15/Sn-1=0.40/S=0.80/Sn+1=0.30/Sn+2=0.10である信号分布が得られたとする。なお、その他のライン番号における信号値は、いずれも0であるか無視できる程度に微小な値である。例えば、次の式(1),(2)に従って、{G}及び{F}をそれぞれ計算する。
  G=(S-Si-2)+(Si-1-Si-3)  ・・・(1)
  F=|G|/max{|G|}      ・・・(2)
 その結果、図8(b)に示す「符号あり傾き」{G}、図8(c)に示す特徴量{F}がそれぞれ算出される。式(2)から理解されるように、この特徴量{F}は、[0,1]の範囲で正規化された「符号なし傾き」に相当する。
 なお、特徴量算出部42は、上記した信号分布の傾き又は該傾きの絶対値の他にも、信号分布の形状を特徴付ける様々な特徴量を算出してもよい。また、特徴量算出部42は、第1特徴量の場合と同一の計算方法を用いて第2特徴量を算出してもよいし、第1特徴量の場合と異なる計算方法を用いて第2特徴量を算出してもよい。また、この特徴量は、信号分布そのものであってもよい。また、特徴量算出部42は、1本のライン電極18x,18yにつき1つの特徴量を計算しているが、ライン電極18x,18yの本数と特徴量の個数の関係はこの例に限られない。つまり、1対1の関係の他に、1対多、多対1、あるいは多対多の関係であってもよい。
 ここで、特徴量算出部42は、後述する推定に用いられる特徴量の個数を削減するため、上記した局所分布のみを用いて特徴量(以下、「局所特徴量」という)を算出する。具体的には、特徴量算出部42は、全体分布から局所分布を抽出した後に該局所分布を用いて局所特徴量を算出してもよいし、全体分布にわたって特徴量を算出した後に該当する局所分布に応じた局所特徴量を抽出してもよい。この局所特徴量は、ライン電極18x,18yの配設数にかかわらず一定のデータ数(例えば。N個)で構成されてもよい。推定に用いられるデータ数を一定にすることで、タッチセンサ18の構成に依存しない一律の推定を行うことができる。
 上記した局所特徴量を用いる場合、第1特徴量には第1局所特徴量及び基準位置が含まれるとともに、第2特徴量には第2局所特徴量が含まれる。「第1局所特徴量」は、第1信号分布に含まれる局所分布(つまり、第1局所分布)のみに関する局所特徴量を意味する。「第2局所特徴量」は、第2信号分布に含まれる局所分布(つまり、第2局所分布)のみに関する局所特徴量を意味する。「基準位置」は、センサ座標系における第1局所分布の基準点の位置を意味し、例えば、第1局所分布の立ち上がり位置、立ち下がり位置、ピーク位置、あるいはこれらの近傍位置のいずれであってもよい。
 図6のステップS3において、角度推定部44は、ステップS2で算出された第2特徴量から電子ペン14の傾斜角度を推定する。そして、特徴量算出部42は、第1特徴量及び傾斜角度から電子ペン14の指示位置を推定する。このペン状態の推定は、機械学習がなされた推定器50を用いて行われる。この機械学習は、例えば、実際の測定又は計算機シミュレーションにより得られた教師データを用いる「教師あり学習」であってもよい。
 図9は、図5のペン検出機能28Aに含まれる推定器50の構成を示す図である。この推定器50は、前段演算器52、後段演算器54、及び加算器56が直列的に順次接続されてなる。前段演算器52は図5に示す角度推定部44に対応し、後段演算器54及び加算器56は図5に示す位置推定部46に対応する。
 なお、図面の丸印は、ニューラルネットワークのニューロンに相当する演算ユニットを示している。「T」の演算ユニットには、チップ電極30に対応する「第1局所特徴量」の各値が格納される。「U」の演算ユニットには、アッパー電極32に対応する「第2局所特徴量」の各値が格納される。「A」の演算ユニットには「傾斜角度」が格納される。「P」の演算ユニットには「相対位置」が格納される。
 前段演算器52は、例えば、入力層52i、中間層52m、及び出力層52oからなる階層型のニューラルネット演算器である。入力層52iは、第2局所特徴量の各値を入力するためのN個の演算ユニットから構成される。中間層52mは、M個(ここでは、M=N)の演算ユニットから構成される。出力層52oは、傾斜角度を出力するための1個の演算ユニットから構成される。
 後段演算器54は、例えば、入力層54i、中間層54m、及び出力層54oからなる階層型のニューラルネット演算器である。入力層54iは、第1局所特徴量の各値及び傾斜角度を入力するための(N+1)個の演算ユニットから構成される。中間層54mは、例えば、M個(ここでは、M=N)の演算ユニットから構成される。出力層54oは、基準位置と指示位置の間の相対位置を出力するための1個の演算ユニットから構成される。
 加算器56は、第1特徴量に含まれる基準位置に、後段演算器54からの相対位置を加算することで、電子ペン14の指示位置を出力する。この指示位置は、第1局所分布のピーク中心に相当する位置であり、ライン電極18x,18yのピッチよりも高い分解能を有する。
 図10は、図9における推定器50の実装例を示す図である。この推定器50は、共通演算器60と、同期的に切り替え可能な4つのスイッチ61,62,63,64と、保持回路65と、を含んで構成される。共通演算器60は、(N+1)個の変数を入力し、かつ1個の変数を出力するニューラルネット演算器であり、図9の前段演算器52又は後段演算器54として共通して利用可能に構成される。
 スイッチ61は、スイッチ信号の入力に応じて、第1学習パラメータ群(つまり、位置演算用の学習パラメータ群)又は第2学習パラメータ群(つまり、角度演算用の学習パラメータ群)のうちいずれか一方を切り替えて出力する。ここで、スイッチ61の出力側が共通演算器60に接続されているので、学習パラメータ群が選択的に共通演算器60に供給される。
 共通演算器60の演算規則は、学習パラメータ群を構成する学習パラメータの値によって定められる。学習パラメータ群は、例えば、演算ユニットの活性化関数を記述する係数、演算ユニット間の結合強度を含む「可変パラメータ」と、学習モデルのアーキテクチャを特定するための「固定パラメータ」(いわゆるハイパーパラメータ)から構成される。ハイパーパラメータの例として、各層を構成する演算ユニットの個数、中間層の数が挙げられる。この実装例では、アーキテクチャが固定されているため、学習パラメータ群は、可変パラメータのみからなる。
 スイッチ62は、スイッチ信号の入力に応じて、第1局所特徴量(つまり、位置演算用の入力値)又は第2局所特徴量(つまり、角度演算用の入力値)のうちいずれか一方を出力する。スイッチ62の出力側が共通演算器60の入力側に接続されているので、局所特徴量が選択的に共通演算器60に供給される。
 スイッチ63は、スイッチ信号の入力に応じて、保持回路65内の保持値(ここでは、傾斜角度の推定値)又はダミー情報(例えば、ゼロ値)のうちいずれか一方を切り替えて出力する。スイッチ63の出力側が共通演算器60の入力側に接続されているので、位置演算の実行時に限り、傾斜角度が共通演算器60に供給される。
 スイッチ64は、スイッチ信号の入力に応じて、共通演算器60の出力値(ここでは、指示位置の推定値)又はダミー情報(例えば、ゼロ値)のうちいずれか一方を切り替えて出力する。これにより、位置演算の実行時に限り、スイッチ64から指示位置が出力される。
 保持回路65は、共通演算器60の出力値を一時的に保持する。保持回路65内には、傾斜角度と指示位置が交互に保持されるが、実際には位置演算の実行時にのみ保持値が読み出される。
 このように、図9及び図10の推定器50を用いて、電子ペン14の指示位置が推定される(ステップS3)。なお、上記した例では、ニューラルネットワークを用いて推定器50を構築したが、機械学習の手法はこれに限られない。例えば、ロジスティック回帰モデル、サポートベクターマシン(SVM)、ディシジョンツリー、ランダムフォレスト、ブースティング法を含む様々な手法を採用してもよい。
 図6のステップS4において、ペン検出機能28Aは、ステップS3で推定された指示位置及び傾斜角度を含むデータをホストプロセッサ22に供給する。例えば、ペン検出機能28Aは、ステップS1~S3を2回繰り返してX軸座標値、Y軸座標値をそれぞれ推定し、ホストプロセッサ22に指示位置の座標値(X,Y)を供給してもよい。あるいは、ペン検出機能28Aは、ステップS1~S3を通じて指示位置の座標値(X,Y)を同時に推定し、ホストプロセッサ22に座標値(X,Y)を供給してもよい。
 以上のようにして、図6のフローチャートを終了する。タッチIC20は、所定の時間間隔でこのフローチャートを逐次実行することで、電子ペン14の移動に追従しながら指示位置を検出する。
<推定精度の比較>
 続いて、機械学習がなされた推定器50による推定精度の向上効果について、図11を参照しながら説明する。図11(a)は「従来例」における指示位置の推定精度を示す図であり、図11(b)は「実施例」における指示位置の推定精度を示す図である。ここでは、5通りの傾斜角度に設定した場合における補間近似誤差(上側のバー)及びオフセット誤差(下側のバー)の大きさをそれぞれ計算している。なお、この比較対象(従来例)として、信号分布に対して所定の補間関数を用いて位置Q1,Q2を算出する手法を用いている。
 図11(a)に示すように、従来例において、傾斜角度によらず略一定の補間近似誤差が発生するとともに、傾斜角度が増加するにつれてオフセット誤差が大きくなっている。一方、図11(b)に示すように、実施例において、補間近似誤差が従来例の場合と比べて半分以下に減少するとともに、オフセット誤差が傾斜角度によらず微小になっている。
<第1実施形態のまとめ>
 以上のように、このタッチIC20は、複数のセンサ電極(ライン電極18x,18y)を面状に配置してなる静電容量方式のタッチセンサ18により検出された信号分布に基づいて、第1電極を有する電子ペン14の状態を検出するペン状態検出回路である。そして、タッチIC20(1つ又は複数のプロセッサ)は、第1電極の接近に伴う静電容量の変化を示す第1信号分布をタッチセンサ18から取得し(図6のS1)、機械学習がなされた推定器50を用いて、第1信号分布に関する第1特徴量から電子ペン14の指示位置又は傾斜角度を推定する(S3)。そして、第1特徴量は、第1信号分布をなすライン電極18x,18yの配設数よりも少ないライン電極18x,18yに相当する第1局所分布に関する第1局所特徴量を含む。
 あるいは、電子ペン14が第1電極及び第2電極を有する場合、タッチIC20(1つ又は複数のプロセッサ)は、第1電極の接近に伴う静電容量の変化を示す第1信号分布及び第2電極の接近に伴う静電容量の変化を示す第2信号分布をタッチセンサ18からそれぞれ取得し(図6のS1)、機械学習がなされた推定器50を用いて、第1信号分布に関する第1特徴量及び第2信号分布に関する第2特徴量から、電子ペン14の指示位置又は傾斜角度を推定する(S3)。そして、第1特徴量は、第1信号分布のうちをなすライン電極18x,18yの配設数よりも少ないライン電極18x,18yに相当する第1局所特徴量を含み、第2特徴量は、第2信号分布をなすライン電極18x,18yの配設数よりも少ないライン電極18x,18yに相当する第2局所分布に関する第2局所特徴量を含む。
 このように、機械学習がなされた推定器50を用いることで、機械学習を通じて潜在的な検出パターンを抽出可能となり、指示位置又は傾斜角度の推定に際して当該検出パターンの傾向が適切に反映されやすくなる。これにより、少なくとも1つの電極を有する電子ペン14におけるペン状態の推定精度が向上する。また、信号分布をなすライン電極18x,18yの配設数よりも少ない数のライン電極18x,18yに相当する局所分布に関する局所特徴量を用いることで、局所特徴量が入力される推定器50の処理負荷を低減することができる。
 また、第1電極は、電子ペン14の軸に対称な形状を有し、かつ電子ペン14の先端に設けられるチップ電極30であり、第2電極は、電子ペン14の軸に対称な形状を有し、かつチップ電極30よりも基端側に設けられるアッパー電極32であってもよい。電子ペン14の傾斜角度と検出位置の間の関係がアッパー電極32の三次元形状に応じて変化する傾向があるので、上記した推定精度の向上効果がより顕著に現われやすくなる。
 また、第1局所特徴量及び/又は第2局所特徴量は、ライン電極18x,18yの配設数にかかわらず一定のデータ数で構成されてもよい。推定に用いられるデータ数を一定にすることで、タッチセンサ18の構成(つまり、ライン電極18x,18yの配設数)に依存しない一律の推定を行うことができる。
 また、第1(又は第2)局所分布は、第1(又は第2)信号分布のうち静電容量の変化が相対的に大きい分布であってもよい。第1(又は第2)局所分布と比べて静電容量の変化が相対的に小さい信号分布が除外された第1(又は第2)局所特徴量を用いることで、推定精度の向上効果がより顕著に現われる。
 また、第1特徴量は、タッチセンサ18の検出面上にて定義されるセンサ座標系における、第1局所分布の基準位置をさらに含み、推定器50は、基準位置と指示位置の間の相対位置を出力値とする位置演算を実行可能に構成され、タッチIC20は、基準位置に相対位置を加算することで指示位置を推定してもよい。
 また、推定器50は、第2局所特徴量を入力値とし、傾斜角度を出力値とする角度演算と、第1局所特徴量及び傾斜角度を入力値とし、相対位置を出力値とする位置演算と、を順次実行可能に構成されてもよい。指示位置との相関性が高い傾斜角度を明示的に用いて位置演算を行うことで、指示位置の推定精度がさらに高くなる。
 さらに、推定器50は、角度演算用の学習パラメータ群又は位置演算用の学習パラメータ群のうちいずれか一方を切り替えて出力可能なスイッチ61と、角度演算用の入力値又は位置演算用の入力値のうちいずれか一方を切り替えて出力可能なスイッチ62と、スイッチ61,62の切り替えに応じて、角度演算又は位置演算を選択的に実行可能に構成される共通演算器60と、を含んで構成されてもよい。これにより、2つの用途の演算器を別々に設ける場合と比べて、演算器の構成がより簡素になる。
 また、第1局所特徴量は、第1局所分布の傾き又は該傾きの絶対値を示す特徴量を含むとともに、第2局所特徴量は、第2局所分布の傾き又は該傾きの絶対値を示す特徴量を含んでもよい。これらの局所特徴量は、上記した検出パターンを強く特徴付ける傾向があるため、精度の向上に繋がりやすい。
[第1実施形態の変形例]
 続いて、第1実施形態の第1~第5変形例について、図12~図15を参照しながら説明する。なお、第1実施形態の場合と同様の構成要素には同一の参照符号を付し、その説明を省略する場合がある。
<第1変形例>
 図12(a)は、第1実施形態の第1変形例におけるペン検出機能28Bを示すブロック図である。このペン検出機能28Bは、信号取得部40と、特徴量算出部42と、第1実施形態とは構成が異なる位置推定部80と、を含んで構成される。つまり、このペン検出機能28Bは、角度推定部44が設けられていない点で、図5のペン検出機能28Aの構成とは異なっている。
 図12(b)は、図12(a)のペン検出機能28Bに含まれる推定器82の構成を示す図である。この推定器82は、図12(a)に示す位置推定部80に対応する。推定器82は、例えば、入力層82i、中間層82m、及び出力層82oからなる階層型のニューラルネット演算器である。入力層82iは、第1局所特徴量及び第2局所特徴量の各値を入力するための2N個の演算ユニットから構成される。中間層82mは、M個(ここでは、M=2N)の演算ユニットから構成される。出力層82oは、基準位置と指示位置の間の相対位置を出力するための1個の演算ユニットから構成される。
 このように、ペン検出機能28Bの推定器82は、第1局所特徴量及び第2局所特徴量を入力値とし、相対位置を出力値とする位置演算を実行してもよい。この構成を採用した場合であっても、第1実施形態の推定器50(図9)と同様に、電子ペン14の指示位置が高い精度で推定され得る。
<第2変形例>
 図13(a)は、第1実施形態の第2変形例におけるペン検出機能28Cを示すブロック図である。このペン検出機能28Cは、信号取得部40と、特徴量算出部42と、特徴量合成部90と、上記した第1変形例とは機能が異なる位置推定部92と、を含んで構成される。つまり、このペン検出機能28Cは、特徴量合成部90が設けられている点で、第1変形例のペン検出機能28Bとは異なっている。
 図13(b)は、図13(a)のペン検出機能28Cに含まれる推定器94の構成を示す図である。この推定器94は、合成器96及び演算器98から構成される。合成器96は図13(a)に示す特徴量合成部90に対応し、演算器98は図13(a)に示す位置推定部92に対応する。
 合成器96は、第1特徴量と第2特徴量の間の相対値を示す第3特徴量(例えば、局所特徴量の差又は比、基準位置の平均など)を出力する演算器からなる。なお、「C」の演算ユニットには、合成により得られた「第3特徴量」の各値が格納される。
 演算器98は、例えば、入力層98i、中間層98m、及び出力層98oからなる階層型のニューラルネット演算器である。入力層98iは、第3特徴量の各値を入力するためのN個の演算ユニットから構成される。中間層98mは、M個(ここでは、M=N)の演算ユニットから構成される。出力層98oは、基準位置と指示位置の間の相対位置を出力するための1個の演算ユニットから構成される。なお、演算器98は、上記した相対位置と併せて又はこれとは別に、傾斜角度を出力可能に構成されてもよい。
 このように、ペン検出機能28Cの推定器94は、第1特徴量及び第2特徴量を合成して第3特徴量を出力する合成器96と、第3特徴量を入力値とし、指示位置又は傾斜角度を出力値とする演算器98と、を含んで構成されてもよい。この構成を採用した場合であっても、第1実施形態の推定器50(図9)と同様に、電子ペン14の指示位置が高い精度で推定され得る。
<第3変形例>
 図14(a)は、第1実施形態の第3変形例におけるペン検出機能28Dを示すブロック図である。このペン検出機能28Dは、信号取得部40と、特徴量算出部42と、特徴量合成部90と、上記した第2変形例とは機能が異なる位置推定部100と、を含んで構成される。
 図14(b)は、図14(a)のペン検出機能28Dに含まれる推定器102の構成を示す図である。この推定器102は、共通演算器104及びスイッチ106から構成されており、図14(a)に示す位置推定部100に対応する。共通演算器104は、図14(a)に示す特徴量合成部90からの第3局所特徴量(N個の変数)を入力し、かつ相対位置(1個の変数)を出力するニューラルネット演算器である。なお、共通演算器104は、上記した相対位置と併せて又はこれとは別に、傾斜角度を出力可能に構成されてもよい。
 スイッチ106は、スイッチ信号の入力に応じて、第1学習パラメータ群(つまり、コンタクト状態に適した学習パラメータ群)又は第2学習パラメータ群(つまり、ホバー状態に適した学習パラメータ群)のうちいずれか一方を切り替えて出力する。ここで、スイッチ106の出力側が共通演算器104に接続されているので、学習パラメータ群が選択的に共通演算器104に供給される。
 なお、「コンタクト状態」とは、電子ペン14のチップ部が電子機器12の検出面に接触している状態を意味する。反対に、「ホバー状態」とは、電子ペン14のチップ部が電子機器12の検出面に接触していない状態を意味する。例えば、電子ペン14がチップ部の押圧を検出するセンサを備える場合、タッチIC20は、電子ペン14から送信されるダウンリンク信号を解析することで上記した2つの状態を識別可能である。
 このように、電子ペン14がコンタクト状態であるかホバー状態であるかに応じて異なる学習パラメータ群が設定された推定器102を用いて、電子ペン14の指示位置又は傾斜角度を推定してもよい。これにより、電子ペン14とタッチセンサ18の離間距離に応じて信号分布の形状が変化する傾向が反映された演算を実行可能となり、両方の状態での推定精度がそれぞれ高くなる。
<第4変形例>
 各々のライン電極18x、18yは、図示しない引き出し線を介して1つのタッチIC20に接続されている。つまり、ライン電極18x、18yの位置に応じて配線の長さが異なるため、タッチセンサ18の検出面内にて静電容量が変化する度合い、つまり感度が異なっている。その結果、局所分布の歪みが生じるなどの現象が起こり、ペン状態の推定精度を損なう原因にもなり得る。そこで、上記の感度不均一性を考慮したペン状態の推定を行ってもよい。
 図15は、第1実施形態の第4変形例における推定器110の構成を示す図である。この推定器は、前段演算器112及び後段演算器114が直列的に順次接続されてなる。前段演算器112は図5に示す角度推定部44に対応し、後段演算器114は図5に示す位置推定部46に対応する。
 なお、図面の丸印は、ニューラルネットワークのニューロンに相当する演算ユニットを示している。「T」の演算ユニットには、チップ電極30に対応する「第1局所特徴量」の各値が格納される。「U」の演算ユニットには、アッパー電極32に対応する「第2局所特徴量」の各値が格納される。「A」の演算ユニットには「傾斜角度」が格納される。「P」の演算ユニットには「位置」(相対位置又は指示位置)が格納される。
 前段演算器112は、例えば、入力層112i、中間層112m、及び出力層112oからなる階層型のニューラルネット演算器である。入力層112iは、第2局所分布の基準位置及び第2局所特徴量の各値を入力するための(N+1)個の演算ユニットから構成される。中間層112mは、M個(ここでは、M=N)の演算ユニットから構成される。出力層112oは、傾斜角度を出力するための1個の演算ユニットから構成される。
 後段演算器114は、例えば、入力層114i、中間層114m、及び出力層114oからなる階層型のニューラルネット演算器である。入力層114iは、第1局所分布の基準位置、第1局所特徴量の各値及び傾斜角度を入力するための(N+2)個の演算ユニットから構成される。中間層114mは、M個(ここでは、M=N)の演算ユニットから構成される。出力層114oは、相対位置(あるいは指示位置)を出力するための1個の演算ユニットから構成される。
 このように、推定器110は、第1局所特徴量及び基準位置を入力値とし、相対位置又は指示位置を出力値とする位置演算を実行してもよい。これにより、基準位置に応じて第1局所分布の形状が変化する傾向を反映可能となり、基準位置を入力しない場合と比べてより高い推定精度が得られる。
<第5変形例>
 第1実施形態では、図10に示す保持回路65は、スイッチ63の第1入力側(図面の上側)に接続されているが、これとは逆に、スイッチ63の第2入力側(図面の下側)に接続されてもよい。これにより、推定器50は、第1局所特徴量及び前回の指示位置を用いて、今回の傾斜角度を推定することができる。あるいは、共通演算器60と保持回路65の間に、スイッチ63に代えて遅延回路を設けることで、[1]今回の傾斜角度をさらに用いた今回の指示位置の推定、及び[2]前回の指示位置をさらに用いた今回の傾斜角度の推定、の両方を行うことができる。
[第2実施形態]
 続いて、第2実施形態におけるタッチIC140のペン検出機能28Eについて、図16~図19を参照しながら説明する。
<構成及び動作>
 第2実施形態における基本構成は第1実施形態(図1~図4)と同様であるため、その説明を省略する。ただし、電子ペン14(図2)がチップ電極30のみを有する場合を想定する。
 図16は、第2実施形態におけるペン検出機能28Eを示すブロック図である。このペン検出機能28Eは、信号取得部142と、特徴量算出部144と、演算選択部146と、位置推定部148と、を含んで構成される。続いて、このペン検出機能28Eの実行に伴うタッチIC140の動作について、図17のフローチャートを参照しながら説明する。
 図17のステップS11において、信号取得部142は、ライン電極18x,18y毎のスキャン動作を通じて、タッチセンサ18から信号分布を取得する。この動作は、第1実施形態(図6のステップS1)と同様であるので詳しい説明を省略する。
 ステップS12において、特徴量算出部144は、ステップS11で取得された信号分布を用いて、この信号分布に関する特徴量を算出する。特徴量算出部144は、第1実施形態(図6のステップS2)の場合と同一の特徴量を算出してもよいし、第1実施形態の場合と異なる特徴量を算出してもよい。例えば、特徴量算出部144は、上記した局所特徴量に代わって、信号分布の全体に関する特徴量を算出してもよい。
 ステップS13において、演算選択部146は、ステップS12で算出された特徴量に基づいて、複数の学習パラメータ群の中から1つのグループを選択する。この選択に先立ち、演算選択部146は、チップ電極30の投影位置が、タッチセンサ18の周縁部に干渉するか否かについて判定を行う。
 図18は、タッチセンサ18が有するセンサ領域150の定義の一例を示す図である。センサ座標系は、原点Oを通る2軸(X軸,Y軸)からなる2次元直交座標系である。原点Oは、タッチセンサ18の検出面上の特徴点(例えば、左上の頂点)である。X-Y平面は、検出面の平面方向に一致する。センサ領域150の一部には、タッチセンサ18の周縁部に対応する額縁状の周縁領域152が設定されている。周縁領域152の形状(例えば、幅・位置・サイズなど)は、電子機器12又は電子ペン14に応じて様々に設定され得る。なお、センサ領域150のうち、上記した周縁領域152を除く残りの領域を一般領域154という。
 図19は、様々な信号分布から算出された局所特徴量の傾向を示す図である。より詳しくは、図19(a)は、電子ペン14が有するチップ電極30(図2)の投影位置が一般領域154内にある場合の局所特徴量を示している。また、図19(b)は、チップ電極30の投影位置が周縁領域152内にある場合の局所特徴量を示している。本図では、傾斜角度をそれぞれ変化させて得られた複数本の折れ線又はプロットを重ねて表記している。
 例えば、特徴量算出部144は、信号分布の全体にわたって算出した特徴量からアドレスが連続する6個分のデータを抽出することで、ユニット番号0~5に対応する局所特徴量を算出することを想定する。図19(b)から理解されるように、センサ領域150外にて信号分布の一部が検出できないため、局所特徴量の一部が欠損する場合が起こり得る。つまり、形状の傾向が大きく異なる2種類の局所特徴量に対して、一律的な演算規則に従って指示位置の推定を行う場合、この推定精度にばらつきが生じることがあり得る。
 そこで、演算選択部146は、特徴量に含まれる基準位置が一般領域154内にある場合、一般領域演算用の学習パラメータ群を選択し、当該学習パラメータ群を位置推定部148に供給する。一方、演算選択部146は、上記した基準位置が周縁領域152内にある場合、周縁領域演算用の学習パラメータ群を選択し、当該学習パラメータ群を位置推定部148に供給する。
 図17のステップS14において、位置推定部148は、ステップS12で算出された特徴量から電子ペン14の指示位置を推定する。具体的には、位置推定部148は、学習パラメータ群が選択的に設定された推定器を用いて、チップ電極30の投影位置に適した指示位置の推定を行う。なお、位置推定部148は、指示位置と併せて又はこれとは別に、傾斜角度を推定可能に構成されてもよい。
 ステップS15において、ペン検出機能28Eは、ステップS14にて推定された指示位置を含むデータをホストプロセッサ22に供給する。以上のようにして、図17のフローチャートを終了する。タッチIC140は、所定の時間間隔でこのフローチャートを逐次実行することで、電子ペン14の移動に追従しながら指示位置を検出する。
<第2実施形態のまとめ>
 以上のように、このタッチIC140は、複数のライン電極18x,18yを面状に配置してなる静電容量方式のタッチセンサ18により検出された信号分布に基づいて、チップ電極30を有する電子ペン14の状態を検出するペン状態検出回路である。そして、タッチIC140(1つ又は複数のプロセッサ)は、チップ電極30の接近に伴う静電容量の変化を示す信号分布をタッチセンサ18から取得し(図17のS11)、タッチセンサ18の検出面上におけるチップ電極30の投影位置に応じて異なる演算規則に従って、信号分布に関する特徴量から電子ペン14の指示位置又は傾斜角度を推定する(S13、S14)。
 このように、電子ペン14が有するチップ電極30の投影位置に応じて異なる演算規則を適用することで、投影位置に適した推定を実行可能となり、電子ペン14とタッチセンサ18の間の相対的位置関係に起因するペン状態の推定精度の低下が抑制される。
 例えば、上記した演算規則が電子ペン14の指示位置又は傾斜角度を推定する規則であって、タッチIC140は、チップ電極30の投影位置がタッチセンサ18の周縁部に干渉するか否かに応じて異なる学習パラメータ群が設定された推定器を用いて、指示位置又は傾斜角度を推定してもよい。
 また、信号分布をなすライン電極18x,18yの配設数よりも少ない数のライン電極18x,18yに相当する局所分布に関する局所特徴量を用いることで、局所特徴量が入力される推定器50の処理負荷を低減することができる。あるいは、局所分布と比べて静電容量の変化が相対的に小さい信号分布が除外された局所特徴量を用いることで、推定精度の向上効果がより顕著に現われる。
[第2実施形態の変形例]
 上記した第2実施形態では、電子ペン14の指示位置又は傾斜角度を推定する演算規則を変更させているが、変更対象はこれとは別の演算規則であってもよい。
 図20は、第2実施形態の変形例におけるペン検出機能28Fを示すブロック図である。このペン検出機能28Fは、信号取得部142と、特徴量算出部144と、シフト処理部160と、位置推定部148と、を含んで構成される。つまり、このペン検出機能28Fは、演算選択部146の代わりにシフト処理部160が設けられている点で、図16のペン検出機能28Eの構成とは異なっている。
 シフト処理部160は、必要に応じて、特徴量算出部144により算出された局所特徴量の位置をシフトする。機能的に言えば、シフト処理部160は、局所分布の欠損が認められない場合にシフト処理を行わない一方、局所分布の欠損が認められる場合にシフト処理を行う。具体的には、シフト処理部160は、局所特徴量の隣接差分から局所分布の立ち上がり位置又は立下り位置を特定し、両方の位置が所定の範囲内に収まるようにシフトの方向及び量を決定する。これにより、局所分布の一部が欠損している場合、当該局所分布のピーク中心が中央側に寄るように、局所特徴量のアドレスが相対的にシフトされる。
 図21は、図18の周縁領域152における局所特徴量のシフト処理による効果を示す図である。より詳しくは、図21(a)はシフト処理前における局所特徴量を示すとともに、図21(b)はシフト処理後の局所特徴量を示している。本図では、傾斜角度をそれぞれ変化させて得られた2本の折れ線(実線及び破線)を重ねて表記している。
 図21(a)の局所特徴量は、ユニット番号5の位置をピーク中心とする局所分布を用いて算出されている。一方、図21(b)の局所特徴量は、図21(a)に示す局所特徴量のアドレスを「2」だけ負側にシフトしてなる。このシフト処理を通じて、局所分布のピーク中心がユニット番号3の位置になるように局所特徴量が調整される。これにより、局所分布の欠損が発生し得る周縁領域152における局所特徴量のアドレスを、欠損が発生しない一般領域154における局所特徴量のアドレスに合わせることが可能となり、その分だけ電子ペン14とタッチセンサ18の間の相対的位置関係に起因するペン状態の推定精度の低下が抑制されやすくなる。
 このように、上記した演算規則が局所特徴量を算出する規則であって、タッチIC140は、チップ電極30の投影位置がタッチセンサ18の周縁部に干渉するか否かに応じて異なる規則に従って算出された局所特徴量から、指示位置又は傾斜角度を推定してもよい。このように構成しても、第2実施形態と同様の作用効果(つまり、推定精度の低下を抑制する効果)が得られる。
[第3実施形態]
 続いて、第3実施形態におけるタッチIC200のペン検出機能28Gについて、図22~図27を参照しながら説明する。
<構成及び動作>
 第3実施形態における基本構成は第1実施形態(図1~図4)と同様であるため、その説明を省略する。ただし、電子ペン14(図2)がチップ電極30のみを有する場合を想定する。
 図22(a)は、第3実施形態におけるペン検出機能28Gを示すブロック図である。このペン検出機能28Gは、信号取得部202と、特徴量算出部204と、自己符号化処理部(以下、AE処理部206)と、位置推定部208と、を含んで構成される。あるいは、図22(b)に示すように、ペン検出機能28Hは、信号取得部202と、AE処理部206と、位置推定部208と、を含む構成であってもよい。続いて、このペン検出機能28G、28Hの実行に伴うタッチIC200の動作について、図23のフローチャートを参照しながら説明する。
 図23のステップS21において、信号取得部202は、ライン電極18x,18y毎のスキャン動作を通じて、タッチセンサ18から信号分布を取得する。この動作は、第1実施形態(図6のステップS1)と同様であるので詳しい説明を省略する。
 ステップS22において、特徴量算出部204は、ステップS21で取得された信号分布を用いて、この信号分布に関する特徴量を算出する。図22(a)に示す構成の場合、特徴量算出部204は、第1実施形態(図6のステップS2)の場合と同一の又は異なる特徴量を算出してもよい。一方、図22(b)に示す構成の場合、特徴量は信号分布そのものである。例えば、前者の場合、上記した局所特徴量に代わって、信号分布の全体に関する特徴量が用いられてもよい。
 ステップS23において、AE処理部206は、ステップS22で算出された特徴量に対して後述する自己符号化処理を行う。ステップS24において、位置推定部208は、ステップS23で自己符号化処理が施された特徴量から指示位置を推定する。この自己符号化処理及びペン状態の推定は、機械学習がなされた推定器210により行われる。
 図24は、図22のペン検出機能28G、28Hに含まれる推定器210の構成を示す図である。この推定器210は、直列に接続された前段演算器212及び後段演算器214から構成される。前段演算器212は図22(a)(b)に示すAE処理部206に対応し、後段演算器214は図22(a)(b)に示す位置推定部208に対応する。なお、0~5と表記した演算ユニットには、チップ電極30に対応する「特徴量」の各値が格納される。
 推定器210は、例えば、第1層221、第2層222、第3層223、第4層224及び第5層225からなる5層型のニューラルネット演算器である。第1層221は、特徴量の各値を入力するためのN個の演算ユニットから構成される。第2層222は、M個(ここでは、M<N)の演算ユニットから構成される。第3層223は、第1層221の構成と同数(つまり、N個)の演算ユニットから構成される。第4層224は、例えば、L個(ここでは、L=N)の演算ユニットから構成される。第5層225は、指示位置を出力するための1個の演算ユニットから構成される。
 前段演算器212は、第1層221を入力層とし、第2層222を中間層とし、第3層223を出力層とする階層型ニューラルネットワーク演算器である。この構成の場合、第1層221及び第2層222が次元圧縮機能を担い、第2層222及び第3層223が次元復元機能を担う。前段演算器212の演算処理には、教師なし学習により最適化された学習パラメータ群が用いられる。
 後段演算器214は、第3層223を入力層とし、第4層224を中間層とし、第5層225を出力層とする階層型ニューラルネットワーク演算器である。後段演算器214の演算処理には、教師あり学習により最適化された学習パラメータ群が用いられる。
 図23のステップS25において、ペン検出機能28G、28Hは、ステップS24にて推定された指示位置を含むデータをホストプロセッサ22に供給する。以上のようにして、図23のフローチャートを終了する。タッチIC200は、所定の時間間隔でこのフローチャートを逐次実行することで、電子ペン14の移動に追従しながら指示位置を検出する。
<推定精度の比較>
 続いて、機械学習がなされた推定器210による推定精度の向上効果について、図25~図27を参照しながら説明する。
 図25は、自己符号化処理の実行前における特徴量のばらつきを示す図である。より詳しくは、図25(a)は、様々な信号分布から算出された特徴量の傾向を示す図である。また、図25(b)は、図25(a)における特徴量の母集団から算出した偏差を示している。本図では、傾斜角度をそれぞれ変化させて得られた複数本の折れ線又はプロットを重ねて表記している。
 図26は、自己符号化処理の実行後における特徴量のばらつきを示す図である。より詳しくは、図26(a)は、図25(a)における特徴量に対してそれぞれ自己符号化処理を施した結果を示す図である。また、図26(b)は、図26(a)における特徴量の母集団から算出した偏差を示している。本図では、得られた複数本の折れ線又はプロットを重ねて表記している。
 図25(b)及び図26(b)から理解されるように、自己符号化処理の前後にわたって、特徴量の偏差(つまり、ばらつき)が半分以下に減少している。つまり、自己符号化処理を施すことで、特徴量に混入しているノイズ成分を除去する効果が得られている。
 図27(a)は「参考例」における指示位置の推定精度を示す図であり、図27(b)は「実施例」における指示位置の推定精度を示す図である。ここでは、傾斜角度及びノイズ付与量の組み合わせを変化させながらそれぞれの指示位置を推定し、指示位置の実際値(単位:mm)と推定誤差(単位:μm)の関係性を散布図により表現している。なお、この比較対象(参考例)として、図24の後段演算器214のみを用いて指示位置の推定を行っている。両方の散布図を比較すると、特徴量に対して自己符号化処理を施すことで指示位置の推定精度が向上することが理解される。
<第3実施形態のまとめ>
 以上のように、このタッチIC200は、複数のセンサ電極(ライン電極18x,18y)を面状に配置してなる静電容量方式のタッチセンサ18により検出された信号分布に基づいて、少なくとも1つの電極を有する電子ペン14の状態を検出するペン状態検出回路である。そして、タッチIC200(1つ又は複数のプロセッサ)は、電極の接近に伴う静電容量の変化を示す信号分布をタッチセンサ18から取得し(図23のS21)、信号分布に関する特徴量に対して次元圧縮処理及び次元復元処理を順次実行することで、入力の次元数に等しい特徴量を出力する自己符号化処理を行い(S23)、この自己符号化処理が施された特徴量を用いて電子ペン14の指示位置又は傾斜角度を推定する(S24)。
 このように、信号分布に関する特徴量に対して自己符号化処理を行うことで、特徴量に含まれるノイズ成分を除去可能となり、指示位置の推定精度が向上する。特に、機械学習がなされた推定器210(より詳しくは、後段演算器214)を用いることで、指示位置の推定精度がさらに高まる。なお、この特徴量は、第1実施形態における第1特徴量、第2特徴量、又はその両方であってもよい。
 また、タッチIC200は、機械学習がなされた推定器210を用いて、自己符号化処理が施された特徴量から指示位置又は傾斜角度を推定してもよい。例えば、第1実施形態及びこの変形例では、[1]位置推定部46(図5)の入力側、[2]角度推定部68(図5)の入力側、[3]位置推定部80(図12)の入力側、[4]特徴量合成部90(図13,図14)の入力側、[5]位置推定部100(図14)の入力側、のうちの少なくとも1箇所にAE処理部206を増設してもよい。
[第4実施形態]
 続いて、第4実施形態におけるペン状態検出システムとしての入力システム250について、図28~図31を参照しながら説明する。
<全体構成>
 図28は、第4実施形態におけるペン状態検出システムとしての入力システム250の全体構成図である。この入力システム250は、1台又は複数台の電子機器12と、1本又は複数本の電子ペン14と、学習用コンピュータ252と、を含んで構成される。各々の電子機器12は、ネットワークNWを介して、学習用コンピュータ252と双方向に通信可能に構成される。
 学習用コンピュータ252は、電子ペン14に適した学習パラメータ群LPの管理機能を担うサーバ装置である。具体的には、学習用コンピュータ252は、通信部254と、制御部256と、記憶部258と、を含んで構成される。
 通信部254は、外部装置に対して電気信号を送受信可能な通信インターフェースから構成される。これにより、学習用コンピュータ252は、電子機器12からの要求に応じて、電子ペン14に対応する学習パラメータ群LPを電子機器12に送信可能である。
 制御部256は、CPUを含む汎用プロセッサであってもよいし、GPUやFPGA(Field Programmable Gate Array)を含む専用プロセッサであってもよい。制御部256は、記憶部258を含むメモリに格納されたプログラムを読み出して実行することで、データ処理部260、学習処理部262及び学習器264として機能する。
 記憶部258は、例えば、ハードディスクドライブ(HDD:Hard Disk Drive)やソリッドステートドライブ(SSD:Solid State Drive)を含む非一過性の記憶媒体から構成される。図28の例では、記憶部258には、教師データTDの集合体である教師データ群266と、学習パラメータに関するデータベース(以下、パラメータDB268)が記憶されている。
<機能ブロック図>
 図29は、図28に示す制御部256の学習処理に関わる機能ブロック図である。制御部256は、予め準備された教師データTDを用いて、学習器264に対する学習処理を行うことで、電子ペン14に適用される1種類以上の学習パラメータ群LPを作成する。本図では、制御部256が実行可能な機能部のうち、学習処理部262及び学習器264を模式的に示している。
 学習処理部262は、複数組の教師データTDを用いて、学習器264に対する学習処理(換言すれば、学習パラメータ群LPの最適化処理)を行う。具体的には、学習処理部262は、データ取得部270と、学習誤差算出部272と、パラメータ更新部274と、収束判断部276と、を備える。
 データ取得部270は、予め準備された教師データ群266の中から1組又は複数組の教師データTDを取得する。この教師データTDは、入力ベクトルと出力値のデータセットからなり、実際の測定又は計算機シミュレーションにより得られる。例えば、「実際の測定」の場合、センサ平面上の複数の位置をランダムに選択し、それぞれの位置における信号分布を測定することで教師データTDを作成してもよい。また、「計算機シミュレーション」の場合、電磁界解析又は電気回路解析を含む物理シミュレーションや、標本化処理、補間処理又はノイズ付与を含む数学シミュレーションを用いて教師データTDを作成してもよい。
 学習誤差算出部272は、教師データTDの入力ベクトルに対する学習器284からの出力値と、教師データTDの出力値の間の誤差(以下、学習誤差という)を算出する。この学習誤差は、差分の絶対値を返すL1ノルム関数であってもよいし、差分の2乗値を返すL2ノルム関数であってもよい。また、この学習誤差は、1組の教師データTDにおける誤差(オンライン学習の場合)であってもよいし、複数組の教師データTDに関する誤差(バッチ学習又はミニバッチ学習の場合)であってもよい。
 パラメータ更新部274は、学習誤差算出部272により算出された学習誤差が小さくなるように、学習パラメータ群LPの可変パラメータを更新する。更新アルゴリズムとして、例えば、勾配降下法、確率的勾配降下法、モーメンタム法、RMSpropを含む様々な手法を用いてもよい。
 収束判断部276は、現在の学習時点にて予め定められた収束条件を満たすか否かを判断する。この収束条件の一例として、[1]学習誤差が十分に小さくなったこと、[2]学習誤差の更新量が十分に小さくなったこと、[3]学習の繰り返し回数が上限値に到達したこと、などが挙げられる。
<学習パラメータ群LPの設定方法>
 図30は、学習パラメータ群LPの設定方法の第1例を示す図である。まず、学習用コンピュータ252は、様々な種類の電子ペン14に関する教師データTDを用いて機械学習を行う。そうすると、電子ペン14にとって典型的な学習パラメータ群LPが生成される。そして、タッチIC20,140,200の製造作業者は、パラメータDB288に格納された学習パラメータ群LPをメモリ280に書き込む作業を行う。これにより、メモリ280がセットされたタッチIC20,140,200は、電子機器12に組み込まれた状態でペン状態の推定機能を発揮することができる。
 図31は、学習パラメータ群LPの設定方法の第2例を示す図である。[1]まず、電子機器12は、自器の周辺にある電子ペン14とのペアリングを試みる。[2]このペアリングが成功して電子ペン14を検出した場合、電子機器12は、電子ペン14から取得した識別情報(つまり、ペンID)を含む要求信号を学習用コンピュータ252に送信する。[3]学習用コンピュータ252のデータ処理部260は、パラメータDB268を検索して、ペンIDに対応する学習パラメータ群LPを取得する。[4]学習用コンピュータ252は、取得した学習パラメータ群LPを、要求信号の送信元である電子機器12に送信する。[5]電子機器12は、タッチIC20,140,200が利用可能になるように学習パラメータ群LPをセットする。これにより、タッチIC20,140,200は、ペン状態の推定機能を発揮することができる。
<第4実施形態のまとめ>
 以上のように、入力システム250は、タッチIC20,140,200を含んで構成される電子機器12と、電子機器12とともに用いられる電子ペン14と、電子機器12と双方向に通信可能であり、タッチIC20,140,200に構築される推定器であって電子ペン14の指示位置又は傾斜角度を推定するための推定器の学習パラメータ群LPを記憶可能に構成される学習用コンピュータ252と、を備える。
 そして、電子機器12は、電子ペン14が検出された場合に、電子ペン14に対応する学習パラメータ群LPの送信を学習用コンピュータ252に要求し、学習用コンピュータ252からの学習パラメータ群LPを、タッチIC20,140,200が利用可能となるように保持する。これにより、電子機器12と電子ペン14の組み合わせが変更された場合であっても、電子ペン14に適した推定を行うことができる。
[符号の説明]
10,250 入力システム(ペン状態検出システム)、12 電子機器、14 電子ペン、16 指、18 タッチセンサ、18x,18y ライン電極、20,140,200 タッチIC(ペン状態検出回路)、22 ホストプロセッサ、28(A,B,C,D,E,F,G,H) ペン検出機能、30 チップ電極(第1電極)、32 アッパー電極(第2電極)、34 発振回路、50,82,94,102,100,210 推定器、52,112,212 前段演算器、54,114,214 後段演算器、60,104 共通演算器、61 スイッチ(第1スイッチ)、62 スイッチ(第2スイッチ)、250 学習用コンピュータ(サーバ装置)、LP 学習パラメータ群、TD 教師データ

Claims (22)

  1.  複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、第1電極を有する電子ペンの状態を検出するペン状態検出回路であって、
     前記第1電極の接近に伴う静電容量の変化を示す第1信号分布を前記タッチセンサから取得する取得ステップと、
     機械学習がなされた推定器を用いて、前記第1信号分布に関する第1特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、
     を実行し、
     前記第1特徴量は、前記第1信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する第1局所分布に関する第1局所特徴量を含むことを特徴とするペン状態検出回路。
  2.  前記第1局所特徴量は、センサ電極の配設数にかかわらず一定のデータ数で構成されることを特徴とする請求項1に記載のペン状態検出回路。
  3.  前記第1局所分布は、前記第1信号分布のうち静電容量の変化が相対的に大きい分布であることを特徴とする請求項1に記載のペン状態検出回路。
  4.  前記第1特徴量は、前記タッチセンサの検出面上にて定義されるセンサ座標系における、前記第1局所分布の基準位置をさらに含み、
     前記推定器は、前記基準位置と前記指示位置の間の相対位置を出力値とする位置演算を実行可能に構成され、
     前記推定ステップでは、前記基準位置に前記相対位置を加算することで前記指示位置を推定することを特徴とする請求項1に記載のペン状態検出回路。
  5.  前記電子ペンは、前記第1電極とは異なる第2電極をさらに有し、
     前記取得ステップでは、前記第2電極の接近に伴う静電容量の変化を示す第2信号分布を前記タッチセンサからさらに取得し、
     前記推定ステップでは、前記第1特徴量及び前記第2信号分布に関する第2特徴量から前記指示位置又は前記傾斜角度を推定し、
     前記第2特徴量は、前記第2信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する第2局所分布に関する第2局所特徴量を含む
     ことを特徴とする請求項1に記載のペン状態検出回路。
  6.  前記第1電極は、前記電子ペンの軸に対称な形状を有し、かつ前記電子ペンの先端に設けられるチップ電極であり、
     前記第2電極は、前記電子ペンの軸に対称な形状を有し、かつ前記チップ電極よりも基端側に設けられるアッパー電極である
     ことを特徴とする請求項5に記載のペン状態検出回路。
  7.  前記推定器は、
      前記第2局所特徴量を入力値とし、前記傾斜角度を出力値とする角度演算と、
      前記第1局所特徴量及び前記傾斜角度を入力値とし、前記相対位置を出力値とする位置演算と、
     を順次実行可能に構成されることを特徴とする請求項6に記載のペン状態検出回路。
  8.  前記推定器は、
      前記角度演算用の学習パラメータ群又は前記位置演算用の学習パラメータ群のうちいずれか一方を切り替えて出力可能な第1スイッチと、
      前記角度演算用の入力値又は前記位置演算用の入力値のうちいずれか一方を切り替えて出力可能な第2スイッチと、
      前記第1スイッチ及び前記第2スイッチの切り替えに応じて、前記角度演算又は前記位置演算を選択的に実行可能に構成される共通演算器と、
     を含んで構成されることを特徴とする請求項7に記載のペン状態検出回路。
  9.  前記推定器は、前記第1局所特徴量及び前記第2局所特徴量を入力値とし、前記相対位置を出力値とする位置演算を実行可能に構成されることを特徴とする請求項5に記載のペン状態検出回路。
  10.  前記推定器は、
      前記第1特徴量及び前記第2特徴量を合成して第3特徴量を出力する合成器と、
      前記第3特徴量を入力値とし、前記指示位置を出力値とする演算器と、
     を含んで構成されることを特徴とする請求項5に記載のペン状態検出回路。
  11.  前記推定ステップでは、前記電子ペンがコンタクト状態であるかホバー状態であるかに応じて異なる学習パラメータ群が設定された推定器を用いて、前記指示位置又は前記傾斜角度を推定することを特徴とする請求項5に記載のペン状態検出回路。
  12.  前記推定器は、前記第1局所特徴量及び前記基準位置を入力値とする位置演算を実行可能に構成されることを特徴とする請求項4に記載のペン状態検出回路。
  13.  前記第1局所特徴量は、前記第1局所分布の傾き又は該傾きの絶対値を示す特徴量を含み、
     前記第2局所特徴量は、前記第2局所分布の傾き又は該傾きの絶対値を示す特徴量を含む
     ことを特徴とする請求項5に記載のペン状態検出回路。
  14.  前記機械学習は、実際の測定又は計算機シミュレーションにより得られた教師データを用いる教師あり学習であることを特徴とする請求項1に記載のペン状態検出回路。
  15.  前記第1特徴量に対して次元圧縮処理及び次元復元処理を順次実行することで、入力の次元数に等しい第1特徴量を得る自己符号化処理を行う処理ステップをさらに実行し、
     前記推定ステップでは、前記推定器を用いて、前記自己符号化処理が施された前記第1特徴量から前記指示位置又は前記傾斜角度を推定する
     ことを特徴とする請求項1に記載のペン状態検出回路。
  16.  請求項1に記載のペン状態検出回路を含んで構成される電子機器と、
     前記電子機器とともに用いられる電子ペンと、
     前記電子機器と双方向に通信可能であり、前記ペン状態検出回路に構築される推定器の学習パラメータ群を記憶可能に構成されるサーバ装置と、
     を備え、
     前記電子機器は、前記電子ペンの検出を契機として、該電子ペンに対応する学習パラメータ群の送信を前記サーバ装置に要求することを特徴とするペン状態検出システム。
  17.  複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、電極を有する電子ペンの状態を検出するペン状態検出方法であって、
     前記電極の接近に伴う静電容量の変化を示す信号分布を前記タッチセンサから取得する取得ステップと、
     機械学習がなされた推定器を用いて、前記信号分布に関する特徴量から前記電子ペンの指示位置を推定する推定ステップと、
     を1つ又は複数のプロセッサが実行し、
     前記特徴量は、前記信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する局所分布に関する局所特徴量を含むことを特徴とするペン状態検出方法。
  18.  複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、電極を有する電子ペンの状態を検出するペン状態検出回路であって、
     前記電極の接近に伴う静電容量の変化を示す信号分布を前記タッチセンサから取得する取得ステップと、
     前記タッチセンサの検出面上における前記電極の投影位置に応じて異なる演算規則に従って、前記信号分布に関する特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、
     を実行することを特徴とするペン状態検出回路。
  19.  前記演算規則は、前記指示位置又は前記傾斜角度を推定する規則であり、
     前記推定ステップでは、前記電極の投影位置が前記タッチセンサの周縁部に干渉するか否かに応じて異なる学習パラメータ群が設定された推定器を用いて、前記指示位置又は前記傾斜角度を推定する
     ことを特徴とする請求項18に記載のペン状態検出回路。
  20.  前記特徴量は、前記信号分布をなすセンサ電極の配設数よりも少ない数のセンサ電極に相当する局所分布に関する局所特徴量を含み、
     前記演算規則は、前記局所特徴量を算出する規則であり、
     前記推定ステップでは、前記電極の投影位置が前記タッチセンサの周縁部に干渉するか否かに応じて異なる規則に従って算出された前記局所特徴量から、前記指示位置又は前記傾斜角度を推定する
     ことを特徴とする請求項18に記載のペン状態検出回路。
  21.  請求項18に記載のペン状態検出回路を含んで構成される電子機器と、
     前記電子機器とともに用いられる電子ペンと、
     前記電子機器と双方向に通信可能であり、前記ペン状態検出回路に構築される推定器の学習パラメータ群を記憶可能に構成されるサーバ装置と
     を備え、
     前記電子機器は、前記電子ペンが検出された場合に、該電子ペンに対応する学習パラメータ群の送信を前記サーバ装置に要求することを特徴とするペン状態検出システム。
  22.  複数のセンサ電極を面状に配置してなる静電容量方式のタッチセンサにより検出された信号分布に基づいて、電極を有する電子ペンの状態を検出するペン状態検出方法であって、
     前記電極の接近に伴う静電容量の変化を示す信号分布を前記タッチセンサから取得する取得ステップと、
     前記タッチセンサの検出面上における前記電極の投影位置に応じて異なる演算規則に従って、前記信号分布に関する特徴量から前記電子ペンの指示位置又は傾斜角度を推定する推定ステップと、
     を1つ又は複数のプロセッサが実行することを特徴とするペン状態検出方法。
PCT/JP2020/002615 2019-03-29 2020-01-24 ペン状態検出回路、システム及び方法 WO2020202734A1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
DE112020001686.2T DE112020001686T5 (de) 2019-03-29 2020-01-24 Schaltung, system und verfahren zur erfassung des zustands eines stifts
JP2021511141A JP7277567B2 (ja) 2019-03-29 2020-01-24 ペン状態検出回路、システム及び方法
CN202080011509.XA CN113396380B (zh) 2019-03-29 2020-01-24 笔状态检测电路、系统及方法
US17/406,717 US11604521B2 (en) 2019-03-29 2021-08-19 Pen state detection circuit, system, and method
US18/150,084 US11841999B2 (en) 2019-03-29 2023-01-04 Pen state detection circuit, system, and method
US18/535,311 US20240111372A1 (en) 2019-03-29 2023-12-11 Pen state detection circuit, system, and method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JPPCT/JP2019/014260 2019-03-29
PCT/JP2019/014260 WO2020202352A1 (ja) 2019-03-29 2019-03-29 ペン状態検出回路及びペン状態検出方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/406,717 Continuation US11604521B2 (en) 2019-03-29 2021-08-19 Pen state detection circuit, system, and method

Publications (1)

Publication Number Publication Date
WO2020202734A1 true WO2020202734A1 (ja) 2020-10-08

Family

ID=72666172

Family Applications (2)

Application Number Title Priority Date Filing Date
PCT/JP2019/014260 WO2020202352A1 (ja) 2019-03-29 2019-03-29 ペン状態検出回路及びペン状態検出方法
PCT/JP2020/002615 WO2020202734A1 (ja) 2019-03-29 2020-01-24 ペン状態検出回路、システム及び方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/014260 WO2020202352A1 (ja) 2019-03-29 2019-03-29 ペン状態検出回路及びペン状態検出方法

Country Status (5)

Country Link
US (3) US11604521B2 (ja)
JP (1) JP7277567B2 (ja)
CN (1) CN113396380B (ja)
DE (1) DE112020001686T5 (ja)
WO (2) WO2020202352A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7478608B2 (ja) * 2020-07-01 2024-05-07 株式会社ワコム 位置検出装置及びブログラム
JP7562231B2 (ja) * 2020-09-07 2024-10-07 株式会社ワコム パームリジェクションの方法及びセンサコントローラ
JP2024024440A (ja) * 2022-08-09 2024-02-22 株式会社ワコム ペン状態検出回路及び方法、並びに入力システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08212184A (ja) * 1995-02-01 1996-08-20 Fujitsu Ltd 認識装置および欠損値推定/学習方法
JP2002117389A (ja) * 1990-01-24 2002-04-19 Hitachi Ltd 情報処理装置
JP2015510210A (ja) * 2012-03-13 2015-04-02 ナノテック ソリュシオンNanotec Solution 非規則的な電極による容量の測定方法及びかかる方法を実装する装置
JP2016062217A (ja) * 2014-09-17 2016-04-25 株式会社ワコム 位置検出装置及び位置検出方法
WO2018083872A1 (ja) * 2016-11-04 2018-05-11 株式会社ワコム スタイラス、方法、及び処理装置
WO2018105028A1 (ja) * 2016-12-06 2018-06-14 三菱電機株式会社 検査装置及び検査方法
WO2019013222A1 (ja) * 2017-07-14 2019-01-17 株式会社ワコム ペン座標とポインタの表示位置との間のズレを補正する方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3260357B2 (ja) * 1990-01-24 2002-02-25 株式会社日立製作所 情報処理装置
TWI339808B (en) 2007-09-07 2011-04-01 Quanta Comp Inc Method and system for distinguishing multiple touch points
JP2015087785A (ja) 2013-10-28 2015-05-07 株式会社東芝 電子機器及び座標補正方法
US9933880B2 (en) 2014-03-17 2018-04-03 Tactual Labs Co. Orthogonal signaling touch user, hand and object discrimination systems and methods
US20180088786A1 (en) * 2016-09-23 2018-03-29 Microsoft Technology Licensing, Llc Capacitive touch mapping
US10310636B2 (en) * 2016-11-04 2019-06-04 Microsoft Technology Licensing, Llc Active stylus
US10572063B2 (en) * 2017-01-09 2020-02-25 Microsoft Technology Licensing, Llc Position, tilt, and twist detection for stylus

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002117389A (ja) * 1990-01-24 2002-04-19 Hitachi Ltd 情報処理装置
JPH08212184A (ja) * 1995-02-01 1996-08-20 Fujitsu Ltd 認識装置および欠損値推定/学習方法
JP2015510210A (ja) * 2012-03-13 2015-04-02 ナノテック ソリュシオンNanotec Solution 非規則的な電極による容量の測定方法及びかかる方法を実装する装置
JP2016062217A (ja) * 2014-09-17 2016-04-25 株式会社ワコム 位置検出装置及び位置検出方法
WO2018083872A1 (ja) * 2016-11-04 2018-05-11 株式会社ワコム スタイラス、方法、及び処理装置
WO2018105028A1 (ja) * 2016-12-06 2018-06-14 三菱電機株式会社 検査装置及び検査方法
WO2019013222A1 (ja) * 2017-07-14 2019-01-17 株式会社ワコム ペン座標とポインタの表示位置との間のズレを補正する方法

Also Published As

Publication number Publication date
US20230146504A1 (en) 2023-05-11
JPWO2020202734A1 (ja) 2021-11-25
US20210389833A1 (en) 2021-12-16
DE112020001686T5 (de) 2022-01-13
US11841999B2 (en) 2023-12-12
WO2020202352A1 (ja) 2020-10-08
JP7277567B2 (ja) 2023-05-19
CN113396380A (zh) 2021-09-14
US11604521B2 (en) 2023-03-14
CN113396380B (zh) 2024-05-10
US20240111372A1 (en) 2024-04-04

Similar Documents

Publication Publication Date Title
WO2020202734A1 (ja) ペン状態検出回路、システム及び方法
KR101749378B1 (ko) 추정 강체 운동 응답을 사용하여 물체 정보를 결정하기 위한 시스템 및 방법
US8823655B2 (en) Touch-point coordinate detecting method
US20240310933A1 (en) Pen state detection circuit and method, and input system
JP6986160B2 (ja) 画像処理方法および画像処理装置
Baharav et al. Capacitive touch sensing: signal and image processing algorithms
CN108875901B (zh) 神经网络训练方法以及通用物体检测方法、装置和系统
US20150084889A1 (en) Stroke processing device, stroke processing method, and computer program product
US12118168B2 (en) Pen state detection circuit, method, and device, and parameter supply device
CN105378608A (zh) 交互设备校正参数
CN110399892B (zh) 环境特征提取方法和装置
US20230060045A1 (en) Systems and methods for grid-aligned inking
US11880526B2 (en) Maintaining pressure input paths
Chanda et al. Analysis of Multi Touch Interactive Device for a Cost Effective Architecture
US12019826B2 (en) Touch detecting method and touch detecting device
CN107850977B (zh) 使用移动模型的位置测量到对象的映射
CN118153292A (zh) 产品可靠度确定方法、装置、计算机设备和存储介质
CN114627243A (zh) 一种触控笔三维模型自动构建装置、方法及计算机可读介质
JP2023054879A (ja) 入力装置、及び算出方法
CN115082910A (zh) 一种指针式表计的读数方法、装置、电子设备以及存储介质
CN116051928A (zh) 螺孔定位方法、装置、计算机设备和存储介质
CN116859476A (zh) 一种时移高密度电法勘探的数据处理方法及相关设备
JP2012073031A (ja) 入力物理量推定方法、推定装置並びに推定プログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20783439

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021511141

Country of ref document: JP

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 20783439

Country of ref document: EP

Kind code of ref document: A1