WO2003058358A1 - Procede et systeme de commande dynamique d'un element a retour d'effort - Google Patents

Procede et systeme de commande dynamique d'un element a retour d'effort Download PDF

Info

Publication number
WO2003058358A1
WO2003058358A1 PCT/FR2003/000054 FR0300054W WO03058358A1 WO 2003058358 A1 WO2003058358 A1 WO 2003058358A1 FR 0300054 W FR0300054 W FR 0300054W WO 03058358 A1 WO03058358 A1 WO 03058358A1
Authority
WO
WIPO (PCT)
Prior art keywords
variable
force feedback
feedback element
remote
model
Prior art date
Application number
PCT/FR2003/000054
Other languages
English (en)
Inventor
Bernard Hennion
Agnès GUERRAZ
Original Assignee
France Telecom
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by France Telecom filed Critical France Telecom
Priority to AU2003216710A priority Critical patent/AU2003216710A1/en
Priority to DE60304444T priority patent/DE60304444T2/de
Priority to EP03712228A priority patent/EP1463980B1/fr
Publication of WO2003058358A1 publication Critical patent/WO2003058358A1/fr

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B17/00Systems involving the use of models or simulators of said systems
    • G05B17/02Systems involving the use of models or simulators of said systems electric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/013Force feedback applied to a game

Definitions

  • the present invention relates to the field of remote force feedback transmission, in particular in the context of the development of distributed virtual worlds and the development of telepresence means.
  • digital video coding techniques rely on knowledge of visual perception, and voice recognition techniques on knowledge of hearing, haptic techniques . (from the Greek haptos: the hand) rely on knowledge of gestures.
  • Ballistic gestures activate the motor arc but they do not activate the sensitive arc in return for touch.
  • the feedback can be a visual representation of space, but also a gestural map, that is to say a learned or innate mental representation wired in the brain and which automatically generates the sequence of the motor orders of the muscles of shoulder, arm, hand to perform this ballistic gesture according to a certain mental representation of space, in particular the presumed hand-glass distance.
  • Gestures with touch feedback activate the motor arc and the sensitive arc at the same time.
  • the brain closes the loop and the complete cycle in humans lasts less than 1 ms.
  • the bandwidth of the sensory neurons located in the fingertips that is to say the maximum frequency of the mechanical signal that these neurons are able to detect and transmit to the brain, is greater than 500 Hz. If we want to be able to code in a computer, a fine gesture, the force feedback system used must itself have a high operating frequency, at least equal, according to Shannon's theorem, to " double the bandwidth of the fingers.
  • force feedback systems on a local machine operate at a typical frequency of 1 kHz in a local closed loop, i.e. a feedback is calculated and then exerted on their motors then perceived by the hand every 1/1000 of a second. This avoids the so-called "electric toothbrush” effect: the instrument held in the hand should not give the impression of vibrating.
  • This frequency of 1 kHz results from the following compromise: it must be neither too low to be able to reproduce the tactile impression finely, nor too high to leave sufficient time for the computer to calculate the force of feedback which will represent, in the mechanical virtual world, the fine simulation of the gesture performed.
  • the latency in ISDN technology is 30 ms, in ADSL technology of the order of 200 ms, and on the Internet it can reach 6 s or even cause outright rejection of the message.
  • Latency on ADSL and the Internet varies due to the asynchronous nature of networks. The 1 kHz rate is therefore much too high to be maintained if the closed loop includes a round trip via the network - the gesture is coded and then transmitted via the network, it is applied to a distant object, the feedback of this object is in turn coded and transmitted back via the network -.
  • a ballistic gesture can be transmitted with a delay of the order of magnitude of 10 ms. Indeed, sight is a unidirectional sense: the eye is a kind of camera recording a scene and the brain, to within tolerance, can perceive with a slight delay the precise visual film without disturbing the execution of the gesture.
  • the invention proposes to remedy the drawbacks of the systems of the prior art.
  • the invention provides a system for controlling a remote feedback element capable of operating with data transmission on both synchronous or asynchronous networks, with known or undetermined delay.
  • the dynamic control system is intended for a force feedback element capable of interacting with another element, of the type with a time constant lower than that linked to a remote control.
  • the system includes a local model for calculating a setpoint for the force feedback element from a variable measured by the force feedback element, variables intrinsic to the feedback element d force, a stiffness variable, a viscosity variable and an estimate of an external interaction on the force feedback element, and a state variable of the feedback element of effort, a remote model for the estimation of interactions " , of a stiffness variable, a viscosity variable and state variables of the other element with update when receiving received data another system located remotely, and a registration means capable of transmitting a registration message to said other system.
  • the system comprises a phantom model for carrying out an estimation of the state variables of the element with force feedback and resetting said estimation on reception of the registration message.
  • the phantom model is used to locally simulate the remote model of the remote control system.
  • the registration means comprises a means of comparing the estimate of the state variables coming from the phantom model and of state variables coming from the local model so that in case of difference above a predetermined threshold, the registration means sends a registration message to the phantom model and to the other system.
  • the system includes extrapolation means for processing a registration message originating from the other system and for updating the remote model.
  • the invention also provides a control assembly dynamics of two force feedback elements located at a distance from each other.
  • Each element is provided with a control system comprising a local model for the calculation of one. setpoint for the force feedback element at. starting from a variable measured by the force feedback element, variables intrinsic to the force feedback element, a stiffness variable, a viscosity variable and an estimate of a external interaction on the force feedback element, and of a state variable of the force feedback element, a remote model for estimating interactions, of a stiffness variable, of a viscosity variable and state variables of the other element with update when receiving data received from another remote system, and a registration means capable of transmitting a registration message to said other system .
  • the invention also proposes a method for dynamic control of a force feedback element capable of interacting with another element, in which a local modeling is carried out to obtain a setpoint intended for the force feedback element from a variable measured by said force feedback element, variables intrinsic to said force feedback element, an estimate of an external interaction on the force feedback element, a stiffness variable , a viscosity variable, and a state variable of the force feedback element; a remote modeling of the interactions, of a stiffness variable, of a viscosity variable and of the state variables of the other element is carried out with updating on reception of data received from another system located at distance; a readjustment message is produced and sent to said other system.
  • a phantom modeling of the state variables of the force feedback element is carried out with registration on reception of the registration message.
  • the estimation of state variables resulting from phantom modeling and of state variables resulting from local modeling is compared so that in the event of a difference greater than a predetermined threshold, a registration message is sent for a new phantom modeling, and to the other system.
  • an extrapolation is carried out to process a registration message originating from the other system and to carry out an update of the remote modeling.
  • the stiffness variable relates to the stiffness along an axis Z normal to a reconstructed elementary surface belonging to a modeling of the surface.
  • the actual surface will be the surface of an object in contact with the force feedback element.
  • the remote system includes remote modeling of the surface.
  • the stiffness variable is calculated by the local model from position and force data supplied by suitable sensors of the force feedback element, then sent to the remote system.
  • the viscosity variable will be relative to the viscosity along the Z axis and will be calculated by the local model from position and force data supplied by said sensors, then sent to the remote system.
  • a variable representative of the tangential viscosity of the force feedback element with respect to the other element is calculated. We can thus considerably refine the precision and accuracy of the force feedback.
  • the invention also relates to a computer program comprising program code means for implementing the steps of the method, when said program is running on a computer.
  • the invention also relates to a medium capable of being read by a device for reading program code means which are stored therein and which are suitable for implementing the steps of the method, when said program is running on a computer.
  • the present invention advantageously applies to bidirectional systems, for example video games with control handles provided with actuators for force feedback, to robotic tele-echography which can be used in the field of obstetrics and abdominal exams.
  • the patient's skin is generally coated with a gel for proper transmission of ultrasound.
  • the ultrasound probe can be manipulated remotely by an operator. Due to the presence of the gel, the force components exerted by the patient on the probe can be considered as normal to the local surface of the skin.
  • the probe has 6 degrees of freedom with a force feedback along the three axes of a three-dimensional frame and a torque feedback also along the three axes of a three-dimensional frame.
  • the system can also be applied to remote combat games, fencing, or to industrial applications of the telemachining genre.
  • FIGS. 1 and 4 are views schematics of systems according to two embodiments of the invention
  • Figure 2 is a detailed view of a variant of Figure 1
  • FIG. 3 are curves of certain parameters of the system
  • Figure 5 is a schematic view of the reconstruction at one point
  • Figure 6 is a flow diagram of the process steps.
  • a set of games where Jl and J2 players compare their strength from a distance - a game often called "arm wrestling" - includes a PI handle for the Jl player and a P2 handle for the player J2.
  • Each handle PI, P2 is connected to an interface II, 12 comprising a means for exerting a force on the handle PI, P2, for example an actuator of the electric jack type, and a means for measuring the force exerted by the player Jl, J2 on the handle PI, P2, for example a torque sensor or even a strain gauge, and at least one position sensor, of angular or linear type, preferably inexpensive because its precision may be low.
  • Interface II, 12 will also include an acquisition card connected by means of exercising a force, by means of force measurement and to the position sensor, and capable of exchanging digital data with another digital system such as than a computer.
  • the digital data sent by the interface II, 12 comprises a force or torque vector and a position or displacement vector.
  • the digital data sent by the interface II, 12 include angles ⁇ , ⁇ , ⁇ .
  • Each interface II, 12 is connected to a control system S 1, S2.
  • the systems SI and S2 are identical. Only the SI system will be described. However, it is possible to envisage embodiments in which one of the two systems is of simplified structure compared to the other.
  • the system S 1 can be in the form of a computer, of the personal computer type generally provided with at least one microprocessor, non-volatile and non-retentive memories, a communication bus, ports input and output and one or more software stored in memory and able to be executed by the microprocessor.
  • the system S 1 is connected on the one hand to the interface II for example by a bus of RS 232 type and to the system S2 by a communication network referenced 3 as a whole and which may be of the synchronous type for example ISDN or asynchronous , such as ATM, UMTS or the Internet (TCP / IP).
  • the SI system is located near the player Jl, for example in the same room.
  • the S2 system is located at a distance from the SI system, a distance which can range from a few meters to a few thousand kilometers.
  • the system S 1, the interface II, the handle PI and the player J1 are arranged locally while the system S2, the interface 12, the handle P2 and the player J2 are arranged so distal to the previous ones.
  • the system S 1 comprises a local model ML1 capable of sending a setpoint to the interface II and of receiving from said interface II a variable measured by the interface II, for example the position X of the handle P 1 and the force undergone.
  • the setpoint can be a force or torque variable and is noted F e .
  • the system SI comprises a remote model MD2 provided for estimating a state of the local model ML2 of the system S2.
  • the remote model MD2 of the SI system is able to receive data from the S2 system, to receive data from the local MLl model and to transmit data to the local MLl model.
  • the system SI comprises an extrapolator EXT2 receiving data coming from the system S 2 via the communication network 3 to process a registration message coming from the system S2 and transmit update data to the remote model MD2 based on the last received recalibration message.
  • the system S 1 comprises a screen El connected to the local model ML1 for displaying data from the local model MLl, for example a curve retracing the evolution of the forces exerted and the positions of the handles PI and P2.
  • the system S 1 comprises a readjuster RI receiving data from the local model ML1 and able to send output data to the system S2, in particular to the extrapolator EXT1 of the system S2.
  • the recalibrator RI is able to carry out a preparation of data to transmit them in the form of a registration message which may include a date, the position X of the handle P 1, the force F exerted on the handle PI on said date as well than the force exerted on the PI handle at an earlier date.
  • the system S 1 further comprises a phantom model MF1 which also receives the registration messages from the registerer RI of the system SI and which performs an estimation of the state variables of the interface II according to the registration messages emitted by the RI recaleur and received by the S2 system.
  • the phantom model MF1 performs an estimation based on the same data as that received by the remote model MD 1 of the system S2.
  • the phantom model MF1 makes it possible to model the variables of the interface II as they are odelized by the system S2.
  • the output of the phantom model MF1 is connected to the registerer RI which compares the estimation of the state variables coming from the phantom model
  • the registration device RI transmits a registration message intended for the phantom model MF1 and the extrapolator EXT1 of the system S2.
  • the volume of data exchanged between the systems S 1 and S2 is relatively reduced insofar as a message of resetting is only issued if one of the two systems S 1, S2 believes that the other system S2, SI is no longer able to properly estimate these state variables.
  • FIG. 2 illustrates another embodiment of the invention, in the field of ultrasound.
  • the state vector X breaks up into three parts: X e variable located at the interface with the handle PI, X m variable internal to the mechanical model of the operator Jl and X 1 interaction variable located at the interface with patient J2.
  • the associated variable of force or torque F breaks down into: F e force exerted by the operator Jl on the handle P 1, F 111 force exerted by gravity, other objects, and the force F 1 exerted by the operator Jl on the patient J2.
  • the interface II captures the position X e n and transmits it to the local model MLl.
  • the interface II receives the setpoint force F e n from the local model MLl and controls its actuator (s) with the feedback force - F e n .
  • the interface 12 captures the position Y e n and G force and easured m * es transrr ⁇ et year local model ML2 and receives the force G e n from the local model ML2 and control his or actuators with strength of feedback - G ' e n .
  • the local model MLl receives the position X e n + 1 from the interface 11, the interaction estimate G n l + l from the remote model
  • the local model MLl sends X n + ⁇ and F n + j to. RI recaleur, the setpoint - F e n + ⁇ at interface II and the position variable MD2 remote.
  • the identity matrix is the identity matrix.
  • the recalibrator RI sends the registration message M n to the phantom model MFl so that it is immediately reset and to the remote model MDl via the extrapolator EXT1 of the system S2 so that it is readjusted as soon as possible.
  • the extrapolator EXT2 transmits to the remote model MD2 the result of the registration: ⁇ ⁇ n + 1 , G n + 1 and K 2 .
  • the remote model MD2 of the system S 1 is reset on reception of a message from the extrapolator EXT2 taking the values provided by said extrapolator EXT2:
  • the remote model MD2 transmits the stiffness variable k, the viscosity variable ⁇ , and the position variable prediction relative to the player J2 to the local model ML1: G B + ,
  • the EXT2 extrapolator performs a bevel registration which smooths the evolutions.
  • An example of this recalibration is shown on the curves of FIG. 3.
  • the local model ML2 receives from the remote model MD 1 the position estimate ⁇ X i and sends to the readjuster R2 the position Y n + ⁇ , the force G n + j _ and the stiffness variable k.
  • the local model ML2 also sends the setpoint - F e n + ⁇ ( ⁇ X i , Y) to the interface 12.
  • the coefficients k and ⁇ are adjusted dynamically and in real time.
  • the viscosity is greater than zero at zero speed and monotonous increasing with the speed of the virtual robot, for example according to a quadratic or approximate curve.
  • the phantom model MF1 receives the same data as the remote model MD1 of the other system and makes it possible to perform the same simulation as said other system.
  • the register works blind compared to the other system and allows to continue simulating in the absence of relevant data transmitted by a readjustment message from the other system.
  • the EXT2 extrapolator in particular in the case of bevel registration, allows the movement as measured by the other system to be taken into account during the transmission delay due to the communication network.
  • the local models represent the mechanical models of the two users.
  • the remote models represent a remote replication of the local mechanical models which is necessarily approximated because of the transmission delays via the communication network of the states of the local models.
  • the ghost models represent an approximate local copy of the remote models.
  • the remote models and the ghost models all operate in predictor-corrector mode.
  • the extrapolators perform an extrapolation of the messages received with a certain delay to readjust the remote models to the value of the clock of the other system.
  • the recalibers assess the necessity of launching a registration message on the communication network as soon as a too large gap appears between the local models and the local predictive witness ghost models of the remote predictive models.
  • the readjusters make it possible to limit the number of messages sent through the communication network to avoid cluttering it up.
  • information can be exchanged at the rate of one kHz. Between the systems and therefore via the communication network, the message exchanges take place if one of the registerers considers it necessary.
  • FIG. 4 shows another embodiment particularly suitable for ultrasound.
  • the ultrasound probe SE2 supported by the arm BA connected to the interface 12, itself connected to the system S2.
  • These elements are supported by a support 5.
  • the system S I, the interface II and a mobile element SE1 are arranged with the same external shape, the same mass and the same inertia as the probe SE2.
  • the distant modeling Mo in its final state that is to say extremely close to the shape of the patient P., has been shown in thin lines.
  • the mobile element SE1 is here disposed in a state of rest, in a position relating to the remote modeling Mo identical to the position of the probe SE2 relative to the patient P and separated from it.
  • the mobile element SE1 will be grasped by a practitioner as would have been a real ultrasound probe and will be gradually lowered.
  • the ultrasound probe SE2 follows the same movement as the mobile element SE1. The practitioner first comes, by moving the movable element SE1, to place the ultrasound probe SE2 on the uppermost surface of the patient, generally the top of her abdomen.
  • the feedback force exerted by the abdomen of patient P on the probe SE2 is copied remotely so that the practitioner handling the movable element SE1 perceives the same effect, in other words the same counter force reaction, only if he wielded an actual ultrasound probe against a patient's abdomen.
  • the practitioner handling the mobile element SE1 From the top of the abdomen of patient P, the practitioner handling the mobile element SE1 by moving it both vertically and horizontally, will gradually discover the outline of patient P, possibly with the help of a screen display such as the screen El illustrated in FIG. 1.
  • the practitioner by manipulating the movable element SE1, will cause the abdomen of patient P to be described by the probe SE2 which replicates the movement thereof.
  • the force exerted by the patient's abdomen on the SE2 probe is replicated by the mobile element SE1.
  • the movable element SE1 is positioned in a manner substantially identical to the position that an actual probe would have traversing the abdomen of the same patient.
  • the SI system records the different positions of the movable element SE1, which allows, from a sufficient number of measurement points, to perform a three-dimensional reconstruction of the outer surface of the patient's abdomen, and therefore d 'get the remote modeling Mo.
  • FIG. 5 is a diagram illustrating the stages of generation of the remote modeling.
  • the remote modeling takes the form of an initial modeling Mo mter , which is a plane mesh surface, seen here in section.
  • the initial modeling M ⁇ jnjt then becomes an intermediate modeling M ⁇ jnter , always in the form of a flat surface , but tangent to the top of the patient's abdomen.
  • the vertical coordinates of the modeling points have been reduced by the distance separating the initial modeling M ⁇ jnjt from the top of the patient's abdomen, the initial modeling Mo m i t and intermediate M ⁇ nter being planes horizontal.
  • said SI system records the position as belonging to the upper surface of patient P's abdomen.
  • the practitioner can make curved movements so that the SE2 probe follows the upper surface of patient P's abdomen, both for comfort. the patient and the speed of the process.
  • any movement of the mobile element SE1 beyond the modeling it is possible to provide that a slight feedback force is exerted by the mobile element SE1 on the practitioner's hands so that said crossing be perceptible to him.
  • Said force will be controlled by the system S 1 and applied by the interface II, and may be adjustable while remaining below the lower limit of said range.
  • Said force may include a constant part analogous to dry friction and a variable part proportional to the speed of movement of the mobile element SEL
  • the probe.SE2 and the movable element SE1 are placed in a waiting or rest position, allowing the patient P to settle on an examination table or to leave such a table.
  • the practitioner controls the approach of the SE2 probe towards the top of the abdomen of patient P.
  • the contact between the SE2 probe and the top of the abdomen takes place. the patient, the recording by the system S 1 of the coordinates of the first contact point and the displacement of the remote modeling Mo from the initial remote modeling MOJ ⁇ to the intermediate remote modeling Mo mter .
  • the practitioner scans the probe
  • the distant intermediate modeling Mo mter is deformed mesh by mesh or node by node to match the shape of the upper surface of the patient's abdomen
  • the remote modeling Mo can comprise a mesh of variable or fixed size. One can possibly implement a resegmentation in order to refine the modeling in certain zones.
  • the SI system stores the final remote modeling in a memory, which allows it to react with an extremely short response time, even if the transmission network 3 suffers from high transmission times. Subsequently, when the practitioner moves the movable element SE1 through the final remote modeling, the system S 1 will apply a force to the movable element SE1, simulating the force of feedback from the abdomen of patient P sur. the SE2 probe. By possibly adding a friction term in order to avoid too rapid movements of the mobile element SE1 and therefore of the ultrasound probe SE2.
  • the invention therefore implements a deformation of a geometric mesh under the gesture of the user practitioner.
  • Remote calibration of the virtual mannequin or remote modeling is carried out by an intuitive scanning of the user practitioner in order to stretch the initial mesh or initial remote modeling towards the shape of the patient whose body size and especially the stage of pregnancy are extremely variable from one person to another. It is thus possible to palpate a person or the object located at a distance from a master station, which makes it possible to approach a three-dimensional shape and to apprehend the shape of the person or of. the object, the presence of a camera is not essential.
  • the proposed method allows remote reconstruction of the three-dimensional shape without resorting to previous methods such as laser surveys or stereophotography.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Automation & Control Theory (AREA)
  • Feedback Control In General (AREA)
  • User Interface Of Digital Computer (AREA)
  • Manipulator (AREA)
  • Control Of Position Or Direction (AREA)

Abstract

Procédé et système de commande dynamique d’un élément à retour d’effort apte à interagir avec un autre élément, comprenant un modèle local ML1 pour le calcul d’une consigne destiné à l’élément à retour d’effort à partir d’une pluralité de variables, un modèle distant MD1 pour l’estimation d’interactions et de variables de l’autre élément avec mise à jour lors de la réception de données reçues d’un autre système S2 situé à distance, et un moyen de recalage R1 apte à émettre un message de recalage vers l’autre système S2.

Description

Procédé et système de commande dynamique d'un élément à retour d'effort.
La présente invention relève du domaine de la transmission de retour d'effort à distance, notamment dans le cadre du développement de mondes virtuels répartis et du développement de moyens de téléprésence. De la même façon que les techniques de codage de vidéo numérique s'appuient sur les connaissances de la perception visuelle, et les techniques de reconnaissance vocale sur les connaissances de l'ouïe, les techniques haptiqués . (du grec haptos : la main) s'appuient sûr les connaissances des gestes.
Il existe deux sortes de gestes fins réalisables avec la main : les gestes balistiques, comme déplacer la main vers un verre pour le saisir et les gestes avec contre-réactions du toucher, comme celui qui permet après saisie du verre et fermeture de la pince pouce-doigts, de porter le verre à sa bouche. Le cerveau est alors informé en permanence de la force avec laquelle la main enserre le verre, de son poids qui dépend de la quantité de liquide. Le cerveau réagit alors en donnant l'ordre moteur de "pincer" suffisamment ce verre pour qu'il ne tombe pas, mais pas trop toutefois, pour ne pas le casser, ni dépenser une énergie inutile.
Les gestes balistiques activent l'arc moteur mais ils n'activent pas l'arc sensitif en retour du toucher. Le retour d'informations peut être une représentation visuelle de l'espace, mais aussi une carte gestuelle, c'est-à-dire une représentation mentale apprise ou innée câblée dans le cerveau et qui génère automatiquement la séquence des ordres moteurs des muscles de l'épaule, du bras, de la main pour réaliser ce geste balistique en fonction d'une certaine représentation mentale de l'espace, notamment de la distance présumée main- verre. Pour les gestes balistiques, il est suffisant de transmettre au cerveau les informations sur le geste avec une fréquence d'échantillonnage de 100 Hz. Cela signifie que si on envoie un échantillon du signal toutes les 10 ms, le signal transmis contiendra toute l'information pertinente du geste balistique.
Les gestes avec contre-réactions du toucher activent en même temps l'arc moteur et l'arc sensitif. Le cerveau ferme la boucle et le cycle complet chez l'hornrne dure moins de 1 ms. La bande passante des neurones sensitifs situés dans les bouts des doigts, c'est-à-dire la fréquence maximale du signal mécanique que ces neurones sont capables de détecter et de transmettre au cerveau, est supérieure à 500 Hz. Si on veut pouvoir coder dans un ordinateur un geste fin, il faut que le système à retour d'efforts utilisé ait lui-même une fréquence de fonctionnement élevée, au moins égale, d'après le théorème de Shannon, au "double de la bande passante des doigts.
Dans la pratique, les systèmes à retour d'efforts sur une machine locale fonctionnent à une fréquence typique de 1 kHz en boucle fermée locale, c'est-à-dire qu'une rétroaction est calculée puis exercée sur leurs moteurs puis perçue par la main toutes les 1/1000 de seconde. Cela permet d'éviter l'effet dit de la "brosse à dents électrique" : l'instrument que l'on tient en main ne doit pas donner l'impression de vibrer.
Cette fréquence de 1 kHz résulte du compromis suivant : elle ne doit être ni trop basse pour pouvoir restituer finement l'impression tactile, ni trop haute pour laisser suffisamment de temps à l'ordinateur pour calculer la force de contre-réaction qui va représenter, dans le monde virtuel mécanique, la simulation fine du geste effectué.
Si maintenant on désire transmettre via un réseau de télécommunications, des gestes fins codés par le système à retour d'efforts et des gestes fins avec contre-réactions, le problème se complique du fait de la latence généralement bien supérieure introduite par le réseau lui- même.
Ainsi, la latence en technologie RNIS est de 30 ms, en technologie ADSL de l'ordre de 200 ms, et sur Internet elle peut atteindre 6 s ou même provoquer le rejet pur et simple du message. Sur ADSL et Internet, la latence varie du fait de la nature asynchrone des réseaux. La cadence de 1 kHz est donc beaucoup trop élevée pour pouvoir être maintenue si la boucle fermée inclut un aller-retour via le réseau - le geste est codé puis transmis via le réseau, il est appliqué à un objet distant, la contre-réaction de cet objet est à son tour codée et transmise en retour via le réseau -.
Un geste balistique peut être transmis avec un retard de l'ordre de grandeur de 10 ms. En effet, la vue est un sens monodirectionnel : l'oeil est une sorte de caméra enregistrant une scène et le cerveau, à une tolérance près, peut percevoir avec un léger retard le film visuel précis sans perturber l'exécution du geste.
Au contraire, un geste fin avec contre-réaction nécessite de boucler en moins d'une milliseconde, l'aller-retour de décision de l'intensité de la force à exercer :
- émission de l'ordre au muscle via l'arc sensitif moteur, - action mécanique de la main sur le verre,
- sensation du toucher du verre (augmentation de la pression de contact) au niveau des bouts des doigts, et
- retour vers le cerveau via l'arc sensitif tactile de cette information pour permettre au cerveau de décider l'ajustement de la force de la "pince".
Elle est donc inapplicable sur les réseaux asynchrones à messages du type Internet ou ATM, UMTS, qui se caractérisent par un délai de transmission variable, et un rejet si le message se perd ou met trop de temps à traverser le réseau. Le problème de la cadence trop élevée des systèmes à retours d'efforts est exacerbé sur ces réseaux asynchrones, pour lesquels :
- les messages peuvent se perdre, ne pas aboutir, ou être rejetés si l'accusé de réception tarde trop (TCP/IP),
- les messages qui arrivent à bon port mettent un délai variable pour traverser le réseau,
- ils n'arrivent pas forcément dans l'ordre où ils ont été émis,
- il n'existe pas d'horloge commune exacte à la milliseconde près entre deux machines.
L'invention propose de remédier aux inconvénients des systèmes de l'art antérieur. L'invention propose un système de commande d'un élément à rétroaction situé à distance susceptible de fonctionner avec transmission de données sur réseaux tant synchrones ou qu'asynchrones, de retard connu ou indéterminé. Le système de commande dynamique, selon un aspect de l'invention, est destiné à un élément à retour d'effort apte à interagir avec un autre élément, du type à constante de temps inférieure à celle liée à une commande à distance. Le système comprend un modèle local pour le calcul d'une consigne destinée à l'élément à retour d'effort à partir d'une variable mesurée par l'élément à retour d'effort, de variables intrinsèques à l'élément à retour d'effort, d'une variable de raideur, d'une variable de viscosité et d'une estimation d'une interaction extérieure sur l'élément à retour d'effort, et d'une variable d'état de l'élément à retour d'effort, un modèle distant pour l'estimation des interactions", d'une variable de raideur, d'une variable de viscosité et des variables d'état de l'autre élément avec mise à jour lors de la réception de données reçues d'un autre système situé à distance, et un moyen de recalage apte à émettre un message de recalage vers ledit autre système.
On effectue ainsi une simulation locale du comportement de l'élément distant.
Avantageusement, le système comprend un modèle fantôme pour effectuer une estimation des variables d'état de l'élément à retour d'effort et recaler ladite estimation à réception du message de recalage. Le modèle fantôme permet de simuler localement le modèle distant du système de commande distant.
Dans un mode de réalisation de l'invention, le moyen de recalage comprend un moyen de comparaison de l'estimation des variables d'état provenant du modèle fantôme et de variables d'état provenant du modèle local de façon qu'en cas de différence supérieure à un seuil prédéterminé, le moyen de recalage émette un message de recalage vers le modèle fantôme et vers l'autre système.
Dans un mode de réalisation de l'invention, le système comprend un moyen d'extrapolation pour traiter un message de recalage provenant de l'autre système et pour mettre à jour le modèle distant.
L'invention propose également un ensemble de commande dynamique de deux éléments à retour d'effort situés à distance l'un de l'autre. Chaque élément est pourvu d'un système de commande comprenant un modèle local pour le calcul d'une . consigne destinée à l'élément à retour d'effort à. partir d'une variable mesurée par l'élément à retour d'effort, de variables intrinsèques à l'élément à retour d'effort, d'une variable de raideur, d'une variable de viscosité et d'une estimation d'une interaction extérieure sur l'élément à retour d'effort, et d'une variable d'état de l'élément à retour d'effort, un modèle distant pour l'estimation des interactions, d'une variable de raideur, d'une variable de viscosité et des variables d'état de l'autre élément avec mise à jour lors de la réception de données reçues d'un autre système situé à distance, et un moyen de recalage apte à émettre un message de recalage vers ledit autre système.
L'invention propose également un procédé de commande dynamique d'un élément à retour d'effort apte à interagir avec un autre élément, dans lequel on effectue une modélisation locale pour obtenir une consigne destinée à l'élément à retour d'effort à partir d'une variable mesurée par ledit élément à retour d'effort, de variables intrinsèques audit élément à retour d'effort, d'une estimation d'une interaction extérieure sur l'élément à retour d'effort, d'une variable de raideur, d'une variable de viscosité, et d'une variable d'état de l'élément à retour d'effort; on effectue une modélisation distante des interactions, d'une variable de raideur, d'une variable de viscosité et des variables d'état de l'autre élément avec mise à jour lors de la réception de données reçues d'un autre système situé à distance; on élabore et on émet vers ledit autre système un message de recalage.
Avantageusement, on effectue une modélisation fantôme des variables d'état de l'élément à retour d'effort avec recalage à réception du message de recalage. Dans un mode de réalisation de l'invention, lors du recalage, on compare l'estimation de variables d'état issues de la modélisation fantôme et de variables d'état issues de la modélisation locale de façon qu'en cas de différence supérieure à un seuil prédéterminé, on émette un message de recalage en vue d'une nouvelle modélisation fantôme, et vers l'autre système. Dans un mode de réalisation de l'invention, on effectue une extrapolation pour traiter un message de recalage provenant de l'autre système et effectuer une mise à jour de la modélisation distante.
Dans un mode de réalisation de l'invention, la variable de raideur est relative à la raideur selon un axe Z normal à une surface élémentaire reconstruite appartenant à une modélisation de la surface. La surface réelle sera la surface d'un objet en contact avec l'élément à retour d'effort. Le système distant comprend une modélisation distante de la surface. La variable de raideur est calculée par le modèle local à partir de données de position et de force fournies par des capteurs adéquats de l'élément à retour d'effort, puis envoyée au système distant. De même, la variable de viscosité sera relative à la viscosité selon l'axe Z et sera calculée par le modèle local à partir de données de position et de force fournies par lesdits capteurs, puis envoyée au système distant. Dans un mode de réalisation de l'invention, on calcule une variable représentative de la viscosité tangentielle de l'élément à retour d'effort par rapport à l'autre élément. On peut ainsi affiner considérablement la précision et la justesse du retour d'effort.
L'invention concerne également un programme d'ordinateur comprenant des moyens de code programme pour mettre en œuvre les étapes du procédé, lorsque ledit prograrnnie fonctionne sur un ordinateur.
L'invention concerne également un support capable d'être lu par un dispositif de lecture de moyens de code programme qui s'y trouvent stockés et qui sont aptes à la mise en œuvre des étapes du procédé, lorsque ledit programme fonctionne sur un ordinateur.
La présente invention s'applique de façon avantageuse à des systèmes bidirectionnels, par exemple des jeux vidéo avec poignées de commande pourvues d'actionneurs pour le retour d'effort, à la télé- échographie robotisée qui peut être utilisée dans le domaine de l'obstétrique et des examens abdominaux.
Dans le cas de l'échographie, la peau du patient ou de la patiente est généralement enduite d'un gel pour une transmission convenable des ultra sons. La sonde échographique pourra être manipulée à distance par un opérateur. En raison de la présence du gel, les composantes de force exercée par le patient ou la patiente sur la sonde peuvent être considérées comme normales à la surface locale de la peau. La sonde possède 6 degrés de liberté avec une contre réaction de force selon les trois axes d'un repère tridimentionnel et une contre réaction de couple également selon les trois axes d'un repère tridimensionnel. Le système peut également s'appliquer à des jeux de combat à distance, d'escrime, ou encore à des applications industrielles du genre télé-usinage.
La présente invention sera mieux comprise et d'autres avantages apparaîtront à la lecture de la description détaillée de quelques modes de réalisation pris à titre d'exemple nullement limitatifs et illustrés par les dessins annexés, sur lesquels : les figures 1 et 4 sont des vues schématiques de systèmes selon deux modes de réalisation de l'invention; la figure 2 est une vue détaillée d'une variante de la figure 1; la figure 3 sont des courbes de certains paramètres du système; la figure 5 est une vue schématique de la reconstruction en un point; et la figure 6 est un organigramme des étapes du procédé. Comme on peut le voir sur la figure 1 , un ensemble de jeux où des joueurs Jl et J2 comparent leur force à distance - jeu souvent appelé "bras de fer" - comprend une poignée PI pour le joueur Jl et une poignée P2 pour le joueur J2. Chaque poignée PI, P2 est reliée à une interface II, 12 comprenant un moyen pour exercer une force sur la poignée PI, P2, par exemple un actionneur du genre vérin électrique, et un moyen pour mesurer la force exercée par le joueur Jl, J2 sur la poignée PI, P2, par exemple un capteur de couple ou encore une jauge de contrainte, et au moins un capteur de position, de type angulaire ou linéaire, de préférence bon marché car sa précision peut être faible. L'interface II, 12 comprendra également une carte d'acquisition reliée au moyen d'exercice d'une force, au moyen de mesure de force et au capteur de position, et capable d'échanger des données numériques avec un autre système numérique tel qu'un ordinateur. Les données numériques envoyées par l'interface II, 12 comprennent un vecteur force ou couple et un vecteur position ou déplacement. Dans le cas de capteurs de position angulaire, les données numériques envoyées par l'interface II, 12 comprennent des angles α,β,γ. Chaque interface II , 12 est reliée à un système de commande S 1 , S2. Dans le cas illustré ici, les systèmes SI et S2 sont identiques. Seul le système SI sera décrit. Toutefois, on peut envisager des modes de réalisation dans lesquels l'un des deux systèmes est de structure simplifiée par rapport à l'autre. De façon générale, le système S 1 peut se présenter sous la forme d'un ordinateur, du genre ordinateur personnel généralement pourvu d'au moins un micro-processeur, de mémoires rémanente et non rémanente, d'un bus de communication, de ports d'entrée et de sortie et d'un ou plusieurs logiciels stockés en mémoire et aptes à être exécutés par le micro-processeur.
Le système S 1 est relié d'une part à l'interface II par exemple par un bus de type RS 232 et au système S2 par un réseau de communication référencé 3 dans son ensemble et qui pourra être de type synchrone par exemple RNIS ou asynchrone, de type ATM, UMTS ou encore Internet (TCP/IP). Le système SI est situé à proximité du joueur Jl, par exemple dans la même pièce. Le système S2 est situé à distance du système SI, distance qui peut aller de quelques mètres à quelques milliers de kilomètres. En d'autres termes, le système S 1 , l'interface II , la poignée PI et le joueur Jl sont disposés de façon locale tandis que le système S2, l'interface 12, la poignée P2 et le joueur J2 sont disposés de façon distale par rapport aux précédents.
Plus précisément, le système S 1 comprend un modèle local ML1 apte à envoyer une consigne à l'interface II et à recevoir de ladite interface Il une variable mesurée par l'interface II, par exemple la position X de la poignée P 1 et le force subie. La consigne peut être une variable de force ou de couple et est notée Fe. Le modèle local ML1 calcule une variable de raideur k = Gy3/y3 avec Gy3 la force exercée sur poignée PI selon un axe Y3 et y 3 la position de la poignée PI selon l'axe Y3 et une variable de viscosité λ = Gy3/Vy3 avec G-,3 la force exercée sur poignée PI selon un axe Y3 et Vy3 la vitesse de la poignée PI selon l'axe Y3, obtenue par dérivation de y3. L'axe Y3 peut être pris comme étant la direction principale de la force G = (Gyl,Gy2,Gy3).
Le système S I comprend un modèle distant MD2 prévu pour estimer un état du modèle local ML2 du système S2. Le modèle distant MD2 du système SI est apte à recevoir des données en provenance du système S2, à recevoir des données en provenance du modèle local MLl et à émettre des données vers le modèle local MLl . Plus particulièrement, le système SI comprend un extrapolateur EXT2 recevant des données en provenance du système S 2 par l'intermédiaire du réseau de communication 3 pour traiter un message de recalage provenant du système S2 et transmettre des données de mise à jour au modèle distant MD2 en fonction du message de recalage reçu en dernier.
Le système S 1 comprend un écran El relié au modèle local MLl pour l'affichage de données issues du modèle local MLl , par exemple une courbe retraçant l'évolution des forces exercées et des positions des poignées PI et P2.
Le système S 1 comprend un recaleur RI recevant des données du modèle local MLl et apte à envoyer des données de sortie à destination du système S2, en particulier à destination de l'extrapolateur EXT1 du système S2. Le recaleur RI est apte à effectuer une préparation de données pour les émettre sous la forme d'un message de recalage qui pourra comprendre une date, la position X de la poignée P 1 , la force F exercée sur la poignée PI à ladite date ainsi que la force exercée sur la poignée PI à une date antérieure. Le système S 1 comprend, en outre, un modèle fantôme MF1 qui reçoit également les messages de recalage en provenance du recaleur RI du système SI et qui effectue une estimation des variables d'état de l'interface II d'après les messages de recalage émis par le recaleur RI et reçu par le système S2. En d'autres termes, le modèle fantôme MF1 effectue une estimation d'après les mêmes données que celles reçues par le modèle distant MD 1 du système S2. Ainsi, le modèle fantôme MF1 permet de modéliser les variables de l'interface II telles qu'elles sont odélisées par le système S2.
La sortie du modèle fantôme MF1 est reliée au recaleur RI qui compare l'estimation des variables d'état provenant du modèle fantôme
MF1 et les variables d'état provenant du modèle local MLl. En cas de différence supérieure à un seuil prédéterminé, le recaleur RI émet un message de recalage destiné au modèle fantôme MF1 et à l'extrapolateur EXT1 du système S2. Ainsi, le volume de données échangé entre les systèmes S 1 et S2 est relativement réduit dans la mesure où un message de recàlage n'est émis que si l'un des deux systèmes S 1 , S2 estime que l'autre système S2, SI n'est plus en mesure d'estimer convenablement, ces variables d'état.
La figure 2 illustre un autre mode de réalisation de l'invention, dans le domaine de l'échographie. Pour l'opérateur Jl, le vecteur d'état X se décompose en trois parties : Xe variable située à l'interface avec la poignée PI , Xm variable interne au modèle mécanique de l'opérateur Jl et X1 variable d'interaction située à l'interface avec le patient J2. De façon analogue, la variable associée de force ou de couple F se décompose en : Fe force exercée par l'opérateur Jl sur la poignée P 1 , F111 force exercée par la pesanteur, les autres objets, et la force F1 exercée par l'opérateur Jl sur le patient J2. De manière analogue, le vecteur d'état Y du patient J2 se décompose en Y'e, Y'met Y'1 et le vecteur associé de force de couple G se décompose en G'e, G'm, et G 1. L'opérateur Jl et le patient J2 sont en contact virtuel. On a donc X1 = Y1. La loi de l'action et de la réaction donne
: F1 + G'1 = 0.
A chaque pas de temps, l'interface II capte la position Xe n et la transmet au modèle local MLl. L'interface II reçoit la force de consigne Fe n en provenance du modèle local MLl et commande son ou ses actionneurs avec la force de contre-réaction - Fe n. De façon analogue, l'interface 12 capte la position Y'e n et la force Gmesurée et *es transrrιet an modèle local ML2 et reçoit la force G'e n du modèle local ML2 et commande son ou ses actionneurs avec le force de contre-réaction - G'e n.
Au début de l'instant n +1 , le modèle local MLl reçoit la position Xe n + 1 de l'interface 11 , l'estimation d'interaction Gn l +l du modèle distant
MD2, les variables de raideur k et de viscosité λ en provenance du modèle distant MD2, et les variables intrinsèques préenregistrées Fm n +j_. Le modèle local MLl calcule la force exercée par le joueur Jl sur le joueur J :F1 n+^ =< +1 , 1a force exercée par le joueur Jl sur la poignée PI : Fe n+1 = ee {Xe n+1- X ~ AeXn-Bem F^^ +B &n+x }, les matrices A et B étant celles de l'évolution du joueur Jl avec X= AX +BF. Le mo
Figure imgf000012_0001
Le modèle local MLl envoie Xn+ι et Fn+j au. recaleur RI, la consigne - Fe n +ι à l'interface II et la variable de position
Figure imgf000013_0001
distant MD2.
Le modèle fantôme MFl s'il ne reçoit pas de message du recaleur RI calcule ^+ι = + &ι » ^ι étant fourni par le système S 2, et l'estimation de position Xn+1 = (I+A)Xn + BFn+1 , c'est-à-dire l'état mécanique du joueur Jl tel qu'il peut être prédit par le système S2. I est ici la matrice identité.
Sur réception d'un message de recalage Mn = {n,Xn,Fn et F„_λ } en provenance du recaleur RI, le modèle fantôme MFl effectue le recalage suivant : XH = Xn,Fn = Fn et Kl = F„ - Fn^
Le recaleur RI reçoit à chaque pas de temps n la variable de position Xn et les variables d'effort Fn et Fn+ en provenance du modèle local MLl, et l'estimation Xn en provenance du modèle fantôme MFl. Il compare la valeur absolue de la différence entre la variable de position Xn et l'estimation Xn à un seuil prédéterminé et ne fait rien si ladite valeur absolue est inférieure audit seuil. Dans le cas contraire, il compose un message de recalage Mn ={n, Xn, Fn, Fn_^ }. Le recaleur RI envoie le message de recalage Mn au modèle fantôme MFl pour qu'il se recale irnédiatenient et au modèle distant MDl par l'intermédiaire de l'extrapolateur EXT1 du système S2 pour qu'il se recale le plus tôt possible.
L'extrapolateur EXT2 du système SI permet de réaliser une synchrorisation. En effet, le message Mp = {p, Yp, Gp, G- j } émis par le recaleur R2 du système S 2 arrive au système S 1 à un instant compris entre n et n-f- 1. Toutefois, le message Mp est estampillé par la date p en provenance du système S2. L'extrapolateur EXT2 calcule K2 = Gp - Gp_ ι et recale le modèle distant MD2 en effectuant : Gp = Gp et Yp = Yp puis aux instants suivants et quel que soit : j =ρ,..., n, Gj+1 = Gj + K2 et Ϋj+1 = % + CÏJ + DGJ+1, C et D étant le s matrices équivalentes aux matrices A et B pour le joueur J2. L'extrapolateur EXT2 transmet au modèle distant MD2 le résultat du recalage : Ϋ~ n+1,Gn+1 et K2.
Le modèle distant MD2 du système S 1 se recale sur réception d'un message en provenance de l'extrapolateur EXT2 en prenant les valeurs fournies par ledit extrapolateur EXT2 :
G Jn+i1 = G, n+l> Y -SÎ+1 = 1Yn+l κ2 = κz Hors réception d'un tel message, et à chaque pas de temps, le modèle distant MD2 reçoit la variable de position X1^ en provenance du modèle local MLl et effectue un calcul prédictif :
G~ é ,rr! î-ië ,nt ~rέ ,rri n
»+l — " nΛ &n^ = DU-1in^-fn-CΫin-De'Ge' n+l-Dm'Gm' n+l}
Figure imgf000014_0001
Y n+l = X n+1
Le modèle distant MD2 transmet au modèle local MLl la variable de raideur k, la variable de viscosité λ, et la prédiction de variable de position relative au joueur J2 : GB+,
De préférence, l'extrapolateur EXT2 effectue un recalage en biseau qui permet de lisser les évolutions. Un exemple de ce recalage est montré sur les courbes de la figure 3. Au lieu de ramener brutalement l'estimation de la variable de position Y à la variable f calculée comme exposée ci-dessus par l'extrapolateur EXT2, le recàlage est effectué en quatre étapes entre les instants n et n+4 selon le calcul suivant : k= | Ϋn+1-?n+1 I /seuil +1 ;
Si k = 1, alors Fnn++1l := Ϋ l nn+l
Sinon j = n,
Gj+1=Gj+K2
Figure imgf000014_0002
Yj+1:=Yj + CYj + DGj+1
*,+ι ≈(γJ+l+(κ-i)γJJΛ)/k j:=j+l
Si k est supérieur à 2, alors k : = k-1 Sinon on sort de la boucle et Ϋj+l = fj+v Le recalage en biseau permet un fonctionnement plus doux du système, ce qui est mieux perçu par les utilisateurs et implique moins de contraintes mécaniques.
Le modèle local ML2 reçoit du modèle distant MD 1 l'estimation de position ~Xi et envoie au recaleur R2 la position Yn+ι, la force Gn+ j_ et la variable de raideur k. Le modèle local ML2 envoie également la consigne - Fe n +χ(~Xi, Y) à l'interface 12.
Le modèle local MLl établit un modèle mécanique de la sonde virtuelle en se basant sur la relation suivante: f = mγ -λv-kx, avec m la masse de la sonde virtuelle, k le coefficient d'élasticité de la peau du mannequin virtuel et λ le coefficient de freinage visqueux qui traduit la vitesse limitée du robot compliant distant. Le déplacement le long de l'axe de la sonde vérifie: dx3/dt = dy3/dt.
Les coefficients k et λ sont ajustés dynamiquement et en temps réel. La viscosité est supérieure à zéro à vitesse nulle et monotone croissante avec la vitesse du robot virtuel, par exemple selon une courbe quadratique ou approchée.La viscosité le long de l'axe de la sonde prend en compte les caractéristiques dynamiques de la peau et celles du robot compliant: λ 3 = (G* + mγ^ - ki i 3)/(dxi 3/dt). On pourra aussi tenir compte des trois degrés de liberté angulaire de la sonde, le modèle local ML2 envoyant à l'interface 12 les angles correspondants , β, γ. L'interface 12 exécute alors les déplacements nécessaires pour que y ≈ j et y2 = x2- Pour que les forces G et F soient égales, on fait varier y3 de façon que si F>G alors y3 décroît et si F<G alors y3 croît.
A la convergence, on a k = G/Δy3 = F/Δy3. On peut ainsi palper un objet distant dont les caractéristiques mécaniques évoluent en fonction du temps. Un opérateur peut sentir l'objet distant dont le modèle mécanique est recalculé en temps réel. Un télécalibrage dynamique peut être effectué automatiquement à la suite d'un télécalibrage statique lors d'une mise en service du système pour un objet donné.
De façon plus générale, le modèle fantôme MFl reçoit les mêmes données que le modèle distant MDl de l'autre système et permet d'effectuer la même simulation que ledit autre système. En d'autres termes, on cherche à savoir ce que l'autre système ne sait pas dans un but de recalage. Le recaleur fonctionne en aveugle par rapport à l'autre système et permet de continuer à simuler en l'absence de données pertinentes transmises par un message de recalage en provenance de l'autre système. L'extrapolateur EXT2, en particulier dans le cas du recalage en biseau, permet de tenir compte du mouvement tel que mesuré par l'autre système pendant le délai de transmission dû au réseau de communication. Dans une variante simplifiée, on peut parfaitement concevoir que l'un des deux ou les deux systèmes est dépourvu de modèle fantôme. On peut également prévoir de faire fonctionner ensemble un nombre de systèmes supérieur à deux.
Les modèles locaux représentent les modèles mécaniques des deux utilisateurs. Les modèles distants représentent une réplication distante des modèles mécaniques locaux nécessairement approchée du fait des délais de transmission via le réseau de communication des états des modèles locaux. Les modèles fantômes représentent une copie locale approchée des modèles distants. Les modèles distants et les modèles fantômes fonctionnent tous en mode prédicteur-correcteur. Les extrapolateurs effectuent une extrapolation des messages reçus avec un certain retard pour recaler les modèles distants à la valeur de l'horloge de l'autre système. Les recaleurs évaluent la nécessité de lancer un message de recalage sur le réseau de communication dès qu'un écart trop grand apparaît entre les modèles locaux et les modèles fantômes témoins prédictifs locaux des modèles prédictifs distants. Les recaleurs permettent de li niter le nombre de messages émis à travers le réseau de communication pour éviter de l'encombrer. A l'intérieur d'un système, les échanges d'information peuvent être effectués à la cadence d'un khz. Entre les systèmes et donc par l'intermédiaire du réseau de communication, les échanges de message s'effectuent si l'un des recaleurs le considère comme nécessaire.
Sur la figure 4, est représenté un autre mode de réalisation particulièrement adapté à l'échographie. A proximité de la patiente P est disposée la sonde échographique SE2 supportée par le bras BA relié à l'interface 12, lui-même relié au système S2. Ces éléments sont supportés par un support 5. Dans un local situé à distance, sont disposés le système S I, l'interface II et un élément mobile SE1 de même forme extérieure, de même masse et de même inertie que la sonde SE2.
On a représenté en trait fin la modélisation distante Mo dans son état final, c'est-à-dire extrêmement proche de la forme de la patiente P. L'élément mobile SE1 est ici disposé dans un état de repos, dans une position relative à la modélisation distante Mo identique à la position de la sonde SE2 relativement à la patiente P et écarté de celle-là. L'élément mobile SE1 va être saisi par un praticien comme l'aurait été une véritable sonde échographique et va être descendu progressivement vers le bas. La sonde échographique SE2 suit le même déplacement que l'élément mobile SE1. Le praticien vient d'abord, en déplaçant l'élément mobile SE1, placer la sonde échographique SE2 sur la surface la plus haute de la patiente, en générale le sommet de son abdomen. La force de contre-réaction exercée par l'abdomen de la patiente P sur la sonde SE2 est recopiée à distance de façon que le praticien maniant l'élément mobile SE1 perçoive le même effet, en d'autres termes la même force de contre-réaction, que s'il maniait une sonde échographique réelle contre l'abdomen d'une patiente. A partir du sommet de l'abdomen de la patiente P, le praticien maniant l'élément mobile SE1 en le déplaçant à la fois verticalement et horizontalement, va découvrir progressivement le contour de la patiente P, éventuellement en s'aidant d'un écran de visualisation tel que l'écran El illustré sur la figure 1. Le praticien en manipulant l'élément mobile SE1 va faire décrire l'abdomen de la patiente P à la sonde SE2 qui en réplique le mouvement. La force exercée par l'abdomen de la patiente sur la sonde SE2 est répliquée par l'élément mobile SE1.
Les positions de l'élément mobile SE1 et de la sonde SE2 étant sensiblement identiques, l'élément mobile SE1 est positionné de façon sensiblement identique à la position qu'aurait une sonde réelle parcourant l'abdomen de la même patiente. Le système SI enregistre les différentes positions de l'élément mobile SE1, ce qui permet à partir d'un nombre de points de mesure suffisant, d'effectuer une reconstruction tridimensionnelle de la surface extérieure de l'abdomen de la patiente, et donc d'obtenir la modélisation distante Mo.
On pourra prévoir une plage de force de contre-réaction dans laquelle le système SI considérera que l'élément mobile SE1 est dans une position correspondante à la surface de l'abdomen de la patiente. Au- dessus de la borne supérieure de la plage, on considérera que l'élément mobile SE1 est trop enfoncé dans l'abdomen. En dessous de la borne inférieure de la plage, on considérera qu'il n'y a pas contact et que l'élément mobile est situé hors de la surface extérieure de l'abdomen de la patiente P.
La figure 5 est un schéma illustrant les étapes de génération de la modélisation distante. Tout d'abord, la modélisation distante se présente sous la forme d'une modélisation initiale Momter, qui est une surface plane maillée, vue ici en coupe. Puis, le praticien en manipulant l'élément mobile SE1 positionne la sonde échographique SE2 sur le sommet de l'abdomen de la patiente P. La modélisation initiale Mθjnjt devient alors une modélisation intermédiaire Mθjnter, toujours sous la forme d'une surface plane, mais tangente au sommet de l'abdomen de la patiente. En d'autres termes, les coordonnées verticales des points de la modélisation ont été diminuées de la distance séparant la modélisation initiale Mθjnjt du sommet de l'abdomen de la patiente, les modélisations initiale Momit et intermédiaire Mθ nter étant des plans horizontaux.
Le praticien décale alors la sonde SE1 horizontalement et l'amène, par exemple dans la position 7 affleurant la modélisation intermédiaire Mθjnter, puis amène l'élément mobile dans la position 8, de sorte que la sonde échographique SE2 est en contact avec l'abdomen de la patiente P. Dès que la force de contre-réaction exercée par l'abdomen de la patiente P sur la sonde SE2 dépasse la borne inférieure de la plage et est transmise au système SI, ledit système SI enregistre la position comme appartenant à la surface supérieure de l'abdomen de la patiente P. En pratique, le praticien pourra effectuer des mouvements courbes de façon que la sonde SE2 suive la surface supérieure de l'abdomen de la patiente P, et ce à la fois pour le confort de la patiente et la rapidité du procédé. En outre, lors de tout déplacement de l'élément mobile SE1 au-delà de la modélisation, on peut prévoir qu'une légère force de contre-réaction soit exercée par l'élément mobile SE1 sur les mains du praticien de façon que ledit franchissement lui soit perceptible. Ladite force sera commandée par le système S 1 et appliquée par l'interface II , et pourra être réglable tout en restant inférieure à la borne inférieure de ladite plage. Ladite force pourra comprendre une partie constante analogue à un frottement sec et une partie variable proportionnelle à la vitesse du déplacement de l'élément mobile SEL
Sur la figure 6, sont illustrées de façon schématique, les IV
différentes étapes du procédé. A l'étape.10 d'initialisation, la sonde.SE2 et l'élément mobile SE1 se placent dans une position d'attente ou de repos, permettant à la patiente P de s'installer sμr une table d'examen ou de quitter une telle table. A l'étape 11 , le praticien commande l'approche de la sonde SE2 vers le sommet de l'abdomen de la patiente P. A l'étape 12, a lieu le contact entre la sonde SE2 et le sommet de l'abdomen de la patiente, l'enregistrement par le système S 1 des coordonnées du premier point de contact et le déplacement de la modélisation distante Mo de la modélisation distante initiale MOJ^ à la modélisation distante intermédiaire Momter. A l'étape 13, le praticien fait parcourir à la sonde
SE2 la surface supérieure de l'abdomen de la patiente. A chaque fois qu'un point de coordonnées déterminé est considéré comme appartenant à la surface supérieure de l'abdomen de la patiente P, la modélisation distante intermédiaire Mo mter est déformée maille par maille ou noeud par noeud pour épouser la forme de la surface supérieure de l'abdomen de la patiente
P. On parvient ainsi progressivement à la modélisation distante finale Mofin.
La modélisation distante Mo peut comprendre une maille de taille variable ou fixe. On peut mettre en oeuvre éventuellement une resegmentation afin d'affiner la modélisation dans certaines zones.
A l'issue de cet étalonnage, le système SI stocke dans une mémoire la modélisation distante finale, ce qui lui permet de réagir avec un temps de réponse extrêmement bref, même si le réseau de transmission 3 pâtit de délais de transmission élevés. Ultérieurement, lorsque le praticien déplacera l'élément mobile SE1 en traversant la modélisation distante finale, le système S 1 appliquera une force à l'élément mobile SE1 , simulant la force de contre-réaction de l'abdomen de la patiente P sur. la sonde SE2. En y ajoutant éventuellement un terme de frottement afin d'éviter des mouvements trop rapides de l'élément mobile SE1 et donc de la sonde échographique SE2.
L'invention met donc en oeuvre une déformation d'un maillage géométrique sous le geste du praticien utilisateur. Le télé-étalonnage du mannequin virtuel ou modélisation distante, s'effectue par un balayage intuitif du praticien utilisateur afin de faire tendre le maillage de départ ou modélisation distante initiale vers la forme de la patiente dont la corpulence et notamment le stade de la grossesse sont extrêmement variables d'une personne à une autre. On peut ainsi palper une personne ou l'objet situé à distance d'un poste maître, ce qui permet d'approcher une forme tridimensionnelle et d'appréhender la forme de la personne ou de . l'objet, la présence d'une caméra n'étant pas indispensable. Dans le cadre d'une application utilisant déjà un système à retour d'effort, la méthode proposée permet la reconstruction à distance de la forme tridimensionnelle sans recourir aux méthodes antérieures comme les relevés lasers ou la stéréophotographie.

Claims

REVENDICATIONS
1. Système dé commande dynamique (SI) d'un élément à retour d'effort (II) apte à interagir avec un autre élément (12), du type à constante de temps inférieure à celle liée à une commande à distance, caractérisé par le fait qu'il comprend un modèle local (MLl) pour le calcul d'une consigne (Fe) destinée à l'élément à retour d'effort à partir d'une variable X®) mesurée par l'élément à retour d'effort, de variables intrinsèques (F111) à l'élément à retour d'effort, d'une variable de raideur (k), d'une variable de viscosité (λ) et d'une estimation (G) d'une interaction extérieure sur l'élément à retour d'effort, et d'une variable d'état ÇXP1'1 de l'élément à retour d'effort, un modèle distant (MD2) pour l'estimation des interactions, d'une variable de raideur, d'une variable de viscosité et des variables d'état de l'autre élément avec mise à jour lors de la réception de données reçues d'un autre système (S2) situé à distance, et un moyen de recalage (RI) apte à émettre un message de recalage (Mn) vers ledit autre système.
2. Système selon la revendication 1, caractérisé par le fait qu'il comprend un modèle fantôme (MFl) pour effectuer une estimation (X,F) des variables d'état de l'élément à retour d'effort, et recaler ladite estimation à réception du message de recalage.
3. Système selon la revendication 2, caractérisé par le fait que le moyen de recalage (RI) comprend un moyen de comparaison de l'estimation des variables d'état provenant du modèle fantôme et de variables d'état provenant du modèle local de façon qu'en cas de différence supérieure à un seuil prédéterminé, le moyen de recalage émette un message de recalage vers le modèle fantôme (MFl) et vers , l'autre système (S2).
4. Système selon l'une quelconque des revendications précédentes, caractérisé par le fait qu'il comprend un moyen d'extrapolation (EXT 2) pour traiter un message de recalage provenant de l'autre système et pour mettre à jour le modèle distant.
5. Ensemble de commande de deux éléments distants, chaque élément étant pourvu d'un système de commande selon l'une quelconque des revendications précédentes.
6. Procédé de commande dynamique d'un élément à retour d'effort apte à interagir avec un autre élément, dans lequel :
- on effectue une modélisation locale pour obtenir une consigne destinée à l'élément à retour d'effort à partir d'une variable mesurée par ledit élément à retour d'effort, de variables intrinsèques audit élément à retour d'effort, d'une estimation d'une interaction extérieure sur l'élément à retour d'effort, d'une variable de raideur, d'une variable de viscosité et d'une variable d'état de l'élément à retour d'effort;
- on effectue une modélisation distante des interactions, d'une variable de raideur, d'une variable de viscosité et des variables d^tat de l'autre élément avec mise à jour lors de la réception de données reçues d'un autre système situé à distance;
- on élabore et on émet vers ledit autre système un message de recalage.
7. Procédé selon la revendication 6, dans lequel on effectue une modélisation fantôme des variables d'état de l'élément à retour d'effort avec recalage à réception du message de recalage.
8. Procédé selon la revendication 7, dans lequel lors du recalage, on compare l'estimation de variables d'état issues de la modélisation fantôme et de variables d'état issues de la modélisation locale de façon qu'en cas de différence supérieure à un seuil prédéterminé, on émette un message de recalage en vue d'une nouvelle modélisation fantôme, et vers l'autre système.
9. Procédé selon l'une quelconque des revendications 6 à 8, dans lequel on effectue une extrapolation pour traiter un message de recalage provenant de l'autre système et effectuer une mise à jour de la modélisation distante.
10. Procédé selon l'une quelconque des revendications 6 à 9, dans lequel on calcule une variable représentative de la viscosité tangentielle de l'élément à retour d'effort par rapport à l'autre élément.
11. Programme d'ordinateur comprenant des moyens de code- programme pour mettre en oeuvre les étapes du procédé selon l'une quelconque des revendications 6 à 10, lorsque ledit programme fonctionne sur un ordinateur.
12. Support capable d'être lu par un dispositif de lecture de moyens de code-programme qui s'y trouvent stockés et qui sont aptes à la mise en oeuvre des étapes du procédé selon l'une quelconque des revendications 6 à 10, lorsque ledit programme fonctionne sur un ordinateur.
PCT/FR2003/000054 2002-01-09 2003-01-09 Procede et systeme de commande dynamique d'un element a retour d'effort WO2003058358A1 (fr)

Priority Applications (3)

Application Number Priority Date Filing Date Title
AU2003216710A AU2003216710A1 (en) 2002-01-09 2003-01-09 Method and system for dynamically controlling a force-feedback element
DE60304444T DE60304444T2 (de) 2002-01-09 2003-01-09 Verfahren und system zur dynamischen steuerung eines kraftrückkopplungselements
EP03712228A EP1463980B1 (fr) 2002-01-09 2003-01-09 Procede et systeme de commande dynamique d un element a reto ur d effort

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR0200216A FR2834570B1 (fr) 2002-01-09 2002-01-09 Procede et systeme de commande dynamique d'un element a retour d'effort
FR02/00216 2002-01-09

Publications (1)

Publication Number Publication Date
WO2003058358A1 true WO2003058358A1 (fr) 2003-07-17

Family

ID=8871209

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/FR2003/000054 WO2003058358A1 (fr) 2002-01-09 2003-01-09 Procede et systeme de commande dynamique d'un element a retour d'effort

Country Status (6)

Country Link
EP (1) EP1463980B1 (fr)
AT (1) ATE322705T1 (fr)
AU (1) AU2003216710A1 (fr)
DE (1) DE60304444T2 (fr)
FR (1) FR2834570B1 (fr)
WO (1) WO2003058358A1 (fr)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2219098A1 (fr) * 2009-02-16 2010-08-18 Korea Advanced Institute of Science and Technology Systèmes d'interaction humaine utilisant une rétroaction kinesthésique et son procédé de fonctionnement

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106823368A (zh) * 2015-12-04 2017-06-13 中国航空工业第六八研究所 一种基于网络的远程体感作动装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2646612A1 (fr) * 1989-05-02 1990-11-09 Barbeau Christian Systeme de jeux de force a distance
WO1998006024A1 (fr) * 1996-08-01 1998-02-12 Immersion Human Interface Corporation Procede et appareil pour produire des donnees de retour de force sur un reseau informatique
US6084371A (en) * 1999-02-19 2000-07-04 Lockheed Martin Energy Research Corporation Apparatus and methods for a human de-amplifier system
US6161126A (en) * 1995-12-13 2000-12-12 Immersion Corporation Implementing force feedback over the World Wide Web and other computer networks

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2646612A1 (fr) * 1989-05-02 1990-11-09 Barbeau Christian Systeme de jeux de force a distance
US6161126A (en) * 1995-12-13 2000-12-12 Immersion Corporation Implementing force feedback over the World Wide Web and other computer networks
WO1998006024A1 (fr) * 1996-08-01 1998-02-12 Immersion Human Interface Corporation Procede et appareil pour produire des donnees de retour de force sur un reseau informatique
US6084371A (en) * 1999-02-19 2000-07-04 Lockheed Martin Energy Research Corporation Apparatus and methods for a human de-amplifier system

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SATO M ET AL: "A REMOTE COLLABORATION SYSTEM USING HAND-FORCE VIRTUAL ENVIRONMENT", ELECTRONICS & COMMUNICATIONS IN JAPAN, PART III - FUNDAMENTAL ELECTRONIC SCIENCE, SCRIPTA TECHNICA. NEW YORK, US, vol. 80, no. 4, 1 April 1997 (1997-04-01), pages 51 - 58, XP000723464, ISSN: 1042-0967 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2219098A1 (fr) * 2009-02-16 2010-08-18 Korea Advanced Institute of Science and Technology Systèmes d'interaction humaine utilisant une rétroaction kinesthésique et son procédé de fonctionnement
KR101054359B1 (ko) * 2009-02-16 2011-08-04 한국과학기술원 근감각 피드백을 이용한 상호작용장치 및 이의 작동방법

Also Published As

Publication number Publication date
DE60304444T2 (de) 2006-12-07
DE60304444D1 (de) 2006-05-18
ATE322705T1 (de) 2006-04-15
FR2834570B1 (fr) 2004-03-26
EP1463980A1 (fr) 2004-10-06
EP1463980B1 (fr) 2006-04-05
AU2003216710A1 (en) 2003-07-24
FR2834570A1 (fr) 2003-07-11

Similar Documents

Publication Publication Date Title
EP1370188B1 (fr) Procede et systeme de reconstruction a distance d&#39;une surface
EP1207448B1 (fr) Procédé et système de commande d&#39;un élément à retour d&#39;effort
KR102269065B1 (ko) 혼합 현실 교정을 위한 안구주위 테스트
WO2019192172A1 (fr) Procédé et appareil de prédiction d&#39;attitude et dispositif électronique
Xu et al. Point cloud-based model-mediated teleoperation with dynamic and perception-based model updating
JP7053042B2 (ja) 情報処理装置及び情報処理方法
WO2016124752A2 (fr) Procédé et dispositif d&#39;assistance à la manipulation d&#39;un instrument
EP3178066A1 (fr) Procédé et système pour la reconstruction de parties occultées d&#39;un visage, dans un environnement de réalité virtuelle
US11157084B2 (en) Touch enabling process, haptic accessory, and core haptic engine to enable creation and delivery of tactile-enabled experiences with virtual objects
WO2011032937A2 (fr) Procede de simulation de mouvements propres par retour haptique et dispositif mettant en oeuvre le procede
WO2020075622A1 (fr) Dispositif, procédé et programme de traitement d&#39;informations
WO2018167532A1 (fr) Procédé de génération de données multimédia associée à un système de sport
EP1463980B1 (fr) Procede et systeme de commande dynamique d un element a reto ur d effort
CN115138063A (zh) 图像处理方法、装置、电子设备及存储介质
CN108205372B (zh) 应用于虚拟现实设备的操作方法和装置以及虚拟现实设备
EP1369823A1 (fr) Procédé et système de construction à distance d&#39;une surface tridimensionnelle
KR102525661B1 (ko) 작업 장치의 원격 제어를 위한 실시간 훈련 방법 및 장치
WO2022201922A1 (fr) Appareil de traitement d&#39;informations, procédé de traitement d&#39;informations et système de traitement d&#39;informations
FR2855293A1 (fr) Simulation en temps reel d&#39;actions effectuees sur un objet virtuel par un outil virtuel teleopere par des dispositifs a retour d&#39;effort correles
EP3484364B1 (fr) Procédé et système de commande hiérarchique en temps réel d&#39;une structure articulée exploitant un nombre limité de capteurs de mouvement
FR3142246A1 (fr) Procédé d’estimation de l’évolution d’une vitesse d’un point de mesure
FR3110991A1 (fr) Procédé d’apprentissage, procédé de reconnaissance associé, dispositifs correspondants.
JP2011060234A (ja) 仮想対象に対する視覚的知覚位置の推定装置及び推定方法

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BY BZ CA CH CN CO CR CU CZ DE DK DM DZ EC EE ES FI GB GD GE GH GM HR HU ID IL IN IS JP KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NO NZ OM PH PL PT RO RU SC SD SE SG SK SL TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): GH GM KE LS MW MZ SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2003712228

Country of ref document: EP

WWP Wipo information: published in national office

Ref document number: 2003712228

Country of ref document: EP

WWG Wipo information: grant in national office

Ref document number: 2003712228

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: JP

WWW Wipo information: withdrawn in national office

Country of ref document: JP