GR1010678B

GR1010678B - Method for automatically converting purchase data history derived from electronic stores into clear signal and training a deep machine learining meural network to produce recommendations for consumers

Info

Publication number: GR1010678B
Application number: GR20220100246A
Authority: GR
Inventors: Κωνσταντινος Νικολαου Καραμιτσιος
Original assignee: My Company Projects Ο.Ε.,; Κωνσταντινος Νικολαου Καραμιτσιος
Priority date: 2022-03-21
Filing date: 2022-03-21
Publication date: 2024-04-26
Also published as: GR20220100246A

Abstract

There is disclosed a method that automatically converts the purchase data of an online store into a clear signal, which method is characterized by combination of a consumer and a product together and characterization of this combination as positive or negative, in order to produce suggestions to consumers. Said method produces a new data set suitable for training machine learning models by an information server which receives the purchase data, in an appropriate format, from the online store. From the purchase data and in combination with data of previous proposals stored in the server's memory, new data are generated, characterizing the interaction of a consumer and a product as positive or negative. These data constitute the clear signal. The server adapts, through the training process, to a neural network model of deep machine learning, for optimal adaptation to the signal produced and, therefore, for increasingly better production of proposals, i.e. proposals that are more likely to lead to a new purchase and are sent by the online store, via email and SMS.

Description

ΠΕΡΙΓΡΑΦΗ DESCRIPTION

Μέθοδος για την αυτόματη μετατροπή δεδομένων ιστορικού αγορών από ηλεκτρονικά καταστήματα σε σαφές σήμα και την εκπαίδευση νευρωνικού δικτύου βαθιάς μηχανικής μάθησης για την παραγωγή προτάσεων σε καταναλωτές. A method for automatically converting purchase history data from online stores into a clear signal and training a deep machine learning neural network to generate recommendations for consumers.

Η παρούσα εφεύρεση αναφέρεται σε μια μέθοδο επεξεργασίας δεδομένων, ειδικότερα σε μία μέθοδο που επιτρέπει την αυτόματη μετατροπή δεδομένων από καταστήματα ηλεκτρονικών αγορών σε ένα νέο σύνολο δεδομένων που εμπεριέχει ένα ρητό σήμα εκπαίδευσης, και τη ρύθμιση ή εκπαίδευση ενός νευρωνικού δικτύου βαθιάς μηχανικής μάθησης χρησιμοποιώντας τα δεδομένα αυτά, που είναι κατάλληλα για τη διαδικασία εκπαίδευσης. Συνολικά, η μέθοδος επιτυγχάνει την αυτόματη παροχή προτάσεων για νέα προϊόντα στους πελάτες του ηλεκτρονικού καταστήματος και την αποστολή ενημερωτικών μηνυμάτων προς αυτούς. The present invention relates to a data processing method, in particular to a method that allows the automatic conversion of data from online shopping stores into a new data set containing an explicit training signal, and the adjustment or training of a deep machine learning neural network using these data, which are suitable for the training process. Overall, the method achieves the automatic provision of new product suggestions to the customers of the online store and the sending of informative messages to them.

Τα καταστήματα ηλεκτρονικού εμπορίου ορίζονται ως τα καταστήματα στα οποία οι αγορές πραγματοποιούνται μέσω του διαδικτύου, χωρίς να είναι απαραίτητη η φυσική παρουσία των συμβαλλόμενων, δηλαδή του πωλητή και του αγοραστή. Τα συστήματα προτάσεων αποτελούν συστήματα τα οποία παρέχουν προτάσεις στους πελάτες, ή αγοραστές, ή καταναλωτές, κατά την παραμονή τους στο ηλεκτρονικό κατάστημα, με σκοπό την ώθησή τους στην αγορά νέων προϊόντων. Για την παροχή το δυνατό καλύτερων προτάσεων, δηλαδή προτάσεων που είναι περισσότερο πιθανό να οδηγήσουν σε μια νέα αγορά, μπορούν να χρησιμοποιηθούν μοντέλα μηχανικής μάθησης. Αυτά τα μοντέλα μηχανικής μάθησης, για τη ρύθμισή τους, που στο εξής θα αναφέρεται ως εκπαίδευση, και για την αξιολόγησή τους χρειάζονται ένα ρητό σήμα που αξιολογεί τις προηγούμενες προτάσεις τους, δηλαδή ένα σήμα που τις κατηγοριοποιεί ως θετικές ή ως αρνητικές. Ωστόσο, τα δεδομένα αγορών που παρέχει ένα ηλεκτρονικό κατάστημα, που ορίζονται ως αλληλεπιδράσεις μεταξύ πελατών του καταστήματος, στο εξής χρηστών, και αντικειμένων προς πώληση, στο εξής αντικειμένων, δεν αποτελούν σαφή δεδομένα, καθώς υπάρχει μόνο η πληροφορία για τα αντικείμενα που αγοράστηκαν από τους καταναλωτές, αλλά όχι η πληροφορία για τα αντικείμενα που αγοράστηκαν ανεξάρτητα από τις προτάσεις του μοντέλου μηχανικής μάθησης, ούτε η πληροφορία για τα αντικείμενα που απέρριψε ο χρήστης. E-commerce stores are defined as stores in which purchases are made over the internet, without the physical presence of the contracting parties, i.e. the seller and the buyer, being necessary. Recommendation systems are systems that provide suggestions to customers, or buyers, or consumers, during their stay in the online store, with the aim of encouraging them to purchase new products. In order to provide the best possible suggestions, i.e. suggestions that are more likely to lead to a new purchase, machine learning models can be used. These machine learning models, for their adjustment, which will be referred to as training, and for their evaluation, need an explicit signal that evaluates their previous suggestions, i.e. a signal that categorizes them as positive or negative. However, the purchase data provided by an online store, defined as interactions between store customers, hereinafter users, and items for sale, hereinafter items, is not clear data, as there is only information about the items purchased by consumers, but not information about the items purchased independently of the machine learning model's suggestions, nor information about the items rejected by the user.

Η παρούσα εφεύρεση παρέχει έναν τρόπο για τη βέλτιστη εκπαίδευση και αξιοποίηση ενός μοντέλου νευρωνικού δικτύου βαθιάς μηχανικής μάθησης, που στο εξής θα αναφέρεται ως μοντέλο, από ηλεκτρονικά καταστήματα, με την παραγωγή ενός σαφούς σήματος κατάλληλου για την εκπαίδευση και την αξιολόγησή του, αποσκοπώντας συνολικά στην παραγωγή αυτόματων προτάσεων για αντικείμενα, οι οποίες προτάσεις αποστέλλονται στους καταναλωτές του καταστήματος. Το σαφές αυτό σήμα αποτελεί ένα νέο σύνολο δεδομένων που προκύπτει από τις αλληλεπιδράσεις των χρηστών με το κατάστημα. Ακόμα, μέσω αυτής της εφεύρεσης, είναι δυνατός ο διαχωρισμός μεταξύ του ηλεκτρονικού καταστήματος και της εκπαίδευσης του μοντέλου, έτσι ώστε η δομή και αρχιτεκτονική του μοντέλου να μπορεί να είναι κρυφή από το ηλεκτρονικό κατάστημα, γεγονός που είναι επιθυμητό για περιπτώσεις όπου η παροχή των προτάσεων στο ηλεκτρονικό κατάστημα αποτελεί και αυτή μια αυτόνομη εμπορική υπηρεσία. Έτσι, είναι δυνατή η βιομηχανική εφαρμογή της εφεύρεσης ως ένα τρόπο για την ορθή χρήση του νευρωνικού δικτύου βαθιάς μηχανικής μάθησης και την ταυτόχρονη παροχή αντίστοιχων υπηρεσιών σε ηλεκτρονικά καταστήματα διατηρώντας κρυφή τη δομή του μοντέλου αλλά και τα βάρη των νευρώνων που έχουν εκπαιδευτεί, καθώς αυτό θα μπορεί να βρίσκεται σε διαφορετικό μηχάνημα, του οποίου η διαχείριση είναι ξεχωριστή από αυτή του ηλεκτρονικού καταστήματος. Η τεχνική λύση που εισάγει η παρούσα εφεύρεση είναι η μείωση του φόρτου και της κατανάλωση πόρων στο ηλεκτρονικό κατάστημα, καθώς οι χρήστες θα συνδέονται σε αυτό γνωρίζοντας το προϊόν που επιθυμούν να αγοράσουν. The present invention provides a way to optimally train and utilize a deep machine learning neural network model, hereinafter referred to as a model, from online stores, by producing a clear signal suitable for its training and evaluation, with the overall aim of producing automatic suggestions for items, which suggestions are sent to the store's consumers. This clear signal constitutes a new data set resulting from the interactions of users with the store. Furthermore, through this invention, it is possible to separate the online store and the training of the model, so that the structure and architecture of the model can be hidden from the online store, which is desirable for cases where the provision of suggestions to the online store also constitutes an autonomous commercial service. Thus, the industrial application of the invention is possible as a way to properly use the deep machine learning neural network and simultaneously provide corresponding services to online stores by keeping the structure of the model and the weights of the trained neurons hidden, as this could be located on a different machine, the management of which is separate from that of the online store. The technical solution introduced by the present invention is the reduction of the load and resource consumption in the online store, as users will connect to it knowing the product they wish to purchase.

Κάθε ηλεκτρονικό κατάστημα διατηρεί ένα αρχείο με όλες τις αγορές που έχουν πραγματοποιηθεί. Μέσω του πρωτοκόλλου HTTPS και χρησιμοποιώντας τη μορφή αρχείου XML, το αρχείο ιστορικού των αγορών αποστέλλεται σε ένα ξεχωριστό μηχάνημα ηλεκτρονικού υπολογιστή, που στο εξής θα ονομάζεται εξυπηρετητής, το οποίο και αναλαμβάνει τη μετέπειτα επεξεργασία. Κάθε εγγραφή στο αρχείο των αγορών περιλαμβάνει τον μοναδικό κωδικό του χρήστη στο ηλεκτρονικό κατάστημα και τον μοναδικό κωδικό του εκάστοτε προϊόντος. Each online store maintains a record of all purchases that have been made. Through the HTTPS protocol and using the XML file format, the purchase history file is sent to a separate computer machine, hereinafter referred to as the server, which undertakes the subsequent processing. Each entry in the purchase file includes the unique code of the user in the online store and the unique code of each product.

Οι μοναδικοί κωδικοί του κάθε χρήστη, που πέρα από αριθμητικούς χαρακτήρες μπορεί να περιλαμβάνουν και αλφαβητικούς χαρακτήρες ή σύμβολα, αντιστοιχίζονται από τον εξυπηρετητή σε έναν νέο και μοναδικό ακέραιο αριθμό. Συγκεκριμένα, η αρίθμηση θα ξεκινήσει από το μηδέν για τον πρώτο κωδικό χρήστη και στη συνέχεια θα διατηρεί αύξουσα σειρά για κάθε νέο χρήστη που αντιστοιχίζεται. Εάν κάποιος χρήστης σε μια εγγραφή έχει ήδη αντιστοιχηθεί σε έναν κωδικό αριθμό, χρησιμοποιείται αυτός ο αριθμός και δεν ανατίθεται νέος. Each user's unique codes, which in addition to numeric characters may also include alphabetic characters or symbols, are assigned by the server to a new and unique integer number. Specifically, the numbering will start from zero for the first user code and then maintain an ascending order for each new user that is assigned. If a user in a record has already been assigned a code number, that number is used and no new one is assigned.

Η ίδια διαδικασία ακολουθείται για τα αντικείμενα. Οι μοναδικοί κωδικοί του κάθε αντικειμένου, που πέρα από αριθμητικούς χαρακτήρες μπορεί να περιλαμβάνουν και αλφαβητικούς χαρακτήρες ή σύμβολα, αντιστοιχίζονται από τον εξυπηρετητή σε έναν νέο και μοναδικό ακέραιο αριθμό. Συγκεκριμένα, η αρίθμηση θα ξεκινήσει από το μηδέν για τον πρώτο κωδικό αντικειμένου και στη συνέχεια θα διατηρεί αύξουσα σειρά. Εάν κάποιο αντικείμενο σε μια εγγραφή έχει ήδη αντιστοιχηθεί σε έναν κωδικό αριθμό, χρησιμοποιείται αυτός ο αριθμός και δεν ανατίθεται νέος. Τόσο για την περίπτωση της αναπαράστασης των χρηστών όσο και για την περίπτωση της αναπαράστασης των αντικειμένων, οι ακέραιοι αριθμοί καθίστανται περισσότερο κατάλληλοι για τη χρήση τους ως είσοδο σε μοντέλα μηχανικής μάθησης από ότι οι αλφαριθμητικοί χαρακτήρες και τα σύμβολα. The same procedure is followed for objects. The unique codes of each object, which in addition to numeric characters may also include alphabetic characters or symbols, are assigned by the server to a new and unique integer number. Specifically, the numbering will start from zero for the first object code and then will maintain an ascending order. If an object in a record has already been assigned a code number, that number is used and no new one is assigned. Both for the case of user representation and for the case of object representation, integers become more suitable for use as input to machine learning models than alphanumeric characters and symbols.

Ο εξυπηρετητής παράγει και διατηρεί στη μνήμη του έναν πίνακα δύο (2) διαστάσεων. Η κάθε εγγραφή αντιστοιχεί με μια αλληλεπίδραση χρήστη και αντικειμένου. Το πρώτο στοιχείο της γραμμής περιλαμβάνει τον κωδικό αριθμό του χρήστη και το δεύτερο στοιχείο περιλαμβάνει τον κωδικό αριθμό του αντικειμένου. Για την καλύτερη αξιοποίηση της υπολογιστικής ισχύος, η μορφή στην οποία θα αποθηκεύεται ο πίνακας είναι η δυαδική (binary - bin). The server generates and maintains a two (2) dimensional array in its memory. Each record corresponds to a user-object interaction. The first element of the row contains the user's code number and the second element contains the object's code number. To best utilize computing power, the format in which the array will be stored is binary (bin).

Ο εξυπηρετητής, κάθε μία εβδομάδα, δέχεται το ανανεωμένο ιστορικό αγορών, μέσω του πρωτοκόλλου HTTPS και σε μορφή XML, που είναι μια λίστα που περιλαμβάνει όλους τους χρήστες. Χρησιμοποιώντας τη μέθοδο εκπαίδευσης και περιγράφεται αναλυτικά παρακάτω, εκπαιδεύεται το βαθύ νευρωνικό δίκτυο, για κάθε έναν από τους χρήστες επιστρέφεται στο ηλεκτρονικό κατάστημα μια λίστα με είκοσι (20) προτεινόμενα αντικείμενα, και στη συνέχεια αποστέλλεται στους καταναλωτές ένα μήνυμα ηλεκτρονικού ταχυδρομείου και ένα μήνυμα SMS. Ο συνολικός αριθμός των αντικειμένων που προτείνονται να δύναται να αλλάξει αν αυτό είναι επιθυμητό. Επίσης, δύναται να αλλάξει η συχνότητα της εκπαίδευσης του νευρωνικού δικτύου και της αποστολής των νέων προτάσεων, σε όποιο χρονικό διάστημα είναι επιθυμητό. Αυτός ο συνδυασμός χρηστών και αντικειμένων αποτελεί τις προτάσεις που παρήχθησαν από το μοντέλο, με τους κωδικούς χρηστών και αντικειμένων να έχουν αντιστοιχηθεί στην αρχική μορφή που χρησιμοποιεί το κατάστημα. Ο εξυπηρετητής διατηρεί στη μνήμη του τις προτάσεις αυτές, καθώς όλες της προηγούμενες προτάσεις που έχουν πραγματοποιηθεί. The server, every week, receives the updated purchase history, via the HTTPS protocol and in XML format, which is a list that includes all users. Using the training method and described in detail below, the deep neural network is trained, for each of the users a list of twenty (20) suggested items is returned to the online store, and then an email and an SMS message are sent to the consumers. The total number of items suggested can be changed if desired. Also, the frequency of training the neural network and sending new suggestions can be changed, at any time interval desired. This combination of users and items constitutes the suggestions produced by the model, with the user and item codes having been assigned to the original format used by the store. The server retains these suggestions in its memory, as well as all previous suggestions that have been made.

Ορίζοντας το σύνολο των αλληλεπιδράσεων που παρέχει το ηλεκτρονικό κατάστημα ως Α και το σύνολο των προτάσεων που έχει πραγματοποιήσει το μοντέλο μηχανικής μάθησης ως Π, τα οποία σύνολα βρίσκονται αποθηκευμένα στη μνήμη του εξυπηρετητή, τα σαφή δεδομένα προκύπτουν ως τα δεδομένα που ανήκουν στις προηγούμενες προτάσεις Π και ταυτόχρονα ανήκουν στο σύνολο των αλληλεπιδράσεων Α, σε συνδυασμό με τις προηγούμενες προτάσεις του συστήματος Π που δεν ανήκουν στο σύνολο των αλληλεπιδράσεων Α. Ο πρώτος όρος αποτελεί το σαφές θετικό σήμα και ο δεύτερος το σαφές αρνητικό σήμα. Η διαδικασία αυτή υλοποιείται στον εξυπηρετητή. Χρησιμοποιώντας διαγράμματα Venn, στο σχήμα 1 φαίνεται το θετικό σαφές σήμα ως η τομή των συνόλων Α και Π, ενώ στο σχήμα 2 φαίνεται το σαφές αρνητικό σήμα ως η αφαίρεση του συνόλου Α από το σύνολο Π. By defining the set of interactions provided by the online store as A and the set of sentences made by the machine learning model as Π, which sets are stored in the server's memory, the explicit data is obtained as the data belonging to the previous sentences Π and simultaneously belonging to the set of interactions A, in combination with the previous sentences of the system Π that do not belong to the set of interactions A. The first term is the explicit positive signal and the second is the explicit negative signal. This process is implemented on the server. Using Venn diagrams, Figure 1 shows the positive explicit signal as the intersection of the sets A and Π, while Figure 2 shows the explicit negative signal as the subtraction of the set A from the set Π.

Οι πίνακες Α και Π αποτελούν πίνακες δύο διαστάσεων, με την κάθε εγγραφή/σειρά του πίνακα να αντιστοιχεί σε μια αλληλεπίδραση χρήστη και αντικειμένου, για μια αγορά που πραγματοποιήθηκε στο κατάστημα, στην περίπτωση του Α, και για μια προηγούμενη πρόταση του μοντέλου μηχανικής μάθησης, στην περίπτωση του Π. Το πρώτο στοιχείο της κάθε γραμμής περιλαμβάνει τον κωδικό ακέραιο αριθμό του χρήστη και το δεύτερο στοιχείο της κάθε γραμμές περιλαμβάνει τον κωδικό ακέραιο αριθμό του αντικειμένου. Το σαφές σήμα, επιπλέον των αντίστοιχων κωδικών αριθμών χρήστη και αντικειμένου, εμπεριέχει και τον χαρακτηρισμό της κάθε εγγραφής ως θετικής ή ως αρνητικής. The arrays A and P are two-dimensional arrays, with each row/entry of the array corresponding to a user-object interaction, for a purchase made in the store, in the case of A, and for a previous sentence of the machine learning model, in the case of P. The first element of each row contains the user's integer code number and the second element of each row contains the object's integer code number. The explicit signal, in addition to the corresponding user and object code numbers, also contains the characterization of each entry as positive or negative.

Με αυτόν τον τρόπο, μπορούν να εκπαιδευτεί το μοντέλο βαθιάς μηχανικής μάθησης. Το μοντέλο χρειάζεται την ύπαρξη ενός σαφούς σήματος που αξιολογεί τις προηγούμενες επιλογές τους. Η παρούσα εφεύρεση επιτυγχάνει το παραπάνω, δηλαδή την εξαγωγή σαφούς σήματος από τα δεδομένα αγορών που βρίσκονται σε ένα ηλεκτρονικό κατάστημα. Με τη χρήση της, είναι εφικτή η διαρκής βελτίωση του μοντέλου μηχανικής μάθησης μέσω τους σαφούς σήματος. Το σήμα αυτό δύναται να αξιοποιηθεί από βελτιστοποιητές (optimizers) που έχουν προταθεί από τη βιβλιογραφία, με σκοπό το μοντέλο να προσαρμόζεται ώστε να βελτιστοποιεί το σαφές σήμα, δηλαδή να λαμβάνει περισσότερα θετικά σήματα και λιγότερα αρνητικά σήματα. In this way, the deep machine learning model can be trained. The model needs the existence of a clear signal that evaluates their previous choices. The present invention achieves the above, namely the extraction of a clear signal from the shopping data found in an online store. By using it, it is possible to continuously improve the machine learning model through the clear signals. This signal can be exploited by optimizers that have been proposed in the literature, in order for the model to be adapted to optimize the clear signal, i.e. to receive more positive signals and fewer negative signals.

Το μοντέλο, που αποτελεί ένα νευρωνικό δίκτυο βαθιάς μηχανικής μάθησης, δέχεται για την εκπαίδευσή του το σαφές σήμα. Ο κωδικός του χρήστη εισέρχεται σε ένα επίπεδο διανυσματικής αναπαράστασης (embedding layer), το οποίο αντιπροσωπεύει τους χρήστες με ένα διάνυσμα διάστασης ίσης με δεκαέξι (16). Ομοίως για τα αντικείμενα, κωδικός του αντικειμένου εισέρχεται σε ένα επίπεδο διανυσματικής αναπαράστασης (embedding layer), το οποίο αντιπροσωπεύει τα αντικείμενα με ένα διάνυσμα διάστασης ίσης με δεκαέξι (16). Με τη συνένωση (concatenate) των δύο επιπέδων διανυσματικής αναπαράστασης, παράγεται ένα διάνυσμα τριάντα δύο (32) διαστάσεων, που αναπαριστά την αλληλεπίδραση του συγκεκριμένου χρήστη και αντικειμένου. Αυτό το διάνυσμα εισέρχεται σε ένα πλήρως συνδεδεμένο επίπεδο με πενήντα (50) νευρώνες και χρησιμοποιεί τη συνάρτηση διορθωμένης γραμμικής μονάδας (Rectified Linear Unit -ReLU) ως συνάρτηση ενεργοποίησης. Στη συνέχεια, η έξοδος του πλήρως επιπέδου εισέρχεται σε ένα δεύτερο πλήρως συνδεδεμένο επίπεδο με εκατό (100) νευρώνες που χρησιμοποιεί επίσης τη συνάρτηση ενεργοποίησης ReLU. Τέλος, η έξοδος του δεύτερου πλήρως συνδεδεμένου επιπέδου εισέρχεται σε ένα τρίτο πλήρως συνδεδεμένο επίπεδο με έναν (1) νευρώνα και σιγμοειδή (sigmoid) συνάρτηση ενεργοποίησης, που περιορίζει την έξοδο του τελευταίου επιπέδου, που αποτελεί την έξοδο του νευρωνικού δικτύου, στο διάστημα [0, 1], The model, which is a deep machine learning neural network, receives the explicit signal for its training. The user code enters an embedding layer, which represents users with a sixteen (16) dimensional vector. Similarly, for objects, the object code enters an embedding layer, which represents objects with a sixteen (16) dimensional vector. By concatenating the two vector representation layers, a thirty-two (32) dimensional vector is produced, representing the interaction of the specific user and object. This vector enters a fully connected layer with fifty (50) neurons and uses the Rectified Linear Unit (ReLU) function as the activation function. Then, the output of the fully connected layer enters a second fully connected layer with one hundred (100) neurons that also uses the ReLU activation function. Finally, the output of the second fully connected layer enters a third fully connected layer with one (1) neuron and a sigmoid activation function, which restricts the output of the last layer, which is the output of the neural network, to the interval [0, 1],

Για την εκπαίδευση του νευρωνικού δικτύου χρησιμοποιείται ο βελτιστοποιητής Adam (Adam optimizer). Δοσμένου του σαφούς σήματος, που περιέχει τον κωδικό ενός χρήστη και ενός προϊόντος, καθώς και τον χαρακτηρισμό της εγγραφής ως θετικής ή αρνητικής, στο νευρωνικό δίκτυο εισέρχονται οι δύο κωδικοί, και υπολογίζεται η έξοδος του δικτύου. Ο βελτιστοποιητής ρυθμίζει τις παραμέτρους των επιπέδων του νευρωνικού δικτύου έτσι ώστε η έξοδός του να δίνει τιμές κοντά στη μονάδα, για θετικό σήμα, και τιμές κοντά στο μηδέν, για αρνητικό σήμα. Ο ρυθμός εκμάθησης ορίζεται ως δέκα εις τη μείον τρία (ΙΟ<-3>) και το μέγεθος δέσμης (batch size) ως τριάντα δύο (32), που αποτελεί τον αριθμό των εγγραφούν που επεξεργάζονται παράλληλα σε κάθε βήμα βελτιστοποίησης. Η διαδικασία επαναλαμβάνεται για ολόκληρο το σύνολο των δεδομένων τριάντα (30) φορές, δηλαδή ο αριθμός των εποχών (epoch) είναι ίσος με τριάντα. The Adam optimizer is used to train the neural network. Given the explicit signal, which contains the code of a user and a product, as well as the characterization of the record as positive or negative, the two codes are input to the neural network, and the output of the network is calculated. The optimizer adjusts the parameters of the neural network layers so that its output gives values close to unity, for a positive signal, and values close to zero, for a negative signal. The learning rate is defined as ten to the minus three (10<-3>) and the batch size as thirty-two (32), which is the number of records processed in parallel in each optimization step. The process is repeated for the entire data set thirty (30) times, i.e. the number of epochs is equal to thirty.

Η αρχιτεκτονική του νευρωνικού δικτύου φαίνεται στο σχήμα 3. Τα δύο επίπεδα διανυσματικής αναπαράστασης, ονομάζονται ως ΕΔΑΧ (επίπεδο διανυσματικής αναπαράστασης χρηστών) και ΕΔΑΑ (επίπεδο διανυσματικής αναπαράστασης αντικειμένων). Τα πλήρως συνδεδεμένα επίπεδα αναφέρονται ως ΠΣΕ1 , ΠΣΕ2, και ΠΣΕ3 (πλήρως συνδεδεμένο επίπεδο 1, 2, και 3, αντίστοιχα). Για κάθε πλήρως συνδεδεμένο επίπεδο, αναγράφεται ο αριθμός των νευρώνων του. Η συνολική μέθοδος και η αλληλεπίδραση των στοιχείων που την αποτελούν, όπως περιγράφηκανπαραπάνω, φαίνονται στο σχήμα 4. The architecture of the neural network is shown in Figure 3. The two vector representation layers are called the user vector representation layer (VRL) and the object vector representation layer (OVRL). The fully connected layers are referred to as FCL1, FCL2, and FCL3 (fully connected layers 1, 2, and 3, respectively). For each fully connected layer, the number of neurons is indicated. The overall method and the interaction of its components, as described above, are shown in Figure 4.

Claims

1. Method for automatically converting purchase data from online stores and training a deep learning neural network and providing recommendations to consumers, comprising the following phases:

a) Creation of an XML file from the online store, which expresses each purchase as an interaction between a user, represented by a unique alphanumeric code that may include symbols, and an object, also represented by a unique alphanumeric code that may include symbols. In case a purchase includes more than one object, then it is separated into as many separate interactions as the number of objects.

b) Sending the XML file, which describes the above interactions, via the internet to the server.

c) Mapping of the unique user codes to a new integer code number, unique for each user, by the server. d) Mapping of the unique object codes to a new integer code number, unique for each object, by the server.

e) Maintaining in the server's memory a list that constitutes the interactions between users and objects recorded by the store.

f) Maintaining in the server's memory a list that includes all the previous suggestions of the machine learning model. g) Extracting the clear signal by combining the data of interactions between users and objects and the data of the previous suggestions of the machine learning model, from the server.

h) Training a deep machine learning neural network.

i) Sending suggestions to consumers via email and SMS.

characterized by the fact that a clear signal suitable for training machine learning networks is produced, defined as a list containing, for each element, the unique integer code of a user, the unique integer code of an object, and the characterization of the entry as positive or negative. Through the clear signal, which constitutes a new data set, a deep machine learning neural network is trained. The process is executed periodically to learn the new data, over a period of one week, or any other period desired by the user of the method.

2. Method according to claim 1, characterized in that the transmission via the internet will be carried out using the HTTPS protocol which guarantees secure transfer through encryption and other security measures.

3. Method according to claim 1, characterized in that the unique codes, both for users and for objects, will be converted into integers, the numbering of which will start from zero, starting from the first code recognized and will maintain an ascending order. If a user or object has already been assigned to an integer code, this number is used and a new one is not assigned.

4. Method according to claim 1, characterized in that the two lists that the server will maintain in its memory, one for the interactions of users and objects (A) and one for the previous system proposals (P), will be in binary format, for their efficient and faster reading.

5. Method according to claim 1 or 4, characterized by the fact that the lists A and P are two (2) dimensional arrays, with each record/row corresponding to a user and object interaction, for a purchase made in the store, in the case of A, and for a previous suggestion of the machine learning model, in the case of P. The first element of each line includes the user's integer code and the second element of each line includes the object's integer code.

6. Method according to claim 1, characterized in that the server does not belong to the same infrastructure as the online store, but on the contrary its management is separate and can be remote, with its use being provided as a service. For each of the users a list of twenty (20) suggested items is returned, and then an email message and an SMS message are sent to the consumers, from the online store itself, containing the suggestions. In this way, the structure of the machine learning model can be kept secret, so as to ensure confidentiality regarding its structure and the individual innovations in the improvements of its structure. Furthermore, the economic exploitation of the invention is facilitated, and the service is offered in the form of a monthly or annual subscription.

7. Method according to claim 1 or 4 or 5, characterized in that the clear data is obtained as follows: the positive signal consists of the data belonging to the set Π and simultaneously belonging to the set A, while the negative signal consists of the data belonging to the set Π and not belonging to the set A. The total clear signal includes, in each of its records, the integer unique code of a user, the integer unique code of an object, and the characterization of the record as positive or negative.

8. A method according to claim 1, characterized in that the deep neural network comprises two embedding layers with an embedding dimension of sixteen (16), and three fully connected layers. The input to the neural network is the user and object numbers, which enter the user and object vector layers, respectively. The two user and object representation vectors that are produced are concatenated, resulting in a total vector of thirty-two (32) dimensions, which represents the specific user and object interaction. This vector is then fed into the first fully connected layer of the network, which has fifty (50) neurons and uses the Rectified Linear Unint (ReLU) function as an activation function. The output of the layer enters the second layer, which has one hundred (100) neurons and also uses the ReLU activation function. The output of the second layer enters the third layer, which consists of one (1) neuron and uses the sigmoid activation function. The latter constitutes the output of the neural network, which will be in the interval [0, 1],

9. A method according to claim 1 or 8, characterized in that the Adam optimizer is used for training the neural network. The optimizer uses the explicit signal to train the neural network, adjusting the parameters/weights of the neural network so that its output gives values close to unity for a positive signal and values close to zero for a negative signal. The learning rate is defined as ten to the minus three (10<-3>) and the batch size is defined as thirty-two (32). The number of epochs is defined as thirty (30).

10. Method according to claim 1, characterized by the fact that it includes the introduction of a software component in the online store, which allows the conversion of purchase data into a suitable XML file format and undertakes their sending to the server via the HTTPS protocol.