WO2022270840A1 - 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템 - Google Patents

외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템 Download PDF

Info

Publication number
WO2022270840A1
WO2022270840A1 PCT/KR2022/008688 KR2022008688W WO2022270840A1 WO 2022270840 A1 WO2022270840 A1 WO 2022270840A1 KR 2022008688 W KR2022008688 W KR 2022008688W WO 2022270840 A1 WO2022270840 A1 WO 2022270840A1
Authority
WO
WIPO (PCT)
Prior art keywords
word
user
vector
model
embedding
Prior art date
Application number
PCT/KR2022/008688
Other languages
English (en)
French (fr)
Inventor
박준영
신재민
Original Assignee
(주)뤼이드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)뤼이드 filed Critical (주)뤼이드
Publication of WO2022270840A1 publication Critical patent/WO2022270840A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00—Teaching not covered by other main groups of this subclass
    • G09B19/06—Foreign languages
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures

Definitions

  • the present specification relates to a method for recommending words for improving vocabulary skills of foreign language learners through deep learning and an apparatus therefor.
  • a problem often faced by students might be: First, it may require the effort of the user to manually input (or write on paper) unknown words into the application to create and use flashcards. Second, it is difficult to implement a system that automatically recommends interfaces using words or algorithms that the user does not know.
  • AI Artificial Intelligence
  • the purpose of this specification is to propose a method for increasing the efficiency and effectiveness of foreign language learners memorizing words.
  • an object of the present specification is to propose a method in which a learned AI model recommends an accurate word to a foreign language learner through tracking the foreign language learner's knowledge.
  • One aspect of the present specification is a method for recommending a word to a user by a server, comprising: receiving learning data from a network and learning an AI model using the learning data; (1) user embedding vector for inputting (1) user vectors and (2) word vectors to the AI model based on the learned AI model, and determining whether the user knows a word related to the word vector and (2) generating word embedding vectors; inputting (1) the user embedding vector and (2) the word embedding vector to a function for determining whether the user knows a word related to the word vector; and outputting, from the function, a result value for predicting whether or not the user knows a word related to the word vector.
  • a server for recommending a word to a user comprising: a communication module; Memory; A processor, wherein the processor receives learning data from a network through the communication module, uses the learning data to learn an AI model, and based on the learned AI model, the AI model (1 ) input a user vector and (2) a word vector, generate (1) a user embedding vector and (2) a word embedding vector for determining whether the user knows a word related to the word vector, (1) the input the user embedding vector and (2) the word embedding vector to a function for determining whether the user knows a word related to the word vector, and from the function, whether the user knows a word related to the word vector You can output the result value for prediction.
  • the efficiency and effectiveness of foreign language learners memorizing words can be increased.
  • the learned AI model may recommend accurate words to foreign language learners through the tracking of foreign language learners' knowledge.
  • 1 is a block diagram for explaining an electronic device related to the present specification.
  • FIG. 2 is a block diagram of an AI device according to an embodiment of the present specification.
  • One aspect of the present specification is a method for recommending a word to a user by a server, comprising: receiving learning data from a network and learning an AI model using the learning data; (1) user embedding vector for inputting (1) user vectors and (2) word vectors to the AI model based on the learned AI model, and determining whether the user knows a word related to the word vector and (2) generating word embedding vectors; inputting (1) the user embedding vector and (2) the word embedding vector to a function for determining whether the user knows a word related to the word vector; and outputting, from the function, a result value for predicting whether or not the user knows a word related to the word vector.
  • the AI model may include (1) a user embedding model for generating the user embedding vector and (2) a word embedding model for generating the word embedding vector.
  • the function may output the resultant value based on (1) the proximity of the user embedding vector and (2) the word embedding vector.
  • the resulting value is output based on , wherein u is the user vector, v is the word vector and the may indicate the result value.
  • recommended word information may be delivered to the user's terminal.
  • the learning data may include information on words added to a wordbook for learning by one or more users.
  • a server for recommending a word to a user comprising: a communication module; Memory; A processor, wherein the processor receives learning data from a network through the communication module, uses the learning data to learn an AI model, and based on the learned AI model, the AI model (1 ) input a user vector and (2) a word vector, generate (1) a user embedding vector and (2) a word embedding vector for determining whether the user knows a word related to the word vector, (1) the input the user embedding vector and (2) the word embedding vector to a function for determining whether the user knows a word related to the word vector, and from the function, whether the user knows a word related to the word vector You can output the result value for prediction.
  • 1 is a block diagram for explaining an electronic device related to the present specification.
  • the electronic device 100 includes a wireless communication unit 110, an input unit 120, a sensing unit 140, an output unit 150, an interface unit 160, a memory 170, a control unit 180, and a power supply unit 190. ) and the like.
  • the components shown in FIG. 1 are not essential to implement an electronic device, so an electronic device described in this specification may have more or fewer components than those listed above.
  • the wireless communication unit 110 is between the electronic device 100 and the wireless communication system, between the electronic device 100 and other electronic devices 100, or between the electronic device 100 and an external server. It may include one or more modules enabling wireless communication between Also, the wireless communication unit 110 may include one or more modules that connect the electronic device 100 to one or more networks.
  • the wireless communication unit 110 may include at least one of a broadcast reception module 111, a mobile communication module 112, a wireless Internet module 113, a short-distance communication module 114, and a location information module 115. .
  • the input unit 120 includes a camera 121 or video input unit for inputting a video signal, a microphone 122 for inputting an audio signal, or a user input unit 123 for receiving information from a user, for example , a touch key, a push key (mechanical key, etc.). Voice data or image data collected by the input unit 120 may be analyzed and processed as a user's control command.
  • the sensing unit 140 may include one or more sensors for sensing at least one of information within the electronic device, environmental information surrounding the electronic device, and user information.
  • the sensing unit 140 may include a proximity sensor 141, an illumination sensor 142, a touch sensor, an acceleration sensor, a magnetic sensor, and gravity.
  • G-sensor gyroscope sensor
  • motion sensor motion sensor
  • RGB sensor infrared sensor
  • IR sensor infrared sensor
  • finger scan sensor ultrasonic sensor
  • an optical sensor eg, a camera (see 121)
  • a microphone see 122
  • a battery gauge an environmental sensor (eg, a barometer, a hygrometer, a thermometer, a radiation detection sensor, It may include at least one of a heat detection sensor, a gas detection sensor, etc.), a chemical sensor (eg, an electronic nose, a healthcare sensor, a biometric sensor, etc.).
  • the electronic device disclosed in this specification may combine and utilize information sensed by at least two or more of these sensors.
  • the output unit 150 is for generating an output related to sight, hearing, or touch, and includes at least one of a display unit 151, a sound output unit 152, a haptic module 153, and an optical output unit 154. can do.
  • the display unit 151 may implement a touch screen by forming a mutual layer structure or integrally with the touch sensor. Such a touch screen may function as a user input unit 123 providing an input interface between the electronic device 100 and the user and provide an output interface between the electronic device 100 and the user.
  • the interface unit 160 serves as a passage for various types of external devices connected to the electronic device 100 .
  • the interface unit 160 connects a device equipped with a wired/wireless headset port, an external charger port, a wired/wireless data port, a memory card port, and an identification module. It may include at least one of a port, an audio input/output (I/O) port, a video input/output (I/O) port, and an earphone port.
  • the electronic device 100 may perform appropriate control related to the connected external device.
  • the memory 170 stores data supporting various functions of the electronic device 100 .
  • the memory 170 may store a plurality of application programs (application programs or applications) running in the electronic device 100 , data for operating the electronic device 100 , and commands. At least some of these application programs may be downloaded from an external server through wireless communication. In addition, at least some of these application programs may exist on the electronic device 100 from the time of shipment for basic functions of the electronic device 100 (eg, incoming and outgoing calls, outgoing functions, message receiving, and outgoing functions). Meanwhile, the application program may be stored in the memory 170, installed on the electronic device 100, and driven by the control unit 180 to perform an operation (or function) of the electronic device.
  • the controller 180 controls general operations of the electronic device 100 in addition to operations related to the application program.
  • the control unit 180 may provide or process appropriate information or functions to the user by processing signals, data, information, etc. input or output through the components described above or by running an application program stored in the memory 170.
  • controller 180 may control at least some of the components discussed in conjunction with FIG. 1 in order to drive an application program stored in the memory 170 . Furthermore, the controller 180 may combine and operate at least two or more of the components included in the electronic device 100 to drive the application program.
  • the power supply unit 190 receives external power and internal power under the control of the controller 180 and supplies power to each component included in the electronic device 100 .
  • the power supply unit 190 includes a battery, and the battery may be a built-in battery or a replaceable battery.
  • At least some of the components may operate in cooperation with each other in order to implement an operation, control, or control method of an electronic device according to various embodiments described below. Also, the operation, control, or control method of the electronic device may be implemented on the electronic device by driving at least one application program stored in the memory 170 .
  • the electronic device 100 may be collectively referred to as a terminal.
  • FIG. 2 is a block diagram of an AI device according to an embodiment of the present specification.
  • the AI device 20 may include an electronic device including an AI module capable of performing AI processing or a server including the AI module.
  • the AI device 20 may be included in at least a portion of the electronic device 100 shown in FIG. 1 to perform at least a portion of AI processing together.
  • the AI device 20 may include an AI processor 21, a memory 25 and/or a communication unit 27.
  • the AI device 20 is a computing device capable of learning a neural network, and may be implemented in various electronic devices such as a server, a desktop PC, a notebook PC, and a tablet PC.
  • the AI processor 21 may learn an AI model using a program stored in the memory 25 .
  • the AI processor 21 may learn an AI model to recognize data for word learning.
  • the AI processor 21 performing the functions described above may be a general-purpose processor (eg, CPU), but may be an AI dedicated processor (eg, GPU) for artificial intelligence learning.
  • a general-purpose processor eg, CPU
  • an AI dedicated processor eg, GPU
  • the memory 25 may store various programs and data necessary for the operation of the AI device 20 .
  • the memory 25 may be implemented as a non-volatile memory, a volatile memory, a flash-memory, a hard disk drive (HDD), or a solid state drive (SDD).
  • the memory 25 is accessed by the AI processor 21, and reading/writing/modifying/deleting/updating of data by the AI processor 21 can be performed.
  • the memory 25 may store a neural network model (eg, a deep learning model) generated through a learning algorithm for data classification/recognition according to an embodiment of the present specification.
  • the AI processor 21 may include a data learning unit that learns a neural network for data classification/recognition.
  • the data learning unit may learn a deep learning model by acquiring learning data to be used for learning and applying the obtained learning data to a deep learning model.
  • the communication unit 27 may transmit the AI processing result by the AI processor 21 to an external electronic device.
  • the external electronic device may include other terminals and servers.
  • the AI device 20 shown in FIG. 2 has been functionally divided into an AI processor 21, a memory 25, a communication unit 27, etc., but the above-mentioned components are integrated into one module and the AI module may also be referred to as
  • Memorizing words is one of the most difficult parts for users in learning a second language. This specification proposes a recommendation system based on deep learning that allows users to more conveniently learn words.
  • the server may collect data from an Intelligent Tutoring System (ITS) provided in real time to more than 10,000 English L2 learners preparing for the TOEIC. More specifically, users of web and/or mobile apps provided by the intelligent tutoring system can study TOEIC reading and/or listening problems. For each question solved, the user can review the entire passage (or the transcript of the listening question), mark unknown words, and add them to the vocabulary.
  • ITS Intelligent Tutoring System
  • the server may assume that the words added to the vocabulary by the user are words unknown to the user, and may train the loaded AI model using data of words unknown to the user for each user.
  • Table 1 below is an example of AI model learning data to which this specification can be applied.
  • the server may train the AI model by using information on words added to the wordbook by each user. For example, the server may generate learning data in which words the user knows or does not know are marked (eg '1' is an unknown word, '0' is a known word), and using the generated learning data , The AI model may learn known and unknown words for each user.
  • the AI model may include a collaborative filtering model for predicting words that the user does not know. For example, the server may use the collaborative filtering model to (eg, user's ID, user's history information (eg, whether the user added a word to the wordbook, information on matching words included in the user's vocabulary)), word (e.g., word information), and a label related thereto can be entered.
  • the framework of the collaborative filtering model uses a user embedding model 310, a word embedding model (e.g., word2vec) 320, and random similarity scoring using user (U) and word (V) embedding vectors. It may be configured to include a function (arbitrary similarity scoring function) (f) (330). These user embedding models and word embedding models may be replaced with AI models (eg, AI models based on deep learning models).
  • AI models eg, AI models based on deep learning models.
  • Equation 1 is an example of an arbitrary similarity scoring function 330 to which the present specification can be applied.
  • similarity of the random similarity scoring function 330 may mean proximity between a user embedding vector and a word embedding vector (u, v) in a user-word joint embedding space.
  • the embedding models (U and V) described above can be optimized to encode user and word vectors that are closest to each other.
  • the embedding model may consider a vector similar to a word that may provide the most educational value to the user in consideration of the user's knowledge state (eg, word acquisition state).
  • U and V are trainable parameters of the user and word embedding models, respectively, and the trained word embedding model can be initialized with V.
  • f may be a simple dot product operation. Therefore, (2) of Equation 1 is can be However, in a later model (eg, NCF, Neural Collaborative Filtering), f may be a multi-layer perceptron network using u and v as input values (concatenation).
  • the user embedding model 310 and the word embedding model 320 may generate appropriate user vectors and word vectors.
  • the generated user vector and word vector can be input to a function f that can predict whether user i knows word j, for example, function f predicts that user i knows word j, then 0 A value of 1 can be output if it is predicted that user i does not know the word j.
  • the above-described operation of the server may be performed in the user terminal through a separate application installed in the user terminal.
  • the method proposed in this specification can greatly increase both the efficiency and effectiveness of word memorization, and the server can increase the accuracy of words recommended to the user by using the learned AI model through the user's knowledge tracking.
  • the server receives training data from the network and uses the training data to learn the AI model (S410).
  • the network may include the aforementioned ITS, and the learning data may include information on words added to a wordbook for learning by one or more users.
  • the training data may include indexes, user identifiers, words, and data on marking.
  • the AI model may learn data of words that the user does not know for each user.
  • the server inputs (1) a user vector and (2) a word vector to the AI model, and (1) user embedding for determining whether the user knows a word related to the word vector.
  • a vector and (2) a word embedding vector are generated (S420).
  • the AI model may include (1) a user embedding model for generating user embedding vectors and (2) a word embedding model for generating word embedding vectors.
  • the server may optimize the (1) user embedding model and (2) word embedding model so that (1) user vectors and (2) word vectors located closest to each other can be encoded.
  • the server inputs (1) the user embedding vector and (2) the word embedding vector to a function for determining whether the user knows a word related to the word vector (S430).
  • the function (f) may output the result value based on (1) the proximity of the user embedding vector and (2) the word embedding vector, and based on Equation 1 above, the result value can output More specifically, in Equation 1, u is the user vector, v is the word vector and may indicate the result value.
  • the server outputs a result value for predicting whether the user knows a word related to the word vector from the function (S440).
  • the AI model may include a user embedding model and a word embedding model. More specifically, the new user vector can be input to the user embedding model, and the user embedding model can output the user embedding vector for input to any similarity scoring function.
  • word vectors may be input to a word embedding model, and the word embedding model may output word embedding vectors for input to an arbitrary similarity scoring function.
  • the arbitrary similarity scoring function outputs '0' if the new user knows the word, and '1' if the new user does not know the word, so the server can determine whether the new user knows the word.
  • the server may transmit recommended word information to the user's terminal (S450).
  • the recommended word information may include a word predicted as a word unknown to the user.
  • the above specification can be implemented as computer readable code on a medium on which a program is recorded.
  • the computer-readable medium includes all types of recording devices in which data that can be read by a computer system is stored. Examples of computer-readable media include Hard Disk Drive (HDD), Solid State Disk (SSD), Silicon Disk Drive (SDD), ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc. , and also includes those implemented in the form of a carrier wave (eg, transmission over the Internet). Accordingly, the above detailed description should not be construed as limiting in all respects and should be considered illustrative. The scope of this specification should be determined by reasonable interpretation of the appended claims, and all changes within the equivalent scope of this specification are included in the scope of this specification.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Educational Administration (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Educational Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Pure & Applied Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Tourism & Hospitality (AREA)
  • Computational Linguistics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Electrically Operated Instructional Devices (AREA)
  • Algebra (AREA)
  • Medical Informatics (AREA)
  • Machine Translation (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)

Abstract

본 명세서에서 서버가 사용자에게 단어를 추천하는 방법에 있어서, 네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키며, 상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하고, (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하며, 상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력할 수 있다.

Description

외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템
본 명세서는 딥러닝을 통하여, 외국어 학습자의 어휘 실력 향상을 위한 단어를 추천하는 방법 및 이를 위한 장치에 관한 것이다.
제2 외국어를 공부하는 데 있어서, 단어의 습득, 또는 단어를 암기하기 위해, 사용자에게 가장 중요한 문제는 사용자가 효과적으로 어휘를 암기할 수 있는 방법을 찾는 것이다.
예를 들어, 학생들이 자주 직면하는 문제는 다음과 같을 수 있다. 첫째로, 사용자는 플래시 카드를 만들고 사용하기 위해 모르는 단어를 어플에 수동으로 입력(또는 종이에 쓰기)해야 하는 노력이 요구될 수 있다. 또한, 둘째로, 사용자가 모르는 단어나 알고리즘을 사용하는 인터페이스를 자동으로 추천하는 시스템은 구현되는 것이 어렵다.
그러나, 기존의 학계 또는 산업계에 있어서, AI(Artificial Intelligence)를 이용하여, 이러한 사용자들의 부담을 덜어주기 위한, 노력이 많지 않았다.
본 명세서의 목적은, 외국어 학습자의 단어 암기의 효율성과 효과를 증대시키는 방법을 제안한다.
또한, 본 명세서의 목적은, 외국어 학습자의 지식 추적을 통해, 학습된 AI 모델이 외국어 학습자에게 정확한 단어를 추천하는 방법을 제안한다.
본 명세서가 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 이하의 명세서의 상세한 설명으로부터 본 명세서가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 명세서의 일 양상은, 서버가 사용자에게 단어를 추천하는 방법에 있어서, 네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키는 단계; 상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하는 단계; (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하는 단계; 및 상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력하는 단계; 를 포함할 수 있다.
본 명세서의 또 다른 일 양상은 사용자에게 단어를 추천하는 서버에 있어서, 통신모듈(communication module); 메모리; 프로세서를 포함하고, 상기 프로세서는 상기 통신 모듈을 통해, 네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키며, 상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하고, (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하며, 상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력할 수 있다.
본 명세서의 실시예에 따르면, 외국어 학습자의 단어 암기의 효율성과 효과를 증대킬 수 있다.
또한, 본 명세서의 실시예에 따르면, 외국어 학습자의 지식 추적을 통해, 학습된 AI 모델이 외국어 학습자에게 정확한 단어를 추천할 수 있다.
본 명세서에서 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 명세서가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 명세서와 관련된 전자 기기를 설명하기 위한 블록도이다.
도 2는 본 명세서의 일 실시예에 따른 AI 장치의 블록도이다.
도 3은 본 명세서가 적용될 수 있는 단어 추천 알고리즘의 예시이다.
도 4는 본 명세서가 적용될 수 있는 일 실시예이다.
본 명세서에 관한 이해를 돕기 위해 상세한 설명의 일부로 포함되는, 첨부 도면은 본 명세서에 대한 실시예를 제공하고, 상세한 설명과 함께 본 명세서의 기술적 특징을 설명한다.
본 명세서의 일 양상은, 서버가 사용자에게 단어를 추천하는 방법에 있어서, 네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키는 단계; 상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하는 단계; (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하는 단계; 및 상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력하는 단계; 를 포함할 수 있다.
또한, 상기 AI 모델은 (1) 상기 사용자 임베딩 벡터를 생성하기 위한 사용자 임베딩 모델 및 (2) 상기 단어 임베딩 벡터를 생성하기 위한 단어 임베딩 모델을 포함할 수 있다.
또한, (1) 상기 사용자 임베딩 모델 및 (2) 상기 단어 임베딩 모델은
서로 가장 가까이 위치한 (1) 상기 사용자 벡터 및 (2) 상기 단어 벡터를 인코딩하도록 최적화될 수 있다.
또한, 상기 함수는 (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터의 근접성에 근거하여, 상기 결과값을 출력할 수 있다.
또한, 상기 함수는 다음의 수학식:
Figure PCTKR2022008688-appb-img-000001
에 근거하여 상기 결과값을 출력하며, 상기 u는 상기 사용자 벡터, 상기 v는 상기 단어 벡터 및 상기
Figure PCTKR2022008688-appb-img-000002
는 상기 결과값을 지시할 수 있다.
또한, 상기 결과값에 근거하여, 상기 사용자의 단말로, 추천 단어 정보를 전달할 수 있다.
또한, 상기 학습 데이터는 하나 이상의 사용자가 학습을 위한 단어장에 추가한 단어의 정보를 포함할 수 있다.
본 명세서의 또 다른 일 양상은 사용자에게 단어를 추천하는 서버에 있어서, 통신모듈(communication module); 메모리; 프로세서를 포함하고, 상기 프로세서는 상기 통신 모듈을 통해, 네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키며, 상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하고, (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하며, 상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력할 수 있다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 명세서의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
도 1은 본 명세서와 관련된 전자 기기를 설명하기 위한 블록도이다.
상기 전자 기기(100)는 무선 통신부(110), 입력부(120), 센싱부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들은 전자 기기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 전자 기기는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 상기 구성요소들 중 무선 통신부(110)는, 전자 기기(100)와 무선 통신 시스템 사이, 전자 기기(100)와 다른 전자 기기(100) 사이, 또는 전자 기기(100)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(110)는, 전자 기기(100)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.
입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 122), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(123, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(140)는 전자 기기 내 정보, 전자 기기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(140)는 근접센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 전자 기기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅팁 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 전자 기기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 전자 기기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(160)는 전자 기기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. 전자 기기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(170)는 전자 기기(100)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(170)는 전자 기기(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 전자 기기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 전자 기기(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 전자 기기(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, 전자 기기(100) 상에 설치되어, 제어부(180)에 의하여 상기 전자 기기의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 전자 기기(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 1과 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용 프로그램의 구동을 위하여, 전자 기기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가받아 전자 기기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체가능한 형태의 배터리가 될 수 있다.
상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 전자 기기의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 전자 기기의 동작, 제어, 또는 제어방법은 상기 메모리(170)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 전자 기기 상에서 구현될 수 있다.
본 명세서에서 전자기기(100)는 단말로 통칭될 수 있다.
도 2는 본 명세서의 일 실시예에 따른 AI 장치의 블록도이다.
상기 AI 장치(20)는 AI 프로세싱을 수행할 수 있는 AI 모듈을 포함하는 전자 기기 또는 상기 AI 모듈을 포함하는 서버 등을 포함할 수 있다. 또한, 상기 AI 장치(20)는 도 1에 도시된 전자기기(100)의 적어도 일부의 구성으로 포함되어 AI 프로세싱 중 적어도 일부를 함께 수행하도록 구비될 수도 있다.
상기 AI 장치(20)는 AI 프로세서(21), 메모리(25) 및/또는 통신부(27)를 포함할 수 있다.
상기 AI 장치(20)는 신경망을 학습할 수 있는 컴퓨팅 장치로서, 서버, 데스크탑 PC, 노트북 PC, 태블릿 PC 등과 같은 다양한 전자 장치로 구현될 수 있다.
AI 프로세서(21)는 메모리(25)에 저장된 프로그램을 이용하여 AI 모델을 학습할 수 있다. 특히, AI 프로세서(21)는 단어 학습을 위한 데이터를 인식하기 위해, AI 모델을 학습할 수 있다.
한편, 전술한 바와 같은 기능을 수행하는 AI 프로세서(21)는 범용 프로세서(예를 들어, CPU)일 수 있으나, 인공지능 학습을 위한 AI 전용 프로세서(예를 들어, GPU)일 수 있다.
메모리(25)는 AI 장치(20)의 동작에 필요한 각종 프로그램 및 데이터를 저장할 수 있다. 메모리(25)는 비 휘발성 메모리, 휘발성 메모리, 플래시 메모리(flash-memory), 하드디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SDD) 등으로 구현할 수 있다. 메모리(25)는 AI 프로세서(21)에 의해 액세스되며, AI 프로세서(21)에 의한 데이터의 독취/기록/수정/삭제/갱신 등이 수행될 수 있다. 또한, 메모리(25)는 본 명세서의 일 실시예에 따른 데이터 분류/인식을 위한 학습 알고리즘을 통해 생성된 신경망 모델(예를 들어, 딥 러닝 모델)을 저장할 수 있다.
한편, AI 프로세서(21)는 데이터 분류/인식을 위한 신경망을 학습하는 데이터 학습부를 포함할 수 있다. 예를 들어, 데이터 학습부는 학습에 이용될 학습 데이터를 획득하고, 획득된 학습데이터를 딥러닝 모델에 적용함으로써, 딥러닝 모델을 학습할 수 있다.
통신부(27)는 AI 프로세서(21)에 의한 AI 프로세싱 결과를 외부 전자 기기로 전송할 수 있다.
여기서 외부 전자 기기는 다른 단말, 서버를 포함할 수 있다.
한편, 도 2에 도시된 AI 장치(20)는 AI 프로세서(21)와 메모리(25), 통신부(27) 등으로 기능적으로 구분하여 설명하였지만, 전술한 구성요소들이 하나의 모듈로 통합되어 AI 모듈로 호칭될 수도 있다.
단어를 외우는 것은 사용자가 제2 외국어를 공부하는 데 있어서, 사용자에게 가장 힘든 부분중 하나이다. 본 명세서는 사용자가 보다 편리하게 단어를 학습할 수 있는 딥러닝 기반의 추천 시스템을 제안한다.
도 3은 본 명세서가 적용될 수 있는 단어 추천 알고리즘의 예시이다.
*도 3을 참조하면, 예를 들어, 서버는 토익을 준비하는 1만 명 이상의 영어 L2 학습자에게 실시간 제공되는 지능형 튜터링 시스템(ITS, Intelligent Tutoring System)에서 데이터를 수집할 수 있다. 보다 자세하게, 지능형 튜터링 시스템에서 제공하는 웹 및/또는 모바일 앱 사용자는 토익 읽기 및/또는 듣기 문제를 공부할 수 있다. 사용자는 풀었던 각 질문들에 대해, 전체 구절(또는 듣기 질문의 스크립트)을 검토하고 모르는 단어를 표시하며, 단어장에 추가할 수 있다.
이 경우, 서버는 사용자가 단어장에 추가한 단어들을 상기 사용자가 모르는 단어로 가정하고, 사용자 별로 사용자가 모르는 단어들의 데이터들을 이용하여, 탑재된 AI 모델을 학습시킬 수 있다.
다음의 표 1은 본 명세서가 적용될 수 있는 AI 모델 학습 데이터의 예시이다.
Index User_id Word Marked
1 1 Throne 1
2 1 Abdicate 1
3 1 Monarch 0
4 2 Entrepreneur 1
5 3 kingdom 0
... ... ... ...
표 1을 참조하면, 서버는 사용자별로 사용자가 단어장에 추가한 단어들의 정보를 이용하여, AI 모델을 학습시킬 수 있다. 예를 들어, 서버는 사용자가 아는 단어 또는 모르는 단어가 marking 된(예들 들어, '1'은 모르는 단어, '0'은 아는 단어), 학습 데이터를 생성할 수 있고, 생성된 학습 데이터를 이용하여, AI 모델은 사용자 별로 아는 단어 및 모르는 단어를 학습할 수 있다.AI 모델은 사용자가 모르는 단어를 예측하기 위한 협업 필터링 모델(collaborative filtering model)을 포함할 수 있다. 예를 들어, 서버는 협업 필터링 모델에 user
Figure PCTKR2022008688-appb-img-000003
(예를 들어, 사용자의 ID, 사용자의 히스토리 정보(예를 들어, 사용자가 단어장에 단어를 추가하였는 지 여부, 당해 사용자 단어장에 포함된 단어를 맞춘 정보)), word
Figure PCTKR2022008688-appb-img-000004
(예를 들어, 단어 정보), 및 이와 관련된 label
Figure PCTKR2022008688-appb-img-000005
를 입력할 수 있다. 출력되는 예측값
Figure PCTKR2022008688-appb-img-000006
를 획득하기 위해, 협업 필터링 모델의 프레임 워크는 사용자 임베딩 모델(310), 단어 임베딩 모델(예를 들어, word2vec)(320), 및 사용자(U) 및 단어(V) 임베딩 벡터를 이용하는 임의 유사성 스코어링 함수(arbitrary similarity scoring function)(f)(330)를 포함하여 구성될 수 있다. 이러한 사용자 임베딩 모델과 단어 임베딩 모델은 AI 모델(예를 들어, 딥러닝 모델을 베이스로 하는 AI 모델)로 대체될 수 있다.
다음의 수학식 1은 본 명세서가 적용될 수 있는 임의 유사성 스코어링 함수(330)의 예시이다.
Figure PCTKR2022008688-appb-img-000007
수학식 1을 참조하면, 여기서 임의 유사성 스코어링 함수(330)의"유사성"은 user-word joint embedding space에서 사용자 임베딩 벡터 및 단어 임베딩 벡터(u,v)의 근접성을 의미할 수 있다. 따라서, 전술한 임베딩 모델(U and V)은 서로 가장 가까이 있는 사용자 및 단어 벡터를 인코딩하도록 최적화될 수 있다. 예를 들어, 임베딩 모델은 사용자의 지식 상태(예를 들어, 단어 습득 상태)를 고려하여, 사용자에게 가장 교육적 가치를 줄 수 있는 단어와 유사한 벡터를 고려할 수 있다.
다시, 수학식 1을 참조하면, U와 V는 각각 사용자 및 단어 임베딩 모델의 훈련 가능한 매개 변수이이며, 훈련된 단어 임베딩 모델은 V로 초기화 될 수 있다.
또한,
Figure PCTKR2022008688-appb-img-000008
는 시그모이드 함수(Sigmoid function) 일 수 있다. 협업 필터링 모델의 트레이닝 목표는
Figure PCTKR2022008688-appb-img-000009
와
Figure PCTKR2022008688-appb-img-000010
의 binary cross entropy를 최소화하는 데에 있다. 기존 모델(예를 들어, MF, Matrix Factorization)에서, f는 단순한 dot product operation일 수 있다. 따라서, 수학식 1의 (2)는
Figure PCTKR2022008688-appb-img-000011
가 될 수 있다. 다만, 이후 모델(예를 들어, NCF, Neural Collaborative Filtering)에서, f는 u와 v를 입력값(concatenation)으로 사용하는 multi-layer perceptron network 일 수 있다.
다시 도 3을 참조하면, 사용자 임베딩 모델(310)과 단어 임베딩 모델(320)은 적절한 사용자 벡터 및 단어 벡터를 생성할 수 있다. 생성된 사용자 벡터 및 단어 벡터는 사용자 i가 단어 j를 알고 있는 지 여부를 예측할 수 있는 f 함수에 입력될 수 있으며, 예를 들어, f 함수는 사용자 i가 단어 j를 알고 있다고 예측되는 경우, 0 값을 출력하고, 사용자 i가 단어 j를 모른다고 예측되는 경우, 1 값을 출력할 수 있다.
전술한 서버의 동작은 사용자 단말에 설치된 별도의 어플리케이션을 통해, 사용자 단말에서 수행될 수 있다.
이를 통해, 본 명세서에서 제안되는 방법은 단어 암기의 효율성과 효과 모두를 크게 증가시킬 수 있으며, 서버는 사용자의 지식 추적을 통해, 학습된 AI 모델을 이용하여, 사용자에게 추천되는 단어의 정확도를 높힐 수 있다.
도 4는 본 명세서가 적용될 수 있는 일 실시예이다.
도 4를 참조하면, 서버는 네트워크로부터, 학습 데이터를 수신하고, 학습 데이터를 이용하여, AI 모델을 학습시킨다(S410). 예를 들어, 네트워크는 전술한 ITS를 포함할 수 있으며, 학습 데이터는 하나 이상의 사용자가 학습을 위한 단어장에 추가한 단어의 정보를 포함할 수 있다. 보다 자세하게, 학습 데이터는 인덱스, 사용자 식별자, 단어 및 marking 여부에 관한 데이터를 포함할 수 있다. AI 모델은 사용자 별로 사용자가 모르는 단어들의 데이터들을 학습할 수 있다.
서버는 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성한다(S420). 예를 들어, AI 모델은 (1) 사용자 임베딩 벡터를 생성하기 위한 사용자 임베딩 모델 및 (2) 단어 임베딩 벡터를 생성하기 위한 단어 임베딩 모델을 포함할 수 있다. 또한, 서버는 (1) 사용자 임베딩 모델 및 (2) 단어 임베딩 모델을 서로 가장 가까이 위치한 (1) 사용자 벡터 및 (2) 단어 벡터가 인코딩 될 수 있도록 최적화시킬 수 있다.
서버는 (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력한다(S430). 예를 들어, 함수(f)는 (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터의 근접성에 근거하여, 상기 결과값을 출력할 수 있으며, 전술한 수학식 1에 근거하여, 결과값을 출력할 수 있다. 보다 자세하게, 수학식 1에서 u는 상기 사용자 벡터, v는 상기 단어 벡터 및
Figure PCTKR2022008688-appb-img-000012
는 상기 결과값을 지시할 수 있다.
서버는 상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력한다(S440). 예를 들어, AI 모델은 사용자 임베딩 모델 및 단어 임베딩 모델을 포함할 수 있다. 보다 자세하게, 새로운 사용자 벡터는 사용자 임베딩 모델에 입력될 수 있고, 사용자 임베딩 모델은 임의 유사성 스코어링 함수에 입력하기 위한, 사용자 임베딩 벡터를 출력할 수 있다. 또한, 단어 벡터는 단어 임베딩 모델에 입력될 수 있고, 단어 임베딩 모델은 임의 유사성 스코어링 함수에 입력하기 위한 단어 임베딩 벡터를 출력할 수 있다.
예를 들어, 임의 유사성 스코어링 함수는 새로운 사용자가 당해 단어를 아는 경우, '0', 모르는 경우, '1'을 출력함으로써 서버는 새로운 사용자가 당해 단어를 아는 지 여부를 판단할 수 있다.
서버는 결과값에 근거하여, 사용자의 단말로 추천 단어 정보를 전달할 수 있다(S450). 예를 들어, 추천 단어 정보는 사용자가 모르는 단어로 예측된 단어를 포함할 수 있다.
전술한 본 명세서는, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 명세서의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 명세서의 등가적 범위 내에서의 모든 변경은 본 명세서의 범위에 포함된다.
또한, 이상에서 서비스 및 실시 예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 명세서를 한정하는 것이 아니며, 본 명세서가 속하는 분야의 통상의 지식을 가진 자라면 본 서비스 및 실시 예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시 예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 명세서의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (9)

  1. 서버가 사용자에게 단어를 추천하는 방법에 있어서,
    네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키는 단계;
    상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하는 단계;
    (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하는 단계; 및
    상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력하는 단계;
    를 포함하는, 단어 추천 방법.
  2. 제1항에 있어서,
    상기 AI 모델은 (1) 상기 사용자 임베딩 벡터를 생성하기 위한 사용자 임베딩 모델 및 (2) 상기 단어 임베딩 벡터를 생성하기 위한 단어 임베딩 모델을 포함하는, 단어 추천 방법.
  3. 제2항에 있어서,
    (1) 상기 사용자 임베딩 모델 및 (2) 상기 단어 임베딩 모델은
    서로 가장 가까이 위치한 (1) 상기 사용자 벡터 및 (2) 상기 단어 벡터를 인코딩하도록 최적화된, 단어 추천 방법.
  4. 제3항에 있어서,
    상기 함수는
    (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터의 근접성에 근거하여, 상기 결과값을 출력하는, 단어 추천 방법.
  5. 제4항에 있어서,
    상기 함수는 다음의 수학식:
    Figure PCTKR2022008688-appb-img-000013
    에 근거하여 상기 결과값을 출력하며, 상기 u는 상기 사용자 벡터, 상기 v는 상기 단어 벡터 및 상기
    Figure PCTKR2022008688-appb-img-000014
    는 상기 결과값을 지시하는, 단어 추천 방법.
  6. 제1항에 있어서,
    상기 결과값에 근거하여, 상기 사용자의 단말로, 추천 단어 정보를 전달하는 단계;
    를 더 포함하는, 단어 추천 방법.
  7. 제6항에 있어서,
    상기 학습 데이터는
    하나 이상의 사용자가 학습을 위한 단어장에 추가한 단어의 정보를 포함하는, 단어 추천 방법.
  8. 사용자에게 단어를 추천하는 서버에 있어서,
    통신모듈(communication module);
    메모리;
    프로세서를 포함하고,
    상기 프로세서는
    상기 통신 모듈을 통해, 네트워크로부터 학습 데이터를 수신하고, 상기 학습 데이터를 이용하여, AI 모델을 학습시키며,
    상기 학습된 AI 모델에 근거하여, 상기 AI 모델에 (1) 사용자 벡터 및 (2) 단어 벡터를 입력하고, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 (1) 사용자 임베딩 벡터 및 (2) 단어 임베딩 벡터를 생성하고,
    (1) 상기 사용자 임베딩 벡터 및 (2) 상기 단어 임베딩 벡터를 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 판단하기 위한 함수에 입력하며,
    상기 함수로부터, 상기 사용자가 상기 단어 벡터와 관련된 단어를 아는지 여부를 예측하기 위한 결과값을 출력하는, 장치.
  9. 제8항에 있어서,
    상기 프로세서는
    상기 통신 모듈을 통해, 상기 결과값에 근거하여, 상기 사용자의 단말로, 추천 단어 정보를 전달하는, 장치
PCT/KR2022/008688 2021-06-21 2022-06-20 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템 WO2022270840A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210079781A KR102388909B1 (ko) 2021-06-21 2021-06-21 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템
KR10-2021-0079781 2021-06-21

Publications (1)

Publication Number Publication Date
WO2022270840A1 true WO2022270840A1 (ko) 2022-12-29

Family

ID=81437260

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/008688 WO2022270840A1 (ko) 2021-06-21 2022-06-20 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템

Country Status (3)

Country Link
US (1) US20220406217A1 (ko)
KR (1) KR102388909B1 (ko)
WO (1) WO2022270840A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102388909B1 (ko) * 2021-06-21 2022-04-21 (주)뤼이드 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101797365B1 (ko) * 2016-06-15 2017-11-15 울산대학교 산학협력단 어휘 의미망을 이용한 단어 의미 임베딩 장치 및 방법
KR20190139080A (ko) * 2018-06-07 2019-12-17 (주)제로엑스플로우 목표달성을 위한 개인화커리큘럼제공장치 및 방법
KR102075936B1 (ko) * 2019-08-21 2020-03-02 (주)뤼이드 학습 효율을 기반으로 개인 맞춤형 교육 컨텐츠를 제공하기 위한 기계학습 방법, 장치 및 컴퓨터 프로그램
KR20210012730A (ko) * 2019-07-26 2021-02-03 삼성전자주식회사 인공지능 모델의 학습 방법 및 전자 장치
KR102213476B1 (ko) * 2020-06-09 2021-02-08 (주)뤼이드 인공 지능 학습 기반의 학습 컨텐츠 추천 시스템 및 그것의 동작 방법
KR102388909B1 (ko) * 2021-06-21 2022-04-21 (주)뤼이드 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101797365B1 (ko) * 2016-06-15 2017-11-15 울산대학교 산학협력단 어휘 의미망을 이용한 단어 의미 임베딩 장치 및 방법
KR20190139080A (ko) * 2018-06-07 2019-12-17 (주)제로엑스플로우 목표달성을 위한 개인화커리큘럼제공장치 및 방법
KR20210012730A (ko) * 2019-07-26 2021-02-03 삼성전자주식회사 인공지능 모델의 학습 방법 및 전자 장치
KR102075936B1 (ko) * 2019-08-21 2020-03-02 (주)뤼이드 학습 효율을 기반으로 개인 맞춤형 교육 컨텐츠를 제공하기 위한 기계학습 방법, 장치 및 컴퓨터 프로그램
KR102213476B1 (ko) * 2020-06-09 2021-02-08 (주)뤼이드 인공 지능 학습 기반의 학습 컨텐츠 추천 시스템 및 그것의 동작 방법
KR102388909B1 (ko) * 2021-06-21 2022-04-21 (주)뤼이드 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템

Also Published As

Publication number Publication date
US20220406217A1 (en) 2022-12-22
KR102388909B1 (ko) 2022-04-21

Similar Documents

Publication Publication Date Title
WO2023003262A1 (ko) 시험 점수를 예측하는 방법 및 장치
WO2018128238A1 (ko) 디스플레이 장치를 이용한 가상 상담 시스템 및 방법
WO2022270840A1 (ko) 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 시스템
WO2020262800A1 (en) System and method for automating natural language understanding (nlu) in skill development
WO2018212584A2 (ko) 딥 뉴럴 네트워크를 이용하여 문장이 속하는 클래스를 분류하는 방법 및 장치
WO2018169276A1 (ko) 언어 정보를 처리하기 위한 방법 및 그 전자 장치
KR20240012245A (ko) 자연어처리 기반의 인공지능 모델을 이용한 faq를 자동생성하기 위한 방법 및 이를 위한 장치
WO2022211271A1 (ko) 학습 기반의 필기 입력을 처리하는 전자 장치, 그 동작 방법 및 저장매체
WO2022270841A1 (ko) 외국어 학습자의 어휘 실력 예측과 향상을 위한 딥러닝 기반의 단어 추천 방법
WO2019225875A1 (ko) 재고 추적 방법 및 장치
WO2024048854A1 (ko) 지식 기반 질의 응답을 위한 구조적 주의 집중 기제 기반의 추론 방법 및 이를 수행하기 위한 컴퓨팅 장치
KR102396981B1 (ko) 인공지능 모델을 사전 학습시키는 방법 및 장치
WO2022071708A1 (ko) 컨텐츠 추천 서비스를 제공하는 전자 장치 및 그 방법
WO2021251600A1 (ko) 인공지능을 활용한 콘텐츠 흥행 등급 예측 방법 및 장치
WO2022139327A1 (en) Method and apparatus for detecting unsupported utterances in natural language understanding
WO2023182605A1 (ko) 수학식 음독 기술을 활용한 수학관련 인공지능 모델 성능 개선 및 검색 용이성 확대 방법
WO2022196955A1 (ko) 인공지능 모델을 사전 학습시키는 방법 및 장치
WO2023022405A1 (ko) 사전 학습을 위한 자동화 머신 러닝
KR102445226B1 (ko) 지식 추적을 위한 모델 경량화 방법
WO2020213757A1 (ko) 단어 유사도 판단 방법
US20230122639A1 (en) Method of reducing size of model for knowledge tracing
KR102516701B1 (ko) 오답 노트 생성 장치
WO2023068495A1 (ko) 전자 장치 및 그 제어 방법
WO2022270942A1 (ko) 사용자에게 학습 여정을 제공하는 방법 및 장치
WO2023149664A1 (ko) 사용자 입력에 대한 인식 성능 개선 방법 및 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22828687

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22828687

Country of ref document: EP

Kind code of ref document: A1