WO2024048881A1 - Learning system, and method for operating learning application - Google Patents

Learning system, and method for operating learning application Download PDF

Info

Publication number
WO2024048881A1
WO2024048881A1 PCT/KR2023/002650 KR2023002650W WO2024048881A1 WO 2024048881 A1 WO2024048881 A1 WO 2024048881A1 KR 2023002650 W KR2023002650 W KR 2023002650W WO 2024048881 A1 WO2024048881 A1 WO 2024048881A1
Authority
WO
WIPO (PCT)
Prior art keywords
area
user
file
solution
areas
Prior art date
Application number
PCT/KR2023/002650
Other languages
French (fr)
Korean (ko)
Inventor
이충훈
Original Assignee
주식회사 애드아이랩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020230024562A external-priority patent/KR20240031863A/en
Application filed by 주식회사 애드아이랩 filed Critical 주식회사 애드아이랩
Publication of WO2024048881A1 publication Critical patent/WO2024048881A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/02Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B7/00Electrically-operated teaching apparatus or devices working with questions and answers
    • G09B7/02Electrically-operated teaching apparatus or devices working with questions and answers of the type wherein the student is expected to construct an answer to the question which is presented or wherein the machine gives an answer to the question presented by a student

Definitions

  • the present invention relates to a learning system and a method of operating a learning application. More specifically, the present invention relates to a learning system that recognizes various problem files input by a user, recognizes the problem area and the preliminary area, and provides various services based on this. It is about how systems and learning applications operate.
  • an operation is performed to distinguish problem areas and preliminary areas from various types of problem files input by a user, recognize data extracted from the differentiated areas, and provide various services necessary for learners. It concerns how learning systems and learning applications operate.
  • the learning system includes at least one processor executing artificial intelligence and applications learned from a server; and at least one display that receives and displays a user's input and outputs an operation of the application, wherein the processor receives a problem file uploaded by the user and, based on the learned artificial intelligence, Dividing a problem area and a problem area in a problem file, extracting text or extracting a picture from the divided problem area and the separated problem area, and extracting the problem file from the server based on the extracted text or picture. Requesting problem solving information and outputting the received problem solving information through the display based on the user's input.
  • the processor distinguishes between the problem area and the problem area by converting the received problem file into an image file, first recognizing the problem area through the artificial intelligence in the converted image file, and image excluding the problem area. It may include recognizing as the problem area.
  • the processor generates problem data based on the extracted text or the extracted picture, and the problem data includes page information including the problem area and the selection area in the problem file, extracted from the problem area, and It may include at least one of a question number, question content included in the problem area, the number of questions extracted from the question paper area, and question content included in the question paper area.
  • the problem solving information includes at least one of other users' incorrect answer rate, average solving time, and problem difficulty generated based on semantic search using Knowledge Gragh, and is based on the correct answer entered by the user. It can be updated in real time.
  • the process distinguishes a problem area and a question area where the user's solution is entered, compares the question area where the user's solution is entered with the correct answer included in the problem solution information, and determines whether the answer is correct based on the comparison result. can be decided.
  • the processor recognizes only the problem area and the question area containing the wrong answer based on the problem solving information, deletes areas other than the problem area and the question area containing the incorrect answer, and deletes the problem area and the question area containing the incorrect answer. Only the area can be rearranged and output on the display.
  • the processor may delete the input value containing the user's solution and output only the problem area and the selection area containing the incorrect answer through the display. there is.
  • the processor may control the display to weakly display the sound range of areas other than the problem area and the selection area containing the user's solution, and to delete the input value containing the user's solution.
  • a method of operating an application of a user terminal that communicates with an external server includes an artificial intelligence and a network that have learned how to distinguish problem areas and problem areas based on learning data labeling problem areas or problem areas. connected through; display problem files uploaded by the user; distinguishing problem areas and preliminary areas in the problem file based on the learned artificial intelligence; Extracting text and extracting pictures from the divided problem area and the divided paper area; requesting the problem solving information of the problem file from the server based on the extracted text and picture; and outputting the received problem solving information through the display.
  • Distinguishing a problem area and a problem area among the problem files includes converting the received problem file into an image file;
  • the line area is first recognized through the artificial intelligence; It may include recognizing the image excluding the image area as the problem area.
  • the problem solving information is generated by the artificial intelligence included in the server to include at least one of other users' incorrect answer rate, average solving time, and problem difficulty generated based on semantic search using Knowledge gragh, , the server updates the problem solving information in real time based on the solution input by the user.
  • the learning system and learning application operation method can distinguish problem areas and preliminary areas in various types of problem files, recognize data extracted from the distinguished areas, and provide various services necessary for learners. there is.
  • the learning system and learning application operation method provides convenience of problem solving such as automatic scoring, creation of incorrect answer notes, and incorrect answer rate of other learners based on problem solving performed by the learner, and only problems including incorrect answers are provided. You can provide a service that allows learners to solve problems again by editing them separately.
  • FIG. 1 is a diagram illustrating the configuration of a learning system according to an embodiment of the disclosure.
  • Figure 2 is a control block diagram for explaining the configuration of a user terminal.
  • Figure 3 is a flowchart for explaining a method of operating a learning application according to an updated embodiment.
  • FIGS 4 to 8 show an example to specifically explain the operation method of Figure 3.
  • FIG. 9 is a flowchart to explain in more detail the operation of an application for another embodiment.
  • Figure 10 is a flow chart to explain various services that can be provided to users using problem solving information.
  • FIGS. 11 and 12 are diagrams for specifically explaining the flow chart illustrated in FIG. 10 .
  • Figure 13 is a diagram of another embodiment of performing a single-copy service.
  • first and second are used to distinguish one component from another component, and the components are not limited by the above-mentioned terms.
  • the identification code for each step is used for convenience of explanation.
  • the identification code does not explain the order of each step, and each step may be performed differently from the specified order unless a specific order is clearly stated in the context. there is.
  • FIG. 1 is a diagram for explaining the configuration of a learning system according to an embodiment of the disclosure
  • FIG. 2 is a control block diagram for explaining the configuration of a user terminal. To avoid redundant explanation, they are explained together below.
  • the disclosed learning system transmits and receives data through a user terminal 10 of a learner (hereinafter referred to as a user) and a server 20 through a network.
  • a user a learner
  • server 20 a server
  • the user terminal 10 receives the problem file uploaded by the user in the form of data, and communicates the received problem file and information necessary for services and operations according to the disclosed embodiment with the server 20 through the network.
  • the user terminal 10 can download an application containing the learned artificial intelligence from the server 20 and recognize the problem file uploaded by the user through the application.
  • the user terminal 10 recognizes the problem file as a problem area and a selection area, extracts text and pictures, and provides them to the server 20.
  • the application can provide various services to the user by receiving problem solving information from the server 20 and displaying it on the display of the user terminal 10.
  • the user terminal 10 is expressed as a tablet PC, but it is not necessarily limited thereto, and may be implemented as a computer or portable terminal that can connect to the server 20 through a network.
  • the computer includes, for example, a laptop equipped with a web browser, a desktop, a laptop, a tablet PC, a slate PC, etc.
  • the portable terminal includes, for example, portability and mobility.
  • Covered wireless communication devices include Personal Communication System (PCS), Global System for Mobile communications (GSM), Personal Digital Cellular (PDC), Personal Handyphone System (PHS), Personal Digital Assistant (PDA), and International Mobile Telecommunication (IMT).
  • PCS Personal Communication System
  • GSM Global System for Mobile communications
  • PDC Personal Digital Cellular
  • PHS Personal Handyphone System
  • PDA Personal Digital Assistant
  • IMT International Mobile Telecommunication
  • WiBro Wireless Broadband Internet
  • smart phone etc. based on all types of handhelds It may include wireless communication devices and wearable devices such as watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-device (HMD).
  • wireless communication devices and wearable devices such as watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-device (HMD).
  • the server 20 is a configuration in which multiple CPUs are integrated and provided at a specific location designated by an application supplier. It is not limited to an HTTP server and has a hardware configuration that operates through a request from a client, that is, the user terminal 10. it means.
  • the server software not only distinguishes the problem area and the preliminary area of the problem file through artificial intelligence, which will be described in detail below, and extracts text and pictures, but also generates problem solving information and then sends it to the user terminal 10. It may be composed of a series of programs provided, and may be continuously updated on the server 20.
  • the CPUs constituting the server 20 do not necessarily need to be provided in the same space, and may be provided separately on a network to operate the server software.
  • problem file input by the user is expressed as a problem collection, but the data received by the disclosed learning system is not limited to a file composed of problems for learners.
  • Problem files contain various types of materials, such as worksheets containing information necessary for user learning, manuals and textbooks containing study guides, and these various types of materials are simply unified and explained as a problem file.
  • the problem solving information is generated by artificial intelligence provided in the server 20 based on semantic search using Knowledge gragh, and may specifically include at least one of the following: other users' incorrect answer rate, average solving time, and problem difficulty. You can. A detailed explanation of this will be provided later with reference to Figure 8.
  • the user terminal 10 includes at least one processor 100 that performs artificial intelligence and applications learned through the server 20, learned artificial intelligence codes and problem-solving information, as well as the server 20 It includes a memory 110 that stores various data such as problem-solving information received from ) and at least one display 120 that receives and displays user input and outputs the operation of the application.
  • the memory 110 includes non-volatile memory elements such as cache, read only memory (ROM), programmable ROM (PROM), erasable programmable ROM (EPROM), electrically erasable programmable ROM (EEPROM), and flash memory.
  • ROM read only memory
  • PROM programmable ROM
  • EPROM erasable programmable ROM
  • EEPROM electrically erasable programmable ROM
  • flash memory Alternatively, it may be implemented as at least one of a volatile memory element such as RAM (Random Access Memory) or a storage medium such as a hard disk drive (HDD) or CD-ROM, but is not limited thereto.
  • the memory 110 may be implemented as a separate chip from the processor 100, but is not necessarily limited to this, and may also be implemented as a single chip with the processor 100.
  • the display 120 includes a Digital Light Processing (DLP) panel, a Plasma Display Panel, a Liquid Crystal Display (LCD) panel, an Electro Luminescence (EL) panel, and an electrophoresis panel. It can be prepared as an Electrophoretic Display (EPD) panel, Electrochromic Display (ECD) panel, Light Emitting Diode (LED) panel, or Organic Light Emitting Diode (OLED) panel. It is not limited to this.
  • DLP Digital Light Processing
  • Plasma Display Panel a Liquid Crystal Display
  • EL Electro Luminescence
  • electrophoresis panel It can be prepared as an Electrophoretic Display (EPD) panel, Electrochromic Display (ECD) panel, Light Emitting Diode (LED) panel, or Organic Light Emitting Diode (OLED) panel. It is not limited to this.
  • the display 120 may include a GUI (Graphical User Interface), that is, a software device, such as a touch pad, to receive user input.
  • GUI Graphic User Interface
  • the touch pad is implemented as a touch screen panel (TSP) and can form a mutual layer structure with the display 120.
  • the processor 100 may be, for example, a central processing unit (CPU), and the components of the processor 100 described above may include software and/or a field programmable gate array (FPGA) and an application specific semiconductor (ASIC). Refers to hardware components such as Integrated Circuit.
  • CPU central processing unit
  • FPGA field programmable gate array
  • ASIC application specific semiconductor
  • the processor 100 receives the problem file uploaded by the user, and the file receiving unit 101 temporarily stores the problem area in the problem file through learned artificial intelligence.
  • the extraction unit 102 extracts text and/or pictures, generates problem data based on the extracted text and/or pictures, and transmits the generated problem data to the server 20 to provide user information.
  • An information generation unit 103 that receives problem-solving information to be provided to the user and a so-called single-issue service that removes problem areas and preliminary paper areas that the user does not want and rearranges the remaining problem areas and preliminary paper areas based on the user's input. It may be divided into a file creation unit 104.
  • the file receiving unit 101 may receive the problem file input by the user as data such as PDF, or may receive the problem file in the form of an image by being photographed by a camera provided in the user terminal 10.
  • the processor 100 stores problem files uploaded in various formats in the memory 110.
  • the extraction unit 102 divides the problem file into a problem area and a preliminary area through object recognition.
  • the extraction unit 102 converts the problem file input in PDF format into image format. If a file has already been received in image form by taking a picture by the user, the process of converting it to image form can be omitted.
  • the extraction unit 102 recognizes the problem area and the selection area through artificial intelligence previously learned through the server 20.
  • the artificial intelligence may be a YoLO (You only Look Once) neural network.
  • YoLO is a neural network specialized in object recognition that identifies objects in images or videos through deep learning, and recognizes objects through bounding boxes.
  • YoLO is a type of CNN (Convolutional Neural Network) that can be trained by continuously repeating the process of going through the Conv Layer and Max Pooling Layer.
  • the neural network that recognizes the problem area and the predetermined area is not necessarily limited to YoLO, and may include various artificial neural networks that can be used in object recognition, such as CNN and Fast YoLO.
  • artificial intelligence can learn how to distinguish between problem areas and preliminary areas through numerous learning data in the server 20. Specifically, artificial intelligence is learned through labeled learning data that bounds the preliminary area and the problem area in the problem file and determines whether the bounded area is the problem area or the preliminary area.
  • the learned artificial intelligence is transmitted to the user terminal 10 or stored in the server 20, and the extraction unit 102 uses the learned artificial intelligence to recognize objects for the problem file input from the user.
  • the extraction unit 102 first divides the paper area for each page of the problem file to create a bounding box, and then recognizes the remaining area excluding the paper area and the entire paper area as the problem area.
  • a specific embodiment in which the extraction unit 102 recognizes the problem area and the problem area will be described later with reference to FIG. 6, etc.
  • the extraction unit 102 extracts text or pictures included in each area. For example, from the problem area, the extraction unit 102 can extract the problem number, problem content, formula, or a picture, graph, or view needed to solve the problem. In the selection area, numbers representing candidates and text (including numbers) containing correct and incorrect answers can be extracted.
  • the information generation unit 103 generates problem data based on the text extracted by the extraction unit 102.
  • problem data refers to a variety of information that can be extracted from the recognized problem area and preliminary area, for example, page information, problem number extracted from the problem area, problem content included in the problem area, and extracted from the preliminary area. It may include at least one of the number of slices and the contents of the slices included in the slice area. A detailed description of data that may be included in the problem data will be described later with reference to FIG. 7, etc.
  • the information generation unit 103 transmits the problem data to the server 20.
  • the server 20 generates problem solving information based on the received problem data.
  • the problem solving information includes not only information about which test the problem file corresponds to, but also the correct answer to the problem recognized in the problem file, the average solving time and error rate of other users for problems recognized as problem areas, and Including problem difficulty level, etc.
  • the server 20 may use semantic search using Knowledge Gragh to generate problem solving information.
  • Semantic search means that search queries search for keywords in problem data through learned artificial intelligence, identify the intent of the problem data, and search for problem-solving information in problem files stored in advance or located on the network.
  • the disclosed server 20 finds an object using the subject and predicate included in the text extracted from the problem data, then converts the object of the ontology into a triple subject and continuously searches the linked data. Through this, the server 20 searches for data that clearly matches the problem file based on the problem data and the correct answer information matched thereto, and then generates problem solving information based on the correct answer information.
  • the server 20 may use various types of artificial intelligence to generate problem-solving information, or it may use problem file information that has already been converted into data from when the problem file was created. In other words, it is sufficient for the disclosed server 20 to process data to provide necessary services to users through problem-solving information, and it is not necessary to use only semantic search.
  • the problem solving information may be information including whether the problem file is related to a certain test.
  • the problem solving information may also include page information of the problem file, problem number, and information about the correct answer to the problem area recognized through the selection. If the problem data includes the user's solution information, the problem solution information may also include whether the user's input value is a correct answer or an incorrect answer.
  • the problem solving information may include the error rate or difficulty level of the problem area based on other users' incorrect answers that are stored and updated in advance, and may also include information about the average solving time of other users.
  • the server 20 transmits problem-solving information containing various data to the user terminal 10, and the information generator 103 can visualize the problem-solving information and provide it to the user through the display 120.
  • An embodiment of providing problem-solving information will be described later with reference to FIG. 8, etc.
  • the file creation unit 104 can create a new file by editing the problem file in various ways based on user input.
  • the file creation unit 104 may utilize pre-extracted problem areas and preset areas to create new problem files that meet the needs of individual users.
  • the file creation unit 104 extracts only the problem area and the test area in which an incorrect answer was entered based on the problem solving information, and deletes the problem area and the test paper area in which the correct answer was entered.
  • the file creation unit 104 may rearrange the remaining problem areas and selected areas and then output them on the display 120.
  • the file creation unit 104 may delete and rearrange only the areas marked by the user in the problem area and the paper area.
  • the area other than the problem area and the paper area in which the handwriting was entered in the problem file may be weakened. You can also process it and create a new problem file.
  • the configuration of the processor 100 described in FIG. 2, that is, the file receiving unit 101, the extracting unit 102, the information generating unit 103, and the file generating unit 104, is software for specifically explaining the operation of the application. This is a general explanation, and is not necessarily distinguished through a separate hardware chip.
  • Figure 3 is a flowchart for explaining a method of operating a learning application according to an updated embodiment.
  • Figures 4 to 8 show an example to specifically explain the operation method of Figure 3. To avoid redundant explanation, they are explained together below.
  • the application receives a problem file to be uploaded by the user (200).
  • the application may output a user interface through the display 20 as shown in FIG. 4 so that the user can check the problem file uploaded.
  • the application may provide an icon 11 that allows the user to select whether the question file is included in a certain exam year or related to a certain exam, and as shown in FIG. A function to input a file name (12) can be provided.
  • the disclosed learning system generates problem data. While generating problem data, the disclosed learning system may refer to data corresponding to file names or icons classified by the user. In other words, in addition to information recognized through text in the problem file, problem data can also be generated based on the type of problem entered by the user.
  • the application divides the problem file into a problem area and a preliminary area (201).
  • the application converts the problem file into an image, first classifies the line area within the image through learned artificial intelligence, and then can classify the problem area.
  • the application can recognize the part of the problem file related to 'Moon 1' as four preliminary areas and one problem area.
  • the four test areas are divided into bounding boxes for each line, and the entire area other than the four test areas can be divided into a problem area in the form of a bounding box.
  • the application converts the problem file into an image and displays a message saying "The uploaded problem is being recognized" to make the user aware that artificial intelligence is performing an operation to classify the problem area (120). It can be printed to . That is, image files divided by bounding boxes as shown in FIG. 6 are not output through the display 120 and may not be displayed to the user.
  • the application extracts text and pictures from each area (203).
  • the application can extract “question 1" and the content of the problem as text in the problem area, and the question area can extract the content of each question as text, as well as the question number such as "1234". You can.
  • the extracted graph or picture is recognized as a problem area and extracted.
  • Extracted text or pictures are converted into problem data.
  • the application may generate problem data as shown in FIG. 7.
  • the generated problem data may not be visually displayed to the user.
  • the application determines that the uploaded problem file is 'first page', the pixels occupied by the problem area correspond to [22, 740, 150, 125], the problem number is '1', and no views are included. You can create problem data with 4 choices. Additionally, the problem data may include the content of the problem and the content of each selection based on the extracted text.
  • the application transmits the generated problem data to the server 20 (204).
  • the server 20 generates problem solving information including at least one of other users' incorrect answer rate, average solving time, and problem difficulty generated based on semantic search using Knowledge gragh.
  • the generated problem-solving information is transmitted back to the application, and the application obtains the problem-solving information (205).
  • the problem solving information includes information about the test type in which the problem related to the problem file is '2019 Civil Service Written Test', information that the user's input value is an 'incorrect answer', and information that other learners have solved the same problem. It includes information on the results of entering incorrect answers (30% incorrect answer rate), the average time required to solve the recognized problem (15 seconds), and the level of difficulty (level C) based on the incorrect answer rate and average time.
  • the server 20 may compare the correct answer of the problem solving information based on the user's input value and generate problem solving information including that the user's input value is an incorrect answer.
  • the application may output problem solving information through the display 120 (206).
  • the application may display problem-solving information in simple text form as shown in FIG. 8, but may also provide problem-solving information to users using a visual user interface through various graphs, images, and avatars.
  • the drawings shown in FIGS. 4 to 8 are merely examples for explaining the operation of the application, and the problem solving information may include various information that can be generated by recognizing the problem area and the selection area.
  • Figure 9 is a flowchart for specifically explaining the operation of an application according to another embodiment.
  • the flowchart of FIG. 9 assumes that the user terminal 10 has already distinguished the problem area and the preliminary area of the problem file and then obtained problem solving information from the server 20. .
  • this is a flow chart for an embodiment in which the user terminal 10 obtains problem solving information that does not include incorrect answers from the server 20 and then receives the user's input.
  • the application receives user input (210).
  • the user's input may mean a solution entered from a problem file uploaded by the user or an input value that the user checks as an important problem.
  • the application compares the user's input with previously obtained problem solving information (220).
  • the problem-solving information obtained in advance includes preliminary information corresponding to the correct answer, and the application can determine whether the user's input is the correct answer by re-recognizing the preliminary exam area containing the user's input value among the divided answer areas. .
  • the application determines whether the answer is correct (231).
  • the application may display a screen indicating that the user's input is the correct answer. If the answer is incorrect, the application may display a screen indicating that the user's input is an incorrect answer.
  • the application updates problem solving information, including whether the answer is correct (232).
  • Updating problem solving information may be performed on the server 20. Since the problem solving information includes information about the incorrect answer rate of other users, the incorrect answer rate may change depending on whether the user's solution is correct or incorrect.
  • the application transmits information about the correct or incorrect answer to the server 20 according to the user's solution. Problem solving information updated in the server 20 can be used when another user requests problem solving information for the same problem file.
  • FIG. 10 is a flow chart to explain various services that can be provided to users using problem solving information.
  • FIGS. 11 and 12 are diagrams for specifically explaining the flow chart illustrated in FIG. 10 .
  • the application receives a user input for editing a problem file (300).
  • user input leading to editing of a problem file can be received by the application through various user interfaces.
  • the application When a command for editing a problem file is received, the application recognizes the problem area and the preliminary area containing the user solution (310).
  • the user solution includes various forms input by the user.
  • the user can input a user solution into the problem area and question paper area of Problem 1 through a user interface such as a fluorescent color display.
  • the application can recognize the problem area and the preliminary area that contain the user's solution.
  • a service that weakly expresses shading in areas not included in the user's solution can be provided (322).
  • the third screen 123 of FIG. 11 weakly displays an area that does not include the user's solution. That is, the first screen 121 in FIG. 11 is a screen in which the uploaded problem file is output through the display 120, the second screen 122 is a problem file in which the user solution is input, and the third screen 123 is a screen in which the uploaded problem file is output through the display 120.
  • This is a screen that provides a service that displays weak shading in areas other than the problem area where the user's solution is entered and the selection area.
  • the application can output with the user solution deleted (343).
  • the application while outputting the third screen 123 of FIG. 11, the application provides a service that allows the user to solve the problem again by outputting only the problem area and the selection area in which the user solution entered in the second screen 122 has been deleted. can do.
  • the application may perform a service of deleting a problem and an optional area for which the user has to solve (321) and rearranging the problem area and an optional area (330).
  • the application can recognize five problem areas and question areas recognized as incorrect answers during the user's solution. For example, the application can compare the problem solving information with the user's solution and determine that five problems have incorrect answers.
  • the application can create a new file that preserves only the problem areas and selected areas recognized as incorrect answers.
  • the application can rearrange the problem area and preset area to be preserved by considering the size of the problem file and the size of each area.
  • Relocation of the problem area and preset area is performed based on problem data generated when the application recognizes the problem file, and relocation is performed according to page information, size of the area, and size of the entire page. Relocation may be performed by leaving an area on the right as shown in the second screen 125 of FIG. 12, but this rearrangement is only an example and rearrangement may be performed in various ways.
  • the application When relocation is completed, the application outputs the relocated file with the user's solution remaining as is (341), and deletes and outputs the user's solution as shown in the second screen 125 of FIG. 12 (342).
  • Figure 13 is a diagram of another embodiment of performing a single-copy service.
  • the application may include a function to re-edit an edited problem file for a user who studies the same problem file multiple times.
  • the user can edit the problem file after inputting user solutions into several problem areas and selection areas of the problem included in the uploaded problem file.
  • the application displays a solution area containing the user solution, as shown in the second screen 127 of FIG. 13.
  • the user can again input another user's solution into the relocated problem file (second screen 127 in FIG. 13).
  • the application can edit the problem file while leaving the problem area and optional area that do not include the user's solution.
  • the application outputs a rearranged edit file by deleting the problem area and the preliminary paper area containing the user solution and preserving only the problem area and the preliminary paper area that do not contain the user solution. You can.
  • the disclosed learning system and the application operating through the learning system can use recognized problem areas and preliminary areas and perform various functions that provide convenience to learners through solutions that can be entered by users in various ways, and through this, users can increase learning efficiency.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Tourism & Hospitality (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

A learning system according to one disclosed embodiment comprises: at least one processor for executing an application and artificial intelligence trained through a server; and at least one display which receives an input of a user and displays same, and which outputs an operation of the application, wherein the processor receives a problem file uploaded by a user, separates a problem area and an option area from the problem file on the basis of the trained artificial intelligence, extracts text or a picture from the separated problem area and the separated option area, requests problem solution information about the problem file from the server on the basis of the extracted text or picture, and outputs the received problem solution information through the display on the basis of the input of the user.

Description

학습 시스템 및 학습 애플리케이션 동작방법How learning systems and learning applications work
본 발명은 학습 시스템 및 학습 애플리케이션 동작방법에 관한 것으로, 보다 상세하게는 사용자가 입력하는 다양한 문제파일을 인식하고, 문제 영역과 선지 영역을 구분하여 인식한 후, 이를 바탕으로 다양한 서비스를 제공하는 학습 시스템 및 학습 애플리케이션 동작방법에 관한 것이다.The present invention relates to a learning system and a method of operating a learning application. More specifically, the present invention relates to a learning system that recognizes various problem files input by a user, recognizes the problem area and the preliminary area, and provides various services based on this. It is about how systems and learning applications operate.
최근, 교육 과정에서의 시험, 대학 입시, 공무원 시험 및 자격증 등 의 다양한 시험에 대한 학구열이 상승하면서, 공부 방법에 대한 관심 또한 증가하고 있다.Recently, as the enthusiasm for studying various tests such as curriculum tests, college entrance exams, and civil service exams and certifications increases, interest in study methods is also increasing.
종전, 종이 형태로 제공되었던 학습지 또는 문제집은 정보통신의 발전에 따라 PDF 또는 다양한 데이터 형태로 학습자에게 제공되고 있다. 그러나 일반적인 에듀테크는 업체 스스로 생성 또는 데이터베이스화된 문제집 및 학습지를 애플리케이션으로 제공하여, 학습자가 다른 에듀테크의 문제집을 풀거나 정리하기 위해서 다시 다른 애플리케이션을 설치해야 하는 번거러움이 있었다. Previously, workbooks or workbooks that were provided in paper form are now being provided to learners in PDF or various data formats due to the advancement of information and communication. However, typical edutech companies provide workbooks and worksheets that the company itself creates or databases as applications, causing the inconvenience of having to install another application again in order for learners to solve or organize workbooks from other edutechs.
추가로 학습자는 여러 문제집에서 풀었던 오답이나 정리사항을 별도로 정리해야 하는 불편함이 있었으며, 시험 직전 방대한 양의 공부량을 줄이기 위한 정리작업, 일명 단권화를 스스로 수행해야 하는 불편함이 있었다.In addition, learners had the inconvenience of having to separately organize incorrect answers or information solved in multiple workbooks, and had to perform the organizing work themselves, so-called single volume, to reduce the huge amount of studying just before the exam.
개시된 일 실시예에 따르면, 사용자가 입력하는 다양한 형태의 문제 파일에서 문제 영역과 선지 영역을 스스로 구별하고, 구별된 영역에서 추출된 데이터를 인식하여, 학습자에게 필요한 다양한 서비스를 제공하는 동작을 수행하는 학습 시스템 및 학습 애플리케이션 동작방법에 관한 것이다.According to one disclosed embodiment, an operation is performed to distinguish problem areas and preliminary areas from various types of problem files input by a user, recognize data extracted from the differentiated areas, and provide various services necessary for learners. It concerns how learning systems and learning applications operate.
개시된 일 실시예에 따른 학습 시스템은, 서버로부터 학습된 인공지능 및 애플리케이션을 실행하는 적어도 하나 이상의 프로세서; 및 사용자의 입력을 수신 및 표시하고, 상기 애플리케이션의 동작을 출력하는 적어도 하나 이상의 디스플레이;를 포함하고, 상기 프로세서는, 상기 사용자가 업로드하는 문제 파일을 수신하고, 상기 학습된 인공지능을 기초로 상기 문제 파일 중 문제 영역 및 선지 영역을 구분하고, 상기 구분된 문제 영역 및 상기 구분된 선지 영역에서 텍스트 추출 또는 그림 추출을 수행하고, 상기 추출된 텍스트 또는 그림에 기초하여 상기 서버로부터 상기 문제 파일의 상기 문제 풀이 정보를 요청하고, 상기 사용자의 입력에 기초하여 상기 수신된 문제 풀이 정보를 상기 디스플레이를 통해 출력하는 것;을 포함한다.The learning system according to the disclosed embodiment includes at least one processor executing artificial intelligence and applications learned from a server; and at least one display that receives and displays a user's input and outputs an operation of the application, wherein the processor receives a problem file uploaded by the user and, based on the learned artificial intelligence, Dividing a problem area and a problem area in a problem file, extracting text or extracting a picture from the divided problem area and the separated problem area, and extracting the problem file from the server based on the extracted text or picture. Requesting problem solving information and outputting the received problem solving information through the display based on the user's input.
상기 프로세서가 상기 문제 영역 및 상기 선지 영역을 구분하는 것은, 상기 수신된 문제 파일을 이미지 파일로 변환하고, 변환된 이미지 파일에서 상기 인공지능을 통해 선지 영역을 먼저 인식하고, 상기 선지 영역을 제외한 이미지를 상기 문제 영역으로 인식하는 것;을 포함할 수 있다.The processor distinguishes between the problem area and the problem area by converting the received problem file into an image file, first recognizing the problem area through the artificial intelligence in the converted image file, and image excluding the problem area. It may include recognizing as the problem area.
상기 프로세서는, 상기 추출된 텍스트 또는 상기 추출된 그림에 기초하여 문제 데이터를 생성하고, 상기 문제 데이터는, 상기 문제 파일에서 상기 문제 영역 및 상기 선지 영역이 포함된 페이지 정보, 상기 문제 영역에서 추출된 문제 번호, 상기 문제 영역에 포함된 문제 내용, 상기 선지 영역에서 추출된 선지 개수, 상기 선지 영역에 포함된 선지 내용 중 적어도 하나를 포함할 수 있다.The processor generates problem data based on the extracted text or the extracted picture, and the problem data includes page information including the problem area and the selection area in the problem file, extracted from the problem area, and It may include at least one of a question number, question content included in the problem area, the number of questions extracted from the question paper area, and question content included in the question paper area.
상기 문제 풀이 정보는, Knowledge Gragh를 이용한 시맨틱 서치(Semantic search)에 기초하여 생성된 다른 사용자의 오답률, 평균 풀이시간 및 문제 난이도 중 적어도 하나 이상의 정보를 포함하고, 상기 사용자가 입력한 정답에 기초하여 실시간으로 업데이트될 수 있다.The problem solving information includes at least one of other users' incorrect answer rate, average solving time, and problem difficulty generated based on semantic search using Knowledge Gragh, and is based on the correct answer entered by the user. It can be updated in real time.
상기 프로세스는, 상기 사용자의 풀이가 입력된 문제 영역 및 선지 영역을 구분하고, 상기 사용자의 풀이가 입력된 선지 영역과 상기 문제 풀이 정보에 포함된 정답을 비교하고, 상기 비교 결과에 기초하여 정답 여부를 결정할 수 있다.The process distinguishes a problem area and a question area where the user's solution is entered, compares the question area where the user's solution is entered with the correct answer included in the problem solution information, and determines whether the answer is correct based on the comparison result. can be decided.
상기 프로세서는, 상기 문제 풀이 정보에 기초하여 오답을 포함하는 문제 영역 및 선지 영역만을 인식하고, 상기 오답을 포함하는 문제 영역 및 선지 영역 이외의 영역을 삭제하고, 상기 오답이 포함된 문제 영역 및 선지 영역만을 재배치하여 상기 디스플레이에 출력할 수 있다.The processor recognizes only the problem area and the question area containing the wrong answer based on the problem solving information, deletes areas other than the problem area and the question area containing the incorrect answer, and deletes the problem area and the question area containing the incorrect answer. Only the area can be rearranged and output on the display.
상기 프로세서는, 상기 오답이 포함된 문제 영역 및 선지 영역만을 재배치할 때, 상기 사용자의 풀이가 포함된 입력값을 삭제하고, 상기 오답이 포함된 문제 영역 및 선지 영역만을 상기 디스플레이를 통해 출력할 수 있다.When rearranging only the problem area and the selection area containing the incorrect answer, the processor may delete the input value containing the user's solution and output only the problem area and the selection area containing the incorrect answer through the display. there is.
상기 프로세서는, 상기 사용자 풀이가 포함된 문제 영역 및 선지 영역 이외의 영역의 음역을 약하게 표시하고, 상기 사용자의 풀이가 포함된 입력값을 삭제하도록 상기 디스플레이를 제어할 수 있다.The processor may control the display to weakly display the sound range of areas other than the problem area and the selection area containing the user's solution, and to delete the input value containing the user's solution.
개시된 다른 실시예에 따른 외부에 마련된 서버와 통신하는 사용자 단말의 애플리케이션 동작 방법은, 문제 영역 또는 선지 영역을 라벨링한 학습 데이터에 기초하여 문제 영역과 선지 영역을 구분하는 방법을 학습한 인공지능과 네트워크를 통해 연결되고; 상기 사용자가 업로드하는 문제 파일을 표시하고; 상기 학습된 인공지능에 기초하여 상기 문제 파일 중 문제 영역 및 선지 영역을 구분하고; 상기 구분된 문제 영역 및 상기 구분된 선지 영역에서 텍스트 추출 및 그림 추출을 수행하고; 상기 추출된 텍스트 및 그림에 기초하여 상기 서버로부터 문제 파일의 상기 문제 풀이 정보를 요청하고; 상기 수신된 문제 풀이 정보를 상기 디스플레이를 통해 출력하는 것;을 포함한다.A method of operating an application of a user terminal that communicates with an external server according to another disclosed embodiment includes an artificial intelligence and a network that have learned how to distinguish problem areas and problem areas based on learning data labeling problem areas or problem areas. connected through; display problem files uploaded by the user; distinguishing problem areas and preliminary areas in the problem file based on the learned artificial intelligence; Extracting text and extracting pictures from the divided problem area and the divided paper area; requesting the problem solving information of the problem file from the server based on the extracted text and picture; and outputting the received problem solving information through the display.
상기 문제 파일 중 문제 영역 및 선지 영역을 구분하는 것은, 상기 수신된 문제 파일을 이미지 파일로 변환하고; 변환된 이미지 파일에서 상기 인공지능을 통해 선지 영역을 먼저 인식하고; 상기 선지 영역을 제외한 이미지를 상기 문제 영역으로 인식하는 것;을 포함할 수 있다.Distinguishing a problem area and a problem area among the problem files includes converting the received problem file into an image file; In the converted image file, the line area is first recognized through the artificial intelligence; It may include recognizing the image excluding the image area as the problem area.
상기 문제 풀이 정보는, 상기 서버에 포함된 인공지능이 Knowledge gragh를 이용한 시맨틱 서치(Semantic search)에 기초하여 생성된 다른 사용자의 오답률, 평균 풀이시간 및 문제 난이도 중 적어도 하나 이상의 정보를 포함하도록 생성하고, 상기 서버는 상기 사용자가 입력한 풀이에 기초하여 상기 문제 풀이 정보를 실시간으로 업데이트하는 것;을 포함할 수 있다.The problem solving information is generated by the artificial intelligence included in the server to include at least one of other users' incorrect answer rate, average solving time, and problem difficulty generated based on semantic search using Knowledge gragh, , the server updates the problem solving information in real time based on the solution input by the user.
상기 사용자의 풀이가 입력된 문제 영역 및 선지 영역을 구분하고; 상기 사용자의 풀이가 입력된 선지 영역의 선지 번호와 상기 문제 풀이 정보에 포함된 정답을 비교하고; 상기 비교 결과에 기초하여 정답 여부를 결정하는 것;을 더 포함할 수 있다.distinguishing between a problem area and a preliminary area where the user's solution is input; Compare the answer number included in the problem solving information with the answer number of the question area in which the user's solution is entered; It may further include determining whether the answer is correct based on the comparison result.
상기 문제 풀이 정보에 기초하여 오답을 포함하는 문제 영역 및 선지 영역만을 인식하고; 상기 오답을 포함하는 문제 영역 및 선지 영역 이외의 영역을 삭제하고; 상기 오답이 포함된 문제 영역 및 선지 영역만을 재배치하는 것;을 더 포함할 수 있다.Based on the problem solving information, recognize only the problem area and the preliminary area containing incorrect answers; Delete areas other than the question area and exam area containing the incorrect answer; It may further include rearranging only the problem area and the test area containing the incorrect answer.
상기 사용자의 풀이가 입력된 문제 영역 및 선지 영역을 구분하고; 상기 문제 파일의 편집을 유도하는 유저 인터페이스를 표시하고; 상기 유저 인터페이스를 통해 입력되는 사용자 입력에 기초하여 상기 사용자의 풀이가 포함된 선지 영역과 그에 대응되는 문제 영역만을 상기 디스플레이를 통해 출력하는 것;을 포함할 수 있다.distinguishing between a problem area and a preliminary area where the user's solution is input; displaying a user interface to guide editing of the problem file; It may include outputting only a selection area containing the user's solution and a problem area corresponding thereto based on the user input input through the user interface through the display.
상기 사용자의 풀이가 포함된 선지 영역과 그에 대응되는 문제 영역만에서 사용자의 풀이를 삭제한 후, 상기 디스플레이를 통해 출력하고; 상기 사용자의 추가적인 풀이가 입력되면, 상기 사용자의 풀이가 포함되지 않는 문제 영역과 선지 영역만을 재배치하여 상기 디스플레이를 통해 출력하는 것;을 더 포함할 수 있다.deleting the user's solution only from the selection area containing the user's solution and the problem area corresponding thereto, and outputting the solution through the display; When the user's additional solution is input, only the problem area and the selection area that do not include the user's solution are rearranged and output through the display.
개시된 일 실시예에 따른 학습 시스템 및 학습 애플리케이션 동작방법은 다양한 형태의 문제파일에서 문제 영역과 선지 영역을 스스로 구별하고, 구별된 영역에서 추출된 데이터를 인식하여, 학습자에게 필요한 다양한 서비스를 제공할 수 있다.The learning system and learning application operation method according to the disclosed embodiment can distinguish problem areas and preliminary areas in various types of problem files, recognize data extracted from the distinguished areas, and provide various services necessary for learners. there is.
또한, 개시된 다른 실시예에 따른 학습 시스템 및 학습 애플리케이션 동작방법은 학습자가 수행하는 문제 풀이에 기초하여 자동채점, 오답노트 생성, 다른 학습자의 오답률 등 문제풀이의 편의를 제공하며, 오답을 포함한 문제만을 별도로 편집하여 학습자가 다시 문제를 풀 수 있는 서비스를 제공할 수 있다.In addition, the learning system and learning application operation method according to another disclosed embodiment provides convenience of problem solving such as automatic scoring, creation of incorrect answer notes, and incorrect answer rate of other learners based on problem solving performed by the learner, and only problems including incorrect answers are provided. You can provide a service that allows learners to solve problems again by editing them separately.
도 1은 개시된 일 실시예에 따른 학습 시스템의 구성을 설명하기 위한 도면이다. 1 is a diagram illustrating the configuration of a learning system according to an embodiment of the disclosure.
도 2는 사용자 단말의 구성을 설명하기 위한 제어 블록도이다.Figure 2 is a control block diagram for explaining the configuration of a user terminal.
도 3은 개신된 일 실시예에 따른 학습 어플리케이션의 동작 방법을 설명하기 위한 순서도이다. Figure 3 is a flowchart for explaining a method of operating a learning application according to an updated embodiment.
도 4 내지 도 8은 도 3의 동작 방법을 구체적으로 설명하기 위한 일 예를 도시한 것이다.Figures 4 to 8 show an example to specifically explain the operation method of Figure 3.
도 9는 또 다른 실시예에 대한 애플리케이션의 동작을 더욱 구체적으로 설명하기 위한 순서도이다.Figure 9 is a flowchart to explain in more detail the operation of an application for another embodiment.
도 10은 문제 풀이 정보를 이용하여 사용자에게 제공할 수 있는 다양한 서비스를 설명하기 위한 순서도이다. Figure 10 is a flow chart to explain various services that can be provided to users using problem solving information.
도 11 및 도 12는 도 10에서 설명하는 순서도를 구체적으로 설명하기 위한 도면이다.FIGS. 11 and 12 are diagrams for specifically explaining the flow chart illustrated in FIG. 10 .
도 13은 단권화 서비스를 수행하는 다른 실시예에 관한 도면이다.Figure 13 is a diagram of another embodiment of performing a single-copy service.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 모듈, 부재, 블록'이라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부, 모듈, 부재, 블록'이 하나의 구성요소로 구현되거나, 하나의 '부, 모듈, 부재, 블록'이 복수의 구성요소들을 포함하는 것도 가능하다. Like reference numerals refer to like elements throughout the specification. This specification does not describe all elements of the embodiments, and general content or overlapping content between the embodiments in the technical field to which the present invention pertains is omitted. The term 'unit, module, member, block' used in the specification may be implemented as software or hardware, and depending on the embodiment, a plurality of 'unit, module, member, block' may be implemented as a single component, or It is also possible for one 'part, module, member, or block' to include multiple components.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우 뿐만 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.Throughout the specification, when a part is said to be “connected” to another part, this includes not only direct connection but also indirect connection, and indirect connection includes connection through a wireless communication network. do.
또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Additionally, when a part "includes" a certain component, this means that it may further include other components rather than excluding other components, unless specifically stated to the contrary.
제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다. Terms such as first and second are used to distinguish one component from another component, and the components are not limited by the above-mentioned terms.
단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.Singular expressions include plural expressions unless the context clearly makes an exception.
각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다. The identification code for each step is used for convenience of explanation. The identification code does not explain the order of each step, and each step may be performed differently from the specified order unless a specific order is clearly stated in the context. there is.
이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시예들에 대해 설명한다.Hereinafter, the operating principle and embodiments of the present invention will be described with reference to the attached drawings.
도 1은 개시된 일 실시예에 따른 학습 시스템의 구성을 설명하기 위한 도면이고, 도 2는 사용자 단말의 구성을 설명하기 위한 제어 블록도이다. 중복되는 설명을 피하기 위해서 이하 함께 설명한다.FIG. 1 is a diagram for explaining the configuration of a learning system according to an embodiment of the disclosure, and FIG. 2 is a control block diagram for explaining the configuration of a user terminal. To avoid redundant explanation, they are explained together below.
도 1을 먼저 참조하면, 개시된 학습 시스템은, 네트워크를 통해 학습자(이하 사용자)의 사용자 단말(10)과 서버(20)를 통해 데이터를 송수신한다.Referring first to FIG. 1, the disclosed learning system transmits and receives data through a user terminal 10 of a learner (hereinafter referred to as a user) and a server 20 through a network.
구체적으로 사용자 단말(10)은 사용자가 업로드하는 문제파일을 데이터 형태로 수신하고, 수신된 문제파일 및 개시된 실시예에 따른 서비스 및 동작에 필요한 정보를 네트워크를 통해 서버(20)와 통신한다. Specifically, the user terminal 10 receives the problem file uploaded by the user in the form of data, and communicates the received problem file and information necessary for services and operations according to the disclosed embodiment with the server 20 through the network.
사용자 단말(10)은 서버(20)로부터 학습된 인공지능이 포함된 애플리케이션을 내려(다운로드)받을 수 있으며, 애플리케이션을 통해 사용자로부터 업로드된 문제파일을 인식할 수 있다. 사용자 단말(10)은 문제파일을 문제 영역과 선지 영역으로 인식한 후, 텍스트 및 그림을 추출하여 서버(20)로 제공한다. 애플리케이션은 서버(20)로부터 문제 풀이 정보를 수신한 후, 사용자 단말(10)의 디스플레이를 통해 표시함으로써, 사용자에게 다양한 서비스를 제공할 수 있다.The user terminal 10 can download an application containing the learned artificial intelligence from the server 20 and recognize the problem file uploaded by the user through the application. The user terminal 10 recognizes the problem file as a problem area and a selection area, extracts text and pictures, and provides them to the server 20. The application can provide various services to the user by receiving problem solving information from the server 20 and displaying it on the display of the user terminal 10.
도 1에서는 사용자 단말(10)을 테블릿 PC로 표현하였으나, 반드시 이에 제한되는 것은 아니고, 네트워크를 통해 서버(20)에 접속할 수 있는 컴퓨터나 휴대용 단말기로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(desktop), 랩톱(laptop), 태블릿 PC, 슬레이트 PC 등을 포함하고, 휴대용 단말기는 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), WiBro(Wireless Broadband Internet) 단말, 스마트 폰(Smart Phone) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치와 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD) 등과 같은 웨어러블 장치를 포함할 수 있다.In Figure 1, the user terminal 10 is expressed as a tablet PC, but it is not necessarily limited thereto, and may be implemented as a computer or portable terminal that can connect to the server 20 through a network. Here, the computer includes, for example, a laptop equipped with a web browser, a desktop, a laptop, a tablet PC, a slate PC, etc., and the portable terminal includes, for example, portability and mobility. Covered wireless communication devices include Personal Communication System (PCS), Global System for Mobile communications (GSM), Personal Digital Cellular (PDC), Personal Handyphone System (PHS), Personal Digital Assistant (PDA), and International Mobile Telecommunication (IMT). -2000, CDMA (Code Division Multiple Access)-2000, W-CDMA (W-Code Division Multiple Access), WiBro (Wireless Broadband Internet) terminal, smart phone, etc. based on all types of handhelds It may include wireless communication devices and wearable devices such as watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-device (HMD).
서버(20)는 여러 개의 CPU가 통합되어 애플리케이션을 공급하는 업체가 지정된 특정 위치에 마련된 구성으로, HTTP 서버에 한정되지 않고, 클라이언트, 즉 사용자 단말(10)이 요청을 통해 동작하는 하드웨어적 구성을 의미한다. 서버 소프트웨어는 이하에서 구체적으로 후술하는 인공지능을 통해 문제파일의 문제 영역과 선지 영역을 구분하고, 텍스트 및 그림을 추출할 수 있을 뿐만 아니라, 문제 풀이 정보를 생성한 후, 사용자 단말(10)에 제공하는 일련의 프로그램으로 구성될 수 있으며, 서버(20)에서 계속적으로 업데이트될 수 있다. 반드시 서버(20)를 구성하는 CPU가 동일한 공간에 마련될 필요는 없으며, 네트워크 상에서 분리되어 서버 소프트웨어를 동작할 수 있도록 마련될 수도 있다.The server 20 is a configuration in which multiple CPUs are integrated and provided at a specific location designated by an application supplier. It is not limited to an HTTP server and has a hardware configuration that operates through a request from a client, that is, the user terminal 10. it means. The server software not only distinguishes the problem area and the preliminary area of the problem file through artificial intelligence, which will be described in detail below, and extracts text and pictures, but also generates problem solving information and then sends it to the user terminal 10. It may be composed of a series of programs provided, and may be continuously updated on the server 20. The CPUs constituting the server 20 do not necessarily need to be provided in the same space, and may be provided separately on a network to operate the server software.
한편, 본 명세서에서 사용자가 입력하는 문제파일을 문제집으로 표현하였으나, 개시된 학습 시스템이 수신하는 데이터 학습자를 위한 문제 형태로 구성된 파일에 한정되는 것은 아니다. 문제파일은 사용자가 학습에 필요한 정보를 포함한 학습지, 학습 가이드가 포함된 설명서 및 교과서 등 다양한 형태의 자료를 포함하며, 이러한 다양한 형태의 자료를 문제파일로 통일하여 설명하는 것일 뿐이다.Meanwhile, in this specification, the problem file input by the user is expressed as a problem collection, but the data received by the disclosed learning system is not limited to a file composed of problems for learners. Problem files contain various types of materials, such as worksheets containing information necessary for user learning, manuals and textbooks containing study guides, and these various types of materials are simply unified and explained as a problem file.
문제 풀이 정보는 서버(20)에 마련된 인공지능이 Knowledge gragh를 이용한 시맨틱 서치(Semantic search)에 기초하여 생성되며, 구체적으로 다른 사용자의 오답률, 평균 풀이시간 및 문제 난이도 중 적어도 하나 이상의 정보를 포함할 수 있다. 이에 대한 구체적인 설명은 이하 도 8등을 통해 후술한다.The problem solving information is generated by artificial intelligence provided in the server 20 based on semantic search using Knowledge gragh, and may specifically include at least one of the following: other users' incorrect answer rate, average solving time, and problem difficulty. You can. A detailed explanation of this will be provided later with reference to Figure 8.
도 2를 참조하면, 사용자 단말(10)은 서버(20)를 통해 학습된 인공지능 및 애플리케이션을 수행하는 적어도 하나 이상의 프로세서(100), 학습된 인공지능 코드 및 문제풀이 정보 뿐만 아니라, 서버(20)로부터 수신되는 문제 풀이 정보 등 다양한 데이터를 저장하는 메모리(110) 및 사용자의 입력을 수신 및 표시하고, 애플리케이션의 동작을 출력하는 적어도 하나 이상의 디스플레이(120)를 포함한다.Referring to FIG. 2, the user terminal 10 includes at least one processor 100 that performs artificial intelligence and applications learned through the server 20, learned artificial intelligence codes and problem-solving information, as well as the server 20 It includes a memory 110 that stores various data such as problem-solving information received from ) and at least one display 120 that receives and displays user input and outputs the operation of the application.
구체적으로, 메모리(110)는 캐쉬, ROM(Read Only Memory), PROM(Programmable ROM), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM) 및 플래쉬 메모리(Flash memory)와 같은 비휘발성 메모리 소자 또는 RAM(Random Access Memory)과 같은 휘발성 메모리 소자 또는 하드디스크 드라이브(HDD, Hard Disk Drive), CD-ROM과 같은 저장 매체 중 적어도 하나로 구현될 수 있으나 이에 한정되지는 않는다. 메모리(110)는 프로세서(100)와 별개의 칩으로 구현될 수 있으나, 반드시 이에 한정되는 것은 아니고, 프로세서(100)와 단일 칩으로 구현될 수도 있다.Specifically, the memory 110 includes non-volatile memory elements such as cache, read only memory (ROM), programmable ROM (PROM), erasable programmable ROM (EPROM), electrically erasable programmable ROM (EEPROM), and flash memory. Alternatively, it may be implemented as at least one of a volatile memory element such as RAM (Random Access Memory) or a storage medium such as a hard disk drive (HDD) or CD-ROM, but is not limited thereto. The memory 110 may be implemented as a separate chip from the processor 100, but is not necessarily limited to this, and may also be implemented as a single chip with the processor 100.
디스플레이는(120)는 디지털 광원 처리(Digital Light Processing: DLP) 패널, 플라즈마 디스플레이 패널(Plasma Display Penal), 액정 디스플레이(Liquid Crystal Display: LCD) 패널, 전기 발광(Electro Luminescence: EL) 패널, 전기영동 디스플레이(Electrophoretic Display: EPD) 패널, 전기변색 디스플레이(Electrochromic Display: ECD) 패널, 발광 다이오드(Light Emitting Diode: LED) 패널 또는 유기 발광 다이오드(Organic Light Emitting Diode: OLED) 패널 등으로 마련될 수 있으나, 이에 한정되지는 않는다.The display 120 includes a Digital Light Processing (DLP) panel, a Plasma Display Panel, a Liquid Crystal Display (LCD) panel, an Electro Luminescence (EL) panel, and an electrophoresis panel. It can be prepared as an Electrophoretic Display (EPD) panel, Electrochromic Display (ECD) panel, Light Emitting Diode (LED) panel, or Organic Light Emitting Diode (OLED) panel. It is not limited to this.
디스플레이(120)는 사용자의 입력을 수신하기 위해 터치 패드(touch pad) 등과 같은 GUI(Graphical User interface), 즉 소프트웨어인 장치를 포함할 수도 있다. 터치 패드는 터치 스크린 패널(Touch Screen Panel: TSP)로 구현되어 디스플레이(120)와 상호 레이어 구조를 이룰 수 있다.The display 120 may include a GUI (Graphical User Interface), that is, a software device, such as a touch pad, to receive user input. The touch pad is implemented as a touch screen panel (TSP) and can form a mutual layer structure with the display 120.
프로세서(100)는 예컨대, 중앙 처리 장치(Central Processing Unit; CPU)일 수 있으며, 전술한 프로세서(100)의 구성요소는 소프트웨어 및/또는 Field Programmable Gate Array(FPGA) 및 주문형 반도체(ASIC, Application Specific Integrated Circuit)와 같은 하드웨어 구성요소를 의미한다.The processor 100 may be, for example, a central processing unit (CPU), and the components of the processor 100 described above may include software and/or a field programmable gate array (FPGA) and an application specific semiconductor (ASIC). Refers to hardware components such as Integrated Circuit.
개시된 일 실시예에 따른 애플리케이션의 동작을 실행하기 위해서, 프로세서(100)는 사용자가 업로드하는 문제파일을 수신하고, 임시적으로 저장하는 파일 수신부(101), 학습된 인공지능을 통해 문제파일에서 문제 영역과 선지 영역을 구분한 후, 텍스트 및/또는 그림을 추출하는 추출부(102), 추출한 텍스트 및/또는 그림에 기초하여 문제 데이터를 생성하고, 생성된 문제 데이터를 서버(20)로 전송하여 사용자에게 제공할 문제 풀이 정보를 수신하는 정보 생성부(103) 및 사용자의 입력에 기초하여 사용자가 원하지 않는 문제 영역 및 선지 영역을 제거하고 남아 있는 문제 영역과 선지 영역을 재배치하는 소위 단권화 서비스를 제공하는 파일 생성부(104)로 구분될 수 있다.In order to execute the operation of the application according to the disclosed embodiment, the processor 100 receives the problem file uploaded by the user, and the file receiving unit 101 temporarily stores the problem area in the problem file through learned artificial intelligence. After distinguishing the and line areas, the extraction unit 102 extracts text and/or pictures, generates problem data based on the extracted text and/or pictures, and transmits the generated problem data to the server 20 to provide user information. An information generation unit 103 that receives problem-solving information to be provided to the user and a so-called single-issue service that removes problem areas and preliminary paper areas that the user does not want and rearranges the remaining problem areas and preliminary paper areas based on the user's input. It may be divided into a file creation unit 104.
구체적으로, 파일 수신부(101)는 사용자가 입력하는 문제파일을 PDF등의 데이터로 수신할 수도 있으나, 사용자 단말(10)에 마련된 카메라에 의해서 촬영되어 이미지 형태로 문제파일을 수신할 수 있다.Specifically, the file receiving unit 101 may receive the problem file input by the user as data such as PDF, or may receive the problem file in the form of an image by being photographed by a camera provided in the user terminal 10.
프로세서(100)는 다양한 형태로 업로드된 문제파일을 메모리(110)에 저장한다. 프로세서(100)에서 추출부(102)는 문제파일을 객체 인식을 통해 문제 영역과 선지 영역으로 구분한다.The processor 100 stores problem files uploaded in various formats in the memory 110. In the processor 100, the extraction unit 102 divides the problem file into a problem area and a preliminary area through object recognition.
구체적으로 추출부(102)는 PDF형태로 입력된 문제파일을 이미지 형태로 변환한다. 만약 사용자의 촬영에 의해서 이미 이미지 형태로 수신된 파일은 이미지 형태로 변환하는 과정을 생략할 수 있다.Specifically, the extraction unit 102 converts the problem file input in PDF format into image format. If a file has already been received in image form by taking a picture by the user, the process of converting it to image form can be omitted.
변환된 이미지 파일에서 추출부(102)는 서버(20)를 통해 미리 학습된 인공지능을 통해 문제 영역과 선지 영역을 인식한다. 개시된 실시예에서 인공지능은 YoLO (You only Look Once)신경망일 수 있다. 구체적으로 YoLO는 딥러닝을 통해 이미지 또는 영상의 객체를 식별해내는 객체인식에 특화된 신경망으로, 바운딩 박스를 통해 객체를 인식한다. YoLO는 CNN(Convolutional Neural Network)의 일종으로, Conv Layer과 Max Pooling Layer를 계속적으로 거치는 과정을 반복하여 학습을 진행할 수 있다. 그러나 개시된 일 실시예에 따라 문제 영역과 선지 영역을 인식하는 신경망이 반드시 YoLO에 제한될 필요는 없으며, CNN 및 Fast YoLO 등 객체 인식에서 사용될 수 있는 다양한 인공 신경망을 포함할 수 있다.In the converted image file, the extraction unit 102 recognizes the problem area and the selection area through artificial intelligence previously learned through the server 20. In the disclosed embodiment, the artificial intelligence may be a YoLO (You only Look Once) neural network. Specifically, YoLO is a neural network specialized in object recognition that identifies objects in images or videos through deep learning, and recognizes objects through bounding boxes. YoLO is a type of CNN (Convolutional Neural Network) that can be trained by continuously repeating the process of going through the Conv Layer and Max Pooling Layer. However, according to the disclosed embodiment, the neural network that recognizes the problem area and the predetermined area is not necessarily limited to YoLO, and may include various artificial neural networks that can be used in object recognition, such as CNN and Fast YoLO.
한편, 개시된 일 실시예에 따른 인공지능은 서버(20)에서 수 많은 학습 데이터를 통해 문제 영역과 선지 영역을 구분하는 방법을 학습할 수 있다. 구체적으로 인공지능은 문제파일에서 선지 영역과 문제 영역을 바운딩하고 바운딩된 영역이 문제 영역인지 선지 영역인지 여부를 알 수 있는 라벨링된 학습 데이터를 통해 학습된다. Meanwhile, artificial intelligence according to the disclosed embodiment can learn how to distinguish between problem areas and preliminary areas through numerous learning data in the server 20. Specifically, artificial intelligence is learned through labeled learning data that bounds the preliminary area and the problem area in the problem file and determines whether the bounded area is the problem area or the preliminary area.
학습된 인공지능은 사용자 단말(10)에 전달되거나 서버(20)에 저장되며, 추출부(102)는 사용자로부터 입력된 문제파일에 대한 객체 인식을 위해서 학습된 인공지능을 이용한다. 개시된 실시예에서 추출부(102)는 문제파일의 각 페이지마다 선지 영역을 먼저 구분하여 바운딩 박스를 생성한 후, 선지 영역을 제외한 나머지 영역 및 선지 영역 전체를 문제 영역으로 인식한다. 추출부(102)가 문제 영역과 선지 영역을 인식하는 구체적인 실시예는 도 6등을 통해 후술한다.The learned artificial intelligence is transmitted to the user terminal 10 or stored in the server 20, and the extraction unit 102 uses the learned artificial intelligence to recognize objects for the problem file input from the user. In the disclosed embodiment, the extraction unit 102 first divides the paper area for each page of the problem file to create a bounding box, and then recognizes the remaining area excluding the paper area and the entire paper area as the problem area. A specific embodiment in which the extraction unit 102 recognizes the problem area and the problem area will be described later with reference to FIG. 6, etc.
문제파일이 각 페이지마다 문제 영역과 선지 영역으로 구분되면, 추출부(102)는 각 영역에 포함된 텍스트 또는 그림을 추출한다. 예를 들어, 문제 영역에서 추출부(102)는 문제 번호, 문제의 내용, 수식 또는 문제를 푸는데 필요한 그림, 그래프 또는 보기를 추출할 수 있다. 선지 영역은 후보를 나타내는 숫자 및 정답과 오답이 포함된 텍스트(숫자 포함)가 추출될 수 있다.When the problem file is divided into a problem area and a paper area for each page, the extraction unit 102 extracts text or pictures included in each area. For example, from the problem area, the extraction unit 102 can extract the problem number, problem content, formula, or a picture, graph, or view needed to solve the problem. In the selection area, numbers representing candidates and text (including numbers) containing correct and incorrect answers can be extracted.
정보 생성부(103)는 추출부(102)가 추출한 텍스트 등에 기초하여 문제 데이터를 생성한다. The information generation unit 103 generates problem data based on the text extracted by the extraction unit 102.
구체적으로 문제 데이터는, 인식된 문제 영역 및 선지 영역에서 추출될 수 있는 다양한 정보를 의미하며, 일 예로 페이지 정보, 문제 영역에서 추출된 문제 번호, 문제 영역에 포함된 문제 내용, 선지 영역에서 추출된 선지 개수, 선지 영역에 포함된 선지 내용 중 적어도 하나를 포함할 수 있다. 문제 데이터에 포함될 수 있는 데이터에 관한 구체적인 설명은 도 7등을 통해 후술한다.Specifically, problem data refers to a variety of information that can be extracted from the recognized problem area and preliminary area, for example, page information, problem number extracted from the problem area, problem content included in the problem area, and extracted from the preliminary area. It may include at least one of the number of slices and the contents of the slices included in the slice area. A detailed description of data that may be included in the problem data will be described later with reference to FIG. 7, etc.
문제 데이터가 생성되면, 정보 생성부(103)는 서버(20)로 문제 데이터를 전송한다. 서버(20)는 수신된 문제 데이터에 기초하여 문제 풀이 정보를 생성한다.When problem data is generated, the information generation unit 103 transmits the problem data to the server 20. The server 20 generates problem solving information based on the received problem data.
여기서 문제 풀이 정보는, 문제파일이 어떤 시험에 해당하는 문제파일인지 여부에 대한 정보 뿐만 아니라, 문제파일에서 인식된 문제의 정답, 문제 영역으로 인식된 문제에 대해서 다른 사용자의 평균 풀이 시간 및 오답률과 문제 난이도 등을 포함한다.Here, the problem solving information includes not only information about which test the problem file corresponds to, but also the correct answer to the problem recognized in the problem file, the average solving time and error rate of other users for problems recognized as problem areas, and Including problem difficulty level, etc.
일 실시예에 따른 서버(20)는 문제 풀이 정보를 생성하기 위해서 Knowledge Gragh를 이용한 시맨틱 서치(Semantic Search)를 이용할 수 있다. 시맨틱 서치란, 학습된 인공지능을 통해 검색 쿼리가 문제 데이터에서 키워드를 서치하고, 문제 데이터의 의도를 파악해서 미리 저장되거나 네트워크 상에 위치하는 문제파일의 문제 풀이 정보를 탐색하는 것을 의미한다. 일 예로 개시된 서버(20)는 문제 데이터에서 추출된 텍스트에 포함된 주어와 술어를 이용하여 목적어를 찾은 후, 온톨로지의 목적어를 트리플의 주어로 변환하여, 연계된 데이터를 연속적으로 서치한다. 이를 통해서 서버(20)는 문제 데이터에 기초한 문제파일과 명확하게 일치하는 데이터와 그와 매칭된 정답 정보를 서치한 후, 정답 정보에 기초하여 문제 풀이 정보를 생성한다.The server 20 according to one embodiment may use semantic search using Knowledge Gragh to generate problem solving information. Semantic search means that search queries search for keywords in problem data through learned artificial intelligence, identify the intent of the problem data, and search for problem-solving information in problem files stored in advance or located on the network. As an example, the disclosed server 20 finds an object using the subject and predicate included in the text extracted from the problem data, then converts the object of the ontology into a triple subject and continuously searches the linked data. Through this, the server 20 searches for data that clearly matches the problem file based on the problem data and the correct answer information matched thereto, and then generates problem solving information based on the correct answer information.
한편, 개시된 실시예가 문제 풀이 정보를 생성하기 위해서 반드시 Knowledge Gragh를 이용한 시맨틱 서치(Semantic Search)를 이용할 필요는 없다. 서버(20)는 문제 풀이 정보를 생성하기 위해서 다양한 인공지능을 사용하거나, 이미 문제파일이 생성될 때부터 데이터화된 문제 파일 정보를 사용할 수도 있다. 즉, 개시된 서버(20)는 문제 풀이 정보를 통해서 사용자에게 필요한 서비스를 제공하기 위한 데이터를 가공하면 충분하고, 반드시 시맨틱 서치만을 이용할 필요는 없다.Meanwhile, the disclosed embodiment does not necessarily need to use semantic search using Knowledge Gragh to generate problem-solving information. The server 20 may use various types of artificial intelligence to generate problem-solving information, or it may use problem file information that has already been converted into data from when the problem file was created. In other words, it is sufficient for the disclosed server 20 to process data to provide necessary services to users through problem-solving information, and it is not necessary to use only semantic search.
문제 풀이 정보는 문제파일이 어떤 시험과 연관된 파일인지 여부를 포함하는 정보일 수 있다. The problem solving information may be information including whether the problem file is related to a certain test.
또한, 문제 풀이 정보는 문제파일의 페이지 정보, 문제 번호 및 선지를 통해 인식된 문제 영역의 정답에 대한 정보도 포함할 수 있다. 만약 문제 데이터에 사용자의 풀이 정보가 함께 포함되는 경우, 문제 풀이 정보는 사용자의 입력값이 정답인지 오답인지 여부도 포함할 수 있다. Additionally, the problem solving information may also include page information of the problem file, problem number, and information about the correct answer to the problem area recognized through the selection. If the problem data includes the user's solution information, the problem solution information may also include whether the user's input value is a correct answer or an incorrect answer.
문제 풀이 정보는 미리 저장되어 업데이트되는 다른 사용자의 오답 여부에 기초하여 문제 영역의 오답률 또는 난이도를 포함할 수 있으며, 다른 사용자들의 평균 풀이 시간에 대한 정보를 함께 포함할 수 있다.The problem solving information may include the error rate or difficulty level of the problem area based on other users' incorrect answers that are stored and updated in advance, and may also include information about the average solving time of other users.
서버(20)는 다양한 데이터가 포함된 문제 풀이 정보를 사용자 단말(10)로 전송하고, 정보 생성부(103)는 문제 풀이 정보를 시각화하여 디스플레이(120)를 통해 사용자에게 제공할 수 있다. 문제 풀이 정보를 제공하는 실시예에는 도 8등을 통해 후술한다.The server 20 transmits problem-solving information containing various data to the user terminal 10, and the information generator 103 can visualize the problem-solving information and provide it to the user through the display 120. An embodiment of providing problem-solving information will be described later with reference to FIG. 8, etc.
파일 생성부(104)는 사용자의 입력에 의해서 문제파일을 다양하게 편집하여 새로운 파일을 생성할 수 있다. The file creation unit 104 can create a new file by editing the problem file in various ways based on user input.
구체적으로 사용자는 자신이 틀린 문제영역과 선지영역만을 추출하여 자신만의 오답 정리 노트를 생성하는 것을 원할 수 있다. 이러한 사용자의 니즈를 충족시키기 위해서 파일 생성부(104)는 미리 추출된 문제 영역과 선지 영역을 활용하여 개별 사용자들의 니즈에 맞는 새로운 문제파일을 생성할 수 있다.Specifically, the user may want to extract only the problem areas and areas where the user made a mistake and create his or her own incorrect answer summary note. In order to meet these user needs, the file creation unit 104 may utilize pre-extracted problem areas and preset areas to create new problem files that meet the needs of individual users.
일 예로, 파일 생성부(104)는 문제 풀이 정보에 기초하여 오답을 입력한 문제 영역과 선지 영역만을 추출하고, 정답을 입력한 문제 영역 및 선지 영역을 삭제한다. 파일 생성부(104)는 남겨진 문제 영역과 선지 영역을 재배치한 후, 디스플레이(120)에 출력할 수 있다.As an example, the file creation unit 104 extracts only the problem area and the test area in which an incorrect answer was entered based on the problem solving information, and deletes the problem area and the test paper area in which the correct answer was entered. The file creation unit 104 may rearrange the remaining problem areas and selected areas and then output them on the display 120.
다른 예로, 파일 생성부(104)는 문제 영역과 선지 영역에서 사용자가 표시한 영역만을 삭제하여 재배치할 수 있으며, 또 다른 예로, 문제파일에서 필기를 입력한 문제 영역 및 선지 영역 이외의 영역을 약하게 처리하여 새로운 문제파일을 생성할 수도 있다. As another example, the file creation unit 104 may delete and rearrange only the areas marked by the user in the problem area and the paper area. As another example, the area other than the problem area and the paper area in which the handwriting was entered in the problem file may be weakened. You can also process it and create a new problem file.
파일 생성부(104)가 문제 풀이 정보를 이용하여 생성하는 다양한 서비스는 도 11등을 통해 후술한다.The various services that the file creation unit 104 creates using problem solving information will be described later with reference to FIG. 11 and the like.
한편, 도 2에서 설명한 프로세서(100)의 구성, 즉 파일 수신부(101), 추출부(102), 정보 생성부(103) 및 파일 생성부(104)는 애플리케이션의 동작을 구체적으로 설명하기 위한 소프트웨어적인 설명이며, 반드시 하드웨어적으로 별도의 칩을 통해서 구분되는 것은 아니다.Meanwhile, the configuration of the processor 100 described in FIG. 2, that is, the file receiving unit 101, the extracting unit 102, the information generating unit 103, and the file generating unit 104, is software for specifically explaining the operation of the application. This is a general explanation, and is not necessarily distinguished through a separate hardware chip.
도 3은 개신된 일 실시예에 따른 학습 어플리케이션의 동작 방법을 설명하기 위한 순서도이다. 도 4 내지 도 8은 도 3의 동작 방법을 구체적으로 설명하기 위한 일 예를 도시한 것이다. 중복되는 설명을 피하기 위해서 이하 함께 설명한다.Figure 3 is a flowchart for explaining a method of operating a learning application according to an updated embodiment. Figures 4 to 8 show an example to specifically explain the operation method of Figure 3. To avoid redundant explanation, they are explained together below.
도 3을 먼저 참조하면, 애플리케이션은 사용자가 업로드할 문제파일을 수신한다(200).Referring first to Figure 3, the application receives a problem file to be uploaded by the user (200).
애플리케이션은 사용자가 업로드한 문제파일을 확인할 수 있도록, 도 4의 도면과 같이 디스플레이(20)를 통해 유저 인터페이스를 출력할 수 있다. 도 4를 참조하면, 애플리케이션은 사용자가 어떤 출제연도에 포함된 문제파일인지 또는 어떤 시험과 관련된 문제파일인지 여부를 선택할 수 있는 아이콘(11)을 제공할 수 있으며, 도 4와 같이 이미 업로드된 파일에 파일명(12)을 입력할 수 있는 기능을 제공할 수 있다.The application may output a user interface through the display 20 as shown in FIG. 4 so that the user can check the problem file uploaded. Referring to FIG. 4, the application may provide an icon 11 that allows the user to select whether the question file is included in a certain exam year or related to a certain exam, and as shown in FIG. A function to input a file name (12) can be provided.
도2에서 전술한 바와 같이, 개시된 학습 시스템은 문제 데이터를 생성한다. 개시된 학습 시스템은 문제 데이터를 생성하면서, 사용자가 스스로 분류한 파일명 또는 아이콘에 해당하는 데이터를 참조할 수도 있다. 즉, 문제 데이터에는 문제파일에서 텍스트를 통해 인식된 정보 이외에도, 사용자가 스스로 입력한 문제의 종류에 기초하여 문제 데이터를 생성할 수도 있다.As described above in Figure 2, the disclosed learning system generates problem data. While generating problem data, the disclosed learning system may refer to data corresponding to file names or icons classified by the user. In other words, in addition to information recognized through text in the problem file, problem data can also be generated based on the type of problem entered by the user.
사용자가 문제파일을 업로드하면, 애플리케이션은 문제파일을 문제 영역과 선지 영역으로 구분한다(201).When a user uploads a problem file, the application divides the problem file into a problem area and a preliminary area (201).
구체적으로 애플리케이션은 문제파일을 이미지로 변환하고, 학습한 인공지능을 통해 이미지 내의 선지 영역을 먼저 구분한 후, 문제 영역을 구분할 수 있다. Specifically, the application converts the problem file into an image, first classifies the line area within the image through learned artificial intelligence, and then can classify the problem area.
구체적으로 도 6과 같이, 애플리케이션은 '문 1'과 관련된 문제파일의 일부분을 4개의 선지 영역과 1개의 문제 영역으로 인식할 수 있다. 4개의 선지 영역은 각 선지마다 바운딩 박스로 구분되고, 4개의 선지 영역 이외의 전체 영역을 문제 영역으로 바운딩 박스 형태로 구분될 수 있다.Specifically, as shown in Figure 6, the application can recognize the part of the problem file related to 'Moon 1' as four preliminary areas and one problem area. The four test areas are divided into bounding boxes for each line, and the entire area other than the four test areas can be divided into a problem area in the form of a bounding box.
한편, 애플리케이션은 문제파일을 이미지로 변환하면서, 인공지능이 문제 영역을 구분하는 동작을 수행하는 중이라는 것을 사용자에게 인식시키기 위해서 "업로드한 문제를 인식 중입니다."라는 안내메시지를 디스플레이(120)에 출력할 수 있다. 즉, 도 6과 같이 바운딩 박스로 구분된 이미지 파일은 디스플레이(120)를 통해 출력되지 않고, 사용자에게 표시되지 않을 수도 있다.Meanwhile, the application converts the problem file into an image and displays a message saying "The uploaded problem is being recognized" to make the user aware that artificial intelligence is performing an operation to classify the problem area (120). It can be printed to . That is, image files divided by bounding boxes as shown in FIG. 6 are not output through the display 120 and may not be displayed to the user.
문제 영역 및 선지 영역이 구분되면, 애플리케이션은 각 영역에서 텍스트 및 그림을 추출한다(203).Once the problem area and the preliminary area are distinguished, the application extracts text and pictures from each area (203).
도 6의 예에서, 애플리케이션은 문제 영역에서 "문 1"과 문제에 대한 내용을 텍스트로 추출할 수 있으며, 선지 영역은 "①②③④"와 같은 선지 번호 뿐만 아니라, 각 선지의 내용을 텍스트로 추출할 수 있다.In the example of Figure 6, the application can extract "question 1" and the content of the problem as text in the problem area, and the question area can extract the content of each question as text, as well as the question number such as "①②③④". You can.
도 6 등에서 도시된 예와 달리, 만약 문제파일에 그래프 또는 그림이 포함되는 경우, 추출된 그래프 또는 그림은 문제 영역으로 인식되어 추출된다.Unlike the example shown in FIG. 6, etc., if the problem file includes a graph or picture, the extracted graph or picture is recognized as a problem area and extracted.
추출된 텍스트 또는 그림 등은 문제 데이터로 변환된다. 도 7에서 도시된 예와 같이, 애플리케이션은 도 7과 같은 문제 데이터를 생성할 수 있다. 다만, 생성된 문제 데이터는 사용자에게 시각적으로 표시되지 않을 수 있다.Extracted text or pictures are converted into problem data. As the example shown in FIG. 7, the application may generate problem data as shown in FIG. 7. However, the generated problem data may not be visually displayed to the user.
구체적으로 애플리케이션은 업로드된 문제파일이 '첫 번째 페이지'고, 문제 영역이 차지하는 픽셀이[22, 740, 150, 125]에 해당하고, 문제 번호는 '1번'이고, 보기가 포함되지 않으며, 선지가 4개라는 문제 데이터를 생성할 수 있다. 또한, 문제 데이터는 추출된 텍스트에 기초하여 문제의 내용 및 각 선지의 내용이 함께 포함될 수 있다.Specifically, the application determines that the uploaded problem file is 'first page', the pixels occupied by the problem area correspond to [22, 740, 150, 125], the problem number is '1', and no views are included. You can create problem data with 4 choices. Additionally, the problem data may include the content of the problem and the content of each selection based on the extracted text.
애플리케이션은 생성된 문제 데이터를 서버(20)로 전송한다(204).The application transmits the generated problem data to the server 20 (204).
서버(20)는 Knowledge gragh를 이용한 시맨틱 서치(Semantic search)에 기초하여 생성된 다른 사용자의 오답률, 평균 풀이시간 및 문제 난이도 중 적어도 하나 이상의 정보를 포함하는 문제 풀이 정보를 생성한다. The server 20 generates problem solving information including at least one of other users' incorrect answer rate, average solving time, and problem difficulty generated based on semantic search using Knowledge gragh.
생성된 문제 풀이 정보는 다시 애플리케이션으로 전송되며, 애플리케이션은 문제 풀이 정보를 획득한다(205).The generated problem-solving information is transmitted back to the application, and the application obtains the problem-solving information (205).
도 8과 같은 예시와 같이, 문제 풀이 정보는 문제파일이 관련된 문제가 '2019년 공무원 필기시험'이라는 시험 종류에 대한 정보와, 사용자의 입력값이 '오답'이라는 정보, 타 학습자가 동일한 문제의 오답을 입력한 결과(오답률 30%), 인식된 문제의 푸는데 걸리는 평균 소요시간(15초) 및 오답률과 평균 소요시간에 기초한 난이도(C급)에 대한 정보를 포함한다.As in the example shown in Figure 8, the problem solving information includes information about the test type in which the problem related to the problem file is '2019 Civil Service Written Test', information that the user's input value is an 'incorrect answer', and information that other learners have solved the same problem. It includes information on the results of entering incorrect answers (30% incorrect answer rate), the average time required to solve the recognized problem (15 seconds), and the level of difficulty (level C) based on the incorrect answer rate and average time.
도 8에서는 사용자가 문1에 풀이를 입력한 문제 영역 및 선지 영역이 전송된 것으로 가정하였다. 서버(20)는 사용자의 입력값에 기초하여 문제 풀이 정보의 정답과 비교하여 사용자의 입력값이 오답이라는 것을 포함한 문제 풀이 정보를 생성할 수 있다.In Figure 8, it is assumed that the problem area and the preliminary paper area where the user inputs the solution to question 1 are transmitted. The server 20 may compare the correct answer of the problem solving information based on the user's input value and generate problem solving information including that the user's input value is an incorrect answer.
애플리케이션은 문제 풀이 정보를 디스플레이(120)를 통해 출력할 수 있다(206).The application may output problem solving information through the display 120 (206).
문제 풀이 정보를 표시하는 방법은 다양할 수 있다. 애플리케이션은 도 8과 같이 단순한 텍스트 형태로 문제 풀이 정보를 표시할 수도 있지만, 다양한 그래프 및 이미지와 아바타를 통한 시각적 유저 인터페이스를 사용하여 사용자에 문제 풀이 정보를 제공할 수 있다.There can be various ways to display problem-solving information. The application may display problem-solving information in simple text form as shown in FIG. 8, but may also provide problem-solving information to users using a visual user interface through various graphs, images, and avatars.
한편, 도 4 내지 도 8에서 도시한 도면은 애플리케이션이 동작을 설명하기 위한 일 예에 불과하며, 문제 풀이 정보를 문제 영역과 선지 영역을 인식함으로써 생성될 수 있는 다양한 정보를 포함할 수 있다.Meanwhile, the drawings shown in FIGS. 4 to 8 are merely examples for explaining the operation of the application, and the problem solving information may include various information that can be generated by recognizing the problem area and the selection area.
도 9는 또 다른 실시예에 따른 애플리케이션의 동작을 구체적으로 설명하기 위한 순서도이다.Figure 9 is a flowchart for specifically explaining the operation of an application according to another embodiment.
도 9의 실시예를 설명하기 앞서, 도 9의 순서도는 이미 사용자 단말(10)이 문제파일의 문제 영역과 선지 영역을 구분한 후, 서버(20)로부터 문제 풀이 정보를 획득한 상태를 가정한다. 또한, 사용자 단말(10)은 오답 여부가 포함되지 않은 문제 풀이 정보를 서버(20)로부터 획득한 후, 사용자의 입력을 수신하는 실시예에 대한 순서도이다.Before explaining the embodiment of FIG. 9, the flowchart of FIG. 9 assumes that the user terminal 10 has already distinguished the problem area and the preliminary area of the problem file and then obtained problem solving information from the server 20. . In addition, this is a flow chart for an embodiment in which the user terminal 10 obtains problem solving information that does not include incorrect answers from the server 20 and then receives the user's input.
도 9를 참조하면, 애플리케이션은 사용자의 입력을 수신한다(210).Referring to Figure 9, the application receives user input (210).
여기서 사용자의 입력은 사용자가 업로드한 문제파일에서 입력하는 풀이 또는 사용자가 중요한 문제라고 체크하는 입력값을 의미할 수 있다..Here, the user's input may mean a solution entered from a problem file uploaded by the user or an input value that the user checks as an important problem.
애플리케이션은 사용자의 입력과 미리 획득된 문제 풀이 정보를 비교한다(220).The application compares the user's input with previously obtained problem solving information (220).
미리 획득된 문제 풀이 정보는 정답에 해당하는 선지 정보를 포함하고, 애플리케이션은 구분된 선지 영역 중 사용자의 입력값이 포함된 선지 영역을 다시 인식함으로써, 사용자의 입력이 정답인지 여부를 판단할 수 있다.The problem-solving information obtained in advance includes preliminary information corresponding to the correct answer, and the application can determine whether the user's input is the correct answer by re-recognizing the preliminary exam area containing the user's input value among the divided answer areas. .
비교 결과에 기초하여 애플리케이션은 정답 여부를 결정한다(231).Based on the comparison results, the application determines whether the answer is correct (231).
만약 사용자가 입력한 필기가 포함된 선지 영역의 선지가 문제 풀이 정보에 포함된 정답과 일치하면, 애플리케이션은 사용자의 입력이 정답이라는 화면을 출력할 수 있다. 만약 오답이라면, 애플리케이션은 사용자의 입력이 오답이라는 화면을 출력할 수 있다.If the paper in the paper area containing the user's handwriting matches the correct answer included in the problem solving information, the application may display a screen indicating that the user's input is the correct answer. If the answer is incorrect, the application may display a screen indicating that the user's input is an incorrect answer.
사용자의 입력에 기초하여 애플리케이션은 정답 여부를 포함한 문제 풀이 정보를 업데이트한다(232).Based on the user's input, the application updates problem solving information, including whether the answer is correct (232).
문제 풀이 정보를 업데이트하는 것은, 서버(20)에서 진행될 수 있다. 문제 풀이 정보는 다른 사용자의 오답률에 대한 정보를 포함하고 있으므로, 사용자의 풀이가 정답 또는 오답에 대해서 오답률이 변동될 수 있다. 애플리케이션은 사용자의 풀이에 따라 정답 또는 오답에 대한 정보를 서버(20)로 전송한다. 서버(20)에서 업데이트된 문제 풀이 정보는 다른 사용자가 동일한 문제파일의 문제 풀이 정보를 요청할 때 활용될 수 있다.Updating problem solving information may be performed on the server 20. Since the problem solving information includes information about the incorrect answer rate of other users, the incorrect answer rate may change depending on whether the user's solution is correct or incorrect. The application transmits information about the correct or incorrect answer to the server 20 according to the user's solution. Problem solving information updated in the server 20 can be used when another user requests problem solving information for the same problem file.
도 10은 문제 풀이 정보를 이용하여 사용자에게 제공할 수 있는 다양한 서비스를 설명하기 위한 순서도이다. 도 11 및 도 12는 도 10에서 설명하는 순서도를 구체적으로 설명하기 위한 도면이다.Figure 10 is a flow chart to explain various services that can be provided to users using problem solving information. FIGS. 11 and 12 are diagrams for specifically explaining the flow chart illustrated in FIG. 10 .
도 10을 먼저 참조하면, 애플리케이션은 문제파일의 편집을 실행하는 사용자 입력을 수신한다(300).Referring first to FIG. 10, the application receives a user input for editing a problem file (300).
도 12와 같이, 문제파일의 편집을 유도하는 사용자 입력은 다양한 유저 인터페이스를 통해 애플리케이션으로 수신될 수 있다.As shown in Figure 12, user input leading to editing of a problem file can be received by the application through various user interfaces.
문제파일 편집에 관한 명령이 수신되면, 애플리케이션은 사용자 풀이가 포함된 문제 영역과 선지 영역을 인식한다(310).When a command for editing a problem file is received, the application recognizes the problem area and the preliminary area containing the user solution (310).
여기서 사용자 풀이는 사용자가 입력하는 다양한 형태를 포함한다. 도 11의 두 번째 화면(122)과 같이, 사용자는 형광색 표시와 같은 유저 인터페이스를 통해 문제1의 문제 영역과 선지 영역에 사용자 풀이를 입력할 수 있다. 애플리케이션은 사용자 풀이가 포함된 문제 영역과 선지 영역을 인식할 수 있다.Here, the user solution includes various forms input by the user. As shown in the second screen 122 of FIG. 11, the user can input a user solution into the problem area and question paper area of Problem 1 through a user interface such as a fluorescent color display. The application can recognize the problem area and the preliminary area that contain the user's solution.
사용자 풀이가 포함되지 않은 영역의 음영을 약하게 표현하는 서비스를 제공할 수 있다(322).A service that weakly expresses shading in areas not included in the user's solution can be provided (322).
일 예로, 도 11의 세 번째 화면(123)은 사용자의 풀이가 포함되지 않은 영역을 약하게 표시한 것이다. 즉, 도 11의 첫 번째 화면(121)은 업로드된 문제파일이 디스플레이(120)를 통해 출력된 화면이고, 두 번째 화면(122)은 사용자 풀이가 입력된 문제파일, 세 번째 화면(123)은 사용자 풀이가 입력된 문제 영역 및 선지 영역 이외의 영역의 음영을 약하게 표시한 서비스를 제공한 화면이다.For example, the third screen 123 of FIG. 11 weakly displays an area that does not include the user's solution. That is, the first screen 121 in FIG. 11 is a screen in which the uploaded problem file is output through the display 120, the second screen 122 is a problem file in which the user solution is input, and the third screen 123 is a screen in which the uploaded problem file is output through the display 120. This is a screen that provides a service that displays weak shading in areas other than the problem area where the user's solution is entered and the selection area.
애플리케이션은 사용자 풀이를 삭제한 채로 출력할 수 있다(343).The application can output with the user solution deleted (343).
구체적으로 애플리케이션은 도 11의 세 번째 화면(123)을 출력하면서, 두 번째 화면(122)에서 입력한 사용자 풀이를 삭제한 문제 영역 및 선지 영역만을 출력하여 사용자가 다시 문제를 풀 수 있는 서비스를 제공할 수 있다.Specifically, while outputting the third screen 123 of FIG. 11, the application provides a service that allows the user to solve the problem again by outputting only the problem area and the selection area in which the user solution entered in the second screen 122 has been deleted. can do.
도 10을 다시 참조하면, 애플리케이션은 사용자 풀이가 정담인 문제 및 선지 영역을 삭제하고(321), 문제 영역과 선지 영역을 재배치하는 서비스를 수행할 수도 있다(330).Referring again to FIG. 10, the application may perform a service of deleting a problem and an optional area for which the user has to solve (321) and rearranging the problem area and an optional area (330).
도 12의 첫 번째 화면(124)과 같이, 애플리케이션은 사용자의 풀이 중, 오답으로 인식된 5개의 문제 영역과 선지 영역을 인식할 수 있다. 예를 들어, 애플리케이션은 문제 풀이 정보와 사용자의 풀이를 비교하여 5개의 문제가 오답인 것으로 확인할 수 있다.As shown in the first screen 124 of FIG. 12, the application can recognize five problem areas and question areas recognized as incorrect answers during the user's solution. For example, the application can compare the problem solving information with the user's solution and determine that five problems have incorrect answers.
애플리케이션은 도 12의 두 번째 화면(125)과 같이, 오답으로 인식된 문제 영역과 선지 영역만을 보존한 파일을 새롭게 생성할 수 있다. 여기서 애플리케이션은 문제파일의 크기 및 각 영역의 크기를 고려하여 보존할 문제 영역과 선지 영역을 재배치할 수 있다.As shown in the second screen 125 of FIG. 12, the application can create a new file that preserves only the problem areas and selected areas recognized as incorrect answers. Here, the application can rearrange the problem area and preset area to be preserved by considering the size of the problem file and the size of each area.
문제 영역과 선지 영역의 재배치는 애플리케이션이 문제파일을 인식할 때, 생성된 문제 데이터에 기초하여 실행되며, 페이지 정보 및 영역의 크기 및 전체 페이지의 크기에 따라 재배치가 수행된다. 재배치는 도 12의 두 번째 화면(125)와 같이 오른쪽 영역을 남기는 형태로 수행될 수 있지만, 이러한 재배치는 일 예에 불과하고 다양한 방법으로 재배치가 수행될 수 있다.Relocation of the problem area and preset area is performed based on problem data generated when the application recognizes the problem file, and relocation is performed according to page information, size of the area, and size of the entire page. Relocation may be performed by leaving an area on the right as shown in the second screen 125 of FIG. 12, but this rearrangement is only an example and rearrangement may be performed in various ways.
재배치가 완료되면, 애플리케이션은 사용자 풀이가 그대로 남겨진 채로, 재배치된 파일을 출력하고(341), 도 12의 두 번째 화면(125)와 같이 사용자의 풀이를 삭제하고 출력할 수 있다(342).When relocation is completed, the application outputs the relocated file with the user's solution remaining as is (341), and deletes and outputs the user's solution as shown in the second screen 125 of FIG. 12 (342).
도 13은 단권화 서비스를 수행하는 다른 실시예에 관한 도면이다.Figure 13 is a diagram of another embodiment of performing a single-copy service.
일 예로, 애플리케이션은 같은 문제파일을 여러 번 학습하는 사용자를 위해서 편집된 문제파일을 다시 편집하는 기능을 포함할 수 있다.As an example, the application may include a function to re-edit an edited problem file for a user who studies the same problem file multiple times.
도 13의 첫 번째 화면(126)과 같이, 사용자는 업로드된 문제파일에 포함된 문제에서 몇 개의 문제 영역 및 선지 영역에 사용자 풀이를 입력한 후, 문제파일의 편집을 실행할 수 있다. As shown in the first screen 126 of FIG. 13, the user can edit the problem file after inputting user solutions into several problem areas and selection areas of the problem included in the uploaded problem file.
만약 사용자가 문제 1, 2, 7 및 8에 사용자 풀이(도 13과 같이 형광펜 처리)를 입력한 것으로 가정하면, 애플리케이션은 도 13의 두 번째 화면(127)과 같이, 사용자 풀이가 포함된 선지 영역과 그에 대응되는 문제 영역만을 남기고, 나머지 문제 영역 및 선지 영역을 삭제할 수 있다. 즉, 애플리케이션은 문제파일에서 사용자의 풀이가 입력된 문제 영역과 선지 영역을 인식한 후, 사용자 풀이가 포함된 영역의 문제 및 선지만을 재배치하여 도 13의 두 번째 화면(127)과 같이 출력할 수 있다.Assuming that the user entered a user solution (processed with a highlighter as shown in FIG. 13) for problems 1, 2, 7, and 8, the application displays a solution area containing the user solution, as shown in the second screen 127 of FIG. 13. You can leave only the and corresponding problem areas, and delete the remaining problem areas and preset areas. That is, after the application recognizes the problem area and the paper area in which the user's solution is input in the problem file, it can rearrange only the problem and paper area in the area containing the user's solution and output it as shown in the second screen 127 of FIG. 13. there is.
그 후, 다시 사용자는 재배치된 문제파일(도 13의 두 번째 화면(127))에 또 다시 다른 사용자 풀이를 입력할 수 있다. 이 때, 애플리케이션은 사용자의 풀이가 포함되지 않은 문제 영역 및 선지 영역을 남긴 채 문제파일을 편집할 수 있다.Afterwards, the user can again input another user's solution into the relocated problem file (second screen 127 in FIG. 13). At this time, the application can edit the problem file while leaving the problem area and optional area that do not include the user's solution.
애플리케이션은 도 13의 세 번째 화면(128)과 같이, 사용자 풀이가 포함된 문제 영역 및 선지 영역을 삭제한 채, 사용자 풀이가 포함되지 않은 문제영역 및 선지영역만을 보존하여 재배치한 편집 파일을 출력할 수 있다.As shown in the third screen 128 of FIG. 13, the application outputs a rearranged edit file by deleting the problem area and the preliminary paper area containing the user solution and preserving only the problem area and the preliminary paper area that do not contain the user solution. You can.
다만, 애플리케이션이 도 13의 두 번째(127) 또는 도 13의 세 번째(128)과 같이, 서로 다른 편집 동작을 수행하기 위해서는 사용자의 입력명령이 필요하며, 사용자의 입력명령에 따라 다양한 편집 서비스를 수행할 수 있다.However, in order for the application to perform different editing operations, such as the second 127 in Figure 13 or the third 128 in Figure 13, a user input command is required, and various editing services are provided according to the user's input command. It can be done.
개시된 학습 시스템 및 학습 시스템을 통해서 동작하는 애플리케이션은 인식된 문제 영역과 선지 영역을 이용하고, 다양하게 입력될 수 있는 사용자가 풀이을 통해 학습자에게 편의를 제공하는 다양한 기능을 수행할 수 있으며, 이를 통해서 사용자의 학습 효율을 증가시킬 수 있다.The disclosed learning system and the application operating through the learning system can use recognized problem areas and preliminary areas and perform various functions that provide convenience to learners through solutions that can be entered by users in various ways, and through this, users can increase learning efficiency.

Claims (15)

  1. 서버로부터 학습된 인공지능 및 애플리케이션을 실행하는 적어도 하나 이상의 프로세서; 및At least one processor executing artificial intelligence and applications learned from the server; and
    사용자의 입력을 수신 및 표시하고, 상기 애플리케이션의 동작을 출력하는 적어도 하나 이상의 디스플레이;를 포함하고,At least one display that receives and displays user input and outputs operations of the application,
    상기 프로세서는,The processor,
    상기 사용자가 업로드하는 문제 파일을 수신하고,Receiving the problem file uploaded by the user,
    상기 학습된 인공지능을 기초로 상기 문제 파일 중 문제 영역 및 선지 영역을 구분하고,Based on the learned artificial intelligence, distinguish problem areas and preliminary areas among the problem files,
    상기 구분된 문제 영역 및 상기 구분된 선지 영역에서 텍스트 추출 또는 그림 추출을 수행하고,Extracting text or extracting pictures from the divided problem area and the divided paper area,
    상기 추출된 텍스트 또는 그림에 기초하여 상기 서버로부터 상기 문제 파일의 상기 문제 풀이 정보를 요청하고,Requesting the problem solving information of the problem file from the server based on the extracted text or picture,
    상기 사용자의 입력에 기초하여 상기 수신된 문제 풀이 정보를 상기 디스플레이를 통해 출력하는 것;을 포함하는 학습 시스템.A learning system comprising: outputting the received problem-solving information through the display based on the user's input.
  2. 제 1항에 있어서,According to clause 1,
    상기 프로세서가 상기 문제 영역 및 상기 선지 영역을 구분하는 것은,The processor distinguishes between the problem area and the problem area by:
    상기 수신된 문제 파일을 이미지 파일로 변환하고,Converting the received problem file into an image file,
    변환된 이미지 파일에서 상기 인공지능을 통해 선지 영역을 먼저 인식하고, In the converted image file, the line area is first recognized through the artificial intelligence,
    상기 선지 영역을 제외한 이미지를 상기 문제 영역으로 인식하는 것;을 포함하는 학습 시스템.A learning system comprising: recognizing an image excluding the image area as the problem area.
  3. 제 1항에 있어서,According to clause 1,
    상기 프로세서는, The processor,
    상기 추출된 텍스트 또는 상기 추출된 그림에 기초하여 문제 데이터를 생성하고, Generating problem data based on the extracted text or the extracted picture,
    상기 문제 데이터는,The problem data is,
    상기 문제 파일에서 상기 문제 영역 및 상기 선지 영역이 포함된 페이지 정보, Page information including the problem area and the selection area in the problem file,
    상기 문제 영역에서 추출된 문제 번호,Problem number extracted from the above problem area,
    상기 문제 영역에 포함된 문제 내용,Problem content included in the above problem areas;
    상기 선지 영역에서 추출된 선지 개수,The number of blood extracts extracted from the blood fat area,
    상기 선지 영역에 포함된 선지 내용 중 적어도 하나를 포함하는 학습 시스템.A learning system including at least one of the preliminary content included in the preliminary information area.
  4. 제 1항에 있어서,According to clause 1,
    상기 문제 풀이 정보는,The above problem-solving information is,
    Knowledge gragh를 이용한 시맨틱 서치(Semantic search)에 기초하여 생성된 다른 사용자의 오답률, 평균 풀이시간 및 문제 난이도 중 적어도 하나 이상의 정보를 포함하고,Contains at least one of other users' incorrect answer rate, average solution time, and problem difficulty generated based on semantic search using Knowledge gragh,
    상기 사용자가 입력한 정답에 기초하여 실시간으로 업데이트되는 학습 시스템.A learning system that is updated in real time based on the correct answer entered by the user.
  5. 제 1항에 있어서,According to clause 1,
    상기 프로세스는,The process is,
    상기 사용자의 풀이가 입력된 문제 영역 및 선지 영역을 구분하고,Distinguish between a problem area and a preliminary area where the user's solution is input,
    상기 사용자의 풀이가 입력된 선지 영역과 상기 문제 풀이 정보에 포함된 정답을 비교하고,Compare the answer area included in the problem solving information with the answer area where the user's solution is entered,
    상기 비교 결과에 기초하여 정답 여부를 결정하는 학습 시스템.A learning system that determines whether the correct answer is based on the comparison results.
  6. 제 5항에 있어서,According to clause 5,
    상기 프로세서는,The processor,
    상기 문제 풀이 정보에 기초하여 오답을 포함하는 문제 영역 및 선지 영역만을 인식하고, Based on the problem solving information, recognize only the problem area and the preliminary area containing incorrect answers,
    상기 오답을 포함하는 문제 영역 및 선지 영역 이외의 영역을 삭제하고, 상기 오답이 포함된 문제 영역 및 선지 영역만을 재배치하여 상기 디스플레이에 출력하는 학습 시스템.A learning system that deletes areas other than the problem area and the selected area containing the incorrect answer, rearranges only the problem area and the selected area containing the incorrect answer, and outputs them on the display.
  7. 제 6항에 있어서,According to clause 6,
    상기 프로세서는,The processor,
    상기 오답이 포함된 문제 영역 및 선지 영역만을 재배치할 때, 상기 사용자의 풀이가 포함된 입력값을 삭제하고, 상기 오답이 포함된 문제 영역 및 선지 영역만을 상기 디스플레이를 통해 출력하는 학습 시스템.A learning system that deletes the input value containing the user's solution and outputs only the problem area and the test area containing the incorrect answer through the display when rearranging only the problem area and the test area containing the incorrect answer.
  8. 제 5항에 있어서,According to clause 5,
    상기 프로세서는,The processor,
    상기 사용자 풀이가 포함된 문제 영역 및 선지 영역 이외의 영역의 음역을 약하게 표시하고,Weakly display the sound range of areas other than the problem area and the preliminary area containing the user's solution,
    상기 사용자의 풀이가 포함된 입력값을 삭제하도록 상기 디스플레이를 제어하는 학습 시스템.A learning system that controls the display to delete input values containing the user's solution.
  9. 외부에 마련된 서버와 통신하는 사용자 단말의 애플리케이션 동작 방법에 있어서,In a method of operating an application of a user terminal that communicates with an external server,
    문제 영역 또는 선지 영역을 라벨링한 학습 데이터에 기초하여 문제 영역과 선지 영역을 구분하는 방법을 학습한 인공지능과 네트워크를 통해 연결되고;It is connected through a network with artificial intelligence that has learned how to distinguish problem areas and predicted areas based on learning data labeling problem areas or predicted areas;
    상기 사용자가 업로드하는 문제 파일을 표시하고;display problem files uploaded by the user;
    상기 학습된 인공지능에 기초하여 상기 문제 파일 중 문제 영역 및 선지 영역을 구분하고;distinguishing problem areas and preliminary areas in the problem file based on the learned artificial intelligence;
    상기 구분된 문제 영역 및 상기 구분된 선지 영역에서 텍스트 추출 및 그림 추출을 수행하고;Extracting text and extracting pictures from the divided problem area and the divided paper area;
    상기 추출된 텍스트 및 그림에 기초하여 상기 서버로부터 문제 파일의 상기 문제 풀이 정보를 요청하고;requesting the problem solving information of the problem file from the server based on the extracted text and picture;
    상기 수신된 문제 풀이 정보를 상기 디스플레이를 통해 출력하는 것;을 포함하는 애플리케이션 동작 방법.An application operation method comprising: outputting the received problem-solving information through the display.
  10. 제 9항에 있어서,According to clause 9,
    상기 문제 파일 중 문제 영역 및 선지 영역을 구분하는 것은,Distinguishing between problem areas and preliminary areas among the problem files is as follows:
    상기 수신된 문제 파일을 이미지 파일로 변환하고;converting the received problem file into an image file;
    변환된 이미지 파일에서 상기 인공지능을 통해 선지 영역을 먼저 인식하고;In the converted image file, the line area is first recognized through the artificial intelligence;
    상기 선지 영역을 제외한 이미지를 상기 문제 영역으로 인식하는 것;을 포함하는 애플리케이션 동작 방법.An application operation method comprising: recognizing an image excluding the image area as the problem area.
  11. 제 9항에 있어서,According to clause 9,
    상기 문제 풀이 정보는,The above problem-solving information is,
    상기 서버에 포함된 인공지능이 Knowledge gragh를 이용한 시맨틱 서치(Semantic search)에 기초하여 생성된 다른 사용자의 오답률, 평균 풀이시간 및 문제 난이도 중 적어도 하나 이상의 정보를 포함하도록 생성하고, The artificial intelligence included in the server generates information to include at least one of other users' error rate, average solution time, and problem difficulty generated based on semantic search using Knowledge gragh,
    상기 서버는The server is
    상기 사용자가 입력한 풀이에 기초하여 상기 문제 풀이 정보를 실시간으로 업데이트하는 것;을 포함하는 애플리케이션 동작 방법.An application operation method comprising: updating the problem solving information in real time based on the solution input by the user.
  12. 제 9항에 있어서,According to clause 9,
    상기 사용자의 풀이가 입력된 문제 영역 및 선지 영역을 구분하고;distinguishing between a problem area and a preliminary area where the user's solution is input;
    상기 사용자의 풀이가 입력된 선지 영역의 선지 번호와 상기 문제 풀이 정보에 포함된 정답을 비교하고;Compare the answer number included in the problem solving information with the answer number of the question area in which the user's solution is entered;
    상기 비교 결과에 기초하여 정답 여부를 결정하는 것;을 더 포함하는 애플리케이션 동작 방법.A method of operating an application further comprising: determining whether the correct answer is based on the comparison result.
  13. 제 12항에 있어서,According to clause 12,
    상기 문제 풀이 정보에 기초하여 오답을 포함하는 문제 영역 및 선지 영역만을 인식하고;Based on the problem solving information, recognize only the problem area and the preliminary area containing incorrect answers;
    상기 오답을 포함하는 문제 영역 및 선지 영역 이외의 영역을 삭제하고;Delete areas other than the question area and exam area containing the incorrect answer;
    상기 오답이 포함된 문제 영역 및 선지 영역만을 재배치하는 것;을 더 포함하는 애플리케이션 동작 방법.A method of operating an application further comprising rearranging only the problem area and the exam area containing the incorrect answer.
  14. 제 9항에 있어서, According to clause 9,
    상기 사용자의 풀이가 입력된 문제 영역 및 선지 영역을 구분하고;distinguishing between a problem area and a preliminary area where the user's solution is input;
    상기 문제 파일의 편집을 유도하는 유저 인터페이스를 표시하고;displaying a user interface to guide editing of the problem file;
    상기 유저 인터페이스를 통해 입력되는 사용자 입력에 기초하여 상기 사용자의 풀이가 포함된 선지 영역과 그에 대응되는 문제 영역만을 상기 디스플레이를 통해 출력하는 것;을 포함하는 애플리케이션 동작 방법.An application operation method comprising: outputting only a selection area containing the user's solution and a problem area corresponding thereto through the display based on user input input through the user interface.
  15. 제 14항에 있어서,According to clause 14,
    상기 사용자의 풀이가 포함된 선지 영역과 그에 대응되는 문제 영역만에서 사용자의 풀이를 삭제한 후, 상기 디스플레이를 통해 출력하고; deleting the user's solution only from the selection area containing the user's solution and the problem area corresponding thereto, and outputting the solution through the display;
    상기 사용자의 추가적인 풀이가 입력되면, 상기 사용자의 풀이가 포함되지 않는 문제 영역과 선지 영역만을 재배치하여 상기 디스플레이를 통해 출력하는 것;을 더 포함하는 학습 애플리케이션 동작 방법.When the user's additional solution is input, only the problem area and the selection area that do not include the user's solution are rearranged and output through the display.
PCT/KR2023/002650 2022-08-31 2023-02-24 Learning system, and method for operating learning application WO2024048881A1 (en)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2022-0109586 2022-08-31
KR20220109586 2022-08-31
KR1020230024562A KR20240031863A (en) 2022-08-31 2023-02-23 Study System and Operating Method of Study Application
KR10-2023-0024562 2023-02-23

Publications (1)

Publication Number Publication Date
WO2024048881A1 true WO2024048881A1 (en) 2024-03-07

Family

ID=90098102

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2023/002650 WO2024048881A1 (en) 2022-08-31 2023-02-24 Learning system, and method for operating learning application

Country Status (1)

Country Link
WO (1) WO2024048881A1 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101061452B1 (en) * 2010-04-07 2011-09-06 이지행 Method for feedback study using study book having readable identification code and a server for the same
KR102126834B1 (en) * 2019-02-19 2020-06-25 김도남 Automatic scoring system using qr code
KR20210001412A (en) * 2019-06-28 2021-01-06 한양대학교 에리카산학협력단 System and method for providing learning service
JP2021035019A (en) * 2019-08-29 2021-03-01 京セラドキュメントソリューションズ株式会社 Image processing apparatus, image processing method, and image processing program
US20210241644A1 (en) * 2020-02-03 2021-08-05 St Unitas Co., Ltd. Apparatus, method and recording medium storing command for supporting learning
KR102430505B1 (en) * 2021-12-17 2022-08-08 멘토알고 주식회사 Method for providing user interface for scoring problem and device for performing the same

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101061452B1 (en) * 2010-04-07 2011-09-06 이지행 Method for feedback study using study book having readable identification code and a server for the same
KR102126834B1 (en) * 2019-02-19 2020-06-25 김도남 Automatic scoring system using qr code
KR20210001412A (en) * 2019-06-28 2021-01-06 한양대학교 에리카산학협력단 System and method for providing learning service
JP2021035019A (en) * 2019-08-29 2021-03-01 京セラドキュメントソリューションズ株式会社 Image processing apparatus, image processing method, and image processing program
US20210241644A1 (en) * 2020-02-03 2021-08-05 St Unitas Co., Ltd. Apparatus, method and recording medium storing command for supporting learning
KR102430505B1 (en) * 2021-12-17 2022-08-08 멘토알고 주식회사 Method for providing user interface for scoring problem and device for performing the same

Similar Documents

Publication Publication Date Title
WO2021020667A1 (en) Method and program for providing remote rehabilitation training
WO2020164281A1 (en) Form parsing method based on character location and recognition, and medium and computer device
WO2016182178A1 (en) Method and device for providing individual-customized education content and computer program
WO2010137814A2 (en) Method of providing by-viewpoint patent map and system thereof
WO2018052257A1 (en) Apparatus and method for managing notification
WO2011065630A1 (en) Apparatus and method for analyzing research information about a researcher, and computer-readable storage medium for storing computer-executable program for the method
WO2016013885A1 (en) Method for retrieving image and electronic device thereof
WO2021157897A1 (en) A system and method for efficient multi-relational entity understanding and retrieval
WO2020190103A1 (en) Method and system for providing personalized multimodal objects in real time
WO2017115994A1 (en) Method and device for providing notes by using artificial intelligence-based correlation calculation
WO2019093599A1 (en) Apparatus for generating user interest information and method therefor
WO2022145946A1 (en) System and method for learning language based on artificial intelligence-recommended training images and illustrative sentences
WO2021033835A1 (en) Server for generating electronic document, and method thereof
CN109697242B (en) Photographing question searching method and device, storage medium and computing equipment
WO2024048881A1 (en) Learning system, and method for operating learning application
WO2024101754A1 (en) Ai math tutoring service providing system capable of automatic unit and difficulty level classification and re-editing of math question , and method for implementing same
WO2019107799A1 (en) Method and apparatus for moving input field
WO2021085811A1 (en) Automatic speech recognizer and speech recognition method using keyboard macro function
WO2020045909A1 (en) Apparatus and method for user interface framework for multi-selection and operation of non-consecutive segmented information
WO2022092487A1 (en) Electronic apparatus and controlling method thereof
WO2021112361A1 (en) Electronic device and control method therefor
WO2019045441A1 (en) Method for providing cognitive semiotics based multimodal predictions and electronic device thereof
WO2022139327A1 (en) Method and apparatus for detecting unsupported utterances in natural language understanding
WO2018110900A1 (en) System for recommending content
KR20240031863A (en) Study System and Operating Method of Study Application

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23860570

Country of ref document: EP

Kind code of ref document: A1