KR20230063759A - Selecting questions method for english proficiency test - Google Patents

Selecting questions method for english proficiency test Download PDF

Info

Publication number
KR20230063759A
KR20230063759A KR1020210149160A KR20210149160A KR20230063759A KR 20230063759 A KR20230063759 A KR 20230063759A KR 1020210149160 A KR1020210149160 A KR 1020210149160A KR 20210149160 A KR20210149160 A KR 20210149160A KR 20230063759 A KR20230063759 A KR 20230063759A
Authority
KR
South Korea
Prior art keywords
question
questions
data server
english
wrong
Prior art date
Application number
KR1020210149160A
Other languages
Korean (ko)
Inventor
오승연
Original Assignee
주식회사 에듀토셀
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 에듀토셀 filed Critical 주식회사 에듀토셀
Priority to KR1020210149160A priority Critical patent/KR20230063759A/en
Publication of KR20230063759A publication Critical patent/KR20230063759A/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • G06Q50/205Education administration or guidance
    • G06Q50/2057Career enhancement or continuing education service
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9035Filtering based on additional data, e.g. user or group profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9038Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/906Clustering; Classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Educational Technology (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Educational Administration (AREA)
  • Tourism & Hospitality (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • General Business, Economics & Management (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

The present invention relates to a method of selecting questions for an English proficiency test. The method of selecting the questions in a system for the English proficiency test comprises the steps of: obtaining source data by using a data server in which the previously performed English questions are stored; constructing, by the data server, a dataset by analyzing the source data into a plurality of data information including keywords, themes, difficulty levels, question format, fingerprint structures, and fingerprint format; grouping and classifying, by the data server, the questions with similar problem types in the constructed dataset; grouping and classifying, by the data server, the questions with similar difficulty levels in the constructed dataset; and randomly selecting, by the data server, the questions in consideration of the classified similarity and difficulty level. According to at least one of the embodiments of the present invention, it is possible to analyze the similarity and predict the difficulty level of a question set extracted from a question bank.

Description

영어능력시험을 위한 문제선정 방법{SELECTING QUESTIONS METHOD FOR ENGLISH PROFICIENCY TEST}How to select questions for the English proficiency test {SELECTING QUESTIONS METHOD FOR ENGLISH PROFICIENCY TEST}

본 발명은 영어능력시험을 위한 문제선정 방법에 관한 것으로, 보다 구체적으로는 문항의 유사도 및 난이도에 따라 문항을 그룹핑하고 이를 기초로 문항을 선정하는 방법에 관한 것이다. The present invention relates to a method for selecting questions for an English proficiency test, and more specifically, to a method for grouping items according to similarity and difficulty of items and selecting items based thereon.

국내 영어교육이 고비용 저효율의 구조를 타파하지 못하는 가장 큰 문제점은 객관적이고 정확한 진단 없이 학습자 레벨에 맞지 않는 교육이 이루어지고 있기 때문이다.The biggest problem with domestic English education failing to overcome the high-cost and low-efficiency structure is that education that does not fit the learner's level is being conducted without an objective and accurate diagnosis.

현재, 영어능력시험에서의 문항 출제는 출제자의 성향과 의도에 따라 치우치거나 주제, 난이도의 불균형을 초래하고 있다. 이에 성적결과에 따른 학습 방안의 제시에 있어 효율적이지 못한 단점이 있다.Currently, questions in the English proficiency test are biased according to the inclination and intention of the examiner, or cause an imbalance in topics and difficulty. Therefore, there is a disadvantage that is not efficient in presenting a learning plan according to the grade result.

본 발명은 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다. 또 다른 목적은 영어능력시험을 위한 시스템에서 문제를 선정하는 방법을 제공하는 것이다. The present invention aims to solve the foregoing and other problems. Another purpose is to provide a method for selecting questions in the system for the English proficiency test.

상기 또는 다른 목적을 달성하기 위해 본 발명의 일 측면에 따르면, 영어능력시험을 위한 시스템에서 문제를 선정하는 방법에 있어서, 기 수행된 영어문항이 저장되는 데이터 서버를 이용하여 원천데이터를 얻는 단계; 상기 데이터 서버가 상기 원천데이터를 키워드, 테마, 난이도, 질문 형식, 지문 구조, 지문 형식을 포함하는 다수의 데이터 정보로 분석하여 데이터세트를 구축하는 단계; 상기 데이터 서버가 상기 구축된 데이터세트에서 문제 유형이 유사한 문항을 그룹화하여 분류하는 단계; 상기 데이터 서버가 상기 구축된 데이터세트에서 난이도가 유사한 문항을 그룹화하여 분류하는 단계; 상기 데이터 서버가 상기 분류된 유사도 및 난이도 수준을 고려하여 문항이 임의로 선정하는 단계를 포함하고 상기 영어문항은 문제를 풀기 위한 상황적 이해나 배경 지식을 제공하는 지문(prompt), 묻고자 하는 내용을 포함하여 문항의 성격을 규정하는 질문(question), 및 정답을 포함하는 선택지(distractor)를 포함하고, 상기 지문을 다수의 테마(theme)에 따라 분류하고, 상기 질문을 다수의 질문 유형에 따라 분류하고, 상기 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유를 다수의 유형으로 분류하고, 상기 지문, 질문 및 선택지가 아닌 이유 각각에 대해 동일한 그룹에 속하는 문항에 대해 기설정된 점수를 부여한 다음 상기 지문, 질문 및 선택지에 대해 기설정된 점수 이상을 획득하는 경우에 유사한 문항으로 판단하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법이 제공될 수 있다.According to one aspect of the present invention to achieve the above or other objects, in a method for selecting questions in a system for an English proficiency test, obtaining source data by using a data server in which previously performed English questions are stored; constructing a dataset by the data server by analyzing the source data into a plurality of pieces of data information including keywords, themes, difficulty levels, question formats, fingerprint structures, and fingerprint formats; Grouping and classifying, by the data server, questions having similar problem types in the constructed dataset; Grouping and classifying, by the data server, questions having similar difficulties in the constructed dataset; The data server randomly selects questions in consideration of the classified similarity and level of difficulty, and the English questions include prompts that provide situational understanding or background knowledge to solve the problem, and content to be asked. Includes a question defining the nature of the item, and a extractor including a correct answer, classifies the passage according to a plurality of themes, and classifies the question according to a plurality of question types. and classifies the reason why the non-correct answer among the options is not correct into a plurality of types, and assigns a predetermined score to an item belonging to the same group for each of the reasons for the passage, question, and non-option, and then the fingerprint, A question selection method for an English proficiency test may be provided, in which questions and options are judged as similar questions when a predetermined score or more is obtained.

본 발명의 일 측면에 따르면, 상기 지문에 대한 분류기준은 행위(Actions), 활동(Activities), 동물(Animals), 예술(Art), 경력(Careers), 의류(Clothing), 색상(Colors), 음식(Food), 감정(Emotion), 오락(Entertainment), 건강(Health), 음악(Music), 자연(Nature) 중 적어도 하나 이상을 포함할 수 있다.According to one aspect of the present invention, the classification criteria for the fingerprint are Actions, Activities, Animals, Art, Careers, Clothing, Colors, It may include at least one of Food, Emotion, Entertainment, Health, Music, and Nature.

본 발명의 일 측면에 따르면, 상기 질문은 다수의 질문 유형에 따라 분류하되, 질문 유형에 대한 분류기준은 Who 의문문에 알맞은 응답 찾기, What 또는 Which 의문문에 알맞은 응답 찾기, Where 의문문에 알맞은 응답 찾기, When 의문문에 알맞은 응답 찾기, How 의문문에 알맞은 응답 찾기 중 하나 이상을 포함할 수 있다.According to one aspect of the present invention, the questions are classified according to a plurality of question types, but the classification criteria for the question types include finding answers appropriate for the Who question, finding answers appropriate for the What or Which question, finding appropriate answers for the Where question, It may include one or more of searching for an answer appropriate for a When question and finding an appropriate answer for a How question.

본 발명의 일 측면에 따르면, 상기 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유의 분류기준은 모호한 대명사(Ambiguous pronoun), 헷갈리는 단어(Confusing words), 핵심어와 관련된 표현(Keyword related), 핵심어와 관련없는 표현(Keyword unrelated), 핵심어의 부재(Missing keywords), 동일한 표현(Overlap), 틀린 묘사(Wrong description), 틀린 의미(Wrong meaning), 틀린 순서(Wrong sequence), 틀린 상황(Wrong situation) 중 적어도 하나 이상을 포함할 수 있다.According to one aspect of the present invention, the classification criteria for the reason why the non-correct answer is not correct among the options are ambiguous pronouns, confusing words, keyword related expressions, and keyword related At least one of keyword unrelated, missing keywords, identical expression (Overlap), wrong description (Wrong description), wrong meaning (Wrong meaning), wrong sequence (Wrong sequence), wrong situation (Wrong situation) may contain one or more.

본 발명의 일 측면에 따르면, 상기 지문이 그림으로 제공되는 경우 문제 해결을 위해 필요한 정보와 그림을 문장 또는 텍스트로 묘사(description)하는 것으로 그림을 대체할 수 있다.According to one aspect of the present invention, when the fingerprint is provided in the form of a picture, the picture may be replaced with a description of information and pictures necessary for problem solving in sentences or text.

본 발명의 일 측면에 따르면, 상기 데이터 서버가 문항을 임의로 선정하는 단계 이후, 상기 데이터 서버가 선정한 문항을 응시자 단말기에게 전송하는 단계를 더 포함할 수 있다.According to an aspect of the present invention, after the step of randomly selecting an item by the data server, the step of transmitting the item selected by the data server to the test taker terminal may be further included.

본 발명에 따른 영어능력시험을 위한 문제선정 방법의 효과에 대해 설명하면 다음과 같다.The effect of the problem selection method for the English proficiency test according to the present invention is described as follows.

본 발명의 실시예들 중 적어도 하나에 의하면, 문제은행에서 추출된 문항 세트의 유사도 분석 및 난이도 예측이 가능하다는 장점이 있으며, 실시간으로 응시자에 따아 다른 문항을 제공할 수 있는 장점이 있다.According to at least one of the embodiments of the present invention, similarity analysis and difficulty prediction of item sets extracted from a question bank are possible, and different items can be provided according to test takers in real time.

본 발명의 실시예들 중 적어도 하나에 의하면, AI 플랫폼을 활용해 유사도 분석 및 난이도 예측 AI가 도입되면서 정기시험을 대체할 수 있을 정도의 질을 담보할 수 있는 문항 세트(SET) 생성으로 비대면 테스트 시장을 선점할 수 있는 장점이 있다.According to at least one of the embodiments of the present invention, similarity analysis and difficulty prediction AI are introduced using an AI platform, and non-face-to-face by generating a set of items (SET) that can ensure quality enough to replace regular exams It has the advantage of preoccupying the test market.

본 발명의 실시예들 중 적어도 하나에 의하면, 출제된 문항들을 유형별, 난이도, 정답률을 분석해낼 수 있고, 이에 의해 응시자 개개인에게 맞는 영어학습 방향 제시가 효율적으로 가능해지며, 개인별 맞춤형 영어학습을 실현할 수 있는 장점이 있다.According to at least one of the embodiments of the present invention, it is possible to analyze the type, difficulty, and correct answer rate of the questions presented, thereby efficiently presenting an English learning direction suitable for each test taker, and realizing personalized English learning. There are advantages to

본 발명의 실시예들 중 적어도 하나에 의하면, 영어능력문항 출제 시, 출제자가 출제하는 문항이 기존에 출제된 문항과 비교하여, 난이도, 유형, 정답률 분석을 AI가 제시해줌으로써, 문항 출제의 체계화 및 효율화에 유리하다.According to at least one of the embodiments of the present invention, when an English proficiency question is set, the question set by the setter is compared with the previously set question, and AI presents an analysis of difficulty, type, and correct answer rate, thereby systematizing and beneficial to efficiency.

본 발명의 적용 가능성의 추가적인 범위는 이하의 상세한 설명으로부터 명백해질 것이다. 그러나 본 발명의 사상 및 범위 내에서 다양한 변경 및 수정은 당업자에게 명확하게 이해될 수 있으므로, 상세한 설명 및 본 발명의 바람직한 실시예와 같은 특정 실시예는 단지 예시로 주어진 것으로 이해되어야 한다.A further scope of the applicability of the present invention will become apparent from the detailed description that follows. However, since various changes and modifications within the spirit and scope of the present invention can be clearly understood by those skilled in the art, it should be understood that the detailed description and specific examples such as preferred embodiments of the present invention are given by way of example only.

도 1은 본 발명과 관련된 영어능력시험을 위한 문항선정 방법의 플로차트이다.
도 2는 본 발명과 관련된 문항의 예시이다.
도 3은 본 발명과 관련된 영어능력시험을 위한 시스템도이다.
1 is a flowchart of an item selection method for an English proficiency test related to the present invention.
2 is an example of a question related to the present invention.
3 is a system diagram for an English proficiency test related to the present invention.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소에는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. Hereinafter, the embodiments disclosed in this specification will be described in detail with reference to the accompanying drawings, but the same reference numerals will be assigned to the same or similar components regardless of reference numerals, and overlapping descriptions thereof will be omitted. In addition, in describing the embodiments disclosed in this specification, if it is determined that a detailed description of a related known technology may obscure the gist of the embodiment disclosed in this specification, the detailed description thereof will be omitted. In addition, the accompanying drawings are only for easy understanding of the embodiments disclosed in this specification, the technical idea disclosed in this specification is not limited by the accompanying drawings, and all changes included in the spirit and technical scope of the present invention , it should be understood to include equivalents or substitutes.

개개인에게 딱맞는 영어학습 방안을 처방하려면, 문항 출제시부터 출제자가 개별 문항마다 정확히 무엇을 평가하려고 하는지에 대한 명확한 기준을 갖고 출제해야 한다. 따라서 출제자가 문항 출제시 AI의 도움을 받아 기출문제들과의 유사도, 난이도, 유형, 주제, 교과지능 등을 분석해가며 출제할 수 있게 된다면 영어학습자들에게 영어 학습 처방까지 확실하게 제시할 수 있는 완성도 높은 서비스의 제공이 가능하다.In order to prescribe an English study plan that is perfect for each individual, from the time the question is presented, the examiner must have a clear standard for what exactly he is trying to evaluate for each question. Therefore, if the examiner can analyze the similarity with past questions, difficulty, type, topic, subject intelligence, etc. with the help of AI when setting questions, then the level of completeness that can certainly provide English learning prescriptions to English learners A high level of service can be provided.

한편, 시험 응시자 데이터 분석을 통해 응시자에 따른 맞춤형 학습을 보다 효율적으로 제공해주기 위하여 문항 출제시, 기존에 분석된 데이터들을 기반으로 그 학습자에게 맞춤형 학습 방법을 제공해 주기 위하여 문항 출제 시스템을 고도화할 필요가 있다.On the other hand, in order to more efficiently provide customized learning according to the test taker through test taker data analysis, it is necessary to upgrade the item setting system to provide a customized learning method to the learner based on the previously analyzed data when setting the item. there is.

이를 위해서 문항 출제자가 문항을 출제할 때 기존의 문항 데이터들을 정답률에 따라 또는 문항 유형에 따라 기존 문항 데이터들을 제시해 줄 필요가 있다. 상기 문항 데이터는 대한민국 전국 유아, 초등, 중등, 고등, 대학생들을 대상으로 인지단계 또는 개인의 영어실력에 맞추어 자유롭게 레벨을 선택하여 각 레벨별 동일 문항으로 동시에 평가한 성적데이터일 수 있다.To this end, it is necessary for an item setter to present existing item data according to the percentage of correct answers or according to the type of item when setting the item. The item data may be grade data evaluated at the same time with the same item for each level by freely selecting a level according to a cognitive level or an individual's English proficiency targeting infants, elementary school, middle school, high school, and college students nationwide in Korea.

본 발명의 일 실시예에서는 연령 또는 실력에 맞춰 첫 문항을 제시한 뒤 정답 유무에 따라 난이도 수준을 조절하고, 응시 결과 데이터를 기반으로 학습할 수 있는 모델을 제공하고, 사용되는 문제의 풀(pool)이 한정적임을 감안하여 문제의 풀(pool)을 무한정 넓히면서도 동시에 난이도 수준 조절 알고리즘에는 문제가 없도록 각 문항에 대한 유사한 문항을 제공하는데 그 목적이 있다. In one embodiment of the present invention, after presenting the first question according to age or ability, the level of difficulty is adjusted according to whether or not there is a correct answer, a model capable of learning based on test result data is provided, and a pool of problems used is provided. ) is limited, the purpose is to provide similar questions for each question so that there is no problem with the difficulty level control algorithm while expanding the pool of questions indefinitely.

도 1은 본 발명의 일 실시예에 따른 영어문항 선정방법에 대한 플로차트이다. 이하에서는 도 1을 참조하여 본 발명의 일 실시예에 따른 레벨테스트와 같은 영어능력시험을 위한 문제선정 방법에 대하여 설명하기로 한다.1 is a flowchart of a method for selecting English questions according to an embodiment of the present invention. Hereinafter, a question selection method for an English proficiency test such as a level test according to an embodiment of the present invention will be described with reference to FIG. 1 .

먼저, 영어능력시험을 위한 시스템(200)에서 문제를 선정하는 방법에 있어서, 기 수행된 영어문항이 저장되는 데이터 서버(220)를 이용하여 원천데이터를 얻는 단계(S110), 상기 데이터 서버(220)가 상기 원천데이터를 키워드, 테마, 난이도, 질문 형식, 지문 구조, 지문 형식을 포함하는 다수의 데이터 정보로 분석하여 데이터세트를 구축하는 단계(S120), 상기 데이터 서버(220)가 상기 구축된 데이터세트에서 문제 유형이 유사한 문항을 그룹화하여 분류하는 단계(S130), 상기 데이터 서버(220)가 상기 구축된 데이터세트에서 난이도가 유사한 문항을 그룹화하여 분류하는 단계(S140), 상기 데이터 서버(220)가 상기 분류된 유사도 및 난이도 수준을 고려하여 문항이 임의로 선정하는 단계(S150)를 포함하여 이루어진다. First, in the method of selecting questions in the system 200 for the English proficiency test, the step of obtaining original data using the data server 220 in which previously performed English questions are stored (S110), the data server 220 ) constructs a dataset by analyzing the source data into a plurality of data information including keywords, themes, difficulty levels, question formats, fingerprint structures, and fingerprint formats (S120), the data server 220 constructs the Step of grouping and classifying questions having similar problem types in the dataset (S130), step of the data server 220 grouping and classifying questions having similar difficulty in the constructed dataset (S140), the data server 220 ) includes a step (S150) of randomly selecting an item in consideration of the classified similarity and level of difficulty.

본 발명의 일 실시예에서의 상기 S110 내지 S160 단계는 모두 데이터 서버(220)에서 수행된다. 상기 문항의 선정은 AI와 같은 알고리즘에 의해 수행될 수 있으며, 문항별 유사도 및 난이도를 고려하여 랜덤으로 추출될 수 있다. 상기 영어문항은 도 2에 도시된 바와 같이, 문제를 풀기 위한 상황적 이해나 배경 지식을 제공하는 지문(prompt), 묻고자 하는 내용을 포함하여 문항의 성격을 규정하는 질문(question), 및 정답을 포함하는 선택지(distractor)를 포함하여 이루어진다. 경우에 따라서는 지문이 글이 아닌 그림이거나 지문이 없는 경우도 존재하는데, 그림인 경우에는 해당 문제를 해결하기 위해 반드시 얻어야 할 정보와 그림을 묘사(Description)하는 내용으로 그림을 대체한다. 즉, 지문이 없이 그림만 있는 경우에는 그림을 문장 또는 텍스트로 묘사하고 이를 기준으로 유사도를 판단한다. 그리고, 질문은 예외없이 항상 존재하며 선택지의 경우 레벨에 따라 3~4개로 나뉠 수 있다.All of the steps S110 to S160 in one embodiment of the present invention are performed in the data server 220. The selection of the items may be performed by an algorithm such as AI, and may be randomly extracted in consideration of similarity and difficulty for each item. As shown in FIG. 2, the English questions include a prompt that provides situational understanding or background knowledge for solving the problem, a question that defines the nature of the question including the content to be asked, and a correct answer. It is made by including a distractor that includes. In some cases, the fingerprint is not a text but a picture or there is no fingerprint. In the case of a picture, the picture is replaced with the information that must be obtained to solve the problem and the description of the picture. That is, when there is only a picture without a fingerprint, the picture is described as a sentence or text and the degree of similarity is judged based on this. And, questions always exist without exception, and in the case of options, they can be divided into 3 or 4 depending on the level.

이때, 응시자의 레벨테스트를 위한 문제를 선정한다고 가정하면, 응시자가 최초 문항을 맞추었을 때 한 단계 어려운 문항을 선정할 수 있고, 응시자가 최초 문항을 틀렸을 경우에는 한 단계 쉬운 문항을 선정할 수 있다. 이와 같이, 응시자의 실력에 따라 다음 문제가 결정되도록 함으로써 응시자의 실력을 테스트할 수 있게 된다. 최초 문항은 응시자의 연령에 따라서 다르게 선정하거나 응시자의 기저장된 실력을 고려하여 선정할 수도 있다. 상기 선정되는 문항은 문제은행식으로 시스템(200)의 데이터 서버(220)에 저장될 수 있으며, 유사도 및 난이도가 비슷한 문항을 선정하여 응시자에게 제시할 수 있게 된다. 이와 같이, 본 발명의 일 실시예에서는 기출제된 문항들을 분석하여 데이터 서버(220)에 저장하고, 상기 데이터 서버(220)에 저장되어 있는 문항들을 실시간으로 선정하여 응시자에게 제공할 수 있다. 이를 위해서는 도 3에 도시된 바와 같이, 수많은 문항 및 문항을 분석한 데이터가 저장되어 있는 데이터 서버(220)와, 상기 데이터 서버(220)에 접속하여 영어시험을 실시하는 응시자 단말기(210)를 포함하는 영어능력시험용 시스템(200)이 구비되어 있어야 한다. 상기 데이터 서버(220)는 기출문제를 시험구분, 섹션, 파트(Part), 문항번호, 선택지, 정답여부, 정답률, 선택지(Distractors), 키워드(keywords), 테마(themes), 난이도(difficulty), 지문 시제(Prompt Tense), 단어 클래스(Word Class), 지능분류, 유형, 의사소통 기능, 질문 타입(Questions Types), 상세 질문 타입(Detail Questions Types), 추론(Inference), 지문 구조(Prompts Structures), 지문 타입(Prompt Types), 문법 포인트(Grammatical Points) 등으로 구분하여 디지털화(digitalization)화 하여 그룹별로 저장한다. At this time, assuming that a question is selected for the test taker's level test, when the test taker gets the first question right, a more difficult question can be selected, and when the test taker gets the first question wrong, an easier question can be selected. . In this way, it is possible to test the candidate's ability by determining the next question according to the candidate's ability. The first question may be selected differently according to the age of the candidate or may be selected in consideration of the candidate's pre-stored ability. The selected questions may be stored in the data server 220 of the system 200 in the form of a question bank, and questions having a similar degree of similarity and difficulty may be selected and presented to the candidate. As such, in one embodiment of the present invention, previously presented questions may be analyzed and stored in the data server 220, and the questions stored in the data server 220 may be selected in real time and provided to the candidate. To this end, as shown in FIG. 3, a data server 220 in which numerous items and data analyzed for the items are stored, and a test taker terminal 210 that accesses the data server 220 and conducts an English test. The system 200 for the English proficiency test must be provided. The data server 220 classifies past questions into test categories, sections, parts, question numbers, options, correct answers, percent correct answers, distractors, keywords, themes, difficulty, Prompt Tense, Word Class, Intelligence Classification, Type, Communication Function, Question Types, Detail Questions Types, Inference, Prompts Structures , Prompt Types, Grammatical Points, etc., digitized and stored by group.

본 발명의 일 실시예에서 문항의 유사도 분석을 위해서는 상기 기 수행된 문항의 지문을 다수의 테마(theme)에 따라 분류하고, 상기 질문을 다수의 질문 유형에 따라 분류하고, 상기 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유를 다수의 유형으로 분류하고, 상기 지문, 질문 및 선택지가 아닌 이유 각각에 대해 동일한 그룹에 속하는 문항에 대해 기설정된 점수를 부여한 다음 상기 지문, 질문 및 선택지에 대해 기설정된 점수 이상을 획득하는 경우에 유사한 문항으로 판단하도록 한다. 일예로, 상기 지문에 대한 분류기준은 행위(Actions), 활동(Activities), 동물(Animals), 예술(Art), 경력(Careers), 의류(Clothing), 색상(Colors), 음식(Food), 감정(Emotion), 오락(Entertainment), 건강(Health), 음악(Music), 자연(Nature) 중 적어도 하나 이상을 포함할 수 있다. 상기 질문은 다수의 질문 유형에 따라 분류하되, 질문 유형에 대한 분류기준은 Who 의문문에 알맞은 응답 찾기, What 또는 Which 의문문에 알맞은 응답 찾기, Where 의문문에 알맞은 응답 찾기, When 의문문에 알맞은 응답 찾기, How 의문문에 알맞은 응답 찾기 중 하나 이상을 포함할 수 있다. In one embodiment of the present invention, in order to analyze the similarity of items, the fingerprints of the previously performed items are classified according to a plurality of themes, the questions are classified according to a plurality of question types, and among the options, the answers are not correct. The reason for not answering the choice is classified into a plurality of types, and a predetermined score is given to an item belonging to the same group for each of the passage, question, and reason for not being an option, and then a predetermined score is given for the passage, question, and option. In case of obtaining the above, judge with similar questions. For example, the classification criteria for the fingerprint are Actions, Activities, Animals, Art, Careers, Clothing, Colors, Food, It may include at least one of Emotion, Entertainment, Health, Music, and Nature. The above questions are classified according to a number of question types, but the classification criteria for the question types are: finding an appropriate answer for a Who question, finding an appropriate response for a What or Which question, finding an appropriate response for a Where question, finding an appropriate response for a When question, and how It can include one or more of finding the right answer to the question.

또한, 상기 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유의 분류기준은 모호한 대명사(Ambiguous pronoun), 헷갈리는 단어(Confusing words), 핵심어와 관련된 표현(Keyword related), 핵심어와 관련없는 표현(Keyword unrelated), 핵심어의 부재(Missing keywords), 동일한 표현(Overlap), 틀린 묘사(Wrong description), 틀린 의미(Wrong meaning), 틀린 순서(Wrong sequence), 반대 의미(Opposite meaning) 중 적어도 하나 이상을 포함할 수 있다. 상기 모호한 대명사(Ambiguous pronoun)는 지문과 맞지 않거나 모호한 대명사를 고른 경우를 의미하고, 헷갈리는 단어(Confusing words)는 지문의 핵심 단어와 비슷하지만 틀린 단어를 고른 경우를 의미하고, 핵심어와 관련된 표현(Keyword related)은 지문에 나온 핵심 단어 또는 관련된 단어와 관련이 있으나 전체적인 흐름과는 맞지 않는 선택지를 고른 경우를 의미하고, 핵심어와 관련없는 표현Keyword unrelated (N/A))은 지문에 나온 핵심 단어와 관련없는 단어가 들어간 선택지를 고른 경우를 의미하고, 핵심어의 부재(Missing keywords)는 지문의 핵심 단어 또는 주요 단어가 없는 선택지를 고른 경우를 의미하고, 동일한 표현(Overlap)은 지문에서 언급된 표현과 같지만 쓰임이 적절하지 않은 선택지를 고른 경우를 의미하고, 틀린 묘사(Wrong description)는 지문에 대한 묘사가 틀린 선택지를 고른 경우를 의미하며, 틀린 의미(Wrong meaning)는 지문의 의미를 잘못 이해한 선택지를 고른 경우를 의미하며, 틀린 순서(Wrong sequence)는 대화의 흐름 상 순서가 잘못된 선택지를 고른 경우를 의미하며, 틀린 상황(Wrong situation)은 지문의 상황을 틀리게 이해한 선택지를 고른 경우를 의미한다. 이때의 지문, 질문 및 선택지의 유사도는 문장 또는 어구의 배치가 서로 인접한 위치에 배치되는지의 여부에 따라서 유사도를 판단하는 하나의 근거가 될 수 있다. 즉, 유사도 분석을 위해 지문과 질문의 텍스트를 결합하여 단락(paragraph) 단위에서의 텍스트 유사도를 측정하고, 선택지의 종류를 포함하여 유사도를 측정한다. 예를 들면, 'I love you'에서 'I'를 1번, 'love'를 2번, 'you'를 3번으로 할 때, 'I love her'에서 I'를 1번, 'love'를 2번, 'her'를 4번으로 하게 되면 이들 두 문장은 1,2,3의 순서와 1,2,4의 순서를 갖게 되어 서로 유사한 문장으로 판단될 가능성이 높다. 그러나, 'She loves me'는 'She'를 5번, 'loves'를 2-1, 'me'를 6번으로 하게 되면 이는 5,2-1,6의 배치를 가지므로 1,2,3의 순서(벡터)를 갖는 'I love you'와는 다른 문장으로 판단될 가능성이 높다. 이와 같이, 본 발명의 일 실시예에서는 지문, 질문, 선택지에 대해 단어 및 어순을 고려하여 유사도를 판단한다.In addition, the classification criteria for the reason for the non-correct answer of the non-correct option among the above options are Ambiguous pronouns, Confusing words, Keyword related expressions, Keyword unrelated expressions , Missing keywords, overlap, wrong description, wrong meaning, wrong sequence, and opposite meaning. there is. The ambiguous pronoun means a case in which an ambiguous pronoun that does not match the fingerprint is selected, and the confusing words mean a case in which a word similar to a key word in the fingerprint is selected but wrong, and an expression related to the key word (Keyword related) means a case in which an option is selected that is related to the key word or related word in the passage but does not match the overall flow, and Keyword unrelated (N/A)) is related to the key word in the passage It means the case of selecting an option with no words, Missing keywords means the case of selecting a key word or an option without a key word in the fingerprint, and the same expression (Overlap) is the same as the expression mentioned in the fingerprint Wrong description means choosing an option that is not appropriate for use, wrong description means choosing an option with an incorrect description of the text, and wrong meaning means choosing an option that misunderstands the meaning of the text. Wrong sequence means a case in which an option is selected in the wrong order in the flow of conversation, and a wrong situation means a case in which an option is selected in a wrong understanding of the context of the text. At this time, the similarity of the fingerprint, question, and option may be one basis for determining the similarity depending on whether the arrangement of sentences or phrases is arranged adjacent to each other. That is, for the similarity analysis, the text similarity is measured in a paragraph unit by combining the fingerprint and the text of the question, and the similarity is measured including the type of option. For example, when 'I' is 1 time in 'I love you', 'love' is 2 times, and 'you' is 3 times, I' is 1 time in 'I love her' and 'love' is 3 times. If number 2 and 'her' are set to number 4, these two sentences have the order of 1,2,3 and the order of 1,2,4, so they are highly likely to be judged as similar sentences. However, 'She loves me', if 'She' is 5 times, 'loves' is 2-1, and 'me' is 6 times, it has a layout of 5,2-1,6, so 1,2,3 It is highly likely to be judged as a sentence different from 'I love you', which has the order (vector) of As such, in one embodiment of the present invention, similarity is determined by considering words and word order for fingerprints, questions, and choices.

한편, 본 발명의 일 실시예에서는 지문에 대한 핵심 테마별로 분류하였을 때 같은 그룹에 존재하면 3점을 부여하고, 질문의 유형 중 각 동일한 그룹에 있다면 5점을 부여하고, 정답지 중 정답이 아닌 선택지의 정답이 아닌 이유에 대해 동일 그룹에 포함되면 2점을 부여하며, 이들을 합산한 총점이 높은 순으로 정렬하고, 총점이 높은 문항 순으로 선정하여 응시자에게 제공한다. 상기 점수는 일예에 불과할 뿐 여기에 한정되는 것은 아니다.On the other hand, in one embodiment of the present invention, when the fingerprints are classified by core theme, 3 points are given if they are in the same group, 5 points are given if they are in the same group among the types of questions, and options that are not correct among the correct answers 2 points are given to those who are included in the same group for the reason why the answer is not correct, and the total points are sorted in the order of highest total points, and the items with the highest total points are selected and provided to the test taker. The score is only an example and is not limited thereto.

이와 같이, 본 발명의 일 실시예에서는 하나의 문항에 대해 지문을 분류하고, 질문을 분류하며, 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유를 분류하여 데이터 서버(220)에 저장한다. As such, in one embodiment of the present invention, fingerprints are classified for one question, questions are classified, and reasons for non-correct answers of non-correct options among options are classified and stored in the data server 220.

또한, 본 발명의 일 실시예에서는 각 선택지(Distractors)의 선택률을 예측하기 위해 응시된 시험 문항과 기출제된 각 문항에서의 선택지별 선택율을 데이터세트로 활용한다. 상기 출제 문항의 각 선택지가 4개이고 상기 응시된 시험 문항에서 정답이 B인 경우, 문항 자체의 정답률은 76% 로 예상되나, A 보기의 선택율이 20%이고, C 보기의 선택율이 3%이고, D 보기의 선택률이 2%인 경우, 76% 정도의 정답률을 보이는 문항 중 각 보기의 선택율이 10% 미만으로 구성되어 있는 문항과는 차이가 있을 수 있다. 즉, 문항의 난이도는 정답률에 의해 판단될 수 있으며, 나아가 정답이 아닌 선택지를 선택하는 선택률간의 차이도 고려해야 한다. 예를 들면, 2개의 문항의 정답률이 각각 70%라고 할 때, 제1문항에서 가장 높은 선택률을 갖는 오답의 선택률이 25%이고 제2문항에서 가장 높은 선택률을 갖는 오답이 10%인 경우의 난이도는 비록 정답률이 동일하다고 하더라도 난이도가 항상 동일하다고 할 수가 없다. In addition, in an embodiment of the present invention, in order to predict the selection rate of each distractor, the selected test item and the selection rate for each distractor in each of the previously presented items are used as a dataset. If there are 4 options for each of the above questions and the correct answer is B in the tested test question, the correct answer rate for the question itself is expected to be 76%, but the selection rate for option A is 20% and the selection rate for option C is 3%, If the selection rate of option D is 2%, it may be different from the items with a selection rate of less than 10% among questions with a correct rate of about 76%. That is, the difficulty of the item can be judged by the correct answer rate, and furthermore, the difference between the selection rates for selecting an option other than the correct answer must be considered. For example, assuming that the rate of correct answers for two questions is 70%, the difficulty level when the selection rate of the wrong answer with the highest selection rate in the first question is 25% and the incorrect answer with the highest selection rate in the second question is 10%. , even if the percentage of correct answers is the same, it cannot be said that the difficulty is always the same.

이와 같이, 상기 데이터 서버(220)가 문항을 임의로 선정하는 단계(S150) 이후, 유사도 및 난이도를 고려하여 문항이 선정되면 선정된 문항을 응시자 단말기(210)에 전송(S160)한다. 응시자는 전송된 문항을 풀어나가며 상기 데이터 서버(220)에서 상기 응시자 단말기(210)에 계속하여 전송하고, 이에 의해 응시자의 영어능력시험이 진행되게 된다.In this way, after the data server 220 randomly selects an item (S150), when an item is selected in consideration of similarity and difficulty, the selected item is transmitted to the test taker terminal 210 (S160). The test taker solves the transmitted questions and continuously transmits them from the data server 220 to the test taker terminal 210, whereby the test taker's English proficiency test proceeds.

상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.The above detailed description should not be construed as limiting in all respects and should be considered illustrative. The scope of the present invention should be determined by reasonable interpretation of the appended claims, and all changes within the equivalent scope of the present invention are included in the scope of the present invention.

110: 지문, 120: 질문, 130: 선택지, 200: 시스템, 220: 데이터 서버, 210: 응시자 단말기,110: fingerprint, 120: question, 130: option, 200: system, 220: data server, 210: test taker terminal,

Claims (6)

영어능력시험을 위한 시스템에서 문제를 선정하는 방법에 있어서,
기 수행된 영어문항이 저장되는 데이터 서버를 이용하여 원천데이터를 얻는 단계;
상기 데이터 서버가 상기 원천데이터를 키워드, 테마, 난이도, 질문 형식, 지문 구조, 지문 형식을 포함하는 다수의 데이터 정보로 분석하여 데이터세트를 구축하는 단계;
상기 데이터 서버가 상기 구축된 데이터세트에서 문제 유형이 유사한 문항을 그룹화하여 분류하는 단계;
상기 데이터 서버가 상기 구축된 데이터세트에서 난이도가 유사한 문항을 그룹화하여 분류하는 단계;
상기 데이터 서버가 상기 분류된 유사도 및 난이도 수준을 고려하여 문항이 임의로 선정하는 단계를 포함하고,
상기 영어문항은 문제를 풀기 위한 상황적 이해나 배경 지식을 제공하는 지문(prompt), 묻고자 하는 내용을 포함하여 문항의 성격을 규정하는 질문(question), 및 정답을 포함하는 선택지(distractor)를 포함하고,
상기 지문을 다수의 테마(theme)에 따라 분류하고, 상기 질문을 다수의 질문 유형에 따라 분류하고, 상기 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유를 다수의 유형으로 분류하고,
상기 지문, 질문 및 선택지가 아닌 이유 각각에 대해 동일한 그룹에 속하는 문항에 대해 기설정된 점수를 부여한 다음 상기 지문, 질문 및 선택지에 대해 기설정된 점수 이상을 획득하는 경우에 유사한 문항으로 판단하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법.
In the method of selecting questions in the system for the English proficiency test,
Obtaining source data using a data server in which previously performed English questions are stored;
constructing a dataset by the data server by analyzing the source data into a plurality of pieces of data information including keywords, themes, difficulty levels, question formats, fingerprint structures, and fingerprint formats;
Grouping and classifying, by the data server, questions having similar problem types in the constructed dataset;
Grouping and classifying, by the data server, questions having similar difficulties in the constructed dataset;
The data server randomly selects an item in consideration of the classified similarity and difficulty level,
The English questions include a prompt that provides contextual understanding or background knowledge for solving the problem, a question that defines the nature of the question, including the content to be asked, and a distractor that includes the correct answer. include,
Classifying the fingerprints according to a plurality of themes, classifying the questions according to a plurality of question types, and classifying reasons why non-correct answers among the options are not correct answers into a plurality of types,
A predetermined score is given to questions belonging to the same group for each of the fingerprints, questions, and reasons for not being an option, and then judged as a similar item when a predetermined score or more is obtained for the fingerprint, question, and option. How to select questions for the English proficiency test.
제1항에 있어서,
상기 지문에 대한 분류기준은 행위(Actions), 활동(Activities), 동물(Animals), 예술(Art), 경력(Careers), 의류(Clothing), 색상(Colors), 음식(Food), 감정(Emotion), 오락(Entertainment), 건강(Health), 음악(Music), 자연(Nature) 중 적어도 하나 이상을 포함하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법.
According to claim 1,
The classification criteria for the fingerprint are Actions, Activities, Animals, Art, Careers, Clothing, Colors, Food, and Emotion. ), entertainment, health, music, and nature.
제2항에 있어서,
상기 질문은 다수의 질문 유형에 따라 분류하되, 질문 유형에 대한 분류기준은 Who 의문문에 알맞은 응답 찾기, What 또는 Which 의문문에 알맞은 응답 찾기, Where 의문문에 알맞은 응답 찾기, When 의문문에 알맞은 응답 찾기, How 의문문에 알맞은 응답 찾기 중 하나 이상을 포함하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법.
According to claim 2,
The above questions are classified according to a number of question types, but the classification criteria for the question types are: finding an appropriate answer for a Who question, finding an appropriate response for a What or Which question, finding an appropriate response for a Where question, finding an appropriate response for a When question, and how A question selection method for an English proficiency test comprising at least one of finding an appropriate answer to a question.
제3항에 있어서,
상기 선택지 중 정답이 아닌 선택지의 정답이 아닌 이유의 분류기준은 모호한 대명사(Ambiguous pronoun), 헷갈리는 단어(Confusing words), 핵심어와 관련된 표현(Keyword related), 핵심어와 관련없는 표현(Keyword unrelated), 핵심어의 부재(Missing keywords), 동일한 표현(Overlap), 틀린 묘사(Wrong description), 틀린 의미(Wrong meaning), 틀린 순서(Wrong sequence), 틀린 상황(Wrong situation) 중 적어도 하나 이상을 포함하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법.
According to claim 3,
Among the above options, the classification criteria for the reason why the non-correct answer is not correct are Ambiguous pronouns, Confusing words, Keyword related expressions, Keyword unrelated expressions, Keywords Characterized in that it includes at least one of missing keywords, identical expression (Overlap), wrong description (Wrong description), wrong meaning (Wrong meaning), wrong sequence (Wrong sequence), and Wrong situation (Wrong situation) How to select questions for the English proficiency test.
제1항에 있어서,
상기 지문이 그림으로 제공되는 경우 문제 해결을 위해 필요한 정보와 그림을 문장 또는 텍스트로 묘사(description)하는 것으로 그림을 대체하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법.
According to claim 1,
A problem selection method for an English proficiency test, characterized in that when the fingerprint is provided as a picture, the picture is replaced with a description of information and pictures necessary for problem solving in sentences or text.
제1항에 있어서,
상기 데이터 서버가 문항을 임의로 선정하는 단계 이후, 상기 데이터 서버가 상기 선정한 문항을 응시자 단말기에게 전송하는 단계를 더 포함하는 것을 특징으로 하는 영어능력시험을 위한 문제선정 방법.



According to claim 1,
The method for selecting a question for an English proficiency test, further comprising, after the data server randomly selecting an item, transmitting the selected item to the test taker terminal by the data server.



KR1020210149160A 2021-11-02 2021-11-02 Selecting questions method for english proficiency test KR20230063759A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210149160A KR20230063759A (en) 2021-11-02 2021-11-02 Selecting questions method for english proficiency test

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210149160A KR20230063759A (en) 2021-11-02 2021-11-02 Selecting questions method for english proficiency test

Publications (1)

Publication Number Publication Date
KR20230063759A true KR20230063759A (en) 2023-05-09

Family

ID=86409068

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210149160A KR20230063759A (en) 2021-11-02 2021-11-02 Selecting questions method for english proficiency test

Country Status (1)

Country Link
KR (1) KR20230063759A (en)

Similar Documents

Publication Publication Date Title
Tucker et al. The French speaker's skill with grammatical gender: An example of rule-governed behavior
US10720078B2 (en) Systems and methods for extracting keywords in language learning
Chen Ontology‐based concept map for planning a personalised learning path
Nunan Research methods in language learning
Muis et al. The catcher in the lie: The role of emotions and epistemic judgments in changing students’ misconceptions and attitudes in a post-truth era
Chernoff Recognizing revisitation of the representativeness heuristic: an analysis of answer key attributes
Taylor et al. Ethnic DIF in reading tests with mixed item formats
Mukarromah et al. Error analysis on students’ writing in using simple present tense in descriptive text
Feng et al. An analytical approach for detecting and explaining the learning path patterns of an informal learning game
KR100760554B1 (en) Method for learning language on network and system thereof
Huang et al. An exploration of listening strategy use and proficiency in China
Dang Investigating vocabulary in academic spoken English: Corpora, teachers, and learners
KR20230063759A (en) Selecting questions method for english proficiency test
Sari et al. The Textbook analysis on students' book of Symphony 1 English course book for Senior High School Grade X viewed from higher order thinking skills
Ghaffari et al. Iranian EFL Learners and Teachers’ Attitudes Toward Critical Cultural Awareness
Koppen The effects of vocabulary-oriented warm-up tasks on student vocabulary acquisition and task value beliefs
Jaihow Corpus use by student writers: error correction by Thai learners of English
Jansen The ABC’s of Mathematics Perceptions
Benjamin All Singing All Dancing: Methods to Evaluate and Support the Development of Idiom Skills in Seven to 16 year olds with Developmental Language Disorder
Maulida et al. Language Learning Strategies Used by English Department Students of English at STKIP PGRI Banjarmasin
Mustapha et al. Natural Language Processing Skills of Learnings Through the Use of Conceptual Interpretation and Textual Responses
Fienberg et al. Statistics for Social and Behavioral Sciences
Palma et al. The impact of backstory structure type on case study effectiveness
Sorour et al. The Effect of An Automatic Feedback System on Students' Comments to Improve their Performance.
Mionis Sentiment analysis to improve the usability of an online practice space

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E601 Decision to refuse application
E601 Decision to refuse application
E801 Decision on dismissal of amendment