JP2009229606A - Method and system for analyzing and processing examination answer - Google Patents

Method and system for analyzing and processing examination answer Download PDF

Info

Publication number
JP2009229606A
JP2009229606A JP2008072532A JP2008072532A JP2009229606A JP 2009229606 A JP2009229606 A JP 2009229606A JP 2008072532 A JP2008072532 A JP 2008072532A JP 2008072532 A JP2008072532 A JP 2008072532A JP 2009229606 A JP2009229606 A JP 2009229606A
Authority
JP
Japan
Prior art keywords
answer
check
pattern
examinees
absence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008072532A
Other languages
Japanese (ja)
Other versions
JP4516136B2 (en
Inventor
Atsushi Yoshikawa
厚 吉川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JAPAN INST FOR EDUCATIONAL MEA
JAPAN INSTITUTE FOR EDUCATIONAL MEASUREMENT Inc
Original Assignee
JAPAN INST FOR EDUCATIONAL MEA
JAPAN INSTITUTE FOR EDUCATIONAL MEASUREMENT Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JAPAN INST FOR EDUCATIONAL MEA, JAPAN INSTITUTE FOR EDUCATIONAL MEASUREMENT Inc filed Critical JAPAN INST FOR EDUCATIONAL MEA
Priority to JP2008072532A priority Critical patent/JP4516136B2/en
Priority to KR1020080044800A priority patent/KR20090049975A/en
Publication of JP2009229606A publication Critical patent/JP2009229606A/en
Application granted granted Critical
Publication of JP4516136B2 publication Critical patent/JP4516136B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B3/00Manually or mechanically operated teaching appliances working with questions and answers
    • G09B3/02Manually or mechanically operated teaching appliances working with questions and answers of the type wherein the student is expected to construct an answer to the question which is presented or wherein the machine gives an answer to the question presented by a student

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Tourism & Hospitality (AREA)
  • Theoretical Computer Science (AREA)
  • Educational Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • General Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Electrically Operated Instructional Devices (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To extract educational subjects by measuring, from variety of perspectives, a series of comprehension degree of the points included in a specific learning item and obtaining the tendency of comprehension of the population through collecting the results of measurement. <P>SOLUTION: A check box is created by extracting, from a typical example solution which is one example answer to a question statement, the parts corresponding to a plurality of sub-items obtained by subdividing the learning items and by listing check elements. Example answer patterns composed of combinations of the presence and absence of the check elements are obtained for each check element of the check box, and the check elements are corrected so that none of the example answer patterns are the same with one another. Then, individual patterns with respect to the description of answering procedure of each examinee composed of combinations of the presence and absence of the check elements are obtained for each check element of the check box, and the individual patterns are recorded together with identification codes for identifying the examinees. The number of examinees of the same individual pattern is summed up. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、複数の受験者に情報要素を複数含む問題文を与えてこれに対する求解手続の記載から受験者全体の所定の学習項目に対する理解傾向を分析処理するための答案分析処理方法及び答案分析処理システムに関する。   The present invention provides an answer analysis processing method and an answer analysis for giving a question sentence including a plurality of information elements to a plurality of examinees and analyzing an understanding tendency of a predetermined learning item of the entire examinees from description of a solution procedure for the information. It relates to a processing system.

各種学校の入学試験などでは、複数の受験者に情報要素を複数含む問題文を与えてこれに対する求解手続又は意見などの記載を求めて、受験者毎の問題に対する処理能力を測定(採点)し入学の合否を判定している。このような試験では、測定結果が受験者の利益・不利益に影響を与えるため、測定の公平性、つまり測定又は測定者(採点者)毎のばらつきを排除した均一性が要求される。そこで、例えば、最終的な解答をいくつかの選択肢から受験者に選択させる「多肢選択式試験」を採用する場合がある。受験者の解答は選択肢に集約されるので、測定者は機械的にこれを処理できて、測定毎のばらつきを排除できるのである。   In entrance examinations at various schools, students are given a question sentence containing multiple information elements and asked for a description of the solution procedure or opinion, and the ability to process the question for each candidate is measured (scored). Judgment of admission is made. In such a test, since the measurement result affects the profit / disadvantage of the examinee, the fairness of the measurement, that is, the uniformity that excludes the variation for each measurement or measurer (scorer) is required. Therefore, for example, there is a case where a “multiple-choice type test” that allows the examinee to select a final answer from several options may be employed. The candidate's answers are aggregated into choices, so the measurer can handle this mechanically and eliminate variations from measurement to measurement.

ところで、国や地方自治体の教育指針を定めるような場合には、試験により特定の学習項目に対する母集団の理解傾向を多面的に測定して、教育上の課題を抽出する必要がある。このような試験についても、測定(採点)又は測定者(採点者)毎のばらつきを排除した均一性が要求されるから、「多肢選択式試験」が採用され得る。つまり、予測される理解傾向に従って特定の学習項目をポイントに細分化し、これにピンポイントで対応した問題及び選択肢を作成する。受験者の解答を逆に辿って集計すると、特定の学習項目に対する母集団の理解傾向が測定できる。このような方法において、教育上の課題を適確に抽出するには学習項目のポイント分けが母集団の理解傾向を詳細に反映していなければならない。しかしながら、母集団の理解傾向は常に詳細に予測できるとは限らない。また一部の受験者が所定の手続きを経ないで選択肢を選んだとしてもこれを所定の手続を経て選択した受験者と区別できず測定が不正確となりがちである。   By the way, when the educational guidelines of the national and local governments are established, it is necessary to measure the understanding tendency of the population with respect to a specific learning item from a multifaceted test and extract educational problems. Also for such a test, the uniformity (excluding the variation for each measurement (scoring) or measurer (scorer) is required, so the “multiple-choice test” can be adopted. In other words, specific learning items are subdivided into points in accordance with the predicted understanding tendency, and problems and options corresponding to these points are created. If the answers of examinees are traced in reverse, the tendency of the population to understand the specific learning items can be measured. In such a method, in order to accurately extract educational problems, the points of learning items must reflect the understanding tendency of the population in detail. However, the understanding tendency of the population is not always predictable in detail. In addition, even if some candidates select an option without going through a predetermined procedure, this is indistinguishable from a candidate who has selected through a predetermined procedure, and the measurement tends to be inaccurate.

そこで、母集団の全員又は一部に情報要素を複数含む問題文を与えてこれに対する求解手続又は考えや意見などの一定量の自由記述を求めて、これから受験者毎の特定の学習項目に包含されるポイントの一連の理解度を多面的に測定しこれを収集して母集団の特定の学習項目に対する理解傾向を測定する「記述式試験」が採用され得る。   Therefore, a problem sentence including multiple information elements is given to all or a part of the population, and a fixed amount of free description such as solution procedures or thoughts and opinions is sought, and it is included in a specific learning item for each examinee. A “descriptive test” may be employed in which a series of comprehension of a given point is measured in a multifaceted manner and collected to measure an understanding tendency of a population to a specific learning item.

ところで「記述式試験」において、測定又は測定者毎のばらつきを排除して測定の均一性を高める試みが既になされている。   By the way, in the “descriptive test”, an attempt has been made to improve the uniformity of measurement by eliminating the variation for each measurement or measurement person.

特許文献1は、「記述式試験」における受験者の自由記述を機械的に処理するための自動採点システムを開示している。受験者の問題に対する自由記述を言語解析して解答モデルを作成し、予め格納されている模範解答と比較して採点が行われる。解答モデル及び模範解答に言語解析による一定の幅を設けているため、互いの一致・不一致は容易に判断できる。しかしながら、ここでは予め用意された模範解答と受験者の自由記述との間の対比を行うだけであって、特定の学習項目に対する一連の理解度を測定するものではない。   Patent Document 1 discloses an automatic scoring system for mechanically processing an examinee's free description in a “descriptive test”. An answer model is created by linguistic analysis of the free description of the examinee's problem, and the score is compared with the model answer stored in advance. Since the answer model and the model answer are provided with a certain range by language analysis, it is possible to easily determine whether or not they match each other. However, here, only the comparison between the model answer prepared in advance and the free description of the examinee is performed, and a series of comprehension for a specific learning item is not measured.

また、特許文献2では、解答が一意に定まらない「記述式試験」における受験者の自由記述を採点(測定)するシステムを開示している。1の採点者の採点結果はシステム上で修正できて、複数の採点者間で採点結果が一致せず、採点の結果の客観性に疑問がある場合には、他の測定者の測定根拠を参照しながら測定結果を再評価してこれを修正できる。測定結果及び測定根拠を複数の測定者が共有することで、自らが行った主観的な測定結果にとらわれず、様々な視点から解答を再評価できるのである。この場合も予め用意された模範解答及び受験者の自由記述の間の対比を行うだけであって、特定の学習項目に対する一連の理解度を測定するものではない。
特開2001−56634号公報 特開2006−277086号公報
Patent Document 2 discloses a system for scoring (measuring) the free description of the examinee in a “descriptive test” in which the answer is not uniquely determined. If the scoring results of one grader can be corrected on the system, and the scoring results do not match among multiple scoring personnel, and there is doubt about the objectivity of the scoring results, the measurement basis of other measurers This can be corrected by re-evaluating the measurement results with reference. By sharing measurement results and measurement grounds among multiple measurers, it is possible to re-evaluate answers from various viewpoints without being constrained by subjective measurement results. In this case as well, only a comparison between the prepared model answer and the free description of the examinee is performed, and a series of comprehension levels for a specific learning item is not measured.
JP 2001-56634 A JP 2006-277086 A

ところで、数万人、数十万人といった母集団で「記述式試験」を行って、母集団の特定の学習項目に対する一連の理解傾向を測定し、教育上の課題を抽出しなければならない場合がある。一方で、上記したように、従来の記述式試験では、受験者の求解手続の記載を処理する者、すなわち採点者の判断・裁量がその処理に介在していたため、処理結果が採点毎、また採点者毎によって異なるとの問題があった。この傾向は受験者が多くなるとより大きな問題となる。   By the way, when you need to conduct a “descriptive test” on a population of tens of thousands or hundreds of thousands of people, measure a series of understanding trends for specific learning items in the population, and extract educational issues There is. On the other hand, as described above, in the conventional descriptive test, the person who processes the description of the examinee's solution procedure, that is, the judgment / discretion of the grader is intervened in the process. There was a problem that it differs depending on each grader. This tendency becomes a bigger problem as the number of examinees increases.

本発明は、このような大人数の受験者であっても、特定の学習項目に包含されるポイントの一連の理解度を多面的に測定し、これを収集して母集団の理解傾向を得ることができて、もって教育上の課題を抽出可能とする答案分析処理方法及びそのシステムを提供する。   The present invention measures even a large number of such candidates and measures the multiplicity of understanding of the points included in a specific learning item, and collects them to obtain an understanding tendency of the population. There is provided an answer analysis processing method and system capable of extracting an educational problem.

本発明の方法は、複数の受験者に情報要素を複数含む問題文を与えてこれに対する求解手続の記載を求めて受験者全体の所定の学習項目についての理解傾向を分析処理する答案分析処理方法であって、前記問題文の1つの解答例である典型解答例から前記学習項目を細分化した複数の小項目に対応する部分を抽出してこれを構成するいくつかの数値の固まり、式、単語、又は、文からなるチェック要素を列記してチェックボックスを作成するチェックボックス作成ステップと、前記所定の学習項目についての理解度に差異を与えた求解手続の記載からなる他の解答例を複数作成し、前記典型解答例及び前記解答例のそれぞれについて前記チェックボックスの前記チェック要素毎にその有無の組み合わせである解答例パターンを求め、これらが互いに同一とならないように前記チェック要素を訂正する訂正ステップと、前記受験者毎の前記求解手続の記載について前記チェックボックスの前記チェック要素毎にその有無の組み合わせである個人パターンを求め、前記受験者を識別する識別符号とともに前記個人パターンを記録する個人記録ステップと、前記個人パターンの同一となる前記受験者の数を集計する集計ステップと、からなることを特徴とする。   The method of the present invention provides an answer analysis processing method in which a question sentence including a plurality of information elements is given to a plurality of examinees, and a description of a solution procedure for the information is requested, and an understanding tendency of a predetermined learning item of the entire examinees is analyzed. A portion corresponding to a plurality of small items obtained by subdividing the learning item from a typical answer example which is one answer example of the question sentence, and a set of numerical values, formulas, A plurality of other answer examples consisting of a check box creation step for creating check boxes by listing check elements consisting of words or sentences and a description of a solution procedure that gives a difference in the degree of understanding of the predetermined learning item Create and obtain an answer example pattern that is a combination of the presence or absence of each check element of the check box for each of the typical answer example and the answer example. A correction step for correcting the check elements so as not to be the same, and a description of the solution procedure for each examinee for a personal pattern that is a combination of the presence or absence of each check element of the check box, and the examination A personal recording step of recording the personal pattern together with an identification code for identifying a person, and a counting step of counting the number of examinees who have the same personal pattern.

本発明によれば、採点者は、受験者の求解手続の記載(答案)の中にいくつかの数値の固まり、式、単語、又は、文からなるチェック要素(ターム)が有るか無いかをチェックするだけであるから、採点者の判断・裁量が処理に介在しない。故に、数万人、数十万人といった規模の受験者であっても、その答案を複数の採点者又は機械によって迅速に処理できて、しかも処理結果は常に一定になるのである。その上で、かかるチェック要素は学習項目を細分化した複数の小項目に対応しているから、チェック要素毎の有無の組み合わせは特定の学習項目に包含されるポイントの一連の理解度を反映したものである。よってチェック要素毎の有無の組み合わせについて処理データを集計すれば母集団の特定の学習項目についての理解傾向を得ることができて、もって教育上の課題の抽出が可能である。   According to the present invention, the grader can check whether or not there is a check element (term) consisting of a set of numerical values, an expression, a word, or a sentence in the description (answer) of the candidate's solution. Since it is only checked, the judgment and discretion of the grader is not involved in the processing. Therefore, even for examinees having a scale of tens of thousands or hundreds of thousands, the answer can be quickly processed by a plurality of graders or machines, and the processing result is always constant. In addition, since such check elements correspond to multiple sub-items that subdivide the learning items, the combination of presence / absence for each check element reflects a series of comprehension of points included in a specific learning item. Is. Therefore, if the processing data is aggregated for the combination of presence / absence of each check element, an understanding tendency about a specific learning item of the population can be obtained, so that an educational problem can be extracted.

更に、本発明のシステムは、複数の受験者に情報要素を複数含む問題文を与えてこれに対する求解手続の記載を求めて受験者全体の所定の学習項目についての理解傾向を分析処理する答案分析処理システムであって、前記問題文の1つの解答例である典型解答例から前記学習項目を細分化した複数の小項目に対応する部分を抽出してこれを構成するいくつかの数値の固まり、式、単語、又は、文からなるチェック要素の入力を許容しこれを表示するチェックボックス表示手段と、前記受験者毎の前記求解手続の記載について、前記受験者を特定するための入力を許容しこれに応じて識別符号を生成し、前記チェックボックス表示手段によって表示される前記チェックボックスの前記チェック要素毎にその有無の入力を許容しこの有無の組み合わせである個人パターンを生成し、前記識別符号とともに前記個人パターンを個人記録として記録するチェック手段と、前記個人パターンの同一となる前記受験者の数を集計する集計手段と、からなることを特徴とする。   Further, the system of the present invention provides a question analysis that gives a plurality of examinees a question sentence including a plurality of information elements and requests a description of a procedure for solving the problem, thereby analyzing an understanding tendency of a predetermined learning item of the whole examinee. A processing system, which extracts a portion corresponding to a plurality of small items obtained by subdividing the learning item from a typical answer example which is one answer example of the question sentence, and a set of several numerical values constituting the same, Check box display means for allowing and displaying a check element consisting of an expression, a word, or a sentence, and an input for specifying the test taker for the description of the solution procedure for each test taker In response to this, an identification code is generated, and the presence / absence of each check element in the check box displayed by the check box display means is allowed to be input. A check means for generating a personal pattern and recording the personal pattern together with the identification code as a personal record, and a counting means for counting the number of examinees who have the same personal pattern. And

本発明によれば、上記したと同様に、大規模の受験者であっても母集団の特定の学習項目についての理解傾向を得ることができて、もって教育上の課題の抽出が可能である。   According to the present invention, as described above, even for a large-scale examinee, it is possible to obtain an understanding tendency about a specific learning item of the population, and thus it is possible to extract an educational problem. .

本発明の原理を説明するためにn人の受験生の母集団に対して所定の学習項目についての理解傾向を分析処理する方法を図1及び図2を用いて説明する。   In order to explain the principle of the present invention, a method for analyzing the understanding tendency of a predetermined learning item for a population of n examinees will be described with reference to FIGS.

図1に示すように、1つの学習項目は、多くの小項目(A、B、C、D、E、F・・・・・・)からなる集合体である。この所定の学習項目についての母集団の理解傾向を分析処理するためには、小項目のいくつか(A、B、C、D、E)を選択して(S1)、これらに対応した情報要素(a、b、c、d、e)を含むように問題を作成する(S2)。なお、一部の情報要素(e)は、問題文には明記しなくとも問題を解いていく上で必然的に外部から導かれるような場合がある。(例えば、円周率の値は、問題文中に明記されていなくとも、必要に応じて使われ得る。)このような情報要素(e)は問題文中には明記されない場合がある。   As shown in FIG. 1, one learning item is an aggregate made up of many small items (A, B, C, D, E, F...). In order to analyze the understanding tendency of the population for this predetermined learning item, several sub-items (A, B, C, D, E) are selected (S1), and information elements corresponding to these are selected. A problem is created so as to include (a, b, c, d, e) (S2). Note that some information elements (e) may be inevitably derived from the outside in solving the problem even if not specified in the problem sentence. (For example, the value of the pi may be used as needed even if it is not specified in the problem text.) Such an information element (e) may not be specified in the problem text.

次に、問題を解いていく求解過程を含めて1つの解答例である典型解答例を作成する(S3)。典型解答例は、いくつかの数値の固まり、式、文、及び、単語などの「ターム」(p1〜p13)によって表現される。   Next, a typical answer example which is one answer example including a solution process for solving a problem is created (S3). Typical answer examples are expressed by “terms” (p1 to p13) such as a set of numerical values, expressions, sentences, and words.

一方、選択した小項目(A、B、C、D、E)の中から理解傾向を分析処理する分析項目(A、B、C)を決定する(S4)。なお、分析項目が多いほど母集団の所定の学習項目に対するより細かい理解傾向を知ることが出来る。一方で、これが多すぎると、分析項目間の差異が不明瞭となり、また処理の煩雑さが増加する。故に、適宜、分析項目となる小項目数を調整することが好ましい。   On the other hand, analysis items (A, B, C) for analyzing the understanding tendency are determined from the selected small items (A, B, C, D, E) (S4). In addition, the more the analysis items, the more detailed understanding tendency of the population with respect to the predetermined learning items can be known. On the other hand, when there are too many, the difference between analysis items will become indistinct, and the complexity of a process will increase. Therefore, it is preferable to adjust the number of small items as analysis items as appropriate.

典型解答例中の「ターム」(p1〜p13)から分析項目(A、B、C)のそれぞれに対応した「ターム」を抜き出す(S5)。例えば、分析項目Aについて(p1、p2、p3、p4)、分析項目Bについて(p2、p5、p6、p7、p8)、分析項目Cについて(p3、p9、p10)の各「ターム」の集合体で典型解答例中に表現されているとする。各集合体には、分析項目(A、B、C)相互間で共通する「ターム」を含み得る。なお、典型解答例中だけでなく、分析項目に対応して他の「ターム」を与えても良い。   “Terms” corresponding to each of the analysis items (A, B, C) are extracted from “terms” (p1 to p13) in the typical answer example (S5). For example, for analysis item A (p1, p2, p3, p4), for analysis item B (p2, p5, p6, p7, p8) and for analysis item C (p3, p9, p10) It is assumed that it is expressed in the typical answer example by the body. Each aggregate may include a “term” common to the analysis items (A, B, C). In addition to the typical answer examples, other “terms” may be given corresponding to the analysis items.

図2に示すように、分析項目(A、B、C)毎の「ターム」の集合体からそれぞれ少なくとも1つ以上の「ターム」を選択して列記する。選択した「ターム」(p1、p2、p5、p7、p9、p10)が答案の求解手続の記載に含まれているか含まれていないかを二択でチェックするチェックボックス要素を列記したチェックボックスを作成する。ここで、すべてのチェックボックス要素について二択でチェックした結果であるチェックパターンは、チェックボックス要素の個数をnとすると、2つまり、ここでは2通りの組み合わせが存在する。なお、一連の「ターム」はこれを連結して(p1+p2、p5、p7、p9+p10)のようにすることもできて、この場合、チェックパターンは、2通りの組み合わせとなる。 As shown in FIG. 2, at least one or more “terms” are selected and listed from a collection of “terms” for each analysis item (A, B, C). Check box that lists the check box elements to check whether the selected "term" (p1, p2, p5, p7, p9, p10) is included or not included in the description of the solution procedure of the answer create. Here, the check pattern, which is the result of checking with two alternatives for all the check box elements, has 2 n , that is, 2 n combinations here, where n is the number of check box elements. The series of "term" is also possible to make a linked this (p1 + p2, p5, p7 , p9 + p10), In this case, the check pattern is a combination of two ways 4.

特定の理解傾向及び理解度を反映した解答例α、β、γ・・・を作成する(S7)。なお、解答例α、β、γ・・・には典型解答例を含んでもよい。解答例α、β、γ・・・も「ターム」の集合体からなる。例えば、解答例αについて(p1〜13)、解答例βについて(p1〜p6、p7’、p8’、p9’)、解答例γについて(p1、p12、p13)の「ターム」の集合体で表現されるとする。解答例α、β、γ・・・のそれぞれについて、チェックボックス要素に選ばれた「ターム」(p1、p2、p5、p7、p9、p10)の有無をチェックして、チェックパターンを求める。ここで各タームの「有」を○、「無」を×で示すと、解答例αについて(○、○、○、○、○、○)、解答例βについて(○、○、○、×、×、×)、解答例γについて(○、×、×、×、×、×)となる。なお、解答例α、β、γ・・・について相互に同じチェックパターンとなったときは、チェックボックス要素を変更する。   An answer example α, β, γ... Reflecting a specific understanding tendency and degree of understanding is created (S7). The answer examples α, β, γ... May include typical answer examples. The answer examples α, β, γ... Are also composed of a collection of “terms”. For example, for the answer example α (p1 to 13), for the answer example β (p1 to p6, p7 ′, p8 ′, p9 ′), for the answer example γ (p1, p12, p13) Let it be expressed. For each of the answer examples α, β, γ..., The presence / absence of the “term” (p1, p2, p5, p7, p9, p10) selected as the check box element is checked to obtain a check pattern. Here, “Yes” for each term is indicated by ○ and “No” is indicated by ×, for example answer α (○, ○, ○, ○, ○, ○), and example answer β (○, ○, ○, × , X, x) and answer example γ are (◯, x, x, x, x, x). When the same check pattern is obtained for the answer examples α, β, γ..., The check box element is changed.

さて、母集団を構成するn人の受験者に上記したような情報要素を複数含む問題文を与えてこれに対する求解手続の記載(答案)の提出を求める。n人全て若しくはその一部の受験者の求解手続の記載について、チェックボックス要素に選ばれた「ターム」(p1、p2、p5、p7、p9、p10)のそれぞれの有無をチェックしてチェックパターンを求める。チェックボックスの要素毎のチェックは、受験者の求解手続の記載の中にその「ターム」が有るか無いかをチェックするだけであるから、機械による自動集計も可能である。仮に人手によったとしても、チェックを担当する者によってチェックパターン結果が異なることはほとんどないから、多くのチェック担当者を採用してもよく、迅速な処理が出来る。   Now, the n examinees who make up the population are given a question sentence including a plurality of information elements as described above, and are requested to submit a description (answer) of the solution procedure. Check the existence of each of the “terms” (p1, p2, p5, p7, p9, p10) selected as the check box elements for the description of the answering procedure of all n or a part of them. Ask for. Since the check for each element of the check box only checks whether or not the “term” is present in the description of the examination procedure of the examinee, automatic counting by a machine is also possible. Even if it is manual, there is almost no difference in the check pattern results depending on the person in charge of the check. Therefore, a large number of check persons may be employed, and rapid processing can be performed.

さらにチェックボックスの組み合わせパターン毎の人数を集計する。この集計から、母集団の所定の学習項目に対する理解傾向を知ることが出来る。すなわち、上記した解答例α、β、γ・・・と同じチェックボックスの組み合わせパターンを有する受験者の答案について、それぞれの解答例と同じ特定の理解度にあると予測される。解答例α、β、γ・・・と同じ特定の理解度にある受験者同士の比、母集団に対するおおよその割合から母集団の所定の学習項目に対する理解傾向を求めることが出来る。なお、解答例α、β、γ・・・と同じチェックボックスの組み合わせパターン以外の人数が少ないほど、この理解傾向についての「確からしさ」が高められる。そこで、母集団を構成する人数が多くてもチェックパターンの集計は容易であるので、タームを変更したチェックボックスを作成して「確からしさ」を高めるとともに、特定の学習項目に包含されるポイントの一連の理解度を多面的に測定し得る。   Furthermore, the number of persons for each check box combination pattern is totaled. From this aggregation, it is possible to know the tendency of the population to understand the predetermined learning items. That is, it is predicted that the examinee's answer having the same check box combination pattern as the above answer examples α, β, γ... Has the same specific level of understanding as each answer example. An understanding tendency of a population with respect to a predetermined learning item can be obtained from a ratio of examinees having the same specific degree of understanding as the answer examples α, β, γ. As the number of persons other than the combination of check boxes that are the same as the answer examples α, β, γ,... Therefore, since it is easy to aggregate check patterns even if the number of people making up the population is large, a check box with a changed term is created to increase the “probability” and the points included in a specific learning item. A series of comprehension levels can be measured in many ways.

なお、チェックパターン毎の集計人数から、例えば、一番人数の多いチェックパターンであるとか、特定のチェックパターンはどのような所定の学習項目に対する理解度であるかは、上記したような解答例をいろいろ作成し、チェックパターンを求めてそのパターンが同じとなるまで解答例の修正を行うことで達成され得る。   From the total number of people for each check pattern, for example, the check pattern with the largest number of people, or what kind of predetermined learning item the specific check pattern has for understanding, is an example of an answer as described above. This can be achieved by creating various check patterns and correcting the example answers until the patterns are the same.

従来の記述式試験では、受験者の求解手続の記載についての処理をする者、すなわち採点者の判断・裁量が受験者の求解手続の記載、すなわち答案の処理に介在していた。故に、処理結果が採点又は採点者毎によって異なるとの問題があった。上記態様によれば、採点者は、受験者の求解手続の記載中に「ターム」が有るか無いかをチェックするだけであるから、採点者の判断・裁量が受験者の答案の処理に介在せず、処理結果は採点又は採点者毎にほとんど異ならないのである。その上で、かかる「ターム」は学習項目を細分化した複数の小項目に対応しているから、チェック要素毎の有無の組み合わせは特定の学習項目に包含されるポイントの一連の理解度を反映したものである。よってチェック要素毎の有無の組み合わせについて処理データを集計すれば母集団の特定の学習項目についての理解傾向を得ることができて、もって教育上の課題の抽出が可能である。   In the conventional descriptive test, a person who processes the description of the examinee's solution procedure, that is, the judgment and discretion of the grader, intervenes in the description of the examinee's solution procedure, that is, the processing of the answer. Therefore, there has been a problem that the processing result varies depending on the scoring or each grader. According to the above aspect, the grader only checks whether or not there is a “term” in the description of the examinee's solution procedure, so the judgment / discretion of the grader is involved in the processing of the examinee's answer. Without processing, the processing results are hardly different for each grader or grader. In addition, since these “terms” correspond to multiple sub-items that subdivide the learning items, the combination of the presence / absence of each check element reflects a series of comprehension of the points included in the specific learning item. It is a thing. Therefore, if the processing data is aggregated for the combination of presence / absence of each check element, an understanding tendency about a specific learning item of the population can be obtained, so that an educational problem can be extracted.

更に、本発明の1つの実施例について、図3乃至図13を用いて詳細に説明する。   Further, one embodiment of the present invention will be described in detail with reference to FIGS.

本実施例では、L1:「問題文の条件に基づき一元二次方程式を立式して、この方程式の複数の解を得た上で問題文中に示された前提条件に沿った解答をする」という数学の1つの学習項目に対する複数の受験者の理解傾向を分析処理する方法及びそのシステムの1つの実施例について説明する。   In this embodiment, L1: “form a one-dimensional quadratic equation based on the condition of the question sentence, obtain a plurality of solutions of this equation, and then answer according to the preconditions indicated in the question sentence”. One embodiment of a method and a system for analyzing and analyzing the understanding tendency of a plurality of examinees for one mathematics learning item will be described.

まず、図3に示すように、学習項目L1の内容を細分化して、本問題で問うべき小項目L2を抽出する。すなわち、<1>題意から一元二次方程式を立式できること、<2>一元二次方程式の式変形を正確にできること、<3>一元二次方程式の解を得ること、<4>得られる2つの解から問題文中に示された前提条件に沿って解答をすること、の4つの小項目<1>〜<4>を抽出する。   First, as shown in FIG. 3, the content of the learning item L1 is subdivided, and a small item L2 to be questioned in this problem is extracted. That is, <1> One-dimensional quadratic equation can be formulated from the meaning, <2> One-dimensional quadratic equation can be accurately transformed, <3> One-dimensional quadratic equation can be obtained, <4> 2 obtained Four sub-items <1> to <4> are extracted from answering according to the preconditions indicated in the question sentence.

次に、図4に示すように、上記した小項目<1>〜<4>に対応した問題文Q1及びその典型解答例として解答例A1を作成する。なお、典型解答例は、一般的に、「模範解答」と称される解答例であることが好ましいがこれに限定されるものではない。ここでは、数字の配列表から一元二次方程式を立式する問題として身近な題材であるカレンダーを選んで作題した。問題文Q1は、抽出した小項目L2の各々について、受験者の理解度をその解答中で確認できるように作成されていなければならない。つまり、少なくとも解答例A1中に小項目L2の各々が確認できるように反映されていなければならず、必要に応じて問題文を修正する。各小項目<1>〜<4>は、解答例A1中に以下のように反映されている。
<1>:(第1行目)
<2>:(第2行目)〜(第4行目)
<3>:(第5行目)
<4>:反映されず
すなわち、解答例A1では、第5行目で一元二次方程式から得られた2つの解をそのまま第6行目の「答え」の欄に転記しており、小項目<4>の「得られる2つの解から問題文中に示された前提条件に沿って解答をすること」との内容を反映していない。そこで、全く同じ一元二次方程式が導かれるが、その2つの解の一方については問題文中に示された前提条件から不適当となるように問題文Q1の修正を工夫する。
Next, as shown in FIG. 4, a question sentence Q1 corresponding to the small items <1> to <4> described above and an answer example A1 are created as typical answer examples. In addition, it is preferable that the typical answer example is an answer example generally called “exemplary answer”, but the answer is not limited thereto. Here, a calendar, a familiar subject, was selected as a problem for formulating a one-dimensional quadratic equation from an array of numbers. The question sentence Q1 must be created so that the degree of understanding of the examinee can be confirmed in the answer for each of the extracted small items L2. That is, it must be reflected so that at least each of the small items L2 can be confirmed in the answer example A1, and the question sentence is corrected as necessary. Each sub-item <1> to <4> is reflected in the answer example A1 as follows.
<1>: (First line)
<2>: (second line) to (fourth line)
<3>: (5th line)
<4>: Not reflected
That is, in the answer example A1, the two solutions obtained from the one-dimensional quadratic equation in the fifth line are directly transferred to the “answer” column in the sixth line, and the subitem <4> “obtained” is obtained. It does not reflect the content of “answering from the two solutions according to the preconditions indicated in the question sentence”. Therefore, although the same one-dimensional quadratic equation is derived, the correction of the question sentence Q1 is devised so that one of the two solutions is inappropriate from the preconditions indicated in the question sentence.

図5の問題文Q2に示すように、例えば、カレンダーの数字の配列を変えて、xの値に制限を与えて一元二次方程式の2つの解の一方を不適当とする条件を追加する。すると、問題文Q2に対する典型解答例である解答例A2に示したように、2つの解「3」及び「7」の一方の解「7」は、問題文Q2のカレンダーを参照すると、「左隣の数」がないから答えから除外される。なお、本実施例における分析に最低限必要な求解手続の記載を受験生に促すよう問題文Q2中には、「求める過程も書きなさい」とその指示を加えた。   As shown in the question sentence Q2 of FIG. 5, for example, a condition for changing one of the two solutions of the one-dimensional quadratic equation by adding a restriction to the value of x by changing the arrangement of numbers in the calendar is added. Then, as shown in the answer example A2 which is a typical answer example for the question sentence Q2, one of the two solutions “3” and “7” “7” is “left” when referring to the calendar of the question sentence Q2. It is excluded from the answer because there is no “neighboring number”. In addition, in the question sentence Q2, the instruction “Please write the required process” is added to urge the students to describe the minimum required procedure for the analysis in this embodiment.

図6に示すように、再び、各小項目<1>〜<4>が解答例A2に反映されているかを確認すると、
<1>:(第1行目)
<2>:(第2行目)〜(第4行目)
<3>:(第5行目)
<4>:(第6行目)〜(第7行目)
となる。
As shown in FIG. 6, once again confirming whether each sub-item <1> to <4> is reflected in the answer example A2,
<1>: (First line)
<2>: (second line) to (fourth line)
<3>: (5th line)
<4>: (6th line) to (7th line)
It becomes.

次に、分析手法上、学習項目L1から抽出した小項目L2からさらに受験者の理解傾向を分析するための分析項目を選択する。すなわち、小項目L2の数が多い場合、受験者の答案を細かく類型別けでき得るのであるが、一方で類型毎の差異が小さくなって類型間の特徴を把握しづらくしてしまう。そこで、例えば、4つの小項目から3つの小項目<1>〜<3>を選択して後述する操作で受験者の答案のチェックパターンを求めた後、さらに小項目<2>〜<4>を選択して同様の操作を行って類型毎の差異を明らかにしてもよい。なお、本実施例においては小項目<1>〜<4>の全てを分析項目<1>〜<4>として選択した。   Next, an analysis item for analyzing the understanding tendency of the examinee is further selected from the small item L2 extracted from the learning item L1 in the analysis method. That is, when the number of small items L2 is large, it is possible to classify the examinee's answers finely, but on the other hand, the difference for each type becomes small, making it difficult to grasp the characteristics between the types. Therefore, for example, after selecting three sub-items <1> to <3> from four sub-items and obtaining a check pattern of the examinee's answer by an operation described later, further sub-items <2> to <4> You may select and perform the same operation to clarify the difference for each type. In this example, all of the small items <1> to <4> were selected as the analysis items <1> to <4>.

次に、図6に示すように、解答例A2の分析項目<1>〜<4>に対応する記載部分から少なくとも1つずつ以上の「いくつかの数値の固まり」、「式」、「単語」、又は、「文」などの「ターム」を選択して、「ターム」の有無を問うCB要素を列記する。ここでCB要素を列記したCBは、各受験者の答案の求解手続の記載中に「ターム」を表現しているかどうかを二択で判断するテンプレートである。故に、CB要素は、「ターム」の記載の有無を二択で判断でき得る表現形態で構成される。一方で、求解手続きの記載中に「ターム」が表現されているかは直接に特定の項目に対する理解の有無を問うものではない。   Next, as shown in FIG. 6, at least one “number of numerical values”, “formula”, “word” from the description part corresponding to the analysis items <1> to <4> of the answer example A2 "Term" such as "sentence" or "sentence" is selected, and CB elements that ask whether or not "term" exists are listed. Here, the CB in which the CB elements are listed is a template for determining whether or not “term” is expressed in the description of the procedure for solving each examinee's answer. Therefore, the CB element is configured in an expression form that can determine whether or not “term” is described in two choices. On the other hand, whether or not “term” is expressed in the description of the solution procedure does not directly ask whether or not a specific item is understood.

図7に示すように、ここでは「ターム」の記載の有無を文章で問い掛けている。例えばCB1「(x+7)の記載がある」と、分析項目<1>に対応する解答例A2の第1行目の記載から短い式の部分(x+7)を選択して(図6参照)、この「ターム」の記載があるかどうかを文章で問い掛けている。また、CB0「数字・文字の記載がない」については、分析項目<1>〜<4>の全てに共通する、記載自体の有無を問い掛けている。更に、CB11は“答えの欄に「3」のみの記載がある”と、求解手続の記載中ではなく「答え」の欄の記載において、「3及び7」ではなく「3」だけが記載されていることを問い掛けている。このようなCB要素の判断は、通常の採点者であればほとんど異なった判断にはなり得ず、後述する各受験者の答案毎のチェックパターンの取得について複数の採点者でこれを行ったとしても客観性を担保できるのである。   As shown in FIG. 7, here, the presence / absence of “term” is asked by text. For example, CB1 “There is a description of (x + 7)”, a short formula part (x + 7) is selected from the description in the first line of the answer example A2 corresponding to the analysis item <1> (see FIG. 6). Asks in writing whether there is a description of "term". In addition, as for CB0 “No description of numbers / letters”, the presence / absence of description common to all the analysis items <1> to <4> is inquired. In addition, CB11 states that only “3” is written in the answer column, and that only “3” is written instead of “3 and 7” in the “answer” column, not in the answering procedure. I am asking you. Such a judgment of CB element cannot be judged almost different if it is a normal grader, and it is assumed that a plurality of graders have done this for obtaining a check pattern for each answer of each examinee described later. Can also ensure objectivity.

次に、図8及び図9に示すように、特定の理解傾向を反映した解答例A3〜A6を作成する。例えば、小項目「<4>得られる2つの解から前提条件に沿った解答をすること」に関して、「xの左隣に数字がなくてはならない」という問題文中の前提条件に気付かず、答えの欄において隣に数字がない「7」を除外しなかった解答例をA3とする。また、小項目「<1>題意から一元二次方程式を立式できること」に関して、xの真下にある数については理解できても積についての立式を誤った解答例をA5とする。さらに、小項目「<2>一元二次方程式の式変形を正確にできること」に関して、一元二次方程式の正と負の積における符号に誤りのある解答例をA4とする。また、白紙の解答例をA6とする。   Next, as illustrated in FIGS. 8 and 9, answer examples A3 to A6 reflecting a specific understanding tendency are created. For example, regarding the sub-item “<4> Answer according to the preconditions from the two solutions obtained”, the answer is that the premise in the question sentence “There must be a number to the left of x” is not noticed. A3 is an example of an answer that does not exclude “7”, which has no number next to it. In addition, regarding the small item “being able to formulate a one-dimensional quadratic equation from the meaning of <1>”, an example of an answer in which the formula for the product is erroneous even though the number directly under x can be understood is A5. Furthermore, regarding the small item “<2> Being able to accurately change the equation of the one-dimensional quadratic equation”, an example of an answer having an error in the sign in the positive and negative products of the one-dimensional quadratic equation is A4. A blank answer example is A6.

次に、図10に示すように、解答例A2〜A6についてCBの各CB要素(CB0〜CB11)についてチェックを行って、チェックの正否の組み合わせ(以下チェックパターンと称する。)を求める。ここで、図中の「○」は各CB要素の条件を満たす(肯定された)印であり、「×」は条件を満たさない(否定された)印である。チェックパターンは、各CB要素に対して「×」か「○」かの二択を与えるから、CB要素の数をn個とするとチェックパターンの数は、2通りある。本実施例ではCB要素は11個であるから、チェックパターンの数は211通りである。 Next, as shown in FIG. 10, the CB elements (CB0 to CB11) of the CB are checked with respect to the answer examples A2 to A6, and a combination of correctness of the check (hereinafter referred to as a check pattern) is obtained. Here, “◯” in the figure is a mark (affirmed) that satisfies the condition of each CB element, and “x” is a mark that does not satisfy the condition (denied). Since the check pattern gives two choices of “×” or “◯” to each CB element, if the number of CB elements is n, there are 2 n check patterns. Since CB element in this embodiment is 11, the number of check pattern is 2 11 in.

ここで、後述するように少なくとも類型分けしたい各解答例A2〜A6のチェックパターンは互いに同一とならないように必要に応じてCB要素の変更を行う。なお、本実施例では互いに同一となるチェックパターンがなかったため、CB要素の変更は行わなかった。各解答例A2〜A6のチェックパターンを類型C2〜C6とする。   Here, as will be described later, the CB elements are changed as necessary so that at least the check patterns of the answer examples A2 to A6 to be classified are not the same. In this embodiment, since there is no check pattern that is the same as each other, the CB element is not changed. Let the check patterns of the answer examples A2 to A6 be the types C2 to C6.

次に、複数の受験者の答案毎に各CB要素をチェックしてチェックパターンを取得してデータベース化する。上記したように答案から得られるチェックパターンは、最大211通りに分類され得る。しかしながら、単一の問題の中で作成されるCB要素は互いに少なからず連関関係を有するので、特定のCB要素間のチェック結果は連関する。故に、チェックパターンの数は上記した最大数よりもずっと少なくなるのである。本実施例では、類型分けしたいチェックパターンは解答例A2〜A6の5通りである。5通り以上のチェックパターンを確保するため、CB要素の数nは5≦2、すなわちn≧3である必要がある。 Next, for each answer of a plurality of examinees, each CB element is checked to obtain a check pattern and create a database. Check pattern obtained from answers as described above can be classified into up to 2 11 in. However, since the CB elements created in a single problem have not a few relations with each other, the check results between specific CB elements are related. Therefore, the number of check patterns is much smaller than the maximum number described above. In this embodiment, there are five check patterns to be classified into answer examples A2 to A6. In order to secure five or more check patterns, the number n of CB elements needs to be 5 ≦ 2 n , that is, n ≧ 3.

次に、類型C2〜C6のチェックパターンと同一のチェックパターンとなる答案の数をそれぞれ求める。これらの答案数同士の比、及び、全答案数に占めるそれぞれの割合から受験者の理解傾向を分析できる。例えば、類型C5のチェックパターンと同一のチェックパターンを示す答案は、解答例A5と同様の傾向、すなわち小項目「<1>題意から一元二次方程式を立式できること」に関して、xの真下にある数については理解できていても積についての立式を誤ってしまう程度の理解度と推定される。同様に、類型C4のチェックパターンと同一の答案は、解答例A4と同様の傾向、つまり、小項目「<2>一元二次方程式の式変形を正確にできること」に関して、一元二次方程式の正と負の積における符号に誤りのある式変形を導いてしまう程度の理解度であると推定できる。全答案数に占める前者と後者との割合を求めると、全受験者の理解傾向を把握することができる。   Next, the number of answers that have the same check pattern as the check patterns of types C2 to C6 is obtained. Candidates' understanding tendency can be analyzed from the ratio between the number of these answers and the ratio of each answer to the total number of answers. For example, an answer showing the same check pattern as the check pattern of type C5 is directly below x with respect to the same tendency as in answer example A5, that is, with respect to the sub-item “It is possible to formulate a one-dimensional quadratic equation from <1> subject matter”. Even if you can understand the number, it is estimated that the degree of comprehension of the product is wrong. Similarly, the same answer as the check pattern of type C4 has the same tendency as in answer example A4, that is, the correctness of the one-dimensional quadratic equation with respect to the sub-item “<2> the ability to accurately transform the one-dimensional quadratic equation”. It can be estimated that the degree of comprehension is such that it leads to an expression transformation with an error in the sign in the negative product. If the ratio of the former to the latter in the total number of answers is obtained, the understanding tendency of all examinees can be grasped.

以上、本実施例では、CB要素は短い「ターム」の記載の有無を問うものであって、チェック担当者は、受験者の答案中におけるこの「ターム」の有無を客観的且つ迅速に判断できる。一方、短い「ターム」の答案中における有無が特定の項目に対する理解の有無をそのまま問うものではない。つまり、学習項目に関係した複数のCB要素で受験者の答案をチェックしてチェックパターンを得て、これを理解度の異なる特定の解答例とのチェックパターンと対比することで、所定の確率で互いの相関関係を得られる。つまり、各答案の学習項目に対する理解度を分類できるのである。故に、母集団の特定の学習項目についての理解傾向を得ることができて、もって教育上の課題の抽出が可能である。   As described above, in this embodiment, the CB element asks whether or not the short term is described, and the checker can objectively and quickly determine the presence or absence of the term in the test taker's answer. . On the other hand, whether or not there is a short “term” answer does not directly ask whether or not a specific item is understood. In other words, by checking the examinee's answer with a plurality of CB elements related to the learning item, obtaining a check pattern, and comparing this with a check pattern with a specific answer example having a different understanding level, a predetermined probability is obtained. Mutual correlation can be obtained. That is, it is possible to classify the degree of understanding of the learning items of each answer. Therefore, it is possible to obtain an understanding tendency about a specific learning item of the population, and thus it is possible to extract an educational problem.

分析方法については上記した如きであるが、一旦、分析結果を得た後に、類型C2〜C6に類型分けされなかった答案について、解答例を追加して、さらに分析を続けることも出来る。   Although the analysis method is as described above, once the analysis result is obtained, it is possible to continue the analysis by adding an example of the answer to the answer that has not been classified into the types C2 to C6.

図11に示すように、解答例A7は、解答例A4と同様に小項目<2>に関して、一元二次方程式の途中式の変形に誤りを有する解答例である。詳細には、解答例A4は因数分解を誤っており、解答例A7は式の展開を誤っている。このとき、図12に示すように、解答例A7についてのチェックパターンは、類型C2〜C6のいずれのチェックパターンとも異なる。そこで解答例A7についてのチェックパターンを類型C7として、類型C2〜C6に類型分けされなかった答案について、その一部を類型C7に類型分けできる。なお、類型C7に類型分けされた答案は、上記したように、小項目<2>に関して、式の展開に誤りを生じる傾向にある答案と推定できる。   As shown in FIG. 11, the answer example A7 is an answer example having an error in the modification of the intermediate equation of the one-dimensional quadratic equation with respect to the small item <2> as in the answer example A4. Specifically, the answer example A4 has an incorrect factorization, and the answer example A7 has an incorrect expression expansion. At this time, as shown in FIG. 12, the check pattern for the answer example A7 is different from any of the check patterns of types C2 to C6. Therefore, the check pattern for the answer example A7 can be classified into a type C7, and a part of the answers that are not classified into the types C2 to C6 can be classified into a type C7. Note that the answer classified into the type C7 can be estimated as an answer that tends to cause an error in the expansion of the expression for the small item <2> as described above.

さらに、学習項目に対する理解度の似通ったと推定される答案の類型分けされる複数の類型を1つの類型にまとめても良い。   Furthermore, a plurality of types that are classified into types of answers that are estimated to have similar understanding levels for learning items may be combined into one type.

図13に示すように、CB4〜CB8は、典型解答例である解答例A2の第2行目〜第4行目、すなわち小項目<2>に関する記載から選択したタームによって作成されたCB要素である。CB4〜CB8の中に少なくとも1つ以上「×」となるCB要素を含む解答例は、小項目<2>に関して、少なくとも一部の理解を欠いていると推定される。このような推定を受ける答案を類型分けするため、類型CC4として、CB4〜CB8について、注1のように「少なくとも1箇所は×」とした類型を作成しても良い。   As shown in FIG. 13, CB4 to CB8 are CB elements created by terms selected from the description regarding the second item to the fourth row of the answer example A2, which is a typical answer example, that is, the small item <2>. is there. It is estimated that an example of an answer including at least one CB element that is “x” in CB4 to CB8 lacks at least a part of understanding regarding the subitem <2>. In order to categorize the answers that receive such estimation, as categorization CC4, CB4 to CB8 may be created with “at least one place as x” as in Note 1.

さらに、CB要素毎の連関を考慮して、答案の類型分けされる複数の類型を1つの類型にまとめても良い。   Furthermore, in consideration of the association for each CB element, a plurality of types classified into answer types may be combined into one type.

図13に示すように、式の変形を誤ると、その後の記載は、通常、典型解答例A2と異なるか、若しくは、無記載となるはずである。一方で、CB要素は式全体の記載の有無を問うのではなく、その一部である短い「ターム」の有無を問うものであるから、偶然にも典型解答例A2と同じ「ターム」を含む場合もあり得る。CB4〜CB8に「×」を含む解答例では、CB9〜CB11は、本来、典型解答例A2と異なるか、若しくは、無記載となるはずである。故に、CB9〜CB11のチェック結果はいずれであってもよく、類型CC4として、「−」と表わした類型を作成しても良い。類型CC5も同様である。   As shown in FIG. 13, if the expression is mistakenly modified, the subsequent description should normally be different from the typical answer example A2 or not described. On the other hand, the CB element does not ask for the presence or absence of the description of the entire formula, but asks for the presence or absence of a short “term” that is a part of it, and by chance includes the same “term” as the typical answer example A2. There may be cases. In the answer examples including “x” in CB4 to CB8, CB9 to CB11 are originally different from the typical answer example A2 or should not be described. Therefore, the check results of CB9 to CB11 may be any, and a type represented as “−” may be created as the type CC4. The same applies to the type CC5.

次に、上記分析処理方法を実行するための答案分析処理システムの1つの実施例について図14を用いて説明する。   Next, one embodiment of an answer analysis processing system for executing the analysis processing method will be described with reference to FIG.

答案分析処理システム1は、中央制御部2に接続されたメイン入力装置3、警報手段4及びデータ記憶装置5と、CB採点者の使用する複数の端末装置6とを備える。データ記憶装置5は、CBデータを保存するCBデータ記憶部8、受験者の答案データの画像情報若しくは読み取り情報を保存する答案データ記憶部9、CBパターンなどの個人データを保存する個人データ記憶部10を有する。メイン入力装置3及び端末装置6は、画像表示装置14及びキーボードなどの入力手段15をそれぞれ含む。これらは、中央制御部2とインターネット回線やLAN回線等によって双方向通信可能に接続されている。   The answer analysis processing system 1 includes a main input device 3, an alarm means 4 and a data storage device 5 connected to the central control unit 2, and a plurality of terminal devices 6 used by the CB scorer. The data storage device 5 includes a CB data storage unit 8 that stores CB data, an answer data storage unit 9 that stores image information or read information of test taker's answer data, and a personal data storage unit that stores personal data such as a CB pattern. 10 The main input device 3 and the terminal device 6 include an image display device 14 and input means 15 such as a keyboard, respectively. These are connected to the central control unit 2 through an Internet line, a LAN line or the like so as to be capable of bidirectional communication.

次に、上記した答案分析処理システム1の使用方法について図14を用いて説明する。   Next, a method of using the answer analysis processing system 1 will be described with reference to FIG.

答案分析処理を統括する者(以下、統括者と称する。)によって、作成されたCBデータはメイン入力装置3の入力手段15から入力されて、CBデータ記憶部8に転送・保存される。また、解答例A2〜A6についても、メイン入力装置3の入力手段15から入力され、答案データ記憶部9に解答例データとして転送・保存される。なお、入力手段15をスキャナなどによることで、画像データとしてCBデータ及び解答例データを保存することもできる。   The created CB data is input from the input means 15 of the main input device 3 by a person who supervises the answer analysis process (hereinafter referred to as a supervisor), and is transferred and stored in the CB data storage unit 8. The answer examples A2 to A6 are also input from the input means 15 of the main input device 3, and are transferred and stored as answer example data in the answer data storage unit 9. Note that CB data and answer example data can be stored as image data by using the input means 15 by a scanner or the like.

次に、統括者がメイン入力装置3を操作すると、CBデータ記憶部8からCBデータ、答案データ記憶部9から1の解答例データがメイン入力装置3に転送されて、その画像表示装置14に表示される。統括者は、入力手段15を操作してCB要素毎に「ターム」の「有」「無」を「○」「×」の二択で入力する。すべてのCB要素に対する入力が終了したことを示す入力を行うと、「○」「×」の一連データであるチェックパターンが解答例A2〜A6を特定する符号とともに個人データ記憶部10に転送・保存される。   Next, when the supervisor operates the main input device 3, the CB data from the CB data storage unit 8 and the answer example data from the answer data storage unit 9 are transferred to the main input device 3, and are transferred to the image display device 14. Is displayed. The supervisor operates the input means 15 to input “Yes” or “No” of “Term” in two choices of “O” and “X” for each CB element. When input indicating completion of input for all CB elements is performed, a check pattern which is a series of data “O” and “X” is transferred and stored in the personal data storage unit 10 together with a code for identifying the answer examples A2 to A6. Is done.

解答例A2〜A6のそれぞれについてチェックパターンの入力が終了すると、中央制御部2は、メイン入力装置3の画像表示装置14に解答例A2〜A6のチェックパターンを表示させる。中央制御部2は、解答例A2〜A6に同じチェックパターンが存在すると、メイン入力装置3の画像表示装置14に警告を表示させるとともに、警報手段4から警報を送出させる。統括者は、これに応じてメイン入力装置3を操作してCBデータを一度、消去し、CB要素の再入力を行う。一方、同じチェックパターンが存在しない場合は、中央制御部2は、解答例A2〜A6に対応するチェックパターンをそれぞれ類型C2〜C6としてCBデータ記憶部8に書き換えさせる。   When the input of the check pattern is completed for each of the answer examples A2 to A6, the central control unit 2 causes the image display device 14 of the main input device 3 to display the check patterns of the answer examples A2 to A6. When the same check pattern exists in the answer examples A2 to A6, the central control unit 2 displays a warning on the image display device 14 of the main input device 3 and sends a warning from the warning means 4. In response to this, the supervisor operates the main input device 3 to erase the CB data once and re-input the CB element. On the other hand, if the same check pattern does not exist, the central control unit 2 causes the CB data storage unit 8 to rewrite the check patterns corresponding to the answer examples A2 to A6 as types C2 to C6, respectively.

一方、問題文Q2が受験者に与えられ、各受験者の求解手続の記載された答案が回収される。統括者によって、答案は、図示しない電子情報化手段で画像データ化されて答案データとして答案データ記憶部9に受験者を特定する氏名や受験番号などと併せて保存される。   On the other hand, the question sentence Q2 is given to the examinee, and the answer in which the examination procedure of each examinee is described is collected. By the supervisor, the answer is converted into image data by an electronic information processing means (not shown) and saved as answer data together with a name and an examination number for identifying the examinee in the answer data storage unit 9.

次に、各端末装置6から中央制御部2へ採点開始信号を送出すると、中央制御部2は、各端末装置6へ向けてCBデータ記憶部8からCBデータを、また答案データ記憶部9から1の答案データを送出する。端末装置6の画像表示装置14にはCBデータ及び答案データが表示されて、CBのCB要素毎の入力が可能となる。採点者は端末装置6の入力手段15を操作してCB要素毎に「ターム」の有無を入力する。すべてのCB要素に対する入力が終了したことを示す入力を行うと、チェックパターンが受験者を特定する符号とともに中央制御部2を経て、個人データ記憶部10に転送・保存される。   Next, when a scoring start signal is sent from each terminal device 6 to the central control unit 2, the central control unit 2 sends CB data from the CB data storage unit 8 to each terminal device 6 and from the answer data storage unit 9. 1 answer data is sent out. The CB data and the answer data are displayed on the image display device 14 of the terminal device 6, and input for each CB element of the CB becomes possible. The grader operates the input means 15 of the terminal device 6 to input the presence / absence of “term” for each CB element. When the input indicating that the input to all the CB elements is completed, the check pattern is transferred and stored in the personal data storage unit 10 through the central control unit 2 together with a code for identifying the examinee.

すべての受験者の答案についてチェックパターンを得て、個人データ記憶部10にデータベースを作成する。データベースの解析については上記したので詳述しない。   A check pattern is obtained for the answers of all examinees, and a database is created in the personal data storage unit 10. The database analysis has been described above and will not be described in detail.

なお、中央制御部2は、明らかに矛盾するチェックパターンの入力に対して修正を促すように端末装置6に警告を発する機能を有していても良い。例えば、CB0「数字、文字の記載がない」にチェックした場合、他の記載内容を問うCB要素にチェックは付き得ないから、これに反するチェックパターンの入力に対して中央制御部2は、端末装置6に向けて再入力をするよう警告を発し、入力ミスを減ずることができる。   Note that the central control unit 2 may have a function of issuing a warning to the terminal device 6 so as to urge correction of an input of a clearly contradictory check pattern. For example, when CB0 “No description of numbers and characters” is checked, the CB element that asks for other description contents cannot be checked. A warning can be issued to re-input to the device 6, and input errors can be reduced.

本発明による答案分析処理方法を示すフロー図である。It is a flowchart which shows the answer analysis processing method by this invention. 本発明による答案分析処理方法を示すフロー図である。It is a flowchart which shows the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理方法についての図である。It is a figure about the answer analysis processing method by this invention. 本発明による答案分析処理システムの図である。It is a figure of the answer analysis processing system by this invention.

符号の説明Explanation of symbols

1 答案分析処理システム
2 中央制御部
3 メイン入力装置
4 警報手段
5 データ記憶装置
6 端末装置
8 CBデータ記憶部
9 答案データ記憶部
10 個人データ記憶部
14 画像表示装置
15 入力手段
L1 学習項目
L2 小項目
Q2 問題文
CB チェックボックス
A1〜A7 解答例
DESCRIPTION OF SYMBOLS 1 Answer analysis processing system 2 Central control part 3 Main input device 4 Alarm means 5 Data storage device 6 Terminal device 8 CB data storage part 9 Answer data storage part 10 Personal data storage part 14 Image display apparatus 15 Input means L1 Learning item L2 Small Item Q2 Question sentence CB Check boxes A1 to A7 Sample answers

Claims (5)

複数の受験者に情報要素を複数含む問題文を与えてこれに対する求解手続の記載を求めて受験者全体の所定の学習項目についての理解傾向を分析処理する答案分析処理方法であって、
前記問題文の1つの解答例である典型解答例から前記学習項目を細分化した複数の小項目に対応する部分を抽出してこれを構成するいくつかの数値の固まり、式、単語、又は、文からなるチェック要素を列記してチェックボックスを作成するチェックボックス作成ステップと、
前記所定の学習項目についての理解度に差異を与えた求解手続の記載からなる他の解答例を複数作成し、前記典型解答例及び前記解答例のそれぞれについて前記チェックボックスの前記チェック要素毎にその有無の組み合わせである解答例パターンを求め、これらが互いに同一とならないように前記チェック要素を訂正する訂正ステップと、
前記受験者毎の前記求解手続の記載について前記チェックボックスの前記チェック要素毎にその有無の組み合わせである個人パターンを求め、前記受験者を識別する識別符号とともに前記個人パターンを記録する個人記録ステップと、
前記個人パターンの同一となる前記受験者の数を集計する集計ステップと、からなることを特徴とする答案分析処理方法。
An answer analysis processing method for providing a question sentence including a plurality of information elements to a plurality of examinees and requesting a description of a solution procedure for the information to analyze an understanding tendency of a predetermined learning item of the whole examinee,
A part corresponding to a plurality of small items obtained by subdividing the learning item from a typical answer example which is one answer example of the question sentence, and a set of numerical values, formulas, words, or A check box creation step that creates check boxes by listing check elements consisting of sentences,
Create a plurality of other answer examples consisting of description of the solution procedure giving a difference in the degree of understanding about the predetermined learning item, and for each of the check element of the check box for each of the typical answer example and the answer example A correction step for obtaining an answer example pattern that is a combination of presence and absence and correcting the check elements so that they are not identical to each other;
A personal recording step for obtaining a personal pattern that is a combination of the presence or absence of each check element of the check box and recording the personal pattern together with an identification code for identifying the test taker for the description of the solution procedure for each examinee ,
An answer analysis processing method comprising: a counting step of counting the number of examinees having the same personal pattern.
前記集計ステップは、前記個人パターンを前記解答例パターンと同一とする前記受験者の数を集計するステップを含むことを特徴とする請求項1記載の答案分析処理方法。   2. The answer analysis processing method according to claim 1, wherein the counting step includes a step of counting the number of examinees who make the personal pattern the same as the answer example pattern. 複数の受験者に情報要素を複数含む問題文を与えてこれに対する求解手続の記載を求めて受験者全体の所定の学習項目についての理解傾向を分析処理する答案分析処理システムであって、
前記問題文の1つの解答例である典型解答例から前記学習項目を細分化した複数の小項目に対応する部分を抽出してこれを構成するいくつかの数値の固まり、式、単語、又は、文からなるチェック要素の入力を許容しこれを表示するチェックボックス表示手段と、
前記受験者毎の前記求解手続の記載について、前記受験者を特定するための入力を許容しこれに応じて識別符号を生成し、前記チェックボックス表示手段によって表示される前記チェックボックスの前記チェック要素毎にその有無の入力を許容しこの有無の組み合わせである個人パターンを生成し、前記識別符号とともに前記個人パターンを個人記録として記録するチェック手段と、
前記個人パターンの同一となる前記受験者の数を集計する集計手段と、からなることを特徴とする答案分析処理システム。
An answer analysis processing system for giving a question sentence including a plurality of information elements to a plurality of examinees and analyzing the understanding tendency of a predetermined learning item of the whole examinee by requesting description of a solution procedure for the information,
A part corresponding to a plurality of small items obtained by subdividing the learning item from a typical answer example which is one answer example of the question sentence, and a set of numerical values, formulas, words, or A check box display means for accepting and displaying a check element consisting of a sentence;
The check element of the check box displayed by the check box display means that allows an input for specifying the test taker and generates an identification code in accordance with the description of the solution procedure for each test taker A check unit that allows input of presence / absence every time and generates a personal pattern that is a combination of the presence / absence, and records the personal pattern as a personal record together with the identification code;
An answer analysis processing system comprising: a totaling unit that counts the number of examinees having the same personal pattern.
前記所定の学習項目についての理解度に差異を与えた求解手続の記載からなる他の解答例を複数作成し、前記典型解答例及び前記解答例を特定するための入力を許容しこれに応じて識別符号を生成し、前記チェックボックス表示手段によって表示される前記チェックボックスの前記チェック要素毎にその有無の入力を許容しこの有無の組み合わせである解答例パターンを生成し、前記識別符号とともに前記解答例パターンを記録する解答例チェック手段と、前記解答例パターンが前記解答例同士で同一となったときに前記チェック要素の訂正を促す警報手段と、を更に有することを特徴とする請求項3記載の答案分析処理システム。   Create a plurality of other answer examples consisting of description of the solution procedure giving a difference in the degree of understanding of the predetermined learning item, and allow input for specifying the typical answer example and the answer example, and accordingly An identification code is generated, an input of the presence / absence of each check element of the check box displayed by the check box display means is allowed, and an answer example pattern that is a combination of the presence / absence is generated, together with the identification code, the answer 4. An answer example check means for recording an example pattern, and an alarm means for urging correction of the check element when the answer example patterns are the same between the answer examples. Answer analysis processing system. 前記集計手段は、前記個人パターンを前記解答例パターンと同一とする前記受験者の数を集計することを特徴とする請求項4記載の答案分析処理システム。   5. The answer analysis processing system according to claim 4, wherein the counting means totals the number of examinees who make the personal pattern the same as the answer example pattern.
JP2008072532A 2007-11-14 2008-03-19 Answer analysis processing method and answer analysis processing system Active JP4516136B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008072532A JP4516136B2 (en) 2008-03-19 2008-03-19 Answer analysis processing method and answer analysis processing system
KR1020080044800A KR20090049975A (en) 2007-11-14 2008-05-15 Method for analyzing and processing examination papers and system for thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008072532A JP4516136B2 (en) 2008-03-19 2008-03-19 Answer analysis processing method and answer analysis processing system

Publications (2)

Publication Number Publication Date
JP2009229606A true JP2009229606A (en) 2009-10-08
JP4516136B2 JP4516136B2 (en) 2010-08-04

Family

ID=40895549

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008072532A Active JP4516136B2 (en) 2007-11-14 2008-03-19 Answer analysis processing method and answer analysis processing system

Country Status (2)

Country Link
JP (1) JP4516136B2 (en)
KR (1) KR20090049975A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017167413A (en) * 2016-03-17 2017-09-21 独立行政法人大学入試センター Marking auxiliary system
CN107832768A (en) * 2017-11-23 2018-03-23 盐城线尚天使科技企业孵化器有限公司 Efficient method to go over files and marking system based on deep learning
CN113987296A (en) * 2021-11-22 2022-01-28 腾讯科技(深圳)有限公司 Answer detection method and device for application questions

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109961146B (en) * 2019-03-08 2023-05-05 科大讯飞股份有限公司 Mathematic question answering method and device

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968919A (en) * 1995-09-01 1997-03-11 Sharp Corp Answer rating processor
JPH09325673A (en) * 1996-06-05 1997-12-16 Kokusai Bunka Kagaku Gijutsu Honyaku Kenkyusho:Kk Translation sentence correction supporting device
JP2001249608A (en) * 2000-03-02 2001-09-14 Vlc Co Ltd Method and system for automatic marking and correction using electronic telecommunication
JP2004117947A (en) * 2002-09-27 2004-04-15 Virtual N:Kk Learning system
JP2004219851A (en) * 2003-01-17 2004-08-05 Hitachi Ltd Test and grading support system capable of pen input
JP2004233751A (en) * 2003-01-31 2004-08-19 Benetsuse Corp:Kk Control method for division learning device
JP2005134691A (en) * 2003-10-31 2005-05-26 Hitachi Ltd Automatic marking device in education system via network
JP2005258367A (en) * 2004-03-08 2005-09-22 Miyahara Shoten:Kk Marking support system for description type examination
JP2006099031A (en) * 2004-08-31 2006-04-13 Toshiba Corp System, server, and program for providing examination
JP2007286409A (en) * 2006-04-18 2007-11-01 Hitachi Ltd Marking assist device
JP2008046398A (en) * 2006-08-17 2008-02-28 Toppan Forms Co Ltd Correction managing server device, system method, program, and correction terminal and correction program

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968919A (en) * 1995-09-01 1997-03-11 Sharp Corp Answer rating processor
JPH09325673A (en) * 1996-06-05 1997-12-16 Kokusai Bunka Kagaku Gijutsu Honyaku Kenkyusho:Kk Translation sentence correction supporting device
JP2001249608A (en) * 2000-03-02 2001-09-14 Vlc Co Ltd Method and system for automatic marking and correction using electronic telecommunication
JP2004117947A (en) * 2002-09-27 2004-04-15 Virtual N:Kk Learning system
JP2004219851A (en) * 2003-01-17 2004-08-05 Hitachi Ltd Test and grading support system capable of pen input
JP2004233751A (en) * 2003-01-31 2004-08-19 Benetsuse Corp:Kk Control method for division learning device
JP2005134691A (en) * 2003-10-31 2005-05-26 Hitachi Ltd Automatic marking device in education system via network
JP2005258367A (en) * 2004-03-08 2005-09-22 Miyahara Shoten:Kk Marking support system for description type examination
JP2006099031A (en) * 2004-08-31 2006-04-13 Toshiba Corp System, server, and program for providing examination
JP2007286409A (en) * 2006-04-18 2007-11-01 Hitachi Ltd Marking assist device
JP2008046398A (en) * 2006-08-17 2008-02-28 Toppan Forms Co Ltd Correction managing server device, system method, program, and correction terminal and correction program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017167413A (en) * 2016-03-17 2017-09-21 独立行政法人大学入試センター Marking auxiliary system
CN107832768A (en) * 2017-11-23 2018-03-23 盐城线尚天使科技企业孵化器有限公司 Efficient method to go over files and marking system based on deep learning
CN113987296A (en) * 2021-11-22 2022-01-28 腾讯科技(深圳)有限公司 Answer detection method and device for application questions

Also Published As

Publication number Publication date
KR20090049975A (en) 2009-05-19
JP4516136B2 (en) 2010-08-04

Similar Documents

Publication Publication Date Title
Brown et al. Using multi-group confirmatory factor analysis to evaluate cross-cultural research: identifying and understanding non-invariance
Tavakol et al. Psychometric evaluation of a knowledge based examination using Rasch analysis: An illustrative guide: AMEE Guide No. 72
Copur-Gencturk et al. An empirical study of the dimensionality of the mathematical knowledge for teaching construct
Buerger et al. The transition to computer-based testing in large-scale assessments: Investigating (partial) measurement invariance between modes
JP7147185B2 (en) Information processing device, information processing method and information processing program
KR101812763B1 (en) System for generating examination of korean spelling and analyzing test result thereof
Wise et al. Test design and development following the standards for educational and psychological testing
JP4516136B2 (en) Answer analysis processing method and answer analysis processing system
US20160019803A1 (en) System, method and computer-accessible medium for scalable testing and evaluation
Ferrara et al. Contextual characteristics of locally dependent open-ended item clusters in a large-scale performance
JP6416425B1 (en) Problem analysis system, method, and program
El-Hamamsy et al. Comparing the psychometric properties of two primary school Computational Thinking (CT) assessments for grades 3 and 4: The Beginners' CT test (BCTt) and the competent CT test (cCTt)
He et al. Inter-subject comparability of examination standards in GCSE and GCE in England
Jin et al. Detecting rater centrality effects in performance assessments: A model-based comparison of centrality indices
Gnambs et al. Comparing perceptual speed between educational contexts
Metsämuuronen Essentials of visual diagnosis of test items. Logical, illogical, and anomalous patterns in tests items to be detected
Bikos et al. Evaluating the psychometric properties of the Missouri Occupational Card Sort
Cheng et al. An exploratory strategy to identify and define sources of differential item functioning
Bush An empirical exploration of teacher clarity.
Benton et al. Comparing the simplified pairs method of standard maintaining to statistical equating
Haghighi et al. Developing and validating a questionnaire to assess strategic competence in EFL listening performance: A structural equation modeling approach
Breyer et al. A study of the use of the e‐rater® scoring engine for the analytical writing measure of the GRE® revised General Test
Elliott et al. A fair comparison? The evolution of methods of comparability in national assessment
JP6541849B1 (en) Problem tendency prediction system and question tendency prediction method
Mamedova et al. Adult Education Attainment and Assessment Scores: A Cross-National Comparison. Stats in Brief. NCES 2018-007.

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100511

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100513

R150 Certificate of patent or registration of utility model

Ref document number: 4516136

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160521

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350