JP2013076754A - Examination device, question management method, program, and recording medium - Google Patents
Examination device, question management method, program, and recording medium Download PDFInfo
- Publication number
- JP2013076754A JP2013076754A JP2011215330A JP2011215330A JP2013076754A JP 2013076754 A JP2013076754 A JP 2013076754A JP 2011215330 A JP2011215330 A JP 2011215330A JP 2011215330 A JP2011215330 A JP 2011215330A JP 2013076754 A JP2013076754 A JP 2013076754A
- Authority
- JP
- Japan
- Prior art keywords
- question
- score
- temporary
- questions
- test
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007726 management method Methods 0.000 title claims description 14
- 238000004458 analytical method Methods 0.000 claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 9
- 238000012360 testing method Methods 0.000 claims description 150
- 238000007619 statistical method Methods 0.000 claims description 19
- 230000002093 peripheral effect Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013101 initial test Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
Images
Landscapes
- Electrically Operated Instructional Devices (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
本発明は、受験者に問題を出題するとともに、その結果に応じて問題の管理を行う試験装置、問題管理方法、プログラムおよび記録媒体に関するものである。 The present invention relates to a test apparatus, a problem management method, a program, and a recording medium that give questions to examinees and manage problems according to the results.
近年、種々のテストを、コンピュータ・システムを利用し行うことが増えている。例えば、受験者はコンピュータに問題を表示させ、選択肢を選択することなどによって問題への解答を行う。このようなシステムでは、場所や時間を限定せず効率的にテストを実施することが可能である。一方、国家試験など厳密な管理(不正防止など)が必要な試験では、テスト会場型(テストセンター型)の試験システムもある。テスト会場では、本人確認の実施や試験経過の監視などの受験管理が行われる。このような仕組みのもと、様々な試験がデジタル化されている。このようなシステムの例が、特許文献1に記載されている。
In recent years, an increasing number of tests are performed using computer systems. For example, the examinee displays a question on a computer and answers the question by selecting an option. In such a system, it is possible to efficiently perform a test without limiting the place and time. On the other hand, there is a test venue type (test center type) test system for tests that require strict management (such as fraud prevention) such as national tests. At the test site, examination management such as identity verification and examination progress monitoring is performed. Under such a mechanism, various tests are digitized. An example of such a system is described in
一般に、このようなシステムにおいては、問題を多く用意する必要がある。例えば複数回受験した場合に同じ問題が現れたりすることなどを避け、公平性を確保するためである。 In general, it is necessary to prepare many problems in such a system. For example, in order to ensure fairness by avoiding the same problem from appearing multiple times.
一方で、出題される問題については、その質を維持する必要がある。特に、上に挙げた厳格な管理を要する国家試験などの試験では、試験問題の品質にさらに留意する必要がある。例えば、分かりにくい問題やあまりにも簡単でほとんどの受験者が解ける問題、難しすぎてほとんどの受験者が解けない問題は好ましくない。このように、試験に適当な問題を作成することは容易ではなく経験を要する。また、問題の妥当性を検証することも困難である。 On the other hand, it is necessary to maintain the quality of the questions that are presented. In particular, it is necessary to pay more attention to the quality of the test questions in tests such as the above-mentioned national examinations that require strict management. For example, problems that are difficult to understand, problems that are too easy for most candidates to solve, and problems that are too difficult for most candidates to solve are undesirable. Thus, creating an appropriate question for a test is not easy and requires experience. It is also difficult to verify the validity of the problem.
本発明は、このような問題に鑑みてなされたもので、問題の妥当性を統計的に検証する方法を提供し、質の高い問題の作成を支援する試験装置等を提供することを目的とする。 The present invention has been made in view of such problems, and provides a method for statistically verifying the validity of a problem, and an object thereof is to provide a test apparatus and the like that support the creation of a high-quality problem. To do.
前述した目的を達成するための第1の発明は、テストを受験する受験者の受験者端末とネットワークを介して接続される試験装置であって、出題時の配点が1以上である本問題と出題時の配点が0である仮問題とを含む、受験者に出題する問題を、出題時の配点とともに記憶する記憶手段と、前記仮問題を含む問題を前記受験者端末に送信し、配点を示さない出題画面として表示することにより出題を行う出題手段と、前記受験者端末から前記仮問題を含む問題に対する解答を受信する解答受信手段と、前記仮問題に対する解答の採点結果について統計的分析を行う問題分析手段と、前記採点結果の統計的分析の結果に応じて前記仮問題を本問題とするか否かを判定し、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点として1以上の値を記録する本問題設定手段と、を具備することを特徴とする試験装置である。 A first invention for achieving the above-described object is a test apparatus connected via a network to a test taker's terminal of a test taker who takes a test, and the problem is that the score at the time of the test is 1 or more. A storage means for storing questions to be given to the examinee including a temporary question with a score of 0 at the time of the question, together with a score at the time of the question, and sending the question including the temporary question to the test taker's terminal. Statistical analysis is performed on a question answering means for giving questions by displaying as a question question screen not shown, an answer receiving means for receiving an answer to the question including the temporary question from the examinee terminal, and a scoring result of the answer to the temporary question The problem analysis means to be performed, and whether to determine the temporary problem as the main problem according to the result of the statistical analysis of the scoring results. Is a temporary problem A test apparatus characterized by comprising the present issue setting means for recording one or more values as allocated points during question entitled, the.
第1の発明によれば、本問題に加え、作成した仮問題を実際のテストで配点を0点として出題する。受験者は、配点を知ることなくテストを行い、本問題や仮問題に関係なく真剣に解くので、仮問題の検証材料として信頼できる統計的データが得られる。また、仮問題の配点は0点であるので、妥当性が未検証な仮問題に対する解答の結果がテスト結果に影響を与えることもない。このようにして得られた仮問題に対する解答の採点結果について統計的な分析を行い、結果に応じて仮問題を本問題とすることで、仮問題の妥当性の検証を、信頼に足るデータを基に容易に行うことができ、質の高い問題の作成を支援することができる。 According to the first invention, in addition to this problem, the created temporary problem is given a score of 0 in an actual test. Candidates perform tests without knowing the score and solve them seriously regardless of the problem or provisional problem, so that statistical data that can be trusted as a verification material for the provisional problem can be obtained. Further, since the tentative question is assigned 0 points, the result of the answer to the temporary question whose validity is not verified does not affect the test result. Statistical analysis is performed on the scoring results of the answers to the provisional question obtained in this way, and the provisional question is determined as the main problem according to the result. It can be easily done on the basis of, and can assist in the creation of high-quality problems.
前記記憶手段は、問題ごとに、前記出題時の配点と、1以上の配点である本問題配点を紐付けて記憶し、前記本問題設定手段は、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点を、前記本問題配点を参照して記録することが望ましい。 The storage means stores, for each problem, the score assigned at the time of the question and the problem question score that is one or more scores, and the problem setting means determines that the temporary problem is the problem. It is preferable to record the score at the time of the question which is the provisional problem in the storage means with reference to the problem score.
上記の構成により、例えば、出題時の配点が0であった仮問題に、予め定めた本問題配点、例えば「5点」など、を出題時の配点として新たに与えることにより、仮問題が本問題に昇格される。このように、本問題配点を予め定め、仮問題を本問題とする場合にこれに基づき配点を与えることができる。 With the above configuration, for example, a provisional problem score, for example, “5 points”, is newly given to the temporary problem whose score was 0 at the time of the question as a score at the time of the question. Promoted to a problem. In this way, when this problem scoring is determined in advance and the temporary problem is regarded as this problem, a scoring can be given based on this.
また、前記出題手段は、仮問題が予め定める所定の割合以下となるように問題を選択して前記受験者端末に送信し出題を行うことが望ましい。 Further, it is preferable that the question-taking means selects questions so that the provisional questions are equal to or less than a predetermined ratio, and sends the questions to the examinee terminal to give questions.
上記の構成により、テストにおいて、妥当性が未検証な仮問題の出題数を一定数以下に抑えることができる。 With the above configuration, it is possible to keep the number of provisional questions whose validity is not verified in a test to a certain number or less.
加えて、前記記憶手段は、問題ごとに、前記出題時の配点と、1以上の配点である本問題配点を紐付けて記憶し、前記本問題設定手段は、前記仮問題を本問題とする場合に、前記記憶手段に、前記採点結果の統計的分析の結果に応じて、前記仮問題である問題の出題時の配点として、前記本問題配点の所定の割合の配点を記録することも望ましい。 In addition, for each problem, the storage means associates and stores the assignment score at the time of the question and the problem assignment score that is one or more assignment points, and the problem setting means sets the temporary problem as the problem. In this case, it is also desirable to record, in the storage means, a predetermined percentage of the main problem scoring points as a scoring point at the time of the question that is the provisional question according to the result of statistical analysis of the scoring results. .
上記の構成により、例えば仮問題が正答率の高い問題である場合に低い配点を与え、正答率が低い問題である場合に高い配点を与えるなど、仮問題の分析の結果に応じて、本問題とする場合の配点を変更することができる。 Depending on the result of the analysis of the temporary question, for example, a low score is given when the temporary question is a problem with a high correct answer rate, and a high score is given when the problem is a low correct answer rate. The score can be changed.
第2の発明は、テストを受験する受験者の受験者端末とネットワークを介して接続される試験装置における問題管理方法であって、前記試験装置が、出題時の配点が1以上である本問題と出題時の配点が0である仮問題とを含む、受験者に出題する問題を、出題時の配点とともに記憶する記憶手段を有し、前記仮問題を含む問題を前記受験者端末に送信し、配点を示さない出題画面として表示することにより出題を行う出題ステップと、前記受験者端末から前記仮問題を含む問題に対する解答を受信する解答受信ステップと、前記仮問題に対する解答の採点結果について統計的分析を行う問題分析ステップと、前記採点結果の統計的分析の結果に応じて前記仮問題を本問題とするか否かを判定し、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点として1以上の値を記録する本問題設定ステップと、を実行することを特徴とする問題管理方法である。 The second invention is a problem management method in a test apparatus connected via a network to a test taker's terminal of a test taker who takes the test, wherein the test apparatus has a score of 1 or more at the time of a question. Storage means for storing questions to be taken to the examinee, including a temporary question with a score of 0 at the time of the question, together with a score at the time of the question, and transmitting the question including the temporary question to the test taker terminal. Statistics about the questioning step of giving questions by displaying as a questioning screen not showing scoring, the answer receiving step of receiving an answer to the question including the temporary question from the examinee terminal, and the scoring result of the answer to the temporary question A problem analysis step for performing a statistical analysis, and determining whether or not the temporary problem is to be the main problem according to a result of a statistical analysis of the scoring results. A stage, a problem management method and executes and a setting this problem step of recording one or more values as allocated points during question of the temporary problems in a problem.
前記記憶手段は、問題ごとに、前記出題時の配点と、1以上の配点である本問題配点を紐付けて記憶し、前記本問題設定ステップでは、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点を、前記本問題配点を参照して記録することが望ましい。
また、前記出題ステップでは、仮問題が予め定める所定の割合以下となるように問題を選択して前記受験者端末に送信し出題を行うことが望ましい。
加えて、前記記憶手段は、問題ごとに、前記出題時の配点と、1以上の配点である本問題配点を紐付けて記憶し、前記本問題設定ステップでは、前記仮問題を本問題とする場合に、前記記憶手段に、前記採点結果の統計的分析の結果に応じて、前記仮問題である問題の出題時の配点として、前記本問題配点の所定の割合の配点を記録することも望ましい。
The storage means stores, for each problem, the score at the time of the question and the problem score which is one or more scores, and the problem setting step includes the temporary problem as the problem. It is preferable to record the score at the time of the question which is the provisional problem in the storage means with reference to the problem score.
In the questioning step, it is desirable to select questions and send them to the test taker terminal so that the provisional questions are equal to or less than a predetermined ratio.
In addition, for each problem, the storage means associates and stores the score at the time of the question and the problem score that is one or more scores, and in the problem setting step, the temporary problem is set as the problem. In this case, it is also desirable to record, in the storage means, a predetermined percentage of the main problem scoring points as a scoring point at the time of the question that is the provisional question according to the result of statistical analysis of the scoring results. .
第3の発明はコンピュータを第1の発明の試験装置として機能させるためのプログラムである。 A third invention is a program for causing a computer to function as the test apparatus of the first invention.
第4の発明はコンピュータを第1の発明の試験装置として機能させるためのプログラムを記憶した記憶媒体である。 The fourth invention is a storage medium storing a program for causing a computer to function as the test apparatus of the first invention.
本発明によれば、問題の妥当性を統計的に検証する方法を提供し、質の高い問題の作成を支援する試験装置等を提供することができる。 According to the present invention, it is possible to provide a method for statistically verifying the validity of a problem, and to provide a test apparatus that supports the creation of a high-quality problem.
以下、図面に基づいて本発明の実施形態について説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
図1は本発明の実施形態に係る試験装置1を用いた試験システム2について説明する図である。図1に示すように、試験システム2において、試験装置1は、受験者が使用する受験者端末3とネットワーク10を介して接続され、受験者端末3に問題を送信しテストを実施するとともに、受験者端末3から問題に対する解答を受信する。
FIG. 1 is a diagram for explaining a
図2(a)は試験装置1のハードウェア構成を示す図である。図に示すように、試験装置1は、制御部11、記憶部12、メディア入出力部13、通信制御部14、入力部15、表示部16、周辺機器I/F部17等が、バス18を介して接続された構成である。
FIG. 2A is a diagram illustrating a hardware configuration of the
制御部11はCPU(Central Processing Unit)、
ROM(Read Only Memory)、RAM(Random Access Memory)等で構成される。
CPUは、記憶部12、ROM、記憶媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス18を介して接続された各装置を駆動制御し、試験装置1が行う後述する処理を実現する。ROMは不揮発性メモリであり、ブートプログラムやBIOS等のプログラム、データ等を恒久的に保持している。RAMは揮発性メモリであり、記憶部12、ROM、記憶媒体等からロードしたプログラム、データ等を一時的に保持するとともに、制御部11が各処理を行う為に使用するワークエリアを備える。
The control unit 11 is a CPU (Central Processing Unit),
A ROM (Read Only Memory), a RAM (Random Access Memory), and the like are included.
The CPU calls and executes a program stored in the
記憶部12は、HDD(ハードディスクドライブ)等であり、制御部11が実行するプログラム、プログラム実行に必要なデータ、OS(オペレーティングシステム)等が格納される。プログラムに関しては、OSに相当する制御プログラムや、後述する処理を試験装置1に実行させるためのアプリケーションプログラムが格納されている。
これらの各プログラムコードは、制御部11により必要に応じて読み出されてRAMに移され、CPUに読み出されて各種の手段として実行される。
The
Each of these program codes is read by the control unit 11 as necessary, transferred to the RAM, read by the CPU, and executed as various means.
メディア入出力部13(ドライブ装置)は、データの入出力を行い、例えば、CDドライブ(−ROM、―R、−RW等)、DVDドライブ(−ROM、―R、−RW等)等のメディア入出力装置を有する。
通信制御部14は、通信制御装置、通信ポート等を有し、他のサーバ等の装置との通信を媒介する通信インタフェースであり、ネットワークを介して他の装置との通信制御を行う。ネットワークは、有線、無線を問わない。
The media input / output unit 13 (drive device) inputs / outputs data, for example, media such as a CD drive (-ROM, -R, -RW, etc.), DVD drive (-ROM, -R, -RW, etc.) Has input / output devices.
The communication control unit 14 includes a communication control device, a communication port, and the like, and is a communication interface that mediates communication with devices such as other servers, and performs communication control with other devices via a network. The network may be wired or wireless.
入力部15は、データの入力を行い、例えば、キーボード、マウス等のポインティングデバイス、テンキー等の入力装置を有する。
表示部16は、CRTモニタ、液晶パネル等のディスプレイ装置、およびディスプレイ装置と連携して表示機能を実現するための論理回路等を有する。
The
The
周辺機器I/F(インタフェース)部17は、周辺機器を接続させるためのポートであり、周辺機器I/F部17を介して周辺機器とのデータ送受信を行う。周辺機器I/F部17は、USB等で構成されており、通常複数の周辺機器I/Fを有する。周辺機器との接続形態は有線、無線を問わない。
バス18は、各装置間の制御信号、データ信号等の授受を媒介する経路である。
The peripheral device I / F (interface) unit 17 is a port for connecting a peripheral device, and performs data transmission / reception with the peripheral device via the peripheral device I / F unit 17. The peripheral device I / F unit 17 is configured by a USB or the like, and usually includes a plurality of peripheral devices I / F. The connection form with the peripheral device may be wired or wireless.
The bus 18 is a path that mediates transmission / reception of control signals, data signals, and the like between the devices.
受験者端末3は、テストを受験するユーザが使用するパーソナル・コンピュータなどであり、図2(b)に示すように、制御部31、記憶部32、メディア入出力部33、通信制御部34、入力部35、表示部36、周辺機器I/F部37等が、バス38を介して接続された構成である。各部の構成は、上記した試験装置1におけるものと同様である。
The
次に図3を参照して、試験装置1の機能構成について説明する。
図3に示すように、試験装置1は、出題手段41、解答受信手段42、問題分析手段43、本問題設定手段44等を有する。また、記憶部12は問題データ51、出題データ54、採点結果データ55、受験者データ56等を記憶し、これらのデータの記憶手段として機能する。
Next, the functional configuration of the
As shown in FIG. 3, the
出題手段41は、試験装置1の制御部11が、受験者端末3に問題を送信し出題画面として表示することにより受験者に出題を行うものである。この問題には、後述する仮問題と本問題とが含まれる。
解答受信手段42は、試験装置1の制御部11が、受験者端末3から、出題した問題に対する解答を受信するものである。
問題分析手段43は、試験装置1の制御部11が、仮問題に対する解答の採点結果について統計的分析を行うものである。
本問題設定手段44は、試験装置1の制御部11が、採点結果の統計的分析の結果に応じて仮問題を本問題とするか否かを判定し、判定結果に応じて、仮問題を本問題として設定するものである。仮問題を本問題として設定する際には、仮問題である問題の出題時の配点として1以上の値を記録するが、これについては後述する。
The questioning means 41 is for the control unit 11 of the
The answer receiving means 42 is for the control unit 11 of the
In the problem analysis means 43, the control unit 11 of the
The problem setting means 44 determines whether or not the control unit 11 of the
問題データ51は、受験者に出題する問題のデータであり、各問題を問題IDやその配点等と紐付けて記憶したものである。
図4は、問題データ51の例について示すものである。図4に示す問題データ51は、リレーショナルデータベースのスキーマを示すものであり、下線を引いた項目(図4では「問題ID」)は主キーであることを示す。後述する図5においても同様である。
図に示すように、問題データ51としては、問題ID510、問題513、選択肢515、正答517、配点533、仮問題フラグ535、および本問題配点537等が紐付けて記憶される。
The
FIG. 4 shows an example of the
As shown in the figure, as the
問題ID510は、各問題を識別する情報である。
問題513は、問題の内容を示すものである。
選択肢515は、問題に対する解答として、選択肢の番号ごとに選択肢の内容を示すものである。本実施形態では、問題データ51として、複数の選択肢から正しい選択肢を選択して入力するような問題の例を示すが、解答として文字や数字、文章を入力するような問題であってもよい。
正答517は、問題513の正答を、選択肢515の番号で示したものである。
配点533は、問題の配点を示す。
仮問題フラグ535は、各問題が本問題か仮問題かを示すものである。図の例では、本問題である場合に「0」、仮問題である場合に「1」となる。
本問題配点537は、各問題を本問題として用いる場合の配点を示す。
The
The
The
The
The
The
This problem score 537 indicates a score when each problem is used as this problem.
そして、本実施形態では、問題データ51の問題に、本問題511と仮問題512が含まれる。
本問題511は、テストにおいて使用され、正解することにより配点533(本問題配点537)として1以上の得点が受験者に与えられる通常の問題である。
一方、仮問題512は、テストにおいて使用されるが、正解しても受験者には得点が与えられない問題である。即ち、配点533が0である問題である。
In the present embodiment, the
This
On the other hand, the
出題データ54は、1回のテストで受験者に出題した一連の問題やその出題順のパターンを記録するものである。すなわち、本実施形態では、問題は1回の試験に対応する数だけでなく相当数用意されている(従って、従来の方法では問題の品質確保が難しい)。この中から問題ID510をキーとして問題をランダムに選択し出題することもできるし、出題パターンは予め設定しておくこともできる。ランダムに出題を行った場合には、この出題パターンを記録することにより問題の管理ができる。ランダム出題の場合は、出題ごとに出題パターンが増加していく。
図5(a)は、出題データ54の例について示すものである。
図に示すように、出題データ54としては、パターン番号541、問題番号543、問題ID545等が紐付けて記録される。
The
FIG. 5A shows an example of the
As shown in the drawing, as the
パターン番号541は、前記のパターンを識別する番号である。
問題番号543は、問題の出題順を示す番号である。
問題ID545は、問題データ51の問題ID510に対応する。
The
The
The
採点結果データ55は、問題に対する各受験者の解答の採点結果を示すものである。
図5(b)は採点結果データ55の例を示すものである。
採点結果データ55としては、受験者ID550ごとに、問題番号551、正誤555、得点557が紐付けて記録される。
The scoring
FIG. 5B shows an example of the scoring
As the scoring
受験者ID550は、受験者を識別する情報であり、後述する受験者ID561に対応する。
問題番号551は、受験者に出題した一連の問題の問題番号であり、出題データ54の問題番号543に対応する。
正誤555は、問題番号551の問題に対する受験者の解答の正誤である。
得点557は、問題番号551の問題の解答結果に対し与えられる得点であり、正誤555が正の場合に、出題された問題の配点(問題データ51の配点533)が得点557として記録され、誤の場合に0が記録される。出題された問題の配点は、問題番号551や受験者ID550等から特定できる。
なお、正誤555として中間的な評価(部分的に正解など)を用意することもでき、その場合は、例えば配点533が「4」であれば得点557をその半分の「2」とするなど、配点533の所定の割合の点数を得点557として記録することもできる。
The
The
The correctness /
The
In addition, an intermediate evaluation (partially correct answer or the like) can be prepared as the correct / incorrect 555. In this case, for example, if the
受験者データ56は、受験者IDやテスト受験日など、受験者についての情報を記録したものである。
図5(c)に受験者データ56の例について示す。図に示すように、受験者データ56は、受験者ID561、パターン番号562、氏名563、受験日565、テスト得点567等が紐付けて記録される。
The
An example of
受験者ID561は、受験者を識別する情報である。
パターン番号562は、受験者に出題された一連の問題のパターン番号であり、出題データ54のパターン番号541に対応する。
氏名563は、受験者の氏名である。
受験日565は、受験者のテスト受験日を示す。
テスト得点567は、受験者のテストにおける得点を示す。テスト得点567の算出については後述する。
The
The
The
The
The
次に、図6を用いて、本実施形態の試験装置1における問題管理方法の処理の流れを説明する。
Next, the flow of processing of the problem management method in the
まず、テストの受験者は、受験者端末3より、受験者IDを入力して試験装置1に送信し、試験装置1が提供する出題用サイトにアクセスし、テストを受験する。この際、試験装置1の制御部11は仮問題512を含む問題513(および選択肢515)を受験者端末3に送信し出題画面60として表示させて出題を行い、画面上で受験者に解答を入力させる(ステップ101)。
First, the test taker inputs the test taker ID from the
図7は出題画面60の例である。
出題画面60には問題61(問題513)が表示され、受験者は、画面上で選択肢(選択肢515)に対応して表示されるラジオボタン63を選択することにより、問題61に対する解答を選択できる。解答の選択後「次へ」ボタン65をクリックすることにより、次の問題61についての出題画面60に移行する。あるいは、「前へ」ボタン67をクリックすることにより前の問題61についての出題画面60に移行し解答のやり直しなどすることができる。
FIG. 7 shows an example of the
A question 61 (question 513) is displayed on the
このようにして出題される一連の問題513には本問題511および仮問題512が含まれるが、出題画面60には問題の配点533は表示されない。受験者は出題される問題513の配点を知ることが無いので、本問題511であるか仮問題512であるかに関わらず手を抜いたりすることなく真剣に解くことになる。
The series of
出題を行う際、試験装置1の制御部11は、問題データ51の問題513を、本問題511に加え仮問題512が含まれるようにランダムに選択して受験者端末3に送信し出題画面60として表示させる。出題した問題513の問題ID510は、出題データ54の問題ID545として、出題順を示す問題番号543と紐付けパターン番号541を付して記録される。仮問題512の数は、1回のテストにおいて出題する一連の問題513の数に対して所定の割合、例えば10%以下となるように選択される。上記の割合は予め様々に定めることができる。
When the question is given, the control unit 11 of the
ただし、問題の表示順や表示方法など出題の方法は、テストにおける一連の問題513に仮問題512を含むようにすれば、これに限ることはなく、例えば1つの画面で1回のテストにおける問題を全て表示し出題するようにしてもよいし、1つの問題に対する解答を逐次判定しその結果に応じて次に出題する問題を動的に変化させながら、問題を順次出題するようにしてもよい。
However, the method of setting questions such as the order of displaying the questions and the display method is not limited to this as long as the
図6の説明に戻る。1回のテストについて一連の問題513に対する解答を行うと、受験者の指示操作により、受験者端末3は出題装置1に各問題513に対する解答を送信する。試験装置1の制御部11は、受験者端末3から解答を受信する(ステップ102)。
Returning to the description of FIG. When answering a series of
各問題513に対する解答については、試験装置1の制御部11により、問題データ51として予め記憶しておいた各問題513の正答517と比較判定するなどして採点が行われ、図5(b)で説明したような採点結果データ55が受験者ごとに作成され、受験者ID等に紐付けて記憶される(ステップ103)。なお、問題513に対する採点は、採点者による指示操作に応じて、試験装置1の制御部11が採点結果データ55として入力するものであってもよい。
The answer to each
以上のように複数の受験者に対しテストを行い、受験者ごとに採点結果データ55が作成される。試験装置1の制御部11は、採点結果データ55等に基づき採点結果の統計的な分析を行い結果に応じて仮問題512を本問題511とするか否か判定を行う(ステップ104)。
As described above, a plurality of examinees are tested, and scoring
本実施形態では、ステップ104において、試験装置1の制御部11は、採点の分析を行う際、各問題の正答率や解答率などの採点分析情報を示す採点分析データ57aを作成する。
In the present embodiment, in step 104, when analyzing the scoring, the control unit 11 of the
採点分析データ57aの例を図8(a)に示す。採点分析データ57aとしては、問題ID571、配点572、正答率573、および解答率574が紐付けられる。採点分析データ57aは、出題データ54、採点結果データ55、受験者データ56を集計し作成されるものである。
An example of the scoring
問題ID571、配点572は、それぞれ問題データ51の問題ID510、配点533と同様である。
正答率573は問題に正しく解答された割合である。
解答率574は問題に解答された割合であり、正誤を問わない。マークシート式試験の場合では、マーク入力がされた割合である。
The
The
The
そして、試験装置1の制御部11は、仮問題512の妥当性、即ち、仮問題512を本問題511とするか否かの判定を所定の基準により行う。
ここでは、正答率573が予め定める所定の範囲にあるか否かで仮問題512の妥当性を判定する。例えば、簡単すぎる問題や、難しすぎる問題を除外するべく、上記の所定の範囲を30%以上70%未満と定めておく。
Then, the control unit 11 of the
Here, the validity of the
図8(a)の例では、正答率が50%であり上記の範囲に含まれる、問題ID571が「3」の仮問題512は妥当であり本問題511とすると判定される。仮問題512を本問題511とすると判定される場合(ステップ105のYES)、試験装置1の制御部11は、問題データ51の、問題ID571(問題ID510)に対応する仮問題フラグ535を、本問題を示す「0」とし、本問題配点537を参照して、配点533に本問題配点537の値を記録する(ステップ106)。これにより、仮問題512が本問題511に昇格したことになり、以降のテストにおいては、1以上の配点を有する本問題511として扱われる。
In the example of FIG. 8A, it is determined that the
一方、図8(a)の問題ID571が「4」の仮問題512の正答率573は25%である。正答率573は上記の範囲から外れ、仮問題512を本問題511とすると判定されない(ステップ105のNO)。この場合、上記の処理は行われない。この仮問題512は難しすぎたので、試験システム2の管理者は、問題を簡単なものに修正するなどする。
On the other hand, the
以上のような処理を繰り返すことにより、仮問題512についてその妥当性が検証され、妥当である場合には本問題511として0でない配点を有する問題に変更される。
By repeating the processing as described above, the validity of the
なお、上記と同様にして本問題511の妥当性、すなわち本問題511を仮問題512とするか否かについて判定することも可能である。例えば本問題511について、正答率573が所定の範囲にあるかを判定し、所定の範囲にない場合には、問題データ51において仮問題フラグ535を仮問題512を示す「1」とし配点533を0とすることにより、本問題511の問題を仮問題512として設定したうえで、試験システム2の管理者により問題の修正を行うなどすることができる。
In the same manner as described above, it is possible to determine the validity of the
なお、前記のステップ104では、個人のテスト結果を示す採点分析データ57bなども作成される。
この採点分析データ57bの例を図8(b)に示す。図に示すように、採点分析データ57bとしては、受験者ID(受験者ID561)およびパターン番号(パターン番号562)ごとに、問題番号575、配点576、正誤577、および得点578等が紐付けられる。
In step 104 described above, scoring
An example of the scoring
問題番号575は、採点結果データ55の問題番号551に対応する。
配点576は、問題データ51の配点533に対応する。
正誤577は、採点結果データ55の正誤555に対応する。
得点578は、採点結果データ55の得点557に対応する。
The
The
The correctness /
The
試験装置1の制御部11は、前記のステップ104において、例えば、配点576の合計(図の「89」)を満点579として算出するとともに、得点578の合計(図の「48」)を合計点580として算出し、満点579に対する合計点580の比(%)をテスト得点として算出する。各受験者に1回のテストで出題する問題について、満点579は一定にならないこともあるので、各受験者の評価として上記のテスト得点を算出する。このテスト得点は、受験者データ56として、受験者ID561に紐付けて記録する。
In step 104 described above, the control unit 11 of the
以上説明したように、本実施形態によれば、本問題511に加え、作成した仮問題512を実際のテストで配点を0点として出題する。受験者は、配点を知ることなくテストを行い、本問題511や仮問題512に関係なく真剣に解くので、仮問題512の検証材料として信頼できる統計的データが得られる。また、仮問題512の配点は0点であるので、妥当性を検証する前の仮問題512の解答の結果がテスト結果に影響を与えることもない。このようにして得られた仮問題512に対する解答の採点結果について統計的な分析を行い、結果に応じて仮問題512を本問題511とすることで、仮問題512の妥当性の検証を、信頼に足るデータを基に容易に行うことができ、質の高い問題の作成を支援することができる。
As described above, according to the present embodiment, in addition to the
また、問題データ51の本問題配点537を予め定めるので、仮問題512を本問題511にする場合には、これに基づき配点533を与えることができる。
さらに、出題時には仮問題512が所定の割合以下となるように問題を選択して受験者端末3に送信し出題を行うので、テストにおいて、妥当性が未検証な仮問題512の出題数を一定数以下に抑えることができる。
In addition, since the problem question score 537 of the
Furthermore, since questions are selected and sent to the test taker's terminal 3 so that the
また、本実施形態では、仮問題512を本問題511とする場合に本問題配点537を配点533として与えているが、分析結果により本問題配点537の所定の割合の点数を与えてもよい。
例えば上記の例では仮問題512の正答率573が30%以上70%未満の場合に本問題511とし配点533として本問題配点537を与えているが、仮問題512の正答率573が60%以上70%未満の場合には配点533として本問題配点537の40%の値である2点を与え、それ以外の場合に配点533として本問題配点537の値を与えるようにしてもよい。これにより、例えば本問題511とする仮問題512のうち簡単な問題の配点533については低く抑える、あるいは難しい問題の配点533は高くしておくことなどができる。
Further, in the present embodiment, when the
For example, in the above example, when the
さらに、ステップ104における採点結果の分析は図8で説明したものに限らない。次に、採点結果の統計的分析の別の例について説明する。
図9はその例を示すグラフである。図9の例は、初回に受験する受験者について上記と同様にテストを行い、ある仮問題512について、受験者の初回のテスト得点の得点帯ごとに、解答率587と正答率585を示したものである。
Furthermore, the analysis of the scoring results in step 104 is not limited to that described in FIG. Next, another example of statistical analysis of scoring results will be described.
FIG. 9 is a graph showing an example thereof. In the example of FIG. 9, a test taker who takes the first test is tested in the same manner as described above, and an
図9において、横軸は得点帯であり、縦軸は解答率587と正答率585を示す。図9より、仮問題512について、「0〜20」の得点帯の受験者では解答率587が20%、正答率585が0%、「21〜40」の得点帯の受験者では解答率587が40%、正答率585が10%、「41〜60」の得点帯の受験者では解答率587が50%、正答率585が20%、「61〜80」の得点帯の受験者では解答率587が70%、正答率585が50%、「81〜100」の得点帯の受験者では解答率587が90%、正答率585が80%である。
In FIG. 9, the horizontal axis represents the score zone, and the vertical axis represents the
例えば、試験装置1の制御部11は、ステップ103において採点結果データ55を受験者ID等および受験回数(初回、2回目等)と紐付けて作成し、ステップ104において、受験回数等を参照し、採点結果データ55等より、各受験者が初回に行ったテストについての採点結果を受験者の得点帯ごとに集計し、仮問題512について、図9のような得点帯ごとの解答率587と正答率585を算出する。
For example, the control unit 11 of the
そして、試験装置1の制御部11は、所定の基準を基に仮問題512を本問題511とするか否かを判定する。ここでは、予め定める所定の範囲に正答率585がある場合に仮問題512を本問題511とすると判定する。例えば上記所定の範囲を20%以上60%未満と定めた場合、「41〜60」、「61〜80」の得点帯の受験者について、仮問題512が本問題511とされることになる。
Then, the control unit 11 of the
例えば、問題データ51として、本問題511の問題ID510に紐付けて、どの得点帯(前回テストのテスト得点帯)の受験者に出題するかを示す情報も紐付けて記録しておき、試験装置1の制御部11は、上記の仮問題512から本問題511となった問題については、前述の場合と同様に本問題511として設定するとともに、どの得点帯の受験者に出題するかを記録する。上記の例では、「41〜60」、「61〜80」の得点帯の受験者に出題することを記録する。
For example, the
試験装置1の制御部11は、前述の受験者データ56や上記の情報等を参照し、復習として2回目以降テストを受験する受験者に対しては、前回行ったテストのテスト得点567に応じた難易度の問題を選択して出題することができる。テスト得点567が「41〜60」、「61〜80」の得点帯にあれば、上記の仮問題512から本問題511となった問題も1以上の配点を有する問題として出題される可能性があることになる。なお、仮問題512である問題については、初回のテスト受験者に対してのみ選択し出題可能としておく。
この他、試験問題が直前の解答結果に応じて動的に変わるような運用を行う場合などでは、例えば、それまでの解答結果より逐次正答率を算出し、上記の情報等を参照して受験者のレベルにあった問題の選択も可能になる。
The control unit 11 of the
In addition to this, when performing an operation in which the test questions dynamically change according to the previous answer results, for example, the correct answer rate is calculated sequentially from the previous answer results, and the examination is taken with reference to the above information etc. It is also possible to select the problem that suits the level of the person.
また、解答率574(図8(a)参照)の統計的分析によって仮問題512の妥当性の検証を行うことも可能である。誤答に減点などのペナルティがある選択式の問題などでは、問題が難しすぎる、または分かりにくい場合には解答率574が下がるので、例えば、解答率574が所定の値以上である(問題自体の理解が容易である等)場合に、前記と同様の処理により仮問題512を本問題511とすることもできる。
その他、解答率574が高いにも関わらず正答率573(図8(a)参照)が低い場合には、「簡単そうに見えて難しい」、または「誤解を与える」問題であることもわかる。試験システム2の管理者は、このような解答率574と正答率573の結果と、問題の内容を突き合わせて妥当性の検討をすることができる。なお、上記の観点から、解答率574および正答率573についての所定の基準値を用いて、試験装置1により仮問題512の妥当性の判定を行うことも可能である。
It is also possible to verify the validity of the
In addition, when the
以上、添付図を参照しながら、本発明の実施形態を説明したが、本発明の技術的範囲は、前述した実施の形態に左右されない。当業者であれば、特許請求の範囲に記載された技術的思想の範疇内において各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。 As mentioned above, although embodiment of this invention was described referring an accompanying drawing, the technical scope of this invention is not influenced by embodiment mentioned above. It is obvious for those skilled in the art that various modifications or modifications can be conceived within the scope of the technical idea described in the claims, and these are naturally within the technical scope of the present invention. It is understood that it belongs.
1………試験装置
2………試験システム
3………受験者端末
41………出題手段
42………解答受信手段
43………問題分析手段
44………本問題設定手段
51………問題データ
55………採点結果データ
60………出題画面
511………本問題
512………仮問題
1.
Claims (10)
出題時の配点が1以上である本問題と出題時の配点が0である仮問題とを含む、受験者に出題する問題を、出題時の配点とともに記憶する記憶手段と、
前記仮問題を含む問題を前記受験者端末に送信し、配点を示さない出題画面として表示することにより出題を行う出題手段と、
前記受験者端末から前記仮問題を含む問題に対する解答を受信する解答受信手段と、
前記仮問題に対する解答の採点結果について統計的分析を行う問題分析手段と、
前記採点結果の統計的分析の結果に応じて前記仮問題を本問題とするか否かを判定し、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点として1以上の値を記録する本問題設定手段と、
を具備することを特徴とする試験装置。 A test device connected via a network to a test taker terminal of a test taker who takes a test,
Storage means for storing the questions to be given to the examinee, including the present question having a score of 1 or more at the time of the question and the provisional question having a score of 0 at the time of the question, together with the score at the time of the question,
A question-taking means for sending a question including the provisional question to the test taker's terminal and giving a question by displaying it as a question-taking screen not showing a score;
Answer receiving means for receiving an answer to the question including the provisional question from the examinee terminal;
A problem analysis means for performing a statistical analysis on the result of scoring the answer to the provisional question;
In accordance with the result of statistical analysis of the scoring results, it is determined whether or not the temporary problem is the main problem, and when the temporary problem is the main problem, the storage means stores the problem that is the temporary problem. This problem setting means for recording a value of 1 or more as a scoring point at the time of the question,
A test apparatus comprising:
前記本問題設定手段は、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点を、前記本問題配点を参照して記録することを特徴とする請求項1に記載の試験装置。 The storage means stores, for each problem, the score assigned at the time of the question and the question score assigned as one or more assigned scores.
The present problem setting means, when the temporary problem is regarded as the main problem, records in the storage means the score when the question that is the temporary problem is given with reference to the main problem score. The test apparatus according to claim 1.
前記本問題設定手段は、前記仮問題を本問題とする場合に、前記記憶手段に、前記採点結果の統計的分析の結果に応じて、前記仮問題である問題の出題時の配点として、前記本問題配点の所定の割合の配点を記録することを特徴とする請求項1から請求項3のいずれかに記載の試験装置。 The storage means stores, for each problem, the score assigned at the time of the question and the question score assigned as one or more assigned scores.
In the case where the temporary problem is determined to be the main problem, the main problem setting unit is configured to store, in the storage unit, according to a result of statistical analysis of the scoring result, 4. The test apparatus according to claim 1, wherein a score at a predetermined ratio of the problem score is recorded.
前記試験装置が、
出題時の配点が1以上である本問題と出題時の配点が0である仮問題とを含む、受験者に出題する問題を、出題時の配点とともに記憶する記憶手段を有し、
前記仮問題を含む問題を前記受験者端末に送信し、配点を示さない出題画面として表示することにより出題を行う出題ステップと、
前記受験者端末から前記仮問題を含む問題に対する解答を受信する解答受信ステップと、
前記仮問題に対する解答の採点結果について統計的分析を行う問題分析ステップと、
前記採点結果の統計的分析の結果に応じて前記仮問題を本問題とするか否かを判定し、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点として1以上の値を記録する本問題設定ステップと、
を実行することを特徴とする問題管理方法。 A problem management method for a test apparatus connected via a network to a test taker terminal of a test taker,
The test apparatus is
Storage means for storing the questions to be given to the examinee, including the present question having a score of 1 or more at the time of the question and the provisional question having a score of 0 at the time of the question, together with the score at the time of the question,
A question-taking step for sending a question including the provisional question to the test taker's terminal and giving a question by displaying it as a question-taking screen not showing a score;
An answer receiving step for receiving an answer to the question including the provisional question from the examinee terminal;
A problem analysis step of performing a statistical analysis on the scoring result of the answer to the provisional question;
In accordance with the result of statistical analysis of the scoring results, it is determined whether or not the temporary problem is the main problem, and when the temporary problem is the main problem, the storage means stores the problem that is the temporary problem. This question setting step for recording a value of 1 or more as a scoring point at the time of the question,
The problem management method characterized by performing.
前記本問題設定ステップでは、前記仮問題を本問題とする場合に、前記記憶手段に、前記仮問題である問題の出題時の配点を、前記本問題配点を参照して記録することを特徴とする請求項5に記載の問題管理方法。 The storage means stores, for each problem, the score assigned at the time of the question and the question score assigned as one or more assigned scores.
In the present problem setting step, when the temporary problem is determined to be the main problem, the score at the time of the question that is the temporary problem is recorded in the storage unit with reference to the main problem score. The problem management method according to claim 5.
前記本問題設定ステップでは、前記仮問題を本問題とする場合に、前記記憶手段に、前記採点結果の統計的分析の結果に応じて、前記仮問題である問題の出題時の配点として、前記本問題配点の所定の割合の配点を記録することを特徴とする請求項5から請求項7のいずれかに記載の問題管理方法。 The storage means stores, for each problem, the score assigned at the time of the question and the question score assigned as one or more assigned scores.
In the main question setting step, when the temporary question is set as the main question, the storage means is assigned with a score at the time of the question as the temporary question according to a result of the statistical analysis of the scoring result. The problem management method according to any one of claims 5 to 7, wherein a score of a predetermined ratio of the problem score is recorded.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011215330A JP2013076754A (en) | 2011-09-29 | 2011-09-29 | Examination device, question management method, program, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011215330A JP2013076754A (en) | 2011-09-29 | 2011-09-29 | Examination device, question management method, program, and recording medium |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013076754A true JP2013076754A (en) | 2013-04-25 |
Family
ID=48480297
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011215330A Pending JP2013076754A (en) | 2011-09-29 | 2011-09-29 | Examination device, question management method, program, and recording medium |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013076754A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015060386A (en) * | 2013-09-18 | 2015-03-30 | ヤフー株式会社 | Intermediary device, intermediary method, and intermediary program |
KR101903910B1 (en) * | 2017-11-14 | 2018-10-02 | 전누리 | Learning Management System and method |
JP2018205354A (en) * | 2017-05-30 | 2018-12-27 | 大日本印刷株式会社 | Learning support device, learning support system, and program |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006093065A1 (en) * | 2005-03-02 | 2006-09-08 | The Japan Institute For Educational Measurement, Inc. | Learning level judging device and learning level judging program |
-
2011
- 2011-09-29 JP JP2011215330A patent/JP2013076754A/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006093065A1 (en) * | 2005-03-02 | 2006-09-08 | The Japan Institute For Educational Measurement, Inc. | Learning level judging device and learning level judging program |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015060386A (en) * | 2013-09-18 | 2015-03-30 | ヤフー株式会社 | Intermediary device, intermediary method, and intermediary program |
JP2018205354A (en) * | 2017-05-30 | 2018-12-27 | 大日本印刷株式会社 | Learning support device, learning support system, and program |
JP7052224B2 (en) | 2017-05-30 | 2022-04-12 | 大日本印刷株式会社 | Learning support device, learning support system and program |
KR101903910B1 (en) * | 2017-11-14 | 2018-10-02 | 전누리 | Learning Management System and method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Bell Jr et al. | Operative experience of residents in US general surgery programs: a gap between expectation and experience | |
US20170287348A1 (en) | Analytics platform | |
US9824603B2 (en) | System for performing assessment without testing | |
US20190266909A1 (en) | Computer-implemented system and method for administering an examination | |
Caves et al. | The impact of high school exit exams on graduation rates and achievement | |
US9870713B1 (en) | Detection of unauthorized information exchange between users | |
US9613540B2 (en) | Examination support apparatus, and examination support method | |
Lindig et al. | Translation and psychometric evaluation of the German version of the Organisational Readiness for Implementing Change measure (ORIC): a cross-sectional study | |
JP2013076754A (en) | Examination device, question management method, program, and recording medium | |
Yu et al. | Trends in successfully matched neurosurgery residency applicants | |
Awad et al. | Reliability and validity of procedure‐based assessments in otolaryngology training | |
Kliewer et al. | Peer review at the American Journal of Roentgenology: how reviewer and manuscript characteristics affected editorial decisions on 196 major papers | |
Garcia et al. | Provider factors predict use of evidence-based psychotherapies in veterans affairs posttraumatic stress disorder specialty programs: The role of profession, theoretical orientation, and training. | |
JP7398813B2 (en) | Detection method, detection system, detection device and computer program | |
JP6276836B1 (en) | Information processing apparatus, information processing method and system | |
Aller et al. | Measuring nursing student development through computer-based simulation activities | |
WO2012127593A1 (en) | Examination implementation support device, examination implementation support method, and storage medium having examination implementation support method program stored thereupon | |
Shulruf et al. | How the admission criteria to a competitive-entry undergraduate programme could be improved | |
KR102685874B1 (en) | Computer adaptive multistage testing device and system | |
JP6831551B2 (en) | Learning support device, program, learning support method, learning support system | |
Marshall et al. | MENTORS'PERCEIVED PROGRAM SUPPORT SCALE: DEVELOPMENT AND INITIAL VALIDATION | |
JP3098403B2 (en) | Appropriate job diagnosis apparatus and method | |
JP2008233537A (en) | Learning system and server device | |
Himelfarb et al. | Examining the validity of chiropractic grade point averages for predicting National Board of Chiropractic Examiners Part I exam scores | |
JP4892703B2 (en) | Grader evaluation apparatus, grader evaluation method, and computer program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140729 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150722 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150728 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20151201 |