JP6254629B2 - 採点補助システム - Google Patents
採点補助システム Download PDFInfo
- Publication number
- JP6254629B2 JP6254629B2 JP2016053992A JP2016053992A JP6254629B2 JP 6254629 B2 JP6254629 B2 JP 6254629B2 JP 2016053992 A JP2016053992 A JP 2016053992A JP 2016053992 A JP2016053992 A JP 2016053992A JP 6254629 B2 JP6254629 B2 JP 6254629B2
- Authority
- JP
- Japan
- Prior art keywords
- answer
- scoring
- unscored
- group
- pattern group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000011156 evaluation Methods 0.000 claims description 106
- 238000012360 testing method Methods 0.000 claims description 51
- 238000000034 method Methods 0.000 claims description 42
- 238000012790 confirmation Methods 0.000 claims description 26
- 238000003058 natural language processing Methods 0.000 claims description 17
- 238000003860 storage Methods 0.000 claims description 16
- 230000006870 function Effects 0.000 claims description 14
- 238000004040 coloring Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 10
- 238000012937 correction Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 8
- 238000007405 data analysis Methods 0.000 description 6
- 230000015572 biosynthetic process Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 238000012015 optical character recognition Methods 0.000 description 3
- 238000003825 pressing Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004720 fertilization Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Landscapes
- Electrically Operated Instructional Devices (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
本発明は、採点補助システムに係り、特に記述式の問題に対する解答の採点を補助する採点補助システムに関する。
従来、記述解答式の試験において、採点者が採点を行うことが必要とされる記述式の試験の解答の採点支援装置が知られている(特許文献1、2参照)。特許文献1に記載の採点支援装置では、同じ問題に対する複数の生徒の解答が連続して採点され、同一の解答情報を有する生徒が一つの群にまとめられ、この群に対して採点評価情報が付加される。また類似した解答を有する他の生徒の答案の採点処理適用フラグをチェックすることにより、類似した解答を有する生徒の採点評価情報を類似した解答を有する他の生徒の採点評価情報に送ることができることが知られている。
また、特許文献2記載の採点支援装置では、記述式の試験問題の解答データに対し、類似する採点済解答データの内容、評価及びコメントが表示され、その表示された評価及びコメント(評価情報)を採点者が選択することにより、その評価情報を、採点中の解答データの採点情報として採用することができる。
ここで、記述式の試験では、採点の正確性及び公平性を担保するため、自動採点によらず、採点者が、全ての解答を採点する必要がある。そして、受験者数が数千人から数万人、数十万人、数百万人の大規模な試験においては、採点者の採点の負荷も大変大きなものとなるため、採点の負荷を軽減し多数の解答を正確且つ効率的に採点可能とする支援が必要となる。
しかしながら、数十万人から数百万人が受験するような大規模な試験には、以下に述べるように、上述のような従来の採点支援装置を使用することができないという問題があった。
しかしながら、数十万人から数百万人が受験するような大規模な試験には、以下に述べるように、上述のような従来の採点支援装置を使用することができないという問題があった。
特許文献1記載の採点支援装置では、それぞれの生徒又は生徒の群を選択した後に表示される解答情報表示欄の情報に基づいて、採点者が採点評価情報を付加するようになっている。従って、採点対象の生徒が数十程度の比較的少数の場合において、採点者が類似の解答内容の生徒が他にあることを認識できる場合には、類似の回答内容の生徒の採点評価情報を利用することができるが、生徒数(受験者数)が数千人から数十万人、数百万人になれば、類似の回答内容の生徒を探すことすら困難となり、多数の生徒の解答を効率的に採点することができないという問題が生じる。
また、特許文献2記載の採点支援装置では、採点中の解答データに対し、類似する採点済解答データの内容、評価及びコメントが表示されるので、採点中の解答データに付加すべき採点情報の参考とすることができるが、一つ一つ全ての解答データに対し、採点情報を付加することとなり、受験者数が数千人から数万人、数十万人、数百万人になれば、その人数分だけ採点を行うという手間が生じる。仮に、特許文献1のように、同じ解答データの群をまとめて採点できるようにしたとしても、その群を順番に一つ一つ採点していく点には変わりが無く、且つ解答内容も群ごとにばらばらであるため採点情報の検討及び付加に時間がかかるため、多数の生徒の答案を効率的に採点することはできない。
そこで、本発明は、大規模に行われる記述式の試験において、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる採点補助システムを提供することを目的としている。
上記の目的を達成するために、本発明は、記述式の試験問題に対する、単語又は文節を含む記述式の解答の手動の採点を補助する採点補助システムであって、未だ採点されていない未採点解答データ及び採点により採点情報の付加された採点済解答データを記憶する記憶装置と、採点を行うために少なくとも未採点解答データの解答内容を表示する表示部と、採点する操作を行うための操作部と、記憶装置に記憶された複数の未採点解答データを、同一の解答内容ごとに分類して、各解答内容の未採点解答データを各々有する複数の未採点解答パタン群を作成する未採点解答群形成手段と、複数の未採点解答パタン群からなる採点用群リストを、それぞれの未採点解答パタン群の解答内容の比較のために、それぞれの未採点解答パタン群の解答内容を採点者に示すように、表示部上に表示させる未採点解答群リスト形成手段であって、未採点解答群リスト形成手段は、自然言語処理の技術に基づいて、基準となる基準解答内容に対する、未採点解答パタン群の解答内容の類似度を判断し、類似度の高い順に前記採点用群リストの未採点解答パタン群を並べた採点用群リストを、表示部に表示させる未採点解答パタン群並べ機能を有する未採点解答群リスト形成手段と、表示部に表示されている採点用群リスト上の複数の未採点解答パタン群のうち、操作部による範囲選択操作により選択された未採点解答パタン群を、同一の採点情報を付加可能な状態に設定する未採点解答パタン群範囲選択手段と、選択された未採点解答パタン群に対し、操作部の採点情報設定操作により設定された採点情報を一括して付加して、選択された未採点解答パタン群を採点済解答パタン群に変更する採点済解答パタン群形成手段と、操作部による検索キーワード設定操作により設定された検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群を並べた採点用群リストを表示部に表示させる未採点解答パタン群検索リスト形成手段と、未採点解答群リスト形成手段の未採点解答パタン群並べ機能により類似度の高い順に未採点解答パタン群を並べた採点用群リスト上で採点を行う第1採点モードと、未採点解答パタン群検索リスト形成手段により未採点解答パタン群を並べた採点用群リスト上で採点を行う第2採点モードとを、切替えることができ、且つ、第1採点モード及び第2採点モードのいずれにおいても、同じ試験問題に対する未採点解答パタン群に対して、採点情報を付加することができるモード切替手段とを有していることを特徴としている。
このように構成された本発明によれば、未採点解答群形成手段が記憶装置に記憶された複数の未採点解答データを、同一の解答内容ごとに分類することにより、各解答内容の未採点解答データを各々有する複数の未採点解答パタン群を作成し、さらに、未採点解答群リスト形成手段が複数の未採点解答パタン群からなる採点用群リストを、それぞれの未採点解答パタン群の解答内容の比較のために、それぞれの未採点解答パタン群の解答内容を採点者に示すように、表示部上に表示させる。
さらに、未採点解答群リスト形成手段が、自然言語処理の技術に基づいて、基準となる基準解答内容に対する、未採点解答パタン群の解答内容の類似度を判断し、類似度の高い順に採点用群リストの未採点解答パタン群を並べた採点用群リストを、表示部に表示させる機能を有する。
さらに、未採点解答パタン群範囲選択手段が表示部に表示されている採点用群リスト上の複数の未採点解答パタン群のうち、操作部による範囲選択操作により選択された未採点解答パタン群を、同一の採点情報を付加可能な状態に設定することができる。
さらに、採点済解答パタン群形成手段が選択された未採点解答パタン群に対し、操作部の採点情報設定操作により設定された採点情報を一括して付加して、選択された未採点解答パタン群を採点済解答パタン群に変更することができる。
従って、同一の解答内容を有する未採点解答データを各々有する未採点解答パタン群をそれぞれの未採点解答パタン群の解答内容の比較のために、それぞれの未採点解答パタン群の解答内容を表示部上に表示させ、且つ基準解答内容に対する未採点解答パタン群の解答内容の類似度を判断し、同様の採点情報が付加される可能性の高い類似している複数の未採点解答パタン群を比較的近くの位置に並べた前記採点用群リストを表示させる。よって、採点用群リスト上において上述のように表示された複数の未採点解答パタン群のうち操作部による範囲選択操作により選択された未採点解答パタン群に採点情報を一括して付加することができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
さらに、未採点解答パタン群検索リスト形成手段が、操作部による検索キーワード設定操作により設定された検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群を並べた採点用群リストを表示部に表示させることができる。従って、未採点解答パタン群をそれぞれの解答内容の全部の語句が見える状態で表示部に並べて表示させ、且つ同様の採点情報が付加される可能性の高い検索キーワードを含む及び/又は含まない等の複数の未採点解答パタン群に採点情報を一括して付加することができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
さらに、モード切替手段は、第1採点モード及び第2採点モードのいずれにおいても、同じ試験問題に対する未採点解答パタン群に対して、採点情報を付加することができる。よって、例えば、特定の基準解答内容に類似している未採点解答パタン群が多く存在することにより第1採点モードにより効率的に採点ができる場合や、特定の未採点解答パタン群が多く存在することにより第2採点モードにより効率的に採点ができる場合等、いずれかの採点モードによればより効率的に採点ができる場合においては、同じ試験問題に対する未採点解答パタン群の全部のうち、未採点解答パタン群の解答内容に応じて、より採点がしやすいモードにおいて効率的に採点を行うことができる。
このように構成された本発明によれば、未採点解答群形成手段が記憶装置に記憶された複数の未採点解答データを、同一の解答内容ごとに分類することにより、各解答内容の未採点解答データを各々有する複数の未採点解答パタン群を作成し、さらに、未採点解答群リスト形成手段が複数の未採点解答パタン群からなる採点用群リストを、それぞれの未採点解答パタン群の解答内容の比較のために、それぞれの未採点解答パタン群の解答内容を採点者に示すように、表示部上に表示させる。
さらに、未採点解答群リスト形成手段が、自然言語処理の技術に基づいて、基準となる基準解答内容に対する、未採点解答パタン群の解答内容の類似度を判断し、類似度の高い順に採点用群リストの未採点解答パタン群を並べた採点用群リストを、表示部に表示させる機能を有する。
さらに、未採点解答パタン群範囲選択手段が表示部に表示されている採点用群リスト上の複数の未採点解答パタン群のうち、操作部による範囲選択操作により選択された未採点解答パタン群を、同一の採点情報を付加可能な状態に設定することができる。
さらに、採点済解答パタン群形成手段が選択された未採点解答パタン群に対し、操作部の採点情報設定操作により設定された採点情報を一括して付加して、選択された未採点解答パタン群を採点済解答パタン群に変更することができる。
従って、同一の解答内容を有する未採点解答データを各々有する未採点解答パタン群をそれぞれの未採点解答パタン群の解答内容の比較のために、それぞれの未採点解答パタン群の解答内容を表示部上に表示させ、且つ基準解答内容に対する未採点解答パタン群の解答内容の類似度を判断し、同様の採点情報が付加される可能性の高い類似している複数の未採点解答パタン群を比較的近くの位置に並べた前記採点用群リストを表示させる。よって、採点用群リスト上において上述のように表示された複数の未採点解答パタン群のうち操作部による範囲選択操作により選択された未採点解答パタン群に採点情報を一括して付加することができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
さらに、未採点解答パタン群検索リスト形成手段が、操作部による検索キーワード設定操作により設定された検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群を並べた採点用群リストを表示部に表示させることができる。従って、未採点解答パタン群をそれぞれの解答内容の全部の語句が見える状態で表示部に並べて表示させ、且つ同様の採点情報が付加される可能性の高い検索キーワードを含む及び/又は含まない等の複数の未採点解答パタン群に採点情報を一括して付加することができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
さらに、モード切替手段は、第1採点モード及び第2採点モードのいずれにおいても、同じ試験問題に対する未採点解答パタン群に対して、採点情報を付加することができる。よって、例えば、特定の基準解答内容に類似している未採点解答パタン群が多く存在することにより第1採点モードにより効率的に採点ができる場合や、特定の未採点解答パタン群が多く存在することにより第2採点モードにより効率的に採点ができる場合等、いずれかの採点モードによればより効率的に採点ができる場合においては、同じ試験問題に対する未採点解答パタン群の全部のうち、未採点解答パタン群の解答内容に応じて、より採点がしやすいモードにおいて効率的に採点を行うことができる。
本発明において、好ましくは、さらに、採点用群リストにおいて、表示部に表示する未採点解答パタン群の数を所定の数に設定する表示制限手段を有する。
このように構成された本発明によれば、表示制限手段が、採点用群リストにおいて、表示部に表示する未採点解答パタン群の数を所定の数に制限することができるので、それぞれの未採点解答パタン群の解答内容の比較のためにそれぞれの未採点解答パタン群の解答内容を表示部上に表示させる処理負荷を低減しながら、効率的に採点を行うことができる。さらに、類似する解答内容を有する未採点解答パタン群が多く存在する場合等には、一度に表示部に表示する未採点解答パタン群の数を増大させることにより、同様の採点情報が付加される可能性の高い未採点解答パタン群を多く表示させることができるため、一括して採点情報を付加する未採点解答パタン群の数を増大させることができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、大量の解答を効率的に採点することを可能にする。
このように構成された本発明によれば、表示制限手段が、採点用群リストにおいて、表示部に表示する未採点解答パタン群の数を所定の数に制限することができるので、それぞれの未採点解答パタン群の解答内容の比較のためにそれぞれの未採点解答パタン群の解答内容を表示部上に表示させる処理負荷を低減しながら、効率的に採点を行うことができる。さらに、類似する解答内容を有する未採点解答パタン群が多く存在する場合等には、一度に表示部に表示する未採点解答パタン群の数を増大させることにより、同様の採点情報が付加される可能性の高い未採点解答パタン群を多く表示させることができるため、一括して採点情報を付加する未採点解答パタン群の数を増大させることができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、大量の解答を効率的に採点することを可能にする。
本発明において、好ましくは、さらに、採点用群リストにおいて、基準解答内容に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示する色付表示手段を有する。
このように構成された本発明によれば、色付表示手段が、採点用群リストにおいて、基準解答内容に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示することができる。採点用群リストにおいて、基準解答内容に含まれる語句と対応しない語句及び/又はその語句の背景を色付けして表示させることにより、採点者が基準解答内容の語句との一致及び相違を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
このように構成された本発明によれば、色付表示手段が、採点用群リストにおいて、基準解答内容に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示することができる。採点用群リストにおいて、基準解答内容に含まれる語句と対応しない語句及び/又はその語句の背景を色付けして表示させることにより、採点者が基準解答内容の語句との一致及び相違を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
本発明において、好ましくは、さらに、ある採点用群リストが作成された状態から、所定の指標に基づいて、採点用群リストの内容を調整する採点用群リスト調整手段を有する。
このように構成された本発明によれば、採点用群リスト調整手段は、ある採点用群リストが作成された状態から、所定の指標に基づいて、採点用群リストの内容を調整する。従って、未採点解答パタン群を並べて表示させたある採点用群リストを、所定の指標に基づいて調整した内容の新たな採点用群リストに調整することができ、新たな採点用群リストにおいて、同様の採点情報が付加される可能性の高い複数の未採点解答パタン群を順に並べるように調整し、且つ一括して選択して採点することができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
このように構成された本発明によれば、採点用群リスト調整手段は、ある採点用群リストが作成された状態から、所定の指標に基づいて、採点用群リストの内容を調整する。従って、未採点解答パタン群を並べて表示させたある採点用群リストを、所定の指標に基づいて調整した内容の新たな採点用群リストに調整することができ、新たな採点用群リストにおいて、同様の採点情報が付加される可能性の高い複数の未採点解答パタン群を順に並べるように調整し、且つ一括して選択して採点することができ、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
本発明において、好ましくは、記憶装置は、同じ試験問題に対する未採点解答パタン群に対して独立して別に採点を行う他の採点者が、同じ各々の未採点解答パタン群に対して採点した別採点者採点済解答パタン群に付加されている別採点者採点情報を記憶し、採点補助システムは、さらに、未採点解答パタン群に対して採点した採点済解答パタン群に付加されている採点情報と、別採点者採点情報と、を比較し、両者の採点情報が一致した採点済解答パタン群を、評価確定済解答パタン群として決定する、評価確定手段を有する。
このように構成された本発明によれば、評価確定手段が未採点解答パタン群に対して採点した採点済解答パタン群に付加されている採点情報と、別採点者採点情報と、を比較し、両者の採点情報が一致した採点済解答パタン群を、評価が確定され且つ解答内容に対して信頼性の高い採点情報が付されている評価確定済解答パタン群として決定することができる。従って、評価確定済解答パタン群は、信頼性の高い採点情報が付されている状態となる。また、例えば、信頼性の高い採点情報が付されている評価確定済解答パタン群の採点済解答パタン群を、採点情報予測手段によって利用することも可能となり、大量の解答を正確に採点することが可能となる。
このように構成された本発明によれば、評価確定手段が未採点解答パタン群に対して採点した採点済解答パタン群に付加されている採点情報と、別採点者採点情報と、を比較し、両者の採点情報が一致した採点済解答パタン群を、評価が確定され且つ解答内容に対して信頼性の高い採点情報が付されている評価確定済解答パタン群として決定することができる。従って、評価確定済解答パタン群は、信頼性の高い採点情報が付されている状態となる。また、例えば、信頼性の高い採点情報が付されている評価確定済解答パタン群の採点済解答パタン群を、採点情報予測手段によって利用することも可能となり、大量の解答を正確に採点することが可能となる。
本発明において、好ましくは、さらに、採点済解答パタン群の解答内容と、採点用群リスト上の未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、採点用群リスト上の未採点解答パタン群に対して表示させる採点情報予測手段を備える。
このように構成された本発明によれば、採点情報予測手段が採点済解答パタン群の解答内容と、採点用群リスト上の未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、採点用群リスト上の未採点解答パタン群に対して表示させる。未採点解答パタン群に対し、同様の採点情報が付加される可能性の高い類似している採点済解答パタン群から予測される採点情報の予測結果を採点用群リスト上の未採点解答パタン群に対して表示させることができるので、採点者が未採点解答パタン群に対して予測される採点情報の予測結果を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点済解答パタン群を、評価確定済解答パタン群として決定している場合には、信頼性の高い採点情報が付されている評価確定済解答パタン群の採点済解答パタン群と、同様の採点情報が付加される可能性の高い類似している未採点解答パタン群に対して予測される採点情報の予測結果を採点用群リストに表示させることができるので、採点者が未採点解答パタン群に対して予測される採点情報の予測結果をより参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
このように構成された本発明によれば、採点情報予測手段が採点済解答パタン群の解答内容と、採点用群リスト上の未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、採点用群リスト上の未採点解答パタン群に対して表示させる。未採点解答パタン群に対し、同様の採点情報が付加される可能性の高い類似している採点済解答パタン群から予測される採点情報の予測結果を採点用群リスト上の未採点解答パタン群に対して表示させることができるので、採点者が未採点解答パタン群に対して予測される採点情報の予測結果を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点済解答パタン群を、評価確定済解答パタン群として決定している場合には、信頼性の高い採点情報が付されている評価確定済解答パタン群の採点済解答パタン群と、同様の採点情報が付加される可能性の高い類似している未採点解答パタン群に対して予測される採点情報の予測結果を採点用群リストに表示させることができるので、採点者が未採点解答パタン群に対して予測される採点情報の予測結果をより参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
本発明において、好ましくは、採点情報予測手段は、予測される採点情報の予測結果を、採点情報の分類に応じて色分けして表示部に表示させる採点情報予測色分け手段を備える。
このように構成された本発明によれば、採点情報予測色分け手段が、予測される採点情報の予測結果を、採点情報の分類に応じて色分けして表示部に表示させることができる。従って、採点者が付加すべき採点情報の予測結果の分類を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
このように構成された本発明によれば、採点情報予測色分け手段が、予測される採点情報の予測結果を、採点情報の分類に応じて色分けして表示部に表示させることができる。従って、採点者が付加すべき採点情報の予測結果の分類を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
本発明において、好ましくは、採点情報予測手段は、所定の語句と、採点用群リスト上の未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、採点用群リスト上の未採点解答パタン群に対して表示させる早期採点情報予測手段を備える。
このように構成された本発明によれば、早期採点情報予測手段は、採点の早期の段階から、所定の語句と、採点用群リスト上の未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、前記採点用群リスト上の未採点解答パタン群に対して表示させることができるので、採点者が採点の早期の段階から未採点解答パタン群に対して予測される採点情報を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
このように構成された本発明によれば、早期採点情報予測手段は、採点の早期の段階から、所定の語句と、採点用群リスト上の未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、前記採点用群リスト上の未採点解答パタン群に対して表示させることができるので、採点者が採点の早期の段階から未採点解答パタン群に対して予測される採点情報を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
本発明の採点補助システムによれば、多数の受験者が受験する試験により生じる大量の記述式の解答に対して、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することができる。
まず、図1を用いて、本発明の一実施形態による採点補助システムを説明する。図1は、本発明の一実施形態による採点補助システムの構成を示すブロック図である。
採点補助システム1は、記述式の試験問題に対する、単語又は文節を含む記述式の解答について、採点者による手動の採点を補助する手動採点補助システムである。試験の受験者は語句等により自由な記載として記述式の解答を作成する。本実施形態の採点補助システム1は、採点者が全答案の採点を行うことにより正確に採点することを補助する。本実施形態の採点補助システム1は、小規模から大規模までの記述式の試験に適用可能であり、例えば数十人〜数百万人の受験者数、例えば百人〜百万人の受験者数、一万人〜百万人の受験者数等の多数の受験者が同時に受験するような記述式の試験に適用可能である。例えば、多数の受験者の範囲は、数百人〜数百万人の受験者、より好ましくは数千人〜数百万人の受験者、さらに好ましくは数万人〜数百万人の受験者とされる。なお、大規模に行われる試験には、各試験会場において小規模及び/又は中規模の受験者数の試験が行われ、全体として多数の受験者が受験するタイプの大規模試験が含まれる。また、大規模に行われる試験には、小規模及び/又は中規模の受験者数の試験が、同日又は別日に複数回にわたって実施され、全体として多数の受験者が受験する分割実施タイプの大規模試験も含まれる。
採点補助システム1は、ネットワーク6上に設けられるサーバー側コンピュータ2と、サーバー側コンピュータ2とネットワーク6を介して相互に接続されている1つ又は複数のクライアント側コンピュータ4とを備えている。本実施形態においては、サーバー側コンピュータ2と、クライアント側コンピュータ4とはネットワーク6を介して接続されているが、他の実施形態においてはサーバー側コンピュータ2と、クライアント側コンピュータ4とが一つのコンピュータによって統合されて採点補助システムを構成していてもよい。
サーバー側コンピュータ2は、本実施形態においてはサーバーであるが、サーバーの機能を有するパーソナルコンピュータ、タブレット端末等であってもよい。
サーバー側コンピュータ2は、各種の処理動作を実施及び制御するCPU(図示せず)と、半導体メモリ等のメモリ(図示せず)と、モニター等の表示部(図示せず)と、キーボード、マウス等の各処理のために必要な入力操作を行う操作部(図示せず)と、記憶装置8と、を有している。
サーバー側コンピュータ2は、各種の処理動作を実施及び制御するCPU(図示せず)と、半導体メモリ等のメモリ(図示せず)と、モニター等の表示部(図示せず)と、キーボード、マウス等の各処理のために必要な入力操作を行う操作部(図示せず)と、記憶装置8と、を有している。
図1及び図2に示すように、記憶装置8は、解答データを記憶している。解答データには、未だ採点情報が付加されていない未採点解答データ14及び採点情報48の付加された採点済解答データ16が含まれる。
記憶装置8はハードディスク等の記憶装置である。なお、採点情報48とは、受験者の解答内容が正解(正答)であるか、不正解(誤答)であるか、部分的に正解しているかを採点者が判断し、これらの解答に対して決定される採点結果の情報である。より具体的には、採点情報48は、「○」、「×」、「△」等の段階評価の他、0点〜10点等の点数等の数値評価により与えられる。採点情報48を付加するとは、未採点解答パタン群18に対しこれらの評価を行い、評価情報を未採点解答パタン群18に紐づけることをいう。
記憶装置8はハードディスク等の記憶装置である。なお、採点情報48とは、受験者の解答内容が正解(正答)であるか、不正解(誤答)であるか、部分的に正解しているかを採点者が判断し、これらの解答に対して決定される採点結果の情報である。より具体的には、採点情報48は、「○」、「×」、「△」等の段階評価の他、0点〜10点等の点数等の数値評価により与えられる。採点情報48を付加するとは、未採点解答パタン群18に対しこれらの評価を行い、評価情報を未採点解答パタン群18に紐づけることをいう。
サーバー側コンピュータ2は、記憶装置8に記憶された複数の未採点解答データ14を、同一の解答内容ごとに分類して、各解答内容の未採点解答データを各々有する複数の未採点解答パタン群18を作成する未採点解答群形成部(未採点解答群形成手段)20を有している。
また、サーバー側コンピュータ2は、仮評価確定部(仮評価確定手段)75と、評価確定部(評価確定手段)76と、採点情報予測部(採点情報予測手段)78と、を備える。
仮評価確定部(仮評価確定手段)75は、ある採点者が採点済解答パタン群31に付加した採点情報48と、別の採点者が同じ未採点解答パタン群18の採点を行って作成した別採点者採点済解答パタン群72に付加した別採点者採点情報74とを比較する処理を省略し、ある採点者が採点済解答パタン群31に付加した採点情報48を、仮の評価として決定し、仮評価の採点情報48が付されている仮評価確定済解答パタン群71として決定する。
仮評価確定部(仮評価確定手段)75は、ある採点者が採点済解答パタン群31に付加した採点情報48と、別の採点者が同じ未採点解答パタン群18の採点を行って作成した別採点者採点済解答パタン群72に付加した別採点者採点情報74とを比較する処理を省略し、ある採点者が採点済解答パタン群31に付加した採点情報48を、仮の評価として決定し、仮評価の採点情報48が付されている仮評価確定済解答パタン群71として決定する。
評価確定部(評価確定手段)76は、未採点解答パタン群18に対して採点した採点済解答パタン群31に付加されている採点情報48と、別採点者採点情報74と、を比較し、両者の採点情報が一致した採点済解答パタン群31を、評価確定済解答パタン群70として決定する。
採点情報予測部(採点情報予測手段)78は、仮評価確定済解答パタン群71又は評価確定済解答パタン群70の採点済解答パタン群31と、未採点解答パタン群18との類似度を判断することによる付加すべき採点情報48の予測結果80を、採点用群リスト22及び/又は検索モード採点用群リスト52に表示させる。
さらに、採点情報予測部78は、付加すべき採点情報の予測結果80を、採点情報48の正誤等の分類に応じて色分けして採点用群リスト22に表示させる採点情報予測色分け部(採点情報予測色分け手段)82と、採点開始前又は採点開始初期に、予め決定された解答語句(例えば、複数の模範解答又は代表的不正解解答)を、採点済解答パタン群31として設定することができ且つ、採点解答パタン群18との類似度を判断することにより予測される採点情報48の予測結果を、採点用群リスト22に表示させる早期採点情報予測部(早期採点情報予測手段)84とを備える。
クライアント側コンピュータ4は、本実施形態においてはパーソナルコンピュータであるが、タブレット端末、携帯端末等であってもよい。クライアント側コンピュータ4は、各種の処理動作を実施及び制御するCPU(図示せず)と、半導体メモリ等のメモリ(図示せず)と、ハードディスク等のクライアント側記憶装置(図示せず)と、モニター、タブレット画面等の採点者が採点を行うための解答内容を表示する表示部10と、キーボード、マウス、タッチペン、タッチパネル等の採点者が採点する操作を行うための操作部12と、を有している。
表示部10は、クライアント側コンピュータ4の処理内容、及び、ネットワーク6を介して受け取ったサーバー側コンピュータ2の処理内容を表示することができる。表示部10は、後述する図3乃至図5に示すような画面により、採点者に採点を行うために少なくとも未採点解答データの解答内容を表示する。
表示部10に表示された内容に対する操作部12からの入力信号及び/又はCPU等の制御信号に基づいて、クライアント側コンピュータ4及び/又はサーバー側コンピュータ2において採点に必要な所定のプログラムが実行され採点処理が行われる。
クライアント側コンピュータ4は、未採点解答群リスト形成部(未採点解答群リスト形成手段)26と、未採点解答パタン群並べ機能部(未採点解答パタン群並べ機能)28と、未採点解答パタン群範囲選択部(未採点解答パタン群範囲選択手段)30と、採点済解答パタン群形成部(採点済解答パタン群形成手段)32と、を有している。
未採点解答群リスト形成部(未採点解答群リスト形成手段)26は、複数の未採点解答パタン群18からなる採点用群リスト22を、それぞれの未採点解答パタン群18の解答内容の比較のために、それぞれの未採点解答パタン群18の解答内容を採点者に示すように、それぞれの解答内容の全部の語句が見える状態で、表示部上に並べて表示する。
未採点解答群リスト形成部26は、未採点解答パタン群並べ機能部28を有している。
未採点解答パタン群並べ機能部28は、採点用群リスト22において、基準として設定される及び/又は選択される基準解答内容24に対して、自然言語処理の技術に基づいて、未採点解答パタン群の解答内容の類似度を判断し、類似度が高い順に、採点用群リスト22の未採点解答パタン群18を並べた採点用群リスト22を、表示部10に表示させる。
また、未採点解答パタン群範囲選択部(未採点解答パタン群範囲選択手段)30は、それぞれの未採点解答パタン群がこれらの解答内容の全部の語句が見える状態で配置され、且つそれぞれの未採点解答パタン群の採点をまとめて行うことができるようになっている採点用群リスト上で並べられた複数の未採点解答パタン群を、範囲選択操作によりまとめて選択した状態とし、この選択された状態の未採点解答パタン群を、同一の採点情報を付加可能な状態に設定することができる。
採点済解答パタン群形成部(採点済解答パタン群形成手段)32は、選択された未採点解答パタン群に対し、操作部の採点情報設定操作により設定された採点情報を一括して付加して、選択された未採点解答パタン群を採点済解答パタン群31に変更する。このとき及び/又は以後の任意のタイミングにおいて、採点情報の付加された採点済解答パタン群31に対応する未採点解答データの各々を、同じ前記採点情報が付加した採点済解答データ16に変更する。
未採点解答パタン群並べ機能部28は、採点用群リスト22において、基準として設定される及び/又は選択される基準解答内容24に対して、自然言語処理の技術に基づいて、未採点解答パタン群の解答内容の類似度を判断し、類似度が高い順に、採点用群リスト22の未採点解答パタン群18を並べた採点用群リスト22を、表示部10に表示させる。
また、未採点解答パタン群範囲選択部(未採点解答パタン群範囲選択手段)30は、それぞれの未採点解答パタン群がこれらの解答内容の全部の語句が見える状態で配置され、且つそれぞれの未採点解答パタン群の採点をまとめて行うことができるようになっている採点用群リスト上で並べられた複数の未採点解答パタン群を、範囲選択操作によりまとめて選択した状態とし、この選択された状態の未採点解答パタン群を、同一の採点情報を付加可能な状態に設定することができる。
採点済解答パタン群形成部(採点済解答パタン群形成手段)32は、選択された未採点解答パタン群に対し、操作部の採点情報設定操作により設定された採点情報を一括して付加して、選択された未採点解答パタン群を採点済解答パタン群31に変更する。このとき及び/又は以後の任意のタイミングにおいて、採点情報の付加された採点済解答パタン群31に対応する未採点解答データの各々を、同じ前記採点情報が付加した採点済解答データ16に変更する。
クライアント側コンピュータ4は、さらに、未採点解答パタン群検索リスト形成部(未採点解答パタン群検索リスト形成手段)34と、表示数制限部(表示制限手段)36と、色付表示部(色付表示手段)37と、採点用群リスト調整部(採点用群リスト調整手段)38と、モード切替部(モード切替手段)54と、を有している。
未採点解答パタン群検索リスト形成部(未採点解答パタン群検索リスト形成手段)34は、操作部12のキーボード等による検索キーワード設定操作により設定された所定の検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群18を並べた検索モード採点用群リスト(採点用群リスト)52を表示部10に表示させる。検索キーワード設定操作は、例えば、採点者が、操作部12のキーボード等により、検索キーワードを打ち込む、及び/又は操作部12のマウス等により、検索キーワードを選択する、コピーする等して検索キーワード欄50にキーワードを入力することを含む。
所定の検索条件は、例えば、検索キーワードを含む(AND検索)、検索キーワードを含まない(NOT検索)、いずれかの検索キーワードを含む(OR検索)等、自由に選択することができる。未採点解答パタン群検索リスト形成部34において、複数の検索キーワードを、一般的に知られている検索式等の方法により設定し、検索することもできる。
所定の検索条件は、例えば、検索キーワードを含む(AND検索)、検索キーワードを含まない(NOT検索)、いずれかの検索キーワードを含む(OR検索)等、自由に選択することができる。未採点解答パタン群検索リスト形成部34において、複数の検索キーワードを、一般的に知られている検索式等の方法により設定し、検索することもできる。
表示数制限部(表示制限手段)36は、採点用群リスト22において、一度に表示部10に表示する未採点解答パタン群18の数を所定の数に制限する。
色付表示部(色付表示手段)37は、採点用群リスト22において、基準解答内容24に含まれる語句と対応しない語句及び/又はその語句の背景を、周りの背景とは異なる色(例えば黄色などの蛍光色)に色付けして表示する。
色付表示部(色付表示手段)37は、採点用群リスト22において、基準解答内容24に含まれる語句と対応しない語句及び/又はその語句の背景を、周りの背景とは異なる色(例えば黄色などの蛍光色)に色付けして表示する。
採点用群リスト調整部(採点用群リスト調整手段)38は、ある採点用群リスト22が作成された状態から、所定の指標に基づいて、未採点解答パタン群18を並べ替える及び/又は採点用群リスト22の内容を再調整又は変更する。
モード切替部(モード切替手段)54は、付加された採点情報48の確認や修正をおこなうことができる採点済解答パタン群検索リスト形成部58と、未採点解答群リスト形成部26の未採点解答パタン群並べ機能部28により類似度の高い順に未採点解答パタン群18を並べた採点用群リスト22上で採点を行う第1採点モード42と、未採点解答パタン群検索リスト形成部34により検索キーワードに対して検索された未採点解答パタン群18を並べた採点用群リスト22上で採点を行う第2採点モード44とを、切替える。
モード切替部(モード切替手段)54は、付加された採点情報48の確認や修正をおこなうことができる採点済解答パタン群検索リスト形成部58と、未採点解答群リスト形成部26の未採点解答パタン群並べ機能部28により類似度の高い順に未採点解答パタン群18を並べた採点用群リスト22上で採点を行う第1採点モード42と、未採点解答パタン群検索リスト形成部34により検索キーワードに対して検索された未採点解答パタン群18を並べた採点用群リスト22上で採点を行う第2採点モード44とを、切替える。
本実施形態においては、サーバー側コンピュータ2は、未採点解答群形成部20、仮評価確定部75、評価確定部76、採点情報予測部78、採点情報予測色分け部82等を有し、クライアント側コンピュータ4は、未採点解答群リスト形成部26と、未採点解答パタン群並べ部28と、未採点解答パタン群範囲選択部30と、採点済解答パタン群形成部32と、未採点解答パタン群検索リスト形成部34と、表示数制限部36と、色付表示部37と、採点用群リスト調整部38等を有しているが、各機能部は、サーバー側コンピュータ2又はクライアント側コンピュータ4のいずれに配置されていてもよい。例えば、サーバー側コンピュータ2が全ての機能部を有していてもよく、又はクライアント側コンピュータ4が全ての機能部を有していてもよい。また、サーバー側コンピュータ2及びクライアント側コンピュータ4の両方が同じ機能部をともに有していてもよい。
未採点解答パタン群検索リスト形成部34は、採点者が決定する所定の検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群18を検索し、且つこの未採点解答パタン群18を並べて表示した検索モード採点用群リスト52を作成する。例えば、図4においては、特定の検索キーワードを含む未採点解答パタン群18を並べて表示した検索モード採点用群リスト52が作成されている。
未採点解答パタン群検索リスト形成部34は、所定の検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群18とこの未採点解答パタン群18と類似する未採点解答パタン群18の少なくとも一部の未採点解答パタン群18との両方の未採点解答パタン群18、を並べて表示した採点用群リスト22を作成してもよい。
未採点解答パタン群検索リスト形成部34は、所定の検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群18とこの未採点解答パタン群18と類似する未採点解答パタン群18の少なくとも一部の未採点解答パタン群18との両方の未採点解答パタン群18、を並べて表示した採点用群リスト22を作成してもよい。
つぎに、図1〜図5を参照して、本発明の一実施形態による採点補助システムの動作(作用)について説明する。
図3は本発明の一実施形態による採点補助システムの第1採点モードの採点画面の例を示す図であり、図4は本発明の一実施形態による採点補助システムの第2採点モードの採点画面の例を示す図であり、図5は本発明の一実施形態による採点補助システムの修正モードの画面の例を示す図である。
図3は本発明の一実施形態による採点補助システムの第1採点モードの採点画面の例を示す図であり、図4は本発明の一実施形態による採点補助システムの第2採点モードの採点画面の例を示す図であり、図5は本発明の一実施形態による採点補助システムの修正モードの画面の例を示す図である。
まず、図2に示すような、複数の記述解答データ(未採点解答データ14)は、同じ試験問題に対し、複数の受験生が解答した複数の記述解答データである。採点の対象となる記述解答データは、電子的な情報、すなわちテキストデータである。記述解答データは、受験生の紙面上での解答を基に受験生と異なる第三者が各受験生の解答と同一内容の解答の文字や数字等をキーボード等によって入力したものである。記述解答データは、受験生の紙面上での解答を基にOCR(光学的文字読取装置)等を使用して、テキストデータとして作成されていてもよい。なお、OCRによって作成されたテキストデータが、受験者による手書きの解答の内容と完全に一致しない場合であっても、本採点システム上で採点することができるようになっている。例えば、第1採点モード42及び第2採点モード44上に後述する原答案画像表示ボタンを設けることにより、必要に応じて受験者の作成した答案の原本の画像を確認でき、正確に採点を行うことができる。また、記述解答データは、受験生が試験場で試験を受ける際に、自身でキーボード等によってパソコン上で入力したテキストデータ又はそのコピーの同一内容のテキストデータ等であってもよい。すなわち、記述解答データは、記述式の問題に対する各受験生の解答内容を示すデータとなっている。
ステップS0においては、複数の記述解答データ(未採点解答データ14)が、準備される。複数の記述解答データ(未採点解答データ14)は、サーバー側コンピュータ2の記憶装置8上に記憶される。記述解答データは、未だ採点情報の付加されていない未採点解答データの状態となっている。各記述解答データ、すなわち未採点解答データ14には、各受験生の受験番号等の固有識別情報が付されている。
ステップS1に示すように、複数の記述解答データは、サーバー側コンピュータ2上において、完全に同一の解答内容を有する未採点解答データごとの未採点解答パタン群18に分類される。なお、各記述解答データは、同じ未採点解答パタン群18に分類される場合においても、個々の受験生の異なる記述解答データとして個別に管理される。別の観点によれば、未採点解答データ14は、それぞれ未採点解答パタン群18に紐つけられている。未採点解答パタン群18も、未採点解答パタン群18に属する未採点解答データ14の解答内容と同一の解答内容を有する個別の中間的なデータとして個別に管理される。
ステップS1に示すように、複数の記述解答データは、サーバー側コンピュータ2上において、完全に同一の解答内容を有する未採点解答データごとの未採点解答パタン群18に分類される。なお、各記述解答データは、同じ未採点解答パタン群18に分類される場合においても、個々の受験生の異なる記述解答データとして個別に管理される。別の観点によれば、未採点解答データ14は、それぞれ未採点解答パタン群18に紐つけられている。未採点解答パタン群18も、未採点解答パタン群18に属する未採点解答データ14の解答内容と同一の解答内容を有する個別の中間的なデータとして個別に管理される。
ステップS1においては、複数の記述解答データを、サーバー側コンピュータ2上において、完全に同一の解答内容ごとに分類するに際し、記述解答データに含まれる句読点やスペース等を除外して分類を行うことにより、分類の処理負荷を低減することができる。
また、記述解答データに入力する値がない場合、すなわち、受験生が解答を行わずに解答欄が空欄とされた場合には、解答内容が無く、且つ記述解答データが存在しないこととなる。この場合には、記述解答データ無しとして、以後の処理を行わずに、所定の採点情報48(例えば、不正解(誤答)、0点、「×」等の採点情報48)を未採点解答データ14に付加することにより、未採点解答データ14を採点済解答データ16に変更し、以後の採点処理を省略することで、以後のコンピュータの処理負荷及び採点者の採点処理の処理負荷を低減することができる。
また、記述解答データに入力する値がない場合、すなわち、受験生が解答を行わずに解答欄が空欄とされた場合には、解答内容が無く、且つ記述解答データが存在しないこととなる。この場合には、記述解答データ無しとして、以後の処理を行わずに、所定の採点情報48(例えば、不正解(誤答)、0点、「×」等の採点情報48)を未採点解答データ14に付加することにより、未採点解答データ14を採点済解答データ16に変更し、以後の採点処理を省略することで、以後のコンピュータの処理負荷及び採点者の採点処理の処理負荷を低減することができる。
図2に示すように、ステップS2に示すように、完全に同一の解答内容ごとの未採点解答データ14を集めることにより、同じ解答内容(解答パタン)を有する解答の解答群として、未採点解答パタン群18を作成する。このようにして、全ての記述解答データ(未採点解答データ14)が、いずれかの未採点解答パタン群18に属するように分類される。なお、1つの記述解答データのみによって、未採点解答パタン群18が構成される場合も含む。
図2に示すように、ステップS3においては、第1採点モード42を実行する。第1採点モード42においては、クライアント側コンピュータ4上において、図3に示すように未採点解答パタン群18を、それぞれの解答内容に含まれる全部の語句が一目で確認できる(視認できる)状態で、並べて表示部10上に表示した採点用群リスト22が作成される。なお、用語「語句」は、文字、単語、文節の他、数字、アルファベット、記号等も含む意味で用いている。従って、採点者は、表示部10上に表示される第1採点モード42の採点用群リスト22を見ながら、画面を他の画面に切替えることなく、未採点解答パタン群18同士の違いを比較し、同一画面上で語句の正誤を判断して採点を行うことができる。
図3に示すように、ステップS3の第1採点モード42においては、未採点解答パタン群18のうち、その時において最も小さい受験番号に対応する未採点解答データ14を含む未採点解答パタン群18が、採点用群リスト22作成のための基準として設定される基準解答内容24として自動的に選択される。採点用群リスト22は、この基準解答内容24に対して、未採点解答パタン群18を並べることにより作成される。なお、採点者は、基準解答内容24のみを採点することもでき、及び基準解答内容24に類似する未採点解答パタン群18のみを採点することもでき、及び基準解答内容24及びこれに類似する未採点解答パタン群18を同時に採点することもできる。
ステップS3においては、未採点解答パタン群18は、基準解答内容24に対して、自然言語処理に基づいて類似度が高いと判断された順に、採点用群リスト22上において上から順に並べられる。より具体的には、採点用群リスト22において、基準解答内容24として選択されている未採点解答パタン群18、及び基準解答内容24と類似している内容の未採点解答パタン群18が並べられている。基準解答内容24と未採点解答パタン群18の解答内容との類似度の計算は、ステップS3−1に示すように、第1採点モード42において、適宜行われる。
採点用群リスト22において、複数の未採点解答パタン群18は、それぞれの解答内容に含まれる全部の語句が見える状態で、並べて配置されるので、採点者が、画面を切替えることなく同一画面上においてそれぞれの解答内容の違いを比較できるようになっている。
ステップS3においては、未採点解答パタン群18は、基準解答内容24に対して、自然言語処理に基づいて類似度が高いと判断された順に、採点用群リスト22上において上から順に並べられる。より具体的には、採点用群リスト22において、基準解答内容24として選択されている未採点解答パタン群18、及び基準解答内容24と類似している内容の未採点解答パタン群18が並べられている。基準解答内容24と未採点解答パタン群18の解答内容との類似度の計算は、ステップS3−1に示すように、第1採点モード42において、適宜行われる。
採点用群リスト22において、複数の未採点解答パタン群18は、それぞれの解答内容に含まれる全部の語句が見える状態で、並べて配置されるので、採点者が、画面を切替えることなく同一画面上においてそれぞれの解答内容の違いを比較できるようになっている。
なお、模範解答を特別な受験番号を付した未採点解答データ14として設定し、採点開始初期に、模範解答の内容を有する未採点解答パタン群18を採点させることができる。例えば、記述式の問題に対して模範解答が10通り考えられる場合において、最初に10通りの模範解答を所定の受験番号を付した未採点解答データ14として設定する。例えば、受験者全員の受験番号よりも小さい(若い)数で構成される特別な所定の受験番号を10個設定し、10通りの模範解答の未採点解答データ14に10個の所定の受験番号を割り振ることにより、特別な所定の受験番号に該当する未採点解答データ14を含む未採点解答パタン群18(この未採点解答パタン群18には、仮に設定された模範解答の未採点解答データ14と、他の受験者の模範解答と一致する未採点解答データ14とが含まれることになる)が、採点開始初期に、基準解答内容24に選択され、採点用群リスト22が表示され、且つこの基準解答内容24及び基準解答内容24と類似している内容の未採点解答パタン群18が採点されるようにすることができる。
本実施形態においては、模範解答を特別な受験番号を付した未採点解答データ14として設定しているが、模範解答の他に、想定される代表的な不正解の内容の代表的不正解解答(以下、「代表的不正解解答」と称する)を特別な受験番号を付した未採点解答データ14として設定することも可能である。また、所定の語句からなる解答を特別な受験番号を付した未採点解答データ14として設定することも可能である。
本実施形態においては、模範解答を特別な受験番号を付した未採点解答データ14として設定しているが、模範解答の他に、想定される代表的な不正解の内容の代表的不正解解答(以下、「代表的不正解解答」と称する)を特別な受験番号を付した未採点解答データ14として設定することも可能である。また、所定の語句からなる解答を特別な受験番号を付した未採点解答データ14として設定することも可能である。
このとき、模範解答に対応する未採点解答パタン群18には、採点者が迷うことなく、正解の採点情報48が付加されることとなる。このように、模範解答に対応する未採点解答パタン群18を、採点開始初期に採点できるようにすることにより、模範解答に対応する未採点解答パタン群18及び、模範解答に類似する度合いの高い未採点解答パタン群18を採点用群リスト22上に並べることができる。よって、同様の採点情報が付加されると予測される未採点解答パタン群18を連続して並べて表示させることができるので、連続した領域の範囲指定操作により、模範解答に類似する複数の未採点解答パタン群18を一括して選択して採点しやすくなり、大量の解答の採点を行うことができ、効率的に採点をすることができる。
また、採点開始初期に、模範解答の内容を有する未採点解答パタン群18及び、模範解答の内容と類似している内容の未採点解答パタン群18が採点され、後述するような仮評価確定済解答パタン群71又は評価確定済解答パタン群70が決定されれば、採点情報予測部78が、模範解答の内容を有する評価確定済解答パタン群70等と、未採点解答パタン群18との類似度を判断することによる付加すべき採点情報48の予測結果80を、採点初期の比較的早い段階から、採点用群リスト22に表示させることができる。よって、付加すべき採点情報48の予測をより効率的に行うことが出来る。
また、採点開始初期に、模範解答の内容を有する未採点解答パタン群18及び、模範解答の内容と類似している内容の未採点解答パタン群18が採点され、後述するような仮評価確定済解答パタン群71又は評価確定済解答パタン群70が決定されれば、採点情報予測部78が、模範解答の内容を有する評価確定済解答パタン群70等と、未採点解答パタン群18との類似度を判断することによる付加すべき採点情報48の予測結果80を、採点初期の比較的早い段階から、採点用群リスト22に表示させることができる。よって、付加すべき採点情報48の予測をより効率的に行うことが出来る。
また、代表的不正解解答を特別な受験番号を付した未採点解答データ14として設定していた場合には、代表的不正解解答に対応する未採点解答パタン群18には、採点者が迷うことなく、不正解の採点情報48が付加されることとなる。このように、代表的不正解解答に対応する未採点解答パタン群18を、採点開始初期に採点できるようにすることにより、代表的不正解解答に対応する未採点解答パタン群18及び、代表的不正解解答に類似する度合いの高い未採点解答パタン群18を採点用群リスト22上に並べることができる。よって、同様の採点情報が付加されると予測される未採点解答パタン群18を連続して並べて表示させることができるので、連続した領域の範囲指定操作により、代表的不正解解答に類似する複数の未採点解答パタン群18を一括して選択して採点しやすくなり、大量の解答の採点を行うことができ、効率的に採点をすることができる。
また、採点開始初期に、代表的不正解解答の内容を有する未採点解答パタン群18及び、代表的不正解解答の内容と類似している内容の未採点解答パタン群18が採点され、後述するような仮評価確定済解答パタン群71又は評価確定済解答パタン群70が決定されれば、採点情報予測部78が、代表的不正解解答の内容を有する評価確定済解答パタン群70等と、未採点解答パタン群18との類似度を判断することによる付加すべき採点情報48の予測結果80を、採点初期の比較的早い段階から、採点用群リスト22に表示させることができる。よって、付加すべき採点情報48の予測をより効率的に行うことが出来る。
また、採点開始初期に、代表的不正解解答の内容を有する未採点解答パタン群18及び、代表的不正解解答の内容と類似している内容の未採点解答パタン群18が採点され、後述するような仮評価確定済解答パタン群71又は評価確定済解答パタン群70が決定されれば、採点情報予測部78が、代表的不正解解答の内容を有する評価確定済解答パタン群70等と、未採点解答パタン群18との類似度を判断することによる付加すべき採点情報48の予測結果80を、採点初期の比較的早い段階から、採点用群リスト22に表示させることができる。よって、付加すべき採点情報48の予測をより効率的に行うことが出来る。
図3に示すように、基準解答内容24には、基準解答内容設定操作として最も小さい受験番号に対応する未採点解答パタン群18から順に自動的に選択されて表示されるが、模範解答、代表的不正解解答、任意の未採点解答パタン群18及び/又は任意の語句を基準解答内容設定操作として手動で選択及び/又は入力して基準解答内容24に設定及び表示させることも可能である。
基準解答内容24に未採点解答パタン群18が新たに選択された場合には、未採点解答パタン群18の解答内容に対し、自然言語処理の技術及び統計的データ分析手法に基づいて類似度が高いと判断された順に、採点用群リスト22上において、未採点解答パタン群18が改めて並べられる。すなわち、新たな採点用群リスト22が表示される。
基準解答内容24に未採点解答パタン群18が新たに選択された場合には、未採点解答パタン群18の解答内容に対し、自然言語処理の技術及び統計的データ分析手法に基づいて類似度が高いと判断された順に、採点用群リスト22上において、未採点解答パタン群18が改めて並べられる。すなわち、新たな採点用群リスト22が表示される。
図3に示すように、具体的には、採点用群リスト22において、一番上の1番目の類似解答表示欄18aに、基準解答内容24と最も類似度の高い内容の解答を有する未採点解答パタン群18が配置される。上から2番目の類似解答表示欄18bに、基準解答内容24と2番目に類似度の高い内容の解答の未採点解答パタン群18が配置される。同様に、上から3番目の類似解答表示欄18cに、基準解答内容24と3番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から4番目の類似解答表示欄18dに、基準解答内容24と4番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から5番目の類似解答表示欄18eに、基準解答内容24と5番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から6番目の類似解答表示欄18fに、基準解答内容24と6番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から7番目の類似解答表示欄18gに、基準解答内容24と7番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から8番目の類似解答表示欄18hに、基準解答内容24と8番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から9番目の類似解答表示欄18iに、基準解答内容24と9番目に類似度の高い内容の解答の未採点解答パタン群18が配置され、同様に、上から10番目の類似解答表示欄18jに、基準解答内容24と10番目に類似度の高い内容の解答の未採点解答パタン群18が配置される。
このように、採点用群リスト22において、上の欄から順に基準解答内容24に対してより類似度の高い解答内容の未採点解答パタン群18が配置される。このような類似度の高い解答内容の未採点解答パタン群18については、基準解答内容24と同様の採点情報48が付加される可能性が高い。連続して同様の採点情報48が付加される可能性が高い未採点解答パタン群18が並んで配置されることとなるので、多くの未採点解答パタン群18を範囲指定することによりまとめて採点情報48を付加しやすくし、大量の記述式の解答を高速且つ正確に採点することが可能となる。例えば、類似度の高い解答内容の未採点解答パタン群18が順に並んでいる場合には、マウス等の範囲指定による1回の範囲領域指定操作で多数の未採点解答パタン群18を選択した状態とし、同じ採点情報48を付加することができ、範囲指定操作を簡単にし、採点作業を効率化することができる。また、複数回の範囲指定操作によったとしてもまとめて採点情報48を付加しやすくなっている。また、例えば、3番目の類似解答表示欄18c、4番目の類似解答表示欄18d、5番目の類似解答表示欄18e等の隣接する又は比較的近い位置の類似解答表示欄においては、比較的類似する解答内容を有する未採点解答パタン群18が配置される可能性が高くなる。よって、隣接する又は比較的近い位置の類似解答表示欄の未採点解答パタン群18を範囲指定操作によりまとめて同じ採点情報48を付加しやすくすることができる。
ステップS3−1に示すような基準解答内容24と未採点解答パタン群18の解答内容との類似度の計算、及び必要に応じてある解答内容と他の解答内容との類似度の計算を行う場合の類似度の計算においては、自然言語処理の技術、又は自然言語処理の技術及び統計的データ分析手法に基づいて、例えば、次のような(i)〜(iii)の計算方法を用いている。
(i)2つの文字列間(例えば、基準解答内容24と未採点解答パタン群18の解答内容)の編集距離を用いる方法
(ii)文字列をベクトル化(すなわち、単語の出現頻度を情報として取得すること)して、ベクトル間の距離を用いる方法
(iii)文字列を確率分布として表現し,2つの確率分布間の類似度を用いる方法
ここで、編集距離とは,1つの文字列を別の文字列に変形するのに必要な手順の最小回数のことを指す。
(i)2つの文字列間(例えば、基準解答内容24と未採点解答パタン群18の解答内容)の編集距離を用いる方法
(ii)文字列をベクトル化(すなわち、単語の出現頻度を情報として取得すること)して、ベクトル間の距離を用いる方法
(iii)文字列を確率分布として表現し,2つの確率分布間の類似度を用いる方法
ここで、編集距離とは,1つの文字列を別の文字列に変形するのに必要な手順の最小回数のことを指す。
自然言語処理の技術とは、上述のような「語句」、例えば、単語、文節、文章などについて、それらの内容情報を計算機上で表現可能なように何らかの数値データに変換する技術を指している。自然言語処理の技術の代表的な技術としては、例えば、n-gram(エヌ−グラム)や形態素解析がある。
統計的データ分析手法とは、自然言語処理の技術によって得られた語句についての数値データに対して、特徴を記述するためにおこなう統計理論に基づいた分析手法を指している。例えば、二つの文章の類似度を測るとき、自然言語処理の技術によって二つの文章のそれぞれの単語ベクトルを作成し、その上でその二つの単語ベクトルから統計的データ分析手法によって相関係数を計算する。
ここで、用語「自然言語処理の技術」は、上述のように自然言語処理の技術のみを用いる場合のみならず、上位概念の用語として、自然言語処理の技術及び統計的データ分析手法を用いる場合も含まれていてもよい。
統計的データ分析手法とは、自然言語処理の技術によって得られた語句についての数値データに対して、特徴を記述するためにおこなう統計理論に基づいた分析手法を指している。例えば、二つの文章の類似度を測るとき、自然言語処理の技術によって二つの文章のそれぞれの単語ベクトルを作成し、その上でその二つの単語ベクトルから統計的データ分析手法によって相関係数を計算する。
ここで、用語「自然言語処理の技術」は、上述のように自然言語処理の技術のみを用いる場合のみならず、上位概念の用語として、自然言語処理の技術及び統計的データ分析手法を用いる場合も含まれていてもよい。
このように文字列をベクトル化する手法や確率分布として表現するための方法は、自然言語処理の技術及び/又は統計的データ分析手法を用いる。(i)〜(iii)の計算方法は、文字列のみならず、本発明において用いられている「語句」に対して適用される。また、上述の(i)〜(iii)の計算方法のみならず、ある解答内容と他の解答内容との類似度の計算を行うことができる他の計算方法を用いてもよい。
それぞれの類似度を判定する計算方法のアルゴリズムは、例えば、次の(イ)〜(ハ)のアルゴリズムを用いている。
(イ) Levenshtein 距離 (編集距離)
(ロ) コサイン距離(ベクトル間距離)
(ハ) Kullback-Leibler divergence (確率分布間類似度)
本実施形態においては、これらの(イ)〜(ハ)のアルゴリズムの中から解答内容に合わせて適切なアルゴリズムが選択される。これらの計算処理は、クライアント側コンピュータ4又はサーバー側コンピュータ2においておこなわれ、その結果をもとに採点用群リスト22の新規作成、再作成、修正、変更又はソート(並び替え)がおこなわれる。なお、上述の(イ)〜(ハ)のアルゴリズムのみならず、他の周知のアルゴリズムを用いてもよい。
(イ) Levenshtein 距離 (編集距離)
(ロ) コサイン距離(ベクトル間距離)
(ハ) Kullback-Leibler divergence (確率分布間類似度)
本実施形態においては、これらの(イ)〜(ハ)のアルゴリズムの中から解答内容に合わせて適切なアルゴリズムが選択される。これらの計算処理は、クライアント側コンピュータ4又はサーバー側コンピュータ2においておこなわれ、その結果をもとに採点用群リスト22の新規作成、再作成、修正、変更又はソート(並び替え)がおこなわれる。なお、上述の(イ)〜(ハ)のアルゴリズムのみならず、他の周知のアルゴリズムを用いてもよい。
図3に示すように、さらに、第1採点モード42においては、基準解答内容24と類似度が比較的高いと判定された採点済解答パタン群31が複数並んだ採点済解答リスト46が作成される。採点済解答リスト46は、基準解答内容24と類似すると判定された採点済解答パタン群31のうち一部を表示し、採点済解答パタン群31と併せて付加された採点情報48も表示するようになっている。これらの採点済解答パタン群31、及び採点済解答パタン群31と併せて付加された採点情報48は、後述するステップS7等において、クライアント側コンピュータ4及び/又はサーバー側コンピュータ2に記憶されているデータから読み出される。従って、採点者は、採点しようとする基準解答内容24と類似する採点済解答パタン群31の解答内容及びその採点情報48を基準解答内容24等の採点判断の参考にすることができる。
図3に示すように、さらに、第1採点モード42においては、基準解答内容24として選択される候補の未採点解答パタン群18が、それぞれの未採点解答パタン群18に紐つけられた受験番号の小さい順に上から並べられている次以降の解答内容リスト49が作成されている。ある基準解答内容24に採点情報48が付加され、採点が行われた後、次以降の解答内容リスト49の一番上位に表示されている未採点解答パタン群18が、基準解答内容24として選択されるようになっている。このようにして、採点者は、次以降に基準解答内容24となる未採点解答パタン群18の内容を事前に確認することができ、効率的に採点を行うことができるようになっている。
クライアント側コンピュータ4は、採点用群リスト22上において、基準解答内容24に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示する色付表示部(色付表示手段)37を有している。図3において、語句の背景が色付けされている様子を網掛け39によって示している。本発明の一実施形態においては、語句の背景が黄色に色付けされているが、背景に斜線、ドット又は網掛け等を表示することにより他の領域と区別してもよい。また、語句を四角枠等の枠線により囲んで表示する、又は、語句を太字、斜字等により区別して表示するようにしてもよい。
色付表示部37は、採点用群リスト22が作成された状態で、基準解答内容24と、採点用群リスト22上に並べられている未採点解答パタン群18とを比較し、基準解答内容24に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示部10に表示する。例えば、図3に示すように、基準解答内容24が「砂糖のように溶液に溶ける」である場合、基準解答内容24の「砂糖のように溶液に溶ける」に含まれる語句は、採点用群リスト22上に並べられている未採点解答パタン群18において色付け表示されない、一方、未採点解答パタン群18において、「砂糖のように溶液に溶ける」に含まれていない語句が、色付けして表示される。例えば、1番目の類似解答表示欄18aにおいては、「生物」、「受精」、「を」及び「助」の語句が、「砂糖のように溶液に溶ける」に含まれていない語句であるため色付けして表示されている。同様に、例えば、2番目の類似解答表示欄18aにおいては、「物質」、「反応」、「影響」、「を」及び「与え」の語句が、「砂糖のように溶液に溶ける」に含まれていない語句であるため色付けして表示されている。以下類似解答表示欄18j欄まで同様であるので説明を省略する。
このように、採点用群リスト22上に並べられている未採点解答パタン群18において、基準解答内容24と異なる語句が色付け表示されるので、採点者は、基準解答内容24と未採点解答パタン群18の内容との違う箇所を即座に且つ簡単に認識することができ、採点を効率的に行うことができる。
なお、色付表示部37は、基準解答内容24と、採点用群リスト22上に並べられている未採点解答パタン群18とを比較し、基準解答内容24に含まれる語句と対応する語句及び/又はその語句の背景を、色付けして表示するようにしてもよい。この場合には、採点用群リスト22上に並べられている未採点解答パタン群18において、基準解答内容24と同一の語句が色付け表示されるので、採点者は、基準解答内容24と未採点解答パタン群18の内容との一致する箇所を即座に且つ簡単に認識することができ、採点を効率的に行うことができる。
なお、色付表示部37は、基準解答内容24と、採点用群リスト22上に並べられている未採点解答パタン群18とを比較し、基準解答内容24に含まれる語句と対応する語句及び/又はその語句の背景を、色付けして表示するようにしてもよい。この場合には、採点用群リスト22上に並べられている未採点解答パタン群18において、基準解答内容24と同一の語句が色付け表示されるので、採点者は、基準解答内容24と未採点解答パタン群18の内容との一致する箇所を即座に且つ簡単に認識することができ、採点を効率的に行うことができる。
図3に示すように、採点情報予測部78は、採点情報予測色分け部82を備え、付加すべき採点情報48の予測結果80を、採点用群リスト22等に表示させる際に、採点情報予測色分け部82により付加すべき採点情報48の予測結果80の語句及び図表を、採点情報48の種類に応じて色分けして採点用群リスト22等に表示させることができる。例えば、付加すべき採点情報48の予測結果80が○(正解)と判断された場合、○の採点情報の分類に応じて、採点情報48の予測結果80が緑色の記号及び棒グラフ図等により色分けした状態で採点用群リスト22等に表示される。同様に、例えば、付加すべき採点情報48の予測結果80が×(不正解)と判断された場合、×の採点情報48の分類に応じて、採点情報48の予測結果80が赤色の記号及び棒グラフ等により色分けした状態で採点用群リスト22等に表示される。同様に、例えば、付加すべき採点情報48の予測結果80が△(部分的な正解として部分点を付加する解答)と判断された場合、△の採点情報48の分類に応じて、採点情報48の予測結果80が黄色の記号及び棒グラフ等により色分けした状態で採点用群リスト22等に表示される。
このように、採点用群リスト22等上において、付加すべき採点情報48の予測結果80が色付け及び色分けして表示されることにより、採点者が予測結果80の一致及び相違を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。採点情報予測色分け部82は、後述する検索モード採点用群リスト52においても同様の機能を提供することができる。
図2に示すように、ステップS4においては、第2採点モード44を実行する。第2採点モード44は、後述するように第1採点モード42と切替えて実行することができる。
図4に示すように、クライアント側コンピュータ4上においては、未採点解答パタン群検索リスト形成部34が、検索キーワード欄50への所定の任意の検索キーワードの入力(検索キーワード設定操作)に基づいて、この検索キーワードを含む及び/又は含まない等の所定の検索条件に応じて未採点解答パタン群18を検索し、検索モード採点用群リスト(採点用群リスト)52を作成する。クライアント側コンピュータ4は、所定の検索条件に応じて未採点解答パタン群18の検索を、ステップS4−1に示すように、第2採点モード44と併せて適宜実行する。
図4に示すように、クライアント側コンピュータ4上においては、未採点解答パタン群検索リスト形成部34が、検索キーワード欄50への所定の任意の検索キーワードの入力(検索キーワード設定操作)に基づいて、この検索キーワードを含む及び/又は含まない等の所定の検索条件に応じて未採点解答パタン群18を検索し、検索モード採点用群リスト(採点用群リスト)52を作成する。クライアント側コンピュータ4は、所定の検索条件に応じて未採点解答パタン群18の検索を、ステップS4−1に示すように、第2採点モード44と併せて適宜実行する。
このようにして、第2採点モード44においては、採点者が、任意の検索キーワードに基づいて、この検索キーワードを含む及び/又は含まない等の所定の検索条件に応じて未採点解答パタン群18を並べた新たな検索モード採点用群リスト52を作成する。未採点解答パタン群検索リスト形成部34により作成された検索モード採点用群リスト52においては、未採点解答パタン群18が検索キーワードと同一の用語を含むため、表示される未採点解答パタン群18同士に同様の採点情報が付加される可能性が高く、多くの未採点解答パタン群18を比較的簡単に1つの領域で範囲指定しやすくし、又は範囲指定することによりまとめて採点情報を付加しやすくし、大量の記述式の解答を高速且つ正確に採点することが可能となる。
検索モード採点用群リスト52は、例えば、10個の未採点解答パタン群18を縦に並べて表示する。このとき、検索モード採点用群リスト52は、単に、例えば、所定の検索キーワードを含む未採点解答パタン群18を表示する。検索モード採点用群リスト52は、後述するように、さらに別の指標の基準に基づいて、並び替えることも可能である。例えば、検索モード採点用群リスト52は、採点情報48の種類(例えば、正解、又は不正解等の種類)に応じて並び替えする(例えば、正解の採点情報48を有する未採点解答パタン群18を上位に表示させる等)ことができ、又は、採点情報48の種類に応じて採点情報予測部78により求められた予測結果80の予測確率が高い順(類似度が高い順)に並び替えすることが可能である。
第2採点モード44の検索モード採点用群リスト52においても、図4に示すように未採点解答パタン群18が、それぞれの解答内容に含まれる全部の語句が一目で確認できる(視認できる)状態で、並べて表示部10に表示される。
第2採点モード44の検索モード採点用群リスト52においても、図4に示すように未採点解答パタン群18が、それぞれの解答内容に含まれる全部の語句が一目で確認できる(視認できる)状態で、並べて表示部10に表示される。
所定の任意の検索キーワードは、採点者が任意に決定できる語句である。採点者は、文字、単語、文、数字、記号等を自由に検索キーワードとして設定することができる。例えば、正解の解答の語句の一部を検索キーワードとして設定することにより、正解の採点情報48が付加される可能性が高い未採点解答パタン群18を抽出し、まとめて採点することができる。例えば、逆に、代表的な不正解の解答の語句やその一部を検索キーワードとして設定することにより、不正解の採点情報48が付加される可能性が高い未採点解答パタン群18を抽出し、まとめて採点することができる。
未採点解答パタン群検索リスト形成部34は、任意の検索キーワードを含む及び/又は含まない等の所定の検索条件に応じて未採点解答パタン群18を検索できるので、任意の解答内容を含む及び/又は含まない等の未採点解答パタン群18を検索する検索機能として使用することもできる。採点者は、ある検索キーワードを設定して表示された検索結果に基づいて、さらに別の検索キーワードを設定してより採点しやすい又は採点したい解答内容を含む未採点解答パタン群18を並べ採点用群リスト22を表示させることが可能である。採点者は、一般的なAND検索、OR検索、及びNOT検索等の検索手法を用いて検索することができる。
このようにして、未採点解答パタン群検索リスト形成部34により、同じ採点情報48が付加される可能性が高い未採点解答パタン群18を検索し、検索モード採点用群リスト52上でまとめて採点することができ、採点を効率化することができる。
このようにして、未採点解答パタン群検索リスト形成部34により、同じ採点情報48が付加される可能性が高い未採点解答パタン群18を検索し、検索モード採点用群リスト52上でまとめて採点することができ、採点を効率化することができる。
採点用群リスト調整部38は、ある採点用群リスト22が作成された状態から、所定の指標等に基づいて、その採点用群リスト22に含まれている未採点解答パタン群18を並べ替える及び/又は採点用群リスト22の内容(採点用群リスト22に含まれている未採点解答パタン群18)を調整する。すなわち、所定の指標等に基づいて、採点用群リスト22に含まれている未採点解答パタン群18を並び変えたり、未採点解答パタン群18を他の内容を有する未採点解答パタン群18と入れ替えたりすることにより、新たな(調整後の)採点用群リスト22に調整する。採点用群リスト調整部38は、第1採点モード42及び/又は第2採点モード44に追加されることができる。採点用群リスト調整部38は、採点者が採点用群リスト22を調整したい場合に、任意に使用することができる。
第2採点モード44においては、採点用群リスト調整部38は、ある検索モード採点用群リスト52が作成された状態から、所定の指標等に基づいて、その検索モード採点用群リスト52に含まれている未採点解答パタン群18を並べ替える及び/又は検索モード採点用群リスト52の内容(検索モード採点用群リスト52に含まれている未採点解答パタン群18)を調整する。
第2採点モード44においては、採点用群リスト調整部38は、ある検索モード採点用群リスト52が作成された状態から、所定の指標等に基づいて、その検索モード採点用群リスト52に含まれている未採点解答パタン群18を並べ替える及び/又は検索モード採点用群リスト52の内容(検索モード採点用群リスト52に含まれている未採点解答パタン群18)を調整する。
所定の指標等とは、例えば、付加すべき採点情報48の予測結果80の予測確率のうち予測される正答予測確率が高い順、付加すべき採点情報48の予測結果80の予測確率のうち予測される正答予測確率が低い順、採点情報48の予測結果80が正解に対応するもののみを選択すること、採点情報48の予測結果80が不正解に対応するもののみを選択すること、採点情報48の予測結果80が部分的な正解に対応するもののみを選択すること、採点情報48の予測結果80が同じ評価の点数に対応するもののみを選択すること、基準解答内容24に対して類似度が高い順に並べること、類似度が低い順に並べること、基準解答内容24、模範解答、又は代表的不正解解答に対して類似度が所定以上のものを表示すること、さらに所定の語句を含むもの又は含まないものを表示すること、同様の採点情報が付加されると予測されるものを表示すること等の所定の指標、条件等である。なお、前述の指標、条件等のうちのいくつかの組合せの指標、条件等であってもよく、また、前述の指標、条件等とは異なる他の指標、条件などが設定されてもよい。
採点用群リスト調整部38は、上記所定の指標等に基づいて、例えば、付加すべき採点情報48の予測確率のうち予測される正答確率が高い順に未採点解答パタン群18を並べ替えること、付加すべき採点情報の予測確率のうち予測される正答確率が低い順に未採点解答パタン群18を並べ替えること、採点情報48の予測結果80が○の正解に対応するもののみを選択すること、採点情報48の予測結果80が×の不正解に対応するもののみを選択すること、採点情報48の予測結果80が△の部分的な正解に対応するもののみを選択すること、採点情報48の予測結果80が同じ評価の点数(0点、1点、2点又は3点等)に対応するもののみを選択すること、基準解答内容24に対して類似度が所定以上の未採点解答パタン群18を表示させること、所定の模範解答又は代表的不正解解答に基づいて類似度が所定以上の未採点解答パタン群18を表示させること、さらに任意の所定の語句を含む又は含まない未採点解答パタン群18を表示させること、正答予測確率が一定以上の未採点解答パタン群18のみを表示させること、正答予測に基づき同様の採点情報が付加されると予測される未採点解答パタン群18を表示させること等を行うことができる。
採点者は、所定の指標等を画面上のボタンやスクロールバー等を操作することにより、所定の指標等の調整のON、OFFや、類似度等の表示の度合いを調整することができる。本実施形態においては、採点用群リスト調整部38のボタンやスクロールバー等は省略されているが、第1採点モード42及び第2採点モード44において画面上のボタンやスクロールバー等を任意に追加することが可能である。
採点用群リスト調整部38の所定の指標等が設定されることにより、採点用群リスト22等の未採点解答パタン群18の順を変えたり、他のものと入れ替えたりするための、追加の条件を調整することが可能となり、採点者は、新たな採点用群リスト22等を採点しやすい未採点解答パタン群18が並ぶように調整して、範囲指定により一括して効率的に採点することができる。
例えば、問題が比較的簡単で、正解の類似解答が多くあるような場合には、正解の確率が高いと予測される未採点解答パタン群18を並べるように調整し、一括して○の採点情報48を付加させ、効率よく採点しやすくすることができる。また、問題が非常に難しく、不正解の類似解答が多くあるような場合には、不正解の確率が高いと予測される未採点解答パタン群18を表示するようにして、一括して×の採点情報を付加させやすくし、効率よく採点しやすくすることもできる。このように、問題に応じて、採点者が、多くの解答を効率的に採点しやすくなるように、採点用群リスト22を調整又は再調整することができ、多くの未採点解答パタン群18にまとめて採点情報を付加しやすくし、大量の記述式の解答を高速且つ正確に採点することが可能となる。
例えば、問題が比較的簡単で、正解の類似解答が多くあるような場合には、正解の確率が高いと予測される未採点解答パタン群18を並べるように調整し、一括して○の採点情報48を付加させ、効率よく採点しやすくすることができる。また、問題が非常に難しく、不正解の類似解答が多くあるような場合には、不正解の確率が高いと予測される未採点解答パタン群18を表示するようにして、一括して×の採点情報を付加させやすくし、効率よく採点しやすくすることもできる。このように、問題に応じて、採点者が、多くの解答を効率的に採点しやすくなるように、採点用群リスト22を調整又は再調整することができ、多くの未採点解答パタン群18にまとめて採点情報を付加しやすくし、大量の記述式の解答を高速且つ正確に採点することが可能となる。
このように、採点用群リスト調整部38が、一旦作成した採点用群リスト22を、所定の指標等に基づいて採点用群リスト22の内容を再調整又は微調整することができれば、採点用群リスト22において、同様の採点情報48が付加されると予測される未採点解答パタン群18を連続して表示させることができ、簡単な範囲指定操作により、複数の未採点解答パタン群18を一括して選択して採点することが可能となる。
表示数制限部36は、採点用群リスト22及び/又は検索モード採点用群リスト52において、図3に示すように、表示部10の一画面又は一仮想処理領域(例えば、一画面上において、再表示することなく画面をスクロールすることにより表示される画面領域)内に一度に表示する未採点解答パタン群18の数を所定の数、例えば10個に制限する。表示数制限部36は、最初に表示する未採点解答パタン群18の数を所定の数とし、表示数を変更する操作をすることにより、続いて、未採点解答パタン群18を異なる数表示させるようにしてもよい。また、表示数制限部36は、類似度が高いと判断された順に、未採点解答パタン群を1位〜10位まで並べ、続いて、画面を切替える操作をすることにより、11位〜20位の類似度を有する未採点解答パタン群18を画面の切換え後に表示させることができる。
何万又は何十万もの未採点解答パタン群18を採点する場合において、表示数制限部36が、一画面上に一度に表示部10に表示する表示数を強制的に制限することにより、クライアント側コンピュータ4上における採点用群リスト22等を表示する処理負荷を低減することができ、効率的に採点を行うことができる。また、類似する解答内容を有する未採点解答パタン群18が多く存在する場合等には、一度に表示部10に表示する未採点解答パタン群18の数を増大させることにより、同様の採点情報48が付加される可能性の高い未採点解答パタン群18をより多く表示させることができるため、一括して採点情報48を付加できる未採点解答パタン群18の数を増大させることができ、大規模に行われる記述式問題を含む試験において、大量の解答を効率的に採点することを可能にする。
表示数制限部36は、最初に表示する未採点解答パタン群18の数を10個のみならず、20個、50個、100個、全答案数の0.1%、全答案数の1%、全答案数の3%、全答案数の5%、全答案数等に自由に設定することが可能である。類似する答案が多く想定される場合等には、一度に表示する未採点解答パタン群18の数を増大させて、一括して採点情報48を付加する未採点解答パタン群18の数を増大させることができ、大量の解答を効率的に採点することを可能にする。また、類似する解答内容を有する未採点解答パタン群18を比較的多く採点用群リスト22等上に表示することが、採点上効率的と判断される場合には、一画面上に一度に表示する表示数を、採点の途中において、使用者の操作により適宜変更及び調整できるようにしてもよい。
図2に示すように、採点者が、修正モード56にモードを切替えた場合には、ステップS5に進む。採点者は、第1採点モード42及び第2採点モード44の他に、修正モード56を選択して、付加された採点情報48の確認や修正をおこなうことができる。
図5に示すように、修正モード56においては、採点済解答パタン群検索リスト形成部58が、採点者が決定する任意の検索キーワードに対して、所定の検索条件に応じて検索された採点済解答パタン群31を検索し、且つ所定の検索条件に応じて検索された採点済解答パタン群31を並べて表示した採点済解答パタン群検索リスト60を作成する。採点者が任意の検索キーワードを採点済解答パタン群検索欄62に入力して検索を開始し、採点済解答パタン群検索リスト60が表示される。
図5に示すように、修正モード56においては、採点済解答パタン群検索リスト形成部58が、採点者が決定する任意の検索キーワードに対して、所定の検索条件に応じて検索された採点済解答パタン群31を検索し、且つ所定の検索条件に応じて検索された採点済解答パタン群31を並べて表示した採点済解答パタン群検索リスト60を作成する。採点者が任意の検索キーワードを採点済解答パタン群検索欄62に入力して検索を開始し、採点済解答パタン群検索リスト60が表示される。
採点済解答パタン群検索リスト60に表示されている採点済解答パタン群31は、解答内容を表示するようになっており、さらに、各々に現在付加されている採点情報48を、採点情報欄64に表示する。採点情報欄64においては、それぞれの採点済解答パタン群31が有する採点情報48が表示されるとともに、他の採点情報を付加するように採点情報48を修正できるようになっている。具体的には、採点情報欄64において、○の採点情報48が付加されていた場合に、△又は×の採点情報48を選択することにより、特定の採点済解答パタン群31に対し、異なる採点情報48を付加するように採点結果の修正を行うことができる。
修正モード56においては、採点結果表示部57が設けられており、採点結果表示部57は、これまでの採点結果を採点情報48の種類ごとに集計した総数を表示している。
修正モード56においては、採点結果表示部57が設けられており、採点結果表示部57は、これまでの採点結果を採点情報48の種類ごとに集計した総数を表示している。
図2に示すように、モード切替部54は、未採点解答パタン群並べ部28により並べられた未採点解答パタン群18を有する採点用群リスト22上で採点を行う第1採点モード42と、未採点解答パタン群検索リスト形成部34により並べられた未採点解答パタン群18を有する検索モード採点用群リスト52上で採点を行う第2採点モード44と、採点済解答パタン群31の採点情報48を採点済解答パタン群検索リスト60上で確認又は修正することができる修正モード56と、を自在に切替えることができる。モード切替部54は、第1採点モード42及び第2採点モード44のいずれにおいても、同じ試験問題に対する未採点解答パタン群18に対し、採点情報48を付加することができ、且つ、採点済解答パタン群31に対し、採点情報48を付加することができるように、各モードを切替えることができるようになっている。モード切替部54のモードの切り替えは、画面上の操作ボタンや表示部10上に表示される表示画面タブの操作等により行われる。
採点者が第1採点モード42において採点を行っていた最中に、第2採点モード44で所定の検索キーワードに基づいて採点を行いたいと考える場合には、モード切替部54は、第1採点モード42の採点用群リスト22を仮保存した状態で、第2採点モード44に画面を切替え、第2採点モード44の検索モード採点用群リスト52を採点させることができる。採点者が再び第2採点モード44から第1採点モード42に戻る場合には、第1採点モード42の採点用群リスト22が仮保存された状態から採点を再開することができる。
逆に、採点者が第2採点モード44において採点を行っていた場合に、第1採点モード42で採点を行いたいと考える場合には、モード切替部54は、第2採点モード44の検索モード採点用群リスト52を仮保存した状態で、第1採点モード42に画面を切替え、第1採点モード42の採点用群リスト22を採点させることができる。この場合には、第2採点モード44の検索モード採点用群リスト52は仮保存された状態となっている。採点者が再び第1採点モード42から第2採点モード44に戻る場合には、第2採点モード44の検索モード採点用群リスト52が仮保存された状態から採点を再開することができる。
なお、第1採点モード42又は第2採点モード44のいずれかにおいて採点を行ったことにより、表示されていない他のモードの採点用群リストの未採点解答パタン群18が、採点情報が付加されて採点済解答パタン群31とされる場合には、その他のモードの採点用群リストはリセットされ、次回のモード切替時に新たな採点用群リストが作成される。
逆に、採点者が第2採点モード44において採点を行っていた場合に、第1採点モード42で採点を行いたいと考える場合には、モード切替部54は、第2採点モード44の検索モード採点用群リスト52を仮保存した状態で、第1採点モード42に画面を切替え、第1採点モード42の採点用群リスト22を採点させることができる。この場合には、第2採点モード44の検索モード採点用群リスト52は仮保存された状態となっている。採点者が再び第1採点モード42から第2採点モード44に戻る場合には、第2採点モード44の検索モード採点用群リスト52が仮保存された状態から採点を再開することができる。
なお、第1採点モード42又は第2採点モード44のいずれかにおいて採点を行ったことにより、表示されていない他のモードの採点用群リストの未採点解答パタン群18が、採点情報が付加されて採点済解答パタン群31とされる場合には、その他のモードの採点用群リストはリセットされ、次回のモード切替時に新たな採点用群リストが作成される。
次に、図3を用いて、第1採点モード42の採点用群リスト22上における未採点解答パタン群18の採点について説明する。
採点用群リスト22上において、それぞれの未採点解答パタン群18がこれらの解答内容の全部の語句が見える状態で配置され、且つそれぞれの未採点解答パタン群18の採点を個別に行うことができるようになっている。
採点用群リスト22上において、それぞれの未採点解答パタン群18がこれらの解答内容の全部の語句が見える状態で配置され、且つそれぞれの未採点解答パタン群18の採点を個別に行うことができるようになっている。
第1採点モード42においては、採点者が操作部12のマウスをクリック操作することにより個別の未採点解答パタン群18を選択し、未採点解答パタン群18が選択された状態で、採点情報の種類に応じて分かれている採点情報付加ボタン66をマウスのクリック操作等により選択することにより、採点情報付加ボタンの種類に応じて設定された採点情報48が付加される。このように採点者は、採点情報付加ボタン66をマウスでクリックするような採点情報設定操作により採点情報付加ボタン66において設定された採点情報48を選択されていた未採点解答パタン群18に付加することができる。(以下、複数の未採点解答パタン群18が複数選択されている場合についても同様のため、説明を省略する。)
また、第1採点モード42においては、未採点解答パタン群18が選択された状態で、操作部12のキーボードの予め設定されたショートカットキーを操作することにより、ショートカットキーの種類に応じた採点情報48が、選択されていた未採点解答パタン群18に付加される。上述のキーボードの予め設定されたショートカットキーは、図3に示すように、画面上にその設定状態が表示され、採点者がその設定状態を確認しやすくなっている。このように採点者は、ショートカットキーを使用するような採点情報設定操作により採点情報付加ボタン66において設定された採点情報48を選択された未採点解答パタン群18に付加することができる。(以下、複数の未採点解答パタン群18が複数選択されている場合についても同様のため、説明を省略する。)
さらに、第1採点モード42においては、採点者が操作部12のキーボードにおいて↑キー、↓キー、→キー又は←キーによって選択しようとする未採点解答パタン群18を選び、Enterキー等により、選択しようとする未採点解答パタン群18を決定し、未採点解答パタン群18が選択された状態とすることができる。このようにして、未採点解答パタン群18が選択された状態で、上述のようなクリック操作、キーボード操作等のいずれかの操作により選択されていた未採点解答パタン群18に対し採点情報48が付加される。このように採点者は、操作部12のキーボードを使用するような採点情報設定操作によっても採点情報付加ボタン66において設定された採点情報48を選択された未採点解答パタン群18に付加することができる。(以下、複数の未採点解答パタン群18が複数選択されている場合についても同様のため、説明を省略する。)
また、第1採点モード42においては、未採点解答パタン群18が選択された状態で、操作部12のキーボードの予め設定されたショートカットキーを操作することにより、ショートカットキーの種類に応じた採点情報48が、選択されていた未採点解答パタン群18に付加される。上述のキーボードの予め設定されたショートカットキーは、図3に示すように、画面上にその設定状態が表示され、採点者がその設定状態を確認しやすくなっている。このように採点者は、ショートカットキーを使用するような採点情報設定操作により採点情報付加ボタン66において設定された採点情報48を選択された未採点解答パタン群18に付加することができる。(以下、複数の未採点解答パタン群18が複数選択されている場合についても同様のため、説明を省略する。)
さらに、第1採点モード42においては、採点者が操作部12のキーボードにおいて↑キー、↓キー、→キー又は←キーによって選択しようとする未採点解答パタン群18を選び、Enterキー等により、選択しようとする未採点解答パタン群18を決定し、未採点解答パタン群18が選択された状態とすることができる。このようにして、未採点解答パタン群18が選択された状態で、上述のようなクリック操作、キーボード操作等のいずれかの操作により選択されていた未採点解答パタン群18に対し採点情報48が付加される。このように採点者は、操作部12のキーボードを使用するような採点情報設定操作によっても採点情報付加ボタン66において設定された採点情報48を選択された未採点解答パタン群18に付加することができる。(以下、複数の未採点解答パタン群18が複数選択されている場合についても同様のため、説明を省略する。)
第1採点モード42においては、採点用群リスト22上において、未採点解答パタン群18の採点をまとめて行うことができるようになっている。
採点者は、採点用群リスト22上において並べられた複数の未採点解答パタン群18を範囲選択操作により、まとめて複数選択することができる。より具体的には、採点者は、操作部12のマウスをドラッグ操作し、指定範囲を網掛けするようにする領域の範囲選択操作により、網掛け領域範囲内にかかる複数の未採点解答パタン群18をまとめて複数選択することができる。図3及び図4において、操作部12のマウスをドラッグ操作し、指定範囲を網掛けするようにする領域の範囲選択操作を参照番号23により例示する。参照番号23の点線により示されている領域が操作部12(マウス)により範囲選択操作されている領域の外縁内の領域となる。この参照番号23の点線により囲まれた領域内に存在する複数の未採点解答パタン群18が選択された状態となる。採点補助システム1は、このように採点者が複数の未採点解答パタン群18を容易にまとめて複数選択することができる、未採点解答パタン群範囲選択部30を備えている。未採点解答パタン群範囲選択部30により選択された未採点解答パタン群18は、選択された状態を維持し、この選択された状態からキーボード操作等のいずれかの操作に対応した採点情報48がこの選択された状態の未採点解答パタン群18に対して付加される。
未採点解答パタン群18は、画面上に表示されるその語句そのもの、及び/又は未採点解答パタン群18の語句の周囲の一定領域の範囲(例えば、図3において、1番目の類似解答表示欄18a等として示される枠線で囲まれた解答欄の範囲)の一部が、範囲指定の中に含まれる及び/又は選択されることにより、選択された状態とされることができる。
採点者は、採点用群リスト22上において並べられた複数の未採点解答パタン群18を範囲選択操作により、まとめて複数選択することができる。より具体的には、採点者は、操作部12のマウスをドラッグ操作し、指定範囲を網掛けするようにする領域の範囲選択操作により、網掛け領域範囲内にかかる複数の未採点解答パタン群18をまとめて複数選択することができる。図3及び図4において、操作部12のマウスをドラッグ操作し、指定範囲を網掛けするようにする領域の範囲選択操作を参照番号23により例示する。参照番号23の点線により示されている領域が操作部12(マウス)により範囲選択操作されている領域の外縁内の領域となる。この参照番号23の点線により囲まれた領域内に存在する複数の未採点解答パタン群18が選択された状態となる。採点補助システム1は、このように採点者が複数の未採点解答パタン群18を容易にまとめて複数選択することができる、未採点解答パタン群範囲選択部30を備えている。未採点解答パタン群範囲選択部30により選択された未採点解答パタン群18は、選択された状態を維持し、この選択された状態からキーボード操作等のいずれかの操作に対応した採点情報48がこの選択された状態の未採点解答パタン群18に対して付加される。
未採点解答パタン群18は、画面上に表示されるその語句そのもの、及び/又は未採点解答パタン群18の語句の周囲の一定領域の範囲(例えば、図3において、1番目の類似解答表示欄18a等として示される枠線で囲まれた解答欄の範囲)の一部が、範囲指定の中に含まれる及び/又は選択されることにより、選択された状態とされることができる。
このようにして、複数の未採点解答パタン群18がまとめて選択された状態で、上述のようなクリック操作、キーボード操作等のいずれかの操作により選択されていた未採点解答パタン群18に対しまとめて採点情報48が付加される。まとめて採点情報48が付加されるとは、採点者の1つの採点情報の付加操作に対して、選択されていた複数の未採点解答パタン群18の各々に対し、同じ採点情報48が、各々同時に一括して付加されることをいう。すなわち、1度の操作により、複数の未採点解答パタン群18に採点情報48を付加した状態とすることができる。複数の未採点解答パタン群18は採点情報48が付加された結果、それぞれ、採点情報48が付加された採点済解答パタン群31となる。
第1採点モード42の未採点解答パタン群範囲選択部30は、採点者が操作部12のマウスをドラッグ操作することにより複数の未採点解答パタン群18を範囲選択する手法の他、採点者が操作部12のキーボードにおいてShiftキー及び↑キー、↓キー、→キー又は←キーのいずれかを同時に押すことによって複数の未採点解答パタン群18を同時に選択することにより範囲選択を行うこともできる。範囲選択された未採点解答パタン群18は、上述と同様に、まとめて採点情報48が付加される。
なお、未採点解答パタン群範囲選択部30は、複数の未採点解答パタン群18をまとめて同時に選択することができる手法であればよく、例えば、採点者が操作部12のタッチパネルを指やペン等でなぞるようにして範囲選択する手法等によって構成されていてもよい。また、未採点解答パタン群範囲選択部30は、例えば、採点者が操作部12のキーボードにおいてCtrlキー及び↑キー、↓キー、→キー又は←キーのいずれかを同時に押すことによって複数の未採点解答パタン群18を任意に同時に選択する範囲選択手法によって構成されていてもよい。
さらに、未採点解答パタン群範囲選択部30は、例えば、採点者が画面上の「全選択」等のボタン68を押す操作をすることにより、採点用群リスト22上における複数の未採点解答パタン群18を、簡単に全て一括して範囲選択することもできる。
なお、未採点解答パタン群範囲選択部30は、複数の未採点解答パタン群18をまとめて同時に選択することができる手法であればよく、例えば、採点者が操作部12のタッチパネルを指やペン等でなぞるようにして範囲選択する手法等によって構成されていてもよい。また、未採点解答パタン群範囲選択部30は、例えば、採点者が操作部12のキーボードにおいてCtrlキー及び↑キー、↓キー、→キー又は←キーのいずれかを同時に押すことによって複数の未採点解答パタン群18を任意に同時に選択する範囲選択手法によって構成されていてもよい。
さらに、未採点解答パタン群範囲選択部30は、例えば、採点者が画面上の「全選択」等のボタン68を押す操作をすることにより、採点用群リスト22上における複数の未採点解答パタン群18を、簡単に全て一括して範囲選択することもできる。
上述のように、未採点解答パタン群範囲選択部30が、複数の未採点解答パタン群18を範囲選択することにより、複数の未採点解答パタン群18をまとめて採点する。すなわち、それぞれの未採点解答パタン群18に含まれる同一の解答内容の複数の未採点解答データ14に対し、採点情報48が一気に付加される。
採点により、未採点解答パタン群18に採点情報48が付加されて採点済解答パタン群31とされる。最終的には、採点済解答パタン群31に対応する未採点解答データ14に採点情報48が付加され採点済解答パタン群31の採点済解答データ16となる。従って、残存する未採点解答パタン群18が減少し、採点処理済の採点済解答パタン群31が増加する。
採点により、未採点解答パタン群18に採点情報48が付加されて採点済解答パタン群31とされる。最終的には、採点済解答パタン群31に対応する未採点解答データ14に採点情報48が付加され採点済解答パタン群31の採点済解答データ16となる。従って、残存する未採点解答パタン群18が減少し、採点処理済の採点済解答パタン群31が増加する。
第2採点モード44においても、第1採点モード42においてと同様に、検索モード採点用群リスト52上において、未採点解答パタン群18を個別に選択して採点を行うことができ、また、未採点解答パタン群18の採点をまとめて行うことができるようになっている。未採点解答パタン群18を個別に選択する手法及び未採点解答パタン群18をまとめて選択する手法については、第1採点モード42においてと同様であるので説明を省略する。
なお、上述のような手法により選択された状態の未採点解答パタン群18に対して、採点者がおこなう採点について説明する。
未採点解答データ14がまとめられた未採点解答パタン群18が採点されることにより、同一の解答内容の未採点解答データ14をまとめて採点された状態とすることができる。従って、同一の解答内容の未採点解答データ14が、数個〜数十万個に及ぶような場合においても、同一の解答内容の未採点解答パタン群18(又は未採点解答データ14)一個を個別に採点する、すなわち、未採点解答パタン群18を採点することにより、同一の解答内容の未採点解答データ14に対して同一の採点情報48を繰り返し付加する繰り返し作業の必要がなくなり、採点の回数が低減でき且つ採点処理の負荷を大きく低減することが可能となる。
未採点解答データ14がまとめられた未採点解答パタン群18が採点されることにより、同一の解答内容の未採点解答データ14をまとめて採点された状態とすることができる。従って、同一の解答内容の未採点解答データ14が、数個〜数十万個に及ぶような場合においても、同一の解答内容の未採点解答パタン群18(又は未採点解答データ14)一個を個別に採点する、すなわち、未採点解答パタン群18を採点することにより、同一の解答内容の未採点解答データ14に対して同一の採点情報48を繰り返し付加する繰り返し作業の必要がなくなり、採点の回数が低減でき且つ採点処理の負荷を大きく低減することが可能となる。
また、以後、サーバー側コンピュータ2及び/又はクライアント側コンピュータ4において、未採点解答パタン群18に対して採点を行えるので、未採点解答データ14を全て採点する場合に比べて、採点の対象となるデータの点数を大きく低減することができ、以後のコンピュータの処理負荷及び採点者の採点処理の処理負荷を低減することができる。以後、サーバー側コンピュータ2及び/又はクライアント側コンピュータ4において、未採点解答パタン群18に対して採点情報48を付加する処理を行うこととし、未採点解答パタン群18に付加された採点情報48を、未採点解答データ14に付加する処理(採点情報48を同期させる処理)は、例えば、30分、1時間等の一定時間置き、又は後述するステップS8、ステップS10等の段階で適宜行うこととする。
図2、図3等に示すような処理において、「採点をおこなう」とは、試験内容に応じてあらかじめ定められた採点情報の種類、例えば、「○又は×」、「○、△又は×」、「1点、2点又は3点」などの採点情報48の種類の中から一つの採点情報48を選択し、この選択した採点情報48を付加する行為を示す。また、このことを「採点値の付与」、「採点情報の付加」等とも呼ぶことがある。なお、本実施形態においては、図3、図4等に示すように付加される採点情報の種類は、「○、△又は×」の3種類となっているが、「1点、2点又は3点」等の3種類の採点情報を付加するようになっていてもよい。さらに、採点者が任意の採点情報48を自由に付加できるように形成されていてもよい。例えば、所定の数値範囲の0点〜10点等の点数のうち任意の点数を自由に付加できるように形成されていてもよい。また、例えば、本実施形態においては、付加される採点情報の種類は3つ(正解評価を示す○、不正解評価を示す×、部分的な正解として部分点を付加する評価を示す△)であるが、他の実施形態として、例えば、付加される採点情報の種類を2つ(正解評価を示す○、不正解評価を示す×)のみとすることもできる。
なお、図3及び図4に示すように、第1採点モード42及び第2採点モード44のいずれにおいても、採点者は、適宜、試験問題を確認することができる問題を見るボタン51や、模範解答の内容を確認することができる模範解答を見るボタン53を利用することもできる。また、第1採点モード42及び第2採点モード44のいずれにおいても、問題を見るボタン51、模範解答を見るボタン53等に代えて又は加えて、採点基準を表示させる採点基準表示ボタン、採点対象となっている答案に関する未採点解答データとしてテキスト化される前の答案画像(受験者の作成した答案の原本の画像)を表示させる原答案画像表示ボタン等を画面上に設けることもできる。
また、第1採点モード42及び第2採点モード44のいずれにおいても、進行状況確認部55が設けられている。進行状況確認部55は、採点開始時における採点されるべき未採点解答パタン群18の総数のうち、既に処理された未採点解答パタン群18の合計数、すなわち採点済解答パタン群31の合計数を示しており、採点の進行状況を示している。
また、第1採点モード42及び第2採点モード44のいずれにおいても、進行状況確認部55が設けられている。進行状況確認部55は、採点開始時における採点されるべき未採点解答パタン群18の総数のうち、既に処理された未採点解答パタン群18の合計数、すなわち採点済解答パタン群31の合計数を示しており、採点の進行状況を示している。
ステップS7に示すように、ある採点者が採点処理し、採点情報48の付加された採点済解答パタン群31は、その採点者の採点済解答パタン群31として、クライアント側コンピュータ4及び/又はサーバー側コンピュータ2に記憶される。
ステップS8に示すように、その採点者の採点済解答パタン群31が、クライアント側コンピュータ4に記憶される場合には、同じその採点者の採点済解答パタン群31のデータがサーバー側コンピュータ2に記憶される。ステップS8においては、別の採点者が別の又は同じクライアント側コンピュータ4で独立して同じ試験問題に対する全部の未採点解答パタン群18の採点を行うことにより作成された別採点者採点済解答パタン群72のデータも、サーバー側コンピュータ2に記憶される。よって、独立して採点を行う複数の採点者の別採点者採点済解答パタン群72のデータが、それぞれサーバー側コンピュータ2に記憶されている状態となる。
ステップS8に示すように、その採点者の採点済解答パタン群31が、クライアント側コンピュータ4に記憶される場合には、同じその採点者の採点済解答パタン群31のデータがサーバー側コンピュータ2に記憶される。ステップS8においては、別の採点者が別の又は同じクライアント側コンピュータ4で独立して同じ試験問題に対する全部の未採点解答パタン群18の採点を行うことにより作成された別採点者採点済解答パタン群72のデータも、サーバー側コンピュータ2に記憶される。よって、独立して採点を行う複数の採点者の別採点者採点済解答パタン群72のデータが、それぞれサーバー側コンピュータ2に記憶されている状態となる。
図2に示すように、ステップS8においては、仮評価確定部75が、ある採点者が採点済解答パタン群31に付加した採点情報48と、別の採点者が同じ未採点解答パタン群18の採点を行って作成した別採点者採点済解答パタン群72に付加した別採点者採点情報74とを比較する処理を省略し、ある採点者が採点済解答パタン群31に付加した採点情報48を、仮の評価として決定し、仮評価の採点情報48が付されている採点済解答パタン群31を仮評価確定済解答パタン群71として決定する。
仮評価確定部75が設けられることにより、ある採点者が採点を開始して比較的早期の段階においても、自身が採点することにより採点済解答パタン群31に付加した採点情報48の全てを利用して、採点済解答パタン群31及びその採点情報48(すなわち仮評価確定済解答パタン群71)を後述するステップS11の採点情報予測部78における採点情報の予測に反映させることができる。
よって、大量の解答データの採点を行うような場合に、後述するような評価確定部76が、ある採点者の採点情報48と、別の採点者の別採点者採点情報74とを比較し、評価確定済解答パタン群70を決定する処理において、ある採点者と、別の採点者とが同じ問題に対して共通の採点情報48を決定するまでに比較的時間を要するような場合においても、仮評価確定部75により仮評価確定済解答パタン群71を後述するステップS11の採点情報予測部78における採点情報の予測に反映させることができ、採点者が採点情報予測部78の予測結果80を採点初期の段階から効率的に活用することができ、大量の解答を高速且つ正確に採点することが可能となる。
仮評価確定部75が設けられることにより、ある採点者が採点を開始して比較的早期の段階においても、自身が採点することにより採点済解答パタン群31に付加した採点情報48の全てを利用して、採点済解答パタン群31及びその採点情報48(すなわち仮評価確定済解答パタン群71)を後述するステップS11の採点情報予測部78における採点情報の予測に反映させることができる。
よって、大量の解答データの採点を行うような場合に、後述するような評価確定部76が、ある採点者の採点情報48と、別の採点者の別採点者採点情報74とを比較し、評価確定済解答パタン群70を決定する処理において、ある採点者と、別の採点者とが同じ問題に対して共通の採点情報48を決定するまでに比較的時間を要するような場合においても、仮評価確定部75により仮評価確定済解答パタン群71を後述するステップS11の採点情報予測部78における採点情報の予測に反映させることができ、採点者が採点情報予測部78の予測結果80を採点初期の段階から効率的に活用することができ、大量の解答を高速且つ正確に採点することが可能となる。
図2に示すように、ステップS9及びS10においては、評価確定部76が、ある採点者が採点済解答パタン群31に付加した採点情報48と、別の採点者が同じ未採点解答パタン群18の採点を行って作成した別採点者採点済解答パタン群72に付加した別採点者採点情報74とを比較し、採点情報48及び別採点者採点情報74が一致した採点済解答パタン群31及び別採点者採点済解答パタン群72を、評価が確定され且つ解答内容に対して信頼性の高い採点情報48が付されている評価確定済解答パタン群70として決定する。ステップS9に示すように、採点情報48と、別採点者採点情報74とが不一致となる場合には、最終採点者又は他の者が、採点情報48及び別採点者採点情報74の内容を判断して、採点情報48及び別採点者採点情報74の評価を一致させ且つ確定させる。
評価確定部76が、設けられることにより、信頼性の高い採点情報が付されている評価確定済解答パタン群70を利用して、後述するステップS11の採点情報予測部78における採点情報の予測に反映させることができる。なお、上述の仮評価確定部75が仮評価確定済解答パタン群71の採点情報48を決定し、仮評価確定済解答パタン群71に基づいて採点情報予測部78における採点情報48の予測を行った後に、評価確定部76が、評価確定済解答パタン群70の採点情報48を決定する場合には、この評価確定済解答パタン群70に付加された採点情報48を、仮評価確定済解答パタン群71の採点情報48に代えて決定する。すなわち、必要な場合には、仮評価確定済解答パタン群71の採点情報48を評価確定済解答パタン群70に付加された採点情報48に修正する処理を行う。よって、以後は、評価確定済解答パタン群70とされた採点済解答パタン群31の採点情報48に基づいて採点情報予測部78における採点情報48の予測が行われる。
評価確定部76が、採点情報48が付されている評価確定済解答パタン群70を確定させると、この評価確定済解答パタン群70の採点情報48が、評価確定済解答パタン群70の対応する採点済解答データ16の採点情報48として記録される。全ての評価確定済解答パタン群70が確定されると、採点者の採点処理は終了となり、全ての採点済解答データ16に採点情報48が付加された状態となる。
なお、早期採点情報予測部84が、予め決定された解答語句(例えば、模範解答の内容)を、模範解答の解答内容を有する採点済解答パタン群31として設定することができる。このような手法としては、前述のように、模範解答を特別な受験番号を付した未採点解答データ14として設定し、採点開始初期に、模範解答の内容を有する未採点解答パタン群18を採点し、正解の採点情報48を付加した採点済解答パタン群31とし、採点済解答パタン群31を含む仮評価確定済解答パタン群71又は評価確定済解答パタン群70を利用して、採点者が採点の早期の段階から未採点解答パタン群31に対して予測される採点情報48を参考にして採点を行うことができることによる。また、他の手法としては、採点開始前又は採点開始初期に、予め決定された所定の語句を解答内容又は採点済解答パタン群31として予め直接設定するようにしてもよい。この場合には、早期採点情報予測部84は、採点の早期の段階から、所定の語句(例えば模範解答の語句)と、採点用群リスト22上の未採点解答パタン群18の解答内容との類似度を判断することにより予測される採点情報48の予測結果を、採点用群リスト22上の未採点解答パタン群18に対して表示させることができる。よって、採点者が採点の早期の段階から予め設定された語句に対して予測される採点情報48を参考にして未採点解答パタン群18の採点を行うことができる。
また、早期採点情報予測部84は、予め決定された解答語句(例えば、代表的不正解解答の内容)を、代表的な不正解の解答内容を有する採点済解答パタン群31として設定することができる。このような手法としては、前述のように、代表的不正解解答を特別な受験番号を付した未採点解答データ14として設定し、採点開始初期に、代表的不正解解答の内容を有する未採点解答パタン群18を採点し、不正解の採点情報48を付加した採点済解答パタン群31とし、採点済解答パタン群31を含む仮評価確定済解答パタン群71又は評価確定済解答パタン群70を利用して、採点者が採点の早期の段階から未採点解答パタン群31に対して予測される採点情報48を参考にして採点を行うことができることによる。
よって、採点の早期の段階から採点済解答パタン群31に基づいて未採点解答パタン群18に対して予測される予測結果80を採点用群リスト22に表示させることができるので、採点者が未採点解答パタン群18に対して予測される予測結果80を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
ステップS11においては、採点情報予測部78が、仮評価確定部75により決定された仮評価確定済解答パタン群71の解答内容又は評価確定部76により決定された評価確定済解答パタン群70の解答内容と、未採点解答パタン群18の解答内容との類似度を判断することにより予測される採点情報48の予測結果80を、採点用群リスト22及び検索モード採点用群リスト52に表示させる。
採点情報予測部78は、サーバー側コンピュータ2に記憶されている評価確定済解答パタン群70及び/又は仮評価確定済解答パタン群71と、採点用群リスト22及び検索モード採点用群リスト52上の未採点解答パタン群18とを比較し、且つこれらの類似度を判断する。採点情報予測部78は、評価確定部76により決定された評価確定済解答パタン群70の解答内容と、未採点解答パタン群18の解答内容との類似度を計算する処理を行っている。類似度の計算の処理については、前述のある解答内容と他の解答内容との類似度の計算を行う場合の計算方法と同じ計算方法を用いているので説明を省略する。採点情報予測部78は、採点用群リスト22上の各々の未採点解答パタン群18に最も類似する仮評価確定済解答パタン群71及び/又は評価確定済解答パタン群70を探し、この仮評価確定済解答パタン群71及び/又は評価確定済解答パタン群70に付加された採点情報48を採点用群リスト22上の各々の未採点解答パタン群18に対して表示させる。さらに、各々の未採点解答パタン群18と、仮評価確定済解答パタン群71及び/又は評価確定済解答パタン群70との類似度に応じて、付加すべき採点情報48の予測確率を予測結果80として表示させる。上述のような類似度は0%〜100%までの割合により数値により算出され、後述する採点情報48の予測結果80の棒グラフの長さに反映される。なお、採点用群リスト22及び検索モード採点用群リスト52において類似度を0%〜100%までの数値により表示するようにしてもよい。これらの予測結果80は、対応する未採点解答パタン群18と対応して表示される。例えば、予測結果80は、対応する未採点解答パタン群18と共に同じ枠内に組み合わせて表示される。
採点情報予測部78は、サーバー側コンピュータ2に記憶されている評価確定済解答パタン群70及び/又は仮評価確定済解答パタン群71と、採点用群リスト22及び検索モード採点用群リスト52上の未採点解答パタン群18とを比較し、且つこれらの類似度を判断する。採点情報予測部78は、評価確定部76により決定された評価確定済解答パタン群70の解答内容と、未採点解答パタン群18の解答内容との類似度を計算する処理を行っている。類似度の計算の処理については、前述のある解答内容と他の解答内容との類似度の計算を行う場合の計算方法と同じ計算方法を用いているので説明を省略する。採点情報予測部78は、採点用群リスト22上の各々の未採点解答パタン群18に最も類似する仮評価確定済解答パタン群71及び/又は評価確定済解答パタン群70を探し、この仮評価確定済解答パタン群71及び/又は評価確定済解答パタン群70に付加された採点情報48を採点用群リスト22上の各々の未採点解答パタン群18に対して表示させる。さらに、各々の未採点解答パタン群18と、仮評価確定済解答パタン群71及び/又は評価確定済解答パタン群70との類似度に応じて、付加すべき採点情報48の予測確率を予測結果80として表示させる。上述のような類似度は0%〜100%までの割合により数値により算出され、後述する採点情報48の予測結果80の棒グラフの長さに反映される。なお、採点用群リスト22及び検索モード採点用群リスト52において類似度を0%〜100%までの数値により表示するようにしてもよい。これらの予測結果80は、対応する未採点解答パタン群18と対応して表示される。例えば、予測結果80は、対応する未採点解答パタン群18と共に同じ枠内に組み合わせて表示される。
採点情報予測部78は、採点情報予測色分け部82を備え、付加すべき採点情報48の予測結果80を、採点用群リスト22等に表示させる際に、採点情報予測色分け部82により付加すべき採点情報48の予測結果80を、採点情報48の種類に応じて色分けして採点用群リスト22等に表示させることができる。例えば、付加すべき採点情報48の予測結果80が○(正解)と判断された場合、○の採点情報の分類に応じて、採点情報48の予測結果80が緑色の記号及び棒グラフ等により示され、色分けして採点用群リスト22等に表示される。同様に、例えば、付加すべき採点情報48の予測結果80が×(不正解)と判断された場合、×の採点情報48の分類に応じて、採点情報48の予測結果80が赤色の記号及び棒グラフ等により示され、色分けして採点用群リスト22等に表示される。同様に、例えば、付加すべき採点情報48の予測結果80が△(部分的な正解として部分点を付加する解答)と判断された場合、△の採点情報48の分類に応じて、採点情報48の予測結果80が黄色の記号及び棒グラフ等により示され、色分けして採点用群リスト22等に表示される。
このように、採点用群リスト22等上において、付加すべき採点情報48の予測結果80の語句等が色付け及び色分けして表示されることにより、採点者が予測結果80の一致及び相違を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
採点情報48の予測結果80が色付け及び色分けされた色と、採点情報の種類に応じて分かれている採点情報付加ボタン66の色分けの色とが、同じ採点情報48についてはそれぞれ同じ色で対応するようになっているので、採点者が予測結果80に対応する採点情報付加ボタン66を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
採点情報48の予測結果80が色付け及び色分けされた色と、採点情報の種類に応じて分かれている採点情報付加ボタン66の色分けの色とが、同じ採点情報48についてはそれぞれ同じ色で対応するようになっているので、採点者が予測結果80に対応する採点情報付加ボタン66を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点用群リスト22等上において、付加すべき採点情報48の予測結果80が「○」、「×」、「△」等の記号により表示されることにより、採点者が予測結果80の一致及び相違を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点用群リスト22等上において、付加すべき採点情報48の予測結果80、すなわち予測確率が棒グラフにより表示されることにより、採点者が前記予測結果の精度及び予測確率を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
このように、付加すべき採点情報48の予測結果80が、色分け、記号表示、棒グラフ等の組合せにより各々の未採点解答パタン群18とともに表示されることから、個々の採点者が認識しやすく且つ比較的使いやすい補助表示手段により、有効に採点情報予測部78を活用することができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点用群リスト22等上において、付加すべき採点情報48の予測結果80、すなわち予測確率が棒グラフにより表示されることにより、採点者が前記予測結果の精度及び予測確率を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
このように、付加すべき採点情報48の予測結果80が、色分け、記号表示、棒グラフ等の組合せにより各々の未採点解答パタン群18とともに表示されることから、個々の採点者が認識しやすく且つ比較的使いやすい補助表示手段により、有効に採点情報予測部78を活用することができ、大量の解答を高速且つ正確に採点することが可能となる。
図2に示すような、採点補助システム1の開始画面及び採点の中断が生じた後のログイン時の処理について説明する。ログイン時の処理は、図2において、ステップS12により示される。
ステップS12において、採点者は採点補助システム1にログインする。ログイン後の開始画面から採点する試験問題を選択する。採点者が採点しようとする試験問題を選択すると、その試験問題に関する採点に必要なデータを、サーバー側コンピュータ2とクライアント側コンピュータ4とが必要に応じて通信を行い、採点者は、ステップS3の第1採点モード42に入ることができる。
なお、採点者が採点を中断する場合には、採点者は採点補助システム1からログアウトする。再び、採点者が採点を再び開始する場合には、同様に、採点者は採点補助システム1にログインして、採点する試験問題を選択することにより、ステップS3の第1採点モード42に入る。採点者が採点を中断する間、採点者ごとの第1採点モード42及び第2採点モード44等の状態を保存しておくことも可能である。このようにすることで、採点者は、ログイン後、すぐに前回の採点の続きを行うことが可能となる。
採点者が別の試験問題を選択した場合には、同様のフローにより、採点者は別の解答内容の採点を行うことができる。別の試験問題を採点する場合の処理は、本実施形態の試験問題を採点する場合の処理と同じであるので、説明を省略する。
ステップS12において、採点者は採点補助システム1にログインする。ログイン後の開始画面から採点する試験問題を選択する。採点者が採点しようとする試験問題を選択すると、その試験問題に関する採点に必要なデータを、サーバー側コンピュータ2とクライアント側コンピュータ4とが必要に応じて通信を行い、採点者は、ステップS3の第1採点モード42に入ることができる。
なお、採点者が採点を中断する場合には、採点者は採点補助システム1からログアウトする。再び、採点者が採点を再び開始する場合には、同様に、採点者は採点補助システム1にログインして、採点する試験問題を選択することにより、ステップS3の第1採点モード42に入る。採点者が採点を中断する間、採点者ごとの第1採点モード42及び第2採点モード44等の状態を保存しておくことも可能である。このようにすることで、採点者は、ログイン後、すぐに前回の採点の続きを行うことが可能となる。
採点者が別の試験問題を選択した場合には、同様のフローにより、採点者は別の解答内容の採点を行うことができる。別の試験問題を採点する場合の処理は、本実施形態の試験問題を採点する場合の処理と同じであるので、説明を省略する。
上述した本発明の一実施形態の採点補助システム1によれば、未採点解答群形成部20が記憶装置に記憶された複数の未採点解答データ14を、同一の解答内容ごとに分類することにより、各解答内容の未採点解答データ14を各々有する複数の未採点解答パタン群18を作成し、さらに、未採点解答群リスト形成部26が複数の未採点解答パタン群18からなる採点用群リスト22を、それぞれの未採点解答パタン群18の解答内容の比較のために、それぞれの未採点解答パタン群18の解答内容を採点者に示すように、表示部10上に表示させる。さらに、未採点解答群リスト形成部26自然言語処理の技術に基づいて、基準となる基準解答内容に対する、未採点解答パタン群18の解答内容の類似度を判断し、類似度が高い順に、採点用群リスト22の未採点解答パタン群18を並べた採点用群リスト22を、表示部10に表示させる機能を有する。さらに、未採点解答パタン群範囲選択部30が、表示部10に表示されている採点用群リスト22上の複数の未採点解答パタン群18のうち、操作部12による範囲選択操作により選択された未採点解答パタン群18を、同一の採点情報48を付加可能な状態に設定することができる。さらに、採点済解答パタン群形成部32が選択された未採点解答パタン群18に対し、操作部12の採点情報設定操作により設定された採点情報48を一括して付加して、選択された未採点解答パタン群18を採点済解答パタン群31に変更することができる。
従って、同一の解答内容を有する未採点解答データ14を各々有する未採点解答パタン群18をそれぞれの未採点解答パタン群18の解答内容の比較のために、それぞれの未採点解答パタン群18の解答内容を表示部10上に表示させ、且つ基準解答内容24に対する未採点解答パタン群18の解答内容の類似度を判断し、同様の採点情報48が付加される可能性の高い類似している複数の未採点解答パタン群を18を比較的近くの位置に並べた採点用群リスト22を表示させる。よって、採点用群リスト22上において上述のように表示された複数の未採点解答パタン群18のうち操作部12による範囲選択操作により選択された未採点解答パタン群18に採点情報48を一括して付加することができ、大規模に行われる記述式の試験において、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することを可能にする。
従って、同一の解答内容を有する未採点解答データ14を各々有する未採点解答パタン群18をそれぞれの未採点解答パタン群18の解答内容の比較のために、それぞれの未採点解答パタン群18の解答内容を表示部10上に表示させ、且つ基準解答内容24に対する未採点解答パタン群18の解答内容の類似度を判断し、同様の採点情報48が付加される可能性の高い類似している複数の未採点解答パタン群を18を比較的近くの位置に並べた採点用群リスト22を表示させる。よって、採点用群リスト22上において上述のように表示された複数の未採点解答パタン群18のうち操作部12による範囲選択操作により選択された未採点解答パタン群18に採点情報48を一括して付加することができ、大規模に行われる記述式の試験において、採点者が多数の解答の内容を確認しながら正確且つ効率的に採点することを可能にする。
また、本実施形態の採点補助システム1によれば、未採点解答パタン群検索リスト形成部34が、操作部12による検索キーワード設定操作により設定された検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群18を並べた検索モード採点用群リスト52を表示部10に表示させることができる。従って、未採点解答パタン群18をそれぞれの解答内容の全部の語句が見える状態で、表示部10に並べて表示させ、且つ同様の採点情報48が付加される可能性の高い検索キーワードを含む及び/又は含まない等の複数の未採点解答パタン群18に採点情報48を一括して付加することができ、大規模に行われる記述式の試験において、採点者が解答内容を判断した正確な採点を行うことができると共に、大量の解答を効率的に採点することを可能にする。
さらに、本実施形態の採点補助システム1によれば、モード切替部54は、第1採点モード42及び第2採点モード44のいずれにおいても、同じ試験問題に対する未採点解答パタン群18に対して、採点情報48を付加することができる。よって、例えば、特定の基準解答内容24に類似している未採点解答パタン群18が多く存在することにより第1採点モード42により効率的に採点ができる場合や、特定のキーワードを含む未採点解答パタン群18が多く存在することにより第2採点モード44により効率的に採点ができる場合等、いずれかのモードによればより効率的に採点ができる場合においては、同じ試験問題に対する未採点解答パタン群18の全部のうち、未採点解答パタン群18の解答内容に応じて、より採点がしやすいモードにおいて効率的に採点を行うことができる。
また、本実施形態の採点補助システム1によれば、表示数制限部36が、採点用群リスト22において、表示部10に表示する未採点解答パタン群18の数を所定の数に設定することができるので、それぞれの未採点解答パタン群18の解答内容の比較のためにそれぞれの未採点解答パタン群18の解答内容を表示部10上に表示させる処理負荷を低減しながら、効率的に採点を行うことができる。さらに、類似する解答内容を有する未採点解答パタン群18が多く存在する場合等には、一度に表示部10に表示する未採点解答パタン群18の数を増大させることにより、同様の採点情報が付加される可能性の高い未採点解答パタン群を多く表示させることができるため、一括して採点情報48を付加する未採点解答パタン群18の数を増大させることができ、大規模に行われる記述式の試験において、大量の解答を効率的に採点することを可能にする。
さらに、本実施形態の採点補助システム1によれば、色付表示部37が、採点用群リスト22において、基準解答内容24に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示することができる。採点用群リスト22において、基準解答内容24に含まれる語句と対応しない語句及び/又はその語句の背景を色付けして表示させることにより、採点者が基準解答内容24の語句との一致及び相違を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
また、本実施形態による採点補助システム1によれば、採点用群リスト調整部38は、ある採点用群リスト22が作成された状態から、所定の指標に基づいて、採点用群リスト22の内容を調整する。従って、未採点解答パタン群18を並べて表示させたある採点用群リスト22を、所定の指標に基づいて調整した内容の新たな採点用群リスト22に調整することができ、新たな採点用群リスト22において、同様の採点情報48が付加される可能性の高い複数の未採点解答パタン群18を順に並べるように調整し、且つ一括して選択して採点することができ、大規模に行われる記述式の試験において、採点者が解答内容を見て正確な採点を行うと共に、大量の解答を効率的に採点することを可能にする。
さらに、本実施形態の採点補助システム1によれば、評価確定部76が未採点解答パタン群18に対して採点した採点済解答パタン群31に付加されている採点情報48と、別採点者採点情報74と、を比較し、両者の採点情報48が一致した採点済解答パタン群31を、評価が確定され且つ解答内容に対して信頼性の高い採点情報48が付されている評価確定済解答パタン群71として決定することができる。従って、評価確定済解答パタン群71は、信頼性の高い採点情報が付されている状態となる。また、例えば、信頼性の高い採点情報48が付されている評価確定済解答パタン群71を、採点情報予測部78によって利用することも可能となり、大量の解答を正確に採点することが可能となる。
また、本実施形態の採点補助システム1によれば、採点情報予測部78が採点済解答パタン群31の解答内容と、採点用群リスト22上の未採点解答パタン群18の解答内容との類似度を判断することにより予測される採点情報48の予測結果80を、採点用群リスト22上の未採点解答パタン群18に対して表示させる。未採点解答パタン群18に対して表示させる。未採点解答パタン群18に対し、同様の採点情報48が付加される可能性の高い類似している採点済解答パタン群31から予測される採点情報48の予測結果80を採点用群リスト22上の未採点解答パタン群18に対してに表示させることができるので、採点者が未採点解答パタン群18に対して予測される採点情報48の予測結果80を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点済解答パタン群31を、評価確定済解答パタン群71として決定している場合には、信頼性の高い採点情報48が付されている評価確定済解答パタン群71の採点済解答パタン群31と、同様の採点情報48が付加される可能性の高い類似している未採点解答パタン群18に対して予測される採点情報38の予測結果を採点用群リスト22に表示させることができるので、採点者が未採点解答パタン群18に対して予測される採点情報48の予測結果をより参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
また、採点済解答パタン群31を、評価確定済解答パタン群71として決定している場合には、信頼性の高い採点情報48が付されている評価確定済解答パタン群71の採点済解答パタン群31と、同様の採点情報48が付加される可能性の高い類似している未採点解答パタン群18に対して予測される採点情報38の予測結果を採点用群リスト22に表示させることができるので、採点者が未採点解答パタン群18に対して予測される採点情報48の予測結果をより参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
さらに、本実施形態の採点補助システム1によれば、採点情報予測色分け部82が、予測される採点情報48の予測結果80を、採点情報48の分類に応じて色分けして表示部10に表示させることができる。従って、採点者が付加すべき採点情報48の予測結果80の分類を視覚的且つ感覚的に瞬時に把握することができ、大量の解答を高速且つ正確に採点することが可能となる。
さらに、本実施形態の採点補助システム1によれば、早期採点情報予測部84は、採点の早期の段階から、所定の語句と、採点用群リスト22上の未採点解答パタン群18の解答内容との類似度を判断することにより予測される採点情報48の予測結果80を、採点用群リスト22上の未採点解答パタン群18に対して表示させることができるので、採点者が採点の早期の段階から未採点解答パタン群18に対して予測される採点情報48を参考にして採点を行うことができ、大量の解答を高速且つ正確に採点することが可能となる。
1 採点補助システム
2 サーバー側コンピュータ
4 クライアント側コンピュータ
6 ネットワーク
8 記憶装置
10 表示部
12 操作部
14 未採点解答データ
16 採点済解答データ
18 未採点解答パタン群
18a 1番目の類似解答表示欄
18b 2番目の類似解答表示欄
18c 3番目の類似解答表示欄
18d 4番目の類似解答表示欄
18e 5番目の類似解答表示欄
18f 6番目の類似解答表示欄
18g 7番目の類似解答表示欄
18h 8番目の類似解答表示欄
18i 9番目の類似解答表示欄
18j 10番目の類似解答表示欄
20 未採点解答群形成部
22 採点用群リスト
24 基準解答内容
26 未採点解答群リスト形成部
28 未採点解答パタン群並べ部
30 未採点解答パタン群範囲選択部
31 採点済解答パタン群
32 採点済解答パタン群形成部
34 未採点解答パタン群検索リスト形成部
36 表示数制限部
37 色付表示部
38 採点用群リスト調整部
42 第1採点モード
44 第2採点モード
46 採点済解答リスト
48 採点情報
49 解答内容リスト
50 検索キーワード欄
52 検索モード採点用群リスト
54 モード切替部
56 修正モード
58 採点済解答パタン群検索リスト形成部
60 採点済解答パタン群検索リスト
62 採点済解答パタン群検索欄
64 採点情報欄
66 採点情報付加ボタン
68 ボタン
70 評価確定済解答パタン群
71 仮評価確定済解答パタン群
72 別採点者採点済解答パタン群
74 別採点者採点情報
75 仮評価確定部
76 評価確定部
78 採点情報予測部
80 予測結果
82 採点情報予測色分け部
84 早期採点情報予測部
2 サーバー側コンピュータ
4 クライアント側コンピュータ
6 ネットワーク
8 記憶装置
10 表示部
12 操作部
14 未採点解答データ
16 採点済解答データ
18 未採点解答パタン群
18a 1番目の類似解答表示欄
18b 2番目の類似解答表示欄
18c 3番目の類似解答表示欄
18d 4番目の類似解答表示欄
18e 5番目の類似解答表示欄
18f 6番目の類似解答表示欄
18g 7番目の類似解答表示欄
18h 8番目の類似解答表示欄
18i 9番目の類似解答表示欄
18j 10番目の類似解答表示欄
20 未採点解答群形成部
22 採点用群リスト
24 基準解答内容
26 未採点解答群リスト形成部
28 未採点解答パタン群並べ部
30 未採点解答パタン群範囲選択部
31 採点済解答パタン群
32 採点済解答パタン群形成部
34 未採点解答パタン群検索リスト形成部
36 表示数制限部
37 色付表示部
38 採点用群リスト調整部
42 第1採点モード
44 第2採点モード
46 採点済解答リスト
48 採点情報
49 解答内容リスト
50 検索キーワード欄
52 検索モード採点用群リスト
54 モード切替部
56 修正モード
58 採点済解答パタン群検索リスト形成部
60 採点済解答パタン群検索リスト
62 採点済解答パタン群検索欄
64 採点情報欄
66 採点情報付加ボタン
68 ボタン
70 評価確定済解答パタン群
71 仮評価確定済解答パタン群
72 別採点者採点済解答パタン群
74 別採点者採点情報
75 仮評価確定部
76 評価確定部
78 採点情報予測部
80 予測結果
82 採点情報予測色分け部
84 早期採点情報予測部
Claims (8)
- 記述式の試験問題に対する、単語又は文節を含む記述式の解答の手動の採点を補助する採点補助システムであって、
未だ採点されていない未採点解答データ及び採点により採点情報の付加された採点済解答データを記憶する記憶装置と、
採点を行うために少なくとも前記未採点解答データの解答内容を表示する表示部と、
採点する操作を行うための操作部と、
前記記憶装置に記憶された複数の未採点解答データを、同一の解答内容ごとに分類して、各解答内容の未採点解答データを各々有する複数の未採点解答パタン群を作成する未採点解答群形成手段と、
複数の前記未採点解答パタン群からなる採点用群リストを、それぞれの未採点解答パタン群の解答内容の比較のために、それぞれの未採点解答パタン群の解答内容を採点者に示すように、前記表示部上に表示させる未採点解答群リスト形成手段であって、
前記未採点解答群リスト形成手段は、自然言語処理の技術に基づいて、基準となる基準解答内容に対する、前記未採点解答パタン群の解答内容の類似度を判断し、類似度の高い順に前記採点用群リストの前記未採点解答パタン群を並べた前記採点用群リストを、前記表示部に表示させる未採点解答パタン群並べ機能を有する前記未採点解答群リスト形成手段と、
前記表示部に表示されている前記採点用群リスト上の前記複数の未採点解答パタン群のうち、前記操作部による範囲選択操作により選択された未採点解答パタン群を、同一の採点情報を付加可能な状態に設定する未採点解答パタン群範囲選択手段と、
選択された未採点解答パタン群に対し、前記操作部の採点情報設定操作により設定された採点情報を一括して付加して、前記選択された未採点解答パタン群を採点済解答パタン群に変更する採点済解答パタン群形成手段と、
前記操作部による検索キーワード設定操作により設定された検索キーワードに対して、所定の検索条件に応じて検索された未採点解答パタン群を並べた採点用群リストを前記表示部に表示させる未採点解答パタン群検索リスト形成手段と、
前記未採点解答群リスト形成手段の前記未採点解答パタン群並べ機能により類似度の高い順に前記未採点解答パタン群を並べた前記採点用群リスト上で採点を行う第1採点モードと、前記未採点解答パタン群検索リスト形成手段により前記未採点解答パタン群を並べた前記採点用群リスト上で採点を行う第2採点モードとを、切替えることができ、且つ、前記第1採点モード及び前記第2採点モードのいずれにおいても、同じ試験問題に対する前記未採点解答パタン群に対して、採点情報を付加することができるモード切替手段と、を有していることを特徴とする、採点補助システム。 - さらに、前記採点用群リストにおいて、表示部に表示する未採点解答パタン群の数を所定の数に設定する表示制限手段を有する、請求項1に記載の採点補助システム。
- さらに、前記採点用群リストにおいて、基準解答内容に含まれる語句と対応しない語句及び/又はその語句の背景を、色付けして表示する色付表示手段を有する、請求項1又は2に記載の採点補助システム。
- さらに、ある前記採点用群リストが作成された状態から、所定の指標に基づいて、前記採点用群リストの内容を調整する採点用群リスト調整手段を有する、請求項1乃至3の何れか1項に記載の採点補助システム。
- 前記記憶装置は、同じ試験問題に対する未採点解答パタン群に対して独立して別に採点を行う他の採点者が、同じ各々の未採点解答パタン群に対して採点した別採点者採点済解答パタン群に付加されている別採点者採点情報を記憶し、
前記採点補助システムは、さらに、前記未採点解答パタン群に対して採点した前記採点済解答パタン群に付加されている前記採点情報と、前記別採点者採点情報と、を比較し、両者の採点情報が一致した前記採点済解答パタン群を、評価確定済解答パタン群として決定する、評価確定手段を有する、請求項1乃至4の何れか1項に記載の採点補助システム。 - さらに、前記採点済解答パタン群の解答内容と、前記採点用群リスト上の前記未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、前記採点用群リスト上の前記未採点解答パタン群に対して表示させる採点情報予測手段を備える、請求項1乃至5の何れか1項に記載の採点補助システム。
- 前記採点情報予測手段は、予測される採点情報の予測結果を、採点情報の分類に応じて色分けして前記表示部に表示させる採点情報予測色分け手段を備える、請求項6に記載の採点補助システム。
- 前記採点情報予測手段は、所定の語句と、前記採点用群リスト上の前記未採点解答パタン群の解答内容との類似度を判断することにより予測される採点情報の予測結果を、前記採点用群リスト上の前記未採点解答パタン群に対して表示させる早期採点情報予測手段を備える、請求項6に記載の採点補助システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016053992A JP6254629B2 (ja) | 2016-03-17 | 2016-03-17 | 採点補助システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016053992A JP6254629B2 (ja) | 2016-03-17 | 2016-03-17 | 採点補助システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017167413A JP2017167413A (ja) | 2017-09-21 |
JP6254629B2 true JP6254629B2 (ja) | 2017-12-27 |
Family
ID=59910155
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016053992A Expired - Fee Related JP6254629B2 (ja) | 2016-03-17 | 2016-03-17 | 採点補助システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6254629B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7067751B2 (ja) * | 2017-09-28 | 2022-05-16 | 株式会社デジタル・ナレッジ | 教材オーサリングシステム |
JP2019113591A (ja) * | 2017-12-21 | 2019-07-11 | カシオ計算機株式会社 | 採点支援装置、その制御方法及び制御プログラム |
WO2019225229A1 (ja) * | 2018-05-25 | 2019-11-28 | 日本電気株式会社 | 採点装置、採点方法、記録媒体 |
JP7247481B2 (ja) * | 2018-07-17 | 2023-03-29 | 大日本印刷株式会社 | 情報処理装置及びプログラム |
JP7281905B2 (ja) * | 2019-01-15 | 2023-05-26 | 株式会社日立ソリューションズ西日本 | 文書評価装置、文書評価方法及びプログラム |
US20220130270A1 (en) * | 2019-02-15 | 2022-04-28 | Nec Corporation | Grading support device, grading support system, and grading support method |
JP6943999B2 (ja) * | 2020-03-04 | 2021-10-06 | 株式会社グロービス | レポート評価装置、レポート評価方法、及びプログラム |
JP7084003B1 (ja) | 2020-12-13 | 2022-06-14 | 株式会社新興出版社啓林館 | 英作文添削結果分析システム |
JP7387101B2 (ja) * | 2021-12-09 | 2023-11-28 | 株式会社ナスピア | 文章解答問題自動採点システム及びその方法 |
JP7273134B1 (ja) * | 2021-12-23 | 2023-05-12 | 株式会社Z会 | 添削済答案検索装置、添削済答案検索方法、プログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000284678A (ja) * | 1999-03-31 | 2000-10-13 | Nippon Telegr & Teleph Corp <Ntt> | 採点評価支援装置 |
JP2004029107A (ja) * | 2002-06-21 | 2004-01-29 | Nec Engineering Ltd | 答案採点処理システム |
JP2004038111A (ja) * | 2002-07-08 | 2004-02-05 | Ricoh Co Ltd | 回答パターン作成システム |
JP2005331615A (ja) * | 2004-05-18 | 2005-12-02 | Nippon Telegr & Teleph Corp <Ntt> | 文章評価装置および文章評価方法 |
JP2006277086A (ja) * | 2005-03-28 | 2006-10-12 | Nippon Tokei Jimu Center:Kk | 採点支援方法、採点支援システム、採点支援装置、採点管理装置及びコンピュータプログラム |
JP2007286409A (ja) * | 2006-04-18 | 2007-11-01 | Hitachi Ltd | 採点支援装置 |
JP4516136B2 (ja) * | 2008-03-19 | 2010-08-04 | 株式会社教育測定研究所 | 答案分析処理方法及び答案分析処理システム |
JP2012022185A (ja) * | 2010-07-15 | 2012-02-02 | Japan Institute For Educational Measurement Inc | 答案分類支援システム |
-
2016
- 2016-03-17 JP JP2016053992A patent/JP6254629B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2017167413A (ja) | 2017-09-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6254629B2 (ja) | 採点補助システム | |
US9501540B2 (en) | Interactive visualization of big data sets and models including textual data | |
JP5186342B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
US10114888B2 (en) | Terminal, system, method, and program for presenting sentence candidate | |
JP7147185B2 (ja) | 情報処理装置、情報処理方法及び情報処理プログラム | |
JP5382698B2 (ja) | 自動演習システム及び自動演習プログラム | |
JP2019114224A (ja) | 検索方法、検索プログラム及び検索装置 | |
CN111665954A (zh) | 字符输入装置和存储字符输入程序的非暂时性记录介质 | |
JP7099521B2 (ja) | 採点装置、採点方法、記録媒体 | |
US10268640B1 (en) | System for communication of object-directed feelings | |
JP5877775B2 (ja) | コンテンツ管理装置、コンテンツ管理システム、コンテンツ管理方法、プログラム、及び記憶媒体 | |
KR101412112B1 (ko) | 오답에 대한 시각화 패턴을 이용한 학습 장치 및 학습 방법 | |
Miller et al. | Cluster-based find and replace | |
WO2019087593A1 (ja) | 文書検索装置および方法 | |
JP5098632B2 (ja) | 活動管理装置、活動管理システムおよび活動管理プログラム | |
JP4922030B2 (ja) | 文字列検索装置、方法及びプログラム | |
WO2024079827A1 (ja) | 動線集約装置、方法、及びプログラム | |
US11830381B2 (en) | Information processing apparatus, information processing method, and recording medium | |
JP6996618B2 (ja) | 適応型インタフェース提供装置、適応型インタフェース提供方法、及びプログラム | |
KR20190014195A (ko) | 검색을 통한 폰트 제시 시스템 및 방법 | |
Manual | SPSS | |
US20230281745A1 (en) | Rule watch system | |
JP7172219B2 (ja) | 情報処理装置及びプログラム | |
TWI627614B (zh) | Reading aided learning system using computer dictionary | |
JP5800905B2 (ja) | 語学学習装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171120 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171130 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6254629 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |