KR20220056286A - 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템 - Google Patents
지식 베이스를 이용한 직무시험 문항 자동 추출 시스템 Download PDFInfo
- Publication number
- KR20220056286A KR20220056286A KR1020200140355A KR20200140355A KR20220056286A KR 20220056286 A KR20220056286 A KR 20220056286A KR 1020200140355 A KR1020200140355 A KR 1020200140355A KR 20200140355 A KR20200140355 A KR 20200140355A KR 20220056286 A KR20220056286 A KR 20220056286A
- Authority
- KR
- South Korea
- Prior art keywords
- job
- question
- knowledge
- questions
- knowledge base
- Prior art date
Links
- 238000012360 testing method Methods 0.000 title claims abstract description 19
- 238000000605 extraction Methods 0.000 title claims abstract description 9
- 238000013507 mapping Methods 0.000 claims abstract description 16
- 238000013461 design Methods 0.000 claims abstract description 4
- 238000000034 method Methods 0.000 claims description 16
- 238000010586 diagram Methods 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 8
- 239000000203 mixture Substances 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000012567 pattern recognition method Methods 0.000 description 1
- 230000007115 recruitment Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/20—Education
- G06Q50/205—Education administration or guidance
- G06Q50/2057—Career enhancement or continuing education service
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/105—Human resources
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Data Mining & Analysis (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Primary Health Care (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
직무능력 표준 설명서로부터 직무 내용을 구조적으로 추출하여 정형화된 직무 지식 베이스를 구축하고, 직무시험 문항의 패턴을 설정하고 직무지식 데이터와 문항 패턴 간의 매핑 구조를 규격화 하여, 원하는 직무 분야의 문항을 자동으로 추출하는, 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템에 관한 것으로서, 직무 표준 설명서에서 직무 지식을 수집하는 직무지식 수집부; 수집된 직무지식을 정형화 하여 직무지식 베이스를 구축하는 직무지식 구축부; 문항 패턴을 설정하는 문항패턴 설정부; 문항패턴에 직무지식의 매핑 구조를 규격화 하는 매핑구조 설계부; 출제할 문제의 출제 분야, 문제 난이도를 입력받는 출제요청 입력부; 및, 출제요청에 따라 문항을 추출하는 문항 추출부를 포함하는 구성을 마련한다.
상기와 같은 시스템에 의하여, 비정형의 NCS 직무 지식을 정형화 하여 직무역량 문항을 자동으로 추출함으로써, 직무지식 시험문항을 출제하기 위한 시간과 비용을 획기적으로 줄일 수 있다.
상기와 같은 시스템에 의하여, 비정형의 NCS 직무 지식을 정형화 하여 직무역량 문항을 자동으로 추출함으로써, 직무지식 시험문항을 출제하기 위한 시간과 비용을 획기적으로 줄일 수 있다.
Description
본 발명은 직무능력 표준 설명서로부터 직무 내용을 구조적으로 추출하여 정형화된 직무 지식 베이스를 구축하고, 직무시험 문항의 패턴을 설정하고 직무지식 데이터와 문항 패턴 간의 매핑 구조를 규격화 하여, 원하는 직무 분야의 문항을 자동으로 추출하는, 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템에 관한 것이다.
정부 또는 공공기관에서 산업현장의 직무능력 향상 및 이를 위한 교육훈련을 위하여 산업현장의 직무들에 필요한 지식을 체계화 하고 표준화 하고 있다. 일례로서, 산업현장의 직무를 성공적으로 수행하기 위해 필요한 능력(지식, 기술, 태도)을 국가직무능력표준(NCS: National Competency Standards)으로 체계화하고 표준화하고 있다. 또한, NCS의 능력 단위를 교육훈련에서 학습할 수 있도록, 교수 및 학습 자료들을 NCS 학습모듈로 작성하고 있다.
한편, 이러한 NCS 체계에 따라 각 학습자의 직무 지식 수준을 평가하는 평가 도구가 필요하다. 가장 기본적인 평가 도구는 직무 지식에 대한 문제를 출제하여 그 평가 점수로 직무지식 수준을 평가할 수 있다.
일반적으로, 문제 출제자들은 정해져 있는 문제 유형에 따라 직접 문제를 만들거나 문제은행 데이터베이스에 저장된 문제들을 추출하여 문제를 만든다. 직접 문제를 만드는 방법에는 출제자의 업무량이 과다하고 또한 출제 문제의 오류가 발생할 수 있는 문제가 있다. 또한, 문제은행 데이터베이스를 이용하는 방법도 문제은행을 구축하기 위해 많은 문제를 직접 출제해두어야 하는 문제가 있다. 이를 위해, 어학분야 등에서 문제를 자동으로 추출하는 기술들이 제시되고 있다[특허문헌 1,2,3].
그런데 NCS의 직무 지식은 각 산업 분야별 지식으로 구성되므로 그 내용이 비정형적이고 방대하다. 따라서 각 산업분야별 직무 지식 문제를 출제하기 위해 많은 시간과 비용이 소요된다. 특히, 최근 국내의 정부기관과 기업들의 직무 중심 채용이 크게 확대되고 있어 이에 대한 수요가 증가되고 있다. 이러한 수요에 대해, 인터넷 강의나 교재 등이 개발되고 있지만 이는 수기로 개발되어 추가적인 비용이 지속적으로 발생하고 있다.
따라서 직무지식에 대한 문제 문항을 자동으로 추출하는 기술이 필요하다.
본 발명의 목적은 상술한 바와 같은 문제점을 해결하기 위한 것으로, 직무능력 표준 설명서로부터 직무 내용을 구조적으로 추출하여 정형화된 직무 지식 베이스를 구축하고, 직무시험 문항의 패턴을 설정하고 직무지식 데이터와 문항 패턴 간의 매핑 구조를 규격화 하여, 원하는 직무 분야의 문항을 자동으로 추출하는, 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템을 제공하는 것이다.
특히, 본 발명의 목적은 국가에서 발행하는 NCS의 비정형 데이터들을 수집하여 정형 데이터로 변환하고, 변환된 데이터를 전처리 후 자연어 처리 과정을 통한 NCS 데이터를 구축하는, 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템을 제공하는 것이다.
또한, 본 발명의 목적은 구축된 NCS 데이터에서 직무역량 문항으로 추출할 수 있는 규칙과 패턴을 도출하여, 이를 패턴 지식베이스로 구성하여 이를 처리할 수 있는 패턴 인식 방법과 직무 평가 문항을 생성하는, 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템을 제공하는 것이다.
상기 목적을 달성하기 위해 본 발명은 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템에 관한 것으로서, 직무 표준 설명서에서 직무 지식을 수집하는 직무지식 수집부; 수집된 직무지식을 정형화 하여 직무지식 베이스를 구축하는 직무지식 구축부; 문항 패턴을 설정하는 문항패턴 설정부; 문항패턴에 직무지식의 매핑 구조를 규격화 하는 매핑구조 설계부; 출제할 문제의 출제 분야, 문제 난이도를 입력받는 출제요청 입력부; 및, 출제요청에 따라 문항을 추출하는 문항 추출부를 포함하는 것을 특징으로 한다.
또한, 본 발명은 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템에 있어서, 상기 직무표준 설명서는 NCS(National Competency Standards) 학습모듈인 것을 특징으로 한다.
상술한 바와 같이, 본 발명에 따른 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템에 의하면, 비정형의 NCS 직무 지식을 정형화 하여 직무역량 문항을 자동으로 추출함으로써, 직무지식 시험문항을 출제하기 위한 시간과 비용을 획기적으로 줄일 수 있는 효과가 얻어진다.
도 1은 직무데이터기반 직무 역량 문항 자동 생성 전체 프로세스에 대한 도면.
도 2는 직무역량 평가 문항 구성 절차에 대한 도면.
도 3은 학습모듈 메타 구조에 대한 도면.
도 4는 학습모듈 메타 구조별 예시에 대한 도면.
도 5는 학습모듈 전문 중 일부 예시에 대한 도면.
도 6은 문항 패턴별 메타 참조 Mapping Table에 대한 도면.
도 7은 문항유형 분류별 상세 연관 메타 데이터(객관식)에 대한 예시도.
도 8은 문항유형 분류별 상세 연관 메타 데이터(선택형)에 대한 예시도.
도 9는 문항유형 분류별 상세 연관 메타 데이터(단답형)에 대한 예시도.
도 10은 문항유형 분류별 상세 연관 메타 데이터(서술형)에 대한 예시도.
도 11은 문항유형 분류별 상세 연관 메타 데이터(자기보고식)에 대한 예시도.
도 12는 메타별 문항 형식 예시도.
도 13 내지 도 16은 직무기술서 및 학습 모듈기반의 Mapping Table 설계에 대한 예시도.
도 17은 Mapping Table기반의 객관식, 주관식 문항 생성 방안 예시도.
도 2는 직무역량 평가 문항 구성 절차에 대한 도면.
도 3은 학습모듈 메타 구조에 대한 도면.
도 4는 학습모듈 메타 구조별 예시에 대한 도면.
도 5는 학습모듈 전문 중 일부 예시에 대한 도면.
도 6은 문항 패턴별 메타 참조 Mapping Table에 대한 도면.
도 7은 문항유형 분류별 상세 연관 메타 데이터(객관식)에 대한 예시도.
도 8은 문항유형 분류별 상세 연관 메타 데이터(선택형)에 대한 예시도.
도 9는 문항유형 분류별 상세 연관 메타 데이터(단답형)에 대한 예시도.
도 10은 문항유형 분류별 상세 연관 메타 데이터(서술형)에 대한 예시도.
도 11은 문항유형 분류별 상세 연관 메타 데이터(자기보고식)에 대한 예시도.
도 12는 메타별 문항 형식 예시도.
도 13 내지 도 16은 직무기술서 및 학습 모듈기반의 Mapping Table 설계에 대한 예시도.
도 17은 Mapping Table기반의 객관식, 주관식 문항 생성 방안 예시도.
이하, 본 발명의 실시를 위한 구체적인 내용을 도면에 따라서 설명한다.
또한, 본 발명을 설명하는데 있어서 동일 부분은 동일 부호를 붙이고, 그 반복 설명은 생략한다.
먼저, 본 발명의 일실시예에 따른 전체 프로세스를 설명한다.
도 1은 직무 역량 평가 문항 자동 생성에 대한 전체 프로세스를 도식화한 결과이다.
○ 첫째, 국가에서 제시한 NCS데이터인 직무기술서(.hwp)와 학습모듈(.pdf)를 자동으로 수집을 진행함
○ 둘째, 수집된 한글파일과 PDF파일을 PDF파서와 한글파서를 기반으로 파일 메타 및 컨텐츠를 감지하여 비정형 데이터를 정형 데이터로 변환시킴
○ 셋째, 변환시킨 데이터를 기반으로 형태소분석 및 키워드 추출을 하여 정의된 패턴 지식베이스를 기반으로 직무역량 문항을 추출함
○ [그림 2]는 직무 역량 평가 문항을 구성하기 위한 절차임
○ Process1은 학습모듈 파일을 자동으로 수집하는 단계로 NCS학습모듈 개방 사이트를 통해 학습모듈 파일을 자동으로 수집함
○ Process2는 학습모듈 파일 주고 분석 단계로 NCS 학습모듈 PDF 파일의 학습모듈을 구성하는 메타데이터들의 계층적 구조와 특징을 분석함
○ Process3는 학습모듈 메타 구조별 특징 분석 단계로서 NCS학습모듈의 메타구조별로 구성하는 텍스트 및 직무내용들의 관련 중요도 및 관계를 파악함
○ Process4는 학습모듈의 메타별 문항 유형을 설계하는 단계로서 NCS 학습 모듈의 메타특징에 따른 문항 유형 파악과 문항 유형별로 중요한 주요 내용을 설계함
○ Process5은 학습모듈 문항 구성 패턴을 설계하는 단계로 설계된 문항 구조에 따라 자동 문항 구성을 위한 패턴을 설계하여 문항을 자동으로 구성하기 위한 기초 단계임
○ Process6은 학습모듈 문항 구성 패턴 설계 단계로 실제 설계된 문항 구조에 따라 자동적으로 문항을 구성하기 위해 패턴을 자동 생성하는 단계임
○ Process7은 문항 구성 패턴 알고리즘 구현 단계로서 실제 문항 구성 패턴에 따라 자동으로 문항 알고리즘을 추출하는 구현 단계임
다음으로, 직무역량 평가 문항 구성 절차를 설명한다.
○ 학습모듈의 메타들을 분석하면 [그림 3]과 같은 메타구조를 띄고 있으며 학습모듈이 개편이 되어도 학습모듈 작성 가이드가 있어 패턴들은 유사함
○ 학습모듈의 메타 구조별 예시는 [그림 4]와 같으며 전문은 [그림 5]와 같음
○ [그림 6]는 수집된 데이터를 기반으로 각 문항 패턴별로 어떤 메타들을 참조해야 하는지를 규정해놓은 Mapping Table 중 일부임
○ [그림 7]부터 [그림 11]까지는 문항 유형별 문항 코드 및 답안 유형을 규정하고 Mapping테이블에서 표기한 메타들을 트리구조를 기반으로 추적할 수 있도록 규정해놓은 표임
○ [그림 12]은 학습모듈 메타별 문항 형식의 예시를 도식화하고 문항 형식별로 템플릿을 나눈 예시임
○ [그림 13]부터 [그림 16]까지는 NCS학습모듈에서 Mapping Table을 구성하기 위해 설계한 과정을 표현한 것의 일부 예시임
○ [그림 17]은 Mapping Table을 기준으로 추출된 문항의 일부 예시를 설계한 자료임
이상, 본 발명자에 의해서 이루어진 발명을 실시 예에 따라 구체적으로 설명하였지만, 본 발명은 실시 예에 한정되는 것은 아니고, 그 요지를 이탈하지 않는 범위에서 여러 가지로 변경 가능한 것은 물론이다.
10 : 학습자 단말 11 : 클라이언트
30 : 출제 서버
40 : 데이터베이스
80 : 네트워크
30 : 출제 서버
40 : 데이터베이스
80 : 네트워크
Claims (2)
- 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템에 있어서,
직무 표준 설명서에서 직무 지식을 수집하는 직무지식 수집부;
수집된 직무지식을 정형화 하여 직무지식 베이스를 구축하는 직무지식 구축부;
문항 패턴을 설정하는 문항패턴 설정부;
문항패턴에 직무지식의 매핑 구조를 규격화 하는 매핑구조 설계부;
출제할 문제의 출제 분야, 문제 난이도를 입력받는 출제요청 입력부; 및,
출제요청에 따라 문항을 추출하는 문항 추출부를 포함하는 것을 특징으로 하는 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템.
- 제1항에 있어서,
상기 직무표준 설명서는 NCS(National Competency Standards) 학습모듈인 것을 특징으로 하는 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200140355A KR20220056286A (ko) | 2020-10-27 | 2020-10-27 | 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200140355A KR20220056286A (ko) | 2020-10-27 | 2020-10-27 | 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20220056286A true KR20220056286A (ko) | 2022-05-06 |
Family
ID=81584427
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200140355A KR20220056286A (ko) | 2020-10-27 | 2020-10-27 | 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20220056286A (ko) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101775644B1 (ko) | 2016-02-19 | 2017-09-05 | (주)씨트러스에듀테크 | 단어/숙어 시험 문제 출제 방법, 서버 및 컴퓨터 프로그램 |
KR102125341B1 (ko) | 2018-07-25 | 2020-06-22 | 주식회사 아이포트폴리오 | 언어 학습을 위한 문제 생성 시스템 및 방법 |
KR102149961B1 (ko) | 2018-01-19 | 2020-09-07 | 최보연 | 문제 출제 시스템 및 그 방법 |
-
2020
- 2020-10-27 KR KR1020200140355A patent/KR20220056286A/ko unknown
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101775644B1 (ko) | 2016-02-19 | 2017-09-05 | (주)씨트러스에듀테크 | 단어/숙어 시험 문제 출제 방법, 서버 및 컴퓨터 프로그램 |
KR102149961B1 (ko) | 2018-01-19 | 2020-09-07 | 최보연 | 문제 출제 시스템 및 그 방법 |
KR102125341B1 (ko) | 2018-07-25 | 2020-06-22 | 주식회사 아이포트폴리오 | 언어 학습을 위한 문제 생성 시스템 및 방법 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ganapathy | Qualitative data analysis: Making it easy for nurse researcher | |
CN102436547A (zh) | 一种教学用错题统计方法及系统 | |
CN110837793A (zh) | 一种智能识别手写数学公式批阅系统 | |
Tack et al. | Human and automated CEFR-based grading of short answers | |
WO2014000764A1 (en) | A system and method for automatic generation of a reference utility | |
Prediger et al. | Eleventh graders’ increasingly elaborate language use for disentangling amount and change: A case study on the epistemic role of syntactic language complexity | |
CN109614594B (zh) | 一种将题目文档解析为题库数据的方法 | |
Botley | Errors Versus Mistakes: A False Dichotomy? | |
Sijimol et al. | Handwritten short answer evaluation system (HSAES) | |
PASHAPOUR et al. | A structural move analysis of research article introduction sub-genre: A comparative study of native and Iranian writers in applied linguistics. | |
CN113408253A (zh) | 一种作业评阅系统及方法 | |
CN109346108A (zh) | 一种作业检查方法及系统 | |
US10691900B2 (en) | Adaptable text analytics platform | |
Cunningham et al. | A proposed typology of improvement science in state ESSA plans | |
KR102552408B1 (ko) | Ai 기반 수학 튜터링 서비스 제공 시스템 및 이의 실행 방법 | |
CN116992847A (zh) | 一种财报处理方法、装置、系统和介质 | |
De Gasperis et al. | Automated grading of short text answers: preliminary results in a course of health informatics | |
KR20220056286A (ko) | 지식 베이스를 이용한 직무시험 문항 자동 추출 시스템 | |
Deshpande et al. | Summarization of graph using question answer approach | |
CN115269812A (zh) | 题目推荐方法、装置、设备及存储介质 | |
Vinogradova et al. | Review of Practices of Collecting and Annotating Texts in the Learner Corpus REALEC | |
Sharif | The analysis of cohesive devices in psychology research papers using discourse analysis technique | |
CN112668282A (zh) | 一种设备规程文档格式转换的方法及系统 | |
Kuyoro et al. | Intelligent Essay Grading System using Hybrid Text Processing Techniques | |
Kankhar et al. | Word level similarity auto-evaluation for an online question answering system |