KR20230105848A - 인공지능 기반 학습태도 평가 시스템 및 방법 - Google Patents

인공지능 기반 학습태도 평가 시스템 및 방법 Download PDF

Info

Publication number
KR20230105848A
KR20230105848A KR1020220001378A KR20220001378A KR20230105848A KR 20230105848 A KR20230105848 A KR 20230105848A KR 1020220001378 A KR1020220001378 A KR 1020220001378A KR 20220001378 A KR20220001378 A KR 20220001378A KR 20230105848 A KR20230105848 A KR 20230105848A
Authority
KR
South Korea
Prior art keywords
learning
artificial intelligence
hmm
state
learning attitude
Prior art date
Application number
KR1020220001378A
Other languages
English (en)
Inventor
현재호
Original Assignee
주식회사 엘에이치생활건강
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 엘에이치생활건강 filed Critical 주식회사 엘에이치생활건강
Priority to KR1020220001378A priority Critical patent/KR20230105848A/ko
Publication of KR20230105848A publication Critical patent/KR20230105848A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Human Computer Interaction (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Image Analysis (AREA)

Abstract

본 발명의 목적은, 효율적인 학습 성장을 위한 학습 태도 평가 시스템 구축 방안에 있으며 이는 인공지능 함수들의 최적 응용을 통하여 객관적이며 신뢰성 있는 학습태도를 4가지로 구분하여 제공한다.
본 발명은 전술한 목적을 달성하기 위해 HMM에서 MSAR 에 이르기까지 다양한 함수를 응용하여 적용 하였으며 그 결과를 피교육자와 보호자 또는 학부모가 쉽게 인지하여 학습 환경 개선에 크게 도움이 될수 있는 조건을 구비 하였다.
집중도, 졸음도, 산만도를 비롯하여 긴장과 스트레스 등을 감지 할수 있는 경직도 등으로 4가지로 학습태도를 구분하여 학습 성장은 물론 스트레스 산입으로 인한 학습 장애 요서의 측정 까지 고려 하였다. 적용되는 인공지능 함수는 학습태도를 4가지로 국한 하지 않고 향 후 다양한 발전이 있을 수 있으며 학원 및 학교 등 다수의 피교육자가 혼재된 장소에서 피교육자의 얼굴을 식별하므로써 지정된 자리를 제한하지 않는 자유로운 사용성 등을 그 특징으로 한다
본 발명에서는 전술한 구성으로 인해 인공지능으로 학습 태도를 평가 하는 방식으로서 온라인 및 오프라인 전역을 대상으로 효과적인 응용 효과를 가진다.

Description

인공지능 기반 학습태도 평가 시스템 및 방법{STUDY ATTITUDE VALUATION SYSTEM AND METHOD BASED ON AI AOGORITHM}
본 발명은 인공 지능 기반 학습 태도 평가 시스템의 구현 및 방법에 관한 것으로서, 더욱 상세하게는, 학원 또는 학교 등 교육현장에서 획득된 영상을 통하여 실시간으로 다수의 학생 얼굴을 각각 식별하고 움직임을 인공지능 기반으로 분석함으로써 각 학생의 학습태도 평가에 도움이 되는 결과를 도출하는 기술에 관한 것이다.
영상 감시 시스템은 획득된 영상을 통하여 출입자 확인 및 공공장소에서의 범죄 예방 등 다양한 목적으로 활용되고 있다.
그러나 이러한 폐쇄 회로 영상 시스템(CCTV)은 이벤트 발생 이후 과거의 영상을 하나씩 찾아야 하는 번거로움이 있었다.
이후 지능형 영상 감시 시스템에서는 다양한 알고리즘을 이용하여 실시간으로 분석하여 폐쇄 회로 영상 시스템에서의 번거로움을 다소 해소 하였다.
지능형 영상 감시 시스템과 유사한 아키텍쳐를 기반으로 학습 태도 평가를 위한 많은 노력이 있었으나 안구 움직임 분석 또는 얼굴의 방향을 추적하여 학습 태도를 유추하는데 그치고 있다.
더욱이 이러한 기술은 온라인 교육 시스템에 적용하기 위한 것으로 구체적으로는 비대면 교육 현장에서 학생이 PC 또는 PAD 등, 교육에 사용 중인 기기의 카메라를 응시하는 시간과 총 학습시간의 비율에 관한 것이 대부분이다.
한편, 오프라인 현장을 대상으로 하는 지능적 학습태도 평가 시스템은 전무한 형편으로 현재는 교육자(강사)의 주관을 바탕으로 판단하는 수준으로 객관성 문제로 인하여 평가 결과에 신뢰를 얻지 못하고 있다.
학원 또는 학교 등 오프라인 교육 현장에는 폐쇄 회로 영상 시스템이 대부분 구축되어 있으나 이는 일반 감시 장치와 마찬가지로 설치 장소에서의 불의의 사고 또는 사건 발생 시 수동적 영상 판독을 위한 단순 영상 장치로서 교육 장소에 걸 맞는 역할을 하고 있지 않다.
본 발명에서는 이러한 지능형 영상 감시 시스템에 인공지능 알고리즘을 설계하고 이를 적용함으로써 학원 또는 학교 등 교육환경에서 학생을 식별하고 학습태도를 자동으로 평가함으로써 학생의 학습 성장에 도움이 될 수 있는 효율적인 학습태도 평가 시스템을 구현하고자 한다.
한국등록번호 제10-2319328호 한국등록번호 제10-2336574호 한국등록번호 제10-2309179호 한국등록번호 제10-2266479호
본 발명의 목적은, 인공지능 알고리즘 기반의 이미지센서를 설계하여 학원 또는 학교 등 다수의 피교육생이 존재하는 교육환경에서 피 교육생의 얼굴을 식별하고 학습태도를 자동으로 평가함으로써 피교육생의 학습 성장에 도움이 될 수 있는 시스템 구현 방법을 제공함에 있다.
본 발명은 전술한 과제를 해결하기 위해, 다수의 피교육생이 혼재된 학습장에서 획득된 영상 정보를 기반으로 피교육자의 학습태도를 평가할 수 있는 인공지능 응용 장치로서, HMM 기반 움직임 분석에 있어서 상기 HMM에 응용되는 forward 알고리즘 응용, 상기 HMM에 응용되는 Viterbi 알고리즘 응용과, 상기 HMM에 응용되는 Baum welch 알고리즘 응용, 상기 HMM에 응용되는 함수의 결과로 얻어지는 n가지의 state 구분, 상기 state 구분 결과의 시계열 분석에 MSAR 응용, 상기 MSAR 응용의 결과를 통한 100분율 태도 평가 표현 방법, 상기 n가지 state 구분에 따른 시간별, 일별, 주간별, 월별 통계 표현 방법을 포함하는 것을 특징으로 한다.
본 발명의 인공지능 기반 학습태도 평가 시스템 및 방법에서, 움직임 분석의 변수 요소를 머리, 상체, 두 손으로 국한하는 것, 획득된 얼굴 영상 영역의 픽셀 정보의 산술적 비율을 통한 상체 영역 설정, 상기 산술 결과에 따른 두 손의 위치 파악을 위한 책상면 영역 추출 방안, 획득된 정보를 HMM 방식으로 유도되는 일련의 공식을 포함하는 것을 특징으로 한다.
본 발명의 인공지능 기반 학습태도 평가 시스템 및 방법 에서, HMM 기반의
Figure pat00001
로 시작되는 것을 특징으로 한다.
본 발명의 인공지능 기반 학습태도 평가 시스템 및 방법에서, 로그로 치환 되어 유도된 공식
Figure pat00002
및 MSAR(p)로 유도되는 공식
Figure pat00003
를 포함하는 것을 특징으로 한다.
본 발명의 인공지능 기반 학습태도 평가 시스템 및 방법에서, 유도된 학습태도의 결과에 따라 스테이트 구분 및 그에 따른 평가를 수행하는 것을 특징으로 한다.
본 발명의 인공지능 기반 학습태도 평가 시스템 및 방법에서, 평가 결과의 100분율 상출 방안 및 표현 방법, 효율적 학습 성장을 위한 평가자료 도출 방법을 포함하는 것을 특징으로 한다.
본 발명의 인공지능 기반 학습태도 평가 시스템 및 방법에서, 앱을 통한 시간별, 일별, 주간별, 월별 평가 표현 방안, 이를 통한 전체 통계 및 표현 방안을 포함하는 것을 특징으로 한다.
본 발명은, 피교육자의 학습 성장을 위한 시스템의 일환으로 피교육자의 학습 태도를 신뢰성 있게 평가 내용을 변수로 제공함으로써 효율적인 교육을 도모하는 현장에서 많은 이점으로 작용할 수 있다.
본 발명에서는 HMM과 MSAR 등의 인공지능 관련 함수와 알고리즘을 사용함으로써 보다 신뢰성있는 평가 결과를 제공하고 더 나아가 태도의 변화를 예측할 수 있는 데이터를 제공 할 수 있다.
본 발명의 기술 제공을 통하여 효율적인 학습효과를 기대할 수 있으며 다수의 피교육자를 상대로 다양한 평가를 문서화 하여야 하는 교육자의 시간과 노력이 감소하는 효과도 가지게 된다.
본 발명의 효과를 정리하면,
첫째로, 인공지능을 기반으로 객관적 평가를 함으로써 종전의 교육자의 주관이 들어간 학습태도 평가 결과에 따른 불만이 해소 가능하며,
둘째로, 본 발명이 적용된 전용 이미지 센서의 설치를 통하여 피교육자의 자발적 학습 태도 향상의 노력을 얻어 낼 수 있으며,
셋째, 신뢰성 있는 학습태도 평과 결과를 기반으로 대학 입시 등 학습 방법과 개선 방안 등에 대한 포괄적 재고를 통한 효율적 상담이 이루어 질 수 있으며,
넷째, 피교육자의 보호자 또는 학부모 관점에서 전용 앱을 통하여 자녀의 학습 태도의 실시간 분석이 가능하므로 이는 등원(등교) 및 하원(하교)등 출결을 비롯한 학업 교육에 필요한 통찰을 얻을 수 있는 장점을 가지게 된다.
도 1은 본 발명의 일실시예에 따른 획득된 학습현장의 영상에서 얼굴과 상체 그리고 책상 윗면의 손의 영역을 추출하는 상태를 도시하는 도면이다.
도 2는 본 발명의 일실시예에 따른 4가지 상태의 피 교육자의 학습 태도의 판단을 위한 5가지 State와 각 state의 천이(shift)를 도시하는 도면이다.
도 3은 본 발명의 일실시예에 따른 영상 획득에서 상태의 변화(regime) 기록에 이르기 까지 소요되는 Algorithm 과 함수 등의 일련의 과정을 도시하는 순서도 도면이다.
도 4 는 본 발명의 일실시예에 따른 학습태도 평가 결과를 그래프로 표현된 내용을 도시하는 도면이다.
도 5 은 본 발명의 일실시예에 따른 주간 기록으로써 집중도, 산만도, 졸음도, 경직도를 3D 그래프로 표현한 도면이다.
도 6 는 본 발명의 일실시예에 따른 피 교육자의 보호자 또는 학부모가 사용하는 앱의 화면 예시로써 주간 기록 및 일간 세부 사항이 표현된 앱 화면의 도면이다.
도 7 은 다수의 피 교육자의 움직임으로 인한 혼합정규분포의 일 예로써 두 명의 움직임 정보가 하나의 화면에 존재 했을 시의 예시 도면이다.
이하, 도면을 참조하여 본 발명의 일 실시예에 대해 설명한다.
도 1은 본 발명의 일실시예에 따른 학습현장에 설치된 이미지 센서를 통하여 획득된 영상에서 얼굴과 상체 그리고 책상 윗면의 손의 영역을 추출하는 상태를 도시하는 도면이다.
본 발명은 획득된 영상에서 얼굴 영역을 추출하고 원근에 따른 픽셀의 비율에 따른 상체와 책상 윗면 영역을 함께 추출하여 움직임 분석을 위한 기초 자료로 활용하며, 획득된 다수의 얼굴(오브젝트)에 동일하게 적용되어 n 명의 피 교육자를 대상으로 동시 처리된다.
도 2는 본 발명의 일실시예에 따른 4가지 상태의 피 교육자의 학습 태도의 판단을 위한 5가지 State와 각 state의 천이(shift)를 도시하는 도면으로써 4가지 상태와 5가지 state에 국한 하지 않으며 조건에 따라 증가할 수 있다.
5가지 상태는 정상적인 상태(200), 기지게 또는 스트레칭 상태(203), 몸을 비비 꼬는 상태(204), 졸고 있는 상태(205) 및 경직 된 상태(202)로 구분한다.
정상적인 상태(200)는 미약한 반복적 움직임 분석을 통하여 정상적인 학습 상태로 인지하는 여과 조건이며, 산만도의 변수가 되는 기지개 또는 스트레칭 상태(203)와 몸을 비비 꼬는 상태(204)는 지루 할 때 나타나는 다양한 몸동작을 두 가지로 일축 한 것이나 여타 관련 제스처가 추가 될 수 있으며,
졸음도를 평가하는 졸고 있는 상태(205)는 졸음을 추측 할 수 있는 머리 부분의 특정한 움직임과 두 눈의 깜빡임을 확인하는 것이며, 스트레스, 걱정 또는 산만한 생각 등에 따른 결과인 경직도 평가는 몸의 경직된 상태(202)를 측정하는 것으로 미약한 움직임으로 판단하는 정상적인 상태(200) 보다 더욱 미약하거나 거의 움직임이 없는 상태이다.
도 3은 본 발명의 일실시예에 따른 영상 획득에서 상태의 변화(regime) 기록에 이르기까지 소요되는 Algorithm 과 함수 등의 일련의 과정을 도시하는 순서도 도면으로서, 영상 획득은 디지털 연산처리가 가능한 영상 정보의 출력이 가능한 이미지 센서의 결과를 의미 할 수 있다.
본 발명에서 적용한 Hidden Markov model (HMM)은 보이는(Observation) state와 은닉된(Hidden) state를 기반으로 observation state를 이용하여 hidden state를 추론하기 위한 알고리즘으로서 동작인식, 필기체 인식 등에 활용할 수 있는 기반 기술이다.
HMM은 기본적으로 π, A, B 세 인자가 주어졌다고 가정하며, 입력되는 데이터로부터 HMM의 인자를 반복(301,302,303)하여 학습하는 과정을 거치게 된다.
이 과정에서 HMM의 parameter가 주어졌을 때, 주어진 observation이 나타날 확률과 그 확률이 가장 높게 나타나는 state를 계산하게 되며, 추측을 위한 확률 추이에 있어서 HMM의 parameter θ는 θ={π,A,B}로 정리 된다.
π : Initial probabilities
A : Transition probabilities
B : Emission probabilities
여기서 5가지 state에 대한 준비된 기준 정보와 동일하게 나타날 확률(주어진 Observation) 계산은 forward algorithm(301)를 이용하여 Likelihood(우도)를 계산하고 일련의 입력되는 정보 중에 가장 큰 State 계산은 Viterbi algorithm(302)를 이용하여 state 연산을 하며, HMM parameter θ는 는 EM algorithm(Expectation Maximization)의 형태인 Baum Welch algorithm 으로 해결한다(303).
세부적으로, 5가지 state에 대한 준비된 기준 정보와 동일하게 나타날 확률 계산은 주어진 observation O = o1, o2 ,... ,oT 가 관측될 확률 p(O|θ)를 계산하는 것이므로, 우선 o1이 나타날 확률은 (식1)과 같이 계산된다(301).
[식 1]
Figure pat00004
다음 입력되는 연속되는 움직임 정보o2 가 나타날 확률은 (식2)으로 표현할 수 있다.
[식 2]
Figure pat00005
결국 연속적으로 observation O = o1, o2 ,... ,oT가 나타날 확률은 (식3)으로 계산된다.
[식 3]
Figure pat00006
또한 주어진 observation이 나타날 확률이 가장 큰 state 연산을 위한 Viterbi Algorithm 은 (식4)에서의 n을 1에서 T까지 반복 처리함으로서 state(S)를 구성하는(식5) s1, s2.... sT를 얻을 수 있다(302).
[식 4]
Figure pat00007
; n= 1 to T (Do Loop)
[식 5]
Figure pat00008
이러한 과정의 계산을 통하여 HMM parameter의 Deep learning(303)은 정보(Observation)의 집합이라 할 수 있는 O ={O1, O2,...,OT} 로부터 Baum welch algorithm을 이용하여 parameter θ={π,A,B}를 추정한다.
이 알고리즘에서는 (식3)에서 연산된 observation이 나타날 확률을 의미하는 Likelihood(우도) p(O,S|θ)를 (식6)으로 정의한다.
[식 6]
Figure pat00009
연산의 용이성을 위하여 양변에 log를 취한다. (식7)
[식 7]
Figure pat00010
이때, S는 O 에 포함된 각 observation에 대해 은닉된 state가 어떻게 변화하였는지에 대한 정보를 가지고 있게 되는데, 사실은 O에 대한 S를 정확히 알지 못하기 때문에 log-likelihood를 변형하여 Q(θ,θ′)를 정의하여(식8)을 얻게 된다(303).
[식 8]
Figure pat00011
θ : 현재의 parameter
θ′: 이전의 parameter
즉, 정의된 5가지 state의 기준 정보(200~204) Observation 을 기준으로 하여 새로운 일련의 움직임 입력 정보에서 최대우도와 최대 확률을 가려 state를 분석함으로서(304) 5가지 state와 예외 state를 얻어낼 수 있다(305).
각각의 state로 구분된 정보는 시계열 정보로써 FiFo(First In First Out) 메모리에 저장(306)하고 이를 Streaming 으로 Markov Switching AR(p)처리를 한다(307).
제 자리에 앉아 있는 사람의 상체 움직임은 한정된 영역에서 정규분포를 이루게 되며, 다수의 피 교육자가 한 공간에 있으므로 혼합정규분포(Mixture normal distributions)(도7) 형태를 띄게 된다. 이러한 경우 단일 Auto Regression(p)에 regime 추측을 반영하는 markov Switching을 가미하여 Markov Switching Auto Regression(p)처리를 함으로써 상태의 변화를 추측하고 반영할 수 있다.
MSAR(p)에서 p는 0에서 n 까지 있을 수 있는데 이는 현재 상태(t)를 축으로 이전상태(t-1)를 몇 차까지 보는가(t=n)이며 일정 시간의 샘플링을 기준으로 할 때 과거 몇 차 까지 회귀(regression)하는지에 따라 p 값이 결정 되게 된다.
본 발명에서 (p)는 이론 적인 n 차로 규정하되, 설명은 (2)로써, 즉 (t-2)를 기준으로 하므로 regime 판단을 위한 이전 상태는 8가지가 된다(2의 3승). 여기서 표현하는 상태는 움직임 패턴의 4가지 또는 기준 정보 5가지에서 표현하는 상태(state)와 다르다.
즉, MSAR에서 표현하는 상태(state) t-n 에서의 (305) 까지 모두 처리 된 이후 시계열 기록된 각 상태에서 regime 판단을 위한 MSAR의 state이다. 혼선을 막기 위하여 이후 MSAR 의 state 표현은 하지 않기로 한다.
상술한 바와 같이 p를 2로 정하여 MSAR(2)의 함수를 Bayesian Rule 형식으로 이용하여 (식9)에 표현 하였다.
[식 9]
Figure pat00012
식9에서 보는 바와 같이 MSAR(2)는 상술한 바와 같이 이전 시간(t=0, -1, -2)의 8개의 조합을 기준으로 현재 정보와 이후 발생 할 정보를 추측하고 regime 의 activation 여부를 결정하고 산술에 반영한다(307, 308).
도 4 는 본 발명의 일실시예에 따른 학습태도 평가 결과를 그래프로 표현된 내용을 도시하는 도면으로써 4가지 정보의 합은 100 이므로 각 정보는 100분율(%)로 표현 가능하다
도 5 은 본 발명의 일실시예에 따른 주간 기록으로써 집중도, 산만도, 졸음도, 경직도를 3D 그래프로 표현한 도면으로써 한 주간의 모든 정보를 표한한 예시 이다..
도 6 는 본 발명의 일실시예에 따른 피 교육자의 보호자 또는 학부모가 사용하는 앱의 화면 예시로써 주간 기록 및 일간 세부 사항이 표현된 앱 화면의 도면이다.
도 7 은 다수의 피교육자가 혼재된 연상에서 발생 하는 혼합 정규분포의 표현을 위한 예시로써 치 교육자가 2 명일 경우의 예이다.
본 발명은 인공지능의 다양한 함수를 혼합 적용 및 응용하여 얼굴을 인식하고, 움직임을 인식하되 그 형태를 5가지로 구분하여 지속적 학습을 통한 움직임 패턴 인식 방법을 수식의 응용을 통하여 제공 하였다.
이러한 발명의 결과는 지식의 팽창으로 학습량이 증가한 현대시대의 과중한 교육 환경에 있어서 효율적인 학습 방법을 제공함으로써 다소 그 부담을 경감시킬수 있다는 큰 장점을 가지게 된다.
본 발명의 효과를 정리하면, 첫째로, 인공지능을 기반으로 객관적 평가를 함으로써 종전의 교육자의 주관이 들어간 학습태도 평가 결과에 따른 불만이 해소 가능하며, 둘째로, 본 발명이 적용된 전용 이미지 센서의 설치를 통하여 피교육자의 자발적 학습 태도 향상의 노력을 얻어 낼 수 있으며, 셋째, 신뢰성 있는 학습태도 평과 결과를 기반으로 대학 입시 등 학습 방법과 개선 방안 등에 대한 포괄적 재고를 통한 효율적 상담이 이루어 질 수 있으며, 넷째, 피교육자의 보호자 또는 학부모 과점에서 전용 앱을 통하여 자녀의 학습 태도의 실시간 분석이 가능하므로 이는 등원(등교) 및 하원(하교)등 출결을 비롯한 학업 교육에 필요한 통찰을 얻을 수 있는 장점을 가지게 된다.
획득된 디지털 영상 정보를 다양한 방법으로 분석하여 집중도, 산만도, 경직도 및 졸음도(100) 등으로 구분하여 학습태도 평가에 도움이 되는 자료(600)를 도출하여 제공한다.
상기 다양한 방법에 있어 구체적으로 HMM(Hidden markov Modeling) 함수 기반의 움직임의 패턴을 구분, 시계열 기록 정보를 MSAR(p) 연산을 통하여 상태의 변화를 예측하고 변화를 반영하여 학습태도 평가 자료를 도출한다.
강의실 정면에 설치된 이미지 센서를 통하여 획득된 영상 정보로 피교육자의 얼굴 영역을 추출한다(100).
추출된 영역에서 얼굴의 식별을 위하여 영역의 픽셀 수에 따른 비율 계산, 미간 거리 등 얼굴인식에 필요한 데이터를 추출하여 준비 된 사진 데이터베이스 기반으로 얼굴 식별을 완료한다.
이와 같은 얼굴 인식을 위한 일련의 과정을 획득 된 영상에 존재하는 모든 얼굴에 적용 하여 각 피 교육자의 얼굴을 모두 동시 식별한다.
열굴 인식을 위한 얼굴 영역 도출 및 얼굴 인식의 세부 기술적 사항은 본 발명과 무관하므로 본 발명의 내용을 설명하는 용도에 맞게 서술하기로 한다.
얼굴 영역 추출을 기반으로 얼굴을 포함한 상체(101)와 피 교육자의 손 상태 파악을 위한 책상 윗면(102)영역을 추출한다.
이는 획득 된 영상 안에 존재하는 피교육자 전체에 동시 적용 된다.
피교육자의 학습태도는 집중도, 산만도, 경직도 그리고 졸음도(400)를 결과물로 도출하나 기술 구현의 다양화로 추가 될 수 있다.
피교육자의 상태 평가 연산을 위하여 산술적으로는 5가지 상태로 구분하고 이를 state 라 표현 한다.(200)
상술 한 바와 같이 학습태도는 4가지에 국한 하지 않으므로 평가 연산을 위한 state 도 5가지 국한 하지 않는다.
발명의 요지를 설명하기 위하여 5가지로 구분하여 [도2]에 도시 하였다.
5가지 상태는 정상적인 상태(200), 기지게 또는 스트레칭 상태(203), 몸을 비비 꼬는 상태(204), 졸고 있는 상태(205) 및 경직 된 상태(202)로 구분한다.
정상적인 상태(200)는 머리, 상체 및 손의 미약한 반복적 움직임 분석을 통하여 정상적인 학습 상태로 인지하는 여과 조건이며, 산만도의 변수가 되는 기지개 또는 스트레칭 상태(203)와 몸을 비비 꼬는 상태(204)는 지루 할 때 나타나는 다양한 몸동작을 두 가지로 일축 한 것이나 여타 관련 제스처가 추가 될 수 있다.
졸음도를 평가하는 졸고 있는 상태(205)는 졸음을 추측 할 수 있는 머리 부분의 특정한 움직임과 두 눈의 깜빡임을 확인하는 것이며, 스트레스, 걱정 또는 산만한 생각 등에 따른 결과인 경직도 평가는 몸의 경직된 상태(202)를 측정하는 것으로 미약한 움직임으로 판단하는 정상적인 상태(200) 보다 더욱 미약하거나 거의 움직임이 없는 상태이다.
이와 같은 5가지 상태는 천이(state shift)가 지속적으로 발생하므로 상태 판단 후 종합 적 판단을 위하여 시계열 레코드를 생성 및 기록 한다.
상태 판단에 있어서 획득된 영상(300)을 기반으로 얼굴 및 상체 영역 추출(100,101,102) 후 Forward algorithm을 이용하여 우도(Likelihood)를 추출(301)하고 Viterbi algorithm을 이용하여 상태를 연산(302)한다.
이어서 Baum welch algorithm을 이용하여 HMM parameter를 추출하여 Deep Learning의 데이터로 활용할 수 있도록 Record(303) 한다.
그 결과를 바탕으로 분석된 패턴(304)에 따라 5가지로 index 처리하되 예외 경우를 포함하여(305) 시계열 기반 state 레코드를 기록한다(306).
레코드 된 시계열 데이터를 기반으로 p차 Markov Switching Auto Regression(p)를 통하여 시계열 기반 regime(상태국면)을 Activation 여부(0, 1)로 구분(307)하여 시계열 기반 regime 내역을 기록한다(308)
이러한 분석을 통하여 [도4], [도5] 및 [도6]과 같은 분석 자료를 피 교육자 또는 피 교육자의 보호자에게 제공할 수 있다.
본 실시 예는 본 발명의 기술적 사상을 설명하기 위해 예시적으로 기재된 것인 바, 본 발명의 기술적 사상을 제한하는 것으로 해석될 수 없다.
100 : 학습 현장의 영상 예시 200 : 5가지 State shift 예시
300 : 인공지능 연산 순서도 400 : 평과 결과 표현 예시
500 : 주간 평가 결과 표현 예시 600 : 보호자 또는 학부모 앱 예시
700 : 정규분포가 둘 일 경우 혼합정규 분포 예시

Claims (7)

  1. 다수의 피교육생이 혼재된 학습장에서 획득된 영상 정보를 기반으로 피교육자의 학습태도를 평가할 수 있는 인공지능 응용 장치로서,
    HMM 기반 움직임 분석에 있어서
    상기 HMM에 응용되는 forward 알고리즘 응용,
    상기 HMM에 응용되는 Viterbi 알고리즘 응용과,
    상기 HMM에 응용되는 Baum welch 알고리즘 응용,
    상기 HMM에 응용되는 함수의 결과로 얻어지는 n가지의 state 구분,
    상기 state 구분 결과의 시계열 분석에 MSAR 응용,
    상기 MSAR 응용의 결과를 통한 100분율 태도 평가 표현 방법,
    상기 n가지 state 구분에 따른 시간별, 일별, 주간별, 월별 통계 표현 방법을 포함하는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
  2. 청구항 1 에 있어서,
    움직임 분석의 변수 요소를 머리, 상체, 두 손으로 국한하는 것,
    획득된 얼굴 영상 영역의 픽셀 정보의 산술적 비율을 통한 상체 영역 설정,
    상기 산술 결과에 따른 두 손의 위치 파악을 위한 책상면 영역 추출 방안,
    획득된 정보를 HMM 방식으로 유도되는 일련의 공식을 포함하는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
  3. 청구항 2 에 있어서,
    HMM 기반의
    Figure pat00013
    로 시작되는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
  4. 청구항 3 에 있어서,
    로그로 치환 되어 유도된 공식
    Figure pat00014

    및 MSAR(p)로 유도되는 공식
    Figure pat00015

    를 포함하는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
  5. 청구항 4 에 있어서,
    유도된 학습태도의 결과에 따라 스테이트 구분 및 그에 따른 평가를 수행하는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
  6. 청구항 5 에 있어서,
    평가 결과의 100분율 상출 방안 및 표현 방법
    효율적 학습 성장을 위한 평가자료 도출 방법을 포함하는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
  7. 청구항 6 에 있어서,
    앱을 통한 시간별, 일별, 주간별, 월별 평가 표현 방안,
    이를 통한 전체 통계 및 표현 방안을 포함하는 것을 특징으로 하는 인공지능 기반 학습태도 평가 시스템 및 방법.
KR1020220001378A 2022-01-05 2022-01-05 인공지능 기반 학습태도 평가 시스템 및 방법 KR20230105848A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220001378A KR20230105848A (ko) 2022-01-05 2022-01-05 인공지능 기반 학습태도 평가 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220001378A KR20230105848A (ko) 2022-01-05 2022-01-05 인공지능 기반 학습태도 평가 시스템 및 방법

Publications (1)

Publication Number Publication Date
KR20230105848A true KR20230105848A (ko) 2023-07-12

Family

ID=87163499

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220001378A KR20230105848A (ko) 2022-01-05 2022-01-05 인공지능 기반 학습태도 평가 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR20230105848A (ko)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102266479B1 (ko) 2021-01-12 2021-06-17 (주)이루미에듀테크 온라인 학습 능력 분석을 위한 시선 추적 방법, 장치 및 시스템
KR102309179B1 (ko) 2021-01-22 2021-10-06 (주)매트리오즈 사용자의 시선 추적을 통한 독해 학습 지도 방법 및 이에 사용되는 관리 서버
KR102319328B1 (ko) 2020-11-12 2021-10-29 이종우 비대면 학습자의 영상 이미지를 이용하는 학습 태도 평가 방법 및 이에 사용되는 관리 서버
KR102336574B1 (ko) 2020-12-04 2021-12-07 (주)매트리오즈 비대면 학습자의 영상 이미지를 이용하는 학습 지도 방법 및 이에 사용되는 관리 서버

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102319328B1 (ko) 2020-11-12 2021-10-29 이종우 비대면 학습자의 영상 이미지를 이용하는 학습 태도 평가 방법 및 이에 사용되는 관리 서버
KR102336574B1 (ko) 2020-12-04 2021-12-07 (주)매트리오즈 비대면 학습자의 영상 이미지를 이용하는 학습 지도 방법 및 이에 사용되는 관리 서버
KR102266479B1 (ko) 2021-01-12 2021-06-17 (주)이루미에듀테크 온라인 학습 능력 분석을 위한 시선 추적 방법, 장치 및 시스템
KR102309179B1 (ko) 2021-01-22 2021-10-06 (주)매트리오즈 사용자의 시선 추적을 통한 독해 학습 지도 방법 및 이에 사용되는 관리 서버

Similar Documents

Publication Publication Date Title
Sharma et al. Student engagement detection using emotion analysis, eye tracking and head movement with machine learning
Whitehill et al. The faces of engagement: Automatic recognition of student engagementfrom facial expressions
Dewan et al. A deep learning approach to detecting engagement of online learners
Murshed et al. Engagement detection in e-learning environments using convolutional neural networks
CN111027865B (zh) 基于行为和表情识别的教学分析与质量评估系统及方法
Tan et al. A real-time head nod and shake detector using HMMs
Butko et al. Automated facial affect analysis for one-on-one tutoring applications
Wheeldon et al. Expanding visual criminology: Definitions, data and dissemination
Chiu et al. A bayesian classification network-based learning status management system in an intelligent classroom
CN115907507A (zh) 一种联合课堂场景的学生课堂行为检测和学情分析方法
Yang et al. Student in-class behaviors detection and analysis system based on CBAM-YOLOv5
Rathi et al. Analysis of user’s learning styles and academic emotions through web usage mining
Yousef et al. Automatic identification of student’s cognitive style from online laboratory experimentation using machine learning techniques
Villegas-Ch et al. Identification of emotions from facial gestures in a teaching environment with the use of machine learning techniques
JP2022014890A (ja) 集中度判別プログラム
Wibowo et al. Lie Detector With Analysis Pupil Dilation And Eye Blinks Analysis Using Hough Transform And Decision Tree
KR20230105848A (ko) 인공지능 기반 학습태도 평가 시스템 및 방법
Jiang et al. A classroom concentration model based on computer vision
AU2020101294A4 (en) Student’s physiological health behavioural prediction model using svm based machine learning algorithm
Bajaj et al. Classification of student affective states in online learning using neural networks
Boels et al. Automated gaze-based identification of students’ strategies in histogram tasks through an interpretable mathematical model and a machine learning algorithm
Hwang et al. Attentiveness assessment in learning based on fuzzy logic analysis
Shenoy et al. A Study on various Applications of Computer Vision for Teaching Learning in Classroom
Thampan et al. Smart online exam invigilation using ai based facial detection and recognition algorithms
Zatarain-Cabada et al. Integrating learning styles and affect with an intelligent tutoring system