KR20180055629A - 딥 러닝 기반 교육용 비디오 학습 및 평가 시스템 - Google Patents
딥 러닝 기반 교육용 비디오 학습 및 평가 시스템 Download PDFInfo
- Publication number
- KR20180055629A KR20180055629A KR1020170018511A KR20170018511A KR20180055629A KR 20180055629 A KR20180055629 A KR 20180055629A KR 1020170018511 A KR1020170018511 A KR 1020170018511A KR 20170018511 A KR20170018511 A KR 20170018511A KR 20180055629 A KR20180055629 A KR 20180055629A
- Authority
- KR
- South Korea
- Prior art keywords
- video
- training
- learning
- education
- deep
- Prior art date
Links
- 238000013135 deep learning Methods 0.000 title claims abstract description 87
- 238000011156 evaluation Methods 0.000 title claims description 85
- 238000000034 method Methods 0.000 claims abstract description 51
- 238000012549 training Methods 0.000 claims description 150
- 230000009471 action Effects 0.000 claims description 33
- 230000008859 change Effects 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 230000006399 behavior Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 230000033001 locomotion Effects 0.000 description 6
- 235000001674 Agaricus brunnescens Nutrition 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 4
- 238000005406 washing Methods 0.000 description 4
- 238000010411 cooking Methods 0.000 description 3
- 238000012854 evaluation process Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000003542 behavioural effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013075 data extraction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 235000015278 beef Nutrition 0.000 description 1
- 238000013479 data entry Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 235000015067 sauces Nutrition 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/20—Education
-
- G06F17/2705—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Educational Administration (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Quality & Reliability (AREA)
- Primary Health Care (AREA)
- Software Systems (AREA)
- Development Economics (AREA)
- Educational Technology (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Electrically Operated Instructional Devices (AREA)
Abstract
일 실시예에 따르면, 딥 러닝 기반 비디오 학습 및 평가 방법은, 교육용 비디오를 이용하여, 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 학습시키는 단계; 및 상기 학습된 딥 네트워크 비디오 교육 엔진을 이용하여 피교육자 비디오를 평가하는 단계를 포함한다.
Description
아래의 설명은 전문가의 교육용 비디오를 딥 러닝을 기반으로 학습하고, 피교육자의 비디오를 분석하고 평가하는 기술에 관한 것이다.
전문가들이 수행한 업무를 촬영한 것을 통상적으로 교육용 비디오라 칭한다. 이러한 교육용 비디오는, 강사(instructor)가 비디오를 보는 사람(피교육자)에게 특정 업무(요리, 운동, 조림 및 의료 행위 등)에 대해 한 동작씩 보여주며 설명하도록 촬영됨으로써, 사용자(피교육자) 교육을 수행한다.
따라서, 피교육자는 교육용 비디오에서 강사가 보여주는 동작을 하나씩 따라 하며 학습할 수 있다. 이 때, 피교육자가 전문적인 수행 과정을 요구하는 업무에 대해 학습하는 경우, 피교육자는 본인이 학습한 업무에 대해 잘 하고 있는지를 강사가 모니터링하고 평가하여 피드백 해주기를 기대한다.
그러나 현재는, Youtube와 같이 강사가 촬영한 교육용 비디오가 제공될 뿐, 피교육자가 학습한 업무에 대해 피드백이 지원되지 못하고 있는 실정이다.
이에, 피교육자가 교육용 비디오를 보고 학습하여 실행하는 업무를 촬영한 피교육자 비디오와 교육용 비디오에 기반하여, 피교육자의 학습 정도를 자동으로 피드백 하는 기술이 요구된다.
한편, 기존의 컴퓨터 비전분야에서 비디오를 기반으로 하는 사람의 행동 인식 연구가 진행되어 왔다. 하지만, 기존의 행동 인식 연구는, 주로 사람의 이상 행동이나, 걷기/달리기와 같은 단편적인 행동 인식에 대해서 연구하는 것이 대부분이었다.
따라서, 피교육자 비디오와 교육용 비디오에 기반하여 피교육자의 학습 정도를 자동으로 피드백 할 수 있도록 교육용 비디오 및 피교육자 비디오 상에서 강사와 피교육자의 행동을 모니터링하고 분석하는 새로운 기술이 제안될 필요가 있다.
일 실시예들은 딥 러닝 알고리즘을 이용하여 교육용 비디오를 학습하고, 피교육자 비디오를 평가하는 방법 및 시스템을 제안한다.
구체적으로, 일 실시예들은 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 이용함으로써, 자동으로 교육용 비디오를 학습하고, 피교육자 비디오를 평가하는 방법 및 시스템을 제안한다.
일 실시예에 따르면, 딥 러닝 기반 비디오 학습 및 평가 방법은, 교육용 비디오를 이용하여, 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 학습시키는 단계; 및 상기 학습된 딥 네트워크 비디오 교육 엔진을 이용하여 피교육자 비디오를 평가하는 단계를 포함한다.
일측에 따르면, 상기 딥 네트워크 비디오 교육 엔진을 학습시키는 단계는, 상기 딥 네트워크 비디오 교육 엔진을 통하여, 상기 교육용 비디오에서 교육 요소 영역-상기 교육 요소 영역은 상기 교육용 비디오의 핵심이 되는 관심 영역임-을 검출하는 단계; 상기 교육 요소 영역에 따라 상기 교육용 비디오의 업무 수행 시구간 데이터를 추출하는 단계; 및 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는 단계를 포함할 수 있다.
또 다른 일측에 따르면, 상기 피교육자 비디오를 평가하는 단계는, 상기 학습된 딥 네트워크 비디오 교육 엔진을 통하여, 상기 피교육자 비디오에서 상기 교육 요소 영역을 검출하는 단계; 상기 교육 요소 영역에 따라 상기 피교육자 비디오의 업무 수행 시구간 데이터를 추출하는 단계; 상기 피교육자 비디오의 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는 단계; 및 상기 교육용 비디오의 시멘틱 동작 설명 및 상기 비교육자 비디오의 시멘틱 동작 설명을 비교하는 단계를 포함할 수 있다.
또 다른 일측에 따르면, 상기 교육용 비디오의 시멘틱 동작 설명 및 상기 비교육자 비디오의 시멘틱 동작 설명을 비교하는 단계는, 상기 비교 결과를 상기 피교육자로 제공하는 단계를 더 포함할 수 있다.
또 다른 일측에 따르면, 상기 교육용 비디오에서 교육 요소 영역을 검출하는 단계는, 상기 딥 러닝 알고리즘을 이용하여 상기 교육용 비디오의 프레임들에서 연속적으로 상기 교육 요소 영역을 검출하는 단계를 포함할 수 있다.
또 다른 일측에 따르면, 상기 교육용 비디오의 프레임들에서 연속적으로 상기 교육 요소 영역을 검출하는 단계는, 상기 교육용 비디오의 프레임들에 보간(interpolation) 알고리즘 또는 추적(tracking) 알고리즘을 적용하는 단계를 더 포함할 수 있다.
또 다른 일측에 따르면, 상기 교육용 비디오의 업무 수행 시구간 데이터를 추출하는 단계는, 상기 교육 요소 영역의 특징(feature)을 이용하여 상기 교육용 비디오의 프레임들을 클러스터링하는 단계; 및 상기 클러스터링된 프레임들을 상기 업무 수행 시구간 데이터로 추출하는 단계를 포함할 수 있다.
또 다른 일측에 따르면, 상기 교육용 비디오의 프레임들을 클러스터링하는 단계는, 상기 프레임들 중 상기 교육 요소 영역의 특징이 연속되는 프레임들을 클러스터링하는 단계일 수 있다.
또 다른 일측에 따르면, 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는 단계는, 상기 업무 수행 시구간 데이터에서 상기 교육 요소 영역과 관련된 동작에 대한 정보를 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명으로 생성하는 단계를 포함할 수 있다.
또 다른 일측에 따르면, 상기 교육 요소 영역과 관련된 동작에 대한 정보를 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명으로 생성하는 단계는, 상기 딥 러닝 알고리즘을 이용하여 상기 업무 수행 시구간 데이터에 포함되는 프레임들 사이에서 상기 교육 요소 영역의 변화를 인식하는 단계; 및 상기 교육 요소 영역의 변화에 기초하여, 상기 교육 요소 영역과 관련된 동작에 대한 정보를 획득하는 단계를 포함할 수 있다.
일 실시예에 따르면, 딥 러닝 기반 비디오 학습 및 평가 시스템은 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진; 교육용 비디오를 이용하여, 상기 딥 네트워크 비디오 교육 엔진을 학습시키는 학습부; 및 상기 학습된 딥 네트워크 교육 엔진을 이용하여 피교육자 비디오를 평가하는 평가부를 포함한다.
일측에 따르면, 상기 학습부는, 상기 딥 네트워크 비디오 교육 엔진을 통하여, 상기 교육용 비디오에서 교육 요소 영역-상기 교육 요소 영역은 상기 교육용 비디오의 핵심이 되는 관심 영역임-을 검출하고, 상기 교육 요소 영역에 따라 상기 교육용 비디오의 업무 수행 시구간 데이터를 추출하며, 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성할 수 있다.
또 다른 일측에 따르면, 상기 평가부는, 상기 학습된 딥 네트워크 비디오 교육 엔진을 통하여, 상기 피교육자 비디오에서 상기 교육 요소 영역을 검출하고, 상기 교육 요소 영역에 따라 상기 피교육자 비디오의 업무 수행 시구간 데이터를 추출하며, 상기 피교육자 비디오의 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성한 뒤, 상기 교육용 비디오의 시멘틱 동작 설명 및 상기 비교육자 비디오의 시멘틱 동작 설명을 비교할 수 있다.
또 다른 일측에 따르면, 상기 평가부는, 상기 비교 결과를 상기 피교육자로 제공할 수 있다.
일 실시예들은 딥 러닝 알고리즘을 이용하여 교육용 비디오를 학습하고, 피교육자 비디오를 평가하는 방법 및 시스템을 제안할 수 있다.
구체적으로, 일 실시예들은 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 이용함으로써, 자동으로 교육용 비디오를 학습하고, 피교육자 비디오를 평가하는 방법 및 시스템을 제안할 수 있다.
따라서, 일 실시예들은 피교육자가 전문적인 수행 과정을 효과적으로 학습할 수 있도록 지원할 수 있다.
또한, 일 실시예들은 전문가 없이 피교육자 비디오를 분석하여 평가하는 기술을 제안함으로써, 교육용 비디오를 이용하는 전문 기술 교육의 보급을 확대시킬 수 있다.
도 1은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템의 개괄적인 동작을 설명하기 위한 도면이다.
도 2는 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템의 구성을 설명하기 위한 블록도이다.
도 3은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에서 딥 네트워크 비디오 교육 엔진을 학습시키는 과정을 설명하기 위한 도면이다.
도 4 내지 7은 일 실시예에 따른 딥 네트워크 비디오 교육 엔진의 동작을 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에서 피교육자 비디오를 평가하는 과정을 설명하기 위한 도면이다.
도 9a 내지 9b는 일 실시예에 따른 피교육자 비디오를 평가하는 과정 중 교육용 비디오와 피교육자 비디오를 비교하는 과정을 설명하기 위한 도면이다.
도 10은 일 실시예에 따른 딥 러닝 기반 학습 및 평가 방법을 나타낸 플로우 차트이다.
도 2는 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템의 구성을 설명하기 위한 블록도이다.
도 3은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에서 딥 네트워크 비디오 교육 엔진을 학습시키는 과정을 설명하기 위한 도면이다.
도 4 내지 7은 일 실시예에 따른 딥 네트워크 비디오 교육 엔진의 동작을 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에서 피교육자 비디오를 평가하는 과정을 설명하기 위한 도면이다.
도 9a 내지 9b는 일 실시예에 따른 피교육자 비디오를 평가하는 과정 중 교육용 비디오와 피교육자 비디오를 비교하는 과정을 설명하기 위한 도면이다.
도 10은 일 실시예에 따른 딥 러닝 기반 학습 및 평가 방법을 나타낸 플로우 차트이다.
이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 시청자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
도 1은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템의 개괄적인 동작을 설명하기 위한 도면이다.
도 1을 참조하면, 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템(110)은 강사 단말(120) 및 피교육자 단말(130)과 네트워크(140)를 통하여 데이터를 송수신할 수 있다.
여기서, 네트워크(140)는 데이터 프로세싱 시스템들, 컴퓨터들, 서버들, 각종 장치들 간의 통신 링크들을 제공하는데 사용되는 매체일 수 있다. 네트워크(140)는 딥 러닝 기반 비디오 학습 및 평가 시스템(110)과 강사 단말(120) 및 피교육자 단말(130)이 서로 통신하기 위하여 TCP/IP(transmission control protocol internet protocol) 프로토콜 스위트(suite of protocols)를 사용하는 네트워크들 및 게이트웨이들의 월드 와이드 컬렉션을 나타낼 수 있다. 일부 예들에서, 네트워크(140)는 인트라넷, LAN(local area network) 또는 WAN(wide area network)을 포함하거나 또는 그 일부일 수 있다. 또한, 일부 예들에서, 네트워크(140)는 인터넷의 일부일 수 있다.
딥 러닝 기반 비디오 학습 및 평가 시스템(110)과 강사 단말(120) 및 피교육자 단말(130) 사이의 통신 방식은 제한되지 않으며, 네트워크(140)가 포함할 수 있는 통신망을 활용하는 통신 방식뿐만 아니라, 기기들간의 근거리 무선 통신 역시 포함할 수 있다. 예를 들어, 네트워크(140)는 PAN(personal area network), LAN(local area network), CAN(campus area network), MAN(metropolitan area network), WAN(wide area network), BBN(broadband network), 인터넷 등의 네트워크 중 하나 이상의 임의의 네트워크를 포함할 수 있다. 또한, 네트워크(140)는 버스 네트워크, 스타 네트워크, 링 네트워크, 메쉬 네트워크, 스타-버스 네트워크, 트리 또는 계층적(hierarchical) 네트워크 등을 포함하는 네트워크 토폴로지 중 임의의 하나 이상을 포함할 수 있으나, 이에 제한되지 않는다.
강사 단말(120) 및 피교육자 단말(130)은 PC, 노트북, 스마트폰(smart phone), 태블릿(tablet), 웨어러블 컴퓨터(wearable computer) 등으로, 딥 러닝 기반 비디오 학습 및 평가 시스템(110)이 제공하는 서비스를 위하여, 각각 교육용 비디오(121) 및 피교육자 비디오(131)를 제작/저장/업로드하는 모든 단말 장치를 의미할 수 있다. 예를 들어, 강사 단말(120)은 강사가 특정 업무에 대해 한 동작씩 보여주며 설명하도록 촬영된 교육용 비디오(121)를 제작하여 저장 후, 업로드할 수 있고, 피교육자 단말(130)은 피교육자가 교육용 비디오(121)를 시청하며 특정 업무를 학습하여 실행하는 것을 촬영한 비교육자 비디오를 제작하여 저장 후, 업로드할 수 있다.
이러한, 강사 단말(120) 및 피교육자 단말(130) 각각의 동작은 딥 러닝 기반 비디오 학습 및 평가 시스템(110)이 제공하는 서비스를 위한 웹/모바일 사이트의 접속 또는 서비스 전용 어플리케이션의 설치 및 실행을 통하여 수행될 수 있다. 즉, 강사 단말(120) 및 피교육자 단말(130) 각각은 웹/모바일 사이트의 접속 또는 서비스 전용 어플리케이션의 설치 및 실행을 통하여, 교육용 비디오(121) 및 피교육자 비디오(131) 제작/저장/업로드와 후술되는 피교육자 비디오(131) 평가를 포함하는 서비스 전반의 동작(예컨대, 서비스 화면 구성, 데이터 입력, 데이터 송수신, 데이터 저장 등)을 수행할 수 있다.
이하, '강사'는 실질적으로 강사 단말(120)을 의미할 수 있고, '피교육자'는 실질적으로 피교육자 단말(130)을 의미할 수 있다.
딥 러닝 기반 비디오 학습 및 평가 시스템(110)은 피교육자 비디오(131)를 평가하는 서비스를 피교육자 단말(130)로 제공하는 주체로서, 강사 단말(120) 및 피교육자 단말(130)과 네트워크(140)를 통해 통신하여 명령, 코드, 파일, 컨텐츠, 서비스 등을 제공하는 컴퓨터 장치 또는 복수의 컴퓨터 장치들로 구현될 수 있다.
이 때, 딥 러닝 기반 비디오 학습 및 평가 시스템(110)은 피교육자 비디오(131) 평가 서비스를 제공하는 서버의 플랫폼에 포함되는 형태로 구현되어, 클라이언트(client)인 피교육자 단말(130)로 피교육자 비디오(131) 평가 서비스를 제공할 수 있다. 그러나 이에 제한되거나, 한정되지 않고, 딥 러닝 기반 비디오 학습 및 평가 시스템(110)은 피교육자 비디오(131) 평가 서비스를 제공하는 서버와 별개의 시스템으로 구축되어, 상기 서버와의 연동을 통해 피교육자 비디오(131) 평가 서비스를 제공하도록 구현될 수 있다. 그리고 딥 러닝 기반 비디오 학습 및 평가 시스템(110)은 적어도 일부의 구성 요소가 피교육자 단말(130) 상에 설치되는 어플리케이션의 형태로 구현되는 것 또한 가능하다.
이와 같은 딥 러닝 기반 비디오 학습 및 평가 시스템(110)은 강사 단말(120)로부터 교육용 비디오(121)를 수신하고, 피교육자 단말(130)로부터 피교육자 비디오(131)를 수신함으로써, 교육용 비디오(121)를 기반으로 딥 러닝 알고리즘을 이용하여 피교육자 비디오(131)를 분석/평가하는 피교육자 비디오(131) 평가 서비스를 피교육자 단말(130)로 제공할 수 있다. 이에 대한 상세한 설명은 아래에서 기재하기로 한다.
도 2는 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템의 구성을 설명하기 위한 블록도이다.
도 2를 참조하면, 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템(200)은 프로세서(210), 버스(220), 네트워크 인터페이스(230), 메모리(240) 및 데이터베이스(250)를 포함할 수 있다. 메모리(240)는 운영체제(241) 및 서비스 제공 루틴(242)를 포함할 수 있다. 프로세서(210)는 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진(211), 학습부(212) 및 평가부(213)를 포함한다. 다른 실시예들에서 딥 러닝 기반 비디오 학습 및 평가 시스템(200)은 도 2의 구성요소들보다 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 딥 러닝 기반 비디오 학습 및 평가 시스템(200)은 디스플레이나 트랜시버(transceiver)와 같은 다른 구성요소들을 포함할 수도 있다.
메모리(240)는 컴퓨터에서 판독 가능한 기록 매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 또한, 메모리(240)에는 운영체제(241)와 서비스 제공 루틴(242)을 위한 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 드라이브 메커니즘(drive mechanism, 미도시)을 이용하여 메모리(240)와는 별도의 컴퓨터에서 판독 가능한 기록 매체로부터 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록 매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록 매체(미도시)를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록 매체가 아닌 네트워크 인터페이스(230)를 통해 메모리(240)에 로딩될 수도 있다.
버스(220)는 딥 러닝 기반 비디오 학습 및 평가 시스템(200)의 구성요소들간의 통신 및 데이터 전송을 가능하게 할 수 있다. 버스(220)는 고속 시리얼 버스(high-speed serial bus), 병렬 버스(parallel bus), SAN(Storage Area Network) 및/또는 다른 적절한 통신 기술을 이용하여 구성될 수 있다.
네트워크 인터페이스(230)는 딥 러닝 기반 비디오 학습 및 평가 시스템(200)을 컴퓨터 네트워크에 연결하기 위한 컴퓨터 하드웨어 구성요소일 수 있다. 네트워크 인터페이스(230)는, 이더넷 카드와 같은 네트워크 인터페이스 카드, 광학 송수신기, 무선 주파수 송수신기, 혹은 정보를 송수신할 수 있는 임의의 다른 타입의 디바이스일 수 있다. 이러한 네트워크 인터페이스들의 다른 예들은 모바일 컴퓨팅 디바이스들 및 USB 내의 블루투스(Bluetooth), 3G 및 WiFi 등을 포함하는 무선기기일 수 있다. 일부 예들에서, 컴퓨팅 디바이스는, 서버, 모바일 폰, 혹은 다른 네트워크화된 컴퓨팅 디바이스와 같은 외부 디바이스와 무선으로 통신하기 위해 네트워크 인터페이스(230)를 사용할 수 있다. 네트워크 인터페이스(230)는 딥 러닝 기반 비디오 학습 및 평가 시스템(200)을 무선 또는 유선 커넥션을 통해 컴퓨터 네트워크에 연결시킬 수 있다.
데이터베이스(250)는 강사 단말로부터 수신되는 교육용 비디오 및 피교육자 비디오로부터 수신되는 피교육자 비디오를 저장 및 유지하는 역할을 할 수 있다. 또한, 데이터베이스(250)는 교육용 비디오를 기반으로 딥 러닝 알고리즘을 이용하여 피교육자 비디오를 분석/평가하는 피교육자 비디오 평가 서비스를 제공하는데 필요한 모든 정보를 저장 및 유지하는 역할을 할 수 있다. 도면에서는, 딥 러닝 기반 비디오 학습 및 평가 시스템(200)의 내부에 데이터베이스(250)를 구축하여 포함하는 것으로 도시하고 있으나, 이에 한정되는 것은 아니며 시스템 구현 방식이나 환경 등에 따라 생략될 수 있고 혹은 전체 또는 일부의 데이터베이스가 별개의 다른 시스템 상에 구축된 외부 데이터베이스로서 존재하는 것 또한 가능하다.
프로세서(210)는 기본적인 산술, 로직 및 딥 러닝 기반 비디오 학습 및 평가 시스템(200)의 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(240) 또는 네트워크 인터페이스(230)에 의해, 그리고 버스(220)를 통해 프로세서(210)로 제공될 수 있다. 프로세서(210)는 딥 네트워크 비디오 교육 엔진(211), 학습부(212) 및 평가부(213)를 위한 프로그램 코드를 실행하도록 구성될 수 있다. 이러한 프로그램 코드는 메모리(240)와 같은 기록 장치에 저장될 수 있다.
딥 네트워크 비디오 교육 엔진(211)은 딥 러닝 알고리즘을 이용하여 교육용 비디오 및 피교육자 비디오를 분석할 수 있다. 예를 들어, 딥 네트워크 비디오 교육 엔진(211)은 학습부(212)에 의해 교육용 비디오에 포함된 특정 업무를 학습한 후, 평가부(213)에서 피교육자 비디오에 포함되는 피교육자가 수행하는 특정 업무를 평가할 수 있도록 피교육자 비디오를 분석하는 역할을 할 수 있다.
학습부(212)는 교육용 비디오를 이용하여, 딥 네트워크 비디오 교육 엔진(211)을 학습시킬 수 있다. 이하, 교육용 비디오를 이용하여 딥 네트워크 비디오 교육 엔진(211)이 학습된다는 것은, 딥 네트워크 비디오 교육 엔진(211)에 의해 피교육자 비디오가 평가될 수 있도록 교육용 비디오가 딥 네트워크 비디오 교육 엔진(211)에 의해 분석되어, 딥 네트워크 비디오 교육 엔진(211)이 교육용 비디오에서 강사가 수행하는 특정 업무에 대해 학습되는 것을 의미한다. 이에 대한 상세한 설명은 도 3을 참조하여 기재하기로 한다.
따라서, 평가부(213)는 학습된 딥 네트워크 비디오 교육 엔진(211)을 이용하여 피교육자 비디오를 평가할 수 있다. 이에 대한 상세한 설명은 도 8을 참조하여 기재하기로 한다.
이상, 딥 러닝 기반 비디오 학습 및 평가 시스템(200)이 프로세서(210), 버스(220), 네트워크 인터페이스(230), 메모리(240) 및 데이터베이스(250)를 포함하는 경우로 설명하였으나, 이에 제한되거나 한정되지 않고, 프로세서(210)의 핵심 구성부들(딥 네트워크 비디오 교육 엔진(211), 학습부(212) 및 평가부(213))만을 포함할 수도 있다.
도 3은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에서 딥 네트워크 비디오 교육 엔진을 학습시키는 과정을 설명하기 위한 도면이다.
도 3을 참조하면, 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에 포함되는 학습부는 교육용 비디오(310)를 이용하여 딥 네트워크 교육 엔진(320)에서 교육 요소 영역 검출(321), 업무 수행 시구간 데이터 추출(322) 및 시멘틱 동작 설명 생성(323)을 수행하도록 함으로써, 딥 네트워크 교육 엔진(320)을 학습시킬 수 있다.
구체적으로, 학습부는 딥 네트워크 교육 엔진(320)을 통하여 교육용 비디오(310)에서 교육 요소 영역(교육용 비디오(310)에서 핵심이 되는 관심 영역)을 검출하고(321), 교육 요소 영역에 따라 교육용 비디오(310)의 업무 수행 시구간 데이터를 추출한 뒤(322), 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성할 수 있다(323). 이러한 동작은 학습부가 딥 네트워크 교육 엔진(320)을 제어하여 수행될 수 있다. 즉, 상술한 동작은 학습부의 제어 아래, 딥 네트워크 교육 엔진(320)에 의해 실질적으로 수행될 수 있다. 이에 대한 상세한 설명은 도 4 내지 7을 참조하여 기재하기로 한다.
따라서, 학습부는 교육용 비디오를 이용하여 딥 네트워크 교육 엔진(320)을 학습시켜, 교육용 비디오에 포함되는 특정 업무에 대한 정보인 시멘틱 동작 설명을 생성/유지함으로써, 이를 딥 러닝 기반 비디오 학습 및 평가 시스템에 포함되는 평가부에서 이용하도록 할 수 있다.
도 4 내지 7은 일 실시예에 따른 딥 네트워크 비디오 교육 엔진의 동작을 설명하기 위한 도면이다. 보다 상세하게, 도 4는 일 실시예에 따른 교육 요소 영역 검출 과정을 설명하기 위한 도면이고, 도 5는 일 실시예에 따른 업무 수행 시구간 데이터 추출 과정을 설명하기 위한 도면이며, 도 6은 일 실시예에 따른 시멘틱 동작 설명 생성 과정을 설명하기 위한 도면이고, 도 7은 도 6에 도시된 시멘틱 동작 설명 생성 과정에 의해 생성된 시멘틱 동작 설명을 나타낸 도면이다.
도 4를 참조하면, 일 실시예에 따른 딥 네트워크 비디오 교육 엔진(410)은 딥 러닝 알고리즘을 이용하여 교육용 비디오(420)에서 교육 요소 영역(421)을 검출할 수 있다. 여기서, 교육 요소 영역(421)은 교육용 비디오(420)에서 핵심이 되는 관심 영역(예컨대, 교육용 비디오(420)에서 핵심적인 사람 또는 사물)을 의미한다. 이에, 교육용 비디오(420)에서 교육 요소 영역(421)이 검출되는 것은, 교육용 비디오(420)에 등장하는 강사 또는 강사가 이용하는 사물이 검출되는 것을 의미할 수 있다.
이 때, 딥 네트워크 비디오 교육 엔진(410)이 교육 요소 영역(421) 검출을 위하여 이용하는 딥 러닝 알고리즘으로는, CNN(convolutional neural network), RNN(recurrent neural network), LSTM(long-short term memory) network, autoencoder 등이 사용될 수 있다. 그러나 이제 제한되거나 한정되지 않고, 딥 네트워크 비디오 교육 엔진(410)은 사람을 검출할 수 있는 다양한 딥 러닝 알고리즘을 이용할 수 있다.
또한, 딥 네트워크 비디오 교육 엔진(410)은 프레임 기반으로 딥 러닝 알고리즘을 이용하는 경우, 교육용 비디오(420)의 프레임들에서 연속적으로 교육 요소 영역(421)을 검출할 수 있다. 다만, 프레임 기반으로 딥 러닝 알고리즘을 이용하여 교육 요소 영역(421)이 검출되게 되면, 때때로 프레임과 프레임 사이에서 불연속적으로 교육 요소 영역(421)이 검출되지 않을 수도 있다. 이에, 딥 네트워크 비디오 교육 엔진(410)은 교육용 프레임들에 보간(interpolation) 알고리즘 또는 추적(tracking) 알고리즘을 적용함으로써, 교육용 비디오(420)의 프레임들에서 일관성 있게 연속적으로 교육 요소 영역(421)을 검출할 수 있다. 이러한 경우, 이전 프레임 정보를 기반으로 다음 프레임에서 교육 요소 영역(421)이 검출되기 위해, RNN, LSTM network 등이 딥 러닝 알고리즘으로 이용될 수 있다.
도 5를 참조하면, 일 실시예에 따른 딥 네트워크 비디오 교육 엔진(510)은 교육용 비디오(520)에서 교육 요소 영역(521)이 검출되고 난 뒤, 교육 요소 영역(521)에 따라 교육용 비디오(520)의 업무 수행 시구간 데이터(530)를 추출할 수 있다.
구체적으로, 딥 네트워크 비디오 교육 엔진(510)은 교육 요소 영역(521)의 특징(feature)을 이용하여 교육용 비디오(520)의 프레임들을 클러스터링함으로써, 클러스터링된 프레임들을 업무 수행 시구간 데이터(530)로 추출할 수 있다.
예를 들어, 딥 네트워크 비디오 교육 엔진(510)은 unsupervised 방식으로 교육용 비디오(520)의 프레임들 중 교육 요소 영역(521)의 특징이 유사한 프레임들을 포함하고, 교육 요소 영역(521)의 특징이 급격하게 변화가 생기는 지점에서 프레임들을 분할함으로써, 교육 요소 영역(521)의 특징이 연속되는 프레임들을 클러스터링할 수 있다. 그러나 이에 제한되거나 한정되지 않고, 딥 네트워크 비디오 교육 엔진(510)은 사전에 학습된 데이터를 활용한 supervised 방식을 사용하여, 교육 요소 영역(521)의 특징이 연속되는 프레임들을 클러스터링할 수도 있다.
여기서, 교육 요소 영역(521)의 특징으로는, LBP(local binary pattern), SIFT(scale invariant feature transform) 등의 descriptor 또는 딥 네트워크 비디오 교육 엔진(510)으로부터 추출된 딥 러닝 기반 특징이 사용될 수 있다. 만약, 교육 요소 영역(521)의 특징으로 딥 러닝 기반 특징이 사용되는 경우, 딥 러닝 기반 특징이 추출되는 과정은 도 4를 참조하여 상술한 교육 요소 영역(521)이 검출되는 과정에서 수행될 수 있으나, 이에 제한되거나 한정되지 않고, 교육 요소 영역(521)의 특징으로 교육용 비디오(520)의 프레임들을 클러스터링하기 이전에 임의의 과정으로 수행될 수 있다.
더 구체적인 예를 들면, 교육용 비디오(520)가 불고기 요리 방법에 대해 강사의 조리 과정을 촬영한 것이라면, 교육 요소 영역(521)으로 강사가 검출된 이후, 딥 네트워크 비디오 교육 엔진(510)은 교육용 비디오(520) 상 강사의 움직임(변화)에 따라, 버섯을 씻는 강사의 움직임이 포함되는 프레임들을 클러스터링하여 제1 클러스터(531)를 형성하고, 양념에 소고기를 재우는 강사의 움직임이 포함되는 프레임들을 클러스터링하여 제2 클러스터(532)를 형성할 수 있다.
이와 같이, 딥 네트워크 비디오 교육 엔진(510)은 교육용 비디오(520) 상 교육 요소 영역(521)의 특징을 이용하여 클러스터링된 복수의 클러스터들(531, 532)을 업무 수행 시구간 데이터(530)로 추출함으로써, 후술되는 피교육자 비디오의 평가 과정에서 프레임을 기반으로 비교하는 대신에, 프레임들이 클러스터링된 클러스터를 기반으로 비교 동작을 수행할 수 있다.
도 6을 참조하면, 일 실시예에 따른 딥 네트워크 비디오 교육 엔진(610)은 업무 수행 시구간 데이터(620)에 대한 시멘틱 동작 설명(630)을 생성할 수 있다. 구체적으로, 딥 네트워크 비디오 교육 엔진(610)은 딥 러닝 알고리즘을 이용하여, 업무 수행 시구간 데이터(620)로서 클러스터링된 프레임들(621) 사이에서 교육 요소 영역의 변화를 인식함으로써, 교육 요소 영역의 변화에 기초하여 교육 요소 영역과 관련된 동작에 대한 정보를 획득하여, 교육 요소와 관련된 동작에 대한 정보를 시멘틱 동작 설명(630)으로 생성할 수 있다.
여기서, 교육 요소 영역과 관련된 동작에 대한 정보는, 업무 수행 시구간 데이터(620)의 프레임들에서 교육 요소 영역이 변화됨에 따라 발생되는 동작에 대한 상세 정보를 의미할 수 있다. 예를 들어, 업무 수행 시구간 데이터(620)로서, 제1 클러스터(버섯을 씻는 강사의 움직임이 포함되는 프레임들(621)이 클러스터링된 것)가 형성되었다면, 딥 네트워크 비디오 교육 엔진(610)은 제1 클러스터의 프레임들(621) 각각에 대해 딥 러닝 알고리즘을 이용하여 교육 요소 영역의 변화(버섯을 씻는 강사의 동작)를 인식하여, 인식된 교육 요소 영역의 변화(버섯을 씻는 강사의 동작)가 어떤 설명으로 기술될 수 있는지 추론할 수 있다. 이에, 딥 네트워크 비디오 교육 엔진(610)은 제1 클러스터의 프레임들(621)에 대한 시멘틱 동작 설명(630)으로 '버섯 씻기'설명을 생성할 수 있다.
이 때, 딥 네트워크 비디오 교육 엔진(610)이 교육 요소의 변화를 인식하는 과정에서 이용하는 딥 러닝 알고리즘으로는, CNN(convolutional neural network), RNN(recurrent neural network), LSTM(long-short term memory) network, autoencoder 등이 사용될 수 있다. 그러나 이제 제한되거나 한정되지 않고, 딥 네트워크 비디오 교육 엔진(610)은 교육 요소의 변화를 인식할 수 있는 다양한 딥 러닝 알고리즘을 이용할 수 있다.
특히, 딥 네트워크 비디오 교육 엔진(610)은 업무 수행 시구간 데이터(620)로서 클러스터링된 프레임들(621) 사이에서 교육 요소 영역의 변화를 인식하기 위하여, 복수의 프레임들을 입력으로 받는 멀티 채널 CNN, RNN, autoencoder 등을 딥 러닝 알고리즘으로 이용할 수 있다.
도 7을 참조하면, 딥 네트워크 비디오 교육 엔진은 도 6을 참조하여 설명한 동작을 교육용 비디오에 포함되는 업무 수행 시구간 데이터(710) 모두에 대해 수행함으로써, 시멘틱 동작 설명(720)을 교육용 비디오에 대해 복수 개 생성할 수 있다.
결론적으로, 딥 네트워크 비디오 교육 엔진은 도 4 내지 6을 참조하여 상술한 과정을 거쳐, 교육용 비디오의 업무 수행 시구간 데이터(710)에 대한 시멘틱 동작 설명(720)을 생성함으로써, 교육용 비디오를 이용하여 학습될 수 있다. 이와 같이 학습된 딥 네트워크 비디오 교육 엔진은 도 8을 참조하여 후술되는 피교육자 비디오 평가 과정에서 비교 대상으로 이용될 수 있다.
도 8은 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에서 피교육자 비디오를 평가하는 과정을 설명하기 위한 도면이다.
도 8을 참조하면, 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에 포함되는 평가부는 도 3 내지 7을 참조하여 상술한 바와 같이 학습된 딥 네트워크 교육 엔진(810)을 기반으로, 딥 네트워크 교육 엔진(810)에서 교육 요소 영역 검출(811), 업무 수행 시구간 데이터 추출(812) 및 시멘틱 동작 설명 생성(813)을 수행하도록 함으로써, 피교육자 비디오(820)를 평가할 수 있다(830).
구체적으로, 평가부는 딥 네트워크 교육 엔진(810)을 통하여 피교육자 비디오(820)에서 교육 요소 영역(피교육자 비디오(820)에서 핵심이 되는 관심 영역)을 검출하고(811), 교육 요소 영역에 따라 피교육자 비디오(820)의 업무 수행 시구간 데이터를 추출한 뒤(812), 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성할 수 있다(813). 이러한 동작은 평가부가 딥 네트워크 교육 엔진(810)을 제어하여 수행될 수 있다. 즉, 상술한 동작은 평가부의 제어 아래, 딥 네트워크 교육 엔진(810)에 의해 실질적으로 수행될 수 있다.
이와 같은 딥 네트워크 교육 엔진(810)의 동작은 도 4 내지 7을 참조하여 상술한 교육용 비디오에 기반한 딥 네트워크 교육 엔진의 동작과 그 대상이 피교육자 비디오(820)라는 것을 제외하고, 모두 동일하게 수행될 수 있다. 따라서, 이에 대한 상세한 설명은 생략하기로 한다.
또한, 평가부는 상술한 바와 같이 생성된 피교육자 비디오(820)의 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 도 3 내지 7을 참조하여 상술한 바와 같이 생성된 교육용 비디오의 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명과 비교함으로써, 피교육자 비디오(820)를 평가할 수 있다(830). 이에 대한 상세한 설명은 도 9a 내지 9b를 참조하여 기재하기로 한다.
도 9a 내지 9b는 일 실시예에 따른 피교육자 비디오를 평가하는 과정 중 교육용 비디오와 피교육자 비디오를 비교하는 과정을 설명하기 위한 도면이다.
도 9a 내지 9b를 참조하면, 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템에 포함되는 평가부는 교육용 비디오(910, 930)의 시멘틱 동작 설명(911, 931)을 피교육자 비디오(920, 940)의 시멘틱 동작 설명(921, 941)과 비교함으로써, 피교육자가 강사의 특정 업무의 동작들을 순서대로 잘 따라 했는지를 평가할 수 있다. 예를 들어, 도 9a와 같이, 교육용 비디오(910)의 시멘틱 동작 설명(911)이 A, B, C, D, E, F, G로 구성되고, 피교육자 비디오(920)의 시멘틱 동작 설명(921)이 A, B, C, E, F, G로 구성되는 경우, 평가부는 피교육자 비디오(920)의 피교육자가 D STEP을 빠뜨렸음을 인식하여, 피교육자 비디오(920)의 피교육자가 교육용 비디오(910)의 특정 업무를 제대로 수행하지 못하였음을 평가할 수 있다. 반면에, 도 9b와 같이, 교육용 비디오(930)의 시멘틱 동작 설명(931)이 A, B, C, D, E, F, G로 구성되고, 피교육자 비디오(940)의 시멘틱 동작 설명(941)이 A, B, C, D, E, F, G로 구성되는 경우, 평가부는 피교육자 비디오(940)의 피교육자가 모든 STEP을 수행했음을 인식하여, 피교육자 비디오(940)의 피교육자가 교육용 비디오(930)의 특정 업무를 제대로 수행하였음을 평가할 수 있다.
또한, 평가부는 교육용 비디오(910, 930)의 업무 수행 시구간 데이터(912, 932) 자체를 피교육자 비디오(920, 940)의 업무 수행 시구간 데이터(922, 942) 자체와 비교함으로써, 피교육자가 강사의 특정 업무의 동작들을 순서대로 잘 따라 했는지를 평가할 수 있다. 예를 들어, 도 9a와 같이, 교육용 비디오(910)의 업무 수행 시구간 데이터(912)에서 중요 업무 수행 시구간 데이터인 E STEP의 시간 길이가 피교육자 비디오(920)의 업무 수행 시구간 데이터(922)에서 중요 업무 수행 시구간 데이터인 E STEP의 시간 길이와 일치하지 않는 경우, 평가부는 피교육자 비디오(920)의 피교육자가 E STEP을 잘못 수행함을 인식하여, 피교육자 비디오(920)의 피교육자가 교육용 비디오(910)의 특정 업무를 제대로 수행하지 못하였음을 평가할 수 있다. 반면에, 도 9b와 같이, 교육용 비디오(930)의 업무 수행 시구간 데이터(932)에서 중요 업무 수행 시구간 데이터인 E STEP의 시간 길이가 피교육자 비디오(940)의 업무 수행 시구간 데이터(942)에서 중요 업무 수행 시구간 데이터인 E STEP의 시간 길이와 일치하는 경우, 평가부는 피교육자 비디오(940)의 피교육자가 E STEP을 제대로 수행함을 인식하여, 피교육자 비디오(940)의 피교육자가 교육용 비디오(930)의 특정 업무를 제대로 수행하였음을 평가할 수 있다.
또한, 평가부는 상술한 것처럼 교육용 비디오(910, 930)의 시멘틱 동작 설명(911, 931)과 피교육자 비디오(920, 940)의 시멘틱 동작 설명(921, 941)이 비교된 결과를 피교육자 비디오(920, 940)의 평가 결과로 피교육자에게 제공할 수 있다. 마찬가지로, 평가부는 상술한 것처럼 교육용 비디오(910, 930)의 업무 수행 시구간 데이터(912, 932)와 피교육자 비디오(920, 940)의 업무 수행 시구간 데이터(922, 942)가 비교된 결과를 피교육자 비디오(920, 940)의 평가 결과로 피교육자에게 제공할 수 있다. 즉, 평가부는 시멘틱 동작 설명(921, 941) 중 어떤 설명이 누락되었는지 또는 업무 수행 시구간 데이터(922, 942) 중 어떤 업무 수행 시구간 데이터가 잘못 수행되었는지 등의 피드백을 제공할 수도 있다.
또한, 평가부는 비교 결과에 기초하여, 특정 업무를 제대로 수행하기 위한 수정 사항을 추가적으로 피교육자에게 제공할 수도 있다.
이와 같이, 평가부는 교육용 비디오(910, 930)와 피교육자 비디오(920, 940)를 프레임 단위로 비교하는 대신에, 교육용 비디오(910, 930)의 시멘틱 동작 설명(911, 931)을 피교육자 비디오(920, 940)의 시멘틱 동작 설명(921, 941)과 비교하거나, 교육용 비디오(910, 930)의 업무 수행 시구간 데이터(912, 932)를 피교육자 비디오(920, 940)의 업무 수행 시구간 데이터(922, 942)와 비교함으로써, 평가 과정의 복잡도를 낮추며, 평가 과정의 속도를 향상시킬 수 있다.
또한, 강사는 특정 업무에 숙련자이기 때문에, 특정 업무를 수행함에 있어 전체적인 소요 시간이 짧은 반면, 피교육자는 특정 업무에 서투른 초보인 경우가 일반적이기 때문에, 특정 업무를 학습하며 수행함에 있어 전체적인 소요 시간이 길어질 수 있다. 따라서, 교육용 비디오(910, 930)의 프레임들 전체의 시간 길이를 피교육자 비디오(920, 940)의 프레임들 전체의 시간 길이와 비교하는 것은 피교육자가 특정 업무를 제대로 수행하였음을 평가하는 과정에서 평가 오류만을 발생시킬 수 있다. 그러나, 일 실시예에 따른 평가부는 교육용 비디오(910, 930)의 시멘틱 동작 설명(911, 931)을 피교육자 비디오(920, 940)의 시멘틱 동작 설명(921, 941)과 비교하거나, 교육용 비디오(910, 930)의 업무 수행 시구간 데이터(912, 932)를 피교육자 비디오(920, 940)의 업무 수행 시구간 데이터(922, 942)와 비교하기 때문에, 평가 오류를 방지하며, 평가 결과의 정확도를 향상시킬 수 있다.
도 10은 일 실시예에 따른 딥 러닝 기반 학습 및 평가 방법을 나타낸 플로우 차트이다. 이하, 딥 러닝 기반 학습 및 평가 방법은 도 1 내지 2를 참조하여 상술된 딥 러닝 기반 비디오 학습 및 평가 시스템에 의해 수행되는 것으로 설명한다. 따라서, 딥 러닝 기반 학습 및 평가 방법은 컴퓨터와 결합하는 매체에 저장된 컴퓨터 프로그램의 형태로 구현될 수 있다.
도 10을 참조하면, 일 실시예에 따른 딥 러닝 기반 비디오 학습 및 평가 시스템은 교육용 비디오를 이용하여, 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 학습시킨다(1010).
구체적으로, 1010 단계에서 딥 러닝 기반 비디오 학습 및 평가 시스템은, 딥 네트워크 비디오 교육 엔진을 통하여, 교육용 비디오에서 교육 요소 영역-교육 요소 영역은 교육용 비디오의 핵심이 되는 관심 영역임-을 검출하고, 교육 요소 영역에 따라 교육용 비디오의 업무 수행 시구간 데이터를 추출하며, 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성함으로써, 딥 네트워크 비디오 교육 엔진을 학습시킬 수 있다.
여기서, 딥 러닝 기반 비디오 학습 및 평가 시스템은 딥 러닝 알고리즘을 이용하여 교육용 비디오의 프레임들에서 연속적으로 교육 요소 영역을 검출할 수 있다.
또한, 딥 러닝 기반 비디오 학습 및 평가 시스템은 교육용 비디오의 프레임들에서 연속적으로 교육 요소 영역을 검출하는 과정에서, 교육용 비디오의 프레임들에 보간(interpolation) 알고리즘 또는 추적(tracking) 알고리즘을 적용할 수 있다.
또한, 딥 러닝 기반 비디오 학습 및 평가 시스템은 교육 요소 영역의 특징(feature)을 이용하여 교육용 비디오의 프레임들을 클러스터링한 뒤, 클러스터링된 프레임들을 업무 수행 시구간 데이터로 추출할 수 있다.
이 때, 딥 러닝 기반 비디오 학습 및 평가 시스템은 프레임들 중 교육 요소 영역의 특징이 연속되는 프레임들을 클러스터링할 수 있다.
또한, 딥 러닝 기반 비디오 학습 및 평가 시스템은 업무 수행 시구간 데이터에서 교육 요소 영역과 관련된 동작에 대한 정보를 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명으로 생성할 수 있다. 예를 들어, 딥 러닝 기반 비디오 학습 및 평가 시스템은 딥 러닝 알고리즘을 이용하여 업무 수행 시구간 데이터에 포함되는 프레임들 사이에서 교육 요소 영역의 변화를 인식한 뒤, 교육 요소 영역의 변화에 기초하여, 교육 요소 영역과 관련된 동작에 대한 정보를 획득함으로써, 교육 요소 영역과 관련된 동작에 대한 정보를 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명으로 생성할 수 있다.
그 후, 딥 러닝 기반 비디오 학습 및 평가 시스템은 학습된 딥 네트워크 비디오 교육 엔진을 이용하여 피교육자 비디오를 평가한다(1020).
구체적으로, 1020 단계는 딥 러닝 기반 비디오 학습 및 평가 시스템은, 학습된 딥 네트워크 비디오 교육 엔진을 통하여, 피교육자 비디오에서 교육 요소 영역을 검출하고, 교육 요소 영역에 따라 피교육자 비디오의 업무 수행 시구간 데이터를 추출하며, 피교육자 비디오의 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성한 뒤, 교육용 비디오의 시멘틱 동작 설명 및 비교육자 비디오의 시멘틱 동작 설명을 비교함으로써, 피교육자 비디오를 평가할 수 있다.
이에, 딥 러닝 기반 비디오 학습 및 평가 시스템은 비교 결과를 피교육자로 제공할 수 있다.
여기서, 딥 러닝 기반 비디오 학습 및 평가 시스템이 피교육자 비디오를 평가하기 위하여, 교육용 비디오의 시멘틱 동작 설명 및 비교육자 비디오의 시멘틱 동작 설명을 비교하는 것으로 설명하였으나, 이에 제한되거나 한정되지 않고, 교육용 비디오의 업무 수행 시구간 데이터 및 피교육자 비디오의 업무 수행 시구간 데이터를 비교할 수도 있다. 이러한 경우, 1010 단계 및 1020 단계 각각에서, 교육용 비디오의 시멘틱 동작 설명을 생성하는 과정 및 피교육자 비디오의 시멘틱 동작 설명을 생성하는 과정은 적응적으로 생략될 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (15)
- 교육용 비디오를 이용하여, 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 학습시키는 단계; 및
상기 학습된 딥 네트워크 비디오 교육 엔진을 이용하여 피교육자 비디오를 평가하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제1항에 있어서,
상기 딥 네트워크 비디오 교육 엔진을 학습시키는 단계는,
상기 딥 네트워크 비디오 교육 엔진을 통하여, 상기 교육용 비디오에서 교육 요소 영역-상기 교육 요소 영역은 상기 교육용 비디오의 핵심이 되는 관심 영역임-을 검출하는 단계;
상기 교육 요소 영역에 따라 상기 교육용 비디오의 업무 수행 시구간 데이터를 추출하는 단계; 및
상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제2항에 있어서,
상기 피교육자 비디오를 평가하는 단계는,
상기 학습된 딥 네트워크 비디오 교육 엔진을 통하여, 상기 피교육자 비디오에서 상기 교육 요소 영역을 검출하는 단계;
상기 교육 요소 영역에 따라 상기 피교육자 비디오의 업무 수행 시구간 데이터를 추출하는 단계;
상기 피교육자 비디오의 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는 단계; 및
상기 교육용 비디오의 시멘틱 동작 설명 및 상기 비교육자 비디오의 시멘틱 동작 설명을 비교하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제3항에 있어서,
상기 교육용 비디오의 시멘틱 동작 설명 및 상기 비교육자 비디오의 시멘틱 동작 설명을 비교하는 단계는,
상기 비교 결과를 상기 피교육자로 제공하는 단계
를 더 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제2항에 있어서,
상기 교육용 비디오에서 교육 요소 영역을 검출하는 단계는,
상기 딥 러닝 알고리즘을 이용하여 상기 교육용 비디오의 프레임들에서 연속적으로 상기 교육 요소 영역을 검출하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제5항에 있어서,
상기 교육용 비디오의 프레임들에서 연속적으로 상기 교육 요소 영역을 검출하는 단계는,
상기 교육용 비디오의 프레임들에 보간(interpolation) 알고리즘 또는 추적(tracking) 알고리즘을 적용하는 단계
를 더 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제2항에 있어서,
상기 교육용 비디오의 업무 수행 시구간 데이터를 추출하는 단계는,
상기 교육 요소 영역의 특징(feature)을 이용하여 상기 교육용 비디오의 프레임들을 클러스터링하는 단계; 및
상기 클러스터링된 프레임들을 상기 업무 수행 시구간 데이터로 추출하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제7항에 있어서,
상기 교육용 비디오의 프레임들을 클러스터링하는 단계는,
상기 프레임들 중 상기 교육 요소 영역의 특징이 연속되는 프레임들을 클러스터링하는 단계인, 딥 러닝 기반 비디오 학습 및 평가 방법. - 제2항에 있어서,
상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는 단계는,
상기 업무 수행 시구간 데이터에서 상기 교육 요소 영역과 관련된 동작에 대한 정보를 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명으로 생성하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 제9항에 있어서,
상기 교육 요소 영역과 관련된 동작에 대한 정보를 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명으로 생성하는 단계는,
상기 딥 러닝 알고리즘을 이용하여 상기 업무 수행 시구간 데이터에 포함되는 프레임들 사이에서 상기 교육 요소 영역의 변화를 인식하는 단계; 및
상기 교육 요소 영역의 변화에 기초하여, 상기 교육 요소 영역과 관련된 동작에 대한 정보를 획득하는 단계
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 방법. - 전자 기기를 구현하는 컴퓨터와 결합하여, 딥 러닝 기반 비디오 학습 및 평가 방법을 실행시키기 위해 매체에 저장된 컴퓨터 프로그램에 있어서,
상기 딥 러닝 기반 비디오 학습 및 평가 방법은,
교육용 비디오를 이용하여, 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진을 학습시키는 단계; 및
상기 학습된 딥 네트워크 비디오 교육 엔진을 이용하여 피교육자 비디오를 평가하는 단계
를 포함하는 컴퓨터 프로그램. - 딥 러닝 알고리즘 기반의 딥 네트워크 비디오 교육 엔진;
교육용 비디오를 이용하여, 상기 딥 네트워크 비디오 교육 엔진을 학습시키는 학습부; 및
상기 학습된 딥 네트워크 교육 엔진을 이용하여 피교육자 비디오를 평가하는 평가부
를 포함하는 딥 러닝 기반 비디오 학습 및 평가 시스템. - 제12항에 있어서,
상기 학습부는,
상기 딥 네트워크 비디오 교육 엔진을 통하여, 상기 교육용 비디오에서 교육 요소 영역-상기 교육 요소 영역은 상기 교육용 비디오의 핵심이 되는 관심 영역임-을 검출하고, 상기 교육 요소 영역에 따라 상기 교육용 비디오의 업무 수행 시구간 데이터를 추출하며, 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성하는, 딥 러닝 기반 비디오 학습 및 평가 시스템. - 제13항에 있어서,
상기 평가부는,
상기 학습된 딥 네트워크 비디오 교육 엔진을 통하여, 상기 피교육자 비디오에서 상기 교육 요소 영역을 검출하고, 상기 교육 요소 영역에 따라 상기 피교육자 비디오의 업무 수행 시구간 데이터를 추출하며, 상기 피교육자 비디오의 상기 업무 수행 시구간 데이터에 대한 시멘틱 동작 설명을 생성한 뒤,
상기 교육용 비디오의 시멘틱 동작 설명 및 상기 비교육자 비디오의 시멘틱 동작 설명을 비교하는, 딥 러닝 기반 비디오 학습 및 평가 시스템. - 제14항에 있어서,
상기 평가부는,
상기 비교 결과를 상기 피교육자로 제공하는, 딥 러닝 기반 비디오 학습 및 평가 시스템.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/KR2017/012983 WO2018093158A1 (ko) | 2016-11-16 | 2017-11-16 | 딥 러닝 기반 교육용 비디오 학습 및 평가 시스템 |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020160152528 | 2016-11-16 | ||
| KR20160152528 | 2016-11-16 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20180055629A true KR20180055629A (ko) | 2018-05-25 |
| KR101893290B1 KR101893290B1 (ko) | 2018-08-29 |
Family
ID=62299908
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020170018511A KR101893290B1 (ko) | 2016-11-16 | 2017-02-10 | 딥 러닝 기반 교육용 비디오 학습 및 평가 시스템 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR101893290B1 (ko) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110646787A (zh) * | 2018-06-27 | 2020-01-03 | 三星电子株式会社 | 自运动估计方法和设备以及模型训练方法和设备 |
| KR102244187B1 (ko) * | 2019-10-31 | 2021-04-26 | 한국과학기술원 | 예외적 움직임에 강인한 비디오 프레임 보간 방법 및 그 장치 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20140041266A (ko) * | 2012-09-27 | 2014-04-04 | 이보람 | 모바일 컨텐츠를 이용한 댄스 및 노래 학습 서비스 제공 장치 및 방법 |
| KR20160063128A (ko) * | 2014-11-26 | 2016-06-03 | 삼성전자주식회사 | 컴퓨터 보조 진단 장치 및 방법 |
-
2017
- 2017-02-10 KR KR1020170018511A patent/KR101893290B1/ko active IP Right Grant
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20140041266A (ko) * | 2012-09-27 | 2014-04-04 | 이보람 | 모바일 컨텐츠를 이용한 댄스 및 노래 학습 서비스 제공 장치 및 방법 |
| KR20160063128A (ko) * | 2014-11-26 | 2016-06-03 | 삼성전자주식회사 | 컴퓨터 보조 진단 장치 및 방법 |
Non-Patent Citations (3)
| Title |
|---|
| 허민오 외 2명. 딥러닝 기반 비디오 스토리 학습 기술. 한국멀티미디어학회지. 한국멀티미디어학회. 2016.09., 제20권, 제3호, pp.23-40. * |
| 허민오 외 2명. 딥러닝 기반 비디오 스토리 학습 기술. 한국멀티미디어학회지. 한국멀티미디어학회. 2016.09., 제20권, 제3호, pp.23-40.* * |
| 황인서 외 2명. 적응적 움직임 추정 기법을 활용하는 새로운 움직임 보상 프레임 보간 알고리즘. 전자공학회논문지. 대한전자공학회. 2015.06., 제52권, 제6호, pp.62-69. * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110646787A (zh) * | 2018-06-27 | 2020-01-03 | 三星电子株式会社 | 自运动估计方法和设备以及模型训练方法和设备 |
| KR102244187B1 (ko) * | 2019-10-31 | 2021-04-26 | 한국과학기술원 | 예외적 움직임에 강인한 비디오 프레임 보간 방법 및 그 장치 |
| WO2021085757A1 (ko) * | 2019-10-31 | 2021-05-06 | 한국과학기술원 | 예외적 움직임에 강인한 비디오 프레임 보간 방법 및 그 장치 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR101893290B1 (ko) | 2018-08-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10699195B2 (en) | Training of artificial neural networks using safe mutations based on output gradients | |
| US11551103B2 (en) | Data-driven activity prediction | |
| KR102239714B1 (ko) | 신경망 학습 방법 및 장치, 데이터 처리 장치 | |
| EP3333764A1 (en) | Techniques for assessing group level cognitive states | |
| KR20190018276A (ko) | 모델을 학습하는 방법 및 장치 및 상기 뉴럴 네트워크를 이용한 인식 방법 및 장치 | |
| KR102036955B1 (ko) | 미세 얼굴 다이나믹의 딥 러닝 분석을 통한 미세 표정 인식 방법 및 장치 | |
| JP2019511777A (ja) | 畳み込みニューラルネットワークにおける構造学習 | |
| Vakanski et al. | Mathematical modeling and evaluation of human motions in physical therapy using mixture density neural networks | |
| WO2019082165A1 (en) | GENERATION OF NEURAL NETWORKS WITH COMPRESSED REPRESENTATION HAVING A HIGH DEGREE OF PRECISION | |
| US11507802B2 (en) | Recursive learning for artificial intelligent agents | |
| KR20190081373A (ko) | 인공 신경망에 기반한 단말 장치 및 데이터 처리 방법 | |
| KR102397248B1 (ko) | 영상 분석 기반의 환자 동작 모니터링 시스템 및 그의 제공 방법 | |
| Mazumdar et al. | Object recognition in videos by sequential frame extraction using convolutional neural networks and fully connected neural networks | |
| Clark-Turner et al. | Deep reinforcement learning of abstract reasoning from demonstrations | |
| KR101893290B1 (ko) | 딥 러닝 기반 교육용 비디오 학습 및 평가 시스템 | |
| US11450010B2 (en) | Repetition counting and classification of movements systems and methods | |
| US20210312292A1 (en) | Methods and systems for operating applications through user interfaces | |
| WO2020144835A1 (ja) | 情報処理装置および情報処理方法 | |
| US20240050306A1 (en) | Automated generation of control signals for sexual stimulation devices | |
| de Dios et al. | Landmark-based methods for temporal alignment of human motions | |
| JP7466702B2 (ja) | プロトタイプオプションの発見による解釈可能な模倣学習 | |
| KR102546807B1 (ko) | 대변 이미지 분석 기반 영양 정보 제공 방법, 장치 및 시스템 | |
| WO2018093158A1 (ko) | 딥 러닝 기반 교육용 비디오 학습 및 평가 시스템 | |
| Martin-Rico et al. | Artificial semantic memory with autonomous learning applied to social robots | |
| Conwell et al. | Human-like judgments of stability emerge from purely perceptual features: Evidence from supervised and unsupervised deep neural networks |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |