KR101840594B1 - 영상 회의 참여도 평가 방법 - Google Patents

영상 회의 참여도 평가 방법 Download PDF

Info

Publication number
KR101840594B1
KR101840594B1 KR1020170032263A KR20170032263A KR101840594B1 KR 101840594 B1 KR101840594 B1 KR 101840594B1 KR 1020170032263 A KR1020170032263 A KR 1020170032263A KR 20170032263 A KR20170032263 A KR 20170032263A KR 101840594 B1 KR101840594 B1 KR 101840594B1
Authority
KR
South Korea
Prior art keywords
participation
participant
attendee
video conference
evaluating
Prior art date
Application number
KR1020170032263A
Other languages
English (en)
Inventor
윤현진
고은진
장종현
한미경
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020170032263A priority Critical patent/KR101840594B1/ko
Application granted granted Critical
Publication of KR101840594B1 publication Critical patent/KR101840594B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/15—Conference systems
    • G06K9/00268—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Educational Administration (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Strategic Management (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Signal Processing (AREA)
  • Operations Research (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Analysis (AREA)

Abstract

영상 회의에 참석한 참석자의 참여도를 평가하는 영상 회의 참여도 평가 방법 및 장치가 개시된다. 영상 회의 참여도 평가 방법은 상기 참석자의 영상을 수신하는 단계, 상기 영상에서 얼굴의 특징점들을 검출하는 단계, 상기 검출된 특징점들의 위치에 기초하여 하나 이상의 참여도 평가 요소를 결정하는 단계, 및 상기 결정된 하나 이상의 참여도 평가 요소에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함할 수 있다.

Description

영상 회의 참여도 평가 방법{APPARATUS AND METHOD FOR EVALUATING PARTICIPATION OF VIDEO CONFERENCE ATTENDEE}
아래 설명은 영상 회의 참석자들의 참여도를 평가하는 기술에 관한 것이다.
영상 회의는 여러 가지 단말과 회선으로 이루어지는 통신시스템을 이용하여 멀리 떨어져 있는 사람들이 영상 화면을 통해 마치 한 회의실에 함께 있는 분위기로 회의를 진행하는 것이다. 영상 회의의 참석자들은 영상 회의 시스템을 통해 한 장소에 모이지 않아도, 참석자들 각각에 제공되는 영상에 기반하여 참석자들과 회의를 진행할 수 있다. 영상 회의는 시간적, 공간적인 제약 없이 다자간의 소통 및 협업을 가능하게 한다. 한편, 참석자들은 서로 동일한 공간에 위치하지 않기 때문에 여러 요소에 의해 참석자들의 영상 회의에 대한 참여도가 떨어질 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법은 상기 참석자의 영상을 수신하는 단계; 상기 영상에서 얼굴의 특징점들을 검출하는 단계; 상기 검출된 특징점들의 위치에 기초하여 하나 이상의 참여도 평가 요소를 결정하는 단계; 및 상기 결정된 하나 이상의 참여도 평가 요소에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서, 상기 하나 이상의 참여도 평가 요소를 결정하는 단계는, 상기 얼굴의 특징점들의 위치에 기초하여 상기 참석자의 얼굴 표정 정보를 결정하는 단계를 포함할 수 있고, 상기 참여도를 평가하는 단계는 상기 결정된 참석자의 얼굴 표정 정보에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 얼굴 표정 정보에 기초하여 상기 참석자의 참여도를 평가하는 단계는 상기 결정된 참석자의 얼굴 표정 정보를 다른 참석자의 얼굴 표정 정보와 비교한 결과에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 하나 이상의 참여도 평가 요소를 결정하는 단계는 상기 검출된 특징점들의 위치 변화에 기초하여 참석자의 발언 빈도를 결정하는 단계를 포함하고, 상기 참여도를 평가하는 단계는 상기 결정된 발언 빈도에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 발언 빈도를 결정하는 단계는 상기 참석자의 입술 윤곽에 대응하는 특징점들 사이의 거리에 기초하여 상기 참석자의 발언 빈도를 결정할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 하나 이상의 참여도 평가 요소를 결정하는 단계는 상기 검출된 특징점들의 위치 변화에 기초하여 상기 참석자의 머리 움직임을 결정하는 단계를 포함하고, 상기 참여도를 평가하는 단계는 상기 결정된 머리 움직임에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 머리 움직임에 기초하여 상기 참석자의 참여도를 평가하는 단계는 상기 참석자의 상기 결정된 머리 움직임을 다른 참석자의 머리 움직임과 비교한 결과에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 하나 이상의 참여도 평가 요소를 결정하는 단계는 상기 참석자의 눈 영역에 대응하는 특징점들의 위치에 기초하여 상기 참석자의 졸음 지수를 결정하는 단계를 포함하고, 상기 참여도를 평가하는 단계는 상기 결정된 참석자의 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 하나 이상의 참여도 평가 요소를 결정하는 단계는 상기 참석자의 눈 영역에 대응하는 특징점들에 포함된 영상 픽셀들의 픽셀 값 분포에 기초하여 상기 참석자의 졸음 지수를 결정하는 단계를 포함하고, 상기 참여도를 평가하는 단계는 상기 결정된 참석자의 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 단계는 상기 영상의 복수의 프레임들에서의 상기 참석자의 졸음 지수가 미리 설정한 임계값을 넘는 프레임 수에 기초하여 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 하나 이상의 참여도 평가 요소를 결정하는 단계는 상기 영상의 복수의 프레임들에서 상기 참석자의 얼굴이 나타난 프레임의 수에 기초하여 상기 참석자의 참석률을 계산하는 단계를 포함하고, 상기 참여도를 평가하는 단계는 상기 계산된 참석률에 기초하여 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법은 상기 평가된 참여도에 기초하여 상기 참석자에게 피드백을 제공하는 단계를 더 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 피드백을 제공하는 단계는 상기 참석자의 참여도의 단계에 기초하여 피드백을 제공할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 방법에서 상기 피드백을 제공하는 단계는 상기 참석자의 참여 상황에 기초하여 피드백을 제공할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 장치는 상기 참석자의 영상을 수신하는 영상 수신부; 상기 영상에서 얼굴의 특징점들을 검출하는 특징점 검출부; 상기 검출된 특징점들의 위치에 기초하여 하나 이상의 참여도 평가 요소를 결정하는 참여도 평가 요소 결정부; 및 상기 결정된 하나 이상의 참여도 평가 요소에 기초하여 상기 참석자의 참여도를 평가하는 참여도 평가부를 포함할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 장치에서 상기 참여도 평가 요소 결정부는 상기 얼굴의 특징점들의 위치에 기초하여 상기 참석자의 얼굴 표정 정보를 결정하는 표정 정보 결정부를 포함하고, 상기 참여도 평가부는 상기 결정된 참석자의 얼굴 표정 정보에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 장치에서 상기 참여도 평가 요소 결정부는 상기 검출된 특징점 사이의 거리에 기초하여 참석자의 발언 빈도를 결정하는 발언 빈도 결정부를 포함하고, 상기 참여도 평가부는 상기 결정된 발언 빈도에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 장치에서 상기 참여도 평가 요소 결정부는 상기 검출된 특징점들의 위치 변화에 기초하여 상기 참석자의 머리 움직임을 결정하는 움직임 결정부를 포함하고, 상기 참여도 평가부는 상기 결정된 머리 움직임에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 장치에서 상기 참여도 평가 요소 결정부는 상기 참석자의 눈 영역에 대응하는 특징점들의 위치에 기초하여 상기 참석자의 졸음 지수를 결정하는 졸음 결정부를 포함하고, 상기 참여도 평가부는 상기 결정된 참석자의 졸음 지수에 기초하여 상기 참석자의 참여도를 평가할 수 있다.
일 실시예에 따른 영상 회의 참여도 평가 장치는 상기 평가된 참여도에 기초하여 상기 참석자에게 피드백을 제공부를 더 포함할 수 있다.
도 1a는 일 실시예에 따른 영상 회의 참여도를 평가하는 방법을 도시하는 흐름도이다.
도 1b는 일 실시예에 따른 영상 회의 참여도 평가 장치가 하나 이상의 참여도 평가 요소에 기초하여 영상 회의 참석자의 참여도를 평가하는 일례를 설명하기 위한 흐름도이다.
도 2a는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자들의 얼굴 영역 및 특징점을 검출하는 일례를 설명하기 위한 도면이다.
도 2b는 일 실시예에 따른 영상 회의 참여도 평가 장치가 영상 회의 참석자들의 표정 정보를 결정하는 일례를 설명하기 위한 도면이다.
도 3은 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자들 사이의 표정 정보 비교에 기초하여 참여도를 평가하는 방법을 도시한 흐름도이다.
도 4는 일 실시예에 따른 참석자들 사이의 표정 정보 비교에 기초하여 참석자의 다른 참석자들과의 표정 정보 일치율을 계산하는 일례를 설명하기 위한 도면이다.
도 5는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자의 발언 빈도에 기초하여 참여도를 평가하는 방법을 도시한 흐름도이다.
도 6은 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자의 머리 움직임에 기초하여 참여도를 평가하는 방법을 도시한 흐름도이다.
도 7은 일 실시예에 따른 영상 회의 참여도 평가 장치가 졸음 지수에 기초하여 참여도를 평가하는 방법을 도시하는 흐름도이다.
도 8은 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자의 참석률에 기초하여 참여도를 평가하는 방법을 도시하는 흐름도이다.
도 9a는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참여도 단계에 따라 참석자에게 피드백을 제공하는 일례를 도면이다.
도 9b는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참여 상황에 따라 참석자에게 피드백을 제공하는 일례를 도면이다.
도 10은 일 실시예에 따른 영상 회의 참여도 평가 장치의 구성을 도시하는 도면이다.
도 11은 일 실시예에 따른 영상 회의 참석자의 참여도를 평가한 결과 화면의 일례를 도시하는 도면이다
실시예들에 대한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 본 명세서의 범위는 개시된 실시예들의 특정한 형태로 한정되는 것이 아니라 설명한 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
한편, 어떤 실시예가 달리 구현 가능한 경우에 특정 블록 내에 명기된 기능 또는 동작이 순서도와 다르게 수행될 수 있다. 예를 들어, 연속하는 두 블록들이 실제로는 실질적으로 동시에 수행될 수도 있고, 관련된 기능 또는 동작에 따라서는 해당 블록들의 순서가 뒤바뀌어 수행될 수도 있다.
이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.
도 1a는 일 실시예에 따른 영상 회의 참여도를 평가하는 방법을 도시하는 흐름도이다. 일 실시예에서, 이하 설명될 영상 회의 참여도 평가 방법은 도 10에 도시되는 영상 회의 참여도 평가 장치에 의해 수행될 수 있다. 영상 회의 참여도 평가 장치는 영상 회의의 참석자들의 해당 영상 회의에 대한 참여도를 평가한다. 예를 들어, 영상 회의 참여도 평가 장치는 영상 회의의 참석자들의 카메라를 통해 촬영된 영상 및/또는 마이크로폰을 통해 수신된 오디오에 기초하여 참석자들의 얼굴 표정, 행동 등을 인식하고, 인식된 얼굴 표정, 행동에 기초하여 참석자들의 참여도를 평가할 수 있다. 이하에서는, 영상 회의 참여도 평가 방법에 대해 보다 자세히 설명하도록 한다.
도 1a를 참조하면, 단계(110)에서 영상 회의 참여도 평가 장치는 영상 회의에 참여하는 참석자의 얼굴을 촬영한 영상(예를 들어, 정면 얼굴 영상)을 네트워크를 통해 수신한다. 일 실시예에서, 수신되는 영상은 개별 참석자들의 영상이 혼합되어 있는 하나의 영상이거나, 참석자들 각각의 개별 영상들일 수 있다. 영상 회의의 각 참석자들은 네트워크를 통해 영상과 오디오를 영상 회의 참여도 평가 장치에 전송할 수 있다.
단계(120)에서, 영상 회의 참여도 평가 장치는 수신한 영상에서 참석자의 얼굴 영역을 검출한다. 예를 들어, 영상 회의 참여도 평가 장치는 영상의 현재 프레임에서 Haar-like 특징 또는 HOG(Histogram of Oriented Gradients) 특징을 추출하고, 추출된 특징에 기초하여 현재 프레임에서 참석자의 얼굴 영역을 검출할 수 있다.
단계(130)에서는 현재 프레임에서 얼굴 영역이 검출되었는지 여부에 대해 판단한다.
단계(130)에서 얼굴 영역이 검출된 경우, 단계(140)에서 영상 회의 참여도 평가 장치는 해당 검출된 얼굴 영역에서 특징점들을 검출한다. 예를 들어, 영상 회의 참여도 평가 장치는 얼굴 영역에서 눈썹, 눈, 코, 입, 얼굴 윤곽 등에 해당하는 얼굴 특징점들의 위치를 검출하고, 검출된 특징점들에 대한 정보를 저장할 수 있다. 검출된 특징점들은 이하에서 설명되는 참여도 평가 요소를 결정하는 데에 사용될 수 있다.
단계(150)에서, 영상 회의 참여도 평가 장치는 검출된 특징점들에 기초하여 참여도 평가에 사용되는 하나 이상의 참여도 평가 요소를 결정한다. 참여도 평가 요소는 참여도를 결정하는데 기준이 되는 요인이다. 예를 들어, 영상 회의 참여도 평가 장치는 영상 회의 참석자가 나타내는 표정에 대한 정보, 참석자가 얼마나 자주 발언하는지에 대한 정보, 참석자의 머리 움직임의 발생 여부에 대한 정보, 참석자가 영상 회의 진행 중에 졸고 있는지 여부에 대한 정보 등을 참여도 평가 요소로 결정할 수 있다.
단계(160)에서, 영상 회의 참여도 평가 장치는 결정된 하나 이상의 참여도 평가 요소를 기초로 하여 영상 회의 참석자의 참여도를 평가한다.
단계(130)에서 얼굴 영역이 검출되지 않은 경우, 영상 회의 참여도 평가 장치는 얼굴 영역이 검출되지 않은 상황에 기초하여 참석자의 참여도를 평가한다. 예를 들어, 영상 회의 참여도 평가 장치는 영상에서 얼굴 영역이 검출되지 않은 경우 해당 참석자가 자리를 이탈한 것으로 판단하고, 해당 참석자의 참여도를 낮게 결정할 수 있다.
단계(170)에서, 영상 회의 참여도 평가 장치는 결정된 얼굴 영역 검출 결과 및 참여도 평가 결과를 저장할 수 있다. 참여도 평가 결과는 영상 회의 중에 실시간으로 제공되거나 또는 영상 회의 중 주기적으로 제공될 수 있다. 또는, 참여도 평가 결과는 영상 회의가 끝난 후에 제공될 수도 있다.
단계(180)에서 영상 회의 참여도 평가 장치는 영상 회의의 종료 여부에 대해 판단한다. 영상 회의가 종료되지 않은 경우, 영상 회의 참여도 평가 장치는 다시 단계(110)부터 단계(170)까지의 과정을 수행한다.
도 1b는 일 실시예에 따른 영상 회의 참여도 평가 장치가 하나 이상의 참여도 평가 요소에 기초하여 영상 회의 참석자의 참여도를 평가하는 일례를 설명하기 위한 흐름도이다.
도 1b를 참조하면, 단계(161)에서 영상 회의 참여도 평가 장치는 영상 내에서 참석자의 얼굴 영역이 검출되는지 여부에 기초하여 참석자의 참석률을 계산한다. 단계(162)에서, 영상 회의 참여도 평가 장치는 참석자들 사이의 표정 정보의 일치율을 계산한다. 예를 들어, 영상 회의 참여도 평가 장치는 전체 참석자들에 대해 결정된 표정 정보를 기초로 현재 참석자의 표정이 다른 참석자들의 표정과 동일한지 여부를 결정하는 것에 의해 표정 정보의 일치율을 계산할 수 있다. 단계(163)에서, 영상 회의 참여도 평가 장치는 발언 빈도에 기초하여 참석자들 중 주로 말하고 있는 참석자인 주화자를 결정하고, 참석자가 주화자로 결정된 비율을 계산한다. 여기서, 발언 빈도는 영상에서 입 영역에서 검출된 특징점들의 시간에 따른 변화 또는 오디오 신호의 분석을 통해 결정될 수 있다. 예를 들어, 입 영역에서 검출된 특징점들이 시간에 따라 변화한다든지 또는 오디오 신호에서 음성이 검출된 경우에 참석자가 말하고 있다고 결정될 수 있다. 단계(164)에서, 영상 회의 참여도 평가 장치는 참석자들 사이의 머리 움직임의 일치율을 계산하고, 단계(165)에서 참석자의 졸음률을 계산한다. 예를 들어, 영상 회의 참여도 평가 장치는 전체 참석자들에 대해 검출된 특징점들의 시간에 따른 위치 변화를 기초로, 현재 참석자의 머리 움직임이 다른 참석자들의 머리 움직임과 동일한지 여부를 결정하는 것에 의해 머리 움직임의 일치율을 계산할 수 있다. 또한, 영상 회의 참여도 장치는 참석자의 눈 영역에서 검출된 특징점들의 위치에 기반하여 참석자가 졸고 있는지 여부를 결정하고, 영상을 구성하는 전체 프레임들 중 참석자가 졸고 있음으로 판단된 프레임의 수 간의 비율에 기초하여 졸음률을 계산할 수 있다.
단계(166)에서, 영상 회의 참여도 평가 장치는 단계(161)내지 단계(165)에서 계산된 지표들 각각에 대해 미리 설정된 저참여도 조건이 만족하는지 여부를 결정한다. 저참여도 조건이 만족된 경우, 단계(167)에서 영상 회의 참여도 평가 장치는 참여자의 참여도 점수를 차감할 수 있다.
도 2a는 일 실시예에 따른 참석자들의 얼굴 영역 및 특징점을 검출하는 일례를 설명하기 위한 도면이다.
도 2a는 영상 회의에 3명의 참석자가 참석하고 1명의 참석자가 참석하지 않은 상황을 도시한다. 블록들(210, 230, 240) 각각은 각 참석자들에 대해 검출된 얼굴 영역을 나타낸다. 특징점(220)들 얼굴 영역에서 검출된 참석자의 얼굴 특징점들을 나타낸다. 예를 들어, 특징점들은 참석자의 눈썹, 눈, 코, 입 등과 같이 얼굴의 특징적인 부분에 위치하는 점들일 수 있다. 영역(245)의 경우, 참석자가 존재하지 않기 때문에, 해당 영역(245)에서는 얼굴 영역 및 특징점이 검출되지 않았다.
도 2b는 일 실시예에 따른 영상 회의 참여도 평가 장치가 영상 회의 참석자들의 표정 정보를 결정하는 일례를 설명하기 위한 도면이다. 도 2b는 4명의 참석자가 영상 회의에 참석한 상황을 도시한다. 각각의 참석자의 표정 정보는 예를 들어, 검출된 특징점에 기초하여 표정 분류기를 통해 결정된다. 표정 분류기는 미리 학습된 뉴럴 네트워크 모델일 수 있다. 표정 분류기는 특징점들의 위치 정보를 입력 받고, 특징점들의 위치 정보에 기초하여 각 참석자의 표정이 무엇인지를 결정할 수 있다. 예를 들어, 도 2b에서와 같이 분류기를 이용하여 참석자 1(250)은 웃음, 참석자 2(260)는 무표정, 참석자 3(270)은 놀람, 참석자 4(280)는 짜증으로 각각 표정 정보가 결정될 수 있다.
도 3은 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자들 사이의 표정 정보 비교에 기초하여 참여도를 평가하는 방법을 도시한 흐름도이다. 단계(310)에서, 영상 회의 참여도 평가 장치는 현재 프레임에서 검출된 특징점들의 위치에 기초하여 참석자의 표정을 결정한다. 예를 들어, 표정은 무표정(Neutral), 웃음(Happiness), 짜증(Disgust), 놀람(surprise) 등일 수 있다.
단계(310)에서 영상 회의 참여도 평가 장치는 표정 이외의 요소들에 의한 영향을 최소화하기 위해 특징점들의 위치를 미리 설정된 표준 특징점들의 위치로 변환하는 정규화 과정을 수행할 수 있다. 예를 들어, 표정 이외의 요소들에 의한 영향은 얼굴 크기, 기울어짐, 방향의 차이에 따른 특징점들의 위치 차이일 수 있다. 영상 회의 참여도 평가 장치는 정규화된 특징점들을 표정 분류기에 입력하고, 표정 분류기의 출력 결과에 기초하여 참석자의 표정 정보를 결정할 수 있다. 예를 들어, 표정 분류기는 얼굴 표정에 따른 특징점들의 위치 차이에 기초하여 참석자의 표정을 분류할 수 있다. 현재 프레임의 표정 정보 결정 결과는 더 높은 정확성을 위하여 이전의 복수의 프레임에서 결정된 표정 정보를 통해 수정될 수 있다. 예를 들어, 이전 9개의 프레임에서의 참석자의 표정 정보 중 6개의 프레임의 참석자의 표정 정보가 웃음을 나타내었다면, 현재 프레임의 표정 정보가 무표정으로 결정되었더라도 현재 프레임의 참석자의 표정 정보는 복수의 프레임에서 가장 빈도가 높게 결정된 표정 정보인 웃음으로 수정될 수 있다.
단계(320)에서, 영상 회의 참여도 평가 장치는 참석자의 결정된 표정 정보를 다른 참석자의 표정 정보와 비교한 결과에 기초하여 참석자의 참여도를 평가할 수 있다. 참석자들의 표정 정보는 회의 내용에 기초하여 다수의 참석자들 사이에서 유사하게 나타날 수 있기 때문에, 참석자의 다른 참석자들과의 표정 정보의 일치율은 참석자의 회의에 대한 참여도를 평가하는 지표로 사용될 수 있다.
도 4는 일 실시예에 따른 참석자들 사이의 표정 정보 비교에 기초하여 참석자의 다른 참석자들과의 표정 정보 일치율을 계산하는 일례를 설명하기 위한 도면이다. 도 4를 참조하면, 예를 들어, 참석자 1의 최근 세 개의 프레임에서의 표정 정보가 "웃음(410), 무표정(420), 웃음(430)"으로 나타났고, 참석자 2, 3의 동 시간의 세 개의 프레임에서의 표정 정보가 "웃음(440, 470), 웃음(450, 480), 웃음(460, 490)"으로 나타났다면, 참석자 1의 표정 정보 일치율은 1/3로 계산될 수 있고, 참석자 2, 3의 표정 정보 일치율은 각각 3/3으로 계산될 수 있다.
일 실시예에 따르면, 주기적으로 복수의 프레임에서 계산된 참석자의 다른 참석자들과의 표정 정보 일치율이 미리 설정된 임계값보다 작은 경우, 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다. 저참여도 조건을 만족한 참석자의 참여도 점수는 차감될 수 있고, 차감된 참여도 점수는 참여도 평가 결과로서 저장될 수 있다.
도 5는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자의 발언 빈도에 기초하여 참여도를 평가하는 방법을 도시한 흐름도이다.
도 5를 참조하면, 단계(510)에서 영상 회의 참여도 평가 장치는 검출된 특징점들 사이의 거리에 기초하여 참석자의 발언 빈도를 결정할 수 있다. 예를 들어, 영상 회의 참여도 평가 장치는 현재 프레임에서 참석자의 윗 입술의 윤곽과 아랫 입술의 윤곽에 대응되는 특징점들 사이의 거리값을 계산하고, 계산된 거리값 중 최소 값이 미리 설정한 임계값보다 큰 경우 참석자가 발언한 것으로 참석자의 발언 여부에 대한 정보를 결정할 수 있다. 다른 실시예에서, 영상 회의 참여도 평가 장치는 계산된 거리값들의 평균 값과 미리 설정된 임계값을 비교하고, 비교 결과에 기초하여 현재 프레임의 참석자의 발언 여부에 대한 정보를 결정할 수 있다.
일 실시예에 따르면, 영상 회의 참여도 평가 장치는 발언 이외의 요소들의 영향을 최소화하기 위해, 두 입술 사이의 거리를 미리 설정한 표준 얼굴 크기를 기초로 정규화하는 과정을 수행할 수 있다. 예를 들어, 발언 이외의 요소들은 얼굴 크기, 기울어짐, 방향의 차이에 따른 특징점들의 위치 차이 등일 수 있다.
영상 회의 참여도 평가 장치는 이전 복수의 프레임들의 참석자의 발언 여부에 대한 정보를 통해 현재 프레임에서 결정된 참석자의 발언 여부에 대한 정보를 수정할 수 있다. 예를 들어, 현재 프레임에서 참석자가 발언한 것으로 참석자의 발언 여부에 대한 정보가 결정되었더라도, 이전 아홉 개의 프레임에서 참석자가 발언하지 않은 것으로 발언 여부에 대한 정보가 결정되었다면, 현재 프레임에서 참석자가 발언하지 않은 것으로 발언 여부에 대한 정보를 수정할 수 있다.
얼굴 표정에 따라 참석자가 발언을 하지 않아도 두 입술 사이의 거리가 미리 설정된 임계값보다 클 수 있는 상황이 발생할 수 있기 때문에, 영상 회의 참여도 평가 장치는 참석자의 표정 정보가 무표정인 프레임에 기초하여 참석자의 발언 여부에 대한 정보를 결정할 수 있다. 영상 회의 참여도 평가 장치는 결정된 발언 여부에 대한 정보에 기초하여 주기적으로 복수의 프레임들을 분석할 수 있고, 분석된 결과에 기초하여 참석자의 발언 빈도를 결정할 수 있다.
다른 실시 예에 따르면, 영상 회의 참여도 평가 장치는 영상 회의의 오디오 신호를 수신하고, 수신된 신호를 분석하여 참석자의 발언 여부에 대한 정보를 결정할 수 있다. 예를 들어, 영상 회의 참여도 평가 장치는 수신한 오디오 신호에서 참석자의 음성 신호를 검출하고, 검출된 신호를 통해 참석자의 발언 여부에 대한 정보를 결정할 수 있다. 영상 회의 참여도 평가 장치는 결정된 발언 여부에 대한 정보에 기초하여 참석자의 발언 빈도를 결정할 수 있다.
단계(520)에서, 영상 회의 참여도 평가 장치는 결정된 발언 빈도에 기초하여 참석자의 참여도를 평가할 수 있다. 영상 회의 내에서 참석자의 발언 빈도가 높다는 것은 참석자가 회의에 적극적으로 참여하는 것을 나타낼 수 있으므로, 참석자의 발언 빈도를 통해 참석자의 회의 참여도를 평가할 수 있다.
일 실시예에 따르면, 영상 회의 참여도 평가 장치는 주기적으로 결정된 발언 빈도에 기초하여 참석자가 주화자인지 여부를 결정하고, 영상 회의가 종료된 후, 참석자가 주화자로 결정된 비율이 미리 결정한 임계값보다 낮은 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다. 저참여도 조건을 만족한 참석자의 참여도 점수는 차감되고, 차감된 참여도 점수는 참여도 평가 결과로서 저장될 수 있다.
도 6은 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자의 머리 움직임에 기초하여 참여도를 평가하는 방법을 도시한 흐름도이다.
도 6을 참조하면, 단계(610)에서 영상 회의 참여도 평가 장치는 검출된 특징점의 위치 변화에 기초하여 참석자의 머리 움직임을 결정한다. 예를 들어, 영상 회의 참여도 평가 장치는 영상 내 복수의 프레임에서 참석자의 코 끝에 해당하는 특징점의 y 좌표에 대한 시퀀스를 검출하고, 검출된 시퀀스에 기초하여 연속되는 시퀀스의 값들의 차로 이루어진 차 시퀀스를 계산한다. 영상 회의 참여도 평가 장치는 계산된 차 시퀀스를 평활화하고(예를 들어 이동 평균법에 의함), 평활화된 차 시퀀스에서 영점 교차횟수, 양수 구간 개수 및 음수 구간 개수를 획득한다. 영상 회의 참여도 평가 장치는 획득된 영점 교차횟수, 양수 구간 개수 및 음수 구간 개수가 각각에 대해 미리 설정된 임계값보다 모두 큰 경우, 참석자의 머리가 상하로 움직인 것으로 참석자의 머리 움직임을 결정할 수 있다.
다른 실시예에서 영상 회의 참여도 평가 장치는 참석자의 코 끝점의 x좌표를 설명된 방식과 동일한 방식에 기초하여 참석자 머리의 좌우 움직임을 결정할 수 있다. 이외에도 영상 회의 참여도 평가 장치는 참석자의 다양한 머리 움직임을 결정할 수 있다.
단계(620)에서 영상 회의 참여도 평가 장치는 결정된 참석자의 머리 움직임을 다른 참석자들의 머리 움직임과 비교한 결과에 기초하여 참석자의 참여도를 평가할 수 있다. 참석자의 머리의 좌우 또는 상하 움직임은 영상 회의에서 회의 내용에 대한 의사 표시 통해 영상 회의에 참여함을 나타낼 수 있다. 복수의 참석자들은 동일한 회의 내용에 대하여 유사한 의사 표시에 기초하여 유사한 머리 움직임을 나타낼 수 있기 때문에, 참석자의 다른 참석자들과의 머리 움직임의 일치율은 참석자의 회의에 대한 참여도를 평가할 수 있는 지표로써 사용될 수 있다.
일 실시예에 따르면, 머리 움직임의 일치율은 참석자와 다른 모든 참석자들의 머리 움직임의 일치 여부에 기초하여 계산될 수 있다. 영상 회의 참여도 평가 장치는 주기적으로 참석자들 사이의 머리 움직임의 일치율을 계산할 수 있다. 다른 참석자들과의 머리 움직임의 일치율이 미리 설정된 임계값보다 낮은 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다. 저참여도 조건을 만족한 참석자의 참여도 점수는 차감될 수 있고, 차감된 참여도 점수는 참여도 평가 결과로서 저장될 수 있다.
도 7은 일 실시예에 따른 영상 회의 참여도 평가 장치가 졸음 지수에 기초하여 참여도를 평가하는 방법을 도시하는 흐름도이다.
도 7을 참조하면, 단계(710)에서 영상 회의 참여도 평가 장치는 현재 프레임에서 검출된 눈 윤곽선에 대응하는 특징점들의 위치에 기초하여 졸음 지수를 결정한다. 예를 들어, 영상 회의 참여도 평가 장치는 눈 윤곽선에 대응하는 특징점들을 검출하고, 검출된 특징점들에 기초하여 눈 영역을 검출한다. 영상 회의 참여도 평가 장치는 외부 요인에 의해 받는 영향을 줄이기 위해, 검출된 눈 영역을 미리 설정된 표준 눈 영역의 크기로 변환하는 정규화 과정을 수행할 수 있다. 예를 들어, 외부 요인에 의한 영향은 얼굴 크기, 기울어짐, 방향의 차이에 따른 영향일 수 있다.
일 실시예에 따르면, 영상 회의 참여도 평가 장치는 정규화된 눈 영역에서 HOG 특징을 추출하고, 추출한 HOG특징을 감은 눈 분류기에 입력할 수 있다. 영상 회의 참여도 평가 장치는 감은 눈 분류기의 출력 결과에 기초하여 참석자가 눈을 감았는지 여부에 대한 정보를 결정할 수 있다. 영상 회의 참여도 평가 장치는 현재 프레임에서 참석자가 눈을 감았는지 여부에 대한 정보와 이전 복수의 프레임에서 참석자가 눈을 감았는지 여부에 대한 정보를 함께 분석하고, 분석 결과에 기초하여 분석된 프레임 수 대비 참석자가 눈을 감은 프레임 수의 비율을 졸음 지수로 결정할 수 있다. 결정된 참석자의 졸음 지수가 미리 설정된 임계값보다 큰 경우, 영상 회의 참여도 평가 장치는 참석자가 영상 회의가 진행되는 도중에 졸은 것으로 결정할 수 있다.
다른 실시예에 따르면, 단계(720)에서 영상 회의 참여도 평가 장치는 단계(710)에서 설명한 동일한 과정을 통해 정규화된 눈 영역을 검출하고, 검출된 정규화된 눈 영역의 픽셀 값의 분포에 기초하여 참석자가 눈을 감았는지 여부에 대한 정보를 결정한다. 예를 들어, 참석자가 눈을 감고 있는 경우 눈 영역의 색이 피부색에 가까울 것이고, 참석자가 눈을 뜨고 있는 경우 눈동자의 색에 가까울 것이다. 영상 회의 참여도 평가 장치는 다양한 상황에 따라 발생하는 눈 영역의 픽셀 값의 분포의 차이를 분석하고, 분석 결과에 기초하여 참석자가 눈을 감았는지 여부에 대한 정보를 결정할 수 있다.
영상 회의 참여도 평가 장치는 현재 프레임에서 참석자가 눈을 감았는지 여부에 대한 정보와 이전 복수의 프레임들에서 참석자가 눈을 감았는지 여부에 대한 정보를 함께 분석하고, 분석된 정보에 기초하여 분석된 프레임 수 대비 참석자가 눈을 감은 것으로 결정된 프레임 수의 비율을 졸음 지수로 결정할 수 있다. 영상 회의 참여도 평가 장치는 결정된 참석자의 졸음 지수가 미리 설정된 임계값보다 큰 경우, 참석자가 영상 회의가 진행되는 도중에 졸은 것으로 결정할 수 있다.
단계(730)에서, 영상 회의 참여도 평가 장치는 결정된 졸음 지수에 기초하여 참석자의 참여도를 평가할 수 있다. 결정된 졸음 지수는 영상 회의를 진행하는 동안 참석자가 회의에 집중하지 않고 졸은 정도를 나타내므로, 참석자의 참여도를 평가하는 지표로써 사용될 수 있다.
일 실시예에 따르면, 영상 회의 참여도 평가 장치는 주기적으로 복수의 프레임들을 획득하고, 획득된 프레임들 중에서 참석자의 졸은 것으로 결정된 프레임들의 수와 획득된 프레임들의 수를 대비하여 졸음률을 계산한다. 계산된 참석자의 졸음률이 미리 설정한 임계값보다 큰 경우 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있고, 저참여도 조건을 만족한 참석자의 참여도 점수는 삭감된다. 삭감된 참여도 점수는 참여도 평가 결과로서 저장된다.
도 8은 일 실시예에 따른 영상 회의 참여도 평가 장치가 참석자의 참석률에 기초하여 참여도를 평가하는 방법을 도시하는 흐름도이다.
도 8을 참조하면, 단계(810)에서 영상 회의 참여도 평가 장치는 참석자의 얼굴 영역이 검출된 프레임 수에 기초하여 참석률을 계산한다. 예를 들어 영상 회의 참여도 평가 장치는 영상 내에서 참석자의 얼굴 영역이 검출된 프레임을 수를 산출한다. 영상 회의 참여도 평가 장치는 산출된 프레임 수를 전체 프레임 수에 대비하여 참석률을 계산한다.
단계(820)에서, 영상 회의 참여도 평가 장치는 계산된 참석률에 기초하여 참여도를 평가한다. 참석자의 얼굴이 영상 내에 존재하지 않는다는 것은 참석자가 영상 회의에 참여하지 않음을 의미하므로, 영상 내에 참석자의 얼굴 영역이 존재하는지 여부에 기초하여 계산된 참석률은 참석자의 참여도를 평가하는 지표로써 사용될 수 있다. 일 실시예에 따르면, 영상 회의 참여도 평가 장치는 계산된 참석자의 참석률이 미리 설정한 임계값보다 작은 경우 저참여도 조건을 만족한 것으로 평가할 수 있다. 저참여도 조건을 만족한 참석자의 참여도 점수는 차감될 수 있고, 차감된 참여도 점수는 참여도 평가 결과로서 저장될 수 있다.
다른 실시예에 따른 영상 회의 참여도 평가 장치는 오디오 신호를 수신하여 참석자의 참여도를 평가할 수 있다. 예를 들어, 영상 회의 참여도 평가 장치는 영상 회의에 대한 오디오 신호를 수신하고, 수신된 오디오 신호에서 참석자의 오디오 신호를 추출하고, 추출된 오디오 신호의 내용을 분석할 수 있다. 영상 회의 참여도 평가 장치는 분석된 참석자의 오디오 신호의 내용과 회의 내용과의 관련도를 분석할 수 있고, 분석 결과에 기초하여 참석자의 참여도를 평가할 수 있다. 예를 들어, 영상 회의 참여도 평가 장치는 참석자의 오디오 신호에서 참석자가 회의와 관련 없는 전화 통화를 하는 것, 잡담을 나누는 것 등을 분석할 수 있고, 분석 결과에 기초하여 참석자의 참여도 점수를 결정할 수 있다.
도 9a는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참여도 단계에 따라 참석자에게 피드백을 제공하는 일례를 설명하기 위한 도면이다. 일 실시예에 따르면, 영상 회의 참여도 평가 장치는 저장된 참여도 점수에 기초하여 참여도 단계에 따라 서로 다른 피드백을 제공할 수 있다. 그림 (910), (920), (930)에서 영상 회의 참여도 평가 장치는 참여도 점수에 따라 구별되는 문구를 화면에 출력하거나 참석자에게 구별되는 오디오 피드백을 제공할 수 있다.
도 9b는 일 실시예에 따른 영상 회의 참여도 평가 장치가 참여 상황에 따라 참석자에게 피드백을 제공하는 일례를 설명하기 위한 도면이다. 일 실시예에 따르면, 영상 회의 참여도 평가 장치는 참석자의 참여 상황에 따라 다양한 피드백을 제공할 수 있다. 예를 들어, 영상 회의 참여도 평가 장치는 그림 (940)에 대응하는 참석자가 졸고 있는 상황에서 "졸지 마세요!"란 내용의 문구를 화면에 표시하거나 참석자에게 오디오 피드백을 제공할 수 있고, 그림(950)에 대응되는 참석자가 발언을 하지 않는 상황에서는 "적극적으로 참여하세요!"란 문구를 화면에 표시하거나 참석자에게 오디오 피드백을 제공할 수 있고, 그림(960)에 대응되는 참석자가 자리를 비운 상황에서는 "자리를 이탈하지 마세요!"란 내용의 문구를 화면에 표시하거나, 참석자에게 오디오 피드백을 제공할 수 있다. 피드백 제공 단계에서 제공되는 피드백의 종류는 언급된 실시 예에 한정되지 않고, 다양한 상황에 따라 다양한 종류의 피드백이 가능하다.
도 10은 일 실시예에 따른 영상 회의 참여도 평가 장치의 구성을 도시하는 도면이다.
도 10을 참조하면, 영상 회의 참여도 평가 장치는 영상 수신부(1010), 얼굴 영역 검출부(1020), 특징점 검출부(1030), 참여도 평가 요소 결정부(1040), 참여도 평가부(1050) 및 저장부(1060)를 포함할 수 있다.
영상 수신부(1010)는 영상 회의에 참여하는 참석자의 얼굴을 촬영한 영상을 네트워크를 통해 수신한다. 얼굴 영역 검출부(1020)는 수신한 영상에서 참석자의 얼굴 영역을 검출한다. 예를 들어, 얼굴 영역 검출부(1020)는 영상에서 현재 프레임을 획득하고, 획득된 현재 프레임에서 Haar-like 특징 또는 HOG 특징을 추출하고, 추출된 특징에 기초하여 참석자의 얼굴 영역을 검출한다. 특징점 검출부(1030)는 검출된 얼굴 영역에서 특징점들을 검출한다. 예를 들어, 검출된 특징점들은 눈썹, 눈, 코, 입, 얼굴 윤곽 등의 위치에 해당되는 점일 수 있다.
참여도 평가요소 결정부(1040)는 참여도 평가에 기초가 되는 요소들을 결정한다. 참여도 평가 요소 결정부(1040)는 표정 정보 결정부(1041), 발언 빈도 결정부(1042), 움직임 결정부(1043) 및 졸음 결정부(1044)를 포함할 수 있다.
표정 정보 결정부(1041)는 참석자의 표정 정보를 결정한다. 예를 들어, 검출된 특징점들을 표정 분류기에 입력하고, 표정 분류기의 출력 결과에 기초하여 표정 정보를 결정한다. 예들 들어, 표정 정보는 무표정, 웃음, 짜증, 놀람 등일 수 있다. 발언 빈도 결정부(1042)는 검출된 특징점들 중 입술 윤곽에 해당하는 특징점들 사이의 거리에 기초하여 발언 여부에 대한 정보를 결정할 수 있다. 발언 빈도 결정부(1042)는 윗 입술에 해당하는 특징점들과 아랫 입술에 해당하는 특징점들 사이의 거리값을 계산하고, 계산한 거리값들의 최소값이 미리 설정된 임계값보다 큰 경우 참석자가 발언한 것으로 참석자의 발언 여부에 대한 정보를 결정할 수 있다. 발언 빈도 결정부(1042)는 복수의 프레임에서 참석자의 발언 여부에 대한 정보를 기초로 하여 참석자의 발언 빈도를 결정할 수 있다.
움직임 결정부(1043)는 검출된 특징점의 위치 변화에 기초하여 참석자의 머리 움직임을 결정한다. 예를 들어, 움직임 결정부(1043)는 영상 내 복수의 프레임에서 참석자의 코 끝에 해당하는 특징점의 y좌표에 대한 시퀀스를 검출하고, 검출된 시퀀스에 기초하여 연속되는 시퀀스의 값들의 차로 이루어진 차 시퀀스를 계산한다. 움직임 결정부(1043)는 계산된 차 시퀀스를 평활화하고, 평활화된 차 시퀀스에서 영점 교차횟수, 양수 구간 개수 및 음수 구간 개수를 획득한다. 움직임 결정부(1043)는 획득된 영점 교차횟수, 양수 구간 개수 및 음수 구간 개수가 각각에 대하여 미리 설정된 임계값보다 모두 큰 경우, 참석자의 머리가 상하로 움직인 것으로 머리 움직임을 결정할 수 있다.
졸음 결정부(1044)는 검출된 특징점 중 눈 윤곽선에 대응하는 특징점들의 위치에 기초하여 졸음 지수를 결정한다. 예를 들어, 졸음 결정부(1044)는 현재 프레임에서 눈 윤곽선에 대응하는 특징점들의 위치에 기초하여 눈 영역을 검출하고, 검출된 눈 영역에서 HOG 특징을 추출한다. 졸음 결정부(1044)는 추출된 HOG 특징을 감은 눈 분류기에 입력할 수 있고, 감은 눈 분류기의 출력 결과를 통해 참석자가 눈을 감았는지 여부에 대한 정보를 결정할 수 있다. 졸음 결정부(1044)는 현재 프레임에서 참석자가 눈을 감았는지 여부에 대한 정보와 이전 복수의 프레임에서 참석자가 눈을 감았는지 여부에 대한 정보를 함께 분석하고, 분석 결과에 기초하여 분석된 프레임 수 대비 참석자가 눈을 감은 프레임 수의 비율을 졸음 지수로 결정할 수 있다. 결정된 졸음 지수가 미리 설정된 임계값보다 큰 경우 영상 회의 참여도 평가 장치는 참석자의 영상 회의가 진행되는 도중에 졸은 것으로 결정할 수 있다.
참여도 평가부(1050)는 하나 이상의 참여도 평가 요소에 기초하여 참석자의 참여도를 평가한다. 계산된 표정 정보의 일치율이 미리 설정된 임계값보다 작은 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다.
일 실시예에 따르면, 참여도 평가부(1050)는 주기적으로 참석자들의 발언 빈도를 비교하고, 비교 결과에 기초하여 주화자를 결정한다. 영상 회의가 종료된 뒤 참석자가 주화자로 결정된 비율이 미리 결정한 임계값보다 낮은 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다.
일 실시예에 따르면, 참여도 평가부(1050)는 주기적으로 참석자들의 머리 움직임의 일치율을 계산한다. 계산된 머리 움직임의 일치율이 미리 설정된 임계값보다 작은 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다.
일 실시예에 따르면, 참여도 평가부(1050)는 주기적으로 복수의 프레임들을 획득하고, 획득된 프레임들 중 참석자가 졸은 것으로 결정된 프레임들의 수와 획득된 프레임들의 수를 대비하여 참석자의 졸음률을 계산한다. 계산된 참석자의 졸음률이 미리 설정한 임계값보다 큰 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다.
일 실시예에 따르면, 참여도 평가부(1050)는 영상 내에서 참석자의 얼굴 영역이 검출된 프레임 수를 전체 프레임수에 대비하여 참석자의 참석률을 계산한다. 계산된 참석자의 참석률이 미리 설정된 임계값보다 작은 참석자는 저참여도 조건을 만족한 것으로 평가될 수 있다.
일 실시예에 따르면, 저참여도 조건을 만족한 참석자의 참여도 점수는 차감되고, 차감된 참여도 점수는 저장부(1060)에 저장될 수 있다. 저장부(1060)는 얼굴 영역 검출 결과 및 참여도 평가 결과를 저장할 수 있다.
도 11은 일 실시예에 따른 영상 회의 참석자의 참여도를 평가한 결과 화면의 일례를 도시하는 도면이다. 도 11을 참조하면, 참여도 평가 결과 화면에는 참석자의 이름, 각 참여도 평가 요소, 참여도 평가 점수가 구분되어 표시된다. 참여도 평가 결과 화면은 영상 회의 중에 실시간 또는 주기적으로 참석자들에게 제공되거나 또는 영상 회의가 끝난 뒤 최종적인 참여도 평가 결과가 참석자들에게 제공될 수 있다.
실시예들에서 설명된 구성요소들은 하나 이상의 DSP (digital signal processor), 프로세서, 컨트롤러, ASIC (application specific integrated circuit), FPGA (field programmable gate array)와 같은 프로그래머블 논리 소자, 다른 전자 기기들 및 이것들의 조합 중 하나 이상을 포함하는 하드웨어 구성 요소에 의해 구현될 수 있다. 실시예들에서 설명된 과정들 또는 기능들 중 적어도 일부는 소프트웨어에 의해 구현될 수 있고, 해당 소프트웨어는 기록 매체에 기록될 수 있다. 실시예들에서 설명된 구성요소들, 기능들 및 과정들은 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로써 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

Claims (20)

  1. 영상 회의에 참석한 참석자의 참여도를 평가하는 영상 회의 참여도 평가 방법에 있어서,
    상기 참석자의 영상을 수신하는 단계;
    상기 영상에서 얼굴의 특징점들을 검출하는 단계;
    상기 검출된 특징점들의 위치에 기초하여 하나 이상의 참여도 평가 요소를 결정하는 단계; 및
    상기 결정된 하나 이상의 참여도 평가 요소에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함하고,
    상기 하나 이상의 참여도 평가 요소를 결정하는 단계는,
    상기 얼굴의 특징점들의 위치에 기초하여 상기 참석자의 얼굴 표정 정보를 결정하는 단계를 포함하고,
    상기 참여도를 평가하는 단계는,
    상기 결정된 참석자의 얼굴 표정 정보와 다른 참석자의 얼굴 표정 정보 간의 일치율을 계산하고, 상기 계산한 일치율에 기초하여 상기 참석자의 참여도를 평가하는, 영상 회의 참여도 평가 방법.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 하나 이상의 참여도 평가 요소를 결정하는 단계는,
    상기 검출된 특징점들 사이의 거리에 기초하여 참석자의 발언 빈도를 결정하는 단계를 포함하고,
    상기 참여도를 평가하는 단계는,
    상기 결정된 발언 빈도에 기초하여 상기 참석자의 참여도를 평가하는, 영상 회의 참여도 평가 방법.
  5. 제4항에 있어서,
    상기 발언 빈도를 결정하는 단계는,
    상기 참석자의 입술 윤곽에 대응하는 특징점들 사이의 거리에 기초하여 상기 참석자의 발언 빈도를 결정하는 영상 회의 참여도 평가 방법.
  6. 제1항에 있어서,
    상기 하나 이상의 참여도 평가 요소를 결정하는 단계는,
    상기 결정된 특징점들의 위치 변화에 기초하여 상기 참석자의 머리 움직임을 결정하는 단계를 포함하고,
    상기 참여도를 평가하는 단계는,
    상기 결정된 머리 움직임에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함하는 영상 회의 참여도 평가 방법.
  7. 제6항에 있어서,
    상기 머리 움직임에 기초하여 상기 참석자의 참여도를 평가하는 단계는,
    상기 참석자의 상기 결정된 머리 움직임을 다른 참석자의 머리 움직임과 비교한 결과에 기초하여 상기 참석자의 참여도를 평가하는 영상 회의 참여도 평가 방법.
  8. 제1항에 있어서,
    상기 하나 이상의 참여도 평가 요소를 결정하는 단계는,
    상기 참석자의 눈 영역에 대응하는 특징점들의 위치에 기초하여 상기 참석자의 졸음 지수를 결정하는 단계를 포함하고,
    상기 참여도를 평가하는 단계는,
    상기 결정된 참석자의 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함하는 영상 회의 참여도 평가 방법.
  9. 제1항에 있어서,
    상기 하나 이상의 참여도 평가 요소를 결정하는 단계는,
    상기 참석자의 눈 영역에 대응하는 특징점들에 포함된 영상 픽셀들의 픽셀 값 분포에 기초하여 상기 참석자의 졸음 지수를 결정하는 단계를 포함하고,
    상기 참여도를 평가하는 단계는,
    상기 결정된 참석자의 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 단계를 포함하는 영상 회의 참여도 평가 방법.
  10. 제8항 또는 제9항에 있어서,
    상기 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 단계는,
    상기 영상의 복수의 프레임들에서의 상기 참석자의 졸음 지수가 미리 설정한 임계값을 넘는 프레임 수에 기초하여 참여도를 평가하는 영상 회의 참여도 평가 방법.
  11. 제1항에 있어서,
    상기 하나 이상의 참여도 평가 요소를 결정하는 단계는,
    상기 영상의 복수의 프레임들에서 상기 참석자의 얼굴이 나타난 프레임의 수에 기초하여 상기 참석자의 참석률을 계산하는 단계를 포함하고,
    상기 참여도를 평가하는 단계는,
    상기 계산된 참석률에 기초하여 참여도를 평가하는, 영상 회의 참여도 평가 방법.
  12. 제1항에 있어서,
    상기 평가된 참여도에 기초하여 상기 참석자에게 피드백을 제공하는 단계
    를 더 포함하는 영상 회의 참여도 평가 방법.
  13. 제12항에 있어서,
    상기 피드백을 제공하는 단계는,
    상기 참석자의 참여도 단계에 기초하여 피드백을 제공하는 영상 회의 참여도 평가 방법.
  14. 제12항에 있어서,
    상기 피드백을 제공하는 단계는,
    상기 참석자의 참여 상황에 기초하여 피드백을 제공하는 영상 회의 참여도 평가 방법.
  15. 영상 회의에 참석한 참석자의 참여도를 평가하는 영상 회의 참여도 평가 장치에 있어서,
    상기 참석자의 영상을 수신하는 영상 수신부;
    상기 영상에서 얼굴의 특징점들을 검출하는 특징점 검출부;
    상기 검출된 특징점들의 위치에 기초하여 하나 이상의 참여도 평가 요소를 결정하는 참여도 평가 요소 결정부; 및
    상기 결정된 하나 이상의 참여도 평가 요소에 기초하여 상기 참석자의 참여도를 평가하는 참여도 평가부를 포함하고,
    상기 참여도 평가 요소 결정부는,
    상기 얼굴의 특징점들의 위치에 기초하여 상기 참석자의 얼굴 표정 정보를 결정하는 표정 정보 결정부를 포함하고,
    상기 참여도 평가부는,
    상기 결정된 참석자의 얼굴 표정 정보와 다른 참석자의 얼굴 표정 정보 간의 일치율을 계산하고, 상기 계산한 일치율에 기초하여 상기 참석자의 참여도를 평가하는, 영상 회의 참여도 평가 장치
  16. 삭제
  17. 제15항에 있어서,
    상기 참여도 평가 요소 결정부는,
    상기 검출된 특징점들 사이의 거리에 기초하여 참석자의 발언 빈도를 결정하는 발언 빈도 결정부를 포함하고,
    상기 참여도 평가부는,
    상기 결정된 발언 빈도에 기초하여 상기 참석자의 참여도를 평가하는 영상 회의 참여도 평가 장치.
  18. 제15항에 있어서,
    상기 참여도 평가 요소 결정부는,
    상기 검출된 특징점들의 위치 변화에 기초하여 상기 참석자의 머리 움직임을 결정하는 움직임 결정부를 포함하고,
    상기 참여도 평가부는,
    상기 결정된 머리 움직임에 기초하여 상기 참석자의 참여도를 평가하는 영상 회의 참여도 평가 장치.
  19. 제15항에 있어서,
    상기 참여도 평가 요소 결정부는,
    상기 참석자의 눈 영역에 대응하는 특징점들의 위치에 기초하여 상기 참석자의 졸음 지수를 결정하는 졸음 결정부를 포함하고,
    상기 참여도 평가부는,
    상기 결정된 참석자의 졸음 지수에 기초하여 상기 참석자의 참여도를 평가하는 영상 회의 참여도 평가 장치.
  20. 제15항에 있어서,
    상기 평가된 참여도에 기초하여 상기 참석자에게 피드백이 제공되는 것을 특징으로 하는 영상 회의 참여도 평가 장치.
KR1020170032263A 2017-03-15 2017-03-15 영상 회의 참여도 평가 방법 KR101840594B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170032263A KR101840594B1 (ko) 2017-03-15 2017-03-15 영상 회의 참여도 평가 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170032263A KR101840594B1 (ko) 2017-03-15 2017-03-15 영상 회의 참여도 평가 방법

Publications (1)

Publication Number Publication Date
KR101840594B1 true KR101840594B1 (ko) 2018-03-20

Family

ID=61910669

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170032263A KR101840594B1 (ko) 2017-03-15 2017-03-15 영상 회의 참여도 평가 방법

Country Status (1)

Country Link
KR (1) KR101840594B1 (ko)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109961052A (zh) * 2019-03-29 2019-07-02 上海大易云计算股份有限公司 一种基于表情分析技术的视频面试方法及系统
WO2019231165A1 (ko) * 2018-05-28 2019-12-05 삼성에스디에스 주식회사 영상 품질 조정 방법과 이를 수행하기 위한 단말 및 중계 서버
CN111970471A (zh) * 2020-06-30 2020-11-20 视联动力信息技术股份有限公司 基于视频会议的参会人员评分方法、装置、设备及介质
CN112418572A (zh) * 2019-08-20 2021-02-26 成都易腾创想智能科技有限公司 一种基于表情分析技术的会议质量评估系统及方法
KR20220056622A (ko) 2020-10-28 2022-05-06 삼성에스디에스 주식회사 온라인 커뮤니케이션 화면 제공 방법 및 그 장치
US11386562B2 (en) 2018-12-28 2022-07-12 Cyberlink Corp. Systems and methods for foreground and background processing of content in a live video
WO2023084715A1 (ja) * 2021-11-11 2023-05-19 日本電信電話株式会社 情報処理装置、情報処理方法、及びプログラム

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101349769B1 (ko) * 2013-06-14 2014-01-09 주식회사 비투맥스 음성 및 모션 인식을 이용한 화상서비스 제공 시스템

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101349769B1 (ko) * 2013-06-14 2014-01-09 주식회사 비투맥스 음성 및 모션 인식을 이용한 화상서비스 제공 시스템

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019231165A1 (ko) * 2018-05-28 2019-12-05 삼성에스디에스 주식회사 영상 품질 조정 방법과 이를 수행하기 위한 단말 및 중계 서버
US10812760B2 (en) 2018-05-28 2020-10-20 Samsung Sds Co., Ltd. Method for adjusting image quality and terminal and relay server for performing same
US11386562B2 (en) 2018-12-28 2022-07-12 Cyberlink Corp. Systems and methods for foreground and background processing of content in a live video
CN109961052A (zh) * 2019-03-29 2019-07-02 上海大易云计算股份有限公司 一种基于表情分析技术的视频面试方法及系统
CN112418572A (zh) * 2019-08-20 2021-02-26 成都易腾创想智能科技有限公司 一种基于表情分析技术的会议质量评估系统及方法
CN111970471A (zh) * 2020-06-30 2020-11-20 视联动力信息技术股份有限公司 基于视频会议的参会人员评分方法、装置、设备及介质
CN111970471B (zh) * 2020-06-30 2024-06-11 视联动力信息技术股份有限公司 基于视频会议的参会人员评分方法、装置、设备及介质
KR20220056622A (ko) 2020-10-28 2022-05-06 삼성에스디에스 주식회사 온라인 커뮤니케이션 화면 제공 방법 및 그 장치
WO2023084715A1 (ja) * 2021-11-11 2023-05-19 日本電信電話株式会社 情報処理装置、情報処理方法、及びプログラム

Similar Documents

Publication Publication Date Title
KR101840594B1 (ko) 영상 회의 참여도 평가 방법
US11676369B2 (en) Context based target framing in a teleconferencing environment
Jayagopi et al. Modeling dominance in group conversations using nonverbal activity cues
US20190215464A1 (en) Systems and methods for decomposing a video stream into face streams
KR101732613B1 (ko) 비디오 화상회의 동안 참가자의 외모 수정
JP6772023B2 (ja) ユーザー状態検出による集団相互作用の方法及びシステム
CN108628572B (zh) 机器人调节音量的方法、装置、计算机设备和存储介质
US20100208078A1 (en) Horizontal gaze estimation for video conferencing
US8861779B2 (en) Methods for electronically analysing a dialogue and corresponding systems
CN111833876A (zh) 会议发言控制方法、系统、电子设备及存储介质
US11769386B2 (en) Preventing the number of meeting attendees at a videoconferencing endpoint from becoming unsafe
JP2016012216A (ja) 会議分析装置、方法及びプログラム
JP2018049481A (ja) 情報処理装置、評価システムおよびプログラム
JP2018077791A (ja) 推定方法及び推定システム
CN104135638A (zh) 优化的视频快照
Tao et al. An unsupervised visual-only voice activity detection approach using temporal orofacial features
JP2021179721A (ja) 会話情報推定装置、方法、及びプログラム
JP6859641B2 (ja) 評価システム、情報処理装置およびプログラム
WO2023084715A1 (ja) 情報処理装置、情報処理方法、及びプログラム
Sehili et al. Attention detection in elderly people-robot spoken interaction
Hung et al. Speech/non-speech detection in meetings from automatically extracted low resolution visual features
JP2021072497A (ja) 分析装置及びプログラム
CN114449320A (zh) 一种播放控制方法、装置、存储介质及电子设备
KR20130117624A (ko) 비주얼 큐를 이용하여 비디오 시퀀스에서 토킹 세그먼트를 검출하는 방법 및 장치
Al-Hames et al. Robust multi-modal group action recognition in meetings from disturbed videos with the asynchronous hidden Markov model

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant