KR102297620B1 - 게임 내 성희롱 모니터링 시스템 - Google Patents

Abstract

본 발명은 게임 내 성희롱 모니터링 시스템에 관한 것으로서, 성희롱 메시지 관련 데이터 및 성희롱 관련 법령과 관련 판례를 저장하고 있는 데이터베이스 및 둘 이상의 단말이 접속하여 참여하는 온라인 게임 내에서 음성 또는 텍스트 형식으로 발생하는 성희롱 메시지를 모니터링하기 위한 서버로서, 상기 데이터베이스를 기반으로 게임 내에서 발생하는 성희롱 메시지를 모니터링하고, 성희롱 메시지를 인지하면, 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지하는 모니터링 서버를 포함한다.
본 발명에 의하면, 게임 내 성희롱 메시지를 감지하고 관련 법령을 안내함으로써, 성희롱 가해자를 제재하고, 피해자를 보호할 수 있는 효과가 있다. 따라서, 본 발명에 의하면 보다 깨끗하고 건전한 게임 환경을 조성할 수 있다.

Description

게임 내 성희롱 모니터링 시스템 {In-game sexual harassment monitoring system}

본 발명은 게임 내에서 발생하는 성희롱, 성폭력, 욕설, 비난을 감지하는 성희롱 모니터링 기술에 관한 것이다.

2010년부터 2019년까지 국내 게임 시장은 연 9%의 성장률을 보여주었다. 2019년 국내 게임 시장 규모는 15조 5,750억 원으로 2018년의 14조 2,902억 원 대비 9.0% 증가했으며, 2020년 국내 게임 시장 규모는 2019년 대비 9.2% 정도 상승한 17조 93억 원에 달할 것으로 추산됐다.

그리고, 코로나19의 확산으로 인해 사람들이 집에 머무르는 시간이 길어지면서 게임에 대한 소비는 더욱 증가했다. 2020 게임 이용자 실태 조사 보고서에 따르면, 응답자의 70%는 코로나19 확산 이후 게임 이용시간과 게임 지출이 늘었다고 답했다. 또한, 게임 이용자들에게 코로나19 이후 게임 이용시간에 변화가 있었는지 물어본 결과, PC 게임, 모바일 게임에서 증가한 편이라는 응답이 각각 45.6%, 47.1%로 과반에 가깝게 나타났다. 국내 게임 시장이 최근 10년간 꾸준한 성장세를 보였고, 코로나 19로 인해 사람들의 여가 방식이 변화했다는 점에서 국내 게임 산업은 더욱 각광받을 것으로 전망된다.

그러나 국내 게임 시장의 성장 이면에는 해결해야 할 문제가 여전히 존재한다. 대표적인 문제가 바로 게임 내 성희롱/성차별이다. 게임 이용자들의 16.7%가 게임 상에서 성희롱 또는 성차별 피해 경험이 있다고 응답했다. 피해 유형은 '쪽지나 문자 채팅 등을 통해 문자의 형태로 성적 욕설이나 공격을 받음'(70.9%)이 가장 많았다.

게임 상에서 성희롱 또는 성차별 피해를 경험한 응답자들을 대상으로 대응 방법을 물어본 결과, '게임 회사에 신고한다'(44.7%)가 가장 높았다. 게임 회사에 신고 시 게임 회사에서 대응한 방법으로는 '문자 채팅, 음성 채팅 등 대화 사용의 일시 제한'(64.4%), '게임 접속 일시 정지'(38.0%), '게임 접속 영구 정지'(11.2%) 등의 순으로 나타났다. 이러한 조치는 게임 내 성희롱 또는 성차별을 근본적으로 방지할 수 없고, 게임 회사에 신고했으나 아무런 처벌을 하지 않은 경우도 41.5%로 다소 높은 수치를 보여 적절한 조치가 이루어진다고 보기 어렵다.

이처럼 게임 내 성차별적 고정 관념에 근거한 모욕 경험을 겪은 온라인 서비스 여성 이용자가 많다. 한국 콘텐츠 진흥원의 '2020 게임 이용자 실태 조사' 중 '응답자 특성별 게임 내 성희롱/성차별 피해'에 따르면, 여성은 남성에 비하여 성차별적 고정관념에 근거한 성적 욕설과 연락처, 오프라인 만남 요구받는 일이 잦았다. 이 문제에 주목해야 하는 이유는 게임 내 성차별 문화가 여성과 청소년을 성적으로 유인 및 약취하는 문제로 직결될 수 있고, 사회의 성차별 구조나 여성에 대한 폭력과 연관될 수 있기 때문이다. 또, 한국 게임 정책 자율 기구의 '2020년 한국 게임 이용자 조사 보고서'에 따르면, 인신공격으로 가장 많은 피해를 경험하며 성차별 발언 피해는 9.3%에 이른다.

이와 관련하여 '게임 산업 진흥에 관한 법률'처럼 게임 관련 법률이 존재하지만, 게임 내에서 이루어지는 언어 성희롱 및 성폭력과 관련한 법률이 미흡하여 신고 시 실제로 가해자에 대한 제재 조치가 쉽지 않은 실태이다. 또한, 가해자에 대한 조치는 법률 장벽으로 인하여 피해자에게 접근성이 좋지 않으며, 그러한 탓에 이제까지 대부분의 피해자들은 관련 사건이 발생하더라도 그냥 넘어가는 경우가 많았다.

이처럼 실제로 여성 온라인 게임 서비스 이용자의 언어 성희롱 및 성폭력 피해 경험이 일반적인 것을 알 수 있다. 또한, 온라인 서비스 제공자는 해당 가해자에게 솜방망이 제재를 하고, 여성 온라인 서비스 이용자는 법률상의 여러 장벽으로 인하여 수동적인 조치를 취하거나 상황 자체를 회피하는 등 안타까운 실태를 볼 수 있다. 끝내 여성 이용자의 공론화 물결이 있었으나 여전히 이에 대하여 강경한 해결 방안이 없음을 알 수 있다.

대한민국 등록특허 10-2034346

본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 게임 내 사용자에 대한 성희롱을 방지하기 위하여, 게임 내 성희롱 메시지를 감지하고 관련 법령을 안내하는 성희롱 모니터링 시스템을 제공하는데 그 목적이 있다.

본 발명의 목적은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

이와 같은 목적을 달성하기 위한 본 발명은 게임 내 성희롱 모니터링 시스템에 관한 것으로서, 성희롱 메시지 관련 데이터 및 성희롱 관련 법령과 관련 판례를 저장하고 있는 데이터베이스 및 둘 이상의 단말이 접속하여 참여하는 온라인 게임 내에서 음성 또는 텍스트 형식으로 발생하는 성희롱 메시지를 모니터링하기 위한 서버로서, 상기 데이터베이스를 기반으로 게임 내에서 발생하는 성희롱 메시지를 모니터링하고, 성희롱 메시지를 인지하면, 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지하는 모니터링 서버를 포함한다.

상기 모니터링 서버는 게임에 참여 중인 단말로부터 성희롱 피해 신고를 접수하면, 접수된 신고 내용을 분석하여, 성희롱 메시지를 발신한 발신자 단말에게 접수된 신고 내용을 통지하고, 성희롱 피해 신고를 한 단말에 성희롱 관련 법령, 관련 판례 및 법적 절차를 안내할 수 있다.

상기 모니터링 서버는 접수된 신고 내용을 분석하여, 기계학습을 통해 성희롱에 해당하는 단어 및 특징을 학습하고, 학습된 데이터를 상기 데이터베이스에 저장할 수 있다.

상기 모니터링 서버는 게임 내 채팅 중 성희롱 메시지가 있는 것으로 판단하면, 해당 채팅 내용을 캡처하고, 성희롱 메시지를 발신한 발신자 단말에 캡처한 이미지를 전송하고, 성희롱 관련 법령과 관련 판례를 상기 발신자 단말에 통지할 수 있다.

상기 모니터링 서버는 게임 내에서 정해진 시간 동안 특정 단말로부터 정해진 횟수 이상의 성희롱 메시지 발신을 감지하면, 해당하는 성희롱 메시지를 모두 캡처하고, 해당 성희롱 메시지를 수신한 수신자 단말에 캡처한 이미지를 안내하고, 이와 함께 상기 수신자 단말에 해당 성희롱 메시지로 인한 피해에 대해 고소 및 처벌 희망 여부에 대해 확인하고, 상기 수신자 단말로부터 고소 및 처벌을 희망하는 것으로 확인되면, 처벌 수위와 처벌에 관련된 법령을 상기 수신자 단말에 안내할 수 있다.

상기 모니터링 서버는 성희롱 메시지를 발신한 발신자 단말의 게임 계정에 대해 해당 게임의 진행 관련 페널티 조치를 취하도록 할 수 있다.

상기 모니터링 서버는, 게임 내에서 성희롱 음성과 단어를 추출하기 위한 추출부, 상기 추출부에서 추출한 성희롱 단어와 특징을 기계학습하기 위한 학습부 및 상기 추출부에서 추출한 성희롱 음성과 단어를 상기 데이터베이스에 저장된 데이터와 비교하여 성희롱 메시지 여부를 판단하고, 성희롱 메시지라고 판단하면 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지하는 판단부를 포함하여 이루어질 수 있다.

본 발명에 의하면, 게임 내 성희롱 메시지를 감지하고 관련 법령을 안내함으로써, 성희롱 가해자를 제재하고, 피해자를 보호할 수 있는 효과가 있다. 따라서, 본 발명에 의하면 보다 깨끗하고 건전한 게임 환경을 조성할 수 있다.

또한, 본 발명에 의하면 게임 내 성희롱 텍스트, 음성 등의 증거를 용이하게 확보할 수 있으므로, 피해자가 보다 주체적으로 신고 또는 고소할 수 있도록 도와주는 효과가 있다.

도 1은 본 발명의 일 실시예에 따른 게임 내 성희롱 모니터링 시스템의 구성을 개략적으로 도시한 것이다.
도 2는 본 발명의 일 실시예에 따른 모니터링 서버의 내부 구성을 도시한 블록도이다.
도 3 내지 도 14는 본 발명의 일 실시예에 따른 게임 내 성희롱 모니터링 시스템에서 단말 화면예이다.

본 명세서에서 개시된 실시 예의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 개시에서 제안하고자 하는 실시 예는 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 당해 기술분야에서 통상의 지식을 가진 자에게 실시 예들의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이다.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 개시된 실시 예에 대해 구체적으로 설명하기로 한다.

본 명세서에서 사용되는 용어는 개시된 실시 예들의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 관련 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 명세서의 상세한 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 명세서의 전반에 걸친 내용을 토대로 정의되어야 한다.

본 명세서에서의 단수의 표현은 문맥상 명백하게 단수인 것으로 특정하지 않는 한, 복수의 표현을 포함한다.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에서 사용되는 "부"라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부"는 어떤 역할들을 수행한다. 그렇지만 "부"는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부"는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부"는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부"들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부"들로 결합되거나 추가적인 구성요소들과 "부"들로 더 분리될 수 있다.

또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.

도 1은 본 발명의 일 실시예에 따른 게임 내 성희롱 모니터링 시스템의 구성을 개략적으로 도시한 것이다.

도 1을 참조하면, 본 발명의 게임 내 성희롱 모니터링 시스템은 모니터링 서버(100) 및 데이터베이스(200)를 포함한다.

본 발명에서 둘 이상의 단말(20)이 유무선 통신망을 통해 게임 제공 서버(10)에 접속하여, 게임 제공 서버(10)가 제공하는 온라인 게임을 진행한다.

본 발명에서 단말(20)은 유무선 통신망을 통해 게임 제공 서버(10)에 접속하여 온라인 게임을 진행할 수 있는 단말을 의미하며, 예를 들어 스마트폰, 핸드폰, 이동통신 단말기, 태블릿 PC, 데스크탑 컴퓨터, 랩탑 컴퓨터 등을 포함하는 개념이다.

모니터링 서버(100)는 둘 이상의 단말(20)이 접속하여 참여하는 온라인 게임 내에서 음성 또는 텍스트 형식으로 발생하는 성희롱 메시지를 모니터링한다.

데이터베이스(200)는 성희롱 메시지 관련 데이터 및 성희롱 관련 법령과 관련 판례를 저장하고 있다.

본 발명에서 모니터링 서버(100)는 데이터베이스(200)를 기반으로 게임 내에서 발생하는 성희롱 메시지를 모니터링하고, 성희롱 메시지를 인지하면, 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지한다.

모니터링 서버(100)는 게임에 참여 중인 단말로부터 성희롱 피해 신고를 접수하면, 접수된 신고 내용을 분석하여, 성희롱 메시지를 발신한 발신자 단말에게 접수된 신고 내용을 통지하고, 성희롱 피해 신고를 한 단말에 성희롱 관련 법령, 관련 판례 및 법적 절차를 안내할 수 있다.

상기 모니터링 서버는 접수된 신고 내용을 분석하여, 기계학습을 통해 성희롱에 해당하는 단어 및 특징을 학습하고, 학습된 데이터를 상기 데이터베이스에 저장할 수 있다.

모니터링 서버(100)는 게임 내 채팅 중 성희롱 메시지가 있는 것으로 판단하면, 해당 채팅 내용을 캡처하고, 성희롱 메시지를 발신한 발신자 단말에 캡처한 이미지를 전송하고, 성희롱 관련 법령과 관련 판례를 발신자 단말에 통지할 수 있다.

모니터링 서버(100)는 게임 내에서 정해진 시간 동안 특정 단말로부터 정해진 횟수 이상의 성희롱 메시지 발신을 감지하면, 해당하는 성희롱 메시지를 모두 캡처하고, 해당 성희롱 메시지를 수신한 수신자 단말에 캡처한 이미지를 안내하고, 이와 함께 수신자 단말에 해당 성희롱 메시지로 인한 피해에 대해 고소 및 처벌 희망 여부에 대해 확인하고, 수신자 단말로부터 고소 및 처벌을 희망하는 것으로 확인되면, 처벌 수위와 처벌에 관련된 법령을 수신자 단말에 안내할 수 있다.

모니터링 서버(100)는 성희롱 메시지를 발신한 발신자 단말의 게임 계정에 대해 해당 게임의 진행 관련 페널티 조치를 취할 수 있다. 예를 들어, 모니터링 서버(100)는 성희롱 메시지를 발신하거나 또는 성희롱 신고가 접수된 발신자 단말에 대해, 성희롱 메시지를 발신하거나 성희롱 신고가 접수된 횟수가 3회까지는 경고 메시지를 전송하고, 4회 이상이 되면 해당 발신자의 게임 계정을 영구 차단하거나, 게임 내 레벨을 강등시키는 등의 페널치 조치를 취할 수 있다.

도 2는 본 발명의 일 실시예에 따른 모니터링 서버의 내부 구성을 도시한 블록도이다.

도 2를 참조하면, 모니터링 서버(100)는 추출부(110), 학습부(120), 판단부(130)를 포함하여 이루어질 수 있다.

추출부(110)는 게임 내에서 성희롱 음성과 단어를 추출하는 역할을 한다.

학습부(120)는 추출부(110)에서 추출한 성희롱 단어와 특징을 기계학습(machine learning)하는 역할을 한다.

판단부(130)는 추출부(110)에서 추출한 성희롱 음성과 단어를 데이터베이스(200)에 저장된 데이터와 비교하여 성희롱 메시지 여부를 판단하고, 성희롱 메시지라고 판단하면 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지한다.

본 발명에서 성희롱 텍스트를 탐지하기 위하여, 자동화 작업을 위한 머신 러닝 AI 기술과, 이러한 기술을 뒷받침할 수 있는 텍스트 전처리 기술을 제안한다.

머신 러닝으로 학습된 자동화 작업은 신고 대상의 욕설 화면 자동 캡처 기술, 기본 DB에 포함되어 있지 않은 새로운 단어와 문맥 발생 시 DB 데이터 수집 및 관리 기술, 사전에 학습된 Word Embedding 작업이 요구된다. 또한, 데이터베이스에서 학습 데이터와 테스트 데이터 간의 머신 러닝 알고리즘으로 인한 학습으로 문맥상의 성희롱, 성폭력, 차별적 발언을 식별할 수 있는 머신 러닝 기술을 활용함으로써, 게임 내 성희롱 메시지 감지와 분석 단계를 수행한다.

게임 내 채팅은 일정한 패턴을 가지고 있지 않는 비정형 텍스트 자료이기 때문에 분석 시간을 줄이고 정확성은 높이기 위하여 텍스트 전처리 작업이 필수적이다.

또한, 실제 게임 이용 중에 이루어진 성희롱 메시지 데이터에는 개인 정보가 포함될 수 있다. 인공지능 예측 모형을 구축하면서 서비스 이용자의 개인 정보가 포함되는 것은 지양해야 하므로 텍스트 전처리는 더욱 필수적이다.

본 발명에서 데이터 전처리 과정에서 한국어 정보 처리 파이썬 패키지 KoNLPy(코엔엘파이) 라이브러리를 사용한다. 구체적으로 1단계 토큰화(Tokenization), 2단계 명사/동사/형용사 추출, 3단계 불용어 제거(Stop words) - 서비스 이용자 개인 정보 제거 순으로 진행한다. 그리고 BoW(Bag of Words)방법을 적용하여 텍스트 자료를 정형화한다. 해당 정형화 방법은 비정형 텍스트 자료를 정형화하는 데 가장 보편적인 사용 방법이다.

이후 머신 러닝 기반의 감성 분석을 실시하여 텍스트의 전반적인 분위기를 감지하며, 긍정, 부정, 중립, 혼합의 4가지 감정 상태를 감지할 수 있는 감정 분석, 텍스트 분석, 입력 데이터 분석 후 사용된 언어 탐지와 번역, 주제 모델링 작업으로 이루어진다. 이때, 회귀 계수에 벌점(penalization)을 부과하는 벌점 회귀 모형을 사용하고, 이는 축소 추정법(shrinkage estimation methods)의 일종이다. 대표적인 벌점 회귀 모형은 능형 회귀(ridge regression)와 Lasso(Least Absolute Shrinkage and Selection Operator)이므로 두 가지와 교차 타당화(CV: Cross Validation)를 함께 사용하며, 분석 단계에서 텍스트를 처리한다.

본 발명에서 머신 러닝 기반의 분석 탐지 단계의 신뢰성을 향상시키고자 머신 러닝 학습을 위한 데이터 셋으로 삭제 대상 문맥으로 파악될 수 있는 각종 성희롱, 성폭력, 차별적 발언 문구 데이터를 통하여 식별해야 하는 단어를 학습할 수 있다. 이와 비교하여 정상 데이터를 식별하기 위한 정상적인 대화 데이터를 통하여 식별하지 않아야 하는 단어를 학습함으로써 문맥 파악 및 식별의 정확성을 높일 수 있다. 또한, 자동화 기술로 인하여 캡처된 내용의 정당한 처벌 수위를 파악하기 위하여 법률 데이터와 해당 법률에 대한 선례 데이터를 통하여 높은 신뢰성을 가져올 수 있다. 또한, 언급된 데이터들을 통하여 테스트 데이터 셋과 학습 데이터 셋으로 구분함으로써, 게임 속에서의 문맥 파악에 높은 정확성을 가질 수 있다.

이처럼 본 발명에서는 자동화된 텍스트 전처리가 가능하다.

본 발명에서는 사용자들의 신고를 통해 수집되는 데이터를 학습하여 성희롱 텍스트와 그 맥락에 대해 적절한 판단을 내릴 수 있도록 한다. 즉, 성희롱 언어를 사용했다고 판단할 시 해당 대화를 자동으로 캡처(저장) 후 가해자에게 전송하고, 특정 계정 사용자가 위 행위를 반복하는 것을 인식할 경우, 피해자에게 신고 접수에 대해 권유할 수 있다. 또한, 게임 이용자에게 부적절 언어 사용에 대한 신고를 받아 수시로 인공지능의 빅데이터로 사용할 수 있다.

예를 들어, 모니터링 서버(100)는 성희롱 텍스트 신고가 접수되면, 성희롱 텍스트를 의미있는 문자열 단위로 토큰화하며, 이때 KoNLPy를 이용한다. 토큰화는 형태소 추출과 품사 태깅 순으로 진행된다.

그리고, 감성 분석을 통해 텍스트의 유의미한 단어 토큰이 성희롱 텍스트에 해당되는지 보다 정확하게 판단할 수 있다.

그리고, 유의미한 단어 토큰만 사용하기 위해 불용어를 제거한다. 불용어는 조사, 어미, 문장부호 뿐만 아니라 인공지능이 학습한 정상 텍스트를 포함한다.

그리고 감성분석과 불용어가 제거된 데이터에 대해 벡터화하여 데이터 전처리를 완료한다.

본 발명에서 텍스트 전처리 과정에서 감성분석을 수행하는 구체적인 내용을 설명하면 다음과 같다.

감성분석(Sentiment Analysis)은 텍스트에 내재된 주관적인 의견, 태도, 성향 등을 파악하는 기술이다. 감성분석은 방법론에 따라 사전 기반 분석과 기계학습 기반 분석으로 분류할 수 있으며, 본 발명에서는 기계학습 기반 분석 방법을 사용한다. 기계학습 기반 분석 방법은 수집, 전처리, 학습, 검증, 감성분석의 단계로 구성된다.

수집 단계에서는 성희롱 텍스트 데이터를 직접 수집하거나 기관, 서비스 등이 기존에 제공하는 데이터를 사용할 수 있다.

전처리 단계는 수집한 데이터를 가공하는 단계로서, 예를 들어 형태소 추출과 N-gram을 사용할 수 있다. 한국어는 어미와 조사가 발달한 언어로, 이들의 결합에 따라 단어 형태가 크게 변화하기 때문에 명사, 형용사, 동사 등의 핵심적인 품사를 추출해야 한다. N-gram은 문장을 n음절 단위로 끊어서 자연어를 처리하는 방법으로 사전에 의존하지 않고도 새로운 성희롱 텍스트나 축약된 성희롱 텍스트를 다룰 수 있다는 장점이 있다.

학습 단계는 기계학습 알고리즘을 통해 성희롱 텍스트 분류 모델을 만드는 단계이다. 이때, Naive-Bayes와 SVM(Support Vector Machine) 등의 알고리즘을 활용한다. Naive-Bayes는 모든 특성값은 서로 독립임을 가정하는 베이즈 정리를 데이터 분류에 활용한 알고리즘이다. 이는 지도학습에서 매우 효율적으로 훈련될 수 있으며 단순한 디자인과 가정을 가지고도 복잡한 상황에서 작동한다. SVM은 주어진 데이터를 바탕으로 새로운 데이터가 어느 카테고리에 속하는지 판단하는 알고리즘이다. 평면상에 데이터가 있다고 했을 때 두 카테고리를 가장 잘 분류할 수 있는 선을 찾는 방법으로써, 선은 각 카테고리의 여백(Margin)이 최대화되도록 찾는다.

검증 단계는 분류 모델이 정확하게 텍스트의 감정을 분류하는지 검증하는 단계이다. 검증 과정에서 문제가 발생할 경우 피드백을 통해 학습과 검증을 반복하면서 더욱 정확한 모델을 구축하도록 한다.

감성분석 단계는 성희롱 텍스트를 긍정, 중립, 부정으로 분류하여 성희롱 텍스트를 더욱 정밀하게 판별하는 데 기여한다.

본 발명에서는 피해자의 능동적 결정의 기회를 주도록 하기 위하여, 주체 지향적 의사 결정 시스템인 데이터 웨어하우스 기술의 응용을 제안한다.

데이터 웨어하우스란 정보 자산을 보다 효율적으로 활용하기 위해 흩어져 있는 데이터베이스를 통합, 관리함으로써 의사 결정을 함에 있어서 활용하기 용이한 시스템이다. 이는 게임 이용자의 원하는 데이터(지속적인 피해였을 경우, 가해 유저의 언어 사용 실태를 캡처한 사진 등) 증거의 원활한 확보를 위해 데이터를 삭제 또는 갱신하는 것이 아니라 증거를 중첩하는 개념이다.

이처럼 본 발명에서는 데이터 웨어하우스 기술을 이용하여 게임 사용자의 올바른 의사 결정을 돕기 위하여 이전의 데이터를 함께 유지하며, 조합한다. 메타데이터로는 성적 유해 언어 DB를 기반으로 해당 언어와 유사, 동일한 단어를 사용할 경우 과거부터 계속해서 그 상황을 캡처 후 저장하며, 하나의 사용자 데이터(특정 계정 사용자의 데이터)로 변환하여 일정 기간 또는 횟수 이상의로 지속하거나 반복될 때 피해자에게 해당 데이터를 전송함으로써, 피해자에게 신고 절차를 밟을 수 있도록 권유할 수 있다.

그리고, 데이터의 집합체를 이용하여 피해자 단말이 가해자의 데이터에 대해 접근 검색이 가능하도록 하여, 법률 정보를 간략하게 정리함과 함께 빠르고 주체적인 신고 접수를 도울 수 있다.

이처럼 본 발명에서 선택적인 정보 추출(전처리된 텍스트 중 성희롱적 발언, 텍스트 정보 증거) 후 조정, 관리(DB 수집 : 판단부 A 러닝)과, 효율적인 의사 결정 시스템 활용(피해 유저에게 가해자의 법률 위반 정보 제공 및 원고 소송 도움, 유저의 주체적 의사 결정 여부 선택)으로 데이터 웨어하우스의 특징을 적용할 수 있다. 이때, 여러 데이터들이 각각의 데이터베이스 내에 분산되어 저장돼 있는 만큼 하나의 데이터웨어하우스로 적용시켜 데이터 웨어하우스의 특징을 활용할 수 있다. 예를 들어, 유해 언어로 분류된 성희롱 특징 및 단어가 저장돼 있는 데이터베이스, 법률 정보들이 저장돼 있는 데이터베이스, 유저 정보가 저장돼 있는 데이터베이스, 성희롱적 발언으로 판단되어 캡처된 게임 채팅 증거(사진)가 저장돼 있는 데이터베이스 등을 모두 연결하여 하나의 데이터 웨어하우스로 조정하고 관리할 수 있다. 이로써 피해자에게 효과적인 의사 결정을 기대할 수 있다.

도 3 내지 도 14는 본 발명의 일 실시예에 따른 게임 내 성희롱 모니터링 시스템에서 단말 화면예이다.

도 3은 성희롱 텍스트를 수신한 사용자 B가 사용자 A를 성희롱 텍스트 발신자로 신고한 경우의 화면예이다.

도 3 (a)에서 사용자 A 단말에서 성희롱 텍스트를 캡처하여 관리자에게 신고한 것으로서, '(관리자에게) 사용자 A에 대해 성희롱으로 신고합니다'라는 화면이 표시되고, 사용자 A의 단말에 '사용자 B로부터 신고를 받아 해당 대화에 대한 캡처본과 텍스트 분석을 진행하였습니다. 관련 법령 안내로 이동하겠습니다'라는 메시지가 표시된다.

그리고, 도 3 (b)의 화면에서 성희롱 텍스트 관련 법령과 관련 판례를 디스플레이한다.

도 4는 모니터링 서버(100)에서 성희롱 텍스트를 감지하고, 성희롱 텍스트를 수신한 수신자 단말에 성희롱 텍스트 캡처 이미지와 관련 법령을 안내한 화면예이다.

도 4 (a)에서 성희롱 피해자인 수신자 단말에 성희롱 텍스트 캡처본과 과련 법령 안내를 통지한 화면예가 도시되어 있고, (b)에서 성희롱 관련 법령, 관련 판례, 법적 대응 매뉴얼을 안내하는 화면예가 도시되어 있다.

도 5 내지 도 7은 게임 내 채팅 중에 성희롱 메시지를 수신한 피해자에 의해 성희롱 피해 신고가 접수된 경우의 화면예를 예시한 것이다.

도 5는 게임 화면예로서, 게임 중 사용자 A와 사용자 B 간의 채팅이 이루어진 것을 보여준다.

도 5에서 사용자 B가 사용자 A로부터 성희롱 텍스트를 인지하여 이를 신고한 경우이다.

그러면, 도 6에서 사용자 B에 의해 성희롱 가해자로 신고된 사용자 A의 단말에, 사용자 A로부터 성희롱 발언으로 인한 신고 대상자가 되었음을 고지하고, 관련 법령에 의해 처벌될 수 있음을 통지한 화면을 확인할 수 있다.

그리고, 도 7에서 성희롱 피해자인 사용자 B의 선택에 따라 어떤 처벌을 받을 수 있는지를 안내하고, 관련 법령, 법적 예상 처벌 수위, 게임 내 페널티 부과 내용에 대해 사용자 A의 단말에 안내한다.

도 7의 실시예에서 게임 내 페널티 부과와 관련하여, 1회 적발 시 경고 조치, 2회 적발 시 30일간 게임 이용 금지, 3회 이상 적발 시 게임 강제 탈퇴 후 모든 게임 사이트에서 블랙리스트 등록 등으로 설정될 수 있다.

도 8 내지 도 10은 게임 내에서 특정 사용자가 성희롱 대화를 지속적으로 반복하는 경우, 성희롱 대상의 피해자에게 신고 접수를 권유하는 과정을 예시한 화면예이다.

도 8은 게임 내 특정 사용자가 반복하여 성희롱 메시지를 발신한 것을 요일별로 캡처한 화면예이다.

이처럼, 게임 내 특정 사용자가 지속적인 성희롱 대화를 시도하는 경우, 모니터링 서버(100)가 이를 감지하고, 성희롱 메시지를 자동으로 캡처하고, 성희롱 메시지를 수신한 수신자 단말에 성희롱 메시지 캡처 이미지를 포함하는 성희롱 피해 내용을 안내하고, 신고 접수를 권유하는 내용을 전송할 수 있다.

도 9는 성희롱 메시지를 수신한 수신자 단말측에 성희롱 피해 내용을 안내하고, 성희롱 메시지를 발신한 발신자에 대한 처벌 희망 여부를 확인하는 내용의 화면예이고, 도 10은 수신자 단말에서 처벌을 원할 경우, 관련 법령을 안내하는 페이지가 표시된 화면예이다.

도 11 내지 도 14는 성희롱 메시지를 수신한 수신자 단말에서 신고 또는 고소를 원하는 경우, 법률 자문 시스템과 연계하는 과정을 보여주는 화면예이다.

도 11은 게임 내 채팅 중 성희롱 메시지를 수신한 수신자 단말의 화면예로서, 모니터링 서버(100)가 성희롱 메시지를 감지하고, 법령 안내 시스템과의 연결 여부를 확인하는 내용이다.

도 12는 도 11에서 수신자 단말에서 법령 안내 시스템으로 연결을 선택한 경우, 법령 안내 시스템에 연결되어 법령을 안내하는 화면예이다. 도 12의 화면에서 각각의 법령이 선택되면 해당 법령의 상세내용과 관련 판례를 제공한다.

도 13은 해당 법령안내 탭의 화면예이고, 도 14는 관련 판례 안내 화면예이다.

본 발명의 일 실시예에서 게임이 종료된 후, 게임 사용자들 모두에게 성희롱 메시지 인지 여부를 설문을 통해 확인하는 방식으로 성희롱 피해 여부를 확인할 수 있다. 예를 들어, 게임 종료 후에 다음과 같은 설문의 내용을 띄울 수 있다.

1. 해당 게임에서 본인이 성희롱 피해를 겪었습니까?

2. 해당 게임에서 타인이 성희롱 피해를 겪는 것을 목격하였습니까?

3. 타인의 성희롱 피해를 목격하였다면 타인의 닉네임은 무엇입니까?

이러한 설문에 응함에 따라 성희롱 메시지 피해 여부와, 가해자를 확인할 수 있다. 이때, 본인이 피해자가 아님에도 허위로 성희롱 피해 사실에 대해 응답할 수 있다. 이러한 경우, 신고 처리 전에 필수적으로 본인 인증 및 게임 계정 재로그인 등의 방식으로 통해 허위 신고를 걸러낼 수 있다.

본 발명에서 이러한 설문을 이용한 성희롱 감지 방법은 게임 내 다수의 이용자가 접속한 상태를 전제로 한다. 즉, 게임 내 1:1 채팅에서 이루어진 성희롱의 경우, 발신자와 수신자가 특정되기 때문에, 게임 내 다수의 이용자가 접속한 상태에서 성희롱이 발생한 경우에 설문을 이용한 성희롱 감지 방법을 사용할 수 있다.

본 발명에서 설문을 이용한 성희롱 감지 방법에 있어서, 허위 응답자를 필터링할 수 있는 방안을 설명하면 다음과 같다.

본 발명에서 설문 내용 중 '본인이 당했는가'의 질문에 대하여 정상 응답 및 허위 응답의 판단은 아래의 과정을 통하여 이루어진다.

판단부(130)는 대화 내역 중에서 수신자(피해자)를 특정할 만한 것이 있는지 확인한다. 이때, 대화 내역은 상기 판단을 위하여 데이터베이스(200)에 저장돼 있으므로 별도의 대화 내역을 추가로 저장할 필요는 없다.

수신자를 특정할 만한 것에 대한 기준은, 닉네임(텍스트 전처리), 수신자의 이름(유저 정보 DB), 성희롱 단어의 의미나 문맥에 따른 수신자의 성별(유저 정보 DB) 등이다. 위와 같은 수신자 특정 기준에 따라 '예 또는 아니오' 응답을 통해 허위 사실 유무를 판단할 수 있다.

수신자를 특정하기 위해 전술한 정보를 조합한다.

먼저, 설문에서 작성한 정보(닉네임, 직접적인 이름, 성별 판단)를 통해 유저를 특정하기 전, 성별을 특정할 수 있는지 여부를 구분한다.

성별을 구분할 수 있는 경우, 성별 정보와 기입한 닉네임, 수신자 이름 등을 조합하여 수신자로 추정되는 계정을 선별하고, 설문을 작성한 신고자와 수신자로 추정되는 유저의 접점이 있었는지 분석하여 판단한다.

성별을 구분할 수 없는 경우, 닉네임과 수신자 이름을 조합하여 조사(추출된 유저 경우의 수를 가지고 조사)하고, 설문을 작성한 신고자와 수신자로 추정되는 유저의 접점이 있었는지 분석하여 판단한다. 예를 들어, 두 사용자 이상과의 접점이 있을 경우, 수신자로 추정되는 사용자를 가리키는 추가적인 신고가 있었는지 여부를 판단하고, 추가적인 신고가 있을 경우, 해당 사용자를 신고 대상 수신자로 판단한다.

전술한 정보 조합으로 수신자를 특정했다면 설문 응답자와 수신자로 추정되는 유저의 접점이 있다는 사실 여부를 '예 또는 아니오'로 판단하여 허위 사실인지 판단한다.

예(접점이 있었음)인 경우, 사실 정보로 구분하여 성희롱 텍스트인지 판단하는 단계로 넘어가고, 아니오(접점이 없음)의 경우, 허위 정보로 구분하여 이러한 설문 예를 학습하여 데이터베이스(200)에 저장한다.

한편, 접점이 불확실한 애매한 경우, 신고 접수 순위를 미루고 또 다시 그 수신자로 의심되는 사용자에 대한 신고가 추가적으로 들어오는 때, 미뤄두었던 접수와 함께 사실 여부를 판단할 수 있다.

본 발명에서 수신자를 특정할 만한 것이 존재하는지 판단하기 위해서는 대화 내역에 대한 분석이 필요하다. 이때, 성희롱 인지 판단을 위하여 사용되는 성희롱 텍스트 토큰화 및 불용어 제거 등으로 전처리된 텍스트 대화를 바탕으로 진행된다. 특히, 불용어 제거 단계에서 수신자를 특정할 만한 것이 존재한다면 별도로 분리하여 일시적으로 저장하여 비교한다. 예를 들어, 유저 정보 DB에 존재하는 $username과 대화 내용에 포함된 닉네임이 부합하고, 성희롱이 단·다발적으로 이루어진 발신자 채팅으로 존재한다면 수신자로 특정할 수 있다. 이때, 판단 기준 중 수신자의 이름과 성별은 가입 당시 저장된 유저 정보 DB에서 전술한 방식과 유사하게 비교하고 특정한다.

그리고 완전히 닉네임 모든 글자가 일치하지 않더라도, 닉네임에 들어간 단어 두 개 이상 일치하다면 수신자로 특정할 수 있다. 예를 들어, 수신자의 닉네임이 '페리오'라면 '페리', '리오', '페리오' 등 모두 수신자로 특정할 수 있다. 이를 위하여 사용자의 닉네임에 대한 텍스트 전처리 과정이 추가된다. 텍스트 전처리 후의 닉네임을 유저 정보 DB에 함께 저장하고, 이를 대화 내역과 비교하여 일치하면 수신자로 판단한다.

또한, 위에서 언급했던 특정할 만한 것에 대한 기준에 부합하는 것이 존재한다고 판단되었거나, 다른 유저들이 응답한 '타인이 당한 것을 보았다, 타인의 닉네임' 설문에서 응답한 타인의 닉네임과 일치한다면 성희롱의 수신자로 판단할 수 있다. 다만, 이는 본인과 타인의 설문을 종합하여 정확한 수신자 특정 판단이 필요하므로 비교적 장시간이 소요될 수 있다.

그리고, 특정할 만한 것이 부재하거나, 타인이 응답한 설문의 닉네임과 일치하지 않는 경우 수신자로 판단하지 않는다.

추가적으로, 허위 응답이 적발될 경우 게임에 대한 페널티는 없으나, 허위 응답의 적발 횟수에 따라서 게임 유저의 신뢰도를 차감하는 방식으로 운영할 수 있다. 이 신뢰도는 게임 진행에 관련된 페널티는 아니고, 게임 내 신고 및 설문 기능에 대한 신뢰도라고 할 수 있다. 이 신뢰도는 유저 정보가 저장된 데이터베이스에 가입 시 함께 저장된다. 예를 들어, 처음 가입 당시 유저의 신뢰도는 100이고, 허위 신고 및 설문 응답이 적발될 경우 1점씩 차감한다. 신고 및 설문은 제출 날짜가 오래되고, 유저의 신뢰도를 내림차순으로 정렬한 순서대로 처리된다. 즉, 허위 신고 및 설문 응답 이력에서 유저의 신뢰도가 차감되면 차감될수록 처리가 후순위로 진행된다. 이때, 허위 신고 및 설문 응답 이력은 여타 게임 제재 이력이 저장되는 데이터베이스와 함께 저장될 수 있다. 이는 결국 허위로 기재하면 할수록 본인의 신뢰도가 차감되고, 후의 본인이 신고 및 설문 시 처리가 지연된다. 이로써 일부 유저의 신고 및 설문에 대한 허위 기재를 방지할 수 있다.

본 발명에서 모니터링 서버(100)는 게임에서 발생하였던 성희롱 텍스트 데이터를 수집하고, 성희롱이 발생하였던 게임의 채팅 데이터를 함께 수집한다. 수집한 데이터를 바탕으로 단독 성희롱 텍스트 데이터들의 특징과 형태를 추출하고, 성희롱 텍스트 데이터의 모든 정보(특징, 형태, 문맥 등)는 데이터베이스(200)에 저장한다. 이때, 문맥은 성희롱이 발생한 게임의 전체 채팅 데이터들을 바탕으로 기계 학습한다. 학습하였던 텍스트 데이터의 동일하거나 유사한 문맥이 나올 때마다 그 문맥 경로에 카운팅 하여 카운팅이 높은 순서대로 판단 학습의 가중치를 둔다. 판단 모델은 학습 후 데이터베이스에 저장된 채팅 데이터 및 문맥과 실시간 게임 채팅을 비교하여 판단하는 형태이다. 해당 시스템은 실시간 판단 모델이기 때문에 거듭 반복 학습을 통하여 판단 속도와 정탐률을 증진시키고 오탐률을 낮출 수 있다. 추후에 실시간 게임 성희롱 탐지 시, 해당 성희롱 데이터 문맥을 추출하고, 가중치 내림차순으로 나열된 문맥 학습 루트를 바탕으로 하여 판단한다. 만약 새로운 문맥이 등장할 경우에는 해당 시스템에 새로운 채팅 데이터가 주입되기 때문에 이에 따라 실시간으로 앞의 과정과 같이 학습, 추출, 저장 단계를 반복하여 새로운 문맥에 대해서도 스스로 학습한다. 게임 내에서 이루어지는 실시간 게임 채팅만이 아니라, 1:1 채팅에서도 성희롱 판단 모델을 적용시킨다. 다만, 게임이 동적으로 실시간 이루어지는 것이 아니므로 판단 모델은 적용시키지만 사용자가 신고한 채팅을 바탕으로 판단한다.

본 발명에서 모니터링 서버(100)는 법률 정보 기반 데이터베이스와 사이버 범죄 사례 데이터베이스(명예 훼손 및 모욕죄 등)를 통해 성희롱으로 판단되어 검출되는 텍스트의 법률 위반 여부를 판단할 수 있다. 또한, 정보 통신망 침해 행위에 대한 법률 정보 데이터베이스를 추가하여 확장된(성희롱 텍스트를 회피한) 텍스트까지 판단 및 검출 할 수 있도록 한다. 검출 텍스트의 위반을 판단하는 것은 성범죄, 명예 훼손 등의 위반으로 처벌된 사례 데이터베이스를 기반으로 한다.

해당 범죄에서는 명예 훼손에 대한 고소 성립(구체적인 사실 또는 허위 사실을 적시할 경우 고소가 가능함)이 가능하며 성희롱 발언 시 허위 발언 및 사실 관계 불명확하여도 명예 훼손으로 적용될 수 있다.

이상 본 발명을 몇 가지 바람직한 실시 예를 사용하여 설명하였으나, 이들 실시 예는 예시적인 것이며 한정적인 것이 아니다. 본 발명이 속하는 기술분야에서 통상의 지식을 지닌 자라면 본 발명의 사상과 첨부된 특허청구범위에 제시된 권리범위에서 벗어나지 않으면서 다양한 변화와 수정을 가할 수 있음을 이해할 것이다.

100 모니터링 서버 200 데이터베이스
110 추출부 120 학습부
130 판단부

Claims (7)

1. 성희롱 메시지 관련 데이터 및 성희롱 관련 법령과 관련 판례를 저장하고 있는 데이터베이스; 및
   둘 이상의 단말이 접속하여 참여하는 온라인 게임 내에서 음성 또는 텍스트 형식으로 발생하는 성희롱 메시지를 모니터링하기 위한 서버로서, 상기 데이터베이스를 기반으로 게임 내에서 발생하는 성희롱 메시지를 모니터링하고, 성희롱 메시지를 인지하면, 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지하는 모니터링 서버를 포함하며,
   상기 모니터링 서버는 게임에 참여 중인 단말로부터 성희롱 피해 신고를 접수하면, 접수된 신고 내용을 분석하여, 성희롱 메시지를 발신한 발신자 단말에게 접수된 신고 내용을 통지하고, 성희롱 피해 신고를 한 단말에 성희롱 관련 법령, 관련 판례 및 법적 절차를 안내하고,
   상기 모니터링 서버는 게임 내 채팅 중 성희롱 메시지가 있는 것으로 판단하면, 해당 채팅 내용을 캡처하고, 성희롱 메시지를 발신한 발신자 단말에 캡처한 이미지를 전송하고, 성희롱 관련 법령과 관련 판례를 상기 발신자 단말에 통지하고,
   상기 모니터링 서버는 게임 내에서 정해진 시간 동안 특정 단말로부터 정해진 횟수 이상의 성희롱 메시지 발신을 감지하면, 해당하는 성희롱 메시지를 모두 캡처하고, 해당 성희롱 메시지를 수신한 수신자 단말에 캡처한 이미지를 안내하고, 이와 함께 상기 수신자 단말에 해당 성희롱 메시지로 인한 피해에 대해 고소 및 처벌 희망 여부에 대해 확인하고, 상기 수신자 단말로부터 고소 및 처벌을 희망하는 것으로 확인되면, 처벌 수위와 처벌에 관련된 법령의 상세 내용과 관련 판례를 제공하는 법령 안내 시스템과의 연결 여부를 선택할 수 있는 화면을 상기 수신자 단말에 제공하고,
   상기 모니터링 서버는 성희롱 메시지를 발신한 발신자 단말의 게임 계정에 대해 해당 게임의 진행 관련 페널티 조치를 취하도록 하되, 1회 적발 시 경고 조치, 2회 적발 시 30일간 게임 이용 금지, 3회 이상 적발 시 게임 강제 탈퇴 후 모든 게임 사이트에서 블랙리스트 등록의 방식으로 페널티 조치를 취하고,
   상기 모니터링 서버는 셋 이상의 이용자가 접속한 게임이 종료된 후, 접속한 모든 이용자의 단말에 성희롱 피해 여부를 확인할 수 있는 설문이 표출되도록 하고, 각 단말로부터 응답받은 내용을 분석하여 성희롱 메시지 피해 여부를 확인하고, 성희롱 메시지 피해가 발생한 경우 가해자와 피해자를 특정하는 방식의 설문을 이용한 성희롱 감지 방법을 수행하고,
   상기 모니터링 서버는 상기 설문을 이용한 성희롱 감지 방법에서, 설문 내용 중 '본인이 당했는가'의 질문에 대한 정상적인 응답과 허위 응답을 구분하기 위하여, 게임 내 대화 내역 중에서 닉네임, 이름, 성별을 확인하고, 설문에서 작성된 닉네임, 이름, 성별 정보를 조합하여 성희롱 메시지 수신자로 추정되는 계정을 확인하고, 해당 계정의 사용자 정보와 설문에 응답한 신고자 정보 사이의 접점이 있는지 분석하고, 접점이 있는 경우 정상적인 응답으로 판단하고, 접점이 없는 경우 허위 응답으로 구분하는 것을 특징으로 하는 게임 내 성희롱 모니터링 시스템.
   
2. 삭제
3. 청구항 1에 있어서,
   상기 모니터링 서버는 접수된 신고 내용을 분석하여, 기계학습을 통해 성희롱에 해당하는 단어 및 특징을 학습하고, 학습된 데이터를 상기 데이터베이스에 저장하는 것을 특징으로 하는 게임 내 성희롱 모니터링 시스템.
   
4. 삭제
5. 삭제
6. 삭제
7. 청구항 1에 있어서,
   상기 모니터링 서버는,
   게임 내에서 성희롱 음성과 단어를 추출하기 위한 추출부;
   상기 추출부에서 추출한 성희롱 단어와 특징을 기계학습하기 위한 학습부; 및
   상기 추출부에서 추출한 성희롱 음성과 단어를 상기 데이터베이스에 저장된 데이터와 비교하여 성희롱 메시지 여부를 판단하고, 성희롱 메시지라고 판단하면 해당 성희롱 메시지를 발신한 발신자 단말과 수신한 수신자 단말에 성희롱 관련 법령과 관련 판례를 통지하는 판단부
   를 포함하여 이루어지는 것을 특징으로 하는 게임 내 성희롱 모니터링 시스템.
   

Images