KR102348748B1 - 개인화 메시징 서비스 관련 부정 메시지 필터링 시스템 및 방법 - Google Patents

Abstract

부정 메시지 필터링 시스템은, 아티스트 앱이 설치되어 상기 네트워크를 통해 중앙 서버와 통신하고, 상기 아티스트 앱을 통해 식별 코드를 포함한 아티스트 메시지가 등록되는 아티스트 단말, 사용자 앱이 각각 설치되어 네트워크를 통해 중앙 서버와 통신하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지가 표시되는 상기 적어도 하나 이상의 사용자 단말, 및 상기 네트워크를 이용하여 상기 사용자 단말, 상기 아티스트 단말 및 상기 중앙 서버 중 적어도 하나와 통신하는 메시지 필터링 서버를 포함하고, 상기 사용자 앱은, 사용자 계정의 로그인 서비스를 제공하는 사용자 로그인 서비스부, 사용자로 하여금 사용자 메시지 상에 아티스트를 상대로 금칙어가 포함된 부정 메시지가 입력되는 경우, 상기 부정 메시지의 발송을 차단하는 메시지 필터링부, 및 상기 사용자 메시지를 발송하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지를 채팅창에 표시하도록 구성되는 사용자 채팅 서비스부를 포함한다.

Description

개인화 메시징 서비스 관련 부정 메시지 필터링 시스템 및 방법{SERVICE PROVIDING SYSTEM AND METHOD FOR FILTERING ABUSING MESSAGE RELATED TO PERSONALIZED MESSAGING SERVICE}

본 발명은 개인화 메시징 서비스 관련 부정 메시지 필터링 서비스 시스템 및 방법에 관한 것으로, 보다 상세하게는 아티스트가 작성한 메시지를 복수의 사용자 각각에게 개인화된(Personalized) 메시지로 변환하여 제공하는 서비스에 있어서, 아티스트에게 부정적이거나 부적절한 메시지 전송을 시도하려는 사용자 메시지를 차단하기 위한 필터링 기능을 제공하기 위한 개인화 메시징 서비스 관련 부정 메시지 필터링 서비스 시스템 및 방법에 관한 것이다.

인터넷을 이용하여 사용자들 간의 정보를 전달하는 방법에는 인스턴트 메시지 서비스(Instant Message Service; IMS) 및 소셜 네트워크 서비스(Social Network Service; SNS) 등이 존재할 수 있다. 사용자들은 인스턴트 메시지 서비스를 통해 1:1로 직접 대화하듯이 메시지를 주고받을 수 있을 뿐만 아니라, 하나의 대화창을 통해 여러 명이 함께 대화할 수도 있다. 인스턴트 메시지 서버는 단순히 메시지를 전달하는 기능 뿐만 아니라 메신저 대화창을 통해 이모티콘, 플래시콘, 기프트콘 등을 대화 상대방에게 전송하거나, 파일을 전송하는 기능 또한 제공할 수 있다.

소셜 네트워크 서비스는 인터넷 상에서 이용자들이 인적 네트워크를 형성할 수 있게 해 주는 서비스로서, 특정관심 분야 또는 활동과 관련된 정보를 공유할 수 있게 해준다. 개인들 간의 메시지 서비스로 카카오톡 등의 인스턴트 메시지 서비스가 널리 사용되고 있으며, 연예인이나 스포츠 스타 등의 셀럽(celebrity)과 팬들이 소통하는 채널로, 트위터, 인스타그램 등의 소셜 네트워크 서비스가 널리 사용되고 있다.

그러나, 카카오톡 등의 인스턴트 메시지 서비스는 일대다 형식의 메시징에 있어서는, 단체 채팅방을 이용하는 방법이 개시되고, 트위터나 인스타 그램의 경우 역시 셀럽 1인이 게시하는 메시지를 여러 사용자에게 동일하게 표시하여, 여러 사용자가 동일한 메시지를 읽는 방식의 커뮤니케이션이 이루어질 뿐이며, 다수의 셀럽들(아티스트)과 팬들(사용자)이 각각의 팬들 입장에서의 보다 개인적인(private) 커뮤니케이션을 위한 요구를 충족시키지 못하고 있었다.

한편, 아티스트와 팬들 사이에서의 일대다 형식의 메시징에 있어서, 다수의 팬들로부터의 부정적이거나, 부적절한 메시지가 반복적 또는 지속적으로 전송될 경우, 아티스트로서는 큰 감정소모가 있을 수 밖에 없다. 또한, 아티스트마다 민감한 주제, 단어 등이 다를 수 있기 때문에, 체계적인 필터링 기능이 필요하며, 부정적 또는 부적절한 메시지를 발송하는 사용자는 서비스 이용에 있어서, 일정 부분 패널티를 가할 필요가 있다.

대한민국 등록특허 제10-2085383호

이에 본 발명의 기술적 과제는 이러한 점에서 착안된 것으로, 본 발명의 목적은 아티스트와 복수의 사용자들이 개인화된 메시지를 이용하여 프라이빗(private)한 1:1 채팅방을 통해 소통함에 있어서, 아티스트에게 부정적이거나 부적절한 메시지가 전송되지 않도록 하기 위해 사용자의 욕설, 금칙어 등의 부정 언어가 입력된 경우, 이를 필터링하는 필터 기능을 제공하고, 반복적인 부정 언어의 입력을 시도하거나, 전송된 사용자 메시지가 아티스트에 의해 신고될 경우, 해당 사용자 메시지를 입력한 사용자에게 일정 부분 패널티를 가하는 개인화 메시징 서비스 관련 부정 메시지 필터링 시스템을 제공하는 것이다.

본 발명의 다른 목적은 상기 시스템을 통해 이루어지는 개인화 메시징 서비스 관련 부정 메시지 필터링 방법을 제공하는 것이다.

상기한 본 발명의 목적을 실현하기 위한 일 실시예에 따른 부정 메시지 필터링 시스템은 아티스트 앱이 설치되어 상기 네트워크를 통해 중앙 서버와 통신하고, 상기 아티스트 앱을 통해 식별 코드를 포함한 아티스트 메시지가 등록되는 아티스트 단말, 사용자 앱이 각각 설치되어 네트워크를 통해 중앙 서버와 통신하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지가 표시되는 상기 적어도 하나 이상의 사용자 단말, 및 상기 네트워크를 이용하여 상기 사용자 단말, 상기 아티스트 단말 및 상기 중앙 서버 중 적어도 하나와 통신하는 메시지 필터링 서버를 포함하고, 상기 사용자 앱은, 사용자 계정의 로그인 서비스를 제공하는 사용자 로그인 서비스부, 사용자로 하여금 사용자 메시지 상에 아티스트를 상대로 금칙어가 포함된 부정 메시지가 입력되는 경우, 상기 부정 메시지의 발송을 차단하는 메시지 필터링부, 및 상기 사용자 메시지를 발송하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지를 채팅창에 표시하도록 구성되는 사용자 채팅 서비스부를 포함한다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링부는. 미리 등록된 금칙어와 상기 미리 등록된 금칙어로부터 변형된 변형 금칙어가 포함된 부정 메시지의 발송을 차단할 수 있다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링부는. 반 전역 행렬(semi-global alignment), 서포트 벡터 머신(support vector machine)을 사용한 지도 학습(supervised learning) 방식, 및 인공지능에 기초한 텍스트 마이닝과 인공신경망 중 적어도 하나를 이용하여 상기 변형 금칙어를 필터링할 수 있다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링부는. 상기 메시지 필터링 서버에서 아티스트로 하여금 신고된 사용자 메시지를 기초로 학습되는 아티스트별 부정 메시지 학습모델에 기초하여, 사용자 메시지를 필터링할 수 있다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링부는. 상기 사용자 메시지가 이미지 또는 영상을 포함하는 경우, 이미지 또는 영상 인식 기술을 이용하여 미리 설정된 금지 이미지가 포함되어 있는지 여부에 따라 사용자 메시지를 필터링할 수 있다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링 서버는, 부정 메시지 모델 학습을 위해 아티스트로부터 신고된 부정 메시지를 상기 아티스트 단말로부터 수신하여 상기 부정 메시지의 정보들을 수집하도록 구성된 데이터 수집부, 상기 데이터 수집부에서 수집한 부정 메시지 정보들에 기초하여 부정 메시지 학습 데이터를 생성하고, 생성된 학습 데이터를 이용하여 부정 메시지 확률의 산출을 위한 딥러닝 모델을 학습하는 모델 학습부, 및 상기 모델 학습부에서 학습된 딥러닝 모델에 기초하여, 사용자 단말로부터 수신된 사용자 메시자가 부정 메시지일 확률을 계산하는 부정 메시지 확률 계산부를 포함할 수 있다.

본 발명의 일 실시예에 있어서, 상기 데이터 수집부는 아티스트별로 신고된 부정 메시지를 수집하고, 상기 모델 학습부는 아티스트별로 학습 데이터를 생성하고, 아티스트별 딥러닝 모델을 학습할 수 있다.

본 발명의 일 실시예에 있어서, 상기 아티스트별 딥러닝 모델은 아티스트로부터 신고된 사용자 메시지의 형태에 따라 서로 다른 딥러닝 모델이 적용될 수 있다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링 서버는, 상기 부정 메시지 확률 계산부에서 산출된 부정 메시지 확률에 대해, 해당 사용자 메시지를 발송한 사용자가 블랙 리스트로 관리되는 사용자 명단에 속하거나, 또는 장기간 구독을 한 충성도 높은 사용자인지 여부에 따라 부정 메시지인지 여부를 최종 판정하는 후처리부를 더 포함할 수 있다.

본 발명의 일 실시예에 있어서, 상기 메시지 필터링 서버는, 상기 후처리부에서 내린 최종 판정 결과는 부정 메시지 모델 학습 과정에서 활용될 수 있다.

상기한 본 발명의 목적을 실현하기 위한 일 실시예에 따른 부정 메시지 필터링 방법은 아티스트 앱이 설치되어 상기 네트워크를 통해 중앙 서버와 통신하고, 상기 아티스트 앱을 통해 식별 코드를 포함한 아티스트 메시지가 등록되는 아티스트 단말, 사용자 앱이 각각 설치되어 네트워크를 통해 중앙 서버와 통신하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지가 표시되는 상기 적어도 하나 이상의 사용자 단말, 및 상기 네트워크를 이용하여 상기 사용자 단말, 상기 아티스트 단말 및 상기 중앙 서버 중 적어도 하나와 통신하는 메시지 필터링 서버를 포함하는 부정 메시지 필터링 시스템을 이용하고, 사용자 계정의 로그인 서비스를 제공하는 단계, 사용자로 하여금 사용자 메시지 상에 아티스트를 상대로 금칙어가 포함된 부정 메시지가 입력되는 경우, 상기 부정 메시지의 발송을 차단하는 단계, 및 상기 사용자 메시지를 발송하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지를 채팅창에 표시하는 단계를 포함한다.

본 발명의 실시예들에 따르면, 일반적인 금칙어, 욕설 등이 포함된 사용자 메시지에 대해서는 단어 필터링을 통하여 사용자 앱에서 입력되는 부정 언어는 원천적으로 차단시키고, 아티스트로부터 신고된 메시지는 딥러닝 알고리즘을 통해 학습하여 동일한 패턴 또는 내용으로 등록된 사용자 메시지는 부정 언어로 취급하도록 하여, 단순히 부정 언어가 포함되는 경우 뿐만 아니라, 내용에 있어서도 아티스트에게 민감한 내용을 학습하여 필터링할 수 있다.

다만, 본 발명의 효과는 상기 효과들로 한정되는 것이 아니며, 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위에서 다양하게 확장될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 개인화 메시징 서비스 관련 부정 메시지 필터링 시스템을 나타낸 도면이다.
도 2는 한 명의 아티스트와 두 명의 사용자가 본 발명의 개인화 메시징 서비스를 이용하는 것을 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 사용자 단말에 구현된 사용자 앱 및 아티스트 단말에 구현된 아티스트 앱을 도시한 블록도이다.
도 4는 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 사용자 앱의 사용자 인터페이스(UI)의 예시도이다.
도 5는 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 아티스트 앱의 사용자 인터페이스(UI)의 예시도이다.
도 6은 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 필터링 서버의 구성을 도시한 블록도이다.
도 7은 본 발명의 일 실시예에 따른 개인화 메시징 서비스 관련 부정 메시지 필터링 방법을 나타낸 순서도이다.

이하, 도면들을 참조하여 본 발명의 바람직한 실시예들을 보다 상세하게 설명하기로 한다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

도 1은 본 발명의 일 실시예에 따른 개인화 메시징 서비스 관련 부정 메시지 필터링 시스템을 나타낸 도면이다. 도 2는 한 명의 아티스트와 두 명의 사용자가 본 발명의 개인화 메시징 서비스를 이용하는 것을 설명하기 위한 도면이다.

도 1 및 2를 참조하면, 상기 개인화 메시징 서비스 시스템은 복수의 사용자 단말(10; 10a, 10b), 아티스트 단말(20), 네트워크(30), 중앙 서버(40) 및 필터링 서버(50)를 포함할 수 있다.

상기 사용자 단말은 제1 사용자 단말(10a) 및 제2 사용자 단말(10b)을 포함할 수 있다.

상기 제1 및 제2 사용자 단말(10a, 10b)은 제1 및 제2 사용자가 각각 사용하는 스마트 기기일 수 있다. 여기서, 상기 스마트 기기는 컴퓨터나 휴대용 단말로서, 각각의 사용자는 상기 사용자 단말(10a, 10b)을 통한 웹(Web), 앱(Application) 또는 웹앱의 형태로 상기 네트워크(30)를 통해 상기 중앙 서버(40)에 통신 접속하여 개인화 메시징 서비스를 제공받을 수 있다. 여기서, 개인화 메시지는 한명의 아티스트가 다수의 사용자에게 전달하는 메시지로, 사용자 각각의 고유의 사용자 정보를 이용해, 적어도 일부 용어가 상기 사용자 정보를 포함하도록 수정된 개인화 메시지이다. 즉, 상기 사용자 정보에 따라, 제1 사용자에게 전달되는 제1 개인화 메시지와 제2 사용자에게 전달되는 제2 개인화 메시지는 적어도 일부분이 서로 다를 수 있다.

상기 제1 및 제2 사용자는 상기 제1 및 제2 사용자 단말(10a, 10b)을 통해 각각의 사용자 메시지를 입력할 수 있다. 상기 사용자 메시지는 상기 개인화 메시지가 표시되는 채팅방에서 입력 가능하여, 마치 제1 및 제 2 사용자 각각은 한 명의 아티스트와 1:1 채팅을 하고 있는 것과 같은 사용자 경험을 서비스를 통해 제공받을 수 있다.

이를 통해, 복수의 사용자들이 한 명의 아티스트와 프라이빗(private)한 1:1 채팅을 통해 소통함으로써, 기존 일대다 형식의 일방적인 소통에서 벗어나, 사용자가 보다 친밀한 소통감을 느낄 수 있다.

한편, 상기 컴퓨터는 예를 들어, 웹브라우저(WEB Browser)가 탑재된 데스크톱(desktop), 랩톱(laptop), 태블릿 PC(Tablet PC) 등을 포함하고, 상기 휴대용 단말은 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, 스마트폰(smartphone), PCS(Personal Communication System), GSM(Global System for Mobile communication), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말 등과 같이 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치를 포함할 수 있다.

각각의 사용자 단말(10a, 10b)에는 사용자 앱이 설치될 수 있다. 상기 사용자 앱을 통해 상기 제1 및 제2 사용자는 원하는 아티스트와 개인화 채팅 서비스를 이용할 수 있다. 상기 사용자 앱에 대한 자세한 설명은 도 3에 대한 설명에서 후술한다.

상기 사용자 단말(10a, 10b)은 상기 사용자 앱의 명령에 따라, 상기 네트워크(30)를 통해 상기 중앙 서버(40) 접속하여 데이터를 송수신할 수 있도록 구성된다.

여기서 상기 네트워크(30)는 이동통신망을 이용하여 구현될 수 있으며, 상기 이동통신망은 WAN(Wide Area Network), PAN(Personal Area Network), 3G, 4G, LTE, 5G 및 와이파이(Wi-Fi) 등을 포함할 수 있으나, 이에 한정되지는 않는다.

한편, 사용자는 자신의 사용자 단말을 이용하여 사용자 계정 로그인 후, 서비스 이용을 위해, 아티스트 별로 결제를 진행할 수 있다. 상기 결제는 기간별 결제 서비스 형태로 제공되며, 예를 들면, 월구독형 자동갱신 상품으로 제공되어, 지속적인 구매 및 서비스 유지를 장려할 수 있다.

상기 아티스트 단말(20)은 아티스트가 사용하는 스마트 기기일 수 있다. 상기 아티스트 단말(20)은 상기 닉네임 식별 코드를 포함하는 아티스트 메시지를 입력 받을 수 있다. 상기 아티스트 단말(20)은 상기 아티스트를 구독한 사용자들이 입력하는 사용자 메시지들을 표시할 수 있다.

상기 아티스트 메시지는 가입일 식별 코드를 더 포함할 수 있다. 이경우, 상기 개인화 메시지는 상기 아티스트 메시지의 상기 가입일 식별 코드를 해당 사용자의 가입일 정보로 치환하여 생성할 수 있다. 상기 가입일 정보는 해당 사용자가 해당 아티스트를 구독한 일수(날짜)를 말하여, 예를 들면, 사용자의 가입일 정보는 상기 사용자별 결제 정보에 따라 상기 중앙 서버(40) 또는 상기 각 사용자 단말(10a, 10b)에서 생성될 수 있다.

한편, 상기 개인화 메시지의 생성은 상기 중앙 서버(40), 또는 개별 사용자 단말(10a, 10b)에서 생성될 수도 있으며, 필요에 따라 상기 개인화 메시지의 생성이 상기 중앙 서버(40)와 상기 사용자 단말(10a, 10b) 모두에서 이루어질 수도 있을 것이다.

도 2를 다시 참조하여, 개인화 메시지의 생성에 대해 구체적으로 설명한다. 일례로, 상기 제1 사용자 및 상기 제2 사용자 각각이 아티스트를 구독한 경우의 개인화 메시징 서비스 시스템을 설명한다.

상기 아티스트는 상기 아티스트 단말(20)을 이용하여, 아티스트 메시지를 입력한다. 상기 아티스트 메시지는 상기 닉네임 식별 코드 또는 상기 가입일 식별 코드를 포함할 수 있다.

상기 아티스트 메시지는 상기 네트워크(30)를 통해 상기 중앙 서버(40)로 전송되고, 상기 중앙 서버(40)는 상기 아티스트의 아티스트 로그인 정보를 확인하고, 상기 제1 사용자의 사용자 로그인 정보를 확인하여 상기 제1 사용자의 사용자 정보를 불러온다. 상기 제1 사용자의 사용자 정보에는 제1 닉네임 정보 및 제1 가입일 정보를 포함할 수 있다. 상기 제1 닉네임 정보는 상기 제1 사용자가 직접 지정하는 것으로, 상기 제1 아티스트가 자신을 칭하는 호칭으로 원하는 단어를 지정할 수 있다. 상기 제1 가입일 정보는 상기 제1 사용자가 상기 제1 아티스트를 구독한 구독일 수로, 상기 제1 사용자의 결제정보를 이용하여 생성될 수 있다.

한편, 본 실시예에서는 상기 제1 개인화 메시지가 상기 중앙 서버(40)에서 생성되는 것으로 설명하였으나, 이에 한정되지 않는다. 예를 들면, 상기 제1 개인화 메시지의 생성을 위해 닉네임 식별 코드를 닉네임 정보로 치환하는 작업은 사용자의 개별 사용자 단말에서 직접 수행되어, 상기 중앙 서버(40)의 연산 부하를 줄이는 방향으로 시스템이 구현될 수도 있을 것이다.

상기 제1 아티스트 메시지의 상기 닉네임 식별 코드 및 상기 가입일 식별 코드는 상기 제1 닉네임 정보 및 상기 제1 가입일 정보로 치환되어, 상기 제1 개인화 메시지가 생성되고, 상기 제1 개인화 메시지는 상기 제1 사용자의 상기 제1 사용자 단말(10a)에 표시되어, 상기 제1 사용자의 스마트폰 단말의 전용 앱의 채팅방에서 상기 제1 아티스트가 상기 제1 사용자에게 1:1 채팅 메시지를 보낸 것처럼 표시될 수 있다.

또한, 상기 제1 아티스트 메시지의 상기 닉네임 식별 코드 및 상기 가입일 식별 코드는 상기 제2 사용자의 제2 닉네임 정보 및 제2 가입일 정보로 치환되어, 상기 제2 개인화 메시지가 생성되고, 상기 제2 개인화 메시지는 상기 제2 사용자의 상기 제2 사용자 단말(10b)에 표시될 수 있다.

이와 같이, 개인화 메시지를 생성함에 따라, 복수의 사용자들은 한 명의 아티스트와 프라이빗(private)한 1:1 채팅을 통해 소통함으로써, 기존 일대다 형식의 일방적인 소통에서 벗어나, 사용자가 보다 친밀한 소통감을 느낄 수 있다.

도 3은 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 사용자 단말에 구현된 사용자 앱 및 아티스트 단말에 구현된 아티스트 앱을 도시한 블록도이다. 도 4는 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 사용자 앱의 사용자 인터페이스(UI)의 예시도이다. 도 5는 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 아티스트 앱의 사용자 인터페이스(UI)의 예시도이다.

도 1 내지 5를 참조하면, 상기 사용자 앱(100)은 상기 사용자 단말에 설치되어 네트워크를 통해 중앙 서버와 통신하여, 사용자 계정의 로그인, 아티스트와의 개인화 채팅 서비스 기능을 수행할 수 있다.

상기 사용자 앱(100)은 사용자 계정의 로그인 서비스를 제공하는 로그인 서비스부(110), 상기 개인화 메시지를 표시하고, 사용자 메시지를 입력받는 개인화 채팅 서비스부(120) 및 입력한 메시지를 필터링하는 메시지 필터링부(130)를 포함할 수 있다.

사용자는 사용자 계정 로그인 후, 서비스 이용을 위해, 결제를 진행할 수 있다. 상기 결제는 기간별 결제 서비스 형태로 제공되며, 예를 들면, 월구독형 자동갱신 상품으로 제공되어, 지속적인 구매 및 서비스 유지를 장려할 수 있다.

상기 사용자 계정에는 미리 입력된 사용자 정보가 저장되어 있을 수 있다. 예를 들면, 상기 사용자 정보는 상기 사용자 계정에 미리 저장된 닉네임, 기념일 정보, 가입일 정보 등일 수 있다. 또한, 상기 사용자 정보는 상기 사용자 단말로부터 인지되는 위치 정보를 포함할 수 있다.

상기 닉네임은 아티스트가 사용자를 칭할 때 사용하는 용어로, 사용자가 상기 사용자 앱(100)을 통해 설정할 수 있다. 상기 기념일 정보는 예를 들면, 사용자의 생일 등, 아티스트가 사용자의 기념일을 기념해 주길 바라는 날짜로, 사용자가 상기 사용자 앱(100)을 통해 설정할 수 있다. 상기 가입일 정보는 사용자가 서비스 이용을 위해 결제를 시작한 날로, 해당 아티스트를 구독한 날짜를 표시하기 위해 사용될 수 있다.

또한, 상기 가입일 정보를 이용하여, 사용자의 서비스 내용을 제한하거나 확장하는 기준으로 사용할 수 있다. 예를 들어, 상기 가입일 정보를 통해, 해당 아티스트를 구독한 날짜가 특정 일자를 넘어서게 되면, 사용자가 아티스트에게 보내는 답장 메시지의 텍스트의 글자수를 향상(예를 들면, 초기 30자에서 50자로 증대)시키거나, 상기 답장 메시지에 사진을 첨부 가능하도록 하는 등의 차별화된 서비스를 제공할 수 있다.

본 실시예에 있어서, 상기 사용자 정보는 닉네임, 기념일 정보, 가입일 정보, 위치 정보 등이 예시되었으나, 이에 한정되지 않고, 개인화 메시지 생성에 사용될 수 있는 사용자의 개인화 데이터들을 포함할 수 있다. 예를 들면, 사용자의 사용 언어, 혈액형, 결제 정보 등의 개인화 데이터들이 상기 사용자 정보에 더 포함될 수 있다.

상기 개인화 채팅 서비스부(120)는 아티스트가 발송하는 아티스트 메시지를 바탕으로 생성된 개인화 메시지를 수신하여 표시하고, 상기 사용자가 아티스트에게 보내는 메시지인 사용자 메시지를 입력 받을 수 있다.

상기 메시지 필터링부(130)는 사용자가 사용자 앱을 통해 아티스트를 상대로 욕설, 비속어 등의 금칙어가 포함된 부정 메시지를 채팅창에 입력하는 경우, 이를 감지하여 해당 메시지의 등록이 불가하도록 차단한다. 예를 들어, 도 4를 참조하면, 사용자로부터 금칙어의 입력을 시도하면, 해당 채팅에는 금칙어가 포함되어 있음을 알리는 통지와 함께, 채팅창에 해당 메시지의 등록을 차단시킬 수 있다. 상기 금칙어에는 욕설, 비속어와 같은 일반적인 금칙어 뿐만 아니라, 욕설이나 비속어를 변형하여 필터링을 우회하는 것을 방지하기 위한 변형 금칙어도 포함된다. 예를 들어, 금칙어인 "바보"를 우회하기 위한 "바부" 등이 이에 포함된다.

한편, 상기 금칙어를 필터링하기 위해서, 반 전역 행렬(semi-global alignment)을 이용하거나, 서포트 벡터 머신(support vector machine)을 사용한 지도 학습(supervised learning) 방식이 이용될 수도 있다. 또한, 인공지능에 기초하여 텍스트 마이닝과 인공신경망을 이용해 메시지의 내용을 추출함으로써 금칙어가 포함된 내용으로 해석되는지 여부에 따라 필터링을 수행할 수도 있다.

또한, 상기 메시지 필터링부(130)는 자체적으로 미리 설정된 금칙어뿐만 아니라, 구독중인 아티스트에 의해 금칙어가 추가되거나, 또는 후술하는 상기 필터링 서버(50)에서 아티스트가 신고한 사용자 메시지를 기초로 학습되는 아티스트별 부정 메시지 학습 모델에 기초하여, 추출된 문장의 내용 또는 패턴을 인식하여, 사용자 메시지를 필터링할 수 있다.

즉, 상기 필터링은, 상기 사용자 메시지가 텍스트(TEXT)를 포함하는 경우, 문자인식 기술을 이용하여, 미리 설정된 금칙어가 포함되는지 비교하고, 상기 사용자 메시지가 이미지 또는 영상을 포함하는 경우, 이미지 또는 영상 인식 기술을 이용하여, 미리 설정된 금지 이미지를 포함하는지 비교할 수 있다.

한편, 본 실시예에 있어서, 사용자 메시지의 필터링은 상기 사용자 단말(10)에서 수행되는 것으로 설명되었으나, 이에 제한되지 않는다. 예를 들어, 상기 사용자 메시지가 등록되면, 상기 중앙 서버(40)로 전송되며, 상기 중앙 서버(40)에서 수행될 수도 있다. 상기 사용자 단말(10)인 엣지(edge) 단에서 아티스트별 부정 메시지 학습 모델을 기초로 메시지를 필터링하는 것은 과다한 데이터 처리 문제가 발생할 수 있으므로, 상기 사용자 앱은, 상기 필터링 서버와 통신을 통해 사용자 메시지를 전송하고, 필터링 서버에서 부정 메시지라고 판단된 경우, 필터링을 하도록 구성될 수도 있다. 다만, 이에 한정되지 않는다. 필요에 따라 상기 사용자 메시지의 필터링은 상기 중앙 서버(40)와 상기 사용자 단말(20) 모두에서 이루어질 수도 있을 것이다.

상기 아티스트 앱(200)은 상기 아티스트 단말에 설치되어 네트워크를 통해 중앙 서버와 통신하여, 아티스트 계정의 로그인, 다수의 팬들인 사용자들에게 메시지를 전달하고 수신하는 아티스트 채팅 서비스 기능을 수행할 수 있다.

상기 아티스트 앱(200)은 아티스트 계정의 로그인 서비스를 제공하는 아티스트 로그인 서비스부(210), 식별 코드를 포함하는 아티스트 메시지를 입력받는 아티스트 채팅 서비스부(220) 및 아티스트에 의해 부정 사용자 메시지가 등록되는 부정 메시지 등록부(230)를 포함할 수 있다.

상기 아티스트 로그인 서비스부(210)는 아티스트를 식별하는 아티스트의 계정을 관리하도록 구성되며, 아티스트는 아티스트의 계정 로그인 후, 서비스를 이용할 수 있다.

상기 아티스트 채팅 서비스부(120)는 다수의 사용자들에게 전송할 아티스트 메시지를 입력 받고, 다수의 사용자들로부터 상기 피드백 메시지를 수신하여 표시할 수 있다.

상기 아티스트 채팅 서비스부(220)를 통해, 아티스트는 미리 정해진 하나 이상의 식별 코드를 포함하는 아티스트 메시지를 입력할 수 있다. 예를 들어, 아티스트는 아티스트 메시지의 텍스트에, 식별 코드로서‘@@@’ 작성 시, 구독자인 사용자의 1:1 채팅방에는, 구독자의 닉네임으로 치환되어 보여지게 된다. (예시: 미리 설정된 닉네임이 '진영' 인 경우, @@@ 뭐해? → 진영 뭐해?) 한편, 상기 식별 코드에 인접하는 조사의 경우, 치환된 사용자 정보의 마지막 글자의 받침의 종류에 따라 자동으로 적절한 조사로 변경하거나 추가, 삭제할 수 있다. 이때, 상기 아티스트 메시지의 식별 코드 다음에 띄어쓰기 없이 바로 입력되는 조사를 상기 인접하는 조사로 인식하여, 이를 적절한 조사로 변경하거나 추가, 삭제할 수 있다. (예시: 미리 설정된 닉네임이 '진영' 인 경우, @@@야 뭐해? → 진영아 뭐해?)

한편, 상기 식별 코드는 닉네임 식별 코드, 기념일 식별 코드, 가입일 식별 코드, 위치 정보 식별 코드를 포함할 수 있다. 또한, 상기 아티스트 앱은 아티스트 메시지의 발송 전, 아티스트가 작성된 메시지 검수할 수 있도록, 아티스트 메시지 발신 전 아티스트 자체 검수화면을 제공할 수 있다.

한편, 아티스트는 상기 아티스트 앱(200)을 이용하여, 아티스트는 예약 메시지를 전송할 수 있다. 상기 중앙 서버(40)는 상기 아티스트 예약 메시지와 상기 사용자 정보를 이용하여, 개인화 예약 메시지를 생성하고, 미리 정해진 예약 시간에 상기 개인화 예약 메시지를 상기 사용자 앱(100)에 전송하여, 상기 개인화 채팅 서비스부(120)는 상기 미리 정해진 예약 시간에 상기 개인화 예약 메시지를 표시할 수 있다.

또한, 상기 아티스트 채팅 서비스부(220)는 상기 식별 코드를 포함하는 아티스트 이벤트 메시지를 입력 받고, 상기 중앙 서버(40)는 상기 아티스트 이벤트 메시지와 상기 사용자 정보를 이용하여, 개인화 이벤트 메시지를 생성하고, 미리 정해진 이벤트 발생 시, 상기 개인화 이벤트 메시지를 상기 사용자 앱(100)에 전송하여, 상기 개인화 채팅 서비스부(120)는 상기 미리 정해진 이벤트 발생 시, 상기 개인화 이벤트 메시지를 표시할 수 있다.

예를 들면, 상기 사용자 정보에 포함된 사용자의 생일의 특정 시간을 예약 시간으로 정할 수 있으며, 식별 코드를 포함하는 생일 축하 메시지를 담은 아티스트 예약 메시지를 개인화 예약 메시지로 변환하여 상기 예약 시간에 사용자 앱(100)에 전송하거나, 상기 사용자 정보에 포함된 결제 정보를 이용하여, 식별 코드를 포함하는 아티스트 구독 감사 메시지를 담은 아티스트 이벤트 메시지를 개인화 이벤트 메시지로 변환하여, 사용자가 월 구독 결제(이벤트 발생) 시, 사용자 앱(100)에 전송할 수 있다.

이를 통해, 다수의 팬들은 아티스트와 채팅을 나누는 프라이빗(private)한 1:1 채팅방을 경험할 수 있고, 아티스트는 효율적으로 다수의 팬들에게 서비스를 제공할 수 있다. 특히 스마트폰 등의 단말을 통해 손쉽게 아티스트 앱, 사용자 앱이 구현되므로, 장소 시간 구애없이 쉽고 빠르게 서비스에 접근가능하여, 아티스트에 대한 빠른 정보, 아티스트의 실시간 현황 등을 원하는 팬으로써의 사용자들의 욕구를 충족할 수 있다.

한편, 상기 사용자 정보는 상기 사용자가 사용하는 사용자 언어를 포함할 수 있다. 상기 아티스트 메시지가 기준언어가 아닌 언어로 작성된 경우, 미리 설정된 상기 기준언어로 번역되고, 상기 중앙 서버(40) 또는 상기 사용자 앱(100)에서 상기 기준언어를 상기 사용자 언어로 번역하며, 상기 사용자 언어의 번역은 기계 번역, 또는 인공지능 번역을 통해 이루어 질 수 있다.

상기 부정 메시지 등록부(230)는 아티스트로 하여금 아티스트별 부정 메시지를 등록받고, 상기 부정 메시지의 분석을 위해 상기 필터링 서버(50)로 전송하도록 구성된다. 상기 필터링 서버(50)는 수신된 아티스트별 부정 메시지를 DB에 저장하여 관리하고, 이를 인공지능에 기초한 텍스트 마이닝과 인공신경망을 이용해 메시지의 내용 또는 패턴을 분석함으로써, 아티스트별 부정 메시지의 특성을 추출할 수 있다. 해당 부정 메시지의 특성은, 해당 아티스트를 구독 중인 사용자 단말(10)로 전송되도록 구성될 수 있다.

또한, 상기 부정 메시지 등록부(230)는 등록된 아티스트별 부정 메시지를 발송한 사용자 정보를 상기 중앙 서버(40)로 전송할 수 있다. 예를 들어, 도 5에 도시된 바와 같이, 신고하기 기능으로 아티스트는 부정 메시지를 등록함과 함께, 해당 부정 메시지를 등록한 사용자를 신고할 수 있다. 이 경우, 신고된 부정 메시지는 채팅창에서 숨기거나 삭제될 수 있다.

상기 중앙 서버(40)는 해당 사용자에 대해 일정기간 추후 메시지 발송에 제한을 가할 수 있으며, 발송한 메시지가 아티스트에게 보여지지 않도록 블라인드 처리를 할 수 있다. 만약, 해당 사용자로부터 비정상적인 메시지가 반복적으로 발신되는 경우, 상기 중앙 서버(40)는 시스템적으로 해당 사용자를 구독 해제 또는 강제 탈퇴시킴으로써 아티스트를 보호하도록 설계될 수 있다.

이하, 도 6을 참조하여, 상기 필터링 서버(50)에 대해 자세히 설명하도록 한다. 도 6은 본 발명의 일 실시예에 따른 부정 메시지 필터링 시스템의 필터링 서버의 구성을 도시한 블록도이다.

도 6에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 필터링 서버(50)는 통신부(410), 저장부(420) 및 제어부(430)를 포함하여 구성될 수 있다. 그리고 상기 제어부(430)는 아티스트별 부정 메시지 학습부(431) 및 부정 메시지 검출부(432)를 포함하여 구성될 수 있다.

먼저 상기 통신부(410)는 사용자 단말(10), 아티스트 단말(20) 및 중앙서버(40)와 상기 필터링 서버(50) 간의 데이터 송수신을 위해 네트워크(30)를 이용할 수 있다.

본 발명의 실시 예에 따른 상기 통신부(410)는 아티스트 단말(20)을 통해 부정 메시지가 등록되면, 이에 대한 부정 메시지를 수신하고, 사용자 단말로부터 입력된 사용자 메시지가 수신되면, 아티스트별 부정 메시지에 기초하여 분석한 결과를 사용자 단말(10)로 발송할 수 있다. 다만, 이에 한정되지 않는다. 예를 들어, 상기 중앙 서버(40)를 경유하여 전송하거나, 상기 분석이 중앙 서버를 통해 이루어 질 수 있다.

상기 저장부(420)는 예를 들면, 내장 메모리 또는 외장 메모리를 포함할 수 있다. 내장메모리는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.

외장 메모리는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), XD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리는 다양한 인터페이스를 통하여 전자 장치와 기능적으로 및/또는 물리적으로 연결될 수 있다.

본 발명의 실시 예에 따른 상기 저장부(420)는 인공지능에 기반의 부정 메시지 분석을 위해 요구되는 데이터를 저장할 수 있다. 예컨대, 상기 저장부(420)는 부정 메시지에서 추출된 메시지 특성을 추출하는데 요구되는 데이터를 저장할 수 있다. 또한, 상기 부정 메시지는 발신 정보 테이블의 필드에 따라 저장되며, 이에 포함되는 필드는 메시지를 발신한 번호, 메시지의 전송 시간, 사용자의 정보 등을 포함할 수 있다. 한편, 아티스트 단말(20)이 수신한 정보가 텍스트 메시지의 형태가 아닌 경우, 사진 또는 영상등 다른 타입의 형태이며 메시지의 타입을 입력하는 필드를 포함할 수 있다.

상기 제어부(430)는 프로세서(Processor), 컨트롤러(controller), 마이크로 컨트롤러(microcontroller), 마이크로 프로세서(microprocessor), 마이크로 컴퓨터(microcomputer) 등으로도 호칭될 수 있다. 한편, 제어부는 하드웨어(hardware) 또는 펌웨어(firmware), 소프트웨어, 또는 이들의 결합에 의해 구현될 수 있다.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 일 실시예는 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차, 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 제어부에 의해 구동될 수 있다. 메모리는 상기 사용자 단말 및 서버 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 상기 제어부와 데이터를 주고 받을 수 있다.

본 발명의 실시 예에 따른 상기 제어부(430)는 데이터 수집부(431), 전처리부(432), 모델 학습부(433), 부정 메시지 확률 계산부(434), 및 후처리부(435)를 포함할 수 있다.

상기 데이터 수집부(431)는 모델 학습을 위해 아티스트 앱(20)의 각각에 설치된 부정 메시지 등록부(110)로부터 상기 통신부(410)를 통해 전송되는 부정 메시지 정보들을 수집하고, 수집된 부정 메시지 정보들을 전처리부(432)에 전달한다. 이 때, 메시지 정보는 아티스트별로 수집될 수 있다. 다만, 이에 한정되지 않으며, 서비스에서 관리하는 모든 아티스트를 기준으로 수집될 수도 있다.

상기 전처리부(432)는 데이터 수집부(431)로부터 전달받은 부정 메시지 정보들을 모델 학습과 부정 메시지 지수 산출에 필요한 형태로 가공하도록 구성되며, 예를 들어 그레이 스케일의 이미지 형태로 가공하여 모델 학습부(433)와 부정 메시지 확률 계산부(434)에 전달하도록 구성된다.

상기 모델 학습부(433)는 전처리부(432)가 전달한 이미지들과 아티스트로부터의 전송된 부정 메시지 정보를 이용하여 아티스트별 부정 메시지 학습 데이터를 생성하고, 생성된 학습 데이터를 이용하여 아티스트별 부정 메시지 확률을 산출하는 딥러닝 모델을 학습한다. 본 발명에서 사용되는 딥러닝 모델은 컨볼루션 신경망(Convolutional Neural Network, CNN)일 수 있으며, 반드시 이 알고리즘에 한정되는 것은 아니다. 예를 들어, 상기 딥러닝 모델은 아티스트로부터 신고된 사용자 메시지의 형태에 따라 서로 다른 딥러닝 모델이 적용될 수 있다.

본 명세서에서 사용하는 컨볼루션 신경망 모델은, 컨벌루션 기능과 신경망을 결합시킨 딥러닝 알고리즘 중 하나이다. 이하 컨볼루션 신경망 모델에 대해 간단히 기술한다. 컨볼루션 신경망 모델은 크게 특징 학습(Feature Learning) 단계와 분류(Classification) 단계로 나뉜다.

특징 학습 단계에서는, 입력 이미지에 복수개의 컨볼루션 커널 또는 필터를 사용하여 특징 맵(Feature Map)을 생성하는 컨볼루션 과정, 특징 맵의 크기 또는 공간적 해상도를 줄이기 위해 서브 샘플링(Subsampling) 또는 풀링(Pooling) 과정을 반복하여 입력된 이미지의 여러 특징을 추출할 수 있다. 컨볼루션 과정과 서브 샘플링 과정은 입력 이미지의 크기와 특성에 따라 여러 번 반복될 수 있다.

이후 분류 단계에서는, 추출된 특징을 이용하여 완전 연결 계층(Fully Connected Layer)을 구성하여 입력 이미지를 분류할 수 있고, 마지막 출력층에서는 로지스틱 회귀를 이용하여 2개의 클래스로 분류하거나, 소프트 맥스 함수(Softmax Function)를 이용하여 3개 이상의 클래스로 분류할 수 있다.

예를 들어, 상기 부정 메시지 확률 계산부(434)가 산출하는 결과는 부정 메시지일 확률과 부정 메시지가 아닐 확률이므로, 2개의 클래스로 분류하는 문제이다. 따라서 분류 단계의 가장 마지막 계층은 2개의 노드로 구성되며, 완전 연결 계층의 모든 노드들은 이 2개의 노드에 각각 연결되어 부정 메시지 확률을 계산한다. 최종적으로 계산되는 값은 부정 메시지일 확률과 부정 메시지가 아닐 확률이다.

한편, 상기 저장부(420)는 상기 모델 학습부(433)에서 생성된 학습 모델을 저장하고, 부정 메시지 확률 계산부(434)에서 계산된 부정 메시지 확률 데이터를 저장한다. 또한, 학습 모델의 성능을 조절하거나 모델을 수정하기 위해 관리자의 최종 판정 결과가 추가로 저장될 수 있다. 한편, 상기 저장부(420)는 아티스트별로 생성된 학습 모델을 별도로 저장할 수 있다.

상기 부정 메시지 확률 계산부(434)는 사용자 앱(100)을 통해 입력되는 사용자 메시지에 대하여 실시간으로 부정 메시지 확률을 계산한다. 상기 부정 메시지 확률 계산부(434)는 저장부(420)에 있는 아티스트별 학습 모델을 이용하여 사용자 메시지가 부정 메시지일 확률을 1차적으로 계산한다.

상기 후처리부(435)는 부정 메시지 확률 계산부(434)에서 산출된 부정 메시지 확률에 대해, 해당 메시지의 발송한 사용자가 블랙 리스트로 관리되는 사용자 명단에 속하거나, 또는 장기간 구독을 한 충성도 높은 사용자인지 여부를 판단하는 추가 판정을 진행할 수 있다. 즉, 부정 메시지 확률 계산부(435)에서 계산된 부정 메시지 확률을 표준 점수(Z-score) 등으로 표준화할 수 있다. 예를 들어, 특정 사용자 메시지가 부정 메시지일 확률이 높은 것으로 계산되었더라도, 해당 사용자 메시지의 발송한 사용자가 충성도 높은 사용자인 경우, 해당 메시지는 부정 메시지가 아닌 것으로 후처리부(435)에서 최종 판단할 수 있다.

이러한 보정을 거쳐 최종적으로 산출된 부정 메시지 지수는 사용자 단말(10)의 상기 메시지 필터링부(130)에 전송되어, 해당 사용자 메시지가 부정 메시지인지 여부를 화면에 표시할 수 있다. 또한, 후처리부(435)에서 내린 최종 판정과 보정 결과는 저장부(420)에 다시 저장되어 모델 학습 과정에서 활용될 수 있다.

도 7은 본 발명의 일 실시예에 따른 개인화 메시징 서비스 관련 부정 메시지 필터링 방법을 나타낸 순서도이다.

도 1 내지 도 7을 참조하면, 상기 개인화 메시징 서비스 관련 부정 메시지 필터링 방법은 아티스트 메시지 입력 단계(S100), 개인화 메시지 생성 단계(S200), 개인화 메시지 표시 단계(S300), 사용자 메시지 입력 단계(S400), 부정 메시지 필터링 단계(S500) 및 사용자 메시지 표시 단계(S600)을 포함할 수 있다.

상기 아티스트 메시지 입력 단계(S100)에서는, 아티스트는 아티스트 단말에 설치된 아티스트 앱을 이용하여, 식별 코드를 포함하는 아티스트 메시지를 작성할 수 있다. 이때, 상기 식별 코드는 닉네임 식별 코드, 기념일 식별 코드, 가입일 식별 코드, 위치 정보 식별 코드를 포함할 수 있다. 또한, 상기 아티스트 앱은 아티스트 메시지의 발송 전, 아티스트가 작성된 메시지 검수할 수 있도록, 아티스트 메시지 발신 전 아티스트 자체 검수화면을 제공할 수 있다. 상기 메시지 입력이 완료되면, 상기 아티스트 메시지가 등록된다.

또한, 아티스트 메시지 입력 단계(S100)에서, 아티스트는 아티스트 메시지를 채팅창에 입력하여 등록할 수 있으며, 예약 메시지 또는 이벤트 메시지를 입력할 수 있다. 구체적으로, 아티스트는 메시지 입력과 함께, 해당 메시지를 즉시 발송할지 또는 예약 발송할지 여부를 선택할 수 있다. 즉시 발송을 선택한 경우, 상기 아티스트 메시지는 개인화 메시지로의 변환을 거쳐 사용자 단말에 표시되고, 예약 발송을 선택한 경우, 예약 설정 창으로 넘어가 예약 메시지의 발송 시각, 수신 대상, 추가 발송 사항 등을 설정할 수 있도록 한다.

상기 개인화 메시지 생성 단계(S200)에서는, 상기 아티스트 메시지의 상기 식별 코드를 대응하는 사용자 정보로 치환하여 개인화 메시지를 생성할 수 있다.

상기 아티스트 메시지의 상기 닉네임 식별 코드는 상기 닉네임으로 치환되고, 상기 기념일 식별 코드는 상기 기념일로 치환되고, 가입일 식별 코드, 위치 정보 식별 코드는 상기 위치 정보로 치환되어 상기 개인화 메시지가 생성될 수 있다.

예를 들면, 아티스트는 아티스트 메시지의 텍스트에‘@@@’ 작성 시, 구독자인 사용자의 1:1 채팅방에는, 구독자의 닉네임으로 치환되어 보여지게 된다. (예시: 미리 설정된 닉네임이 '진영' 인 경우, @@@ 뭐해? → 진영 뭐해?) 한편, 상기 식별 코드에 인접하는 조사의 경우, 치환된 사용자 정보의 마지막 글자의 받침의 종류에 따라 자동으로 적절한 조사로 변경하거나 추가, 삭제할 수 있다. 이때, 상기 아티스트 메시지의 식별 코드 다음에 띄어쓰기 없이 바로 입력되는 조사를 상기 인접하는 조사로 인식하여, 이를 적절한 조사로 변경하거나 추가, 삭제할 수 있다. (예시: 미리 설정된 닉네임이 '진영' 인 경우, @@@야 뭐해? → 진영아 뭐해?)

또한, 사용자가 사용하는 사용자 언어에 대한 정보를 바탕으로 아티스트가 전송하는 메시지를 사용자가 사용하는 언어로 번역하여 제공할 수 있다. 예를 들면, 상기 사용자 정보는 상기 사용자가 사용하는 사용자 언어를 포함하고, 상기 아티스트 메시지가 기준언어가 아닌 언어로 작성된 경우, 미리 설정된 상기 기준언어로 번역되고, 상기 기준언어를 상기 사용자 언어로 번역하여, 번역된 개인화 메시지를 생성할 수 있다. 이때, 상기 사용자 언어의 번역은 기계 번역, 또는 인공지능 번역을 통해 이루어질 수 있으며, 알려진 다양한 기계 번역, 또는 인공지능 번역 시스템을 활용할 수 있다.

상기 개인화 메시지 표시 단계(S300)에서는, 복수의 사용자 각각의 사용자 단말에 각각의 개인화 메시지가 표시될 수 있다. 예를 들면, 상기 사용자 단말들은 제1 사용자 단말 및 제2 사용자 단말을 포함하고, 상기 제1 사용자 단말에 로그인된 사용자 계정의 사용자 정보는 제1 사용자 정보를 포함하고, 상기 제2 사용자 단말에 로그인된 사용자 계정의 사용자 정보는 제2 사용자 정보를 포함할 수 있다. 상기 아티스트 메시지의 상기 식별 코드는, 상기 제1 사용자 정보로 치환되어 상기 아티스트 메시지로부터 제1 사용자 개인화 메시지를 생성하고, 상기 식별 코드는, 상기 제2 사용자 정보로 치환되어 상기 아티스트 메시지로부터 제2 사용자 개인화 메시지를 생성할 수 있다. 상기 제1 사용자 개인화 메시지는 상기 제1 사용자 단말에 표시되고, 상기 제2 사용자 개인화 메시지는 상기 제2 사용자 단말에 표시될 수 있다.

상기 사용자 메시지 입력 단계(S400)에서는, 복수의 사용자 각각이 사용자 단말을 이용하여 사용자 메시지를 작성할 수 있다. 즉, 상기 개인화 메시지를 수신한 사용자가 아티스트에 대한 답장 메시지로, 사용자 피드백인 사용자 메시지를 작성할 수 있다.

상기 부정 메시지 필터링 단계(S500)에서는, 사용자가 사용자 앱을 통해 아티스트를 상대로 욕설, 비속어 등의 금칙어가 포함된 부정 메시지를 채팅창에 입력하는 경우, 이를 감지하여 해당 메시지의 등록이 불가하도록 차단한다. 사용자로부터 금칙어의 입력을 시도하면, 해당 채팅에는 금칙어가 포함되어 있음을 알리는 통지와 함께, 채팅창에 해당 메시지의 등록을 차단시킬 수 있다. 상기 금칙어에는 욕설, 비속어와 같은 일반적인 금칙어 뿐만 아니라, 욕설이나 비속어를 변형하여 필터링을 우회하는 것을 방지하기 위한 변형 금칙어도 포함된다. 예를 들어, 금칙어인 "바보"를 우회하기 위한 "바부" 등이 이에 포함된다.

한편, 상기 금칙어를 필터링하기 위해서, 반 전역 행렬(semi-global alignment)을 이용하거나, 서포트 벡터 머신(support vector machine)을 사용한 지도 학습(supervised learning) 방식이 이용될 수도 있다. 또한, 인공지능에 기초하여 텍스트 마이닝과 인공신경망을 이용해 메시지의 내용을 추출함으로써 금칙어가 포함된 내용으로 해석되는지 여부에 따라 필터링을 수행할 수도 있다.

또한, 부정 메시지 필터링에 있어서는, 자체적으로 미리 설정된 금칙어뿐만 아니라, 수신 대상인 아티스트에 의해 금칙어가 추가되거나, 또는 아티스트가 신고한 사용자 메시지를 기초로 학습되는 아티스트별 부정 메시지 학습 모델에 기초하여, 추출된 문장의 내용 또는 패턴을 인식하여, 사용자 메시지를 필터링할 수 있다.

즉, 상기 필터링은, 상기 사용자 메시지가 텍스트(TEXT)를 포함하는 경우, 문자인식 기술을 이용하여, 미리 설정된 금칙어가 포함되는지 비교하고, 상기 사용자 메시지가 이미지 또는 영상을 포함하는 경우, 이미지 또는 영상 인식 기술을 이용하여, 미리 설정된 금지 이미지를 포함하는지 비교할 수 있다.

또한, 필터링 대상의 사용자 메시지를 지정된 회수 이상 발송하는 사용자의 계정에 대해서는, 블랙 계정으로 지정하여, 이후 사용자 메시지의 전송을 전면 차단할 수 있다.

한편, 본 실시예에 있어서, 부정 메시지의 필터링은 상기 사용자 단말(10)에서 수행될 수 있으나, 이에 제한되지 않는다. 예를 들어, 상기 사용자 메시지가 등록되면, 상기 중앙 서버 또는 필터링 서버로 전송되며, 상기 중앙 서버 또는 필터링 서버에서 수행될 수도 있다. 상기 사용자 단말(10)인 엣지(edge) 단에서 아티스트별 부정 메시지 학습 모델을 기초로 메시지를 필터링하는 것은 과다한 데이터 처리 문제가 발생할 수 있으므로, 상기 사용자 앱은, 상기 필터링 서버와 통신을 통해 사용자 메시지를 전송하고, 필터링 서버에서 부정 메시지라고 판단된 경우, 필터링을 하도록 구성될 수도 있다. 다만, 이에 한정되지 않는다. 필요에 따라 상기 사용자 메시지의 필터링은 상기 중앙 서버(40)와 상기 사용자 단말(20) 모두에서 이루어질 수도 있을 것이다.

부정 메시지가 아닌 사용자 메시지는 상기 사용자앱 상에 표시하되, 상기 사용자 메시지에 대한 아티스트의 읽음 여부를 나타내는 식별표시와 함께 표시할 수 있다. 상기 사용자 메시지는 상기 아티스트가 해당 사용자 메시지를 확인하지 않더라도, 미리 정해진 시간 범위 내에서 일정하게 또는 랜덤한 시간 경과 후, 상기 식별표시를 읽음표시로 변경할 수 있다. 상기 아티스트가 다음 아티스트 메시지를 입력하면, 상기 식별표시를 읽음표시로 변경할 수 있다. 이를 통해, 사용자는 아티스트가 자신의 사용자 메시지를 확인하였다고 인지할 수 있다.

상기 사용자 메시지 표시 단계(S600)에서는, 복수의 사용자 메시지를 수신하여 아티스트 단말에 표시할 수 있다. 이를 통해, 아티스트가 사용자들이 발송하는 메시지를 확인할 수 있으며, 아티스트 앱에서는 이를 효율적으로 관리하기 위해, 아티스트가 발송한 메시지 별 대응되는 상기 사용자 메시지들을 저장하여, 아티스트가 필요로 할 때, 특정한 아티스트 메시지에 대한 사용자 메시지들을 손쉽게 찾아볼 수 있다.

상기 사용자 메시지들은 아티스트 앱에 시간 순서 정렬되어 저장되거나, 미리 설정된 우선순위에 따라 정렬되어, 아티스트에게 보여질 수 있다. 예를 들면, 구독 회수가 많은 충성도가 높은 사용자 순서로 정렬하여, 아티스트가 충성도 높은 사용자의 사용자 메시지를 먼저 확인할 수 있도록 할 수 있다.

한편, 아티스트는 표시된 사용자 메시지 중에서 부정 메시지를 신고하는 형태로 등록할 수 있다. 이 경우, 해당 부정 메시지는 분석을 위해 상기 필터링 서버(50)로 전송된다. 상기 필터링 서버(50)는 수신된 아티스트별 부정 메시지를 DB에 저장하여 관리하고, 이를 인공지능에 기초한 텍스트 마이닝과 인공신경망을 이용해 메시지의 내용 또는 패턴을 분석함으로써, 아티스트별 부정 메시지의 특성을 추출할 수 있다. 해당 부정 메시지의 특성은, 해당 아티스트를 구독 중인 사용자 앱으로 전송되도록 구성될 수 있다.

또한, 신고하기 기능으로 아티스트는 부정 메시지를 등록함과 함께, 해당 부정 메시지를 등록한 사용자를 신고할 수 있다. 이 경우, 신고된 부정 메시지는 채팅창에서 숨기거나 삭제될 수 있으며, 필터링 대상의 사용자 메시지를 지정된 회수 이상 발송하는 사용자의 계정에 대해서는, 블랙 계정으로 지정하여, 이후 사용자 메시지의 발송을 전면 차단하거나, 구독을 취소하는 조치가 수행될 수 있다.

본 발명의 실시예들에 따르면, 개인화 메시징 서비스 시스템은 아티스트 앱을 통해 아티스트가 아티스트 메시지를 작성하고, 복수의 사용자들 각각의 개인화 정보를 이용하여 복수의 사용자들 각각에 맞는 개인화 메시지로 변환한 후, 이를 사용자 앱에 표시할 수 있다. 이에 따라, 아티스트와 사용자가 개인화된 메시지를 이용하여 프라이빗(private)한 1:1 채팅방을 통해 소통함으로써, 기존 일대다 형식의 일방적인 소통에서 벗어나, 사용자가 보다 친밀한 소통감을 느끼는 서비스를 제공할 수 있다. 특히, 소수의 아티스트가 다수의 사용자들 과의 1:1 채팅 서비스를 효율적으로 제공할 수 있으므로, 연예인과 팬들 사이의 친밀한 의사소통을 바탕으로 새로운 커뮤니케이션 시스템을 제공할 수 있다.

또한, 본 발명의 실시예들에 따르면, 일반적인 금칙어, 욕설 등이 포함된 사용자 메시지에 대해서는 단어 필터링을 통하여 사용자 앱에서 입력되는 부정 언어는 원천적으로 차단시키고, 아티스트로부터 신고된 메시지는 딥러닝 알고리즘을 통해 학습하여 동일한 패턴 또는 내용으로 등록된 사용자 메시지는 부정 언어로 취급하도록 하여, 단순히 부정 언어가 포함되는 경우 뿐만 아니라, 내용에 있어서도 아티스트에게 민감한 내용을 학습하여 필터링할 수 있다.

이상 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.

10a, 10b, 10c, 10d: 사용자 단말
20: 아티스트 단말
30: 네트워크
40: 중앙 서버

Claims (11)

1. 아티스트 앱이 설치되어 네트워크를 통해 중앙 서버와 통신하고, 상기 아티스트 앱을 통해 식별 코드를 포함한 아티스트 메시지가 등록되는 아티스트 단말;
   사용자 앱이 각각 설치되어 상기 네트워크를 통해 중앙 서버와 통신하고, 상기 식별 코드에 기초하여 구독한 아티스트의 상기 아티스트 메시지로부터 변환된 개인화 메시지가 표시되는 적어도 하나 이상의 사용자 단말; 및
   상기 네트워크를 이용하여 상기 사용자 단말, 상기 아티스트 단말 및 상기 중앙 서버 중 적어도 하나와 통신하는 메시지 필터링 서버를 포함하고,
   상기 사용자 앱은,
   사용자 계정의 로그인 서비스를 제공하는 사용자 로그인 서비스부;
   사용자로 하여금 사용자 메시지 상에 구독한 아티스트를 상대로 금칙어가 포함된 부정 메시지가 입력되는 경우, 상기 부정 메시지의 발송을 차단하는 메시지 필터링부; 및
   상기 사용자 메시지를 발송하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지를 채팅창에 표시하도록 구성되는 사용자 채팅 서비스부를 포함하고,
   상기 메시지 필터링부는, 상기 메시지 필터링 서버에서 아티스트별 신고된 사용자 메시지를 기초로 학습되는 아티스트별 부정 메시지 학습모델에 기초하여, 사용자 메시지를 필터링하고,
   사용자 메시지의 필터링은 사용자 단말을 통해 입력되는 사용자 메시지에 대하여 상기 아티스트별 학습 모델을 이용하여 실시간으로 사용자 메시지가 부정 메시지일 확률을 일차적으로 계산하고, 산출된 부정 메시지일 확률에 대해, 일정 기간 이상 구독을 한 사용자인지 여부를 추가 판정하여 최종 부정 메시지인지 여부를 판단하는 것을 특징으로 하는 부정 메시지 필터링 시스템.
2. 제1 항에 있어서,
   상기 메시지 필터링부는, 미리 등록된 금칙어와 상기 미리 등록된 금칙어로부터 변형된 변형 금칙어가 포함된 부정 메시지의 발송을 차단하는 것을 특징으로 하는 부정 메시지 필터링 시스템.
3. 제2 항에 있어서,
   상기 메시지 필터링부는, 반 전역 행렬(semi-global alignment), 서포트 벡터 머신(support vector machine)을 사용한 지도 학습(supervised learning) 방식, 및 인공지능에 기초한 텍스트 마이닝과 인공신경망 중 적어도 하나를 이용하여 상기 변형 금칙어를 필터링하는 것을 특징으로 하는 부정 메시지 필터링 시스템.
4. 삭제
5. 제1 항에 있어서,
   상기 메시지 필터링부는,
   상기 사용자 메시지가 이미지 또는 영상을 포함하는 경우, 이미지 또는 영상 인식 기술을 이용하여 미리 설정된 금지 이미지가 포함되어 있는지 여부에 따라 사용자 메시지를 필터링하는 것을 특징으로 하는 부정 메시지 필터링 시스템.
6. 제1 항에 있어서,
   상기 메시지 필터링 서버는,
   부정 메시지 모델 학습을 위해 아티스트로부터 신고된 부정 메시지를 상기 아티스트 단말로부터 수신하여 상기 부정 메시지의 정보들을 수집하도록 구성된 데이터 수집부;
   상기 데이터 수집부에서 수집한 부정 메시지 정보들에 기초하여 부정 메시지 학습 데이터를 생성하고, 생성된 학습 데이터를 이용하여 부정 메시지 확률의 산출을 위한 딥러닝 모델을 학습하는 모델 학습부; 및
   상기 모델 학습부에서 학습된 딥러닝 모델에 기초하여, 사용자 단말로부터 수신된 사용자 메시자가 부정 메시지일 확률을 계산하는 부정 메시지 확률 계산부를 포함하는 부정 메시지 필터링 시스템.
7. 제6 항에 있어서,
   상기 데이터 수집부는 아티스트별로 신고된 부정 메시지를 수집하고, 상기 모델 학습부는 아티스트별로 학습 데이터를 생성하고, 아티스트별 딥러닝 모델을 학습하는 것을 특징으로 하는 부정 메시지 필터링 시스템.
8. 제7 항에 있어서,
   상기 아티스트별 딥러닝 모델은 아티스트로부터 신고된 사용자 메시지의 형태에 따라 서로 다른 딥러닝 모델이 적용된 것을 특징으로 하는 부정 메시지 필터링 시스템.
9. 제6 항에 있어서,
   상기 메시지 필터링 서버는,
   상기 부정 메시지 확률 계산부에서 산출된 부정 메시지 확률에 대해, 해당 사용자 메시지를 발송한 사용자가 블랙 리스트로 관리되는 사용자 명단에 속하거나, 또는 장기간 구독을 한 충성도 높은 사용자인지 여부에 따라 부정 메시지인지 여부를 최종 판정하는 후처리부를 더 포함하는 것을 특징으로 하는 부정 메시지 필터링 시스템.
10. 제9 항에 있어서,
    상기 메시지 필터링 서버는,
    상기 후처리부에서 내린 최종 판정 결과는 부정 메시지 모델 학습 과정에서 활용되는 것을 특징으로 하는 부정 메시지 필터링 시스템.
11. 아티스트 앱이 설치되어 네트워크를 통해 중앙 서버와 통신하고, 상기 아티스트 앱을 통해 식별 코드를 포함한 아티스트 메시지가 등록되는 아티스트 단말, 사용자 앱이 각각 설치되어 상기 네트워크를 통해 중앙 서버와 통신하고, 상기 식별 코드에 기초하여 구독한 아티스트의 상기 아티스트 메시지로부터 변환된 개인화 메시지가 표시되는 적어도 하나 이상의 사용자 단말, 및 상기 네트워크를 이용하여 상기 사용자 단말, 상기 아티스트 단말 및 상기 중앙 서버 중 적어도 하나와 통신하는 메시지 필터링 서버를 포함하는 부정 메시지 필터링 시스템을 이용한 부정 메시지 필터링 방법에 있어서,
    사용자 계정의 로그인 서비스를 제공하는 단계;
    사용자로 하여금 사용자 메시지 상에 구독한 아티스트를 상대로 금칙어가 포함된 부정 메시지가 입력되는 경우, 상기 부정 메시지의 발송을 차단하는 단계; 및
    상기 사용자 메시지를 발송하고, 상기 식별 코드에 기초하여 상기 아티스트 메시지로부터 변환된 개인화 메시지를 채팅창에 표시하는 단계를 포함하고,
    상기 부정 메시지의 발송을 차단하는 단계에서는, 상기 메시지 필터링 서버에서 아티스트별 신고된 사용자 메시지를 기초로 학습되는 아티스트별 부정 메시지 학습모델에 기초하여, 사용자 메시지를 필터링하고,
    사용자 메시지의 필터링은 사용자 단말을 통해 입력되는 사용자 메시지에 대하여 상기 아티스트별 학습 모델을 이용하여 실시간으로 사용자 메시지가 부정 메시지일 확률을 일차적으로 계산하고, 산출된 부정 메시지일 확률에 대해, 일정 기간 이상 구독을 한 사용자인지 여부를 추가 판정하여 최종 부정 메시지인지 여부를 판단하는 것을 특징으로 하는 부정 메시지 필터링 방법.

Images