KR20200127553A - 뉴스 기사의 감성 정보 레이블링 방법 - Google Patents

Abstract

본 발명의 실시 예에 따른 뉴스 기사 레이블링 장치의 동작 방법은, 뉴스 기사의 문서 데이터를 획득하는 단계; 상기 문서 데이터로부터 문단 정보를 추출하는 단계; 상기 문단 정보에 따라, 상기 문서 데이터로부터 획득되는 문단들을 학습 기반으로 사전 구축된 학습 기반 사전부와 비교하여, 기업 관련 문단에 대응하는 기업 감성 정보 레이블을 결정하는 단계; 및 상기 하나 이상의 문단에 상기 기업 감성 정보 레이블을 태깅하여, 감성 레이블이 태깅된 기사 정보로 가공하는 단계를 포함한다.

Description

뉴스 기사의 감성 정보 레이블링 방법{AN AUTOMATIC SENTIMENT INFORMATION LABELING METHOD TO NEWS ARTICLES FOR PROVIDING SENTIMENT INFORMATION}

본 발명은 레이블링 방법 및 그 장치에 관한 것이다. 보다 구체적으로, 본 발명은 감성 정보 제공을 위한 뉴스 기사의 감성 정보 레이블링 방법 및 그 장치에 관한 것이다.

온라인 상의 뉴스 정보는 각종 신문사, 미디어지, 방송국들과 이들로부터 정보를 취합 제공하는 검색포털을 통해 제공되고 있으며, 통상적으로는 뉴스 정보의 제공자가 공급하는 기사의 표출형식에 따른 일방적인 정보의 공급을 구독하는 형태가 대부분이다.

다만, 최근에는 이와 같은 뉴스 정보를 취합하고 빅 데이터를 구축하여 레이블 분류 및 분석함으로써, 특정 인물 또는 기업 등의 인지도나 성향 등을 파악하거나 최근 트렌드 등을 파악하기 위한 다양한 어플리케이션 개발 및 서비스 제공 시도가 이루어지고 있으며, 이는 4차 산업혁명에 기반한 인공지능 기술 도입에 의해 가속화되고 있다.

특히, 최근 트위터, 페이스북, 블로그 등의 소셜 미디어의 사용량이 증가하면서, 빅데이터를 통해 자동으로 상품에 대한 만족도, 영화에 대한 만족도 등 다양한 오피니언 정보에 대한 분석을 통해 감정 정보를 확인하고자 하는 시도들이 활발히 이루어지고 있다.

특히, 기업은 자사 제품이나 서비스가 소셜 미디어 상에서 어떤 평가를 받고 있는지 파악함으로써 마케팅 전략에 참고 할 수 있고 정책 기관에서는 정책에 대한 여론 분석을 통해 정책 수정 방향 및 홍보 방식 등을 결정할 수 있다. 이러한 필요가 대두되면서 데이터 마이닝을 통한 감정 분석전문으로 하는 브랜드 모니터링 서비스도 활발해지고 있다.

그러나, 현재까지의 인공지능 기술 기반의 뉴스 정보 분석 방식은 주로 반교사 학습법(Semi-supervised Learning)을 이용해 뉴스 정보에 대한 소수의 전문가 들이 직접 기사를 읽고 레이블을 할당하여 소량의 기준 데이터 세트를 생성하고, 이를 활용하여 모든 뉴스 정보에 대한 감성 레이블링을 처리하는 방식으로서, 결국 전문가인 사람이 직접 뉴스 기사를 모두 읽어 건건이 처리하는 과정에서 과도한 시간과 비용이 소요되고 있는 실정이다.

또한, 이러한 반교사 학습 방식의 성능 및 효율이 아직까지는 낮은 상태여서, 결국 고비용 저효율의 서비스만 제공될 수 있을 뿐, 상용화 및 대중화는 현실적으로 어려운 실정이다.

본 발명은 상기와 같은 문제점을 해결하고자 안출된 것으로, 문서의 문단 기반 문장 구조와 용어적 분석에 기초한 사전 데이터를 구축하고, 비정형 텍스트인 대량의 온라인 뉴스 기사에 대응한 자동화된 감성 레이블 태깅을 처리하여, 기업, 회사 등과 같이 감성 예측 분석이 필요한 분석 대상에 대응하는 감성 레이블이 태깅된 기사 정보를 가공하여 제공함으로써, 인력이 투입되는 시간 및 비용을 최소화하면서도 보다 정확한 뉴스 정보 기반의 감성 분석을 가능하게 하는 뉴스 기사의 감성 정보 레이블링 방법 및 그 장치를 제공하는 데 그 목적이 있다.

상기한 바와 같은 과제를 해결하기 위한 본 발명의 실시 예에 따른 방법은, 뉴스 기사 레이블링 장치의 동작 방법에 있어서, 뉴스 기사의 문서 데이터를 획득하는 단계; 상기 문서 데이터로부터 문단 정보를 추출하는 단계; 상기 문단 정보에 따라 상기 문서 데이터로부터 획득되는 문단들을 사전 구축된 사전부와 비교하여, 분석 대상 관련 문단에 대응하는 분석 대상 감성 정보 레이블을 결정하는 단계; 및 상기 하나 이상의 문단에 상기 분석 대상 감성 정보 레이블을 태깅하여, 감성 레이블이 태깅된 기사 정보로 가공하는 단계를 포함한다.

상기한 바와 같은 과제를 해결하기 위한 본 발명의 실시 예에 따른 장치는, 뉴스 기사 레이블링 장치에 있어서, 뉴스 기사의 문서 데이터를 획득하는 입력부; 상기 문서 데이터로부터 문단 정보를 추출하는 문단 정보 추출부; 상기 문단 정보에 따라 상기 문서 데이터로부터 획득되는 문단들을 사전 구축된 사전부와 비교하여, 분석 대상 관련 문단에 대응하는 분석 대상 감성 정보 레이블을 결정하는 레이블 결정부; 및 상기 하나 이상의 문단에 상기 분석 대상 감성 정보 레이블을 태깅하여, 감성 레이블이 태깅된 기사 정보로 가공하는 기사 정보 가공부를 포함한다.

한편, 상기한 바와 같은 과제를 해결하기 위한 본 발명의 실시 예에 따른 방법은 상기 방법을 컴퓨터에서 실행시키기 위한 프로그램 및 상기 프로그램이 기록된 기록 매체로 구현될 수 있다.

본 발명의 실시 예에 따르면, 문서의 문단 기반 문장 구조와 용어적 분석에 기초한 사전 데이터를 구축하고, 비정형 텍스트인 대량의 온라인 뉴스 기사에 대응한 자동화된 감성 레이블 태깅을 처리하여, 기업, 회사 등과 같이 감성 예측 분석이 필요한 분석 대상에 대응하는 감성 레이블이 태깅된 기사 정보를 가공하여 제공함으로써, 인력이 투입되는 시간 및 비용을 최소화하면서도 보다 정확한 뉴스 정보 기반의 감성 분석을 가능하게 하는 뉴스 기사의 감성 정보 레이블링 방법 및 그 장치를 제공할 수 있다.

특히, 본 발명의 실시 예는 빅데이터 규모의 대용량 뉴스 데이터를 활용하여 감성 정보를 분석하는 다양한 용도에 사용될 수 있으며, 특히 최근 온라인 뉴스 기사를 이용해서 기업의 부실 가능성 예측 또는 여신 관리, 상장사의 증시 예측, 산업별 분석 또는 기타 예측 서비스 개발에도 적용될 수 있다.

또한, 본 발명의 실시 예에 따르면, 장문의 뉴스 기사나 보고서 뿐만 아니라 비교적 단문들로 구성된 각종의 소식지나 온라인 댓글, SNS 데이터 등에도 적용될 수 있다. 특히, 최근 한류에 대한 관심이 뜨거운 상황에서 한류 수출을 위한 상품, 연예인 마케팅 등과 같은 분야에서 각종의 텍스트 기반의 문서들을 이용한 오피니언 마이닝을 수행하기 위한 통계 분석 또는 머신러닝을 위한 데이터 준비과정 등 다양한 서비스 제공 프로세스에서도 이용될 수 있는 바 그 활용처가 광범위한 장점이 있다.

도 1은 본 발명의 실시 예에 따른 전체 시스템을 개략적으로 도시한 개념도이다.
도 2는 본 발명의 실시 예에 따른 레이블링 장치를 보다 구체적으로 도시한 블록도이다.
도 3은 본 발명의 실시 예에 따른 레이블링 방법을 보다 구체적으로 설명하기 위한 흐름도이다.
도 4는 본 발명의 실시 예에 따른 레이블링 프로세스를 설명하기 위한 도면이다.
도 5는 본 발명의 실시 예에 따라 추출되는 로그 정보의 예시도이다.
도 6은 본 발명의 실시 예에 따른 문서 검증 및 필터링 프로세스를 설명하기 위한 도면이다.

이하의 내용은 단지 본 발명의 원리를 예시한다. 그러므로 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 장치를 발명할 수 있는 것이다. 또한, 본 명세서에 열거된 모든 조건부 용어 및 실시예들은 원칙적으로, 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백히 의도되고, 이와 같이 특별히 열거된 실시예들 및 상태들에 제한적이지 않는 것으로 이해되어야 한다.

또한, 본 발명의 원리, 관점 및 실시예들 뿐만 아니라 특정 실시예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물들은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다.

따라서, 예를 들어, 본 명세서의 블럭도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도, 상태 변환도, 의사 코드 등은 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.

또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.

상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일실시예를 상세히 설명하기로 한다.

도 1은 본 발명의 실시 예에 따른 전체 시스템을 개략적으로 도시한 도면이다.

도 1을 참조하면 본 발명의 일 실시 예에 따른 시스템은, 감성 정보 레이블링 장치(100), 분석 대상 정보 서비스 제공 장치(200), 사용자 단말(300)을 포함할 수 있으며, 감성 정보 레이블링 장치(100)는 뉴스 기사 데이터베이스(400)에 연결되어 있을 수 있다.

보다 구체적으로, 감성 정보 레이블링 장치(100)는, 뉴스 기사 데이터베이스(400)에서 뉴스 문서 데이터를 획득하고, 획득된 상기 문서 데이터로부터 문단 정보를 추출하며, 상기 문단 정보에 따라 상기 문서 데이터로부터 획득되는 문단들을 사전 구축된 학습 기반 사전부와 비교하여, 분석 대상 관련 문단에 대응하는 분석 대상 감성 정보 레이블을 결정하고, 상기 하나 이상의 문단에 상기 분석 대상 감성 정보 레이블을 태깅하여, 감성 레이블이 태깅된 기사 정보로 가공한다.

이에 따라, 가공된 기사 정보는 분석 대상 정보 서비스 제공 장치(200)로 제공될 수 있으며, 분석 대상 정보 서비스 제공 장치(200)는 분석 대상 감성 정보 레이블을 통해 분석 대상에 대한 뉴스 데이터 기반의 감성 정보를 수집하고, 이에 대응하는 평가 정보의 결정 및 사용자 단말(300)로의 제공 서비스를 처리할 수 있다.

특히, 상기 분석 대상은 기업 또는 회사일 수 있으며, 분석 대상 정보 서비스 제공 장치(200)는 상기 감성 레이블이 태깅된 기사 정보를 이용하여, 상기 기업 또는 회사의 부실가능성, 여신, 증시 예측 또는 성장가능성 예측 중 적어도 하나의 프로세스를 수행하고, 수행 결과를 사용자 단말(300)로 제공할 수 있다.

한편, 감성 정보 레이블링 장치(100), 서비스 제공 장치(200) 및 사용자 단말(300)은 네트워크를 통해 유선 또는 무선으로 연결될 수 있으며, 네트워크간 상호간 통신을 위해 각 감성 정보 레이블링 장치(100), 서비스 제공 장치(200) 및 사용자 단말(300)은 인터넷 네트워크, LAN, WAN, PSTN(Public Switched Telephone Network), PSDN(Public Switched Data Network), 케이블 TV 망, WIFI, 이동 통신망 및 기타 무선 통신망 등을 통하여 데이터를 송수신할 수 있다. 또한, 각 감성 정보 레이블링 장치(100), 서비스 제공 장치(200) 및 사용자 단말(300)은 각 통신망에 상응하는 프로토콜로 통신하기 위한 각각의 통신 모듈을 포함할 수 있다.

그리고, 본 명세서에서 설명되는 사용자 단말(100)에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있으나, 본 발명은 이에 한정되지 아니하며 그 이외에 사용자 입력 및 정보 표시 등이 가능한 다양한 장치일 수 있다.

이와 같은 시스템에 있어서, 사용자 단말(300)은 감성 정보 레이블링 장치(100)로부터 기사 정보를 제공받는 서비스 제공 장치(200)와 연결되어, 상술한 뉴스 데이터 기반 분석 대상 정보 제공 서비스를 받을 수 있다.

도 2는 본 발명의 실시 예에 따른 문서 학습 장치를 보다 구체적으로 설명하기 위한 블록도이다.

도 2를 참조하면, 본 발명의 실시 예에 따른 감성 정보 레이블링 장치(100)는, 입력부(110), 문단 정보 추출부(120), 레이블 결정부(130), 사전부(140), 로그 생성부(160), 검증부(170) 및 기사 정보 가공부(180)를 포함한다.

먼저, 입력부(110)는, 기사 정보 가공을 위한 뉴스 문서를 뉴스 기사 데이터베이스(400)로부터 입력받아 문단 정보 추출부(120)로 전달한다.

입력부(110)는, 뉴스 기사 데이터베이스(400)로부터 전술한 뉴스 기사 데이터를 입력받기 위한 하나 이상의 입력 인터페이스를 포함할 수 있다. 예를 들어, 상기 뉴스 문서는 뉴스 서비스에 따라 결정될 수 있으며, 각 포털 사이트의 종합 기사 문서, 뉴스 제공사의 기사 문서일 수 있고, 나아가 기사 평가 댓글 또는 기사 관련 소설 미디어(SNS) 문서 등도 포함될 수 있다.

또한, 입력부(110)는 분석 대상 정보를 입력받을 수 있다. 분석 대상 정보는 예를 들어, 기업명, 회사명, 인물명 등이 예시될 수 있으며, 예를 들어 특정 기업에 해당하는 감성 정보 레이블이 할당된 기사 정보는, 그 기업의 예측 정보를 제공하는 분석 대상 정보 서비스 제공 장치(200)로 제공될 수 있다.

문단 정보 추출부(120)는, 상기 뉴스 문서를 레이블 할당 가능한 하나 이상의 문단 데이터로 구분하기 위한 문단 정보를 추출할 수 있다.

특히, 온라인 뉴스 기사들 중 특히 경제 관련 기사의 경우 하나의 기사에서 1개 기업에 대한 내용으로만 채워진 기사들은 많지 않으며, 많은 경우에 있어서 2개 이상 다수 개의 기업들에 대한 내용들로 채워지고 있는 실정이며, 이 경우 특정 기업에 대한 긍정 또는 부정 평가를 자동적으로 분류하기 어려울 뿐만 아니라 문서 전체에 대응한 긍정 또는 부정 감성 평가와 개별 기업별 긍정 또는 부정 평가는 일치하지 않는 경우가 많으므로, 실질적 감성 평가가 어려울 수 있다.

따라서, 본 발명의 실시 예에 따른 문단 정보 추출부(120)는 뉴스 기사 원문 전체를 그대로 사용하기 보다는 특정 분석 대상(기업 등)이 포함된 문단만을 발췌하여 관련 감성 레이블이 태깅된 기사 정보로서 가공 출력할 수 있도록 하며, 이를 위한 문단 정보 추출 프로세스를 수행하고, 추출된 문단 정보는 레이블 결정부(130)로 전달될 수 있다.

그리고, 레이블 결정부(130)에서는 문단 정보 및 사전부(140)의 키워드 및 감성어 데이터 세트를 참조하여, 문서의 각 문단을 색인하고, 문단 별 분석 대상 정보의 특정 키워드 또는 감성어에 따른 스코어 매칭 비교 연산에 따라, 태깅할 감성 정보 레이블을 1차적으로 결정할 수 있으며, 결정된 감성 정보 레이블 및 문단 정보는 검증부(170)로 전달될 수 있다.

여기서, 상기 문단 정보 추출부(120)의 문단 정보 추출 및 상기 레이블 결정부(130)의 스코어 매칭 비교를 위해 이용되는 사전부(140)는, 분석 대상이 관련된 문단의 키워드 또는 감성어 빈도에 따라 분석 대상의 감성 레이블 스코어 결정이 가능하도록 하는 키워드 세트 및 감성어 세트를 포함할 수 있다.

보다 구체적으로, 본 발명의 실시 예에 따른 사전부(140)는 사전 구축되어 감성 정보 레이블링 장치(100)에 구비될 수 있다. 상기 사전부(140)는, 상기 문서 데이터로부터 획득되는 문단의 분석 대상 감성 정보 레이블을 결정하기 위해 학습 기반으로 구축되는 복수의 언어 데이터 세트를 포함하는 것으로, 상기 언어 데이터 세트는 상기 문단으로부터 분석 대상의 경제 또는 여신에 대응하는 긍정 또는 부정 의미를 갖는 명사형 용어를 식별할 수 있는 키워드 세트를 포함하거나, 상기 언어 데이터 세트는, 상기 문단으로부터 분석 대상의 평판에 대응하는 긍정 또는 부정 의미를 갖는 동사 또는 형용사형 용어를 식별할 수 있는 감성어 세트를 포함할 수 있다.

여기서, 긍정 키워드 세트 및 부정 키워드 세트는 개별 뉴스 기사의 긍정, 부정의 판별을 가능하게 하고, 이에 기초한 머신 러닝 수행에 이용되는 문서 특징어(또는 자질어, features)를 포함할 수 있다.

예를 들어, 긍정 키워드 세트 및 부정 키워드 세트는, 뉴스 기사에서 표현된 분석 대상 기업의 경제 정보 또는 여신 정보와 관련된 긍정적 또는, 부정적 의미를 갖는 키워드를 포함할 수 있으며, 일반적으로 명사형 단어일 수 있고, 뉴스 기사의 긍, 부정 여부를 평가하는 데에 있어 표지자(marker)로 사용될 수 있다.

사전부(140)는, 긍정 키워드 세트 및 부정 키워드 세트를 구성하는 키워드들을 구축하기 위해, 일정 키워드를 미리 입력받거나, 관련 분야의 전문가 문서 또는 각종 기술 문서들로부터 키워드를 수집하거나, 연관어 검색 방식(예를 들어. Word2vec)에 의해 기존 수집된 키워드들과 관련된 연관어 키워드 리스트를 생성하거나, 도출된 연관어 키워드들 중 필터링에 따라 확정된 키워드만을 등록하는 처리를 수행하여, 긍정 키워드 세트와 부정 키워드 세트를 생성 및 저장할 수 있다.

한편, 사전부(140)는 긍정 및 부정 감성어 세트를 포함할 수 있으며, 감성어 세트는 예를 들어, 뉴스 기사에서 '증가', '감소' 등의 동사형 또는 '좋은', '나쁜' 등의 형용사형 형태를 가질 수 있으며, 키워드들과의 조합을 통해 분석 대상의 감성을 나타내는 하나 이상의 감성어들을 포함할 수 있다.

감성어는 뉴스 기사의 감성적 긍정, 부정을 판단하는 가치(value) 변수로 사용될 수 있으며, 키워드 세트와 같이 분석 대상 정보 서비스 제공 장치(200)에서의 머신 러닝을 위한 문서특징어(또는 자질어, features)로 활용될 수도 있다.

이에 따라, 사전부(140)는 특정 도메인 영역에 국한되지 않는 용어들로만 감성어 세트를 구성하되, 관련 분야의 전문가 문서 또는 각종 기술 문서들로부터 감성어를 수집하거나, 연관어 검색 방식(예를 들어. Word2vec)에 의해 기존 수집된 감성어들과 관련된 연관 감성어 리스트를 생성하거나, 도출된 연관 감성어 리스트들 중 필터링에 따라 확정된 감성어만을 등록하는 처리를 수행하여, 긍정 감성어 세트 및 부정 감성어 세트를 생성 및 저장할 수 있다.

이에 따라, 사전부(140)에 등록된 용어들에 대해, 레이블 결정부(130)에서는 그 용어의 타입(긍정, 부정, 키워드, 감성어)에 따라 점수를 다르게 부여할 수 있고, 그 합계는 최종 긍정 또는 부정 감성 레이블 판별시 이용될 수 있다.

레이블 결정부(130)는 이와 같이 생성된 사전부(140)와, 문단 정보 추출부(120)의 문단 정보를 이용하여, 뉴스 문서로부터 실제 분석 대상과 연관된 문단을 식별하고, 식별된 문단에 대응하는 감성 레이블을 결정할 수 있다. 여기서, 감성 레이블은 긍정 또는 부정으로 분류되는 자동화 레이블일 수 있다. 그리고, 뉴스 문서는 다양한 언론매체에서 생산된 다양한 분야의 뉴스들로서, 매체별 서술 방식의 차이가 있을 뿐 출판 형식 면에서는 큰 차이가 없을 수 있다.

보다 구체적으로, 레이블 결정부(130)는 하나의 뉴스 기사가 입력되었을 때 문단 정보 추출부(120)에서 추출된 문단 정보에 기초하여, 문단 별로 인덱싱을 수행하고 지시 변수를 확인할 수 있다. 여기서, 문단은 1개 이상의 빈 라인으로 구분된 문서 내에서에 위와 아래에 있는 문장 세트를 의미할 수 있다. 그러므로 단일 문장만으로도 하나의 문단이 될 수 있다.

이를 위해, 문단 정보 추출부(120)는 먼저 뉴스 문서 데이터의 문단 인덱싱을 수행하고, 인덱싱된 문단들 중 분석 대상 정보가 포함된 문단을 식별하며, 상기 식별된 문단에 대응하는 색인 범위 중심 설정을 위한 지시변수를 상기 식별된 문단에 할당할 수 있다.

그리고, 레이블 결정부(130)는 상기 지시변수를 중심으로 하여, 감성 레이블 결정을 위한 대상 문단의 색인 범위 및 색인 순서 중 적어도 하나를 결정할 수 있다. 그리고, 레이블 결정부(130)는 사전부(140)와의 매칭 비교 연산에 따라, 상기 분석 대상 관련 문단의 긍정 또는 부정 감성 스코어를 결정할 수 있다.

보다 구체적으로, 레이블 결정부(130)는 입력부(110)를 통해 입력된 분석 대상 정보(예를 들어, 기업명 리스트)를 이용하여, 상기 분석 대상 정보가 뉴스 문서 내 어느 문단에 존재하는지를 상기 지시변수를 중심으로 하는 색인 범위 내에서 색인할 수 있다.

만약, 문서 내의 어느 문단에도 분석 대상 정보가 존재하지 않을 경우, 해당 뉴스 기사 색인은 종료되고, 입력부(110)는 다음의 뉴스 기사를 입력받는다.

예를 들어, 만약 뉴스 문서 내 검색된 문단 수가 총 5개이고, 특정 기업명이 3번째 문단에서 발견될 경우, 문단 정보 추출부(120)는 index_p (문단 지시용 지시 변수)에 2를 할당할 수 있다. 그러면, 레이블 결정부(130)는 상기 2를 중심으로 상하 2개 문단 범위 내에서 상기 특정 기업명에 대응한 레이블 스코어 연산을 반복적으로 수행할 수 있으며, 스코어 연산 수행 결과에 따라 기사 정보의 가공 또는 뉴스 문서의 스킵을 결정할 수 있다.

그리고, 레이블 결정부(130)는 스코어 결정에 따라, 문단에 태깅할 분석 대상 감성 정보 레이블을 결정할 수 있다. 감성 정보 레이블이 태깅된 문단은 검증부(170)에서 기사 정보로 가공할지 여부가 판단될 수 있고, 가공부(180)는 검증된 문단 및 감성 정보 레이블에 기초하여, 감성 레이블이 태깅된 기사 정보를 가공할 수 있다.

예를 들어, 레이블 결정부(130)는 문단 정보에 기초하여 문단 내에서 발생되는 긍정 키워드에 대응하여 +2 를 연산하고, 부정 키워드에 대응하여 -2 를 연산하며, 긍정 감성어에 대응하여 +1.5를 연산하고 부정 감성어에 대응하여 -1.5를 연산하는 방식으로 사전부(140)와의 감성 레이블 비교 매칭 스코어를 결정할 수 있다. 여기서, 점수는 예시인 것으로 필요에 따라 변경될 수도 있다. 보다 구체적인 레이블 결정부(130)의 동작은 도 3에서 설명하도록 한다.

그리고, 레이블 결정부(130)에서 긍정 또는 부정 별 감성 레이블이 결정된 후, 레이블을 결정하는데 사용된 각종 근거 기록들은 로그 생성부(160)를 통해 로그 데이터로 구성되어, 외부 파일(또는 데이터베이스)의 형태로 저장될 수 있다. 로그 데이터는 감성 정보 레이블링의 근거 자료로 이용될 수 있다.

그리고, 레이블 결정부(130)에서의 점수 비교에 따라 분석 대상 감성 정보 레이블이 1차 태깅된 문단들을 각각 포함하는 복수의 기사 문서들이 출력되면, 검증부(170)는 상기 복수의 기사 문서들의 감성 분류별 유사도 비교 연산에 따라 검증 값을 산출하고, 상기 검증 값에 기초하여, 기사 정보로 가공할 문서 및 상기 기사 정보에 태깅될 분석 대상 감성 정보 레이블을 최종적으로 결정한다.

따라서 검증부(170)는, 감성 정보 레이블 태깅 결과의 안정성을 확보하기 위해 검증 프로세스를 수행할 수 있다. 다만, 이 때의 검증 프로세스 또한 사람의 개입을 최소화하고 자동적 처리를 하기 위한 기계적 프로세스를 수행할 수있다.

보다 구체적으로, 검증부(170)는 레이블 결정부(130)의 레이블링 결과를 수집하고, 문서 유사도 측정법에 따라, 같은 감성 레이블이 태깅된 뉴스 기사 문단들 간의 유사도를 계산하고 뉴스 기사 문단 별로 유사도를 누적한 후, 누적된 크기에 따라 순위를 결정하며, 하위에 위치한 뉴스 기사 문단들을 제거하는 프로세스를 수행할 수 있다. 이러한 프로세스는 고객의 편의성을 위해 결과를 정규화하여 [1, 0~1, 0]으로 구간을 구분하는 프로세스를 포함할 수 있고, 검증부(170)는 이에 대응한 임계값을 설정하여, 임계값을 넘거나 넘지 않는 범위에 속한 문단들만을 대상으로 근정 또는 부정 감성 레이블을 확정할 수 있다. 이에 대하여는 도 6을 참조하여 보다 구체적으로 후술하도록 한다.

한편, 기사 정보 가공부(180)는, 최종적으로 결정된 감성 레이블이 태깅된 문단을 기사 정보로서 출력할 수 있으며, 이는 분석 대상 정보 서비스 제공 장치(200)로 제공되어, 분석 대상의 예측 서비스에 이용될 수 있고, 예측 서비스는 사용자 단말(300)로 제공될 수 있다.

예를 들어, 분석 대상 예측 서비스는, 빅데이터 규모의 대용량 뉴스 데이터를 활용하는 다양한 예측 서비스를 포함할 수 있으며, 기업의 부실 가능성 예측 또는 여신 관리, 상장사의 증시 예측, 산업별 분석 또는 기타 예측 서비스 개발에 이용되는 예측 서비스를 포함할 수 있다.

또한, 본 발명의 실시 예에 따른 감성 정보 레이블링 장치(100)는 장문의 내용으로 구성된 뉴스 기사 또는 보고서 데이터뿐만 아니라, 비교적 단문들로 구성된 각종의 소식지나 온라인 댓글, SNS 데이터 등에도 적용이 가능할 수 있다.

도 3은 본 발명의 실시 예에 따른 감성 정보 레이블링 장치(100)의 동작 방법을 보다 구체적으로 설명하기 위한 흐름도이다.

도 3에서는 본 발명의 실시 예에 따른 분석 대상이 기업명인 경우의 기업명과 연관된 긍정 또는 부정 감성 레이블이 태깅된 기사 정보 출력 프로세스를 예시하는 것으로, 기업명은 리스트로 구성될 수 있고, 분석 대상 정보 설정에 따라 회사명, 그룹명, 법인명, 인물명 등으로도 변경될 수 있다.

먼저, 도 3을 참조하면, 본 발명의 실시 예에 따른 감성 정보 레이블링 장치(100)는 입력부(110)를 통해 신규 대상 기사 문서를 입력받는다(S101).

그리고, 감성 정보 레이블링 장치(100)는 문단 정보 추출부(120)를 통해, 신규 대상 문서에 대응하는 문단 정보 추출을 통해 문단 인덱싱을 수행하고(S102), 문단별 기업명 정보가 색인되는지 확인한다(S103).

여기서, 문단은 문서가 1개 이상의 빈 라인들로 구분되어 있는 상태에서 상하의 빈 라인으로 구분되는 문장 세트를 의미할 수 있다. 그러므로 단일 문장만으로도 하나의 문단이 될 수 있다.

그리고, 감성 정보 레이블링 장치(100)는 문단 정보 추출부(120)를 통해 기업명 리스트 내 기업명이 뉴스 문서 내에 어느 곳에 존재하는지를 색인할 수 있다. 만약 뉴스 기사 문서 내의 어느 문단에도 기업명이 색인되지 않을 경우, 그 뉴스 문서는 무시되고 다음의 뉴스 기사문서를 입력받게 된다.

기업명이 색인된 경우, 감성 정보 레이블링 장치(100)는 문단 정보 추출부(120)를 통해 기업명 정보가 색인된 문단에 대응하는 지시변수를 할당한다(S105).

예를 들어, 만약 검색된 문단 수가 총 5개이고, 분석 대상 기업명이 3번째 문단에서 발견될 경우에는 index_p (문단 지시용 지시 변수)에 2가 할당될 수 있다.

이에 따라, 문단 정보 추출부(120)는 index_p 를 이용하여, 레이블 결정부(130)가 index_p에 의해 지정된 문단으로 이동하여 레이블 결정 프로세스를 수행할 것을 레이블 결정부(130)로 요청할 수 있다.

그리고, 감성 정보 레이블링 장치(100)는 레이블 결정부(130)를 통해, 지시변수 index_p를 중심으로 하는 감성 레이블을 결정할 대상 문단 범위 및 순서를 지정한다.

이후, 감성 정보 레이블링 장치(100)는 S109 내지 S121 단계의 반복 수행을 통해, 현재 뉴스 기사 문서에 대응하는 대상 문단 범위 및 순서에 따라, 각각의 문단에 대응하는 긍정 또는 부정 키워드들과, 긍정 또는 부정 감성어들을 색인한 후 스코어링을 수행하여 최종적인 감성 정보 레이블이 태깅된 문단을 출력할 수 있다.

보다 구체적으로, 이러한 반복 과정들은 뉴스 기사의 모든 문단이 아닌, 특정 지시 변수에 의해 지시된 대상 문단 범위 및 순서에 의해 결정된 문단들에 대하여만 처리될 수 있으며, 바람직하게는 index_p를 중심으로 하는 현재 문단의 상단 1개 문단과, 하단 2개 문단, 그리고 뉴스 기사 문서의 제목 문단이 그 대상 문단 범위로 설정될 수 있다.

또한, 대상 문서의 순차적 처리 순서는 현재 문단, 하단 첫 번째 문단, 상단 문단, 하단 두 번째 문단, 제목 문단 순으로 설정되는 것이 바람직하며, 레이블 결정부(130)는 사전부(140)에 등록된 용어들의 색인여부에 따라 스코어링 처리를 수행할 수 있고, 로그 생성부(160)는 레이블 결정에 대응한 로그 정보를 기록할 수 있다.

먼저, 감성 정보 레이블링 장치(100)는 레이블 결정부(130)를 통해 현재 문단을 대상 문단으로 지정한다(S109).

그리고, 레이블 결정부(130)는 사전부(140)의 용어 정보에 기초하여 대상 문단의 타입을 결정한다(S111).

여기서, 타입은 별도의 기사 정보로 가공할지(S112 단계로 이동), 다음 문단으로 이동할 지(S121 단계로 이동) 또는 현재 뉴스 기사 문서를 스킵하고 다음 기사 문서를 입력받을지(S101 단계로 이동)를 나타내는 인덱스일 수 있으며, 레이블 결정부(130)는 사전부(140)에 등록된 키워드 및 감성어 색인여부 및 빈도수에 따라 문단 타입을 각각 결정할 수 있다.

보다 구체적으로, 만약 문단 타입이 0~2일 경우, 레이블 결정부(130)는 현재 index_p로 지정된 문단을 원래 입력된 기사 문서와의 관계 정보가 할당된 별도의 기사로 추출 생성할 수 있다(S112).

예를 들어, 원래의 기사 id가 12345678일 때, 별도 추출 생성된 문단의 기사 id는 12345678_1로 지정되거나, 기사 내 별도의 공통 관계 메타데이터가 포함될 수 있다.

그리고, 레이블 결정부(130)는 추출 생성된 기사에 대응하여, 사전부(140)와의 매칭 비교 연산에 따른 긍정 또는 부정 스코어를 결정할 수 있고(S113), 스코어에 기초한 감성 레이블을 결정하여 로그 생성부(160)를 통해 로그를 기록하고(S115), 결정된 감성 레이블을 대상 문단에 태깅하여 검증부(170)로 출력한다(S117).

보다 구체적으로, 레이블 결정부(130)는 추출된 문단 내에서 색인되는 사전부(140) 등록 키워드 및 감성어들마다의 스코어를 부여하고, 그 합산 점수를 결정할 수 있다. 그리고 기본적으로 문단의 긍정 또는 부정 합계 점수에 따라 '긍정' 감성 레이블 또는 '부정' 감성 레이블을 결정할 수 있다. 또한, 합계 점수가 일정 범위(예를 들어, -1.5 내지 1.5) 이내인 경우에는 '중립'으로 감성 레이블을 결정할 수도 있다. 이러한 값의 범위는 데이터 또는 뉴스 기사의 속성에 따라 절절히 조절될 수 있다.

이후, 감성 정보 레이블링 장치(100)는 레이블 결정부(130)를 통해 마지막 문단여부를 확인하여(S119), 지정된 순서에 따라 대상 문단 범위 내 다음 문단으로 이동하거나(S121), 다음 뉴스 기사 문서가 입력되는 S101 단계로 회귀할 수 있다.

한편, 상기 S121 단계는 타입 인덱스가 3인 경우에도 수행될 수 있으며, 타입 인덱스가 반복적으로 계속하여 3이 결정되는 경우, 레이블 결정부(130)는 대상 문단을 상단, 하단 등으로 이동시켜 문단 타입 결정과정을 반복할 수 있다. 다만, 대상 문단 범위 내 반복적 타입 결정을 처리하여도 3이 반복되는 경우, 레이블 결정부(130)는 타입 인덱스를 4로 결정할 수 있다. 이 경우, 현재 기사는 타입 4로 설정되고, 다음 뉴스 기사 문서를 입력받는 S101 단계부터 다시 수행될 수 있다.

도 4는 본 발명의 실시 예에 따른 레이블링 프로세스를 설명하기 위한 도면이다.

도 4를 참조하면, 입력된 뉴스 기사 문서는 7개의 문단(P1, P2, P3, P4, P5, P7)으로 구성되어 있음을 확인할 수 있다.

이에 따라, 감성 정보 레이블링 장치(100)는, 문단 정보 추출부(120)를 통해, 문단 구성 정보를 획득하고, 이 중 분석 대상 정보인 기업명('company B')이 발견된 4번째 문단(P4)을 기준 문단(index_p)으로 설정하고 포인터를 index_p로 이동시킬 수 있다.

그리고, 감성 정보 레이블링 장치(100)는 레이블 결정부(130)를 통해 키워드(kword) 및 감성어(eword) 색인을 처리한다. 도 4에서는 현재 4번째인 Index_p번째 문단(P5)에는 키워드와 감성어가 존재하지 않아, 레이블 결정부(130)는 index_p+1번째 문단인 P5로 이동할 수 있다. P5 문단에는 긍정 키워드1과 긍정 감성어1 및 부정 키워드2와 부정 감성어2,3이 존재하므로 감성 점수를 계산하면, sentiment_score = +2+1.5-2-1.5-1.5 = -1.5 이며, 이에 따라 레이블 결정부(130)는 최종 부정 감성을 갖는 것으로 판별하고, 부정 감성 정보가 레이블링된 문단 기사를 출력할 수 있다.

도 5는 본 발명의 실시 예에 따라 추출되는 로그 정보의 예시도이다.

도 5에 도시된 표는 레이블 결정부(130)에서 자동화된 레이블링 프로세스를 수행함에 따라 기록되는 로그 데이터의 구성 예시이다.

뉴스 정보 로그(News info.)는 뉴스 기사 자체에 관한 로그 기록으로써, 기사 id와 원문 내용(original content)으로 구성될 수 있다.

문단 정보 로그(Paragraph info.)는 추출된 문단에 관한 로그 기록으로써, 문단 id와 추출된 문단 내용(filtered paragraph), 발생한 용어들에 대응한 레이블 연산을 통해 획득된 합계 점수(scored sum), 그리고 이를 기반으로 결정된 레이블(decided label)을 포함한다.

용어 정보 로그(Lexicon info.)는 추출된 문단을 구성하는 용어들에 관한 로그 기록으로써, 발생한 용어와 타입(terms per type), 빈도(frequency), 점수(score), 타입 별 개수(counts per type)로 구성될 수 있다.

도 6은 본 발명의 실시 예에 따른 문서 검증 및 필터링 프로세스를 설명하기 위한 도면이다.

도 6을 참조하면, 본 발명의 실시 예에 따른 검증부(170)는 문서 유사도 측정 및 유사도 누적치에 기초하여, 감성 정보가 레이블링된 기사 정보로 가공할 뉴스 기사를 검증하고, 최종적으로 서비스 제공 장치(200)로 출력 제공할 기사들을 결정할 수 있다.

예를 들어, 도 6에 도시된 바와 같이 10건의 긍정 감성 레이블을 가진 뉴스 데이터이 생성되었다고 가정할 때, 검증부(170)는 사전부(140)에 등록된 용어들을 이용하여 문서 검증 모델을 생성할 수 있으며, 문서 검증 모델을 이용하여 감성 정보가 레이블링된 문단을 포함하는 기사들과 기존 생성된 다른 뉴스 기사들과의 유사도를 계산한 후 유사도 누적값을 연산한다.

이 때, 검증부(170)는 뉴스 기사 별 유사도 누적치 연산을 위해, 필요에 따라 정규화를 수행한 후 각 기사들을 [1, 0~1, 0] 과 같이 세 구간에 위치시킬 수 있다. 그 값이 1인 기사의 경우, 유사도 면에서 다른 문서들과 거의 유사한 것을 나타내며 예를 들어, 긍정 감성을 충분히 나타내는 기사로 판단되는 경우 일 수 있다. 다만, 그 값이 1인 경우의 빈도수는 일반적으로 낮게 된다.

[1~0]인 경우는 다른 문서들과 일부는 비슷하고 일부는 달라서 사용자의 판단에 따라 '긍정' 기사로 판정될 수도 있고, '중립'으로 판정될 수도 있는 기사들을 나타낼 수 있다.

다만, 수치적인 의미와 달리, 실제 유사도 수치가 낮더라도 (예를 들어, 0.4) 긍정 감성 수치가 낮다고 볼 수는 없으며, 같은 분류에 속한 다른 기사들과 용어의 구성이 달라서 차이가 발생될 수도 있다.

따라서, 검증부(170)는 [1~0] 인 경우에는 상한 또는 하한 경계값을 설정하고, 그 경계 값 내에 위치한 기사들의 샘플만을 확인하거나, 별도의 기준치를 설정할 수 있다.

한편, 검증부(170)는 유사도가 0인 경우, 유사도값이 너무 낮거나 다른 기사들과는 이질적인 특성을 갖고 있어서 '중립' 또는 '판단불가'로 판별할 수 있다. 이 경우도 1의 경우와 마찬가지로 소수의 기사들만이 이에 해당될 수 있다.

이에 따라, 검증부(170)는 유사도 누적치가 도 6에 도시된 바와 같이 세 개의 구간 중에 존재할 때, 임계값(Threshold)을 설정함으로써, 특정 뉴스 기사들을 가공 대상에서 제거하는 처리를 수행할 수 있다.

도 6에서는 임계값이 0.32로 설정된 경우를 나타내며, 검증부(170)는 이에 맞춰 0.32보다 값이 낮은 1.28과 2.17을 갖는 뉴스 기사 7번과 8번 문서를 제거하게 된다.

그리고, 검증부(170)의 유사도 검증을 마친 긍정 감성의 뉴스 기사 세트에는 최종적으로 뉴스 기사 번호 1~6, 9~10 만 남게 되며, 이는 가공부(180)로 전달되어 긍정 감성 정보가 레이블링된 기사들로서 가공 및 출력될 수 있다.

한편, 검증부(170)는 동일한 방식으로 부정 감성을 갖는 뉴스 기사 세트에 대해서도 유사도 검증 과정을 수행하여, 부정 감성 여부에 대해 검증을 통과함으로써 부정 감성을 가진 것으로 최종적으로 판정된 뉴스 기사들만을 모아, 가공부(180)로 전달하여, 부정 감성 정보가 레이블링된 기사들로서 가공 및 출력시킬 수 있다.

한편, 상술한 본 발명의 다양한 실시 예들에 따른 방법은 프로그램으로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장된 상태로 각 서버 또는 기기들에 제공될 수 있다. 이에 따라, 사용자 단말(100)은 서버 또는 기기에 접속하여, 상기 프로그램을 다운로드할 수 있다.

비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.

또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.

Claims (7)

1. 감성 정보 레이블링을 위한 신규 뉴스 기사를 입력받는 단계와;
   상기 신규 뉴스 기사의 문단 정보를 추출하여 문단 인덱싱을 수행하고, 상기 인덱싱된 문단별로 분석 대상 정보가 색인되는지를 확인하는 단계와;
   상기 분석 대상 정보가 색인된 문단에 대응하는 지시변수를 할당하고, 지시변수를 중심으로 하는 감성 레이블 결정 대상 문단 범위 및 순서를 지정하는 단계와;
   상기 지정된 순서에 따라 현재 문단을 대상 문단으로 지정하고, 미리 설정해둔 사전부에 기초하여 키워드 및 감성어의 존재여부 및 빈도수에 의해 문단 타입을 결정하여 분석 기사로 추출하는 단계와;
   상기 분석 기사를 사전부에 등록된 키워드 및 감성어 데이터 세트에 매칭 비교하여, 색인되는 키워드 및 감성어에 스코어를 부여하고, 그 합산 점수에 의해 해당 분석기사의 스코어를 결정하는 단계와;
   상기 분석 기사의 스코어에 기초한 감성 레이블을 결정하여 대상 문단을 태깅하는 단계와;
   상기 감성 레이블 결정 대상 문단범위 및 순서에 따라 마지막 문단이 될때까지 상기 기사추출, 스코어 결정, 감성 레이블 결정 및 태깅 단계를 반복하여 감성 레이블이 태킹된 기사 정보로 가공하는 단계; 를 포함하는
   뉴스 기사의 감성 정보 레이블링 방법.
   
2. 제1항에 있어서,
   상기 문단 추출은, 문서가 1개 이상의 빈 라인들로 구분되어 있는 상태에서 상하의 빈 라인으로 구분되는 문장 세트를 의미하고, 단일 문장만으로도 하나의 문단으로 추출되는 것을 포함하는
   뉴스 기사의 감성 정보 레이블링 방법.
   
3. 제1항에 있어서,
   상기 분석 대상 정보로서 미리 기업명 리스트를 설정하여 두고, 상기 기업명 리스트 내의 기업명이 뉴스 문서 내에 어느 문단에 존재하는지를 색인하며, 해당 뉴스 문서내의 어느 문단에도 기업명이 색인되지 않으면, 그 뉴스 문서는 무시되고, 다음의 뉴스 기사 문서를 입력받는
   뉴스 기사의 감성 정보 레이블링 방법.
   
4. 제1항에 있어서,
   상기 감성 레이블 결정 문단 범위는,
   분석 대상 정보가 색인된 문단을 현재문단으로 지정하고, 현재 문단의 상단 1개 문단과, 하단 2개문단 및 뉴스 기사 문서의 제목 문단을 그 대상 문단 범위로 설정하는
   뉴스 기사의 감성 정보 레이블링 방법.
   
5. 제4항에 있어서,
   상기 감성성 레이블 결정 문단 범위에 대한 순서는,
   현재 문단, 하단 첫번째 문단, 상단 문단, 하단 두번째 문단, 제목 문단 순서로 설정하는
   뉴스 기사의 감성 정보 레이블링 방법.
   
6. 제1항에 있어서,
   상기 사전부는,
   상기 문서 데이터로부터 획득되는 문단의 분석 대상 감성 정보 레이블을 결정하기 위해 학습 기반으로 구축되는 복수의 언어 데이터 세트를 포함하고,
   상기 언어 데이터 세트는,
   상기 문단으로부터 분석 대상의 경제 또는 여신에 대응하는 긍정 또는 부정 의미를 갖는 명사형 용어를 식별할 수 있는 키워드 세트와;
   상기 문단으로부터 분석 대상의 평판에 대응하는 긍정 또는 부정 의미를 갖는 형용사형 용어를 식별할 수 있는 감성어 세트; 를 포함하는
   뉴스 기사의 감성 정보 레이블링 방법.
   
7. 제1항에 있어서,
   상기 감성 레이블이 태깅된 기사 정보로 가공하는 단계는,
   상기 분석 대상 감성 정보 레이블이 1차 태깅된 문단들을 각각 포함하는 복수의 기사 문서를 획득하는 단계;
   상기 복수의 기사 문서들의 감성 분류별 유사도 비교 연산에 따라 검증 값을 산출하는 단계; 및
   상기 검증 값에 기초하여, 기사 정보로 가공할 문서 및 상기 기사 정보에 태깅될 분석 대상 감성 정보 레이블을 최종적으로 결정하는 단계;를 포함하는
   뉴스 기사의 감성 정보 레이블링 방법.

Images