KR102359640B1 - 딥러닝을 이용한 도덕 판단 유형 예측시스템 및 방법 - Google Patents

Abstract

본 발명은 딥러닝을 이용한 도덕 판단 유형 예측시스템 및 방법에 관한 것으로, 12가지 도덕 판단 유형 각각에 포함되는 어휘들과, 라벨드 데이터를 저장하는 데이터베이스와, 외부 장치로부터 텍스트를 입력받는 통신부와, 상기 라벨드 데이터 또는 어휘들을 이용하여 기계학습을 수행하고, 학습결과를 이용하여 상기 외부 장치로부터 입력된 텍스트를 분석하여 상기 12가지 도덕 판단 유형으로 분류하는 프로세서를 포함하되, 상기 프로세서는, 상기 기계학습을 수행하고, 상기 외부 장치로부터 입력된 텍스트를 12가지 도덕 판단 유형으로 분류하는 도덕판단 학습엔진과, 상기 도덕판단 학습엔진의 분류 결과에서 12가지 도덕 판단 유형 각각의 수를 산출하는 도덕유형 판단엔진과, 상기 도덕유형 판단엔진의 산출 결과를 시맨틱 분석을 통해서 텍스트 또는 그래프로 처리하여 표시부에 표시하는 도덕판단 설명엔진을 포함할 수 있다.

Description

딥러닝을 이용한 도덕 판단 유형 예측시스템 및 방법{prediction system for type of moral judgment using deep learning and method thereof}

본 발명은 딥러닝을 이용한 도덕 판단 유형 예측시스템 및 방법에 관한 것으로, 더 상세하게는 텍스트를 기반으로 하는 가치기반 도덕 판단의 양상과 유형을 분석할 수 있는 시스템 및 방법에 관한 것이다.

본 연구는 경제·인문사회연구회의 인문정책연구과제 수행 결과를 토대로 수정 및 확장한 결과물임을 밝힙니다.
도덕 판단은 인간이 행동을 결정하는 핵심 요소 중에 하나이다. 인간의 행동을 예측하기 위해서는 개개인의 도덕 판단 양상과 유형을 파악해야 한다. 도덕 판단을 근거로 한 인간의 행동 예측은 인간의 의사 결정 대리하는데 도움이 된다.

등록특허 10-2020014호(2020년 12월 30일 등록, 인공지능의 자율적 도덕 판단 및 수행을 위한 시스템)에는 인공지능의 자율적 도덕 판단 및 수행을 위한 시스템이 개시된다. 본 개시는 각각의 개인정보 및 데이터를 서버로 전송하는 단말 장치 및 단말 장치로부터 개인정보 및 데이터를 수신하는 서버를 포함하고, 서버는 데이터로부터 키워드 및 성향 관련 정보를 추출하고, 추출된 모든 키워드와 성향 관련 정보에 기초하여 범용 정체성 학습 데이터를 생성하며, 생성된 범용 정체성 학습 데이터에 기초하여 범용 정체성 딥러닝 학습 모델을 생성하고, 개인정보에 기초하여 복수의 그룹을 생성하며, 생성된 복수의 그룹 각각과 관련된 그룹 정체성 학습 데이터를 생성하고, 생성된 그룹 정체성 학습 데이터에 기초하여 복수의 그룹 각각에 대한 그룹 정체성 딥러닝 학습 모델을 생성하며, 생성된 딥러닝 학습 모델 중 사용자 요청에 대응되는 하나의 딥러닝 학습 모델을 단말 장치로 전송하는 내용이 기재되어 있다. 상기 등록 특허에는 특정 내용에 대한 평가를 인종, 국가, 연령, 종교, 이념, 성별을 포함하는 상기 개인정보 중 적어도 하나를 기초로 법률, 관습, 조리 및 복수의 윤리 규칙을 포함하는 행동 지침 학습 데이터 및 상기 범용정체성 학습 데이터를 기초로 범용 정체성 딥러닝 학습 모델을 생성하게 했지만, 구체적인 기준이 미비하여 개인의 도덕 판단을 판단하기 어렵다는 단점이 있다.

또한, 딥러닝 모델만을 사용하여 도덕 판단의 결과값에 대한 설명이 불가능하다는 단점이 있었다.

상기와 같은 문제점을 감안한 본 발명이 해결하고자 하는 과제는, 인간의 의사결정 및 선택의 근거인 도덕감정 및 판단을 텍스트 맥락 속에서 파악하여, 개인의 도덕 판단과 그 판단 결과를 설명할 수 있는 시스템 및 방법을 제공함에 있다.

상기와 같은 기술적 과제를 해결하기 위한 본 발명의 일측면에 따른 딥러닝을 이용한 도덕 판단 유형 예측시스템은, 12가지 도덕 판단 유형 각각에 포함되는 어휘들과, 라벨드 데이터를 저장하는 데이터베이스와, 외부 장치로부터 텍스트를 입력받는 통신부와, 상기 라벨드 데이터 또는 어휘들을 이용하여 기계학습을 수행하고, 학습결과를 이용하여 상기 외부 장치로부터 입력된 텍스트를 분석하여 상기 12가지 도덕 판단 유형으로 분류하는 프로세서를 포함하되, 상기 프로세서는, 상기 기계학습을 수행하고, 상기 외부 장치로부터 입력된 텍스트를 12가지 도덕 판단 유형으로 분류하는 도덕판단 학습엔진과, 상기 도덕판단 학습엔진의 분류 결과에서 12가지 도덕 판단 유형 각각의 수를 산출하는 도덕유형 판단엔진과, 상기 도덕유형 판단엔진의 산출 결과를 시맨틱 분석결과에 따라 설명할 수 있는 도덕판단 설명엔진을 포함할 수 있다.

본 발명의 실시예에서, 상기 12가지 도덕 판단 유형은, 돌봄, 피해, 공정, 불공정, 충성, 배신, 권위, 불복종, 순수, 타락, 자유, 억압 유형인 것으로 할 수 있다.

본 발명의 실시예에서, 상기 도덕유형 판단엔진은, 돌봄, 피해, 공정, 불공정, 충성, 배신, 권위, 불복종, 순수, 타락, 자유, 억압 유형 각각에 대한 수를 파악하는 유형 전체 분석을 수행하거나, 돌봄, 공정, 충성, 권위, 순수, 자유 유형을 포함하는 긍정 유형과 피해, 불공정, 배신, 불복종, 타락, 억압을 포함하는 부정 유형을 그룹화하여 긍정 또는 부정만을 확인할 수 있는 긍부정 출현 분석을 수행할 수 있다.

본 발명의 실시예에서, 상기 도덕판단 설명엔진은, 상기 도덕유형 판단엔진의 유형 전체 분석결과 또는 긍부정 출현 분석결과를 설명하되, 수집된 텍스트의 작성일을 기준으로 시계열적으로 처리 할 수 있다.

본 발명의 실시예에서, 상기 도덕판단 설명엔진은, 수집된 상기 텍스트의 기간별 수집량에 따라 시계열 상대비율 그래프를 작성하여 표시부에 나타낼 수 있다.

또한, 본 발명의 다른 측면에 따른 딥러닝을 이용한 도덕 판단 유형 예측방법은, a) 프로세서에서 데이터베이스에 저장된 라벨드 데이터 또는 12가지 도덕 판단 유형 각각에 대한 어휘들을 학습하는 단계와, b) 상기 프로세서에서 외부 장치에서 수집된 텍스트를 학습 결과에 따라 상기 12가지 도덕 판단 유형으로 분류하는 단계와, c) 상기 프로세서에서 12가지 도덕 판단 유형으로 분류된 데이터의 수를 산출하는 단계와, d) 상기 프로세서에서 상기 c) 단계의 산출 결과를 설정된 프로그램에 따라 설명 및 그래프로 처리하여 표시부에 표시하는 단계를 포함할 수 있다.

본 발명의 실시예에서, 상기 12가지 도덕 판단 유형은, 돌봄, 피해, 공정, 불공정, 충성, 배신, 권위, 불복종, 순수, 타락, 자유, 억압 유형일 수 있다.

본 발명의 실시예에서, 상기 c) 단계는, 돌봄, 피해, 공정, 불공정, 충성, 배신, 권위, 불복종, 순수, 타락, 자유, 억압 유형 각각에 대한 수를 파악하는 유형 전체 분석을 수행하거나, 돌봄, 공정, 충성, 권위, 순수, 자유 유형을 포함하는 긍정 유형과 피해, 불공정, 배신, 불복종, 타락, 억압을 포함하는 부정 유형을 그룹화하여 긍정 또는 부정만을 확인할 수 있는 긍부정 출현 분석을 수행할 수 있다.

본 발명의 실시예에서, 상기 d) 단계는, 상기 c) 단계의 유형 전체 분석결과 또는 긍부정 출현 분석결과를 그래프로 도식화하되, 수집된 텍스트의 작성일을 기준으로 시계열적으로 표시할 수 있다.

본 발명의 실시예에서, 상기 d) 단계는, 수집된 상기 텍스트의 기간별 수집량에 따라 시계열 상대비율 그래프를 작성하여 상기 표시부에 표시할 수 있다.

본 발명은 소셜네트워크 빅데이터를 분석하여 인간의 도덕 감정을 분석하여 도덕 판단을 통한 행동을 예측할 수 있도록 함으로써, 개개인의 도덕 가치에 기반한 인공지능의 자율적인 도덕 판단을 할 수 있도록 하는 효과가 있다.

좀 더 구체적으로, 인간의 도덕 감정을 분석하여, 서로 상이한 개개인의 도덕 가치를 내재하고 있는 맞춤형 인공지능을 구축할 수 있는 효과가 있다.

도 1은 본 발명의 바람직한 실시예에 따른 딥러닝을 이용한 도덕 판단 유형 예측시스템의 구성도이다.
도 2는 도덕기반 긍부정 출현 분석 결과의 예시도이다.
도 3은 월단위 긍부정 출현 분석 결과 예시도이다.
도 4는 주단위 긍부정 출현 분석 결과 예시도이다.
도 5는 12개의 도덕 판단 유형 각각의 비율을 표시한 그래프의 예시도이다.
도 6은 도덕 기반의 6가지 유형에 대한 분석 결과 그래프이다.
도 7은 월단위 유형 전체 분석의 그래프이다.
도 8은 주단위 유형 전체 분석의 그래프이다.
도 9는 월단위 도덕 기반 6가지 유형 분석의 그래프이다.
도 10은 주단위 도덕 기반의 6가지 유형 분석의 그래프이다.
도 11은 도덕 판단 유형 12유형의 시계열 상대비율 그래프이다.
도 12는 도덕 기반 6유형에 대한 출현 시계열 상대비율 그래프이다.

본 발명의 구성 및 효과를 충분히 이해하기 위하여, 첨부한 도면을 참조하여 본 발명의 바람직한 실시예들을 설명한다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되는 것이 아니라, 여러가지 형태로 구현될 수 있고 다양한 변경을 가할 수 있다. 단지, 본 실시예에 대한 설명은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위하여 제공되는 것이다. 첨부된 도면에서 구성요소는 설명의 편의를 위하여 그 크기를 실제보다 확대하여 도시한 것이며, 각 구성요소의 비율은 과장되거나 축소될 수 있다.

'제1', '제2' 등의 용어는 다양한 구성요소를 설명하는데 사용될 수 있지만, 상기 구성요소는 위 용어에 의해 한정되어서는 안 된다. 위 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 수 있다. 예를 들어, 본 발명의 권리범위를 벗어나지 않으면서 '제1구성요소'는 '제2구성요소'로 명명될 수 있고, 유사하게 '제2구성요소'도 '제1구성요소'로 명명될 수 있다. 또한, 단수의 표현은 문맥상 명백하게 다르게 표현하지 않는 한, 복수의 표현을 포함한다. 본 발명의 실시예에서 사용되는 용어는 다르게 정의되지 않는 한, 해당 기술분야에서 통상의 지식을 가진 자에게 통상적으로 알려진 의미로 해석될 수 있다.

이하에서는, 도면을 참조하여 본 발명의 일실시예에 따른 딥러닝을 이용한 도덕 판단 유형 예측시스템 및 방법에 대하여 상세히 설명한다.

도 1은 본 발명의 바람직한 실시예에 따른 딥러닝을 이용한 도덕 판단 유형 예측시스템의 구성도이다.

도 1을 참조하면 본 발명은, 도덕 판단 장치(100)와, 도덕 판단 장치(100)에서 판단할 텍스트를 제공하는 외부 장치(200)를 포함한다.

도덕 판단 장치(100)는 통상의 서버 컴퓨터 장치일 수 있으며, 규모에 따라 PC, 노트북 등의 컴퓨팅 장치를 사용할 수 있다.

도덕 판단 장치(100)는 프로세서(110)와, 데이터베이스(120), 표시부(130), 입력부(140) 및 통신부(150)를 포함할 수 있다.

프로세서(110)는 통상의 프로세서를 포함하며, 주어진 인공지능학습 프로그램에 따라 도덕 판단 유형을 학습하는 도덕 판단 학습엔진(111)과, 도덕 유형을 판단하는 도덕 유형 판단엔진(112), 도덕 판단 결과를 텍스트 및 그래프로 생성하고 표시부(130)에 표시하는 도덕판단 설명엔진(113)을 포함할 수 있다.

데이터베이스(120)는 텍스트의 유형 분류에 필요한 기준을 저장함과 아울러 외부 장치(200)에서 획득된 텍스트 데이터가 분류 저장될 수 있다.

입력부(140)는 사용자의 개입이 필요한 경우 텍스트 또는 제어명령을 입력할 수 있는 수단으로, 키보드, 마우스 등의 입력수단이 사용될 수 있다.

통신부(150)는 외부 장치(200)와 통신 가능한 모듈이며, 인터넷망을 이용하기 위한 유선 또는 무선의 네트워크 장치일 수 있다.

이와 같은 본 발명의 구성에서 데이터베이스(120)에는 도덕 판단 유형과, 그 도덕 판단 유형들 각각에 관련된 어휘(단어)들이 저장될 수 있다.

도덕 판단 유형은 프로세서(110)에서 학습 및 유형 판단에 사용되는 것으로 한다.

본 발명은 텍스트의 도덕판단 맥락을 기계가 인지하고, 입력 텍스트에 따라 자동으로 도덕 판단 분류와 분류에 따른 해석을 출력할 수 있도록 하는 것으로, 텍스트의 도덕판단 맥락을 규정할 도덕 판단 유형을 아래의 표 1과 같이 열두 유형으로 구분한다.

위의 표 1과 같이 본 발명에서는 도덕 판단은 6개 유형에 대한 대립되는 도덕 판단 쌍을 12개의 도덕 판단 유형으로 한다.

이는 종래의 긍정적, 부정적 등 이분법적인 분류에서 벗어나 사회 구성원들의 감정 분류를 세분화할 수 있다.

구체적으로 돌봄-피해, 공정-불공정, 충성-배신, 권위-불복종, 순수-타락, 자유-억압의 쌍과 같이 고차적 도덕 개념을 포함하는 사회 구성원들의 감정을 분류하고 판단할 수 있다.

위에서 언급한 12개의 유형별로 관련된 어휘(단어)들을 설정할 수 있다.

예를 들어 돌봄 유형의 어휘는 "측은히 여김, 감정 이입, 친절, 돌보는, 관대, 자비심, 애타 주의, 인정 많은, 양육, 상냥함, 공감, 육성, 어머니의, 사랑, 선행, 공감하다, 도움, 사랑하는, 동정, 자비, 양육자, 자비롭게, 돌보는, 공감, 자비로운, 공감하는, 따뜻한, 보호, 관심" 인 것으로 한다.

또한, 피해 유형의 어휘는 "해, 참다, 상처, 다지다, 아프다, 잔인한, 손상을 입히는, 피해, 괴로움, 위협하다, 상처를 입히다, 고통, 해로운, 상처를 입은, 오해, 멸종 위기, 손상, 유해한, 괴롭히다. 충돌하다, 고통, 가하다, 다치다, 취약, 불친절한, 죽임, 죽음" 인 것으로 한다.

공정 유형의 어휘는 "평등, 공평, 정의, 권리, 공명정대, 시민권, 페어플레이, 편견없는, 같은, 비례, 공정한, 평등, 공정한, 청렴, 호혜, 정직, 평등주의자, 시민권, 법, 올바름, 편견없음, 동등, 객관성, 배상, 법률"인 것으로 한다.

부정 유형의 어휘는 "사기, 불공정, 부정 행위, 부당, 부정, 불의, 속이는, 사기꾼, 부정직, 기만, 불의, 사취, 위선, 차별, 불평등, 속이다, 민족적 우월감, 거짓말쟁이, 책략, 편취, 위선자, 치우친, 오해, 편견"으로 한다.

충성 유형의 어휘는 "팀 플레이, 애국자, 충성, 충성스러운, 충의, 수행원, 동맹, 동료, 충절, 동지, 희생, 조직, 팔로워, 우리, 군단, 신하, xd일, 연대, 군대, 민족, 국가, 전우, 소속, 집합"인 것으로 한다.

배신 유형의 어휘는 "배신자, 불충한, 반역, 반역자, 저버리다, 배반, 적, 버림 받음, 배교, 이교, 불충실, 반항, 뒷담화, 바람피다, 부정행위, 간통, 반란, 속임수, 변절, 첩자, 탈영, 추방, 협작, 간첩"인 것으로 한다.

다음으로, 권위 유형의 어휘는 "존경, 복종하다, 권위, 순종, 경외, 존중, 추종, 전통, 준수, 숭배, 명예, 고수, 지시, 귀족, 지배, 순종, 통치, 고착, 공손, 명령, 계명, 인사, 신의 권리, 계층"인 것으로 한다.

권위 유형과 대립 관계의 불복종 유형의 어휘는 "무례, 불순종, 혼돈, 전복, 뒤집다, 무법, 파괴, 반역, 타도, 폭동, 반항, 넘다, 배반, 반대, 불명예, 반항, 실정, 위반, 오해'인 것으로 한다.

다음으로 순수 유형의 어휘는 "신성, 신성한, 청정, 건강한, 정수, 경건한, 존엄, 경건, 성결, 순결, 거룩한, 올바름, 품위, 성화, 영성, 의로운, 종교적인, 영적인, 신"으로 하고, 순수 유형과 대립하는 타락 유형의 어휘는 "불결, 하락, 더럽히다, 신성모독, 역겨운, 부식, 오물, 타락, 죄, 간음, 불경, 혐오, 더러운, 타락한, 불순물, 외설, 모독, 부정, 저주, 방탕, 오염"으로 한다.

다음으로 자유 유형의 어휘는 '개방, 개인, 광복, 의지, 독립, 민주주의, 열린, 이상, 자율, 자주, 주체, 창의, 자발적, 면제, 자치, 해당"으로 한다.

반대로 억압 유형의 어휘는 '억압, 감옥, 구속, 규제, 닫힌, 독재, 박해, 속박, 식민, 종속, 타율, 타의, 탄압, 간섭, 감시, 강요, 강제, 검열, 박탈, 금지, 압제, 통제"인 것으로 한다.

이러한 각 유형의 어휘는 도덕기반사전으로 정의할 수 있으며, 특히 한국 사회의 구성원들의 도덕판단을 위한 맥락 포착에 적합한 것으로 설정한다. 여기서 맥락이란 문화 상대적인 경우가 많기 때문에 본 발명에서는 언어에 나타난 도덕 판단 유형 검토에 활용되는 영문 기반 사전을 사용하지 않고, 한글 도덕기반사전을 구축한다.

위의 도덕 판단 유형의 의미를 정리하면 다음과 같다.

1) 돌봄-피해: 타인의 고통을 느끼고 그를 피하거나 방지, 예방하려는 포유류로서의 오랜 진화과정과 관련이 있으며, 친절, 온유, 양육, 등의 덕목을 산출한다.

2) 공정-부정: 상호이타주의의 진화 과정과 관련이 있으며 정의, 권리 및 자율성 등의 가치를 산출하고 불평등과 관련된 행동을 규제하고 이타적 호혜를 조정하는 역할을 한다. 여기서 ‘공정성’은 ‘평등’(주로 자유주의자들이 고려하는) 개념과 ‘비례적 균등’(주로 보수주의자들이 고려하는) 개념을 모두 포괄한다. 이런 특성은 ‘공정성’과 관련된 항목들이 이념적으로 대립하는 다른 입장들로 완전히 다르게 해석될 수 있다는 점을 암시한다.

3) 충성-배신: 구성원 간의 단결을 위해 만들어진 애국심이나 자기 희생 등의 덕목과 관련이 있으며 인류가 이러한 도덕기반 위에 형성되어왔다는 역사와 관련이 있다.

4) 권위-불복종: 계층에 기반한 사회적 상호작용과 관련한 역사적 기원을 가지고 있으며 합법적 권위에 대한 존중과 전통에 대한 존중, 그리고 리더십과 관련된 덕목의 기초가 된다.

5) 순수-타락: 혐오와 오염에 대한 심리학적 연구들에 기반하여 인정되었으며 물질적 오염이나 깨끗함뿐만 아니라 정신적 순수 및 타락 그리고 종교적 고귀함 등의 속성까지 포함한 덕목이다. 순수-타락 기반은 신체가 오염물질이나 부도덕한 행동에 의해 더럽혀질 수 있다는 생각을 반영한다. 물질적, 사회적, 영적 전염을 회피하려는 목적과 관련이 있으며, 건전함이나 욕망을 적정한 수준에서 통제하여 사회시스템의 지속가능성을 유지하기 위한 영역이다.

6) 자유-억압: 자신을 지배하고 자유를 제한하는 사람들에 대해 느끼는 반응과 분개심에 관한 것으로, 사회체제의 변화와 단결을 가능하게 하는 동기를 부여한다.

또한, 12가지 각 유형에 속하는 어휘(단어)들은 유형에 대한 연상어, 유의어, 반의어 조사를 통해 수집된 것으로 한다.

이처럼 설정된 12가지 유형과, 12가지 유형에 속하는 어휘들의 정보는 데이터베이스(120)에 분류 저장된다. 이때 저장된 어휘들은 입력부(140)를 통해 더 추가되거나, 삭제될 수 있으며, 다른 유형에 속하도록 유형을 변경할 수 있다.

또한, 통신부(150)를 통해 외부 장치(200)들로부터 의미 있는 텍스트 데이터를 확보하여 데이터베이스(120)에 저장할 수 있다.

외부 장치(200)는 SNS 어플리케이션이 설치된 컴퓨팅 장치일 수 있으며, SNS의 텍스트를 수집하여 제공하는 컴퓨팅 장치일 수 있다.

또한, 외부 장치(200)는 다양한 종류의 저장매체일 수 있으며, 각 저장매체에는 SNS, 웹상의 게시판에서 공개된 텍스트 정보를 저장하는 것일 수 있다.

프로세서(110)의 도덕판단 학습엔진(111)은 초기에 학습할 데이터가 필요하며, 이러한 학습 데이터로 사용할 라벨드 데이터를 구축한다.

라벨드 데이터는 특정 문장을 온라인 라벨드 데이터 구축 지원 툴(예를 들어 doccano)을 통해 도덕판단 유형 라벨링 작업을 수행한다.

예를 들어 도덕판단유형에 대한 교육을 받은 다수의 작업자가 다수의 트위터 글을 대상으로 도덕판단유형 라벨링 작업을 수행하고, 그 결과를 라벨드 데이터로 등록한다.

라벨드 데이터의 품질을 향상시키기 위해서, 다수의 작업자에 대한 교육이 필요하며, 교육 내용은 도덕기반 이론에 대한 인지와 도덕 판단 유형 12개, 도덕기반 사전의 단어 숙지, 코로나19 등 특정 주제에 대한 텍스트 데이터의 도덕판단 유형 연습 등이 필요하다.

작업자가 텍스트를 읽고, 12개의 도덕 판단 유형으로 분류하되, 텍스트에 개인 의견이 없는 경우 "개인의견 없음"으로 분류하고, 도덕 판단 유형으로 분류할 수 없는 텍스트의 경우 "윤리모델 해당없음"으로 분류한다.

이처럼 작성된 라벨드 데이터는 데이터베이스(120)에 저장되며, 라벨드 데이터에서 "개인의견 없음", "윤리모델 해당없음"은 제외하고 저장하는 것이 바람직하다.

라벨드 데이터는 앞서 설명한 12개의 도덕 판단 유형 모두에 대한 데이터를 포함해야 한다.

라벨드 데이터의 수가 많을수록 인공지능 학습의 품질은 향상되지만, 학습에 요구되는 시간이 많이 소요된다는 단점이 있으므로, 품질과 학습시간을 고려하여 적당한 라벨드 데이터의 수를 설정할 필요가 있다.

각 도덕 판단 유형에 대한 라벨드 데이터의 수는 1만 내지 5만의 범위에서 결정되는 것이 바람직하다.

위에서는 라벨드 데이터의 생성을 위하여 작업자가 개입하는 것으로 설명하였으나, 도덕판단 학습엔진(111)은 앞서 12개의 도덕 판단 유형 각각에 속하는 단어의 포함여부를 텍스트 데이터에서 확인하고, 그 확인 결과에 따라 라벨드 데이터를 생성할 수 있다.

그 다음, 프로세서(110)의 도덕판단 학습엔진(111)은 라벨드 데이터를 이용하여 학습한다.

머신러닝은 크게 지도학습(Supervised Learning), 비지도학습(Unsupervised Learning), 강화학습(Reinforcement Learning)이 있다. 지도학습은 문제와 그에 대한 해답을 주고 컴퓨터가 그 사이의 규칙을 찾도록 하는 방법으로 크게 분류(classification)와 회귀(regression)가 있다. 비지도학습은 문제만 알려주고, 컴퓨터에서 유사한 것을 군집화하도록 하는 방법이다. 실무에서는 지도학습을 위한 전처리에 응용하기도 한다. 마지막으로 강화학습은 목표를 제시하고 보상 정책을 통해서 규칙을 최적화하는 방법이다. 그 중에서 본 발명의 도덕판단 학습엔진(111)은 지도학습 중에서 분류 방법을 사용한다.

그리고 머신러닝에서 발전한 기술인 딥러닝을 사용하였다. 딥러닝은 머신러닝에서도 존재하던 프로그래머에 의한 규칙 입력을 완전히 배제하고, 인간의 뇌의 뉴런 연결 구조를 모방한 인공신경망을 토대로 컴퓨터가 완전히 홀로 규칙을 찾도록 했다.

본 프로젝트에서는 LSTM(Long Short-Term Memory, 장단기 메모리 모델)을 사용하여 학습한다. LSTM은 자연어와 같이 시계열을 고려하는 RNN(Recurrent Neural Network, 순환 신경망)이 긴 문장에서 유의미한 성능을 발휘하지 못하는 문제를 해결하기 위한 모델이다.

도덕판단 학습엔진(111)에서 사용하는 딥러닝 모델 설계는 아래의 표 2와 같다.

인공지능 학습을 위하여, 도덕 판단 유형 라벨드 데이터를 8:2의 비율로 학습 데이터와 테스트 데이터로 랜덤 분리하여 학습하며, 도덕 판단 유형 라벨드 데이터의 텍스트를 OKT(Open Korean Text)를 통해서 형태소 단위로 분리 및 임베딩 하였다. 그 과정에서 최소 형태소 출현 빈도는 최대한 많은 정보를 담을 수 있도록 1개로 하여서 0.3%의 희귀 단어만을 배제했으며, 패딩 길이는 70으로 하여 99.8% 이상의 텍스트를 온전히 사용할 수 있도록 한다.

이와 같이 도덕판단 학습엔진(111)은 최초 라벨드 데이터를 이용하여 학습하고, 이후에는 외부 장치(200)를 통해 수십된 새로운 텍스트 데이터(문장)들을 입력받아 각 텍스트 데이터들을 12개의 도덕 판단 유형으로 분류한다.

이처럼 분류된 결과는 도덕유형 판단엔진(112)을 통해 분석된다. 도덕유형 판단엔진(112)은 12개의 도덕 판단 유형으로 분류된 텍스트의 수를 확인하여, 텍스트에 나타난 도덕유형을 판단한다.

도덕유형 판단엔진(112)은 프로세서(110)에서 사용하는 프로그램에 의해 정의될 수 있다.

도덕유형 판단엔진(112)은 크게 도덕기반 긍부정 출현 분석과 유형 전체 분석을 수행할 수 있다.

도덕기반 긍부정 출현 분석은, 앞서 설명한 12개의 도덕 판단 유형은 긍정 유형인 "돌봄, 공정, 충성, 권위, 순수, 자유"로 분류된 텍스트의 수와 부정 유형인 "피해, 불공정, 배신, 불복종, 타락, 억압"으로 분류된 텍스트의 수를 비교하여 긍정과 부정의 비를 산출할 수 있다.

이처럼 도덕유형 판단엔진(112)에서 분석된 결과에 대한 설명은 시맨틱 분석을 수행하는 도덕판단 설명엔진(113)을 통해 처리되어 표시부(130)에 표시된다.

도 2에 표시부(130)에 의해 표시되는 도덕기반 긍부정 출현 분석 결과를 도시하였다.

이에 도시한 바와 같이, 긍부정 출현 분석은 구체적인 내용을 알기에는 충분하지 않지만, 긍정과 부정 반응의 비율의 변화를 빠르게 인지하여, 현 상황과, 상황에 대한 대응 등의 정책에 대한 반응을 읽을 수 있기 때문에 신속하게 정책 결정에 활용할 수 있다.

본 발명은 도덕기반의 분석으로, 사회 구성원들의 감정의 발발과 밀접한 연관성이 있으며, 따라서 텍스트를 시기별로 분석할 필요가 있다.

즉, 위의 도덕기반 긍부정 출현 분석은 일단위, 주단위 또는 월단위 등으로 시기별로 분석할 필요가 있다.

따라서 본 발명은, 일단위 긍부정 출현 분석, 주단위 긍부정 출현 분석, 월단위 긍부정 출현 분석이 가능하다.

도 3은 월단위 긍부정 출현 분석 결과, 도 4는 주단위 긍부정 출현 분석 결과를 나타낸다.

도 3과 도 4의 결과는 도덕유형 판단엔진(112)에서 판단된 긍부정 출현 분석 결과를 도덕판단 설명엔진(113)에서 텍스트가 작성된 날짜를 확인하여, 월 또는 주 단위의 긍정과 부정의 비율을 표시할 수 있다.

긍부정 출현 분석은 구체적인 내용을 알기에는 충분하지 않지만, 긍정과 부정 반응의 비율의 변화를 빠르게 인지하여, 현 상황과, 상황에 대한 대응 등의 정책에 대한 반응을 읽을 수 있기 때문에 신속하게 정책 결정에 활용할 수 있다.

또한, 유형 전체 분석은, 12개의 도덕 판단 유형으로 각각 분류된 텍스트의 비를 산출하여 분석한다.

이와 같은 유형 전체 분석은, 도 5에 도시한 바와 같이 12개의 도덕 판단 유형 각각의 비율을 원그래프로 표시부(130)에 표시한 상태의 일예를 나타낸다.

이처럼 각 도덕 판단 유형에 대한 비율을 확인할 수 있으며, 특정한 정책에 대한 사회 구성원들의 도덕 판단을 명확하게 알 수 있게 된다.

유형 전체 분석의 다른 예로서, 12개의 도덕 판단 유형 모두의 비율을 표시하지 않고, 긍정-부정 유형이 짝으로 묶여 있는 도덕 기반의 6가지 유형을 사용할 수 있다.

도 6에는 도덕 기반의 6가지 유형에 대한 분석 결과 그래프를 도시하였다.

도덕 기반의 6가지 유형은 특정 유형의 긍정-부정 쌍을 이용하기 때문에 사회 구성원의 심리적 상태를 쉽게 확인할 수 있게 된다.

앞서 도 5와 도 6에 도시한 그래프 역시 도덕판단 설명엔진(113)을 통해 텍스트 또는 그래프로 시각화되어 표시부(130)에 표시된 것으로 한다.

또한, 유형 전체 분석 또한 시기별로 출력하여 사회 구성원들의 전체적인 도덕 판단 유형의 변화를 쉽게 확인할 수 있다.

도 7은 월단위 유형 전체 분석의 그래프이고, 도 8은 주단위 유형 전체 분석의 그래프이다.

이처럼 본 발명은 시기별로 각 도덕 판단 유형의 변화를 쉽게 확인할 수 있어, 각 시기별 정책 또는 사건에 대한 사회 구성원들의 도덕 판단 유형의 변화를 확인하여, 향후 정책 결정에 적용할 수 있다.

도 9와 도 10은 각각 도덕 기반의 6가지 유형을 월단위, 주단위로 표시한 그래프이다.

위의 시계열적 분석 결과는 수집된 텍스트의 양에 따라 차이가 있을 수 있다.

예를 들어 첫 주에 수집된 텍스트의 양과 그 다음 주에 수집된 텍스트의 양에 차이가 있는 경우 각 도덕 판단 유형의 수에 차이가 있을 수 있다.

본 발명에서는 이러한 문제점을 해결하기 위하여 수집된 텍스트의 양에 대한 상대 비율을 이용하여 조정을 수행한다.

따라서, 본 발명에서는 시계열에 따라 12개의 도덕 판단 유형 또는 도덕 기반의 6개 유형을 표시할 때에, 수집된 텍스트의 양에 따른 편차 발생을 방지할 수 있다.

도 11과 도 12에 각각 도덕 판단 유형 12유형과 도덕 기반 6유형에 대한 출현 시계열 상대비율 그래프를 도시하였다.

도 11과 도 12는 각각 도 7과 도 9를 참조하여 설명한 절대비율 그래프를 각 월 또는 주에 수집된 텍스트의 양에 따라 비율을 조정한 것으로 이해될 수 있다.

이와 같이 본 발명은 도덕 판단 및 윤리적 태도를 이용하여 다양한 사회, 경제 정책의 수립에 필요한 대중의 인식을 이해하고, 그에 적합한 정책을 수립할 수 있다.

또한, 본 발명은 다양한 활용 범위로 확장될 수 있다.

아래의 표 3은 본 발명을 이용하여 고객응대를 수행하는 챗봇에 적용될 수 있음을 나타낸다.

발명(도덕판단유형 예측시스템) 사용 예
입력값	NLP 알고리즘의 분석/자연어 이해	응대 메시지 자동 선택/생성
1.“일년동안 계속 OO 상품을 이용했는데 어떻게 불량품을 배송할 수 있나요?”	- ‘배신’ 유형으로 분석 - 응대 어휘 선택은 ‘배신’의 긍정 쌍인 ‘충성’ 관련 어휘들 중 선택하거나, 유사유형인 공정유형 혹은 권위유형 관련 어휘를 선택	- “즉시 교환드리겠으며, 장기이용자 우대사항으로 사용등급을 높여드리겠습니다.” (‘장기이용자’라는 충성 및 권위 유형의 어휘 사용으로 성향에 맞게 응대)
2. “불량품이 와서 사용을 못하고 있어서 너무 불편하네요.”	-‘피해’ 유형으로 분석 -‘피해’의 긍정 쌍인 배려/돌봄 관련 맥락 어휘를 사용	-“완벽하게 꼼꼼히 재검수해서 새 상품을 당일배송으로 즉시 교환드리겠습니다.” (즉시교환으로 피해경감 및 배려 유형으로 심리전환)

위의 표 3에서는 외부 장치(200)가 고객이 입력한 텍스트를 저장하는 저장매체가 될 수 있으며, 각 텍스트를 학습한 결과에 따라 '배신', '피해' 유형으로 판단하고, 판단된 유형과는 상반된 '충성', '돌봄'의 유형으로 자동 응대를 선택 또는 생성할 수 있다.

또한, 본 발명은 AI의 윤리 편향성 완화 수단으로 사용될 수 있다.

챗봇과 대화하는 상대방이 입력한 텍스트를 분석하여, 피해, 불공정, 배신, 불복종, 타락 및 억압 유형에 속한 단어들이 출현하고, 그 출현 빈도에 대한 제한 기준을 설정하고, 그 기준을 초과하는 경우 자동으로 '위험성 있음'을 출력하도록 설정할 수 있다.

따라서, 인공지능 윤리의 편향 또는 유해성 위반을 감지할 수 있다.

이상에서 본 발명에 따른 실시예들이 설명되었으나, 이는 예시적인 것에 불과하며, 당해 분야에서 통상적 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 범위의 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 다음의 청구범위에 의해서 정해져야 할 것이다.

100:도덕 판단 장치 110:프로세서
111:도덕판단 학습엔진 112:도덕유형 판단엔진
113:도덕판단 설명엔진 120:데이터베이스
130:표시부 140:입력부
150:통신부 200:외부 장치

Claims (10)

1. 돌봄, 피해, 공정, 불공정, 충성, 배신, 권위, 불복종, 순수, 타락, 자유, 억압인 도덕 판단 유형에 각각 포함되는 어휘들과, 라벨드 데이터를 저장하는 데이터베이스;
   외부 장치로부터 텍스트를 입력받는 통신부;
   상기 라벨드 데이터 또는 어휘들을 이용하여 LSTM(Long Short-Term Memory) 모델을 이용하여 학습을 수행하고, 학습결과를 이용하여 상기 외부 장치로부터 입력된 텍스트를 분석하여 상기 도덕 판단 유형으로 분류하는 프로세서를 포함하되,
   상기 프로세서는,
   상기 LSTM 모델을 이용하여 학습을 수행하고, 상기 외부 장치로부터 입력된 텍스트를 다수의 도덕 판단 유형으로 분류하는 도덕판단 학습엔진과,
   상기 도덕판단 학습엔진의 분류 결과에서 다수의 도덕 판단 유형 각각의 수를 산출하는 도덕유형 판단엔진과,
   상기 도덕유형 판단엔진의 산출 결과를 시맨틱 분석을 통해서 설정된 프로그램에 따라 텍스트 또는 그래프로 처리하여 표시부에 표시하는 도덕판단 설명엔진을 포함하되,
   상기 도덕판단 학습엔진은, 텍스트 데이터에서 도덕 판단 유형으로 분류하는 맥락인지를 확인하여 다수의 도덕판단 유형 중 1개 이상의 유형의 상기 라벨드 데이터로 정하여 상기 데이터베이스에 저장하고,
   상기 도덕유형 판단엔진은, 상기 도덕 판단 유형 전체에 대한 유형을 파악하는 유형 전체 분석을 수행하거나, 도덕 판단 유형만을 확인하는 유형 분석을 수행하여 신속성을 향상시켜,
   챗봇과 대화하는 상대방이 입력한 텍스트를 분석하여, 특정유형으로 분류되는 텍스트가 있을 경우 관련한 유형에 대한 대응을 출력하는 것을 특징으로 하는 도덕 판단 유형 예측시스템.
2. 삭제
3. 삭제
4. 제1항에 있어서,
   상기 도덕판단 설명엔진은,
   상기 도덕유형 판단엔진의 유형 전체 분석결과 또는 긍부정 출현 분석결과를 시맨틱 분석 프로세스를 통해서, 텍스트 또는 그래프로 표시하되, 수집된 텍스트의 작성일을 기준으로 시계열적으로 표시하는 것을 특징으로 하는 도덕 판단 유형 예측시스템.
5. 제4항에 있어서,
   상기 도덕판단 설명엔진은,
   수집된 상기 텍스트의 기간별 수집량에 따라 시계열 상대비율 그래프를 작성하여 상기 표시부에 표시하는 것을 특징으로 하는 도덕 판단 유형 예측시스템.
   
   
6. 삭제
7. 삭제
8. 삭제
9. 삭제
10. 삭제

Images