KR102604242B1 - 외부 모델과 연동하는 생성형 인공지능을 포함하는k-gpt 솔루션 기반의 전자 장치 및 시스템 - Google Patents

외부 모델과 연동하는 생성형 인공지능을 포함하는k-gpt 솔루션 기반의 전자 장치 및 시스템 Download PDF

Info

Publication number
KR102604242B1
KR102604242B1 KR1020230082455A KR20230082455A KR102604242B1 KR 102604242 B1 KR102604242 B1 KR 102604242B1 KR 1020230082455 A KR1020230082455 A KR 1020230082455A KR 20230082455 A KR20230082455 A KR 20230082455A KR 102604242 B1 KR102604242 B1 KR 102604242B1
Authority
KR
South Korea
Prior art keywords
artificial intelligence
response
intelligence model
electronic device
query
Prior art date
Application number
KR1020230082455A
Other languages
English (en)
Inventor
유승재
Original Assignee
(주)페르소나에이아이
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)페르소나에이아이 filed Critical (주)페르소나에이아이
Application granted granted Critical
Publication of KR102604242B1 publication Critical patent/KR102604242B1/ko

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • G06F16/3329Natural language query formulation or dialogue systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/3332Query translation
    • G06F16/3334Selection or weighting of terms from queries, including natural language queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/3349Reuse of stored results of previous queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/338Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management

Abstract

전자 장치가 개시된다. 본 전자 장치는, 질의-응답을 수행하기 위한 제1 인공지능 모델을 포함하는 메모리, 질의-응답을 수행하기 위한 제2 인공지능 모델을 포함하는 외부 전자 장치와 통신을 수행하기 위한 통신부, 제1 인공지능 모델 및 제2 인공지능 모델 중 적어도 하나를 통해 사용자의 질의에 대한 응답을 제공하는 프로세서를 포함한다.

Description

외부 모델과 연동하는 생성형 인공지능을 포함하는 K-GPT 솔루션 기반의 전자 장치 및 시스템 { K-GPT SOLUTION BASED ELECTRONIC APPARATUS INCLUDING GENERATIVE ARTIFICIAL INTELLIGENCE LINKED WITH EXTERNAL MODEL, AND SYSTEM }
본 개시는 전자 장치에 관한 것으로, 보다 상세하게는, 자체 구비된 챗봇 및 외부의 챗봇을 모두 활용하여 다양한 업무와 기능을 제공하는 전자 장치에 관한 것이다.
최근 Chat-GPT를 필두로 하는 다양한 Generative AI가 개발되어 서비스되고 있다. 특히, 사용자와의 대화 형식으로 다양한 정보를 제공하거나 업무를 수행하는 챗봇 등의 인공지능 모델은, 사용자와의 직접적인 의사소통이 가능하다는 점에서 큰 장점이 있다.
다만, 기존의 챗봇 등의 인공지능 모델은 대규모의 데이터베이스를 바탕으로 훈련된 이후 많은 수의 사용자들을 대상으로 공통적으로 활용되는 경우가 대부분이기 때문에, 개인적인 정보나 업무에 대해 특화되기는 어렵다는 아쉬움이 있었다.
반대로, 개인이 보유한 정보/데이터만을 바탕으로 인공지능 모델을 훈련시키는 경우, 인공지능 모델의 문제 해결 능력을 보편적인 방향으로 유의미하게 향상시키기 어렵다는 문제가 있으며, 다루는 정보의 범위가 너무 좁다는 점에서도 단점이 있다.
본 개시는 외부 전자 장치에 저장된 인공지능 모델을 이용하면서도, 자체 저장된 인공지능 모델에 대하여 민감한 정보 내지는 특화된 업무를 바탕으로 학습을 진행하고, 이를 통해 내부 및 외부의 인공지능 모델을 각각 상호보완적으로 활용하여 적절한 응답 및 업무 결과를 제공할 수 있는 전자 장치를 제공한다.
특히, 본 개시는 내부 및 외부의 인공지능 모델을 활용하여 사용자 개인 또는 사용자가 소속된 단체/기관에 매우 적합한 응답/업무를 제공하면서도 보안 면에서 취약하지 않은 전자 장치를 제공한다.
본 개시의 목적들은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 본 개시의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있고, 본 개시의 실시 예에 의해 보다 분명하게 이해될 것이다. 또한, 본 개시의 목적 및 장점들은 특허 청구 범위에 나타낸 수단 및 그 조합에 의해 실현될 수 있음을 쉽게 알 수 있을 것이다.
본 개시의 일 실시 예에 따른 전자 장치는, 질의-응답을 수행하기 위한 제1 인공지능 모델을 포함하는 메모리, 질의-응답을 수행하기 위한 제2 인공지능 모델을 포함하는 외부 전자 장치와 통신을 수행하기 위한 통신부, 상기 제1 인공지능 모델 및 상기 제2 인공지능 모델 중 적어도 하나를 통해 사용자의 질의에 대한 응답을 제공하는 프로세서를 포함한다. 상기 프로세서는, 적어도 하나의 문서에 대한 사용자의 질의가 획득되면, 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하고, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하고, 상기 업데이트된 질의를 바탕으로 상기 제2 인공지능 모델의 응답을 획득한다.
상기 프로세서는, 상기 문서에 대한 상기 제1 인공지능 모델의 의미론적 분석을 바탕으로 상기 문서의 카테고리를 분류하고, 상기 분류된 카테고리를 바탕으로, 상기 전자 장치와 연동되는 지식 베이스 내에 상기 문서를 저장할 수 있다.
이 경우, 상기 프로세서는, 상기 지식 베이스 내에서 상기 문서와 동일한 카테고리에 포함된 적어도 하나의 대상 문서를 바탕으로, 상기 사용자의 질의에 대한 상기 제1 인공지능 모델의 응답을 획득할 수 있다.
또한, 상기 프로세서는, 상기 사용자의 질의에 포함된 적어도 하나의 키워드를 식별하고, 상기 지식 베이스 내에서 상기 문서와 동일한 카테고리에 포함된 복수의 문서를 식별하고, 상기 복수의 문서 중 상기 키워드와 관련된 적어도 하나의 대상 문서를 선택하고, 상기 선택된 대상 문서를 바탕으로 상기 사용자의 질의에 대한 상기 제1 인공지능 모델의 응답을 획득할 수도 있다.
한편, 상기 프로세서는, 상기 질의를 업데이트하는 과정에서, 상기 사용자의 질의 및 상기 제1 인공지능 모델의 응답 중 적어도 하나에 포함된 개인 정보를 예시 정보로 대체할 수 있다.
또한, 상기 프로세서는, 상기 질의와 관련된 제1 문서 및 상기 제1 인공지능 모델의 응답과 관련된 제2 문서 중 적어도 하나에 일정 등급 이상의 보안 등급이 설정된 경우, 상기 제1 인공지능 모델의 응답에 포함된 보안 정보를 식별하고, 상기 질의를 업데이트하는 과정에서, 상기 사용자의 질의 및 상기 제1 인공지능 모델 중 적어도 하나에 포함된 보안 정보를 예시 정보로 대체할 수도 있다.
상기 인공지능 모델은, RNN(Recurrent Neural Network) 모델을 포함하는 엔진, 자연어 생성 엔진, 자연어 처리 엔진, 자연어 이해 엔진, 및 대화 엔진 중 적어도 하나를 포함할 수 있다. 그리고, 상기 프로세서는, 상기 문서를 바탕으로 상기 인공지능 모델을 구성하는 적어도 하나의 엔진을 훈련시킬 수 있다.
상기 프로세서는, 상기 사용자의 질의에 따라 요청된 적어도 하나의 업무를 식별하고, 상기 식별된 업무가 기설정된 제1 업무에 포함되는 경우, 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하고, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하고, 상기 업데이트된 질의를 바탕으로 상기 제2 인공지능 모델의 응답을 획득하여 제공하고, 상기 식별된 업무가 기설정된 제2 업무에 포함되는 경우, 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하여 제공할 수 있다.
여기서, 상기 식별된 업무가 상기 제2 업무에 포함된 결과 상기 제1 인공지능 모델의 응답이 첫번째 응답으로 제공된 이후, 추가적인 응답을 요청하는 사용자 입력이 수신되면, 상기 프로세서는, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하고, 상기 업데이트된 질의를 바탕으로 상기 제2 인공지능 모델의 응답을 획득하여 두번째 응답으로 제공할 수 있다. 그리고, 상기 두번째 응답이 제공된 경우, 상기 프로세서는 상기 두번째 응답에 포함되지만 상기 첫번째 응답에 포함되지 않는 추가 정보가 존재하는지 여부를 식별하고, 상기 추가 정보가 존재하는 경우, 상기 식별된 업무가 상기 제2 업무가 아닌 상기 제1 업무에 포함되도록 상기 제1 업무 및 상기 제2 업무를 업데이트하고, 상기 추가 정보가 존재하지 않는 경우, 상기 두번째 응답을 바탕으로 상기 제1 인공지능 모델을 훈련시킬 수 있다.
본 개시의 일 실시 예에 따라 질의-응답을 수행하기 위한 제1 인공지능 모델을 포함하는 전자 장치의 제어 방법은, 적어도 하나의 문서에 대한 사용자의 질의가 획득되면, 상기 전자 장치가 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하는 단계, 상기 전자 장치가, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하는 단계, 상기 전자 장치가, 상기 업데이트된 질의를 바탕으로, 외부 전자 장치에 저장되어 질의-응답을 수행하는 제2 인공지능 모델의 응답을 획득하는 단계를 포함한다.
본 개시에 따른 전자 장치 및 제어 방법은, 내부의 인공지능 모델 및 외부의 인공지능 모델을 선택적으로 활용하여 사용자를 위한 개인적인 문서 또는 보안 문서 등에 특화된 응답을 제공하면서도 동시에 보편적이고 유용한 넓은 범위의 응답/업무도 제공할 수 있다.
도 1a는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 설명하기 위한 블록도,
도 1b는 본 개시의 일 실시 예에 따라 내부 및 외부의 인공지능 모델을 이용하여 응답을 제공하는 전자 장치의 동작을 설명하기 위한 블록도,
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 동작을 설명하기 위한 흐름도,
도 3은 본 개시의 일 실시 예에 따라 자체 저장된 인공지능 모델 및 외부의 인공지능 모델을 이용하는 전자 장치의 기능적 구성을 설명하기 위한 블록도,
도 4는 본 개시의 일 실시 예에 따른 전자 장치가 요청된 업무의 종류에 따라 인공지능 모델을 선택적으로 활용하는 동작을 설명하기 위한 알고리즘,
도 5a 내지 도 5b는 본 개시의 일 실시 예에 따른 전자 장치가 사용자의 질의와 함께 문서를 입력 받고 질의에 대한 하나 이상의 응답을 제공하는 모습을 도시한 도면들, 그리고
도 6은 본 개시의 다양한 실시 예에 따른 전자 장치의 구성을 설명하기 위한 블록도이다.
본 개시에 대하여 구체적으로 설명하기에 앞서, 본 명세서 및 도면의 기재 방법에 대하여 설명한다.
먼저, 본 명세서 및 청구범위에서 사용되는 용어는 본 개시의 다양한 실시 예들에서의 기능을 고려하여 일반적인 용어들을 선택하였다. 하지만, 이러한 용어들은 당해 기술 분야에 종사하는 기술자의 의도나 법률적 또는 기술적 해석 및 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 일부 용어는 출원인이 임의로 선정한 용어도 있다. 이러한 용어에 대해서는 본 명세서에서 정의된 의미로 해석될 수 있으며, 구체적인 용어 정의가 없으면 본 명세서의 전반적인 내용 및 당해 기술 분야의 통상적인 기술 상식을 토대로 해석될 수도 있다.
또한, 본 명세서에 첨부된 각 도면에 기재된 동일한 참조번호 또는 부호는 실질적으로 동일한 기능을 수행하는 부품 또는 구성요소를 나타낸다. 설명 및 이해의 편의를 위해서 서로 다른 실시 예들에서도 동일한 참조번호 또는 부호를 사용하여 설명한다. 즉, 복수의 도면에서 동일한 참조 번호를 가지는 구성요소를 모두 도시되어 있다고 하더라도, 복수의 도면들이 하나의 실시 예를 의미하는 것은 아니다.
또한, 본 명세서 및 청구범위에서는 구성요소들 간의 구별을 위하여 "제1", "제2" 등과 같이 서수를 포함하는 용어가 사용될 수 있다. 이러한 서수는 동일 또는 유사한 구성요소들을 서로 구별하기 위하여 사용하는 것이며 이러한 서수 사용으로 인하여 용어의 의미가 한정 해석되어서는 안 된다. 일 예로, 이러한 서수와 결합된 구성요소는 그 숫자에 의해 사용 순서나 배치 순서 등이 제한되어서는 안 된다. 필요에 따라서는, 각 서수들은 서로 교체되어 사용될 수도 있다.
본 명세서에서 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시의 실시 예에서 "모듈", "유닛", "부(part)" 등과 같은 용어는 적어도 하나의 기능이나 동작을 수행하는 구성요소를 지칭하기 위한 용어이며, 이러한 구성요소는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈", "유닛", "부(part)" 등은 각각이 개별적인 특정한 하드웨어로 구현될 필요가 있는 경우를 제외하고는, 적어도 하나의 모듈이나 칩으로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.
또한, 본 개시의 실시 예에서, 어떤 부분이 다른 부분과 연결되어 있다고 할 때, 이는 직접적인 연결뿐 아니라, 다른 매체를 통한 간접적인 연결의 경우도 포함한다. 또한, 어떤 부분이 어떤 구성요소를 포함한다는 의미는, 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
도 1a는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 설명하기 위한 블록도이다. 도 1a를 참조하면, 전자 장치(100)는 메모리(110), 통신부(120), 프로세서(130)를 포함한다.
전자 장치(100)는 하나 이상의 컴퓨터를 포함하는 서버로 구현될 수도 있고, 스마트폰, 태블릿 PC, 데스크탑 PC 등으로 구현될 수도 있다.
메모리(110)는 전자 장치(100)의 구성요소들의 전반적인 동작을 제어하기 위한 운영체제(OS: Operating System) 및 전자 장치(100)의 구성요소와 관련된 적어도 하나의 인스트럭션 또는 데이터를 저장하기 위한 구성이다.
메모리(110)는 ROM, 플래시 메모리 등의 비휘발성 메모리를 포함할 수 있으며, DRAM 등으로 구성된 휘발성 메모리를 포함할 수 있다. 또한, 메모리(110)는 하드 디스크, SSD(Solid state drive) 등을 포함할 수도 있다.
통신부(120)는 전자 장치(100)가 다양한 외부 전자 장치와 통신을 수행하기 위한 구성이다. 예를 들어, 전자 장치(100)는 통신부(110)를 통해 하나 이상의 센서 장치, 게이트웨이 등과 통신을 수행할 수 있다. 전자 장치(100)가 서버인 경우, 전자 장치(100)는 다양한 사용자의 사용자 단말과 통신을 수행할 수 있으며, 사용자 단말을 통해 서비스와 관련된 다양한 UI/UX를 제공할 수 있다.
통신부(120)는 다양한 유무선 통신방식으로 적어도 하나의 외부 장치와 통신을 수행하기 위한 회로, 모듈, 칩 등을 포함할 수 있다. 통신부(130)는 다양한 네트워크를 통해 외부 장치와 연결될 수 있다.
네트워크는 영역 또는 규모에 따라 개인 통신망(PAN; Personal Area Network), 근거리 통신망(LAN; Local Area Network), 광역 통신망(WAN; Wide Area Network) 등일 수 있으며, 네트워크의 개방성에 따라 인트라넷(Intranet), 엑스트라넷(Extranet), 또는 인터넷(Internet) 등일 수 있다.
통신부(120)는 LTE(long-term evolution), LTE-A(LTE Advance), 5G(5th Generation) 이동통신, CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), GSM(Global System for Mobile Communications), DMA(Time Division Multiple Access), WiFi(Wi-Fi), WiFi Direct, Bluetooth, BLE(Bluetooth Low Energy), NFC(near field communication), Zigbee, LoRa 등 다양한 무선 통신 방식을 통해 외부 장치들과 연결될 수 있다.
또한, 통신부(120)는 이더넷(Ethernet), 광 네트워크(optical network), USB(Universal Serial Bus), 선더볼트(ThunderBolt) 등의 유선 통신 방식을 통해 외부 장치들과 연결될 수도 있다.
이 밖에도, 통신부(120)는 향후 새롭게 고안되는 다양한 통신 방식/기술을 활용한 구성일 수 있다.
프로세서(130)는 전자 장치(100)를 전반적으로 제어하기 위한 구성이다. 구체적으로, 프로세서(130)는 메모리(110)와 연결되는 한편 메모리(110)에 저장된 적어도 하나의 인스트럭션을 실행함으로써 본 개시의 다양한 실시 예들에 따른 동작을 수행할 수 있다.
프로세서(130)는 CPU, AP, DSP(Digital Signal Processor) 등과 같은 범용 프로세서, GPU, VPU(Vision Processing Unit) 등과 같은 그래픽 전용 프로세서 또는 NPU와 같은 인공지능 전용 프로세서 등을 포함할 수 있다. 인공지능 전용 프로세서는, 특정 인공지능 모델의 훈련 내지는 이용에 특화된 하드웨어 구조로 설계될 수 있다.
도 1b는 본 개시의 일 실시 예에 따라 내부 및 외부의 인공지능 모델을 이용하여 응답을 제공하는 전자 장치의 동작을 설명하기 위한 블록도이다.
도 1b를 참조하면, 전자 장치(100)는 질의-응답을 수행하기 위한 제1 인공지능 모델(111)을 포함할 수 있다.
인공지능 모델(111)은 자연어 처리 및 대화 진행을 위한 다양한 엔진(ex. DNN/RNN Engine, NLG, NLU, Dialog Engine, 형태소 분석 엔진, 개체 분석 엔진, 의미 분석 엔진, 화행 분석 엔진, 연관어/유사어 분석 엔진, 사용자 정의 사전 등)을 포함할 수 있다. 인공지능 모델(111)은 대화 등과 관련된 생성형 모델(ex. Generative Pre-trained Transformer)을 포함할 수 있다. 본 개시에 따른 제1 인공지능 모델(111)은 'K-GPT'로 지칭될 수 있으며, 사용자와 대화를 수행하는 챗봇의 개념으로 의사소통을 진행할 수 있다.
인공지능 모델(111)은 데이터 형태로 전자 장치(100)의 메모리(110)에 저장될 수 있으나, 적어도 일부가 프로세서(130)의 제어를 받는 하드웨어로 구현되는 것도 가능하다.
도 1b를 참조하면, 전자 장치(100)는 통신부(120)를 통해 적어도 하나의 외부 전자 장치(200)와 통신을 수행할 수 있다. 외부 전자 장치(200)는 적어도 하나의 서버 또는 단말 기기에 해당할 수 있다. 예를 들어, 외부 전자 장치(200)는 특정한 단체나 기관만을 위한 것이 아니라 범용성 내지 공공성을 가지는 종합 솔루션을 제공하기 위한 GPT 모델에 해당하는 제2 인공지능 모델(211)을 포함할 수 있다.
전자 장치(100)는 외부 전자 장치(200)에 저장되어 질의-응답을 수행하기 위한 제2 인공지능 모델(211)과 통신을 수행할 수 있다.
제2 인공지능 모델(211) 역시 자연어 처리 및 대화 진행을 위한 다양한 엔진(ex. DNN/RNN Engine, NLG, NLU, Dialog Engine, 형태소 분석 엔진, 개체 분석 엔진, 의미 분석 엔진, 화행 분석 엔진, 연관어/유사어 분석 엔진, 사용자 정의 사전 등), 생성형 모델 등을 포함할 수 있으며, 챗봇 내지 GPT 모델에 해당할 수 있다.
이렇듯, 내부의 제1 인공지능 모델(111) 및 외부의 제2 인공지능 모델(211)과 모두 연동될 수 있는 전자 장치(100)는, 제1 및 제2 인공지능 모델 중 적어도 하나를 통해 사용자의 질의에 대한 응답을 제공할 수 있다.
관련하여, 도 2는 본 개시의 일 실시 예에 따른 전자 장치의 동작을 설명하기 위한 흐름도이다.
도 2를 참조하면, 전자 장치(100)는 적어도 하나의 문서에 대한 사용자의 질의를 획득할 수 있다(S210).
전자 장치(100)는 기저장된 적어도 하나의 문서를 선택하는 사용자 입력에 따라 문서를 특정할 수 있다. 또는, 전자 장치(100)는 문서를 입력 받기 위한 UI(User Interface)를 제공할 수 있으며, 해당 UI 상에서 사용자 입력에 따라 적어도 하나의 문서가 선택되어 업로드 될 수 있다.
질의는 문서와 관련된 다양한 질문 내지 요청을 포함할 수 있다. 여기서, 질의는 단순한 질문일 수도 있으나, 특정한 업무(ex. 데이터 정리, 스케쥴 정리, 문서 열람, 문서 발췌, 요약, 검색 등)에 대한 요청을 포함할 수도 있다.
질의는 음성이나 텍스트의 형태로 입력될 수도 있고, 적어도 하나의 메뉴(ex. 데이터 정리, 스케쥴 정리, 문서 열람)에 대한 선택의 형태로 입력될 수도 있다.
한편, 전자 장치(100)는 질의에 대한 제1 인공지능 모델(111)의 응답을 획득할 수 있다(S220). 제1 인공지능 모델(111)은 텍스트 또는 음성의 형태로 응답을 제공할 수 있다.
구체적으로, 전자 장치(100)는 문서에 대한 제1 인공지능 모델(111)의 의미론적 분석을 바탕으로 (질의와 관련된) 문서의 카테고리를 분류할 수 있다. 이때, 문서에 포함된 각 키워드가 변환된 벡터를 바탕으로 각 키워드와 카테고리 간의 연관도가 정의될 수 있으며, 각 키워드와 카테고리 간의 연관도를 바탕으로 문서의 카테고리가 선택될 수 있다.
카테고리는, 전자 장치(100) 내지 제1 인공지능 모델(111)의 목적 내지 기능에 따라 다양하게 설정될 수 있다. 구체적으로, 전자 장치(100) 내지 제1 인공지능 모델(111)이 활용되는 단체, 기관 등의 성질에 따라 카테고리가 설정될 수 있다. 예를 들어, 카테고리는 공문서, 사문서, 보고서, 기사, 논문, 도서, 일반 문서, 보안 문서 등 다양하게 구분될 수 있다.
또는, 카테고리는 특정한 분야(ex. 공공분야) 내에서 상세하게 구분될 수도 있다. 예를 들어, 카테고리는 세금, 교육행정, 치안, 보건의료, 부동산, 도로교통, 취약계층 모니터링, 산업고용 등을 포함할 수 있으나, 이에 한정되지 않는다.
전자 장치(100)는 분류된 카테고리를 바탕으로 전자 장치(100)와 연동되는 지식 베이스 내에 문서를 저장할 수 있다. 즉, 각 카테고리에 매칭되는 문서가 저장될 수 있다. 지식 베이스는 전자 장치(100)에 포함된 것일 수도 있고, 전자 장치(100)와 통신 연결된 적어도 하나의 데이터 베이스에 포함될 수도 있다.
일 실시 예로, 전자 장치(100)는 입력된 질의와 관련된 문서와 동일한 카테고리에 포함된 적어도 하나의 대상 문서를 바탕으로 사용자의 질의에 대한 제1 인공지능 모델(111)의 응답을 획득할 수 있다. 예를 들어, 교육행정 카테고리에 해당하는 문서와 함께 질의가 입력된 경우, 전자 장치(100)는 교육행정 카테고리에 속한 복수의 문서 중 질의와 관련된 적어도 하나의 대상 문서를 활용하여 응답을 제공할 수 있다.
구체적으로, 전자 장치(100)는 사용자의 질의에 포함된 적어도 하나의 키워드를 식별하고, 지식 베이스 내에서 문서와 동일한 카테고리에 포함된 복수의 문서를 식별할 수 있다. 여기서, 전자 장치(100)는 복수의 문서 중 식별된 키워드와 관련된 적어도 하나의 대상 문서를 선택할 수 있으며, 선택된 대상 문서를 바탕으로 사용자의 질의에 대한 제1 인공지능 모델(111)의 응답을 획득할 수 있다.
한편, 전자 장치(100)는 제1 인공지능 모델(111)의 응답을 최종 응답을 제공할 수도 있지만, 제1 인공지능 모델(111) 및 제2 인공지능 모델(211)을 모두 활용하여 응답을 제공할 수도 있다.
구체적으로, 전자 장치(100)는 질의에 대한 제1 인공지능 모델(111)의 응답을 바탕으로 질의를 업데이트할 수 있다(S230). 그리고, 전자 장치(100)는 업데이트된 질의를 바탕으로 제2 인공지능 모델(211)의 응답을 획득할 수 있다(S240).
관련하여, 도 3은 본 개시의 일 실시 예에 따라 자체 저장된 인공지능 모델 및 외부의 인공지능 모델을 이용하는 전자 장치의 기능적 구성을 설명하기 위한 블록도이다.
도 3을 참조하면, 전자 장치(100)는 제1 인공지능 모델(111)을 구성하는 다양한 엔진을 포함할 수 있다. 구체적으로, 제1 인공지능 모델(111)은 DNN/RNN 엔진, 자연어 생성 엔진(NLG), 자연어 이해 엔진(NLU), 자연어 처리 엔진(NLP), 대화용 엔진 등을 포함할 수 있으나 이에 한정되지 않는다.
도 3을 참조하면, 전자 장치(100)는 제1 인공지능 모델(111)의 관리(management)를 위한 다양한 엔진/모듈을 포함할 수 있다. 구체적으로, 전자 장치(100)는 제1 인공지능 모델(111)로 특정되는 챗봇을 관리하기 위한 챗봇 관리, 로그 관리, 학습 이력 관리, 송수신 대화 이력 관리, 분석/통계/report 생성, 백업/복원, 테스트 관리, 모니터링, 일괄테스트 등의 기능을 수행할 수 있다.
전자 장치(100)는 다양한 카테고리(ex. 카테고리 1 내지 8) 각각에 대해 문서가 저장된 지식베이스와 연동될 수 있으며, 지식베이스는 제1 인공지능 모델(111)의 학습 과정 및/또는 응답 생성 과정에 활용될 수 있다.
특히, 제1 인공지능 모델(111)은 사용자 입력에 따라 업로드 된 문서 및 사용자와의 대화 내용을 바탕으로 훈련되어 다양한 질의에 응답하거나 업무를 수행할 수 있다. 구체적으로, 전자 장치(100)는 업로드 되는 다양한 문서를 바탕으로 제1 인공지능 모델(111)을 구성하는 각 엔진을 훈련시킬 수 있다.
도 3을 참조하면, 전자 장치(100)는 챗봇과의 의사소통의 형태로 제공되는 UI를 통해 사용자의 질의를 획득할 수 있다. 예를 들어, 질의가 음성(오디오 신호)으로 입력된 경우, 제1 인공지능 모델(111)은 음성이 변환된 텍스트에 대한 자연어 이해를 수행하여 응답을 생성할 수 있다.
이 경우, 전자 장치(100)는 제1 인공지능 모델(111)이 생성한 응답을 바탕으로 사용자의 질의를 더욱 업데이트할 수 있다. 예를 들어, “교육행정의 파트 별로 어떻게 예산을 분배하면 좋을까?”라는 질의가 획득된 경우를 가정한다. 이 경우, 제1 인공지능 모델(111)은 지식베이스 내 관련 카테고리(ex. 교육행정) 내의 문서들을 바탕으로 관련된 정보를 수집할 수 있다. 그 결과, 제1 인공지능 모델(111)은 지식베이스 내 문서의 내용을 바탕으로 “교육 행정은 국가직, 지방직으로 구분되며 전체 예산은 OOO원입니다”와 같은 응답을 제공할 수 있다. 또한, 제1 인공지능 모델(111)은 과거 연도별 예산의 배분 이력에 대한 정보를 추가적인 응답으로 함께 제공할 수 있다.
이때, 전자 장치(100)는 기존의 질의에 제1 인공지능 모델(111)의 응답을 추가하여 질의를 업데이트할 수 있으며, 업데이트된 질의를 외부 전자 장치(200)로 전송하여 제2 인공지능 모델(211)의 응답을 획득할 수 있다.
한편, 질의를 업데이트하는 과정에서, 전자 장치(100)는 사용자의 질의 및 제1 인공지능 모델(111)의 응답 중 적어도 하나에 포함된 개인 정보 또는 민감 정보를 예시 정보로 대체할 수 있다. 개인 정보는 개인의 식별 정보, 암호, 내지 프라이버시 등과 관련된 다양한 정보를 의미하며, 예를 들어 이름, 주민번호, 근로 이력, 병력 등을 포함할 수 있으나 이에 한정되지 않는다. 민감 정보는, 전자 장치(100)가 운영되는 단체 또는 기관 내에서 비밀성을 부여하였거나 공개되어서는 안되는 정보를 의미할 수 있으며, 보안이 필요한 기밀 정보, 미공개 정보, 특정인이나 특정 상황에만 공개되는 정보 등에 해당할 수 있다.
한편, 질의와 관련된 적어도 하나의 문서에 보안 등급이 설정될 수 있다. 예를 들어, 사용자의 질의의 대상이 되는 문서, 및/또는 제1 인공지능 모델(111)의 응답 과정에서 활용된 문서 중 적어도 하나에 일정 등급 이상의 보안 등급이 설정된 경우를 가정한다. 이 경우, 전자 장치(100)는 제1 인공지능 모델의 응답에 포함된 보안 정보를 식별할 수 있으며, 질의를 업데이트하는 과정에서, 사용자의 질의 및 제1 인공지능 모델(111)의 응답 중 적어도 하나에 포함된 보안 정보를 예시 정보로 대체할 수 있다.
그 결과, 내부적인 정보만을 취급하지 않고 범용성 내지 공공성을 가지는 외부 전자 장치(211)로 개인 정보나 보안 정보가 유출되는 상황이 방지될 수 있다.
한편, 본 개시의 일 실시 예에 따른 전자 장치(100)는 사용자의 질의에 따라 요청된 업무의 종류에 따라 제1 인공지능 모델(111) 및 제2 인공지능 모델(211)을 선택적으로 활용할 수 있다.
관련하여, 도 4는 본 개시의 일 실시 예에 따른 전자 장치가 요청된 업무의 종류에 따라 인공지능 모델을 선택적으로 활용하는 동작을 설명하기 위한 알고리즘이다.
도 4를 참조하면, 전자 장치(100)는 적어도 하나의 문서에 대한 사용자의 질의를 획득할 수 있으며(S410), 질의에 따라 요청된 업무의 종류를 식별할 수 있다(S420).
업무의 종류는, 예를 들어 제1 인공지능 모델(111) 및 제2 인공지능 모델(211)이 모두 필요한 제1 업무와, 제1 인공지능 모델(111)이 단독으로 해결할 수 있는 제2 업무로 구분될 수 있다. 여기서, 제1 업무와 제2 업무의 구분은 다양한 방식으로 설정될 수 있다. 예를 들어, 제1 업무는 외부 검색, 전문 지식에 대한 응답, 상식에 대한 응답, 코딩, 데이터 정리와 문서 생성 등을 포함하고, 제2 업무는 내부 검색, 내부 지식에 대한 응답, 스케줄 정리 등을 포함할 수 있으나 이에 한정되지 않는다.
요청된 업무가 기설정된 제1 업무에 포함되는 경우(S420 - Y), 전자 장치(100)는 질의에 대한 제1 인공지능 모델(111)의 응답을 획득할 수 있다(S430). 이때, 전자 장치(100)는 제1 인공지능 모델(111)의 응답에 따라 질의를 업데이트할 수 있으며(S440), 업데이트 된 질의에 대한 제2 인공지능 모델(211)의 응답을 획득(S450)하여 최종적으로 응답을 제공할 수 있다(S460).
반면, 요청된 업무가 기설정된 제1 업무에 포함되지 않는 경우(S420 - N), 전자 장치(100)는 질의에 대한 제1 인공지능 모델(111)의 응답을 획득(S430')하고 곧바로 최종 응답으로 제공할 수 있다(S460).
한편 일 실시 예로, 식별된 업무가 제2 업무에 포함된 결과 제1 인공지능 모델의 응답이 첫번째 응답으로 제공된 이후(ex. S430' -> S460), 추가적인 응답을 요청하는 사용자 입력이 수신될 수 있다. 예를 들어, 응답의 내용이 부족하거나 질의에 맞지 않은 결과 추가 응답이 요청될 수 있다.
이 경우, 전자 장치(100)는 상술한 S430 내지 S460 과정을 수행할 수 있다. 구체적으로, 전자 장치(100)는 제1 인공지능 모델의 응답을 바탕으로 질의를 업데이트하고, 업데이트된 질의를 바탕으로 제2 인공지능 모델의 응답을 획득하여 두번째 응답으로 제공할 수 있다.
이렇듯 두번째 응답이 제공된 경우, 전자 장치(100)는 두번째 응답에 포함되지만 첫번째 응답에 포함되지 않는 추가 정보가 존재하는지 여부를 식별할 수 있다. 즉, 제1 인공지능 모델은 도출하지 못했지만 외부 전자 장치의 제2 인공지능 모델은 제공하는 추가 정보가 존재하는지 확인된다.
여기서, 추가 정보가 존재하는 경우, 전자 장치(100)는 앞서 식별된 업무가 제2 업무가 아닌 제1 업무에 포함되도록 제1 업무 및 제2 업무를 업데이트할 수 있다. 이후 동일한 업무가 요청되는 경우, 해당 업무는 제1 업무로 식별되므로, 전자 장치(100)는 S430' 단계가 아닌 S430 내지 S450 단계를 통해 응답을 획득하게 된다. 그 결과, 해당 업무에 대하여, 향후에는 사용자가 원하는 더욱 풍부한 정보가 제공될 수 있다.
반면, 추가 정보가 존재하지 않는 경우, 전자 장치(100)는 두번째 응답을 바탕으로 제1 인공지능 모델을 훈련시킬 수 있다. 구체적으로, 전자 장치(100)는 두번째 응답을 확인한 사용자의 만족 여부에 대한 사용자 입력을 획득할 수 있으며, 두번째 응답에 만족하였거나 또는 두번째 응답이 첫번째 응답보다 적절하다는 사용자의 평가가 획득되면, 전자 장치(100)는 두번째 응답을 바탕으로 제1 인공지능 모델을 훈련시킬 수 있다. 그 결과, 제1 인공지능 모델은 향후 동일한 업무와 관련된 요청이 수신되더라도 더욱 적절한 응답을 제공하도록 학습될 수 있다.
추가적인 실시 예로, 상술한 바와 같이 두번째 응답이 제공된 경우, 전자 장치(100)는 두번째 응답과 첫번째 응답 간의 상충 여부를 식별할 수 있다. 즉, 제1 인공지능 모델의 응답과 제2 인공지능 모델의 응답이 서로 논리상 맞지 않거나 충돌하는지 여부가 확인된다. 이를 위해, 전자 장치(100)는 첫번째 응답과 두번째 응답을 구성하는 텍스트를 의미론적으로 분석하여 주어, 목적어, 동사, 부정어 등을 식별할 수 있으며, 이를 바탕으로 응답 간의 상충 여부를 식별할 수 있다.
예를 들어, 동일한 주어, 목적어가 포함되지만 첫번째 응답에는 동사의 긍정형이 포함되고, 두번째 응답에는 동일한 동사의 부정형이 포함되는 경우, 상충하는 것으로 식별될 수 있다.
이때, 전자 장치(100)는 두번째 응답과 첫번째 응답이 서로 상충함을 알리는 메시지를 제공할 수 있으며, 첫번째 응답과 두번째 응답 중 적절한 응답을 선택하기 위한 사용자 입력을 수신할 수 있다.
여기서, 첫번째 응답이 선택된 경우, 전자 장치(100)는 지식베이스에 저장된 문서들 중 첫번째 응답의 텍스트와 매칭되는 문서, 즉 제1 인공지능 모델(111)이 첫번째 응답을 제공한 근거가 된 문서를 식별할 수 있다. 이때, 전자 장치(100)는 식별된 문서의 공개 여부를 사용자에게 문의할 수 있다.
만약, 식별된 문서를 외부에 공개하기 위한 사용자 입력이 수신되는 경우, 전자 장치(100)는 해당 문서를 제2 인공지능 모델(211)이 저장된 외부 전자 장치로 전송할 수 있다.
반면, 식별된 문서를 외부에 공개하지 않기 위한 사용자 입력이 수신되는 경우, 전자 장치(100)는 상술한 제1 업무 중 식별된 문서와의 연관도가 일정치 이상인 적어도 하나의 제1 업무를 제2 업무로 변경 설정할 수 있다. 이렇듯 공개될 수 없는 문서와의 연관도가 높은 제1 업무는 제2 업무로 변경 설정됨으로써, 외부 전자 장치에 대한 비밀 정보의 유출이 방지되고 사용자에게만 최적화된 응답 제공 시스템이 구축될 수 있다.
여기서 연관도는, 해당 문서가 일 업무에 연관된 정도를 의미하며, 해당 문서가 업무에 사용되는 빈도가 높을수록 연관도가 크게 산출될 수 있다. 예를 들어, 한 명 이상의 사용자의 질의에 따라 요청된 각각의 제1 업무에 대하여 응답이 제공되는 과정에서, 전자 장치(100)는 각 문서에 포함된 정보가 사용된 빈도를 기록할 수 있으며, 기록된 빈도에 따라 각각의 제1 업무에 대한 각 문서의 연관도가 산출될 수 있다.
한편, 적절한 응답으로 상술한 두번째 응답이 선택된 경우, 마찬가지로 전자 장치(100)는 지식베이스에 저장된 문서들 중 첫번째 응답의 텍스트와 매칭되는 문서, 즉 제1 인공지능 모델(111)이 첫번째 응답을 제공한 근거가 된 문서를 식별할 수 있다. 이때, 전자 장치(100)는 식별된 문서 내에서 첫번째 응답과 관련된 적어도 하나의 텍스트를 두번째 응답에 따라 수정하거나, 또는 첫번째 응답과 관련된 적어도 하나의 텍스트를 삭제할 수 있다.
한편, 도 5a 내지 도 5b는 본 개시의 일 실시 예에 따른 전자 장치가 사용자의 질의와 함께 문서를 입력 받고 질의에 대한 하나 이상의 응답을 제공하는 모습을 도시한 도면들이다.
도 5a 내지 도 5b에 도시된 화면들은, 서버로 구현된 전자 장치(100)가 적어도 하나의 웹페이지 또는 애플리케이션을 통해 사용자 단말(ex. 스마트폰, 태블릿 PC, 데스크탑 PC, 노트북 PC 등)과 연동되어 사용자 단말을 통해 제공되는 UI일 수 있다. 또는, 도 5a 내지 도 5b에 도시된 화면들은, 사용자 단말로 구현된 전자 장치(100)의 디스플레이 상에 표시되는 UI일 수도 있다.
도 5a를 참조하면, 전자 장치(100)는 UI(510)를 통해 수신되는 사용자 입력에 따라 적어도 하나의 문서를 획득할 수 있다.
예를 들어, 전자 장치(100)가 서버인 경우, 전자 장치(100)는 사용자 단말을 통해 UI(510)를 제공할 수 있으며, UI(510) 상에서 사용자 단말에 저장된 문서(ex. “ABCD 관련 자료”)가 선택되면, 해당 문서를 사용자 단말로부터 수신할 수 있다. 다만, 전자 장치(100)가 사용자 단말 자체로 구현되는 경우도 물론 가능하다.
이때, 전자 장치(100)는 선택된 문서를 바탕으로, 제1 인공지능 모델(111)을 훈련시킬 수 있으며, 문서와 관련된 사용자의 질의를 획득할 수 있다.
관련하여, 도 5a를 참조하면, 전자 장치(100)는 메뉴 UI(521), 질의용 UI(522), 문서관리 UI(523) 등을 제공할 수 있다.
메뉴 UI(521)는 챗봇 리스트, 챗봇 설정, 챗봇제작, 문서분석, MRC, 구분문석 등 전자 장치(100)가 제1 인공지능 모델(111)을 통해 제공할 수 있는 다양한 메뉴 항목을 포함한다.
챗봇 리스트는 전자 장치(100)를 통해 제공되는 하나 이상의 챗봇의 리스트를 제공하기 위한 메뉴 항목이다. 관련하여, 전자 장치(100)는 기능 또는 용도에 따라 구분된 복수의 제1 인공지능 모델을 각각 포함할 수 있으며, 각각의 제1 인공지능 모델은 서로 다른 챗봇의 형태로 제공된다. 이 경우, 각각의 제1 인공지능 모델은 서로 다른 카테고리의 지식베이스와 연동되어 학습될 수 있으며, 복수의 챗봇의 리스트가 제공되어 적어도 하나의 챗봇이 의사소통의 대상으로 선택될 수 있다. 또는, 동일한 질의에 대하여 복수의 챗봇이 각각 응답을 제공하는 것도 가능하다.
챗봇 설정은 챗봇과 관련된 다양한 세팅을 지원하기 위한 메뉴 항목이다. 예를 들어, 각 챗봇이 수행하는 업무, 각 챗봇의 활성화 여부 등이 설정될 수 있으나 이에 한정되지 않는다.
챗봇 제작은 적어도 하나의 챗봇을 생성하기 위한 메뉴 항목이다. 예를 들어, 적어도 하나의 챗봇을 새롭게 생성하여 학습시키기 위한 적어도 하나의 문서가 입력될 수 있으며, 입력된 문서를 바탕으로 새로운 카테고리에 대해 학습된 챗봇이 전자 장치(100) 상에서 자동으로 생성될 수 있다.
문서분석은 입력된 문서에 대한 분석을 수행하기 위한 메뉴 항목이다. 분석은 통계 정보 생성, 키워드 추출, 요약, 신뢰도 분석 등 다양한 내용에 해당할 수 있다.
MRC((Machine Reading Comprehension)는 자연어 처리와 기계 학습을 위한 메뉴 항목에 해당한다. 구체적으로, 제1 인공지능 모델(111)을 구성하는 각 엔진(ex. 문맥 이해, 대화 생성, 질의-응답 등)의 학습은 물론 활용과 관련된 정보가 제공될 수 있다.
구문 분석은 문서를 구성하는 텍스트를 구문 별로 분석하기 위한 메뉴 항목이다. 예를 들어, 텍스트가 구문 별로 구분되어 나타나는 UI가 제공될 수 있으며, 각 구분 별로 주요 키워드 내지는 관련된 부가 정보가 제공될 수 있으나, 이에 한정되지 않는다.
질의용 UI(522)는 사용자의 질의를 획득하기 위한 UI이다. 질의용 UI(522)를 통해 사용자의 질의가 입력될 수 있으며, 입력된 질의가 표시될 수 있다.
문서관리 UI(523)는 질의와 관련된 문서를 표시하기 위한 UI이다. 문서관리 UI(523)는 질의의 대상이 되는 문서는 물론 제1 인공지능 모델(111)이 질의에 대한 응답을 준비하는 과정에서 활용되는 적어도 하나의 문서를 포함하여 제공할 수 있다.
도 5b를 참조하면, 질의용 UI(522)를 통해 “용역사업 입찰공고 보여주고 pdf 파일로 만들어서 정리도 해줘”라는 질의가 입력된 상황을 가정한다. 이 경우, 전자 장치(100)는 복수의 제1 인공지능 모델 각각을 통해 복수의 응답(524-1, 2, 3)을 각각 제공할 수 있다. 이때, 각각의 제1 인공지능 모델은 서로 다른 업무(ex. 정보 열람, 파일 생성 및 제공, 요약)를 수행하여 응답을 제공할 수 있다.
이때, 각각의 제1 인공지능 모델이 응답을 생성하는 과정에서 활용된 문서들은 문서관리 UI(523) 상에 표시될 수 있다.
한편, 도 6은 본 개시의 다양한 실시 예에 따른 전자 장치의 구성을 설명하기 위한 블록도이다.
도 6을 참조하면, 전자 장치(100)의 프로세서(130)는 지식 관리 모듈(131), 모델 학습 모듈(132), 응답 제공 모듈(133), 보안 관리 모듈(134) 등 다양한 기능적 모듈을 포함할 수 있다. 각 모듈은 소프트웨어 및/또는 하드웨어로 구현될 수 있다.
지식 관리 모듈(131)은 제1 인공지능 모델(111)의 학습 과정, 응답 생성 과정 등을 지원하기 위한 다양한 문서를 카테고리 별로 관리하기 위한 모듈이다.
모델 학습 모듈(132)은 지식 베이스에 저장된 카테고리 별 문서를 바탕으로 제1 인공지능 모델(111)을 학습시키기 위한 모듈이다.
응답 제공 모듈(133)은 제1 인공지능 모델(111)의 자연어 이해, 자연어 처리 등을 통해 응답을 제공하기 위한 모듈이다. 응답 제공 모듈(133)은 사용자의 질의와 관련된 적어도 하나의 문서를 바탕으로 응답에 해당하는 다양한 정보를 제공할 수도 있으며, 이때 인공지능 모델(111)의 자연어 이해를 바탕으로 하는 검색 내지 분석이 활용될 수 있다.
보안 관리 모듈(134)은 보안 등급이 설정된 보안 문서 내지는 보안 정보, 개인 정보 등의 유출을 방지하기 위한 모듈이다. 보안 관리 모듈(134)은 지식 베이스에 포함된 각 문서의 보안 등급을 관리할 수 있으며, 보안 등급은 사용자 입력에 따라 문서 별로 설정될 수 있다. 또는, 보안 관리 모듈(134)은 각 문서에 포함된 키워드를 바탕으로 각 문서의 보안 등급을 자동으로 설정할 수도 있다. 이때, 보안 관리 모듈(134)은 제1 인공지능 모델(111)의 의미론적 분석을 바탕으로 각 키워드가 개인 정보에 해당하는지 혹은 민감 정보에 해당하는지 등을 식별할 수 있다. 여기서, 개인 정보 내지 민감 정보에 해당하는 키워드가 많을수록 문서의 보안 등급이 높게 설정될 수 있다.
도 6을 참조하면, 전자 장치(100)는 메모리(110), 통신부(120), 프로세서(130) 외에도 사용자 입력부(140), 출력부(150) 등을 더 포함할 수 있다.
사용자 입력부(140)는 다양한 명령 또는 정보를 사용자로부터 입력 받기 위한 구성이다. 사용자 입력부(140)는 적어도 하나의 버튼, 터치 패드, 터치 스크린, 마이크, 카메라, 센서 등으로 구현될 수 있다. 또한, 전자 장치(100)는 적어도 하나의 키패드, 버튼, 모션 센서 등을 구비한 다양한 사용자 입력 장치(ex. 키보드, 마우스 등)와 연결될 수도 있다.
출력부(150)는 다양한 정보를 출력하기 위한 구성으로, 디스플레이, 스피커, 이어폰/헤드셋 단자 등을 포함할 수 있다. 일 실시 예로, 출력부(150)의 디스플레이를 통해 도 5a 내지 도 5b의 UI 화면이 제공될 수 있다.
한편, 이상에서 설명된 다양한 실시 예들은 서로 저촉되거나 모순되지 않는 한 두 개 이상의 실시 예가 서로 결합되어 구현될 수 있다.
한편, 이상에서 설명된 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합된 것을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 본 개시에서 설명되는 실시 예들은 ASICs(Application Specific Integrated Circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다.
일부의 경우에 본 명세서에서 설명되는 실시 예들이 프로세서 자체로 구현될 수 있다. 소프트웨어 적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상술한 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 로봇 등 전자 장치에서의 처리동작을 수행하기 위한 컴퓨터 명령어(computer instructions) 또는 컴퓨터 프로그램은 비일시적 컴퓨터 판독 가능 매체(non-transitory computer-readable medium)에 저장될 수 있다. 이러한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 명령어 또는 컴퓨터 프로그램은 특정 기기의 프로세서에 의해 실행되었을 때 상술한 다양한 실시 예에 따른 전자 장치에서의 처리 동작을 상술한 특정 기기가 수행하도록 한다.
비일시적 컴퓨터 판독 가능 매체 란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.
100: 전자 장치

Claims (10)

  1. 전자 장치에 있어서,
    질의-응답을 수행하기 위한 제1 인공지능 모델을 포함하는 메모리;
    질의-응답을 수행하기 위한 제2 인공지능 모델을 포함하는 외부 전자 장치와 통신을 수행하기 위한 통신부; 및
    상기 제1 인공지능 모델 및 상기 제2 인공지능 모델 중 적어도 하나를 통해 사용자의 질의에 대한 응답을 제공하는 프로세서;를 포함하고,
    상기 프로세서는,
    적어도 하나의 문서에 대한 사용자의 질의가 획득되면, 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하고,
    상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하고,
    상기 업데이트된 질의를 바탕으로 상기 제2 인공지능 모델의 응답을 획득하고,
    상기 프로세서는,
    상기 문서에 대한 상기 제1 인공지능 모델의 의미론적 분석을 바탕으로 상기 문서의 카테고리를 분류하고,
    상기 분류된 카테고리를 바탕으로, 상기 전자 장치와 연동되는 지식 베이스 내에 상기 문서를 저장하고,
    상기 프로세서는,
    상기 지식 베이스 내에서 상기 문서와 동일한 카테고리에 포함된 적어도 하나의 대상 문서를 바탕으로, 상기 사용자의 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하는, 전자 장치.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 프로세서는,
    상기 사용자의 질의에 포함된 적어도 하나의 키워드를 식별하고,
    상기 지식 베이스 내에서 상기 문서와 동일한 카테고리에 포함된 복수의 문서를 식별하고,
    상기 복수의 문서 중 상기 키워드와 관련된 적어도 하나의 대상 문서를 선택하고,
    상기 선택된 대상 문서를 바탕으로 상기 사용자의 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하는, 전자 장치.
  5. 제1항에 있어서,
    상기 프로세서는,
    상기 질의를 업데이트하는 과정에서, 상기 사용자의 질의 및 상기 제1 인공지능 모델의 응답 중 적어도 하나에 포함된 개인 정보를 예시 정보로 대체하는, 전자 장치.
  6. 제1항에 있어서,
    상기 프로세서는,
    상기 질의와 관련된 제1 문서 및 상기 제1 인공지능 모델의 응답과 관련된 제2 문서 중 적어도 하나에 일정 등급 이상의 보안 등급이 설정된 경우, 상기 제1 인공지능 모델의 응답에 포함된 보안 정보를 식별하고,
    상기 질의를 업데이트하는 과정에서, 상기 사용자의 질의 및 상기 제1 인공지능 모델 중 적어도 하나에 포함된 보안 정보를 예시 정보로 대체하는, 전자 장치.
  7. 제1항에 있어서,
    상기 인공지능 모델은,
    RNN(Recurrent Neural Network) 모델을 포함하는 엔진, 자연어 생성 엔진, 자연어 처리 엔진, 자연어 이해 엔진, 및 대화 엔진 중 적어도 하나를 포함하고,
    상기 프로세서는,
    상기 문서를 바탕으로 상기 인공지능 모델을 구성하는 적어도 하나의 엔진을 훈련시키는, 전자 장치.
  8. 제1항에 있어서,
    상기 프로세서는,
    상기 사용자의 질의에 따라 요청된 적어도 하나의 업무를 식별하고,
    상기 식별된 업무가 기설정된 제1 업무에 포함되는 경우, 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하고, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하고, 상기 업데이트된 질의를 바탕으로 상기 제2 인공지능 모델의 응답을 획득하여 제공하고,
    상기 식별된 업무가 기설정된 제2 업무에 포함되는 경우, 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하여 제공하는, 전자 장치.
  9. 제8항에 있어서,
    상기 프로세서는,
    상기 식별된 업무가 상기 제2 업무에 포함된 결과 상기 제1 인공지능 모델의 응답이 첫번째 응답으로 제공된 이후, 추가적인 응답을 요청하는 사용자 입력이 수신되면, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하고, 상기 업데이트된 질의를 바탕으로 상기 제2 인공지능 모델의 응답을 획득하여 두번째 응답으로 제공하고,
    상기 두번째 응답이 제공된 경우, 상기 두번째 응답에 포함되지만 상기 첫번째 응답에 포함되지 않는 추가 정보가 존재하는지 여부를 식별하고,
    상기 추가 정보가 존재하는 경우, 상기 식별된 업무가 상기 제2 업무가 아닌 상기 제1 업무에 포함되도록 상기 제1 업무 및 상기 제2 업무를 업데이트하고,
    상기 추가 정보가 존재하지 않는 경우, 상기 두번째 응답을 바탕으로 상기 제1 인공지능 모델을 훈련시키는, 전자 장치.
  10. 질의-응답을 수행하기 위한 제1 인공지능 모델을 포함하는 전자 장치의 제어 방법에 있어서,
    적어도 하나의 문서에 대한 사용자의 질의가 획득되면, 상기 전자 장치가 상기 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하는 단계;
    상기 전자 장치가, 상기 제1 인공지능 모델의 응답을 바탕으로 상기 질의를 업데이트하는 단계; 및
    상기 전자 장치가, 상기 업데이트된 질의를 바탕으로, 외부 전자 장치에 저장되어 질의-응답을 수행하는 제2 인공지능 모델의 응답을 획득하는 단계;를 포함하고,
    상기 전자 장치의 제어 방법은,
    상기 문서에 대한 상기 제1 인공지능 모델의 의미론적 분석을 바탕으로 상기 문서의 카테고리를 분류하는 단계; 및
    상기 분류된 카테고리를 바탕으로, 상기 전자 장치와 연동되는 지식 베이스 내에 상기 문서를 저장하는 단계;를 포함하고,
    상기 제1 인공지능 모델의 응답을 획득하는 단계는,
    상기 지식 베이스 내에서 상기 문서와 동일한 카테고리에 포함된 적어도 하나의 대상 문서를 바탕으로, 상기 사용자의 질의에 대한 상기 제1 인공지능 모델의 응답을 획득하는, 전자 장치의 제어 방법.
KR1020230082455A 2023-05-15 2023-06-27 외부 모델과 연동하는 생성형 인공지능을 포함하는k-gpt 솔루션 기반의 전자 장치 및 시스템 KR102604242B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020230062471 2023-05-15
KR20230062471 2023-05-15

Publications (1)

Publication Number Publication Date
KR102604242B1 true KR102604242B1 (ko) 2023-11-21

Family

ID=88981812

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020230082455A KR102604242B1 (ko) 2023-05-15 2023-06-27 외부 모델과 연동하는 생성형 인공지능을 포함하는k-gpt 솔루션 기반의 전자 장치 및 시스템

Country Status (1)

Country Link
KR (1) KR102604242B1 (ko)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055425A (ko) * 2017-11-15 2019-05-23 (주)페르소나시스템 머신 러닝 기반의 챗봇용 데이터 추가 장치
US20210133234A1 (en) * 2017-05-11 2021-05-06 Commvault Systems, Inc. Communicating with a database management system using a chatbot
KR20210051519A (ko) * 2019-10-30 2021-05-10 주식회사 솔트룩스 다국어 질의 응답 시스템
US20220084510A1 (en) * 2020-09-15 2022-03-17 Microsoft Technology Licensing, Llc Synthetic data generation for training of natural language understanding models
KR20220046964A (ko) * 2020-10-08 2022-04-15 삼성전자주식회사 멀티 챗봇을 이용하여 질의에 응답하는 전자 장치 및 그 제어 방법
KR102436549B1 (ko) * 2022-07-20 2022-08-25 (주) 유비커스 딥러닝을 이용한 자연어처리 기반의 faq 및 챗봇을 위한 학습데이터를 자동으로 생성하기 위한 방법 및 이를 위한 장치
KR20230052387A (ko) * 2021-10-13 2023-04-20 포항공과대학교 산학협력단 자동 질의응답 데이터 생성 방법 및 장치

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210133234A1 (en) * 2017-05-11 2021-05-06 Commvault Systems, Inc. Communicating with a database management system using a chatbot
KR20190055425A (ko) * 2017-11-15 2019-05-23 (주)페르소나시스템 머신 러닝 기반의 챗봇용 데이터 추가 장치
KR20210051519A (ko) * 2019-10-30 2021-05-10 주식회사 솔트룩스 다국어 질의 응답 시스템
US20220084510A1 (en) * 2020-09-15 2022-03-17 Microsoft Technology Licensing, Llc Synthetic data generation for training of natural language understanding models
KR20220046964A (ko) * 2020-10-08 2022-04-15 삼성전자주식회사 멀티 챗봇을 이용하여 질의에 응답하는 전자 장치 및 그 제어 방법
KR20230052387A (ko) * 2021-10-13 2023-04-20 포항공과대학교 산학협력단 자동 질의응답 데이터 생성 방법 및 장치
KR102436549B1 (ko) * 2022-07-20 2022-08-25 (주) 유비커스 딥러닝을 이용한 자연어처리 기반의 faq 및 챗봇을 위한 학습데이터를 자동으로 생성하기 위한 방법 및 이를 위한 장치

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Hong, Taesuk, et al. "Knowledge-grounded dialogue modelling with dialogue-state tracking, domain tracking, and entity extraction." Computer Speech & Language 78 (2023): 101460. *

Similar Documents

Publication Publication Date Title
US9910886B2 (en) Visual representation of question quality
US20160026378A1 (en) Answer Confidence Output Mechanism for Question and Answer Systems
US10585901B2 (en) Tailoring question answer results to personality traits
US10692016B2 (en) Classifying unstructured computer text for complaint-specific interactions using rules-based and machine learning modeling
US11010700B2 (en) Identifying task and personality traits
US10558335B2 (en) Information providing system, information providing method, and non-transitory recording medium
US20200143115A1 (en) Systems and methods for improved automated conversations
US11586815B2 (en) Method, system and computer program product for generating artificial documents
US20130246290A1 (en) Machine-Assisted Legal Assessments
US10339222B2 (en) Information providing system, information providing method, non-transitory recording medium, and data structure
US8856007B1 (en) Use text to speech techniques to improve understanding when announcing search results
EP3685245B1 (en) Method, apparatus, and computer-readable media for customer interaction semantic annotation and analytics
AU2014285033A1 (en) Systems and methods for creating and implementing an artificially intelligent agent or system
US10997373B2 (en) Document-based response generation system
JP2019514120A (ja) ユーザ中心の文書要約のための技術
WO2021063089A1 (zh) 规则匹配方法、规则匹配装置、存储介质及电子设备
KR20200119393A (ko) 챗봇을 위한 학습 데이터 추천 장치 및 방법
JP2021527292A (ja) 会話業務ツール
AU2019219756A1 (en) Information platform for a virtual assistant
US20210390263A1 (en) System and method for automated decision making
US20200380020A1 (en) Enhanced multi-workspace chatbot
AU2022201193A1 (en) System and method for designing artificial intelligence (ai) based hierarchical multi-conversation system
KR102604242B1 (ko) 외부 모델과 연동하는 생성형 인공지능을 포함하는k-gpt 솔루션 기반의 전자 장치 및 시스템
TWI818695B (zh) 用於反事實對話模擬之電腦實施方法、電腦程式產品及電腦系統
JP7106647B2 (ja) 社会的感情および自然言語生成の量子重ね合せおよび量子もつれ

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant