KR20180081444A - 콘텐츠를 처리하는 장치 및 방법 - Google Patents
콘텐츠를 처리하는 장치 및 방법 Download PDFInfo
- Publication number
- KR20180081444A KR20180081444A KR1020170165235A KR20170165235A KR20180081444A KR 20180081444 A KR20180081444 A KR 20180081444A KR 1020170165235 A KR1020170165235 A KR 1020170165235A KR 20170165235 A KR20170165235 A KR 20170165235A KR 20180081444 A KR20180081444 A KR 20180081444A
- Authority
- KR
- South Korea
- Prior art keywords
- content
- abnormal pattern
- user
- data
- unit
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 104
- 238000000034 method Methods 0.000 title claims abstract description 66
- 230000002159 abnormal effect Effects 0.000 claims abstract description 227
- 230000004044 response Effects 0.000 claims abstract description 51
- 230000005540 biological transmission Effects 0.000 claims description 42
- 238000001514 detection method Methods 0.000 claims description 33
- 230000008859 change Effects 0.000 claims description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 15
- 238000004422 calculation algorithm Methods 0.000 abstract description 9
- 238000013528 artificial neural network Methods 0.000 abstract description 6
- 238000010801 machine learning Methods 0.000 abstract description 6
- 238000013135 deep learning Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 30
- 238000010586 diagram Methods 0.000 description 28
- 238000004891 communication Methods 0.000 description 22
- 238000011156 evaluation Methods 0.000 description 18
- 238000007781 pre-processing Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 9
- 230000000007 visual effect Effects 0.000 description 7
- 238000003860 storage Methods 0.000 description 6
- 238000009825 accumulation Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 230000005236 sound signal Effects 0.000 description 5
- 239000000470 constituent Substances 0.000 description 4
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 4
- 210000004556 brain Anatomy 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000003287 bathing Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000001568 sexual effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000005389 magnetism Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 210000000225 synapse Anatomy 0.000 description 1
- 230000000946 synaptic effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/046—Forward inferencing; Production systems
- G06N5/047—Pattern matching networks; Rete networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
-
- G06Q50/30—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/50—Business processes related to the communications industry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/196—Recognition using electronic means using sequential comparisons of the image signals with a plurality of references
- G06V30/1983—Syntactic or structural pattern recognition, e.g. symbolic string recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
- G06F2221/033—Test or assess software
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/268—Morphological analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Tourism & Hospitality (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Mathematical Physics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Bioethics (AREA)
- Medical Informatics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Transfer Between Computers (AREA)
- Operations Research (AREA)
Abstract
사용자가 입력한 콘텐츠를 전송하는 것이 상대방과의 관계에 있어 비정상 패턴에 해당하는지 확인하고, 사용자의 응답에 기초하여 콘텐츠의 비정상 패턴 여부를 학습하여 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨을 자동으로 조정함으로써 콘텐츠를 처리하는 장치 및 방법을 개시한다.
또한, 콘텐츠를 처리하는 장치는 콘텐츠의 비정상 패턴 여부를 결정하는 경우, 규칙 기반 또는 인공 지능 알고리즘을 이용하여 콘텐츠의 비정상 패턴 여부를 추정할 수 있다. 인공 지능 알고리즘을 이용하여 콘텐츠의 비정상 패턴 여부를 추정하는 경우, 콘텐츠를 처리하는 장치는 기계 학습, 신경망 또는 딥러닝 알고리즘을 이용할 수 있다.
또한, 콘텐츠를 처리하는 장치는 콘텐츠의 비정상 패턴 여부를 결정하는 경우, 규칙 기반 또는 인공 지능 알고리즘을 이용하여 콘텐츠의 비정상 패턴 여부를 추정할 수 있다. 인공 지능 알고리즘을 이용하여 콘텐츠의 비정상 패턴 여부를 추정하는 경우, 콘텐츠를 처리하는 장치는 기계 학습, 신경망 또는 딥러닝 알고리즘을 이용할 수 있다.
Description
콘텐츠를 처리하는 장치 및 방법에 관한 것이다.
또한, 본 개시는 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공 지능(Artificial Intelligence, AI) 시스템 및 그 응용에 관한 것이다.
메신저 또는 SNS(Social Network Service)에서 콘텐츠를 전송 또는 업로드 시, 의도한 콘텐츠가 아닌 다른 콘텐츠를 선택하거나 의도한 상대방이 아닌 다른 상대방을 선택하여 콘텐츠를 전송 또는 업로드 하는 경우, 대인 관계에서 심각한 문제를 가져올 수 있다.
또한, 근래에는 인간 수준의 지능을 구현하는 인공 지능 시스템이 다양한 분야에서 이용되고 있다. 인공 지능 시스템은 기존의 룰(rule) 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공 지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 룰 기반 스마트 시스템은 점차 딥러닝 기반 인공 지능 시스템으로 대체되고 있다.
인공 지능 기술은 기계학습(예로, 딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
기계학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
인공 지능 기술이 응용되는 다양한 분야는 다음과 같다. 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다. 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(항법, 충돌, 주행), 조작 제어(행동 제어) 등을 포함한다.
사용자가 입력한 콘텐츠를 전송하는 것이 상대방을 고려한 기존의 콘텐츠 전송 패턴에 비추어 볼 때, 비정상 패턴에 해당하는지 확인하고, 콘텐츠의 비정상 패턴 여부를 사용자의 응답에 기초하여 학습하며, 학습된 내용에 따라 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨을 자동으로 조정함으로써 콘텐츠를 처리하는 장치 및 방법을 제공하는 것이다.
제 1 측면에 따른 콘텐츠를 처리하는 장치는, 컴퓨터 실행가능 명령어(computer executable instruction)를 저장하는 메모리; 상기 컴퓨터 실행가능 명령어를 실행함으로써, 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 상기 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인하고, 상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 비정상 패턴의 검출 알림에 대한 상기 사용자의 응답에 기초하여, 상기 허용 레벨을 조정하는 적어도 하나의 프로세서; 및 상기 사용자로부터 상기 콘텐츠를 입력 받고, 상기 사용자에게 상기 비정상 패턴의 검출을 알리며, 상기 알림에 대한 상기 사용자의 응답을 입력 받는 입출력부;를 포함한다.
제 2 측면에 따른 콘텐츠를 처리하는 방법은, 사용자로부터 콘텐츠를 입력 받는 단계; 상기 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 상기 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인하는 단계; 상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 사용자에게 상기 비정상 패턴의 검출을 알리는 알림을 생성하는 단계; 및 상기 알림에 대한 상기 사용자의 응답에 기초하여, 상기 허용 레벨을 조정하는 단계;를 포함한다.
제 3 측면에 따라, 상기 콘텐츠를 처리하는 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체이다. 또는, 상기 콘텐츠를 처리하는 방법을 컴퓨터에 실행시키기 위한 프로그램을 포함하는 컴퓨터 프로그램 제품이다.
도 1은 일 실시예에 따른 콘텐츠를 처리하는 장치를 설명하기 위한 블록도이다.
도 2는 일 실시예에 따른 콘텐츠를 처리하는 장치에서 콘텐츠를 처리하는 과정을 설명하기 위한 도면이다.
도 3은 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 콘텐츠가 비정상 패턴에 해당한 때 사용자 인터페이스의 일 예를 설명하기 위한 도면이다.
도 4는 다른 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 콘텐츠가 비정상 패턴에 해당한 때 사용자 인터페이스의 일 예를 설명하기 위한 도면이다.
도 5a, 도 5b 및 도c는 일 실시예에 따른 콘텐츠를 처리하는 장치에서 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨을 설명하기 위한 도면이다.
도 6a 및 도 6b는 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 학습 초기에서 허용 레벨의 적용과 학습 누적 시기에서 허용 레벨의 적용을 설명하기 위한 도면이다.
도 7은 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 비정상 패턴에 해당하는 콘텐츠를 사용자가 무시하고 상대방에게 전송한 경우, 허용 레벨의 조정을 설명하기 위한 도면이다.
도 8은 다른 일 실시예에 따른 콘텐츠를 처리하는 장치를 설명하기 위한 블록도이다.
도 9는 일 실시예에 따른 제어부의 블록도이다.
도 10은 일 실시예에 따른 데이터 학습부의 블록도이다.
도 11는 일 실시예에 따른 데이터 인식부의 블록도이다.
도 12는 일부 실시예에 따른 콘텐츠를 처리하는 장치 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 13은 일 실시예에 따른 콘텐츠를 처리하는 방법을 나타내는 흐름도이다.
도 14 내지 도 15는 일 실시 예에 따른 데이터 인식 모델을 이용하는 상황을 설명하는 도면들이다.
도 2는 일 실시예에 따른 콘텐츠를 처리하는 장치에서 콘텐츠를 처리하는 과정을 설명하기 위한 도면이다.
도 3은 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 콘텐츠가 비정상 패턴에 해당한 때 사용자 인터페이스의 일 예를 설명하기 위한 도면이다.
도 4는 다른 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 콘텐츠가 비정상 패턴에 해당한 때 사용자 인터페이스의 일 예를 설명하기 위한 도면이다.
도 5a, 도 5b 및 도c는 일 실시예에 따른 콘텐츠를 처리하는 장치에서 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨을 설명하기 위한 도면이다.
도 6a 및 도 6b는 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 학습 초기에서 허용 레벨의 적용과 학습 누적 시기에서 허용 레벨의 적용을 설명하기 위한 도면이다.
도 7은 일 실시예에 따른 콘텐츠를 처리하는 장치에서, 비정상 패턴에 해당하는 콘텐츠를 사용자가 무시하고 상대방에게 전송한 경우, 허용 레벨의 조정을 설명하기 위한 도면이다.
도 8은 다른 일 실시예에 따른 콘텐츠를 처리하는 장치를 설명하기 위한 블록도이다.
도 9는 일 실시예에 따른 제어부의 블록도이다.
도 10은 일 실시예에 따른 데이터 학습부의 블록도이다.
도 11는 일 실시예에 따른 데이터 인식부의 블록도이다.
도 12는 일부 실시예에 따른 콘텐츠를 처리하는 장치 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 13은 일 실시예에 따른 콘텐츠를 처리하는 방법을 나타내는 흐름도이다.
도 14 내지 도 15는 일 실시 예에 따른 데이터 인식 모델을 이용하는 상황을 설명하는 도면들이다.
이하 첨부된 도면을 참조하면서 오로지 예시를 위한 실시예를 상세히 설명하기로 한다. 하기 실시예는 기술적 내용을 구체화하기 위한 것일 뿐 권리 범위를 제한하거나 한정하는 것이 아님은 물론이다. 상세한 설명 및 실시예로부터 해당 기술분야의 전문가가 용이하게 유추할 수 있는 것은 권리범위에 속하는 것으로 해석된다.
한편, 본 명세서에서 어떤 구성이 다른 구성과 "연결"되어 있다고 할 때, 이는 '직접적으로 연결'되어 있는 경우뿐 아니라, '그 중간에 다른 구성을 사이에 두고 연결'되어 있는 경우도 포함한다. 또한, 어떤 구성이 다른 구성을 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한, 그 외 다른 구성을 제외하는 것이 아니라 다른 구성들 더 포함할 수도 있다는 것을 의미한다.
또한, 본 명세서에서 사용되는 '제 1' 또는 '제 2' 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용할 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로만 사용된다.
본 명세서에서 "콘텐츠"란 유무선 통신망을 통해 제공되는 디지털 정보 또는 그 내용물을 총칭하는 용어로서, 문자, 부호, 아이콘, 음성, 사진, 영상 등을 디지털 방식으로 제작하여 처리 또는 유통하는 각종 정보 또는 내용물을 의미할 수 있다.
본 명세서에서 "콘텐츠를 처리하는 장치"란 사용자로부터 입력 받은 콘텐츠를 다른 디바이스로 전송하거나 업로드 할 수 있는 장치를 총칭하는 용어를 의미한다. 예를 들어, 스마트폰이나 노트북과 같은 휴대용 디바이스나 데스크톱 PC와 같은 고정형 디바이스 모두가 콘텐츠를 처리하는 장치에 해당될 수 있다.
본 실시예들은 콘텐츠를 처리하는 장치 및 방법에 관한 것으로서 이하의 실시예들이 속하는 기술 분야에서 통상의 지식을 가진 자에게 널리 알려져 있는 사항들에 관해서는 자세한 설명을 생략한다.
도 1은 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)를 설명하기 위한 블록도이다.
도 1에 도시된 바와 같이, 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)는 메모리(1100), 제어부(1200), 입출력부(1300)를 포함할 수 있다.
메모리(1100)는 제어부(1200)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 콘텐츠를 처리하는 장치(1000)로 입력되거나 콘텐츠를 처리하는 장치(1000)로부터 출력되는 데이터를 저장할 수도 있다. 메모리(1100)는 컴퓨터 실행가능 명령어(computer executable instruction)를 저장할 수 있다.
제어부(1200)는, 통상적으로 콘텐츠를 처리하는 장치(1000)의 전반적인 동작을 제어한다. 제어부(1200)는 적어도 하나의 프로세서를 구비할 수 있다. 제어부(1200)는 그 기능 및 역할에 따라, 복수의 프로세서들을 포함하거나, 통합된 형태의 하나의 프로세서를 포함할 수 있다.
제어부(1200)는 메모리(1100)에 저장된 컴퓨터 실행가능 명령어를 실행함으로써, 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다. 콘텐츠를 처리하는 장치(1000)는 기존의 콘텐츠 업로드 이력이나 상대방과 콘텐츠를 송수신한 이력 등을 학습하여, 콘텐츠 전송에 관한 사용자의 일반적인 패턴을 콘텐츠 전송에 관한 정상 패턴으로 처리할 수 있다. 이때, 콘텐츠 전송은 콘텐츠의 업로드 또는 상대방에 대한 콘텐츠 송신을 포함하는 의미일 수 있다. 콘텐츠가 비정상 패턴에 해당한다는 것은 콘텐츠의 일부 또는 전체에 정상적인 패턴에서 벗어난 내용이 포함되어 있음을 의미할 수 있다
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자로부터 입력된 콘텐츠를 분석하여 콘텐츠 전송에 관한 사용자의 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출하고, 추출된 특징과 허용 레벨에 기초하여, 비정상 패턴을 검출할 수 있다. 허용 레벨은 사용자로부터 입력된 콘텐츠를 공유할 상대방에 따라 다를 수 있다. 이때, 상대방은 단수 또는 복수 일 수 있고, 특정인이거나 불특정 다수 일 수 있다. 동일한 콘텐츠라 하더라도, 콘텐츠를 공유할 상대방에 따라 허용 레벨이 다를 수 있으므로, 'A'라는 상대방에게 전송 시에는 정상 패턴인 콘텐츠도 'B'라는 상대방에게 전송 시에는 비정상 패턴에 해당하는 것으로 취급될 수도 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다. 예를 들어, 상대방이 회사 동료인지, 가족인지, 친구인지 등에 따라, 각 관계 유형에 대응되는 공공의 허용 레벨이 미리 설정되어 있을 수 있다. 특히, 상대방과 콘텐츠를 송수신한 적이 없는 경우, 상대방에 대응되는 허용 레벨이 존재하지 않으므로, 상대방이 속한 관계 유형에 대응되는 공공의 허용 레벨을 상대방에 대응되는 허용 레벨의 초기값으로 설정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 콘텐츠가 비정상 패턴에 해당한 때, 사용자의 콘텐츠 전송 명령에 불구하고, 콘텐츠의 전송을 중지할 수 있다. 제어부(1200)는 비정상 패턴의 검출 알림을 콘텐츠의 전송 취소를 허용하는 조작 인터페이스와 함께 제공할 수 있도록 입출력부(1300)를 제어할 수 있다.
제어부(1200)는 콘텐츠가 비정상 패턴에 해당한 때, 비정상 패턴의 검출 알림에 대한 사용자의 응답에 기초하여, 허용 레벨을 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자가 비정상 패턴이 검출된 콘텐츠를 상대방에게 전송하면, 검출된 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 허용 레벨을 조정할 수 있다. 제어부(1200)가 비정상 패턴에 해당한다고 판단한 콘텐츠에 대해, 사용자가 이를 무시하고 콘텐츠를 전송하도록 하였다면, 이와 같은 경우, 더 이상은 비정상 패턴에 해당하는 콘텐츠라고 볼 수 없으므로, 정상 패턴에 해당하는 콘텐츠로 취급하여 학습하고 이에 따라 허용 레벨을 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자의 응답에 따라 상대방에 대한 콘텐츠의 정상 패턴을 누적하여 학습함으로써 허용 레벨을 점진적으로 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 허용 레벨이 비정상 패턴의 유형별로 각각의 서브 허용 레벨을 포함하는 형태인 경우, 콘텐츠에서 검출된 비정상 패턴의 유형에 대응되는 서브 허용 레벨을 사용자의 응답에 기초하여 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자의 응답에 따라, 상대방에 대응되는 허용 레벨만을 독립적으로 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 콘텐츠가 비정상 패턴에 해당하지 않은 때, 컨텐츠의 전송 후 상대방 또는 사용자의 반응에 기초하여 허용 레벨을 조정할 수 있다.
한편, 허용 레벨은 상대방과 사용자 간의 친밀도를 나타내는 정보의 변화에 따라 변할 수 있다. 예를 들어, 같은 관계 유형에 속하는 상대방들 중 더욱 친밀도가 높은 상대방에 대해서는 상대방에게 전송하려는 콘텐츠가 정상 패턴으로 취급되도록 허용 레벨을 높이고, 친밀도가 낮은 상대방에 대해서는 상대방에게 전송하려는 콘텐츠가 비정상 패턴으로 취급되도록 허용 레벨을 낮출 수 있다.
입출력부(1300)는 사용자로부터 콘텐츠를 입력 받을 수 있다. 입출력부(1300)는 사용자에게 비정상 패턴의 검출을 알릴 수 있고, 이와 같은 알림에 대한 사용자의 응답을 입력 받을 수 있다.
도 2는 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)에서 콘텐츠를 처리하는 과정을 설명하기 위한 도면이다.
도 2를 참조하면, 사용자로부터 입력된 콘텐츠가 콘텐츠를 처리하는 장치(1000)의 제어부(1200)에 전달된다. 제어부(1200)는 적어도 하나의 프로세서를 이용하여, 콘텐츠를 분석할 수 있다. 예를 들어, 제어부(1200)는 입력된 콘텐츠를 송신하는 자와 수신하는 자 간의 관계를 나타내는 관계 유형, 콘텐츠에 포함된 시각자료로부터 특정 이미지나 콘텐츠에 포함된 언어로부터 특정 표현을 추출할 수 있다. 즉, 제어부(1200)는 적어도 하나의 프로세서를 이용하여, 콘텐츠를 분석하여 콘텐츠 전송에 관한 사용자의 일반적인 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출할 수 있다.
예를 들어, 콘텐츠를 공유할 상대방과 사용자 간의 관계를 나타내는 관계 유형은 직장 동료, 가족, 친구, 연인, 불특정 다수 등이 될 수 있다. 상대방이 누군지에 따라 말투와 대화의 수위가 달라지며, 콘텐츠의 공개 여부가 달라질 수 있으므로, 이와 같은 관계 유형은 콘텐츠 전송에 대한 비정상 패턴에 해당하는지 여부를 결정하는 중요 파라미터가 될 수 있다.
도 2를 참조하면, 제어부(1200)에 콘텐츠가 입력되면, 제어부(1200)는 관계 인식기(relation recognizer)를 이용하여 사용자와 콘텐츠를 공유할 상대방 간의 관계 유형을 파악할 수 있다. 관계 인식기는 하나의 프로세서 또는 하나의 프로세서 내의 일부 모듈로써 구현될 수 있다. 예를 들어, 콘텐츠 처리 장치(1000)에서 실행 가능한 애플리케이션으로부터 상대방과 사용자 간의 관계 유형에 관한 정보를 가져올 수 있거나, 이미 저장된 관계 유형에 관한 정보가 있는 경우, 관계 인식기는 콘텐츠 처리 장치(1000) 또는 네트워크를 통해 연결되는 외부에서 제공하는 API를 호출하여 관계 유형에 관한 정보가 저장되어 있는 곳에 접근함으로써, 상대방과 사용자 간의 관계 유형에 관한 정보를 획득할 수 있다.
상대방과 사용자 간의 관계 유형에 관한 정보를 가져올 수 없는 경우, 관계 인식기는 사용자 또는 상대방이 입력한 문자, 텍스트 등의 언어 또는 상대방과 서로 주고 받은 컨텐츠들로부터 상대방과 사용자 간의 관계 유형을 추정할 수 있다. 예를 들어, 관계 인식기는 언어 인식 모델을 이용하여, 현재 대화의 내용, 말투, 욕설의 수위, 문장의 길이, 경어체 사용여부 등을 파악할 수 있다. 다른 예를 들어, 관계 인식기는 영상 인식 모델을 이용하여, 서로 주고 받은 컨텐츠의 특징점을 소정의 기준에 따라 분류하여, 영상의 내용이나 영상물의 등급 또는 수위를 파악할 수 있다. 관계 인식기는 파악된 사항들을 종합적으로 고려하여, 상대방과 사용자 간의 관계 유형을 추정할 수 있다.
콘텐츠가 사진, 영상 등의 시각자료를 포함하는 경우, 신체 노출 수위(nudity level), 영상물의 표현 수위 등과 같은 특징이 존재하는지 확인하고, 보안 등급(security level)을 확인할 수 있다.
도 2를 참조하면, 제어부(1200)에 콘텐츠가 입력되면, 제어부(1200)는 시각자료 인식기(visual recognizer)를 이용하여 사용자가 입력한 콘텐츠의 알몸 노출 수위, 성적 수위, 보안 등급 등을 파악할 수 있다. 시각자료 인식기는 하나의 프로세서 또는 하나의 프로세서 내의 일부 모듈로써 구현될 수 있다.
시각자료 인식기는 영상 인식 모델을 이용하여 사용자가 입력한 사진, 영상 등의 특징점을 추출하고, 추출된 특징점을 소정의 기준에 따라 분류하여, 알몸 노출 수위, 성적 수위, 보안 등급 등을 파악할 수 있다. 예를 들어, 인물이 포함된 사진에서 인물 영역의 색상이 살색이 많고, 인물이 옷을 적게 입고 있으면 신체 노출 수위가 높은 것으로 판단할 수 있다. 또한, 시각자료 인식기는 사용자가 입력한 콘텐츠가 동영상인 경우, 동영상을 구성하는 각 프레임들로부터 시간 순서에 따라 변하는 특징점을 포착하거나 각 프레임들에 공통적으로 포함된 영역을 포착하고, 영상 인식 모델에 적용하여, 특징점을 분석할 수 있다. 예를 들어, 인물이 포함된 동영상에서 인물의 행위가 폭력을 행사하거나 살인을 저지르는 행위이고, 자주 반복되거나 영상에서 차지하는 비율이 큰 경우, 폭력성 수위가 높은 것으로 판단할 수 있다.
콘텐츠가 문자, 텍스트 등의 언어를 포함하는 경우, 욕설(swear word), 인종차별, 성차별 등의 다양한 종류의 차별(discrimination), 비속어(impolite expression)와 같은 특징이 존재하는지 확인하고, 보안 등급(security level)을 확인할 수 있다.
도 2를 참조하면, 제어부(1200)에 콘텐츠가 입력되면, 제어부(1200)는 언어 인식기(language recognizer)를 이용하여 사용자가 입력한 콘텐츠의 욕설, 인종차별, 성차별, 보안 등급 등을 파악할 수 있다. 언어 인식기는 하나의 프로세서 또는 하나의 프로세서 내의 일부 모듈로써 구현될 수 있다. 언어 인식기는 언어 인식 모델을 이용하여 사용자가 입력한 문자, 텍스트 등의 언어의 형태소를 분석하고 각 형태소 및 문장을 파악하여, 욕설, 인종차별, 성차별, 보안 등급 등을 파악할 수 있다.
제어부(1200)는 콘텐츠를 분석하여 추출한 특징과 허용 레벨에 기초하여, 콘텐츠를 공유할 상대방에 대한 콘텐츠 전송이 비정상 패턴에 해당하는지 판단한다. 제어부(1200)는 사용자와 콘텐츠를 공유할 상대방 간의 관계 유형에 따른 허용 레벨에 기초하여, 사용자가 입력한 콘텐츠로부터 파악된 신체 노출 수위, 성적 수위, 보안 등급이 적정한지 판단하거나 사용자가 입력한 콘텐츠로부터 파악된 욕설, 인종차별, 성차별 등의 표현이 적절한지 판단할 수 있다. 이때, 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 공공의 모델을 참조하여, 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 상대방에 대응되는 허용 레벨에 대한 정보가 있는 경우, 사용자와 상대방 간의 관계에 맞춤화된 프라이빗 모델에 따라, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다.
제어부(1200)는 콘텐츠가 비정상 패턴에 해당한 때, 사용자에게 비정상 패턴이 검출되었음을 알리도록 콘텐츠를 처리하는 장치(1000)를 제어할 수 있다. 제어부(1200)는 비정상 패턴의 검출 알림에 대한 사용자의 응답을 수신하고, 사용자 응답을 분석하여, 상대방에 대응되는 허용 레벨을 조정할 수 있도록 피드백을 제공할 수 있다. 이때, 상대방에 대응되는 허용 레벨에 대한 정보가 없어, 공공의 모델을 참조하여, 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨을 이용한 경우라면, 피드백을 반영하여 프라이빗 모델로써 상대방에 대응되는 허용 레벨을 생성할 수 있다. 사용자와 상대방 간의 관계에 맞춤화된 프라이빗 모델에 따라, 상대방에 대응되는 허용 레벨을 이용한 경우, 피드백을 반영하여 프라이빗 모델을 더 학습시킬 수 있고, 이에 따라 프라이빗 모델을 갱신할 수 있다.
도 3은 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)에서, 콘텐츠가 비정상 패턴에 해당한 때 사용자 인터페이스의 일 예를 설명하기 위한 도면이다.
콘텐츠를 처리하는 장치(1000)에서 사용자가 메신저 애플리케이션을 실행하여 채팅창에 "야 뭐하냐"라는 텍스트 형태의 콘텐츠를 입력하였는데, 상대방이 '친구'가 아닌 '아버지'인 경우이다.
콘텐츠를 처리하는 장치(1000)는 '아버지'에 대응되는 허용 레벨에 기초하여, 사용자가 입력한 콘텐츠가 비정상 패턴인지 확인한다. "야 뭐하냐"라는 텍스트 형태의 콘텐츠에는 비속어는 없으나, 경어체적 표현이 없으므로, '아버지'에 대응되는 허용 레벨에 기초해 볼 때 사용자가 입력한 콘텐츠가 비정상 패턴에 해당함을 알 수 있다. 즉, 사용자가 입력한 "야 뭐하냐?"라는 텍스트 형태의 콘텐츠가 아버지와의 관계에서 사용되는 정상 패턴의 콘텐츠에 해당하지 않음을 알 수 있다.
콘텐츠를 처리하는 장치(1000)는 비정상 패턴의 콘텐츠가 검출되었으므로, 이와 같은 콘텐츠가 '아버지'에게 전송되지 않도록, 전송을 중단시키고, 사용자에게 비정상 패턴의 검출을 알릴 수 있다. 예를 들어, 도 3에 도시된 바와 같이, 비정상 패턴의 검출을 알리기 위해, 사용자로부터 입력된 콘텐츠에 대해서는 콘텐츠를 처리하는 장치(1000)의 화면상에서 점멸하도록 디스플레이하고, 비정상 패턴의 검출 알림을 콘텐츠의 전송 취소를 허용하는 조작 인터페이스와 함께 제공할 수 있음을 알 수 있다.
도 4는 다른 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)에서, 콘텐츠가 비정상 패턴에 해당한 때 사용자 인터페이스의 일 예를 설명하기 위한 도면이다.
도 3과 마찬가지로, 콘텐츠를 처리하는 장치(1000)에서 사용자가 메신저 애플리케이션을 실행하여 채팅창에 "야 뭐하냐?"라는 텍스트 형태의 콘텐츠를 입력하였는데, 상대방이 '친구'가 아닌 '아버지'인 경우이다.
콘텐츠를 처리하는 장치(1000)는 '아버지'에 대응되는 허용 레벨에 기초하여, 사용자가 입력한 콘텐츠가 비정상 패턴인지 확인한다. "야 임마 뭐하냐?"라는 텍스트 형태의 콘텐츠에는 비속어는 없지만, 경어체적 표현이 없으므로, '아버지'에 대응되는 허용 레벨에 기초해 볼 때 사용자가 입력한 콘텐츠가 비정상 패턴에 해당함을 알 수 있다. 즉, 사용자가 입력한 "야 뭐하냐?"라는 텍스트 형태의 콘텐츠가 아버지와의 관계에서 사용되는 정상 패턴의 콘텐츠에 해당하지 않음을 알 수 있다.
콘텐츠를 처리하는 장치(1000)는 비정상 패턴의 콘텐츠가 검출되었으므로, 사용자의 콘텐츠 전송 명령에 대응하여 진동으로 비정상 패턴이 검출되었음을 알려주고, 이와 같은 콘텐츠가 '아버지'에게 전송되지 않도록, 전송을 중단시키거나 지연시킬 수 있다. 예를 들어, 도 4에 도시된 바와 같이, 비정상 패턴의 검출을 알리기 위해, 사용자에게 진동으로써 비정상 패턴의 검출을 알리고, 콘텐츠의 전송 취소를 허용하는 조작 인터페이스를 함께 제공할 수 있음을 알 수 있다. 콘텐츠를 처리하는 장치(1000)에 비정상 패턴 검출 시 컨텐츠 전송이 소정의 기간 동안 지연되도록 설정되어 있는 경우, 소정의 기간이 도과되면 컨텐츠가 상대방에게 전송될 수 있으므로, 사용자는 전송 취소 조작 인터페이스를 이용하여, 컨텐츠의 전송을 취소할 수 있다.
도 5a, 도 5b, 및 도 5c는 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)에서 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨을 설명하기 위한 도면이다.
도 5a를 참조하면, 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨이 하나의 조정 툴에 의해 조정되는 형태임을 알 수 있다. 이와 같은 허용 레벨은 상대방마다 서로 다르게 존재할 수 있으므로, 콘텐츠를 처리하는 장치(1000)는 특정 상대방에 대응되는 허용 레벨만을 독립적으로 조정할 수 있다.
도 5b를 참조하면, 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨이 비정상 패턴을 판단하는 기준이 될 수 있는 세부 유형별로 각각의 서브 허용 레벨을 포함하며, 각각의 서브 허용 레벨 별로 독립적으로 조정되는 형태임을 알 수 있다. 예를 들어, 콘텐츠를 처리하는 장치(100)가 학습에 따라, 상대방과의 관계에서 욕설이 조금 더 포함되는 콘텐츠라 하더라도 정상 패턴인 것으로 취급하고자 하는 경우, 비속어에 대응되는 서브 허용 레벨을 조금 더 높게 조정하도록 할 수 있다. 콘텐츠를 처리하는 장치(1000)는 콘텐츠에서 검출된 비정상 패턴의 유형에 대응되는 서브 허용 레벨을 사용자의 응답에 기초하여 조정할 수 있다.
도 5c를 참조하면, 사용자가 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는 기준인 허용 레벨의 수준을 변경시키고, 이에 따라 허용 레벨의 수준에 대응되는 예시 문장 또는 예시 사진이 사용자에게 제공되는 일 예를 나타내고 있다. 사용자가 허용 레벨의 수준을 직접 변경시키면, 변경된 허용 레벨이 어떤 수준이지 확인할 수 있도록 사용자에게 예시 문장 또는 예시 사진을 제공하는 것이다. 예를 들어, 사용자는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는 데이터 인식 모델의 학습을 위하여, 허용 레벨을 임의의 수준으로 변경시키고, 변경된 수준의 학습 데이터를 획득하여, 데이터 인식 모델을 학습시킬 수 있다. 허용 레벨의 수준 별 학습 데이터는 콘텐츠를 처리하는 장치(1000) 외부의 서버에 미리 마련되어 있을 수 있다. 도 5c에 도시된 바와 같이, 콘텐츠의 비정상 패턴 여부를 결정하는 허용 레벨이 비정상 패턴을 판단하는 기준이 될 수 있는 세부 유형별로 각각의 서브 허용 레벨을 포함하는 경우, 사용자는 각각의 서브 허용 레벨을 변경시키고, 변경된 수준의 학습 데이터를 획득하여, 데이터 인식 모델을 학습시킬 수 있다.
도 6a 및 도 6b는 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)에서, 학습 초기에서 허용 레벨의 적용과 학습 누적 시기에서 허용 레벨의 적용을 설명하기 위한 도면이다.
학습 초기 단계에서는, 콘텐츠를 처리하는 장치(1000)에 상대방 개개인마다 프라이빗 모델이 적용된 허용 레벨이 없고, 상대방이 속한 관계 유형에 따라 공공의 모델이 적용된 허용 레벨이 있다. 즉, 콘텐츠를 처리하는 장치(1000)는 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다.
도 6a의 도면을 보면, 상대방이 '친구 A'이고, 콘텐츠를 처리하는 장치(1000)에서 사용자가 메신저 애플리케이션을 실행하여 채팅창에 "야 임마 뭐하냐?"라는 텍스트 형태의 콘텐츠를 입력한 경우이다. 학습 초기 단계여서 '친구 A'에 대응되는 허용 레벨에 대한 정보가 없으므로, 관계 유형이 친구일 때 대응되는 소정의 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다. 그 결과, 친구 간에 보편적인 관습에 따라 욕설을 허용하지 않으므로, "야 뭐하냐?"라는 텍스트 형태의 콘텐츠는 비정상 패턴에 해당하는 것으로 결정되어, 콘텐츠를 처리하는 장치(1000)에 비정상 패턴이 검출되었음을 알리는 팝업 창이 생긴다. 이때, 팝업 창은 비정상 패턴임을 알리는 메시지를 포함하거나, 사용자에게 비정상 패턴으로 검출된 콘텐츠를 입력한 대로 상대방에게 전송할 것인지를 묻는 확인 메시지를 포함할 수 있다. 예를 들어, 도 6a에 도시된 바와 같이, 사용자가 팝업 창에 표시된 상대방 정보와 콘텐츠의 전송 여부를 확인하는 메시지를 보고도, 비정상 패턴으로 검출된 콘텐츠의 전송을 요청하는 입력을 하여, 비정상 패턴으로 검출된 콘텐츠의 전송을 진행시킨다면, 검출된 비정상 패턴을 무시한 이와 같은 사용자 응답에 기초하여, '친구 A'에 대응되는 허용 레벨이 조정될 수 있다.
도 6b의 도면을 보면, 상대방이 '친구 A'이고, 콘텐츠를 처리하는 장치(1000)에서 사용자가 메신저 애플리케이션을 실행하여 채팅창에 "야 임마 뭐하냐?"라는 텍스트 형태의 콘텐츠를 동일하게 입력하였으나, 이에 대해서는 도 6a의 도면과 같은 비정상 패턴이 검출되었음을 알리는 팝업 창이 생기지 않음을 알 수 있다. 학습 누적 단계에서, 친구 A에 대해 욕설이 허용됨을 학습함으로써, '친구 A'에 대응되는 허용 레벨이 조정되었기 때문이다.
도 7은 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)에서, 비정상 패턴에 해당하는 콘텐츠를 사용자가 무시하고 상대방에게 전송한 경우, 허용 레벨의 조정을 설명하기 위한 도면이다. 비정상 패턴에 해당하는 콘텐츠라고 판정되었음에도 불구하고, 사용자가 콘텐츠의 전송을 진행한 경우, 이와 같은 사용자의 응답을 학습하여, 이후, 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 허용 레벨이 자동으로 조정되는 것이다. 콘텐츠를 처리하는 장치(1000)에서, 비정상 패턴에 해당하는 것으로 검출된 콘텐츠를 사용자가 비정상 패턴에 해당함을 무시하고 상대방에게 콘텐츠를 전송한 경우, 동일한 상대방에 대해서는 비정상 패턴에 해당하는 것으로 검출된 콘텐츠가 추후 정상 패턴에 해당하는 것으로 판단될 수 있도록, 도 7에서 보는 바와 같이 허용 레벨이 자동으로 상향 조정됨을 알 수 있다.
도 8은 다른 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)를 설명하기 위한 블록도이다.
도 8에 도시된 바와 같이, 다른 일 실시예에 따른 콘텐츠를 처리하는 장치(1000)는 메모리(1100), 제어부(1200), 입출력부(1300), 센싱부(1400), 통신부(1500) 및 A/V 입력부(1600)를 포함할 수 있다.
메모리(1100)는 제어부(1200)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 콘텐츠를 처리하는 장치(1000)로 입력되거나 콘텐츠를 처리하는 장치(1000)로부터 출력되는 데이터를 저장할 수도 있다. 메모리(1100)는 컴퓨터 실행가능 명령어(computer executable instruction)를 저장할 수 있다.
메모리(1100)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
메모리(1100)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈, 터치 스크린 모듈, 알림 모듈 등으로 분류될 수 있다.
UI 모듈은, 애플리케이션 별로 콘텐츠를 처리하는 장치(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 제어부(1200)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈은 별도의 하드웨어로도 구성될 수도 있다. 사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다. 알림 모듈은 콘텐츠를 처리하는 장치(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 콘텐츠를 처리하는 장치(1000)에서 발생되는 이벤트의 예로는 메시지 수신, 키 신호 입력, 콘텐츠 입력, 콘텐츠 전송, 소정의 조건에 해당되는 콘텐츠 검출 등이 있다. 알림 모듈은 디스플레이부(1322)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1324)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1326)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.
제어부(1200)는, 통상적으로 콘텐츠를 처리하는 장치(1000)의 전반적인 동작을 제어한다. 예를 들어, 제어부(1200)는, 메모리(1100)에 저장된 프로그램들을 실행함으로써, 입출력부(1300), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다.
구체적으로, 제어부(1200)는 적어도 하나의 프로세서를 구비할 수 있다. 제어부(1200)는 그 기능 및 역할에 따라, 복수의 프로세서들을 포함하거나, 통합된 형태의 하나의 프로세서를 포함할 수 있다.
제어부(1200)는 메모리(1100)에 저장된 컴퓨터 실행가능 명령어를 실행함으로써, 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자로부터 입력된 콘텐츠를 분석하여 사용자의 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출하고, 추출된 특징과 허용 레벨에 기초하여, 비정상 패턴을 검출할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 콘텐츠가 비정상 패턴에 해당한 때, 사용자의 콘텐츠 전송 명령에 불구하고, 콘텐츠의 전송을 중지할 수 있다. 제어부(1200)는 비정상 패턴의 검출 알림을 콘텐츠의 전송 취소를 허용하는 조작 인터페이스와 함께 제공할 수 있도록 입출력부(1300)를 제어할 수 있다.
제어부(1200)는 콘텐츠가 비정상 패턴에 해당한 때, 비정상 패턴의 검출 알림에 대한 사용자의 응답에 기초하여, 허용 레벨을 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자가 비정상 패턴이 검출된 콘텐츠를 콘텐츠를 공유할 상대방에게 전송하면, 검출된 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 허용 레벨을 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자의 응답에 따라 상대방에 대한 콘텐츠의 정상 패턴을 누적하여 학습함으로써 허용 레벨을 점진적으로 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 허용 레벨이 비정상 패턴의 유형별로 각각의 서브 허용 레벨을 포함하는 형태인 경우, 콘텐츠에서 검출된 비정상 패턴의 유형에 대응되는 서브 허용 레벨을 사용자의 응답에 기초하여 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 사용자의 응답에 따라, 상대방에 대응되는 허용 레벨만을 독립적으로 조정할 수 있다.
제어부(1200)를 구성하는 적어도 하나의 프로세서는 콘텐츠가 비정상 패턴에 해당하지 않은 때, 컨텐츠의 전송 후 상대방 또는 사용자의 반응에 기초하여 허용 레벨을 조정할 수 있다.
한편, 허용 레벨은 상대방과 사용자 간의 친밀도를 나타내는 정보의 변화에 따라 변할 수 있다.
입출력부(1300)는 사용자 입력부(1310)와 출력부(1320)을 포함할 수 있다. 입출력부(1300)는 사용자 입력부(1310)와 출력부(1320)가 분리된 형태이거나, 터치스크린과 같이 통합된 하나의 형태일 수 있다.
입출력부(1300)는 사용자로부터 콘텐츠를 입력 받을 수 있다. 입출력부(1300)는 사용자에게 비정상 패턴의 검출을 알릴 수 있고, 이와 같은 알림에 대한 사용자의 응답을 입력 받을 수 있다.
사용자 입력부(1310)는, 사용자가 콘텐츠를 처리하는 장치(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미할 수 있다. 예를 들어, 사용자 입력부(1310)는 키 패드(key pad)(1312), 터치 패널(1314)(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 팬인식 패널(1316) 등이 될 수 있다. 뿐만 아니라, 사용자 입력부(1310)는 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
출력부(1320)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1320)는 디스플레이부(1322), 음향 출력부(1324), 및 진동 모터(1326)를 포함할 수 있다.
디스플레이부(1322)는 콘텐츠를 처리하는 장치(1000)에서 처리되는 정보를 표시 출력한다. 예를 들어, 디스플레이부(1322)는, 콘텐츠를 전송 또는 업로드 하기 위한 메신저 또는 SNS 애플리케이션의 실행 화면을 디스플레이 하거나, 사용자의 조작을 입력 받기 위한 사용자 인터페이스를 디스플레이 할 수 있다.
한편, 디스플레이부(1322)와 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(1322)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이부(1322)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고 콘텐츠를 처리하는 장치(1000)의 구현 형태에 따라 콘텐츠를 처리하는 장치(1000)는 디스플레이부(1322)를 2개 이상 포함할 수도 있다. 이때, 2개 이상의 디스플레이부(1322)는 힌지(hinge)를 이용하여 마주보게 배치될 수 있다.
음향 출력부(1324)는 통신부(1500)로부터 수신되거나 메모리(1100)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1324)는 콘텐츠를 처리하는 장치(1000)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다. 이러한 음향 출력부(1324)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
진동 모터(1326)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(1326)는 오디오 데이터 또는 비디오 데이터(예컨대, 호신호 수신음, 메시지 수신음 등)의 출력에 대응하는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1326)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다.
센싱부(1400)는, 콘텐츠를 처리하는 장치(1000)의 상태 또는 콘텐츠를 처리하는 장치(1000) 주변의 상태를 감지하고, 감지된 정보를 제어부(1200)로 전달할 수 있다.
센싱부(1400)는, 지자기 센서(Magnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.
통신부(1500)는, 콘텐츠를 처리하는 장치(1000)와 다른 장치 또는 서버 간의 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1500)는, 근거리 통신부(1510), 이동 통신부(1520), 방송 수신부(1530)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(1510)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1520)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
방송 수신부(1530)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 콘텐츠를 처리하는 장치(1000)가 방송 수신부(1530)를 포함하지 않을 수도 있다.
또한, 통신부(1500)는, 콘텐츠를 송수신 또는 업로드 하기 위하여 다른 장치, 서버, 주변 기기 등과 통신을 수행할 수 있다.
A/V(Audio/Video) 입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)은 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐 된 이미지는 제어부(1200) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다.
카메라(1610)에서 처리된 화상 프레임은 메모리(1100)에 저장되거나 통신부(1500)를 통하여 외부로 전송될 수 있다. 카메라(1610)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.
마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 외부 디바이스 또는 화자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1620)는 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다.
한편, 도 8에 도시된 콘텐츠를 처리하는 장치(1000)의 구성은 일 실시예이며, 콘텐츠를 처리하는 장치(1000)의 각 구성요소는 구현되는 콘텐츠를 처리하는 장치(1000)의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다.
도 9는 일 실시예에 따른 제어부(1200)의 블록도이다.
도 9를 참조하면, 일부 실시예에 따른 제어부(1200)는 데이터 학습부(1210) 및 데이터 인식부(1220)를 포함할 수 있다.
데이터 학습부(1210)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는 기준을 학습할 수 있다. 데이터 학습부(1210)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위하여 어떤 학습 데이터를 이용할 지, 학습 데이터를 이용하여 콘텐츠가 비정상 패턴에 해당하는지 여부를 어떻게 판단할 지에 관한 기준을 학습할 수 있다. 데이터 학습부(1210)는 학습에 이용될 학습 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는 기준을 학습할 수 있다.
데이터 학습부(1210)는 콘텐츠를 이용하여 데이터 인식 모델을 학습시켜 콘텐츠가 비정상 패턴에 해당하는지 여부를 추정하는 데이터 인식 모델을 생성할 수 있다. 이 경우, 콘텐츠는 텍스트, 이미지, 동영상 중 적어도 하나를 포함할 수 있다.
데이터 학습부(1210)는 학습 데이터로서, 콘텐츠, 콘텐츠를 공유하는 상대방 및 허용 레벨을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
일 실시예 따르면, 데이터 인식 모델은 텍스트가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 모델일 수 있다. 이 경우, 학습 데이터는 텍스트, 텍스트를 공유하는 상대방 및 허용 레벨 일 수 있다.
예를 들어, 학습 데이터는 "야" 라는 텍스트, "아버지" 라는 공유하는 상대방 및 "전송 금지 레벨" 인 허용 레벨 일 수 있다. 또한, 학습 데이터는 "야" 라는 텍스트, "친구" 라는 공유하는 상대방 그룹 및 "전송 가능 레벨" 인 허용 레벨 일 수 있다.
다양한 실시예에 따르면, 데이터 인식 모델은 이미지가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 모델일 수 있다. 이 경우, 학습 데이터는 이미지, 이미지를 공유하는 상대방 및 허용 레벨일 수 있다.
예를 들어, 학습 데이터는 "남녀가 포옹하는 이미지", "어머니" 라는 공유하는 상대방 및 "전송 금지 레벨" 인 허용 레벨 일 수 있다. 또한, 학습 데이터는 "남녀가 포옹하는 이미지", "친구"라는 공유하는 상대방 그룹 및 "전송 가능 레벨" 인 허용 레벨 일 수 있다.
이와 같이, 데이터 학습부(1210)는 동일한 콘텐츠에 대하여도 전송하는 대상에 따라서 상이한 허용 레벨을 가지는 다양한 데이터를 이용하여 데이터 인식 모델을 학습시킬 수 있다.
전술한 텍스트가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 모델, 이미지가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 모델은 동일한 인식 모델일 수 있고, 또는 서로 상이한 인식 모델일 수 있다. 또한, 상기 각각의 데이터 인식 모델은 복수의 데이터 인식 모델들로 구성되거나, 또는 하나의 데이터 인식 모델로 구성될 수 있다.
데이터 인식부(1220)는 다양한 종류의 인식 데이터에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 데이터 인식부(1220)는 학습된 데이터 인식 모델을 이용하여, 사용자로부터 입력된 콘텐츠와 입력된 콘텐츠를 공유할 상대방에 대한 데이터에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다.
데이터 인식부(1220)는 학습에 의한 기 설정된 기준에 따라 사용자로부터 입력된 콘텐츠와 입력된 콘텐츠를 공유할 상대방에 대한 데이터를 획득하고, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델을 이용함으로써, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 한편, 데이터 인식부(1220)는 사용자로부터 입력된 콘텐츠와 입력된 콘텐츠를 공유할 상대방에 대한 데이터를 데이터 인식 모델의 입력 값으로 하여 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단한 결과와 판단 결과에 대한 사용자의 응답을 데이터 인식 모델을 갱신하는데 이용할 수 있다.
일 실시예에 따르면, 데이터 인식 모델은 텍스트가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 모델일 수 있다. 이 경우, 데이터 인식부(1220)는 텍스트를 인식 데이터로 하여 데이터 인식 모델에 적용하여 텍스트가 비정상 패턴에 해당하는지 추정할 수 있다.
예를 들어, 문자 메신저 어플리케이션에서 "뭐하니?" 라는 텍스트가 입력되고, 전송 대상이 "어머니" 인 경우, 데이터 인식부(1220)는 "전송 불가 레벨"로 추정할 수 있다. 또한, 문자 어플리케이션에서 "뭐하니?" 라는 텍스트가 입력되고, 전송 대상이 "친구" 그룹에 속한 경우, 데이터 인식부(1220)는 "전송 가능 레벨"로 추정할 수 있다.
다양한 실시예에 따르면, 데이터 인식 모델은 이미지가 비정상 패턴에 해당하는 지 여부를 추정하도록 설정된 모델일 수 있다. 이 경우, 데이터 인식부(1220)는 이미지를 인식 데이터로 하여 데이터 인식 모델에 적용하여 이미지가 비정상 패턴에 해당하는지 추정할 수 있다.
예를 들어, 문자 메시지 어플리케이션에서 "수영복 입은 남자와 여자의 이미지"가 첨부되고, 전송 대상이 "가족" 그룹에 속한 경우, 데이터 인식부(1220)는 "전송 불가 레벨"로 추정할 수 있다. 또한, 문자 메시지 어플리케이션에서 "수영복 입은 남자와 여자의 이미지"가 첨부되고, 전송 대상이 "친구" 그룹에 속한 경우, 데이터 인식부(1220)는 "전송 가능 레벨"로 추정할 수 있다.
데이터 학습부(1210) 및 데이터 인식부(1220) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 학습부(1210) 및 데이터 인식부(1220) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
일 실시예에 따르면, 인공 지능을 위한 전용 하드웨어 칩은 확률 연산에 특화된 전용 프로세서로서, 기존의 범용 프로세서 보다 병렬처리 성능이 높아 기계 학습과 같은 인공 지능 분야의 연산 작업을 빠르게 처리할 수 있다.
데이터 학습부(1210) 및 데이터 인식부(1220)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(1210) 및 데이터 인식부(1220) 중 하나는 전자 장치에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(1210) 및 데이터 인식부(1220)는 유선 또는 무선으로 통하여, 데이터 학습부(1210)가 구축한 모델 정보를 데이터 인식부(1220)로 제공할 수도 있고, 데이터 인식부(1220)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(1210)로 제공될 수도 있다.
한편, 데이터 학습부(1210) 및 데이터 인식부(1220) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(1210) 및 데이터 인식부(1220) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 10은 일 실시예에 따른 데이터 학습부(1210)의 블록도이다.
도 10을 참조하면, 일부 실시예에 따른 데이터 학습부(1210)는 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5)를 포함할 수 있다. 일 실시예에 따르면, 데이터 학습부(1210)는 데이터 획득부(1210-1) 및 모델 학습부(1210-4)를 필수적으로 포함하고, 전처리부(1210-2), 학습 데이터 선택부(1210-3) 및 모델 평가부(1210-5) 중 적어도 하나를 선택적으로 더 포함하거나, 모두 포함하지 않을 수 있다.
데이터 획득부(1210-1)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는 기준을 학습하기 위하여 필요한 학습 데이터를 획득할 수 있다. 데이터 획득부(1210-1)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위한 학습을 위하여 필요한 학습 데이터를 획득할 수 있다.
예를 들어, 데이터 획득부(1210-1)는 학습 데이터로서 영상 데이터(예를 들어, 이미지, 동영상), 텍스트 데이터, 음성 데이터 등을 획득할 수 있다. 예를 들어, 데이터 획득부(1210-1)는 콘텐츠를 처리하는 장치(1000)의 사용자 입력부(1310)를 통해 직접 입력된 데이터나 선택된 데이터 등을 획득 할 수 있다. 또는, 데이터 획득부(1210-1)는 콘텐츠를 처리하는 장치(1000)와 통신하는 외부 장치를 통해 수신된 데이터를 획득할 수 있다.
데이터 획득부(1210-1)는 사용자로부터 입력 받은 데이터, 콘텐츠를 처리하는 장치(1000)에 기 저장된 데이터, 또는 서버로부터 수신된 데이터 등을 학습 데이터로서 획득할 수 있으나, 이에 제한되지 않는다. 데이터 획득부(1210-1)는 사용자로부터 입력 받은 데이터, 콘텐츠를 처리하는 장치(1000)에 기 저장된 데이터, 및 서버로부터 획득한 데이터를 조합하여 필요한 학습 데이터를 획득할 수도 있다.
데이터 획득부(1210-1)에서 획득할 수 있는 학습 데이터는 텍스트, 이미지, 동영상, 음성 중 적어도 하나의 데이터 형태를 포함할 수 있다. 예를 들어, 데이터 획득부(1210-1)는 이미지를 입력 받을 수 있다.
전처리부(1210-2)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단을 위한 학습에 획득된 학습 데이터가 이용될 수 있도록, 획득된 학습 데이터를 전처리할 수 있다. 전처리부(1210-2)는 후술할 모델 학습부(1210-4)가 상황 판단을 위한 학습을 위하여 획득된 학습 데이터를 이용할 수 있도록, 획득된 학습 데이터를 기 설정된 포맷으로 가공할 수 있다.
예를 들어, 전처리부(1210-2)는 데이터 획득부(1210-1)에서 획득한 텍스트, 이미지, 동영상, 음성 등의 학습 데이터에 대해, 의미 있는 데이터를 선별할 수 있도록 노이즈를 제거하거나, 소정의 형태로 가공할 수 있다.
학습 데이터 선택부(1210-3)는 전처리된 학습 데이터 중에서 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위한 학습에 필요한 학습 데이터를 선택할 수 있다. 선택된 학습 데이터는 모델 학습부(1210-4)에 제공될 수 있다. 학습 데이터 선택부(1210-3)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위한 기 설정된 기준에 따라, 전처리된 학습 데이터 중에서 콘텐츠가 비정상 패턴에 해당하는지 판단하기 위한 학습에 필요한 학습 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(1210-3)는 후술할 모델 학습부(1210-4)에 의한 학습에 의해 기 설정된 기준에 따라 학습 데이터를 선택할 수도 있다.
학습 데이터 선택부(1210-3)는 텍스트, 이미지, 동영상, 음성 등의 각각의 데이터 형태마다, 데이터 선택을 위한 기준을 가질 수 있으며, 이와 같은 기준을 이용하여 학습에 필요한 학습 데이터를 선택할 수 있다. 예를 들어, 학습 데이터 선택부(1210-3)는 텍스트, 이미지, 동영상, 음성 등의 콘텐츠를 송신하는 자와 수신하는 자 간의 관계를 나타내는 관계 유형이나, 콘텐츠에 포함된 텍스트, 이미지, 동영상, 음성 등으로부터 콘텐츠 전송에 대한 비정상 패턴에 해당하는지 여부를 결정하는 중요 파라미터 해당되는 핵심 특징들을 추출 할 수 있다.
모델 학습부(1210-4)는 학습 데이터에 기초하여 콘텐츠가 비정상 패턴에 해당하는지 여부를 어떻게 판단할 지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(1210-4)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위하여 어떤 학습 데이터를 이용해야 하는 지에 대한 기준을 학습할 수도 있다.
모델 학습부(1210-4)는 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단하는 기준을 학습할 수 있다. 모델 학습부(1210-4)는 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 기준을 학습하기 위해, 각각의 상대방에 대응되는 각각의 기준을 학습할 수 있다. 모델 학습부(1210-4)는 비정상 패턴의 유형별로 세분화된 기준들을 학습할 수도 있다. 모델 학습부(1210-4)는 학습의 누적 시기에 따라, 학습 초기에는 퍼블릭 모델을 기준으로 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단하는 기준을 학습할 수 있고, 이후 학습이 누적됨에 따라 특정 상대방에 대응되는 프라이빗 모델을 기준으로 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단하는 기준을 학습할 수 있다.
또한, 모델 학습부(1210-4)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는데 이용되는 데이터 인식 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 인식 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 인식 모델은 기본 학습 데이터(예를 들어, 샘플 텍스트 등)을 입력 받아 미리 구축된 모델일 수 있다.
데이터 인식 모델은, 인식 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 인식 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 데이터 인식 모델은 인간의 뇌 구조를 컴퓨터 상에서 모의하도록 설계될 수 있다. 데이터 인식 모델은 인간의 신경망의 뉴런(neuron)을 모의하는, 가중치를 가지는 복수의 네트워크 노드들을 포함할 수 있다. 복수의 네트워크 노드들은 시냅스(synapse)를 통하여 신호를 주고 받는 뉴런의 시냅틱(synaptic) 활동을 모의하도록 각각 연결 관계를 형성할 수 있다. 데이터 인식 모델은, 일 예로, 신경망 모델, 또는 신경망 모델에서 발전한 딥 러닝 모델을 포함할 수 있다. 딥 러닝 모델에서 복수의 네트워크 노드들은 서로 다른 깊이(또는, 레이어)에 위치하면서 컨볼루션(convolution) 연결 관계에 따라 데이터를 주고 받을 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 인식 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
다양한 실시예에 따르면, 모델 학습부(1210-4)는 미리 구축된 데이터 인식 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 인식 모델을 학습할 데이터 인식 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 인식 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(1210-4)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(1210-4)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1210-4)는, 예를 들어, 별다른 지도없이 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위해 필요한 학습 데이터의 종류를 스스로 학습함으로써, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1210-4)는, 예를 들어, 학습에 따른 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단한 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 데이터 인식 모델이 학습되면, 모델 학습부(1210-4)는 학습된 데이터 인식 모델을 저장할 수 있다. 이 경우, 모델 학습부(1210-4)는 학습된 데이터 인식 모델을 데이터 인식부(1220)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1210-4)는 학습된 데이터 인식 모델을 후술할 데이터 인식부(1220)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1210-4)는 학습된 데이터 인식 모델을 전자 장치와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 인식 모델이 저장되는 메모리는, 예를 들면, 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(1210-5)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(1210-4)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 인식 모델을 평가하기 위한 기 설정된 데이터일 수 있다.
예를 들어, 모델 평가부(1210-5)는 평가 데이터에 대한 학습된 데이터 인식 모델의 인식 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 인식 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(1210-5)는 학습된 데이터 인식 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 인식 모델이 복수 개가 존재하는 경우, 모델 평가부(1210-5)는 각각의 학습된 데이터 인식 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 인식 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(1210-5)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 인식 모델로서 결정할 수 있다.
한편, 데이터 학습부(1210) 내의 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1210-1), 전처리부(1210-2), 학습 데이터 선택부(1210-3), 모델 학습부(1210-4) 및 모델 평가부(1210-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 11은 일 실시예에 따른 데이터 인식부(1220)의 블록도이다.
도 11을 참조하면, 일부 실시예에 따른 데이터 인식부(1220)는 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5)를 포함할 수 있다. 일 실시예에 따르면, 데이터 인식부(1220)는 데이터 획득부(1220-1) 및 인식 결과 제공부(1220-4)를 필수적으로 포함하고, 전처리부(1220-2), 인식 데이터 선택부(1220-3) 및 모델 갱신부(1220-5) 중 적어도 하나를 선택적으로 더 포함하거나, 모두 포함하지 않을 수 있다.
데이터 인식부(1220)는 학습된 데이터 인식 모델을 이용하여, 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다.
데이터 획득부(1220-1)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위해 필요한 인식 데이터를 획득할 수 있다. 예를 들어, 데이터 획득부(1210-1)는 인식 데이터로서 영상 데이터, 텍스트 데이터, 음성 데이터 등을 획득할 수 있다. 예를 들어, 데이터 획득부(1210-1)는 콘텐츠를 처리하는 장치(1000)의 사용자 입력부(1310)를 통해 직접 입력된 데이터나 선택된 데이터 등을 획득 할 수 있다. 또는, 데이터 획득부(1210-1)는 콘텐츠를 처리하는 장치(1000)와 통신하는 외부 장치를 통해 수신된 데이터를 획득할 수 있다.
전처리부(1220-2)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위해 획득된 인식 데이터가 이용될 수 있도록, 획득된 인식 데이터를 전처리할 수 있다. 전처리부(1220-2)는 후술할 인식 결과 제공부(1220-4)가 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위하여 획득된 인식 데이터를 이용할 수 있도록, 획득된 인식 데이터를 기 설정된 포맷으로 가공할 수 있다.
예를 들어, 전처리부(1220-2)는 데이터 획득부(1220-1)에서 획득한 텍스트, 이미지, 동영상, 음성 등의 인식 데이터에 대해, 의미 있는 데이터를 선별할 수 있도록 노이즈를 제거하거나, 소정의 형태로 가공할 수 있다
인식 데이터 선택부(1220-3)는 전처리된 인식 데이터 중에서 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는데 필요한 인식 데이터를 선택할 수 있다. 선택된 인식 데이터는 인식 결과 제공부(1220-4)에게 제공될 수 있다. 인식 데이터 선택부(1220-3)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하기 위한 기 설정된 기준에 따라, 전처리된 인식 데이터 중에서 일부 또는 전부를 선택할 수 있다. 또한, 인식 데이터 선택부(1220-3)는 후술할 모델 학습부(1210-4)에 의한 학습에 의해 기 설정된 기준에 따라 인식 데이터를 선택할 수도 있다.
인식 결과 제공부(1220-4)는 선택된 인식 데이터를 데이터 인식 모델에 적용하여 상황을 판단할 수 있다. 인식 결과 제공부(1220-4)는 인식 데이터의 인식 목적에 따른 인식 결과를 제공할 수 있다. 인식 결과 제공부(1220-4)는 인식 데이터 선택부(1220-3)에 의해 선택된 인식 데이터를 입력 값으로 이용함으로써, 선택된 인식 데이터를 데이터 인식 모델에 적용할 수 있다. 또한, 인식 결과는 데이터 인식 모델에 의해 결정될 수 있다.
예를 들어, 인식 데이터 선택부(1220-3)는 콘텐츠를 입력하는 주체, 상대방에 대한 정보, 상호 간의 관계에 해당하는 인식 데이터를 선택할 수 있다. 또한, 인식 데이터 선택부(1220-3)는 사용자로부터 입력된 콘텐츠에서 일부 인식 데이터를 선택할 수 있다. 인식 데이터 선택부(1220-3)에서 선택된 적어도 하나의 인식 데이터는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 때, 상황 정보로써 이용될 수 있다.
인식 결과 제공부(1220-4)는 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단하는 기준에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 결정할 수 있다. 인식 결과 제공부(1220-4)는 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 기준에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 결정할 수 있다. 인식 결과 제공부(1220-4)는 비정상 패턴의 유형별로 세분화된 기준들을 이용할 수도 있다. 인식 결과 제공부(1220-4)는 학습의 누적 시기에 따라, 학습 초기에는 퍼블릭 모델을 기준으로 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단할 수 있고, 이후 학습이 누적됨에 따라 특정 상대방에 대응되는 프라이빗 모델을 기준으로 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단할 수 있다.
모델 갱신부(1220-5)는 인식 결과 제공부(1220-4)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 인식 모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(1220-5)는 인식 결과 제공부(1220-4)에 의해 제공되는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단한 결과를 모델 학습부(1210-4)에게 제공함으로써, 모델 학습부(1210-4)가 데이터 인식 모델을 갱신하도록 할 수 있다.
모델 갱신부(1220-5)는 콘텐츠가 비정상 패턴에 해당한 때, 비정상 패턴의 검출 알림에 대한 사용자의 응답에 기초하여, 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단하는 기준을 조정할 수 있다. 예를 들어, 모델 갱신부(1220-5)는 사용자가 비정상 패턴이 검출된 콘텐츠를 상대방에게 전송하면, 그 후 입력되는 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 기준을 조정할 수 있다. 모델 갱신부(1220-5)는 비정상 패턴의 유형별로 세분화된 기준들을 사용자의 응답에 기초하여 조정할 수도 있다. 모델 갱신부(1220-5)는 입력된 콘텐츠가 비정상 패턴에 해당하지 않은 때, 컨텐츠의 전송 후 상대방 또는 사용자의 반응에 기초하여, 입력된 콘텐츠가 비정상 패턴에 해당하는지 판단하는 기준을 조정할 수 있다.
한편, 데이터 인식부(1220) 내의 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1220-1), 전처리부(1220-2), 인식 데이터 선택부(1220-3), 인식 결과 제공부(1220-4) 및 모델 갱신부(1220-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 12는 일부 실시예에 따른 콘텐츠를 처리하는 장치(1000) 및 서버(2000)가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 12를 참조하면, 서버(2000)는 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단하는 기준을 학습할 수 있으며, 콘텐츠를 처리하는 장치(1000)는 서버(2000)에서 학습된 데이터 인식 모델을 이용하여, 사용자로부터 입력된 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다.
이 경우, 서버(2000)의 데이터 학습부(2210)는 도 10에 도시된 데이터 학습부(1210)의 기능을 수행할 수 있다. 서버(2000)의 데이터 학습부(2210)는 비정상 패턴에 해당하는지 여부를 판단하기 위하여 어떤 학습 데이터를 이용할지, 또는 학습 데이터를 이용하여 비정상 패턴에 해당하는지 여부를 판단하는 기준을 학습할 수 있다. 서버(2000)의 데이터 학습부(2210)는 학습에 이용될 학습 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 비정상 패턴에 해당하는지 여부를 판단하는 기준을 학습할 수 있다.
또한, 콘텐츠를 처리하는 장치(1000)의 인식 결과 제공부(1220-4)는 인식 데이터 선택부(1220-3)에 의해 선택된 인식 데이터를 서버(2000)에 의해 생성된 데이터 인식 모델에 적용하여 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 예를 들어, 인식 결과 제공부(1220-4)는 인식 데이터 선택부(1220-3)에 의해 선택된 인식 데이터를 서버(2000)에게 전송하고, 서버(2000)가 인식 데이터 선택부(1220-3)에 의해 선택된 인식 데이터를 데이터 인식 모델에 적용하여 비정상 패턴에 해당하는지 여부를 판단할 것을 요청할 수 있다. 또한, 인식 결과 제공부(1220-4)는 서버(2000)에 의해 판단된 비정상 패턴에 해당하는지 여부를 서버(2000)로부터 수신할 수 있다.
예를 들어, 콘텐츠를 처리하는 장치(1000)는 사용자로부터 입력된 콘텐츠와 콘텐츠를 처리하는 장치(1000)에서 획득된 상대방에 대한 데이터를 서버(2000)로 전송할 수 있다. 서버(2000)는 콘텐츠를 처리하는 장치(1000)로부터 수신된 콘텐츠와 상대방에 대한 데이터를 서버(2000)에 저장된 데이터 인식 모델에 적용시킴으로써, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 서버(2000)는 서버(2000)에서 획득된 상대방에 대한 데이터를 더 반영하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 서버(2000)에서 판단된 비정상 패턴에 해당하는지 여부는 콘텐츠를 처리하는 장치(1000)로 전송될 수 있다.
또는, 콘텐츠를 처리하는 장치(1000)의 인식 결과 제공부(1320-4)는 서버(2000)에 의해 생성된 데이터 인식 모델을 서버(2000)로부터 수신하고, 수신된 데이터 인식 모델을 이용하여 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 이 경우, 콘텐츠를 처리하는 장치(1000)의 인식 결과 제공부(1220-4)는 인식 데이터 선택부(1220-3)에 의해 선택된 인식 데이터를 서버(2000)로부터 수신된 데이터 인식 모델에 적용하여 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다.
예를 들어, 콘텐츠를 처리하는 장치(1000)는 사용자로부터 입력된 콘텐츠와 콘텐츠를 처리하는 장치(1000)에서 획득된 상대방에 대한 데이터를 서버(2000)로부터 수신된 데이터 인식 모델에 적용시킴으로써, 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 수 있다. 서버(2000)는 서버(2000)에서 획득된 상대방에 대한 데이터를 콘텐츠를 처리하는 장치(1000)로 전송하여, 콘텐츠를 처리하는 장치(1000)가 콘텐츠가 비정상 패턴에 해당하는지 여부를 판단할 때 더 이용하도록 할 수 있다.
도 13은 일 실시예에 따른 콘텐츠를 처리하는 방법을 나타내는 흐름도이다.
1310 단계에서, 콘텐츠를 처리하는 장치(1000)는 사용자로부터 콘텐츠를 입력 받는다.
1320 단계에서, 콘텐츠를 처리하는 장치(1000)는 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인한다.
콘텐츠를 처리하는 장치(1000)는 사용자로부터 입력된 콘텐츠를 분석하여 사용자의 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출하고, 추출된 특징과 허용 레벨에 기초하여, 비정상 패턴을 검출할 수 있다.
콘텐츠를 처리하는 장치(1000)는 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인할 수 있다.
1330 단계에서, 콘텐츠를 처리하는 장치(1000)는 콘텐츠가 비정상 패턴에 해당한 때, 사용자에게 비정상 패턴의 검출을 알려준다.
콘텐츠를 처리하는 장치(1000)는 콘텐츠가 비정상 패턴에 해당한 때, 사용자의 콘텐츠 전송 명령에 불구하고, 콘텐츠의 전송을 중지할 수 있다. 콘텐츠를 처리하는 장치(1000)는 비정상 패턴의 검출 알림을 콘텐츠의 전송 취소를 허용하는 조작 인터페이스와 함께 제공할 수 있다.
1340 단계에서, 콘텐츠를 처리하는 장치(1000)는 비정상 패턴의 검출 알림에 대한 사용자의 응답에 기초하여, 허용 레벨을 조정한다.
콘텐츠를 처리하는 장치(1000)는 사용자가 비정상 패턴이 검출된 콘텐츠를 콘텐츠를 공유할 상대방에게 전송하면, 검출된 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 허용 레벨을 조정할 수 있다.
콘텐츠를 처리하는 장치(1000)는 사용자의 응답에 따라 상대방에 대한 콘텐츠의 정상 패턴을 누적하여 학습함으로써 허용 레벨을 점진적으로 조정할 수 있다.
콘텐츠를 처리하는 장치(1000)는 허용 레벨이 비정상 패턴의 유형별로 각각의 서브 허용 레벨을 포함하는 형태인 경우, 콘텐츠에서 검출된 비정상 패턴의 유형에 대응되는 서브 허용 레벨을 사용자의 응답에 기초하여 조정할 수 있다.
콘텐츠를 처리하는 장치(1000)는 사용자의 응답에 따라, 상대방에 대응되는 허용 레벨만을 독립적으로 조정할 수 있다.
콘텐츠를 처리하는 장치(1000)는 콘텐츠가 비정상 패턴에 해당하지 않은 때, 컨텐츠의 전송 후 상대방 또는 사용자의 반응에 기초하여 허용 레벨을 조정할 수 있다.
도 14는 내지 도 15는 일 실시예에 따른 데이터 인식 모델을 이용하는 상황을 설명하는 도면들이다.
도 14 내지 도 15에서 제1 구성 요소(1401)는 콘텐츠를 처리하는 장치(1000)이고, 제2 구성 요소(1402)는 데이터 인식 모델이 저장된 서버(예: 도 12의 서버(2000))가 될 수 있다. 또는, 제1 구성 요소(1401)는 범용 프로세서이고, 제2 구성 요소(1402)은 인공 지능 전용 프로세서가 될 수 있다. 또는, 제1 구성 요소(1401)는 적어도 하나의 어플리케이션이 될 수 있고, 제2 구성 요소(1402)는 운영 체제(operating system, OS)가 될 수 있다.
즉, 제2 구성 요소(1402)는 제1 구성 요소(1401) 보다 더 집적화 되거나, 전용화 되거나, 딜레이(delay)가 작거나, 성능이 우세하거나 또는 많은 리소스를 가진 구성 요소로서, 데이터 인식 모델의 생성, 갱신 또는 적용 시에 요구되는 많은 연산을 제1 구성 요소(1401)보다 신속하고 효과적으로 처리할 수 있는 구성 요소가 될 수 있다. 다양한 실시예에 따르면, 제2 구성 요소(1402)와 유사한 기능을 수행하는 제3 구성 요소(1403)가 추가될 수 있다.
이 경우, 제1 구성 요소(1401) 및 제2 구성 요소(1402) 간의 데이터를 송/수신하기 위한 인터페이스가 정의될 수 있다.
예를 들면, 데이터 인식 모델에 적용할 학습 데이터를 인자 값(또는, 매개 값 또는 전달 값)으로 갖는 API(application program interface)가 정의될 수 있다. API는 어느 하나의 프로토콜(예를 들면, 콘텐츠를 처리하는 장치(1000)에서 정의된 프로토콜)에서 다른 프로토콜(예를 들면, 서버(2000)에서 정의된 프로토콜)의 어떤 처리를 위해 호출할 수 있는 서브 루틴 또는 함수의 집합으로 정의될 수 있다. 즉, API를 통하여 어느 하나의 프로토콜에서 다른 프로토콜의 동작이 수행될 수 있는 환경이 제공될 수 있다.
도 14는 제2 구성 요소가 데이터 인식 모델을 이용하여 콘텐츠가 비정상 패턴에 해당하는지 추정하는 상황을 설명하는 흐름도이다.
1410 단계에서, 제1 구성 요소(1401)는 사용자로부터 콘텐츠를 입력 받을 수 있다.
1420 단계에서, 제1 구성 요소(1401)는 입력 받은 콘텐츠의 패턴을 추정할 것을 제2 구성 요소(1402)에게 요청할 수 있다.
1430 단계에서, 제2 구성 요소(1402)는 사용자 로부터 입력된 콘텐츠를 데이터 인식 모델에 적용하여, 콘텐츠가 비정상 패턴에 해당하는지 추정할 수 있다.
제2 구성 요소(1402)에 포함된 데이터 인식부는 입력된 콘텐츠를 분석하여 콘텐츠의 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출하고, 추출된 특징과 콘텐츠를 공유하려는 상대방에 기초하여 허용 레벨을 추정하여 콘텐츠가 비정상 패턴에 해당하는지 추정할 수 있다.
1440 단계에서, 제2 구성 요소(1402)는 추정된 결과를 제1 구성 요소(1401)로 전송할 수 있다.
1450 단계에서, 제1 구성 요소(1401)는 콘텐츠가 비정상 패턴에 해당하는 경우, 사용자에게 비정상 패턴의 검출을 알릴 수 있다. 예를 들어, 제1 구성 요소(1401)는 콘텐츠를 전송하라는 사용자의 명령이 수신되어도, 비정상 패턴의 검출을 알리는 인터페이스를 표시하고, 전송 취소를 허용하는 조작 인터페이스를 생성할 수 있다.
1460 단계에서, 제1 구성 요소(1401)는 비정상 패턴의 검출 알림에 대한 사용자의 응답에 기초하여 허용 레벨을 조정할 수 있다. 예를 들어, 제1 구성 요소(1401)는 사용자가 콘텐츠를 전송하는 경우, 해당 콘텐츠 및 유사한 콘텐츠를 상대방과 관계에서 전공 가능 레벨로 조정할 수 있다.
다양한 실시예에 따르면, 제1 구성 요소(1401)는 컨텐츠의 전송 후 상대방 또는 사용자의 반응에 기초하여 허용 레벨을 조정할 수 있다.
도 15는 일 실시예에 따른 제2 구성 요소와 제3 구성 요소가 콘텐츠의 종류에 따라 각각 데이터 인식 모델을 이용하여 콘텐츠가 비정상 패턴에 해당하는지 추정하는 상황을 설명하는 흐름도이다.
일 실시예에 따르면, 제1 구성 요소(1401)와 제2 구성 요소(1402)는 콘텐츠를 처리하는 장치(1000)에 포함된 구성 요소들일 수 있고, 제3 구성 요소(1403)는 콘텐츠를 처리하는 장치(1000)의 외부에 위치하는 구성 요소일 수 있다. 그러나 이에 한정하는 것은 아니다.
1510 단계에서, 제1 구성 요소(1401)는 사용자로부터 콘텐츠를 입력 받을 수 있다.
1520 단계에서, 제1 구성 요소(1401)는 입력 받은 콘텐츠의 패턴을 추정할 것을 제2 구성 요소(1402)에게 요청할 수 있다.
1530 단계에서, 제2 구성 요소(1402)는 입력 받은 콘텐츠의 유형을 판단할 수 있다.
1540 단계에서, 콘텐츠가 텍스트인 경우, 제2 구성 요소(1402)는 입력된 텍스트를 텍스트가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 데이터 인식 모델에 적용하여, 텍스트가 비정상 패턴에 해당하는지 추정할 수 있다.
예를 들어, 제2 구성 요소(1402)에 포함된 데이터 인식부는 입력된 텍스트가 욕설, 인종 차별, 성차별 등 차별적인 단어를 포함하는지. 정중한 표현이 포함되는지 여부를 확인하고, 텍스트를 공유하려는 상대방에 기초하여 허용 레벨을 추정하여 텍스트가 비정상 패턴에 해당하는지 추정할 수 있다.
1550 단계에서, 제2 구성 요소(1402)는 추정된 결과를 제1 구성 요소(1401)로 전송할 수 있다.
1560 단계에서, 콘텐츠가 이미지인 경우, 제2 구성 요소(1402)는 입력 받은 이미지의 패턴을 추정할 것을 제3 구성 요소(1403)에게 요청할 수 있다.
1570 단계에서, 콘텐츠가 이미지인 경우, 제3 구성 요소(1403)는 입력된 이미지를 이미지가 비정상 패턴에 해당하는지 여부를 추정하도록 설정된 데이터 인식 모델에 적용하여, 이미지가 비정상 패턴에 해당하는지 추정할 수 있다.
예를 들어, 제3 구성 요소(1403)에 포함된 데이터 인식부는 입력된 이미지에서 인물이 검출되고, 검출된 인물에서 연주황색의 색상이 많이 포함되는지 확인하고, 이미지를 공유하려는 상대방에 기초하여 허용 레벨을 추정하여 이미지가 비정상 패턴에 해당하는지 추정할 수 있다.
1580 단계에서, 제3 구성 요소(1403)는 추정된 결과를 제1 구성 요소(1401)로 전송할 수 있다.
1590 단계에서, 제1 구성 요소(1401)는 콘텐츠가 비정상 패턴에 해당하는 경우, 사용자에게 비정상 패턴의 검출을 알릴 수 있다.
1595 단계에서, 제1 구성 요소(1401)는 비정상 패턴의 검출 알림에 대한 사용자의 응답에 기초하여 허용 레벨을 조정할 수 있다.
한편, 상술한 콘텐츠를 처리하는 방법은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 저장매체를 이용하여 이와 같은 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 이와 같은 컴퓨터로 읽을 수 있는 저장매체는 read-only memory (ROM), random-access memory (RAM), flash memory, CD-ROMs, CD-Rs, CD+Rs, CD-RWs, CD+RWs, DVD-ROMs, DVD-Rs, DVD+Rs, DVD-RWs, DVD+RWs, DVD-RAMs, BD-ROMs, BD-Rs, BD-R LTHs, BD-REs, 마그네틱 테이프, 플로피 디스크, 광자기 데이터 저장 장치, 광학 데이터 저장 장치, 하드 디스크, 솔리드-스테이트 디스크(SSD), 그리고 명령어 또는 소프트웨어, 관련 데이터, 데이터 파일, 및 데이터 구조들을 저장할 수 있고, 프로세서나 컴퓨터가 명령어를 실행할 수 있도록 프로세서나 컴퓨터에 명령어 또는 소프트웨어, 관련 데이터, 데이터 파일, 및 데이터 구조들을 제공할 수 있는 어떠한 장치라도 될 수 있다.
또한, 개시된 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)으로 제공될 수 있다.
컴퓨터 프로그램 제품은 S/W 프로그램, S/W 프로그램이 저장된 컴퓨터로 읽을 수 있는 저장 매체 또는 판매자 및 구매자 간에 거래되는 상품을 포함할 수 있다.
예를 들어, 컴퓨터 프로그램 제품은 콘텐츠를 처리하는 장치(1000) 또는 콘텐츠를 처리하는 장치(1000)의 제조사 또는 전자 마켓(예, 구글 플레이 스토어, 앱 스토어)을 통해 전자적으로 배포되는 S/W 프로그램 형태의 상품(예, 다운로더블 앱)을 포함할 수 있다. 전자적 배포를 위하여, S/W 프로그램의 적어도 일부는 저장 매체에 저장되거나, 임시적으로 생성될 수 있다. 이 경우, 저장 매체는 제조사 또는 전자 마켓의 서버, 또는 중계 서버의 저장 매체가 될 수 있다.
이제까지 실시예들을 중심으로 살펴보았다. 개시된 실시예들이 속하는 기술 분야에서 통상의 지식을 가진 자는 개시된 실시예들이 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 발명의 범위는 전술한 실시예들의 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 발명의 범위에 포함된 것으로 해석되어야 할 것이다.
Claims (21)
- 컴퓨터 실행가능 명령어(computer executable instruction)를 저장하는 메모리;
상기 컴퓨터 실행가능 명령어를 실행함으로써, 사용자로부터 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 상기 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인하고, 상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 비정상 패턴의 검출 알림에 대한 상기 사용자의 응답에 기초하여, 상기 허용 레벨을 조정하는 적어도 하나의 프로세서; 및
상기 사용자로부터 상기 콘텐츠를 입력 받고, 상기 사용자에게 상기 비정상 패턴의 검출을 알리며, 상기 알림에 대한 상기 사용자의 응답을 입력 받는 입출력부;
를 포함하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 사용자가 상기 비정상 패턴이 검출된 상기 콘텐츠를 상기 콘텐츠를 공유할 상대방에게 전송하면, 상기 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 상기 허용 레벨을 조정하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 사용자의 응답에 따라 상기 상대방에 대한 콘텐츠의 정상 패턴을 누적하여 학습함으로써 상기 허용 레벨을 점진적으로 조정하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 허용 레벨은 비정상 패턴의 유형별로 각각의 서브 허용 레벨을 포함하고,
상기 적어도 하나의 프로세서는,
상기 콘텐츠에서 검출된 상기 비정상 패턴의 유형에 대응되는 서브 허용 레벨을 상기 사용자의 응답에 기초하여 조정하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 사용자의 응답에 따라, 상기 상대방에 대응되는 상기 허용 레벨만을 독립적으로 조정하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 콘텐츠가 상기 비정상 패턴에 해당하지 않은 때, 상기 콘텐츠의 전송 후 상기 상대방 또는 상기 사용자의 반응에 기초하여 상기 허용 레벨을 조정하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 입력된 콘텐츠를 분석하여 상기 사용자의 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출하고, 상기 추출된 특징과 상기 허용 레벨에 기초하여, 상기 비정상 패턴을 검출하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 상기 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 상기 콘텐츠가 상기 비정상 패턴에 해당하는지 여부를 확인하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 적어도 하나의 프로세서는 상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 콘텐츠의 전송을 중지하고,
상기 입출력부는 상기 비정상 패턴의 검출 알림을 상기 콘텐츠의 전송 취소를 허용하는 조작 인터페이스와 함께 제공하는, 콘텐츠를 처리하는 장치.
- 제 1 항에 있어서,
상기 허용 레벨은 상기 상대방과 상기 사용자 간의 친밀도를 나타내는 정보의 변화에 따라 변하는, 콘텐츠를 처리하는 장치.
- 사용자로부터 콘텐츠를 입력 받는 단계;
상기 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 상기 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인하는 단계;
상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 사용자에게 상기 비정상 패턴의 검출을 알리는 알림을 생성하는 단계; 및
상기 알림에 대한 상기 사용자의 응답에 기초하여, 상기 허용 레벨을 조정하는 단계;
를 포함하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 허용 레벨을 조정하는 단계는,
상기 사용자가 상기 비정상 패턴이 검출된 상기 콘텐츠를 상기 입력된 콘텐츠를 공유할 상대방에게 전송하면, 상기 비정상 패턴에 상응하는 유사 콘텐츠가 정상 패턴으로 취급되도록 상기 허용 레벨을 조정하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 허용 레벨을 조정하는 단계는,
상기 사용자의 응답에 따라 상기 상대방에 대한 콘텐츠의 정상 패턴을 누적하여 학습함으로써 상기 허용 레벨을 점진적으로 조정하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 허용 레벨은 비정상 패턴의 유형별로 각각의 서브 허용 레벨을 포함하고,
상기 허용 레벨을 조정하는 단계는,
상기 콘텐츠에서 검출된 상기 비정상 패턴의 유형에 대응되는 서브 허용 레벨을 상기 사용자의 응답에 기초하여 조정하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 허용 레벨을 조정하는 단계는,
상기 사용자의 응답에 따라, 상기 상대방에 대응되는 상기 허용 레벨만을 독립적으로 조정하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 콘텐츠가 상기 비정상 패턴에 해당하지 않은 때, 상기 콘텐츠의 전송 후 상기 상대방 또는 상기 사용자의 반응에 기초하여 상기 허용 레벨을 조정하는 단계를 더 포함하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 확인하는 단계는,
상기 입력된 콘텐츠를 분석하여 상기 사용자의 패턴을 파악하는데 이용되는 적어도 하나의 특징을 추출하는 단계; 및
상기 추출된 특징과 상기 허용 레벨에 기초하여, 상기 비정상 패턴을 검출하는 단계;
를 포함하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 확인하는 단계는,
상기 상대방에 대응되는 허용 레벨에 대한 정보가 없는 경우, 상기 상대방이 속한 관계 유형에 대응되는 소정의 허용 레벨에 기초하여, 상기 콘텐츠가 상기 비정상 패턴에 해당하는지 여부를 확인하는, 콘텐츠를 처리하는 방법.
- 제 11 항에 있어서,
상기 비정상 패턴의 검출을 알려주는 단계는,
상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 콘텐츠의 전송을 중지하는 단계; 및
상기 비정상 패턴의 검출 알림을 상기 콘텐츠의 전송 취소를 허용하는 조작 인터페이스와 함께 제공하는 단계;
를 포함하는, 콘텐츠를 처리하는 방법.
- 사용자로부터 콘텐츠를 입력 받는 단계;
상기 입력된 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 기초하여, 상기 콘텐츠가 비정상 패턴에 해당하는지 여부를 확인하는 단계;
상기 콘텐츠가 상기 비정상 패턴에 해당한 때, 상기 사용자에게 상기 비정상 패턴의 검출을 알리는 알림을 생성하는 단계; 및
상기 알림에 대한 상기 사용자의 응답에 기초하여, 상기 허용 레벨을 조정하는 단계를 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
- 입출력부;
메모리;
프로세서; 를 포함하고,
상기 메모리는, 상기 프로세서가,
적어도 하나의 콘텐츠를, 콘텐츠를 공유할 상대방에 대응되는 허용 레벨에 따라 콘텐츠의 비정상 패턴 여부를 추정하도록 설정된 데이터 인식 모델에 적용하여 상기 콘텐츠에 대한 비정상 패턴 여부를 추정하고,
상기 콘텐츠가 비정상 패턴에 포함되는 것으로 추정되는 경우, 상기 콘텐츠가 비정상 패턴에 포함되는 것을 알리는 알림을 출력하고, 상기 알림에 대한 사용자의 응답을 수신하도록 상기 입출력부를 제어하고, 상기 응답에 기초하여 상기 데이터 인식 모델을 갱신하도록 설정된 명령어들을 저장하고,
상기 데이터 인식 모델은 콘텐츠, 콘텐츠를 공유하는 상대방 및 허용 레벨을 학습 데이터로 하여 학습된 모델인, 콘텐츠를 처리하는 장치.
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/KR2018/000157 WO2018128403A1 (en) | 2017-01-06 | 2018-01-04 | Apparatus and method for processing content |
| CN201880005826.3A CN110168543A (zh) | 2017-01-06 | 2018-01-04 | 用于处理内容的装置和方法 |
| EP18735834.6A EP3529774A4 (en) | 2017-01-06 | 2018-01-04 | DEVICE AND METHOD FOR PROCESSING CONTENT |
| US15/863,274 US20180197094A1 (en) | 2017-01-06 | 2018-01-05 | Apparatus and method for processing content |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR20170002553 | 2017-01-06 | ||
| KR1020170002553 | 2017-01-06 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20180081444A true KR20180081444A (ko) | 2018-07-16 |
Family
ID=63105683
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020170165235A KR20180081444A (ko) | 2017-01-06 | 2017-12-04 | 콘텐츠를 처리하는 장치 및 방법 |
Country Status (3)
| Country | Link |
|---|---|
| EP (1) | EP3529774A4 (ko) |
| KR (1) | KR20180081444A (ko) |
| CN (1) | CN110168543A (ko) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102188205B1 (ko) | 2020-05-12 | 2020-12-08 | 주식회사 애터미아자 | 마케팅 콘텐츠에 대한 감수 장치 및 방법 |
| WO2020257304A1 (en) * | 2019-06-18 | 2020-12-24 | Verint Americas Inc. | Detecting anomalies in textual items using cross-entropies |
| US11314789B2 (en) | 2019-04-04 | 2022-04-26 | Cognyte Technologies Israel Ltd. | System and method for improved anomaly detection using relationship graphs |
| US11334832B2 (en) | 2018-10-03 | 2022-05-17 | Verint Americas Inc. | Risk assessment using Poisson Shelves |
| KR102451552B1 (ko) * | 2021-06-21 | 2022-10-06 | 강미현 | 딥 러닝 기반의 콘텐츠의 진위를 판단하기 위한 콘텐츠 분석 시스템 |
| US11567914B2 (en) | 2018-09-14 | 2023-01-31 | Verint Americas Inc. | Framework and method for the automated determination of classes and anomaly detection methods for time series |
| US11610580B2 (en) | 2019-03-07 | 2023-03-21 | Verint Americas Inc. | System and method for determining reasons for anomalies using cross entropy ranking of textual items |
| EP3918500B1 (en) * | 2019-03-05 | 2024-04-24 | Siemens Industry Software Inc. | Machine learning-based anomaly detections for embedded software applications |
| US12032543B2 (en) | 2023-01-30 | 2024-07-09 | Verint Americas Inc. | Framework for the automated determination of classes and anomaly detection methods for time series |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7496628B2 (en) * | 2003-02-25 | 2009-02-24 | Susquehanna International Group, Llp | Electronic message filter |
| US7219148B2 (en) * | 2003-03-03 | 2007-05-15 | Microsoft Corporation | Feedback loop for spam prevention |
| US7711779B2 (en) * | 2003-06-20 | 2010-05-04 | Microsoft Corporation | Prevention of outgoing spam |
| CN105099853A (zh) * | 2014-04-25 | 2015-11-25 | 国际商业机器公司 | 用于防止消息误发的方法和系统 |
-
2017
- 2017-12-04 KR KR1020170165235A patent/KR20180081444A/ko active Search and Examination
-
2018
- 2018-01-04 CN CN201880005826.3A patent/CN110168543A/zh not_active Withdrawn
- 2018-01-04 EP EP18735834.6A patent/EP3529774A4/en not_active Withdrawn
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11567914B2 (en) | 2018-09-14 | 2023-01-31 | Verint Americas Inc. | Framework and method for the automated determination of classes and anomaly detection methods for time series |
| US11334832B2 (en) | 2018-10-03 | 2022-05-17 | Verint Americas Inc. | Risk assessment using Poisson Shelves |
| US11842312B2 (en) | 2018-10-03 | 2023-12-12 | Verint Americas Inc. | Multivariate risk assessment via Poisson shelves |
| US11842311B2 (en) | 2018-10-03 | 2023-12-12 | Verint Americas Inc. | Multivariate risk assessment via Poisson Shelves |
| US11928634B2 (en) | 2018-10-03 | 2024-03-12 | Verint Americas Inc. | Multivariate risk assessment via poisson shelves |
| EP3918500B1 (en) * | 2019-03-05 | 2024-04-24 | Siemens Industry Software Inc. | Machine learning-based anomaly detections for embedded software applications |
| US11610580B2 (en) | 2019-03-07 | 2023-03-21 | Verint Americas Inc. | System and method for determining reasons for anomalies using cross entropy ranking of textual items |
| US11314789B2 (en) | 2019-04-04 | 2022-04-26 | Cognyte Technologies Israel Ltd. | System and method for improved anomaly detection using relationship graphs |
| US11514251B2 (en) | 2019-06-18 | 2022-11-29 | Verint Americas Inc. | Detecting anomalies in textual items using cross-entropies |
| WO2020257304A1 (en) * | 2019-06-18 | 2020-12-24 | Verint Americas Inc. | Detecting anomalies in textual items using cross-entropies |
| KR102188205B1 (ko) | 2020-05-12 | 2020-12-08 | 주식회사 애터미아자 | 마케팅 콘텐츠에 대한 감수 장치 및 방법 |
| KR102451552B1 (ko) * | 2021-06-21 | 2022-10-06 | 강미현 | 딥 러닝 기반의 콘텐츠의 진위를 판단하기 위한 콘텐츠 분석 시스템 |
| US12032543B2 (en) | 2023-01-30 | 2024-07-09 | Verint Americas Inc. | Framework for the automated determination of classes and anomaly detection methods for time series |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3529774A1 (en) | 2019-08-28 |
| CN110168543A (zh) | 2019-08-23 |
| EP3529774A4 (en) | 2019-11-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11042728B2 (en) | Electronic apparatus for recognition of a user and operation method thereof | |
| KR20180081444A (ko) | 콘텐츠를 처리하는 장치 및 방법 | |
| KR102501714B1 (ko) | 사용자의 음성 입력에 대한 답변 메시지를 제공하는 디바이스 및 방법 | |
| KR102426435B1 (ko) | 사용자 입력에 기반한 문장을 제공하는 장치 및 방법 | |
| US11126833B2 (en) | Artificial intelligence apparatus for recognizing user from image data and method for the same | |
| US20180197094A1 (en) | Apparatus and method for processing content | |
| EP3756185B1 (en) | Electronic device for outputting response to speech input by using application and operation method thereof | |
| CN111226193A (zh) | 电子设备及改变聊天机器人的方法 | |
| CN112805743A (zh) | 用于基于知识图谱来提供内容的系统和方法 | |
| US11475218B2 (en) | Apparatus and method for providing sentence based on user input | |
| KR102530045B1 (ko) | 전자 장치 및 그 동작 방법 | |
| US11876925B2 (en) | Electronic device and method for controlling the electronic device to provide output information of event based on context | |
| KR20180111467A (ko) | 사용자 감정 판단을 위한 전자 장치 및 이의 제어 방법 | |
| KR102420567B1 (ko) | 음성 인식 장치 및 방법 | |
| KR102628042B1 (ko) | 연락처 정보를 추천하는 방법 및 디바이스 | |
| KR20180055708A (ko) | 이미지를 처리하는 전자 장치 및 방법 | |
| KR102474246B1 (ko) | 복수 개의 전자 디바이스를 이용하여 신경망 모델을 처리하는 방법 및 시스템 | |
| US11153426B2 (en) | Electronic device and control method thereof | |
| KR102531654B1 (ko) | 음성 입력 인증 디바이스 및 그 방법 | |
| KR102630820B1 (ko) | 메신저 피싱 또는 보이스 피싱을 감지하는 전자 장치 및 그 동작 방법 | |
| EP3635545B1 (en) | Device and method for providing response to device usage inquiry | |
| KR102464906B1 (ko) | 패션 상품을 추천하는 전자 장치, 서버 및 그 동작 방법 | |
| KR20190031786A (ko) | 전자 장치 및 이의 피드백 정보 획득 방법 | |
| KR20180044187A (ko) | 사용자로부터 입력된 문자에 대한 추천 단어를 제공하는 디바이스 및 방법 | |
| KR102185369B1 (ko) | 사용자와의 대화를 위한 정보를 생성하는 시스템 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination |