KR102441455B1 - 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법 - Google Patents

시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법 Download PDF

Info

Publication number
KR102441455B1
KR102441455B1 KR1020200055062A KR20200055062A KR102441455B1 KR 102441455 B1 KR102441455 B1 KR 102441455B1 KR 1020200055062 A KR1020200055062 A KR 1020200055062A KR 20200055062 A KR20200055062 A KR 20200055062A KR 102441455 B1 KR102441455 B1 KR 102441455B1
Authority
KR
South Korea
Prior art keywords
media
user
service
effect
selected media
Prior art date
Application number
KR1020200055062A
Other languages
English (en)
Other versions
KR20210136599A (ko
Inventor
고인영
백경덕
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020200055062A priority Critical patent/KR102441455B1/ko
Priority to US17/157,470 priority patent/US11637904B2/en
Publication of KR20210136599A publication Critical patent/KR20210136599A/ko
Application granted granted Critical
Publication of KR102441455B1 publication Critical patent/KR102441455B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/51Discovery or management thereof, e.g. service location protocol [SLP] or web services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16YINFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y10/00Economic sectors
    • G16Y10/75Information technology; Communication
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16YINFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y40/00IoT characterised by the purpose of the information processing
    • G16Y40/10Detection; Monitoring
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16YINFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y40/00IoT characterised by the purpose of the information processing
    • G16Y40/20Analytics; Diagnosis
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16YINFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y40/00IoT characterised by the purpose of the information processing
    • G16Y40/30Control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/535Tracking the activity of the user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Accounting & Taxation (AREA)
  • Economics (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Nitrogen Condensed Heterocyclic Rings (AREA)
  • Electrostatic Charge, Transfer And Separation In Electrography (AREA)
  • Pharmaceuticals Containing Other Organic And Inorganic Compounds (AREA)

Abstract

다양한 실시예들에 따른 전자 장치 및 그의 동작 방법은, 시각적 IoT(internet of things) 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 것으로, IoT 서비스 환경에서 사용자를 모니터링하고, IoT 서비스 환경에서 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하고, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어 중 어느 하나를 선택하고, 선택된 미디어를 통해 사용자를 위한 서비스를 제공하도록 구성될 수 있다.

Description

시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법{ELECTONIC DEVICE FOR EFFECT-DRIVEN DYNAMIC SELECTION OF PHYSICAL MEDIA FOR VISUAL IOT SERVICE USING REINFORCEMENT LEARNING AND OPERATING METHOD THEREOF}
다양한 실시예들은 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법에 관한 것이다.
최근에는 물리적 환경에 구축된 사물인터넷(IoT) 기기를 활용하여 서비스를 제공할 수 있는 웹 서비스가 확대되고 있다. 기존 웹 환경과 물리적 IoT 환경 사이의 격차를 메우기 위해 서비스 지향 컴퓨팅 기법을 재점검하고 있으며, IoT 서비스에 대한 새로운 설계 개념과 기법을 적극적으로 정의·개발하고 있다. 서비스 지향 컴퓨팅의 핵심 과제 중 하나인 자동화된 서비스 선택은 기능적으로 동등한 후보 서비스의 품질 속성을 평가하고, 사용자의 상황 및 환경 조건 등을 고려하여 사용자에게 가장 적합한 서비스를 선택하기 위한 의사결정 과정이다. 그런데, 기존에는, 네트워크 수준 서비스 품질 속성만을 고려하여, 사용자를 위한 서비스를 제공하고 있다. 이는, 사용자에게 가장 적합한 서비스를 제공하기에 불충분하다.
다양한 실시예들은, IoT 서비스 환경에서 사용자를 위한 물리적 효과를 고려하여, 사용자를 위한 서비스를 제공할 수 있는 전자 장치 및 그의 동작 방법을 제공한다.
다양한 실시예들은, IoT 서비스 환경에서 사용자를 위한 지속적인 물리적 효과를 생성할 수 있는 전자 장치 및 그의 동작 방법을 제공한다.
다양한 실시예들은, 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법을 제공한다.
다양한 실시예들에 따른 전자 장치의 동작 방법은, IoT 서비스 환경에서 사용자를 모니터링하는 동작, 상기 IoT 서비스 환경에서 상기 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하는 동작, 상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작, 및 상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하는 동작을 포함할 수 있다.
다양한 실시예들에 따른 전자 장치는, 메모리, 및 상기 메모리와 연결되고, 상기 메모리에 저장된 적어도 하나의 명령을 실행하도록 구성된 프로세서를 포함하고, 상기 프로세서는, IoT 서비스 환경에서 사용자를 모니터링하고, 상기 IoT 서비스 환경에서 상기 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하고, 상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하고, 상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하도록 구성될 수 있다.
다양한 실시예들에 따른 컴퓨터 프로그램은, 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되며, IoT 서비스 환경에서 사용자를 모니터링하는 동작, 상기 IoT 서비스 환경에서 상기 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하는 동작, 상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작, 및 상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하는 동작을 실행할 수 있다.
다양한 실시예들에 따르면, 전자 장치가 IoT 서비스 환경에서 사용자를 위한 서비스를 제공하면서 계속해서 사용자를 모니터링할 수 있다. 이를 통해, 전자 장치는 IoT 서비스 환경에서 사용자를 위해 최적의 서비스를 제공할 수 있는 미디어를 동적으로 선택할 수 있다. 이 때 전자 장치는 미디어를 동적으로 선택하는 데 있어서, 미디어 간 핸드오버의 횟수를 최소화할 수 있다. 이에 따라, 사용자를 위한 서비스에 대응하는 물리적 효과가 지속적이고 효과적으로 생성될 수 있다.
도 1은 다양한 실시예들과 관련된 IoT 서비스를 설명하기 위한 도면이다.
도 2는 다양한 실시예들에 따른 전자 장치가 IoT 서비스를 제공하기 위한 환경 모델을 설명하기 위한 도면이다.
도 3은 도 2의 환경 모델에서 사용자와 관련된 사용자 모델을 설명하기 위한 도면이다.
도 4는 도 2의 환경 모델에서 IoT 서비스 환경과 관련된 IoT 서비스 모델을 설명하기 위한 도면이다.
도 5는 다양한 실시예들에 따른 전자 장치를 도시하는 도면이다.
도 6은 다양한 실시예들에 따른 전자 장치의 동작 특징을 설명하기 위한 도면이다.
도 7은 다양한 실시예들에 따른 전자 장치의 동작 방법을 도시하는 도면이다.
도 8은 도 7에서 사용자를 모니터링하는 동작을 설명하기 위한 도면이다.
도 9는 도 7에서 시각적 서비스 효과를 예측하는 동작을 예시적으로 설명하기 위한 도면이다.
도 10은 도 7에서 미디어를 선택하는 동작을 예시적으로 설명하기 위한 도면이다.
도 11은 도 7의 서비스를 제공하는 동작의 일 예를 도시하는 도면이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 설명된다.
도 1은 다양한 실시예들과 관련된 IoT 서비스(internet of things)를 설명하기 위한 도면이다.
도 1을 참조하면, 다양한 실시예들에 따른 전자 장치(100)는 사용자(user)(102)를 위한 IoT 서비스를 제공할 수 있다. 예를 들면, 전자 장치(100)는 서버(server)를 포함할 수 있다. 이 때 전자 장치(100)는 적어도 하나의 미디어(media)(104)를 통해 IoT 서비스를 제공할 수 있다. 여기서, 미디어(104)는 IoT 서비스와 관련된 정보를 출력할 수 있다. 예를 들면, 미디어(104)는 표시 장치 또는 오디오 재생 장치 중 적어도 어느 하나를 포함할 수 있다. 이에 따라, 사용자(102)는 미디어(104)로부터의 물리적 효과(physical effect)를 통해 IoT 서비스를 감지할 수 있다. 여기서, 물리적 효과는 시각적 효과 또는 청각적 효과 중 적어도 어느 하나를 포함할 수 있다. 예를 들면, 사용자(102)는 직접적으로 또는 휴대 기기를 통해, 미디어(104)로부터 IoT 서비스와 관련된 정보를 인지할 수 있다.
도 2는 다양한 실시예들에 따른 전자 장치(100)가 IoT 서비스를 제공하기 위한 환경 모델(200)을 설명하기 위한 도면이다.
도 2를 참조하면, 환경 모델(200)은 시간(t)에 따라 정의되며, 사용자(102) 및 적어도 하나의 미디어(104)가 배치되는 IoT 서비스 환경에 의해 정의될 수 있다. 예를 들면, 환경 모델(200)은 하기 [수학식 1]과 같이 정의될 수 있다. 여기서, 미디어(104)로부터 사용자(102)로의 물리적 효과를 차단할 수 있는 장애물이 없는 것으로 가정될 수 있다. 환경 모델(200)에서, 사용자(102)의 위치와 미디어(104)의 위치는 x축, y축 및 z축의 좌표로 정의되고, 이를 기반으로 사용자(102)의 위치와 미디어(104)의 위치 사이의 거리가 하기 [수학식 2]와 같이 정의될 수 있다.
Figure 112020046719722-pat00001
Figure 112020046719722-pat00002
여기서,
Figure 112020046719722-pat00003
는 환경 모델(200)을 나타내고,
Figure 112020046719722-pat00004
는 사용자(102)를 나타내고,
Figure 112020046719722-pat00005
는 미디어(104)의 집합을 나타내고,
Figure 112020046719722-pat00006
는 시각적 IoT 환경을 나타내고,
Figure 112020046719722-pat00007
는 사용자(102)의 위치를 나타내고,
Figure 112020046719722-pat00008
는 미디어(104)의 위치를 나타낼 수 있다.
도 3은 도 2의 환경 모델(200)에서 사용자(102)와 관련된 사용자 모델(300)을 설명하기 위한 도면이다.
도 3을 참조하면, 사용자 모델(300)은, 사용자(102)가 IoT 서비스와 관련된 정보를 인지하는 데 영향을 미칠 수 있는 사용자(102)의 조건 및 상태를 나타낼 수 있다. 이 때 사용자 모델(300)은 시간(t)에 따라 정의되며, 사용자(102)의 위치, 사용자(102)의 방향 또는 사용자(102) 눈의 이동성 중 적어도 어느 하나에 의해 정의될 수 있다. 예를 들면, 사용자 모델(300)은 하기 [수학식 3]과 같이 정의될 수 있다. 그리고, 사용자(102) 눈의 이동성은 하기 [수학식 4]와 같이 이동 속도와 이동 방향으로 이루어질 수 있으며, 이를 기반으로 사용자(102)의 수직 시야각(FoV(vertical))과 수평 시야각(FoV(horizontal))이 정의될 수 있다.
Figure 112020046719722-pat00009
Figure 112020046719722-pat00010
여기서,
Figure 112020046719722-pat00011
는 사용자 모델(300)을 나타내고,
Figure 112020046719722-pat00012
는 사용자(102)의 위치를 나타내고,
Figure 112020046719722-pat00013
는 사용자(102)의 방향을 나타내고,
Figure 112020046719722-pat00014
는 사용자(102) 눈의 이동성을 나타내고,
Figure 112020046719722-pat00015
는 사용자(102)의 이동 속도를 나타내고,
Figure 112020046719722-pat00016
는 사용자(102)의 이동 방향을 나타낼 수 있다.
도 4는 도 2의 환경 모델(200)에서 IoT 서비스 환경과 관련된 IoT 서비스 모델(400)을 설명하기 위한 도면이다.
도 4를 참조하면, IoT 서비스 모델(400)은, 적어도 하나의 미디어(104)를 이용하여 시각적 콘텐츠를 제공하는 동작을 나타낼 수 있다. 이 때 IoT 서비스 모델(400)은 시간(t)에 따라 정의되며, 시각적 콘텐츠 또는 시간(t)에 따라 선택된 미디어(104) 중 적어도 어느 하나에 의해 정의될 수 있다. 예를 들면, IoT 서비스 모델(400)은 하기 [수학식 5]와 같이 정의될 수 있다. 미디어(104)는 시각적 콘텐츠를 출력하기 위한 물리적 장치로서, 미디어(104)의 크기, 미디어(104)의 해상도, 미디어(104)의 위치 또는 미디어(104)의 방향 중 적어도 어느 하나로 정의될 수 있다. 예를 들면, 미디어(104)는 하기 [수학식 6]과 같이 정의될 수 있다.
Figure 112020046719722-pat00017
Figure 112020046719722-pat00018
여기서,
Figure 112020046719722-pat00019
는 IoT 서비스 모델(400)을 나타내고,
Figure 112020046719722-pat00020
는 시각적 콘텐츠를 나타내고,
Figure 112020046719722-pat00021
는 시각적 콘텐츠를 출력하도록 선택된 미디어(104)를 나타내고,
Figure 112020046719722-pat00022
는 미디어(104)를 나타내고,
Figure 112020046719722-pat00023
는 미디어(104)의 수직 및 수평 크기를 나타내고,
Figure 112020046719722-pat00024
는 미디어(104)의 수직 및 수평 해상도를 나타내고,
Figure 112020046719722-pat00025
는 미디어(104)의 위치를 나타내고,
Figure 112020046719722-pat00026
는 미디어(104)의 방향을 나타낼 수 있다.
도 5는 다양한 실시예들에 따른 전자 장치(100)를 도시하는 도면이다. 도 6은 다양한 실시예들에 따른 전자 장치(100)의 동작 특징을 설명하기 위한 도면이다.
도 5를 참조하면, 다양한 실시예들에 따른 전자 장치(100)는 통신 모듈(510), 입력 모듈(520), 출력 모듈(530), 메모리(540) 또는 프로세서(550) 중 적어도 어느 하나를 포함할 수 있다. 어떤 실시예에서, 전자 장치(100)의 구성 요소들 중 적어도 어느 하나가 생략될 수 있으며, 적어도 하나의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서, 전자 장치(100)의 구성 요소들 중 적어도 어느 두 개가 하나의 통합된 회로로 구현될 수 있다.
통신 모듈(510)은 전자 장치(100)에서 외부 장치와 통신을 수행할 수 있다. 통신 모듈(510)은 전자 장치(100)와 외부 장치 간 통신 채널을 수립하고, 통신 채널을 통해, 외부 장치와 통신을 수행할 수 있다. 여기서, 외부 장치는 미디어(104), 위성, 기지국, 서버 또는 다른 전자 장치 중 적어도 어느 하나를 포함할 수 있다. 통신 모듈(510)은 유선 통신 모듈 또는 무선 통신 모듈 중 적어도 어느 하나를 포함할 수 있다. 유선 통신 모듈은 연결 단자를 통해, 외부 장치와 유선으로 연결되어, 유선으로 통신할 수 있다. 무선 통신 모듈은 근거리 통신 모듈 또는 원거리 통신 모듈 중 적어도 어느 하나를 포함할 수 있다. 근거리 통신 모듈은 외부 장치와 근거리 통신 방식으로 통신할 수 있다. 예를 들면, 근거리 통신 방식은, 블루투스(Bluetooth), 와이파이 다이렉트(WiFi direct), 또는 적외선 통신(IrDA; infrared data association) 중 적어도 어느 하나를 포함할 수 있다. 원거리 통신 모듈은 외부 장치와 원거리 통신 방식으로 통신할 수 있다. 여기서, 원거리 통신 모듈은 네트워크를 통해 외부 장치와 통신할 수 있다. 예를 들면, 네트워크는 셀룰러 네트워크, 인터넷, 또는 LAN(local area network)이나 WAN(wide area network)과 같은 컴퓨터 네트워크 중 적어도 어느 하나를 포함할 수 있다.
입력 모듈(520)은 전자 장치(100)의 적어도 하나의 구성 요소에 사용될 신호를 입력할 수 있다. 입력 모듈(520)은 프로세서(550)에 사용될 명령 또는 데이터를 사용자로부터 수신하여, 신호를 발생시킬 수 있다. 이 때 입력 모듈(520)은 오디오 신호를 수집할 수 있다. 예를 들면, 입력 모듈(520)은 마이크로폰(microphone), 마우스(mouse) 또는 키보드(keyboard) 중 적어도 어느 하나를 포함할 수 있다. 어떤 실시예에서, 입력 모듈(520)은 터치를 감지하도록 설정된 터치 회로(touch circuitry) 또는 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로 중 적어도 어느 하나를 포함할 수 있다.
출력 모듈(530)은 전자 장치(100)의 정보를 출력할 수 있다. 출력 모듈(530)은 정보를 시각적으로 출력하기 위한 표시 모듈 또는 정보를 오디오 신호로 출력하기 위한 오디오 출력 모듈 중 적어도 어느 하나를 포함할 수 있다. 예를 들면, 표시 모듈은 디스플레이, 홀로그램 장치 또는 프로젝터 중 적어도 어느 하나를 포함할 수 있다. 일 예로, 표시 모듈은 입력 모듈(520)의 터치 회로 또는 센서 회로 중 적어도 어느 하나와 조립되어, 터치 스크린으로 구현될 수 있다. 예를 들면, 오디오 출력 장치는 스피커 또는 리시버 중 적어도 어느 하나를 포함할 수 있다.
메모리(540)는 전자 장치(100)의 적어도 하나의 구성 요소에 의해 사용되는 다양한 데이터를 저장할 수 있다. 예를 들면, 메모리(540)는 휘발성 메모리 또는 비휘발성 메모리 중 적어도 어느 하나를 포함할 수 있다. 데이터는 적어도 하나의 프로그램 및 이와 관련된 입력 데이터 또는 출력 데이터를 포함할 수 있다. 프로그램은 메모리(540)에 적어도 하나의 명령을 포함하는 소프트웨어로서 저장될 수 있으며, 예컨대 운영 체제, 미들 웨어 또는 어플리케이션 중 적어도 어느 하나를 포함할 수 있다.
프로세서(550)는 메모리(540)의 프로그램을 실행하여, 전자 장치(100)의 적어도 하나의 구성 요소를 제어할 수 있다. 이를 통해, 프로세서(550)는 데이터 처리 또는 연산을 수행할 수 있다. 이 때 프로세서(550)는 메모리(540)에 저장된 명령을 실행할 수 있다.
프로세서(550)는 IoT 서비스 환경에서 사용자를 모니터링할 수 있다. 이 때 프로세서(550)는 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, 사용자(102)를 모니터링할 수 있다. IoT 서비스 환경에는 적어도 하나의 미디어가 배치되며, 사용자는 IoT 서비스 환경에서 이동할 수 있다. 프로세서(550)는 IoT 서비스 환경에서 사용자와 관련된 적어도 하나의 미디어의 시각적 서비스 효과를 예측할 수 있다. 이 때 프로세서(550)는 각 미디어에 대해, 사용자의 위치와 미디어의 위치 사이의 거리, 사용자의 가시 영역의 미디어의 위치 포함 여부, 또는 사용자의 방향과 미디어의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 시각적 서비스 효과를 계산할 수 있다. 프로세서(550)는 시각적 서비스 효과를 기반으로, 미디어를 선택할 수 있다. 이 때 프로세서(550)는, 강화학습을 통해, 시각적 서비스 효과를 기반으로, 미디어의 효과도를 예측할 수 있다. 그리고, 프로세서(550)는 효과도를 기반으로, 미디어를 선택할 수 있다. 여기서, 프로세서(550)는 최대 효과도에 대응하는 미디어를 선택할 수 있다. 프로세서(550)는 미디어를 통해 사용자를 위한 서비스를 제공할 수 있다. 이 때 프로세서(550)는 미디어를 통해 사용자를 위한 서비스를 제공하면서, 강화학습 알고리즘을 업데이트할 수 있다. 여기서, 선택된 미디어가 미리 선택된 미디어와 다르면, 프로세서(550)는 미리 선택된 미디어로부터 선택된 미디어로 핸드오버를 수행할 수 있다.
일 실시예에 따르면, 강화학습 알고리즘은 효과도 기반 동적 미디어 선택(effect-driven dynamic media selection; EDMS) 알고리즘일 수 있으며, 이를 위해 프로세서(550)는 실질적으로 EDMS 알고리즘을 기반으로 동작하는 EDMS-에이전트(agent)를 포함할 수 있다. 효과도는 미디어에 대해, 시간의 흐름에 따라 시각적 서비스 효과가 누적된 값을 나타낼 수 있다. 예를 들면, 효과도는 Q-값으로 지칭될 수 있으며, Q-값은 미디어 선택에 따른 리워드(reward)의 누적 값을 나타내고, 리워드는 미디어 선택에 대응하여 IoT 서비스 환경에 발생될 수 있다. 이 때 EDMS-에이전트는, 도 6에 도시된 바와 같은 훈련(training) 알고리즘을 기반으로 구현될 수 있다.
도 7은 다양한 실시예들에 따른 전자 장치(100)의 동작 방법을 도시하는 도면이다. 도 8은 도 7에서 사용자(102)를 모니터링하는 동작을 설명하기 위한 도면이다. 도 9는 도 7에서 시각적 서비스 효과를 예측하는 동작을 예시적으로 설명하기 위한 도면이다. 도 10은 도 7에서 미디어를 선택하는 동작을 예시적으로 설명하기 위한 도면이다.
도 7을 참조하면, 전자 장치(100)는 710 동작에서 IoT 서비스 환경에서 사용자(102)를 모니터링할 수 있다. IoT 서비스 환경에는 적어도 하나의 미디어(104)가 배치되며, IoT 서비스 환경은 각 미디어(104)에 따른 IoT 서비스 모델(400)을 기반으로 구현될 수 있다. 그리고, 사용자(102)는 IoT 서비스 환경 내에 있을 수 있으며, 사용자(102)에 대해 사용자 모델(300)이 구현될 수 있다. 여기서, 사용자(102)는, 도 8에 도시된 바와 같이 IoT 서비스 환경에서 이동할 수 있다. 이 때 프로세서(550)는 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, 사용자(102)를 모니터링할 수 있다. 프로세서(550)는 IoT 서비스 환경에서, 시간(t)에 따라 사용자를 모니터링할 수 있다. 이를 통해, 프로세서(550)는 사용자(102)에 대해, 시간(t)에 따라 환경 모델(200)을 정의할 수 있다. 여기서, 환경 모델(200)의 인자(factor)들이 하기 [표 1]과 같이 확인될 수 있다.
가변성 인자
사용자(102) 가변적 사용자(102)의 위치
가변적 사용자(102)의 방향
고정적 사용자(102)의 시야각
IoT 서비스 환경 고정적 미디어(104)의 수직 크기
고정적 미디어(104)의 수평 크기
고정적 미디어(104)의 수직 해상도
고정적 미디어(104)의 수평 해상도
고정적 미디어(104)의 위치
고정적 미디어(104)의 방향
고정적 콘텐츠의 최소 텍스트 크기
전자 장치(100)는 720 동작에서 IoT 서비스 환경에서 사용자(102)와 관련된 적어도 하나의 미디어(104)의 시각적 서비스 효과를 예측할 수 있다. 예를 들면, 사용자(102)를 중심으로, 적어도 하나의 미디어(104)가 존재할 수 있으며, 이러한 미디어(104)가 후보 미디어로 지칭될 수도 있다. 프로세서(550)는 각 미디어(104)에 대해, 사용자(102)의 위치와 미디어(104)의 위치 사이의 거리, 사용자(102)의 가시 영역의 미디어(104)의 위치 포함 여부, 또는 사용자(102)의 방향과 미디어(104)의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 시각적 서비스 효과를 계산할 수 있다. 이 때 시각적 서비스 효과의 범위는 [0, 1]이며, 1은 최대 시각적 서비스 효과를 나타내고 0은 시각적 서비스 효과가 없음을 나타낼 수 있다. 예를 들면, 프로세서(550)는 하기 [수학식 7]과 같은 규칙을 기반으로, 시각적 서비스 효과를 계산할 수 있다. 일 예로, 사용자(102)의 위치와 미디어(104)의 위치 사이의 거리가 미리 설정된 거리 이상이면, 시각적 서비스 효과는 0이고, 그렇지 않으면, 시각적 서비스 효과는 1일 수 있다. 다른 예로, 미디어(104)의 위치가 사용자(102)의 가시 영역에 포함되지 않으면, 시각적 서비스 효과는 0 이고, 그렇지 않으면, 시각적 서비스 효과는 1일 수 있다. 또 다른 예로, 사용자(102)의 방향과 미디어(104)의 방향 사이의 각도가 90 ° 미만이면, 시각적 서비스 효과는 0 이고, 그렇지 않으면, 시각적 서비스 효과는 1일 수 있다.
Figure 112020046719722-pat00027
여기서,
Figure 112020046719722-pat00028
는 시각적 서비스 효과를 나타내고,
Figure 112020046719722-pat00029
는 사용자(102)의 위치를 나타내고,
Figure 112020046719722-pat00030
는 미디어(104)의 위치를 나타내고,
Figure 112020046719722-pat00031
는 미디어(104)에 대응하여 미리 설정된 거리를 나타내고,
Figure 112020046719722-pat00032
는 사용자(102)의 가시 영역을 나타내고,
Figure 112020046719722-pat00033
는 사용자(102)의 방향을 나타내고,
Figure 112020046719722-pat00034
는 미디어(104)의 방향을 나타낼 수 있다. 상기 [수학식 7]과 같은 규칙은, 다음과 같이 정의될 수 있다.
콘텐츠의 시야각과 관련하여, 사용자(102)의 위치와 미디어(104)의 위치 사이의 거리가 미리 설정된 거리 이상이면, 시각적 서비스 효과는 0인 규칙이 검출될 수 있다. 예를 들면, 6/6의 표준 시력을 갖는 사람은 1 아크민(acrmin)의 시야각 내에서 윤곽을 분리할 수 있고, 시야각은 하기 [수학식 8]과 같이 계산될 수 있다. IoT 시각적 서비스를 제공하는 콘텐츠의 단위 크기를 알면, 사용자(102)가 미디어(104)에서 출력되는 콘텐츠를 인지할 수 있는 최대 거리가 하기 [수학식 9]와 같이 계산될 수 있다. 콘텐츠의 최소 텍스트 크기를 픽셀 단위로 지정하면, 미디어(104)의 크기와 해상도에 따라, 미디어(104)에서 출력되는 텍스트의 실제 크기가 하기 [수학식 10]과 같이 계산될 수 있다. 이를 기반으로, 사용자(102)의 위치와 미디어(104)의 위치 사이의 거리가 최대 거리 보다 길면, 인지되는 텍스트의 크기가 작아지고, 이로 인해 사용자(102)가 텍스트를 제대로 인지할 수 없기 때문에, 시각적 서비스 효과가 0인 규칙이 추출될 수 있다.
Figure 112020046719722-pat00035
Figure 112020046719722-pat00036
Figure 112020046719722-pat00037
여기서,
Figure 112020046719722-pat00038
는 시야각을 나타내고,
Figure 112020046719722-pat00039
는 콘텐츠의 텍스트 크기를 나타내고,
Figure 112020046719722-pat00040
는 최대 거리를 나타내고,
Figure 112020046719722-pat00041
는 콘텐츠의 최소 텍스트 크기를 나타낼 수 있다.
사용자(102)의 가시 영역과 관련하여, 미디어(104)의 위치가 사용자(102)의 가시 영역에 포함되지 않으면, 시각적 서비스 효과는 0 인 규칙이 검출될 수 있다. 예를 들면, 사용자(102)가 미디어(104)에서 원하는 시각적 콘텐츠를 출력하고 있음을 인식했을 때, 미디어(104)를 향해 얼굴을 돌릴 수 있다고 가정될 수 있다. 이에 따라, 사용자(102)의 가시 영역 내의 모든 미디어(104)가 사용자(102)를 위해 시각적 콘텐츠를 전달할 수 있는 효과적인 미디어(104)로 간주될 수 있다. 사용자(102)의 가시 영역은 사용자(102)의 시야각에 따라 결정되며, 사용자(102)의 눈의 위치와 방향에 따라 결정될 수 있다. 사용자(102)에 대한 미디어(104)의 상대적 위치를 나타내는 벡터의 내적과 사용자(102)의 방향을 이용하여, 시간(t)에 따른 사용자(102)의 가시 영역이 하기 [수학식 11]과 같이 계산될 수 있다. 이를 기반으로, 미디어(104)의 위치가 사용자(102)의 가시 영역에 포함되지 않으면, 사용자(102)가 가시 영역 외부의 미디어(104)에 의해 생성된 빛을 감지할 수 없기 때문에, 시각적 서비스 효과가 0인 규칙이 추출될 수 있다.
Figure 112020046719722-pat00042
사용자(102)의 방향 및 미디어(104)의 방향과 관련하여, 사용자(102)의 방향과 미디어(104)의 방향 사이의 각도가 90 ° 미만이면, 시각적 서비스 효과는 0 인 규칙이 검출될 수 있다. 예를 들면, 빛은 일직선으로 이동하기 때문에, 사용자(102)와 미디어(104)가 서로 마주해야, 미디어(104)의 시각적 콘텐츠가 사용자(102)에게 성공적으로 전달될 수 있다. 이 때 사용자(102)의 방향과 미디어(104)의 방향 사이의 각도는 하기 [수학식 12]와 같이 계산될 수 있다. 이를 기반으로, 사용자(102)와 미디어(104)가 서로 마주하지 않으면, 시각적 서비스 효과가 0인 규칙이 추출될 수 있다.
Figure 112020046719722-pat00043
예를 들면, 도 9에 도시된 바와 같이 사용자(102)에 대해 제 1 미디어(104a), 제 2 미디어(104b) 및 제 3 미디어(104c)가 배치될 수 있다. 이러한 경우, 제 1 미디어(104a)의 위치가 사용자(102)의 가시 영역 외부에 배치되므로, 제 1 미디어(104a)의 시각적 서비스 효과는 0일 수 있다. 한편, 제 2 미디어(104b)의 방향이 사용자(102)를 향하지 않으므로, 제 2 미디어(104b)의 시각적 서비스 효과는 0일 수 있다. 한편, 제 3 미디어(104c)의 위치가 사용자(102)의 가시 영역 내부에 배치되고, 제 3 미디어(104c)의 방향이 사용자(102)를 향하므로, 제 3 미디어(104c)의 시각적 서비스 효과는 1일 수 있다.
전자 장치(100)는 730 동작에서 시각적 서비스 효과를 기반으로, 미디어(104)를 선택할 수 있다. 이 때 프로세서(550)는, 강화학습을 통해, 시각적 서비스 효과를 기반으로, 미디어(104)의 효과도를 예측할 수 있다. 여기서, 프로세서(550)는, 도 10에 도시된 바와 같이 강화학습 알고리즘을 이용하여, 시각적 서비스 효과를 기반으로, 미디어(104)의 효과도를 예측할 수 있다. 여기서, 강화학습 알고리즘은 효과도 기반 동적 미디어 선택(effect-driven dynamic media selection; EDMS) 알고리즘일 수 있으며, 이를 위해 프로세서(550)는 실질적으로 EDMS 알고리즘을 기반으로 동작하는 EDMS-에이전트(agent)를 포함할 수 있다. 효과도는 미디어(104)에 대해, 시간의 흐름에 따라 시각적 서비스 효과가 누적된 값을 나타낼 수 있다. 예를 들면, 효과도는 Q-값으로 지칭될 수 있으며, Q-값은 미디어(104) 선택에 따른 리워드(reward)의 누적 값을 나타내고, 리워드는 미디어(104) 선택에 대응하여 IoT 서비스 환경에 발생될 수 있다. 그리고, 프로세서(550)는 효과도를 기반으로, 미디어(104)를 선택할 수 있다. 예를 들면, 프로세서(550)는 후보 미디어(104) 중 어느 하나를 선택할 수 있다. 프로세서(550)는 최대 효과도에 대응하는 미디어(104)를 선택할 수 있다.
전자 장치(100)는 740 동작에서 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공할 수 있다. 프로세서(550)는 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, 강화학습 알고리즘을 업데이트할 수 있다. 여기서, 프로세서(550)는, 도 10에 도시된 바와 같이 IoT 서비스 환경으로부터 리워드를 기반으로, 강화학습 알고리즘의 적어도 하나의 매개 변수를 업데이트할 수 있다. 일 실시예에 따르면, 전자 장치(100)는 복수 개의 미디어(104)들 사이에서 최소의 횟수로 핸드오버를 수행할 수 있다. 이에 대해, 도 11을 참조하여, 보다 상세하게 후술될 것이다.
도 11은 도 7의 서비스를 제공하는 동작의 일 예를 도시하는 도면이다.
도 11을 참조하면, 전자 장치(100)는 1100 동작에서 미리 선택된 미디어(104)로부터 선택된 미디어(104)로의 전환이 필요한 지의 여부를 판단할 수 있다. 즉 프로세서(550)는, 선택된 미디어(104)가 미리 선택된 미디어(104)와 다른 지의 여부를 판단할 수 있다. 예를 들면, 프로세서(550)는 선택된 미디어(104)의 식별자와 미리 선택된 미디어(104)의 식별자를 비교할 수 있다.
1100 동작에서 선택된 미디어(104)가 미리 선택된 미디어(104)와 상이하면, 전자 장치(100)는 1120 동작에서 선택된 미디어(104)의 시각적 서비스 효과를 감소시킬 수 있다. 이 때 프로세서(550)는, 하기 [수학식 13]과 같이 선택된 미디어(104)의 시각적 서비스 효과를 1만큼 감소시킬 수 있다. 이 후 전자 장치(100)는 1130 동작에서 감소된 시각적 서비스 효과를 기반으로, 선택된 미디어(104)로 핸드오버를 수행할 지의 여부를 판단할 수 있다. 즉 프로세서(550)는 선택된 미디어(104)의 시각적 서비스 효과가 최대 시각적 서비스 효과인 지의 여부를 판단할 수 있다.
Figure 112020046719722-pat00044
1130 동작에서 핸드오버를 수행해도 되는 것으로 판단되면, 전자 장치(100)는 1140 동작에서 미리 선택된 미디어(104)로부터 선택된 미디어(104)로 핸드오버를 수행할 수 있다. 즉 1130 동작에서 선택된 미디어(104)의 시각적 서비스 효과가 여전히 최대 시각적 서비스 효과인 것으로 판단되면, 프로세서(550)는 미리 선택된 미디어(104)로부터 선택된 미디어(104)로 핸드오버를 수행할 수 있다. 이를 통해, 전자 장치(100)는 1150 동작에서 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공할 수 있다.
한편, 1130 동작에서 핸드오버를 수행해서는 안 되는 것으로 판단되면, 전자 장치(100)는 미리 선택된 미디어(104)로부터 선택된 미디어(104)로 핸드오버를 수행하지 않을 수 있다. 즉 1130 동작에서 선택된 미디어(104)의 시각적 서비스 효과가 최대 시각적 서비스 효과가 아닌 것으로 판단되면, 프로세서(550)는 미리 선택된 미디어(104)로부터 선택된 미디어(104)로 핸드오버를 수행하지 않을 수 있다. 이를 통해, 전자 장치(100)는 1150 동작에서 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 계속해서 제공할 수 있다.
한편, 1110 동작에서 선택된 미디어(104)가 미리 선택된 미디어(104)와 동일하면, 전자 장치(100)는 선택된 미디어(104)의 시각적 서비스 효과를 유지할 수 있다. 이 때 프로세서(550)는, 상기 [수학식 13]과 같이 선택된 미디어(104)의 시각적 서비스 효과를 유지할 수 있다. 이 후 전자 장치(100)는 1150 동작에서 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 계속해서 제공할 수 있다.
다양한 실시예들에 따르면, 전자 장치(100)가 IoT 서비스 환경에서 사용자(102)를 위한 서비스를 제공하면서 계속해서 사용자(102)를 모니터링할 수 있다. 이를 통해, 전자 장치(100)는 IoT 서비스 환경에서 사용자(102)를 위해 최적의 서비스를 제공할 수 있는 미디어(104)를 동적으로 선택할 수 있다. 이 때 전자 장치(100)는 미디어(104)를 동적으로 선택하는 데 있어서, 미디어(104) 간 핸드오버의 횟수를 최소화할 수 있다. 이에 따라, 사용자(102)를 위한 서비스에 대응하는 물리적 효과가 지속적이고 효과적으로 생성될 수 있다.
다양한 실시예들에 따른 전자 장치(100)의 동작 방법은, IoT 서비스 환경에서 사용자(102)를 모니터링하는 동작, IoT 서비스 환경에서 사용자(102)와 관련된 적어도 하나의 미디어(104)에 대한 시각적 서비스 효과를 예측하는 동작, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어(104) 중 어느 하나를 선택하는 동작, 및 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 시각적 서비스 효과를 예측하는 동작은, 사용자(102)의 위치와 각 미디어(104)의 위치 사이의 거리, 사용자(102)의 가시 영역의 각 미디어(104)의 위치의 포함 여부, 또는 사용자(102)의 방향과 각 미디어(104)의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 적어도 하나의 미디어(104)에 대한 시각적 서비스 효과를 각각 예측하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 적어도 하나의 미디어(104) 중 어느 하나를 선택하는 동작은, 미리 정해진 강화학습 알고리즘을 이용하여, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어(104)의 효과도를 예측하는 동작, 및 효과도를 기반으로, 적어도 하나의 미디어(104) 중 어느 하나를 선택하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 효과도를 예측하는 동작은, 적어도 하나의 미디어(104)에 대해, 시간의 흐름에 따라 시각적 서비스 효과가 누적된 값으로부터 효과도를 예측하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(100)의 동작 방법은, 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, IoT 서비스 환경으로부터의 리워드를 기반으로, 강화학습 알고리즘의 적어도 하나의 매개 변수를 업데이트하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따르면, 사용자를 모니터링하는 동작은, 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, 사용자(102)를 모니터링하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(100)의 동작 방법은, 선택된 미디어(104)의 식별자와 미리 선택된 미디어(104)의 식별자를 비교하는 동작, 및 비교 결과에 기초하여 미리 선택된 미디어(104)로부터 선택된 미디어(104)로 핸드오버를 수행하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따르면, 핸드오버를 수행하는 동작은, 선택된 미디어(104)가 미리 선택된 미디어(104)와 다르면, 선택된 미디어(104)의 예측된 시각적 서비스 효과를 감소시키는 동작, 선택된 미디어(104)의 감소된 시각적 서비스 효과를 기반으로, 선택된 미디어(104)로 핸드오버를 수행할 지의 여부를 판단하는 동작, 및 선택된 미디어(104)로 핸드오버를 수행해야 하는 것으로 판단되면, 핸드오버를 수행하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(100)의 동작 방법은, 선택된 미디어(104)로 핸드오버를 수행하지 않아도 되는 것으로 판단되면, 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따른 전자 장치(100)는, 메모리(540), 및 메모리(540)와 연결되고, 메모리(540)에 저장된 적어도 하나의 명령을 실행하도록 구성된 프로세서(550)를 포함할 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, IoT 서비스 환경에서 사용자(102)를 모니터링하고, IoT 서비스 환경에서 사용자(102)와 관련된 적어도 하나의 미디어(104)에 대한 시각적 서비스 효과를 예측하고, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어(104) 중 어느 하나를 선택하고, 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 사용자(102)의 위치와 각 미디어(104)의 위치 사이의 거리, 사용자(102)의 가시 영역의 각 미디어(104)의 위치의 포함 여부, 또는 사용자(102)의 방향과 각 미디어(104)의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 적어도 하나의 미디어(104)에 대한 시각적 서비스 효과를 각각 예측하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 미리 정해진 강화학습 알고리즘을 이용하여, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어(104)의 효과도를 예측하고, 효과도를 기반으로, 적어도 하나의 미디어(104) 중 어느 하나를 선택하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 적어도 하나의 미디어(104)에 대해, 시간의 흐름에 따라 시각적 서비스 효과가 누적된 값으로부터 효과도를 예측하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, IoT 서비스 환경으로부터의 리워드를 기반으로, 강화학습 알고리즘의 적어도 하나의 매개 변수를 업데이트하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하면서, 사용자(102)를 모니터링하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 선택된 미디어(104)의 식별자와 미리 선택된 미디어(104)의 식별자를 비교하고, 비교 결과에 기초하여 미리 선택된 미디어(104)로부터 선택된 미디어(104)로 핸드오버를 수행하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 선택된 미디어(104)가 미리 선택된 미디어(104)와 다르면, 선택된 미디어(104)의 예측된 시각적 서비스 효과를 감소시키고, 선택된 미디어(104)의 감소된 시각적 서비스 효과를 기반으로, 선택된 미디어(104)로 핸드오버를 수행할 지의 여부를 판단하고, 선택된 미디어(104)로 핸드오버를 수행해야 하는 것으로 판단되면, 핸드오버를 수행하도록 구성될 수 있다.
다양한 실시예들에 따르면, 프로세서(550)는, 선택된 미디어(104)로 핸드오버를 수행하지 않아도 되는 것으로 판단되면, 미리 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하도록 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(100))에 의해 읽을 수 있는 저장 매체(storage medium)(예: 메모리(540))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램)로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(100))의 프로세서(예: 프로세서(550))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 기록 매체는, 비일시적(non-transitory) 기록 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 기록 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 기록 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 기록 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 컴퓨터 프로그램은, 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되며, IoT 서비스 환경에서 사용자(102)를 모니터링하는 동작, IoT 서비스 환경에서 사용자(102)와 관련된 적어도 하나의 미디어(104)에 대한 시각적 서비스 효과를 예측하는 동작, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어(104) 중 어느 하나를 선택하는 동작, 및 선택된 미디어(104)를 통해 사용자(102)를 위한 서비스를 제공하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 시각적 서비스 효과를 예측하는 동작은, 사용자(102)의 위치와 각 미디어(104)의 위치 사이의 거리, 사용자(102)의 가시 영역의 각 미디어(104)의 위치의 포함 여부, 또는 사용자(102)의 방향과 각 미디어(104)의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 적어도 하나의 미디어(104)에 대한 시각적 서비스 효과를 계산하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 미디어(104)를 선택하는 동작은, 미리 정해진 강화학습 알고리즘을 이용하여, 시각적 서비스 효과를 기반으로, 적어도 하나의 미디어(104)의 효과도를 예측하는 동작, 및 효과도를 기반으로, 적어도 하나의 미디어(104) 중 어느 하나를 선택하는 동작을 포함할 수 있다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성 요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성 요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성 요소를 다른 구성 요소와 구분하기 위해 사용될 뿐 해당 구성 요소들을 한정하지 않는다. 어떤(예: 제 1) 구성 요소가 다른(예: 제 2) 구성 요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성 요소가 상기 다른 구성 요소에 직접적으로 연결되거나, 다른 구성 요소(예: 제 3 구성 요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
다양한 실시예들에 따르면, 기술한 구성 요소들의 각각의 구성 요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성 요소들 중 하나 이상의 구성 요소들 또는 단계들이 생략되거나, 또는 하나 이상의 다른 구성 요소들 또는 단계들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성 요소들(예: 모듈 또는 프로그램)은 하나의 구성 요소로 통합될 수 있다. 이런 경우, 통합된 구성 요소는 복수의 구성 요소들 각각의 구성 요소의 하나 이상의 기능들을 통합 이전에 복수의 구성 요소들 중 해당 구성 요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 단계들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 단계들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 단계들이 추가될 수 있다.

Claims (20)

  1. 전자 장치의 동작 방법에 있어서,
    상기 동작 방법은,
    IoT 서비스 환경에서 사용자를 모니터링하는 동작;
    상기 IoT 서비스 환경에서 상기 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하는 동작;
    상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작; 및
    상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하는 동작
    을 포함하고,
    상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작은,
    미리 정해진 강화학습 알고리즘을 이용하여, 상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어의 효과도를 예측하는 동작; 및
    상기 효과도를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작
    을 포함하고,
    상기 동작 방법은,
    상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하면서, 상기 IoT 서비스 환경으로부터의 리워드를 기반으로, 상기 강화학습 알고리즘의 적어도 하나의 매개 변수를 업데이트하는 동작
    을 더 포함하고,
    상기 사용자를 모니터링하는 동작은,
    미리 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하면서, 상기 사용자를 모니터링하는 동작
    을 포함하고,
    상기 동작 방법은,
    상기 선택된 미디어의 식별자와 상기 미리 선택된 미디어의 식별자를 비교하는 동작; 및
    상기 비교 결과에 기초하여 상기 미리 선택된 미디어로부터 상기 선택된 미디어로 핸드오버를 수행하는 동작
    을 더 포함하고,
    상기 핸드오버를 수행하는 동작은,
    상기 선택된 미디어가 상기 미리 선택된 미디어와 다르면, 상기 선택된 미디어의 상기 예측된 시각적 서비스 효과를 감소시키는 동작;
    상기 선택된 미디어의 상기 감소된 시각적 서비스 효과를 기반으로, 상기 선택된 미디어로 상기 핸드오버를 수행할 지의 여부를 판단하는 동작; 및
    상기 선택된 미디어로 상기 핸드오버를 수행해야 하는 것으로 판단되면, 상기 핸드오버를 수행하는 동작
    을 포함하는,
    전자 장치의 동작 방법.
  2. 제 1 항에 있어서,
    상기 시각적 서비스 효과를 예측하는 동작은,
    상기 사용자의 위치와 각 미디어의 위치 사이의 거리, 상기 사용자의 가시 영역의 각 미디어의 위치의 포함 여부, 또는 상기 사용자의 방향과 각 미디어의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 상기 적어도 하나의 미디어에 대한 상기 시각적 서비스 효과를 각각 예측하는 동작
    을 포함하는,
    전자 장치의 동작 방법.
  3. 삭제
  4. 제 1 항에 있어서,
    상기 효과도를 예측하는 동작은,
    상기 적어도 하나의 미디어에 대해, 시간의 흐름에 따라 상기 시각적 서비스 효과가 누적된 값으로부터 상기 효과도를 예측하는 동작
    을 포함하는,
    전자 장치의 동작 방법.
  5. 삭제
  6. 삭제
  7. 삭제
  8. 삭제
  9. 제 1 항에 있어서,
    상기 동작 방법은,
    상기 선택된 미디어로 상기 핸드오버를 수행하지 않아도 되는 것으로 판단되면, 상기 미리 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하는 동작
    을 더 포함하는,
    전자 장치의 동작 방법.
  10. 전자 장치에 있어서,
    메모리; 및
    상기 메모리와 연결되고, 상기 메모리에 저장된 적어도 하나의 명령을 실행하도록 구성된 프로세서를 포함하고,
    상기 프로세서는,
    IoT 서비스 환경에서 사용자를 모니터링하고,
    상기 IoT 서비스 환경에서 상기 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하고,
    상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하고,
    상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하도록 구성되고,
    상기 프로세서는,
    미리 정해진 강화학습 알고리즘을 이용하여, 상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어의 효과도를 예측하고,
    상기 효과도를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하도록 구성되고,
    상기 프로세서는,
    상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하면서, 상기 IoT 서비스 환경으로부터의 리워드를 기반으로, 상기 강화학습 알고리즘의 적어도 하나의 매개 변수를 업데이트하도록 구성되고,
    상기 프로세서는,
    미리 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하면서, 상기 사용자를 모니터링하도록 구성되고,
    상기 프로세서는,
    상기 선택된 미디어의 식별자와 상기 미리 선택된 미디어의 식별자를 비교하고,
    상기 비교 결과에 기초하여 상기 미리 선택된 미디어로부터 상기 선택된 미디어로 핸드오버를 수행하도록 구성되고,
    상기 프로세서는,
    상기 선택된 미디어가 상기 미리 선택된 미디어와 다르면, 상기 선택된 미디어의 상기 예측된 시각적 서비스 효과를 감소시키고,
    상기 선택된 미디어의 상기 감소된 시각적 서비스 효과를 기반으로, 상기 선택된 미디어로 상기 핸드오버를 수행할 지의 여부를 판단하고,
    상기 선택된 미디어로 상기 핸드오버를 수행해야 하는 것으로 판단되면, 상기 핸드오버를 수행하도록 구성되는,
    전자 장치.
  11. 제 10 항에 있어서,
    상기 프로세서는,
    상기 사용자의 위치와 각 미디어의 위치 사이의 거리, 상기 사용자의 가시 영역의 각 미디어의 위치의 포함 여부, 또는 상기 사용자의 방향과 각 미디어의 방향 사이의 각도 중 적어도 어느 하나를 기반으로, 상기 적어도 하나의 미디어에 대한 상기 시각적 서비스 효과를 각각 예측하도록 구성되는,
    전자 장치.
  12. 삭제
  13. 제 10 항에 있어서,
    상기 프로세서는,
    상기 적어도 하나의 미디어에 대해, 시간의 흐름에 따라 상기 시각적 서비스 효과가 누적된 값으로부터 상기 효과도를 예측하도록 구성되는,
    전자 장치.
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 제 10 항에 있어서,
    상기 프로세서는,
    상기 선택된 미디어로 상기 핸드오버를 수행하지 않아도 되는 것으로 판단되면, 상기 미리 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하도록 구성되는,
    전자 장치.
  19. 전자 장치에 동작 방법을 실행시키기 위해, 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램에 있어서,
    상기 동작 방법은,
    IoT 서비스 환경에서 사용자를 모니터링하는 동작;
    상기 IoT 서비스 환경에서 상기 사용자와 관련된 적어도 하나의 미디어에 대한 시각적 서비스 효과를 예측하는 동작;
    상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작; 및
    상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하는 동작
    을 포함하고,
    상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작은,
    미리 정해진 강화학습 알고리즘을 이용하여, 상기 시각적 서비스 효과를 기반으로, 상기 적어도 하나의 미디어의 효과도를 예측하는 동작; 및
    상기 효과도를 기반으로, 상기 적어도 하나의 미디어 중 어느 하나를 선택하는 동작
    을 포함하고,
    상기 동작 방법은,
    상기 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하면서, 상기 IoT 서비스 환경으로부터의 리워드를 기반으로, 상기 강화학습 알고리즘의 적어도 하나의 매개 변수를 업데이트하는 동작
    을 더 포함하고,
    상기 사용자를 모니터링하는 동작은,
    미리 선택된 미디어를 통해 상기 사용자를 위한 서비스를 제공하면서, 상기 사용자를 모니터링하는 동작
    을 포함하고,
    상기 동작 방법은,
    상기 선택된 미디어의 식별자와 상기 미리 선택된 미디어의 식별자를 비교하는 동작; 및
    상기 비교 결과에 기초하여 상기 미리 선택된 미디어로부터 상기 선택된 미디어로 핸드오버를 수행하는 동작
    을 더 포함하고,
    상기 핸드오버를 수행하는 동작은,
    상기 선택된 미디어가 상기 미리 선택된 미디어와 다르면, 상기 선택된 미디어의 상기 예측된 시각적 서비스 효과를 감소시키는 동작;
    상기 선택된 미디어의 상기 감소된 시각적 서비스 효과를 기반으로, 상기 선택된 미디어로 상기 핸드오버를 수행할 지의 여부를 판단하는 동작; 및
    상기 선택된 미디어로 상기 핸드오버를 수행해야 하는 것으로 판단되면, 상기 핸드오버를 수행하는 동작
    을 포함하는,
    컴퓨터 프로그램.
  20. 삭제
KR1020200055062A 2020-05-08 2020-05-08 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법 KR102441455B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200055062A KR102441455B1 (ko) 2020-05-08 2020-05-08 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법
US17/157,470 US11637904B2 (en) 2020-05-08 2021-01-25 Electronic device for effect-driven dynamic media selection for visual IoT service using reinforcement learning and operating method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200055062A KR102441455B1 (ko) 2020-05-08 2020-05-08 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법

Publications (2)

Publication Number Publication Date
KR20210136599A KR20210136599A (ko) 2021-11-17
KR102441455B1 true KR102441455B1 (ko) 2022-09-07

Family

ID=78413343

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200055062A KR102441455B1 (ko) 2020-05-08 2020-05-08 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법

Country Status (2)

Country Link
US (1) US11637904B2 (ko)
KR (1) KR102441455B1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3018845A1 (en) * 2014-11-06 2016-05-11 Thomson Licensing Method of broadcast audio/video content play out handover and corresponding apparatus
US10113877B1 (en) * 2015-09-11 2018-10-30 Philip Raymond Schaefer System and method for providing directional information
US10585277B2 (en) * 2017-08-31 2020-03-10 Tobii Ab Systems and methods for tracking a gaze of a user across a multi-display arrangement
KR102580837B1 (ko) * 2018-03-02 2023-09-21 삼성전자 주식회사 사용자에 대응하는 사용 패턴 정보에 기반하여 외부 전자 장치를 제어 하기 위한 전자 장치 및 방법
US11093201B2 (en) * 2019-09-26 2021-08-17 Google Llc Device manager that utilizes physical position of display devices

Also Published As

Publication number Publication date
KR20210136599A (ko) 2021-11-17
US20210352153A1 (en) 2021-11-11
US11637904B2 (en) 2023-04-25

Similar Documents

Publication Publication Date Title
US11907851B2 (en) Image description generation method, model training method, device and storage medium
US11521038B2 (en) Electronic apparatus and control method thereof
CN106293074B (zh) 一种情绪识别方法和移动终端
KR20180055708A (ko) 이미지를 처리하는 전자 장치 및 방법
KR102350038B1 (ko) 대상 작업의 위험성을 평가하는 방법 및 이를 수행하는 작업 관리 시스템
KR20180111467A (ko) 사용자 감정 판단을 위한 전자 장치 및 이의 제어 방법
CN111930442B (zh) 页面视图的加载方法、装置、存储介质和电子设备
US10306547B2 (en) Intelligent access point scanning based on a profile
US20190220969A1 (en) Information processing device, data structure, information processing method, and non-transitory computer readable storage medium
KR102159880B1 (ko) 메타 인지 기반 고속 환경 탐색 방법 및 장치
US20200114925A1 (en) Interaction device, interaction method, and program
KR20180072525A (ko) 경로 안내를 위한 전자 장치 및 이의 제어 방법
CN112529679A (zh) 企业授信模型的构建方法、装置、设备及可读存储介质
CN112384888A (zh) 基于上下文状态的用户界面格式适应
CN114556270B (zh) 放大用户界面的眼睛注视控制
CN107924588A (zh) 触发区域
CN114693001A (zh) 一种泊车位预测方法、装置、电子设备及存储介质
KR102441455B1 (ko) 시각적 IoT 서비스를 위한 강화학습 및 효과도 기반 동적 미디어 선택을 위한 전자 장치 및 그의 동작 방법
CN113553261B (zh) 软件自动化测试方法、设备及计算机可读存储介质
KR102314647B1 (ko) 이미지를 처리하는 방법, 디바이스 및 기록매체
CN112486567A (zh) 代码的合并请求发送方法、装置、电子设备及存储介质
JP2018205534A (ja) 表示制御装置、表示制御方法及びプログラム
KR102440963B1 (ko) 전자 장치, 이의 제어 방법 및 비일시적인 컴퓨터 판독가능 기록매체
CN110390102A (zh) 一种情感分析的方法和相关装置
JP2020052783A (ja) 学習装置、学習方法及びプログラム

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant