KR20190139008A - A system for preventing user leaving based on expectation profit and controlling method thereof - Google Patents
A system for preventing user leaving based on expectation profit and controlling method thereof Download PDFInfo
- Publication number
- KR20190139008A KR20190139008A KR1020180065464A KR20180065464A KR20190139008A KR 20190139008 A KR20190139008 A KR 20190139008A KR 1020180065464 A KR1020180065464 A KR 1020180065464A KR 20180065464 A KR20180065464 A KR 20180065464A KR 20190139008 A KR20190139008 A KR 20190139008A
- Authority
- KR
- South Korea
- Prior art keywords
- user
- expected
- users
- departure
- escape
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
- G06Q30/0203—Market surveys; Market polls
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- Entrepreneurship & Innovation (AREA)
- Finance (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Game Theory and Decision Science (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Educational Administration (AREA)
- Data Mining & Analysis (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
이하에서는 마케팅 활동에 있어서 기대이익을 고려한 이탈방지 시스템 및 그 제어 방법을 설명한다. Hereinafter, a departure prevention system and a control method thereof in consideration of expected profits in marketing activities will be described.
최근 온라인 네트워크 서비스의 발달에 따라, 온라인으로 게임 및 쇼핑 등의 서비스가 급증하고 있으며, 경쟁 또한 심화 되고 있다. 따라서, 각 서비스 주체들은 더 많은 고객을 유치하기 위한 마케팅의 일환으로 고객과의 관계를 관리하기 위한 방안을 고심하고 있다. Recently, with the development of online network services, services such as games and shopping are increasing online, and competition is intensifying. Therefore, each service principal is trying to manage the relationship with the customer as part of the marketing to attract more customers.
이러한 방안의 일환으로 온라인 게임 및 쇼핑 등의 온라인 서비스를 이용하는 고객 관계 관리에서는, 사용자의 이탈 방지를 위해 타겟 마케팅 등의 활동이 수행된다. 예컨대, 온라인 서비스에서 이탈할 가능성이 높은 사용자에게는 보다 높은 보상을 지급하는 방식으로 이탈을 막을 수 있다. 대개의 경우 지급되는 보상이 클수록 사용자의 이탈율은 낮아지는 반면, 비용이 커짐으로 인해 이익은 낮아지게 된다.As part of such a scheme, in customer relationship management using online services such as online games and shopping, activities such as target marketing are performed to prevent the user from leaving. For example, a user may be prevented from exiting by paying a higher reward to a user who is more likely to leave the online service. In most cases, the greater the rewards paid, the lower the user's churn rate, while the higher the cost, the lower the profit.
한편, 이러한 타겟 마케팅에 있어서 비용 대비 이익을 기대이익이라 하는데, 온라인 서비스의 이윤을 극대화하기 위해, 이탈 방지 대상이 되는 사용자에게서 얻을 수 있는 기대 이익을 최적화 하기 위한 많은 노력이 이루어지고 있다.On the other hand, in such a target marketing, cost-benefit is called expected profit. In order to maximize profits of online services, many efforts are being made to optimize the expected profit that can be obtained from users who are subject to departure prevention.
본 개시에서는 마케팅 활동에 있어서 기대이익을 고려한 이탈방지 시스템 및 그 제어 방법이 개시된다. 구체적으로, 온라인 서비스에 있어서 이탈 방지 대상이 되는 유저에게서 얻을 수 있는 기대 이익에 따라 보상을 차등 지급함으로써 기대이익을 최적화 하는 시스템 및 그 제어 방법이 개시될 수 있다. In the present disclosure, a departure prevention system and a control method thereof considering an expected profit in a marketing activity are disclosed. In detail, a system and a control method of optimizing the expected profit by differentially paying a reward according to the expected profit that can be obtained from a user who is an object of departure prevention in the online service may be disclosed.
물론, 해결하려는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 통상의 기술자에게 자명한 범위 내에서 다양한 기술적 과제들이 더 포함될 수 있다.Of course, the technical problem to be solved is not limited to the technical problems as described above, and various technical problems may be further included within the scope apparent to those skilled in the art.
제 1 측면에 따른 기대이익을 고려한 이탈방지 시스템은, 게임 로그 및 기계 학습을 이용해 전체 유저 중 이탈예상유저를 예측하는 이탈예측모델을 결정하는 예측 모듈; 상기 이탈예측모델에서 예측된 이탈예상유저를 대조군과 실험군으로 구별하고, 상기 실험군에 속하는 유저에 대해 유저별 차등 보상 방식의 타겟 마케팅을 수행하는 타겟 마케팅 모듈; 및 상기 대조군과 실험군에 속하는 유저의 이탈률을 비교해 기대 이익을 최대로 하는 마케팅 비용을 결정하고, 상기 기대이익을 기초로 최적화 파라미터를 결정하는 기대이익 최적화 모듈을 포함할 수 있다.The departure prevention system in consideration of the expected profit according to the first aspect includes a prediction module that determines a departure prediction model for predicting a departure user among all users using a game log and machine learning; A target marketing module for distinguishing a predicted escape user from the predictive escape model into a control group and an experiment group, and performing target marketing of a user-specific differential compensation method for users belonging to the test group; And an expected profit optimization module for determining a marketing cost for maximizing expected profits by comparing the bounce rates of the users belonging to the control group and the experiment group, and determining an optimization parameter based on the expected profits.
또한, 상기 예측모듈은, 상기 기대이익 최적화 모듈에서 결정된 최적화 파라미터를 기반으로 상기 이탈예측모델을 수정할 수 있다.The prediction module may modify the deviation prediction model based on the optimization parameter determined by the expected benefit optimization module.
또한, 상기 이탈 예측모듈은, 상기 이탈예측모델에 따라 상기 전체 유저 중 이탈 확률이 최적화 파라미터보다 큰 유저를 이탈예상 유저로 결정 할 수 있다.The departure prediction module may determine, as the departure prediction user, a user whose departure probability is greater than an optimization parameter among all the users according to the departure prediction model.
또한, 상기 기대이익은, 상기 실험군에 속하는 유저의 전환율, 상기 이탈예상유저 중 실제로 이탈한 유저비율, 상기 이탈예상유저 중 실제로 이탈하지 않은 유저 비율 및 이탈예상유저가 아닌 유저의 비율을 고려하여 결정될 수 있다.In addition, the expected profit may be determined in consideration of a conversion rate of a user belonging to the experimental group, a user ratio actually deviating from the expected deviation user, a ratio of a user not actually deviating from the expected deviation user, and a ratio of a user who is not expected to leave. Can be.
또한, 상기 전환율은 상기 실험군과 상기 대조군에서 이탈한 유저 비율의 차이일 수 있다.In addition, the conversion rate may be a difference between the ratio of the user leaving the experimental group and the control group.
또한, 상기 전환율은 마케팅 비용에 따라 결정되며, 유저별 기대가치, 최대로 가능한 유저의 전환율 및 마케팅 비용대비 유전 전환율의 효과가 높은 구간의 너비 중 적어도 하나를 고려하여 마케팅 비용 대비 전환율이 최적인 지점이 결정될 수 있다.In addition, the conversion rate is determined according to the marketing cost, the optimal conversion rate compared to the marketing cost in consideration of at least one of the expected value for each user, the maximum possible conversion rate of the user and the width of the interval where the genetic conversion rate relative to the marketing cost is effective. This can be determined.
또한, 상기 실험군에 따라 상기 마케팅 비용은 다르게 적용될 수 있다.In addition, the marketing cost may be applied differently according to the experimental group.
또한, 상기 최적화 파라미터 값은 기계학습을 통해 반복적으로 수행된 마케팅 비용대비 기대이익 값들로 생성된 다차원 확률 밀도 함수에서 소정 범위내의 값으로 선택될 수 있다.In addition, the optimization parameter value may be selected as a value within a predetermined range in a multi-dimensional probability density function generated as expected profit value for marketing cost repeatedly performed through machine learning.
또한, 제 2 측면에 따른 기대이익을 고려한 이탈방지 시스템 제어 방법은, 게임 로그 및 기계 학습을 이용해 전체 유저 중 이탈예상유저를 예측하는 이탈예측모델을 결정하는 동작; 상기 이탈예측모델에서 예측된 이탈예상유저를 대조군과 실험군으로 구별하고, 상기 실험군에 속하는 유저에 대해 유저별 차등 보상 방식의 타겟 마케팅을 수행하는 동작; 및 상기 대조군과 실험군에 속하는 유저의 이탈률을 비교해 기대 이익을 최대로 하는 마케팅 비용을 결정하고, 상기 기대이익을 기초로 최적화 파라미터를 결정하는 동작을 포함할 수 있다.In addition, the departure prevention system control method in consideration of the expected benefit according to the second aspect, the operation of determining the departure prediction model for predicting the departure user of the total user using the game log and machine learning; Distinguishing a predicted escape user from the predicted escape model into a control group and an experiment group, and performing target marketing of a differential compensation scheme for each user for the users belonging to the experiment group; And comparing the dropout rates of the users belonging to the control group and the experiment group to determine a marketing cost that maximizes the expected profit, and determining an optimization parameter based on the expected profit.
또한, 제 3 측면은, 제 2 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.The third aspect may also provide a computer readable recording medium having recorded thereon a program for executing the method of the second aspect on a computer.
도 1은 일 실시 예에 따른 기대이익을 고려한 이탈방지 시스템을 설명하는 도면이다.
도 2는 일 실시 예에 따른 기대이익을 고려한 이탈방지 시스템의 동작을 상세히 설명하기 위한 블록도이다.
도 3은 일 실시 예에 따른 이탈방지 시스템의 기대이익 최적화 예측 모델을 설명하기 위한 도이다.
도 4는 일 실시 예에 따른 기대이익 최적화 예측 모델을 위한 파라미터의 측정값을 도시한 차트이다.
도 5는 일 실시 예에 따른 마케팅 비용과 전환율 간의 관계를 설명하기 위한 도면이다.
도 6는 일 실시 예에 기대 이익 최적화 예측 모델에서 최적화된 지점을 선택하는 일 예를 설명하기 위한 도면이다.
도 7은 일 실시 예에 따른 기대이익을 고려한 이탈방지 시스템의 제어 방법을 설명하는 순서도이다.1 is a view illustrating a departure prevention system in consideration of an expected profit according to an exemplary embodiment.
2 is a block diagram illustrating in detail an operation of a departure prevention system in consideration of expected profit according to an exemplary embodiment.
3 is a view for explaining an expected profit optimization prediction model of the departure prevention system according to an embodiment.
4 is a chart illustrating a measurement value of a parameter for an expected profit optimization prediction model, according to an exemplary embodiment.
5 is a diagram illustrating a relationship between a marketing cost and a conversion rate, according to an exemplary embodiment.
6 is a diagram for describing an example of selecting an optimized point in an expected profit optimization prediction model according to an embodiment.
7 is a flowchart illustrating a control method of a departure prevention system in consideration of expected profit according to an exemplary embodiment.
실시 예들에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.The terminology used in the embodiments is a general term that has been widely used as much as possible in consideration of the functions of the present invention, but may vary according to the intention or precedent of a person skilled in the art, the emergence of new technology, and the like. In addition, in certain cases, there is also a term arbitrarily selected by the applicant, in which case the meaning will be described in detail in the description of the invention. Therefore, the terms used in the present invention should be defined based on the meanings of the terms and the contents throughout the present invention, rather than the names of the simple terms.
명세서 전체에서 어떤 부분이 어떤 구성요소를 “포함”한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 “…부”, “…모듈” 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.When a part of the specification is said to "include" any component, this means that it may further include other components, except to exclude other components unless otherwise stated. In addition, the “…” described in the specification. Wealth ”,“… Module ”means a unit for processing at least one function or operation, which may be implemented in hardware or software, or a combination of hardware and software.
아래에서는 첨부한 도면을 참고하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention.
이하에서는 도면을 참조하여 본 발명의 실시 예들을 상세히 설명한다.Hereinafter, with reference to the drawings will be described embodiments of the present invention;
도 1은 일 실시 예에 따른 기대이익을 고려한 이탈방지 시스템(100)을 설명하는 도면이다.1 is a view illustrating a
도 1을 참조하면, 기대이익을 고려한 이탈방지 시스템(100)은 적어도 하나 이상의 서버(10), 단말(20) 및 네트워크(30)를 포함할 수 있다. 또한, 일 실시 예에 따른 서버(10)는 예측 모듈(110), 타겟 마케팅 모듈(120) 및 기대이익 최적화 모듈(130)을 포함할 수 있다.Referring to FIG. 1, the
예를 들면, 서버(10)는 네트워크(30)를 통해 단말(20)과 연동하여 단말(10)에 설치된 어플리케이션 또는 소프트웨어를 통한 게임 등의 서비스를 제공할 수 있다. 또한, 서버(10)는 게임 등의 서비스를 제공함에 있어서 기대이익을 고려하여 단말(10)의 유저들이 이탈하지 않도록 최적화된 타겟 마케팅을 제공할 수 있다.For example, the
구체적으로, 예측 모듈(110)은, 게임 로그 및 기계 학습을 이용해 전체 유저 중 이탈예상유저를 예측하는 이탈예측모델을 결정할 수 있다. 예측모듈(110)은 기존에 이탈한 유저와 잔존 유저의 게임 로그와 기계 학습 알고리즘을 이용해 이탈 유저와 잔존 유저를 분류할 수 있는 모델을 생성하고 이 모델을 이용하여 이탈할 유저를 사전에 예측할 수 있다. 또한, 예측모듈(110)은 유저가 이탈할 확률을 측정하며 이 확률이 미리 설정한 최적화 파라미터(t)보다 크면 이탈할 유저라고 판단한다. 여기서 최적화 파라미터(t)는 0에서 1사이 값을 가질 수 있으며, 최초에는 0.5부터 시작하여, 이후 기대이익 최적화 모듈을 통해 조정될 수 있다. In detail, the
타겟 마케팅 모듈(120)은 이탈예측모델에서 예측된 이탈예상유저를 대조군과 실험군으로 구별하고, 실험군에 속하는 유저에 대해 유저별 차등 보상 방식의 타겟 마케팅을 수행할 수 있다. The
예를 들면, 타겟 마케팅 모듈(120)은 정확한 이탈방지 효과를 측정하기 위해 적어도 두 개 이상의 그룹(대조군, 실험군 1, 2, … )으로 이탈예상유저를 나눈다. 그리고 타겟 마케팅 모듈(120)은 대조군에게는 아무런 마케팅을 수행하지 않으며, 실험군에게는 대상 유저의 기대 가치(CLV)에 따라 차별화된 마케팅을 수행할 수 있다. 이때, 유저별 기대 가치(CLV)는 과거 결제 이력 및 기대 수명을 고려해 사전에 추정될 수 있다.For example, the
또한, 기대이익 최적화 모듈(130)은 대조군과 실험군에 속하는 유저의 이탈률을 비교해 기대 이익을 최대로 하는 마케팅 비용을 결정하고, 상기 기대이익을 기초로 최적화 파라미터를 결정할 수 있다.In addition, the expected
예컨대, 기대이익은 실험군에 속하는 유저의 전환율, 상기 이탈예상유저 중 실제로 이탈한 유저비율, 이탈 예상 유저 중 실제로 이탈하지 않은 유저 비율 및 이탈예상유저가 아닌 유저의 비율을 고려하여 결정될 수 있다.For example, the expected profit may be determined in consideration of the conversion rate of the users belonging to the experimental group, the ratio of the users who actually dropped out of the expected dropout users, the ratio of the users who did not actually drop out of the expected dropout users, and the ratio of the users who are not the expected dropout users.
또한, 여기서 전환율은 상기 실험군과 상기 대조군에서 이탈한 유저 비율의 차이를 의미할 수 있다. 예컨대, 전환율은 마케팅 비용에 따라 결정되며, 유저별 기대가치, 최대로 가능한 유저의 전환율 및 마케팅 비용대비 유전 전환율의 효과가 높은 구간의 너비 중 적어도 하나를 고려하여 마케팅 비용 대비 전환율이 최적인 지점이 결정될 수 있다. 한편, 실험군에 따라 상기 마케팅 비용은 다르게 적용될 수 있다.In addition, the conversion rate may mean a difference between the ratio of the user leaving the experimental group and the control group. For example, the conversion rate is determined according to the marketing cost, and considering the at least one of the expected value of each user, the maximum possible conversion rate of the user, and the width of the interval in which the genetic conversion rate is more effective than the marketing cost, Can be determined. Meanwhile, the marketing cost may be applied differently according to the experimental group.
또한, 상술한 최적화 파라미터 값은 기계학습을 통해 반복적으로 수행된 마케팅 비용대비 기대이익 값들로 생성된 다차원 확률 밀도 함수에서 소정 범위내의 값으로 선택되는 것일 수 있다.In addition, the above-described optimization parameter value may be selected as a value within a predetermined range from the multi-dimensional probability density function generated as expected profit value against marketing cost repeatedly performed through machine learning.
한편, 일 실시예에 따른 단말(20)은 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 태블릿 PC, 스마트 TV, 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등을 포함할 수 있으며, 이에 한정되는 것은 아니다. 예를 들면, 적어도 한 명 이상의 유저가 단말(10)에 설치된 어플리케이션 또는 소프트웨어를 통해 서버(20)와 네트워크(30)를 통해 연동하여 실행되는 게임 서비스 등을 이용할 수 있다.Meanwhile, the terminal 20 according to an embodiment includes a mobile phone, a smart phone, a laptop computer, a tablet PC, a smart TV, a digital broadcasting terminal, a personal digital assistant (PDA), and a portable multimedia player (PMP). ), Navigation, and the like, but are not limited thereto. For example, at least one user may use a game service or the like that is executed in cooperation with the server 20 and the
일 실시예에 따른 네트워크(30)는 유선 네트워크뿐만 아니라 무선 네트워크를 포함할 수 있다. 예컨대, 네트워크(30)는 4G 및 5G를 포함하는 소정의 이동통신망 또는 Wi-Fi 및 Bluetooth를 포함하는 근거리 통신을 통해서 구성될 수 있다.The
한편, 도 1에는 본 실시예를 설명하기 위한 구성요소 만이 도시되어 있지만 이러한 구성으로 반드시 한정되는 것은 아니며, 이탈방지 시스템이 동작하기 위한 다양한 구성요소가 더 포함 될 수 있다.Meanwhile, although only components for describing the present embodiment are illustrated in FIG. 1, the components are not necessarily limited to these components, and various components for operating the departure prevention system may be further included.
도 2는 일 실시 예에 따른 기대이익을 고려한 이탈방지 시스템(100)의 동작을 상세히 설명하기 위한 블록도이다.2 is a block diagram illustrating in detail the operation of the
도 2를 참조하면 일 실시예에 따른 이탈방지 시스템(100)은 단계 S110에서, 게임 로그 및 기계 학습을 이용해 전체 유저(210) 중 이탈예상유저(220)를 예측하기 위한 이탈 예측 모델을 결정하고, 이탈 예측 모델에 따라 유저별로 결정된 이탈 확률을 최적화 파라미터(이하, t)와 비교하여 이탈 예상유저(220)로 분류한다. 여기서 t는 0에서 1사이 값을 가질 수 있으며, 최초에는 0.5부터 시작하여, 이후 기대이익 최적화 모델을 통해 조정될 수 있다. Referring to FIG. 2, in step S110, the
다음으로, 이탈예상 유저(220)는 다시 대조군(230)과 실험군(240)으로 구별된다. 이때 타겟 마케팅 효과를 측정하기 위한 실험군(240)은 복수개로 구성될 수도 있다.Next, the
단계 S120에서 이탈방지 시스템(100)은 실험군(240)에 속한 유저에 대해서만 타겟 마케팅을 수행한다. 예를 들면, 유저별 차등 보상 방식의 타겟 마케팅이 수행될 수 있다.In step S120, the
단계 S130에서는 대조군(230) 및 실험군(240)의 타겟 마케팅 수행에 따른 이탈 방지 기대 이익이 결정된다. 이때, 결정된 기대이익을 최적화 하기 위한 값으로 최적화 파라미터가 결정된다.In step S130, anticipated anticipation benefit from departure of target marketing of the
단계 S140에서는 최적화 파라미터를 결정하기 위한 마케팅 비용의 최적화가 이루어지며, 단계 S150에서는 최적화 파라미터를 이용하여 예측 모델 최적화가 이루어 진다. In step S140, the marketing cost is optimized to determine the optimization parameter, and in step S150, the prediction model is optimized using the optimization parameter.
한편, 여기서 기대이익, 최적화 파라미터 및 마케팅 비용의 값은 각각 독립적으로 결정될 수 있는 값은 아니며, 다수의 변수를 가지는 함수를 이용하여 소정 확률 범위 내에서 기계 학습 등을 통해 결정 될 수 있다.Meanwhile, the values of the expected profit, the optimization parameter, and the marketing cost are not values that can be independently determined, and may be determined through machine learning within a predetermined probability range using a function having a plurality of variables.
이하, 도 3 내지 도 6을 참조하여 기대이익 최적화 예측 모델의 최적화 파라미터를 결정하는 방법을 보다 상세히 설명한다.Hereinafter, a method of determining an optimization parameter of an expected benefit optimization prediction model will be described in more detail with reference to FIGS. 3 to 6.
도 3은 일 실시 예에 따른 이탈방지 시스템의 기대이익 최적화 예측 모델을 설명하기 위한 도이다.3 is a view for explaining an expected profit optimization prediction model of the departure prevention system according to an embodiment.
도 3을 참조하면, 전체 유저는 이탈로 예측되는 유저(310) 및 잔존으로 예측되는 유저(320)로 구별되며, 전체유저는 실제 마케팅 이후에 다시 활동유저(330) 및 이탈유저(340)로 다시 구별된다. Referring to FIG. 3, the total user is divided into a
따라서, 마케팅 전후의 유저들의 변화를 이용하여 기대이익을 최대로 하기 위한 기대 이익 최적화 모델은 다음의 수학식 1에 따라 결정될 수 있다.Therefore, the expected profit optimization model for maximizing the expected profit by using the changes of the users before and after marketing may be determined according to Equation 1 below.
[수학식 1][Equation 1]
여기서, Profit(t,C)는 기대이익, t는 최적화 파라미터, C 는 마케팅 비용, CLV는 유저별 기대가치, f(C)는 전환율, g(t)는 (전체 유저 중 이탈 확률이 t보다 큰 유저의 비율)*(이탈확률이t보다 큰 유저들 중 실제로 이탈한 유저비율), h(t)는 (전체 유저 중 이탈확률이 t보다 큰 유저의 비율)*(이탈확률이 t보다 큰 유저들 중 실제 이탈하지 않은 유저 비율), k(t)는 (전체 유저 중 이탈확률이 t보다 작거나 같은 유저의 비율)*(이탈확률이 t보다 작거나 같은 유저들 중 실제 잔존한 유저비율)을 나타낸다.Where Profit (t, C) is the expected profit, t is the optimization parameter, C is the marketing cost, CLV is the expected value per user, f (C) is the conversion rate, and g (t) is the probability of churn among all users. Ratio of large users) * (percent of users out of those whose probability of exit is greater than t), and h (t) is the ratio of total users whose probability of departure is greater than t) * K (t) is the ratio of the users whose exit probability is less than or equal to t) * (the percentage of users who remain less than or equal to t) ).
한편, 기대이익(Profit(t,C))을 최적화 하기 위해서는 최적화 파라미터 t와 마케팅 비용 C에 대한 결정이 필요하며, 이 때 상술한 기대이익 최적화 모듈의 변수인 g(t), h(t), k(t)는 최적화 파라미터에 의존 하게 되므로, 기계 학습을 통해 각각의 변수가 최적의 값을 갖는 지점을 결정 하여야 한다.Meanwhile, in order to optimize the expected profit Prot (t, C), it is necessary to determine the optimization parameter t and the marketing cost C. At this time, g (t) and h (t) which are variables of the expected profit optimization module described above. Since k (t) depends on the optimization parameter, we need to determine the point where each variable has the optimal value through machine learning.
예컨대, 도 4는 일 실시 예에 따른 기대이익 최적화 예측 모델을 위한 파라미터의 측정값을 도시한 차트이다. For example, FIG. 4 is a chart illustrating measurement values of parameters for an expected profit optimization prediction model, according to an exemplary embodiment.
도 4를 참조하면, 가로축 threshold는 최적화 파라미터를 의미하며 세로축 rate는 비율을 나타내는 그래프가 측정될 수 있다. 여기서, g(t)는 (전체 유저 중 이탈 확률이 t보다 큰 유저의 비율)*(이탈확률이t보다 큰 유저들 중 실제로 이탈한 유저비율)을 나타낸다. h(t)는 (전체 유저 중 이탈확률이 t보다 큰 유저의 비율)*(이탈확률이 t보다 큰 유저들 중 실제 이탈하지 않은 유저 비율)을 나타낸다. k(t)는 (전체 유저 중 이탈확률이 t보다 작거나 같은 유저의 비율)*(이탈확률이 t보다 작거나 같은 유저들 중 실제 잔존한 유저비율)을 나타낸다.Referring to FIG. 4, a horizontal axis threshold refers to an optimization parameter and a vertical axis rate may be a graph indicating a ratio. Here, g (t) represents (the ratio of the users whose exit probability is greater than t) * (the ratio of users who actually exited among the users whose exit probability is larger than t). h (t) represents (ratio of users whose exit probability is greater than t) * (ratio of users whose exit probability is not larger than t). k (t) represents (the ratio of the users whose exit probability is less than or equal to t) of the total users * (the actual remaining user ratio among the users whose exit probability is less than or equal to t).
도 4에 도시된 그래프를 참조하면 k(t)값은 최적화 파라미터 값이 커질수록 증가하며, g(t) 및 h(t)는 최적화 파라미터 값이 커질수록 감소하는 함수인 것을 알 수 있다.Referring to the graph shown in FIG. 4, it can be seen that k (t) increases as the optimization parameter increases, and g (t) and h (t) decrease as the optimization parameter increases.
한편, 다시 도 3을 참조하면 이탈로 예측된 유저(310)가 실제 이탈(370)할 경우 활동유저(330)에 대한 기대이익은이고, 이탈유저(340)에 대한 기대이익은 로 결정될 수 있다. 또한 이탈로 예측된 유저(310)가 실제 잔존(380)할 경우 활동유저(330)에 대한 기대이익은으로 결정될 수 있다. 여기서, γ는 유저 전환율을 의미할 수 있다.Meanwhile, referring back to FIG. 3, if the
또한, 잔존으로 예측된 유저(320)가 실제 잔존(360)할 경우 활동유저(330)에 대한 기대이익은 CLV로 결정되며, 잔존으로 예측된 유저(320)가 실제이탈(350)할 경우 기대이익은 없는 것으로 결정 될 수 있다. 왜냐하면 잔존으로 예측된 유저(320)에 대해서는 타켓 마케팅 비용이 수행되지 않아 마케팅 비용이 0이기 때문이다.In addition, if the
구체적으로, 도 5를 참조하여, 일 실시 예에 따른 마케팅 비용과 전환율 간의 관계를 설명한다. 여기서, 실험군과 대조군의 실제 이탈한 유저 비율의 차이를 전환율(f(C))이라고 정의한다.Specifically, with reference to FIG. 5, the relationship between the marketing cost and the conversion rate according to an embodiment. Here, the difference between the percentage of users who actually dropped out of the experimental group and the control group is defined as the conversion rate f (C).
우선, 마케팅 비용에 따른 상기 전환율은 다음의 [수학식2]에 따라 결정될 수 있다.First, the conversion rate according to the marketing cost may be determined according to Equation 2 below.
[수학식 2][Equation 2]
여기서, f(C)는 전환율, C는 마케팅 비용, CLV는 유저별 기대 가치, 는 최대 가능한 유저 전환율, 는 마케팅 비용 대비 유저 전환율의 효과가 높은 구간의 너비, 는 마케팅 비용의 변화 대비 전환율의 상승폭이 최대인 지점을 의미할 수 있다.Where f (C) is the conversion rate, C is the marketing cost, CLV is the expected value per user, Is the maximum possible user conversion rate, Is the width of the interval for which user conversion rate is more effective than marketing costs, May indicate the point at which the rate of increase in the conversion rate is the maximum compared to the change in the marketing cost.
한편, , , 는 서비스의 특성에 따라 달라질 수 있다. 예를들면, , , 의 구체적인 값은 타겟 마케팅 실험을 이용하여 결정된다. 여기서, 적어도 하나이상의 실험군에 대해 마케팅 비용을 다르게 적용하여 수학식 2를 만족하는 미지수 , , 를 도 5에 도시된 그래프를 이용하여 결정할 수 있다. 여기서, 가로축 campaign cost는 타겟 마케팅 비용, 세로축 conversion rate는 전환율(f(C))을 의미한다.Meanwhile, , , May vary depending on the characteristics of the service. For example, , , The specific value of is determined using the target marketing experiment. Here, an unknown value that satisfies Equation 2 by applying marketing costs differently to at least one experimental group. , , Can be determined using the graph shown in FIG. Here, the horizontal axis campaign cost refers to the target marketing cost, and the vertical axis conversion rate refers to the conversion rate f (C).
도 6는 일 실시 예에 기대 이익 최적화 예측 모델에서 최적화된 지점을 선택하는 일 예를 설명하기 위한 도이다.6 is a diagram for describing an example of selecting an optimized point in an expected profit optimization prediction model according to an embodiment.
상술된 수학식 1 및 수학식 2를 기계학습을 통해 반복적으로 수행할 경우, 최적화 파라미터 및 마케팅 비용을 변수하는 다차원 확률 밀도 함수가 도 6에 도시된 그래프와 같이 나타날 수 있다.When Equations 1 and 2 described above are repeatedly performed through machine learning, a multi-dimensional probability density function that varies optimization parameters and marketing costs may appear as shown in the graph of FIG. 6.
따라서, 일 실시예에 따른 이탈방지 시스템(100)은 반복적인 기계 학습을 통해 구현한 다차원 확률 밀도 그래프에서, 최종적으로 마케팅 비용(가로축, cost)대비 최적의 기대 이익(profit)을 가지는 최적화 파라미터(세로축, 610)를 결정 할 수 있다. 물론 이러한 최적화 파라미터(610)는 반드시 하나의 값으로 확정되는 것은 아니며 기대이익(profit)이 소정 %이상 되는 범위 내에서 결정될 수 있다.Therefore, the
도 7은 일 실시 예에 따른 기대이익을 고려한 이탈방지 시스템의 제어 방법을 설명하는 순서도이다.7 is a flowchart illustrating a control method of a departure prevention system in consideration of expected profit according to an exemplary embodiment.
도 7을 참조하면, 이탈방지 시스템(100)의 제어 방법은 도 1에 도시된 이탈방지 시스템(100) 또는 서버(10)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 1 내지 도 6에 도시된 이탈방지 시스템(100) 또는 서버(10)에 관하여 이상에서 기술된 내용은 도 7에 도시된 방법에도 적용됨을 알 수 있다.Referring to FIG. 7, the control method of the
단계 710에서, 일 실시예에 따른 이탈방지 시스템 제어 방법은, 게임 로그 및 기계 학습을 이용해 전체 유저 중 이탈예상유저를 예측하는 이탈예측모델을 결정할 수 있다.In
단계 720에서, 일 실시예에 따른 이탈방지 시스템 제어 방법은, 이탈예측모델에서 예측된 이탈예상유저를 대조군과 실험군으로 구별하고, 상기 실험군에 속하는 유저에 대해 유저별 차등 보상 방식의 타겟 마케팅을 수행할 수 있다.In
단계 730에서, 일 실시예에 따른 이탈방지 시스템 제어 방법은, 대조군과 실험군에 속하는 유저의 이탈률을 비교해 기대 이익을 최대로 하는 마케팅 비용을 결정할 수 있다. 여기서, 기대 이익은 실험군에 속하는 유저의 전환율, 상기 이탈예상유저 중 실제로 이탈한 유저비율, 상기 이탈예상유저 중 실제로 이탈하지 않은 유저 비율 및 이탈예상유저가 아닌 유저의 비율을 고려하여 결정될 수 있다.In
단계 740에서, 일 실시예에 따른 이탈방지 시스템 제어 방법은, 기대이익을 기초로 최적화 파라미터를 결정할 수 있다. 또한, 이탈방지 시스템 제어방법은, 기대이익 최적화 모듈에서 결정된 최적화 파라미터를 기반으로 상기 이탈예측모델을 수정하고, 전체 유저 중 이탈 예측 모델에 따른 이탈 확률이 최적화 파라미터 보다 큰 유저를 이탈예상 유저로 결정할 수 있다.In
한편, 상술한 방법은 컴퓨터에서 실행될 수 있는 프로그램으로 작성 가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 또한, 상술한 방법에서 사용된 데이터의 구조는 컴퓨터로 읽을 수 있는 기록매체에 여러 수단을 통하여 기록될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 램, USB, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.On the other hand, the above-described method can be written as a program that can be executed in a computer, it can be implemented in a general-purpose digital computer to operate the program using a computer-readable recording medium. In addition, the structure of the data used in the above-described method can be recorded on the computer-readable recording medium through various means. The computer-readable recording medium may include a storage medium such as a magnetic storage medium (eg, ROM, RAM, USB, floppy disk, hard disk, etc.), an optical reading medium (eg, CD-ROM, DVD, etc.). do.
본 실시 예와 관련된 기술 분야에서 통상의 지식을 가진 자는 상기된 기재의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 방법들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.Those skilled in the art will appreciate that the present invention may be embodied in a modified form without departing from the essential characteristics of the above-described substrate. Therefore, the disclosed methods should be considered in descriptive sense only and not for purposes of limitation. The scope of the present invention is shown in the claims rather than the foregoing description, and all differences within the scope will be construed as being included in the present invention.
Claims (10)
상기 이탈예측모델에서 예측된 이탈예상유저를 대조군과 실험군으로 구별하고, 상기 실험군에 속하는 유저에 대해 유저별 차등 보상 방식의 타겟 마케팅을 수행하는 타겟 마케팅 모듈; 및
상기 대조군과 실험군에 속하는 유저의 이탈률을 비교해 기대 이익을 최대로 하는 마케팅 비용을 결정하고, 상기 기대이익을 기초로 최적화 파라미터를 결정하는 기대이익 최적화 모듈을 포함하는, 이탈 방지 시스템.A prediction module for determining an escape prediction model predicting an escape user by using the game log and machine learning;
A target marketing module for distinguishing a predicted escape user from the predicted escape model into a control group and an experiment group, and performing target marketing by a differential compensation method for each user for the users belonging to the test group; And
And an expected benefit optimization module that compares a departure rate of the user belonging to the control group and the experimental group to determine a marketing cost for maximizing expected profit and determines an optimization parameter based on the expected profit.
상기 예측모듈은, 상기 기대이익 최적화 모듈에서 결정된 최적화 파라미터를 기반으로 상기 이탈예측모델을 수정하는 것인, 이탈 방지 시스템.The method of claim 1,
The prediction module is to modify the departure prediction model based on the optimization parameters determined in the expected benefit optimization module, departure prevention system.
상기 이탈 예측모듈은, 상기 이탈예측모델에 따라 상기 전체 유저 중 이탈 확률이 최적화 파라미터보다 큰 유저를 이탈예상 유저로 결정하는 것인, 이탈 방지 시스템.The method of claim 1,
The departure prediction module is configured to determine a user whose departure probability is greater than an optimization parameter among all the users according to the departure prediction model.
상기 실험군에 속하는 유저의 전환율, 상기 이탈예상유저 중 실제로 이탈한 유저비율, 상기 이탈예상유저 중 실제로 이탈하지 않은 유저 비율 및 이탈예상유저가 아닌 유저의 비율을 고려하여 결정되는 것인, 이탈 방지 시스템.The method of claim 1, wherein the expected profit is
A departure prevention system that is determined in consideration of the conversion rate of the users belonging to the experimental group, the ratio of users who actually escaped from the expected escape users, the ratio of users who do not actually escape from the expected escape users, and the ratio of users who are not expected to leave. .
상기 전환율은 상기 실험군과 상기 대조군에서 이탈한 유저 비율의 차이인, 이탈 방지 시스템.The method of claim 4, wherein
The conversion rate is a difference between the ratio of the user leaving the experimental group and the control group, escape prevention system.
상기 전환율은 마케팅 비용에 따라 결정되며, 유저별 기대가치, 최대로 가능한 유저의 전환율 및 마케팅 비용대비 유전 전환율의 효과가 높은 구간의 너비 중 적어도 하나를 고려하여 마케팅 비용 대비 전환율이 최적인 지점이 결정되는 것인, 이탈 방지 시스템.The method of claim 5,
The conversion rate is determined according to the marketing cost, and a point at which the conversion rate is optimal to the marketing cost is determined by considering at least one of the expected value of each user, the maximum possible conversion rate of the user, and the width of the interval in which the genetic conversion rate is more effective than the marketing cost. The departure prevention system.
상기 실험군에 따라 상기 마케팅 비용은 다르게 적용되는 것인, 이탈방지 시스템.The method of claim 1,
The marketing cost is applied differently according to the experimental group, departure prevention system.
상기 최적화 파라미터 값은 기계학습을 통해 반복적으로 수행된 마케팅 비용대비 기대이익 값들로 생성된 다차원 확률 밀도 함수에서 소정 범위내의 값으로 선택되는 것인, 이탈방지 시스템.The method of claim 1,
Wherein the optimization parameter value is selected as a value within a predetermined range from a multi-dimensional probability density function generated from expected cost-to-market value values repeatedly performed through machine learning.
상기 이탈예측모델에서 예측된 이탈예상유저를 대조군과 실험군으로 구별하고, 상기 실험군에 속하는 유저에 대해 유저별 차등 보상 방식의 타겟 마케팅을 수행하는 동작; 및
상기 대조군과 실험군에 속하는 유저의 이탈률을 비교해 기대 이익을 최대로 하는 마케팅 비용을 결정하고, 상기 기대이익을 기초로 최적화 파라미터를 결정하는 동작을 포함하는, 이탈방지 시스템 제어방법.Determining an escape prediction model that predicts an escape user among all users using the game log and machine learning;
Distinguishing a predicted escape user from the predicted escape model into a control group and an experiment group, and performing target marketing of a differential compensation scheme for each user for the users belonging to the experiment group; And
And comparing the departure rates of the users belonging to the control group with the experimental group to determine a marketing cost that maximizes the expected profit, and determining an optimization parameter based on the expected profit.
하드웨어인 컴퓨터와 결합되어, 제9항의 이탈방지 시스템 제어방법을 실행시키기 위하여 매체에 저장된, 이탈방지시스템 제어프로그램.The method of claim 9,
A departure prevention system control program, combined with a computer, which is hardware, and stored in a medium for executing the departure prevention system control method of claim 9.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180065464A KR20190139008A (en) | 2018-06-07 | 2018-06-07 | A system for preventing user leaving based on expectation profit and controlling method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180065464A KR20190139008A (en) | 2018-06-07 | 2018-06-07 | A system for preventing user leaving based on expectation profit and controlling method thereof |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20190139008A true KR20190139008A (en) | 2019-12-17 |
Family
ID=69056810
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180065464A KR20190139008A (en) | 2018-06-07 | 2018-06-07 | A system for preventing user leaving based on expectation profit and controlling method thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20190139008A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112546632A (en) * | 2020-12-09 | 2021-03-26 | 百果园技术(新加坡)有限公司 | Game map parameter adjusting method, device, equipment and storage medium |
CN113962501A (en) * | 2020-07-21 | 2022-01-21 | 北京市天元网络技术股份有限公司 | Method and system for collecting marketing activity effect of operator |
KR20220118936A (en) * | 2021-02-19 | 2022-08-26 | (주)나인빌리언앤코 | Optimal marketing cost calculation system and method for subscription service |
KR20220163075A (en) * | 2021-06-02 | 2022-12-09 | 라인 페이 가부시키가이샤 | Method and system for predicting membership withdrawal |
-
2018
- 2018-06-07 KR KR1020180065464A patent/KR20190139008A/en not_active Application Discontinuation
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113962501A (en) * | 2020-07-21 | 2022-01-21 | 北京市天元网络技术股份有限公司 | Method and system for collecting marketing activity effect of operator |
CN112546632A (en) * | 2020-12-09 | 2021-03-26 | 百果园技术(新加坡)有限公司 | Game map parameter adjusting method, device, equipment and storage medium |
KR20220118936A (en) * | 2021-02-19 | 2022-08-26 | (주)나인빌리언앤코 | Optimal marketing cost calculation system and method for subscription service |
KR20220163075A (en) * | 2021-06-02 | 2022-12-09 | 라인 페이 가부시키가이샤 | Method and system for predicting membership withdrawal |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20190139008A (en) | A system for preventing user leaving based on expectation profit and controlling method thereof | |
KR102322845B1 (en) | Method, device and system for deriving brand marketing strategy based on artificial intelligence | |
US11720070B2 (en) | Determining causal models for controlling environments | |
US20210158198A1 (en) | Fast multi-step optimization technique to determine high performance cluster | |
US10021169B2 (en) | Mobile application daily user engagement scores and user profiles | |
US20180225588A1 (en) | Accelerated machine learning optimization strategy to determine high performance cluster with minimum resources | |
US20190266619A1 (en) | Behavior pattern search system and behavior pattern search method | |
US11341446B2 (en) | Personalized behavior-driven dynamic risk management with constrained service capacity | |
US10019542B2 (en) | Scoring a population of examples using a model | |
CA3019191A1 (en) | Method and system for determining optimized customer touchpoints | |
US11861508B2 (en) | Causal analysis | |
US20200167634A1 (en) | Machine learning based approach for identification of extremely rare events in high-dimensional space | |
US20200125990A1 (en) | Systems and Methods for Intervention Optimization | |
US20160148246A1 (en) | Automated System for Safe Policy Improvement | |
CN105447587A (en) | Predicting renewal of contracts | |
US20240046922A1 (en) | Systems and methods for dynamically updating machine learning models that provide conversational responses | |
CN109145207B (en) | Information personalized recommendation method and device based on classification index prediction | |
CN118749109A (en) | Automatic generation of agent configuration for reinforcement learning | |
CN109685091A (en) | Digital experience targeting using bayesian approach | |
US20200042924A1 (en) | Validation system, validation execution method, and validation program | |
CN113362120B (en) | Group determination method and device, electronic equipment and computer readable storage medium | |
JP7559771B2 (en) | Information processing device, information processing method, and program | |
CN113574554B (en) | Operating a supply chain using a causal model | |
KR102567499B1 (en) | Apparatus, method and program for providing a service that recommends a franchise brand to prospective entrepreneurs | |
CN110796263B (en) | System and method for intervention optimization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E601 | Decision to refuse application |