KR20110080961A - System and method for evaluating advertising system using online advertising game - Google Patents

System and method for evaluating advertising system using online advertising game Download PDF

Info

Publication number
KR20110080961A
KR20110080961A KR1020100001421A KR20100001421A KR20110080961A KR 20110080961 A KR20110080961 A KR 20110080961A KR 1020100001421 A KR1020100001421 A KR 1020100001421A KR 20100001421 A KR20100001421 A KR 20100001421A KR 20110080961 A KR20110080961 A KR 20110080961A
Authority
KR
South Korea
Prior art keywords
advertisement
game
advertising
online
evaluation
Prior art date
Application number
KR1020100001421A
Other languages
Korean (ko)
Other versions
KR101218032B1 (en
Inventor
맹성현
박근찬
류지희
김경민
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020100001421A priority Critical patent/KR101218032B1/en
Publication of KR20110080961A publication Critical patent/KR20110080961A/en
Application granted granted Critical
Publication of KR101218032B1 publication Critical patent/KR101218032B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/61Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor using advertising information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0278Product appraisal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/02Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]

Abstract

PURPOSE: An evaluation method and system of an advertisement system using an online advertisement game are provided to expose an advertisement in case a user voluntarily joins the game to reduce a negative advertising effect. CONSTITUTION: An advertisement system(120) provides web content(122) and advertisements(124). An online advertisement game(130) provides an online game to a plurality of clients(110) using the web content and the advertisement and draws a game result through gaming. An advertisement evaluation system(140) evaluates a corresponding advertisement system. A web interface(150) interfaces between components.

Description

온라인 광고 게임을 이용한 광고 시스템의 평가 방법 및 시스템{System and Method for Evaluating Advertising System using Online Advertising Game}System and Method for Evaluating Advertising System using Online Advertising Game}

본 발명은 온라인 광고에 관한 것으로서, 특히 광고 효과를 극대화함과 동시에 광고 시스템의 성능을 객관적이고 효율적으로 평가할 수 있는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법 및 시스템에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to online advertising, and more particularly, to a method and system for evaluating an advertising system using an online advertising game that can maximize the effectiveness of an advertisement and at the same time objectively and efficiently evaluate the performance of the advertising system.

인터넷이 발달함에 따라 온라인 광고는 상품 혹은 서비스 구매자와 시장을 이어주는 매개체로서 중요한 역할을 하고 있다. 또한 온라인 광고가 대부분의 웹 검색 엔진과 인터넷 뉴스 신문 사이트들의 주 수입원이 됨에 따라 온라인 광고의 비중은 더욱더 커지고 있다.With the development of the Internet, online advertising plays an important role as a vehicle that connects the buyers of goods or services to the market. Also, as online advertising is a major source of revenue for most web search engines and Internet news newspaper sites, the proportion of online advertising is growing.

온라인 광고는 그 형태에 따라 키워드 광고(sponsored search)와 문맥 광고(contextual advertising)로 나누어진다.Online advertising is divided into keyword advertising and contextual advertising according to its form.

키워드 광고는 온라인 상에서 웹 페이지의 특정 영역 혹은 광고주가 자신의 기업 또는 상품과 적합하다고 생각되는 키워드에 광고료를 지불하면서 배너, 동영상, 검색 결과 페이지 등에 광고하는 방법을 말한다. 대형 포털 사이트의 좌/우 측면 또는 상/하단에 설치되는 배너광고가 가장 일반적인 방법으로서, 이러한 광고는 인기 있는 사이트일수록, 경쟁 광고주가 많을수록 광고료가 비싸다.Keyword advertising refers to a method of advertising a banner, video, search result page, etc. while paying an advertisement fee for a specific area of a web page or a keyword that an advertiser thinks is suitable for a company or a product online. Banner advertisements installed on the left / right side or the top / bottom of a large portal site are the most common methods. Such advertisements are more expensive as more popular sites and more competitive advertisers.

문맥 광고는 주어진 웹 페이지에 광고 데이터베이스에 있는 광고 중 해당 페이지와 관계된 광고를 웹 페이지에 보여주는 광고 방법을 말한다. 광고주뿐만 아니라 개인 사용자들 또한 자신의 홈페이지에 문맥 광고 모듈을 적용 가능하게 함으로써, 개인 사용자들에게는 수익을, 광고주에게는 광고 효과를 증대할 수 있도록 하고 있다.The contextual advertisement refers to an advertisement method of displaying an advertisement related to the page among the advertisements in the advertisement database on a given web page. Not only advertisers but also individual users can apply contextual advertising modules to their homepages, thereby increasing profits to individual users and advertising effects to advertisers.

하지만 상기 온라인 광고들은 사용자들의 욕구와 관계없이 웹페이지에 광고를 직접 노출하여 일방적으로 광고를 전달하는 방식을 취하기 때문에 사용자에게 거부감을 주기도 하며, 광고주의 의도와 다르게 부정적인 광고효과를 유발하기도 한다.However, the online advertisements may cause a negative feeling for the user because the online advertisements directly expose the advertisement to the web page regardless of the user's desires and thus deliver the advertisement unilaterally.

최근 상기 온라인 광고의 문제점을 보완하고자 온라인 게임을 통해 사용자들이 광고에 자연스럽게 노출되도록 하려는 시도가 행해지고 있다. 크게 게임에 방해가 되지 않는 범위에서 광고를 노출하는 방법과 광고를 게임의 일부분으로서 포함시키는 방법이 있다. 전자의 경우, NPC(Non Player Character), 아이템 또는 게임 인터페이스에 광고 이미지를 입히는 방법으로 대다수의 게임에서 쉽게 볼 수 있는 방법이다. 후자의 경우, 광고 이미지 자체를 자르고 섞어 원 이미지를 맞추도록 하는 퍼즐 게임, 소정 광고의 짝을 맞추었을 때 점수를 주는 슬롯머신 게임, 광고 자체가 보물이 되는 보물찾기 게임 등 광고가 게임 상에서 사용자가 달성해야 되는 목표 자체가 되는 방법이 대표적이다.In recent years, attempts have been made to naturally expose users to advertisements through online games to supplement the problems of the online advertisements. There are methods of exposing advertisements to the extent that they do not greatly interfere with the game, and methods of including advertisements as part of the game. In the former case, an advertisement image is applied to a non-player character (NPC), an item, or a game interface so that it can be easily seen in most games. In the latter case, advertisements are displayed on the game, such as a puzzle game that cuts and blends the advertisement image itself to match the original image, a slot machine game that scores when a given advertisement is matched, and a treasure hunt game in which the advertisement itself is a treasure. Typical ways are the goals that must be achieved.

그러나 이러한 종래의 게임을 이용한 광고 방법은 게임의 진행이 주가 되고 광고의 대상은 단지 게임 내부에서 배경 또는 단순 아이템이라는 작은 비중에만 한정되므로, 광고 효과가 미비하며 사용자가 광고에 집중 또는 광고를 인식하게 하는데 한계가 있다.However, the advertising method using the conventional game is mainly the progress of the game and the target of the advertisement is limited to only a small proportion of the background or simple items within the game, so that the advertising effect is insufficient and the user can concentrate on the advertisement or recognize the advertisement. There is a limit to this.

한편, 온라인 광고는 그 중요성이 부각됨에 따라 많은 기업, 연구소, 대학교 등에서 이를 하나의 연구 분야로 인정하여, 사용자에게는 적합한 광고를 제공하고, 광고주에게는 이익을 극대화할 수 있는 광고 방법에 관한 연구에 많은 투자를 하고 있다. 하지만 연구의 결과를 객관적으로 평가하기가 어렵다는 한계가 있어 해당 분야의 연구를 하고자 하는 이들에게 큰 진입장벽으로 작용하고 있다.On the other hand, as the importance of online advertising is increasing, many companies, research institutes, universities, etc. recognize it as a research field, and thus, many researches on advertising methods that provide users with appropriate advertisements and maximize advertisers' profits are possible. I'm investing. However, there is a limit that it is difficult to objectively evaluate the results of the research, which acts as a large barrier to entry for those who want to research in the relevant field.

구글, 야후 등의 대형 포털 사이트의 경우, 광고주로부터 받은 광고와 대량의 웹 콘텐츠 그리고 웹페이지를 보고 광고를 클릭하는 다수의 사용자들을 이용하여 자사 시스템의 광고 효과를 평가한다. 일반적으로 CTR(Click Through Rate), 즉 광고의 노출 대비 클릭 횟수를 통하여 광고의 효과를 평가한다. 다시 말해, CTR이 높아지면 새로 개발한 시스템이 기존의 시스템보다 더 나은 광고 효과를 가진 것이라고 판단한다. 하지만 CTR 기반의 평가 방법들은 광고 시스템이 얼마나 영리한지, 즉, 얼마나 주어진 문맥에 적합한 광고를 보여주는지를 평가하는데 한계가 있다. CTR 기반의 측정 방법들을 이용해 광고 시스템의 적합성을 평가하기 위해서는 사용자가 문맥에 적합한 광고를 문맥에 부적합한 광고보다 더 많이 클릭할 것이라는 가정이 참일 경우에만 가능하며, 이 가정은 많은 경우에 거짓이기 때문이다. 이는 사용자가 광고를 클릭할 때 광고의 문맥에 대한 적합성 보다는 사용자 자신의 관심사, 선호도, 유행 등 다른 요인들에 더 많은 영향을 받기 때문이다.In the case of large portal sites such as Google and Yahoo, we evaluate the effectiveness of our system by using advertisements received from advertisers, a large amount of web content, and a large number of users who click on the ads after viewing them. In general, the effect of the advertisement is evaluated through the click through rate (CTR), that is, the number of clicks to the impression of the advertisement. In other words, if the CTR is high, the newly developed system has a better advertising effect than the existing system. However, CTR-based evaluation methods are limited in evaluating how clever the advertising system is, i.e., how much of an advertisement is suitable for a given context. In order to assess the suitability of an advertising system using CTR-based measurement methods, it is possible only if the assumption is true that the user will click on more context-sensitive ads than ads that are not contextual, and in many cases this assumption is false. . This is because when a user clicks on an advertisement, the user's own interests, preferences, fashion, etc. are influenced by other factors than the suitability of the context of the advertisement.

연구소와 대학교 등에서는 기업이 가지고 있는 자원(광고, 웹페이지, 사용자)이 없는 관계로 해당 분야의 연구 결과를 평가하기는 더욱 어렵다. 이런 경우, 일반적으로 포털 사이트 등에서 광고와 웹페이지들을 수집하여 소수의 평가자들에게 정답 데이터 세트(웹 페이지와 해당 페이지에 적합한 광고 리스트)를 수동 구축하도록 한다. 수동 구축한 정답 데이터를 이용해 자신들의 시스템이 산출한 결과를 비교, 평가한다. 하지만 적합이라는 기준 자체가 주관적이고 개개인마다 다를 수 있기 때문에, 소수의 평가자들에 의해 만들어진 정답 데이터 세트는 신뢰성이 떨어진다. 또한 정답 데이터 세트를 수동으로 구축하므로, 금전, 노력, 시간 등의 비용이 많이 든다는 문제점이 있다.
Research institutes and universities do not have the resources (advertising, web pages, users) that companies have. In this case, you typically collect advertisements and web pages from a portal site, etc., and have a small number of evaluators manually build a set of correct data (a list of web pages and the appropriate ads for that page). The results of their systems are then compared and evaluated using the manually built answer data. However, since the criterion of fit may be subjective and individual, the correct data set produced by a few evaluators is not reliable. In addition, since the answer data sets are manually constructed, there is a problem in that money, effort, and time are expensive.

상기와 같은 문제점을 해결하기 위한 본 발명의 목적은, 광고 효과를 극대화할 수 있는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법 및 시스템을 제공하는데 있다.An object of the present invention for solving the above problems is to provide a method and system for evaluating an advertising system using an online advertising game that can maximize the advertising effect.

본 발명의 다른 목적은 부정적인 광고 효과를 줄이고 사용자에게 흥미를 줄 수 있는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법 및 시스템을 제공하는데 있다.Another object of the present invention is to provide a method and system for evaluating an advertising system using an online advertising game that can reduce negative advertising effects and interest a user.

본 발명의 또 다른 목적은 광고비용을 절감할 수 있는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법 및 시스템을 제공하는데 있다.Another object of the present invention is to provide a method and system for evaluating an advertising system using an online advertising game, which can reduce advertising costs.

상기와 같은 목적을 달성하기 위해 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템은, 온라인 게임에 접속하는 다수의 클라이언트; 평가 대상이며, 웹 콘텐츠 및 광고를 제공하는 광고 시스템; 상기 광고 시스템으로부터 제공된 웹 콘텐츠와 광고를 이용하여 상기 다수의 클라이언트에게 온라인 게임을 제공하고, 게임 진행을 통해 게임 결과를 도출하는 온라인 광고 게임; 상기 온라인 광고 게임으로부터 도출된 게임 결과를 기반으로 해당 광고 시스템을 평가하는 광고 평가 시스템; 및 상기 구성요소들 간의 인터페이싱을 수행하는 웹 인터페이스를 포함하여 구성될 수 있다.In order to achieve the above object, an evaluation system of an advertisement system using an online advertisement game according to an embodiment of the present invention includes: a plurality of clients accessing an online game; An advertisement system for evaluation and providing web content and advertisements; An online advertising game that provides an online game to the plurality of clients using web content and advertisements provided from the advertising system and derives a game result through game play; An advertisement evaluation system for evaluating a corresponding advertisement system based on a game result derived from the online advertisement game; And a web interface for performing interfacing between the components.

상기와 같은 목적을 달성하기 위해 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 방법은, 광고 시스템이 온라인 광고 게임으로 웹 콘텐츠와 광고를 입력하는 단계; 온라인 광고 게임이 상기 입력된 웹 콘텐츠와 광고를 기반으로 하여 적어도 기설정된 기준인원의 사용자가 참여하는 온라인 게임을 진행하고 게임 결과를 게임 결과 데이터베이스에 저장하는 단계; 광고 평가 시스템이 웹 콘텐츠 ID를 이용하여 해당 웹 콘텐츠로 진행된 게임 결과들을 상기 게임 결과 데이터베이스에서 검색하고 반환하는 단계; 상기 광고 평가 시스템이 상기 반환된 게임 결과에 포함된 광고 점수 리스트에 대해 정규화를 수행하는 단계; 상기 광고 평가 시스템이 정규화된 게임 결과를 일반화하여 적합도를 산출하는 단계; 상기 광고 평가 시스템이 상기 산출되는 적합도를 기반으로 상기 광고 시스템의 성능을 평가하는 단계; 상기 성능 평가 결과를 시스템 및 사용자에게 피드백하는 단계를 포함하여 이루어질 수 있다.In order to achieve the above object, a method of evaluating an advertisement system using an online advertisement game according to an embodiment of the present invention may include: inputting web content and advertisements into an online advertisement game by the advertisement system; Playing, by the online advertising game, an online game involving at least a predetermined number of users based on the input web content and advertisement, and storing the game result in a game result database; An advertisement evaluation system searching for and returning game results progressed to the web content using the web content ID from the game result database; Performing normalization on the advertisement score list included in the returned game result by the advertisement evaluation system; The advertisement evaluation system generalizing a normalized game result to calculate a fitness; Evaluating, by the advertisement rating system, the performance of the advertisement system based on the calculated goodness of fit; And feedbacking the performance evaluation result to the system and the user.

본 발명에 따르면, 웹 콘텐츠를 보는 사용자에게 일방적으로 광고를 노출하지 않고 사용자가 게임에 자발적으로 참여하는 경우에 광고를 노출하는 방식을 취하기 때문에 종래의 일방적인 온라인 광고에서 느꼈던 거부감이 줄어들고 부정적인 광고효과를 줄일 수 있는 효과가 있다. 또한 사용자들로 하여금 주어진 웹 콘텐츠와 어울리는 광고들을 경쟁적으로 선택하도록 하고, 게임에 승리하기 위하여 주어진 웹 콘텐츠와 광고에 집중하도록 함으로써 광고 효과를 극대화할 수 있다. 또한 온라인 광고 게임을 통해 강제성 없이 사용자들이 자발적으로 흥미를 가지고 평가에 참여하도록 함으로써 종래의 광고 시스템 평가에 들었던 비용을 절감할 수 있다.According to the present invention, since the advertisement is exposed to the user who voluntarily participates in the game without unilaterally exposing the advertisement to the user viewing the web content, the rejection felt in the conventional unilateral online advertisement is reduced and the negative advertisement effect is achieved. There is an effect to reduce. In addition, it is possible to maximize the advertising effect by allowing users to competitively select advertisements that match the given web content and focus on the given web content and advertisement to win the game. In addition, it is possible to reduce the cost of the conventional advertising system evaluation by allowing users to voluntarily participate in the evaluation without compulsion through online advertising games.

또한 본 발명은 종래의 객관적인 평가가 어려웠던 온라인 광고 분야에서 게임 참여 결과를 게임의 이면에서 광고 시스템의 평가에 활용함으로써, 사람들의 힘을 지능적인 방법으로 빌려 객관적인 평가를 가능하게 하는 효과가 있다. 더욱이 해당 분야에 종사하고자 하는 사람들로 하여금 누구나 자신의 광고 시스템을 평가할 수 있도록 한다.In addition, the present invention has the effect of enabling the objective evaluation by borrowing the power of people in an intelligent way by utilizing the results of the game participation in the evaluation of the advertising system behind the game in the field of online advertising, where the conventional objective evaluation was difficult. Moreover, anyone who wants to work in the field can evaluate their advertising system.

도 1은 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템의 구성을 나타내는 블록도이다.
도 2는 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 방법의 절차를 나타낸 흐름도이다.
도 3은 본 발명의 실시 예에 따른 온라인 광고 게임의 게임 진행 과정을 나타내는 흐름도이다.
도 4는 본 발명의 일실시 예에 따른 광고 트레이드 게임의 게임 진행 화면을 나타낸다.
1 is a block diagram showing the configuration of an evaluation system of an advertising system using an online advertising game according to an embodiment of the present invention.
2 is a flowchart illustrating a procedure of an evaluation method of an advertisement system using an online advertisement game according to an embodiment of the present invention.
3 is a flowchart illustrating a game progress process of an online advertising game according to an embodiment of the present invention.
Figure 4 shows a game progress screen of the advertising trade game according to an embodiment of the present invention.

이하, 본 발명의 바람직한 실시 예들을 첨부한 도면을 참조하여 상세히 설명한다. 도면들 중 동일한 구성요소들은 가능한 한 어느 곳에서든지 동일한 부호들로 나타내고 있음에 유의해야 한다. 또한 본 발명의 요지를 불필요하게 흐릴 수 있는 공지 기능 및 구성에 대한 상세한 설명은 생략한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. It should be noted that the same elements in the figures are represented by the same numerals wherever possible. In addition, detailed descriptions of well-known functions and configurations that may unnecessarily obscure the subject matter of the present invention will be omitted.

도 1은 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템의 구성을 나타내는 블록도이다.1 is a block diagram showing the configuration of an evaluation system of an advertising system using an online advertising game according to an embodiment of the present invention.

도 1에 도시된 바와 같이, 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템은, 온라인 게임에 참여하는 다수의 사용자(사용자 단말 혹은 클라이언트)(110), 평가 대상이 되는 광고 시스템(120), 웹 콘텐츠와 광고를 이용한 온라인 광고 게임(130), 게임의 결과를 기반으로 해당 광고를 평가하는 광고 평가 시스템(140), 및 상기 구성요소들 간의 인터페이싱을 수행하는 웹 인터페이스(150)를 포함한다.As shown in Figure 1, the evaluation system of the advertising system using the online advertising game according to an embodiment of the present invention, a plurality of users (user terminal or client) 110 participating in the online game, the advertisement to be evaluated The system 120, an online advertising game 130 using web content and advertisements, an advertisement evaluation system 140 that evaluates the advertisement based on the results of the game, and a web interface 150 that performs interfacing between the components. ).

상기 다수의 사용자(110) 각각은 사용자 프로파일(112)을 구비하며, 사용자 프로파일(112)은 해당 사용자가 게임에 참여할 때마다 게임의 결과를 반영해 업데이트 된다.Each of the plurality of users 110 has a user profile 112, and the user profile 112 is updated to reflect the result of the game whenever the user participates in the game.

상기 광고 시스템(120)은 본 발명에서 평가하고자 하는 대상으로서, 웹 콘텐츠(122)와 웹 콘텐츠(122)에 부가되는 광고(124)로 구성된다. 상기 광고 시스템(120)은 좁게는 대형 포털 사이트, 인터넷 뉴스 사이트에서, 넓게는 연구소 등에서 연구의 목적으로 직접 수집하고 실험한 콘텐츠(122)와 상기 광고 시스템(120)에 의해 산출된 광고(124) 그 자체가 될 수 있다. 상기 콘텐츠(122)는 폭넓은 의미로서 뉴스 기사, 블로그 글, 텍스트 문서, 동영상 등 광고(124)가 부가될 수 있는 모든 형태의 자원들을 포함한다.The advertisement system 120 is an object to be evaluated in the present invention, and is composed of a web content 122 and an advertisement 124 added to the web content 122. The advertisement system 120 is narrowly collected in a large portal site, an internet news site, and a research institute, and the content 122 and the advertisement 124 calculated by the advertisement system 120 are directly collected and tested for research purposes. It can be itself. The content 122, in its broadest sense, includes all types of resources to which the advertisement 124 may be added, such as news articles, blog posts, text documents, videos, and the like.

상기 온라인 광고 게임(130)은 사용자들이 웹 콘텐츠를 보고 그와 어울리는 광고를 고르는 게임으로서, 상기 광고 시스템(120)으로부터 웹 콘텐츠(122)와 광고(124)를 입력 받는 입력데이터 수신 모듈(131), 입력 받은 데이터를 게임 템플릿으로 만드는 게임 제작 모듈(133), 게임에 참여하고자 하는 사용자들을 연결시켜주는 사용자 연결 모듈(135), 각 광고의 점수를 계산하고 순위를 산정하는 광고 점수 계산 모듈(137), 및 게임 종료 후 게임 결과를 저장하는 게임 결과 데이터베이스(139)를 포함한다.The online advertisement game 130 is a game in which users select an advertisement that matches with the web content, and receives an input data receiving module 131 that receives the web content 122 and the advertisement 124 from the advertisement system 120. A game creation module 133 for making input data into a game template, a user connection module 135 for connecting users who want to participate in a game, and an advertisement score calculation module 137 for calculating and ranking a score of each advertisement. And a game result database 139 which stores the game result after the game ends.

상기 광고 평가 시스템(140)은 상기 온라인 광고 게임(130)의 결과와 광고 시스템(120)이 산출한 결과를 입력으로 받아 두 개의 결과를 비교하여 실질적으로 상기 광고 시스템(120)을 평가한다. 상기 광고 평가 시스템(140)은 다수의 게임 결과를 정규화하는 정규화 모듈(142), 정규화된 게임 결과를 기반으로 상기 광고 시스템(120)의 성능을 평가하는 성능 평가 모듈(144), 게임에 참여한 사용자와 평가를 의뢰한 광고 시스템에게 평가 결과를 피드백하는 피드백 모듈(146)을 포함한다.The advertisement evaluation system 140 receives the result of the online advertisement game 130 and the result calculated by the advertisement system 120 as an input, compares the two results, and substantially evaluates the advertisement system 120. The advertisement evaluation system 140 includes a normalization module 142 for normalizing a plurality of game results, a performance evaluation module 144 for evaluating the performance of the advertisement system 120 based on normalized game results, and a user who participated in a game. And a feedback module 146 for feeding back the evaluation result to the advertisement system which requested the evaluation.

이하 도 2를 참조하여 상기와 같이 구성되는 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템의 동작 과정을 상세히 설명하기로 한다.Hereinafter, an operation process of the evaluation system of the advertisement system using the online advertisement game configured as described above will be described in detail with reference to FIG. 2.

도 2는 본 발명의 실시 예에 따른 온라인 광고 게임을 이용한 광고 시스템의 평가 방법의 절차를 나타낸 흐름도이다.2 is a flowchart illustrating a procedure of an evaluation method of an advertisement system using an online advertisement game according to an embodiment of the present invention.

도 2를 참조하면, S210 단계에서 상기 광고 시스템(120)은 상기 웹 인터페이스(150)를 통해 웹 콘텐츠(122)와 광고(124)를 상기 온라인 광고 게임(130)으로 전송한다. 예컨대 대형 포털사이트 등에서 자사의 광고 시스템을 평가하기 위해 자사의 웹 콘텐츠와 광고 시스템으로부터 산출된 광고를 전송하는 것이다.Referring to FIG. 2, in operation S210, the advertisement system 120 transmits the web content 122 and the advertisement 124 to the online advertisement game 130 through the web interface 150. For example, large portal sites send advertisements generated from their web content and advertising system to evaluate their advertising system.

이에 따라 S220 단계에서 상기 온라인 광고 게임(130)은 상기 웹 콘텐츠(122)와 광고(124)를 입력데이터로서 수신하고, S230 단계에서 상기 수신된 상기 웹 콘텐츠(122)와 광고(124)에 대한 게임을 진행하고 게임 결과를 저장한다.Accordingly, in step S220, the online advertising game 130 receives the web content 122 and the advertisement 124 as input data, and in step S230, the received web content 122 and the advertisement 124 for the received web content 122 and the advertisement 124. Progress the game and save the game results.

상기 온라인 광고 게임(130)의 게임 진행 과정(S230)은 도 3을 참조하여 상세히 설명하기로 한다. 도 3은 상기 온라인 광고 게임(130)의 게임 진행 과정(S220)을 나타내는 흐름도로서, 이를 참조하면, 상기 온라인 광고 게임(130)은 S300 단계에서 상기 수신된 웹 콘텐츠(122)와 광고(124)에 대해 전처리(예컨대 parsing)를 수행한 후, S310 단계에서 상기 전처리된 웹 콘텐츠(122)와 광고(124)를 게임 템플릿에 적용한다.The game progress process S230 of the online advertising game 130 will be described in detail with reference to FIG. 3. 3 is a flowchart illustrating a game progress process S220 of the online advertising game 130. Referring to this, the online advertising game 130 may include the received web content 122 and the advertisement 124 in step S300. After performing the preprocessing (for example, parsing) on, the preprocessed web content 122 and the advertisement 124 are applied to the game template in step S310.

게임이 만들어지면, 상기 온라인 광고 게임(130)은 S320 단계 내지 S330 단계에서 사용자 대기 풀을 생성하여 기준인원 이상이 될 때까지 사용자의 참여를 기다리고, 기준인원 이상이 되면 S340 단계에서 게임설정을 초기화한 후, S350 단계에서 게임을 시작한다. 상기 기준인원은 게임을 시작할 수 있을 만큼의 사용자 수로서, 상기 사용자 연결 모듈(137)이나 해당 관리자 등에 의해 미리 설정될 수 있다.When the game is created, the online advertising game 130 waits for the user's participation until the reference number is greater than the reference number by generating the user waiting pool in steps S320 to S330, and when the number is higher than the reference number, initializes the game setting at step S340. After that, the game starts at step S350. The reference number is the number of users enough to start a game, and may be preset by the user connection module 137 or the corresponding administrator.

S360 단계에서 게임이 종료되면, 상기 온라인 광고 게임(130)은 S370 단계에서 게임 결과를 반영하여 광고 점수를 계산하고, S380 단계에서 상기 계산된 광고 점수를 기반으로 사용자들에게 포인트를 지급한다. 이어서 S390 단계에서 상기 온라인 광고 게임(130)은 게임 결과를 향후 상기 광고 시스템(120)의 성능 평가를 위해 상기 게임 결과 데이터베이스(139)에 저장한다.When the game ends in step S360, the online advertising game 130 calculates an advertisement score by reflecting the game result in step S370, and pays points to users based on the calculated advertising score in step S380. In step S390, the online advertisement game 130 stores game results in the game result database 139 for performance evaluation of the advertisement system 120 in the future.

본 발명의 일실시 예로서 "광고 트레이드 게임"을 바탕으로 상기 온라인 광고 게임(130)을 상세히 설명하기로 한다. 광고 트레이드 게임은 2인 이상의 사용자가 웹 콘텐츠(122)를 보고 이에 어울리는 광고를 경쟁적으로 선택하는 게임이다. 게임이 시작되면, 사용자들은 웹 콘텐츠(122)와 광고 시스템(120)이 산출한 광고(123)의 광고 리스트를 보게 된다. 게임 화면에는 해당 콘텐츠(122)와 어울리는 광고를 모으라는 지시사항이 표시된다. 본격적인 게임에 앞서, 각 사용자는 차례로 돌아가며 광고 리스트에서 웹 콘텐츠(122)와 어울리는 광고를 선택하게 된다. 리스트 중에는 상기 웹 콘텐츠와 어울리는 광고와 어울리지 않는 광고가 있을 수 있다. 리스트에 어울리지 않는 광고만 존재하더라도 자신의 차례가 되면 광고를 선택해야 한다. 선택한 광고는 사용자의 패(playing card)가 된다. 광고 리스트의 광고들이 모두 선택되어 리스트에 더 이상의 광고가 남아있지 않으면 본게임이 시작된다. 게임은 턴(turn) 방식으로 사용자에게 차례대로 기회가 주어지며, 사용자는 자신의 턴이 왔을 때 자신이 가지고 있는 패, 즉, 자신이 선택한 광고들 중 하나를 상대방의 광고와 맞바꿀 수 있다. 사용자는 게임에 승리하기 위해 자신의 패 중에서 상기 콘텐츠와 어울리지 않는 광고를 상대방의 패 중 콘텐츠와 어울리는 광고와 맞바꾸게 된다. 사용자가 광고를 바꾸고 싶지 않다면 턴을 넘길 수도 있다. 사용자들이 특정 광고에만 편중되는 현상을 막기 위해 각 광고에 임의의 트레이드 제한 수를 둘 수 있다. 트레이드를 많이 하여 트레이드 제한 수를 채운 광고는 더 이상 트레이드 되지 않는다. 게임에서 총 턴 수는 모든 광고의 트레이드 제한 수의 합으로 지정될 수 있다. 게임이 종료되면, 사용자는 최종적으로 자신이 가지고 있는 광고들의 점수를 합산한 결과를 포인트로 받으며, 순위에 따라서 추가로 보너스 포인트를 받을 수 있다. 광고의 점수는 하기 수학식1에 소정 배수(예컨대 1000)를 곱한 값으로 할 수 있다.As an embodiment of the present invention, the online advertising game 130 will be described in detail based on the "ad trade game". An ad trade game is a game in which two or more users view the web content 122 and competitively select an advertisement corresponding thereto. When the game starts, users see an advertisement list of the web content 122 and the advertisement 123 calculated by the advertisement system 120. The game screen displays instructions for collecting advertisements that match the content 122. Prior to the full-fledged game, each user will take turns selecting an advertisement that matches the web content 122 from the advertisement list. The list may include advertisements that do not match the web content. Even if there are only ads that don't fit on the list, you'll have to choose them when it's your turn. The selected advertisement becomes the playing card of the user. If all advertisements in the advertisement list are selected and there are no more advertisements left in the list, the game starts. The game is given a turn in turn, and the user can turn his or her hand when the turn comes, that is, one of the advertisements of his choice, with the opponent's advertisement. In order to win the game, the user replaces an advertisement that does not match the content in his or her hand with an advertisement that matches the content in the opponent's hand. If the user doesn't want to change the ad, he can turn the turn. You can place an arbitrary number of trades on each ad to prevent users from focusing only on specific ads. Advertisements with a lot of trades that meet the trade limits will no longer be traded. The total number of turns in the game can be specified as the sum of the trade limits of all ads. When the game is over, the user will receive the result of the sum of the scores of the advertisements he has in the end, and may receive additional bonus points according to the ranking. The score of the advertisement may be a value obtained by multiplying a predetermined multiple (for example, 1000) by Equation 1 below.

Figure pat00001
Figure pat00001

상기 수학식1은 광고 α에 대한 광고점수(Adscore)를 계산하는 수식으로서, 처음 초기화 단계에서 사용자가 광고 리스트에서 광고 α를 고른 순서(orderα)와, 게임에서 광고 α를 가지려고 했던 사용자의 수(Uα)와, 게임에서 α가 다른 광고와 트레이드되면서 버려진 횟수(abandonα)와, 반대로 α를 가져오기 위해 다른 광고를 버린 횟수(tradeα)와, α가 몇 번째의 순서(orderconsumed,α)로 더 이상 트레이드 할 수 없게 되었는지가 고려된다. 상기 수학식1에서 A는 전체 광고(122) 집합, Aconsumed는 트레이드 제한 횟수를 채운 광고의 집합, U는 전체 사용자의 집합, Uα는 게임 도중 α를 가져간 사용자들의 집합, 그리고 constraintα는 광고 α의 트레이드 제한 수를 의미한다.Equation (1) is a user that a formula for calculating an ad score (Adscore) for a line α, trying to users of an ad α in the order (order α) picked ads α in the ad list, game in the first initialization phase Number U α , the number of times that α was traded with another ad in the game (abandon α ), on the contrary, the number of times the other ad was discarded to bring α (trade α ), and α was consumed in the order , α ) can no longer be traded. In Equation 1, A is a set of all advertisements 122, A is a set of advertisements that meet the trade limit, U is a set of all users, U α is a set of users who took α during the game, and constraint α is an advertisement. It means the trade limit number of α.

상기 수학식1에 따르면, 처음 초기화 단계의 광고 리스트에서 먼저 선택된 광고일수록, 게임 중 해당 광고를 가지려고 했던 사용자가 많을수록, 더 적게 버려진 광고일수록, 더 많이 트레이드된 광고일수록, 그리고 먼저 트레이드 제한 횟수를 채운 광고일수록 주어진 콘텐츠와 더 어울리는 광고라 판단되어 더 높은 가중치가 적용된다.According to Equation 1, the first advertisement selected in the advertisement list of the initial initialization stage, the more users attempting to have the corresponding advertisement in the game, the less abandoned advertisements, the more traded advertisements, and the number of trade restrictions first. Filled advertisements are determined to be more appropriate to the given content and are therefore weighted higher.

도 4는 상기 광고 트레이드 게임의 게임 진행 화면의 일예를 나타낸다. 도 4를 참조하면, 게임 진행 화면은 자신의 패(440), 상대방의 패(430), 현재 턴 수(420), 및 사용자들의 점수와 순위를 나타내는 상황판(410)을 포함한다.4 shows an example of a game progress screen of the advertisement trade game. Referring to FIG. 4, the game progress screen includes a hand 440, a hand 430 of the opponent, a current turn 420, and a status board 410 indicating scores and rankings of users.

본 발명의 온라인 광고 게임(130)은 상기 광고 트레이드 게임에만 국한되지 않으며, 사용자가 콘텐츠를 보고 그와 어울리는 광고를 고르는 어떤 형태의 게임으로든 적용 가능함을 명시하는 바이다. 예컨대 웹 콘텐츠와 어울리는 광고를 먼저 마우스 포인트 조준 및 마우스 클릭으로 적중시키는 사용자가 승리하는 방식의 슈팅 게임일수도 있다.The online advertising game 130 of the present invention is not limited to the advertising trade game, but is intended to be applicable to any type of game in which the user looks at the content and selects an advertisement that matches with it. For example, it may be a shooting game in which a user wins by hitting a mouse point and hitting an advertisement that matches the web content.

게임이 종료되면 게임 결과는, 하기 표1에 나타낸 바와 같이, 테이블 형태로서 상기 게임 결과 데이터베이스(139)에 저장될 수 있다. 표1의 두 번째 행은 데이터 타입을 나타낸다. 테이블에는 각 게임의 고유ID, 점수가 높은 광고 순으로 정렬된 광고 리스트, 광고 리스트의 각 광고가 해당 게임에서 얻는 광고 점수 리스트, 및 해당 게임에 참여한 사용자들의 ID 리스트가 기록된다. 웹 콘텐츠에 고유ID를 두는 것은 추후 해당 콘텐츠에 대한 다수의 게임 결과를 모아 객관적이고 보편적인 평가 자료로서 활용하기 위함이다.When the game is finished, the game result may be stored in the game result database 139 as a table form, as shown in Table 1 below. The second row of Table 1 shows the data types. In the table, a unique ID of each game, a list of advertisements sorted in order of advertisements having a high score, a list of advertisement scores obtained by each advertisement in the advertisement list, and a list of IDs of users who participated in the game. Putting a unique ID on web content is to collect a number of game results for the content in the future and use it as an objective and universal evaluation material.

게임 IDGame id 웹 콘텐츠 IDWeb content ID 광고 리스트Ad list 점수 리스트Score list 참여 사용자 IDEngagement User ID StringString StringString List<String>List <String> List<Double>List <Double> List<String>List <String>

다시 도 2를 참조하면, S240 단계에서 상기 광고 평가 시스템(140)은 상기 웹 콘텐츠에 상기 광고 시스템(120)이 산출한 광고(124)의 적합성을 평가하기 위해서, 웹 콘텐츠 ID를 이용하여 해당 웹 콘텐츠(122)로 진행된 게임 결과들을 상기 게임 결과 데이터베이스(139)에서 검색하고 반환한다. 각 게임 결과들은 상기 수학식1에 의해 계산된 상기 표1과 같은 광고 점수 리스트를 가진다. 하지만 각 게임에 참여한 사용자의 수 등 다양한 요인에 따라 점수 값의 범위가 상이하기에 각 게임결과를 공평하게 고려하지 못한다는 문제점이 있다. 이를 해결하기 위해 S250 단계에서 상기 광고 평가 시스템(140)은 최소-최대 정규화(min-max normalization)를 이용하여 광고 점수 리스트를 0.0에서 1.0 사이의 값으로 정규화한다. 상기 최소-최대 정규화(min-max normalization)는 하기 수학식2와 같다.Referring back to FIG. 2, in step S240, the advertisement evaluation system 140 uses the web content ID to evaluate the suitability of the advertisement 124 calculated by the advertisement system 120 to the web content. The game results advanced to the content 122 are retrieved from the game result database 139 and returned. Each game result has an advertisement score list as shown in Table 1 calculated by Equation (1). However, there is a problem in that each game result cannot be considered equally because the range of score values varies according to various factors such as the number of users participating in each game. In order to solve this problem, the advertisement evaluation system 140 normalizes the advertisement score list to a value between 0.0 and 1.0 using min-max normalization in step S250. The min-max normalization is given by Equation 2 below.

Figure pat00002
Figure pat00002

상기 수학식2에서 Adscorenormalized는 정규화된 광고 점수를 나타내고, Adscorecurrent는 광고 리스트의 광고 점수를, maxAdscore는 광고 리스트의 점수들 중 최대값을, minAdscore는 광고 리스트의 점수들 중 최소값을 각각 나타낸다.In Equation 2, Adscore normalized represents a normalized advertisement score, Adscore current represents an advertisement score of an advertisement list, max Adscore represents a maximum value among scores of an advertisement list, and min Adscore represents a minimum value among scores of an advertisement list. Indicates.

상기 정규화된, 각 게임 결과의 광고 점수 리스트는 S260 단계에서 일반화 과정을 거친다. 일반화는 주어진 웹 콘텐츠(122)에 광고 시스템(120)이 산출한 광고(124)의 광고 리스트에서 각 광고에 대해 사람들이 일반적으로 느끼는 적합도(relevance)를 구하는 과정을 말한다. 적합도는 하기 수학식3을 이용하여 계산한다.The normalized, advertisement score list of each game result is generalized in step S260. Generalization refers to the process of obtaining the relevance that people generally feel for each advertisement in the advertisement list of the advertisement 124 calculated by the advertisement system 120 for the given web content 122. The goodness of fit is calculated using Equation 3 below.

Figure pat00003
Figure pat00003

상기 수학식3에서 Adscoregeneralcontent_id)는 content_id의 고유 아이디를 가지는 웹 콘텐츠에 대해 진행된 게임의 집합을 나타낸다. 해당 웹 콘텐츠를 이용한 게임의 횟수가 많을수록, 또 해당 게임에 참여한 사용자수가 많을수록, 상기 수학식3에 의해 계산된 광고의 적합도는 더욱 객관적인 값을 갖는다.In Equation 3, Adscore generalcontent_id ) represents a set of games played for web content having a unique ID of content_id. As the number of games using the web content increases and the number of users participating in the game increases, the fitness of the advertisement calculated by Equation 3 above is more objective.

상기 일반화 과정이 완료되면, 상기 광고 시스템(120)에 대한 성능 평가가 가능한데, S270 단계에서 상기 광고 평가 시스템(140)은 상기 광고 시스템(120)에 대한 성능 평가를 수행한다. 이는 광고 시스템()이 산출한 광고의 순위 혹은 순서가 존재할 때 가능하며, 상기 다수의 사용자들의 게임 결과에 의해 일반화된 객관적인 광고 점수를 기반으로 오름차순 정렬한 광고 리스트의 순위 간 유사도를 구함으로써 가능해진다. 순위 변수간의 유사도를 구하기 위해 스피어만의 순위 상관 계수를 구한다. 이는 광고 시스템이 산출한 광고 리스트의 순위와 다수의 사용자에 의해 산출된 정답 광고 리스트 사이에 양의 상관관계가 강할수록 평가하고자 하는 광고 시스템이 정답과 가깝다는 뜻으로 성능이 좋다는 것을 의미하고, 음의 상관관계가 강할수록 광고 시스템이 정답과 멀다는 뜻으로 성능이 나쁜 것을 의미한다. 하기 수학식4는 해당 실시예에서 스피어만의 순위계수를 이용하여 시스템의 성능을 평가하는 수식을 나타낸다. 시스템의 성능은 0.0에서 100.0의 값을 가진다.When the generalization process is completed, it is possible to evaluate the performance of the advertisement system 120. In step S270, the advertisement evaluation system 140 performs the performance evaluation of the advertisement system 120. This is possible when there is a ranking or order of advertisements calculated by the advertisement system (), and it is possible by calculating the similarity between the ranks of the advertisement lists sorted in ascending order based on the objective advertisement scores generalized by the game results of the plurality of users. . Spearman's rank correlation coefficient is calculated to find the similarity between rank variables. This means that the stronger the positive correlation between the ranking of the list of advertisements produced by the advertising system and the list of correct answers generated by multiple users, the better the performance of the advertisement system is. The stronger the correlation, the poorer the ad system means. Equation 4 shows an equation for evaluating the performance of the system using the Spearman's rank coefficient in the embodiment. The performance of the system ranges from 0.0 to 100.0.

Figure pat00004
Figure pat00004

상기 수학식4에서 Lsys는 광고 시스템에 의해 산출된 광고 리스트에서 각 광고의 순위를 나타내고, Lcorrect는 정답 광고 리스트에서 각 광고의 순위를, sysi는 광고 시스템에 의해 산출된 광고 리스트에서의 광고 i의 순위를, correcti는 광고i의 정답 리스트에서의 순위를, n은 광고 리스트의 개수를 각각 나타낸다.In Equation 4, L sys denotes the ranking of each advertisement in the advertisement list calculated by the advertisement system, L correct denotes the rank of each advertisement in the correct answer advertisement list, and sys i denotes the advertisement list in the advertisement list calculated by the advertisement system. The ranking of the advertisement i, correct i is the ranking in the list of the correct answer of the advertisement i, n is the number of the advertising list, respectively.

성능 평가가 완료되면, S280 단계에서 상기 광고 평가 시스템(140)은 성능 평가 결과를 상기 광고 시스템(120)으로 피드백한다. 피드백 시 평가의 결과, 정답 광고 리스트, 및 점수 리스트가 표로 정리되어 전송된다.When the performance evaluation is completed, the advertisement evaluation system 140 feeds back the performance evaluation result to the advertisement system 120 in step S280. In the feedback, the results of the evaluation, the list of correct advertisements, and the score list are transmitted in a table.

피드백은 광고 시스템(120)뿐만 아니라 게임에 참여한 사용자에게도 보내진다. 표2는 사용자 프로파일(112)의 항목을 나타낸다. 항목 중 광고 센스는 사용자가 게임에서 선택한 광고의 순위와 해당 광고의 정답리스트에서의 순위 간의 유사도를 상기 수학식4를 이용해 계산하며, 각 게임에서 얻어진 유사도 값을 상기 수학식2와 수학식3의 정규화, 일반화를 거쳐 최종 광고 센스를 산출한다. 이는 사용자 값이 얼마나 일반 대중들과의 정답과 유사하게 광고를 고르는지를 나타내는 척도이다.The feedback is sent to the user who participated in the game as well as the advertising system 120. Table 2 shows the items of user profile 112. Among the items, the advertisement sense calculates the similarity between the ranking of the advertisement selected by the user in the game and the ranking in the correct answer list of the corresponding advertisement by using Equation 4, and calculates the similarity value obtained in each game by Equation 2 and Equation 3 The final advertising sense is calculated through normalization and generalization. This is a measure of how much the user value chooses advertisements, similar to the answer to the general public.

사용자 IDUser ID StringString 총 게임 횟수Total game count IntegerInteger 누적 점수Cumulative score DoubleDouble 레벨level StringString 광고 센스Ad sense DoubleDouble 참여 게임 IDEngagement Game ID List<String>List <String>

이상에서는 본 발명에서 특정의 바람직한 실시 예에 대하여 도시하고 또한 설명하였다. 그러나, 본 발명은 상술한 실시 예에 한정되지 아니하며, 특허 청구의 범위에서 첨부하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 누구든지 다양한 변형 실시가 가능할 것이다.In the above, specific preferred embodiments of the present invention have been illustrated and described. However, the present invention is not limited to the above-described embodiment, and various modifications can be made by those skilled in the art without departing from the gist of the present invention attached to the claims. will be.

110: 사용자 112: 사용자 프로파일
120: 광고 시스템 122: 웹 콘텐츠
124: 광고 130: 온라인 광고 게임
131: 입력데이터 수신모듈 133: 게임 제작 모듈
135: 사용자 연결 모듈 137: 광고 점수 계산 모듈
139: 게임 결과 데이터베이스 140: 광고 평가 시스템
142: 정규화 모듈 144: 성능 평가 모듈
146: 피드백 모듈 410: 상황판
420: 현재 턴 수 430: 상대방 패
440: 사용자 패
110: user 112: user profile
120: advertising system 122: web content
124: Ad 130: Online Advertising Game
131: input data receiving module 133: game production module
135: user connection module 137: ad score calculation module
139: Game Results Database 140: Ad Rating System
142: normalization module 144: performance evaluation module
146: feedback module 410: situation board
420: Current turn 430: Opponent hand
440: User's hand

Claims (10)

온라인 게임에 접속하는 다수의 클라이언트;
평가 대상이며, 웹 콘텐츠 및 광고를 제공하는 광고 시스템;
상기 광고 시스템으로부터 제공된 웹 콘텐츠와 광고를 이용하여 상기 다수의 클라이언트에게 온라인 게임을 제공하고, 게임 진행을 통해 게임 결과를 도출하는 온라인 광고 게임;
상기 온라인 광고 게임으로부터 도출된 게임 결과를 기반으로 해당 광고 시스템을 평가하는 광고 평가 시스템; 및
상기 구성요소들 간의 인터페이싱을 수행하는 웹 인터페이스를 포함하는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템.
A plurality of clients connecting to the online game;
An advertisement system for evaluation and providing web content and advertisements;
An online advertising game that provides an online game to the plurality of clients using web content and advertisements provided from the advertising system and derives a game result through game play;
An advertisement evaluation system for evaluating a corresponding advertisement system based on a game result derived from the online advertisement game; And
And a web interface for performing interfacing between the components.
제1항에 있어서, 상기 다수의 클라이언트는
각각 사용자 프로파일을 구비하며, 사용자 프로파일은 사용자가 게임에 참여할 때마다 게임의 결과를 반영해 업데이트되는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템.
The method of claim 1, wherein the plurality of clients
Each user profile has a user profile, wherein the user profile is updated by reflecting the results of the game each time the user participates in the game evaluation system of the advertising system using an online advertising game.
제1항에 있어서, 상기 광고 시스템은
웹 콘텐츠와 콘텐츠에 부가되는 광고로 구성되는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템.
The method of claim 1, wherein the advertising system
A system for evaluating an advertising system using an online advertising game, comprising: web content and advertisements added to the content.
제1항에 있어서, 상기 온라인 광고 게임은
상기 광고 시스템으로부터 웹 콘텐츠와 광고를 입력 받는 입력데이터 수신 모듈;
입력 받은 데이터를 게임 템플릿으로 만드는 게임 제작 모듈;
게임에 참여하고자 하는 사용자들을 연결시켜주는 사용자 연결 모듈;
각 광고의 점수를 계산하고 순위를 산정하는 광고 점수 계산 모듈; 및
게임 종료 후 게임 결과를 저장하는 게임 결과 데이터베이스를 포함하는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템.
The method of claim 1, wherein the online advertising game
An input data receiving module for receiving web content and an advertisement from the advertisement system;
A game production module for making input data into a game template;
A user connection module that connects users who want to participate in the game;
An advertisement score calculation module that calculates and ranks each advertisement score; And
And a game result database for storing the game result after the game is finished.
제1항에 있어서, 상기 광고 평가 시스템은
다수의 게임 결과를 정규화하는 정규화 모듈;
정규화된 게임 결과를 기반으로 상기 광고 시스템의 성능을 평가하는 성능 평가 모듈; 및
게임에 참여한 사용자와 평가를 의뢰한 광고 시스템에게 평가 결과를 피드백하는 피드백 모듈을 포함하며,
상기 온라인 광고 게임의 게임 결과와 광고 시스템이 산출한 결과를 입력으로 받아 두 개의 결과를 비교하여 상기 광고 시스템을 평가하는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 시스템.
The system of claim 1, wherein the advertisement rating system is
A normalization module for normalizing a plurality of game results;
A performance evaluation module for evaluating the performance of the advertisement system based on a normalized game result; And
It includes a feedback module for feeding back the evaluation results to the users who participated in the game and the advertising system that requested the evaluation.
The evaluation system of the advertising system using the online advertising game, characterized in that to evaluate the advertising system by comparing the two results by receiving the game result of the online advertising game and the result calculated by the advertising system.
광고 시스템이 온라인 광고 게임으로 웹 콘텐츠와 광고를 입력하는 광고 입력 단계;
온라인 광고 게임이 상기 입력된 웹 콘텐츠와 광고를 기반으로 하여 적어도 기설정된 기준인원의 사용자가 참여하는 온라인 게임을 진행하고 게임 결과를 게임 결과 데이터베이스에 저장하는 게임 진행 단계;
광고 평가 시스템이 웹 콘텐츠 ID를 이용하여 해당 웹 콘텐츠로 진행된 게임 결과들을 상기 게임 결과 데이터베이스에서 검색하고 반환하는 검색 반환 단계;
상기 광고 평가 시스템이 상기 반환된 게임 결과에 포함된 광고 점수 리스트에 대해 정규화를 수행하는 정규화 단계;
상기 광고 평가 시스템이 정규화된 게임 결과에 대해 일반화를 적용하여 적합도를 산출하는 일반화 단계;
상기 광고 평가 시스템이 상기 산출되는 적합도를 기반으로 해당 웹 콘텐츠에 상기 광고 시스템이 산출한 광고의 적합성을 평가하여 상기 광고 시스템의 성능을 평가하는 성능 평가 단계;
상기 성능 평가 결과를 시스템 및 사용자에게 피드백하는 피드백 단계를 포함하여 이루어지는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법.
An advertisement input step in which the advertisement system inputs web content and advertisements into an online advertisement game;
A game progress step in which an online advertising game plays an online game involving at least a predetermined number of users based on the input web content and an advertisement, and stores the game result in a game result database;
A search return step of the advertisement evaluation system searching and returning the game results progressed to the web content using the web content ID in the game result database;
A normalization step of the advertisement evaluation system performing normalization on the advertisement score list included in the returned game result;
A generalization step of the advertisement evaluation system calculating generality by applying generalization to normalized game results;
A performance evaluation step of evaluating the performance of the advertisement system by evaluating the suitability of the advertisement calculated by the advertisement system to the corresponding web content based on the calculated fitness;
And a feedback step of feeding back the performance evaluation result to the system and the user.
제6항에 있어서, 상기 게임 진행 단계는
상기 온라인 광고 게임이 상기 수신된 웹 콘텐츠와 광고에 대해 전처리를 수행하는 단계;
상기 전처리된 웹 콘텐츠와 광고를 게임 템플릿에 적용하는 단계;
게임이 만들어지면, 사용자 대기 풀을 생성하여 적어도 기설정된 기준인원의 사용자가 참여할 때까지 대기한 후, 적어도 기설정된 기준인원의 사용자가 참여하면 게임설정을 초기화한 후 게임을 시작하는 단계;
게임이 종료되면, 게임 결과를 반영하여 광고 점수를 계산하고, 상기 계산된 광고 점수를 기반으로 사용자들에게 포인트를 지급하는 단계; 및
게임 결과를 향후 상기 광고 시스템의 성능 평가를 위해 게임 결과 데이터베이스에 저장하는 단계를 포함하는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법.
The method of claim 6, wherein the game progress step
The online advertising game performing preprocessing on the received web content and advertisement;
Applying the preprocessed web content and advertisement to a game template;
If the game is created, creating a user waiting pool and waiting until at least the user of the predetermined reference number participates, and if the user of the predetermined reference number participates, initializing the game setting and starting the game;
When the game is finished, calculating the advertising score reflecting the game result, and paying points to the users based on the calculated advertising score; And
And storing the game result in a game result database for evaluating the performance of the advertisement system in the future.
제 6항에 있어서, 상기 정규화 단계는
하기 수학식의 최소-최대 정규화(min-max normalization)가 적용되어 수행되는 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법.
Figure pat00005

상기 수학식에서 Adscorenormalized는 정규화된 광고 점수를 나타내고, Adscorecurrent는 광고 리스트의 광고 점수를, maxAdscore는 광고 리스트의 점수들 중 최대값을, minAdscore는 광고 리스트의 점수들 중 최소값을 각각 나타냄.
7. The method of claim 6 wherein the normalization step is
A method for evaluating an advertising system using an online advertising game, characterized in that performed by applying the min-max normalization of the following equation.
Figure pat00005

In the above equation, Adscore normalized represents a normalized advertisement score, Adscore current represents an advertisement score of an advertisement list, max Adscore represents a maximum value among scores of the advertisement list, and min Adscore represents a minimum value among scores of the advertisement list.
제6항에 있어서, 상기 일반화 단계는
하기 수학식을 이용하여 계산하는 적합도(relevance)를 구하는 과정인 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법.
Figure pat00006

상기 수학식에서 Adscoregeneralcontent_id)는 content_id의 고유 아이디를 가지는 웹 콘텐츠에 대해 진행된 게임의 집합을 나타냄.
The method of claim 6, wherein the generalizing step
Evaluation method of the advertising system using the online advertising game, characterized in that the process of obtaining a relevance calculated using the following equation.
Figure pat00006

In the above equation, Adscore generalcontent_id ) represents a set of games played for web content having a unique ID of content_id.
제6항에 있어서, 상기 성능 평가 단계는
일반화된 객관적인 광고 점수를 기반으로 하기 수학식의 스피어만의 순위 상관 계수를 이용하여 오름차순 정렬한 광고 리스트의 순위 간 유사도를 산출하는 단계인 것을 특징으로 하는 온라인 광고 게임을 이용한 광고 시스템의 평가 방법.
Figure pat00007

상기 수학식에서 Lsys는 광고 시스템에 의해 산출된 광고 리스트에서 각 광고의 순위를 나타내고, Lcorrect는 정답 광고 리스트에서 각 광고의 순위를, sysi는 광고 시스템에 의해 산출된 광고 리스트에서의 광고 i의 순위를, correcti는 광고i의 정답 리스트에서의 순위를, n은 광고 리스트의 개수를 각각 나타냄.
The method of claim 6, wherein the performance evaluation step
And calculating similarity between the ranks of the advertisement lists sorted in ascending order using the Spearman's rank correlation coefficient of the following equation based on the generalized objective advertisement scores.
Figure pat00007

In the above equation, L sys denotes the ranking of each advertisement in the advertisement list calculated by the advertisement system, L correct denotes the rank of each advertisement in the correct answer advertisement list, and sys i denotes the advertisement i in the advertisement list calculated by the advertisement system. Where i denotes the rank in the list of correct answers for Ad i, and n denotes the number of Ad Lists, respectively.
KR1020100001421A 2010-01-07 2010-01-07 System and Method for Evaluating Advertising System using Online Advertising Game KR101218032B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100001421A KR101218032B1 (en) 2010-01-07 2010-01-07 System and Method for Evaluating Advertising System using Online Advertising Game

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100001421A KR101218032B1 (en) 2010-01-07 2010-01-07 System and Method for Evaluating Advertising System using Online Advertising Game

Publications (2)

Publication Number Publication Date
KR20110080961A true KR20110080961A (en) 2011-07-13
KR101218032B1 KR101218032B1 (en) 2013-01-02

Family

ID=44919776

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100001421A KR101218032B1 (en) 2010-01-07 2010-01-07 System and Method for Evaluating Advertising System using Online Advertising Game

Country Status (1)

Country Link
KR (1) KR101218032B1 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4970736B2 (en) * 2005-03-30 2012-07-11 株式会社コナミデジタルエンタテインメント GAME SYSTEM, GAME DEVICE, GAME DEVICE CONTROL METHOD, AND PROGRAM
JP4804222B2 (en) * 2006-05-19 2011-11-02 日本電信電話株式会社 Method for determining difficulty level of shooting game, apparatus thereof, program thereof, and recording medium thereof
KR20090073696A (en) * 2007-12-31 2009-07-03 한상민 Apparatus and service for advertisement service using display game in ground screen

Also Published As

Publication number Publication date
KR101218032B1 (en) 2013-01-02

Similar Documents

Publication Publication Date Title
US9789394B2 (en) Methods for using simultaneous speech inputs to determine an electronic competitive challenge winner
US9183700B2 (en) Game of chance utilizing social network contact attributes
US8645844B1 (en) Comparison selection, ranking, and anti-cheating methods in an online contest environment
US20100076847A1 (en) Internet Marketing Method
Stern et al. Individual and social determinants of winning bids in online auctions
US20100153197A1 (en) Method and apparatus for providing advertising service
US20090299835A1 (en) Method of Soliciting, Testing and Selecting Ads to improve the Effectiveness of an Advertising Campaign
DE202015009732U1 (en) Platform of a virtual league and online training platform for a sports activity
US20130203506A1 (en) Social networks games configured to elicit market research data as part of game play
Tuten et al. Do social advergames affect brand attitudes and advocacy?
CN109451328A (en) The information processing method and device of game live streaming
Bernardo et al. Image is everything! Professional football players' visibility and wages: evidence from the Italian Serie A
Frantzich E-Politics and the 2008 Presidential Campaign: Has the Internet “Arrived”?
Butler et al. New insights on the Louis-Schmeling paradox: determinants of demand for subscription and pay-per-view boxing
US20140179442A1 (en) Generic framework for reality based game universe
Kwak et al. Ad-evoked illusory judgments in fantasy sports participation: Effects of customization level and expert information
US11308135B2 (en) Data prioritization through relationship analysis mapping
US20080125227A1 (en) Online interactive real estate game
KR101218032B1 (en) System and Method for Evaluating Advertising System using Online Advertising Game
Füller et al. Evaluation games–How to make the crowd your jury
Mills et al. Competitive environments in fantasy sports gaming: Effects of entry fees and rewards on opposition quality and league sorting
KR20070036889A (en) Method for providing advertisement service with quiz game
KR101164885B1 (en) Advertisement data output control system and method of the same over network
Antonucci et al. The value of the elite athlete as influencer in the era of social media
JP2010211249A (en) Server device, tournament providing method and server program

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20151229

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20161129

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20171124

Year of fee payment: 6

LAPS Lapse due to unpaid annual fee