KR20180083703A - Method of decision making for a fighting action game character based on artificial neural networks and computer program therefor - Google Patents
Method of decision making for a fighting action game character based on artificial neural networks and computer program therefor Download PDFInfo
- Publication number
- KR20180083703A KR20180083703A KR1020170006303A KR20170006303A KR20180083703A KR 20180083703 A KR20180083703 A KR 20180083703A KR 1020170006303 A KR1020170006303 A KR 1020170006303A KR 20170006303 A KR20170006303 A KR 20170006303A KR 20180083703 A KR20180083703 A KR 20180083703A
- Authority
- KR
- South Korea
- Prior art keywords
- neural network
- character
- game
- state
- game character
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/45—Controlling the progress of the video game
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/80—Special adaptations for executing a specific game genre or game mode
- A63F13/822—Strategy games; Role-playing games
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G06N3/0427—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G06N3/0454—
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/80—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
- A63F2300/807—Role playing or strategy games
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Machine Translation (AREA)
Abstract
Description
본 발명은 대전형 컴퓨터 게임에 대한 것으로, 더 구체적으로는 대전을 수행하는 인공지능 게임 캐릭터가 인공 신경망을 기반으로 게임 상태를 파악하여 상황에 적합한 행동을 수행하기 위한 의사 결정 방법 및 이를 위한 컴퓨터 프로그램에 대한 것이다.More particularly, the present invention relates to a decision-making method for an artificial intelligent game character performing a competition to grasp a game state based on an artificial neural network to perform an action suitable for a situation, and a computer program Lt; / RTI >
대전형 게임에서 인공지능 게임 캐릭터가 플레이어에 의해 조작되는 게임 캐릭터와 대전할 때 플레이어 캐릭터의 행동 양식에 따라 인공지능 캐릭터가 적절하게 반응하도록 하여야 플레이어들에게 흥미있는 게임을 제공할 수 있다. 이러한 인공지능 캐릭터의 구현을 위해 다양한 방법이 시도되고 있다. It is possible to provide an interesting game to the players by allowing the artificial intelligent character to appropriately react according to the behavior style of the player character when the artificial intelligent game character in the competitive game matches the game character manipulated by the player. Various methods have been tried to implement such an artificial intelligence character.
이중에서 규칙 기반의 의사 결정에 의한 대전형 게임은 인공지능 캐릭터의 단순한 의사 결정과 그에 따른 행동 패턴으로 인해 플레이어가 인공지능 캐릭터의 행동 패턴을 파악하고 나면 쉽게 이길 수 있다는 한계가 있다.In this case, there is a limitation that a game based on rule-based decision making can easily win if the player grasps the behavior pattern of the artificial intelligent character due to the simple decision of the artificial intelligent character and the behavior pattern thereof.
따라서, 다양한 상황에 대해 다양한 반응을 보이는 인공지능 캐릭터를 만들기 위해서는 규칙 지반의 인공지능이 아닌 학습을 통해 다양한 특징을 보이는 인공지능 캐릭터를 개발할 필요가 있으며, 이를 위해 인공 신경망(Artificial Neural Network)을 기반으로 하는 의사 결정 방법이 연구되고 있다.Therefore, it is necessary to develop an artificial intelligence character that shows various characteristics through learning rather than the artificial intelligence of the rule ground in order to create an artificial intelligence character that shows various responses to various situations. For this, artificial neural network (Artificial Neural Network) Decision making methods are being studied.
도 1은 종래 기술에 따라 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법을 설명하기 위한 도면이다.FIG. 1 is a diagram for explaining a decision method of a competitive game character based on an artificial neural network according to the prior art.
도 1에 도시된 종래 기술에 따르면, 게임 캐릭터 쌍마다 독립적인 신경망이 형성되며 각 신경망에 대해 학습이 필요하다. 도 1에 도시된 바와 같이, 캐릭터 A 대 캐릭터 A의 대전에서 캐릭터 A의 의사 결정을 위한 신경망(10), 캐릭터 A 대 캐릭터 B의 대전에서 캐릭터 A의 의사 결정을 위한 신경망, ..., 캐릭터 Z 대 캐릭터 Z의 대전에서 캐릭터 Z의 의사 결정을 위한 신경망이 필요하며, 게임 캐릭터의 수가 8가지인 경우 64개(=8×8)의 신경망이 필요하게 된다. According to the prior art shown in FIG. 1, independent neural networks are formed for each game character pair, and learning is required for each neural network. As shown in Fig. 1, a
이러한 방법은 게임 상태가 고정된 형태의 벡터로 표현될 수 있는 경우에는 적합하나, 대전 상대에 따라 표현해야 할 게임 상태가 다양한 경우는 적합하지 않다는 문제가 있다. This method is suitable when the game state can be represented by a fixed form vector, but it is not suitable when the game state to be represented depends on the opponent.
본 발명은 상기와 같은 종래 기술의 문제점을 해소하기 위한 것으로, 인공 신경망을 통해 게임 상태를 파악하여 상황에 적합한 행동을 수행하는 인공지능 캐릭터 모델을 제안함으로써 대전 상대에 따라 표현해야 할 게임 상태가 다양한 경우에도 인공지능 캐릭터가 효율적으로 의사 결정할 수 있는 방법을 제공하기 위한 것이다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems of the prior art, and it is an object of the present invention to provide an artificial intelligent character model that grasps game states through an artificial neural network, It is intended to provide a way for artificial intelligence characters to make efficient decisions.
상기와 같은 목적을 달성하기 위하여, 본 발명의 일 실시예에 따른 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법은, 대전형 온라인 게임의 게임 캐릭터별로 해당 게임 캐릭터의 상태를 표현하는 게임 캐릭터별 상태 표현 신경망을 형성하는 단계와; 게임의 공통 환경의 상태를 표현하는 공통 환경 표현 신경망을 형성하는 단계와; 상기 게임 캐릭터별 상태 표현 신경망과 상기 공통 환경 표현 신경망의 출력을 입력 받아 게임 상태를 일반화하여 표현하는 게임 상태 표현 신경망을 형성하는 단계와; 상기 게임 상태 표현 신경망의 출력을 입력으로 하는 각 게임 캐릭터별 의사 결정 신경망을 형성하는 단계와; 상기 게임 캐릭터별 상태 표현 신경망, 상기 공통 환경 표현 신경망, 상기 게임 상태 표현 신경망 및 상기 게임 캐릭터별 의사 결정 신경망을 결합한 인공 신경망에서 각 게임 캐릭터를 학습시키는 단계와; 인공지능 게임 캐릭터가 상대방 게임 캐릭터와 대전을 수행할 때 상기 인공 신경망을 이용하여 상기 인공지능 게임 캐릭터의 의사 결정을 수행하는 단계를 포함할 수 있다.According to an aspect of the present invention, there is provided a method of determining a competitive game character based on an artificial neural network, the method comprising the steps of: Forming a character-by-character state representation neural network; Forming a common environment expression neural network expressing a state of a common environment of the game; Forming a game state expression neural network that receives the output of the state expression neural network and the common environment expression neural network for each game character and generalizes and expresses the game state; Forming a decision-making neural network for each game character that receives the output of the game state representation neural network as input; Learning each game character in an artificial neural network that combines the state-represented neural network for each game character, the common environment expression neural network, the game state representation neural network, and the decision-making neural network for each game character; And performing the decision of the artificial intelligent game character using the artificial neural network when the artificial intelligent game character performs a competition with the opposing game character.
상기 의사 결정 방법은, 신규 인공지능 게임 캐릭터에 대한 상태 표현 신경망 및 의사 결정 신경망을 상기 인공 신경망에 추가하고 학습시킴으로써 상기 신규 인공지능 게임 캐릭터를 상기 대전형 온라인 게임에 추가하는 단계를 더 포함할 수 있다.The method may further include adding the new artificial intelligent game character to the online online game by adding and learning to the artificial neural network a state representation neural network and a decision artificial neural network for a new artificial intelligence game character have.
상기 게임 캐릭터별 상태 표현 신경망은, 캐릭터에 상관 없는 공통 특징을 표현하는 캐릭터 공통 상태 표현 신경망과 해당 캐릭터의 스킬을 표현하는 캐릭터 고유 상태 표현 신경망을 포함할 수 있다.The state representation neural network for each game character may include a character common state representation neural network expressing a common characteristic irrespective of the character and a character inherent state representation neural network expressing the skill of the character.
상기 게임 캐릭터별 의사 결정 신경망은, 해당 캐릭터의 이동을 결정하기 위한 캐릭터 이동 결정 신경망과 해당 캐릭터의 스킬 사용을 결정하기 위한 캐릭터 스킬 결정 신경망을 포함할 수 있다.The decision-making neural network for each game character may include a character movement determining neural network for determining the movement of the character and a character skill determination neural network for determining the skill use of the character.
본 발명에 의하면, 인공 신경망을 통해 게임 상태를 파악하여 상황에 적합한 행동을 수행하는 인공지능 캐릭터 모델을 제공함으로써 대전 상대에 따라 표현해야 할 게임 상태가 다양한 경우에도 인공지능 캐릭터가 효율적으로 의사 결정을 수행할 수 있게 되며, 그에 따라 플레이어들에게 재미를 줄 수 있는 대전형 게임의 제공이 가능하다.According to the present invention, an artificial intelligence character model that grasps a game state through an artificial neural network and performs an action appropriate to the situation is provided, so that even when a game state to be represented according to an opponent is varied, artificial intelligence characters can efficiently make a decision So that it is possible to provide a competitive game in which players can have fun.
또한, 본 발명에 의하면, 인공 신경망의 프리 파라미터(Free Parameter)가 적고 공통 요소를 재활용함으로 인해 학습의 일반화에 유리한 인공지능 캐릭터를 구현할 수 있다.In addition, according to the present invention, since artificial neural networks have few free parameters and common elements are recycled, an artificial intelligent character advantageous to generalization of learning can be realized.
또한, 본 발명에 의하면 캐릭터쌍 각각에 대해 학습하는 대신 각 캐릭터별로 학습하므로 학습되지 않은 캐릭터쌍 간의 대전시에도 적용이 가능하다. 즉, 캐릭터 A와 캐릭터 B의 대전이 학습되지 않은 경우에도 각각의 캐릭터에 대한 상태 표현 신경망과 의사 결정 신경망이 학습되어 있으면 캐릭터 A와 캐릭터 B의 대전이 가능하다.Further, according to the present invention, instead of learning each character pair, learning is performed for each character, so that the present invention can be applied to a game between pairs of characters that have not been learned. That is, even if the match between the characters A and B is not learned, it is possible to play the character A and the character B if the state expression neural network and the decision-making neural network for each character are learned.
또한, 본 발명에 의하면 신규 캐릭터의 상태 표현 신경망과 의사 결정 신경망의 학습만으로 신규 캐릭터의 추가가 가능하므로 인공지는 캐릭터의 업데이트가 용이하다.In addition, according to the present invention, it is possible to add a new character only by learning the state representation neural network and the decision-making neural network of a new character, so that it is easy to update the artificial character.
도 1은 종래 기술에 따라 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법을 설명하기 위한 도면이다.
도 2는 본 발명의 일 실시예에 따른 인공 신경망을 기반으로 한 대전형 게임 시스템의 네트워크 구성과 인공지능 게임 캐릭터를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법을 설명하기 위한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 인공 신경망의 구성을 설명하기 위한 도면이다.
도 5 내지 도 9는 본 발명의 일 실시예에 따른 인공 신경망의 세부 구성을 설명하기 위한 도면이다.FIG. 1 is a diagram for explaining a decision method of a competitive game character based on an artificial neural network according to the prior art.
FIG. 2 is a diagram for explaining a network configuration and an artificial intelligence game character of a competitive game system based on an artificial neural network according to an embodiment of the present invention.
FIG. 3 is a flowchart illustrating a decision method of a competitive game character based on an artificial neural network according to an embodiment of the present invention.
4 is a diagram for explaining a configuration of an artificial neural network according to an embodiment of the present invention.
5 to 9 are views for explaining the detailed configuration of an artificial neural network according to an embodiment of the present invention.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다. The terms used in this specification will be briefly described and the present invention will be described in detail.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다. While the present invention has been described in connection with what is presently considered to be the most practical and preferred embodiment, it is to be understood that the invention is not limited to the disclosed embodiments. Also, in certain cases, there may be a term selected arbitrarily by the applicant, in which case the meaning thereof will be described in detail in the description of the corresponding invention. Therefore, the term used in the present invention should be defined based on the meaning of the term, not on the name of a simple term, but on the entire contents of the present invention.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...수단", "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.When an element is referred to as "including" an element throughout the specification, it is to be understood that the element may include other elements as well, without departing from the spirit or scope of the present invention. The term " means ", "part "," module ", etc. in the specification means units for processing at least one function or operation, Lt; / RTI >
아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily carry out the present invention. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. In order to clearly illustrate the present invention, parts not related to the description are omitted, and similar parts are denoted by like reference characters throughout the specification.
도 2는 본 발명의 일 실시예에 따른 인공 신경망을 기반으로 한 대전형 게임 시스템의 네트워크 구성과 인공지능 게임 캐릭터를 설명하기 위한 도면이다.FIG. 2 is a diagram for explaining a network configuration and an artificial intelligence game character of a competitive game system based on an artificial neural network according to an embodiment of the present invention.
도 2를 참조하면, 본 발명에 의한 대전형 게임 시스템은 게임 서버(100) 및 플레이어 단말(110)을 포함하며, 이들은 인터넷 등의 네트워크를 통해 정보를 주고 받는다.2, the charging game system according to the present invention includes a
게임 서버(100)는 네트워크를 통해 접속한 게임 클라이언트에 대전형 게임을 제공하며, 인공 신경망을 기반으로 의사 결정을 하는 인공지능 게임 캐릭터(101)가 상대방 게임 캐릭터와 대전을 수행하도록 제어한다.The
인공지능 게임 캐릭터(101)는 게임 서버(100)에 의해 자동 조종되는 게임 캐릭터로서 인공 신경망을 기반으로 상대방 게임 캐릭터(111) 및 게임 상황을 관찰하고 그에 따른 의사 결정을 수행함으로써 위치 이동, 스킬 사용 등을 실행하여 상대방 게임 캐릭터(111)와의 대전을 진행한다.The artificial
플레이어 단말(110)은 대전형 게임 서비스를 이용하기 위한 게임 클라이언트를 구비하며, 플레이어는 플레이어 단말(110)을 통해 게임 캐릭터(111)를 조작함으로써 게임을 수행한다.The
도 3은 본 발명의 일 실시예에 따른 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법을 설명하기 위한 순서도이고, 도 4는 본 발명의 일 실시예에 따른 인공 신경망의 구성을 설명하기 위한 도면이다.FIG. 3 is a flow chart for explaining a decision method of a competitive game character based on an artificial neural network according to an embodiment of the present invention. FIG. 4 is a block diagram illustrating a configuration of an artificial neural network according to an embodiment of the present invention FIG.
본 발명에 따른 인공 신경망 모델은 복수 유형의 신경망이 유기적으로 결합된 형태로 구성될 수 있다.The artificial neural network model according to the present invention may be configured such that plural types of neural networks are organically combined.
도 4를 참조하면, 본 발명에서 제안하는 인공 신경망은 각각의 게임 캐릭터의 상태를 표현하기 위한 게임 캐릭터별 캐릭터 상태 표현 신경망(Neural Network for Character, 41)과, 게임의 공통 환경의 상태를 표현하는 공통 환경 표현 신경망(Neural Network for Common Environment, 42)과, 게임 상태를 일반화하여 표현하는 게임 상태 표현 신경망(Neural Network for Integrated Game State, 43)과, 각각의 게임 캐릭터별 의사 결정 신경망(Decision Neural Network for Character, 44)을 포함할 수 있다.Referring to FIG. 4, the artificial neural network proposed in the present invention includes a character state expression neural network (Neural Network for Character) 41 for expressing the state of each game character, A Neural Network for the
도 3 및 도 4를 참조하면, 단계 S30에서는 대전형 온라인 게임의 게임 캐릭터별로 해당 게임 캐릭터의 상태를 표현하는 게임 캐릭터별 상태 표현 신경망(41)을 형성한다. 캐릭터 상태 표현 신경망(41)에는 해당 캐릭터의 상태에 대한 정보가 입력된다.Referring to FIGS. 3 and 4, in step S30, a game character-by-character state expression
단계 S31에서는, 게임의 공통 환경의 상태를 표현하는 공통 환경 표현 신경망(42)을 형성한다. 이 공통 환경 표현 신경망(42)에는 게임의 공통 환경의 상태를 나타내는 정보가 입력될 것이다.In step S31, the common environment expression
단계 S32에서는, 상기 게임 캐릭터별 상태 표현 신경망(41)과 상기 공통 환경 표현 신경망(43)의 출력을 입력 받아 게임 상태를 일반화하여 표현하는 게임 상태 표현 신경망(43)을 형성한다. In step S32, the game state representation
단계 S33에서는, 게임 상태 표현 신경망(43)의 출력을 입력으로 하는 각 게임 캐릭터별 의사 결정 신경망(44)을 형성한다.In step S33, the decision-making
단계 S34에서는, 복수의 게임 캐릭터별 상태 표현 신경망(41), 공통 환경 표현 신경망(42), 게임 상태 표현 신경망(43) 및 복수의 게임 캐릭터별 의사 결정 신경망(44)을 결합한 인공 신경망에서 각 게임 캐릭터를 학습시킨다.In step S34, in the artificial neural network that combines a plurality of game character-by-state representation
게임 캐릭터가 8가지 종류인 경우, 캐릭터별 상태 표현 신경망(41) 8개, 공통 환경 표현 신경망(42) 1개, 게임 상태 표현 신경망(43) 1개 및 게임 캐릭터별 의사 결정 신경망(44) 8개를 결합함으로써 임의의 대전 상대에 대응할 수 있는 인공 신경망을 생성할 수 있다.In the case of eight kinds of game characters, there are eight character state expression
단계 S35에서는, 인공지능 게임 캐릭터가 상대방 게임 캐릭터와 대전을 수행할 때 상기에서 형성된 인공 신경망을 이용하여 인공지능 게임 캐릭터의 의사 결정을 수행한다. 인공지능 게임 캐릭터가 캐릭터 A인 경우에는 캐릭터 A를 위한 의사 결정 신경망(44)을 통해서 의사 결정을 수행하고, 인공지능 게임 캐릭터가 캐릭터 B인 경우에는 캐릭터 B를 위한 의사 결정 신경망을 통해서 의사 결정을 수행하는 식으로, 해당 캐릭터를 위한 의사 결정 신경망의 출력을 이용하게 된다. In step S35, when the artificial intelligent game character performs the competition with the opposing game character, the artificial intelligent game character is determined using the artificial neural network formed above. If the artificial intelligence game character is a character A, the decision is made through the decision-making
단계 S34에서 결합에 의해 생성된 인공 신경망을 이용하면 대전 상대가 어떤 게임 캐릭터인지에 상관 없이, 즉 임의의 대전 상대에 대해 대응할 수 있는 인공지능 게임 캐릭터를 구현할 수 있게 된다.If the artificial neural network generated by the combination is used in step S34, it is possible to implement an artificial intelligent game character capable of coping with any opponent regardless of the game character of the opponent.
한편, 신규 인공지능 게임 캐릭터를 게임에 추가하고자 하는 경우는, 신규 인공지능 게임 캐릭터에 대한 상태 표현 신경망 및 의사 결정 신경망을 상기 인공 신경망에 추가하고 추가된 신경망들을 학습시킴으로써 간단히 캐릭터의 추가가 가능하다.On the other hand, if the new artificial intelligent game character is to be added to the game, characters can be added simply by adding the state representation neural network and the decision artificial neural network for the new artificial intelligent game character to the artificial neural network and learning the added neural networks .
도 5 내지 도 9는 본 발명의 일 실시예에 따른 인공 신경망의 세부 구성을 설명하기 위한 도면이다.5 to 9 are views for explaining the detailed configuration of an artificial neural network according to an embodiment of the present invention.
도 5는 본 발명에 따라 캐릭터별 상태 표현 신경망(51, 52), 공통 환경 표현 신경망(53), 게임 상태 표현 신경망(54) 및 게임 캐릭터별 의사 결정 신경망(55, 56)을 결합하여 형성되는 인공 신경망을 예시한 것이다.5 is a diagram showing a state in which the game system is formed by combining character-by-character state expression
도 5를 참조하면, 게임 캐릭터별 상태 표현 신경망(51, 52)에는 해당 캐릭터의 체력을 나타내는 HP 정보, 스킬 포인트(SP)에 대한 정보, 타겟과의 거리, 사용할 수 있는 스킬에 대한 정보, 스킬 사용 후 경과 시간 등 캐릭터별로 미리 정해진 수의 정보가 입력된다. 공통 환경 표현 신경망(53)에는 게임에서 남은 시간, 피버 타임 여부 등 게임의 공통 환경의 상태를 나타내는 정보가 입력된다. Referring to FIG. 5, in the state-represented
게임 캐릭터별 상태 표현 신경망(51, 52)과 공통 환경 표현 신경망(53)으로부터 출력되는 정보는 게임 상태 표현 신경망(54)의 입력이 되며, 게임 상태 표현 신경망(54)으로부터 출력되는 정보는 게임 캐릭터별 의사 결정 신경망(55, 56)의 입력이 된다. The information output from the state-represented
게임 캐릭터별 의사 결정 신경망(55, 56)은 해당 캐릭터의 선택지 수(예: 스킬 개수) 만큼의 출력 차수를 가진다. 도 5의 예에서, 캐릭터 X를 위한 의사 결정 신경망(55)은 30 차수의 출력을 가지며, 캐릭터 Y를 위한 의사 결정 신경망(56)의 19 차수의 출력을 가짐을 알 수 있다.The game character-specific decision-making
도 6 및 도 7은 게임 캐릭터별 상태 표현 신경망(51, 52)의 내부 구성을 예시한 도면이다.FIGS. 6 and 7 are views illustrating an internal configuration of the state-represented
도 6 및 도 7을 참조하면, 캐릭터별 상태 표현 신경망(51, 52)은 캐릭터 공통 상태 표현 신경망(61, 71), 캐릭터 고유 상태 표현 신경망(62, 72) 및 캐릭터별 상태 통합 신경망(63, 73)을 포함하는 복수의 세부 네트워크로 구성될 수 있다.6 and 7, character state presentation
캐릭터 공통 상태 표현 신경망(61, 71)은 게임 캐릭터가 어떤 것인지에 상관없이 공통적으로 가지는 특징을 표현하는 신경망으로서, HP, SP, 타겟과의 거리 등을 입력으로 한다. 캐릭터 고유 상태 표현 신경망(62, 72)은 해당 캐릭터의 스킬을 표현하기 위한 신경망으로서 해당 캐릭터가 사용할 수 있는 스킬, 스킬 사용 후 경과 시간 등을 입력으로 하며, 캐릭터별로 다른 차수의 입력을 가질 수 있다. The character common state representation
캐릭터별 상태 통합 신경망(63, 73)은 해당 캐릭터의 상태를 통합하여 표현하기 위한 신경망으로, 캐릭터 공통 상태 표현 신경망(61, 71) 및 캐릭터 고유 상태 표현 신경망(62, 72)의 출력 정보를 입력으로 하여 미리 정해진 차수의 출력을 가진다.The character-by-character state integrated
도 8 및 도 9는 게임 캐릭터별 의사 결정 신경망(55, 56)의 내부 구성을 예시한 도면이다.8 and 9 are diagrams illustrating an internal configuration of the decision-making
게임 캐릭터별 의사 결정 신경망(55, 56)은 의사 결정의 종류에 따라 다른 유형의 세부 네트워크들로 구성될 수 있다. 예를 들어, 이동과 스킬 사용에 대한 의사 결정을 해야 하는 경우 도 8 및 도 9와 같이 이동 결정 신경망(82, 92)과 스킬 결정 신경망(83, 93)을 포함하여 구성될 수 있다. The game character-specific decision-making
도 8 및 도 9를 참조하면, 게임 상태 표현 신경망의 출력을 입력으로 하는 의사 결정 상태 표현 신경망(81, 91)과, 의사 결정 상태 표현 신경망(81, 91)의 출력을 입력으로 하는 이동 결정 신경망(82, 92) 및 스킬 결정 신경망(83, 93)이 게임 캐릭터별 의사 결정 신경망(55, 56)을 구성하고 있으며, 이동 결정 신경망(82, 92)을 통해서는 앞으로 이동할지, 뒤로 이동할지, 좌로 이동할지, 우로 이동할지 또는 멈출지 여부가 결정되며, 스킬 결정 신경망(83, 93)을 통해서는 스킬 사용 여부 및/또는 사용할 스킬이 결정될 것이다. 스킬 결정 신경망(83, 93)의 출력 차수는 캐릭터별로 상이하며 해당 캐릭터가 가진 스킬 수만큼의 출력 차수를 가질 수 있다.8 and 9, there are shown a decision state representation
본 발명의 일 실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. The method according to an embodiment of the present invention can be implemented in the form of a program command which can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and constructed for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like.
이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속한다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, It belongs to the scope of right.
100: 게임 서버
101: 인공지능 게임 캐릭터
110: 플레이어 단말
111: 플레이어의 게임 캐릭터100: Game server
101: Artificial Intelligence Game Character
110: Player terminal
111: Player's game character
Claims (8)
게임의 공통 환경의 상태를 표현하는 공통 환경 표현 신경망을 형성하는 단계와;
상기 게임 캐릭터별 상태 표현 신경망과 상기 공통 환경 표현 신경망의 출력을 입력 받아 게임 상태를 일반화하여 표현하는 게임 상태 표현 신경망을 형성하는 단계와;
상기 게임 상태 표현 신경망의 출력을 입력으로 하는 각 게임 캐릭터별 의사 결정 신경망을 형성하는 단계와;
상기 게임 캐릭터별 상태 표현 신경망, 상기 공통 환경 표현 신경망, 상기 게임 상태 표현 신경망 및 상기 게임 캐릭터별 의사 결정 신경망을 결합한 인공 신경망에서 각 게임 캐릭터를 학습시키는 단계와;
인공지능 게임 캐릭터가 상대방 게임 캐릭터와 대전을 수행할 때 상기 인공 신경망을 이용하여 상기 인공지능 게임 캐릭터의 의사 결정을 수행하는 단계를 포함하는 것을 특징으로 하는, 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법.Forming a state-representing neural network for each game character expressing the state of the game character for each game character of the online online game;
Forming a common environment expression neural network expressing a state of a common environment of the game;
Forming a game state expression neural network that receives the output of the state expression neural network and the common environment expression neural network for each game character and generalizes and expresses the game state;
Forming a decision-making neural network for each game character that receives the output of the game state representation neural network as input;
Learning each game character in an artificial neural network that combines the state-represented neural network for each game character, the common environment expression neural network, the game state representation neural network, and the decision-making neural network for each game character;
The method according to any one of claims 1 to 3, further comprising the step of, when the artificial intelligent game character competes with the opposing game character, performing the decision of the artificial intelligent game character using the artificial neural network Of decision making.
신규 인공지능 게임 캐릭터에 대한 상태 표현 신경망 및 의사 결정 신경망을 상기 인공 신경망에 추가하고 학습시킴으로써 상기 신규 인공지능 게임 캐릭터를 상기 대전형 온라인 게임에 추가하는 단계를 더 포함하는 것을 특징으로 하는, 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법.The method according to claim 1,
Further comprising the step of adding the new artificial intelligent game character to the online online game by adding and learning the state representation neural network and the decision artificial neural network for the new artificial intelligent game character to the artificial neural network, Decision making method of competitive game character based on.
상기 게임 캐릭터별 상태 표현 신경망은, 캐릭터에 상관 없는 공통 특징을 표현하는 캐릭터 공통 상태 표현 신경망과 해당 캐릭터의 스킬을 표현하는 캐릭터 고유 상태 표현 신경망을 포함하는 것을 특징으로 하는, 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법.The method according to claim 1,
Wherein the state representation neural network for each game character includes a character common state representation neural network expressing a common characteristic irrespective of a character and a character inherent state representation neural network expressing a skill of the character, Decision making method of competitive game characters.
상기 게임 캐릭터별 의사 결정 신경망은, 해당 캐릭터의 이동을 결정하기 위한 캐릭터 이동 결정 신경망과 해당 캐릭터의 스킬 사용을 결정하기 위한 캐릭터 스킬 결정 신경망을 포함하는 것을 특징으로 하는, 인공 신경망을 기반으로 한 대전형 게임 캐릭터의 의사 결정 방법.The method according to claim 1,
Wherein the decision-making neural network for each game character includes a character movement decision-making neural network for determining a movement of the character and a character skill decision-making neural network for determining a skill use of the character, Decision making method of game character.
대전형 온라인 게임의 게임 캐릭터별로 해당 게임 캐릭터의 상태를 표현하는 게임 캐릭터별 상태 표현 신경망을 형성하는 단계와;
게임의 공통 환경의 상태를 표현하는 공통 환경 표현 신경망을 형성하는 단계와;
상기 게임 캐릭터별 상태 표현 신경망과 상기 공통 환경 표현 신경망의 출력을 입력 받아 게임 상태를 일반화하여 표현하는 게임 상태 표현 신경망을 형성하는 단계와;
상기 게임 상태 표현 신경망의 출력을 입력으로 하는 각 게임 캐릭터별 의사 결정 신경망을 형성하는 단계와;
상기 게임 캐릭터별 상태 표현 신경망, 상기 공통 환경 표현 신경망, 상기 게임 상태 표현 신경망 및 상기 게임 캐릭터별 의사 결정 신경망을 결합한 인공 신경망에서 각 게임 캐릭터를 학습시키는 단계와;
인공지능 게임 캐릭터가 상대방 게임 캐릭터와 대전을 수행할 때 상기 인공 신경망을 이용하여 상기 인공지능 게임 캐릭터의 의사 결정을 수행하는 단계를 포함하는 것을 특징으로 하는 컴퓨터 프로그램.A computer program recorded on a recording medium for performing a decision method of a competitive game character based on an artificial neural network,
Forming a state-representing neural network for each game character expressing the state of the game character for each game character of the online online game;
Forming a common environment expression neural network expressing a state of a common environment of the game;
Forming a game state expression neural network that receives the output of the state expression neural network and the common environment expression neural network for each game character and generalizes and expresses the game state;
Forming a decision-making neural network for each game character that receives the output of the game state representation neural network as input;
Learning each game character in an artificial neural network that combines the state-represented neural network for each game character, the common environment expression neural network, the game state representation neural network, and the decision-making neural network for each game character;
And performing a decision of the artificial intelligent game character using the artificial neural network when the artificial intelligent game character performs a competition with the opposing game character.
상기 의사 결정 방법은, 신규 인공지능 게임 캐릭터에 대한 상태 표현 신경망 및 의사 결정 신경망을 상기 인공 신경망에 추가하고 학습시킴으로써 상기 신규 인공지능 게임 캐릭터를 상기 대전형 온라인 게임에 추가하는 단계를 더 포함하는 것을 특징으로 하는 컴퓨터 프로그램.6. The method of claim 5,
The method further includes adding the new artificial intelligent game character to the online online game by adding and learning the state representation neural network and the decision artificial neural network for the new artificial intelligent game character to the artificial neural network A computer program characterized by.
상기 게임 캐릭터별 상태 표현 신경망은, 캐릭터에 상관 없는 공통 특징을 표현하는 캐릭터 공통 상태 표현 신경망과 해당 캐릭터의 스킬을 표현하는 캐릭터 고유 상태 표현 신경망을 포함하는 것을 특징으로 하는 컴퓨터 프로그램.6. The method of claim 5,
Wherein the state representation neural network for each game character includes a character common state representation neural network expressing a common characteristic irrespective of a character and a character inherent state representation neural network expressing a skill of the character.
상기 게임 캐릭터별 의사 결정 신경망은, 해당 캐릭터의 이동을 결정하기 위한 캐릭터 이동 결정 신경망과 해당 캐릭터의 스킬 사용을 결정하기 위한 캐릭터 스킬 결정 신경망을 포함하는 것을 특징으로 하는 컴퓨터 프로그램.6. The method of claim 5,
Wherein the decision-based neural network for each game character includes a character movement determining neural network for determining a movement of the character and a character skill determination neural network for determining a skill use of the character.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170006303A KR20180083703A (en) | 2017-01-13 | 2017-01-13 | Method of decision making for a fighting action game character based on artificial neural networks and computer program therefor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170006303A KR20180083703A (en) | 2017-01-13 | 2017-01-13 | Method of decision making for a fighting action game character based on artificial neural networks and computer program therefor |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20180083703A true KR20180083703A (en) | 2018-07-23 |
Family
ID=63102891
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170006303A KR20180083703A (en) | 2017-01-13 | 2017-01-13 | Method of decision making for a fighting action game character based on artificial neural networks and computer program therefor |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20180083703A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111450531A (en) * | 2020-03-30 | 2020-07-28 | 腾讯科技(深圳)有限公司 | Virtual character control method, virtual character control device, electronic equipment and storage medium |
CN113577769A (en) * | 2021-07-07 | 2021-11-02 | 广州三七极耀网络科技有限公司 | Game character action control method, device, equipment and storage medium |
WO2023246270A1 (en) * | 2022-06-23 | 2023-12-28 | 腾讯科技(深圳)有限公司 | Information processing method and apparatus, and storage medium and electronic device |
-
2017
- 2017-01-13 KR KR1020170006303A patent/KR20180083703A/en active Search and Examination
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111450531A (en) * | 2020-03-30 | 2020-07-28 | 腾讯科技(深圳)有限公司 | Virtual character control method, virtual character control device, electronic equipment and storage medium |
CN111450531B (en) * | 2020-03-30 | 2021-08-03 | 腾讯科技(深圳)有限公司 | Virtual character control method, virtual character control device, electronic equipment and storage medium |
CN113577769A (en) * | 2021-07-07 | 2021-11-02 | 广州三七极耀网络科技有限公司 | Game character action control method, device, equipment and storage medium |
CN113577769B (en) * | 2021-07-07 | 2024-03-08 | 广州三七极耀网络科技有限公司 | Game character action control method, apparatus, device and storage medium |
WO2023246270A1 (en) * | 2022-06-23 | 2023-12-28 | 腾讯科技(深圳)有限公司 | Information processing method and apparatus, and storage medium and electronic device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Graepel et al. | Learning to fight | |
Sagredo-Olivenza et al. | Trained behavior trees: Programming by demonstration to support ai game designers | |
CN108211362B (en) | Non-player character combat strategy learning method based on deep Q learning network | |
Machado et al. | Player modeling: Towards a common taxonomy | |
Patel et al. | Tuning computer gaming agents using q-learning | |
CN112870721B (en) | Game interaction method, device, equipment and storage medium | |
KR20180083703A (en) | Method of decision making for a fighting action game character based on artificial neural networks and computer program therefor | |
KR20200121616A (en) | Method for changing game environment | |
Shaker et al. | Planning with applications to quests and story | |
Yin et al. | A data-driven approach for online adaptation of game difficulty | |
Pons et al. | Scenario control for (serious) games using self-organizing multi-agent systems | |
Merrick | Modeling motivation for adaptive nonplayer characters in dynamic computer game worlds | |
Hamann et al. | A gamification concept for teaching swarm robotics | |
Marius et al. | Combining scripted behavior with game tree search for stronger, more robust game AI | |
Parra et al. | Bayesian networks for micromanagement decision imitation in the RTS game starcraft | |
Håkansson et al. | Application of machine learning to construct advanced NPC behaviors in Unity 3D. | |
Cowley et al. | Adaptive artificial intelligence in games: issues, requirements, and a solution through behavlets-based general player modelling | |
Mozgovoy et al. | Building a believable agent for a 3D boxing simulation game | |
Khatri | The Gaming Experience With AI | |
Baby et al. | Implementing artificial intelligence agent within connect 4 using unity3d and machine learning concepts | |
Nakashima et al. | Designing high-level decision making systems based on fuzzy if–then rules for a point-to-point car racing game | |
Wang et al. | Dynamic difficulty adjustment by fuzzy rules using in a neural network controlled game | |
Patel et al. | Improving behavior of computer game bots using fictitious play | |
Kaukoranta et al. | Role of pattern recognition in computer games | |
KR100913030B1 (en) | Method and system for game strategy using cascade-fuzzy losic |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination |