WO2023119452A1 - 判定方法、判定プログラム及び情報処理装置 - Google Patents

判定方法、判定プログラム及び情報処理装置 Download PDF

Info

Publication number
WO2023119452A1
WO2023119452A1 PCT/JP2021/047432 JP2021047432W WO2023119452A1 WO 2023119452 A1 WO2023119452 A1 WO 2023119452A1 JP 2021047432 W JP2021047432 W JP 2021047432W WO 2023119452 A1 WO2023119452 A1 WO 2023119452A1
Authority
WO
WIPO (PCT)
Prior art keywords
game
input information
input
period
tool
Prior art date
Application number
PCT/JP2021/047432
Other languages
English (en)
French (fr)
Inventor
史禎 笠原
孝徳 及川
Original Assignee
富士通株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士通株式会社 filed Critical 富士通株式会社
Priority to PCT/JP2021/047432 priority Critical patent/WO2023119452A1/ja
Publication of WO2023119452A1 publication Critical patent/WO2023119452A1/ja

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70—Game security or game management aspects
    • A63F13/75—Enforcing rules, e.g. detecting foul play or generating lists of cheating players

Definitions

  • the present invention relates to determination technology.
  • Auto Aim software that realizes automatic aiming in shooting games.
  • Auto aim there are also those that capture game images via a capture board, analyze the game images captured via the capture board, recognize objects such as enemies, and aim at them. to emulate.
  • Auto Aim which captures the game video via the capture board in this way, since the game files are not accessed or rewritten, there is an aspect that detection is difficult.
  • the aim is to detect cheat tools by detecting abnormal values of parameters such as hit rate from play logs such as player operations and execution results via game terminals as abnormal behavior. .
  • An object of one aspect is to provide a determination method, a determination program, and an information processing apparatus that can improve the accuracy of determining the use of unauthorized tools.
  • a first game image to be displayed on a display device during a first period and a difference between the original game image and the game image are displayed by the player.
  • the fraudulent tool has a characteristic of being able to recognize a difference from the original game image, and is displayed on the display device during a second period that does not overlap with the first period.
  • FIG. 1 is a diagram showing a configuration example of a game system.
  • FIG. 2 is a schematic diagram showing the recognition result of the original frame.
  • FIG. 3 is a schematic diagram showing recognition results of hostile frames.
  • FIG. 4 is a schematic diagram showing an example of fraudulent tool detection.
  • FIG. 5 is a block diagram illustrating a functional configuration example of the server device.
  • FIG. 6 is a schematic diagram showing an example of generation of a hostile frame.
  • FIG. 7 is a schematic diagram showing an operation example of the image selection unit.
  • FIG. 8 is a diagram showing an example of inserting a hostile frame.
  • FIG. 9 is a schematic diagram (1) showing an example of cheat tool detection.
  • FIG. 10 is a schematic diagram showing an example of cheat degree calculation.
  • FIG. 11 is a schematic diagram (2) showing an example of cheat tool detection.
  • FIG. 12 is a flowchart showing the procedure of frame transmission processing.
  • FIG. 13 is a flow chart showing the procedure of unauthorized tool determination processing.
  • FIG. 1 is a diagram showing a configuration example of a game system.
  • FIG. 1 illustrates a game system 1 that provides an online game service as an example only, but the type of computer game is not limited to online games, and may be offline games.
  • the game system 1 may include a server device 10 and client terminals 30A-30N.
  • client terminals 30A to 30N may be referred to as "client terminals 30" when individual client terminals 30A to 30N need not be distinguished.
  • the server device 10 and the client terminal 30 are communicatively connected via the network NW.
  • the network NW may be any type of communication network such as the Internet or a LAN (Local Area Network), regardless of whether it is wired or wireless.
  • the server device 10 is an example of a computer that provides the above online game service.
  • the server device 10 can provide the above-described online game service by causing any computer to execute software that implements the above-described online game service.
  • the server device 10 can be implemented as a server that provides the above online game service on-premises.
  • the server device 10 can also provide the above online game service as a cloud service by implementing it as a PaaS (Platform as a Service) type or SaaS (Software as a Service) type application.
  • the server device 10 may correspond to an example of an information processing device.
  • the client terminal 30 is a terminal device that receives the above online game service.
  • the client terminal 30 is used as a computer game platform. Platforms are not limited to any particular type.
  • the client terminal 30 is not limited to an arcade game machine, a consumer game machine, hardware dedicated to these machines, and may be realized by a general-purpose personal computer, a portable terminal device, or the like. Note that the client terminal 30 may correspond to an example of a game terminal.
  • Computer games provided by the above online game services may be of any genre.
  • it may be a shooting game, a real-time strategy game, a multiplayer online battle arena, a fighting game, a sports game, a racing game, a puzzle game, or the like.
  • FPS First-Person Shooter
  • Auto Aim which realizes automatic aiming in a shooting game, as one of the cheat tools that use image recognition AI.
  • Auto aim there are also those that capture game images via a capture board, analyze the game images captured via the capture board, recognize objects such as enemies, and aim at them. to emulate.
  • Auto Aim which captures the game video via the capture board in this way, since the game files are not accessed or rewritten, there is an aspect that detection is difficult.
  • the online game service according to the present embodiment is added with a judgment function for distinguishing between advanced players and cheat tools by giving specificity to the play log of the cheat tools. That is, the above determination function inserts a hostile frame in which the human and the image recognition AI recognize different differences from the original at the time of transmission of the play image, and detects cheating based on the play log of the original frame and the hostile frame. .
  • FIG. 2 is a schematic diagram showing the recognition result of the original frame.
  • FIG. 3 is a schematic diagram showing recognition results of hostile frames. 2 and 3 show, as an example only, three frames in which the movement of an enemy, which is an example of an object, is modeled out of play images displayed in a shooting game from a first-person viewpoint. ing. Further, FIG. 2 shows an example where all three frames are original frames. On the other hand, in FIG. 3, in the second frame of the three frames, a hostile frame is inserted in which the human can recognize the object in the play image and the image recognition AI misrecognizes the object in the play image. Examples are given.
  • both the player and the image recognition AI can recognize objects, such as enemies, from all frames. For this reason, when the player is an advanced player, it is difficult for the player and the auto aim using the image recognition AI to show a difference in the operation and the execution result thereof.
  • FIG. 4 is a schematic diagram showing an example of unauthorized tool detection.
  • FIG. 4 shows, as just one example, an example in which the presence or absence of unauthorized tool use is realized by a machine learning model.
  • a machine learning model m that receives a play log as an input and outputs a cheat-use or cheat-free label can be used for fraudulent tool detection.
  • a data set TR containing training data associated with play logs and correct labels can be used for training the machine learning model m.
  • the play log may be data in which plays, such as player operations and execution results of player operations, are recorded in chronological order.
  • Such a training data data set TR may include only training data labeled as cheat-free correct answers. For this reason, it is not necessary to necessarily collect play logs of cheat usage as training data, which facilitates collection of the data set TR of training data for the machine learning model m.
  • the play log can be used as the explanatory variable of the machine learning model m
  • the label can be used as the objective variable of the machine learning model m
  • the machine learning model m can be trained according to any machine learning algorithm, such as deep learning. As a result, a trained machine learning model M is obtained.
  • the play log 40 including original frames and adversarial frames is input to the machine learning model M.
  • the play log 40 input to the machine learning model M has specificity to the play log of the cheat tool in the hostile frame. Therefore, the machine learning model M can distinguish advanced players from cheat tools and output a cheat use or cheat nonuse label.
  • the determination function described above it is possible to improve the accuracy of determining the use of fraudulent tools. Furthermore, it is unnecessary to add a player operation for verification to determine the use of illegal tools. Additionally, the determination of unauthorized tool use can be performed in the background without the player's knowledge. In addition to these technical effects, by improving the accuracy of judging the use of unauthorized tools, the reliability of game titles will be improved, thereby reducing user abandonment and reducing losses for game development companies. can.
  • FIG. 5 is a block diagram showing an example of the functional configuration of the server device 10. As shown in FIG. FIG. 5 schematically shows functional blocks corresponding to an online game service to which the determination function described above is added.
  • the server device 10 has a service providing unit 11.
  • the service providing unit 11 is implemented by a hardware processor.
  • hardware processors include CPU (Central Processing Unit), MPU (Micro Processing Unit), GPU (Graphics Processing Unit), and GPGPU (General-Purpose computing on GPU).
  • the processor reads the OS (Operating System) from a storage (not shown), such as a HDD (Hard Disk Drive), an optical disk, or an SSD (Solid State Drive), as well as application programs that implement the online game service. Then, the processor develops a process corresponding to the service providing unit 11 on a memory such as RAM (Random Access Memory) by executing the above application program.
  • RAM Random Access Memory
  • the service providing unit 11 is virtually implemented as a process.
  • the service providing unit 11 may be realized by hardwired logic such as ASIC (Application Specific Integrated Circuit) or FPGA (Field Programmable Gate Array).
  • the service providing unit 11 is a processing unit that provides the online game service described above.
  • the service providing unit 11 has a game progression unit 12, an image generation unit 13, an image transmission unit 14, and an unauthorized tool determination unit 15, as shown in FIG.
  • the game progress unit 12 is a processing unit that progresses the game state of the online game.
  • the "game state” referred to here refers to the state of the character and equipment operated by the player, as well as the state of the virtual space in which the player battles, such as the state of the map.
  • the character state may include the character's position and posture, viewpoint direction, status, performance, and the like.
  • the equipment status may also include the type of weapon being equipped.
  • the game progression unit 12 updates the game state according to the operation information acquired from the client terminal 30 for each period corresponding to the frame rate of the play image. As a result, the position, posture, viewing direction, status, and performance of the character placed on the map are updated to the latest values, and the game state of the online game progresses.
  • the image generation unit 13 is a processing unit that generates play images.
  • the image generation unit 13 generates a play image according to the game state progressed by the game progression unit 12 for each of the M players participating in the online game competition.
  • the image generator 13 renders the map and the characters on the map that are included in the angle of view corresponding to the viewpoint direction of the player's own character among the map and the characters arranged on the map.
  • the image generation unit 13 updates various displays such as gauges and icons according to the status and performance of the character updated by the game progression unit 12 .
  • a play image realized by computer graphics or the like can be generated, just as an example.
  • the image transmission unit 14 is a processing unit that transmits play images. As an example only, the image transmission unit 14 transmits an image selected by an image selection unit 15B described later, that is, an original frame or a hostile frame of a play image, for each client terminal 30 corresponding to each of M players. .
  • the unauthorized tool determination unit 15 is a processing unit that provides the above-described judgment function, that is, the function of determining whether or not an unauthorized tool is used. As shown in FIG. 5, the unauthorized tool determination unit 15 includes an image processing unit 15A, an image selection unit 15B, a condition storage unit 15C, a play log acquisition unit 15D, a feature extraction unit 15E, and a cheat degree calculation unit 15F. , an accumulated cheat degree storage unit 15G, and a cheat detection unit 15H.
  • the image processing unit 15A is a processing unit that processes play images.
  • the image processing unit 15A is configured such that the original frame of the play image generated by the image generating unit 13 is processed so that humans cannot recognize the difference from the original, and the image recognition AI can recognize the difference from the original. Process into a hostile frame.
  • Such processing is realized by making the original frame of the play image recognizable by humans and by making the object in the play image unrecognizable by the image recognition AI. be.
  • FGSM Fast Gradient Sign Method
  • FIG. 6 is a schematic diagram showing an example of hostile frame generation.
  • FIG. 6 illustrates a machine learning model 6M that realizes object detection, which is one of the image recognition tasks, as an example of image recognition AI used by the cheat tool.
  • the machine learning model 6M for such tasks may be realized by YOLO (You Only Look Once), R-CNN (Regions with CNN features), SSD (Single Shot MultiBox Detector), etc.
  • the FGSM generates a hostile frame 62 of the play image by adding a perturbation 61 to the original frame 60 of the play image, which is input data to the machine learning model 6M.
  • a perturbation 61 is a change given to the input data to the machine learning model 6M, for example, the pixel values of an image.
  • the perturbation 61 is obtained by formulating the problem of minimizing the change in the input data that maximizes the loss between the correct label of the input data to the machine learning model 6M and the output of the machine learning model 6M. be able to.
  • the perturbation 61 shown in FIG. 6 is only a schematic example, and it is not necessary to change the values of all the pixels of the image that is the input data.
  • the machine learning model 6M misrecognizes the target, and humans recognize the target, such as an enemy character.
  • An adversarial frame 62 can be obtained that enables
  • the original frame of the play image is an example in which a hostile frame is generated in which a person can recognize the object in the play image and the image recognition AI cannot recognize the object in the play image.
  • the hostile frame generation method is not limited to this.
  • the image recognition AI can recognize the hostile frame inserted between the preceding and following original frames, so that the hostile frame causes a discontinuity or joint in the play log.
  • the hostile frame does not cause a gap or a seam in the play log.
  • the image selection unit 15B is a processing unit that selects either the original frame of the play image or the hostile frame of the play image. As one embodiment, the image selection unit 15B determines whether or not the game play status of each client terminal 30 corresponding to each of M players satisfies the conditions stored in the condition storage unit 15C. Select original frame or adversarial frame.
  • FIG. 7 is a schematic diagram showing an operation example of the image selection unit 15B.
  • FIG. 7 illustrates, as just one aspect, a scene in which the image selection unit 15B selects the hostile frame from the original frame and the hostile frame.
  • the play situation 71 can include player operations 71A and play environments 71B.
  • the player operation 71A may include character state, weapon operation, and the like.
  • the play environment 71B may include equipped weapons, the presence or absence of enemies, distances from enemies, and the like.
  • condition storage unit 15C stores, as examples of conditions to be checked with the play situation, a first condition 15C1 designating a trigger for inserting a hostile frame and a second condition 15C1 designating a timing to start inserting a hostile frame.
  • the setting of the condition 15C2 is stored.
  • a play situation is set in which a human shoots at a high probability from the aspect of inserting a hostile frame in a play situation in which a cheat tool, for example, an image recognition AI such as Auto Aim functions effectively. be.
  • a cheat tool for example, an image recognition AI such as Auto Aim functions effectively.
  • the image selection unit 15B determines whether or not the play situation 71 of the current frame satisfies the first condition 15C1 and the second condition 15C2. .
  • the player operation 71A weapon operation "Machine gun fire (11/30 shots)" satisfies the first condition "Machine gun fire” set in the first condition 15C1. Furthermore, the presence/absence of enemies “present” in the play environment 71B satisfies the second condition “enemies: present” set in the first condition 15C1. Furthermore, the distance "4m" to the enemy in the play environment 71B satisfies the third condition "distance to the enemy: within 5m” set in the first condition 15C1. Therefore, the player operation 71A and the play environment 71B satisfy the first condition 15C1 set in the condition storage section 15C.
  • the player operation 71A weapon operation "Machine gun fires continuously (11/30 shots)" satisfies the second condition 15C2 "Time to fire 11 to 13 machine gun shots after 10 shots”. Therefore, the player operation 71A and the play environment 71B satisfy the second condition 15C2 set in the condition storage section 15C.
  • the image selection unit 15B selects the hostile frame from among the original frame and the hostile frame, and selects the hostile frame. is output to the image transmission unit 14 .
  • FIG. 8 is a diagram showing an example of inserting a hostile frame.
  • FIG. 8 shows an excerpt of four frames of the play image selected in chronological order by the image selection unit 15B, and also shows the play situation including the player's operation and the play environment in association with each frame. .
  • one of the first conditions 15C1 is the player's weapon operation "machine gun firing (8/30 shots)" and the presence or absence of enemies in the play environment "yes". Satisfies the first and second conditions.
  • the distance "7m" to the enemy in the play environment does not satisfy the third condition of the first condition 15C1.
  • the play situation does not satisfy the first condition 15C1 in the first frame. Therefore, no hostile frame is inserted into the first frame, and the original frame is transmitted to the client terminal 30 .
  • the player's weapon operation "Machine gun is firing continuously (9/30 shots)" and the presence or absence of enemies in the play environment "Yes” are the first and second conditions 15C1. Satisfy the second condition.
  • the distance "6m” to the enemy in the play environment does not satisfy the third condition of the first condition 15C1.
  • the play situation does not satisfy the first condition 15C1 even in the second frame. Therefore, no hostile frame is inserted in the second frame, and the original frame is transmitted to the client terminal 30 .
  • the weapon operation of the player's operation "machine gun firing (10/30 shots)", the presence or absence of enemies in the play environment "yes", and the distance from the enemy in the play environment "5m”. satisfies all the conditions of the first condition 15C1. Therefore, the third frame serves as a trigger for inserting the hostile frame.
  • the machine gun fires the 10th shot in rapid succession, the condition of the 11th to 13th shots set in the second condition 15C2 is not satisfied. Therefore, the original frame is transmitted to the client terminal 30 without inserting the hostile frame into the third frame as well.
  • the weapon operation of the player operation "Machine gun fire (11/30 shots)"
  • the distance from the enemy in the play environment "4m” satisfies all the conditions of the first condition 15C1.
  • the 11th shot of the machine gun is fired continuously, so the condition of the 11th to 13th shots set in the second condition 15C2 is also satisfied.
  • the play situation satisfies both the first condition 15C1 and the second condition 15C2, so the hostile frame is inserted in the fourth frame and transmitted to the client terminal 30.
  • the play log acquisition unit 15D is a processing unit that acquires a play log.
  • the play log acquisition unit 15D acquires a play log from the client terminals 30 corresponding to each of the M players participating in each match in which an online game is played.
  • the above-mentioned “play log” may be data recorded in chronological order for a specific period of time, for example, from the start of the game to the end of the game.
  • a play may include all or part of a player's operation, the execution result of the player's operation, and a play environment.
  • player operations include keyboard, mouse, and controller operations.
  • execution results of player operations include hit rate, headshot probability, number of kills, and the like.
  • Examples of the play environment include battle time, enemy position coordinates, rapid fire intervals, weapons used, and the like.
  • FIG. 9 is a schematic diagram (1) showing an example of cheat tool detection.
  • FIG. 9 schematically shows the operations of the play log acquisition unit 15D and the feature extraction unit 15E, which are performed for each game of the game 1 and the game 2, as an example only. It should be noted that FIG. 9 shows an excerpt of the action for the play log of one player P among the M players participating in the games 1 and 2.
  • FIG. 9 shows an excerpt of the action for the play log of one player P among the M players participating in the games 1 and 2.
  • the play log acquisition unit 15D acquires the play log from the client terminal 30 corresponding to the player P for each game 1 and game 2. For example, taking the play log of Match 1 as an example, 8:00:30 on November 1, 2021, 8:05:20 on the same day, 8:05:21 on the same day, and 8:08 on the same day A play history is recorded every 10 seconds. That is, at 8:00:30 on November 1, 2021, the start of Match 1 was recorded, and at 8:05:20 and 8:05:21 on the same day, machine gun fire was recorded. . Furthermore, at 8:08:10 on the same day, a hit rate of 20% was recorded in the original frame of Match 1, and a hit rate of 0.1% was recorded in the hostile frame of Match 1. there is
  • the feature extraction unit 15E is a processing unit that extracts features of play in an online game.
  • the feature extraction unit 15E is a machine learning model 15FM that outputs an estimated value of "cheat degree” indicating the degree of suspicion of cheat tool use based on the play log of each online game match. Calculate the feature value to be input to .
  • the feature extraction unit 15E calculates the average hit rate in the original frames of game 1 by calculating the statistical value of the hit rate observed in the original frames of game 1, for example, the average value. Furthermore, the feature extraction unit 15E calculates the average hit rate in the hostile frames of game 1 by calculating the statistical value of the hit rate observed in the hostile frames of game 1, for example, the average value.
  • the shot count data it is possible to implement feature extraction that enables class classification based on whether or not a break or seam appears at the boundary between the original frame and the hostile frame.
  • the cheat degree calculation unit 15F is a processing unit that calculates the above cheat degree.
  • the cheat degree calculation unit 15F is implemented by a machine learning model 15FM that receives as input the play feature amount extracted by the feature extraction unit 15E and outputs the cheat degree.
  • FIG. 10 is a schematic diagram showing an example of cheat degree calculation.
  • the machine learning model 15FM contains the number of shots data in which the number of shots is associated with each frame of the game 1, the average hit rate in the original frame of the game 1, and the hostile An average hit rate in a frame is input.
  • the machine learning model 15FM to which such input data is input, outputs a cheat degree indicating the degree of suspicion of cheat tool usage.
  • the cheat degree may be a score whose value increases as the degree of suspicion of cheat tool usage increases.
  • the cheat degree may be a probability that the score is normalized between a certain numerical range, eg, 0-1.
  • a data set containing training data in which the number of shots data and the above two average hit rates are associated with correct labels.
  • Such a data set of training data may include only training data to which a correct label, for example, a degree of cheating near zero, that is not suspected of using a cheat tool is assigned. Therefore, it is not necessary to collect data on the number of shots when using cheats and the above two average hit rates as training data, which facilitates collection of training data sets for the machine learning model 15FM.
  • the number of shots data and the above two average hit rates are used as explanatory variables for the machine learning model 15FM
  • the label is used as the objective variable for the machine learning model M
  • any machine learning algorithm such as deep learning, is used.
  • a machine learning model 15FM can be trained. This results in a trained machine learning model 15FM.
  • the cheat degree calculated by the cheat degree calculation unit 15F in this way is accumulated for each player.
  • the cheat degree calculated by the cheat degree calculation unit 15F is further integrated with the cheat degree accumulated so far.
  • the cheat degree accumulated by accumulating for each match may be referred to as "accumulated cheat degree”.
  • the accumulated cheat degree accumulated in this manner is stored in the accumulated cheat degree storage unit 15G for each player.
  • FIG. 11 is a schematic diagram (2) showing an example of cheat tool detection.
  • FIG. 11 schematically shows, by way of example only, the storage contents of the accumulated cheat degree storage unit 15G and the operation contents of the cheat detection unit 15H, which are executed for each game of games 1 and 2. As shown in FIG. It should be noted that FIG. 11 shows an excerpt of the action for the play log of one player P among the M players participating in the games 1 and 2.
  • FIG. 11 shows an excerpt of the action for the play log of one player P among the M players participating in the games 1 and 2.
  • the cheat detection unit 15H is a processing unit that detects the use of cheat tools. As one embodiment, the cheat detection unit 15H determines whether or not the cumulative cheat degree stored in the cumulative cheat degree storage unit 15G exceeds a threshold Th. At this time, if the cumulative cheat degree exceeds the threshold Th, it is detected that the cheat tool has been used.
  • the accumulated cheat degree of player P is "C1", and since the accumulated cheat degree ⁇ threshold Th, the use of the cheat tool is not detected. Thereafter, at the end of game 2, the cumulative cheat degree of player P is "C3”, and cumulative cheat degree>threshold value Th, so use of the cheat tool is detected.
  • the cheat detection unit 15H can send arbitrary notifications to arbitrary output destinations.
  • the cheat detection unit 15H can output specific notifications such as players using cheat tools and accumulated cheat degrees to a computer under the control of the online game operator. It is not limited to such an external device, and can be output to a service or function that executes arbitrary backend processing in response to notification of a player, cheat degree, or the like.
  • FIG. 5 shows an example in which the function of the unauthorized tool judgment unit 15 corresponding to the judgment function described above is packaged in an online game service, but it is not limited to this. It does not necessarily have to be packaged with the online game service.
  • the unauthorized tool determination unit 15 may be provided as a service different from the online game service.
  • the unauthorized tool determination unit 15 may be implemented as a function of a library referenced by the online game service, such as an API (Application Programming Interface).
  • FIG. 12 is a flowchart showing the procedure of frame transmission processing. This process is performed for each period corresponding to the frame rate of the play image, as an example only.
  • a loop process 1 that repeats the process from step S101 to step S110 is executed a number of times corresponding to the number of matches K in which online games are played.
  • step S101 When the k-th match of the online game starts (step S101), the game progression unit 12 acquires operation information from the client terminals 30 corresponding to each of the M players participating in the k-th match (step S101). S102). Subsequently, the game progression unit 12 progresses the game state according to the operation information acquired for each player in step S102 (step S103).
  • loop processing 2 is executed to repeat the processing from step S104 to step S110 the number of times corresponding to the number M of players participating in the k-th game.
  • FIG. 12 shows an example in which the processing from step S104 to step S110 is implemented as loop processing 2, but the processing from step S104 to step S110 may be executed in parallel for each player.
  • step S104 the image generator 13 generates a play image of the player P according to the game state progressed in step S103 (step S104).
  • the image processing unit 15A converts the original frame of the play image generated in step S104 into a hostile frame in which humans cannot recognize the difference from the original and the image recognition AI can recognize the difference from the original. Process (step S105).
  • the image selection unit 15B determines whether or not the game play status of the player P satisfies the conditions stored in the condition storage unit 15C (step S106).
  • step S106 Yes if the play situation satisfies the condition stored in the condition storage unit 15C (step S106 Yes), the image selection unit 15B selects the hostile frame generated in step S105 (step S107).
  • step S106 No if the play situation does not satisfy the condition stored in the condition storage unit 15C (step S106 No), the image selection unit 15B selects the original frame generated in step S104 (step S108).
  • the image transmission unit 14 transmits the image selected in step S107 or step S108, that is, the original frame or hostile frame of the play image to the client terminal 30 of player P (step S109).
  • the original frame or the hostile frame of the play image selected in step S107 or step S108 can be transmitted to player P's client terminal 30 for each of the M players.
  • step S102 After that, the process from step S102 to step S109 is repeated until the k-th match is completed.
  • loop processing 1 it is possible to provide an online game service in which M players participate in a match from the first time to the Kth time.
  • FIG. 13 is a flow chart showing the procedure of the unauthorized tool determination processing.
  • this processing can be executed in response to a request from a terminal of a related person such as a person in charge of an online game operator, or it can be executed in real time every time an online game match ends. can also
  • loop processing 1 is executed to repeat the processing from step S301 to step S306 the number of times corresponding to the number of games K in which online games are played.
  • the play log acquisition unit 15D acquires play logs from the client terminals 30 corresponding to each of the M players participating in the k-th game (step S301).
  • loop processing 2 is executed to repeat the processing of steps S302 and S303 the number of times corresponding to the number M of players participating in the k-th game.
  • FIG. 13 shows an example in which the processes of steps S302 and S303 are implemented as loop process 2, but the processes of steps S302 and S303 may be executed in parallel for each player.
  • the feature extraction unit 15E inputs a feature value to the machine learning model 15FM that outputs an estimated value of "cheating degree” indicating the degree of suspicion of the use of a cheat tool based on the play log of the player P in the k-th game. is calculated (step S302).
  • the cheat degree calculation unit 15F inputs the feature amount of the player P calculated in step S302 to the machine learning model 15FM, and causes the machine learning model 15FM to output the cheat degree, thereby calculating the cheat degree of the player P. Calculate (step S303).
  • the cheat degree calculation unit 15F multiplies the accumulated cheat degree of the player P by the cheat degree calculated in step S303, among the accumulated cheat degrees stored in the accumulated cheat degree storage unit 15G, thereby calculating the accumulated cheat degree of the player P.
  • the cheat degree is updated (step S304).
  • the cheat detection unit 15H determines whether or not the cumulative cheat degree of the player P updated in step S304 exceeds the threshold Th (step S305).
  • the cheat detection unit 15H detects that a cheat tool has been used (step S306). If the accumulated cheat degree does not exceed the threshold value Th (No at step S305), use of the cheat tool is not detected.
  • the server device 10 according to the present embodiment inserts a hostile frame in which a human and an image recognition AI recognize different differences with respect to the original when transmitting a play image. Cheat detection based on play logs. Therefore, according to the server device 10 according to the present embodiment, it is possible to improve the accuracy of determining the use of fraudulent tools.
  • the machine learning model M is used to detect whether or not an unauthorized tool is being used.
  • other techniques may be used to detect whether or not an unauthorized tool is being used.
  • the cheat detection unit 15H can determine whether or not an unauthorized tool is used by comparing the play log or the feature amount extracted by the feature extraction unit 15E between the original frame and the hostile frame.
  • the cheat detection unit 15H can also determine whether or not a cheat tool is used based on whether or not there is continuity in the number of shots at the boundary between the original frame and the hostile frame. . More specifically, the cheat detection unit 15H detects use of a cheat tool when the difference between the number of shots of the hostile frame and the number of shots of the original frame adjacent to the hostile frame exceeds a threshold.
  • the original frame used for such detection may be the original frame preceding the hostile frame or the original frame following the hostile frame.
  • the cheat detection unit 15H determines whether or not a cheat tool is used based on whether the difference between the average hit rate in the original frame and the average hit rate in the hostile frame exceeds a threshold. You can also
  • each component of each illustrated device does not necessarily have to be physically configured as illustrated.
  • the specific form of distribution and integration of each device is not limited to the one shown in the figure, and all or part of them can be functionally or physically distributed and integrated in arbitrary units according to various loads and usage conditions. Can be integrated and configured.
  • the service providing unit 11 and the unauthorized tool determination unit 15 may be connected via a network as external devices of the server device 10 .
  • the function of the server device 10 may be realized by having the service providing unit 11 and the unauthorized tool determination unit 15 in separate devices, which are connected to a network and cooperate with each other.
  • FIG. 14 is a diagram showing a hardware configuration example.
  • the computer 100 has an operation section 110a, a speaker 110b, a camera 110c, a display 120, and a communication section . Furthermore, this computer 100 has a CPU 150 , a ROM 160 , an HDD 170 and a RAM 180 . Each part of these 110 to 180 is connected via a bus 140 .
  • the HDD 170 stores a determination program 170a that exhibits the same function as the unauthorized tool determination unit 15 shown in the first embodiment.
  • This judgment program 170a may be integrated or separated like each component of the unauthorized tool judgment unit 15 shown in FIG. That is, the HDD 170 does not necessarily store all the data shown in the first embodiment, and the HDD 170 only needs to store data used for processing.
  • the CPU 150 reads out the determination program 170a from the HDD 170 and expands it to the RAM 180.
  • the determination program 170a functions as a determination process 180a, as shown in FIG.
  • the determination process 180a deploys various data read from the HDD 170 in an area assigned to the determination process 180a among the storage areas of the RAM 180, and executes various processes using the deployed various data.
  • examples of processing executed by the determination process 180a include the processing shown in FIGS. 12 and 13.
  • FIG. Note that the CPU 150 does not necessarily have to operate all the processing units described in the first embodiment, as long as the processing units corresponding to the processes to be executed are virtually realized.
  • each program is stored in a “portable physical medium” such as a flexible disk inserted into the computer 100, so-called FD, CD-ROM, DVD disk, magneto-optical disk, IC card, or the like. Then, the computer 100 may acquire and execute each program from these portable physical media.
  • each program may be stored in another computer or server device connected to computer 100 via a public line, the Internet, LAN, WAN, etc., and computer 100 may obtain and execute each program from these. can be

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

判定方法では、第１の期間に表示デバイスに表示させる第１のゲーム画像と、プレイヤはオリジナルのゲーム画像に対する差を認識できず、かつ、不正ツールはオリジナルのゲーム画像に対する差を認識できる特徴を持ち、第１の期間と重複しない第２の期間に表示デバイスに表示させる第２のゲーム画像とを表示デバイスに送信し、第１の期間に応じた期間にゲーム端末に入力された第１の入力情報と、第２の期間に応じた期間にゲーム端末に入力された第２の入力情報とに基づき、プレイヤによる不正ツールの使用の有無を判定する、処理をコンピュータが実行する。

Description

判定方法、判定プログラム及び情報処理装置
　本発明は、判定技術に関する。
　e-sportsへの注目度が高まるのに伴ってコンピュータゲームの市場が拡大する一方で、コンピュータゲームの不正行為で用いられるソフトウェア、いわゆるチートツールの使用が問題となっている。
　例えば、画像認識ＡＩ（Artificial　Intelligence）を用いるチートツールの１つとして、シューティングゲームにおいて自動照準を実現するオートエイムと呼ばれるソフトウェアがある。このようなオートエイムの中には、キャプチャボードを介してゲーム映像を取り込むものも存在し、キャプチャボードを介して取り込まれたゲーム映像を解析して敵などのオブジェクトを認識して照準を合わせる操作をエミュレートする。このようにゲーム映像をキャプチャボードを介して取り込むオートエイムでは、ゲームファイルへのアクセスや書き換えが行われないので、検知が困難な側面がある。
　ゲームファイルへの書き換えが行われない場合、ゲーム端末を介するプレイヤ操作やその実行結果などのプレイログから命中率などのパラメータの異常値を異常動作として検知することにより、チートツールの検知が目指される。
特開２００９－８９７５７号公報
　しかしながら、上記の異常動作の検知では、不正ツールの使用の判定精度の向上が困難な一面がある。
　例えば、ゲームファイルにアクセスしないタイプのオートエイムの中には、命中率などのパラメータの設定が可能であるタイプのものも存在する。このようなタイプのオートエイムでは、パラメータを極端な外れ値が観測されない範囲に調整できる。それ故、上記の異常動作の検知では、プレイログで観測される、上級者の正常動作パラメータとオートエイムによるパラメータの識別が困難であるので、上級者とチートツールとの区別に失敗するおそれがある。
　１つの側面では、不正ツールの使用の判定精度の向上を実現できる判定方法、判定プログラム及び情報処理装置を提供することを目的とする。
　一態様の判定方法では、ゲームのプレイヤによる不正ツールの使用の有無を判定する判定方法において、第１の期間に表示デバイスに表示させる第１のゲーム画像と、前記プレイヤはオリジナルのゲーム画像に対する差を認識できず、かつ、前記不正ツールは前記オリジナルのゲーム画像に対する差を認識できる特徴を持ち、前記第１の期間と重複しない第２の期間に前記表示デバイスに表示させる第２のゲーム画像とを前記表示デバイスに送信し、前記第１の期間に応じた期間にゲーム端末に入力された第１の入力情報と、前記第２の期間に応じた期間に前記ゲーム端末に入力された第２の入力情報とに基づき、前記プレイヤによる前記不正ツールの使用の有無を判定する、処理をコンピュータが実行する。
　一実施形態によれば、不正ツールの使用の判定精度の向上を実現できる。
図１は、ゲームシステムの構成例を示す図である。 図２は、オリジナルフレームの認識結果を示す模式図である。 図３は、敵対的フレームの認識結果を示す模式図である。 図４は、不正ツール検知の一例を示す模式図である。 図５は、サーバ装置の機能構成例を示すブロック図である。 図６は、敵対的フレームの生成例を示す模式図である。 図７は、画像選択部の動作例を示す模式図である。 図８は、敵対的フレームの挿入例を示す図である。 図９は、チートツールの検知例を示す模式図（１）である。 図１０は、チート度の算出例を示す模式図である。 図１１は、チートツールの検知例を示す模式図（２）である。 図１２は、フレーム送信処理の手順を示すフローチャートである。 図１３は、不正ツール判定処理の手順を示すフローチャートである。 図１４は、ハードウェア構成例を示す図である。
　以下、添付図面を参照して本願に係る判定方法、判定プログラム及び情報処理装置の実施例について説明する。各実施例には、あくまで１つの例や側面を示すに過ぎず、このような例示により数値や機能の範囲、利用シーンなどは限定されない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
＜システム構成＞
　図１は、ゲームシステムの構成例を示す図である。図１には、あくまで一例として、オンラインゲームサービスを提供するゲームシステム１を例示するが、コンピュータゲームの種類はオンラインゲームに限定されず、オフラインゲームであってもよい。
　図１に示すように、ゲームシステム１は、サーバ装置１０と、クライアント端末３０Ａ～３０Ｎとが含まれ得る。以下、クライアント端末３０Ａ～３０Ｎの個体を区別せずともよい場合、クライアント端末３０Ａ～３０Ｎのことを「クライアント端末３０」と記載する場合がある。
　これらサーバ装置１０及びクライアント端末３０の間は、ネットワークＮＷを介して通信可能に接続される。例えば、ネットワークＮＷは、有線または無線を問わず、インターネットやＬＡＮ（Local　Area　Network）などの任意の種類の通信網であってよい。
　サーバ装置１０は、上記のオンラインゲームサービスを提供するコンピュータの一例である。一実施形態として、サーバ装置１０は、上記のオンラインゲームサービスを実現するソフトウェアを任意のコンピュータに実行させることにより、上記のオンラインゲームサービスを提供できる。例えば、サーバ装置１０は、上記のオンラインゲームサービスをオンプレミスに提供するサーバとして実現できる。この他、サーバ装置１０は、ＰａａＳ（Platform　as　a　Service）型、あるいはＳａａＳ（Software　as　a　Service）型のアプリケーションとして実現することで、上記のオンラインゲームサービスをクラウドサービスとして提供することもできる。なお、サーバ装置１０は、情報処理装置の一例に対応し得る。
　クライアント端末３０は、上記のオンラインゲームサービスの提供を受ける端末装置である。クライアント端末３０は、コンピュータゲームのプラットフォームとして用いられる。プラットフォームは、特定の種類に限定されない。例えば、クライアント端末３０は、アーケードゲーム機、コンシューマゲーム機、これら専用のハードウェアに限らず、汎用のパーソナルコンピュータや携帯端末装置などにより実現されてよい。なお、クライアント端末３０は、ゲーム端末の一例に対応し得る。
＜コンピュータゲームのジャンルの例示＞
　上記のオンラインゲームサービスで提供されるコンピュータゲームは、任意のジャンルであってよい。例えば、シューティング、リアルタイムストラテジ、マルチプレイオンラインバトルアリーナ、格闘ゲーム、スポーツゲーム、レーシングゲーム、パズルゲームなどであってよい。
　以下、ジャンルのあくまで一例として、Ｍ人のプレイヤが操作するキャラクタがマップなどの仮想空間上で対戦する一人称視点のシューティングゲーム、いわゆるＦＰＳ（First-Person　Shooter）を例に挙げて説明を行う。なお、一人称視点は、あくまで例示で挙げるに過ぎず、当然のことながら三人称視点のシューティングゲーム、いわゆるＴＰＳ（Third-Person　Shooter）であってもよい。
＜課題の一側面＞
　コンピュータゲームの市場では、不正ツールの使用への対策が求められるが、上記の背景技術の欄で説明した通り、上記の異常動作の検知では、不正ツールの使用の判定精度の向上が困難な一面がある。
　例えば、画像認識ＡＩを用いるチートツールの１つとして、シューティングゲームにおいて自動照準を実現するオートエイムを例に挙げる。このようなオートエイムの中には、キャプチャボードを介してゲーム映像を取り込むものも存在し、キャプチャボードを介して取り込まれたゲーム映像を解析して敵などのオブジェクトを認識して照準を合わせる操作をエミュレートする。このようにゲーム映像をキャプチャボードを介して取り込むオートエイムでは、ゲームファイルへのアクセスや書き換えが行われないので、検知が困難な側面がある。
　さらに、ゲームファイルにアクセスしないタイプのオートエイムの中には、あくまで１つの側面として、命中率などのパラメータの設定が可能であるタイプのものも存在する。このようなタイプのオートエイムでは、パラメータを極端な外れ値が観測されない範囲に調整できる。それ故、上記の異常動作の検知では、プレイログで観測される、上級者の正常動作パラメータとオートエイムによるパラメータの識別が困難であるので、上級者とチートツールとの区別に失敗するおそれがある。
＜課題解決アプローチの一側面＞
　そこで、本実施例に係るオンラインゲームサービスには、チートツールのプレイログに特異性を持たせることで上級者とチートツールを区別して判定する判定機能がアドオンされる。すなわち、上記の判定機能は、プレイ画像の送信時に人間と画像認識ＡＩの間でオリジナルに対する差の認識が異なる敵対的フレームを挿入し、オリジナルフレーム及び敵対的フレームのプレイログに基づいてチート検知する。
　図２は、オリジナルフレームの認識結果を示す模式図である。図３は、敵対的フレームの認識結果を示す模式図である。図２及び図３には、あくまで一例として、一人称視点のシューティングゲームで表示されるプレイ画像のうち対象物の一例である敵が移動する様子が模式化された３つのフレームが抜粋して示されている。さらに、図２には、３つのフレームの全てがオリジナルフレームである例が示される。一方で、図３には、３つのフレームのうち２フレーム目に人がプレイ画像中の対象物を認識可能で画像認識ＡＩがプレイ画像中の対象物を誤認識する敵対的フレームが挿入される例が示されている。
　図２に示すように、３つのフレームの全てがオリジナルフレームである場合、プレイヤおよび画像認識ＡＩのいずれもが全てのフレームから対象物、例えば敵を認識できる。このため、プレイヤが上級者である場合、プレイヤと、画像認識ＡＩを用いるオートエイムとの間で操作やその実行結果に差が現れにくい。
　一方、図３に示すように、３つのフレームのうち２フレーム目に敵対的フレームが挿入される場合、プレイヤは全てのフレームから対象物を認識できるが、画像認識ＡＩは敵対的フレームが挿入された２フレームから敵を認識できない。この場合、プレイヤとオートエイムの間で２フレーム目の操作やその実行結果に差が現れる。すなわち、オートエイムでは、２フレーム目の敵が認識されないので、敵から照準が外れる結果、射撃が中断されたり、射撃が中断されずとも敵に照準が合わずに命中しなかったりといった影響が現れ得る。
　このことから、プレイ画像の送信時に敵対的フレームを挿入することにより、敵対的フレームにおけるチートツールのプレイログに特異性を持たせることができることが明らかである。
　図４は、不正ツール検知の一例を示す模式図である。図４には、あくまで一例として、不正ツールの使用の有無の検知が機械学習モデルにより実現される例が示されている。図４に示すように、不正ツール検知には、プレイログを入力としてチート使用またはチート不使用のラベルを出力する機械学習モデルｍを用いることができる。
　機械学習モデルｍの訓練には、プレイログおよび正解ラベルが対応付けられた訓練データを含むデータセットＴＲを用いることができる。例えば、プレイログは、プレイ、例えばプレイヤ操作やプレイヤ操作の実行結果などが時系列に記録されるデータであってよい。
　このような訓練データのデータセットＴＲには、チート不使用の正解ラベルが付与された訓練データのみが含まれていてもよい。このため、チート使用のプレイログを訓練データとして必ずしも収集せずともよいので、機械学習モデルｍの訓練データのデータセットＴＲの収集を容易化できる。
　例えば、学習フェイズでは、プレイログを機械学習モデルｍの説明変数とし、ラベルを機械学習モデルｍの目的変数とし、任意の機械学習のアルゴリズム、例えばディープラーニングなどにしたがって機械学習モデルｍを訓練できる。これにより、訓練済みの機械学習モデルＭが得られる。
　推論フェイズでは、オリジナルフレームおよび敵対的フレームを含むプレイログ４０を機械学習モデルＭへ入力する。このように機械学習モデルＭへ入力されるプレイログ４０には、敵対的フレームにおけるチートツールのプレイログに特異性が持たせられている。それ故、機械学習モデルＭは、上級者とチートツールとを区別してチート使用またはチート不使用のラベルを出力できる。
　したがって、上記の判定機能によれば、不正ツールの使用の判定精度の向上を実現できる。さらに、不正ツールの使用を判定する検証用のプレイヤ操作の追加が不要である。加えて、不正ツールの使用の判定をプレイヤに気づかれずにバックグラウンドで実施することができる。このような技術的効果以外にも、不正ツールの使用の判定精度の向上が実現することで、ゲームタイトルの信頼性を向上させ、もってユーザ離れの抑制、並びに、ゲーム開発企業の損失低減を実現できる。
＜サーバ装置１０の構成＞
　次に、本実施例に係る判定機能を有するサーバ装置１０の機能構成例について説明する。図５は、サーバ装置１０の機能構成例を示すブロック図である。図５には、上記の判定機能がアドオンされたオンラインゲームサービスに対応する機能のブロックが模式化されている。
　図５に示すように、サーバ装置１０は、サービス提供部１１を有する。サービス提供部１１は、ハードウェアプロセッサにより実現される。例えば、ハードウェアプロセッサの例として、ＣＰＵ（Central　Processing　Unit）やＭＰＵ（Micro　Processing　Unit）、ＧＰＵ（Graphics　Processing　Unit）、ＧＰＧＰＵ（General-Purpose　computing　on　GPU）が挙げられる。プロセッサは、図示しないストレージ、例えばＨＤＤ（Hard　Disk　Drive）、光ディスクやＳＳＤ（Solid　State　Drive）などからＯＳ（Operating　System）の他、上記のオンラインゲームサービスを実現するアプリケーションプログラムなどを読み出す。その上で、プロセッサは、上記のアプリケーションプログラムを実行することにより、ＲＡＭ（Random　Access　Memory）等のメモリ上にサービス提供部１１に対応するプロセスを展開する。このように、上記のアプリケーションプログラムが実行される結果、サービス提供部１１がプロセスとして仮想的に実現される。この他、サービス提供部１１は、ＡＳＩＣ（Application　Specific　Integrated　Circuit）やＦＰＧＡ（Field　Programmable　Gate　Array）などのハードワイヤードロジックにより実現されてもよい。
　サービス提供部１１は、上記のオンラインゲームサービスを提供する処理部である。サービス提供部１１は、図５に示すように、ゲーム進行部１２と、画像生成部１３と、画像送信部１４と、不正ツール判定部１５とを有する。
　ゲーム進行部１２は、オンラインゲームのゲーム状態を進行する処理部である。ここで言う「ゲーム状態」とは、プレイヤが操作するキャラクタや装備の状態の他、プレイヤが対戦する仮想空間、例えばマップの状態を指す。例えば、キャラクタの状態には、キャラクタの位置や姿勢、視点方向、ステータス、成績などが含まれ得る。また、装備の状態には、装備中の武器の種類などが含まれ得る。例えば、ゲーム進行部１２は、プレイ画像のフレームレートに対応する周期ごとに、クライアント端末３０から取得される操作情報に従ってゲーム状態を更新する。これにより、マップ上に配置されたキャラクタの位置や姿勢、視点方向、ステータスや成績が最新の値に更新される結果、オンラインゲームのゲーム状態が進行する。
　画像生成部１３は、プレイ画像を生成する処理部である。あくまで一例として、画像生成部１３は、オンラインゲームの対戦に参加するＭ人のプレイヤごとにゲーム進行部１２により進行されたゲーム状態に応じてプレイ画像を生成する。例えば、画像生成部１３は、マップやマップ上に配置されたキャラクタのうち、プレイヤ本人のキャラクタの視点方向に対応する画角に含まれるマップおよびマップ上のキャラクタをレンダリングする。さらに、画像生成部１３は、ゲーム進行部１２により更新されたキャラクタのステータスや成績に応じてゲージやアイコンなどの各種の表示を更新する。これにより、あくまで一例として、コンピュータグラフィックスなどにより実現されるプレイ画像を生成できる。
　画像送信部１４は、プレイ画像を送信する処理部である。あくまで一例として、画像送信部１４は、Ｍ人のプレイヤの各々に対応するクライアント端末３０ごとに、後述の画像選択部１５Ｂにより選択される画像、すなわちプレイ画像のオリジナルフレームまたは敵対的フレームを送信する。
　不正ツール判定部１５は、上記の判定機能、すなわち不正ツールの使用の有無を判定する機能を提供する処理部である。不正ツール判定部１５は、図５に示すように、画像加工部１５Ａと、画像選択部１５Ｂと、条件記憶部１５Ｃと、プレイログ取得部１５Ｄと、特徴抽出部１５Ｅと、チート度算出部１５Ｆと、累積チート度記憶部１５Ｇと、チート検知部１５Ｈとを有する。
　画像加工部１５Ａは、プレイ画像を加工する処理部である。一実施形態として、画像加工部１５Ａは、画像生成部１３により生成されたプレイ画像のオリジナルフレームを、人がオリジナルに対する差を認識不能であり、かつ画像認識ＡＩがオリジナルに対する差を認識可能である敵対的フレームに加工する。
　このような加工は、あくまで一例として、プレイ画像のオリジナルフレームを、人がプレイ画像中の対象物を認識可能とし、かつ画像認識ＡＩがプレイ画像中の対象物を認識不能とすることにより実現される。
　ここで、上記の加工には、あくまで一例として、いわゆる敵対的サンプルを生成する技術全般を適用できる。このような技術の１つとして、ＦＧＳＭ（Fast　Gradient　Sign　Method）を例に挙げる。
　図６は、敵対的フレームの生成例を示す模式図である。図６には、チートツールが利用する画像認識ＡＩの例として、画像認識タスクの１つである物体検出などを実現する機械学習モデル６Ｍが例示されている。
　このようなタスクの機械学習モデル６Ｍは、ＹＯＬＯ（You　Only　Look　Once）やＲ－ＣＮＮ（Regions　with　CNN　features）、ＳＳＤ（Single　Shot　MultiBox　Detector）などにより実現されてよい。
　図６に示すように、ＦＧＳＭでは、機械学習モデル６Ｍへの入力データであるプレイ画像のオリジナルフレーム６０に摂動６１を加えることにより、プレイ画像の敵対的フレーム６２を生成する。
　摂動６１は、機械学習モデル６Ｍへの入力データ、例えば画像のピクセルの値に与える変化である。例えば、ＦＧＳＭでは、機械学習モデル６Ｍへの入力データの正解ラベルと機械学習モデル６Ｍの出力との損失を最大化させる入力データの変化を最小化する問題を定式化することにより、摂動６１を得ることができる。なお、図６に示す摂動６１は、あくまで模式的に示す例であって必ずしも入力データである画像の全てのピクセルの値に変化を与える必要はない。
　このような摂動６１をプレイ画像のオリジナルフレーム６０に加えることにより、図６に示すように、機械学習モデル６Ｍには対象物を誤認識させると共に、人間には対象物、例えば敵キャラクタなどを認識可能とする敵対的フレーム６２を得ることができる。
　例えば、図６には、プレイ画像のオリジナルフレーム６０及び敵対的フレーム６２の各々が機械学習モデル６Ｍへ入力される場合の出力結果として、クラスが“person”であるオブジェクトのバウンディングボックスのみが抜粋して示されている。
　図６に示すように、プレイ画像のオリジナルフレーム６０が機械学習モデル６Ｍへ入力される場合、敵キャラクタのオブジェクトのクラス分類が成功する。この場合、機械学習モデル６Ｍの出力として、敵キャラクタのオブジェクトが“person”のクラスに分類されたバウンディングボックスＢＢ１が得られる。
　一方、プレイ画像の敵対的フレーム６２が機械学習モデル６Ｍへ入力される場合、敵キャラクタのオブジェクトのクラス分類が失敗する。この場合、機械学習モデル６Ｍの出力として、敵キャラクタのオブジェクトが“person”のクラスに分類されたバウンディングボックスは得られない。
　なお、図６では、プレイ画像のオリジナルフレームを、人がプレイ画像中の対象物を認識可能とし、かつ画像認識ＡＩがプレイ画像中の対象物を認識不能とする敵対的フレームが生成される例を挙げたが、敵対的フレームの生成方法はこれに限定されない。
　例えば、短時間、例えば人が意識または潜在意識の下で認識できない程度の時間の間にプレイ画像のオリジナルフレームとは異なる内容、例えばプレイ画像と無関係な内容のフレームを敵対的フレームとして挿入することもできる。この場合、画像認識ＡＩは、先行及び後続のオリジナルフレームの間に挿入される敵対的フレームを認識できるので、敵対的フレームでプレイログの切れ目や継ぎ目が発生する。その一方で、プレイヤは、先行及び後続のオリジナルフレームの間に挿入される敵対的フレームを認識できないので、敵対的フレームでプレイログの切れ目や継ぎ目が発生しない。
　図５の説明に戻り、画像選択部１５Ｂは、プレイ画像のオリジナルフレーム及びプレイ画像の敵対的フレームのうちいずれかの画像を選択する処理部である。一実施形態として、画像選択部１５Ｂは、Ｍ人のプレイヤの各々に対応するクライアント端末３０ごとに、当該プレイヤによるゲームのプレイ状況が条件記憶部１５Ｃに記憶された条件を満たすか否かにより、オリジナルフレームまたは敵対的フレームを選択する。
　図７は、画像選択部１５Ｂの動作例を示す模式図である。図７には、あくまで１つの側面として、画像選択部１５Ｂがオリジナルフレーム及び敵対的フレームのうち敵対的フレームを選択する場面が例示されている。
　図７に示すように、プレイ状況７１には、プレイヤ操作７１Ａおよびプレイ環境７１Ｂが含まれ得る。例えば、プレイヤ操作７１Ａには、キャラクタ状態や武器操作などが含まれ得る。また、プレイ環境７１Ｂには、装備中の武器や敵の有無、敵との距離などが含まれ得る。
　他方、条件記憶部１５Ｃには、プレイ状況と照合する条件の例として、敵対的フレームを挿入するトリガーを指定する第１の条件１５Ｃ１と、敵対的フレームの挿入を開始するタイミングを指定する第２の条件１５Ｃ２との設定が記憶される。
　例えば、第１の条件１５Ｃ１には、チートツール、例えばオートエイムの画像認識ＡＩが有効に機能するプレイ状況で敵対的フレームを挿入する側面から、人間が高確率で射撃を行うプレイ状況が設定される。
　また、第２の条件１５Ｃ２には、チートツールを使用する人間が気付くのが困難であるタイミングで敵対的フレームの挿入を開始する側面から、オリジナルフレームにおける射撃成功に敵対的フレームにおける射撃失敗が紛れるタイミングが設定される。
　これら第１の条件１５Ｃ１および第２の条件１５Ｃ２の設定の下、画像選択部１５Ｂは、現在のフレームのプレイ状況７１が第１の条件１５Ｃ１および第２の条件１５Ｃ２を満たすか否かを判定する。
　図７に示す例で言えば、プレイヤ操作７１Ａの武器操作「マシンガン連射中（１１／３０発）」が第１の条件１５Ｃ１に設定された１つ目の条件「マシンガン連射中」を満たす。さらに、プレイ環境７１Ｂの敵の有無「有」が第１の条件１５Ｃ１に設定された２つ目の条件「敵：有り」を満たす。さらに、プレイ環境７１Ｂの敵との距離「４ｍ」が第１の条件１５Ｃ１に設定された３つ目の条件「敵との距離：５ｍ以内」を満たす。よって、プレイヤ操作７１Ａおよびプレイ環境７１Ｂは、条件記憶部１５Ｃに設定された第１の条件１５Ｃ１を満たす。
　さらに、プレイヤ操作７１Ａの武器操作「マシンガン連射中（１１／３０発）」が第２の条件１５Ｃ２に設定された条件「マシンガンを１０発連射後、１１～１３発射撃するタイミング」を満たす。よって、プレイヤ操作７１Ａおよびプレイ環境７１Ｂは、条件記憶部１５Ｃに設定された第２の条件１５Ｃ２を満たす。
　このようにプレイ状況７１が第１の条件１５Ｃ１および第２の条件１５Ｃ２を満たす場合、画像選択部１５Ｂは、オリジナルフレームおよび敵対的フレームのうち敵対的フレームを選択し、該選択された敵対的フレームを画像送信部１４へ出力する。
　図８は、敵対的フレームの挿入例を示す図である。図８には、画像選択部１５Ｂにより時系列に選択されたプレイ画像の４つのフレームが抜粋して示されると共に、各フレームに対応付けてプレイヤ操作およびプレイ環境を含むプレイ状況が示されている。
　例えば、図８に示す１フレーム目の例で言えば、プレイヤ操作の武器操作「マシンガン連射中（８／３０発）」およびプレイ環境の敵の有無「有」が第１の条件１５Ｃ１の１つ目および２つ目の条件を満たす。その一方で、プレイ環境の敵との距離「７ｍ」が第１の条件１５Ｃ１の３つ目の条件を満たさない。このように、１フレーム目では、プレイ状況が第１の条件１５Ｃ１を満たさない。このため、１フレーム目には、敵対的フレームは挿入されず、オリジナルフレームがクライアント端末３０へ送信される。
　図８に示す２フレーム目の例で言えば、プレイヤ操作の武器操作「マシンガン連射中（９／３０発）」およびプレイ環境の敵の有無「有」が第１の条件１５Ｃ１の１つ目および２つ目の条件を満たす。その一方で、プレイ環境の敵との距離「６ｍ」が第１の条件１５Ｃ１の３つ目の条件を満たさない。このように、２フレーム目でも、プレイ状況が第１の条件１５Ｃ１を満たさない。よって、２フレーム目には、敵対的フレームは挿入されず、オリジナルフレームがクライアント端末３０へ送信される。
　図８に示す３フレーム目の例で言えば、プレイヤ操作の武器操作「マシンガン連射中（１０／３０発）」、プレイ環境の敵の有無「有」およびプレイ環境の敵との距離「５ｍ」が第１の条件１５Ｃ１の全ての条件を満たす。このため、３フレーム目が敵対的フレームを挿入するトリガーとなる。その一方で、３フレーム目では、マシンガンの連射が１０発目であるので、第２の条件１５Ｃ２に設定された１１発目～１３発目という条件は満たさない。このため、３フレーム目にも、敵対的フレームは挿入されず、オリジナルフレームがクライアント端末３０へ送信される。
　図８に示す４フレーム目の例で言えば、プレイヤ操作の武器操作「マシンガン連射中（１１／３０発）」、プレイ環境の敵の有無「有」およびプレイ環境の敵との距離「４ｍ」が第１の条件１５Ｃ１の全ての条件を満たす。さらに、４フレーム目では、マシンガンの連射が１１発目であるので、第２の条件１５Ｃ２に設定された１１発目～１３発目という条件も満たす。このように、４フレーム目では、プレイ状況が第１の条件１５Ｃ１および第２の条件１５Ｃ２の両方を満たすので、４フレーム目には、敵対的フレームが挿入されてクライアント端末３０へ送信される。
　図５の説明に戻り、プレイログ取得部１５Ｄは、プレイログを取得する処理部である。一実施形態として、プレイログ取得部１５Ｄは、オンラインゲームの対戦が実施される試合ごとに当該試合に参加するＭ人のプレイヤの各々に対応するクライアント端末３０からプレイログを取得する。
　ここで、上記の「プレイログ」は、あくまで一例として、特定の期間、例えば試合開始から試合終了までのプレイが時系列に記録されたデータであってよい。プレイには、プレイヤ操作、プレイヤ操作の実行結果およびプレイ環境の全部または一部が含まれてよい。例えば、プレイヤ操作の例として、キーボードやマウス、コントローラなどの操作が挙げられる。プレイヤ操作の実行結果の例として、命中率やヘッドショット確率、キル数などが挙げられる。プレイ環境の例として、対戦時間や敵の位置座標、連射間隔、使用武器などが挙げられる。
　図９は、チートツールの検知例を示す模式図（１）である。図９には、あくまで一例として、試合１および試合２の試合単位で実行されるプレイログ取得部１５Ｄおよび特徴抽出部１５Ｅの動作が模式化されて示されている。なお、図９には、試合１および試合２に参加するＭ名のプレイヤのうちある１名のプレイヤＰに関するプレイログに対する動作が抜粋して示されていることとする。
　図９に示すように、プレイログ取得部１５Ｄは、試合１および試合２ごとにプレイヤＰに対応するクライアント端末３０からプレイログを取得する。例えば、試合１のプレイログを例に挙げれば、２０２１年１１月１日８時００分３０秒、同日の８時０５分２０秒、同日の８時０５分２１秒および同日の８時０８分１０秒の時刻ごとにプレイの履歴が記録されている。すなわち、２０２１年１１月１日８時００分３０秒には、試合１の開始が記録され、同日の８時０５分２０秒および８時０５分２１秒には、マシンガン射撃が記録されている。さらに、同日の８時０８分１０秒には、試合１のオリジナルフレームにおける成績として命中率２０％が記録されると共に、試合１の敵対的フレームにおける成績として命中率０．１％が記録されている。
　図５の説明に戻り、特徴抽出部１５Ｅは、オンラインゲームにおけるプレイの特徴を抽出する処理部である。一実施形態として、特徴抽出部１５Ｅは、オンラインゲームの試合ごとに、当該試合のプレイログに基づいてチートツールの使用が疑われる度合いを示す「チート度」の推定値を出力する機械学習モデル１５ＦＭに入力する特徴量を算出する。
　図９に示す試合１のプレイログを例に挙げれば、特徴抽出部１５Ｅは、試合１のプレイログを用いて、試合１の開始から試合１の終了までのフレームごとに当該フレームにおける射撃回数が対応付けられた射撃回数データを算出する。
　また、特徴抽出部１５Ｅは、試合１のオリジナルフレームで観測された命中率の統計値、例えば平均値を計算することにより、試合１のオリジナルフレームにおける平均命中率を算出する。さらに、特徴抽出部１５Ｅは、試合１の敵対的フレームで観測された命中率の統計値、例えば平均値を計算することにより、試合１の敵対的フレームにおける平均命中率を算出する。
　これらの特徴抽出は、クライアント端末３０でプレイ画像の敵対的フレームが表示される期間にチートツールの画像認識ＡＩが敵キャラクタを認識できないことから、オリジナルフレームおよび敵対的フレームの境界で射撃が途切れる点に基づいている。
　このため、射撃回数データによれば、オリジナルフレームおよび敵対的フレームの境界で切れ目や継ぎ目が現れるか否かによりクラス分類が可能な特徴抽出を実現できる。
　さらに、上記２つの平均命中率によれば、オリジナルフレームにおける平均命中率が敵対的フレームにおける平均命中率に比べて十分に大きいか否かによりクラス分類が可能な特徴抽出を実現できる。
　図５の説明に戻り、チート度算出部１５Ｆは、上記のチート度を算出する処理部である。一実施形態として、チート度算出部１５Ｆは、特徴抽出部１５Ｅにより抽出されたプレイの特徴量を入力としてチート度を出力する機械学習モデル１５ＦＭにより実現される。
　図１０は、チート度の算出例を示す模式図である。図１０に示すように、機械学習モデル１５ＦＭには、試合１のフレームごとに射撃回数が対応付けられた射撃回数データ射撃回数データと、試合１のオリジナルフレームにおける平均命中率および試合１の敵対的フレームにおける平均命中率とが入力される。
　このような入力データが入力された機械学習モデル１５ＦＭは、チートツールの使用が疑われる度合いを示すチート度を出力する。あくまで一例として、チート度は、チートツールの使用が疑われる度合いが大きくなるに従って値が大きくなるスコアであってよい。また、チート度は、スコアが特定の数値範囲、例えば０～１の間に正規化された確率であってもよい。
　機械学習モデル１５ＦＭの訓練には、射撃回数データおよび上記２つの平均命中率と、正解ラベルとが対応付けられた訓練データを含むデータセットを用いることができる。このような訓練データのデータセットには、チートツールの使用が疑われない正解ラベル、例えばゼロ付近のチート度が付与された訓練データのみが含まれていてもよい。このため、チート使用時の射撃回数データおよび上記２つの平均命中率を訓練データとして収集せずともよいので、機械学習モデル１５ＦＭの訓練データのデータセットの収集を容易化できる。
　例えば、機械学習時には、射撃回数データおよび上記２つの平均命中率を機械学習モデル１５ＦＭの説明変数とし、ラベルを機械学習モデルＭの目的変数とし、任意の機械学習のアルゴリズム、例えばディープラーニングなどにしたがって機械学習モデル１５ＦＭを訓練できる。これにより、訓練済みの機械学習モデル１５ＦＭが得られる。
　このようにチート度算出部１５Ｆにより算出されたチート度は、プレイヤごとに積算される。例えば、チート度算出部１５Ｆにより算出されたチート度は、これまでに累積されていたチート度にさらに積算される。以下、試合単位で積算されることにより累積するチート度のことを「累積チート度」と記載する場合がある。このように積算された累積チート度は、プレイヤごとに累積チート度記憶部１５Ｇに保存される。
　図１１は、チートツールの検知例を示す模式図（２）である。図１１には、あくまで一例として、試合１および試合２の試合単位で実行される累積チート度記憶部１５Ｇの記憶内容およびチート検知部１５Ｈの動作内容が模式化されて示されている。なお、図１１には、試合１および試合２に参加するＭ名のプレイヤのうちある１名のプレイヤＰに関するプレイログに対する動作が抜粋して示されていることとする。
　図１１に示すように、試合１の終了時には、プレイヤＰの試合１のチート度Ｃ１が算出される。それに伴って、プレイヤＰの試合１のチート度Ｃ１は、プレイヤＰの試合１の開始前までの累積チート度「０」に積算される。これにより、プレイヤＰの累積チート度は、試合１の終了時に「Ｃ１（＝０＋Ｃ１）」へ更新される。その後、試合２の終了時には、プレイヤＰの試合１のチート度Ｃ２が算出される。それに伴って、プレイヤＰの試合２のチート度Ｃ２は、プレイヤＰの試合２の開始前までの累積チート度「Ｃ１」に積算される。これにより、プレイヤＰの累積チート度は、試合２の終了時に「Ｃ３（＝Ｃ１＋Ｃ２）」へ更新される。
　図５の説明に戻り、チート検知部１５Ｈは、チートツールの使用を検知する処理部である。一実施形態として、チート検知部１５Ｈは、累積チート度記憶部１５Ｇに記憶された累積チート度が閾値Ｔｈを超えるか否かを判定する。このとき、累積チート度が閾値Ｔｈを超える場合、チートツールが使用されたことを検知する。
　図１１に示す例で言えば、試合１の終了時では、プレイヤＰの累積チート度は「Ｃ１」であり、累積チート度＜閾値Ｔｈであるので、チートツールの使用は検知されない。その後、試合２の終了時には、プレイヤＰの累積チート度は「Ｃ３」となり、累積チート度＞閾値Ｔｈとなるので、チートツールの使用が検知される。
　このようにチートツールの使用が検知された場合、チート検知部１５Ｈは、任意の通知を任意の出力先に実行することができる。例えば、チート検知部１５Ｈは、特定の通知、例えばチートツールを使用するプレイヤや累積チート度などをオンラインゲームの運営事業者の管理下にあるコンピュータに出力できる。このような外部装置に限らず、プレイヤやチート度などの通知に応じて任意のバックエンドの処理を実行するサービスや機能へ出力することができる。
　なお、図５には、上記の判定機能に対応する不正ツール判定部１５の機能がオンラインゲームサービスにパッケージ化される例を挙げたがこれに限定されず、不正ツール判定部１５の機能は、必ずしもオンラインゲームサービスにパッケージ化されずともよい。例えば、不正ツール判定部１５は、オンラインゲームサービスと異なるサービスとして提供されてもよい。この他、不正ツール判定部１５は、オンラインゲームサービスに参照されるライブラリの機能、例えばＡＰＩ（Application　Programming　Interface）として実現されてもよい。
＜処理の流れ＞
　次に、本実施例に係るサーバ装置１０の処理の流れについて説明する。ここでは、サーバ装置１０により実行される（１）フレーム送信処理を説明した後に、（２）不正ツール判定処理を説明することとする。
（１）フレーム送信処理
　図１２は、フレーム送信処理の手順を示すフローチャートである。この処理は、あくまで一例として、プレイ画像のフレームレートに対応する周期ごとに実行される。
　図１２に示すように、オンラインゲームの対戦が実施される試合数Ｋに対応する回数の分、ステップＳ１０１からステップＳ１１０までの処理を繰り返すループ処理１が実行される。
　オンラインゲームのｋ回目の試合が開始されると（ステップＳ１０１）、ゲーム進行部１２は、ｋ回目の試合に参加するＭ人のプレイヤの各々に対応するクライアント端末３０から操作情報を取得する（ステップＳ１０２）。続いて、ゲーム進行部１２は、ステップＳ１０２でプレイヤごとに取得された操作情報に従ってゲーム状態を進行する（ステップＳ１０３）。
　その後、ｋ回目の試合に参加するプレイヤ数Ｍに対応する回数の分、ステップＳ１０４からステップＳ１１０までの処理を繰り返すループ処理２が実行される。ここで、図１２には、ステップＳ１０４からステップＳ１１０までの処理がループ処理２として実現される例を挙げたが、ステップＳ１０４からステップＳ１１０までの処理はプレイヤごとに並列して実行されてよい。
　すなわち、画像生成部１３は、ステップＳ１０３で進行されたゲーム状態に応じてプレイヤＰのプレイ画像を生成する（ステップＳ１０４）。続いて、画像加工部１５Ａは、ステップＳ１０４で生成されたプレイ画像のオリジナルフレームを、人がオリジナルに対する差を認識不能であり、かつ画像認識ＡＩがオリジナルに対する差を認識可能である敵対的フレームに加工する（ステップＳ１０５）。
　そして、画像選択部１５Ｂは、プレイヤＰによるゲームのプレイ状況が条件記憶部１５Ｃに記憶された条件を満たすか否かを判定する（ステップＳ１０６）。
　このとき、プレイ状況が条件記憶部１５Ｃに記憶された条件を満たす場合（ステップＳ１０６Ｙｅｓ）、画像選択部１５Ｂは、ステップＳ１０５で生成された敵対的フレームを選択する（ステップＳ１０７）。
　他方、プレイ状況が条件記憶部１５Ｃに記憶された条件を満たさない場合（ステップＳ１０６Ｎｏ）、画像選択部１５Ｂは、ステップＳ１０４で生成されたオリジナルフレームを選択する（ステップＳ１０８）。
　そして、画像送信部１４は、ステップＳ１０７またはステップＳ１０８で選択された画像、すなわちプレイ画像のオリジナルフレームまたは敵対的フレームをプレイヤＰのクライアント端末３０へ送信する（ステップＳ１０９）。
　このようなループ処理２を繰り返すことにより、Ｍ名のプレイヤごとに、ステップＳ１０７またはステップＳ１０８で選択されたプレイ画像のオリジナルフレームまたは敵対的フレームをプレイヤＰのクライアント端末３０へ送信できる。
　その後、ｋ回目の試合が終了するまで、ステップＳ１０２からステップＳ１０９までの処理を繰り返す。
　以上のようなループ処理１を繰り返すことにより、１回目からＫ回目までＭ名のプレイヤが参加する試合を実施するオンラインゲームサービスを提供することができる。
（２）不正ツール判定処理
　図１３は、不正ツール判定処理の手順を示すフローチャートである。この処理は、あくまで一例として、オンラインゲームの運営事業者の担当者などの関係者の端末からのリクエストに応答して実行することもできれば、オンラインゲームの試合が終了する度にリアルタイムで実行することもできる。
　図１３に示すように、オンラインゲームの対戦が実施される試合数Ｋに対応する回数の分、ステップＳ３０１からステップＳ３０６までの処理を繰り返すループ処理１が実行される。
　すなわち、プレイログ取得部１５Ｄは、ｋ回目の試合に参加するＭ人のプレイヤの各々に対応するクライアント端末３０からプレイログを取得する（ステップＳ３０１）。
　そして、ｋ回目の試合に参加するプレイヤ数Ｍに対応する回数の分、ステップＳ３０２およびステップＳ３０３の処理を繰り返すループ処理２が実行される。ここで、図１３には、ステップＳ３０２およびステップＳ３０３の処理がループ処理２として実現される例を挙げたが、ステップＳ３０２およびステップＳ３０３の処理はプレイヤごとに並列して実行されてよい。
　すなわち、特徴抽出部１５Ｅは、ｋ回目の試合におけるプレイヤＰのプレイログに基づいてチートツールの使用が疑われる度合いを示す「チート度」の推定値を出力する機械学習モデル１５ＦＭに入力する特徴量を算出する（ステップＳ３０２）。
　続いて、チート度算出部１５Ｆは、ステップＳ３０２で算出されたプレイヤＰの特徴量を機械学習モデル１５ＦＭへ入力することにより機械学習モデル１５ＦＭにチート度を出力させることで、プレイヤＰのチート度を算出する（ステップＳ３０３）。
　さらに、チート度算出部１５Ｆは、累積チート度記憶部１５Ｇに記憶された累積チート度のうち、プレイヤＰの累積チート度にステップＳ３０３で算出されたチート度を積算することにより、プレイヤＰの累積チート度を更新する（ステップＳ３０４）。
　そして、チート検知部１５Ｈは、ステップＳ３０４で更新されたプレイヤＰの累積チート度が閾値Ｔｈを超えるか否かを判定する（ステップＳ３０５）。
　このとき、累積チート度が閾値Ｔｈを超える場合（ステップＳ３０５Ｙｅｓ）、チート検知部１５Ｈは、チートツールが使用されたことを検知する（ステップＳ３０６）。なお、累積チート度が閾値Ｔｈを超えない場合（ステップＳ３０５Ｎｏ）、チートツールの使用は検知されない。
　このようなループ処理２を繰り返すことにより、Ｍ名のプレイヤごとにチートツールの使用の有無を判定することができる。
　さらに、ループ処理１を繰り返すことにより、１回目からＫ回目までの各試合に参加するプレイヤのチートツールの使用の有無を監視することができる。
＜まとめ＞
　上述してきたように、本実施例に係るサーバ装置１０は、プレイ画像の送信時に人間と画像認識ＡＩの間でオリジナルに対する差の認識が異なる敵対的フレームを挿入し、オリジナルフレーム及び敵対的フレームのプレイログに基づいてチート検知する。したがって、本実施例に係るサーバ装置１０によれば、不正ツールの使用の判定精度の向上を実現できる。
　さらに、不正ツールの使用を判定する検証用のプレイヤ操作の追加が不要である。加えて、不正ツールの使用の判定をプレイヤに気づかれずにバックグラウンドで実施することができる。
　このような技術的効果以外にも、不正ツールの使用の判定精度の向上が実現することで、ゲームタイトルの信頼性を向上させ、もってユーザ離れの抑制、並びに、ゲーム開発企業の損失低減を実現できる。
　さて、これまで開示の装置に関する実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。
＜不正ツール判定の応用例＞
　上記の実施例１では、不正ツールの使用の有無の検知が機械学習モデルＭにより実現される例を挙げたが、不正ツールの使用の有無の検知は他の技術により実現されてよい。
　例えば、チート検知部１５Ｈは、オリジナルフレームおよび敵対的フレームの間でプレイログ、あるいは特徴抽出部１５Ｅにより抽出された特徴量を比較することにより、不正ツールの使用の有無を判定できる。
　上記の射撃回数データを例に挙げれば、チート検知部１５Ｈは、オリジナルフレームおよび敵対的フレームの境界で射撃回数に連続性があるか否かにより、チートツールの使用の有無を判定することもできる。より詳細には、チート検知部１５Ｈは、敵対的フレームの射撃回数と、敵対的フレームに隣接するオリジナルフレームの射撃回数との差が閾値を超える場合、チートツールの使用を検知する。このような検知に用いられるオリジナルフレームは、敵対的フレームに先行する方のオリジナルフレームであってもよいし、敵対的フレームに後続する方のオリジナルフレームであってもよい。
　また、平均命中率を例に挙げれば、チート検知部１５Ｈは、オリジナルフレームにおける平均命中率および敵対的フレームにおける平均命中率の差が閾値を超えるか否かにより、チートツールの使用の有無を判定することもできる。
＜分散および統合＞
　また、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、サービス提供部１１および不正ツール判定部１５をサーバ装置１０の外部装置としてネットワーク経由で接続するようにしてもよい。また、サービス提供部１１および不正ツール判定部１５を別の装置がそれぞれ有し、ネットワーク接続されて協働することで、サーバ装置１０の機能を実現するようにしてもよい。
＜ハードウェア構成＞
　また、上記の実施例で説明した各種の処理は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図１４を用いて、実施例１及び実施例２と同様の機能を有する判定プログラムを実行するコンピュータの一例について説明する。
　図１４は、ハードウェア構成例を示す図である。図１４に示すように、コンピュータ１００は、操作部１１０ａと、スピーカ１１０ｂと、カメラ１１０ｃと、ディスプレイ１２０と、通信部１３０とを有する。さらに、このコンピュータ１００は、ＣＰＵ１５０と、ＲＯＭ１６０と、ＨＤＤ１７０と、ＲＡＭ１８０とを有する。これら１１０～１８０の各部はバス１４０を介して接続される。
　ＨＤＤ１７０には、図１４に示すように、上記の実施例１で示した不正ツール判定部１５と同様の機能を発揮する判定プログラム１７０ａが記憶される。この判定プログラム１７０ａは、図５に示した不正ツール判定部１５の各構成要素と同様、統合又は分離してもかまわない。すなわち、ＨＤＤ１７０には、必ずしも上記の実施例１で示した全てのデータが格納されずともよく、処理に用いるデータがＨＤＤ１７０に格納されればよい。
　このような環境の下、ＣＰＵ１５０は、ＨＤＤ１７０から判定プログラム１７０ａを読み出した上でＲＡＭ１８０へ展開する。この結果、判定プログラム１７０ａは、図１４に示すように、判定プロセス１８０ａとして機能する。この判定プロセス１８０ａは、ＲＡＭ１８０が有する記憶領域のうち判定プロセス１８０ａに割り当てられた領域にＨＤＤ１７０から読み出した各種データを展開し、この展開した各種データを用いて各種の処理を実行する。例えば、判定プロセス１８０ａが実行する処理の一例として、図１２や図１３に示す処理などが含まれる。なお、ＣＰＵ１５０では、必ずしも上記の実施例１で示した全ての処理部が動作せずともよく、実行対象とする処理に対応する処理部が仮想的に実現されればよい。
　なお、上記の判定プログラム１７０ａは、必ずしも最初からＨＤＤ１７０やＲＯＭ１６０に記憶されておらずともかまわない。例えば、コンピュータ１００に挿入されるフレキシブルディスク、いわゆるＦＤ、ＣＤ－ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」に各プログラムを記憶させる。そして、コンピュータ１００がこれらの可搬用の物理媒体から各プログラムを取得して実行するようにしてもよい。また、公衆回線、インターネット、ＬＡＮ、ＷＡＮなどを介してコンピュータ１００に接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータ１００がこれらから各プログラムを取得して実行するようにしてもよい。
　　　１　　ゲームシステム
　　１０　　サーバ装置
　　１１　　サービス提供部
　　１２　　ゲーム進行部
　　１３　　画像生成部
　　１４　　画像送信部
　　１５　　不正ツール判定部
　　１５Ａ　画像加工部
　　１５Ｂ　画像選択部
　　１５Ｃ　条件記憶部
　　１５Ｄ　プレイログ取得部
　　１５Ｅ　特徴抽出部
　　１５Ｆ　チート度算出部
　　１５Ｇ　累積チート度記憶部
　　１５Ｈ　チート検知部
　　３０　　クライアント端末

Claims (20)

  1. 　ゲームのプレイヤによる不正ツールの使用の有無を判定する判定方法において、
    　第１の期間に表示デバイスに表示させる第１のゲーム画像と、前記プレイヤはオリジナルのゲーム画像に対する差を認識できず、かつ、前記不正ツールは前記オリジナルのゲーム画像に対する差を認識できる特徴を持ち、前記第１の期間と重複しない第２の期間に前記表示デバイスに表示させる第２のゲーム画像とを前記表示デバイスに送信し、
    　前記第１の期間に応じた期間にゲーム端末に入力された第１の入力情報と、前記第２の期間に応じた期間に前記ゲーム端末に入力された第２の入力情報とに基づき、前記プレイヤによる前記不正ツールの使用の有無を判定する、
    　処理をコンピュータが実行することを特徴とする判定方法。
  2. 　前記判定する処理は、前記ゲーム端末に入力される入力情報を入力として前記不正ツールの使用の有無のラベルを出力する機械学習モデルに、前記第１の入力情報及び前記第２の入力情報を入力することにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１に記載の判定方法。
  3. 　前記判定する処理は、前記ゲーム端末に入力される入力情報を入力として前記不正ツールの使用に関するスコアを出力する機械学習モデルに、前記第１の入力情報及び前記第２の入力情報を入力することにより前記スコアを出力させ、前記スコアの累積値が閾値を超えるか否かにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１に記載の判定方法。
  4. 　前記判定する処理は、前記第１の入力情報に含まれる入力のうち前記第２の期間に隣接する入力と、前記第２の入力情報に含まれる入力のうち前記第１の期間に隣接する入力との連続性の有無により、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１に記載の判定方法。
  5. 　前記判定する処理は、前記第１の入力情報から得られる第１の統計値と、前記第２の入力情報から得られる第２の統計値との差が閾値を超えるか否かにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１に記載の判定方法。
  6. 　前記送信する処理は、前記ゲームで前記オリジナルのゲーム画像が生成された場合、前記オリジナルに対応する第１のゲーム画像および前記オリジナルが加工されることにより生成された第２のゲーム画像のうちいずれか１つを前記ゲームのプレイ状況が特定の条件を満たすか否かに応じて選択する処理を含む、
    　ことを特徴とする請求項１に記載の判定方法。
  7. 　前記第２のゲーム画像は、前記不正ツールが用いる機械学習モデルに対する敵対的サンプルに対応する、
    　ことを特徴とする請求項１に記載の判定方法。
  8. 　ゲームのプレイヤによる不正ツールの使用の有無を判定する判定プログラムにおいて、
    　第１の期間に表示デバイスに表示させる第１のゲーム画像と、前記プレイヤはオリジナルのゲーム画像に対する差を認識できず、かつ、前記不正ツールは前記オリジナルのゲーム画像に対する差を認識できる特徴を持ち、前記第１の期間と重複しない第２の期間に前記表示デバイスに表示させる第２のゲーム画像とを前記表示デバイスに送信し、
    　前記第１の期間に応じた期間にゲーム端末に入力された第１の入力情報と、前記第２の期間に応じた期間に前記ゲーム端末に入力された第２の入力情報とに基づき、前記プレイヤによる前記不正ツールの使用の有無を判定する、
    　処理をコンピュータに実行させることを特徴とする判定プログラム。
  9. 　前記判定する処理は、前記ゲーム端末に入力される入力情報を入力として前記不正ツールの使用の有無のラベルを出力する機械学習モデルに、前記第１の入力情報及び前記第２の入力情報を入力することにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項８に記載の判定プログラム。
  10. 　前記判定する処理は、前記ゲーム端末に入力される入力情報を入力として前記不正ツールの使用に関するスコアを出力する機械学習モデルに、前記第１の入力情報及び前記第２の入力情報を入力することにより前記スコアを出力させ、前記スコアの累積値が閾値を超えるか否かにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項８に記載の判定プログラム。
  11. 　前記判定する処理は、前記第１の入力情報に含まれる入力のうち前記第２の期間に隣接する入力と、前記第２の入力情報に含まれる入力のうち前記第１の期間に隣接する入力との連続性の有無により、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項８に記載の判定プログラム。
  12. 　前記判定する処理は、前記第１の入力情報から得られる第１の統計値と、前記第２の入力情報から得られる第２の統計値との差が閾値を超えるか否かにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項８に記載の判定プログラム。
  13. 　前記送信する処理は、前記ゲームで前記オリジナルのゲーム画像が生成された場合、前記オリジナルに対応する第１のゲーム画像および前記オリジナルが加工されることにより生成された第２のゲーム画像のうちいずれか１つを前記ゲームのプレイ状況が特定の条件を満たすか否かに応じて選択する処理を含む、
    　ことを特徴とする請求項８に記載の判定プログラム。
  14. 　前記第２のゲーム画像は、前記不正ツールが用いる機械学習モデルに対する敵対的サンプルに対応する、
    　ことを特徴とする請求項８に記載の判定プログラム。
  15. 　ゲームのプレイヤによる不正ツールの使用の有無を判定する判定プログラムにおいて、
    　第１の期間に表示デバイスに表示させる第１のゲーム画像と、前記プレイヤはオリジナルのゲーム画像に対する差を認識できず、かつ、前記不正ツールは前記オリジナルのゲーム画像に対する差を認識できる特徴を持ち、前記第１の期間と重複しない第２の期間に前記表示デバイスに表示させる第２のゲーム画像とを前記表示デバイスに送信し、
    　前記第１の期間に応じた期間にゲーム端末に入力された第１の入力情報と、前記第２の期間に応じた期間に前記ゲーム端末に入力された第２の入力情報とに基づき、前記プレイヤによる前記不正ツールの使用の有無を判定する、
    　処理を実行する制御部を含む情報処理装置。
  16. 　前記判定する処理は、前記ゲーム端末に入力される入力情報を入力として前記不正ツールの使用の有無のラベルを出力する機械学習モデルに、前記第１の入力情報及び前記第２の入力情報を入力することにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１５に記載の情報処理装置。
  17. 　前記判定する処理は、前記ゲーム端末に入力される入力情報を入力として前記不正ツールの使用に関するスコアを出力する機械学習モデルに、前記第１の入力情報及び前記第２の入力情報を入力することにより前記スコアを出力させ、前記スコアの累積値が閾値を超えるか否かにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１５に記載の情報処理装置。
  18. 　前記判定する処理は、前記第１の入力情報に含まれる入力のうち前記第２の期間に隣接する入力と、前記第２の入力情報に含まれる入力のうち前記第１の期間に隣接する入力との連続性の有無により、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１５に記載の情報処理装置。
  19. 　前記判定する処理は、前記第１の入力情報から得られる第１の統計値と、前記第２の入力情報から得られる第２の統計値との差が閾値を超えるか否かにより、前記不正ツールの使用の有無を判定する処理を含む、
    　ことを特徴とする請求項１５に記載の情報処理装置。
  20. 　前記送信する処理は、前記ゲームで前記オリジナルのゲーム画像が生成された場合、前記オリジナルに対応する第１のゲーム画像および前記オリジナルが加工されることにより生成された第２のゲーム画像のうちいずれか１つを前記ゲームのプレイ状況が特定の条件を満たすか否かに応じて選択する処理を含む、
    　ことを特徴とする請求項１５に記載の情報処理装置。
PCT/JP2021/047432 2021-12-21 2021-12-21 判定方法、判定プログラム及び情報処理装置 WO2023119452A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/047432 WO2023119452A1 (ja) 2021-12-21 2021-12-21 判定方法、判定プログラム及び情報処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/047432 WO2023119452A1 (ja) 2021-12-21 2021-12-21 判定方法、判定プログラム及び情報処理装置

Publications (1)

Publication Number Publication Date
WO2023119452A1 true WO2023119452A1 (ja) 2023-06-29

Family

ID=86901559

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/047432 WO2023119452A1 (ja) 2021-12-21 2021-12-21 判定方法、判定プログラム及び情報処理装置

Country Status (1)

Country Link
WO (1) WO2023119452A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111249742A (zh) * 2020-01-21 2020-06-09 腾讯科技（深圳）有限公司 一种作弊用户检测方法、装置、存储介质和电子设备
CN112642161A (zh) * 2020-12-15 2021-04-13 完美世界征奇(上海)多媒体科技有限公司 射击游戏的作弊检测、模型训练方法、设备及存储介质
JP2021164578A (ja) * 2020-04-07 2021-10-14 株式会社カプコン コンピュータシステムおよび大会の管理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111249742A (zh) * 2020-01-21 2020-06-09 腾讯科技（深圳）有限公司 一种作弊用户检测方法、装置、存储介质和电子设备
JP2021164578A (ja) * 2020-04-07 2021-10-14 株式会社カプコン コンピュータシステムおよび大会の管理方法
CN112642161A (zh) * 2020-12-15 2021-04-13 完美世界征奇(上海)多媒体科技有限公司 射击游戏的作弊检测、模型训练方法、设备及存储介质

Similar Documents

Publication Publication Date Title
CN112156455A (zh) 一种游戏显示方法、装置、电子设备和存储介质
CN110339575B (zh) 一种确定网络游戏中作弊用户的方法及装置
US10918958B2 (en) User analysis system and method
WO2019105349A1 (zh) 信息的显示方法和装置、存储介质、电子装置
KR101629378B1 (ko) 엠엠오알피지에서의 리플레이 동영상 제공 시스템 및 그 방법
JP2006288528A (ja) ゲームシステム、サーバシステム、ゲーム装置、プログラム及び情報記憶媒体
Galli et al. A cheating detection framework for unreal tournament iii: A machine learning approach
US11395971B2 (en) Auto harassment monitoring system
US9711008B2 (en) Game system, control method for game system, game control device, control method for game control device, and information storage medium
CN111773682A (zh) 射击方向的提示方法、装置、电子设备和存储介质
CN117083111A (zh) 用于动态任务生成的方法和系统
WO2023119452A1 (ja) 判定方法、判定プログラム及び情報処理装置
JP2008237372A (ja) ゲームプログラム、ゲーム装置及びゲーム制御方法
GB2555596A (en) System and method of input verification
CN113181656A (zh) 外挂检测方法、设备及介质
KR20190068767A (ko) 온라인 멀티플레이어 게임의 에임 해킹 프로그램 탐지 방법
JP5227980B2 (ja) ゲームシステム、ゲームプログラム、及び記録媒体
EP3711830A1 (en) System and method of challenge generation
Maberry et al. Using an artificial neural network to detect aim assistance in counter-strike: Global offensive
US11439901B2 (en) Apparatus and method of obtaining data from a video game
WO2023032303A1 (ja) 映像処理装置、映像処理方法およびプログラム
US20230256346A1 (en) Methods, Devices, and Systems for Countering Cheats in Games
JP2021023514A (ja) ゲーム情報記録システム、プログラム
Thunputtarakul et al. Data Analysis for Ghost AI Creation in Commercial Fighting Games.
JP2022015205A (ja) ログ生成装置、ログ生成方法及びログ生成プログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21968889

Country of ref document: EP

Kind code of ref document: A1